¿Estamos en el camino hacia la idiocracia?
por Lucas Ropek
Por segunda vez en dos semanas, se ha publicado un estudio que sugiere que quienes usan IA podrían mostrar menor capacidad cognitiva que quienes no la usan. Los estudios han reforzado las acusaciones de los críticos de que la IA te vuelve estúpido.
El estudio más reciente , realizado por la Escuela Wharton de la Universidad de Pensilvania, analizó una muestra de más de 4500 participantes. El estudio, que analizó las diferencias cognitivas entre quienes utilizaban programas de maestría en derecho como ChatGPT para investigar y quienes utilizaban la Búsqueda de Google, reveló que quienes utilizaban chatbots tendían a desarrollar un conocimiento menos profundo de los temas que investigaban. A ambos grupos se les pidió que investigaran cómo iniciar un huerto; algunos participantes fueron seleccionados al azar para usar IA, mientras que a otros se les pidió que usaran un motor de búsqueda. Según los hallazgos del estudio, quienes utilizaron ChatGPT dieron consejos mucho peores sobre cómo plantar un huerto que quienes utilizaron el motor de búsqueda. Los investigadores escriben:
El conocimiento superficial se deriva de una característica inherente de los LLM: la presentación de los resultados como síntesis de información en lugar de enlaces de búsqueda individuales. Esto hace que el aprendizaje sea más pasivo que en la búsqueda web estándar, donde los usuarios descubren y sintetizan activamente las fuentes de información. A su vez, al elaborar posteriormente recomendaciones sobre el tema basándose en lo aprendido, quienes aprendieron de las síntesis de LLM (en comparación con los resultados de búsqueda estándar) se sienten menos comprometidos con la elaboración de sus recomendaciones y, lo que es más importante, crean recomendaciones más dispersas, menos originales y, en última instancia, con menos probabilidades de ser adoptadas por los destinatarios.
El estudio concluye que esto ocurrió irónicamente debido al beneficio anunciado de ChatGPT: “ahorrar a los usuarios la necesidad de explorar los resultados y sintetizar la información por sí mismos”. Dado que los investigadores no tuvieron que buscar información por sí mismos, su “profundidad de conocimiento” fue notablemente menor que la de quienes sí lo hicieron. “En este sentido, aprender a través de maestrías en derecho, en lugar de buscar en la web, podría considerarse como algo similar a que se les muestre la solución a un problema de matemáticas en lugar de intentar resolverlo uno mismo”, concluye la investigación.
El estudio de la Universidad de Pensilvania (UPenn) surge tras una investigación del MIT, publicada a principios de este mes, que mostró un impacto cognitivo igualmente problemático producido por la IA. Dicho estudio, que observó la actividad neuronal de estudiantes universitarios que usaban ChatGPT para estudiar, descubrió que un mayor uso de la IA resultó en una reducción de la actividad cerebral, o lo que los investigadores denominaron “deuda cognitiva”. El estudio utilizó un electroencefalógrafo para medir la actividad neuronal de tres grupos diferentes de estudiantes: uno que usó ChatGPT para estudiar, otro que usó la Búsqueda de Google y otro que no usó ninguno de los dos. El estudio mostró que los usuarios de ChatGPT mostraron una actividad cognitiva notablemente menor que incluso quienes usaron la Búsqueda de Google para buscar información.
La metodología del artículo del MIT ha sido cuestionada desde entonces por entusiastas de la IA. Los críticos han señalado que el estudio en cuestión no fue revisado por pares y que el pequeño tamaño de la muestra de participantes lo hace poco exhaustivo. De igual manera, los críticos han argumentado que, si bien las mediciones de EEG muestran ciertas disminuciones en formas específicas de actividad cerebral, esto no significa necesariamente que los participantes sean “más tontos” como resultado. De hecho, un menor esfuerzo mental (y, por lo tanto, menos actividad) puede ser una señal de que una persona es en realidad más competente en una tarea y, como resultado, no tiene que gastar tanta energía. Desde cierta perspectiva, estas recientes evaluaciones del impacto cerebral de la IA huelen a pánico moral ante un fenómeno nuevo y no del todo bien comprendido.
Por otro lado, la conclusión de que usar una aplicación para completar una tarea te hace menos capaz de pensar por ti mismo parece obvia. Subcontratar las tareas mentales a un programa de software significa que no las estás realizando tú mismo, y, como es bien sabido, hacer algo por tu cuenta suele ser la mejor manera de aprender. Claro que internet ha estado limitando la actividad mental humana desde su aparición. ¿Cuándo fue la última vez que tuviste que recordar cómo llegar a algún sitio? Parece que Google Maps nos robó esa capacidad hace más de una década.
Otra evidencia del efecto de estupidización de la IA es aún más obvia: la vorágine de trampas que se ha estado produciendo en el sistema educativo estadounidense implica que los estudiantes cursan la secundaria y la universidad con una comprensión limitada o nula de las materias que estudian. Si bien aún queda mucho por aprender sobre cómo nos impacta la IA, no debemos renunciar al sentido común al interpretar lo que vemos. Si un estudiante no puede escribir un ensayo sin ChatGPT, puede ser señal de que no le espera un futuro académico especialmente brillante.
Fuente: https://gizmodo.com/multiple-studies-now-suggest-that-ai-will-make-us-morons-2000620811