Siempre resultó un sinsentido ir en contra del progreso y la modernización. En ocasiones, resulta beneficioso analizar y ver de encontrar fallas o advertencias de que algo no está del todo bien, y tratar de modificarlas.
Intencionalidades que modificaran o influenciaran en demasía sobre nuestras funciones como seres pensantes es algo que siempre pareció evidente.
Otrora eran los mensajes subliminales, aquellos ocultos que se comprobó que pueden afectar el comportamiento subconsciente. Aunque su efectividad y ética siempre han sido temas de debate, es importante ser consciente de su existencia, y cómo pueden influirnos, especialmente en el contexto de la publicidad y la comunicación. Se los encuentra en anuncios de televisión, películas, música, e incluso en el diseño de logotipos.
Luego llegó el tiempo para el avance de las redes que acortaron distancias, aunque se avanzó en la «influencia» sobre los sentimientos. No es raro encontrar a quienes se sienten más seguros con sus amigos virtuales o a quienes prefieran un “like” antes que alguien les diga “me gusta” por algo hecho.
Así fuimos llegando a la época de la pos-verdad. En los últimos años se ha puesto de moda, en el mundo de la comunicación, la palabra storytelling, que viene de las palabras en inglés “story” que significa historia y “telling” que significa contar. Se puede definir como una narrativa que transmite un mensaje de una forma envolvente, captando la atención del consumidor. Es así que en un contexto dado no interesa tanto la veracidad de un hecho, sino la forma que se comunica y nos convence de que así fue. Esta clase de relatos se basan en la empatía, la confianza, la emoción y la comprensión. Para ello hay que saber transmitir de acuerdo a lo que se espera de la audiencia receptora al contar esa historia en específico.
Poco tiempo atrás, el MIT (Instituto Tecnológico de Massachusetts) desarrolló el primer estudio de escáner cerebral en usuarios de ChatGPT y los resultados son para, al menos, prestarle atención.
Se comprobó que, en vez de aumentar la función cerebral, el uso prolongado de Inteligencia Artificial, puede estar opacándolo. En el desarrollo de dicho estudio, les escanearon el cerebro a los participantes mientras usaban ChatGPT.
Quedó en evidencia que el 83,3 % de los usuarios no podían recordar una sola frase que habían escrito minutos antes.
Por el contrario, aquellos que escribían sin IA no tuvieron problemas para recordar.
La conectividad cerebral cayó bruscamente, de 79 a 42 puntos, lo que representa una caída del 47% en el compromiso neural. El rendimiento cognitivo más bajo entre todos los grupos de usuarios.
En sesiones posteriores se verificó que estos usuarios mostraron una continua falta de compromiso, incluso después de haberse detenido el uso de ChatGPT. El rendimiento de estos participantes se mantuvo menor que los que nunca usaron la IA. Se puede deducir que, más que dependencia, es un debilitamiento cognitivo.
El corolario resultante del estudio indica que ChatGPT te hace un 60% más rápido completando tareas, mientras te reduce el esfuerzo mental necesario para aprender en un 32%.
Por otro lado, quienes tuvieron un mejor rendimiento fueron los que comenzaron sin IA y la añadieron después. Y lo lograron manteniendo mejor memoria, actividad cerebral y puntuaciones generales.
En resumen, el uso de ChatGPT puede hacemos sentir empoderados, pero puede disminuir silenciosamente nuestra forma de pensar.
Lo que se gana en velocidad, se pierde en compromiso. Se encuentran respuestas, pero al mismo tiempo se deja de aprender a pensar. Es práctico si se usa como ayuda, no para reemplazar las funciones de la mente.
Es una herramienta más, y quedaron manifestadas varias contraindicaciones de uso. Debemos priorizar el modo en que la utilizamos.
Desarrollo y técnica del Estudio
El estudio realizado exploró las consecuencias neuronales y conductuales de la redacción de ensayos asistida por LLM (LLM es un tipo de programa informático que puede: comprender el Lenguaje natural, analizar texto, identificar patrones y relaciones entre palabras. Generar texto: crear respuestas, resúmenes, traducciones, etc., de forma coherente y contextual. Realizar diversas tareas lingüísticas: traducir idiomas, responder preguntas, resumir textos, e incluso mantener conversaciones).
Los participantes se dividieron en tres grupos: LLM, motor de búsqueda y solo cerebro (sin herramientas). Cada uno completó tres sesiones en las mismas condiciones. En una cuarta sesión, los usuarios de LLM fueron reasignados al grupo solo cerebro (LLM a cerebro), y los usuarios solo cerebro fueron reasignados a la condición LLM (cerebro a LLM).
Un total de 54 participantes tomaron parte en las sesiones 1-3, y 18 completaron la sesión 4. Se utilizó electroencefalografía (EEG) para evaluar la carga cognitiva durante la redacción de ensayos, y se analizaronlos ensayos utilizando NLP (NLP busca cerrar la brecha entre la comunicación humana y la comprensión de las máquinas. En síntesis, NLP abarca: entender el lenguaje humano, interpretarlo e incluso generarlo), además de puntuarlos con la ayuda de profesores humanos y un juez de IA.
En todos los grupos, los NER (NER es un método de procesamiento del lenguaje natural –PLN– que extrae información del texto. Implica detectar y categorizar información importante en el texto, conocida como entidades nombradas. Las entidades nombradas se refieren a los temas clave de un texto, como nombres, ubicaciones, empresas, eventos y productos, así como temas, tópicos, fechas, valores monetarios y porcentajes), los patrones n-gram y la ontología temática mostraron homogeneidad dentro del grupo. El EEG reveló diferencias significativas en la conectividad cerebral: los participantes que solo utilizaron el cerebro mostraron las redes más fuertes y distribuidas; los usuarios del motor de búsqueda mostraron un compromiso moderado; y los usuarios de LLM mostraron la conectividad más débil.
La actividad cognitiva se redujo en relación con el uso de herramientas externas. En la sesión 4, los participantes de LLM-to-Brain (cerebro) mostraron una reducción de la conectividad alfa y beta, lo que indica un compromiso insuficiente. Los usuarios de «cerebro a LLM» mostraron una mayor capacidad de recuerdo y activación de las áreas occipito-parietal y prefrontal, similar a la de los usuarios de motores de búsqueda. La autoría autodeclarada de los ensayos fue menor en el grupo LLM y mayor en el grupo «solo cerebro». Los usuarios de LLM también tuvieron dificultades para citar con precisión su propio trabajo. Si bien los LLM ofrecen una comodidad inmediata, nuestros hallazgos ponen de relieve los posibles costes cognitivos. Durante cuatro meses, los usuarios de LLM obtuvieron sistemáticamente resultados inferiores a nivel neuronal, lingüístico y conductual.
Estos resultados suscitan preocupación sobre las implicaciones educativas a largo plazo de la dependencia de los LLM y subrayan la necesidad de investigar más a fondo el papel de la IA en el aprendizaje.
Analizando las secuelas, se puede inferir que los cerebros del grupo de IA tuvieron un rendimiento significativamente peor que los del grupo de escritura a mano y que sus artículos desarrollados con ChatGPT se consideran sin vida, similares y faltos de creatividad. Esto sugiere que sus cerebros no procesan la información en profundidad.
Como contrapartida, el grupo de escritura a mano tenía una mayor conectividad neuronal en las áreas de imaginación y procesamiento del lenguaje. Un uso adecuado de la IA puede aumentar la actividad cerebral, pero su uso excesivo puede ser contraproducente, hasta llegar a perder pensamiento crítico y creativo.
El MIT insta a tener cautela al introducir la IA en la educación, especialmente con niños cuyos cerebros aún están en desarrollo.