Muchos son los que no consideran a la Iglesia Católica como vanguardista con las políticas modernas. Pese a ello, tanto el Papa León XIV como su antecesor, el Papa Francisco comenzaron a centrar su mirada en el futuro, refiriéndose a la inteligencia artificial…
En su momento, el Papa Francisco se había pronunciado públicamente sobre la IA durante la Cumbre del G7 de 2024. Allí describió la inteligencia artificial como el inicio de una “revolución cognitivo-industrial” y advirtió que podría generar “mayores injusticias entre naciones desarrolladas y en desarrollo o entre clases sociales dominantes y oprimidas”.
Además, en el Foro Económico Mundial de Davos, había advertido que “la dignidad humana y la fraternidad son frecuentemente subordinadas a la búsqueda de la eficiencia” en el avance de nuevas tecnologías, y pidió a quienes desarrollan IA que velen porque ésta “promueva la dignidad humana, la vocación de la persona y el bien común”.
Por su parte, León XIV, en su primer encuentro formal con los cardenales destacó el desarrollo de la IA como uno de los mayores retos que enfrenta la humanidad.
Allí manifestó: “en nuestros días, la Iglesia ofrece a todos el tesoro de su doctrina social como respuesta a otra revolución industrial y a los avances en el campo de la inteligencia artificial, que plantean nuevos desafíos para la defensa de la dignidad humana, la justicia y el trabajo”. También manifestó que su elección del nombre de León fue como una señal de su intención de seguir los pasos del Papa León XIII, quien, según él, había trabajado con la problemática de “la cuestión social en el contexto de la primera gran revolución industrial”.
En la encíclica de 1891, titulada Rerum Novarum o Sobre los derechos y deberes del capital y del trabajo, se recuerda al Papa León XIII. Se la reconoce como un texto fundamental en la defensa de los derechos laborales. Fue como un llamado a aliviar “la miseria y la penuria que oprimen tan injustamente a la mayoría de la clase trabajadora”, y expresó su apoyo, entre otras cosas, a la sindicalización del trabajo.
Con respecto, entonces, a la IA, sendos recientes Papas remarcaron y bregaron por un uso honesto y humanizado de esta herramienta digital.
A su vez, y en una sintonía parecida, aunque explicitando peligros latentes con el empleo de la IA, se manifestaron tanto Geoffrey Hinton comoYoshua Bengio. Ambos pueden ser considerados padres de la Inteligencia Artificial y nos pintan un futuro mucho más oscuro.
Yoshua Bengio es un informático canadiense, más conocido por su trabajo en redes neuronales artificiales y aprendizaje profundo. Es profesor en el Departamento de Ciencias de la Computación e Investigación de Operaciones de la Universidad de Montreal y director científico del Instituto de Algoritmos de Aprendizaje de Montreal (MILA). Es codirector del Proyecto Learning in Machines & Brains del Canadian Institute for Advanced Research.
Bengio se ha expresado sobre el peligro que significa seguir utilizando la inteligencia artificial sin límites. Opina, sin eufemismos, que se trata de consecuencias “catastróficas” para la humanidad e incluso supone una posible “extinción” de la raza sin no se emplea adecuadamente.
Esto podría llegar a ocurrir en un contexto en el que se pierda el control sobre los modelos de IA que constantemente están en evolución, como la herramienta de OpenAI, por ejemplo. El problema está en que hay una competencia entre compañías por ofrecer agentes “superinteligentes”, lo que podría llevar al desarrollo de la temida inteligencia artificial general.
En su enfoque asegura que “en cinco años, la IA alcanzará el nivel humano en tareas de programación”, concordando con lo que Sam Altman ha hablado sobre el futuro de los programadores de Python y JavaScript.
Recomienda tratar el tema del crecimiento de esta tecnología con cautela para evitar que situaciones catastróficas se lleguen a dar más pronto de lo que se espera.
También dijo que para 2043, es posible que el impacto de las consecuencias se refleje de muchas maneras, pudiendo ser el comienzo del final. Considera que entonces existirían posibilidades de que esta inteligencia artificial autónoma pueda ser capaz de replicarse en millones de equipos para expandirse y controlar plataformas, o causar ataques con armas biológicas y militares que no serían detectados. Un error en el sistema o la singularidad podría hacer que esto pase, según lo que se explica.
Además, está el peligro geopolítico que podría darse en países con modelos de IA “superavanzados”, como Estados Unidos con ChatGPT y China con DeepSeek.
Bengio envía un llamado de atención para evitar que ese futuro no se materialice. Lo remite a todas las compañías que desarrollan esta tecnología para enfocar la evolución en “IAs científicas” en vez de generar «IA agéntica». Para que en vez de programar para que se parezcan a los humanos, que sean profesionales capaces de hacer descubrimientos médicos, climáticos y demás.
Aunque esto en realidad ya se produce, reclama que centralicen todos los esfuerzos en esto para que sean seguras para el futuro y mejoren la calidad de vida del ser humano. El impedir el reemplazo laboral podría ser otro de los objetivos si se emplean sistemas de “barreras de seguridad” en los agentes autónomos para que no se pueda salir de control.
Otro padre de la IA, Geoffrey Hinton es un científico informático británico-canadiense, ganador Premio Nobel de Física 2024 por su trabajo en IA y profesor emérito de la Universidad de Toronto. Es un pionero de las redes neuronales y ex investigador de Google, que revela su creciente preocupación ante sistemas de inteligencia artificial que ya muestran capacidad para engañar deliberadamente y que podrían, en menos de diez años, desarrollar una superinteligencia imposible de controlar.
Advirtió que el ritmo del cambio en la tecnología es «mucho más rápido» de lo esperado. Por lo que hoy existe una probabilidad del “10% al 20%” de que la IA condujera a la extinción humana en las próximas tres décadas.
Mientras reflexionaba sobre dónde creía que habría llegado el desarrollo de la IA cuando comenzó a trabajar en esta tecnología, Hinton expresó: “No pensé que llegaríamos a donde estamos ahora. Pensé que en algún momento en el futuro llegaríamos aquí”.
Para los defensores de la seguridad de la IA elpunto central de sus temores radica en que la creación de inteligencia artificial general, o sistemas más inteligentes que los humanos, podría convertir la tecnología en una amenaza existencial al eludir el control humano.
“Ya son capaces de pretender ser más estúpidas de lo que son, de mentirte para confundirte y que no entiendas sus intenciones,” explicó, señalando esto como un paso preocupante hacia la autonomía y el potencial control”.
Ante estos peligros, el investigador hace un llamado urgente a la regulación de la IA, priorizando la seguridad sobre los beneficios económicos a corto plazo. Lamenta la falta de acción gubernamental y la influencia corporativa. Sin embargo, vislumbra una posible área de cooperación internacional.
“En otra ocasión dijo que los humanos serían como niños pequeños comparados con la inteligencia de los altamente poderosos sistemas de IA. Me gusta pensarlo así: imagínate a ti mismo y a un niño de tres años. Nosotros seremos los niños de tres años”.
El futuro lo tenemos ahí, al alcance de la mano. Breguemos para evitar que se convierta en una tormenta de extinción.