León XIV reclamó pasar de los principios a los hechos. Gustavo Béliz, un integrante de la Academia Pontificia de Ciencias Sociales advierte sobre los peligros de la IA
Por Gustavo Beliz
Buenos Aires, martes 10 noviembre (PR/26)— La inteligencia artificial ya no es sólo un elefante en el bazar: también se volvió una hormiga dentro de nuestro cerebro. Amenaza con destruir ocupaciones clásicas, empezando por las de los programadores, y con inflar burbujas financieras insostenibles.
Al mismo tiempo nos inunda con una “estanflación cognitiva”: inflación de información y deflación de sensibilidad. En algunos casos convierte en “zoombies digitales” a personas pegadas a las pantallas, con serios riesgos de adicción.
Una encíclica para rebelarse contra el modelo
La encíclica Magnífica Humanitas es una apelación sustancial a rebelarnos contra este modelo de negocios. Propone reconstruir lo que León XIV llama “constelaciones de esperanza”: una tecnología al servicio del ser humano, y no al revés.
No son sólo palabras. Desde el lanzamiento de la encíclica, el Vaticano desplegó acciones concretas, y sus conceptos tuvieron un eco impresionante en los últimos meses, que elevó la conciencia universal sobre lo que está en juego.
Lo viví de cerca como miembro de la Academia Pontificia de Ciencias Sociales de la Santa Sede, donde trabajamos en temas de IA desde hace más de una década, y de la Comisión Vaticana sobre IA, que coordina las acciones que se despliegan desde Roma al más alto nivel.
Buenos Aires: soberanía y dignidad para la IA latinoamericana
Hace un par de semanas, en el marco de la Red IA-LAT que lanzamos hace un año en el Vaticano, reunimos en Buenos Aires a científicos de primer nivel de todo el mundo, junto a representantes del mundo empresarial, laboral y de la sociedad civil mundial.
Abordamos experiencias clave con especial énfasis en la soberanía y la dignidad de la IA en América Latina. Discutimos los distintos enfoques regulatorios y el inmenso debate que se da en las propias entrañas del poder tecnológico estadounidense en torno a la instalación de data centers.
También analizamos las instancias de negociación que llevaron a Brasil a aprobar, con amplísimo consenso, una ley de protección de los menores en el universo digital, y el modo de distribuir mejor los beneficios generados por los minerales críticos.
Otro eje fueron las acciones que se requieren desde el Estado para evitar la tentación de la autorregulación empresarial y la destrucción acelerada de puestos de trabajo.
Con los expertos del Laboratorio de IA de la Facultad de Derecho de la UBA vimos además los beneficios para agilizar la tramitación de expedientes judiciales y el rol de la IA agéntica. Según el propio León XIV, no es solo una tecnología: es algo que se “desarrolla” y “crece”, con el gran riesgo de que escape al control humano.
Boston: el debate ya no separa países, sino conciencias
Unos días después, la Academia de Ciencias Sociales del Vaticano, la Red IA-LAT y la Universidad de Massachusetts nos permitieron convocar en Boston a un importante grupo de policy makers, que compartieron experiencias de aplicación de la IA en salud, educación, industria manufacturera y logística.
La advertencia sobre los ciberataques biológicos y la fabricación de virus letales tampoco estuvo ausente. Allí advertí con claridad que el debate ya trasciende la distinción entre países más o menos desarrollados: hoy se trata de conciencias humanas más o menos desarrolladas frente a desafíos existenciales.
Roma: Russell, Tegmark y la urgencia de actuar
Unas horas más tarde de estas actividades, en la Casina Pío IV, en los jardines del Vaticano, la Academia de Ciencias de la Vida congregó a figuras de inmensa magnitud en el universo tecnológico, como Stuart Russell, el autor más citado sobre IA en el mundo, y Max Tegmark, creador del Future of Life Institute.
Stuart Russell
Con ellos reafirmamos la necesidad de acciones urgentes antes de que sea demasiado tarde. Nadie se opone a la IA. Pero todos advierten que “esta IA”, concentrada en pocas manos y en mentes afiebradas por la guerra y la búsqueda de beneficios a cualquier precio, desperdicia la posibilidad de que la humanidad mejore.
Además, retarda su aplicación a causas de justicia social, bien común y desarrollo humano integral. Como lo señaló la hermana Helen Alford, presidenta de la Academia Pontificia de Ciencias Sociales, citando a San Juan Pablo II: “La IA puede ser amiga del ser humano o enemiga del ser humano”.
La audiencia con el Papa: menos bla-bla-bla, más decisiones
La coronación de las iniciativas de octubre fue la audiencia que León XIV nos concedió en el Vaticano el pasado viernes. Fue muy preciso: convocó a superar el bla-bla-bla de los debates interminables y a impulsar decisiones urgentes desde los ámbitos de decisión política mundial.
“Quisiera destacar un desafío que quizá sea el más urgente. Ya conocemos muchos de los principios éticos que deberían guiar el desarrollo de la inteligencia artificial. Lo que necesitamos actualmente son instituciones capaces de poner en práctica esos principios, especialmente instituciones internacionales eficaces que puedan salvaguardar el bien común global…”, señaló.
“Esto exige normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas, de modo que las decisiones relativas al desarrollo y al uso de la inteligencia artificial puedan ser examinadas, cuestionadas si es necesario y acompañadas de medidas de reparación adecuadas por cualquier daño causado”.
Soberanía digital: el sueño de una Patria Grande
León XIV también nos dejó una reflexión que se aplica a los desafíos de soberanía digital que podemos impulsar desde América Latina: dar lugar a las comunidades de código abierto, a las cooperativas de datos, a la creatividad de jóvenes desarrolladores y a estados locales que no quieren caer en la dependencia de los grandes gigantes tecnológicos.
Esos gigantes lanzan al mercado modelos de frontera sin invertir adecuadamente en su seguridad. Sobre esa lógica, el Papa nos dijo durante la audiencia:
“Quienes consideran su desarrollo únicamente como una carrera que hay que ganar corren el riesgo de concentrarse solo en la línea de meta, olvidando a cuantos quedan atrás. Un sistema fiable que esté al servicio de la persona humana es más valioso que un sistema extraordinariamente potente, pero cuyas consecuencias no pueden preverse ni controlarse adecuadamente”.
Mientras León XIV está en camino rumbo a la Patria Grande de América Latina, lo espera este sueño de pueblos con un grito de paz. La locura organizada no puede tener la última palabra.
