‘Magnífica Humanidad’: el papa León XIV sorprende por su llamamiento a «Desarmar la IA»

Magnifica Humanitas, traducida como ‘Magnífica Humanidad’, es la primera encíclica del papa León XIV. Y ha sorprendido tanto por su temática como por su contundencia a la hora de abogar por la regulación de las tecnologías de inteligencia artificial y cortar la concentración de poder mundial en manos de un puñado de empresas tecnológicas.

Seas católico o ateo (como el que suscribe), seguramente no esperarías que la primera encíclica del último papa estuviera dedicada integramente a «la salvaguarda de la persona humana en la era de la inteligencia artificial», como señala el subtítulo de un documento de más de 42.000 palabras concebido como marco moral que «proteja a la humanidad para las generaciones venideras».

El argumento general no es nuevo y más allá de la opinión que tengamos cada uno de la Iglesia Católica, podría ser suscrito por muchos, incluidos el grupo de más de 1.000 científicos, ingenieros, intelectuales e incluso expertos en tecnología que hace ya tres años en una carta abierta pidieron suspender temporalmente el desarrollo de los grandes proyectos de IA ante los «profundos riesgos para la sociedad y la humanidad» que podrían plantear sin el control y gestión adecuados.

Nada de ello se ha hecho desde entonces. Al revés. La carrera mundial por el control del mundo mediante IA se ha intensificado y ello ha sido criticado por una persona que, aunque no seamos creyentes, tiene un gran peso en el mundo por ser el líder religioso y moral de más de 1.400 millones de personas.

Magnífica Humanidad: Desarmar la IA

El Papa identifica la IA como «una herramienta valiosa que requiere vigilancia». El documento, de amplio alcance, insta a la cautela en el uso de la IA (especialmente en ámbitos como el militar o el laboral) y probablemente se convertirá en un texto fundamental a medida que los responsables políticos y las empresas tecnológicas definan sus estrategias para el desarrollo y la -muy necesaria-  regulación de esta tecnología en los próximos años.

Hay que destacar que León XIV es matemático de formación y esta especialidad es clave en el desarrollo de cualquier tecnología. Además, para comprender el alcance del interés del papa en la IA, debemos analizar su elección de nombre. Su decisión de usar el nombre de León XIV se remonta al papa León XIII, quien ocupó el papado durante la Revolución Industrial y escribió la encíclica Rerum Novarum sobre el capital y el trabajo. No pocos piensan que la IA es otra de las grandes revoluciones que han llegado al mundo, como la industrial que nos cambió para siempre.

Uno de los mensajes del texto que ha llamado la atención es el llamamiento del papa a «desarmar la IA». Si bien esto puede como una advertencia contra el uso militar de la inteligencia artificial, va mucho más allá. «Desarmar significa desacreditar la premisa de que el poder técnico confiere automáticamente el derecho a gobernar» escribe. «Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad. Significa liberarla del control monopolístico y abrirla al diálogo y al debate, haciéndola así más accesible a la humanidad y reintegrándola a la pluralidad de culturas y formas de vida humanas».

El pontífice advierte contra permitir que quienes controlan la IA dicten e impongan los marcos éticos para la gobernanza de esta tecnología. En cambio, afirma que la ética de la IA debe someterse a «estándares compartidos de justicia social» y ser objeto de debate abierto entre todos. «Una IA más moral no basta si esa moralidad la determinan unos pocos», escribe.

El papa también señala la falta de humanidad de estas tecnologías: «Estos sistemas simplemente imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo superan la inteligencia humana en velocidad y capacidad de cálculo, ofreciendo beneficios tangibles en muchos ámbitos… Pero «las inteligencias artificiales no experimentan, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no saben, desde su interior, qué significan el amor, el trabajo, la amistad o la responsabilidad. Tampoco tienen conciencia moral, puesto que no juzgan el bien y el mal, no comprenden el significado último de las situaciones ni asumen la responsabilidad de las consecuencias», señala.

Uso personal de la IA

León XIV también reflexiona sobre cómo deberíamos abordar nuestro propio uso de la IA, evitando «fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, que debiliten la creatividad y el criterio personal». Lo mismo en comunicación con la IA, que puede ser útil, pero: «para los usuarios menos perspicaces, también puede ser engañosa, creando la ilusión de una relación con una persona real… arriesgado cuando la imitación de cuidado y apoyo se produce en contextos donde faltan vínculos humanos reales». señala.

Desarrolladores

León XIV se ha dirigido directamente a la industria tecnológica en varias ocasiones desde que accedió al papado y en la encíclica cuestiona directamente a los desarrolladores ya que a su juicio «tienen una responsabilidad ética y espiritual particular, pues cada decisión de diseño refleja una visión de la humanidad».

Educación y empleo

Magnífica Humanidad hace un llamamiento a favor de una «alianza educativa para la era digital» que fomente la enseñanza del pensamiento crítico a los jóvenes sobre la IA, para prevenir lo que denomina «apatía en la búsqueda de la verdad». Asimismo, las regulaciones deberían proteger a los jóvenes contra el contenido generado por IA que sea violento o degradante, así como contra el acoso y la explotación sexual. Leon XIV advirtió que las IA no deberían utilizarse para justificar la pérdida sistemática de empleos. Por ello, alienta a una reconversión profesional y la protección laboral de los trabajadores cuyos empleos están en riesgo debido a la IA.

‘Al César lo que es del César y a Dios lo que es de Dios’

Es difícil no estar de acuerdo (incluso por un ateo convencido con amplias diferencias con la Iglesia Católica) con las reflexiones generales del papa sobre inteligencia artificial y un desarrollo bajo el control de solo unos pocos que buscan la dominación mundial y no solo en tecnología. Puede que el papa no tenga el poder de los gobiernos para regular las empresas de IA y exigirles responsabilidades que afecten su actividad y sus resultados económicos, pero eso no significa que debamos subestimar su influencia.

León XIV afirma en Magnífica Humanidad que los humanos deberíamos tener voz y voto sobre el papel de la IA en nuestro mundo en un momento donde el debate sobre sus ventajas y perjuicios está más vivo que nunca. Y entiende imprescindible un sistema legal sólido en torno a todo lo relacionado con la Inteligencia Artificial y seguridad completa de que los efectos de los proyectos son positivos para la sociedad y que sus riesgos son manejables. Es por ello que propone «establecer instrumentos regulatorios adecuados que garanticen la justicia y frenen los efectos distorsionadores del poder tecnológico». Por una vez: amén.