Papa León XIV insta a que la inteligencia artificial “no domine al ser humano” en su primera encíclica

El papa León XIV, primer pontífice peruano-estadounidense en la historia, publicó su primera encíclica, 'Magnifica Humanitas' ('Magnífica Humanidad'), un extenso documento de 130 páginas en el que advierte sobre los peligros de la inteligencia artificial (IA) y la deshumanización que puede generar la concentración del poder tecnológico en manos de pocos.

En el texto, presentado personalmente por el vicario en un acto en el Vaticano, Robert Prevost llamó a los gobiernos y líderes mundiales a desacelerar y regular de manera estricta el desarrollo de los sistemas de IA. Además, advirtió sobre la desinformación, la priorización del conflicto y el riesgo de una 'guerra interminable'.

“Se necesita una política más presente, capaz de desacelerar donde todo acelera", dijo el líder católico, al insistir en la necesidad de marcos jurídicos sólidos, supervisión independiente y usuarios informados.

PUEDES VER: Evo Morales pide nuevas elecciones en 90 días y plantea la salida de Rodrigo Paz en plena crisis en Bolivia

Llamado a la regulación y protección de los derechos humanos

La encíclica advierte que la propiedad de los datos de IA no debe quedar exclusivamente en manos privadas y que quienes toman decisiones políticas deben proteger los derechos de los trabajadores y mantener a la niñez a salvo de la tecnología.

Su Santidad alerta sobre los riesgos de la acumulación del poder tecnológico: “Pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos”.

El papa también instó a reivindicar el multilateralismo y fortalecer el papel de la ONU y de otras organizaciones internacionales frente a los retos tecnológicos y éticos de la IA.

Denuncia del uso militar

León XIV criticó el uso de la IA en escenarios bélicos y rechazó la teoría de la 'guerra justa', doctrina que tradicionalmente justifica conflictos en defensa propia.

“Ningún algoritmo puede hacer que el conflicto sea moralmente aceptable”, enfatizó y subrayó que la normalización de la disputa amenaza la paz internacional: “La humanidad se está deslizando hacia una cultura violenta del poder, donde la paz ya no se percibe como una responsabilidad que deba asumirse, sino como un frágil intervalo entre conflictos”.

El papa denunció que líderes podrían utilizar el enfrentamiento para distraer a la ciudadanía de problemas internos y señaló que la fuerza del derecho mundial corre el riesgo de ser reemplazada por el "derecho del más fuerte".

Compromiso con la ética y el medio ambiente

La encíclica también aborda el impacto ambiental de la IA y denuncia las 'nuevas formas de esclavitud' vinculadas a la extracción de recursos tecnológicos.

Según Prevost, niños y adolescentes trabajan en condiciones peligrosas al triturar materiales de tierras raras necesarios para la tecnología moderna, mientras que los cuerpos de los trabajadores quedan "marcados, heridos y desgastados" para mantener el flujo computacional.

El sucesor de Francisco pidió soluciones tecnológicas más sostenibles, reconoció públicamente que la Iglesia tardó siglos en condenar el yugo transatlántico y ofreció disculpas por esta demora histórica.

Participación de expertos en IA

El acto de presentación contó con la presencia de Christopher Olah, cofundador de Anthropic, empresa líder en IA, quien reconoció la necesidad de voces morales independientes que no se vean doblegadas por incentivos económicos.

Olah agradeció al Santo Padre por abordar los riesgos de la IA y destacó que los laboratorios de vanguardia operan bajo presiones comerciales que a veces pueden entrar en conflicto con "hacer lo correcto".

El papa comparó la IA con la bomba atómica e insistió en que debe ser liberada de lógicas de dominación, exclusión y muerte, y puesta al servicio de todos y del bien común.