Lista de reproducción
- No hay más artículos para escuchar
El papa León XIV acaba de publicar su primera encíclica, Magnifica Humanitas, que expone la postura de la Iglesia católica ante las amenazas que plantea la IA. El tema elegido por León XIV es sumamente simbólico. El papa León XIII es recordado principalmente por su encíclica de 1891, Rerum Novarum, que buscaba reconciliar a la Iglesia con la modernidad y la rápida industrialización. Al igual que su homónimo, León XIV considera que las cuestiones éticas que plantea el cambio tecnológico son una preocupación fundamental.
Magnifica Humanitas presenta la IA como un nuevo y profundo desafío para la dignidad humana, la justicia y la seguridad económica. Para afrontar estos desafíos, Leo invoca las doctrinas sociales católicas fundamentales sobre la importancia de la dignidad humana y los derechos humanos, el bien común y los principios de universalidad, subsidiariedad, solidaridad y justicia social. Si bien reconoce que la IA puede ser una herramienta valiosa, advierte que debe ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte.
Cabe destacar que Leo considera todo el ciclo de vida de la IA, desde la explotación de las personas y la naturaleza en la extracción de las materias primas necesarias para el hardware de IA hasta las decisiones de diseño y los usos finales social y ambientalmente destructivos. “Nada en el mundo de la IA es inmaterial ni mágico”, escribe Leo. “Cada respuesta aparentemente inmediata e impecable es el resultado de una larga cadena de mediación, que involucra vastas redes de recursos naturales, infraestructura energética y, sobre todo, personas”.
En Magnifica Humanitas, lo que realmente importa son las personas, no la tecnología. “Una parte importante del funcionamiento de la economía digital depende del trabajo silencioso de millones de personas que realizan actividades esenciales pero en gran medida invisibles”, continúa Leo, “como el etiquetado de datos, el entrenamiento de modelos y la moderación de contenido, que a menudo implica material perturbador”.
Dicha explotación, señala, “pone en entredicho la conciencia moral de nuestro tiempo”. Si la IA depende de, y produce, “nuevas formas de subordinación global, entra en contradicción con el principio fundamental de la dignidad humana”. En definitiva, “la lucha contra las nuevas formas de esclavitud es una prueba decisiva para el discernimiento ético de la IA y la transformación digital”.
Leo no duda en denunciar abiertamente las injusticias y las prácticas económicas reprobables que ya están muy extendidas en la industria de la IA. Considera que el colonialismo está adoptando una nueva forma: «Ya no domina solo los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable”.
Consideremos las implicaciones para la salud pública y la bioética. A medida que los laboratorios de IA recopilan datos médicos, epidemiológicos y demográficos de regiones vulnerables, llegan a controlar los datos de salud de poblaciones enteras, a menudo recopilados bajo el pretexto de ayuda, investigación o innovación. El resultado es una forma de influencia estructural sobre el futuro, ya que pueden moldear las necesidades y los mercados. También pueden decidir, antes que nadie, a quién se asignarán los medicamentos, las inversiones y las protecciones.
Leo describe a continuación las medidas necesarias para garantizar que la IA no solo beneficie a unas pocas corporaciones tecnológicas multinacionales, sino a todos los seres humanos y a nuestro planeta. Insiste repetidamente en la necesidad de una regulación global de la IA y una supervisión independiente y eficaz, siguiendo así la misma línea que su predecesor inmediato, el Papa Francisco, quien apoyó propuestas concretas de mi propia investigación: una regulación global de los sistemas basados en datos basada en los derechos humanos y la creación de un nuevo organismo —una Agencia Internacional de Sistemas Basados en Datos— en las Naciones Unidas para su aplicación.
Señala que algo se debe hacer para regular los dispositivos digitales y las redes sociales (que se entienden mejor como redes antisociales, dado que fueron diseñadas desde el principio para convertir a los usuarios en adictos aislados). Considera necesario establecer límites de edad, exigir responsabilidades a los proveedores de servicios (en lugar de trasladar toda la responsabilidad a las familias) y reforzar las protecciones específicas contra todas las formas de explotación y violencia sexual en línea. Asimismo, aboga por intensificar los esfuerzos para enseñar a niños, adolescentes y jóvenes a reconocer la manipulación, defender su dignidad y respetar la de los demás en los entornos digitales.
El papa tiene toda la razón al celebrar la grandeza de la humanidad, al criticar y rechazar el transhumanismo y el posthumanismo, y al enfatizar la diferencia esencial, categórica e insuperable entre los seres humanos y las máquinas, que carecen de libertad, capacidad moral e inteligencia emocional y social. Magnifica Humanitas llama a todos —creyentes y no creyentes— a la causa de salvaguardar la dignidad humana y a trabajar juntos por un presente y un futuro humanos y sostenibles.
El autor es catedrático de Ética y director del Instituto de Ética Social (ISE) de la Universidad de Lucerna, es profesor visitante en la ETH Zúrich.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
