Lista de reproducción
- No hay más artículos para escuchar
La Magnifica Humanitas (La grandeza de la humanidad), del papa León XIV, un muy lúcido documento que advierte de los gravísimos peligros objetivos para los seres humanos —los estamos viviendo— que genera el uso sin control moral de la inteligencia artificial. Es seguro que en el corto plazo se convertirá en una de las publicaciones contemporáneas más importantes de la humanidad.
Esta advertencia del sumo pontífice de la Iglesia católica equivale a situarse frente a los riesgos de una conflagración nuclear para el ser humano. Tal es la envergadura de los peligros que entraña la IA que el fondo de esta alerta máxima es para que permanezcamos humanos, es decir, que la humanidad siga siendo el centro de la historia.
No es que León XIV despotrique contra la IA, pues concuerda en que las máquinas pueden aumentar nuestra capacidad de producir, calcular y comunicar, sin embargo, señala que no pueden sustituir la dignidad, la conciencia moral ni la capacidad de amar. Más bien invita a la humanidad a aprovechar las posibilidades de la inteligencia artificial sin perder aquello que nos hace auténticamente humanos: la libertad, la compasión, la responsabilidad, la solidaridad y la búsqueda de la verdad.
En su primera encíclica, el líder católico no se va por las ramas, y tajantemente demanda el desarme de la inteligencia artificial, que no es eliminarla, sino impedir que sea utilizada como instrumento de dominación política, económica, militar o cultural. La tecnología debe estar al servicio del bien común y no del control de las personas.
La IA puede convertirse en una amenaza para la civilización
No es preciso detener a la inteligencia artificial, sostiene León XIV, sino qué tipo de humanidad debe preservarse. En la encíclica afirma que la tecnología debe servir a la persona humana, proteger su dignidad, fortalecer la justicia social y promover la paz, de lo contrario, la inteligencia artificial puede convertirse en una amenaza para la civilización.
La incorporación de la IA en sistemas de armas y decisiones militares es una de las principales preocupaciones expresadas en la Magnifica Humanitas, que rechaza las armas autónomas capaces de seleccionar y atacar objetivos sin intervención humana significativa, lo cual disminuiría las barreras morales contra la guerra, y aumentaría el riesgo de vivir en constantes conflictos militares.
Advierte Robert Francis Prevost, sobre la enorme capacidad de la IA para producir desinformación, manipular opiniones y alterar procesos democráticos mediante contenidos falsos, campañas y sistemas de vigilancia masiva, y reivindica como algo esencial la defensa de la verdad y del pensamiento crítico.
El papa no pasa por alto que algunas empresas tecnológicas tienen un poder económico, político y cultural superior a la de muchos gobiernos, y alerta que, si la inteligencia artificial queda en unas pocas empresas privadas, puede aumentar las desigualdades y debilitar la democracia. Por consiguiente, demanda mecanismos de regulación, supervisión pública y rendición de cuentas.
Dependencia excesiva puede reducir capacidad de reflexión, creatividad y juicio crítico
Y por supuesto, al purpurado estadounidense y peruano le preocupan los efectos de la automatización sobre el empleo, porque millones de trabajadores podrían quedar sin trabajo, por lo que pide políticas que protejan la dignidad laboral, faciliten la capacitación y eviten que los beneficios de la tecnología queden concentrados en unos pocos.
Así como en el mundo del trabajo, el Pontífice advierte que la inteligencia artificial podría tener efectos catastróficos en la educación y las relaciones humanas, pues una dependencia excesiva puede reducir la capacidad de reflexión, la creatividad y el juicio crítico, en especial de los jóvenes.
De manera categórica, el líder católico afirma que la IA no debe reemplazar a la persona humana, y aclara que, si bien la inteligencia artificial es una herramienta creada por seres humanos, no debe confundirse con la inteligencia humana. Precisó que los sistemas automatizados pueden procesar información y generar respuestas, pero carecen de conciencia, libertad moral, empatía, responsabilidad y espiritualidad.
Como continuidad a lo anteriormente expresado, el papa considera que una IA sin control moral es una peligrosa amenaza a la dignidad humana, porque cuando las empresas dejan sus decisiones sobre empleo, crédito, educación o salud, en manos de sistemas automatizados, existe el peligro de discriminación, injusticia y pérdida de humanidad en el trato a las personas.
Una máquina nunca reemplazará una amistad verdadera, una familia o una comunidad
En consecuencia con estos últimos planteamientos, León XIV hace ver que, aunque la inteligencia artificial es una herramienta creada por personas, no debe confundirse con la inteligencia humana.
El jefe del Vaticano analiza a la inteligencia artificial como un fenómeno tecnológico que genera nuevas desigualdades económicas. Está bien que la automatización puede aumentar la productividad, pero también concentrar la riqueza. Si sus beneficios quedan solo en manos de las corporaciones tecnológicas, las inequidades podrían alcanzar niveles sin precedentes. Por ello, debe haber una distribución justa de los beneficios del progreso tecnológico.
Aunque la IA puede simular empatía, ya que conversa, aconseja y responde emocionalmente, el líder católico del mundo hace ver que a esto no se le puede considerar relaciones humanas auténticas, debido a que una máquina nunca reemplazará una amistad verdadera, una familia o una comunidad humana.
Más bien, indica el papa, la IA puede afectar la salud mental y causar el aislamiento de las personas, sobre todo niños y adolescentes, por la dependencia excesiva que puedan tener de los sistemas digitales. Como corolario, afirma que la tecnología debe fortalecer las relaciones humanas y no sustituirlas. La encíclica pide políticas especiales para proteger a los menores frente a la manipulación algorítmica y la enajenación digital.
El autor es periodista jubilado nicaragüense residente en la Colonia del Periodista, Managua.
