El mundo necesita una IA compasiva

Si de verdad queremos que la IA contribuya al bien común, y no solo al lucro y al poder, debemos enviar a los ingenieros y desarrolladores de IA fuera de sus laboratorios durante un mes. Que conozcan a niños que trabajan en minas y fábricas, a familias desplazadas por conflictos y a comunidades vulnerables que sufren pobreza, discriminación y exclusión. Que acompañen a personas cuyas vidas están marcadas mucho más por la incertidumbre, el miedo y la injusticia que por cualquier avance tecnológico. Incluso un mes puede cambiar la perspectiva de una persona, y eso influirá en cómo los desarrolladores crean esta tecnología y dan forma al futuro.

La IA ya está transformando la educación, la sanidad, los negocios, la gobernanza y el descubrimiento científico. Promete avances extraordinarios, desde acelerar la investigación médica y mejorar el aprendizaje hasta desenmascarar redes de trata de personas, predecir el hambre antes de que se produzca una hambruna y fortalecer la acción humanitaria. Pero toda revolución tecnológica plantea una prueba moral, y la IA no es una excepción. Al haberse convertido esta tecnología en la vanguardia de una intensa competencia global por el poder económico y geopolítico, se recompensa la velocidad, se celebra la escala y se valora el dominio del mercado por encima de todo.

En estas condiciones, corremos el riesgo de olvidar la pregunta más importante: ¿A quién está destinada a servir esta inteligencia en última instancia? El mayor fracaso de la IA hoy en día radica en el liderazgo, no en la ingeniería. Es cierto que gran parte del debate en los foros internacionales ya se centra en conceptos como “IA ética” e “IA responsable”, y estos son indispensables. Necesitamos una gobernanza más sólida, una rendición de cuentas significativa y una regulación eficaz.

Pero tales salvaguardias no bastan. La ética nos indica lo que es correcto y las leyes establecen límites; pero ninguna de ellas, por sí sola, cambiará la mentalidad de quienes imaginan y diseñan tecnologías que influirán en miles de millones de vidas. Eso requiere algo más profundo: la compasión.

La compasión suele confundirse con la empatía, la bondad o la caridad. Sin embargo, no es sinónimo de ninguna de ellas, ni se trata simplemente de una emoción o un ideal moral abstracto. La compasión comienza por reconocer el sufrimiento ajeno como propio, lo que nos impulsa a actuar para aliviarlo. Incluye el valor de actuar antes de que se produzcan daños adicionales. Nos lleva no solo a optimizar los sistemas, sino también a proteger la dignidad humana.

Lejos de ser un obstáculo para el progreso tecnológico, la compasión es la base de la innovación responsable. La IA compasiva se distingue de cualquier otro enfoque porque parte no de la tecnología, sino de la humanidad. Antes de preguntarse qué puede hacer un sistema, la IA compasiva se pregunta a quién sirve. Antes de buscar una mayor eficiencia, considera las consecuencias humanas. Antes de celebrar la innovación, se pregunta quién podría quedar excluido.

Este simple cambio lo transforma todo. Muchos de los fallos actuales de la IA —sesgos, discriminación, exclusión, desinformación, daños ambientales, amenazas al bienestar infantil— suelen describirse como desafortunados efectos secundarios del progreso. Pero no son meros efectos secundarios. Son prueba de que alguien estuvo ausente, fue pasado por alto o ignorado cuando se concibieron estos sistemas.

Ni la tecnología ni los algoritmos son neutrales. Todo sistema refleja las suposiciones, prioridades y valores de quienes lo crean. Dado que la IA se entrenó con el conocimiento acumulado de la humanidad, ha absorbido sus prejuicios, desigualdades e injusticias históricas.

Los derechos humanos no pueden ser un añadido posterior a la construcción. Deben ser un pilar fundamental de toda la estructura. Confiamos en que un puente sea seguro antes de que alguien lo cruce, porque la seguridad es esencial para su propósito. Obviamente, la IA debe regirse por el mismo estándar. La compasión no puede añadirse después de su implementación. Debe estar integrada en el diseño del sistema.

Cambiar el rumbo de la tecnología es una prioridad urgente. Los niños de hoy podrían pasar más tiempo interactuando con máquinas inteligentes que con sus padres, maestros o vecinos. Ya comprendemos algunas de las consecuencias psicológicas negativas de las redes sociales, que funcionan con formas relativamente simples de IA. Los efectos de sistemas mucho más avanzados en el desarrollo emocional, las relaciones, la imaginación y el bienestar mental de los niños siguen siendo en gran medida desconocidos, pero podrían ser profundos.

En lugar de centrarnos principalmente en cómo la IA podría transformar la economía, deberíamos preguntarnos qué sucederá si los algoritmos reemplazan la capacidad exclusivamente humana de sentir el dolor ajeno. ¿Podrán defender la justicia si nunca fueron diseñados para reconocer el sufrimiento? ¿Podrán fortalecer la paz si solo optimizan la interacción, la eficiencia y el beneficio? Estas cuestiones morales deben preceder a las técnicas, porque podrían moldear el futuro de la humanidad.

Sin duda, la IA podría convertirse en una de las mayores aliadas de la humanidad. Podría ayudar a erradicar la esclavitud moderna y la trata de personas, detectar el abuso sexual infantil, ampliar el acceso a una educación de alta calidad en el idioma materno de cada niño, mejorar la atención médica en comunidades marginadas, predecir crisis humanitarias y acelerar el progreso hacia los Objetivos de Desarrollo Sostenible.

Pero la IA no elegirá ese futuro. Lo haremos nosotros. Los principios que consagramos hoy sentarán las bases de los sistemas cada vez más potentes que estamos construyendo. Una vez que esas bases se consoliden en estándares, instituciones y modelos de negocio, definirán la relación de la humanidad con las máquinas inteligentes durante generaciones.

No podemos permitirnos esperar a que los daños sean irreversibles. La legislación a menudo ha seguido al sufrimiento; pero con la IA, ya no podemos darnos el lujo de esperar y ver. La era de la inteligencia exige sabiduría. La historia no nos juzgará por la inteligencia de nuestras máquinas, sino por si tuvimos la visión y el valor de garantizar que la inteligencia permaneciera al servicio de la humanidad.

El autor, Kailash Satyarthi, laureado con el Premio Nobel de la Paz, es el fundador de Laureados y Líderes por la Infancia.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org