Lista de reproducción
- No hay más artículos para escuchar
La inteligencia artificial está transformando nuestra forma de comunicarnos, acceder a la información y trabajar, la distribución de los ingresos y el estatus, e incluso la manera en que libramos guerras. Sin embargo, el debate público sigue centrado exclusivamente en la competencia entre laboratorios de IA o en discusiones abstractas sobre las capacidades de esta tecnología. Casi nadie se pregunta qué propósito debería tener la IA, ni si nuestra mentalidad, instituciones y mecanismos de control actuales son capaces de orientar la tecnología hacia mejoras generalizadas en el bienestar humano.
Por lo tanto, fue alentador ver al papa León XIV pronunciarse sobre el tema con su primera encíclica, que describe la trayectoria actual de la IA como una profunda amenaza para la dignidad humana. Como economista que siempre ha sostenido que los resultados impulsados por la tecnología son cuestión de elección, no de destino, celebro su intervención.
Leo se adelanta a la mayoría de los analistas al señalar que «la tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y utilizan». Sin embargo, me preocupa que ni siquiera él haya profundizado lo suficiente en la cuestión más trascendental: ¿Para qué debería diseñarse la IA?
Como Simon Johnson y yo destacamos en nuestro libro Poder y progreso: Nuestra lucha milenaria por la tecnología y la prosperidad, una tecnología como la IA puede tomar múltiples caminos, y cada uno tiene profundas implicaciones para la sociedad. Por ejemplo, el papa tiene razón al cuestionar la trayectoria actual de la IA en la guerra y la aplicación de la ley. Lo que era tabú hace tan solo unos años —la vigilancia masiva impulsada por la IA, los algoritmos que seleccionan objetivos para ser asesinados— se ha convertido en algo habitual.
Ante la presión de muchos en Silicon Valley para que Estados Unidos refuerce su poderío militar mediante un nuevo complejo militar-algoritmológico, Leo advierte que “cualquier tecnología que facilite ataques sin ver el rostro de seres humanos reduce el umbral moral del conflicto”. El papa aboga entonces por el “desarme de la IA” para liberarla “de la mentalidad de la competencia ‘armada’, que hoy no se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo”.
Detrás de estas preocupaciones específicas subyace una idea fundamental: el progreso tecnológico no es necesariamente progreso moral. Que algo sea técnicamente factible no significa que sea beneficioso para la humanidad. Que una tecnología sea deseable depende de quién la controla y de la ideología e intereses que la guían.
Leo insinúa lo que considero el riesgo más inmediato: que, si bien la IA promete aumentar la productividad al encargarse de las tareas rutinarias, con frecuencia obliga a los trabajadores a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de diseñar máquinas que trabajen en conjunto con quienes trabajan. Sin embargo, el papa no llega a cuestionar la filosofía de diseño predominante de la IA. El enfoque de toda la industria de la IA se centra en imitar las capacidades humanas y automatizar las tareas humanas, con el objetivo de crear una “inteligencia artificial general” capaz de hacer todo lo que una persona puede.
Esta filosofía se basa en la suposición errónea de que la inteligencia artificial y la inteligencia humana son fundamentalmente similares. Los humanos aprendemos «una sola vez». Formulamos hipótesis a partir de unos pocos ejemplos, simulamos posibilidades en nuestra mente y refinamos nuestra comprensión a través de un proceso social de ensayo y error. Por lo tanto, los niños aprenden el lenguaje imitando algunas palabras, generalizando y ajustando nuestro discurso según las respuestas de los demás. No somos muy buenos asimilando grandes volúmenes de información ni analizando datos no estructurados en busca de patrones relevantes.
Por el contrario, los modelos de IA prosperan con conjuntos de datos de entrenamiento enormes y sobresalen en el reconocimiento de patrones a gran escala, pero aún no han demostrado una creatividad genuina. No tienen experiencia de la encarnación en el mundo real, ni capacidad para el aprendizaje por ensayo y error a través de interacciones con el mundo físico y social (excepto de forma limitada cuando existen claras recompensas para el aprendizaje por refuerzo en dominios específicos).
Cuando dos cosas son diferentes, no se debe —y normalmente no se puede— usar una para imitar a la otra. Los resultados serían deficientes. Habría sido un error garrafal si Phil Jackson, el legendario entrenador de los Chicago Bulls en la década de 1990, hubiera presionado a Michael Jordan para que imitara todo lo que hacían Scottie Pippen y Dennis Rodman. El equipo ganó campeonato tras campeonato precisamente porque estos jugadores trabajaban juntos y complementaban sus habilidades.
Lo mismo se aplica a la IA y las habilidades humanas. Utilizar la IA para realizar tareas que los humanos no pueden hacer, de modo que puedan ampliar sus capacidades, es más productivo que la imitación. En un escenario futuro donde la IA incremente, en lugar de reemplazar, las capacidades humanas, los electricistas se beneficiarían de diagnósticos basados en IA, las enfermeras consultarían la IA para interpretar síntomas y los profesores podrían usarla para personalizar la enseñanza para cada estudiante.
Los optimistas y los expertos del sector podrían argumentar que la IA, centrada en la automatización, aún puede beneficiar a todos, siempre que las políticas redistributivas se mantengan al ritmo adecuado. Sin embargo, este argumento tiene un historial poco favorable. Cuatro décadas de automatización digital ya han concentrado las ganancias en la cima, han debilitado los empleos de cualificación media y han generado un crecimiento de la productividad global decepcionante. Hay pocas razones para esperar que una ronda aún más potente de automatización, implementada por un sector aún más concentrado, tenga un resultado diferente.
Y lo que está en juego a nivel global es aún mayor que en Estados Unidos. Para miles de millones de personas en el mundo en desarrollo, donde un trabajo digno es la única vía fiable para salir de la pobreza, una agenda de IA centrada en la automatización es una receta para el desastre. Podemos y debemos exigir un diseño diferente.
Quizás el mayor fallo de la industria de la IA actual sea su negativa a reconocer todo esto. El puñado de personas que están desatando esta tecnología en el mundo se guían por una ideología de control (sobre la humanidad) y por la convicción de que las máquinas son invariablemente superiores a los humanos.
Leo tiene razón al exigir claridad moral y un debate serio a nivel social. Pero la conversación debe ir más allá de las exhortaciones y centrarse en decisiones concretas: acciones antimonopolio contra las plataformas dominantes, inversiones públicas en IA complementaria a la humana, regulación de la vigilancia y las armas autónomas, y derechos reales para los trabajadores y ciudadanos sobre los datos de los que dependen estos sistemas.
La intervención de Leo hace que tal respuesta sea un poco más probable que antes. Pero el resto de nosotros también debemos defender a la humanidad.
El autor es premio Nobel de Economía 2024 y profesor de Economía en el MIT, es coautor (junto con Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
