Hace varios años, Mariana Mazzucato y yo planteamos una pregunta sencilla: ¿Quién se hará cargo si algo sale mal en el mundo de la IA? La pregunta sigue sin respuesta, incluso después de que el Consejo de Seguridad de las Naciones Unidas se reuniera la semana pasada para debatir los riesgos existenciales que plantea la IA.
La reunión contó con la presencia de los mismos directores ejecutivos de empresas tecnológicas que ahora piden una pausa en el desarrollo de la IA, mientras se apresuran a construir sistemas cada vez más potentes en una carrera hacia el abismo. La única voz ajena a la industria fue la de Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA y destacado defensor de la seguridad de la IA. Aparte de los representantes de los países miembros, nadie del Sur Global ni de la sociedad civil, ni ninguna mujer, intervino. Esta última omisión podría haberse subsanado invitando a la otra copresidenta del panel, la premio Nobel de la Paz, Maria Ressa.
Más allá del planteamiento problemático, el mandato del Consejo de Seguridad en materia de paz y seguridad impidió un debate más exhaustivo sobre todos los peligros que la IA puede plantear. Muchos miembros señalaron que la labor del Consejo no debería interferir en la de otros organismos de la ONU que también se ocupan de estos temas. Como dice el refrán, cuando todos están al mando, nadie lo está.
Las consecuencias sociales, económicas y laborales de la IA estuvieron ausentes de la sesión informativa del Consejo de Seguridad, a pesar de que ya están afectando la vida de las personas y pueden ser tan graves como la pérdida de control sobre los agentes de IA. La IA está reforzando las desigualdades existentes mediante la discriminación algorítmica y el acceso desigual a las tecnologías, el capital y la capacidad de procesamiento. También amenaza con reemplazar el juicio y la capacidad de decisión humanos, al tiempo que erosiona nuestras habilidades cognitivas, emocionales y relacionales, como lo demuestra el trabajo de Vladimír Šucha. Y luego están sus efectos en la salud mental de los jóvenes y la violencia que sufren las mujeres en línea, como se documenta en el informe All In que presentamos en la Asamblea General de la ONU.
La reunión también dedicó una atención desproporcionada a las tecnologías en sí mismas y a cómo solucionarlas. Este enfoque nos impide abordar las estructuras políticas y económicas que subyacen a muchos de estos problemas. Mucho antes de la llegada de la IA, décadas de globalización desenfrenada ya habían favorecido al capital sobre el trabajo, concentrando los ingresos y la riqueza en la cima y privando a la mayoría de la población de seguridad económica.
La permisividad con los mercados globales ha mantenido a los países de bajos ingresos en una situación de vulnerabilidad económica, al tiempo que ha propiciado la creación de unas pocas empresas multimillonarias y enormes fortunas privadas. También ha generado una economía política que se resiste a las reformas, especialmente en Estados Unidos. El acuerdo de la OCDE de 2021 sobre un impuesto mínimo global del 15 por ciento para las empresas fue un paso importante en la dirección correcta, pero este esfuerzo se desmoronó cuando el presidente Donald Trump, inmediatamente después de regresar a la Casa Blanca, retiró a Estados Unidos del acuerdo, permitiendo que los gigantes tecnológicos se enriquecieran y se volvieran más poderosos. Esta es la economía política en la que se encuentra ahora la IA.
La reunión de la ONU debería haber considerado la propuesta de Finlandia, Noruega y más de 20 países para establecer protocolos de seguridad comunes, evaluaciones de riesgos obligatorias previas a la liberación, evaluaciones independientes y un organismo internacional que supervise la IA de vanguardia.
Los gobiernos saben actuar con rapidez cuando lo necesitan. Lo comprobé de primera mano durante mis años en la OCDE y como jefe de gabinete y sherpa del G20. Cuando estallaban las crisis, los Estados miembros no dedicaban años a negociar extensos comunicados ni a esperar la estructura institucional perfecta. Se centraban en el problema en cuestión y en las funciones que debía desempeñar un nuevo organismo. La Agencia Internacional de Energía se creó rápidamente tras las crisis del petróleo de la década de 1970, y el Grupo de Acción Financiera Internacional (GAFI) se estableció en 1989 para combatir el blanqueo de capitales. Más recientemente, el Marco Inclusivo de la OCDE sobre la Erosión de la Base Imponible y el Traslado de Beneficios (BEPS) reunió a países para abordar la evasión fiscal empresarial, incluso mediante el tipo mínimo del 15 por ciento.
Deberíamos adoptar el mismo enfoque con la IA. En lugar de enredarnos en trámites burocráticos, deberíamos empezar por definir las funciones de un organismo internacional de IA y, a continuación, dotarlo de la experiencia y el presupuesto necesarios para llevarlas a cabo. Esto nos ayudaría a responder al desafío planteado por el asesor de ciencia y tecnología de la Casa Blanca, Michael Kratsios, quien declaró ante el Consejo de Seguridad de la ONU: “No se puede gobernar una tecnología que no se comprende”.
La propuesta finlandesa-noruega plantea la creación de una institución internacional capaz de establecer estándares y coordinar una respuesta colectiva cuando los sistemas de IA superen umbrales de capacidad peligrosos. También solicita mecanismos de evaluación independientes. Sin embargo, debería ir más allá, estableciendo registros de riesgo obligatorios y un mecanismo de emergencia similar al que, según se informa, ya están desarrollando Estados Unidos y China . Dichas evaluaciones también deberían considerar el impacto de la IA en las personas.
Para que todo esto funcione, la institución necesita un organismo técnico independiente. El que presta servicios a la Convención Antisoborno de la OCDE, por ejemplo, elabora evaluaciones nacionales que se aprueban según la regla del consenso menos uno. Los países pueden definir las normas globales contra la corrupción de manera diferente según sus tradiciones jurídicas, pero el principio de “equivalencia funcional” ayuda a garantizar que los distintos enfoques legales produzcan resultados comparables. La institución también tendría que cooperar con otras instituciones internacionales para asegurar que la IA apoye el desarrollo humano.
Esto plantea la cuestión de quién representaría a cada Estado miembro en un nuevo organismo internacional de IA. El Comité de Supervisión Bancaria de Basilea funciona porque reúne a funcionarios con mandatos y responsabilidades prácticamente iguales. No existe un equivalente para la IA. Solo unos pocos países cuentan con un ministerio de IA, y los que existen carecen de capacidad para investigar o sancionar el comportamiento del mercado. Hasta que desarrollemos las instituciones necesarias tanto a nivel nacional como internacional, nuestra pregunta original —”¿Quién está al mando cuando las cosas salen mal?”— seguirá sin respuesta, dejando al mundo expuesto a riesgos incalculables.
La autora es copresidenta del Grupo de Trabajo sobre Desigualdades y Divulgación de Información Financiera con Relación Social, ex subdirectora general de ciencias sociales y humanas de la UNESCO, donde supervisó la elaboración de la Recomendación sobre la Ética de la IA, y ex jefa de gabinete de la OCDE y representante ante el G20, el G7 y la APEC.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
