¿Qué exige la gobernanza de la IA?

La transición abarca actualizaciones de los regímenes regulatorios, las estructuras legales y las competencias de las administraciones públicas. Incluye también cambios en los planes de estudio, los modelos de negocio, los flujos de trabajo y los empleos. Asimismo, abarca la capacidad de los ciudadanos para desenvolverse en este nuevo panorama, incluyendo su habilidad para distinguir la verdad de la simulación, la persuasión de la manipulación y la ayuda de la dependencia. Se trata del metabolismo social mediante el cual un impacto tecnológico se integra en un orden funcional.

Sin duda, las revoluciones tecnológicas e industriales anteriores también podrían representarse mediante una curva y una pendiente similares. Las tecnologías avanzaron y se difundieron más rápido de lo que las regulaciones, los modelos de negocio, los sistemas educativos, los mercados laborales y los estilos de vida podían adaptarse. Las transiciones a menudo fueron difíciles y nunca automáticas. Pero la diferencia entre la curva y la pendiente era menor: en velocidad y escala, la transformación impulsada por la IA parece estar en una liga aparte.

El debate sobre cómo gestionar esta transición suele reducirse a la cuestión de cuánta regulación logra el equilibrio adecuado entre innovación y seguridad. No queremos imponer trabas burocráticas al progreso, del mismo modo que no queremos dejar que las sociedades absorban, solas y a gran velocidad, las consecuencias de una tecnología que está transformando nuestra comprensión más básica del trabajo, el conocimiento, el poder, la responsabilidad y el juicio.

Pero esta pregunta es demasiado limitada. La regulación desempeña un papel crucial, pero por sí sola no constituye gobernanza. Para ello, debemos determinar las condiciones necesarias para que las sociedades puedan convivir con la IA sin verse superadas por ella.

El primer paso es dejar de considerar la IA como algo intangible: una tecnología etérea que existe en la «nube» y que simplemente cumple con lo que se le pide. La IA depende de enormes cantidades de capital, chips de última generación, sistemas de ciberseguridad, cadenas de suministro y talento. También depende de centros de datos masivos, que emiten ruido, luz y calor, y requieren terrenos y permisos, además de grandes cantidades de electricidad y agua.

Las comunidades que albergan las infraestructuras físicas de esta tecnología supuestamente ingrávida se ven obligadas a afrontar graves trastornos y a asumir altos costes, ya que sus tierras son expropiadas, sus redes eléctricas se ven sobrecargadas y sus recursos hídricos se agotan y contaminan. Es necesario tomar decisiones difíciles sobre la zonificación, los precios de la electricidad y la protección del medioambiente.

Pero la gobernanza de la IA no es solo un desafío a nivel comunitario. Esta tecnología es cada vez más fundamental para la infraestructura del poder nacional: la selección de objetivos militares, las operaciones cibernéticas, el análisis de inteligencia, el descubrimiento científico, la automatización industrial, la vigilancia, la modelización financiera y la influencia política. Quien controle los modelos, chips, clústeres de computación y talento más avanzados no solo tendrá una ventaja comercial, sino también estratégica. Estados Unidos y China son conscientes de esto y compiten tenazmente por el liderazgo en IA: ambos creen que quedarse atrás los dejaría vulnerables militar, económica y políticamente. Al igual que con las armas nucleares, lo que está en juego es de vital importancia. Esto crea un caldo de cultivo para el secretismo, la desconfianza, la anticipación y una aceleración descontrolada.

Los riesgos se ven agravados por el hecho de que la IA está más extendida que la tecnología nuclear, está más integrada comercialmente y tiene una aplicación más amplia. Además, sus resultados son difíciles de verificar y, una vez que sus capacidades se codifican en software, su proliferación es sencilla.

La gobernanza de la IA debe tener en cuenta todos estos factores, desde los requisitos materiales de la tecnología hasta sus efectos en las personas, las comunidades, las empresas, los mercados laborales, el medio ambiente, la seguridad nacional y la competencia estratégica internacional. Para ello, resulta esencial una arquitectura integral de confianza basada en la verificación, más amplia que la regulación nacional de la IA y más flexible que un tratado clásico.

El acuerdo climático de París de 2015 ofrece un modelo útil. Creó un marco dinámico que abarca compromisos voluntarios, presión mutua, actualizaciones periódicas, mediciones fiables y una amplia participación. Sin embargo, un acuerdo análogo sobre IA también debe reflejar una lección clave de los regímenes de no proliferación: cuando la confianza política es débil, debe complementarse con pruebas, límites y verificación.

El marco resultante combinaría la flexibilidad de la diplomacia climática con la disciplina del control nuclear. Los compromisos en constante evolución irían acompañados de mecanismos para evaluar su credibilidad e impacto. La acción estatal conllevaría responsabilidades para las empresas.

Un “Acuerdo de París sobre IA” establecería definiciones comunes para los modelos de vanguardia; umbrales para un mayor escrutinio; la notificación obligatoria de incidentes; estándares de evaluación compartidos; la protección de la ponderación de los modelos; normas para su implementación en sectores sensibles; y pruebas independientes de sistemas que representen riesgos para la ciberseguridad, la bioseguridad, la infraestructura crítica o la toma de decisiones militares. Cada uno de estos elementos sería revisado y reforzado periódicamente por organismos técnicos que comprenden la evolución de la tecnología y por organismos políticos capaces de imponer consecuencias en caso de incumplimiento de los compromisos.

Por supuesto, no todas las aplicaciones requieren el mismo tratamiento. Una herramienta específica utilizada en entornos de bajo riesgo requiere una supervisión limitada. En cambio, un modelo innovador capaz de afectar la ciberseguridad, el diseño biológico, las operaciones militares o la autonomía de sistemas críticos debe estar sujeto a requisitos más estrictos y, en casos extremos, a intervención.

Algunos podrían argumentar que esto frenaría la innovación. Pero nadie abordaría un avión ni tomaría un medicamento nuevo si la seguridad dependiera únicamente de la buena voluntad de los fabricantes. En estos ámbitos, la regulación no elimina el riesgo; lo hace socialmente tolerable. Lo mismo ocurre con la IA.

Dicho marco no puede presentarse como un proyecto europeo, un instrumento estadounidense ni una alianza destinada a contrarrestar a China. Su legitimidad dependería de la inclusión, dando voz a los países a la vanguardia tecnológica, las potencias intermedias y las economías en desarrollo. Las universidades, las empresas y las organizaciones de la sociedad civil también deberían participar.

La curva seguirá su curso getting steeper. No podemos aplanarla por decreto ni ocultarla con discursos. Pero sí podemos decidir si asciende sin control o dentro de una estructura que pueda seguirle el ritmo.

La autora es exministra de Asuntos Exteriores de España y exvicepresidenta sénior y consejera general del Grupo del Banco Mundial, es profesora invitada en la Universidad de Georgetown.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org