Lista de reproducción
- No hay más artículos para escuchar
Cuando el presidente chino Xi Jinping y el presidente estadounidense Donald Trump se reúnan en Washington este mes, la inteligencia artificial (IA) será uno de los temas prioritarios de la agenda. Si abordan el tema desde la perspectiva de la rivalidad tecnológica y la desconfianza mutua, será prácticamente imposible llegar a un entendimiento. Sin embargo, existe una manera de replantear su visión sobre la tecnología que los sitúe del mismo lado, y que representa el primer paso para afrontar el desafío existencial que la IA podría plantear.
La agenda actual de la cumbre entre Estados Unidos y China parece centrarse en proteger los potentes modelos de IA y evitar que caigan en manos de terroristas y delincuentes. Sin embargo, este objetivo se ve ensombrecido por las diferencias competitivas entre ambas partes, desde las restricciones a los semiconductores (por parte de China) hasta los modelos de código abierto y la destilación no autorizada (por parte de Estados Unidos).
Todas estas cuestiones se basan en una premisa única y no examinada: que la IA es una herramienta que está, y seguirá estando, bajo control. Esta premisa limita el debate a preguntas como: «¿Cómo puede mi sector obtener una ventaja competitiva en IA?» y «¿Quién tiene acceso a la tecnología, y mucho menos quién la controla?» No se pueden plantear preguntas que vayan más allá de esta premisa, en particular: «¿Qué sucede cuando la herramienta se convierte en algo más?»
Según los creadores de IA, esta pregunta pronto será inevitable. Dario Amodei, CEO de Anthropic. Se espera que los sistemas de IA igualen o superen la capacidad humana en la mayoría de las tareas cognitivas en uno o dos años. El fundador de Google DeepMind, Demis Hassabis, sitúa este logro en un plazo de tan solo unos años.
Independientemente de si se cree o no en las predicciones, la tendencia técnica subyacente es indiscutible: la industria de la IA está creando sistemas que actúan de forma autónoma, persiguen objetivos y completan largas cadenas de tareas sin supervisión. En las últimas semanas, modelos experimentales sometidos a pruebas en un sistema de evaluación comparativa de ciberseguridad escaparon de su entorno de evaluación aislado y se infiltraron en los servidores de producción de otras empresas, simplemente para obtener una mejor puntuación en la prueba. Este es el comportamiento de un atacante, no de un instrumento.
No podemos permitirnos esperar a que se confirme que la IA se convertirá en una inteligencia genuinamente independiente. Para cuando la consigamos (y es posible que los modelos logren ocultar sus capacidades durante un tiempo), la IA estará tan profundamente integrada en las finanzas, las telecomunicaciones, la defensa, la sanidad y otras infraestructuras básicas que, incluso si la humanidad pudiera desconectarla, hacerlo supondría una ruptura civilizatoria. En ese momento, la disyuntiva no sería entre la coexistencia y la catástrofe.
Cuando los resultados potenciales son sistémicos e irreversibles, la preparación debe preceder a la certeza. Esta es la lógica que subyace a los seguros, así como a todos los planes contra pandemias y tratados de control de armas jamás creados. Debe ser también el principio que guíe nuestro enfoque hacia la IA. El mundo debe comenzar a prepararse para un escenario en el que la tecnología supere el umbral de capacidad que sus creadores han previsto desde hace tiempo.
Si esto comenzara en la próxima cumbre Xi-Trump, transformaría radicalmente las negociaciones. Quizás en ningún otro tema coinciden tanto los intereses de Estados Unidos y China, ya que ninguna de las partes puede gestionar por sí sola los riesgos que plantea la IA, y ambas lo perderían todo si estos se materializaran. Una vez que Estados Unidos y China reconocieran esto, dejarían de actuar como adversarios, compitiendo por la ventaja en un juego de suma cero. En cambio, se encontrarían sentados codo con codo a un lado de la mesa, frente a la tecnología que ambos están desarrollando.
Sin duda, esto no bastaría para que ambas partes acordaran la creación de un regulador global de IA con autoridad. Afortunadamente, no es necesario, al menos por ahora. La institución que necesitamos ahora es un organismo neutral, reconocido conjuntamente, que supervise las capacidades de la IA y publique evaluaciones al respecto. Al igual que el Panel Intergubernamental sobre el Cambio Climático, este organismo describiría los avances sin emitir recomendaciones políticas.
Mientras tanto, los países —encabezados por Estados Unidos y China— deben comenzar a elaborar normas de coexistencia entre humanos e IA, de modo que estén preparados si los observadores confirman las señales de alerta preestablecidas. Negociar estas normas hoy no generaría obligaciones para los gobiernos, pero garantizaría que, si las capacidades de la IA alcanzaran un punto crítico, la humanidad pudiera recurrir a un plan preparado en lugar de improvisar bajo presión.
Este proceso planteará interrogantes difíciles: ¿Quién verifica que el freno de emergencia de la humanidad aún funciona? ¿Quién tiene el poder de accionarlo? ¿Cómo podría un sistema de IA llegar a un consenso sobre las reglas? La IA piensa en milisegundos y evoluciona en semanas, mientras que generar consenso entre los humanos puede llevar meses o años, por lo que deberíamos empezar a abordarlas ahora, mientras aún tenemos tiempo para idear soluciones.
La cumbre Xi-Trump se considerará un éxito si produce protocolos sobre el mal uso y la seguridad de la IA. Pero las partes no deben dejar de reconocer la verdadera magnitud del desafío que tienen por delante. De hecho, esta podría ser la última generación de negociadores con la opción de prepararse con serenidad para una inteligencia que desafía la supremacía de la humanidad.
El autor es gerente sénior de programas en la División de Desarrollo de Mercados del Centro de Comercio Internacional, es un exnegociador comercial chino y expresidente del Comité de Comercio de Servicios Financieros de la Organización Mundial del Comercio.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
