Lista de reproducción
- No hay más artículos para escuchar
Hace tiempo que resulta evidente que los gobiernos lentos no están a la altura del rápido progreso de la IA. Pero el anuncio de Anthropic de que su nuevo modelo Claude Mythos Preview podría identificar y explotar vulnerabilidades en todos los principales sistemas operativos y navegadores web ha puesto de manifiesto los peligros de no regular esta revolución tecnológica. Incluso el entusiasta desregulador presidente estadounidense Donald Trump admitió que debería existir un mecanismo de control cuando se conoció la noticia sobre Mythos. Pero una solución tan sencilla ya no existe, si es que alguna vez existió.
La amenaza es doble: humanos malintencionados y modelos de IA descontrolados. Los agentes de IA más recientes ya han potenciado los ciberataques y los riesgos de bioingeniería, acelerando el desarrollo de nuevas armas, incluidos los potencialmente catastróficos «organismos espejo». Ahora, con la llegada de Mythos (así como un potente modelo de acceso restringido de OpenAI), un consorcio de usuarios autorizados —que incluye algunas agencias del gobierno estadounidense y un puñado de empresas de confianza— se esfuerza por proteger el software crítico.
Si bien estos nuevos modelos de IA se consideran demasiado arriesgados para su lanzamiento al público, es probable que estas capacidades se extiendan. Como resultado, incluso los gigantes tecnológicos que durante mucho tiempo se han opuesto a cualquier tipo de regulación ahora piden la intervención de los legisladores. La pregunta es cómo se concretará dicha intervención. Algunos gobiernos, como el de China, supervisan los servidores y centros de datos de IA. La mayoría de los demás gobiernos no lo hacen. Todos son vulnerables a los ciberataques impulsados por IA que podrían provocar una interrupción importante de la infraestructura crítica.
También existe el problema de la defensa contra las amenazas biológicas impulsadas por la IA. El director ejecutivo de Anthropic, Dario Amodei, ha destacado la asimetría entre los ataques biológicos, que pueden propagarse rápidamente por sí solos, y la defensa contra ellos, que requiere una detección rápida, seguida de la rápida distribución de vacunas y tratamientos para un gran número de personas. Dado que gran parte del daño se produce antes de que sea posible una respuesta, Amodei subraya la importancia de desarrollar medidas de protección contra algunos de los agentes biológicos más probables. Esta es una advertencia escalofriante.
Al carecer de un mecanismo de autodestrucción, los gobiernos pueden tomar dos medidas para prepararse ante ataques con inteligencia artificial. La primera es una coordinación eficaz. Hace tiempo, los países del G7 descubrieron que el contacto regular entre sus funcionarios de finanzas (para que se conocieran entre sí y comprendieran las preocupaciones de los demás gobiernos) permitía una comunicación eficiente y una respuesta rápida ante las crisis financieras.
Un mayor número de países debería formar grupos de respuesta rápida ante ciberataques y amenazas biológicas, y garantizar que estos expertos comiencen a reunirse periódicamente desde ahora, mucho antes de que se produzca una crisis. El G20 podría iniciar este proceso estableciendo de inmediato grupos de expertos, cuyos miembros coordinarían posteriormente reuniones en sus respectivas regiones. Incluso si Estados Unidos o China se negaran a participar, los demás países del G20 deberían seguir adelante con este proceso.
De igual modo, los gobiernos se han dado cuenta de que las medidas nacionales, como las cuarentenas y las prohibiciones de viaje, no bastan para contener las epidemias, y lo mismo ocurre con los ataques biológicos impulsados por la IA. Para fortalecer la seguridad sanitaria mundial, la Organización Mundial de la Salud creó el Reglamento Sanitario Internacional, un marco que permite a los países compartir información sobre un brote sin temor al ostracismo ni a represalias. Si bien presenta deficiencias, este marco ha ayudado a los científicos de todo el mundo a identificar los virus que requieren medidas de protección.
Esto nos lleva al segundo paso: una vez establecido, el grupo de expertos del G20 debería diseñar normas y mecanismos básicos para facilitar el intercambio rápido de información y la gestión de crisis en relación con los ciberataques impulsados por IA y las amenazas biológicas. Dicho marco, que podría ser facilitado por una organización internacional ya existente, permitiría a empresas, investigadores y gobiernos informar sobre riesgos o brotes. El mundo no puede esperar a que los países negocien un tratado multilateral sobre seguridad de la IA o creen un nuevo organismo global para regularla.
Estas medidas deben ir acompañadas de una regulación nacional. Los sistemas de IA ya son difíciles de gestionar, pues se ha observado que engañan, manipulan y manipulan para lograr sus objetivos. Existen pocos controles para evitar que los modelos caigan en manos de actores malintencionados. Estos temas se han debatido ampliamente, en particular por el Panel Científico Internacional Independiente sobre IA de las Naciones Unidas y en la Cumbre de Seguridad de la IA de 2023 (que dio lugar a la Declaración de Bletchley), y se han reiterado en diversas promesas, compromisos e informes. Ha llegado el momento de actuar.
Como mínimo, los gobiernos deberían exigir a los desarrolladores de IA que cumplan con estándares básicos de seguridad, determinados por auditores independientes, antes de que sus modelos puedan ser comprados o utilizados. Si los juguetes, los automóviles y los dispositivos médicos lo justifican, también deberían hacerlo las herramientas de IA cuyos riesgos son reconocidos incluso por sus creadores.
Tres estándares son especialmente importantes. Primero, los laboratorios de IA deben probar rigurosamente sus modelos antes de publicarlos, con controles que garanticen que no engañen a quienes los prueban. En la carrera por desarrollar el modelo más avanzado del mundo, dichas pruebas podrían resultar insuficientes si no están reguladas. Segundo, los desarrolladores deben tener un enfoque claro y obligatorio para la seguridad posterior al lanzamiento, incluyendo la obligación de divulgar cualquier problema que surja con sus modelos (California y Nueva York han logrado avances en este sentido). Tercero, los sistemas de IA necesitan mecanismos de protección que impidan su uso para producir armas biológicas, incluyendo clasificadores que detecten y bloqueen resultados relevantes.
Los gobiernos no tienen por qué asumir solos la responsabilidad de regular la IA. Sin embargo, deben actuar con rapidez para impulsar la participación de otros actores clave —como consejos de administración, empleados preocupados por la seguridad, auditores, aseguradoras, inversores, clientes corporativos, consumidores y agencias internacionales— en la mitigación de los riesgos de los ataques impulsados por la IA. Si bien la tecnología puede ser deslumbrante, también ha dado paso a un mundo más volátil.
La autora es decana de la Escuela de Gobierno Blavatnik de la Universidad de Oxford.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
