El resultado más concreto de la reunión del mes pasado entre el presidente estadounidense Donald Trump y el presidente chino Xi Jinping fue un acuerdo aparente para establecer un canal de comunicación entre Estados Unidos y China para informar sobre incidentes de IA. Pero incluso si alguno de los gobiernos se muestra dispuesto a utilizar esta línea directa o a comenzar a enviar datos a través del Pacífico, primero deben abordar un problema más acuciante: las empresas de IA de vanguardia de Estados Unidos y China actualmente no proporcionan la información que necesitan.
En Estados Unidos, ninguna ley o reglamento federal exige específicamente a las empresas de IA que informen al gobierno sobre incidentes de seguridad y capacidades peligrosas. Si bien algunos estados han aprobado leyes de notificación de incidentes, la legislación federal, como la Ley de Notificación de Incidentes de IA y la Ley FRONTIER, se ha estancado en el Congreso. La industria aún se autorregula en gran medida.
Además, si bien el Acuerdo de la Casa Blanca sobre Superinteligencia se compromete a identificar y solucionar problemas de seguridad, no exige la notificación a los reguladores ni establece plazos para la presentación de informes. La Fuerza de Superinteligencia, creada por la administración Trump, está desarrollando mecanismos gubernamentales para informar sobre filtraciones, ciberataques y otros incidentes relacionados con la IA. Sin embargo, no es un organismo regulador, y sus recomendaciones tendrían que implementarse mediante medidas coercitivas.
También existe una grave falta de financiación para las pruebas y la supervisión del gobierno federal. Según el Informe del Índice de IA de Stanford de 2026, los desarrolladores estadounidenses lanzaron el año pasado 59 modelos de IA destacados, mientras que los desarrolladores británicos lanzaron solo uno. Sin embargo, la principal agencia federal estadounidense de pruebas de IA, el Centro para el Avance de la Innovación y los Estándares para la Superinteligencia (CAISSI) del Departamento de Comercio, tiene un presupuesto anual de tan solo 15 millones de dólares, mientras que el Instituto de Seguridad de la IA (AISI) del Reino Unido tiene un presupuesto de casi 90 millones de dólares.
Dado que el Acuerdo de la Casa Blanca parece prever que los laboratorios de vanguardia realicen la mayor parte de las pruebas de seguridad por sí mismos, queda por ver qué papel desempeñaría el gobierno en la validación de dichas pruebas y si algún organismo gubernamental tendría acceso a la capacidad informática suficiente para llevar a cabo sus propias pruebas.
A diferencia de Estados Unidos, el gobierno chino no enfrenta obstáculos políticos y ya ha establecido una sólida estructura regulatoria. La Administración del Ciberespacio de China (CAC) ha solicitado recientemente controles de comportamiento, trazabilidad de modelos, pruebas de seguridad y salvaguardias contra vulnerabilidades del sistema y pérdida de control. Sin embargo, aún no existe un organismo chino equivalente a CAISSI, un organismo especializado y centralizado de seguridad de la IA con un mandato definido. El gobierno tiene amplia autoridad sobre las empresas tecnológicas, pero la supervisión se encuentra dispersa entre la CAC, el Ministerio de Industria y Tecnología de la Información, la Comisión Nacional de Desarrollo y Reforma (NDRC), el Ministerio de Ciencia y Tecnología y otras agencias.
Evaluar el riesgo de los modelos de IA de vanguardia requiere experiencia técnica y coordinación entre todos los departamentos gubernamentales chinos pertinentes, incluidos los servicios de seguridad. Sin embargo, algunas agencias gubernamentales chinas carecen de la capacidad técnica suficiente, y muchas de las personas con mayor experiencia técnica trabajan en institutos de investigación privados sin autoridad para exigir acceso a los modelos más avanzados de una empresa, y mucho menos para inspeccionar sus registros internos o forzarla a realizar cambios.
Por ahora, el gobierno ha enviado funcionarios de la CAC y la NDRC a laboratorios chinos para analizar la posibilidad de restringir el lanzamiento de los modelos más avanzados. Sin embargo, las autoridades eventualmente deberán exigir equipos internos de pruebas de seguridad, acceso a capacidad informática suficiente y pruebas previas al lanzamiento de los modelos más avanzados.
Con el próximo diálogo sino-estadounidense sobre seguridad en IA programado para noviembre, Estados Unidos y China deberían centrarse en cómo mejorar la eficacia de un canal de notificación de incidentes. Por su parte, el gobierno estadounidense necesita una política transparente y obligatoria para la evaluación de modelos de vanguardia. La Casa Blanca debería divulgar su marco actual y hacerlo vinculante, o bien colaborar con el Congreso para aprobar legislación como la Ley FRONTIER, de carácter bipartidista. El gobierno federal también debe establecer normas para las auditorías externas de las empresas de IA, otorgando a los auditores un mandato claro, obligaciones de presentación de informes y una independencia significativa (con auditores seleccionados y remunerados por un organismo del sector o una agencia gubernamental).
Al mismo tiempo, la administración Trump debe ser más proactiva en el control del cumplimiento normativo por parte de las empresas. Debería utilizar la Fuerza de Superinteligencia para revisar el actual y deficiente proceso de lanzamiento de los modelos más avanzados, considerar qué hacer con los modelos de peso abierto cada vez más capaces y comenzar a avanzar hacia un mecanismo de respuesta a incidentes que sea efectivo.
Por la parte china, para poner en marcha el canal de denuncia sería necesario subsanar la brecha entre autoridad y experiencia. La CAC podría definir las expectativas de seguridad y los mecanismos de denuncia; los organismos técnicos podrían desarrollar y validar las evaluaciones; la NDRC y otros organismos industriales podrían sopesar los efectos sobre la inversión y la difusión; y el Ministerio de Comercio seguiría siendo relevante en lo que respecta a la transferencia de tecnología y las normas de exportación. Dado que Estados Unidos ha facultado a la Fuerza de Superinteligencia para realizar una revisión exhaustiva del papel del gobierno estadounidense, China debería considerar una medida similar.
China también necesita abordar su falta de capacidad de evaluación y el acceso limitado a recursos informáticos en empresas, evaluadores y organismos gubernamentales. Los rápidos avances en los modelos chinos de ponderación abierta hacen que esto sea particularmente importante, ya que una vez que se publican las ponderaciones del modelo, los desarrolladores tienen mucha menos visibilidad sobre cómo se utilizan o se hacen mal sus sistemas.
El incipiente marco Z.ai-Concordia es una plantilla potencial. Clasifica los modelos en tres categorías: modelos de zona verde, que pueden publicarse sin problemas; modelos de zona amarilla, que requieren una publicación gradual, acceso estructurado para investigadores autorizados o alojamiento solo mediante API mientras se evalúan los pesos; y publicaciones de zona roja, que se suspenden a la espera de revisión.
La seguridad de la IA es un desafío global. Abordarlo depende de una colaboración estrecha y creciente entre las dos principales potencias en IA, y un canal de denuncia para incidentes de IA es solo un pequeño paso en la dirección correcta. Los gobiernos de Estados Unidos y China tardarán mucho tiempo en alcanzar acuerdos vinculantes y verificables. No pueden permitirse el lujo de verse retrasados por no implementar reformas internas.
Los autores, Lizzi C. Lee, es investigadora sobre la economía china en el Centro de Análisis de China del Instituto de Políticas de la Sociedad Asiática, donde dirige el pilar de Economía y Tecnología del Centro; Simon Hedlin es antiguo miembro de GovAI, es un investigador de políticas de IA centrado en modelos de ponderación abierta.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org
