La forma correcta de regular la IA

Si bien Bessent comparte la determinación del gobierno de derrotar a China, situar al Departamento del Tesoro en el centro de la supervisión de la IA en Estados Unidos aporta una perspectiva institucional valiosa. Desde la perspectiva de la seguridad nacional, la ciberseguridad, la estabilidad financiera y la infraestructura crítica, la IA exige una filosofía regulatoria muy distinta a la del enfoque de libre mercado y no intervención que ha caracterizado la política de IA de Trump hasta ahora.

La última propuesta de Bessent es la señal más clara de ese cambio. Según Bloomberg, la administración Trump podría crear próximamente una agencia inspirada en la Autoridad Reguladora de la Industria Financiera (FINRA), una organización autorreguladora financiada por la industria que supervisa a los intermediarios financieros bajo un marco autorizado por el Congreso y supervisado por la Comisión de Bolsa y Valores (SEC).

La buena noticia es que, por primera vez, una administración estadounidense está considerando seriamente la creación de un organismo dedicado a proteger el interés público mediante la evaluación de modelos de IA de vanguardia antes de su lanzamiento. El problema radica en que la agencia propuesta se inspira en la FINRA, que está gobernada y financiada por la misma industria que regula. Por lo tanto, no sorprende que Demis Hassabis, CEO de Google DeepMind, haya defendido este enfoque desde hace tiempo.

Más allá del evidente conflicto de intereses, este modelo presenta una falla aún más fundamental: no está diseñado para detectar el riesgo sistémico. Esta debilidad quedó al descubierto durante la crisis financiera mundial de 2008, que se estima que costó a la economía estadounidense 22 billones de dólares e impulsó las reformas de la Ley Dodd-Frank, incluida la creación del Consejo de Supervisión de la Estabilidad Financiera.

Un modelo al estilo de FINRA no es adecuado para la supervisión de la IA. En cambio, los gobiernos deberían desarrollar su propia experiencia en IA, basándose en los mecanismos de supervisión pública introducidos tras el surgimiento de la IA generativa. Una de estas medidas fue la orden ejecutiva del expresidente estadounidense Joe Biden que exigía a los desarrolladores de modelos de IA de vanguardia compartir los resultados de sus pruebas de seguridad con el gobierno federal antes de su lanzamiento. Ese mismo año, el primer ministro británico Rishi Sunak lanzó la Cumbre de Seguridad de la IA y encargó la primera Cumbre Internacional de Seguridad de la IA. El informe sentó las bases para la creación de los Institutos de Seguridad de la IA.

Tras la presentación de Mythos de Anthropic, el modelo de exploración más potente hasta la fecha, Trump emitió su propia orden ejecutiva. Sin embargo, esta resulta insuficiente, ya que deja la evaluación previa al lanzamiento como voluntaria. Esto crea un profundo desequilibrio: los sistemas de IA cada vez más potentes de hoy requieren instituciones públicas independientes con la experiencia y la autoridad necesarias para supervisarlos, y la orden ejecutiva de Trump no proporciona ninguna de las dos.

La misma asimetría es evidente en la forma en que los gobiernos abordan los riesgos de la IA. Tienden a tratar la IA Se la considera principalmente un desafío para la seguridad nacional, dedicándose muchos menos recursos a abordar sus efectos en el empleo, la sanidad, la educación y otros aspectos de la vida cotidiana. Incluso la Ley de IA de la Unión Europea, a pesar de exigir evaluaciones de estos riesgos sociales, hace mayor hincapié en la ciberseguridad.

Una excepción notable es el creciente reconocimiento de los riesgos que la IA supone para los niños en internet, lo que ha dado lugar a medidas legislativas y judiciales en muchos países, incluidos los Estados Unidos. Sin embargo, sus consecuencias sociales más amplias —como sus efectos en el desarrollo cognitivo, las oportunidades económicas de las mujeres y la privacidad— aún no han motivado una respuesta estratégica coherente.

Estas prioridades distorsionadas se deben a que el desarrollo de la IA se concibe como una carrera geopolítica. Sin embargo, el liderazgo tecnológico tiene poco valor si se logra a expensas de la salud de los trabajadores, la resiliencia social y la capacidad de las personas para llevar una vida plena. Un país que desarrolla los modelos de IA más avanzados del mundo mientras descuida a su fuerza laboral y contamina su discurso público con desinformación no ha ganado nada que valga la pena ganar.

Abordar estos desafíos sociales no es incompatible con la competitividad. Al contrario, es fundamental tanto para la competitividad como para la seguridad nacional. En última instancia, lo que determina el éxito en la era de la IA no son solo las capacidades de los modelos de vanguardia de un país, sino también la solidez de las instituciones que protegen el bienestar de sus ciudadanos: escuelas y universidades, servicios de salud y asistencia social, y un poder judicial independiente.

Sin embargo, son precisamente esas instituciones las que tienen dificultades para seguir el ritmo del cambio tecnológico. En los mercados educativos y laborales, la OCDE ha constatado que los beneficios de la IA se distribuyen de forma desigual, reforzando las desigualdades existentes: los estudiantes que ya cuentan con ventajas están mejor posicionados para beneficiarse del aprendizaje impulsado por la IA, mientras que los trabajadores cualificados se adaptan con mayor facilidad que aquellos con menos cualificaciones.

Se observan tendencias similares en la atención médica, el bienestar social y el sistema judicial. A medida que la toma de decisiones se delega a la IA a gran escala, los errores se vuelven más difíciles de impugnar, especialmente para quienes tienen menos recursos para hacerlo. Una base de datos sobre alucinaciones generadas por IA, mantenida por Damien Charlotin de HEC Paris, ha documentado más de 1800 casos en todo el mundo en los que los jueces identificaron material falsificado generado por IA, a menudo presentado por litigantes que se representaban a sí mismos y no podían costearse un abogado.

Las implicaciones para la integridad judicial son de gran alcance. Los tribunales dependen de la capacidad de verificar los hechos y las pruebas, pero la IA está dificultando cada vez más esta tarea, y la carga recae desproporcionadamente sobre quienes ya se encuentran en desventaja. En julio, por ejemplo, la Corte Suprema de la India anuló dos fallos de tribunales inferiores basados en jurisprudencia inexistente, advirtiendo que confiar en precedentes generados por IA sin verificar “socava el estado de derecho”.

Sin duda, muchos de los efectos sociales de la IA no pueden evaluarse antes de su implementación del mismo modo que los riesgos de ciberseguridad. Pero esa es precisamente la razón de ser de una supervisión pública continua.

En lugar de otra agencia controlada por la industria, lo que Estados Unidos y otros países necesitan es el equivalente en inteligencia artificial del Consejo de Supervisión de la Estabilidad Financiera: un organismo regulador encargado de identificar los riesgos sistémicos para la educación, la salud, el mercado laboral y el poder judicial. Ya hemos creado organismos similares para salvaguardar la estabilidad financiera y la seguridad nacional. Es hora de hacer lo mismo con las instituciones de las que depende la sociedad.

Las autoras, Gabriela Ramos es copresidenta del Grupo de Trabajo sobre Desigualdades y Divulgación de Información Financiera con Relación Social, es ex subdirectora general de ciencias sociales y humanas de la UNESCO, donde supervisó la elaboración de la Recomendación sobre la Ética de la IA, y ex jefa de gabinete de la OCDE y sherpa ante el G20, el G7 y la APEC; Emilija Stojmenova Duh es profesora asociada de Ingeniería Eléctrica en la Universidad de Liubliana, es miembro del Consejo de la Fundación Globethics, miembro del Panel Científico de IA de la UE y exministra de Transformación Digital de Eslovenia.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org