Lista de reproducción
- No hay más artículos para escuchar
En los últimos tiempos, Grok, el sistema de inteligencia artificial desarrollado por xAI de Elon Musk, ha estado generando imágenes sexualizadas no consensuadas de mujeres y niños en la plataforma de redes sociales X. Esto ha provocado investigaciones y un escrutinio formal por parte de los reguladores de la Unión Europea, Francia, India, Malasia y el Reino Unido. Los funcionarios europeos han calificado la conducta de ilegal. Los reguladores británicos han iniciado investigaciones urgentes. Otros gobiernos han advertido que la producción de Grok podría violar las leyes nacionales penales y de seguridad de la plataforma. Lejos de ser disputas regulatorias marginales, estas discusiones llegan al corazón de la gobernanza de la IA.
Los gobiernos de todo el mundo coinciden cada vez más en una premisa básica de la gobernanza de la IA: los sistemas implementados a gran escala deben ser seguros, controlables y estar sujetos a una supervisión rigurosa. Ya sea enmarcadas en la Ley de Servicios Digitales (DSA) de la UE, los Principios de IA de la OCDE, el marco ético de la IA de la Unesco o los nuevos regímenes nacionales de seguridad, estas normas son claras e inquebrantables. Los sistemas de IA que permiten daños previsibles, en particular la explotación sexual, son incompatibles con las expectativas de la sociedad respecto a la tecnología y su gobernanza.
Existe un amplio consenso mundial en que las imágenes sexualizadas que involucran a menores, ya sean reales, manipuladas o generadas por IA, constituyen una de las líneas rojas más claras en la gobernanza tecnológica. El derecho internacional, los marcos de derechos humanos y las leyes penales nacionales convergen en este punto.
Grok no se encuentra en una zona gris. Refleja una falla clara y fundamental en el diseño, las evaluaciones de seguridad, la supervisión y el control del sistema. La facilidad con la que Grok puede ser inducido a producir imágenes sexualizadas que involucran a menores, el amplio escrutinio regulatorio al que se enfrenta actualmente y la ausencia de pruebas de seguridad verificables públicamente apuntan a un incumplimiento de las expectativas básicas de la sociedad para sistemas de IA potentes. El anuncio de Musk de que el servicio de generación de imágenes ahora estará disponible solo para suscriptores de pago no soluciona estas fallas.
Este no es un problema aislado para Grok. En julio pasado, el gobierno de Polonia instó a la UE a abrir una investigación sobre Grok por su comportamiento «errático». En octubre, más de 20 organizaciones cívicas y de interés público enviaron una carta instando a la Oficina de Administración y Presupuesto de EE. UU. a suspender el despliegue planificado de Grok en las agencias federales de Estados Unidos. Muchos expertos en seguridad de IA han planteado preocupaciones sobre la idoneidad de las barandillas de Grok , y algunos argumentan que su arquitectura de seguridad es inadecuada para un sistema de su escala.
Estas preocupaciones fueron ignoradas en gran medida, ya que gobiernos y líderes políticos buscaron colaborar, colaborar o cortejar a xAI y a su fundador. Sin embargo, el hecho de que xAI esté ahora bajo escrutinio en múltiples jurisdicciones parece justificarlas, a la vez que expone un profundo problema estructural: se están implementando sistemas avanzados de IA y poniéndolos a disposición del público sin garantías proporcionales a sus riesgos. Esto debería servir de advertencia a los estados que estén considerando implementar sistemas de IA similares.
A medida que los gobiernos integran cada vez más sistemas de IA en la administración pública, las contrataciones públicas y los procesos de elaboración de políticas, conservar la confianza pública requerirá garantías de que estas tecnologías cumplen con las obligaciones internacionales, respetan los derechos fundamentales y no exponen a las instituciones a riesgos legales ni reputacionales. Para ello, los reguladores deben utilizar el caso Grok para demostrar que sus normas no son opcionales.
La gobernanza responsable de la IA depende de la coherencia entre los principios establecidos y las decisiones operativas. Si bien muchos gobiernos y organismos intergubernamentales han expresado compromisos con sistemas de IA seguros, objetivos y sujetos a supervisión continua, estos pierden credibilidad cuando los Estados toleran con aparente impunidad el despliegue de sistemas que violan normas internacionales ampliamente compartidas.
Por el contrario, suspender la implementación de un modelo a la espera de una evaluación rigurosa y transparente es coherente con las mejores prácticas globales en la gestión de riesgos de la IA. Esto permite a los gobiernos determinar si un sistema cumple con la legislación nacional, las normas internacionales y las expectativas de seguridad en constante evolución antes de que se consolide. Igualmente importante, demuestra que los marcos de gobernanza no son meras declaraciones aspiracionales, sino limitaciones operativas, y que las infracciones tendrán consecuencias reales.
El episodio de Grok subraya una lección fundamental de la era de la IA: las fallas de gobernanza pueden escalar tan rápidamente como las capacidades tecnológicas. Cuando fallan las barreras de seguridad, los daños no se limitan a una sola plataforma o jurisdicción, sino que se propagan globalmente, desencadenando respuestas de las instituciones públicas y los sistemas legales.
Para los reguladores europeos, el reciente resultado de Grok constituye una prueba decisiva sobre si la DSA funcionará como un régimen de cumplimiento vinculante o se reducirá a una mera declaración de intenciones. En un momento en que los gobiernos, tanto de la UE como de otros países, aún están definiendo los límites de la gobernanza global de la IA, el caso podría servir como un primer indicador de lo que las empresas tecnológicas pueden esperar cuando los sistemas de IA traspasen las fronteras legales, especialmente cuando el daño implique conductas tan atroces como la sexualización de menores.
Una respuesta limitada a declaraciones públicas de preocupación incitará a futuros abusos, al indicar que la aplicación de la ley carece de fuerza. Una respuesta que incluya investigaciones, suspensiones y sanciones, en cambio, dejaría claro que no se pueden cruzar ciertos límites, independientemente del tamaño, la relevancia o el capital político de una empresa.
Grok no debe ser tratado como una anomalía desafortunada que se pueda gestionar discretamente y dejar atrás, sino como la grave violación que es. Como mínimo, debe haber una investigación formal, la suspensión del despliegue y una aplicación efectiva de las medidas.
Las medidas de seguridad laxas, las salvaguardias inadecuadas o la poca transparencia en las pruebas de seguridad deberían tener consecuencias. Cuando los contratos gubernamentales incluyan disposiciones relacionadas con la seguridad, el cumplimiento normativo o la rescisión con causa, estas deben aplicarse. Y cuando las leyes prevean sanciones o multas, estas deben aplicarse. Cualquier medida inferior podría dar la impresión a las grandes empresas tecnológicas de que pueden implementar sistemas de IA de forma imprudente, sin temor a ser responsables si estos sistemas traspasan incluso las líneas rojas legales y morales más evidentes.
El autor es defensor de la responsabilidad de las grandes tecnológicas en Public Citizen.
Derechos de autor: Project Syndicate, 2026.
www.project-syndicate.org
