¡Peligro! Ya hay IA avanzada

Para Greg Brockman, presidente de OpenAI, la llegada de GPT-6 Astra marca ya la era de la AGI. Preguntado directamente si Astra lo representa, respondió: “Para mí, personalmente, creo que ya estamos ahí”.

Aunque hay que decir que no todos utilizan la misma definición de AGI, por lo que la afirmación de Brockman debe entenderse también como una valoración sobre dónde se encuentra actualmente la tecnología, no como un hecho científico universalmente aceptado.

Y es que GPT-6 Astra es capaz de razonamiento y resolución de problemas complejos: tiene capacidad para analizar un problema, dividirlo en partes, establecer relaciones y llegar a una solución que no está explícitamente dada.

Cuanta más capacidad tenga la IA más importante es establecer sus límites

Finalmente, esta es una IA que no solo interpreta y planifica, también actúa. Puede ejecutar de manera autónoma determinadas tareas. No solo aconseja qué hacer, sino que puede realizar determinadas acciones por sí misma, dentro de los permisos que tenga.

Supongamos que una empresa le pide investigar por qué ha disminuido su productividad. Un chatbot tradicional podría ofrecer algunas hipótesis. Un sistema más avanzado podría analizar miles de documentos, consultar bases de datos e Internet, escribir programas para procesar la información, buscar patrones, formular hipótesis y comparar alternativas. Después podría preparar un informe y elaborar un plan de acción. Y, si cuenta con los permisos necesarios, ejecutar directamente algunas de sus recomendaciones.

Este salto —de responder preguntas a perseguir objetivos mediante una cadena de acciones— es probablemente el aspecto más importante, y conecta directamente con la pregunta: ¿Quién tiene el control? Porque, cuanta más capacidad tenga un sistema para razonar, planificar, utilizar herramientas y actuar autónomamente, más importante se vuelve saber qué objetivos persigue, qué límites tiene y quién puede detenerlo.

El AI Index 2026 señala que la industria produjo más del 90 por ciento de los modelos de frontera destacados durante 2025, y que varios ya igualan o superan referencias humanas en determinadas tareas de ciencia a nivel doctoral, razonamiento multimodal y matemáticas competitivas.

¿Qué controles hay?

Ante el salto dado por OpenAI, debemos preguntarnos ¿cómo estamos intentando controlar estos sistemas? Entre las defensas actuales están el entrenamiento de alineamiento, los filtros y límites de acceso, la supervisión humana y el red teaming, que consiste en intentar deliberadamente hacer fallar al sistema para descubrir sus vulnerabilidades antes de ponerlo en manos del público.

También existen marcos públicos como el AI Risk Management Framework, del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST), organismo que desarrolla estándares y marcos para evaluar y gestionar riesgos tecnológicos, incluida la inteligencia artificial, y proporciona métodos para identificar y gestionar riesgos de IA. Además, está desarrollando un perfil específico para IA aplicada a infraestructura crítica. Y la Unión Europea está convirtiendo progresivamente determinadas obligaciones de seguridad en requisitos legales mediante el AI Act.

No obstante, los controles actuales son fundamentalmente defensivos, es decir, construyen el modelo, lo prueban, encuentran problemas, y colocan barreras. Esas defensas reducen los riesgos, pero ninguna garantiza por sí sola que un sistema suficientemente complejo se comporte siempre como se espera.

El International AI Safety Report 2026 señala que los modelos han mejorado en capacidades relevantes para la autonomía y que investigadores han observado comportamientos como reconocer cuándo están siendo evaluados, encontrar atajos en las evaluaciones y encontrar una manera de obtener una buena “recompensa” o cumplir la métrica que se le asignó sin alcanzar realmente el objetivo que los humanos pretendían. Es decir, la IA aprende a “hacer trampa” con la regla, en lugar de hacer aquello que la regla pretendía conseguir.

Cuatro niveles de riesgos

La IA de frontera (la más avanzada) está controlada por pocas manos en EE. UU. y China. Detrás de los modelos existen enormes cantidades de chips, centros de datos, electricidad, capital, talento, datos e infraestructura de nube. Por ejemplo, NVIDIA ocupa una posición extraordinariamente importante en el suministro de aceleradores utilizados para IA. La agencia de noticias Reuters informó la semana pasada que la compañía tiene más del 80 por ciento del mercado de ciertos chips de centros de datos para IA.

La cuestión del poder no es simplemente ¿quién posee ChatGPT?, sino ¿quién controla la infraestructura necesaria para construir la próxima generación de inteligencias artificiales? La respuesta es: un número relativamente pequeño de empresas y gobiernos, lo cual tiene consecuencias geopolíticas enormes.

Para comprender mejor el problema, podemos ordenar los riesgos en cuatro niveles: el que ya ocurre, con riesgos que no requieren superinteligencia, como desinformación, fraude, suplantación, ciberataques, errores médicos o legales, discriminación algorítmica, pérdida de privacidad y manipulación.

En el nivel dos, un agente IA no solamente responde: “Aquí tenés el código”. Puede eventualmente escribir: “Voy a analizar el problema, escribir el código, ejecutarlo, encontrar el error, corregirlo, probarlo y desplegarlo”. Cada paso adicional aumenta la capacidad de hacer cosas útiles. Pero también sube la posibilidad de que un error se propague antes de que un ser humano intervenga.

¿Seguirá siendo posible supervisar eficazmente a la IA?

El informe internacional señala que los sistemas actuales no poseen todavía las capacidades necesarias para escenarios de pérdida de control sostenida, aunque algunas capacidades relevantes están progresando

El nivel tres es de riesgos extremos cuando una IA pueda realizar investigación científica; programar; diseñar sistemas; replicar estrategias; persuadir personas; operar herramientas; mantener objetivos durante largos períodos; descubrir vulnerabilidades; y, mejorar sus propios métodos. Entonces surge la pregunta: ¿Seguirá siendo posible supervisarla eficazmente?

El nivel cuatro es el de riesgo existencial, el escenario más extremo, en el que una IA suficientemente poderosa podría llegar a tener la capacidad de actuar de manera que los seres humanos no pudieran detenerla. No existe evidencia científica que permita afirmar que ese escenario ocurrirá; existe, en cambio, un intenso debate sobre su plausibilidad y sobre las capacidades que serían necesarias para que pudiera producirse.

Se están desarrollando sistemas cada vez más capaces, cada vez más autónomos, en una industria altamente concentrada, dentro de una carrera económica y geopolítica, mientras los mecanismos de control todavía son imperfectos y buena parte de la regulación llega después de que aparece la capacidad tecnológica.

Pocas empresas y laboratorios concentran la IA

Se está creando una tecnología cuyo poder puede concentrarse en unas pocas organizaciones como OpenAI, Google DeepMind, Anthropic, Meta y varias empresas y laboratorios chinos. Por otro lado, sus consecuencias pueden distribuirse sobre miles de millones de personas. El mayor problema es que el desarrollo tecnológico está avanzando más rápidamente que la capacidad política humana para gobernarlo.

Con GPT-6 Astra, de OpenAI, el temido «futuro» de la IA parece haberse convertido súbitamente en presente, si hemos de concordar con Greg Brockman en que ya estamos en la era de Artificial General Intelligence (AGI), o Inteligencia Artificial General, con una amplitud y flexibilidad intelectual comparable a la humana, porque puede aprender, razonar, adaptarse y desenvolverse competentemente en prácticamente cualquier tarea intelectual que pueda realizar una persona.

Pero AGI no significa necesariamente que sea superior al ser humano. Podría tener aproximadamente nuestra amplitud intelectual, pero no necesariamente nuestra velocidad o profundidad.

Los seres humanos podemos irle dando demasiada autoridad a la IA

Y quizás más temprano de lo que la mayoría de científicos suponía, esto nos coloca en el umbral de la superinteligencia, un intelecto que supera ampliamente a los mejores humanos en prácticamente todas las actividades intelectuales relevantes. Sería mejor que las mejores mentes en matemáticas; programación; ciencias; estrategias; ingenierías; e investigación. Y además podrá trabajar 24 horas al día, y hacer miles de copias simultáneas a una velocidad electrónica. Sería una diferencia de escala.

Ya veremos que problemas nos depara la AGI. Mientras, ya hay suficientes riesgos en qué ocuparse. Y hay una segunda amenaza que me parece incluso más inmediata, porque los seres humanos podemos darle demasiada autoridad a la IA, y podría ocurrir que millones de empresas empezaran a delegar y progresivamente ir dejando que la inteligencia artificial contrate, despida, conceda créditos, escriba programas, administre hospitales, gestione inversiones, controle infraestructura, produzca información, negocie y tome decisiones administrativas.

Quizás la pérdida de control no comience el día en que una inteligencia artificial decida desobedecernos. Puede comenzar mucho antes: el día en que descubramos que resulta tan útil, rápida y eficiente que nosotros mismos empezamos a entregarle decisiones que después ya no sabremos tomar sin ella. El peligro no sería entonces que la IA nos arrebatara el control. Sería que nosotros se lo fuéramos entregando.

Los riesgos ya están aquí, y con la llegada de la AGI podrían empeorar.

El autor es exiliado político nicaragüense.
(Este artículo ha sido elaborado con información suministrada por inteligencia artificial).