Lista de reproducción
- No hay más artículos para escuchar
Recientemente, la inteligencia artificial (IA) me ayudó, de manera sustantiva, a diagramar y diseñar cerca de 50 páginas que pronto conformarán el sitio Web de una organización sin fines de lucro. También me exigió al máximo para crear sus contenidos, a partir de una estructura definida después de un estudio comparativo de importantes organizaciones sociales del mundo con un perfil similar al nuestro. ¡Asombroso! ¡Maravilloso! ¡Deslumbrante! ¡Colosal!
Pero, por encima de todo, me impresionó su capacidad para procesar cantidades enormes de información. Por esto veo también el monstruo en el que la IA podría convertirse y sigo con atención el intenso debate mundial que se desarrolla en torno a ella. No se trata de una discusión entre unos cuantos especialistas aislados. Participan científicos de primer nivel, investigadores de seguridad, personas que trabajan dentro de las grandes empresas tecnológicas, organismos internacionales, gobiernos y organizaciones defensoras de los derechos humanos.
Más de un centenar de expertos de unos 30 países, dirigidos por Yoshua Bengio, Premio Turing 2018 y uno de los pioneros fundamentales de la IA, publicaron el International AI Safety Report 2026. Su conclusión puede resumirse de una manera sencilla: la IA ofrece enormes beneficios, pero sus capacidades están creciendo más rápidamente que nuestra certeza de poder controlarlas.
La frase merece detenerse en ella. El problema no es solamente lo que las máquinas pueden hacer hoy, sino la velocidad con la que están adquiriendo nuevas capacidades y nuestra dificultad para comprender plenamente cómo las adquieren. Tampoco sabemos si las salvaguardas que funcionan con los sistemas actuales continuarán siendo suficientes cuando estos sean mucho más capaces.
El problema que todavía no sabemos controlar
El informe no afirma que una pérdida de control sea inminente. Los sistemas actuales todavía no tienen las capacidades necesarias para producirla. Sin embargo, algunas habilidades relevantes —como la autonomía, la búsqueda de estrategias alternativas y la posibilidad de eludir determinadas evaluaciones— están aumentando, mientras las técnicas de gestión de riesgos continúan siendo insuficientes.
Es aquí donde aparecen algunas de las advertencias más inquietantes.
Geoffrey Hinton y Yoshua Bengio han planteado repetidamente la posibilidad de que sistemas futuros lleguen a superar a los seres humanos en determinadas áreas y sean cada vez más difíciles de controlar. Las preguntas que surgen son incómodas: ¿Qué ocurre cuando un sistema recibe objetivos mal definidos? ¿Qué sucede cuando puede actuar autónomamente? ¿Cómo impedir que engañe o manipule a las personas? ¿Cómo comprobar que hace realmente lo que creemos que hace? Y, sobre todo, ¿qué ocurrirá cuando esos sistemas estén conectados a internet, a los sistemas financieros, a infraestructuras críticas o incluso a armas?
¿Qué sucedería si construimos sistemas capaces de planificar, utilizar herramientas, escribir y ejecutar código, persuadir personas y perseguir objetivos durante períodos prolongados, pero no podemos garantizar que sus acciones permanezcan alineadas con lo que realmente queríamos?
Mantener a la IA alineada con los intereses humanos
Stuart Russell plantea el problema desde una perspectiva particularmente interesante. El peligro no consiste necesariamente en que una máquina llegue a “odiar” a los seres humanos. Puede bastar con que persiga de manera extremadamente eficaz un objetivo que nosotros hayamos especificado mal. Por eso propone cambiar el paradigma: en lugar de construir máquinas que simplemente maximicen un objetivo, desarrollar sistemas que reconozcan que pueden equivocarse respecto de las preferencias humanas y permanezcan bajo control humano.
Max Tegmark formula una pregunta todavía más amplia: ¿Qué sucedería si creamos una inteligencia artificial que supere ampliamente la inteligencia humana y pueda mejorar sus propias capacidades? Su conclusión es contundente: debemos saber cómo mantenerla alineada con los intereses humanos antes de crearla.
Nick Bostrom ya había planteado este problema mucho antes de la aparición de ChatGPT. Una inteligencia extremadamente poderosa no necesita tener deseos humanos para resultar peligrosa. Si dispone de una meta y de enormes capacidades para alcanzarla, podría adoptar estrategias instrumentales —conseguir recursos, evitar ser apagada, aumentar su capacidad o manipular a quienes interfieran— aunque esas conductas no hayan sido programadas explícitamente.
La cuestión, entonces, deja de ser una fantasía cinematográfica. Se convierte en un problema de diseño: ¿Cómo construir sistemas cada vez más poderosos sin perder nuestra capacidad de dirigirlos, supervisarlos y, llegado el caso, detenerlos?
El futuro no es el único problema
Sería un error, sin embargo, concentrar toda la discusión en una eventual superinteligencia. El propio debate científico muestra que existen peligros mucho más inmediatos. Un estudio realizado a finales de 2025 entre 272 especialistas internacionales situó entre las principales preocupaciones para los próximos cinco años las capacidades peligrosas, las armas y los ciberataques, la concentración de poder, las dinámicas competitivas y la información falsa.
Y una encuesta realizada en 2026 entre más de 4,000 investigadores de IA encontró que solamente cerca del 3 por ciento identificaba el riesgo existencial como su principal preocupación. La mayoría estaba mucho más preocupada por problemas que ya están ocurriendo: desinformación, abuso, concentración de poder, problemas laborales, privacidad y otros daños sociales.
Ahí está quizá una de las claves para entender el debate. No necesitamos esperar a que aparezca una inteligencia artificial superior a la humana para empezar a preocuparnos.
La IA ya permite producir textos, fotografías, videos y voces falsas a una escala enorme. Puede utilizarse para fraude, propaganda y manipulación política. Puede facilitar ciberataques incluso a personas con conocimientos técnicos limitados. Una persona puede recibir una llamada con una voz prácticamente idéntica a la de un familiar y ser engañada.
Y existe otro peligro, menos espectacular pero extraordinariamente cotidiano: una IA puede proporcionar una respuesta incorrecta y expresarla con enorme seguridad y apariencia de autoridad.
Esto plantea un desafío nuevo para los seres humanos. Durante mucho tiempo aprendimos a desconfiar de una información cuando parecía dudosa. Ahora debemos aprender a desconfiar también de una información que parece perfectamente convincente.
El poder detrás de la inteligencia artificial
A los riesgos de engaño y desinformación se suma una transformación económica y social de dimensiones todavía difíciles de calcular. La IA puede transformar profesiones, hacer desaparecer determinados puestos intermedios y contribuir a una concentración todavía mayor del poder económico. Un número relativamente pequeño de empresas posee una parte extraordinariamente importante de la infraestructura, los modelos y los datos necesarios para desarrollar IA avanzada.
Por eso la pregunta ya no es solo ¿qué puede hacer la inteligencia artificial? También debemos preguntarnos: ¿Quién posee esa capacidad?, ¿quién decide cómo utilizarla?, ¿quién obtiene sus beneficios y quién asume sus costos?
Daron Acemoglu pone el foco precisamente en esa dirección. No sostiene simplemente que la IA vaya a destruir todos los empleos. Su preocupación es hacia dónde se dirige la automatización. Si las empresas utilizan la IA principalmente para sustituir trabajadores, en lugar de aumentar sus capacidades, la productividad puede crecer mientras los trabajadores reciben una proporción cada vez menor de los beneficios.
Erik Brynjolfsson, por su parte, señala que todavía no existe evidencia de un desplazamiento masivo del empleo en toda la economía debido a la IA, aunque sí observa señales preocupantes entre trabajadores jóvenes en ocupaciones altamente expuestas a esta tecnología.
La discusión laboral, por tanto, tampoco puede reducirse a la pregunta de cuántos puestos desaparecerán. Importa igualmente qué tipo de trabajo conservarán las personas, qué nuevas capacidades tendrán que desarrollar y cómo se distribuirán los beneficios de una tecnología capaz de aumentar enormemente la productividad.
Cuando un error técnico se convierte en una injusticia
Existe además una dimensión que puede pasar inadvertida cuando hablamos de algoritmos, modelos y datos: la Inteligencia Artificial no está aislada de la sociedad que la crea. Timnit Gebru ha llamado la atención sobre problemas que ya existen: sesgos incorporados en los datos, discriminación, concentración de poder, costos ambientales, explotación laboral, falta de transparencia y utilización masiva de datos sin consentimiento suficiente.
Joy Buolamwini ha mostrado que determinados sistemas comerciales de reconocimiento facial presentan tasas de error mucho mayores para mujeres de piel oscura que para hombres de piel clara. Cuando estas tecnologías se utilizan para identificar personas, contratar trabajadores, vigilar o tomar decisiones policiales, un sesgo técnico puede convertirse en discriminación real. La observación es fundamental: un algoritmo puede ser técnicamente defectuoso, pero las consecuencias de ese defecto pueden ser profundamente humanas.
Gary Marcus introduce otra dosis de cautela. No es un alarmista. Cuestiona precisamente que atribuyamos a los modelos actuales capacidades que todavía no poseen. Señala sus errores absurdos, el razonamiento inconsistente, la dificultad para garantizar la veracidad de sus respuestas y su dependencia de correlaciones estadísticas. También cuestiona que aumentar indefinidamente el tamaño de los modelos produzca necesariamente una inteligencia artificial general.
Kate Crawford amplía todavía más la mirada. La inteligencia artificial suele presentarse como algo abstracto, digital e inmaterial. Pero detrás de ella existen enormes centros de datos, electricidad, agua, minerales, trabajadores que etiquetan datos, moderadores de contenido, extracción de información, vigilancia e infraestructura física. La IA, por tanto, no está solamente en la pantalla que tenemos delante. También está en los recursos, las personas y las estructuras económicas que hacen posible su funcionamiento.
¿Quién vigila a quienes desarrollan la IA?
El uso militar lleva la discusión a un terreno todavía más delicado. Organizaciones defensoras de los derechos humanos cuestionan la incorporación de la IA a las cadenas militares de identificación y selección de objetivos, porque aumenta enormemente la velocidad de las operaciones y puede diluir la responsabilidad humana.
Y mientras aumentan las capacidades de estas tecnologías, aparece una contradicción difícil de ignorar. Sam Altman, de OpenAI, reconoce riesgos relacionados con el uso militar, la desinformación, la ciberseguridad, la creciente autonomía, la concentración de poder y, a largo plazo, sistemas que puedan resultar difíciles de controlar. Pero las mismas empresas que advierten sobre esos riesgos tienen enormes incentivos económicos y estratégicos para continuar desarrollando la tecnología.
Demis Hassabis, de Google DeepMind, también reconoce los riesgos del mal uso deliberado y de sistemas cada vez más autónomos. Ha planteado incluso la conveniencia de crear un organismo internacional de supervisión de la IA de frontera (avanzada), con capacidad técnica para evaluar modelos desarrollados y coordinar una desaceleración si aparecieran señales peligrosas.
La propuesta de un organismo internacional plantea una cuestión inevitable: si la Inteligencia Artificial puede convertirse en una tecnología de alcance mundial, ¿puede su supervisión depender únicamente de empresas o gobiernos individuales?
Bill Gates, por su parte, ha advertido sobre la transformación del mercado laboral y sobre riesgos como ciberataques, bioterrorismo, vigilancia, deterioro del pensamiento crítico, efectos sobre los niños y las relaciones humanas, desempleo y desigualdad. También ha planteado la necesidad de cooperación internacional.
La pregunta que queda abierta
Las posiciones son distintas. Algunos expertos temen principalmente un futuro en el que sistemas extremadamente inteligentes escapen a nuestra capacidad de control. Otros consideran que estamos exagerando las capacidades actuales de la IA y que debemos preocuparnos más por los daños concretos que ya produce. Otros concentran su atención en la discriminación, el empleo, la concentración económica, el medio ambiente, la privacidad o el uso militar.
Pero, aunque sus preocupaciones sean diferentes, muchas terminan convergiendo en una misma pregunta: ¿Quién tiene el control?
Al finalizar este artículo, Open IA anunció su nuevo GPT-6 Astra, presentándolo como una IA avanzada (AGI), capaz de realizar tareas complejas de forma autónoma y utilizar herramientas, pero bajo control; es decir, puede resolver problemas de manera similar a un ser humano. Incluye medidas de seguridad robustas para proteger a los usuarios y menores y está diseñado para trabajar durante más tiempo sin supervisión humana.
En otras palabras, ya llegó la tan temida AGI. Y con ello, la pregunta adquiere una urgencia todavía mayor. ¿Quién tiene el control?
El autor es exiliado político nicaragüense.
(Este artículo fue elaborado con apoyo de información de la IA).
