Lista de reproducción
- No hay más artículos para escuchar
Los algoritmos no son neutrales en cuanto a valores. Sin embargo, durante más de una década, hemos permitido que las grandes tecnológicas los utilicen como guardianes de nuestro ecosistema informativo, sin exigir transparencia ni rendición de cuentas a cambio. Las consecuencias han sido diversas: desde la amplificación de contenido polarizador y sensacionalista hasta la publicidad personalizada encubierta, la proliferación de comportamientos monopolísticos y formas de influencia sobre el discurso público que son contrarias a la deliberación democrática.
Aunque aprendimos por las malas las consecuencias de entregar infraestructuras de información críticas a intereses corporativos sin supervisión, ahora estamos repitiendo el mismo error con los chatbots de IA, y las consecuencias podrían ser mucho mayores. Los chatbots no se limitan a seleccionar información existente; la generan y la estructuran. Facebook y Google decidían qué noticias mostrarte, mientras que herramientas como ChatGPT, Claude y Gemini sintetizan esa información en respuestas que suenan autorizadas.
Esta distinción importa, porque el cambio de curador a editor está haciendo que la influencia indebida sea aún menos visible y más perniciosa. Una vez más, estamos cediendo un poder sin precedentes sobre la infraestructura de información del futuro a corporaciones privadas, sin siquiera exigir una supervisión independiente. La amenaza más apremiante no es que estos sistemas de IA puedan descontrolarse, sino que un puñado de partes interesadas se están convirtiendo rápidamente en los guardianes de la información para un gran número de empresas. una proporción creciente de la población.
Los chatbots actuales no son simplemente grandes modelos de lenguaje (MLL). Más bien, se basan en varias capas algorítmicas opacas que influyen en el desarrollo y la implementación del modelo, y cada una puede ser un punto de entrada para que las plataformas u otras partes moldeen la información según sus intereses.
Esta “pila de influencia algorítmica” tiene al menos cinco niveles. El primero es la curación de datos de entrenamiento. Al determinar qué datos se incluyen o excluyen durante el entrenamiento, las plataformas toman decisiones opacas sobre las fuentes, cómo ponderar las diferentes perspectivas y qué contenido filtrar. Estas decisiones dan forma a la visión del mundo del modelo. Por ejemplo, en octubre de 2025, Elon Musk lanzó Grokipedia para proporcionar datos de entrenamiento para su chatbot Grok. Esta enciclopedia, controlada por una corporación, tiene como objetivo ofrecer una alternativa “anti -woke” a Wikipedia y su modelo de gobernanza comunitaria, que durante mucho tiempo ha sido una fuente de información ampliamente confiable en internet.
La segunda capa es el aprendizaje por refuerzo mediante retroalimentación humana y de IA, el proceso que transformó los modelos de lenguaje natural (MLN) de generadores de texto impredecibles en «asistentes» útiles. Durante esta etapa de «posterior al entrenamiento» del desarrollo de un modelo, revisores humanos califican los resultados para guiar al sistema hacia los comportamientos deseados, como la utilidad o la cortesía. Por ahora, estas evaluaciones humanas siguen siendo una parte importante, aunque en gran medida invisible, de la industria de la IA. Sin embargo, están siendo reemplazadas cada vez más por «instructores» de IA especializados que se encargan de alinear el modelo central con principios predefinidos codificados en una «constitución».
La tercera capa es la búsqueda web. Cuando los chatbots buscan en línea o acceden a bases de datos digitales, los sistemas de recuperación aumentada (RAG) determinan qué información se debe incorporar a la respuesta del modelo. Esta función es similar a la de los motores de búsqueda tradicionales, que priorizan ciertas fuentes sobre otras. Y al igual que con los motores de búsqueda, la introducción de anuncios en las respuestas de los chatbots —que ChatGPT ha anunciado para 2026— generará inquietudes adicionales sobre la objetividad.
La cuarta capa comprende las indicaciones del sistema. Dado que estas se activan cuando un chatbot genera una respuesta, permiten a las plataformas modificar su comportamiento sin necesidad de volver a entrenarlo. Por ejemplo, como las indicaciones del sistema de Grok se hicieron públicas el año pasado, sabemos que incluyen directivas como «no dudes en hacer afirmaciones políticamente incorrectas». (ChatGPT, Claude y Gemini también utilizan indicaciones del sistema, pero estas permanecen en secreto).
La capa final son los filtros de seguridad. Antes de que una consulta del chatbot llegue al modelo, los filtros de entrada determinan si es «aceptable». De manera similar, después de que el modelo genera una respuesta, los filtros de salida pueden modificar, censurar o sanear el contenido antes de que lo veas. Si bien las plataformas tienen razones legítimas para bloquear ciertas consultas (como las que buscan instrucciones sobre cómo fabricar una bomba), el hecho de que estos filtros sean opacos deja interrogantes sin respuesta. Los desarrolladores del modelo podrían crear la infraestructura para la censura sistemática, y no lo sabríamos. Los filtros de «seguridad» de los chatbots chinos censuran todas las referencias a la masacre de la Plaza de Tiananmen.
Los intereses políticos y corporativos ya están dando forma a esta estructura de influencia algorítmica, al tiempo que se despliegan chatbots a escala global. Tras la segunda investidura de Donald Trump, Apple actualizó sus instrucciones de entrenamiento de IA para evitar etiquetar a los partidarios de MAGA como «radicales» o «extremistas». El verano pasado, Reuters descubrió que Meta había actualizado sus directrices internas de IA para flexibilizar las medidas de seguridad que impedían a sus chatbots hacer declaraciones racistas o tener comportamientos «coquetos» con menores, entre otras cosas. Y en mayo pasado, Grok comenzó a amplificar afirmaciones infundadas y fuera de contexto sobre un «genocidio blanco» en Sudáfrica (el propio Musk es un sudafricano blanco). Si bien la empresa culpó a «modificaciones no autorizadas», tales «errores» son comunes y todos parecen ser ideológicamente coherentes con las propias opiniones de Musk.
La manipulación política mediante chatbots ya ha demostrado su eficacia. Un estudio publicado en Nature en 2025 demostró que los chatbots entrenados para defender a un candidato específico podían influir en los votantes moderados e indecisos (los grupos que deciden la mayoría de las elecciones) con notable facilidad.
A diferencia de los sistemas autoritarios que ejercen un control explícito sobre la información, las democracias dependen de una pluralidad de fuentes y de ecosistemas informativos transparentes y responsables. Permitir un poder centralizado y sin rendición de cuentas sobre la infraestructura de IA equivale a propiciar una deriva tecnoautoritaria, ya que resulta evidente cómo cada capa de la estructura de influencia algorítmica puede instrumentalizarse para amplificar o suprimir ciertas opiniones sin necesidad de censura manifiesta.
En diciembre pasado, la Comisión Europea multó a X con 120 millones de euros (138 millones de dólares) por “incumplir sus obligaciones de transparencia en virtud de la Ley de Servicios Digitales”. Como era de esperar, X y sus defensores calificaron la medida como un ataque a la libertad de expresión. Pero la transparencia es fundamental para la defensa de la libertad de expresión. Sin ella, no podemos saber quién está siendo censurado ni qué influencias se ejercen sobre los medios de comunicación que todos consumimos.
El auge de las redes sociales nos enseñó qué sucede cuando la rendición de cuentas no sigue el ritmo de la adopción. No podemos permitirnos repetir los mismos errores con sistemas que ejercen un poder aún mayor sobre el conocimiento público.
El autor es director y cofundador de AI Forensics.
Copyright: Project Syndicate , 2026.
www.project-syndicate.org
