Lista de reproducción
- No hay más artículos para escuchar
La IA ya está impactando los pilares de la gobernanza democrática en todo el mundo. Sus efectos pueden representarse como círculos concéntricos que se extienden desde las elecciones, pasando por la adopción gubernamental; la participación política, la confianza pública y los ecosistemas de información; hasta llegar a riesgos sistémicos más amplios: crisis económicas, competencia geopolítica y riesgos existenciales como el cambio climático o las armas biológicas. Cada círculo presenta tanto oportunidades como desafíos.
Empecemos por las elecciones. Especialmente en Estados Unidos, los administradores electorales tienen una grave escasez de personal y financiación. Muchos argumentan que la IA podría ayudar traduciendo las papeletas a varios idiomas, verificando las papeletas enviadas por correo o seleccionando las ubicaciones óptimas para los centros de votación. Sin embargo, hoy en día, solo el 8 por ciento de los administradores electorales de EE. UU. utilizan estas herramientas.
En cambio, la IA se está utilizando para dificultar la votación. En el estado de Georgia, los activistas usan la red de IA para generar masivamente impugnaciones electorales y presionar a los funcionarios para que depuren los censos electorales. (Los opositores están utilizando herramientas similares para intentar restituir a los votantes). Y abundan los riesgos habituales, como las falsificaciones profundas diseñadas para confundir o engañar a los votantes. En 2024, Rumania anuló los resultados de sus elecciones presidenciales ante la evidencia de una interferencia rusa amplificada por IA, el primer ejemplo inequívoco del impacto de la IA.
Pero la búsqueda de “pruebas irrefutables” puede pasar por alto el peligro mayor: la erosión constante de la confianza, la verdad y la cohesión social.
El uso de IA por parte del gobierno ofrece un segundo vector de influencia, uno más prometedor. La confianza pública en el gobierno federal estadounidense ronda el 23 por ciento, y las agencias gubernamentales de todos los niveles están experimentando con IA para mejorar la eficiencia. Estos esfuerzos ya están dando resultados. El Departamento de Estado, por ejemplo, ha reducido en un 60 por ciento el tiempo que su personal dedica a las solicitudes amparadas en la Ley de Libertad de Información (FOIA). En California, San José recurrió a la IA para optimizar el transporte público. Software para rediseñar rutas de autobús, reduciendo los tiempos de viaje casi el 20 por ciento.
Estas mejoras podrían fortalecer la legitimidad democrática, pero los riesgos son reales. Los algoritmos de caja negra ya influyen en las decisiones sobre la elegibilidad para prestaciones gubernamentales, e incluso en las sentencias penales, lo que supone graves amenazas para la equidad y los derechos civiles. La adopción militar también se está acelerando: en 2024, el Departamento de Defensa de EE. UU. firmó contratos de 200 millones de dólares con cuatro importantes empresas de inteligencia artificial, lo que aumenta la preocupación por la vigilancia estatal, la vigilancia policial y la guerra impulsadas por la IA.
Al mismo tiempo, la IA podría transformar la participación pública. En Taiwán —un modelo global de gobierno basado en tecnología—, herramientas impulsadas por IA como Pol.is ayudaron a reconstruir la confianza pública tras la ocupación del parlamento en 2014, impulsando los índices de aprobación de las instituciones gubernamentales de menos del 10 por ciento a más del 70 por ciento. El Laboratorio de Democracia Deliberativa de Stanford está implementando moderadores de IA en más de 40 países, y Jigsaw de Google está explorando enfoques similares para promover un debate más sano. Incluso los organizadores de movimientos sociales están utilizando la IA para identificar posibles aliados o rastrear a quienes están detrás del dinero que financia iniciativas antidemocráticas.
Pero cuatro riesgos se ciernen sobre nosotros: sistemas de participación rotos , ya que procesos como «notificar y comentar» se inundan de basura de IA; silenciamiento activo , ya que el doxing y el troleo amplificados por IA —e incluso la vigilancia estatal— amenazan con intimidar a los activistas y expulsarlos de los espacios cívicos; silenciamiento pasivo si las personas optan por abandonar los espacios cívicos del mundo real en favor de los digitales, o incluso delegan su voz cívica por completo a agentes de IA; y, por último, erosión de la competencia, ya que la dependencia excesiva de la IA —o de los chatbots de IA aduladores— debilita aún más nuestra capacidad para el buen juicio y el desacuerdo respetuoso.
El ecosistema de información también está cambiando como resultado de la IA. En el lado positivo, las redacciones están innovando. En California, HYPERLINK, CalMatters y Cal Poly utilizan IA para procesar transcripciones legislativas en todo el estado, extraer información de ellas e incluso generar ideas para artículos.
Pero estos beneficios podrían verse eclipsados por una avalancha de deepfakes y medios sintéticos cada vez más convincentes. El contenido falso puede influir en las opiniones: las personas solo distinguen imágenes reales de falsas el 60 por ciento de las veces. De forma más insidiosa, el gran volumen de contenido falso alimenta el llamado» dividendo del mentiroso«, ya que las personas se ven tan abrumadas por el contenido inventado que empiezan a dudar de todo. Esto genera cinismo y desinterés.
Pero existen desafíos sistémicos más amplios. El Fondo Monetario Internacional estima que la IA podría afectar al 60 por ciento de los empleos en las economías avanzadas, mientras que McKinsey proyecta que entre 75 y 345 millones de personas podrían necesitar cambiar de trabajo para 2030.
El problema no es sólo que los grandes shocks económicos invariablemente ponen en peligro la estabilidad política. La IA podría exacerbar las concentraciones extremas de riqueza, distorsionando la voz política y socavando la igualdad. A esto se suma la posibilidad de que Occidente pierda la carrera de la IA, cediendo el dominio militar y económico global a superpotencias antidemocráticas como China.
Para afrontar estos desafíos se requieren dos frentes. En primer lugar, medidas sectoriales pueden ayudar a periodistas, funcionarios gubernamentales, administradores electorales y la sociedad civil a adoptar la IA de forma responsable. En segundo lugar, necesitamos intervenciones fundamentales más amplias: medidas transversales que protejan no solo a sectores individuales, sino a la sociedad en su conjunto.
Las medidas fundamentales deben abarcar todo el ciclo de vida de la IA, desde el desarrollo hasta la implementación. Esto incluye una sólida protección de la privacidad, así como transparencia respecto a los datos utilizados para entrenar modelos, posibles sesgos, cómo las corporaciones y los gobiernos implementan la IA, las capacidades peligrosas y cualquier daño real (este rastreador global es un excelente comienzo).
Limitar el uso también es esencial, desde la política que implementa IA para el reconocimiento facial en tiempo real hasta escuelas y empleadores que rastrean las actividades (o incluso las emociones) de estudiantes o trabajadores. Se necesitan regímenes de responsabilidad cuando los sistemas de IA niegan injustamente empleos, préstamos o prestaciones gubernamentales. También podrían requerirse nuevas ideas en materia antimonopolio o de redistribución económica para prevenir niveles de desigualdad democráticamente insostenibles.
Por último, es necesaria una infraestructura pública de IA: modelos abiertos, recursos informáticos asequibles y bases de datos compartidas a las que la sociedad civil pueda acceder para garantizar que los beneficios de la tecnología se distribuyan ampliamente.
Las legislaturas estatales están avanzando: 20 estados han promulgado leyes de privacidad, 47 cuentan ahora con estatutos de inteligencia artificial deepfake y 15 han restringido el uso del reconocimiento facial por parte de la policía.
El margen de acción política es limitado. Al igual que las reformas de financiación de campañas tras el escándalo de Watergate, y los esfuerzos para regular las redes sociales se aceleraron —para luego estancarse— tras las elecciones estadounidenses de 2016, las democracias deben estar a la altura del reto de la IA, mitigando sus costes y aprovechando al mismo tiempo sus notables beneficios.
El autor es exdirector del Centro de Política Cibernética de la Universidad de Stanford, es director de la iniciativa Democracia, Derechos y Gobernanza de la Fundación David y Lucile Packard.
Copyright: Project Syndicate, 2024.
www.project-syndicate.org
