Lista de reproducción
- No hay más artículos para escuchar
En julio, la administración Trump celebró un evento titulado «Ganando la Carrera de la IA», donde presentó su Plan de Acción de IA. Al igual que los acuerdos multimillonarios para centros de datos anunciados durante el viaje del presidente Donald Trump al Golfo Pérsico el pasado mayo, el plan busca fortalecer el liderazgo estadounidense en IA. Sin embargo, dado que ni el plan ni los anuncios anteriores mencionaron los derechos humanos, es lógico preguntarse qué significa para Estados Unidos «ganar» la carrera de la IA.
Muchos en Washington y Silicon Valley simplemente asumen que la tecnología estadounidense está inherentemente, casi por definición, alineada con los valores democráticos. Como declaró Sam Altman, director ejecutivo de OpenAI, ante el Congreso el pasado mayo: “Queremos asegurarnos de que la IA democrática triunfe sobre la IA autoritaria”. Puede que sea una buena idea, pero los nuevos sistemas tecnológicos no protegen los derechos humanos por defecto. Los responsables políticos y las empresas deben tomar medidas proactivas para garantizar que el despliegue de la IA cumpla con ciertos estándares y condiciones, como ya ocurre en muchos otros sectores.
Informes recientes del Grupo de Trabajo de las Naciones Unidas sobre Empresas y Derechos Humanos, el Consejo de Derechos Humanos de la ONU y la Coalición por la Libertad en Línea han llamado la atención sobre la responsabilidad que tienen tanto los gobiernos como las empresas de evaluar cómo los sistemas de IA afectarán los derechos de las personas. Los marcos internacionales vigentes exigen que todas las empresas respeten los derechos humanos y eviten causar o contribuir a abusos contra ellos con sus actividades. Sin embargo, las empresas de IA, en su mayoría, no han reconocido ni reafirmado dichas responsabilidades.
Estos llamados a la acción reafirman las obligaciones que ya han asumido otras industrias. La mayoría de las grandes empresas saben que deben realizar evaluaciones de impacto en los derechos humanos antes de adquirir o implementar nuevos sistemas; integrar la debida diligencia en materia de derechos humanos en el diseño de productos y las decisiones comerciales; incluir salvaguardias contractuales para prevenir el uso indebido; y proporcionar reparaciones significativas cuando se produzcan daños.
El desafío con la IA no es que los estándares sean poco claros. Es que demasiadas empresas, y gobiernos, actúan como si estos no fueran aplicables. Consideremos los acuerdos de IA de Trump en el Golfo. De concretarse, estas inversiones podrían consolidar la ambición de la región de convertirse en un centro global de IA, lo que plantea interrogantes sobre si Estados Unidos y sus líderes tecnológicos están abandonando compromisos a largo plazo.
En los Emiratos Árabes Unidos, Estados Unidos aprobó la transferencia de chips avanzados a G42, una empresa emiratí de inteligencia artificial, como parte de un plan más amplio para construir un enorme campus de inteligencia artificial en Abu Dabi. En Arabia Saudita, una nueva empresa estatal acaba de anunciar acuerdos multimillonarios con importantes empresas estadounidenses para adquirir chips y construir infraestructura. Starlink, de Elon Musk, también recibió autorización para operar en el Reino. Ninguno de estos anuncios mencionó protecciones para garantizar que la tecnología no se utilice con fines de vigilancia o represión.
El riesgo no es hipotético. Se sabe que Emiratos Árabes Unidos ha utilizado software espía contra periodistas y disidentes, y Arabia Saudita ha participado en todo tipo de represión transnacional, además de estar profundamente implicada en la crisis humanitaria en Yemen. Las nuevas capacidades de IA aumentan significativamente el poder de los gobiernos para vulnerar derechos fundamentales, por ejemplo, sintetizando información detallada sobre disidentes, realizando vigilancia en tiempo real, analizando las publicaciones y comunicaciones de los usuarios en redes sociales y controlando los resultados de los modelos de IA.
A diferencia de los bienes o la infraestructura tradicionales, los sistemas de IA pueden transferirse digitalmente e implementarse con escaso escrutinio público. Bajo un plan soberano de IA, mediante el cual un gobierno desarrolla y controla los sistemas de IA disponibles para su población, estos sistemas pueden convertirse rápidamente en instrumentos de poder estatal. A medida que las empresas estadounidenses intensifican sus acuerdos internacionales, con el firme respaldo de la administración Trump, la falta de inclusión de compromisos en materia de derechos humanos marca un giro peligroso.
También es una oportunidad perdida. El acceso a las tecnologías estadounidenses de vanguardia podría utilizarse como palanca, tanto para impulsar aplicaciones que respeten los derechos humanos como para proteger la tecnología del abuso. No es necesario empezar de cero. Los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, respaldados por Estados Unidos y muchos aliados, exigen que las empresas eviten vulnerar los derechos humanos y aborden cualquier daño que puedan causar.
Las Líneas Directrices de la OCDE para Empresas Multinacionales van aún más allá, exigiendo la debida diligencia en todas las operaciones y cadenas de suministro. Y la Iniciativa de Red Global (GNI), lanzada por importantes empresas tecnológicas hace 17 años, ha establecido principios para proteger la privacidad y la libertad de expresión de los usuarios en mercados de alto riesgo, y las empresas miembro son evaluadas periódicamente para garantizar su cumplimiento (nuestra organización fue socia fundadora).
Empresas como Coca-Cola, Volkswagen y Estée Lauder ya aplican estos marcos o se someten a supervisión independiente, al igual que algunas empresas tecnológicas. Sin embargo, la industria tecnológica, en su mayor parte, no ha respaldado estas responsabilidades explícitamente para la IA, a pesar de que la necesidad es aún mayor en este sector. Como primer paso, las empresas líderes en IA que aún no forman parte de GNI podrían beneficiarse de su marco y red.
Un memorando filtrado recientemente del director ejecutivo de Anthropic, Dario Amodei, muestra lo que está en juego. Al anunciar la intención de la compañía de aceptar inversiones de países del Golfo tras haber sugerido previamente que no lo haría, Amodei argumentó: “Es perfectamente coherente defender una política de ‘Nadie puede hacer x’, pero si esa política fracasa y todos los demás hacen x, hacerlo nosotros mismos a regañadientes”.
Si las empresas de IA terminan en una carrera a la baja, ¿qué esperanza habrá de que se protejan los derechos humanos básicos? Si ganar la carrera de la IA implica abandonar los valores que nos distinguen de rivales autoritarios como China, será una victoria pírrica. Nuestro futuro no estará asegurado solo porque la tecnología sea estadounidense.
Aún está a tiempo para que gobiernos y empresas se comprometan a aplicar a la IA los estándares de derechos humanos ya consolidados. Las herramientas ya están disponibles; no hay excusa para no usarlas.
Las autoras Alexandra Reeve Givens, exdirectora de la Oficina Nacional de Inteligencia Artificial, es jefa del Centro para la Democracia y la Tecnología. Karen Kornbluh, exembajadora de los Estados Unidos ante la Organización para la Cooperación y el Desarrollo Económicos, es investigadora principal y directora de la Iniciativa de Innovación Digital y Democracia del Fondo Marshall Alemán de los Estados Unidos.
