Lista de reproducción
- No hay más artículos para escuchar
En vísperas de la Cumbre de Impacto de la IA en India en febrero, es evidente que la mayoría de los países aún carecen de un modelo viable para gobernar esta tecnología. Mientras que Estados Unidos deja las decisiones en gran medida en manos del mercado, la Unión Europea se basa en un amplio cumplimiento normativo y China en una autoridad estatal concentrada. Sin embargo, ninguna de estas opciones es realista si se encuentra entre los muchos países que deben gobernar la IA sin grandes estructuras regulatorias ni una capacidad de procesamiento masiva. En cambio, necesitamos un marco diferente, uno que integre la transparencia, el consentimiento y la rendición de cuentas directamente en la infraestructura digital.
Este enfoque considera la gobernanza como una opción de diseño que puede integrarse en los cimientos de los sistemas digitales. Cuando las salvaguardas forman parte de la arquitectura, el comportamiento responsable se convierte en la norma. Los reguladores obtienen información inmediata sobre el comportamiento de los datos y los sistemas automatizados, y los usuarios tienen un control claro sobre su información. Es un método mucho más escalable e inclusivo que uno que se basa únicamente en la regulación.
Pero ¿cómo debería ser esto en la práctica? La experiencia de la India con la infraestructura pública digital ofrece muchas lecciones. Las plataformas del país para la documentación de identidad (Aadhaar), los pagos (UPI), los viajes (DigiYatra) y el comercio digital (ONDC) demuestran cómo los estándares públicos y la innovación privada pueden operar conjuntamente a escala nacional. Por ejemplo, DigiYatra —una iniciativa público-privada que agiliza el check-in en las aerolíneas, las filas y otros aspectos de los viajes— demuestra cómo la verificación de identidad en tiempo real y los protocolos de consentimiento pueden gestionarse de forma segura y predecible entre grandes grupos de usuarios.
Estos sistemas demuestran cómo la arquitectura digital puede ampliar el acceso, aumentar la confianza y promover mercados prósperos. No resolverían por sí solos los desafíos de la gobernanza de la IA, pero sí demuestran que los estándares técnicos y el propósito público pueden armonizarse incluso en las sociedades más grandes y diversas.
La Arquitectura de Empoderamiento y Protección de Datos de la India se basa en estas lecciones y ya se está implementando en numerosos sectores. Al permitir que las personas autoricen o revoquen el permiso para el uso de sus datos a través de canales claros y auditables, se incorpora la transparencia, lo que permite a los reguladores monitorear los flujos de datos sin necesidad de nuevas instituciones supervisoras. Nuevamente, el principio de diseño subyacente es simple: la protección duradera es más eficaz cuando está integrada en la arquitectura del sistema, en lugar de implementarse únicamente mediante procesos de cumplimiento.
Para ser globalmente viable, un enfoque arquitectónico debe priorizar la soberanía sobre la computación. La capacidad computacional es claramente el cuello de botella estratégico de la era de la IA, razón por la cual Estados Unidos y China invierten cientos de miles de millones de dólares anuales en centros de datos avanzados y chips de IA. Sin embargo, dado que la mayoría de los países no pueden aspirar a igualar estas inversiones, debemos evitar un escenario en el que una gobernanza significativa de la IA requiera por sí misma computación, donde la mayoría de los países tendrían poca autoridad real sobre los sistemas que configuran sus sociedades.
Mantener la soberanía sobre la computación no implica necesariamente que todos los centros de datos deban construirse localmente. Sin embargo, sí implica que los sistemas de IA que operan dentro de un país deben estar sujetos a sus leyes y rendir cuentas ante las autoridades nacionales, independientemente de dónde residan los datos. Las empresas tecnológicas multinacionales deberían mantener divisiones legales y operativas claras con cortafuegos técnicos y controles auditables. Estas salvaguardas son necesarias para evitar que los datos crucen fronteras sin autorización y para garantizar que los datos nacionales no se incorporen a modelos disponibles globalmente sin aprobación explícita. Sin divisiones vinculantes, los gobiernos tendrán dificultades para mantener la supervisión de los sistemas digitales que influyen en las finanzas, la atención médica, la logística y la administración pública nacionales.
Esto subraya una de las principales fortalezas del enfoque arquitectónico: permite a cada país establecer su equilibrio preferido entre riesgo, innovación y comercio. Las sociedades difieren en sus perspectivas sobre la privacidad, la experimentación, la apertura del mercado y la seguridad, por lo que ningún modelo regulatorio único puede adaptarse a las preferencias de todos. Sin embargo, una base arquitectónica compartida, basada en flujos de datos transparentes, un comportamiento trazable de los modelos y el principio de «soberanía sobre la computación», brinda a cada país la flexibilidad para calibrar sus propios parámetros. Los rieles son compartidos, pero las configuraciones nacionales siguen siendo soberanas.
En comparación con los enfoques globales actuales, un modelo arquitectónico ofrece un camino a seguir más equilibrado y realista. El sistema estadounidense fomenta la experimentación rápida, pero a menudo reconoce los daños solo después de que ocurren. El sistema europeo ofrece sólidas salvaguardias, pero exige una alta capacidad de cumplimiento. Y el sistema chino alcanza la velocidad mediante la centralización, lo que lo hace inadecuado para la gobernanza distribuida. Al integrar la transparencia y el consentimiento en los sistemas digitales desde el principio, un enfoque arquitectónico permite que la innovación avance de forma predecible, a la vez que garantiza la rendición de cuentas pública.
La Cumbre Global de IA en India es un momento oportuno para que todos los países consideren dicho marco. El mundo necesita un sistema de gobernanza compartida, integrado en los cimientos de esta poderosa tecnología. Así protegeremos a los usuarios, preservaremos la soberanía y daremos a cada país la capacidad de lograr su propio equilibrio entre riesgo e innovación. A medida que la IA transforma todos los sectores de la economía, un enfoque arquitectónico ofrece el camino más creíble y equitativo.
El autor es exministro de Estado de Finanzas y ministro de Estado de Aviación Civil de la India, es presidente del Grupo Everstone (una empresa de capital privado) y profesor visitante en práctica en la London School of Economics.
Derechos de autor: Project Syndicate, 2025.
www.project-syndicate.org
