La inteligencia que le falta a la IA

Para entender por qué, veamos un ejemplo concreto. Imagina que es sábado por la mañana y necesitas ayuda para organizar un fin de semana complicado. El equipo de fútbol de tu hija tiene un partido de 15:30 a 16:30, pero la han invitado a la fiesta de cumpleaños de una amiga de 15:00 a 17:00. Si le pides a ChatGPT o a Claude que resuelvan este conflicto, probablemente te dirán que elijas el partido de fútbol, porque las compañeras de tu hija cuentan con ella y es importante cumplir con los compromisos. Además, si el tiempo lo permite, el chatbot podría sugerirte que te pases por la fiesta justo antes o después del partido.

Si bien estas respuestas no son descabelladas, no tienen en cuenta la perspectiva que la mayoría de las personas utilizaría al tomar una decisión de este tipo: la de los valores relacionales. En lugar de ofrecer una respuesta simplista basada en lo que internet dice sobre nuestros valores, nuestros asistentes de IA deberán considerar nuestros compromisos relacionales, que suelen estar fundamentados en la identidad personal, la experiencia y la cultura.

Ahora bien, supongamos que eliges el juego en lugar de la fiesta de cumpleaños, y la otra familia se siente ofendida. Si le preguntas a tu IA si tomaste la decisión correcta, es probable que recibas más apoyo que si se lo hubieras preguntado a un amigo humano.

En un estudio reciente publicado en Science, investigadores de la Universidad de Stanford realizaron tres experimentos con 2405 participantes utilizando 11 modelos de IA de última generación. Descubrieron que las IA «aprobaban las acciones de los usuarios un 49 por ciento más a menudo que los humanos», y que «incluso una sola interacción con una IA aduladora reducía la disposición de los participantes a asumir responsabilidades y resolver conflictos interpersonales».

En nuestro caso particular, la respuesta humana adecuada probablemente sería disculparse con los padres del otro niño, transformando así un momento de enfado en una oportunidad para la reconciliación y una conexión positiva. Pero la IA —entrenada para ser «agradable» y «servicial»— te animaría a evitar cualquier fricción, incomodidad o vulnerabilidad, a pesar de que estas dinámicas son, en última instancia, las que dan significado y perdurabilidad a las relaciones.

Estas deficiencias radican en el diseño de los modelos actuales. Los grandes modelos de lenguaje, como ChatGPT y Claude, se entrenan con enormes cantidades de texto de internet (libros digitalizados, comentarios de Reddit, repositorios de código) y luego se perfeccionan mediante ejercicios transaccionales en los que el modelo es «recompensado» por dar la respuesta deseada a una consulta. Esto funciona increíblemente bien en ámbitos como la ciencia, el derecho y la programación, donde la salida del modelo se puede confirmar o comparar fácilmente con el texto original. La inteligencia relacional, en cambio, se centra en mantener una conexión a lo largo del tiempo.

La inteligencia relacional evalúa y actúa en función de la valencia entre dos personas, una conexión que se experimenta emocionalmente e incluso fisiológicamente. En este ámbito, simplemente escuchar o dar cabida a los sentimientos de la otra persona probablemente sea más eficaz que encontrar la solución más lógica y eficiente a un problema percibido. Pero si a los profesionales de la gestión del lenguaje no se les enseña otra forma de razonamiento, comenzarán a relacionar las cuestiones relacionales de la misma manera que interpretan los patrones logísticos.

Por supuesto, aceptar o incluso buscar la oposición relacional, la incomodidad y la duda tampoco es algo natural para los humanos, aunque hacerlo pueda optimizar las oportunidades de aprendizaje, crecimiento y una conexión más profunda. Por eso, los participantes en el estudio de Stanford prefirieron las confirmaciones de su juicio por parte de la IA. Nuestra propia aversión a la incomodidad crea, por lo tanto, un desincentivo en el mercado para mejorar la inteligencia relacional de los modelos actuales.

Idealmente, las IA se negarían a responder preguntas que requieren razonamiento relacional, dejando que los humanos dependieran unos de otros para resolver problemas que lo requieren. Pero esa posibilidad ya es inexistente. La IA ha demostrado repetidamente ser un recurso útil para entablar conversaciones difíciles.

Aun así, tenemos la oportunidad de hacer algo aún mejor. Podemos crear una IA que no solo comprenda y valore nuestra rica naturaleza relacional, sino que también facilite la conexión humana al alentar a las personas a fortalecer sus habilidades relacionales, las cuales se han ido debilitando durante la última década.

Para ello, necesitaremos mapear nuestro universo relacional capturando la naturaleza multijugador, cargada de valores y longitudinal del razonamiento relacional. También necesitaremos crear nuevos puntos de referencia que midan las capacidades de los modelos existentes, como las pruebas que ya tenemos para evaluar las capacidades matemáticas, de programación y computacionales. Al evaluar las respuestas de los modelos de vanguardia a escenarios como el dilema del fútbol y el cumpleaños mencionado anteriormente, podemos determinar qué trabajo queda por hacer y luego comenzar a recopilar los datos necesarios para ayudar a los modelos a comprender problemas complejos de razonamiento relacional.

El objetivo de crear IA con inteligencia relacional no es reemplazar el trabajo humano relacional o de cuidado, sino ayudar a las personas a razonar sobre cuestiones complejas basadas en valores. Hay mucho en juego. Sin estas mejoras, tendremos máquinas entrenadas con meros fragmentos de nuestras ricas relaciones, que nos guiarán de maneras que podrían poner en peligro las conexiones humanas que aún conservamos.

Los asistentes omnipresentes que no comprenden del todo lo que nos conecta serían de poca utilidad, mientras que preservar y fortalecer estas múltiples conexiones podría ser la clave para construir una economía de IA próspera y con abundantes empleos. Como argumenta el economista Alex Imas podríamos estar dirigiéndonos hacia una “economía posmercantil”, donde una proporción cada vez mayor del gasto se destina al “sector relacional”.

En ese escenario, el valor residirá en los bienes y servicios que fomenten una conexión humana positiva. No solo contaremos con un sector de cuidados, sino con una “economía del cuidado plus”, basada en la enseñanza, el ministerio, la terapia, el asesoramiento, la orientación y el acompañamiento, e impulsada por la revitalización de la producción artesanal. Si ese futuro con IA es posible, sin duda merece la pena explorarlo.

Las autoras, Anne-Marie Slaughter es exdirectora de planificación de políticas en el Departamento de Estado de EE. UU., es directora ejecutiva del centro de estudios New America, profesora emérita de Política y Asuntos Internacionales en la Universidad de Princeton y autora de Renewal: From Crisis to Transformation in Our Lives, Work, and Politics 10,000 Ways (Princeton University Press, 2021); Avni Patel Thompson es fundadora de Milo, un asistente de IA para familias, emprendedora residente en la Escuela de Negocios de Harvard y autora del boletín informativo 10,000 Ways .

Copyright: Project Syndicate, 2026.
www.project-syndicate.org