Prevenir el abuso infantil en línea debería ser más fácil

A pesar de este caso histórico, el debate sobre la seguridad infantil en internet podría seguir estancado, pasando de un escándalo a otro, sin llegar a soluciones realmente efectivas. La indignación pública suele alcanzar su punto álgido tras importantes juicios o en respuesta a noticias perturbadoras, como cuando Grok permitió a los usuarios inundar las redes sociales con imágenes sexualizadas de menores en enero. Los políticos se pronuncian al respecto, incluso prometiendo una regulación significativa, pero la atención pública se desvanece sin que se tomen medidas. Y mientras tanto, la tecnología continúa evolucionando y planteando nuevos desafíos.

Pero no tiene por qué ser así, ya que sabemos cómo prevenir el abuso en línea. El problema no radica en la falta de conocimiento, sino en que nuestra respuesta no ha estado a la altura de la evidencia. Una reciente revisión sistemática de la literatura académica y las intervenciones reales para combatir el abuso, publicada por el Panel Internacional sobre el Entorno Informacional (IPIE), llegó a una conclusión contundente: si bien ya contamos con las herramientas necesarias, la respuesta global sigue siendo fragmentada e incompleta.

Por ejemplo, las plataformas digitales y los investigadores dependen en gran medida de sistemas que escanean la web en busca de imágenes ilegales conocidas e identifican comportamientos de acoso sexual. Sin estas herramientas, gran parte del abuso en línea permanecería oculto. Además, la IA se utiliza cada vez más para mejorar estas herramientas y analizar enormes volúmenes de datos de las plataformas, lo que permite a los investigadores encontrar material de abuso previamente desconocido.

Sin embargo, la eficacia de estas herramientas depende de los datos utilizados para entrenar el modelo, y los investigadores a menudo carecen de acceso seguro a los conjuntos de datos que necesitan. Por lo tanto, el informe del IPIE insta a los gobiernos a facilitar entornos seguros y controlados donde los investigadores autorizados puedan estudiar datos sensibles, protegiendo al mismo tiempo a las víctimas. Sin dicha cooperación, el progreso seguirá siendo desigual e inconsistente.

Además, todos estos métodos abordan el abuso a posteriori. Si bien es fundamental mejorar la detección de los perpetradores, el objetivo principal debe ser prevenir los daños antes de que ocurran. En este sentido, el IPIE identifica importantes puntos ciegos. Los sistemas de pago digitales, las herramientas publicitarias y otras funciones de plataformas ampliamente utilizadas pueden ayudar a los delincuentes a organizarse y lucrarse con el abuso. Sin embargo, las intervenciones políticas rara vez se centran en estos mecanismos. Si la infraestructura financiera que sustenta la explotación permanece intacta, los esfuerzos para combatir el abuso siempre serán reactivos.

Luego está la concienciación pública. Las campañas educativas que advierten a los menores sobre los riesgos del acoso sexual y explican los daños del contenido ilegal son prometedoras para fomentar comportamientos más seguros y aumentar las denuncias, pero aún están poco desarrolladas. Sin embargo, la educación no puede sustituir el diseño responsable de las plataformas ni la aplicación efectiva de la ley. No se debe pedir a los niños que utilicen sistemas que faciliten su explotación. La responsabilidad recae en las empresas que crean y operan estas plataformas.

Las principales empresas tecnológicas operan a nivel global, mientras que la aplicación de la ley sigue siendo mayoritariamente nacional. Sin marcos legales más sólidos que abarquen el ámbito internacional, los infractores aprovecharán las lagunas normativas. Algunos legisladores ya tienen la facultad de aplicar leyes fuera de su territorio, exigiendo a las empresas que denuncien los abusos, preserven las pruebas y cooperen con las investigaciones. Por ejemplo, la Unión Europea —un mercado clave para todas las grandes plataformas digitales— está en una posición privilegiada para exigir responsabilidades a las principales plataformas y a los infractores.

Sin embargo, como indica el IPIE Un análisis revela que aún queda mucho por hacer para mejorar la coordinación internacional, de modo que las empresas y los delincuentes se enfrenten a una aplicación de la ley más clara y coherente. El escándalo de Grok fue un ejemplo paradigmático de las dificultades que enfrentan los reguladores para mantenerse al día con las tecnologías de rápida evolución. Si bien los reguladores respondieron con prontitud cuando se hizo evidente que el chatbot estaba desarrollando material de abuso sexual infantil, fue necesaria una importante protesta pública para visibilizar el problema. De lo contrario, el cabildeo, la presión económica y otras formas de influencia de la industria disuaden a los legisladores de implementar una regulación efectiva.

En conjunto, las conclusiones del IPIE describen una respuesta global al abuso infantil en línea que es a la vez esencial e insuficiente. Las herramientas de detección identifican sistemáticamente los abusos ya conocidos, las fuerzas del orden persiguen a los delincuentes cuando es posible y los programas educativos intentan concienciar sobre los riesgos pendientes. Sin embargo, el sistema aún tiene dificultades para adaptarse a las tecnologías digitales en constante evolución. Los sistemas financieros que sustentan la explotación siguen siendo poco comprendidos; los investigadores carecen de acceso a los datos necesarios para mejorar la detección; y los marcos legales no tienen en cuenta la naturaleza global del problema.

Durante años, los responsables políticos argumentaron que para tomar medidas más contundentes se necesitaban más pruebas. Pero esa ya no es una excusa válida. El IPIE ha demostrado que las pruebas ya existen. Sabemos qué intervenciones ayudan a reducir los daños y dónde se encuentran las principales deficiencias. Lo que aún se desconoce es si los líderes políticos harán lo necesario para proteger a los niños.

El autor es catedrático de Derechos Digitales en la Universidad de Bournemouth y profesor visitante en la Universidad de Suffolk.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org