Hay que facilitar la prevención del abuso infantil en línea

Una reciente derrota judicial de Meta debe dar nuevo impulso a los gobiernos para tomar medidas drásticas contra la lacra del abuso infantil en línea. Un jurado de Nuevo México determinó que la empresa no solo expuso a niños al contacto con depredadores y material sexualmente explícito en sus plataformas, sino que además engañó al público en relación con los riesgos.

Pero a pesar de este caso histórico y aunque se acumule un escándalo tras otro, el debate sobre la seguridad infantil en Internet todavía no llega a soluciones eficaces. La indignación pública tiende a alcanzar un máximo después de casos judiciales importantes o en respuesta a noticias inquietantes (por ejemplo, cuando en enero Grok permitió a los usuarios llenar las redes sociales de imágenes sexualizadas de niños). Los políticos hacen las declaraciones de rigor e incluso prometen regulaciones significativas, pero luego la atención pública se desvanece sin que se tomen medidas. Y en tanto, la evolución de la tecnología no se detiene y van apareciendo nuevos retos.

No tendría que ser así, porque ya sabemos cómo prevenir el abuso en línea. El problema no es falta de conocimiento, sino que la respuesta no ha estado a la altura de lo que se sabe. Una reciente reseña sistemática de trabajos académicos e intervenciones reales contra el abuso, publicada por el Panel Internacional sobre el Entorno de la Información (IPIE), llega a una conclusión clara: aunque ya tenemos las herramientas necesarias, la respuesta mundial todavía es fragmentaria e incompleta.

Por ejemplo, para detectar el abuso en línea, las plataformas digitales y los investigadores dependen en gran medida de sistemas que exploran la web en busca de imágenes ilegales conocidas e identifican comportamientos de captación de menores (grooming). Sin esas herramientas, muchos abusos nunca se descubrirían. Además, hay un uso creciente de la inteligencia artificial para complementar las herramientas y analizar enormes volúmenes de datos de las plataformas, con lo que los investigadores pueden hallar material de abuso nunca antes visto.

Pero la eficacia de estas herramientas depende de los datos usados para entrenar el modelo, y a menudo los investigadores no tienen acceso seguro a los conjuntos de datos que necesitan. Por eso el informe del IPIE pide que los gobiernos provean de entornos seguros y controlados en los que investigadores autorizados puedan estudiar datos sensibles manteniendo la protección de las víctimas. Sin esa cooperación, no será posible un avance sistemático y uniforme.

Además, todos estos métodos actúan frente al abuso consumado. Pero sin negar la importancia de mejorar la detección de los perpetradores, el objetivo tiene que ser prevenir los daños antes de que ocurran, y en este sentido el IPIE identifica graves falencias. Los sistemas de pago digital, las herramientas publicitarias y otras funciones muy usadas de las plataformas pueden ayudar a los malhechores a organizar y monetizar abusos; sin embargo, las intervenciones públicas no prestan atención a estos mecanismos. Mientras la infraestructura financiera que sostiene la explotación permanezca intacta, todo intento de combatir el abuso será reactivo.También hay que hablar de la concientización pública. Un modo prometedor para alentar conductas más seguras y denuncias es mediante campañas educativas que enseñen a los menores los riesgos del grooming y expliquen los daños causados por los materiales ilegales; pero estas intervenciones siguen subdesarrolladas. En cualquier caso, la educación no es sustituto para el diseño responsable de las plataformas ni para la fiscalización efectiva de las leyes. Los niños no deberían usar sistemas que habilitan su explotación, y la responsabilidad en tal sentido corresponde a las empresas que crean y operan esas plataformas.

Las grandes tecnológicas actúan en el nivel mundial, pero la fiscalización de las leyes todavía es en gran medida nacional. Sin marcos jurídicos transfronterizos mejorados, siempre habrá vacíos legales a disposición de los malhechores. Algunas jurisdicciones ya tienen capacidad para aplicar sus leyes más allá de sus fronteras obligando a las empresas a denunciar abusos, conservar pruebas y cooperar con las investigaciones. Por ejemplo, la Unión Europea (un importante mercado para las grandes plataformas digitales) está en muy buena posición para exigir rendición de cuentas a las principales plataformas y a los abusadores.

Pero como muestra la reseña del IPIE, todavía hay que hacer mucho más por mejorar la coordinación internacional de modo tal que las empresas y los delincuentes encuentren una fiscalización de las leyes más clara y coherente. El escándalo de Grok fue un ejemplo de manual de las dificultades que tienen los reguladores para seguirle el ritmo a la veloz evolución de la tecnología. Aunque respondieron enseguida cuando se tornó evidente que el chatbot estaba creando material de abuso sexual infantil, fue necesario un escándalo para llamar la atención sobre el problema. Cuando eso no ocurre, el cabildeo, la presión económica y otras formas de influencia de la industria disuaden la implementación de normas significativas.

En síntesis, el IPIE halló que la respuesta mundial al abuso infantil en línea es a la vez esencial e insuficiente. Hay herramientas de detección que por lo general identifican materiales de abuso ya conocidos, persecución policial a los perpetradores en la medida de lo posible y programas educativos que procuran llamar la atención sobre los principales riesgos. Pero al sistema le cuesta seguir el ritmo a la constante evolución de las tecnologías digitales. Todavía no hay una comprensión cabal de los sistemas financieros que sostienen la explotación; los investigadores no tienen acceso a datos que necesitan para mejorar la detección; y los marcos jurídicos no tienen en cuenta la naturaleza global del problema.

Los gobiernos llevan años diciendo que para tomar medidas más contundentes necesitaban más datos, pero esa excusa ya no es creíble. El IPIE ha demostrado que los datos ya están. Sabemos qué intervenciones ayudan a reducir el daño y dónde están los mayores vacíos legales. Lo que todavía no sabemos es hasta qué punto la dirigencia política está dispuesta a hacer lo necesario para proteger a los niños.

Andy Phippen es profesor de Derechos Digitales en la Universidad de Bournemouth y profesor visitante en la Universidad de Suffolk. 

Copyright: Project Syndicate, 2026. www.project-syndicate.org