Informe Orwell.- Una reciente investigación llevada a cabo por The Wall Street Journal (WSJ) ha revelado preocupantes hallazgos sobre la plataforma de redes sociales Instagram.

Según el informe publicado este jueves, Instagram ha estado recomendando videos sexualmente explícitos a cuentas de usuarios tan jóvenes como de 13 años, desafiando sus propias políticas de contenido seguro para menores.

La investigación, que se desarrolló durante siete meses en colaboración con una investigadora académica, demostró que el algoritmo de Instagram sugiere de manera regular videos sexuales a cuentas de adolescentes apenas minutos después de iniciar sesión por primera vez. Los datos recolectados indicaron que los creadores de contenido para adultos aparecían en las recomendaciones de usuarios de 13 años en tan solo tres minutos de actividad en la plataforma.

Los resultados mostraron que, después de menos de 20 minutos viendo reels -los videos cortos de la aplicación-, las cuentas de prueba estaban inundadas con promociones de perfiles dedicados a contenido sexualizado. Algunas de estas cuentas incluso ofrecían enviar fotos de desnudos a los usuarios que interactuaban con sus publicaciones.

En contraste, pruebas similares realizadas en Snapchat y TikTok no arrojaron los mismos resultados de contenido sexualizado para usuarios menores de edad, lo que señala una posible falla particular en los algoritmos de Instagram.

Meta, la empresa matriz de Instagram, ha desestimado los hallazgos del WSJ. Andy Stone, portavoz de la compañía, declaró que los experimentos fueron «artificiales» y no reflejan la realidad del uso de la plataforma por parte de los adolescentes. Sin embargo, documentos internos de Meta revisados por el WSJ han identificado problemas similares, revelando que Instagram muestra más pornografía, contenido violento y discursos de odio a los usuarios jóvenes que a los adultos.

Un análisis interno de Meta sugirió que la solución más efectiva para evitar la entrega de contenido inapropiado a usuarios menores de edad sería crear un sistema de recomendación completamente separado para adolescentes. A pesar de esta recomendación, Meta no implementó dicha propuesta.

En respuesta a estos hallazgos, el estado de Nueva York está a punto de aprobar una legislación pionera que busca restringir los algoritmos absorbentes de las redes sociales para menores de edad, argumentando que el contenido proporcionado puede ser tan adictivo y perjudicial como el tabaco o las apuestas.

El cirujano general de los Estados Unidos, Vivek Murthy, ha respaldado esta iniciativa, proponiendo la introducción de advertencias sobre la salud mental en las redes sociales, similares a las advertencias en las cajetillas de tabaco y botellas de alcohol.

Según las políticas de Instagram, la plataforma no debería recomendar contenido sexualmente sugerente a usuarios de ninguna edad a menos que estos sigan voluntariamente dichas cuentas. Además, desde enero, Instagram ha prometido que a los adolescentes menores de 16 años no se les mostraría ningún contenido sexual explícito.