A La Luz Pública – Noticias de Colombia La fuerza de la verdad
Niñas, niños y adolescentes en Colombia y América Latina pueden estar expuestos a un riesgo en línea mucho mayor de lo que las plataformas admiten públicamente, según una nueva investigación publicada por 5Rights Foundation, Revealing Reality y profesionales de la salud.
El estudio, que utilizó avatares infantiles diseñados para reflejar los comportamientos en línea de adolescentes reales, encontró que TikTok, Instagram y X dirigieron rápidamente las cuentas hacia contenido violento, sexualizado y emocionalmente dañino en cuestión de minutos de uso habitual.
Los avatares estuvieron activos solo durante 60 minutos a lo largo de un período de 12 días – un promedio de cinco minutos por día. Sin embargo, dentro de ese breve lapso, el diseño de las plataformas condujo a las cuentas a contenido relacionado con la depresión y el suicidio, ejecuciones gráficas y material sexualmente explícito que cosificaba a niñas y mujeres y normalizaba la violencia contra ellas.
Hallazgos clave
Los algoritmos intensificaron el contenido dañino en cuestión de minutos
Después de que un avatar dio “me gusta” a un pequeño número de publicaciones relacionadas con tristeza, el sistema de recomendaciones de TikTok transformó el contenido mostrado. En menos de 40 minutos, al avatar se le mostró un video que normalizaba el suicidio sin advertencias ni recursos de apoyo. En X, otro avatar encontró imágenes sin censura de la ejecución de una celebridad en menos de 15 minutos de navegación e interacción.
Las funciones de búsqueda amplificaron la exposición a la violencia y al contenido sexualizado
En aparente contradicción con sus propias normas comunitarias, TikTok mostró videos cada vez más sexualizados y actos sexuales simulados después de que los avatares buscaron términos comunes y neutrales como “bikini” y “belleza”.
En “X”, las búsquedas de términos como “Sinaloa” y “enfrentamientos” inundaron rápidamente los contenidos con interrogatorios gráficos, decapitaciones y videos que mostraban a adolescentes de hasta 15 años presuntamente siendo reclutados para participar en actividades violentas de narcotraficantes.
El diseño de las plataformas recompensó la interacción prolongada
Las investigadoras encontraron que las funciones de ludificación incentivaban el consumo prolongado incluso junto a contenido emocionalmente perturbador. A un avatar de TikTok se le mostraron funciones de recompensas basadas en monedas mientras simultáneamente se le recomendaban videos centrados en la ansiedad, la tristeza y la pérdida.
Los controles de edad siguen siendo ineficaces
Pese a que todas las plataformas exigen que sus usuarios tengan al menos 13 años, todos los avatares accedieron a los servicios simplemente ingresando una fecha de nacimiento falsa, sin que las plataformas realizaran una verificación significativa. Esto incluyó a TikTok e Instagram, ambas plataformas que afirman públicamente utilizar tecnologías para identificar a usuarios menores de edad y aplicar protecciones adicionales.
Las investigadoras señalaron que los hallazgos demuestran cómo los sistemas están diseñados para maximizar la atención y la interacción y pueden exponer a las niñas, niños y adolescentes a daños difíciles de detectar para padres, madres, cuidadoras, educadores y responsables de políticas públicas. Subrayan que, aunque el estudio se realizó en México —junto con el Instituto Nacional de Salud Pública y con el apoyo de El Hilo de Ariadne—, estos sistemas operan a nivel global y probablemente producen experiencias similares para las niñas y niños en otros países de América Latina.
Datos sobre Colombia
Esta investigación respalda información previamente investigada en el país. En 2024, una investigación de la Universidad de los Andes, TIGO y Aulas en Paz realizada a más de cinco mil niñas, niños y adolescentes en Colombia reveló que:
- El 20 % de niñas, niños y adolescentes reportó haber visto formas de hacerse daño o herirse a sí mismo.
- El 17 % formas de quitarse la vida.
- El 23 % información sobre cómo estar muy delgado/a.
- El 16,9 % mensajes de odio contra ciertos grupos.
- Además, el 17 % vio experiencias de consumir drogas y el 32% imágenes violentas sobre cómo lastimar a otros.
Esta investigación, junto con los datos de Colombia, debe ser una clara llamada de atención al Gobierno Nacional, en cabeza del Ministerio de Tecnologías de la Información y las Comunicaciones, para avanzar en la expedición del decreto reglamentario de la Ley 2489 de 2025, orientada a garantizar entornos digitales sanos y seguros para la niñez. Este debe incorporar estándares estrictos de seguridad infantil en línea, promover un diseño adecuado a la edad y fortalecer las responsabilidades de rendición de cuentas de las plataformas digitales.
Marie-Eve Nadeau, jefa de Asuntos Internacionales de 5Rights Foundation, señaló:
“Esta investigación demuestra que el contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la causa raíz de los daños.
Estos hallazgos dejan claro que la responsabilidad no puede recaer en la niñez ni en sus padres y madres para gestionar riesgos que no pueden ver o que están fuera de su control, y que es evidente que las plataformas deben rendir cuentas para garantizar que sus productos y servicios sean seguros desde el diseño y por defecto”.
Revealing Reality destacó:
“Esta investigación evidenció una clara brecha entre los compromisos públicos de seguridad de las plataformas y lo que las niñas y los niños encuentran en la práctica. Demuestra cuán rápidamente un feed puede volverse cada vez más concentrado en contenido violento, sexualizado o emocionalmente extremo, en respuesta a la actividad cotidiana en línea”.
Carolina Piñeros, Directora Ejecutiva de Red PaPaz menciona que: “Estos hallazgos de México revelan una verdad regional: las plataformas no priorizan, al contrario, exponen a la niñez y adolescencia latinoamericana. Aunque la investigación proviene de México, sus conclusiones son directamente aplicables a Colombia, pues responden a los mismos diseños, los mismos algoritmos, las mismas mecánicas de monetización que operan globalmente.
Que en Colombia, aproximadamente 1 de cada 5 niñas, niños y adolescentes han sido expuestos a contenidos de extrema violencia, suicidio y sexualización. No es casualidad: es consecuencia de una arquitectura digital donde el diseño prioriza el tiempo de la atención de niñas y niños y no su protección. Las plataformas y redes sociales están diseñadas para descuidar.
Esta vulnerabilidad exige una respuesta que las propias empresas no darán. Requiere intervención regulatoria urgente que obligue a repensar fundamentalmente cómo se diseñan estos espacios en nuestra región”.
