Jóvenes y nuevas tecnologías.
24 de abril de 2025. La profesora Sandra Suárez Castro, coordinadora del Grado en Criminología de la Universidad Isabel I, ha publicado recientemente el capítulo titulado "Desafíos y riesgos de los menores en el ciberespacio: tecnología, violencia de género y discurso de odio" en el libro Humanismo digital y perspectiva de género. En su artículo analiza cómo la digitalización ha transformado la vida de los menores, exponiéndolos a nuevos riesgos en el entorno online. Sin embargo, también destaca el potencial de la tecnología para prevenir la violencia de género y proteger a los niños y adolescentes en el ciberespacio.
Un entorno digital con luces y sombras
La integración de la tecnología en la vida cotidiana ha supuesto grandes avances en términos de aprendizaje, socialización y acceso a la información. Sin embargo, también ha dado lugar a fenómenos preocupantes. La profesora Suárez Castro argumenta que los menores son especialmente vulnerables a los discursos de odio y las actitudes misóginas que circulan en internet. "La facilidad de acceso a contenido digital, sumado a la ausencia de supervisión adecuada en muchos casos, contribuye a que los menores puedan estar expuestos a contenido misógino, que exalte el odio y la discriminación por razón de género", advierte la investigadora.
Uno de los problemas más alarmantes que señala en su trabajo es la violencia de género facilitada por la tecnología (TFGBV, por sus siglas en inglés). Este término engloba diversas formas de agresión online, desde el acoso cibernético hasta la difusión no consentida de imágenes íntimas. Estudios citados en su investigación indican que las mujeres tienen 27 veces más probabilidades de ser atacadas en Internet que los hombres y que entre el 16% y el 58% de ellas han sido víctimas de violencia de género en entornos digitales.
La profesora Suárez Castro también pone de relieve el impacto del contenido misógino en adolescentes: "La exposición constante a estos discursos puede llevar a la normalización de la violencia y a la interiorización de estereotipos de género perjudiciales". Esto, según explica, afecta al desarrollo psicológico, social y emocional de los menores, influyendo en sus relaciones interpersonales futuras y perpetuando dinámicas de desigualdad de género.
Soluciones tecnológicas para la protección de menores
Frente a este panorama preocupante, la investigadora aboga por el desarrollo e implementación de herramientas tecnológicas innovadoras que puedan mitigar los riesgos del ciberespacio. En su trabajo, menciona varias soluciones:
1. Gemelos digitales para la seguridad online
Una de las estrategias más prometedoras es el uso de gemelos digitales, una tecnología emergente que permite crear réplicas virtuales de sistemas físicos. Aunque este concepto ha sido aplicado en sectores como la industria y la salud, la profesora Suárez Castro señala que podría adaptarse para mejorar la seguridad online de los menores. "Podrían utilizarse para evaluar y perfeccionar técnicas de intervención sin poner en riesgo a los usuarios reales", explica.
Investigaciones previas han demostrado que los gemelos digitales pueden ser una herramienta eficaz para analizar el comportamiento en redes sociales y otras plataformas digitales. Simulaciones de este tipo podrían ayudar a diseñar entornos más seguros para los menores, permitiendo que expertos evalúen los riesgos y prueben estrategias de protección antes de implementarlas en el mundo real.
2. Realidad virtual para la educación en seguridad digital
La realidad virtual (RV) es otra de las herramientas que la criminóloga destaca en su investigación. Según señala, esta tecnología posee un gran potencial en el ámbito educativo, permitiendo a los menores enfrentarse a situaciones simuladas de riesgo en un entorno seguro.
Un ejemplo de esto es el proyecto Virtual Inclusion: Tackling Hate and Extremism in the UK Using Virtual Reality Technology, que ha utilizado RV para exponer a estudiantes a escenarios de acoso y discriminación. "La conexión emocional que los usuarios desarrollan con sus avatares en la realidad virtual aumenta la verosimilitud de la experiencia, incentivando la empatía y el pensamiento crítico", explica la autora. En este sentido, la realidad virtual podría aplicarse para enseñar a los menores a reconocer y manejar situaciones de hostigamiento y violencia de género en las redes sociales.
Protección de menores.
3. Plataformas de apoyo emocional online
Otra de las propuestas abordadas en el capítulo es el uso de inteligencia artificial (IA) para la creación de plataformas de apoyo emocional online. Estas herramientas pueden brindar asistencia inmediata a menores expuestos a violencia digital, proporcionándoles información y orientación en momentos críticos. Un ejemplo citado por Sandra Suárez es Sara, un chatbot desarrollado por el Proyecto Regional Infosegura, que ofrece respuestas seguras y confidenciales a víctimas de violencia online.
La autora sugiere que este tipo de plataformas podrían ser clave para proporcionar recursos accesibles a los jóvenes y ayudarles a identificar cuándo se encuentran en una situación de riesgo. "Un chatbot diseñado para orientar a los menores ante situaciones de violencia de género podría ser una herramienta eficaz, proporcionándoles pautas claras sobre cómo actuar y buscar ayuda", sostiene.
4. Inteligencia artificial para la detección de comportamientos de riesgo
Además de proporcionar apoyo emocional, la IA también puede desempeñar un papel crucial en la detección de comportamientos de riesgo online. La profesora menciona herramientas como eMonitor+, un sistema desarrollado por el Programa de las Naciones Unidas para el Desarrollo (PNUD) en Perú, que utiliza algoritmos avanzados para identificar discursos de odio y violencia de género en plataformas digitales.
Asimismo, plataformas de entretenimiento como Roblox han integrado inteligencia artificial multimodal para analizar conversaciones y contenidos generados por los usuarios. Estas tecnologías permiten detectar patrones de riesgo en tiempo real y tomar medidas preventivas para proteger a los menores en entornos digitales.
Obra en la que participa la Sandra Suárez Castro.
En sus conclusiones, la profesora Suárez Castro subraya la importancia de adoptar un enfoque integral para abordar la violencia de género en el ciberespacio. La violencia digital, facilitada por el anonimato y la impunidad, no solo afecta a las víctimas directas, sino que también influye negativamente en el desarrollo de los menores varones. "La accesibilidad a este tipo de contenido, y la falta de regulación, puede llevar a la interiorización de masculinidades hegemónicas basadas en la desigualdad de poder", advierte la investigadora. A largo plazo, esto puede repercutir en sus relaciones sentimentales y dificultar el establecimiento de vínculos saludables.
Por ello, la autora insiste en la necesidad de combinar la educación con el desarrollo de tecnologías innovadoras para garantizar la seguridad de los menores en el ciberespacio. "A través de una educación integral y el uso de herramientas emergentes, los jóvenes podrán adquirir las habilidades necesarias para identificar, cuestionar y actuar ante estos comportamientos nocivos", concluye la autora del artículo.