María Cristina Lorente López - Lun, 25/09/2023 - 11:43
Joven entre rejas.
Serie: 'El Derecho Responde' (CLXXIX)
En las últimas semanas saltaba a los medios de comunicación el escándalo del municipio de Almendralejo: al menos una veintena de imágenes de niñas menores de edad, manipuladas con inteligencia artificial (IA) para que aparecieran desnudas, estaban siendo distribuidas mediante Whatsapp.
Dichas creaciones reciben el nombre de Deep Fakes, y son en realidad textos, imágenes, audios o videos manipulados a través de IA.
El principal riesgo que implica esta nueva tecnología es su accesibilidad; cualquier persona que cuente con una imagen y un dispositivo (teléfono móvil, ordenador o tablet) puede crear un Deep fake en cuestión de minutos. Sin embargo, resulta más complicado diferenciar si la imagen es veraz, y frenar su difusión.
Tal y como recoge el Libro Blanco sobre IA (Comisión Europea, 2020):
“…los Deep fakes permiten todo tipo de fraude, en particular los que implican el robo de identidad. Las personas, especialmente las mujeres, corren un mayor riesgo de difamación, intimidación y extorsión, ya que las tecnologías Deep fake son actualmente predominantemente utilizadas para intercambiar las caras de las víctimas con las de las actrices en videos pornográficos”.
El daño que se hace a la mujer, como al menor de edad, es importante. Por la globalidad de la red, por la inmediatez, y muchas veces, por la impunidad del autor. Se perjudica gravemente la biografía digital y futura reputación de la víctima.
El caso de Almendralejo evidencia que el Derecho va, nuevamente, un paso por detrás de la realidad social. Aunque todavía no se considera precisa una reforma del Código Penal, no cabe duda de que esta llegará (como en su día se produjo la del art. 197.7, a raíz del caso Olvido Hormigos).
Y ello, porque el panorama actual, hace que la ruta legal para las víctimas siga siendo un desafío. Al menos, hasta la efectiva aprobación del Reglamento Europeo sobre IA, que previsiblemente se apruebe a final de año.
Si el encaje en el tipo delictivo no es total, la pena no puede ser acorde. Las distintas vías (jurisdicción civil, jurisdicción penal, AEPD), no hacen sino generar incertidumbre. De otro lado, la minoría de edad de víctimas y agresores, evidencia la necesidad de un control efectivo sobre el acceso a Internet y redes sociales. Según los últimos datos del INE (2022), el 68,7% de los niños de 10 a 15 años disponen de móvil propio; y el 92,9% de menores de ese mismo rango de edad, utiliza el ordenador y/o tablet desde su vivienda. Abrir un debate sobre ciertos sistemas, como son el reconocimiento facial, el DNI electrónico o la huella dactilar, puede resultar inevitable a medio plazo. Y es que, aunque en la actualidad se considere que su uso implica una transgresión del derecho a la privacidad del individuo, en un futuro puede manifestarse como la única forma efectiva para proteger los derechos fundamentales al honor, intimidad y propia imagen en la realidad social virtual que constituyen las nuevas tecnologías.
Editor: Universidad Isabel I
Burgos, España
ISSN: 2603-9087
Añadir nuevo comentario