El lado oscuro de la Inteligencia Artificial, deepfakes y Abuso Sexual. ¿Cómo debemos actuar?

El aporte de la Inteligencia Artificial (IA) ha sido, sin duda, positivo en la tecnología. Sin embargo, su uso indebido también ha marcado la pauta especialmente en los jóvenes con el “deepfake”. Éste ya se utiliza en distintos países del mundo con el objetivo de extorsionar o violentar la integridad de otras personas.

La difusión de imágenes y vídeos generados con inteligencia artificial que se presentan como si fueran reales, se ha convertido en una práctica habitual en el entorno digital. En ocasiones, estos contenidos atentan contra el derecho a la intimidad, en particular de las mujeres convirtiendo las redes sociales en un terreno hostil para ellas.

El auge de las imágenes generadas por inteligencia artificial plantea grandes retos a los jóvenes de hoy, a los que afecta como víctimas y como autores involuntarios.

Los adolescentes pueden experimentar con estas tecnologías, sin ser conscientes de las consecuencias legales y éticas, lo que puede provocar angustia psicológica a las personas representadas sin consentimiento y problemas legales a los creadores.

Ejemplos sobran en nuestro país, podemos recordar el caso recientemente ocurrido en la provincia de Córdoba donde un alumno de 18 años utilizando inteligencia artificial creó fotos sexuales mediante montajes mezclando fotos de compañeras de colegio con el cuerpo de otras mujeres, y las subió a páginas porno. En cada imagen puso el nombre y apellido de las chicas.

Cada vez más alumnos «desnudan» compañeras con IA para vender las fotos trucadas

El caso es claramente un acto de violencia de género, por el posicionamiento del imputado frente a las víctimas y la cosificación sexual a la que fueron sometidas en el medio digital.

Las víctimas de deepfake sufren profundo impacto emocional, que puede tener consecuencias a largo plazo para su salud mental.

Otra de las consecuencias que genera en las víctimas es que su reputación se ve gravemente dañada, lo que puede afectar sus relaciones personales y profesionales.

Puntualmente, la Ley 26.485 de Protección de la Violencia contra la Mujer, en su artículo 6, inciso I, prevé el tipo de “violencia digital o telemática por conductas que afectaren la reputación de la víctima”, y expresamente habla del supuesto de “difusión, sin consentimiento de material digital real o editado, intimo o de desnudez, que se le atribuya a las mujeres”.

¿Qué consecuencias legales podrían surgir a partir del montaje utilizando fotos reales para la creación de material de abuso sexual infantil?

En mi opinión, al verse representadas los rostros que pertenecen a las chicas menores de edad, deja de importar que el cuerpo no sea el de ellas. Si son menores de edad, es un delito es difusión de pornografía infantil.

Lamentablemente, en el caso de mayores de edad la situación cambia radicalmente. En la localidad de San Jerónimo del Sud (provincia de Santa Fe), una persona difundió fotos y videos de contenido sexual que fueron realizados a través de montajes mediante inteligencia artificial donde se utilizaron los rostros de al menos 80 mujeres de un pueblo con 3000 habitantes. En este caso no es delito difundir pornografía de mayores. Aunque podría recaer otras figuras contempladas como lo podría ser la Injuria o en su caso responsabilidades civiles por los daños y perjuicios generados a la imagen y reputación de la víctima.

Esta problemática me hace plantear la necesidad de modificaciones urgentes en el código Penal para poder accionar en protección de los derechos de la víctima, como también para poder investigar y responsabilizar al culpable.

¿Cómo actuar si hay víctimas menores de edad?

1) Es importante guardar las imágenes: No debemos borrar los contenidos que puedan ser la prueba de un delito. No borrar absolutamente nada de lo que tengas o que le haya llegado a alguien, aunque duela porque si no, nos quedamos sin pruebas

2) Buscar apoyo en tu entorno de confianza: El apoyo de las familias en este tipo de violencia digital es una pieza clave

3) Realizar la denuncia lo antes posible

4) Recordar que en cualquier momento del proceso se puede pedir ayuda psicológica si lo necesitas.

Conclusiones y pautas de abordaje:

Es importante aclarar que la tecnología no es el problema. La verdadera raíz está en la falta de educación digital que existe en los jóvenes. Si bien, los adolescentes hoy están creciendo a la par del mundo tecnológico, es prioritaria la implementación de charlas, cursos y demás herramientas en las zonas educativas para entregar a estos niños y adolescentes buenas prácticas para el uso correcto de la IA

Es crucial educar a los adolescentes sobre las graves implicaciones de las imágenes generadas por IA y de compartir tales contenidos, haciendo hincapié en la ética digital y en el impacto en el mundo real de sus acciones en línea.

La lucha contra los deepfakes y abusos sexuales en línea requiere un esfuerzo en conjunto de la sociedad, escuelas, empresas tecnológicas y de parte de todos los organismos del estado. Solo así podremos garantizar un entorno digital seguro y respetuoso para todos.