El Lado Oscuro de la Inteligencia Artificial: Deepfakes y Abuso Sexual

La Inteligencia Artificial (IA) ha transformado diversos aspectos de la tecnología con sus contribuciones, pero también plantea nuevos desafíos, especialmente para los jóvenes. Entre sus usos indebidos se destaca el fenómeno de los deepfakes, tecnología que permite la creación de imágenes y videos falsos, pero realistas, los cuales en muchas ocasiones son utilizados para extorsionar y violentar la intimidad de las personas.

En la actualidad, la IA facilita la generación de imágenes digitales realistas que atentan contra el derecho a la intimidad, afectando en particular a mujeres, quienes son las principales víctimas de este tipo de violencia en redes sociales. La difusión de este contenido suele tener consecuencias emocionales devastadoras y afecta profundamente la reputación y las relaciones personales y profesionales de las víctimas.

Un caso reciente en la provincia de Córdoba ilustra la gravedad del problema: un estudiante de 18 años creó y difundió fotos sexuales manipuladas digitalmente que mezclaban rostros de sus compañeras de colegio con cuerpos de mujeres desnudas y luego las subió a sitios pornográficos, incluyendo los nombres de las jóvenes afectadas. Este acto constituye una clara manifestación de violencia de género y cosificación de las mujeres, evidenciando la necesidad urgente de regulaciones específicas.

En el marco legal, la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres contempla en su artículo 6 inciso I la “violencia digital o telemática”. Sin embargo, la legislación presenta vacíos importantes. Actualmente, el uso de deepfakes para crear pornografía infantil está penado cuando las imágenes representan a menores de edad. Sin embargo, si el montaje involucra a personas adultas, la situación legal cambia, y la ley no considera delito la difusión de contenido sexual manipulado, aunque puede haber sanciones civiles por daños y perjuicios.

¿Cómo actuar si hay víctimas menores de edad?
Guardar las imágenes: Mantener las pruebas es fundamental; aunque pueda resultar doloroso, eliminar el contenido podría dificultar la investigación.
Buscar apoyo en el entorno cercano: El respaldo familiar es crucial en situaciones de violencia digital.
Denunciar rápidamente: Acudir a las autoridades para iniciar el proceso de denuncia es esencial.
Solicitar ayuda psicológica: Las víctimas pueden recibir apoyo emocional durante el proceso.
Conclusiones y recomendaciones
La raíz del problema no está en la tecnología en sí, sino en la falta de educación digital. Es esencial integrar charlas y cursos sobre buenas prácticas en el uso de la IA en el sistema educativo. Además, es crucial que los adolescentes comprendan las consecuencias legales y éticas de su comportamiento en línea.

Para combatir el abuso digital y los deepfakes, es necesario un esfuerzo colectivo que involucre a la sociedad, las instituciones educativas, las empresas tecnológicas y los organismos gubernamentales. Solo así se podrá construir un entorno digital seguro y respetuoso para todos.