La Inteligencia Artificial y los menores: Imágenes falsas, daños muy reales

La Inteligencia Artificial Generativa (IAG) ha traído avances notables en múltiples ámbitos, pero también se ha convertido en una de las herramientas más poderosas —y peligrosas— para crear imágenes falsas de desnudos o abusos digitales, conocidas como deepfakes. Estas falsificaciones, lejos de ser un simple juego tecnológico, están causando un daño real y devastador en la vida de los menores.

Aunque las fotos no sean “reales”, el impacto psicológico y emocional en los niños y adolescentes es idéntico. Estas imágenes se viralizan sin control, humillan, extorsionan y, lo más alarmante, se convierten en material funcional para las redes de pedofilia.
Recientemente, la Agencia Española de Protección de Datos (AEPD) marcó un precedente al dictar la primera sanción en Europa por un falso desnudo generado con IA. La multa fue de 2.000 euros, y la resolución dejó en claro un punto fundamental: la responsabilidad recae en los adultos. Si el infractor es menor, son los padres o tutores quienes deben responder y pagar la sanción económica. Este precedente eleva la responsabilidad familiar a un nivel crucial: la supervisión del uso de la tecnología no es opcional, tiene un costo legal.

En Argentina, el Código Civil establece que los padres son responsables civilmente por los daños y perjuicios causados por sus hijos menores bajo su responsabilidad parental. En este contexto, la advertencia es clara: descuidar el uso que hacen los chicos de la tecnología puede tener consecuencias legales y emocionales graves.

La AEPD también fue contundente al señalar que usar el rostro de una persona sin su consentimiento, aunque sea sobre un cuerpo simulado, constituye un tratamiento ilícito de datos personales. Y más allá del aspecto jurídico, el daño emocional que sufren las víctimas va mucho más allá de la imagen en sí.

Cuando un menor ve su rostro asociado a un cuerpo desnudo o en una escena de abuso —aunque la imagen sea completamente falsa—, el impacto psicológico es equivalente al que provocaría una imagen real. De ello se derivan tres consecuencias preocupantes:

• Violencia digital: se trata de una forma de agresión que puede provenir tanto de compañeros de escuela (a través del bullying potenciado por IA) como de adultos malintencionados. El objetivo es siempre el mismo: humillar, extorsionar y dañar la reputación y la dignidad del menor.

• Difusión sin control: las imágenes falsas se comparten con una rapidez alarmante a través de WhatsApp, Telegram o redes sociales. Una vez difundidas, eliminarlas es casi imposible, y el estigma, la vergüenza y el dolor permanecen.

• Alimento para redes criminales: estas creaciones digitales, con rostros reales y cuerpos simulados, terminan siendo utilizadas como material por redes de pedofilia que operan en la dark web y en espacios cerrados. Se convierten así en un nuevo eslabón en la cadena de explotación sexual infantil.

El desafío de los adultos

Esta problemática no puede reducirse a un simple efecto colateral del progreso tecnológico. Es, ante todo, un tema de valores, educación y responsabilidad.
• Hablar con los chicos: la educación digital es la primera barrera. Padres y docentes deben dialogar con los menores sobre el impacto de sus acciones en línea, la importancia del consentimiento y la necesidad de pedir ayuda si se enfrentan a una situación de acoso o exposición.

• No difundir, denunciar: si llega a tus manos una imagen de este tipo, no la compartas. Eliminarla y denunciarla ante las autoridades o las plataformas digitales es la forma más efectiva de frenar la violencia.
La Inteligencia Artificial es una herramienta extraordinaria, pero usada sin ética ni responsabilidad puede generar daños irreparables. Su desarrollo y utilización deben enmarcarse en una ciudadanía digital responsable, que priorice el respeto, la empatía y la protección de los más vulnerables.
Educar y cuidar a nuestros chicos es una tarea colectiva. La tecnología avanza, pero los valores deben avanzar con ella.