Abuso sexual infantil con inteligencia artificial

En la era digital, una nueva y alarmante tendencia está emergiendo en Internet: el uso de inteligencia artificial para crear deepfakes¹ que involucran a niñas, niños y adolescentes. Los deepfakes son imágenes o vídeos manipulados digitalmente que muestran rostros de personas en situaciones ficticias. Este fenómeno, que ha experimentado un crecimiento exponencial en el último año, está generando gran preocupación entre expertos en seguridad infantil y autoridades a nivel global.

Los deepfakes, han evolucionado rápidamente gracias a los avances en inteligencia artificial. Lo que antes requería habilidades técnicas avanzadas y horas de trabajo, ahora puede lograrse en cuestión de minutos con aplicaciones accesibles para cualquier usuario. Esta democratización de la tecnología, aunque innovadora en muchos aspectos, ha abierto la puerta a un uso malintencionado que afecta a los más vulnerables: los niños, niñas y adolescentes.

Según un informe reciente de la Internet Watch Foundation (IWF), organización que trabaja en la lucha contra el abuso infantil en línea, las cifras son alarmantes. En octubre de 2023, se identificaron alrededor de 3,000 imágenes de abuso sexual infantil generadas por IA en un solo foro de la dark web². Para julio de 2024, apenas nueve meses después, este número se había incrementado en 3,500 imágenes y vídeos adicionales en el mismo foro. Más preocupante aún es el aumento en la gravedad del contenido, con la aparición de categorías más violentas y explícitas.

El origen de las imágenes utilizadas para crear estos deepfakes es variado. Los rostros de menores suelen ser extraídos de redes sociales, sitios web de uso comercial e incluso imágenes de niños, niñas y adolescentes que son figuras públicas. Esta realidad subraya la importancia de la privacidad en línea y el cuidado en la publicación de imágenes de menores en internet.

Las implicaciones de este fenómeno son profundas. Más allá del evidente daño psicológico y emocional a las víctimas directas, estos deepfakes plantean serios desafíos para la sociedad en su conjunto. La dificultad para identificar y eliminar el contenido falso, el potencial uso del material para extorsión o acoso, y el riesgo de normalizar el abuso infantil en espacios en línea son solo algunas de las preocupaciones que surgen de esta tendencia. Expondremos un caso para entender la complejidad y gravedad del tema.

“una niña que sufrió abuso entre sus 3 y 8 años y los videos de dicho abuso se han compartido durante años por internet. Ella fue rescatada de su abusador y los videos fueron eliminados, sin embargo después de mucho tiempo de los hechos ha surgido otro tipo de abuso, ya que usando imagenes de su rostro cuando era una niña, los agresores han conseguido crear nuevos videos, donde se ve a la niña sufriendo indecibles formas de violencia sexual.” (Internet Watch Foundation, 2024)

Más allá de la revictimización, la creación y difusión de deepfakes constituye en sí misma una nueva forma de abuso, distinta y adicional a cualquier experiencia traumática previa. Este fenómeno no sólo reaviva el sufrimiento de las víctimas, sino que genera nuevos impactos psicológicos, emocionales y físicos, amplificando el daño original. La tecnología, en este contexto, demuestra su capacidad para exacerbar el trauma, llevando las consecuencias del abuso más allá del entorno digital y afectando profundamente la vida real de las víctimas. Esta cruel realidad subraya la urgente necesidad de abordar las implicaciones éticas y legales del mal uso de la inteligencia artificial en la creación de contenido sexual que involucra a menores.

Institucionales y gobiernos están trabajando contra esta problemática. Pero la realidad es que el desarrollo normativo avanza a un ritmo considerablemente más lento que la evolución de estas tecnologías, creando un desfase preocupante. Además, la diversidad de contextos y desafíos específicos de cada región dificulta la consecución de consensos globales y la implementación de medidas efectivas a escala internacional. Esta disparidad entre la velocidad de la innovación tecnológica y la respuesta legislativa, sumada a la complejidad de coordinar esfuerzos a nivel mundial, plantea un desafío adicional en la protección de los menores frente a la amenaza de los deepfakes.

El aumento de deepfakes que involucran a menores es un problema complejo que requiere una respuesta coordinada y multifacética de la sociedad en su conjunto. Es imperativo aumentar la conciencia sobre este tema, invertir en tecnologías de detección y prevención, y trabajar en conjunto para proteger a los más vulnerables en el entorno digital. Solo a través de un esfuerzo colectivo y sostenido podremos hacer frente a esta amenaza emergente y garantizar un internet más seguro para nuestros niños, niñas y adolescentes.

¹ Los deepfakes son videos, imágenes o audios generados por inteligencia artificial que imitan la apariencia y voz de una persona con tal precisión

² La Darkweb es una parte de Internet que permite que los usuarios oculten su identidad y ubicación a otras personas

Autora: Eloisa Larrea