La fiscal de Género, Diversidad Sexual, Infancias y Adultos Mayores N° 2, Antonella Córdoba, interpuso una medida cautelar para bloquear en todo el país una aplicación que genera imágenes íntimas falsas de adolescentes mediante el uso de inteligencia artificial.
La presentación fue realizada ante la jueza del juzgado Penal Juvenil de la ciudad de San Luis, Daniela Benenatti, quien hizo lugar al planteo y ordenó dar intervención al Ente Nacional de Telecomunicaciones (ENACOM) para disponer el bloqueo inmediato del acceso a la plataforma. En caso de que esa medida no sea técnicamente posible, el organismo deberá evaluar e implementar alternativas que permitan alcanzar el mismo objetivo.
Según explicó la fiscal, la investigación se inició a partir de una denuncia presentada por la apoderada de una escuela de la capital puntana, en representación de un grupo de adolescentes cuyos rostros fueron superpuestos, sin su conocimiento ni consentimiento, sobre cuerpos desnudos que no les pertenecen. La maniobra se realizó mediante una plataforma que, bajo la apariencia de un software de edición, utiliza algoritmos de aprendizaje profundo para “quitar la ropa” de las personas en fotografías.
Un informe técnico elaborado por el Departamento de Delitos Complejos del Poder Judicial de San Luis describió a la herramienta como “una aplicación de IA avanzada diseñada para desnudar fotos y crear la ilusión de un cuerpo desnudo”. Si bien en su sitio web la plataforma sostiene que “el procesamiento de menores es imposible” y se desliga de responsabilidad por las imágenes generadas, la investigación determinó que no existen barreras efectivas de verificación de edad ni mecanismos que impidan el uso de imágenes de terceros sin autorización.
Ante este escenario, la fiscal solicitó la medida cautelar con sustento en la Ley Olimpia (27.736), que tipifica y sanciona la violencia digital, la Ley de Protección Integral de los Derechos de Niñas, Niños y Adolescentes (26.061) y la Ley de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres (26.485). “El entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica, configurando una situación de alto riesgo que exige medidas cautelares urgentes de protección”, advirtió Córdoba, y agregó que la continuidad del acceso a la aplicación “constituye un riesgo cierto de repetición del daño, tanto respecto de las víctimas identificadas como de otros potenciales afectados”.
En su escrito, la fiscal también señaló que “la presente solicitud constituye un proceso de prevención y protección contra la violencia de género y de prevención de ulteriores delitos, que en el caso particular tiene como destinatarias a adolescentes menores de edad, configurando el plexo normativo de protección de los derechos involucrados”, explicó la funcionaria.
