Una jueza de San Luis ordenó bloquear una app que crea desnudos falsos con IA

Una jueza de San Luis ordenó el bloqueo a nivel nacional de una aplicación que utiliza inteligencia artificial para crear imágenes íntimas falsas, luego de una denuncia que involucró a estudiantes de una escuela de la capital provincial. La decisión judicial marca un precedente en un contexto de vacío legal frente al avance de los llamados deepfakes sexuales.

La medida cautelar fue impulsada por la Fiscal de Género, Diversidad Sexual, Infancias y Adultos Mayores N° 2, Antonella Córdoba, y aceptada por la jueza del Juzgado Penal Juvenil, Daniela Benenatti, quien dispuso dar intervención al Ente Nacional de Comunicaciones (ENACOM) para bloquear de manera inmediata el acceso a la plataforma en todo el país.

El caso se originó a partir de la denuncia presentada por la apoderada de una institución educativa, en representación de un grupo de adolescentes cuyos rostros fueron superpuestos, sin consentimiento, en cuerpos desnudos que no les pertenecían. Las imágenes fueron creadas mediante una aplicación de IA diseñada para “desnudar” fotografías, según determinó un informe del Departamento de Delitos Complejos del Poder Judicial de San Luis.

Aunque la plataforma aseguraba en su sitio web que no permite el procesamiento de imágenes de menores y que no se responsabiliza por los contenidos generados, la investigación reveló que no existen controles efectivos de verificación de edad ni mecanismos que impidan el uso indebido de imágenes de terceros.

Al fundamentar su pedido, la fiscal Córdoba sostuvo que se trató de una “violación flagrante de la privacidad, la dignidad y los derechos” de las víctimas, y alertó sobre el alto riesgo de reiteración del daño debido a la falta de barreras de protección en el entorno digital. La solicitud se apoyó en la Ley Olimpia, la Ley de Protección Integral de los Derechos de Niñas, Niños y Adolescentes y la Ley de Protección Integral contra la Violencia hacia las Mujeres.

Falta de legislación específica

En Argentina, la creación y difusión de imágenes sexuales falsas generadas por inteligencia artificial aún no está tipificada de manera específica en el Código Penal. Si bien algunos casos se intentan encuadrar bajo el artículo 128, que sanciona el material de abuso sexual infantil, la norma no contempla expresamente los contenidos creados con IA.

Ante este escenario, distintos proyectos legislativos buscan avanzar en una regulación más clara, como la denominada Ley Belén y otras iniciativas que prevén penas de hasta seis años de prisión para quienes utilicen deepfakes sin consentimiento