San Luis: la Justicia ordenó desactivar una app que creaba imágenes sexuales falsas con IA

Por Alejo Pombo

El uso de la inteligencia artificial para crear imágenes y videos falsos con contenido sexual continúa en aumento y expone, especialmente, a mujeres y adolescentes a graves consecuencias sociales, emocionales y psicológicas. En este contexto, la Justicia de San Luis dictó una medida que marca un precedente de alcance nacional.

Una jueza ordenó el bloqueo en todo el país de una aplicación que utiliza inteligencia artificial para generar desnudos falsos, luego de una denuncia presentada por un grupo de estudiantes de una escuela de la capital puntana. En los montajes, a cuerpos desnudos se les superponían los rostros de las víctimas sin su conocimiento ni consentimiento.

La medida cautelar fue impulsada por la fiscal de Género, Diversidad Sexual, Infancias y Adultos Mayores N° 2, Antonella Córdoba, y quedó a cargo de la jueza del Juzgado Penal Juvenil de la ciudad de San Luis, Daniela Benenatti. La magistrada dispuso dar intervención al Ente Nacional de Telecomunicaciones (ENACOM) para que proceda al bloqueo inmediato del acceso a la aplicación en todo el territorio nacional o, en su defecto, implemente las acciones necesarias para impedir su funcionamiento.

Según explicó la fiscal Córdoba, el caso se originó a partir de una denuncia presentada por la apoderada legal de una escuela, en representación de varias adolescentes cuyos rostros fueron utilizados para crear imágenes íntimas falsas. La investigación permitió identificar “una aplicación de IA avanzada diseñada para desnudar fotos y generar la ilusión de un cuerpo desnudo”, de acuerdo con el informe técnico elaborado por el Departamento de Delitos Complejos del Poder Judicial de San Luis.

Aunque la plataforma asegura en su sitio web que no permite el procesamiento de imágenes de menores y que no se responsabiliza por los contenidos generados, la investigación judicial determinó que no existen mecanismos efectivos de verificación de edad ni barreras que impidan el uso indebido de imágenes de terceros.

Ante esta situación, la fiscal solicitó una medida cautelar urgente al considerar que se trataba de una “violación flagrante de la privacidad, la dignidad y los derechos” de las víctimas. El pedido se fundamentó en la Ley Olimpia (27.736), que tipifica la violencia digital, la Ley de Protección Integral de los Derechos de Niñas, Niños y Adolescentes (26.061) y la Ley de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres (26.485).

“El entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”, advirtió Córdoba, quien remarcó que el acceso irrestricto a este tipo de aplicaciones representa un riesgo cierto de repetición del daño.

El vacío legal en Argentina

Actualmente, el Código Penal argentino no cuenta con una figura específica que penalice la creación y difusión de deepfakes sexuales generados por inteligencia artificial. En algunos casos, fiscales intentan encuadrar estas conductas en el artículo 128, que sanciona la producción y distribución de material de abuso sexual infantil, aunque la norma no contempla explícitamente imágenes creadas por IA.

En paralelo, existen proyectos de ley que buscan cerrar estas brechas legales, como la denominada Ley Belén, que propone penalizar los montajes realizados con inteligencia artificial, y otras iniciativas que prevén penas de hasta seis años de prisión para quienes generen o difundan deepfakes sin consentimiento.

El fallo dictado en San Luis se convierte así en un antecedente relevante frente a una problemática en expansión y en un contexto normativo que aún presenta importantes vacíos legales.