Imágenes sexuales falsas con IA: la alerta que atraviesa a las escuelas

Las imágenes sexuales falsas con IA ya forman parte de las preocupaciones concretas de varias escuelas argentinas. Investigaciones en Lomas de Zamora e Ituzaingó, junto con antecedentes en instituciones dependientes de la Universidad de Buenos Aires, muestran que una fotografía pública puede ser manipulada y difundida sin consentimiento, incluso cuando la persona representada nunca produjo ni compartió material íntimo.

La situación fue reconstruida por Clarín a partir de denuncias, declaraciones de especialistas y datos de un relevamiento de la Defensoría del Pueblo de la Ciudad de Buenos Aires. Los casos combinan una dimensión escolar, otra penal y un problema más amplio: la disponibilidad de servicios capaces de simular desnudos a partir de imágenes comunes.

Qué investigan las escuelas de Lomas de Zamora

En el Colegio Modelo de Lomas de Zamora, un grupo de alumnos habría utilizado herramientas de inteligencia artificial para crear imágenes sexuales falsas de compañeras y hacerlas circular. Según la reconstrucción aportada por las familias, el material estaba organizado con nombres de alumnas, fotografías tomadas de redes sociales y versiones manipuladas para simular desnudos.

Las familias estiman que habría entre 30 y 40 alumnas afectadas. El colegio dispuso que los estudiantes identificados cursen de manera virtual y tenía previsto definir las sanciones el lunes 19 de octubre. Esa decisión corresponde al ámbito institucional y no reemplaza la investigación judicial.

La causa está a cargo del fiscal Mariano Bonilla, de la UFI N.° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora. Hay cuatro adolescentes identificados, se secuestraron dispositivos electrónicos y se solicitaron medidas cautelares y prohibiciones de acercamiento respecto de las alumnas. Fuentes cercanas a la investigación indicaron que, hasta el momento, no identificaron la participación de un adulto.

Otro expediente en Ituzaingó vincula redes sociales y Telegram

En Ituzaingó, una adolescente de 15 años recibió mensajes de desconocidos que la invitaban a salir y afirmaban haber obtenido su número mediante un grupo de Telegram. Al ingresar al enlace recibido, encontró un chat en el que se compartía contenido pornográfico.

Según la denuncia de su madre, un compañero de cuarto año del Colegio Thomas Edison habría reconocido que descargó fotografías de las redes sociales de la adolescente, las manipuló con inteligencia artificial y las publicó en ese grupo. La causa quedó a cargo de la Fiscalía de Responsabilidad Penal Juvenil N.° 2 de Morón y fue caratulada como presunta tenencia de representaciones sexuales de menores de 18 años con fines de distribución o comercialización.

La calificación es provisoria y corresponde a la investigación en curso. No equivale a una condena ni permite establecer por sí sola la responsabilidad penal de las personas mencionadas.

La circulación no depende de que exista una foto íntima

La particularidad de estas herramientas es que permiten fabricar una representación sexual a partir de una imagen cotidiana. Una alumna puede haber publicado una fotografía en una red social sin compartir material íntimo y, aun así, convertirse en la persona representada en una imagen falsa.

El daño no depende únicamente de la autenticidad de la imagen. La difusión puede exponer el nombre, el rostro y los perfiles de la víctima, generar hostigamiento y alterar su vida escolar. La especialista en violencia digital Ana Correa, citada por Clarín, advierte que la atención social suele concentrarse en la persona representada y no en quienes crean, distribuyen o eventualmente monetizan el material.

Martín Zurita, secretario ejecutivo de la Asociación de Institutos de Enseñanza Privada de Argentina (AIEPA), señaló que la preocupación aparece cada vez más en reuniones con directivos y representantes legales. Para la entidad, el acompañamiento debe involucrar a las escuelas y a las familias, porque parte de las conductas ocurre fuera del establecimiento y mediante dispositivos utilizados también en los hogares.

Qué respuesta institucional propone AIEPA

El protocolo que AIEPA indica a sus escuelas asociadas contempla comunicar la situación a la inspección de la Dirección General de Escuelas y realizar la denuncia ante el Ministerio Público Fiscal, o ampliarla si ya existe una presentación previa.

También plantea proteger a las alumnas, disponer la prohibición de contacto y concentrar las adecuaciones institucionales prioritariamente en los estudiantes señalados, no en las víctimas. El proceso de convivencia escolar debe mantenerse separado de la instancia penal y contar con la participación de las familias.

La separación es relevante porque una escuela debe atender al mismo tiempo la protección inmediata, la convivencia y la preservación de pruebas, mientras que la determinación de responsabilidades corresponde a las autoridades judiciales competentes.

Los datos disponibles muestran una práctica reconocible

Un relevamiento de la Defensoría del Pueblo de la Ciudad de Buenos Aires, realizado entre 912 estudiantes de 12 a 19 años, registró que el 1% dijo haber sido víctima directa de deep fakes, el 13% conocía casos en su entorno escolar y el 43% había recibido imágenes o videos manipulados con inteligencia artificial.

Esos porcentajes no permiten medir por sí solos la cantidad total de casos ni establecer una tendencia nacional. Sí muestran que la circulación de material manipulado ya es reconocida por estudiantes dentro de sus ámbitos escolares, y que no se limita a episodios desconocidos o excepcionales.

La información internacional citada en la investigación amplía el contexto. Security Hero analizó en 2023 más de 95.000 videos deep fake y reportó que el 98% era pornográfico o sexualmente explícito; dentro de ese conjunto, el 99% de las personas representadas eran mujeres. Por otra parte, el Tech Transparency Project identificó aplicaciones de desnudez artificial que acumulaban 483 millones de descargas y más de 122 millones de dólares en ingresos estimados.

Ambas referencias deben leerse como relevamientos con metodologías y alcances propios. No prueban por sí mismas la magnitud del fenómeno en las escuelas argentinas, pero ayudan a distinguir el problema individual de un ecosistema de herramientas y plataformas que también obtiene beneficios de su circulación.

El marco legal argentino todavía deja zonas de discusión

La Ley 27.736, conocida como Ley Olimpia, incorporó la violencia digital a la Ley 26.485 de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres. La norma reconoce formas de violencia ejercidas mediante tecnologías y contempla la difusión no consentida de material íntimo o de desnudez, incluso cuando haya sido editado. También prevé herramientas judiciales vinculadas con el retiro de contenidos y la preservación de pruebas.

La especialista Ana Correa sostiene que ese marco no resuelve con igual claridad todas las conductas relacionadas con la creación, distribución y comercialización de imágenes sexuales falsas generadas con inteligencia artificial. Cuando hay menores involucrados, además, pueden entrar en juego otras figuras jurídicas según las características del material y los hechos investigados.

Un antecedente de Córdoba citado en la nota permite observar una posible interpretación judicial. La Cámara de Acusación de esa provincia confirmó la elevación a juicio de un joven acusado de manipular fotografías de compañeras de colegio, colocar sus rostros en cuerpos desnudos y publicar las imágenes junto con sus nombres y enlaces a Instagram. El tribunal consideró que los hechos podían encuadrarse como lesiones graves calificadas por mediar violencia de género y reconoció que el daño psíquico puede constituir una lesión penal aun sin una lesión física.

La discusión alcanza a las plataformas y a las herramientas

La responsabilidad no se agota en quienes producen o comparten una imagen. Correa también menciona a las empresas que desarrollan las herramientas, las aplicaciones, los buscadores, las redes sociales y los servicios que facilitan la publicación o la monetización del material.

La observación apunta a toda la cadena: creación de imágenes, almacenamiento, recomendación, circulación y eventual obtención de ingresos. Según la especialista, muchas herramientas pueden encontrarse en la web abierta o ejecutarse en computadoras personales, por lo que no corresponde reducir el problema a circuitos clandestinos o a una supuesta “deep web” de inteligencia artificial.

En paralelo, más de 300 organizaciones y referentes de la Argentina y América Latina impulsan la campaña “Está hecha la trampa, pero no la ley”. La iniciativa reclama una ley integral de protección de niños, niñas y adolescentes en entornos digitales, con responsabilidades para las plataformas, protección de datos personales, transparencia algorítmica, controles estatales, educación digital y sanciones ante incumplimientos. El material suministrado no detalla el estado legislativo de esas propuestas.

Qué deberían priorizar las familias y las escuelas

La respuesta inmediata debe proteger a la víctima y evitar que la institución le traslade el costo de la conducta ajena. Eso incluye reducir el contacto con los agresores señalados, conservar la información relevante sin volver a difundir el material y activar los canales escolares, administrativos y judiciales correspondientes.

También resulta necesario diferenciar una imagen falsa de un daño inexistente. Que el contenido haya sido generado artificialmente no elimina la exposición del rostro, la circulación no consentida ni las consecuencias psicológicas y sociales. La prevención, por su parte, requiere trabajo conjunto entre familias, escuelas, plataformas y organismos públicos.

Los casos conocidos en distintas instituciones muestran que la disponibilidad técnica modificó la velocidad y el costo de la agresión, pero no desplazó las responsabilidades humanas e institucionales. Para las escuelas, el desafío inmediato es intervenir sin revictimizar; para el sistema público, definir con mayor precisión cómo responder ante una práctica que ya combina violencia digital, menores de edad y circulación masiva.