Hay antecedentes tanto en Argentina como en otras partes del mundo, ante un fenómeno que se vuelve cada vez más frecuente.
No es la primera vez que pasa, y lamentablemente no será la última. En las establecimiento se activaron los protocolos de exceso de clase y el tema ya hallarse en la Justicia, aunque se enfrenta a un vacío permitido que genera incertidumbre. Las comunidades educativas de los colegios Nacional Buenos Aires y Carlos Pellegrini, dependientes de la UBA, se vieron conmocionadas porque se supo que discípulo de ambas establecimiento circularon y hasta comercializaron idea de sus compinche, intervenidas con intelecto falsificado (IA) para mostrarlas desnudas.
Pusieron en circulación con la intención de comercializar fotografía falseadas de sus compinche, mostrándolas con rostros reales y cuerpos desnudados con IA.
La mayor parte de los discípulo involucrados cursan segundo año y tienen alrededor de 14. Según trascendió, detrás el escándalo que generó la extensión de la noticia apareció escrito en un pupitre: “Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas”. La alteración de idea reales a través de IA es un tipo de deepfake, utilizado en este incidente como una modalidad más de exceso de clase.
“Lo que hacen los adolescentes es utilizar un software o un app de intelecto falsificado que desnuda las fotografía que ya tienen de sus compinche. Entonces, percibimos una nena, un adolescente con una cara real, pero su cuerpo hallarse desnudo”, explicó Dupuy en diálogo con Radio Mitre. Según consignó Infobae, por el momento se busca determinar el encuadramiento permitido de los casos que vulneran la privacidad y la integridad moral y sexual de las jóvenes.
“Nosotros constantemente estamos recibiendo este tipo de denuncias”, dijo la fiscal Daniela Dupuy, a cargo de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI).
“Esto afecta el bien jurídico protegido, que es la libertad en el desarrollo de la sexualidad. En este incidente concreto, y esto bajo mi punto de vista, cuando hay una creación parcial de intelecto falsificado, y un cuerpo que se lleva al desnudo, el delito se consuma”, consideró.
Todo comenzó a fines de junio, cuando alumnas de segundo año de la Escuela Superior de Comercio Carlos Pellegrini vieron un archivo de Drive con sus nombres, fotografía y el valor con el que sus compañeros las comercializaban.
“Debemos impulsar a los legisladores a que de una buena vez lo incorporen en sus legislaciones penales”, planteó la funcionaria judicial.
O idea ‘desnudadas’ en fotografía sacadas sin consentimiento de sus redes sociales. Y algunas versiones apuntaban también a otras instituto.
Luego supieron que había discípulo del Colegio Nacional de Buenos Aires involucrados. En las idea estaban sus caras, con cuerpos hechos con IA.
El conflicto hallarse lejos de resolverse.
Laura Sánchez es la mamá de Ema Bondaruk, una adolescente que se suicidó detrás la extensión de idea de su intimidad. El escándalo se dio primero dentro de las establecimiento, donde las víctimas no querían compartir aulas con los varones denunciados. Los protocolos de exceso de clase están en marcha para contener a las víctimas y definir cómo seguir, pero el tema sigue su curso también en la justicia, ante un vacío permitido que vuelve aún más complejo el incidente.
detrás la extensión de los casos recientes en instituto secundarias, dijo a Página 12: “Es doloroso y pone a la vista que la exceso digital de clase dejó de ser una problemática emergente para convertirse en urgente”. Desde ese lugar, opinó que en las comunidades afectadas por los deepfakes es necesario “pensar en un convenio de corresponsabilidad digital firmado por estudiantes, institución y familias”, con un trabajo que involucre a todos los actores, no solo a víctimas y victimarios: “El problema no son sólo los chicos que difundieron, es la cultura que lo habilita”. A partir del dolor, Sánchez milita para que nadie más viva lo que atravesó su familia.
Su lucha dio lugar a la elaboración de la Guía Ema, especialmente diseñada para abordar la exceso digital en las instituto.