Mucho hemos platicado de lo sorpresiva o emocionante que puede llegar a ser la Inteligencia Artificial; of these applications that are revolucionando al mundo de la tecnología, la educación o incluso el arte. Sin embargo, no todo es color de rosa. Tambien exists a dark lado that, además, se acaba de hacer presentse con el escándalo de un streamer llamado Atrioc.
A scene that habla de the pictures of desnudos generated by IA.
Esta historia comenzó as a controversy of the comunidad of Twitchpero no se quedó ahí.
Conform ha ido escalando, se han tocado temas importantísimos como digital consent o the manera in which can affect more private photoshe abuse hacia personalities public, the privacy o incluso preguntarnos a dónde nos puede llevar la tecnología si no nos la llevamos con cuidado.
The escándalo of the Atrioc streamer
Atrioc —que se llama en verdad Brandon Ewing— are you a stream originary of Estados Unidos what transmits content of videogames in Twitch.
Don’t miss 300 thousand seguidores in the platform.
Todo iba relatively normal hasta que, el pasado 30 de eneroaparecio in Reddit a video that desenmascaraba el escándalo. In live transmission, Atrioc sheltered on the internet browser and also review it in detail if you can notar that, in one of the pestañas, tenía abierta a page of photos for adults —nopor, stinks.
Sin embargo, no se trataba de una página nopor cualquiera. Se treated of a site that toma photos of celebridades to create photos of nudes with IAconocidas coloquially como deep fake.
Pero eso no fue todo.
As if it is not fuera suficientemente grave, this page specializes in hacer deepfakes from famous streamers for aparentar que se trataba de sus images private or naked. Las mujeres que aparecen en esas fotos son compañeras, amigas or conocidas del propio Atrioc.
The reactions to the escándalo de Atrioc
The community of streamers heard lo concerned about the situation. Especially algunas de las mujeres que aparecían en esa página y fueron víctimas de esta modalidad de abuso tecnológico.
Pokimane pidió in addition social redes that dejaran de sexualizar a las personas sin su consentmiento.
QTCinderella sent a lie in which it demanded that the people detuviera. Que no compartieran las images. “Ser vista “desnuda” en contra de tu voluntad no debería ser parte de este trabajo”, commented on it stream.
Other streamers like Sweet Anita se dieron cuenta que aparecían en el sitio gracias a los reports de este escándalo. “No se si llorar, romper cosas o reír”writing. “Este no debería ser el precio a pagar if lo que quieres es entretener a las personas”.
Maya Higa claimed: “He sido usada por miles de hombres para su gratificación sin mi consentmiento”.
The streamer Atrioc exculpó in a video.
Con su esposa acompañándolo en la transmisión —¿?— aseguró que era la primera vez que entraba a ese site, que había interesado en la IA por lo que le había dado curiosidad. Confesó que había pagado dinero por ese contenido. Pidió perdón y anunció que se retiraría de internet por un tiempo.
The worrying deepfakes
Aquí es donde viene lo important.
The ace deepfakes o photos desnudas generadas por IA son una preocupante forma de abuso digital de la que rara vez platicamos. Normally refer to the political possibilities —¿se acuerdan de aquel video de Obama?—pero el daño a las personas, especialmente mujeres famosas, es también tremendo.
A del studio European Science-Media Hub revealed that cerca del 96% of all the deepfakes circulating on the internet are pornographic there are protagonists no dieron su consentmiento.
El abuso en esta tecnología ha probado ser malicioso.
“Las mayores amenazas son para mujeres”, aseguraba a studio en los riesgos del deepfake por el Departamento de Seguridad en Estados Unidos.
Y es que no solamente son las imágenes. quienes sound victims of this type of digital abuse as los deepfakes han sido también victims of sing, maltrato or amenaza. Included —reported el MIT— this type of images created by IA han sido used to silence a personas incómodas.
usar deepfakes pornography in Mexico illegal. The Ley Olimpia contemplated también a los contenidos “simulados” as part of digital violence.
