Escândalo abrange mais de 500 instituições de ensino, com muitas vítimas menores de idade e mensagens pessoais em grupos de bate-papo.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais foram expostas.’ Essa situação alarmante levanta questões sobre a crescente preocupação com a pornografia e o uso de deepfakes na disseminação de conteúdo íntimo sem consentimento.
Além disso, a manipulação de imagens para criar pornográficas falsas tem se tornado uma realidade assustadora. O uso de deepfakes para gerar conteúdo sexual falso não apenas invade a privacidade das pessoas, mas também pode causar danos irreparáveis à reputação e à saúde mental das vítimas. É essencial que haja uma discussão mais ampla sobre a ética e a legalidade desse tipo de tecnologia.
Introdução ao Problema da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, ficou horrorizada ao receber uma foto sua tirada anos atrás, quando ainda estava na escola. Para seu desespero, uma segunda imagem chegou logo em seguida, utilizando a mesma foto, mas transformada em uma representação sexual explícita — e completamente falsa. Apavorada, Heejin, que não é seu nome verdadeiro, optou por não responder, mas as imagens continuaram a ser enviadas. Em todas elas, seu rosto foi anexado a um corpo em uma cena sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso e sexualmente explícito — está sendo gerada cada vez mais através de ferramentas de inteligência artificial.
O Impacto da Tecnologia Deepfake
O trauma devastador que acompanha quem tem sua imagem utilizada em ‘deepfakes’ pornográficos é imenso. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. Contudo, ela não estava sozinha nessa situação angustiante. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furo de reportagem de sua carreira. Recentemente, surgiram informações de que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Investigação e Grupos no Telegram
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens Telegram. Nesses grupos, os usuários compartilhavam fotos de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, contou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.
Salas de Humilhação e o Papel da Polícia
Se um número excessivo de conteúdo fosse gerado usando imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Comumente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas frequentemente possuem regras de entrada rigorosas. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu impor punições mais severas para os envolvidos, e o presidente pediu que os jovens fossem mais educados sobre esses riscos.
Resposta do Telegram e Conclusão
O Telegram, por sua vez, afirmou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. A situação levanta questões sérias sobre a ética e a responsabilidade no uso da tecnologia deepfake, especialmente quando se trata de imagens e conteúdo sexual falso. A crescente incidência de pornografia deepfake é um alerta para a necessidade de regulamentação e conscientização sobre os perigos que essas práticas representam para a privacidade e a dignidade das pessoas afetadas.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo