A estrela adolescente da Marvel, Xochitl Gomez, é a última vítima de pornografia deepfake. No entanto, depois de encontrar os deepfakes não consensuais sexualmente explícitos que circulavam no X, antigo Twitter, ela ficou confusa quando a plataforma não tomou medidas e os removeu.
Muitos problemas surgiram juntamente com a ascensão da inteligência artificial, mas a pornografia deepfake é uma das mais preocupantes. Embora os deepfakes já existam há algum tempo, os avanços na tecnologia os tornaram mais acessíveis e convincentes. Como resultado, muitos indivíduos, especialmente mulheres, encontraram a sua imagem tirada ou recriada sem o seu consentimento e utilizada em conteúdo pornográfico. Tornou-se um enorme problema para celebridades femininas, mas também para mulheres comuns que experimentaram a sua imagem a ser usada em conteúdo sexualmente explícito para pornografia de vingança, assédio e intimidação. Há também uma grande preocupação com o uso de deepfakes para retratar o abuso infantil.
Infelizmente, atualmente não existem leis federais contra a pornografia deepfake não consensual, e apenas alguns estados têm legislação que protege os cidadãos contra ela. Muitas mulheres que se tornaram vítimas de pornografia deepfake ficaram sem opções para combatê-la devido à falta de regulamentação e à ilegalidade da Internet. A maioria não tem recursos financeiros para tomar medidas legais. Até celebridades como Scarlett Johansson declararam que é inútil tentar lutar contra os deepfakes.
Um pequeno nível de proteção que as mulheres têm vem das plataformas de mídia social que proibiram pornografia deepfake e gerada por IA. Se estes sites aplicassem tais proibições, a circulação deste conteúdo nocivo seria mais difícil. No entanto, a experiência de Gomez mostra que as redes sociais não estão a fazer cumprir as suas regras.
Xochitl Gomez fala sobre sua experiência com pornografia deepfake
(Axelle/Bauer-Griffin/Getty)
Ao aparecer no podcast de Taylor Lautner e sua esposa, O aperto , Xochitl Gomez (também conhecida como America Chavez) falou sobre suas experiências como vítima de pornografia deepfake. A jovem de 17 anos revelou que encontrou o material sexualmente explícito circulando no X, antigo Twitter, mas está tendo muita dificuldade em removê-lo. X proibiu a pornografia gerada por IA em 2018 e tem políticas contra imagens e vídeos deepfake sexualmente explícitos, bem como mídia enganosa e nudez não consensual. Considerando que as imagens de Gomez violam claramente as regras de X e que este conteúdo apresentava um menor, seria de se pensar que a plataforma agiria imediatamente.
No entanto, Gomez ficou chocada ao descobrir que sua equipe já havia tentado tomar medidas contra o conteúdo, sem sucesso. Notícias da NBC relatado que ainda em 19 de janeiro de 2024, as fotos ainda podiam ser encontradas no X, que não respondeu aos pedidos de comentários. Gomez explicou que o conteúdo a deixou estranha e querendo desesperadamente que fosse removido, pois não era uma boa aparência para ela. Ela questionou: Por que é tão difícil derrubar? Esse foi o meu pensamento sobre isso: 'Por que isso é permitido?'
No final das contas, porém, ela se resignou a aceitar que o conteúdo simplesmente não poderia ser removido, revelando que ela apenas tenta não pensar nisso e guarda o telefone para lidar com o problema. Ainda assim, as perguntas que ela fez permanecem muito relevantes. Por que é tão difícil remover esse conteúdo? É moralmente repreensível e nojento quando pornografia deepfake é feita de qualquer indivíduo sem consentimento. É absolutamente horrível quando envolve um menor. Há pornografia infantil real circulando no X, e a plataforma, estranhamente, não está fazendo nada a respeito, embora essa deva ser a questão mais urgente a ser tratada.
Dificilmente parece uma situação complexa se um indivíduo denuncia material sexualmente explícito e notifica a plataforma de que não consentiu com isso. O material vai contra diversas regras do site. O que mais há para revisar ou determinar? Já é traumatizante o suficiente para um indivíduo encontrar esse tipo de conteúdo nas redes sociais; o mínimo que essas plataformas podem fazer é atender aos seus pedidos de remoção. Nenhum indivíduo, especialmente um menor de idade, deveria simplesmente aceitar que o conteúdo está lá porque X e outras plataformas de mídia social se recusam persistente e perplexamente a proteger seus usuários.
(imagem em destaque: Axelle/Bauer-Griffin/FilmMagic/Getty)
