Deepfake: como denunciar fotos nuas falsas geradas por inteligência artificial

A montagem foi feita por alunos do 7º e 9º ano, que foram denunciados pelos pais das meninas à 16ª Delegacia de Polícia do Rio, e as investigações são feitas pela Delegacia de Proteção à Criança e ao Adolescente (DPCA). Ao jornal O Globo, a mãe de uma das alunas afirmou que um dos alunos responsáveis pela divulgação teria afirmado que não seria punido por ser "branco e rico".

Em carta enviada pelo colégio aos pais e responsáveis, assinada pelo diretor Frei Nicolás Luis Caballero Peralta, a instituição diz que tomará “medidas disciplinares aos fatos cometidos em tutela escolar”, mas pede paciência, já que "a condução dos atendimento demanda tempo e não podemos tomar decisões precipitadas”. Até o momento, as alunas continuam estudando na mesma sala de aula que os suspeitos de gerar as imagens.

Deepfake consiste na prática de usar aplicativos de inteligência artificial para gerar fotos nuas falsas. Funciona assim: usa-se uma foto em que uma mulher usa um vestido, o sistema consegue "retirar" a peça de roupa e, no lugar, "redesenhar" o corpo nu, de forma que o resultado fique muito mais verossímil. Os principais alvos são mulheres, e as fotos são pegas sem autorização.

Segundo uma pesquisa realizada em 2022 pela empresa Sensity, especializada em segurança digital, mais de 100 mil mulheres no mundo já foram vítimas do crime. As montagens eram feitas por um robô no Telegram.

De acordo com uma pesquisa divulgada em outubro por Marie Claire e realizada pela Toluna, empresa especialista em insights e pesquisa de mercado, 5% das mulheres brasileiras afirmam terem sido vítimas do mesmo tipo de crime. No fim do mesmo mês, a atriz Isis Valverde foi vítima: uma foto em que estava de biquíni foi manipulada por IA para parecer que estava nua. A equipe jurídica da atriz registrou um boletim de ocorrência.

Além de Valverde, outras personalidades nacionais, como a cantora Juliana Bonde e a influenciadora digital Nathália Valente, e internacionais, como Gal Gadot, Scarlett Johansson e Margot Robbie. Mas o relatório da Sensity aponta que em 70% dos casos, as fotos são de pessoas anônimas, não celebridades.

Além de não saberem que são vítimas, poder rastrear e deletar essas fotos da internet também é um obstáculo, assim como quando há vazamento de fotos íntimas não manipuladas por IA; já que esse material é, geralmente, repassado em aplicativos de trocas de mensagem privadas ou são divulgados na internet por meio de perfis fakes.

A diretora de projetos especiais da SaferNet Brasil, Juliana Cunha, explica que os deepfake são mais um dos diversos exemplos de manifestações de violência sexual contra mulheres; o que é recorrente na internet. Em 2022, segundo dados da central de denúncias da SaferNet, as denúncias de conteúdo de violência misógina tiveram um aumento de 251%.

No caso dos alunos do Colégio Santo Agostinho responsáveis pelas montagens e divulgação estão reproduzindo uma conduta que revela as raízes machistas e misóginas presentes na cultura brasileira.

“Essa cultura deprecia mulheres e fere suas dignidades sexuais, tomando-as como objeto sexual. O desafio é tomar ações preventivas e, de alguma maneira, promover uma mudança cultural profunda e um trabalho de conscientização – inclusive nas escolas – para mudar as mentalidades das pessoas de forma que se respeite as relações de gênero.”

+ Mulheres estão mais vulneráveis no ambiente digital: como se proteger

Esse tipo de prática começou a ganhar proporções maiores em junho de 2019, com o surgimento de um aplicativo chamado DeepNude, que estava disponível gratuitamente em sistemas operacionais Windows e Linux. Havia uma versão paga por US$ 50, que diminuía o tamanho da marca d'água do app do nude falso. No entanto, essa marca gerada pela versão paga era facilmente removível.

Poucos meses depois, devido às grandes proporções, o app foi retirado do ar. Em nota divulgada na época, os desenvolvedores afirmaram que o projeto, criado para "fins de entretenimento", ganhou mais popularidade do que imaginavam, e que estava sendo usado "de maneira equivocada". "O mundo não está preparado ainda para o DeepNude", concluiu a nota.

O aplicativo também foi alvo de críticas pela maneira como permitia, de forma fácil, a exposição e objetificação dos corpos de mulheres – inclusive sem que as vítimas sequer soubessem que estavam sendo submetidas à prática. Mesmo com o aplicativo fora do ar, o avanço exponencial da inteligência artificial nos próximos anos têm contribuído para que sites e aplicativos com a mesma proposta comecem a surgir.

Não é como se montagens com este mesmo intuito não existissem anteriormente. No entanto, as tecnologias que funcionam com base em inteligência artificial conseguem gerar resultados cada vez mais realistas, impactando ainda mais a vida e a integridade mental e moral dessas vítimas.

Juliana Cunha afirma que, por mais que o crime de montagem feita por inteligência artificial, especificamente, não conste na legislação brasileira, existem aparatos legais que respaldam uma denúncia nesses casos.

• O Artigo 216-B do Código Penal brasileiro criminaliza a produção e o registro, por foto, vídeo ou qualquer meio, de "conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes", reconhecendo esse crime como uma forma de violação de intimidade contra mulheres e um tipo de violência doméstica e familiar. A pena é de seis meses a um ano de prisão.
• Além disso, a Lei da Importunação Sexual (nº 13.718) tipifica a divulgação, troca e venda de cenas de estupro de vulnerável, de cena de sexo ou de pornografia. A pena vai de 1 a 5 anos de prisão em casos graves, e pode aumentar se for praticado por fim de vingança ou por alguém que tenha um relacionamento próximo com a vítima.
• Quando o crime é cometido contra menores de idade, o artigo Artigo 241-C do Estatuto da Criança e Adolescente (ECA) criminaliza a simulação de "participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual".

"Além da aplicação das leis, é importante que a Justiça seja sensível e treinada para lidar com esses casos, para minimizar os impactos do machismo no judiciário e da revitimização. Muitas mulheres não denunciam porque sabem que serão constrangidas", aponta Cunha.

As denúncias podem ser feitas em delegacias especializadas em crimes cibernéticos ou na delegacia da mulher. É importante captar o máximo de provas possíveis, como prints das fotos publicadas e o link da página. Dentro das plataformas, é possível fazer uma denúncia da postagem.

Caso exista link da imagem, também é possível denunciar pelo Canal Nacional de Denúncias da SaferNet (http://www.safernet.org.br/site/denunciar). A plataforma também oferece um canal de apoio e de orientação às vítimas, além de indicação de especialistas.

Se por um lado as inteligências artificiais podem otimizar as formas de violência cibernética contra mulheres, ao mesmo tempo conseguem ser aliadas para protegê-las. Como exemplo, Cunha cita a plataforma Stop Non-Consensual Intimate Image Abuse, que é capaz de rastrear e bloquear o upload de imagens íntimas (geradas por inteligência artificial ou não). O link da ferramenta é stopncii.org.

Cunha explica que a vítima pode criar uma impressão digital (chamada no jargão eletrônico de hash) por meio da foto. Ela fica salva no sistema e, se for detectada dentro das plataformas signatárias, o upload da foto é bloqueado. Redes sociais como Instagram, Facebook e TikTok são algumas das companhias que recebem casos e hashes do site.