Inteligência artificial tem impulsionado imagens de abuso na internet

A inteligência artificial (IA) é uma das ferramentas mais utilizadas atualmente para impulsionar a divulgação de imagens de exploração e de abuso sexual na internet. A informação é apontada em pesquisa divulgada nesta terça-feira (6) pela organização não governamental (ONG) Safernet.

Com o uso da inteligência artificial generativa, por exemplo, um criminoso consegue utilizar um vídeo ou imagem disponível na internet e transformá-lo em um conteúdo sexual. “A proliferação de aplicativos de IA generativa permite que se pegue a foto de uma pessoa vestida e se tire a roupa daquela pessoa”, explicou Thiago Tavares, fundador e diretor-presidente da SaferNet Brasil. “Isso pode ser manipulado, gerar uma mídia sintética e representar aquela pessoa em uma imagem ultrarrealista de nudez”.

O tema foi discutido hoje no evento Dia da Internet Segura, que ocorre até amanhã (7) em São Paulo. Em uma das palestras, o diretor executivo da WeProtect Global Alliance, Iain Drennan, disse que a inteligência artificial é uma nova tendência para os casos de abuso sexual no mundo. “Você simplesmente usa uma imagem sintética, você nem usa uma imagem real. E isso pode ser levado a uma escala industrial. Os criminosos podem acessar a tecnologia de IA disponível ou de realidade estendida”, explicou. “Isso é um material que pode não ser ilegal, mas está sendo utilizado com propósito sexual”, alertou.

O tema é amplo e envolve não só a manipulação de imagens. Drennan citou também casos de estupros que vêm ocorrendo em salas de realidade virtual ou metaverso e que estão sob investigação em alguns países. “As salas de realidade virtual são seguras para meninas? Temos que dar conta desse tipo de crime com legislação”.

Segundo o especialista, os grupos que são mais vulneráveis a esses tipos de exposição sexual na internet são, por exemplo, crianças com algum tipo de deficiência ou LGBTs. “Temos que lidar com isso de uma maneira sensível para que esses grupos não se sintam ainda mais marginalizados ou vulneráveis”, ressaltou.

Legislação

No final do ano passado, a Câmara dos Deputados aprovou a criminalização de quem criar e divulgar imagens (foto e vídeo) de nudez e conteúdo sexual de uma pessoa utilizando inteligência artificial no Brasil. Pelo texto, a pena para esse tipo de crime será de 1 a 4 anos de prisão, além de multa. A proposta agora está em análise no Senado.

Para Drennan, a legislação é um dos passos para impedir a proliferação desse tipo de crime na internet. Mas é preciso mais, alertou. “Precisamos de ajuda do governo, do setor privado e da sociedade civil, mas também do empoderamento dos pais e dos tutores das crianças. Mas essa responsabilidade não deve ser responsabilidade única das famílias e das crianças”.

A preocupação com o uso da inteligência artificial para exploração ou abuso sexual e também para uso político se estendeu também para o setor privado. Hoje, a gigante norte-americana Meta anunciou que vai identificar qualquer imagem gerada por inteligência artificial que aparecer em suas redes sociais Facebook, Instagram e Threads. O anúncio foi feito por Nick Clegg, presidente de assuntos globais da Meta.

Segundo Clegg, imagens fotorrealistas criadas por meio de inteligência artificial nas redes sociais da Meta já estão recebendo rótulos. Mas a empresa também está desenvolvendo ferramentas para identificar conteúdo de inteligência artificial criado por meio de outras empresas. “O conteúdo de parceiros, incluindo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock será marcado com rótulos que indicam se algo foi criado com IA. Embora esta não seja uma solução perfeita e que não vai conseguir resolver tudo, este é um primeiro passo importante em um processo em evolução”, escreveu no X. “As pessoas valorizam a transparência em torno desta nova tecnologia. Por isso, quanto mais pudermos fazer para desmitificar, melhor”, acrescentou.

Denúncias

A pesquisa divulgada hoje pela Safernet mostrou que as denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023, somando 71.867 queixas no ano passado.

“Isso representa um recorde absoluto em número de novas URLs (endereços ou páginas da internet) denunciadas desde a criação da instituição, em 2005. É o pico da série histórica em 18 anos”, destacou Thiago Tavares, da SaferNet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil. Além do uso da inteligência artificial para criação desse tipo de conteúdo também houve demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; e a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes.

Casos de exploração e de abuso sexual na internet podem ser denunciados na Central de Denúncias da SaferNet. É preciso colar o link do endereço da internet suspeito e seguir os demais passos indicados na plataforma.

Para casos de violência sexual infantil, também pode ser acionado o Disque 100, canal mantido pelo governo federal.