Fotos de celebridades como crianças sob abuso, criadas por IA, surgem na web
Quase 3.000 fotos criadas por inteligência artificial foram postadas em um único fórum da darknet em um mês
A Internet Watch Foundation (IWF), órgão de vigilância online do Reino Unido descobriu que pedófilos estão recorrendo à inteligência artificial (IA) para criar imagens realistas de caráter sexual na internet, retratando celebridades como crianças.
A IWF informou que as fotos são tão realistas que até mesmo um investigador experiente teria dificuldade de afirmar o que é falso ou não. Até o momento foram descobertas aproximadamente 3.000 imagens postadas em fóruns da darknet (camada da internet acessada de formas mais privadas que os sites públicos) em um mês.
Os modelos gerados por IA estão sendo usados para alterar a idade de celebridades, além de transformar fotos de atores infantis em cenários de conotação sexual. Rostos e corpos de crianças são utilizados para treinar a inteligência e gerar milhares de novas imagens de abuso. A organização não mencionou quais celebridades foram usadas como modelos.
Tendência
Outro ponto que a IWF trouxe em seu relatório foi a demanda crescente de fotos geradas por IA de antigas vítimas de abuso sexual infantil. Ou seja, vítimas que sofreram no passado teriam suas imagens “recicladas” em novas situações de violência sexual.
Uma das pastas encontrada no fórum tinha cerca de 500 fotos criadas de uma vítima real, que foi abusada entre os 9 e 10 anos. Também foi achado um modelo de IA com instruções sobre como gerar novas imagens da vítima.
Veja como o Google usará IA para te ajudar com passagens aéreas
Susie Hargreaves, CEO da IWF, disse em entrevista ao jornal britânico The Guardian: “Crianças que foram abusadas no passado estão sendo incorporadas em novos cenários porque alguém, em algum lugar, deseja ver isso. Como se não bastasse para as vítimas saberem que seu abuso pode estar sendo compartilhado em algum canto obscuro da internet, agora elas correm o risco de se deparar com novas imagens delas mesmas sendo abusadas de maneiras novas e horrendas que não haviam sido imaginadas anteriormente.”
A organização examinou 11 mil imagens no fórum, das quais 2.978 estavam em violação da lei britânica de Proteção da Criança. A lei criminaliza atividades relacionadas à obtenção, distribuição e posse de “fotografias indecentes ou pseudofotografias” de crianças.
Do total, mais de uma em cada cinco imagens foi classificada na categoria A, que representa o tipo mais grave de conteúdo. Mais da metade retratava crianças em idade escolar, entre 7 e 10 anos, enquanto outras 143 mostravam crianças com idades entre 3 e 6 anos.
Em outra investigação, a IWF encontrou centenas de imagens feitas por IA de duas meninas, cujas fotos de um ensaio feito em uma agência de modelos foram manipuladas para colocá-las em cenários de abuso da Categoria A.
Hargreaves afirma que tanto a quantidade quanto a complexidade das imagens chegaram a níveis sem precedentes. “Se não controlarmos essa ameaça, ela irá sobrecarregar a internet”, disse.
