Jornal O Globo - 12 de junho de 2024
Publicações, que desafiam controle das plataformas, usam desde material fora de contexto até deepfakes de pessoas famosas, cada vez mais difíceis de se detectar.
A tática de usar conteúdo gerado por IA tem sido cada vez mais comum por grupos extremistas que disseminam mensagens de ódio pela internet, desafiam o controle das plataformas e tentam angariar apoiadores com imagens, áudios e vídeos sintéticos que disseminam discursos violentos. Em um relatório de mais de 200 páginas, um grupo de pesquisadores americanos do Middle East Media Research Institute (Memri) mapeou este ano dezenas de exemplos de como a IA tem virado arma na mão dessas organizações.
— Os grupos extremistas podem criar os próprios modelos e utilizar de diferentes maneiras. Além da mais direta, que é gerar textos e postagens com o conteúdo adaptado ao seu discurso, há usos mais inovadores, como criar projetos de armas para impressoras 3D ou mesmo instruções para criação de bombas — explica Fernando Ferreira, pesquisador do NetLab da UFRJ.