Spam de IA e robôs parecem ter dominado a rede social da Meta
Imagem: Tableless
Eu sei que você talvez não tenha percebido, até porque cada vez menos as pessoas têm usado o Facebook. Porém, há algo de muito estranho acontecendo na rede social da Meta. Usuários que ainda estão por lá estão cada vez mais reclamando e reportando postagens, spams e conteúdo aleatório gerado por inteligência artificial e o pior: que aparece sem qualquer filtro de engajamento aparente.
Você pode pensar que muitas dessas imagens publicadas no Facebook são claramente manipuladas por IA. Mas, um olhar desatento ou uma pessoa mais vulnerável ao tema da postagem pode não perceber e ser enganada. E sim, ao que tudo indica, está havendo uma massificação desse conteúdo. Além disso, antigas postagens de influencers vêm sendo compartilhar por perfis de robôs e ganhando engajamento. O que estaria por trás desse spam massivo de IA?
Massificação de spam após mudança de estratégia do Facebook
Uma reportagem da CNN Internacional destacou essa enxurrada de spam na rede. Algumas páginas parecem ser projetadas para enganar usuários. A princípio, a maior parte desse conteúdo é visando engajamento. Mas qual seria o segundo passo? Usar a maior visibilidade e o crescimento de seguidores para publicar informações referentes a eleições, por exemplo? Não sabemos, mas há indícios de haver algum movimento orquestrado nesse sentido.
O aumento desse spam coincide com uma mudança estratégica do Facebook. A empresa tirou prioridade de eventos atuais e da política após alegações de que havia contribuído para manipulação eleitoral e violência no mundo real. Com outras redes sociais emergindo, como X e TikTok, houve um foco maior no entretenimento. Exemplo disso é a mudança no feed, que agora tem um “motor de descoberta” para que os usuários vejam conteúdos de outros nichos.
A mudança tem sido relevante. Memes gerados por IA ou reciclados aparecem na lista dos conteúdos mais visualizados do Facebook. Legendas confusas e, às vezes, mal-intencionadas recebem milhares de curtidas e centenas de comentários e compartilhamentos. A proliferação de ferramentas de IA facilitou muito para esse novo padrão.
O que diz a Meta sobre o tema
Em resposta à reportagem da CNN, a Meta disse que trabalha “para remover e reduzir a propagação de conteúdo de spam para garantir uma experiência positiva para o usuário, oferecendo controles sobre o feed e incentivando os criadores a usar ferramentas de IA para produzir conteúdo de alta qualidade que atenda aos nossos Padrões da Comunidade. Também tomamos medidas contra aqueles que tentam manipular o tráfego através de engajamento não autêntico, independentemente de usarem IA ou não”.
Repórter da CNN Internacional divulga exemplo de IA no Facebook
A repórter da CNN, Clare Duffy, em sua denúncia foi além e divulgou um exemplo. Ela afirma que fez um teste e começou a clicar em qualquer conteúdo que parecesse estranho. Logo, o algoritmo entrou em ação. Semanas depois, quase todas postagens que aparecem para ela parecem ser “spam de IA”.
Ela também publicou um exemplo recente: uma imagem em preto e branco mostrando uma cabana na floresta com uma família sentada na frente, compartilhada por uma página chamada “História para Todos.” À primeira vista, a postagem parece algo que você poderia encontrar em um livro de história. Mas, ao examinar mais de perto, as pessoas na imagem têm características faciais borradas e as mãos e pés das crianças parecem desaparecer na paisagem ao redor delas — marcas registradas de imagens geradas por IA.
A legenda da postagem afirma que a imagem foi tirada em 1910 em Nova Jersey, em uma “pequena cabana no Forsythe’s Bog, ocupada pela família De Marco, 10 na família vivendo neste único cômodo,” pelo fotógrafo Lewis Hine da National Child Labor Committee. Após copiar essa legenda completa no Google, a repórter afirma ter sido direcionada para a legenda real de uma foto completamente diferente que havia sido publicada pela Biblioteca do Congresso dos Estados Unidos.
Após jogar a foto no Google Imagens, os únicos outros lugares em que ela aparece são em dois grupos do Facebook. Um chama-se “Memórias Passadas” e o outro “Fotos de História.” Segundo a repórter, é impossível dizer com 100% de certeza que a imagem foi manipulada, mas a equipe de fotos da CNN a passou por um software de detecção de IA — que ainda está em fase de testes — e encontrou “evidências substanciais” de que ela havia sido manipulada.
A pergunta que paira no ar é: até onde essas páginas pretendem ir? A ideia é atrair pessoas para, posteriormente, publicar conteúdo de influência política e afins? A intenção é impossível de ser decifrada, mas é fato que já passou da hora de as redes sociais serem mais cuidadosas com o conteúdo. Afinal, estamos no início da era da inteligência artificial.
*Olhar Digital