A Meta disse na quarta-feira (29) que encontrou conteúdo “provavelmente gerado por inteligência artificial” sendo usado de maneira enganosa em suas plataformas Facebook e Instagram, incluindo comentários elogiando a maneira como Israel conduz sua guerra em Gaza publicado abaixo de publicações de organizações globais de notícias e parlamentares norte-americanos.
A empresa de redes sociais, em um relatório trimestral de segurança, afirmou que as contas foram feitas por estudantes judeus, afro-americanos e outros cidadãos relacionados, movendo o público dos Estados Unidos e Canadá. A campanha foi atribuída a uma empresa de marketing político sediada em Tel Aviv chamada STOIC.
A STOIC não respondeu ao pedido por comentários sobre as acusações em um primeiro momento.
Embora a Meta tenha encontrado fotos de perfil básico geradas por inteligência artificial em operações de influência desde 2019, esse foi o primeiro relatório a revelar o uso de influência tecnologia de IA generativa baseada em texto desde que surgiu no final de 2022.
Pesquisadores têm que ser generativos, que podem de forma rápida e barata produzir textos e áudios semelhantes aos humanos, podendo levar campanhas de desinformação mais eficientes e de influência eleitoral.
Em uma teleconferência com a imprensa, executivos de segurança da Meta disseram que removeram a campanha de Israel e que não acham que novas tecnologias de IA impedem sua capacidade de interrupção de redes de influência, que são tentativas coordenadas de publicação de mensagens.
Executivos disseram que não viram imagens de políticas geradas por IA realistas o suficiente para serem confundidas com fotos autênticas.
“Há vários exemplos nessas redes de como eles usam ferramentas prováveis de IA generativa para criar conteúdo. Talvez isso lhes dê a capacidade de fazê-lo mais rapidamente ou com mais volume. Mas não teve um impacto de verdade na nossa habilidade de detectá-los”, disse o chefe de investigações de ameaças da Meta, Mike Dvilyanski.
O relatório destacou seis operações de influência secretas que a Meta interrompeu no primeiro trimestre.
Além da rede STOIC, a Meta fechou uma rede sedada no Irã focada no conflito entre Israel e Hamas, embora não tenha identificado o uso de IA generativa nessa campanha.
A Meta e outras gigantes da tecnologia têm se dedicado a lidar com o potencial uso inadequado de novas tecnologias de inteligência artificial, especialmente em eleições.
Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionadas às eleições, apesar de essas empresas terem políticas contra esse tipo de conteúdo.
As empresas têm lançado sistemas de rotulagem digital para marcar conteúdo gerado por IA no momento em que é criado, mas as ferramentas não funcionam em textos e os pesquisadores têm dúvidas sobre sua efetividade.
As eleições da União Europeia no começo de junho e dos Estados Unidos em novembro serão testes fundamentais para as defesas da Meta.
Compartilhe: