Uso de IA em campanhas de influência online cresce, mas impacto é limitado, diz agência dos EUA

São Francisco (EUA) – A agência norte-americana de segurança cibernética Mandiant, propriedade do Google, disse nesta quinta-feira que houve um aumento no uso de inteligência artificial (IA) na condução de campanhas de manipulação de informações online nos últimos anos, embora o uso da tecnologia em outras intromissões digitais tenha sido limitado até agora.

Crédito: Reprodução Adobestock

Pesquisadores da empresa com sede na Virgínia encontraram “vários casos” desde 2019 em que conteúdo gerado por IA, como fotos de perfil fabricadas, foi usado em campanhas de influência online com motivação política.

Isso incluiu campanhas de grupos alinhados com os governos da Rússia, China, Irã, Etiópia, Indonésia, Cuba, Argentina, México, Equador e El Salvador, disse o relatório.

O uso ocorre em meio a uma recente febre de modelos de IA generativos, como o ChatGPT, que facilita muito a criação de vídeos, imagens, textos e códigos de computador falsos e convincentes. Autoridades de segurança alertaram para o uso de tais modelos por cibercriminosos.

A IA generativa permitiria que grupos com recursos limitados produzissem conteúdo de maior qualidade para campanhas de influência em larga escala, disseram pesquisadores da Mandiant.

Uma campanha de informações pró-China chamada Dragonbridge, por exemplo, expandiu-se “exponencialmente” em 30 plataformas sociais e 10 idiomas diferentes desde que começou, visando manifestantes pró-democracia em Hong Kong em 2019, disse Sandra Joyce, vice-presidente da Mandiant Intelligence.

Contudo, a expectativa é que uso da IA para invasões digitais permaneça baixo no curto prazo, disseram os pesquisadores.

“Até agora, não vimos uma única resposta a um incidente em que a IA tenha desempenhado um papel”, disse Joyce.

“Eles realmente não foram levados a nenhum tipo de uso prático que supere o que poderia ser feito com ferramentas normais que vimos.”

Ela acrescentou, no entanto, que “podemos estar muito confiantes de que esse será um problema que se agravará com o tempo”.