A preocupação com o impacto da inteligência artificial generativa nas próximas eleições não é infundada e a popularização das deepfakes é uma prova disso.

Agora, a Mandiant, uma empresa norte-americana de segurança cibernética que pertence ao Google, revelou nesta quinta-feira (17) que contabilizou um aumento no uso da IA para realizar campanhas de manipulação de informação online nos últimos anos.

A maior parte dessas campanhas falsas têm motivação política.

IA para manipular campanhas políticas

• O uso da inteligência artificial generativa para criar deepfakes ou outros conteúdos enganosos e manipular campanhas já era uma consequência prevista.
• De acordo com a Reuters, os pesquisadores da empresa de cibersegurança encontraram “vários casos” de manipulações desse tipo desde 2019.
• O relatório da Mandiant ainda revelou que essas violações foram flagradas em grupos alinhados aos atuais governos da China, Irã, Etiópia, Rússia, El Salvador, Equador, Argentina, Cuba e México.
• Nesse contexto, a IA permitiu que os envolvidos a usassem para, por exemplo, melhorar a qualidade de conteúdos da campanha que podem ter influência em larga escala.
• Uma ação registrada pelo relatório também foi o uso de fotos de perfis falsos para usuários promovendo as campanhas online.
• Um dos casos foi a campanha pró-China Dragonbrige, que, segundo a Mandiant, cresceu “exponencialmente’ em 30 plataformas sociais em 10 idiomas diferentes usando a tecnologia.
• O país negou acusações de envolvimento com o caso.

Impacto limitado, por enquanto

Segundo Sandra Joyce, vice-presidente da Mandiant Intelligence, o impacto do uso da IA de forma maliciosa em campanhas de cunho político ainda está limitado.

Do ponto de vista da eficácia, não há muitas vitórias. Eles realmente não mudaram o curso do cenário de ameaças ainda.

Sandra Joyce

Isso porque, de acordo com ela, ainda não houve nenhuma ação prática que tenha sido causada por consequências da IA.

No entanto, ainda está cedo para dizer que essa influência nunca se transformará em algo prático. “Podemos estar muito confiantes de que esse será um problema que se agravará com o tempo”, acrescentou.

IA nas eleições

• Nomes importantes do setor da IA generativa, incluindo desenvolvedoras, já revelarem temores em relação à IA e as eleições.
• Sam Altman, CEO da OpenAI (desenvolvedora do ChatGPT) é um deles. Em maio, o executivo testemunhou no Senado dos EUA afirmando que os legisladores deveriam aprovar regras para regular o setor.
• Em outra ocasião, em sua turnê com a OpenAI, Altman admitiu que a IA pode ser motivo de preocupação na eleição presidencial, mas que quer uma regulação que não limite muito o desenvolvimento.
• Recentemente, a Casa Branca também demonstrou preocupações com a tecnologia. O governo se reuniu com as principais empresas do setor (OpenAI inclusa) para alinhar questões de segurança e regulação da IA.
• Entre as medidas, companhias se comprometeram em rotular conteúdo gerado por IA.