Agentes que trabalham para os governos da China e Irã prepararam conteúdo falso com IA para influenciar eleitores em 2020, mas nunca divulgaram o deepfake, dizem autoridades dos EUA
gentes que trabalham para os governos chinês e iraniano prepararam conteúdo falso gerado por inteligência artificial como parte de uma campanha para influenciar os eleitores dos Estados Unidos nas últimas semanas da campanha eleitoral de 2020, disseram à CNN ex-funcionários e atuais dos EUA informados sobre a inteligência.
Os agentes chineses e iranianos nunca divulgaram publicamente o áudio ou vídeo deepfake, mas os detalhes, que somente agora vêm à tona, demonstram preocupações que as autoridades norte-americanas tinham há quatro anos sobre a vontade das potências estrangeiras de amplificar informações falsas sobre o processo de votação.
A Agência de Segurança Nacional (NSA) recolheu informações que deram às autoridades dos EUA perspectivas sobre as capacidades da China e do Irã na produção de deepfakes, disse uma das fontes.
Agora, com áudio e vídeo deepfake muito mais fáceis de produzir e com as eleições presidenciais a apenas seis meses de distância, as autoridades norte-americanas estão cada vez mais preocupadas com a forma como uma campanha de influência estrangeira pode explorar a inteligência artificial para enganar os eleitores.
Em um exercício na Sala de Situação da Casa Branca em dezembro passado, em preparação para as eleições de 2024, funcionários do alto escalão dos EUA lutaram para saber como responder a um cenário em que agentes chineses criam um vídeo falso gerado por inteligência artificial retratando um candidato ao Senado destruindo cédulas, como a CNN já havia reportado.
Em um briefing na semana passada, funcionários do FBI alertaram que a IA aumenta a capacidade dos estados estrangeiros de espalharem desinformação eleitoral.
Não está claro o que foi retratado nos deepfakes que os agentes chineses e iranianos prepararam em 2020, de acordo com as fontes, ou por que razão não foram finalmente colocados em prática durante as eleições.
Na época, algumas autoridades dos EUA que analisaram a informação não ficaram impressionadas, acreditando que esta mostrava que a China e o Irã não tinham capacidade para implantar deepfakes de uma forma que teria um impacto sério nas eleições presidenciais de 2020, disse um ex-funcionário do alto escalão dos EUA à CNN.
“A tecnologia tem que ser boa; não acho que tenha sido tão boa”, disse o ex-funcionário. “Em segundo lugar, é preciso ter apetite pelo risco. China, não. Irã, provavelmente sim”.
De olho nos adversários
A NSA continuou a coletar informações sobre adversários estrangeiros que desenvolvem deepfakes e a ameaça potencial que representam para as eleições nos EUA, agora que a tecnologia avançou dramaticamente nos últimos quatro anos, acrescentou o ex-funcionário, apontando que em 2020, não havia, por exemplo, um grande modelo de linguagem como ChatGPT que era fácil de usar.
A CNN solicitou comentários da NSA.
As autoridades dos EUA mantiveram um alto nível de visibilidade sobre a IA e os avanços deepfake feitos por países como China, Irã e Rússia desde as eleições de 2020.
Mas colocar essa inteligência em uso dentro dos EUA continua a ser um desafio, disse o ex-funcionário.
“A questão é com que rapidez podemos detectar uma anomalia e depois compartilhá-la rapidamente dentro dos Estados Unidos”, disse o ex-funcionário à CNN. “Estamos vencendo a corrida contra uma série de adversários que podem operar nos EUA? Esse é o desafio”.
A ameaça de deepfakes e influência estrangeira será colocada em pauta na audiência do Comitê de Inteligência do Senado na quarta-feira (15), quando os legisladores terão a rara oportunidade de interrogar publicamente o diretor de inteligência nacional e outros funcionários do alto escalão sobre ameaças estrangeiras às eleições.
Embora não tenham implantado seus deepfakes em 2020, agentes do governo iraniano empreenderam uma tentativa descarada naquele ano de influenciar os eleitores, imitando o grupo de extrema direita Proud Boys e divulgando um vídeo que pretendia mostrar o hackeamento de um banco de dados de registro eleitoral dos EUA, de acordo com os promotores dos EUA.
“O fato de os iranianos terem usado a porcaria dos Proud Boys, mas não terem tentado falsificações profundas, foi uma falta de fé nas capacidades ou um sinal de falta de orientação interna clara”, disse uma pessoa familiarizada com a inteligência à CNN.
Perdido na tradução
Para que as operações de influência estrangeira sejam eficazes, também precisam ter repercussão com o público americano, algo com que a China tem lutado, disse o ex-funcionário do alto escalão dos EUA.
“Acho que é claramente uma peça cultural”, disse o ex-funcionário. “Eles realmente têm uma compreensão muito difícil das questões que causam divisão ou necessariamente de como lidar com essas questões, o que os russos não têm”.