A urna não é mais o alvo

Faltavam menos de 48 horas para a abertura das urnas na Eslováquia, em setembro de 2023, quando um áudio começou a circular no Facebook e no Telegram. Nele, o líder do partido liberal aparecia supostamente combinando com uma jornalista um esquema para fraudar a eleição e comprar votos. Era falso, clonado por IA. O detalhe cruel não foi a qualidade da gravação. Foi o momento. A lei de silêncio eleitoral impedia a imprensa de noticiar nos dois dias anteriores ao pleito. Quando o país mais precisava de jornalistas para desmentir o áudio, eles estavam legalmente proibidos de falar. O vácuo foi preenchido pelo pânico.

Guardo esse caso porque ele desmonta a forma como costumamos pensar o problema. Durante anos, o medo era que a IA invadisse urnas e sistemas de apuração. Não foi isso que aconteceu. A infraestrutura do voto resistiu. O que mudou foi a economia da mentira. Hoje, clonar uma voz exige cerca de trinta segundos de áudio limpo. Forjar uma cena fotorrealista exige uma única foto. O que antes dependia de grandes operações agora cabe num notebook.

O aspecto mais contraintuitivo é que a arma mais afiada não é o vídeo, mas o áudio. Vídeos deepfake circulam em redes abertas e costumam ser desmascarados rapidamente. O áudio sintético viaja por grupos de WhatsApp, caixas postais e ligações telefônicas. Canais fechados, sem contexto e sem contraditório. Foi o que aconteceu em New Hampshire, em 2024, quando eleitores ouviram uma voz clonada de Joe Biden pedindo que não votassem na primária. A ameaça é barata, escalável e pessoal.

O problema evoluiu. A pesquisa mais recente já não busca apenas criar falsificações melhores, mas coordená-las. Enxames de agentes de IA reproduzem táticas antes executadas por equipes humanas: inflar engajamento, sequestrar hashtags e fabricar consenso. Por isso, a defesa deixou de olhar apenas para o conteúdo e passou a analisar comportamento, ritmo e padrões de compartilhamento.

Enquanto parte do Ocidente apostou na autorregulação das plataformas, o Brasil fez algo incomum. A Resolução 23.732, do TSE, de 2024, obrigou a rotulagem de conteúdo produzido por IA na propaganda política, proibiu deepfakes que distorcem fatos e responsabilizou plataformas. O País tornou-se um dos primeiros a testar, em escala, regras específicas para IA em eleições.
Mas regra no papel não é freio na rua. As eleições municipais de 2024 mostraram que conteúdos sintéticos circulam mais rápido do que decisões judiciais. A regulação chegou na frente. A engrenagem que a sustenta ainda corre atrás.

No fundo, a disputa de detectar o que é falso é impossível de vencer. Cada detector treinado alimenta a próxima falsificação. O caminho mais promissor é provar o que é verdadeiro. Procedência criptográfica e mídia assinada na origem, como propõe o padrão C2PA, permitem verificar a origem de arquivos. Saímos do “confie no que você vê” para o “verifique a origem”.

Há uma boa notícia escondida em tudo isso. Os modelos de hoje são os piores que veremos daqui para frente, o que significa que a assimetria ainda está, por pouco tempo, do lado de quem decidir agir primeiro. Construir os trilhos de confiança, os jurídicos e os técnicos, é tarefa para agora, não para depois do próximo susto. O Brasil começou cedo. Falta combinar de terminar.