Políticos poderão pedir a restrição de uso de suas vozes para criação de áudios com IA nas eleições

Candidatos às eleições de outubro poderão pedir que suas vozes sejam banidas para criação de áudios com inteligência artificial. A restrição foi fixada por meio de um acordo assinado entre o presidente do TSE (Tribunal Superior Eleitoral), Kassio Nunes Marques, e a empresa de inteligência artificial ElevenLabs.

O documento, chamado de memorando de entendimentos, foi assinado na última segunda-feira (3) e tem validade até 31 de dezembro deste ano. O texto detalha as obrigações técnicas, fixa o compromisso com a proteção de dados e a vigência da cooperação.

Ele também estabelece que a ElevenLabs auxilie na investigação de conteúdos fraudulentos. A plataforma é especializada em áudio e síntese de fala. Este é o primeiro acordo com uma plataforma originalmente de IA firmado pelo TSE. A corte tem ainda termos assinados com a Meta ou o Gemini, por exemplo.

À frente das primeiras eleições presidenciais com uso massivo de inteligência artificial, Kassio vinha afirmando a interlocutores que priorizaria ações educativas, reduzindo as punições e a remoção de conteúdo. Ele já propôs a criação de uma comissão de IA para elaborar soluções.

De acordo com o texto, a empresa vai manter uma lista de vozes protegidas (No-go Voices) para restringir a reprodução sintética das vozes de figuras públicas, incluindo candidatos e servidores eleitorais considerados relevantes.

Por meio do compromisso, a empresa se compromete a bloquear a criação de conteúdos que usem vozes de candidatos e servidores eleitorais relevantes mediante uma solicitação escrita e fundamentada do TSE.

No entanto, o memorando ressalta que essa proteção tem limites técnicos. Os compromissos de investigação e de remoção de conteúdo limitam-se ao material gerado em sua própria plataforma, não abrangendo áudios ou vídeos criados por ferramentas de IA de terceiros.

O acordo faz parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral, criado para combater os efeitos negativos do uso malicioso de tecnologias digitais.

Além da restrição preventiva, a ElevenLabs atuará na investigação de conteúdos suspeitos. Caso haja indícios de que um áudio fraudulento tenha sido gerado em sua plataforma, a empresa deverá colaborar com o TSE para verificar a origem e adotar as medidas cabíveis, conforme seus termos de serviço e a legislação brasileira.

A expectativa é a de que a ElevenLabs forneça, ainda, tecnologias de inteligência artificial de áudio sem custos para tornar os serviços digitais da Justiça Eleitoral mais acessíveis a cidadãos com deficiências ou baixa alfabetização digital.

A parceria prevê uma modernização dos serviços ao cidadão. O TSE terá acesso gratuito às APIs de conversão de texto em fala (TTS) e fala em texto (STT) da empresa. O objetivo inicial é integrar esses recursos de áudio ao Assistente Eleitoral, permitindo que eleitores interajam com o serviço por meio da voz.

Segundo o documento, a iniciativa pretende reduzir barreiras para cidadãos com deficiência visual ou baixo letramento digital, além de facilitar o alcance de populações em regiões remotas do país.

Segundo João Paulo Rio Branco, Head de Parcerias com Setor Público para América Latina da ElevenLabs, a inteligência artificial traz oportunidades para ampliar o acesso à informação, mas também exige a criação de mecanismos para prevenir seu uso indevido.

“Nossa responsabilidade é desenvolver tecnologias que ajudem a reduzir o risco de fraudes antes mesmo que aconteçam. Com essa parceria, queremos contribuir para um ambiente digital mais íntegro durante as eleições, oferecendo uma camada adicional de proteção contra o uso não autorizado de vozes de figuras públicas”, afirma.

No fim de julho, o TSE obrigou, de forma inédita, as empresas de tecnologia a explicarem como garantirão o cumprimento da legislação sobre propaganda ao longo das eleições deste ano. Apesar de as empresas já serem obrigadas a impedir a difusão de informações falsas ou gravemente descontextualizadas desde 2024, não havia definição sobre como elas comprovariam o respeito à regra.

Estarão sujeitas às normas as companhias com mais de 5 milhões de usuários ativos mensalmente, o que inclui Meta, Google, X (ex-Twitter, de Elon Musk), TikTok e Kwai, além de empresas de inteligência artificial, como a OpenAI e a Anthropic, entre outras.

A portaria obriga as empresas sujeitas às regras a enviarem ao menos dois relatórios. O primeiro é o plano de conformidade, que precisa ser entregue até 16 de agosto e deverá incluir informações sobre como a empresa planeja agir para garantir o cumprimento da legislação eleitoral.

Além das obrigações impostas pela legislação, algumas plataformas também assinaram, voluntariamente, memorandos de entendimento com o TSE.

Esse tipo de compromisso já foi adotado pelas empresas em eleições anteriores e não obriga ou define punições em relação ao cumprimento das medidas. Os acordos foram firmados com a Meta (que controla Facebook, Instagram, WhatsApp e Threads), X, TikTok, Kwai, Telegram, LinkedIn e Google.

Neles, algumas big techs, como a Meta e o X, afirmam que, se o TSE identificar alguma irregularidade em publicações feitas nas redes, elas analisarão o conteúdo e tomarão as medidas cabíveis, sem detalhar quais, em até 24 horas.

No caso do memorando com a ElevenLabs, ao final do ciclo eleitoral de 2026, a empresa deverá entregar ao tribunal um relatório de transparência. O material deve detalhar o número de tentativas de clonagem detectadas e o uso indevido de vozes protegidas, servindo como base para investigar possíveis operações de influência eleitoral durante as campanhas.

O acordo foi assinado por Kassio Nunes Marques e pelo diretor-executivo da ElevenLabs, Mateusz Staniszewski. A parceria não envolve transferência de recursos financeiros entre as partes.

Como a Folha de S.Paulo mostrou, havia receios entre ministros do TSE e do STF (Supremo Tribunal Federal), assessores e pessoas que atuam no tema de que a corte eleitoral chegasse às eleições de 2026 com um programa de combate à desinformação esvaziado.

Os relatos eram feitos desde a gestão anterior, da ministra Cármen Lúcia. Kassio assumiu a corte em 12 de maio.

Uma medida tomada por Kassio depois da posse foi a abertura de um edital para a contratação de empresa de inteligência cibernética. A corte conta com o serviço desde 2021, mas o contrato venceu, e o ministro está renovando a licitação.

O presidente pretendia tornar o programa de combate à desinformação menos investigativo e reduzir o poder de polícia do tribunal, marca da gestão Alexandre de Moraes. Também defende o direito de resposta como medida mais efetiva do que as remoções.

Kassio justifica a auxiliares que as derrubadas de publicações não tiram o material de circulação de aplicativos de

Conteúdo distribuído por Folhapress