YouTube diz que ampliará detecção de vídeos gerados por IA e adotará rotulagem automática

O YouTube anunciou nesta quarta-feira (27) que deve aumentar a detecção de vídeos gerados por IA publicados por seus usuários e que, em caso de conteúdos realistas, aplicará de modo automático rótulos identificando que o conteúdo emprega esse tipo de tecnologia.

Até então, a regra principal da empresa, em vigor desde 2024, era baseada na informação prestada pelo próprio usuário, o que nem sempre é feito.

Para esse tipo de conteúdo mais realista, a plataforma também afirmou que irá posicionar o aviso de que se trata de material produzido com IA num local de maior destaque do que vinha fazendo até então. Já para conteúdos feitos com IA, mas considerados pela empresa como “irrealistas, animados ou levemente alterados”, esse rótulo seguirá no campo da descrição do vídeo e, portanto, com menos visibilidade.

As atualizações foram anunciadas em entrevista com jornalistas do Brasil e de países da Europa.

No cenário brasileiro, essas regras dialogam diretamente com normas estabelecidas pelo TSE (Tribunal Superior Eleitoral) sobre propaganda eleitoral e conteúdo político nas redes.

Em 2024, o tribunal já tinha previsto que era obrigatória, na propaganda eleitoral, a rotulagem de conteúdos sintéticos. Neste ano, foi incluída também a responsabilização solidária das redes sociais caso elas não removam conteúdos considerados “de risco”.

Um desses riscos seria o de divulgação de conteúdo gerado ou alterado por IA que esteja em desacordo com as regras de rotulagem e as demais vedações eleitorais.

Entre outros itens sobre o tema, o TSE manteve também a proibição de deepfake, seja para prejudicar ou favorecer candidaturas, e incluiu vedação à publicação desde 72 horas antes da eleição de conteúdos com IA.

Em 2024, o YouTube estabeleceu como regra que os donos de canais deveriam informar, ao publicar um vídeo, se usaram ferramentas de IA. Agora, praticamente dois anos depois, a empresa está anunciando que, a partir deste mês, implementará “novos sinais internos para ajudar a identificar conteúdo gerado por IA” e que, caso os sistemas da plataforma detectarem o “uso significativo de IA fotorrealista”, será aplicado um rótulo automaticamente.

O anúncio afirma ainda que “à medida que essa tecnologia continua a melhorar”, os usuários poderão alterar essa classificação automática. As únicas hipóteses em que esse status será permanente, segundo a empresa, são para os conteúdos criados usando as próprias ferramentas de IA do YouTube ou quando o arquivo do vídeo tiver “metadados C2PA”, um tipo de informação técnica que funciona como um carimbo de que aquele conteúdo foi totalmente gerado por IA.

A reportagem questionou se essa alteração do status por parte do usuário é necessariamente aceita ou se ainda é feita uma análise pelo time do YouTube. Em resposta, a empresa apenas acrescentou que essa atualização feita pelo usuário “não é uma apelação”.

Dando a entender, portanto, que não há uma análise adicional para as situações que não se enquadrem como permanentes.

Segundo o YouTube, o rótulo, por si só, não altera o modo de recomendação de um vídeo na plataforma ou faz com que ele não possa mais ser monetizado. A empresa diz ainda que se reserva “o direito de tomar medidas” contra usuários que reiteradamente não divulgam o emprego de IA.

De outro lado, não está claro em que medida a empresa eventualmente já adotava esse tipo de aplicação automática de rótulos. Isso porque o anúncio de 2024 já afirmava que isso poderia ser feito, em alguns casos, “especialmente se o conteúdo alterado ou artificial tiver o potencial de confundir ou enganar as pessoas”.

A reportagem questionou a empresa se o rótulo já vinha sendo aplicado automaticamente e, se sim, em quais situações, mas a resposta enviada não respondeu à pergunta. “Há muito tempo investimos em sistemas capazes de aplicar nossas políticas, e esta atualização visa especificamente usar o poder da detecção automatizada para ajudar os criadores a divulgar informações e oferecer aos espectadores a transparência que eles vêm solicitando”, disse a empresa.

FERRAMENTA DE DETECÇÃO DE DEEPFAKE

A empresa também divulgou que está ampliando o acesso, a todos os usuários que tenham a partir de 18 anos, de uma ferramenta que rastreia, com base na aparência da pessoa, conteúdos publicados na plataforma em que seu rosto apareça e tenham sido potencialmente alterados ou criados com inteligência artificial.

Essa disponibilização deve ocorrer gradualmente nas próximas semanas.

A partir dessa varredura inicial feita pela plataforma, o usuário poderá revisar os conteúdos listados e solicitar a remoção daqueles gerados ou alterados por IA. De acordo com a empresa, a retirada não será automática e dependerá de análise e critérios definidos em suas diretrizes de privacidade.

“O que é realmente único sobre essa ferramenta na indústria é que ela vai pesquisar tudo que foi publicado no YouTube para encontrar se há correspondências [do seu rosto] para algo que foi criado sem o seu conhecimento”, afirmou Amjad Hanif, vice-presidente de produtos para criadores do YouTube.

Como mostrou a Folha de S.Paulo, essa medida já tinha começado a ser liberada para um grupo piloto de figuras públicas como políticos e jornalistas em março deste ano.

Aqueles que aceitarem se inscrever precisarão enviar um documento de identidade oficial, assim como gravar um vídeo curto do seu rosto, como uma selfie. É preciso ter um canal registrado no YouTube ainda que sem uso para viabilizar o uso da ferramenta.
Segundo as regras, entre os fatores considerados pela plataforma para avaliar o pedido de remoção, está se o conteúdo é sintético ou alterado, se é realista, ou se apresenta paródia, sátira ou outro aspecto de interesse público.

Conteúdo distribuído por Folhapress