Até mesmo os leitores que são nativos digitais provavelmente já se pegaram na dúvida se um vídeo que apareceu nas suas redes sociais é verdadeiro ou foi criado por inteligência artificial. E nós não te culpamos (até porque a redatora já passou por isso mais de uma vez). Com o avanço da tecnologia de IA, está se tornando cada vez mais difícil identificar os famosos “deepfakes”, vídeos que usam IA para substituir o rosto de uma pessoa por outra, alterar tom de voz, simular falas, etc.
Outra dificuldade é que, como a tecnologia avança e muda muito rápido, detectores de IA podem acabar ficando ultrapassados muito rápido, perdendo sua eficiência. Pensando em todas essas dificuldades e, principalmente, nos perigos que esses deepfakes podem representar, pesquisadores do laboratório de IA Recod.ai, que atuam no Brasil, China e Singapura, criaram o OSDFD (Open-Set DeepFake Detection).
Pesquisadores criaram método para detectar deepfakes
De acordo com a Superinteressante, esse modelo consegue reconhecer deepfakes mesmo que eles tenham sido feitos com técnicas inéditas, com as quais ele nem mesmo foi treinado. Ao invés de aprender técnicas de IA, o OSDFD aprende padrões gerais para diferenciar imagens autênticas de manipuladas, independentemente da técnica utilizada.
O modelo combina várias estratégias, com uma das principais inovações sendo o aprendizado de atributos naturais típicos de imagens autênticas. “Como as falsificações frequentemente violam esses padrões sutis, o modelo usa essa base como uma referência para identificar o que é real, mesmo diante de manipulações nunca vistas antes”, explica matéria da Superinteressante.
