China relata primeira prisão por desinformação gerada pelo ChatGPT

Pequim – Um homem na província chinesa de Gansu foi detido por supostamente usar o ChatGPT para gerar uma história falsa sobre um acidente de trem, marcando a primeira prisão da China em uma investigação relacionada à inteligência artificial, enquanto Pequim reforça o combate à tecnologia deepfake.

A história, que afirmava que o acidente matou nove trabalhadores da construção civil em uma cidade no noroeste de Gansu, ganhou mais de 15 mil cliques depois de ser publicada nas redes sociais em 25 de abril, informou o departamento de polícia local da cidade de Pingliang.

As novas regras da China para provedores e usuários de serviços proíbem o uso da tecnologia de deepfake para produzir, liberar e fabricar informações falsas.

As regras, que entraram em vigor em 10 de janeiro, são projetadas para restringir o uso de tecnologia de inteligência artificial generativa para alterar o conteúdo online.

Um total de 25 contas da Baijiahao, uma plataforma estilo blog de propriedade da gigante de tecnologia chinesa Baidu, relatou o “acidente” com endereços IP de diferentes locais, de acordo com o comunicado da polícia.

A plataforma disse que o suspeito, de sobrenome Hong, foi identificado e preso por forjar informações falsas depois que a polícia rastreou todas as contas e descobriu que sua empresa estava envolvida.

Ele supostamente editou as notícias geradas pelo ChatGPT e as carregou na plataforma de propriedade do Baidu, informou a polícia local, acrescentando que as investigações continuam.