Recentemente, o pesquisador de inteligência artificial britânico Jacob Coxon decidiu sair da Anthropic, a criadora do Claude, e usou suas redes sociais para criticar não apenas essa empresa, mas também a OpenAI. O motivo? Ele acusou ambas as empresas de “apostar com as nossas vidas” por causa da forma como elas estão agindo em relação ao desenvolvimento de tecnologias de inteligência artificial.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu o britânico em uma série de posts na rede X (eterno Twitter).
O pesquisador afirma que os sistemas de inteligência artificial em breve serão “sobre-humanos”, com capacidade para “hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e adquirir poder e recursos reais”. Ele ainda afirma que pessoas do setor estão vendo esses avanços e que eles não estão desacelerando.
Desenvolvedores de IA acreditam que ela pode matar seres humanos
“As pessoas que constroem IA acreditam sinceramente que ela poderia nos matar a todos até o final da década. Isso não é uma jogada de marketing”, escreveu o ex-funcionário da OpenAI e da Anthropic. “Muitos executivos e pesquisadores seniores vão suavizar suas declarações na imprensa para soar sensatos — mas eu ouço as mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo.”
Ele afirma que, na OpenAI, muitos ainda não internalizaram os riscos envolvendo a tecnologia, enquanto na Anthropic os riscos são bem compreendidos, mas a empresa está “presa em uma corrida para chegar lá primeiro”.
Evan Hubinger, diretor de segurança da dona do Claude, concordou com Coxon: “Nós realmente acreditamos que a IA pode matar seres humanos”. Ele calcula risco em mais de 10% para a próxima década.
De acordo com o g1, no fim de julho, mais de mil funcionários do setor de IA, incluindo o CEO da Anthropic, Dario Amodei, pediram que Washington crie um “mecanismo de freio” para o desenvolvimento dessa tecnologia.
