Um ex-pesquisador da Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude, deixou o cargo publicamente e fez um alerta sobre os riscos do avanço acelerado da inteligência artificial. Aos 27 anos, Jacob Coxon afirmou que a tecnologia é segura para uso atualmente, mas pode atingir um nível de inteligência capaz de representar uma ameaça direta à humanidade no futuro.
Em declarações à CBS News, Coxon comparou o desenvolvimento de sistemas cada vez mais avançados com cenários retratados em filmes de ficção científica. Para ele, o principal problema não está necessariamente na IA disponível hoje, mas na possibilidade de que futuros sistemas alcancem capacidades muito superiores às humanas.
Coxon anunciou saída da Anthropic acusando a companhia e a OpenAI, responsável pelo ChatGPT, de estarem “apostando nossas vidas” ao competir pelo desenvolvimento de modelos cada vez mais poderosos.
Antes de trabalhar na Anthropic, o pesquisador também passou pela OpenAI. Sua preocupação está relacionada à velocidade com que as empresas avançam na criação de sistemas de inteligência artificial sem que mecanismos de segurança, fiscalização e controle acompanhem necessariamente o mesmo ritmo.
A posição ganhou relevância porque o próprio CEO da Anthropic, Dario Amodei, defendeu recentemente uma desaceleração no desenvolvimento da tecnologia. Segundo ele, o avanço da inteligência artificial não precisa ser interrompido, mas os riscos associados aos sistemas mais avançados são suficientemente graves para exigir tempo e coordenação entre empresas e governos.
Sam Altman, da OpenAI, e Elon Musk, da xAI, também já demonstraram concordância com a ideia de uma desaceleração coordenada do setor, acompanhada de regulamentação e monitoramento independente do desenvolvimento dos modelos.
Coxon, entretanto, argumenta que uma eventual redução do ritmo não poderia envolver apenas empresas dos Estados Unidos. Para evitar uma disputa tecnológica internacional, ele defende que qualquer iniciativa desse tipo também precisaria ser coordenada com a China.
Outros integrantes também alertam para risco extremo
Coxon não é o primeiro profissional do setor a abandonar uma empresa de inteligência artificial por preocupações relacionadas à segurança. Nos últimos anos, pesquisadores de organizações como Anthropic e OpenAI deixaram seus cargos e fizeram críticas públicas sobre os riscos de desenvolver sistemas cada vez mais autônomos e poderosos.
A preocupação também apareceu entre funcionários que continuam na Anthropic. Evan Hubinger, líder de uma equipe da empresa, afirmou nas redes sociais acreditar que existe uma possibilidade superior a 10% de a inteligência artificial provocar a morte de toda a humanidade na próxima década.
Anthropic e OpenAI estariam se preparando para possíveis ofertas públicas iniciais de ações de grandes proporções. Diante disso, críticos levantaram a hipótese de que previsões extremamente negativas sobre a IA também possam funcionar como uma forma de reforçar a percepção de poder e importância dessas empresas, contribuindo para justificar suas elevadas avaliações financeiras.
CEO da Anthropic também prevê impacto no mercado de trabalho
Dario Amodei, que lidera a Anthropic, já provocou controvérsia ao afirmar que a inteligência artificial poderia eliminar até metade dos empregos de escritório de nível inicial e que a tecnologia colocará à prova a própria sociedade.
A declaração de Coxon, portanto, ocorre em meio a um debate mais amplo sobre até onde o desenvolvimento da IA deve avançar e quais limites deveriam ser estabelecidos antes que sistemas altamente capazes sejam colocados em funcionamento em larga escala.
Nem todos, porém, compartilham da avaliação dos pesquisadores da Anthropic. George Arison, CEO do aplicativo de relacionamentos Grindr, classificou os recentes alertas como indicativos de uma visão que chamou de “anticivilizacional”.
Arison afirmou que considera as declarações perigosas e disse ter orientado alguns engenheiros de sua empresa a interromper o uso das ferramentas da Anthropic. Para ele, existe a possibilidade de que a empresa realmente acredite nos riscos que descreve, mas também haveria um incentivo comercial para destacar o enorme potencial de seus sistemas.
