A possibilidade de a inteligência artificial chegar a um ponto em que represente uma ameaça à própria humanidade voltou ao centro do debate no Vale do Silício. Nos últimos dias, declarações de pesquisadores e executivos ligados ao setor reacenderam discussões sobre até onde a tecnologia pode avançar, quais riscos precisam ser controlados e se os sistemas de IA poderão, em algum momento, escapar da capacidade humana de supervisão.
Um dos episódios que mais chamou atenção envolve Jacob Coxon, pesquisador que já trabalhou na OpenAI e na Anthropic. Em uma publicação na rede social X, ele afirmou ter deixado o emprego por preocupação com a forma como as duas empresas estariam conduzindo o desenvolvimento da inteligência artificial. Segundo Coxon, as companhias estariam “apostando com nossas vidas”.
A publicação alcançou mais de 70 milhões de visualizações e colocou novamente uma questão que há anos divide especialistas: é possível desenvolver sistemas de inteligência artificial cada vez mais poderosos sem criar riscos que ultrapassem a capacidade humana de controlá-los?
Alertas sobre os riscos não são novidade
Coxon não é o primeiro nome de peso da indústria a fazer previsões preocupantes sobre o futuro da IA. Em maio de 2023, Geoffrey Hinton, considerado um dos pioneiros da inteligência artificial e ex-funcionário do Google, deixou a empresa e tornou públicas suas preocupações sobre os possíveis perigos associados ao avanço da tecnologia.
Na ocasião, Hinton explicou que sua saída permitiria falar sobre os riscos da inteligência artificial sem precisar considerar os impactos de suas declarações para o Google.
Outro nome importante do setor de tecnologia, Bill Gates, também demonstrou preocupação com a velocidade da evolução da IA. Em entrevista ao The New York Times, o cofundador da Microsoft afirmou que pessoas que compreendem o potencial da tecnologia e acompanham seu rápido desenvolvimento estão muito preocupadas com o que pode acontecer.
Os alertas, porém, vão além de opiniões genéricas sobre o futuro. Evan Hubinger, líder de equipe na Anthropic, chegou a publicar no X uma avaliação extremamente pessimista: segundo ele, a equipe da empresa realmente acredita que a inteligência artificial poderia matar toda a humanidade e, em sua avaliação pessoal, a probabilidade disso ocorrer na próxima década seria superior a 10%.
O que os especialistas temem?
O temor apresentado por esses pesquisadores está relacionado principalmente ao desenvolvimento de sistemas cada vez mais autônomos e capazes de executar tarefas complexas sem supervisão humana constante.
A preocupação não significa que exista consenso científico de que a humanidade será exterminada pela IA. O debate envolve cenários hipotéticos de longo prazo e diferentes interpretações sobre a velocidade com que os sistemas podem evoluir, o grau de autonomia que poderão adquirir e a capacidade das empresas e governos de estabelecer mecanismos eficientes de segurança.
Por isso, uma das principais discussões é justamente como manter sistemas avançados alinhados aos objetivos humanos enquanto eles se tornam mais capazes de tomar decisões, executar tarefas e interagir com diferentes ambientes.
Também existe desconfiança sobre os alertas
As declarações recentes, entretanto, não foram recebidas de maneira unânime. Parte do mercado de tecnologia questiona se o tom apocalíptico adotado por alguns integrantes do setor representa uma preocupação genuína ou também pode funcionar como uma estratégia para aumentar a percepção sobre o poder dessas empresas e de seus produtos.
Coxon afirmou explicitamente que seus alertas não tinham finalidade de marketing. Ainda assim, alguns executivos e investidores do Vale do Silício demonstraram ceticismo diante da sequência de declarações de pessoas ligadas às empresas de IA.
A discussão ganhou força porque OpenAI e Anthropic estariam se preparando para possíveis ofertas públicas iniciais de ações de grande dimensão. Nesse ambiente, declarações que ressaltam tanto o poder quanto os riscos dos sistemas podem influenciar a percepção do mercado sobre o valor futuro dessas companhias.
Executivo acusa Anthropic de alimentar uma visão perigosa
Entre os críticos está George Arison, presidente-executivo do aplicativo de relacionamentos Grindr. Em entrevista à BBC, ele classificou os comentários recentes de Coxon e de outros integrantes do setor como reflexo de uma visão que chamou de “anticivilizacional” dentro da Anthropic.
Arison considerou as declarações perigosas e afirmou que determinou que alguns engenheiros da empresa deixassem de utilizar a tecnologia da Anthropic.
Para o executivo, existe uma questão empresarial por trás do discurso sobre o potencial ilimitado da IA. Ele argumenta que as próprias empresas precisam sustentar expectativas extremamente elevadas para justificar as avaliações atribuídas a elas pelos investidores.
