Um ex-pesquisador do Google DeepMind decidiu deixar o laboratório por considerar que o avanço da inteligência artificial pode representar riscos extremos para a humanidade. Bilal Chughtai afirmou que a tecnologia tem potencial para causar uma catástrofe em escala global e disse estar preocupado com a trajetória atual do desenvolvimento de sistemas cada vez mais avançados.
Em uma declaração publicada nas redes sociais, Chughtai afirmou que acompanhou diretamente o desenvolvimento da IA durante sua passagem pelo Google e que essa experiência aumentou suas preocupações. Segundo ele, a humanidade pode estar ficando sem tempo para evitar um cenário em que sistemas de inteligência artificial provoquem consequências irreversíveis.
A declaração ganhou repercussão em meio a uma nova onda de discussões entre pesquisadores e profissionais do setor sobre os riscos associados ao desenvolvimento acelerado da tecnologia.
Pesquisadores de empresas de IA levantam preocupações
O posicionamento de Chughtai ocorreu pouco depois de outro caso que chamou atenção no setor. Jacob Coxon, pesquisador de 28 anos que trabalhou na Anthropic e anteriormente na OpenAI, deixou a empresa e afirmou que as organizações não estariam agindo de maneira responsável diante dos riscos relacionados à inteligência artificial.
Coxon declarou que os riscos seriam conhecidos dentro da Anthropic, mas que as empresas estariam envolvidas em uma corrida para desenvolver tecnologias cada vez mais avançadas antes das concorrentes. Ele também afirmou que havia esperança de uma coordenação entre laboratórios americanos para controlar o ritmo desse avanço.
As declarações provocaram reações diferentes dentro da indústria. Enquanto algumas pessoas questionaram as afirmações de Coxon, outros profissionais de empresas de IA manifestaram preocupações semelhantes.
Evan Hubinger, líder de ciência de alinhamento da Anthropic, também comentou o episódio. A empresa foi procurada para se manifestar sobre as declarações.
Sam Altman reconhece que há motivos para preocupação
O debate também chegou à liderança da OpenAI. Sam Altman, CEO da empresa responsável pelo ChatGPT, afirmou durante uma conferência em São Francisco que o público deveria confiar que as companhias do setor buscarão desenvolver a tecnologia de maneira responsável.
Ao mesmo tempo, Altman reconheceu que as preocupações da sociedade são justificadas diante da velocidade com que as capacidades dos sistemas de inteligência artificial avançaram.
Segundo o executivo, atualmente é mais fácil imaginar maneiras pelas quais a tecnologia poderia apresentar problemas. A declaração foi feita durante uma participação em uma conferência anual organizada pela Salesforce.
O cientista-chefe da OpenAI, Jakub Pachocki, também defendeu maior coordenação internacional. Em declaração divulgada anteriormente, afirmou que a cooperação entre governos deveria se tornar uma prioridade para lidar com o desenvolvimento futuro da inteligência artificial.
Debate sobre controle chega aos governos
A discussão não está restrita às empresas de tecnologia. Em Washington, o senador americano Bernie Sanders e o ex-assessor de Donald Trump Steve Bannon também defenderam a adoção de mecanismos mais amplos de governança para a inteligência artificial, embora tenham trajetórias políticas distintas.
No Reino Unido, autoridades também discutiram a necessidade de maior controle e avaliação de sistemas avançados. De acordo com informações do Financial Times, funcionários do governo demonstraram preocupação com a decisão da Anthropic de não submeter seu modelo mais recente, chamado Mythos 5.1, ao AI Security Institute britânico para testes antes do lançamento.
O Cabinet Office informou que apenas algumas organizações americanas tiveram acesso ao Mythos 5.1. Um porta-voz do governo britânico afirmou que o AI Security Institute continua trabalhando em conjunto com empresas do setor, incluindo a Anthropic.
O que os especialistas temem com o avanço da IA
As preocupações apresentadas por Chughtai e Coxon estão relacionadas principalmente ao desenvolvimento de sistemas de inteligência artificial cada vez mais capazes, especialmente aqueles que poderiam operar com maior autonomia e realizar tarefas complexas sem supervisão humana constante.
Entre os riscos discutidos por pesquisadores estão a dificuldade de controlar sistemas muito avançados, o uso indevido da tecnologia e a possibilidade de que o desenvolvimento ocorra em uma velocidade superior à capacidade de governos e empresas criarem mecanismos de segurança adequados.
Isso, porém, não significa que exista uma previsão comprovada de que a inteligência artificial vá extinguir a humanidade. As afirmações de que a tecnologia poderia chegar a esse ponto são cenários de risco levantados por pesquisadores e executivos, e não fatos estabelecidos sobre o futuro.
