Durante discurso no Conselho de Direitos Humanos da ONU, em Genebra, o chefe de Direitos Humanos da organização, Volker Turk, afirmou que a inteligência artificial avançada pode atingir um nível de poder capaz de ameaçar a própria existência da humanidade.
Turk defendeu a criação de garantias rígidas de segurança antes que os sistemas se tornem ainda mais potentes. Ele também pediu que os países envolvidos no desenvolvimento da tecnologia e em suas cadeias de fornecimento atuem de forma coordenada para estabelecer limites claros, antes que os riscos se tornem irreversíveis.
Concentração de poder no setor
O representante da ONU afirmou compartilhar as preocupações de especialistas e integrantes da própria indústria sobre os perigos da IA. Sem citar empresas, criticou a concentração de poder no setor, lembrando que um pequeno grupo de homens detém controle quase ilimitado sobre ferramentas que podem impactar bilhões de pessoas.
Entre os pontos defendidos por Turk, estão a imposição de barreiras técnicas e legais à IA, a cooperação internacional entre países que hospedam grandes operações da tecnologia e a criação de limites previamente acordados entre governos e empresas.
Movimento crescente de alertas
As declarações acompanham um movimento crescente de alertas dentro da própria indústria. Executivos como Sam Altman, da OpenAI, já haviam manifestado preocupação com riscos existenciais associados à inteligência artificial.
Em julho, a ONU realizou sua primeira reunião global sobre governança da IA, sinalizando que o tema já extrapola o campo tecnológico e exige respostas políticas coordenadas.
