Um ex-pesquisador da Anthropic, empresa respons\u00e1vel pelo desenvolvimento do chatbot Claude, deixou o cargo publicamente e fez um alerta sobre os riscos do avan\u00e7o acelerado da intelig\u00eancia artificial. Aos 27 anos, Jacob Coxon afirmou que a tecnologia \u00e9 segura para uso atualmente, mas pode atingir um n\u00edvel de intelig\u00eancia capaz de representar uma amea\u00e7a direta \u00e0 humanidade no futuro.<\/p>\n\n\n\n
Em declara\u00e7\u00f5es \u00e0 CBS News, Coxon comparou o desenvolvimento de sistemas cada vez mais avan\u00e7ados com cen\u00e1rios retratados em filmes de fic\u00e7\u00e3o cient\u00edfica. Para ele, o principal problema n\u00e3o est\u00e1 necessariamente na IA dispon\u00edvel hoje, mas na possibilidade de que futuros sistemas alcancem capacidades muito superiores \u00e0s humanas.<\/p>\n\n\n\n
Coxon anunciou sa\u00edda da Anthropic acusando a companhia e a OpenAI, respons\u00e1vel pelo ChatGPT, de estarem \u201capostando nossas vidas\u201d ao competir pelo desenvolvimento de modelos cada vez mais poderosos.<\/p>\n\n\n\n
Antes de trabalhar na Anthropic, o pesquisador tamb\u00e9m passou pela OpenAI. Sua preocupa\u00e7\u00e3o est\u00e1 relacionada \u00e0 velocidade com que as empresas avan\u00e7am na cria\u00e7\u00e3o de sistemas de intelig\u00eancia artificial sem que mecanismos de seguran\u00e7a, fiscaliza\u00e7\u00e3o e controle acompanhem necessariamente o mesmo ritmo.<\/p>\n\n\n\n
A posi\u00e7\u00e3o ganhou relev\u00e2ncia porque o pr\u00f3prio CEO da Anthropic, Dario Amodei, defendeu recentemente uma desacelera\u00e7\u00e3o no desenvolvimento da tecnologia. Segundo ele, o avan\u00e7o da intelig\u00eancia artificial n\u00e3o precisa ser interrompido, mas os riscos associados aos sistemas mais avan\u00e7ados s\u00e3o suficientemente graves para exigir tempo e coordena\u00e7\u00e3o entre empresas e governos.<\/p>\n\n\n\n
Sam Altman, da OpenAI, e Elon Musk, da xAI, tamb\u00e9m j\u00e1 demonstraram concord\u00e2ncia com a ideia de uma desacelera\u00e7\u00e3o coordenada do setor, acompanhada de regulamenta\u00e7\u00e3o e monitoramento independente do desenvolvimento dos modelos.<\/p>\n\n\n\n
Coxon, entretanto, argumenta que uma eventual redu\u00e7\u00e3o do ritmo n\u00e3o poderia envolver apenas empresas dos Estados Unidos. Para evitar uma disputa tecnol\u00f3gica internacional, ele defende que qualquer iniciativa desse tipo tamb\u00e9m precisaria ser coordenada com a China.<\/p>\n\n\n\n
Coxon n\u00e3o \u00e9 o primeiro profissional do setor a abandonar uma empresa de intelig\u00eancia artificial por preocupa\u00e7\u00f5es relacionadas \u00e0 seguran\u00e7a. Nos \u00faltimos anos, pesquisadores de organiza\u00e7\u00f5es como Anthropic e OpenAI deixaram seus cargos e fizeram cr\u00edticas p\u00fablicas sobre os riscos de desenvolver sistemas cada vez mais aut\u00f4nomos e poderosos.<\/p>\n\n\n\n
A preocupa\u00e7\u00e3o tamb\u00e9m apareceu entre funcion\u00e1rios que continuam na Anthropic. Evan Hubinger, l\u00edder de uma equipe da empresa, afirmou nas redes sociais acreditar que existe uma possibilidade superior a 10% de a intelig\u00eancia artificial provocar a morte de toda a humanidade na pr\u00f3xima d\u00e9cada.<\/p>\n\n\n\n
Anthropic e OpenAI estariam se preparando para poss\u00edveis ofertas p\u00fablicas iniciais de a\u00e7\u00f5es de grandes propor\u00e7\u00f5es. Diante disso, cr\u00edticos levantaram a hip\u00f3tese de que previs\u00f5es extremamente negativas sobre a IA tamb\u00e9m possam funcionar como uma forma de refor\u00e7ar a percep\u00e7\u00e3o de poder e import\u00e2ncia dessas empresas, contribuindo para justificar suas elevadas avalia\u00e7\u00f5es financeiras.<\/p>\n\n\n\n
Dario Amodei, que lidera a Anthropic, j\u00e1 provocou controv\u00e9rsia ao afirmar que a intelig\u00eancia artificial poderia eliminar at\u00e9 metade dos empregos de escrit\u00f3rio de n\u00edvel inicial e que a tecnologia colocar\u00e1 \u00e0 prova a pr\u00f3pria sociedade.<\/p>\n\n\n\n
A declara\u00e7\u00e3o de Coxon, portanto, ocorre em meio a um debate mais amplo sobre at\u00e9 onde o desenvolvimento da IA deve avan\u00e7ar e quais limites deveriam ser estabelecidos antes que sistemas altamente capazes sejam colocados em funcionamento em larga escala.<\/p>\n\n\n\n
Nem todos, por\u00e9m, compartilham da avalia\u00e7\u00e3o dos pesquisadores da Anthropic. George Arison, CEO do aplicativo de relacionamentos Grindr, classificou os recentes alertas como indicativos de uma vis\u00e3o que chamou de \u201canticivilizacional\u201d.<\/p>\n\n\n\n
Arison afirmou que considera as declara\u00e7\u00f5es perigosas e disse ter orientado alguns engenheiros de sua empresa a interromper o uso das ferramentas da Anthropic. Para ele, existe a possibilidade de que a empresa realmente acredite nos riscos que descreve, mas tamb\u00e9m haveria um incentivo comercial para destacar o enorme potencial de seus sistemas.<\/p>\n","protected":false},"excerpt":{"rendered":"
Um ex-pesquisador da Anthropic, empresa respons\u00e1vel pelo desenvolvimento do chatbot Claude, deixou o cargo publicamente e fez um alerta sobre os riscos do avan\u00e7o acelerado da intelig\u00eancia artificial. Aos 27 anos, Jacob Coxon afirmou que a tecnologia \u00e9 segura para uso atualmente, mas pode atingir um n\u00edvel de intelig\u00eancia capaz de representar uma amea\u00e7a direta […]<\/p>\n","protected":false},"author":9,"featured_media":30433,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-58608","post","type-post","status-publish","format-standard","has-post-thumbnail","category-geral"],"_referencia":"","_links":{"self":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/58608","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/comments?post=58608"}],"version-history":[{"count":1,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/58608\/revisions"}],"predecessor-version":[{"id":58609,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/58608\/revisions\/58609"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media\/30433"}],"wp:attachment":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media?parent=58608"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/categories?post=58608"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/tags?post=58608"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}