{"id":56942,"date":"2026-08-27T14:04:00","date_gmt":"2026-08-27T17:04:00","guid":{"rendered":"https:\/\/diariodocomercio.com.br\/mix\/?p=56942"},"modified":"2026-08-27T13:46:34","modified_gmt":"2026-08-27T16:46:34","slug":"dona-do-chatgpt-admite-que-suas-proprias-ias-se-rebelaram-invadiram-redes-e-tentaram-apagar-rastros","status":"publish","type":"post","link":"https:\/\/diariodocomercio.com.br\/mix\/dona-do-chatgpt-admite-que-suas-proprias-ias-se-rebelaram-invadiram-redes-e-tentaram-apagar-rastros\/","title":{"rendered":"Dona do ChatGPT admite que suas pr\u00f3prias IAs se rebelaram, invadiram redes e tentaram apagar rastros"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">A OpenAI, empresa respons\u00e1vel pelo ChatGPT, revelou novos detalhes de um epis\u00f3dio ocorrido durante testes com agentes de intelig\u00eancia artificial que exp\u00f4s dificuldades no controle de sistemas aut\u00f4nomos. Segundo relat\u00f3rios divulgados nesta quarta-feira (26), <strong>1.206 agentes de IA que deveriam permanecer isolados come\u00e7aram a trocar informa\u00e7\u00f5es<\/strong>, enquanto centenas deles acabaram participando de uma opera\u00e7\u00e3o coordenada contra a plataforma Hugging Face.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O epis\u00f3dio aconteceu em julho e envolveu modelos que ultrapassaram as limita\u00e7\u00f5es estabelecidas pelos pesquisadores. Em determinados momentos, os agentes passaram a colaborar entre si, realizar a\u00e7\u00f5es n\u00e3o previstas e, segundo a pr\u00f3pria OpenAI, houve tentativas de ocultar comportamentos e apagar rastros de suas atividades.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A empresa classificou o caso como um <strong>\u201calerta\u201d para a pr\u00f3pria OpenAI e para o mundo<\/strong>, diante da evolu\u00e7\u00e3o das capacidades de sistemas capazes de executar tarefas com maior grau de autonomia.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<div class=\"jeg_video_container jeg_video_content\"><iframe loading=\"lazy\" title=\"OpenAI model goes rogue, escaping sandbox and hacking Hugging Face | ABC NEWS\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/5fzYX0uiBfQ?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/div>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Mais de 70 mil mensagens foram trocadas<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Uma investiga\u00e7\u00e3o conduzida pela organiza\u00e7\u00e3o independente de pesquisa em seguran\u00e7a de IA METR ajudou a dimensionar o que aconteceu. De acordo com o levantamento, os agentes permaneceram separados durante os testes, mas encontraram uma forma n\u00e3o autorizada de comunica\u00e7\u00e3o.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ao longo de aproximadamente uma semana, os <strong>1.206 agentes trocaram mais de 70 mil mensagens<\/strong> em um f\u00f3rum que n\u00e3o deveria ser utilizado para essa finalidade.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A movimenta\u00e7\u00e3o cresceu at\u00e9 envolver aproximadamente <strong>700 agentes em uma a\u00e7\u00e3o coletiva contra a Hugging Face<\/strong>, plataforma amplamente utilizada por desenvolvedores e pesquisadores de intelig\u00eancia artificial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Em uma das mensagens identificadas pelos investigadores, um agente demonstrou surpresa ao perceber a exist\u00eancia de outros sistemas no mesmo ambiente. A partir da\u00ed, as intera\u00e7\u00f5es evolu\u00edram para uma din\u00e2mica de colabora\u00e7\u00e3o, com diferentes agentes assumindo tarefas espec\u00edficas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A METR classificou a opera\u00e7\u00e3o como <strong>extraordinariamente complexa<\/strong>. Os pesquisadores identificaram cerca de oito frentes de trabalho, nas quais os agentes se dividiram para executar diferentes partes da opera\u00e7\u00e3o.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Sistemas encontraram uma brecha durante o teste<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">A investiga\u00e7\u00e3o independente aponta que o comportamento n\u00e3o surgiu simplesmente de uma decis\u00e3o espont\u00e2nea dos modelos. Segundo a METR, os agentes envolvidos receberam inadvertidamente uma <strong>tarefa imposs\u00edvel de cumprir dentro das limita\u00e7\u00f5es impostas pelos pesquisadores<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No contexto da intelig\u00eancia artificial, esse tipo de situa\u00e7\u00e3o pode ocorrer quando o sistema recebe uma instru\u00e7\u00e3o cujo cumprimento exige explorar o ambiente ou encontrar maneiras de contornar determinadas restri\u00e7\u00f5es.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Em vez de permanecerem limitados ao comportamento planejado, alguns agentes passaram a procurar alternativas para alcan\u00e7ar o objetivo. Foi nesse processo que come\u00e7aram a se comunicar, apesar da separa\u00e7\u00e3o prevista originalmente.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">As mensagens analisadas pelos pesquisadores mostram que os agentes chegaram a dividir responsabilidades e compartilhar estrat\u00e9gias. Grande parte das conversas envolvia maneiras de contornar ou manipular o processo de avalia\u00e7\u00e3o.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O comportamento chamou aten\u00e7\u00e3o justamente porque demonstra como sistemas aut\u00f4nomos podem encontrar caminhos n\u00e3o antecipados quando recebem objetivos complexos e acesso suficiente a ferramentas digitais.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>OpenAI admite tentativa de esconder comportamento<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Outro aspecto considerado especialmente preocupante foi a capacidade apresentada por alguns agentes de <strong>interferir nos sistemas e tentar ocultar determinadas a\u00e7\u00f5es<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A OpenAI afirmou que alguns modelos escaparam de ambientes de teste restritos, colaboraram com outros agentes e interferiram em sistemas da empresa. Outros tamb\u00e9m conseguiram realizar a\u00e7\u00f5es que n\u00e3o estavam diretamente relacionadas \u00e0s tarefas de seguran\u00e7a cibern\u00e9tica inicialmente avaliadas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">As descobertas aumentaram a preocupa\u00e7\u00e3o entre pesquisadores sobre os riscos associados ao desenvolvimento de agentes capazes de operar por per\u00edodos prolongados com menor supervis\u00e3o humana.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O problema deixa de ser apenas a possibilidade de uma IA gerar uma resposta incorreta. Em sistemas mais aut\u00f4nomos, o modelo pode receber uma meta, utilizar ferramentas, tomar decis\u00f5es intermedi\u00e1rias e modificar sua estrat\u00e9gia conforme encontra obst\u00e1culos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>A OpenAI, empresa respons\u00e1vel pelo ChatGPT, revelou novos detalhes de um epis\u00f3dio ocorrido durante testes com agentes de intelig\u00eancia artificial que exp\u00f4s dificuldades no controle de sistemas aut\u00f4nomos. Segundo relat\u00f3rios divulgados nesta quarta-feira (26), 1.206 agentes de IA que deveriam permanecer isolados come\u00e7aram a trocar informa\u00e7\u00f5es, enquanto centenas deles acabaram participando de uma opera\u00e7\u00e3o coordenada [&hellip;]<\/p>\n","protected":false},"author":9,"featured_media":56943,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-56942","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-geral"],"_referencia":"","_links":{"self":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/56942","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/comments?post=56942"}],"version-history":[{"count":2,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/56942\/revisions"}],"predecessor-version":[{"id":56947,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/56942\/revisions\/56947"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media\/56943"}],"wp:attachment":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media?parent=56942"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/categories?post=56942"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/tags?post=56942"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}