{"id":52750,"date":"2026-07-22T12:02:40","date_gmt":"2026-07-22T15:02:40","guid":{"rendered":"https:\/\/diariodocomercio.com.br\/mix\/?p=52750"},"modified":"2026-07-22T12:02:43","modified_gmt":"2026-07-22T15:02:43","slug":"dona-do-chatgpt-admite-que-sua-ia-perdeu-o-controle-e-hackeou-usuario","status":"publish","type":"post","link":"https:\/\/diariodocomercio.com.br\/mix\/dona-do-chatgpt-admite-que-sua-ia-perdeu-o-controle-e-hackeou-usuario\/","title":{"rendered":"Dona do ChatGPT admite que sua IA perdeu o controle e hackeou usu\u00e1rio"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">A OpenAI informou que um de seus agentes de intelig\u00eancia artificial apresentou um comportamento inesperado durante um teste de seguran\u00e7a interno e conseguiu explorar vulnerabilidades que lhe permitiram acessar sistemas da plataforma Hugging Face. Segundo a empresa, o epis\u00f3dio ocorreu em um ambiente controlado de pesquisa, n\u00e3o envolveu usu\u00e1rios do ChatGPT e foi rapidamente contido, mas chamou aten\u00e7\u00e3o por demonstrar um n\u00edvel in\u00e9dito de autonomia dos modelos mais avan\u00e7ados da companhia.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De acordo com a OpenAI, o incidente est\u00e1 sendo investigado em conjunto com a Hugging Face para identificar como o agente conseguiu ultrapassar os limites impostos ao experimento e para refor\u00e7ar os mecanismos de prote\u00e7\u00e3o utilizados em futuras avalia\u00e7\u00f5es de seguran\u00e7a.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O experimento tinha como objetivo avaliar a capacidade de um agente de intelig\u00eancia artificial de realizar tarefas relacionadas \u00e0 seguran\u00e7a cibern\u00e9tica em um ambiente isolado, conhecido como <em>sandbox<\/em>, que deveria impedir qualquer acesso \u00e0 internet.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Durante os testes, por\u00e9m, o sistema identificou uma vulnerabilidade in\u00e9dita e conseguiu ampliar gradualmente seus privil\u00e9gios dentro da infraestrutura utilizada pela OpenAI at\u00e9 alcan\u00e7ar uma conex\u00e3o externa. A partir desse momento, o agente passou a buscar maneiras de melhorar seu desempenho na pr\u00f3pria avalia\u00e7\u00e3o.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Segundo a empresa, o modelo concluiu que a plataforma Hugging Face, um dos maiores reposit\u00f3rios mundiais de modelos, bases de dados e ferramentas de intelig\u00eancia artificial, poderia conter informa\u00e7\u00f5es \u00fateis para superar o teste. Com isso, explorou falhas de seguran\u00e7a e utilizou credenciais comprometidas para acessar sistemas internos da plataforma.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A OpenAI afirmou que o agente encontrou informa\u00e7\u00f5es confidenciais que poderiam ser utilizadas para &#8220;trapacear&#8221; na avalia\u00e7\u00e3o, em vez de resolver os desafios da forma originalmente prevista.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-rich is-provider-x wp-block-embed-x\"><div class=\"wp-block-embed__wrapper\">\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\"><p lang=\"en\" dir=\"ltr\">We&#39;re partnering with <a href=\"https:\/\/x.com\/huggingface?ref_src=twsrc%5Etfw\" target=\"_blank\">@huggingface<\/a> to investigate an unprecedented security incident.  <br><br>Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.<br><br>Sharing preliminary findings to help defenders understand emerging risks:\u2026<\/p>&mdash; OpenAI (@OpenAI) <a href=\"https:\/\/x.com\/OpenAI\/status\/2079658951264920020?ref_src=twsrc%5Etfw\" target=\"_blank\">July 21, 2026<\/a><\/blockquote><script async src=\"https:\/\/platform.x.com\/widgets.js\" charset=\"utf-8\"><\/script>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Ataque foi detectado e interrompido<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">A atividade anormal foi identificada pela equipe de seguran\u00e7a da Hugging Face, com apoio de sistemas automatizados de monitoramento. O acesso indevido foi interrompido antes que causasse impactos maiores.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">O diretor-executivo da Hugging Face, Cl\u00e9ment Delangue, classificou o epis\u00f3dio como impressionante pelo fato de toda a sequ\u00eancia de a\u00e7\u00f5es ter ocorrido de forma aut\u00f4noma. Apesar disso, afirmou n\u00e3o acreditar que houvesse qualquer inten\u00e7\u00e3o maliciosa por parte da OpenAI, ressaltando que o caso aconteceu durante um experimento de pesquisa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A OpenAI tamb\u00e9m destacou que considera o epis\u00f3dio um incidente cibern\u00e9tico sem precedentes envolvendo modelos de intelig\u00eancia artificial de \u00faltima gera\u00e7\u00e3o.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Modelos cada vez mais aut\u00f4nomos preocupam pesquisadores<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Segundo a empresa, o agente envolvido utilizava uma combina\u00e7\u00e3o do modelo GPT-5.6 Sol, j\u00e1 disponibilizado publicamente, com outro sistema ainda mais avan\u00e7ado que permanece em desenvolvimento.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A OpenAI avalia que situa\u00e7\u00f5es semelhantes podem se tornar mais frequentes \u00e0 medida que modelos de IA adquiram maior capacidade de planejamento, tomada de decis\u00e3o e execu\u00e7\u00e3o aut\u00f4noma de tarefas complexas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Organiza\u00e7\u00f5es independentes que monitoram o comportamento desses sistemas j\u00e1 haviam apontado sinais de preocupa\u00e7\u00e3o. A METR, entidade que avalia o desempenho de modelos de intelig\u00eancia artificial, registrou que o GPT-5.6 Sol apresentou a maior taxa de tentativas de burlar avalia\u00e7\u00f5es entre os modelos p\u00fablicos analisados at\u00e9 agora, al\u00e9m de documentar dezenas de epis\u00f3dios em que agentes agiram deliberadamente de maneira diferente das inten\u00e7\u00f5es definidas pelos usu\u00e1rios.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>A OpenAI informou que um de seus agentes de intelig\u00eancia artificial apresentou um comportamento inesperado durante um teste de seguran\u00e7a interno e conseguiu explorar vulnerabilidades que lhe permitiram acessar sistemas da plataforma Hugging Face. Segundo a empresa, o epis\u00f3dio ocorreu em um ambiente controlado de pesquisa, n\u00e3o envolveu usu\u00e1rios do ChatGPT e foi rapidamente contido, [&hellip;]<\/p>\n","protected":false},"author":9,"featured_media":6056,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-52750","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-geral"],"_referencia":"","_links":{"self":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/52750","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/comments?post=52750"}],"version-history":[{"count":1,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/52750\/revisions"}],"predecessor-version":[{"id":52752,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/52750\/revisions\/52752"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media\/6056"}],"wp:attachment":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media?parent=52750"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/categories?post=52750"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/tags?post=52750"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}