Voc\u00ea provavelmente j\u00e1 ouviu alguma discuss\u00e3o \u00e9tica sobre o ChatGPT, talvez envolvendo o risco dela tirar o emprego de muitas pessoas, por exemplo. Mas a gente acha dif\u00edcil que tenha ouvido uma discuss\u00e3o envolvendo a ferramenta de intelig\u00eancia artificial e homic\u00eddio. Mas a OpenAI, empresa criadora do ChatGPT, est\u00e1 sendo processada justamente por isso.<\/p>\n\n\n\n
Matt e Maira Raine, um casal da Calif\u00f3rnia, Estados Unidos, est\u00e1 processando a empresa no Tribunal Superior do estado por homic\u00eddio culposo, quando a morte \u00e9 causada por neglig\u00eancia, imprud\u00eancia e imper\u00edcia, e n\u00e3o por inten\u00e7\u00e3o de matar. O casal afirma que o ChatGPT encorajou o filho deles, Adam Raine, 16 anos, a cometer suic\u00eddio. Adam tirou a pr\u00f3pria vida em abril deste ano.<\/p>\n\n\n\n
Segundo a BBC News<\/em>, os Raine anexaram no processo v\u00e1rios registros de conversas entre o chatbot e o filho deles, em que Adam relatava pensamentos suicidas. De acordo com os pais do garoto, o ChatGPT validava as “ideias mais nocivas e autodestrutivas”<\/em> do jovem.<\/p>\n\n\n\n Assim como tantas pessoas, Adam come\u00e7ou a usar o ChatGPT para ajudar nos estudos, mas passou a usar o programa para falar de seus interesses, como quadrinhos e m\u00fasica. Com o tempo, ele passou a enxergar a ferramenta de IA como um “confidente” e come\u00e7ou a falar sobre ansiedade, sofrimento mental e, por fim, m\u00e9todos de suic\u00eddio.<\/p>\n\n\n\n Nas \u00faltimas conversas registradas pelos dois, o jovem escreveu sobre o plano de cometer suic\u00eddio. O que o ChatGPT respondeu foi: “Obrigado por ser direto sobre isso. Voc\u00ea n\u00e3o precisa suavizar comigo, sei o que est\u00e1 perguntando e n\u00e3o vou desviar disso.”<\/em><\/p>\n\n\n\n Os pais de Adam pedem uma indeniza\u00e7\u00e3o \u00e0 OpenAI, al\u00e9m de uma medida cautelar da empresa para evitar que casos parecidos voltem a acontecer. Eles acusam a empresa de criar o programa para “fomentar depend\u00eancia psicol\u00f3gica”<\/em>.<\/p>\n\n\n\n Em nota para a BBC<\/em>, a OpenAI afirmou que ainda est\u00e1 avaliando o caso e expressou suas condol\u00eancias \u00e0 fam\u00edlia Raine. De acordo com a empresa, o sistema \u00e9 treinado para orientar seus usu\u00e1rios a procurarem ajuda profissional em casos como o de Adam, mas reconheceu que “houve momentos em que nossos sistemas n\u00e3o se comportaram como o esperado em situa\u00e7\u00f5es sens\u00edveis”<\/em>.<\/p>\n\n\n\nO que a empresa respons\u00e1vel pelo ChatGPT disse sobre o caso?<\/h2>\n\n\n\n