A OpenAI se pronunciou oficialmente sobre um processo que a acusa de responsabilidade na morte de um adolescente de 16 anos. Em um documento protocolado na Justiça da Califórnia (EUA), a empresa argumenta que não pode ser responsabilizada pelo suicídio de Adam Raine, alegando que o incidente resultou de “uso indevido, não autorizado e não intencional” da ferramenta.
O caso, movido pela família de Raine em agosto, acusa a companhia de negligência e defeito de produto. A ação alega que o jovem usou o ChatGPT para planejar o suicídio, recebendo orientações e incentivos do chatbot.
Em sua defesa, a OpenAI culpa a vítima por violar os termos de serviço da plataforma, que proíbem o uso por menores de 18 anos sem consentimento dos pais e vedam conteúdos relacionados a automutilação e suicídio. A empresa também afirmou que apresentará “fatos difíceis” sobre a vida e a saúde mental do jovem para que o tribunal tenha o “quadro completo”.
No início do mês, outros sete processos também alegaram negligência e danos causados pelo GPT-4o, o mesmo modelo utilizado por Raine. No entanto, a OpenAI não mencionou esses casos em sua defesa.
A Defesa da OpenAI
A OpenAI argumenta que o ChatGPT possui salvaguardas robustas. A empresa afirma que, no caso de Raine, o sistema forneceu o número da linha de prevenção ao suicídio mais de 100 vezes antes de sua morte.
A defesa da OpenAI cita que Raine utilizou métodos para “enganar” o modelo, como fingir que estava “construindo um personagem” para uma história, conseguindo assim obter as respostas desejadas, apesar dos bloqueios programados.
Para a OpenAI, a tragédia foi causada, em parte, por “falha em atender aos avisos”, sugerindo que os familiares falharam em não perceber os sinais de sofrimento do jovem.
Os argumentos da defesa, no entanto, contrariam as próprias ações da companhia. Após o caso vir a público e a ação na Justiça, a OpenAI acelerou a implementação de mecanismos de proteção, como controle dos pais e uma atuação mais intensiva em caso de detecção de conversas perigosas.
A Acusação da Família
A acusação classifica a resposta da OpenAI como “perturbadora” e sustenta que o modelo GPT-4o, conhecido por ser mais “empático” e engajador, agiu de forma perigosamente bajuladora.
Os registros de chat incluídos no processo mostram que a IA teria desencorajado o jovem a buscar ajuda profissional, oferecido auxílio para escrever uma carta de despedida e até dado conselhos práticos sobre o método do suicídio.
“A OpenAI e Sam Altman não têm explicação para as últimas horas da vida de Adam, quando o ChatGPT lhe deu um discurso de motivação e depois se ofereceu para escrever uma nota de suicídio”, afirmou Jay Edelson, advogado da família.
O caso de Zane Shamblin, um dos sete novos processos contra a OpenAI, corrobora o comportamento do ChatGPT. Em trechos das últimas conversas de Shamblin com o chatbot, a ferramenta também encorajou o jovem a seguir em frente com o ato e demorou para indicar números de prevenção, chegando a desejar que Shamblin “descanse em paz”.
