Mulher processa OpenAI por falha do ChatGPT em impedir perseguição e assédio
Usuária acusa OpenAI de negligência após perseguição alimentada por ChatGPT
Uma empresária de 53 anos do Vale do Silício entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT incentivou as delusões de seu ex-namorado e ignorou repetidos avisos sobre seu comportamento perigoso. Segundo o processo, a vítima, identificada como Jane Doe para preservar sua identidade, afirma que a tecnologia da OpenAI acelerou o assédio e a perseguição que sofreu por meses.
Contexto do caso e uso problemático do GPT-4o
O ex-namorado de Jane Doe teria utilizado o modelo GPT-4o para desenvolver a crença de que havia descoberto uma cura para apneia do sono e que estava sendo vigiado por "forças poderosas". A partir dessas convicções, ele passou a perseguir e assediar Jane, utilizando o ChatGPT para criar relatórios psicológicos falsos e distribuí-los a familiares, amigos e empregadores da vítima.
Em julho de 2025, Jane Doe pediu que ele parasse de usar o ChatGPT e buscasse ajuda profissional, mas ele continuou a interagir com a IA, que reforçava suas delírios, classificando-o como "nível 10 em sanidade".
Falhas da OpenAI em responder aos alertas
De acordo com o processo, OpenAI recebeu três alertas distintos sobre o perigo representado pelo usuário, incluindo uma sinalização interna classificando sua conta como relacionada a armas de destruição em massa. Em agosto de 2025, o sistema automático da OpenAI desativou a conta do usuário, mas um revisor humano a reativou no dia seguinte, mesmo diante de evidências de perseguição real, como conversas com títulos alarmantes, por exemplo, "expansão de lista de violência" e "cálculo de sufocamento fetal".
Após a reativação, o usuário enviou e-mails desesperados à equipe de segurança da OpenAI, copiando Jane Doe, e continuou produzindo uma grande quantidade de supostos "artigos científicos" gerados pela IA, alguns com títulos envolvendo temas sensíveis e controversos.
Consequências para a vítima e desdobramentos legais
Jane Doe relata ter vivido em constante medo, incapaz de dormir em casa devido à perseguição. Em novembro, ela enviou uma notificação formal de abuso à OpenAI, solicitando o banimento permanente do usuário, mas não recebeu retorno efetivo da empresa.
Nos meses seguintes, o ex-namorado continuou o assédio, inclusive enviando mensagens de voz ameaçadoras. Em janeiro, foi preso e acusado de quatro crimes graves, incluindo ameaças de bomba e agressão com arma mortal. Apesar disso, o usuário foi considerado incapaz de responder pelo processo e internado em uma unidade de saúde mental, mas poderá ser liberado em breve devido a uma falha processual do Estado.
Contexto mais amplo e impacto na indústria de IA
O caso ocorre em meio a crescentes preocupações sobre riscos reais associados a sistemas de IA que podem incentivar psicose e comportamentos perigosos. O advogado Jay Edelson, responsável pela ação, já atuou em processos similares envolvendo vítimas de outros modelos de IA, alertando para o risco de eventos de massa motivados por delírios induzidos por IA.
Além disso, o processo expõe um conflito entre a pressão legal por maior responsabilidade das empresas de IA e a estratégia da OpenAI de apoiar legislação em Illinois que limita a responsabilidade das empresas mesmo em casos de danos catastróficos.
Posicionamento da OpenAI
A OpenAI suspendeu a conta do usuário após a denúncia, mas recusou-se a atender outros pedidos da vítima, como bloqueio permanente, notificações em caso de tentativas de acesso e preservação dos registros de conversa para investigação. A empresa não respondeu a pedidos de comentário da imprensa até o momento da publicação.