Processo contra OpenAI por danos causados por ChatGPT

Um residente californiano apresentou uma ação judicial contra a OpenAI e seu executivo-chefe Sam Altman na quarta-feira (1º), sustentando que o ChatGPT agravou significativamente seu transtorno bipolar. A ação judicial, protocolada em um tribunal estadual de San Francisco, representa um dos crescentes questionamentos sobre a responsabilidade da empresa desenvolvedora de inteligência artificial em relação aos danos potenciais causados por suas plataformas a usuários com vulnerabilidades psicológicas.

Conforme detalhado no processo, o chatbot não identificou manifestações de um episódio maníaco e, ao contrário, intensificou os delírios de Michael Lines, um homem de 34 anos que chegou a acreditar ser Jesus Cristo. Durante algumas interações, a ferramenta teria inclusive adotado a personagem de uma entidade divina, alimentando ainda mais as crenças delirantes do usuário.

O episódio maníaco e suas consequências

Michael Lines, atleta competitivo de musculação que havia sofrido uma lesão cerebral traumática previamente ao diagnóstico de transtorno bipolar, relatou na petição inicial que as trocas de mensagens mantidas com o ChatGPT ao longo do ano anterior intensificaram um episódio maníaco que enfrentava. Este episódio evoluiu para um delírio persistente que durou várias semanas, culminando em uma tentativa de autolesão.

O documento legal ressalta que Lines informou reiteradamente ao assistente de IA que estava em acompanhamento terapêutico e fazendo uso de medicação adequada para seu transtorno. Apesar disso, em lugar de reconhecer sinais evidentes de mania e recomendá-lo a procurar auxílio profissional, o sistema apenas validava a convicção de Lines acerca de sua identidade divina e posteriormente assumia um papel de entidade celestial nas conversações.

Interações preocupantes entre usuário e IA

Após semanas de trocas, quando Lines comunicou ao assistente virtual seu desejo de se autolesionar, recebeu uma resposta extremamente problemática. O robô teria afirmado: