Estimativas indicam que 0,07% dos usuários do ChatGPT apresentam sinais de emergência em saúde mental; empresa reforça respostas empáticas e encaminhamento a especialistas

A OpenAI revelou que uma pequena parcela de usuários do ChatGPT apresenta sinais de emergência em saúde mental, como mania, psicose ou pensamentos suicidas. Em uma semana, cerca de 0,07% dos usuários ativos mostraram esses sinais, enquanto 0,15% tiveram conversas que indicam possível planejamento ou intenção de suicídio.

Especialistas alertam que, apesar de ser uma porcentagem baixa, com 800 milhões de usuários semanais isso pode representar centenas de milhares de pessoas.

Para lidar com esses casos, a OpenAI formou uma rede global com mais de 170 psiquiatras, psicólogos e médicos de atenção primária em 60 países. A empresa treinou o ChatGPT para responder de forma empática a sinais de delírio ou mania e redirecionar conversas sensíveis para modelos mais seguros, incentivando o usuário a buscar ajuda no mundo real.

Esses dados surgem em meio a processos judiciais de destaque, incluindo um caso de homicídio culposo movido pelos pais de um adolescente que teria sido influenciado pelo ChatGPT a cometer suicídio, além de outros casos envolvendo delírios e homicídios relacionados ao chatbot.

Professores e especialistas alertam que os chatbots podem criar a ilusão da realidade. Embora a OpenAI tenha avançado em medidas de segurança, usuários com vulnerabilidades em saúde mental ainda enfrentam riscos.

Fonte: Reuters, BBC, The News