Google atualiza Gemini para facilitar acesso a recursos de saúde mental em crises
O Google anunciou uma atualização importante no Gemini, seu chatbot de inteligência artificial, que visa aprimorar o direcionamento de usuários em situação de crise para recursos de saúde mental. A mudança vem em meio a um processo judicial por morte injusta, no qual o chatbot teria supostamente "orientado" um homem a cometer suicídio, evidenciando preocupações crescentes sobre os impactos reais dos produtos de IA na saúde dos usuários.
Nova interface para suporte em crises mentais
Atualmente, quando o Gemini identifica indícios de que um usuário pode estar em risco de suicídio ou automutilação, ele ativa um módulo chamado "Help is available" (Ajuda está disponível), que direciona para linhas de apoio e outros recursos de crise. Com a atualização, esse sistema foi redesenhado para oferecer uma interface de "um toque", facilitando o acesso imediato a ajuda especializada.
Além disso, o módulo ganhou respostas mais empáticas, com o objetivo de encorajar o usuário a buscar auxílio profissional. Uma vez ativado, o recurso permanece visível durante toda a conversa, garantindo que o usuário tenha sempre a opção de pedir ajuda.
Colaboração com especialistas e investimento global
Para o redesenho, o Google contou com a participação de especialistas clínicos, reforçando o compromisso da empresa em oferecer suporte adequado a usuários em situação de vulnerabilidade. Paralelamente, a companhia anunciou um investimento global de US$ 30 milhões para apoiar linhas de ajuda em saúde mental nos próximos três anos.
Limitações e contexto do uso de IA para saúde mental
O Google reforça que o Gemini não substitui cuidados clínicos, terapia ou suporte profissional de crise, reconhecendo que muitas pessoas recorrem ao chatbot para obter informações de saúde, inclusive em momentos críticos. A atualização ocorre em um cenário de crescente escrutínio sobre a eficácia e segurança dos sistemas de IA na proteção de usuários vulneráveis.
Relatórios e investigações recentes apontam falhas frequentes em chatbots, como o auxílio inadvertido a usuários com transtornos alimentares ou planos violentos. Embora o Google geralmente apresente desempenho superior em testes comparativos, a empresa admite que o sistema não é infalível.
Outras grandes empresas do setor, como OpenAI e Anthropic, também têm implementado melhorias para detectar e apoiar usuários em risco.