O Google disse que atualizou o Gemini para orientar melhor os usuários sobre recursos de saúde mental em tempos de crise. A mudança ocorre no momento em que a gigante da tecnologia enfrenta um processo por homicídio culposo, acusando seu chatbot de “orientar” o suicídio de um homem, o mais recente de uma série de processos alegando que produtos de inteligência artificial causaram danos reais.
Quando as conversas indicam que um usuário está em potencial crise relacionada ao suicídio ou automutilação, a Gemini lançou um módulo de “Ajuda disponível” que direciona os usuários a recursos para crises de saúde mental, como uma linha direta para suicídio ou uma linha de texto para crises. O Google diz que a atualização – que na verdade é mais uma reformulação – simplifica-a em uma interface de “um clique”, tornando mais fácil para os usuários obter ajuda rapidamente.
O Google afirma que o módulo de ajuda também inclui respostas mais empáticas e foi projetado para “encorajar as pessoas a pedir ajuda”. Uma vez ativada, “a opção de procurar ajuda profissional permanecerá claramente visível” durante o resto da conversa.
O Google disse que trabalhou com especialistas clínicos na reformulação e está comprometido em apoiar usuários em crises. Também anunciou US$ 30 milhões em financiamento mundial durante os próximos três anos “para ajudar as linhas diretas globais”.
Tal como outros fornecedores líderes de chatbot, o Google enfatizou que o Gemini “não substitui cuidados clínicos profissionais, tratamento ou apoio em crises”, mas reconheceu que muitas pessoas o estão a utilizar para aceder a informações de saúde, inclusive em tempos de crise.
A atualização surge no meio de uma análise mais ampla sobre se as salvaguardas da indústria são realmente adequadas. Relatórios e investigações, incluindo os nossos sobre fornecedores de recursos de crise, frequentemente sinalizam casos em que os chatbots falham com usuários vulneráveis, ajudando-os a esconder distúrbios alimentares ou planejar tiroteios. O Google geralmente tem um desempenho melhor do que muitos de seus concorrentes nesses testes, mas não é perfeito. Outras empresas de inteligência artificial, incluindo OpenAI e Anthropic, também tomaram medidas para melhorar a detecção e o apoio a utilizadores vulneráveis.
