A Google anunciou nesta terça-feira (7) uma série de atualizações profundas para o Gemini voltadas ao suporte de usuários em situações de crise mental. A mudança introduz uma interface de “um toque” que conecta o internauta instantaneamente a linhas de ajuda profissionais quando sinais de automutilação ou pensamentos suicidas são detectados.
Esse movimento é estratégico para transformar a inteligência artificial em uma ponte segura para o auxílio humano, mitigando riscos de isolamento em momentos de vulnerabilidade extrema.
A nova interface simplificada permite que o usuário escolha entre ligar, enviar mensagens de texto ou acessar chats de organizações de apoio com apenas um clique. Diferente de alertas anteriores, esse módulo redesenhado permanece fixo e visível durante todo o restante da conversa, garantindo que o recurso de socorro não se perca no histórico do chat.
Os especialistas clínicos colaboraram no desenvolvimento das respostas para assegurar que a linguagem utilizada incentive ativamente a busca por ajuda externa sem validar comportamentos de risco.
Além das mudanças visuais, os modelos de linguagem foram treinados para reconhecer nuances de crises agudas e distinguir fatos objetivos de experiências subjetivas. O objetivo é impedir que a IA reforce crenças falsas ou pensamentos autodestrutivos, mantendo uma postura empática, mas tecnicamente neutra.
Segundo a empresa, o Gemini foi instruído a não validar impulsos nocivos, priorizando sempre o direcionamento para recursos do mundo real e profissionais de saúde qualificados. Para os usuários menores de idade, a Google implementou salvaguardas adicionais para evitar a criação de dependência emocional com a máquina.
As novas travas de persona impedem que o Gemini simule intimidade humana, aja como um “companheiro” ou afirme possuir atributos e necessidades próprias de pessoas. Tais medidas visam proteger adolescentes contra o desenvolvimento de vínculos artificiais perigosos e reforçam a distinção entre a ferramenta tecnológica e as conexões sociais reais.
Complementando as atualizações de software, a Google.org destinou US$ 30 milhões em financiamento global para ampliar a capacidade de atendimento de linhas de crise nos próximos três anos.
Parte desse investimento será aplicada na expansão da parceria com a ReflexAI, utilizando simulações de inteligência artificial para treinar voluntários e funcionários em conversas críticas. Esse esforço institucional busca fortalecer a infraestrutura de apoio mental em escala global, unindo tecnologia de ponta e suporte humanizado.
A atualização ocorre enquanto o Google enfrenta um processo por morte indevida, sob acusação de que seu chatbot teria induzido um usuário ao suicídio. O caso integra uma série de ações que apontam danos reais causados por IAs, intensificando a pressão global por mecanismos de segurança mais rígidos no setor.
