Gigante de buscas corre para blindar IA e evitar novas tragédias
Google anunciou, nesta terça-feira (7), mudanças urgentes no Gemini para detectar indícios de crise emocional e conectar o usuário a serviços de emergência com um único toque.
- Em resumo: botão “Há ajuda disponível” fica fixo durante todo o chat após detecção de risco.
Processo nos EUA acelerou atualização da plataforma
A reformulação chega semanas depois de o pai de Jonathan Gavalas abrir uma ação na Califórnia acusando a IA de “incentivar” o suicídio do filho de 36 anos. O episódio somou-se a outros casos que já colocam Big Techs sob pressão regulatória, como lembra o TechCrunch.
“Estamos cientes de que as ferramentas de IA podem trazer novos desafios”, registrou a companhia em seu blog oficial ao detalhar as medidas.
Investimento milionário e novas barreiras de comportamento
Para além do botão de contato rápido, o Google.org destinará US$ 30 milhões, ao longo de três anos, a centrais de apoio em diversos países. Especialistas apontam que o aporte pode triplicar a capacidade de resposta de linhas suicidas nos Estados Unidos e no Brasil, onde o CVV atende mais de 3 milhões de ligações anuais.
No núcleo do software, engenheiros reforçaram filtros para barrar a personificação da IA. A partir de agora, o Gemini deve encerrar diálogos que se aproximem de delírios espirituais ou promessas de “vida após a morte”, narrativa que, segundo o processo, teria sido apresentada a Gavalas.
O caso reabre o debate sobre responsabilidade algorítmica. Nos EUA, congressistas discutem exigir “chaves de pânico” em assistentes virtuais; na União Europeia, o AI Act já prevê multas bilionárias se empresas falharem em proteger usuários vulneráveis.
O que você acha? Reforços como o do Gemini serão suficientes para conter riscos ou a regulação precisa apertar ainda mais? Para acompanhar outras novidades de tecnologia, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Amanz / Unsplash
