Gemini gaat vaker naar hulplijnen verwijzen bij psychische problemen
Google's AI-bot Gemini gaat mensen sneller doorverwijzen naar hulplijnen als de gebruiker vermoedelijk psychische problemen heeft.
Dat schrijft Google in een blogpost. Wanneer er gesprekken met Gemini worden gevoerd en de AI-bot denkt psychische problemen te herkennen bij de gebruiker in kwestie, zal er informatie in het gesprek verschijnen waarmee mensen door worden verwezen naar een crisishulplijn.
Google claimt dat hun AI-bot is getraind om tijdens gesprekken te herkennen dat er een risico bestaat op zelfdoding of -verwonding. Er zullen knoppen verschijnen om bijvoorbeeld te bellen of chatten met een speciale hulplijn. Ook als de gebruiker dit advies afwijst, blijft de AI-bot de gebruiker motiveren om hulp te zoeken.
Google heeft deze wijziging niet zomaar doorgevoerd: er zijn meerdere gevallen bekend van mensen die met AI-bots praten en mogelijk tijdens of na het gesprek een poging tot zelfdoding doen. Zo is er in de Verenigde Staten een rechtszaak gaande waarbij de 36-jarige Jonathan Gavalas volgens zijn vader door Gemini gemotiveerd werd om zichzelf te doden.
