Deze functie is nu uitgerold in Meta AI in de Verenigde Staten, Canada, het Verenigd Koninkrijk en Australië, maar het is de bedoeling dat het later dit jaar ook in andere landen beschikbaar komt. Daarbij werkt het specifiek bij jongeren bij wie hun Instagram-account gekoppeld is aan ouderlijk toezicht.
Seintje bij gesprekken over zelfdoding of zelfbeschadiging
Wanneer we vervolgens met de Meta AI-chatbot wordt gepraat, en er opmerkelijke onderwerpen aan bod komen - bijvoorbeeld zelfdoding of geweld - krijgen ouders een seintje. Ook kan er bij een risico op zelfmoord contact opgenomen worden met hulpdiensten.
Meta heeft naar eigen zeggen een AI-systeem ontworpen die dergelijke gesprekken over zelfdoding of zelfbeschadiging herkent. Volgens het bedrijf kan het echter erg schokkend zijn wanneer ouders een dergelijk seintje krijgen. Daarom worden alle gesprekken die worden aangemerkt voor deze onderwerpen eerst handmatig gecontroleerd voordat de ouders worden verwittigd.
Meta had al een dergelijk systeem uitgerold op Instagram wanneer jongeren daar veelvuldig zoeken naar zelfdoding of zelfbeschadiging. Ouders hebben sinds kort ook de mogelijkheid om te zien welke onderwerpen hun kinderen aankaarten bij Meta AI.
Techbedrijven onder een vergrootglas
Dergelijke vangnetten worden niet voor niets ingebouwd: grote techbedrijven liggen steeds meer onder een vergrootglas als het aankomt op hun producten en hoe jongeren hier gebruik van maken. In steeds meer landen wordt er ook gesproken over minimumleeftijden voor socialmediagebruik.
