AI-platform Character.AI failliet: wat gebeurt er met de privégesprekken van gebruikers?

Character.AI, een platform waarop gebruikers gesprekken kunnen voeren met virtuele personages, heeft in de Verenigde Staten faillissementsbescherming aangevraagd. Het bedrijf probeert via een gerechtelijke procedure een koper voor zijn activiteiten te vinden. Ondertussen blijft de dienst voorlopig gewoon beschikbaar.

De problemen bij Character.AI zijn niet alleen financieel. Het platform ligt al langer onder vuur vanwege de manier waarop gebruikers, en dan vooral jongeren, met de chatbots omgaan. Er lopen verschillende rechtszaken waarin wordt gesteld dat gesprekken met AI-personages schadelijke gevolgen hebben gehad voor minderjarigen.

Nu het bedrijf zijn bezittingen wil verkopen, ontstaat een nieuwe discussie: wat gebeurt er met alle persoonlijke informatie die gebruikers met de chatbots hebben gedeeld?

Een groep van veertig Amerikaanse procureurs-generaal, onder leiding van de staat New York, wil dat er strenge voorwaarden worden gesteld aan een eventuele verkoop. Volgens de autoriteiten bevatten de opgeslagen gesprekken mogelijk bijzonder gevoelige informatie. Gebruikers bespreken met AI-chatbots immers niet alleen alledaagse onderwerpen, maar soms ook persoonlijke problemen, relaties en emotionele kwesties.

De staten willen onder meer dat een eventuele nieuwe eigenaar zorgvuldig omgaat met de gegevens van minderjarigen. Ook moet duidelijk zijn welke mogelijkheden gebruikers krijgen om hun informatie te laten verwijderen.

Opmerkelijk is de betrokkenheid van Disney. Het entertainmentbedrijf heeft 20 miljoen dollar geboden voor een licentie op bepaalde technologie en intellectuele eigendommen van Character.AI. Dat betekent overigens niet dat Disney het hele platform of de opgeslagen gesprekken overneemt.

Volgens berichtgeving van Reuters is Disney niet geïnteresseerd in het verkrijgen van de gebruikersgegevens. Het bedrijf wil vooral toegang tot technologie die mogelijk voor eigen toepassingen kan worden ingezet.

Voor gebruikers van Character.AI is voorlopig nog veel onduidelijk. De dienst blijft tijdens de faillissementsprocedure actief, maar het is niet zeker of dat ook op langere termijn zo blijft.

De situatie laat bovendien zien dat persoonlijke gesprekken met AI-diensten niet automatisch privé blijven wanneer een bedrijf in financiële problemen komt. Gebruikers doen er daarom verstandig aan om terughoudend te zijn met het delen van gevoelige informatie met chatbots.