Meer dan 35.000 met Grok gemaakte apps open op internet: ook wachtwoorden en medische gegevens zichtbaar

De beveiligingsproblemen kwamen aan het licht tijdens onderzoek van het Amerikaanse beveiligingsbedrijf Claroc Research. De onderzoekers bekeken webapps die waren gemaakt met Grok, de AI-assistent van het bedrijf achter het sociale netwerk X.

Met de appbouwfunctie van Grok kun je in gewone taal beschrijven wat een programma moet doen. De AI schrijft vervolgens de code en kan het resultaat als werkende webapp publiceren. Programmeerkennis is daarvoor nauwelijks nodig.

Claroc onderzocht 43.551 webadressen van zulke apps. Daarvan waren er 37.571 nog actief. Bij maar liefst 35.578 apps, oftewel 94,7 procent, bleek iedereen met het juiste webadres de inhoud te kunnen bekijken zonder eerst in te loggen.

Niet iedere openbaar toegankelijke app vormde een beveiligingsrisico. Veel toepassingen waren eenvoudige spelletjes, calculators of demonstratiepagina's die helemaal geen vertrouwelijke gegevens bevatten.

Maar ongeveer één op de tien apps bevatte volgens de onderzoekers wel interne bedrijfsinformatie of persoonsgegevens. Bij naar schatting 650 tot 800 apps ging het om gegevens die eigenlijk niet voor buitenstaanders bedoeld waren. Zo vonden de onderzoekers een personeelslijst van een ziekenhuisorganisatie met meer dan 3.500 medewerkers. Ook waren medische gegevens van een patiënt op een intensivecareafdeling toegankelijk, evenals dienstroosters van brandweermedewerkers.

Bij een app voor urenregistratie waren zelfs de wachtwoorden van achttien medewerkers rechtstreeks in de broncode opgenomen. Wie de app opende, kon daardoor ook die gegevens bekijken. In totaal identificeerde Claroc vertrouwelijke informatie van dertig organisaties. Daaronder bevonden zich zes bedrijven uit de Fortune 500, de lijst van grootste Amerikaanse ondernemingen.

Opvallend is dat ook medewerkers van de bedrijven achter Grok en X vertrouwelijke informatie hadden gepubliceerd. De onderzoekers vonden 24 openbaar toegankelijke apps van medewerkers. Daarin stonden onder meer interne inwerkplannen, verkoopgegevens van honderden klanten en vertrouwelijke advertentievoorstellen.

Na een melding van Claroc werden deze 24 apps offline gehaald. Volgens de onderzoekers waren de apps van andere getroffen organisaties op dat moment echter niet automatisch afgeschermd.

Het bedrijf achter Grok benadrukt dat gebruikers bewust verschillende stappen moeten doorlopen voordat ze een app publiceren. Ook stelt het bedrijf dat apps van eigen medewerkers standaard privé zijn.

Claroc wijst er echter op dat bij een gewoon betaald gebruikersaccount de optie om een app voor iedereen met de link toegankelijk te maken al geselecteerd was. Daardoor konden gebruikers onbedoeld gevoelige gegevens openbaar maken.

Een belangrijke oorzaak is de manier waarop Grok webapps publiceert. Iedere app krijgt een eigen subdomein onder grok.me. Zo'n webadres kan willekeurig en moeilijk te raden lijken. Toch kunnen deze adressen via openbare DNS-registraties worden achterhaald. Een kwaadwillende hoeft de naam dus niet zelf te raden.

Daarnaast bleek dat Grok soms onveilige aanmeldfuncties genereerde. In een door Claroc gemaakte testapp konden gebruikers met een willekeurig Google-account inloggen en vervolgens gegevens bekijken, wijzigen en verwijderen.

Dat laatste is alleen aangetoond met de eigen testapps van de onderzoekers. Claroc heeft niet geprobeerd gegevens in apps van andere organisaties te wijzigen.

Voor wie met AI een website of webapp bouwt, is dit een belangrijke waarschuwing. Een programma dat goed werkt, is niet automatisch veilig. Controleer daarom vóór publicatie wie toegang heeft tot de app. Kies waar mogelijk voor Alleen ik of een instelling waarmee uitsluitend uitgenodigde gebruikers toegang krijgen.

Sla geen wachtwoorden, API-sleutels of andere geheime gegevens rechtstreeks in de broncode op. Controleer bovendien of een aanmeldscherm daadwerkelijk voorkomt dat onbevoegden bij gegevens kunnen. Heb je al een met Grok gemaakte app gepubliceerd waarin persoonlijke of zakelijke informatie staat? Controleer dan de toegangsinstellingen en probeer in een privévenster of de app zonder aanmelding toegankelijk is.

Het onderzoek laat zien dat AI het bouwen van software veel eenvoudiger maakt, maar dat de verantwoordelijkheid voor de beveiliging daarmee niet verdwijnt.