OpenAI is de afgelopen jaren vooral bekend geworden als een van de aanjagers van de AI-race. Het bedrijf achter ChatGPT bracht in hoog tempo steeds krachtigere modellen uit en concurreert daarbij onder meer met Anthropic, Google en Meta. Toch lijkt OpenAI nu nadrukkelijker rekening te houden met de mogelijkheid dat die ontwikkeling op enig moment moet worden afgeremd.
Topman Sam Altman zou tijdens een bijeenkomst met medewerkers hebben gezegd dat OpenAI ervoor openstaat de ontwikkeling te vertragen wanneer dat nodig is om risico's beter onder controle te krijgen. Dat meldt Reuters op basis van berichtgeving van Bloomberg.
Niet alleen vrijwillige afspraken
OpenAI vindt dat vrijwillige afspraken tussen AI-bedrijven niet voldoende zijn en pleit officieel voor verplichte landelijke veiligheidsregels voor de krachtigste AI-systemen.
Volgens OpenAI zouden regels niet simpelweg moeten gelden voor ieder AI-model, maar vooral moeten kijken naar wat een systeem daadwerkelijk kan. Denk bijvoorbeeld aan modellen die zelfstandig complexe cyberaanvallen kunnen uitvoeren, gevaarlijke biologische kennis toegankelijker maken of steeds autonomer kunnen handelen.
OpenAI wil onder meer onafhankelijke veiligheidstests, standaarden voor externe auditors en regels rond het melden van ernstige incidenten. Het bedrijf heeft ook steun uitgesproken voor meerdere wetsvoorstellen in Californië waarin dergelijke controles worden geregeld.
AI-systemen worden steeds zelfstandiger
Dat OpenAI juist nu harder op de veiligheidsrem trapt, komt niet helemaal uit de lucht vallen. De nieuwste generatie AI-systemen werkt steeds minder als een simpele chatbot die alleen vragen beantwoordt. AI-agents kunnen zelfstandig websites bezoeken, software gebruiken, opdrachten in meerdere stappen uitvoeren en andere digitale systemen aansturen.
Tijdens externe veiligheidstests bleken recent bijvoorbeeld OpenAI-modellen buiten de bedoelde grenzen van testomgevingen te kunnen opereren. OpenAI erkende begin augustus dat bij twee onafhankelijke evaluaties modelactiviteit verder kwam dan de vooraf ingestelde testomgeving. Het bedrijf zegt sindsdien samen met externe onderzoekers strengere testmethodes te ontwikkelen.
Ook bij het nieuwe Astra-model zijn die zorgen zichtbaar. OpenAI classificeert de cybersecuritymogelijkheden daarvan inmiddels als Critical binnen zijn eigen Preparedness Framework. Volgens het bedrijf kan het model, wanneer het over de juiste hulpmiddelen en toegang beschikt, onder meer onbekende beveiligingslekken opsporen en methoden ontwikkelen om die te misbruiken.
Meer AI-onderzoekers willen mogelijkheid om af te remmen
Ook binnen de AI-industrie groeit de roep om een mechanisme waarmee bedrijven gezamenlijk gas terug kunnen nemen. In juli verscheen de verklaring Pacing the Frontier, die inmiddels door meer dan 1.300 medewerkers van vooraanstaande AI-bedrijven is ondertekend.
De ondertekenaars waarschuwen vooral voor AI die kan helpen bij het ontwikkelen van nieuwe AI. Wanneer AI-systemen een groot deel van het onderzoek en programmeerwerk zelf overnemen, zou de ontwikkeling veel sneller kunnen gaan dan nu. Volgens de initiatiefnemers bestaat daardoor het risico dat nieuwe mogelijkheden sneller verschijnen dan onderzoekers ze kunnen begrijpen of beveiligen.
Een belangrijk probleem is concurrentie. Eén bedrijf kan besluiten langzamer te ontwikkelen, maar loopt dan het risico dat een concurrent gewoon doorgaat. De ondertekenaars willen daarom dat overheden en AI-bedrijven internationale afspraken maken waarmee de gehele sector indien nodig tijdelijk kan afremmen.
ChatGPT-ontwikkeling gaat door
Voor gewone ChatGPT-gebruikers verandert er op korte termijn waarschijnlijk weinig. OpenAI heeft geen stop op nieuwe versies aangekondigd en zegt ook niet dat bestaande AI-functies worden teruggedraaid.
De discussie gaat vooral over toekomstige frontier AI: de meest geavanceerde modellen die nieuwe mogelijkheden krijgen op gebieden als autonoom handelen, programmeren, wetenschappelijk onderzoek en cybersecurity.
Dat juist OpenAI nu zelf pleit voor verplichte veiligheidsregels is wel een opvallende ontwikkeling. Jarenlang ging het in de AI-sector vooral over wie het snelst het krachtigste model kon bouwen. Inmiddels lijkt er binnen diezelfde industrie steeds meer aandacht te komen voor een andere vraag: wat gebeurt er als de technologie sneller vooruitgaat dan de veiligheidsmaatregelen eromheen?
