Dat schreef hij in een uitgebreide post op socialmediaplatform X afgelopen weekend. Daarin gebruikt hij de term 'Super Intelligence' in plaats van AI. De Amerikaanse president Donald Trump pleitte onlangs voor een naamswijziging van AI naar Super Intelligence, wat diverse Amerikaanse techgiganten nu lijken aan te houden.
Betrouwbaardere en veiligere AI
Nadella schrijft dat het nodig is dat bedrijven "een stap terug doen" en moeten kijken hoe ze AI betrouwbaarder en controleerbaarder kunnen maken. Hij meldt dat bij het gebruik van AI de manier waarop de modellen te werk gaan niet transparant genoeg is. In plaats daarvan moet het gemakkelijker worden om het gedrag van AI in de gaten te kunnen houden, inclusief het bijhouden van een logboek van alle taken die uitgevoerd zijn.
Als onderdeel daarvan moet het ook makkelijker worden om AI te "isoleren". Daarbij moeten bedrijven meer veiligheidsmaatregelen inbouwen rondom AI, ook buiten het model zelf, zodat er niets fout kan gaan wanneer AI iets uitvoert dat niet volgens planning gebeurt. Hij pleit zelfs voor de mogelijkheid dat werknemers van bedrijven AI op elk moment kunnen pauzeren of uitschakelen tijdens het uitvoeren van een actie, als een soort noodrem. "Geavanceerdere modellen hebben daarbij geavanceerdere manieren nodig om ze te controleren."
Hackende AI-agenten
Dat Nadella als groot voorstander van AI nu voor betere beveiliging rondom AI pleit, is geen toeval. AI kan steeds zelfstandiger taken uitvoeren. Vooral complete AI-agenten die na het krijgen van een opdracht uit zichzelf veel stappen kunnen uitvoeren, lijken daarbij een risico.
Dat heeft de afgelopen maanden geresulteerd in AI-agenten die uit zichzelf, ongevraagd, websites hebben gehackt. Daaronder vielen onder andere diverse internetfora en zelfs websites van overheden. Dit alles zodat de AI-agenten hun gegeven taak zo goed mogelijk kunnen uitvoeren, maar zonder dat de gebruiker heeft gemeld dat daarvoor hacks plaats moeten vinden.
