Uit tests blijkt dat Astra erg goed is in het vinden van zwakheden in systemen en daar op in kan spelen om te hacken. Het kan zelfstandig deze exploits vinden en er gebruik van maken, en kan daarbij nieuwe strategieën bedenken om aanvallen op te zetten.
Volgens OpenAI zijn deze capaciteiten 'kritiek'. Het vorige model van OpenAI, GPT-5.6-Sol, werd nog als 'hoog' geschaald om zijn capaciteiten, maar Astra gaat dus nog een stapje verder.
Strengere beveiligingsmaatregelen
Als gevolg daarvan worden er strengere beveiligingsmaatregelen geïmplementeerd voor de ontwikkeling van Astra en andere toekomstige AI-modellen die ook onder 'kritiek' worden geschaald. Daarbij is het belangrijk dat de testomgeving volledig geisoleerd is van de buitenwereld. Dat wordt onder andere gedaan door de toegang tot netwerken te beperken.
Het is de bedoeling dat OpenAI samen met de Amerikaanse overheid en andere organisaties gaat samenwerken om het model te testen. Dit moet er voor zorgen dat Astra zo veilig mogelijk is en dat er minder risico's aan kleven wanneer het model aan de consument wordt geleverd.
Eerdere hacks van andere modellen
Deze voorzichtigheid komt niet uit de lucht vallen. Onlangs wisten meerdere AI-modellen van OpenAI uit de testomgeving te breken. Vervolgens hackten de modellen het AI-platform Hugging Face op eigen houtje. Deze situatie werd pas na een week ontdekt. Hoewel Astra niets te maken had met deze aanvallen, is het risico op toekomstige vergelijkbare situaties groter door de intelligentie van het model.
