De Amerikaanse overheid claimt dat de beperkingen van de AI-modellen, die vooral voor programmeerwerk worden ingezet, omzeild kunnen worden. Dat noemen we ook wel jailbreaken. Wat de overheid betreft vormt dit een risico voor de nationale veiligheid.
Anthropic heeft laten weten dat het verplicht werd door de overheid om de AI-modellen offline te halen voor buitenlands gebruik, om ze vervolgens beter de beveiligen. Pas dan zouden ze weer online mogen komen.
Anthropic zelf claimt dat het om een relatief kleine kwetsbaarheid staat, en dat het omzeilen van beperkingen voor geen enkel AI-model helemaal te voorkomen is. Daarbij zou het bedrijf op voorhand met de Amerikaanse overheid hebben samengewerkt om de kwetsbaarheden op te sporen.
Anthropic en de Amerikaanse regering zijn sowieso niet beste vriendjes. Het bedrijf heeft zich voorheen negatief uitgesproken over het gebruik van AI door de regering, en het staat ook op de zwarte lijst omdat de Amerikaanse overheid het bedrijf als veiligheidsrisico ziet.
