De Amerikaanse regering heeft toestemming gegeven aan Anthropic om de modellen weer wereldwijd beschikbaar te stellen. De toegang wordt in de loop van vandaag hersteld, zo meldt Anthropic.
Wel moet Anthropic voortaan wanneer het nieuwe AI-modellen heeft gemaakt deze eerst tonen aan specifieke bedrijven die door de Amerikaanse regering zijn uitgekozen. Het is niet bekend om welke bedrijven het gaat.
Enkele weken geleden werden Fable 5 en Claude Mythos 5 buiten de VS offline gehaald. De Amerikaanse overheid zou bang zijn voor de nationale veiligheid nadat Amazon zou hebben geclaimd dat de beperkingen van de AI-modellen omzeild konden worden.
Oorspronkelijk bericht:
Anthropics Claude Mythos 5- en Fable 5-AI-modellen zijn naar het schijnt offline gehaald voor alle landen buiten de Verenigde Staten op aanvraag van Amazon.
Dat claimt Axios. Amazon zou de Amerikaanse overheid hebben verzocht om de AI-modellen offline te halen, en het bedrijf zou een rapport hebben gestuurd naar de overheid om de kwetsbaarheid van de modellen te benadrukken. Ook zouden vijf andere bedrijven hebben gebeld met de overheid. Welke bedrijven dat zijn is niet bekend. Tot slot zou de overheid ook hebben vernomen dat een Chinese groep toegang had gekregen tot Mythos.
De Amerikaanse overheid heeft Anthropic's AI-model Claude Mythos 5, alsmede Fable 5, geblokkeerd voor gebruik in het buitenland. Daarom zijn de AI-modellen nu wereldwijd offline gehaald door Anthropic.
De Amerikaanse overheid claimt dat de beperkingen van de AI-modellen, die vooral voor programmeerwerk worden ingezet, omzeild kunnen worden. Dat noemen we ook wel jailbreaken. Wat de overheid betreft vormt dit een risico voor de nationale veiligheid.
Anthropic heeft laten weten dat het verplicht werd door de overheid om de AI-modellen offline te halen voor buitenlands gebruik, om ze vervolgens beter de beveiligen. Pas dan zouden ze weer online mogen komen.
Anthropic zelf claimt dat het om een relatief kleine kwetsbaarheid staat, en dat het omzeilen van beperkingen voor geen enkel AI-model helemaal te voorkomen is. Daarbij zou het bedrijf op voorhand met de Amerikaanse overheid hebben samengewerkt om de kwetsbaarheden op te sporen.
Anthropic en de Amerikaanse regering zijn sowieso niet beste vriendjes. Het bedrijf heeft zich voorheen negatief uitgesproken over het gebruik van AI door de regering, en het staat ook op de zwarte lijst omdat de Amerikaanse overheid het bedrijf als veiligheidsrisico ziet.
