Anthropic plaatst kanttekeningen bij de zorgen van de overheid en stelt dat de gesignaleerde risico’s niet uniek zijn voor deze modellen. Volgens Anthropic houdt het besluit verband met zorgen over een mogelijke manier om de ingebouwde veiligheidsmaatregelen van Fable 5 te omzeilen. Het bedrijf benadrukt echter dat het niet gaat om een algemeen toepasbare jailbreak en stelt dat vergelijkbare risico’s ook bij andere geavanceerde AI-systemen bestaan.
VS grijpt in bij toegang tot geavanceerde AI-modellen
De Amerikaanse overheid heeft Anthropic opgedragen de toegang tot zijn meest geavanceerde AI-modellen tijdelijk te beperken vanwege zorgen over nationale veiligheid. Aanleiding is de vrees dat de modellen kunnen worden ingezet voor het identificeren van kwetsbaarheden in software of het omzeilen van beveiligingsmaatregelen. Om aan de opgelegde maatregel te voldoen, heeft Anthropic de betreffende modellen voorlopig uitgeschakeld.
In een toelichting wijst Anthropic erop dat Mythos 5 juist was ontwikkeld voor een beperkte groep gecontroleerde partners vanwege de uitzonderlijk sterke capaciteiten op het gebied van cybersecurity en wetenschappelijk onderzoek. Fable 5 was een afgeschermde variant van hetzelfde model, waarbij gevoelige toepassingen automatisch werden beperkt door aanvullende veiligheidsmechanismen.
De maatregel kan gevolgen hebben voor onderzoekers, bedrijven en ontwikkelaars buiten de Verenigde Staten die gebruikmaken van geavanceerde AI-systemen, zo schrijft Computable. Op 11 juni waarschuwde een groep Europese ai-experts voor wat er zou gebeuren als de VS de toegang tot frontier-ai zou stoppen. Europese gebruikers van beide ai-modellen worden zo op achterstand gezet.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.