Anthropic plaatst kanttekeningen bij de zorgen van de overheid en stelt dat de gesignaleerde risico’s niet uniek zijn voor deze modellen. Volgens Anthropic houdt het besluit verband met zorgen over een mogelijke manier om de ingebouwde veiligheidsmaatregelen van Fable 5 te omzeilen. Het bedrijf benadrukt echter dat het niet gaat om een algemeen toepasbare jailbreak en stelt dat vergelijkbare risico’s ook bij andere geavanceerde AI-systemen bestaan.
VS grijpt in bij toegang tot geavanceerde AI-modellen
De Amerikaanse overheid heeft Anthropic opgedragen de toegang tot zijn meest geavanceerde AI-modellen tijdelijk te beperken vanwege zorgen over nationale veiligheid. Aanleiding is de vrees dat de modellen kunnen worden ingezet voor het identificeren van kwetsbaarheden in software of het omzeilen van beveiligingsmaatregelen. Om aan de opgelegde maatregel te voldoen, heeft Anthropic de betreffende modellen voorlopig uitgeschakeld.
In een toelichting wijst Anthropic erop dat Mythos 5 juist was ontwikkeld voor een beperkte groep gecontroleerde partners vanwege de uitzonderlijk sterke capaciteiten op het gebied van cybersecurity en wetenschappelijk onderzoek. Fable 5 was een afgeschermde variant van hetzelfde model, waarbij gevoelige toepassingen automatisch werden beperkt door aanvullende veiligheidsmechanismen.
De Europese Commissie onderzoekt de praktische gevolgen van de blokkade voor Europese gebruikers. In ieder geval onderstreept de gang van zaken in de VS 'de noodzaak van Europa's technologische soevereiniteit onderstreept', schreef Eurocommissaris Henna Virkkunen (Technologische Soevereiniteit) op sociale media.
Ondertussen voerden Anthropic en de regering overleg. Een woordvoerder van Anthropic stelde dat het bedrijf en de regering-Trump 'snel werken om dit opgelost te krijgen'. 'Dit maakt deel uit van onze toewijding om aan de zijde van de regering te werken aan ons gedeelde doel om kritieke infrastructuur in de VS en de Amerikaanse leiderspositie in cyberbeveiliging te beschermen.'(ANP)
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.