Dat schrijft Euractiv. Virkkunen vertelde de Europese website niet weten om welke bedrijven het gaat. Ze zei alleen dat ze het verzoek heeft verstuurd naar de ontwikkelaars van de ‘meest geavanceerde’ AI-modellen.
Europese Commissie eist meer inzicht in veiligheid grote AI-modellen
De Europese Commissie laat voor het eerst haar tanden zien met betrekking tot de verse verplichtingen uit de AI-verordening. Na een aantal veiligheidsincidenten met AI-agents eist Eurocommissaris Henna Virkkunen (techsoevereiniteit, veiligheid en democratie) nu informatie op bij de grotere AI-leveranciers over hoe ze omgaan met cybersecurity, veiligheid en auteursrecht.
Vooraf risico's mitigeren
De AI-verordening verplicht de ontwikkelaars van krachtige AI-modellen om vooraf na te denken over mogelijke risico’s en om die risico's tijdig te mitigeren. De afgelopen weken kwamen diverse AI-modellen echter in het nieuws omdat ze zelfstandig zochten naar manieren om de beveiliging van websites en computers te omzeilen.
De afgelopen weken kwamen diverse AI-modellen in het nieuws omdat ze zelfstandig zochten naar manieren om de beveiliging van websites en computers te omzeilen.
Eind juli bleken twee AI-agents van OpenAI ontsnapt uit een testomgeving, waarna ze inbraken op het netwerk van Hugging Face, een website voor programmeurs. De ontwikkeling van een nieuw taalmodel van OpenAI, Astra, werd gepauzeerd omdat het model soortgelijk gedrag vertoont. Ook AI-modellen van Meta, Antropic en het Chinese Moonshot zouden aan het hacken zijn geslagen.
Naast oprechte zorgen over cyberveiligheid klinken ook meer kritische geluiden over deze ontwikkelingen. Volgens experts zou het hackgedrag van de AI-modellen als marketingmiddel worden ingezet. De techbedrijven zijn in een kostbare AI-race verwikkeld en het komt ze niet slecht uit om het gedrag van AI-agents als opzienbarend slim te presenteren.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.