Microsoft stelt in de gedragscode dat AI-modellen niet ontworpen mogen worden zodat ze aan menselijke controle kunnen ontsnappen of gebruikers kunnen misleiden. Ook mag de AI van Microsoft zich nooit verzetten tegen correctie of uitschakeling. De gedragscode vormt een soort grondwet voor toekomstige modellen van het bedrijf, zei topman van Microsoft AI, Mustafa Suleyman, in een interview met persbureau Reuters.
Microsoft stelt gedragscode op om AI onder controle te houden
Microsoft heeft maandag nieuwe richtlijnen gepresenteerd voor het ontwerpen van zijn AI-modellen. Daarmee probeert het tech- en softwareconcern zorgen over AI weg te nemen. De strekking van de ontwerpgedragscode is "Mensen zijn belangrijker dan AI".
Aan het document is maanden gewerkt, maar de publicatie is enkele dagen na een oproep vanuit de sector om de ontwikkeling van AI-modellen bewust te vertragen. Anthropic-topman Dario Amodei riep daar zaterdag toe op na veiligheidsincidenten, andere grote AI-bedrijven sloten zich aan bij zijn boodschap.
Volgens Suleyman is de discussie over de veiligheid van AI urgenter geworden na de hack van Hugging Face, een populair platform voor programmeurs, door AI-systemen van OpenAI in juli. Tijdens veiligheidstests sloegen AI-agenten van OpenAI op hol en braken op eigen initiatief in bij Hugging Face. Suleyman spreekt van een "waarschuwingsschot".
'Dit is een goed moment voor iedereen om hierover in gesprek te gaan en even pas op de plaats te maken', reageerde de topman van Microsoft AI op de oproep om de ontwikkeling bewust te vertragen.
OpenAI-topman Sam Altman heeft zich ook aangesloten bij de oproep van Amodei. Het bedrijf diende eerder dit jaar een aanvraag in voor een beursnotering, maar heeft bekendgemaakt dit jaar nog niet naar de beurs te gaan. Volgens Altman moet de prioriteit nu liggen bij de veiligheid van de technologie.
In maart 2023 sturen diverse prominente CEO's, hoogleraren en co-founders van grote IT-bedrijven, waaronder Elon Musk, al eens een open brief waarin ze opriepen tot het pauzeren van grootschalige AI-experimenten. De pauze zou gebruikt moeten worden om gezamenlijk een reeks gedeelde veiligheidsprotocollen te ontwikkelen.
Kritiek van Trump
De Amerikaanse president Donald Trump heeft fel uitgehaald naar Anthropic-topman Dario Amodei. In een bericht op sociale media sprak Trump maandag van een "zieke samenzwering" als oorzaak van de groeiende weerstand onder kiezers tegen AI-datacenters en de toenemende zorgen over geavanceerde AI-modellen. Volgens Trump is 'alleen China daar blij mee'. De Verenigde Staten lopen volgens hem voor op China en alle anderen. 'En dat zullen we blijven doen. Complotdenkers, landverraders, verraders en klokkenluiders, pas op', waarschuwde Trump.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.