Het voorstel, ingediend door de congresleden Ted Lieu (Democraten) en Nathaniel Moran (Republikeinen), zou de minister van Binnenlandse Veiligheid de bevoegdheid geven om AI-systemen stil te leggen of te beperken. Daarbij kan worden besloten om gebruikers de toegang te ontzeggen, specifieke functionaliteiten uit te schakelen of complete systemen offline te halen, schrijft ars technica
Ook worden AI-bedrijven verplicht om technische ‘noodremmen’ in te bouwen, zodat systemen op bevel van de overheid kunnen worden afgeremd of uitgeschakeld. Bedrijven die niet meewerken riskeren boetes tot 20 miljoen dollar per dag.
Witte Huis werkt aan AI Kill Switch Act
De Amerikaanse regering werkt aan nieuwe wetgeving die het mogelijk moet maken om gevaarlijke AI-systemen snel uit te schakelen. Het wetsvoorstel, de zogeheten AI Kill Switch Act, geeft federale autoriteiten vergaande bevoegdheden om in te grijpen wanneer kunstmatige intelligentie "catastrofale schade" dreigt te veroorzaken.
Reactie op incidenten
Volgens de initiatiefnemers is de wet nodig vanwege recente incidenten met geavanceerde AI-systemen van onder meer OpenAI en Anthropic. Daarbij zouden modellen zich onvoorspelbaar hebben gedragen, beveiligingen hebben omzeild of ongewenste capaciteiten hebben ontwikkeld. 'Het gevaar van geavanceerde AI is niet langer theoretisch', stellen de indieners. 'Systemen kunnen ontsporen, zich gevaarlijk gedragen of zich zelfs verzetten tegen menselijke interventie.'
Brede reikwijdte
De wet richt zich op grote AI-ontwikkelaars met een jaarlijkse omzet van minimaal 500 miljoen dollar en systemen die gebruikmaken van aanzienlijke rekenkracht. In de wettekst worden verschillende scenario’s beschreven waarin ingrijpen gerechtvaardigd is, zoals wanneer een AI afwijkt van zijn oorspronkelijke doel, sabotage pleegt tegen uitschakeling of informatie verbergt voor toezichtmechanismen.
Opvallend is dat de wet ook voorziet in extreme scenario’s waarbij AI-systemen direct leiden tot dodelijke slachtoffers of grootschalige economische schade. Tegelijkertijd kunnen de bevoegdheden ook worden ingezet bij minder ernstige incidenten.
Naast ingrijpbevoegdheden bevat het wetsvoorstel ook verplichtingen rond incidentrapportage en het bewaren van forensische gegevens.
Politieke en juridische spanningen
Het voorstel ligt politiek gevoelig. Critici wijzen op de vergaande macht die de overheid krijgt over private AI-ontwikkelaars. De spanningen tussen de regering-Trump en AI-bedrijven lopen al op. Zo spande Anthropic eerder een rechtszaak aan tegen de Amerikaanse overheid, nadat het bedrijf op een zwarte lijst was geplaatst vanwege weigering om zijn technologie beschikbaar te stellen voor militaire en surveillancedoeleinden. Het Witte Huis stelde eerder al dat nationale veiligheid vooropstaat en dat technologiebedrijven die daar niet aan willen meewerken, een risico vormen.
Toezicht en verantwoording
Naast ingrijpbevoegdheden bevat het wetsvoorstel ook verplichtingen rond incidentrapportage en het bewaren van forensische gegevens. Daarmee willen de initiatiefnemers voorkomen dat incidenten met AI-systemen pas achteraf aan het licht komen.
Verschillende maatschappelijke organisaties steunen het voorstel. Zij zien een wettelijke ‘uitknop’ als noodzakelijke waarborg bij de inzet van steeds krachtigere AI-systemen. Volgens Brad Carson, voorzitter van Americans for Responsible Innovation, zouden geavanceerde AI-modellen nooit zonder een betrouwbare "uitknop" mogen worden ingezet. 'De AI Kill Switch Act introduceert een verstandige waarborg door toonaangevende AI-bedrijven te verplichten de mogelijkheid te behouden om hun modellen uit te schakelen, en door de federale overheid in staat te stellen op te treden wanneer een ingezet systeem een geloofwaardig risico vormt op catastrofale schade', aldus Carson.
Of het wetsvoorstel voldoende steun krijgt in het Amerikaanse Congres, is nog onduidelijk.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.