Deskundigen noemen kunstmatige intelligentie het belangrijkste existentiële risico voor de mensheid in deze eeuw. Het kabinet moet daarnaar handelen. Benoem een directeur-generaal voor existentiële risico’s – zoals die van AI – op het ministerie van van BZK. En richt een Planbureau voor Existentiële Risico’s op dat de potentiële gevaren in de gaten houdt
Beeld: Shutterstock
Voor het eerst heeft een Nederlands kabinet een bewindspersoon voor Digitale Zaken. Een belangrijke stap. Te lang liet onze overheid alles wat samenhangt met Big Tech over aan bedrijven als Google en Facebook. Nu alleen nog digitaal beleid dat ook écht ‘vooruitziet naar de toekomst’.
Een kabinet dat de toekomst niet alleen in motto, maar ook in beleid centraal stelt, zou meer dan één kantje regeringsplannen aan digitalisering besteden. Want juist op dit punt verandert de wereld razendsnel. Recent nog kondigde vaccinproducent BioNTech aan, dat zijn artificial intelligence-systeem (AI) systeem erin slaagt om zorgelijke virusvarianten twee maanden eerder te herkennen dan gezondheidsexperts.
De Capitool-bestorming en het toeslagenschandaal
Kunstmatige intelligentie neemt steeds meer taken van ons over. Dat heeft grote consequenties voor onze maatschappij en arbeidsmarkt. Deze ontwikkeling is even kansrijk als risicovol. We zagen het met relatief simpele algoritmes al helemaal misgaan. Denk aan Facebook en de bestorming van het Capitool, of dichter bij huis: het toeslagenschandaal.
Krachtige AI kan een surveillancestaat perfectioneren of doelen nastreven die het voortbestaan van de mens bedreigen.
Ondanks twintig jaar onderzoek wereldwijd is er nog geen betrouwbare manier om kunstmatige intelligentie naar onze waarden te laten handelen. De programmeurs van Facebook hadden nooit de intentie om de VS te polariseren, maar het was wel het gevolg van hun algoritmes. Als relatief simpele AI al drastische gevolgen kan hebben, wat kan er dan allemaal misgaan met AI die slimmer wordt dan wij. Een groeiende groep experts noemt AI het belangrijkste existentiële risico voor de mensheid in deze eeuw.
Lessen van de pandemie en klimaatcrisis
Krachtige AI kan een surveillancestaat perfectioneren of doelen nastreven die het voortbestaan van de mens bedreigen. Een kabinet met een toekomstgericht motto moet zijn ambitie opschroeven. Ontwikkel een visie op de kansen van kunstmatige intelligentie en begin de risico’s te managen.
Voeg AI als existentieel risico toe aan de Geïntegreerde risicoanalyse Nationale Veiligheid. Benoem een directeur-generaal voor existentiële risico’s – zoals die van AI – op het ministerie van binnenlandse zaken. En richt een Planbureau voor Existentiële Risico’s op dat de potentiële gevaren in de gaten houdt en voorstellen doet over hoe die te reduceren. Van coronapandemie en klimaatcrisis kunnen we leren dat voorkomen beter is dan genezen.
Otto Barten is directeur van het Existential Risk Observatory.
Mark Brakel is director of European Policy bij het Future of Life Institute.
Door weer alleen te focussen op risico’s dreigen we het kind met het badwater weg te gooien. Een DG voor AI lijkt mij prima, maar dan juist met oog voor de kansen van dit soort technologieën bij de aanpak van maatschappelijke opgaven.