In haar boek “In de schaduw van AI: Leven in een algoritmische tijd” neemt Madhumita Murgia, AI-editor bij de Financial Times, ons mee in haar ontdekkingsreis door de wereld van kunstmatige intelligentie (AI) en de impact ervan op onze samenleving. Voor bestuurders, managers, beleidsmakers en projectleiders bij de overheid die zich bezighouden met de digitalisering van de maatschappij biedt dit werk essentiële inzichten in de uitdagingen en kansen die AI met zich meebrengt.
Murgia’s werk belicht hoe AI buiten de gecontroleerde omgeving van technologiebedrijven vaak leidt tot onbedoelde gevolgen, waaronder uitbuiting, discriminatie en ongelijkheid. Ze waarschuwt voor een toenemende afhankelijkheid van AI-systemen en pleit voor het behoud van menselijke controle en ethiek in de digitale wereld.
In tien hoofdstukken, elk gericht op een specifiek aspect van ons leven dat door AI wordt beïnvloed, schetst Murgia een indringend beeld van de huidige staat en toekomstige implicaties van AI-technologie.
De kern van het boek ligt in de verhalen van mensen die direct worden geraakt door AI-systemen. Van datawerkers in Kenia die beelden labelen voor zelfrijdende auto’s tot slachtoffers van deepfake-technologie, Murgia brengt de menselijke kant van AI-ontwikkeling in beeld. Ze onderzoekt de ethische dilemma’s rond gezichtsherkenning, de toepassing van AI in de gezondheidszorg, en de impact van voorspellende algoritmes op jeugdzorg en sociale dienstverlening.
Bijzonder relevant voor de publieke sector zijn Murgia’s analyses van AI-toepassingen in overheidsbeleid. Ze belicht de risico’s van ‘predictive policing’ en AI-gestuurde sociale interventies, waarbij ze kritische vragen stelt over privacy, discriminatie en de verdeling van macht tussen burgers en overheid. Haar onderzoek naar massasurveillance in China dient als waarschuwing voor de potentiële gevaren van ongereguleerde AI-systemen.
Juridische en ethische uitdagingen
Murgia besteedt ook aandacht aan de juridische en ethische uitdagingen die AI met zich meebrengt. Ze beschrijft de groeiende beweging van activisten, juristen en ethici die zich inzetten voor verantwoorde AI-ontwikkeling en -implementatie. Haar gesprekken met experts zoals Paolo Benanti, een Franciscaanse monnik en ethicus die het Vaticaan adviseert over AI-kwesties, bieden interessante perspectieven op de morele dimensies van AI.
In de conclusie presenteert Murgia een reeks kritische vragen die overheden en organisaties zouden moeten stellen bij het overwegen van AI-implementaties. Deze vragen raken aan kernthema’s zoals eerlijke beloning voor datawerkers, inclusiviteit in AI-ontwikkeling, transparantie en verantwoording van AI-systemen, en de mogelijkheden voor burgers om zich te verzetten tegen ongewenste AI-toepassingen.
‘Must-read’
“In de schaduw van AI” is een ‘must-read’ voor iedereen in de publieke sector die betrokken is bij digitalisering en AI-implementatie. Het boek biedt een genuanceerd en diepgaand inzicht in de complexe realiteit van AI in onze samenleving. Murgia’s werk nodigt uit tot kritische reflectie en onderstreept de noodzaak van een ethische, inclusieve benadering bij de ontwikkeling en toepassing van AI-technologieën. Door de menselijke verhalen centraal te stellen, herinnert ze ons eraan dat de ultieme doelstelling van technologische vooruitgang het verbeteren van mensenlevens zou moeten zijn, niet het streven naar een ‘verbeterde’ mensheid ten koste van onze fundamentele waarden en vrijheden.
