Een leed-batenanalyse helpt bij het ontwerp van een AI-systeem
Deelnemers aan de workshop Publieke Waarden in het Ontwerp van AI maken een stakeholder-analyse, om te bepalen welk leed en welke baten er voor iedere betrokkene te verwachten valt. Welke publieke waarden liggen daaronder?
I-Partnerschap
Guido Ongena en Erik Singerland zijn vanuit Hogeschool Utrecht betrokken bij I-Partnerschap, de samenwerking van de overheid op ict-gebied met kennisinstellingen. Ze houden zich bezig met het inzichtelijk maken van publieke waarden in technologie.
Veranderingen meten met AI?
In de workshop gaan de deelnemers bezig met een stakeholder-analyse. De casus in kwestie komt van de Rijksdienst voor Ondernemend Nederland (RVO) en luidt als volgt: Boeren moeten elk jaar de grenzen hun perceel opgeven. Dat brengt veel administratieve last met zich mee, terwijl er niet altijd sprake is van veranderingen. Zijn de veranderingen te meten met satellietbeelden en AI?
Harms & benefits
De deelnemers identificeren directe en indirecte betrokkenen in de casus (boeren, buren, RVO (de data-eigenaar), het Kadaster, de gemeente, het ministerie van I&W, de provincie, het waterschap, de leveranciers van drones en software, toezichthouder ILT en dieren). Vervolgens benoemen ze de harms & benefits voor elke stakeholder: wat zijn voor hen de goede en slechte aspecten van het plan om veranderingen in percelen te meten met satellietbeelden en AI?
Méér administratieve lasten
Zo kun je je afvragen of het meten een inbreuk is op de levenssfeer van buren, of dat het juist positief is voor buren dat het wat ‘strakker’ wordt georganiseerd. Potentieel komt er veel meer informatie uit de data. Het kan het waterschap bijvoorbeeld helpen om de waterkwaliteit te monitoren of ILT om het dierenwelzijn te monitoren (komen de koeien wel genoeg buiten?). Een slimme congresdeelnemer merkt op dat het plan voor méér administratieve last kan zorgen, omdat er verschillende data rouleren. ‘Instanties meten op verschillende manieren. Met één casus faciliteer je niet per se alle gesprekken, terwijl je als overheid wel met één antwoord moet komen. Dat vraagt om verregaande samenwerking tussen overheden.’
Blinde vlekken opsporen
De hogeschoolonderzoekers beschrijven de onderliggende waarden in de leed-batenanalyse: professionele autonomie, goed bestuur, transparantie, privacy, efficiëntie, ecologische gelijkwaardigheid, menselijke controle. Een stakeholder-analyse is een goede manier om blinde vlekken op te sporen, zeggen ze, en daarmee een geschikte vorm om het ontwerp van je eigen AI-systeem te verbeteren. Tools hiervoor zijn bij de HU beschikbaar.
Lees ook:
Op 13 november organiseerde iBestuur AI & Overheid 2024. In deze workshop verkenden we met Guido Ongena en Erik Singerland de mogelijkheden tot het ontwikkelen van een beeldmerk (of andere instrumenten) om de borging van publieke waarden in technologie inzichtelijk te maken.
