Hoe houden we met elkaar toezicht op robots die intelligenter zijn dan mensen en hoe werken we met die robots samen? Of is dat toezicht niet nodig en reguleren de machines zichzelf?
Recent was ik te gast bij een bijeenkomst over robotisering van de samenleving. In een chique ambiance werd geconverseerd over de impact van dit thema. Ik was gevraagd een bijdrage te leveren in de vorm van een inleiding voor een Lagerhuisdebat over predictive policing. Dat naar aanleiding van een boek dat ik jaren geleden heb geschreven over dat onderwerp.
Aanvankelijk had ik geen idee wat ik daar te zoeken had. Ik associeerde robotisering niet met het werken met data en het doen van voorspellingen. Robotisering had voor mij een connotatie van het automatiseren van het menselijk handelen. Machines die in fabrieken het lopendebandwerk overnemen zodat mensen weer gaan nadenken en hun creatieve geest weer aanspreken. Maar ik werd niet teleurgesteld. Hoewel de organisator naar mijn inzicht alle onderwerpen die maar een beetje modieus waren in het programma had gepropt, bleek het thema van de ochtend zich te voltrekken langs het spectrum van kunstmatige intelligentie tot aan een nieuw soort kogellager. Ik was aangehaakt.
Robotica, als deelgebied van de mechatronica, ontwikkelt in de fysieke werkelijkheid apparaten die acties kunnen uitvoeren, gegeven een set aan inputvariabelen die vaak met sensoren worden verkregen. De acties die kunnen worden uitgevoerd zijn vaak beperkt door de fysieke mogelijkheden van de robot en het redeneervermogen dat in het apparaat is voorgeprogrammeerd. Dit redeneervermogen was en is vaak een zogeheten ‘eindige automaat’ die eenvoudige regels kent in de vorm van ‘als muntje x is ingeworpen, dan proces a’. Zo begon het in ieder geval ooit. De robot had een enkel doel en dat was om een bepaalde actie altijd in een bepaalde context uit te voeren. Deze robots kennen we ook in de digitale wereld en dan worden ze vaak agents genoemd. Software-agents hebben vaak ook een specifieke taak in een specifieke context. Er zijn inputparameters die maken dat gegeven regels van de agent een specifieke actie of output wordt gegenereerd.
Wat mij vooral bezighield die ochtend was de vraag wanneer een robot (of een agent) intelligent is. Kan dat eigenlijk wel? Of is een robot of een software-agent uitsluitend kunstmatig intelligent? Volgens Wikipedia is iets intelligent als iets kennis kan afleiden en deze kan toepassen door in latere situaties ander gedrag te laten zien. Intelligente robots zouden dus zelf in staat moeten zijn om de voor hun bedachte taken naar verloop van tijd anders, en idealiter zelfs maximaal efficiënt uit te voeren. Ik kreeg het toen plots benauwd: de combinatie van kunstmatige intelligentie en robotica (al dan niet in de fysieke werkelijkheid) opent de deur naar een soort van kunstmatig leven. Het brein krijgt een lichaam. Eigenlijk ontbreekt alleen de stap nog naar autonome instandhouding en replicatie en machines kunnen de dienst gaan uitmaken. Iets dat in de digitale wereld niet zo ingewikkeld te organiseren is. Maar moeten we dat willen?
Als je er van uitgaat dat deze systemen en machines op een gegeven moment intelligenter worden dan mensen en het moment van singulariteit werkelijkheid wordt, is het de vraag hoe we dan toezicht houden op die machines en hoe we met ze samenwerken. Of vinden we dat dat toezicht niet nodig is omdat de machines zichzelf reguleren? Kunnen we ze die taak wel toevertrouwen? Ik stelde hierover een vraag aan de zaal die net een discussie met een Europarlementariër over dataprotectie had overleefd. Toen de moderator mij niets meer dan “Ja, dat is de toekomst” als antwoord gaf, concludeerde ik dat wij als mensheid haast moeten maken om in control te blijven en de borg society buiten de deur te houden.
Rutger Rienks is strategisch adviseur data analytics bij de gemeente Amsterdam. Hij schrijft zijn blogs op persoonlijke titel.
De moderator loopt achter, als die stelt dat dit ‘de toekomst’ is. Het gebeurt namelijk nú al. Als er zelflerende algoritmes zijn die beslissingen nemen, zoals in een zelfrijdende Tesla-auto, dan zal de overheid toezicht moeten houden op deze algoritmes. Electronic Data Processing Audits, om toezicht te houden op die algoritmes, zullen een kerntaak worden van menig overheid.
Breder is je zorg natuurlijk eerder al aangekaart door Elon Musk en Stephen Hawking in hun brandbrief over Kunstmatige Intelligentie. Nu nog een discussie voor I-enthousiastelingen maar de media pikken het onderwerp wel steeds vaker op.