Verbeter de technologie, begin bij de mens
Als we bij de inzet van technologie in de maatschappij iets nodig hebben, dan is het verbeelding. Dat stelde Ruha Benjamin, hoogleraar sociologie bij Princeton University, deze maand bij debatplatform De Dépendance in Rotterdam.
Van technologisch racisme tot artificial intelligentsia: Ruha Benjamin, hoogleraar sociologie bij Princeton University, ziet veel gevaren van technologie. Dat vertelde zij deze maand in debatcentrum Arminius in Rotterdam. Zij was daar te gast bij De Dépendance om te vertellen over haar nieuwe boek ‘Imagination: A Manifesto’. Want verbeelding, stelt Benjamin, biedt een methode om technologie de plek te geven die zij verdient: om de maatschappij beter te maken.
Haar verhaal, samen met dat van Sennay Ghebreab (hoogleraar Socially Intelligent AI bij de Universiteit van Amsterdam), laat zich vertalen naar tien adviezen voor de inzet van technologie.
1. Repareer niet de technologie, maar de mens
Technologie is een spiegel van de mensen die haar gemaakt hebben. Problemen (zoals racisme of uitsluiting) ontstaan niet door fouten in de technologie, maar door de opvattingen en doelen van de mensen erachter. Technologie die de maatschappij ten goede komt, vereist dat de mensen erachter deze visie delen.
2. Van oneindig naar caleidoscopisch
Het gesprek over de inzet van technologie, wordt vooral gevoerd door de overheid en Big Tech. Dat zijn twee spiegels die elkaar oneindig reflecteren, waardoor een kokervisie ontstaat. Het is cruciaal om een derde spiegel toe te voegen: die van de maatschappij. Hierdoor ontstaat een caleidoscopisch beeld dat aangepast kan worden om het juiste te vinden.
3. Ga voor nieuw, niet voor nieuw-achtig
Het is soms lastig om te bepalen of de gevolgen van een nieuwe technologie goed of slecht zijn. Benjamin geeft daarom twee richtlijnen:
- kijk of de technologie problemen in het hier en nu oplost. Alarmbellen moeten gaan rinkelen als zij verwijst naar een verre toekomst waarin alles goed komt, en waarbij de huidige problemen ‘er gewoon even bij horen’.
- achterhaal of de technologie daadwerkelijk nieuwe oplossing voor problemen geeft. Wees kritisch op oplossingen die ‘nieuw-achtig’ zijn. Deze doen alsof ze de oude problemen oplossen, maar vertrekken vanuit de structuur die deze problemen veroorzaakte. Denk aan algoritmen die werken met postcodes, terwijl juist die postcodes al een historische segregatie van mensen in zich dragen. Echt nieuwe oplossingen pakken problemen fundamenteel anders aan.
4. Niet wat er kan, maar wat er moet
Het ontbreekt bij overheid en maatschappij vaak aan een eigen visie waar zij naartoe willen. Technologie springt in die ruimte, en bepaalt door wat zij kan welke keuzes er gemaakt worden. Pas als overheid en maatschappij duidelijk hebben wat er moet, kan technologie bewust ingezet worden.
5. Wees kritisch op de artificial intelligentsia
Benjamin noemt de mensen achter de big tech de artificial intelligentsia, zoals Jeff Bezos en Elon Musk. Zij vallen namelijk in de historische dominante groep van witte, hoogopgeleide mannen. Omdat zij altijd al de macht hadden, worden veel van hun fouten hen vergeven – terwijl juist zij de meeste impact maken als zij zo’n fout maken. Benjamin roept daarom op juist extra kritisch op hen te zijn.
6. Blijf spelen, blijf dromen
Volgens Benjamin is het cruciaal voor de creativiteit van mensen om in een omgeving te zijn waarin zij vrij kunnen denken en dromen. Wie zich conformeert aan wat er van hen verwacht wordt, waarschuwt zij, verliest alle ruimte voor verbeelding. Terwijl die verbeelding juist dé eigenschap is waarmee mensen het verschil kunnen maken, ook ten opzichte van technologie.
7. Zet in op het goede
Loop niet leeg op je strijd tegen het verkeerde, adviseert Benjamin. Cultiveer juist dat wat goed is en meer liefde verdient, zet in op wat je wél wilt. Sluit je daarom aan bij lokale gemeenschappen die het juiste doen.
8. Draai de lens van technologie om
Benjamin adviseert bezoekers om de wapens van the powers that be juist tegen hen te gebruiken. Zo is er een app die op een kaart laat zien (op basis van voorspellende statistiek) waar in een stad de meeste witteboordencriminaliteit plaatsvindt. Ook zijn er talloze apps die juist de misstanden bij verhuurders en vastgoedbezitters tonen. Draai dus de lens van technologie (die vaak racistisch en uitsluitend is) om, en zoom zo in op dominante krachten zoals bedrijven en overheden.
9. Ga coalities aan
Critici van technologie trekken te vaak geïsoleerd ten strijd. Volgens Benjamin is het cruciaal om coalities te vormen. Enerzijds omdat door samenwerking meer verbeelding ontstaat, anderzijds omdat zo voldoende massa onstaat dat de andere kant wel móet reageren.
10. Een beter milieu begint bij het systeem
Tijdens het afsluitende gesprek met het publiek vraagt een bezoeker in hoeverre zij rekening moet houden met de negatieve effecten van AI-opdrachten, zoals voor het klimaat. Benjamin is daar stellig over: bestraf jezelf niet voor fouten die buiten je invloed liggen. Natuurlijk, zegt zij, mag je je eigen gedrag tegen het licht houden. Maar het echte probleem zit in systemen die zo zijn gebouwd dat zij negatieve gevolgen hebben. Bedrijven moeten daarom beter ter verantwoording te roepen zijn.
Lees ook:
