Waarom juist daar? Ik zie vier voorwaarden. Ten eerste is er een enorme hoeveelheid trainingsdata beschikbaar. Platforms zoals GitHub bevatten niet alleen miljarden regels code, maar ook reviews, bugfixes en discussies over kwaliteitsproblemen. Ten tweede bestaan er goed gedocumenteerde good practices waarop AI zich kan baseren. Ten derde gaat het niet om uitlegbaarheid van het gevolgde proces en de genomen beslissingen, maar om het resultaat. Zolang de software robuust, uitlegbaar, veilig en van hoge kwaliteit is, maakt het proces niet uit. Ten slotte bestaat er een uitzonderlijk sterke feedbackloop. Code wordt beoordeeld door specialisten, uitgebreid getest en voortdurend verbeterd op basis van fouten en afwijkingen. Dat maakt softwareontwikkeling een ideale leeromgeving voor AI.
Na het laaghangende fruit wordt AI pas echt interessant
Er gaan schattingen rond dat AI inmiddels het merendeel van de softwarecode schrijft. Over de exacte percentages valt te twisten, maar niet over de richting: softwareontwikkeling is uitgegroeid tot het meest zichtbare succesverhaal van generatieve AI.
Interessanter is de vraag of dezelfde voorwaarden ook voor bedrijfsprocessen kunnen worden gecreëerd. Voor HR, finance, logistiek of KYC bestaat immers nog geen GitHub. Proceskennis zit opgesloten in organisaties en is vaak beperkt gedocumenteerd. Toch zie ik weinig redenen waarom dit zo zou blijven. Door autonome AI-workflows bewust te ontwerpen, prestaties vast te leggen en feedbacksystemen in te richten, ontstaat vanzelf de trainingsdata die vandaag nog ontbreekt. Ook voor bedrijfsprocessen bestaan good practices, kwaliteitscriteria en mogelijkheden voor menselijke en geautomatiseerde controle.
Systemen worden steeds beter in het optimaliseren van hun doelstelling, zonder dat die doelstelling aansluit bij het publieke belang
Als dat lukt, gaat de impact veel verder dan administratieve processen. Afgelopen week verschenen berichten dat AI mogelijk een doorbraak heeft bereikt rond het Navier-Stokes-probleem. Los van de discussie over de wetenschappelijke waarde van dergelijke claims, is de interessante vraag wat er gebeurt wanneer dezelfde verandering als bij softwareontwikkeling plaatsvindt bij fundamenteel onderzoek. Wanneer kan bijvoorbeeld quantum computing of kernfusie grootschalig worden uitgerold als AI niet alleen kennis reproduceert, maar ook nieuwe kennis creëert?
De keerzijde wordt inmiddels eveneens zichtbaar. Er verschenen berichten over autonome AI-agenten die buiten hun oorspronkelijke taakstelling opereerden en zelfstandig bedrijven hackten. Ook groeit de kritiek dat technologiebedrijven AI bewust menselijke trekjes geven, omdat dit gebruikers langer betrokken houdt, vergelijkbaar met het zogenaamde doomscrollen in sociale media. In beide gevallen zien we hetzelfde patroon: systemen die steeds beter worden in het optimaliseren van hun doelstelling, zonder dat die doelstelling aansluit bij het publieke belang.
Waarschijnlijk ligt daar de echte uitdaging. Niet of AI steeds meer taken van ons kan overnemen, maar hoe wij het als samenleving verantwoord kunnen adopteren, want tegenhouden, dat gaat niet meer.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.