ChatGPT adviseert vrouwen om lagere lonen te vragen dan mannen op basis van dezelfde opleiding en ervaring’, zo lees ik. Na het lezen van Onze kunstmatige toekomst van Joris Krijger ben ik niet verbaasd, nog steeds wel verontwaardigd. Maar ik weet inmiddels dat AI ons niet vertelt hoe iets zou moeten zijn in een eerlijke wereld.
Eyopener
Er zijn de afgelopen jaren genoeg boeken over AI verschenen en ik was op zoek naar een meer beschouwend boek. De ondertitel ‘Wat willen wij met AI (en AI met ons)’ van Onze kunstmatige toekomst sprak me aan. Aandacht voor AI is nu vooral technisch of juridisch. Er is nog weinig kennis over hoe AI ons leven gaat veranderen en dat is ook iets waar ik meer over zou willen weten. Onze kunstmatige toekomst laat vele kanten van het AI-verhaal zien (zowel positief als negatief) en was op vele punten een eyeopener voor me.
Onze kunstmatige toekomst bestaat uit drie delen. In deel 1 lezen we over de mogelijkheden en risico’s die AI brengt; deel 2 gaat in op brede maatschappelijke uitdagingen en deel 3 tenslotte op wat we kunnen doen.
systeemtechnologie
AI wordt nu al veel gebruikt, zichtbaar dan wel onzichtbaar. En dat wordt alleen maar meer, aldus Krijger. Het is daarom juist nu belangrijk om na te denken over de impact van deze systemen op de maatschappij. AI is vervlochten met alle facetten van het dagelijks leven. Krijger noemt AI daarom een systeemtechnologie; wat ook inhoudt dat wegvallen ontwrichtend zal zijn. Alleen, de richting van de verandering die AI teweegbrengt, is nog nauwelijks bepaald.
AI zijn subjectief
Het is ook belangrijk te realiseren dat AI misschien wel leert, maar uiteindelijk niets begrijpt – niet op de manier zoals wij dat doen. Het ziet vooral patronen en leert voorspellen wat de meest waarschijnlijke uitkomst zal zijn, gebaseerd op bestaande, historische data. Daarom is het bovengenoemde ChatGPT (helaas) niet verrassend. ‘AI kan ons iets vertellen over hoe de wereld was, misschien iets over hoe de wereld is, maar niet hoe de wereld moet zijn.’ Algoritmes en AI zijn subjectief door de data die wordt gebruikt – garbage in, garbage out. De bias die ontstaat komt doordat data niet representatief is, maar ook doordat de maatschappij oneerlijk is verdeeld. En dat zie je weer terug in de data.
AI kan geen morele keuzes maken. Wij maken (onbewust) keuzes op basis van waarden en idealen die voor ons helder zijn, maar die AI expliciet moeten worden meegegeven. Daarom kunnen we AI goed gebruiken voor voorspellen, maar niet voor beoordelen of beslissen. Dat laatste kunnen we beter zelf doen.
Spelregels veranderen
Ik vind het interessant na te denken over hoe AI ons werk gaat veranderen. Is het een handige tool die ons werk uit handen neemt, of gaat het werk verder veranderen? Joris Krijger denkt van wel. Door het intelligente vermogen van AI ontstijgt AI de rol van hulpmiddel. Kijk maar naar het onderwijs, dat nu al gedwongen is hierover na te denken. De spelregels veranderen, maar daar zijn we nog niet op voorbereid.
Dat leidt ons tot deel 3 met de vraag wat we kunnen doen. Is de ontwikkeling die nu gaande is, de richting die we op willen? Wat moet er geregeld worden, bijvoorbeeld in wetgeving, of werkt dat beperkend op innovatie? Misschien zien we de AI-ontwikkeling als iets dat toch wel gebeurt, of we nu willen of niet. Joris Krijger schetst het beeld van een grote puzzel die we de komende jaren moeten leggen, met de vele stukjes die hij in dit boek schetst.
ethische infrastructuur
Daarbij pleit Krijger voor een belangrijkere rol van ethiek in het ontwerpproces, niet als een controle aan het eind. Hij beschrijft een ethische infrastructuur met zes dimensies voor ethische volwassenheid: bewustzijn, kaders, governance, integratie in het ontwikkel- of inkoopproces, training voor iedereen in de organisatie en instrumenten, zoals impacttoetsen.
Organisaties moeten met alle zes dimensies tegelijk aan de slag. Als laatste vraagt Krijger aandacht voor het rechtssysteem, dat moet worden gerenoveerd om als fundament van de samenleving te kunnen blijven functioneren. Kortom, Krijger is optimistisch over de mogelijkheden die AI biedt, maar we moeten wel nu aan de slag om de veranderingen in goede banen te leiden.
Onze kunstmatige toekomst heeft mij op veel punten de ogen geopend, niet alleen op mogelijkheden en risico’s, maar ook waar werk aan de winkel is. Daarom is dit boek een aanrader voor iedereen die een breder perspectief wil op AI.
Over Carla Verwijs
Carla Verwijs is managementconsultant met een specialisatie in kennismanagement.