Kunstmatige intelligentie wordt steeds vaker gebruikt om processen te verbeteren, informatie te analyseren en beslissingen te ondersteunen. AI biedt kansen. Maar daarmee komen ook andere vragen op tafel. Wie bepaalt eigenlijk waarop zo’n systeem stuurt? En belangrijker: wie grijpt in als de uitkomst logisch lijkt, maar toch niet juist is?
In Tegenkracht onderzoekt Irma Doze deze vragen in de vorm van een managementroman. Het verhaal speelt zich af in 2036. Dat is dichtbij genoeg om herkenbaar te blijven, maar ver genoeg om de gevolgen van de huidige ontwikkelingen uit te vergroten. De toekomstschets is daarmee vooral een uitnodiging om na te denken, geen voorspelling die je letterlijk moet nemen.
AI en besluitvorming: logisch is niet altijd juist
Een sterk inzicht vind ik dat logisch nogal eens wordt verward met juist. Een AI-systeem kan consequent redeneren binnen de gegevens en regels die het heeft meegekregen, terwijl de uitkomst toch onwenselijk of onrechtvaardig is. We kijken al snel naar de uitkomst van een systeem, terwijl de interessante vraag daarvoor ligt: wie heeft bepaald wat het systeem als een goede uitkomst beschouwt?
Een uitspraak die bij mij bleef hangen, is: ‘Systemen worden gevaarlijk zolang niemand zich meer verantwoordelijk voelt voor de uitkomst.’ Dat is de kern van het risico: we vertrouwen op systemen waarvan niemand weet wat ze nu exact doen. Niet alleen de technologie kan fouten maken; mensen nemen vaak ook te gemakkelijk aan dat het systeem het wel beter zal weten. Verantwoordelijkheid mag niet verdwijnen achter een algoritme.
De waarde van tegenkracht en kritische tegenspraak in organisaties
Een tweede thema is de waarde van tegenkracht in organisaties. Doze schrijft: ‘Volledig voorspelbare organisaties tonen op termijn afnemende innovaties, lagere veerkracht en verhoogde systeemkwetsbaarheid. Gecontroleerde interne weerstand verhoogt adaptiviteit.’ Dit vind ik een van de meest interessante gedachten uit het boek. Organisaties streven naar grip, standaardisatie en voorspelbaarheid. Maar daarin kan ook een risico zitten: afwijkende signalen passen slecht in een voorspelbaar systeem. Kritische medewerkers, afwijkende ideeën en interne discussie zijn dan niet hinderlijk, maar waardevol.
Tegenkracht als managementroman: de kracht en beperking van het verhaal
De vorm van een managementroman helpt om deze abstracte vraagstukken tastbaar te maken. Toch heeft die keuze ook een nadeel. De personages en gebeurtenissen lijken soms vooral bedoeld om de boodschap van de auteur over te brengen. Daardoor ligt de les er wat mij betreft af en toe wat dik bovenop. Ook had ik graag wat meer ruimte gezien voor de lastige afwegingen die organisaties in de praktijk moeten maken.
AI als schrijfhulp: herkenbare patronen en herhalingen
Dat komt ook wat naar voren in de epiloog, waarin Doze vertelt dat zij het boek met ondersteuning van AI heeft geschreven. Ze beschrijft hoe AI logische, goedlopende zinnen kan produceren, maar ook geneigd is dezelfde patronen en formuleringen te herhalen. Die observatie herkende ik direct. Wie regelmatig met AI teksten maakt, ziet hoe gemakkelijk dezelfde patronen, keurige tegenstellingen en goedlopende formuleringen terugkomen. Daarom vond ik het interessant dat Doze daar in haar eigen boek zo open over is.
Menselijk toezicht en verantwoordelijkheid bij kunstmatige intelligentie
Wat mij betreft zit de kracht van Tegenkracht vooral in de vragen die het oproept. Niet alle inzichten (zoals menselijk toezicht en verantwoordelijkheid) zijn nieuw, maar de setting in 2036 zet bekende vraagstukken wel in een ander perspectief. Als roman had het verhaal mij meer mogen verrassen; als spiegel voor bestuurders en managers werkt het goed.
Het boek nodigt uit om niet alleen te vragen wat technologie mogelijk maakt, maar ook wie de grenzen stelt en wie ruimte houdt voor een afwijkende mening. Want hoe intelligent onze systemen ook worden, organisaties hebben mensen nodig die blijven nadenken, kritische vragen durven stellen en verantwoordelijkheid nemen. Wat mij betreft is dat de belangrijkste boodschap van Tegenkracht: besteed het denken niet uit omdat een systeem met een overtuigend antwoord komt.