Zo worden ze gevoed met subjectief gekozen gegevens om een subjectief gekozen succesdoel te halen. Daardoor beschamen ze regelmatig het vertrouwen dat we hebben in de slimme samenleving.
Klous en Wielaard beschrijven in hun boek hoe we kunnen omgaan met de enorme complexiteit en dynamiek van onze slimme samenleving. De crisis in de financiële wereld lijkt voorbij, maar de extra wetgeving die zij daarvoor opgelegd kreeg, heeft de complexiteit alleen maar vergroot. Het Internet of Things vereenvoudigt ons gebruik van alle apparaten met een internetconnectie, maar de technische complexiteit achter de schermen is gigantisch en de ontwikkelingen gaan veel sneller dan wetgevers en verzekeraars. De cloud waar alles is opgeslagen, is door de onderlinge afhankelijkheid vatbaar voor grootschalige instabiliteit. Klassieke organisatievormen gaan op de schop. Adaptief vermogen, snelheid en wendbaarheid zijn de nieuwe eisen aan organisaties, willen ze overleven. De politiek reageert paniekerig op gebeurtenissen en versimpelt ze tot oneliners. De problemen achter deze gebeurtenissen zijn echter complex en die laten zich niet even snel oplossen. Complexiteit is onoplosbaar en hooguit reduceerbaar. Het gevolg is dat burgers de politiek steeds minder gaan vertrouwen.
Volgens de auteurs valt er met complexiteit gelukkig wel te leren leven. Dan moeten we haar niet meer bestrijden, maar juist omarmen. Going MAD noemen ze dat; alles moeten we modulair, agile en decentraal organiseren. Dan krijgen we sneller zicht op nieuwe ontwikkelingen, kunnen we daar sneller op inspelen en kunnen we de verantwoordelijkheid voor het systeem beter verdelen over de partijen die er echt invloed op hebben. Daarnaast is toezicht en controle op de algoritmes nodig. Er gebeurt al veel op dat gebied, maar op twee punten is aanscherping nodig. Het gaat om de controle op en de uitlegbaarheid van algoritmes en dan met name de geavanceerde variant die zelflerend is. Daarnaast dienen zich met de opkomst van algoritmes nieuwe ethische vraagstukken aan, die opgelost moeten worden.
De MAD-principes kunnen helpen om het toezicht op algoritmes te verbeteren. Met de modulaire aanpak is specialistische kennis samen te brengen om beter om te gaan met complexiteit. Toezichthouders kunnen zich met een agile aanpak snel aanpassen aan veranderende omstandigheden in de context. Met een decentrale aanpak is het mogelijk meer vertrouwen te wekken in algoritmes en om de schaalbaarheid te vergroten.
Vertrouwen in de slimme samenleving is een vlot en toegankelijk boek. De MAD-principes van Fred Brooks uit 1986 gebruiken de auteurs om te leren omgaan de vluchtige, onzekere, complexe en ambigue wereld waarin we leven.
Over Nico Jong
Nico Jong is senior adviseur bij het ministerie van Volksgezondheid, Welzijn en Sport.
