Op werkdagen voor 23:00 besteld, morgen in huis Gratis verzending vanaf €20

Interview

Jim Stolze

‘Laat ethische kanten van algoritmisering niet over aan techneuten’

Algoritmisering? Niets anders dan patronen herkennen in een zee van data. En die patronen vertalen naar relevante oplossingen. Dat is de opvatting van ondernemer en adviseur Jim Stolze. Zijn nieuwe boek Algoritmisering, wen er maar aan!, wordt ‘een ode aan het algoritme’.

Paul Groothengel | 17 augustus 2018 | 7-10 minuten leestijd

‘Huh, wat is dit? Een toetsenbord op een kruimeldief?’ Dat was de reactie van de 14-jarige zoon van Jim Stolze, toen die hem zijn Commodore 64 liet zien. Die had hij ooit gekregen van zijn vader, op zijn tiende verjaardag. Die zei destijds: ‘Jim, je moet deze computer zien als een broertje dat nog niks kan. Maar je kunt hem wel alles leren, dat heet programmeren.’ Stolze ploegde zich door het bijgeleverde instructieboekje en ging aan de slag. Nu, 33 jaar later, leidt hij het bedrijf Aigency, dat onder ander algoritmes en systemen bouwt. ‘Maar er is één groot verschil met vroeger: niet ik leer de computer wat hij moet doen, nu leert de computer van voorbeelden waar hij zelf de patronen in ontdekt. Dankzij algoritmes.’

Nederlandse overheid afwezig

We ontmoeten Stolze op het Amsterdamse Science Park waar hij kantoor houdt. Hier is dit voorjaar het Innovation Center for Artificial Intelligence gelanceerd, een samenwerkingsverband van kennisinstellingen gericht op innovatie van Artificial Intelligence (AI). Gehuisvest op de broedplaats van het Science Park, geleid door zowel de UvA als de VU, samen met bedrijven (met als co-founder Ahold Delhaize) en de overheid. Op zich een goede poging om in internationaal opzicht mee te doen, vindt Stolze, maar één zwaluw maakt nog geen zomer: ‘Nederland laat het wat investeringen in algoritmisering betreft flink afweten. De Canadese premier Justin Trudeau constateerde dat Canadese AI-talenten massaal naar Silicon Valley en China trokken. Die braindrain wilde hij stopzetten, en dus investeert Canada 127 miljoen dollar in een nieuw kennisinstituut dat zich gaat richten op deep learning, neurale netwerken en andere vormen van AI.’ Zuid-Korea stak twee jaar geleden liefst 860 miljoen dollar in nieuw onderzoek, vlak nadat Lee Sedol, de Zuid-Koreaanse grootmeester in het go-spel kansloos verloor van Googles algoritme Alphago. ‘In Nederland wees de Nederlandse Organisatie voor Wetenschappelijk Onderzoek een voorstel voor 25 miljoen euro in het kader van “responsible data science” af. Heel jammer, een totaal gebrek aan visie. Hopelijk gaat ICAI nu werken als een magneet voor meer talent en funding.’

Spervuur banners ná aankoop

Op dit moment schrijft Stolze aan zijn boek Algoritmisering, wen er maar aan!, dat in november zal verschijnen. Het wordt ‘een ode aan het algoritme’. Stolze: ‘Niet in de zin dat je een algoritme menselijke eigenschappen kan toedichten, zoals sommigen al te makkelijk doen. Het blijft gereedschap, uiteindelijk is er altijd iemand verantwoordelijk voor de totstandkoming en de uitkomsten. Een algoritme is niets anders dan wat een mens er in heeft gestopt. In mijn ogen is algoritmisering, bepaald geen sexy woord overigens, niets anders dan het zien van patronen in een zee van data. En die patronen vervolgens weten te vertalen naar relevante oplossingen. Lukt dat, dan heb je de heilige graal in handen.’ In zijn boek laat Stolze per sector (van de zorg tot de bouw) zien welke algoritmen in die sector relevant zijn, welke impact ze hebben en welke kansen of bedreigingen ze met zich meebrengen. Hoe ver zijn Nederlandse bedrijven met het benutten van algoritmes? Stolze zucht diep. ‘Ik schaam me soms kapot hoe slecht algoritmes worden ingezet. Veel online marketeers targeten nog steeds op een uitermate domme manier. Waardoor adverteerders ons, na een online aankoop, nog weken achtervolgen met irritante banners van de producten of diensten die we zojuist hebben gekocht! Terwijl het echt niet moeilijk is om een link te leggen tussen de online kassa-aanslag en het script dat bepaalt bij wie en wanneer de adverteerder zijn uitingen laat zien.’

Bedrijven denken vaak dat ze al heel goed bezig zijn met Artificial Intelligence, maar volgens Stolze is dat maar half waar: ’AI is nog ver weg, hoor. Het gaat in de huidige praktijk vaak om het digitaliseren van bestaande processen. Daardoor komen bedrijven inmiddels om in de data, maar ze weten vervolgens niet hoe ze die het beste kunnen analyseren. En daar hun voordeel mee kunnen doen.’ Volgens Stolze een duidelijk geval van ‘data rich, information poor’. Het nut van algoritmes? ‘Juist met slimme algoritmes kan zo’n databerg nieuwe inzichten opleveren. Digitalisering is hooguit een startpunt.’

Ethiek

Na allerlei andere activiteiten (zie kader) startte Stolze in 2016 het bureau Aigency, een ‘platform voor developers en studenten om hun algoritmes te testen en te demonstreren bij corporates en NGO’s’. Een groot deel van zijn werktijd besteedt Stolze aan het uitdragen en uitleggen van de voor- en nadelen van algoritmisering; van de talloze kansen en mogelijkheden, tot belangrijke aspecten als privacy en ethiek. Dat laatste is een onderwerp dat hij in zijn boek zeker gaat behandelen, door in te gaan op vragen als: in hoeverre zorgt algoritmisering voor maatschappelijke onrust? En wat betekent dit voor ethiek, privacy, moraliteit en uiteindelijk: leiderschap? Stolze: ‘Ik mis in het debat de inbreng vanuit ethische hoek. Waar ligt dat aan? Dat vroeg ik me laatst hardop af in een van mijn zaterdagse FD-columns. Nou, dat heb ik geweten. Ik kreeg allemaal white papers en goedbedoelde mailtjes, maar toch, ik hoor de ethici en filosofen te weinig buiten hun eigen kringen. Terwijl er juist nu meer behoefte aan hen is dan ooit! De technische ontwikkelingen gaan zóveel sneller dan ons menselijk aanpassingsvermogen aankan. Dat roept automatisch maatschappelijke vragen op die je echt niet moet overlaten aan een techneut. Het gaat veel verder dan de klassieke afweging hoe je een zelfrijdende auto laat kiezen tussen het aanrijden van een oud omaatje of een klein kind.’

Op naar de DNA-polis?

Gevraagd naar een voorbeeld hoe algoritmisering dan tot zo’n ethisch vraagstuk kan leiden, noemt Stolze de ‘DNA-polis’: ‘Je kunt al jaren je DNA laten digitaliseren, dat wordt in rap tempo goedkoper. Ik heb dat zelf in 2011 gedaan, bij het Amerikaanse 23andMe. Dit bedrijf heeft een database opgebouwd met drie miljoen digitale DNA-profielen. Algoritmes haalden uit mijn DNA onder meer een erfelijke aanleg voor het ontwikkelen van jicht. Nog geen week nadat ik die uitslag kreeg, hoorde mijn vader van zijn arts dat hij symptomen had die duidelijk wezen op jicht... Afijn, dergelijke informatie zet het model van zorgverzekeraars natuurlijk volledig op zijn kop. Als zij jouw ziektekansen kunnen inschatten, kunnen ze gaan variëren in de ziektekostenpremie. Inderdaad, dan ondergraaf je meteen het solidariteitsbeginsel in ons verzekeringsstelsel. En daar komt dan de ethiek om de hoek kijken.’ Bedrijven timmeren in zijn ogen wel meer aan de weg, wat ethisch ondernemen betreft. Stolze noemt het voorbeeld van ING dat in 2014 de hoon van privacy-minnend Nederland over zich heen kreeg nadat een directeur trots meldde dat ING overwoog de betalingsdata van hun klanten te gaan verkopen aan bedrijven. ‘Dat was natuurlijk heel ongelukkig. Maar ING heeft wel van dat incident geleerd. Ze hebben een Ethical Board opgericht die het mandaat heeft om activiteiten die de privacy van klanten mogelijk aantasten, tegen te houden. Een schoolvoorbeeld van hoe het wel moet, vind ik De Correspondent. Zij hebben vanaf het begin gezegd een dataluw-beleid te willen voeren. Ze vragen klanten geen postcodes, want die hebben ze toch niet nodig. Ze vragen sowieso zo min mogelijk data van hun klanten. Dit journalistieke platform is heel succesvol, zonder dat ze data-graaiers zijn.’

Rubik’s Kubus

Van de ethiek terug naar de praktijk. Hoe kun je algoritmisering het beste organiseren? Wat moet je zelf weten, welke kennis huur je in? ‘Als je er nog weinig van weet, moet je wel expertise van buitenaf inhuren. Ondertussen moet je intern de AI-kennis opbouwen. Een organisatie zal in ieder team ten minste een data scientist moeten hebben, of iemand die snapt hoe machine learning werkt. Het is al jaren super lastig deze mensen te krijgen, het onderwijsaanbod schiet duidelijk nog te kort op dit punt. Al hebben we gelukkig nu wel twee datascholen: de Jheronimus Bosch Academy for Data Science (JADS) en de Amsterdam School of Datascience.’

Stolze besluit het interview met een filmpje dat hij afspeelt op zijn laptop. Daarin zie je hoe zijn zoon vrij vlot de beroemde Rubik’s Kubus oplost. ‘Na wekenlang oefenen was Max de snelste van zijn klas. Apetrots natuurlijk. Hij legde mij uit dat hij voor het oplossen maar zeven verschillende algoritmen uit zijn hoofd had moeten leren. Hij gebruikte echt dat woord!’ Dat zette Stolze toen aan het denken. Want alles wat op een simpele manier stap-voor-stap uitgeschreven kan worden - de basisdefinitie van een algoritme - zal een machine altijd beter kunnen omdat hij oneindig meer rekenkracht heeft. Stolze laat een tweede filmpje zien waarin een algoritme de kubus binnen drie seconden oplost. ‘Toen mijn zoon dit zag, was hij in eerste instantie teleurgesteld, want hij deed er toch ruim een minuut over. De les voor hem? Machines kunnen inderdaad opdrachten uitvoeren. Maar het bedenken van de opdrachten is nog steeds mensenwerk. Met andere woorden: het saaie werk is voor de computer, zodat wij ons bezig kunnen houden met het creatieve, betekenisvolle werk.’

Populaire producten

    Personen

      Trefwoorden