Kate Crawford legt de machtsstructuren bloot, en geeft een kijkje in de manier waarop algoritmes worden ontworpen en getraind. Ze benoemt pijnlijke ongelijkwaardigheden die we normaliter niet te zien krijgen in de frictieloze werkelijkheid van digitale systemen.
Grondstoffen
Het begint al met de grondstoffen. Door het delven van de schaarse metalen die nodig zijn voor elektronica worden surrealistische landschappen gecreëerd, water en bodems raken vervuild. Lokale bevolkingen hebben er maar mee te dealen. Een economie van extractie, noemt ze dit. Op vergelijkbare manier worden allerlei soorten data zonder toestemming verzameld, verwerkt en te gelde gemaakt. Crawford legt uit hoe algoritmes worden getraind met trainingsdata. Dat zijn fotobestanden van bijvoorbeeld Google Image of Flickr. Een foto heeft altijd een bepaalde context, maar voor een algoritme dient het plaatje alleen om een categorie te definiëren. Zien we een man of zien we een vrouw? Deze platgeslagen werkelijkheid van gestripte foto’s staat aan de basis van hoe algoritmes voor beeldherkenning werken.
Emotieherkenning
Nu we dit weten zoomt ze in op de werking van emotieherkenningssoftware en de geschiedenis die vooraf is gegaan aan het classificeren en herkennen van emoties. Ondanks alle versimpelingen, beperkingen en cirkelredeneringen staat dezelfde achterhaalde theorie nog altijd aan de basis van emotieherkenning door kunstmatige intelligentie.
Diepgaande en kritische analyse
Er is al veel geschreven over kunstmatige intelligentie, maar nog niet eerder heb ik een boek gelezen als The Atlas of AI. Crawford levert een diepgaande en kritische analyse die het debat over kunstmatige intelligentie sterk verrijkt. Met haar kennis en inzichten over de werking van algoritmes biedt ze handvatten om de beperkingen te herkennen, betere algoritmes te ontwerpen en slimme systemen op een rechtvaardige manier in te zetten. Het boek helpt je om de juiste vragen te stellen in plaats van overdonderd te raken door de superkrachten van kunstmatige intelligentie.
Over Freija van Duijne
Freija van Duijne was van 2013 tot 2018 voorzitter van de Dutch Future Society. Zij heeft meer dan tien jaar werkervaring als toekomstverkenner en strateeg in diverse overheidsorganisaties. Freija werkt vanuit haar bedrijf Future Motions en geeft trainingen en lezingen op gebied van toekomstverkennen.