Joanna Stern is techjournalist, dus de snelle ontwikkelingen op het gebied van informatica en technologie zijn haar niet vreemd. In Ik ben geen robot - Hoe ik een jaar lang (bijna) alles overliet aan AI deelt ze haar bevindingen. Dat doet ze met humor, de nodige zelfkritiek en een kritische blik op de verschillende technologieën.
AI in de gezondheidszorg
Elk kwartaal in het jaar dat Stern zich aan AI overgaf stond een bijzonder thema centraal. Omdat ze zelf al verschillende medische onderzoeken had ondergaan, leende de opkomst van AI in de gezondheidszorg zich direct voor het eerste kwartaal. AI-analyses en adviezen op basis van een mammografie en foto's van haar gebit leidden tot interessante vergelijkingen, waarbij de menselijke specialist soms tot andere conclusies kwam dan de AI-assistent. Soms was de AI-assistent voorzichtiger en stelde die een ander behandeltraject voor. Bijvoorbeeld door af te wachten hoe een gebit zich ontwikkelt in plaats van direct te boren.
Generatieve AI en digitale assistenten
In het tweede kwartaal ging Stern aan de slag met generatieve AI en andere AI-toepassingen. Ze testte een Google-bril om op basis van de inhoud van haar koelkast recepten te laten samenstellen. Ze luisterde naar AI-gegenereerde muziek en keek naar kunst die met AI was gemaakt. In alle drie de gevallen leidde dat tot eenheidsworst: steeds dezelfde soort gerechten, muziek en kunst.
Wel was ze zeer te spreken over de mogelijkheden van AI-tools als persoonlijke assistent. Ze liet gesprekken samenvatten en gebruikte een op maat gemaakte BookBot (een AI-agent) die kritisch naar haar werk keek. Ook gebruikte ze de Bee-wearable, een onmisbaar maatje dat haar dag kon samenvatten, haar agenda beheerde en nog veel meer. Ze vond het zelfs eng hoe goed Bee haar leerde 'kennen'.
Robots in en om het huis
De zomerperiode stond in het teken van robots. Tijdens de vakantie maakte het gezin gebruik van zelfrijdende auto's (Waymo van Alphabet). In huis verschenen verschillende robotassistenten. Er kwamen een robotstofzuiger en een robotgrasmaaier (handig), een robothond (de Hengbot Sirius) die door de kinderen werd omarmd, en een Laundry Bot om onder andere de was te vouwen.
Op deze gebieden valt er voor de robots nog veel te leren. Vastlopers, vreemd gedrag en mislukte vouwpogingen: Stern beschrijft het allemaal met humor en voorziet haar ervaringen van wetenschappelijke duiding. De fraaie marketingvideo's van bijvoorbeeld NEO laten mogelijkheden zien die de robots in werkelijkheid nog niet volledig autonoom kunnen uitvoeren. Ze legt helder uit hoe humanoïde robots worden getraind en prikt regelmatig door de marketinghype heen.
AI in het onderwijs en de psychologie
In het laatste kwartaal besteedt Stern bijzondere aandacht aan twee gebieden: de inzet van AI in het onderwijs en in de psychologie.
Generatieve AI-tools als ChatGPT en Claude worden steeds vaker gebruikt om medische vragen te stellen en advies te vragen over mentale problemen. Op basis van haar eigen ervaringen raadt Stern dat sterk af. Dat geldt ook voor speciale zelfhulpchatbots die boven op bestaande taalmodellen zijn ontwikkeld. Die laatste hebben wel als voordeel dat ze bepaalde begrenzingen kennen in de antwoorden en adviezen die ze geven. De avonturen die Stern beleefde met een AI-seksbot laat ik graag aan de fantasie van de lezer over.
Voor het onderwijs ziet ze het gevaar dat leren, ontdekken, onderzoeken, fouten maken en feedback krijgen naar de achtergrond verdwijnen als we niet kritisch blijven nadenken over waar het in het onderwijs werkelijk om gaat.
'Als AI het denkhulpje wordt waar leerlingen te snel en te vaak op vertrouwen, kunnen we een generatie krijgen die altijd bij AI te rade kan gaan voor kennis, maar veel minder kans heeft gekregen om oordeelsvermogen op te bouwen. Ze zullen de output hebben, maar niet de instincten.'
De noodzaak van vangrails
Gedurende het jaar deed Stern niet alleen veel positieve, maar ook minder geslaagde ervaringen op. Daarnaast sprak ze met vrijwel iedereen die ertoe doet in het vakgebied. Over de toekomst doet ze weinig stellige uitspraken. Maar de geest is uit de fles.
Waar ze wel duidelijk over is: er moeten vangrails komen. Er gaat nog veel te vaak iets mis. De industrie spreekt eufemistisch over 'hallucineren'. Maar in de context van een zelfrijdende Waymo kan een fout leiden tot een auto-ongeluk. En wat als een chatbot verkeerde adviezen geeft aan iemand die suïcidaal is? Ook in wetenschappelijk onderzoek duiken nog regelmatig verwijzingen op naar bronnen die helemaal niet bestaan.
Aan de verschillende technologieën zijn tal van fysieke en mentale risico's verbonden. We moeten leren van wat sociale media en mobiele telefoons ons hebben gebracht en van de schaduwkanten waarmee we inmiddels worden geconfronteerd. Het zijn dezelfde vangrails waar ook de Amerikaanse AI-industrie nu bij de overheid om vraagt.
Een blik op de toekomst
Ik ben geen robot is een onderhoudend en bij vlagen hilarisch boek dat een tipje van de sluier oplicht over onze toekomst met AI en robots.
Er is wel één kritische kanttekening te plaatsen die Stern zelf niet maakt. In de inleiding verplaatst ze zich in iemand die in 1994 besluit haar leven volledig door het internet te laten leiden. Heel veel leek toen futuristisch: betalen met een mobiele telefoon, muziek in je broekzak en nog veel meer. Ruim dertig jaar later is dat allemaal werkelijkheid geworden, en is er nog veel meer mogelijk.
Maar het internet heeft ons niet alleen fantastische apparatuur en toepassingen gebracht. Het heeft ook ons leven, onze democratie en onze samenleving ingrijpend veranderd. Wat AI en robotica de komende decennia met ons zullen doen, daar durven nog maar weinig mensen voorspellingen over te doen.