Als ook maar iemand ergens superintelligentie bouwt, gaat iedereen dood. Zo, dit leek me een mooie zin om u tijdens uw zomerse beslommeringen bij de les te krijgen. Het is een citaat dat komt uit het dystopische managementboek Als iemand dit bouwt, gaat iedereen dood - Waarom superintelligente AI ons einde kan betekenen van Eliezer Yudkowsky en Nate Soares. Ik voorspel dat ik erop terugkom.
Sinds november 2023 zijn we in de ban van voorspellers. Onder de noemer generatieve AI zijn ze razend populair geworden. Denk aan producten als OpenAI’s ChatGPT en Anthropic’s Claude. Daaromheen is een heel arsenaal aan toepassingen gegroeid, met AI-agents (‘agentic AI’) als laatste loot aan de stam.
ontwrichting
En ze gaan veel ontwrichten, zeggen kenners, AI-specialisten, economen, maar vooral de CEO’s en investeerders in deze industrie. Sommige voorspellingen gaan zelfs over de komst van superintelligentie (AGI): slimmer, sneller en in allerlei opzichten krachtiger dan menselijke intelligentie.
Met de producten van deze bedrijven zouden we (bijna) alle problemen van de mensheid kunnen oplossen. Ons leven en werk zouden er makkelijker door worden. Of ons werk zou zelfs verdwijnen. Vooral dat laatste argument heeft de afgelopen jaren veel mensen zenuwachtig gemaakt.
Voor de meeste mensen is ‘AI’ ondertussen vooral een handig dingetje: je schrijft er sneller mee en maakt er leuke foto’s en filmpjes mee. Onder deze producten zitten echter modellen die voorspellingen doen, met alle beperkingen die voorspellers nu eenmaal hebben.
Al duizenden jaren: voorspellers
Prophecy - Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI van Carissa Véliz richt zich op de waarde en macht van voorspellingen. In haar boek lezen we over de geschiedenis van voorspellers, waarzeggers en profeten. Mensen uit alle rangen en standen raadpleegden hen om de toekomst te kennen: hun eigen toekomst, die van hun volk of bijvoorbeeld de uitkomst van een strijd met een vijand.
De voorspellers beschikten over bijzondere kennis of magie. Ze lazen vogelpoep, ingewanden van dieren, glazen bollen, sterren of andere tekenen uit hun arsenaal. Aan hun toekomstvoorspellingen werd breed geloof gehecht. Een van de meest gelezen en geïnterpreteerde boeken op aarde, de Bijbel, bevat eveneens tal van profetieën: over plagen, het einde van de wereld, de komst van een prediker en verlosser en een leven na de dood in een goddelijk koninkrijk.
Statistiek
Vandaag de dag zouden we in het Westen waarschijnlijk weinig geloof hechten aan iemand die de ingewanden van een geit leest om ons persoonlijke lot te voorspellen. Maar tegenwoordig biedt statistiek een kwantitatief mechanisme om voorspellingen wetenschappelijker te maken. Statistiek zit tegenwoordig onder talloze politieke en economische uitspraken en is ook een belangrijk fundament onder AI-systemen. ChatGPT voorspelt bijvoorbeeld op basis van patronen welk volgend woord of token waarschijnlijk is. Prophecy laat mooi zien hoe de werelden van voorspellers en machthebbers elkaar door de eeuwen heen nodig hebben gehad.
Wat voorspellen al die AI-modellen precies?
AI-modellen worden getraind op datasets en leren daarin statistische patronen herkennen. Op basis daarvan produceren ze waarschijnlijkheden: welk woord volgt waarschijnlijk op een ander woord, welk beeld past bij een bepaalde beschrijving of welk patroon lijkt op eerder geziene voorbeelden?
Die data is per definitie historisch en bovendien beperkt. Hoe machtig de namen van de producten ook klinken, de modellen beschikken slechts over een deel van de kennis die op aarde beschikbaar is.
De risico’s van voorspellen
In de geschiedenis vinden we ontelbare voorbeelden van onvoorspelbare toevalligheden. Neem het voorbeeld van de Australische auteur Richard Flanagan.
In zijn boek Vraag 7 beschrijft Flanagan hoe een kus tussen sciencefictionschrijver H.G. Wells en de 26 jaar jongere journaliste Rebecca West uiteindelijk een opmerkelijke keten van gebeurtenissen in gang zette. Wells schreef ‘The World Set Free’ (1914), waarin hij een wapen bedacht met een vernietigingskracht die deed denken aan de latere atoombom.
De Hongaarse natuurkundige Leó Szilárd las die roman en kwam later op het idee van een nucleaire kettingreactie. Uiteindelijk droeg die ontwikkeling bij aan het Manhattanproject en de ontwikkeling van nucleaire wapens. De atoombom op Hiroshima droeg vervolgens bij aan het einde van de oorlog met Japan en daarmee aan de bevrijding van Flanagans vader uit een Japans kamp.
Als die keten van gebeurtenissen net anders was verlopen, was Richard Flanagan misschien nooit geboren.
Hoe kunnen we ons hiertoe verhouden?
Onze kunstmatige toekomst - Wat wij willen met AI (en AI met ons) van Joris Krijger vertelt de verhalen achter de opkomst van AI en laat zien dat een maatschappij keuzes kan maken over de richting waarin deze technologie zich ontwikkelt. En die maatschappij, dat zijn wij.
Krijger schetst verschillende scenario’s voor hoe we ons kunnen verhouden tot een technologie waarvan de bedrijven erachter openlijk de vergelijking met onze eigen intelligentie maken. Volgens Krijger is dat appels met peren vergelijken.
Wij mensen beschikken over eigenschappen die AI vooralsnog niet op dezelfde manier bezit. Een daarvan is creativiteit. Ook Véliz wijst daarop.
In de vorige eeuw vonden mensen auto’s en vliegtuigen vreemd, jazzmuziek gek en Picasso onbegrijpelijk. En zo zijn er duizenden voorbeelden van menselijke creativiteit die aanvankelijk negatief werd ontvangen, verboden of aangevallen, juist omdat zij buiten de bestaande norm viel. Een tijd later kon precies die vernieuwing de nieuwe norm worden.
Wat kunnen we doen?
Natuurlijk is de AI-geest uit de fles. Laat ik daar geen misverstand over laten bestaan. Maar er zijn wel dingen die we in de gaten kunnen houden om enig evenwicht te bewaren bij de ontwikkelingen die de techbro’s voor ons in petto hebben.
Yudkowsky en Soares zijn onomwonden in hun boek Als iemand dit bouwt, gaat iedereen dood: AI moet wereldwijd worden verboden. Ze schetsen een scenario waarin een superintelligent AI-programma zich als een bedrijf, Galvanic, gaat gedragen en wereldwijd ondernemingen overneemt om zichzelf te dupliceren.
In relatief korte tijd zou het de mens als vijand kunnen gaan beschouwen, omdat wij zullen proberen het programma te stoppen. Tegen die tijd is het volgens de auteurs al te laat. In tientallen pagina’s schetsen ze een beeld waarvan je in eerste instantie denkt: dat gaat nooit gebeuren. Maar het scenario zit behoorlijk slim in elkaar. Het begint met iets dat zich als een virus verspreidt. En we weten inmiddels hoe moeilijk zoiets te beheersen kan zijn, laat staan wanneer het zich in enkele dagen wereldwijd verspreidt.
Ik zie genoeg mogelijkheden om dit verhaal kritisch te bevragen. Maar toch.
Verbieden dus, zeggen zij. Een eerste stap in regulering is in Europa gezet met de AI Act, al blijft de vraag hoe effectief Europese regels mondiale technologiebedrijven kunnen begrenzen.
Dan ethiek. Zowel Véliz als Krijger zien ethiek als een belangrijke begrenzende factor. Een moderne aanpak is ‘human in the loop’: in alle fasen van een AI-proces blijven mensen betrokken en verantwoordelijk. Dan moeten die mensen wel voldoende ethisch geschoold zijn, zich bewust zijn van hun verantwoordelijkheid en enigszins gedeelde waarden en normen hanteren. Juist daar bestaan nu grote verschillen. Ook hier: Een goede stap in de juiste richting.
En ons werk dan?
Ik ken de IT-industrie al vijftig jaar. De eerste personal computer die ik zag, een IBM PC uit 1981, zat in een doos op het werk van mijn vader. Een relatiegeschenk van de computerleverancier van zijn grootste leverancier. De doos werd achteloos onder een bureau geschoven.
Dat ging hem nooit worden...
Dus wel.
De pc verloste managers voor allerlei taken van hun afhankelijkheid van de ICT-afdeling, bijvoorbeeld voor teksten en berekeningen. Deze ontwikkeling verliep parallel aan de enorme groei van bedrijven. Uiteindelijk kregen de meeste mensen op kantoor in het Westen een pc. Werk veranderde, maar werd er niet minder om.
Internet - en de doorbraak van de browser in de jaren negentig - haalde de pc uit zijn isolement. Werk dat enkele decennia geleden nog door grote aantallen mensen werd uitgevoerd, bestaat niet meer of is ingrijpend veranderd. De automatisering van bancaire functies kostte bijvoorbeeld veel banen. Nu doen we onze bankzaken zelf, in een handomdraai.
Minder werk door AI?
Sinds de introductie van ChatGPT bij het brede publiek maken we kennis met de mogelijkheden van generatieve AI. Opnieuw is er de belofte - of dreiging - van sneller, minder en ander werk.
En ja: meestal maakt technologie werk efficiënter. Maar zelden betekent dat dat er minder werk overblijft. Werk verandert iedere keer. Er komen nieuwe soorten werk bij en andere verdwijnen.
Mijn advies - en in verschillende vormen ook dat van de auteurs die ik hier bespreek: neem voorspellingen met flink wat korrels zout.
Gebruik de technologie verstandig. Behoud menselijke kennis. Blijf kritisch denken. En houd zelf de controle over hoe je haar gebruikt.