Slechts versie 3, maar het ontketende een revolutie van GenAI-tools waarvan ChatGPT de voorloper bleek. Meer dan 15.000 van deze tools zijn er die middels een techniek die we prompt engineering noemen teksten, beelden, softwarecode, muziek etc. laten genereren. Waarom vieren we dit feestje eigenlijk?
Enola Gay
Is ‘mother’ proud of ‘little boy’ today
Oh, this kiss you gave
It's never ever gonna fade away
Het stukje tekst van het nummer Enola Gay van Orchestral Manouvres in the Dark. De Enola Gay was het vliegtuig dat op 6 augustus 1945, om 8:15 zijn dodelijke lading, de eerste atoombom liet vallen op Hiroshima, Japan. Hightech oorlogvoering maakte snel een einde aan de weerstand van het Japanse leger toen ook Nagasaki gebombardeerd werd. Vieren we 6 augustus?
De eerste reactie is natuurlijk dat ik hier flink overdrijf. In de Verenigde Staten is de uitvinding van de atoombom lang als een zeer positief iets gezien. Tot Rusland (Sovjet-Unie), en later ook andere landen deze techniek onder de knie kregen. De machtsbalans is verschoven met grote gevolgen tot de dag van vandaag.
Er kleven veel inmiddels bekende dreigingen en kritieken aan deze technologie: de gebruikte data is soms onrechtmatig toegeëigend, privacy, eigendomsrechten, discrimineren, rolbevestigend, energieverbruik, arbeidsomstandigheden van de AI-trainers... Maar het wordt allemaal met een korrel zout genomen. Eigenaren van de data, het verdienmodel en de regels (de algoritmes) waarop deze statische datamodel getraind zijn in handen van een paar Amerikaanse multinationals: Microsoft (OpenAi), Meta (Facebook), Alfabet (Google), Apple en Amazon. Partijen waarvan we op basis van het verleden weten dat ze het niet zo nauw nemen met privacy en internationaal recht.
Het Witte Huis
En met de komst van president Donald Trump en vicepresident J.D. Vance in het Witte Huis verandert het speelveld voor de Big Tech enorm. Aan de zijlijn staan Peter Thiel en Elon Musk. Thiel is mentor van Vance en grootkapitalist, waarschijnlijk de rijkste man op aarde, en gelooft niet in democratie. Musk krijgt op 20 januari (markeer die datum) een rol in de overheid van de VS. Met Starlink, Tesla en SpaceX heeft hij al directe contracten met de Amerikaanse overheid. Musk is net als Thiel antidemocraat en krijgt als taak het Amerikaanse overheidsapparaat af te bouwen. Beiden en met hun vele tech-overlords geloven in AI en crypto als oplossing voor alle wereldproblemen. Interessant leesvoer hoe Musk een bedrijf reorganiseert: Extreem Intens van Zoë Schiffer. Het leven van Peter Thiel is opgetekend in: De dwarsdenker van Max Chafkin.
De dreigingen van het alom bejubelde en gebruikte GenAI gaan echter dieper dan een paar radicaal antidemocratische techbiljardairs die even de sleutels van het koninkrijk hebben gekregen. In de brede acceptatie van de huidige GenAI zit de basis tot een aantal fundamentele problemen waar we de komende jaren tegenaan gaan lopen.
Spiegels
Eén daarvan is onkunde wat dit product nu precies is en kan. Een anekdote. Recent werd een collega boos op mij. Ik was de IT en ik moest toch eens iets uitleggen. Hij had met Dall-e een T-shirt ontworpen met een woord op de voorkant, maar het lukte niet om dat woord, gespiegeld, op de achterkant te krijgen. Ik heb hem proberen uit te leggen dat ChatGPT, of Dall-e geen verstand van teksten heeft, slechts een statistisch model is dat woorden op basis van algoritmes aan elkaar rijgt. Dat het verder geen begrip van taal heeft. En dat woorden spiegelen niet een vaardigheid is. Het leidde niet tot veel begrip.
Ingebakken in AI-modellen als ChatGPT, Gemini, Claude AI etc. zit ‘oude’ kennis. Resultaten daaruit beschrijft auteur Shannon Vallor in The AI mirror als een spiegel. In naam van ‘productiviteit’ en ‘gemak’ gebruiken we de nieuwste glimme dingetjes zonder onszelf een aantal basisvragen te stellen. Welk beeld wordt ons voorgehouden? Waar komt die informatie vandaan? Lost het niet alleen mijn vraag op, maar helpt het ook complexe existentiële vragen van vandaag te beantwoorden? Dat laatste, zo betoogt Vallor, kan niet. Ingebakken in de datasets van deze large language models zit een wereldbeeld van Westerse waarden en kapitalistisch denken, in handen van een paar wederom Westerse bedrijven die gefinancierd worden door investeerders. Het is een reden waarom biases worden geconstateerd onder meer door mensen van kleur. (Hoe dit bijvoorbeeld door blijft echoën in technieken als gezichtsherkenning lees je in Unmasking AI van Joy Buolamwini)
Recent verscheen De vloek van Big Tech van Reijer Passchier met de niets verhullende ondertitel De juridisch-technologische wortels van extreem gigantisme, constitutioneel verval en digitaal feodalisme.
De enige tegenmacht tegen GenAI en al zijn nazaten is regulering betoogt onder meer Vallor. We moeten de Big Tech argumentatie dat regulering de vijand is van innovatie weerstaan. In het verleden was regulering ook noodzakelijk in de auto-industrie. Dat heeft ervoor gezorgd dat autorijden veilig is. Er dient doorzichtigheid van de data en algoritmes te komen, ethische regels voor AI – systemen en voor de bedrijven en de mensen die AI-technologie bouwen en exploiteren.
AI Act
Dit jaar heeft het Europees Parlement de AI Act aangenomen. Een reeks van richtlijnen die in augustus 2026 in werking treden en waar de EU-lidstaten zich op voor moeten bereiden. (Lees meer in The Annotated AI Act). Minder bekend is dat organisaties waarin personeel werkt met AI-systemen (zoals ChatGPT of Gemini, maar ook meer geavanceerde en gespecialiseerdere AI-technologieën) hun personeel moeten opleiden in AI Geletterdheid. Een taak die bijvoorbeeld onderwijs en overheid moet oppakken aangezien GenAI daar al veelvuldig gebruikt wordt. Deze wet gaat overigens in per 1 februari 2025.
Als we dit allemaal geregeld hebben, en deze technologieën veilig en op de juiste positieve manier kunnen gebruiken, dan pas wordt het tijd voor een feestje.
Over Bertrand Weegenaar
Bertrand Weegenaar is als hogeschooldocent HBO-ICT werkzaam op Windesheim. Zijn voorliefde ligt bij de onderwerpen strategie, marketing, geschiedenis; biografieën en internet; e-business.
