‘We moeten weten wat de risico’s en de beperkingen van AI zijn’

Zou een interview als dit al door AI gemaakt kunnen worden? Zou de kwaliteit vergelijkbaar of misschien wel beter zijn?

Kan het gemaakt worden met AI? Zeker. Maar om te beginnen: wie zegt dat ik echt ben? Dan moet je maar aannemen, toch? En zou het kwalitatief beter of minder zijn? Dat ligt natuurlijk aan de vragen. Het ligt er maar net aan hoe je het AI-programma instrueert om antwoorden te geven. Maar technisch is het absoluut mogelijk.

Daar gaat Leven en leren met AI over, toch? Hoe je de juiste keuzes maakt om AI beter voor je te laten werken?

Precies, al is het natuurlijk de vraag hoe je beter definieert. Dat komt in het boek steeds naar voren, en zeker ook in de epiloog. Welke keuzes maken wij? En hoe willen wij deze techniek gaan inzetten? Gaan we het goede doen of juist het slechte? En wat is goed en wat is slecht?

Even een stap terug. Wat beogen jullie met dit boek? En voor wie is het bedoeld?

We hebben het boek met z’n vieren gemaakt: Danny Bloks, Erdinç Saçan, Koen Suilen en ik. We werken alle vier bij de ICT-opleiding van Fontys Hogescholen. Direct na de lancering van ChatGPT eind 2022 merkten we dat de studenten er veel gebruik van maakten. Maar om ons heen, in de onderwijswereld, ging het al snel over fraude en het verbieden van AI. Dat lijkt ons niet de juiste benadering, want deze ontwikkeling houd je toch niet tegen. Voor je het weet kom je met je fraudedetectiesystemen in een kat-en-muisspel terecht, en dat win je nooit. Ons leek het veel slimmer om studenten uit te leggen wat AI precies is. Hoe werkt die techniek nou? En hoe kun je hem nou op een verantwoorde manier inzetten? Als je die benadering kiest, haal je meteen de angel uit de discussie. Dat was onze insteek. We behandelen met name de concepten, niet de specifieke tooling. De ontwikkeling gaat zo snel, dat het boek dan snel achterhaald zou zijn. Door de focus op de concepten is het boek breed inzetbaar en niet alleen geschikt voor studenten, maar voor iedereen die geïnteresseerd is in deze techniek.

U citeert Bertine van Deyzen van Surf. ‘De definitie van AI ligt niet vast.’ Waarom niet? En wat betekent dat voor ons begrip van AI?

AI is ooit, in de jaren vijftig, ontstaan als onderzoeksgebied naar alle machines en computers waarvan men vermoedde dat zij het menselijk denken zouden kunnen nabootsen. Naarmate deze techniek zich verder ontwikkelde, moest de definitie telkens aangepast worden. De definitie die we nu hanteren, is van de OECD, gebaseerd op de ontwikkelingen van de laatste vijf jaar: ‘Een AI-systeem is een machine-gebaseerd systeem dat, gebaseerd op ontvangen invoer, uitvoer genereert zoals voorspellingen, content, aanbevelingen, of beslissingen die fysieke of virtuele omgevingen beïnvloeden’, is de eerste zin.

U geeft zelf sinds 2016 les aan Fontys, ICT en software. Wanneer begon uw interesse in AI?

AI had mijn interesse inderdaad al eerder. Bij Fontys hebben we studenten gehad die al bezig waren met de nieuwste ontwikkelingen op het gebied van AI voordat ChatGPT werd gelanceerd. Sommige studenten lopen voor op de docenten en op die manier zijn we vanzelf die wereld ingetrokken. Op het moment dat het grote publiek geïnteresseerd raakte, ging het steeds sneller en begon het zich als een olievlek te verspreiden. In november ‘22 heb ik met Koen Suilen, een van mijn coauteurs, een experiment gedaan: zou ChatGPT in staat zijn onze propedeuse te halen? We hebben gewoon alle tentamenvragen ingevoerd, met knip en plak. Het antwoord was ja.

Dat is in feite een compliment. Dat betekent dat uw vragen, uw prompts, uitstekend zijn. Maar bent u te spreken over de kwaliteit van AI? Aan de hand van een paar eenvoudige voorbeelden laat u in uw boek zien dat bijvoorbeeld ChatGPT niet eens het vierde woord in een zin kan onderscheiden.

Dat laat zien dat ChatGPT niet kan redeneren. Het model is ook niet in staat de computercode die hij genereert zelf te begrijpen. Eigenlijk is het gewoon een soort van echobox. Wat je erin stopt, komt er ook uit. Dat betekent dat ChatGPT voor deze vraag niet het beste gereedschap is. Want dat is het, een gereedschap. Voor verschillende taken heb je verschillende gereedschappen nodig. ChatGPT is een heel algemeen taalmodel, met een groot begrip van veel verschillende soorten taal. Er zijn andere modellen die beter zijn in andere taken. Leonardo.ai bijvoorbeeld is een AI-tool om afbeeldingen te genereren dat uitblinkt in het maken van de Battle Axes voor Minecraft. Maar die kan ook echt alleen maar dat.

Is dat de toekomst, specialistische AI-modellen die heel goed zijn in één taak?

Ja, maar dat hangt ook weer af van de toepassing die de gebruiker voor ogen heeft. Veel onderzoeksprojecten van onze studenten in het bedrijfsleven maken gebruik van RaG, Retrieval Augmented Generation. Dat houdt in dat je gewoon een taalmodel gebruikt voor de communicatie, maar dat je de context gaat verrijken met specifieke data. Dat blijkt goed te werken. Zo is er bijvoorbeeld een app gemaakt voor de seksuele educatie van blinde middelbare scholieren. De data die daarvoor gebruikt worden, moeten vanzelfsprekend heel goed zijn, want die moet wel de juiste informatie geven, zeker in die context. Zij hebben daarvoor gebruikt gemaakt van een GPT-model en hebben hun data verrijkt met data van een specifieke website met goede, gevalideerde informatie.

We weten dat algoritmes vaak een black box zijn. De overheid constateerde onlangs nog dat er veel discriminatie schuilgaat in haar systemen. Welke rol spelen de risico’s van AI in uw boek?

Je probeert AI in je voordeel te gebruiken, maar je moet ook weten wat de risico’s en de beperkingen zijn. Het liefste wil ik dat mijn studenten ermee werken en dat zij tegelijkertijd een ethisch kompas ontwikkelen. Onze studenten zijn immers de ontwikkelaars van de toekomst, zij gaan dit soort systemen in de toekomst verder ontwikkelen en toepassen, overal ter wereld. Daarom hecht ik zoveel waarde aan een ethisch kompas.

Een voorbeeld: iedereen zit op TikTok, studenten wel vijf of zes uur per dag. Dat is echt veel. Dat komt door algoritmes en AI, die er op de een of andere manier in slagen de aandacht van die studenten vast te houden. TikTok heeft daardoor veel invloed op hoe die studenten de wereld ervaren en ook op wat zij vinden. Je kunt niet anders dan vaststellen dat de wereld al lang is overgenomen door AI. Dan moet je hopen dat de mensen die daar achter zitten, een sterk ethisch kompas hebben en hun beslissingen daar vanaf laten hangen.

Voor de overheid geldt hetzelfde. Er is in 2023 een nieuwe datakoppelingswet, de wet Wgs, aangenomen. Daardoor heeft de overheid nu veel meer mogelijkheden om data te koppelen. Maar ik zou best willen weten welke data er over mij worden verzameld en waarvoor die worden gebruikt. Want daar weten we eigenlijk niets van, welke algoritmes worden gebruikt en welke data worden opgeslagen. In elke keuze zit haast als vanzelf een vooroordeel verborgen. Het mooiste zou zijn als burgers daar zelf een individuele keuze in zouden kunnen maken. Ik vind het echt belangrijk dat we allemaal bewuster worden van hoe we dagelijks gemanipuleerd worden door systemen.

AI gaat veel invloed op ons werk krijgen. U citeert Richard Baldwin, hoogleraar internationale economie: ‘AI zal je baan niet innemen, iemand die AI gebruikt zal dat dóen.’ Welke vaardigheden hebben we nodig om AI voor ons te laten werken, in plaats van tegen ons?

AI zelf is niet het probleem. Het gaat erom wat wij doen met AI. Dat is de kern, dat is ook de gedachte achter het citaat. Mensen zijn verantwoordelijk voor de informatie die zij aan AI voeden. Dat betekent dat we ook menselijke vaardigheden nodig hebben, zoals creativiteit, empathie, kritisch vermogen en dergelijke, om er goed mee om te kunnen gaan. Zeker ook in onderwijs, waar het traditioneel ging om kennisoverdracht. Wij denken dat dat minder belangrijk gaat worden in de toekomst. Want kennis is overal, alle informatie over de hele wereld zit in onze telefoon en is dankzij die taalmodellen heel toegankelijk gemaakt. Je kunt gewoon tegen je telefoon praten. Dus kennisoverdracht wordt in die zin minder belangrijk. Maar wat je ermee doet en voor wie, dat wordt belangrijker. En dat geldt niet alleen in het onderwijs, maar ook in een zakelijke context. Je zult nog steeds met je klant moeten praten om erachter te komen wat hij nou precies wil.