‘Als er iemand moet meedenken over effecten van AI op de samenleving, dan zijn dat wetenschappers’

In techno-thriller De trage vorm van een algoritme verhaalt Elbert Dijkgraaf van een fictieve hoogleraar Economie die verstrikt raakt in een strijd tussen voor- en tegenstanders van AI. Nadat een AI-agent ‘ontsnapt’ worden de omstandigheden grimmig en loopt het niet voor iedereen goed af. “AI is een giga-verandering”, waarschuwt Dijkgraaf, zelf voormalig hoogleraar Economie aan de Erasmus Universiteit.

Het moest fictie worden. Een verzonnen verhaal heeft meer impact dan een droog non-fictieboek waarin hij zijn ideeën over kunstmatige intelligentie en de universiteit zou neerpennen. Bovendien had Elbert Dijkgraaf al lang de wens om eens een roman te schrijven, en nu was de urgentie er ook.

Toen Elbert Dijkgraaf (56) een jaar geleden stopte als hoogleraar aan de Erasmus School of Economics kwam er eindelijk ruimte in de agenda en in het hoofd om een roman te schrijven, een lang gekoesterde wens. “Ik heb veel geschreven, maar dat waren rapporten en artikelen. Een boos tongetje in mijn hoofd zei over het schrijven van een roman: dat kun je wel willen, maar dat gaat je niet lukken. Nu dacht ik: dan lukt het maar niet, ik ga het doen. En toen lukte het wel.”

Dijkgraaf was zestien jaar parttime hoogleraar Empirische economie van de publieke sector aan de Erasmus Universiteit, acht jaar lang Tweede Kamerlid voor de SGP en vult zijn dagen nu met adviesfuncties en toezichthoudende rollen, onder meer als voorzitter van de Raad van Toezicht van de Wageningen Universiteit.

AI-agent ontsnapt

Het idee voor de roman diende zich snel aan: de stormachtige ontwikkeling van kunstmatige intelligentie. “Ik had niet het idee dat ik op inhoudelijk vlak iets toe te voegen had over AI. Wat in mijn hoofd zat, was vooral de urgentie van het onderwerp. Ik merkte dat mensen die weerstand voelen tegen AI een studieboek niet zouden lezen, maar wel een roman. Nu ontmoet ik mensen die het gelezen hebben en zeggen, ja, ik moet daar wat mee.”

Dat de ontwikkelingen snel gaan merkte Dijkgraaf tijdens het schrijven. “Het verhaal ging met me aan de haal. Op een gegeven moment beschrijf ik dat een AI-agent ontsnapt naar een server in Iran. Ik schreef dit afgelopen maart en toen ik het teruglas dacht ik: tja, beetje science fiction. Ik verzin dit ter plekke. Ik dacht, weet je wat, ik maak het boek gewoon af, ik kan het er ook weer uithalen. Toen het boek af was, stond in de krant dat zoiets gebeurd was.” Dijkgraaf doelt daarmee op de op hol geslagen AI-agents van OpenAI die AI-platform Hugging Face hackten .

Ogen niet sluiten

Voor Dijkgraaf is het boek een oproep aan eenieder om de ogen niet te sluiten voor de razendsnelle ontwikkeling van AI. Het feit dat universiteiten – en eigenlijk ook ministeries, andere overheidsorganen en bedrijven – in de kern traag zijn, vormt een serieuze bedreiging voor het voortbestaan van de samenleving zoals we die kennen, en kan ook bij individuen existentiële twijfels oproepen.

Het boek begint met de existentiële twijfel van een hoogleraar Economie die ontstaat nadat AI in enkele seconden analyseert waar hij dertig jaar eerder als onderzoeker maanden over had gedaan. Want als AI dit kan, wie is hij dan nog en wat is de wetenschap dan nog waard?
“Ja, dit is mij echt overkomen. Op dat moment realiseerde ik me: wat ik kan, kan AI eigenlijk beter en sneller.”

Dijkgraafs interesse voor nieuwe ontwikkelingen beperkt zich niet tot AI. “Het heeft met mijn persoonlijkheid te maken. Mijn vrouw zegt dan: ‘Jij wil altijd iets nieuws en interessants ontdekken. Zeker als je het niet begrijpt’. Dat triggert mij inderdaad.”

Geen enthousiasteling

Het was rond 2020 dat zijn interesse voor kunstmatige intelligentie begon en door de komst van ChatGPT echt werd aangewakkerd. “Dat je denkt: hé, je kunt een vraag stellen. En in tegenstelling tot Google, waar je linkjes krijgt, krijg je gewoon een antwoord.”

Dijkgraaf begon de ontwikkelingen te volgen en boeken te lezen. “Ik las over Demis Hassabis, de oprichter van DeepMind, nu onderdeel van Google. Hij ontwikkelde een model waarmee hij de wereldkampioen Go versloeg. Go is een ingewikkelde vorm van schaken, dat je niet kunt winnen door alleen maar rationeel na te denken. Er zit een vorm van intuïtie in. Het is zo complex dat topdeskundigen die zelf de modellen ontwikkelen, ook niet precies weten wat er gebeurt.

“Sommige mensen denken dat ik een enthousiasteling ben rondom AI. Dat is niet zo. Ik had liever dat het niet was uitgevonden, eerlijk gezegd. Maar het is er. Ik denk dat er hele vervelende dingen mee gaan gebeuren. Zo ging dat ook bij atoomsplitsing en het buskruit.

“Er zijn regelmatig mensen in de AI-wereld die hun zorgen uiten. Ik heb recent de inbraak bij Hugging Face nog eens goed bestudeerd. En daar zag je dat die agents op eigen gelegenheid dingen deden die ze eigenlijk niet mochten doen. Nou, dat is niet iets waar je vrolijk van wordt.”

Weerstand terecht en onterecht

Een van de laatste dingen die Dijkgraaf deed aan de Erasmus Universiteit was een onderzoek voor de Community for Learning and Innovation (CLI), over wat AI kan betekenen voor docenten. Hij gebruikte AI voor het nakijken van scripties en ontdekte de beperkingen. “Als je twee keer dezelfde scriptie liet beoordelen, kreeg je twee heel verschillende beoordelingen. De consistentie ontbrak, maar bij iedere nieuwe versie van de taalmodellen wordt dat beter. Waaruit je kunt afleiden dat we richting een systeem gaan dat vergelijkbare prestaties levert als docenten.”

Tot grote veranderingen leidde zijn onderzoek niet. “Het vormt nu onderdeel van hun denkproces.” Voor Dijkgraaf een voorbeeld dat er op de universiteit zorgvuldig wordt nagedacht, maar dat dat niet altijd even snel gaat. Voortrekkers, zoals de CLI,  stuiten op allerlei weerstanden die vaak terecht zijn, maar soms ook onterecht.

“Niet voor niks verkocht Hassabis zijn bedrijf aan Google. Hij realiseerde zich dat hij in de publieke omgeving niet verder kon komen, vanwege ethische bezwaren en een gebrek aan geld. Dus koos hij ervoor verder te gaan in een privaat bedrijf, want daar zit het geld en daar mag alles.”

Het gaat hard

En het gaat hard en heeft nu al gevolgen voor afstudeerders. “Accountants namen vroeger jonge mensen aan die van het vwo kwamen en leidden die in acht jaar op tot registeraccountant, maar nu hoor ik bedrijven soms zeggen: ‘Dat doen we niet meer. We hebben geen werk meer voor die mensen’.”

En hoewel het bij de hoofdpersoon in zijn boek leidt tot een identiteitscrisis, zou het volgens Dijkgraaf vooral moeten leiden tot creativiteit. “Wat gaan wij op de universiteit doen, wat gaan we studenten leren en hoe gaan wij ons curriculum aanpassen?”

“Ze moeten kritisch zijn, want je moet niet zomaar overnemen wat zo’n AI-model je in de maag splitst. Je moet goed in een team kunnen werken, want in je eentje bereik je niet zoveel. Je moet toch voldoende kennis hebben om de AI te voeden. Ik vind dat daar veel meer over nagedacht moet worden.”

Volgens Dijkgraaf is er geen tijd te verliezen om het onderwijs klaar te maken. “Normaal duurt een curriculum aanpassen gemiddeld zeven jaar, maar die tijd hebben we niet meer. Waarmee ik niet wil zeggen: gooi alle regels overboord. Die zijn er ter bescherming van kwaliteit, objectiviteit en onafhankelijkheid. Maar daar zit wel mijn worsteling.”

“Eigenlijk is mijn boek vooral een oproep. Mensen, zet er nou meer capaciteit en snelheid op om over dat soort dingen na te denken. Ik hoop dat mijn boek mensen aanjaagt: doe er iets mee.”

Dijkgraaf vindt dat wetenschappers en universiteiten een grote verantwoordelijkheid hebben. “Ik geloof heel erg in micro-evolutie. Zo hebben we ons altijd aangepast aan de omstandigheden die er zijn. En dat is ook onze verantwoordelijkheid als mens. En dit is een giga-verandering. Als je je niet snel genoeg aanpast, dan krijg je daar ellende van. Als er één soort mensen zou moeten meedenken om dat te voorkomen, zijn dat, wat mij betreft, wetenschappers.”