‘We kunnen van AI in de samenleving echt iets moois maken. We moeten wel’

Wat is volgens jou de grootste maatschappelijke uitdaging die de opkomst van AI met zich meebrengt?

“Elke technologische revolutie komt met grote maatschappelijke veranderingen. De uitvinding van de stoommachine en de industriële revolutie zorgden voor een versnelling van de overgang van een feodaal systeem naar een kapitalistisch systeem. De rollen en de macht zijn verschoven. Dat is nu ook aan het gebeuren.

“De ontwikkeling van AI is onvermijdelijk, we kunnen het niet tegenhouden. De vraag is hoe we ervoor kunnen zorgen dat het op een mens- en planeetwaardige manier wordt geïmplementeerd. Kunstmatige intelligentie biedt grote kansen en mogelijkheden, maar het brengt ook risico’s met zich mee. Zo is AI nu belastend voor het milieu omdat de servers waarop het draait water en energie slurpen. Ook zijn de kosten en baten niet gelijk verdeeld over de samenleving. Omdat de techniek is gebaseerd op bestaande data, werkt het als een enorm vergrootglas op wat er speelt in de maatschappij.”

Je bedoelt dat algoritmes bevooroordeeld zijn?

“Nee, de uitkomsten kunnen biased zijn. Het is niet de technologie zelf. Het laat zien wat er scheef zit in de maatschappij. Een bekend voorbeeld is dat je een afbeelding van een oude witte man krijgt als je AI vraagt een afbeelding te maken van een bankdirecteur of professor. In Nederland hebben we dat in de praktijk al flink mis zien gaan met de toeslagenaffaire. Dat komt niet doordat de technologie seksistisch of racistisch is, maar omdat het algoritme gebaseerd is op wat het gevoerd kreeg. Dat is een systemisch probleem. Maar het is ook een kans, omdat het sneller en explicieter dingen die niet goed zitten aan het licht kan brengen.”

Hoe zie je de rol van big tech in de ontwikkeling van AI?

“De grote macht van big tech is echt een enorm risico. Die bedrijven bouwen AI-toepassingen met winst als enige doel. Dat is gevaarlijk, want publieke, menselijke en democratische waarden kunnen daar ondergeschikt aan raken.

“De algoritmes op social media zijn er bijvoorbeeld voor gemaakt om je zo lang mogelijk op het platform te houden. Het bedrijf verdient geld door de consument verslaafd te maken aan het product. Daar komt nog bij dat bedrijven misinformatie niet schuwen als gebruikers daardoor langer op het platform blijven.

“Ook privacy en integriteit zijn publieke en individuele waarden die in het geding zijn. ChatGPT is gebaseerd op data van artiesten, auteurs, kunstenaars. Dit wordt verwerkt en gebruikt zonder bronvermelding. Hiermee worden auteursrechten geschonden. Daarnaast voedt het zich met data van gebruikers. Dat kan om hele intieme, persoonlijke data gaan. Mensen zijn zich er niet altijd van bewust dat ze het systeem voeden als ze het gebruiken. Maar zelfs als je je er wel bewust van bent, kan je deze toepassingen niet gebruiken zonder je data te delen. En je kan je afvragen in hoeverre het mogelijk is om je in deze maatschappij er helemaal van te onthouden.”

Biedt de wetenschap hier tegenwicht aan?

“De technologische ontwikkeling wordt vooral gedreven door big tech. Er zijn wel onderzoeksinstituten waar wetenschappers systemen opzetten die beschermend en ethischer zijn, zoals het Erasmian Language Model en het Europese BigScience Initative Bloom. Maar grote techbedrijven lokken goede wetenschappers met een hoog salaris; offers they can’t refuse. Ook qua financiering van de ontwikkeling kan de publieke sector niet tegen de grote bedrijven op.

“De innovaties die nodig zijn aan de maatschappelijke kant gebeuren wel in de wetenschap. De noodzaak is in ieder geval doorgedrongen dat we de maatschappelijke veranderingen die AI teweegbrengt in goede banen moeten leiden. Dat zie je terug aan waar het onderzoeksgeld naar toe gaat, en waar publieke organisaties mee bezig zijn, zoals ons landelijke project Public Values in Algorithmic Society. We hebben grote waarschuwingen gehad. De rol van geautomatiseerde risicoselectiesystemen in de toeslagenaffaire heeft mensen echt wakker geschud.”

Zijn overheden in staat om burgers te beschermen tegen de macht van grote techbedrijven?

“In onze democratieën hebben we wet- en regelgeving die reflecteert wat we acceptabel vinden en wat door de beugel kan. Maar grote bedrijven hebben zoveel middelen om zich te onttrekken aan die regelgeving. In Nederland en Europa hebben we bijvoorbeeld de Kijkwijzer. Dat is inmiddels niet alleen van toepassing op tv, maar ook op sociale media. Maar de grote spelers in big tech conformeren zich daar niet aan. Ze hebben de macht om te zeggen dat ze er niet in meegaan, en dat ze als bedrijf zelf gaan bepalen wat wel en niet acceptabel of gevaarlijk is. Dat is ondemocratisch, en heel gevaarlijk.

“In de EU zijn verregaande wetten die bedrijven reguleren, zoals de EU Artificial Intelligence Act en de EU Digital Services Act. Die wetten krijgen nu juist kritiek dat ze te veel gericht zijn op het reguleren van content, en niet op de bedrijven zelf. Hierdoor kunnen bedrijven makkelijker verantwoordelijkheid ontwijken, omdat ze zeggen dat gebruikers de content plaatsen, niet het bedrijf.

“Regulering is echt belangrijk. Individuen kunnen niet op tegen de macht van deze bedrijven, overheden wel. Sommige mensen zien regulering door de EU als een inperking van individuele vrijheid. Maar het gaat om beperking van de vrijheid van commerciële partijen.”

Sommige mensen vrezen dat robots hun werk overnemen. Is die angst gegrond?

“Er zullen inderdaad banen verdwijnen, en er komt een nieuw soort banen bij. Er komt een nieuwe verdeling tussen mensen die AI kunnen aansturen en mensen die dat niet kunnen. Aan de achterkant van de AI blijft veel mensenwerk zitten. Daar doet mijn collega Claartje ter Hoeven (hoogleraar Organisational Dynamics in the Digital Society, red.) onderzoek naar. Veel mensen werken in een sector waarin ze het overblijvende werk doen dat een machine niet kan. Dat is vaak niet het meest inspirerende werk, het is slecht betaald en onbeschermd. Denk aan mensen die afbeeldingen coderen om de machine te trainen, of mensen die AI-gegenereerde teksten screenen op aanstootgevende content. Dat wordt geoutsourcet naar Afrikaanse landen, en wordt al vergeleken met sweatshops.

“In scheppende sectoren, zoals de kunsten of de journalistiek, speelt die angst voor vervanging ook, maar we zien ook al hoe die sectoren kansen verzilveren. In ons AICON-project zit kunstenaar Peim van der Sloot. Tussen hem en AI is echt een symbiose ontstaan. In zijn project Future Jobs maakte hij met ChatGPT en Stable Diffusion advertentieposters voor de banen voor de toekomst.

“Als je AI ziet als partner die je eigen vaardigheden kan versterken, dan kunnen er mooie dingen ontstaan. Dat gebeurt niet als je denkt dat AI je werk gaat overnemen en je zelf achterover kan leunen.”

Je pleit voor het in goede banen leiden van de implementatie en ontwikkeling van AI. Wat is daarvoor nodig?

“De enige manier om tot acceptabele implementatie te komen is cocreatie. Iedereen moet meedoen, meedenken en mede-eigenaar zijn, niet alleen de rijken, niet alleen big tech, en ook niet alleen overheden. We moeten samen bepalen wat de voorwaarden zijn waarop we AI in de samenleving willen, zodat iedereen ervan profiteert, niet alleen mensen, maar het hele ecosysteem waar we in zitten. Dat vraagt om een andere manier van denken.”

De ontwikkeling van AI lijkt zowel hele utopische als dystopische gevoelens op te roepen bij mensen. Waarom is dat zo? Hoe denk je daar zelf over?

“Ja, de verwondering en walging van AI vind ik herkenbaar. Aan de ene kant ben ik onder de indruk van wat die techniek allemaal kan. Persoonlijk ben ik nu heel blij met ChatGPT, dat mijn beperkingen die ik door long covid heb, opvangt. Ik ben echt onder de indruk van de teksten waar het mee komt. Ook in de medische wereld zijn er steeds meer indrukwekkende toepassingen voor het herkennen van bijvoorbeeld kanker en hersenziekten.

“Maar net als veel mensen ervaar ik soms ongemak als ik met een robot interacteer. Dat machines het van de mensheid over gaan nemen is een klassieke angst. Ik ben dol op sciencefiction waar dat thema op allerlei apocalyptische manieren aan bod komt, zoals Foundation en Westworld. Maar de mensen met echte technologische kennis zijn het daar niet over eens. Ik weet dus niet of er in technologische zin een existentiële dreiging is.

“Als er al een toekomstig existentieel risico is, moeten we ons daar niet op blindstaren. Dat leidt af van de maatschappelijke risico’s waar we op dit moment mee zitten, die veel groter, urgenter en concreter zijn. Misschien ben ik te naïef, maar ik denk dat als we die risico’s goed aanpakken, samen met álle betrokkenen de voorwaarden bepalen van AI in onze wereld, we er echt wat moois van kunnen maken. We moeten wel.”