Nieuwe gedragscode voor onderzoekers: Wees voorzichtig met AI

Steun open science waar het kan, publiceer niet in malafide tijdschriften en wees voorzichtig met AI. Wetenschapsgenootschap KNAW presenteert een conceptversie van de nieuwe integriteitscode. Nu kan iedereen erop reageren.

De huidige gedragscode wetenschappelijke integriteit is pas zeven jaar oud. Toch moet er al een update komen, besloot een commissie van de Koninklijke Nederlandse Academie van Wetenschappen (KNAW) vorig jaar.

De commissie vond dat de code beter moest aansluiten op het praktijkgericht onderzoek van hogescholen. Verder is het gebruik van kunstmatige intelligentie geëxplodeerd en door alle internationale spanningen staat de kennisveiligheid ook veel hoger op de agenda.

Politiek

En dan was er nog corona. In de vrijdag verschenen conceptcode van de KNAW staat dat de ‘politieke betrokkenheid’ bij wetenschappelijk onderzoek de afgelopen jaren is toegenomen. Je zou kunnen denken aan de lockdowns, die bij velen de vraag opwierpen: bepalen nou wetenschappers of politici dat de scholen moeten sluiten?

Wetenschappers moeten duidelijk zijn wanneer ze politiek bedrijven. En politici moeten zich niet met de feitenmakers bemoeien. “Voor het goed vervullen van ieders maatschappelijke rol dienen alle partijen elkaars eigenheid en autonomie te respecteren”, zo klinkt het advies in de nieuwe code. Wetenschappers leveren bovendien niet alleen feiten, maar ook ‘methodische twijfel’.

Malafide tijdschriften

De enorme groei van malafide ‘wetenschappelijke’ tijdschriften zorgt ook voor een nieuwe toevoeging: werk er niet aan mee. Publiceer alleen in tijdschriften die serieuze kwaliteitscontroles hanteren.

Op basis van de integriteitscode kan iedereen die twijfels heeft over de integriteit van wetenschappelijk onderzoek een klacht indienen bij de universiteit. Voor hoger beroep kun je naar het Landelijk Orgaan Wetenschappelijke Integriteit (LOWI) stappen.

De KNAW vraagt iedereen om zich met de concepttekst te bemoeien. Tot 20 oktober is commentaar welkom. Is de taal in orde? Mist er nog iets? Zijn de gevolgen van een regel wel goed doordacht?

Open science en AI

Sommige nieuwe toevoegingen klinken voorzichtig. Zo is onder meer het principe van open science in de code opgenomen. Data en publicaties moeten ‘waar mogelijk en wenselijk’ vrij toegankelijk zijn.

Ook de nieuwe gedragscode rondom generatieve kunstmatige intelligentie is expres breed geformuleerd, leggen de schrijvers in een begeleidende notitie uit. De ontwikkelingen gaan snel en de nieuwe regels moeten ook passen bij technologie die er nu nog niet is.

Eén voorschrift: “Gebruik alleen technologieën waarvan de functionaliteit bekend en wetenschappelijk gevalideerd is.” Dat zal nog niet meevallen. AI-programma’s als ChatGPT, Perplexity en Mistral genereren op basis van statistiek en data zelf teksten en beelden. Het is moeilijk te zeggen wat de bronnen zijn geweest of hoe data zijn verwerkt.

Niet makkelijk

Een andere regel: “Gebruik geen technologieën die naleving van de principes en standaarden in deze code belemmeren.” De schrijfcommissie roept werkgevers op om hun werknemers hierbij te helpen en richtlijnen te ontwikkelen.

De nieuwe gedragscode geldt zowel aan universiteiten als hogescholen. Het hbo wordt niet heel expliciet genoemd, behalve bijvoorbeeld als de financiering van leerstoelen én lectoraten aan bod komt. Die moet transparant zijn, staat er.

Begin volgend jaar zou de nieuwe versie van de Nederlandse Gedragscode Wetenschappelijke Integriteit van kracht moeten zijn.