Erudite is nu voor alle medewerkers (niet voor studenten) beschikbaar in Microsoft Teams. Je moet zelf even de app Erudite toevoegen, en daarna kun je ermee chatten alsof het een collega is, maar dan één die wel meteen antwoordt en nooit afwezig is.
Harde afspraken
De nieuwe AI-chatbot lekt geen data, vertelt Bas Smit, strategic adviser on digitalisation for education. Erudite gebruikt weliswaar een taalmodel van OpenAI (het moederbedrijf van ChatGPT) dat draait op servers van Microsoft, maar die servers staan in Zweden of Frankrijk. De vragen en antwoorden worden niet opgeslagen op die servers en niet gebruikt om het taalmodel verder te trainen.
Maar hoe hard zijn die afspraken als de CIA de data opeist? “Dat is een vraagstuk dat veel breder speelt dan alleen bij Erudite. Er zijn experts die op basis van de Amerikaanse wet concluderen dat de Amerikaanse regering er toch bij kan als de data bij een Amerikaans bedrijf in Europa staat, maar dat is in de praktijk nog niet voorgekomen. Mocht het toch gebeuren, dan belooft Microsoft om daar juridische stappen tegen te nemen. Maar het blijft iets om scherp op te zijn”, verzekert Smit.
Smit benadrukt dat Erudite net zo veilig is als Teams of Sharepoint, en in elk geval ‘vele malen beter’ omgaat met je privacy dan ChatGPT. “Van OpenAI weten we dat het alle chats tot in het oneindige opslaat, zelfs als je het vraagt om dat niet te doen.”
Geen bestanden uploaden
Er zijn nog wel wat beperkingen aan Erudite ten opzichte van ChatGPT. Je kunt namelijk nog geen bestanden uploaden naar Erudite voor analyse, het kan geen afbeeldingen genereren en je kunt er niet meer dan 750 woorden invoer intypen, in vergelijking met 128.000 tekens op ChatGPT. Een lange tekst samenvatten (of genereren) is er dus nog niet bij. Ook stopt het gesprek na zeven vragen.
De redactie van EM nam de proef op de som. Het valt op dat de antwoorden van Erudite vlot op het scherm verschijnen. Ook kan Erudite programmeren: het had binnen no-time een python-script tevoorschijn getoverd. De chatbot genereert graag een essay voor je. Toen we vroegen om onderwerpen voor een essay voor het vak bij Media & Communication kwam het met tien suggesties. Na onze keuze voor het onderwerp Virtual Reality schreef het ook vast een hoofdstukindeling voor het essay en de inleiding. Daar hebben we het even bij gelaten.
Smit heeft zelf ook een tip voor hoe je Erudite effectief kunt gebruiken. “Ga niet zelf prutsen om de perfecte prompt te schrijven, laat Erudite je daarbij helpen. Vraag het om een prompt voor je te maken en jou te vragen wat het daarvoor nodig heeft. Veel effectiever!”
Zuinig
Op dit moment maakt Erudite gebruik van het taalmodel GPT-4o van OpenAI. Binnenkort wil de universiteit overschakelen op het nieuwere o1-mini. Dat is goedkoper en kost minder energie, vertelt Smit. Het verschil in energieverbruik tussen Erudite en hetzelfde taalmodel bij ChatGPT is waarschijnlijk niet groot. “ChatGPT slaat al jouw chats voor altijd op, en die opslag kost wat extra energie”, weet Smit.
De kosten voor Erudite zijn volgens Smit lager dan wanneer afdelingen zelf een ChatGPT-account afsluiten. Per actieve gebruiker komen de kosten uit op enkele euro’s per jaar. Wel houdt de universiteit de kosten een beetje in de gaten, maar Smit verwacht niet dat hij snel waarschuwingen zal uitdelen bij overmatige AI-consumptie.
Opvolger staat al klaar
Erudite zal vanwege de beperkingen van de Teams-omgeving niet gauw alle features van ChatGPT overnemen, maar de opvolger die dat allemaal wel kan – en meer – staat al in de coulissen. Smit: “EdugenAI is een nationaal project voor een nieuwe privacyvriendelijke chatbot, waarvan de pilot in september start. In die chat kun je wél bestanden uploaden, meerdere chats openen en afbeeldingen genereren. Bovendien kun je kiezen uit meerdere taalmodellen. Uiteindelijk willen we vrijwel alle beschikbare taalmodellen daarin aanbieden, op termijn ook het Erasmian Language Model, het taalmodel dat door wetenschappers van de EUR wordt ontwikkeld. Daarbij komt dat EdugenAI helemaal onafhankelijk kan opereren van Big Tech. Mocht een bedrijf waarmee het samenwerkt zich misdragen, dan halen we die er gewoon tussenuit.”
