Op vrijdag 7 november was ik aanwezig bij een bijeenkomst over het experiment Vindbaarheid met EduGenAI, waaraan we vanuit de HAN meedoen, georganiseerd door SURF en Npuls (in totaal doen 37 onderwijsinstellingen mee). EduGenAI is een Nederlands platform waarmee we samen bouwen aan een veilige en verantwoorde toepassing voor generatieve AI in het vervolgonderwijs.
AI in het onderwijs is geen toekomstmuziek meer, maar een actueel vraagstuk. Er is veel potentie, maar er zijn ook risico’s. Met EduGenAI zoeken we naar een manier om verantwoord AI in te zetten in het onderwijs. In deze blog geef ik mijn belangrijkste inzichten weer en mijn reflectie op wat dit betekent voor de HAN en het hoger onderwijs in Nederland.
AI in Onderwijs: Een Tweesnijdend Zwaard
De aanleiding voor het experiment ‘vindbaarheid van informatie over onderwijsinnovatie met EduGenAI’ is de cruciale vraag: Hoe kunnen we de potentie van AI in onderwijs benutten, zonder gevangen te raken in de valkuilen?
De risico’s van de huidige (commerciële) AI-systemen zijn oa:
- Onvoldoende functionaliteit: Veel AI-tools zijn te generiek en missen een didactische onderbouwing. Ze bieden geen garantie voor beter leren, alleen voor sneller leren.
- Data-kwaliteit: De integratie en kwaliteit van data blijven een risico. Wat als de input niet klopt? Of als systemen niet transparant zijn over hoe ze tot hun conclusies komen?
- Blackbox-probleem: AI-systemen zijn vaak ondoorzichtig. Hoe kunnen docenten en studenten vertrouwen op technologie die ze niet begrijpen?
De kansen van de huidige (commerciële) AI-systemen zijn oa:
- Versnelling van informatieherkenning: AI kan patronen ontdekken in ongestructureerde data, waardoor informatie sneller en beter vindbaar wordt.
- Geïntegreerde data: Door data uit verschillende bronnen te combineren, ontstaat een rijker leerlandschap.
Mijn observatie: De grootste uitdaging ligt niet in de technologie zelf, maar in hoe we docenten en studenten AI-geletterd maken. Technische infrastructuur is belangrijk, maar zonder de juiste kennis en vaardigheden blijft AI een onbenut instrument.
Een Platform als Brug
Er is behoefte aan een (landelijk) platform dat de kloof overbrugt tussen de risico’s en de potentie van AI. Een plek waar instellingen, docenten en studenten samen kunnen leren, experimenteren en verantwoord innoveren. Technologie is niet waardeneutraal. Privacy, databezit en verantwoordelijkheid zijn geen bijzaak, maar de fundering waarop we moeten bouwen en dat vraagt om overwogen keuzes. Tijdens de bijeenkomst werd nog maar weer eens benadrukt dat ethiek niet iets is wat je achteraf regelt, maar wat je vanaf het begin meeneemt in het ontwerp van AI-toepassingen. De uitdaging is om ethiek en innovatie hand in hand te laten gaan. Hoe zorgen we ervoor dat AI niet alleen efficiënt is, maar ook eerlijk en transparant?
Jailbreaking LLM’s: Een Wake-Up Call
Een leuk en leerzaam onderdeel van de middag was de workshop over jailbreaking van Large Language Models (LLM’s) door John Walker. Studenten proberen beperkingen te omzeilen, met alle risico’s van dien. Dit toont aan dat we niet alleen moeten nadenken over wat AI kan, maar ook over wat het niet mag. Oplossingen zoals het vooraf filteren van ongewenste data zijn noodzakelijk, maar niet voldoende. We moeten studenten leren om kritisch en verantwoord met AI om te gaan. Het is belangrijk dat we studenten (en medewerkers) niet alleen leren hoe ze AI kunnen gebruiken, maar ook waarom ze bepaalde grenzen niet moeten overschrijden.
UvA’s Aanpak: Een Voorbeeld van Responsible AI
Rik Jager van de Universiteit van Amsterdam presenteerde AI Chat van de UvA/HvA, een tool die gebruikmaakt van een responsible AI filter. Dit filter screent op haat, seksuele inhoud, zelfbeschadiging en geweld. Voor meer informatie zie https://www.uva.nl/over-de-uva/over-de-universiteit/ai/ai-in-het-onderwijs/uva-ai-chat/uva-ai-chat-en-verantwoord-gebruik-van-ai.html
Rik nam ons ook mee in zijn visie op de toekomst van EduGenAI en AI Chat van de UvA. De idee is om het via een gelaagde architectuur in te zetten en hiermee vanuit bestaande systemen zoals roostering en de leeromgeving gepersonaliseerde informatie aan studenten te kunnen bieden op een verantwoorde manier. In onderstaande visualisatie heb ik zijn visie geschetst met Napkin AI.
De visie om AI in te zetten om te komen tot gepersonaliseerde informatievoorziening sprak meerdere collega’s van aanwezige instellingen aan en willen we graag meegeven als vraagstuk aan Npuls.
Experimenteren met EduGenAI
Op dit moment lopen er twee Npuls-trajecten met EduGenAI:
- Het experiment ‘vindbaarheid informatie onderwijsinnovatie’ gericht op kennisinfrastructuur
- Pilots op basis van use-cases (via de sleutelteams)
Door vanuit de HAN deel te nemen en samen te werken met andere instellingen, kunnen we niet alleen leren van elkaar, maar ook een voorbeeld zijn voor de sector. Dank aan Richte, Thys, John, Rik en Corneel voor de organisatie.
Dit blog is gebaseerd op de bijeenkomst over EduGenAI bij SURF/NPuls op 7 november 2025. Heb je ideeën of wil je meedenken? Laat het me weten in de reacties!
Leave a Reply