Onderzoek naar algoritmen in het onderwijs

Digitale toepassingen spelen een belangrijke rol in het onderwijs. Dergelijke toepassingen maken vaak gebruik van algoritmen. KBA Nijmegen en ResearchNed hebben onderzoek gedaan naar de risico’s van de inzet van algoritmen in het onderwijs. Het onderzoek was vooral gericht op risico’s op discriminatie en uitsluiting en op mogelijkheden om dat te voorkomen.

Het onderzoek is uitgevoerd in opdracht van het College voor de Rechten van de Mens. Het bestond uit desk research en vraaggesprekken. In het kader van de desk research zijn organisaties benaderd die belangen vertegenwoordigen van verschillende partijen in het onderwijs, evenals kennisorganisaties op het gebied van ICT in het onderwijs en er zijn beleidsstukken opgevraagd. Tevens is een literatuurstudie uitgevoerd. De gesprekken zijn gevoerd met tal van betrokkenen, waaronder experts op dit gebied, vertegenwoordigers van leerlingen, studenten en ouders, ontwikkelaars en aanbieders van toepassingen, de onderwijsinspectie en het Ministerie van OCW.

Het onderzoek had betrekking op het primair en voortgezet onderwijs, het middelbaar beroepsonderwijs en het hoger onderwijs. In het primair en voortgezet onderwijs worden vooral adaptieve leersystemen gebruikt, evenals automatische nakijkprogramma’s, dashboards, simulaties, leerlingvolgsystemen en adaptieve toetsen. In het middelbaar beroepsonderwijs en het hoger onderwijs wordt onder meer gebruik gemaakt van ‘learning analytics’ en er wordt gewerkt aan modellen die in een vroeg stadium van de studie mogelijke studie¬uitval en de behoefte aan extra ondersteuning kunnen voorspellen. Ook zijn er in verschillende onderwijssectoren toepassingen gericht op het voorkomen van fraude (‘proctoring software’ bij tentamens en systemen die beoordelen of teksten door een mens of door artificiële intelligentie zijn geschreven) en er zijn toepassingen die algoritmen gebruiken bij plaatsing van leerlingen op een school (zoals lotingssystemen).

Een algoritme is een procedure die gebruikt wordt om in een geautomatiseerd proces een probleem op te lossen of een berekening uit te voeren. Het is een lijst met stapsgewijs uit te voeren instructies. Algoritmen maken gebruik van data op basis waarvan geautomatiseerd beslissingen kunnen worden genomen of voorspellingen kunnen worden gedaan. Met behulp van vooraf ingevoerde data kunnen algoritmen worden ‘getraind’. Risico’s op discriminatie en/of kansenongelijkheid kunnen het gevolg zijn van ‘bias’. Deze kan ontstaan door de selectie of het gebruik van data waarmee het algoritme is getraind en door de manier waarop het algoritme is geprogrammeerd. Als het algoritme onvoldoende rekening houdt met de achtergrond of specifieke kenmerken van bepaalde groepen, bestaat de kans dat zij worden benadeeld. Na de inzet van een algoritme kunnen risico’s ontstaan als de uitkomsten niet op bias worden gecontroleerd. Of algoritmen inderdaad sommige groepen benadelen, is doorgaans moeilijk vast te stellen. Het is bij veel algoritmen onvoldoende transparant hoe zij precies werken. Een ander risico van het gebruik van algoritmen in het onderwijs, is het risico dat de privacy van leerlingen en studenten onvoldoende is gewaarborgd.

Uit een rondgang bij betrokken organisaties en instanties blijkt dat er weinig beleid is op het gebied van algoritmen in het onderwijs. Met de Europese AI Act wordt gepoogd de risico’s van artificiële intelligentie (en daarmee ook algoritmen) in te dammen, maar die regels vragen nog om een specifieke invulling. Er is een algoritmeregister van de Nederlandse overheid, waarmee wordt getracht tot meer transparantie te komen over toepassingen met algoritmen en hoe deze te werk gaan. Deskundigen vinden het van groot belang dat wordt vastgelegd aan welke voorwaarden algoritmen moeten voldoen. Ook moeten algoritmen uitgebreid worden getest op uitkomsten die tot kansenongelijkheid (kunnen) leiden bij bepaalde groepen leerlingen en studenten.

 

Auteurs: dr. Ed Smeets, Daniëlle van Helvoirt MSc

Lees ook

leerprestaties

Digitaal afstandsonderwijs in het primair onderwijs

dr. Ed Smeets

Geplaatst op 6 mei 2024 Lees publicatie
leerprestaties

Onderzoek naar integraal onderwijsachterstandenbeleid op school

dr. Annemarie van Langen

Geplaatst op 8 april 2024 Lees publicatie

Op de hoogte blijven?

Inschrijven nieuwsbrief