Wat schoolbesturen moeten begrijpen van het toezicht op artificiële intelligentie 

Artificiële intelligentie is in korte tijd doorgedrongen tot vrijwel alle lagen van het onderwijs. Van adaptieve leermiddelen en automatische feedback tot chatbots, planningssoftware en analyses van leerprestaties. De belofte is groot: efficiënter werken, beter maatwerk en ondersteuning van professionals. Tegelijkertijd waarschuwt de Autoriteit Persoonsgegevens dat juist AI-toepassingen fundamentele risico’s met zich meebrengen voor autonomie, gelijke behandeling en privacy. Dat verklaartwaarom AI een van de drie strategische prioriteiten vormt in de toezichtstrategie 2026–2028 en het Jaarplan 2026 . 

Voor schoolbesturen is dit geen technisch signaal, maar een bestuurlijk. De AP maakt duidelijk dat AI geen neutraal hulpmiddel is, maar een technologie die diep ingrijpt in hoe beslissingen tot stand komen en hoe mensen worden beoordeeld. 

De ‘why’ achter de focus van de AP op AI 

De AP benoemt in haar Jaarplan dat AI zich in hoog tempo ontwikkelt en alle domeinen van haar toezicht raakt. Juist die snelheid maakt AI risicovol. Waar traditionele IT-systemen vaak overzichtelijk en corrigeerbaar zijn, geldt voor AI dat achterafingrijpen lastig is en schade moeilijk te herstellen kan zijn. Discriminatie, bias of onterechte conclusies zitten dan al ingebakken in het systeem . 

Daarom wil de AP dat organisaties al vóór de invoering van AI nadenken over risico’s en passende maatregelen. Door vooraf kaders en normen te scheppen, wil zij voorkomen dat organisaties pas reageren als problemen zich openbaren. Die keuzeis ingegeven door de verantwoordelijkheid om grondrechten te beschermen, niet door technologische terughoudendheid. De AP benadrukt dat verantwoord gebruik van AI mogelijk is, maar alleen als risico’s vroegtijdig worden onderkend enmeegewogen . 

Deze benadering sluit aan bij de bredere grondhouding van de AP: probleemgestuurd, samenwerkend en gericht op preventie. Handhaving is een middel, geen doel op zich. 

Wat de AP concreet gaat doen 

De focus op AI blijft niet abstract. In het Jaarplan kondigt de AP meerdere concrete activiteiten aan die richtinggevend zijn voor organisaties, waaronder het onderwijs. Zo publiceert de AP een visie op generatieve AI en de AVG-randvoorwaardenvoor het trainen van AI-modellen. Daarmee wil zij verduidelijken wat wel en niet is toegestaan bij het gebruik van grote datasets en geautomatiseerde besluitvorming . 

Daarnaast besteedt de AP expliciet aandacht aan het recht op uitleg. Organisaties die AI inzetten voor geautomatiseerde besluitvorming moeten kunnen uitleggen hoe besluiten tot stand komen. Dat is juridisch verankerd in de AVG, maar in de praktijk lastig bij complexe algoritmen. De AP wil hier extra handvatten voor bieden . 

Ook de halfjaarlijkse Rapportage AI- en Algoritmerisico’s (RAN) speelt een belangrijke rol. Deze rapportages geven richting aan het gebruik van AI in verschillende contexten en maken zichtbaar waar toezichtrisico’s ontstaan . 

Waarom dit het onderwijs direct raakt 

Het onderwijs is een sector waar AI relatief snel wordt omarmd, vaak via leveranciers van digitale leermiddelen. Veel toepassingen worden gepresenteerd als ondersteunend, adaptief of efficiënt, maar maken ondertussen gebruik van grootschaligedata-analyse en geautomatiseerde besluitvorming. 

De AP maakt duidelijk dat dit soort toepassingen niet los gezien kan worden van de verantwoordelijkheid van het schoolbestuur. Besturen blijven verwerkingsverantwoordelijke, ook als AI wordt ingekocht of ‘standaard’ wordt meegeleverd door eenleverancier. De vraag of een toepassing uitlegbaar is, proportioneel wordt ingezet en geen ongewenste bias bevat, ligt dus niet alleen bij de ontwikkelaar, maar ook bij de gebruiker . 

Voor het onderwijs is dat extra relevant omdat het om kinderen gaat. De AP wijst er herhaaldelijk op dat kwetsbare groepen extra bescherming verdienen. Beslissingen die invloed hebben op leerloopbanen, ondersteuning of beoordeling vragendaarom om extra zorgvuldigheid. 

Van experimenteren naar sturen 

Veel scholen experimenteren momenteel met AI. Dat is begrijpelijk. Tegelijkertijd laat de toezichtstrategie zien dat experimenteren zonder kader risico’s met zich meebrengt. De AP benadrukt dat organisaties al in een vroeg stadium moeten borgendat zij voldoen aan wet- en regelgeving, juist omdat correctie achteraf vaak niet meer mogelijk is . 

Voor schoolbesturen betekent dit een verschuiving van houding. AI vraagt niet alleen om innovatie, maar om sturing. Dat begint bij vragen als: 

• Waarvoor zetten we AI wel en niet in? 

• Welke beslissingen mogen door systemen worden ondersteund? 

• Hoe houden we zicht op werking, data en uitkomsten? 

• En hoe leggen we dit uit aan leerlingen, ouders en medewerkers? 

Dit zijn geen vragen voor de ICT-afdeling alleen. Het zijn vragen waar bestuurders en toezichthouders zelf een antwoord op moeten hebben. 

 

De samenhang met de AI-verordening 

De focus van de AP op AI staat niet op zichzelf. In het Jaarplan benoemt zij expliciet haar rol in het toezicht op de Europese AI-verordening en de samenwerking met andere toezichthouders. Daarbij staat het borgen van grondrechten centraal . 

Voor het onderwijs betekent dit dat het speelveld de komende jaren verder wordt aangescherpt. Toepassingen die nu als onschuldig worden gezien, kunnen onder strengere regimes vallen zodra zij worden ingezet voor beoordeling, selectie of profilering. Door nu al bestuurlijke kaders te ontwikkelen, kunnen schoolbesturen voorkomen dat zij later moeten bijsturen onder druk van toezicht of regelgeving. 

Wat dit vraagt van bestuurders 

De kernboodschap van de AP is helder: AI is geen technisch detail, maar een strategisch onderwerp. Besturen die wachten tot er richtlijnen of incidenten zijn, lopen achter de feiten aan. Besturen die nu duidelijke afspraken maken over AI, kunnennieuwe toepassingen sneller en met meer vertrouwen inzetten. 

Dat betekent niet dat elk bestuur AI-expert moet worden. Wel dat AI expliciet wordt meegenomen in beleid, toezicht en besluitvorming. Net zoals financiën, onderwijskwaliteit en personeelsbeleid dat zijn. 

AI als onderdeel van professioneel bestuur 

De inzet van de AP op de voorkant biedt schoolbesturen ook een kans. Door AI niet te zien als los experiment, maar als onderdeel van professioneel bestuur, ontstaat: 

• meer vertrouwen bij ouders en medewerkers, 

• meer grip op leveranciers en technologie, 

• en meer rust in de organisatie. 

De toezichtstrategie en het Jaarplan maken duidelijk dat de AP organisaties hierin wil ondersteunen met guidance en dialoog, niet alleen met handhaving . Wie die uitnodiging serieus neemt, zet een belangrijke stap richting toekomstbestendigonderwijs.