De Europese AI-verordening (AI Act) treedt de komende jaren gefaseerd in werking en heeft directe gevolgen voor onderwijsinstellingen. Deze wetgeving introduceert een risicogebaseerde benadering van kunstmatige intelligentie, waarbij AI-toepassingen worden geclassificeerd op basis van hun impact op individuen en de samenleving.
In het onderwijs kan men daarbij denken aan AI-systemen die leerprestaties van leerlingen monitoren en voorspellen maar ook aan AI-systemen die docenten ondersteunen in het nakijken en beoordelen van toetsen. In de AI Act worden systemen die invloed uitoefenen op beoordeling, selectie of besluitvorming aangemerkt als ‘hoog risico’ en zijn onderworpen aan strenge eisen op het gebied van transparantie, documentatie, toezicht en verantwoording. Hoog tijd voor de bestuurder van de onderwijsinstelling om zich tijdig en goed te laten informeren.
Wat is de AI Act?
De AI Act is een wet die kunstmatige‑intelligentiesystemen reguleert op basis van risico, met als doel fundamentele rechten, veiligheid en publieke waarden te beschermen. De AI Act is op 1 augustus 2024 in werking getreden en wordt gefaseerd van toepassing tussen 2025 en 2027, waarbij de verplichtingen voor hoog‑risico‑AI-systemen uiterlijk in 2027 gelden.
Gedeelde verantwoordelijkheid
De AI Act legt primaire verplichtingen bij leveranciers van AI‑systemen, zoals het uitvoeren van risicobeoordelingen, het leveren van transparante documentatie en het aantonen dat hoog‑risico‑AI-systemen voldoen aan wettelijke eisen. Echter, onderwijsinstellingen blijven zelf verantwoordelijk voor een zorgvuldige, uitlegbare en controleerbare inzet van AI. Dit betekent onder meer dat beslissingen die (mede) door AI tot stand komen uitlegbaar moeten zijn, dat menselijke tussenkomst is geborgd en dat risico’s zoals discriminatie en bias worden gesignaleerd.
Inzicht in AI-toepassingen
Voor bestuurders betekent dit dat tijdige actie noodzakelijk is. Een goed startpunt is het integraal in kaart brengen van alle AI-toepassingen binnen de onderwijsinstelling, gevolgd door een risicoanalyse conform de AI Act. Op basis daarvan kunnen beleid, kaders en besluitvormingsprocessen worden ingericht die voldoen aan de wettelijke eisen én aansluiten bij de (publieke) waarden van het onderwijs.
Meer weten?
Wilt u eens vrijblijvend geïnformeerd worden over wat de AI Act voor uw onderwijsinstelling betekent? Govers kan u ondersteunen bij het verkrijgen van inzicht, het uitvoeren van risicoanalyses en het inrichten van passende beheersmaatregelen rondom AI. Onze specialisten hebben kennis en ervaring op het gebied van informatiebeveiliging, AI en privacy. Neem contact op met Rolijn van Vught (rolijn.vanvught@govers.nl) voor meer informatie.