Artificial Intelligence (AI) speelt een steeds grotere rol in het onderwijs. Steeds meer leraren en leerlingen maken gebruik van systemen voor artificiële intelligentie (AI) en vaak zonder zich daarvan bewust te zijn. Zoekmachines, chatbots, vertaling, slimme assistenten, navigatie-apps en vele andere toepassingen. Leraren gebruiken AI-systemen op verschillende manieren om het lesgeven te ondersteunen of het leren te vergemakkelijken. AI-tools bieden tal van voordelen voor leraren en leerlingen/ studenten. Echter komen met deze innovaties ook zorgen, met name op het gebied van privacy. In dit artikel verkennen we de belangrijkste privacyrisico’s van AI-tools in het onderwijs en hoe scholen hierop kunnen inspelen.
Verzameling en opslag van persoonlijke gegevens
Eén van de grootste risico’s van AI in het onderwijs is de massale verzameling van gegevens. AI-tools werken vaak op basis van grote hoeveelheden data. Denk daarbij aan persoonsgegevens zoals namen, geboortedata, scores, gedragsgegevens en zelfs gezondheidsinformatie. Deze gegevens worden vaak opgeslagen in de cloud en kunnen kwetsbaar zijn voor datalekken.
Gevolgen:
Als gevoelige informatie bij onbevoegden terechtkomt, kan dit leiden tot identiteitsdiefstal, cyberpesten of andere vormen van misbruik. Daarnaast bestaat het risico dat gegevens worden gedeeld met derde partijen zonder toestemming van de betrokkenen.
Gebrek aan transparantie over data-opslag
Helaas zijn er veel commerciële bedrijven die AI-tools ontwikkelen die niet altijd transparant zijn over hoe zij gegevens verwerken en waar ze die opslaan. Hoe lang worden gegevens bewaard en wie heeft er toegang tot de data? Het komt weleens voor dat een bedrijf gegevens verkoopt aan adverteerders of andere derde partijen. Dit brengt de privacy van leerlingen en medewerkers in gevaar.
Gevolgen:
Onwetendheid over de opslag van gegevens en hoe deze worden gebruikt, ondermijnt het vertrouwen van ouders, leerlingen/studenten en medewerkers in de technologie. Dit kan ook juridische implicaties hebben, vooral als scholen de privacywetgeving overtreden.
Inbreuk op privacy door monitoring en surveillance
Sommige AI-tools zijn ontworpen om het gedrag van leerlingen/ studenten te monitoren. Dit gebeurt door middel van proctoring-software die tijdens toetsen oogbewegingen en geluiden in de kamer registreert. Hoewel deze tools bedoeld zijn om fraude te voorkomen, kunnen ze als invasief worden ervaren.
Gevolgen:
De constante bewaking kan leiden tot een gevoel van wantrouwen en angst bij leerlingen/ studenten. Bovendien roept het ethische vragen op over hoeveel toezicht acceptabel is, vooral als het gaat om jongere kinderen die nog niet volledig begrijpen hoe hun gegevens worden gebruikt.
Automatische besluitvorming en vooringenomenheid
AI-tools die beslissingen nemen op basis van gegevens, zoals welke leerlingen extra ondersteuning nodig hebben, kunnen onbedoeld vooringenomen zijn. Deze systemen leren van eerdere gegevens. Deze gegevens kunnen menselijke vooroordelen bevatten en kan dus leiden tot oneerlijke beoordelingen of ongelijkheid in de behandeling van verschillende groepen leerlingen.
Gevolgen:
Leerlingen/ studenten kunnen op basis van vertekende gegevens ten onrechte worden beoordeeld of gestigmatiseerd. Dit beperkt hun kansen in het onderwijs en dat is zeker niet de bedoeling. Dit probleem wordt verergerd wanneer er geen menselijke tussenkomst is om deze vooroordelen te corrigeren.
Onvoldoende controle door scholen
Scholen die AI-tools inzetten, vertrouwen vaak op de leveranciers van de technologie om de beveiliging en privacy van gegevens te waarborgen. Dit betekent dat scholen niet altijd voldoende controle hebben over hoe gegevens worden beheerd en beschermd. Dit is zorgwekkend, vooral omdat de verantwoordelijkheid voor informatiebeveiliging en privacy uiteindelijk bij de onderwijsinstellingen zelf ligt.
Gevolgen:
Scholen kunnen aansprakelijk worden gesteld bij datalekken of andere inbreuken op de privacy. Dit kan niet alleen leiden tot boetes en juridische problemen, maar ook tot reputatieschade en verlies van vertrouwen onder ouders en leerlingen/ studenten.
Hoe kunnen scholen de privacyrisico’s van AI-tools beperken?
Scholen kunnen verschillende maatregelen treffen om de privacy van betrokkenen beter te beschermen:
- Werk met betrouwbare AI-tools: Werk alleen samen met technologiebedrijven die transparant zijn over hun privacybeleid en voldoen aan de geldende wet- en regelgeving, zoals de AVG.
- Beperk de hoeveelheid verzamelde gegevens: Verzamel alleen de gegevens die absoluut noodzakelijk zijn voor het leerproces en zorg ervoor dat deze goed worden beveiligd.
- Zorg voor toestemming: Voordat AI-tools worden ingezet, is het belangrijk om ouders (of studenten zelf, indien meerderjarig) en medewerkers goed te informeren en expliciet om toestemming te vragen voor het verzamelen en verwerken van hun gegevens.
- Implementeer menselijke controle: Laat belangrijke beslissingen die door AI-tools worden voorgesteld altijd controleren door een medewerker, want zo voorkom je om vooringenomenheid.
- Stel duidelijke protocollen op voor gegevensbeheer: Scholen moeten ervoor zorgen dat ze duidelijke afspraken maken met leveranciers over wie toegang heeft tot de gegevens. Daarnaast moeten ze ook afspraken maken over hoe lang de gegevens worden bewaard en hoe ze worden beschermd tegen datalekken.
Kansen en uitdagingen van AI-tools in het onderwijs
AI biedt enorme mogelijkheden om het onderwijs te verbeteren, maar het is cruciaal dat scholen aandacht besteden aan de privacyrisico’s die deze technologie met zich meebrengt. Ze moeten proactieve maatregelen nemen en bewust zijn van de gevaren van AI-tools. Dit is belangrijk als scholen een veilige en effectieve leeromgeving willen creëren waarin technologie een positieve rol speelt en rekening wordt gehouden met de privacy van betrokkenen.
Privacy awareness trainingen met focus op AI-risico’s
In de snel veranderende wereld van technologie en kunstmatige intelligentie (AI) is privacy belangrijker dan ooit. Onze Privacy awareness trainingen bieden organisaties de essentiële kennis om privacyrisico’s te herkennen en te beheersen, met speciale aandacht voor de impact van AI.
