AI-geletterdheid uitgelegd: wat is het en wat moet je doen?
Of het nu gaat om Chat GPT, Microsoft Copilot, Google Gemini, Notion AI of Grammarly, kunstmatige intelligentie (AI) wordt volop ingezet en gebruikt door organisaties. Er zitten ontzettend veel voordelen aan het gebruik van dien: bedrijven kunnen sneller innoveren en de efficiëntie wordt verhoogd. Aan de andere kant brengt het gebruik van AI echter ook risico's met zich mee, zoals datalekken, desinformatie, inbreuken op intellectuele eigendomsrechten en zelfs discriminatie.
De AI-verordening is per 1 augustus 2024 in werking getreden en is het allereerste rechtskader met het doel om betrouwbare AI in Europa te bevorderen. Vanaf 2 februari 2025 verplicht de AI-verordening organisaties ertoe om zorg te dragen dat hun medewerkers ‘AI-geletterd’ zijn. Maar wat houdt dit precies in?
Betekenis AI-geletterdheid
De AI-Act definieert AI-geletterdheid als volgt:
AI-geletterdheid betekent dus kort gezegd dat ontwikkelaars van AI-systemen alsmede organisaties die AI-systemen gebruiken, over kennis, begrip en vaardigheden moeten beschikken om hiermee op een veilige en verantwoorde manier om te gaan. De AI-verordening schrijft hier verder de volgende verplichting voor:
Concreet betekent AI-geletterdheid dat gebruikers van AI-systemen en ontwikkelaars zodanig moeten begrijpen wat het betekent om met AI te werken en welke risico’s het gebruik met zich meebrengt. AI ontwikkelt in een sneltreinvaart, waardoor het ontzettend belangrijk is te begrijpen waar je mee te maken hebt. Zoals de Autoriteit Persoonsgegevens ook schrijft, gaat het niet alleen om kennis over de technische werking van AI-systemen, maar ook over bewustzijn van de relevante sociale, ethische en praktische aspecten.
Waarom is AI-geletterdheid belangrijk?
Hoewel het voor velen zal aanvoelen als weer een checkbox van een afvinklijstje, is AI-geletterdheid ontzettend belangrijk. Het gaat hierbij niet alleen om het voldoen aan wetgeving, maar ook om het mee groeien met de nieuwe techniek. Dit kan niet zonder de nodige kennis van het product waar je mee te maken hebt, aangezien aan het gebruik van AI ook veel risico’s kleven. Een aantal risico’s kunnen zijn:
Bias en discriminatie: Gezien het feit dat AI wordt getraind op basis van data, is kwaliteit van data ontzettend belangrijk. Historische datasets waarop AI wordt getraind, kunnen een bepaalde ‘bias’ bevatten, waardoor vooroordelen kunnen worden versterkt, zoals gender- of raciale ongelijkheden. Denk ook aan andere voorbeelden zoals gezichtsherkenning systemen die mensen van kleur minder accuraat identificeren.
Desinformatie: Een ander voorbeeld is het gebruik van ChatGPT. Een AI-systeem zoals ChatGPT genereert antwoorden op basis van patronen in data. Dit betekent dat de informatie niet altijd volledig correct is of zelfs verzonnen kan zijn. Het effect dat taalmodellen zoals ChatGPT, feiten en omstandigheden verzinnen, wordt ook wel het ‘hallucineren’ genoemd. Het klakkeloos overnemen van informatie die AI-systemen zoals ChatGPT generen, kan ernstige gevolgen hebben. Zorg dragen voor bewustwording is niet alleen wettelijk verplicht, maar ook noodzakelijk om dit soort risico’s onder de aandacht te brengen.
Juridische uitdagingen: Daarnaast zijn er ook juridische uitdagingen. Allereerst natuurlijk de AI-verordening zelf, waaruit verplichtingen voortvloeien. Denk bijvoorbeeld aan de verschillende risicocategorieën op basis waarvan AI-systemen moeten worden geclassificeerd. Daarnaast zijn er ook andere rechtsgebieden die de AI-systemen zullen raken. De Autoriteit Persoonsgegevens waarschuwde bijvoorbeeld dat het gebruik van een AI-chatbot kan leiden tot datalekken of ongeoorloofde verwerking van persoonsgegevens. Ook zijn er auteursrechtelijke vraagstukken zoals de omgang met het intellectuele eigendomsrecht bij door AI gegenereerde content?
Naast deze voorbeelden van relevante risico’s, zijn er ook vraagstukken zoals het technisch begrip van de werking van een AI-systeem en de praktische vaardigheden om output goed te kunnen interpreteren.
Wat betekent AI-geletterdheid voor mijn organisatie?
Al met al, er is werk aan de winkel! Artikel 4 van de AI-verordening stelt dat de AI-geletterdheid voldoende moet zijn, maar geeft geen concrete richtlijnen over het vereiste kennisniveau. Dit betekent dat het dus lastig kan zijn om te bepalen welk kennisniveau vereist is en welke stappen je moet zetten. Wel wordt benadrukt dat context belangrijk is. Dit betekent dat indien er veel met AI-systemen wordt gewerkt er meer training nodig zal zijn, dan wanneer incidenteel een tol wordt ingezet.
Dit neemt echter niet weg dat er in ieder geval een start kan worden gemaakt. Om een begin te maken, kun je alvast kijken naar het volgende:
In hoeverre worden er al systemen ontwikkeld of gebruikt?
Wat zijn de risico’s van deze systemen (welke risicoclassificatie)?
Wat is het niveau van AI-kennis van de medewerkers?
Wat is er al gedaan aan bewustwording rondom AI bij medewerkers?
Op basis van de gedane inventarisatie, kun je beoordelen wat voor training er nodig is en waar je moet beginnen. De Autoriteit Persoonsgegevens heeft ook een document gepubliceerd met de nodige stappen om aan AI-geletterdheid te voldoen: Aan de slag met AI-geletterdheid | Autoriteit Persoonsgegevens
De komende tijd zal moeten blijken hoe AI-geletterdheid praktisch ingevuld moet worden. Dit neemt niet weg dat organisaties nu al verplicht zijn om aan AI-geletterdheid te werken. Zie het ook niet als weer een verplichting waar je aan moet voldoen, maar juist een investering om mee te gaan met de huidige ontwikkelingen.
Wil je weten wat jouw organisatie aan AI-geletterdheid kan doen? Lujin Privacy Legal helpt je verder! Mail naar info@lujinpl.nl of neem dan contact op via het contactformulier.
Wist je dat deze blog deels is gestructureerd met behulp van AI? Transparantie over AI-gebruik is essentieel voor betrouwbare en begrijpelijke content!