AI-geletterdheid onder de EU AI-verordening

De EU AI-verordening introduceert een wettelijk vereiste voor AI-geletterdheid

De nieuwe AI-verordening introduceert geharmoniseerde regels voor (i) de ontwikkeling, (ii) het op de markt brengen en (iii) het gebruik van AI-systemen in de Europese Unie, en doet dat volgens een risicogebaseerde aanpak. Deze regels zullen in de komende jaren gefaseerd van kracht worden, waarbij de eerste bepalingen vanaf 2 februari 2025 van toepassing zijn. Een van deze eerste bepalingen is een wettelijke vereiste voor AI-geletterdheid, zoals uiteengezet in artikel 4 van de AI-verordening.

Aanbieders en gebruiksverantwoordelijken van AI-systemen moeten AI-geletterdheid vormgeven en realiseren

Artikel 4 van de AI-verordening vereist het volgende: ‘Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.’ In het licht van deze vereiste betekent AI-geletterdheid: de vaardigheden, kennis en het begrip waarmee aanbieders, gebruiksverantwoordelijken en betrokken personen in staat zijn om – rekening houdend met hun respectieve rechten en plichten in het kader van de AI-verordening – te komen tot een geïnformeerde toepassing van AI-systemen, alsook bewustwording te ontwikkelen ten aanzien van de mogelijkheden en risico’s van AI en de potentiële schade die AI kan veroorzaken (Artikel 3 sub 56).

In het kort komt de vereiste van AI-geletterdheid in Artikel 4 neer op het volgende:

De bepalingen van Artikel 4 zijn van toepassing op de volgende actoren in de AI-waardeketen:

• aanbieders van AI-systemen, dat wil zeggen natuurlijke personen of rechtspersonen, overheidsinstanties, agentschappen of andere organen die een AI-systeem of een AI-model voor algemene doeleinden (laten) ontwikkelen en op de markt brengen, of die het AI-systeem onder hun eigen naam of handelsmerk in gebruik nemen, al dan niet tegen betaling (Artikel 3, sub 3);
• gebruiksverantwoordelijken, dat wil zeggen natuurlijke personen of rechtspersonen, overheidsinstanties, agentschappen of andere organen die een AI-systeem onder eigen verantwoordelijkheid gebruiken, behalve wanneer het AI-systeem wordt gebruikt in het kader van een persoonlijke niet-professionele activiteit (Artikel 3, sub 4).

Met de recente opkomst van (Generatieve) AI in het bedrijfsleven, ligt het voor de hand dat de gemiddelde onderneming of organisatie onder de bepalingen van Artikel 4 van de AI-verordening zal vallen en dus vanaf 2 februari 2025 aan deze vereiste moet voldoen. Voor aanbieders en gebruiksverantwoordelijken van AI-systemen kan het echter een uitdaging zijn om de vereiste AI-geletterdheid vorm te geven en te bereiken, terwijl ze ook nog verantwoordelijk zijn voor de inspanningen die in dat traject worden geleverd (Artikel 4, ‘naar hun beste vermogen’) en het resultaat daarvan (Artikel 4, ‘een voldoende niveau van AI-geletterdheid waarborgen’).

Op dit moment biedt de AI-verordening geen verdere richtlijnen over de aard en diepgang van de vaardigheden, kennis en het begrip dat moeten worden bereikt via AI-geletterdheidsprogramma’s, noch over wat een ‘voldoende niveau’ van AI-geletterdheid inhoudt. De verwachting is dat deze zaken voorlopig ‘in beweging’ zijn en zullen blijven. Dat neemt niet weg dat organisaties hun AI-geletterdheidsprogramma’s moeten ontwerpen en implementeren en, indien van toepassing, moeten voldoen aan de wettelijke vereisten en deadlines. Om organisaties enig houvast te geven bij het implementatieproces, delen we in het volgende deel van dit artikel een aantal eerste inzichten in AI-geletterdheid, gebaseerd op de actuele ontwikkelingen in de praktijk en in de theorie rondom het onderwerp.

Relevante onderwerpen en competentieniveaus voor het vormgeven van AI-geletterdheidsprogramma’s

De definitie van ‘AI-geletterdheid’ in de AI-verordening (Artikel 3 sub 56) bevat drie noodzakelijke niveaus van competentie, die gericht zijn op het geïnformeerd gebruik van AI-systemen: (1) kennis, (2) begrip en (3) vaardigheden. In het kort komen deze niveaus neer op het volgende:

1. het leren van feitelijke informatie over AI-concepten en -praktijken door middel van studie of ervaring (kennis);
2. het begrijpen van het ‘waarom’ achter die feitelijke informatie, om dat inzicht vervolgens te kunnen toepassen op niet eerder voorgekomen en niet-standaard situaties en contexten (begrip); en
3. het herhaaldelijk toepassen van die feitelijke informatie in de dagelijkse praktijk (vaardigheden).

Al deze drie competentieniveaus moeten worden behandeld als onderdeel van de leerdoelen van AI-geletterdheidsprogramma’s binnen organisaties.

Vervolgens is het de vraag welke onderwerpen relevante inhoudelijke bouwstenen zijn voor een geïnformeerd gebruik van AI-systemen. Hoewel de theorie en praktijk van moderne AI-geletterdheid momenteel nog in de kinderschoenen staan, zijn er op dit moment al een aantal belangrijke onderwerp aan te wijzen. De onderstaande tabel geeft een (niet-uitputtend) overzicht van deze onderwerpen:

Zoals aangegeven, is dit overzicht niet uitputtend en (nog) niet afgestemd op specifieke subdoelgroepen van de organisatie (bijvoorbeeld (non-)executives, de business, datawetenschappers en -engineers, juridische en compliance-functies, risicomanagementfuncties, HR, interne audit). Andere onderwerpen die relevant kunnen zijn om te behandelen – afhankelijk van de specifieke omstandigheden en subdoelgroepen – zijn bijvoorbeeld AI-governance (het opzetten van interne AI-governancestructuren, rollen en verantwoordelijkheden in de AI-governance), AI-verantwoording (verantwoordingsmechanismes bij de ontwikkeling en het gebruik van AI, en de rapportage en controle van AI-systemen) en het mensgerichte ontwerp van AI (het ontwerpen van AI-systemen met oog voor de behoeften van gebruikers).

De eerste praktijkvoorbeelden van AI-geletterdheid wijzen uit dat sommige onderwerpen geschikt zijn om in de hele organisatie te behandelen (bijvoorbeeld conceptueel begrip van AI), terwijl andere het meest opleveren wanneer ze worden afgestemd op subdoelgroepen binnen de organisatie. Dit geldt vooral voor modules die gevoeliger zijn voor specifieke (generatieve) AI-toepassingen en -tools, of als verschillende gebruikersgroepen in de organisatie op verschillende manieren baat kunnen hebben bij AI-toepassingen en -tools voor algemene doeleinden. Deze overwegingen zijn belangrijk bij het vormgeven binnen organisaties van AI-geletterdheidsprogramma’s die voldoen aan de vereisten van de AI-verordening en rekening houden met de context waarin de AI-systemen zullen worden gebruikt.

AI-geletterdheid is een reis, niet een bestemming

Een effectief AI-geletterdheidsprogramma is essentieel om enerzijds werknemers voldoende bij te scholen zodat ze in staat zijn de (toekomstige) AI-strategie uit te voeren en AI verantwoord te gebruiken, maar ook om invulling te geven aan nieuwe wettelijke vereisten, ze te implementeren en na te leven. Zo’n werknemersbestand is een voorwaarde om echte transformationele waarde uit AI te behalen én dat proces te versnellen.

De weg naar AI-geletterdheid zal de komende jaren ongetwijfeld een voortdurende leerervaring zijn. Dit betekent dat een AI-geletterdheidsplan en -programma dat op korte termijn wordt ontwikkeld en uitgevoerd, ook een visie moet bevatten voor dit voortdurende leerproces (op de hoogte blijven van ontwikkelingen in AI, aankomende regelgeving en maatschappelijke ‘algoprudentie’) en moet voorzien in middelen die dit proces actief kunnen ondersteunen.