De EU Artificial Intelligence Act is er, wat nu?

Met de goedkeuring van de EU AI Act staan organisaties nu voor de uitdaging om de organisatorische impact van deze Europese regelgeving te begrijpen en passende maatregelen te nemen. Dit vanuit nieuwe regelgeving gedreven proces lijkt op gespannen voet te staan met hun verkenning van het potentieel van kunstmatige intelligentie (AI). PwC-expert Mona de Boer deelt drie zogeheten no-regret-acties. Daarvan kunt u profiteren terwijl u zowel de mogelijkheden als de risico's van AI voor uw bedrijfsvoering aan het verkennen bent.

Precies drie jaar na de eerste versie is de EU AI Act eindelijk een feit. De Europese wet heeft als doel om verantwoord en ethisch gebruik van kunstmatige intelligentie te waarborgen en tegelijkertijd innovatie en concurrentie te stimuleren. De invoering van de wet zorgt wel voor enige dynamiek bij organisaties. Voor de meeste bedrijven valt namelijk het nadenken over de risico's en de naleving van de regelgeving samen met het verkennen van het business potentieel van AI. In de dagelijkse praktijk leidt dit vaak tot de vraag welke van de twee - de risico’s en naleving of het verkennen van de mogelijkheden - als eerste duidelijk moet zijn om de andere richting te geven. In werkelijkheid gaat het over twee kanten van dezelfde medaille. Daarom kunt u als organisatie profiteren van enkele directe no-regret-acties, terwijl u zowel de mogelijkheden als de risico's van AI voor uw bedrijfsvoering aan het verkennen bent.

No-regret-actie #1: breng uw huidige en verwachte AI-toepassingen in kaart

1. Top-down: definieer huidige en denkbare business kansen en uitdagingen en vergelijk deze met het potentieel dat (generatieve) AI-technologie biedt. Het resultaat: uw top-down gedefinieerde AI-use cases.
2. Bottom-up: houd een brainstormsessie met een juiste vertegenwoordiging van relevante bedrijfsfuncties om potentiële AI-use cases te identificeren. Het resultaat: uw bottom-up gedefinieerde AI-use cases.
3. Voeg beide categorieën AI-use cases samen en plot ze tegen twee dimensies:
   • algehele business impact, en
   • vereiste implementatie-inspanning.
4. Licht uw ‘quick wins’ (hoge business impact, lage implementatie-inspanning) en ‘high potentials’ (hoge business impact, hoge implementatie-inspanning) eruit. Het resultaat: uw strategische landschap van AI-toepassingen.
5. Inventariseer uw huidige AI-toepassingen, in gebruik als in ontwikkeling, en voeg ze toe aan het strategische landschap. Vergeet niet om ook applicaties van derde partijen mee te nemen.

De inventarisatie moet minstens het volgende bevatten:

• het doel en het beoogde gebruik van elk AI-systeem,
• de data die het gebruikt,
• de kernfunctionaliteit/werking ervan,
• de processen, functies en (in)directe belanghebbenden die het AI-systeem beïnvloedt.

Het resultaat: een solide startpunt voor zowel een AI-strategie als een analyse van de impact van de regelgeving op de organisatie.

No-regret-actie #2: vergroot de bewustwording en vaardigheden van werknemers

Voor elke baan, functie of rol is de vraag niet óf AI deze zal veranderen, maar wanneer. Het vooralsnog ontbreken van een AI-strategie is geen legitieme reden om te wachten met het aanbieden van bijscholingsmogelijkheden aan werknemers of het creëren van een veilige leeromgeving waarin ze vaardigheden kunnen opbouwen in het gebruik van AI en het omgaan met de risico’s van de technologie. Dat laatste is vooral van belang zodat werknemers op eigen initiatief ervaring kunnen opdoen met het gebruik van (generatieve) AI.

Wendbaarheid is het sleutelwoord hier. Het toepassen van de nieuwste generatie AI-technologie is als het leren samenwerken met een nieuwe (‘bekabelde’) collega: je moet tijd met elkaar doorbrengen om op elkaar afgestemd te raken. Bij voorkeur is dit al gebeurd voordat de samenwerking dagelijkse realiteit wordt.

Waar moet de bijscholing zich nu op richten:

1. Inleiding tot (generatieve) AI en de principes ervan: dit onderwerp geeft een overzicht van (generatieve) AI en legt de fundamentele principes en toepassingen ervan uit. Werknemers leren de potentiële voordelen en uitdagingen begrijpen die gepaard gaan met het gebruik van (generatieve) AI.
2. Verantwoord gebruik van (generatieve) AI: dit onderwerp benadrukt het belang van verantwoord gebruik van AI. Werknemers leren over ethische overwegingen, waaronder bias, rechtvaardigheid, privacy en transparantie, in de context van AI-toepassingen. Ze krijgen inzicht in de noodzaak om ervoor te zorgen dat AI-systemen op een verantwoorde en controleerbare manier worden ontwikkeld en ingezet, in overeenstemming met de nieuwe wettelijke vereisten onder de AI Act.
3. Prompt engineering: dit onderwerp richt zich op het concept van ‘prompt engineering’, waarbij gebruikers van generatieve AI-toepassingen leren effectieve prompts of instructies te ontwerpen om het gedrag en de output van AI-modellen te sturen. Werknemers leren hoe ze prompts kunnen schrijven die gewenste resultaten opleveren. Ze krijgen inzicht in het belang van ‘prompt engineering’ voor betrouwbare en ethische AI-resultaten.

Door deze drie belangrijke onderwerpen te behandelen, kunnen organisaties werknemers voorzien van een uitgebreid begrip van (generatieve) AI, verantwoord gebruik van AI en het belang van ‘prompt engineering’ voor effectieve en ethische AI-toepassing.

Het resultaat: een toegerust personeelsbestand dat klaar is om de (toekomstige) AI-strategie uit te voeren, AI verantwoord te gebruiken en wettelijke vereisten invulling te geven, te implementeren en na te leven.

No-regret-actie #3: implementeer richtlijnen voor verantwoord AI-gebruik

Verantwoord gebruik van AI draait om gewenst zakelijk gedrag. Het vereist in de eerste plaats bewustzijn en duidelijkheid over wat dat inhoudt en ten tweede de vaardigheid om gerelateerde risico’s in de praktijk te herkennen en daar effectief op te reageren. Organisaties moeten eenvoudige, maar duidelijke en werkbare richtlijnen voor verantwoord gebruik vaststellen. Die richtlijnen geven aan wat altijd moet gebeuren en/of wat nooit mag gebeuren als het gaat om het gebruik van AI en data, de zogenoemde ‘non-negotiables’.

Om de werkprincipes voor dagelijks gebruik te bepalen, kunnen organisaties inspiratie putten uit de ethische AI-principes, zoals transparantie, verantwoording, menselijk toezicht, sociaal en ecologisch welzijn. Die zijn in 2019 geformuleerd door de Europese Commissie. Deze principes bieden brede richtlijnen en moeten doorgaans verder geoperationaliseerd worden om werkbaar te zijn in de dagelijkse praktijk.

Bij het ontwikkelen van deze richtlijnen voor verantwoord AI-gebruik binnen de organisatie is het van belang een geschikte balans te vinden tussen het stellen van grenzen en het bieden van vrijheid voor innovatie binnen de organisatie. Immers: geen innovatie, geen risico; geen risico, geen innovatie.

Het resultaat: duidelijke criteria om de AI-strategie en de uitvoering ervan end-to-end te sturen door de levenscyclus van de organisatorische AI.

Kom in actie, terwijl u AI verder verkent

Nu de kansen en risico’s van AI zich in een ongekend hoog tempo ontwikkelen, is het motto ‘vooruitgang boven perfectie’ meer van toepassing dan ooit. De vraag voor veel organisaties is niet óf hun activiteiten aan AI blootgesteld gaan worden, maar wanneer. Deze drie no-regret-acties helpen u in actie te komen, terwijl u AI als ontwikkeling verder kunt verkennen.