GenAI vraagt om menselijk toezicht

In dit artikel nemen AI-experts Christian Eistrup en Omololu Bajulaiye van PwC u daarom mee naar de kansen en risico’s van GenAI voor uw organisatie. ‘GenAI moeten we als maatschappij nooit volledig zelfstandig laten werken. Menselijk toezicht blijft een must.’

GenAI: wat zijn de kansen? 

Bajulaiye en Eistrup zijn positief over de mogelijkheden die GenAI biedt. ‘Er liggen enorme kansen en voordelen voor bedrijven om GenAI te gebruiken. AI-toepassingen zoals ChatGPT en Bard ontwikkelen zich erg snel en verbeteren zich elke dag. Met behulp van deze toepassingen kunnen organisaties ondersteuning krijgen in het creëren van tekst, beeld, video en audio. Ook kan AI ondersteuning bieden bij due diligence en hulp bieden bij softwareontwikkelaars om hen te ondersteunen in het maken van nieuwe codes’, legt Bajulaiye uit. 

Meer efficiëntie, minder werkdruk

GenAI-toepassingen kunnen processen binnen organisaties veel efficiënter maken, stelt Bajulaiye. ‘Omdat bedrijven veel gegevens verwerken, kan het voor hen tijdrovend zijn om te controleren of activiteiten en processen voldoen aan de regelgeving. Met behulp van GenAI kunnen inhoudelijke vragen hierover snel worden beantwoord, omdat deze systemen de regelgeving steeds beter leren kennen. Het algoritme weet niet alleen wat de regels zijn, maar past zich aan naar het werkveld van uw organisatie, zodat u weet wat u moet doen. Hierdoor kan regelgeving nauwkeurig worden geïdentificeerd en nageleefd. Doordat GenAI bepaalde taken van de mens kan overnemen, wordt het werk van mensen efficiënter ingedeeld. Er ontstaat zo minder werkdruk voor uw personeel’. 

Eistrup: ‘Uiteindelijk zal wetgeving zoals de EU AI Act ervoor zorgen dat er ethische kaders zijn die duidelijkheid brengen in het gebruik van AI-systemen. Daardoor kan GenAI op een constructieve en verantwoordelijke manier worden gebruikt’. 

GenAI: wat zijn de risico’s? 

Naast kansen, zijn er ook risico’s die komen kijken bij het gebruik van GenAI-toepassingen. Doordat AI-toepassingen een erg snelle ontwikkeling doormaken, volgt er strengere wet- en regelgeving, zoals de genoemde EU AI Act. Deze wetgeving wordt binnen enkele jaren uitgerold.  ‘Organisaties die AI-toepassingen gebruiken of dat gaan doen, moeten daarom beleid ontwikkelen zodat ze zich aan deze regelgeving houden. Bedrijven moeten transparant zijn in hun beleid, zodat er vertrouwen is in hun werkwijze en ze altijd openheid van zaken kunnen geven’, aldus Eistrup. 

Zorg voor menselijk toezicht

Maar hoe zorgt nieuwe wet- en regelgeving voor meer transparantie? Eistrup: ‘Een van de eisen van de EU AI Act is dat als een tekst gepubliceerd wordt door een GenAI-algoritme, dit vooraf duidelijk moet worden gemaakt aan de lezer. Daarmee wordt het zichtbaar voor de lezer dat de tekst niet door een mens geschreven is. Ook moeten ontwikkelaars van GenAI-algoritmes ervoor zorgen dat ze geen illegale data gebruiken, want daar kun je voor bestraft worden’. 

Bajulaiye: ‘AI-systemen genereren nieuwe informatie op basis van openbare gegevens. Daardoor is er altijd een risico dat GenAI-systemen onjuiste of onnauwkeurige informatie ophalen. Het is daarom belangrijk dat er altijd voldoende menselijk toezicht aanwezig is om de kwaliteit van uw AI-systemen te waarborgen’.  

Wees alert als u met GenAI-systeem werkt

Bajulaiye attendeert organisaties erop dat ze scherp moeten blijven als ze met gevoelige informatie werken. ‘Als GenAI binnen organisaties wordt gebruikt, heeft het toegang tot enorme hoeveelheden informatie. Als deze gegevens niet goed worden beschermd, kunnen ze worden blootgesteld aan datalekken, misbruik of ongeoorloofd gebruik. Dit heeft ernstige gevolgen voor de privacy en de veiligheid. Zeker voor organisaties die over bedrijfs- en klantgevoelige data beschikken in het publieke domein. Wees dus alert als u met GenAI-systemen gaat werken’.  

Eistrup: ‘Belangrijke beslissingen moet u niet volledig laten afhangen van de output van GenAI. Aan de achterkant is de werking van GenAI-algoritmes namelijk praktisch een zwarte doos en bijna onmogelijk te begrijpen, zelfs voor de mensen die de techniek hebben ontwikkeld’. 

Technologie en menselijke capaciteiten zijn complementair

Bajulaiye: ‘De ontwikkelingen van AI volgen elkaar in hoog tempo op. Door toepassingen zoals Chat GPT, Microsoft Bing of Google Bard zorgvuldig te gebruiken, blijft u niet alleen als organisatie relevant, maar loopt u ook voorop. We vinden bij PwC technologie erg belangrijk, maar we hebben nog steeds mensen nodig om de juiste keuzes te maken. Daarom staan wij voor ons motto: ‘human-led, tech-powered’, want nieuwe technologie en menselijke capaciteiten zijn tenslotte complementair aan elkaar. We hebben ze allebei nodig om vooruitgang te boeken’.