Zet gebruiker centraal bij het toepassen van artificial intelligence

Mona de Boer Partner, Data & Artificial Intelligence, PwC Netherlands 20/01/20

Bestuurders zijn terughoudend om te innoveren met artificial-intelligencetoepassingen, omdat ze bang zijn niet aan de strenge regels rondom de bescherming en de privacy van data te voldoen. Data- en artificial-intelligencespecialist Mona de Boer raadt bestuurders aan AI-innovatie iteratief aan te pakken in multidisciplinaire teams, en daarbij de eindgebruiker centraal te stellen. 

Artificial intelligence (AI) draait steeds vaker om persoonlijke data. Daarom is het belangrijk dat er regelgeving is die zich richt op de bescherming en privacy van deze persoonlijke gegevens. De keerzijde van die regelgeving is dat ze ondernemingen terughoudend maakt om te innoveren. 

Toepassen AI is verantwoordelijkheid bestuurders 

Die terughoudendheid is niet onlogisch. De Europese Unie heeft met de invoering van de GDPR een soort gouden standaard gezet voor het beschermen van persoonsgegevens. In Nederland heeft de Autoriteit Persoonsgegevens in haar meest recente visiedocument aangekondigd dat het toezicht op AI en het toepassen van algoritmes één van haar focusgebieden is de komende jaren. Ook de European High Level Expert Group on Artificial Intelligence, een adviesorgaan van de Europese Commissie, onderstreepte vorig jaar nog maar eens de verantwoordelijkheid van bedrijfsbestuurders bij het toepassen van AI. ‘Als een hond bijt, straf je de baas’, aldus het Europese adviesorgaan. Artificial intelligence is ‘chefsache’ dus. 

CEO Survey verklaart terughoudendheid

De terughoudendheid van bestuurders is terug te zien in de uitkomsten van de CEO Survey, het onderzoek dat PwC jaarlijks doet naar de stemming onder CEO’s. Hierin stelden we de vraag of CEO's vinden dat regeringen met privacyregels komen die gericht zijn op het vergroten van het vertrouwen van de burger en tegelijkertijd de concurrentiekracht van bedrijven. Wereldwijd beantwoordt 43 procent van de ondervraagde CEO’s deze vraag met een ‘nee’. In Nederland komt maar liefst 54 procent met een negatieve response. 

Deel uitmaken van spel dat je niet goed begrijpt 

Natuurlijk hangt een groot deel van de beantwoording van een dergelijke vraag af van de perceptie van CEO’s. Ik denk dat de Europese of Nederlandse overheid niet de intentie heeft om innovatie af te remmen, integendeel. Bovendien is de GDPR nog jonge wetgeving die zich nog niet volledig heeft uitgekristalliseerd. Maar het is wel te begrijpen dat juist bij een onderwerp als artificial intelligence CEO’s nog wel extra voorzichtig worden. Ze zijn vaak nog aan het verkennen wat deze technologie aan mogelijkheden biedt en wat die voor hun organisatie kan betekenen. Tegelijkertijd krijgen ze in deze verkennende fase al te maken met ingrijpende regelgeving die ook nog moet rijpen. Ze hebben het gevoel deel uit te maken van een spel dat ze niet begrijpen. Dat maakt ze op voorhand bang voor boetes en het verlies van vertrouwen van klanten. 

Europa legt het accent op technologie die mensgericht is

De CEO Survey legt ook grote geografische verschillen bloot ten aanzien van het sentiment van CEO’s rondom dataregelgeving. In China bijvoorbeeld is tachtig procent van de CEO’s wél van mening dat de overheid regels maakt die zowel het vertrouwen van de consument als de concurrentiekracht bevorderen. Europa legt het accent op technologie die mensgericht is en waar rekening wordt gehouden met de ethische kanten van AI. En waar dus ook meer regelgeving is. CEO’s zullen een manier moeten vinden om dit Europese unique selling point te behouden en tegelijkertijd hun slagkracht te behouden. Ik ben ervan overtuigd dat dit ook binnen de kaders van de GDPR mogelijk is. Vanuit de praktijk heb ik hiervoor drie adviezen:

  • Vorm multidisciplinaire innovatieteams om de kans op blinde vlekken te verkleinen. Zet bij innovatietrajecten de business owners, technici,  bedrijfsjuristen en andere relevante specialisten in één kamer. Laat ze van elkaar leren en de risico’s van een project vanuit alle invalshoeken bekijken.
  • Innoveer in kleine stapjes. Een dergelijke ‘agile’ manier van werken voorkomt grote (geldverslindende) investeringen in enorme projecten waarvan het effect en de risico’s pas echt duidelijk worden als het af is.
  • Begin met de eindgebruiker en eindig met de eindgebruiker. Dit levert producten of diensten op die aansluiten bij de behoefte van die eindgebruiker. Als je in innovatieprojecten de consument centraal stelten meeneemt in het proces, kun je tussentijds vaststellen of en waarom deze moeite zou hebben met een bepaalde toepassing van data. De eindgebruiker - de klant - is zeer wel in staat de bepalen wanneer hij of zij data beschikbaar wil stellen. Denk aan de locatiebepalingen op apps: niemand wil persoonlijke locatiegegevens zonder meer beschikbaar stellen, maar als het nuttige informatie oplevert over de best te kiezen route naar huis wordt dat wellicht anders. 

CEO, stel je op de hoogte 

Ik zou er nog een vierde advies aan toe kunnen voegen, specifiek voor CEO’s: wees zelf ook betrokken bij alle stappen van het innovatieproces. Stel je op de hoogte. Ga kijken. Dan worden de regels van het spel ook meteen een stuk duidelijker of worden in elk geval de juiste strategische afwegingen gemaakt daar waar de regels nog in ontwikkeling zijn. AI-innovatie bevestigt wat mij betreft nog maar eens dat een succesvolle organisatie in deze tijd effectief door een veranderend speelveld weet te navigeren.

CEO's verwachten meer regels in cyberspace

CEO’s verwachten wereldwijd toenemende wetgeving rond online content, dataprivacy en grote techbedrijven. En dat dit gevolgen heeft voor het wereldwijde web. De Nederlandse uitkomsten in de PwC's 23e CEO Survey zijn in lijn hiermee.

CEO’s hebben roze bril afgezet

Internet zou leiden tot het democratiseren van informatie en het ontstaan van een wereldwijde gemeenschap. Maar deze roze bril over de mogelijkheden van het wereldwijde web is door de meeste mensen afgezet, ook door de CEO’s die zijn ondervraagd voor onze CEO Survey. Internet wordt inmiddels geconfronteerd met de gevaarlijke en onbedoelde gevolgen van zijn belofte.

Contact

Mona de Boer

Mona de Boer

Partner, Data & Artificial Intelligence, PwC Netherlands

Tel: +31 (0)61 088 18 59

Volg ons