Print:

Kunstmatige intelligentie en dataprotectie: veel meer dan een compliance-issue

Een goede data protection officer bouwt aan innovatieve oplossingen voor de business, zegt Lokke Moerel, senior of counsel bij Morrison & Foerster en hoogleraar aan Tilburg University. Privacy moet uit de hoek van de compliance, vertelt ze tijdens haar keynote op de Dag van de Privacy Officer 2019.

Lokke Moerel IIR

“Data protection officers hebben doorgaans het idee dat toezicht op de regelnaleving hun belangrijkste taak is. Maar de kwaliteit van een data protection officer heeft naar mijn idee in belangrijke mate te maken met het vermogen om samen met de business creatieve oplossingen voor privacy in te bouwen in producten en diensten.” Dat zegt Lokke Moerel, hoofd van het wereldwijde privacy & security team van Morrison & Foerster, een in de Verenigde Staten gevestigd internationaal advocatenbureau dat veel werkt voor de technologiesector. Moerel is ook hoogleraar technologie & recht aan Tilburg University, en lid van de Cyber Security Raad en de Monitoring Commissie Corporate Governance Code. Ze studeerde rechten in Leiden en Cambridge, en promoveerde in Tilburg op onderzoek naar binding corporate rules.

“De huidige generatie privacyprofessionals ziet zichzelf vooral nog in een compliance-achtige functie”, signaleert Moerel. “Bij de grote Amerikaanse techbedrijven zie ik hoe het anders kan: privacy officers zijn daar proactief betrokken bij de ontwikkeling en implementatie van privacy by design maatregelen. Ze maken vaak deel uit van innovatieteams. Data protection officers zijn dan innovation solutions builders die toegevoegde waarde hebben voor de business. Data protection officers met een juridische achtergrond zullen dan wel even uit de comfortzone moeten stappen: ze moeten niet langer oordelen in termen van strikte regels, maar out of the box meedenken over nieuwe oplossingen.”

Slimme algoritmes roepen lastige vragen op Moerel geeft op 6 juni tijdens de Dag van de Privacy Officer een keynote over ethiek en accountability in het tijdperk van kunstmatige intelligentie. Artificial Intelligence (AI) is steeds meer verweven met ons dagelijkse leven: slimme algoritmes staan aan de basis van de navigatiesystemen in onze auto’s, de spamfilters in onze mailboxen, de advertenties die we op sociale media zien, en nog veel meer.

De actuele ontwikkelingen in AI roepen ingewikkelde vraagstukken op, die privacyprofessionals voor complexe uitdagingen stellen, aldus Moerel. “AI is vaak een black box, waardoor we niet weten hoe het algoritme tot zijn output komt. Daardoor is niet mogelijk om te voldoen aan het vereiste om automatisch genomen besluiten te kunnen uitleggen, zoals responsible AI vereist. De vraag is natuurlijk vaak of iemand er echt geholpen is met een uitleg van hoe het algoritme werkt. Misschien heb je er als individu wel meer aan om zelf toegang te hebben tot een dashboard waarmee je variabelen kunt veranderen en zo te kijken wat het verschil maakt in de uitkomst.”

Ethische afwegingen

Ethiek wordt steeds belangrijker als het gaat om de ontwikkelingen in kunstmatige intelligentie, zegt Moerel. “Er zijn nog weinig algemene regels over wat er wel en niet mag met data die via AI worden verwerkt. De Europese privacytoezichthouders publiceerden vorig jaar een verklaring over AI en dataprotectie, en de Europese Unie heeft een actieplan en richtlijnen gelanceerd voor de ethische omgang met AI. Maar hoe deze principes concreet moeten worden toegepast is nog open en volop in ontwikkeling. Daarom is het belangrijk voor data protection officers om ethische afwegingen te kunnen maken. Er zijn genoeg voorbeelden van toepassingen waar bijvoorbeeld toestemming is verkregen, maar die op grote weerstand in de samenleving stuiten.” Controverses rond Google en Facebook zijn hiervan bekende voorbeelden. “Data protection officers kunnen dit soort situaties voorkomen door bij te dragen aan een cultuur waarin de ethische dilemma’s rond innovaties bespreekbaar worden. ”

Van compliance naar innovatie

Wat is de grootste uitdaging voor Functionarissen voor de Gegevensbescherming (FG’s) en andere privacyprofessionals die te maken krijgen met AI? Moerel: “Het is essentieel dat dataprotectie uit de hoek van compliance komt en onderdeel wordt van innovatieprocessen met privacy by design als uitgangspunt. Want als je het aan de voorkant niet goed regelt dan kan je het achteraf met toezicht echt niet meer goed krijgen. Sterker nog, als data protection officers proactief op innovatie inzetten dan zal je in de back office veel minder werk krijgen.”

Moerel noemt als voorbeeld de inrichting van een online privacy dashboard waarin betrokkenen hun persoonsgegevens zelf kunnen beheren en privacy-voorkeuren kunnen aangeven. “Dit werkt zoveel beter dan het inrichten van een helpdesk die individuele inzageverzoeken en klachten gaat afhandelen. Uit onderzoek blijkt bovendien dat als individuen meer controle hebben over hun data, ze eerder geneigd zijn hun gegevens aan de organisatie toe te vertrouwen. Een privacy control dashboard voor individuen is dus echt een win-win: goed voor de business, goed voor privacy compliance en minder werk voor de privacy office. Door als FG over dit soort aanpakken te adviseren, kan je het management ook duidelijk maken dat je werk ertoe doet. Het management hoeft dan namelijk niet te investeren in compliance of kwaliteitsmanagement, maar in diensten die de business gewoon iets gaan opleveren.”

Creativiteit en lef

FG’s en privacy officers die willen werken aan hun professionalisering doen er goed aan om verder te kijken dan inhoudelijke kennis over privacy en dataprotectie, aldus Moerel. “Iedereen kan de privacyregels leren. De echte uitdaging is: hoe innoveer je? Hoe kan je privacy by design zo oppakken dat je tot een oplossing komt die de business verder helpt? Daarvoor heb je creativiteit nodig – en behoorlijk wat lef. Want je gaat dan proactief meedenken met oplossingen en kunt niet vanaf de zijlijn roepen dat het niet compliant is.” Het is moeilijk en spannend om onderdeel te worden van een team dat aan innovatieve oplossingen werkt, geeft Moerel toe. Maar er liggen ook kansen. “Je krijgt vanuit het perspectief van oplossingen veel meer mogelijkheden om draagvlak voor privacy te creëren dan als je de positie van neezegger inneemt.”

Meer weten over de vaardigheden en kennis die Data Protection Officers nodig hebben en leren van deskundige en ervaren vakgenoten? Kom dan op 6 en 7 juni naar de Dag van de Privacy Officer.

Meer informatie?

Laat uw e-mail achter en ontvang de brochure direct in uw mailbox.