Print:

Dataprotectie in de digitale wereld van nu en straks: een kwestie van verantwoord innoveren

De opmars van Artificial Intelligence (AI), robotisering en andere digitale innovaties heeft onvermijdelijk impact op mensen en organisaties. Hoe gaan privacyprofessionals daarmee om? Hoogleraar Jeroen van den Hoven ziet een belangrijke rol voor verantwoord innoveren.

Jeroen van den Hoven“Het is essentieel dat we gaan denken in termen van verantwoord innoveren, zodat we de risico’s van nieuwe technologische toepassingen verminderen en tegelijkertijd de voordelen optimaal benutten.” Dat zegt Jeroen van den Hoven, hoogleraar Ethiek & Technologie aan de TU Delft, lid van de European Group on Ethics van de Europese Commissie en keynote spreker tijdens het Dataprotectie & Privacy Congres op 14 november. “We kunnen met technologie zoals Artificial Intelligence (AI), robotisering, machine learning en big data natuurlijk allerlei hele goede dingen doen: kosten besparen, werkprocessen efficiënter maken, veiligheid vergroten, privacy beschermen… Bij verantwoord innoveren gaat het erom zo veel mogelijk voordelen te behalen, zonder dat hierbij ongewenste effecten ontstaan.”

Wat betekent verantwoord innoveren voor de praktijk van dataprotectie? “Het begint ermee dat je de relevante waarden van een innovatie op tafel krijgt en bekijkt hoe je die allemaal kunt dienen door slimme combinaties te maken. Beschrijf vanuit een ethisch perspectief heel helder wat er op het spel staat en welke oplossingen voor onderling conflicterende waarden er mogelijk zijn. Daar moet je vroeg mee beginnen, al voordat een toepassing daadwerkelijk wordt ontwikkeld. En je moet er echt werk van maken en niet blijven hangen in een onderbuikgevoel over mogelijke morele dilemma’s.”

“Het oplossen van conflicterende waarden klinkt misschien heel simpel, maar het veronderstelt wel dat je actief met ethiek aan de slag gaat. Welke waarden willen we optimaliseren en hoe gaan we daar in de praktijk mee om?”, legt Van den Hoven uit. “De neiging bestaat wel eens om van ethische vraagstukken weg te lopen, maar je moet naar de bal toe. De Algemene verordening gegevensbescherming (AVG) is daarvoor een goede stimulans, omdat de wet veel nadruk legt op de eigen verantwoordelijkheid van gegevensverwerkers om de open normen in te vullen en de naleving aan te tonen.” Daarnaast sluit een ethische aanpak volgens Van den Hoven aan bij maatschappelijke verwachtingen over verantwoord ondernemerschap en levert het morele perspectief een bijdrage aan het publieke vertrouwen in de werkwijze van de organisatie. 

Morele overbelasting

Van den Hoven ziet nogal eens dat er “morele overbelasting” optreedt. “Als je veel waarden nastreeft dan neemt het aantal potentiële spanningen toe. Denk aan kostenefficiëntie versus maximale veiligheid, privacy versus accountability en transparantie versus dataprotectie. Maar er zijn letterlijk honderden voorbeelden van projecten waarin de sweet spot toch is gevonden en je met een slim idee niet hoeft te kiezen tussen de diverse waarden die je nastreeft.” Een simpel voorbeeld is de paraplu, die het potentiële conflict oplost tussen lekker buiten zijn, voldoende lichaamsbeweging krijgen en droge kleding houden. Maar ook privacy respecting technologies kunnen volgens Van de Hoven worden gezien als voorbeelden van verantwoord innoveren.

Bij verantwoord innoveren hoort ook dat aan de risicogerichte aanpak van dataprotectie een human rights based approach wordt toegevoegd, vindt Van den Hoven. “Een risicogebaseerde aanpak is een grondstructuur voor iedereen die belangrijke beslissingen neemt – over privacy of andere risico’s waarmee de organisatie te maken heeft. Risicogericht werken is ook een vanzelfsprekend onderdeel van verantwoord innoveren. Het is heel verstandig om te anticiperen op de resultaten van het handelen van de organisatie en om te kijken naar alternatieven en maatregelen. Maar ethische vraagstukken rond bijvoorbeeld discriminatie en accountability krijg je er niet altijd mee in beeld. Daarom moet je ook human rights based overwegingen meenemen. Worden betrokkenen niet onrechtmatig behandeld of gediscrimineerd, en hebben we voldoende oog voor bijvoorbeeld menselijke waardigheid en autonomie?”

“Innovatieve technologieën convergeren in toenemende mate en het speelveld waarin organisaties zich bewegen wordt daardoor alsmaar dynamischer en complexer. The sky is the limit, maar de problemen stapelen zich ook op en worden alleen maar groter en ingewikkelder”, signaleert Van den Hoven, die in zijn keynote tijdens het Dataprotectie & Privacy Congres een ethisch perspectief schetst voor de duiding van actuele technologische ontwikkelingen. “Organisaties hebben meer dan ooit de juiste deskundigheid en capabilities nodig om het te redden. Een ethisch perspectief op innovaties vereist dat je de taal, sensibilities en vaardigheden in huis hebt om de morele impact van je handelen te onderzoeken.”

Een multidisciplinaire aanpak ligt daarbij voor de hand, vindt Van den Hoven. “Privacy officers en data protection officers (dpo’s) kunnen hierin een belangrijke coördinerende rol spelen: de zogenoemde absorbtiecapaciteit van de organisatie moet worden gecreëerd en georganiseerd, en er moet een duidelijke probleemeigenaar zijn.” Daarnaast zullen privacyprofessionals in toenemende mate het gesprek voeren met specialisten op het vlak van bijvoorbeeld AI, robotics, machine learning en big data.

Van den Hoven drukt dpo’s en andere privacyprofessionals op het hart om niet bang te zijn voor ethische vragen. “In zekere zin is het hele leven een kwestie van ethiek. We zijn de hele dag door bezig met ethische vragen. We staan er alleen niet altijd bij stil dat we dat doen.”

Articulatie-arbeid

Een ethisch perspectief op technologische vraagstukken vraagt van professionals een hoge mate van proactiviteit en eigen initiatief, aldus Van den Hoven. “Het begint met articulatie-arbeid: je hebt een corporate narrative nodig over de actuele ontwikkelingen en de verhouding daarvan tot de doelen van de organisatie. Er gebeurt zó veel en de veranderingen zijn zó fundamenteel, dat we soms niet eens meer weten waar we precies mee bezig zijn en hoe de ontwikkelingen onderling samenhangen. De opgave is daarom om een samenhangend verhaal te vertellen over waar je mee bezig bent, waarom je dat doet en welke problemen je dan ziet vanuit de missie, visie en doelstellingen van de organisatie.”

Het belang van narratieven wordt al onderkend in de opmars van principle based auditing. “Daarbij kijk je niet rigide naar allerlei regels, maar krijg je van de toezichthouder een aantal high level principles mee waarover je verantwoording aflegt. De organisatie kan dan zelf vertellen welke invulling er aan de principes wordt gegeven en hoe de technologische ontwikkelingen daarin worden meegenomen.” Onder andere de Belastingdienst en douane werken al met succes met deze benadering.

Bijsturen

Een vraag die Van den Hoven vaak te horen krijgt: gaan mensen het straks van machines verliezen, of zijn de technologische ontwikkelingen nog beheersbaar? Dat verschilt per sector, is zijn antwoord. “Bij de militaire toepassingen van bijvoorbeeld AI lijkt het hek van de dam: we zijn hard op weg naar volledig autonome wapensystemen, waarbij software zelfstandig beslissingen kan nemen. Maar in de civiele wereld kunnen we nog wel bijsturen – ook al staan ons daar ongetwijfeld nog allerlei – tot nu toe onbekende – problemen te wachten.”

Jeroen van den Hoven is een van de vele sprekers van het Dataprotectie & Privacy Congres dat op 14 en 15 november plaatsvindt in Utrecht. Bekijk het gehele programma en boek tickets via de website van IIR.

 

Meer informatie?

Laat uw e-mail achter en ontvang de brochure direct in uw mailbox.