Print:

“Technologie is de doos van Pandora, stel ethische vragen!”

Irene Post , Freelance Copywriter

LinkedIn profiel

Robots en computers worden steeds intelligenter. De financiële sector gebruikt deze artificiële intelligentie steeds vaker. Bijvoorbeeld om klantenservices te verbeteren of kredietverlening te automatiseren. Maar we moeten niet naief zijn, zegt Randall van Poelvoorde, oprichter van RobotXperience. Hij spreekt over de ethische benadering van technologie op het event Artificiële intelligentie voor financial services op 12 maart . “We hebben de doos van Pandora geopend. Omdat we niet weten wat daaruit komt, moeten we ethische vragen stellen.”

Ethische vragen vooraf stellen

Randall van Poelvoorde raakte 15 jaar geleden gefascineerd door snelle technologische ontwikkelingen. “De spanning tussen mens en technologie is hét onderwerp van de 21e eeuw. We moeten daarom het gesprek aangaan over hoe technologie onze wereld verandert, ethische vragen stellen en leren om techologie te reguleren”, zegt Van Poelvoorde. Met RobotXperience  zet hij deze ethische discussie op de agenda, door lezingen te geven en robots te verhuren. “De ethische vragen over technologie – als die al worden gesteld – komt altijd te laat. We kunnen technologische ontwikkelingen nooit stoppen. Je moet daarom altijd eerst het ethische debat voeren, voor je met artificiële intelligentie begint.”

Vermoord door een computer

Beslissingen worden steeds vaker door computers genomen. Bijvoorbeeld of iemand in aanmerking komt voor een krediet of verzekering. “Omdat we steeds meer data tot onze beschikking hebben is de analyse van de computer een vrij ondoorzichtig proces, er wordt bijvoorbeeld gekeken naar postcode: wat is het betaalgedrag van de buren. Alles wordt erbij betrokken om een zo goed mogelijke beslissing te maken. Soms is het zelfs niet meer uit te leggen waarom iemand een verzekering wel of niet krijgt.” Van Poelvoorde signaleert: “Daar kunnen levens vanaf hangen. Stel dat iemand een behandeling nodig heeft om in leven te blijven, en daarvoor geen verzekering krijgt omdat de computer dat beslist. Een mens zou zeggen: dat is ethisch onacceptabel. Maar een computer kent geen verschil tussen goed en kwaad. En dus zegt hij: de dekking geldt niet voor deze persoon. Als deze persoon sterft, is hij eigenlijk vermoord door een computer!”

Intermenselijke werk overhouden

Bedrijven gaan vaak aan de slag met artificiële intelligentie vanwege de business case: minder kosten of meer inkomsten. “Als je daarbij geen vragen stelt over de visie van je bedrijf, kan het zijn dat je over 5 jaar alleen nog machines in dienst hebt, in plaats van personen”, stelt Van Poelvoorde. “Als dat de visie van je bedrijf is, is dat prima. Maar stel je op z’n minst de vraag, zodat je niet over 5 jaar het verkeerde bedrijf hebt.” Een ethische benadering is om de mensen die je wegautomatiseert een stem te geven in welk werk wordt geautomatiseerd. Bijvoorbeeld het standaardwerk dat veel tijd kost en niemand leuk vindt. “Denk aan het personeelstekort in de zorg. Als robots de administratie doen en vuilnisbakken legen, houden medewerkers het intermenselijke werk over en zijn de patiënten gelukkiger. Zo voegen medewerkers meer waarde toe.”

Transparant zijn en uitleggen waarom iemand een lening niet krijgt

Hoe moeten we technische richtlijnen opstellen om ethisch te handelen met artificiële intelligentie?  “Dat moeten we samen uitzoeken met mensen die artificiële intelligentie ontwikkelen. Want eigenlijk is de vraag: hoe programmeer je een robot met besef van goed en kwaad.” En dat is juist niet mogelijk. De belangrijkste boodschap van Van Poelvoorde is dat we niet naief moeten zijn, of moeten denken dat het wel losloopt. “Wie ben je nog als je niet kan uitleggen waarom iemand een lening niet krijgt. Dan heb je als bedrijf een slecht verhaal. Want blijkbaar wordt een cruciaal proces uitgevoerd door systemen die jij niet meer snapt. Je moet het op zijn minst kunnen uitleggen.”

Angst en hoop voor technologie

Angst en hoop voor technologie blijkt tussen de regels van Van Poelvoorde door. Zelf is hij niet bang voor artificiële intelligentie. “Computers hebben geen bedoelingen. Maar we moeten als mensen wel waakzaam zijn en het niet laten ontsporen. Want computers worden steeds slimmer, maar straks zijn we misschien als mensheid niet slim genoeg meer om op de goede manier vragen te stellen. Stel dat we aan een robot vragen ‘los het klimaatprobleem op’, dan is zijn oplossing wellicht ‘schiet iedereen dood’.” Het valt even stil. “Met artificiële intelligentie kunnen we grote problemen oplossen. Bijvoorbeeld doordat een computer heel snel alle bekende data kan analyseren over de opwarming van de aarde, om te concluderen op welke manier we de CO2-uitstoot moeten terugdringen. Als we de juiste vragen stellen, kan artificiële intelligentie veel goeds betekenen voor mensen, dieren en de planeet.”

Meer informatie?

Laat uw e-mail achter en ontvang de brochure van AI voor financial services direct in uw mailbox.