Print:

Het kan maar mag het ook? De ethische grenzen van AI

Jaap Dijkhuizen , Principal Solutions Engineer

LinkedIn profiel

“Ethics is knowing the difference between what you have a right to do and what is right to do.”

Technologie, ook die van Genesys, speelt een belangrijke rol in het leven van consumenten. Onze klanten gebruiken die technologie dagelijks voor het verwerken van enorme hoeveelheden data van consumenten. Van naam, adres en contactvoorkeuren tot locatie, gedragspatronen, stemkarakteristieken, demografische gegevens, emotionele toestand, familierelaties, apparaten die zijn gebruikt en nog veel meer. Al die data wordt onder meer als invoer gebruikt voor de AI algoritmes die helpen bij maatwerk en topkwaliteit in customer service.

Tijd voor ethische grenzen

Technologie, en zeker voor AI, raakt potentieel consumenten in hun privacy, veiligheid en zelfs gelijkheid. Wie werkt met AI moeten daarom nadenken over de ethische grenzen voor zichzelf en voor de consumenten.

Binnen Genesys doen we dat met een multidisciplinair AI Ethics Comittee en AI Ethics Guidelines. Voortrekkers uit de hele organisatie en een moreel kompas waarmee we doorlopend het gesprek aan gaan in onze branche, met onze partners, klanten en analisten. De richtlijnen delen we graag.

1. Transparantie
Het moet voor klanten duidelijk zijn dat ze communiceren met een AI-bot. Een klantgesprek start bijvoorbeeld met “Hello, I’m an automated agent” zodat er geen enkel misverstand is bij de klant.

2. Eerlijk
AI-systemen moeten vrij zijn van bias: dus geen vooroordeel introduceren. Dat betekent onder meer veel aandacht voor het trainen van bots en de gebruikte referentiematerialen. Dat luister nauw: zo stond in 2005 neuro-informaticus Sennay Ghebreab voor een gesloten deur bij het Instituut voor Wiskunde en Informatica. Het AI-systeem van de draaideur herkende hem kennelijk niet als mens omdat het systeem getraind bleek met een beperkt aantal foto’s van vooral blanke mensen. ‘Rubbish in, rubbish out’.

Verantwoordelijk

Organisaties zijn altijd aanspreekbaar en verantwoordelijk voor hun AI-systemen en wat daaruit voortkomt. Een goed voorbeeld is Microsoft dat Tae de chatbot binnen 24 uur offline haalde omdat deze zich in sneltempo had ontwikkeld tot een discriminerend en racistisch scheldkanon.

Data Protection

Ook AI mag geen inbreuk maken op de datarechten of privacy van individuen of gemeenschappen. Zowel de eigen organisatie als de consument moet op ieder moment inzicht kunnen hebben en krijgen in de data en hoe deze gebruikt wordt.

Maatschappelijke voordelen

Het maatschappelijk belang staat uiteindelijk voorop. Het is een continu zoeken naar de balans tussen baten en kosten, tussen het recht van de consument om herkend te worden en het recht om te worden vergeten.

Tijd voor discussie

Ethiek gedijt alleen bij veel discussie en verkenning van de grenzen. Tijdens de IIR-conferentie ‘AI for financial services’ zijn onder andere mijn collega’s Albert van de Hoef en Rutger Wilschut aanwezig. Zij zijn altijd beschikbaar voor een goed gesprek, zeker ook over ethiek en AI.

Rutger Wilschut | IIR

 

Rutger Wilschut, Vice President Strategic Business Consulting EMEA, Genesys

 

 

Albert van de Hoef | IIR

 

Albert van de Hoef, Senior Account Executive, Genesys

 

 

Meer informatie?

Laat uw e-mail achter en ontvang de brochure direct in uw mailbox.

Wij gebruiken cookies om IIR.nl gemakkelijk te maken. Bezoekt u onze website, dan gaat u akkoord met deze cookies meer informatie

De cookie-instellingen op deze website zijn ingesteld op 'toestaan cookies "om u de beste surfervaring mogelijk. Als u doorgaat met deze website te gebruiken zonder het wijzigen van uw cookie-instellingen of u klikt op "Accepteren" hieronder dan bent u akkoord met deze instellingen.

Sluiten