Artificiële intelligentie: de roep om ethiek groeit

Wie we zijn en wat we doen is steeds meer publiekelijk bezit. Het onderliggend mechanisme is dataverzameling, oftewel Big Data. Daardoor ontstaan nieuwe, morele vragen. Welke rol kan ethiek spelen? Vorig jaar versloeg de AlphaGo computer van Google een Chinese grootmeester in het razend ingewikkelde bordspel Go. Een doorbraak voor artificiële intelligentie (AI). Volgens prof. dr. Ronald Jeurissen, hoogleraar bedrijfsethiek, en Jan Veldsink MSc, kerndocent AI en Cyber bij Nyenrode Business Universiteit neemt AI een steeds grotere rol in.

De impact van AI zal niemand onberoerd laten. AI brengt een aardverschuiving teweeg: macht, inkomen en kennis komen in handen van degenen die baas zijn over de data. Dat zijn de ‘Zuckerbergs’, maar ook de overheid. Het individu lijkt aan het kortste eind te gaan trekken. Het concept van de vrije samenleving is in het geding. Anderzijds groeit de bewustwording: Piratenpartij en Bits of Freedom heffen de waarschuwende vinger. De ethiek hamert op alertheid. Daarom is het belangrijk dat ethiek het bedrijfsleven ingetrokken wordt. Bij de Rabobank is het bijvoorbeeld de commissie ethiek die technologische beslissingen langs de ethische meetlat legt. ‘Vakkennis is noodzakelijk voor een gedetailleerd moreel kompas. Elk bedrijf zou een Chief Ethics Officer moeten aanstellen om de juiste zoekvragen te formuleren,’ vindt Jeurissen.

Privacy

Big Data staat op gespannen voet met onze diepe behoefte om regie te houden over ons leven. In de ethische discussie staat privacy met stip bovenaan. De bescherming tegen inbreuk in de private levenssfeer krijgt een extra dimensie nu technologie ons overal kan volgen. Voor bedrijven biedt dat een kans om verder te gaan in gepersonaliseerde aanbevelingen. Maar wie is eigenaar van die berg gegevens? Het systeem is in disbalans, in het voordeel van de corporates. Wie heeft mijn gegevens, en belangrijker, wat gebeurt ermee? De consument tast in het duister, ook omdat er veel gebeurt op geaggregeerd, onzichtbaar niveau. ‘Het eigendomsrecht moet op de schop, het moet bij het individu komen te liggen,’ zegt Jeurissen.

Gedragskeuzes

Dataprivacy leidt volgens Jeurissen en Veldsink tot nieuwe kwesties, gedragskeuze bijvoorbeeld. Laat je een bezoek aan een datingsite achterwege omdat je (potentiële) werkgever meekijkt? Mensen zijn geneigd hun gedrag aan te passen naar het veilige midden, dat is een inperking in vrijheid. Big Data werkt ook de zogenaamde hyperidentiteit in de hand, omdat het patronen in digitaal klikgedrag herkent. Zoekt een vegetariër bijvoorbeeld bepaalde informatie of producten op, dan krijgt hij een terugkoppeling die in het eigen straatje past. Zo kijk je steeds meer in je eigen spiegel, lees je ‘The Daily Me’. Volgens Veldsink is dat een verschraling; ‘een technologische samenleving heeft juist behoefte aan een diversiteit aan opinies’.

Databeleid

De hamvraag volgens Veldsink en Jeurissen is: hoe verhoud ik mij als mens tot de technologie? Voor Big Data geldt dat de menselijke maat zoek is geraakt. Bedrijven varen op het gouden principe van klantvertrouwen, maar dat lijntje wordt dunner. De consument slikt dataverzameling voor zoete koek, maar heeft ook de vrijheid om zoekmachine Google in te ruilen voor DuckDuckGo. Het advies van Jeurissen luidt; wees glashelder over je databeleid, dan heb je als bedrijf in toenemende mate een streepje voor.

Volgens Veldsink maken bedrijven al brancheafspraken over databeleid. Een volgende stap zou zijn om een algemeen keurmerk op te zetten. En raadpleeg consumenten in een panel. Zo kan je boven de ontwikkelingen hangen en kijk naar de impact van AI op de samenleving. Die toekomstige technologische samenleving hoeft niet slechter te zijn, dat doet geen recht aan schitterende AI-toepassingen zoals medische diagnostiek en behandeling en smart farming.

‘Het werkt verhelderend om te doorzien dat we in een krachtspel zitten van drie vragen: loont het, mag het en hoort het? De zogenaamde driehoek van markt, wet en ethiek,’ aldus Jeurissen. De wetgeving voor  databeleid van organisaties is stevig. Zo wordt in mei 2018 de Algemene verordening gegevensbescherming (AVG) van toepassing. Dat betekent dat er vanaf die datum één privacywetgeving is voor de hele Europese Unie. Deze verordening regelt onder andere dat data niet mogen worden verwerkt zonder expliciete toestemming. Wetgeving is echter per definitie een volgend instrument en kan niet alles vastleggen.

Kritisch blijven op AI

‘Het is daarom essentieel dat de partijen van het krachtveld met elkaar in gesprek gaan’, stelt Veldsink vast. Technologie wordt slimmer; apparaten kunnen antwoorden geven die passend zijn in de context. Denk bijvoorbeeld aan de praatpaal Alexa. Handig voor allerlei weetjes, maar ondertussen luistert deze mee in huis. Stel vragen daarover. Hetzelfde geldt voor superieur intelligente computers, die het menselijk vernuft overstijgen. Moet de computer de mens dienen en gehoorzamen? Er zal nog veel misgaan in AI, maar ook dat heeft een signaalfunctie die aanzet tot nadenken. Zou technologie meer als een collega moeten zijn? Iemand die gelijk heeft, maar die je ook uit kan zetten, klusjes kan geven en meer. Dat zijn legitieme vragen, want op de werkvloer is de robot in opmars. AI zit al in directiekamers aan tafel om te helpen bij strategische beslissingen.

Ook een samenleving met verregaande technologie kunnen wij samen inrichten. Veldsink en Jeurissen trekken een conclusie; de bal ligt bij de nieuwe machthebbers, met name bedrijven. Zelfonderzoek is geen luxe. Daarnaast is het belangrijk dat de consument vaker kritisch nadenkt, het niet allemaal laat gebeuren. Een organisatie als Bits of Freedom zet aan tot kritisch nadenken, maar als het gaat om technologie en consumentenorganisaties is er nog winst te boeken. De ethiek heeft geen pasklare antwoorden. Dat is niet erg. Het is zaak dat de markt, overheid en de consument actief denkbeelden vormen over hoe wij verstandig met AI om willen gaan.

Dit interview is ook geplaatst in CDO Magazine #1.

Tijdens het seminar ‘AI and Ethics’ op 30 mei 2018 wordt vanuit verschillende invalshoeken gekeken naar de wijze waarop AI de digitaliserende wereld beïnvloedt. Hoe kan AI worden ingezet zodat niet alleen de grote corporates maar ook individuen daar baat bij hebben? En in hoeverre heeft AI een effect op de vrijheden van de mens?

Prof. dr. Ronald Jeurissen is hoogleraar bedrijfsethiek bij Nyenrode Business Universiteit en kerndocent voor de module Market, Law and Ethics. Jan Veldsink MSc is adviseur bij de Rabobank en kerndocent AI en Cyber: Threats and Opportunities bij Nyenrode Business Universiteit. Beiden zijn gekoppeld aan de Modulair Executive MBA in Business & IT.