Zoektocht naar kansen en uitdagingen van AI en big data

Big data en kunstmatige intelligentie (AI) maken steeds meer deel uit van onze moderne maatschappij. Dankzij deze technieken krijgen bedrijven meer inzicht in de markten en klanten die ze bedienen. Ze openen een wereld aan mogelijkheden en zorgen ervoor dat we vaak blindelings vertrouwen op algoritmen. Tegelijkertijd zijn er veel uitdagingen die ons dwingen om goed na te denken over onze omgang met deze techniek. “Het beheersbaar maken van algoritmen is dé grote uitdaging als het aankomt op onze omgang met AI en big data”, stelt Sander Klous, Data Analytics Expert bij SAS en hoogleraar Big Data Ecosystems for Business and Society aan de Universiteit van Amsterdam. Hij is spreker tijdens de blended class Big Data en Business AI van Nyenrode Business Universiteit.

Klous vertelt: “Beheersbaarheid heeft vooral betrekking op zorgen over de uitkomsten van algoritmen. Ben je als mens nog autonoom bij het maken van keuzes? Voeden algoritmen geen discriminatie of oneerlijke concurrentie? Op welke manier wordt gebruikgemaakt van gevoelige informatie? Leren algoritmes de juiste dingen? En voldoen ze aan bestaande wetten en regels? Dat zijn actuele uitdagingen die vragen om een goede balans tussen innovatie en controle.”

Vertalen naar de bedrijfspraktijk

De blended class maakt deelnemers bekend met alle praktische en theoretische aspecten van big data en AI. “De meeste mensen hebben wel van de begrippen gehoord, maar het bewustzijn en diepere begrip staan nog op een laag pitje. Het is voor managers vaak nog onduidelijk hoe ze zich strategisch moeten positioneren bij het op grote schaal inzetten van algoritmen. De grote meerwaarde van de collegereeks is dat we big data en AI uit het technisch domein halen en vertalen naar praktische werkwijzen, onder meer door gebruik te maken van cases en praktijkvoorbeelden die docenten zelf hebben meegemaakt. De colleges doen veel meer dan alleen bewustzijn creëren”, stelt Klous.

Interpretaties van algoritme

Een inspirerende praktijkcase die Klous zich nog goed herinnert had betrekking op de gemeente Amsterdam. De gemeente gebruikte een algoritme dat verantwoordelijk is voor het afhandelen van klachten in diverse buurten van de stad. Het algoritme, dat gebruikmaakt van natural language processing, identificeert het type melding en adviseert welke afdeling het verzoek moet afhandelen. Samen met de gemeente is een risicoanalyse en prioriteitenoverzicht gemaakt en is het algoritme op afwijkingen gescreend.

De verwachting was dat algoritmen effectiever zouden zijn dan mensen bij het screenen van klachten, maar daar zaten wat uitdagingen in. “Het algoritme gaf prioriteit aan gebiedsdelen met de hoogste klachtenratio. Dit bleken buurten te zijn waar vooral mensen wonen met een hoger inkomen. Het gevolg was dat het algoritme meer aandacht gaf aan gebieden die het toch al goed hebben. Het is dus belangrijk is om een mechanisme in te bouwen dat rekening houdt met de ernst van een klacht. Een enkele rondslingerende vuilniszak zorgt immers voor een andere graad van overlast dan een afvalberg die is opgestapeld tot aan de tweede verdieping. Daarnaast bleek dat de taal die werd gebruikt in de klachten uit de “betere” buurten ook beter werd begrepen door het algoritme, waardoor er dus opnieuw een vertekend beeld ontstond.”

Stap naar volwassenheid

Volgens Klous is het een utopie om een andere interpretatie door het systeem helemaal uit te bannen als je werkt met algoritmen. “Dat idee moeten we loslaten. We moeten ons vooral afvragen welke stappen we kunnen nemen om risico’s tot een minimum te beperken. Richt voldoende monitoring in, waardoor je sneller het pad naar volwassenheid kan doorlopen. Vanuit het oogpunt van cost of control is het belangrijk om na te gaan hoe het toezicht wordt ingericht. Welke controlemechanismen gaan we aanbrengen? Hoe goed moeten die zijn? En wat mag het kosten? Op die vragen moet je antwoorden formuleren als je aan het werk gaat met big data en AI.”