‘Maak het ontwerp van AI toekomstbestendig’

‘Artificial Intelligence (AI) biedt kansen op versnelling van duurzame ontwikkelingen, maar zorgt ook voor bedreigingen. Denk aan gezichtsherkenning, discriminatie op de arbeidsmarkt of onnodig energiegebruik. Om te zorgen dat AI toekomstbestendig is en de wereld van morgen vooruithelpt, is het belangrijk om in de ontwerpfase van AI de doelen voor de wereld van morgen te formuleren.’ Dit stellen Tineke Lambooy (professor Ondernemingsrecht Nyenrode Business Universiteit) en Penny Simmers (onderzoekster en publicist), beiden verbonden aan het Lab Toekomstige Generaties. Ze onderzochten wat aan het invoeren van AI vooraf moet gaan en formuleerden een stappenplan.

‘In een wereld waar technologie in toenemende mate een stempel op de samenleving drukt, is toekomstgericht denken nodig. Zeker bij de ontwikkeling van hardware en software, waaronder ook kunstmatige of artificiële intelligentie (AI).’  AI is technologie die computers laat 'denken' en keuzes maken zonder dat de mens hem helpt. Een verzameling (zelflerende) algoritmes vormt de basis daarvan en is geïnstrueerd om gegevens te analyseren om beoordelingen of voorspellingen te doen.

‘Toekomstgericht denken gaat over het formuleren van doelen voor de wereld van morgen. In de ontwerpfase van technologie moet je toekomstgericht denken, want de technologie die vandaag wordt ontworpen, zal decennialang invloed hebben op huidige en toekomstige generaties.’  

Formuleren van doelen

De eerste stap is het formuleren van doelen. De Nederlandse Raad voor de Toekomst heeft onlangs een belangrijk doel geformuleerd: “Nederland moet streven naar een land waarin mens en natuur in evenwicht zijn en waar de planetaire grenzen niet worden overschreden.” Dit brede toekomstbeeld kan een leidraad zijn voor technologieontwerpers en opdrachtgevers. Daarnaast is de Verordening die het Europees Parlement zojuist goedkeurde over het reguleren, gebruik en verkoop van AI relevant. Zo wordt gezichtsherkenning met slimme camera’s in de publieke ruimte verboden (zoals deze in China worden gebruikt) en mogen bepaalde kenmerken van sollicitanten bij het digitaal analyseren en selecteren van kandidaten geen rol spelen. AI-systemen die verkiezingen kunnen beïnvloeden worden onder toezicht gesteld. Verder moeten softwaresystemen vermelden of een product of tekst door AI is gegenereerd.  De nieuwe regels zijn bedoeld om mensgerichte en betrouwbare AI te bevorderen en de gezondheid, veiligheid, grondrechten en democratie te beschermen tegen de schadelijke gevolgen ervan.

Maak softwaretechnologie inclusief

De tweede stap gaat over de implementatie: het integreren van toekomstgericht denken in de ontwerpfase van technologie. Het stappenplan van het Lab Toekomstige Generaties is ontworpen om softwaretechnologie (meer) inclusief te maken en te voorkomen dat discriminatie optreedt. Ook de ecologische gevolgen (de voetafdruk) van softwareontwikkeling en -gebruik zijn daarin meegenomen.

Lees het hele artikel dat eerder verscheen in P+.