Stephan Raaijmakers bij PCM Web over ‘verklaarbare’ kunstmatige intelligentie
AI (Artifical Intelligence) of kunstmatige intelligentie maakt een steeds groter deel uit van ons dagelijks leven, maar hoe het precies werkt, weten we niet goed. Bijzonder hoogleraar Communicatieve AI Stephan Raaijmakers vertelt bij PCM Web over waarom het zo belangrijk is dat we kunstmatige intelligentie kunnen ‘verklaren’.
Kunstmatige intelligentie wordt op veel verschillende manieren gebruikt in ons dagelijks leven. Netflix gebruikt bijvoorbeeld algoritmen om je nieuwe series aan te raden, terwijl dokters met de hulp van AI diagnoses kunnen stellen. Maar de keerzijde van deze techniek is dat het een zogeheten ‘black box’ is: iets waarvan we niet kunnen zien hoe het werkt. We kunnen niet verklaren waarom de computer een bepaalde beslissing maakt. Dit gebrek aan verklaarbaarheid komt voort uit hoe AI-algoritmen in elkaar zitten. ‘Diepe neurale netwerken voeren een groot aantal transformaties uit op data. Ze trekken de data steeds meer uit elkaar en leiden allerlei complexe verbanden tussen de losse delen af. Zo worden vanuit de oorspronkelijke data complexe tussenliggende representaties opgebouwd, die voor de mens lastig te interpreteren zijn’ zo verklaart Raaijmakers.
Het verklaarbaar maken van deze onuitlegbare algoritmen is erg belangrijk. Naast praktische redenen zijn er bijvoorbeeld ook ethische gevaren, want een computermodel is niet per definitie objectief. Onderliggend aan een systeem zitten er misschien vooroordelen die wij niet kunnen zien. Maar het ontwikkelen van ‘verklaarbare’ AI blijft lastig. Raaijmakers: ‘Er is nog geen duidelijke theorie over wat uitlegbaarheid voor de mens betekent. Daarbovenop is AI een containerbegrip en volop in ontwikkeling: er zijn veel soorten AI, en zeker de neurale AI verandert in hoog tempo. Uitlegbaarheid is bovendien erg contextueel. Zo zal een analist van een veiligheidsdienst heel andere vormen van uitleg nodig hebben dan een oncoloog. Het is vaak niet zinvol om in detail onder de motorkap van een AI-model te willen kijken’
Meer weten?
Het volledige artikel met Stephan Raaijmakers is terug te vinden op PCM Web.