Waarom goed toezicht op AI belangrijk is

Kunstmatige intelligentie (AI) ontdekt borstkanker vaker dan radiologen bleek pas uit Zweeds onderzoek en dat is geweldig nieuws voor iedereen die risico loopt het te ontwikkelen. Zo nuttig kan AI dus zijn in de gezondheidszorg.

Toezicht op AI belangrijk

Er zijn nog veel meer terreinen waarvoor dat geldt. Alleen of we kunstmatige intelligentie gebruiken voor meer van dit soort innovaties, valt of staat met de vraag of we de techniek vertrouwen. Zo gek is het dus niet dat experts vragen om regulering ervan en goed toezicht. Ik ben daar zelf ook voorstander van. Want wat als vooringenomenheid in data die we gebruiken om AI te trainen tot discriminerende uitkomsten leidt? We hebben al eens gezien dat AI-toepassingen die werden gebruikt voor online examens, niet in staat waren om studenten met een donkere huidskleur te herkennen, omdat het systeem voornamelijk was getraind met data van witte studenten. Dat moeten we echt voorkomen.

Lerende aanpak noodzakelijk

AI-systemen mogen niet tot discriminatie, uitsluiting of risico's voor gezondheid, veiligheid en fundamentele rechten leiden. Punt. Het is daarbij ook belangrijk dat we het toezicht zo organiseren dat innovatie mogelijk blijft. We weten nu nog niet hoe AI zich zal ontwikkelen en hoe dit ons leven en het bedrijfsleven zal beïnvloeden. Als toezichthouders openstaan voor nieuwe ontwikkelingen, hun kennis van AI up-to-date houden en zich telkens aanpassen, dan krijgen we een technologie waarin iedereen vertrouwen heeft én slimme innovaties waar we allemaal wat aan hebben. Een lerende aanpak dus.

Samenwerking toezichthouders leidt tot beter resultaat

Waar ik ook van overtuigd ben is dat samenwerking nodig is tussen de verschillende toezichthouders. Als iedereen zijn eigen onderzoeksmethoden gebruikt en soms tegenstrijdige eisen stelt, is de innovatie van AI daar niet mee geholpen en worden de risico’s niet (voldoende) beperkt. Dat risico is groot aangezien er alleen al in Nederland tig organisaties zijn die zich met het toezicht bezighouden. De Directie Coördinatie Algoritmen moet die gaan organiseren. Ik vraag me in alle oprechtheid af of hoe de directie die samenwerking met álle toezichthouders kan bevorderen als zij zelf onderdeel is van één van hen. Dat verdient een meer onafhankelijke positie. Ik hoop dat een nieuw kabinet dat snel oppakt. Daar worden we allemaal beter van en AI nog wel het meest.

Irvette Tempelman

Strategisch Beleidsadviseur AI