Een computer die bepaalt of je je wel of niet kunt verzekeren? Dát wil het Verbond van Verzekeraars voorkomen. En stelde een ethisch kader op. Want, zo stelt directeur Richard Weurding (Verbond van Verzekeraars), 'we willen niemand onterecht uitsluiten.'
Waarom is zo'n ethisch kader eigenlijk nodig?
'Verzekeraars moeten kunstmatige intelligentie op zo'n manier gebruiken dat niemand onterecht wordt uitgesloten. En dat zowel toezichthouders als consumenten vertrouwen hebben in ons werk. Het ethisch kader vormt de richtlijn daarvoor. Niet zo verwonderlijk dat we één van de eerste branches zijn met zo'n kader: het verzamelen van data is zo ongeveer de basis van alles wat verzekeraars doen. Daar komen steeds meer technieken als kunstmatige intelligentie en machine learning bij kijken. We willen daar als bedrijfstak grip op houden. Zeker nu machines steeds autonomer conclusies kunnen trekken. Het kan niet zo zijn dat de menselijke factor daar helemaal in ontbreekt en dat de computer de analyse bepaalt.'
Hoe gebruiken verzekeraars kunstmatige intelligentie?
'Een van onze leden heeft bijvoorbeeld een algoritme ontwikkeld om patronen in betalingen te herkennen. Als een klant altijd op tijd zijn rekeningen betaalt, en opeens niet meer, kan er iets aan de hand zijn thuis. De verzekeraar kan na het signaleren van zoiets contact opnemen met de klant om te vragen of er hulp nodig is. Zo voorkom je dat mensen onnodig in de problemen raken. Sterker nog: tijdig polsen voorkomt dat mensen schulden opbouwen. Maar kunstmatige intelligentie helpt bijvoorbeeld ook Rijkswaterstaat om de verkeersveiligheid te verbeteren, dankzij data over schades en ongelukken. Als je weet waar het vaakst schade wordt gemeld, kun je bijvoorbeeld adviseren om een weg aan te passen. De mogelijkheden zijn eindeloos.'
'wij laten zien dat we onze verantwoordelijkheid nemen'
Dit is heel mooi, maar het zal toch vast wel eens misgaan?
'Zeker wel, en die 'slechte' voorbeelden geven nog eens extra aan dat zo'n ethisch kader nodig is. Vorig jaar bleek ons fraudesignaliseringssysteem niet goed te werken. Als bijvoorbeeld een klant bovengemiddeld vaak schades meldt, dan gaat er bij een verzekeraar een belletje rinkelen dankzij dat systeem. Maar als iemand belde en alleen vroeg naar de dekking van een bepaalde schade, werd in sommige gevallen die informatievraag ook geregistreerd als claim. Dat hinderde klanten als ze een nieuwe polis wilden afsluiten. Ik ben vorig jaar aangeschoven in het programma Kassa om daar uitleg over te geven. En we hebben vervolgens de eisen aan meldingen in het systeem aangepast.'
'Dit voorbeeld laat zien hoe belangrijk het is dat je kunt ingrijpen als een machine iets doet wat ervoor zorgt dat mensen uitgesloten worden op grond van verkeerde criteria. Kijk, we proberen fraude te voorkomen. Maar we willen niet dat onschuldige mensen daardoor in de problemen raken.'
Was hier op directieniveau veel discussie over?
'Eigenlijk niet. In 2016 zijn we al begonnen om met elkaar te kijken naar de ethische kanten van kunstmatige intelligentie. Daar is toen een zogenoemd green paper uitgekomen, waarin we belangrijke uitgangspunten uiteen hebben gezet voor het handelen van verzekeraars, wat de kansen en gevaren van data zijn.’
‘Eén van die gevaren is dat verzekeraars meer gaan differentiëren, omdat ze beter weten wat de goede en slechte risico’s zijn. Tot op zekere hoogte is dat nodig, maar een teveel kan de solidariteit ondergraven. En dat is nou juist onze core business.'
Wat denkt u: is dit genoeg of moet er wetgeving komen?
'Zowel de Europese Commissie als de Nederlandse politiek denken na over verdere regulering van kunstmatige intelligentie. Ik merk dat veel partijen hiermee worstelen, toezichthouders net zo goed. Die vragen zich af wat hun rol is op dit gebied. Eerlijk gezegd heb ik daar nog geen definitief antwoord op. Het opstellen van deze code is nog onvoldoende om te concluderen dat we het nu allemaal weten en alles hebben afgedekt. Met het kader laten wij zien dat wij onze verantwoordelijkheid nemen.'
Op de hoogte blijven van onze beste artikelen? Schrijf je dan gratis in voor onze nieuwsbrief.
Wat staat er nou eigenlijk in dat ethisch kader?Het ethisch kader is een soort checklist die verzekeraars moeten volgen bij het ontwikkelen van nieuwe producten die sterk datagedreven zijn. Het kader is gebaseerd op de aanbevelingen van de High-Level Expert Group on Artficial Intelligence. Dit adviesorgaan van de Europese Commissie bepaalde dat er bij ethisch gebruik van AI zeven vereisten voor verantwoorde AI gevolgd moeten worden. Denk bijvoorbeeld aan transparantie, privacy en non-discriminatie. Lees hier zelf de volledige lijst.
