Rondetafelbijeenkomst verzekeraars ‘Predict to Prevent’

Want ja, AI is fantastisch, begint Ter Maten haar verhaal. Om vervolgens direct te waarschuwen: “Maar je moet het niet klakkeloos inzetten. Je wilt eerst begrijpen: wat doet AI eigenlijk met de data die wij eraan geven? En niet alleen vanuit ethische overwegingen, maar ook: hoe leert het systeem op basis van die data en hoe komt het tot een bepaald resultaat? ChatGPT bijvoorbeeld, is geen orakel waar altijd de waarheid of een juist antwoord uitkomt. Daarvan moet je je bewust zijn.” 

AI, machine learning en deep learning 

Ter Maten legt vervolgens de verschillen uit tussen AI, machine learning en deep learning. “AI is het grotere geheel en leert regels te volgen op basis van informatie die mensen aan de tool geven. Machine learning is een onderdeel binnen AI dat leert om patronen te herkennen en op basis daarvan verder te leren. Machine learning komt dus tot conclusies die de mens er niet ingestopt heeft. Deep learning gaat nog een stap verder en ontwikkelt zelf strategieën.”

Oppassen

Bijna alle machine learning die we tegenwoordig gebruiken, heeft deep learning in zich, zegt Ter Maten. “En juist hier moeten we oppassen”, waarschuwt ze nog eens. “Want dit is een punt waar AI heel krachtig, maar ook gevaarlijk kan zijn. AI ziet patronen die wij niet zien en ontwikkelt dus strategieën die nog nooit bij ons zijn opgekomen. Stel dat je een complex probleem hebt en je geeft AI carte blanche om het op te lossen. Wat dan? Want je hebt geen idee wat voor aannames AI doet. Dat is ook weer iets om je bewust van te zijn.”

Samenwerken met AI

Het gebruik van AI heeft gevolgen voor de werkvloer, zegt Ter Maten. “We moeten met onze menselijke kwaliteiten gaan samenwerken met de kwaliteiten van AI. Want AI gaat zeker taken overnemen, maar daar komen andere taken voor in de plaats.” Een belangrijke rol die Ter Maten voor de mens ziet weggelegd, is rond het trainen van AI-systemen. “Als experts in ons eigen vakgebied spelen we een belangrijke rol bij het kiezen van de data die moet worden gebruikt om AI te trainen. En ook om te bepalen: op basis van welke criteria moet het systeem beslissingen nemen?”

Dit moet geen IT-feestje zijn, vindt Ter Maten. “Het moet juist worden gedaan met een zo divers mogelijke groep medewerkers. Dus ook mensen die vanuit compliance- of ethisch oogpunt meekijken, bijvoorbeeld. Want juist de inhoudelijk deskundigen zijn absoluut essentieel om te snappen wat het systeem eigenlijk moet gaan doen voor ons.”

Veilige en betrouwbare AI-systemen

Een ander belangrijk punt om rond het gebruik van AI in de gaten te houden, is wetgeving, zegt Ter Maten. Om ervoor te zorgen dat AI-systemen veilig en betrouwbaar zijn, de fundamentele rechten van burgers respecteren en discriminatie tegengaan, heeft de Europese Unie de EU AI Act in het leven geroepen. De wet moet zorgen voor risicobeheersing en ethisch gebruik van data. Daarvoor heeft AI Act vier risicocategorieën omschreven, van onaanvaardbaar tot beperkt en minimaal risico. Elke categorie heeft duidelijke verplichtingen en eisen voor producenten en gebruikers van AI-systemen. 

Zo moet een AI-systeem transparant zijn, legt Ter Maten uit. “Als mens moeten we kunnen begrijpen: hoe komt het systeem tot een bepaalde beslissing of resultaat. Want wij moeten kunnen verantwoorden en uitleggen aan een klant waarom je die persoon om acht uur ’s avonds een sms hebt gestuurd. Je kunt wel zeggen: ‘We gebruiken deze data en deze algoritmen’, maar je moet het ook nog kunnen toelichten.”

Businesscase Nationale-Nederlanden

Berry van der Wal: “Alles overlaten aan de robot?”

Tijdens de bijeenkomst vertelde Berry van der Wal, manager In- & Excasso Particulier van Nationale-Nederlanden, hoe zijn organisatie tien jaar geleden startte met machine learning. “We kregen de vrijheid om het meest moderne proces neer te zetten. Daarvoor vroegen we POM – toen nog Mail to Pay – om advies. We werkten destijds al samen met hen op het gebied van betaallinks en iDeal-betalingen. Toevallig zochten zij net op dat moment een partner voor een pilot met machine learning. Wij kregen daarop de vraag of we het aandurfden om alles – mensen, processen, de organisatie – los te laten en het incassoproces over te laten aan de robot.”

Klantbehoud

Het werd een spannende tijd voor Berry en zijn collega’s. “Je bent gewend om alle touwtjes van het incassoproces zelf in handen te hebben. Draag je dat over aan de robot, dan bedenkt die op basis van data en algoritmen hoe en wanneer je de klant het beste benadert voor de meeste kans van betaling. Dat was een hele nieuwe wereld voor ons.” De resultaten zijn enorm positief, zegt Berry. “We bereiken klanten sneller en incasseren sneller. In de pilot begonnen we met een kleine levensverzekeringsportefeuille. Inmiddels gebruiken we machine learning voor het gehele klantenbestand, zo’n 1 miljoen klanten. Het aantal levensverzekeringen dat we moeten beëindigen vanwege een betaalachterstand is drastisch verminderd. Dus dat is gewoon klantbehoud.”

Evolutie

Alle touwtjes loslaten is één, totaal niet meer omkijken naar het proces is iets heel anders. Nationale-Nederlanden houdt dan ook nadrukkelijk de vinger aan de pols. “We kijken steeds achteraf naar de resultaten”, zegt Van der Wal. “Eigenlijk als een soort A/B-test die continu loopt. Onze robot heeft bijvoorbeeld allerlei tekstsjablonen met kleine verschillen waaruit hij kan kiezen. We willen zien welke manier van benaderen het beste aanslaat.”

Sociaal incasseren

Ondanks het bepalen van het optimale incassomoment en -kanaal voor een snelle betaling, is er ook een groep die simpelweg niet kán betalen. “Als we zien dat betalen moeilijk is, verwijzen we al vrij snel naar Geldfit”, zegt Van der Wal. “En op alle output staat sinds het begin van de pilot het telefoonnummer van mijn team, zodat klanten direct onze afdeling kunnen bellen als betalen niet lukt. We willen deze mensen zo snel mogelijk helpen.”

Predict to prevent

Daarnaast heeft Nationale-Nederlanden twee pilots met voorspelmodellen lopen. “We willen weten welke klanten mogelijk in de problemen kunnen komen, dus nog voordat ze een betaalachterstand hebben. Met preventieve AI proberen we dat te voorspellen, zodat we hen proactief kunnen benaderen als dat nodig is.

Nabespreking

“Door feedback te geven, houden wij als mens de regie over AI”

Tijdens de nabespreking werd duidelijk hoe belangrijk het is om als mens de vinger aan de pols houden bij AI. Zo werd er al snel geconcludeerd dat AI geen rekening houdt met het onverwachte, zoals de covid-uitbraak in 2020. “De context waarin wij leven, verandert continu”, zegt Ter Maten. “Daarom moeten wij als mens blijven interpreteren wat AI doet en nuances aanbrengen.”

Een ander belangrijk vraagstuk dat naar voren kwam: automatisering versus persoonlijke benadering. Hoe vind je de balans daarin? Volgens Ter Maten is het een mythe dat AI het proces minder menselijk maakt. “AI biedt juist de mogelijkheid om het incassoproces op een menselijke manier aan te pakken. Omdat het zoveel werk uit handen neemt. Wat wij als mens moeten doen, is opletten. Wat doet het systeem? En feedback geven: dit was wel of geen goede suggestie. Zo houden we als mens de regie over AI en kunnen we het gebruiken zoals wíj het willen.”