Verzekeraars zouden bij AI/ESG dezelfde proactieve preventieve aanpak moeten toepassen als bij acceptatie cyberrisico's

De mate waarop verschilt echter per sector en zelfs per bedrijf. “Ik merk dat ook verzekeraars met steeds complexere modellen bezig zijn, vaak in een pioniersfase. Velen lopen met de vraag rond of de door hun toegepaste AI-modellen als discriminatoir bestempeld kunnen worden of niet”. aldus de promovendus zegt te merken dat het risicobewustzijn bij verzekeraars is gegroeid en zij op dit vlak aan het vernieuwen zijn. “Ze zijn voorzichtiger geworden, mede door de angst voor een mogelijk nieuw schandaal à la de woekerpolisaffaire en de daarmee gepaard gaande imago- en reputatieschade. Daarnaast heeft de Consumentenbond ooit naar buiten gebracht dat autoverzekeraars de premie mede bepaalden op postcode, straat, huisnummer en zelfs per toegevoegde letter (a,b,c,d, etc.). Als dat soort voorbeelden alom bekend worden, is dat lastig uit te leggen aan verzekerden.” 

Jonker: “De afzonderlijke elementen van het thema ESG zijn eigenlijk altijd al belangrijk geweest voor bedrijven, maar staan de laatste tijd helemaal in de spotlights. Ik vind het daarom ronduit ongelooflijk dat er vandaag de dag nog steeds bedrijven zijn die mannen en vrouwen niet hetzelfde behandelen en belonen voor dezelfde werkzaamheden, om er één ESG-onderwerp even uit te tillen. Zelfs bij nieuwe start- & scale-ups, waar je toch iets anders zou verwachten. Door voorop te lopen in de naleving van ESG-normen kunnen juist verzekeraars, die veelal een lange staat van dienst hebben in de samenleving, een voorbeeld zijn van wat het betekent om een goede, betrouwbare businesspartner te zijn. ”Marvin sluit zich daarbij volmondig aan. “ESG is belangrijk voor het imago voor verzekeraars. Het laat zien waar je als verzekeraar maatschappelijk staat als bedrijf en dat wordt in de huidig tijd steeds relevanter.”

Relatie AI-ESG 

Volgens beiden is er ontegenzeggelijk een relatie tussen AI en ESG. Op basis van de gestelde ESG-criteria wordt bekeken of bedrijven en andere instanties op een twaalftal terreinen maatschappelijk, sociaal en bestuurlijk verantwoord opereren. Marvin: “De relatie AI-ESG is nog zo nieuw, dat we die niet helemaal onderzocht hebben. We hebben wel de impact van AI op het milieu en mogelijke risico’s voor mensenrechten in kaart gebracht. Dat overlapt met ESG.” AI heeft ontzettend veel voordelen, benadrukken beiden. Louis noemt onder meer de besparing van kosten en vooral resources. “Je kunt met minder mensen hetzelfde werk doen. Maar je kunt de betreffende overbodig geworden medewerkers ook ander werk laten doen en zo de kwaliteit van de dienstverlening naar een hoger niveau tillen. Bijvoorbeeld door een snelle respons bij offertes en schadeclaims. Daarmee kan de omzet verder worden verhoogd. Daarbij geloof ik sterk in de combinatie mens en machine, die elkaar kunnen versterken. Alleen vertrouwen op AI is niet voldoende, want er zijn altijd checks & balances nodig. En die kunnen alleen uitgevoerd worden door mensen. Voor een effectieve toepassing van AI zijn in mijn ogen dan ook drie zaken nodig: mensen, data en tools. Alleen een goede besturing van deze drie factoren in samenhang kunnen zorgen voor een succesvolle implementatie van AI met behoud van ESGnormen”, aldus de advocaat.

Op gespannen voet 

Volgens Marvin kunnen AI en ESG dan ook op gespannen voet met elkaar staan. “Het gaat over het gebruik van gigantische datasets en miljarden parameters, zoals met ChatGPT. Fintechbedrijven zien daar veel voordelen van in: betere voorspellingen door AI betekent beter toegespitste verzekeringen (risk pooling). AI kan daarnaast ook helpen bij het vinden van nieuwe risico’s om te verzekeren en dus nieuwe producten. Maar als we aan de andere kant ESG erbij betrekken, dan wordt de afweging voor een verzekeraar moeilijker. Zo is bijvoorbeeld de milieu-impact groot doordat complexe AI-modellen zoals ChatGPT veel data nodig hebben om het systeem te trainen en daarmee enorme ‘energieslurpers’ zijn. Onderzoek heeft onder meer uitgewezen dat het trainen van een ‘klein’ AI-model al meer energie verbruikt dan een huishouden in een heel jaar. Daarnaast neemt een AI-systeem bestaande biasses (verkeerde veronderstellingen) in de gebruikte datasets over. Daaruit vloeien discriminatie- en privacyrisico’s voort. Bovendien zijn complexe AI-modellen niet transparant, dus een bedrijf weet zelf niet zeker hoe het systeem tot een bepaalde conclusie komt. Het gebruik van AI kan dan als ‘onethisch’ worden bestempeld.” Louis zegt hierover: “Het is een gegeven dat in elk AI-systeem een of meerdere biasses zitten. Het systeem wordt nu eenmaal door mensen gevoed. Wat een en ander zou kunnen voorkomen is wanneer er meer diversiteit wordt ingebracht in de groep die het AI-systeem ontwikkelt en traint. Echter, mensen zijn doorgaans ook ‘lui’ en hebben de neiging ervan uit te gaan dat wanneer 9 van de 10 uitkomsten goed zijn, de 10e dat ook wel zal zijn. Bedrijven zien veelal niet in dat ze niet voor de volle 100% op de uitkomsten van een AI-systeem kunnen vertrouwen, of ze laten het gebeuren en grijpen niet of te laat in als ze het fout zien gaan.

Keuzes maken 

Zakelijke verzekeraars moeten volgens Louis keuzes maken in welke mate zij de risico’s van bedrijven die AI inzetten willen verzekeren, en moeten daarbij ook ESG meewegen. Als een bedrijf complexe AI-modellen gebruikt, met grote risico’s op effecten die sociale ongelijkheid bevorderen, en dat bedrijf heeft hier vanuit zijn interne governance onvoldoende aandacht voor, is het dan verstandig om de risico’s van dat bedrijf te verzekeren? “Risico’s dekken vormt de core business voor verzekeraars, maar als je bij acceptatie onvoldoende aandacht besteedt aan dergelijke ESGaspecten rond de inzet van AI, dan ben je in feite een brandend huis aan het verzekeren.” Hij verwijst in dit verband naar de manier waarop de cyberverzekeringsbranche te werk gaat. “Verzekeraars zijn zich bij hun risicoanalyses vóór acceptatie gaan bemoeien met de manier waarop verzekerden binnen hun bedrijf omgaan met preventie en risicomanagement. Dat zouden zij ook met betrekking tot AI en ESG kunnen gaan doen. Als zij ‘blind’ zaken in dekking nemen, dan is er een grote kans dat zij daarvan een keer de financiële rekening Hoewel het niet altijd verplicht is op basis van de huidige regelgeving, raad ik verzekeraars aan vooral hun morele kompas in gedachten te houden gepresenteerd krijgen; en ik doel dan op een financiële rekening die aan de zijde van de verzekerde voorkomen had kunnen worden.”

Morele kompas

Wat zouden jullie met betrekking tot dit onderwerp mee willen geven aan de verzekeringsmarkt en andere bedrijven? Jonker: “Lees je in, lees je in, lees je in! Er is bij eenieder nog te veel onwetendheid over zowel AI als ESG, maar er is volop info voor handen. Creëer besef en bewustzijn bij alle medewerkers, bijvoorbeeld door hen wekelijks een half uurtje bij te laten lezen over de impact van AI en ESG op de dagelijkse praktijk en de dienstverlening aan klanten. Kortom, ga ermee aan de slag, maar probeer op dit vlak je in het begin niet meteen al te perfect op te stellen. Goed genoeg is voorlopig ook goed genoeg.” Marvin zegt te vrezen dat met betrekking tot AI bedrijven, verzekeraars incluis, de grenzen zullen opzoeken wat binnen de regelgeving mogelijk en toegestaan is. Hoewel het niet altijd verplicht is op basis van de huidige regelgeving, raad ik hen aan vooral hun morele kompas in gedachten te houden.”