Zeven AI-vragen voor elke commissaris

Frank Kunneman

Op de agenda staat het nieuwe kredietbeleid. De CFO toont een AI-systeem dat alle kredietaanvragen beoordeelt. Wachttijden zijn gehalveerd, het aantal fouten is volgens het bestuur “fors gedaald”. De voorzitter van de RvC is enthousiast. Dan meldt een medecommissaris dat een trouwe zakelijke klant, al jaren zonder problemen, toch is afgewezen. “Het model is streng, maar objectief,” zegt de CFO. In de zaal wordt het stil. Niemand weet welke data het systeem gebruikt of wie heeft besloten dat deze klant ineens rood is, maar iedereen voelt dat er iets niet helemaal lekker zit. Daar, op dat moment, begint uw echte werk als commissaris. Niet bij het zelf snappen van het algoritme, maar bij de vragen die u stelt. Zeven, om precies te zijn.

Waarvoor willen wij AI eigenlijk gebruiken? De vraag is niet: “wat kan er allemaal”, maar: “wat willen wij?” Wilt u snellere rapportages, betere forecasts, scherper zicht op risico’s? Prima. Maar zegt u ook hardop wat u níet wilt automatiseren? Zoals het gesprek over integriteit en de beoordeling van een bestuurder. Als u niet afspreekt waar AI niets te zoeken heeft, kruipt het vanzelf overal naar binnen.

Wie blijft verantwoordelijk als het misgaat? Taken kunt u uitbesteden, verantwoordelijkheid niet. Als een AI-systeem een fout maakt, is dat nooit “de schuld van de AI”. Het is de uitkomst van keuzes van bestuur, leverancier en toezichthouders. Is vastgelegd wie verantwoordelijk is als een klant onterecht wordt geweigerd, een medewerker ten onrechte wordt weggeselecteerd of een groot risico niet wordt gesignaleerd?

Welke data gaan erin, en wie beslist daarover? AI is geen magie. Het is data plus aannames. Wie bepaalt welke data in het systeem gaan, welke perioden worden meegenomen, welke uitzonderingen worden weggefilterd? Ziet u alleen “schone” grafieken, of krijgt u ook het verhaal over ontbrekende gegevens, twijfelachtige bronnen en mogelijk vooroordeel?

Voor welke besluiten gebruiken we AI, en welke blijven menselijk? AI kan scenario’s doorrekenen, klanten scoren, prijzen bepalen, CV’s selecteren. Maar niet elk besluit hoort in handen van een model. Laat het bestuur u precies aanwijzen waar AI alleen als rekenhulp wordt gebruikt en waar welbewust niet.

Hoe maken we de uitkomsten uitlegbaar? Vroeg of laat staat er iemand op de stoep met de vraag: “Waarom ik?” De klant die geen lening krijgt of de medewerker die geen opleiding mag doen. Kan uw bestuurder u dan in gewone taal uitleggen hoe die uitkomst tot stand komt? Niet: “het systeem zegt het”, maar: “wij hebben besloten dat dit eerlijk is, omdat...”. Als u dat gesprek in de vergadering niet kunt voeren, kunt u het extern al helemaal niet.

Wie houdt toezicht op de algoritmes zelf? Waar valt AI onder? Staan kritieke systemen in het risicoregister, het auditplan en de compliance-agenda? Of hangen ze ergens bij IT, als “innovatieproject”? Een algoritme dat mede bepaalt wie klant mag worden en wie niet, is geen gadget. Dat is kernbedrijvigheid. Daar hoort degelijk en voortdurend menselijk toezicht op te zijn, geen misplaatst vertrouwen.

Hoe zorgen we dat de raad dit blijft begrijpen? Een eenmalige workshop “AI voor dummies” is geen strategie. Spreek af hoe u als raad bijblijft en neem AI op in uw jaarlijkse zelfevaluatie. Plan elk jaar sessies waarin u geen nieuwe speeltjes bekijkt, maar kritisch bespreekt wat bestaande systemen doen met klanten, medewerkers en reputatie. Vraag het bestuur om u niet alleen succesverhalen te brengen, maar ook de ongemakkelijke incidenten.

Als u deze vragen niet stelt, stelt iemand anders ze ook niet. De chatbot doet het niet. De leverancier liever niet. Het bestuur meestal pas als het misgaat.

Maar vragen alleen zijn nog geen werkwijze. Een raad die AI serieus neemt, kan niet volstaan met incidentele alertheid of een paar kritische interrupties tijdens de vergadering. Er moeten ook concrete spelregels en werkafspraken komen. Anders blijft AI iets wat iedereen een beetje gebruikt, niemand echt beheerst en uiteindelijk dus ook niemand goed verantwoordt.

___

Meer weten over corporate governance? Neem een kijkje op onze events pagina!