Hoe omgaan met opportuniteiten en risico’s van Artificiële Intelligentie en AI-applicaties in de bestuurskamer?

Van daaruit heeft ze ook expertise opgebouwd in de praktijk over de impact van artificiële intelligentie en hoe daarmee om te gaan in de bestuurskamers van profit- en non-profit ondernemingen. Ze was ook panellid van het GUBERNA National Member Forum dat antwoorden zocht op de vraag hoe een bestuurder deskundig kan navigeren in innovatie, risico’s en verantwoordelijkheden met AI-applicaties. Deze applicaties kennen momenteel een boost in diverse ondernemingen en organisaties. Wij zijn dankbaar dat ze haar ervaringen en raadgevingen bruikbaar voor bestuurders in diverse ondernemingen deelt in deze GUBERNA Directors Sparkles.

“Data gedreven ondernemingen en AI- technologieën zijn ‘enablers’ van digitale transformatie van onze maatschappij.” – Katrin Geyskens 

Het voorbije jaar is er veel te doen geweest rond Chat GPT, Bing, Dall-e en andere AI-applicaties. Kan u voor een goed begrip even schetsen wat Artificiële Intelligentie is en wat AI-applicaties inhouden?  

Artificiële Intelligentie is software die datawetenschappen (zoals statistiek, ‘machine learning’, ‘deep learning’, …) gebruikt om menselijke intelligentie na te bootsen om zo te komen tot een output zoals het creëren van inhoud, voorspellingen doen, aanbevelingen genereren of zelfs beslissingen nemen.   

Deze AI-applicaties zijn overal aanwezig en kunnen we ruwweg opdelen in drie categorieën: 

• Eenvoudige (en niet altijd bewust gebruikte) applicaties die AI bevatten: bijvoorbeeld spam filter op e-mail, ‘lane assist’ in de auto, geoptimaliseerd bestellen bij bol.com en het pakje laten leveren, … 

• Zeer gespecialiseerde applicaties waar ‘cutting-edge’ AI-algoritmes specifiek voor ontwikkeld worden, maar die wel de gebruiker op een eenvoudige manier ondersteunen: bijvoorbeeld analyse van hersenscans ter ondersteuning van radiologen die een ‘eenvoudig’ rapport krijgen over waarnemingen die ze met het blote oog niet kunnen zien (Icometrix) 

• Generatieve AI bedoeld voor de ‘consument’/ brede samenleving: bijvoorbeeld Chat GPT (97 % van de ondernemingen gebruiken deze momenteel volgens een bevraging van Mc Kinsey, waarbij er maar 20 % van deze bedrijven een gepaste policy heeft over dit gebruik). 

Op welke manieren kunnen ondernemingen en hun bestuurders te maken krijgen met AI-applicaties en het gebruik van AI? 

Ten eerste gebruiken veel ondernemingen AI en AI-applicaties. Dat is heel divers en er bestaan gradaties van gebruik van deze applicaties. 

Gebruik in horizontale processen over alle bedrijven heen kan gekenmerkt worden als een natuurlijke evolutie van software. Wie gebruikt er niet de ‘finance forecasting’, ‘social media tools’ voor marketingdoeleinden, chatbot’, enz.? Dit heeft een lage risicograad bij gebruik en zijn wijd verspreid.  

Ten tweede zijn er natuurlijk ondernemingen die AI-applicaties ontwikkelen en commercialiseren op basis van eigen algoritmes en met eigen trainingsdata. Dit gebeurt veelal in innovatieve en vaak ‘venture-backed’ bedrijven zoals bijvoorbeeld het Gentse FEops dat een ‘digital twin’ van de patiënt zijn hart maakt. Deze software wordt dan gebruikt om de plaatsing van een nieuwe hartklep bij een specifieke patiënt voor te bereiden. 

Hoe kan AI in de bestuurskamer gebruikt worden? 

De meeste raden van bestuur gebruiken al onbewust AI in hun voorbereiding, bijvoorbeeld omdat het door de financiële afdeling wordt gebruikt om forecasting te doen (‘assistive AI’).  

Er zijn echter ook al applicaties die verder gaan en het Bestuursorgaan kunnen ondersteunen in hun voorbereiding. Een voorbeeld is het Gentse bedrijf Trensition dat via AI trendanalyses bezorgt specifiek voor een bepaald bedrijf, sector of onderwerp. Dit kan bestuursraden voeden met sterke of zwakke signalen van trends om al dan niet op in te gaan, de strategie bij te sturen en zo al dan niet vroeger dan de concurrentie te anticiperen.  

De vraag wordt gesteld of generatieve AI zoals ChatGPT de individuele bestuurder ook kan helpen de vergadering voor te bereiden. Men zou kunnen vragen waarom een bepaalde investering niet te doen met als doel om gegevens naar boven te halen als verrijking en rijker debat bij de beslissing. Als je dergelijke vragen stelt en generatieve AI gebruikt, is het absoluut aangeraden om de betalende en professionele versie te gebruiken, zo niet kunnen de data en input later publiek worden. Het is wellicht een goed idee om eens uit te proberen, zolang het beperkt wordt voor verrijking van het debat en niet als absoluut gegeven wordt gebruikt met de enige intentie om een investering tegen te houden. Dus slimme vragen aan AI-applicaties en de daaruit gegenereerde input kunnen een bestuurder misschien op een gemakkelijke manier meer inzicht laten verwerven.  

In de academische wereld wordt er ook gesproken over het gebruik van volledige ‘autonomous AI’ of een zogenaamde ‘robo-director’ of robotbestuurder: een AI-applicatie die na training als een autonome bestuurder beslissingen kan nemen. Dit lijkt echter nog niet voor direct. Hoe een ‘robo director’ trainen, vrijwaren van ‘bias’, collegiaal laten functioneren in de diversiteit van de bestuurskamer, …?  

Wat betekent deze evolutie nu voor de verantwoordelijkheden van bestuurders?  

Naargelang de categorie van de AI-applicaties en de gradatie van het gebruik/ontwikkeling van deze applicaties zal de verantwoordelijkheid van de bestuurder verschillen. Een categorie met hoger risico (bijvoorbeeld applicaties die gebruikt worden in de medische wereld, of applicaties die in het recruteringsproces worden ingezet) en zelf ontwikkelen van AI-applicaties op basis van trainingsdata vergt een intenser toezicht en een aangepast ‘framework’ voor compliance, risicobeheer en audit.  

Dit is niet een éénmalig iets, maar vraagt een continu bevragen en aftoetsen van de adequaatheid van de ‘frameworks’ in functie van de evolutie in en buiten de onderneming.  

Het is te vroeg om nu al algemeen geldende regels te kunnen meegeven, maar een goed referentiekader is de EU AI Act die vermoedelijk in 2026 in voege komt.  

Moet de samenstelling van het bestuur aangepast worden in de context van deze technologische vernieuwingen? Dient de voorzitter een AI-expert te zijn of is het aangewezen een bestuurder met AI-expertise aan te trekken? 

Er zijn vandaag niet veel echte AI-experten en bovendien een bestuurder niet geacht een expert te zijn. Wel dient er voldoende basiskennis te zijn en hopelijk is er iemand in de organisatie die dieper kan gaan en in de algoritmes en ‘sourcing’ van gegevens kan kijken, dit is niet de rol van de bestuurder. Een bijzondere aandacht bij het toezicht verdient AI in de actualisatie van het beleidskader van compliance, proces- en risicobeheer en audit en indien nodig van de monitoring van adequate KPI’s. 

Heeft u nog suggesties voor verdieping in Artificiële Intelligentie voor goed geïnformeerde bestuurders? 

Volgende boeken zijn aan te raden: ‘Mens versus machine. Artificiële Intelligentie ontrafeld’ van Geertrui Mieke De Ketelaere en ‘Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence’ van Kate Crawford. Daarnaast zijn er nuttige websites zoals die van Flanders AI Research Program en Artificiële Intelligentie Digitale toekomst. Die laatste is zeer nuttig voor kmo’s. 

Uitwisseling met collega bestuurders is uiteraard ook zeer leerrijk, bijvoorbeeld tijdens National Member Forum of andere initiatieven van GUBERNA.