Gérer les opportunités et les risques de l’IA au sein des conseils d’administration

À partir de là, elle a également acquis une expertise pratique concernant l’impact de l’intelligence artificielle et la manière de la gérer dans les conseils d’administration d’entreprises à but lucratif et non lucratif. Elle a également fait partie d'un panel du GUBERNA National Member Forum qui cherchait des réponses sur la façon dont un administrateur peut gérer de manière experte l'innovation, les risques et les responsabilités avec les applications d'IA. Ces applications connaissent actuellement un essor dans diverses entreprises et organisations. Nous lui sommes reconnaissants de partager ses expériences et ses conseils, utiles aux administrateurs de diverses entreprises, dans ce « GUBERNA Director Sparkles ». 

« Les entreprises basées sur les données et les technologies d’IA sont les catalyseurs de la transformation numérique de notre société. » – Katrin Geyskens 

Au cours de l'année écoulée, il y a eu beaucoup de buzz autour de Chat GPT, Bing, Dall-e et d'autres applications d'IA. Pour une bonne compréhension des choses, pouvez-vous décrire brièvement ce qu'est l'intelligence artificielle et ce qu'impliquent les applications d'IA ? 

L'intelligence artificielle est un logiciel qui utilise les sciences des données (telles que les statistiques, l'apprentissage automatique, l'apprentissage profond, etc.) pour imiter l'intelligence humaine afin d'obtenir des résultats tels que la création de contenu , la réalisation de prédictions, la génération de recommandations ou même la prise de décisions. 

Ces applications d’IA sont omniprésentes et peuvent être grossièrement divisées en trois catégories : 

• Des applications simples (et pas toujours utilisées consciemment ) qui contiennent de l'IA : par exemple un filtre anti-spam sur les e-mails, le 'lane assist' dans la voiture, la commande optimisée sur bol.com et la livraison de colis, ... 

• Des applications hautement spécialisées pour lesquelles des algorithmes d'IA « de pointe » sont spécifiquement développés , mais qui accompagnent l'utilisateur de manière simple : par exemple , l'analyse de scanners cérébraux pour aider les radiologues qui reçoivent un rapport « simple » concernant des observations qu'ils n’arrivent pas à voir à l’œil nu. (Icometrix) 

• L'IA générative destinée au 'consommateur'/à la société au sens large : par exemple Chat GPT (97% des entreprises l'utilisent actuellement selon une enquête de Mc Kinsey, avec seulement 20% de ces entreprises ayant une politique appropriée sur cet usage). 

De quelle manière les entreprises et leurs conducteurs peuvent-ils être affectés par les applications et l'utilisation de l'IA ? 

Premièrement, de nombreuses entreprises utilisent l’IA et les applications d’IA. C'est très diversifié et il existe des degrés d'utilisation de ces applications.  

L'utilisation dans des processus horizontaux dans toutes les entreprises peut être caractérisée comme une évolution naturelle du logiciel. Qui n'utilise pas les prévisions financières, les outils de réseaux sociaux  à des fins de marketing, les chatbots, etc. ? Ceci présente un faible degré de risque au niveau de l’utilisation et est largement répandu.  

Deuxièmement, il existe bien sûr des entreprises qui développent et commercialisent des applications d’IA en se basant sur ses propres algorithmes et avec ses propres données de formation. Cela se fait souvent dans des entreprises innovantes et souvent « financées par du capital-risque », comme la société FEops de Gand, qui crée un « jumeau numérique » du cœur du patient . Ce logiciel est ensuite utilisé pour préparer la mise en place d'une nouvelle valvule cardiaque chez un patient spécifique. 

Comment l'IA peut-elle être utilisée dans la salle de réunion ? 

La question se pose de savoir si l’IA générative telle que ChatGPT peut également aider l’administrateur individuel à préparer la réunion. On pourrait se demander pourquoi ne pas faire un certain investissement dans le but de faire émerger des données pour enrichir et étoffer le débat décisionnel. Si vous posez de telles questions et utilisez l'IA générative, il est absolument recommandé d'utiliser la version payante et professionnelle, sinon les données et les entrées pourront être rendues publiques ultérieurement. Cela pourrait être une bonne idée de l’essayer, à condition que cela se limite au fait d’enrichir le débat et que cela ne soit pas utilisé comme une donnée absolue dans le seul but d’arrêter un investissement. Ainsi, les questions intelligentes posées aux applications d’IA et les informations générées par celles-ci peuvent permettre à un administrateur d’obtenir facilement plus d’informations. 

Dans le monde universitaire, on parle également de l'utilisation d'une « IA entièrement autonome » ou d'un soi-disant « robot-director » (robot directeur) : une application d'IA qui peut prendre des décisions en tant qu’administrateur autonome après une formation. Toutefois, cela ne semble pas encore être le cas pour l’instant. Comment former un « robot-director », se prémunir contre la partialité, assurer un fonctionnement collégial dans la diversité du conseil d'administration, etc. ? 

Que signifie cette évolution pour les responsabilités des administrateurs ? 

En fonction de la catégorie des applications d'IA et du degré d'utilisation/développement de ces applications, la responsabilité de l’administrateur sera différente. Une catégorie présentant un risque plus élevé (par exemple les applications utilisées dans le monde médical ou les applications utilisées dans le processus de recrutement ) et l'auto-développement d'applications d'IA basées sur des données de formation nécessitent une supervision plus intensive et un « cadre » adapté pour la conformité et la gestion des risques et les audits.  

Il ne s'agit pas d'un événement ponctuel, mais cela nécessite une remise en question et un contrôle continus de l'adéquation des « cadres » en fonction de l'évolution à l'intérieur et à l'extérieur de l'entreprise. 

Il est trop tôt pour prévoir des règles généralement applicables, mais la loi européenne sur l’IA, qui entrera probablement en vigueur en 2026, constitue un bon cadre de référence. 

La composition du conseil d'administration doit-elle être adaptée dans le contexte de ces innovations technologiques ? Le président doit-il être un expert en IA ou convient-il de recruter un administrateur ayant des compétences en IA ? 

Il n’y a pas beaucoup de vrais experts en IA aujourd’hui et d’ailleurs un administrateur n'est pas considéré comme un expert. Cependant, il doit y avoir des connaissances de base suffisantes et, espérons-le, il y a quelqu'un dans l'organisation qui peut approfondir et examiner les algorithmes et le « sourcing » des données. Ce n'est pas le rôle de l’administrateur. L’IA mérite une attention particulière dans la supervision, dans la mise à jour du cadre politique de conformité, de la gestion des processus et des risques et de l’audit et, si nécessaire, dans le suivi des KPI adéquats. 

Avez-vous des suggestions pour approfondir l'intelligence artificielle au service de conducteurs bien informés ? 

Les livres suivants sont recommandés : ‘Mens versus machine. Artificiële Intelligentie ontrafeld’ de Geertrui Mieke De Ketelaere et ‘Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence’ de Kate Crawford. En outre, il existe des sites Web utiles tels que ceux du Flanders AI Research Program et de Artificiële Intelligentie Digitale toekomst. Ce dernier est très utile pour les PME. 

Les échanges avec les collègues administrateurs sont bien sûr également très instructifs, par exemple lors du National Member Forum ou d'autres initiatives GUBERNA.