L'intelligence artificielle va-t-elle manger le monde ? Rapport du Forum national des membres 2023
Dans cet article, vous lirez les idées et les points de discussion les plus importants du Forum national des membres de GUBERNA qui s'est tenu le 6 juin 2023. Le Forum de cette année a examiné de manière critique le battage médiatique autour de l'intelligence artificielle (IA) tout en soulignant les opportunités stratégiques créées par l'IA et son impact potentiel sur les rôles des membres des conseils d'administration. D'après les commentaires de nos membres participants, l'événement a été très apprécié. L'introduction, les discours principaux et le débat d'experts ont été intellectuellement stimulants et ont donné matière à réflexion.
L'intelligence artificielle va-t-elle manger le monde ?
Dans son discours d'introduction, Sandra Gobert, PDG de GUBERNA, a dissipé certains mythes entourant l'IA tout en expliquant comment elle affectera le rôle des membres des conseils d'administration. En 2011, Mark Andreessen, de la société de capital-risque Andreessen Horowitz, a déclaré que les logiciels étaient en train de "manger le monde", suggérant que les services logiciels remplaçaient de plus en plus d'emplois et de produits qui dépendaient auparavant de biens d'équipement ou de maind'œuvre humaine. Cette prédiction s'est avérée exacte dans divers secteurs tels que le divertissement, les voyages, les télécommunications, la finance, le marketing, la publicité ou les ressources humaines. De même, on prévoit aujourd'hui que l'IA remplacera de nombreux emplois actuellement occupés par des humains. Les membres des conseils d'administration doivent rester vigilants quant aux opportunités et aux risques que l'IA peut. apporter à leur secteur d'activité, tout en conservant une perspective critique sur le cycle actuel d'engouement.
Pour démontrer le battage médiatique actuel, Sandra Gobert a souligné que Geoffrey Hinton, l'un des pionniers des réseaux neuronaux artificiels, a déclaré en 2016 que les réseaux neuronaux remplaceraient les radiologues "d'ici cinq à dix ans". Cependant, Sandra Gobert a présenté des chiffres montrant une augmentation de la demande de radiologues et même une pénurie mondiale d'emplois en radiologie depuis la prédiction de M. Hinton. L'erreur de M. Hinton a été d'extrapoler la capacité de l'IA à automatiser certaines tâches partielles d'un travail à l'ensemble du travail. En fait, les statistiques industrielles révèlent que des pays fortement automatisés comme l'Allemagne ou la Corée du Sud ont des taux de chômage parmi les plus bas au monde, ce qui suggère une relation floue entre l'automatisation et les pertes d'emplois.
Revivez l'événement à travers l'aftermovie
L'IA complétera, et non remplacera, les membres des conseils d'administration.
Tout en faisant preuve d'un scepticisme de bon aloi à l'égard d'un éventuel battage médiatique, les membres des conseils d'administration doivent être conscients des possibilités offertes par cette technologie et des risques qu'elle peut présenter. Deux questions fondamentales que les membres du conseil d'administration doivent systématiquement se poser concernent la création de valeur durable et le contrôle. Premièrement, ils doivent comprendre comment cette technologie crée de la valeur pour leur entreprise et doivent être conscients, mesurer et intégrer les effets environnementaux et sociétaux causés par les systèmes d'IA. Deuxièmement, les membres du conseil d'administration doivent avoir une idée de la manière de contrôler les risques associés à l'utilisation de cette technologie. Ils doivent comprendre les causes et l'ampleur de ces risques, les segments de marché ou les groupes d'utilisateurs où ces risques apparaissent, et la manière de les anticiper et de les gérer. Ces questions sur la valeur et le contrôle peuvent être posées dans chacun des trois rôles essentiels des membres du conseil d'administration : la formulation de la stratégie, le suivi des risques et le leadership.
Comment l'IA affecte le rôle de stratège
Les membres du conseil d'administration devront interroger les dirigeants sur les différentes façons dont l'IA affecte la stratégie de l'organisation. L'IA peut avoir un impact sur la position concurrentielle, contribuer à la réalisation de la mission et de la stratégie ou perturber le paysage concurrentiel. L'introduction de l'IA sur le lieu de travail doit se faire avec précaution afin d'obtenir l'adhésion du personnel. Elle peut affecter l'interface client en créant de la valeur pour certains clients ou en causant du tort à d'autres. L'IA a le potentiel d'améliorer les modèles opérationnels en augmentant la productivité et la rentabilité, mais cela doit s'aligner sur la stratégie globale.
Comment l'IA affecte le rôle de l'audit
Ces opportunités stratégiques imposent au conseil d'administration d'élargir son rôle d'audit de l'IA. L'adoption d'un code d'éthique de l'IA peut garantir un développement, un déploiement et une utilisation appropriés de l'IA. L'audit des algorithmes utilisés devient crucial. Si l'IA est utilisée pour automatiser les contrôles et les rapports financiers, il est essentiel de comprendre le fonctionnement interne de ces algorithmes avant de prendre des décisions sur la base de ceux-ci. La propriété des données utilisées par ces algorithmes doit être clarifiée. Enfin, l'IA introduit de nouveaux risques en matière de cybersécurité, car des acteurs malveillants peuvent l'exploiter pour perturber les opérations. Toutefois, l'IA peut également être utilisée pour gérer et atténuer ces risques, ce qui constitue une arme à double tranchant.
Comment l'IA affecte le rôle des dirigeants
Enfin, l'IA affectera divers aspects du rôle de leadership du conseil d'administration. Le choix d'une technologie d'IA s'apparente à l'embauche de cadres à qui l'on délègue le pouvoir de décision. Il convient de faire preuve de diligence raisonnable lors de l'embauche de l'IA, tout comme lors de l'embauche de dirigeants. Si des pouvoirs de décision sont délégués à l'IA, il convient de mettre en place des garde-fous et des fils-pièges afin d'éviter tout dépassement de mandat. En outre, l'IA aura besoin d'être encadrée, de la même manière que les cadres suivent des parcours d'apprentissage tout au long de la vie. L'amélioration continue sera recherchée grâce à des boucles de rétroaction entre l'IA et les personnes concernées.
En conclusion, Sandra Gobert a souligné la nécessité pour le conseil d'administration d'adopter une approche structurée afin d'analyser les opportunités stratégiques, les tendances du marché et les menaces concurrentielles. En outre, le conseil d'administration devrait établir des garde-fous pour détecter le déploiement irresponsable de l'IA.
Notes sur l'éthique de l'IA et le paysage concurrentiel
Notre premier orateur, le professeur Rob Heyman (de l'institut de recherche imec-SMIT-VUB), a des dizaines d'années d'expérience dans des projets de recherche appliquée et industrielle. Dans son discours, il s'est concentré sur la manière de traduire les principes éthiques en lignes directrices d'entreprise exploitables afin d'exécuter la stratégie et de surveiller les dommages potentiels. M. Heyman a mis en garde contre le fait de s'appuyer uniquement sur des principes d'IA de haut niveau et a plaidé en faveur d'un "legal design thinking" qui élabore des lignes directrices pratiques comblant le fossé entre les principes éthiques abstraits et les pratiques technologiques/professionnelles. Il a également souligné les façons inattendues et créatives dont les humains utilisent toujours la technologie, en insistant sur le fait qu'il n'existe pas d'approche unique de l'utilisation éthique de l'IA. L'éthique de l'IA doit prendre en compte simultanément son impact sur les propositions de valeur des clients, la conception financière et la conception des processus d'affaires internes. Une boucle de rétroaction devrait assurer un apprentissage et une croissance continus dans ces trois dimensions.
Notre deuxième oratrice principale, Cristina Caffarra, est une experte antitrust très respectée de Keystone Europe. Dans son discours, elle s'est inquiétée de la domination du marché par quelques géants du logiciel. Étant donné que les plus grandes entreprises technologiques contrôlent actuellement les modèles fondamentaux de l'IA, les membres des conseils d'administration doivent être vigilants face à la fermeture prématurée de la concurrence et aux effets de verrouillage de la clientèle au sein de l'industrie. M. Caffarra a critiqué l'accent mis par la Silicon Valley sur les risques existentiels hypothétiques de l'IA dans un avenir lointain, soulignant la nécessité d'un examen critique des préjudices actuels causés par l'IA dominée par un petit nombre d'entreprises. Il s'agit notamment d'examiner les pratiques de collecte et de traitement des données, l'exploitation des œuvres créatives, le mépris du travail humain impliqué dans la construction et l'affinement de ces modèles, et l'amplification des préjugés par l'utilisation sans discernement de certains ensembles de données.
Débat d'experts
Après les présentations, nous avons organisé un débat animé sur les considérations clés pour les membres des conseils d'administration concernant l'IA. Florence Bosco de BVI.eu, David Dab de Microsoft BeLux et Katrin Geyskens de Capricorn Partners se sont joints aux intervenants Rob Heyman et Cristina Caffarra.
"Les ensembles de données complets et de haute qualité deviendront une mine d'or pour les entreprises qui sauront les exploiter. »
Florence Bosco a souligné l'importance de l'IA dans le développement de médicaments et de diagnostics. Elle a souligné que l'IA permet de prendre des décisions mieux informées, ce qui a un impact significatif sur le temps de développement moyen de 12 ans et le faible taux de réussite des nouveaux médicaments.
Si elle ne prévoit pas de risques importants liés à l'utilisation de l'IA par de mauvais acteurs à des fins malveillantes, elle a mis en évidence des problèmes potentiels dans la relation médecin-patient lors de l'introduction de l'IA. Des données faussées utilisées pour identifier les populations cibles des médicaments peuvent avoir des effets néfastes sur la santé des patients. Cette leçon s'applique à d'autres secteurs et souligne la nécessité pour les organisations d'éviter de développer des services basés sur des données biaisées qui pourraient causer des dommages involontaires. C'est pourquoi les conseils d'administration doivent de plus en plus surveiller l'audit des ensembles de données avant et après le déploiement du système.
David Dab a proposé une approche coopérative entre les humains et les machines, suggérant que les humains resteront "dans la boucle" pour les décisions critiques, même avec l'aide de l'IA. L'IA créera un éventail de possibilités d'emploi différentes plutôt que de remplacer entièrement les humains. L'apprentissage continu est essentiel pour éviter de laisser les gens sur le carreau. Bien que l'impact exact sur les emplois futurs reste à voir, on s'attend à ce que même les postes d'expertise de haut niveau, comme les médecins, intègrent l'IA dans leur routine de travail. Les médecins qui ignorent l'IA seront dépassés par ceux qui l'adoptent.
“"Nous nous battons contre les géants du numérique avec des cuillères en plastique.”
La discussion est revenue sur les questions de concurrence, Cristina Caffarra s'inquiétant du déséquilibre des pouvoirs causé par la domination des grands acteurs du marché qui disposent des vastes ressources nécessaires pour investir dans le matériel et les logiciels d'IA. Elle a souligné la nécessité d'aller au-delà de la législation non contraignante et de l'autorégulation pour réglementer efficacement ce domaine. Rob Heyman a rappelé au public que même ChatGPT a été développé avec l'aide de nombreux travailleurs issus de pays à bas salaires, soulignant ainsi les considérations éthiques entourant le développement et la mise en œuvre de l'IA. De telles délibérations éthiques continueront d'influencer les décisions des conseils d'administration dans un avenir proche.
Katrin Geyskens a délivré un message positif, affirmant qu'il existe encore des opportunités de marché pour les initiatives européennes face à la domination des géants de la Silicon Valley. La qualité et la quantité des données disponibles sont cruciales pour le succès futur dans n'importe quelle niche de marché. Il existe également un besoin croissant de connaissances en matière d'IA, non seulement au sein des conseils d'administration, mais aussi à tous les niveaux qui ont une importance sociale et économique. L'IA ne doit pas rester une boîte noire ; les processus doivent être transparents et rationnels.
Le modérateur Olivier Braet (GUBERNA) a conclu l'après-midi en résumant l'évolution du rôle des membres du conseil d'administration dans les générations successives d'IA. À mesure que l'intelligence autonome se répandra, les administrateurs dépendront de plus en plus de décisions stratégiques fondées sur des instructions et des algorithmes prédéfinis. La certification de ces systèmes par le biais de nouvelles règles, réglementations et normes gagnera en importance. En outre, il y aura une interaction symbiotique entre les personnes et les machines, qui se coacheront mutuellement et affineront les processus. Comme pour les innovations technologiques précédentes, il y aura une recherche d'un nouvel équilibre entre les humains et les machines. Lorsque les voitures sont apparues dans les villes au début du 20e siècle, la liberté de mouvement des piétons a été restreinte par des passages zébrés et des feux de circulation, et ils n'étaient plus autorisés à traverser les rues où bon leur semblait. Plus tard, des limitations de vitesse ont été introduites pour les voitures. Parvenir à un équilibre similaire entre les machines et les humains sera le principal défi à relever à l'ère de l'IA autonome.
