Voilà maintenant quelques années que la frénésie autour des IA génératives et de leur pouvoir quasiment magique ne faiblit pas. Jamais les entreprises n’ont semblé aussi proches d’atteindre ce graal où l’ensemble de leurs savoirs et de leur production intellectuelle quittent enfin la jungle des arborescences de dossiers pour être mis à la disposition du plus grand nombre.
Pourtant, dans ce billet, nous allons tenter de comprendre pourquoi l’échec des IA génératives est inévitable et pourquoi ce rêve n’est en fait qu’une chimère, portée par ces concepts si séduisants de Technium et de Noosphère.
Les IA génératives sont une merveille de l’esprit humain et de l’informatique
Que l’on ne s’y méprenne pas: les résultats produits par les IA génératives sont époustouflants: en quelques prompts, chacun parvient à produire un résultat plutôt acceptable et parfois même totalement satisfaisant: dessiner des schémas à partir d’un croquis, générer du texte à partir d’une simple question, concevoir des images, synthétiser des documents multiples en quelques secondes, produire un script Python, tout cela elles le font parfaitement.
Il y a encore quelques années, on ne pouvait pas imaginer que ces outils soient mis à la portée de main de tout un chacun, souvent gratuitement ou à prix modique. Donc, oui, nous devons reconnaître les progrès extraordinaires de l’informatique et des algorithmes qu’elle héberge. Et ça, c’est le résultat du travail d’ingénieurs et de chercheurs que nous pouvons admirer à juste titre.
Pourtant, tout cela repose sur un postulat totalement faux et qui ne peut aboutir qu’à l’échec des entreprises qui prétendent s’appuyer sur les IA génératives pour se transformer sans véritable effort.
Les conditions nécessaires à la construction de la connaissance par l’IA générative
Pour délivrer leur plein potentiel, les IA génératives ont besoin que plusieurs conditions soient réunies et fonctionnent de concert :
- une masse d’informations que l’on va qualifier de « pertinentes », c’est-à-dire nécessaires ou au moins utiles à l’activité de l’entreprise;
- des systèmes informatiques qui permettent de collecter puis d’agréger ces informations de nature diverse;
- enfin, des utilisateurs désireux d’utiliser l’ensemble.
Pour reprendre le schéma d’illustration de cet article, nous avons donc trois acteurs: le Technium, la Noosphère et l’Humanité. Ces trois acteurs se retrouvent également dans chaque entreprise, même si c’est à une échelle réduite.
La réalité du Technium
Le Technium est un concept décrit dans les années 2000 par Kevin Kelly dans son ouvrage « What Technology Wants » et que l’on peut retrouver dans son blog épomnyme, The Technium. Il y décrit ce Technium comme un vaste ensemble regroupant tout ce que l’être humain a créé et qui permet à nos systèmes informatiques de fonctionner, depuis les centrales électriques jusqu’aux serveurs, routeurs ou encore les câbles sous-marins ou autres processeurs et ordinateurs.
The technium is the sphere of visible technology and intangible organizations that form what we think of as modern culture.
Kevin Kelly
Il est tout à fait exact que nous vivons dans un monde où les interdépendances sont omniprésentes, notamment dans le domaine informatique. En revanche, admettre ces innombrables liens ne veut pas dire que tout est relié au point de pouvoir communiquer ou interagir, au contraire même. Dans l’essence même de ce Technium les liens sont de nature variée: logistiques pour les matières premières, industriels pour la fabrication des composants et intellectuels pour les logiciels. Nous pouvons y ajouter les liens financiers, politiques et stratégiques dont les effets des droits de douane américains nous ont donné un avant-goût.
Même si Kevin Kelly annonce la convergence des solutions technologiques vers des trajectoires universelles, nous pouvons adopter une approche totalement contraire, celle d’une complexité croissante liée à l’infinie diversité de ces mêmes produits, technologies, langages, normes, standards. Pour rester au niveau de l’entreprise et de ses systèmes informatiques, nous devons constater ces multiples points de rupture, omniprésents avec des systèmes étanches les uns aux autres, qu’il s’agisse d’héritage ou bien encore de questions de sécurité, voire d’usage, entre autres. Les causes de ces ruptures sont multiples et constituent un frein majeur à la transformation numérique des entreprises.
Pouvons-nous espérer réduire un jour ces ruptures ? Nous pouvons en douter. Pour illustrer ce propos, nous pouvons nous appuyer sur la Théorie de Résolution des Problèmes inventifs, développée par un Genrich Altshuller1. Cette théorie très présente dans le monde de l’ingénierie, affirme une règle universelle: celle de l’évolution différenciée des éléments d’un système. Chaque élément présente en effet ses propres contradictions techniques et physiques qu’il faut d’abord résoudre avant de l’intégrer au système. Chaque progrès d’un élément va ensuite ensuite provoquer des effets de bord et des contradictions sur d’autres éléments qui devront alors suivre la même démarche de résolution des contradictions.
En d’autres termes, les éléments constitutifs du Technium, y compris dans une entreprise, ne pourront jamais réellement converger, les condamnant ainsi les entreprises à vivre avec des technologies où la cacophonie, bien plus que l’harmonie est la norme.
La Noosphère, entre rêve et réalités
La Noosphère est un concept imaginé par Teilhard de Chardin, Vernadsky et Le Roy dans les années 1920 pour décrire cette union de l’humanité dans tout ce qu’elle a produit comme savoir, idées, pensées et que Sesé décrit ainsi : « une sphère humaine, la sphère de la réflexion, de l’invention consciente, de l’union sentie des âmes (la Noosphère, si l’on veut)2« .
Cet accès à l’ensemble de la conscience humaine nous rappelle la quête inlassable des acteurs de l’IA générative comme Open AI, Mistral et d’autres: accéder à l’ensemble du savoir de l’humanité et nous permettre ensuite d’en bénéficier grâce à leurs modèles de langages.
Finalement, une entreprise qui veut avoir recours à une IA générative pour permettre à ses collaborateurs d’avoir accès à l’ensemble des savoirs individuels et collectifs endosse cette idée d’une Noosphère, où toute sa production intellectuelle serait disponible, prête à être récoltée pour l’entraînement d’un modèle. Mais est-ce ainsi que la construction de la connaissance fonctionne ? Certainement pas. Pour reprendre Niklas Luhmann3, toute organisation existe d’abord par ses flux d’information. Cette dynamique de flux ne s’interrompt jamais. A chaque seconde l’organisation, entreprise comme administration, produit de nouvelles informations, de nouvelles connaissances. Or comment les intégrer à un modèle d’IA, qui, par définition, a besoin de moments de stabilité pour être proprement entrainé et contrôlé?
Allons un peu plus loin: en observant ce qui pourrait constituer la Noosphère d’une entreprise, nous constatons la multiplicité des isolats informationnels. Les membres du conseil d’administration ne vont pas permettre que leurs débats servent à alimenter une IA générative. Les discussions stratégiques en cours ne seront pas non plus communiquées tant les risques de compromission sont élevés. Dans ce contexte, le collaborateur qui prétend utiliser l’IA générative dans l’exécution de ses missions est condamné à l’éternel train de retard. De même, l’implicite, le fruit d’une culture profondément ancré, fait certes partie de cette noosphère, mais il est inaccessible, car il ne laisse aucune trace écrite susceptible d’être confiée à une IA.
Pour reprendre les principes de TRIZ, nous pouvons ajouter à cette fluidité l’environnement de l’entreprise, environnement qui interagit en continu avec elle et l’amène à se transformer par petites touches, souvent imperceptibles dans l’immédiat, mais qui ont un effet sur le long terme. Comment oser ne pas tenir compte des interactions avec les prestataires, les clients, les autorités qui fixent les normes ? Chacune de ces interactions amène un micro-changement.
Il n’existe donc pas de sphère où toute l’information de l’entreprise serait accessible et permettrait de nourrir cette IA, condamnant de facto les collaborateurs à avancer dans le brouillard.
Les conséquences des fausses certitudes
Les promesses de l’IA générative dans l’entreprise ne peuvent donc conduire qu’à l’expression de fausses certitudes propres à berner tant les auteurs des rapports que leurs lecteurs. La réalité de l’entreprise est fluide, souvent contradictoire, brouillée par les multiples éléments qui interagissent en permanence, les non-dits. Sans discuter les performances intrinsèques des IA génératives, il apparaît que la connaissance, évolutive, multiple et répartie entre de multiples acteurs, ne se laisse pas modéliser aisément.
Ainsi, réduire le capital de connaissances d’une entreprise aux productions d’une IA générative revient à la condamner à errer dans un palais des miroirs, véritable labyrinthe où l’illusion de la vérité règne en maîtresse absolue.
D’où le risque de dérailler pour l’entreprise qui fait trop confiance aux contenus générés par l’IA.
- https://en.wikipedia.org/wiki/Genrikh_Altshuller ↩︎
- https://shs.cairn.info/revue-etudes-2002-4-page-483?lang=fr ↩︎
- Niklas Luhmann, « Organisation und Entscheidung » ↩︎
Blog Personnel de Fabrice Jaouën 