Jusqu’où l’IA peut-elle décider à notre place ?

La place de l’intelligence artificielle dans la prise de décision est une question récurrente, quel que soit le contexte: décisions opérationnelles, gestion des ressources humaines, choix stratégiques… la liste est longue.

L’avantage de l’appel à l’IA dans la décision

L’avantage de s’en remettre à l’intelligence artificielle pour prendre une décision relève de plusieurs mécanismes bien distincts, mais qui peuvent également être simultanés.

Une première difficulté de la prise de décision réside dans la gestion de l’incertitude et il est tout à fait légitime d’avoir recours à la gamme d’outils disponibles dans une logique de maîtrise du risque et l’IA au même titre que tout autre outil d’aide à la décision en fait évidemment partie, d’autant que les modèles sont capables d’analyser des masses de données et de produire des résultats relativement objectifs et aisément interprétables auxquels aucun être humain et aucune organisation n’aurait accès sinon.

Le deuxième obstacle auquel le manager peut être confronté est l’organisation dans laquelle il évolue: elle peut être plus ou moins verticale, ouverte ou fermée aux contributions de tiers, sensible aux propositions iconoclastes ou au contraire enfermée dans une culture omniprésente, voire même pesante. Cette dimension sociale de l’organisation essentielle à son bon fonctionnement pourra utilement s’appuyer sur les résultats de l’IA pour limiter ses biais internes, aller vers des décisions plus rationnelles, les rééquilibrer, en quelque sorte.

IA et prise de décision: le risque de la facilité

En revanche, en raison de leur nature même, nous savons que les modèles d’IA ne proclament aucune vérité absolue, tellement ils sont dépendants des données initiales, des modèles d’IA, de leurs réglages et de la pertinence de ce modèle au regard des attentes du client.
Et cette liste n’est pas exhaustive : les experts en IA, ceux qui conçoivent les modèles ou les déploient, pourraient vous en parler pendant des heures et vous les écouteriez sans vous lasser, tellement leur métier est riche, complexe et appelle à l’humilité.

L’IA ne décide pas elle propose. L’humain décide toujours dans quelle mesure il peut s’appuyer sur cette IA

Le deuxième point bloquant trouve sa source dans la complexité intrinsèque de la prise de décision: compétences et personnalité du dirigeant, pressions diverses internes ou externes, sentiment d’urgence, motivations cachées recouvrant le processus décisionnel d’un habillage rationnel… tous ces paramètres altérant la sérénité de la décision peuvent conduire à se réfugier dans une solution de confort en attribuant à l’IA un rôle qui ne peut être le sien, puisqu’il s’agit d’abord d’un assemblage d’outils de haute précision et très complexes, certes, mais qui restent des outils, c’est-à-dire des objets dont la seule utilité est l’usage que l’on en fait.

Mettre le décideur en position de décider

In fine, l’intelligence artificielle ne peut pas décider à la place de l’humain.

Pour que l’humain laisse l’IA arbitrer seule, c’est qu’il l’a voulu ainsi : La décision automatisée a été jugée plus pertinente qu’une décision manuelle malgré les inévitables erreurs qui l’accompagnent.
Plus précisément, le coût de l’erreur multiplié par sa probabilité d’occurrence a été jugé inférieur au coût d’une décision humaine notamment en temps de réaction.

Automatiser la prise de décision grâce à l’IA revient à estimer que le coût de l’erreur multiplié par sa probabilité d’occurrence a été jugé inférieur au coût d’une décision humaine

Si l’humain veut garder cette décision dans sa main, il conviendrait alors qu’il sache dans quelle mesure les modèles d’intelligence artificielle sont susceptibles d’influencer ses propres choix ou ceux qu’on lui soumet. En effet, comme l’IA produit par définition et avec une qualité variable des propositions de résultat, il appartient au dirigeant d’en connaître les biais, les imprécisions, voire les erreurs manifestes.

C’est bien le dirigeant et l’organisation en tant que personne morale qui porteront toujours la responsabilité ultime de la décision.

Enfin, l’intelligence artificielle, quelle que soit sa performance, sa précision, ses réglages, ses données est et restera un outil. C’est bien le dirigeant et l’organisation en tant que personne morale qui porteront toujours la responsabilité ultime de la décision. Comme une organisation n’est pas un corps vivant, elle sera éventuellement condamnée, mais c’est bien le ou les dirigeants, d’ailleurs qui devront rendre des comptes.
L’éthique, le droit, les valeurs, la collégialité, tout ce qui peut donner de la valeur à une décision ou un arbitrage prendront alors tout leur sens !