Décision et Intelligence artificielle : Jugement ou simple calcul ?
Un article récent de Christine Moser, Frank den Hond, and Dirk Lindebaum dans la Sloan Management Review rappelle l’importance de questionner les recommandations issues de systèmes d’intelligence artificielle (IA), en soulignant avec raison le risque de tomber dans une version subtile des dangers à confondre la carte et le territoire.
Les données, « des images techniques »
Les données sur lesquelles ces systèmes « prennent » leurs décisions sont des « images techniques », comme les appellent le philosophe Vilém Flusser. Ces « images », abstraites, sont des images numériques du monde, que les machines produisent ou traitent.
Ces « images techniques » sont donc une « transformation calculée de données numérisées concernant un objet ou une idée ». Ce qui en fait des représentations du réel (de simples cartes dit autrement).
Elles sont par nature incomplètes, ou comme le décrit l’article « discrètes » et « statiques » par opposition à notre monde « continu » et « fluide ».
De même qu’une carte réduit la complexité du réel, les « images techniques » utilisées et produites par une IA sont des réductions sélectives, voire faussées, de ce qui nous entoure.
Si nombre d’entre nous savons toujours utiliser une carte, il est plus rare que nous comprenions comment les machines « dessinent » ces images techniques. Dès lors, nous risquons de passer à côté de ce qui est omis ou volontairement laissé de côté.
Les auteurs complètent très justement la citation de Georges Box (« Tous les modèles sont faux, mais certains sont utiles ») en ajoutant : « Si nous ne savons pas en quoi un modèle est faux, non seulement il est inutile, mais son utilisation peut être dangereuse ».
Recommandations
D’où plusieurs recommandations :
– Tout d’abord un appel à l’inaction : ne pas chercher à tout automatiser parce que cela est faisable (solutionnisme).
– Ensuite un appel à l’action : nous devons apprendre à travailler avec des IA. Et apprendre à comprendre et utiliser ces « images techniques ». Tout comme nous avons appris à travailler avec des modèles ou des cartes, pas seulement de façon abstraite mais en partant du réel et du contexte d’usage de ces outils.
Au risque sinon, du fait d’une trop grande confiance dans la machine (et dans notre capacité à la programmer et à la contrôler), de conduire à des décisions dangereuses pouvant déboucher sur des situations intenables ou irréversibles.
Les systèmes d’intelligence artificielle ne peuvent complètement remplacer notre capacité de jugement, liée au contexte propre à chaque situation, au risque sinon de courir après « le genre de certitude que nos ancêtres cherchaient en vain dans les entrailles, les cartes de tarot ou les étoiles ».
Le jugement ne saurait en effet se réduire à un raisonnement, il se doit de tenir compte de capacités bien humaines comme l’imagination, la réflexion et l’empathie.
Le sujet concerne au premier chef les entrepreneurs, aussi bien dans les solutions qu’ils dessinent que dans celles qu’ils utilisent au quotidien. Il en va de leur responsabilité, une responsabilité algorithmique.
Ce billet vous fait réagir ? Vous souhaitez poursuivre la discussion ? Ou voir comment je peux vous accompagner pour décaler le regard ? Laissez un commentaire ou contactez-moi pour convenir d’un rendez-vous.
Photo d’illustration de Tamas Tuzes-Katai via Unsplash