Les « intelligences artificielles » ou « machines apprenantes » ne sont en réalité rien d’autre que des dispositifs d’optimisation

Jérémy Grosman

Les algorithmes de recommandation développés par Facebook cherchent à maximiser les revenus de la plateforme. Les modèles d’évaluation de crédit utilisés par BNP cherchent à minimiser le risque de défaut de paiement. Les systèmes de reconnaissance faciale déployés par la Police cherchent à minimiser les erreurs d’identification. La singularité de ces dispositifs numériques tient à ce qu’ils se présentent d’emblée comme des dispositifs d’optimisation : ils amènent les ingénieurs (et ceux qui les emploient) à traiter des problèmes dont nous faisons l’expérience, comme des problèmes mathématiques, susceptibles de minimisation ou de maximisation.

Prenons le cas des algorithmes de recommandation. Imaginez la scène. Des cadres dirigeants, réunis dans un bureau sobre et spacieux, voient dans les processus de recommandation une opportunité unique pour améliorer « l’engagement » des utilisateurs. Les cadres techniques se trouvent ensuite chargés de définir sur une série de « métriques » qui donnent à ces objectifs une forme mesurable, quantitativement et empiriquement. Les ingénieurs, en bout de course, agités dans un open space, s’attèlent à développer une poignée d’« algorithmes » de recommandation afin de déployer ceux qui optimisent les métriques définies.

Les algorithmes exploitent alors la moindre donnée collectée en vue de recommander, parmi la masse de contenus disponibles, ces quelques contenus avec lesquels vous êtes « le plus » susceptible d’interagir. Le « click-through-rate » offre, dans ce domaine, une procédure standard pour mesurer la capacité des algorithmes à susciter de telles interactions. La métrique en question définit le « clique » comme mesure de l’interaction réussie et le « nombre de cliques » comme mesure de performance de l’algorithme. L’affaire est entendue : l’algorithme est optimal lorsque ses recommandations suscitent un nombre de cliques maximal.

Les dispositifs d’optimisation contemporains, qu’on en parle comme de « machines apprenantes » ou d’« intelligences artificielles », prolongent pour l’essentiel des entreprises de mathématisation des affaires humaines, initiées il y a un demi-siècle, par des ingénieurs en recherche opérationnelle, en statistique décisionnelle ou en économie mathématique. Le terme même d’optimisation, s’il apparaît dans nos langues au sortir de la seconde guerre mondiale afin de nommer ces transformations, s’impose désormais avec la force et l’évidence d’un mot d’ordre, à partir duquel n’importe quelle situation semble pouvoir et devoir être pensée.

Le concept d’optimisation nous indique alors deux prises susceptibles de soumettre ces dispositifs techniques à une véritable discussion politique.

La première concerne la possibilité d’exiger des cadres dirigeants qu’ils rendent compte des métriques que leurs dispositifs sont chargés d’optimiser. Les métriques sont techniques, certes, dans la mesure où elles permettent de connaître avec précision les effets de tel ou tel dispositif (e.g. le nombre de cliques générés par tel ou tel algorithme). Mais elles sont encore et surtout politiques, dans la mesure où elles supposent l’institution d’un partage entre l’important (e.g. les revenus commerciaux de Facebook) et l’inimportant (e.g. les éventuels effets de mésinformation). L’optimisation nous invite à discuter les fins poursuivies et à inventer des métriques, susceptibles de servir d’autres visées.

La seconde concerne la possibilité de discuter les capacités de ces dispositifs à traiter de problèmes qui nous concernent. Les dispositifs d’optimisation, là résident toute leur puissance et leur limite, ferment, en même temps qu’ils ouvrent, l’étendue des situations dont ils nous permettent de rendre compte. Il y a là un fait que les discours impérieux manquent le plus souvent de noter : le formalisme mathématique parfois échoue là où d’autres modalités d’enquête (discussions, entretiens, etc.) ou d’intervention (manifestations, régulations, etc.) réussissent. L’optimisation nous invite à interroger la capacité de tel ou tel dispositif mathématique à enrichir ou appauvrir nos manières de penser et d’agir dans ces situations qui nous importent.

Le concept d’optimisation, si l’on entend seulement la signification éthique (bonus) ou politique (optimum) inscrite dans la lettre même de sa racine antique, offre alors une ressource unique pour résister aux discours qui voudraient faire des problèmes formulables mathématiquement, les seuls problèmes dignes d’être adressés pratiquement.