Diella, une IA nommée ministre en Albanie : « En quoi un agent artificiel serait-il plus intègre qu’un être humain ? »
Tribune
Professeur émérite d'informatique à Sorbonne Université
Dans une tribune au « Monde », le professeur d’informatique Jean-Gabriel Ganascia s’interroge sur les conséquences éthiques et politiques de la présence au gouvernement albanais d’une intelligence artificielle. Il y a, selon lui, un véritable risque que cette nomination « vise à opacifier les responsabilités, à éliminer des rivaux potentiels et à mettre à la manœuvre les grands acteurs du numérique ».
Le 11 septembre, le premier ministre albanais, Edi Rama, promut Diella, un agent programmé avec des techniques d’intelligence artificielle (IA), au rang de ministre chargé de prendre les décisions d’attribution des marchés publics. Objectif annoncé : lutter contre la prévarication, intention ô combien louable dans un pays connu pour ses problèmes de corruption. Pour autant, rien ne permet de dire que Diella disposera du sens de la justice, que les actions qu’elle préconisera seront bonnes et exemptes de parti pris. Rien ne permet non plus d’affirmer qu’on suivra ses recommandations, ni qu’elles limiteront effectivement les délits de concussion.
Que la proposition vienne d’Edi Rama fait quelque peu sourire, dans la mesure où il a exercé des fonctions politiques éminentes durant plus d’un quart de siècle et a donc une part non négligeable de responsabilité dans les turpitudes des gouvernants dans son pays. Quoi qu’il en soit, il n’est jamais trop tard pour bien faire, et il ne s’agit pas de décourager des initiatives vertueuses. Qui plus est, la volonté de faire adhérer son pays à l’Union européenne constitue peut-être une motivation tangible et respectable. On peut néanmoins se demander en quoi un agent artificiel serait plus intègre qu’un être humain.
Le premier argument qui vient à l’esprit tient au caractère systématique des machines : pour une même entrée, elles donnent toujours la même sortie. Régi par des algorithmes, leur fonctionnement n’est pas sujet à l’aléa, ce qui garantirait leur fiabilité. On rétorquera que les voyous sont eux aussi fort prévisibles dans leur comportement, en ce qu’ils volent toujours… La régularité n’est donc pas un gage d’honnêteté.
Plus sérieusement, lorsqu’on leur soumet le même prompt - c’est-à-dire la même consigne - plusieurs fois de suite, les machines programmées avec des techniques d’IA générative ne donnent pas toujours un résultat identique, car elles sont stochastiques. Ce caractère aléatoire conduit à ce qu’on appelle des « hallucinations », à savoir des erreurs, ce qui n’est guère rassurant, surtout s’il est question de confier à l’IA de hautes fonctions et les responsabilités qui les accompagnent.
Habitudes, préjugés et partis pris
Le second argument porte sur le désintéressement, et donc la neutralité, des machines. N’éprouvant pas d’émotions et n’ayant pas de gros besoins, tout au plus un peu de courant électrique, elles seraient insensibles aux pressions. Toutefois, on évoque souvent leurs biais, à savoir leur partialité, qui résulterait de l’imperfection des données sur lesquelles on les a entraînées, en particulier de leur mauvaise répartition. Nous ne disposons pas de beaucoup de détails sur la conception de Diella, mais il y a fort à parier que l’on a fait appel à des grands modèles de langage. Ceux-ci se construisent à partir de données reflétant les pratiques courantes dont on extrait la quintessence par induction avec des techniques d’apprentissage machine.
Tout laisse croire que Diella reproduira donc les habitudes, les préjugés et les partis pris usuels, ce qui, dans un pays où la corruption est courante, ne laisse pas augurer d’une grande prédisposition à l’intégrité. Il se pourrait toutefois que, tirant avantage de la numérisation, d’autres techniques d’IA fondées sur l’emploi de modèles mathématiques, sur des preuves formelles ou sur des simulations logiques du raisonnement viennent en aide aux pouvoirs publics afin d’accroître la fiabilité des opérations de l’administration et, par là même, la confiance dans les institutions.
Par un hasard du calendrier, l’OCDE a publié un rapport très conséquent, « Gouverner avec l’IA », une semaine après l’annonce de la nomination de Diella au rang de ministre. Ce rapport examine la place que l’IA pourrait être amenée à prendre dans les administrations afin de faciliter l’automatisation des processus, d’améliorer les services, de limiter les fraudes, de mieux former les agents... Y sont passés en revue 200 projets d’applications dans 11 fonctions différentes de l’Etat, du pilotage des politiques publiques aux fonctions judiciaires en passant par les processus essentiels de l’action publique, comme la passation des marchés ou la lutte contre la corruption. Il ressort de ce rapport que la plupart de ces projets se trouvent encore à l’état d’ébauche, ou à un stade très précoce, même si l’on dispose déjà de quelques retours d’expérience précieux pour en évaluer les apports et les risques.
De la lumière à l’éblouissement
Le rapport insiste sur la nécessité, dans tous les cas, de fournir aux personnels les moyens d’exercer plus rapidement, avec plus d’efficacité et de discernement, leurs responsabilités, mais surtout pas de leur substituer des machines. Là réside la distance abyssale avec le projet d’Edi Rama. L’OCDE envisage d’épauler des fonctionnaires avec une myriade d’outils pour les rendre plus conscients de leurs responsabilités, et donc plus responsables, alors qu’Edi Rama nomme autoritairement ministre un agent artificiel, en vue de supprimer les responsables. Si cet agent tranche en place et lieu d’un ministre, les citoyens disposeront-ils encore d’un recours face aux possibles injustices ?
Plutôt que de révoquer les responsables, on peut s’inquiéter que cet agent artificiel ne les absolve de leurs responsabilités. En nommant Diella au poste de ministre, Edi Rama fait passer son régime d’un Etat de droit, dans lequel les acteurs politiques sont censés rendre compte de leurs actions, à une technocratie, au sens étymologique du mot, où les concepteurs et les orchestrateurs des outils qui gouverneront demeureront cachés.
Soulignons que Diella signifie « soleil » en albanais et que, si le soleil éclaire, il éblouit aussi… Il y a fort à craindre que cette nomination ne vise à opacifier les responsabilités, à éliminer des rivaux potentiels et à mettre à la manœuvre les grands acteurs du numérique qui n’attendent que cette occasion pour assumer les fonctions régaliennes à la place des Etats de droit.
Jean-Gabriel Ganascia est professeur émérite d’informatique à Sorbonne Université, membre honoraire de l’Institut universitaire de France et président du comité d’éthique de France Travail. Il est l’auteur de « L’IA expliquée aux humains » (Seuil, 2024).
IA : des « agents » pas encore totalement intelligents