Bousculés par l’IA, les mathématiciens s’interrogent sur leur avenir

Tandis que les experts débattent d’un risque exagéré d’« apocalypse » causée par les systèmes d’intelligence artificielle (IA), des professionnels parlent déjà de leur propre « fin », de leur « destruction », de leur « mort ». Ces « morts-vivants » sont les mathématiciennes et les mathématiciens. Depuis plusieurs semaines, des résultats de haut niveau tombent sous les coups de ces programmes informatiques, rendant peut-être inutile de continuer la recherche dans leur domaine. Une profession de plus, après les traducteurs, les développeurs informatiques, les illustrateurs, les musiciens ? Evidemment, mais avec des répercussions sans doute plus profondes, sans vouloir offenser ces autres travailleurs.

D’abord, les « matheux » ont largement contribué à la situation qui les préoccupe. Les algorithmes et les architectures informatiques qui définissent ces programmes ont été mis au point par de nombreux spécialistes de l’informatique, mais aussi des mathématiques. Ensuite, dès que cette discipline a été ciblée par les industriels de la tech comme un étalon de l’« intelligence » de leurs systèmes, elle a recruté des professionnels pour qu’ils établissent des échelles de difficulté, vérifient les réponses des machines, ou donnent leur avis sur les productions de ces outils.

Phénomène plus insidieux, comme toute discipline scientifique, les mathématiques ont cédé à la survalorisation des prix internationaux, ou aux publications comme jauges de la qualité et de la poursuite d’une carrière. La technologie n’a fait que pousser ces logiques encore plus loin (plus de publications, « victoires » sur des conjectures, médailles d’or…). Certes, pratiquer les mathématiques ne consiste pas seulement à résoudre des problèmes, ainsi que l’ont affirmé plusieurs lauréats de la médaille Fields dans Le Monde, à la mi-septembre, mais cet exercice permet d’attirer des talents dans ce domaine et de le promouvoir. Le cas des mathématiques a aussi une autre spécificité. Le choc va au-delà de la blessure narcissique, soulevant des questions politiques, écologiques, éthiques, économiques…

Le moment rappelle de vieux débats. Ceux des physiciens du mouvement Pugwash, contre le développement du nucléaire, dans les années 1950 ; des biologistes, qui, à Asilomar (Californie), en 1975, ont évoqué les risques posés par les progrès de la génétique ; ou encore des informaticiens, qui ont protesté contre les collaborations avec des industries liées à la défense et soutenant la guerre au Vietnam. Plus récemment, en 2008, la responsabilité de mathématiciens dans la crise financière mondiale a été soulevée.

Cependant, le cas le plus éclairant est celui du mathématicien Alexander Grothendieck (1928-2014). En 1970, ce dernier cesse pour un temps ses activités scientifiques afin de dénoncer la présence de financements militaires dans la recherche, et se tourne vers l’écologie politique. Surtout, il pose cette question provocante : ne faut-il pas arrêter la recherche ? Taboue il y a quelques années, l’interrogation a resurgi au sujet de l’impact des avancées scientifiques sur la planète – carbone, eau, air, sol, biodiversité, etc.

Or, l’IA générative, sous sa forme actuelle, renforce ces questionnements, en cumulant des défauts qui auraient déjà pu conduire à des « arrêts ». L’empreinte environnementale de ses entreprises (énergie, matière première, emprise au sol…) ne peut être évacuée par les promesses de moindre consommation future ou d’efficacité énergétique, puisque les entreprises du secteur poussent à son utilisation accrue. En outre, elles sont davantage enclines à communiquer sur leurs succès que sur leurs échecs.

Même s’il semble trop tard pour sanctionner le probable non-respect du droit d’auteur (des articles scientifiques payants ont pu être absorbés par l’IA), d’autres problèmes éthiques demeurent. La nature des « publications » des fameux brillants résultats en maths des entreprises américaines de la tech, Anthropic et OpenAI en tête, laisse à désirer : absence de transparence et de reproductibilité, bibliographie incomplète, manque d’évaluation par les pairs…

La question de la dépendance d’une activité à quelques acteurs seulement devrait aussi s’imposer à l’attention d’une communauté soucieuse d’autonomie et de liberté. La recherche bascule vers des entreprises privées dont les buts sont éloignés de ceux d’une communauté universitaire. Pour la première fois, les mathématiques peuvent changer de nature, pour devenir une Big Science, celle qui réclame de grosses infrastructures et des moyens. Au moins 20 millions d’euros – une estimation non vérifiable – auraient été dépensés par OpenAI pour prouver une conjecture en moins de quatre jours. Des sommes que les mathématiciens n’ont pas l’habitude de manipuler.

Oubliant les inégalités créées au sein de la communauté, cette perspective de voir émerger de nouvelles « maths modernes » plaira aux futurs « pilotes d’IA », sorte d’experts en orchestration d’agents intelligents. Toutefois, d’autres, comme Isabelle Gallagher, présidente de la Société mathématique de France, relancent la question de Grothendieck : « Quel prix la communauté mathématique est-elle prête à faire payer à l’humanité pour répondre à ses questions ? »

Les deux camps – d’un côté les optimistes, contents d’avoir à disposition plus de solutions à explorer ; de l’autre les pessimistes, inquiets devant ces machines aux multiples défauts – vont devoir rapidement discuter, au-delà des anathèmes. Le statu quo est impossible. Tout devra être réformé : la formation, l’éducation, l’évaluation, le système de publication et les avancements. Il faudra aussi repenser la place des mathématiques dans la société, et repréciser ce que « faire des maths » signifie. La communauté est-elle prête à vivre un « moment Grothendieck » ?