Pour une IA pas (t)éthique

Sociologiquement, l’IA c’est quoi ? C’est en début de chaîne des gosses de 5 ans qui creusent à mains nues dans les mines de cobalt et de tantale d’un Congo maintenu en guerre permanente. Chez nous, au bout de la chaîne, c’est des suicides infantiles d’une génération occidentale livrée à elle-même dans l’enfer déshumanisant des réseaux sociaux [1]. Bref, on aurait du mal à ne pas concevoir l’évolution du monde numérique comme une question avant tout politique et philosophique.

Pourtant, dans les écoles d’ingés comme dans les facs d’informatique, nos usines à futurs soldats de la ruine planétaire, on n’en parle pas. Jamais. Sinon dans la portion congrue d’une naïve fresque du climat proposée le premier jour du cursus avant d’enquiller trois ans d’aveuglement technosolutionniste. L’éolienne plantée devant la gigantesque mine de charbon. Pour la photo. Photo qui permet à l’école d’ingénieur Phelma de Grenoble INP d’affirmer avec grande fierté dans un email à tous que « ce jour, nous pouvons nous féliciter d’avoir 100 % des étudiants et 100 % des personnels administratifs et techniques sensibilisés à la question du changement climatique ».

Mais, mais… tout n’est peut-être pas perdu ! Parce que, face au socio-délire mondial que constitue l’IA, le domaine de l’éthique a tout de même réussi à repointer son nez et même à creuser son trou. Pour le plus grand plaisir des philosophes poussiéreux et désargentés qui, deux mille ans plus tard, retrouvent enfin une tribune… et surtout une source de financement inattendue en provenance directe de l’industrie numérique. Sans aucun conflit d’intérêts bien évidemment [2]. À Grenoble existe-t-il ainsi, au sein de l’institut de recherche interdisciplinaire en intelligence artificielle (MIAI) qui a déjà pompé 120 millions d’euros d’argent public pour faire de l’IA sur tout et n’importe quoi, une chaire de recherche « Éthique & IA ». Une chaire « supplément d’âme » pour calmer la dissonance d’une recherche qui nourrit une industrie flippante et totalement destructrice, une manufacture de l’apaisement cérébral, la tente moisie de la Croix-Rouge face à la guerre généralisée au vivant.

Le grand prêtre de la chaire Éthique & IA locale, c’est le philosophe « machiavélique » Thierry Ménissier. L’université avait en effet besoin a minima du talent d’un expert de Machiavel pour arriver à associer les mots « éthique » et « IA ». Grand magicien du retournement de veste philosophique, Ménissier n’a de cesse de proposer des formations et séminaires tous azimuts aux étudiants, puis aux industriels, puis aux chercheurs, en tâchant de toujours brosser chacun dans le sens du poil. Dernier événement en date en ce début juin, une formation de deux jours à destination des doctorants en thèses sur l’IA, intitulée « L’Éthique de l’IA, du numérique et des données ». J’ai sauté sur l’occasion !

Comme une enfant dans un spectacle de prestidigitation, je suis tout excitée : comment Ménissier va-t-il parvenir à mélanger les ingrédients Éthique et IA sans en faire un fourre-z’y-tout indigeste ? Quelle est sa recette miracle ? Suspense…
Bon, désolée, en fait je tue le suspense. La recette, finalement on la comprend assez vite : on va juste ne pas du tout parler d’IA pendant un jour et demi, ou si peu. Un jour et demi consacré à naviguer au milieu de différents barbarismes philosophiques, voguant d’arétaisme en conséquentialisme, d’axiologisme en déontologisme… Ça peine à enthousiasmer un public venu parler d’IA et d’effets rebonds.

Pourtant il va bien falloir parler d’IA, et en cette dernière demi-journée, l’étau se resserre autour de Ménissier : comment va-t-il faire rimer Spinoza avec IA ? Sortie de baguette magique. Abracadabra… Et hop, amnésie (très) sélective ! On oublie tout ! Adios Aristote, arrivederci Kant ! On ne va pas parler de progrès, de scientisme ou de choix de société, on va parler d’algorithmes : transparence, explicabilité, interprétabilité, équité. Pourtant personne ne réagit. Je bous intérieurement.

Sur ces entrefaites vient alors la conclusion générale des deux journées, qu’on peut retrouver sur les transparents numériques de la formation : primo (je cite), «  l’éthique n’est pas inutile pour produire des algorithmes  », deuxio « l’éthique n’est pas seulement une question de réduction des risques, elle porte sur le choix d’un monde désirable », et tertio, « l’IA et les technologies numériques offrent une opportunité réelle d’améliorer le monde ! » Une affirmation que rien n’étaye. S’agit-il d’améliorer le monde des robots ?

Enfin, nous voici invités par Ménissier, à transformer cette belle ineptie théorique en vacuité pratique : chacun va écrire et déclamer devant la classe un serment sur l’éthique de sa pratique professionnelle en tant que chercheur en IA. Calme plat. Ça bosse. Et puis ça murmure… On sent un inconfort général. J’écoute ce qui se dit : « C’est un peu dur de mettre des trucs sur l’environnement, car de toute façon il y aura toujours des impacts…  » ; « Bon sur l’écologie au pire on met un petit truc à la fin…  » En l’occurrence, ce « petit truc à la fin », ce sera : « Je m’engage à avoir conscience des enjeux environnementaux et sociaux liés au numérique.  » Plus désengageant comme engagement tu meurs. Le reste de ces dits engagements portera sur la fiabilité des résultats, la transparence des codes, la collecte des données et j’en passe. Bref, de l’ethics-washing en bonne et due forme.

Ça me met en rage, je m’exprime plusieurs fois dans la classe, je veux qu’on reparle des bases philosophiques, de la critique scientiste, de ce qui a été dit la veille pour finir le lendemain aux oubliettes. On m’écoute poliment d’une oreille, mais par réflexe aquoiboniste ça ressort aussitôt par l’autre : l’IA est là, faut faire avec, on n’y peut rien. Dans ce monde de l’assistanat, je comprends que chacun attendait de Ménissier des « solutions » miracles. De l’alchimie, pas de la magie. Comble du spectacle, un participant en vient à conclure qu’au final « ce n’est pas l’IA qui va remplacer les humains, ce sont les humains qui utilisent l’IA qui vont remplacer les humains qui n’utilisent pas l’IA ». Game over.

L’IA, dernier bazooka de l’ogrerie capitaliste, est en train de dévorer les maigres restes de notre humanité. Jusqu’à ronger le domaine de l’éthique jusqu’à l’os. Spinoza doit se retourner un paquet de fois dans sa tombe… Heureusement ce soir y a les résultats des élections européennes, ça va sûrement me faire du bien.