Accueil > Hiver 2023-2024 / N°71
Quand on relève la tête du « guidon connecté » – épisode 6 –
Censures non artificielles
Si faire du subversif auprès des étudiants plaît à l’université qui a déjà phagocyté le principe des cours d’éco-n’importe-quoi aussi radicaux soient-ils (ça plaît, ça fait venir des élèves, c’est bon pour l’attractivité), faire du subversif en attaquant le portefeuille de la fac (comme refuser de répondre à un appel à projet cracra ou appeler à arrêter nos contrats avec des entreprises engagées dans le commerce abject de la mort) c’est le pas de trop. Récit de deux années d’attaque-défense entre notre mathématicien-chercheur en intelligence artificielle et les intérêts du Capital version université.
Entre sentiments de parano et de nombrilisme (« Ne te crois pas si important que ça, c’est juste des coïncidences »), je me suis longtemps refusé à raconter ce qui va suivre. Et puis l’accumulation récente de la dérive autoritaire que je vais évoquer m’a finalement convaincu d’en parler. Il y a bientôt deux ans de ça, dans le cadre d’une rencontre entre les « chaires » (c’est comme ça qu’on nomme les « équipes » de recherche) de l’institut Miai (le gros mastodonte d’intelligence artificielle grenoblois) et les évaluateurs internationaux du projet, je devais pondre, comme mes trente autres collègues porteurs de chaires, un poster résumant les activités de mon groupe. Il nous fallait soumettre notre travail en ligne, travail qui n’avait bien sûr a priori aucune vocation à être contrôlé par qui que ce soit (nous sommes des chercheurs supposément adultes et autonomes). Mais voilà, parano, pas parano, visiblement on scrutait déjà un peu mon travail vu que, suite à l’envoi de mon pdf qui portait sur nos premiers travaux d’analyse critique de l’IA, le directeur de Miai m’appelle pour me dire que le poster était inacceptable et que, soit je changeais le contenu, soit il ne serait pas imprimé.
Malgré mes arguments selon lesquels la recherche française est libre et que cette analyse techno-critique est une suite logique et cohérente de mon travail sur les impacts de l’IA, le retour d’« el Capo » sera une fin de non-recevoir. Joli coup de canif dans la liberté de la recherche. Bref, pour ne pas vendre mon âme, j’ai opté pour l’option 2 : je ne serai pas de la Grand Messe à la gloire de l’IA cette année. Au final, ça s’est retourné contre el Capo vu qu’après la Grand Messe (où au passage personne n’est allé voir les posters m’a-t-on dit), certains collègues m’ont écrit pour me demander : « Pourquoi tu n’as pas présenté ton travail ? » Et en réponse, pour la première fois de ma carrière, j’ai dû me résoudre à utiliser le mot le plus adapté à la situation : censure.
La situation s’est sérieusement aggravée quelques mois plus tard, lorsqu’el Capo me passe un nouveau coup de bigot, cette fois-ci pour me signifier que le contenu de ma page web professionnelle était intolérable pour la direction de l’UGA. Pourquoi ? Parce que j’y annonçais avoir changé de champ scientifique pour étudier les perspectives de démantèlement numérique.
Quelques jours plus tard, mon chef d’équipe au labo vient me voir pour me
dire que le labo a reçu une plainte provenant de la direction de l’UGA, plainte qui demandait au conseil de laboratoire de mettre en œuvre les « dispositions légales » pour traiter mon cas. J’ai sincèrement un peu balisé (parce qu’entre dire que la gravité de la catastrophe planétaire doit nous engager radicalement au risque de se faire virer s’il le faut, et vraiment sentir le truc venir, y’a quand même un monde). Heureusement mon labo me protège et soutient ma recherche, de sorte que sa réponse à l’UGA a été un laconique : « On ne voit pas le problème, c’est quoi le point suivant à l’ordre du jour ? Ah oui y’a plus de café, ça c’est important... »
Avec le recul, tu as quand même furieusement envie de te poser la question : est-ce que la direction de l’UGA n’a que ça à faire que de scruter les pages web de ses milliers d’employés ? D’où ce truc de parano-nombrilisme malaisé que j’évoquais au début...
Depuis c’était calme plat à mesure que je m’éloignais de l’absurdité de Miai, dont je vois juste passer quelques tristes emails d’auto-satisfaction, ou des annonces ubuesques de recrutements de doctorants pour bosser sur la détection (c’est-à-dire la gestion du bordel induit par) des deep-fakes, quelques mois à peine après une précédente flopée d’emails de recrutements de doctorants pour bosser sur les réseaux de neurones génératifs (ceux-là même, donc, qui génèrent les deep-fakes). La belle consistance du modèle néolibéral keynésien : on creuse des trous, ça gonfle le PIB, puis on les rebouche, ça regonfle le PIB. Bon ici les trous en question déstructurent la société et son lien à la réalité, en permettant l’émergence d’une culture de la désinformation, du mensonge, du hors-sol et d’un enfer social et relationnel pour nos enfants. Mais bon, comme la science est neutre et que les vilains sont ceux qui s’en servent mal, c’est pas vraiment de notre faute.
Et puis un jour il y a eu l’email de trop, celui qui proposait la prolongation de Miai en « Cluster AI » avec cette magnifique perle de l’appel à projet : « les projets sélectionnés peuvent prétendre à une subvention de 70M€ à 130M€ (avec l’ambition de devenir un leader mondial) ou à une subvention de 20M€ à 40M€ (avec l’ambition de devenir un leader européen). »
En somme, la recherche en IA est un grand jeu vidéo dans lequel tu choisis ton personnage : le looser aux ambitions européennes ou le winner aux ambitions mondiales. Pour quoi faire ? Va savoir, mais choisis bien si tu veux faire carrière. Bien sûr, l’email ne posait pas du tout la question : « veut-on y aller ? » Mais disait par contre « nous vous prions de compléter une courte trame (fiche synthétique) pour présenter les thématiques scientifiques que vous souhaitez inclure dans le projet ». Du coup, comme il manquait cette fameuse question, je me suis permis de la poser à la liste de diffusion “miai-chaires”. Ça a donné lieu, bien au-delà de mes espérances, à 53 réponses (sans compter les miennes), personnelles ou collectives, soutenant majoritairement la pertinence de poser la question de la nécessité de l’IA (trop souvent en messages perso, ça ne se clame pas au clocher ces choses-là) mais aussi évidemment quelques insultes en règle (là pour le coup la « réponse à tous » est semble-t-il un déversoir de haine plus approprié). Tout ça aurait vraiment pu mener à quelque chose je crois – un peu de (dé)mobilisation générale ? – mais les grandes vacances sont passées par là et « Cluster AI » assurément se fera.
Mais il y a quelques jours, suite à l’accumulation des documents partagés par l’Obsarm (Observatoire des armements) sur la rupture de l’embargo sur la vente d’armes à la Russie par ST, Lynred et d’autres boîtes avec qui Miai travaille, j’ai voulu lancer un appel à refuser de continuer nos projets avec ces boîtes au comportement abject et qui nous rendent complices de leur commerce de la mort. Sauf que mon message à « miai-chaires » a été rejeté : je n’ai plus le droit d’écrire sur cette liste. Bizarre, bizarre ? Mais non, t’es parano ! Du coup j’ai rusé et déterré une autre liste de diffusion, « miai-recherche », et là à nouveau ça a commencé à beaucoup échanger avec de plus en plus d’affirmations du nécessaire retrait des chercheurs de ces activités dégueulasses. Cette fois-ci, el Capo est sorti de sa tanière en brandissant son totem de « neutralité scientifique », arguant que cette liste de diffusion est dédiée aux discussions « scientifiques » et pas aux discussions… épistémologiques (donc scientifiques du coup, allez comprendre).
C’est évidemment toujours compliqué de se planquer derrière « la science » quand elle est à l’évidence dans Miai une construction socio-technique et même militaro-industrielle (personne dans son bon sens n’aurait l’idée d’aller étudier des réseaux de neurones pour les systèmes radar militaires « juste pour le fun ») mais, comme me l’ont confirmé deux collègues en retour personnel d’email, « el Capo utilise toujours cet argument fallacieux, il a vraiment l’air d’y croire ». Néanmoins, el Capo, dans une concession digne de la démocratie à la française, propose qu’on lance un débat au sein de Miai. Chouette ! Hélas, à peine aurai-je eu le temps de rédiger un email sur le sujet pour rassembler nos ouailles en quête de sens, que mon message est rejeté de la liste « miai-recherche » : depuis ce matin visiblement je n’y ai plus accès. Foutue démocratie à la française...