Du nom que l'on donne aux "affaires"

Le tempo de cette infolettre est encore une fois dicté par l'actualité "IA" la plus nauséabonde, et cela m'épuise. Mais que voulez-vous : nous parlerons bien ici de "l'affaire Thélyson Orélien".

Affaire qui me semble bien mal nommée, nous y reviendrons.

Rappel des faits : Thélyson Orélien, auteur canado-haïtien, sort en cette rentrée littéraire un premier roman en forme de succès. 40 000 exemplaires vendus, en lice pour le Goncourt, le Renaudot ou le Femina : C’était ça ou mourir. Le bouquin vient de remporter le prix du roman Fnac, au moment où le scandale émerge.

Car voilà que sur le réseau social d'Elon Musk, X, un compte anonyme baptisé « Balance ton Claude », jusqu'ici inconnu, déclare que cet ouvrage est « rédigé presque intégralement par une intelligence artificielle ». Il base cette accusation sur un logiciel sensé pouvoir détecter quel pourcentage d'un texte a été écrit à l'aide de l'IA générative, j'ai nommé Pangram.

La machine, c'est le cas de le dire, est lancée. La séquence qui en suivra est tristement représentative du traitement catastrophique de l'IA et de ses conséquences par la sphère médiatique française :

• La polémique part du cloaque des enfers, j'ai nommé Twitter
• Les plus gros médias généralistes y vont de leur analyse beaucoup trop rapidement, et sans prise de recul aucune, dans des articles se voulant "neutres"
• Puis les spécialistes "tech" desdits médias expliquent plus en détail ce qu'est "l'outil" ou l'entreprise concerné·e ou mis·e en cause (ici Pangram), là encore avec "neutralité"
• Le Figaro, lui, raconte n'importe quoi (cette fois, il a le plaisir d'être en plus directement concerné)
• Michel Guerrin, le rédac chef du Monde, publie une chronique à côté de la plaque, comme à son habitude
• On donne ensuite la parole au PDG de l'entreprise concernée ; qui va évidemment expliquer que son "outil" est génial ; il serait bien idiot de dire le contraire
• Les vrai·es spécialistes du sujet [je ne parle pas de moi ici, je ne ferais que colporter la pertinence de leur analyse] prennent la parole pour corriger le tir le plus rapidement possible
• Mais le mal est déjà fait...

Voilà donc où nous en sommes aujourd'hui : le mal est fait, Orélien est décrédibilisé en tant qu'auteur et ses tournées annulées, sa carrière est mise entre parenthèses, indéfiniment.

Mais il y a ici une différence assez notable avec d'autres polémiques ayant trait à l'IA : on est là face à une affaire d'abord raciste et politique, avant d'être technologique. Car l'intriguant derrière le compte "Balance ton Claude" est un chroniqueur du Figaro, Samuel Fitoussi ; dont je concède n'avoir jamais entendu parler avant "l'affaire".

Or, le compte X en question n'avait que 100 petits abonnés au moment de ses tweets rageurs, et n'aurait pas pu démarrer grand chose sans les reprises de médias d'extrême droite comme Valeurs Actuels (et de son bien connu Charles Sapin notamment) ou Le Figaro (en plus du compte personnel de Fitoussi lui-même, mais également celui de Paul Sugy), premiers sur le dossier dans ce qui ressemble fort à une attaque coordonnée, comme le rapporte Médiapart. Les nombreux relais en ligne de la fachosphère reprennent ensuite l'info en boucle, et Eugénie Bastié élève Fitoussi au rang de "lanceur d'alerte", rien que ça.

Nous, il nous reste nos yeux pour pleurer en constatant que l'IA générative est un vecteur encore une fois bien pratique pour détruire la réalité dans un dystopisme de foire.

Il faut dire qu'Orélien et son bouquin avait tout pour énerver l'extrême droite de notre beau pays : auteur noir et immigré, son livre retrace avec humanité le périple d’un migrant, dans un récit qui semble en partie autobiographique. "C'était ça ou mourir", édité chez Grasset, est aussi l'un des derniers ouvrages choisis et supervisés par Olivier Nora avant que Bolloré ne le limoge, et Orélien avait d'ailleurs affiché publiquement son soutien à l'éditeur renvoyé...

Thélyson Orélien le déclarait lui-même dans un entretien chez Libération, qui doit nous couvrir de honte, nous français·es :

"Depuis mon arrivée récente en France, je subis de nombreuses attaques racistes, qui ne viennent pas des lecteurs mais de personnes extérieures qui cherchent à nuire. Je n’y prêtais aucune attention. Mais je ne m’attendais pas à des attaques de ce genre. Je ne suis pas triste mais en colère. Je suis en train de constituer un dossier avec mes éditeurs en France et au Québec pour prouver ce que je dis."

L'affaire est donc raciste et politique, on l'a dit. Mais elle aussi parfaitement symbolique de ce qu'est l'IA, à savoir un entrelacs d'intérêts économiques.

Et c'est ici que je vais vous proposer de renommer cette affaire non pas du nom de l'auteur mis en cause, mais des vrais acteurs derrière la polémique : Samuel Fitoussi d'un côté, Pangram de l'autre.

Car avant de parler de l'efficacité (ou non) de Pangram, il faut noter que tout ceci pourrait bien être une gigantesque campagne de publicité pour Pangram, orchestrée par l'entreprise avec l'aide de Samuel Fitoussi dans le rôle "d'influenceur". C'est en tout cas pour cette thèse que penchent les journalistes Olivier Tesquet et Jérémie Younes dans deux fils Bluesky bien sourcés et excellents à dérouler.

Extrait d'un article de Télérama, co-écrit par Tesquet dans la foulée :

"Dans une longue justification publiée sur X ce vendredi matin, [Fitoussi] assume sa démarche, insistant sur son caractère collectif (« Les autres révéleront leur identité en temps voulu s’ils le souhaitent ») et sa volonté de « lancer l’alerte » [...] « Pourtant plutôt techno-optimiste, je redoute qu’après plusieurs millénaires de civilisation fondée sur l’écrit, l’IA provoque la disparition de la lecture et de l’écriture », écrit encore le chroniqueur, en ajoutant que « l’IA peut, et pourra de plus en plus (les tics d’écriture disparaîtront avec le progrès des modèles) produire des œuvres exceptionnelles, en quasi-autonomie ». Mais Fitoussi, lui-même très poreux aux idées d’extrême droite (il émarge aussi au comité éditorial de la très libérale revue Civilisation, applaudie [sur Linkedin] par le milliardaire Pierre-Édouard Stérin), se garde bien d’évoquer le caractère manipulatoire de son modus operandi, qui a facilité le harcèlement raciste sur le réseau d’Elon Musk. Tout juste se contente-t-il d’exprimer sa « compassion pour les jours difficiles que doit vivre Orélien ».

Curieusement, ce message ressemble moins à un plaidoyer pour la littérature qu’à une apologie de… l’IA, présentée comme le seul moyen de « préserver les incitations à écrire dans ce nouveau monde ». Ce qui n’est peut-être pas si étonnant quand on sait que Samuel Fitoussi est chargé d’affaires au sein de la société de capital-risque Frst, qui investit dans le secteur de l’IA (créée par deux anciens d’un fonds abrité par Otium Capital, le « family office » de Stérin), et a donc un intérêt à ce que le débat sur l’utilisation de celle-ci occupe largement l’espace médiatique. En réalité, la mécanique est connue : un professionnel de l’IA propose un remède technologique à une crise que sa propre industrie a précipitée. Ici, les outils de détection comme Pangram, qui deviendraient la condition de l’écriture humaine, seuls à même de garantir sa survie."

Et l'intérêt de Fitoussi pour Pangram, plus particulièrement ? Il n'y a pas de preuves aujourd'hui de quelconques liens financiers, mais des points intéressants néanmoins, que note Jérémie Younes : un détail d'abord, le "handle" sur Twitter du compte "Balance ton Claude" est littéralement @pangramed, ce que l'on traduirait par "tu t'es fais pangramé."

Surtout, il y a un mois déjà, Fitoussi ne cachait pas soutenir Pangram comme "le plus fiable des détecteurs existants", en n'avançant aucune preuve tangible, bien évidemment. Dans son long post de vendredi, Fitoussi remercie enfin les nombreux médias français qui aurait "établi la fiabilité de Pangram". Là encore, pas de preuves que Fitoussi soit à la colle financièrement ou amicalement avec Pangram, mais disons que l'on n'est a minima sur un bel ambassadeur de marque.

Bon, c'est super tout ça, mais la question la plus importante in fine, c'est de savoir si ça marche vraiment, ce Pangram.

Ça va aller assez vite : non, Pangram n'est pas fiable, et aucun de ces pseudos "détecteurs de contenus générés par IA" ne peut l'être, par nature même.

Il y a d'abord eu de nombreux tests ces derniers jours, prouvant qu'en passant des classiques écrits en 1900 à la moulinette de Pangram, sans leur appliquer de modifications, ils ressortent avec des pourcentages plus ou moins élevés de "génération par IA". Victor Hugo saura heureux de savoir qu'il a été "pangramed", je présume.

Autre test plus intéressant peut-être, ici, en utilisant le texte du roman mis en cause lui-même. En changeant une simple phrase à la main dans un extrait du livre, Pangram passe instantanément de 16% à 100% de "texte généré par IA". Cela démontre le ridicule de toute la polémique, car le test n'est pas bien dur à mener : on n'est pas sur du journalisme d'investigation.

Je vais citer enfin un récent post de Nicolas Bodin Guittard, spécialiste du watermarking de contenus générés par IA, que j'avais déjà interviewé par le passé pour cette infolettre, pour conclure :

"Un détecteur ne trouve pas dans le texte une petite étiquette « écrit par ChatGPT ». Ce qu'on appelle « détection de texte généré » n'existe pas : on mesure une proximité avec un corpus de référence. Le score répond à « ce texte ressemble-t-il à ce que j'ai appris ?.

Prenons un exemple. Si je génère un texte avec une IA puis que je le reformule suffisamment, le score peut changer. Je peux même recommencer plusieurs fois jusqu’à passer sous le seuil du détecteur. C’est exactement le principe des outils dits « humaniseurs », ils ne rendent pas nécessairement le texte plus humain, ils le rendent moins facilement classable. À l’inverse, un humain peut naturellement produire un texte qui ressemble aux caractéristiques recherchées par le détecteur.

Et surtout, un score n'est PAS une preuve. Une preuve, ce sont des brouillons datés, un historique de versions, une chaîne de production que l'on peut vérifier. Sans cela, on a une alerte. C'est toute la différence entre détecter une ressemblance et établir une provenance. Sur l'image, la vidéo, l'audio et les documents, nous ne cherchons pas si « ça ressemble à de l'IA ». Nous cherchons s'il existe dans le contenu lui-même, dans le signal, une trace laissée par le générateur."

On en revient toujours à la même chose, la charge de la preuve : pourquoi ce serait à nous humain·es de prouver que nous ne sommes pas des machines, quand cela devrait être aux entreprises qui fabriquent ces "machines" de notifier à chaque instant que les contenus qu'elles génèrent ne le sont pas par des humain·es ?

Ce renversement est insupportable.

Au fond, ce qui m'intéresse dans cette "affaire", ce n'est pas de savoir si Thélyson Orélien a utilisé l'IA ou non pour écrire son bouquin. On n'en saura probablement jamais rien avec entière conviction, comme l'explique très bien Radio Canada ; seul grand média que j'ai vu traiter l'information, tout du long, avec recul. C'est dire le niveau des médias français.

Non, ce qui m'intéresse, c'est de constater que quand, il y a quelques mois, Alain Damasio déclarait lui dans le plus grand des calmes sur le plateau de "C Ce Soir" utiliser l'IA pour ses prochains travaux d'écrivain, cela n'a choqué personne. À part moi, peut-être, j'en conviens.

Cela n'a en tout cas gêné ni "La Grande Librairie" qui continuait à l'accueillir en grandes pompes, ni Fitoussi et Le Figaro qui auraient pu en faire leurs choux gras, déjà. Non, pas de scandale dans le monde de l'édition ni dans la plus large sphère médiatique.

Je me demande donc : quelle peut bien être la différence entre Alain Damasio et Thélyson Orélien ?

L'IA générative est une technologie structurellement basée sur des biais racistes et sexistes. Elle est de plus manoeuvrée par des entreprises et figures ne cachant pas leur accointances avec le fascisme le plus chimiquement pur. Le comportement même qui a permis son existence se rapporte à une forme très nette de colonialisme numérique.

Faut-il alors s'étonner qu'elle soit utilisée pour décrédibiliser le travail de personnes racisées, ici un homme d'origine haïtienne ? Faudra-t-il s'étonner quand la prochaine victime d'un tel cirque médiatique et politique sera une femme ?

Car "l'Affaire Pangram" doit être le procès en médiocrité de nos médias et de nos politiques quand il s'agit de parler d'IA et de technologie, bien plus que tout autre procès.

Honte à l'académie Goncourt, bien prompte à prendre pour argent comptant des déclarations calomnieuses de "journalistes" et des "analyses" qui ne prouvent rien, en insultant Orélien de plagiaire sans aucune base sérieuse.

Courage à Thélyson Orélien, dont la carrière est définitivement enterrée si l'on en croit Le Monde, un média dont le traitement très décevant de l'affaire illustre à merveille la méconnaissance des sujets tech même dans médias à la pointe par le passé.

Courage à tous les auteurs et toutes les autrices qui ne rentrent pas dans le moule de l'image d'Épinal de l'écrivain·e, pour qui le doute sur leur réel talent sera toujours de mise, désormais.

Et je conclue en repensant au moi d'il y a quelques années, qui essayais de positiver en ce début d'ère de l'IA générative : je me disais qu'au moins cela pousserait les humain·es à se dépasser pour faire mieux, plus original, plus créatif, face à une technologie qui ne sait par nature que recracher ce qui a déjà été...

Mais je me trompais, à l'évidence. L'IA va nous tirer vers le bas créativement aussi, inhibant celles et ceux qui ne sont pas déjà presque prédestiné·es à devenir des "artistes", les privilégié·es pour qui l'argent, le temps passé et le risque ne sont pas un sujet, les "fils et filles de" dont le nom sera gage de confiance dès la naissance, celles et ceux qui ont déjà le réseau pour se protéger de telles calomnies.

La marche à suivre, me concernant, ne bouge de toute manière pas : lire des livres ; ne pas utiliser l'IA.

Et puis, n'hésitez pas à acheter le bouquin d'Orélien pour vous en faire votre propre idée, après tout.

Merci d'avoir lu ce nouveau numéro ! On vous a fait suivre cette infolettre ? Si ce que vous y avez lu vous a plu, pensez à vous inscrire, gratuitement, via le bouton ci-dessous (et à cliquer sur le lien de confirmation que vous recevrez par email) 🤗

N'hésitez pas non plus à me faire part de vos retours en commentant l'article sur www.absurdi.tech ou directement via mes différents réseaux.

Vous souhaitez soutenir Absurditech ? Consultez vos abonnements via le bouton ci-dessous, ou faites un don ponctuel 🙏

Un grand merci pour votre soutien, et une très bonne rentrée à toutes et tous !

À bientôt,
Thomas ✊

PS : Absurditech est garanti sans IA générative (n'en déplaise à Pangram), pas sans fautes.