« Le charlatan ultime, c’est ChatGPT »
Les barons de l’IA correspondent en de nombreux points aux charlatans du 18e siècle. Avec une différence de taille : cette fois, ils ont le soutien des pouvoirs publics.
🎙️Écouter cet article en version audio.
Une blague. Si l’histoire du 18e siècle était un loisir de masse, Antoine Lilti serait une star. Le professeur au collège de France fait souvent salle comble et ses cours, en vidéo ou en podcast, accumulent quelques milliers de vues. Dans son dernier spectacle, intitulé Charlatans ! Savoirs, médias et politique, Lilti lâche une vanne où il explique que « le charlatan ultime, celui qui parle beaucoup, qui a réponse à tout et qui sidère un public médusé, vous l'avez reconnu, c'est ChatGPT ».
Savoir secret. Prenons la blague au sérieux. Bien sûr, ChatGPT n’est pas une personne. Les charlatans seraient plutôt ceux qui le contrôlent. Et en effet, les barons de l’IA remplissent les critères que Lilti propose pour définir les charlatans. Premier critère : la prétention à détenir un savoir secret. Dario Amodei, le patron d’Anthropic, écrivait la semaine dernière que l’IA est un « miracle technologique », à condition d’être manié avec soin (sous-entendu : par lui). Un mois plus tôt, Mark Zuckerberg promettait la « superintelligence » pour tous (les autres font de l’IA pour les puissants, explique-t-il). À des degrés divers, chaque entrepreneur de l’IA promet des merveilles que seul lui peut créer.
Éloquence. Deuxième critère : l’éloquence séduisante. Les logiciels d’IA générative sont faits pour plaire. Les instructions du chatbot d’Anthropic le mettent noir-sur-blanc : « Claude a un ton chaleureux et traite les gens avec gentillesse ». Les barons de l’IA ont même dû réduire l’éloquence de leurs machines. Leur flagornerie était réglée à un niveau si élevé en 2024 (notamment ChatGPT 4o) qu’elle a poussé de nombreuses personnes au suicide – cause aujourd’hui de procès coûteux.
Théâtralité. Troisième critère : la théâtralité de la mise en scène de soi. Les géants de l’IA présentent des logiciels comme des personnes (Claude, Alexa, Gemini et j’en passe) et affirment que leurs machines sont des êtes sensibles, capables par exemples « d’halluciner ». Pas sûr que ChatGPT ait eu autant de succès si chaque interaction commençait par « d’après une analyse statistique du texte de votre question, voici les mots ayant la probabilité la plus forte de constituer une réponse convaincante ».
Tromperie. Dernier critère : la tromperie. Impossible de savoir si les barons de l’IA sont sincères quand ils promettent l’abondance et la joie pour tous·tes. En revanche, quand les géants de la tech se retrouvent au tribunal, les masques tombent. En avril dernier, Google était accusé de diffamation car ses Aperçus IA indiquaient qu’une maison d’édition était une « grosse arnaque ». Ses avocats ont affirmé sans rire qu’il ne s’agissait pas de diffamation car « les utilisateurs savent bien que les textes écrits par IA ne doivent pas être crus les yeux fermés ». Pourtant, sur son site officiel, Google explique que les Aperçus offrent « des réponses d'IA pertinentes et fiables ». (La cour ne s’est pas laissé prendre et a condamné Google.)
Complicité. On pourrait continuer les comparaisons moqueuses, mais le parallèle avec le 18e siècle est en réalité riche d’enseignements. D’une part parce que les charlatans vivent de la crédulité de leur public. Le succès des charlatans coïncide avec la perte d’influence de l’Église face à l’État. D’une certaine manière, leur mystères remplacent ceux de la religion. Les charlatans offraient à leur public un ré-enchantement du monde, et on peut en dire autant de l’IA – un sujet sur lequel je reviendrai dans quelques semaines.
Miroir. Par ailleurs, le concept même de charlatan apparaît à la Renaissance, pour distinguer les médecins formés à l’université (les vrais) des autres (les charlatans, donc). Le terme s’utilise comme un miroir, traçant la frontière entre la science légitime et ceux qui ne font que l’imiter. Bien sûr, cette frontière est poreuse et la légitimité n’implique pas la justesse, loin s’en faut. N’empêche, le fait que les gouvernants et les élites économiques se rangent aujourd’hui du côté des charlatans marque une différence de taille avec le 18e siècle.
Kant y’en a plus… « La minorité est l'incapacité de se servir de son entendement sans la direction d'autrui », écrivant Kant dans Qu’est-ce que les Lumières ? En mars, Sam Altman d’OpenAI (autrui, donc) annonçait que l’entendement se vendrait désormais au mètre. La rupture est complète. La vanne d’Antoine Lilti révèle en réalité à quel point l’IA marque un changement d’ère.