Des Insoumis·es s'insurgent contre l'IA
[Exclu Gargant’IA] Plusieurs membres de La France Insoumise alertent la coordination du parti sur l’impopularité de l’IA. Ils et elles veulent moins d’IA dans le programme, sans pour autant rejoindre la critique radicale de la Tech.
Bienvenue dans le n°20 de Gargant'IA, l'infolettre consacrée aux géants du numérique et à leur impact sur la société. On vous a fait suivre cet e-mail ? Abonnez-vous ici.
Je parlais la semaine dernière, dans le numéro 19 de Gargant’IA, de la timidité des mouvements de gauche face à l’IA. Partout dans le monde, ils sont plutôt enclins à accompagner son déploiement qu’à proposer des alternatives.
Piqué au vif, un membre de La France Insoumise m’a fait part de son mécontentement vis-à-vis des édiles de leur parti. Il m’ont communiqué une déclaration à usage interne signée par près d’une vingtaine d’Insoumis·es, qu’ils ont fait remonter aux instances de coordination de LFI. Je l’ai mise en ligne avec son accord, très légèrement éditée pour garantir son anonymat.
La démarche est bien sûr électoraliste. La semaine dernière, Emmanuel Macron s’est mis en scène en défenseur des plus faibles face à l’IA lors du « Forum de Paris sur la paix ». Il a notamment proposé d’interdire l’IA là où elle présente un risque pour la santé mentale des enfants. Pendant ce temps-là, à gauche, on entendait le vent siffler.
Cette passivité est inacceptable pour les Insoumis·es auteurs de cette déclaration. Ils et elles veulent voir leur parti prendre franchement position sur le sujet – et rafler le vote des millions de Français·es qui se passeraient bien de l’IA et de ses data centers. Je laisse les journalistes politiques étudier le bien-fondé de leur démarche pour me consacrer au fond du texte.
Dans leur déclaration, deux éléments m’ont paru particulièrement intéressants. Le premier tient à leurs revendications. Certaines, comme un moratoire sur l’IA dans la police, l’armée et la justice, sont nouvelles. Mais plusieurs autres sont déjà inscrites dans la loi. « Obliger une transparence algorithmique objectivable », par exemple, est à la fois dans la Loi République Numérique de 2016 (article 4) et dans le Règlement européen sur l’IA de 2022 (article 86). On pourrait dire la même chose de leur suggestion d’obliger les opérateurs de systèmes d’IA à avertir les personnes soumises à un traitement automatisé, qui est largement traitée dans le RGPD (articles 13, 14 et 22 notamment).
Je ne fais pas cette liste pour dénigrer le texte de ces Insoumis·es. Au contraire, le fait qu’ils et elles aient ressenti le besoin de re-proposer des solutions déjà inscrites dans la loi montre à quel point le travail législatif de ces dix dernières années n’a pas été suivi d’effet.
Le deuxième élément de la déclaration qui m’a frappé, c’est que les auteur·ices se concentrent sur les effets de l’IA sur l’environnement, la sécurité et la société. L’IA en tant que telle n’est pas franchement critiquée. Pourtant, de nombreux universitaires, notamment Dan MacQuillan, l’auteur de Resisting AI, montrent que l’IA est, en soi, un projet réactionnaire. L’argumentation requiert une nuance que je n’ai pas la place de développer ici, mais peut se résumer ainsi : utiliser des modèles statistiques fondés entièrement sur des données passées pour prédire le futur ne peut que reproduire ce passé, ou en tout cas ses structures de pouvoir.
Par ailleurs, le fonctionnement de la plupart des systèmes d’IA est opaque. Les barons de l’IA sont fiers que leurs outils éliminent le besoin de comprendre : l’action est la seule finalité recherchée. La primauté de l’action sur l’analyse et la compréhension est l’un des fondements de l’idéologie fasciste. Que cette action ne puisse être fondée que sur des informations passées exclu toute possibilité émancipatrice.
Quant à la possible transformation de l’IA en un « commun numérique », tous les universitaires ne sont pas d’accord, mais nombreux sont ceux qui n’y croient pas. L’IA générative nécessite de centraliser des données à une échelle gigantesque, puis de les mélanger dans des « boîtes noires ». Dans la mesure où ces systèmes sont opaques pour ceux qui les créent, il est illusoire d’imaginer qu’ils puissent être observés et gouvernés « en commun ».
Peut-être la déclaration des Insoumis·es en colère contre l’IA permettra-t-elle d’infléchir le discours du parti. Même si c’est le cas, le gouffre entre la critique universitaire radicale et les positions du personnel politique de gauche restera encore vaste.
Revue de presse francophone
🇨🇦 Canada : Un groupe probablement spécialiste de la déstabilisation a volé des vidéos d'influenceurs humains. Il a ensuite modifié leur voix et mouvements de bouche pour les faire affirmer leur opposition au gouvernement. Les vidéos ont été vues plus de 20 millions de fois et n'ont pas été identifiées comme étant fabriquées par IA par les plateformes. [Le Devoir, 12 nov.]
🎒 Parcoursup : Malgré l'annonce fin octobre de plus de transparence dans les algorithmes locaux, la première réunion du comité de réforme de la plateforme de sélection et d'orientation a été un fiasco : tous les membres ou presque ont quitté la salle. [Mediapart, 10 nov. 🔒]
En résumé
La Kaaba est la véritable boîte noire
La question. Un anthropologue néerlandais s'est penché sur la manière dont les musulman·es d'Indonésie et de Malaisie utilisent et interprètent l'IA. Ces pays, à la population combinée équivalente à celle de la zone Euro, sont largement connectés et accueillent une vie religieuse variée et très différente de la nôtre en Europe – ce qui en fait un excellent terrain d'enquête.
La réponse. Les organisations de croyants ont publié des lignes de conduites, encourageant la prudence pour les conservateurs et l'adoption pour les plus modernistes. Mais les usages quotidiens sont plus variés. Les services d'aide à la mémorisation du coran, par exemple, posent la question de sa finalité. D'une tradition orale, elle passe à une pratique dénuée de contexte. Même chose pour l'interprétation d'une situation à la lumière des textes sacrés: là où les religieux humains mettaient l'accent sur ce qui ne peut être su, les machines fournissent des réponses qui manquent souvent d’ambigüité.
Pourquoi c'est important. Les universitaires parlent « d'imaginaires algorithmiques » pour décrire la manière dont les utilisateur·ices se représentent les systèmes d'IA. L'anthropologie des pratiques religieuses liées à l'IA montre que cet imaginaire déborde largement la technique: les outputs des systèmes d'IA influencent à leur tour la spiritualité des personnes qui les utilisent.
Revue de presse internationale
🇺🇸 Coïncidence 1 : Trois jours après le déploiement d'un système d'IA programmé par une entreprise sans expérience, l'autorité de régulation de l'aviation civile étasunienne a suspendu tous les vols du pays. Il n'y a aucun lien entre les deux, nous assure le gouvernement. [AP, 16 nov. en anglais]
🪟 Coïncidence 2 : L'année dernière, Microsoft annonçait fièrement que le tiers de son code informatique était produit automatiquement – tendance en hausse. Depuis, la firme a licencié plus de 8000 employé·es. La semaine dernière, elle a été incapable de résoudre un problème informatique qui a paralysé une bonne partie du monde pendant presque deux jours. Aucun lien entre la panne et l'IA, affirme Microsoft. [Hindustan Times, 13 nov. en anglais]
🇱🇹 Lituanie : Le ministère de la Défense s'apprête à payer Palantir 200 millions d'euros sur sept ans pour son logiciel d'aide à la décision Maven, mais le contrat n'est pas encore signé. [LRT, 13 nov. en lituanien]
🇧🇩 Bangladesh : Le gouvernement souhaite développer un modèle de langage spécialement conçu pour le Bangla. Il serait développé sur des cartes graphiques sud-coréennes, avec des logiciels sud-coréens, et financé en grande partie par la Corée du Sud. [Daily Star, 11 nov. en anglais]