Les algorithmes des réseaux sociaux mettent en avant les émotions fortes, y compris la tristesse. Des petits escrocs génèrent des vidéos à la volée pour apitoyer les internautes et leur refourguer de la camelote.
J’ai réalisé une série d’expériences qui montrent qu’un modèle d’IA largement utilisé dans la vidéosurveillance a de sérieux problèmes avec les femmes, les personnes racisées… et les barbus.
Les barons de l’IA correspondent en de nombreux points aux charlatans du 18e siècle. Avec une différence de taille : cette fois, ils ont le soutien des pouvoirs publics.
Depuis quelques mois, le géant étasunien de l’exploitation des bases de données n’a plus la cote. Mais les entreprises qui lui succèdent continuent le projet de Palantir : créer un « système d’exploitation » pour l’État, opaque et anti-démocratique.
C’est l’une des peurs les plus répandues, et à juste titre : l’IA pourrait nous prendre notre travail. Mais poser le problème en ces termes, c’est déjà faire un cadeau aux barons de Big Tech. La réalité est à la fois moins alarmiste, et plus grave.
Depuis une dizaine d’années, la peur des robots-tueurs agite le débat public. Sans nier la dangerosité des drones armés, le potentiel le plus meurtrier de l’IA est ailleurs.
Les administrations européennes commencent tout juste à développer des tests rigoureux pour vérifier que les modèles de langage sont adaptés à leurs besoins. Mais l’étalonnage, seul, ne permet pas toujours le meilleur choix.
Les assureurs ne savent pas comment mesurer les risques inhérents aux systèmes d’IA. Les régulateurs non plus. Pour les assuré·es, la couverture pourrait se réduire considérablement.
J’ai demandé à quatre modèles d’IA où habitaient les Français les plus compétents. Leurs réponses concordent et renforcent les clichés les plus éculés.
Les systèmes d’IA s’installent petit à petit dans l’institution judiciaire. Pourtant, ces outils sont incapables de juger. Leur déploiement marque, par certains côtés, un retour à la justice d’Ancien Régime.
Un appel d’offre de grande ampleur a été lancé pour permettre à de nombreuses institutions de Provence-Alpes-Côtes-d’Azur d’utiliser des services d’IA. D’autres régions montrent qu’une autre approche est possible.
Des systèmes d’IA permettent à des personnes de retrouver la vue, la voix ou même la capacité à marcher. Paradoxalement, ces avancées risquent d’accentuer l’injonction faites aux personnes en situation de handicap à s’adapter à l’environnement.
Suisse
Les grands modèles de langage réagissent très négativement face aux mots utilisés en Suisse romande comme « nonante » ou « natel ». Les spécialistes ne savent pas pourquoi, et l’administration ne voit pas le problème.
story
On parle d’Intelligence Artificielle mais personne ne peut en dessiner les contours. Définir l’IA n’est pas facile – et pas forcément pour les raisons que l’on imagine.