Apprendre à ne plus s'en faire et à aimer l'IA
L'expérience. Trois chercheurs ont recréé l'interface du logiciel de ciblage utilisé par l'armée israélienne. Ils ont créé 12 scénarios, semblables à des vrais, où un militaire doit approuver ou refuser une frappe. Dans certains cas, l'information (toujours fictive) était estampillée « obtenue par IA ». Ils ont demandé à mille israélien·nes de tester la simulation.
Les résultats. Les participant·es ont approuvé moins de frappes quand les informations étaient obtenues par IA (63% contre 68%). Mais, dans une deuxième expérience, les chercheurs ont ajouté une liste des trois raisons pour lesquelles la frappe est recommandée. Avec ces informations complémentaires, les participant·es ont fait autant confiance aux informations fournies par IA qu'à celles collectées par des humains.
Pourquoi c'est important. Au-delà de l'expérience en elle-même, je suis frappé que le journal de « résolution des conflits », financé par la « Société des Sciences de la Paix » (sic), publie un article revu par les pairs expliquant comment faire baisser la garde des militaires face à l'IA, dans l'objectif affiché d'approuver le plus de frappes possibles. Sans s’interroger sur les faux-positifs ou sur les effets de l'augmentation du nombre de cibles.