Les violences faites aux femmes sont de "l'amour" pour certains systèmes d'IA
L'expérience. Une linguiste a collecté cent miniatures utilisées par un site pornographique pour présenter des vidéos. Les photos choisies représentent toujours des actes violents (mots-clés: étranglement, contention physique, ecchymoses ou arrachage de cheveux). Elle les a soumis à trois services d'analyse automatique d'images: Imagga, Amazon Rekognition et Google Vision.
Les résultats. Imagga n'a reconnu aucune image comme représentant des violences. Amazon et Google ont fait mieux: une image sur cent a été correctement détectée par le premier, deux pour le second. Lors d'un autre test, Imagga a été jusqu'à labelliser une photo où un homme agresse une femme en l'étranglant avec le mot « amour ».
Pourquoi c'est important. Les services d'analyse d'images ont une vision très limitée de la violence. Seules les images contenant des armes, ou du sang, sont qualifiées de la sorte. Dans la mesure où les systèmes de vidéosurveillance automatique se fondent sur des logiciels similaires, il est probables qu'ils renforcent une vision très antiféministe de la violence.