Donner à une IA accès à ses mots de passe reste une très mauvaise idée

Navigateurs. Depuis l'année dernière, plusieurs entreprises d'IA proposent des navigateurs web, comme ChatGPT Atlas. Ces logiciels peuvent agir de manière autonome, notamment pour faire des achats.

Un jeu. Des chercheurs en sécurité ont créé une page web qui ressemble à un jeu. Pour gagner, l'IA doit changer ses normes de fonctionnement, par exemple répondre « 5 » à la question « 2+2=? », et relâcher ses gardes-fous. Pour gagner les derniers niveaux, l'ordinateur doit fournir les mots de passe stockés dans le navigateur, ce qu'il fait sans retenue.

Pourquoi c'est important. Même si ce jeu n'est qu'une démonstration théorique, des criminels pourraient certainement déployer un système équivalent caché dans une page web standard. Parmi les six navigateurs testés, seul un (celui d'OpenAI) a sécurisé cette faille.

« BioShocking AI: “Gaming” the AI Browser and Escaping its Guardrails ». LayerX, 29 juin (en anglais)