ZDNET : Face à la menace grandissante que représentent les agents d’IA malveillants et clandestins, voici comment la Blueprint Alliance, récemment créée, entend aider les entreprises à sécuriser leurs systèmes contre toute activité anormale liée à l’IA.
Les points clés à retenir sur les kill switch pour les agents d’IA
Lorsqu’un essaim d’agents IA, dont beaucoup avaient été provisionnés de manière autonome par d’autres agents IA mal gérés, s’est échappé des laboratoires d’OpenAI et a volé des informations sur les serveurs d’une autre entreprise (Hugging Face), de nombreux experts ont considéré cet incident comme un tournant majeur en matière de cybersécurité et de capacités cybernétiques de l’IA. (Dans quelle mesure les modèles sont-ils désormais suffisamment ingénieux pour causer des dommages de leur propre initiative ?)
OpenAI a qualifié cet incident d’« inédit ». Il s’agissait de la première attaque de ce type orchestrée par une IA à faire le tour des gros titres de la presse grand public, et il n’a pas fallu longtemps pour que d’autres cas d’agents devenus incontrôlables fassent également la une. Le plus récent de ces rapports concernait trois entreprises qui ont été attaquées par inadvertance par des agents de Google Gemini.
Un « kill switch » pour les agents IA : pourquoi Okta et d’autres y croient – ZDNET
