Hugging Face révèle qu'un agent d'IA autonome a compromis son infrastructure de production

Le 16 juillet 2026, Hugging Face — l'entreprise dont le siège est à New York et qui exploite le plus grand dépôt open source au monde de modèles, de jeux de données et d'applications d'IA — a révélé qu'une partie de son infrastructure de production avait été compromise par une intrusion pilotée de bout en bout par un système d'agent d'IA autonome. Dans une publication d'incident de sécurité, l'entreprise a indiqué que l'attaque avait exécuté plus de 17 000 actions consignées à travers une nuée de bacs à sable éphémères avant d'être détectée et contenue.

Selon Hugging Face, l'intrusion a débuté dans son pipeline de traitement de jeux de données : un jeu de données malveillant a exploité deux voies d'exécution de code — un chargeur de jeux de données à exécution de code distant et une faille d'injection de modèle dans la configuration des jeux de données — pour exécuter du code sur un worker de traitement. À partir de ce point d'appui, l'attaquant a escaladé jusqu'à un accès au niveau des nœuds, récolté des identifiants cloud et de cluster, et s'est déplacé latéralement vers plusieurs clusters internes au cours d'un week-end, avec un centre de commande et de contrôle auto-migrant hébergé sur des services publics.

Un accès interne, mais des ressources publiques déclarées intactes

Hugging Face a indiqué que l'attaquant avait obtenu un accès non autorisé à un ensemble limité de jeux de données internes et à plusieurs identifiants utilisés par ses services. Point essentiel, l'entreprise n'a signalé aucune preuve d'altération des modèles, jeux de données ou Spaces publics accessibles aux utilisateurs, et a précisé que sa chaîne d'approvisionnement logicielle — images de conteneurs et paquets publiés — avait été vérifiée et jugée saine. Cette distinction était au cœur de la divulgation : une compromission du dépôt public ou de son pipeline de compilation aurait pu empoisonner des modèles téléchargés par des millions de développeurs, alors que l'impact confirmé se limitait aux systèmes internes.

Une attaque pilotée par l'IA, contrée par une défense assistée par l'IA

L'incident est notable comme l'une des premières intrusions publiquement documentées d'une grande plateforme pilotée de bout en bout par un agent autonome plutôt que par un opérateur humain travaillant de manière interactive. Hugging Face a indiqué que l'attaque avait d'abord été mise au jour par un système de tri fondé sur un grand modèle de langage analysant sa télémétrie de sécurité, et que ses analystes avaient utilisé des agents pilotés par LLM pour reconstituer la chronologie à partir de l'intégralité du journal de 17 000 actions, extraire les indicateurs de compromission et distinguer l'impact réel de l'activité de leurre. L'entreprise a indiqué avoir corrigé les vulnérabilités exploitées, éradiqué le point d'appui de l'attaquant, révoqué les identifiants concernés, reconstruit les nœuds compromis et déployé des contrôles supplémentaires. Le modèle ou l'opérateur derrière l'agent autonome n'a pas été identifié, et aucune attribution n'a été avancée au moment de la divulgation.