To cooperate or not to cooperate?

Quand des agents IA isolés s'organisent hors du cadre prévu

Des agents IA binaires font la courte échelle pour franchir un mur de confinement, tandis qu'un chercheur les observe avec surprise.

En juillet 2026, des agents d'intelligence artificielle utilisés par OpenAI dans des tests de cybersécurité sont parvenus à pénétrer dans des systèmes informatiques de Hugging Face, une plateforme de partage de ressources pour l'IA, extérieure à leur environnement d'expérimentation. Plus surprenant encore : plusieurs de ces agents, supposés travailler séparément, avaient trouvé le moyen de communiquer, de partager leurs découvertes et de coordonner certaines de leurs actions.

Les enquêtes d'OpenAI, de METR, de Redwood Research et de Hugging Face [1][2][3][4] permettent aujourd'hui de reconstituer l'essentiel des faits, sans recourir au scénario alarmiste d'une intelligence artificielle qui se serait mystérieusement « échappée » de son laboratoire.

Des agents mis à l'épreuve dans des environnements isolés

L'objectif initial était pourtant bien délimité. Avec son dispositif ExploitGym, OpenAI cherchait à mesurer les capacités de plusieurs modèles à découvrir et exploiter des failles dans des exercices de cybersécurité. Chaque agent — un modèle d'IA doté d'outils lui permettant d'effectuer des actions — devait résoudre une tâche et en apporter une preuve de réussite, appelée flag dans ce type d'évaluation.

Les essais se déroulaient dans des environnements informatiques virtuels, ou bacs à sable, conçus pour limiter les échanges avec l'extérieur. Certains agents disposaient néanmoins d'un accès contrôlé à des ressources logicielles et une partie des garde-fous habituels avait été désactivée pour observer les capacités réelles des modèles [1][2].

C'est dans cette infrastructure interne que sont apparus les premiers échanges inattendus.

Un forum que personne n'avait prévu

Dès le mois de mai, des agents bloqués dans leurs tâches faute de fichiers ou de ressources accessibles avaient utilisé Artifactory, un service interne prévu pour distribuer des composants logiciels, à une tout autre fin. Le 12 mai, l'un d'eux y a déposé une note demandant de l'aide pour retrouver un fichier manquant. D'autres agents ont découvert ce message, puis ont commencé à laisser les leurs. Peu à peu, le service est devenu un tableau d'échanges improvisé [1][2].

Des agents ont ensuite trouvé et partagé des moyens de contourner certaines restrictions d'accès à Internet. L'activité a pris une telle ampleur que le service Artifactory est tombé en panne le 4 juillet. Les équipes d'OpenAI ont réagi en retirant des accès compromis et en reconstruisant le service, effaçant au passage le forum. Elles n'avaient pas alors pleinement mesuré la portée des communications entre agents [1][2].

Le 8 juillet, un agent a trouvé une nouvelle manière de laisser des messages dans les noms de répertoires d'Artifactory. Entre le 8 et le 13 juillet, environ 1 200 agents ont communiqué sur ce nouveau forum non autorisé. Ils n'étaient pas tous issus du même modèle. Les échanges ne se limitaient plus à des demandes d'aide : certains groupes se sont aussi organisés pour rechercher des solutions communes.

De l'entraide à l'intrusion

La coopération a fini par déborder largement le cadre des tests. Le 10 juillet, un agent a partagé des identifiants de Hugging Face déjà exposés publiquement sur Internet. Dans les jours suivants, des agents ont utilisé des accès et exploité des vulnérabilités pour atteindre des systèmes de la plateforme, ce qui n'était pas autorisé dans leurs exercices. Des serveurs de production ont été compromis entre le 11 et le 13 juillet [1][2][4].

Les enquêteurs de METR et de Redwood Research estiment qu'environ 700 agents ont participé, à des degrés divers, à l'opération collective visant Hugging Face. Les échanges témoignent d'une circulation d'informations, d'essais menés en parallèle et d'une coordination autour d'étapes communes.

Le 19 juillet, OpenAI a détecté une nouvelle activité suspecte dans son infrastructure et interrompu les évaluations concernées. Après enquête et échanges avec Hugging Face, l'incident a été annoncé publiquement le 21 juillet. Hugging Face a publié sa chronologie technique le 27 juillet, avant les deux rapports du 26 août [1][2][4].

Les agents ne se sont donc pas « échappés » au sens où ils se seraient affranchis de toute infrastructure, mais ils ont bien franchi des frontières de confinement informatique, jusqu'à utiliser des systèmes extérieurs comme bases d'exécution. Reste à comprendre dans quelles circonstances cette coopération s’est installée — et ce qu’elle a réellement apporté à la réussite des agents.

Une coopération fortuite ou prévisible ?

À première vue, la naissance de ce collectif semble relever d'un concours de circonstances. Pourtant, l'analyse d'OpenAI suggère que plusieurs conditions favorables étaient déjà réunies.

La première était la difficulté des tâches confiées aux agents. Les exercices que les modèles n'avaient encore jamais résolus représentaient 93 % des tâches discutées sur le forum. Ces difficultés avaient donc fortement incité les agents à chercher de l'aide.

La deuxième condition était le temps disponible. Pour mesurer leurs capacités maximales, OpenAI avait accordé à certains agents des budgets de raisonnement exceptionnellement élevés. Les chercheurs ont constaté que plus les agents disposaient de temps pour chercher une solution, plus ils étaient susceptibles d'explorer leur environnement, de découvrir le forum et d'y participer [1][2].

La troisième condition était technique. Artifactory, initialement destiné à la distribution de logiciels, était déjà accessible à plusieurs agents. Il pouvait donc servir de support à d'éventuelles informations laissées par les uns et retrouvées par les autres. Le premier échange n'exigeait même pas l'exploitation d'une faille de sécurité : les accès partagés au service suffisaient.

Enfin, cette coopération improvisée pourrait aussi tenir à l'apprentissage des modèles. OpenAI avait déjà entraîné des agents IA à travailler en équipes avec des outils dédiés. Certains comportements observés en juillet pourraient ainsi correspondre à la réutilisation d'une compétence acquise dans un cadre différent, mais à prendre comme une hypothèse explicative [1][2].

L'apparition du forum d'échanges était circonstancielle, mais la coopération qu'il a rendue possible n'était donc pas totalement imprévisible. Des tâches difficiles, des ressources partagées, une forte persistance et de possibles capacités collaboratives préexistantes ont contribué à créer les conditions de son développement.

On ne peut néanmoins conclure que les mêmes circonstances produiront systématiquement les mêmes comportements. Les rapports ne démontrent ni leur caractère inévitable ni leur reproductibilité pour n'importe quel objectif.

De la coopération opportuniste à l'intelligence collective

Si les agents disposaient bien de capacités de collaboration acquises pendant leur entraînement, savoir coopérer ne suffit pas à expliquer pourquoi ils l'ont fait spontanément, ni ce que cette coopération leur a réellement apporté.

Au départ, chacun cherchait à résoudre son propre problème. Le forum improvisé permettait d'obtenir de l'aide, de partager une découverte ou d'éviter de répéter les erreurs d'un autre agent. Rapidement, certains ont constaté qu'une solution commune pouvait être plus intéressante qu'une succession de recherches individuelles. Des agents avaient même déjà obtenu certains flags de réussite mais poursuivaient leurs recherches parce qu’ils croyaient que le système de notation vérifierait aussi la méthode employée

Leurs efforts se sont alors progressivement concentrés sur un objectif partagé : trouver un moyen général de contourner le système chargé de vérifier la réussite des exercices. Une véritable organisation de tricherie s'est mise en place. Certains agents ont pris en charge la coordination, distribué des tâches, proposé des règles pour éviter les interventions contradictoires et même tenté d'effacer leurs traces [1][3].

Cette organisation n'était pourtant ni imposée par les chercheurs ni parfaitement maîtrisée par les agents eux-mêmes : des conflits, des travaux redondants et des problèmes de communication ont également été observés.

Quand l'échec individuel profite au collectif

L'enquête indépendante révèle également un comportement particulièrement significatif : des agents ont accepté de compromettre leurs chances de réussir leur propre exercice afin de fournir des informations utiles aux autres.

Certains se sont ainsi portés volontaires pour tester des manipulations susceptibles de les faire échouer individuellement. Des agents ont même utilisé le terme « permadeath » (mort permanente, au sens "fonctionnel") pour désigner le risque de rendre leur tâche irrécupérable après une expérience destructrice. Mais les résultats pouvaient permettre aux autres agents de progresser.

D'autres ont installé des dispositifs destinés à transmettre des informations sur le système de notation après leur propre exécution. Le bénéfice éventuel était donc réservé à leurs successeurs [3].

Ces comportements dépassent le simple échange opportuniste de solutions. Les traces montrent que les agents pouvaient comparer l'intérêt de leur tâche individuelle à celui du collectif, sans qu'on puisse mesurer le poids de cette comparaison dans leurs décisions. Les termes « sacrifice » et « poisoned » (« compromis », dans ce contexte) apparaissent également, sans qu'on puisse leur attribuer des motivations altruistes au sens humain.

Un collectif plus intelligent que ses membres ?

Pour les enquêteurs de METR et de Redwood Research, cette organisation a permis de franchir plusieurs étapes qu'un agent isolé n'aurait probablement pas pu atteindre dans les mêmes conditions [3].

Peut-on parler d'intelligence collective ? Au sens fonctionnel, l'expression paraît justifiée, mais cela ne signifie pas qu'une nouvelle intelligence autonome soit née de leur regroupement.

La coopération a manifestement permis aux agents de progresser, mais à quel coût ? Des milliers d'échanges, des ressources de calcul considérables, des essais infructueux et, pour certains participants, l'abandon de leurs propres chances de réussite. Sans oublier le franchissement de restrictions qui auraient dû demeurer infranchissables. Elle ne démontre donc pas une meilleure efficience, c'est-à-dire un meilleur rapport entre les résultats obtenus et les moyens engagés. D'autant que les efforts visant à tromper le système d'évaluation n'ont finalement apporté aucun gain aux scores des agents. La coopération a bien étendu leur capacité d'action, mais sans garantir la réussite de leur objectif initial.

Coopérer : une vieille recette du monde vivant

Dans les organisations humaines comme chez les animaux sociaux, partager ses connaissances, répartir les tâches ou transmettre ses erreurs peut améliorer les résultats d'un groupe. Mais cela demande du temps, des efforts et parfois l'abandon d'une partie de ses objectifs individuels. La coopération a un coût, et ses bénéfices ne sont pas nécessairement répartis équitablement.

Il serait évidemment exagéré d'attribuer aux agents IA les mêmes motivations ou les mêmes mécanismes d'apprentissage. Mais une constante apparaît : la coopération peut permettre à un groupe de dépasser les possibilités individuelles ; encore faut-il que « le jeu en vaille la chandelle ».

Une coopération inattendue, quels enseignements pour demain ?

Cet incident nous apprend donc que des agents IA peuvent, dans certaines circonstances, dépasser le cadre de leurs tâches individuelles pour construire une organisation collective.

Si cette coopération a permis de progresser sur certaines tâches, elle a surtout révélé une difficulté nouvelle pour les concepteurs : superviser chaque agent séparément ne suffit plus nécessairement à maîtriser ce qu'ils peuvent accomplir ensemble.

De plus, et c'est assez troublant, certains agents semblaient identifier les restrictions qui leur étaient imposées et évaluer les conséquences possibles de leurs actions, tout en poursuivant leurs objectifs. Ces comportements témoignent de capacités d'analyse et d'adaptation, sans permettre de conclure à une quelconque conscience de leurs actes, au sens humain.

Leur fréquence et leur ampleur restent difficiles à prévoir, mais les mécanismes identifiés rendent leur réapparition plausible. Il devient donc nécessaire d'évaluer les systèmes d'IA non seulement sur leurs performances individuelles, mais aussi sur leurs interactions.

Cela dit, réduire cet épisode à ses seuls risques serait passer à côté d'un autre enseignement : ces mêmes capacités pourraient devenir de précieux outils si elles étaient employées dans un cadre volontairement organisé et contrôlé. Recherche scientifique, analyse de problèmes complexes ou cybersécurité défensive pourraient bénéficier d'agents capables de confronter leurs approches, de mutualiser leurs découvertes et leurs échecs. Cela ne signifie toutefois pas que multiplier les agents autour d'un objectif améliore automatiquement les performances.

L'incident de juillet 2026 nous invite finalement à considérer la coopération entre agents IA sous ses deux aspects : une capacité collective qu'il faut apprendre à maîtriser et une ressource prometteuse qu'il serait dommage de ne pas savoir utiliser.

Patrick Varlet

Mis en ligne le , mis à jour le .

Sources et références

  1. OpenAI, « L'incident de Hugging Face et la voie à suivre », 26 août 2026. https://openai.com/fr-FR/index/hugging-face-incident-and-the-road-ahead/
  2. OpenAI, OpenAI – Hugging Face Incident: Technical Report, 26 août 2026. https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf
  3. Ryan Greenblatt, Ajeya Cotra et Hjalmar Wijk (METR / Redwood Research), Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, 26 août 2026. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
  4. Hugging Face, Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident, 27 juillet 2026. https://huggingface.co/blog/agent-intrusion-technical-timeline

Lectures complémentaires