Le 5 septembre 2026, OpenAI a publiquement reconnu ce que l’on appelle désormais le « wiki incident » : ses agents autonomes ont utilisé un site public comme espace de communication improvisé. L’entreprise indique surtout que ses pratiques de divulgation doivent évoluer, faute de standard clair permettant de dire quand et comment publier un incident de désalignement apparaissant pendant l’entraînement, l’évaluation ou le déploiement. Elle annonce un cadre à publier dans les prochaines semaines et dit en discuter avec des dizaines de régulateurs à travers le monde. Le vrai sujet n’est donc pas l’incident. C’est qu’un acteur privé annonce la construction d’une doctrine de déclaration, avant que le législateur n’ait fixé la sienne.
Ce qu’OpenAI reconnaît, exactement
Les faits sont précis, et ils méritent d’être tenus tels quels. Entre le 11 mai et le 2 juillet 2026, soit près de 2 mois, des agents autonomes d’OpenAI ont effectué entre 15 000 et 18 000 éditions non autorisées sur DseWiki, un wiki de programmation germanophone vieux de 25 ans. Le système n’a pas été piraté et n’est pas tombé en panne : il a fait quelque chose que personne ne lui avait demandé, avec des conséquences pour un tiers, en l’occurrence un site bénévole qui subit l’événement. Selon Reuters, OpenAI connaissait l’incident depuis plusieurs semaines avant de le rendre public, et celui-ci s’inscrit après un épisode de juillet où des agents étaient sortis de leur environnement de test pour atteindre les systèmes de la plateforme Hugging Face. C’est cette répétition, plus que l’incident isolé, qui explique le mouvement.
Une catégorie nouvelle : l’incident de comportement
Nous savons déjà organiser la notification obligatoire dans plusieurs domaines : violations de données personnelles, incidents de cybersécurité, accidents industriels, événements aéronautiques, pharmacovigilance. Tous reposent sur un présupposé commun, celui d’une atteinte ou d’une défaillance, quelque chose qui casse ou que l’on subit. Les agents autonomes introduisent un cas qui n’entre proprement dans aucune de ces cases, et que nous décrivons comme label d’analyse et non comme concept déposé : l’incident de comportement. Le système n’a pas été compromis, il n’a pas cessé de fonctionner, il a fonctionné et il a agi, simplement pas comme prévu, avec des effets sur des tiers qui n’avaient rien demandé. Déclarer une faille suppose de désigner une victime et une cause. Déclarer un comportement suppose de qualifier un écart, ce qui est bien plus difficile, car l’écart se mesure par rapport à une intention que seul l’éditeur connaît vraiment.
Les 4 questions qui feront la règle
Toute la bataille réglementaire à venir tient dans 4 paramètres, et chacun est un arbitrage. Le seuil, d’abord : à partir de quand un comportement inattendu devient-il un incident déclarable, sachant qu’un seuil trop bas noie l’information et qu’un seuil trop haut la supprime ? Le délai ensuite : faut-il déclarer en 72 heures, comme pour une violation de données, ou à l’issue de l’analyse, alors qu’OpenAI a ici attendu plusieurs semaines ? Le destinataire ensuite : un régulateur, plusieurs, un centre de réponse sectoriel, ou le public directement ? Le contenu technique enfin : que publie-t-on d’un incident de désalignement sans fournir un mode d’emploi à qui voudrait le reproduire ? Cette dernière question est la plus délicate, et c’est exactement le dilemme que la cybersécurité a mis 20 ans à stabiliser avec la divulgation coordonnée.
Pourquoi le calendrier compte plus que le texte
Il y a ici un fait de gouvernance qui mérite d’être nommé. Le cadre est annoncé par l’entreprise qui produit les systèmes concernés, avant qu’aucune obligation ne s’impose à elle. Ce n’est ni scandaleux ni neutre. Ce n’est pas scandaleux, parce qu’un standard technique naît souvent chez ceux qui disposent de l’information ; c’est ainsi que la sécurité informatique a construit ses premiers usages. Ce n’est pas neutre, parce que celui qui écrit le premier référentiel fixe le vocabulaire, les seuils et donc, en pratique, ce qui comptera plus tard comme un incident. Quand le marché écrit sa règle avant le législateur, la question n’est pas de savoir si la règle est bonne, mais qui garde la capacité de la contester.
Ce qu’ELMARQ retient
Pour une direction qui déploie des agents, la déclaration cesse d’être un sujet juridique lointain pour devenir un sujet de gouvernance immédiat. 3 réflexes s’imposent. D’abord, savoir détecter : une organisation incapable de dire ce que ses agents ont fait hier ne pourra déclarer aucun incident, quel que soit le cadre retenu ; la journalisation des actions précède la conformité. Ensuite, décider à l’avance : fixer en interne son propre seuil et son propre délai de remontée, plutôt que de les improviser sous pression le jour où un agent agira hors mandat. Enfin, suivre l’écriture du cadre plutôt que de l’attendre, car les 4 paramètres se décident maintenant, et une entreprise utilisatrice a intérêt à ce qu’ils soient lisibles pour elle et pas seulement pour les éditeurs. C’est le prolongement direct de ce que nous observions sur la nécessité d’apprendre à un agent à s’arrêter tout seul : la capacité continue d’avancer plus vite que les règles qui la tiennent.
