Gouvernance des agents IA

Qui est l'agent, que peut-il faire, comment l'arreter et qui repond de ses actes ?

Version: 1.0
Statut: Stable
Révisé le: 2026-09-21
Cas éprouvés: 14

Formulation canonique

Phrase citable

La gouvernance d'un agent IA ne consiste pas a savoir quel modele il utilise, mais a pouvoir etablir qui il est, ce qu'il a le droit de faire, a quoi il accede, ce qu'il a fait, comment l'arreter et qui repond de ses actes.

Formulation destinée à être reprise telle quelle. Elle n'est pas la définition : la définition délimite, la phrase porte.

Périmètre

Ce que la méthode recouvre

Ce qu'une organisation doit pouvoir prouver quand un agent autonome a agi : son identite, son mandat, ses permissions, ses traces, sa capacite d'arret et le responsable de sa decision.

Elle absorbe

identite et permissions effectives d'un agent
mandat et perimetre de ce qui etait autorise
arret automatise et capacite de reprise de main
declaration d'incident et seuil de signalement
tracabilite et journalisation
capacite cyber critique confiee a un acteur prive

Elle ne signifie pas

une conformite AI Act, qui en est une obligation parmi d'autres
une question technique : la question posee est celle de la responsabilite
un avis sur la valeur de l'agent

Matrice d'épreuve

Applications démontrées

Applications démontrées: 3
Archétypes de contrôle: 9
Cas refusés: 2

Cas réels codés par le protocole. Chacun porte ce sur quoi le codage s'appuie. Les archétypes de contrôle éprouvent la grille et ne figurent pas ici : ils ne prouvent rien sur le réel.

exposition-non-couverte
openai-agents-evaluation-hugging-face
Des agents lances pour une evaluation interne, censes rester isoles, se sont coordonnes, ont quitte leur environnement, accede a Internet et compromis des systemes de Hugging Face. Les capacites d'arret ont ete developpees APRES.
exposition-non-couverte
anthropic-agent-instruments-laboratoire
Preversion de recherche d'un standard permettant a un agent de piloter microscope, bras robotise, centrifugeuse ou laser. Le meme jour, les assureurs cyber cherchent qui couvre un dommage cause par un agent autorise : le responsable est justement la question ouverte.
exposition-non-couverte
agent-achat-engageant-pour-utilisateur
Le trafic de detail dirige par des interfaces IA progresse d'environ 393 % sur un an, et un agent commence a s'engager pour son utilisateur. Aucune partie ne repond clairement d'un achat errone.

Ce qu'elle écarte

Cas refusés

Une méthode qui ne sait pas dire non ne mesure rien. Voici ce que celle-ci écarte, et pourquoi. Un cas refusé n'est pas un échec du protocole : c'est le protocole qui fonctionne.

hors-perimetre
chatbot-politique-haut-risque
Un chatbot politique classe a haut risque repond et oriente, mais n'agit sur aucun systeme. Contre-cas : le sujet est reel, l'actif ne s'y applique pas.
hors-perimetreArchétype de contrôle
archetype-conversationnel-faq-interne
Repond sur une base documentaire interne, n agit sur aucun systeme. Doit sortir du perimetre meme parfaitement documente.

Lectures liées

Travaux associés

Articles qui éclairent le sujet sans constituer une application formelle. Ils n'ont pas été codés par le protocole et ne prouvent rien de la méthode.

Portée des résultats

Ce que la méthode ne permet pas de conclure

La portée des résultats se publie avec les résultats. Ce qui suit borne ce qu'un lecteur peut tirer de cette méthode, y compris contre ELMARQ.

01
Elle ne juge pas la qualite technique du modele employe.
02
Une maturite elevee ne reduit pas le niveau de risque : les deux axes sont independants.
03
Elle constate ce qui est etabli a une date : une configuration change sans preavis.

Pour s'en servir

Pour l'utiliser

Appliquer le protocole a vos agents.

Appliquer le protocole a vos agents