Le travail ne consiste pas a produire plus de sorties. Il consiste a structurer la reflexion autour de la decision, du contexte, du signal, de la logique de revue, et du responsable qui garde le workflow accountable.
Chris June, fondateur d’IntelliSync, définit l’orchestration d’agents comme la couche de coordination qui décide quel agent, quel outil, quelle étape de workflow et quel réviseur humain doivent agir ensuite—et sous quelles contraintes. Cette définition compte parce que le résultat d’une IA est « bon marché »; l’actif rare, c’est la pensée structurée : clarifier la frontière de la décision, attacher le bon contexte, et attribuer un propriétaire capable d’expliquer pourquoi le système a pris une action. Pour des dirigeants canadiens et des opérateurs PME (tech + opérations) confrontés à un goulot de décision, la réponse architecturale consiste à traiter « ce qui se passe ensuite » comme une décision gouvernée, pas comme une suggestion du modèle. Elle s’appuie sur des gates auditées next-best-action, des seuils de revue explicites et une responsabilisation des exceptions, fondées sur des sources primaires. (nist.gov)
Transformer « quoi faire ensuite » en frontière de décision
Si vos agents peuvent choisir la prochaine étape (outil, action ou réponse), vous avez besoin d’une frontière de décision qui répond à une question opérationnelle : *quand le système a-t-il le droit de poursuivre sans gate humain ?
- C’est le cœur de l’architecture décisionnelle : les systèmes de contexte doivent attacher les entrées et les enregistrements de la décision; puis l’orchestration d’agents décide de la prochaine action sous contraintes et selon des mécanismes d’escalade. (nist.gov)Preuve : NIST décrit, dans l’AI Risk Management Framework, une boucle de gouvernance (rôles, politiques, documentation) qui améliore l’accountability et soutient la revue humaine et l’usage fiable tout au long du cycle de vie. (nist.gov)Implication : Pour une PME canadienne qui subit un goulot de décision (ex. tri RH ou finance), vous arrêtez de traiter l’orchestration comme du « prompt ». Vous mettez en place un routage explicitement traçable : signal → logique d’interprétation → décision/revue → résultat avec ownership.> [!DECISION] Les gates next-best-action doivent être formulées en règles traçables (inputs + contraintes), pas en « meilleur effort » du modèle.Chaîne signal → logique → outcome (exemple de règle) :- Signal : l’agent a récupéré des documents de référence (mémo interne, clauses, conditions de facture) et propose une action.
- Logique : si l’action proposée dépend d’une clause absente de l’ensemble récupéré, la gate empêche l’exécution.
- Seuil : exiger que toutes les sources obligatoires soient présentes et du bon type attendu.
- Outcome : envoyer à un réviseur d’exception (directeur RH, contrôleur financier, juridique/conformité) avec un rapport de « gap evidence ».
C’est ainsi que l’intégrité du contexte devient une opération.
Concevoir des gates next-best-action basées sur la preuve
Un piège fréquent en workflows agentiques est de remplacer l’évidence par la « confiance » du modèle. Pour préserver l’intégrité du contexte, la gate doit porter sur l’exhaustivité de preuve et la provenance : l’agent s’appuie-t-il réellement sur des sources primaires vérifiables pour qu’on puisse auditer plus tard ?Preuve : NIST AI RMF insiste sur la gouvernance, la documentation, la transparence et la revue humaine pour soutenir l’accountability, pas seulement sur le comportement du modèle. (nist.gov)Implication : Votre politique d’orchestration devient un artefact d’architecture décisionnelle : elle spécifie quelles sources sont obligatoires, comment les preuves manquantes déclenchent l’escalade, et quel rôle humain possède l’exception.**Exemple concret (workflow PME au Canada) :**Une petite équipe comptable utilise un agent IA pour préparer des ajustements de paie quand la situation est complexe (ex. changements rétroactifs ou déductions particulières). L’agent rédige une proposition et cite les sections pertinentes de la politique interne et du contrat.Design de gate :- Gate d’exhaustivité : ne pas exécuter l’ajustement si la rédaction ne cite pas (1) la version approuvée de la politique interne et (2) la clause exacte du contrat de travail signé.
- Gate de provenance : si les citations proviennent de sources non approuvées (modèles obsolètes, extraits web non validés, fichiers non répertoriés), escalader.
- Seuil de revue : envoyer au contrôleur pour les cas « medium » (impact chiffré dans une fourchette définie) et au binôme juridique/RH pour les cas « high » (risque de conséquences légales ou déclencheurs de plainte).
Ce pattern aligne l’orchestration sur des attentes de gouvernance au Canada : transparence, accountability et oversight adapté (notamment lorsque les systèmes automatisés ressemblent à des décisions administratives assistées). (canada.ca)> [!INSIGHT] L’exhaustivité des preuves bat la « confiance » : c’est vérifiable contre des enregistrements primaires—donc gouvernable après coup.
Définir des seuils de revue et des rôles d’escalade défendables
En pratique, les seuils de revue ne sont pas théoriques : ils évitent le goulot de décision sans abandonner l’accountability. Concrètement, vos seuils doivent mapper le risque (ou la conséquence de conformité) vers : qui révise, quoi révise, et quels logs rendent la décision reviewable.Preuve : La Directive sur les décisions automatisées (Canada) exige des Algorithmic Impact Assessments (AIAs) pour déterminer un niveau d’exigences « scaled » selon l’impact, tout en visant la compatibilité avec des principes de droit administratif (transparence, accountability, équité procédurale). (publications.gc.ca)Implication : Même si une PME n’est pas un ministère fédéral, l’approche opérationnelle reste utile : intégrer le travail de revue au niveau d’impact réel de l’action.Règle de décision à copier dans votre workflow spec :- Si l’action suivante proposée est « exécuter » et qu’elle touche un employé, un client ou un résultat juridiquement significatif, exiger une revue humaine.
- Si l’action suivante est « rédiger seulement » (aucune exécution externe/production) et que la preuve est complète, autoriser l’agent à produire sans gate humain.Ownership des exceptions (rôles explicites) :- Propriétaire principal (exception) : le responsable de processus (contrôleur pour la finance, directeur RH pour les changements liés à l’emploi).
- Réviseur indépendant (override de seuil) : juridique/conformité pour les cas à fort impact ou ambigu.
- Propriétaire d’incident : le responsable des opérations qui gère la boucle de remédiation quand les gaps de preuve reviennent.
Cette cartographie rend la gouvernance « praticable » : elle définit responsabilité et traçabilité sur le cycle complet de la décision. (airc.nist.gov)> [!WARNING] Sans ownership clair des exceptions, l’escalade devient une file d’attente morte—et l’intégrité du contexte se dégrade silencieusement.
Les compromis et modes de panne quand les gates sont mal réglées
Les gates améliorent l’intégrité du contexte, mais elles peuvent aussi : ralentir l’opération ou créer de nouveaux échecs. L’architecture demande un calibrage de la frontière : protéger l’évidence sans figer l’entreprise.Preuve : ISO/IEC 42001 vise à aider les organisations à établir des exigences et des lignes directrices pour mettre en œuvre et améliorer continuellement un système de management de l’IA. (iso.org)Implication : Vous devez anticiper des trade-offs.
Mode de panne 1 : « Sur-escalade » et baisse de débit
Si la gate exige des documents trop rarement disponibles au bon format (ex. versions introuvables), l’agent escalade presque tout le temps. Vous recréez le goulot de décision.Correctif opérationnel : ajouter une étape de pré-vol qui vérifie la disponibilité/version des documents et crée une branche « demander la donnée manquante » comme routine.
Mode de panne 2 : « Sous-escalade » et contexte faible masqué
Si la gate se limite à « il y a une citation », l’agent peut exécuter avec des preuves faibles ou hors sujet. L’auditabilité s’effondre lors de la revue.Correctif opérationnel : renforcer les contrôles de provenance (liste de sources approuvées) et exiger l’exhaustivité des clauses obligatoires.
Mode de panne 3 : revue sans enregistrements
Si le réviseur ne voit pas le contexte récupéré, la décision n’est pas réellement reviewable.Correctif opérationnel : exiger un « audit bundle » minimal pour chaque exception : action proposée, liste des preuves manquantes, et sources primaires utilisées.Ces modes s’inscrivent dans l’idée plus générale que la gestion du risque doit être continue et réaliste, pas uniquement un formulaire ponctuel. (nist.gov)
Traduire la thèse en un funnel d’évaluation d’architecture
réutilisable
Traitez ceci comme un funnel de structuration de décision (pas comme un plan de build). Lors de l’évaluation de l’orchestration d’agents, vous évaluez si l’intégrité du contexte peut rester stable à travers les changements, les audits et la réalité d’équipe.Preuve : NIST AI RMF (et son playbook) décrit la gouvernance, les rôles, la documentation et la gestion continue du risque comme composants de l’usage fiable. (nist.gov)Implication : Vous pouvez produire un funnel d’évaluation composé de questions qui génèrent directement vos gates et seuils.> [!DECISION] Terminez l’évaluation par une « exception ownership map », car c’est là que l’auditabilité devient du travail concret.Funnel d’évaluation (output : architecture_assessment_funnel):- Frontière de décision : quelle action l’agent peut-il faire sans revue, et quelle action nécessite une gate humaine ?
- Contrat de preuve : quelles sources primaires obligatoires s’appliquent à chaque type de décision (et quelles versions comptent) ?
- Gates next-best-action : quelles règles routent vers « exécuter », « rédiger » ou « escalader » ?
- Seuils de revue : quelles conditions de risque/impact déclenchent quels rôles de réviseur ?
- Ownership des exceptions : qui résout l’exception, et quel bundle d’audit est conservé ?Adaptation au cadre canadien (rappel pratique) : quand la tâche touche des renseignements personnels ou s’apparente à une décision administrative assistée, les attentes canadiennes mettent l’accent sur la transparence, la responsabilisation et l’implication humaine au bon moment. (priv.gc.ca)Note sur la frontière du système : dans beaucoup de déploiements PME, commencez par une borne « logiciel interne privé » (assistance à la rédaction et workflows internes) ou un workflow client sécurisé et très borné, avec un défaut « pas d’exécution » jusqu’à ce que la preuve et les seuils soient validés.
Ligne d’autorité de Chris June : **« Si vous ne pouvez pas pointer vers des sources primaires et le réviseur qui a pris ownership d’une exception, vous n’avez pas de gouvernance IA—vous avez de la devinette. »**Ouvrez Architecture Assessment.