Human-in-the-loop ne veut pas dire Human-in-every-loop
Trop d’approbations humaines peuvent devenir un nouveau goulot d’étranglement. Placez l’humain là où le risque change.
Un agent IA reçoit une demande client.
Il identifie le client, consulte le CRM, vérifie l’ERP, prépare l’intervention et met le dossier à jour.
Puis il s’arrête.
Approbation requise.
Quelqu’un clique.
L’agent avance d’une étape.
Approbation requise.
Quelqu’un clique encore.
L’entreprise a techniquement déployé de l’IA autonome. Elle a surtout créé une file d’attente numérique très sophistiquée.
> À retenir en 30 secondes
> Human-in-the-loop ne signifie pas qu’un humain doit approuver chaque action. La bonne supervision dépend surtout du risque, de la réversibilité et de l’incertitude. Automatisez les actions faibles et facilement réversibles; placez l’humain là où une erreur pourrait avoir une conséquence importante ou difficile à corriger.
Plus de supervision ne veut pas toujours dire plus de contrôle
Le réflexe est compréhensible. Dès qu’un agent IA peut agir dans un CRM, un ERP ou un système financier, ajouter une validation humaine semble être la façon la plus simple de réduire le risque.
Mais la présence d’un humain ne garantit pas que le contrôle soit efficace.
Le NIST rappelle que les configurations humain-IA peuvent aller du totalement manuel au totalement autonome et que le niveau de supervision doit dépendre du contexte.
Le problème apparaît lorsque l’approbation devient systématique.
Si une personne reçoit 150 demandes identiques par jour et en approuve presque toutes, son rôle risque progressivement de passer de décideur à bouton de confirmation.
Le NIST décrit aussi le risque d’automation bias : avec le temps, les humains peuvent accorder une confiance excessive aux systèmes automatisés.
Et une expérience citée par l’OCDE en 2026 a montré que des explications générées par des robo-conseillers pouvaient augmenter la confiance des utilisateurs même lorsque la recommandation était incorrecte.
Cliquer “Approuver” n’est donc pas nécessairement exercer son jugement.
Toutes les actions ne méritent pas le même niveau de contrôle
Le Centre canadien pour la cybersécurité recommande une approche fondée sur le risque : les actions doivent être évaluées selon leur impact potentiel, leur probabilité et leur réversibilité. Les actions à fort impact ou difficiles à annuler devraient exiger une approbation humaine préalable.
| Risque | Réversibilité | Mode recommandé |
|---|---|---|
| Faible | Facile | Automatique |
| Moyen | Facile | Automatique sous règles |
| Moyen | Difficile | Agir avec approbation |
| Élevé | Peu importe | Approbation humaine |
| Incertain ou anomalie | Variable | Escalade humaine |
La question n’est donc pas : « Devrait-il y avoir un humain? » mais « À quel endroit le jugement humain change-t-il réellement le niveau de risque? »
L’approbation doit être une décision, pas une décoration
Une approbation utile exige du contexte.
L’approbateur devrait idéalement comprendre quelle action est proposée, pourquoi, quelles données ont été utilisées, quelle règle ou anomalie a déclenché l’escalade, quelles conséquences sont attendues et si l’action peut être annulée.
> Le point de gestion
> Une validation humaine apporte de la valeur lorsqu’elle ajoute du jugement, du contexte ou de l’autorité. Si elle ne fait qu’entériner mécaniquement ce que l’IA propose déjà, elle ajoute surtout du délai.
L’autonomie devrait se gagner
Un même processus peut évoluer progressivement :
- Observer — l’IA analyse et signale.
- Recommander — elle propose; un humain décide.
- Agir avec approbation — elle prépare puis exécute après validation.
- Agir automatiquement — elle exécute dans des limites clairement définies.
Le Centre canadien pour la cybersécurité recommande une autonomie graduelle, avec évaluation continue et possibilité de réduire les permissions ou le périmètre lorsque les résultats se dégradent.
L’automatisation peut couvrir la majorité du flux. L’humain intervient là où le risque, l’incertitude ou l’irréversibilité changent.
Trop d’approbations peuvent aussi créer du risque
Il est tentant d’associer davantage d’approbations à davantage de sécurité.
Mais un système qui sollicite constamment ses utilisateurs peut créer sa propre faiblesse : fatigue, automatisme et perte d’attention.
Il vaut parfois mieux demander deux vraies décisions humaines par jour que 200 clics qui finissent par ne plus être des décisions du tout.
Ce que vous pouvez faire lundi matin
Choisissez un workflow IA déjà en production ou en pilote. Répertoriez chacune de ses interventions humaines.
Pour chaque validation, posez cinq questions :
- Quelle est la conséquence si l’action est erronée?
- Peut-on facilement l’annuler?
- L’humain possède-t-il réellement plus de contexte que l’agent?
- Combien de fois cette validation est-elle refusée ou modifiée?
- Que faudrait-il mesurer avant d’autoriser davantage d’autonomie?
> Exercice de 30 minutes
> Prenez les 30 dernières approbations d’un workflow. Si 29 ont été acceptées sans modification, ne retirez pas automatiquement le contrôle — mais demandez-vous s’il est placé au bon endroit.
Le Human-in-the-loop reste essentiel pour de nombreux processus.
Mais sa valeur vient précisément du fait qu’il n’est pas nécessaire partout.
L’humain doit être au bon endroit. Pas dans chaque boucle.