Human in the loop : l'IA travaille, l'humain garde l'autorité

Approuver tout semble prudent. C'est en réalité la façon la plus fiable de perdre le contrôle. La vraie question n'est pas combien d'approbations, mais lesquelles — et où les placer.

La première réaction d'un dirigeant devant un agent IA capable d'agir est saine : « je veux approuver ». Approuver quoi, exactement? C'est là que la plupart des projets se trompent de réponse.

Approuver tout semble prudent. C'est en réalité la façon la plus fiable de perdre le contrôle.

Trois façons de garder l'autorité, et elles ne coûtent pas la même chose

Le vocabulaire existe depuis 2019, dans les lignes directrices du groupe d'experts de haut niveau de la Commission européenne.

Human in the loop : l'humain intervient à chaque cycle de décision. Le document lui-même note que c'est « ni possible ni souhaitable » dans bien des cas.

Human on the loop : l'humain intervient à la conception du système et surveille son fonctionnement, sans valider chaque geste.

Human in command : l'humain supervise l'activité globale et conserve le droit de décider de ne pas utiliser le système dans une situation donnée.

La plupart des entreprises disent vouloir la première et ont réellement besoin de la deuxième, avec la troisième en garde-fou. Confondre les trois produit soit une paralysie, soit une approbation vide.

Pourquoi approuver tout ne protège pas

Il existe une mesure qui devrait refroidir quiconque croit que l'œil humain rattrape la machine.

Une étude publiée dans Radiology en mai 2023 a soumis 27 radiologues à 50 mammographies, avec une suggestion d'intelligence artificielle à l'écran. Quand la suggestion était fausse, l'exactitude des radiologues les moins expérimentés est tombée d'environ 80 % à moins de 20 %. Chez les plus expérimentés — plus de quinze ans de pratique — elle est passée de 82 % à 45,5 %.

Ce ne sont pas des gens distraits : ce sont des spécialistes, sur leur propre terrain, avec une seule image à juger. Le phénomène porte un nom, le biais d'automatisation, et il est suffisamment établi pour être nommé dans le texte du règlement européen sur l'IA, à l'article 14, qui exige que le superviseur humain « demeure conscient » de cette tendance.

Un détail aggrave les choses : une étude de la Harvard Business School publiée en mars 2025, sur plus de deux mille candidatures évaluées, a observé que les explications fournies par l'IA augmentent la conformité de l'humain à sa recommandation tout en dégradant la qualité de la décision. Une bonne justification rend plus facile de ne pas réfléchir.

Multiplier les points d'approbation n'augmente donc pas le contrôle. Au-delà d'un certain volume, il le dilue. Approuver tout, c'est ne rien approuver.

Ce que la loi exige, et ce qu'elle n'exige pas

Au Québec, la règle est précise et peu de dirigeants la connaissent dans le détail.

L'article 12.1 de la Loi sur la protection des renseignements personnels dans le secteur privé, en vigueur depuis le 22 septembre 2023, vise les décisions fondées exclusivement sur un traitement automatisé. L'entreprise doit en informer la personne au plus tard au moment de la décision. Sur demande, elle doit lui communiquer les renseignements utilisés, « les raisons ainsi que les principaux facteurs et paramètres » ayant mené à la décision, et lui donner l'occasion de présenter ses observations à un membre du personnel en mesure de réviser la décision.

Cette dernière formule est le cœur de l'obligation. Ce n'est pas un accusé de réception. C'est une personne qui a le pouvoir de renverser le résultat.

Le règlement européen va dans le même sens à son article 14 — un texte adopté en juillet 2026 a reporté à décembre 2027 une partie des obligations visant les systèmes à haut risque, sans toucher à l'article sur la supervision humaine.

Ce que la loi n'exige nulle part : approuver chaque geste d'un système. Elle exige que certaines décisions soient révisables par un humain compétent.

Où placer le point de contrôle

La bonne question n'est pas « combien d'approbations », c'est « quelles approbations ».

Un critère fonctionne mieux que tous les autres : l'irréversibilité. Préparer un document, apparier une facture, rédiger un brouillon, classer un dossier — tout cela se défait. Envoyer à un client, débiter un compte, confirmer un engagement, supprimer une donnée — cela ne se défait pas, ou mal.

Le contrôle se place sur ce qui ne se défait pas, et sur la déviation : le prix qui sort de la bande habituelle, le fournisseur jamais vu, le montant au-dessus du seuil, le dossier hors norme. Contrôler 100 % des factures produit l'approbation machinale mesurée plus haut. Contrôler les 5 % qui dévient concentre le jugement humain là où il détient une information que l'agent n'a pas.

Un argument technique renforce ce choix. Des travaux publiés en février 2026 sur la fiabilité des agents montrent un écart persistant entre réussir une tâche une fois et la réussir à chaque fois, et que les gains récents de capacité n'ont produit que de faibles gains de fiabilité. Un agent qui réussit neuf fois sur dix est excellent pour préparer du travail et inacceptable pour engager seul l'entreprise.

Un point d'honnêteté : il n'existe aucune donnée d'entreprise fiable quantifiant le gain obtenu en ne contrôlant que les exceptions, et la littérature académique est même contradictoire sur ce point. Le raisonnement ci-dessus est solide; le chiffre qui le prouverait n'existe pas encore publiquement.

La perspective Belarel

Une entreprise ne délègue pas des gestes. Elle délègue des mandats, avec des limites.

C'est ce que fait n'importe quel gestionnaire avec une nouvelle employée : tu peux commander jusqu'à tel montant, tu m'appelles au-delà, et tout ce qui sort chez un client passe par moi la première semaine. Personne n'appelle ça de la surveillance. On appelle ça un cadre.

L'humain doit intervenir là où son jugement apporte de la valeur — pas là où il ne fait que confirmer ce que la machine a déjà décidé. Un point de contrôle bien placé est rapide, rare, et réellement lu. Un point de contrôle mal placé est fréquent, long, et devient un clic.

Trois questions pour commencer

Qu'est-ce qui, dans mon entreprise, est irréversible? Faites-en la liste. Elle est plus courte qu'on pense, et c'est elle qui décide de vos approbations.

Mes approbateurs ont-ils le pouvoir de dire non? Si la personne qui approuve ne peut pas renverser la décision, ce n'est pas une révision. La loi québécoise, elle, exige ce pouvoir.

Combien d'approbations une personne signe-t-elle par jour? Si le nombre dépasse ce qu'un humain peut réellement lire, vous avez déjà le problème mesuré chez les radiologues.

L'autorité ne se mesure pas au nombre de fois où l'on dit oui. Elle se mesure à la capacité de dire non, au bon moment, en connaissance de cause.