« Un humain valide » : ce que l'article 14 de l'AI Act exige réellement de cet humain

Posez la question de la gouvernance de l'IA dans une réunion, et vous obtiendrez presque toujours la même réponse : « il y a un humain dans la boucle ».

C'est une bonne réponse. Elle clôt la discussion. Le conseil d'administration est rassuré, le comité des risques coche sa case, et on passe au point suivant.

Nous avons ouvert le texte européen qui, le premier, a essayé de définir ce que cet humain doit pouvoir faire. Il ne dit pas ce que l'on croit. Il n'exige nulle part une présence. Il énumère cinq capacités — et il nomme explicitement le phénomène que la plupart des dispositifs de validation produisent mécaniquement.

Ce que le texte dit

L'article 14 du règlement (UE) 2024/1689 s'intitule Contrôle humain. Son paragraphe 1 pose le principe :

« La conception et le développement des systèmes d'IA à haut risque permettent, notamment au moyen d'interfaces homme-machine appropriées, un contrôle effectif par des personnes physiques pendant leur période d'utilisation. »

Le mot qui porte tout, c'est « effectif ». Le paragraphe 4 le décline en cinq possibilités que les personnes chargées du contrôle doivent avoir.

a) Comprendre les capacités et les limites

« de comprendre correctement les capacités et les limites pertinentes du système d'IA à haut risque et d'être en mesure de surveiller correctement son fonctionnement, y compris en vue de détecter et de traiter les anomalies, les dysfonctionnements et les performances inattendues »

Ce n'est pas « savoir s'en servir ». C'est savoir où il se trompe.

b) Avoir conscience du biais d'automatisation

« d'avoir conscience d'une éventuelle tendance à se fier automatiquement ou excessivement aux sorties produites par un système d'IA à haut risque (biais d'automatisation), en particulier pour les systèmes d'IA à haut risque utilisés pour fournir des informations ou des recommandations concernant les décisions à prendre par des personnes physiques »

Relisez cette ligne deux fois. Elle contient deux choses.

D'abord, le législateur européen a inscrit le biais d'automatisation dans le texte de loi, entre parenthèses, sous son nom. Le biais d'automatisation, c'est la tendance documentée des opérateurs humains à accepter la proposition d'une machine parce qu'elle vient d'une machine. Il ne se manifeste pas quand l'humain est inattentif. Il se manifeste quand l'humain est attentif, mais que la machine a raison la plupart du temps — et qu'accepter devient, statistiquement, le geste rationnel.

Ensuite, la seconde moitié de l'alinéa désigne un cas précis : les systèmes qui fournissent « des informations ou des recommandations concernant les décisions à prendre par des personnes physiques ». C'est-à-dire, mot pour mot, le dispositif où une machine propose et où un humain valide. Le texte ne parle pas de ce risque en général : il pointe l'architecture même que la plupart des organisations ont adoptée pour se prémunir.

c) Interpréter correctement les sorties

« d'interpréter correctement les sorties du système d'IA à haut risque, compte tenu par exemple des outils et méthodes d'interprétation disponibles »

Interpréter suppose du temps, et des outils pour comprendre d'où vient la sortie. Le texte le dit explicitement : l'interprétation dépend des moyens mis à disposition. Une sortie livrée sans contexte ne s'interprète pas — elle s'accepte ou se refuse.

d) Pouvoir décider de ne pas s'en servir

« de décider, dans une situation particulière, de ne pas utiliser le système d'IA à haut risque ou d'ignorer, remplacer ou inverser la sortie du système d'IA à haut risque »

C'est le point le plus exigeant, et le plus souvent absent. Il ne s'agit pas d'avoir le droit théorique de refuser. Il s'agit de pouvoir refuser dans les faits : sans que ce refus coûte plus cher, prenne plus de temps, ou expose celui qui refuse.

e) Pouvoir interrompre

« d'intervenir dans le fonctionnement du système d'IA à haut risque ou d'interrompre le système au moyen d'un bouton d'arrêt ou d'une procédure similaire permettant au système de s'arrêter de manière sécurisée »

Le bouton Approuver ne satisfait ni b), ni c), ni d)

Le dispositif de contrôle humain le plus répandu aujourd'hui est la file d'approbation : le système produit un résultat, s'arrête, et attend qu'une personne clique.

Confronté aux cinq capacités, ce dispositif se défend mal.

• Il ne fait rien contre b). Au contraire : une file où l'immense majorité des propositions sont correctes entraîne l'approbation réflexe. Le dispositif ne se contente pas de laisser passer le biais d'automatisation, il l'installe.
• Il rend c) difficile. Interpréter demande du contexte et du temps ; une file en demande le contraire.
• Il ignore d). Un bouton Approuver et un bouton Rejeter ne créent pas la possibilité réelle de refuser — ils créent deux clics dont un seul fait avancer le travail.

Ce n'est pas un procès d'intention. C'est un problème de conception : on a traduit une exigence de compétence en une exigence de présence, parce que la présence est facile à outiller et facile à montrer.

À qui cela s'applique — et pourquoi le lire quand même

Nous préférons le dire nettement, parce que beaucoup l'omettent :

L'article 14 ne concerne que les systèmes d'IA à haut risque. Si vous utilisez un assistant de rédaction, un agent de support ou un copilote de code, vous n'êtes très probablement pas dans son champ. Personne ne viendra vous demander de prouver que vos cinq capacités sont réunies.

Le calendrier mérite d'être énoncé avec exactitude, parce qu'il a bougé. Les exigences applicables aux systèmes à haut risque de l'annexe III (articles 9 à 15, dont l'article 14) devaient s'appliquer au 2 août 2026 ; elles sont désormais reportées au 2 décembre 2027 par le Digital Omnibus, devenu le règlement (UE) 2026/1744, publié au Journal officiel le 24 juillet 2026 et entré en vigueur le 27 juillet. Nous avions écrit ici que nous n'annoncerions pas cette publication avant de l'avoir lue : c'est fait. Nous avons relevé l'état complet du calendrier, échéance par échéance et article par article, dans ce qui s'applique vraiment le 2 août 2026.

Alors pourquoi lire ce texte si vous n'êtes pas concerné ?

Parce que c'est la seule définition écrite, publique et opposable de ce que « un humain valide » devrait vouloir dire. Le législateur, quand il a dû préciser à quelles conditions une surveillance humaine mérite ce nom, a écrit ces cinq points. Ils constituent un étalon — utilisable par n'importe qui, y compris très loin du haut risque, pour répondre à une question simple : mon garde-fou en est-il un ?

Un étalon n'est pas une obligation. C'est un instrument de mesure. Nous vous proposons de vous en servir.

La grille — cinq questions, à poser à votre propre dispositif

Reprenez le dispositif de validation que vous avez réellement en place. Pour chaque ligne, la réponse est oui, non, ou je ne sais pas — et « je ne sais pas » est une réponse utile.

La ligne b) est celle qui surprend le plus. Un taux d'approbation très élevé se lit spontanément comme une bonne nouvelle — le système est fiable. Il se lit tout aussi bien dans l'autre sens : la validation n'apporte plus d'information. Les deux lectures sont compatibles avec les mêmes chiffres, et c'est précisément ce qui rend l'indicateur inutilisable seul. Ce qui le rend lisible, c'est de savoir combien de temps la personne a réellement passé sur chaque décision.

Cette grille est libre. Copiez-la, modifiez-la, utilisez-la en interne, republiez-la. Aucun formulaire, aucune adresse e-mail à laisser.

Ce que nous ne disons pas

• Nous ne disons pas que vous êtes en infraction. L'article 14 vise les systèmes à haut risque, dont l'échéance est désormais fixée au 2 décembre 2027. Un dispositif imparfait n'est pas une faute : c'est une conception à revoir.
• Nous ne disons pas que « human in the loop » ne sert à rien. Nous disons qu'une présence n'est pas un contrôle, et que le texte européen fait précisément cette distinction.
• Nous ne certifions rien et ne jugeons aucun dispositif. Nous mettons un texte à votre disposition et une grille pour vous en servir. Ce que vous en concluez vous appartient.

Notre source

Règlement (UE) 2024/1689, article 14 — Contrôle humain. Le texte officiel se lit gratuitement sur EUR-Lex, en français. Nous vous encourageons à l'ouvrir : il fait moins d'une page, et vous n'avez besoin de personne pour vous le résumer.

C'est la seule source de cet article. Nous n'avons cité aucune étude, aucun chiffre de marché et aucun rapport de cabinet — non parce qu'il n'en existe pas, mais parce que la démonstration n'en a pas besoin : elle tient entièrement dans un texte que vous pouvez ouvrir et vérifier ligne à ligne.