Outil d’équipe · Modèle

Carte des points de contrôle humains

Un relevé des personnes qui examinent chaque tâche récurrente réalisée avec l’IA, des éléments visibles avant approbation et des moyens d’arrêter ou d’annuler le travail.

Télécharger

Modèle vierge (.md)Exemple fictif (.md)

Principes concernés

Vue d’ensemble

Commencez par les trois à cinq tâches que votre équipe réalise le plus avec l’IA. Pour chacune, consignez l’étape où le travail s’interrompt pour examen et qui peut refuser. Ajoutez d’autres tâches selon les besoins.

Choix du niveau

Posez trois questions pour chaque tâche. Peut-on l’annuler ? Qui d’autre est concerné ? Quel serait le coût d’une erreur ? Toute action irréversible, externe ou concernant une personne commence au niveau 2 (l’IA propose, une personne approuve) ou 4 (vous agissez). Le principe 1 explique les quatre niveaux.

Signaux d’alerte

01Les approbations se font en quelques secondes, à chaque fois.
02Personne n’a rien refusé depuis des mois.
03La personne chargée de l’examen ne voit pas le destinataire, le montant ou le texte réel.
04En son absence, l’action se poursuit quand même.

Le modèle

Chaque champ comprend des instructions et un exemple provenant d’une équipe fictive.

Exemple fictif : les remboursements de l’équipe d’accompagnement client de Lumen, un éditeur de logiciels fictif.

01Tâche: Décrivez la tâche en quelques mots, comme l’équipe la nommerait.

Exemple fictif

Remboursements pour réclamations de facturation.
02Niveau: Choisissez : l’IA rédige, l’IA propose, l’IA agit dans les limites fixées ou vous agissez.

Exemple fictif

L’IA propose.
03Raison de ce niveau: Répondez aux trois questions : peut-on annuler, qui d’autre est concerné et quel serait le coût d’une erreur ?

Exemple fictif

Un remboursement déjà versé est difficile à annuler. Il touche à la fois le client et le chiffre d’affaires. Une erreur peut entraîner une perte financière et entamer la confiance du client.
04Approbateur: Nommez la fonction qui approuve et un remplaçant.

Exemple fictif

Le responsable d’équipe de permanence. Remplaçant : le responsable des opérations d’assistance.
05Éléments visibles avant approbation: Listez les éléments nécessaires pour décider : action exacte, montant, destinataire et éléments probants.

Exemple fictif

Le client, le montant, la clause de la politique citée par l’agent et le brouillon de réponse.
06Limites imposées par le système: Listez les limites imposées par les autorisations ou paramètres de l’outil.

Exemple fictif

L’agent peut créer des demandes de remboursement, mais pas les exécuter. Au-delà de 200 €, un second approbateur est nécessaire.
07Si personne ne répond: Précisez ce qui se passe sans réponse de l’approbateur. Le silence ne vaut jamais approbation.

Exemple fictif

Les demandes attendent. Après quatre heures, le remplaçant est prévenu.
08Moyens d’arrêter et d’annuler: Précisez qui peut suspendre la tâche et comment en annuler les effets.

Exemple fictif

Tout responsable d’équipe peut suspendre l’agent. Les remboursements demandés par erreur sont annulés avant paiement.
09Date de révision: Quand vérifierez-vous que ce point de contrôle fonctionne toujours ?

Exemple fictif

Chaque mois, en même temps que le rapport sur les remboursements.

Sources

Ces sources étayent les faits présentés sur cette page. Pour chacune, nous précisons ce qu’elle établit et les questions qu’elle laisse ouvertes. Les recommandations sont les nôtres. Voir toutes nos sources.

Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Version 1.5 du 20 mai 2026 (première publication le 22 janvier 2026) · Cadre volontaire Les organisations et les personnes chargées de la supervision répondent des actions des agents. Le cadre préconise une approbation humaine aux étapes importantes, par exemple avant une suppression de données, un envoi de messages ou un paiement. Lorsque c’est possible, le système doit imposer cette approbation. Des examens très rapides ou de très rares interventions pour annuler une décision peuvent signaler des validations par habitude. Limites : Recommandations volontaires, pas une loi. Les études de cas ont été fournies par les entreprises elles-mêmes.
Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission · 8 avril 2019 · Lignes directrices d’experts Décrit trois formes de supervision humaine : l’humain dans la boucle (intervention dans chaque cycle de décision, souvent ni possible ni souhaitable), l’humain en supervision (participation à la conception et surveillance du fonctionnement) et le contrôle humain global (supervision de toute l’activité, y compris décider d’utiliser ou non le système, quand et comment). Limites : Non contraignantes et ne constituent pas une position officielle de la Commission.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (en ligne en juin 2011) · Revue évaluée par les pairs Définit le biais d’automatisation comme une confiance excessive dans l’automatisation, menant à des erreurs de commission (suivre un mauvais conseil) et d’omission (manquer les problèmes non signalés). Constate que la formation, la responsabilisation et la présentation des conseils peuvent le réduire. Limites : Porte sur l’aide à la décision clinique avant l’IA générative.