Vérification de l’IA proportionnée aux enjeux

Contexte

L’IA écrit avec autant d’aisance quand elle se trompe. Elle peut inventer une référence, mal citer une source, omettre une condition ou transformer « prévu vendredi » en « garanti ». Le NIST appelle la partie inventée confabulation : un contenu faux affirmé avec assurance, parfois assorti de références inventées qui le rendent crédible. Les longs rapports rendent ces erreurs plus difficiles à repérer. Elles sont déjà parvenues à des clients et à des tribunaux.

Vous ne pouvez pas tout vérifier. Adaptez donc la profondeur du contrôle au coût d’une erreur.

Niveaux de vérification

Niveau	Pour	Ce que vous faites
Lecture rapide	Brouillons internes, idées, notes personnelles	Lisez l’ensemble. Répond-il à votre question ?
Vérification par sondage	Tout travail partagé avec des collègues	Vérifiez les noms, dates, chiffres et affirmations les plus importants.
Vérification complète	Tout travail publié, signé, envoyé à un client ou utilisé pour décider	Ouvrez chaque source, refaites les calculs, confirmez les citations et les dates, et sollicitez une seconde personne si les enjeux sont élevés.

Vérification des sources

Ouvrez la source citée et retrouvez le passage qui étaye l’affirmation. Vérifiez sa date et son applicabilité à votre pays et à votre marché. Une seconde IA peut partager les angles morts de la première : son accord ne remplace donc pas l’ouverture de la source.

Les outils spécialisés réduisent les erreurs sans les supprimer. Une étude de Stanford publiée en 2025 a constaté que les principaux outils d’IA de recherche juridique produisaient encore des hallucinations sur 17 % à 33 % des requêtes de test. En septembre 2026, une base publique avait recensé plus de 2 000 décisions de justice concernant du contenu inventé par l’IA, principalement de fausses références.

Vérification des demandes et des identités

Un visage, une voix ou un style d’écriture familier peut convaincre même lorsqu’il est imité avec l’IA. Début 2024, un salarié à Hong Kong a transféré environ 200 millions de dollars de Hong Kong après une visioconférence dont les autres participants, y compris le directeur financier, étaient faux. Lire l’étude de cas.

Considérez toute demande inhabituelle d’argent, d’identifiants ou de données confidentielles comme non vérifiée jusqu’à confirmation par un autre canal, en prenant vous-même contact : rappelez un numéro déjà connu ou rendez-vous au bureau de la personne. Le FBI et l’Institut national espagnol de cybersécurité le recommandent tous deux.

Pratiques

01Adaptez le niveau de vérification aux enjeux : lecture rapide, vérification par sondage ou vérification complète.
02Ouvrez la source et retrouvez le passage qui étaye l’affirmation.
03Refaites les calculs importants.
04Vérifiez la date et le lieu : l’information est-elle à jour et adaptée à votre pays et à votre marché ?
05Vérifiez les demandes inhabituelles d’argent, d’identifiants ou de données par un autre canal, en prenant vous-même contact.

Exemples de prompts

Comparez les deux prompts et repérez l’étape que vous devez accomplir vous-même.

Recherche

Rédaction avec des statistiques

Avant

Rédige un paragraphe sur la croissance du marché européen de l’IA, avec des statistiques.

Après

En utilisant uniquement les trois rapports joints, rédige un paragraphe sur le marché européen de l’IA. Après chaque chiffre, indique le rapport et la page. Liste les affirmations que tu n’as pas pu étayer.

Ce qui vous revient

Vérifiez chaque chiffre dans la page indiquée. Retirez les chiffres introuvables.

Pourquoi cela fonctionne : Le titre du rapport et le numéro de page à côté de chaque statistique permettent de la vérifier dans l’original.

Contrats et politiques

Résumé d’un règlement

Avant

Résume les nouvelles règles européennes sur les chatbots IA.

Après

Résume l’article 50 du règlement européen sur l’IA à partir du texte officiel joint, en français clair. Cite la phrase qui étaye chaque point et signale ce qui dépend de dates ou d’exceptions.

Ce qui vous revient

Vérifiez chaque phrase citée dans le texte officiel et consultez votre service juridique avant d’agir.

Pourquoi cela fonctionne : Les citations vous permettent de vérifier chaque point dans le texte. Les dates et les exceptions signalées vous indiquent les conditions à examiner.

Données et chiffres

Comparaison de devis

Avant

Quel est le coût total des trois devis ?

Après

Extrais le prix, la quantité et les frais supplémentaires de chacun des trois devis joints dans un tableau, avec la page de chaque chiffre. Calcule ensuite le total en montrant le calcul.

Ce qui vous revient

Vérifiez chaque chiffre sur sa page et refaites le total vous-même. Cherchez les frais cachés dans les conditions.

Pourquoi cela fonctionne : Les numéros de page vous permettent de retrouver chaque chiffre dans le devis correspondant. Refaites l’addition pour vérifier le total indépendamment.

Éléments à l’appui

Le NIST définit la confabulation comme un contenu faux affirmé avec assurance, parfois accompagné de raisonnements ou de références inventés qui le rendent crédible. [NIST AI 600-1]
Dans une étude de Stanford évaluée par les pairs, les principaux outils d’IA de recherche juridique ont produit des hallucinations sur 17 % à 33 % des 202 requêtes de test. [Magesh et al., Stanford]
Au 23 septembre 2026, une base publique recensait 2 077 décisions où une juridiction avait constaté, ou laissé entendre, qu’une partie s’était appuyée sur du contenu inventé par l’IA. [Base de données Charlotin]
La documentation de Microsoft précise que l’exactitude factuelle des réponses de l’IA générative n’est pas garantie à 100 % et que les utilisateurs doivent faire appel à leur jugement avant de les envoyer à d’autres. [Microsoft Learn]
Le FBI conseille de raccrocher et de rappeler un numéro recherché par vos propres moyens. L’INCIBE espagnol recommande de ne jamais autoriser de paiements par téléphone et d’exiger plusieurs approbateurs pour les montants importants. [FBI] [INCIBE]

Études de cas et scénarios

Pratique d’équipe

Convenez des résultats qui nécessitent une lecture rapide, une vérification par sondage ou une vérification complète, pour que chacun adapte ses contrôles.

Outil d’équipeNiveaux de vérification

Sources

Ces sources étayent les faits présentés sur cette page. Pour chacune, nous précisons ce qu’elle établit et les questions qu’elle laisse ouvertes. Les recommandations sont les nôtres. Voir toutes nos sources.

Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 juillet 2024 · Cadre volontaire Énumère douze risques de l’IA générative, dont la confabulation (contenu faux affirmé avec assurance, parfois assorti de références inventées) et la configuration humain-IA, qui couvre le biais d’automatisation et la dépendance excessive. Limites : Volontaire. Publié en application d’un décret présidentiel abrogé depuis ; le cadre plus large est en cours de révision.
Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools Journal of Empirical Legal Studies (Stanford RegLab and HAI researchers) · 23 avril 2025 · Recherche évaluée par les pairs Sur 202 questions juridiques, les principaux outils d’IA de recherche juridique ont produit des hallucinations sur 17 % à 33 % des requêtes et un modèle généraliste sur 43 %. Limites : Photographie d’outils testés en 2024. Les outils ont changé depuis.
AI Hallucination Cases database Damien Charlotin · Mise à jour continue (2 077 affaires au 23 septembre 2026) · Base de données de recherche Recense les décisions dans lesquelles une juridiction a constaté, ou laissé entendre, qu’une partie s’appuyait sur du contenu inventé par l’IA, surtout de fausses références : 2 077 au 23 septembre 2026, dont 1 428 aux États-Unis. Limites : Tenue par une seule personne. Exclut les affaires où le recours à ces contenus est seulement allégué.
Data, privacy, and security for Microsoft Copilot Microsoft · Mis à jour le 18 août 2026 · Documentation produit Indique que Copilot ne présente que les données de l’organisation que l’utilisateur est au moins autorisé à consulter ; que les prompts, réponses et données consultées via Microsoft Graph ne servent pas à entraîner les modèles de fondation ; et que l’exactitude des réponses générées n’est pas garantie à 100 %, les utilisateurs devant exercer leur jugement avant de les envoyer à d’autres. Limites : S’applique uniquement à ce produit et à ses conditions commerciales.
Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (I-120324-PSA) FBI Internet Crime Complaint Center · 3 décembre 2024 · Avis au public Avertit que des criminels utilisent des voix, images et vidéos générées par l’IA pour usurper des identités. Conseille de raccrocher et de rappeler un numéro recherché par vos propres moyens. Limites : Destiné aux consommateurs américains.
Suplantación del CEO utilizando la técnica de inteligencia artificial deepvoice INCIBE, Spain’s national cybersecurity institute · 9 janvier 2024 · Présentation officielle d’un cas (en espagnol) Décrit le cas d’une entreprise qui a payé un escroc après un appel téléphonique où l’IA imitait la voix de son dirigeant. Conseille de confirmer la demande par un canal qui permet d’identifier son interlocuteur, de ne jamais autoriser de paiement par téléphone et d’exiger l’accord de plusieurs personnes pour les montants importants. Limites : Cas anonymisé d’une ligne d’assistance.

Citer cette page

Founderz (2026). Principe 7 : Vérification proportionnée aux enjeux. Le Référentiel RUAI, édition 2026. Développé par Founderz en collaboration avec Microsoft. https://responsibleai.founderz.com/fr/toolkit/principles/proportionate-verification

Sous licence CC BY 4.0: partage et adaptation avec attribution.