Glossaire

Système d’IA qui accomplit des actions pour réaliser une tâche : envoyer des messages, mettre à jour des dossiers, effectuer des achats ou demander de l’aide à d’autres agents.

Accordez à un agent uniquement les accès nécessaires à sa tâche. Un agent qui trie les messages peut avoir besoin de lire votre boîte de réception sans pouvoir envoyer d’e-mails.

Principes associés : 1. Supervision humaine de l’IA · 4. Autorisations limitées des agents IA

Sources : Model AI Governance Framework for Agentic AI; OWASP Top 10 for LLM Applications, 2026 edition

Tendance à accorder trop de poids à la première réponse, au premier chiffre ou à la première idée que vous voyez pour porter un jugement. Faire votre propre estimation avant de solliciter l’IA réduit ce biais.

Principes associés : 5. Jugement personnel et compétences · 6. Examen critique des idées et repérage des biais

Fait de fournir à un système d’IA des sources précises sur lesquelles fonder sa réponse, comme des documents approuvés, et de lui demander d’indiquer celles qu’il a utilisées.

Principes associés : 2. Une source unique de référence pour l’IA · 7. Vérification proportionnée aux enjeux

Traitement des données qui empêche toute personne d’identifier les individus, par des moyens raisonnablement susceptibles d’être utilisés. Supprimer les noms suffit rarement.

Principes associés : 3. Confidentialité des informations partagées avec l’IA

Sources : How do we ensure anonymisation is effective?

Outil d’IA qui travaille avec vous dans une fenêtre de discussion ou une application et produit des brouillons, des réponses et des suggestions. Lorsqu’il peut aussi effectuer des actions, il devient un agent.

Principes associés : 1. Supervision humaine de l’IA

Terme de l’OWASP désignant le fait d’accorder à un système d’IA plus de fonctions, d’autorisations ou de liberté d’action que sa tâche ne l’exige. Une erreur ou une instruction malveillante peut alors causer des dommages au-delà de la tâche initiale.

Principes associés : 4. Autorisations limitées des agents IA

Sources : OWASP Top 10 for LLM Applications, 2026 edition

Tendance à faire trop confiance à un système automatisé : accepter son résultat sans le vérifier, suivre un mauvais conseil ou manquer des problèmes qu’il n’a pas signalés.

Il touche les experts comme les débutants. Le règlement européen sur l’IA impose de concevoir les systèmes d’IA à haut risque de sorte que les personnes chargées de leur supervision restent conscientes de ce biais.

Principes associés : 1. Supervision humaine de l’IA · 6. Examen critique des idées et repérage des biais

Sources : Automation bias: a systematic review of frequency, effect mediators, and mitigators; Complacency and Bias in Human Use of Automation: An Attentional Integration; Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Tendance à rechercher, privilégier et retenir les informations qui confirment ce que vous pensez déjà. Si vous posez une question orientée à un assistant IA, il risque de vous répondre dans le sens attendu.

Principes associés : 6. Examen critique des idées et repérage des biais

Sources : Confirmation bias: A ubiquitous phenomenon in many guises

Tendance d’un assistant IA à dire ce que les personnes semblent vouloir entendre : acquiescer, flatter ou abandonner une réponse correcte lorsqu’elle est contestée.

Principes associés : 6. Examen critique des idées et repérage des biais

Sources : Towards Understanding Sycophancy in Language Models; Sycophancy in GPT-4o: what happened and what we’re doing about it

Un système d’IA présente avec assurance un contenu plausible, mais faux ou sans fondement. Il peut même inventer un raisonnement ou des références qui le rendent crédible.

Le NIST emploie le mot confabulation. Beaucoup parlent d’hallucination.

Principes associés : 7. Vérification proportionnée aux enjeux

Sources : Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)

Lien qui permet à un assistant IA de lire des informations ou d’agir dans un autre système : messagerie, agenda, stockage de fichiers ou CRM, par exemple. Un connecteur donne généralement à l’assistant accès à ce que vous pouvez voir.

Principes associés : 2. Une source unique de référence pour l’IA · 3. Confidentialité des informations partagées avec l’IA

Sources : Data, privacy, and security for Microsoft Copilot

Images, sons, vidéos ou textes générés ou sensiblement modifiés par l’IA. Une image d’une île imaginaire en est un exemple. Un faux enregistrement imitant un vrai collègue qui donne des instructions est aussi un hypertrucage.

Principes associés : 9. Transparence sur l’utilisation de l’IA

Sources : Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Supervision de l’ensemble de l’activité d’un système d’IA, y compris la décision de l’utiliser ou non, quand et comment.

L’une des trois formes de supervision décrites en 2019 par le groupe d’experts de haut niveau de l’UE sur l’IA. Choisir un niveau de supervision pour chaque tâche en est l’application quotidienne.

Principes associés : 1. Supervision humaine de l’IA

Sources : Ethics Guidelines for Trustworthy AI

Toute information concernant une personne identifiée ou identifiable. Le RGPD en donne une définition large : un nom, un numéro d’identification, des données de localisation ou une combinaison de détails peuvent permettre d’identifier quelqu’un.

Principes associés : 3. Confidentialité des informations partagées avec l’IA

Sources : Regulation (EU) 2016/679 (General Data Protection Regulation)

Règle d’équipe qui classe les informations en vert (publiques), orange (internes, uniquement dans les outils approuvés) et rouge (personnelles, confidentielles ou réglementées, uniquement dans les outils et processus autorisés à les traiter). Terme utilisé dans ce référentiel.

Principes associés : 3. Confidentialité des informations partagées avec l’IA

Mode de travail où une personne examine et approuve le résultat ou l’action d’un système d’IA avant sa prise d’effet. Dans ce référentiel, niveau 2 : l’IA propose, vous approuvez.

Le groupe d’experts de haut niveau de l’UE sur l’IA l’a décrit en 2019 comme la capacité d’intervention humaine dans chaque cycle de décision, en précisant que ce n’est souvent ni possible ni souhaitable. Le référentiel utilise donc quatre niveaux de supervision.

Principes associés : 1. Supervision humaine de l’IA

Sources : Ethics Guidelines for Trustworthy AI; Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Mode de travail où l’IA agit dans des limites définies, tandis qu’une personne la surveille et peut intervenir ou l’arrêter. Dans ce référentiel, niveau 3 : l’IA agit dans les limites fixées.

Les lignes directrices de 2019 du groupe d’experts de haut niveau de l’UE sur l’IA le relient à l’intervention humaine dans la conception du système et la surveillance de son fonctionnement.

Principes associés : 1. Supervision humaine de l’IA

Sources : Ethics Guidelines for Trustworthy AI

Image, extrait audio ou vidéo généré ou modifié par l’IA qui représente une personne, un objet, un lieu, une entité ou un événement réel d’une manière pouvant être prise pour authentique.

Selon le règlement européen sur l’IA, les organisations qui utilisent l’IA pour créer des hypertrucages doivent généralement signaler que le contenu a été généré ou modifié. Un film ou une satire peut intégrer cette mention d’une façon qui préserve l’œuvre. Le règlement prévoit une exception pour les usages autorisés par la loi afin d’enquêter sur des infractions ou de les prévenir, entre autres finalités répressives.

Principes associés : 7. Vérification proportionnée aux enjeux · 9. Transparence sur l’utilisation de l’IA

Sources : Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Outils d’IA utilisés au travail sans l’approbation de l’organisation, souvent avec des comptes personnels.

Dans le Work Trend Index 2024 de Microsoft, 78 % des personnes utilisant l’IA au travail déclaraient utiliser leurs propres outils.

Principes associés : 3. Confidentialité des informations partagées avec l’IA

Sources : AI at Work Is Here. Now Comes the Hard Part (2024 Work Trend Index)

Erreur repérée avant qu’elle ne cause un préjudice. En la signalant, vous donnez à l’équipe la possibilité de corriger le problème à temps.

Principes associés : 10. Responsabilité des résultats obtenus avec l’IA

Texte destiné à modifier le comportement d’un système d’IA d’une manière non souhaitée par son utilisateur. Il peut être saisi directement ou dissimulé dans un e-mail, une page web ou un document lu par l’IA.

Le National Cyber Security Centre britannique avertit que ce problème pourrait ne jamais être entièrement résolu. La protection consiste donc à limiter ce qu’un système trompé peut faire.

Principes associés : 4. Autorisations limitées des agents IA

Sources : OWASP Top 10 for LLM Applications, 2026 edition; Prompt injection is not SQL injection (it may be worse)

Compétences, connaissances et compréhension qui permettent de bien utiliser l’IA et d’en connaître les possibilités, les risques et les préjudices potentiels.

Le règlement européen sur l’IA définit ce terme. Il impose aux organisations qui fournissent ou utilisent des systèmes d’IA de prendre des mesures pour développer la maîtrise de l’IA au sein de leur personnel.

Principes associés : 5. Jugement personnel et compétences

Sources : Regulation (EU) 2024/1689 (Artificial Intelligence Act); Regulation (EU) 2026/1744 (AI Omnibus)

Fait de donner à chaque personne, système ou agent uniquement les accès et autorisations minimaux nécessaires à son travail.

Principes associés : 4. Autorisations limitées des agents IA

Sources : Least privilege (glossary entry)

Le référentiel adapte les contrôles au coût d’une erreur. Parcourez les brouillons internes. Vérifiez par sondage les travaux partagés avec des collègues et intégralement ceux que vous publiez, signez, envoyez à un client ou utilisez pour prendre une décision.

Principes associés : 7. Vérification proportionnée aux enjeux

Perte de savoir-faire qui peut survenir lorsqu’une machine prend en charge une tâche et que les personnes cessent de s’y exercer.

L’aviation encourage depuis longtemps le pilotage manuel pour entretenir les compétences. De premières recherches suggèrent des effets comparables en médecine.

Principes associés : 5. Jugement personnel et compétences

Sources : Safety Alert for Operators 13002: Manual Flight Operations; Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

Étape d’un processus où une personne doit approuver une action précise avant son exécution. Un point de contrôle efficace présente l’action réelle, donne le temps et le pouvoir de la refuser et ne considère jamais le silence comme une approbation.

Principes associés : 1. Supervision humaine de l’IA

Sources : Model AI Governance Framework for Agentic AI

Remplacement des noms ou d’autres identifiants par des codes, alors que les informations permettant de réidentifier les personnes existent toujours quelque part. Les données pseudonymisées restent des données à caractère personnel.

Principes associés : 3. Confidentialité des informations partagées avec l’IA

Sources : Pseudonymisation; Regulation (EU) 2016/679 (General Data Protection Regulation)

Personne chargée de tenir une source officielle à jour, d’approuver les modifications et de traiter les erreurs signalées.

Principes associés : 2. Une source unique de référence pour l’IA

Pour chaque information importante, une équipe convient d’un emplacement officiel, désigne un responsable et indique une date. Les personnes comme l’IA s’y réfèrent. Plusieurs systèmes peuvent servir de référence, à condition que chaque information ait un seul emplacement officiel.

Les cinq règles du référentiel : un emplacement par fait, un responsable et une date pour chaque emplacement, une IA dirigée vers cet emplacement, des brouillons qui restent des brouillons et des corrections faites à la source. Le principe 2 les explique.

Principes associés : 2. Une source unique de référence pour l’IA

Capacité à comprendre le fonctionnement d’un système d’IA, à le surveiller, à intervenir, à l’arrêter et à décider de l’utiliser ou non. L’humain dans la boucle, l’humain en supervision et le contrôle humain global en sont les trois formes classiques.

Principes associés : 1. Supervision humaine de l’IA

Sources : Ethics Guidelines for Trustworthy AI; Regulation (EU) 2024/1689 (Artificial Intelligence Act); Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Expression de Simon Willison désignant trois capacités réunies dans un même agent : lire des données privées, rencontrer du contenu non fiable et envoyer des informations vers une destination extérieure. Quelqu’un pourrait dissimuler des instructions dans ce contenu pour amener l’agent à partager les données privées.

Principes associés : 4. Autorisations limitées des agents IA

Sources : The lethal trifecta for AI agents

Travail généré par l’IA qui semble soigné, mais manque de substance pour faire avancer une tâche, obligeant son destinataire à le corriger ou à le refaire. Terme proposé par des chercheurs du Social Media Lab de Stanford et de BetterUp.

Principes associés : 8. Qualité du travail réalisé avec l’IA

Sources : AI-Generated “Workslop” Is Destroying Productivity