Glossari

Sistema d’IA que fa accions per completar una tasca, com ara enviar missatges, actualitzar registres, fer compres o demanar ajuda a altres agents.

Dona a l’agent només l’accés que necessita per a la tasca. Un agent que ordena missatges pot necessitar llegir la bústia sense poder enviar correus.

Principis relacionats: 1. Supervisió humana de la IA · 4. Permisos limitats per als agents d’IA

Fonts: Model AI Governance Framework for Agentic AI; OWASP Top 10 for LLM Applications, 2026 edition

Competències, coneixements i comprensió que permeten fer un bon ús de la IA i conèixer-ne les oportunitats, els riscos i els possibles danys.

El Reglament d’IA de la UE defineix el terme i exigeix a les organitzacions que proporcionen o utilitzen sistemes d’IA que prenguin mesures per afavorir l’alfabetització en IA del personal.

Principis relacionats: 5. Criteri propi i competències

Fonts: Regulation (EU) 2024/1689 (Artificial Intelligence Act); Regulation (EU) 2026/1744 (AI Omnibus)

Tendència a donar massa pes a la primera resposta, xifra o idea que veus quan formes un judici. Fer una estimació pròpia abans de preguntar a la IA ajuda a reduir-la.

Principis relacionats: 5. Criteri propi i competències · 6. Qüestionament i consciència dels biaixos

Tractament de dades que impedeix que ningú pugui identificar les persones amb els mitjans que raonablement es podrien utilitzar. Eliminar-ne només els noms rarament és suficient.

Principis relacionats: 3. Confidencialitat de la informació compartida amb IA

Fonts: How do we ensure anonymisation is effective?

Eina d’IA que treballa amb tu en una finestra de xat o dins d’una aplicació i produeix esborranys, respostes i suggeriments perquè els facis servir. Quan també pot fer accions, es converteix en un agent.

Principis relacionats: 1. Supervisió humana de la IA

Terme d’OWASP per descriure el fet de donar a un sistema d’IA més funcions, permisos o llibertat d’acció dels que necessita per a la tasca. Un error o una instrucció maliciosa pot causar danys que van més enllà de la tasca original.

Principis relacionats: 4. Permisos limitats per als agents d’IA

Fonts: OWASP Top 10 for LLM Applications, 2026 edition

Tendència a confiar excessivament en un sistema automatitzat: acceptar-ne el resultat sense comprovar-lo, seguir consells equivocats o passar per alt problemes que no ha assenyalat.

Afecta tant persones expertes com principiants. El Reglament d’IA de la UE exigeix que els sistemes d’IA d’alt risc es dissenyin perquè les persones que els supervisen tinguin present aquest biaix.

Principis relacionats: 1. Supervisió humana de la IA · 6. Qüestionament i consciència dels biaixos

Fonts: Automation bias: a systematic review of frequency, effect mediators, and mitigators; Complacency and Bias in Human Use of Automation: An Attentional Integration; Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Tendència a buscar, afavorir i recordar informació que confirma allò que ja creus. Una pregunta tendenciosa a un assistent d’IA afavoreix una resposta que ho confirmi.

Principis relacionats: 6. Qüestionament i consciència dels biaixos

Fonts: Confirmation bias: A ubiquitous phenomenon in many guises

Tendència d’un assistent d’IA a dir a les persones el que sembla que volen sentir: donar-los la raó, afalagar-les o abandonar una resposta correcta quan la qüestionen.

Principis relacionats: 6. Qüestionament i consciència dels biaixos

Fonts: Towards Understanding Sycophancy in Language Models; Sycophancy in GPT-4o: what happened and what we’re doing about it

Quan un sistema d’IA produeix contingut fals o sense suport, però plausible i expressat amb seguretat, de vegades amb raonaments o citacions inventats que el fan semblar justificat.

El NIST fa servir la paraula confabulació. Molta gent en diu al·lucinació.

Principis relacionats: 7. Verificació proporcional al que hi ha en joc

Fonts: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)

Connexió que permet a un assistent d’IA llegir informació d’un altre sistema o actuar-hi, com ara el correu, el calendari, l’emmagatzematge de fitxers o el CRM. Un connector sol donar a l’assistent accés al que tu pots veure.

Principis relacionats: 2. Una font única de referència per a la IA · 3. Confidencialitat de la informació compartida amb IA

Fonts: Data, privacy, and security for Microsoft Copilot

Imatges, àudio, vídeo o text generats o modificats substancialment amb IA. Una imatge d’una illa imaginària n’és un exemple. Una gravació falsa que imita un company real donant instruccions també és una ultrafalsificació.

Principis relacionats: 9. Transparència sobre l’ús de la IA

Fonts: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Supervisió de l’activitat global d’un sistema d’IA, inclosa la decisió de si cal utilitzar-lo, quan i com.

Una de les tres formes de supervisió que el Grup d’Experts d’Alt Nivell sobre IA de la UE va descriure el 2019. Escollir el nivell de supervisió de cada tasca n’és l’aplicació quotidiana.

Principis relacionats: 1. Supervisió humana de la IA

Fonts: Ethics Guidelines for Trustworthy AI

Qualsevol informació sobre una persona identificada o identificable. La definició del RGPD és àmplia: un nom, un número d’identificació, dades d’ubicació o una combinació de detalls poden fer que algú sigui identificable.

Principis relacionats: 3. Confidencialitat de la informació compartida amb IA

Fonts: Regulation (EU) 2016/679 (General Data Protection Regulation)

Proporcionar a un sistema d’IA fonts concretes en què basar la resposta, com ara documents aprovats, i demanar-li que mostri quines ha utilitzat.

Principis relacionats: 2. Una font única de referència per a la IA · 7. Verificació proporcional al que hi ha en joc

L’únic lloc acordat, amb responsable i data, per a cada dada important, que utilitzen tant les persones com la IA. Pot abastar diversos sistemes, sempre que cada dada tingui un únic lloc oficial.

Les cinc regles de l’estàndard: un lloc per a cada dada, un responsable i una data per a cada lloc, la IA adreçada a aquest lloc, els esborranys es mantenen com a esborranys i les correccions es fan a l’origen. El principi 2 les explica.

Principis relacionats: 2. Una font única de referència per a la IA

Eines d’IA utilitzades per treballar sense l’aprovació de l’organització, sovint amb comptes personals.

Al Work Trend Index de Microsoft de 2024, el 78 % de les persones que feien servir IA a la feina van dir que hi portaven les seves pròpies eines.

Principis relacionats: 3. Confidencialitat de la informació compartida amb IA

Fonts: AI at Work Is Here. Now Comes the Hard Part (2024 Work Trend Index)

Error detectat abans que causés danys. Comunicar-lo dona a l’equip l’oportunitat de corregir el problema abans que perjudiqui algú.

Principis relacionats: 10. Responsabilitat pels resultats obtinguts amb IA

Text escrit per canviar el comportament d’un sistema d’IA de maneres que l’usuari no pretenia. Es pot introduir directament o amagar en un correu, una pàgina web o un document que la IA llegeix.

El National Cyber Security Centre del Regne Unit adverteix que potser mai es podrà resoldre del tot. La defensa consisteix, doncs, a limitar el que pot fer un sistema enganyat.

Principis relacionats: 4. Permisos limitats per als agents d’IA

Fonts: OWASP Top 10 for LLM Applications, 2026 edition; Prompt injection is not SQL injection (it may be worse)

L’estàndard adapta les comprovacions al cost d’un error. Fes una ullada als esborranys interns. Fes comprovacions per mostreig de la feina que comparteixes amb companys i una verificació completa de la que publiques, signes, envies a un client o utilitzes per prendre una decisió.

Principis relacionats: 7. Verificació proporcional al que hi ha en joc

Pèrdua d’habilitats que es produeix quan les persones deixen de practicar una feina que ara fa una màquina.

L’aviació fa temps que fomenta el pilotatge manual per mantenir les habilitats, i les primeres investigacions apunten a efectes semblants en medicina.

Principis relacionats: 5. Criteri propi i competències

Fonts: Safety Alert for Operators 13002: Manual Flight Operations; Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

Donar a cada persona, sistema o agent només l’accés i els permisos mínims que necessita per fer la seva feina.

Principis relacionats: 4. Permisos limitats per als agents d’IA

Fonts: Least privilege (glossary entry)

Substituir noms o altres identificadors per codis quan la informació necessària per tornar a identificar les persones encara existeix en algun lloc. Les dades pseudonimitzades continuen sent dades personals.

Principis relacionats: 3. Confidencialitat de la informació compartida amb IA

Fonts: Pseudonymisation; Regulation (EU) 2016/679 (General Data Protection Regulation)

Moment d’un procés de treball en què una persona ha d’aprovar una acció concreta abans que es faci. Un punt de revisió eficaç mostra l’acció real, dona a qui la revisa temps i autoritat per dir que no i mai considera el silenci una aprovació.

Principis relacionats: 1. Supervisió humana de la IA

Fonts: Model AI Governance Framework for Agentic AI

Persona responsable de mantenir actualitzada una font oficial, aprovar-ne els canvis i actuar davant dels errors comunicats.

Principis relacionats: 2. Una font única de referència per a la IA

Regla d’equip que classifica la informació en verd (pública), ambre (interna, només en eines aprovades) i vermell (personal, confidencial o regulada, només en eines i processos autoritzats per tractar-la). És un terme d’aquest estàndard.

Principis relacionats: 3. Confidencialitat de la informació compartida amb IA

Capacitat de les persones per entendre i supervisar un sistema d’IA, intervenir-hi, aturar-lo i decidir si cal utilitzar-lo. Les tres formes clàssiques són la supervisió en cada decisió, la supervisió del funcionament i el control global.

Principis relacionats: 1. Supervisió humana de la IA

Fonts: Ethics Guidelines for Trustworthy AI; Regulation (EU) 2024/1689 (Artificial Intelligence Act); Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Manera de treballar en què la IA actua dins d’uns límits establerts mentre una persona la supervisa i pot intervenir o aturar-la. En aquest estàndard, nivell 3: la IA actua dins d’uns límits.

Les directrius de 2019 del Grup d’Experts d’Alt Nivell sobre IA de la UE la vinculen a la participació humana en el disseny del sistema i la supervisió del seu funcionament.

Principis relacionats: 1. Supervisió humana de la IA

Fonts: Ethics Guidelines for Trustworthy AI

Manera de treballar en què una persona revisa i aprova el resultat o l’acció d’un sistema d’IA abans que tingui efecte. En aquest estàndard, nivell 2: la IA proposa, tu aproves.

El Grup d’Experts d’Alt Nivell sobre IA de la UE la va descriure el 2019 com la capacitat d’intervenció humana en cada cicle de decisió i va assenyalar que sovint això no és possible ni desitjable. Per això l’estàndard utilitza quatre nivells de supervisió.

Principis relacionats: 1. Supervisió humana de la IA

Fonts: Ethics Guidelines for Trustworthy AI; Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Terme de Simon Willison per descriure tres capacitats en un mateix agent: llegir dades privades, trobar contingut no fiable i enviar informació a una destinació externa. Algú podria amagar instruccions en aquest contingut per enganyar l’agent i fer-li compartir les dades privades.

Principis relacionats: 4. Permisos limitats per als agents d’IA

Fonts: The lethal trifecta for AI agents

Imatge, àudio o vídeo generat o alterat amb IA que representa una persona, un objecte, un lloc, una entitat o un fet reals de manera que algú el podria confondre amb un contingut autèntic.

Segons el Reglament d’IA de la UE, les organitzacions que fan servir IA per crear ultrafalsificacions generalment han d’indicar que el contingut s’ha generat o alterat. En una pel·lícula o sàtira, l’avís es pot incorporar de manera que respecti l’obra. El Reglament preveu una excepció per als usos autoritzats per llei per investigar o prevenir delictes, entre altres finalitats policials.

Principis relacionats: 7. Verificació proporcional al que hi ha en joc · 9. Transparència sobre l’ús de la IA

Fonts: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Feina generada amb IA que sembla acurada però no té prou substància per fer avançar una tasca, de manera que qui la rep l’ha de corregir o refer. És un terme d’investigadors del Social Media Lab de Stanford i de BetterUp.

Principis relacionats: 8. Qualitat de la feina feta amb IA

Fonts: AI-Generated “Workslop” Is Destroying Productivity