Supervisió humana de la IA

Context

Quan un assistent redacta un correu, tu decideixes què envies. Si el pot enviar tot sol, programar reunions, modificar registres o passar feina a un altre agent, pregunta’t quines accions necessiten la teva aprovació.

Un cop has fixat aquests límits, un agent pot resoldre dues-centes peticions rutinàries mentre tu t’ocupes de les tres que requereixen la teva intervenció.

Quatre nivells de supervisió humana

Nivell	Què fa la IA	Què fas tu	És adequat per a
1. La IA redacta	Produeix material	Decideixes què utilitzes, canvies o descartes	Redacció, anàlisi, recerca, idees
2. La IA proposa	Prepara una acció concreta	Aproves aquella acció exacta abans que es faci	Correus a clients, pagaments, modificacions de registres
3. La IA actua dins d’uns límits	Actua sola dins dels límits establerts als permisos	Supervises, gestiones excepcions i l’atures quan cal	Feina rutinària fàcil de desfer, com ara ordenar, etiquetar o reservar sales internes
4. Ho fas tu	Res pel seu compte	Decideixes tu	Decisions sobre persones i accions costoses que no es poden revertir

Per triar un nivell, fes-te tres preguntes. Es pot desfer? A qui més afecta? Quin cost té equivocar-se? Qualsevol acció irreversible, externa o relacionada amb una persona comença al nivell 2 o 4.

Aquests nivells parteixen de tres formes de supervisió humana que el Grup d’Experts d’Alt Nivell sobre IA de la UE va descriure el 2019: supervisió en cada decisió, supervisió del funcionament i control global. El nivell 2 és la forma quotidiana de la primera i el nivell 3, de la segona. Quan tries el nivell de cada tasca, exerceixes el control global. El glossari conté les definicions completes.

Punts de revisió eficaços

En un punt de revisió eficaç veus què passarà realment: el destinatari, l’import, el text, el registre. Tens el temps i els coneixements per valorar-ho. Si dius que no, l’acció s’atura, i el silenci mai compta com un sí. Si l’acció canvia després que l’hagis aprovat, torna a passar per tu. Una segona IA també pot revisar la feina, però el seu vistiplau no substitueix la teva aprovació.

Si cliques «aprova» a totes les propostes, pots passar per alt un error encara que tinguis temps de detectar-lo. Els investigadors en diuen biaix d’automatització, i el Reglament d’IA de la UE demana una supervisió humana que protegeixi d’aquest biaix. El marc de Singapur per a la IA amb agents hi afegeix un senyal d’alerta pràctic: quan els revisors gairebé mai corregeixen el sistema o aproven molt de pressa, cal comprovar si algú revisa de debò les propostes.

Decisions sobre persones

Algunes decisions continuen en mans de les persones, sigui quina sigui la capacitat de l’eina: contractació, promoció, sou, avaluació del rendiment i acomiadaments, i qualsevol decisió que alteri l’accés d’algú als diners, a l’assistència sanitària o als serveis públics. La IA pot ajudar amb les gestions, com ara redactar una oferta de feina o programar entrevistes. La decisió és teva, es basa en criteris que pots explicar i segueix els procediments de recursos humans i de l’àrea jurídica de la teva organització.

A la UE, els sistemes d’IA utilitzats per filtrar candidatures o ajudar a decidir promocions o acomiadaments generalment es classifiquen com a sistemes d’alt risc. El RGPD també restringeix les decisions preses exclusivament per mitjans automatitzats quan tenen efectes jurídics o d’una importància semblant sobre una persona. El paper de la llei n’explica els detalls.

Pràctiques

01Indica el nivell abans de començar: la IA redacta, la IA proposa, la IA actua dins d’uns límits o ho fas tu.
02Llegeix la proposta abans d’aprovar-la. Si no la pots valorar, demana a algú que ho pugui fer que la revisi.
03Mantén una manera d’aturar la feina i desfer el que s’ha fet.
04Deixa les decisions sobre persones en mans de persones, amb criteris que puguis explicar.
05Quan canviïn la tasca, les dades o l’eina, torna a triar el nivell.

Exemples de prompts

Compara els dos prompts i comprova quin pas has de fer tu.

Clients

Reemborsaments a la cua d’atenció al client

Abans

Respon les reclamacions de la cua d’atenció al client i torna els diners a qui compleixi les condicions.

Després

Per a cada reclamació de la cua d’atenció al client, redacta una resposta i recomana una acció: reemborsament, substitució o derivació. Cita la clàusula de la política que has fet servir. Posa-ho tot en una llista perquè ho revisi.

La teva part

Aprova tu cada resposta i cada reemborsament. Comprova que els permisos de l’agent impedeixin fer cap reemborsament sense la teva aprovació. Un prompt sol no ho pot impedir.

Per què funciona: Pots revisar diversos esborranys de resposta alhora. Cada petició de reemborsament inclou la clàusula de la política que necessites per decidir si l’aproves.

Operacions i projectes

Canvi d’hora d’una reunió

Abans

Passa la revisió de projecte de demà a divendres i avisa tothom.

Després

Troba tres franges de divendres en què els sis assistents estiguin lliures. Redacta un missatge breu que expliqui el canvi. Encara no modifiquis el calendari ni enviïs res.

La teva part

Tria la franja, comprova el missatge i envia’l. Assegura’t que l’agent no pugui modificar calendaris sense la teva aprovació. Quan hagis vist unes quantes vegades que ho fa bé, potser podràs deixar que actuï sol en reunions internes. Això és el nivell 3.

Per què funciona: Començar al nivell 2 et mostra com es comporta l’agent abans de donar-li més llibertat.

Persones i contractació

Preparació d’entrevistes

Abans

Classifica aquests 40 currículums i digues-me a qui entrevistar.

Després

A partir de la descripció del lloc adjunta, redacta vuit preguntes d’entrevista que posin a prova les quatre competències imprescindibles i indica què inclouria una bona resposta.

La teva part

Filtra i tria tu les candidatures seguint el procediment de recursos humans. La IA t’ajuda a preparar-te, i la decisió sobre persones continua en mans de persones.

Per què funciona: Obtens preguntes d’entrevista vinculades als requisits del lloc. L’equip de selecció pot fer servir aquests requisits per explicar les decisions.

Evidència

El Reglament d’IA de la UE exigeix que els sistemes d’IA d’alt risc es dissenyin perquè les persones que els supervisen tinguin present el biaix d’automatització, la tendència a confiar excessivament en els resultats. [Reglament d’IA de la UE]
El marc de Singapur per a la IA amb agents manté la responsabilitat de les organitzacions i dels seus supervisors humans sobre el que fan els agents i demana aprovació humana en punts de revisió significatius, com ara eliminar dades, enviar missatges o fer pagaments. [IMDA]
El mateix marc considera que una taxa molt baixa de correccions o unes revisions molt ràpides poden indicar una aprovació mecànica, i prefereix les aprovacions imposades pel sistema a les que es demanen en un prompt. [IMDA]
Els principis d’IA de l’OCDE, adoptats pels governs el 2019 i revisats el 2024, demanen salvaguardes com ara la capacitat d’intervenció i supervisió humanes. [OCDE]
Una revisió sistemàtica va trobar que el biaix d’automatització porta les persones tant a seguir consells equivocats com a passar per alt problemes que el sistema no ha assenyalat. [Goddard et al., JAMIA]
Quan el govern del Regne Unit va fer servir IA per ordenar 87.738 respostes a una consulta, 125 persones van comprovar la feina de l’eina i els equips responsables de les polítiques van validar els temes. [i.AI]

Casos pràctics i situacions

Pràctica d’equip

Enumereu les tasques recurrents del vostre equip en una pàgina i assigneu a cadascuna un nivell de supervisió. Un nou company podrà consultar qui ha d’aprovar un reemborsament o un correu a un client.

Eina per a equipsMapa de punts de revisió humana

Fonts

Aquestes fonts sustenten els fets d’aquesta pàgina. Expliquem què acredita cadascuna i fins on arriba l’evidència. Les recomanacions són nostres. Consulta totes les fonts que fem servir.

Regulation (EU) 2024/1689 (Artificial Intelligence Act) European Union, Official Journal · 13 de juny de 2024 · Llei El text vinculant del Reglament d’IA de la UE, incloses les definicions d’alfabetització en IA i ultrafalsificació (article 3), les pràctiques prohibides com el reconeixement d’emocions a la feina (article 5), la supervisió humana que protegeix del biaix d’automatització (article 14) i les obligacions de transparència (article 50). Límits: S’aplica per fases i es va modificar el juliol de 2026 (vegeu el paquet òmnibus d’IA). Les obligacions aplicables depenen del paper de l’organització i del sistema. Els resums d’aquest web no són assessorament jurídic.
Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Versió 1.5, 20 de maig de 2026 (primera publicació el 22 de gener de 2026) · Marc voluntari Atribueix a les organitzacions i a les persones que supervisen els agents la responsabilitat del que fan. Demana aprovació humana en punts de revisió significatius, com ara eliminar dades, enviar missatges i fer pagaments. Sempre que sigui possible, el sistema hauria d’impedir l’acció fins que algú l’aprovi. Les revisions molt ràpides o les correccions molt escasses poden indicar que els revisors aproven per costum. Límits: Són orientacions voluntàries, no una llei. Els casos pràctics els van proporcionar les mateixes empreses.
Recommendation of the Council on Artificial Intelligence (OECD AI Principles) OECD · Adoptats el 22 de maig de 2019; revisats el 3 de maig de 2024 · Principis intergovernamentals Demana salvaguardes com ara la capacitat d’intervenció i supervisió humanes (principi 1.2), responsabilitat amb traçabilitat dels conjunts de dades, processos i decisions (1.5) i sistemes que permetin anul·lar les seves accions i que es puguin reparar o aturar amb seguretat (1.4). Límits: No són jurídicament vinculants.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (en línia el juny de 2011) · Revisió de la literatura avaluada per experts Defineix el biaix d’automatització com la tendència a confiar excessivament en l’automatització, cosa que porta a errors per acció (seguir consells equivocats) i per omissió (no detectar problemes no assenyalats). Troba que la formació, la responsabilitat i la manera de presentar els consells el poden reduir. Límits: Revisa sistemes de suport a la decisió clínica anteriors a la IA generativa.
Consult Evaluation: DWP’s Pathways to Work consultation UK Incubator for AI (i.AI) · Datada el 27 d’agost de 2025; publicada el 30 d’octubre de 2025 · Avaluació governamental Els equips responsables de les polítiques van editar i aprovar els temes de la IA. En comprovar com l’eina havia classificat 87.738 respostes, 125 revisors van deixar-ne el 73 % sense canvis. La puntuació F1 de concordança va ser de 0,816 entre l’eina i un revisor i de 0,710 entre dos revisors. La mediana del temps de comprovació va ser de 19 segons. Límits: És una sola consulta. Va mesurar el temps de comprovació, no el de tota l’anàlisi.

Cita aquesta pàgina

Founderz (2026). Principi 1: Supervisió humana de la IA. L’Estàndard RUAI, edició de 2026. Desenvolupat per Founderz en col·laboració amb Microsoft. https://responsibleai.founderz.com/ca/toolkit/principles/human-oversight

Sota la llicència CC BY 4.0: comparteix i adapta amb atribució.