Eina per a equips · Plantilla

Mapa de punts de revisió humana

Un registre de qui revisa cada tasca recurrent amb IA, què veu abans d’aprovar-la i com es pot aturar o desfer.

Descarrega

Plantilla en blanc (.md)Exemple fictici (.md)

Principis implicats

Visió general

Per començar, tria entre tres i cinc de les tasques que el teu equip fa més sovint amb IA. Per a cadascuna, registra en quin moment la feina s’atura per revisar-la i qui pot dir que no. Afegeix-hi altres tasques a mesura que les necessitis.

Elecció del nivell

Fes-te tres preguntes per a cada tasca. Es pot desfer? A qui més afecta? Quin cost té si surt malament? Qualsevol acció irreversible, externa o sobre una persona comença al nivell 2 (la IA proposa i una persona aprova) o al nivell 4 (ho fas tu). El principi 1 explica els quatre nivells.

Senyals d’alerta

01Les aprovacions es fan en qüestió de segons, cada vegada.
02Fa mesos que ningú no rebutja res.
03Qui revisa no pot veure el destinatari, l’import o el text reals.
04Quan qui revisa és fora, l’acció es duu a terme igualment.

La plantilla

Cada camp inclou instruccions i un exemple d’un equip fictici.

Exemple fictici: la tasca de reemborsaments de l’equip d’èxit del client de Lumen, una empresa de programari inventada.

01Tasca: Descriu la tasca en poques paraules, tal com en parlaria l’equip.

Exemple fictici

Reemborsaments per reclamacions de facturació.
02Nivell: Tria una opció: la IA redacta esborranys, la IA proposa, la IA actua dins d’uns límits o ho fas tu.

Exemple fictici

La IA proposa.
03Motiu d’aquest nivell: Respon les tres preguntes: si es pot desfer, a qui més afecta i quin cost té si surt malament.

Exemple fictici

Els reemborsaments són difícils de revertir un cop pagats, afecten els clients i els ingressos, i els errors costen diners i confiança.
04Qui aprova: Indica el càrrec que aprova i qui el substitueix.

Exemple fictici

El responsable de l’equip de torn. Substitut: el responsable d’operacions de suport.
05Què veu abans d’aprovar: Enumera què necessita qui revisa per decidir: l’acció exacta, l’import, el destinatari i les proves.

Exemple fictici

El client, l’import, la clàusula de la política que l’agent ha citat i l’esborrany de resposta.
06Límits aplicats pel sistema: Enumera els límits que apliquen els permisos o la configuració de l’eina.

Exemple fictici

L’agent pot crear sol·licituds de reemborsament, però no pot fer efectius els reemborsaments. Les sol·licituds de més de 200 € requereixen una segona persona que les aprovi.
07Si ningú no respon: Indica què passa quan la persona que ha d’aprovar no respon. El silenci mai no equival a una aprovació.

Exemple fictici

Les sol·licituds queden en espera. Al cap de quatre hores, s’avisa el substitut.
08Com aturar i desfer: Indica qui pot posar la tasca en pausa i com revertir-ne els efectes.

Exemple fictici

Qualsevol responsable d’equip pot posar l’agent en pausa. Els reemborsaments sol·licitats per error es cancel·len abans del pagament.
09Data de revisió: Quan comprovaràs que aquest punt de revisió continua funcionant?

Exemple fictici

Mensualment, juntament amb l’informe de reemborsaments.

Fonts

Aquestes fonts sustenten els fets d’aquesta pàgina. Expliquem què acredita cadascuna i fins on arriba l’evidència. Les recomanacions són nostres. Consulta totes les fonts que fem servir.

Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Versió 1.5, 20 de maig de 2026 (primera publicació el 22 de gener de 2026) · Marc voluntari Atribueix a les organitzacions i a les persones que supervisen els agents la responsabilitat del que fan. Demana aprovació humana en punts de revisió significatius, com ara eliminar dades, enviar missatges i fer pagaments. Sempre que sigui possible, el sistema hauria d’impedir l’acció fins que algú l’aprovi. Les revisions molt ràpides o les correccions molt escasses poden indicar que els revisors aproven per costum. Límits: Són orientacions voluntàries, no una llei. Els casos pràctics els van proporcionar les mateixes empreses.
Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission · 8 d’abril de 2019 · Directrius d’experts Descriu tres formes de supervisió humana: supervisió en cada decisió (intervenció en cada cicle de decisió, sovint ni possible ni desitjable), supervisió del funcionament (participació en el disseny i la supervisió de l’operació) i control humà global (supervisió de tota l’activitat, inclosa la decisió de si cal utilitzar el sistema, quan i com). Límits: No són vinculants ni constitueixen una posició oficial de la Comissió.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (en línia el juny de 2011) · Revisió de la literatura avaluada per experts Defineix el biaix d’automatització com la tendència a confiar excessivament en l’automatització, cosa que porta a errors per acció (seguir consells equivocats) i per omissió (no detectar problemes no assenyalats). Troba que la formació, la responsabilitat i la manera de presentar els consells el poden reduir. Límits: Revisa sistemes de suport a la decisió clínica anteriors a la IA generativa.