Teamverktyg · Mall

Karta över mänskliga kontrollpunkter

Här antecknar ni vem som granskar varje återkommande AI-uppgift, vad granskaren får se före sitt godkännande och hur uppgiften kan stoppas eller ångras.

Ladda ner

Tom mall (.md)Fiktivt exempel (.md)

Berörda principer

Översikt

Börja med de tre till fem uppgifter som teamet oftast utför med AI. Dokumentera för varje uppgift var arbetet pausar för granskning och vem som kan säga nej. Lägg till fler uppgifter efter behov.

Val av nivå

Ställ tre frågor för varje uppgift. Kan den göras ogjord? Vilka andra påverkas? Vad kostar det om det blir fel? Allt som är oåterkalleligt, externt eller rör en person börjar på nivå 2 (AI föreslår, en person godkänner) eller nivå 4 (du gör det). Princip 1 förklarar de fyra nivåerna.

Varningstecken

01Granskaren godkänner alltid inom några sekunder.
02Ingen har avvisat något på flera månader.
03Granskaren kan inte se den faktiska mottagaren, beloppet eller formuleringen.
04När granskaren är borta går åtgärden vidare ändå.

Mallen

Varje fält innehåller anvisningar och ett exempel från ett fiktivt team.

Fiktivt exempel: återbetalningsuppgiften hos kundteamet på Lumen, ett påhittat mjukvaruföretag.

01Uppgift: Beskriv uppgiften med några ord som teamet skulle använda.

Fiktivt exempel

Återbetalningar vid klagomål om fakturering.
02Nivå: Välj en: AI skriver utkast, AI föreslår, AI agerar inom gränser eller du gör det.

Fiktivt exempel

AI föreslår.
03Varför den här nivån: Besvara de tre frågorna: kan det göras ogjort, vilka andra påverkas och vad kostar det om det blir fel?

Fiktivt exempel

Återbetalningar är svåra att ångra när de är betalda, påverkar kunder och intäkter och fel kostar pengar och förtroende.
04Vem som godkänner: Ange rollen som godkänner och en ersättare.

Fiktivt exempel

Tjänstgörande teamledare. Ersättare: ansvarig för supportverksamheten.
05Vad granskaren ser före godkännande: Lista vad granskaren behöver för beslutet: exakt åtgärd, belopp, mottagare och underlag.

Fiktivt exempel

Kunden, beloppet, policyvillkoret som agenten hänvisade till och svarsutkastet.
06Gränser som systemet upprätthåller: Lista gränserna som verktygets behörigheter eller inställningar upprätthåller.

Fiktivt exempel

Agenten kan skapa återbetalningsförfrågningar men inte genomföra dem. Förfrågningar över 200 euro kräver en andra godkännare.
07Om ingen svarar: Beskriv vad som händer när godkännaren inte svarar. Tystnad räknas aldrig som godkännande.

Fiktivt exempel

Förfrågningar väntar. Efter fyra timmar meddelas ersättaren.
08Så stoppar ni och gör ogjort: Ange vem som kan pausa uppgiften och hur effekterna kan återställas.

Fiktivt exempel

Varje teamledare kan pausa agenten. Felaktiga återbetalningsförfrågningar avbryts före betalning.
09Granskningsdatum: När kontrollerar ni att kontrollpunkten fortfarande fungerar?

Fiktivt exempel

Varje månad, i samband med återbetalningsrapporten.

Källor

Här ser du vilka sakuppgifter varje källa stöder och vilka slutsatser du kan dra av den. Rekommendationerna är våra. Se alla källor vi använder.

Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Version 1.5, 20 maj 2026 (först publicerad 22 januari 2026) · Frivilligt ramverk Håller organisationer och personer som övervakar agenter ansvariga för agenternas åtgärder. Efterlyser mänskligt godkännande vid viktiga kontrollpunkter, som radering av data, utskick av meddelanden och betalningar. Där det går bör systemet upprätthålla godkännandet. Mycket snabba granskningar eller mycket få ingripanden kan vara tecken på att granskarna godkänner av vana. Begränsningar: Frivillig vägledning, inte lag. Fallstudierna tillhandahölls av företagen själva.
Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission · 8 april 2019 · Expertriktlinjer Beskriver tre former av mänsklig tillsyn: människa i beslutsloopen (ingripande i varje beslutscykel, ofta varken möjligt eller önskvärt), människa som övervakar loopen (medverkan i utformning och övervakning av drift) och människa med övergripande kontroll (tillsyn över hela verksamheten, inklusive om, när och hur systemet ska användas). Begränsningar: Inte bindande och inte kommissionens officiella ståndpunkt.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (på nätet juni 2011) · Sakkunniggranskad översikt Definierar automationsbias som tendensen att förlita sig för mycket på automation, vilket leder till felaktiga handlingar (att följa felaktiga råd) och underlåtenhet (att missa problem som inte uppmärksammats), och finner att utbildning, ansvar och rådets presentation kan minska den. Begränsningar: Granskar kliniskt beslutsstöd från tiden före generativ AI.