Mänsklig tillsyn av AI

Sammanhang

När en assistent skriver ett mejlutkast avgör du vad som ska skickas. Om den själv kan skicka mejlet, boka möten, ändra poster eller lämna arbete till en annan agent, fråga vilka åtgärder som kräver ditt godkännande.

När du har satt gränserna kan en agent hantera tvåhundra rutinärenden medan du tar hand om de tre som kräver din bedömning.

Fyra nivåer av mänsklig tillsyn

Nivå	Vad AI gör	Vad du gör	Passar för
1. AI skriver utkast	Tar fram material	Avgör vad du ska använda, ändra eller slänga	Text, analys, research, idéer
2. AI föreslår	Förbereder en specifik åtgärd	Godkänner exakt den åtgärden innan den genomförs	Kundmejl, betalningar, ändringar av poster
3. AI agerar inom gränser	Agerar själv inom gränser som fastställts i behörigheterna	Övervakar, hanterar undantag och stoppar vid behov	Rutinarbete som är lätt att ångra, som sortering, taggning eller bokning av interna rum
4. Du gör det	Inget på egen hand	Fattar beslutet själv	Beslut om människor och kostsamma åtgärder som inte kan göras ogjorda

Ställ tre frågor för att välja nivå. Kan det göras ogjort? Vilka andra påverkas? Vad kostar det om det blir fel? Allt som är oåterkalleligt, externt eller rör en person börjar på nivå 2 eller 4.

Nivåerna bygger på tre former av mänsklig tillsyn som EU:s högnivåexpertgrupp för AI beskrev 2019: en människa deltar i varje beslut, övervakar beslutsprocessen eller har övergripande kontroll. På nivå 2 godkänner du enskilda åtgärder. På nivå 3 övervakar du arbetet och kan ingripa. När du väljer nivå för varje uppgift har du övergripande kontroll. Ordlistan har de fullständiga definitionerna.

Fungerande kontrollpunkter

Vid en fungerande kontrollpunkt ser du vad som faktiskt kommer att hända: mottagaren, beloppet, formuleringen, posten. Du har tid och kunskap att bedöma det. Ett nej stoppar åtgärden och tystnad räknas aldrig som ett ja. Om åtgärden ändras efter ditt godkännande ska den tillbaka till dig. En andra AI kan också granska arbetet, men dess medhåll räknas fortfarande inte som ditt godkännande.

Om du klickar på ”godkänn” för varje förslag kan du missa ett fel även när du har tid att upptäcka det. Forskare kallar detta automationsbias, och EU:s AI-förordning kräver mänsklig tillsyn som skyddar mot det. Singapores ramverk för agentbaserad AI ger ett praktiskt varningstecken: när granskare nästan aldrig går emot systemet eller godkänner mycket snabbt, kontrollera om någon verkligen granskar.

Beslut om människor

Vissa beslut ligger kvar hos människor oavsett vad verktyget kan göra: rekrytering, befordran, lön, prestationsbedömningar och uppsägningar samt allt som påverkar någons tillgång till pengar, vård eller offentliga tjänster. AI kan hjälpa till med administrationen, som att skriva ett utkast till en platsannons eller boka intervjuer. Beslutet är ditt, fattas utifrån kriterier som du kan förklara och följer organisationens HR-process och juridiska rutiner.

I EU klassas AI-system som används för urval av arbetssökande eller som stöd för beslut om befordran eller uppsägning i allmänhet som högrisk. GDPR begränsar också beslut som fattas enbart automatiserat när de har rättsliga eller liknande betydande effekter för en person. Lagens roll innehåller detaljerna.

Arbetssätt

01Ange nivån innan du börjar: AI skriver utkast, AI föreslår, AI agerar inom gränser eller du gör det.
02Läs innan du godkänner. Om du inte kan bedöma det, fråga någon som kan.
03Behåll ett sätt att stoppa arbetet och ångra det som gjorts.
04Låt människor fatta beslut som rör andra människor, utifrån kriterier som du kan förklara.
05Pröva nivån på nytt om arbetsuppgiften, underlaget eller verktyget förändras.

Promptexempel

Jämför de två promptarna och se vilket steg du behöver ta själv.

Kunder

Återbetalningar i supportkön

Före

Besvara klagomålen i supportkön och återbetala alla som har rätt till det.

Efter

Skriv ett utkast till svar på varje klagomål i supportkön och rekommendera en åtgärd: återbetalning, ersättningsvara eller eskalering. Hänvisa till villkoret du använde. Lägg allt i en granskningslista åt mig.

Din del

Godkänn varje svar och varje återbetalning själv. Kontrollera att agentens behörigheter gör att varje återbetalning väntar på dig, eftersom prompten ensam inte kan hålla tillbaka den.

Därför fungerar det: Du kan granska flera svarsutkast tillsammans. Varje begäran om återbetalning innehåller villkoret du behöver för att avgöra om du ska godkänna den.

Drift och projekt

Flytt av ett möte

Före

Flytta morgondagens projektgenomgång till fredag och meddela alla.

Efter

Hitta tre tider på fredag då alla sex deltagare är lediga. Skriv ett kort meddelande som förklarar flytten. Ändra inget i kalendern och skicka inget ännu.

Din del

Välj tid, kontrollera meddelandet och skicka det. Se till att agenten inte kan ändra kalendrar utan ditt godkännande. När du har sett den göra rätt några gånger kan du låta den agera själv för interna möten. Det är nivå 3.

Därför fungerar det: Att börja på nivå 2 visar hur agenten beter sig innan du ger den mer frihet.

Personal och rekrytering

Intervjuförberedelser

Före

Rangordna dessa 40 cv:n och säg vilka jag ska intervjua.

Efter

Utgå från den bifogade arbetsbeskrivningen. Skriv åtta intervjufrågor som prövar de fyra färdigheter som krävs och ange vad ett bra svar på varje fråga bör innehålla.

Din del

Gör urvalet och välj kandidater själv genom er HR-process. AI hjälper dig att förbereda, och beslut om människor ligger kvar hos människor.

Därför fungerar det: Du får intervjufrågor som är kopplade till jobbkraven. Rekryteringsteamet kan använda kraven för att förklara sina beslut.

Underlag

EU:s AI-förordning kräver att AI-system med hög risk utformas så att de som utövar tillsyn är medvetna om automationsbias, tendensen att förlita sig för mycket på resultatet. [EU:s AI-förordning]
Singapores ramverk för agentbaserad AI håller organisationer och deras mänskliga övervakare ansvariga för agenternas handlingar och kräver mänskligt godkännande vid viktiga kontrollpunkter, som radering av data, utskick av meddelanden och betalningar. [IMDA]
Samma ramverk behandlar mycket få ingripanden eller mycket snabba granskningar som möjliga tecken på slentrianmässiga godkännanden och föredrar godkännanden som systemet upprätthåller framför godkännanden som efterfrågas i en prompt. [IMDA]
OECD:s AI-principer, som antogs av regeringar 2019 och reviderades 2024, efterlyser skyddsåtgärder som möjligheter till mänskligt självbestämmande och tillsyn. [OECD]
En systematisk översikt visade att automationsbias får människor både att följa felaktiga råd och att missa problem som systemet inte uppmärksammade. [Goddard et al., JAMIA]
När den brittiska regeringen använde AI för att sortera 87 738 samrådssvar kontrollerade 125 personer verktygets arbete och sakansvariga team godkände temana. [i.AI]

Fallstudier och scenarier

Gemensamt arbetssätt

Lista teamets återkommande uppgifter på en sida och ge varje uppgift en tillsynsnivå. En ny kollega kan slå upp vem som behöver godkänna en återbetalning eller ett kundmejl.

TeamverktygKarta över mänskliga kontrollpunkter

Källor

Här ser du vilka sakuppgifter varje källa stöder och vilka slutsatser du kan dra av den. Rekommendationerna är våra. Se alla källor vi använder.

Regulation (EU) 2024/1689 (Artificial Intelligence Act) European Union, Official Journal · 13 juni 2024 · Lagstiftning Den bindande texten i EU:s AI-förordning, med definitionerna av AI-kunnighet och deepfake (artikel 3), förbjudna användningar som känsloigenkänning på arbetsplatser (artikel 5), mänsklig tillsyn som skyddar mot automationsbias (artikel 14) och transparensskyldigheter (artikel 50). Begränsningar: Börjar tillämpas stegvis och ändrades i juli 2026 (se AI Omnibus). Vilka skyldigheter som gäller beror på organisationens roll och systemet. Sammanfattningarna på denna webbplats är inte juridisk rådgivning.
Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Version 1.5, 20 maj 2026 (först publicerad 22 januari 2026) · Frivilligt ramverk Håller organisationer och personer som övervakar agenter ansvariga för agenternas åtgärder. Efterlyser mänskligt godkännande vid viktiga kontrollpunkter, som radering av data, utskick av meddelanden och betalningar. Där det går bör systemet upprätthålla godkännandet. Mycket snabba granskningar eller mycket få ingripanden kan vara tecken på att granskarna godkänner av vana. Begränsningar: Frivillig vägledning, inte lag. Fallstudierna tillhandahölls av företagen själva.
Recommendation of the Council on Artificial Intelligence (OECD AI Principles) OECD · Antagna 22 maj 2019; reviderade 3 maj 2024 · Mellanstatliga principer Efterlyser skyddsåtgärder som möjlighet till mänskligt självbestämmande och tillsyn (princip 1.2), ansvar med spårbara datamängder, processer och beslut (1.5) samt system som säkert kan åsidosättas, repareras eller stängas av (1.4). Begränsningar: Inte rättsligt bindande.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (på nätet juni 2011) · Sakkunniggranskad översikt Definierar automationsbias som tendensen att förlita sig för mycket på automation, vilket leder till felaktiga handlingar (att följa felaktiga råd) och underlåtenhet (att missa problem som inte uppmärksammats), och finner att utbildning, ansvar och rådets presentation kan minska den. Begränsningar: Granskar kliniskt beslutsstöd från tiden före generativ AI.
Consult Evaluation: DWP’s Pathways to Work consultation UK Incubator for AI (i.AI) · Daterad 27 augusti 2025; publicerad 30 oktober 2025 · Myndighetsutvärdering Sakansvariga team redigerade och godkände AI:s teman. När 125 granskare kontrollerade verktygets klassificering av 87 738 svar lämnade de 73 % oförändrade. F1-måttet för samstämmighet var 0,816 mellan verktyget och en granskare och 0,710 mellan två granskare. Medianen för kontrollen var 19 sekunder. Begränsningar: Ett samråd. Tidsmätningen gällde endast kontrollen.

Hänvisa till den här sidan

Founderz (2026). Princip 1: Mänsklig tillsyn av AI. RUAI-standarden, 2026 års utgåva. Utvecklad av Founderz i samarbete med Microsoft. https://responsibleai.founderz.com/sv/toolkit/principles/human-oversight

Licensierad under CC BY 4.0: du får dela och bearbeta texten om du anger upphovspersonen.