Ordlista

Ett AI-system som utför åtgärder för att slutföra en uppgift, till exempel skickar meddelanden, uppdaterar poster, gör inköp eller ber andra agenter om hjälp.

Ge en agent bara den åtkomst uppgiften kräver. En agent som sorterar meddelanden kan behöva läsa din inkorg utan att kunna skicka mejl.

Relaterade principer: 1. Mänsklig tillsyn av AI · 4. Begränsade behörigheter för AI-agenter

Källor: Model AI Governance Framework for Agentic AI; OWASP Top 10 for LLM Applications, 2026 edition

Ett AI-verktyg som arbetar med dig i ett chattfönster eller en applikation och tar fram utkast, svar och förslag som du kan använda. När det också kan utföra åtgärder blir det en agent.

Relaterade principer: 1. Mänsklig tillsyn av AI

De färdigheter, kunskaper och den förståelse som gör att människor kan använda AI väl och vara medvetna om dess möjligheter, risker och möjliga skadeverkningar.

EU:s AI-förordning definierar begreppet och kräver att organisationer som tillhandahåller eller använder AI-system vidtar åtgärder för att stödja personalens AI-kunnighet.

Relaterade principer: 5. Eget omdöme och egna färdigheter

Källor: Regulation (EU) 2024/1689 (Artificial Intelligence Act); Regulation (EU) 2026/1744 (AI Omnibus)

Behandling av uppgifter så att ingen längre kan identifiera personerna med hjälp av medel som rimligen kan komma att användas. Att bara ta bort namn räcker sällan.

Relaterade principer: 3. Konfidentialitet för information som delas med AI

Källor: How do we ensure anonymisation is effective?

En koppling som låter en AI-assistent läsa från eller agera i ett annat system, till exempel din mejl, kalender, fillagring eller ditt CRM. En anslutning ger vanligen assistenten tillgång till det du kan se.

Relaterade principer: 2. En gemensam referenskälla för AI · 3. Konfidentialitet för information som delas med AI

Källor: Data, privacy, and security for Microsoft Copilot

Tendensen att förlita sig för mycket på ett automatiserat system: att godta dess resultat utan kontroll, följa felaktiga råd eller missa problem som systemet inte uppmärksammade.

Det påverkar både experter och nybörjare. EU:s AI-förordning kräver att AI-system med hög risk utformas så att de som utövar tillsyn är medvetna om tendensen.

Relaterade principer: 1. Mänsklig tillsyn av AI · 6. Ifrågasättande och medvetenhet om bias

Källor: Automation bias: a systematic review of frequency, effect mediators, and mitigators; Complacency and Bias in Human Use of Automation: An Attentional Integration; Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Tendensen att söka, föredra och minnas information som bekräftar det du redan tror. En ledande fråga till en AI-assistent uppmuntrar ett svar som bekräftar uppfattningen.

Relaterade principer: 6. Ifrågasättande och medvetenhet om bias

Källor: Confirmation bias: A ubiquitous phenomenon in many guises

En AI-genererad eller ändrad bild, ljudinspelning eller video som visar en verklig person, ett föremål, en plats, en enhet eller en händelse på ett sätt som kan misstas för autentiskt.

Enligt EU:s AI-förordning ska organisationer som använder AI för att skapa deepfakes i regel upplysa om att innehållet har genererats eller ändrats. I en film eller satir kan upplysningen ges på ett sätt som bevarar verket. Förordningen gör undantag för användning som är tillåten enligt lag för att utreda eller förebygga brott och andra brottsbekämpande ändamål.

Relaterade principer: 7. Kontroll i proportion till konsekvenserna · 9. Öppenhet om användning av AI

Källor: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Simon Willisons begrepp för tre förmågor hos samma agent. Den kan läsa privata uppgifter, möta innehåll som inte är betrott och skicka information till en extern mottagare. Någon kan dölja instruktioner i det obetrodda innehållet och lura agenten att dela de privata uppgifterna.

Relaterade principer: 4. Begränsade behörigheter för AI-agenter

Källor: The lethal trifecta for AI agents

OWASP:s begrepp för att ge ett AI-system fler funktioner, större behörigheter eller mer handlingsfrihet än uppgiften kräver. Ett fel eller en skadlig instruktion kan då orsaka skada utanför den ursprungliga uppgiften.

Relaterade principer: 4. Begränsade behörigheter för AI-agenter

Källor: OWASP Top 10 for LLM Applications, 2026 edition

Tendensen att fästa för stor vikt vid det första svaret, talet eller förslaget du ser när du gör en bedömning. Att göra en egen uppskattning innan du frågar AI minskar effekten.

Relaterade principer: 5. Eget omdöme och egna färdigheter · 6. Ifrågasättande och medvetenhet om bias

Den källa som både människor och AI använder för en viss sakuppgift. Varje viktig uppgift har en överenskommen plats, en ansvarig och ett datum. Olika uppgifter kan finnas i olika system.

Standardens fem regler: en källa per sakuppgift, en ansvarig och ett datum för varje källa, AI hänvisas till källan, utkast förblir utkast och rättelser görs vid källan. Princip 2 förklarar dem.

Relaterade principer: 2. En gemensam referenskälla för AI

En AI-assistents tendens att säga det människor verkar vilja höra: hålla med, smickra eller överge ett korrekt svar när det ifrågasätts.

Relaterade principer: 6. Ifrågasättande och medvetenhet om bias

Källor: Towards Understanding Sycophancy in Language Models; Sycophancy in GPT-4o: what happened and what we’re doing about it

Förlust av färdigheter som uppstår när människor slutar öva på arbete som en maskin nu gör åt dem.

Inom flyget har man länge uppmuntrat manuell flygning för att hålla färdigheterna vid liv, och tidig forskning tyder på liknande effekter inom medicinen.

Relaterade principer: 5. Eget omdöme och egna färdigheter

Källor: Safety Alert for Operators 13002: Manual Flight Operations; Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

När ett AI-system med stor säkerhet producerar trovärdigt innehåll som är felaktigt eller saknar stöd, ibland med påhittade resonemang eller hänvisningar som får det att verka välgrundat.

NIST använder ordet konfabulation. Många kallar det hallucination.

Relaterade principer: 7. Kontroll i proportion till konsekvenserna

Källor: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)

Standarden anpassar kontrollerna till kostnaden för ett misstag. Läs snabbt igenom interna utkast. Gör stickprov på arbete som du delar med kollegor och en fullständig kontroll av arbete som du publicerar, undertecknar, skickar till en kund eller använder som beslutsunderlag.

Relaterade principer: 7. Kontroll i proportion till konsekvenserna

En punkt i ett arbetsflöde där en person måste godkänna en viss åtgärd innan den genomförs. En fungerande kontrollpunkt visar den faktiska åtgärden, ger granskaren tid och befogenhet att säga nej och räknar aldrig tystnad som ett godkännande.

Relaterade principer: 1. Mänsklig tillsyn av AI

Källor: Model AI Governance Framework for Agentic AI

Den person som ansvarar för att hålla en officiell källa aktuell, godkänna ändringar och agera på rapporterade fel.

Relaterade principer: 2. En gemensam referenskälla för AI

Att ge ett AI-system specifika källor att grunda svaret på, till exempel godkända dokument, och be det visa vilka det använde.

Relaterade principer: 2. En gemensam referenskälla för AI · 7. Kontroll i proportion till konsekvenserna

Att ge varje person, system eller agent endast den åtkomst och de behörigheter som behövs för uppgiften.

Relaterade principer: 4. Begränsade behörigheter för AI-agenter

Källor: Least privilege (glossary entry)

Ett arbetssätt där en person granskar och godkänner ett AI-systems resultat eller åtgärd innan det får verkan. I denna standard är det nivå 2: AI föreslår, du godkänner.

EU:s högnivåexpertgrupp för AI beskrev det 2019 som möjligheten till mänskligt ingripande i varje beslutscykel och konstaterade att detta ofta varken är möjligt eller önskvärt. Därför använder standarden fyra tillsynsnivåer.

Relaterade principer: 1. Mänsklig tillsyn av AI

Källor: Ethics Guidelines for Trustworthy AI; Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Tillsyn över ett AI-systems samlade verksamhet, inklusive beslutet om, när och hur systemet alls ska användas.

En av tre tillsynsformer som EU:s högnivåexpertgrupp för AI beskrev 2019. I vardagen handlar det om att välja tillsynsnivå för varje uppgift.

Relaterade principer: 1. Mänsklig tillsyn av AI

Källor: Ethics Guidelines for Trustworthy AI

Ett arbetssätt där AI agerar inom fastställda gränser medan en person övervakar och kan ingripa eller stoppa systemet. I denna standard är det nivå 3: AI agerar inom gränser.

Riktlinjerna från EU:s högnivåexpertgrupp för AI från 2019 kopplar begreppet till människors medverkan i utformningen av systemet och övervakningen av dess drift.

Relaterade principer: 1. Mänsklig tillsyn av AI

Källor: Ethics Guidelines for Trustworthy AI

Människors möjlighet att förstå, övervaka och stoppa ett AI-system, ingripa när det behövs och avgöra om systemet alls ska användas. De tre klassiska formerna är att delta i besluten, övervaka beslutsprocessen och ha övergripande kontroll.

Relaterade principer: 1. Mänsklig tillsyn av AI

Källor: Ethics Guidelines for Trustworthy AI; Regulation (EU) 2024/1689 (Artificial Intelligence Act); Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

All information som rör en identifierad eller identifierbar person. Definitionen i GDPR är bred: ett namn, ett identifikationsnummer, lokaliseringsuppgifter eller en kombination av uppgifter kan göra någon identifierbar.

Relaterade principer: 3. Konfidentialitet för information som delas med AI

Källor: Regulation (EU) 2016/679 (General Data Protection Regulation)

Text som skrivits för att ändra ett AI-systems beteende på sätt som användaren inte avsett. Den kan skrivas in direkt eller döljas i ett mejl, en webbsida eller ett dokument som AI läser.

Storbritanniens National Cyber Security Centre varnar för att problemet kanske aldrig kan lösas helt. Försvaret är därför att begränsa vad ett lurat system kan göra.

Relaterade principer: 4. Begränsade behörigheter för AI-agenter

Källor: OWASP Top 10 for LLM Applications, 2026 edition; Prompt injection is not SQL injection (it may be worse)

Att ersätta namn eller andra identifierare med koder medan informationen som behövs för att återidentifiera personerna fortfarande finns någonstans. Pseudonymiserade uppgifter är fortfarande personuppgifter.

Relaterade principer: 3. Konfidentialitet för information som delas med AI

Källor: Pseudonymisation; Regulation (EU) 2016/679 (General Data Protection Regulation)

AI-verktyg som används i arbetet utan organisationens godkännande, ofta med privata konton.

I Microsofts Work Trend Index 2024 uppgav 78 % av dem som använde AI på jobbet att de tog med egna verktyg.

Relaterade principer: 3. Konfidentialitet för information som delas med AI

Källor: AI at Work Is Here. Now Comes the Hard Part (2024 Work Trend Index)

Bilder, ljud, video eller text som AI har skapat eller ändrat väsentligt. Ett exempel är en bild av en påhittad ö. En falsk inspelning som låter som en verklig kollega som ger instruktioner är också en deepfake.

Relaterade principer: 9. Öppenhet om användning av AI

Källor: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Ett misstag som upptäcks innan det orsakar skada. Att rapportera det ger teamet en chans att rätta till problemet innan någon drabbas.

Relaterade principer: 10. Ansvar för AI-stödda resultat

En teamregel som delar in information i grönt (offentligt), gult (internt, endast i godkända verktyg) och rött (personuppgifter, konfidentiella eller reglerade uppgifter, endast i verktyg och processer som godkänts för dem). Ett begrepp som används i denna standard.

Relaterade principer: 3. Konfidentialitet för information som delas med AI

AI-genererat arbete som ser genomarbetat ut men saknar innehåll som för uppgiften framåt, så att mottagaren måste rätta till eller göra om det. Ett begrepp från forskare vid Stanford Social Media Lab och BetterUp.

Relaterade principer: 8. Kvalitet i AI-stött arbete

Källor: AI-Generated “Workslop” Is Destroying Productivity