Kontroll av AI i proportion till konsekvenserna

Sammanhang

AI skriver lika flytande när den har fel. Den kan hitta på en referens, felcitera en källa, utelämna ett villkor eller förvandla ”förväntas på fredag” till ”garanterat”. NIST kallar det påhittade för konfabulation: felaktigt innehåll som framförs med säkerhet, ibland med påhittade hänvisningar som får det att verka välgrundat. Långa rapporter gör felen svårare att upptäcka och de har nått både kunder och domstolar.

Du kan inte kontrollera allt, så anpassa kontrollens djup till kostnaden för att ha fel.

Kontrollnivåer

Nivå	För	Vad du gör
Snabb genomläsning	Interna utkast, idéer, egna anteckningar	Läs igenom. Besvaras frågan du ställde?
Stickprov	Allt du delar med kollegor	Kontrollera de namn, datum, siffror och påståenden som spelar störst roll.
Fullständig kontroll	Allt som publiceras, undertecknas, skickas till en kund eller används för beslut	Öppna varje källa, räkna om, bekräfta citat och datum och be ytterligare en person kontrollera arbetet när mycket står på spel.

Källkontroll

Öppna den angivna källan och hitta avsnittet som stöder påståendet. Kontrollera datumet och om den gäller ditt land och din marknad. En andra AI kan ha samma blinda fläckar som den första, så dess medhåll ersätter inte att öppna källan.

Specialistverktyg minskar fel utan att ta bort dem. En Stanford-studie publicerad 2025 visade att ledande AI-verktyg för juridisk research fortfarande hallucinerade i 17 till 33 % av testfrågorna. I september 2026 hade en offentlig databas registrerat fler än 2 000 domstolsavgöranden som rörde innehåll som AI hittat på, främst falska hänvisningar.

Kontroll av förfrågningar och identiteter

Ett bekant ansikte, en röst eller en skrivstil kan övertyga även när någon har imiterat den med AI. I början av 2024 överförde en anställd i Hongkong cirka 200 miljoner Hongkongdollar efter ett videosamtal där de andra deltagarna, inklusive ekonomichefen, var falska. Läs fallstudien.

Behandla varje ovanlig begäran om pengar, inloggningsuppgifter eller konfidentiella data som obekräftad tills du har kontrollerat den via en kanal du själv tar initiativ till: ring tillbaka på ett nummer du redan har eller gå till personens skrivbord. Både FBI och Spaniens nationella cybersäkerhetsinstitut rekommenderar detta.

Arbetssätt

01Anpassa kontrollnivån till konsekvenserna: snabb genomläsning, stickprov eller fullständig kontroll.
02Öppna källan och hitta avsnittet som stöder påståendet.
03Räkna om siffrorna som spelar roll.
04Kontrollera datum och plats: är detta aktuellt och rätt för ditt land och din marknad?
05Kontrollera ovanliga förfrågningar om pengar, inloggningsuppgifter eller data via en kanal du själv tar initiativ till.

Promptexempel

Jämför de två promptarna och se vilket steg du behöver ta själv.

Research

Text med statistik

Före

Skriv ett stycke om tillväxten på den europeiska AI-marknaden, med statistik.

Efter

Skriv ett stycke om den europeiska AI-marknaden med enbart de tre bifogade rapporterna som källor. Ange rapport och sida efter varje siffra. Lista alla påståenden du inte kunde belägga.

Din del

Kontrollera varje siffra på den angivna sidan. Ta bort siffror som du inte hittar.

Därför fungerar det: En rapporttitel och ett sidnummer intill varje statistikuppgift låter dig kontrollera den mot originalet.

Avtal och policyer

Sammanfattning av en förordning

Före

Sammanfatta EU:s nya regler om AI-chattbotar.

Efter

Sammanfatta artikel 50 i EU:s AI-förordning på klarspråk med hjälp av den officiella text som jag har bifogat. Citera den mening som stöder varje punkt och markera sådant som beror på datum eller undantag.

Din del

Kontrollera varje citerad mening i den officiella texten och fråga juristerna innan du agerar på den.

Därför fungerar det: Citaten kopplar varje punkt till texten och markeringarna visar var detaljerna spelar roll.

Data och siffror

Jämförelse av offerter

Före

Vad är totalkostnaden för de tre offerterna?

Efter

Hämta pris, antal och eventuella extra avgifter från var och en av de tre bifogade offerterna och lägg dem i en tabell, med sidan för varje siffra. Summera dem sedan och visa beräkningen.

Din del

Kontrollera varje siffra mot den angivna sidan och räkna själv om summan. Leta efter avgifter som döljer sig i villkoren.

Därför fungerar det: Sidhänvisningarna låter dig kontrollera siffrorna mot varje leverantörs offert. Att själv summera dem ger en separat kontroll av totalen.

Underlag

NIST definierar konfabulation som felaktigt innehåll som framförs med säkerhet, ibland med påhittade resonemang eller hänvisningar som får det att verka välgrundat. [NIST AI 600-1]
Ledande AI-verktyg för juridisk research hallucinerade i 17 till 33 % av 202 testfrågor i en sakkunniggranskad Stanford-studie. [Magesh et al., Stanford]
Den 23 september 2026 listade en offentlig databas 2 077 avgöranden där domstolar funnit eller antytt att en part förlitat sig på innehåll som AI hittat på. [Charlotins databas]
Microsofts egen dokumentation säger att generativa AI-svar inte garanteras vara 100 % sakligt korrekta och att användare bör använda sitt omdöme vid granskning innan de skickar resultat till andra. [Microsoft Learn]
FBI rekommenderar att lägga på och ringa tillbaka på ett nummer du själv söker upp. Spaniens INCIBE rekommenderar att aldrig godkänna betalningar per telefon och att låta minst två personer godkänna stora betalningar. [FBI] [INCIBE]

Fallstudier och scenarier

Gemensamt arbetssätt

Kom överens om vilka resultat som ni läser igenom snabbt, vilka ni kontrollerar med stickprov och vilka ni kontrollerar fullständigt, så att alla anpassar kontrollen till följderna av ett fel.

TeamverktygKontrollnivåer

Källor

Här ser du vilka sakuppgifter varje källa stöder och vilka slutsatser du kan dra av den. Rekommendationerna är våra. Se alla källor vi använder.

Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 juli 2024 · Frivilligt ramverk Beskriver tolv risker med generativ AI, däribland konfabulation (felaktigt innehåll som framförs med säkerhet, ibland med påhittade hänvisningar) och risker i samspelet mellan människa och AI, som automationsbias och överdriven tilltro. Begränsningar: Frivilligt. Utfärdades under en presidentorder som sedan har upphävts och det övergripande ramverket revideras.
Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools Journal of Empirical Legal Studies (Stanford RegLab and HAI researchers) · 23 april 2025 · Sakkunniggranskad forskning I ett test med 202 juridiska frågor hallucinerade ledande AI-verktyg för juridiska efterforskningar i 17 till 33 % av fallen. För en modell för allmänt bruk var andelen 43 %. Begränsningar: En ögonblicksbild av verktyg som testades 2024. Verktygen har ändrats sedan dess.
AI Hallucination Cases database Damien Charlotin · Uppdateras löpande (2 077 fall den 23 september 2026) · Forskningsdatabas Listar avgöranden där en domstol funnit eller antytt att en part förlitat sig på innehåll som AI hittat på, främst falska hänvisningar: 2 077 den 23 september 2026, varav 1 428 i USA. Begränsningar: Sköts av en person. Utelämnar mål där användningen bara påståtts.
Data, privacy, and security for Microsoft Copilot Microsoft · Uppdaterad 18 augusti 2026 · Produktdokumentation Anger att Copilot bara visar organisationsdata som användaren åtminstone har läsbehörighet för, att promptar, svar och data som hämtas via Microsoft Graph inte används för att träna grundmodeller och att genererade svar inte garanteras vara 100 % sakligt korrekta, så användare bör använda sitt omdöme innan resultat skickas till andra. Begränsningar: Gäller enbart den produkten och dess kommersiella villkor.
Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (I-120324-PSA) FBI Internet Crime Complaint Center · 3 december 2024 · Information till allmänheten Varnar för att kriminella använder AI-genererade röster, bilder och videor för att utge sig för att vara andra och rekommenderar att lägga på och ringa tillbaka på ett nummer som man själv söker upp. Begränsningar: Riktad till konsumenter i USA.
Suplantación del CEO utilizando la técnica de inteligencia artificial deepvoice INCIBE, Spain’s national cybersecurity institute · 9 januari 2024 · Officiell fallbeskrivning (på spanska) Beskriver ett företag som betalade en bedragare efter ett samtal med en AI-klonad röst av vd:n. Rekommenderar bekräftelse via en kanal där man vet vem man talar med, att aldrig godkänna betalningar per telefon och att låta minst två personer godkänna stora betalningar. Begränsningar: Ett anonymiserat ärende från en rådgivningstjänst.

Hänvisa till den här sidan

Founderz (2026). Princip 7: Kontroll i proportion till konsekvenserna. RUAI-standarden, 2026 års utgåva. Utvecklad av Founderz i samarbete med Microsoft. https://responsibleai.founderz.com/sv/toolkit/principles/proportionate-verification

Licensierad under CC BY 4.0: du får dela och bearbeta texten om du anger upphovspersonen.