Hoppa till innehållet
Founderz: startsida för ansvarsfull användning av AI

i samarbete med Microsoft

Arbetsscenario · 04 av 13

Ett mejl ber agenten ändra en leverantörs bankuppgifter

Agenten som läser din inkorg vill ändra en leverantörs betalningsuppgifter efter en uppmaning i ett mejl.

Situationen

Din inkorgsagent markerar ett mejl: en återkommande leverantör ber dig uppdatera bankuppgifterna inför nästa betalning. Agenten erbjuder sig att uppdatera leverantörsposten åt dig. Mejlet ser riktigt ut och kommer från den vanliga adressen.

Vad gör du?

Öppna det alternativ du skulle välja för att se vad som händer. Jämför sedan med de andra valen.

Alternativ A: Låter agenten uppdatera. Adressen är den vanliga.

Riskfyllt

Mejlkonton kan förfalskas eller kapas, och en begäran om ändrade bankuppgifter är ett klassiskt betalningsbedrägeri. Agenten följer instruktioner från en okänd.

Alternativ B: Ber agenten svara och be om bekräftelse via mejl.

Riskfyllt

Om någon har kapat leverantörens konto kan den personen även svara på följdfrågan. Bekräftelsen måste komma via en kanal som angriparen inte kontrollerar.

Alternativ C: Avböjer, ringer leverantören på ett nummer du redan har och rapporterar mejlet.

Det bästa valet

Ring leverantören på ett nummer du redan litar på för att få veta om bankuppgifterna verkligen har ändrats. Rapportera mejlet så att kollegor kan leta efter liknande förfrågningar.

Alternativ D: Raderar mejlet och säger inget.

En del av svaret

Du undvek fällan, men leverantören kan ha en verklig ändring och kollegor kan få samma mejl i morgon.

Att ta med sig

Behandla det en agent läser som innehåll, aldrig som order, och bekräfta ändringar som rör pengar eller inloggningsuppgifter via en kanal du själv tar initiativ till. Ännu bättre är att agenten inte kan ändra betalningsposter utan ditt godkännande.

Källor

Här ser du vilka sakuppgifter varje källa stöder och vilka slutsatser du kan dra av den. Rekommendationerna är våra. Se alla källor vi använder.

  1. Prompt injection is not SQL injection (it may be worse) UK National Cyber Security Centre · 8 december 2025 · Officiell vägledning Förklarar att AI-modeller saknar en tillförlitlig gräns mellan data och instruktioner, så promptinjektion kanske aldrig kan lösas helt, och rekommenderar fasta gränser som inte bygger på AI för vad system får göra, minsta behörighet och loggning. Begränsningar: Skriven för säkerhetsexperter.
  2. Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (I-120324-PSA) FBI Internet Crime Complaint Center · 3 december 2024 · Information till allmänheten Varnar för att kriminella använder AI-genererade röster, bilder och videor för att utge sig för att vara andra och rekommenderar att lägga på och ringa tillbaka på ett nummer som man själv söker upp. Begränsningar: Riktad till konsumenter i USA.