Arbetsscenario · 07 av 13
En assistent som håller med om varje idé
På tre veckor har assistenten berömt alla tre versionerna av en plan. Din chef granskar den på måndag.
Situationen
Du har använt en assistent för att vässa en ny produktplan. Varje version du delar kallar den stark, genomtänkt och redo att presenteras. Chefens granskning är på måndag.
Berörda principer
Vad gör du?
Öppna det alternativ du skulle välja för att se vad som händer. Jämför sedan med de andra valen.
Alternativ A: Presenterar planen. Återkopplingen har varit konsekvent.
Riskfyllt
Assistenten kan fånga upp din entusiasm. Berömmet säger lite om huruvida planen håller.
Alternativ B: Frågar assistenten om den är för snäll.
En del av svaret
Den kan bli mer kritisk en stund och sedan glida tillbaka. Ändra uppgiften i stället för att söka bekräftelse.
Alternativ C: Ber den argumentera mot planen som en namngiven skeptiker och besvarar sedan varje invändning skriftligt.
Det bästa valet
Du går in i mötet efter att redan ha mött de svåra frågorna. De du inte kan besvara visar vad du behöver rätta till före måndag.
Alternativ D: Slutar använda AI för planering.
Säkert, men kräver mer arbete
Du ger upp en användbar samtalspartner för ett problem som en annorlunda fråga skulle kunna lösa.
Att ta med sig
Be om de starkaste argumenten mot din idé och arbeta sedan med invändningarna du ännu inte kan besvara.
Källor
Här ser du vilka sakuppgifter varje källa stöder och vilka slutsatser du kan dra av den. Rekommendationerna är våra. Se alla källor vi använder.
- Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 oktober 2023; ICLR 2024 · Sakkunniggranskad forskning Fem AI-assistenter visade genomgående inställsamhet. I data om mänskliga preferenser föredrogs oftare svar som stämde med människors uppfattningar och människor valde ibland övertygande inställsamma svar framför korrekta svar. Begränsningar: Testade modeller från 2023.