Situació de feina · 07 de 13
Un assistent que et dona la raó en tot
En tres setmanes, l’assistent ha elogiat les tres versions d’un pla. El teu responsable el revisa dilluns.
La situació
Has fet servir un assistent per afinar el pla d’un producte nou. De cada versió que comparteixes, diu que és sòlida, ben pensada i a punt per presentar. La revisió del teu responsable és dilluns.
Principis implicats
Què fas?
Obre l’opció que triaries per veure què passa. Després compara-la amb les altres opcions.
Opció A: El presentes. Sempre t’ha donat la mateixa opinió.
Arriscat
L’assistent pot estar reflectint el teu entusiasme. Els elogis diuen poca cosa sobre si el pla resistirà les objeccions.
Opció B: Preguntes a l’assistent si és massa complaent.
Part de la resposta
Pot moderar-se un moment i després tornar al mateix. Encarrega-li una altra tasca en comptes de buscar que et tranquil·litzi.
Opció C: Li demanes que argumenti contra el pla des del punt de vista d’un escèptic concret i després respons per escrit a cada objecció.
La millor opció
Arribaràs a la reunió havent afrontat les preguntes difícils. Les que no puguis respondre t’indiquen què has de corregir abans de dilluns.
Opció D: Deixes de fer servir IA per planificar.
Segur, però té un cost
Perds un interlocutor que et podria ajudar a posar a prova les idees. N’hi hauria prou de canviar la pregunta.
Què te n’emportes
Demana l’argument més sòlid contra la teva idea i després treballa les objeccions que encara no pots respondre.
Fonts
Aquestes fonts sustenten els fets d’aquesta pàgina. Expliquem què acredita cadascuna i fins on arriba l’evidència. Les recomanacions són nostres. Consulta totes les fonts que fem servir.
- Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 d’octubre de 2023; ICLR 2024 · Recerca revisada per experts Cinc assistents d’IA van mostrar complaença de manera reiterada. Els participants preferien més sovint les respostes que coincidien amb el seu punt de vista. De vegades triaven una resposta complaent i convincent en comptes d’una de correcta. Límits: Es van provar models de 2023.