Cenário de trabalho · 07 de 13
Um assistente que concorda com todas as ideias
Em três semanas, o seu assistente elogiou as três versões de um plano. A sua chefia revê-o na segunda-feira.
A situação
Usou um assistente para aperfeiçoar um plano de um novo produto. Sempre que partilha uma versão, ele diz que é sólida, bem pensada e pronta a apresentar. A revisão pela sua chefia é na segunda-feira.
Princípios envolvidos
O que faz?
Abra a opção que escolheria para ver o que acontece. Depois compare-a com as restantes escolhas.
Opção A: Apresenta o plano. O feedback tem sido consistente.
Arriscado
O assistente pode estar a reagir ao seu entusiasmo. Os elogios dizem pouco sobre se o plano resiste a uma análise exigente.
Opção B: Pergunta ao assistente se está a ser demasiado simpático.
Parte da resposta
Pode moderar-se por um momento e depois voltar ao mesmo. Mude a tarefa em vez de pedir confirmação.
Opção C: Pede-lhe que conteste o plano na perspetiva de um crítico concreto e depois responde por escrito a cada objeção.
A melhor escolha
Chegará à reunião depois de analisar as perguntas difíceis. Aquelas a que ainda não consegue responder indicam o que deve corrigir antes de segunda-feira.
Opção D: Deixa de usar IA para planear.
Seguro, mas tem um custo para si
Abandona um interlocutor útil para testar ideias por causa de um problema que uma pergunta diferente resolveria.
Ideia a reter
Peça o argumento mais forte contra a sua ideia e trabalhe nas objeções a que ainda não consegue responder.
Fontes
Estas fontes sustentam os factos desta página. Explicamos o que se pode concluir de cada uma e quais são os seus limites. As recomendações são nossas. Ver todas as fontes que utilizamos.
- Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 de outubro de 2023; ICLR 2024 · Investigação com revisão por pares Cinco assistentes de IA mostraram complacência de forma consistente. Nos dados de preferências humanas, as respostas que coincidiam com as opiniões das pessoas tinham maior probabilidade de ser preferidas, e as pessoas por vezes escolhiam respostas complacentes convincentes em vez de respostas corretas. Limites: Testou modelos de 2023.