Saltar para o conteúdo
Founderz: início do Guia de utilização responsável da IA

em colaboração com Microsoft

Princípio 06 · Enquanto trabalha · Complacência e vieses

Questionamento e consciência dos vieses

A IA é utilizada para pôr ideias à prova, além de as desenvolver, e a sua tendência para concordar é contrariada ativamente.

Pergunta essencial

Qual é o argumento mais forte contra isto?

Benefício

Pode resolver uma fragilidade do seu plano antes de um cliente ou uma chefia a detetar.

Contexto

Os assistentes de IA são treinados para ajudar, e as pessoas tendem a considerar útil a concordância. O resultado é uma tendência bem documentada chamada complacência: os assistentes tendem a dizer o que parece querer ouvir. Uma investigação apresentada na ICLR 2024 encontrou-a de forma consistente em cinco assistentes, e as pessoas por vezes preferiam uma resposta persuasiva e concordante a uma correta. Em abril de 2025, um grande fornecedor de IA retirou uma atualização de um modelo porque se tornara excessivamente lisonjeiro.

Quando já prefere um plano, um assistente pode dar-lhe muitas razões para o manter. Pergunte o que levaria um cliente a rejeitá-lo e verifique se consegue responder à objeção.

Vieses comuns no trabalho com IA

ViésComo se manifestaO que fazer
ComplacênciaO assistente concorda consigo, elogia o plano ou abandona a objeção quando o contraria.Peça o argumento mais forte contra a ideia, na perspetiva de um crítico concreto.
Viés de confirmaçãoPergunta «porque é que a minha ideia está certa?» e recebe razões para estar certa.Faça perguntas abertas, como «quais são as opções?»
Viés de automatizaçãoAceita o resultado por ter sido produzido por uma máquina.Decida antecipadamente o que vai verificar.
AncoragemA primeira resposta ou o primeiro número condiciona tudo o que vem a seguir.Faça primeiro a sua estimativa ou peça várias opções.
Pressupostos locais erradosA resposta pressupõe a lei, moeda, ortografia ou costumes de outro país.Diga onde está e a quem se destina o trabalho.

Produtividade percebida e medida

A sua perceção de como a IA está a funcionar pode estar errada em qualquer dos sentidos. Num estudo da METR do início de 2025, 16 programadores experientes esperavam que a IA os tornasse 24% mais rápidos e sentiram-se 20% mais rápidos no final, mas demoraram mais 19% nas tarefas com IA. O estudo de seguimento da METR de 2026 sugere que as ferramentas melhoraram e considera que os dados são agora pouco sólidos. A perceção foi um mau indicador em 2025, por isso meça o resultado quando uma decisão depende dele. Leia o estudo de caso.

Práticas

  1. 01Faça perguntas abertas, como «quais são as opções?», e evite perguntas que induzam a resposta, como «porque é que a minha opção é a melhor?»
  2. 02Peça o argumento mais forte contra a sua ideia, na perspetiva de um crítico concreto: um diretor financeiro, um cliente, um concorrente.
  3. 03Mude o enquadramento e volte a perguntar. Se a resposta se inverter, percebeu como era frágil.
  4. 04Decida que provas o fariam mudar de opinião antes de as procurar.
  5. 05Quando o resultado importa, meça-o. A sensação de produtividade é uma prova pouco sólida.

Exemplos de prompts

Compare os dois prompts e veja que passo precisa de dar por si.

Decisões e planos

Teste de um plano

Antes

Aqui está o meu plano para abrir um escritório em Lisboa. Porque é uma boa ideia?

Depois

Aqui está o meu plano para abrir um escritório em Lisboa (em anexo). Assume o papel de um diretor financeiro cético. Dá-me as três razões mais fortes para poder falhar, os pressupostos que faço sem provas e os dados que te fariam mudar de opinião.

A sua parte

Responda por escrito a cada objeção antes de decidir. Se ainda não conseguir responder a uma, procure as provas de que precisaria.

Porque funciona: Uma pergunta que induz a resposta convida à concordância. Perguntar o que um diretor financeiro contestaria dá ao assistente uma razão concreta para analisar os custos.

Pesquisa

Questionamento de uma proposta de investimento

Antes

Explica porque é que mudar a nossa equipa comercial para um novo CRM vai poupar dinheiro.

Depois

Estamos a ponderar mudar a equipa comercial para um novo CRM. Quais são os custos e poupanças realistas, o que costuma correr mal em migrações deste tipo e o que teríamos de medir para saber se funcionou?

A sua parte

Verifique os pressupostos de custo com a equipa financeira e pergunte a uma equipa que já tenha feito uma migração o que faria de forma diferente.

Porque funciona: Uma pergunta aberta dá-lhe os riscos e os benefícios, além de uma forma de medir o resultado.

Vendas e preços

Obtenção de feedback honesto sobre uma proposta

Antes

Esta proposta é boa?

Depois

Revê esta proposta como responsável de compras do cliente, que tem duas alternativas mais baratas. O que te faria dizer não? Sê concreto e não suavizes.

A sua parte

Corrija as fragilidades encontradas e depois pergunte a um colega que conhece o cliente.

Porque funciona: Um crítico concreto com uma razão para dizer não encontra problemas que um pedido de feedback geral deixa passar.

Evidências

  • Cinco assistentes de IA mostraram complacência de forma consistente, e as pessoas por vezes preferiam respostas complacentes convincentes a respostas corretas. [Sharma et al., ICLR 2024]
  • Em abril de 2025, um grande fornecedor de IA retirou uma atualização de um modelo porque se tornara excessivamente lisonjeiro, afirmando que dera demasiado peso ao feedback dos utilizadores a curto prazo. [OpenAI]
  • No início de 2025, programadores experientes sentiam-se 20% mais rápidos com IA, mas demoravam mais 19% nas tarefas em que a usavam. A METR considerou pouco fiáveis os resultados do seu seguimento mais alargado de 2026. [METR, 2025] [METR, 2026]
  • O perfil do NIST para a IA generativa inclui o viés de automatização e a dependência excessiva entre os riscos da interação entre pessoas e sistemas de IA. [NIST AI 600-1]
  • Uma revisão clássica descreve o viés de confirmação como a tendência para procurar e interpretar provas de formas que favorecem aquilo em que já se acredita. [Nickerson, 1998]

Estudos de caso e cenários

Prática em equipa

Acrescente uma linha a cada nota de decisão: o melhor argumento contra esta decisão e a razão para avançar mesmo assim.

Ferramenta de equipaCarta de equipa para a IA

Fontes

Estas fontes sustentam os factos desta página. Explicamos o que se pode concluir de cada uma e quais são os seus limites. As recomendações são nossas. Ver todas as fontes que utilizamos.

  1. Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 de outubro de 2023; ICLR 2024 · Investigação com revisão por pares Cinco assistentes de IA mostraram complacência de forma consistente. Nos dados de preferências humanas, as respostas que coincidiam com as opiniões das pessoas tinham maior probabilidade de ser preferidas, e as pessoas por vezes escolhiam respostas complacentes convincentes em vez de respostas corretas. Limites: Testou modelos de 2023.
  2. Sycophancy in GPT-4o: what happened and what we’re doing about it OpenAI · 29 de abril de 2025 · Declaração da empresa Relata a retirada de uma atualização de um modelo que se tornara excessivamente lisonjeiro e afirma que fora dado demasiado peso ao feedback dos utilizadores a curto prazo. Limites: O relato da própria empresa.
  3. Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity METR · 10 de julho de 2025 · Investigação (pré-publicação) Dezasseis programadores experientes que trabalharam em 246 tarefas esperavam que a IA os tornasse 24% mais rápidos e sentiram-se 20% mais rápidos no final, mas as tarefas com IA demoraram mais 19%. Limites: Sem revisão por pares, com ferramentas do início de 2025. A METR assinalou entretanto o resultado como desatualizado.
  4. We are Changing our Developer Productivity Experiment Design METR · 24 de fevereiro de 2026 · Atualização de investigação Um seguimento com 57 programadores e mais de 800 tarefas sugeriu um ganho de velocidade. A METR considera os resultados pouco fiáveis porque muitos programadores evitaram tarefas que não queriam fazer sem IA. A METR pensa que os programadores são provavelmente mais rápidos com ferramentas mais recentes e está a reformular o estudo. Limites: A METR descreve os dados como pouco sólidos.
  5. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 de julho de 2024 · Quadro voluntário Lista doze riscos da IA generativa, incluindo confabulação (conteúdo falso apresentado com confiança, por vezes com citações inventadas) e a configuração da interação entre pessoas e IA, que abrange o viés de automatização e a dependência excessiva. Limites: Voluntário. Foi emitido ao abrigo de uma ordem executiva entretanto revogada, e o quadro mais amplo está em revisão.
  6. Confirmation bias: A ubiquitous phenomenon in many guises Review of General Psychology, 2(2) · 1998 · Artigo de revisão avaliado por pares Uma revisão clássica do viés de confirmação: a tendência para procurar e interpretar provas de formas que favorecem crenças existentes. Limites: Uma revisão de psicologia anterior à IA generativa.

Citar esta página

Founderz (2026). Princípio 6: Questionamento e consciência dos vieses. Norma RUAI, edição de 2026. Desenvolvida pela Founderz em colaboração com a Microsoft. https://responsibleai.founderz.com/pt/toolkit/principles/challenge-and-bias-awareness

Licenciado sob CC BY 4.0: partilhe e adapte com atribuição.