Ves al contingut
Founderz: inici de l’ús responsable de la IA

en col·laboració amb Microsoft

Principi 06 · Mentre treballes · Complaença i biaixos

Qüestionament i consciència dels biaixos

La IA es fa servir tant per posar a prova idees com per desenvolupar-les, i es contraresta activament la seva tendència a donar la raó.

Pregunta clau

Quin és l’argument més sòlid en contra?

Benefici

Pots resoldre un punt feble del teu pla abans que el detecti un client o un responsable.

Context

Els assistents d’IA s’entrenen perquè siguin útils, i sovint valorem com a útil una resposta que ens dona la raó. El resultat és una tendència ben documentada anomenada complaença: els assistents tendeixen a dir-te el que sembla que vols sentir. Un estudi presentat a l’ICLR 2024 va detectar aquesta tendència de manera reiterada en cinc assistents, i de vegades les persones preferien una resposta persuasiva que els donés la raó a una resposta correcta. L’abril de 2025, un gran proveïdor d’IA va retirar una actualització d’un model perquè s’havia tornat excessivament afalagador.

Quan ja prefereixes un pla, un assistent et pot donar moltes raons per mantenir-lo. Pregunta què faria que un client el rebutgés i comprova si pots respondre a l’objecció.

Biaixos habituals en la feina amb IA

BiaixCom es manifestaQuè pots fer
ComplaençaL’assistent et dona la raó, elogia el pla o abandona l’objecció quan el qüestiones.Demana l’argument més sòlid en contra des del punt de vista d’un escèptic concret.
Biaix de confirmacióPreguntes «per què la meva idea és encertada?» i obtens raons que la confirmen.Fes preguntes obertes, com ara «quines opcions hi ha?».
Biaix d’automatitzacióAcceptes el resultat perquè l’ha produït una màquina.Decideix per endavant què comprovaràs.
AncoratgeLa primera resposta o xifra condiciona tot el que ve després.Fes primer una estimació pròpia o demana un ventall d’opcions.
Supòsits locals equivocatsLa resposta dona per fet que s’apliquen les lleis, la moneda, l’ortografia o els costums d’un altre país.Indica on ets i a qui s’adreça.

Productivitat percebuda i mesurada

La teva percepció de com funciona la IA es pot equivocar en qualsevol direcció. En un estudi de METR de principis de 2025, 16 desenvolupadors de programari experimentats esperaven que la IA els fes un 24 % més ràpids i després es van sentir un 20 % més ràpids, però van trigar un 19 % més en les tasques amb IA. El seguiment de METR de 2026 apunta que les eines han millorat i afirma que ara les proves són poc concloents. El 2025, la sensació no era una bona guia, així que mesura el resultat quan en depengui una decisió. Llegeix el cas pràctic.

Pràctiques

  1. 01Fes preguntes obertes, com ara «quines opcions hi ha?», i evita les tendencioses, com ara «per què la meva opció és la millor?».
  2. 02Demana l’argument més sòlid contra la teva idea des del punt de vista d’un escèptic concret: un director financer, un client o un competidor.
  3. 03Canvia el plantejament i torna a preguntar. Si la resposta s’inverteix, hauràs descobert fins a quin punt era fràgil.
  4. 04Decideix quina evidència et faria canviar d’opinió abans de buscar-la.
  5. 05Quan el resultat importi, mesura’l. La sensació de productivitat en diu ben poc.

Exemples de prompts

Compara els dos prompts i comprova quin pas has de fer tu.

Decisions i plans

Posada a prova d’un pla

Abans

Aquí tens el meu pla per obrir una oficina a Lisboa. Per què és una bona idea?

Després

T’adjunto el pla per obrir una oficina a Lisboa. Actua com un director financer escèptic. Dona’m les tres raons més sòlides per les quals podria fracassar, què dono per fet sense proves i les dades que et farien canviar d’opinió.

La teva part

Respon per escrit a cada objecció abans de decidir. Si encara no en pots respondre una, busca les proves que et falten.

Per què funciona: Una pregunta tendenciosa afavoreix que et donin la raó. Preguntar què qüestionaria un director financer dona a l’assistent una raó concreta per examinar els costos.

Recerca

Revisió de la justificació d’una inversió

Abans

Explica per què passar el nostre equip de vendes a un CRM nou estalviarà diners.

Després

Ens plantegem passar l’equip de vendes a un CRM nou. Quins són els costos i estalvis realistes, què acostuma a anar malament en migracions com aquesta i què hauríem de mesurar per saber si ha funcionat?

La teva part

Comprova els supòsits de costos amb finances i pregunta a un equip que hagi fet una migració què faria diferent.

Per què funciona: Una pregunta oberta et dona tant els riscos com els beneficis i una manera de mesurar el resultat.

Vendes i preus

Valoració honesta d’una proposta

Abans

És bona aquesta proposta?

Després

Revisa aquesta proposta com si fossis el responsable de compres del client i tinguessis dues alternatives més barates. Què et faria dir que no? Sigues concret i no ho suavitzis.

La teva part

Corregeix els punts febles que trobi i després pregunta a un company que conegui el client.

Per què funciona: Si demanes a l’assistent que adopti el paper d’algú amb motius per rebutjar la proposta, pot detectar problemes que se li escaparien en una valoració general.

Evidència

  • Cinc assistents d’IA van mostrar complaença de manera sistemàtica, i de vegades les persones preferien respostes complaents i convincents a respostes correctes. [Sharma et al., ICLR 2024]
  • L’abril de 2025, un gran proveïdor d’IA va revertir una actualització d’un model perquè s’havia tornat excessivament afalagador i va explicar que havia donat massa pes a l’opinió dels usuaris a curt termini. [OpenAI]
  • A principis de 2025, els desenvolupadors experimentats se sentien un 20 % més ràpids amb IA, però trigaven un 19 % més en les tasques amb aquesta eina. METR va qualificar de poc fiables els resultats del seu seguiment més ampli de 2026. [METR, 2025] [METR, 2026]
  • El perfil del NIST per a la IA generativa inclou el biaix d’automatització i la dependència excessiva entre els riscos de la interacció entre persones i sistemes d’IA. [NIST AI 600-1]
  • Una revisió clàssica descriu el biaix de confirmació com la tendència a buscar i interpretar l’evidència de maneres que afavoreixen el que ja creus. [Nickerson, 1998]

Casos pràctics i situacions

Pràctica d’equip

Afegiu una línia a cada nota de decisió: el millor argument en contra i per què, tot i això, tireu endavant.

Eina per a equipsAcord d’equip sobre la IA

Fonts

Aquestes fonts sustenten els fets d’aquesta pàgina. Expliquem què acredita cadascuna i fins on arriba l’evidència. Les recomanacions són nostres. Consulta totes les fonts que fem servir.

  1. Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 d’octubre de 2023; ICLR 2024 · Recerca revisada per experts Cinc assistents d’IA van mostrar complaença de manera reiterada. Els participants preferien més sovint les respostes que coincidien amb el seu punt de vista. De vegades triaven una resposta complaent i convincent en comptes d’una de correcta. Límits: Es van provar models de 2023.
  2. Sycophancy in GPT-4o: what happened and what we’re doing about it OpenAI · 29 d’abril de 2025 · Declaració de l’empresa Informa que va revertir una actualització d’un model que s’havia tornat excessivament afalagador i diu que havia donat massa pes a l’opinió dels usuaris a curt termini. Límits: És el relat de la mateixa empresa.
  3. Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity METR · 10 de juliol de 2025 · Recerca (prepublicació) Setze desenvolupadors experimentats que treballaven en 246 tasques esperaven que la IA els fes un 24 % més ràpids i després es van sentir un 20 % més ràpids, però amb IA van necessitar un 19 % més de temps per fer les tasques. Límits: No ha estat revisada per experts i utilitza eines de principis de 2025. METR ha marcat després el resultat com a desactualitzat.
  4. We are Changing our Developer Productivity Experiment Design METR · 24 de febrer de 2026 · Actualització de recerca Un seguiment amb 57 desenvolupadors i més de 800 tasques va apuntar a un guany de velocitat. METR qualifica els resultats de poc fiables perquè molts desenvolupadors van evitar tasques que no volien fer sense IA. METR creu que els desenvolupadors probablement són més ràpids amb les eines noves i està redissenyant l’estudi. Límits: METR considera que les proves són poc concloents.
  5. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 de juliol de 2024 · Marc voluntari Enumera dotze riscos de la IA generativa, entre els quals hi ha la confabulació (contingut fals expressat amb seguretat, de vegades amb citacions inventades) i la configuració de la relació entre persones i IA, que inclou el biaix d’automatització i la dependència excessiva. Límits: És voluntari. Es va publicar a l’empara d’una ordre executiva que després s’ha revocat, i el marc més ampli està en revisió.
  6. Confirmation bias: A ubiquitous phenomenon in many guises Review of General Psychology, 2(2) · 1998 · Revisió de la literatura avaluada per experts Una revisió clàssica del biaix de confirmació: la tendència a buscar i interpretar l’evidència de maneres que afavoreixen les creences existents. Límits: És una revisió de psicologia anterior a la IA generativa.

Cita aquesta pàgina

Founderz (2026). Principi 6: Qüestionament i consciència dels biaixos. L’Estàndard RUAI, edició de 2026. Desenvolupat per Founderz en col·laboració amb Microsoft. https://responsibleai.founderz.com/ca/toolkit/principles/challenge-and-bias-awareness

Sota la llicència CC BY 4.0: comparteix i adapta amb atribució.