Revisión crítica de la IA y reconocimiento de sesgos

Contexto

Los asistentes de IA se entrenan para ayudar, y solemos considerar útil una respuesta que nos da la razón. El resultado es una tendencia bien documentada llamada complacencia: los asistentes tienden a decirte lo que parece que quieres oír. Un estudio presentado en ICLR 2024 observó este patrón de forma sistemática en cinco asistentes. En ocasiones, los participantes preferían una respuesta convincente que les daba la razón a otra correcta. En abril de 2025, un gran proveedor de IA retiró una actualización porque el modelo había empezado a adular en exceso a los usuarios.

Cuando ya te inclinas por un plan, un asistente puede darte muchas razones para mantenerlo. Pregúntale qué haría que un cliente lo rechazara y comprueba si puedes responder a la objeción.

Sesgos habituales en el trabajo con IA

Sesgo	Cómo se manifiesta	Qué hacer
Complacencia	El asistente te da la razón, elogia el plan o retira su objeción cuando insistes.	Indica quién podría discrepar y pide el argumento más sólido que daría en contra.
Sesgo de confirmación	Preguntas «¿por qué es acertada mi idea?» y obtienes razones a su favor.	Haz preguntas abiertas, como «¿qué opciones hay?».
Sesgo de automatización	Aceptas el resultado porque lo ha producido una máquina.	Decide de antemano qué vas a comprobar.
Anclaje	La primera respuesta o cifra condiciona todo lo que viene después.	Haz primero tu propia estimación o pide varias opciones.
Supuestos que no encajan en tu contexto	La respuesta da por sentadas las leyes, la moneda, la ortografía o las costumbres de otro país.	Indica dónde estás y a quién va dirigida la respuesta.

Productividad percibida y medida

Puedes sobreestimar o subestimar cuánto te ayuda la IA. En un estudio de METR de principios de 2025, 16 desarrolladores de software con experiencia esperaban trabajar un 24 % más rápido con IA. Al terminar, creían haber trabajado un 20 % más rápido, aunque en realidad habían tardado un 19 % más con IA. El seguimiento de METR de 2026 sugiere que las herramientas han mejorado y señala que los datos actuales no permiten sacar conclusiones firmes. En 2025, las impresiones de los participantes no reflejaron los tiempos medidos. Si una decisión depende del resultado, mídelo. Lee el caso práctico.

Prácticas recomendadas

01Haz preguntas abiertas, como «¿qué opciones hay?», y evita las que inducen una respuesta, como «¿por qué es la mía la mejor opción?».
02Pide el argumento más sólido contra tu idea e indica desde qué punto de vista debe formularlo: el de un director financiero, un cliente o un competidor.
03Cambia el planteamiento y vuelve a preguntar. Si la respuesta pasa a ser la contraria, sabrás que era poco fiable.
04Antes de buscar pruebas, decide qué datos te harían cambiar de opinión.
05Cuando el resultado importe, mídelo. La sensación de haber sido productivo dice poco por sí sola.

Ejemplos de prompts

Compara los dos prompts y fíjate en el paso que tienes que dar tú.

Decisiones y planes

Evaluación de un plan

Antes

Este es mi plan para abrir una oficina en Lisboa. ¿Por qué es una buena idea?

Después

Adjunto mi plan para abrir una oficina en Lisboa. Examínalo como lo haría un director financiero escéptico. Dame los tres motivos de más peso por los que podría fracasar. ¿Qué doy por hecho sin pruebas? ¿Qué datos te harían cambiar de opinión?

Tu parte

Responde por escrito a cada objeción antes de decidir. Si aún no puedes responder a alguna, busca las pruebas que necesitarías.

Por qué funciona: Si la pregunta sugiere la respuesta, es más fácil que el asistente te dé la razón. Preguntarle qué cuestionaría un director financiero le da un motivo concreto para examinar los costes.

Investigación

Revisión de la justificación de una inversión

Antes

Explica por qué ahorraremos dinero si nuestro equipo comercial cambia de CRM.

Después

Estamos valorando cambiar el CRM que utiliza nuestro equipo comercial. ¿Qué costes y ahorros cabe esperar? ¿Qué suele salir mal en migraciones como esta y qué tendríamos que medir para saber si ha funcionado?

Tu parte

Comprueba los supuestos de costes con el equipo financiero y pregunta a un equipo que haya hecho una migración qué haría de otra manera.

Por qué funciona: Una pregunta abierta te ayuda a identificar los riesgos y las ventajas, además de cómo medir el resultado.

Ventas y precios

Opinión sincera sobre una propuesta

Antes

¿Es buena esta propuesta?

Después

Revisa esta propuesta como responsable de compras del cliente, que tiene dos alternativas más baratas. ¿Qué te haría rechazarla? Sé concreto y no suavices la respuesta.

Tu parte

Corrige los puntos débiles que encuentre y después consulta a un compañero que conozca al cliente.

Por qué funciona: Cuando le pides que revise la propuesta desde el punto de vista de alguien con motivos para rechazarla, detecta problemas que pasarían desapercibidos si solo pidieras una opinión general.

Qué dicen las fuentes

Cinco asistentes de IA mostraron complacencia de forma sistemática. En ocasiones, los participantes preferían respuestas convincentes y complacientes a otras correctas. [Sharma et al., ICLR 2024]
En abril de 2025, un gran proveedor de IA retiró una actualización porque el modelo había empezado a adular en exceso a los usuarios. El proveedor explicó que había dado demasiado peso a las reacciones inmediatas de los usuarios. [OpenAI]
A principios de 2025, los desarrolladores con experiencia que participaron en el estudio creían haber trabajado un 20 % más rápido con IA, pero tardaron un 19 % más en las tareas con ella. METR calificó de poco fiables los resultados de su seguimiento más amplio de 2026. [METR, 2025] [METR, 2026]
El perfil de NIST para la IA generativa menciona el sesgo de automatización y la dependencia excesiva entre los riesgos de la colaboración entre personas y sistemas de IA. [NIST AI 600-1]
Una revisión clásica describe el sesgo de confirmación como la tendencia a buscar e interpretar la evidencia de forma favorable a lo que ya crees. [Nickerson, 1998]

Casos prácticos y situaciones de trabajo

Práctica en equipo

Añade una línea a cada nota de decisión: el mejor argumento en contra y por qué decides seguir adelante.

Herramienta para equiposAcuerdo de equipo sobre IA

Fuentes

Estas fuentes respaldan los hechos que se exponen en esta página. En cada caso explicamos qué demuestra la fuente y hasta dónde llega. Las recomendaciones son nuestras. Consultar todas las fuentes.

Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 de octubre de 2023; ICLR 2024 · Investigación revisada por pares Cinco asistentes de IA se mostraron complacientes de forma sistemática. Al analizar las preferencias de las personas, los investigadores observaron que elegían con más frecuencia las respuestas que coincidían con sus opiniones. En ocasiones preferían una respuesta complaciente que sonaba convincente a una respuesta correcta. Límites: Se probaron modelos de 2023.
Sycophancy in GPT-4o: what happened and what we’re doing about it OpenAI · 29 de abril de 2025 · Declaración de la empresa Informa de la retirada de una actualización de un modelo que se había vuelto excesivamente adulador e indica que se había dado demasiado peso a las opiniones de los usuarios a corto plazo. Límites: El relato de la propia empresa.
Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity METR · 10 de julio de 2025 · Investigación (prepublicación) Dieciséis desarrolladores con experiencia trabajaron en 246 tareas. Esperaban trabajar un 24 % más rápido con IA y, al terminar, estimaron que lo habían hecho un 20 % más rápido. En realidad, tardaron un 19 % más en completar las tareas con IA. Límites: Sin revisión por pares y con herramientas de principios de 2025. METR ha señalado desde entonces que el resultado está desactualizado.
We are Changing our Developer Productivity Experiment Design METR · 24 de febrero de 2026 · Actualización de investigación Un seguimiento con 57 desarrolladores y más de 800 tareas apuntó a una mejora de velocidad. METR considera los resultados poco fiables porque muchos desarrolladores evitaron tareas que no querían hacer sin IA. METR cree que probablemente sean más rápidos con herramientas nuevas y está rediseñando el estudio. Límites: METR califica las pruebas de débiles.
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 de julio de 2024 · Marco voluntario Enumera doce riesgos de la IA generativa, entre ellos la confabulación (contenido falso expresado con seguridad, a veces con citas inventadas) y la configuración de la relación entre personas e IA, que abarca el sesgo de automatización y la dependencia excesiva. Límites: Es voluntario. Se publicó en virtud de una orden ejecutiva que después se revocó y el marco general está en revisión.
Confirmation bias: A ubiquitous phenomenon in many guises Review of General Psychology, 2(2) · 1998 · Revisión de estudios revisada por pares Una revisión clásica sobre el sesgo de confirmación: la tendencia a buscar e interpretar las pruebas de forma que favorezcan las creencias previas. Límites: Una revisión de psicología anterior a la IA generativa.

Cómo citar esta página

Founderz (2026). Principio 6: Revisión crítica de ideas y reconocimiento de sesgos. Estándar RUAI, edición de 2026. Desarrollado por Founderz en colaboración con Microsoft. https://responsibleai.founderz.com/es/toolkit/principles/challenge-and-bias-awareness

Licencia CC BY 4.0: puedes compartir y adaptar el texto si reconoces la autoría.