Situación de trabajo · 07 de 13
Un asistente que está de acuerdo con todas tus ideas
En tres semanas, tu asistente ha elogiado las tres versiones de un plan. Tu responsable lo revisa el lunes.
La situación
Has utilizado un asistente para afinar el plan de un producto nuevo. Cada versión que compartes le parece sólida, bien pensada y lista para presentar. Tu responsable lo revisa el lunes.
Principios relacionados
¿Qué haces?
Abre la opción que elegirías para ver qué ocurre. Después, compárala con las demás.
Opción A: Lo presentas. El asistente siempre te ha dicho lo mismo.
Opción arriesgada
Puede que el asistente esté reflejando tu entusiasmo. Sus elogios dicen poco sobre si el plan se sostiene.
Opción B: Le preguntas al asistente si está siendo demasiado amable.
Respuesta parcial
Puede que modere sus elogios un momento y después vuelva a lo mismo. Cambia la tarea en lugar de buscar que te tranquilice.
Opción C: Le pides que adopte el punto de vista de alguien concreto que pondría el plan en duda y que formule sus objeciones. Tú respondes a cada una por escrito.
La mejor opción
Llegarás a la reunión después de haber pensado en las preguntas difíciles. Las que no puedas responder te indican qué conviene revisar antes del lunes.
Opción D: Dejas de usar IA para planificar.
Opción segura, con un coste
Renuncias a un interlocutor útil por un problema que podrías resolver formulando la petición de otra manera.
Qué puedes aplicar
Pide los argumentos más sólidos contra tu idea y trabaja en las objeciones que aún no puedes responder.
Fuentes
Estas fuentes respaldan los hechos que se exponen en esta página. En cada caso explicamos qué demuestra la fuente y hasta dónde llega. Las recomendaciones son nuestras. Consultar todas las fuentes.
- Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 de octubre de 2023; ICLR 2024 · Investigación revisada por pares Cinco asistentes de IA se mostraron complacientes de forma sistemática. Al analizar las preferencias de las personas, los investigadores observaron que elegían con más frecuencia las respuestas que coincidían con sus opiniones. En ocasiones preferían una respuesta complaciente que sonaba convincente a una respuesta correcta. Límites: Se probaron modelos de 2023.