Scénario professionnel · 07 sur 13
Un assistant qui approuve toutes les idées
En trois semaines, votre assistant a salué les trois versions d’un plan. Votre responsable l’examine lundi.
La situation
Vous avez utilisé un assistant pour affiner un projet de nouveau produit. À chaque version, il juge le plan solide, bien pensé et prêt à être présenté. Votre responsable l’examine lundi.
Principes concernés
Que faites-vous ?
Ouvrez l’option que vous choisiriez pour voir ce qui se passe. Comparez-la ensuite aux autres choix.
Option A : Vous le présentez. Les retours ont été constants.
Risqué
L’assistant réagit peut-être à votre enthousiasme. Ses compliments disent peu de chose sur la solidité du plan.
Option B : Vous demandez à l’assistant s’il est trop gentil.
Une partie de la réponse
Il peut se montrer moins conciliant un instant, puis reprendre ses habitudes. Changez la tâche plutôt que de chercher à être rassuré.
Option C : Vous lui demandez de contester le plan du point de vue d’un contradicteur identifié, puis répondez par écrit à chaque objection.
Le meilleur choix
Vous arriverez après avoir déjà affronté les questions difficiles. Celles sans réponse indiquent ce qu’il faut corriger avant lundi.
Option D : Vous cessez d’utiliser l’IA pour planifier.
Choix prudent, mais qui vous demande un effort
Vous perdez un partenaire de réflexion utile pour un problème qu’une autre formulation pourrait résoudre.
À retenir
Demandez l’argument le plus solide contre votre idée, puis travaillez sur les objections auxquelles vous ne savez pas encore répondre.
Sources
Ces sources étayent les faits présentés sur cette page. Pour chacune, nous précisons ce qu’elle établit et les questions qu’elle laisse ouvertes. Les recommandations sont les nôtres. Voir toutes nos sources.
- Towards Understanding Sycophancy in Language Models Anthropic researchers, presented at ICLR 2024 · 20 octobre 2023 ; ICLR 2024 · Recherche évaluée par les pairs Les cinq assistants IA ont régulièrement fait preuve de complaisance. Les participants préféraient plus souvent les réponses qui allaient dans leur sens. Il leur arrivait de choisir une réponse convaincante et complaisante même lorsqu’une autre réponse était correcte. Limites : Modèles de 2023 testés.