Herramienta para equipos · Plantilla
Mapa de puntos de revisión humana
Un registro de quién revisa cada tarea recurrente con IA, qué ve antes de aprobarla y cómo detenerla o deshacerla.
Principios relacionados
Introducción
Elige entre tres y cinco de las tareas que tu equipo realiza con más frecuencia con IA. Para cada una, registra dónde se detiene el trabajo para revisarlo y quién puede decir que no. Añade otras tareas cuando las necesitéis.
Elección del nivel
Haz tres preguntas para cada tarea. ¿Se puede deshacer? ¿A quién más afecta? ¿Qué coste tiene equivocarse? Cualquier acción irreversible, externa o relacionada con una persona parte del nivel 2 (la IA propone y una persona aprueba) o del nivel 4 (lo haces tú). El principio 1 explica los cuatro niveles.
Señales de alerta
- 01Todas las aprobaciones se resuelven en cuestión de segundos.
- 02Nadie ha rechazado nada en meses.
- 03Quien revisa la acción no puede comprobar a quién va dirigida, cuál es el importe exacto o qué dice el mensaje.
- 04Cuando la persona que revisa no está, la acción sigue adelante de todos modos.
La plantilla
Cada campo incluye instrucciones y un ejemplo de un equipo ficticio.
Ejemplo ficticio: cómo tramita los reembolsos el equipo de Lumen que ayuda a los clientes a sacar partido al producto. Lumen es una empresa de software inventada.
- 01Tarea
-
Describe la tarea en pocas palabras, como lo haría el equipo.
Ejemplo ficticio
Reembolsos por reclamaciones de facturación.
- 02Nivel
-
Elige uno: la IA redacta, la IA propone, la IA actúa dentro de unos límites o lo haces tú.
Ejemplo ficticio
La IA propone.
- 03Por qué este nivel
-
Responde a las tres preguntas: si se puede deshacer, a quién más afecta y qué coste tiene equivocarse.
Ejemplo ficticio
Una vez pagado, es difícil recuperar el importe de un reembolso. La decisión afecta a los clientes y a los ingresos, y un error puede costar dinero y dañar la confianza del cliente.
- 04Quién aprueba
-
Indica a quién corresponde aprobar la acción y quién le suple en su ausencia.
Ejemplo ficticio
La persona responsable del equipo en ese turno. Suplente: la persona responsable de operaciones de soporte.
- 05Qué ve antes de aprobar
-
Enumera lo que necesita la persona que revisa para decidir: la acción exacta, el importe, el destinatario y las pruebas.
Ejemplo ficticio
El cliente, el importe, la cláusula de la política que citó el agente y el borrador de respuesta.
- 06Límites que impone el sistema
-
Enumera los límites que aplican los permisos o la configuración de la herramienta.
Ejemplo ficticio
El agente puede preparar solicitudes de reembolso, pero no efectuar los pagos. Las solicitudes de más de 200 € necesitan una segunda persona que las apruebe.
- 07Si nadie responde
-
Indica qué ocurre cuando la persona que debe aprobar no responde. El silencio nunca cuenta como aprobación.
Ejemplo ficticio
Las solicitudes quedan pendientes. Al cabo de cuatro horas, se avisa a la persona suplente.
- 08Cómo detener y deshacer
-
Indica quién puede pausar la tarea y cómo revertir sus efectos.
Ejemplo ficticio
Cualquier responsable del equipo puede pausar el agente. Los reembolsos solicitados por error se cancelan antes del pago.
- 09Fecha de revisión
-
¿Cuándo comprobaréis que este punto de revisión sigue funcionando?
Ejemplo ficticio
Cada mes, junto con el informe de reembolsos.
Fuentes
Estas fuentes respaldan los hechos que se exponen en esta página. En cada caso explicamos qué demuestra la fuente y hasta dónde llega. Las recomendaciones son nuestras. Consultar todas las fuentes.
- Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Versión 1.5, 20 de mayo de 2026 (primera publicación: 22 de enero de 2026) · Marco voluntario Atribuye a las organizaciones y a quienes supervisan a los agentes la responsabilidad por las acciones de estos. Recomienda exigir aprobación humana en los puntos de revisión importantes, por ejemplo, antes de borrar datos, enviar mensajes o hacer pagos. Siempre que sea posible, el propio sistema debe exigir esa aprobación. Si las revisiones duran muy poco o los revisores casi nunca rectifican una decisión del agente, es posible que estén aprobando por costumbre. Límites: Son orientaciones voluntarias, no legislación. Los casos prácticos los aportaron las propias empresas.
- Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission · 8 de abril de 2019 · Directrices de expertos Describe tres formas de supervisión. En la intervención humana en cada decisión (human-in-the-loop), una persona puede intervenir en cada ciclo de decisión, algo que a menudo ni es posible ni resulta deseable. La supervisión con posibilidad de intervenir (human-on-the-loop) incluye participar en el diseño del sistema y vigilar su funcionamiento. El control humano sobre el uso de la IA (human-in-command) abarca la actividad general del sistema y la decisión de utilizarlo o no, cuándo y cómo. Límites: No es vinculante ni una posición oficial de la Comisión.
- Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (en línea en junio de 2011) · Revisión de estudios revisada por pares Define el sesgo de automatización como la tendencia a confiar en exceso en la automatización, lo que provoca errores de comisión (seguir consejos erróneos) y de omisión (pasar por alto problemas no señalados). Concluye que la formación, la rendición de cuentas y la forma de presentar las recomendaciones pueden reducirlo. Límites: Revisa sistemas de apoyo a las decisiones clínicas anteriores a la IA generativa.