Supervisión humana de la IA

Contexto

Cuando un asistente redacta un correo, tú decides qué enviar. Si puede enviarlo por su cuenta, programar reuniones, modificar registros o encargar trabajo a otro agente, pregúntate qué acciones necesitan tu aprobación.

Una vez fijados esos límites, un agente puede atender doscientas peticiones rutinarias mientras tú te ocupas de las tres que requieren tu intervención.

Cuatro niveles de supervisión humana

Nivel	Qué hace la IA	Qué haces tú	Útil para
1. La IA redacta	Elabora material	Decides qué usar, cambiar o descartar	Redacción, análisis, investigación, ideas
2. La IA propone	Prepara una acción concreta	Apruebas esa acción exacta antes de que se ejecute	Correos a clientes, pagos, cambios en registros
3. La IA actúa dentro de unos límites	Actúa por su cuenta dentro de los límites fijados en sus permisos	Supervisas el trabajo, te ocupas de las excepciones y la detienes cuando hace falta	Tareas rutinarias fáciles de deshacer, como clasificar, etiquetar o reservar salas internas
4. Lo haces tú	Nada por su cuenta	Decides tú	Decisiones sobre personas y acciones costosas que no puedes revertir

Para elegir un nivel, hazte tres preguntas. ¿Se puede deshacer? ¿A quién más afecta? ¿Qué coste tiene equivocarse? Si la acción es irreversible, tiene efectos fuera de tu organización o afecta a una persona, empieza en el nivel 2 o en el 4.

Los niveles parten de tres formas de supervisión humana que el Grupo de Expertos de Alto Nivel sobre IA de la UE describió en 2019: intervención humana en cada decisión (HITL), supervisión con posibilidad de intervenir (HOTL) y control humano sobre el uso de la IA. En el nivel 2 intervienes en cada decisión. En el nivel 3 supervisas la actividad y puedes intervenir cuando haga falta. Al elegir el nivel de cada tarea, mantienes el control sobre el uso de la IA. El glosario recoge las definiciones completas.

Puntos de revisión eficaces

En un punto de revisión eficaz ves qué se va a hacer: a quién se enviará el mensaje, qué texto recibirá, qué importe se pagará o qué registro se modificará. Tienes tiempo y conocimientos para valorarlo. Un no detiene la acción, y el silencio nunca cuenta como un sí. Si la acción cambia después de aprobarla, debes revisarla de nuevo. Una segunda IA también puede revisar el trabajo, pero que esté de acuerdo no equivale a que tú lo apruebes.

Si pulsas «aprobar» en cada sugerencia, puedes pasar por alto un error aunque tengas tiempo para detectarlo. Los investigadores lo llaman sesgo de automatización, y el Reglamento de IA de la UE exige una supervisión humana que lo tenga en cuenta. El marco de Singapur para la IA con agentes añade una señal de alerta práctica: cuando quienes revisan casi nunca rechazan lo que propone el sistema o aprueban muy deprisa, comprueba si alguien está revisando de verdad.

Decisiones sobre personas

Algunas decisiones siguen en manos de las personas, con independencia de lo que pueda hacer la herramienta: contratación, promoción, retribución, evaluaciones del desempeño y despidos, y cualquier decisión que cambie el acceso de alguien al dinero, la atención sanitaria o los servicios públicos. La IA puede ayudar con las gestiones, como redactar una oferta de empleo o programar entrevistas. La decisión es tuya, se basa en criterios que puedes explicar y sigue el procedimiento de RR. HH. y del departamento jurídico de tu organización.

En la UE, los sistemas de IA que filtran candidaturas o ayudan a decidir ascensos o despidos suelen considerarse de alto riesgo. El RGPD también limita las decisiones íntegramente automatizadas que tengan efectos jurídicos u otras consecuencias de importancia comparable para la persona afectada. Encontrarás los detalles en Qué dice la ley.

Prácticas recomendadas

01Indica el nivel antes de empezar: la IA redacta, la IA propone, la IA actúa dentro de unos límites o lo haces tú.
02Lee antes de aprobar. Si no puedes valorarlo, pide ayuda a alguien que pueda.
03Asegúrate de poder detener la tarea y deshacer lo que haya hecho la IA.
04Deja las decisiones sobre personas en manos de personas, con criterios que puedas explicar.
05Cuando cambien la tarea, los datos o la herramienta, vuelve a elegir el nivel.

Ejemplos de prompts

Compara los dos prompts y fíjate en el paso que tienes que dar tú.

Clientes

Reembolsos en atención al cliente

Antes

Responde a las reclamaciones pendientes de atención al cliente y devuelve el dinero a quien cumpla los requisitos.

Después

Para cada reclamación pendiente de atención al cliente, redacta una respuesta y recomienda qué hacer: devolver el dinero, sustituir el producto o remitir el caso a un responsable. Cita la cláusula de la política en la que te basas. Prepara una lista para que pueda revisarlo todo.

Tu parte

Aprueba tú cada respuesta y cada reembolso. Comprueba que los permisos del agente le impidan tramitar un reembolso sin tu aprobación. El prompt por sí solo no puede impedirlo.

Por qué funciona: Puedes revisar varios borradores de respuesta a la vez. Cada solicitud de reembolso incluye la cláusula de la política que necesitas para decidir si la apruebas.

Operaciones y proyectos

Cambio de fecha de una reunión

Antes

Pasa la revisión del proyecto de mañana al viernes y avisa a todos.

Después

Busca tres huecos el viernes en los que los seis asistentes estén libres. Redacta un mensaje breve explicando el cambio. No modifiques el calendario ni envíes nada todavía.

Tu parte

Elige el horario, revisa el mensaje y envíalo. Asegúrate de que el agente no pueda modificar calendarios sin tu aprobación. Cuando hayas visto que lo hace bien varias veces, podrías dejar que actúe por su cuenta en reuniones internas. Ese es el nivel 3.

Por qué funciona: Empezar en el nivel 2 te permite ver cómo se comporta el agente antes de darle más libertad.

Personal y selección

Preparación de entrevistas

Antes

Ordena estos 40 currículos y dime a quién entrevistar.

Después

A partir de la descripción del puesto adjunta, redacta ocho preguntas de entrevista que evalúen las cuatro competencias imprescindibles e indica qué incluiría una buena respuesta.

Tu parte

Revisa tú las candidaturas y decide a quién entrevistar siguiendo el procedimiento de recursos humanos. La IA te ayuda a preparar la entrevista. La decisión sobre los candidatos te corresponde a ti.

Por qué funciona: Obtienes preguntas de entrevista vinculadas a los requisitos del puesto. Tu equipo de selección puede utilizar esos requisitos para explicar sus decisiones.

Qué dicen las fuentes

El Reglamento de IA de la UE exige que los sistemas de IA de alto riesgo se construyan de modo que quienes los supervisan sean conscientes del sesgo de automatización, la tendencia a confiar en exceso en el resultado. [Reglamento de IA de la UE]
El marco de Singapur para la IA con agentes mantiene la responsabilidad de las organizaciones y de sus supervisores humanos por lo que hacen los agentes, y pide aprobación humana en puntos de revisión importantes, como borrar datos, enviar mensajes y realizar pagos. [IMDA]
Ese mismo marco considera que una tasa muy baja de rectificaciones o unas revisiones muy rápidas pueden indicar aprobaciones por inercia, y prefiere las aprobaciones exigidas por el sistema a las solicitadas en un prompt. [IMDA]
Los OECD AI Principles, adoptados por los gobiernos en 2019 y revisados en 2024, piden salvaguardas como la capacidad de decisión y la supervisión humanas. [OCDE]
Una revisión sistemática concluyó que el sesgo de automatización lleva tanto a seguir consejos erróneos como a pasar por alto problemas que el sistema no señaló. [Goddard et al., JAMIA]
Cuando el Gobierno del Reino Unido utilizó IA para clasificar 87 738 respuestas a una consulta, 125 personas revisaron el trabajo de la herramienta y los equipos responsables de las políticas aprobaron los temas. [i.AI]

Casos prácticos y situaciones de trabajo

Práctica en equipo

Recoge en una página las tareas recurrentes de tu equipo y asigna a cada una un nivel de supervisión. Así, alguien que se incorpore puede consultar quién debe aprobar un reembolso o un correo a un cliente.

Herramienta para equiposMapa de puntos de revisión humana

Fuentes

Estas fuentes respaldan los hechos que se exponen en esta página. En cada caso explicamos qué demuestra la fuente y hasta dónde llega. Las recomendaciones son nuestras. Consultar todas las fuentes.

Regulation (EU) 2024/1689 (Artificial Intelligence Act) European Union, Official Journal · 13 de junio de 2024 · Legislación El texto vinculante del Reglamento de IA de la UE, incluidas las definiciones de alfabetización en materia de IA y ultrasuplantación (artículo 3), las prácticas prohibidas, como el reconocimiento de emociones en el trabajo (artículo 5), la supervisión humana que protege frente al sesgo de automatización (artículo 14) y las obligaciones de transparencia (artículo 50). Límites: Se aplica por fases y se modificó en julio de 2026 (véase el AI Omnibus). Las obligaciones aplicables dependen del papel de la organización y del sistema. Los resúmenes de este sitio no son asesoramiento jurídico.
Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Versión 1.5, 20 de mayo de 2026 (primera publicación: 22 de enero de 2026) · Marco voluntario Atribuye a las organizaciones y a quienes supervisan a los agentes la responsabilidad por las acciones de estos. Recomienda exigir aprobación humana en los puntos de revisión importantes, por ejemplo, antes de borrar datos, enviar mensajes o hacer pagos. Siempre que sea posible, el propio sistema debe exigir esa aprobación. Si las revisiones duran muy poco o los revisores casi nunca rectifican una decisión del agente, es posible que estén aprobando por costumbre. Límites: Son orientaciones voluntarias, no legislación. Los casos prácticos los aportaron las propias empresas.
Recommendation of the Council on Artificial Intelligence (OECD AI Principles) OECD · Recomendación adoptada el 22 de mayo de 2019 y revisada el 3 de mayo de 2024 · Principios intergubernamentales Propone medidas de protección como la capacidad de intervención y supervisión humanas (principio 1.2), la rendición de cuentas con trazabilidad de conjuntos de datos, procesos y decisiones (1.5), y sistemas que puedan anularse, repararse o apagarse de forma segura (1.4). Límites: No es jurídicamente vinculante.
Automation bias: a systematic review of frequency, effect mediators, and mitigators Journal of the American Medical Informatics Association · 2012 (en línea en junio de 2011) · Revisión de estudios revisada por pares Define el sesgo de automatización como la tendencia a confiar en exceso en la automatización, lo que provoca errores de comisión (seguir consejos erróneos) y de omisión (pasar por alto problemas no señalados). Concluye que la formación, la rendición de cuentas y la forma de presentar las recomendaciones pueden reducirlo. Límites: Revisa sistemas de apoyo a las decisiones clínicas anteriores a la IA generativa.
Consult Evaluation: DWP’s Pathways to Work consultation UK Incubator for AI (i.AI) · Fechado el 27 de agosto de 2025; publicado el 30 de octubre de 2025 · Evaluación gubernamental Los equipos de políticas públicas modificaron y aprobaron las categorías temáticas propuestas por la IA. Un total de 125 revisores comprobaron cómo había clasificado la herramienta 87 738 respuestas y mantuvieron la clasificación en el 73 % de ellas. La puntuación F1 de concordancia fue de 0,816 entre la herramienta y un revisor y de 0,710 entre dos revisores. La mediana del tiempo de comprobación fue de 19 segundos. Límites: Una sola consulta. Midió el tiempo de comprobación, no el análisis completo.

Cómo citar esta página

Founderz (2026). Principio 1: Supervisión humana de la IA. Estándar RUAI, edición de 2026. Desarrollado por Founderz en colaboración con Microsoft. https://responsibleai.founderz.com/es/toolkit/principles/human-oversight

Licencia CC BY 4.0: puedes compartir y adaptar el texto si reconoces la autoría.