Glosario

Sistema de IA que ejecuta acciones para completar una tarea. Puede enviar mensajes, actualizar registros, hacer compras o pedir ayuda a otros agentes.

Concede al agente solo el acceso que necesita. Para clasificar mensajes puede bastarle con leer tu bandeja de entrada, sin permiso para enviar correos.

Principios relacionados: 1. Supervisión humana de la IA · 4. Permisos limitados para los agentes de IA

Fuentes: Model AI Governance Framework for Agentic AI; OWASP Top 10 for LLM Applications, 2026 edition

Conocimientos y habilidades que te permiten usar la IA con criterio, reconocer las oportunidades que ofrece y entender sus riesgos y posibles daños.

El Reglamento de Inteligencia Artificial de la UE define este término y exige a las organizaciones que suministran o utilizan sistemas de IA que tomen medidas para fomentar la alfabetización de su personal en esta materia.

Principios relacionados: 5. Criterio propio y habilidades

Fuentes: Regulation (EU) 2024/1689 (Artificial Intelligence Act); Regulation (EU) 2026/1744 (AI Omnibus)

Tratamiento que impide identificar a una persona a partir de sus datos por cualquiera de los medios que razonablemente cabría utilizar. Quitar los nombres rara vez basta.

Principios relacionados: 3. Confidencialidad de la información compartida con la IA

Fuentes: How do we ensure anonymisation is effective?

Herramienta de IA con la que trabajas en un chat o dentro de una aplicación. Genera borradores, respuestas y sugerencias. Cuando también puede ejecutar acciones, actúa como agente.

Principios relacionados: 1. Supervisión humana de la IA

Término de OWASP para describir lo que ocurre cuando se dan a un sistema de IA más funciones, permisos o libertad de acción de los que necesita para su tarea. Un error o una instrucción maliciosa pueden entonces causar daños más allá de esa tarea.

Principios relacionados: 4. Permisos limitados para los agentes de IA

Fuentes: OWASP Top 10 for LLM Applications, 2026 edition

Tendencia del asistente de IA a decirte lo que cree que quieres oír. Puede darte la razón, halagarte o abandonar una respuesta correcta cuando la cuestionas.

Principios relacionados: 6. Revisión crítica de ideas y reconocimiento de sesgos

Fuentes: Towards Understanding Sycophancy in Language Models; Sycophancy in GPT-4o: what happened and what we’re doing about it

Conexión que permite a un asistente de IA consultar datos o actuar en otro sistema, como el correo, el calendario, el servicio donde guardas tus archivos o el CRM. Por lo general, el asistente puede ver lo mismo que tú.

Principios relacionados: 2. Una fuente única de referencia para la IA · 3. Confidencialidad de la información compartida con la IA

Fuentes: Data, privacy, and security for Microsoft Copilot

Se produce cuando un sistema de IA presenta con seguridad algo que parece verosímil, pero es falso o carece de fundamento. A veces inventa un razonamiento o una cita que parece respaldarlo.

El NIST usa el término «confabulación». También es habitual hablar de «alucinación».

Principios relacionados: 7. Verificación proporcional a lo que está en juego

Fuentes: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)

Imágenes, audio, vídeo o texto que la IA genera o modifica de forma sustancial. La imagen de una isla imaginaria es un ejemplo. Una grabación falsa que imita la voz de un compañero para dar instrucciones en su nombre es, además, una ultrasuplantación o deepfake.

Principios relacionados: 9. Transparencia sobre el uso de la IA

Fuentes: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Supervisión de la actividad general de un sistema de IA. Incluye decidir si se utiliza y, en su caso, cuándo y cómo.

Es una de las tres formas de supervisión que describió en 2019 el grupo de expertos de alto nivel sobre IA de la UE. En el trabajo diario, se concreta al elegir el nivel de supervisión de cada tarea.

Principios relacionados: 1. Supervisión humana de la IA

Fuentes: Ethics Guidelines for Trustworthy AI

Cualquier información sobre una persona identificada o identificable. La definición del RGPD es amplia: un nombre, un número de identificación, datos de localización o una combinación de detalles pueden permitir identificar a alguien.

Principios relacionados: 3. Confidencialidad de la información compartida con la IA

Fuentes: Regulation (EU) 2016/679 (General Data Protection Regulation)

Lugar acordado donde se mantiene la versión oficial de cada dato importante, con una persona responsable y una fecha. Tanto las personas como la IA consultan esa fuente. Puede haber varios sistemas, siempre que cada dato tenga un único lugar de referencia.

El estándar establece cinco reglas: acordar una única fuente para cada dato, indicar el responsable y la fecha de cada fuente, hacer que la IA la consulte, mantener los borradores como tales y corregir los errores en el original. El principio 2 explica cómo aplicarlas.

Principios relacionados: 2. Una fuente única de referencia para la IA

Consiste en dar al sistema de IA fuentes concretas, como documentos aprobados, en las que debe basar su respuesta, y pedirle que indique cuáles ha utilizado.

Principios relacionados: 2. Una fuente única de referencia para la IA · 7. Verificación proporcional a lo que está en juego

Error detectado antes de que cause daño. Comunicarlo permite al equipo corregir el problema antes de que alguien sufra sus consecuencias.

Principios relacionados: 10. Responsabilidad por los resultados obtenidos con IA

Forma de trabajar en la que una persona revisa y aprueba el resultado o la acción de un sistema de IA antes de que surta efecto. Corresponde al nivel 2 del estándar: la IA propone y tú apruebas.

En 2019, el grupo de expertos de alto nivel sobre IA de la UE la describió como la posibilidad de intervenir en cada ciclo de decisión. El propio grupo señaló que a menudo esto no es posible ni deseable. Por eso el estándar distingue cuatro niveles de supervisión.

Principios relacionados: 1. Supervisión humana de la IA

Fuentes: Ethics Guidelines for Trustworthy AI; Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Texto diseñado para que un sistema de IA actúe de una forma que su usuario no pretendía. Alguien puede introducirlo directamente u ocultarlo en un correo, una página web o un documento que el sistema vaya a leer.

El National Cyber Security Centre del Reino Unido advierte que quizá nunca se resuelva del todo. Por eso conviene limitar lo que el sistema puede hacer si alguien consigue engañarlo.

Principios relacionados: 4. Permisos limitados para los agentes de IA

Fuentes: OWASP Top 10 for LLM Applications, 2026 edition; Prompt injection is not SQL injection (it may be worse)

Consiste en conceder a cada persona, sistema o agente solo el acceso y los permisos imprescindibles para desempeñar su tarea.

Principios relacionados: 4. Permisos limitados para los agentes de IA

Fuentes: Least privilege (glossary entry)

El estándar ajusta la comprobación al coste de un error. Da un repaso a los borradores internos. Comprueba una muestra si vas a compartir el trabajo con tus compañeros y revísalo por completo si vas a publicarlo, firmarlo, enviarlo a un cliente o tomar una decisión a partir de él.

Principios relacionados: 7. Verificación proporcional a lo que está en juego

Pérdida de destreza que se produce cuando dejamos de practicar una tarea porque ya la hace una máquina.

En aviación se fomenta desde hace tiempo el vuelo manual para conservar la destreza. Los primeros estudios en medicina apuntan a efectos similares.

Principios relacionados: 5. Criterio propio y habilidades

Fuentes: Safety Alert for Operators 13002: Manual Flight Operations; Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

Momento de un proceso en el que una persona debe aprobar una acción concreta antes de que se ejecute. Quien revisa ve la acción exacta y dispone de tiempo y autoridad para rechazarla. El silencio nunca cuenta como aprobación.

Principios relacionados: 1. Supervisión humana de la IA

Fuentes: Model AI Governance Framework for Agentic AI

Persona encargada de mantener al día una fuente oficial, aprobar los cambios y atender los avisos de errores.

Principios relacionados: 2. Una fuente única de referencia para la IA

Regla de equipo que utiliza este estándar para clasificar la información. El verde corresponde a la información pública. El ámbar indica información interna que solo se usa en herramientas autorizadas. El rojo identifica datos personales, confidenciales o regulados que solo pueden tratarse con herramientas y procedimientos autorizados para esos datos.

Principios relacionados: 3. Confidencialidad de la información compartida con la IA

Tendencia a dar demasiado peso a la primera respuesta, cifra o idea que ves al formarte una opinión. Hacer tu propia estimación antes de consultar a la IA ayuda a reducir ese sesgo.

Principios relacionados: 5. Criterio propio y habilidades · 6. Revisión crítica de ideas y reconocimiento de sesgos

Tendencia a confiar demasiado en un sistema automatizado. Puedes dar por buena una respuesta sin comprobarla, seguir un consejo equivocado o pasar por alto un problema porque el sistema no lo señaló.

Afecta tanto a especialistas como a principiantes. El Reglamento de Inteligencia Artificial de la UE exige que los sistemas de IA de alto riesgo se diseñen de modo que quienes los supervisan sigan siendo conscientes de este sesgo.

Principios relacionados: 1. Supervisión humana de la IA · 6. Revisión crítica de ideas y reconocimiento de sesgos

Fuentes: Automation bias: a systematic review of frequency, effect mediators, and mitigators; Complacency and Bias in Human Use of Automation: An Attentional Integration; Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Tendencia a buscar, favorecer y recordar la información que confirma lo que ya crees. Si formulas una pregunta que sugiere la respuesta, es más fácil que el asistente te dé la razón.

Principios relacionados: 6. Revisión crítica de ideas y reconocimiento de sesgos

Fuentes: Confirmation bias: A ubiquitous phenomenon in many guises

Sustitución de nombres u otros identificadores por códigos. La información que permitiría volver a identificar a las personas todavía existe. Los datos seudonimizados siguen siendo datos personales.

Principios relacionados: 3. Confidencialidad de la información compartida con la IA

Fuentes: Pseudonymisation; Regulation (EU) 2016/679 (General Data Protection Regulation)

Forma de trabajar en la que la IA actúa dentro de unos límites y una persona vigila lo que hace y puede intervenir o detenerla. Corresponde al nivel 3 del estándar: la IA actúa dentro de unos límites.

Las directrices de 2019 del grupo de expertos de alto nivel sobre IA de la UE vinculan esta forma de supervisión con la participación de las personas en el diseño del sistema y en el seguimiento de su funcionamiento.

Principios relacionados: 1. Supervisión humana de la IA

Fuentes: Ethics Guidelines for Trustworthy AI

Capacidad de las personas para entender un sistema de IA, vigilarlo, intervenir, detenerlo y decidir si se utiliza. Sus tres formas clásicas son la intervención humana en cada decisión, la supervisión con posibilidad de intervenir y el control humano sobre el uso de la IA.

Principios relacionados: 1. Supervisión humana de la IA

Fuentes: Ethics Guidelines for Trustworthy AI; Regulation (EU) 2024/1689 (Artificial Intelligence Act); Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

Expresión de Simon Willison para tres capacidades que coinciden en un agente: leer datos privados, recibir contenido que no es de confianza y enviar información al exterior. Alguien podría ocultar instrucciones en ese contenido para engañar al agente y conseguir que comparta los datos privados.

Principios relacionados: 4. Permisos limitados para los agentes de IA

Fuentes: The lethal trifecta for AI agents

Imagen, audio o vídeo que la IA genera o altera y que puede pasar por auténtico. Lo que representa puede ser una persona, un objeto, un lugar, una entidad o un suceso de la vida real.

Por regla general, las organizaciones que crean ultrasuplantaciones deben informar de que han generado o alterado el contenido con IA. Así lo exige el Reglamento de Inteligencia Artificial de la UE. En una película o una sátira, el aviso puede incorporarse de forma que respete la obra. El Reglamento contempla una excepción cuando la ley autoriza ese uso con fines policiales o penales, como investigar o prevenir delitos.

Principios relacionados: 7. Verificación proporcional a lo que está en juego · 9. Transparencia sobre el uso de la IA

Fuentes: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Uso de herramientas de IA en el trabajo sin la aprobación de la organización, a menudo desde cuentas personales.

En el Work Trend Index de Microsoft de 2024, el 78 % de quienes usaban IA en el trabajo declaró que utilizaba sus propias herramientas.

Principios relacionados: 3. Confidencialidad de la información compartida con la IA

Fuentes: AI at Work Is Here. Now Comes the Hard Part (2024 Work Trend Index)

Trabajo generado con IA que parece cuidado pero aporta tan poco a la tarea que quien lo recibe tiene que corregirlo o rehacerlo. El término procede de investigadores del Social Media Lab de Stanford y de BetterUp.

Principios relacionados: 8. Calidad del trabajo realizado con IA

Fuentes: AI-Generated “Workslop” Is Destroying Productivity