Saltar al contenido
Founderz: inicio de la Guía de uso responsable de la IA

en colaboración con Microsoft

Principio 10 · Antes de compartir · Asunción de responsabilidad

Responsabilidad por los resultados obtenidos con IA

Las personas y las organizaciones que usan IA responden de los resultados y comunican los problemas en cuanto los detectan.

Pregunta clave

¿Firmaría este trabajo?

Qué aporta

Si comunicas pronto un error, quienes han recibido tu trabajo pueden corregirlo antes de que otras personas se apoyen en él.

Contexto

Tú y tu organización respondéis de lo que se envía en tu nombre, incluido el trabajo que redacta o envía un asistente de IA. En 2024, un tribunal canadiense rechazó el argumento de una aerolínea de que el chatbot de su web era responsable de sus propias respuestas: el chatbot formaba parte de la web de la aerolínea, y esta respondía de todo su contenido.

Si encuentras un error, avisa a las personas afectadas mientras aún puedas ayudar a corregirlo. Comparte lo ocurrido con los compañeros que puedan encontrarse con el mismo problema.

Gestión de errores

  1. Detén el trabajo si sigue en marcha.
  2. Avisa a la persona responsable y, si tu organización ha designado a alguien para atender incidencias con la IA, avísale también.
  3. Conserva lo necesario para entender qué ha ocurrido: el prompt, las fuentes y el resultado.
  4. Corrige el resultado y avisa a las personas afectadas.
  5. Comparte lo aprendido, también cuando el error se haya detectado a tiempo.

Conservación de registros

Cuando alguien pregunta cómo has llegado a una decisión, ayuda tener el prompt, las fuentes que comprobaste y un registro de lo que cambiaste. Para las organizaciones, los OECD AI Principles piden trazabilidad de los conjuntos de datos, los procesos y las decisiones.

Prácticas recomendadas

  1. 01Lee todo lo que envíes, firmes o entregues como si luego tuvieras que responder de tus palabras.
  2. 02Cuando algo salga mal, comunícalo pronto, corrígelo y avisa a las personas afectadas.
  3. 03Comunica también los errores que se hayan evitado por poco. Por ejemplo, si un agente ha estado a punto de enviar el archivo equivocado.
  4. 04Conserva el prompt, las fuentes y el resultado para poder explicar cómo has hecho el trabajo.
  5. 05Comparte con tus compañeros lo que funciona.

Ejemplos de prompts

Compara los dos prompts y fíjate en el paso que tienes que dar tú.

Redacción

Finalización de un informe para un cliente

Antes

El informe final enviado tal como salió:

Redacta el informe final para el cliente.

Después

Redacta las secciones 2 y 3 a partir de mis notas y los datos adjuntos. Marca con [CHECK] cada frase que vaya más allá de mis notas.

Tu parte

Resuelve tú cada [CHECK] y vuelve a leer el informe entero de principio a fin.

Por qué funciona: Las marcas te indican qué afirmaciones debes comprobar porque van más allá de tus notas.

Redacción

Corrección de un error

Antes

La cifra errónea corregida en tu propia copia del informe, sin decir nada a los clientes.

Después

Redacta una nota breve para los tres clientes que recibieron el informe de la semana pasada. En la página 4 figuraba un 21 % y la cifra correcta es el 12 %. Indica que les enviamos la página corregida y que el resto del informe sigue igual.

Tu parte

Comprueba tú la corrección, envíala hoy y cuenta al equipo qué ha ocurrido para que se añada esa comprobación.

Por qué funciona: Una corrección rápida y concreta genera más confianza que una corrección silenciosa.

Decisiones y planes

Registro de una decisión

Antes

Dime qué proveedor elegir.

Después

Compara en una tabla estas tres propuestas de proveedores según los criterios adjuntos. Para justificar cada puntuación, cita el pasaje correspondiente de la propuesta. Después, enumera lo que debo comprobar antes de decidir.

Tu parte

Comprueba los puntos enumerados, decide y guarda la tabla con tu decisión y el motivo. Si alguien pregunta más adelante, podrás mostrar cómo elegiste.

Por qué funciona: Los fragmentos citados te permiten ver en qué se basa cada puntuación. Con la lista puedes hacer tus propias comprobaciones antes de decidir.

Qué dicen las fuentes

  • Un tribunal canadiense consideró a una aerolínea responsable de toda la información de su web, incluidas las respuestas del chatbot, y determinó que había facilitado información falsa de forma negligente. [Moffatt v. Air Canada]
  • Un tribunal federal de Estados Unidos multó a unos abogados y a su despacho por presentar, y después defender, resoluciones judiciales inventadas por un chatbot de IA. [Mata v. Avianca]
  • Un departamento del Gobierno australiano confirmó a CFO Dive que Deloitte había devuelto parte de sus honorarios por un informe que contenía fuentes inventadas y una cita judicial falsa. [The Register] [CFO Dive]
  • Los OECD AI Principles atribuyen a los actores de la IA responsabilidad por el correcto funcionamiento de los sistemas de IA, según sus funciones. [OCDE]
  • Según el marco de Singapur para la IA con agentes, la organización que los pone en funcionamiento y quienes los supervisan siguen respondiendo de sus acciones, incluso cuando actúan por su cuenta. [IMDA]

Casos prácticos y situaciones de trabajo

Práctica en equipo

Designa a una persona de contacto para los problemas con la IA y asigna un responsable a cada agente compartido. Facilita que el equipo comunique también los errores que se hayan evitado por poco, sin buscar culpables.

Herramienta para equiposAcuerdo de equipo sobre IA

Fuentes

Estas fuentes respaldan los hechos que se exponen en esta página. En cada caso explicamos qué demuestra la fuente y hasta dónde llega. Las recomendaciones son nuestras. Consultar todas las fuentes.

  1. Moffatt v. Air Canada, 2024 BCCRT 149 Civil Resolution Tribunal of British Columbia · 14 de febrero de 2024 · Resolución de un tribunal El tribunal rechazó el argumento de que el chatbot respondía por sí mismo de sus respuestas. Consideró a la aerolínea responsable de toda la información de su web, determinó que había facilitado información falsa por negligencia y concedió una indemnización de 812,02 dólares canadienses. Límites: Es una resolución sobre una reclamación de menor cuantía en una sola provincia. No se aportaron pruebas sobre el funcionamiento del chatbot.
  2. Mata v. Avianca, Inc.: opinion and order on sanctions US District Court, Southern District of New York · 22 de junio de 2023 · Resolución judicial El tribunal determinó que los abogados actuaron de mala fe al presentar y luego defender resoluciones judiciales inventadas por un chatbot de IA. Les impuso a ellos y a su bufete una multa de 5000 dólares estadounidenses y les ordenó escribir a su cliente y a los jueces a los que se habían atribuido falsamente las resoluciones. Límites: Un solo caso. Sus lecciones tienen más que ver con las obligaciones profesionales que con la tecnología.
  3. Deloitte refunds Aussie gov after AI fabrications slip into $440K welfare report The Register · 6 de octubre de 2025 · Información periodística Según The Register, el informe para el Department of Employment and Workplace Relations contenía referencias inventadas y una cita judicial falsa. La versión corregida reconocía el uso de IA. Deloitte accedió a devolver el último pago de sus honorarios. Límites: Una información periodística.
  4. Deloitte refunds over $60K for report with AI errors, Australian government says CFO Dive · 21 de octubre de 2025 · Información periodística Según la declaración del departamento que recoge el medio, el reembolso superaba los 97 000 dólares australianos. Límites: Una información periodística sobre una declaración del Gobierno.
  5. Recommendation of the Council on Artificial Intelligence (OECD AI Principles) OECD · Recomendación adoptada el 22 de mayo de 2019 y revisada el 3 de mayo de 2024 · Principios intergubernamentales Propone medidas de protección como la capacidad de intervención y supervisión humanas (principio 1.2), la rendición de cuentas con trazabilidad de conjuntos de datos, procesos y decisiones (1.5), y sistemas que puedan anularse, repararse o apagarse de forma segura (1.4). Límites: No es jurídicamente vinculante.
  6. Model AI Governance Framework for Agentic AI Infocomm Media Development Authority, Singapore · Versión 1.5, 20 de mayo de 2026 (primera publicación: 22 de enero de 2026) · Marco voluntario Atribuye a las organizaciones y a quienes supervisan a los agentes la responsabilidad por las acciones de estos. Recomienda exigir aprobación humana en los puntos de revisión importantes, por ejemplo, antes de borrar datos, enviar mensajes o hacer pagos. Siempre que sea posible, el propio sistema debe exigir esa aprobación. Si las revisiones duran muy poco o los revisores casi nunca rectifican una decisión del agente, es posible que estén aprobando por costumbre. Límites: Son orientaciones voluntarias, no legislación. Los casos prácticos los aportaron las propias empresas.

Cómo citar esta página

Founderz (2026). Principio 10: Responsabilidad por los resultados obtenidos con IA. Estándar RUAI, edición de 2026. Desarrollado por Founderz en colaboración con Microsoft. https://responsibleai.founderz.com/es/toolkit/principles/accountability

Licencia CC BY 4.0: puedes compartir y adaptar el texto si reconoces la autoría.