Glossário

Uma forma de trabalhar em que a IA age dentro de limites definidos enquanto uma pessoa a acompanha e pode intervir ou interromper. Nesta norma, o nível 3: a IA age dentro de limites.

As orientações de 2019 do Grupo de Peritos de Alto Nível sobre IA da UE associam-no à participação humana na conceção do sistema e no acompanhamento do seu funcionamento.

Princípios relacionados: 1. Supervisão humana da IA

Fontes: Ethics Guidelines for Trustworthy AI

Um sistema de IA que executa ações para concluir uma tarefa, como enviar mensagens, atualizar registos, fazer compras ou pedir ajuda a outros agentes.

Dê a um agente apenas o acesso necessário à sua tarefa. Um agente que organiza mensagens pode precisar de ler a caixa de entrada sem poder enviar emails.

Princípios relacionados: 1. Supervisão humana da IA · 4. Permissões limitadas para agentes de IA

Fontes: Model AI Governance Framework for Agentic AI; OWASP Top 10 for LLM Applications, 2026 edition

A tendência para se apoiar demasiado na primeira resposta, número ou ideia que vê ao fazer uma avaliação. Fazer a sua própria estimativa antes de perguntar à IA reduz esse efeito.

Princípios relacionados: 5. Critério próprio e competências · 6. Questionamento e consciência dos vieses

Tratamento dos dados de forma que as pessoas deixem de poder ser identificadas por qualquer pessoa, com os meios razoavelmente suscetíveis de ser utilizados. Retirar apenas os nomes raramente é suficiente.

Princípios relacionados: 3. Confidencialidade da informação partilhada com IA

Fontes: How do we ensure anonymisation is effective?

Uma ferramenta de IA que trabalha consigo numa janela de conversa ou dentro de uma aplicação, produzindo rascunhos, respostas e sugestões que pode utilizar. Quando também pode executar ações, torna-se um agente.

Princípios relacionados: 1. Supervisão humana da IA

O termo da OWASP para dar a um sistema de IA mais funções, permissões ou liberdade de ação do que a tarefa exige. Um erro ou uma instrução maliciosa pode então causar danos para além da tarefa original.

Princípios relacionados: 4. Permissões limitadas para agentes de IA

Fontes: OWASP Top 10 for LLM Applications, 2026 edition

Supervisão da atividade global de um sistema de IA, incluindo a decisão de o utilizar ou não, quando e como.

Um dos três tipos de supervisão descritos pelo Grupo de Peritos de Alto Nível sobre IA da UE em 2019. Escolher o nível de supervisão de cada tarefa é uma forma de o exercer no dia a dia.

Princípios relacionados: 1. Supervisão humana da IA

Fontes: Ethics Guidelines for Trustworthy AI

O termo de Simon Willison para três capacidades no mesmo agente. Pode ler dados privados, encontrar conteúdo não fiável e enviar informação para um destino externo. Alguém pode esconder instruções nesse conteúdo não fiável para enganar o agente e levá-lo a partilhar os dados privados.

Princípios relacionados: 4. Permissões limitadas para agentes de IA

Fontes: The lethal trifecta for AI agents

A tendência de um assistente de IA para dizer às pessoas o que parecem querer ouvir: concordar, lisonjear ou abandonar uma resposta correta quando é contrariado.

Princípios relacionados: 6. Questionamento e consciência dos vieses

Fontes: Towards Understanding Sycophancy in Language Models; Sycophancy in GPT-4o: what happened and what we’re doing about it

Uma ligação que permite a um assistente de IA ler ou agir noutro sistema, como o email, calendário, armazenamento de ficheiros ou CRM. Um conector geralmente dá ao assistente acesso ao que consegue ver.

Princípios relacionados: 2. Uma fonte única de referência para a IA · 3. Confidencialidade da informação partilhada com IA

Fontes: Data, privacy, and security for Microsoft Copilot

Quando um sistema de IA produz com confiança conteúdo plausível, mas falso ou sem fundamento, por vezes com raciocínios ou citações inventados que o fazem parecer fundamentado.

O NIST utiliza a palavra confabulação. Muitas pessoas chamam-lhe alucinação.

Princípios relacionados: 7. Verificação proporcional às consequências

Fontes: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)

Imagens, áudio, vídeo ou texto gerados ou substancialmente alterados por IA. Um exemplo é uma imagem de uma ilha imaginária. Uma gravação falsa que soa como um colega real a dar instruções é também um deepfake.

Princípios relacionados: 9. Transparência sobre o uso de IA

Fontes: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

Qualquer informação relativa a uma pessoa identificada ou identificável. No RGPD, a definição é ampla: um nome, um número de identificação, dados de localização ou uma combinação de pormenores podem tornar alguém identificável.

Princípios relacionados: 3. Confidencialidade da informação partilhada com IA

Fontes: Regulation (EU) 2016/679 (General Data Protection Regulation)

Uma imagem, excerto de áudio ou vídeo gerado ou alterado por IA que representa uma pessoa, objeto, local, entidade ou acontecimento real de uma forma que alguém pode confundir com autêntica.

Nos termos do Regulamento da IA da UE, as organizações que usam IA para criar deepfakes têm, em geral, de divulgar que o conteúdo foi gerado ou alterado. Um filme ou uma sátira pode incluir essa indicação de forma a preservar a obra. O regulamento prevê uma exceção para utilizações autorizadas por lei para investigar ou prevenir crimes, entre outras finalidades de aplicação da lei.

Princípios relacionados: 7. Verificação proporcional às consequências · 9. Transparência sobre o uso de IA

Fontes: Regulation (EU) 2024/1689 (Artificial Intelligence Act)

O local único, acordado, com responsável e data para cada facto importante, usado tanto por pessoas como por IA. Pode abranger vários sistemas, desde que cada facto tenha um único local oficial.

As cinco regras da norma: um local por facto, um responsável e uma data para cada local, a IA encaminhada para esse local, rascunhos que continuam a ser rascunhos e correções feitas na fonte. O princípio 2 explica-as.

Princípios relacionados: 2. Uma fonte única de referência para a IA

Fornecer a um sistema de IA fontes concretas em que basear a resposta, como documentos aprovados, e pedir-lhe que mostre quais utilizou.

Princípios relacionados: 2. Uma fonte única de referência para a IA · 7. Verificação proporcional às consequências

Ferramentas de IA usadas no trabalho sem a aprovação da organização, muitas vezes em contas pessoais.

No Work Trend Index de 2024 da Microsoft, 78% das pessoas que utilizavam IA no trabalho disseram que levavam as suas próprias ferramentas.

Princípios relacionados: 3. Confidencialidade da informação partilhada com IA

Fontes: AI at Work Is Here. Now Comes the Hard Part (2024 Work Trend Index)

Um erro detetado antes de causar danos. Comunicá-lo dá à equipa a oportunidade de resolver o problema antes de prejudicar alguém.

Princípios relacionados: 10. Responsabilidade pelos resultados com IA

Texto escrito para alterar o comportamento de um sistema de IA de formas não pretendidas pelo utilizador. Pode ser introduzido diretamente ou escondido num email, página web ou documento que a IA lê.

O National Cyber Security Centre do Reino Unido alerta que o problema poderá nunca ser totalmente resolvido, pelo que a defesa passa por limitar o que um sistema enganado pode fazer.

Princípios relacionados: 4. Permissões limitadas para agentes de IA

Fontes: OWASP Top 10 for LLM Applications, 2026 edition; Prompt injection is not SQL injection (it may be worse)

Uma forma de trabalhar em que uma pessoa revê e aprova o resultado ou a ação de um sistema de IA antes de produzir efeitos. Nesta norma, o nível 2: a IA propõe, a pessoa aprova.

O Grupo de Peritos de Alto Nível sobre IA da UE descreveu-a em 2019 como a capacidade de intervenção humana em cada ciclo de decisão e referiu que isso muitas vezes não é possível nem desejável. Por isso, a norma usa quatro níveis de supervisão.

Princípios relacionados: 1. Supervisão humana da IA

Fontes: Ethics Guidelines for Trustworthy AI; Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

As competências, os conhecimentos e a compreensão que permitem às pessoas usar bem a IA e conhecer as suas oportunidades, riscos e possíveis danos.

O Regulamento da IA da UE define o termo e exige que as organizações que fornecem ou utilizam sistemas de IA tomem medidas para apoiar a literacia em IA do seu pessoal.

Princípios relacionados: 5. Critério próprio e competências

Fontes: Regulation (EU) 2024/1689 (Artificial Intelligence Act); Regulation (EU) 2026/1744 (AI Omnibus)

A norma adapta as verificações ao custo de um erro. Faça uma leitura rápida dos rascunhos internos. Use verificações pontuais para trabalho partilhado com colegas e verificação completa para trabalho que publica, assina, envia a um cliente ou usa para tomar uma decisão.

Princípios relacionados: 7. Verificação proporcional às consequências

A perda de competências que acontece quando as pessoas deixam de praticar trabalho que uma máquina passou a fazer por elas.

A aviação incentiva há muito o voo manual para manter as competências, e investigação inicial sugere efeitos semelhantes na medicina.

Princípios relacionados: 5. Critério próprio e competências

Fontes: Safety Alert for Operators 13002: Manual Flight Operations; Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study

Um momento num fluxo de trabalho em que uma pessoa tem de aprovar uma ação concreta antes de ser executada. Um ponto de revisão eficaz mostra a ação real, dá ao revisor tempo e poder para dizer não e nunca trata o silêncio como aprovação.

Princípios relacionados: 1. Supervisão humana da IA

Fontes: Model AI Governance Framework for Agentic AI

Dar a cada pessoa, sistema ou agente apenas o acesso e as permissões mínimos necessários ao seu trabalho.

Princípios relacionados: 4. Permissões limitadas para agentes de IA

Fontes: Least privilege (glossary entry)

Substituir nomes ou outros identificadores por códigos, enquanto se conserva a informação necessária para voltar a identificar as pessoas. Dados pseudonimizados continuam a ser dados pessoais.

Princípios relacionados: 3. Confidencialidade da informação partilhada com IA

Fontes: Pseudonymisation; Regulation (EU) 2016/679 (General Data Protection Regulation)

A pessoa responsável por manter uma fonte oficial atualizada, aprovar alterações e resolver os erros comunicados.

Princípios relacionados: 2. Uma fonte única de referência para a IA

Uma regra da equipa que classifica informação em verde (pública), amarelo (interna, apenas em ferramentas aprovadas) e vermelho (pessoal, confidencial ou regulamentada, apenas em ferramentas e processos autorizados para esse fim). Um termo usado nesta norma.

Princípios relacionados: 3. Confidencialidade da informação partilhada com IA

A capacidade das pessoas para compreender, acompanhar, intervir e interromper um sistema de IA e decidir se o devem utilizar. A intervenção no ciclo de decisão, o acompanhamento do funcionamento e o comando humano são as suas três formas clássicas.

Princípios relacionados: 1. Supervisão humana da IA

Fontes: Ethics Guidelines for Trustworthy AI; Regulation (EU) 2024/1689 (Artificial Intelligence Act); Recommendation of the Council on Artificial Intelligence (OECD AI Principles)

A tendência para confiar excessivamente num sistema automatizado: aceitar o resultado em vez de o verificar, seguir recomendações erradas ou não detetar problemas que o sistema não assinalou.

Afeta tanto especialistas como principiantes. O Regulamento da IA da UE exige que os sistemas de IA de risco elevado sejam concebidos para que as pessoas que os supervisionam estejam atentas a este viés.

Princípios relacionados: 1. Supervisão humana da IA · 6. Questionamento e consciência dos vieses

Fontes: Automation bias: a systematic review of frequency, effect mediators, and mitigators; Complacency and Bias in Human Use of Automation: An Attentional Integration; Regulation (EU) 2024/1689 (Artificial Intelligence Act)

A tendência para procurar, favorecer e recordar informação que confirma aquilo em que já acredita. Se a sua pergunta já sugerir uma resposta, o assistente de IA tenderá a confirmá-la.

Princípios relacionados: 6. Questionamento e consciência dos vieses

Fontes: Confirmation bias: A ubiquitous phenomenon in many guises

Trabalho gerado por IA que parece cuidado, mas não tem o conteúdo necessário para fazer uma tarefa avançar, pelo que quem o recebe tem de o corrigir ou refazer. Um termo de investigadores do Social Media Lab de Stanford e da BetterUp.

Princípios relacionados: 8. Qualidade do trabalho com IA

Fontes: AI-Generated “Workslop” Is Destroying Productivity