Verificació de la IA segons el que hi ha en joc

Context

La IA escriu amb la mateixa fluïdesa quan s’equivoca. Pot inventar una referència, citar malament una font, ometre una condició o convertir «previst per divendres» en «garantit». El NIST anomena confabulació la part inventada: contingut fals expressat amb seguretat, de vegades amb citacions inventades que el fan semblar justificat. En els informes llargs aquests errors costen més de detectar, i han arribat a clients i tribunals.

No ho pots comprovar tot, així que adapta la profunditat de la comprovació al cost d’equivocar-se.

Nivells de verificació

Nivell	Per a	Què fas tu
Una ullada	Esborranys interns, idees, notes per a tu	Llegeixes el text. Respon la pregunta que has fet?
Comprovacions per mostreig	Qualsevol cosa que comparteixes amb companys	Comproves els noms, dates, xifres i afirmacions més importants.
Verificació completa	Qualsevol cosa publicada, signada, enviada a un client o utilitzada per decidir	Obres totes les fonts, recalcules, confirmes citacions i dates i demanes una segona opinió a una altra persona quan hi ha molt en joc.

Verificació de les fonts

Obre la font citada i troba el passatge que sustenta l’afirmació. Comprova’n la data i si és aplicable al teu país i mercat. Una segona IA pot tenir els mateixos punts cecs que la primera, així que el fet que hi estigui d’acord no substitueix obrir la font.

Les eines especialitzades redueixen els errors sense eliminar-los. Un estudi de Stanford publicat el 2025 va trobar que les principals eines d’IA per a la recerca jurídica encara donaven respostes inventades en un percentatge d’entre el 17 % i el 33 % de les consultes de prova. El setembre de 2026, una base de dades pública havia registrat més de 2.000 resolucions de jutjats i tribunals relacionades amb contingut inventat per IA, majoritàriament citacions falses.

Verificació de peticions i identitats

Una cara, una veu o un estil d’escriptura familiars poden resultar convincents fins i tot quan algú els ha imitat amb IA. A principis de 2024, un empleat de Hong Kong va transferir uns 200 milions de dòlars de Hong Kong després d’una videotrucada en què els altres participants, inclòs el responsable financer, eren falsos. Llegeix el cas pràctic.

Considera sense verificar qualsevol petició inusual de diners, credencials o dades confidencials fins que la confirmis per un canal que iniciïs tu: torna la trucada a un número que ja tinguis o ves a la taula de la persona. Tant l’FBI com l’institut nacional de ciberseguretat d’Espanya ho recomanen.

Pràctiques

01Adapta el nivell de verificació al que hi ha en joc: una ullada, comprovacions per mostreig o verificació completa.
02Obre la font i troba el passatge que sustenta l’afirmació.
03Recalcula les xifres importants.
04Comprova la data i el lloc: és actual i aplicable al teu país i mercat?
05Verifica les peticions inusuals de diners, credencials o dades per un canal que iniciïs tu.

Exemples de prompts

Compara els dos prompts i comprova quin pas has de fer tu.

Recerca

Redacció amb estadístiques

Abans

Escriu un paràgraf sobre el creixement del mercat europeu d’IA amb estadístiques.

Després

Fes servir només els tres informes adjunts per escriure un paràgraf sobre el mercat europeu d’IA. Després de cada xifra, indica l’informe i la pàgina. Enumera qualsevol afirmació que no hagis pogut sustentar.

La teva part

Comprova cada xifra a la seva pàgina. Elimina les xifres que no puguis trobar.

Per què funciona: El títol de l’informe i el número de pàgina al costat de cada estadística et permeten comprovar-la amb l’original.

Contractes i polítiques

Resum d’una norma

Abans

Resumeix les noves normes de la UE sobre xatbots d’IA.

Després

Resumeix l’article 50 del Reglament d’IA de la UE a partir del text oficial adjunt, en anglès planer. Cita la frase que sustenta cada punt i assenyala tot el que depengui de dates o excepcions.

La teva part

Comprova cada frase citada al text oficial i consulta l’equip jurídic abans de basar-hi cap actuació.

Per què funciona: Les citacions vinculen cada punt al text i els avisos mostren on importen els detalls.

Dades i xifres

Comparació de pressupostos

Abans

Quin és el cost total dels tres pressupostos?

Després

Extreu el preu, la quantitat i qualsevol càrrec addicional de cadascun dels tres pressupostos adjunts en una taula, amb la pàgina de cada xifra. Després suma’ls i mostra el càlcul.

La teva part

Comprova cada xifra a la seva pàgina i torna a fer tu la suma. Busca càrrecs amagats a les condicions.

Per què funciona: Les referències de pàgina et permeten comprovar les xifres al pressupost de cada proveïdor. Sumar-les tu et dona una comprovació independent del total.

Evidència

El NIST defineix la confabulació com a contingut fals expressat amb seguretat, de vegades amb raonaments o citacions inventats que el fan semblar justificat. [NIST AI 600-1]
Les principals eines d’IA per a la recerca jurídica van donar respostes inventades en un percentatge d’entre el 17 % i el 33 % de les 202 consultes de prova d’un estudi de Stanford revisat per experts. [Magesh et al., Stanford]
El 23 de setembre de 2026, una base de dades pública recollia 2.077 resolucions en què jutjats o tribunals havien constatat o suggerit que una part s’havia basat en contingut inventat per IA. [Base de dades Charlotin]
La documentació de Microsoft diu que no es garanteix que les respostes de la IA generativa s’ajustin als fets al 100 % i que els usuaris han d’aplicar el seu criteri en revisar els resultats abans d’enviar-los a altres persones. [Microsoft Learn]
L’FBI recomana penjar i tornar a trucar a un número que busquis tu. L’INCIBE espanyol recomana no autoritzar mai pagaments per telèfon i exigir més d’una persona que aprovi els pagaments elevats. [FBI] [INCIBE]

Casos pràctics i situacions

Pràctica d’equip

Acordeu en quins casos n’hi ha prou amb una ullada, quan fareu comprovacions per mostreig i quan caldrà una verificació completa. Així tot l’equip podrà ajustar la revisió al que hi ha en joc.

Eina per a equipsNivells de verificació

Fonts

Aquestes fonts sustenten els fets d’aquesta pàgina. Expliquem què acredita cadascuna i fins on arriba l’evidència. Les recomanacions són nostres. Consulta totes les fonts que fem servir.

Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology · 26 de juliol de 2024 · Marc voluntari Enumera dotze riscos de la IA generativa, entre els quals hi ha la confabulació (contingut fals expressat amb seguretat, de vegades amb citacions inventades) i la configuració de la relació entre persones i IA, que inclou el biaix d’automatització i la dependència excessiva. Límits: És voluntari. Es va publicar a l’empara d’una ordre executiva que després s’ha revocat, i el marc més ampli està en revisió.
Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools Journal of Empirical Legal Studies (Stanford RegLab and HAI researchers) · 23 d’abril de 2025 · Recerca revisada per experts En 202 preguntes jurídiques, les principals eines d’IA per a la recerca jurídica van donar respostes inventades en un percentatge d’entre el 17 % i el 33 % de les consultes, i un model d’ús general, en el 43 %. Límits: És una instantània d’eines provades el 2024. Les eines han canviat des d’aleshores.
AI Hallucination Cases database Damien Charlotin · Actualització contínua (2.077 casos el 23 de setembre de 2026) · Base de dades de recerca Recull resolucions en què un jutjat o tribunal ha constatat o suggerit que una part s’ha basat en contingut inventat per IA, majoritàriament citacions falses: 2.077 fins al 23 de setembre de 2026, 1.428 de les quals als Estats Units. Límits: La manté una sola persona. Exclou els casos en què l’ús només s’ha al·legat.
Data, privacy, and security for Microsoft Copilot Microsoft · Actualitzat el 18 d’agost de 2026 · Documentació del producte Afirma que Copilot només mostra dades de l’organització per a les quals l’usuari té com a mínim permís de lectura; que els prompts, les respostes i les dades consultades mitjançant Microsoft Graph no es fan servir per entrenar models fundacionals, i que no es garanteix que les respostes generades s’ajustin als fets al 100 %. Per això els usuaris han d’aplicar el seu criteri abans d’enviar resultats a altres persones. Límits: Només s’aplica a aquest producte i a les seves condicions comercials.
Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (I-120324-PSA) FBI Internet Crime Complaint Center · 3 de desembre de 2024 · Avís de servei públic Adverteix que els delinqüents fan servir veu, imatges i vídeos generats amb IA per suplantar persones i recomana penjar i tornar a trucar a un número que busquis tu. Límits: S’adreça a consumidors dels Estats Units.
Suplantación del CEO utilizando la técnica de inteligencia artificial deepvoice INCIBE, Spain’s national cybersecurity institute · 9 de gener de 2024 · Nota oficial d’un cas (en castellà) Descriu una empresa que va pagar a un estafador després d’una trucada amb la veu del seu director general clonada amb IA. Recomana confirmar-ho per un canal en què sàpigues amb qui parles, no autoritzar mai pagaments per telèfon i exigir més d’una persona que aprovi els pagaments elevats. Límits: És un cas anonimitzat del servei d’ajuda.

Cita aquesta pàgina

Founderz (2026). Principi 7: Verificació proporcional al que hi ha en joc. L’Estàndard RUAI, edició de 2026. Desenvolupat per Founderz en col·laboració amb Microsoft. https://responsibleai.founderz.com/ca/toolkit/principles/proportionate-verification

Sota la llicència CC BY 4.0: comparteix i adapta amb atribució.