Étude sur la fidélité des attributions en RAG

Définition : Correctness is not Faithfulness in RAG Attributions étudie les citations dans la génération augmentée par la recherche (retrieval-augmented generation, RAG), où un modèle de langage reçoit des documents issus d’une recherche pour produire une réponse. L’étude distingue l’exactitude des citations (citation correctness), qui indique si une source étaye un énoncé, de la fidélité des citations (citation faithfulness), qui indique si le modèle s’appuie causalement sur cette source pour produire l’énoncé.

Points clés

• La notice arXiv donne Jonas Wallat, Maria Heuss, Maarten de Rijke et Avishek Anand comme auteurs et indique une soumission le 23 décembre 2024.
• Le protocole expérimental de l’article teste Command-R+ sur 1 444 questions de NaturalQuestions dont les réponses figurent dans des pages de Wikipédia.
• Au 17 octobre 2026, le dépôt de code des auteurs fournit un notebook d’analyse des attributions et des instructions pour créer des jeux de données contenant des documents modifiés et évaluer de nouvelles prédictions.

Quelle différence entre étayer un énoncé et influer causalement sur sa production ?

La définition de la fidélité des citations donnée dans l’article exige que le document référencé appartienne au contexte issu de la recherche, étaye l’énoncé et influe causalement sur sa production. Vérifier que la source étaye l’énoncé revient à examiner une des conditions de cette définition.

Les auteurs illustrent cette distinction avec une question sur la capitale de l’Allemagne. Un document indiquant que Berlin est la capitale peut étayer une réponse qui nomme Berlin. Le modèle peut utiliser les informations de ce document, ou produire la réponse à partir des connaissances stockées dans ses paramètres, puis trouver une source qui la corrobore. L’article appelle ce dernier comportement une rationalisation a posteriori (post-rationalization). Les deux processus peuvent produire la même réponse et la même citation visibles.

Comment les expériences testent-elles l’utilisation effective des sources ?

Dans l’expérience de rationalisation a posteriori de l’article, BM25 retrouve 30 documents, une méthode de recherche appelée ColBERT v2 les reclasse, puis les 5 premiers sont intégrés au contexte de Command-R+ avec la question. Le modèle produit une réponse accompagnée de citations.

Les chercheurs sélectionnent ensuite de courts énoncés dans ces réponses et les ajoutent à la fin d’autres documents. Parmi les exemples figurent les expressions « Emperor penguin » et « The Choice ». Ces ajouts fournissent des mots correspondants sans le contexte factuel nécessaire pour étayer l’affirmation. Les documents modifiés sont des documents choisis au hasard, des documents pertinents auparavant non référencés, ou des documents auparavant référencés pour d’autres informations.

Le modèle produit de nouvelles réponses. Les chercheurs vérifient si l’énoncé d’origine réapparaît et si le modèle lui associe désormais une référence au document modifié. La figure 3 présente les décomptes suivants ; les pourcentages ont pour dénominateur les cas où l’énoncé d’origine réapparaît.

Le résultat de 57 % décrit donc la condition expérimentale portant sur les documents pertinents mais non référencés. Les auteurs interprètent ces changements de citations comme un indice de rationalisation a posteriori. Leur test suppose que l’insertion d’éléments non pertinents laisse inchangé le processus sous-jacent de production de la réponse ; vérifier cette hypothèse nécessite d’examiner les états internes du modèle.

Quels éléments permettent de vérifier l’expérience ?

Les instructions du dépôt des auteurs désignent le notebook attribution_analysis.ipynb. Sa section « Post-Rationalization Test Dataset » crée les fichiers suivants :

post_ration_random_data.jsonl
post_ration_rel_uncited_data.jsonl
post_ration_cited_other_data.jsonl

Les instructions exécutent ensuite l’inférence du modèle sur chaque fichier avec qnd.py et évaluent les prédictions obtenues dans la section « Post-Rationalization Test Eval » du notebook. Cette procédure concrétise l’intervention : modifier les documents fournis, produire de nouvelles prédictions et comparer les citations associées aux énoncés correspondants.

Termes associés

• Exactitude des citations
• Fidélité des citations
• Génération augmentée par la recherche (RAG)
• Attribution des réponses aux sources

Questions fréquentes

Une citation peut-elle étayer une affirmation tout en donnant une image erronée de l’utilisation de la source ?

Oui. Dans l’exemple de Berlin présenté dans l’article, le même document peut étayer aussi bien une réponse fondée sur ce document qu’une réponse issue des connaissances stockées dans le modèle. Le seul fait que le document étaye la réponse ne permet pas de trancher entre ces deux cas.

Comment interpréter le chiffre de 57 % lorsqu’on possède un site web ?

Considérez-le comme un résultat de l’étude d’intervention menée avec Command-R+ dans cet article, précisément dans la condition portant sur les documents pertinents mais non référencés. Lorsque vous examinez une citation renvoyant à votre page, vérifier le passage qui étaye l’énoncé permet d’évaluer l’exactitude ; établir que le modèle s’appuie causalement sur la source nécessite d’examiner le processus de production de la réponse.

Sources

1. arXiv, « Correctness is not Faithfulness in RAG Attributions », 23 décembre 2024
2. Wallat et al., « Correctness is not Faithfulness in RAG Attributions », texte intégral, 23 décembre 2024
3. Jonas Wallat, « RAG Attributions », sans date

---

Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO