En bref. GopherCite combine des preuves sous forme de citations avec une abstention configurable, tandis que son évaluation distingue l’appui des sources de la vérité factuelle.

Définition : Teaching language models to support answers with verified quotes est l’article de recherche qui présente GopherCite, un modèle de réponse aux questions qui accompagne ses réponses de citations reproduites mot pour mot depuis les sources. L’expérience utilise aussi un seuil de score pour s’abstenir de répondre aux questions dont les réponses candidates obtiennent des scores faibles.

Points clés

Le résumé de l’article rapporte des réponses de haute qualité sur les ensembles filtrés de questions Natural Questions et ELI5, à des taux de 80 % et 67 % respectivement.
L’article complet décrit une génération sous contraintes qui maintient les citations mot pour mot conformes à la source indiquée.
L’annonce de recherche de DeepMind montre que des réponses étayées par des preuves peuvent encore reprendre des idées fausses face à des questions adversariales.

Comment GopherCite produit-il des réponses étayées par des preuves ?

La méthodologie de l’article décrit la réponse aux questions avec preuves à l’appui (self-supported question answering) : produire une réponse accompagnée d’éléments qui étayent ses affirmations. Le système transmet la question reçue à Google Search, fournit au modèle le texte des documents récupérés, génère des réponses candidates et sélectionne une réponse à l’aide d’un modèle de récompense (reward model). Un modèle de récompense est un modèle entraîné à prédire les préférences humaines entre plusieurs réponses candidates.

Des participants comparent les réponses en tenant compte, entre autres, de la mesure dans laquelle les preuves les étayent. Leurs évaluations servent à l’entraînement supervisé et à l’apprentissage par renforcement à partir de préférences humaines, une méthode d’entraînement qui optimise le score du modèle de récompense.

L’article donne ce modèle d’insertion des preuves dans le texte :

%<Claim>%(Document title)%[Quote from document]%

La génération sous contraintes rend la citation conforme au texte du document récupéré. Le format permet aussi à un logiciel de séparer l’affirmation et la preuve pour les afficher. Le lecteur peut examiner le passage précis utilisé pour étayer une réponse.

Que change l’abstention dans l’expérience ?

L’abstention consiste à refuser de répondre à une question. La méthode d’abstention de l’article applique un seuil global au score du modèle de récompense et renvoie « I don’t know » (« Je ne sais pas ») lorsque le score est inférieur à ce seuil. Le modèle sous-jacent est entraîné à répondre directement ; le seuil fournit le mécanisme de refus configurable.

Le taux de couverture (coverage) est la proportion de questions auxquelles le système tente de répondre. À 70 % de couverture, l’expérience rapporte plus de 90 % de réponses étayées et plausibles sur Natural Questions filtré et plus de 80 % sur ELI5 filtré. Ces pourcentages portent sur les questions auxquelles le système tente de répondre. Une modification du seuil fait varier à la fois le taux de couverture et la qualité mesurée parmi les réponses renvoyées.

Que mesurent les scores rapportés ?

Le protocole d’évaluation définit une réponse plausible comme une réponse raisonnable et pertinente au regard de la question. Une réponse étayée est accompagnée de preuves suffisantes pour en vérifier la validité selon les consignes d’évaluation. La comparaison rapportée utilise des sous-ensembles communs de 115 questions de Natural Questions et de 121 questions d’ELI5, avec des évaluations pour l’ensemble des systèmes comparés.

L’article évalue séparément la véracité sur TruthfulQA, un jeu d’évaluation contenant des questions qui suscitent des idées fausses. Il constate que des citations portant sur la fiction, la métaphore ou la satire peuvent étayer des affirmations littéralement fausses. Pour les lecteurs d’un site web, cela distingue la vérification de la conformité d’une citation au texte d’une page de la vérification que le passage cité établit l’exactitude factuelle de la réponse.

Termes associés

Questions fréquentes

« Citations vérifiées » signifie-t-il que chaque réponse est vraie ?

L’échantillonnage sous contraintes de l’article vérifie que les citations proviennent mot pour mot de la source indiquée. Son évaluation sur TruthfulQA montre qu’une réponse étayée peut encore être littéralement fausse.

Que dois-je examiner lorsqu’une réponse contient une citation ?

Vous pouvez comparer la réponse au passage cité et examiner son contexte. L’annonce de DeepMind explique que certaines affirmations nécessitent plusieurs éléments de preuve et un raisonnement logique reliant ces éléments à l’affirmation.

Sources

Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO

Article GopherCite