Par Elisha Bajemon | Publié le 17 octobre 2026

Lost in the Middle : que change la position d’une information pour un modèle de langage ?

En bref

« Lost in the middle » désigne une baisse de performance lorsque l’information utile se trouve au milieu d’un long contexte plutôt qu’à ses extrémités. Selon Liu et ses coauteurs, dans leur étude déposée sur arXiv en 2023, ce phénomène apparaît sur des tâches de questions documentaires et de récupération de valeurs. La mesure porte sur la justesse des réponses. Pour organiser une page, nous recommandons une réponse en tête comme choix de lecture. La méthode Citead cite cette étude sous le critère d’organisation, pondéré à 6,0 %.

Points clés

• Liu et ses coauteurs, en 2023, étudient deux tâches : répondre à une question à partir de documents et retrouver la valeur associée à une clé.
• Dans l’expérience documentaire de Liu et ses coauteurs, en 2023, GPT-3.5-Turbo peut faire moins bien avec le passage utile au milieu que sans document, condition où il atteint 56,1 % de bonnes réponses.
• Dans une expérience distincte de la même étude de 2023, les auteurs rapportent de faibles gains en passant de 20 à 50 documents : environ 1,5 % pour GPT-3.5-Turbo et 1 % pour Claude-1.3, selon leur notation.
• La page de méthode Citead affiche un poids de 6,0 % pour l’organisation du contenu. Le papier de Bajemon et Rochet, publié sur arXiv le 7 septembre 2026, classe cependant ses sous-mesures structurelles parmi celles dont les poids sont faiblement identifiés.

1. Que montre l’étude Lost in the Middle ?

La position du passage pertinent peut modifier la capacité du modèle à répondre correctement. Dans Lost in the Middle, version arXiv du 20 novembre 2023, Nelson F. Liu et ses coauteurs observent souvent une courbe en U : les performances sont meilleures aux extrémités du contexte et baissent au milieu. L’avantage du début est appelé biais de primauté ; celui de la fin, biais de récence.

Le contexte désigne ici le texte fourni au modèle pour accomplir sa tâche. L’information nécessaire y figure déjà. Les chercheurs changent sa position puis examinent la réponse produite. Ils peuvent ainsi distinguer la présence d’une information de son utilisation effective.

Le résultat sur GPT-3.5-Turbo illustre cette différence. Sans document, il obtient 56,1 % de bonnes réponses. Lorsque le passage utile se trouve au milieu, sa performance peut descendre sous ce niveau alors que le contexte contient la réponse attendue.

La chronologie mérite une précision : la prépublication et l’acceptation datent de 2023, tandis que la notice de l’ACL Anthology date la publication dans TACL de 2024.

2. Comment l’expérience a-t-elle été construite ?

Les chercheurs déplacent le document contenant la réponse tout en conservant la question. Leur protocole de 2023 utilise 2 655 requêtes de NaturalQuestions-Open dont la réponse longue annotée est un paragraphe. Les documents sont des passages de Wikipédia d’au plus 100 tokens.

Chaque ensemble comprend un passage portant la réponse annotée et des passages distracteurs qui ne la contiennent pas. Le document utile change de place ; le nombre total de documents varie également, avec des contextes de 10, 20 ou 30 documents. La figure d’ouverture représente le cas de 20 documents, soit environ 4 000 tokens. Pour compter une réponse comme correcte, les chercheurs vérifient si elle contient une réponse attendue d’après les annotations du jeu de données.

La tâche complémentaire est conçue pour limiter le rôle du langage naturel : le modèle reçoit des paires clé-valeur au format JSON et doit restituer la valeur correspondant à une clé. Les chercheurs déplacent la paire recherchée et font varier la longueur de l’entrée. Certains modèles réussissent presque parfaitement cette tâche ; d’autres rencontrent à nouveau des difficultés au milieu. La courbe en U décrit donc une tendance dont l’ampleur dépend du modèle et de la tâche.

3. Quels modèles ont été évalués, et à quelle époque ?

Les comparaisons principales concernent des modèles de 2023. Liu et ses coauteurs évaluent MPT-30B-Instruct, LongChat-13B (16K), GPT-3.5-Turbo et Claude-1.3, avec des variantes à contexte étendu pour ces derniers. Des expériences complémentaires portent aussi sur GPT-4 et Llama-2.

Lorsque le même texte tient dans la fenêtre de contexte du modèle standard et de sa variante étendue, leurs résultats sont presque identiques. Accepter une entrée plus longue et bien exploiter chaque position de cette entrée sont donc des capacités distinctes dans ces essais.

Les auteurs testent également une demande placée avant et après les données : la question pour les documents, ou la clé à retrouver pour les paires clé-valeur. Cette modification conduit à des résultats presque parfaits pour la récupération de valeurs. Elle change peu les tendances sur les questions documentaires : les résultats s’améliorent légèrement lorsque l’information est au début, mais diminuent légèrement dans les autres positions.

Ces variations invitent à conserver le protocole exact lorsqu’on discute le résultat. Une modification de consigne efficace pour retrouver une valeur peut produire un effet différent sur une question nécessitant la lecture de documents.

4. Que peut-on en déduire pour l’ordre des sections d’une page ?

La transposition à une page web reste une hypothèse. Dans le protocole de Liu et ses coauteurs, en 2023, l’objet déplacé est un document au sein du texte fourni au modèle. La variable mesurée est la justesse de la réponse. L’étude ne mesure ni l’effet de déplacer une section dans une page web, ni le choix des sources ou leur citation par un moteur de réponse.

Pour interpréter cette différence, il faut suivre l’unité manipulée. Dans l’expérience, les chercheurs contrôlent l’ordre de l’ensemble des passages transmis au modèle. Sur votre site, vous contrôlez l’ordre des sections de votre propre page. Assimiler ces positions supposerait que la place d’une section dans l’article détermine aussi sa place dans l’entrée complète du modèle. Cette correspondance demanderait une vérification indépendante.

Le critère de réussite compte tout autant. Les auteurs vérifient la présence d’une réponse attendue dans la sortie du modèle. Pour étudier la citation, il faudrait observer un autre résultat : le lien ou la référence attribuée à la page. Une amélioration de la justesse des réponses ne suffit donc pas à établir une amélioration de la citation. Cette distinction évite de donner à un résultat expérimental une portée éditoriale plus large que sa mesure.

Nous recommandons aux consultants qui utilisent cette étude de formuler précisément leur hypothèse : déplacer la réponse principale modifierait-il la manière dont un système donné exploite cette page ? Pour examiner cette proposition, il faudrait conserver le contenu et les questions, documenter ce que le système reçoit réellement, puis comparer les réponses produites. Si l’objectif concerne les citations, celles-ci devraient faire l’objet d’un relevé séparé. Il s’agit ici d’une proposition de méthode, sans résultat associé.

Pour votre propre rédaction, vous pouvez donc choisir une introduction qui donne immédiatement la réponse. Présentez ce choix comme une priorité de lecture. Gardez les conditions d’application et les sources à proximité de l’affirmation qu’elles précisent : nous recommandons de préserver ce lien même lorsque vous raccourcissez l’ouverture. Le lecteur doit pouvoir comprendre la portée de la réponse sans attendre la conclusion.

5. Quel lien existe avec le critère d’organisation du score Citead ?

Au 9 octobre 2026, la page « Comment le score GEO est calculé » de Citead attribue 6,0 % du score à l’organisation du contenu. Elle mentionne l’ordre des sections, la hiérarchie des titres, l’équilibre entre pertinence et diversité, ainsi que le déroulement logique du texte. Lost in the Middle apparaît comme référence de ce critère.

Le papier de Bajemon et Rochet du 7 septembre 2026 décrit plus précisément une sous-mesure de structure des titres. Son calcul associe notamment la qualité des sections, la cohérence des niveaux de titres et un terme favorisant les sections placées en tête. La table de justification du papier rattache cette sous-mesure aux travaux de Järvelin et Kekäläinen ; la référence à Lost in the Middle figure sur la page publique de méthode.

Le même papier explique une limite du test : les mesures structurelles prennent presque toujours les mêmes valeurs, car les passages du corpus comportent rarement les blocs Markdown nécessaires. Leur capacité à différencier des pages structurées reste donc peu éprouvée dans ce corpus. Les poids correspondants sont qualifiés de faiblement identifiés.

Nous recommandons de lire ce sous-score comme un repère de structure. Le poids affiché décrit le calcul de Citead ; il ne représente pas un gain de citation. Le papier situe d’ailleurs le score parmi les filtres de qualité et écarte son emploi comme prédicteur de citation.

6. Comment organiser une page pour le lecteur ?

Nous recommandons de placer une réponse courte en tête, puis les explications nécessaires pour l’évaluer. C’est le choix de format visible dans le guide Citead sur llms.txt, publié le 23 septembre 2026, qui ouvre son contenu par un bloc « En bref ».

Commencez par la question que le lecteur vient résoudre. Donnez la réponse avec sa condition principale, puis développez le raisonnement sous des titres qui annoncent ce que chaque section explique. Lorsqu’une affirmation repose sur une étude, rapprochez le lien et la date du résultat. Nous proposons cette organisation pour permettre une lecture courte, suivie d’un examen plus approfondi si nécessaire.

Lors de la relecture, lisez l’ouverture seule : conserve-t-elle les réserves qui changent le sens de la réponse ? Vérifiez ensuite chaque section : son titre correspond-il au contenu, et l’appui annoncé figure-t-il à côté de l’affirmation ? Ces questions donnent un objectif concret au travail d’organisation.

Pour aller plus loin

• Calibrer un score par intervention : comment les poids du score ont été choisis.
• Comment les moteurs de réponse choisissent leurs sources : ce que les études publiées permettent d’affirmer en 2026.
• Sentence-BERT expliqué : mesurer la proximité de sens entre une question et un passage.
• Entropie de Shannon et densité d’information : ce que mesure le premier poids du score.