En bref. Un grand modèle de langage prédit des séquences de jetons, tandis que la recherche d’information peut fournir des passages externes pour une réponse.

Définition : Un grand modèle de langage (large language model, LLM) est un système de prédiction linguistique entraîné sur de vastes corpus de textes. Il estime les probabilités de séquences de jetons (tokens), des unités de texte telles que des mots, des fragments de mots ou des caractères, et peut produire du texte à partir de ces prédictions.

Points clés

L’introduction aux modèles de langage de Google définit la modélisation du langage par les probabilités attribuées à des séquences de jetons.
Le cours sur les LLM de Google présente le Transformer comme une architecture largement utilisée pour les LLM.
L’article sur la génération augmentée par recherche associe un générateur de texte à un index de documents externe.
Au 17 octobre 2026, la documentation de Google sur ses fonctionnalités d’IA indique qu’AI Overviews et AI Mode peuvent lancer plusieurs recherches connexes pour élaborer une réponse.

Comment un LLM traite-t-il le texte ?

La tokenisation découpe le texte en unités que le modèle traite. L’exemple de tokenisation de Google montre comment le mot unwatched peut se décomposer en un préfixe, une racine et un suffixe :

un (le préfixe)
watch (la racine)
ed (le suffixe)

Le contexte est l’information environnante qui sert à interpréter un jeton. Dans le même cours, Google explique que le contexte aide à déterminer si orange désigne un fruit ou une couleur.

Un LLM utilise un réseau de neurones, un modèle qui apprend des régularités en ajustant des valeurs numériques appelées paramètres. Le cours de Google sur le Transformer décrit l’auto-attention (self-attention), un mécanisme qui pondère les relations entre les jetons en entrée. Il décrit aussi les modèles à décodeur seul, qui produisent de nouveaux jetons à partir du texte déjà généré et peuvent poursuivre une consigne fournie en entrée (prompt).

L’entraînement ajuste les paramètres ; la génération utilise le modèle obtenu pour produire du texte. Google présente l’ajustement aux instructions (instruction tuning) comme une étape supplémentaire d’entraînement qui peut améliorer le respect des consignes.

Quel est le lien entre la recherche d’information et un LLM ?

La recherche d’information sélectionne des informations dans une collection externe. La génération augmentée par recherche (retrieval-augmented generation, RAG) associe ces informations à un modèle de langage lors de la production d’une réponse.

L’article de Patrick Lewis et de ses collègues décrit un générateur de texte associé à un index de Wikipédia. Le générateur utilise les passages retrouvés pour produire sa sortie. L’article explique aussi que les modèles de langage préentraînés stockent des connaissances factuelles dans leurs paramètres. Une réponse peut donc s’appuyer sur deux sources d’information distinctes : les connaissances apprises pendant l’entraînement et les passages fournis par la recherche.

Pour l’analyse d’un site web, cette distinction sépare les connaissances apprises par un modèle des documents qu’un système de réponse retrouve.

Quelles conséquences pour un site web ?

Google nomme sa technique de recherches connexes query fan-out : des recherches portant sur plusieurs sous-thèmes et sources de données contribuent à élaborer une réponse. Ses consignes pour les sites web précisent qu’une page doit être indexée et pouvoir apparaître avec un extrait dans Google Search pour être admissible comme lien à l’appui d’une réponse dans AI Overviews ou AI Mode.

Les mêmes consignes recommandent d’autoriser l’exploration dans robots.txt et au niveau de l’infrastructure d’hébergement, de rendre les pages accessibles par des liens internes et de proposer les contenus importants sous forme de texte. Ce sont des vérifications concrètes pour un site web, en lien avec le processus de recherche d’information de Google.

Termes associés

Questions fréquentes

La génération choisit-elle toujours le jeton le plus probable ?

Le cours de Google sur les modèles de langage décrit deux possibilités : choisir la prédiction dont la probabilité est la plus élevée ou sélectionner aléatoirement un jeton parmi ceux dont la probabilité dépasse un seuil.

Un LLM peut-il produire des faits incorrects ?

Oui. Le cours de Google sur les LLM décrit l’hallucination comme des prédictions qui contiennent des erreurs.

Un site web doit-il prévoir un balisage propre aux LLM pour les fonctionnalités d’IA de Google ?

La documentation de Google sur ses fonctionnalités d’IA indique que ces fonctionnalités ne nécessitent ni nouveaux fichiers texte destinés à l’IA ni données structurées schema.org particulières.

Sources

Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO

Grand modèle de langage (LLM)