En bref. GPTBot collecte des contenus susceptibles de servir à l’entraînement des modèles OpenAI, avec une règle robots.txt distincte de celle du robot de recherche d’OpenAI.
Définition : GPTBot est le robot d’exploration web (web crawler) d’OpenAI chargé de collecter des contenus susceptibles de servir à l’entraînement de ses modèles d’IA. Au 17 octobre 2026, OpenAI documente une règle robots.txt propre à GPTBot pour indiquer que le contenu d’un site doit être exclu de l’entraînement.
Points clés
- La documentation des robots d’OpenAI identifie
GPTBotcomme le nom du robot utilisé pour la collecte de contenus destinés à l’entraînement. - OpenAI documente des paramètres indépendants pour GPTBot et OAI-SearchBot, qui permettent à un site d’interdire l’exploration liée à l’entraînement tout en autorisant celle liée à la recherche.
- La fiche GPTBot d’OpenAI fournit un exemple de chaîne d’identification (user-agent) et un lien vers les plages d’adresses IP publiées.
- Le protocole d’exclusion des robots (Robots Exclusion Protocol) place les instructions destinées aux robots dans un fichier nommé
/robots.txt, à la racine du service.
Qu’est-ce que cela change pour la recherche ChatGPT ?
OAI-SearchBot est le robot d’exploration d’OpenAI qui permet de faire apparaître des sites dans les résultats de recherche de ChatGPT. La présentation des robots d’OpenAI décrit explicitement la possibilité d’autoriser OAI-SearchBot tout en interdisant GPTBot. Un site dispose donc de paramètres distincts pour l’exploration liée à la recherche et celle liée à l’entraînement.
La même documentation indique que, lorsque les deux robots sont autorisés, OpenAI peut réutiliser les résultats d’une seule exploration pour les deux usages afin d’éviter une double exploration. Les journaux du serveur doivent donc être interprétés en tenant compte des paramètres du site relatifs aux robots.
Comment bloquer GPTBot dans robots.txt ?
Un fichier robots.txt contient des groupes de règles adressés aux robots par leur nom. Le protocole d’exclusion des robots définit un groupe comme des lignes user-agent suivies de règles ; la ligne user-agent suivante ou la fin du fichier termine ce groupe.
La configuration suivante exprime les choix distincts décrits dans la documentation d’OpenAI :
User-agent: GPTBot
Disallow: /
User-agent: OAI-SearchBot
Allow: /
User-agent: GPTBot sélectionne le groupe de GPTBot. Disallow: / exclut les chemins commençant à la racine. Le groupe OAI-SearchBot autorise l’exploration liée à la recherche sur ces chemins. Les règles d’accès du protocole exigent que le fichier soit accessible à l’emplacement /robots.txt, encodé en UTF-8 et servi avec le type text/plain.
Les règles existantes doivent être prises en compte lors de la modification de ce fichier. Selon les règles de correspondance du protocole, les groupes qui correspondent au même robot sont fusionnés. Un groupe propre à un robot et correspondant à son nom est prioritaire sur le groupe par défaut nommé *.
Comment vérifier les requêtes de GPTBot ?
Une chaîne user-agent identifie le client à l’origine d’une requête. OpenAI fournit cet exemple pour GPTBot, dont le numéro de version peut changer :
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.4; +https://openai.com/gptbot
Une vérification pratique des journaux consiste à repérer les requêtes contenant GPTBot et à comparer leurs adresses IP sources aux plages publiées, accessibles depuis la documentation des robots d’OpenAI. OpenAI documente aussi un marqueur facultatif robots.txt dans la chaîne user-agent lors de la récupération de ce fichier, ce qui aide à distinguer les requêtes de récupération des règles des requêtes visant d’autres ressources.
Termes associés
Questions fréquentes
Puis-je autoriser l’exploration pour la recherche ChatGPT tout en bloquant GPTBot ?
Oui. OpenAI documente des paramètres indépendants pour GPTBot et OAI-SearchBot. Vous pouvez utiliser des groupes robots.txt distincts pour exprimer ces choix.
Une règle GPTBot contrôle-t-elle aussi les visites demandées par les utilisateurs ?
OpenAI présente ChatGPT-User comme l’agent chargé de certaines visites déclenchées par les utilisateurs. Ces actions étant lancées par les utilisateurs, OpenAI indique que les règles robots.txt peuvent ne pas s’appliquer.
Le fichier robots.txt protège-t-il les pages confidentielles ?
Le protocole d’exclusion des robots précise que ses règles ne constituent pas une autorisation d’accès. Vous devez mettre en place des contrôles d’accès pour les contenus confidentiels.
Sources
- OpenAI, « Overview of OpenAI Crawlers », consulté le 17 octobre 2026
- IETF, « Robots Exclusion Protocol », septembre 2022
Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO