Baiduspider

L'équipe Citead, mis à jour le

En bref. Baiduspider est le robot d’exploration de Baidu, dont les règles robots.txt et l’identification par DNS inverse sont documentées.

Définition : Baiduspider est le robot d’exploration (crawler) automatisé du moteur de recherche Baidu. Il visite les pages web pour constituer la base de données de l’index utilisée par Baidu Search.

Points clés

  • Au 17 octobre 2026, la présentation du robot de Baidu répertorie Baiduspider pour la recherche web et Baiduspider-image pour la recherche d’images.
  • La documentation sur le fonctionnement de la recherche de Baidu décrit le suivi des liens hypertextes à partir d’URL de départ et le retour sur des pages déjà explorées.
  • Le manuel robots de la plateforme place robots.txt, un fichier texte brut qui définit les règles d’accès des robots, à la racine du site web.

Comment l’exploration alimente-t-elle Baidu Search ?

La documentation sur le fonctionnement de la recherche de Baidu distingue l’exploration (crawl), l’indexation et la présentation des résultats. L’exploration collecte et actualise les informations du web. Le système d’indexation analyse ensuite les pages collectées, en extrait les informations et constitue la base de données dans laquelle les résultats de recherche sont sélectionnés.

La même documentation indique que Baiduspider adapte sa fréquence d’exploration en fonction de facteurs tels que la fréquence de mise à jour du contenu et la charge du serveur. Elle oriente les sites soumis à une charge d’exploration excessive vers l’outil de gestion de la fréquence d’exploration de la plateforme. Elle décrit aussi un outil de soumission de ressources pour transmettre des URL à Baidu et un outil de mesure du volume de l’index pour vérifier combien de pages peuvent figurer parmi les résultats de recherche potentiels.

Ces outils mesurent différentes étapes du processus : une visite du robot correspond à une collecte, tandis que le volume de l’index concerne les pages disponibles pour la sélection des résultats.

Comment robots.txt régit-il l’accès de Baiduspider ?

La présentation du robot de Baidu fournit cette configuration pour bloquer Baiduspider :

User-agent: Baiduspider
Disallow: /

La même présentation permet de définir des règles propres à chaque produit, dont un groupe distinct pour Baiduspider-image. Elle précise les exceptions : Baiduspider-cpro et Baiduspider-ads exécutent des opérations convenues avec les clients, n’ajoutent pas les pages récupérées à l’index et ne suivent pas les règles robots. Elle renvoie les réclamations concernant ces robots aux contacts des services publicitaires.

Le manuel robots de Baidu définit Disallow comme un chemin ou un préfixe de chemin à exclure, et Allow comme un chemin ou un préfixe à autoriser. Son exemple Disallow: /help couvre /help.html et /help/index.html ; l’ajout d’une barre oblique finale, comme dans /help/, limite la correspondance à ce préfixe de répertoire.

Le manuel documente aussi * pour la correspondance avec zéro ou plusieurs caractères et $ pour une correspondance en fin de chaîne. La casse des chemins compte : le manuel exige une correspondance exacte entre les majuscules et minuscules des règles et celles des répertoires visés. Son outil Robots permet de créer, de valider et de mettre à jour le fichier, ainsi que de vérifier sa prise en compte par Baidu.

Comment un site web peut-il vérifier l’identité du robot ?

La présentation du robot de Baidu recommande la résolution DNS inverse (reverse DNS), qui associe une adresse IP à un nom d’hôte. Elle indique les motifs de noms d’hôtes *.baidu.com et *.baidu.jp et donne des exemples avec host et nslookup. Elle recommande également de consulter les journaux d’accès pour repérer les usurpations d’identité.

Termes associés

Questions fréquentes

L’ajout d’une règle de blocage dans robots.txt supprime-t-il immédiatement les résultats existants ?

La présentation du robot de Baidu indique que les enregistrements déjà présents dans l’index peuvent mettre plusieurs mois à disparaître après l’arrêt de l’exploration. Vous pouvez aussi vérifier que la configuration robots ne contient pas d’erreurs.

Comment vérifier si Baidu a indexé des pages ?

La documentation sur le fonctionnement de la recherche de Baidu renvoie à son outil de mesure du volume de l’index. Vous pouvez l’utiliser pour consulter le nombre de pages susceptibles de figurer parmi les résultats de recherche.

Sources

  1. Baidu Search Resource Platform, « 百度spider介绍 », 24 avril 2013
  2. Baidu Search Resource Platform, « 百度搜索的工作原理 », 21 décembre 2023
  3. Baidu Search Resource Platform, « 平台工具使用手册: robots », date de mise à jour du chapitre non précisée

Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO

Testez une page et voyez quoi corriger en premier

L'analyse prend en général moins de 10 secondes et ne demande pas de compte.

400 000+ pages notées dans le benchmark public