En bref. Claude-User récupère le contenu des sites web en réponse aux requêtes des utilisateurs de Claude, et Anthropic documente les règles robots.txt permettant de bloquer cet accès.
Définition : Au 17 octobre 2026, Claude-User est l’agent d’Anthropic qui récupère le contenu des sites web en réponse aux questions des utilisateurs de Claude. Anthropic documente des règles robots.txt qui permettent aux propriétaires de sites de bloquer cette récupération à l’initiative des utilisateurs.
Points clés
- La documentation d’Anthropic sur la confidentialité et ses robots d’exploration (crawlers) indique que désactiver Claude-User empêche la récupération de contenu en réponse à une requête utilisateur et peut réduire la visibilité dans les recherches web lancées par les utilisateurs.
- La spécification du protocole d’exclusion des robots (Robots Exclusion Protocol) définit robots.txt comme un fichier de règles d’accès pour les robots d’exploration, situé à la racine du service.
- La liste des adresses des robots publiée par Anthropic contient des plages réseau dans le champ
ipv4Prefix.
En quoi Claude-User diffère-t-il des autres robots d’Anthropic ?
La documentation d’Anthropic sur la confidentialité attribue à Claude-User les requêtes déclenchées par les utilisateurs qui posent des questions à Claude. Claude peut accéder à un site web par l’intermédiaire de cet agent pour répondre à une question.
Le même document attribue à ClaudeBot la collecte destinée à l’entraînement des modèles et à Claude-SearchBot l’amélioration des résultats de recherche. Il présente la restriction d’accès de ClaudeBot comme un signal demandant d’exclure les futurs contenus du site des jeux de données d’entraînement. Désactiver Claude-SearchBot empêche l’indexation destinée à l’optimisation de la recherche. Ces noms distincts permettent aux propriétaires de sites d’exprimer leurs préférences d’accès pour chaque finalité documentée.
Comment un site peut-il bloquer la récupération par Claude-User ?
Un fichier robots.txt communique les préférences d’accès applicables aux robots d’exploration. Les instructions de blocage d’Anthropic indiquent que ses robots respectent ces directives et que le refus d’accès nécessite une modification de ce fichier. L’adaptation à Claude-User de son exemple de blocage d’un site entier donne :
User-agent: Claude-User
Disallow: /
La ligne User-agent sélectionne l’agent, et Disallow: / restreint l’accès à l’ensemble des chemins du site. Les instructions exigent un fichier robots.txt pour chaque sous-domaine dont l’accès doit être restreint.
La RFC 9309, qui spécifie le protocole d’exclusion des robots, exige le chemin en minuscules /robots.txt, l’encodage UTF-8 et le type de média text/plain. Elle exige aussi de combiner les groupes correspondant au même agent et de donner la priorité à la règle dont le chemin correspond le plus précisément à la requête. L’examen des groupes et des exceptions existants fait donc partie de la vérification de la règle effectivement appliquée.
Comment un site peut-il vérifier l’origine d’une requête ?
La documentation d’Anthropic sur la confidentialité indique que la présence de l’adresse source d’un robot dans la liste qu’elle fournit en lien signale que ce robot provient d’Anthropic. Comparer l’adresse source d’une requête aux plages de cette liste JSON constitue la méthode documentée de vérification de l’origine.
La même documentation avertit que le blocage des adresses sources peut perturber la lecture de robots.txt et rendre la prise en compte du refus d’accès peu fiable. La méthode de refus prescrite reste la modification de robots.txt.
Termes associés
Questions fréquentes
Puis-je bloquer Claude-User même si une personne est à l’origine de la requête ?
Oui. La documentation d’Anthropic sur ses robots d’exploration vous permet explicitement de désactiver, au moyen de robots.txt, la récupération par Claude-User en réponse aux requêtes des utilisateurs.
Quel agent contrôle la collecte destinée à l’entraînement ?
La même documentation attribue ce rôle à ClaudeBot. Utilisez le nom de l’agent correspondant à l’activité que vous souhaitez restreindre.
robots.txt protège-t-il les contenus confidentiels ?
Les recommandations de sécurité de la RFC 9309 préconisent des mesures de sécurité au niveau applicatif, comme l’authentification HTTP, pour contrôler l’accès. Les chemins indiqués dans robots.txt sont publics.
Sources
- Anthropic, « Does Anthropic crawl data from the web, and how can site owners block the crawler? », 7 avril 2026
- IETF, « RFC 9309: Robots Exclusion Protocol », septembre 2022
- Anthropic, « bots.json », 7 octobre 2026
Vérifiez comment une page se lit pour les moteurs de réponse. Ouvrir l’analyseur de score GEO