Cloudflare Bot Traffic
Au lieu d’importer des logs serveur manuellement, connecte Cloudflare une seule fois — Finseo reçoit ensuite chaque visite de crawler IA et de moteur de recherche automatiquement, quasiment en temps réel. La connexion se trouve dans Bot Analytics → Sync → Cloudflare. Deux méthodes de connexion existent :Les deux méthodes ne transmettent que les requêtes des crawlers IA et de recherche connus (identifiés par le User-Agent). Le trafic des visiteurs normaux n’est jamais envoyé à Finseo.
Quels bots sont suivis
Finseo reçoit les requêtes dont le User-Agent correspond à l’un de ces crawlers :GPTBot, OAI-SearchBot, ChatGPT-User, ClaudeBot, Claude-Web, Claude-SearchBot, anthropic-ai, PerplexityBot, Perplexity-User, Google-Extended, GoogleOther, Googlebot, Bingbot, CCBot, Bytespider, Amazonbot, Applebot, meta-externalagent, FacebookBot, DuckAssistBot, cohere, MistralAI, YandexBot, DuckDuckBot
Avant de commencer
Pour les deux méthodes, tu as besoin de tes identifiants depuis le dashboard Cloudflare. Ouvre dash.cloudflare.com, sélectionne ton domaine et repère la section API sur la page Overview (barre latérale droite) :- Zone ID — toujours requis.
- Account ID — requis pour la méthode Worker.
Méthode 1 : Cloudflare Worker (recommandée)
Fonctionne sur tous les plans Cloudflare. Finseo déploie un petit Worker nomméfinseo-bot-traffic sur ta zone. Le Worker laisse passer chaque requête sans la modifier et — uniquement quand le User-Agent correspond à un crawler connu — signale la visite à Finseo en arrière-plan. Les réponses aux visiteurs ne sont jamais retardées ni modifiées.
Configuration rapide
- Crée un token API personnalisé avec ces permissions :
- Account → Workers Scripts → Edit
- Zone → Workers Routes → Edit
- Zone → Zone → Read
- Dans Finseo, ouvre Bot Analytics → Sync → Cloudflare → Connect.
- Sélectionne Cloudflare Worker.
- Colle le token API, ton Account ID et ton Zone ID.
- Clique sur Deploy Worker.
*tondomaine.fr/*, apex et sous-domaines). L’intégration affiche Awaiting first push jusqu’à l’arrivée de la première visite de bot, puis passe à Connected.
Configuration manuelle
Si tu préfères ne pas saisir de token API, déploie le Worker toi-même :- Dans la boîte de dialogue de connexion Finseo, sélectionne Cloudflare Worker et copie le script Worker (ton token d’ingestion est déjà inclus).
- Dans le dashboard Cloudflare, va dans Workers & Pages → Create → Worker, colle le script et déploie.
- Ouvre Settings → Domains & Routes du Worker et ajoute la route
*tondomaine.fr/*pour ta zone.
Limites du Worker
Le plan Workers Free inclut100 000 requêtes par jour (tarifs Cloudflare Workers). La route compte chaque requête de ta zone dans cette limite, pas seulement les requêtes de bots. Au-delà de la limite, Cloudflare sert ton trafic normalement sans exécuter le Worker — ton site n’est jamais affecté, Finseo cesse simplement de recevoir les signalements jusqu’à la remise à zéro quotidienne. Les sites à fort trafic devraient utiliser le plan Workers Paid ou Logpush.
Méthode 2 : Logpush (Enterprise)
Cloudflare Logpush diffuse le datasethttp_requests vers un endpoint HTTP. Ce dataset n’est disponible que sur le plan Enterprise.
Configuration rapide
- Crée un token API personnalisé avec la permission :
- Zone → Logs → Edit
- Dans Finseo, ouvre Bot Analytics → Sync → Cloudflare → Connect.
- Sélectionne Logpush.
- Colle le token API et ton Zone ID.
- Clique sur Create Logpush job.
- Dataset
http_requestsavec une destination HTTP pointant vers l’endpoint d’ingestion de ton projet (authentifié par token dans le header). - Un filtre pour ne pousser que les requêtes des crawlers listés ci-dessus.
- Timestamps en RFC 3339, lots jusqu’à
5 Mo/1 000enregistrements.
Configuration manuelle
- Dans la boîte de dialogue de connexion Finseo, sélectionne Logpush et copie la destination HTTP (
destination_conf) — elle contient ton endpoint d’ingestion et le header d’authentification. - Dans le dashboard Cloudflare, va dans Analytics & Logs → Logpush → Create a Logpush job.
- Choisis HTTP destination et colle la destination copiée.
- Sélectionne le dataset HTTP requests.
- Optionnel mais recommandé : sous If logs match, filtre sur
ClientRequestUserAgent containsavec les noms de crawlers ci-dessus — sinon Cloudflare pousse toutes les requêtes et Finseo écarte les lignes non-bot. - Valide le job.
Ce que Finseo reçoit
Les deux méthodes transmettent les mêmes champs par requête de bot :- Adresse IP et User-Agent (utilisés pour vérifier l’identité du bot)
- Hôte, méthode, chemin et query string
- Référent
- Code de statut HTTP et taille de la réponse
- Pays, ville et région
- Timestamp et time to first byte
Déconnexion
Clique sur Manage → Disconnect sur la carte Cloudflare. Cela invalide le token d’ingestion : les livraisons Cloudflare sont rejetées immédiatement. Supprime aussi la route du Worker (ou le Worker lui-même) ou le job Logpush dans ton dashboard Cloudflare pour arrêter les envois à la source.Dépannage
Erreur de token pendant la configuration rapide
Erreur de token pendant la configuration rapide
Finseo vérifie le token auprès de l’API Cloudflare avant de l’utiliser. Assure-toi que le token est actif et possède exactement les permissions de ta méthode — Worker : Workers Scripts: Edit (compte), Workers Routes: Edit et Zone: Read (zone) ; Logpush : Logs: Edit (zone).
La création du job Logpush est rejetée
La création du job Logpush est rejetée
Le dataset
http_requests exige le plan Enterprise. Sur les autres plans, Cloudflare rejette le job — utilise la méthode Worker à la place. Sur Enterprise, vérifie la limite de 4 jobs par zone.Le statut reste sur « Awaiting first push »
Le statut reste sur « Awaiting first push »
Worker : le statut change à la première visite de bot — selon ton volume de crawl, cela peut prendre quelques heures. Vérifie dans Workers & Pages que le Worker est déployé et que la route
*tondomaine.fr/* existe. Logpush : Cloudflare envoie un upload de test immédiatement ; si rien n’arrive en quelques minutes, vérifie le statut du job dans Analytics & Logs → Logpush.Une route Worker existe déjà sur ma zone
Une route Worker existe déjà sur ma zone
Si un autre Worker est déjà routé sur
*tondomaine.fr/*, le déploiement conserve la route existante. Route le Worker finseo-bot-traffic sur un motif plus spécifique, ou appelle le signalement Finseo depuis ton Worker existant.