I korthet
- Du är förmodligen här för att den här strängen dök upp i en serverlogg eller en brandväggsrapport.
- Vi hämtar bara en fil som en handlare har ställt in i sitt eget Comparano-konto. Vi genomsöker aldrig en webbplats.
- Blockerar din brandvägg oss, tillåt då den här user-agenten — reglerna för de vanliga systemen finns nedan.
- Vi publicerar ingen lista med IP-adresser; avsnitt 4 förklarar varför vi anser att det vore sämre.
1.Vad det handlar om
Comparano är en prisjämförelse. En butik som listar sina varor hos oss ger oss adressen till sitt produktflöde — en fil som butiken själv publicerar — och vi hämtar den i det intervall butiken väljer, så att priser och lagerstatus hos oss förblir aktuella.
Vi hämtar enbart den adress en handlare har ställt in i sitt eget Comparano-konto. Vi genomsöker inte webbplatsen, följer inga länkar, skickar inga formulär och letar inte efter sidor som ingen har gett oss.
2.User-agenterna
De är två och åtskilda med avsikt: ett webbhotell kan med rätta vilja tillåta den lilla tillfälliga kontrollen men begränsa den stora nedladdningen annorlunda — med ett enda namn gick det inte att uttrycka.
| User-agent | Vad den gör | Hur ofta |
|---|---|---|
ComparanoFeedBot/1.1 (+https://comparano.com/bot) | Hämtar produktflödet som handlaren har ställt in. | I det intervall handlaren väljer — vanligen var 3:e till 24:e timme, med en liten förfrågan om enbart headers däremellan för att se om filen fortfarande går att nå. |
ComparanoBot/1.1 (+https://comparano.com/bot) | Kontrollerar att butiken svarar och läser filen eller taggen som visar att domänen tillhör den handlare som gjort anspråk på den. | Sällan. En gång vid registrering, därefter då och då. |
Båda skickar också en From-header (info@comparano.com), så att det alltid finns någon att skriva till.
3.Så tillåter du den
Vilken som helst av dessa räcker i sig; du behöver inte alla.
Matcha på token, inte på hela strängen. ComparanoFeedBot och ComparanoBot ändras aldrig. Versionen efter snedstrecket gör det — den flyttar sig vid varje release, så en regel på hela user-agenten slutar fungera.
Cloudflare — WAF › Custom rules › Skip
(http.user_agent contains "ComparanoFeedBot") or (http.user_agent contains "ComparanoBot")ModSecurity / OWASP CRS
SecRule REQUEST_HEADERS:User-Agent "@contains ComparanoFeedBot" \
"id:1900001,phase:1,pass,nolog,ctl:ruleEngine=Off"nginx
map $http_user_agent $comparano {
default 0;
"~*ComparanoFeedBot" 1;
"~*ComparanoBot" 1;
}Apache
SetEnvIfNoCase User-Agent "ComparanoFeedBot" comparano
Allow from env=comparanoWordPress säkerhetsplugin — Wordfence, Sucuri, iThemes — har var för sig en tillåtelselista som tar både user-agent och IP; lägg in ComparanoFeedBot där. Det som oftast blockerar oss är hastighetsgränsen för robotar utanför listan: den behandlar en enda stor nedladdning som en attack.
Webbhotellspaneler som cPanel, Plesk eller DirectAdmin sätter oftast mod_security och en begränsare framför webbplatsen. Be din leverantör tillåta user-agenten för flödets adress; hos dem är det i regel en rad, och att hänvisa till den här sidan brukar räcka.
4.Varför vi inte publicerar någon IP-lista
Vi får frågan om en fast adresslista tillräckligt ofta för att förklara svaret här. Våra hämtare kör på infrastruktur vars adresser ändras, och en inaktuell lista fallerar tyst — butikens flöde går sönder och inget säger varför. Matchning på user-agenten fortsätter att fungera.
Kräver er policy adresser, skriv till oss: vi hittar något för er uppsättning i stället för att publicera ett intervall som är fel om en månad.
5.Hur en blockering ser ut från vår sida
Ett blockerat flöde fallerar inte högljutt för handlaren. Vi noterar statusen, markerar flödet som felande efter några försök och mejlar — men meddelandet säger att flödet inte går att nå, och därför frågar handlaren sitt webbhotell i stället för oss. Det här är svaren vi ser när något framför butiken stoppar oss.
| Status | Betyder oftast |
|---|---|
403 | En WAF-regel, eller en tillåtelselista där vi inte finns med. |
429 | En hastighetsgräns som räknar vår enda nedladdning som missbruk. |
503 | En robotkontrollsida. Den kan vi inte lösa, så vi behandlar det som otillgängligt. |
— | Inget svar alls — en brandvägg som släpper anslutningen i stället för att neka den. |
6.Be oss sluta
Vi hämtar ett flöde för att en handlare har bett oss om det, så snabbast slutar det om butiken pausar eller tar bort det i sitt Comparano-konto. Tror du att vi begär något ingen har ställt in, skriv till oss med en loggrad — vi tittar på det samma dag.