comparano

Vår flödeshämtare

Vad ComparanoFeedBot är och hur du släpper igenom den i en brandvägg.

I korthet

  • Du är förmodligen här för att den här strängen dök upp i en serverlogg eller en brandväggsrapport.
  • Vi hämtar bara en fil som en handlare har ställt in i sitt eget Comparano-konto. Vi genomsöker aldrig en webbplats.
  • Blockerar din brandvägg oss, tillåt då den här user-agenten — reglerna för de vanliga systemen finns nedan.
  • Vi publicerar ingen lista med IP-adresser; avsnitt 4 förklarar varför vi anser att det vore sämre.

1.Vad det handlar om

Comparano är en prisjämförelse. En butik som listar sina varor hos oss ger oss adressen till sitt produktflöde — en fil som butiken själv publicerar — och vi hämtar den i det intervall butiken väljer, så att priser och lagerstatus hos oss förblir aktuella.

Vi hämtar enbart den adress en handlare har ställt in i sitt eget Comparano-konto. Vi genomsöker inte webbplatsen, följer inga länkar, skickar inga formulär och letar inte efter sidor som ingen har gett oss.

2.User-agenterna

De är två och åtskilda med avsikt: ett webbhotell kan med rätta vilja tillåta den lilla tillfälliga kontrollen men begränsa den stora nedladdningen annorlunda — med ett enda namn gick det inte att uttrycka.

User-agentVad den görHur ofta
ComparanoFeedBot/1.1 (+https://comparano.com/bot)Hämtar produktflödet som handlaren har ställt in.I det intervall handlaren väljer — vanligen var 3:e till 24:e timme, med en liten förfrågan om enbart headers däremellan för att se om filen fortfarande går att nå.
ComparanoBot/1.1 (+https://comparano.com/bot)Kontrollerar att butiken svarar och läser filen eller taggen som visar att domänen tillhör den handlare som gjort anspråk på den.Sällan. En gång vid registrering, därefter då och då.

Båda skickar också en From-header (info@comparano.com), så att det alltid finns någon att skriva till.

3.Så tillåter du den

Vilken som helst av dessa räcker i sig; du behöver inte alla.

Matcha på token, inte på hela strängen. ComparanoFeedBot och ComparanoBot ändras aldrig. Versionen efter snedstrecket gör det — den flyttar sig vid varje release, så en regel på hela user-agenten slutar fungera.

Cloudflare — WAF › Custom rules › Skip

(http.user_agent contains "ComparanoFeedBot") or (http.user_agent contains "ComparanoBot")

ModSecurity / OWASP CRS

SecRule REQUEST_HEADERS:User-Agent "@contains ComparanoFeedBot" \
    "id:1900001,phase:1,pass,nolog,ctl:ruleEngine=Off"

nginx

map $http_user_agent $comparano {
    default              0;
    "~*ComparanoFeedBot"  1;
    "~*ComparanoBot"      1;
}

Apache

SetEnvIfNoCase User-Agent "ComparanoFeedBot" comparano
Allow from env=comparano

WordPress säkerhetsplugin — Wordfence, Sucuri, iThemes — har var för sig en tillåtelselista som tar både user-agent och IP; lägg in ComparanoFeedBot där. Det som oftast blockerar oss är hastighetsgränsen för robotar utanför listan: den behandlar en enda stor nedladdning som en attack.

Webbhotellspaneler som cPanel, Plesk eller DirectAdmin sätter oftast mod_security och en begränsare framför webbplatsen. Be din leverantör tillåta user-agenten för flödets adress; hos dem är det i regel en rad, och att hänvisa till den här sidan brukar räcka.

4.Varför vi inte publicerar någon IP-lista

Vi får frågan om en fast adresslista tillräckligt ofta för att förklara svaret här. Våra hämtare kör på infrastruktur vars adresser ändras, och en inaktuell lista fallerar tyst — butikens flöde går sönder och inget säger varför. Matchning på user-agenten fortsätter att fungera.

Kräver er policy adresser, skriv till oss: vi hittar något för er uppsättning i stället för att publicera ett intervall som är fel om en månad.

5.Hur en blockering ser ut från vår sida

Ett blockerat flöde fallerar inte högljutt för handlaren. Vi noterar statusen, markerar flödet som felande efter några försök och mejlar — men meddelandet säger att flödet inte går att nå, och därför frågar handlaren sitt webbhotell i stället för oss. Det här är svaren vi ser när något framför butiken stoppar oss.

StatusBetyder oftast
403En WAF-regel, eller en tillåtelselista där vi inte finns med.
429En hastighetsgräns som räknar vår enda nedladdning som missbruk.
503En robotkontrollsida. Den kan vi inte lösa, så vi behandlar det som otillgängligt.
—Inget svar alls — en brandvägg som släpper anslutningen i stället för att neka den.

6.Be oss sluta

Vi hämtar ett flöde för att en handlare har bett oss om det, så snabbast slutar det om butiken pausar eller tar bort det i sitt Comparano-konto. Tror du att vi begär något ingen har ställt in, skriv till oss med en loggrad — vi tittar på det samma dag.