- 
Data: 2009-10-21 19:47:47
Temat: Re: Google olewają robots.txt
Od: Andrzej Adam Filip <a...@x...wp.pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]igrek <...@...com> pisze:
> Ostatnio zauważyłem, że na jednej z moich stron robot googlowy się za
> bardzo rozbestwił i włazi tam, gdzie nie powinien.
>
> W robots.txt jest czarne na białym:
>
> User-agent: *
> Disallow: /styles/
> Disallow: /images/
> Disallow: /scripts/
>
> ...a google i tak ostatnio to olewają i czytają wszystko z tych
> katalogów jak leci. Też tak macie?
1) Kiedy zmieniłeś robots.txt?
Niedawno => Google "zapamiętuje" robots.txt "na trochę"
2) Czy połączenia są z adresów google?
[ "zbieracze maili" dla spamerów *mogą* udawać Google-Bot ]
Sprawdź we WHOIS kto jest właścicielem adresów z których przychodzą te
połączenia.
--
Andrzej Adam Filip : a...@o...eu : A...@g...com
Brzydkie wierne, a piękne niewierne.
-- Przysłowie włoskie (pl.wikiquote.org)
 
Następne wpisy z tego wątku
- 22.10.09 09:28 Chuck
 
Najnowsze wątki z tej grupy
- UWAGA: MAM PODEJRZENIE, ŻE onet.pl DOKONUJE ATAKÓW!!!
 - Komisja sejmowa odrzuca petycję ws. obowiązkowych kanałów RSS na stronach podmiotów publicznych
 - kol. sukces po polsku: "Samurai Labs. Technologia do zapobiegania samobójstwom"
 - Wściekli obywatele spalili budynek parlamentu Nepalu [bo odcięli im amerykańskie serwery społecznościowe - przyp. JMJ]
 - UWAGA: MAM PODEJRZENIE, ŻE trojmiasto.pl DOKONUJE ATAKÓW
 - Cenzura na wolnemedia.net - likwidacja codziennej sekcji "Sygnały zauważone"
 - Nowe style na energokod.pl
 - Jak działa hosting w którym wykupuje się sam serwer i domenę, bez IP?
 - Perfidne ataki krakerów z KRLD na skrypciarzy JS i Pajton
 - Do sądu trafił pozew zbiorowy przeciw Google'owi - oskarżenie o praktyki monopolistyczne na rynku reklamy internetowej
 - Jakie znacie działające serwery grup dyskusyjnych?
 - is it live this group at news.icm.edu.pl
 - php, linki z nazwami a $_GET, SEO
 - www polityka pl captcha
 - dyktatura brudnego palucha
 
Najnowsze wątki
- 2025-11-04 Jak sie smazy elektronike z odleglosci kilkuset metrów?
 - 2025-11-04 Warszawa => DevOps Engineer <=
 - 2025-11-04 Warszawa => OSS System Administrator <=
 - 2025-11-04 4 lata za zabicie czlowieka, czyli prawo w Polsce
 - 2025-11-04 Warszawa => APM/Observability Engineer (Inżynier Presales) <=
 - 2025-11-04 Zasieg elektrykow
 - 2025-11-03 Gwarancja na używane AUTO. Czy dziś WARTO?
 - 2025-11-03 Znowu jakiś goooownoprawnik uważający się za KONSTYTUCJONALISTĘ
 - 2025-11-03 ABW już nie blokuje RT.com?
 - 2025-11-03 Czy ROZDANIE KPO śród swoich i nie swoich spowodowało KORZYŚĆ POLITYCZNĄ?
 - 2025-11-03 Warszawa => Starszy Konsultant SAP - obszar PP <=
 - 2025-11-03 Warszawa => International Freight Forwarder <=
 - 2025-11-03 Białystok => Programista React ze znajomością C++ <=
 - 2025-11-03 Warszawa => Generative AI Engineer <=
 - 2025-11-03 Warszawa => Gen AI Engineer <=
 




Elektromobilność dojrzewa. Auta elektryczne kupujemy z rozsądku, nie dla idei