以下の内容は、あくまで当Wikiオーナーが個人的に必要とするデータの覚え書きであり、情報の正確さや有用さを保証するものではありません。以下の情報に基づいてアクセスを制限する事を推奨するものでもありません。
当Wikiはご自分の責任においてご覧ください。当Wikiに記述してあるデータを閲覧・利用・信用した事による結果について、当Wikiのオーナーは一切の責任を負いません。また、当Wikiに記述してあるデータとその利用法についての質問は一切受け付けておりません。当Wikiの運営方針に対する要望も一切受け付けておりません。
目次へ戻る
当Wikiはご自分の責任においてご覧ください。当Wikiに記述してあるデータを閲覧・利用・信用した事による結果について、当Wikiのオーナーは一切の責任を負いません。また、当Wikiに記述してあるデータとその利用法についての質問は一切受け付けておりません。当Wikiの運営方針に対する要望も一切受け付けておりません。
目次へ戻る
| URL | http://www.google.co.jp/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://www.google.co.jp/support/webmasters/bin/top... | ||||
| REFERER | http://www.google.co.jp/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://images.google.co.jp/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.google.com/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.google.com/ie? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.google.com/m? (以下数字等の羅列) | 最終確認 | 2010/02/02 | ||
| REFERER | http://www.google.com/gwt/x? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.google.com/hws/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.google.com.mx/search? (以下数字等の羅列) | 最終確認 | 2009/12/02 | ||
| REFERER | http://cgi.search.biglobe.ne.jp/cgi-bin/search (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://home.search.biglobe.ne.jp/cgi-bin/search-we... (以下数字等の羅列) | 最終確認 | 2010/02/02 | ||
| REFERER | http://s.luna.tv/search.aspx? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://search.auone.jp/? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://search.babylon.com/? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2010/02/01 | ||
| USER AGENT | Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) | 最終確認 | 2010/02/01 | ||
| HOST | crawl-66-249-65-87.googlebot.com | IP | 66.249.65.87 | 最終確認 | 2010/02/01 |
| HOST | crawl-66-249-65-171.googlebot.com | IP | 66.249.65.171 | 最終確認 | 2010/01/17 |
| HOST | crawl-66-249-65-250.googlebot.com | IP | 66.249.65.250 | 最終確認 | 2009/12/02 |
| HOST | crawl-66-249-67-54.googlebot.com | IP | 66.249.67.54 | 最終確認 | 2010/02/01 |
| HOST | crawl-66-249-68-48.googlebot.com | IP | 66.249.68.48 | 最終確認 | 2010/01/05 |
| HOST | crawl-66-249-68-86.googlebot.com | IP | 66.249.68.86 | 最終確認 | 2009/10/01 |
| HOST | crawl-66-249-68-100.googlebot.com | IP | 66.249.68.100 | 最終確認 | 2009/12/01 |
| HOST | crawl-66-249-68-108.googlebot.com | IP | 66.249.68.108 | 最終確認 | 2010/01/05 |
| HOST | crawl-66-249-71-51.googlebot.com | IP | 66.249.71.51 | 最終確認 | 2009/09/01 |
| HOST | crawl-66-249-71-68.googlebot.com | IP | 66.249.71.68 | 最終確認 | 2010/01/05 |
| 拒否用 | Deny from 66.249.64.0/19 | 最終確認 | 2010/02/01 | ||
Googleイメージ検索 [更新2010/02/08]
| URL | http://images.google.co.jp/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://www.google.co.jp/support/webmasters/bin/top... | ||||
| REFERER | http://images.google.co.jp/search? (以下数字等の羅列) | 最終確認 | 2009/12/02 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2010/02/08 | ||
| USER AGENT | Googlebot-Image/1.0 | 最終確認 | 2010/02/08 | ||
| HOST | crawl-66-249-65-111.googlebot.com | IP | 66.249.65.111 | 追加 | 2010/02/08 |
| HOST | crawl-66-249-65-171.googlebot.com | IP | 66.249.65.171 | 追加 | 2010/01/07 |
| HOST | crawl-66-249-65-197.googlebot.com | IP | 66.249.65.197 | 最終確認 | 2009/04/26 |
| 拒否用 | Deny from 66.249.64.0/19 | 最終確認 | 2010/02/08 | ||
Googleモバイル検索
| URL | http://www.google.com/imode/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://www.google.co.jp/support/webmasters/bin/top... | ||||
| USER AGENT | DoCoMo/2.0 N905i(c100;TB;W24H16) (compatible; Googlebot-Mobile/2.1; +http://www.google.com/bot.html) | 最終確認 | 2010/02/01 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/08/06 | ||
| HOST | rate-limited-proxy-72-14-199-19.google.com | IP | 72.14.199.19 | 最終確認 | 2009/09/01 |
| HOST | rate-limited-proxy-72-14-199-90.google.com | IP | 72.14.199.90 | 最終確認 | 2009/04/05 |
| HOST | rate-limited-proxy-72-14-199-117.google.com | IP | 72.14.199.117 | 最終確認 | 2009/07/07 |
| HOST | rate-limited-proxy-209-85-238-7.google.com | IP | 209.85.238.7 | 最終確認 | 2009/04/01 |
| HOST | rate-limited-proxy-209-85-238-25.google.com | IP | 209.85.238.25 | 最終確認 | 2009/04/01 |
| HOST | rate-limited-proxy-209-85-238-33.google.com | IP | 209.85.238.33 | 最終確認 | 2009/10/01 |
| HOST | rate-limited-proxy-209-85-238-51.google.com | IP | 209.85.238.51 | 最終確認 | 2010/01/05 |
| HOST | rate-limited-proxy-209-85-238-54.google.com | IP | 209.85.238.54 | 最終確認 | 2009/07/01 |
| HOST | rate-limited-proxy-209-85-238-69.google.com | IP | 209.85.238.69 | 最終確認 | 2010/02/01 |
| HOST | rate-limited-proxy-209-85-238-118.google.com | IP | 209.85.238.118 | 最終確認 | 2009/08/06 |
| 拒否用 | Deny from 72.14.192.0/18 | 最終確認 | 2009/09/01 | ||
| 拒否用 | Deny from 209.85.128.0/17 | 最終確認 | 2010/02/01 | ||
| USER AGENT | SAMSUNG-SGH-E250/1.0 Profile/MIDP-2.0 Configuration/CLDC-1.1 UP.Browser/6.2.3.3.c.1.101 (GUI) MMP/2.0 (compatible; Googlebot-Mobile/2.1; +http://www.google.com/bot.html) | 追加 | 2009/12/10 | ||
| 備考 | robots.txtを読んでいる | 追加 | 2009/12/10 | ||
| HOST | crawl-66-249-68-100.googlebot.com | IP | 66.249.68.100 | 追加 | 2009/12/10 |
| 拒否用 | Deny from 66.249.64.0/19 | 追加 | 2009/12/10 | ||
Yahoo!
| URL | http://www.yahoo.co.jp/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://info.search.yahoo.co.jp/ | ||||
| REFERER | http://search.yahoo.co.jp/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://cache.yahoofs.jp/search/cache? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://wrs.search.yahoo.co.jp/ (以下数字等の羅列) | 最終確認 | 2010/01/23 | ||
| REFERER | http://aa.yhs.search.yahoo.com/avg/search? (以下数字等の羅列) | 最終確認 | 2009/12/02 | ||
| REFERER | http://tw.search.yahoo.com/search? (以下数字等の羅列) | 最終確認 | 2010/01/23 | ||
| REFERER | http://azby.search.nifty.com/websearch/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://fruitmail.excite.co.jp/search.gw? (以下数字等の羅列) | 最終確認 | 2009/12/08 | ||
| REFERER | http://manboo.jword.jp/search? (以下数字等の羅列) | 最終確認 | 2009/12/15 | ||
| REFERER | http://picmy.jp/search? (以下数字等の羅列) | 最終確認 | 2009/12/06 | ||
| REFERER | http://search.nifty.com/websearch/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://search.osaifu.com/search/? (以下数字等の羅列) | 最終確認 | 2010/01/05 | ||
| REFERER | http://search.www.infoseek.co.jp/Web? (以下数字等の羅列) | 最終確認 | 2009/12/03 | ||
| REFERER | http://v-buster.jword.jp/search? (以下数字等の羅列) | 最終確認 | 2009/12/01 | ||
| REFERER | http://websearch.rakuten.co.jp/? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.excite.co.jp/search.gw? (以下数字等の羅列) | 最終確認 | 2010/02/02 | ||
| REFERER | http://ysearch.lunascape.jp/Search.aspx? (以下数字等の羅列) | 最終確認 | 2009/12/01 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2010/02/01 | ||
| USER AGENT | Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp) | 最終確認 | 2010/02/01 | ||
| USER AGENT | Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp) | 最終確認 | 2010/02/01 | ||
| HOST | llf320017.crawl.yahoo.net | IP | 67.195.37.89 | 最終確認 | 2009/07/01 |
| HOST | llf320024.crawl.yahoo.net | IP | 67.195.37.91 | 最終確認 | 2009/04/01 |
| HOST | llf320037.crawl.yahoo.net | IP | 67.195.37.92 | 最終確認 | 2009/03/01 |
| HOST | llf320018.crawl.yahoo.net | IP | 67.195.37.99 | 最終確認 | 2009/03/12 |
| HOST | llf320034.crawl.yahoo.net | IP | 67.195.37.106 | 最終確認 | 2009/02/13 |
| HOST | llf320036.crawl.yahoo.net | IP | 67.195.37.110 | 最終確認 | 2009/03/14 |
| HOST | llf320022.crawl.yahoo.net | IP | 67.195.37.111 | 最終確認 | 2009/03/05 |
| HOST | llf320029.crawl.yahoo.net | IP | 67.195.37.114 | 最終確認 | 2009/03/17 |
| HOST | llf320028.crawl.yahoo.net | IP | 67.195.37.115 | 最終確認 | 2009/04/03 |
| HOST | llf320012.crawl.yahoo.net | IP | 67.195.37.120 | 最終確認 | 2009/09/01 |
| HOST | llf320026.crawl.yahoo.net | IP | 67.195.37.124 | 最終確認 | 2009/04/01 |
| HOST | llf320010.crawl.yahoo.net | IP | 67.195.37.126 | 最終確認 | 2009/03/17 |
| HOST | llf320069.crawl.yahoo.net | IP | 67.195.37.153 | 最終確認 | 2009/03/17 |
| HOST | llf320073.crawl.yahoo.net | IP | 67.195.37.160 | 最終確認 | 2009/04/01 |
| HOST | llf320067.crawl.yahoo.net | IP | 67.195.37.165 | 最終確認 | 2009/03/18 |
| HOST | llf320042.crawl.yahoo.net | IP | 67.195.37.167 | 最終確認 | 2009/04/01 |
| HOST | llf320041.crawl.yahoo.net | IP | 67.195.37.169 | 最終確認 | 2009/03/06 |
| HOST | llf320040.crawl.yahoo.net | IP | 67.195.37.170 | 最終確認 | 2009/04/02 |
| HOST | llf320055.crawl.yahoo.net | IP | 67.195.37.173 | 最終確認 | 2009/03/13 |
| HOST | llf320074.crawl.yahoo.net | IP | 67.195.37.181 | 最終確認 | 2009/09/02 |
| HOST | llf320045.crawl.yahoo.net | IP | 67.195.37.184 | 最終確認 | 2009/03/01 |
| HOST | llf320059.crawl.yahoo.net | IP | 67.195.37.190 | 最終確認 | 2009/03/13 |
| HOST | b3091070.crawl.yahoo.net | IP | 67.195.110.161 | 最終確認 | 2009/09/01 |
| HOST | b3091267.crawl.yahoo.net | IP | 67.195.112.27 | 最終確認 | 2009/10/01 |
| HOST | b3091190.crawl.yahoo.net | IP | 67.195.112.121 | 最終確認 | 2010/02/01 |
| HOST | b3091013.crawl.yahoo.net | IP | 67.195.113.234 | 最終確認 | 2010/02/01 |
| HOST | b3090940.crawl.yahoo.net | IP | 67.195.115.38 | 最終確認 | 2009/10/01 |
| HOST | b3090841.crawl.yahoo.net | IP | 67.195.115.252 | 最終確認 | 2009/12/01 |
| HOST | llf531373.crawl.yahoo.net | IP | 72.30.65.33 | 最終確認 | 2009/04/01 |
| HOST | llf531378.crawl.yahoo.net | IP | 72.30.65.36 | 最終確認 | 2009/07/01 |
| HOST | llf531358.crawl.yahoo.net | IP | 72.30.78.232 | 最終確認 | 2009/02/17 |
| HOST | llf531303.crawl.yahoo.net | IP | 72.30.79.25 | 最終確認 | 2009/03/10 |
| HOST | llf531291.crawl.yahoo.net | IP | 72.30.79.40 | 最終確認 | 2009/02/21 |
| HOST | llf531293.crawl.yahoo.net | IP | 72.30.79.59 | 最終確認 | 2009/04/01 |
| HOST | llf531242.crawl.yahoo.net | IP | 72.30.79.84 | 最終確認 | 2009/03/10 |
| HOST | llf531243.crawl.yahoo.net | IP | 72.30.79.96 | 最終確認 | 2009/10/01 |
| HOST | llf531240.crawl.yahoo.net | IP | 72.30.79.106 | 最終確認 | 2009/07/01 |
| HOST | llf531256.crawl.yahoo.net | IP | 72.30.79.112 | 最終確認 | 2009/02/24 |
| HOST | llf531232.crawl.yahoo.net | IP | 72.30.81.151 | 最終確認 | 2009/08/01 |
| HOST | llf531213.crawl.yahoo.net | IP | 72.30.81.162 | 最終確認 | 2009/09/01 |
| HOST | llf531222.crawl.yahoo.net | IP | 72.30.81.172 | 最終確認 | 2009/10/01 |
| HOST | llf531188.crawl.yahoo.net | IP | 72.30.87.98 | 最終確認 | 2009/09/01 |
| HOST | llf531157.crawl.yahoo.net | IP | 72.30.142.113 | 最終確認 | 2009/05/01 |
| HOST | llf531070.crawl.yahoo.net | IP | 72.30.142.215 | 最終確認 | 2009/02/18 |
| HOST | llf531078.crawl.yahoo.net | IP | 72.30.142.228 | 最終確認 | 2009/05/06 |
| HOST | llf531057.crawl.yahoo.net | IP | 72.30.142.229 | 最終確認 | 2009/02/18 |
| HOST | llf531020.crawl.yahoo.net | IP | 72.30.161.226 | 最終確認 | 2010/02/01 |
| HOST | llf531036.crawl.yahoo.net | IP | 72.30.161.246 | 最終確認 | 2009/03/14 |
| HOST | llf520017.crawl.yahoo.net | IP | 74.6.8.121 | 最終確認 | 2009/03/01 |
| HOST | llf520190.crawl.yahoo.net | IP | 74.6.17.164 | 最終確認 | 2009/03/11 |
| HOST | llf520157.crawl.yahoo.net | IP | 74.6.18.235 | 最終確認 | 2009/08/01 |
| HOST | llf520123.crawl.yahoo.net | IP | 74.6.18.251 | 最終確認 | 2009/04/24 |
| HOST | llf520106.crawl.yahoo.net | IP | 74.6.22.110 | 最終確認 | 2009/08/04 |
| HOST | llf520101.crawl.yahoo.net | IP | 74.6.22.122 | 最終確認 | 2009/07/20 |
| HOST | llf520100.crawl.yahoo.net | IP | 74.6.22.125 | 最終確認 | 2009/05/01 |
| HOST | llf520074.crawl.yahoo.net | IP | 74.6.22.165 | 最終確認 | 2010/02/01 |
| HOST | llf520068.crawl.yahoo.net | IP | 74.6.22.174 | 最終確認 | 2009/03/01 |
| HOST | llf520043.crawl.yahoo.net | IP | 74.6.22.189 | 最終確認 | 2009/03/09 |
| 拒否用 | Deny from 67.195.0.0/16 | 最終確認 | 2010/02/01 | ||
| 拒否用 | Deny from 72.30.0.0/16 | 最終確認 | 2010/02/01 | ||
| 拒否用 | Deny from 74.6.0.0/16 | 最終確認 | 2010/02/01 | ||
Yahoo!ブログ検索
| URL | http://blog-search.yahoo.co.jp/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://help.yahoo.co.jp/help/jp/blog-search/blog-s... | ||||
| 備考 | robots.txtを読んでいる | 最終確認 | 2010/02/06 | ||
| USER AGENT | Y!J-BSC/1.0 (http://help.yahoo.co.jp/help/jp/blog-search/) | 最終確認 | 2010/02/06 | ||
| HOST | crwl165.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.137 | 最終確認 | 2009/10/01 |
| HOST | crwl113.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.157 | 最終確認 | 2010/02/06 |
| HOST | crwl119.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.163 | 最終確認 | 2010/02/01 |
| HOST | crwl124.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.168 | 最終確認 | 2010/02/01 |
| HOST | crwl128.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.172 | 最終確認 | 2010/02/01 |
| HOST | crwl131.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.175 | 最終確認 | 2010/01/05 |
| HOST | crwl134.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.178 | 最終確認 | 2009/09/01 |
| HOST | crwl145.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.189 | 最終確認 | 2010/02/01 |
| HOST | crwl163.bsearch.ogk.yahoo.co.jp | IP | 124.83.191.207 | 最終確認 | 2010/02/01 |
| 拒否用 | Deny from 124.83.191.0/24 | 最終確認 | 2010/02/06 | ||
Yahoo!モバイル
| URL | http://mobile.yahoo.co.jp/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://help.yahoo.co.jp/help/jp/search/indexing/in... | ||||
| 備考 | robots.txtを読んでいる | 追加 | 2009/07/01 | ||
| USER AGENT | DoCoMo/2.0 SH902i (compatible; Y!J-SRD/1.0; http://help.yahoo.co.jp/help/jp/search/indexing/in... | 最終確認 | 2010/02/01 | ||
| USER AGENT | Y!J-SRD/1.0 | 追加 | 2009/07/01 | ||
| USER AGENT | Vodafone/1.0/V705SH (compatible; Y!J-SRD/1.0; http://help.yahoo.co.jp/help/jp/search/indexing/in... | 最終確認 | 2009/03/01 | ||
| HOST | mocr10.search.ogk.yahoo.co.jp | IP | 124.83.159.156 | 最終確認 | 2009/03/01 |
| HOST | mocr41.search.ogk.yahoo.co.jp | IP | 124.83.159.225 | 追加 | 2009/07/01 |
| HOST | mocr44.search.ogk.yahoo.co.jp | IP | 124.83.159.228 | 最終確認 | 2010/02/01 |
| 拒否用 | Deny from 124.83.128.0/17 | 最終確認 | 2010/02/01 | ||
Yahoo! JAPAN リスティング広告 [追加2010/01/05]
| URL | http://listing.yahoo.co.jp/ | ||||
|---|---|---|---|---|---|
| 備考 | robots.txtは読んでいない | 追加 | 2010/01/05 | ||
| USER AGENT | Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp) | 追加 | 2010/01/05 | ||
| HOST | rtjudging1.yst.corp.yahoo.com | IP | 66.228.164.160 | 追加 | 2010/01/05 |
| HOST | rtcatalog3.yst.corp.yahoo.com | IP | 66.228.164.204 | 追加 | 2010/01/05 |
| 拒否用 | Deny from 66.228.160.0/19 | 追加 | 2010/01/05 | ||
研究・開発・メンテナンスなどが目的のクローラ
Y!J-DSC
| USER AGENT | Mozilla/5.0 (compatible; Y!J-DSC 1.0; http://help.yahoo.co.jp/help/jp/search/indexing/in... | 最終確認 | 2008/08/01 | ||
|---|---|---|---|---|---|
| 拒否用 | Deny from 203.216.224.0/19 | 最終確認 | 2008/08/01 | ||
Y!J-PSC [更新2010/01/05]
| USER AGENT | Y!J-PSC/1.0 (http://help.yahoo.co.jp/help/jp/search/indexing/in... | 最終確認 | 2010/01/05 | ||
|---|---|---|---|---|---|
| HOST | uc11.ypc.tnz.yahoo.co.jp | IP | 203.216.197.199 | 追加 | 2010/01/05 |
| 拒否用 | Deny from 203.216.197.128/25 | 追加 | 2010/01/05 | ||
| HOST | uc3.ypc.bbt.yahoo.co.jp | IP | 211.14.11.152 | 最終確認 | 2009/08/01 |
| 拒否用 | Deny from 211.14.11.144/28 | 最終確認 | 2009/08/01 | ||
Y!J-SRD
| USER AGENT | Y!J-SRD/1.0 | 最終確認 | 2009/12/01 | ||
|---|---|---|---|---|---|
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/12/01 | ||
| HOST | mocr41.search.ogk.yahoo.co.jp | IP | 124.83.159.225 | 追加 | 2009/12/01 |
| HOST | mocr44.search.ogk.yahoo.co.jp | IP | 124.83.159.228 | 追加 | 2009/05/07 |
| 拒否用 | Deny from 124.83.128.0/17 | 最終確認 | 2009/12/01 | ||
Y!J-BRI
| USER AGENT | Y!J-BRI/0.0.1 crawler ( http://help.yahoo.co.jp/help/jp/search/indexing/in... ) | 最終確認 | 2009/12/04 | ||
|---|---|---|---|---|---|
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/12/04 | ||
| HOST | m02.as.ogk.yahoo.co.jp | IP | 124.83.179.21 | 最終確認 | 2009/12/04 |
| 拒否用 | Deny from 124.83.128.0/17 | 最終確認 | 2009/12/04 | ||
Y!J-BRO/YFSJ
| USER AGENT | Y!J-BRO/YFSJ crawler (compatible; Mozilla 4.0; MSIE 5.5; http://help.yahoo.co.jp/help/jp/search/indexing/in... YahooFeedSeekerJp/2.0; users *; views *) | 最終確認 | 2010/02/01 | ||
|---|---|---|---|---|---|
| HOST | - | IP | 211.14.9.247 | 最終確認 | 2010/02/01 |
| HOST | - | IP | 211.14.9.248 | 最終確認 | 2010/02/01 |
| 拒否用 | Deny from 211.14.9.240/28 | 最終確認 | 2010/02/01 | ||
Y!J-BRP/YFSBJ
| USER AGENT | Y!J-BRP/YFSBJ crawler (compatible; Mozilla 4.0; MSIE 5.5; http://help.yahoo.co.jp/help/jp/search/indexing/in... YahooFeedSeekerBetaJp/2.0; users *; views *) | 追加 | 2009/10/06 | ||
|---|---|---|---|---|---|
| HOST | ont211014008240.yahoo.co.jp | IP | 211.14.8.240 | 追加 | 2009/10/06 |
| 拒否用 | Deny from 211.14.8.0/24 | 追加 | 2009/10/06 | ||
Yahoo! Deutschland
| URL | http://de.yahoo.com/ | ||||
|---|---|---|---|---|---|
| USER AGENT | Mozilla/5.0 (compatible; Yahoo! DE Slurp; http://help.yahoo.com/help/us/ysearch/slurp) | 最終確認 | 2010/02/01 | ||
| HOST | llf320034.crawl.yahoo.net | IP | 67.195.37.106 | 最終確認 | 2009/07/01 |
| HOST | llf320012.crawl.yahoo.net | IP | 67.195.37.120 | 最終確認 | 2009/09/01 |
| HOST | llf320042.crawl.yahoo.net | IP | 67.195.37.167 | 最終確認 | 2009/04/01 |
| HOST | b3091190.crawl.yahoo.net | IP | 67.195.112.121 | 最終確認 | 2010/02/01 |
| HOST | b3090875.crawl.yahoo.net | IP | 67.195.115.254 | 最終確認 | 2009/10/01 |
| HOST | dj531005.crawl.yahoo.net | IP | 74.6.31.182 | 最終確認 | 2010/01/05 |
| 拒否用 | Deny from 67.195.0.0/16 | 最終確認 | 2010/02/01 | ||
| 拒否用 | Deny from 74.6.0.0/16 | 最終確認 | 2010/01/05 | ||
Yahoo.com.cn
| URL | http://cn.yahoo.com/ | ||||
|---|---|---|---|---|---|
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/12/01 | ||
| USER AGENT | Mozilla/5.0 (compatible; Yahoo! Slurp China; 【本当はここにURLが入るのだが入力すると編集制限がかかるため割愛】) | 最終確認 | 2010/02/01 | ||
| HOST | lj910207.crawl.yahoo.net | IP | 202.160.178.26 | 最終確認 | 2009/03/13 |
| HOST | lj910517.crawl.yahoo.net | IP | 202.160.178.182 | 最終確認 | 2009/03/06 |
| HOST | lj910459.crawl.yahoo.net | IP | 202.160.179.83 | 最終確認 | 2009/05/01 |
| HOST | lj910350.crawl.yahoo.net | IP | 202.160.180.27 | 最終確認 | 2009/05/06 |
| HOST | lj910359.crawl.yahoo.net | IP | 202.160.180.31 | 最終確認 | 2009/04/24 |
| HOST | lj910534.crawl.yahoo.net | IP | 202.160.180.79 | 最終確認 | 2010/02/01 |
| HOST | lj910502.crawl.yahoo.net | IP | 202.160.180.175 | 最終確認 | 2009/10/01 |
| HOST | lj910559.crawl.yahoo.net | IP | 202.160.180.183 | 最終確認 | 2009/04/07 |
| HOST | lj910681.crawl.yahoo.net | IP | 202.160.188.227 | 最終確認 | 2009/12/01 |
| HOST | lj910682.crawl.yahoo.net | IP | 202.160.188.228 | 最終確認 | 2009/10/03 |
| HOST | hd901036.inktomisearch.com | IP | 203.209.252.66 | 最終確認 | 2009/02/13 |
| 拒否用 | Deny from 202.160.176.0/20 | 最終確認 | 2010/02/01 | ||
| 拒否用 | Deny from 203.209.224.0/19 | 最終確認 | 2009/02/13 | ||
Bing [更新2010/01/18]
| URL | http://www.bing.com/ | ||||
|---|---|---|---|---|---|
| クロール拒否方法 | http://help.live.com/Help.aspx?market=ja-JP&projec... | ||||
| REFERER | http://www.bing.com/search? (以下数字等の羅列) | 最終確認 | 2010/02/01 | ||
| REFERER | http://www.bing.com/spresults.aspx? (以下数字等の羅列) | 最終確認 | 2009/12/01 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2010/02/01 | ||
| USER AGENT | msnbot/2.0b (+http://search.msn.com/msnbot.htm) | 最終確認 | 2010/02/01 | ||
| HOST | msnbot-65-55-51-10.msn.com | IP | 65.55.51.10 | 最終確認 | 2010/02/02 |
| HOST | msnbot-65-55-51-70.msn.com | IP | 65.55.51.70 | 追加 | 2010/01/05 |
| HOST | msnbot-65-55-106-110.search.msn.com | IP | 65.55.106.110 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-115.search.msn.com | IP | 65.55.106.115 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-135.search.msn.com | IP | 65.55.106.135 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-155.search.msn.com | IP | 65.55.106.155 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-157.search.msn.com | IP | 65.55.106.157 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-160.search.msn.com | IP | 65.55.106.160 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-180.search.msn.com | IP | 65.55.106.180 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-185.search.msn.com | IP | 65.55.106.185 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-205.search.msn.com | IP | 65.55.106.205 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-210.search.msn.com | IP | 65.55.106.210 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-230.search.msn.com | IP | 65.55.106.230 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-106-235.search.msn.com | IP | 65.55.106.235 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-107-180.search.msn.com | IP | 65.55.107.180 | 最終確認 | 2010/02/01 |
| HOST | - | IP | 65.55.107.182 | 最終確認 | 2010/01/06 |
| HOST | msnbot-65-55-120-15.search.msn.com | IP | 65.55.120.15 | 最終確認 | 2010/02/02 |
| HOST | msnbot-65-55-207-25.search.msn.com | IP | 65.55.207.25 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-30.search.msn.com | IP | 65.55.207.30 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-45.search.msn.com | IP | 65.55.207.45 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-50.search.msn.com | IP | 65.55.207.50 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-70.search.msn.com | IP | 65.55.207.70 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-75.search.msn.com | IP | 65.55.207.75 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-95.search.msn.com | IP | 65.55.207.95 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-100.search.msn.com | IP | 65.55.207.100 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-120.search.msn.com | IP | 65.55.207.120 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-125.search.msn.com | IP | 65.55.207.125 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-135.search.msn.com | IP | 65.55.207.135 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-207-140.search.msn.com | IP | 65.55.207.140 | 追加 | 2009/12/02 |
| HOST | msnbot-65-55-215-75.search.msn.com | IP | 65.55.215.75 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-216-10.search.msn.com | IP | 65.55.216.10 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-216-55.search.msn.com | IP | 65.55.216.55 | 最終確認 | 2010/02/01 |
| HOST | - | IP | 65.55.218.160 | 最終確認 | 2010/02/01 |
| HOST | msnbot.msn.com | IP | 65.55.246.60 | 最終確認 | 2010/01/05 |
| HOST | msnbot.msn.com | IP | 65.55.246.65 | 最終確認 | 2010/02/01 |
| HOST | msnbot-207-46-199-180.search.msn.com | IP | 207.46.199.180 | 追加 | 2010/01/18 |
| HOST | msnbot-207-46-199-190.search.msn.com | IP | 207.46.199.190 | 追加 | 2010/01/18 |
| HOST | msnbot-207-46-199-199.search.msn.com | IP | 207.46.199.199 | 追加 | 2010/02/02 |
| HOST | msnbot-207-46-199-200.search.msn.com | IP | 207.46.199.200 | 追加 | 2010/01/18 |
| USER AGENT | msnbot/1.1 (+http://search.msn.com/msnbot.htm) | 最終確認 | 2010/01/05 | ||
| HOST | msnbot-65-55-104-16.search.msn.com | IP | 65.55.104.16 | 最終確認 | 2009/07/04 |
| HOST | msnbot-65-55-104-160.search.msn.com | IP | 65.55.104.160 | 最終確認 | 2009/10/02 |
| HOST | msnbot-65-55-104-169.search.msn.com | IP | 65.55.104.169 | 最終確認 | 2010/01/05 |
| HOST | msnbot-65-55-209-127.search.msn.com | IP | 65.55.209.127 | 最終確認 | 2009/09/01 |
| HOST | msnbot-65-55-209-129.search.msn.com | IP | 65.55.209.129 | 最終確認 | 2009/09/06 |
| HOST | msnbot-65-55-209-132.search.msn.com | IP | 65.55.209.132 | 最終確認 | 2009/07/09 |
| HOST | msnbot-65-55-209-133.search.msn.com | IP | 65.55.209.133 | 最終確認 | 2009/03/07 |
| HOST | msnbot-65-55-209-134.search.msn.com | IP | 65.55.209.134 | 最終確認 | 2009/03/10 |
| HOST | msnbot-65-55-209-140.search.msn.com | IP | 65.55.209.140 | 最終確認 | 2009/09/07 |
| HOST | msnbot-65-55-209-141.search.msn.com | IP | 65.55.209.141 | 最終確認 | 2009/08/01 |
| HOST | msnbot-65-55-209-142.search.msn.com | IP | 65.55.209.142 | 最終確認 | 2009/04/25 |
| HOST | msnbot-65-55-209-143.search.msn.com | IP | 65.55.209.143 | 最終確認 | 2009/07/09 |
| HOST | msnbot-65-55-209-145.search.msn.com | IP | 65.55.209.145 | 最終確認 | 2009/09/06 |
| HOST | msnbot-65-55-209-146.search.msn.com | IP | 65.55.209.146 | 最終確認 | 2009/04/11 |
| HOST | msnbot-65-55-209-147.search.msn.com | IP | 65.55.209.147 | 最終確認 | 2009/05/11 |
| HOST | msnbot-65-55-209-149.search.msn.com | IP | 65.55.209.149 | 最終確認 | 2009/04/09 |
| HOST | msnbot-65-55-209-150.search.msn.com | IP | 65.55.209.150 | 最終確認 | 2009/04/09 |
| HOST | msnbot-65-55-211-21.search.msn.com | IP | 65.55.211.21 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-22.search.msn.com | IP | 65.55.211.22 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-23.search.msn.com | IP | 65.55.211.23 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-24.search.msn.com | IP | 65.55.211.24 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-25.search.msn.com | IP | 65.55.211.25 | 最終確認 | 2009/09/01 |
| HOST | msnbot-65-55-211-26.search.msn.com | IP | 65.55.211.26 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-27.search.msn.com | IP | 65.55.211.27 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-28.search.msn.com | IP | 65.55.211.28 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-29.search.msn.com | IP | 65.55.211.29 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-30.search.msn.com | IP | 65.55.211.30 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-31.search.msn.com | IP | 65.55.211.31 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-36.search.msn.com | IP | 65.55.211.36 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-37.search.msn.com | IP | 65.55.211.37 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-38.search.msn.com | IP | 65.55.211.38 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-39.search.msn.com | IP | 65.55.211.39 | 最終確認 | 2009/10/01 |
| HOST | msnbot-65-55-211-40.search.msn.com | IP | 65.55.211.40 | 最終確認 | 2009/10/01 |
| HOST | - | IP | 65.55.232.17 | 最終確認 | 2009/07/20 |
| HOST | - | IP | 65.55.232.27 | 最終確認 | 2009/09/01 |
| USER AGENT | msnbot/1.0 (+http://search.msn.com/msnbot.htm) | 最終確認 | 2009/05/01 | ||
| HOST | - | IP | 65.55.25.153 | 最終確認 | 2009/02/19 |
| HOST | msnbot-65-55-104-29.search.msn.com | IP | 65.55.104.29 | 最終確認 | 2009/05/01 |
| HOST | msnbot-65-55-105-229.search.msn.com | IP | 65.55.105.229 | 最終確認 | 2009/02/13 |
| HOST | msnbot-65-55-105-230.search.msn.com | IP | 65.55.105.230 | 最終確認 | 2009/04/10 |
| HOST | - | IP | 65.55.232.34 | 最終確認 | 2009/03/21 |
| USER AGENT | msnbot-media/1.1 (+http://search.msn.com/msnbot.htm) | 最終確認 | 2010/02/01 | ||
| HOST | msnbot-65-55-37-183.search.msn.com | IP | 65.55.37.183 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-37-184.search.msn.com | IP | 65.55.37.184 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-37-209.search.msn.com | IP | 65.55.37.209 | 最終確認 | 2009/03/06 |
| HOST | msnbot-65-55-37-219.search.msn.com | IP | 65.55.37.219 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-108-119.search.msn.com | IP | 65.55.108.119 | 最終確認 | 2009/03/14 |
| HOST | - | IP | 65.55.108.110 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-108-123.search.msn.com | IP | 65.55.108.123 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-108-135.search.msn.com | IP | 65.55.108.135 | 最終確認 | 2009/03/01 |
| HOST | msnbot-65-55-108-189.search.msn.com | IP | 65.55.108.189 | 最終確認 | 2009/07/01 |
| HOST | - | IP | 65.55.108.190 | 最終確認 | 2009/07/01 |
| HOST | msnbot-65-55-108-191.search.msn.com | IP | 65.55.108.191 | 最終確認 | 2009/07/01 |
| HOST | msnbot-65-55-220-148.search.msn.com | IP | 65.55.220.148 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-220-150.search.msn.com | IP | 65.55.220.150 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-220-157.search.msn.com | IP | 65.55.220.157 | 最終確認 | 2009/03/14 |
| HOST | msnbot-65-55-230-203.search.msn.com | IP | 65.55.230.203 | 最終確認 | 2009/04/04 |
| HOST | msnbot-65-55-230-205.search.msn.com | IP | 65.55.230.205 | 最終確認 | 2009/03/16 |
| HOST | - | IP | 65.55.231.52 | 最終確認 | 2009/03/01 |
| HOST | msnbot-65-55-231-71.search.msn.com | IP | 65.55.231.71 | 最終確認 | 2009/03/01 |
| HOST | - | IP | 65.55.234.161 | 最終確認 | 2010/02/01 |
| USER AGENT | msnbot-media/1.0 (+http://search.msn.com/msnbot.htm) | 最終確認 | 2009/03/01 | ||
| HOST | msnbot-65-55-212-122.search.msn.com | IP | 65.55.212.122 | 最終確認 | 2009/03/01 |
| USER AGENT | DoCoMo/2.0 P906i(c100;TB;W24H15) (compatible; MSNBOT-MOBILE/1.1; +http://search.msn.com/msnbot.htm) | 最終確認 | 2010/02/01 | ||
| HOST | msnbot-65-55-4-170.search.msn.com | IP | 65.55.4.170 | 最終確認 | 2010/02/01 |
| HOST | msnbot-65-55-51-40.msn.com | IP | 65.55.51.40 | 最終確認 | 2010/02/01 |
| 拒否用 | Deny from 65.52.0.0/14 | 最終確認 | 2010/02/01 | ||
| 拒否用 | Deny from 207.46.0.0/16 | 最終確認 | 2010/02/02 | ||
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/04/29 | ||
|---|---|---|---|---|---|
| USER AGENT | msnbot/1.0 (+http://search.msn.com/msnbot.htm) | 追加 | 2009/04/22 | ||
| HOST | - | IP | 219.142.53.17 | 追加 | 2009/04/22 |
| HOST | - | IP | 219.142.53.21 | 追加 | 2009/04/22 |
| USER AGENT | librabot/1.0 (+http://search.msn.com/msnbot.htm) | 追加 | 2009/03/03 | ||
| HOST | - | IP | 219.142.53.23 | 追加 | 2009/03/03 |
| HOST | - | IP | 219.142.53.24 | 追加 | 2009/03/03 |
| HOST | - | IP | 219.142.53.25 | 追加 | 2009/03/03 |
| HOST | - | IP | 219.142.53.26 | 追加 | 2009/03/03 |
| HOST | - | IP | 219.142.53.27 | 追加 | 2009/03/03 |
| HOST | - | IP | 219.142.53.28 | 追加 | 2009/03/03 |
| USER AGENT | MSMOBOT/1.1 (+http://search.msn.com/msnbot.htm) | 最終確認 | 2009/04/29 | ||
| HOST | - | IP | 202.96.51.149 | 追加 | 2009/04/29 |
| HOST | - | IP | 202.96.51.150 | 追加 | 2009/03/02 |
| HOST | - | IP | 202.96.51.151 | 追加 | 2009/04/01 |
| HOST | - | IP | 202.96.51.152 | 追加 | 2009/03/02 |
| HOST | - | IP | 202.96.51.153 | 追加 | 2009/04/01 |
| HOST | - | IP | 202.96.51.156 | 追加 | 2009/04/01 |
| HOST | - | IP | 202.96.51.158 | 追加 | 2009/03/02 |
| HOST | - | IP | 219.142.53.20 | 追加 | 2009/04/01 |
| HOST | - | IP | 219.142.53.21 | 追加 | 2009/04/01 |
| HOST | - | IP | 219.142.53.27 | 追加 | 2009/03/02 |
| 拒否用 | Deny from 202.96.51.128/25 | 最終確認 | 2009/04/29 | ||
| 拒否用 | Deny from 219.142.53.0/25 | 最終確認 | 2009/04/22 | ||
目的不明
| 概要 | 何の目的でクロールしているのかはわからないが、IPはMicrosoftのもののようだ | ||||
|---|---|---|---|---|---|
| 備考 | robots.txtを読んでいる | 最終確認 | 2009/12/08 | ||
| USER AGENT | Mozilla/4.0 | 最終確認 | 2009/12/08 | ||
| HOST | msnbot-65-55-37-175.search.msn.com | IP | 65.55.37.175 | 追加 | 2009/10/04 |
| HOST | - | IP | 65.55.217.42 | 最終確認 | 2009/08/04 |
| HOST | - | IP | 65.55.230.230 | 最終確認 | 2009/12/08 |
| HOST | - | IP | 65.55.230.231 | 追加 | 2009/09/02 |
| HOST | msnbot-65-55-230-237.search.msn.com | IP | 65.55.230.237 | 追加 | 2009/08/04 |
| HOST | - | IP | 65.55.231.67 | 追加 | 2009/08/08 |
| HOST | - | IP | 65.55.234.160 | 追加 | 2009/07/27 |
| 拒否用 | Deny from 65.52.0.0/14 | 最終確認 | 2009/12/08 | ||




