今天跟蜘蛛们干上了=.= （转）蜘蛛IP是多少？如何查看蜘蛛是否光临

什么是baiduspider？

baiduspider是百度搜索引擎的一个自动程序。它的作用是访问互联网上的html网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站的网页。

baiduspider对一个网站服务器造成的访问压力如何？

baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后，baiduspider会暂停一会，以防止增大服务器的访问压力。所以在一般情况下，baiduspider对您网站的服务器不会造成过大压力。

为什么baiduspider不停的抓取我的网站？

对于您网站上新产生的或者持续更新的页面，baiduspider会持续抓取。此外，您也可以检查网站访问日志中baiduspider的访问是否正常，以防止有人恶意冒充baiduspider来频繁抓取您的网站。如果您发现baiduspider非正常抓取您的网站，请反馈，并请尽量给出baiduspider对贵站的访问日志，以便于我们跟踪处理。

我不想我的网站被baiduspider访问，我该怎么做？

baiduspider遵守互联网robots协议。您可以利用robots.txt文件完全禁止baiduspider访问您的网站，或者禁止baiduspider访问您网站上的部分文件。注意：禁止baiduspider访问您的网站，将使您的网站上的网页，在百度搜索引擎以及所有百度提供搜索引擎服务的搜索引擎中无法被搜索到。

关于robots.txt的写作方法，请参看我们的介绍：robots.txt写作方法

为什么我的网站已经加了robots.txt，还能在百度搜索出来？

因为搜索引擎索引数据库的更新需要时间。虽然baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要二至四周才会清除。另外也请检查您的robots配置是否正确。

百度蜘蛛在robots.txt中的名字是什么？

“baiduspider”全部为小写字母。

baiduspider多长时间之后会重新抓取我的网页？

百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，baiduspider会重新访问和更新一个网页。

知道了什么是百度蜘蛛，那么怎么才能知道蜘蛛是否来过你的站？这个可以从你服务器或者虚拟主机的日志中看出来，比如我用的虚拟主机的完整使用日志中有这样的记录：

220.181.38.198--[11/Nov/2007:04:28:29+0800]"GET/HTTP/1.1"20061083"-""Baiduspider"这就说明百度蜘蛛来过我的站了，如果你还想知道有没有其它搜索引擎的蜘蛛来过你的站，你可以在日志文件中搜索“spider”这个词，或者搜索蜘蛛的IP，我的就查到sogou也来过我的站，IIS日志与Apache的日志是一样的，都可以查到。

各类蜘蛛IP收集，不一定完全准确。

序号IP注释

1202.106.186.*163蜘蛛

2202.108.36.*163蜘蛛

3202.108.44.*163蜘蛛

4202.108.45.*163蜘蛛

5202.108.5.*163蜘蛛

6202.108.9.*163蜘蛛

7220.181.12.*163蜘蛛

8220.181.13.*163蜘蛛

9220.181.14.*163蜘蛛

10220.181.15.*163蜘蛛

11220.181.28.*163蜘蛛

12220.181.31.*163蜘蛛

13222.185.245.*163蜘蛛

14202.165.100.*3721蜘蛛

15220.181.19.*百度蜘蛛

16159.226.50.*百度蜘蛛

17202.108.11.*百度蜘蛛

18202.108.22.*百度蜘蛛

19202.108.23.*百度蜘蛛

20202.108.249.*百度蜘蛛

21202.108.250.*百度蜘蛛

2261.135.145.*百度蜘蛛

2361.135.146.*百度蜘蛛

2464.124.85.*become.com

2561.151.243.*china蜘蛛

26202.165.96.*gais.cs.ccu.edu.tw

27216.239.33.*google蜘蛛

28216.239.35.*google蜘蛛

29216.239.37.*google蜘蛛

30216.239.39.*google蜘蛛

31216.239.51.*google蜘蛛

32216.239.53.*google蜘蛛

33216.239.55.*google蜘蛛

34216.239.57.*google蜘蛛

35216.239.59.*google蜘蛛

3664.233.161.*google蜘蛛

3764.233.189.*google蜘蛛

3866.102.11.*google蜘蛛

3966.102.7.*google蜘蛛

4066.102.9.*google蜘蛛

4166.249.64.*google蜘蛛

4266.249.65.*google蜘蛛

4366.249.66.*google蜘蛛

4466.249.71.*google蜘蛛

4566.249.72.*google蜘蛛

4672.14.207.*google蜘蛛

4761.135.152.*iask蜘蛛

4865.54.188.*msn蜘蛛

4965.54.225.*msn蜘蛛

5065.54.226.*msn蜘蛛

5165.54.228.*msn蜘蛛

5265.54.229.*msn蜘蛛

53207.46.98.*msn蜘蛛

54207.68.157.*msn蜘蛛

55194.224.199.*noxtrumbot

56220.181.8.*Outfox

57221.239.209.*Outfox

58217.212.224.*psbot

59219.133.40.*QQ蜘蛛

60202.96.170.*QQ蜘蛛

61202.104.129.*QQ蜘蛛

6261.135.157.*QQ蜘蛛

63219.142.118.*sina蜘蛛

64219.142.78.*sina蜘蛛

6561.135.132.*sohu蜘蛛

66220.181.26.*sohu蜘蛛

220.181.19.*

6761.135.158.*tom蜘蛛

6866.196.90.*yahoo蜘蛛

6966.196.91.*yahoo蜘蛛

7068.142.249.*yahoo蜘蛛

7168.142.250.*yahoo蜘蛛

7268.142.251.*yahoo蜘蛛

73202.165.102.*yahoo中国蜘蛛

74202.160.178.*yahoo中国蜘蛛

75202.160.179.*yahoo中国蜘蛛

76202.160.180.*yahoo中国蜘蛛

77202.160.181.*yahoo中国蜘蛛

78202.160.183.*yahoo中国蜘蛛

7972.30.101.*yahoo蜘蛛

8072.30.102.*yahoo蜘蛛

8172.30.103.*yahoo蜘蛛

8272.30.104.*yahoo蜘蛛

8372.30.107.*yahoo蜘蛛

8472.30.110.*yahoo蜘蛛

8572.30.111.*yahoo蜘蛛

8672.30.128.*yahoo蜘蛛

8772.30.129.*yahoo蜘蛛

8872.30.131.*yahoo蜘蛛

8972.30.133.*yahoo蜘蛛

9072.30.134.*yahoo蜘蛛

9172.30.135.*yahoo蜘蛛

9272.30.216.*yahoo蜘蛛

9372.30.226.*yahoo蜘蛛

9472.30.252.*yahoo蜘蛛

9572.30.97.*yahoo蜘蛛

9672.30.98.*yahoo蜘蛛

9772.30.99.*yahoo蜘蛛

9874.6.74.*yahoo蜘蛛

99202.108.4.*中搜蜘蛛

100202.108.4.*中搜蜘蛛

101202.108.33.*中搜蜘蛛

102202.96.51.*中搜蜘蛛

103219.142.53.*中搜蜘蛛

[/td][/tr]

欣欣5202008-1-317:38

序号IP注释

1202.106.186163

2202.108.36163

3202.108.44163

4202.108.45163

5202.108.5163

6202.108.9163

7220.181.12163

8220.181.13163

9220.181.14163

10220.181.15163

11220.181.28163

12220.181.31163

13222.185.245163

14202.165.1003721

15220.181.19baidu

16159.226.50baidu

17202.108.11baidu

18202.108.22baidu

19202.108.23baidu

20202.108.249baidu

21202.108.250baidu

2261.135.145baidu

2361.135.146baidu

2464.124.85become.com

2561.151.243china

26202.165.96gais.cs.ccu.edu.tw

27216.239.33google

28216.239.35google

29216.239.37google

30216.239.39google

31216.239.51google

32216.239.53google

33216.239.55google

34216.239.57google

35216.239.59google

3664.233.161google

3764.233.189google

3866.102.11google

3966.102.7google

4066.102.9google

4166.249.64google

4266.249.65google

4366.249.66google

4466.249.71google

4566.249.72google

4672.14.207google

4761.135.152iask

4865.54.188msn

4965.54.225msn

5065.54.226msn

5165.54.228msn

5265.54.229msn

53207.46.98msn

54207.68.157msn

55194.224.199noxtrumbot

56220.181.8Outfox

57221.239.209Outfox

58217.212.224psbot

59219.133.40QQ

60202.96.170QQ

61202.104.129QQ

6261.135.157QQ

63219.142.118sina

64219.142.78sina

6561.135.132sohu

66220.181.26sohu

6761.135.158tom

6866.196.90yahoo

6966.196.91yahoo

7068.142.249yahoo

7168.142.250yahoo

7268.142.251yahoo

73202.165.102yahoo

74202.160.178yahoo

75202.160.179yahoo

76202.160.180yahoo

77202.160.181yahoo

78202.160.183yahoo

7972.30.101yahoo

8072.30.102yahoo

8172.30.103yahoo

8272.30.104yahoo

8372.30.107yahoo

8472.30.110yahoo

8572.30.111yahoo

8672.30.128yahoo

8772.30.129yahoo

8872.30.131yahoo

8972.30.133yahoo

9072.30.134yahoo

9172.30.135Yahoo

9272.30.216yahoo

9372.30.226yahoo

9472.30.252yahoo

9572.30.97yahoo

9672.30.98yahoo

9772.30.99yahoo

9874.6.74yahoo

99202.108.4zhongsou

100202.108.33zhongsou

101202.96.51zhongsou

102219.142.53zhongsou

－－－－－－－－－－－－－百度－－－－－－－－－－－－－

31.135.145.*

61.135.145.*

61.135.146.*

159.226.50.*

202.108.11.*

202.108.22.*

202.108.23.*

202.108.249.*

202.108.250.*

220.181.19.*

－－－－－－－－－－－－－雅虎中国－－－－－－－－－－－－－

66.196.90.*

66.196.91.*

68.142.249.*

68.142.250.*

68.142.251.*

72.30.101.*

72.30.102.*

72.30.103.*

72.30.104.*

72.30.107.*

72.30.110.*

72.30.111.*

72.30.128.*

72.30.129.*

72.30.131.*

72.30.133.*

72.30.134.*

72.30.135.*

72.30.216.*

72.30.226.*

72.30.252.*

72.30.97.*

72.30.98.*

72.30.99.*

74.6.74.*

202.165.102.*

202.160.178.*

202.160.179.*

202.160.180.*

202.160.181.*

202.160.183.*

－－－－－－－－－－－－－Google－－－－－－－－－－－－－

64.233.161.*

64.233.189.*

66.102.11.*

66.102.7.*

66.102.9.*

66.249.64.*

66.249.65.*

66.249.66.*

66.249.71.*

66.249.72.*

72.14.207.*

216.239.33.*

216.239.35.*

216.239.37.*

216.239.39.*

216.239.51.*

216.239.53.*

216.239.55.*

216.239.57.*

216.239.59.*

－－－－－－－－－－－－－MSN－－－－－－－－－－－－－

65.54.188.*

65.54.225.*

65.54.226.*

65.54.228.*

65.54.229.*

207.46.98.*

207.68.157.*

－－－－－－－－－－－－－中搜－－－－－－－－－－－－－

202.108.1.*

202.108.2.*

202.108.3.*

202.108.4.*

202.108.33.*

202.96.51.*

219.142.53.*

－－－－－－－－－－－－－QQ－－－－－－－－－－－－－

219.133.40.*

202.96.170.*

202.104.129.*

61.135.157.*

－－－－－－－－－－－－－163－－－－－－－－－－－－－

202.106.186.*

202.108.36.*

202.108.44.*

202.108.45.*

202.108.5.*

202.108.9.*

220.181.12.*

220.181.13.*

220.181.14.*

220.181.15.*

220.181.28.*

220.181.31.*

222.185.245.*

－－－－－－－－－－－－－其他－－－－－－－－－－－－－

64.124.85.*become.com

61.151.243.*china

202.165.96.*gais.cs.ccu.edu.tw

61.135.152.*iask

194.224.199.*noxtrumbot

220.181.8.*Outfox

221.239.209.*Outfox

217.212.224.*psbot

219.142.118.*sina

219.142.78.*sina

61.135.132.*sohu

220.181.26.*sohu

61.135.158.*tom