WukongSpider 悟空搜索蜘蛛的去留问题

　　今天在查看IIS日志时发现，“WukongSpider”竟然占了很大的量，在其中一天的日志中，WukongSpider竟然达1万多条，一万多PV啊，就这么被这个可恶的悟空搜索给霸占了，并且WukongSpider出现频率过高，已经超过Google / Baidu / Yahoo / Youdao / Soso等正规搜索引擎的抓取条数了。

　　网上查了一下这个站：

　　方法一：

　　将WukongSpider添加到Robots.txt，相信这个家伙也是遵循搜索引擎抓取规则的。

　　方法二：

　　将WukongSpider的IP地址加入到黑名单中，禁止该IP来访，可以大大减轻服务器的压力。

　　推荐：以上两个方法都使用，PS：如果你的网站是手机类站点，就不要屏蔽了！

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!