最近刚好在学习爬虫，了解到MongoDB非常适合JSON数据存储，受到广大爬虫程序员的青睐，故学习之。一、安装MongoDB官网：进入官网后选择你需要的版本，系统，已及你想要的安装包（可选msi或zip，这里我使用msi，双击安装，简单！）:::warning在MongoDB2.2版本后已经不再支持WindowsXP系统。最新版本也

!(https://oscimg.oschina.net/oscnet/upede1a7a938f161dbdaf6489a266e85e0347.JPEG)由于互联网的极速发展，所有现在的信息处于大量堆积的状态，我们既要向外界获取大量数据，又要在大量数据中过滤无用的数据。针对我们有益的数据需要我们进行指定抓取，从而出现了现在的爬虫技术，通过爬

title:Java爬虫之JSoup使用教程date:201812248:00:000800update:201812248:00:000800author:mecover:https://imgblog.csdnimg.cn/20181224144920712(https://www.oschin

1.概念：多台机器上可以执行同一个爬虫程序，实现网站数据的分布爬取2.原生的scrapy是不可以实现分布式式爬虫　　a）调度器无法共享　　b）管道无法共享3.scrapyredis组件：专门为scrapy开发的一套组件，该组件可以让scrapy实现分布式　　a）pipinstallscrapyredis4.分布式爬取的流程：

 vip视频网站爬虫电影网站：http://www.08ge.com/play/?makedianying&idfqvlYhH5QHb3Sh.html(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fwww.08ge.com%2Fplay%2F%3Fmake

自从使用hexo在githubpage更新博客之后，我每次在cnblog上发布文章，需要手动再更新hexo。hexo使用markdown格式来写文章，手动更新需要对文章本身内容进行转化，做成md文件再进行上传，后来就想到，本身爬虫就可以对页面中的各种元素进行提取，同时markdown使用的是标记语法，那么使用爬虫分析文章元素，提取主要内容并且根据模板自动生

    经过上一节开发环境搭建中的百度新闻的爬虫例子，相信大家已经对GuozhongCrawler简洁的API产生浓厚兴趣了。不过这个还不算一个入门例子。只是完成了简单的下载和解析。现在我们来完成一个比较完整的爬虫吧。   为了体现GuozhongCrawler适应业务灵活性。我们以抓取西刺代理（http://www.xici.net.co/nn/1）

据国际知名金融广告服务平台提供商Dianomi的报告《2018Robottrafficreport》的数据，在互联网上人类流量仅仅占了48.2%，也就是说，一个页面的10000个点击里面，大约5100个来自机器人。在航旅票务等行业，热门数据接口中甚至有超过95%的流量是来自爬虫。如何有效管理爬虫流量，是当下业务安全面临的问题。

错误处理的必要性在网络爬虫的开发过程中，可能会遇到多种错误，包括但不限于：网络连接问题服务器错误（如404或500错误）目标网站结构变化超时问题权限问题错误处理机制可以确保在遇到这些问题时，爬虫能够优雅地处理异常情况，记录错误信息，并在可能的情况下恢复执行