应对反爬机制之代理的使用
文章目录
作为爬虫我们的都知道很多网站都有反爬措施阻止别人来爬取数据,而封ip是反爬策略中最常见的一种。通常他们的策略都是发现你在短时间内过多的访问就会把你的ip封禁,针对这个策略要解决其实个很简单,我们可以通过限制访问网站的频率或添加IP代理池就OK了。而在爬虫程序中我们就只需要添加代理就可以搞定了,比如以示例
! -*- encoding:utf-8 -*-
import requests
import random
# 要访问的目标页面
targetUrl = "http://www.weibo.com"
# 要访问的目标HTTPS页面
# targetUrl = "https://www.weibo.com"
# 代理服务器(产品官网 www.16yun.cn)
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理隧道验证信息
proxyUser = "16VIZRXL"
proxyPass = "125478"
proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
"host" : proxyHost,
"port" : proxyPort,
"user" : proxyUser,
"pass" : proxyPass,
}
# 设置 http和https访问都是用HTTP代理
proxies = {
"http" : proxyMeta,
"https" : proxyMeta,
}
# 设置IP切换头
tunnel = random.randint(1,10000)
headers = {"Proxy-Tunnel": str(tunnel)}
resp = requests.get(targetUrl, proxies=proxies, headers=headers)
print resp.status_code
print resp.text
本文只是粗略的分享了下网站反爬策略中的封ip行为,只需要加上代理就可以轻松解决,以Python为主。希望能给初入门的你引上一条路,希望能遇见更多的走在路上的前辈们。
评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论