标签：
微博作为一个活跃的社交网路平台，拥有大量的用户，每天有成千上万条实时信息。将这些的信息采集下来，对我们分析某项微博活动、某个微博事件极有助益。下面分享一些抓取微博数据防止被禁的几个技巧，希望对大家能有所帮助。
技巧一：设置cookies
cookie其实是储存在用户终端的一些被加密的数据，有些网站通过cookies来识别用户身份，如果某个访问总是高频率地发请求，很可能会被网站注意到，被怀疑为爬虫，这时网站就可以通过cookie找到这个访问的用户而拒绝其访问。
有两种方法可以解决这个问题，一是自定义设置cookie策略，防止cookie rejected问题，二是禁止cookies。
技巧二：修改IP
其实微博识别的是IP ，不是账号。也就是说，当需要连续抓取很多数据的时候，模拟登录没有意义。只要是同一个IP ，不管怎么换账号也没有用，关键在于IP地址。
web server应对爬虫的策略之一就是直接将IP 或者整个IP段都封掉禁止访问，当IP被禁封后，转换到其他IP继续访问即可，这时就需要用到代理IP 。
IP 地址的获取方式有很多，最常见的是从代理IP网站获取大量优质IP。像神龙HTTP代理这类拥有专业的技术运维团队，运营商授权资源，低延迟高可用率的，是个不错的选择。
技巧三：修改User-Agent
User-Agent是指包含浏览器信息、操作系统信息等的一个字符串，也称之为一种特殊的网络协议。服务器通过它判断当前访问对象是浏览器、邮件客户端还是网络数据采集程序。
具体方法是把User-Agent的值改为浏览器的方式，甚至可以设置一个User-Agent池（list，数组，字典都可以），存放多个“浏览器”，每次抓取的时候随机取一个来设置request的User-Agent，这样User-Agent会一直在变化，防止被屏蔽。
相关文章
- 爬虫代理IP连接失败
- 爬虫代理的实现方式和防封策略
- SpringBoot爬虫代理
- 企业爬虫ip代理可用来做什么
- 分布式爬虫如何使用代理ip
- 爬虫代理ip怎么使用微信投票
- 代理IP如何使用大数据分析
- 盘点爬虫IP代理使用的常见问题及解决思路
- 浅析爬虫代理报错的原因
- 爬虫离开代理IP后还能否顺畅工作
- 网站如何判断有爬虫在采集数据
- 高速HTTP代理如何辨别寻找？-神龙HTTP
- 具体了解HTTP代理可用于哪些业务？-神龙HTTP
- 代理服务器有几种类型呢？-神龙HTTP
- 新手是用免费代理ip还是付费代理ip-神龙HTTP
- 盘点代理IP比较突出的优点-神龙HTTP
- 盘点代理ip池的作用是什么-神龙HTTP
- 动态ip和静态ip的使用场景分析-神龙HTTP
- 影响代理IP访问速度的关键因素-神龙HTTP
- 代理ip池对爬虫有多重要-神龙HTTP
- 如何使用PHP检测代理匿名级别-神龙HTTP
- 代理IP技术-神龙HTTP
- 动态ip和拨号上网哪个好-神龙HTTP
- 怎么把动态ip改成静态ip？-神龙HTTP
- SEO业务如何选择代理IP？-神龙HTTP
- 怎么维护爬虫代理IP池？-神龙HTTP
- 短效优质代理、一手私密代理和独享IP池如何选择-神龙HTTP
- HTTP代理IP使用的问题-神龙HTTP
- python爬虫爬微信好友信息代码（下）-神龙HTTP
- 用代理ip连接网络速度反而变慢了-神龙HTTP
- 盘点电商提高网站流量的方法-神龙HTTP
- 抢购用IP代理更容易-神龙HTTP
- HTTP代理跟SOCKS代理的不同-神龙HTTP
- 数字化需要隐藏IP和更换IP-神龙HTTP
- ip受到限制怎么办？-神龙HTTP
- 爬虫Python用ip代理代码-神龙HTTP
- 动态ip代理在邮件营销的运用-神龙HTTP
- 深度解析代理IP的认知误区-神龙HTTP
- 爬虫选代理IP软件要考虑的因素-神龙HTTP
- 代理服务器你了解多少？-神龙HTTP
- 玩网络爬虫要选ip代理么-神龙HTTP
- 盘点网络爬虫有几种分类？-神龙HTTP
- ip代理解决爬虫问题-神龙HTTP
- 网络爬虫使用代理ip大展拳脚-神龙HTTP
- Mitmproxy抓包工具介绍-神龙HTTP
- ip代理让网络爬虫更快更好-神龙HTTP
- 什么是动态ip代理-神龙HTTP
- Python爬虫对HTTP代理的需求大吗？-神龙HTTP
- 论Python与爬虫关系有多紧密-神龙HTTP
- 代理IP的衡量标准-神龙HTTP
- 爬虫工作，代理IP的并发请求越大越好？
- 爬虫一定要使用代理IP吗
- 优质爬虫HTTP代理有哪些_神龙IP
- 使用爬虫代理时需要注意些什么_神龙IP
- 代理IP在网页抓取中有什么作用_神龙IP
- 常见的有效的网站反爬虫方法有哪些
- 匿名代理有什么区别?代理IP该如何选择
- 国内优质代理IP怎么去选
- 爬虫的抓取效率如何提升
- 爬虫程序为什么需要使用代理IP
- 网站的反爬虫策略该如何应对
- python爬虫代理IP该怎么选
- 影响代理IP稳定性的原因有哪些
- 数据采集用自建代理效果怎么样?
- 如何批量获取代理IP 代理IP池搭建
- 数据采集时IP不够该怎么办？
- IP代理可应用于哪些行业？
- 数据采集常见的抓取策略
- Python获取微博热搜的方法
- 优化爬虫程序时要注意什么？-神龙HTTP
- 使用代理IP爬虫时超时怎么办？-神龙HTTP
- 代理IP池的特点-神龙HTTP
