爬虫

1. 环境  – Python 　　mac os预装的python  $ python -V Python 2.7.10 $ where python /usr/bin/python $ ls /System/Library/Frameworks/Python.framework/Versions 2.3 2.5 2.6 2.7 Current $ ls /…

爬虫接触了也有段时间，跟着网上的一些教程，不仅做出了一些实用的小工具，而且对于使用Python爬虫的整个流程有了大致的了解，也知道了爬虫是怎么回事。以前做的一些小的试验，陆续也都会写成博客，今天记录的， 是我在慕课网上（http://www.imooc.com/learn/563）学到的一个爬虫框架，结构清晰合理，很值得学习，这里实现的只是爬虫最简单的功能，…

定义： 网络爬虫（Web Spider），又被称为网页蜘蛛，是一种按照一定的规则，自动地抓取网站信息的程序或者脚本。 简介： 网络蜘蛛是一个很形象的名字。如果把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从 网站某一个页面开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下…

现在越来越多的人在工作中使用到爬虫，各个网站的反爬虫机制也越来越严格，下面就自己构建一个代理ip池。 手动更新ip池 1.1在setting配置文件中新增ip池 IPPOOL=[ {“ipaddr”:”61.129.70.131:8080”}, {“ipaddr”:”61.152.81.193:9100”}, {“ipaddr”:”120.204.85.29…

项目目录结构 /w8ay.py //项目启动主文件 /lib/core //核心文件存放目录 /lib/core/config.py //配置文件 /script //插件存放 /exp //exp和poc存放 四、实验步骤 4.1 sql检测脚本编写 用一个字典存储数据库特征： DBMS_ERRORS = {                        …

4.2 爬虫的编写 爬虫的思路我们上面已经讲过了，先完成url的管理，我们单独将他作为一个类 文件保存在lib/core/UrlManager.py。 #!/usr/bin/env python #-*- coding:utf-8 -*- class UrlManager(object):     def __init__(self):         se…

问题描述 今天在爬虫的时候经常遇到Traceback (most recent call last):异常，程序写得比较简陋，没有处理异常，导致爬虫程序经常报错停止。经过调试，发现是爬虫网站不稳定导致连接失败。 解决方法 maxTryNum = 20 for tries in range(maxTryNum): try: response = request…

接上一章，动态页面抓取——抓取京东评论区内容。 url=‘https://club.jd.com/comment/productPageComments.action?callback=fetchJSON_comment98vv399&productId=4560435&score=0&sortType=5&page=0&am…

AJAX 是一种用于创建快速动态网页的技术。 通过在后台与服务器进行少量数据交换，AJAX 可以使网页实现异步更新。这意味着可以在不重新加载整个网页的情况下，对网页的某部分进行更新。  近期在学习获取js动态加载网页的爬虫，决定通过实例加深理解。 1、首先是url的研究（谷歌浏览器的审查功能） http://www.toutiao.com/search_co…

经过一段时间的python学习，能写出一些爬虫了。但是，遇到js动态加载的网页就犯了难。于是乎谷歌、百度，发现个好介绍http://www.jianshu.com/p/4fe8bb1ea984   主要就是分析网页的加载过程，从网页响应中找到JS脚本返回的JSON数据。（上边的网址介绍很详细，下边就直接贴代码，记录下） 1、今日头条的 #coding：utf…