【爬虫实战项目】Python爬取Top100电影榜单数据保存本地(附源码)

前言

今天给大家介绍的是Python爬取Top100电影榜单数据保存csv文件,在这里给需要的小伙伴们代码,并且给出一点小心得。

首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对Top100电影榜单数据进行爬取。

在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步就是分析我们的网页。

通过分析我们发现在爬取过程中速度比较慢,所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。

【爬虫实战项目】Python爬取Top100电影榜单数据保存本地(附源码)

开发工具

Python版本: 3.6

相关模块:

requests模块

time模块

parsel模块

csv模块

环境搭建

安装Python并添加到环境变量,pip安装需要的相关模块即可。

文中完整代码及文件,评论留言获取

思路分析

浏览器中打开我们要爬取的页面
按F12进入开发者工具,查看我们想要的Top100电影榜单数据在哪里
这里我们需要页面数据就可以了

页面数据

代码实现

for page in range(0, 101, 10):
    time.sleep(2)
    url = 'https://maoyan.com/board/4?offset={}'.format(page)
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36',
        'Cookie': '__mta=20345351.1670903159717.1670903413872.1670903436333.5; uuid_n_v=v1; uuid=A8065B807A9811ED82C293D7E110319C9B09821067E1411AB6F4EC82889E1869; _csrf=916b8446658bd722f56f2c092eaae35ea3cd3689ef950542e202b39ddfe7c91e; Hm_lvt_703e94591e87be68cc8da0da7cbd0be2=1670903160; _lxsdk_cuid=1850996db5dc8-07670e36da28-26021151-1fa400-1850996db5d67; _lxsdk=A8065B807A9811ED82C293D7E110319C9B09821067E1411AB6F4EC82889E1869; __mta=213622443.1670903327420.1670903417327.1670903424017.4; Hm_lpvt_703e94591e87be68cc8da0da7cbd0be2=1670903436; _lxsdk_s=1850996db5e-8b2-284-88a%7C%7C18',
        'Host': 'www.maoyan.com',
        'Referer': 'https://www.maoyan.com/films/1200486'

    }
    response = requests.get(url, headers=headers)
    selector = parsel.Selector(response.text)
    li_s = selector.css('.board-wrapper dd')
    for li in li_s:
        name = li.css('.name a::text').get()
        star = li.css('.star::text').get()
        star_string = star.strip()
        releasetime = li.css('.releasetime::text').get()
        data_time = releasetime.strip()
        follow = li.css('.score i::text').getall()
        score = ''.join(follow)
        dit = {
            '电影名字': name,
            '主演': star_string,
            '上映时间': data_time,
            '评分': score,
        }
        csv_write.writerow(dit)
        print(dit)

Cookie获取

Cookie

效果展示

效果展示

最后

今天的分享到这里就结束了 ,感兴趣的朋友也可以去试试哈

对文章有问题的,或者有其他关于python的问题,可以在评论区留言或者私信我哦

觉得我分享的文章不错的话,可以关注一下我,或者给文章点赞(/≧▽≦)/

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:【爬虫实战项目】Python爬取Top100电影榜单数据保存本地(附源码) - Python技术站

(0)
上一篇 2023年4月2日 下午4:07
下一篇 2023年4月2日

相关文章

  • Python实战案例,tkinter+random模块,实现课堂随机抽选提问并语音播报学生姓名

    先看运行结果 前言 今天给大家介绍Python实现课堂随机抽选提问并语音播报学生姓名实战案例,废话不多说直接开整~ 开发工具 Python版本: 3.8 相关模块: tkinter模块 time模块 random模块 环境搭建 安装Python并添加到环境变量,pip安装需要的相关模块即可。 核心功能设计 总体来说,我们这款课堂点名器实现的思路大致是,可以自…

    Python开发 2023年4月2日
    00
  • 【脚本项目源码】Python实现鲁迅名言查询系统

    前言 本文给大家分享的是如何通过利用Python实现鲁迅名言查询系统,废话不多直接开整~ 开发工具 Python版本: 3.6 相关模块: PyQt5模块 fuzzywuzzy模块 环境搭建 安装Python并添加到环境变量,pip安装需要的相关模块即可。 文中实战教程,评论留言获取。 代码实现 简单的GUI class GUI(QWidget): def …

    Python开发 2023年4月2日
    00
  • Python爬虫实战,requests+openpyxl模块,爬取手机商品信息数据(附源码)

    前言 今天给大家介绍的是Python爬取手机商品信息数据,在这里给需要的小伙伴们代码,并且给出一点小心得。 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对手机信息数据进行爬取。 在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步就是…

    Python开发 2023年4月2日
    00
  • 【Python爬虫实战项目】Python爬虫批量下载相亲网站数据并保存本地(附源码)

    前言 今天给大家介绍的是Python爬虫批量下载相亲网站图片数据,在这里给需要的小伙伴们代码,并且给出一点小心得。 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对相亲网站图片数据进行爬取。 在每次进行爬虫代码的编写之前,我们的第一步也是最重…

    Python开发 2023年3月31日
    00
  • Python爬虫实战,requests+openpyxl模块,爬取小说数据并保存txt文档(附源码)

    前言 今天给大家介绍的是Python爬取小说数据并保存txt文档,在这里给需要的小伙伴们代码,并且给出一点小心得。 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对小说数据进行爬取。 在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步…

    Python开发 2023年4月2日
    00
  • 【爬虫实战项目】Python爬虫批量下载网易云音乐飙升榜并保存本地(附源码)

    前言 今天给大家介绍的是Python爬虫批量下载音乐飙升榜并保存本地,在这里给需要的小伙伴们代码,并且给出一点小心得。 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对音乐飙升榜进行爬取。 在每次进行爬虫代码的编写之前,我们的第一步也是最重要…

    Python开发 2023年4月2日
    00
  • Python爬虫实战,requests+xlwt模块,爬取螺蛳粉商品数据(附源码)

    前言 今天给大家介绍的是Python爬取螺蛳粉商品数据,在这里给需要的小伙伴们代码,并且给出一点小心得。 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本数据爬取的人会很多,所以我们需要考虑更换代理IP和随机更换请求头的方式来对螺蛳粉数据进行爬取。 在每次进行爬虫代码的编写之前,我们的第一步也是最重要的一步就是分析…

    Python开发 2023年4月2日
    00
  • 【脚本项目源码】Python制作艺术签名生成器,打造专属你的个人艺术签名

    前言 本文给大家分享的是如何通过利用Python制作艺术签名生成器,废话不多直接开整~ 开发工具 Python版本: 3.6 相关模块: requests模块 PIL模块 PyQt5模块 环境搭建 安装Python并添加到环境变量,pip安装需要的相关模块即可。 文中实战教程,评论留言获取。 思路分析 浏览器中打开我们要爬取的页面按F12进入开发者工具,查看…

    Python开发 2023年4月2日
    00
合作推广
合作推广
分享本页
返回顶部