百度360必应搜狗淘宝本站头条
python类型转换python串口编程python计时python异常python进度条
当前位置：网站首页 > 技术资源 > 正文

为了周末带女神一起去看电影，我用Python爬取上万部电影的排名

off999 2024-12-15 16:03 23 浏览 0 评论

文章目录

一、写在前面

好不容易女神喊我去看电影，但是她问我准备看什么，那我得好好准备准备~

二、准备工作

1、使用的软件

私信小编01即可获取大量Python学习资源

  • python 3.8 （来源 免费的）
  • Pycharm （YYDS python最好用的编辑器 不接受反驳…）

软件及安装讲解： 软件安装包/安装视频讲解

2、使用的模块

  • requests >>> 数据请求模块 pip install requests
  • parsel >>> 数据解析模块 pipinstall parsel
  • csv
    模块安装： 如何安装python模块, python模块安装失败的原因以及解决办法

3、爬虫思路

无论你爬取任何网站数据，都是可以按照这个几步骤来。

1. 明确需求

我们要爬取的内容是什么

https://movie.douban.com/top250

要分析我们想要的数据，可以从哪里获取，哪里来的… (数据来源分析)

用这个开发者工具进行抓包(数据包)分析

  • 静态网页：网页上面看到的数据内容,在网页源代码里面都有
  • 动态网站：抓包分析

2. 发送请求 (开发者工具里面headers)

对于那个网址发送请求，发送什么样的请求，携带那些请求头参数。

3. 获取数据

获取服务器返回的数据内容，看服务器的数据格式是什么样的，或者说我们想要的数据是什么样的；

获取文本数据 response.text ；

获取服务器json字典数据 response.json() ；

获取二进制数据 response.content 保存视频/音频/图片/特定格式的文件内容，都是获取二进制数据；

4. 解析数据

提供我们想要的数据内容

5. 保存数据

保存本地

三、代码解析

1、导入模块

导入一下我们需要用到的模块

import requests  # 数据请求模块 pip install requests
import parsel  # 数据解析模块 pip install parsel
import csv  # 保存表格数据

2、创建文件

快速批量替换 全文内容 使用正则表达式 替换内容

f = open('豆瓣数据.csv', mode='a', encoding='utf-8', newline='')  

csv_writer = csv.DictWriter(f, fieldnames=[
    '电影名字',
    '导演',
    '主演',
    '年份',
    '国家',
    '电影类型',
    '评论人数',
    '评分',
    '概述',
    '详情页',
])
csv_writer.writeheader()

3、获取数据

for page in range(0, 250, 25):
    url = f'https://movie.douban.com/top250?start={
   page}&filter='
    # headers 请求头 用来伪装python代码 为了防止爬虫程序被服务器识别出来,
    # User-Agent 浏览器的基本标识 用户代理 直接复制粘贴的
    # 披着羊皮的狼  爬虫程序 >>> 狼  headers >>> 羊皮  服务器数据 >>> 羊圈
    headers = {
 
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36'
    }
    # 发送请求 get
    # 通过requests数据请求模块里面get请求方法 对于 url以及发送请求并且携带header请求头, 最后用response变量接收返回数据
    response = requests.get(url=url, headers=headers)
    # 获取数据
    # print(response.text)
    # 解析数据 re正则表达式 css选择器 xpath 那一种更方便 更加舒服 就用哪一个
    # json 键值对取值
    # 提取我们想要的数据内容
    # 把获取下来的 response.text 网页字符串数据 转成selector 对象
    selector = parsel.Selector(response.text)
    # <Selector xpath=None data='<html lang="zh-CN" class="ua-windows ...'> 对象
    # css选择器 根据标签属性提取数据
    # 第一次解析数据, 获取所有li标签
    lis = selector.css('.grid_view li')  # css选择器语法
    # selector.xpath('//*[@class="grid_view"]/li') # xpath写法
    # [] 列表, 如果说我想要一一提取列表里面的元素 怎么做?

4、解析数据

for li in lis:
    try:
        # span:nth-child(1) 组合选择器  表示的选择第几个span标签
        # 1 选择第一个span标签 text 获取标签文本数据
        title = li.css('.hd a span:nth-child(1)::text').get()
        href = li.css('.hd a::attr(href)').get()  # 详情页
        # li.xpath('//*[@class="hd"]/a/span(1)/text()').get()
        # get返回字符串数据 getall 是返回列表数据
        # get获取第一个标签数据 getall 获取所有的
        move_info = li.css('.bd p::text').getall()
        actor_list = move_info[0].strip().split('   ')  # 列表索引位置取值
        # print(actor_list)
        date_list = move_info[1].strip().split('/')  # 列表索引位置取值
        director = actor_list[0].replace('导演: ', '').strip()  # 导演
        actor = actor_list[1].replace('主演: ', '').replace('/', '').replace('...', '') # 演员
        date = date_list[0].strip()  # 年份
        country = date_list[1].strip()  # 国家
        move_type = date_list[2].strip()  # 电影类型
        comment = li.css('.star span:nth-child(4)::text').get().replace('人评价', '')  # 评论人数
        star = li.css('.star span:nth-child(2)::text').get()  # 星级
        world = li.css('.inq::text').get()  # 概述
        # 字符串的高级方法
        # replace() 字符串替换的方法  strip() 去除字符串左右两端的空格 split() 分割 之后返回的列表
        # 字符串如何去除空格呢?
        # print(title, actor_list, date_list)
        dit = {
 
            '电影名字': title,
            '导演': director,
            '主演': actor,
            '年份': date,
            '国家': country,
            '电影类型': move_type,
            '评论人数': comment,
            '评分': star,
            '概述': world,
            '详情页': href,
        }

5、写入数据

csv_writer.writerow(dit)

6、输出数据

print(title, director, actor, date, country, move_type, comment, star, world, href, sep=' | ')
except:
    pass

所有代码

所有代码我就没写到目录里面，奖励给全部看完的你，不然有些人看到目录就直接点过来看全部代码了，哈哈~

import requests  
import parsel  
import csv  

f = open('豆瓣数据.csv', mode='a', encoding='utf-8', newline='')  
csv_writer = csv.DictWriter(f, fieldnames=[
    '电影名字',
    '导演',
    '主演',
    '年份',
    '国家',
    '电影类型',
    '评论人数',
    '评分',
    '概述',
    '详情页',
])
csv_writer.writeheader()

for page in range(0, 250, 25):
    url = f'https://movie.douban.com/top250?start={
   page}&filter='

    headers = {
 
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36'
    }

    response = requests.get(url=url, headers=headers)
    selector = parsel.Selector(response.text)
    lis = selector.css('.grid_view li')  # css选择器语法

    for li in lis:
        try:

            title = li.css('.hd a span:nth-child(1)::text').get()
            href = li.css('.hd a::attr(href)').get()  # 详情页

            move_info = li.css('.bd p::text').getall()
            actor_list = move_info[0].strip().split('   ')  # 列表索引位置取值

            date_list = move_info[1].strip().split('/')  # 列表索引位置取值
            director = actor_list[0].replace('导演: ', '').strip()  # 导演
            actor = actor_list[1].replace('主演: ', '').replace('/', '').replace('...', '') # 演员
            date = date_list[0].strip()  # 年份
            country = date_list[1].strip()  # 国家
            move_type = date_list[2].strip()  # 电影类型
            comment = li.css('.star span:nth-child(4)::text').get().replace('人评价', '')  
            star = li.css('.star span:nth-child(2)::text').get()  # 星级
            world = li.css('.inq::text').get()  # 概述

            dit = {
 
                '电影名字': title,
                '导演': director,
                '主演': actor,
                '年份': date,
                '国家': country,
                '电影类型': move_type,
                '评论人数': comment,
                '评分': star,
                '概述': world,
                '详情页': href,
            }
            csv_writer.writerow(dit) 

            print(title, director, actor, date, country, move_type, comment, star, world, href, sep=' | ')
        except:
            pass

注释对照前面，完整代码不给注释，为了你们认真学习我真的是挠破脑袋了。

相关推荐

恢复出厂设置对电脑有影响吗

电脑恢复出厂设置，对系统没有影响，原因如下：1、系统还原是电脑在使用中的一种正常运作，不还原电脑无法正常运行，系统还原是对电脑的维护，不会对电脑或系统造成损害。2、系统还原是一次大容量的数据读写、清除...

注册邮箱163免费登录入口官网

注册网易邮箱账号步骤如下：1、在浏览器的地址栏输入http://email.163.com/进入网易邮箱的登录页面，点击页面下方的立即注册2、点击立即注册进入邮箱的注册页面，点击页面上面的注册字母邮箱...

产品密钥win10专业版激活密钥免费

1不存在永久激活密钥，但可以使用一些有效期长的密钥去激活Win10专业版。2Windows10的激活方式是基于数字权利，当你购买Windows10时，系统会将您电脑的硬件信息和购买记录绑定在一起...

ghostxp系统下载怎么安装教程

系统之家下载的XP系统通常是一个ISO镜像文件，安装这个系统需要通过一些步骤来制作可启动安装介质并进行系统安装。以下是安装的基本步骤：准备安装介质：使用工具如Rufus或AnyBurn将下载的ISO文...

无线网桥监控安装方法（无线网桥怎么连接监控）

网桥连接无线路由器安装的设置方法如下1.主路由器上网正常，副路由器LAN口插一根网线，另一头连接电脑。主副路由器不需要用网线连接。2.电脑开机输入副路由器背面的设置地址，进入登录界面输入背面的账号密码...

怎么对电脑文件夹加密（怎么对电脑文件夹加密码）

1.右键点要加密的文件或文件夹，然后单击“属性”；2.在“常规”选项卡，点击“高级”。选中“加密内容以便保护数据”复选框;3.在加密文件夹时，系统将询问是否要同时加密它的子文件夹。要如果选择是，那它的...

windows系统下载手机（win10下载手机）

OPPO手机重新下载安装系统：先备份好重要数据！然后手机连接电脑把下载的固件存入手机。然后再长按电源键十秒钟进入关机状态（可拆卸电板的需取下电板然后重新安装）。再同时按住电源键跟音量减键，进入reco...

电脑系统分区怎么分（电脑系统分区怎么分区）

分区是将硬盘分割成不同的逻辑部分，每个分区可以被视为一个独立的存储设备。通过分区，可以更好地管理数据和操作系统。要进行电脑分区，可以按照以下步骤进行：1.确定分区方案：首先需要确定分区的目的和需求。...

电脑显卡怎么选择（电脑显卡怎样选择）

以下是一些通用的方法：1.在硬件层面进行配置：首先需要确认您的主板和操作系统是否支持多GPU并行，以及您的电源是否提供足够的功率支持。在BIOS中启用多GPU选项，并安装正确的驱动程序。然后，通...

设置软件下载（设置软件下载入口）

iphone13app的下载设置1、首先，打开手机桌面的【设置】。2、在设置界面，点击【面容ID与密码】。3、这时设置了键盘锁的会要求你输入键盘锁密码进入。4、进入之后，找到【iTunesStore...

电脑麦克风插孔是哪个（电脑麦克风插那）

1.蓝色的为音频输入口。一般的电脑后面都有三个音频接口：蓝色是音频输入，绿色是音频输出，粉红色麦克风。　　2.音频输入(蓝色),为外接光驱.随身听及其它音频输入设备,即可以把外部的设备声音传送至电脑...

ie浏览器打不开网页怎么修复

第一步：打开“运行”输入—〉cmd—〉回车然后把下面这行字符复制到黑色cmd框里面去回车等待dll文件全部注册完成就关闭可以了（下面是要运行的代码）：for%1in(%windir%\syste...

mail163邮箱登录入口网页版（mail163手机邮箱登录）

1.首先你要开启网易的POP3/SMTP/IMAP。2.设置完之后你需要网易的客户端授权密码。3.密码会发送至你的绑定手机。4.用发给你的客户端授权密码登录第三方客户端（ios客户端）5.直接登陆，储...

微信一键恢复（微信一键恢复已删好友怎么操作）
  • 微信一键恢复（微信一键恢复已删好友怎么操作）
  • 微信一键恢复（微信一键恢复已删好友怎么操作）
  • 微信一键恢复（微信一键恢复已删好友怎么操作）
  • 微信一键恢复（微信一键恢复已删好友怎么操作）
win7系统序列号怎么查（win7电脑的序列号怎么查）

你可以在cmd命令行窗口中输入以下相关命令，可以得到你要的信息查找主板厂商输入：wmicBaseBoardgetManufacturer查找主板型号输入：wmicBaseBoardgetP...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
Copyright Your WebSite.Some Rights Reserved.