百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python爬虫第七讲:Scrapy爬虫框架详解(1)

off999 2024-09-21 20:51 18 浏览 0 评论

为什么Scrapy爬虫框架这么流行

业界主流Python的爬虫框架有Scrapy,Pyspider(这个是百度一个大佬写的),但是我唯一用的爬虫框架是Scrapy,优点简而言之:简单,易用,各种中间层已经做好规范,异步等不需要自己写,足以应付大部分业务不是很复杂的场景(有时候业务比拿数据难得多,那就只好自己用Requests写了)。同时各种生态比较完善,这里着重介绍几种比较好用的:

  1. scrapy-redis:分布式的组件,改下配置文件,Spider改下内容,在redis里设置下start_url,所谓的分布式爬虫就搞定了。scrapy-redis主要解决任务队列分发,确保各个Spider拿到的URL不同就可以了,这就是分布式(当然你要多在几个机器里跑scrapy的爬虫任务)。
  2. Splash:渲染引擎。类似于selenium,但是是一个服务化的工具。这个原理是:我们发送请求给这个splash服务,中间定义了很多配置(像渲染延时啊,是否渲染图片等等),splash转出请求,然后把服务器返回的各种文件(html,css,js)渲染,就像用浏览器访问一般,然后再把渲染后的内容返回给用户。这里的优势是我们不用再本机配置selenium的各种内容,只需要在一个服务器上配置好splash,这种服务化的思想现在随处可见,所谓的云服务也是如此。
  3. scrapyd+Gerapy:可视化部署和远程控制。Scrapyd 是一个部署和运行scrapy spiders的应用。它可以使用JSON API部署工程并控制spider。Gerapy是一个调用scrapyd的小型控制系统。远程控制爬虫运行,和远程部署还蛮好用的,适用于工作量特别大的场景。

优势总结:根据业务选择工具,避免重复造轮子是比较好的思路。Scrapy的生态在现阶段已经比较完善了,从分布式,再到远程控制,再到渲染引擎等等。这些能极大的减少我们的工作量,还不错不是吗?

Scrapy构架

  • scrapy engine:整个爬虫引擎,中间的并发,异步处理等等都由他控制。
  • Scheduler:调度器,负责任务调度,其中默认会去重除start_url以外的重复URL(log也有提示的)。
  • Spider:主要的爬取规则,爬取域,起始URL,爬取规则一般都在里面定义
  • pipeline:管道,负责处理爬虫从网页中抽取的内容,一般都会在这个文件做清洗入库等等操作。
  • Downloader Middlewares:下载中间层,处理Scrapy引擎与下载器之间的请求及响应。

其他还有很多小的中间件等等,我就不一一介绍了。

Scrapy文件目录

仔细看看项目模板,其实在Scrapy构架里面就都有这些内容,开发者把整个构架内容抽象化,就成了现在的模板内容,这就是易用性的一种体现吧。

写在最后

最近事情有点多,公司分了个大案子,争取两天一更,下一更:用Scrapy爬一个网站。做技术分享还是很有意思的,感谢大家的关注。

相关推荐

python入门到脱坑经典案例—清空列表

在Python中,清空列表是一个基础但重要的操作。clear()方法是最直接的方式,但还有其他方法也可以实现相同效果。以下是详细说明:1.使用clear()方法(Python3.3+推荐)...

python中元组,列表,字典,集合删除项目方式的归纳

九三,君子终日乾乾,夕惕若,厉无咎。在使用python过程中会经常遇到这四种集合数据类型,今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表(List)是一种有序和可更改的集合。允许重复...

Linux 下海量文件删除方法效率对比,最慢的竟然是 rm

Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

数据结构与算法——链式存储(链表)的插入及删除,

持续分享嵌入式技术,操作系统,算法,c语言/python等,欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法,本篇我们主要将一下链表的插入删除操作,以及采用堆栈方式如何创建链表。链...

Python自动化:openpyxl写入数据,插入删除行列等基础操作

importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...

在Linux下软件的安装与卸载(linux里的程序的安装与卸载命令)

通过apt安装/协助软件apt是AdvancedPackagingTool,是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式:安装软件:sudoapt...

Python 批量卸载关联包 pip-autoremove

pip工具在安装扩展包的时候会自动安装依赖的关联包,但是卸载时只删除单个包,无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装:pipinsta...

用Python在Word文档中插入和删除文本框

在当今自动化办公需求日益增长的背景下,通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器,既能承载多模态信息(如文字、图像),又可实现独...

Python 从列表中删除值的多种实用方法详解

#Python从列表中删除值的多种实用方法详解在Python编程中,列表(List)是一种常用的数据结构,具有动态可变的特性。当我们需要从列表中删除元素时,根据不同的场景(如按值删除、按索引删除、...

Python 中的前缀删除操作全指南(python删除前导0)

1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除:#1.使用removeprefix()方法(Python3.9+)text="...

每天学点Python知识:如何删除空白

在Python中,删除空白可以分为几种不同的情况,常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白(空格、\t、\n等)使用.strip()方法:s...

Linux系统自带Python2&yum的卸载及重装

写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时,需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时,少写了个3,不小心将系统自带的python2也...

如何使用Python将多个excel文件数据快速汇总?

在数据分析和处理的过程中,Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例,展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据,并最终生成一个包含...

【第三弹】用Python实现Excel的vlookup功能

今天继续用pandas实现Excel的vlookup功能,假设我们的2个表长成这样:我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说,先上代码:importpandasaspd...

python中pandas读取excel单列及连续多列数据

案例:想获取test.xls中C列、H列以后(当H列后列数未知时)的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...

取消回复欢迎 发表评论: