百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python爬虫第七讲:Scrapy爬虫框架详解(1)

off999 2024-09-21 20:51 26 浏览 0 评论

为什么Scrapy爬虫框架这么流行

业界主流Python的爬虫框架有Scrapy,Pyspider(这个是百度一个大佬写的),但是我唯一用的爬虫框架是Scrapy,优点简而言之:简单,易用,各种中间层已经做好规范,异步等不需要自己写,足以应付大部分业务不是很复杂的场景(有时候业务比拿数据难得多,那就只好自己用Requests写了)。同时各种生态比较完善,这里着重介绍几种比较好用的:

  1. scrapy-redis:分布式的组件,改下配置文件,Spider改下内容,在redis里设置下start_url,所谓的分布式爬虫就搞定了。scrapy-redis主要解决任务队列分发,确保各个Spider拿到的URL不同就可以了,这就是分布式(当然你要多在几个机器里跑scrapy的爬虫任务)。
  2. Splash:渲染引擎。类似于selenium,但是是一个服务化的工具。这个原理是:我们发送请求给这个splash服务,中间定义了很多配置(像渲染延时啊,是否渲染图片等等),splash转出请求,然后把服务器返回的各种文件(html,css,js)渲染,就像用浏览器访问一般,然后再把渲染后的内容返回给用户。这里的优势是我们不用再本机配置selenium的各种内容,只需要在一个服务器上配置好splash,这种服务化的思想现在随处可见,所谓的云服务也是如此。
  3. scrapyd+Gerapy:可视化部署和远程控制。Scrapyd 是一个部署和运行scrapy spiders的应用。它可以使用JSON API部署工程并控制spider。Gerapy是一个调用scrapyd的小型控制系统。远程控制爬虫运行,和远程部署还蛮好用的,适用于工作量特别大的场景。

优势总结:根据业务选择工具,避免重复造轮子是比较好的思路。Scrapy的生态在现阶段已经比较完善了,从分布式,再到远程控制,再到渲染引擎等等。这些能极大的减少我们的工作量,还不错不是吗?

Scrapy构架

  • scrapy engine:整个爬虫引擎,中间的并发,异步处理等等都由他控制。
  • Scheduler:调度器,负责任务调度,其中默认会去重除start_url以外的重复URL(log也有提示的)。
  • Spider:主要的爬取规则,爬取域,起始URL,爬取规则一般都在里面定义
  • pipeline:管道,负责处理爬虫从网页中抽取的内容,一般都会在这个文件做清洗入库等等操作。
  • Downloader Middlewares:下载中间层,处理Scrapy引擎与下载器之间的请求及响应。

其他还有很多小的中间件等等,我就不一一介绍了。

Scrapy文件目录

仔细看看项目模板,其实在Scrapy构架里面就都有这些内容,开发者把整个构架内容抽象化,就成了现在的模板内容,这就是易用性的一种体现吧。

写在最后

最近事情有点多,公司分了个大案子,争取两天一更,下一更:用Scrapy爬一个网站。做技术分享还是很有意思的,感谢大家的关注。

相关推荐

大文件传不动?WinRAR/7-Zip 入门到高手,这 5 个技巧让你效率翻倍

“这200张照片怎么传给女儿?微信发不了,邮箱附件又超限……”62岁的张阿姨对着电脑犯愁时,儿子只用了3分钟就把照片压缩成一个文件,还教她:“以后用压缩软件,比打包行李还方便!”职场人更懂这...

电脑解压缩软件推荐——7-Zip:免费、高效、简洁的文件管理神器

在日常工作中,我们经常需要处理压缩文件。无论是下载软件包、接收文件,还是存储大量数据,压缩和解压缩文件都成为了我们日常操作的一部分。而说到压缩解压软件,7-Zip绝对是一个不可忽视的名字。今天,我就来...

设置了加密密码zip文件要如何打开?这几个方法可以试试~

Zip是一种常见的压缩格式文件,文件还可以设置密码保护。那设置了密码的Zip文件要如何打开呢?不清楚的小伙伴一起来看看吧。当我们知道密码想要打开带密码的Zip文件,我们需要用到适用于Zip格式的解压缩...

大文件想要传输成功,怎么把ZIP文件分卷压缩

不知道各位小伙伴有没有这样的烦恼,发送很大很大的压缩包会受到限制,为此,想要在压缩过程中将文件拆分为几个压缩包并且同时为所有压缩包设置加密应该如何设置?方法一:使用7-Zip免费且强大的文件管理工具7...

高效处理 RAR 分卷压缩包:合并解压操作全攻略

在文件传输和存储过程中,当遇到大文件时,我们常常会使用分卷压缩的方式将其拆分成多个较小的压缩包,方便存储和传输。RAR作为一种常见的压缩格式,分卷压缩包的使用频率也很高。但很多人在拿到RAR分卷...

2个方法教你如何删除ZIP压缩包密码

zip压缩包设置了加密密码,每次解压文件都需要输入密码才能够顺利解压出文件,当压缩包文件不再需要加密的时候,大家肯定想删除压缩包密码,或是忘记了压缩包密码,想要通过删除操作将压缩包密码删除,就能够顺利...

速转!漏洞预警丨压缩软件Winrar目录穿越漏洞

WinRAR是一款功能强大的压缩包管理器,它是档案工具RAR在Windows环境下的图形界面。该软件可用于备份数据,缩减电子邮件附件的大小,解压缩从Internet上下载的RAR、ZIP及其它类...

文件解压方法和工具分享_文件解压工具下载

压缩文件减少文件大小,降低文件失效的概率,总得来说好处很多。所以很多文件我们下载下来都是压缩软件,很多小伙伴不知道怎么解压,或者不知道什么工具更好,所以今天做了文件解压方法和工具的分享给大家。一、解压...

[python]《Python编程快速上手:让繁琐工作自动化》学习笔记3

1.组织文件笔记(第9章)(代码下载)1.1文件与文件路径通过importshutil调用shutil模块操作目录,shutil模块能够在Python程序中实现文件复制、移动、改名和删除;同时...

Python内置tarfile模块:读写 tar 归档文件详解

一、学习目标1.1学习目标掌握Python内置模块tarfile的核心功能,包括:理解tar归档文件的原理与常见压缩格式(gzip/bz2/lzma)掌握tar文件的读写操作(创建、解压、查看、过滤...

使用python展开tar包_python拓展

类Unix的系统,打包文件经常使用的就是tar包,结合zip工具,可以方便的打包并解压。在python的标准库里面有tarfile库,可以方便实现生成了展开tar包。使用这个库最大的好处,可能就在于不...

银狐钓鱼再升级:白文件脚本化实现GO语言后门持久驻留

近期,火绒威胁情报中心监测到一批相对更为活跃的“银狐”系列变种木马。火绒安全工程师第一时间获取样本并进行分析。分析发现,该样本通过阿里云存储桶下发恶意文件,采用AppDomainManager进行白利...

ZIP文件怎么打开?2个简单方法教你轻松搞定!

在日常工作和生活中,我们经常会遇到各种压缩文件,其中最常见的格式之一就是ZIP。ZIP文件通过压缩数据来减少文件大小,方便我们进行存储和传输。然而,对于初学者来说,如何打开ZIP文件可能会成为一个小小...

Ubuntu—解压多个zip压缩文件.zip .z01 .z02

方法将所有zip文件放在同一目录中:zip_file.z01,zip_file.z02,zip_file.z03,...,zip_file.zip。在Zip3.0版本及以上,使用下列命令:将所有zi...

如何使用7-Zip对文件进行加密压缩

7-Zip是一款开源的文件归档工具,支持多种压缩格式,并提供了对压缩文件进行加密的功能。使用7-Zip可以轻松创建和解压.7z、.zip等格式的压缩文件,并且可以通过设置密码来保护压缩包中的...

取消回复欢迎 发表评论: