纯粹干货，Python爬虫的数据采集和分析方法
off999 2024-12-16 15:20 25 浏览 0 评论
爬虫的基本工作步骤在之前已经很详细的描述过了，了解了简单的工作步骤，接下来就应该开始学习步骤当中的第一步：数据采集和数据解析。
爬虫的基础步骤分为五步：
下载数据 - requests 。
解析数据 - re / beautifulsoup4。
缓存和持久化 - pymysql 。
生成数字签名 - hashlib。
序列化和压缩 - json / zlib。
数据采集和解析是五个步骤当中的前两步，由于这五个步骤的内容较多，我们一篇文章是说不完的。
因此，在这篇文章里学记先来解释一下获取数据和解析数据这两项内容。
获取数据
在上面的获取数据的后面有所用到的库，即 Requests 库。
Requests 是Python当中的一个采集数据库，它可以将网络上的一些数据获取并收集到你的服务器当中。
Requests获取网络数据的第一步就是进行一个网络请求，使用 Requests 发送网络请求非常简单。
一开始要导入 Requests 模块：
import requests
然后，尝试获取某个网页。想要获取的网页可以直接填在后面的括号当中，记得括号中的内容为字符串模式。
r = requests.get('www.xxxxxx。com')
学记在之前的文章当中，曾经讲过HTTP这一协议，即超文本传输协议。
爬虫所获取的信息便是经由HTTP来进行传输的。
而Requests 简便的 API 意味着所有 HTTP 请求类型都是显而易见的。
使用 Requests 可以简单地发送一个 HTTP POST 请求：
r = requests.post('http://httpbin.org/post', data = {'key':'value'})
在之前的 HTTP 介绍当中，有不止 POST 一个请求，其他请求类型还有：PUT，DELETE，HEAD 以及 OPTIONS。
这些请求在 Requests 当中也和 post 一样简单。实例如下：
r = requests.put('http://httpbin.org/put', data = {'key':'value'})
r = requests.delete('http://httpbin.org/delete')
r = requests.head('http://httpbin.org/get')
r = requests.options('http://httpbin.org/get')
使用 Requests 读取服务器响应的内容：
import requests
r = requests.get('https://api.xxxxx.com/events')
r.text
u'[{"repository":{"open_issues":0,"url":"https://xxxxx.com/...
使用 Requests 改变其读取文本时使用的编码模式：
r.encoding
'utf-8'
r.encoding = 'ISO-8859-1'
上述的是 Requests 的一些基础操作，至于如何通过 Requests 获取网页页面，步骤如下：
1，GET请求和POST请求。
2，URL参数和请求头。
3，复杂的POST请求（文件上传）。
4，操作Cookie。
5，设置代理服务器。
数据解析
在上面数据解析的后面，有两个相关库 ，一个是正则表达式的 Re ，另一个是 BeautifulSoup。由于正则表达式比较困难，入手难度较大。
所以，我们先来学习 BeautifulSoup 。
BeautifulSoup 是一个可以从HTML或XML文件中提取数据的Python库。
将一段文档传入BeautifulSoup 的构造方法,就能得到一个文档的对象，具体代码如下：
from bs4 import BeautifulSoup
soup = BeautifulSoup(open("index.html"))
soup = BeautifulSoup("<html>data</html>")
将HTML文档转换成Unicode编码：
BeautifulSoup("Sacré bleu!")
<html><head></head><body>Sacré bleu!</body></html>
Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象。
有关 Python对象的知识，我们在下一篇文章进行详细的解释。
如果想学习更多科技知识，可以点击关注。
如果对文章中的内容有什么困惑的地方，可以在评论区提出自己的问题，学记同大家一起交流，解决各种问题，一起进步。
青年学记 陪伴着各位青年
作者：青年学记 一名不断进步的程序猿
一起学习 一起进步
走向自立
相关推荐
- 阿里云国际站ECS:阿里云ECS如何提高网站的访问速度?
-
TG：@yunlaoda360引言：速度即体验，速度即业务在当今数字化的世界中，网站的访问速度已成为决定用户体验、用户留存乃至业务转化率的关键因素。页面加载每延迟一秒，都可能导致用户流失和收入损失。对...
- 高流量大并发Linux TCP性能调优_linux 高并发网络编程
-
其实主要是手里面的跑openvpn服务器。因为并没有明文禁p2p（哎……想想那么多流量好像不跑点p2p也跑不完），所以造成有的时候如果有比较多人跑BT的话，会造成VPN速度急剧下降。本文所面对的情况为...
- 性能测试100集(12)性能指标资源使用率
-
在性能测试中，资源使用率是评估系统硬件效率的关键指标，主要包括以下四类：#性能测试##性能压测策略##软件测试#1.CPU使用率定义：CPU处理任务的时间占比，计算公式为1-空闲时间/总...
- Linux 服务器常见的性能调优_linux高性能服务端编程
-
一、Linux服务器性能调优第一步——先搞懂“看什么”很多人刚接触Linux性能调优时，总想着直接改配置，其实第一步该是“看清楚问题”。就像医生看病要先听诊，调优前得先知道服务器“哪里...
- Nginx性能优化实战:手把手教你提升10倍性能!
-
关注△mikechen△，十余年BAT架构经验倾囊相授！Nginx是大型架构而核心，下面我重点详解Nginx性能@mikechen文章来源：mikechen.cc1.worker_processe...
- 高并发场景下，Spring Cloud Gateway如何抗住百万QPS?
-
关注△mikechen△，十余年BAT架构经验倾囊相授！大家好，我是mikechen。高并发场景下网关作为流量的入口非常重要，下面我重点详解SpringCloudGateway如何抗住百万性能@m...
- Kubernetes 高并发处理实战(可落地案例 + 源码)
-
目标场景：对外提供HTTPAPI的微服务在短时间内收到大量请求（例如每秒数千至数万RPS），要求系统可弹性扩容、限流降级、缓存减压、稳定运行并能自动恢复。总体思路（多层防护）：边缘层：云LB...
- 高并发场景下，Nginx如何扛住千万级请求?
-
Nginx是大型架构的必备中间件，下面我重点详解Nginx如何实现高并发@mikechen文章来源：mikechen.cc事件驱动模型Nginx采用事件驱动模型，这是Nginx高并发性能的基石。传统...
- Spring Boot+Vue全栈开发实战，中文版高清PDF资源
-
SpringBoot+Vue全栈开发实战，中文高清PDF资源，需要的可以私我：）SpringBoot致力于简化开发配置并为企业级开发提供一系列非业务性功能，而Vue则采用数据驱动视图的方式将程序...
- Docker-基础操作_docker基础实战教程二
-
一、镜像1、从仓库获取镜像搜索镜像：dockersearchimage_name搜索结果过滤：是否官方:dockersearch--filter="is-offical=true...
- 你有空吗?跟我一起搭个服务器好不好?
-
来人人都是产品经理【起点学院】，BAT实战派产品总监手把手系统带你学产品、学运营。昨天闲的没事的时候，随手翻了翻写过的文章，发现一个很严重的问题。就是大多数时间我都在滔滔不绝的讲理论，却很少有涉及动手...
- 部署你自己的 SaaS_saas如何部署
-
部署你自己的VPNOpenVPN——功能齐全的开源VPN解决方案。（DigitalOcean教程）dockovpn.io—无状态OpenVPNdockerized服务器，不需要持久存储。...
- Docker Compose_dockercompose安装
-
DockerCompose概述DockerCompose是一个用来定义和管理多容器应用的工具，通过一个docker-compose.yml文件，用YAML格式描述服务、网络、卷等内容，...
- 京东T7架构师推出的电子版SpringBoot，从构建小系统到架构大系统
-
前言：Java的各种开发框架发展了很多年，影响了一代又一代的程序员，现在无论是程序员，还是架构师，使用这些开发框架都面临着两方面的挑战。一方面是要快速开发出系统，这就要求使用的开发框架尽量简单，无论...
- Kubernetes (k8s) 入门学习指南_k8s kubeproxy
-
Kubernetes(k8s)入门学习指南一、什么是Kubernetes？为什么需要它？Kubernetes(k8s)是一个开源的容器编排系统，用于自动化部署、扩展和管理容器化应用程序。它...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)