上手快、功能全的Python爬虫库:Requests最佳上手指南
off999 2024-10-08 06:20 29 浏览 0 评论
一、发送请求
使用Requests发送网络请求非常简单:
# 导入requests模块,若未安装需要先安装(如: pip install requests)
import requests
#
# GET请求
r = requests.get('https://api.github.com/events')
#
# POST请求
r = requests.post('http://httpbin.org/post', data={'key': 'value'})
#
# DELETE请求
r = requests.delete('http://httpbin.org/delete')
#
# HEAD请求
r = requests.head('http://httpbin.org/get')
#
# OPTION请求
r = requests.options('http://httpbin.org/get')
二、传递URL参数
Requests允许使用params关键字参数,以一个字符串字典来为URL提供参数:
# 将参数以字典形式传递给params
payload = {'key1': 'value1', 'key2': 'value2'}
r = requests.get('http://httpbin.org/get', params=payload)
print(r.url)
#
# 还可以将一个列表作为值传入
payload = {'key1': 'value1', 'key2': ['value2', 'value3']}
r = requests.get('http://httpbin.org/get', params=payload)
print(r.url)
三、响应内容
我们能读取服务器响应的内容:
import requests
r = requests.get('https://api.github.com/events')
#
# 使用r.text时,requests会自动检测文本编码并将内容打印出来
print(r.text)
#
# 我们可以通过修改r.encoding来修改编码方式
print(r.encoding) # 'utf-8'非常常见
r.encoding = 'ISO-8859-1'
#
# 有些HTML、XML页面指定了不同的编码,我们可以通过r.content来找到编码,然后设置r.encoding为响应的编码,这样既可正确解析r.text。
四、二进制响应内容
对于非文本请求,我们也能以字节的方式访问请求响应体:
print(r.content) # # Requests会自动解码gzip、deflate传输编码的响应数据 # 例如,以请求返回的二进制数据创建一张图片: from PIL import Image from io import BytesIO i = Image.open(BytesIO(r.content))
五、JSON响应内容
Requests中有一个内置的JSON解码器,可以帮助我们处理JSON数据
import requests
r = requests.get('https://api.github.com/events')
#
# 使用r.json()来解析json格式的数据,若解析失败,会抛出一个异常。
print(r.json())
#
# r.json()调用成功并不意味着响应成功,检查请求是否成功可以使用如下两个方式:
print(r.raise_for_status())
print(r.status_code)
六、原始响应内容
在罕见的情况下,我们可能想获取来自服务器的原始套接字响应:
r = requests.get('https://api.github.com/events', stream=True)
print(r.raw)
print(r.raw.read(10))
#
# 但一般情况下,我们应该先将文本流保存到文件
with open(filename, 'wb') as writer:
for chunk in r.iter_content(chunk_size):
writer.write(chunk)
七、定制请求头
如果想为请求添加HTTP头部,只要简单地传递一个dict给headers参数即可:
url = 'https://api.github.com/some/endpoint'
headers = {'user-agent': 'my-app/0.0.1'}
r = requests.get(url, headers=headers)
#
# 定制header的优先级低于某些特定的信息源,如:
# 1. 如果在.netrc中设置了用户认证信息,使用headers=设置的授权就不会生效,而如果设置了auth=参数,.netrc的设置就无效了。
# 2. 如果被重定向到别的主机,授权header就回被删除
# 3. 代理授权header会被URL中提供的代理身份覆盖掉
# 4. 在我们能判断内容长度的情况下,header的Content-Length会被改写。
八、更复杂的POST请求
通常,你想要发送一些编码为表单形式的数据--非常像一个HTML表单,要实现这个,只需要简单传递一个字典给data参数,它会自动编码:
payload = {'key1': 'value1', 'key2': 'value2'}
r = requests.post('http://httpbin.org/post', data=payload)
print(r.text)
#
# data参数还接受元组的形式
payload = (('key1', 'value1'), ('key2', 'value2'))
r = requests.post('http://httpbin.org/post', data=payload)
print(r.text)
#
# 很多时候我们想要发送的数据并非编码为表单形式的,比如我们就是要传递string而不是按照dict解析,那么数据将会被直接发布出去
import json
url = 'https://api.github.com/some/endpoint'
payload = {'some': 'data'}
r = requests.post(url, data=json.dumps(payload))
#
# 除了自行对dict编码,还可以使用json参数直接传递:
r = requests.post(url, json=payload)
九、POST一个多部分编码(Multipart-Encoded)的文件
# 如:上传xls文件
url = 'http://httpbin.org/post'
files = {'file': open('report.xls', 'rb')}
r = requests.post(url, files=files)
print(r.text)
#
# 我们可以显式地设置文件名、文件类型和请求头:
url = 'http://httpbin.org/post'
files = {'file': ('report.xls', open('report.xls', 'rb'), \
'application/vnd.ms-excel', {'Expires': '0'})}
r = requests.post(url, files=files)
print(r.text)
#
# 我们也可以发送作为文件来接收的字符串
url = 'http://httpbin.org/post'
files = {'file': ('report.csv', 'some,data,to,send\nanather,row,to,send\n')}
r = requests.post(url, files=files)
print(r.text)
十、响应状态码
r = requests.get('http://httpbin.org/get')
print(r.status_code)
#
# 为方便引用,Requests还附带了一个内置的状态码查询对象
print(r.status_code == requests.codes.ok)
#
# 如果发送了一个错误请求(比如一个4XX客户端错误,或者5XX服务器错误响应),我们可以通过Response.raise_for_status()来抛出异常:
bad_r = requests.get('http://httpbin.org/status/404')
print(bad_r.status_code)
bad_r.raise_for_status()
十一、响应头
# 我们可以查看以字典形式展示的服务器响应头
print(r.headers)
#
# eg.1 一个响应头
{
'content-encoding': 'gzip',
'transfer-encoding': 'chunked',
'connection': 'close',
'server': 'nginx/1.0.4',
'x-runtime': '148ms',
'etag': '"e1ca502697e5c9317743dc078f67693f"',
'content-type': 'application/json'
}
#
# HTTP头部是大小写不敏感的,因此如下都是可以的:
print(r.headers['Content-Type'])
print(r.headers.get('content-type')
十二、Cookie
# 通过.cookies可以访问响应所包含的cookie
url = 'http://example.com/some/cookie/setting/url'
r = requests.get(url)
print(r.cookies['example_cookie_name'])
#
# 要发送cookies到服务器,可以使用cookies参数:
url = 'http://httpbin.org/cookies'
cookies = dict(cookies_are='working')
r = requests.get(url, cookies=cookies)
print(r.text)
#
# Cookie的返回对象是RequestsCookieJar,它的行为和字典类似,但接口更完整,适合跨域名和跨路径使用,我们还可以把Cookie Jar传到Requests中:
jar = requests.cookies.RequestsokieJar()
jar.set('tasty_cookie', 'yum', domain='httpbin.org', path='/cookies')
jar.set('gross_cookie', 'blech', domain='httpbin.org', path='/elsewhere')
url = 'http://httpbin.org/cookies'
r = requests.get(url, cookies=jar)
print(r.text)
十三、重定向与请求历史
默认情况下,除了HEAD,Requests会自动处理所有重定向。
可以使用响应对象的history方法来追踪重定向,Response.history是一个Response对象的列表,这个对象列表按照从最老到最近的请求进行排序。
r = requests.get('http://github.com')
print(r.url)
print(r.status_code)
print(r.history)
#
# 如果使用的是GET、OPTIONS、POST、PUT、PATCH或者DELETE,那么我们可以通过allow_redirects参数禁用重定向处理:
r = requests.get('http://github.com', allow_redirects=False)
print(r.status_code)
print(r.history)
#
# 如果使用了HEAD,我们也可以启用重定向:
r = requests.head('http://github.com', allow_redirects=True)
print(r.url)
print(r.history)
十四、超时
timeout参数用于设置等待响应的最长时间,即requests会在等待该时间之后停止等待响应。若不设置该参数,程序可能会永远失去响应:
requests.get('http://github.com', timeout=0.001)
十五、错误与异常
- 遇到网络问题时,Requests会抛出一个ConnectionError异常
- 如果HTTP请求返回了不成功的状态码,Response.raise_for_status()会抛出一个HTTPError异常
- 若请求超时,则抛出Timeout异常
- 若请求超过了设定的最大重定向次数,则抛出TooManyRedirects异常
- 所有Requests显式抛出的异常都继承自requests.exceptions.RequestException
相关推荐
- 笔记本电脑系统修复软件(笔记本电脑程序修复)
-
1、超级兔子2013系统修复软件超级兔子是一款完整的系统维护工具。拥有电脑系统评测、垃圾清理和注册表清理、可疑文件和插件检测、网页防护等功能,同时自带一些实用的系统工具,可清理你大多数的文件、注册表里...
- 联想保修服务包括哪些(联想保修都保修什么)
-
1、保修36个月的硬件包括:CPU、内存。2、保修24个月的硬件包括:主板、显卡、LCD屏、硬盘、电源适配器、键盘、鼠标模块。3、保修12个月的硬件包括:LCD之附件、光驱、DVD、CDR/W、软驱...
- 系统科学大会(中国系统科学学会)
-
2021年各种科学大会的召开时间取决于疫情的发展和国家政策的调整。一些大型的国际科学会议可能会推迟或者采用线上形式进行,以保障参会人员的安全和健康。同时,一些国内的学术会议也会受到疫情的影响,需要推迟...
- win10系统下载的内容在哪(win10下载的软件在哪个文件夹)
-
进入C:\Windows\SoftwareDistribution\Download目录下,通过win10应用商店中下载的安装包都放在此目录下。进入C:\Windows\SoftwareDistrib...
- 下载原版xp系统光盘(xp光盘系统安装教程怎么安装)
-
方法步骤步骤如下:1、首先打开计算机,在电脑光驱上放入XP光盘,启动电脑后不停按F12、F11、Esc等启动热键,在弹出的启动菜单中选择DVD选项,回车。2、进入光盘主菜单,按数字2或点击选项2运行w...
- windows7中文版下载安装(windows7安装包下载)
-
谢邀,如果你戳设置-时间和语言-区域和语言,右边的语言提示“只允许使用一种语言包”,那么你的系统就是家庭中文版。家庭中文版限定系统界面只能使用简体中文显示,其他功能则与普通家庭版没有区别,也可以使用其...
- win7开机按f2怎么重装系统(win7开机按f12怎么重装系统)
-
开机或重启时,在进入Windows前按F2进入BIOS。 ←→移动到第三个好像是BOOT。 然后将EXTENELBOOT选项设置为ENABLE 最后按F5将第一启动项目设置为EXTENEL...
-
- win10驱动管理(win10驱动程序)
-
win10由于联网后会自动安装驱动,如果自动安装驱动没出现问题,即可视为最佳驱动,若出现问题,卸载出问题的驱动,然后去查自己主板型号,在主板供应商官网下载对应驱动即是最佳01Windows10驱动更新调整当前当你插入连接即插即用(Pn...
-
2025-12-29 05:51 off999
- 手机上怎么找qq邮箱登录(用手机怎么找到qq邮箱)
-
入口是“联系人”选项卡。qq邮箱手机在QQ主菜单中选择下方的“联系人”选项卡;3、在“联系人”中选取“公众号”选项卡;4、在公众号中菜单中找到或搜索“QQ邮箱提醒”,点击进入;5、点击“进入邮箱”;6...
- amd显卡控制面板
-
AMD显卡控制面板是用来管理你的AMD显卡的,可以在控制面板中进行设置一些简单的调整,来提升显卡性能和效果。1、先打开AMD控制面板。2、打开“垂直同步(V-SYNC)”功能,可调整细节,改善影像流畅...
- win10老是未响应卡死(window10总是未响应)
-
具体方法:1、如果win10中的应用程序出现不响应的情况,应该是应用程序加载失败了。可以通过重置方法来解决win10应用程序无响应。2、登录win10系统,用管理员身份运行Powershell(可在C...
- usb安装系统步骤(USB安装系统步骤)
-
1.准备一张U盘,将联想官网下载的系统镜像文件复制到U盘中;2.将U盘插入联想S41U电脑,重启电脑,按F12进入BIOS设置,将U盘设置为启动项;3.重启电脑,进入U盘安装界面,按提示操作,完成系统...
- win98安装教程(win98iso怎么安装)
-
如何安装windows98 一、具体安装步骤 备份好重要文件之后,就可以安装windows98了。 第一步:启动安装程序。 用户如果原来已安装了windows95/97/98,现在拟对其进行升...
- 雨林木风win7安装(雨林木风win732位安装教程)
-
安装步骤如下: 1、光盘放入光驱,复制光盘上的win7.gho和安装系统.exe到硬盘非C盘的文件夹;(gho文件名可以是其他名字,后缀为gho,体积最大的就是。) 2、双击安装系统.exe;...
- win10解绑管理员账户(win10管理员账户怎么取消开机密码)
-
要解除Windows10电脑上的管理员权限,您需要进行以下操作:1.打开“控制面板”:右键单击“开始”按钮,然后选择“控制面板”。2.进入“用户账户”:在控制面板中,选择“用户账户”。3.点击...
欢迎 你 发表评论:
- 一周热门
-
-
抖音上好看的小姐姐,Python给你都下载了
-
全网最简单易懂!495页Python漫画教程,高清PDF版免费下载
-
Python 3.14 的 UUIDv6/v7/v8 上新,别再用 uuid4 () 啦!
-
飞牛NAS部署TVGate Docker项目,实现内网一键转发、代理、jx
-
python入门到脱坑 输入与输出—str()函数
-
宝塔面板如何添加免费waf防火墙?(宝塔面板开启https)
-
Python三目运算基础与进阶_python三目运算符判断三个变量
-
(新版)Python 分布式爬虫与 JS 逆向进阶实战吾爱分享
-
失业程序员复习python笔记——条件与循环
-
系统u盘安装(win11系统u盘安装)
-
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
