百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

python编程实践:网络爬虫,从学习Requests 模块开始

off999 2024-10-08 06:21 19 浏览 0 评论

Requests模块是第三方模块,需要预先安装,requests模块在python内置模块的基础上进行了高度的封装,从而使得python进行网络请求时,变得更加简洁和人性化。

我们都知道爬虫模拟浏览器发送请求,获取响应,那么首先我们就要学会使用Requests的基本方法和发送请求。

一、安装

非常简单,打开cmd,直接pip安装,

pip install requests

二、导入模块

import requests

三、requests库的七个主要方法

方法

解释

requests.request()

构造一个请求,支持以下各种方法

requests.get()

获取html的主要方法

requests.head()

获取html头部信息的主要方法

requests.post()

向html网页提交post请求的方法

requests.put()

向html网页提交post请求的方法

requests.patch()

向html提交局部修改的请求

requests.delete()

向html提交删除请求

在实际使用中,使用频率高的1-5项。

四、简单使用

(一)Get 请求

1. 发送无参数的get请求,尝试获取某个网页.

r = requests.get('http://www.baidu.com')

发送无参数的get请求 设置超时时间 timeout 单位秒

r = requests.get('http://www.baidu.com', timeout=1)

2.发送带参数的请求.

也许经常想为 URL 的查询字符串(query string) 传递某种数据。如果你是手工构建 URL,那么数据会以键/值对的形式置于 URL 中,跟在一个问号的后面。

例如: www.baidu.com/?key=val。

Requests 允许你使用 params 关键字参数,以一个字符串字典来提供这些参数。

举例来说,如果你想传递 key1=value1 和 key2=value2 到 www.baidu.com/ ,那么你可以使用如下代码:

payload = {'key1': 'value1', 'key2': 'value2'}
r = requests.get("https://www.baidu.com/", params=payload)
print(r.url)
#https://www.baidu.com/?key2=value2&key1=value1

以上代码相当于浏览器请求地址:https://www.baidu.com/?key2=value2&key1=value1

你还可以将一个列表作为值传入.

payload = {'key1': 'value1', 'key2': ['value2', 'value3']}
r = requests.get('http://www.baidu.com/', params=payload)
print(r.url)
#http://www.baidu.com/?key2=value2&key2=value3&key1=value1

以上代码相当于浏览器请求地址:http://www.baidu.com/?key2=value2&key2=value3&key1=value1

3.定制请求头

如果你想为请求添加 HTTP 头部,只要简单地传递一个 dict 给 headers 参数就可以了

url = 'https://www.baidu.com/s?wd=python'
headers = {
'Content-Type': 'text/html;charset=utf-8',
'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)'
}
r = requests.get(url,headers=headers)

4.Response对象使用

  • r.url #打印输出该 URL
  • r.headers #以字典对象存储服务器响应头,但是这个字典比较特殊,字典键不区分大小写,若键不存在则返回None
  • r.status_code #返回连接状态,200正常。
  • r.text #默认以unicode形式返回网页内容,也就是网页源码的字符串。
  • r.content #以字节形式(二进制)返回。字节方式的响应体,会自动为你解码 gzip 和 deflate 压缩。
  • r.json() #把网页中的json数据转成字典并将其返回。
  • r.encoding #获取当前的编码
  • r.encoding = 'ISO-8859-1' #指定编码,r.text返回的数据类型,写在r.text之前。

(二)POST 请求

HTTP 协议规定 POST 提交的数据必须放在消息主体(entity-body)中,但协议并没有规定数据必须使用什么编码方式,服务端通过是根据请求头中的Content-Type字段来获知请求中的消息主体是用何种方式进行编码,再对消息主体进行解析。具体的编码方式包括:

1.最常见post提交数据的方式,以form表单形式提交数据。

application/x-www-form-urlencoded

2.以json串提交数据。

application/json

3.一般使用来上传文件。

multipart/form-data

(三)实例如下

1. 以form形式发送post请求

Reqeusts支持以form表单形式发送post请求,只需要将请求的参数构造成一个字典,然后传给requests.post()的data参数即可

payload = {'key1': 'value1','key2': 'value2'}
r = requests.post("http://www.bin.org/post", data=payload)
print(r.text)

2. 以json形式发送post请求

可以将一 json串传给requests.post()的data参数,

url = 'http://www.bin.org/post'
payload = {'key1': 'value1', 'key2': 'value2'}
r = requests.post(url, data=json.dumps(payload))
#print(r.text)
print(r.headers.get('Content-Type'))

3. 以multipart形式发送post请求

Requests也支持以multipart形式发送post请求,只需将一文件传给requests.post()的files参数即可,文本文件report.txt的内容只有一行:Hello world!,从请求的响应结果可以看到数据已上传到服务端中。

url = 'http://www.bin.org/post'
files = {'file': open('report.txt', 'rb')}
r = requests.post(url, files=files)
print(r.text)

五、综合举例

1.返回值为json格式

import requests 
response = requests.get(url="http://xx.xx.xx/api/test123")
response.raise_for_status()
data = response.json()
print(data)

2.post方式请求,参数以json格式传递

import requests
import json
 d= {
    "app_name": "test123",
    "system_name": "test123",
    "instance_id": "test123",
    "resource_name": "test123",
    "env_region": "test123",
    "status": 0
} 
header = {"content-type":"application/json"} 
data = json.dumps(d)
response = requests.post(url="http://xx.xx.xx/api/add/", data=data, headers=header) 
print(response.text)

3.put方式请求,参数以json格式传递

import requests
import json 
d= {
    "app_name": "test126",
    "system_name": "test126",
    "instance_id": "test126",
    "resource_name": "test126",
    "env_region": "test126",
    "status": 0
} 
header = {"content-type":"application/json"} 
data = json.dumps(d)
response = requests.put(url="http://xx.xx.xx/api/update/test123/", data=data, headers=header)
 print(response.text)

4.delete方式请求

import requests 
response = requests.delete(url="http://127.0.0.1:8000/api/delete/test126")
response.raise_for_status()
data = response.json()
print(data)

需要说明的一点,使用什么方式请求服务,与服务器程序的定义有很大的关系,参数的传递方式,也与服务器程序的定义有关,至于更细的细节,也与服务器程序的编写语言有关。

这些知识点,与大家所认为的“爬虫”有关。后面有时间会给大家进一步阐述网络“爬虫”的案例。

最后,由于平台规则,只有当您跟我有更多互动的时候,才会被认定为铁粉。如果您喜欢我的文章,可以点个“关注”,成为铁粉后能第一时间收到文章推送。

相关推荐

如何理解python中面向对象的类属性和实例属性?

类属性和实例属性类属性就是给类对象中定义的属性通常用来记录与这个类相关的特征类属性不会用于记录具体对象的特征类属性的理解:类属性是与类自身相关联的变量,而不是与类的实例关联。它们通...

Java程序员,一周Python入门:面向对象(OOP) 对比学习

Java和Python都是**面向对象编程(OOP)**语言,无非是类、对象、继承、封装、多态。下面我们来一一对比两者的OOP特性。1.类和对象Java和Python都支持面向对象...

松勤技术精选:Python面向对象魔术方法

什么是魔术方法相信大家在使用python的过程中经常会看到一些双下划线开头,双下划线结尾的方法,我们把它统称为魔术方法魔术方法的特征魔术方法都是双下划线开头,双下划线结尾的方法魔术方法都是pytho...

[2]Python面向对象-【3】方法(python3 面向对象)

方法的概念在Python中,方法是与对象相关联的函数。方法可以访问对象的属性,并且可以通过修改对象的属性来改变对象的状态。方法定义在类中,可以被该类的所有对象共享。方法也可以被继承并重载。方法的语法如...

一文带你理解python的面向对象编程(OOP)

面向对象编程(OOP,Object-OrientedProgramming)是一个较难掌握的概念,而Python作为一门面向对象的语言,在学习其OOP特性时,许多人都会对“继承”和“多态”等...

简单学Python——面向对象1(编写一个简单的类)

Python是一种面向对象的编程语言(ObjectOrientedProgramming),在Python中所有的数据类型都是对象。在Python中,也可以自创对象。什么是类呢?类(Class)是...

python进阶突破面向对象——四大支柱

面向对象编程(OOP)有四大基本特性,通常被称为"四大支柱":封装(Encapsulation)、继承(Inheritance)、多态(Polymorphism)和抽象(Abstrac...

Python学不会来打我(51)面向对象编程“封装”思想详解

在面向对象编程(Object-OrientedProgramming,简称OOP)中,“封装(Encapsulation)”是四大核心特性之一(另外三个是继承、多态和抽象),它通过将数据(属性)和...

Python之面向对象:对象属性解析:MRO不够用,补充3个方法

引言在前面的文章中,我们谈及Python在继承关系,尤其是多继承中,一个对象的属性的查找解析顺序。由于当时的语境聚焦于继承关系,所以只是简要提及了属性解析顺序同方法的解析顺序,而方法的解析顺序,在Py...

Python之面向对象:通过property兼顾属性的动态保护与兼容性

引言前面的文章中我们简要提及过关于Python中私有属性的使用与内部“名称混淆”的实现机制,所以,访问私有属性的方法至少有3种做法:1、使用实例对象点操作符的方式,直接访问名称混淆后的真实属性名。2、...

Python之面向对象:私有属性是掩耳盗铃还是恰到好处

引言声明,今天的文章中没有一行Python代码,更多的是对编程语言设计理念的思考。上一篇文章中介绍了关于Python面向对象封装特性的私有属性的相关内容,提到了Python中关于私有属性的实现是通过“...

Python中的私有属性与方法:解锁面向对象编程的秘密

Python中的私有属性与方法:解锁面向对象编程的秘密在Python的广阔世界里,面向对象编程(OOP)是一种强大而灵活的方法论,它帮助我们更好地组织代码、管理状态,并构建可复用的软件组件。而在这个框...

Python 面向对象:掌握类的继承与组合,让你的代码更高效!

引言:构建高效代码的基石Python以其简洁强大的特性,成为众多开发者首选的编程语言。而在Python的面向对象编程(OOP)范畴中,类的继承和组合无疑是两大核心概念。它们不仅能帮助我们实现代码复用,...

python进阶-Day2: 面向对象编程 (OOP)

以下是为Python进阶Day2设计的学习任务,专注于面向对象编程(OOP)的核心概念和高阶特性。代码中包含详细注释,帮助理解每个部分的实现和目的。任务目标:复习OOP基础:类、对象、继...

外婆都能学会的Python教程(二十八):Python面向对象编程(二)

前言Python是一个非常容易上手的编程语言,它的语法简单,而且功能强大,非常适合初学者学习,它的语法规则非常简单,只要按照规则写出代码,Python解释器就可以执行。下面是Python的入门教程介绍...

取消回复欢迎 发表评论: