用python怎样爬网页呢?其实就是根据URL来获取它的网页
off999 2024-10-16 11:27 51 浏览 0 评论
我们在浏览器中看到的画面优美的界面，其实是由浏览器，对网页内容做了解释后，才呈现出来的类似word的WYSIWYG
实质它是一段HTML代码，加JS、CSS等。如果把网页比作一个人，那么HTML便是他的骨架，JS便是他的肌肉，CSS便是它的衣服。最重要的部分是存在于HTML中的。
用一个例子来爬网页
?import urllib2
?response = urllib2.urlopen("http://www.baidu.com")
?print response.read()
这个例子中，真正的程序就两行，把它保存成demo.py，进入该文件的目录，执行如下命令查看运行结果。
?python demo.py
可以看到这个网页的源码已经被爬下来了。
网页爬取方法
那么我们来分析这几行Python代码：
?import urllib2
?response = urllib2.urlopen("http://www.baidu.com")
?print response.read()
第2行
?response = urllib2.urlopen("http://www.baidu.com")
?首先我们调用的是urllib2库里面的urlopen方法，传入一个URL
?这个网址是百度首页，协议是HTTP协议
?当然你也可以把HTTP换做FTP,FILE,HTTPS 等等，只是代表了一种访问控制协议
三个参数
urlopen一般接受三个参数，它的参数如下：
?urlopen(url, data, timeout)
?第一个参数url即为URL，第二个参数data是访问URL时要传送的数据，第三个timeout是设置超时时间。
?第一个参数URL是必须要传送的，本例里传送了百度的URL
?第二三个参数可以不传，
?data默认为空None
?timeout默认为socket._GLOBAL_DEFAULT_TIMEOUT
执行urlopen方法之后，返回一个response对象，返回信息便保存在这里面。
?print response.read()
?response对象有一个read方法，可以返回获取到的网页内容。
第3行
?print response.read()
?如果不加read直接打印会是什么？
?直接打印出了该对象的描述
?<addinfourlat 139728495260376 whose fp= <socket._fileobjectobject at 0x7f1513fb3ad0>>
?所以一定要加read方法
构造Requset
其实上面的urlopen参数，可以传入一个request请求
它其实就是一个Request类的实例，构造时需要传入Url,Data等等的内容。
比如上面的三行代码，我们可以这么改写
?import urllib2
?request = urllib2.Request("http://www.baidu.com")
?response = urllib2.urlopen(request)
?print response.read()
运行结果是完全一样的，只不过中间多了一个request对象
?推荐大家这么写，因为在构建请求时还需要加入好多内容
?通过构建一个request，服务器响应请求得到应答，这样显得逻辑上清晰明确。
相关推荐
- Python函数参数和返回值类型:让你的代码更清晰、更健壮
-
在Python开发中，你是否遇到过这些抓狂时刻？同事写的函数参数类型全靠猜调试两小时发现传了字符串给数值计算函数重构代码时不知道函数返回的是列表还是字典今天教你两招，彻底解决类型混乱问题！让你的...
- 有公司内部竟然禁用了python开发，软件开发何去何从?
-
今天有网友在某社交平台发文：有公司内部竟然禁止了python开发！帖子没几行，评论却炸锅了。有的说“太正常，Python本就不适合做大项目”，还有的反驳“飞书全员用Python”。暂且不说这家公司...
- 写 Python 七年才发现的七件事:真正提高生产力的脚本思路
-
如果你已经用Python写了不少脚本，却总觉得代码只是“能跑”，这篇文章或许会刷新你对这门语言的认知。以下七个思路全部来自一线实战，没有花哨的概念，只有可落地的工具与习惯。它们曾帮我省下大量无意义...
- 用Python写一个A*搜索算法含注释说明
-
大家好！我是幻化意识流。今天我们用Python写一个A*搜索算法的代码，我做了注释说明，欢迎大家一起学习：importheapq#定义搜索节点类，包括当前状态、从初始状态到该状态的代价g、从该状态...
- 使用python制作一个贪吃蛇游戏,并为每一句添加注释方便学习
-
今天来设计一个贪吃蛇的经典小游戏。先介绍下核心代码功能（源代码请往最后面拉）：游戏功能：-四个难度等级：简单(8FPS)、中等(12FPS)、困难(18FPS)、专家(25FPS)-美...
- Python 之父 Guido van Rossum 宣布退休
-
Python之父GuidovanRossum在推特公布了自己从Dropbox公司离职的消息，并表示已经退休。他还提到自己在Dropbox担任工程师期间学到了很多东西——Python的类型注解（T...
- 4 个早该掌握的 Python 类型注解技巧
-
在Python的开发过程中，类型注解常常被忽视。但当面对一段缺乏类型提示、逻辑复杂的代码时，理解和维护成本会迅速上升，极易陷入“阅读地狱”。本文整理了4个关于Python类型注解的重要技巧...
- 让你的Python代码更易读:7个提升函数可读性的实用技巧
-
如果你正在阅读这篇文章，很可能你已经用Python编程有一段时间了。今天，让我们聊聊可以提升你编程水平的一件事：编写易读的函数。请想一想：我们花在阅读代码上的时间大约是写代码的10倍。所以，每当你创建...
- Python异常模块和包
-
异常当检测到一个错误时，Python解释器就无法继续执行了，反而出现了一些错误的提示，这就是所谓的“异常”,也就是我们常说的BUG例如：以`r`方式打开一个不存在的文件。f=open('...
- 别再被 return 坑了!一文吃透 Python return 语句常见错误与调试方法
-
Pythonreturn语句常见错误与调试方法（结构化详解）一.语法错误：遗漏return或返回值类型错误错误场景pythondefadd(a,b):print(a+b)...
- Python数据校验不再难:Pydantic库的工程化实践指南
-
在FastAPI框架横扫Python后端开发领域的今天，其默认集成的Pydantic库正成为处理数据验证的黄金标准。这个看似简单的库究竟隐藏着哪些让开发者爱不释手的能力？本文将通过真实项目案例，带您解...
- python防诈骗的脚本带注释信息
-
以下是一个简单但功能完整的防诈骗脚本，包含URL检测、文本分析和风险评估功能。代码结构清晰，带有详细注释，适合作为个人或家庭防诈骗工具使用。这个脚本具有以下功能：文本诈骗风险分析：检测常见诈骗关键...
- Python判断语句
-
布尔类型和比较运算符布尔类型的定义：布尔类型只有两个值：True和False可以通过定义变量存储布尔类型数据：变量名称=布尔类型值（True/False）布尔类型不仅可以自行定义，同时也可通过...
- 使用python编写俄罗斯方块小游戏并为每一句添加注释，方便学习
-
先看下学习指导#俄罗斯方块游戏开发-Python学习指导##项目概述这个俄罗斯方块游戏是一个完整的Python项目，涵盖了以下重要的编程概念：-面向对象编程（OOP）-游戏开发基础-数据...
- Python十大技巧:不掌握这些，你可能一直在做无用功!
-
在编程的世界里，掌握一门语言只是起点，如何写出优雅、高效的代码才是真功夫。Python作为最受欢迎的编程语言之一，拥有简洁明了的语法，但要想真正精通这门语言，还需要掌握一些实用的高级技巧。一、列表推导...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)