用python怎样爬网页呢?其实就是根据URL来获取它的网页
off999 2024-10-16 11:27 47 浏览 0 评论
我们在浏览器中看到的画面优美的界面，其实是由浏览器，对网页内容做了解释后，才呈现出来的类似word的WYSIWYG
实质它是一段HTML代码，加JS、CSS等。如果把网页比作一个人，那么HTML便是他的骨架，JS便是他的肌肉，CSS便是它的衣服。最重要的部分是存在于HTML中的。
用一个例子来爬网页
?import urllib2
?response = urllib2.urlopen("http://www.baidu.com")
?print response.read()
这个例子中，真正的程序就两行，把它保存成demo.py，进入该文件的目录，执行如下命令查看运行结果。
?python demo.py
可以看到这个网页的源码已经被爬下来了。
网页爬取方法
那么我们来分析这几行Python代码：
?import urllib2
?response = urllib2.urlopen("http://www.baidu.com")
?print response.read()
第2行
?response = urllib2.urlopen("http://www.baidu.com")
?首先我们调用的是urllib2库里面的urlopen方法，传入一个URL
?这个网址是百度首页，协议是HTTP协议
?当然你也可以把HTTP换做FTP,FILE,HTTPS 等等，只是代表了一种访问控制协议
三个参数
urlopen一般接受三个参数，它的参数如下：
?urlopen(url, data, timeout)
?第一个参数url即为URL，第二个参数data是访问URL时要传送的数据，第三个timeout是设置超时时间。
?第一个参数URL是必须要传送的，本例里传送了百度的URL
?第二三个参数可以不传，
?data默认为空None
?timeout默认为socket._GLOBAL_DEFAULT_TIMEOUT
执行urlopen方法之后，返回一个response对象，返回信息便保存在这里面。
?print response.read()
?response对象有一个read方法，可以返回获取到的网页内容。
第3行
?print response.read()
?如果不加read直接打印会是什么？
?直接打印出了该对象的描述
?<addinfourlat 139728495260376 whose fp= <socket._fileobjectobject at 0x7f1513fb3ad0>>
?所以一定要加read方法
构造Requset
其实上面的urlopen参数，可以传入一个request请求
它其实就是一个Request类的实例，构造时需要传入Url,Data等等的内容。
比如上面的三行代码，我们可以这么改写
?import urllib2
?request = urllib2.Request("http://www.baidu.com")
?response = urllib2.urlopen(request)
?print response.read()
运行结果是完全一样的，只不过中间多了一个request对象
?推荐大家这么写，因为在构建请求时还需要加入好多内容
?通过构建一个request，服务器响应请求得到应答，这样显得逻辑上清晰明确。
相关推荐
- python入门到脱坑经典案例—清空列表
-
在Python中，清空列表是一个基础但重要的操作。clear()方法是最直接的方式，但还有其他方法也可以实现相同效果。以下是详细说明：1.使用clear()方法（Python3.3+推荐）...
- python中元组，列表，字典，集合删除项目方式的归纳
-
九三，君子终日乾乾，夕惕若，厉无咎。在使用python过程中会经常遇到这四种集合数据类型，今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表（List）是一种有序和可更改的集合。允许重复...
- Linux 下海量文件删除方法效率对比，最慢的竟然是 rm
-
Linux下海量文件删除方法效率对比，本次参赛选手一共6位，分别是：rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...
- 数据结构与算法——链式存储(链表)的插入及删除，
-
持续分享嵌入式技术，操作系统，算法，c语言/python等，欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法，本篇我们主要将一下链表的插入删除操作，以及采用堆栈方式如何创建链表。链...
- Python自动化:openpyxl写入数据，插入删除行列等基础操作
-
importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...
- 在Linux下软件的安装与卸载（linux里的程序的安装与卸载命令）
-
通过apt安装/协助软件apt是AdvancedPackagingTool，是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式：安装软件：sudoapt...
- Python 批量卸载关联包 pip-autoremove
-
pip工具在安装扩展包的时候会自动安装依赖的关联包，但是卸载时只删除单个包，无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装：pipinsta...
- 用Python在Word文档中插入和删除文本框
-
在当今自动化办公需求日益增长的背景下，通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器，既能承载多模态信息（如文字、图像），又可实现独...
- Python 从列表中删除值的多种实用方法详解
-
#Python从列表中删除值的多种实用方法详解在Python编程中，列表（List）是一种常用的数据结构，具有动态可变的特性。当我们需要从列表中删除元素时，根据不同的场景（如按值删除、按索引删除、...
- Python 中的前缀删除操作全指南（python删除前导0）
-
1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除：#1.使用removeprefix()方法(Python3.9+)text="...
- 每天学点Python知识:如何删除空白
-
在Python中，删除空白可以分为几种不同的情况，常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白（空格、\t、\n等）使用.strip()方法：s...
- Linux系统自带Python2&yum的卸载及重装
-
写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时，需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时，少写了个3，不小心将系统自带的python2也...
- 如何使用Python将多个excel文件数据快速汇总?
-
在数据分析和处理的过程中，Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例，展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据，并最终生成一个包含...
- 【第三弹】用Python实现Excel的vlookup功能
-
今天继续用pandas实现Excel的vlookup功能，假设我们的2个表长成这样：我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说，先上代码：importpandasaspd...
- python中pandas读取excel单列及连续多列数据
-
案例：想获取test.xls中C列、H列以后（当H列后列数未知时）的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)