Python爬取动态网页之selenium扫盲篇
off999 2024-10-19 07:11 19 浏览 0 评论
Selenium是什么
Selenium是在2004年由一个叫Jason Huggins的聪明的年轻人开发的，当时身处ThoughtWorks的他，为了不想让自己的时间浪费在无聊的重复性工作中，所以开发一个JS的类库来驱动浏览器页面的行为；这个js类库就是selenium core，同时也是seleniumRC、Selenium IDE的核心组件。这就是Selenium1.0的产生史。
在2006年，在google的一位有胆识的年轻人Simon Stewart发起了一个叫WebDriver的项目；因为长期以来google一直是selenium的重度用户，但却总是被限制在有限的操控范围内，所以Simon希望能通过浏览器、操作系统的底层方法等一些手段来直接操作浏览器；这样就避免了在JavaScript的沙箱环境里存在的那些限制了，webdriver项目就此诞生！
在2008年，Selenium和webdriver结合了，从此永结良缘，福泽我们广大的测试工作者。这期间谁追的谁都不重要了，重要的是他们合并的原因正如webdriver的作者所说：
部分原因是 selenium 补充了 webdriver 的不足
部分原因是 webdriver 补充了 selenium 的不足
部分原因是它们合体后能给用户提供一个更好的自动化测试框架
Selenium经历了两个版本，Selenium1.0 和Selenium2.0，Selenium 也不是简单一个工具，而是由几个工具组成，每个工具都有其特点和应用场景。通常都是用Selenium2
Selenium支持非常多的浏览器
我们这里主要用到的是PhantomJS
PhantomJS是一个而基于webkit的服务器端的JS API。
他全面支持各种原生的Web标准：DOM处理、CSS选择器、JSON、Canvas和SVG。最重要的是他是一个没有GUI的程序，
也就意味着他可以省去大量的加载图形界面的时间。而且利用selenium去调用上述浏览器，PhantomJS的速度最快
PhantomJS的安装：
Mac下安装PhantomJS:
brew install phantomjs
别的就麻烦大家自行搜索了
简单教程
我们写一个简单的例子，写一个脚本，通过百度替我们去搜索结果，并将网页以图片的形式保存下来
代码中注释写的很详细，如果有不懂的可以去看看http://selenium-python-zh.readthedocs.io/en/latest/
执行结果：
保存的图片：
这篇博客只是简单的介绍了一下selenium，让大家对他有个认识，下面的几篇文章将实际应用selenium到爬虫中
本文章是由热衷python和前端原创发布，如需转载请注明出处
欢迎大家关注头条号：热衷python和前端
如果有需要源码的同学就留言或者私聊我吧
相关推荐
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
-
在日常开发中，时间处理是绕不开的一块，比如：生成时间戳比较两个时间差转换为可读格式接口传参/前端展示/日志记录今天我们就用一个案例+代码+思维导图，带你完全搞定datetime模块的用法！...
- 字节跳动!2023全套Python入门笔记合集
-
学完python出来，已经工作3年啦，最近有很多小伙伴问我，学习python有什么用其实能做的有很多可以提高工作效率增强逻辑思维还能做爬虫网站数据分析等等！！最近也是整理了很多适合零基...
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
-
前言Matplotlib是一个流行的Python库，可以很容易地用于创建数据可视化。然而，设置数据、参数、图形和绘图在每次执行新项目时都可能变得非常混乱和繁琐。而且由于应用不同，我们不知道选择哪一个图...
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
-
一、跳转语句的使命当程序需要提前结束循环或跳过特定迭代时，break和continue就是你的代码急刹按钮和跳步指令。就像在迷宫探险中：break=发现出口立即离开continue=跳过陷阱继续前进二...
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（24)Python中的数据类”欢迎您的访问。Shareinterest,...
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（25）Python中的虚拟环境”欢迎您的访问。Shareinte...
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
-
分享乐趣，传播快乐，增长见识，留下美好。亲爱的您，这里是LearingYard学苑！今天小编为大家带来“Python中的wordcloud库学习介绍”欢迎您的访问！Sharethefun,...
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
-
机器之能报道编辑：Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何使用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人...
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
-
最近基于Deepseek+PythonWeb技术开发了一个AI对话自动生成思维导图的应用，用来展示下如何基于低门槛的Python相关技术栈，高效结合deepseek实现从应用场景到实际应用的快速落地...
- 10幅思维导图告诉你 - Python 核心知识体系
-
首先，按顺序依次展示了以下内容的一系列思维导图：基础知识，数据类型（数字，字符串，列表，元组，字典，集合），条件&循环，文件对象，错误&异常，函数，模块，面向对象编程；接着，结合这些思维导图主要参考的...
- Python基础核心思维导图，让你轻松入门
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- Python基础核心思维导图，学会事半功倍
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- 硬核!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
- Python学习知识思维导图(高效学习)
-
Python学习知识思维导图python基础知识python数据类型条件循环列表元组字典集合字符串序列函数面向对象编程模块错误异常文件对象#python##python自学##编程#...
- 别找了!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
- 字节跳动!2023全套Python入门笔记合集
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
- 10幅思维导图告诉你 - Python 核心知识体系
- 标签列表
-
- python计时 (54)
- python安装路径 (54)
- python类型转换 (75)
- python进度条 (54)
- python的for循环 (56)
- python串口编程 (60)
- python写入txt (51)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python qt (52)
- python人脸识别 (54)
- python斐波那契数列 (51)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)