新一代浏览器自动化神器Playwright深度解析:从入门到实战的指南
off999 2025-05-25 14:48 7 浏览 0 评论
一、Playwright简介:为什么选择它?
Playwright是由微软推出的新一代浏览器自动化框架,专为Web测试与数据抓取设计。其核心优势在于:
- 跨浏览器支持:统一API兼容Chromium、Firefox、WebKit(含Edge、Safari),无需切换驱动。
- 自动化等待机制:内置智能等待,减少手动定位延时,提升脚本稳定性。
- 无头/有头模式无缝切换:兼顾调试与性能需求。
- 低门槛安装:自动下载浏览器与驱动,告别环境配置烦恼。
对比传统工具(Selenium vs Playwright):
特性 | Selenium | Playwright |
浏览器支持 | 需手动安装对应驱动 | 内置主流浏览器驱动 |
等待机制 | 依赖显式等待,易导致卡顿 | 自动等待元素加载,默认30秒超时 |
API设计 | 接口分散,学习成本高 | 统一简洁,支持链式调用 |
网络拦截 | 需第三方库配合 | 原生支持请求/响应拦截 |
并行测试 | 需复杂配置 | 天生支持多进程并行执行 |
二、安装与配置
- 环境要求
Python 3.7+(推荐使用虚拟环境管理)
安装Playwright:
pip install playwright
- 驱动安装(自动下载Chromium、Firefox、WebKit)
python -m playwright install
- 提速技巧:使用国内镜像源(如清华源):
playwright install --driver-binary-mirror=https://mirrors.tuna.tsinghua.edu.cn/playwright
三、基础使用:同步 vs 异步模式
3.1 同步模式(适合新手)
from playwright.sync_api import sync_playwright
with sync_playwright() as p:
browser = p.chromium.launch(headless=False)
page = browser.new_page()
page.goto("https://www.example.com")
page.click("text=Login")
page.fill("#username", "testuser")
page.screenshot(path="login.png")
browser.close()
3.2 异步模式(性能优化)
import asyncio
from playwright.async_api import async_playwright
async def main():
async with async_playwright() as p:
browser = await p.chromium.launch()
page = await browser.new_page()
await page.goto("https://example.com")
await page.evaluate("document.title = 'Test Page'")
title = await page.title()
print(title) # 输出:Test Page
await browser.close()
asyncio.run(main())
核心方法对比:
- sync_playwright() vs async_playwright():上下文管理器,管理浏览器生命周期。
- page.goto(url):导航至指定URL,自动等待页面加载完成。
- page.click(selector):通过选择器定位元素并点击(支持CSS、XPath、文本匹配)。
- page.fill("#input", "text"):输入文本到指定输入框。
四、高级功能实战
4.1 元素定位与操作
Playwright提供三种定位方式:
- CSS选择器:
page.click("#submit-btn") # 按ID定位
page.click("[data-testid=login]") # 按自定义属性定位
- XPath:
page.click("xpath=//button[contains(text(), 'Login')]")
- 文本匹配(模糊/正则):
page.click("text=Log in") # 精确匹配文本
page.click("text=/Log\s*in/i") # 正则匹配
实战示例:自动登录表单
def login(page):
page.fill("#username", "admin")
page.fill("#password", "123456")
page.click("text=Login")
# 断言登录成功
expect(page).to_have_title("Dashboard")
4.2 事件监听与自动化测试
- 页面事件拦截:
def on_console_message(msg):
print(f"Console log: {msg.text}")
page.on("console", on_console_message)
- 网络请求监控:
def intercept_response(response):
if "api/login" in response.url:
print(response.json()) # 打印登录接口返回数据
page.route("**/api/*", intercept_response)
4.3 网络Mock与数据拦截
- Mock接口响应:
def mock_handler(route):
route.fulfill(body={"success": True}, status=200)
page.route("https://example.com/api/data", mock_handler)
- 上传/下载文件:
# 上传文件
with page.expect_file_chooser() as chooser:
page.click("text=Upload")
chooser.value.set_files("path/to/file.pdf")
# 下载文件
with page.expect_download() as download:
page.click("text=Download")
download.value.save_as("output.pdf")
五、实战案例:豆瓣电影爬虫
目标:爬取豆瓣电影Top250榜单信息(名称、评分、简介)。
步骤:
- 启动Playwright,打开豆瓣页面。
- 定位电影列表,解析元素内容。
- 处理分页,循环抓取。
- 数据存储(CSV/JSON)。
from playwright.sync_api import sync_playwright
def crawl_douban_top250():
with sync_playwright() as p:
browser = p.chromium.launch()
page = browser.new_page()
page.goto("https://movie.douban.com/top250")
movies = []
for page_num in range(1, 11): # 共10页
movie_items = page.query_selector_all(
"//div[@class='item']"
)
for item in movie_items:
title = item.query_selector("div.title a").text_content()
rating = item.query_selector("span.rating_num").text_content()
movies.append({
"title": title,
"rating": rating
})
# 翻页
page.click("text=后页")
return movies
# 保存为CSV
import csv
with open("douban_movies.csv", "w", newline="") as f:
writer = csv.DictWriter(f, fieldnames=["title", "rating"])
writer.writeheader()
writer.writerows(crawl_douban_top250())
六、性能优化与调试技巧
- 无头模式加速:
browser = p.chromium.launch(headless=True)
- 延迟模拟:
page.locator("text=Submit").click(slow_mo=500) # 慢动作调试
- 日志记录:
playwright.log.setLevel("DEBUG")
- 代码生成工具:
playwright codegen --target python -o script.py https://example.com
实时记录操作并生成对应代码,快速生成原型脚本。
七、总结与展望
Playwright凭借其低门槛安装、智能等待、多浏览器支持等特性,已成为自动化测试与数据抓取的理想选择。
未来,其WebAssembly支持(跨平台)与移动端测试能力(如Appium集成)值得期待。
对于需要高稳定性、跨场景兼容的开发者,Playwright无疑是替代Selenium的优选方案。
参考资料:
- Playwright官方文档:https://playwright.dev/python
- 性能对比报告:https://playwright.dev/docs/benchmarks
- 代码生成工具使用指南:https://playwright.dev/docs/codegen
感谢点赞关注收藏:)
相关推荐
- 还不会安装python?快来看看怎么快速安装
-
下载安装包一、访问Python官网1、在浏览器输入python.org点击Enter键显示这个页面即可PS:因为是国外网站访问会慢一点,等待个10秒左右2、点击Downloads按钮(D...
- 安装python后这几个目录很重要
-
各位网友好,关于拍摄环境之前有视频安装已经做过介绍了,安装完拍摄环境之后初学者经常有在运行过程当中的会遇到的问题,为了快速的去排查gatson环境的问题,了解python安装之后的一些关键目录以及主要...
- 简单的基于小波分析的时间序列降噪方法(Python)
-
importnumpyasnpimportpywtimportmatplotlib.pyplotaspltdefdenoise_signal(signal,wavelet=...
- 每天一个 Python 库:logging 用法精讲,高效简洁的输出日志
-
一、为什么你必须掌握logging?你是否还在用print()调试程序?简单场景OK,但当项目逐渐复杂,print就显得力不从心:无法区分信息等级不带时间,无法定位日志时间点不易写入日...
- [python] 轻量级定时任务调度库schedule使用指北
-
schedule是一款专为简化定时任务调度而设计的Python库,它通过直观的语法降低了周期性任务的实现门槛。作为进程内调度器,它无需额外守护进程,轻量且无外部依赖,适合快速搭建自动化任务。不过,该库...
- 解决 Python 中 schedule 模块安装与使用问题的完整指南
-
schedule是一个轻量级的Python定时任务调度库,适用于简单的周期性任务管理。以下是安装、基本使用、常见问题解决及最佳实践的完整指南。1.安装schedule通过pip安装bas...
- Python 的日历模块,你会用吗
-
Python的日历模块是一个内置库,它提供了广泛的功能来处理与日历相关的任务。无论您是管理计划、处理基于日期的逻辑,还是创建日历可视化,此模块都可以简化复杂的操作。为什么使用calendar模块?c...
- Python中测试代码执行时间的利器
-
简介作为Python开发者,我们都希望代码运行更快一些,今天给大家介绍一个实用的工具模块timeit,它可以帮我们精确测量Python代码的执行时间。赶快来看看吧!timeit模块是py...
- Python定时任务管理指南:让你的代码按时工作!
-
大家好!今天我要和大家分享一个非常实用的Python技能-定时任务管理。想让你的程序在每天固定时间自动执行?或者周期性地完成某些任务?跟着我一起学习,让你的代码成为一位守时的好帮手!一、什么是定时...
- deepseek+wps/excel:时间类公式复杂难度测试
-
如图,题目是对科目间隔作出判断并最确定每个时间是否有效。测试目标:1、理解分人分科目的时间作判定;结果:完全理解。2、使用循环函数,特别是调用累积器的能力;结果:能选出合适的函数组合,但具体参数调用会...
- Python基于Prophet实现时间序列数据趋势周期特征提取项目实战
-
说明:这是一个机器学习实战项目(附带数据+代码+文档+代码讲解),如需数据+代码+文档+代码讲解可以直接到文章最后获取。1.项目背景Prophet是Facebook开源的一个用于时间序列预测的库,它主...
- 一节课的时间快速掌握Python基础知识
-
对于初学者来说,掌握它的基础语法和核心功能是非常重要的。下面是一个循序渐进的学习步骤,帮助你轻松入门:Python是一种简单易学,容易上手,功能也非常强大,所很多人想学会它。个人感觉还是先学下C...
- python教程从基础到精通,第9课—日期与时间
-
Hello,小伙伴们,祝大家五.一玩得快乐!刚学习完了七大数据类型,今天咱们来学习日期与时间的表示方法。Python标准库中提供了时间和日期的支持:calendar:日历相关;time、datetim...
- 碎片时间学Python-09循环
-
循环是指重复完成同一个动作。重复有限次数,则为有限循环,否则为无限循环。Python中的循环结构通常有两种:while循环和for循环。while循环`while`循环在条件为真时重复执行代码块。#...
- Python 实现【响应报文时间】
-
defdecode_max_resp_time(m):ifm<128:returnmelse:mant=m&0x0F...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (75)
- python进度条 (54)
- python的for循环 (56)
- python串口编程 (60)
- python写入txt (51)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python qt (52)
- python人脸识别 (54)
- python斐波那契数列 (51)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)