MediaCrawler: 爬取抖音快手小红书 B站等

off999 2024-12-15 16:05 55 浏览 0 评论

项目简介

这个项目可以爬取抖音快手小红书 B站微博的视频，图文，作者信息以及评论。

小红书爬虫，抖音爬虫，快手爬虫， B站爬虫，微博爬虫...。
目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。

原理：利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低

功能列表

平台	Cookie 登录	二维码登录	手机号登录	关键词搜索	指定视频/帖子 ID 爬取	登录状态缓存	数据保存	IP 代理池	滑块验证码
小红书	?	?	?	?	?	?	?	?	?
抖音	?	?	?	?	?	?	?	?	?
快手	?	?	?	?	?	?	?	?	?
B 站	?	?	?	?	?	?	?	?	?
微博	?	?	?	?	?	?	?	?	?

使用方法

创建并激活 python 虚拟环境

# 进入项目根目录
cd MediaCrawler


# 创建虚拟环境
python -m venv venv


# macos & linux 激活虚拟环境
source venv/bin/activate


# windows 激活虚拟环境
venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论
python main.py --platform xhs --lt qrcode --type search


# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息
python main.py --platform xhs --lt qrcode --type detail


# 打开对应APP扫二维码登录


# 其他平台爬虫使用示例, 执行下面的命令查看
python main.py --help