低不成高不就的现状?小伙用python爬去百万招聘，满意找到工作
off999 2024-10-19 07:17 13 浏览 0 评论
个人经历：低不成，高不就
依稀还记得15年刚出来工作那会，在第一个互联网公司实习，在公司听惯了身边人说公司这不好，那不好，作为新人的我深受影响，不知从何时开始就想快点结束实习期换一份更好的工作；
千盼万盼，终于迎来第二年的毕业，毕业后我也选择了大部分实习生的选择，没有再回到公司，在之后，懵懂的我终于迎来人生的第一次打击，在之后的两个月的时间，我开始在做比较，结果没有找到一家比上家更好的工作，由于当初的不辞而别，我也感觉没脸回到上家公司，终于到了身无分文的地步，而我也不得以选择一家“差”的公司，想着做几个月存点钱再去找一份更好的工作；
这样的恶性循环在我身上循环了一年，“低不成，高不就”的现象也许不只是出现在我身上，下面教你如果找到一份自己相对满意的工作！
正文：找一份自己满意的工作
拿一个招聘网站用来分析：
1、分析网站结构，确定我们要抓取的数据内容
通过 Chrome 浏览器右键检查查看 network 并对网站结构进行分析发现我们在 ajax 请求界面中，可以看到这些返回的数据正是网站页面中Python岗位招聘的详情信息。
之后我们在查看headers的时候发现该网站请求的方式是Post请求，也就是说在请求的过程中需要携带Form Data数据
在多次对网页界面进行分析评测的时候，发现在点击第二页的时候Form Data的携带格式发生了变化。可以看到 pn=2 肯定是咱们的当前的页数。
2、不管三七二十一 ，先请求拿到数据在说
在直接请求界面的时候我们发现网站有反爬机制，不让我们请求《"msg":"您操作太频繁,请稍后再访问"》，我们携带请求头伪装一下，不行
这里我用了一种可以快速生成headers以及cookie的工具：
我怀疑该网站具有多重反爬策略，当我在次添加cookies试一下的时候；我们发现数据可以正常获取了；难道就这么简单就解决拉勾网数据获取的问题了吗？然而机智的我察觉到事情并没有想像的那么简单；
我的最终解决方案是共用 session，就是说我们在每次请求界面的时候先获取session然后原地更新我们的session之后在进行数据的抓取，最后拿到想要的数据。
第二步：对数据进行分解
运行结果：
第三步：对解析数据进行存储
这里通过 excel 表格的形式进行存储；
需要 pip install xlwt 安装一下 xlwt 库.
最终显示数据内容
最后
如果需要源码，可以看下图
相关推荐
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
-
在日常开发中，时间处理是绕不开的一块，比如：生成时间戳比较两个时间差转换为可读格式接口传参/前端展示/日志记录今天我们就用一个案例+代码+思维导图，带你完全搞定datetime模块的用法！...
- 字节跳动!2023全套Python入门笔记合集
-
学完python出来，已经工作3年啦，最近有很多小伙伴问我，学习python有什么用其实能做的有很多可以提高工作效率增强逻辑思维还能做爬虫网站数据分析等等！！最近也是整理了很多适合零基...
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
-
前言Matplotlib是一个流行的Python库，可以很容易地用于创建数据可视化。然而，设置数据、参数、图形和绘图在每次执行新项目时都可能变得非常混乱和繁琐。而且由于应用不同，我们不知道选择哪一个图...
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
-
一、跳转语句的使命当程序需要提前结束循环或跳过特定迭代时，break和continue就是你的代码急刹按钮和跳步指令。就像在迷宫探险中：break=发现出口立即离开continue=跳过陷阱继续前进二...
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（24)Python中的数据类”欢迎您的访问。Shareinterest,...
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（25）Python中的虚拟环境”欢迎您的访问。Shareinte...
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
-
分享乐趣，传播快乐，增长见识，留下美好。亲爱的您，这里是LearingYard学苑！今天小编为大家带来“Python中的wordcloud库学习介绍”欢迎您的访问！Sharethefun,...
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
-
机器之能报道编辑：Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何使用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人...
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
-
最近基于Deepseek+PythonWeb技术开发了一个AI对话自动生成思维导图的应用，用来展示下如何基于低门槛的Python相关技术栈，高效结合deepseek实现从应用场景到实际应用的快速落地...
- 10幅思维导图告诉你 - Python 核心知识体系
-
首先，按顺序依次展示了以下内容的一系列思维导图：基础知识，数据类型（数字，字符串，列表，元组，字典，集合），条件&循环，文件对象，错误&异常，函数，模块，面向对象编程；接着，结合这些思维导图主要参考的...
- Python基础核心思维导图，让你轻松入门
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- Python基础核心思维导图，学会事半功倍
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- 硬核!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
- Python学习知识思维导图(高效学习)
-
Python学习知识思维导图python基础知识python数据类型条件循环列表元组字典集合字符串序列函数面向对象编程模块错误异常文件对象#python##python自学##编程#...
- 别找了!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
- 字节跳动!2023全套Python入门笔记合集
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
- 10幅思维导图告诉你 - Python 核心知识体系
- 标签列表
-
- python计时 (54)
- python安装路径 (54)
- python类型转换 (75)
- python进度条 (54)
- python的for循环 (56)
- python串口编程 (60)
- python写入txt (51)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python qt (52)
- python人脸识别 (54)
- python斐波那契数列 (51)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)