想看小说又不想费神，用Python吧（python爬取付费小说）

现在的网络小说火了一阵，比如穿越小说，无非是历史系或者985高材生，唐诗宋词、造玻璃、酿白酒、造枪造炮等等，很多时候只是把人名改一改，然而就是这样的小说，却不断在各个地方做广告，然后搞个APP之类，让你读了一个开头就要缴费。小说本来就是偶尔消遣用的，而且这种粗制滥造的作品拿出来收钱，谁都不想做冤大头。其实手机现在读txt文件很方便，百度一下一般也可找到这些小说，有没有办法下载下来变成txt，想什么时候看就什么时候看？

其实有很多Python的教程，就有类似的功能。本文也以此来鼓励一下大家学Python。

Python不得不说是一个简单易学功能又强大的编程语言，特别是在获取数据方面有特别强大的功能。为了说明就以此为例来说说Python的学习。（为了避嫌，拿《大乾憨婿》为例，小说的内容惨不忍睹，就不细说了，这种小说应该没人会来追究版权之类的吧，当然如果作者相关人员有异议，本人可以马上删除）。

首先，我们需要知道数据源（就是这里的小说网址），比如
http://www.xxxxx.com/aaaa/（这里xxxxx和aaaa就不说明了），然后把网页的小说每一章的链接提取出来（一般是
http://www.xxxxx.com/aaaa/nnnn.html），再分析其中的内容，把其中的内容提取出来即可。

（注：本文主要是说明python语言的用处，为了避免纠纷，具体的链接和名称等都隐藏了，如果有兴趣可私信交流，也可交流下载到的小说。）

好了，现在我们现在开始使用Python了，做这些事情其实就是用到几个功能：

1、使用 requests 获取网页内容（包括章节目录和各章节内容）

from requests import get

url = “http://www.xxxxx.com/aaaa/”

response = get(url) # 获取网页内容

chapterurl= “http://www.xxxxx.com/aaaa/nnnn.html”

response = get(chapterurl) # 获取网页内容

2、使用正则规则分析和提取内容

例如一般章节链接的特征很明显，就是地址加上章节的页面，类似如下：

# 章节特征 <dd><a href ="/aaaaa/nnnnn.html">第六百二十章 xxxxx </a></dd>

而章节内容的特征 一般就是在正文前后找即可，

# 内容特征 "<div id=\"content\" class=\"showtxt\"> {文章内容} http://www.xxxxx.com/aaaa"

编程也很简单，用正则库 re 去分析即可

import re

# 获取章节链接和章节名称

pattern = '<dd><a href =\"/aaaaa/([0-9]+).html\">(.*?)</a></dd>'

result = re.findall(pattern,response.text) # 获取所有章节的链接和章节名称

结果以数组形式存在result中。

for pp in result:

print(pp[0],pp[1])

29336917 第一章 xxxx

29336918 第二章 xxxx

.......

# 获取章节内容

chapterurl= “http://www.xxxxx.com/aaaa/nnnn.html”

response = get(chapterurl)

pattern = "<div id=\"content\" class=\"showtxt\"> (.*?) http://www.xxxxx.com/aaaa"

strCont = response.text

result = re.findall(pattern,strCont) # 获得每章数据 ;

比如下面的小说页面对应的文字内容如下,获取到的内容也包括了各种换行、空格等网页字符

3、把上述获取的内容按照章节和内容保存成文件即可

with open("大乾憨婿.txt","w+",encoding="utf8") as f:

f.write({内容})

以上就是获取小说的代码，当然还需要循环、错误处理等语句，就不一一细说，但全部代码不超过 50行。

最后展现一下 大乾憨婿.txt 的内容，把文件拷贝到手机，想怎么读都行。

如果需要交流，请关注并留下私信，本人有空时会尽量回复。