百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python爬虫工具实现网页图片爬取并下载到本地?

off999 2024-12-15 16:05 59 浏览 0 评论

在Python中,我们可以使用多种的请求库来实现网页图片的爬取和下载,下面我们就来介绍如何使用BeautifulSoup来完成网络图片的下载

安装库

可以通过如下的操作步骤来完成

pip install requests beautifulsoup4

安装完成之后下面我们就来看看如何爬取并保存图片吧!

爬取并保存图片

第一步、引入相应的依赖库

import os
import requests
from bs4 import BeautifulSoup
from urllib.parse import urljoin

由于这里需要对图片进行本地的保存操作,所以需要用到os操作库

第二步、请求并获取图片路径

response = requests.get(url)
response.raise_for_status()

# 解析网页内容
soup = BeautifulSoup(response.text, 'html.parser')
print(soup)
# 找到所有的图片链接
img_tags = soup.find_all('img')
print("获取到图片地址长度 %d", len(img_tags))

第三步、遍历并下载图片

    # 遍历每个图片链接
    for img in img_tags:
        # 获取图片的完整URL
        img_url = img.get('src')
        print(img_url)
        # 判断图片链接是否是以HTTP或者是HTTPS开头的
        if not img_url.startswith(('http://', 'https://')):
            img_url = urljoin(url, img_url)

            # 下载图片并保存到本地
        img_response = requests.get(img_url, stream=True)
        img_response.raise_for_status()

        # 生成图片的文件名
        img_filename = os.path.join(output_dir, img_url.split('/')[-1])

        # 将图片内容写入文件
        with open(img_filename, 'wb') as f:
            for chunk in img_response.iter_content(1024):
                f.write(chunk)

完整代码

import os
import requests
from bs4 import BeautifulSoup
from urllib.parse import urljoin


def download_images(url, output_dir):
    print("开始创建输出目录")
    # 创建输出目录,如果不存在的话
    if not os.path.exists(output_dir):
        os.makedirs(output_dir)
        print("目录创建成功")
        # 发送HTTP请求
    response = requests.get(url)
    response.raise_for_status()

    # 解析网页内容
    soup = BeautifulSoup(response.text, 'html.parser')
    print(soup)
    # 找到所有的图片链接
    img_tags = soup.find_all('img')
    print("获取到图片地址长度 %d", len(img_tags))
    # 遍历每个图片链接
    for img in img_tags:
        # 获取图片的完整URL
        img_url = img.get('src')
        print(img_url)
        # 判断图片链接是否是以HTTP或者是HTTPS开头的
        if not img_url.startswith(('http://', 'https://')):
            img_url = urljoin(url, img_url)

            # 下载图片并保存到本地
        img_response = requests.get(img_url, stream=True)
        img_response.raise_for_status()

        # 生成图片的文件名
        img_filename = os.path.join(output_dir, img_url.split('/')[-1])

        # 将图片内容写入文件
        with open(img_filename, 'wb') as f:
            for chunk in img_response.iter_content(1024):
                f.write(chunk)

url = 'https://www.hao123.com/'  # 替换为你要爬取的网页URL
output_dir = 'images'  # 图片将保存到这个目录
download_images(url, output_dir)

总结

此外,这个代码没有处理可能出现的各种错误,例如网络错误、HTTP错误等。在实际使用中,你可能需要添加更多的错误处理代码来确保程序的稳定性。

相关推荐

恢复出厂设置对电脑有影响吗

电脑恢复出厂设置,对系统没有影响,原因如下:1、系统还原是电脑在使用中的一种正常运作,不还原电脑无法正常运行,系统还原是对电脑的维护,不会对电脑或系统造成损害。2、系统还原是一次大容量的数据读写、清除...

注册邮箱163免费登录入口官网

注册网易邮箱账号步骤如下:1、在浏览器的地址栏输入http://email.163.com/进入网易邮箱的登录页面,点击页面下方的立即注册2、点击立即注册进入邮箱的注册页面,点击页面上面的注册字母邮箱...

产品密钥win10专业版激活密钥免费

1不存在永久激活密钥,但可以使用一些有效期长的密钥去激活Win10专业版。2Windows10的激活方式是基于数字权利,当你购买Windows10时,系统会将您电脑的硬件信息和购买记录绑定在一起...

ghostxp系统下载怎么安装教程

系统之家下载的XP系统通常是一个ISO镜像文件,安装这个系统需要通过一些步骤来制作可启动安装介质并进行系统安装。以下是安装的基本步骤:准备安装介质:使用工具如Rufus或AnyBurn将下载的ISO文...

无线网桥监控安装方法(无线网桥怎么连接监控)

网桥连接无线路由器安装的设置方法如下1.主路由器上网正常,副路由器LAN口插一根网线,另一头连接电脑。主副路由器不需要用网线连接。2.电脑开机输入副路由器背面的设置地址,进入登录界面输入背面的账号密码...

怎么对电脑文件夹加密(怎么对电脑文件夹加密码)

1.右键点要加密的文件或文件夹,然后单击“属性”;2.在“常规”选项卡,点击“高级”。选中“加密内容以便保护数据”复选框;3.在加密文件夹时,系统将询问是否要同时加密它的子文件夹。要如果选择是,那它的...

windows系统下载手机(win10下载手机)

OPPO手机重新下载安装系统:先备份好重要数据!然后手机连接电脑把下载的固件存入手机。然后再长按电源键十秒钟进入关机状态(可拆卸电板的需取下电板然后重新安装)。再同时按住电源键跟音量减键,进入reco...

电脑系统分区怎么分(电脑系统分区怎么分区)

分区是将硬盘分割成不同的逻辑部分,每个分区可以被视为一个独立的存储设备。通过分区,可以更好地管理数据和操作系统。要进行电脑分区,可以按照以下步骤进行:1.确定分区方案:首先需要确定分区的目的和需求。...

电脑显卡怎么选择(电脑显卡怎样选择)

以下是一些通用的方法:1.在硬件层面进行配置:首先需要确认您的主板和操作系统是否支持多GPU并行,以及您的电源是否提供足够的功率支持。在BIOS中启用多GPU选项,并安装正确的驱动程序。然后,通...

设置软件下载(设置软件下载入口)

iphone13app的下载设置1、首先,打开手机桌面的【设置】。2、在设置界面,点击【面容ID与密码】。3、这时设置了键盘锁的会要求你输入键盘锁密码进入。4、进入之后,找到【iTunesStore...

电脑麦克风插孔是哪个(电脑麦克风插那)

1.蓝色的为音频输入口。一般的电脑后面都有三个音频接口:蓝色是音频输入,绿色是音频输出,粉红色麦克风。  2.音频输入(蓝色),为外接光驱.随身听及其它音频输入设备,即可以把外部的设备声音传送至电脑...

ie浏览器打不开网页怎么修复

第一步:打开“运行”输入—〉cmd—〉回车然后把下面这行字符复制到黑色cmd框里面去回车等待dll文件全部注册完成就关闭可以了(下面是要运行的代码):for%1in(%windir%\syste...

mail163邮箱登录入口网页版(mail163手机邮箱登录)

1.首先你要开启网易的POP3/SMTP/IMAP。2.设置完之后你需要网易的客户端授权密码。3.密码会发送至你的绑定手机。4.用发给你的客户端授权密码登录第三方客户端(ios客户端)5.直接登陆,储...

微信一键恢复(微信一键恢复已删好友怎么操作)
  • 微信一键恢复(微信一键恢复已删好友怎么操作)
  • 微信一键恢复(微信一键恢复已删好友怎么操作)
  • 微信一键恢复(微信一键恢复已删好友怎么操作)
  • 微信一键恢复(微信一键恢复已删好友怎么操作)
win7系统序列号怎么查(win7电脑的序列号怎么查)

你可以在cmd命令行窗口中输入以下相关命令,可以得到你要的信息查找主板厂商输入:wmicBaseBoardgetManufacturer查找主板型号输入:wmicBaseBoardgetP...

取消回复欢迎 发表评论: