百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

单线程VS多线程批量下载文件(多线程下载一个文件)

off999 2025-06-10 17:24 5 浏览 0 评论

我们通过批量下载ts文件的表现来看单线程和多线程的表现差异

ts文件可以看作是一个小的视频文件。一个大的视频文件包含很多小的视频文件。这里我们下载这些ts并不考虑ts文件的排序情况。

单线程下载批量文件

$ python start.py
.......
_single_thread downloading https://v.tudu.site/20210726/v9C6SozS/hls/ecW18luH.ts
_single_thread downloading https://ts.yboku.com/20210726/v9C6SozS/hls/f2OUWqie.ts
下载用时 38.338995s
共耗时 38.40814s

多线程下载批量文件

$ python start.py
.......
_multi_thread downloading https://v.tudu.site/20210726/v9C6SozS/hls/ecW18luH.ts
_multi_thread downloading https://ts.yboku.com/20210726/v9C6SozS/hls/f2OUWqie.ts
下载用时 6.403877s
共耗时 6.496256s

讨论

这是反复多次运行程序后,我能给到大家的一个比较客观的数据。多线程下载确实能节省很多时间,大大提高生产效率。下载程序或者说是访问网络的程序都属于IO密集型程序,广泛来看,Python的多线程对IO密集型程序的效率提升是客观的。

学习是个循序渐进的过程,我们先来看一下,单线程下载程序的编写。

我感觉用文章作为demo课程的载体多少有些受限。接下来我会录制视频,以项目的形式展示给大家。这里我就带着大家看看核心的代码,以脚本的形式大概了解一下

def _process(ts_url, process_type):
    print(f'{process_type} downloading {ts_url}')
    return requests.get(ts_url).content

def _single_thread(ts_url_list):
    response_content_list = []
    for ts_url in ts_url_list:
        response_content_list.append(self._process(ts_url, '_single_thread'))
        return response_content_list

def save(target_path, task_list):
    if not os.path.exists(target_path):
        os.makedirs(target_path)
    for index, task in enumerate(task_list):
        f = open(f'{target_path}/{index}.ts', 'wb')
        f.write(task)
        f.close()
        
if __name__ == '__main__':
    urllist = [ts文件列表] # ts 列表我通过读txt文件加载到内存,具体代码这里没有展示。
    contents = _single_thread(urllist)
    save(os.path.join('mp4'), contents)

单线程的核心代码非常简单。关注并私信我,可以获取保存TS的文档,有需要的可以取用。好今天咱们就讲到这里,这节课只要掌握文件的下载就可以了。接下来我们将探索Python多线程对IO密集型程序的影响。

相关推荐

工程师必备!DeepSeek自动化运维全攻略

每天省出3小时,故障自修复+智能监控实战指南导语“总在深夜被报警短信吵醒?教你搭建智能运维体系,让DeepSeek自己管自己!”正文技能1:自动化故障诊断配置智能诊断规则:yaml复制alert_ru...

Spug - 轻量级自动化运维平台(自动化运维平台 devops)

对于中小型企业而言,进行主机和应用的管理是比较麻烦的,应用部署往往需要直接连接服务器,再进行手动的环境配置、代码拉取、应用构建和部署发布等工作,容易出错,且耗时费力。一个好的自动化运维平台,往往能大大...

轻量级无 Agent 的一个好用的“小麻雀”自动化运维平台工具!-Spug

对于中小型企业而言,进行主机和应用的管理是比较麻烦的,应用部署往往需要直接连接服务器,再进行手动的环境配置、代码拉取、应用构建和部署发布等工作,容易出错,且耗时费力。一个好的自动化运维平台,往往能大大...

运维自动化之实用python代码汇总(python自动化运维常用模块)

本文总结了运维工作中经常用到的一些实用代码块,方便在需要的时候直接搬过来使用即可1.执行系统命令,获取返回结果fromsubprocessimportPopen,PIPE,STDOUTcp...

从代码小白到自动化大师:Python 编程实战

昨天我聊了一下关于线性代数、概率统计、微积分核心概念的学习,也花了一些时间恢复一下大学时候学这些的记忆,确实来说数学很有趣也很考验人,兴趣是最好的老师对吧,既然对AI感兴趣,总要认真的学一学,接下来我...

锐捷:基于Python TextFSM模块的网络设备自动化运维方法

网络设备自动化运维,首先要实现网络设备与自动化运维平台对接,即通过代码实现登录网络设备并获取信息。邮政业科技创新战略联盟单位锐捷自主研发的数据中心交换机产品已全面支持NETCONF协议,可适用于和SD...

基于Python+vue的自动化运维、完全开源的云管理平台

真正的大师,永远都怀着一颗学徒的心!一、项目简介今天说的这个软件是一款基于Python+vue的自动化运维、完全开源的云管理平台。二、实现功能基于RBAC权限系统录像回放DNS管理配置中心强大的作业调...

编程与数学:在Python里怎么用turtle库函数填色?

这里只给出一个示例,一个最简单的示例。看懂这个示例,你就能在自己的代码里需要填色的地方填色。首先,与前面发的Python绘画程序一样,先要装入turtle库。然后在代码中,下面需要填色时,先写一个填色...

Python UV 环境下的 PyKDL 运动学库安装

视频讲解:PythonUV环境下的PyKDL运动学库安装_哔哩哔哩_bilibilimujoco-learning这个仓库,改成uv管理环境依赖后,原来的一些包有些缺失,比如之前安装的PyKD...

python最新版3.11正式发布,有哪些新特色?(3/5)

异步任务的语法更完美python编程语言对异步编程的支持一直在改进,比如python2.0版开始就增加了生成器(generator),在3.4版开始增加了asyncio库,随后在3.5版中...

清华北大都在用!Python王者归来(全彩版)

纸上得来终觉浅,绝知此事要躬行。今天给大家带来一份由清华大学出版的《python王者归来》。在当下全民互联网,大数据的时代,Python已然成为了学习大数据、人工智能时代的首选编程语言,Python...

第六章:Python模块与包(python模块与包与类的关系区别)

6.1模块基础6.1.1理论知识模块是一个包含Python定义和语句的文件,其扩展名为.py。模块可以将代码组织成逻辑单元,提高代码的可维护性和复用性。通过将相关的函数、类和变量放在同一个模块中...

语言教育项目实战之一:Ubuntu下安装Python环境

如下项目,运行在#ubuntu#上,使用#pytho#,从最初环境开始,逐渐深入。此项目以语言学习为主要目的,实现听写、跟读、对话的服务,面向中小学生、大学生、涉外交流人员等。计划通过pyenv管...

openai-python v1.79.0重磅发布!全新Evals API升级,音频转录终极

2025年5月17日,OpenAI官方在GitHub上发布了openai-python库的最新版本——v1.79.0。本次版本重点围绕Evals评估API进行了多项功能完善,同时修复了音频转录接口的重...

你真的用对了吗?7个常被误用的Python内置函数及最佳实践

你是否曾经在使用多年的工具中突然发现一个新功能,然后感叹:“我怎么一直没发现这个?”没错,今天我们就来体验一把“Python函数版”的这种乐趣。这些函数很可能已经是你日常代码的一部分,但我敢打赌,你并...

取消回复欢迎 发表评论: