炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
off999 2024-10-24 12:34 24 浏览 0 评论
丰色 发自 凹非寺
量子位 | 公众号 QbitAI
一直以来，Pytorch在Mac上仅支持使用CPU进行训练。
就在刚刚，Pytorch官方宣布，其最新版v1.12可以支持GPU加速了。
只要是搭载了M1系列芯片的Mac都行。
这也就意味着在Mac本机用Pytorch“炼丹”会更方便了！
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出。
它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。
为了优化计算性能，MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。
Metal是一个类似OpenGL的框架，只不过OpenGL适用于各平台的移动端GPU渲染和计算，Metal专用于iOS/MacOS平台，不过也兼顾了性能和易用性。
MPS就是一套基于Metal框架的库，直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。
苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。
（这阵容差不多能算是豪华配置了）。
他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT，以及batch size=64的VGG16。
从下图中我们可以发现，相比使用CPU加速，使用GPU可将模型训练速度提高约7倍，评估（evaluation）速度则最高能提约20倍。
看到这儿，有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。
有人表示，虽说目前M1的原始计算性能比不上英伟达的产品，但功耗方面还不错。未来苹果很有可能慢慢追上性能。
总的来说，Mac Studio现在看起来实在太香了。
他进一步解释道：
“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持，完全可以用来训练大模型、配置大的batch size。
对于我所做的那种DL工作，数据加载比实际的原始计算能力更容易成为瓶颈。”
你心动了吗？
现在就试试？
只需保证你的macOS操作系统在12.3版本及以上，且安装了arm64原生Python，然后去官网下载最新的Pytorch预览版就可以了。
地址：
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
相关推荐
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
-
在日常开发中，时间处理是绕不开的一块，比如：生成时间戳比较两个时间差转换为可读格式接口传参/前端展示/日志记录今天我们就用一个案例+代码+思维导图，带你完全搞定datetime模块的用法！...
- 字节跳动!2023全套Python入门笔记合集
-
学完python出来，已经工作3年啦，最近有很多小伙伴问我，学习python有什么用其实能做的有很多可以提高工作效率增强逻辑思维还能做爬虫网站数据分析等等！！最近也是整理了很多适合零基...
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
-
前言Matplotlib是一个流行的Python库，可以很容易地用于创建数据可视化。然而，设置数据、参数、图形和绘图在每次执行新项目时都可能变得非常混乱和繁琐。而且由于应用不同，我们不知道选择哪一个图...
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
-
一、跳转语句的使命当程序需要提前结束循环或跳过特定迭代时，break和continue就是你的代码急刹按钮和跳步指令。就像在迷宫探险中：break=发现出口立即离开continue=跳过陷阱继续前进二...
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（24)Python中的数据类”欢迎您的访问。Shareinterest,...
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
-
分享兴趣，传播快乐，增长见闻，留下美好！亲爱的您，这里是LearningYard新学苑。今天小编为大家带来文章“刘心向学（25）Python中的虚拟环境”欢迎您的访问。Shareinte...
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
-
分享乐趣，传播快乐，增长见识，留下美好。亲爱的您，这里是LearingYard学苑！今天小编为大家带来“Python中的wordcloud库学习介绍”欢迎您的访问！Sharethefun,...
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
-
机器之能报道编辑：Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何使用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人...
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
-
最近基于Deepseek+PythonWeb技术开发了一个AI对话自动生成思维导图的应用，用来展示下如何基于低门槛的Python相关技术栈，高效结合deepseek实现从应用场景到实际应用的快速落地...
- 10幅思维导图告诉你 - Python 核心知识体系
-
首先，按顺序依次展示了以下内容的一系列思维导图：基础知识，数据类型（数字，字符串，列表，元组，字典，集合），条件&循环，文件对象，错误&异常，函数，模块，面向对象编程；接着，结合这些思维导图主要参考的...
- Python基础核心思维导图，让你轻松入门
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- Python基础核心思维导图，学会事半功倍
-
Python基础核心思维导图【高清图文末获取】学习路线图就给大家看到这里了，需要的小伙伴下方获取获取方式看下方图片...
- 硬核!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
- Python学习知识思维导图(高效学习)
-
Python学习知识思维导图python基础知识python数据类型条件循环列表元组字典集合字符串序列函数面向对象编程模块错误异常文件对象#python##python自学##编程#...
- 别找了!288页Python核心知识笔记(附思维导图，建议收藏)
-
今天就给大家分享一份288页Python核心知识笔记，相较于部分朋友乱糟糟的笔记，这份笔记更够系统地总结相关知识，巩固Python知识体系。文末获取完整版PDF该笔记学习思维导图：目录内容展示【领取方...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 每天一个 Python 库:datetime 模块全攻略，时间操作太丝滑!
- 字节跳动!2023全套Python入门笔记合集
- 为什么你觉得Matplotlib用起来困难?因为你还没看过这个思维导图
- Python新手必看!30分钟搞懂break/continue(附5个实战案例)
- 刘心向学(24)Python中的数据类（python中5种简单的数据类型）
- 刘心向学(25)Python中的虚拟环境（python虚拟环境安装和配置）
- 栋察宇宙(八):Python 中的 wordcloud 库学习介绍
- AI在用|ChatGPT、Claude 3助攻，1分钟GET高颜值思维导图
- 使用DeepSeek + Python开发AI思维导图应用，非常强!
- 10幅思维导图告诉你 - Python 核心知识体系
- 标签列表
-
- python计时 (54)
- python安装路径 (54)
- python类型转换 (75)
- python进度条 (54)
- python的for循环 (56)
- python串口编程 (60)
- python写入txt (51)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python qt (52)
- python人脸识别 (54)
- python斐波那契数列 (51)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- centos7安装python (53)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)