百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了

off999 2024-10-24 12:34 42 浏览 0 评论

丰色 发自 凹非寺

量子位 | 公众号 QbitAI

一直以来,Pytorch在Mac上仅支持使用CPU进行训练。

就在刚刚,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。

只要是搭载了M1系列芯片的Mac都行。

这也就意味着在Mac本机用Pytorch“炼丹”会更方便了!

训练速度可提升约7倍

此功能由Pytorch与Apple的Metal工程团队合作推出。

它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。

为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。

Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS平台,不过也兼顾了性能和易用性。

MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。

苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。

(这阵容差不多能算是豪华配置了)。

他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的VGG16

从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。

看到这儿,有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。

有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不错。未来苹果很有可能慢慢追上性能。

总的来说,Mac Studio现在看起来实在太香了

他进一步解释道:

“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。

对于我所做的那种DL工作,数据加载比实际的原始计算能力更容易成为瓶颈。”

你心动了吗?

现在就试试?

只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Python,然后去官网下载最新的Pytorch预览版就可以了。

地址:
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

相关推荐

大白菜一键装机win7系统(大白菜装系统教程win7)

1.电脑开机按f2或del进bios里面,启动项里面设置U盘启动,保存退出重启。2.键盘上一直按f12或f10,选择大白菜的u盘,进入pe界面,键盘按上下健移动,选择2003pe或win10pe,按回...

迅雷在线资源网观看(迅雷资源网 1080p 下载)
  • 迅雷在线资源网观看(迅雷资源网 1080p 下载)
  • 迅雷在线资源网观看(迅雷资源网 1080p 下载)
  • 迅雷在线资源网观看(迅雷资源网 1080p 下载)
  • 迅雷在线资源网观看(迅雷资源网 1080p 下载)
电脑windows密钥怎么查(windows密钥怎么看)

Win10系统查看并激活产品密钥的方法为:1、首先、进入到电脑屏幕的首页,在左上角会看到界面首页的“此电脑”选项。2、右键单次点击“此电脑”选项,在弹出的菜单快捷栏中选择最下方的“性”选项,并进行点击...

深度技术ghost xp sp3 如何安装

1、ghostxpsp3快速装机版使用ghost镜像来安装。方便快捷易操作。2、电脑开机进入bios后设置成光驱启动。设置方法参阅主板说明书。3、放入安装光盘后保存退出。电脑自动重启后光盘开始引导...

win7安装卡在正在为首次使用

有可能是配置比较多,你可以耐心等待一会儿,如果实在不行就恢复原来的操作,然后使用U盘安装系统。1、到微软官网下载Windows10的系统光盘映象文件。2、然后用微软官方的系统U盘制作工具,将系统光盘...

用启动盘怎么安装系统(启动盘装系统win10步骤)

首先,需要准备一个启动盘,可以是U盘或光盘。将启动盘插入电脑,重启电脑并按下启动键,进入BIOS设置,将启动顺序改为从启动盘启动。保存设置并退出BIOS,电脑会重启并进入安装界面。选择安装语言和时区,...

应用商店怎么下载(小米应用商店怎么下载)
  • 应用商店怎么下载(小米应用商店怎么下载)
  • 应用商店怎么下载(小米应用商店怎么下载)
  • 应用商店怎么下载(小米应用商店怎么下载)
  • 应用商店怎么下载(小米应用商店怎么下载)
华为手机怎么换桌面壁纸(华为壁纸怎么设置)

1、打开手机设置,点击“显示”。2、选择“壁纸”。3、将“随机切换桌面壁纸”后面的选项打开。4、点击上面的“设置壁纸”。5、我们发现最下方一排的图片可以切换,这一排图片就是壁纸相册。6、回到上一个界面...

台式电脑怎样调出摄像头(台式电脑摄像头在哪里调试)
  • 台式电脑怎样调出摄像头(台式电脑摄像头在哪里调试)
  • 台式电脑怎样调出摄像头(台式电脑摄像头在哪里调试)
  • 台式电脑怎样调出摄像头(台式电脑摄像头在哪里调试)
  • 台式电脑怎样调出摄像头(台式电脑摄像头在哪里调试)
win7系统重装后没声音(win7系统重装没声音怎么解决)

检查电脑音频设备是否有问题,排查无问题后检查电脑声卡驱动,安装第三方驱动软件工具,这里以驱动精灵为例,安装后对电脑驱动进行查找,将声卡驱动安装或者升级即可电脑重装系统后没有声音可能是因为系统驱动程序没...

移动硬盘读不出(移动硬盘读不出来如何修复)

方法一1、首先右键此电脑,打开“管理”2、接着进入左边的“磁盘管理”3、然后右键“磁盘1”下的磁盘,点击“更改驱动器号和路径”4、随后在其中“更改”一下驱动器号,如果没有现成的就“添加”一个。5、设置...

2025十佳笔记本排行(2021年十大最佳笔记本)

2021年,笔记本电脑用什么CPU最好用?当然是艾灸系列最新12代的CPU最好用,也需要根据他的具体配置搭配什么样的主板和显卡,按成熟度来说,还是选择次心大的笔记本CPU比较好,因为硬件搭配也是202...

老式台式机怎么装m2固态硬盘
  • 老式台式机怎么装m2固态硬盘
  • 老式台式机怎么装m2固态硬盘
  • 老式台式机怎么装m2固态硬盘
  • 老式台式机怎么装m2固态硬盘
手机谷歌浏览器(手机谷歌浏览器怎么关闭无痕模式)

使用手机chrome方法:1、打开手机上的谷歌浏览器2、点击打开后,找到右上角的三个小点,点开它,会看到“设置”3、点开设置,然后会出现“搜索引擎”4、点开“搜索引擎”然后选择“搜狗”。5、然后一步步...

千兆网对路由器有要求吗(千兆路由器对无线有用吗)

回答:虽然不是必须,但是建议采用千兆路由器。只有使用千兆路由器,才能达到1000M光纤的最高网速。当使用旧的百兆路由器情况下,千兆带宽只能达到百兆网速。不能充分利用带宽,这样对您的千兆互联网光纤带宽...

取消回复欢迎 发表评论: