Python的福音!教你激活苹果本的显卡来搞深度学习
off999 2024-10-23 12:42 19 浏览 0 评论
PlaidML 是您的不二之选
想在 Mac 的集成 AMD GPU 或外置显卡上训练机器学习模型?
任何尝试在 macOS 上使用 TensorFlow 训练神经网络的人都知道这个过程有点糟糕。TensorFlow 只能在 Mac 上利用 CPU,因为 GPU 加速训练需要 Nvidia 芯片组。大多数大型模型在 CPU 上的训练时间比在简单的 GPU 上多几个数量级。
更糟糕的是,许多 Mac 拥有功能强大的谨慎 AMD GPU,在训练时被迫闲置。TensorFlow 仅支持与 macOS 不兼容的 Nvidia 设备。这就是 plaidML 的用武之地。您可以安装 PlaidML 并使用它直接在 Mac 的图形处理器上训练 Keras 模型,而不是在基于云的系统上支付时间或购买新机器。
为什么是PlaidML
TensorFlow 作为 Keras 的后端,解释 Keras 的高级 Python 语法并将其转换为可以在 GPU 等专用硬件上并行执行的指令。
PlaidML 是 Keras 的替代后端,支持除 Nvidia 的 CUDA 之外的并行化框架。在 Mac 上,您可以使用 PlaidML 在 CPU、CPU 的集成显卡、谨慎的 AMD 图形处理器,甚至是通过 Thunderbolt 3 连接的外部 AMD GPU 上训练 Keras 模型。
我最初开始使用 PlaidML 是因为我正在寻找一种在非常大的图像数据集上训练深度卷积神经网络的方法。我尝试在 Google 的 Colab 中执行此操作,但事实证明,在线工具对于长时间运行的工作非常令人沮丧。我有一个 Radeon RX580 eGPU闲置吃灰,所以想要一种方法来使用激活 MacBook的显卡来进行 本地训练模型。
安装
虽然 PlaidML 可以用 Python2 运行,但我们推荐 Python3,以及明智地使用Virtualenv。为使用 PlaidML 创建一个:
python3 -m venv plaidml-venv
source plaidml-venv/bin/activate
keras
要使用 Keras 安装 PlaidML,请运行以下命令:
pip install -U plaidml-keras
最后,设置 PlaidML 以使用首选计算设备:
plaidml-setup
现在应该安装 PlaidML!您可以通过在运行MobileNet测试安装plaidbench。
pip install plaidml-keras plaidbench
plaidbench keras mobilenet
快速设置
几个快速步骤后,我开始使用 PlaidML。以下是如何在您的系统上使用它。首先, 通过 pip 安装 PlaidML。我强烈建议在此处使用虚拟环境将您的 PlaidML 安装与系统的其余部分隔离开来。
PlaidML 的强大之处在于其简单性。安装后,激活您的 GPU 就像运行一样简单
plaidml-setup
选择是否要启用实验性功能后,此工具会询问您要使用哪种计算设备。您应该会看到如下所示的列表:
1 : llvm_cpu.0
2 : metal_intel(r)_hd_graphics_530.0
3 : metal_amd_radeon_pro_450.0
4 : metal_amd_radeon_rx_580.0
第一个选项是我的 CPU,第二个是我 CPU 中的 Intel 集成显卡,第三个选项是我的 15" MacBook Pro 中谨慎的 AMD GPU,第四个选项是我的 RX 580 eGPU。我非常喜欢它是多么简单切换处理器;这使我可以使用笔记本电脑的谨慎 GPU 随时随地训练简单模型,并使用 eGPU 执行更重的任务。
唯一需要注意的是,您无法再访问 TensorFlow 功能,例如 TensorFlow 数据集。您编写的所有代码都需要使用纯 Keras。我还没有发现这是一个很大的限制,无论如何它会导致更便携的软件。PlaidML 也适用于 Nvidia GPU,所以如果你在一个使用不同 GPU 架构的团队工作,PlaidML 会让事情变得非常简单。使用 PlaidML 作为 Keras 的后端非常简单,如下所示:
from os import environ
environ["KERAS_BACKEND"] = "plaidml.keras.backend"
import keras
这就是字面上的意思。下面是一个完整的示例,您可以在安装 PlaidML 后在自己的系统上尝试。它训练一个非常简单的神经网络,其中包含一个对输入向量求和的隐藏层。
import numpy as np
from os import environ
environ["KERAS_BACKEND"] = "plaidml.keras.backend"
import keras
from keras.layers import Dense
from matplotlib import pyplot as plt
# Params
num_samples = 100000; vect_len = 20; max_int = 10; min_int = 1;
# Generate dataset
X = np.random.randint(min_int, max_int, (num_samples, vect_len))
Y = np.sum(X, axis=1)
# Get 80% of data for training
split_idx = int(0.8 * len(Y))
train_X = X[:split_idx, :]; test_X = X[split_idx:, :]
train_Y = Y[:split_idx]; test_Y = Y[split_idx:]
# Make model
model = keras.models.Sequential()
model.add(keras.layers.Dense(32, activation='relu', input_shape=(vect_len,)))
model.add(keras.layers.Dense(1))
model.compile('adam', 'mse')
history = model.fit(train_X, train_Y, validation_data=(test_X, test_Y), \
epochs=10, batch_size=100)
# summarize history
plt.plot(history.history['loss'])
plt.plot(history.history['val_loss'])
plt.title('model loss')
plt.ylabel('loss')
plt.xlabel('epoch')
plt.legend(['train', 'test'], loc='upper left')
plt.show()
执行结果如图:
后记
您可以在不同的计算设备上尝试此操作。您可能会发现在您的 CPU 上训练此模型更快,因为数据集非常小且模型非常简单。但是,对于更复杂的模型,您会注意到显着的加速。您可以在PlaidML GitHub 页面上找到更深入的测试 。
相关推荐
- python入门到脱坑经典案例—清空列表
-
在Python中,清空列表是一个基础但重要的操作。clear()方法是最直接的方式,但还有其他方法也可以实现相同效果。以下是详细说明:1.使用clear()方法(Python3.3+推荐)...
- python中元组,列表,字典,集合删除项目方式的归纳
-
九三,君子终日乾乾,夕惕若,厉无咎。在使用python过程中会经常遇到这四种集合数据类型,今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表(List)是一种有序和可更改的集合。允许重复...
- Linux 下海量文件删除方法效率对比,最慢的竟然是 rm
-
Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...
- 数据结构与算法——链式存储(链表)的插入及删除,
-
持续分享嵌入式技术,操作系统,算法,c语言/python等,欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法,本篇我们主要将一下链表的插入删除操作,以及采用堆栈方式如何创建链表。链...
- Python自动化:openpyxl写入数据,插入删除行列等基础操作
-
importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...
- 在Linux下软件的安装与卸载(linux里的程序的安装与卸载命令)
-
通过apt安装/协助软件apt是AdvancedPackagingTool,是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式:安装软件:sudoapt...
- Python 批量卸载关联包 pip-autoremove
-
pip工具在安装扩展包的时候会自动安装依赖的关联包,但是卸载时只删除单个包,无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装:pipinsta...
- 用Python在Word文档中插入和删除文本框
-
在当今自动化办公需求日益增长的背景下,通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器,既能承载多模态信息(如文字、图像),又可实现独...
- Python 从列表中删除值的多种实用方法详解
-
#Python从列表中删除值的多种实用方法详解在Python编程中,列表(List)是一种常用的数据结构,具有动态可变的特性。当我们需要从列表中删除元素时,根据不同的场景(如按值删除、按索引删除、...
- Python 中的前缀删除操作全指南(python删除前导0)
-
1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除:#1.使用removeprefix()方法(Python3.9+)text="...
- 每天学点Python知识:如何删除空白
-
在Python中,删除空白可以分为几种不同的情况,常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白(空格、\t、\n等)使用.strip()方法:s...
- Linux系统自带Python2&yum的卸载及重装
-
写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时,需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时,少写了个3,不小心将系统自带的python2也...
- 如何使用Python将多个excel文件数据快速汇总?
-
在数据分析和处理的过程中,Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例,展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据,并最终生成一个包含...
- 【第三弹】用Python实现Excel的vlookup功能
-
今天继续用pandas实现Excel的vlookup功能,假设我们的2个表长成这样:我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说,先上代码:importpandasaspd...
- python中pandas读取excel单列及连续多列数据
-
案例:想获取test.xls中C列、H列以后(当H列后列数未知时)的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)