使用 python FastAPI 和 Docker 进行 AI 模型部署
off999 2024-10-14 12:05 43 浏览 0 评论
我们将通过构建一个 FastAPI 应用程序,将之前存储的模型提供服务。这使我们能够创建一个可以全球访问的预测服务!
什么是 API?
API 就像一座桥。当你与 Python 中的库进行交互时,你正在使用它的 API。它是你可以与之互动的应用程序的公共部分,而其背后的所有内容都是隐藏的。
API 通常用于与 Web 应用程序进行通信,并提供一组返回数据的 URL(你发送带有某些参数的请求,并收到响应)。通常,数据以 JSON 或 XML 等格式返回,这些格式易于解析。这与返回 HTML 的网站不同,后者包含用于渲染页面的信息。使用 API,你只会获得原始数据。
有些 API 是公开的,而另一些是私有的。在构建 API 时,你决定共享哪些数据、如何共享以及与谁共享。一切都由你决定!大多数 API 使用 HTTP 协议进行通信。你可能听说过 REST API,它遵循一种通用标准。主要的 HTTP 方法包括:
- GET: 检索数据。
- POST: 提交新数据。
- PUT: 更新现有数据。
- DELETE: 删除数据。
这些方法形成了几乎所有 API 遵循的 CRUD(创建、读取、更新、删除)操作。
如何请求 API?
现在我们知道 API 是什么,让我们尝试调用一个。我们将使用 Cat Facts API,它以 JSON 格式返回随机的猫事实。
API 附带文档,解释可用的端点和参数。端点是请求数据的地址(你 URL 中的路径)。阅读文档是至关重要的,因为它可以节省你后续的时间。
以下是使用 Python 的 requests 库调用 Cat Facts API 的 /fact 端点的快速示例:
import requests
response = requests.get("https://catfact.ninja/fact").json()
print(response)
这个有趣的 API 以 JSON 格式返回关于猫的随机事实:
{'fact': 'Cats lap liquid from the underside of their tongue, not from the top.', 'length': 69}
使用 requests 库可以帮助你使用 API,但如果你想构建一个 API 呢?这就是 FastAPI 的用武之地。它是构建 API 的最佳框架之一。
FastAPI 基础
有很多 Python 框架可以用于构建 API,但在本教程中,我选择了 FastAPI。它是构建 API 最佳和最简单的框架之一,具有许多方便的功能,因此你无需重新发明轮子:
- Web 服务器: FastAPI 使用 Uvicorn 为你设置一个 Web 服务器。
- 数据验证: 它使用 Pydantic 自动验证数据格式。
- 自动文档: FastAPI 自动生成 API 文档,使开发者轻松使用。
FastAPI Python 文件的基本结构
当你使用 FastAPI 构建 API 时,你的 .py 文件将具有如下特定结构:
import uvicorn
from fastapi import FastAPI
###
# 在这里你可以定义一些配置
###
app = FastAPI()
###
# 在这里定义端点
###
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- app = FastAPI(): 这创建了一个 FastAPI 的实例,将保存你应用程序的所有功能。
- if name=="main": 这确保代码块仅在直接执行此文件时运行,而不是作为模块导入时运行。
- uvicorn.run(app, host="0.0.0.0", port=8000): 这启动 Uvicorn Web 服务器,指定主机 IP 和端口。
创建端点
端点是 API 用户可以请求或发送数据的 URL。我们有两种主要类型:
- GET: 用于检索数据。
- POST: 用于发送新数据。
让我们从最简单的 GET 端点 / 开始,它将显示一条问候消息:
import uvicorn
from fastapi import FastAPI
app = FastAPI()
@app.get("/")
async def index():
return {"message": "欢迎使用 Iris 分类 API。使用 `/predict` 来分类花卉。"}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- @app.get(“/”): 这个装饰器定义了当 GET 请求发送到 / 端点时,将调用 index() 函数。
- async: FastAPI 允许异步操作。异步函数让你能够更高效地处理请求,特别是在处理输入/输出任务(如数据库查询)时。
让我们添加一个 POST 端点来提交数据:
import uvicorn
from fastapi import FastAPI
from pydantic import BaseModel
app = FastAPI()
class Name(BaseModel):
name: str
@app.post("/submit")
async def submit_name(data: Name):
return {"message": f"你好, {data.name}!"}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- 这个 POST 端点接受用户输入的数据。并不是所有的 API 都接受来自用户的数据,但当它们接受时,数据需要具有特定的结构,这在 Name(BaseModel) 类中定义。
使用 Docker 运行 API
为什么使用 Docker?使用 Docker,你无需在本地机器上安装依赖项。一切都在容器中运行,便于移植和部署。如果你不熟悉 Docker,请查看我之前的文章 Docker 初学者指南。
步骤 1:创建 Dockerfile
要部署 FastAPI 应用程序,我们首先创建一个 Dockerfile:
# 从 Docker Hub 获取 Python 基础镜像
FROM python:3.9-slim
RUN apt-get update -y
RUN apt-get install nano unzip
RUN apt-get install -y python3.10
RUN apt install curl -y
RUN curl -fsSL https://get.deta.dev/cli.sh | sh
# 设置工作目录
WORKDIR /app
# 将当前目录的内容复制到容器的 /app 中
COPY . /app
# 安装 requirements.txt 中指定的 Python 依赖项
RUN pip install --no-cache-dir -r requirements.txt
# 暴露 uvicorn 将在其上运行应用程序的端口
ENV PORT=8000
EXPOSE 8000
# 执行命令 python main.py(在工作目录中)以启动应用程序
# CMD ["python", "api.py"]
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "8000"]
- 这个 Dockerfile 安装所有依赖项,设置工作目录,并使用 Gunicorn 和 Uvicorn 运行应用程序。requirements.txt 文件将包含所需的 Python 包,如 FastAPI、Uvicorn 等。
步骤 2:构建和运行 Docker 容器
构建 Docker 镜像:
docker build . -t fastapiserver
# 如果你在 Mac 上,使用:
# docker build --platform=linux/amd64 -t fastapiserver
运行 Docker 容器:
docker run -it -v "$(pwd):/app" -p 8000:8000 -e PORT=8000 fastapiserver
一旦运行,打开浏览器并访问 http://0.0.0.0:8000。你应该看到你的 FastAPI 应用程序正在运行!
作者提供
创建一个端点来提供 ML 模型
现在,让我们将 MLflow 模型集成到 FastAPI 中。首先,确保你已在本地安装 MLflow 和相应的 Python 库。
在我们的 API 中,我们将创建一个 predict 端点,用户可以通过 POST 请求将数据发送到此端点以获取模型的预测结果。
首先,创建一个新的文件 model.py,内容如下:
import mlflow
import mlflow.sklearn
# 加载模型
model = mlflow.sklearn.load_model("models:/IrisClassifier/production")
def predict(data):
return model.predict(data)
然后,将以下代码添加到 api.py 中:
from fastapi import FastAPI
from pydantic import BaseModel
from model import predict
app = FastAPI()
class Flower(BaseModel):
sepal_length: float
sepal_width: float
petal_length: float
petal_width: float
@app.post("/predict")
async def classify_flower(data: Flower):
flower_data = [[data.sepal_length, data.sepal_width, data.petal_length, data.petal_width]]
prediction = predict(flower_data)
return {"prediction": prediction[0]}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
测试 API
你现在可以使用 curl 命令或工具(如 Postman 或 Insomnia)发送 POST 请求以测试你的 API。以下是使用 curl 的示例:
curl -X POST "http://localhost:8000/predict" -H "Content-Type: application/json" -d '{"sepal_length": 5.1, "sepal_width": 3.5, "petal_length": 1.4, "petal_width": 0.2}'
你应该会得到类似以下内容的响应:
{"prediction": "setosa"}
使用 Azure 部署 API
为了让 API 全球可用,我们可以使用 Azure 部署它。你需要拥有一个 Azure 账户。
步骤 1:创建 Azure Web 应用
- 登录到 Azure 门户。
- 创建一个新的 Web 应用。
- 选择适当的订阅和资源组。
- 选择 Linux 操作系统。
- 为你的应用选择 Docker 选项。
步骤 2:将代码推送到 Azure
Azure 为你的 Web 应用提供了 Git URL,使用此 URL 将代码推送到 Azure:
git remote add azure <Azure_Git_URL>
git push azure master
步骤 3:配置环境变量
在 Azure 门户中,转到你的 Web 应用并设置环境变量(如 PORT)以匹配 FastAPI 应用中的配置。
步骤 4:测试 Azure 上的 API
在 Azure 上启动 API 后,你应该能够访问 API 的 URL,并根据先前的示例进行测试。
结论
在本指南中,我们学习了如何使用 FastAPI 构建 API,使用 Docker 运行 API,并将 API 部署到 Azure。你现在可以为你的机器学习模型创建 REST API,轻松进行全球访问。希望这对你有所帮助!
相关推荐
- 安全教育登录入口平台(安全教育登录入口平台官网)
-
122交通安全教育怎么登录:122交通网的注册方法是首先登录网址http://www.122.cn/,接着打开网页后,点击右上角的“个人登录”;其次进入邮箱注册,然后进入到注册页面,输入相关信息即可完...
- 大鱼吃小鱼经典版(大鱼吃小鱼经典版(经典版)官方版)
-
大鱼吃小鱼小鱼吃虾是于谦跟郭麒麟的《我的棒儿呢?》郭德纲说于思洋郭麒麟作诗的相声,最后郭麒麟做了一首,师傅躺在师母身上大鱼吃小鱼小鱼吃虾虾吃水水落石出师傅压师娘师娘压床床压地地动山摇。...
-
- 哪个软件可以免费pdf转ppt(免费的pdf转ppt软件哪个好)
-
要想将ppt免费转换为pdf的话,我们建议大家可以下一个那个wps,如果你是会员的话,可以注册为会员,这样的话,在wps里面的话,就可以免费将ppt呢转换为pdfpdf之后呢,我们就可以直接使用,不需要去直接不需要去另外保存,为什么格式转...
-
2026-02-04 09:03 off999
- 电信宽带测速官网入口(电信宽带测速官网入口app)
-
这个网站看看http://www.swok.cn/pcindex.jsp1.登录中国电信网上营业厅,宽带光纤,贴心服务,宽带测速2.下载第三方软件,如360等。进行在线测速进行宽带测速时,尽...
- 植物大战僵尸95版手机下载(植物大战僵尸95 版下载)
-
1可以在应用商店或者游戏平台上下载植物大战僵尸95版手机游戏。2下载教程:打开应用商店或者游戏平台,搜索“植物大战僵尸95版”,找到游戏后点击下载按钮,等待下载完成即可安装并开始游戏。3注意:确...
- 免费下载ppt成品的网站(ppt成品免费下载的网站有哪些)
-
1、Chuangkit(chuangkit.com)直达地址:chuangkit.com2、Woodo幻灯片(woodo.cn)直达链接:woodo.cn3、OfficePlus(officeplu...
- 2025世界杯赛程表(2025世界杯在哪个国家)
-
2022年卡塔尔世界杯赛程公布,全部比赛在卡塔尔境内8座球场举行,2022年,决赛阶段球队全部确定。揭幕战于当地时间11月20日19时进行,由东道主卡塔尔对阵厄瓜多尔,决赛于当地时间12月18日...
- 下载搜狐视频电视剧(搜狐电视剧下载安装)
-
搜狐视频APP下载好的视频想要导出到手机相册里方法如下1、打开手机搜狐视频软件,进入搜狐视频后我们点击右上角的“查找”,找到自已喜欢的视频。2、在“浏览器页面搜索”窗口中,输入要下载的视频的名称,然后...
- 永久免费听歌网站(丫丫音乐网)
-
可以到《我爱音乐网》《好听音乐网》《一听音乐网》《YYMP3音乐网》还可以到《九天音乐网》永久免费听歌软件有酷狗音乐和天猫精灵,以前要跳舞经常要下载舞曲,我从QQ上找不到舞曲下载就从酷狗音乐上找,大多...
- 音乐格式转换mp3软件(音乐格式转换器免费版)
-
有两种方法:方法一在手机上操作:1、进入手机中的文件管理。2、在其中选择“音乐”,将显示出手机中的全部音乐。3、点击“全选”,选中所有音乐文件。4、点击屏幕右下方的省略号图标,在弹出菜单中选择“...
- 电子书txt下载(免费的最全的小说阅读器)
-
1.Z-library里面收录了近千万本电子书籍,需求量大。2.苦瓜书盘没有广告,不需要账号注册,使用起来非常简单,直接搜索预览下载即可。3.鸠摩搜书整体风格简洁清晰,书籍资源丰富。4.亚马逊图书书籍...
- 最好免费观看高清电影(播放免费的最好看的电影)
-
在目前的网上选择中,IMDb(互联网电影数据库)被认为是最全的电影网站之一。这个网站提供了各种类型的电影和电视节目的海量信息,包括剧情介绍、演员表、评价、评论等。其还提供了有关电影制作背后的详细信息,...
- 孤单枪手2简体中文版(孤单枪手2简体中文版官方下载)
-
要将《孤胆枪手2》游戏的征兵秘籍切换为中文,您可以按照以下步骤进行操作:首先,打开游戏设置选项,通常可以在游戏主菜单或游戏内部找到。然后,寻找语言选项或界面选项,点击进入。在语言选项中,选择中文作为游...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
