百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

使用 python FastAPI 和 Docker 进行 AI 模型部署

off999 2024-10-14 12:05 40 浏览 0 评论

我们将通过构建一个 FastAPI 应用程序,将之前存储的模型提供服务。这使我们能够创建一个可以全球访问的预测服务!

什么是 API?

API 就像一座桥。当你与 Python 中的库进行交互时,你正在使用它的 API。它是你可以与之互动的应用程序的公共部分,而其背后的所有内容都是隐藏的。

API 通常用于与 Web 应用程序进行通信,并提供一组返回数据的 URL(你发送带有某些参数的请求,并收到响应)。通常,数据以 JSON 或 XML 等格式返回,这些格式易于解析。这与返回 HTML 的网站不同,后者包含用于渲染页面的信息。使用 API,你只会获得原始数据。

有些 API 是公开的,而另一些是私有的。在构建 API 时,你决定共享哪些数据、如何共享以及与谁共享。一切都由你决定!大多数 API 使用 HTTP 协议进行通信。你可能听说过 REST API,它遵循一种通用标准。主要的 HTTP 方法包括:

  • GET: 检索数据。
  • POST: 提交新数据。
  • PUT: 更新现有数据。
  • DELETE: 删除数据。

这些方法形成了几乎所有 API 遵循的 CRUD(创建、读取、更新、删除)操作。

如何请求 API?

现在我们知道 API 是什么,让我们尝试调用一个。我们将使用 Cat Facts API,它以 JSON 格式返回随机的猫事实。

API 附带文档,解释可用的端点和参数。端点是请求数据的地址(你 URL 中的路径)。阅读文档是至关重要的,因为它可以节省你后续的时间。

以下是使用 Python 的 requests 库调用 Cat Facts API 的 /fact 端点的快速示例:

import requests
response = requests.get("https://catfact.ninja/fact").json()
print(response)

这个有趣的 API 以 JSON 格式返回关于猫的随机事实:

{'fact': 'Cats lap liquid from the underside of their tongue, not from the top.', 'length': 69}

使用 requests 库可以帮助你使用 API,但如果你想构建一个 API 呢?这就是 FastAPI 的用武之地。它是构建 API 的最佳框架之一。

FastAPI 基础

有很多 Python 框架可以用于构建 API,但在本教程中,我选择了 FastAPI。它是构建 API 最佳和最简单的框架之一,具有许多方便的功能,因此你无需重新发明轮子:

  • Web 服务器: FastAPI 使用 Uvicorn 为你设置一个 Web 服务器。
  • 数据验证: 它使用 Pydantic 自动验证数据格式。
  • 自动文档: FastAPI 自动生成 API 文档,使开发者轻松使用。

FastAPI Python 文件的基本结构

当你使用 FastAPI 构建 API 时,你的 .py 文件将具有如下特定结构:

import uvicorn
from fastapi import FastAPI

###
# 在这里你可以定义一些配置
###

app = FastAPI()

###
# 在这里定义端点
###

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • app = FastAPI(): 这创建了一个 FastAPI 的实例,将保存你应用程序的所有功能。
  • if name=="main": 这确保代码块仅在直接执行此文件时运行,而不是作为模块导入时运行。
  • uvicorn.run(app, host="0.0.0.0", port=8000): 这启动 Uvicorn Web 服务器,指定主机 IP 和端口。

创建端点

端点是 API 用户可以请求或发送数据的 URL。我们有两种主要类型:

  1. GET: 用于检索数据。
  2. POST: 用于发送新数据。

让我们从最简单的 GET 端点 / 开始,它将显示一条问候消息:

import uvicorn
from fastapi import FastAPI

app = FastAPI()

@app.get("/")
async def index():
    return {"message": "欢迎使用 Iris 分类 API。使用 `/predict` 来分类花卉。"}
    
if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • @app.get(“/”): 这个装饰器定义了当 GET 请求发送到 / 端点时,将调用 index() 函数。
  • async: FastAPI 允许异步操作。异步函数让你能够更高效地处理请求,特别是在处理输入/输出任务(如数据库查询)时。

让我们添加一个 POST 端点来提交数据:

import uvicorn
from fastapi import FastAPI
from pydantic import BaseModel

app = FastAPI()

class Name(BaseModel):
    name: str

@app.post("/submit")
async def submit_name(data: Name):
    return {"message": f"你好, {data.name}!"}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)
  • 这个 POST 端点接受用户输入的数据。并不是所有的 API 都接受来自用户的数据,但当它们接受时,数据需要具有特定的结构,这在 Name(BaseModel) 类中定义。

使用 Docker 运行 API

为什么使用 Docker?使用 Docker,你无需在本地机器上安装依赖项。一切都在容器中运行,便于移植和部署。如果你不熟悉 Docker,请查看我之前的文章 Docker 初学者指南。

步骤 1:创建 Dockerfile

要部署 FastAPI 应用程序,我们首先创建一个 Dockerfile:

# 从 Docker Hub 获取 Python 基础镜像
FROM python:3.9-slim

RUN apt-get update -y 
RUN apt-get install nano unzip
RUN apt-get install -y python3.10
RUN apt install curl -y

RUN curl -fsSL https://get.deta.dev/cli.sh | sh

# 设置工作目录
WORKDIR /app

# 将当前目录的内容复制到容器的 /app 中
COPY . /app

# 安装 requirements.txt 中指定的 Python 依赖项
RUN pip install --no-cache-dir -r requirements.txt

# 暴露 uvicorn 将在其上运行应用程序的端口
ENV PORT=8000
EXPOSE 8000

# 执行命令 python main.py(在工作目录中)以启动应用程序
# CMD ["python", "api.py"]
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "8000"]
  • 这个 Dockerfile 安装所有依赖项,设置工作目录,并使用 Gunicorn 和 Uvicorn 运行应用程序。requirements.txt 文件将包含所需的 Python 包,如 FastAPI、Uvicorn 等。

步骤 2:构建和运行 Docker 容器

构建 Docker 镜像:

docker build . -t fastapiserver
# 如果你在 Mac 上,使用:
# docker build --platform=linux/amd64 -t fastapiserver

运行 Docker 容器:

docker run -it -v "$(pwd):/app" -p 8000:8000 -e PORT=8000 fastapiserver

一旦运行,打开浏览器并访问 http://0.0.0.0:8000。你应该看到你的 FastAPI 应用程序正在运行!

作者提供

创建一个端点来提供 ML 模型

现在,让我们将 MLflow 模型集成到 FastAPI 中。首先,确保你已在本地安装 MLflow 和相应的 Python 库。

在我们的 API 中,我们将创建一个 predict 端点,用户可以通过 POST 请求将数据发送到此端点以获取模型的预测结果。

首先,创建一个新的文件 model.py,内容如下:

import mlflow
import mlflow.sklearn

# 加载模型
model = mlflow.sklearn.load_model("models:/IrisClassifier/production")

def predict(data):
    return model.predict(data)

然后,将以下代码添加到 api.py 中:

from fastapi import FastAPI
from pydantic import BaseModel
from model import predict

app = FastAPI()

class Flower(BaseModel):
    sepal_length: float
    sepal_width: float
    petal_length: float
    petal_width: float

@app.post("/predict")
async def classify_flower(data: Flower):
    flower_data = [[data.sepal_length, data.sepal_width, data.petal_length, data.petal_width]]
    prediction = predict(flower_data)
    return {"prediction": prediction[0]}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)

测试 API

你现在可以使用 curl 命令或工具(如 Postman 或 Insomnia)发送 POST 请求以测试你的 API。以下是使用 curl 的示例:

curl -X POST "http://localhost:8000/predict" -H "Content-Type: application/json" -d '{"sepal_length": 5.1, "sepal_width": 3.5, "petal_length": 1.4, "petal_width": 0.2}'

你应该会得到类似以下内容的响应:

{"prediction": "setosa"}

使用 Azure 部署 API

为了让 API 全球可用,我们可以使用 Azure 部署它。你需要拥有一个 Azure 账户。

步骤 1:创建 Azure Web 应用

  1. 登录到 Azure 门户。
  2. 创建一个新的 Web 应用
  3. 选择适当的订阅和资源组。
  4. 选择 Linux 操作系统。
  5. 为你的应用选择 Docker 选项。

步骤 2:将代码推送到 Azure

Azure 为你的 Web 应用提供了 Git URL,使用此 URL 将代码推送到 Azure:

git remote add azure <Azure_Git_URL>
git push azure master

步骤 3:配置环境变量

在 Azure 门户中,转到你的 Web 应用并设置环境变量(如 PORT)以匹配 FastAPI 应用中的配置。

步骤 4:测试 Azure 上的 API

在 Azure 上启动 API 后,你应该能够访问 API 的 URL,并根据先前的示例进行测试。

结论

在本指南中,我们学习了如何使用 FastAPI 构建 API,使用 Docker 运行 API,并将 API 部署到 Azure。你现在可以为你的机器学习模型创建 REST API,轻松进行全球访问。希望这对你有所帮助!

相关推荐

下载本地歌曲免费(下载本地歌曲免费听)
  • 下载本地歌曲免费(下载本地歌曲免费听)
  • 下载本地歌曲免费(下载本地歌曲免费听)
  • 下载本地歌曲免费(下载本地歌曲免费听)
  • 下载本地歌曲免费(下载本地歌曲免费听)
内存清理大师(内存清理大师V1.2.6官方版)
内存清理大师(内存清理大师V1.2.6官方版)

1、打开手机清理大师应用APP2、点击扫描垃圾3、在弹出来的窗口点击清理垃圾4、最后即可清理完成在手机中设置里的通用里储存空间与iCloud进行清除。操作方法点开设置->通用->储存空间与iCloud用量点击储存空间-...

2026-01-23 17:03 off999

登录器下载安装(云端辅助登录器下载安装)

有其他的程序正在使用中,你电脑重新启动一次再删除dlq试试,或者把其他的程序都关了然后再重新安装一次再删除.祝你好运!!!!!!!!!!!!1国服的下载很简单,和当年CF、逆战的方式一样,我们直接...

下载拼音打字输入法(下载拼音汉字输入法)
下载拼音打字输入法(下载拼音汉字输入法)

你下载百度手机输入法,默认的就是双拼,可以自己选择26键拼音输入、右键单击桌面右下角的搜狗输入法工具条,将鼠标移到“软键盘”上,然后选择“拼音字母”即可使用这个功能。输入法使用技巧:1、输入法一般支持符号输入,可以右键单击候选框,之后点击“...

2026-01-23 16:43 off999

彩铃定制(彩铃定制流程)

演示品牌型号:联想拯救者R720;系统:Windows10;软件:Chrome88.0。1、用浏览器搜索定制手机彩铃,点击移动官网,进入后点击左上角登录,账户就是自己的手机号,密码就是在营业厅办理需要...

同他聊交友软件(他聊软件吗)

好他聊app一款优质便捷的单身男女在线互动交友平台,来他聊app遇见更多有趣有料的小伙伴,支持语音通话视频互动,更可以每日分享生活动态。他聊app你可以通过文字、语音、视频等多种方式与同城附近异性聊天...

360官方(360官方正版免费下载安装)

https://yunpan.360.cn/360云盘是奇虎360科技的分享式云存储服务产品。为广大普通网民提供了存储容量大、免费、安全、便携、稳定的跨平台文件存储、备份、传递和共享服务。360云盘是...

漫画全免费的看漫画软件下载
漫画全免费的看漫画软件下载

要是看动漫的话可以用迅雷看看或者PPTV,但是漫画的话4399小游戏里面就有漫画有漫画岛、漫画大全、爱漫画、腾讯动漫、大角虫、快看漫画、布卡漫画和微信读书。1、漫画岛:是一款适用于手机的热门漫画阅读软件。最全的二次元看漫画神器。分安卓版和...

2026-01-23 15:43 off999

360手机浏览器下载安装(360浏览器 手机 下载)
  • 360手机浏览器下载安装(360浏览器 手机 下载)
  • 360手机浏览器下载安装(360浏览器 手机 下载)
  • 360手机浏览器下载安装(360浏览器 手机 下载)
  • 360手机浏览器下载安装(360浏览器 手机 下载)
服务器品牌前十大排名(国产服务器品牌前十大排名)

品牌排名企业1.Dell戴尔2.Hewlett-Packard惠普3.IBMIBM4.NetApp美国网比较安全系统5.Hitachi日立6.Or...

mp3在线剪辑工具免费(mp3在线剪切软件下载)

风云音频处理大师风云音频处理大师是一款相当出色的专业化音频处理软件。小编使用比较多的也是风云音频处理大师,它的功能全面,能够帮助用户快速上手音频剪辑,还可以对音频的噪音进行降噪处理,对音频进行调速、拼...

photoshop怎么抠图(ps怎么抠出想要的部分)

首先用ps打开要抠的图片,然后鼠标点击菜单栏:选择-色彩范围2,吸管吸取要抠的水,这里要慢慢调节,选择水的最佳位置。选取后,鼠标点击确定3,这时候抠水的部分就被选中,我们就按键盘上的ctrl+j复制,...

中国电信测速平台(中国电信测速平台有哪些)

山东省电信测速网站的网址是http://10000.sd.cn/。这个网站可以测试山东电信宽带的网速,方便用户了解自己的网络状况。下载电信的宽带助手就可以,给你个网址链接http://gd.189.c...

12306列车时刻表查询最新(下载火车时刻表查询最新时刻表)

、铁路12306app查询打开手机12306软件,进到首页后,点击下方“我的”,点击左上方头像位置,进入登录/注册页面后,登录12306账号,进到首页面后,点击下方的“订单”,点击“本人车票”,就能看...

宇宙战舰类游戏(宇宙战舰类游戏排行榜)

亚顿之矛,可以帮星灵度过最危难的时刻船内休眠着一整支圣堂武士部队,74千米的长度内安置着一颗人造(星灵制造)恒星。

取消回复欢迎 发表评论: