百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

使用 python FastAPI 和 Docker 进行 AI 模型部署

off999 2024-10-14 12:05 33 浏览 0 评论

我们将通过构建一个 FastAPI 应用程序,将之前存储的模型提供服务。这使我们能够创建一个可以全球访问的预测服务!

什么是 API?

API 就像一座桥。当你与 Python 中的库进行交互时,你正在使用它的 API。它是你可以与之互动的应用程序的公共部分,而其背后的所有内容都是隐藏的。

API 通常用于与 Web 应用程序进行通信,并提供一组返回数据的 URL(你发送带有某些参数的请求,并收到响应)。通常,数据以 JSON 或 XML 等格式返回,这些格式易于解析。这与返回 HTML 的网站不同,后者包含用于渲染页面的信息。使用 API,你只会获得原始数据。

有些 API 是公开的,而另一些是私有的。在构建 API 时,你决定共享哪些数据、如何共享以及与谁共享。一切都由你决定!大多数 API 使用 HTTP 协议进行通信。你可能听说过 REST API,它遵循一种通用标准。主要的 HTTP 方法包括:

  • GET: 检索数据。
  • POST: 提交新数据。
  • PUT: 更新现有数据。
  • DELETE: 删除数据。

这些方法形成了几乎所有 API 遵循的 CRUD(创建、读取、更新、删除)操作。

如何请求 API?

现在我们知道 API 是什么,让我们尝试调用一个。我们将使用 Cat Facts API,它以 JSON 格式返回随机的猫事实。

API 附带文档,解释可用的端点和参数。端点是请求数据的地址(你 URL 中的路径)。阅读文档是至关重要的,因为它可以节省你后续的时间。

以下是使用 Python 的 requests 库调用 Cat Facts API 的 /fact 端点的快速示例:

import requests
response = requests.get("https://catfact.ninja/fact").json()
print(response)

这个有趣的 API 以 JSON 格式返回关于猫的随机事实:

{'fact': 'Cats lap liquid from the underside of their tongue, not from the top.', 'length': 69}

使用 requests 库可以帮助你使用 API,但如果你想构建一个 API 呢?这就是 FastAPI 的用武之地。它是构建 API 的最佳框架之一。

FastAPI 基础

有很多 Python 框架可以用于构建 API,但在本教程中,我选择了 FastAPI。它是构建 API 最佳和最简单的框架之一,具有许多方便的功能,因此你无需重新发明轮子:

  • Web 服务器: FastAPI 使用 Uvicorn 为你设置一个 Web 服务器。
  • 数据验证: 它使用 Pydantic 自动验证数据格式。
  • 自动文档: FastAPI 自动生成 API 文档,使开发者轻松使用。

FastAPI Python 文件的基本结构

当你使用 FastAPI 构建 API 时,你的 .py 文件将具有如下特定结构:

import uvicorn
from fastapi import FastAPI

###
# 在这里你可以定义一些配置
###

app = FastAPI()

###
# 在这里定义端点
###

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • app = FastAPI(): 这创建了一个 FastAPI 的实例,将保存你应用程序的所有功能。
  • if name=="main": 这确保代码块仅在直接执行此文件时运行,而不是作为模块导入时运行。
  • uvicorn.run(app, host="0.0.0.0", port=8000): 这启动 Uvicorn Web 服务器,指定主机 IP 和端口。

创建端点

端点是 API 用户可以请求或发送数据的 URL。我们有两种主要类型:

  1. GET: 用于检索数据。
  2. POST: 用于发送新数据。

让我们从最简单的 GET 端点 / 开始,它将显示一条问候消息:

import uvicorn
from fastapi import FastAPI

app = FastAPI()

@app.get("/")
async def index():
    return {"message": "欢迎使用 Iris 分类 API。使用 `/predict` 来分类花卉。"}
    
if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • @app.get(“/”): 这个装饰器定义了当 GET 请求发送到 / 端点时,将调用 index() 函数。
  • async: FastAPI 允许异步操作。异步函数让你能够更高效地处理请求,特别是在处理输入/输出任务(如数据库查询)时。

让我们添加一个 POST 端点来提交数据:

import uvicorn
from fastapi import FastAPI
from pydantic import BaseModel

app = FastAPI()

class Name(BaseModel):
    name: str

@app.post("/submit")
async def submit_name(data: Name):
    return {"message": f"你好, {data.name}!"}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)
  • 这个 POST 端点接受用户输入的数据。并不是所有的 API 都接受来自用户的数据,但当它们接受时,数据需要具有特定的结构,这在 Name(BaseModel) 类中定义。

使用 Docker 运行 API

为什么使用 Docker?使用 Docker,你无需在本地机器上安装依赖项。一切都在容器中运行,便于移植和部署。如果你不熟悉 Docker,请查看我之前的文章 Docker 初学者指南。

步骤 1:创建 Dockerfile

要部署 FastAPI 应用程序,我们首先创建一个 Dockerfile:

# 从 Docker Hub 获取 Python 基础镜像
FROM python:3.9-slim

RUN apt-get update -y 
RUN apt-get install nano unzip
RUN apt-get install -y python3.10
RUN apt install curl -y

RUN curl -fsSL https://get.deta.dev/cli.sh | sh

# 设置工作目录
WORKDIR /app

# 将当前目录的内容复制到容器的 /app 中
COPY . /app

# 安装 requirements.txt 中指定的 Python 依赖项
RUN pip install --no-cache-dir -r requirements.txt

# 暴露 uvicorn 将在其上运行应用程序的端口
ENV PORT=8000
EXPOSE 8000

# 执行命令 python main.py(在工作目录中)以启动应用程序
# CMD ["python", "api.py"]
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "8000"]
  • 这个 Dockerfile 安装所有依赖项,设置工作目录,并使用 Gunicorn 和 Uvicorn 运行应用程序。requirements.txt 文件将包含所需的 Python 包,如 FastAPI、Uvicorn 等。

步骤 2:构建和运行 Docker 容器

构建 Docker 镜像:

docker build . -t fastapiserver
# 如果你在 Mac 上,使用:
# docker build --platform=linux/amd64 -t fastapiserver

运行 Docker 容器:

docker run -it -v "$(pwd):/app" -p 8000:8000 -e PORT=8000 fastapiserver

一旦运行,打开浏览器并访问 http://0.0.0.0:8000。你应该看到你的 FastAPI 应用程序正在运行!

作者提供

创建一个端点来提供 ML 模型

现在,让我们将 MLflow 模型集成到 FastAPI 中。首先,确保你已在本地安装 MLflow 和相应的 Python 库。

在我们的 API 中,我们将创建一个 predict 端点,用户可以通过 POST 请求将数据发送到此端点以获取模型的预测结果。

首先,创建一个新的文件 model.py,内容如下:

import mlflow
import mlflow.sklearn

# 加载模型
model = mlflow.sklearn.load_model("models:/IrisClassifier/production")

def predict(data):
    return model.predict(data)

然后,将以下代码添加到 api.py 中:

from fastapi import FastAPI
from pydantic import BaseModel
from model import predict

app = FastAPI()

class Flower(BaseModel):
    sepal_length: float
    sepal_width: float
    petal_length: float
    petal_width: float

@app.post("/predict")
async def classify_flower(data: Flower):
    flower_data = [[data.sepal_length, data.sepal_width, data.petal_length, data.petal_width]]
    prediction = predict(flower_data)
    return {"prediction": prediction[0]}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)

测试 API

你现在可以使用 curl 命令或工具(如 Postman 或 Insomnia)发送 POST 请求以测试你的 API。以下是使用 curl 的示例:

curl -X POST "http://localhost:8000/predict" -H "Content-Type: application/json" -d '{"sepal_length": 5.1, "sepal_width": 3.5, "petal_length": 1.4, "petal_width": 0.2}'

你应该会得到类似以下内容的响应:

{"prediction": "setosa"}

使用 Azure 部署 API

为了让 API 全球可用,我们可以使用 Azure 部署它。你需要拥有一个 Azure 账户。

步骤 1:创建 Azure Web 应用

  1. 登录到 Azure 门户。
  2. 创建一个新的 Web 应用
  3. 选择适当的订阅和资源组。
  4. 选择 Linux 操作系统。
  5. 为你的应用选择 Docker 选项。

步骤 2:将代码推送到 Azure

Azure 为你的 Web 应用提供了 Git URL,使用此 URL 将代码推送到 Azure:

git remote add azure <Azure_Git_URL>
git push azure master

步骤 3:配置环境变量

在 Azure 门户中,转到你的 Web 应用并设置环境变量(如 PORT)以匹配 FastAPI 应用中的配置。

步骤 4:测试 Azure 上的 API

在 Azure 上启动 API 后,你应该能够访问 API 的 URL,并根据先前的示例进行测试。

结论

在本指南中,我们学习了如何使用 FastAPI 构建 API,使用 Docker 运行 API,并将 API 部署到 Azure。你现在可以为你的机器学习模型创建 REST API,轻松进行全球访问。希望这对你有所帮助!

相关推荐

戴尔官网保修查询入口(戴尔售后保质期查询)

可以按照以下步骤查询戴尔笔记本电脑的保修期:1.打开戴尔官网:https://www.戴尔.com/zh-cn/售后服务/保修政策.html2.点击页面上方的“服务与支持”按钮,进入戴尔的服务支持...

手机号邮箱登录入口(手机号邮箱官网)

手机163邮箱登录入口如下:163邮箱官网入口:https://smart.mail.163.com/login.htm点击进入登录或者注册邮箱即可。手机浏览器访问进入官网http://www.123...

sd卡(sd卡无法读取怎么修复)

  SD卡是大卡,相机用的;普通的手机内存卡,是小卡,正规的名称是macrosd卡,也就是微型SD卡。可以通过卡套转为普通的SD卡的大小。  其实就是大小不同。但手机上的内存卡,人们经常也俗称为SD...

路由器连接图(网络路由器连接图)
  • 路由器连接图(网络路由器连接图)
  • 路由器连接图(网络路由器连接图)
  • 路由器连接图(网络路由器连接图)
  • 路由器连接图(网络路由器连接图)
windows7蓝牙功能在哪里打开

点击搜索框在windows7系统主界面点击开始菜单,点击打开搜索框。输入命令输入services.msc后回车,在列表中找到并右击BluetoothSupportS...点击属性选择进入属性菜单,...

2010激活密钥(microsoft2010激活密钥)
2010激活密钥(microsoft2010激活密钥)

步骤/方式1officeprofessionalplus2010:(office专业版)6QFdx-pYH2G-ppYFd-C7RJM-BBKQ8Bdd3G-xM7FB-Bd2HM-YK63V-VQFdKVYBBJ-TRJpB-QFQ...

2025-11-19 04:03 off999

联想官方刷新bios工具(联想电脑刷新bios)

刷新BIOS需要使用联想的官方网站或授权维修中心来进行操作。以下是一些基本步骤:1.访问联想的官方网站,找到BIOS更新程序并下载。在下载过程中,请确保选择与您计算机型号匹配的版本。2.将下载的B...

苹果ios14系统下载(苹果ios14.1下载)
苹果ios14系统下载(苹果ios14.1下载)

1方法一步骤/方式一打开Appstore。步骤/方式二在搜索栏点击搜索框。步骤/方式三搜索并点击需要下载的软件。步骤/方式四点击获取。步骤/方式五最后验证ID密码即可。1.在应用商店搜索你要下载的应用名称。2.点击下载按钮,如果要求登...

2025-11-19 03:03 off999

office2010怎么免费永久激活密钥

用这个试试,一个KMS激活工具可以激活2010到2019的Office自家的目前用的就是这个microsoft6477.moe/1716.html直接使用这个Microsoftoffice2010...

类似爱加速的国内ip(类似爱加速的app)
类似爱加速的国内ip(类似爱加速的app)

推荐“V8盒子”。这一款免费无广告的模拟器,不同于其它软件盒子,而是类似于X8沙箱,满足游戏多开,画中画,悬浮球操作,熄屏后台运行等多功能的沙箱盒子.支持一键root,一键安装xposed框架,能在安卓/苹果手机上运行多个安卓/ios虚拟系...

2025-11-19 02:03 off999

阿里旺旺手机客户端(阿里旺旺手机app)

手机淘宝的旺旺在打开商品后,会看到左下角有个旺旺的图标,点击就可以联系了。  阿里旺旺是将原先的淘宝旺旺与阿里巴巴贸易通整合在一起的一个新品牌。它是淘宝和阿里巴巴为商人量身定做的免费网上商务沟通软件,...

最纯净的pe装机工具(pe工具哪个纯净)

U盘装系统步骤:1.制作U盘启动盘。这里推荐大白菜U盘启动盘制作工具,在网上一搜便是。2.U盘启动盘做好了,我们还需要一个GHOST文件,可以从网上下载一个ghost版的XP/WIN7/WIN8系统,...

装一个erp系统多少钱(wms仓库管理软件)

现在主流有客户端ERP和云端ERP两种客户端通常一次买断,价格在万元左右,但是还有隐性费用,你需要支付服务器、数据管理员,此外如果系统需要更新维护,你还需要支付另外一笔不菲的费用。云端ERP:优势...

cad2014序列号和密钥永久(autocad2014序列号和密钥)

1在cad2014中修改标注样式后,需要将其保存2单击“样式管理器”按钮,在弹出的窗口中选择修改后的标注样式,然后单击“设置为当前”按钮,再单击“保存当前样式”按钮,将其保存为新的样式名称3为了...

qq修改密保手机号(qq修改密保手机号是什么意思)

QQ更改绑定的手机号码操作步骤如下:1、打开手机主界面,找到“QQ”软件点击打开。2、输入正确的QQ账户和密码登录到qq主界面。3、点击左上角的头像“图片”,进入到个人中心界面。4、进入到个人中心界面...

取消回复欢迎 发表评论: