百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

使用 python FastAPI 和 Docker 进行 AI 模型部署

off999 2024-10-14 12:05 23 浏览 0 评论

我们将通过构建一个 FastAPI 应用程序,将之前存储的模型提供服务。这使我们能够创建一个可以全球访问的预测服务!

什么是 API?

API 就像一座桥。当你与 Python 中的库进行交互时,你正在使用它的 API。它是你可以与之互动的应用程序的公共部分,而其背后的所有内容都是隐藏的。

API 通常用于与 Web 应用程序进行通信,并提供一组返回数据的 URL(你发送带有某些参数的请求,并收到响应)。通常,数据以 JSON 或 XML 等格式返回,这些格式易于解析。这与返回 HTML 的网站不同,后者包含用于渲染页面的信息。使用 API,你只会获得原始数据。

有些 API 是公开的,而另一些是私有的。在构建 API 时,你决定共享哪些数据、如何共享以及与谁共享。一切都由你决定!大多数 API 使用 HTTP 协议进行通信。你可能听说过 REST API,它遵循一种通用标准。主要的 HTTP 方法包括:

  • GET: 检索数据。
  • POST: 提交新数据。
  • PUT: 更新现有数据。
  • DELETE: 删除数据。

这些方法形成了几乎所有 API 遵循的 CRUD(创建、读取、更新、删除)操作。

如何请求 API?

现在我们知道 API 是什么,让我们尝试调用一个。我们将使用 Cat Facts API,它以 JSON 格式返回随机的猫事实。

API 附带文档,解释可用的端点和参数。端点是请求数据的地址(你 URL 中的路径)。阅读文档是至关重要的,因为它可以节省你后续的时间。

以下是使用 Python 的 requests 库调用 Cat Facts API 的 /fact 端点的快速示例:

import requests
response = requests.get("https://catfact.ninja/fact").json()
print(response)

这个有趣的 API 以 JSON 格式返回关于猫的随机事实:

{'fact': 'Cats lap liquid from the underside of their tongue, not from the top.', 'length': 69}

使用 requests 库可以帮助你使用 API,但如果你想构建一个 API 呢?这就是 FastAPI 的用武之地。它是构建 API 的最佳框架之一。

FastAPI 基础

有很多 Python 框架可以用于构建 API,但在本教程中,我选择了 FastAPI。它是构建 API 最佳和最简单的框架之一,具有许多方便的功能,因此你无需重新发明轮子:

  • Web 服务器: FastAPI 使用 Uvicorn 为你设置一个 Web 服务器。
  • 数据验证: 它使用 Pydantic 自动验证数据格式。
  • 自动文档: FastAPI 自动生成 API 文档,使开发者轻松使用。

FastAPI Python 文件的基本结构

当你使用 FastAPI 构建 API 时,你的 .py 文件将具有如下特定结构:

import uvicorn
from fastapi import FastAPI

###
# 在这里你可以定义一些配置
###

app = FastAPI()

###
# 在这里定义端点
###

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • app = FastAPI(): 这创建了一个 FastAPI 的实例,将保存你应用程序的所有功能。
  • if name=="main": 这确保代码块仅在直接执行此文件时运行,而不是作为模块导入时运行。
  • uvicorn.run(app, host="0.0.0.0", port=8000): 这启动 Uvicorn Web 服务器,指定主机 IP 和端口。

创建端点

端点是 API 用户可以请求或发送数据的 URL。我们有两种主要类型:

  1. GET: 用于检索数据。
  2. POST: 用于发送新数据。

让我们从最简单的 GET 端点 / 开始,它将显示一条问候消息:

import uvicorn
from fastapi import FastAPI

app = FastAPI()

@app.get("/")
async def index():
    return {"message": "欢迎使用 Iris 分类 API。使用 `/predict` 来分类花卉。"}
    
if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000) 
  • @app.get(“/”): 这个装饰器定义了当 GET 请求发送到 / 端点时,将调用 index() 函数。
  • async: FastAPI 允许异步操作。异步函数让你能够更高效地处理请求,特别是在处理输入/输出任务(如数据库查询)时。

让我们添加一个 POST 端点来提交数据:

import uvicorn
from fastapi import FastAPI
from pydantic import BaseModel

app = FastAPI()

class Name(BaseModel):
    name: str

@app.post("/submit")
async def submit_name(data: Name):
    return {"message": f"你好, {data.name}!"}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)
  • 这个 POST 端点接受用户输入的数据。并不是所有的 API 都接受来自用户的数据,但当它们接受时,数据需要具有特定的结构,这在 Name(BaseModel) 类中定义。

使用 Docker 运行 API

为什么使用 Docker?使用 Docker,你无需在本地机器上安装依赖项。一切都在容器中运行,便于移植和部署。如果你不熟悉 Docker,请查看我之前的文章 Docker 初学者指南。

步骤 1:创建 Dockerfile

要部署 FastAPI 应用程序,我们首先创建一个 Dockerfile:

# 从 Docker Hub 获取 Python 基础镜像
FROM python:3.9-slim

RUN apt-get update -y 
RUN apt-get install nano unzip
RUN apt-get install -y python3.10
RUN apt install curl -y

RUN curl -fsSL https://get.deta.dev/cli.sh | sh

# 设置工作目录
WORKDIR /app

# 将当前目录的内容复制到容器的 /app 中
COPY . /app

# 安装 requirements.txt 中指定的 Python 依赖项
RUN pip install --no-cache-dir -r requirements.txt

# 暴露 uvicorn 将在其上运行应用程序的端口
ENV PORT=8000
EXPOSE 8000

# 执行命令 python main.py(在工作目录中)以启动应用程序
# CMD ["python", "api.py"]
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "8000"]
  • 这个 Dockerfile 安装所有依赖项,设置工作目录,并使用 Gunicorn 和 Uvicorn 运行应用程序。requirements.txt 文件将包含所需的 Python 包,如 FastAPI、Uvicorn 等。

步骤 2:构建和运行 Docker 容器

构建 Docker 镜像:

docker build . -t fastapiserver
# 如果你在 Mac 上,使用:
# docker build --platform=linux/amd64 -t fastapiserver

运行 Docker 容器:

docker run -it -v "$(pwd):/app" -p 8000:8000 -e PORT=8000 fastapiserver

一旦运行,打开浏览器并访问 http://0.0.0.0:8000。你应该看到你的 FastAPI 应用程序正在运行!

作者提供

创建一个端点来提供 ML 模型

现在,让我们将 MLflow 模型集成到 FastAPI 中。首先,确保你已在本地安装 MLflow 和相应的 Python 库。

在我们的 API 中,我们将创建一个 predict 端点,用户可以通过 POST 请求将数据发送到此端点以获取模型的预测结果。

首先,创建一个新的文件 model.py,内容如下:

import mlflow
import mlflow.sklearn

# 加载模型
model = mlflow.sklearn.load_model("models:/IrisClassifier/production")

def predict(data):
    return model.predict(data)

然后,将以下代码添加到 api.py 中:

from fastapi import FastAPI
from pydantic import BaseModel
from model import predict

app = FastAPI()

class Flower(BaseModel):
    sepal_length: float
    sepal_width: float
    petal_length: float
    petal_width: float

@app.post("/predict")
async def classify_flower(data: Flower):
    flower_data = [[data.sepal_length, data.sepal_width, data.petal_length, data.petal_width]]
    prediction = predict(flower_data)
    return {"prediction": prediction[0]}

if __name__=="__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)

测试 API

你现在可以使用 curl 命令或工具(如 Postman 或 Insomnia)发送 POST 请求以测试你的 API。以下是使用 curl 的示例:

curl -X POST "http://localhost:8000/predict" -H "Content-Type: application/json" -d '{"sepal_length": 5.1, "sepal_width": 3.5, "petal_length": 1.4, "petal_width": 0.2}'

你应该会得到类似以下内容的响应:

{"prediction": "setosa"}

使用 Azure 部署 API

为了让 API 全球可用,我们可以使用 Azure 部署它。你需要拥有一个 Azure 账户。

步骤 1:创建 Azure Web 应用

  1. 登录到 Azure 门户。
  2. 创建一个新的 Web 应用
  3. 选择适当的订阅和资源组。
  4. 选择 Linux 操作系统。
  5. 为你的应用选择 Docker 选项。

步骤 2:将代码推送到 Azure

Azure 为你的 Web 应用提供了 Git URL,使用此 URL 将代码推送到 Azure:

git remote add azure <Azure_Git_URL>
git push azure master

步骤 3:配置环境变量

在 Azure 门户中,转到你的 Web 应用并设置环境变量(如 PORT)以匹配 FastAPI 应用中的配置。

步骤 4:测试 Azure 上的 API

在 Azure 上启动 API 后,你应该能够访问 API 的 URL,并根据先前的示例进行测试。

结论

在本指南中,我们学习了如何使用 FastAPI 构建 API,使用 Docker 运行 API,并将 API 部署到 Azure。你现在可以为你的机器学习模型创建 REST API,轻松进行全球访问。希望这对你有所帮助!

相关推荐

面试官:来,讲一下枚举类型在开发时中实际应用场景!

一.基本介绍枚举是JDK1.5新增的数据类型,使用枚举我们可以很好的描述一些特定的业务场景,比如一年中的春、夏、秋、冬,还有每周的周一到周天,还有各种颜色,以及可以用它来描述一些状态信息,比如错...

一日一技:11个基本Python技巧和窍门

1.两个数字的交换.x,y=10,20print(x,y)x,y=y,xprint(x,y)输出:102020102.Python字符串取反a="Ge...

Python Enum 技巧,让代码更简洁、更安全、更易维护

如果你是一名Python开发人员,你很可能使用过enum.Enum来创建可读性和可维护性代码。今天发现一个强大的技巧,可以让Enum的境界更进一层,这个技巧不仅能提高可读性,还能以最小的代价增...

Python元组编程指导教程(python元组的概念)

1.元组基础概念1.1什么是元组元组(Tuple)是Python中一种不可变的序列类型,用于存储多个有序的元素。元组与列表(list)类似,但元组一旦创建就不能修改(不可变),这使得元组在某些场景...

你可能不知道的实用 Python 功能(python有哪些用)

1.超越文件处理的内容管理器大多数开发人员都熟悉使用with语句进行文件操作:withopen('file.txt','r')asfile:co...

Python 2至3.13新特性总结(python 3.10新特性)

以下是Python2到Python3.13的主要新特性总结,按版本分类整理:Python2到Python3的重大变化Python3是一个不向后兼容的版本,主要改进包括:pri...

Python中for循环访问索引值的方法

技术背景在Python编程中,我们经常需要在循环中访问元素的索引值。例如,在处理列表、元组等可迭代对象时,除了要获取元素本身,还需要知道元素的位置。Python提供了多种方式来实现这一需求,下面将详细...

Python enumerate核心应用解析:索引遍历的高效实践方案

喜欢的条友记得关注、点赞、转发、收藏,你们的支持就是我最大的动力源泉。根据GitHub代码分析统计,使用enumerate替代range(len())写法可减少38%的索引错误概率。本文通过12个生产...

Python入门到脱坑经典案例—列表去重

列表去重是Python编程中常见的操作,下面我将介绍多种实现列表去重的方法,从基础到进阶,帮助初学者全面掌握这一技能。方法一:使用集合(set)去重(最简单)pythondefremove_dupl...

Python枚举类工程实践:常量管理的标准化解决方案

本文通过7个生产案例,系统解析枚举类在工程实践中的应用,覆盖状态管理、配置选项、错误代码等场景,适用于Web服务开发、自动化测试及系统集成领域。一、基础概念与语法演进1.1传统常量与枚举类对比#传...

让Python枚举更强大!教你玩转Enum扩展

为什么你需要关注Enum?在日常开发中,你是否经常遇到这样的代码?ifstatus==1:print("开始处理")elifstatus==2:pri...

Python枚举(Enum)技巧,你值得了解

枚举(Enum)提供了更清晰、结构化的方式来定义常量。通过为枚举添加行为、自动分配值和存储额外数据,可以提升代码的可读性、可维护性,并与数据库结合使用时,使用字符串代替数字能简化调试和查询。Pytho...

78行Python代码帮你复现微信撤回消息!

来源:悟空智能科技本文约700字,建议阅读5分钟。本文基于python的微信开源库itchat,教你如何收集私聊撤回的信息。[导读]Python曾经对我说:"时日不多,赶紧用Python"。于是看...

登录人人都是产品经理即可获得以下权益

文章介绍如何利用Cursor自动开发Playwright网页自动化脚本,实现从选题、写文、生图的全流程自动化,并将其打包成API供工作流调用,提高工作效率。虽然我前面文章介绍了很多AI工作流,但它们...

Python常用小知识-第二弹(python常用方法总结)

一、Python中使用JsonPath提取字典中的值JsonPath是解析Json字符串用的,如果有一个多层嵌套的复杂字典,想要根据key和下标来批量提取value,这是比较困难的,使用jsonpat...

取消回复欢迎 发表评论: