使用 python FastAPI 和 Docker 进行 AI 模型部署
off999 2024-10-14 12:05 23 浏览 0 评论
我们将通过构建一个 FastAPI 应用程序,将之前存储的模型提供服务。这使我们能够创建一个可以全球访问的预测服务!
什么是 API?
API 就像一座桥。当你与 Python 中的库进行交互时,你正在使用它的 API。它是你可以与之互动的应用程序的公共部分,而其背后的所有内容都是隐藏的。
API 通常用于与 Web 应用程序进行通信,并提供一组返回数据的 URL(你发送带有某些参数的请求,并收到响应)。通常,数据以 JSON 或 XML 等格式返回,这些格式易于解析。这与返回 HTML 的网站不同,后者包含用于渲染页面的信息。使用 API,你只会获得原始数据。
有些 API 是公开的,而另一些是私有的。在构建 API 时,你决定共享哪些数据、如何共享以及与谁共享。一切都由你决定!大多数 API 使用 HTTP 协议进行通信。你可能听说过 REST API,它遵循一种通用标准。主要的 HTTP 方法包括:
- GET: 检索数据。
- POST: 提交新数据。
- PUT: 更新现有数据。
- DELETE: 删除数据。
这些方法形成了几乎所有 API 遵循的 CRUD(创建、读取、更新、删除)操作。
如何请求 API?
现在我们知道 API 是什么,让我们尝试调用一个。我们将使用 Cat Facts API,它以 JSON 格式返回随机的猫事实。
API 附带文档,解释可用的端点和参数。端点是请求数据的地址(你 URL 中的路径)。阅读文档是至关重要的,因为它可以节省你后续的时间。
以下是使用 Python 的 requests 库调用 Cat Facts API 的 /fact 端点的快速示例:
import requests
response = requests.get("https://catfact.ninja/fact").json()
print(response)
这个有趣的 API 以 JSON 格式返回关于猫的随机事实:
{'fact': 'Cats lap liquid from the underside of their tongue, not from the top.', 'length': 69}
使用 requests 库可以帮助你使用 API,但如果你想构建一个 API 呢?这就是 FastAPI 的用武之地。它是构建 API 的最佳框架之一。
FastAPI 基础
有很多 Python 框架可以用于构建 API,但在本教程中,我选择了 FastAPI。它是构建 API 最佳和最简单的框架之一,具有许多方便的功能,因此你无需重新发明轮子:
- Web 服务器: FastAPI 使用 Uvicorn 为你设置一个 Web 服务器。
- 数据验证: 它使用 Pydantic 自动验证数据格式。
- 自动文档: FastAPI 自动生成 API 文档,使开发者轻松使用。
FastAPI Python 文件的基本结构
当你使用 FastAPI 构建 API 时,你的 .py 文件将具有如下特定结构:
import uvicorn
from fastapi import FastAPI
###
# 在这里你可以定义一些配置
###
app = FastAPI()
###
# 在这里定义端点
###
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- app = FastAPI(): 这创建了一个 FastAPI 的实例,将保存你应用程序的所有功能。
- if name=="main": 这确保代码块仅在直接执行此文件时运行,而不是作为模块导入时运行。
- uvicorn.run(app, host="0.0.0.0", port=8000): 这启动 Uvicorn Web 服务器,指定主机 IP 和端口。
创建端点
端点是 API 用户可以请求或发送数据的 URL。我们有两种主要类型:
- GET: 用于检索数据。
- POST: 用于发送新数据。
让我们从最简单的 GET 端点 / 开始,它将显示一条问候消息:
import uvicorn
from fastapi import FastAPI
app = FastAPI()
@app.get("/")
async def index():
return {"message": "欢迎使用 Iris 分类 API。使用 `/predict` 来分类花卉。"}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- @app.get(“/”): 这个装饰器定义了当 GET 请求发送到 / 端点时,将调用 index() 函数。
- async: FastAPI 允许异步操作。异步函数让你能够更高效地处理请求,特别是在处理输入/输出任务(如数据库查询)时。
让我们添加一个 POST 端点来提交数据:
import uvicorn
from fastapi import FastAPI
from pydantic import BaseModel
app = FastAPI()
class Name(BaseModel):
name: str
@app.post("/submit")
async def submit_name(data: Name):
return {"message": f"你好, {data.name}!"}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
- 这个 POST 端点接受用户输入的数据。并不是所有的 API 都接受来自用户的数据,但当它们接受时,数据需要具有特定的结构,这在 Name(BaseModel) 类中定义。
使用 Docker 运行 API
为什么使用 Docker?使用 Docker,你无需在本地机器上安装依赖项。一切都在容器中运行,便于移植和部署。如果你不熟悉 Docker,请查看我之前的文章 Docker 初学者指南。
步骤 1:创建 Dockerfile
要部署 FastAPI 应用程序,我们首先创建一个 Dockerfile:
# 从 Docker Hub 获取 Python 基础镜像
FROM python:3.9-slim
RUN apt-get update -y
RUN apt-get install nano unzip
RUN apt-get install -y python3.10
RUN apt install curl -y
RUN curl -fsSL https://get.deta.dev/cli.sh | sh
# 设置工作目录
WORKDIR /app
# 将当前目录的内容复制到容器的 /app 中
COPY . /app
# 安装 requirements.txt 中指定的 Python 依赖项
RUN pip install --no-cache-dir -r requirements.txt
# 暴露 uvicorn 将在其上运行应用程序的端口
ENV PORT=8000
EXPOSE 8000
# 执行命令 python main.py(在工作目录中)以启动应用程序
# CMD ["python", "api.py"]
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "8000"]
- 这个 Dockerfile 安装所有依赖项,设置工作目录,并使用 Gunicorn 和 Uvicorn 运行应用程序。requirements.txt 文件将包含所需的 Python 包,如 FastAPI、Uvicorn 等。
步骤 2:构建和运行 Docker 容器
构建 Docker 镜像:
docker build . -t fastapiserver
# 如果你在 Mac 上,使用:
# docker build --platform=linux/amd64 -t fastapiserver
运行 Docker 容器:
docker run -it -v "$(pwd):/app" -p 8000:8000 -e PORT=8000 fastapiserver
一旦运行,打开浏览器并访问 http://0.0.0.0:8000。你应该看到你的 FastAPI 应用程序正在运行!
作者提供
创建一个端点来提供 ML 模型
现在,让我们将 MLflow 模型集成到 FastAPI 中。首先,确保你已在本地安装 MLflow 和相应的 Python 库。
在我们的 API 中,我们将创建一个 predict 端点,用户可以通过 POST 请求将数据发送到此端点以获取模型的预测结果。
首先,创建一个新的文件 model.py,内容如下:
import mlflow
import mlflow.sklearn
# 加载模型
model = mlflow.sklearn.load_model("models:/IrisClassifier/production")
def predict(data):
return model.predict(data)
然后,将以下代码添加到 api.py 中:
from fastapi import FastAPI
from pydantic import BaseModel
from model import predict
app = FastAPI()
class Flower(BaseModel):
sepal_length: float
sepal_width: float
petal_length: float
petal_width: float
@app.post("/predict")
async def classify_flower(data: Flower):
flower_data = [[data.sepal_length, data.sepal_width, data.petal_length, data.petal_width]]
prediction = predict(flower_data)
return {"prediction": prediction[0]}
if __name__=="__main__":
uvicorn.run(app, host="0.0.0.0", port=8000)
测试 API
你现在可以使用 curl 命令或工具(如 Postman 或 Insomnia)发送 POST 请求以测试你的 API。以下是使用 curl 的示例:
curl -X POST "http://localhost:8000/predict" -H "Content-Type: application/json" -d '{"sepal_length": 5.1, "sepal_width": 3.5, "petal_length": 1.4, "petal_width": 0.2}'
你应该会得到类似以下内容的响应:
{"prediction": "setosa"}
使用 Azure 部署 API
为了让 API 全球可用,我们可以使用 Azure 部署它。你需要拥有一个 Azure 账户。
步骤 1:创建 Azure Web 应用
- 登录到 Azure 门户。
- 创建一个新的 Web 应用。
- 选择适当的订阅和资源组。
- 选择 Linux 操作系统。
- 为你的应用选择 Docker 选项。
步骤 2:将代码推送到 Azure
Azure 为你的 Web 应用提供了 Git URL,使用此 URL 将代码推送到 Azure:
git remote add azure <Azure_Git_URL>
git push azure master
步骤 3:配置环境变量
在 Azure 门户中,转到你的 Web 应用并设置环境变量(如 PORT)以匹配 FastAPI 应用中的配置。
步骤 4:测试 Azure 上的 API
在 Azure 上启动 API 后,你应该能够访问 API 的 URL,并根据先前的示例进行测试。
结论
在本指南中,我们学习了如何使用 FastAPI 构建 API,使用 Docker 运行 API,并将 API 部署到 Azure。你现在可以为你的机器学习模型创建 REST API,轻松进行全球访问。希望这对你有所帮助!
相关推荐
- 面试官:来,讲一下枚举类型在开发时中实际应用场景!
-
一.基本介绍枚举是JDK1.5新增的数据类型,使用枚举我们可以很好的描述一些特定的业务场景,比如一年中的春、夏、秋、冬,还有每周的周一到周天,还有各种颜色,以及可以用它来描述一些状态信息,比如错...
- 一日一技:11个基本Python技巧和窍门
-
1.两个数字的交换.x,y=10,20print(x,y)x,y=y,xprint(x,y)输出:102020102.Python字符串取反a="Ge...
- Python Enum 技巧,让代码更简洁、更安全、更易维护
-
如果你是一名Python开发人员,你很可能使用过enum.Enum来创建可读性和可维护性代码。今天发现一个强大的技巧,可以让Enum的境界更进一层,这个技巧不仅能提高可读性,还能以最小的代价增...
- Python元组编程指导教程(python元组的概念)
-
1.元组基础概念1.1什么是元组元组(Tuple)是Python中一种不可变的序列类型,用于存储多个有序的元素。元组与列表(list)类似,但元组一旦创建就不能修改(不可变),这使得元组在某些场景...
- 你可能不知道的实用 Python 功能(python有哪些用)
-
1.超越文件处理的内容管理器大多数开发人员都熟悉使用with语句进行文件操作:withopen('file.txt','r')asfile:co...
- Python 2至3.13新特性总结(python 3.10新特性)
-
以下是Python2到Python3.13的主要新特性总结,按版本分类整理:Python2到Python3的重大变化Python3是一个不向后兼容的版本,主要改进包括:pri...
- Python中for循环访问索引值的方法
-
技术背景在Python编程中,我们经常需要在循环中访问元素的索引值。例如,在处理列表、元组等可迭代对象时,除了要获取元素本身,还需要知道元素的位置。Python提供了多种方式来实现这一需求,下面将详细...
- Python enumerate核心应用解析:索引遍历的高效实践方案
-
喜欢的条友记得关注、点赞、转发、收藏,你们的支持就是我最大的动力源泉。根据GitHub代码分析统计,使用enumerate替代range(len())写法可减少38%的索引错误概率。本文通过12个生产...
- Python入门到脱坑经典案例—列表去重
-
列表去重是Python编程中常见的操作,下面我将介绍多种实现列表去重的方法,从基础到进阶,帮助初学者全面掌握这一技能。方法一:使用集合(set)去重(最简单)pythondefremove_dupl...
- Python枚举类工程实践:常量管理的标准化解决方案
-
本文通过7个生产案例,系统解析枚举类在工程实践中的应用,覆盖状态管理、配置选项、错误代码等场景,适用于Web服务开发、自动化测试及系统集成领域。一、基础概念与语法演进1.1传统常量与枚举类对比#传...
- 让Python枚举更强大!教你玩转Enum扩展
-
为什么你需要关注Enum?在日常开发中,你是否经常遇到这样的代码?ifstatus==1:print("开始处理")elifstatus==2:pri...
- Python枚举(Enum)技巧,你值得了解
-
枚举(Enum)提供了更清晰、结构化的方式来定义常量。通过为枚举添加行为、自动分配值和存储额外数据,可以提升代码的可读性、可维护性,并与数据库结合使用时,使用字符串代替数字能简化调试和查询。Pytho...
- 78行Python代码帮你复现微信撤回消息!
-
来源:悟空智能科技本文约700字,建议阅读5分钟。本文基于python的微信开源库itchat,教你如何收集私聊撤回的信息。[导读]Python曾经对我说:"时日不多,赶紧用Python"。于是看...
- 登录人人都是产品经理即可获得以下权益
-
文章介绍如何利用Cursor自动开发Playwright网页自动化脚本,实现从选题、写文、生图的全流程自动化,并将其打包成API供工作流调用,提高工作效率。虽然我前面文章介绍了很多AI工作流,但它们...
- Python常用小知识-第二弹(python常用方法总结)
-
一、Python中使用JsonPath提取字典中的值JsonPath是解析Json字符串用的,如果有一个多层嵌套的复杂字典,想要根据key和下标来批量提取value,这是比较困难的,使用jsonpat...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)