【Python大语言模型系列】云服务器部署dify大模型应用开发平台
off999 2024-11-25 15:55 47 浏览 0 评论
这是我的第360篇原创文章。
一、阿里云ECS简介
云服务器( Elastic Compute Service ,简称ECS )是一-种简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新。
这个活动需要满足是新用户的条件,然后进入 https://free.aliyun.com/?spm=5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。
进入页面之后我们可以选择我们需要的配置:
开通服务器后,首先修改服务器的登陆密码,点击重置实例密码:
创建的实例:
我们通过远程连接的方式,进入这个实例:
当然,也可以用Xshell或其他远程连接软件连上服务器(输入root和密码),根据公网ip地址连上。
二、在ECS上安装Docker
安装dify的两个前提条件:
2.1 下载Docker的依赖环境
安装Docker,首先要下载他所依赖的环境
2.2 指定Docker镜像源
默认下载Docker会去国外服务器下载,速度较慢,可以设置为阿里云镜像源,速度更快
2.3 安装Docker
开始安装Docker
2.4 设置启动方式
安装成功后,需要手动启动,设置为开机启动
2.5 测试docker
测试(Docker自带的hello-world)
2.6 查看docker版本
看一下docker的版本:
三、在ECS上安装Docker Compose
3.1 方式一:curl
curl:
# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
# 3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version3.2 方式二:wget
wget:
# 1.去github官网搜索docker-compose,下载1.24.1版本的Docker-Compose
# 下载路径:
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64
# 2.设置权限
# 需要将DockerCompose文件的名称修改一下,给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose
# 3.配置环境变量
# 方便后期操作,配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin,修改了/etc/profile文件,给/usr/local/bin配置到了PATH中
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容:export PATH=/usr/local/bin:$PATH
source /etc/profile
# 4.测试
在任意目录下输入docker-compose3.3 方式三:pip
pip:
# 1.运行以下命令,安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令,安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令,验证docker-compose是否安装成功。
docker-compose --version四、按照dify提供的官方教程进行部署
克隆dify 源代码至本地环境(这里的本地就是这台阿里云ECS)
如果没有git工具,需要安装:
进入dify源代码的 Docker 目录;复制环境配置文件;
选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本,启动 Docker 容器:如果版本是 Docker Compose V2,使用以下命令:
报错:
在尝试用docker-compose启动应用时遇到网络创建失败的错误,具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。
重新启动 Docker 容器,,运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:
最后检查是否所有容器都正常运行:
在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。
五、在ESC部署的dify上进行大模型应用开发
5.1 配置ESC安全组的访问规则
我使用本机去 ping 公网 ip 结果可以 ping 通,直接使用它给我提供的公网 ip 进行访问,结果显示访问失败,这需要在云服务器上进行配置:点击安全组,添加访问规则,设置80端口:
5.2 公网访问
输入公网ip,就可以进入部署在ESC的dify平台了
5.3开发并发布AI大模型应用(Maas)-模型即服务
设置管理员账户:
之后进入:
就可以在这台云服务器ESC上进行开发工作流或者Agent了。
作者简介: 读研期间发表6篇SCI数据算法相关论文,目前在某研究院从事数据算法相关研究工作,结合自身科研实践经历持续分享关于Python、数据分析、特征工程、机器学习、深度学习、人工智能系列基础知识与案例。关注gzh:数据杂坛,获取数据和源码学习更多内容。
原文链接:
相关推荐
- 安全教育登录入口平台(安全教育登录入口平台官网)
-
122交通安全教育怎么登录:122交通网的注册方法是首先登录网址http://www.122.cn/,接着打开网页后,点击右上角的“个人登录”;其次进入邮箱注册,然后进入到注册页面,输入相关信息即可完...
- 大鱼吃小鱼经典版(大鱼吃小鱼经典版(经典版)官方版)
-
大鱼吃小鱼小鱼吃虾是于谦跟郭麒麟的《我的棒儿呢?》郭德纲说于思洋郭麒麟作诗的相声,最后郭麒麟做了一首,师傅躺在师母身上大鱼吃小鱼小鱼吃虾虾吃水水落石出师傅压师娘师娘压床床压地地动山摇。...
-
- 哪个软件可以免费pdf转ppt(免费的pdf转ppt软件哪个好)
-
要想将ppt免费转换为pdf的话,我们建议大家可以下一个那个wps,如果你是会员的话,可以注册为会员,这样的话,在wps里面的话,就可以免费将ppt呢转换为pdfpdf之后呢,我们就可以直接使用,不需要去直接不需要去另外保存,为什么格式转...
-
2026-02-04 09:03 off999
- 电信宽带测速官网入口(电信宽带测速官网入口app)
-
这个网站看看http://www.swok.cn/pcindex.jsp1.登录中国电信网上营业厅,宽带光纤,贴心服务,宽带测速2.下载第三方软件,如360等。进行在线测速进行宽带测速时,尽...
- 植物大战僵尸95版手机下载(植物大战僵尸95 版下载)
-
1可以在应用商店或者游戏平台上下载植物大战僵尸95版手机游戏。2下载教程:打开应用商店或者游戏平台,搜索“植物大战僵尸95版”,找到游戏后点击下载按钮,等待下载完成即可安装并开始游戏。3注意:确...
- 免费下载ppt成品的网站(ppt成品免费下载的网站有哪些)
-
1、Chuangkit(chuangkit.com)直达地址:chuangkit.com2、Woodo幻灯片(woodo.cn)直达链接:woodo.cn3、OfficePlus(officeplu...
- 2025世界杯赛程表(2025世界杯在哪个国家)
-
2022年卡塔尔世界杯赛程公布,全部比赛在卡塔尔境内8座球场举行,2022年,决赛阶段球队全部确定。揭幕战于当地时间11月20日19时进行,由东道主卡塔尔对阵厄瓜多尔,决赛于当地时间12月18日...
- 下载搜狐视频电视剧(搜狐电视剧下载安装)
-
搜狐视频APP下载好的视频想要导出到手机相册里方法如下1、打开手机搜狐视频软件,进入搜狐视频后我们点击右上角的“查找”,找到自已喜欢的视频。2、在“浏览器页面搜索”窗口中,输入要下载的视频的名称,然后...
- 永久免费听歌网站(丫丫音乐网)
-
可以到《我爱音乐网》《好听音乐网》《一听音乐网》《YYMP3音乐网》还可以到《九天音乐网》永久免费听歌软件有酷狗音乐和天猫精灵,以前要跳舞经常要下载舞曲,我从QQ上找不到舞曲下载就从酷狗音乐上找,大多...
- 音乐格式转换mp3软件(音乐格式转换器免费版)
-
有两种方法:方法一在手机上操作:1、进入手机中的文件管理。2、在其中选择“音乐”,将显示出手机中的全部音乐。3、点击“全选”,选中所有音乐文件。4、点击屏幕右下方的省略号图标,在弹出菜单中选择“...
- 电子书txt下载(免费的最全的小说阅读器)
-
1.Z-library里面收录了近千万本电子书籍,需求量大。2.苦瓜书盘没有广告,不需要账号注册,使用起来非常简单,直接搜索预览下载即可。3.鸠摩搜书整体风格简洁清晰,书籍资源丰富。4.亚马逊图书书籍...
- 最好免费观看高清电影(播放免费的最好看的电影)
-
在目前的网上选择中,IMDb(互联网电影数据库)被认为是最全的电影网站之一。这个网站提供了各种类型的电影和电视节目的海量信息,包括剧情介绍、演员表、评价、评论等。其还提供了有关电影制作背后的详细信息,...
- 孤单枪手2简体中文版(孤单枪手2简体中文版官方下载)
-
要将《孤胆枪手2》游戏的征兵秘籍切换为中文,您可以按照以下步骤进行操作:首先,打开游戏设置选项,通常可以在游戏主菜单或游戏内部找到。然后,寻找语言选项或界面选项,点击进入。在语言选项中,选择中文作为游...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
