百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

「 原创 」用 FastDFS 搭建属于自己的文件服务器

off999 2025-03-10 19:20 20 浏览 0 评论

本文主要讲述的是在 Docker 下部署 FastDFS 文件管理系统,使用 Nginx 来提供 Http 服务。

FastDFS

简介

FastDFS 是一个开源的轻量级高性能的分布式文件系统(DFS,Distributed File System),C语言实现,不是通用的文件系统,只能通过专有的API进行访问(提供有C、Java和PHP API)。

它的主要功能:文件存储、文件同步和文件访问,以及高容量和负载均衡,特别适合中小文件(4kb - 500mb)为载体的在线服务。


角色

tracker-server:跟踪服务器,主要调度工作,起负载均衡的作用。在内存中记录集群中所有存储组和存储服务器的状态信息, 是客户端和数据服务器交互的枢纽。负责管理所有的 storage server 和 group,每个 storage 在启动后会连接 Tracker。

storage-server:存储服务器 ( 又称:存储节点或数据服务器 ),文件和文件属性 ( metadata ) 都保存到存储服务器上。 Storage server 直接利用 OS 的文件系统调用管理文件。

client:客户端,也就是我们自己部署项目的服务器。


存储策略

为了支持大容量,存储节点 ( 服务器 ) 采用分卷 ( 分组 ) 的组织方式。存储系统由多个或单个卷组成,卷与卷之间的文件是相互独立的,所有卷累加起来的文件容量就是存储系统的容量。一个卷可以有单个或多个存储服务器组成,一个卷下的存储服务器内的文件都是相同的,卷中多台的存储服务器起到冗余备份与负载均衡的作用。

上传过程

FastDFS 向使用者提供基本文件访问接口,如 Upload、Download,Append,Delete 等,以客户端库的形式提供给用户使用。

storage-server 会定期向 tracker-server 发送自身的存储信息。当 tracker-server-cluster 中 不止一个 tracker-server 时,各个 tracker 之间的关系是对等的,所以客户端上传时可以选择任意一个 tracker,当 tracker 收到客户端发送的上传请求时,会为该文件分配一个存储的 group,选定 group 后接下来就是为客户端分配 group 内的哪个 storage-server 了,得到 storage-server 后,客户端向 storage 发送写文件的请求,storage 则会为客户端分配一个数据存储目录,分配一个 fileid,根据以上信息再生成相应的文件名,将文件写入磁盘,最后返回存储文件信息给客户端。

文件同步

写文件时,客户端将文件写到 group 中的一个 storage 后就算文件写入成功了。storage-server 文件写入成功后,会由后台线程将文件同步至同个 group 下的其它 storage-server。每个 storage-server 写文件时,都会生成一个 binlog 文件,该文件主要记录文件的元信息 ( 不是文件数据 ),该文件主要用于后台同步,storage 会记录向其它 storage 同步进度,以便在服务器重启后,能接上进度,继续进行同步。而进度主要也以时间戳的方式进行保存,所以最好能保证集群内的所有服务器时间一致。

storage 的同步进度,也会汇报至 tracker 中,tracker 在选择 storage 时以此作为参考。


文件下载

客户端进行 Upload 操作后,会得到一个 storage 生成的文件名,而文件下载、访问等就直接通过该文件名来。

客户端在执行 Download 时,发送下载请求给 tracker-server,tracker-server 会任意选择一个 tracker,tracker 根据客户端提供的文件名信息,解析出 group、size、time 等信息,之后为该请求选择一个 storage 来服务客户端发起的下载请求。




废话了那么多,对FastDFS有个大概的了解后,正式进入主题,从 Docker 镜像开始,一步一步来部署,构建我们自己的文件管理系统。

构建镜像

起初我搜索 docker search fastdfs,然后直接拉取了 season/fastdfs 镜像,但不含 nginx,本来我这个服务器中的 nginx 又是单独启动的一个容器,如果重新编译 nginx,无法单独增加 nginx_fastdfs_module 扩展模块,需要先安装 fastdfs 及 libfastcommon,所以干脆就重新写了一份 Dockerfile,自己制作镜像,同时 nginx 也用该镜像,不再单独启动 nginx 镜像,Dockerfile 具体内容如下 ( 同时加载了多个配置文件,一并附上配置文件 ) 。

# 源码我放在这儿了
https://git.makeit.vip/MIITVIP/MIIT-Docker-Nginx-FastDFS

# 拉取源码后,在 Dockerfile 所在目录下执行如下命令
[root@makeit build]# docker build -t miitvip/nginx-fastdfs .

# 花费几分钟,制作完成后,执行 docker images 进行镜像查看
[root@makeit build]# docker images
REPOSITORY               TAG                 IMAGE ID            CREATED             SIZE
miitvip/nginx-fastdfs   latest              69d6ae812345        9 seconds ago       33.1MB

该镜像已经 push 至 docker hub,可直接通过 docker pull miitvip/nginx-fastdfs 进行镜像拉取


运行镜像

fastdfs 相关的配置文件目录在 /etc/fastdfs,可执行文件在 /usr/bin 中

nginx 的配置目录在 Dockerfile 中已有指定,在 /etc/nginx,nginx 可执行文件在 /usr/sbin/nginx

在启动容器时,直接将所有相关的配置文件都映射到宿主机,便于修改 ( 可根据需求进行调整 )

# 运行之前,创建好相应的文件目录
# 目录可自行创建,只要待会儿映射的时候能对上即可
mkdir -p /makeit/logs/nginx /makeit/docker/nginx/ \
/makeit/docker/nginx/ssl /makeit/docker/nginx/letsencrypt /makeit/docker/fastdfs/tracker \
/makeit/docker/fastdfs/storage /makeit/docker/fastdfs/client \
/makeit/docker/fastdfs/conf /makeit/web/fastdfs

# 启动 nginx
docker run -d -ti --name nginx \
-p 80:80 -p 443:443 \
-v /makeit/web:/www \
-v /makeit/logs/nginx:/var/log/nginx \
-v /makeit/docker/nginx/nginx.conf:/etc/nginx/nginx.conf:ro \
-v /makeit/docker/nginx/conf.d:/etc/nginx/conf.d \
-v /makeit/docker/nginx/ssl:/etc/nginx/ssl \
-v /makeit/docker/nginx/letsencrypt:/etc/nginx/letsencrypt \
-v /makeit/web/fastdfs:/fastdfs/store \
--restart=always miitvip/nginx-fastdfs nginx

# 启动 fastdfs
docker run -d -ti --name fastdfs \
-p 8888:8888 -p 22122:22122 -p 23000:23000 \
-e GROUP_NAME=MIIT \
-e TRACKER_SERVER=你服务器的IP \
-v /makeit/docker/fastdfs/tracker:/fastdfs/tracker \
-v /makeit/docker/fastdfs/storage:/fastdfs/storage \
-v /makeit/docker/fastdfs/client:/fastdfs/client \
-v /makeit/docker/fastdfs/conf/tracker.conf:/etc/fdfs/tracker.conf \
-v /makeit/docker/fastdfs/conf/storage.conf:/etc/fdfs/storage.conf \
-v /makeit/docker/fastdfs/conf/mod_fastdfs.conf:/etc/fdfs/mod_fastdfs.conf \
-v /makeit/docker/fastdfs/conf/client.conf:/etc/fdfs/client.conf \
-v /makeit/docker/fastdfs/conf/http.conf:/etc/fdfs/http.conf \
-v /makeit/web/fastdfs:/fastdfs/store \
--restart=always miitvip/nginx-fastdfs fastdf

用 docker ps 查看是否运行成功

[root@makeit build]# docker ps
CONTAINER ID        IMAGE                    COMMAND                  CREATED             STATUS              PORTS                                                                                                   NAMES
41926f80d069        miitvip/nginx-fastdfs    "/home/start.sh fast…"   4 minutes ago       Up 4 minutes        80/tcp, 443/tcp, 0.0.0.0:8888->8888/tcp, 0.0.0.0:22122->22122/tcp, 9000/tcp, 0.0.0.0:23000->23000/tcp   fastdfs
5100677ead13        miitvip/nginx-fastdfs    "/home/start.sh nginx"   5 minutes ago       Up 5 minutes        0.0.0.0:80->80/tcp, 8888/tcp, 9000/tcp, 22122/tcp, 0.0.0.0:443->443/tcp, 23000/tcp                      nginx

进入容器,查看通信状态。

# 进入容器
[root@makeit /]# docker exec -it fastdfs /bin/bash
 
 # 查看 通信状态
 # 看看 storage count / active count 相关信息
bash-5.0# /usr/bin/fdfs_monitor /etc/fdfs/storage.conf
[2019-07-26 04:28:27] DEBUG - base_path=/fastdfs/storage, 
connect_timeout=10, network_timeout=60, tracker_server_count=1, 
anti_steal_token=0, anti_steal_secret_key length=0, use_connection_pool=0, 
g_connection_pool_max_idle_time=3600s, use_storage_id=0, storage server id count: 0

server_count=1, server_index=0

tracker server is 你的Tracker服务器IP:22122

group count: 1

Group 1:
group name = MIITVIP
disk total space = 40188 MB
disk free space = 22122 MB
trunk free space = 0 MB
storage server count = 1
active server count = 1
storage server port = 23000
storage HTTP port = 8888
store path count = 1
subdir count per path = 256
current write server index = 0
current trunk file id = 0

	Storage 1:
		id = 你的Storage服务器IP
		ip_addr = 139.159.151.94 (ecs-139-159-151-94.compute.hwclouds-dns.com)  ACTIVE
		http domain = 
		version = 5.12
    ......
    ......
    # 后面还有吧啦啦一大串 ... 


上传测试

# 复制图片至容器中
[root@makeit public]# docker cp logo.png 1195a55219ca:/home

# 进入容器,并测试上传
[root@makeit build]# docker exec -it fastdfs /bin/bash
bash-5.0# cd /usr/bin/
bash-5.0# ./fdfs_upload_file /etc/fdfs/client.conf /home/logo.png 
MIIT/M00/00/00/rBEACF0__qiAQR0zAAARuoXj0Jc992.png


访问配置

我的 nginx 配置文件的映射目录在
/makeit/docker/nginx/conf.d 下,新建一个 file.conf 配置,内容如下:

server {
    listen       80;
    server_name  file.makeit.vip;
 
    #charset koi8-r;
    #access_log  /var/log/nginx/makeit/access.log  main;

    access_log  /var/log/nginx/file.access.log  main;
    error_log   /var/log/nginx/file.error.log   warn;

    location / {
        root /www/fastdfs/data;
        index index.html index.htm index.php;
        autoindex on;
    }

    location /MIIT/M00 {
        rewrite                 ^/(.*) /$1 break;
        proxy_pass              http://你的服务器IP:8888/;
        proxy_set_header        Host                    $host;
        proxy_set_header        X-Forwarded-For         $proxy_add_x_forwarded_for;
        proxy_set_header        X-Real-IP               $remote_addr;
	     ngx_fastdfs_module;
    }
 
    #error_page  404              /404.html;
 
    # redirect server error pages to the static page /50x.html
    #
    error_page   500 502 503 504  /50x.html;
    location = /50x.html {
        root   /www;
    }
 
    # deny access to .htaccess files, if Apache's document root
    # concurs with nginx's one
    #
    location ~ /\.ht {
        deny  all;
    }
}

最后说一下配置相关的一些字段信息,在配置过程中要注意修改。

# 配置中需要注意修改的地方
# 在 docker run 时传参亦可

# /etc/fdfs/tracker.conf
port=22122  # tracker服务器端口 ( 默认22122, 一般不修改 )
base_path=/fastdfs/tracker  # 存储日志和数据的根目录 ( 注意是 docker 内的目录 )

# /etc/fdfs/storage.conf
port=23000  # storage服务端口 ( 默认23000, 一般不修改 )
base_path=/fastdfs/storage  # 数据和日志文件存储根目录
store_path0=/fastdfs/store  # 第一个存储目录
tracker_server=192.168.52.1:22122  # tracker服务器IP和端口
http.server_port=8888  # http访问文件的端口 ( 默认8888, 看情况修改, 和nginx中保持一致 )

相关推荐

microsoft国际版(微软国际版bing)

win10系统自带的edge浏览器不分国内版和国际版。搜索引擎Bing分为国内版和国际版,区别如下一、迎合不同人群的需求。国际版显得更加个性,他迎合了不同人群的需求,在收缩上更加方便化和智能化,后期可...

为什么格式化sd卡后不能用了

SD卡受损后不格式化直接修复的方法:1,当系统发现SD卡受损之后,会提示进行格式化。2,把SD卡插入读卡器,接到电脑USB后,电脑提示格式化,点取消。然后查看一下属性。直接使用属性中的工具-开始检查...

c盘删除的东西能恢复吗(c盘删掉的东西还在吗)

    1.重新安装。  如果是安装在c盘下的普通应用程序,重新下载安装即可;  2.备份恢复或重装系统。  如果是删除了系统文件,在系统备过份且知道删除...

电脑如何重装系统winxp(电脑如何重装xp系统教程)

重装XP系统的步骤如下:1.首先备份您的重要文件和数据。2.插入XP系统安装光盘,重新启动计算机。3.在启动时按下计算机制造商指定的键(通常是F2、F12、Esc等)进入BIOS设置或启动菜单。...

win8密钥永久激活工具(win8密钥永久激活工具在哪)

win8.1正式版升级win10,自动激活,win8.1的密钥不能激活win10,升级win10正式版以后,无论怎么安装win10,系统都是自动激活状态。终极PID检测产品密钥:GCRJD...

制作系统安装u盘教程(制作系统安装盘及系统安装的步骤)

答u盘做系统详细步骤如下:  1.首先我们要准备一个10G内存的空白u盘,然后在装机吧官网下载一个装机吧一键重装系统软件,安装完成后打开软件,制作模式选择”USB-HDD“分区格式为”NTFS“点击...

联想win7怎么进入bios设置(联想win7进入bios设置win10)
联想win7怎么进入bios设置(联想win7进入bios设置win10)

联想电脑win7进入bios设置的具体步骤如下: 1、首先我们打开电脑的同时,按下键盘上的“F2”。2、然后我们在弹出来的窗口中就可以进入到BIOS界面中。3、然后我们按下键盘上的“F10”,之后回车确定即可退出。联想电脑win7...

2025-11-09 14:03 off999

优盘里面的文件被误删了能否找回

如果您的文件在很久以前被误删并且没有进行任何操作,那么有可能通过一些专业的数据恢复工具来恢复被删除的文件。以下是一些可能的操作步骤:1.停止使用U盘:为了最大限度地提高恢复成功的几率,请停止使用U盘...

电脑系统程序下载(电脑应用程序下载)

1、首先下载并安装DriverDroid,运行后根据设置向导进行设置。2、然后注意安卓手机已获取ROOT,设置时需要连接电脑。3、将手机自动下载的bios文件移动到镜像根目录下(手机内存/Downlo...

万能网卡驱动离线安装包下载

电脑没网是吧,那你可以先用手机下载。之后放电脑上安装的万能网卡驱动下载地址http://drivers.160.com/universal/camera.html该驱动能够使大部分的网卡能够被系统...

正版office和盗版区别(office正版和盗版可以共存吗)

区别主要有三方面:1.office正版是付费的,而且价格相对而言较高,盗版呢价格相对低或者干脆免费。2.office正版因为是官方发行,文件肯定完整,功能齐全,稳定。盗版呢一般都是破译的或者是拷贝的,...

ヽ这个符号怎么打出来(这个符号怎么打出来是在中间的)

下载酷狗拼音,软键盘就有了。ˋ☆╲ヽ

120g固态硬盘够用吗(10几年的老电脑换个固态硬盘)

一般办公家用还是够用了,分两个区,系统盘分50G,剩余的分一个区做资料盘。特殊要求,资料文件比较多的话,128g是不够用,只能分一个区。这个主要取决于您电脑主要的用途,如果您的电脑只是用来日常办公和娱...

谷歌浏览器google(谷歌浏览器googleplay)

GoogleChrome,又称Google浏览器,是一个美国Google(谷歌)公司开发的网页浏览器。该浏览器是基于其他开源软件所撰写,包括WebKit,目标是提升稳定性、速度和安全性,并创造出简单且...

android13正式版下载(安卓版本13)

出现该问题的原因是,用户在设置里开启了新下载的APP,仅添加到APP资源库选项。大家只要进入“设置-主屏幕”,把新下载的APP,改为“添加到主屏幕”即可解决问题。修改完成后,你再进入AppStore下...

取消回复欢迎 发表评论: