FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文 件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
简介
FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。
存储节点存储文件,完成文件管理的所有功能:就是这样的存储、同步和提供存取接口,FastDFS同时对文件的metadata进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key value)方式表示,如:width=1024,其中的key为width,value为1024。文件metadata是文件属性列表,可以包含多个键值对。
跟踪器和存储节点都可以由一台或多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
为了支持大容量,存储节点(服务器)采用了分卷(或分组)的组织方式。存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了存储系统的容量。
FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。
上传交互过程
1. client询问tracker上传到的storage,不需要附加参数;
2. tracker返回一台可用的storage;
3. client直接和storage通讯完成文件上传。
下载交互过程
1. client询问tracker下载文件的storage,参数为文件标识(卷名和文件名);
2. tracker返回一台可用的storage;
3. client直接和storage通讯完成文件下载。
需要说明的是,client为使用FastDFS服务的调用方,client也应该是一台服务器,它对tracker和storage的调用均为服务器间的调用。
下载安装 libfastcommon
libfastcommon是从 FastDFS 和 FastDHT 中提取出来的公共 C 函数库,基础环境, 安装即可 。
1、进入/usr/local目录 下载安装包执行命令:
wget/happyfish100/libfastcommon/archive/V1.0.7.tar.gz
2、解压
tar -zxvf libfastcommon-1.0.7.tar.gz
3、编译、安装
进入刚刚解压的目录
cd libfastcommon-1.0.7
执行命令:
./make.sh./make.sh install
如果遇见这个错误安装依赖
yum -y install zlib zlib-devel pcre pcre-devel gcc gcc-c++ openssl openssl-devel libevent libevent-devel perl unzip net-tools wget
4、 libfastcommon.so 安装到了/usr/lib64/libfastcommon.so,但是FastDFS主程序设置的lib目录是/usr/local/lib,所以需要创建软链接。
ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.soln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.soln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.soln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so
下载安装FastDFS
1、下载FastDFS
wget /happyfish100/fastdfs/archive/V5.05.tar.gz
2、解压
tar -zvxf fastdfs-5.05.tar.gzcd fastdfs-5.05
3、编译、安装
./make.sh./make.sh install
FastDFS 服务脚本设置的 bin 目录是 /usr/local/bin, 但实际命令安装在 /usr/bin/ 下。
建立 /usr/bin 到 /usr/local/bin 的软链接(这一步关系到后面某些命令的执行)。
ln -s /usr/bin/fdfs_trackerd /usr/local/binln -s /usr/bin/fdfs_storaged /usr/local/binln -s /usr/bin/stop.sh /usr/local/binln -s /usr/bin/restart.sh /usr/local/bin
配置FastDFS跟踪器(Tracker)
配置文件详细说明参考:FastDFS 配置文件详解
1、进入 /etc/fdfs,复制 FastDFS 跟踪器样例配置文件 tracker.conf.sample,并重命名为 tracker.conf。
命令:
cd /etc/fdfscp tracker.conf.sample tracker.conf
2、 先在home文件夹下创建fastdfs目录在创建后面要用到的四个目录如图:
mkdir -p /home/fastdfs/filemkdir -p /home/fastdfs/clientmkdir -p /home/fastdfs/storagemkdir -p /home/fastdfs/tracker
3、编辑tracker.conf ( vitracker.conf),标红的需要修改下,其它的默认即可。
配置文件是否不生效,false 为生效disabled=false提供服务的端口(默认端口)port=22122Tracker 数据和日志目录地址(上面已经创建)base_path=/home/fastdfs/trackerHTTP 服务端口http.server_port=80(默认端口需和nginx等保持一致)
4、启动Tracker
初次成功启动,会在 /home/fdfsdfs/tracker/ (配置的base_path)下创建 data、logs 两个目录。
命令:
/etc/init.d/fdfs_trackerd start
启动后目录如图:
查看 FastDFS Tracker 是否已成功启动 ,22122端口正在被监听,则算是Tracker服务安装成功。
命令:
netstat -unltp|grep fdfs
安装成功结果:
关闭Tracker命令:
service fdfs_trackerd stop
配置 FastDFS 存储 (Storage)
1、进入 /etc/fdfs 目录,复制 FastDFS 存储器样例配置文件 storage.conf.sample,并重命名为 storage.conf
命令:
cd /etc/fdfscp storage.conf.sample storage.conf
2、编辑storage.conf( vistorage.conf)
配置文件是否不生效,false 为生效disabled=false指定此 storage server 所在 组(卷)group_name=group1storage server 服务端口port=23000心跳间隔时间,单位为秒 (这里是指主动向 tracker server 发送心跳)heart_beat_interval=30Storage 数据和日志目录地址(前面已经创建)base_path=/home/fastdfs/storage存放文件时 storage server 支持多个路径。这里配置存放文件的基路径数目,通常只配一个目录。store_path_count=1逐一配置 store_path_count 个路径,索引号基于 0。如果不配置 store_path0,那它就和 base_path 对应的路径一样。store_path0=/home/fastdfs/fileFastDFS 存储文件时,采用了两级目录。这里配置存放文件的目录个数。如果本参数只为 N(如: 256),那么 storage server 在初次运行时,会在 store_path 下自动创建 N * N 个存放文件的子目录。subdir_count_per_path=256tracker_server 的列表 ,会主动连接 tracker_server有多个 tracker server 时,每个 tracker server 写一行tracker_server=ip:22122允许系统同步的时间段 (默认是全天) 。一般用于避免高峰同步产生一些问题而设定。sync_start_time=00:00sync_end_time=23:59访问端口:http.server_port=80(与ngnix和trackeSever的端口一致)
3、 启动 Storage
启动Storage前确保Tracker是启动的(一定要确保tracker是启动)。初次启动成功,会在 /home/fastdfs/storage目录下创建 data、 logs 两个目录。
命令:
/etc/init.d/fdfs_storaged start
启动成功目录:
关闭Storage命令:
service fdfs_storaged stop
4、 查看Storage和Tracker是否在通信:
命令:
/usr/bin/fdfs_monitor /etc/fdfs/storage.conf
(仔细看里面的结果,有助于理解)
配置客户端
1、 修改 Tracker 服务器中的客户端配置文件
命令:
cd /etc/fdfscp client.conf.sample client.conf
vi client.conf
修改如下配置即可,其它默认。
Client 的数据和日志目录base_path=/home/fastdfs/clientTracker端口tracker_server=ip:22122(tracker地址)
2、上传测试
在linux内部执行如下命令上传 123.png 图片(注意要进入图片目录)
/usr/bin/fdfs_upload_file /etc/fdfs/client.conf 123.png
执行结果:
安装Nginx(新版的FastDFS是不能直接访问文件的,一定要配好ngnix)
1、安装nginx所需环境
gcc 安装yum install gcc-c++PCRE pcre-devel 安装yum install -y pcre pcre-develzlib 安装yum install -y zlib zlib-develOpenSSL 安装yum install -y openssl openssl-devel
2、安装Nginx
下载nginx
命令:
wget -c /download/nginx-1.12.1.tar.gz
解压
命令:
tar -zxvf nginx-1.12.1.tar.gz
编译、安装
使用默认配置
命令:
cd nginx-1.12.1./configuremakemake install
3、关闭防火墙
centOS6及以前版本使用命令: systemctl stop iptables.service
centOS7关闭防火墙命令: systemctl stop firewalld.service
4、启动nginx
命令:
/usr/local/nginx/sbin/nginx -s reload
5.直接在浏览器输入IP查看ngnix是否启动成功如图
6.访问文件
编辑ngnix.conf文件
命令:
vi /usr/local/nginx/conf/nginx.conf
添加如下行,将 /group1/M00 映射到 /lhome/fastdfs/file/data
location /group1/M00 {
alias /home/fastdfs/file/data;
}
访问图片(如图):