# GlusterFS **Repository Path**: jzywjj/gluster-fs ## Basic Information - **Project Name**: GlusterFS - **Description**: GlusterFS 分布式文件系统原理安装使用 - **Primary Language**: Unknown - **License**: Artistic-2.0 - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 0 - **Created**: 2020-10-26 - **Last Updated**: 2020-12-19 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # GlusterFS #### 介绍 分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源并不直接与本地节点相连，而是分布于计算网络中的一个或者多个节点的计算机上。目前意义上的分布式文件系统大多都是由多个节点计算机构成，结构上是典型的客户机/服务器模式。流行的模式是当客户机需要存储数据时，服务器指引其将数据分散的存储到多个存储节点上，以提供更快的速度，更大的容量及更好的冗余特性。 目前流行的分布式文件系统有许多，如MooseFS、OpenAFS、GoogleFS CephFS 等。 #### GlusterFS 介绍 GlusterFS是一个开源的分布式文件系统，同时也是Scale-Out存储解决方案Gluster的核心，在存储数据方面有强大的横向扩展能力，通过扩展不同的节点可以支持PB级别的存储容量。GlusterFS借助TCP/IP或InfiniBand RDMA网络将分散的存储资源汇聚在一起，同一提供存储服务，并使用单一全局命令空间来管理数据。GlusterFS基于可堆叠的用户空间以及无元的设计，可为各种不同的数据负载提供优异的性能。 GlusterFS主要由存储服务器、客户端及NFS/Samba存储网关（可选，根据需要选择使用）组成。GlusterFS架构中最大的设计特点就是没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。传统的分布式文件系统大多通过元服务器来存储元数据，元数据包含存储节点上的目录信息、目录结构等，这样的设计在浏览目录时效率非常高，但是也存在一些缺陷，如单点故障，一旦元数据服务器出现故障，即使节点具备再高的冗余性，整个存储系统也将崩溃，而GlusterFS分布式文件系统是基于无元服务器的设计，数据横向扩展能力强，具备较高的可靠性及存储效率。 GlusterFS支持TCP/IP和InfiniBand RDMA高速网络互联，客户端可通过原声GlusterFS协议访问数据，其他没有运行GlusterFS客户端的终端可通过NFS/CIFS标准协议通过存储网关访问数据。 #### 软件架构 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/173957_79e7b46e_4978770.png "屏幕截图.png") #### GlusterFS 特点 - 扩展性和高性能 - 高可用性 - 全局统一命名空间 - 基于标准协议 - 弹性卷管理 #### GlusterFS 术语 - Brick（存储块）：指可信主机池中由主机提供的用于物理存储的专用分区，是GlusterFS中的基本存储单元，同时也是可信存储池中服务器上对外提供的存储目录，存储目录的格式由服务器和目录的绝对路径构成，表示方法为SERVER：EXPORT ，比如：192.168.1.4/date/mydir/； - Volume（逻辑卷）：一个逻辑卷是一组Brick的集合。卷是数据存储的逻辑设备，类似于LVM中的逻辑卷。大部分Gluster管理操作是在卷上进行的； - FUSE：是一个内核模块，允许用户创建自己的文件系统，无须修改内核代码； - VFS：内核空间对用户空间提供吧的访问磁盘的接口； - Glusterd（后台管理进程）：在存储群集中的每个节点上都要运行； #### GlusterFS的工作流程 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/175238_6aa36659_4978770.png "屏幕截图.png") 1）客户端或应用程序通过GlusterFS的挂在点访问数据； 2）Linux系统内核通过VFS API收到请求并处理； 3）VFS将数据递交给FUSE内核文件系统，并向系统注册了一个实际的文件系统FUSE，而FUSE文件系统则是将数据过/dev/fuse设备文件递交给GlusterFS client端。可以将FUSE文件系统理解为一个代理； 4）GlusterFS client收到数据后。client根据配置文件对数据进行处理； 5）经过GlusterFS client处理后，通过网络将数据传递至远端的GlusterFS Server，并且将数据写入服务器存储设备； #### 弹性HASH算法 弹性HASH算法使用Davies-Meyer算法，通过HASH算法得到一个32位的整数范围，假设逻辑卷中有N个存储单位Brick，则32位的整数范围被划分为N个连续的子空间，每个空间对应一个Brick。当用户或应用程序访问某一个命名空间时，通过对该命名空间计算HASH值，根据该HASH值对应的32位整数空间定位数据所在的Brick。优点如下： > 保证数据平均分布在每个Brick中； > > 解决了对元数据服务器的依赖，进而解决了单点故障及访问瓶颈； #### GlusterFS的卷类型 GlusterFS支持七种卷，即分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷、条带复制卷和分布式条带复制卷，这七种卷可以满足不同应用对高性能、高可用的需求 - 分布式卷（Distribute volume）：文件通过HASH算法分布到所有Brick Server上，这种卷是Glusterf的基础；以文件为单位根据HASH算法散列到不同的Brick，其实只是扩大了磁盘空间，如果有一个磁盘损坏，数据也将丢失，属于文件级的RAID0，不具备容错能力； - 条带卷（Stripe volume）：类似于RAID0，文件被分为数据块并以轮询的方式分布到多个Brick Server上，文件存储以数据块为单位，支持大文件存储，文件越大，读取效率越高； - 复制卷（Replica volume）：将文件同步到多个Brick上，使其具备多个文件副本，属于文件级RAID1，具有容错能力。因为数据分散到多个Brick中，所以读性能得到了很大提升，但写性能下降； - 分布式条带卷（Distribute Stripe volume）：Brick Server数量是条带数（数据块分布的Brick数量）的倍数，兼备分布式卷和条带卷的特点； - 分布式复制卷（Distribute Replica volume）：Brick Server数量是镜像数（数据副本数量）的倍数，具有分布式卷和复制卷的特点； - 条带复制卷（Stripe Replica volume）：类似于RAID10，同时具有条带卷和复制卷的特点； - 分布式条带复制卷（Distribute Stripe Replica volume）：三种基本卷的复合卷，通常用于类Map Reduce应用； （1）分布式卷 : 分布式卷是GlusterFS的默认卷，在创建卷时，默认选项就是创建分布式卷。在该模式下，并没有对文件进行分块处理，文件直接存储在某个Server节点上。直接使用本地文件系统进行文件存储，大部分Linux命令和工具可以继续正常使用。需要通过扩展文件属性保存HASH值，目前支持的底层文件系统有ext3、ext4、ZFS、XFS等。 由于使用本地文件系统，所以存取效率并没有提高，反而会因为网络通信的原因而有所降低；另外支持超大型文件也会有一定的难度，因为分布式卷不会对文件进行分块处理。虽然ext4已经可以支持最大16TB的单个文件，但是本地存储设备的容量实在有限。 如图所示，File1和File2存放在Server1，而File3存放在Server2，文件都是随机存储，一个文件要么在Server1上，要么在Server2上，不能分块同时存放在Server1和Server2上。 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/182743_1fff1d82_4978770.png "屏幕截图.png") > 分布式卷具有如下特点： > > 文件分布在不同的服务器，布局别冗余性； > > 更容易廉价地扩展卷的大小； > > 单点故障会造成数据丢失； > > 依赖于底层的数据保护； > ``` gluster volume create dis-volume server1:/dir1 server2:/dir2 ``` （2）条带卷 Stripe模式相当于RAID0，在该模式下，根据偏移量将文件分成N块（N个条带节点），轮询地存储在每个Brick Server节点。节点把每个数据块都作为普通文件存入本地文件系统中，通过扩展属性记录总块数和每块的序号。在配置时指定的条带数必须等于卷中Brick所包含的存储服务器数，在存储大文件时，性能尤为突出，但是不具备冗余性。 如下图所示，将文件存放在不同服务器里，File被分割为6段，1、3、5放在server1，2、4、6放在server2。 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/183247_64d16d18_4978770.png "屏幕截图.png") > 条带卷具有如下特点： > > 数据被分割成更小块分布到块服务器群中的不同条带区； > > 分布减少了负载且更小的文件加速了存取的速度； > > 没有数据冗余； ``` gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2 ``` (3) 复制卷 复制模式，也称为AFR，相当于RAID1。即同一文件保存一份或多份副本，每个节点保存相同的内容和目录结构。复制模式因为要保存副本，所以磁盘利用率较低。如果多个节点上的存储空间不一致，那么将按照木桶效应取最低节点的容量作为该卷的总容量。在配置复制卷时，复制数必须等于卷中Brick所包含的存储服务器数，复制卷具备冗余性，即使一个节点损坏，也不影响数据的正常使用。 如下图所示，将文件存放在服务器里，File1和File2同时存放在Server1和Server2上，相当于Server2中的文件是Server1中文件的副本。 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/183429_e2e86dcd_4978770.png "屏幕截图.png") > 复制卷具有以下特点： > > 卷中所有的服务器均保存一个完整的副本； > > 卷的副本数量可由客户创建的时候决定； > > 至少有两个块服务器或者更多的服务器； > > 具有冗余性； ``` gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2 ``` (4) 分布式条带卷 分布式条带卷兼顾分布式和条带卷的功能，主要用于大文件访问处理，创建一个分布式条带卷最少需要4台服务器。 如下图所示，File1和File2通过分布式卷的功能分别定位到Server1和Server2。在Server1中，File1被分割成4段，其中1、3在Server1中exp1目录中；2、4在Server1中的exp2目录中。在Server2中，File2也被分割成4段，其中1、3在Server2中的exp3目录中，2、4在Server2中的exp4目录中。 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/183742_df3f3c29_4978770.png "屏幕截图.png") ``` gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4 ``` (5) 分布式复制卷 分布式复制卷兼顾分布式卷和复制卷的功能，主要用于需要冗余的情况下。 如下图所示，File1和File2通过分布式卷的功能分别定位到Server1和Server2。在存放File1时，File1根据复制卷的特性，将存在两个相同的副本，分别是Server1中的exp1目录和Server2中的exp2目录，在存放File2时，File2根据复制卷的特性，也将存在两个相同的副本，分别是Server3中的exp3目录和Server4中的exp4目录。 ![输入图片说明](https://images.gitee.com/uploads/images/2020/1026/183938_f1d9c6ef_4978770.png "屏幕截图.png") ``` gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4 ``` #### 安装教程 要求：一台服务器至少两块盘，集群中至少三节点 参考> https://wiki.centos.org/SpecialInterestGroup/Storage/gluster-Quickstart 1. ntp ``` 所有机器安装ntp服务器 ，（参考大数据集群中ntp的安装） ``` 2. hosts ``` cat /etc/hosts 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 192.168.202.10 gluster-storsge01 192.168.202.11 gluster-storsge02 192.168.202.12 gluster-storsge03 ``` 3. Yum Repos ``` yum -y install centos-release-gluster ``` 4. install ``` yum -y install glusterfs-server ``` 5. 配置启动 ``` systemctl enable glusterd gluster peer probe gluster-storsge01 gluster peer probe gluster-storsge02 gluster peer probe gluster-storsge03 gluster peer status # 分区格式化挂载 fdisk /dev/sdb kfs.xfs -i size=512 /dev/sdb1 mkdir -p /opt/storage/brick echo "/dev/sdb1 /opt/storage xfs defaults 0 0" >> /etc/fstab # Mount the partition as a Gluster "brick" # 上述挂载点和目录 #创建一个复制卷示例 gluster volume create gv0 replica 3 gluster-storsge01:/opt/storage/brick \ gluster-storsge02:/opt/storage/brick gluster-storsge03:/opt/storage/brick # 查看卷状态 gluster volume info # 启动卷 gluster volume start gv0 客户端使用 mount -t glusterfs gluster-storsge01:gv0 /mnt ``` ### Admin guide #### gluster 服务管理 ``` #启动服务 systemctl start glusterd #停止服务 systemctl stop glusterd # 开机自启 systemctl enable glusterd ``` #### 管理受信任的存储池 Adding Servers ``` # gluster peer probe ``` Verify ``` gluster peer status ``` Listing Servers ``` gluster pool list ``` Removing Servers ``` gluster peer detach ``` ### SET UP Storage >包括 扩容 缩容 停止卷 删除卷 以及其他一下参数选项 > https://docs.gluster.org/en/latest/Administrator%20Guide/Managing%20Volumes/#expanding-volumes