Centos：lsync+rsync 文件实时同步

  web服务在达到一定量级以后，服务器就会出现瓶颈，前不久就出现了这样的问题。

  我们的商城项目一直是单机模式(单服务器运行)，有次促销活动，结果服务器的cpu直接饱满，飙到了100%，负载达到了100多，这就很恐怖了，长时间这样的话，随时都会宕机。

  鉴于这种情况，那就得上负载均衡了，然而负载均衡就是需要多服务器部署，首先要解决的问题就是服务器之间的代码同步问题，调研过很多方案，比如Jenkins,Walle等部署方式，要不就是太过于复杂，活着就是不稳定，总的来说我们只需要代码同步这一个功能，尽可能的简单，像Jenkins这样的工具，不是说不好，他确实好用，而且老牌的工具，只是现在我们还没达到那个量级，也不需要太复杂的东西，言归正传，现在就跟大家一步一步的说一下 lsync+rsync 这两个轻巧的工具。

准备环境:

系统环境: Centos 7.2

主(master)： 192.168.0.113

备(slave)： 192.168.0.114

备机操作

1. 安装rsync

yum -y install xinetd rsync

2. 开启rsync守护进程

[root@slave ~]# vim /etc/xinetd.d/rsync

service rsync
{
        disable = no
        flags           = IPv4
        socket_type     = stream
        wait            = no
        user            = root
        server          = /usr/bin/rsync
        server_args     = --daemon
        log_on_failure  += USERID
}

3. 修改后启动服务并添加开机自启动

[root@slave ~]# service xinetd start
[root@slave ~]# systemctl enable xinetd.service

4. 配置同步存储路径

[root@slave ~]# vim /etc/rsyncd.conf
[web]
path = /data/www
hosts allow = 192.168.0.113
hosts deny = *
list = true
uid = root
gid = root
read only = false

5. 以daemon模式启动rsync

[root@slave ~]# /usr/bin/rsync  --daemon

主机操作：

1. 新增lsync 源,并安装(默认没有)

[root@master ~]# wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
[root@master ~]# yum install lsyncd rsync

2. 开启 lsyncd 配置文件

[root@master ~]# vim /etc/sysconfig/lsyncd

# Keep the space there for systemd. Don't nest variables without
# changing the systemd service file to use: /usr/bin/sh -c 'eval XXXX'
#
LSYNCD_OPTIONS="-pidfile /var/run/lsyncd.pid /etc/lsyncd.conf"（把#去掉）
#LSYNCD_OPTIONS=" "
#LSYNCD_USER=""

3. 增加 lsyncd 主配置

[root@master ~]# vim /etc/lsyncd.conf
注:如有这条请将其注释,Centos7 默认是没有注释掉的(前面加 -- 即注释)
-- sync{default.rsyncssh, source="/var/www/html", host="localhost", targetdir="/tmp/htmlcopy/"}


settings {
   --pidfile = "/var/run/lsyncd.pid",
   --nodaemon   = false,
   inotifyMode = "CloseWrite",
   maxProcesses = 8,
   statusFile = "/tmp/lsyncd.status",
   statusInterval = 1,
   logfile = "/var/log/lsyncd/lsyncd.log"
}



sync {
    default.rsync,
    source    = "/data/www",
    target    = "192.168.0.114::www",
    delete="running",
    excludeFrom = "/etc/rsync_exclude.lst",
    delay = 5,
    init = false,
    rsync     = {
        binary = "/usr/bin/rsync",
        perms = true,
        acls = true,
        xattrs = true,
        links = true,
        quiet = true,
        archive = true,
        compress = true,
        verbose   = true,
        --password_file = "/etc/rsync.pwd",
        _extra    = {"--bwlimit=200"}
        }
    }

lsyncd.conf参数配置详解:

settings

里面是全局设置，--开头表示注释，下面是几个常用选项说明：

logfile 定义日志文件
stausFile 定义状态文件
nodaemon=true 表示不启用守护模式，默认
statusInterval 将lsyncd的状态写入上面的statusFile的间隔，默认10秒
inotifyMode 指定inotify监控的事件，默认是CloseWrite，还可以是Modify或CloseWrite or Modify
maxProcesses 同步进程的最大个数。假如同时有20个文件需要同步，而maxProcesses = 8，则最大能
看到有8个rysnc进程maxDelays 累计到多少所监控的事件激活一次同步，即使后面的delay
延迟时间还未到
sync

里面是定义同步参数，可以继续使用maxDelays来重写settings的全局变量。
一般第一个参数指定lsyncd以什么模式运行：rsync、rsyncssh、direct三种模式：

default.rsync ：本地目录间同步，使用rsync，也可以达到使用ssh形式的远程rsync效果，
或daemon方式连接远程rsyncd进程；
default.direct ：本地目录间同步，使用cp、rm等命令完成差异文件备份；
default.rsyncssh ：同步到远程主机目录，rsync的ssh模式，需要使用key来认证

source 同步的源目录，使用绝对路径。

target 定义目的地址.对应不同的模式有几种写法：
/tmp/dest ：本地目录同步，可用于direct和rsync模式
192.168.0.114:/tmp/dest ：同步到远程服务器目录，可用于rsync和rsyncssh模式，
拼接的命令类似于/usr/bin/rsync -ltsd --delete --include-from=- --exclude=* SOURCE TARGET，
剩下的就是rsync的内容了，比如指定username，免密码同步
192.168.0.114::module ：同步到远程服务器目录，用于rsync模式
三种模式的示例会在后面给出。

init 这是一个优化选项，当init = false，只同步进程启动以后发生改动事件的文件，
原有的目录即使有差异也不会同步,默认是true

delay 累计事件，等待rsync同步延时时间，默认15秒（最大累计到1000个不可合并的事件）。也就是15s内监
控目录下发生的改动，会累积到一次rsync同步，避免过于频繁的同步。（可合并的意思是，15s内两次修改了同一文件，
最后只同步最新的文件）

excludeFrom 排除选项，后面指定排除的列表文件，如excludeFrom = "/etc/lsyncd.exclude"，
如果是简单的排除，可以使用exclude = LIST。
这里的排除规则写法与原生rsync有点不同，更为简单：
监控路径里的任何部分匹配到一个文本，都会被排除，例如/bin/foo/bar可以匹配规则foo
如果规则以斜线/开头，则从头开始要匹配全部
如果规则以/结尾，则要匹配监控路径的末尾
?匹配任何字符，但不包括/
*匹配0或多个字符，但不包括/
**匹配0或多个字符，可以是/
delete 为了保持target与souce完全同步，Lsyncd默认会delete = true来允许同步删除。
它除了false，还有startup、running值，请参考 Lsyncd 2.1.x ‖ Layer 4 Config ‖ Default Behavior。
rsync

(提示,delete和exclude本来都是rsync的选项,上面是配置在sync中的,我想这样做的原因是为了减少rsync的开销)

bwlimit 限速，单位kb/s，与rsync相同（这么重要的选项在文档里竟然没有标出）
compress 压缩传输默认为true。在带宽与cpu负载之间权衡，本地目录同步可以考虑把它设为false
perms 默认保留文件权限。
其它rsync的选项
其它还有rsyncssh模式独有的配置项，如host、targetdir、rsync_path、password_file，
见后文示例。rsyncOps={"-avz","--delete"}这样的写法在2.1.*版本已经不支持。

lsyncd.conf可以有多个sync，各自的source，各自的target，各自的模式，互不影响。

4. 将需要过滤的目录或文件添加到 过滤配置文件列表里

[root@master ~]# vim /etc/rsync_exclude.lst

logs/
runtime/

5. 修改默认监控的文件数(默认是8192)

[root@master ~]# vim /etc/sysctl.conf
fs.inotify.max_user_watches = 2001192
[root@master ~]# sysctl -p

6. 未开启lsyncd前先验一下 rsync 功能是否可正常同步

[root@master ~]# chmod 600 /etc/rsync.pwd

root:root123

[root@master ~]# rsync -avz --delete --exclude-from=/etc/rsync_exclude.lst \
--password-file=/etc/rsync.pwd /data/www/ 192.168.0.114::www

7. 启动 lsyncd 服务

[root@master ~]# lsyncd -pidfile /var/run/lsyncd.pid /etc/lsyncd.conf
[root@master ~]# ps xf |grep lsync
[root@master ~]# /etc/init.d/lsyncd status
[root@master ~]# systemctl start lsyncd
[root@master ~]# systemctl enable lsyncd

8. 放行防火墙端口 873(rsync默认端口)

开机启动: systemctl enable firewalld

 重新启动: systemctl restart firewalld
 
 查看状态：systemctl status firewalld

 启动:  systemctl start firewalld
 
 停止:  systemctl stop firewalld

 禁用：systemctl disable firewalld

systemctl unmask firewalld
firewall-cmd --permanent --zone=public --add-port=873/tcp
firewall-cmd --reload

查看所有端口
firewall-cmd --permanent --zone=public --list-ports

致谢

感谢看到这里，如果你觉得这篇文章帮到了你，可以请我喝杯咖啡，谢谢。