Linux下同步工具sersync+rsync使用详解【实战篇】
1、实战背景需求：数据在两台物理机上各存储一份，确保第一份备份失效后，第二份有效。目录关系如下： 应用服务器数据库服务器CX应用平台 XP应用平台 JS应用平台 CX数据平台 XP数据平台 JS数据平台 NFS平台提供挂载目录（CX应用平台 XP应用平台 JS应用平台） NFS平台提供挂载目录（CX数据平台 XP数据平台 J
1、实战背景
需求：数据在两台物理机上各存储一份，确保第一份备份失效后，第二份有效。
目录关系如下：
| 应用服务器 | 数据库服务器 |
| CX应用平台 XP应用平台 JS应用平台 | CX数据平台 XP数据平台 JS数据平台 |
| NFS平台提供挂载目录（CX应用平台 XP应用平台 JS应用平台） | NFS平台提供挂载目录（CX数据平台 XP数据平台 JS数据平台） |
| rsync+sersync平台同步目录（CX应用平台 XP应用平台 JS应用平台） | rsync+sersync同步目录（CX数据平台 XP数据平台 JS数据平台） |
| 平台名称 | IP地址 | 绝对路径 |
| CX应用平台 | 192.168.66.151 | /data/sp |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/sp |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/sp |
| 平台名称 | IP地址 | 绝对路径 |
| XP应用平台 | 192.168.66.131/132 | /data/sp |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/sp |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/sp |
| 平台名称 | IP地址 | 绝对路径 |
| JS应用平台 | 192.168.66.133/134 | /home/js/df /home/js/ds |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/df /data/ds |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/df /databackup/ds |
| 平台名称 | IP地址 | 绝对路径 |
| CX数据平台 | 192.168.66.152 | /backupall/cxdb3306/ /backupall/cxdb3307/ /backupall/cxdb3308/ |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/cxdb3306/ /data/cxdb3307/ /data/cxdb/3308/ |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/cxdb3306/ /databackup/cxdb3307/ /databackup/cxdb3308/ |
| 平台名称 | IP地址 | 绝对路径 |
| XP数据平台 | 192.168.66.143 | /backupall/xpdb/ |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/xpdb/ |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/xpdb/ |
| 平台名称 | IP地址 | 绝对路径 |
| JS数据平台 | 192.168.66.147 | /backupall/jsdb/ |
| NFS平台提供挂载目录 | 192.168.66.155 | /data/jsdb/ |
| rsync+sersync平台同步目录 | 192.168.66.153 | /databackup/jsdb/ |
二、以CX平台为例，配置如下：
1、66.151 （CX平台）
#mkdir /data/sp (创建相关目录)
#vi /etc/fstab（151挂载NFS目录）
192.168.66.155:/data/sp /data/sp nfs defaults 0 0
#192.168.66.153:/data/sp /data/sp nfs defaults 0 0 （设置备用挂载点）
#mount -a (挂载)
#df -h （确定是否成功挂载）
#####此时挂载的目录权限与nfs服务器对应的目录一致#####
2、66.155（NFS服务器）
#mkdir /data/sp (创建相关目录)
#vi /etc/exports (设置挂载权限)
/data/sp 192.168.66.151(rw,sync)
#exportfs -a (重新加载/etc/exports文件)
#showmount -e （查看nfs挂载情况）
#yum install rsync -y （作为rsync客户端，rsync在CentOS6上默认已经安装，如果没有则安装，服务端和客户端是同一个安装包。)
#vi /etc/rsync_client.pwd (客户端测试同步,单向同步时，客户端只需要一个包含密码的文件)
#chmod 600 /etc/rsync_client.pwd
#/usr/bin/rsync -auvrtzopgP --progress --password-file=/etc/rsync_client.pwd /data/sp/ rsync@192.168.66.153::sp 将本地/data/sp/目录同步到远程192.168.66.153的/databackup/sp/ 目录（sp指定） 传过去的文件属性是sp模块定义的tomcat：tomcat
#/usr/bin/rsync -auvrtzopgP --progress --password-file=/etc/rsync_client.pwd rsync@192.168.66.153::sp /data/sp/ (当然你也可以将远程的/databackup/sp/目录同步到本地目录/data/sp/) 拉回来的文件在原主机上是什么属性就是什么属性，与sp模块无关 比如root：root不会改变为tomcat：tomcat
3、66.153（rsync服务器）
#mkdir -p /databackup/sp (创建相关目录)
#vi /etc/exports (提供备用挂载点，设置挂载权限)
/databackup/sp 192.168.66.151(rw,sync)
#exportfs -a (重新加载/etc/exports文件)
#showmount -e （查看nfs挂载情况）
#yum install rsync -y （作为rsync服务端，rsync在CentOS6上默认已经安装，如果没有则安装，服务端和客户端是同一个安装包。)
#vi /etc/rsyncd.conf
port=873 (监听端口默认为873，也可以是别的端口)
uid = root（以哪个用户的身份来传输，这里只认uid，传输时一定要注意两台设备的ID，如果传输的时候两台ID不一致，请确定目标服务器需要使用什么uid，然后在源设备已该uid权限推送）
gid = root （以哪个组的身份来传输，这里只认gid，传输时一定要注意两台设备的ID）user chroot = no （是否限定在该目录下，默认为true，当有软连接时，需要改为fasle,如果为true就限定为模块默认目录）
max connections = 20 （指定最大可以连接的客户端数）
timeout = 60
pid file = /var/run/rsyncd.pid (指定pid)
lock file = /var/run/rsyncd.lock
motd file = /etc/rsyncd.motd
log file = /var/log/rsyncd.log (指定日志)
[sp]
path = /databackup/sp/ (制定数据存放的路径)
ignore errors （忽略错误）
read only = no （是否为只读，如果是no的话，客服端可以推送给服务端）
list = no （是否可以列出模块名， 如果为yes的话会列出客户端所有的模块名字）
hosts allow = 192.168.66.155 （设置可以允许访问的主机，可以是网段，多个Ip地址用空格隔开）
auth users = rsync （指定验证用户名rsync。可以不设置，不设置默认不用密码，设置的话安全性更高点）
secrets file =/etc/rsyncd.pwd （指定密码文件，如果设定验证用户，这一项必须设置，设定密码权限为400，密码文件/etc/rsyncd.passwd的内容格式为：username:password ）
#chmod 600 /etc/rsync_server.pwd
#vi /etc/xinetd.d/rsync (修改/etc/xinetd.d/rsync文件，disable 改为 no,服务器启动rsync后台服务)
#service xinetd restart (重启rsync后台进程)
下一步就是同步了---------------------------------------------------------------------------------------------------------------------------------------------------------------
(1)当同步的目录数据量不大时，建议使用rsync+inotify
(2)当同步的目录数据量很大时（几百G甚至1T以上）文件很多时，建议使用rsync+sersync
这里使用rsync+sersync，需要搞清楚的是，监控的是NFS平台上的目录，推送到的是rsync备份平台，所以在NFS平台上装好inotify或者sersync工具。除此之外，一般还在rsync备份平台上将rsync配置为daemon运行模式，让其在873端口上处于监听状态。也就是说，对于rsync来说，监控端是rsync的客户端，其他的是rsync的服务端。
三、安装sersync
1.下载地址
# cd /usr/local/src/
2.解压软件包
# tar zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz
3.创建目录结构
# mkdir /usr/local/sersync
# mkdir /usr/local/sersync/conf
# mkdir /usr/local/sersync/logs
# mkdir /usr/local/sersync/bin
4.移动文件
# mv GNU-Linux-x86/sersync2 /usr/local/sersync/bin/
# mv GNU-Linux-x86/confxml.xml /usr/local/sersync/conf
5.配置环境变量
# vim /etc/profile.d/sersync.sh
# echo "PATH=$PATH:/usr/local/sersync" > /etc/profile.d/sersync.sh
# source /etc/profile.d/sersync.sh
6.配置
# cd /usr/local/sersync/conf
# cp confxml.xml confxml.xml.bak
# vim confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
<host hostip="localhost" port="8008"></host> # 设置本地IP和端口
<debug start="false"/> # 是否开启调试模式，下面所有出现false和true的地方都分别表示关闭和开启的开关
<fileSystem xfs="false"/> # 监控的是否是xfs文件系统
<filter start="false"> # 是否启用监控的筛选功能，筛选的文件将不被监控,默认关闭
<exclude expression="(.*)\.svn"></exclude>
<exclude expression="(.*)\.gz"></exclude>
<exclude expression="^info/*"></exclude>
<exclude expression="^static/*"></exclude>
</filter>
<inotify> # 设置监控的事件，默认监控的是delete/close_write/moved_from/moved_to/create folder
<delete start="true"/>
<createFolder start="true"/>
<createFile start="false"/>
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="false"/>
<modify start="false"/>
</inotify>
<sersync> # rsync命令的配置段
<localpath watch="/data/sp"> # 本地监控同步的目录或文件，同inotify+rsync一样，建议同步目录
<remote ip="192.168.66.153" name="sp"/> # 目标地址和rsync daemon的模块名，所以远端要以daemon模式先运行好rsync
<!--remote ip="IPADDR" name="module"--> # 除非下面开启了ssh start，此时name为远程shell方式运行时的目标目录
</localpath>
<rsync> # 指定rsync选项
<commonParams params="-auvrtzopgP"/>
<auth start="true" users="rsync" passwordfile="/etc/rsync_client.pwd"/> #rsync同步认证
<userDefinedPort start="false" port="874"/><!-- port=874 --> # 设置rsync远程服务端口，非默认端口需要打开自定义(若开启rsync+ssh, 则这里需定义SSH端口)
<timeout start="true" time="100"/><!-- timeout=100 --> # 设置超时时间
<ssh start="false"/> # 是否使用远程shell模式而非rsync daemon运行rsync命令
</rsync>
<failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> # 错误重传。sersync传输失败日志脚本路径，每隔60会重新执行该脚本，执行完毕会自动清空。
<crontab start="false" schedule="600"><!--600mins--> # 是否开启crontab功能，默认关闭
<crontabfilter start="false"> # crontab定时传输的筛选功能
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
<plugin start="false" name="command"/>
</sersync>
<plugin name="command"> # 插件脚本范例
<param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
<filter start="false">
<include expression="(.*)\.php"/>
<include expression="(.*)\.sh"/>
</filter>
</plugin>
<plugin name="socket"> # 插件脚本范例
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>
</head>
7.启动
# /usr/local/sersync/bin/sersync2 -d -r -o /usr/local/sersync/conf/confxml.xml
说明：还有些其他参数，使用“-h”选项查看。
--------------------------------------------------
参数-d:启用守护进程模式，让sersync2运行在后台
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍，:即首先让远端目录和本地一致，以后再同步则通过监控实现增量同步
参数-n:指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
------------------------------------------------------------------
对于sersync多实例，也即监控多个目录时，只需分别配置不同配置文件，然后使用sersync2指定对应配置文件运行即可。
# sersync2 -r -d -o /etc/sersync.d/nginx.xml
8.测试
在nfs服务器创建一个文件，实时被同步至rsync服务器。
最后记得在/etc/rc.d/rc.local中添加启动项目。
参考文章
inotify+rsync详细说明和sersync
更多推荐
1
0- 0
已为社区贡献7条内容
所有评论(0)