博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Rsync、Inotify-tools简介
阅读量:6377 次
发布时间:2019-06-23

本文共 9367 字,大约阅读时间需要 31 分钟。

Rsync简介

rsync,remote synchronize顾名思意就知道它是一款实现远程同步功能的软件,它在同步文件的同时,可以保持原来文件的权限、时间、软硬链接等附加信息。rsync是用 “rsync 算法”提供了一个客户机和远程文件服务器的文件同步的快速方法,而且可以通过ssh方式来传输文件,这样其保密性也非常好,另外它还是免费的软件。

地址:http://rsync.samba.org/ftp/rsync/src/

安装

CentOS系统默认已经安装rsync

1
2
3
4
5
6
7
8
9
[root@localhost ~]
# rpm -qa|grep -i rsync
rsync
-3.0.6-12.el6.x86_64
[root@localhost ~]
# rpm -e --nodeps $(rpm -qa|grep -i rsync)
[root@localhost ~]
# rpm -qa|grep -i rsync
[root@localhost ~]
# cd /usr/local/src/
[root@localhost src]
# tar -zxvf rsync-3.1.2.tar.gz         #yum install -y rsync
[root@localhost src]
# cd rsync-3.1.2
[root@localhost 
rsync
-3.1.2]
# ./configure --prefix=/app/rsync
[root@localhost 
rsync
-3.1.2]
# make && make install

配置

同步目的端需要配置,数据源端无需配置。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
[root@localhost 
rsync
-3.1.2]
# vim /etc/rsyncd.conf
[global]                        
#全局配置
uid = nobody
gid = nobody
use chroot = no
timeout =300
port = 873
max connections = 30
pid 
file 
/var/runn/rsyncd
.pid
lock 
file 
/var/runn/rsync
.lock
log 
file 
/var/log/rsyncd
.log
log 
format 
= %t %a %u %m %f %b    
#日志的格式 %h 远程主机名
                       
%a 远程IP地址
                       
%l 文件长度字符数
                       
%p 该次
rsync
会话的进程
id
                       
%o 操作类型:
"send"
"recv"
                       
%f 文件名
                       
%P 模块路径
                       
%m 模块名
                       
%t 当前时间
                        
%u 认证的用户名(匿名时是null)
                        
%b 实际传输的字节数
                       
%c 当发送文件时,该字段记录该文件的校验码
                       
默认log格式为:
"%o %h [%a] %m (%u) %f %l"
,一般来说,在每行的头上会添加
"%t [%p] "
[app_rsync_server]                
# 要同步的模块名
path = 
/app/rsync_server
comment = server                  
#这个名名称无所谓  
read 
only = no                    
# no客户端可上传文件,yes只读
write only = no                    
# no客户端可下载文件,yes不能下载
list = no                        
#是否提供资源列表
ignore errors                    
#忽略一些无关的IO错误
hosts allowd = 10.15.43.0
/24         
#多个IP或网段需要用空格隔开,“*”则表示所有,默认是允许所有主机连接
hosts deny = *
auth 
users 
rsync                
#登陆系统使用的用户名,没有默认为匿名
secrets 
file 
/etc/rsyncd
.secret    
#密码文件存放的位置
[root@localhost 
rsync
-3.1.2]
# vim /etc/rsyncd.secret
rsync
:123456
[root@localhost 
rsync
-3.1.2]
# chmod 600 /etc/rsyncd.secret

ignore errors

        这个选项最好加上,否则再很多crontab的时候往往发生错误你也未可知,因为你不可能天天去看每时每刻去看log,不加上这个出现错误的几率相对会很高,因为任何大点的项目和系统,磁盘IO都是一个瓶颈。

启动与关闭

daemon方式启动

1
2
3
4
5
6
7
[root@localhost 
rsync
-3.1.2]
# /app/rsync/bin/rsync --daemon --config=/etc/rsyncd.conf
[root@localhost 
rsync
-3.1.2]
# netstat -anotp|grep :873
tcp        0      0 0.0.0.0:873                 0.0.0.0:*                   LISTEN      9622
/rsync          
off (0.00
/0/0
)
tcp        0      0 :::873                      :::*                        LISTEN      9622
/rsync          
off (0.00
/0/0
)
[root@localhost 
rsync
-3.1.2]
# pkill rsync
[root@localhost 
rsync
-3.1.2]
# netstat -anotp|grep :873
[root@localhost 
rsync
-3.1.2]
#

利用xinetd控制rsync启动

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
[root@localhost 
rsync
-3.1.2]
# vim /etc/xinetd.d/rsync 
 
# default: off
# description: The rsync server is a good addition to an ftp server, as it \
#       allows crc checksumming etc.
service 
rsync
{
        
disable = no                
#将yes改为no
        
flags           = IPv6
        
socket_type     = stream
        
wait            = no
        
user            = root
        
server          = 
/app/rsync/bin/rsync  
#修改为rsync程序路径
        
server_args     = --daemon
        
log_on_failure  += USERID
}
[root@localhost 
rsync
-3.1.2]
# /etc/init.d/xinetd restart

客户端配置和测试

客户端(数据源端)无需配置rsync配置文件/etc/rsyncd.conf,只需要安装并启动rsync和建一个和服务端一样的密码的密码文件

客户端

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
[root@localhost ~]
# yum -y install rsync xinetd
[root@localhost ~]
# vim /etc/xinetd.d/rsync
service 
rsync
{
        
disable = no   
#修改为no
        
flags           = IPv6
        
socket_type     = stream
        
wait            = no
        
user            = root
        
server          = 
/usr/bin/rsync
        
server_args     = --daemon
        
log_on_failure  += USERID
}
[root@localhost ~]
# echo 123456 > /etc/rsyncd.secret
[root@localhost ~]
# chmod 600 /etc/rsyncd.secret
[root@localhost rsync_client]
# touch file{1..8}
[root@localhost rsync_client]
# rsync -avH --port=873 --progress --delete  /app/rsync_client/ rsync@10.15.43.100::app_rsync_server --password-file=/etc/rsyncd.secret
sending incremental 
file 
list
./
file1
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#1, to-check=7/9)
file2
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#2, to-check=6/9)
file3
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#3, to-check=5/9)
file4
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#4, to-check=4/9)
file5
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#5, to-check=3/9)
file6
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#6, to-check=2/9)
file7
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#7, to-check=1/9)
file8
           
0 100%    0.00kB
/s    
0:00:00 (xfer
#8, to-check=0/9)
 
sent 404 bytes  received 163 bytes  1134.00 bytes
/sec
total size is 0  speedup is 0.00
[root@localhost rsync_client]
#

Rsync参数:

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关,强制对文件传输进行校验

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

H, --hard-links 保留硬链结

-p, --perms 保持文件权限

-o, --owner 保持文件属主信息

-g, --group 保持文件属组信息

-D, --devices 保持设备文件信息

-t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输

-W, --whole-file 拷贝文件,不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

 --exclude-from=文件名 排除文件中指定模式的文件,不传送,一行一个目录,使用相对路径

--delete-after 传输结束以后再删除

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

--force 强制删除目录,即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间,单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

-P 等同于 --partial

--progress 显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

--blocking-io 对远程shell使用阻塞IO

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽,KBytes per second

-h, --help 显示帮助信息

错误

@ERROR: Unknown module 'app_rsync_server'

rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6]

检查/etc/rsyncd.conf文件中hosts allowd项,删除了hosts deny项重启后恢复

inotify简介

            Inotify是一种强大的、细粒度的、异步的文件系统事件监控机制,Linux内核从2.6.13起,加入了对Inotify的支持,inotify-tools是用c编写的,除了要求内核支持inotify外,不依赖于其他。inotify-tools提供两种工具,一是inotifywait,它是用来监控文件或目录的变化,二是inotifywatch,它是用来统计文件系统访问的次数。通过Inotify可以监控文件系统中的添加、删除、修改、移动等各种事件.

安装

        见

配置

      Rsync+Inotify-tools实现数据实时同步实现通过脚本来实现

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
[root@localhost inotify]
# cat rsync.sh 
#!/bin/bash
src_dir=
"/app/rsync_server/"
dst_dir=
"app_rsync_client"
exclude_dir=
"/app/inotify/exclude.list"
rsync_user=
"rsync"
rsync_passwd=
"/etc/passwd.txt"
dst_ip=
"10.15.43.228 10.10.2.84"
rsync_command(){
                  
rsync 
-avH --port=873 --progress --delete --exclude-from=$exclude_dir $src_dir $rsync_user@$ip::$dst_dir --password-
file
=$rsync_passwd
}
for 
ip 
in 
$dst_ip;
do
     
rsync_command     
done
    
/app/inotify/bin/inotifywait 
-mrq --timefmt 
'%d/%m/%y %H:%M' 
--
format 
'%T %w%f%e' 
-e close_write,modify,delete,create,attrib,move $src_dir \
while 
read 
file
;
do
   
for 
ip 
in 
$dst_ip;
do
       
rsync_command
       
echo 
"${file} was rsynced" 
>> 
/tmp/rsync
.log 2>&1
   
done
 
done        
[root@localhost inotify]
# chmod +x rsync.sh
[root@localhost inotify]
# touch /app/inotify/exclude.list
[root@localhost inotify]
# vim /etc/rc.d/rc.local
nohup 
/bin/sh 
/app/inotify/rsync
.sh &
[root@localhost inotify]
# nohup /bin/sh /app/inotify/rsync.sh &

inotifywait

语法:

inotifywait [-hcmrq] [-e ] [-t ] [--format ] [--timefmt ] [ ... ]

参数:

-h,--help输出帮助信息

@排除不需要监视的文件,可以是相对路径,也可以是绝对路径。

--fromfile 从文件读取需要监视的文件或排除的文件,一个文件一行,排除的文件以@开头。

-m, --monitor保持一直监听,无限期地执行。默认的行为是接收到一个事情后立即退出。

-d, --daemon跟--monitor一样,除了是在后台运行,需要指定--outfile把事情输出到一个文件。也意味着使用了--syslog。

-o, --outfile 输出事情到一个文件而不是标准输出。

-s, --syslog输出错误信息到系统日志

-r, --recursive监视一个目录下的所有子目录。

-q, --quiet指定一次,不会输出详细信息,指定二次,除了致命错误,不会输出任何信息。

--exclude 正则匹配需要排除的文件,大小写敏感。

--excludei 正则匹配需要排除的文件,忽略大小写。

-t , --timeout 设置超时时间,如果为0,则无限期地执行下去。

-e , --event 指定监视的事件。

-c, --csv输出csv格式。

--timefmt 指定时间格式,用于--format选项中的%T格式。

                "%”后面的大小写代表不同的格式,如%y表示2位的年,%Y表示4位的年

%y年 %m月 %d日 %H小时 %M分钟 %S 秒

--format 指定输出格式。

                %w 表示发生事件的目录

                %f 表示发生事件的文件

                %e 表示发生的事件

                %Xe 事件以“X"分隔

                %T 使用由--timefmt定义的时间格式

inotifywatch

语法:

inotifywatch [-hvzrqf] [-e ] [-t ] [-a ] [-d ] [ ... ]

参数:

-h, --help输出帮助信息

-v, --verbose输出详细信息

@排除不需要监视的文件,可以是相对路径,也可以是绝对路径。

--fromfile 从文件读取需要监视的文件或排除的文件,一个文件一行,排除的文件以@开头。

-z, --zero输出表格的行和列,即使元素为空

--exclude 正则匹配需要排除的文件,大小写敏感。

--excludei 正则匹配需要排除的文件,忽略大小写。

-r, --recursive监视一个目录下的所有子目录。

-t , --timeout 设置超时时间

-e , --event 监听指定的事件。

-a , --ascending 以指定事件升序排列。

-d , --descending 以指定事件降序排列。

可监听事件

access文件读取

modify文件更改。

attrib文件属性更改,如权限,时间戳等。

close_write以可写模式打开的文件被关闭,不代表此文件一定已经写入数据。

close_nowrite以只读模式打开的文件被关闭。

close文件被关闭,不管它是如何打开的。

open文件打开。

moved_to一个文件或目录移动到监听的目录,即使是在同一目录内移动,此事件也触发。

moved_from一个文件或目录移出监听的目录,即使是在同一目录内移动,此事件也触发。

move包括moved_to和 moved_from

move_self文件或目录被移除,之后不再监听此文件或目录。

create文件或目录创建

delete文件或目录删除

delete_self文件或目录移除,之后不再监听此文件或目录

unmount文件系统取消挂载,之后不再监听此文件系统。

本文转自 justin_peng 51CTO博客,原文链接:http://blog.51cto.com/ityunwei2017/1952655,如需转载请自行联系原作者

你可能感兴趣的文章
4 在vCenter Server安装View Composer组件
查看>>
SFB 项目经验-24-为持久聊天室-查询或者增加成员
查看>>
Linux下配置Squid基础教程
查看>>
当Cacti遭遇大流量
查看>>
Outlook Anywhere 客户端配置详解
查看>>
《Windows Server 2008 R2系统管理实战》前言与内容提要
查看>>
轻巧的网络流量实时监控工具NTOPNG
查看>>
Access、Sql 获取当前插入的主键ID
查看>>
聚类算法之DBScan(Java实现)
查看>>
为什么要使用AOP?
查看>>
VC :模板类
查看>>
对C++中string类型的总结
查看>>
Oracle发布公共云Public Cloud
查看>>
eclipse高亮显示
查看>>
Shell 操作数据库
查看>>
if lte IE if gte IE 浏览器兼容
查看>>
基于Lumisoft.NET组件和.NET API实现邮件发送功能的对比
查看>>
C#数据库访问技术之DATAREADER对象读取数据
查看>>
各种排序方法
查看>>
编译时程序透彻理解异常并合理使用异常
查看>>