在多台机器之间复制大量小文件,对比scp/rsync。
功能对比
排除文件、文件夹功能
scp 没有找到
rsync 可以通过 --exclude选项排除文件、文件夹
性能对比
# 大小
[root@v125008243 source]# du -hs *
198M xxx
# 数量
[root@v125008243 source]# find . | wc -l
19776
# scp时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;scp -r /opt/source/* root@10.101.81.28:/opt/source > /dev/null; echo $[`date +%s` - $start]
141
# rsync时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
10
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
198M /opt/source
# rsync排除svn文件夹时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq --exclude=".svn" /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
4
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
83M /opt/source
可以看到,rsync在大量小文件的情况下,速度要比scp快很多,大约只需要7%的时间。
还可以通过文件过滤的方式,减少传输量,进一步提升速度。
分享到:
相关推荐
【IT十八掌徐培成】Hadoop第02天-02.scp-rsync-ssh root配置.zip这个压缩包文件主要关注的是在Hadoop环境中如何有效地进行文件传输和远程操作,其中涉及到三个核心工具:scp(Secure Copy)、rsync(Remote Sync)...
易于使用的受限制的安全外壳,适用于SFTP,SCP和RSYNC。 基于( )。 用法 将用户定义为docker run最后一个参数,每个参数一个用户(语法: user:pass[:e][:[uid][:gid]] )。 如果要让用户使用与主机文件系统相...
有些机房会限制机器的流量,为了不触及底线,在使用scp和rsync的时候都要注意。 为了避免你的scp或者rsync因为无良&懒惰的OPS设置防火墙的偷懒而造成的断流现象,我们必须对自己的数据传输进行一定的限流措施,慢...
9. **兼容性和互操作性**:讨论SCP03与其他安全协议的关系,以及如何与其他GP版本或其他标准进行兼容。 这个PDF文档对于理解GP2.2SCP03协议的细节,以及在智能卡系统中实现安全通信具有极高的参考价值。对于从事...
- RSYNC与SCP的比较:提到了Rsync在处理大量数据备份时的高效性,以及与SCP相比的优势。 - RSYNC特性和优点:包括镜像保存整个目录树和文件系统、保持文件属性、压缩传输、安全性高等。 - 完整备份、差异备份和增量...
相较于传统的`scp`命令,`rsync`具有更快的传输速度,并且支持增量更新,这意味着在多次同步时只需要传输发生变化的部分数据。 #### 二、安装与基本用法 1. **安装**:在Ubuntu系统中,可以通过包管理器来安装`...
通过这个测试工具,开发者或系统管理员可以确保Worklist SCP服务正确地运行,符合DICOM标准,并且能够与各种不同设备(如CT、MRI扫描仪)进行有效通信。 该压缩包文件"Worklist SCP测试工具.rar"包含的资源可能有...
SCP的拓扑结构则描述了SCP如何与系统内的其他组件相互连接,如连接到电源管理单元、GPIO控制器等,以便实现高效、可靠的电源管理和系统控制。 理解这些知识点对于开发和调试基于ARM SCP的电源管理系统至关重要。...
SSH不仅用于远程命令执行,还可以用于文件传输,例如前面提到的rsync和pscp就常与ssh结合使用。ssh还可以通过公钥认证实现无密码登录,提高工作效率。在管理多台服务器或进行自动化运维时,SSH扮演着核心角色。 在...
【服务端并发的网络复制命令scp】 在Linux操作系统中,`scp`(Secure Copy)...然而,需要注意的是,直接在`scp`命令中集成并发复制可能需要自定义实现,或者使用专门的文件分发工具,如`rsync`配合`--parallel`选项。
#scp ~/.ssh/id_rsa.pub root@192.166.68.78:~/.ssh/authorized_keys ``` 这将将client上的密钥文件内容加入到server的authorized_keys文件中。 4. 测试一下 使用以下命令测试ssh的自动登录: ``` #ssh root@192.1...
综上所述,"优化scp传输文件到多个主机"这一主题涵盖了脚本编写、scp命令的使用、系统管理、错误处理、性能优化等多个IT知识点。通过熟练掌握这些技能,可以在部署大规模系统时显著提高工作效率。
与前两个版本SCP01和SCP02相比,SCP03引入了更多基于AES的技术,并提供了一系列新特性。 #### 二、重要概念与功能 ##### 1. 安全信道协议SCP03 - **定义**: SCP03是一种基于AES加密算法的安全信道协议,用于保护...
标题"SolarWinds-SFTP-SCP-Server.zip"指出,这是一个与SolarWinds相关的软件包,主要用于提供SCP(Secure Copy Protocol)和SFTP(Secure File Transfer Protocol)服务。这两个协议都是安全的数据传输协议,用于在...
Linux的scp命令可以在Linux服务器之间复制文件和目录。 使用语法: scp [参数] [源路径] @IP:/目标路径 scp 参数如下: -1: 强制scp命令使用协议ssh1 -2: 强制scp命令使用协议ssh2 -4: 强制scp命令只使用IPv4...
SCPlog_scp_源码是关于SCP(Secure Copy Protocol)的一种特定实现或工具的源代码。SCP是一种在不安全的网络环境中安全传输文件的...同时,阅读和理解日志文件可以帮助你找出可能的问题,优化SCP服务的性能和安全性。
远程文件传输rsync-断点续传及增量传输,rsync实现断点续传 ...可以考虑使用rsync命令替代scp来断点续传文件 win10下使用git配置rsync实现断点续传,解压缩后cp到git对应usr目录下,打开bash 输入 rsync --version 验证
**安装与使用Fugo**: 1. 下载:可以从官方或者第三方软件下载平台获取Fugo的最新版本,例如提供的压缩包文件“Fugu-1.2.0-Universal-English_1.0.dmg”。 2. 安装:双击.dmg文件,将Fugo图标拖动到"应用程序...
5. **编程与模组制作**:对于熟悉游戏开发的人来说,这个压缩包可能包含可用来研究游戏引擎、图形渲染、AI系统等方面的信息,甚至可能激发玩家创作自己的SCP模组。 6. **社区文化**:SCP游戏的流行也催生了一个活跃...