`
tinyhema
  • 浏览: 152163 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

scp与rsync性能实测

 
阅读更多
在多台机器之间复制大量小文件,对比scp/rsync。

功能对比

排除文件、文件夹功能

scp  没有找到

rsync 可以通过 --exclude选项排除文件、文件夹


性能对比

# 大小
[root@v125008243 source]# du -hs *
198M    xxx

# 数量
[root@v125008243 source]# find . | wc -l
19776

# scp时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;scp -r /opt/source/* root@10.101.81.28:/opt/source > /dev/null; echo $[`date +%s` - $start]
141

# rsync时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
10
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
198M    /opt/source

# rsync排除svn文件夹时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq --exclude=".svn" /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
4
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
83M     /opt/source


可以看到,rsync在大量小文件的情况下,速度要比scp快很多,大约只需要7%的时间。
还可以通过文件过滤的方式,减少传输量,进一步提升速度。
分享到:
评论

相关推荐

    【IT十八掌徐培成】Hadoop第02天-02.scp-rsync-ssh root配置.zip

    【IT十八掌徐培成】Hadoop第02天-02.scp-rsync-ssh root配置.zip这个压缩包文件主要关注的是在Hadoop环境中如何有效地进行文件传输和远程操作,其中涉及到三个核心工具:scp(Secure Copy)、rsync(Remote Sync)...

    docker-rssh:SFTP,SCP和RSYNC的受限制安全外壳

    易于使用的受限制的安全外壳,适用于SFTP,SCP和RSYNC。 基于( )。 用法 将用户定义为docker run最后一个参数,每个参数一个用户(语法: user:pass[:e][:[uid][:gid]] )。 如果要让用户使用与主机文件系统相...

    rsync 限制速度(防止rsync耗带宽)

    有些机房会限制机器的流量,为了不触及底线,在使用scp和rsync的时候都要注意。 为了避免你的scp或者rsync因为无良&懒惰的OPS设置防火墙的偷懒而造成的断流现象,我们必须对自己的数据传输进行一定的限流措施,慢...

    Rsync+sersync实现数据实时同步备份

    - RSYNC与SCP的比较:提到了Rsync在处理大量数据备份时的高效性,以及与SCP相比的优势。 - RSYNC特性和优点:包括镜像保存整个目录树和文件系统、保持文件属性、压缩传输、安全性高等。 - 完整备份、差异备份和增量...

    rsync命令详细解答

    相较于传统的`scp`命令,`rsync`具有更快的传输速度,并且支持增量更新,这意味着在多次同步时只需要传输发生变化的部分数据。 #### 二、安装与基本用法 1. **安装**:在Ubuntu系统中,可以通过包管理器来安装`...

    GP2.2SCP03_GP2.2SCP03_scp03_

    9. **兼容性和互操作性**:讨论SCP03与其他安全协议的关系,以及如何与其他GP版本或其他标准进行兼容。 这个PDF文档对于理解GP2.2SCP03协议的细节,以及在智能卡系统中实现安全通信具有极高的参考价值。对于从事...

    Worklist SCP测试工具.rar

    通过这个测试工具,开发者或系统管理员可以确保Worklist SCP服务正确地运行,符合DICOM标准,并且能够与各种不同设备(如CT、MRI扫描仪)进行有效通信。 该压缩包文件"Worklist SCP测试工具.rar"包含的资源可能有...

    ARM scp代码解析+参考资料

    SCP的拓扑结构则描述了SCP如何与系统内的其他组件相互连接,如连接到电源管理单元、GPIO控制器等,以便实现高效、可靠的电源管理和系统控制。 理解这些知识点对于开发和调试基于ARM SCP的电源管理系统至关重要。...

    rsync、pscp、ssh

    SSH不仅用于远程命令执行,还可以用于文件传输,例如前面提到的rsync和pscp就常与ssh结合使用。ssh还可以通过公钥认证实现无密码登录,提高工作效率。在管理多台服务器或进行自动化运维时,SSH扮演着核心角色。 在...

    Rsync+ssh双机同步测试及问题解决

    #scp ~/.ssh/id_rsa.pub root@192.166.68.78:~/.ssh/authorized_keys ``` 这将将client上的密钥文件内容加入到server的authorized_keys文件中。 4. 测试一下 使用以下命令测试ssh的自动登录: ``` #ssh root@192.1...

    服务端并发的网络复制命令scp

    【服务端并发的网络复制命令scp】 在Linux操作系统中,`scp`(Secure Copy)...然而,需要注意的是,直接在`scp`命令中集成并发复制可能需要自定义实现,或者使用专门的文件分发工具,如`rsync`配合`--parallel`选项。

    SCP03中文版

    与前两个版本SCP01和SCP02相比,SCP03引入了更多基于AES的技术,并提供了一系列新特性。 #### 二、重要概念与功能 ##### 1. 安全信道协议SCP03 - **定义**: SCP03是一种基于AES加密算法的安全信道协议,用于保护...

    优化scp传输文件到多个主机

    综上所述,"优化scp传输文件到多个主机"这一主题涵盖了脚本编写、scp命令的使用、系统管理、错误处理、性能优化等多个IT知识点。通过熟练掌握这些技能,可以在部署大规模系统时显著提高工作效率。

    SolarWinds-SFTP-SCP-Server.zip

    标题"SolarWinds-SFTP-SCP-Server.zip"指出,这是一个与SolarWinds相关的软件包,主要用于提供SCP(Secure Copy Protocol)和SFTP(Secure File Transfer Protocol)服务。这两个协议都是安全的数据传输协议,用于在...

    Linux使用scp命令进行文件远程拷贝详解

    Linux的scp命令可以在Linux服务器之间复制文件和目录。 使用语法: scp [参数] [源路径] @IP:/目标路径 scp 参数如下: -1: 强制scp命令使用协议ssh1 -2: 强制scp命令使用协议ssh2 -4: 强制scp命令只使用IPv4...

    scp工具Mac版Fugo

    **安装与使用Fugo**: 1. 下载:可以从官方或者第三方软件下载平台获取Fugo的最新版本,例如提供的压缩包文件“Fugu-1.2.0-Universal-English_1.0.dmg”。 2. 安装:双击.dmg文件,将Fugo图标拖动到"应用程序...

    C# SCP文件传输,包括下载和上传

    文件上传的过程与下载类似,但需要调用`ScpClient`的`Upload()`方法,提供本地文件路径和远程保存路径。同样,可以监听进度信息来更新进度条。 在提供的`vs2008工程`中,可以看到整个项目的组织结构和源代码实现。`...

Global site tag (gtag.js) - Google Analytics