`

java Copy-On-Write容器学习

 
阅读更多
Copy-On-Write简称COW,是一种用于程序设计中的优化策略。其基本思路是,从一开始大家都在共享同一个内容,当某个人想要修改这个内容的时候,才会真正把内容Copy出去形成一个新的内容然后再改,这是一种延时懒惰策略。从JDK1.5开始Java并发包里提供了两个使用CopyOnWrite机制实现的并发容器,它们是CopyOnWriteArrayListCopyOnWriteArraySet。CopyOnWrite容器非常有用,可以在非常多的并发场景中使用到。

什么是CopyOnWrite容器

CopyOnWrite容器即写时复制的容器。通俗的理解是当我们往一个容器添加元素的时候,不直接往当前容器添加,而是先将当前容器进行Copy,复制出一个新的容器,然后新的容器里添加元素,添加完元素之后,再将原容器的引用指向新的容器。这样做的好处是我们可以对CopyOnWrite容器进行并发的读,而不需要加锁,因为当前容器不会添加任何元素。所以CopyOnWrite容器也是一种读写分离的思想,读和写不同的容器。

CopyOnWriteArrayList的实现原理

在使用CopyOnWriteArrayList之前,我们先阅读其源码了解下它是如何实现的。以下代码是向ArrayList里添加元素,可以发现在添加的时候是需要加锁的,否则多线程写的时候会Copy出N个副本出来。

public boolean add(T e) {
    final ReentrantLock lock = this.lock;
    lock.lock();
    try {

        Object[] elements = getArray();

        int len = elements.length;
        // 复制出新数组

        Object[] newElements = Arrays.copyOf(elements, len + 1);
        // 把新元素添加到新数组里

        newElements[len] = e;
        // 把原数组引用指向新数组

        setArray(newElements);

        return true;

    } finally {

        lock.unlock();

    }

}

final void setArray(Object[] a) {
    array = a;
}


读的时候不需要加锁,如果读的时候有多个线程正在向ArrayList添加数据,读还是会读到旧的数据,因为写的时候不会锁住旧的ArrayList。

public E get(int index) {
    return get(getArray(), index);
}


JDK中并没有提供CopyOnWriteMap,我们可以参考CopyOnWriteArrayList来实现一个,基本代码如下:

import java.util.Collection;
import java.util.Map;
import java.util.Set;

public class CopyOnWriteMap<K, V> implements Map<K, V>, Cloneable {
    private volatile Map<K, V> internalMap;

    public CopyOnWriteMap() {
        internalMap = new HashMap<K, V>();
    }

    public V put(K key, V value) {

        synchronized (this) {
            Map<K, V> newMap = new HashMap<K, V>(internalMap);
            V val = newMap.put(key, value);
            internalMap = newMap;
            return val;
        }
    }

    public V get(Object key) {
        return internalMap.get(key);
    }

    public void putAll(Map<? extends K, ? extends V> newData) {
        synchronized (this) {
            Map<K, V> newMap = new HashMap<K, V>(internalMap);
            newMap.putAll(newData);
            internalMap = newMap;
        }
    }
}


实现很简单,只要了解了CopyOnWrite机制,我们可以实现各种CopyOnWrite容器,并且在不同的应用场景中使用。

CopyOnWrite的应用场景

CopyOnWrite并发容器用于读多写少的并发场景。比如白名单,黑名单,商品类目的访问和更新场景,假如我们有一个搜索网站,用户在这个网站的搜索框中,输入关键字搜索内容,但是某些关键字不允许被搜索。这些不能被搜索的关键字会被放在一个黑名单当中,黑名单每天晚上更新一次。当用户搜索时,会检查当前关键字在不在黑名单当中,如果在,则提示不能搜索。实现代码如下:


但是使用CopyOnWriteMap需要注意两件事情:

1. 减少扩容开销。根据实际需要,初始化CopyOnWriteMap的大小,避免写时CopyOnWriteMap扩容的开销。

2. 使用批量添加。因为每次添加,容器每次都会进行复制,所以减少添加次数,可以减少容器的复制次数。如使用上面代码里的addBlackList方法。

CopyOnWrite的缺点


CopyOnWrite容器有很多优点,但是同时也存在两个问题,即内存占用问题和数据一致性问题。所以在开发的时候需要注意一下。

A 内存占用问题。因为CopyOnWrite的写时复制机制,所以在进行写操作的时候,内存里会同时驻扎两个对象的内存,旧的对象和新写入的对象(注意:在复制的时候只是复制容器里的引用,只是在写的时候会创建新对象添加到新容器里,而旧容器的对象还在使用,所以有两份对象内存)。如果这些对象占用的内存比较大,比如说200M左右,那么再写入100M数据进去,内存就会占用300M,那么这个时候很有可能造成频繁的Yong GC和Full GC。之前我们系统中使用了一个服务由于每晚使用CopyOnWrite机制更新大对象,造成了每晚15秒的Full GC,应用响应时间也随之变长。

针对内存占用问题,可以通过压缩容器中的元素的方法来减少大对象的内存消耗,比如,如果元素全是10进制的数字,可以考虑把它压缩成36进制或64进制。或者不使用CopyOnWrite容器,而使用其他的并发容器,如ConcurrentHashMap。

B 数据一致性问题。CopyOnWrite容器只能保证数据的最终一致性,不能保证数据的实时一致性。所以如果你希望写入的的数据,马上能读到,请不要使用CopyOnWrite容器。

转自:http://ifeve.com/java-copy-on-write/

分享到:
评论
发表评论

文章已被作者锁定,不允许评论。

相关推荐

    Copy-on-write, 写时复制

    **写时复制(Copy-on-Write,COW)技术详解** 在计算机编程和操作系统领域,Copy-on-Write(COW)是一种优化策略,主要用于内存管理、文件系统以及多线程环境中的数据共享。该机制的核心思想是:当多个进程或线程...

    ssh-copy-id 脚本

    问题:ssh-copy-id 命令无法使用,在linux服务器的ssh服务中没有有这个命令,可以在/usr/bin/的这文件夹中查看没有这个ssh-copy-id 命令。 问题分析:是由于ssh服务的问题,可以直接将ssh-copy-id 命令拷贝/usr/...

    用shared_ptr实现多线程对全局变量的读写,copy-on-write技术

    参考陈硕的多线程服务端编程&gt;&gt;,中的用shared_ptr实现copy-on-write技术,不过这里的线程采用的是c++11的线程库

    数据湖Copy-On-Writer的优化思路

    然而,在实际应用过程中,数据更新的需求日益增长,传统的追加写入模式已经不能满足业务需求,这就需要引入更高效的更新策略——例如Copy-On-Write(CoW)。 #### CoW技术简介 Copy-On-Write是一种广泛应用于...

    ssh-copy-id for windows

    ssh-copy-id for windows,支持windows下的ssh-copy-id命令,加入exe所在路径到PATH环境变量即可

    [Mac]解决mac机器上没有ssh-copy-id的问题

    `ssh-copy-id`是SSH工具包的一部分,它简化了将公钥添加到远程服务器的授权钥匙链的过程,从而允许无密码登录。然而,有时在Mac上可能会遇到没有`ssh-copy-id`命令的问题。本文将深入探讨这个问题及其解决方案。 ...

    详谈Linux写时拷贝技术(copy-on-write)必看篇

    Linux中的写时拷贝(Copy-On-Write, COW)技术是一种高效且节省资源的内存管理策略,尤其在处理进程创建如`fork()`时显得尤为重要。COW的基本思想是在数据未被修改前,多个进程可以共享同一份数据的物理副本,从而...

    免密登录必备ssh-copy-id脚本

    免密登录必备ssh-copy-id脚本

    ssh-copy-id命令 复制公钥到远程主机

    ssh-copy-id命令可以把本地主机的公钥复制到远程主机的authorized_keys文件上,ssh-copy-id命令也会给远程主机的用户主目录(home)和~/.ssh, 和~/.ssh/authorized_keys设置合适的权限。 语法格式:ssh-copy-id ...

    openssh-centos7-9.5p1-ssh-copy-id-rpm.tgz

    适用于centos 7 redhat 7 x86架构操作系统使用的openssh 9.5 p1 二进制rpm包 带有ssh-copy-id命令,2023年10月4日发布,当前最新版本,修复安全漏洞,更新升级openssh版本

    前端开源库-swint-copy-dir

    **前端开源库 Swint-Copy-Dir 深度解析** 在前端开发中,文件和目录的处理是一项常见的任务,特别是在构建流程或者自动化工具中。`Swint-Copy-Dir` 是一个专为 `Swint` 任务设计的用于目录复制的开源库,它简化了在...

    CountBread---Copy---Copy---Copy.rar_copy

    【标题】"CountBread---Copy---Copy---Copy.rar_copy" 暗示这是一个压缩文件,可能是一个软件或教程资源,其原始名称可能是"CountBread",经过多次复制后产生了这个带有“Copy”后缀的版本。由于“rar”是常见的压缩...

    copy-jdk-configs-3.3-10.el7_5.noarch.rpm

    离线安装包,亲测可用

    openssh-9.7p1-1.el7.x86-64-ssh-copy-id.tgz

    2024年3月12日制作 适用于centos 7 redhat 7 x86架构操作系统升级更新openssh 9.7 版本,修复...此包为二进制rpm包,包含ssh-copy-id命令 2024年3月11日 官方发布9.7版本,此包基于官方源码制作,无ssl信息显示。

    ssh-copy-id.exe

    ssh-copy-id for Windows版

    JAVA-write-EXCEL.rar_copy excel java_java write_java读取_java读取Exc

    本主题主要关注如何使用Java来读取和写入Excel文件,特别是通过标题"JAVA-write-EXCEL.rar_copy excel java_java write_java读取_java读取Excel"所暗示的知识点。我们将探讨两个主要的API库:Apache POI和JExcelAPI...

    react-copy-to-clipboard, 复制到剪贴板响应组件.zip

    react-copy-to-clipboard, 复制到剪贴板响应组件 react-copy-to-clipboard 复制到剪贴板响应组件基于 copy-to-clipboard将尝试使用execCommand回退到 IE 特定的clipboardData接口,最后回退到简单的

    ssh-copy-id-for-OSX, 快速macosx端口有用的unix实用程序ssh副本 id.zip

    ssh-copy-id-for-OSX, 快速macosx端口有用的unix实用程序ssh副本 id 用于OSX的 ssh-copy-id实用的unix实用工具 ssh-copy-id的快速端口注意:现在,macOS Sierra在 /usr/bin 中包括一个板载的ssh-copy-id安装git ...

    openssh-9.7p1-1.el7.x86-64-ssh-copy-id-openssl.tgz

    2024年3月12日制作 适用于centos 7 redhat 7 x86架构的二进制...2024年3月11日官方发布9.7版本,内含ssh-copy-id命令,安装后显示openssl版本,此包基于openssl 1.1.1w制作,因此安装后会显示1.1.1w版本的openssl信息

Global site tag (gtag.js) - Google Analytics