`
vipshichg
  • 浏览: 267386 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

Java中使用内存映射文件需要考虑的10个问题

    博客分类:
  • java
阅读更多

ava中的内存映射IO和内存映射文件是什么?

  内存映射文件非常特别,它允许Java程序直接从内存中读取文件内容,通过将整个或部分文件映射到内存,由操作系统来处理加载请求和写入文件,应用只需要和内存打交道,这使得IO操作非常快。加载内存映射文件所使用的内存在Java堆区之外。Java编程语言支持内存映射文件,通过java.nio包和MappedByteBuffer 可以从内存直接读写文件。

  内存映射的优缺点

  内存映射IO最大的优点可能在于性能,这对于建立高频电子交易系统尤其重要。内存映射文件通常比标准通过正常IO访问文件要快。另一个巨大的优势是内存映 射IO允许加载不能直接访问的潜在巨大文件 。经验表明,内存映射IO在大文件处理方面性能更加优异。尽管它也有不足——增加了页面错误的数目。由于操作系统只将一部分文件加载到内存,如果一个请求 页面没有在内存中,它将导致页面错误。同样它可以被用来在两个进程中共享数据。

  支持内存映射IO的操作系统

  大多数主流操作系统比如Windows平台,UNIX,Solaris和其他类UNIX操作系统都支持内存映射IO和64位架构,你几乎可以将所有文件映射到内存并通过JAVA编程语言直接访问。

  Java的内存映射IO的要点

  如下为一些你需要了解的java内存映射要点:

  java通过java.nio包来支持内存映射IO。

  内存映射文件主要用于性能敏感的应用,例如高频电子交易平台。

  通过使用内存映射IO,你可以将大文件加载到内存。

  内存映射文件可能导致页面请求错误,如果请求页面不在内存中的话。

  映射文件区域的能力取决于于内存寻址的大小。在32位机器中,你不能访问超过4GB或2 ^ 32(以上的文件)。

  内存映射IO比起Java中的IO流要快的多。

  加载文件所使用的内存是Java堆区之外,并驻留共享内存,允许两个不同进程共享文件。

  内存映射文件读写由操作系统完成,所以即使在将内容写入内存后java程序崩溃了,它将仍然会将它写入文件直到操作系统恢复。

  出于性能考虑,推荐使用直接字节缓冲而不是非直接缓冲。

  不要频繁调用MappedByteBuffer.force()方法,这个方法意味着强制操作系统将内存中的内容写入磁盘,所以如果你每次写入内存映射文件都调用force()方法,你将不会体会到使用映射字节缓冲的好处,相反,它(的性能)将类似于磁盘IO的性能。

  万一发生了电源故障或主机故障,将会有很小的机率发生内存映射文件没有写入到磁盘,这意味着你可能会丢失关键数据。

4
0
分享到:
评论

相关推荐

    Java NIO 应用使用内存映射文件实现进程间通信

    在Java NIO中,内存映射文件(MappedByteBuffer)是一个重要的特性,它允许将文件直接映射到内存中,以便于快速访问和修改文件内容。这一特性不仅提高了读写效率,而且还能用于进程间通信(IPC)。 内存映射文件的...

    内存映射文件

    内存映射文件是一种在操作系统中将文件与进程的虚拟地址空间直接关联的技术,极大地提高了程序对大文件的访问效率。这种技术广泛应用于各种操作系统,如Windows、Linux等。通过内存映射,文件的内容可以直接被加载到...

    java 利用内存映射读取文件后 按行进行输出

    java利用内存映射读取大文件。并且捉行输出。

    STL文件的读取(普通文件解析与内存映射文件解析) cpp&stl

    在本实例中,我们将深入探讨如何使用C++和STL库来读取STL文件,特别关注两种不同的读取方法:普通文件解析和内存映射文件解析,并比较它们的性能差异。 首先,我们来看STL文件的基本结构。每个STL文件由多个三角...

    java 深入理解内存映射文件原理

    内存映射文件是Java和其他编程语言中的一种高效的数据访问机制,尤其在处理大文件和进行进程间通信时表现优越。本文将深入探讨内存映射文件的原理、与虚拟内存的区别和联系,以及它们的效率差异。 虚拟内存和内存...

    matlab开发-更好的内存映射文件位于TLAB中.zip

    在实际应用中,合理使用内存映射文件需要注意以下几点: 1. 文件大小:内存映射文件的大小应考虑到MATLAB的内存限制,确保映射文件不会超出可用的虚拟内存。 2. 性能优化:对于大文件,分块读取可以减少内存压力并...

    Java中使用内存映射实现大文件上传实例

    2. **数据安全性**:由于内存映射文件与进程虚拟内存直接关联,程序崩溃可能会导致文件数据丢失。 3. **同步问题**:在多线程环境下,如果不加控制,可能会出现数据不一致的问题。 因此,在实际应用中,使用内存...

    Java中用内存映射处理大文件的实现代码

    本文将详细介绍如何在Java中使用内存映射文件,并通过示例代码进行演示。 内存映射文件是通过Java的NIO(New Input/Output)包中的FileChannel类来实现的。FileChannel提供了map()方法,可以将文件的一部分或全部...

    【IT十八掌徐培成】Java基础第27天-01.MappedMemoryBuffer-文件内存映射缓冲区.zip

    1. **内存映射文件**:内存映射文件是一种技术,它将文件的内容直接映射到进程的虚拟地址空间中,使得文件就像一个巨大的字节数组一样可以被直接访问。这种方式减少了I/O操作的开销,因为操作系统负责文件和内存之间...

    通过内存映射实现Exe程序间的数据交换

    在"通过内存映射实现Exe程序间的数据交换"这个主题中,我们将深入探讨如何利用内存映射来实现在多个可执行文件(Exe程序)之间的数据交互。 首先,我们要理解内存映射的基本原理。内存映射并不是真的将文件内容加载...

    Java内存映射 大文件轻松处理

    Java内存映射是一种高效处理大文件的技术,它允许程序通过虚拟内存系统直接访问文件内容,而无需通过传统的I/O操作。这种方式极大地提升了处理大文件的性能,因为内存映射文件通常利用操作系统级别的缓存机制,减少...

    java 解析xml类映射数据库 数据库操作 反射机制 源码

    总的来说,这个程序集涉及了Java对XML的解析,XML到数据库的映射,以及使用反射进行动态操作的技巧,这些都是Java开发中的核心技能,对于理解Java应用程序的内部工作原理以及提高代码的灵活性和可维护性具有重要意义...

    java csv大数据量导出(千万级别,不会内存溢出)

    此外,为了避免内存中的临时数据过多,还可以考虑使用Java的内存映射文件(Memory-Mapped File)。通过MappedByteBuffer,我们可以让操作系统负责数据的缓存和页面交换,这在处理大文件时能显著降低内存使用。 在...

    jni java类与c++类映射的例子

    在Java应用程序中,有时我们需要利用C++或者其他本地语言的高效性能或者特定功能,这时就需要用到JNI。本示例将深入讲解如何在Java类与C++类之间建立映射,实现跨语言的调用。 首先,我们要理解Java类与C++类映射的...

    JAVA方法映射

    在提供的压缩包文件中,"教程重要说明.txt"可能包含了关于如何进行Java方法映射到C的具体步骤和注意事项,而"NDK_05"可能是一个示例项目或库,用于演示如何在Android开发中使用NDK(Native Development Kit)进行...

    java nio 包读取超大数据文件

    ### Java NIO 处理超大数据文件的知识点详解 ...综上所述,使用Java NIO处理超大数据文件时,关键是利用好内存映射文件技术和合理的数据读取策略,通过适当的分块和数据解析方法,可以有效地提升读取速度和处理能力。

    xml与java对象映射

    Java工具如JAXB和XML Beans可以直接使用XSD文件生成Java类,从而实现对象到XML的严格映射。 总之,XML与Java对象的映射是Java开发中的重要环节,涉及多种技术和工具。开发者可以根据项目需求选择合适的工具,如JAXB...

    基于改进BSP模型和内存映射的单机图处理系统GPSA设计源码

    该项目是一款基于改进BSP模型和内存映射技术的单机图处理系统GPSA设计源码,包含165个文件,包括87个类文件、45个Java源文件、22个JAR包文件、4个内存映射文件以及2个Shell脚本和2个信息文件。系统采用Java作为主要...

Global site tag (gtag.js) - Google Analytics