`

花1K内存实现高效I/O的RandomAccessFile类(转载)

 
阅读更多

转载自网络,原文地址http://tech.ccidnet.com/art/297/20060811/792375_1.html

 

 

通过扩展RandomAccessFile类使之具备Buffer改善I/O性能
JAVA的文件随机存取类(RandomAccessFile)的I/O效率较低。通过分析其中原因,提出解决方案。逐步展示如何创建具备缓存读写能力的文件随机存取类,并进行了优化。通过与其它文件访问类的性能对比,证明了其实用价值。
主体:

目前最流行的J2SDK版本是1.3系列。使用该版本的开发人员需文件随机存取,就得使用RandomAccessFile类。其I/O性能较之其它常用开发语言的同类性能差距甚远,严重影响程序的运行效率。

开发人员迫切需要提高效率,下面分析RandomAccessFile等文件类的源代码,找出其中的症结所在,并加以改进优化,创建一个"性/价比"俱佳的随机文件访问类BufferedRandomAccessFile。

1.在改进之前先做一个基本测试:逐字节COPY一个12兆的文件(这里牵涉到读和写)。

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

我们可以看到两者差距约32倍,RandomAccessFile也太慢了。先看看两者关键部分的源代码,对比分析,找出原因。

1.1.[RandomAccessFile]

public class RandomAccessFile implements DataOutput, DataInput {
public final byte readByte() throws IOException {
int ch = this.read();
if (ch < 0)
throw new EOFException();
return (byte)(ch);
}

public native int read() throws IOException; 

public final void writeByte(int v) throws IOException {
write(v);
} 

public native void write(int b) throws IOException; 
}

 




可见,RandomAccessFile每读/写一个字节就需对磁盘进行一次I/O操作。

1.2.[BufferedInputStream]

public class BufferedInputStream extends FilterInputStream {
private static int defaultBufferSize = 2048; 
protected byte buf[]; // 建立读缓存区
public BufferedInputStream(InputStream in, int size) {
super(in); 
if (size <= 0) {
throw new IllegalArgumentException("Buffer size <= 0");
}
buf = new byte[size];
}
public synchronized int read() throws IOException {
ensureOpen();
if (pos >= count) {
fill();
if (pos >= count)
return -1;
}
return buf[pos++] & 0xff; // 直接从BUF[]中读取
} 
private void fill() throws IOException {
if (markpos < 0)
pos = 0; /* no mark: throw away the buffer */
else if (pos >= buf.length) /* no room left in buffer */
if (markpos > 0) { /* can throw away early part of the buffer */
int sz = pos - markpos;
System.arraycopy(buf, markpos, buf, 0, sz);
pos = sz;
markpos = 0;
} else if (buf.length >= marklimit) {
markpos = -1; /* buffer got too big, invalidate mark */
pos = 0; /* drop buffer contents */
} else { /* grow buffer */
int nsz = pos * 2;
if (nsz > marklimit)
nsz = marklimit;
byte nbuf[] = new byte[nsz];
System.arraycopy(buf, 0, nbuf, 0, pos);
buf = nbuf;
}
count = pos;
int n = in.read(buf, pos, buf.length - pos);
if (n > 0)
count = n + pos;
}
}


 

1.3.[BufferedOutputStream]

public class BufferedOutputStream extends FilterOutputStream {
protected byte buf[]; // 建立写缓存区
public BufferedOutputStream(OutputStream out, int size) {
super(out);
if (size <= 0) {
throw new IllegalArgumentException("Buffer size <= 0");
}
buf = new byte[size];
} 
public synchronized void write(int b) throws IOException {
if (count >= buf.length) {
flushBuffer();
}
buf[count++] = (byte)b; // 直接从BUF[]中读取
}

private void flushBuffer() throws IOException {
if (count > 0) {
out.write(buf, 0, count);
count = 0;
}
}
}

 


可见,Buffered I/O putStream每读/写一个字节,若要操作的数据在BUF中,就直接对内存的buf[]进行读/写操作;否则从磁盘相应位置填充buf[],再直接对内存的buf[]进行读/写操作,绝大部分的读/写操作是对内存buf[]的操作。

1.3.小结

内存存取时间单位是纳秒级(10E-9),磁盘存取时间单位是毫秒级(10E-3),同样操作一次的开销,内存比磁盘快了百万倍。理论上可以预见,即使对内存操作上万次,花费的时间也远少对于磁盘一次I/O的开销。显然后者是通过增加位于内存的BUF存取,减少磁盘I/O的开销,提高存取效率的,当然这样也增加了BUF控制部分的开销。从实际应用来看,存取效率提高了32倍。

2.根据1.3得出的结论,现试着对RandomAccessFile类也加上缓冲读写机制。

随机访问类与顺序类不同,前者是通过实现DataInput/DataOutput接口创建的,而后者是扩展FilterInputStream/FilterOutputStream创建的,不能直接照搬。

2.1.开辟缓冲区BUF[默认:1024字节],用作读/写的共用缓冲区。

2.2.先实现读缓冲。

读缓冲逻辑的基本原理:

A 欲读文件POS位置的一个字节。

B 查BUF中是否存在?若有,直接从BUF中读取,并返回该字符BYTE。

C 若没有,则BUF重新定位到该POS所在的位置并把该位置附近的BUFSIZE的字节的文件内容填充BUFFER,返回B。

以下给出关键部分代码及其说明:

public class BufferedRandomAccessFile extends RandomAccessFile {
// byte read(long pos):读取当前文件POS位置所在的字节
// bufstartpos、bufendpos代表BUF映射在当前文件的首/尾偏移地址。
// curpos指当前类文件指针的偏移地址。
public byte read(long pos) throws IOException {
if (pos < this.bufstartpos || pos > this.bufendpos ) {
this.flushbuf();
this.seek(pos);

if ((pos < this.bufstartpos) || (pos > this.bufendpos)) 
throw new IOException();
}
this.curpos = pos;
return this.buf[(int)(pos - this.bufstartpos)];
}

// void flushbuf():bufdirty为真,把buf[]中尚未写入磁盘的数据,写入磁盘。

private void flushbuf() throws IOException {
if (this.bufdirty == true) {
if (super.getFilePointer() != this.bufstartpos) {
super.seek(this.bufstartpos);
}
super.write(this.buf, 0, this.bufusedsize);
this.bufdirty = false;
}
}

// void seek(long pos):移动文件指针到pos位置,并把buf[]映射填充至POS
所在的文件块。
public void seek(long pos) throws IOException {
if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf
this.flushbuf();
if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) 
{ // seek pos in file (file length > 0)
this.bufstartpos = pos * bufbitlen / bufbitlen;
this.bufusedsize = this.fillbuf();

} else if (((pos == 0) && (this.fileendpos == 0)) 
|| (pos == this.fileendpos + 1)) 
{ // seek pos is append pos
this.bufstartpos = pos;
this.bufusedsize = 0;
}
this.bufendpos = this.bufstartpos + this.bufsize - 1;
}
this.curpos = pos;
}
// int fillbuf():根据bufstartpos,填充buf[]。
private int fillbuf() throws IOException {
super.seek(this.bufstartpos);
this.bufdirty = false;
return super.read(this.buf);
}
}

 




至此缓冲读基本实现,逐字节COPY一个12兆的文件(这里牵涉到读和写,用BufferedRandomAccessFile试一下读的速度):

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

可见速度显著提高,与BufferedInputStream+DataInputStream不相上下。
2.3.实现写缓冲。

写缓冲逻辑的基本原理:

A欲写文件POS位置的一个字节。

B 查BUF中是否有该映射?若有,直接向BUF中写入,并返回true。

C若没有,则BUF重新定位到该POS所在的位置,并把该位置附近的 BUFSIZE字节的文件内容填充BUFFER,返回B。

下面给出关键部分代码及其说明:


// boolean write(byte bw, long pos):向当前文件POS位置写入字节BW。
// 根据POS的不同及BUF的位置:存在修改、追加、BUF中、BUF外等情
况。在逻辑判断时,把最可能出现的情况,最先判断,这样可提高速度。

// fileendpos:指示当前文件的尾偏移地址,主要考虑到追加因素
public boolean write(byte bw, long pos) throws IOException {
if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { 
// write pos in buf
this.buf[(int)(pos - this.bufstartpos)] = bw;
this.bufdirty = true;

if (pos == this.fileendpos + 1) { // write pos is append pos
this.fileendpos++;
this.bufusedsize++;
}
} else { // write pos not in buf
this.seek(pos);
if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) 
{ // write pos is modify file
this.buf[(int)(pos - this.bufstartpos)] = bw;
} else if (((pos == 0) && (this.fileendpos == 0)) 
|| (pos == this.fileendpos + 1)) { // write pos is append pos
this.buf[0] = bw;
this.fileendpos++;
this.bufusedsize = 1;
} else {
throw new IndexOutOfBoundsException();
}
this.bufdirty = true;
}
this.curpos = pos;
return true;
}

 




至此缓冲写基本实现,逐字节COPY一个12兆的文件,(这里牵涉到读和写,结合缓冲读,用BufferedRandomAccessFile试一下读/写的速度):

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453

可见综合读/写速度已超越BufferedInput/OutputStream+DataInput/OutputStream。

3.优化BufferedRandomAccessFile。

优化原则:

调用频繁的语句最需要优化,且优化的效果最明显。
多重嵌套逻辑判断时,最可能出现的判断,应放在最外层。
减少不必要的NEW。
这里举一典型的例子:

public void seek(long pos) throws IOException {
...
this.bufstartpos = pos * bufbitlen / bufbitlen; 
// bufbitlen指buf[]的位长,例:若bufsize=1024,则bufbitlen=10。
...
}

 




seek函数使用在各函数中,调用非常频繁,上面加重的这行语句根据pos和bufsize确定buf[]对应当前文件的映射位置,用"*"、"/"确定,显然不是一个好方法。

优化一:this.bufstartpos = (pos << bufbitlen) >> bufbitlen;

优化二:this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);

两者效率都比原来好,但后者显然更好,因为前者需要两次移位运算、后者只需一次逻辑与运算(bufmask可以预先得出)。

至此优化基本实现,逐字节COPY一个12兆的文件,(这里牵涉到读和写,结合缓冲读,用优化后BufferedRandomAccessFile试一下读/写的速度):

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile优 BufferedRandomAccessFile优 2.197

可见优化尽管不明显,还是比未优化前快了一些,也许这种效果在老式机上会更明显。

以上比较的是顺序存取,即使是随机存取,在绝大多数情况下也不止一个BYTE,所以缓冲机制依然有效。而一般的顺序存取类要实现随机存取就不怎么容易了。

4.需要完善的地方

提供文件追加功能:

public boolean append(byte bw) throws IOException {
return this.write(bw, this.fileendpos + 1);
}

 




提供文件当前位置修改功能:

public boolean write(byte bw) throws IOException {
return this.write(bw, this.curpos);
}

 




返回文件长度(由于BUF读写的原因,与原来的RandomAccessFile类有所不同):

public long length() throws IOException {
return this.max(this.fileendpos + 1, this.initfilelen);
}

 




返回文件当前指针(由于是通过BUF读写的原因,与原来的RandomAccessFile类有所不同):

public long getFilePointer() throws IOException {
return this.curpos;
}

 



提供对当前位置的多个字节的缓冲写功能:

public void write(byte b[], int off, int len) throws IOException {
long writeendpos = this.curpos + len - 1;
if (writeendpos <= this.bufendpos) { // b[] in cur buf
System.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos), 
len);
this.bufdirty = true;
this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1);
} else { // b[] not in cur buf
super.seek(this.curpos);
super.write(b, off, len);
}
if (writeendpos > this.fileendpos)
this.fileendpos = writeendpos;

this.seek(writeendpos+1);
}

public void write(byte b[]) throws IOException {
this.write(b, 0, b.length);
}

 



提供对当前位置的多个字节的缓冲读功能:

public int read(byte b[], int off, int len) throws IOException {
long readendpos = this.curpos + len - 1;
if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) { 
// read in buf
System.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos), 
b, off, len);
} else { // read b[] size > buf[]
if (readendpos > this.fileendpos) { // read b[] part in file
len = (int)(this.length() - this.curpos + 1);
}
super.seek(this.curpos);
len = super.read(b, off, len);
readendpos = this.curpos + len - 1;
}
this.seek(readendpos + 1);
return len;
}

public int read(byte b[]) throws IOException {
return this.read(b, 0, b.length);
}

public void setLength(long newLength) throws IOException {
if (newLength > 0) {
this.fileendpos = newLength - 1;
} else {
this.fileendpos = 0;
}
super.setLength(newLength);
}

public void close() throws IOException {
this.flushbuf();
super.close();
}

 




至此完善工作基本完成,试一下新增的多字节读/写功能,通过同时读/写1024个字节,来COPY一个12兆的文件,(这里牵涉到读和写,用完善后BufferedRandomAccessFile试一下读/写的速度):

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile优 BufferedRandomAccessFile优 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401

5.与JDK1.4新类MappedByteBuffer+RandomAccessFile的对比?

JDK1.4提供了NIO类 ,其中MappedByteBuffer类用于映射缓冲,也可以映射随机文件访问,可见JAVA设计者也看到了RandomAccessFile的问题,并加以改进。怎么通过MappedByteBuffer+RandomAccessFile拷贝文件呢?下面就是测试程序的主要部分:

RandomAccessFile rafi = new RandomAccessFile(SrcFile, "r");
RandomAccessFile rafo = new RandomAccessFile(DesFile, "rw");
FileChannel fci = rafi.getChannel();
FileChannel fco = rafo.getChannel();
long size = fci.size();
MappedByteBuffer mbbi = fci.map(FileChannel.MapMode.READ_ONLY, 0, size);
MappedByteBuffer mbbo = fco.map(FileChannel.MapMode.READ_WRITE, 0, size);
long start = System.currentTimeMillis();
for (int i = 0; i < size; i++) {
byte b = mbbi.get(i);
mbbo.put(i, b);
}
fcin.close();
fcout.close();
rafi.close();
rafo.close();
System.out.println("Spend: "+(double)(System.currentTimeMillis()-start) / 1000 + "s");

 



试一下JDK1.4的映射缓冲读/写功能,逐字节COPY一个12兆的文件,(这里牵涉到读和写):

读 写 耗用时间(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile优 BufferedRandomAccessFile优 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401
MappedByteBuffer+ RandomAccessFile MappedByteBuffer+ RandomAccessFile 1.209

确实不错,看来JDK1.4比1.3有了极大的进步。如果以后采用1.4版本开发软件时,需要对文件进行随机访问,建议采用MappedByteBuffer+RandomAccessFile的方式。但鉴于目前采用JDK1.3及以前的版本开发的程序占绝大多数的实际情况,如果您开发的JAVA程序使用了RandomAccessFile类来随机访问文件,并因其性能不佳,而担心遭用户诟病,请试用本文所提供的BufferedRandomAccessFile类,不必推翻重写,只需IMPORT 本类,把所有的RandomAccessFile改为BufferedRandomAccessFile,您的程序的性能将得到极大的提升,您所要做的就这么简单。

6.未来的考虑

读者可在此基础上建立多页缓存及缓存淘汰机制,以应付对随机访问强度大的应用。

相关资源:

SUN JDK1.3/1.4 SRC。

分享到:
评论

相关推荐

    花1K内存实现高效I-O的RandomAccessFile类

    花1K内存实现高效I-O的RandomAccessFile类 自己搜搜这个关键字. 我主要是用来优化Android上多线程断点下载的写文件效率 RandomAccessFile是操作硬盘的,比操作内存的数据慢了几百万倍, 所有有人做出优化,我特上传...

    花1K内存实现高效IO的RandomAccessFile类.doc

    花1K内存实现高效IO的RandomAccessFile类.doc

    Java I/O层次结构详解

    - **具体实现类**:如FileInputStream和FileOutputStream用于文件操作,SocketInputStream和SocketOutputStream用于网络通信。 3. **文件I/O** - **File类**:提供了与文件和目录相关的操作,如创建、删除、...

    Java I/O编程 java

    在Java中,通过`RandomAccessFile`类可以实现对文件的随机访问,可以在文件的任意位置读写数据,这在处理大型文件或需要定位特定数据时非常有用。 5. 过滤流: 过滤流(Filter Stream)是具有额外功能的流,它们...

    Java输入与输出(I、O).

    Java输入与输出(I/O)是Java编程语言中不可或缺的一部分,它...通过灵活运用这些类和接口,开发者可以实现高效、可靠的I/O操作。在实际开发中,根据具体需求选择合适的I/O工具,能极大地提升程序的效率和可维护性。

    java i/o 实例 编程 学习 教程 复习

    Java 的 I/O 主要分为两大类:`InputStream` 和 `OutputStream` 用于处理字节流,而 `Reader` 和 `Writer` 则用于处理字符流。 #### 二、Java I/O 示例代码详解 下面我们将对提供的代码片段进行逐段分析。 ##### ...

    java i/0习题

    Java I/O(输入/输出)是Java编程语言中不可或缺的一部分,它允许程序与外部资源进行数据交换,如文件、网络连接、系统硬件等。在Java I/O中,我们使用流(Stream)的概念来处理数据,流是数据传输的通道。本套习题...

    一本输入输出流 I/O的书

    ### 输入输出流(I/O)概览 #### 一、File 类 **1. File 类简介** - **功能概述**:`File` 类是 Java 中用于处理文件和目录的核心类。它既可以用来表示一个文件也可以表示一个目录。尽管在 Java 中文件和目录都是...

    Java I-O NIO and NIO2

    Java I/O是指传统的I/O操作,涉及经典的I/O类库,如File、RandomAccessFile以及各种流类(stream classes)和相关类型,还有读者/写者类(reader/writer classes)。这部分API专注于基于字节的数据处理和字符数据...

    I/O程序的设计 设计语言java

    在IT行业中,I/O(Input/Output)程序设计是至关重要的,特别是在Java编程语言中。本文将深入探讨如何设计一...在实际项目中,你可能还需要考虑使用NIO(New I/O)或NIO.2 API,它们提供了更高效和灵活的I/O操作方式。

    Java IO, NIO and NIO.2(Apress,2015)

    In this book, you'll learn about classic I/O APIs (File, RandomAccessFile, the stream classes and related types, and the reader/writer classes). Next, you'll learn about NIO's buffer, channel, ...

    RandomAccessFile类的用法.doc

    RandomAccessFile类是Java I/O库中的一个重要组件,它提供了对文件进行随机访问的能力,这意味着你可以直接跳到文件的任意位置进行读写操作,而不仅仅局限于从头到尾的顺序访问。这个类非常适合处理大数据量的文件,...

    Java I/O深入学习之File和RandomAccessFile

    主要介绍了Java I/O深入学习之File和RandomAccessFile, I/O系统即输入/输出系统,对于一门程序语言来说,创建一个好的输入/输出系统并非易事。在充分理解Java I/O系统以便正确地运用之前,我们需要学习相当数量的...

    java_I/O流的教程

    Java I/O流是Java编程语言中的一个重要组成部分,用于在程序和外部资源(如磁盘、网络、内存等)之间传输数据。本教程涵盖了从基础到高级的Java流知识,包括文件读写、缓冲流、对象序列化等多个方面。 1. **文件的...

    基于RandomAccessFile文件分类的小程序

    综上所述,"基于RandomAccessFile文件分类的小程序"结合了XML解析、文件I/O操作以及文件系统管理等多方面的知识,是一个综合性的Java编程实践案例。它的设计和实现需要开发者具备扎实的Java基础,以及对文件处理和...

    Java.I.O.2nd.Edition

    《Java I/O 2nd Edition》是一本专为Java开发者深入理解I/O系统设计的权威指南,出版于2006年。这本书详尽地涵盖了Java输入/输出(I/O)相关的各种概念和技术,旨在帮助程序员提升在处理数据流、文件操作、网络通信...

    Java I/O流常用类小结

    BufferedReader和BufferedWriter:这两个类增加了缓冲区,允许一次性读取或写入多个字符,减少了磁盘I/O操作的次数,提高了性能。使用它们可以提高读写速度,并且提供了readLine()方法,可以方便地读取一行文本。 ...

Global site tag (gtag.js) - Google Analytics