JAVA NIO 简介

1.   基本 概念

IO 是主存和外部设备 ( 硬盘、终端和网络等 ) 拷贝数据的过程。 IO 是操作系统的底层功能实现，底层通过 I/O 指令进行完成。

所有语言运行时系统提供执行 I/O 较高级别的工具。 (c 的 printf scanf,java 的面向对象封装 )

2.    Java 标准 io 回顾

Java 标准 IO 类库是 io 面向对象的一种抽象。基于本地方法的底层实现，我们无须关注底层实现。 InputStream\OutputStream( 字节流 ) ：一次传送一个字节。 Reader\Writer( 字符流 ) ：一次一个字符。

3.    nio 简介

nio 是 java New IO 的简称，在 jdk1.4 里提供的新 api 。 Sun 官方标榜的特性如下：

–     为所有的原始类型提供 (Buffer) 缓存支持。

–     字符集编码解码解决方案。

–     Channel ：一个新的原始 I/O 抽象。

–     支持锁和内存映射文件的文件访问接口。

–     提供多路 (non-bloking) 非阻塞式的高伸缩性网络 I/O 。

本文将围绕这几个特性进行学习和介绍。

4.   Buffer&Chanel

Channel 和 buffer 是 NIO 是两个最基本的数据类型抽象。

Buffer:

–        是一块连续的内存块。

–        是 NIO 数据读或写的中转地。

Channel:

–        数据的源头或者数据的目的地

–        用于向 buffer 提供数据或者读取 buffer 数据 ,buffer 对象的唯一接口。

–         异步 I/O 支持

图1：channel和buffer关系
 

 

例子 1:CopyFile.java:

package sample;

import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.nio.ByteBuffer;
import java.nio.channels.FileChannel;

public class CopyFile {
	public static void main(String[] args) throws Exception {
		String infile = "C:\\copy.sql";
		String outfile = "C:\\copy.txt";
		// 获取源文件和目标文件的输入输出流
		FileInputStream fin = new FileInputStream(infile);
		FileOutputStream fout = new FileOutputStream(outfile);
		// 获取输入输出通道
		FileChannel fcin = fin.getChannel();
		FileChannel fcout = fout.getChannel();
		// 创建缓冲区
		ByteBuffer buffer = ByteBuffer.allocate(1024);
		while (true) {
			// clear方法重设缓冲区，使它可以接受读入的数据
			buffer.clear();
			// 从输入通道中将数据读到缓冲区
			int r = fcin.read(buffer);
			// read方法返回读取的字节数，可能为零，如果该通道已到达流的末尾，则返回-1
			if (r == -1) {
				break;
			}
			// flip方法让缓冲区可以将新读入的数据写入另一个通道
			buffer.flip();
			// 从输出通道中将数据写入缓冲区
			fcout.write(buffer);
		}
	}
}

 

其中 buffer 内部结构如下 ( 下图拷贝自资料 ):

图2：buffer内部结构 

一个 buffer 主要由 position,limit,capacity 三个变量来控制读写的过程。此三个变量的含义见如下表格：

参数	写模式	读模式
position	当前写入的单位数据数量。	当前读取的单位数据位置。
limit	代表最多能写多少单位数据和容量是一样的。	代表最多能读多少单位数据，和之前写入的单位数据量一致。
capacity	buffer 容量	buffer 容量

Buffer 常见方法：

flip(): 写模式转换成读模式

rewind() ：将 position 重置为 0 ，一般用于重复读。

clear() ：清空 buffer ，准备再次被写入 (position 变成 0 ， limit 变成 capacity) 。

compact(): 将未读取的数据拷贝到 buffer 的头部位。

mark() 、 reset():mark 可以标记一个位置， reset 可以重置到该位置。

Buffer 常见类型： ByteBuffer 、 MappedByteBuffer 、 CharBuffer 、 DoubleBuffer 、 FloatBuffer 、 IntBuffer 、 LongBuffer 、 ShortBuffer 。

channel 常见类型 :FileChannel 、 DatagramChannel(UDP) 、 SocketChannel(TCP) 、 ServerSocketChannel(TCP)

在本机上面做了个简单的性能测试。我的笔记本性能一般。 ( 具体代码可以见附件。见 nio.sample.filecopy 包下面的例子 ) 以下是参考数据：

–        场景 1 ： Copy 一个 370M 的文件

–        场景 2: 三个线程同时拷贝，每个线程拷贝一个 370M 文件

 

场景	FileInputStream+ FileOutputStream	FileInputStream+ BufferedInputStream+ FileOutputStream	ByteBuffer+ FileChannel	MappedByteBuffer +FileChannel
场景一时间 ( 毫秒 )	25155	17500	19000	16500
场景二时间 ( 毫秒 )	69000	67031	74031	71016

5.    nio.charset

字符编码解码 : 字节码本身只是一些数字，放到正确的上下文中被正确被解析。向 ByteBuffer 中存放数据时需要考虑字符集的编码方式，读取展示 ByteBuffer 数据时涉及对字符集解码。

Java.nio.charset 提供了编码解码一套解决方案。

以我们最常见的 http 请求为例，在请求的时候必须对请求进行正确的编码。在得到响应时必须对响应进行正确的解码。

以下代码向 baidu 发一次请求，并获取结果进行显示。例子演示到了 charset 的使用。

例子 2BaiduReader.java

package nio.readpage;

import java.nio.ByteBuffer;
import java.nio.channels.SocketChannel;
import java.nio.charset.Charset;
import java.net.InetSocketAddress;
import java.io.IOException;
public class BaiduReader {
	private Charset charset = Charset.forName("GBK");// 创建GBK字符集
	private SocketChannel channel;
	public void readHTMLContent() {
		try {
			InetSocketAddress socketAddress = new InetSocketAddress(
"www.baidu.com", 80);
//step1:打开连接
			channel = SocketChannel.open(socketAddress);
		//step2:发送请求，使用GBK编码
			channel.write(charset.encode("GET " + "/ HTTP/1.1" + "\r\n\r\n"));
			//step3:读取数据
			ByteBuffer buffer = ByteBuffer.allocate(1024);// 创建1024字节的缓冲
			while (channel.read(buffer) != -1) {
				buffer.flip();// flip方法在读缓冲区字节操作之前调用。
				System.out.println(charset.decode(buffer));
				// 使用Charset.decode方法将字节转换为字符串
				buffer.clear();// 清空缓冲
			}
		} catch (IOException e) {
			System.err.println(e.toString());
		} finally {
			if (channel != null) {
				try {
					channel.close();
				} catch (IOException e) {
				}
			}
		}
	}
	public static void main(String[] args) {
		new BaiduReader().readHTMLContent();
	}
}

 

6.      非阻塞 IO

关于非阻塞 IO 将从何为阻塞、何为非阻塞、非阻塞原理和异步核心 API 几个方面来理解。

何为阻塞？

一个常见的网络 IO 通讯流程如下 :

 

图3：网络通讯基本过程

从该网络通讯过程来理解一下何为阻塞 :

在以上过程中若连接还没到来，那么 accept 会阻塞 , 程序运行到这里不得不挂起， CPU 转而执行其他线程。

在以上过程中若数据还没准备好， read 会一样也会阻塞。

阻塞式网络 IO 的特点：多线程处理多个连接。每个线程拥有自己的栈空间并且占用一些 CPU 时间。每个线程遇到外部为准备好的时候，都会阻塞掉。阻塞的结果就是会带来大量的进程上下文切换。且大部分进程上下文切换可能是无意义的。比如假设一个线程监听一个端口，一天只会有几次请求进来，但是该 cpu 不得不为该线程不断做上下文切换尝试，大部分的切换以阻塞告终。

 

何为非阻塞？

下面有个隐喻：

一辆从 A 开往 B 的公共汽车上，路上有很多点可能会有人下车。司机不知道哪些点会有哪些人会下车，对于需要下车的人，如何处理更好？

1. 司机过程中定时询问每个乘客是否到达目的地，若有人说到了，那么司机停车，乘客下车。 ( 类似阻塞式 )

2. 每个人告诉售票员自己的目的地，然后睡觉，司机只和售票员交互，到了某个点由售票员通知乘客下车。 ( 类似非阻塞 )

很显然，每个人要到达某个目的地可以认为是一个线程，司机可以认为是 CPU 。在阻塞式里面，每个线程需要不断的轮询，上下文切换，以达到找到目的地的结果。而在非阻塞方式里，每个乘客 ( 线程 ) 都在睡觉 ( 休眠 ) ，只在真正外部环境准备好了才唤醒，这样的唤醒肯定不会阻塞。

  非阻塞的原理

把整个过程切换成小的任务，通过任务间协作完成。

由一个专门的线程来处理所有的 IO 事件，并负责分发。

事件驱动机制：事件到的时候触发，而不是同步的去监视事件。

线程通讯：线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的进程切换。

以下是异步 IO 的结构：

 

图4：非阻塞基本原理

 

Reactor 就是上面隐喻的售票员角色。每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。

异步 IO 核心 API

Selector

异步 IO 的核心类，它能检测一个或多个通道 (channel) 上的事件，并将事件分发出去。

使用一个 select 线程就能监听多个通道上的事件，并基于事件驱动触发相应的响应。而不需要为每个 channel 去分配一个线程。

SelectionKey

包含了事件的状态信息和时间对应的通道的绑定。

例子 1 单线程实现监听两个端口。 ( 见 nio.asyn 包下面的例子。 )

例子 2 NIO 线程协作实现资源合理利用。 (wait,notify) 。 ( 见 nio.asyn.multithread 下的例子 )

评论

64 楼 moshalanye 2014-03-10  

Tyrion 写道

yychao 写道

楼主写的不错，不过，有些地方不太对；BIO阻塞时，线程进人Blocded状态，等待IO中断唤醒，而不是轮训；BIO的问题不在于线程上下文切换，而在于one connection one thread, 每一个IO读写请求都会占用一个线程，造成大量的线程消耗； NIO的好处在于：one request one thread，当IO准备就绪时，才会通过事件驱动方式，分配线程相应请求；这样可以实现少量线程处理大量请求；
另外，POSIX IO模型分布：

•     blocking IO
•     nonblocking IO
•     IO multiplexing
•     signal driven IO
•     asynchronous IO

前四种都是同步IO，最后一种为异步IO；
同步IO与异步IO的区别：是否阻塞请求；
IO请求的相应过程分为两个阶段：

• 系统内核数据准备阶段
• 从内核拷贝到用户进程

同步IO都存在阻塞过程：

•     blocking IO 两个阶段都在阻塞
•     nonblocking IO 数据准备阶段 不阻塞；数据拷贝阶段阻塞；
•     IO multiplexing 数据准备阶段与拷贝阶段都阻塞；但是数据准备阶段阻塞在 等待内核完成IO数据准备信号，而不是socket读取数据
•     signal driven IO 数据copy阶段阻塞；当内核准备好数据，发送IO就绪信号，唤醒用户进程拷贝数据
•     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞；当内核完成数据拷贝时，唤醒用户进程

阁下关于IO的分类这段写的很详细，能否再说说BIO的一个Connection一个线程与NIO的一个request一个线程的区别？我的理解最终一个Connection还是会转化成一个request的。

他的观点来源于操作的系统的io模式，Stevens的《UNIX网络编程》里面有比较全面的讲述，JNIO是属于IO复用的模式，将原来的 accept read  write 设计为不同的信号，然后dispacher,并没有完全起到异步的效果。

即Connect作为request的资源，有操作thread读取数据时，内核数据到用户数据的拷贝是同步的。

举个例子：
------------------
IO复用方式
事件 accept请求
    进入thread，帮定sock资源 注册 read
        事件 read请求
              同步读，处理完后，生成写数据，同步写


异步IO模式  thread和connection的没有绑定，但被注册的事件和session资源有绑定关系
事件 accept请求
    进入thread 但不帮定sock资源，注册 异步read （注册异步读时，会提供用户态buffer）
异步read
    进入thread, 对用户态数据进行处理，生成写的用户态数据，调用异步写API

63 楼 Tyrion 2013-07-11  

yychao 写道

楼主写的不错，不过，有些地方不太对；BIO阻塞时，线程进人Blocded状态，等待IO中断唤醒，而不是轮训；BIO的问题不在于线程上下文切换，而在于one connection one thread, 每一个IO读写请求都会占用一个线程，造成大量的线程消耗； NIO的好处在于：one request one thread，当IO准备就绪时，才会通过事件驱动方式，分配线程相应请求；这样可以实现少量线程处理大量请求；
另外，POSIX IO模型分布：

•     blocking IO
•     nonblocking IO
•     IO multiplexing
•     signal driven IO
•     asynchronous IO

前四种都是同步IO，最后一种为异步IO；
同步IO与异步IO的区别：是否阻塞请求；
IO请求的相应过程分为两个阶段：

• 系统内核数据准备阶段
• 从内核拷贝到用户进程

同步IO都存在阻塞过程：

•     blocking IO 两个阶段都在阻塞
•     nonblocking IO 数据准备阶段 不阻塞；数据拷贝阶段阻塞；
•     IO multiplexing 数据准备阶段与拷贝阶段都阻塞；但是数据准备阶段阻塞在 等待内核完成IO数据准备信号，而不是socket读取数据
•     signal driven IO 数据copy阶段阻塞；当内核准备好数据，发送IO就绪信号，唤醒用户进程拷贝数据
•     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞；当内核完成数据拷贝时，唤醒用户进程

阁下关于IO的分类这段写的很详细，能否再说说BIO的一个Connection一个线程与NIO的一个request一个线程的区别？我的理解最终一个Connection还是会转化成一个request的。

62 楼 walnuting 2013-01-24  

支持楼主，望多出好帖

61 楼 yychao 2012-12-06  

楼主写的不错，不过，有些地方不太对；BIO阻塞时，线程进人Blocded状态，等待IO中断唤醒，而不是轮训；BIO的问题不在于线程上下文切换，而在于one connection one thread, 每一个IO读写请求都会占用一个线程，造成大量的线程消耗； NIO的好处在于：one request one thread，当IO准备就绪时，才会通过事件驱动方式，分配线程相应请求；这样可以实现少量线程处理大量请求；
另外，POSIX IO模型分布：

•     blocking IO
•     nonblocking IO
•     IO multiplexing
•     signal driven IO
•     asynchronous IO

前四种都是同步IO，最后一种为异步IO；
同步IO与异步IO的区别：是否阻塞请求；
IO请求的相应过程分为两个阶段：

• 系统内核数据准备阶段
• 从内核拷贝到用户进程

同步IO都存在阻塞过程：

•     blocking IO 两个阶段都在阻塞
•     nonblocking IO 数据准备阶段 不阻塞；数据拷贝阶段阻塞；
•     IO multiplexing 数据准备阶段与拷贝阶段都阻塞；但是数据准备阶段阻塞在 等待内核完成IO数据准备信号，而不是socket读取数据
•     signal driven IO 数据copy阶段阻塞；当内核准备好数据，发送IO就绪信号，唤醒用户进程拷贝数据
•     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞；当内核完成数据拷贝时，唤醒用户进程

60 楼 sxjkk 2012-06-28  

好文章，讲的比较细致，感觉自己以前用NIO都是稀里糊涂的

59 楼 wmj007 2011-06-28  

非常好的帖子，可以说是高质量的，学习了！我想将数据库海量数据写入TXT文件，不知道用该方法怎么样？

58 楼 lipulvp 2011-06-13  

我在测试第二段代码的时候出现java.nio.channels.UnresolvedAddressException。我debug的时候在执行channel = SocketChannel.open(socketAddress);出现，lz能帮忙解释一下吗

57 楼 beyondsc 2011-06-05  

该文容易误导读者Selector 不属于异步IO 范畴。nio 只是提供多路 (non-bloking) 非阻塞式的高伸缩性网络 I/O 。

56 楼 imcb 2011-06-02  

非常感谢！

55 楼 gogole_09 2011-05-25  

jason61719 写道

<div class="quote_div">
[size=small;]<span lang="EN-US">
[/size]</span>

			// 从输出通道中将数据写入缓冲区
			fcout.write(buffer);

 

</div>
[size=small;]这一句注释不妥吧…应该是将缓冲区的内容写入通道…[/size]

嗯， LZ的注释应该有问题，
  我的理解： 应该是由于同一个缓冲区Buffer，一开始将输入Channel的数据写入到Buffer之后，再将数据从Buffer中拿出数据，放入到输出Channel中。从而达到复制的目的。

54 楼 lyl290932857 2011-05-06  

好文章，第一次看完知识类文章。

53 楼 sunlzx 2011-05-06  

楼主写得很好，正在学nio，有很大帮助

52 楼 jason61719 2011-05-01  

<div class="quote_div">
<p><span style="font-size: small;"><span lang="EN-US">
</span></span></p>
<pre name="code" class="java"> // 从输出通道中将数据写入缓冲区
fcout.write(buffer);
</pre>
<p> </p>
</div>
<p><span style="font-size: small;">这一句注释不妥吧…应该是将缓冲区的内容写入通道…</span></p>

51 楼 aspnetdb 2011-04-07  

写的很清楚，条理清晰啊。

50 楼 liaohexiang 2011-03-10  

lingqi1818 写道

zy8643954 写道

按照《Unix网络编程》的划分，IO模型可以分为：阻塞IO、非阻塞IO、IO复用、信号驱动IO和异步IO，按照POSIX标准来划分只分为两类：同步IO和异步IO。如何区分呢？首先一个IO操作其实分成了两个步骤：发起IO请求和实际的IO操作，同步IO和异步IO的区别就在于第二个步骤是否阻塞，如果实际的IO读写阻塞请求进程，那么就是同步IO，因此阻塞IO、非阻塞IO、IO服用、信号驱动IO都是同步IO，如果不阻塞，而是操作系统帮你做完IO操作再将结果返回给你，那么就是异步IO。阻塞IO和非阻塞IO的区别在于第一步，发起IO请求是否会被阻塞，如果阻塞直到完成那么就是传统的阻塞IO，如果不阻塞，那么就是非阻塞IO。

上面是引用 dennis_zane 写的一篇文章里的关于IO分类的描述。

我觉得楼主连一些基本概念都没搞清，就在这里扯淡。

你这个理解也是有误的，不能照本宣科。同步异步，阻塞非阻塞是可以自由组合的。

如何自由组合呢？

49 楼 liaohexiang 2011-03-10  

zy8643954 写道

按照《Unix网络编程》的划分，IO模型可以分为：阻塞IO、非阻塞IO、IO复用、信号驱动IO和异步IO，按照POSIX标准来划分只分为两类：同步IO和异步IO。如何区分呢？首先一个IO操作其实分成了两个步骤：发起IO请求和实际的IO操作，同步IO和异步IO的区别就在于第二个步骤是否阻塞，如果实际的IO读写阻塞请求进程，那么就是同步IO，因此阻塞IO、非阻塞IO、IO服用、信号驱动IO都是同步IO，如果不阻塞，而是操作系统帮你做完IO操作再将结果返回给你，那么就是异步IO。阻塞IO和非阻塞IO的区别在于第一步，发起IO请求是否会被阻塞，如果阻塞直到完成那么就是传统的阻塞IO，如果不阻塞，那么就是非阻塞IO。

上面是引用 dennis_zane 写的一篇文章里的关于IO分类的描述。

我觉得楼主连一些基本概念都没搞清，就在这里扯淡。

同意，NIO其实是阻塞的，多路复用其实是减少了线程的上下文切换

48 楼 everlasting_188 2011-03-08  

不错，最近正在补充java知识

47 楼 77tt77 2011-03-04  

学习下NEWIO的知识。

46 楼 jimichan 2011-02-24  

写的很好哇

45 楼 feitian124 2011-02-22  

通俗易懂。非常感谢楼主分享这么好的文章。