`
csd_ali
  • 浏览: 136097 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

JAVA NIO 简介

阅读更多

1.   基本 概念

IO 是主存和外部设备 ( 硬盘、终端和网络等 ) 拷贝数据的过程。 IO 是操作系统的底层功能实现,底层通过 I/O 指令进行完成。

所有语言运行时系统提供执行 I/O 较高级别的工具。 (c printf scanf,java 的面向对象封装 )

2.    Java 标准 io 回顾

Java 标准 IO 类库是 io 面向对象的一种抽象。基于本地方法的底层实现,我们无须关注底层实现。 InputStream\OutputStream( 字节流 ) :一次传送一个字节。 Reader\Writer( 字符流 ) :一次一个字符。

3.    nio 简介

nio java New IO 的简称,在 jdk1.4 里提供的新 api Sun 官方标榜的特性如下:

    为所有的原始类型提供 (Buffer) 缓存支持。

    字符集编码解码解决方案。

    Channel :一个新的原始 I/O 抽象。

    支持锁和内存映射文件的文件访问接口。

    提供多路 (non-bloking) 非阻塞式的高伸缩性网络 I/O

本文将围绕这几个特性进行学习和介绍。

4.   Buffer&Chanel

Channel buffer NIO 是两个最基本的数据类型抽象。

Buffer:

       是一块连续的内存块。

       NIO 数据读或写的中转地。

Channel:

       数据的源头或者数据的目的地

       用于向 buffer 提供数据或者读取 buffer 数据 ,buffer 对象的唯一接口。

        异步 I/O 支持


图1:channel和buffer关系
 

 

例子 1:CopyFile.java:

package sample;

import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.nio.ByteBuffer;
import java.nio.channels.FileChannel;

public class CopyFile {
	public static void main(String[] args) throws Exception {
		String infile = "C:\\copy.sql";
		String outfile = "C:\\copy.txt";
		// 获取源文件和目标文件的输入输出流
		FileInputStream fin = new FileInputStream(infile);
		FileOutputStream fout = new FileOutputStream(outfile);
		// 获取输入输出通道
		FileChannel fcin = fin.getChannel();
		FileChannel fcout = fout.getChannel();
		// 创建缓冲区
		ByteBuffer buffer = ByteBuffer.allocate(1024);
		while (true) {
			// clear方法重设缓冲区,使它可以接受读入的数据
			buffer.clear();
			// 从输入通道中将数据读到缓冲区
			int r = fcin.read(buffer);
			// read方法返回读取的字节数,可能为零,如果该通道已到达流的末尾,则返回-1
			if (r == -1) {
				break;
			}
			// flip方法让缓冲区可以将新读入的数据写入另一个通道
			buffer.flip();
			// 从输出通道中将数据写入缓冲区
			fcout.write(buffer);
		}
	}
}

 

其中 buffer 内部结构如下 ( 下图拷贝自资料 ):


图2:buffer内部结构 

一个 buffer 主要由 position,limit,capacity 三个变量来控制读写的过程。此三个变量的含义见如下表格:

参数

写模式    

读模式

position

当前写入的单位数据数量。

当前读取的单位数据位置。

limit

代表最多能写多少单位数据和容量是一样的。

代表最多能读多少单位数据,和之前写入的单位数据量一致。

capacity

buffer 容量

buffer 容量

Buffer 常见方法:

flip(): 写模式转换成读模式

rewind() :将 position 重置为 0 ,一般用于重复读。

clear() :清空 buffer ,准备再次被写入 (position 变成 0 limit 变成 capacity)

compact(): 将未读取的数据拷贝到 buffer 的头部位。

mark() reset():mark 可以标记一个位置, reset 可以重置到该位置。

Buffer 常见类型: ByteBuffer MappedByteBuffer CharBuffer DoubleBuffer FloatBuffer IntBuffer LongBuffer ShortBuffer

channel 常见类型 :FileChannel DatagramChannel(UDP) SocketChannel(TCP) ServerSocketChannel(TCP)

在本机上面做了个简单的性能测试。我的笔记本性能一般。 ( 具体代码可以见附件。见 nio.sample.filecopy 包下面的例子 ) 以下是参考数据:

       场景 1 Copy 一个 370M 的文件

       场景 2: 三个线程同时拷贝,每个线程拷贝一个 370M 文件

 

场景

FileInputStream+

FileOutputStream

FileInputStream+

BufferedInputStream+

FileOutputStream

ByteBuffer+

FileChannel

MappedByteBuffer

+FileChannel

场景一时间 ( 毫秒 )                 

25155

17500

19000

16500

场景二时间 ( 毫秒 )

69000

67031

74031

71016

5.    nio.charset

字符编码解码 : 字节码本身只是一些数字,放到正确的上下文中被正确被解析。向 ByteBuffer 中存放数据时需要考虑字符集的编码方式,读取展示 ByteBuffer 数据时涉及对字符集解码。

Java.nio.charset 提供了编码解码一套解决方案。

以我们最常见的 http 请求为例,在请求的时候必须对请求进行正确的编码。在得到响应时必须对响应进行正确的解码。

以下代码向 baidu 发一次请求,并获取结果进行显示。例子演示到了 charset 的使用。

例子 2BaiduReader.java

package nio.readpage;

import java.nio.ByteBuffer;
import java.nio.channels.SocketChannel;
import java.nio.charset.Charset;
import java.net.InetSocketAddress;
import java.io.IOException;
public class BaiduReader {
	private Charset charset = Charset.forName("GBK");// 创建GBK字符集
	private SocketChannel channel;
	public void readHTMLContent() {
		try {
			InetSocketAddress socketAddress = new InetSocketAddress(
"www.baidu.com", 80);
//step1:打开连接
			channel = SocketChannel.open(socketAddress);
		//step2:发送请求,使用GBK编码
			channel.write(charset.encode("GET " + "/ HTTP/1.1" + "\r\n\r\n"));
			//step3:读取数据
			ByteBuffer buffer = ByteBuffer.allocate(1024);// 创建1024字节的缓冲
			while (channel.read(buffer) != -1) {
				buffer.flip();// flip方法在读缓冲区字节操作之前调用。
				System.out.println(charset.decode(buffer));
				// 使用Charset.decode方法将字节转换为字符串
				buffer.clear();// 清空缓冲
			}
		} catch (IOException e) {
			System.err.println(e.toString());
		} finally {
			if (channel != null) {
				try {
					channel.close();
				} catch (IOException e) {
				}
			}
		}
	}
	public static void main(String[] args) {
		new BaiduReader().readHTMLContent();
	}
}
 

6.      非阻塞 IO

关于非阻塞 IO 将从何为阻塞、何为非阻塞、非阻塞原理和异步核心 API 几个方面来理解。

何为阻塞?

一个常见的网络 IO 通讯流程如下 :



 

图3:网络通讯基本过程

从该网络通讯过程来理解一下何为阻塞 :

在以上过程中若连接还没到来,那么 accept 会阻塞 , 程序运行到这里不得不挂起, CPU 转而执行其他线程。

在以上过程中若数据还没准备好, read 会一样也会阻塞。

阻塞式网络 IO 的特点:多线程处理多个连接。每个线程拥有自己的栈空间并且占用一些 CPU 时间。每个线程遇到外部为准备好的时候,都会阻塞掉。阻塞的结果就是会带来大量的进程上下文切换。且大部分进程上下文切换可能是无意义的。比如假设一个线程监听一个端口,一天只会有几次请求进来,但是该 cpu 不得不为该线程不断做上下文切换尝试,大部分的切换以阻塞告终。

 

何为非阻塞?

下面有个隐喻:

一辆从 A 开往 B 的公共汽车上,路上有很多点可能会有人下车。司机不知道哪些点会有哪些人会下车,对于需要下车的人,如何处理更好?

1. 司机过程中定时询问每个乘客是否到达目的地,若有人说到了,那么司机停车,乘客下车。 ( 类似阻塞式 )

2. 每个人告诉售票员自己的目的地,然后睡觉,司机只和售票员交互,到了某个点由售票员通知乘客下车。 ( 类似非阻塞 )

很显然,每个人要到达某个目的地可以认为是一个线程,司机可以认为是 CPU 。在阻塞式里面,每个线程需要不断的轮询,上下文切换,以达到找到目的地的结果。而在非阻塞方式里,每个乘客 ( 线程 ) 都在睡觉 ( 休眠 ) ,只在真正外部环境准备好了才唤醒,这样的唤醒肯定不会阻塞。

  非阻塞的原理

把整个过程切换成小的任务,通过任务间协作完成。

由一个专门的线程来处理所有的 IO 事件,并负责分发。

事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的进程切换。

以下是异步 IO 的结构:



 

图4:非阻塞基本原理

 

Reactor 就是上面隐喻的售票员角色。每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。

异步 IO 核心 API

Selector

异步 IO 的核心类,它能检测一个或多个通道 (channel) 上的事件,并将事件分发出去。

使用一个 select 线程就能监听多个通道上的事件,并基于事件驱动触发相应的响应。而不需要为每个 channel 去分配一个线程。

SelectionKey

包含了事件的状态信息和时间对应的通道的绑定。

例子 1 单线程实现监听两个端口。 ( nio.asyn 包下面的例子。 )

例子 2 NIO 线程协作实现资源合理利用。 (wait,notify) ( nio.asyn.multithread 下的例子 )

  • 大小: 9.2 KB
  • 大小: 30.9 KB
  • 大小: 16.9 KB
  • 大小: 32 KB
分享到:
评论
64 楼 moshalanye 2014-03-10  
Tyrion 写道
yychao 写道
楼主写的不错,不过,有些地方不太对;BIO阻塞时,线程进人Blocded状态,等待IO中断唤醒,而不是轮训;BIO的问题不在于线程上下文切换,而在于one connection one thread, 每一个IO读写请求都会占用一个线程,造成大量的线程消耗; NIO的好处在于:one request one thread,当IO准备就绪时,才会通过事件驱动方式,分配线程相应请求;这样可以实现少量线程处理大量请求;
另外,POSIX IO模型分布:
  •     blocking IO
  •     nonblocking IO
  •     IO multiplexing
  •     signal driven IO
  •     asynchronous IO


前四种都是同步IO,最后一种为异步IO;
同步IO与异步IO的区别:是否阻塞请求;
IO请求的相应过程分为两个阶段:
  • 系统内核数据准备阶段
  • 从内核拷贝到用户进程


同步IO都存在阻塞过程:
  •     blocking IO 两个阶段都在阻塞
  •     nonblocking IO 数据准备阶段 不阻塞;数据拷贝阶段阻塞;
  •     IO multiplexing 数据准备阶段与拷贝阶段都阻塞;但是数据准备阶段阻塞在 等待内核完成IO数据准备信号,而不是socket读取数据
  •     signal driven IO 数据copy阶段阻塞;当内核准备好数据,发送IO就绪信号,唤醒用户进程拷贝数据
  •     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞;当内核完成数据拷贝时,唤醒用户进程


阁下关于IO的分类这段写的很详细,能否再说说BIO的一个Connection一个线程与NIO的一个request一个线程的区别?我的理解最终一个Connection还是会转化成一个request的。


他的观点来源于操作的系统的io模式,Stevens的《UNIX网络编程》里面有比较全面的讲述,JNIO是属于IO复用的模式,将原来的 accept read  write 设计为不同的信号,然后dispacher,并没有完全起到异步的效果。

即Connect作为request的资源,有操作thread读取数据时,内核数据到用户数据的拷贝是同步的。

举个例子:
------------------
IO复用方式
事件 accept请求
    进入thread,帮定sock资源 注册 read
        事件 read请求
              同步读,处理完后,生成写数据,同步写


异步IO模式  thread和connection的没有绑定,但被注册的事件和session资源有绑定关系
事件 accept请求
    进入thread 但不帮定sock资源,注册 异步read (注册异步读时,会提供用户态buffer)
异步read
    进入thread, 对用户态数据进行处理,生成写的用户态数据,调用异步写API







63 楼 Tyrion 2013-07-11  
yychao 写道
楼主写的不错,不过,有些地方不太对;BIO阻塞时,线程进人Blocded状态,等待IO中断唤醒,而不是轮训;BIO的问题不在于线程上下文切换,而在于one connection one thread, 每一个IO读写请求都会占用一个线程,造成大量的线程消耗; NIO的好处在于:one request one thread,当IO准备就绪时,才会通过事件驱动方式,分配线程相应请求;这样可以实现少量线程处理大量请求;
另外,POSIX IO模型分布:
  •     blocking IO
  •     nonblocking IO
  •     IO multiplexing
  •     signal driven IO
  •     asynchronous IO


前四种都是同步IO,最后一种为异步IO;
同步IO与异步IO的区别:是否阻塞请求;
IO请求的相应过程分为两个阶段:
  • 系统内核数据准备阶段
  • 从内核拷贝到用户进程


同步IO都存在阻塞过程:
  •     blocking IO 两个阶段都在阻塞
  •     nonblocking IO 数据准备阶段 不阻塞;数据拷贝阶段阻塞;
  •     IO multiplexing 数据准备阶段与拷贝阶段都阻塞;但是数据准备阶段阻塞在 等待内核完成IO数据准备信号,而不是socket读取数据
  •     signal driven IO 数据copy阶段阻塞;当内核准备好数据,发送IO就绪信号,唤醒用户进程拷贝数据
  •     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞;当内核完成数据拷贝时,唤醒用户进程


阁下关于IO的分类这段写的很详细,能否再说说BIO的一个Connection一个线程与NIO的一个request一个线程的区别?我的理解最终一个Connection还是会转化成一个request的。
62 楼 walnuting 2013-01-24  
支持楼主,望多出好帖
61 楼 yychao 2012-12-06  
楼主写的不错,不过,有些地方不太对;BIO阻塞时,线程进人Blocded状态,等待IO中断唤醒,而不是轮训;BIO的问题不在于线程上下文切换,而在于one connection one thread, 每一个IO读写请求都会占用一个线程,造成大量的线程消耗; NIO的好处在于:one request one thread,当IO准备就绪时,才会通过事件驱动方式,分配线程相应请求;这样可以实现少量线程处理大量请求;
另外,POSIX IO模型分布:
  •     blocking IO
  •     nonblocking IO
  •     IO multiplexing
  •     signal driven IO
  •     asynchronous IO


前四种都是同步IO,最后一种为异步IO;
同步IO与异步IO的区别:是否阻塞请求;
IO请求的相应过程分为两个阶段:
  • 系统内核数据准备阶段
  • 从内核拷贝到用户进程


同步IO都存在阻塞过程:
  •     blocking IO 两个阶段都在阻塞
  •     nonblocking IO 数据准备阶段 不阻塞;数据拷贝阶段阻塞;
  •     IO multiplexing 数据准备阶段与拷贝阶段都阻塞;但是数据准备阶段阻塞在 等待内核完成IO数据准备信号,而不是socket读取数据
  •     signal driven IO 数据copy阶段阻塞;当内核准备好数据,发送IO就绪信号,唤醒用户进程拷贝数据
  •     asynchronous IO 数据准备阶段与拷贝阶段都不阻塞;当内核完成数据拷贝时,唤醒用户进程
60 楼 sxjkk 2012-06-28  
好文章,讲的比较细致,感觉自己以前用NIO都是稀里糊涂的
59 楼 wmj007 2011-06-28  
非常好的帖子,可以说是高质量的,学习了!我想将数据库海量数据写入TXT文件,不知道用该方法怎么样?
58 楼 lipulvp 2011-06-13  
我在测试第二段代码的时候出现java.nio.channels.UnresolvedAddressException。我debug的时候在执行channel = SocketChannel.open(socketAddress);出现,lz能帮忙解释一下吗
57 楼 beyondsc 2011-06-05  
该文容易误导读者Selector 不属于异步IO 范畴。nio 只是提供多路 (non-bloking) 非阻塞式的高伸缩性网络 I/O 。
56 楼 imcb 2011-06-02  
非常感谢!
55 楼 gogole_09 2011-05-25  
jason61719 写道
<div class="quote_div">
[size=small;]<span lang="EN-US">
[/size]</span>

			// 从输出通道中将数据写入缓冲区
			fcout.write(buffer);

 

</div>
[size=small;]这一句注释不妥吧…应该是将缓冲区的内容写入通道…[/size]


嗯, LZ的注释应该有问题,
  我的理解: 应该是由于同一个缓冲区Buffer,一开始将输入Channel的数据写入到Buffer之后,再将数据从Buffer中拿出数据,放入到输出Channel中。从而达到复制的目的。
54 楼 lyl290932857 2011-05-06  
好文章,第一次看完知识类文章。
53 楼 sunlzx 2011-05-06  
楼主写得很好,正在学nio,有很大帮助
52 楼 jason61719 2011-05-01  
<div class="quote_div">
<p><span style="font-size: small;"><span lang="EN-US">
</span></span></p>
<pre name="code" class="java"> // 从输出通道中将数据写入缓冲区
fcout.write(buffer);
</pre>
<p> </p>
</div>
<p><span style="font-size: small;">这一句注释不妥吧…应该是将缓冲区的内容写入通道…</span></p>
51 楼 aspnetdb 2011-04-07  
写的很清楚,条理清晰啊。
50 楼 liaohexiang 2011-03-10  
lingqi1818 写道
zy8643954 写道
按照《Unix网络编程》的划分,IO模型可以分为:阻塞IO、非阻塞IO、IO复用、信号驱动IO和异步IO,按照POSIX标准来划分只分为两类:同步IO和异步IO。如何区分呢?首先一个IO操作其实分成了两个步骤:发起IO请求和实际的IO操作,同步IO和异步IO的区别就在于第二个步骤是否阻塞,如果实际的IO读写阻塞请求进程,那么就是同步IO,因此阻塞IO、非阻塞IO、IO服用、信号驱动IO都是同步IO,如果不阻塞,而是操作系统帮你做完IO操作再将结果返回给你,那么就是异步IO。阻塞IO和非阻塞IO的区别在于第一步,发起IO请求是否会被阻塞,如果阻塞直到完成那么就是传统的阻塞IO,如果不阻塞,那么就是非阻塞IO。

上面是引用 dennis_zane 写的一篇文章里的关于IO分类的描述。

我觉得楼主连一些基本概念都没搞清,就在这里扯淡。


你这个理解也是有误的,不能照本宣科。同步异步,阻塞非阻塞是可以自由组合的。


如何自由组合呢?
49 楼 liaohexiang 2011-03-10  
zy8643954 写道
按照《Unix网络编程》的划分,IO模型可以分为:阻塞IO、非阻塞IO、IO复用、信号驱动IO和异步IO,按照POSIX标准来划分只分为两类:同步IO和异步IO。如何区分呢?首先一个IO操作其实分成了两个步骤:发起IO请求和实际的IO操作,同步IO和异步IO的区别就在于第二个步骤是否阻塞,如果实际的IO读写阻塞请求进程,那么就是同步IO,因此阻塞IO、非阻塞IO、IO服用、信号驱动IO都是同步IO,如果不阻塞,而是操作系统帮你做完IO操作再将结果返回给你,那么就是异步IO。阻塞IO和非阻塞IO的区别在于第一步,发起IO请求是否会被阻塞,如果阻塞直到完成那么就是传统的阻塞IO,如果不阻塞,那么就是非阻塞IO。

上面是引用 dennis_zane 写的一篇文章里的关于IO分类的描述。

我觉得楼主连一些基本概念都没搞清,就在这里扯淡。


同意,NIO其实是阻塞的,多路复用其实是减少了线程的上下文切换
48 楼 everlasting_188 2011-03-08  
不错,最近正在补充java知识
47 楼 77tt77 2011-03-04  
学习下NEWIO的知识。
46 楼 jimichan 2011-02-24  
写的很好哇
45 楼 feitian124 2011-02-22  
通俗易懂。非常感谢楼主分享这么好的文章。

相关推荐

    JAVANIO简介.pdf

    ### JAVANIO简介 #### 一、基本概念与传统IO 在计算机科学领域中,**IO(Input/Output)**是指主存与外部设备(如硬盘、终端、网络等)之间传输数据的过程。它是操作系统的一项核心功能,通过专用的I/O指令来实现。...

    主题JAVANIO简介知识点.pdf

    ### 主题JAVANIO简介知识点 #### 一、基本概念与Java标准IO回顾 **基本概念** 在计算机科学中,I/O(Input/Output,输入/输出)是指主存和外部设备(如硬盘、终端、网络等)之间拷贝数据的过程。I/O操作是操作...

    java nio 包读取超大数据文件

    #### 一、Java NIO简介 Java NIO(New IO)是Java平台上的新输入/输出流API,它提供了与传统IO(即Java IO)不同的数据处理方式。NIO在Java 1.4版本引入,并在后续版本中得到了进一步增强和完善。相较于传统的Java ...

    java NIO和java并发编程的书籍

    java NIO和java并发编程的书籍java NIO和java并发编程的书籍java NIO和java并发编程的书籍java NIO和java并发编程的书籍java NIO和java并发编程的书籍java NIO和java并发编程的书籍java NIO和java并发编程的书籍java...

    JavaNIO chm帮助文档

    Java NIO系列教程(一) Java NIO 概述 Java NIO系列教程(二) Channel Java NIO系列教程(三) Buffer Java NIO系列教程(四) Scatter/Gather Java NIO系列教程(五) 通道之间的数据传输 Java NIO系列教程(六)...

    java NIO.zip

    Java NIO,全称为Non-Blocking Input/Output(非阻塞输入/输出),是Java标准库提供的一种替代传统的I/O模型的新技术。自Java 1.4版本引入NIO后,它为Java开发者提供了更高效的数据传输方式,尤其是在处理大量并发...

    Java NIO英文高清原版

    Java NIO,全称为Non-Blocking Input/Output(非阻塞输入/输出),是Java平台中用于替代标准I/O(BIO)模型的一种新机制。NIO在Java 1.4版本引入,提供了更高效的数据处理和通道通信方式,特别适用于高并发、大数据...

    JavaNio视频下载_百度云盘资源

    ### Java NIO简介 Java NIO(New Input/Output),即新输入输出,是Java 1.4版本引入的一个新的API,它提供了与传统Java IO不同的操作方式。Java NIO的主要组成部分包括Buffer、Channel、Selector等,这些组件为...

    Java NIO 中文 Java NIO 中文 Java NIO 中文文档

    Java NIO 深入探讨了 1.4 版的 I/O 新特性,并告诉您如何使用这些特性来极大地提升您所写的 Java 代码的执行效率。这本小册子就程序员所面临的有代表性的 I/O 问题作了详尽阐述,并讲解了 如何才能充分利用新的 I/O ...

    java NIO 视频教程

    Java NIO(New IO)是一个可以替代标准Java IO API的IO API(从Java 1.4开始),Java NIO提供了与标准IO不同的IO工作方式。 Java NIO: Channels and Buffers(通道和缓冲区) 标准的IO基于字节流和字符流进行操作的,...

    java NIO技巧及原理

    Java NIO(New Input/Output)是Java标准库提供的一种I/O模型,它与传统的 Blocking I/O(IO)相比,提供了更加高效的数据传输方式。在Java NIO中,"新"主要体现在非阻塞和多路复用这两个特性上,这使得NIO更适合于...

    java NIO实例

    Java NIO,全称为Non-Blocking Input/Output(非阻塞输入/输出),是Java从1.4版本开始引入的一种新的I/O模型,它为Java应用程序提供了更高效的数据传输方式。传统的Java I/O模型(BIO)在处理大量并发连接时效率较...

    一个java NIO的例子

    Java NIO,全称为Non-Blocking Input/Output(非阻塞输入/输出),是Java标准库提供的一种替代传统I/O模型的新技术。在传统的Java IO模型中,读写操作是阻塞的,即当调用read或write方法时,线程会等待数据准备好或...

    Java Nio selector例程

    java侧起server(NioUdpServer1.java),基于Java Nio的selector 阻塞等候,一个android app(NioUdpClient1文件夹)和一个java程序(UI.java)作为两个client分别向该server发数据,server收到后分别打印收到的消息...

Global site tag (gtag.js) - Google Analytics