java的NIO介绍

关于javaNIO，可能更多人了解的是他的一些并发方面的东西，之前没有怎么了解过，到网上找了些资料，看看学学，得在实践中获得知识才行，先留着吧！下面是找的资料：

1. 基本概念

IO是主存和外部设备(硬盘、终端和网络等)拷贝数据的过程。IO是操作系统的底层功能实现，底层通过I/O指令进行完成。

所有语言运行时系统提供执行I/O较高级别的工具。(c的printf scanf,java的面向对象封装)

2. Java 标准io回顾

Java标准IO类库是io面向对象的一种抽象。基于本地方法的底层实现，我们无须关注底层实现。 InputStream\OutputStream(字节流)：一次传送一个字节。 Reader\Writer(字符流)：一次一个字符。

3. nio简介

nio是java New IO的简称，在jdk1.4里提供的新api。Sun官方标榜的特性如下：

– 为所有的原始类型提供(Buffer)缓存支持。

– 字符集编码解码解决方案。

– Channel：一个新的原始I/O抽象。

– 支持锁和内存映射文件的文件访问接口。

– 提供多路(non-bloking)非阻塞式的高伸缩性网络I/O。

本文将围绕这几个特性进行学习和介绍。

4. Buffer&Chanel

Channel和buffer是NIO是两个最基本的数据类型抽象。

Buffer:

– 是一块连续的内存块。

– 是NIO数据读或写的中转地。

Channel:

– 数据的源头或者数据的目的地

– 用于向buffer提供数据或者读取buffer数据,buffer对象的唯一接口。

– 异步I/O支持

图1：channel和buffer关系

例子1:CopyFile.java:

Java代码

1. package sample;
2. import java.io.FileInputStream;
3. import java.io.FileOutputStream;
4. import java.nio.ByteBuffer;
5. import java.nio.channels.FileChannel;
6. public class CopyFile {
7. public static void main(String[] args) throws Exception {
8. String infile = "C:\\copy.sql";
9. String outfile = "C:\\copy.txt";
10. // 获取源文件和目标文件的输入输出流
11. FileInputStream fin = new FileInputStream(infile);
12. FileOutputStream fout = new FileOutputStream(outfile);
13. // 获取输入输出通道
14. FileChannel fcin = fin.getChannel();
15. FileChannel fcout = fout.getChannel();
16. // 创建缓冲区
17. ByteBuffer buffer = ByteBuffer.allocate(1024);
18. while (true) {
19. // clear方法重设缓冲区，使它可以接受读入的数据
20. buffer.clear();
21. // 从输入通道中将数据读到缓冲区
22. int r = fcin.read(buffer);
23. // read方法返回读取的字节数，可能为零，如果该通道已到达流的末尾，则返回-1
24. if (r == -1) {
25. break;
26. }
27. // flip方法让缓冲区可以将新读入的数据写入另一个通道
28. buffer.flip();
29. // 从输出通道中将数据写入缓冲区
30. fcout.write(buffer);
31. }
32. }
33. }

package sample;

import java.io.FileInputStream;

import java.io.FileOutputStream;

import java.nio.ByteBuffer;

import java.nio.channels.FileChannel;

public class CopyFile {

public static void main(String[] args) throws Exception {

String infile = "C:\\copy.sql";

String outfile = "C:\\copy.txt";

// 获取源文件和目标文件的输入输出流

FileInputStream fin = new FileInputStream(infile);

FileOutputStream fout = new FileOutputStream(outfile);

// 获取输入输出通道

FileChannel fcin = fin.getChannel();

FileChannel fcout = fout.getChannel();

// 创建缓冲区

ByteBuffer buffer = ByteBuffer.allocate(1024);

while (true) {

// clear方法重设缓冲区，使它可以接受读入的数据

buffer.clear();

// 从输入通道中将数据读到缓冲区

int r = fcin.read(buffer);

// read方法返回读取的字节数，可能为零，如果该通道已到达流的末尾，则返回-1

if (r == -1) {

break;

}

// flip方法让缓冲区可以将新读入的数据写入另一个通道

buffer.flip();

// 从输出通道中将数据写入缓冲区

fcout.write(buffer);

}

}

}

其中buffer内部结构如下(下图拷贝自资料):

图2：buffer内部结构

一个buffer主要由position,limit,capacity三个变量来控制读写的过程。此三个变量的含义见如下表格：

参数	写模式	读模式
position	当前写入的单位数据数量。	当前读取的单位数据位置。
limit	代表最多能写多少单位数据和容量是一样的。	代表最多能读多少单位数据，和之前写入的单位数据量一致。
capacity	buffer容量	buffer容量

Buffer常见方法：

flip():写模式转换成读模式

rewind()：将position重置为0，一般用于重复读。

clear()：清空buffer，准备再次被写入(position变成0，limit变成capacity)。

compact():将未读取的数据拷贝到buffer的头部位。

mark()、reset():mark可以标记一个位置，reset可以重置到该位置。

Buffer常见类型：ByteBuffer 、MappedByteBuffer 、CharBuffer 、DoubleBuffer 、 FloatBuffer 、 IntBuffer 、 LongBuffer 、 ShortBuffer。

channel常见类型:FileChannel、DatagramChannel(UDP)、SocketChannel(TCP)、ServerSocketChannel(TCP)

在本机上面做了个简单的性能测试。我的笔记本性能一般。(具体代码可以见附件。见nio.sample.filecopy包下面的例子)以下是参考数据：

– 场景1： Copy一个370M的文件

– 场景2: 三个线程同时拷贝，每个线程拷贝一个370M文件

场景	FileInputStream+ FileOutputStream	FileInputStream+ BufferedInputStream+ FileOutputStream	ByteBuffer+ FileChannel	MappedByteBuffer +FileChannel
场景一时间(毫秒)	25155	17500	19000	16500
场景二时间(毫秒)	69000	67031	74031	71016

5. nio.charset

字符编码解码:字节码本身只是一些数字，放到正确的上下文中被正确被解析。向ByteBuffer中存放数据时需要考虑字符集的编码方式，读取展示ByteBuffer数据时涉及对字符集解码。

Java.nio.charset提供了编码解码一套解决方案。

以我们最常见的http请求为例，在请求的时候必须对请求进行正确的编码。在得到响应时必须对响应进行正确的解码。

以下代码向baidu发一次请求，并获取结果进行显示。例子演示到了charset的使用。

例子2BaiduReader.java

Java代码

1. package nio.readpage;
2. import java.nio.ByteBuffer;
3. import java.nio.channels.SocketChannel;
4. import java.nio.charset.Charset;
5. import java.net.InetSocketAddress;
6. import java.io.IOException;
7. public class BaiduReader {
8. private Charset charset = Charset.forName("GBK");// 创建GBK字符集
9. private SocketChannel channel;
10. public void readHTMLContent() {
11. try {
12. InetSocketAddress socketAddress = new InetSocketAddress(
13. "www.baidu.com", 80);
14. //step1:打开连接
15. channel = SocketChannel.open(socketAddress);
16. //step2:发送请求，使用GBK编码
17. channel.write(charset.encode("GET " + "/ HTTP/1.1" + "\r\n\r\n"));
18. //step3:读取数据
19. ByteBuffer buffer = ByteBuffer.allocate(1024);// 创建1024字节的缓冲
20. while (channel.read(buffer) != -1) {
21. buffer.flip();// flip方法在读缓冲区字节操作之前调用。
22. System.out.println(charset.decode(buffer));
23. // 使用Charset.decode方法将字节转换为字符串
24. buffer.clear();// 清空缓冲
25. }
26. } catch (IOException e) {
27. System.err.println(e.toString());
28. } finally {
29. if (channel != null) {
30. try {
31. channel.close();
32. } catch (IOException e) {
33. }
34. }
35. }
36. }
37. public static void main(String[] args) {
38. new BaiduReader().readHTMLContent();
39. }
40. }

package nio.readpage;

import java.nio.ByteBuffer;

import java.nio.channels.SocketChannel;

import java.nio.charset.Charset;

import java.net.InetSocketAddress;

import java.io.IOException;

public class BaiduReader {

private Charset charset = Charset.forName("GBK");// 创建GBK字符集

private SocketChannel channel;

public void readHTMLContent() {

try {

InetSocketAddress socketAddress = new InetSocketAddress(

"www.baidu.com", 80);

//step1:打开连接

channel = SocketChannel.open(socketAddress);

//step2:发送请求，使用GBK编码

channel.write(charset.encode("GET " + "/ HTTP/1.1" + "\r\n\r\n"));

//step3:读取数据

ByteBuffer buffer = ByteBuffer.allocate(1024);// 创建1024字节的缓冲

while (channel.read(buffer) != -1) {

buffer.flip();// flip方法在读缓冲区字节操作之前调用。

System.out.println(charset.decode(buffer));

// 使用Charset.decode方法将字节转换为字符串

buffer.clear();// 清空缓冲

}

} catch (IOException e) {

System.err.println(e.toString());

} finally {

if (channel != null) {

try {

channel.close();

} catch (IOException e) {

}

}

}

}

public static void main(String[] args) {

new BaiduReader().readHTMLContent();

}

}

6. 非阻塞 IO

关于非阻塞IO将从何为阻塞、何为非阻塞、非阻塞原理和异步核心API几个方面来理解。

何为阻塞？

一个常见的网络IO通讯流程如下:

图3：网络通讯基本过程

从该网络通讯过程来理解一下何为阻塞:

在以上过程中若连接还没到来，那么accept会阻塞,程序运行到这里不得不挂起，CPU转而执行其他线程。

在以上过程中若数据还没准备好，read会一样也会阻塞。

阻塞式网络IO的特点：多线程处理多个连接。每个线程拥有自己的栈空间并且占用一些CPU时间。每个线程遇到外部为准备好的时候，都会阻塞掉。阻塞的结果就是会带来大量的进程上下文切换。且大部分进程上下文切换可能是无意义的。比如假设一个线程监听一个端口，一天只会有几次请求进来，但是该cpu不得不为该线程不断做上下文切换尝试，大部分的切换以阻塞告终。

何为非阻塞？

下面有个隐喻：

一辆从A开往B的公共汽车上，路上有很多点可能会有人下车。司机不知道哪些点会有哪些人会下车，对于需要下车的人，如何处理更好？

1.司机过程中定时询问每个乘客是否到达目的地，若有人说到了，那么司机停车，乘客下车。(类似阻塞式)

2.每个人告诉售票员自己的目的地，然后睡觉，司机只和售票员交互，到了某个点由售票员通知乘客下车。 (类似非阻塞)

很显然，每个人要到达某个目的地可以认为是一个线程，司机可以认为是CPU。在阻塞式里面，每个线程需要不断的轮询，上下文切换，以达到找到目的地的结果。而在非阻塞方式里，每个乘客(线程)都在睡觉(休眠)，只在真正外部环境准备好了才唤醒，这样的唤醒肯定不会阻塞。

非阻塞的原理

把整个过程切换成小的任务，通过任务间协作完成。

由一个专门的线程来处理所有的IO事件，并负责分发。

事件驱动机制：事件到的时候触发，而不是同步的去监视事件。

线程通讯：线程之间通过wait,notify等方式通讯。保证每次上下文切换都是有意义的。减少无谓的进程切换。

以下是异步IO的结构：

图4：非阻塞基本原理

Reactor就是上面隐喻的售票员角色。每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。

异步IO核心API

Selector

异步IO的核心类，它能检测一个或多个通道(channel)上的事件，并将事件分发出去。

使用一个select线程就能监听多个通道上的事件，并基于事件驱动触发相应的响应。而不需要为每个channel去分配一个线程。

SelectionKey

包含了事件的状态信息和时间对应的通道的绑定。