如何增强JAVA的I/O性能

JDK 1.0.2 的 java.io 包暴露了很多I/O性能问题,这里将介绍一个优化方案,附加一个关闭同步的方法。

Java的I/O性能曾经是很多Java应用的瓶颈,主要原因就是JDK1.0.2的java.io包的不良设计和实现。关键问题是缓冲,绝大多数java.io中的类都未做缓冲。事实上,只有BufferedInputStream 和 BufferedOutputStream两个类做了缓冲,但他们提供的方法有限。例如,在大多数涉及文件操作的应用中,你需要逐行解析一个文件。但是唯一提供了readLine方法的类是DataInputStream,可是它却没有内部缓冲。DataInputStream的readLine方法其实是从输入流中逐个读取字符直到遇到 “n” 或 “rn”字符。每个读取字符操作都涉及到一次文件I/O。这在读取一个大文件时是极其低效的。没有缓冲的情况下一个5兆字节的文件就需要至少5百万次读取字符的文件I/O操作。

新版本JDK1.1通过增加一套Reader、Writer类改进了I/O性能。在大文件读取中BufferedReader的readLine方法至少比以前的DataInputStream快10到20倍。不幸的是,JDK1.1没有解决所有的性能问题。比如,当你想解析一个大文件但是又不希望全部读到内存中时,需要使用到RandomAccessFile类,但是在JDK1.1里它也没有做缓冲,也没有提供其他类似的Reader类。

如何解决I/O难题?

解决低效的文件I/O,我们需要一个提供缓冲的RandomAccessFile类。有一个类继承自RandomAccessFile,并且重用了RandomAccessFile中的所有方法,它就是Braf(Bufferedrandomaccessfile)。

 

public class Braf extends RandomAccessFile {
}

出于效率原因,我们定义了一个字节缓冲区而不是字符缓冲区。使用buf_end、buf_pos和real_pos三个变量来记录缓冲区上有用的位置信息。

byte buffer[];
int buf_end = 0;
int buf_pos = 0;
long real_pos = 0;

增加了一个新的构造函数,里面多了一个指定缓冲区大小的参数:

public Braf(String filename, String mode, int bufsize) 
throws IOException{
    super(filename,mode);
    invalidate();
    BUF_SIZE = bufsize;
    buffer = new byte[BUF_SIZE]; 
}

新写了一个read方法,它永远优先读取缓冲区。它覆盖了原来的read方法,在缓冲区读完时,会调用fillBuffer,它将调用父类的read方法读取字节,填充到缓冲区中。私有函数invalidate被用来判断缓冲区中是否包含合法数据,它在seek方法被调用、文件指针可能被定位到缓冲区之外时是非常有必要的。

public final int read() throws IOException{
  if(buf_pos >= buf_end) {
  if(fillBuffer() < 0)
    return -1;
  }
  if(buf_end == 0) {
    return -1;
  } else {
    return buffer[buf_pos++];
  }
}
private int fillBuffer() throws IOException {
  int n = super.read(buffer, 0, BUF_SIZE);
  if(n >= 0) {
    real_pos +=n;
    buf_end = n;
    buf_pos = 0;
  }
  return n;
}
private void invalidate() throws IOException {
  buf_end = 0;
  buf_pos = 0;
  real_pos = super.getFilePointer();
}

另一个参数化的读取方法也被重载,代码如下。如果缓冲足够的话,它就会调用System.arraycopy 方法直接从缓冲中拷贝一部分到用户区。这个也能显著提升性能,因为getNextLine方法中read()方法被大量使用,getNextLine也是readLine的替代品。

public int read(byte b[], int off, int len) throws IOException {
  int leftover = buf_end - buf_pos;
  if(len <= leftover) {
    System.arraycopy(buffer, buf_pos, b, off, len);
    buf_pos += len;
    return len;
  }
  for(int i = 0; i < len; i++) {
    int c = this.read();
    if(c != -1)
      b[off+i] = (byte)c;
    else {
      return i;
    }
  }
  return len;
}

原来的getFilePointer和seek方法也需要被重载来配合缓冲。大多数情况下,两个方法只会简单的在缓冲中进行操作

public long getFilePointer() throws IOException{
  long l = real_pos;
  return (l - buf_end + buf_pos) ;
}
public void seek(long pos) throws IOException {
  int n = (int)(real_pos - pos);
  if(n >= 0 && n <= buf_end) {
    buf_pos = buf_end - n;
  } else {
    super.seek(pos);
    invalidate();
  }
}

 

最重要的,一个新的方法,getNextLine,被加入来替换readLine。我们不能简单的重载readLine,因为它是final定义的。getNextLine方法首先需要确定buffer是否有未读数据。如果没有,缓冲区需要被填满。读取时如果遇到换行符,新的一行就从缓冲区中读出转换为String对象。否则,将继续调用read方法逐个读取字节。尽管后面部分的代码和原来的readLine很像,但是由于read方法做了缓冲,它的性能也要优于以前。

/**
* return a next line in String 
*/
public final String getNextLine() throws IOException {
  String str = null;
  if(buf_end-buf_pos <= 0) {
    if(fillBuffer() < 0) {
      throw new IOException("error in filling buffer!");
    }
  }
  int lineend = -1;
  for(int i = buf_pos; i < buf_end; i++) {
    if(buffer[i] == 'n') {
      lineend = i;
      break;
    }
  }
  if(lineend < 0) {
    StringBuffer input = new StringBuffer(256);
    int c;
    while (((c = read()) != -1) && (c != 'n')) {
      input.append((char)c);
    }
    if ((c == -1) && (input.length() == 0)) {
      return null;
    }
    return input.toString();
  }
  if(lineend > 0 && buffer[lineend-1] == 'r')
    str = new String(buffer, 0, buf_pos, lineend - buf_pos -1);
    else str = new String(buffer, 0, buf_pos, lineend - buf_pos);
    buf_pos = lineend +1;
    return str;
  }

在Braf类的帮助下,我们在逐行读取大文件时至少能得到高过RandomAccessFile类25倍的性能提升。这个方案也应用在其他I/O操作密集的场景中。
关闭同步:额外的提示
除了I/O,另一个拖累Java性能的因素是同步,大体上,同步方法的成本大约是普通方法的6倍。如果你在写一个没有多线程的应用,或者是一个应用中肯定只会单线程运行的部分,你不需要做任何同步声明。当前,Java还没有机制来关闭同步。一个非正规的方法是拿到源码,去掉同步声明然后创建一个新类。例如,BufferedInputStream中两个read方法都是同步的,因为其他I/O方法都依赖它们。你可以在JavaSoft的JDK 1.1中拷贝BufferedInputStream.java 源码,创建一个新的NewBIS类,删掉同步声明,重新编译。

 

英文原文:Java Tip 26: How to improve Java’s I/O performance,编译:ImportNew - 储晓颖

译文链接: http://www.importnew.com/1068.html

【如需转载,请在正文中标注并保留原文链接、译文链接和译者等信息,谢谢合作!】

关于作者: 储晓颖

现任支付宝架构师,负责监控分析域的架构和产品设计。架构时严谨,编码时疯狂。新浪微博:@疯狂编码中的xiaoY

查看储晓颖的更多文章 >>



相关文章

发表评论

Comment form

(*) 表示必填项

2 条评论

  1. 温武汉 说道:

    我们不能简单的重载readLine,因为它是final定义的。
    这句话有错,override应该是覆盖,final修饰的方法不能被覆盖或者重写,为什么importnew上的文章看到好几篇都没分清override和overload

    Thumb up 0 Thumb down 0

  2. Penn 说道:

    Very Good!

    Thumb up 0 Thumb down 0

跳到底部
返回顶部