高效的RandomAccessFile

時間  2020-07-20
標籤 高效 randomaccessfile 简体版
原文   原文鏈接

主體：緩存

 

RandomAccessFile類。其I/O性能較之其它經常使用開發語言的同類性能差距甚遠，嚴重影響程序的運行效率。app

開發人員迫切須要提升效率，下面分析RandomAccessFile等文件類的源代碼，找出其中的癥結所在，並加以改進優化，建立一個"性/價比"俱佳的隨機文件訪問類BufferedRandomAccessFile。dom

 

在改進以前先作一個基本測試：逐字節COPY一個12兆的文件（這裏牽涉到讀和寫）。ide

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

 

咱們能夠看到二者差距約32倍，RandomAccessFile也太慢了。先看看二者關鍵部分的源代碼，對比分析，找出緣由。函數

 

1．1．[RandomAccessFile]性能

 

Java代碼  收藏代碼測試

  1. public class RandomAccessFile implements DataOutput, DataInput {  優化

  2.     public final byte readByte() throws IOException {  this

  3.         int ch = this.read();  spa

  4.         if (ch < 0)  

  5.             throw new EOFException();  

  6.         return (byte)(ch);  

  7.     }  

  8.     public native int read() throws IOException;   

  9.     public final void writeByte(int v) throws IOException {  

  10.         write(v);  

  11.     }   

  12.     public native void write(int b) throws IOException;   

  13. }  

 

可見，RandomAccessFile每讀/寫一個字節就需對磁盤進行一次I/O操做。

 

1．2．[BufferedInputStream]

 

Java代碼  收藏代碼

  1. public class BufferedInputStream extends FilterInputStream {  

  2.     private static int defaultBufferSize = 2048;   

  3.     protected byte buf[]; // 創建讀緩存區  

  4.     public BufferedInputStream(InputStream in, int size) {  

  5.         super(in);          

  6.         if (size <= 0) {  

  7.             throw new IllegalArgumentException("Buffer size <= 0");  

  8.         }  

  9.         buf = new byte[size];  

  10.     }  

  11.     public synchronized int read() throws IOException {  

  12.         ensureOpen();  

  13.         if (pos >= count) {  

  14.             fill();  

  15.             if (pos >= count)  

  16.                 return -1;  

  17.         }  

  18.         return buf[pos++] & 0xff; // 直接從BUF[]中讀取  

  19.     }   

  20.     private void fill() throws IOException {  

  21.     if (markpos < 0)  

  22.         pos = 0;        /* no mark: throw away the buffer */  

  23.     else if (pos >= buf.length)  /* no room left in buffer */  

  24.         if (markpos > 0) {   /* can throw away early part of the buffer */  

  25.         int sz = pos - markpos;  

  26.         System.arraycopy(buf, markpos, buf, 0, sz);  

  27.         pos = sz;  

  28.         markpos = 0;  

  29.         } else if (buf.length >= marklimit) {  

  30.         markpos = -1;   /* buffer got too big, invalidate mark */  

  31.         pos = 0;    /* drop buffer contents */  

  32.         } else {        /* grow buffer */  

  33.         int nsz = pos * 2;  

  34.         if (nsz > marklimit)  

  35.             nsz = marklimit;  

  36.         byte nbuf[] = new byte[nsz];  

  37.         System.arraycopy(buf, 0, nbuf, 0, pos);  

  38.         buf = nbuf;  

  39.         }  

  40.     count = pos;  

  41.     int n = in.read(buf, pos, buf.length - pos);  

  42.     if (n > 0)  

  43.         count = n + pos;  

  44.     }  

  45. }  

 

1．3．[BufferedOutputStream]

 

Java代碼  收藏代碼

  1. public class BufferedOutputStream extends FilterOutputStream {  

  2.    protected byte buf[]; // 創建寫緩存區  

  3.    public BufferedOutputStream(OutputStream out, int size) {  

  4.         super(out);  

  5.         if (size <= 0) {  

  6.             throw new IllegalArgumentException("Buffer size <= 0");  

  7.         }  

  8.         buf = new byte[size];  

  9.     }   

  10. public synchronized void write(int b) throws IOException {  

  11.         if (count >= buf.length) {  

  12.             flushBuffer();  

  13.         }  

  14.         buf[count++] = (byte)b; // 直接從BUF[]中讀取  

  15.    }  

  16.    private void flushBuffer() throws IOException {  

  17.         if (count > 0) {  

  18.             out.write(buf, 0, count);  

  19.             count = 0;  

  20.         }  

  21.    }  

  22. }  

 

可見，Buffered I/O putStream每讀/寫一個字節，若要操做的數據在BUF中，就直接對內存的buf[]進行讀/寫操做；不然從磁盤相應位置填充buf[]，再直接對內存的buf[]進行讀/寫操做，絕大部分的讀/寫操做是對內存buf[]的操做。

 

1．3．小結

 

內存存取時間單位是納秒級（10E-9），磁盤存取時間單位是毫秒級（10E-3）， 一樣操做一次的開銷，內存比磁盤快了百萬倍。理論上能夠預見，即便對內存操做上萬次，花費的時間也遠少對於磁盤一次I/O的開銷。 顯而後者是經過增長位於內存的BUF存取，減小磁盤I/O的開銷，提升存取效率的，固然這樣也增長了BUF控制部分的開銷。從實際應用來看，存取效率提升了32倍。

 

根據1.3得出的結論，現試着對RandomAccessFile類也加上緩衝讀寫機制。

 

隨機訪問類與順序類不一樣，前者是經過實現DataInput/DataOutput接口建立的，然後者是擴展FilterInputStream/FilterOutputStream建立的，不能直接照搬。

 

2．1．開闢緩衝區BUF[默認：1024字節]，用做讀/寫的共用緩衝區。

 

2．2．先實現讀緩衝。

 

讀緩衝邏輯的基本原理：

  • A 欲讀文件POS位置的一個字節。

  • B 查BUF中是否存在？如有，直接從BUF中讀取，並返回該字符BYTE。

  • C 若沒有，則BUF從新定位到該POS所在的位置並把該位置附近的BUFSIZE的字節的文件內容填充BUFFER，返回B。

如下給出關鍵部分代碼及其說明：

 

Java代碼  收藏代碼

  1. public class BufferedRandomAccessFile extends RandomAccessFile {  

  2. //  byte read(long pos)：讀取當前文件POS位置所在的字節  

  3. //  bufstartpos、bufendpos表明BUF映射在當前文件的首/尾偏移地址。  

  4. //  curpos指當前類文件指針的偏移地址。  

  5.     public byte read(long pos) throws IOException {  

  6.         if (pos < this.bufstartpos || pos > this.bufendpos ) {  

  7.             this.flushbuf();  

  8.             this.seek(pos);  

  9.             if ((pos < this.bufstartpos) || (pos > this.bufendpos))   

  10.                 throw new IOException();  

  11.         }  

  12.         this.curpos = pos;  

  13.         return this.buf[(int)(pos - this.bufstartpos)];  

  14.     }  

  15. // void flushbuf()：bufdirty爲真，把buf[]中還沒有寫入磁盤的數據，寫入磁盤。  

  16.     private void flushbuf() throws IOException {  

  17.         if (this.bufdirty == true) {  

  18.             if (super.getFilePointer() != this.bufstartpos) {  

  19.                 super.seek(this.bufstartpos);  

  20.             }  

  21.             super.write(this.buf, 0, this.bufusedsize);  

  22.             this.bufdirty = false;  

  23.         }  

  24.     }  

  25. // void seek(long pos)：移動文件指針到pos位置，並把buf[]映射填充至POS所在的文件塊。  

  26.     public void seek(long pos) throws IOException {  

  27.         if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf  

  28.             this.flushbuf();  

  29.             if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) {   // seek pos in file (file length > 0)  

  30.                   this.bufstartpos =  pos * bufbitlen / bufbitlen;  

  31.                   this.bufusedsize = this.fillbuf();  

  32.             } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) {   // seek pos is append pos  

  33.                 this.bufstartpos = pos;  

  34.                 this.bufusedsize = 0;  

  35.             }  

  36.             this.bufendpos = this.bufstartpos + this.bufsize - 1;  

  37.         }  

  38.         this.curpos = pos;  

  39.     }  

  40. // int fillbuf()：根據bufstartpos，填充buf[]。  

  41.     private int fillbuf() throws IOException {  

  42.         super.seek(this.bufstartpos);  

  43.         this.bufdirty = false;  

  44.         return super.read(this.buf);  

  45.     }  

  46. }  

 

至此緩衝讀基本實現，逐字節COPY一個12兆的文件（這裏牽涉到讀和寫，用BufferedRandomAccessFile試一下讀的速度）：

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

 

可見速度顯著提升，與BufferedInputStream+DataInputStream不相上下。

 

2．3．實現寫緩衝。

 

寫緩衝邏輯的基本原理：

  • A欲寫文件POS位置的一個字節。

  • B 查BUF中是否有該映射？如有，直接向BUF中寫入，並返回true。

  • C若沒有，則BUF從新定位到該POS所在的位置，並把該位置附近的 BUFSIZE字節的文件內容填充BUFFER，返回B。

下面給出關鍵部分代碼及其說明：

 

Java代碼  收藏代碼

  1. // boolean write(byte bw, long pos)：向當前文件POS位置寫入字節BW。  

  2. // 根據POS的不一樣及BUF的位置：存在修改、追加、BUF中、BUF外等狀況。在邏輯判斷時，把最可能出現的狀況，最早判斷，這樣可提升速度。  

  3. // fileendpos：指示當前文件的尾偏移地址，主要考慮到追加因素  

  4.     public boolean write(byte bw, long pos) throws IOException {  

  5.         if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { // write pos in buf  

  6.             this.buf[(int)(pos - this.bufstartpos)] = bw;  

  7.             this.bufdirty = true;  

  8.             if (pos == this.fileendpos + 1) { // write pos is append pos  

  9.                 this.fileendpos++;  

  10.                 this.bufusedsize++;  

  11.             }  

  12.         } else { // write pos not in buf  

  13.             this.seek(pos);  

  14.             if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // write pos is modify file  

  15.                 this.buf[(int)(pos - this.bufstartpos)] = bw;  

  16.             } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // write pos is append pos  

  17.                 this.buf[0] = bw;  

  18.                 this.fileendpos++;  

  19.                 this.bufusedsize = 1;  

  20.             } else {  

  21.                 throw new IndexOutOfBoundsException();  

  22.             }  

  23.             this.bufdirty = true;  

  24.         }  

  25.         this.curpos = pos;  

  26.         return true;  

  27.     }  

  28.       

 

至此緩衝寫基本實現，逐字節COPY一個12兆的文件，（這裏牽涉到讀和寫，結合緩衝讀，用BufferedRandomAccessFile試一下讀/寫的速度）：

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453

 

可見綜合讀/寫速度已超越BufferedInput/OutputStream+DataInput/OutputStream。


轉載自http://zhang-xiujiao.iteye.com/blog/1150751


優化BufferedRandomAccessFile。

 

優化原則：

  •     調用頻繁的語句最須要優化，且優化的效果最明顯。

  •     多重嵌套邏輯判斷時，最可能出現的判斷，應放在最外層。

  •     減小沒必要要的NEW。


這裏舉一典型的例子：

 

Java代碼  收藏代碼

  1.  public void seek(long pos) throws IOException {  

  2. ...  

  3.        this.bufstartpos =  pos * bufbitlen / bufbitlen; // bufbitlen指buf[]的位長，例：若bufsize=1024，則bufbitlen=10。  

  4.               ...  

  5. }  

 

seek函數使用在各函數中，調用很是頻繁，上面加劇的這行語句根據pos和bufsize肯定buf[]對應當前文件的映射位置，用"*"、"/"肯定，顯然不是一個好方法。

 

  • 優化一：this.bufstartpos = (pos << bufbitlen) >> bufbitlen;

  • 優化二：this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);

二者效率都比原來好，但後者顯然更好，由於前者須要兩次移位運算、後者只需一次邏輯與運算（bufmask能夠預先得出）。

至此優化基本實現，逐字節COPY一個12兆的文件，（這裏牽涉到讀和寫，結合緩衝讀，用優化後BufferedRandomAccessFile試一下讀/寫的速度）：

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197

 

可見優化儘管不明顯，仍是比未優化前快了一些，也許這種效果在老式機上會更明顯。

以上比較的是順序存取，即便是隨機存取，在絕大多數狀況下也不止一個BYTE，因此緩衝機制依然有效。而通常的順序存取類要實現隨機存取就不怎麼容易了。


須要完善的地方

 

提供文件追加功能：

 

Java代碼  收藏代碼

  1. public boolean append(byte bw) throws IOException {  

  2.    return this.write(bw, this.fileendpos + 1);  

  3. }  

 

提供文件當前位置修改功能：

 

Java代碼  收藏代碼

  1. public boolean write(byte bw) throws IOException {  

  2.    return this.write(bw, this.curpos);  

  3. }  

 

返回文件長度（因爲BUF讀寫的緣由，與原來的RandomAccessFile類有所不一樣）：

 

Java代碼  收藏代碼

  1. public long length() throws IOException {  

  2.    return this.max(this.fileendpos + 1, this.initfilelen);  

  3. }  

 

返回文件當前指針（因爲是經過BUF讀寫的緣由，與原來的RandomAccessFile類有所不一樣）：

 

Java代碼  收藏代碼

  1. public long getFilePointer() throws IOException {  

  2.    return this.curpos;  

  3. }  

 

提供對當前位置的多個字節的緩衝寫功能：

 

Java代碼  收藏代碼

  1. public void write(byte b[], int off, int len) throws IOException {  

  2.         long writeendpos = this.curpos + len - 1;  

  3.         if (writeendpos <= this.bufendpos) { // b[] in cur buf  

  4.             System.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos), len);  

  5.             this.bufdirty = true;  

  6.             this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1);  

  7.         } else { // b[] not in cur buf  

  8.             super.seek(this.curpos);  

  9.             super.write(b, off, len);  

  10.         }  

  11.         if (writeendpos > this.fileendpos)  

  12.             this.fileendpos = writeendpos;  

  13.         this.seek(writeendpos+1);  

  14. }  

  15. public void write(byte b[]) throws IOException {  

  16.         this.write(b, 0, b.length);  

  17. }  

 

提供對當前位置的多個字節的緩衝讀功能：

 

Java代碼  收藏代碼

  1. public int read(byte b[], int off, int len) throws IOException {  

  2.     long readendpos = this.curpos + len - 1;  

  3.     if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) { // read in buf  

  4.         System.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos), b, off, len);  

  5.     } else { // read b[] size > buf[]  

  6.     if (readendpos > this.fileendpos) { // read b[] part in file  

  7.         len = (int)(this.length() - this.curpos + 1);  

  8.     }  

  9.        super.seek(this.curpos);  

  10.        len = super.read(b, off, len);  

  11.        readendpos = this.curpos + len - 1;  

  12.    }  

  13.        this.seek(readendpos + 1);  

  14.        return len;  

  15. }  

  16. public int read(byte b[]) throws IOException {  

  17.    return this.read(b, 0, b.length);  

  18. }  

  19. public void setLength(long newLength) throws IOException {  

  20.    if (newLength > 0) {  

  21.        this.fileendpos = newLength - 1;  

  22.    } else {  

  23.        this.fileendpos = 0;  

  24.    }  

  25.    super.setLength(newLength);  

  26. }  

  27.       

  28. public void close() throws IOException {  

  29.    this.flushbuf();  

  30.    super.close();  

  31. }  

 

至此完善工做基本完成，試一下新增的多字節讀/寫功能，經過同時讀/寫1024個字節，來COPY一個12兆的文件，（這裏牽涉到讀和寫，用完善後BufferedRandomAccessFile試一下讀/寫的速度）：

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401


與MappedByteBuffer+RandomAccessFile的對比？

 

JDK1.4+提供了NIO類 ，其中MappedByteBuffer類用於映射緩衝，也能夠映射隨機文件訪問，可見JAVA設計者也看到了RandomAccessFile的問題， 並加以改進。怎麼經過MappedByteBuffer+RandomAccessFile拷貝文件呢？下面就是測試程序的主要部分：

 

Java代碼  收藏代碼

  1. RandomAccessFile rafi = new RandomAccessFile(SrcFile, "r");  

  2. RandomAccessFile rafo = new RandomAccessFile(DesFile, "rw");  

  3. FileChannel fci = rafi.getChannel();  

  4. FileChannel fco = rafo.getChannel();  

  5. long size = fci.size();  

  6. MappedByteBuffer mbbi = fci.map(FileChannel.MapMode.READ_ONLY, 0, size);  

  7. MappedByteBuffer mbbo = fco.map(FileChannel.MapMode.READ_WRITE, 0, size);  

  8. long start = System.currentTimeMillis();  

  9. for (int i = 0; i < size; i++) {  

  10.     byte b = mbbi.get(i);  

  11.     mbbo.put(i, b);  

  12. }  

  13. fcin.close();  

  14. fcout.close();  

  15. rafi.close();  

  16. rafo.close();  

  17. System.out.println("Spend: "+(double)(System.currentTimeMillis()-start) / 1000 + "s");  

 

試一下JDK1.4的映射緩衝讀/寫功能，逐字節COPY一個12兆的文件，（這裏牽涉到讀和寫）：

 

讀 寫 耗用時間（秒）
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401
MappedByteBuffer+ RandomAccessFile MappedByteBuffer+ RandomAccessFile 1.209

 

確實不錯，看來NIO有了極大的進步。建議採用 MappedByteBuffer+RandomAccessFile的方式。


轉載自http://zhang-xiujiao.iteye.com/blog/1150762

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程