Java 讀取大文件相關基礎

問:使用 Java 如何讀取大文件粱玲,你有什么建議或者經驗?

答:我們平常讀取一般文件都是將文件數據直接全部讀取到內存中進行操作的拜轨,這種做法對于小文件是沒有問題的抽减,但對于稍大一些的文件就會拋出 OOM 異常,所以我們應該把大文件分成多個子區(qū)域分多次讀取橄碾。

  • 思路一:文件流邊讀邊用胯甩,使用文件流的 read() 方法每次讀取指定長度的數據到內存中,具體樣板代碼如下堪嫂。
//BufferedReader類同
BufferedInputStream reader = new BufferedInputStream(new FileInputStream("big.txt"), 8192);
int bytes = -1;
do {
    byte[] tmpArray = new byte[8192];
    bytes = reader.read(tmpArray);
    if (bytes != -1) {
        //做事情
    }
} while(bytes > 0);
reader.close();
  • 思路二:對大文件建立 NIO (New IO) 的 FileChannel偎箫,每次調用 read() 方法時會先將文件數據讀取到已分配固定長度的 java.nio.ByteBuffer 中,接著從中獲取讀取的數據皆串。這種用 NIO 通道的方法比傳統(tǒng)文件流讀取理論上要快一點淹办,具體樣板代碼如下。
FileInputStream fileIn = new FileInputStream("big.txt");
ByteBuffer byteBuf = ByteBuffer.allocate(65535);
FileChannel fileChannel = fileIn.getChannel();
int bytes = -1;
do {
    bytes = fileChannel.read(byteBuf);
    if (bytes != -1) {
        byte[] array = new byte[bytes];
        byteBuf.flip();
        byteBuf.get(array);
        byteBuf.clear();
        //拿array做事情
        System.out.println(new String(array));
    }
} while (bytes > 0);
byteBuf.clear();
fileChannel.close();
fileIn.close();
  • 思路三:內存文件映射恶复,就是把文件內容映射到虛擬內存的一塊區(qū)域中怜森,從而可以直接操作內存當中的數據而無需每次都通過 I/O 去物理硬盤讀取文件,這種方式可以提高速度谤牡,具體樣板代碼如下副硅。
FileInputStream fileIn = new FileInputStream("big.txt");
FileChannel fileChannel = fileIn.getChannel();
MappedByteBuffer mappedBuf = fileChannel.map(FileChannel.MapMode.READ_ONLY, 0, fileChannel.size());
boolean end = false;
do {
    int limit = mappedBuf.limit();
    int position = mappedBuf.position();
    if (position >= limit) {
        end = true;
    }

    int maxSize = 2048;
    if (limit - position < maxSize) {
        maxSize = limit - position;
    }
    byte[] array = new byte[maxSize];
    mappedBuf.get(array);
    //拿array搞事情
    System.out.println(new String(array));
} while (!end);
mappedBuf.clear();
fileChannel.close();
fileIn.close();
  • 思路四:使用 RandomAccessFile 的 seek() 方法進行分塊讀寫操作,具體實現(xiàn)非常簡單翅萤,和普通文件操作一樣恐疲,不過還是推薦 JDK 1.4 NIO 的內存映射文件。

本文參考自 Java 讀取大文件相關面試題基礎解析

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市培己,隨后出現(xiàn)的幾起案子碳蛋,更是在濱河造成了極大的恐慌,老刑警劉巖省咨,帶你破解...
    沈念sama閱讀 211,348評論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肃弟,死亡現(xiàn)場離奇詭異,居然都是意外死亡零蓉,警方通過查閱死者的電腦和手機笤受,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,122評論 2 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來敌蜂,“玉大人箩兽,你說我怎么就攤上這事∥刹幔” “怎么了?”我有些...
    開封第一講書人閱讀 156,936評論 0 347
  • 文/不壞的土叔 我叫張陵快耿,是天一觀的道長囊陡。 經常有香客問我,道長掀亥,這世上最難降的妖魔是什么撞反? 我笑而不...
    開封第一講書人閱讀 56,427評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮搪花,結果婚禮上遏片,老公的妹妹穿的比我還像新娘。我一直安慰自己撮竿,他們只是感情好吮便,可當我...
    茶點故事閱讀 65,467評論 6 385
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著幢踏,像睡著了一般髓需。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上房蝉,一...
    開封第一講書人閱讀 49,785評論 1 290
  • 那天僚匆,我揣著相機與錄音,去河邊找鬼搭幻。 笑死咧擂,一個胖子當著我的面吹牛,可吹牛的內容都是我干的檀蹋。 我是一名探鬼主播松申,決...
    沈念sama閱讀 38,931評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了攻臀?” 一聲冷哼從身側響起焕数,我...
    開封第一講書人閱讀 37,696評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎刨啸,沒想到半個月后堡赔,有當地人在樹林里發(fā)現(xiàn)了一具尸體,經...
    沈念sama閱讀 44,141評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡设联,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,483評論 2 327
  • 正文 我和宋清朗相戀三年善已,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片离例。...
    茶點故事閱讀 38,625評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡换团,死狀恐怖,靈堂內的尸體忽然破棺而出宫蛆,到底是詐尸還是另有隱情艘包,我是刑警寧澤,帶...
    沈念sama閱讀 34,291評論 4 329
  • 正文 年R本政府宣布耀盗,位于F島的核電站想虎,受9級特大地震影響,放射性物質發(fā)生泄漏叛拷。R本人自食惡果不足惜舌厨,卻給世界環(huán)境...
    茶點故事閱讀 39,892評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望忿薇。 院中可真熱鬧裙椭,春花似錦、人聲如沸署浩。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,741評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽筋栋。三九已至你雌,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間二汛,已是汗流浹背婿崭。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評論 1 265
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留肴颊,地道東北人氓栈。 一個月前我還...
    沈念sama閱讀 46,324評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像婿着,于是被迫代替她去往敵國和親授瘦。 傳聞我的和親對象是個殘疾皇子醋界,可洞房花燭夜當晚...
    茶點故事閱讀 43,492評論 2 348