大文件拷貝皇筛,試試NIO的內(nèi)存映射

最近項(xiàng)目里有個(gè)需求需要實(shí)現(xiàn)文件拷貝识脆,在java中文件拷貝流的讀寫,很容易就想到IO中的InputStream和OutputStream之類的离例,但是上網(wǎng)查了一下文件拷貝也是有很多種方法的悉稠,除了IO,還有NIO耀盗、Apache提供的工具類叛拷、JDK自帶的文件拷貝方法

IO拷貝

public class IOFileCopy {

    private static final int BUFFER_SIZE = 1024;

    public static void copyFile(String source, String target) {
        long start = System.currentTimeMillis();
        try(InputStream in = new FileInputStream(new File(source));
            OutputStream out = new FileOutputStream(new File(target))) {
            byte[] buffer = new byte[BUFFER_SIZE];
            int len;
            while ((len = in.read(buffer)) > 0) {
                out.write(buffer, 0, len);
            }

            System.out.println(String.format("IO file copy cost %d msc", System.currentTimeMillis() - start));
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

傳統(tǒng)IO中文件讀取過(guò)程可以分為以下幾步:

  • 內(nèi)核從磁盤讀取數(shù)據(jù)到緩沖區(qū)忿薇,這個(gè)過(guò)程由磁盤操作器通過(guò)DMA操作將數(shù)據(jù)從磁盤讀取到內(nèi)核緩沖區(qū)躏哩,該過(guò)程不依賴CPU

  • 用戶進(jìn)程在將數(shù)據(jù)從內(nèi)核緩沖區(qū)拷貝到用戶空間緩沖區(qū)

  • 用戶進(jìn)程從用戶空間緩沖區(qū)讀取數(shù)據(jù)

image.png

NIO拷貝

NIO進(jìn)行文件拷貝有兩種實(shí)現(xiàn)方式扫尺,一是通過(guò)管道,而是通過(guò)文件內(nèi)存內(nèi)存映射

public class NIOFileCopy {

    public static void copyFile(String source, String target) {
        long start = System.currentTimeMillis();
        try(FileChannel input = new FileInputStream(new File(source)).getChannel();
            FileChannel output = new FileOutputStream(new File(target)).getChannel()) {
            output.transferFrom(input, 0, input.size());
        } catch (Exception e) {
            e.printStackTrace();
        }

        System.out.println(String.format("NIO file copy cost %d msc", System.currentTimeMillis() - start));
    }
}

文件內(nèi)存映射:

把內(nèi)核空間地址與用戶空間的虛擬地址映射到同一個(gè)物理地址弊攘,DMA 硬件可以填充對(duì)內(nèi)核與用戶空間進(jìn)程同時(shí)可見(jiàn)的緩沖區(qū)了。用戶進(jìn)程直接從內(nèi)存中讀取文件內(nèi)容氓栈,應(yīng)用只需要和內(nèi)存打交道婿着,不需要進(jìn)行緩沖區(qū)來(lái)回拷貝醋界,大大提高了IO拷貝的效率。加載內(nèi)存映射文件所使用的內(nèi)存在Java堆區(qū)之外

public class NIOFileCopy2 {

    public static void copyFile(String source, String target) {
        long start = System.currentTimeMillis();
        try(FileInputStream fis = new FileInputStream(new File(source));
            FileOutputStream fos = new FileOutputStream(new File(target))) {
            FileChannel sourceChannel = fis.getChannel();
            FileChannel targetChannel = fos.getChannel();
            MappedByteBuffer mappedByteBuffer = sourceChannel.map(FileChannel.MapMode.READ_ONLY, 0, sourceChannel.size());
            targetChannel.write(mappedByteBuffer);
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        }

        System.out.println(String.format("NIO memory reflect file copy cost %d msc", System.currentTimeMillis() - start));
        File targetFile = new File(target);
        targetFile.delete();
    }
}

NIO內(nèi)存映射文件拷貝可以分為以下幾步

image.png

Files#copyFile方法

public class FilesCopy {

    public static void copyFile(String source, String target) {
        long start = System.currentTimeMillis();
        try {
            File sourceFile = new File(source);
            File targetFile = new File(target);
            Files.copy(sourceFile.toPath(), targetFile.toPath());
        } catch (IOException e) {
            e.printStackTrace();
        }

        System.out.println(String.format("FileCopy file copy cost %d msc", System.currentTimeMillis() - start));
    }
}

FileUtils#copyFile方法

使用FileUtils之前需先引入依賴

  • 依賴

     <dependency>
        <groupId>commons-io</groupId>
        <artifactId>commons-io</artifactId>
        <version>2.4</version>
    </dependency>
    
  • FileUtils#copyFile封裝類:FileUtilsCopy.java

    public class FileUtilsCopy {
    
        public static void copyFile(String source, String target) {
            long start = System.currentTimeMillis();
            try {
                FileUtils.copyFile(new File(source), new File(target));
            } catch (IOException e) {
                e.printStackTrace();
            }
    
            System.out.println(String.format("FileUtils file copy cost %d msc", System.currentTimeMillis() - start));
        }
    }
    

性能比較

既然有這么多種實(shí)現(xiàn)方法,肯定要從中選擇性能最佳的

測(cè)試環(huán)境:

  • windows 10
  • CPU 6核
  • JDK1.8

測(cè)試代碼:PerformTest.java

public class PerformTest {

    private static final String source1 = "input/test1.txt";
    private static final String source2 = "input/test2.txt";
    private static final String source3 = "input/test3.txt";
    private static final String source4 = "input/test4.txt";
    private static final String target1 = "output/test1.txt";
    private static final String target2 = "output/test2.txt";
    private static final String target3 = "output/test3.txt";
    private static final String target4 = "output/test4.txt";

    public static void main(String[] args) {
        IOFileCopy.copyFile(source1, target1);
        NIOFileCopy.copyFile(source2, target2);
        FilesCopy.copyFile(source3, target3);
        FileUtilsCopy.copyFile(source4, target4);
    }
}

總共執(zhí)行了五次蜗字,讀寫的文件大小分別為9KB脂新、23KB、239KB级零、1.77MB滞乙、12.7MB


image.png

注意:?jiǎn)挝痪鶠楹撩?/p>

從執(zhí)行結(jié)果來(lái)看:

  • 文件很小時(shí) => IO > NIO【內(nèi)存映射】> NIO【管道】 > Files#copy > FileUtils#copyFile

  • 在文件較小時(shí) => NIO【內(nèi)存映射】> IO > NIO【管道】 > Files#copy > FileUtils#copyFile

  • 在文件較大時(shí) => NIO【內(nèi)存映射】> > NIO【管道】> IO > Files#copy > FileUtils#copyFile

文件較小時(shí)斩启,IO效率高于NIO,NIO底層實(shí)現(xiàn)較為復(fù)雜兔簇,NIO的優(yōu)勢(shì)不明顯。同時(shí)NIO內(nèi)存映射初始化耗時(shí)朴摊,所以在文件較小時(shí)和IO復(fù)制相比沒(méi)有優(yōu)勢(shì)

如果追求效率可以選擇NIO的內(nèi)存映射去實(shí)現(xiàn)文件拷貝此虑,但是對(duì)于大文件使用內(nèi)存映射拷貝要格外關(guān)注系統(tǒng)內(nèi)存的使用率。推薦:大文件拷貝使用內(nèi)存映射介杆,原文是這樣的:

For most operating systems, mapping a file into memory is more
expensive than reading or writing a few tens of kilobytes of data via
the usual {@link #read read} and {@link #write write} methods.  From the
standpoint of performance it is generally only worth mapping relatively
large files into memory

絕大多數(shù)操作系統(tǒng)的內(nèi)存映射開(kāi)銷大于IO開(kāi)銷

同時(shí)通過(guò)測(cè)試結(jié)果來(lái)看,工具類和JDK提供的文件復(fù)制方法效果并不高春哨,如果不追求效率還是可以使用一下,畢竟能少寫一行代碼就少寫一行代碼椰拒,寫代碼沒(méi)有摸魚來(lái)的快樂(lè)


年前最后一篇文章燃观,我怕三十晚上的祝福太多便瑟,你會(huì)看不到我的問(wèn)候,在這里提前祝大家新年財(cái)富”鼠“都”鼠“不過(guò)來(lái)

image.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末脊框,一起剝皮案震驚了整個(gè)濱河市践啄,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌箫爷,老刑警劉巖聂儒,帶你破解...
    沈念sama閱讀 207,113評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異窜护,居然都是意外死亡非春,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門护侮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)储耐,“玉大人,你說(shuō)我怎么就攤上這事长赞。” “怎么了脯颜?”我有些...
    開(kāi)封第一講書人閱讀 153,340評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵栋操,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我讼庇,道長(zhǎng)近尚,這世上最難降的妖魔是什么戈锻? 我笑而不...
    開(kāi)封第一講書人閱讀 55,449評(píng)論 1 279
  • 正文 為了忘掉前任和媳,我火速辦了婚禮,結(jié)果婚禮上拒迅,老公的妹妹穿的比我還像新娘她倘。我一直安慰自己,他們只是感情好硬梁,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,445評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著屹电,像睡著了一般跃巡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上素邪,一...
    開(kāi)封第一講書人閱讀 49,166評(píng)論 1 284
  • 那天娘香,我揣著相機(jī)與錄音办龄,去河邊找鬼淋昭。 笑死,一個(gè)胖子當(dāng)著我的面吹牛英融,可吹牛的內(nèi)容都是我干的歇式。 我是一名探鬼主播,決...
    沈念sama閱讀 38,442評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼痕鳍,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼龙巨!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起诗赌,我...
    開(kāi)封第一講書人閱讀 37,105評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤铭若,失蹤者是張志新(化名)和其女友劉穎递览,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體非迹,經(jīng)...
    沈念sama閱讀 43,601評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡憎兽,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,066評(píng)論 2 325
  • 正文 我和宋清朗相戀三年纯命,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片亿汞。...
    茶點(diǎn)故事閱讀 38,161評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖南捂,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情溺健,我是刑警寧澤钮蛛,帶...
    沈念sama閱讀 33,792評(píng)論 4 323
  • 正文 年R本政府宣布魏颓,位于F島的核電站,受9級(jí)特大地震影響甸饱,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜搞动,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,351評(píng)論 3 307
  • 文/蒙蒙 一渣刷、第九天 我趴在偏房一處隱蔽的房頂上張望辅柴。 院中可真熱鬧瞭吃,春花似錦、人聲如沸股冗。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,352評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)怯疤。三九已至催束,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間塔淤,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,584評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工聪黎, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留挺举,地道東北人烘跺。 一個(gè)月前我還...
    沈念sama閱讀 45,618評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像梧喷,于是被迫代替她去往敵國(guó)和親脖咐。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,916評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容