多線程+無鎖技術(shù)+0拷貝技術(shù)實(shí)現(xiàn)本地化文件差異化更新

最近的一個(gè)項(xiàng)目涉及到本地文件拷貝疤苹,本地文件網(wǎng)絡(luò)動(dòng)態(tài)更新方面的東西习勤。對(duì)于這兩方面踪栋,如何加快其處理速度??jī)?yōu)先想到的就是使用多線程并發(fā)技術(shù)图毕。同時(shí)在文件拷貝過程中夷都,為了加快拷貝速度,使用了java的零拷貝技術(shù)予颤,使用的是FileChannel囤官。

1冬阳,多線程+0拷貝實(shí)現(xiàn)文件高效拷貝

對(duì)于零拷貝,相比較于常規(guī)拷貝党饮,免去了cpu的兩次拷貝肝陪,同樣的也就免去了cpu拷貝過程中系統(tǒng)緩存區(qū)到用戶緩存區(qū),以及寫回文件時(shí)用戶緩存區(qū)到系統(tǒng)緩存區(qū)的線程上下文切換的時(shí)間花銷劫谅,也就是這些工作都不必要再做了见坑,cpu可以做其他更多有價(jià)值的事情,這就是零拷貝的一大優(yōu)點(diǎn)捏检。
零拷貝對(duì)于文件的高速復(fù)制的代碼如下(關(guān)鍵方法就是transferTo就是這么easy):

private fun copyFile(.....){
    ....
    count.getAndIncrement()
    executor.execute {
        var fis: FileInputStream? = null
        var inputChannel: FileChannel? = null
        var outputChannel: FileChannel? = null
        val fileName = path.substring(path.lastIndexOf("/") + 1)
        val filePath = path.substring(0, path.lastIndexOf("/"))
        try {
            val afd = am.openFd(path)
            fis = FileInputStream(afd.fileDescriptor)
            inputChannel = fis.channel
            val outDirFile = File(getBasePath(context) + "/" + filePath)
            if (!outDirFile.exists()) outDirFile.mkdirs()
            outputChannel = FileOutputStream(File(outDirFile, fileName)).channel
            inputChannel.transferTo(afd.startOffset, afd.declaredLength, outputChannel)
        } catch (e: IOException) {
            e.printStackTrace()
        } finally {
            try {
                fis?.close()
                inputChannel?.close()
                outputChannel?.close()
            } catch (e: Exception) {
                e.printStackTrace()
            }

            if (count.decrementAndGet() == 0) {
                ......
            }
        }
    }
}

對(duì)于這些文件的拷貝荞驴,只存在于指定路徑不存在時(shí)才會(huì)拷貝,在所有文件拷貝結(jié)束之后贯城,或都無需拷貝時(shí)熊楼,我會(huì)從服務(wù)器讀取最新文件的映射json,如果某些文件不再使用或要更新時(shí)能犯,我就會(huì)動(dòng)態(tài)更新下來最新的指定文件鲫骗,同時(shí)刪除不要的老文件。
這時(shí)問題來了踩晶,因?yàn)樗械奈募截惗际窃诰€程池中處理的执泰,并且待拷貝的文件數(shù)量是未知的,如何得知所有文件都已拷貝結(jié)束渡蜻?

2术吝,Atomic無鎖技術(shù)實(shí)現(xiàn)拷貝進(jìn)度高效監(jiān)聽

我的做法是通過AtomicInteger原子計(jì)數(shù)方式,線程池添加某個(gè)runnable之前+1茸苇,某個(gè)runnable執(zhí)行完畢-1排苍,其一大好處就是不必像傳統(tǒng)的synchronized那樣需要給對(duì)象加鎖。對(duì)象加鎖就會(huì)造成線程阻塞学密,同時(shí)加鎖以及釋放鎖都涉及到cpu頻繁調(diào)度和線程上下文切換淘衙,從而為了簡(jiǎn)單的計(jì)數(shù)便造成了很多不必要的系統(tǒng)開銷。
可能有些人很好奇腻暮,難道不會(huì)中途會(huì)存在count.get()=0的情況嗎彤守?實(shí)際上這種情況是不存在的,因?yàn)閏opyFile是在當(dāng)前線程遞歸調(diào)用方法里哭靖,遞歸執(zhí)行速度必然比copyFile里異步線程調(diào)度執(zhí)行快具垫,就好比帶有漏水的瓶子,如果加的水比漏的快款青,那么只要在加水,必然不可能會(huì)存在水先漏完的情況霍狰。

3抡草,0拷貝技術(shù)實(shí)現(xiàn)文件高效下載

對(duì)于傳統(tǒng)的文件下載饰及,一般使用的都是while循環(huán)inputStream.read(...)或者bufferWrite.read(...),然后還要flush到本地康震,但是這也面臨1中讀取+寫入一共兩次不必要的拷貝以及內(nèi)核到用戶燎含,用戶到內(nèi)核的調(diào)度問題,所以為何不同樣使用文件管道方式腿短,直接對(duì)目標(biāo)文件的寫操作呢屏箍?

fun downloadFile(....){
    InputStream is = null;
    ReadableByteChannel readableByteChannel = null;
    FileOutputStream fos = null;
    FileChannel out = null;
    ByteBuffer buffer = ByteBuffer.allocate(2048);

    ......

    try {
        is = response.body().byteStream();
        readableByteChannel = Channels.newChannel(is);
        fos = new FileOutputStream(file);
        out = fos.getChannel();

        // 使用文件管道高效緩存文件
        while (readableByteChannel.read(buffer) != -1) {
            buffer.flip();
            while (buffer.hasRemaining()) {
                out.write(buffer);
            }
            buffer.clear();
        }

        //下載完成
        listener.onDownloadSuccess(file);
    } catch (Exception e) {
        e.printStackTrace();
        listener.onDownloadFailed(e);
    } finally {
        try {
            if (is != null) {
                is.close();
            }
            if (readableByteChannel != null)
                readableByteChannel.close();
            if (fos != null) {
                fos.close();
            }
            if (out != null)
                out.close();
        } catch (IOException e) {

        }
    }
}

更多java NIO技術(shù)請(qǐng)移步:https://blog.csdn.net/gwt0425/article/details/77980223

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市橘忱,隨后出現(xiàn)的幾起案子赴魁,更是在濱河造成了極大的恐慌,老刑警劉巖钝诚,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件颖御,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡凝颇,警方通過查閱死者的電腦和手機(jī)潘拱,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來拧略,“玉大人芦岂,你說我怎么就攤上這事〉媲” “怎么了禽最?”我有些...
    開封第一講書人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)月褥。 經(jīng)常有香客問我弛随,道長(zhǎng),這世上最難降的妖魔是什么宁赤? 我笑而不...
    開封第一講書人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任舀透,我火速辦了婚禮,結(jié)果婚禮上决左,老公的妹妹穿的比我還像新娘愕够。我一直安慰自己,他們只是感情好佛猛,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開白布惑芭。 她就那樣靜靜地躺著,像睡著了一般继找。 火紅的嫁衣襯著肌膚如雪遂跟。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,031評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音幻锁,去河邊找鬼凯亮。 笑死,一個(gè)胖子當(dāng)著我的面吹牛哄尔,可吹牛的內(nèi)容都是我干的假消。 我是一名探鬼主播,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼岭接,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼富拗!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起鸣戴,我...
    開封第一講書人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤啃沪,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后葵擎,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體谅阿,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年酬滤,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了签餐。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡盯串,死狀恐怖氯檐,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情体捏,我是刑警寧澤冠摄,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站几缭,受9級(jí)特大地震影響河泳,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜年栓,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一拆挥、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧某抓,春花似錦纸兔、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至备禀,卻和暖如春洲拇,著一層夾襖步出監(jiān)牢的瞬間奈揍,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工赋续, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留打月,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓蚕捉,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國和親柴淘。 傳聞我的和親對(duì)象是個(gè)殘疾皇子迫淹,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345