使用NIO中的transferTo方法傳輸數(shù)據(jù)精度丟失的問題

最近在學(xué)習(xí)NIO 時(shí)遇到一個(gè)問題藕赞,使用transferTo()方法和transferFrom()方法做零拷貝復(fù)制文件時(shí)數(shù)據(jù)丟失缝左。

我想要完成這樣一個(gè)測(cè)試亿遂,將d盤中一個(gè)centos鏡像文件(CentOS-8.1.1911-x86_64-dvd1.iso)通過網(wǎng)絡(luò)通信和NIO傳輸?shù)絛盤的server文件夾下,代碼如下

  • 客戶端
//客戶端代碼
try {
            SocketChannel socketChannel = SocketChannel.open(new InetSocketAddress("127.0.0.1", 9999));
            FileChannel fileChannel = FileChannel.open(Paths.get("D:\\vm\\centos\\CentOS-8.1.1911-x86_64-dvd1.iso"), StandardOpenOption.READ);
            fileChannel.transferTo(0,fileChannel.size(),socketChannel);
            fileChannel.close();
            socketChannel.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
  • 服務(wù)端
        SocketChannel acceptChannel = null;
        FileChannel fileChannel = null;
        try {
            ServerSocketChannel socketChannel = ServerSocketChannel.open();
            socketChannel.bind(new InetSocketAddress(InetAddress.getByName("127.0.0.1"),9999));
            while (true) {
                acceptChannel = socketChannel.accept();
                long start = System.currentTimeMillis();

                ByteBuffer buffer = ByteBuffer.allocate(1024);
                fileChannel = FileChannel.open(Paths.get("d:/server/testt.iso"), StandardOpenOption.CREATE_NEW,StandardOpenOption.WRITE);
                while(acceptChannel.read(buffer)!= -1) {
                    buffer.flip();
                    fileChannel.write(buffer);
                    buffer.re();
                }

                acceptChannel.close();
                fileChannel.close();
                System.out.println("寫入時(shí)間是:" + (System.currentTimeMillis() - start));
            }

        } catch (IOException e) {
            e.printStackTrace();
        }

鏡像文件的大小在7G左右渺杉,但是傳輸后的文件大小只有8M蛇数。查看了方法的API注釋如下

      /* An attempt is made to read up to <tt>count</tt> bytes starting at
     * the given <tt>position</tt> in this channel's file and write them to the
     * target channel.  An invocation of this method may or may not transfer
     * all of the requested bytes; whether or not it does so depends upon the
     * natures and states of the channels.  Fewer than the requested number of
     * bytes are transferred if this channel's file contains fewer than
     * <tt>count</tt> bytes starting at the given <tt>position</tt>, or if the
     * target channel is non-blocking and it has fewer than <tt>count</tt>
     * bytes free in its output buffer.
      */
 public abstract long transferTo(long position, long count,
                                    WritableByteChannel target)
        throws IOException;

大概的意思是此方法嘗試將參數(shù)count長(zhǎng)度的字節(jié)從參數(shù)position的位置開始 從此channel連接的文件中寫入目標(biāo)channel中,
但是引用此方法并不一定會(huì)傳輸所有需要的字節(jié)數(shù)是越,取決于這些通道的性質(zhì)和狀態(tài)耳舅。如果當(dāng)前管道連接的文件包含的數(shù)據(jù)小于參數(shù)給出的大小或者目標(biāo)管道是非阻塞的并且目標(biāo)管道的輸出緩沖區(qū)的可用空間不足,會(huì)導(dǎo)致小于參數(shù)count的數(shù)據(jù)傳輸倚评。

這個(gè)注釋是很坑人的浦徊,看了一直在思考是否目標(biāo)管道有什么問題,然后找了好久都沒找到天梧,實(shí)際上并非如此盔性。

查看transferTo()方法的源碼,在傳輸數(shù)據(jù)之前會(huì)做一系列驗(yàn)證呢岗,其中有一個(gè)驗(yàn)證是這樣的

int var8 = (int)Math.min(var3, 2147483647L);

其中var是我們傳入的參數(shù)count冕香,而var8是該方法內(nèi)部實(shí)際運(yùn)輸?shù)淖止?jié)長(zhǎng)度,當(dāng)參數(shù)長(zhǎng)度大于2147483647時(shí)后豫,取這個(gè)數(shù)悉尾,轉(zhuǎn)換完之后大概在2G左右,所有終于找到了問題原因硬贯。而解決這個(gè)問題的方法就是循環(huán)傳輸數(shù)據(jù)
代碼如下:

 try {
            long start = System.currentTimeMillis();
            SocketChannel socketChannel = SocketChannel.open(new InetSocketAddress("127.0.0.1", 9999));
            FileChannel fileChannel = FileChannel.open(Paths.get("D:\\vm\\centos\\CentOS-8.1.1911-x86_64-dvd1.iso"), StandardOpenOption.READ);
            System.out.println("文件大小" + fileChannel.size());
            long size = fileChannel.size();
            long postion = 0 ;
            while (size > 0) {
                long count = fileChannel.transferTo(postion, size, socketChannel);
                postion += count;
                size -= count;
            }


            fileChannel.close();
            socketChannel.close();

            System.out.println("客戶端文件傳輸時(shí)間:" + (System.currentTimeMillis() - start));

------------------------------------------分割線---------------------------------------------------------------

  • 追加一個(gè)問題焕襟,我上面寫道我通過SocketChannel傳輸后的數(shù)據(jù)只有8M左右,但是上面的源碼中最終看到是限制是2G饭豹,這是為啥呢鸵赖?
    后來繼續(xù)看了一下源碼,發(fā)現(xiàn)我transferTo到SocketChannel這個(gè)類的對(duì)象中拄衰,最終調(diào)用的方式是下面這個(gè)
private long transferToTrustedChannel(long var1, long var3, WritableByteChannel var5) throws IOException {
        boolean var6 = var5 instanceof SelChImpl;
        if (!(var5 instanceof FileChannelImpl) && !var6) {
            return -4L;
        } else {
            long var7 = var3;

            while(var7 > 0L) {
                long var9 = Math.min(var7, 8388608L);

                try {
                    MappedByteBuffer var11 = this.map(MapMode.READ_ONLY, var1, var9);

                    try {
                        int var12 = var5.write(var11);

                        assert var12 >= 0;

                        var7 -= (long)var12;
                        if (var6) {
                            break;
                        }

                        assert var12 > 0;

                        var1 += (long)var12;
                    } finally {
                        unmap(var11);
                    }
                } catch (ClosedByInterruptException var20) {
                    assert !var5.isOpen();

                    try {
                        this.close();
                    } catch (Throwable var18) {
                        var20.addSuppressed(var18);
                    }

                    throw var20;
                } catch (IOException var21) {
                    if (var7 != var3) {
                        break;
                    }

                    throw var21;
                }
            }

            return var3 - var7;
        }
    }

與上面的代碼類似它褪,通過long var9 = Math.min(var7, 8388608L); 這一句代碼,將數(shù)據(jù)大小再一次限制了翘悉,所有最終單次傳輸?shù)臄?shù)據(jù)是8M左右茫打。而解決方案與上面相同,循環(huán)寫入數(shù)據(jù)就行了。問題到此完美解決了老赤,終于可以安心的睡個(gè)好覺了轮洋。。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末抬旺,一起剝皮案震驚了整個(gè)濱河市弊予,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌开财,老刑警劉巖汉柒,帶你破解...
    沈念sama閱讀 218,546評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異责鳍,居然都是意外死亡碾褂,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門历葛,熙熙樓的掌柜王于貴愁眉苦臉地迎上來正塌,“玉大人,你說我怎么就攤上這事恤溶〈酰” “怎么了?”我有些...
    開封第一講書人閱讀 164,911評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵宏娄,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我逮壁,道長(zhǎng)孵坚,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,737評(píng)論 1 294
  • 正文 為了忘掉前任窥淆,我火速辦了婚禮卖宠,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘忧饭。我一直安慰自己扛伍,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,753評(píng)論 6 392
  • 文/花漫 我一把揭開白布词裤。 她就那樣靜靜地躺著刺洒,像睡著了一般。 火紅的嫁衣襯著肌膚如雪吼砂。 梳的紋絲不亂的頭發(fā)上逆航,一...
    開封第一講書人閱讀 51,598評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音渔肩,去河邊找鬼因俐。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的抹剩。 我是一名探鬼主播撑帖,決...
    沈念sama閱讀 40,338評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼澳眷!你這毒婦竟也來了胡嘿?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,249評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤境蔼,失蹤者是張志新(化名)和其女友劉穎灶平,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體箍土,經(jīng)...
    沈念sama閱讀 45,696評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡逢享,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,888評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了吴藻。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片瞒爬。...
    茶點(diǎn)故事閱讀 40,013評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖沟堡,靈堂內(nèi)的尸體忽然破棺而出侧但,到底是詐尸還是另有隱情,我是刑警寧澤航罗,帶...
    沈念sama閱讀 35,731評(píng)論 5 346
  • 正文 年R本政府宣布禀横,位于F島的核電站,受9級(jí)特大地震影響粥血,放射性物質(zhì)發(fā)生泄漏柏锄。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,348評(píng)論 3 330
  • 文/蒙蒙 一复亏、第九天 我趴在偏房一處隱蔽的房頂上張望趾娃。 院中可真熱鬧,春花似錦缔御、人聲如沸抬闷。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)笤成。三九已至,卻和暖如春眷茁,著一層夾襖步出監(jiān)牢的瞬間疹启,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評(píng)論 1 270
  • 我被黑心中介騙來泰國(guó)打工蔼卡, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留喊崖,地道東北人挣磨。 一個(gè)月前我還...
    沈念sama閱讀 48,203評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像荤懂,于是被迫代替她去往敵國(guó)和親茁裙。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,960評(píng)論 2 355