go處理tcp粘包問(wèn)題

背景

在一次壓測(cè)的過(guò)程中峡谊,一直發(fā)現(xiàn)客戶(hù)端丟包茫虽,但是服務(wù)器端打日志檢查了相關(guān)的回包是一定下發(fā)了刊苍,因?yàn)槭莟cp的連接,是可靠連接濒析,不會(huì)出現(xiàn)丟包的現(xiàn)象正什,想了很久一直沒(méi)發(fā)現(xiàn)什么問(wèn)題,后面通過(guò)打印包長(zhǎng)度確定了出現(xiàn)了tcp粘包的情況号杏。讀取函數(shù)如下:

reply := make([]byte, 10240)
lenData, err := conn.Read(reply)

讀取的數(shù)據(jù)去解包的時(shí)候婴氮,會(huì)發(fā)現(xiàn)一直缺少一些包,當(dāng)延遲越小的時(shí)候盾致,出現(xiàn)的概率越大主经,因?yàn)檠舆t小,意味著回包越快庭惜,出現(xiàn)粘包的概率就越大罩驻。后面經(jīng)過(guò)查詢(xún)資料,發(fā)現(xiàn)了bufio.Scanner完美解決了這個(gè)問(wèn)題护赊,不需要我們手工去寫(xiě)切割包的代碼惠遏,這里有一個(gè)前提:一個(gè)完整包里面需要有字段去標(biāo)志你這個(gè)完整包的大小,這樣才能切割粘包骏啰。好了节吮,說(shuō)了這個(gè)多看看代碼。

解決方案

reply := make([]byte, 10240)
lenData, err := conn.Read(reply)
result := bytes.NewBuffer(nil)
result.Write(reply[0:lenData])
scanner := bufio.NewScanner(result)
split := func(data []byte, atEOF bool) (advance int, token []byte, err error) {
    if !atEOF  {
              // 這里寫(xiě)你的具體切割邏輯
        var plen int
        binary.Read(bytes.NewReader(data[0:10]), binary.BigEndian, &plen)
        plen = int(binary.LittleEndian.Uint32(data[0:10]))
        return plen, data[:plen], nil
    }
    return
}
scanner.Split(split)
for scanner.Scan() {
        // 這里的scanner.Bytes()就是切割出來(lái)的每一個(gè)數(shù)據(jù)判耕,對(duì)應(yīng)這個(gè)split函數(shù)里面的第二個(gè)返回值
    fmt.Println("recv:", string(scanner.Bytes()))
}

這樣就完美解決了粘包的問(wèn)題

原理

官方給的解釋是:

SplitFunc is the signature of the split function used to tokenize the input. The arguments are an initial substring of the remaining unprocessed data and a flag, atEOF, that reports whether the Reader has no more data to give. The return values are the number of bytes to advance the input and the next token to return to the user, if any, plus an error, if any.
Scanning stops if the function returns an error, in which case some of the input may be discarded.
Otherwise, the Scanner advances the input. If the token is not nil, the Scanner returns it to the user. If the token is nil, the Scanner reads more data and continues scanning; if there is no more data--if atEOF was true--the Scanner returns. If the data does not yet hold a complete token, for instance if it has no newline while scanning lines, a SplitFunc can return (0, nil, nil) to signal the Scanner to read more data into the slice and try again with a longer slice starting at the same point in the input.
The function is never called with an empty data slice unless atEOF is true. If atEOF is true, however, data may be non-empty and, as always, holds unprocessed text.
package "buffio"

函數(shù)原型:

type SplitFunc func(data []byte, atEOF bool) (advance int, token []byte, err error)

Scanner是有緩存的课锌,意思是Scanner底層維護(hù)了一個(gè)Slice用來(lái)保存已經(jīng)從Reader中讀取的數(shù)據(jù),Scanner會(huì)調(diào)用我們?cè)O(shè)置SplitFunc祈秕,將緩沖區(qū)內(nèi)容(data)和是否已經(jīng)輸入完了(atEOF)以參數(shù)的形式傳遞給SplitFunc渺贤,而SplitFunc的職責(zé)就是根據(jù)上述的兩個(gè)參數(shù)返回下一次Scan需要前進(jìn)幾個(gè)字節(jié)(advance),分割出來(lái)的數(shù)據(jù)(token)请毛,以及錯(cuò)誤(err)志鞍。參考https://studygolang.com/articles/15474
這個(gè)bufio是個(gè)挺有意思的庫(kù),里面還有大量的api方仿,有時(shí)間可以詳細(xì)了解一下固棚,bufio官方文檔

待完成

這些只解決了粘包的現(xiàn)象,有關(guān)于半包的情況并沒(méi)有找到好的庫(kù)去解決仙蚜,半包情況還需要看一下

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末此洲,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子委粉,更是在濱河造成了極大的恐慌呜师,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,820評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件贾节,死亡現(xiàn)場(chǎng)離奇詭異汁汗,居然都是意外死亡衷畦,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,648評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)知牌,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)祈争,“玉大人,你說(shuō)我怎么就攤上這事角寸∑谢欤” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,324評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵扁藕,是天一觀的道長(zhǎng)墨吓。 經(jīng)常有香客問(wèn)我,道長(zhǎng)纹磺,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,714評(píng)論 1 297
  • 正文 為了忘掉前任亮曹,我火速辦了婚禮橄杨,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘照卦。我一直安慰自己式矫,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,724評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布役耕。 她就那樣靜靜地躺著采转,像睡著了一般。 火紅的嫁衣襯著肌膚如雪瞬痘。 梳的紋絲不亂的頭發(fā)上故慈,一...
    開(kāi)封第一講書(shū)人閱讀 52,328評(píng)論 1 310
  • 那天,我揣著相機(jī)與錄音框全,去河邊找鬼察绷。 笑死,一個(gè)胖子當(dāng)著我的面吹牛津辩,可吹牛的內(nèi)容都是我干的拆撼。 我是一名探鬼主播,決...
    沈念sama閱讀 40,897評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼喘沿,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼闸度!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起蚜印,我...
    開(kāi)封第一講書(shū)人閱讀 39,804評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤莺禁,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后窄赋,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體睁宰,經(jīng)...
    沈念sama閱讀 46,345評(píng)論 1 318
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡肪获,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,431評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了柒傻。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片孝赫。...
    茶點(diǎn)故事閱讀 40,561評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖红符,靈堂內(nèi)的尸體忽然破棺而出青柄,到底是詐尸還是另有隱情,我是刑警寧澤预侯,帶...
    沈念sama閱讀 36,238評(píng)論 5 350
  • 正文 年R本政府宣布致开,位于F島的核電站,受9級(jí)特大地震影響萎馅,放射性物質(zhì)發(fā)生泄漏双戳。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,928評(píng)論 3 334
  • 文/蒙蒙 一糜芳、第九天 我趴在偏房一處隱蔽的房頂上張望飒货。 院中可真熱鬧,春花似錦峭竣、人聲如沸塘辅。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,417評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)扣墩。三九已至,卻和暖如春扛吞,著一層夾襖步出監(jiān)牢的瞬間呻惕,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,528評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工滥比, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蟆融,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,983評(píng)論 3 376
  • 正文 我出身青樓守呜,卻偏偏與公主長(zhǎng)得像型酥,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子查乒,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,573評(píng)論 2 359