一日一學(xué)_Go語言mgo(mongo場(chǎng)景應(yīng)用)

本文重點(diǎn)介紹mgo使用,僅簡單介紹mongodb拷呆。

mongodb特性

mongdb簡單介紹

注意: 上圖已經(jīng)告知我們mongo不支持事務(wù)猫态,在開發(fā)項(xiàng)目應(yīng)用時(shí),想要保證數(shù)據(jù)的完整性請(qǐng)考慮關(guān)系型數(shù)據(jù)庫(經(jīng)典例子銀行轉(zhuǎn)賬)谅河。 mongo提供了許多原子操作烫沙,比如文檔的保存镣隶,修改,刪除等赏胚,都是原子操作访娶。所謂原子操作就是要么這個(gè)文檔保存到mongodb,要么沒有保存到mongodb觉阅,不會(huì)出現(xiàn)查詢到的文檔不完整的情況崖疤。

mgo簡介

mgo 是 mongodb 的 GO 語言驅(qū)動(dòng)包。
mgo官網(wǎng):http://labix.org/mgo

mgo使用

mgo方案一
package mgo

import (
    "flag"
    "gopkg.in/mgo.v2"
    "log"
    "study/conf"
)

var session *mgo.Session
var database *mgo.Database

func init() {
     /*配置mongodb的josn文件,配置內(nèi)容如下: 
      {
        "hosts": "localhost",
        "database": "user"
       }*/
    filename := flag.String("config", "./conf/config.json", "Path to configuration file")
    flag.Parse()
    config := &conf.ConfigurationDatabase{}
    config.Load(*filename)
    var err error
     
    dialInfo := &mgo.DialInfo{
        Addrs:     []string{config.Hosts},
        Direct:    false,
        Timeout:   time.Second * 1,
        PoolLimit: 4096, // Session.SetPoolLimit    }
    //創(chuàng)建一個(gè)維護(hù)套接字池的session
    session, err = mgo.DialWithInfo(dialInfo)

    if err != nil {
        log.Println(err.Error())
    }
    session.SetMode(mgo.Monotonic, true)
    //使用指定數(shù)據(jù)庫
    database = session.DB(config.Database)

}

func GetMgo() *mgo.Session {
    return session
}

func GetDataBase() *mgo.Database {
    return database
}

func GetErrNotFound() error {
    return mgo.ErrNotFound
}

這里的 session 能夠和 mongodb 集群中的所有Server通訊典勇。

session設(shè)置的模式分別為:
  • Strong
    session 的讀寫一直向主服務(wù)器發(fā)起并使用一個(gè)唯一的連接劫哼,因此所有的讀寫操作完全的一致。
  • Monotonic
    session 的讀操作開始是向其他服務(wù)器發(fā)起(且通過一個(gè)唯一的連接)割笙,只要出現(xiàn)了一次寫操作权烧,session 的連接就會(huì)切換至主服務(wù)器。由此可見此模式下伤溉,能夠分散一些讀操作到其他服務(wù)器般码,但是讀操作不一定能夠獲得最新的數(shù)據(jù)。
  • Eventual
    session 的讀操作會(huì)向任意的其他服務(wù)器發(fā)起乱顾,多次讀操作并不一定使用相同的連接板祝,也就是讀操作不一定有序。session 的寫操作總是向主服務(wù)器發(fā)起走净,但是可能使用不同的連接券时,也就是寫操作也不一定有序孤里。
//個(gè)人項(xiàng)目部分代碼
type User struct {
    ID       bson.ObjectId `bson:"_id"`
    UserName string        `bson:"username"`
    Summary  string        `bson:"summary"`
    Age      int           `bson:"age"`
    Phone    int           `bson:"phone"`
    PassWord string        `bson:"password"`
    Sex      int           `bson:"sex"`
    Name     string        `bson:"name"`
    Email    string        `bson:"email"`
}

func Register(password string, username string) (err error) {
    con := mgo.GetDataBase().C("user")
    //可以添加一個(gè)或多個(gè)文檔
    /* 對(duì)應(yīng)mongo命令行
       db.user.insert({username:"13888888888",summary:"code",
       age:20,phone:"13888888888"})*/
    err = con.Insert(&User{ID: bson.NewObjectId(), UserName: username, PassWord: password})
    return
}

func FindUser(username string) (User, error) {
    var user User
    con := mgo.GetDataBase().C("user")
    //通過bson.M(是一個(gè)map[string]interface{}類型)進(jìn)行
    //條件篩選,達(dá)到文檔查詢的目的
    /* 對(duì)應(yīng)mongo命令行
      db.user.find({username:"13888888888"})*/
    if err := con.Find(bson.M{"username": username}).One(&user); err != nil {
        if err.Error() != mgo.GetErrNotFound().Error() {
            return user, err
        }

    }
    return user, nil
}

通過find()可以進(jìn)行單個(gè)或者全部的查詢橘洞,并且可以進(jìn)行分頁處理捌袜。下面為簡單代碼展示:
con.Find(nil).Limit(5).Skip(0).All(&user)

package models

import (
    "gopkg.in/mgo.v2/bson"
    "study/library/mgo"
    "time"
)

type Diary struct {
    Uid        bson.ObjectId `bson:"uid"`
    ID         bson.ObjectId `bson:"_id"`
    CreatTime  time.Time     `bson:"creattime"`
    UpdateTime time.Time     `bson:"updatetime"`
    Title      string        `bson:"title"`
    Content    string        `bson:"content"`
    Mood       int           `bson:'Mood"`
    Pic        []string      `bson:'pic'`
}

//通過uid查找本作者文章,并且顯示文章作者名字
func FindDiary(uid string) ([]interface{}, error) {
    con := mgo.GetDataBase().C("diary")
       // 其中的lookup功能可以實(shí)現(xiàn)類似于mysql中的join操作炸枣,方便于關(guān)聯(lián)查詢虏等。
       /*對(duì)應(yīng)mongo命令行
        db.diary.aggregate([{$match:{uid: ObjectId("58e7a1b89b5099fdc585d370")}},
        {$lookup{from:"user",localField:"uid",foreignField:"_id",as:"user"}},
        {$project:{"user.name":1,title:1,content:1,mood:1}}]).pretty() 
       */
    pipeline := []bson.M{
        bson.M{"$match": bson.M{"uid": bson.ObjectIdHex(uid)}},
        bson.M{"$lookup": bson.M{"from": "user", "localField": "uid", "foreignField": "_id", "as": "user"}},
        bson.M{"$project": bson.M{"user.name": 1, "title": 1, "content": 1, "mood": 1, "creattime": 1}},
    }
    pipe := con.Pipe(pipeline)
    var data []interface{}
    err := pipe.All(&data)
    if err != nil {
        return nil, err
    }
    return data, nil

}

func ModifyDiary(id, title, content string) (err error) {
        con := mgo.GetDataBase().C("diary")
         //更新
        /*對(duì)應(yīng)mongo命令行
          db.diary.update({_id:ObjectId("58e7a1b89b5099fdc585d370")},
           {$set:{title:"modify title",content:"modify content",
           updatetime:new Date()})*/
        err = con.Update(bson.M{"_id": id}, bson.M{"$set": bson.M{"title": title, "content": content, "updatetime": time.Now().Add(8 * time.Hour)}})
        return

}


mgo更新方法很多,如批量更新con.UpdateAll(selector, update),更新或插入數(shù)據(jù)con.Upsert(selector, update) 适肠。

思路一會(huì)兒

mgo方案二

思考: session 會(huì)被全局使用博其,當(dāng)在實(shí)際的程序中,我們可以開啟goroutine 來處理每個(gè)連接迂猴,多個(gè)goroutine 可以通過 session.Clone() 來創(chuàng)建或復(fù)用連接,使用完成之后通過 session.Close() 來關(guān)閉這個(gè)連接背伴。當(dāng)并發(fā)很高時(shí)沸毁,看起來可以提高效率。

下面部分代碼修改 :

import (
    "flag"
    "gopkg.in/mgo.v2"
    "log"
    "study/conf"
)

var session *mgo.Session
var config *conf.ConfigurationDatabase

func init() {
     filename := flag.String("config", "./conf/config.json", "Path to configuration file")
    flag.Parse()
     
    config = &conf.ConfigurationDatabase{}
    config.Load(*filename)
    var err error
     
    dialInfo := &mgo.DialInfo{
        Addrs:     []string{config.Hosts},
        Direct:    false,
        Timeout:   time.Second * 1,
        PoolLimit: 4096, // Session.SetPoolLimit
    }
    session, err = mgo.DialWithInfo(dialInfo)

    if err != nil {
        log.Println(err.Error())
    }
    session.SetMode(mgo.Monotonic, true)

    

}

type SessionStore struct {
    session *mgo.Session
}

//獲取數(shù)據(jù)庫的collection
func (d * SessionStore) C(name string) *mgo.Collection {
    return d.session.DB(config.Database).C(name)
}

//為每一HTTP請(qǐng)求創(chuàng)建新的DataStore對(duì)象
func New SessionStore() * SessionStore {
    ds := & SessionStore{
        session: session.Copy(),
    }
    return ds
}

func (d * SessionStore) Close() {
    d.session.Close()
}

func GetErrNotFound() error {
    return mgo.ErrNotFound
}

對(duì)查找進(jìn)行了修改

func FindUser(username string) (User, error) {
    var user User
    ds := mgo.NewSessionStore()
    defer ds.Close()
    con := ds.C("user")
    if err := con.Find(bson.M{"username": username}).One(&user); err != nil {
        if err.Error() != mgo.GetErrNotFound().Error() {
            return user, err
        }

    }
    return user, nil
}

mgo方案一和二測(cè)試:
使用boom進(jìn)行并發(fā)測(cè)試,并在每個(gè) goroutine 里面sleep 5秒傻寂,這樣是讓連接暫時(shí)不釋放息尺,就可以看到 mgo 方案二 會(huì)不斷創(chuàng)建新連接,方案一不會(huì)創(chuàng)建新連接疾掰÷в可以使用mongo shell 的db.serverStatus().connections來查看連接數(shù)。

mgo方案一測(cè)試連接數(shù): 1000 并發(fā):mongo 3個(gè)連接 5000 并發(fā):mongo 3個(gè)連接静檬。

mgo方案二測(cè)試連接數(shù): 1000 并發(fā):mongo 500多個(gè)連接 5000 并發(fā):mongo 1400多個(gè)連接炭懊。

提示: mgo 默認(rèn)連接池是 4096,在高并發(fā)下拂檩,如果每個(gè) session都不調(diào)用 close()侮腹,會(huì)導(dǎo)致連接數(shù)會(huì)很快就達(dá)到 4096,并堵死其他請(qǐng)求稻励,所以在使用clone() 或 copy()時(shí) session 時(shí)一定要使用 defer close() 把連接關(guān)閉父阻。啟用 maxPoolLimit 參數(shù)會(huì)限制總連接大小,當(dāng)連接超過限制總數(shù)當(dāng)前協(xié)程 等待望抽,直到可以創(chuàng)建連接加矛。

測(cè)試結(jié)果:mgo方案一和方案二在并發(fā)下,效率差不多煤篙。

為什么

可能性斟览,由于數(shù)據(jù)少或者處理的單個(gè)mongo無法看出效果。
由于目前自己項(xiàng)目只使用了一個(gè)mongo舰蟆,后期使用多個(gè)mongo進(jìn)行或在大量數(shù)據(jù)下測(cè)試趣惠。如果大家有什么好的建議狸棍,提出來進(jìn)行學(xué)習(xí)思考。
推薦學(xué)習(xí):
http://goinbigdata.com/how-to-build-microservice-with-mongodb-in-golang/
官方博客詳講了mgo并發(fā)處理味悄,如下:
https://www.mongodb.com/blog/post/running-mongodb-queries-concurrently-with-go

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末草戈,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子侍瑟,更是在濱河造成了極大的恐慌唐片,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,376評(píng)論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件涨颜,死亡現(xiàn)場(chǎng)離奇詭異费韭,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)庭瑰,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,126評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門星持,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人弹灭,你說我怎么就攤上這事督暂。” “怎么了穷吮?”我有些...
    開封第一講書人閱讀 156,966評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵逻翁,是天一觀的道長。 經(jīng)常有香客問我捡鱼,道長八回,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,432評(píng)論 1 283
  • 正文 為了忘掉前任驾诈,我火速辦了婚禮缠诅,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘翘鸭。我一直安慰自己滴铅,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,519評(píng)論 6 385
  • 文/花漫 我一把揭開白布就乓。 她就那樣靜靜地躺著汉匙,像睡著了一般。 火紅的嫁衣襯著肌膚如雪生蚁。 梳的紋絲不亂的頭發(fā)上噩翠,一...
    開封第一講書人閱讀 49,792評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音邦投,去河邊找鬼伤锚。 笑死,一個(gè)胖子當(dāng)著我的面吹牛志衣,可吹牛的內(nèi)容都是我干的屯援。 我是一名探鬼主播猛们,決...
    沈念sama閱讀 38,933評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼狞洋!你這毒婦竟也來了弯淘?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,701評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤吉懊,失蹤者是張志新(化名)和其女友劉穎庐橙,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體借嗽,經(jīng)...
    沈念sama閱讀 44,143評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡态鳖,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,488評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了恶导。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片浆竭。...
    茶點(diǎn)故事閱讀 38,626評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖惨寿,靈堂內(nèi)的尸體忽然破棺而出兆蕉,到底是詐尸還是另有隱情,我是刑警寧澤缤沦,帶...
    沈念sama閱讀 34,292評(píng)論 4 329
  • 正文 年R本政府宣布,位于F島的核電站易稠,受9級(jí)特大地震影響缸废,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜驶社,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,896評(píng)論 3 313
  • 文/蒙蒙 一企量、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧亡电,春花似錦届巩、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,742評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至或辖,卻和暖如春瘾英,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背颂暇。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評(píng)論 1 265
  • 我被黑心中介騙來泰國打工缺谴, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人耳鸯。 一個(gè)月前我還...
    沈念sama閱讀 46,324評(píng)論 2 360
  • 正文 我出身青樓湿蛔,卻偏偏與公主長得像膀曾,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子阳啥,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,494評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • Spring Boot 參考指南 介紹 轉(zhuǎn)載自:https://www.gitbook.com/book/qbgb...
    毛宇鵬閱讀 46,773評(píng)論 6 342
  • 背景: 閱讀新聞 12C CDB模式下RMAN備份與恢復(fù) [日期:2016-11-29] 來源:Linux社區(qū) 作...
    陽屯okyepd閱讀 3,360評(píng)論 0 7
  • MongoDB在58同城的應(yīng)用實(shí)踐 58同城作為中國最大的生活服務(wù)平臺(tái)添谊,涵蓋了房產(chǎn)、招聘苫纤、二手碉钠、二手車、黃頁等核心...
    meng_philip123閱讀 3,550評(píng)論 4 49
  • 孩子翻了個(gè)身。 阿軍沒動(dòng)栗弟,阿軍老婆也沒動(dòng)污筷。孩子不知道已翻了多少次身了,一會(huì)兒摳會(huì)手指頭乍赫,一會(huì)兒撓撓頭瓣蛀,不安分。按往...
    小兵寫作業(yè)閱讀 726評(píng)論 11 7
  • 卡妙是我們家的新成員——條金毛雷厂⊥镌觯卡妙是孩子任性要的,因?yàn)轲B(yǎng)一條金毛是她多年的夢(mèng)想改鲫,所以卡妙來到我們家诈皿。剛來的卡妙著...
    洛陽向日葵閱讀 317評(píng)論 0 0