大語(yǔ)言模型5:LLM是通用人工智能的曙光缘屹?

在GPT火出來(lái)以前凛剥,人工智能最成功的應(yīng)用就是計(jì)算機(jī)視覺,比如我們都知道的人臉識(shí)別轻姿,更廣泛的圖像識(shí)別已經(jīng)成功進(jìn)如商業(yè)領(lǐng)域應(yīng)用(自動(dòng)駕駛)犁珠。

但是,它遠(yuǎn)遠(yuǎn)達(dá)不到通用智能的程度互亮,就在于他只能識(shí)別圖片犁享,并且你教他什么它會(huì)什么,沒有泛化能力——就像你教一個(gè)學(xué)生豹休,你教一個(gè)他會(huì)一個(gè)炊昆,不能舉一反三極大限制他的智能范圍。

而自然語(yǔ)言處理自從transformer架構(gòu)提出以后慕爬,大規(guī)模無(wú)監(jiān)督的數(shù)據(jù)訓(xùn)練窑眯,使得模型把語(yǔ)言的規(guī)則和特征“學(xué)會(huì)”了(不斷通過(guò)“損失函數(shù)”去校正),并全部表征為向量空間的向量(這些向量記錄了“分詞”上千個(gè)維度的特征)医窿。

不同于人類教給他規(guī)則磅甩,是機(jī)器通過(guò)大規(guī)模的數(shù)據(jù)學(xué)習(xí)到了人類語(yǔ)言的應(yīng)用規(guī)律,至于具體他到底學(xué)會(huì)了哪些規(guī)律姥卢,沒人知道卷要,是一個(gè)黑盒,只有當(dāng)我們?cè)谕ㄟ^(guò)任務(wù)微調(diào)之后才知道他到底有哪些能力独榴。

這也是為什么大模型事實(shí)上不會(huì)太在乎用的語(yǔ)料中文多一點(diǎn)還是英文多一點(diǎn)僧叉。

比如OPENAI的大模型,它們用的中文語(yǔ)料其實(shí)是非常少的棺榔,但是在理解能力表現(xiàn)上是不差的瓶堕,只是輸出的內(nèi)容質(zhì)量沒那么好(通常讓他用英文回答質(zhì)量要高于中文)。這就和訓(xùn)練的語(yǔ)料質(zhì)量有關(guān)了症歇,你訓(xùn)練的高質(zhì)量語(yǔ)料如果不多郎笆,那么也沒法指望人家輸出多高質(zhì)量的東西谭梗。

國(guó)內(nèi)清華GLM模型也是一樣,語(yǔ)料中英文其實(shí)沒有過(guò)于的在意宛蚓,因?yàn)樽罱K都是要嵌入到向量空間的激捏,對(duì)于機(jī)器來(lái)講只是向量的特征的固定和推理運(yùn)算。

這也能理解凄吏,馬斯克成立的Xai公司远舅,網(wǎng)站首頁(yè)就寫著“Understand the Universe”(理解宇宙),看來(lái)馬斯克是希望用大模型能揭開整個(gè)宇宙的奧秘痕钢。因?yàn)檫@個(gè)東西的厲害之處图柏,不光是他能理解人類語(yǔ)言,學(xué)會(huì)人類知識(shí)盖喷,而是他有邏輯思維的可能爆办,產(chǎn)生新的知識(shí)。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末课梳,一起剝皮案震驚了整個(gè)濱河市距辆,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌暮刃,老刑警劉巖跨算,帶你破解...
    沈念sama閱讀 212,686評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異椭懊,居然都是意外死亡诸蚕,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,668評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門氧猬,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)背犯,“玉大人,你說(shuō)我怎么就攤上這事盅抚∧海” “怎么了?”我有些...
    開封第一講書人閱讀 158,160評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵妄均,是天一觀的道長(zhǎng)柱锹。 經(jīng)常有香客問我,道長(zhǎng)丰包,這世上最難降的妖魔是什么禁熏? 我笑而不...
    開封第一講書人閱讀 56,736評(píng)論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮邑彪,結(jié)果婚禮上瞧毙,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好宙彪,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,847評(píng)論 6 386
  • 文/花漫 我一把揭開白布撑柔。 她就那樣靜靜地躺著,像睡著了一般您访。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上剪决,一...
    開封第一講書人閱讀 50,043評(píng)論 1 291
  • 那天灵汪,我揣著相機(jī)與錄音,去河邊找鬼柑潦。 笑死享言,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的渗鬼。 我是一名探鬼主播览露,決...
    沈念sama閱讀 39,129評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼譬胎!你這毒婦竟也來(lái)了差牛?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,872評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤堰乔,失蹤者是張志新(化名)和其女友劉穎偏化,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體镐侯,經(jīng)...
    沈念sama閱讀 44,318評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡侦讨,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,645評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了苟翻。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片韵卤。...
    茶點(diǎn)故事閱讀 38,777評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖崇猫,靈堂內(nèi)的尸體忽然破棺而出沈条,到底是詐尸還是另有隱情,我是刑警寧澤邓尤,帶...
    沈念sama閱讀 34,470評(píng)論 4 333
  • 正文 年R本政府宣布拍鲤,位于F島的核電站,受9級(jí)特大地震影響汞扎,放射性物質(zhì)發(fā)生泄漏季稳。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,126評(píng)論 3 317
  • 文/蒙蒙 一澈魄、第九天 我趴在偏房一處隱蔽的房頂上張望景鼠。 院中可真熱鬧,春花似錦、人聲如沸铛漓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,861評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)浓恶。三九已至玫坛,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間包晰,已是汗流浹背湿镀。 一陣腳步聲響...
    開封第一講書人閱讀 32,095評(píng)論 1 267
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留伐憾,地道東北人勉痴。 一個(gè)月前我還...
    沈念sama閱讀 46,589評(píng)論 2 362
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像树肃,于是被迫代替她去往敵國(guó)和親蒸矛。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,687評(píng)論 2 351

推薦閱讀更多精彩內(nèi)容