GPT-3開放微調功能又如何而账,國內又不能用,試玩GPT-2中文版吧

OpenAI又有新聞了因篇,這次是關于GPT-3的泞辐。此次允許用戶創(chuàng)建自定義版的GPT-3笔横,只要一行命令的微調就可以定制自己的不同應用的GPT-3。據OpenAI官方表示咐吼,此項微調可以讓不同應用的準確度能直接從83%提升到95%吹缔、錯誤率可降低50%。有網友大呼:我可以直接訓練我的聊天機器人了锯茄,這樣省時又省錢厢塘。


雖然GPT-3久負盛名,不過國內嘛肌幽,除了以前的新聞報道被國內吹爆外晚碾,其他沒啥用。畢竟這貨開始沒開放喂急,后來開放了格嘁,也沒對國內開放。在以前的報道中煮岁,見官方宣布取消GPT-3接口的等待機制讥蔽,讓所有滿足條件的開發(fā)人員都可快速申請使用它,看這意思是對所有用戶開放申請了画机,于是好奇的機智客趕緊去官方申請冶伞,結果一看傻眼了,敢情我們就“不滿足條件”步氏,我們國內根本沒在被允許的范圍內响禽。


因此此次允許用戶創(chuàng)建自定義版,肯定也沒咱們中國國內用戶的事兒了荚醒。雖然如此芋类,不過GPT的名氣和強大功能,的確挺讓人垂涎的界阁。所以侯繁,既然GPT-3我們玩不了,那我們可以玩GPT-2啊泡躯,當然這里并不是說官方的GPT-2贮竟,而是開源了的,GPT-2 Chinese版本较剃。也就是更符合我們國內用戶的中文版GPT咕别。


簡直直接滿足好奇心⌒囱ǎ可能有了解的朋友會暗笑惰拱,這還滿足好奇心,這個不是已經老了嗎啊送,GPT-2是哪一年的東西啦偿短。的確如此欣孤,GPT-2相比于GPT-3的確顯得“古老”,不過機智客覺得我們玩玩翔冀,體驗一下GPT還是可以的导街。目前,根據GitHub上的說明纤子,這個GPT-2的中文版是4月22之前的老版本搬瑰,也就是GPT2-Chinese-old_gpt_2_chinese_before_2021_4_22。我們可以下載下來控硼。這個是基于transformers的泽论。所以我們在配置環(huán)境的時候,要安裝帶有transformers的requirements.txt卡乾。


當然搭建環(huán)境還是要在獨立的虛擬環(huán)境里翼悴。環(huán)境搭配好,然后就是準備中文語料幔妨,當然這個項目里也貼心地提供了——很多項目的README.md都有鹦赎,比如訓練數(shù)據啦,預訓練模型啦什么的误堡,幾乎都是手把手教了——前提是你要具備基本的編程或計算機相關知識古话。環(huán)境好了,語料有了锁施,然后就可以訓練我們自己的AI了陪踩。當然現(xiàn)在玩這類,都需要GPU悉抵。所以是自己的主機肩狂,有比較好點的顯卡(當然是越貴越好)。


當然了姥饰,這兩年大模型一個接一個傻谁,越來越強大。時過境遷列粪,GPT-2已然不如當年驚艷栅螟,當然不是特別新的和突出的,而且現(xiàn)在開源界遍地開花篱竭,也不是只有這一個開源項目可用。不過這里通過試玩一下體驗下傳說中的GPT步绸。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末掺逼,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子瓤介,更是在濱河造成了極大的恐慌吕喘,老刑警劉巖赘那,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異氯质,居然都是意外死亡募舟,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進店門闻察,熙熙樓的掌柜王于貴愁眉苦臉地迎上來拱礁,“玉大人,你說我怎么就攤上這事辕漂∧卦睿” “怎么了?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵钉嘹,是天一觀的道長鸯乃。 經常有香客問我,道長跋涣,這世上最難降的妖魔是什么缨睡? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮陈辱,結果婚禮上奖年,老公的妹妹穿的比我還像新娘。我一直安慰自己性置,他們只是感情好拾并,可當我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著鹏浅,像睡著了一般嗅义。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上隐砸,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天之碗,我揣著相機與錄音,去河邊找鬼季希。 笑死褪那,一個胖子當著我的面吹牛,可吹牛的內容都是我干的式塌。 我是一名探鬼主播博敬,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼峰尝!你這毒婦竟也來了偏窝?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎祭往,沒想到半個月后伦意,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡硼补,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年驮肉,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片已骇。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡离钝,死狀恐怖,靈堂內的尸體忽然破棺而出疾捍,到底是詐尸還是另有隱情奈辰,我是刑警寧澤,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布乱豆,位于F島的核電站奖恰,受9級特大地震影響,放射性物質發(fā)生泄漏宛裕。R本人自食惡果不足惜瑟啃,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望揩尸。 院中可真熱鬧蛹屿,春花似錦、人聲如沸岩榆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽勇边。三九已至犹撒,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間粒褒,已是汗流浹背识颊。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留奕坟,地道東北人祥款。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓,卻偏偏與公主長得像月杉,于是被迫代替她去往敵國和親刃跛。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內容