從ModelScope社區(qū)下載模型的方法

現(xiàn)今大模型都是百億和千億級(jí)別的體量枝誊,模型文件動(dòng)輒幾十GB,從Hugging Face上下載十分耗時(shí)惜纸,而且網(wǎng)絡(luò)不穩(wěn)定也會(huì)導(dǎo)致模型下載失敗叶撒,而且很多下載方法不支持?jǐn)帱c(diǎn)續(xù)傳绝骚,導(dǎo)致費(fèi)時(shí)費(fèi)力,卻一無所獲祠够。本篇文章介紹如何在ModelScope社區(qū)下載所需的模型压汪,文章內(nèi)容來自社區(qū)文檔及個(gè)人實(shí)踐。

若您需要在ModelScope平臺(tái)上有感興趣的模型并希望能下載至本地古瓤,則ModelScope提供了多種下載模型的方式止剖。
若該模型已集成至ModelScope的Library中,則您只需要幾行代碼即可加載模型落君。您可以點(diǎn)擊模型卡片中的“快速使用”按鈕查看如何使用Library進(jìn)行模型的下載穿香。前期是需要先安裝ModelScope的Library。 只需要知道模型id叽奥,以及希望使用的模型版本(默認(rèn)為master)扔水,就可以通過一行代碼痛侍,完成模型尋找朝氓,下載,以及加載的工作:

from modelscope.models import Model
model = Model.from_pretrained('damo/nlp_xlmr_named-entity-recognition_viet-ecommerce-title', revision='v1.0.1')
# revision為可選參數(shù)主届,不指定版本會(huì)取模型默認(rèn)版本赵哲,默認(rèn)版本,默認(rèn)版本為ModelScope library發(fā)布前最后一個(gè)版本
# 如何得到發(fā)布時(shí)間
# import modelscope
# print(modelscope.version.__release_datetime__)
#model = Model.from_pretrained('damo/nlp_structbert_word-segmentation_chinese-base')

使用Library Hub下載模型

您可以使用modelscope modelhub從 repos 創(chuàng)建君丁、刪除枫夺、更新和檢索信息。您還可以從 repos 下載文件或?qū)⑺鼈兗傻侥膸熘谢婷疲⑶铱芍付ㄏ螺d模型的地址橡庞。

from modelscope.hub.snapshot_download import snapshot_download

model_dir = snapshot_download('damo/nlp_xlmr_named-entity-recognition_viet-ecommerce-title', cache_dir='path/to/local/dir', revision='v1.0.1')

您也可以使用modelscope modelhub從repos中指定下載單個(gè)文件。</p>

from modelscope.hub.file_download import model_file_download

model_dir = model_file_download(model_id='AI-ModelScope/rwkv-4-world',file_path='RWKV-4-World-CHNtuned-7B-v1-20230709-ctx4096.pth',revision='v1.0.0')

默認(rèn)模型會(huì)下載到

~/.cache/modelscope/hub

如果需要修改下載目錄印蔗,可以手動(dòng)指定環(huán)境變量:MODELSCOPE_CACHE扒最,modelscope會(huì)將模型和數(shù)據(jù)集下載到該環(huán)境變量指定的目錄中

使用Git下載模型(主要方法)

# 公開模型下載
git lfs install
git clone https://www.modelscope.cn/&lt;namespace&gt;/&lt;model-name&gt;.git
# 例如: git clone https://www.modelscope.cn/damo/ofa_image-caption_coco_large_en.git
# 模型頁面:https://modelscope.cn/models/qwen/Qwen-14B/summary
# 對(duì)應(yīng)規(guī)則:https://www.modelscope.cn/&lt;namespace&gt;/&lt;model-name&gt;.git
# 示例:git clone https://modelscope.cn/qwen/Qwen-14B.git

# 私有模型下載,前提是您有響應(yīng)模型權(quán)限 方法1
git lfs install
git clone http://oauth2:your_git_token@www.modelscope.cn/&lt;namespace&gt;/&lt;model-name&gt;.git
# 方法2
git clone http://your_user_name@www.modelscope.cn/&lt;namespace&gt;/&lt;model-name&gt;.git
# Password for 'http://your_user_name@modelscope.cn':
# input git token

如何獲取git token

用您的賬號(hào)登錄华嘹,在個(gè)人中心->訪問令牌吧趣,拷貝git token

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市耙厚,隨后出現(xiàn)的幾起案子强挫,更是在濱河造成了極大的恐慌,老刑警劉巖薛躬,帶你破解...
    沈念sama閱讀 219,427評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件俯渤,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡型宝,警方通過查閱死者的電腦和手機(jī)八匠,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,551評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門侦鹏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人臀叙,你說我怎么就攤上這事略水。” “怎么了劝萤?”我有些...
    開封第一講書人閱讀 165,747評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵渊涝,是天一觀的道長。 經(jīng)常有香客問我床嫌,道長跨释,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,939評(píng)論 1 295
  • 正文 為了忘掉前任厌处,我火速辦了婚禮鳖谈,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘阔涉。我一直安慰自己缆娃,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,955評(píng)論 6 392
  • 文/花漫 我一把揭開白布瑰排。 她就那樣靜靜地躺著贯要,像睡著了一般。 火紅的嫁衣襯著肌膚如雪椭住。 梳的紋絲不亂的頭發(fā)上崇渗,一...
    開封第一講書人閱讀 51,737評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音京郑,去河邊找鬼宅广。 笑死,一個(gè)胖子當(dāng)著我的面吹牛些举,可吹牛的內(nèi)容都是我干的跟狱。 我是一名探鬼主播,決...
    沈念sama閱讀 40,448評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼金拒,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼兽肤!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起绪抛,我...
    開封第一講書人閱讀 39,352評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤资铡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后幢码,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體笤休,經(jīng)...
    沈念sama閱讀 45,834評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,992評(píng)論 3 338
  • 正文 我和宋清朗相戀三年症副,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了店雅。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片政基。...
    茶點(diǎn)故事閱讀 40,133評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖闹啦,靈堂內(nèi)的尸體忽然破棺而出沮明,到底是詐尸還是另有隱情,我是刑警寧澤窍奋,帶...
    沈念sama閱讀 35,815評(píng)論 5 346
  • 正文 年R本政府宣布荐健,位于F島的核電站,受9級(jí)特大地震影響琳袄,放射性物質(zhì)發(fā)生泄漏江场。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,477評(píng)論 3 331
  • 文/蒙蒙 一窖逗、第九天 我趴在偏房一處隱蔽的房頂上張望址否。 院中可真熱鬧,春花似錦碎紊、人聲如沸佑附。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,022評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽帮匾。三九已至,卻和暖如春痴鳄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背缸夹。 一陣腳步聲響...
    開封第一講書人閱讀 33,147評(píng)論 1 272
  • 我被黑心中介騙來泰國打工痪寻, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人虽惭。 一個(gè)月前我還...
    沈念sama閱讀 48,398評(píng)論 3 373
  • 正文 我出身青樓橡类,卻偏偏與公主長得像,于是被迫代替她去往敵國和親芽唇。 傳聞我的和親對(duì)象是個(gè)殘疾皇子顾画,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,077評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容