Alpaca-LoRA 的安裝

嘗到了gpt的甜頭踪少,覺得可以結合自己的任務訓練下,因為用自己的服務器沒有那么大的gpu,后來等到lora終于可以跑自己的數(shù)據(jù)了~不過安裝過程中遇到了很多坑6埂碎绎!真的很多坑螃壤,安裝了4天后來才搞定,覺得相當有價值記錄下(主要是想吐槽下這個版本得問題)筋帖。

先從github上下載源代碼奸晴,網(wǎng)址放這了https://github.com/tloen/alpaca-lora。然后照著寫得pip install -r requirement.txt日麸。 好的寄啼,一堆堆意外開始了。代箭。墩划。

1、網(wǎng)絡太差下載不了peft 和transformer兩個包

網(wǎng)速不好原因下載peft 和 transformer一直下不了嗡综,我是直接進的requirement.txt里面給的github地址下載并安裝的乙帮。下載并解壓到文件夾下手動安裝,命令如下:

      peft:       python setup.py build 
                   python setup.py install

      transformer:cd transfomers
                   pip install .    (注意這最后是一個點 . )

特別提示:當然如果你可以直接運行安裝requirement最好极景,如果是手動安裝的蚣旱,一定要下它給的github的版本碑幅,我之前嘗試直接pip install transfomers,下載出來的版本不對塞绿,導致不能和代碼匹配沟涨,所以一定要下作者給的那個版本。

2. 在安裝peft的時候報錯有個包一直沒找到

忘記具體錯誤是什么了不過我就記得安裝的時候報了一個致命的錯誤(抱歉人老了記憶不太好)异吻,后來糾正是因為python的版本不匹配(又是版本)裹赴。python的版本我從3.10換到了3.7換到了3.9后來換到了3.8,真的是折磨人诀浪。個人測試 了3.8安裝過程很順棋返,沒有一點毛病,注意在安裝3.7以及更高版本的python需要提前下載依賴包:

yum install zlib-devel bzip2-devel openssl-devel ncurses-devel \
sqlite-devel readline-devel tk-devel gcc make libffi-devel

如果沒有提前下載就安裝python的話會報錯libff庫的錯誤雷猪,所以不要偷這個懶睛竣。

3.下載對應的torch和vision以及audio包

去官網(wǎng)下載對應的torch包和另外兩個包,一定要版本匹配求摇,你的python是幾就是幾射沟,cuda是多少就下對應的,我是cuda11.4版本的与境,我下的11.6验夯,也是可以的。下載的3個地址貼在這里方便用:

torch:  https://download.pytorch.org/whl/torch/
vision: https://download.pytorch.org/whl/torchvision/
audio: https://download.pytorch.org/whl/torchaudio/

下載的時候3個文件的cuda和python都要全部對應摔刁,還有torch版本對應的vision和audio挥转,比如1.13的torch要下載0.14.1的vision和0.13.1的audio。大家可以在網(wǎng)上查一下再去下共屈。

4. 報錯needs_input函數(shù)沒有找到

OK這個問題折磨了我很久绑谣,我記得是_lz開頭的某個包里沒有這個函數(shù),后來查到是說pandas的版本問題拗引,有的說降低版本域仇,我降低到他的版本后也不行(后來我個人分析是因為pip的問題,pip的版本也會影響下載的版本寺擂,所以當時直接狠心全部重新裝了一遍)暇务。后來安裝的3.8的pandas完全沒有這個問題。(3.7怔软,3.9垦细,3.10都有,已經(jīng)幫你們踩過坑了挡逼,真的要崩潰)

5.總結

以上是我遇到的一堆堆錯誤括改,反正后來總結出來就是版本匹配真的很重要。作者給的源代碼里依賴了其他的庫家坎,其他庫的版本也得對應才能運行嘱能,經(jīng)過這次我也才發(fā)現(xiàn)pip版本都有影響吝梅,裝大模型真的很麻煩。惹骂。好奇為什么其他人那么順利苏携,唰唰的就能玩了。OK安裝問題到這就結束了对粪,感覺我應該把坑都踩了一遍右冻,有問題的可以留言交流。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末著拭,一起剝皮案震驚了整個濱河市纱扭,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌儡遮,老刑警劉巖乳蛾,帶你破解...
    沈念sama閱讀 218,607評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異鄙币,居然都是意外死亡肃叶,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,239評論 3 395
  • 文/潘曉璐 我一進店門爱榔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來被环,“玉大人糙及,你說我怎么就攤上這事详幽。” “怎么了浸锨?”我有些...
    開封第一講書人閱讀 164,960評論 0 355
  • 文/不壞的土叔 我叫張陵唇聘,是天一觀的道長。 經(jīng)常有香客問我柱搜,道長迟郎,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,750評論 1 294
  • 正文 為了忘掉前任聪蘸,我火速辦了婚禮宪肖,結果婚禮上,老公的妹妹穿的比我還像新娘健爬。我一直安慰自己控乾,他們只是感情好,可當我...
    茶點故事閱讀 67,764評論 6 392
  • 文/花漫 我一把揭開白布娜遵。 她就那樣靜靜地躺著蜕衡,像睡著了一般。 火紅的嫁衣襯著肌膚如雪设拟。 梳的紋絲不亂的頭發(fā)上慨仿,一...
    開封第一講書人閱讀 51,604評論 1 305
  • 那天久脯,我揣著相機與錄音,去河邊找鬼镰吆。 笑死帘撰,一個胖子當著我的面吹牛,可吹牛的內容都是我干的鼎姊。 我是一名探鬼主播骡和,決...
    沈念sama閱讀 40,347評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼相寇!你這毒婦竟也來了慰于?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,253評論 0 276
  • 序言:老撾萬榮一對情侶失蹤唤衫,失蹤者是張志新(化名)和其女友劉穎婆赠,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體佳励,經(jīng)...
    沈念sama閱讀 45,702評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡休里,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,893評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了赃承。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片妙黍。...
    茶點故事閱讀 40,015評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖瞧剖,靈堂內的尸體忽然破棺而出拭嫁,到底是詐尸還是另有隱情,我是刑警寧澤抓于,帶...
    沈念sama閱讀 35,734評論 5 346
  • 正文 年R本政府宣布做粤,位于F島的核電站,受9級特大地震影響捉撮,放射性物質發(fā)生泄漏怕品。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,352評論 3 330
  • 文/蒙蒙 一巾遭、第九天 我趴在偏房一處隱蔽的房頂上張望肉康。 院中可真熱鬧,春花似錦灼舍、人聲如沸吼和。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,934評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽纹安。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間厢岂,已是汗流浹背光督。 一陣腳步聲響...
    開封第一講書人閱讀 33,052評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留塔粒,地道東北人结借。 一個月前我還...
    沈念sama閱讀 48,216評論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像卒茬,于是被迫代替她去往敵國和親船老。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,969評論 2 355

推薦閱讀更多精彩內容