嘗到了gpt的甜頭踪少,覺得可以結合自己的任務訓練下,因為用自己的服務器沒有那么大的gpu,后來等到lora終于可以跑自己的數(shù)據(jù)了~不過安裝過程中遇到了很多坑6埂碎绎!真的很多坑螃壤,安裝了4天后來才搞定,覺得相當有價值記錄下(主要是想吐槽下這個版本得問題)筋帖。
先從github上下載源代碼奸晴,網(wǎng)址放這了https://github.com/tloen/alpaca-lora。然后照著寫得pip install -r requirement.txt日麸。 好的寄啼,一堆堆意外開始了。代箭。墩划。
1、網(wǎng)絡太差下載不了peft 和transformer兩個包
網(wǎng)速不好原因下載peft 和 transformer一直下不了嗡综,我是直接進的requirement.txt里面給的github地址下載并安裝的乙帮。下載并解壓到文件夾下手動安裝,命令如下:
peft: python setup.py build
python setup.py install
transformer:cd transfomers
pip install . (注意這最后是一個點 . )
特別提示:當然如果你可以直接運行安裝requirement最好极景,如果是手動安裝的蚣旱,一定要下它給的github的版本碑幅,我之前嘗試直接pip install transfomers,下載出來的版本不對塞绿,導致不能和代碼匹配沟涨,所以一定要下作者給的那個版本。
2. 在安裝peft的時候報錯有個包一直沒找到
忘記具體錯誤是什么了不過我就記得安裝的時候報了一個致命的錯誤(抱歉人老了記憶不太好)异吻,后來糾正是因為python的版本不匹配(又是版本)裹赴。python的版本我從3.10換到了3.7換到了3.9后來換到了3.8,真的是折磨人诀浪。個人測試 了3.8安裝過程很順棋返,沒有一點毛病,注意在安裝3.7以及更高版本的python需要提前下載依賴包:
yum install zlib-devel bzip2-devel openssl-devel ncurses-devel \
sqlite-devel readline-devel tk-devel gcc make libffi-devel
如果沒有提前下載就安裝python的話會報錯libff庫的錯誤雷猪,所以不要偷這個懶睛竣。
3.下載對應的torch和vision以及audio包
去官網(wǎng)下載對應的torch包和另外兩個包,一定要版本匹配求摇,你的python是幾就是幾射沟,cuda是多少就下對應的,我是cuda11.4版本的与境,我下的11.6验夯,也是可以的。下載的3個地址貼在這里方便用:
torch: https://download.pytorch.org/whl/torch/
vision: https://download.pytorch.org/whl/torchvision/
audio: https://download.pytorch.org/whl/torchaudio/
下載的時候3個文件的cuda和python都要全部對應摔刁,還有torch版本對應的vision和audio挥转,比如1.13的torch要下載0.14.1的vision和0.13.1的audio。大家可以在網(wǎng)上查一下再去下共屈。
4. 報錯needs_input函數(shù)沒有找到
OK這個問題折磨了我很久绑谣,我記得是_lz開頭的某個包里沒有這個函數(shù),后來查到是說pandas的版本問題拗引,有的說降低版本域仇,我降低到他的版本后也不行(后來我個人分析是因為pip的問題,pip的版本也會影響下載的版本寺擂,所以當時直接狠心全部重新裝了一遍)暇务。后來安裝的3.8的pandas完全沒有這個問題。(3.7怔软,3.9垦细,3.10都有,已經(jīng)幫你們踩過坑了挡逼,真的要崩潰)
5.總結
以上是我遇到的一堆堆錯誤括改,反正后來總結出來就是版本匹配真的很重要。作者給的源代碼里依賴了其他的庫家坎,其他庫的版本也得對應才能運行嘱能,經(jīng)過這次我也才發(fā)現(xiàn)pip版本都有影響吝梅,裝大模型真的很麻煩。惹骂。好奇為什么其他人那么順利苏携,唰唰的就能玩了。OK安裝問題到這就結束了对粪,感覺我應該把坑都踩了一遍右冻,有問題的可以留言交流。