1、下載Ollama
Linux系統(tǒng)的安裝命令如下:
curl -fsSL https://ollama.com/install.sh | sh
2抹凳、進(jìn)入llama3運(yùn)行環(huán)境:
ollama run llama3
3井辜、啟動服務(wù):
ollama serve
首次啟動可能會出現(xiàn)以下兩個(gè)提示:
Couldn’t find ‘/home/用戶名/.ollama/id_ed25519’. Generating new private key.
該提示表示文件系統(tǒng)中不存在ssh私鑰文件修壕,此時(shí)命令將自動幫我們生成該文件,并在命令行中打印相應(yīng)的公鑰腐魂。
Error: listen tcp 127.0.0.1:11434: bind: address already in use
看到該提示,大概率服務(wù)已在運(yùn)行中逐纬,可以通過
netstat -tulpn | grep 11434
命令進(jìn)行確認(rèn)蛔屹。
若命令輸出的最后一列包含“ollama”字樣,則表示服務(wù)已啟動豁生,無需做額外處理兔毒。
否則,可嘗試執(zhí)行下列命令重啟ollama:
4甸箱、重啟ollama
systemctl daemon-reload
systemctl restart ollama
5育叁、重啟ollama服務(wù)
ubuntu/debian
sudo apt update
sudo apt install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve
centos
sudo yum update
sudo yum install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve
6、確認(rèn)服務(wù)端口狀態(tài):
netstat -tulpn | grep 11434
7芍殖、配置服務(wù)
為使外網(wǎng)環(huán)境能夠訪問到服務(wù)豪嗽,需要對HOST進(jìn)行配置。
打開配置文件:
vim /etc/systemd/system/ollama.service
根據(jù)情況修改變量Environment:
服務(wù)器環(huán)境下:
Environment="OLLAMA_HOST=0.0.0.0:11434"
虛擬機(jī)環(huán)境下:
Environment="OLLAMA_HOST=服務(wù)器內(nèi)網(wǎng)IP地址:11434"