一檬输、下載Ollama軟件安裝包
1.訪問(wèn)Ollama官網(wǎng)下載:https://ollama.com/download
image.png
2.安裝Ollama
我下載的是Windows版本安裝包,雙擊安裝包安裝,直接點(diǎn)擊install匈棘,然后下一步直到安裝完成丧慈。
image.png
3.安裝完成后驗(yàn)證是否安裝成功,win+r進(jìn)入cmd界面
image.png
4.下載deepseek:r1模型
4.1訪問(wèn)https://ollama.com/library/deepseek-r1地址選擇合適自己本地硬件配置的版本
image.png
4.2復(fù)制命令ollama run deepseek-r1:1.5b在cmd命令行執(zhí)行該命令,等待下載完成如下圖主卫。
image.png
4.3在cmd命令窗口繼續(xù)執(zhí)行ollama pull nomic-embed-text命令下載本地語(yǔ)言集嵌入模型
image.png
二.安裝AnythingLLM界面軟件
1.下載AnythingLLM軟件逃默,下載地址 https://anythingllm.com/
image.png
2.安裝,雙擊安裝包安裝即可
image.png
3.安裝完成后啟動(dòng)軟件,界面如下:
image.png
4.配置AnythingLLM
4.1創(chuàng)建工作區(qū)
image.png
4.2語(yǔ)言設(shè)置
image.png
4.3LLM首選項(xiàng)設(shè)置,LLM 提供商選擇Ollama,模型選擇下載的deepseek-r1:7b簇搅,然后保存
image.png
4.4嵌入模型首選項(xiàng)設(shè)置,嵌入引擎提供商O(píng)llama,模型選擇nomic-embed-text完域。
image.png
4.5對(duì)話設(shè)置如下圖
聊天設(shè)置
image.png
代理配置
image.png
4.6然后就可以使用deepseek了,輸入提示詞等待deepseek回答。
image.png
三瘩将、私有數(shù)據(jù)本地訓(xùn)練
1.點(diǎn)擊如下圖上傳文件按鈕
image.png
image.png
上傳需要訓(xùn)練的私有數(shù)據(jù)吟税,然后添加到右邊并保存就完成了关噪。