ollama是一個用于在本地運行大型語言模型的工具掸犬,允許用戶方便地管理和使用各類開源語言模型,如Llama 3.3、DeepSeek - R1滚朵、Phi - 4、Mistral等前域。
https://www.bilibili.com/video/BV1qXFge7EYV/?spm_id_from=333.337.search-card.all.click&vd_source=b38aec4d2ea655f0dffbfe2c6f5d3be5
用到的軟件鏈接:
ollama:https://ollama.com/download
終端代碼:ollama run deepseek-r1:8B
1.輸入“ollama list”命令可查看ollama已經(jīng)部署的模型數(shù)量辕近。
2.選擇想要運行的模型名稱(name)進行復(fù)制,執(zhí)行“ollama run”+模型名稱匿垄,即可再次啟動該模型移宅。
3.
4.Edge拓展程序
5.https://docs.openwebui.com/
如果 Ollama 在您的計算機上,請使用以下命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
安裝后年堆,您可以訪問 Open WebUI at http://localhost:3000?? (或者 http://0.0.0.0:3000/auth, xm密碼xm, 921996026@qq.com)
https://www.bilibili.com/video/BV1jVFGeXEWp/?spm_id_from=333.337.search-card.all.click&vd_source=b38aec4d2ea655f0dffbfe2c6f5d3be5
用到的軟件鏈接:
ollama:https://ollama.com/download
page assist:https://reurl.cc/nq2p0e
終端代碼:ollama run deepseek-r1:8B