1. 詳細(xì)步驟 1.1 安裝 1.2 啟動(dòng) 1.2.1 直接啟動(dòng) 簡潔命令 多參數(shù)命令 設(shè)置模型緩存路徑和模型來源(Hugging Face/Modelscope) 1.2....
1. 詳細(xì)步驟 1.1 安裝 1.2 啟動(dòng) 1.2.1 直接啟動(dòng) 簡潔命令 多參數(shù)命令 設(shè)置模型緩存路徑和模型來源(Hugging Face/Modelscope) 1.2....
1. 詳細(xì)步驟 1.1 安裝 cuda 等 nvidia 依賴(非CUDA環(huán)境運(yùn)行可跳過) 1.2 安裝 llama.cpp (C/C++環(huán)境) 1.3 安裝 llama-c...
1. 詳細(xì)步驟 1.1 拉取源碼 1.2 模型轉(zhuǎn)換/量化 1.2.1 安裝所需 Python 依賴 torch 其他依賴 1.2.1 模型轉(zhuǎn)換/量化 f16 q8_0 q4_...
Open WebUI (Formerly Ollama WebUI) 也可以通過 docker 來安裝使用 1. 詳細(xì)步驟 1.1 安裝 Open WebUI 1.2 啟動(dòng) ...
1. 詳細(xì)步驟 以qwen2.5:0.5b-instruct-fp16為例 1.1 遷移 manifests 文件 1.2 遷移 blobs 文件 1.3 驗(yàn)證
1. 操作步驟 1.1 安裝 1.2 驗(yàn)證(可跳過) 1.3 啟動(dòng)服務(wù)端 1.4 跑通第一個(gè)模型 2. 參考資料 2.1 Ollama GitHub https://gith...
目前通過 runfile(local) 方式安裝,最終 nvcc -V 看到的版本有偏差(安裝12.4,顯示12.0)宵溅,但不影響使用 llama-factory,llama....
1. 詳細(xì)步驟 1.1 安裝 Tmux apt brew 1.2 終端新建/激活 Tmux 1.2.1 新開一個(gè)窗口 1.2.2 激活指定窗口 1.3 Tmux 內(nèi)使用 1....
1. 實(shí)用命令 1.1 系統(tǒng)相關(guān) 1.1.1 查看系統(tǒng)上炎、用戶信息等 查看當(dāng)前系統(tǒng)硬件架構(gòu) 注:mac 上也能用 查看當(dāng)前系統(tǒng)的操作系統(tǒng)及版本 查看當(dāng)前系統(tǒng)單個(gè)cpu的可用核心...
1. 詳細(xì)步驟 以 Ubuntu 上恃逻,組建 4 盤 RAID-10 為例 掛載的位置以 /Volumes/RAID10 為例, 可替換為其他任意自定義路徑 1.1 初始化磁盤...
1. 詳細(xì)步驟 1.1 安裝啟動(dòng) postgresql 服務(wù) 1.2 安裝啟動(dòng) redis 服務(wù) 1.3 安裝啟動(dòng) gitlab 服務(wù) 1.4 使用 瀏覽器訪問 http:/...
1. 詳細(xì)步驟 1.1 安裝 1.2 驗(yàn)證(可跳過) 1.3 使用 1.3.1 拉取鏡像 1.3.2 運(yùn)行鏡像 1.3.3 查看容器日志 1.3.4 停止容器 1.3.5 刪...
支持絕大部分系統(tǒng)軟件服務(wù)的安裝,如 ollama, ffmpeg, mysql 等 在非 root 用戶下安裝使用寇损,mac 和 linux(ubuntu) 上都可以使用 1....
1. 詳細(xì)步驟 1.1 終止所有 WSL 實(shí)例(官方建議) 1.2 通過 diskpart 拓展磁盤空間 1.3 啟動(dòng) WSL Linux 1.4 拓展磁盤空間 在 WSL-...
1. 操作步驟 1.1 確認(rèn)要導(dǎo)出的Linux系統(tǒng)是否存在(可跳過) 1.2 導(dǎo)出Linux系統(tǒng)為tar包 1.3 刪除原Linux系統(tǒng) 1.4 在非系統(tǒng)盤創(chuàng)建Linux系統(tǒng)...
1. 安裝 1.1 WSL安裝確認(rèn)(可跳過) 1.1.1 檢查是否安裝(可跳過) 注:Windows11已默認(rèn)安裝(所提WSL凸郑,默認(rèn)指WSL2) 1.1.2 手動(dòng)安裝(可跳過...
1. 安裝 安裝 anaconda(包含 python 和 pip 等,支持創(chuàng)建及管理多個(gè) python 虛擬環(huán)境) 注:miniconda 可能也可以矛市,但是沒用過芙沥,優(yōu)先 a...
1. 詳細(xì)步驟 1.1 查看源文件位置(可跳過) 1.2 備份源文件 1.3 配置鏡像源 1.4 驗(yàn)證 2. 參考資料 2.1 清華大學(xué)開源軟件鏡像站 ubuntu http...
1. 詳細(xì)步驟 1.1 常用鏡像源列表 1.2 臨時(shí)使用 1.3 長期設(shè)置 1.4 配置多個(gè)鏡像源 2. 參考資料 2.1 清華大學(xué)開源軟件鏡像站 2.1.1 PyPI 軟件...