
LoRA解讀:https://zx2ow2qh1z5.feishu.cn/docx/XTq5daVFio7UWAxjgDmcfVu7nSb[ht...
RAG有兩個(gè)核心部分: 檢索部分:保證系統(tǒng)能根據(jù)用戶的Prompt找到對(duì)應(yīng)的chunk 生成部分:充分發(fā)揮大模型能力唉韭,生成一個(gè)滿足用戶要求的正確...
OpenCompass 評(píng)測(cè) https://github.com/InternLM/Tutorial/blob/camp2/opencompa...
Lagent & AgentLego 智能體應(yīng)用搭建 一垢夹、概述 Lagent 是一個(gè)輕量級(jí)開源智能體框架窒升,旨在讓用戶可以高效地構(gòu)建基于大語言模型...
LMDeploy 量化部署 LLM&VLM 實(shí)踐 一脑溢、理論基礎(chǔ) 大模型部署面臨的挑戰(zhàn): 計(jì)算量巨大 內(nèi)存開銷巨大 訪存瓶頸:硬件計(jì)算速度遠(yuǎn)快于顯...
搭建 RAG 智能助理 一救拉、RAG 1.1 概述 RAG(Retrieval Augmented Generation)技術(shù)埃仪,通過檢索與用戶輸入...
XTuner 微調(diào) LLM:1.8B响谓、多模態(tài)歌径、Agent 微調(diào)效果: XTuner 一個(gè)大語言模型&多模態(tài)模型微調(diào)工具箱毁嗦。由 MMRazor 和...
1. 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事 2. Lagent 部署 在 terminal 中輸入指令,構(gòu)...
玩轉(zhuǎn)趣味Demo 主要任務(wù) 部署 InternLM2-Chat-1.8B 模型進(jìn)行智能對(duì)話 部署實(shí)戰(zhàn)營(yíng)優(yōu)秀作品 八戒-Chat-1.8B 模型 ...