一搔扁、續(xù)寫
“completions” 指的是通過(guò)向模型提供一個(gè)上下文或部分文本，以便模型繼續(xù)或完成給定的文本。通過(guò)使用“completions”功能嗦锐，您可以向語(yǔ)言模型發(fā)送請(qǐng)求，要求其根據(jù)給定的文本生成補(bǔ)全或續(xù)寫的建議沪曙，即繼續(xù)進(jìn)行后續(xù)文本創(chuàng)作奕污。
從原理上來(lái)看，LLM的本質(zhì)是一個(gè)句子接龍機(jī)器液走，于是自然而然地碳默，大家首先會(huì)把他用在續(xù)寫故事上，而稍加引導(dǎo)缘眶，讓這個(gè)故事以機(jī)器一句嘱根、用戶一句的方式接力續(xù)寫，那么就可以把LLM包裝成一個(gè)對(duì)話機(jī)器人巷懈，之后该抒，以初代ChatGPT為代表的基于LLM的對(duì)話機(jī)器人應(yīng)用鋪天蓋地的爆發(fā)了。
二顶燕、chat
大語(yǔ)言模型（如GPT系列）的completions接口主要用于生成文本補(bǔ)全凑保，即用戶提供一個(gè)提示（prompt）冈爹，模型基于這個(gè)提示生成后續(xù)的文本。然而欧引，completions接口本身并不直接支持多輪對(duì)話或保持上下文的能力犯助，這是其與chat/completions接口的主要區(qū)別。若要讓大語(yǔ)言模型的completions接口擁有類似chat的能力维咸，即支持多輪對(duì)話和保持上下文剂买，可以使用包含多輪對(duì)話的數(shù)據(jù)集對(duì)模型進(jìn)行訓(xùn)練，使其能夠更好地理解對(duì)話的上下文和生成連貫的回復(fù)癌蓖。
希望實(shí)現(xiàn)一個(gè)簡(jiǎn)單的聊天機(jī)器人瞬哼。你可以通過(guò)以下步驟來(lái)整合completions接口以實(shí)現(xiàn)多輪對(duì)話：
- 初始化一個(gè)空字符串或列表來(lái)存儲(chǔ)對(duì)話歷史。
- 在每次用戶輸入時(shí)租副，將用戶輸入和對(duì)話歷史拼接成新的提示（prompt）坐慰。
- 調(diào)用completions接口，將拼接后的提示作為參數(shù)傳入用僧。
- 將模型生成的回復(fù)添加到對(duì)話歷史中结胀，并展示給用戶。
三. Function call
那么责循，難道LLM只能用來(lái)Chat嗎糟港？可否做一些更有趣的事情呢？如果翻閱過(guò)OpenAI發(fā)的幾篇GPT1院仿、2秸抚、3代的論文，就會(huì)發(fā)現(xiàn)歹垫，大語(yǔ)言模型的典型模型GPT在論文中被定位成了一個(gè)“多任務(wù)完成器”剥汤，認(rèn)為GPT這種大語(yǔ)言模型，只要稍加引導(dǎo)排惨，就可以化身不同的角色完成不同的任務(wù)吭敢。
所以，通過(guò)適當(dāng)?shù)囊龑?dǎo)（提示詞工程）暮芭，我們至少可以讓大模型完成以下兩件事情：
- 結(jié)構(gòu)化信息抽取鹿驼，從非結(jié)構(gòu)化的文本中提取期望的關(guān)鍵信息
- 按照模板格式化輸出，比如按照json格式輸出
再配合上模型微調(diào)等技術(shù)強(qiáng)化大模型以上兩個(gè)技能谴麦，我們就可以做到：給定大模型一段自然語(yǔ)言來(lái)描述的需求蠢沿，要求大模型判斷意圖并從中抽取預(yù)期的關(guān)鍵信息，然后按照指定的格式模板輸出這些關(guān)鍵信息列表匾效，而輸出的格式化信息是可以被傳統(tǒng)的不具有語(yǔ)言智能的外圍輔助程序解析的舷蟀，外圍程序就可以利用這個(gè)信息來(lái)映射到某個(gè)預(yù)先實(shí)現(xiàn)好的函數(shù)，并把模型輸出的格式化信息列表當(dāng)成函數(shù)參數(shù)列表傳入，然后執(zhí)行這個(gè)函數(shù)野宜，再把函數(shù)的返回結(jié)果反饋給大模型扫步。
于是宏觀來(lái)看，好像大模型稍加調(diào)教匈子，就擁有了理解并調(diào)用外界函數(shù)的功能河胎，并且可以感知到函數(shù)執(zhí)行結(jié)果并作出自己下一步的判斷。這個(gè)“函數(shù)”是一個(gè)籠統(tǒng)的說(shuō)法虎敦，也可以叫它工具游岳、外部模塊、工作流等其徙。
四胚迫、結(jié)束語(yǔ)
LLM原本只能輸入輸出文本（詳細(xì)來(lái)說(shuō)是向量序列），通過(guò)讓LLM使用外部工具唾那，讓LLM和外部環(huán)境進(jìn)行交互访锻，和真實(shí)世界建立了橋梁，讓LLM真正的可以感知闹获、影響到外部世界期犬，就好像為L(zhǎng)LM安上了手腳。
