Meta AI 已經(jīng)進(jìn)入了由大型語言模型 (LLM) 主導(dǎo)的 AI 競賽伟葫,例如 OpenAI 的 ChatGPT四康、微軟的 GPT-powered Bing 和谷歌的 Bard属提。Meta 首席執(zhí)行官馬克·扎克伯格 (Mark Zuckerberg) 在Facebook帖子中發(fā)布了這一消息:“今天我們發(fā)布了一種名為 LLaMA 的新型最先進(jìn)的 AI 大型語言模型,旨在幫助研究人員推進(jìn)他們的工作……Meta 致力于這種開放的研究模型我們會將我們的新模型提供給 AI 研究社區(qū)图焰●陕”
LLaMA 基礎(chǔ)語言模型的參數(shù)范圍從 7B 到 65B 不等,并使用來自公開數(shù)據(jù)庫的數(shù)萬億個標(biāo)記進(jìn)行了訓(xùn)練凡桥。LLaMA-13B 模型優(yōu)于 GPT-3蟀伸,但體積小 10 倍,使其能夠在單個 GPU 上運(yùn)行。Meta AI 研究團(tuán)隊(duì)在新論文 LLaMA:開放和高效的基礎(chǔ)語言模型中深入研究了 LLaMA 的技術(shù)細(xì)節(jié)啊掏。