什么是ChatGPT
示例
首先我們來先看兩張圖
大象裝冰箱灵疮,說明chatGPT能理解這個笑話东臀,并且還是正能量的赋朦,提示把大象裝進(jìn)冰箱是不道德诅愚,殘忍的。
狗為什么叫三萬裕膀,說明chatGPT對上下文的理解能力非常強员串。
OpenAI
在正式介紹ChatGPT產(chǎn)品之前,我們先來介紹一下他的公司--OpenAI昼扛。
OpenAI 是2015年由Sam Altman 和馬斯克(2018年退出了OpenAI)等人成立的一個非營利性的研究機構(gòu)和技術(shù)公司寸齐,,其致力于推進(jìn)人工智能技術(shù)的發(fā)展讓其造福于人類抄谐。
非營利性的研究機構(gòu)是指即使盈利了渺鹦,股東們也不能將盈利的錢進(jìn)行分配,只能將盈利繼續(xù)投入研發(fā)中蛹含;由于AI非常燒錢毅厚,而非營利機構(gòu)又很難獲得大量的資金捐贈,所以O(shè)penAI成立了一個營利的子公司浦箱;這個營利是有上限的吸耿,投資利潤不超過投資額的100倍;
之后酷窥,微軟分別投資OpenAI 10億咽安、20億、100億美元蓬推,微軟會獲得一定比例的股份妆棒,同事?lián)碛袃?yōu)先使用OpenAI產(chǎn)品的權(quán)利,若OpenAI盈利,則優(yōu)先按一定比例給微軟回報糕珊,直到得到約定的回報后动分,微軟需將股份重新還給OpenAI的非營利基金會。
這個投資結(jié)構(gòu)也是前所未有的红选。
ChatGPT簡介
ChatGPT是基于GPT模型的聊天機器人澜公,由OpenAI開發(fā)。它能夠進(jìn)行自然語言交互纠脾,回答用戶提出的問題玛瘸、生成自然語言文本等,已應(yīng)用于多種場景中苟蹈,例如客戶服務(wù)糊渊、教育、娛樂等慧脱。
ChatGPT利用大規(guī)模數(shù)據(jù)集進(jìn)行預(yù)訓(xùn)練渺绒,能夠?qū)ψ匀徽Z言進(jìn)行深入理解,提供高質(zhì)量的自然語言交互服務(wù)菱鸥。但它也存在一些局限性宗兼,例如僅能基于已有的知識庫和經(jīng)驗生成回答,需要在使用時進(jìn)行謹(jǐn)慎考慮和監(jiān)督氮采。
這是我問ChatGPT殷绍,他給的答案。說明我們可以利用他去學(xué)習(xí)和了解一些東西鹊漠。
而其中GPT模型是其中的技術(shù)核心主到,GPT是Generative Pre-trained Transformer的縮寫,意思為 生成式預(yù)訓(xùn)練Transformer躯概,Transformer我們放到后面去解釋登钥,暫且給他翻譯成變形金剛。
ChatGPT 是用戶破億最快的產(chǎn)品娶靡。
為什么ChatGPT這么智能
都說之前的AI是人工智障牧牢,那么為什么到了ChatGPT他變成了人工智能了呢?
技術(shù)-GPT
注意變形金剛要變大
- 2018年GPT-1模型擁有1.17億個參數(shù)
- 2019年GPT-2模型擁有15億個參數(shù)
- 2020年GPT-3模型擁有1750億個參數(shù)
現(xiàn)在ChatGPT就是在GPT-3模型基礎(chǔ)上進(jìn)行了微調(diào)姿锭,普遍認(rèn)為是GPT-3.5模型塔鳍,而在ChatGPT之前,人類歷史上最大的 AI 語言模型呻此,是170 億個參數(shù)轮纫,據(jù)說GPT-4模型會比GPT-3參數(shù)還要多很多倍,大家認(rèn)為在GPT-4的時候趾诗,AI會通過圖靈測試 。
參數(shù)是個什么概念呢,用我們的手機舉例恃泪,可能我們告訴電腦長郑兴、寬、高參數(shù)贝乎,則電腦只能判斷出來他是個長方體情连,當(dāng)我們再告訴電腦顏色參數(shù),則電腦就會知道他是一個什么顏色的長方體览效,當(dāng)參數(shù)增多却舀,電腦就能判斷出來這個是否是手機了。
人類大概有1000多億個神經(jīng)元锤灿,狗大概有6億個神經(jīng)元挽拔,從某種角度說,可能人類進(jìn)化的過程中但校,由于神經(jīng)元的數(shù)量增多螃诅,自然而然的形成了智人;AI在參數(shù)也達(dá)到了了一定數(shù)量后状囱,開始變得智能术裸。
“注意”
那么注意變形金剛要變大里的”注意”指的是什么呢?首先我們需要來解釋一下Transformer亭枷。
Transformer是谷歌2017年提出的袭艺,一種基于注意力機制的神經(jīng)網(wǎng)絡(luò)架構(gòu)。并廣泛用于自然語言處理(NLP)領(lǐng)域的各種任務(wù)叨粘,如語言建模猾编、翻譯、問答和摘要等宣鄙。
神經(jīng)網(wǎng)絡(luò)大家或多或少都應(yīng)該知道一些袍镀,他是模擬人腦神經(jīng)系統(tǒng)的結(jié)構(gòu),由多個相互連接的神經(jīng)元組成冻晤。
我們來重點說一下注意力機制是什么
我們來用一個例子簡單說明一下
當(dāng)成人看一顆大樹時苇羡,我們可能會忽略掉一些細(xì)枝末節(jié),只看到一個樹干鼻弧,就知道他是一棵大樹设江。因為我們的注意力在大樹上,忽略到細(xì)枝末節(jié)并不影響我們知道他是一顆大樹攘轩。
當(dāng)小孩子看到一顆大樹時叉存,可能不光看到了大樹,甚至還看到了上面的鳥窩度帮。因為小孩子對所看到的的畫面上每個像素的注意力都是相等的歼捏,所以他能看到樹上的鳥窩稿存。
所以注意力是可以通過后天的培養(yǎng)的。通過這個Transformer架構(gòu)可以讓AI更好地理解我們說的話瞳秽。
成本
大概可以分為“交給機房”(算力和數(shù)據(jù))的錢--4. 16 億美金瓣履,折合人民幣約28億元,和“交給人”(工程師练俐、專家等)的錢--8000 多萬美金袖迎,折合人民幣約5億元。
1750億個參數(shù)修改后的訓(xùn)練成本是百萬甚至千萬美元腺晾。
1. 據(jù)摩根士丹利估計燕锥,ChatGPT每回復(fù)一次的成本,大約是Google傳統(tǒng)搜索查詢成本的7倍悯蝉。
2. 據(jù)美國《財富》雜志報道归形,2022年OpenAI公司凈虧損總額為5.45億美元,折合人民幣約37億元泉粉。
總結(jié)
為什么ChatGPT這么智能
- 模型參數(shù)數(shù)量變大
- 投入資金額度變大
總體來說连霉,ChatGPT就是一個 大力出奇跡 的結(jié)果
ChatGPT發(fā)展現(xiàn)狀
不能做什么
- 數(shù)學(xué)能力差,計算器計算6543*3456=22612608嗡靡,而ChatGPT計算每次都會不一樣
- 內(nèi)容不是實時的跺撼,學(xué)習(xí)的內(nèi)容只到2021年9月
- 一本正經(jīng)的胡說
能做什么
- 回答問題:ChatGPT可以回答各種各樣的問題,包括一般性的知識問答讨彼、實用技巧歉井、娛樂休閑等等。
- 生成文本:ChatGPT可以根據(jù)給定的話題或者問題生成相應(yīng)的文本哈误,比如文章哩至、詩歌、小說等等蜜自。
- 對話交互:ChatGPT可以與用戶進(jìn)行自然的對話菩貌,幫助用戶解答問題、獲取信息重荠、進(jìn)行娛樂等等箭阶。
- 語言翻譯:ChatGPT可以進(jìn)行多語言之間的翻譯,包括文本翻譯和語音翻譯戈鲁。
ChatGPT+
重要性不亞于互聯(lián)網(wǎng)的發(fā)明仇参,將改變我們的世界。---比爾·蓋茨
ChatGPT相當(dāng)于互聯(lián)網(wǎng)上的瀏覽器婆殿,或者iPhone的誕生诈乒,我們要做的應(yīng)該是基于瀏覽器的網(wǎng)站或者手機的APP。
對于個人來說婆芦,ChatGPT是我們的工具怕磨,可以讓他來編寫一個復(fù)雜的sql喂饥,可以讓他幫著理解某一段話的含義等等。
國內(nèi)現(xiàn)狀
- 復(fù)旦大學(xué):2月20日發(fā)布國內(nèi)第一個對話式大型語言模型MOSS--百億參數(shù) https://moss.fastnlp.top/
- 百度:將于3月推出類似ChatGPT的聊天機器人
- 昆侖萬維:今年內(nèi)發(fā)布中國版類ChatGPT代碼開源
- 360:計劃推出類ChatGPT技術(shù)的demo版產(chǎn)品
- 水滴:公司內(nèi)部已經(jīng)開展類ChatGPT應(yīng)用測試
- 阿里:正研發(fā)類ChatGPT產(chǎn)品肠鲫,目前正內(nèi)測
- 華為:在類似 ChatGPT 方向的布局
- 訊飛:類ChatGPT技術(shù)將于5月落地
- 王慧文:帶資5000萬刀打造中國版ChatGPT
- 北京市:支持頭部企業(yè)打造對標(biāo)ChatGPT的大模型
人工智能有創(chuàng)造力嗎仰泻?
有一種觀點認(rèn)為,創(chuàng)造力和想象力人工智能目前無沒法超越人類滩届。
但是看了劉潤老師和王建碩老師的直播后,有了一種新的觀點,劉潤老師說浓体,想象力就是舊元素的新組合泡挺,而創(chuàng)造力就是新組合中有價值的部分命浴,而舊元素的新組合娄猫,沒有什么會比計算機實現(xiàn)的更快的了,最笨的辦法生闲,計算機可以快速的用窮舉法全部列舉出來。
創(chuàng)意蝎困,就是舊元素的新組合 ---美國廣告大師詹姆斯·韋伯·揚
未來的交互方式
隨著ChatGPT的推出始藕,以后我們的交互方式可能會從GUI(Graphical User Interface 圖形交互)轉(zhuǎn)變?yōu)镹UI(Natural User Interface 自然交互)或者叫LUI(Language User Interface 自然語言交互),以前都是我們遷就著機器拙已,比如必須點擊這個按鈕才能關(guān)閉頁面;以后可能和機器說句話,他就可以明白我們的意圖嫉到,來遷就我們。
GUI
傳遞介質(zhì):圖形和動畫
操作方式:點擊疫赎、滑動
使用門檻:學(xué)習(xí)操作使用邏輯
反饋方式: 通過文字实牡、圖像等方式,展示固定程序運行邏輯
LUI:
傳遞介質(zhì):自然語言
操作方式:文字闰渔、聲音
使用門檻:會說話就行
反饋方式: 可通過內(nèi)容、語音和語調(diào)等人類的方式根據(jù)場景和上下文生成反饋营曼。
參考文件
ChatGPT幕后:微軟與OpenAI“復(fù)雜的交易”誰是贏家誰是傻瓜辐赞?
微軟向OpenAI砸100億美元响委!巨頭AI大棋下4年,誰是大贏家窖梁?
你的工作可能被ChatGPT取代赘风。但你真的在乎嗎?
ChatGPT吹牛逼大賽纵刘,誰能勝出邀窃?