淺談ChatGPT

什么是ChatGPT

示例

首先我們來先看兩張圖


大象裝冰箱.png

大象裝冰箱灵疮,說明chatGPT能理解這個笑話东臀,并且還是正能量的赋朦,提示把大象裝進(jìn)冰箱是不道德诅愚,殘忍的。


狗為什么叫三萬.png

狗為什么叫三萬裕膀,說明chatGPT對上下文的理解能力非常強员串。

OpenAI

在正式介紹ChatGPT產(chǎn)品之前,我們先來介紹一下他的公司--OpenAI昼扛。
OpenAI 是2015年由Sam Altman 和馬斯克(2018年退出了OpenAI)等人成立的一個非營利性的研究機構(gòu)和技術(shù)公司寸齐,,其致力于推進(jìn)人工智能技術(shù)的發(fā)展讓其造福于人類抄谐。

非營利性的研究機構(gòu)是指即使盈利了渺鹦,股東們也不能將盈利的錢進(jìn)行分配,只能將盈利繼續(xù)投入研發(fā)中蛹含;由于AI非常燒錢毅厚,而非營利機構(gòu)又很難獲得大量的資金捐贈,所以O(shè)penAI成立了一個營利的子公司浦箱;這個營利是有上限的吸耿,投資利潤不超過投資額的100倍;
之后酷窥,微軟分別投資OpenAI 10億咽安、20億、100億美元蓬推,微軟會獲得一定比例的股份妆棒,同事?lián)碛袃?yōu)先使用OpenAI產(chǎn)品的權(quán)利,若OpenAI盈利,則優(yōu)先按一定比例給微軟回報糕珊,直到得到約定的回報后动分,微軟需將股份重新還給OpenAI的非營利基金會。
這個投資結(jié)構(gòu)也是前所未有的红选。


ChatGPT簡介

ChatGPT是基于GPT模型的聊天機器人澜公,由OpenAI開發(fā)。它能夠進(jìn)行自然語言交互纠脾,回答用戶提出的問題玛瘸、生成自然語言文本等,已應(yīng)用于多種場景中苟蹈,例如客戶服務(wù)糊渊、教育、娛樂等慧脱。
ChatGPT利用大規(guī)模數(shù)據(jù)集進(jìn)行預(yù)訓(xùn)練渺绒,能夠?qū)ψ匀徽Z言進(jìn)行深入理解,提供高質(zhì)量的自然語言交互服務(wù)菱鸥。但它也存在一些局限性宗兼,例如僅能基于已有的知識庫和經(jīng)驗生成回答,需要在使用時進(jìn)行謹(jǐn)慎考慮和監(jiān)督氮采。

這是我問ChatGPT殷绍,他給的答案。說明我們可以利用他去學(xué)習(xí)和了解一些東西鹊漠。
而其中GPT模型是其中的技術(shù)核心主到,GPT是Generative Pre-trained Transformer的縮寫,意思為 生成式預(yù)訓(xùn)練Transformer躯概,Transformer我們放到后面去解釋登钥,暫且給他翻譯成變形金剛。

ChatGPT 是用戶破億最快的產(chǎn)品娶靡。

過億時間(月).png

為什么ChatGPT這么智能

都說之前的AI是人工智障牧牢,那么為什么到了ChatGPT他變成了人工智能了呢?

技術(shù)-GPT

注意變形金剛要變大

  • 2018年GPT-1模型擁有1.17億個參數(shù)
  • 2019年GPT-2模型擁有15億個參數(shù)
  • 2020年GPT-3模型擁有1750億個參數(shù)
    現(xiàn)在ChatGPT就是在GPT-3模型基礎(chǔ)上進(jìn)行了微調(diào)姿锭,普遍認(rèn)為是GPT-3.5模型塔鳍,而在ChatGPT之前,人類歷史上最大的 AI 語言模型呻此,是170 億個參數(shù)轮纫,據(jù)說GPT-4模型會比GPT-3參數(shù)還要多很多倍,大家認(rèn)為在GPT-4的時候趾诗,AI會通過圖靈測試 。

參數(shù)是個什么概念呢,用我們的手機舉例恃泪,可能我們告訴電腦長郑兴、寬、高參數(shù)贝乎,則電腦只能判斷出來他是個長方體情连,當(dāng)我們再告訴電腦顏色參數(shù),則電腦就會知道他是一個什么顏色的長方體览效,當(dāng)參數(shù)增多却舀,電腦就能判斷出來這個是否是手機了。
人類大概有1000多億個神經(jīng)元锤灿,狗大概有6億個神經(jīng)元挽拔,從某種角度說,可能人類進(jìn)化的過程中但校,由于神經(jīng)元的數(shù)量增多螃诅,自然而然的形成了智人;AI在參數(shù)也達(dá)到了了一定數(shù)量后状囱,開始變得智能术裸。

變形金剛變大.png

“注意”

那么注意變形金剛要變大里的”注意”指的是什么呢?首先我們需要來解釋一下Transformer亭枷。
Transformer是谷歌2017年提出的袭艺,一種基于注意力機制的神經(jīng)網(wǎng)絡(luò)架構(gòu)。并廣泛用于自然語言處理(NLP)領(lǐng)域的各種任務(wù)叨粘,如語言建模猾编、翻譯、問答和摘要等宣鄙。

神經(jīng)網(wǎng)絡(luò)大家或多或少都應(yīng)該知道一些袍镀,他是模擬人腦神經(jīng)系統(tǒng)的結(jié)構(gòu),由多個相互連接的神經(jīng)元組成冻晤。
我們來重點說一下注意力機制是什么
我們來用一個例子簡單說明一下

當(dāng)成人看一顆大樹時苇羡,我們可能會忽略掉一些細(xì)枝末節(jié),只看到一個樹干鼻弧,就知道他是一棵大樹设江。因為我們的注意力在大樹上,忽略到細(xì)枝末節(jié)并不影響我們知道他是一顆大樹攘轩。


成人的大樹.png

當(dāng)小孩子看到一顆大樹時叉存,可能不光看到了大樹,甚至還看到了上面的鳥窩度帮。因為小孩子對所看到的的畫面上每個像素的注意力都是相等的歼捏,所以他能看到樹上的鳥窩稿存。


小孩子的大樹.png

所以注意力是可以通過后天的培養(yǎng)的。通過這個Transformer架構(gòu)可以讓AI更好地理解我們說的話瞳秽。


成本

大概可以分為“交給機房”(算力和數(shù)據(jù))的錢--4. 16 億美金瓣履,折合人民幣約28億元,和“交給人”(工程師练俐、專家等)的錢--8000 多萬美金袖迎,折合人民幣約5億元。
1750億個參數(shù)修改后的訓(xùn)練成本是百萬甚至千萬美元腺晾。

1. 據(jù)摩根士丹利估計燕锥,ChatGPT每回復(fù)一次的成本,大約是Google傳統(tǒng)搜索查詢成本的7倍悯蝉。
2. 據(jù)美國《財富》雜志報道归形,2022年OpenAI公司凈虧損總額為5.45億美元,折合人民幣約37億元泉粉。
成本--錢.png

總結(jié)

為什么ChatGPT這么智能

  • 模型參數(shù)數(shù)量變
  • 投入資金額度變
    總體來說连霉,ChatGPT就是一個 大力出奇跡 的結(jié)果
大力出奇跡.png

ChatGPT發(fā)展現(xiàn)狀

不能做什么

  • 數(shù)學(xué)能力差,計算器計算6543*3456=22612608嗡靡,而ChatGPT計算每次都會不一樣
  • 內(nèi)容不是實時的跺撼,學(xué)習(xí)的內(nèi)容只到2021年9月
  • 一本正經(jīng)的胡說
林黛玉倒拔垂楊柳.png

能做什么

  • 回答問題:ChatGPT可以回答各種各樣的問題,包括一般性的知識問答讨彼、實用技巧歉井、娛樂休閑等等。
  • 生成文本:ChatGPT可以根據(jù)給定的話題或者問題生成相應(yīng)的文本哈误,比如文章哩至、詩歌、小說等等蜜自。
  • 對話交互:ChatGPT可以與用戶進(jìn)行自然的對話菩貌,幫助用戶解答問題、獲取信息重荠、進(jìn)行娛樂等等箭阶。
  • 語言翻譯:ChatGPT可以進(jìn)行多語言之間的翻譯,包括文本翻譯和語音翻譯戈鲁。

ChatGPT+

重要性不亞于互聯(lián)網(wǎng)的發(fā)明仇参,將改變我們的世界。---比爾·蓋茨

ChatGPT相當(dāng)于互聯(lián)網(wǎng)上的瀏覽器婆殿,或者iPhone的誕生诈乒,我們要做的應(yīng)該是基于瀏覽器的網(wǎng)站或者手機的APP。
對于個人來說婆芦,ChatGPT是我們的工具怕磨,可以讓他來編寫一個復(fù)雜的sql喂饥,可以讓他幫著理解某一段話的含義等等。


國內(nèi)現(xiàn)狀

  • 復(fù)旦大學(xué):2月20日發(fā)布國內(nèi)第一個對話式大型語言模型MOSS--百億參數(shù) https://moss.fastnlp.top/
  • 百度:將于3月推出類似ChatGPT的聊天機器人
  • 昆侖萬維:今年內(nèi)發(fā)布中國版類ChatGPT代碼開源
  • 360:計劃推出類ChatGPT技術(shù)的demo版產(chǎn)品
  • 水滴:公司內(nèi)部已經(jīng)開展類ChatGPT應(yīng)用測試
  • 阿里:正研發(fā)類ChatGPT產(chǎn)品肠鲫,目前正內(nèi)測
  • 華為:在類似 ChatGPT 方向的布局
  • 訊飛:類ChatGPT技術(shù)將于5月落地
  • 王慧文:帶資5000萬刀打造中國版ChatGPT
  • 北京市:支持頭部企業(yè)打造對標(biāo)ChatGPT的大模型

人工智能有創(chuàng)造力嗎仰泻?

有一種觀點認(rèn)為,創(chuàng)造力和想象力人工智能目前無沒法超越人類滩届。
但是看了劉潤老師和王建碩老師的直播后,有了一種新的觀點,劉潤老師說浓体,想象力就是舊元素的新組合泡挺,而創(chuàng)造力就是新組合中有價值的部分命浴,而舊元素的新組合娄猫,沒有什么會比計算機實現(xiàn)的更快的了,最笨的辦法生闲,計算機可以快速的用窮舉法全部列舉出來。

創(chuàng)意蝎困,就是舊元素的新組合  ---美國廣告大師詹姆斯·韋伯·揚

未來的交互方式

隨著ChatGPT的推出始藕,以后我們的交互方式可能會從GUI(Graphical User Interface 圖形交互)轉(zhuǎn)變?yōu)镹UI(Natural User Interface 自然交互)或者叫LUI(Language User Interface 自然語言交互),以前都是我們遷就著機器拙已,比如必須點擊這個按鈕才能關(guān)閉頁面;以后可能和機器說句話,他就可以明白我們的意圖嫉到,來遷就我們。

GUI
傳遞介質(zhì):圖形和動畫
操作方式:點擊疫赎、滑動
使用門檻:學(xué)習(xí)操作使用邏輯
反饋方式: 通過文字实牡、圖像等方式,展示固定程序運行邏輯

LUI:
傳遞介質(zhì):自然語言
操作方式:文字闰渔、聲音
使用門檻:會說話就行
反饋方式: 可通過內(nèi)容、語音和語調(diào)等人類的方式根據(jù)場景和上下文生成反饋营曼。

參考文件

ChatGPT幕后:微軟與OpenAI“復(fù)雜的交易”誰是贏家誰是傻瓜辐赞?
微軟向OpenAI砸100億美元响委!巨頭AI大棋下4年,誰是大贏家窖梁?
你的工作可能被ChatGPT取代赘风。但你真的在乎嗎?
ChatGPT吹牛逼大賽纵刘,誰能勝出邀窃?

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市假哎,隨后出現(xiàn)的幾起案子瞬捕,更是在濱河造成了極大的恐慌,老刑警劉巖舵抹,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肪虎,死亡現(xiàn)場離奇詭異,居然都是意外死亡惧蛹,警方通過查閱死者的電腦和手機扇救,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來香嗓,“玉大人迅腔,你說我怎么就攤上這事】坑椋” “怎么了沧烈?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長像云。 經(jīng)常有香客問我掺出,道長徽千,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任汤锨,我火速辦了婚禮双抽,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘闲礼。我一直安慰自己牍汹,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布柬泽。 她就那樣靜靜地躺著慎菲,像睡著了一般。 火紅的嫁衣襯著肌膚如雪锨并。 梳的紋絲不亂的頭發(fā)上露该,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天,我揣著相機與錄音第煮,去河邊找鬼解幼。 笑死,一個胖子當(dāng)著我的面吹牛包警,可吹牛的內(nèi)容都是我干的撵摆。 我是一名探鬼主播,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼害晦,長吁一口氣:“原來是場噩夢啊……” “哼特铝!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起壹瘟,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤鲫剿,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后稻轨,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體牵素,經(jīng)...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年澄者,在試婚紗的時候發(fā)現(xiàn)自己被綠了笆呆。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡粱挡,死狀恐怖赠幕,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情询筏,我是刑警寧澤榕堰,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響逆屡,放射性物質(zhì)發(fā)生泄漏圾旨。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一魏蔗、第九天 我趴在偏房一處隱蔽的房頂上張望砍的。 院中可真熱鬧,春花似錦莺治、人聲如沸廓鞠。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽床佳。三九已至,卻和暖如春榄审,著一層夾襖步出監(jiān)牢的瞬間砌们,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工搁进, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留浪感,地道東北人。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓拷获,卻偏偏與公主長得像,于是被迫代替她去往敵國和親减细。 傳聞我的和親對象是個殘疾皇子匆瓜,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內(nèi)容