英偉達(dá)GTC大會(huì)看點(diǎn):Blackwell芯片芥映、推理微服務(wù)NIM洲尊、人形機(jī)器人

北京時(shí)間3月19日,英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛在美國加州圣何塞SAP中心拉開了GTC大會(huì)帷幕屏轰,這是時(shí)隔5年重回線下的會(huì)議颊郎,現(xiàn)場吸引了11000多名與會(huì)者。大會(huì)上黃仁勛演講了長達(dá)120分鐘的主題分享《見證AI的變革時(shí)刻》霎苗,并發(fā)布了最新技術(shù)Blackwell 架構(gòu)姆吭、NIM微服務(wù)、Omniverse Cloud API等唁盏。

1内狸、最新芯片技術(shù)Blackwell

黃仁勛在主題演講中表示,英偉達(dá)將推出用于萬億參數(shù)級(jí)生成式AI的NVIDIA Blackwell架構(gòu)厘擂。搭載Blackwell技術(shù)昆淡,英偉達(dá)將推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的訓(xùn)練刽严、推理效率昂灵。在 FP8 訓(xùn)練方面,Blackwell 的每芯片性能是其前身的 2.5 倍舞萄,在FP4推理方面的性能是其前身的 5 倍眨补。它具有第五代 NVLink互連,速度是 Hopper 的兩倍倒脓,并且可擴(kuò)展至 576個(gè)GPU撑螺。

“加速計(jì)算已經(jīng)達(dá)到臨界點(diǎn)——通用計(jì)算已經(jīng)失去動(dòng)力,我們需要新的計(jì)算方式崎弃,來持續(xù)降低計(jì)算成本甘晤。加速計(jì)算普遍比通用計(jì)算速度更快!” 為了對(duì)全球人工智能基礎(chǔ)設(shè)施進(jìn)行大規(guī)模升級(jí)饲做,黃仁勛推出了 NVIDIA Blackwell平臺(tái)线婚,滿足客戶在萬億參數(shù)大型語言模型上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI。

據(jù)介紹盆均,Blackwell GPU擁有2080億個(gè)晶體管酌伊,而H100/H200有800億個(gè)晶體管,采用臺(tái)積電4NP工藝制程缀踪,可以支持多達(dá)10萬億個(gè)參數(shù)的AI大模型居砖。GB200將兩個(gè)B200 Blackwell GPU與一個(gè)基于Arm的Grace CPU進(jìn)行配對(duì)。

新的芯片架構(gòu)和技術(shù)將極大改善能耗驴娃。黃仁勛舉例稱奏候,如果要訓(xùn)練一個(gè)1.8萬億參數(shù)量的GPT模型,需要8000張Hopper GPU唇敞,消耗15兆瓦的電力蔗草,連續(xù)跑上90天。但如果使用Blackwell GPU疆柔,只需要2000張咒精,跑90天只要消耗4兆瓦的電力。

據(jù)悉旷档,在Blackwell產(chǎn)品正式發(fā)布之前模叙,亞馬遜、微軟鞋屈、谷歌等企業(yè)已經(jīng)準(zhǔn)備使用該產(chǎn)品范咨。英偉達(dá)表示,新芯片預(yù)計(jì)將于今年上市厂庇,但目前還未公布相關(guān)售價(jià)信息渠啊。

02. 推理微服務(wù)NIM:軟件服務(wù)全面升級(jí)

黃仁勛指出,生成式人工智能已經(jīng)徹底改變了軟件開發(fā)的方式权旷,不再是傳統(tǒng)意義上的編程替蛉。此次英偉達(dá)推出了一項(xiàng)全新的推理微服務(wù)NIM,該服務(wù)是通過一種交付快速推理模型的新方法來加速和優(yōu)化生成式AI大語言模型的部署拄氯,用戶可以在這里體驗(yàn)各種AI應(yīng)用躲查,企業(yè)可以在這里創(chuàng)建和部署自定義的AI應(yīng)用。

黃仁勛介紹了英偉達(dá)如何使用NIM創(chuàng)建一個(gè)內(nèi)部聊天機(jī)器人坤邪,旨在解決構(gòu)建芯片時(shí)遇到的常見問題熙含。“我們需要一個(gè)模擬引擎艇纺,以數(shù)字方式為機(jī)器人呈現(xiàn)世界怎静,”他說,這就是 Omniverse黔衡。這些“微服務(wù)”將允許開發(fā)人員使用專有和自定義模型快速創(chuàng)建和部署“副駕駛”或人工智能助手蚓聘。

此外,企業(yè)級(jí)數(shù)字孿生和沉浸式內(nèi)容創(chuàng)建中心Omniverse將在Apple Vision Pro上首次亮相盟劫。通過英偉達(dá)Omniverse的云API和圖形交付網(wǎng)絡(luò) (GDN)夜牡,人們現(xiàn)在將可以輕松將3D應(yīng)用的OpenUSD(交互式通用場景描述)實(shí)時(shí)串流到Vision Pro混合頭顯中。


03.人形機(jī)器人: 下一波AI浪潮

英偉達(dá)發(fā)布了人形機(jī)器人基礎(chǔ)模型“GR00T項(xiàng)目”,這是一款基于英偉達(dá)Jetson嵌入式系統(tǒng)和Isaac Sim機(jī)器人仿真器的機(jī)器人模型塘装。它可以理解自然語言急迂,通過觀察人類動(dòng)作來模擬運(yùn)動(dòng)、學(xué)習(xí)走路蹦肴,還具備了一定的自主導(dǎo)航僚碎、物體識(shí)別和抓取等能力。迪士尼的機(jī)器人也來到大會(huì)現(xiàn)場阴幌,它用的就是英偉達(dá)Jetson芯片勺阐。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市矛双,隨后出現(xiàn)的幾起案子渊抽,更是在濱河造成了極大的恐慌,老刑警劉巖议忽,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件懒闷,死亡現(xiàn)場離奇詭異,居然都是意外死亡徙瓶,警方通過查閱死者的電腦和手機(jī)毛雇,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來侦镇,“玉大人灵疮,你說我怎么就攤上這事】欠保” “怎么了震捣?”我有些...
    開封第一講書人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長闹炉。 經(jīng)常有香客問我蒿赢,道長,這世上最難降的妖魔是什么渣触? 我笑而不...
    開封第一講書人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任羡棵,我火速辦了婚禮,結(jié)果婚禮上嗅钻,老公的妹妹穿的比我還像新娘皂冰。我一直安慰自己,他們只是感情好养篓,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開白布秃流。 她就那樣靜靜地躺著,像睡著了一般柳弄。 火紅的嫁衣襯著肌膚如雪舶胀。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,111評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音嚣伐,去河邊找鬼糖赔。 笑死,一個(gè)胖子當(dāng)著我的面吹牛纤控,可吹牛的內(nèi)容都是我干的挂捻。 我是一名探鬼主播,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼船万,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了骨田?” 一聲冷哼從身側(cè)響起耿导,我...
    開封第一講書人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎态贤,沒想到半個(gè)月后舱呻,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡悠汽,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年箱吕,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片柿冲。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡茬高,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出假抄,到底是詐尸還是另有隱情怎栽,我是刑警寧澤,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布宿饱,位于F島的核電站熏瞄,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏谬以。R本人自食惡果不足惜强饮,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望为黎。 院中可真熱鬧邮丰,春花似錦、人聲如沸碍舍。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽片橡。三九已至妈经,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背吹泡。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來泰國打工骤星, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人爆哑。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓洞难,卻偏偏與公主長得像,于是被迫代替她去往敵國和親揭朝。 傳聞我的和親對(duì)象是個(gè)殘疾皇子队贱,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容