北京時(shí)間3月19日,英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛在美國加州圣何塞SAP中心拉開了GTC大會(huì)帷幕屏轰,這是時(shí)隔5年重回線下的會(huì)議颊郎,現(xiàn)場吸引了11000多名與會(huì)者。大會(huì)上黃仁勛演講了長達(dá)120分鐘的主題分享《見證AI的變革時(shí)刻》霎苗,并發(fā)布了最新技術(shù)Blackwell 架構(gòu)姆吭、NIM微服務(wù)、Omniverse Cloud API等唁盏。
1内狸、最新芯片技術(shù)Blackwell
黃仁勛在主題演講中表示,英偉達(dá)將推出用于萬億參數(shù)級(jí)生成式AI的NVIDIA Blackwell架構(gòu)厘擂。搭載Blackwell技術(shù)昆淡,英偉達(dá)將推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的訓(xùn)練刽严、推理效率昂灵。在 FP8 訓(xùn)練方面,Blackwell 的每芯片性能是其前身的 2.5 倍舞萄,在FP4推理方面的性能是其前身的 5 倍眨补。它具有第五代 NVLink互連,速度是 Hopper 的兩倍倒脓,并且可擴(kuò)展至 576個(gè)GPU撑螺。
“加速計(jì)算已經(jīng)達(dá)到臨界點(diǎn)——通用計(jì)算已經(jīng)失去動(dòng)力,我們需要新的計(jì)算方式崎弃,來持續(xù)降低計(jì)算成本甘晤。加速計(jì)算普遍比通用計(jì)算速度更快!” 為了對(duì)全球人工智能基礎(chǔ)設(shè)施進(jìn)行大規(guī)模升級(jí)饲做,黃仁勛推出了 NVIDIA Blackwell平臺(tái)线婚,滿足客戶在萬億參數(shù)大型語言模型上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI。
據(jù)介紹盆均,Blackwell GPU擁有2080億個(gè)晶體管酌伊,而H100/H200有800億個(gè)晶體管,采用臺(tái)積電4NP工藝制程缀踪,可以支持多達(dá)10萬億個(gè)參數(shù)的AI大模型居砖。GB200將兩個(gè)B200 Blackwell GPU與一個(gè)基于Arm的Grace CPU進(jìn)行配對(duì)。
新的芯片架構(gòu)和技術(shù)將極大改善能耗驴娃。黃仁勛舉例稱奏候,如果要訓(xùn)練一個(gè)1.8萬億參數(shù)量的GPT模型,需要8000張Hopper GPU唇敞,消耗15兆瓦的電力蔗草,連續(xù)跑上90天。但如果使用Blackwell GPU疆柔,只需要2000張咒精,跑90天只要消耗4兆瓦的電力。
據(jù)悉旷档,在Blackwell產(chǎn)品正式發(fā)布之前模叙,亞馬遜、微軟鞋屈、谷歌等企業(yè)已經(jīng)準(zhǔn)備使用該產(chǎn)品范咨。英偉達(dá)表示,新芯片預(yù)計(jì)將于今年上市厂庇,但目前還未公布相關(guān)售價(jià)信息渠啊。
02. 推理微服務(wù)NIM:軟件服務(wù)全面升級(jí)
黃仁勛指出,生成式人工智能已經(jīng)徹底改變了軟件開發(fā)的方式权旷,不再是傳統(tǒng)意義上的編程替蛉。此次英偉達(dá)推出了一項(xiàng)全新的推理微服務(wù)NIM,該服務(wù)是通過一種交付快速推理模型的新方法來加速和優(yōu)化生成式AI大語言模型的部署拄氯,用戶可以在這里體驗(yàn)各種AI應(yīng)用躲查,企業(yè)可以在這里創(chuàng)建和部署自定義的AI應(yīng)用。
黃仁勛介紹了英偉達(dá)如何使用NIM創(chuàng)建一個(gè)內(nèi)部聊天機(jī)器人坤邪,旨在解決構(gòu)建芯片時(shí)遇到的常見問題熙含。“我們需要一個(gè)模擬引擎艇纺,以數(shù)字方式為機(jī)器人呈現(xiàn)世界怎静,”他說,這就是 Omniverse黔衡。這些“微服務(wù)”將允許開發(fā)人員使用專有和自定義模型快速創(chuàng)建和部署“副駕駛”或人工智能助手蚓聘。
此外,企業(yè)級(jí)數(shù)字孿生和沉浸式內(nèi)容創(chuàng)建中心Omniverse將在Apple Vision Pro上首次亮相盟劫。通過英偉達(dá)Omniverse的云API和圖形交付網(wǎng)絡(luò) (GDN)夜牡,人們現(xiàn)在將可以輕松將3D應(yīng)用的OpenUSD(交互式通用場景描述)實(shí)時(shí)串流到Vision Pro混合頭顯中。
03.人形機(jī)器人: 下一波AI浪潮
英偉達(dá)發(fā)布了人形機(jī)器人基礎(chǔ)模型“GR00T項(xiàng)目”,這是一款基于英偉達(dá)Jetson嵌入式系統(tǒng)和Isaac Sim機(jī)器人仿真器的機(jī)器人模型塘装。它可以理解自然語言急迂,通過觀察人類動(dòng)作來模擬運(yùn)動(dòng)、學(xué)習(xí)走路蹦肴,還具備了一定的自主導(dǎo)航僚碎、物體識(shí)別和抓取等能力。迪士尼的機(jī)器人也來到大會(huì)現(xiàn)場阴幌,它用的就是英偉達(dá)Jetson芯片勺阐。