華為昇騰計算產(chǎn)業(yè)解讀

昇騰計算框架

華為從基礎(chǔ)硬件(昇騰系列NPU)出發(fā)衍生出一套和現(xiàn)有的人工智能體系不同的架構(gòu)


昇騰計算架構(gòu)
層級 現(xiàn)行架構(gòu)體系
應(yīng)用 機(jī)器視覺,自然語言處理剔交,語音處理
框架 Pytorch,Tensorflow,MXNet贾漏,Caffe,…… 等基于自動微分的主流深度學(xué)習(xí)框架
基礎(chǔ)軟件 cuDNN(CUDA Deep Nerual Network library)基于CUDA的針對神經(jīng)網(wǎng)絡(luò)的加速庫 CUDA(Compute Unified Device Architecture)基于GPU的計算框架
硬件 GPU(Graph Processing Unit)圖形處理器

昇騰硬件體系

對產(chǎn)品線的個人理解

  • 200系 端用模塊

  • 300系 板卡

  • 500系 邊緣設(shè)備

  • 800系 服務(wù)器

  • 900系 服務(wù)器集群


    昇騰產(chǎn)品線

昇騰基礎(chǔ)軟件

CANN(Compute Architecture for Neural Networks)

CANN是專為深度學(xué)習(xí)設(shè)計的異構(gòu)計算架構(gòu)

  • Driver 實現(xiàn)硬件和操作系統(tǒng)的適配和支持藕筋。

  • 中間層提供基礎(chǔ)的服務(wù)纵散,Runtime提供內(nèi)存管理、算力分配和資源調(diào)動隐圾,內(nèi)置硬件數(shù)字視覺解碼器DVPP和高性能算子庫CANN Lib伍掀,HCCL提供板間以及框間的通信能力

  • 圖引擎是架構(gòu)的核心模塊,實現(xiàn)了大計算圖的拆分暇藏、圖融合蜜笤,最大化芯片算力利用率。

  • 統(tǒng)一編程接口AscendCL 可以實現(xiàn)高效率開發(fā)

CANN

MindSpore

面向全場景的AI計算框架昇思(MindSpore)致力于實現(xiàn)開發(fā)態(tài)友好盐碱、運(yùn)行態(tài)高效把兔、全場景按需協(xié)同三大目標(biāo)

MindSpore特性:

  • 動靜態(tài)圖轉(zhuǎn)換,實現(xiàn)了對靜態(tài)圖和動態(tài)圖的支持瓮顽,可以幫助開發(fā)者提升網(wǎng)絡(luò)調(diào)試調(diào)優(yōu)效率县好,同時獲得訓(xùn)練性能的收益

  • 自動并行,實現(xiàn)自動的數(shù)據(jù)并行和模型并行的混合并行訓(xùn)練暖混,用戶選擇一個性能較優(yōu)的并行切分策略實現(xiàn)大規(guī)模網(wǎng)絡(luò)的線性加速缕贡、自動擴(kuò)展

  • 端邊云協(xié)同,針對“端拣播、邊晾咪、云”全場景提供了一致的開發(fā)和部署能力,以及按需協(xié)同能力

昇騰應(yīng)用

MindX Edge 智能邊緣組件

是一個原生支持邊云協(xié)同的中間件 Agent贮配,可實現(xiàn)快速將云端模型推送至邊緣端部署谍倦,同時將邊緣側(cè)未識別數(shù)據(jù)上傳至云端進(jìn)行增量訓(xùn)練

MindX DL 深度學(xué)習(xí)組件

是以提供參考架構(gòu)的方式供業(yè)界平臺伙伴快速開發(fā)商用版本的深度學(xué)習(xí)系統(tǒng)。MindX DL 通過以增強(qiáng)插件的方式部署在現(xiàn)有集群的控制節(jié)點以支持 NPU 資源的調(diào)度

ModelZoo 模型庫

提供各類訓(xùn)練好的圖像分類牧嫉、推薦排序剂跟、目標(biāo)檢索、自然語言等領(lǐng)域的模型

面向行業(yè)的SDK

是凝聚了行業(yè)知識酣藻,結(jié)合 AI 最佳實踐的軟件開發(fā)套件曹洽,解決訓(xùn)練、數(shù)據(jù)采集辽剧、數(shù)據(jù)預(yù)處理送淆、數(shù)據(jù)增強(qiáng),調(diào)參怕轿,以及各種推理驗證中的痛點

應(yīng)用使能
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末偷崩,一起剝皮案震驚了整個濱河市辟拷,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌阐斜,老刑警劉巖衫冻,帶你破解...
    沈念sama閱讀 218,525評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異谒出,居然都是意外死亡隅俘,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,203評論 3 395
  • 文/潘曉璐 我一進(jìn)店門笤喳,熙熙樓的掌柜王于貴愁眉苦臉地迎上來为居,“玉大人,你說我怎么就攤上這事杀狡∶沙耄” “怎么了?”我有些...
    開封第一講書人閱讀 164,862評論 0 354
  • 文/不壞的土叔 我叫張陵呜象,是天一觀的道長膳凝。 經(jīng)常有香客問我,道長董朝,這世上最難降的妖魔是什么鸠项? 我笑而不...
    開封第一講書人閱讀 58,728評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮子姜,結(jié)果婚禮上祟绊,老公的妹妹穿的比我還像新娘。我一直安慰自己哥捕,他們只是感情好牧抽,可當(dāng)我...
    茶點故事閱讀 67,743評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著遥赚,像睡著了一般扬舒。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上凫佛,一...
    開封第一講書人閱讀 51,590評論 1 305
  • 那天讲坎,我揣著相機(jī)與錄音,去河邊找鬼愧薛。 笑死晨炕,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的毫炉。 我是一名探鬼主播瓮栗,決...
    沈念sama閱讀 40,330評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了费奸?” 一聲冷哼從身側(cè)響起弥激,我...
    開封第一講書人閱讀 39,244評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎愿阐,沒想到半個月后微服,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,693評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡换况,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,885評論 3 336
  • 正文 我和宋清朗相戀三年职辨,在試婚紗的時候發(fā)現(xiàn)自己被綠了盗蟆。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片戈二。...
    茶點故事閱讀 40,001評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖喳资,靈堂內(nèi)的尸體忽然破棺而出觉吭,到底是詐尸還是另有隱情,我是刑警寧澤仆邓,帶...
    沈念sama閱讀 35,723評論 5 346
  • 正文 年R本政府宣布鲜滩,位于F島的核電站,受9級特大地震影響节值,放射性物質(zhì)發(fā)生泄漏徙硅。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,343評論 3 330
  • 文/蒙蒙 一搞疗、第九天 我趴在偏房一處隱蔽的房頂上張望嗓蘑。 院中可真熱鬧,春花似錦匿乃、人聲如沸桩皿。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,919評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽泄隔。三九已至,卻和暖如春宛徊,著一層夾襖步出監(jiān)牢的瞬間佛嬉,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,042評論 1 270
  • 我被黑心中介騙來泰國打工闸天, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留暖呕,地道東北人。 一個月前我還...
    沈念sama閱讀 48,191評論 3 370
  • 正文 我出身青樓号枕,卻偏偏與公主長得像缰揪,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,955評論 2 355

推薦閱讀更多精彩內(nèi)容