憶往昔
憶往昔崢嶸歲月稠，還記得第一次接觸昇騰，當時開發(fā)用的還是HIAI即横，一轉眼已經(jīng)到CANN 6.0了币叹，更加簡單易用，支持的功能也越來越多了，一次開發(fā)，全面部署實用性更強了。而我個人也在硬件設備和軟件的不斷升級慢慢成長了可都。
還記得當時第一次見到Atlas 200 DK開發(fā)者套件，簡約而經(jīng)典的黑紅色設計讓我覺得低調(diào)而不失科技感蚓耽，第一次拆開外殼看到電路板渠牲，感嘆這塊小小的硬件有如此強大的算力，能完成如此復雜的計算步悠。
接下來就是制卡签杈、配置環(huán)境、運行官方樣例鼎兽、學習官方樣例答姥、做自己想要的應用開發(fā)。在這個過程中谚咬，遇到了很多問題鹦付，適逢當時昇騰AI處理器發(fā)布不久，相關資料不是很全择卦，我就到論壇提問敲长，查文檔郎嫁，一點點地去解決一個個問題。在這個時候祈噪，我就想如果能有一個經(jīng)驗豐富的人引導和幫助我學就好了泽铛。后來了解到昇騰開發(fā)者社區(qū)的在線課程和實驗，也幫助了我不少辑鲤。但是這是單向的輸出盔腔，缺少互動和交流，遇到問題無法及時詢問遂填。如果能像在學校課堂那樣應該會更好铲觉。
很有意思的是，這個時候在昇騰社區(qū)看到了CANN訓練營活動吓坚，CANN訓練營旨在為開發(fā)者提供高質(zhì)量AI學習課程、開發(fā)環(huán)境和免費算力灯荧，助力開發(fā)者從0基礎學習到AI技術落地礁击，參營還有機會可以獲得昇騰算力體驗券、多重獎品逗载、結業(yè)證書等多重獎勵哆窿。此外，訓練營會有華為昇騰的工程師來講解厉斟，這點很吸引我挚躯，工作在開發(fā)一線的工程師對開發(fā)會有很深的理解和更豐富的經(jīng)驗，特別是一些我平時很難注意到的細節(jié)部分擦秽。
以模型遷移為例码荔，我之前剛好做了一些基于TensorFlow框架的模型在Ascend 910上的遷移和調(diào)優(yōu)，正好有些疑問感挥。我在做遷移和調(diào)優(yōu)的過程中缩搅，發(fā)現(xiàn)缺乏對遷移以及調(diào)優(yōu)，特別是性能調(diào)優(yōu)的系統(tǒng)認識触幼。此外硼瓣，我覺得需要充分了解CANN提供的調(diào)優(yōu)工具和對Ascend 910處理器的達芬奇架構。而在課程中置谦，老師的講解則解決了我很多的疑問堂鲤。比如浮點異常檢測中如何通過溢出文件定位溢出算子，老師還根據(jù)經(jīng)驗媒峡，指出Conv2D算子一般不用管瘟栖，這些都是比較細節(jié)但是很重要的部分。令我印象深刻的還有性能優(yōu)化部分關于硬件的部分丝蹭，比如SATA和NVMe兩種規(guī)格混合劃分會導致讀寫性能惡化慢宗、x86和ARM差異會影響CPU調(diào)度坪蚁，而一般涉及數(shù)據(jù)預處理的流程是：HOST內(nèi)存讀出 -> 訓練數(shù)據(jù)處理 -> DEVICE內(nèi)存讀出，硬盤和CPU架構可能會對這部分性能有較大影響镜沽，而這些硬件的差異敏晤，我之前是沒有考慮到的，通過課程的學習缅茉，很好地給我提醒了一下嘴脾。這也讓我認識到性能調(diào)優(yōu)是很復雜的，涉及硬件和軟件的聯(lián)合調(diào)試蔬墩，需要盡可能根據(jù)硬件特性來做出更適合該硬件計算的操作译打，與硬件息息相關。課程的學習使我受益匪淺拇颅，這也為我在第四屆中國軟件開源創(chuàng)新大賽任務挑戰(zhàn)賽道取得一等獎提供了支持奏司。
而在本季的訓練營進階班模型課程中，會介紹基于昇騰PyTorch框架的模型訓練調(diào)優(yōu)樟插，感興趣的同學可以去學習一下韵洋。而如果你沒接觸過昇騰或CANN，也別擔心黄锤，可以來參加我們的新手班搪缨，在這里，我們不僅會了解昇騰和CANN鸵熟，還會和大家一起用起來副编，我們在新手班會簡單介紹將PyTorch框架模型遷移到昇騰AI硬件的流程，會重點學習如何基于訓練好的模型在昇騰AI硬件上進行圖片分類等AI應用開發(fā)流强，切身體驗下AI應用開發(fā)的過程痹届。課程內(nèi)容大體如下：
首先，帶大家了解華為的全棧全場景AI解決方案煮盼，重點關注昇騰AI處理器和CANN短纵，如果能對CANN的邏輯框架能夠有認識就更好了。
其次僵控，就是要學會用CANN香到，發(fā)揮昇騰AI處理器的強大性能。這里的昇騰AI處理器包括Ascend 910和Ascend 310（昇騰AI處理器還有其他型號报破，這里我們不會涉及悠就，感興趣的同學可以到昇騰社區(qū)查看更為詳細的內(nèi)容），前者用于訓練充易，后者用于推理梗脾。我們都會有所涉及，這里就看大家的興趣了盹靴，是對訓練感興趣炸茧，還是對推理感興趣瑞妇。因為我更對部署應用感興趣，覺得應用會離我們的生活更近些梭冠，很可能會應用到我們的生活中辕狰，所以更推薦大家搞搞應用。
最后控漠，就是期待大家能在學習中蔓倍，遇到問題，能積極主動去定位問題盐捷，明確問題偶翅，并解決問題，這是比較重要的能力碉渡。通過各種方式聚谁，或查看文檔，或到論壇提問滞诺，當然垦巴，我也會盡可能幫助大家解決問題的。
期待能和大家一起學習铭段，一起進步，祝大家在本季訓練營能學有所獲秦爆。
