深度學(xué)習(xí)框架如同智能時代的“發(fā)電機(jī)”椭更,讓人工智能技術(shù)更快速地普及到各行各業(yè),推動融合創(chuàng)新蛾魄,成為智能時代最重要的基礎(chǔ)設(shè)施虑瀑。PaddlePaddle作為目前國內(nèi)唯一功能完備的深度學(xué)習(xí)框架湿滓,經(jīng)過2018年的快速成長,初具模型領(lǐng)先舌狗、性能優(yōu)越叽奥、易學(xué)易用的技術(shù)特色,以及工業(yè)場景下的領(lǐng)先優(yōu)勢痛侍。下面我們來盤點(diǎn)一下PaddlePaddle 2018年的成長之路朝氓。
一、核心發(fā)布
1主届、Paddle Fluid 1.0發(fā)布 —— 核心框架走向成熟
7月4日?Paddle Fluid V0.14.0發(fā)布——提供從數(shù)據(jù)預(yù)處理到模型部署在內(nèi)的深度學(xué)習(xí)全流程的底層能力支持赵哲。官方首次開源CV/NLP/語音/強(qiáng)化學(xué)習(xí)等10個業(yè)界領(lǐng)先的模型。
10月12日?Paddle Fluid V1.0穩(wěn)定版本發(fā)布——提供更穩(wěn)定君丁、向后兼容的API枫夺。易用性大幅提升。提供 Mac OS 下的多種安裝方式绘闷,新增對Python3.5的支持橡庞。并開源8個CV、NLP 方向主流模型印蔗。
11月1日?Paddle Fluid V1.1發(fā)布——支持千億規(guī)模稀疏參數(shù)大規(guī)模多機(jī)異步訓(xùn)練扒最。移動端預(yù)測新增Mali GPU、Adreno GPU喻鳄、FPGA等硬件支持。開源5個推薦領(lǐng)域模型确封,大幅優(yōu)化CV除呵、NLP模型的訓(xùn)練速度和顯存占用。
12月8日?Paddle Fluid V1.2發(fā)布——CPU多機(jī)異步訓(xùn)練升級包括worker異步并發(fā)和IO爪喘、通信優(yōu)化在內(nèi)多項(xiàng)功能颜曾,整體吞吐大幅提升。支持python3.6及以上全版本秉剑。模型庫新增圖像分類任任務(wù)的預(yù)訓(xùn)練模型泛豪、語言模型任務(wù)新增基于cudnn的LSTM實(shí)現(xiàn)、分布式word2vec模型侦鹏。
2诡曙、PaddlePaddle Suite - 技術(shù)全面領(lǐng)先的深度學(xué)習(xí)全功能套件
PaddlePaddle3.0升級為全面的深度學(xué)習(xí)開發(fā)套件,在核心框架基礎(chǔ)上略水,開放VisualDL价卤、PARL、AutoDL渊涝、EasyDL慎璧、AI Studio等一整套的深度學(xué)習(xí)工具組件和服務(wù)平臺床嫌,滿足不同層次的深度學(xué)習(xí)開發(fā)者的開發(fā)需求。具備強(qiáng)大支持工業(yè)級應(yīng)用的能力胸私,已經(jīng)被中國企業(yè)廣泛使用厌处,并擁有活躍的開發(fā)者社區(qū)生態(tài)。
二岁疼、三大技術(shù)特色
1阔涉、深耕工業(yè)場景,打造官方支持模型最多的深度學(xué)習(xí)框架
基于百度多年的工業(yè)應(yīng)用經(jīng)驗(yàn)五续,以及百度生態(tài)伙伴的人工智能解決方案實(shí)踐洒敏,PaddlePaddle為企業(yè)提供44個經(jīng)過工業(yè)場景驗(yàn)證的官方模型,涵蓋視覺疙驾、NLP凶伙、語音和推薦等AI核心技術(shù)領(lǐng)域,成為官方支持模型最多的深度學(xué)習(xí)框架它碎。
基于PaddlePaddle開源多個百度國際競賽獲獎模型:
PyramidBox模型2018年3月在世界最權(quán)威的人臉檢測公開評測集 WIDER FACE的三項(xiàng)評測子集Easy函荣、Medium和Hard中均獲得世界第一。
基于Faster R-CNN的多模型扳肛,在Google AI OpenImages-Object Detection Track比賽中傻挂,從全球450多支參賽隊(duì)伍中脫穎而出,獲得世界第一挖息。
PaddlePaddle強(qiáng)化學(xué)習(xí)框架PARL獲得NeurIPS 2018的強(qiáng)化學(xué)習(xí)賽事AI for Prosthetics Challenge競賽冠軍金拒。
2、源于業(yè)務(wù)實(shí)踐套腹,輸出業(yè)界最強(qiáng)的超大規(guī)模并行深度學(xué)習(xí)能力
基于百度海量規(guī)模的業(yè)務(wù)場景實(shí)踐绪抛,PaddlePaddle同時支持稠密參數(shù)和稀疏參數(shù)場景的超大規(guī)模深度學(xué)習(xí)并行訓(xùn)練,支持千億規(guī)模參數(shù)电禀、數(shù)百個幾點(diǎn)的高效并行訓(xùn)練幢码,提供最為領(lǐng)先的深度學(xué)習(xí)并行技術(shù)。
3尖飞、追求極致性能症副,推出移動端高速推理引擎
Paddle Mobile提供深度學(xué)習(xí)落地嵌入式移動端平臺的能力。針對ARM CPU政基、IOS GPU贞铣、Mali GPU、AdrenoGPU沮明、FPGA咕娄、樹莓派、RK339等多個硬件平臺優(yōu)化珊擂,性能高圣勒、體積小的優(yōu)勢费变。服務(wù)于包括手機(jī)百度、簡單搜索在內(nèi)的多款A(yù)PP圣贸。在手機(jī)端實(shí)現(xiàn)單幀多目標(biāo)檢測耗時60ms以內(nèi)挚歧,主要物體檢測準(zhǔn)確率和召回率均在95%以上。
三吁峻、?? 完善的服務(wù)平臺和配套組件?
1滑负、基于PaddlePaddle的深度強(qiáng)化學(xué)習(xí)框架PARL發(fā)布,奪冠NeurIPS 2018
PARL深度強(qiáng)化學(xué)習(xí)框架用含,具有高可擴(kuò)展性矮慕、可復(fù)現(xiàn)性和可復(fù)用性,強(qiáng)大的大規(guī)模并行化和稀疏特征的支持能力啄骇。覆蓋DQN痴鳄、DDQN、Dueling DQN缸夹、DDPG痪寻、PPO等主流強(qiáng)化學(xué)習(xí)算法。支持百億級別數(shù)據(jù)或特征的訓(xùn)練虽惭,基于PARL可同時通過8塊GPU拉動近20000個CPU節(jié)點(diǎn)運(yùn)算橡类。在NeurIPS 2018賽事中將需要近5個小時迭代一輪的PPO算法加速到不到1分鐘,相對單機(jī)運(yùn)算加速比高達(dá)幾百倍芽唇。
2顾画、讓深度學(xué)習(xí)來設(shè)計(jì)深度學(xué)習(xí),AutoDL2.0設(shè)計(jì)的網(wǎng)絡(luò)超過人類專家
AutoDL 2018年正式發(fā)布V1.0匆笤、V2.0研侣,包含網(wǎng)絡(luò)結(jié)構(gòu)自動化設(shè)計(jì)、遷移小數(shù)據(jù)建模疚膊、適配邊緣計(jì)算三個部分义辕,能夠自動進(jìn)行深度學(xué)習(xí)網(wǎng)絡(luò)的設(shè)計(jì)虾标、遷移寓盗、以及適配,批量化生產(chǎn)模型璧函。在CIFAR 10數(shù)據(jù)集傀蚌,Auto DL 2.0設(shè)計(jì)的圖像分類網(wǎng)絡(luò)正確率達(dá)到 98%,效果全面超過人類專家蘸吓。
3善炫、EasyDL零基礎(chǔ)深度學(xué)習(xí)定制化訓(xùn)練和服務(wù)平臺
EasyDL為零算法基礎(chǔ)的開發(fā)者提供高精度AI模型定制服務(wù)。只需少量數(shù)據(jù)即可得到優(yōu)質(zhì)業(yè)務(wù)模型库继,快速驗(yàn)證應(yīng)用場景箩艺。2018年窜醉,EasyDL從V3.0迭代升級至V5.0,逐步開放并完善定制圖像識別艺谆、聲音分類識別榨惰、文本分類識別等能力,累計(jì)超過2萬個模型在零售静汤、工業(yè)琅催、醫(yī)療、安防等多個行業(yè)中落地應(yīng)用虫给。
4藤抡、AI Studio:一站式深度學(xué)習(xí)開發(fā)實(shí)訓(xùn)平臺
AI Studio作為集合了AI教程、代碼環(huán)境抹估、算法算力和數(shù)據(jù)集的一站式實(shí)訓(xùn)平臺缠黍,旨在幫助用戶快速掌握深度學(xué)習(xí)開發(fā)技能。AI Studio底層預(yù)裝PaddlePaddle框架及VisualDL等深度學(xué)習(xí)組件棋蚌,大大提高開發(fā)者學(xué)習(xí)與開發(fā)的便捷性嫁佳,混合調(diào)度CPU和GPU的資源,提升訓(xùn)練速度谷暮。?已有4萬多位開發(fā)者聚集于此蒿往,一起創(chuàng)建模型、分享經(jīng)驗(yàn)湿弦、參與比賽瓤漏。2019年,AI Studio將進(jìn)一步發(fā)力高校教育颊埃,搭建一站式深度學(xué)習(xí)教學(xué)管理平臺蔬充,為高校開展深度學(xué)習(xí)教學(xué)提供極大便利。
四班利、黃埔學(xué)院 –革新者來
百度聯(lián)合國家深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實(shí)驗(yàn)室共同打造“黃埔學(xué)院”饥漫,我們秉承”服務(wù)于行業(yè),服務(wù)于人才”的標(biāo)準(zhǔn)罗标,項(xiàng)目組通過幾個月的招募與篩選庸队,日日夜夜的評估與努力,最終選出業(yè)內(nèi)35位深度學(xué)習(xí)專家闯割,共同見證黃埔學(xué)院第一期開學(xué)典禮——首席AI架構(gòu)師的課堂彻消。『經(jīng)世致用宙拉,融會貫通宾尚,黃埔學(xué)院,革新者來』谢澈,這十六個字正代表了黃埔學(xué)院的治學(xué)理念以及愿景煌贴。我們希望技術(shù)不停留在實(shí)驗(yàn)室御板,不停留在研究院,而是能真正的走出去牛郑,為這個世界稳吮、這個時代創(chuàng)造實(shí)實(shí)在在的價值。
五井濒、2019灶似,未來可期
2019年,PaddlePaddle將繼續(xù)以優(yōu)化開發(fā)者體驗(yàn)瑞你、節(jié)約開發(fā)者時間為己任酪惭,鞏固技術(shù)領(lǐng)先優(yōu)勢,深入企業(yè)場景者甲,在應(yīng)用落地的各個環(huán)節(jié)提供更便捷春感、更安全、更高效的深度學(xué)習(xí)技術(shù)服務(wù)虏缸。
繼續(xù)降低深度學(xué)習(xí)技術(shù)的應(yīng)用門檻鲫懒,將超大規(guī)模并行深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等業(yè)界領(lǐng)先的技術(shù)打造為人人可用的通用深度學(xué)習(xí)刽辙。
大力發(fā)展企業(yè)生態(tài)窥岩,通過應(yīng)用場景深度對接,為企業(yè)提供快速咨詢通道宰缤、企業(yè)內(nèi)部培訓(xùn)颂翼、專項(xiàng)技術(shù)優(yōu)化、聯(lián)合開發(fā)支持的全方位服務(wù)慨灭。
持續(xù)擴(kuò)大教育生態(tài)朦乏,通過百度產(chǎn)學(xué)合作協(xié)同育人項(xiàng)目、TechDay公開課氧骤、深度學(xué)習(xí)實(shí)戰(zhàn)課呻疹、黃埔學(xué)院等行業(yè)頂級的技術(shù)交流活動,為開發(fā)者提供從深度學(xué)習(xí)入門到企業(yè)應(yīng)用的一站式服務(wù)筹陵。