12 月 19—20 日，由鵬城實(shí)驗(yàn)室和新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟主辦的“2021 新一代人工智能院士高峰論壇暨啟智開發(fā)者大會(huì)”在深圳舉辦，期間，華為技術(shù)有限公司承辦的新一代人工智能院士高峰論壇昇騰人工智能應(yīng)用專場(chǎng)于 20 日成功舉行。

深耕基礎(chǔ)，厚植技術(shù)。近年來，華為昇騰以“硬件開放、軟件開源、使能伙伴、發(fā)展人才”16 字方針不斷發(fā)展產(chǎn)業(yè)，攜手各行各業(yè)的開發(fā)者們進(jìn)行賦能升級(jí)，助推人工智能的應(yīng)用落地。本次昇騰人工智能應(yīng)用專場(chǎng)，華為更是邀請(qǐng)了多位昇騰技術(shù)專家，從一線的 AI 應(yīng)用挑戰(zhàn)出發(fā)，與開發(fā)者們研討交流，共創(chuàng)機(jī)遇。

與開發(fā)者共成長(zhǎng)，共筑 AI 技術(shù)生態(tài)

會(huì)上，華為昇騰生態(tài)首席專家張存燕以行業(yè)的人才培養(yǎng)為切入點(diǎn)，向大家分享了昇騰面向開發(fā)者們的 offering 發(fā)展戰(zhàn)略，以及面向行業(yè)、高校、初創(chuàng)、個(gè)人不同類型開發(fā)者的權(quán)益和計(jì)劃。張存燕介紹到，華為深耕根技術(shù)，一直致力于打破算力消耗的鴻溝。在昇騰基礎(chǔ)軟硬件平臺(tái)上，昇騰一共打造了技術(shù)和商業(yè)兩個(gè)生態(tài)。技術(shù)生態(tài)為科研機(jī)構(gòu)、高校、企業(yè)、合作伙伴的研發(fā)人員提供技術(shù)支撐，加速科研創(chuàng)新;商業(yè)生態(tài)則注重與合作伙伴一起打造面向各行各業(yè)的解決方案，真正讓 AI 走入到千行百業(yè)，賦能各個(gè)產(chǎn)業(yè)的智能化改造和智能化升級(jí)。

在這兩個(gè)生態(tài)的帶動(dòng)下，昇騰希望打造一個(gè)人工智能的“黑土地”，合力為每位 AI 開發(fā)者及每個(gè)行業(yè)的應(yīng)用開發(fā)者提供強(qiáng)大引擎，共同繁榮國(guó)內(nèi)人工智能產(chǎn)業(yè)新生態(tài)。

構(gòu)筑澎湃 AI 算力，CANN5.0 性能再提升

在洶涌的 AI 時(shí)代浪潮中，人工智能技術(shù)領(lǐng)域無疑面臨著重重困難和挑戰(zhàn)。AI 算力設(shè)施昂貴、專業(yè)人才稀缺，整個(gè)行業(yè)對(duì)計(jì)算效率和編程易用性的訴求愈發(fā)強(qiáng)烈。昇騰 CANN 運(yùn)營(yíng)總監(jiān)田曉亮便從新計(jì)算范式出現(xiàn)、異構(gòu)計(jì)算興起和大集群等行業(yè)新挑戰(zhàn)引導(dǎo)發(fā)問，介紹了 CANN 的基礎(chǔ)架構(gòu)及其適配場(chǎng)景。自 2018 年 CANN1.0 發(fā)布面世，經(jīng)過三年發(fā)展，CANN 在技術(shù)和生態(tài)上都已經(jīng)有了長(zhǎng)足的進(jìn)步。在性能方面，CANN5.0 通過軟硬件結(jié)合優(yōu)化，充分發(fā)揮了昇騰芯片的算力性能。這主要源自于多項(xiàng)關(guān)鍵技術(shù)的突破，如自動(dòng)流水、算子深度融合、自適應(yīng)梯度切分、智能計(jì)算調(diào)優(yōu)帶來的更高效的任務(wù)角度和切分策略。

在發(fā)展過程中，CANN 還非常注重生態(tài)發(fā)展，通過社區(qū)運(yùn)作，CANN 不斷創(chuàng)新優(yōu)化，迭代出了新的產(chǎn)業(yè)、新的軟件。回應(yīng)開發(fā)者訴求、助力解決行業(yè)困境，CANN 未來將持續(xù)在基礎(chǔ)和關(guān)鍵技術(shù)上進(jìn)行突破，“只有基礎(chǔ)打得牢、根扎得深，才會(huì)有人工智能的繁榮發(fā)展”，田曉亮這樣強(qiáng)調(diào)。

全場(chǎng)景 AI 計(jì)算框架，MindSpore 超大模型訓(xùn)練落地實(shí)踐

近段時(shí)間，中文大規(guī)模預(yù)訓(xùn)練語言模型層出不窮，已經(jīng)成長(zhǎng)到僅加載就需要 TB 級(jí)內(nèi)存或顯存的生態(tài)。昇思 MindSpore 架構(gòu)師 ZOMI 醬就針對(duì) MindSpore 超大模型訓(xùn)練的一些關(guān)鍵技術(shù)，進(jìn)行了一些稍為“硬核”的內(nèi)容分享。MindSpore 在 2020 年 3 月份開始開源，到現(xiàn)在的 1.5 版本，總下載量已經(jīng)接近 100 萬。快速部署、靈活調(diào)試，現(xiàn)在的 MindSpore 已經(jīng)能夠支撐像鵬城盤古 NLP、鵬城神農(nóng)氨基酸序列生成、華為云 NLP 模型、紫東太初多模態(tài)模型這樣的千億大模型。對(duì)于大模型面臨的“內(nèi)存、性能、效率、調(diào)優(yōu)”挑戰(zhàn)，MindSpore 則分別對(duì)應(yīng)給出了圖算融合、Scale out、集群調(diào)優(yōu)等解決方案。

講起核心技術(shù)，ZOMI 醬表示，除了通過圖的編譯把多維度并行融合到框架，“多維度混合自動(dòng)并行”是 MindSpore 做得比較好的地方。現(xiàn)今，MindSpore 自動(dòng)并行已經(jīng)實(shí)現(xiàn) 5 維的并行方式，實(shí)現(xiàn)對(duì)超大規(guī)模的分布式訓(xùn)練及超大規(guī)模中文預(yù)訓(xùn)練模型的探索。

MxIndex: 更快、更便捷、更友好的數(shù)據(jù)檢索 SDK

將物理世界中的非結(jié)構(gòu)化數(shù)據(jù)，如圖片、視頻、音頻通過 AI 模型轉(zhuǎn)換為特征，是眾多 AI 業(yè)務(wù)的核心邏輯。昇騰 MindX 技術(shù)專家李明舉在給大家介紹數(shù)據(jù)檢索的 SDK 時(shí)，就用簡(jiǎn)單的語言闡釋了普通開發(fā)者如何用 AI 來解決生活中的問題。讓 AI 從學(xué)術(shù)成果到產(chǎn)業(yè)落地，昇騰 MindX 總結(jié)了三座問題大山——算法開發(fā)難、應(yīng)用開發(fā)難和業(yè)務(wù)部署難，而 MindX 的四個(gè)組件“ MindX DL”“ MindX Edge”“MindX Zoo”和“MindX SDK”則對(duì)應(yīng)這三座大山給出了解決方案。

“大數(shù)據(jù)”“區(qū)塊鏈”“元宇宙”，各行各業(yè)的概念正潛移默化地改變著我們的生活，昇騰 MindX SDK mxIndex 更是將目光聚焦在了非結(jié)構(gòu)化數(shù)據(jù)上。李明舉提到，非結(jié)構(gòu)化數(shù)據(jù)有著非常多潛在的發(fā)展空間，在推薦系統(tǒng)、數(shù)據(jù)挖掘等領(lǐng)域都有良好的發(fā)展前景。但同時(shí)，機(jī)遇與挑戰(zhàn)并存，算法問題常常會(huì)演化成更大的工程問題，如何在如此多的技術(shù)之下去搭建業(yè)務(wù)，mxIndex 在這里給出了答卷。“更快”——帶來更高的 QPS，更大的吞吐量和更大的底庫(kù)數(shù)據(jù)規(guī)模；“更便捷”——昇騰擁有開源中最受歡迎的框架之一，而 mxIndex 在用戶遷移上更是兼具了輕體量與便捷性兩項(xiàng)優(yōu)點(diǎn)；“更友好”——清晰操作、在線交流，在用戶體驗(yàn)上，mxIndex 擁有簡(jiǎn)明的接口定義，豐富詳實(shí)的手冊(cè)和活躍的社區(qū)支持。對(duì)于大規(guī)模特征檢索或聚類的應(yīng)用場(chǎng)景需求，mxIndex 能夠提供極簡(jiǎn)易用、高性能的 API，助力昇騰 AI 處理器賦能各類應(yīng)用。

Sedna，分布式協(xié)同 AI 框架

邊緣 AI 在如今的工業(yè)互聯(lián)網(wǎng)、智慧園區(qū)等場(chǎng)景已有著越來越多的應(yīng)用，但同時(shí)還存在著諸多挑戰(zhàn)，包括軟硬件異構(gòu)、邊緣資源受損、邊緣數(shù)據(jù)異構(gòu)、邊緣小樣本和隱私安全等常見問題。會(huì)上，華為云邊緣云創(chuàng)新 Lab 高級(jí)工程師普杰從應(yīng)用的角度，向開發(fā)者們介紹了華為云在邊緣計(jì)算尤其是邊云協(xié)同 AI 領(lǐng)域的相關(guān)探索。

2018 年，華為云開源了邊緣計(jì)算平臺(tái)項(xiàng)目 KubeEdge。作為業(yè)界首個(gè)云原生的邊緣計(jì)算平臺(tái)，KubeEdge 通過開放的社區(qū)治理連接云原生和邊緣計(jì)算生態(tài)，旨在提供應(yīng)用協(xié)同、資源協(xié)同以及數(shù)據(jù)協(xié)同和設(shè)備協(xié)同的統(tǒng)一標(biāo)準(zhǔn)。

在邊緣計(jì)算場(chǎng)景中，AI 應(yīng)用需要面對(duì)個(gè)性化的邊緣場(chǎng)景，資源碎片化、數(shù)據(jù)異構(gòu)、小樣本、數(shù)據(jù)隱私等問題急需解決。2020 年底，KubeEdge 社區(qū)成立了特別興趣小組 SIG AI，聚焦邊緣 AI 相關(guān)的技術(shù)討論、API 定義、參考架構(gòu)、開源實(shí)現(xiàn)等，使能 AI 應(yīng)用在邊緣更好的運(yùn)行。

2021 年初，華為云進(jìn)一步開源了邊云協(xié)同 AI 框架 Sedna，基于 KubeEdge，實(shí)現(xiàn)邊與云的協(xié)同推理、增量學(xué)習(xí)、終身學(xué)習(xí)、聯(lián)邦學(xué)習(xí)等核心邊緣 AI 能力，能有效提升模型準(zhǔn)確度，降低邊緣資源的消耗，保護(hù)數(shù)據(jù)隱私和安全。

普杰提到，Sedna 不是想做一個(gè) TensorFlow 這樣的框架，而是基于 KubeEdge 提供的邊云協(xié)同的能力，支持現(xiàn)有的 AI 應(yīng)用無縫地下沉到邊緣，降低邊云協(xié)同 AI 應(yīng)用的構(gòu)建和部署成本、提升模型的性能并保護(hù)數(shù)據(jù)隱私。

現(xiàn)場(chǎng)實(shí)操，在線體驗(yàn)昇騰全棧 AI 魔力

當(dāng)天下午，昇騰人工智能應(yīng)用專場(chǎng)進(jìn)行了豐富有趣的案例分享和在線實(shí)驗(yàn)。現(xiàn)場(chǎng)由昇騰 CANN 資深技術(shù)專家毛紅朝、昇騰 MindX 研發(fā)專家陳航、昇思 MindSpore 資深技術(shù)專家 xavier 和昇騰 CANN 資深技術(shù)專家鄭佳帶領(lǐng)，為開發(fā)者們帶來了“基于昇騰 CANN 的 AI 應(yīng)用開發(fā)”、“使用 MindX SDK 開發(fā)智能質(zhì)檢應(yīng)用”、“昇思 MindSpore YOLO 案例開發(fā)到部署介紹”和“基于昇騰 CANN 的模型遷移”四場(chǎng)實(shí)操課程。

共筑 AI 新高地，共贏智能新未來。伴隨著驚喜有趣的現(xiàn)場(chǎng)抽獎(jiǎng)環(huán)節(jié)，開發(fā)者們于實(shí)踐中全方位感受華為面向“端、邊、云”的全場(chǎng)景 AI 基礎(chǔ)設(shè)施方案，在線體驗(yàn)來自昇騰的全棧 AI 魔力。