疫情中的深度學習領域又有大動作。

3月25日下午，曠視科技舉辦線上發(fā)布會，宣布其自主研發(fā)、全員使用的AI生產力套件Brain++的核心深度學習框架——天元（MegEngine）開源。

回溯2017年，AlphaGo與柯潔的圍棋大戰(zhàn)讓人嘆為觀止，也點燃了不少科研人員對AI的研發(fā)熱情，其中，支撐AlphaGo運轉的底層技術框架是谷歌的TensorFlow。但其實，早在2014年，曠視就已經著手開始研發(fā)其深度學習框架MegEngine，在過去5年內，這套深度學習框架被曠視全員使用，也支撐起了整個曠視的科研及產品化進程。

現在，這套深度學習框架終于開源啦！這也是本月繼清華Jittor之后，又一個開源的國產深度學習框架。

作為曠視絕對招牌之一，MegEngine是什么，有何特點？在曠視的發(fā)展歷程中，它做出了哪些貢獻，文摘菌在這里為你一網打盡~

AI時代的三位一體生產力平臺

開源發(fā)布會上，曠視聯合創(chuàng)始人、首席技術官唐文斌用廚房來做比喻，解釋曠視的三位一體生產力平臺——Brain++。

唐文斌介紹道，AI系統(tǒng)存在兩大基礎設施，芯片平臺和AI生產力平臺，后者涉及到數據、算法、算力等多方面問題。

什么是AI生產力平臺，它就像是一道美食，需要原材料、一口好鍋和一灶猛火共同烹飪炒出，以Brain++為例，數據、算法、算力分別就代表了材料、鍋和猛火，今天就是這口“鍋”亮相的時候。

天元MegEngine深度學習框架官方網站：

https://megengine.org.cn/

簡單回想一下人工智能發(fā)展初期，想要訓練出一個AI模型，至少需要一兩個月，而且開發(fā)者要通過手敲代碼完成計算過程，深度學習社區(qū)基本上被TensorFlow和PyTorch壟斷。因此為了快速進行算法實驗，落地實際工業(yè)場景，我們需要的是一個具有高性能、可復用和能靈活迭代的AI算法平臺，要打造這個平臺，就必須從計算性能，平臺易用性，滿足真實業(yè)務場景需求等各個方面進行考量。

曠視Brain++就是這樣的一個系統(tǒng)，天元就是其中核心模塊，唐文斌說，“天元”取圍棋盤上的中心點之意，就是要做到訓練推理一體化、兼容并包、靈活高效。

自2014年研發(fā)，2015年正式投入使用，如今曠視所有產品都使用了天元框架，整個過程可謂是來之不易。

今天天元開源代碼共35萬行，包括78%C++，17%CUDA，5%Python。唐文斌大方地承認道，今天發(fā)布的是Alpha版本，6月份會發(fā)布Beta版本，9月份發(fā)布正式版本。

他也很誠懇地表示，“所有程序員都知道，一個代碼自己用和拿出來和別人分享的差距有多大?！币虼讼Ｍ懈嗳藢@一發(fā)布版本給出批評建議，共建更好的產品。九月份推出正式版本，即日起向企業(yè)開發(fā)。

發(fā)布會上也公布了代碼的托管地址，感興趣的同學不妨一試。

GitHub地址：

https://github.com/MegEngine/MegEngine

訓練和推理一體化，適配不同框架接口

據介紹，天元系統(tǒng)共分為五個層次：計算接口，圖表示、優(yōu)化與翻譯、運行時管理、計算內核。

可以從圖中看到，天元支持Python和C++接口，支持靜態(tài)圖和動態(tài)圖表達，也支持自動求導器、圖優(yōu)化、圖編譯。

傳統(tǒng)的訓練框架和推理框架是分開進行的，也就是說，系統(tǒng)要先經過訓練再接受新的格式，在推理框架上適配不同的場景，但是在兩者轉化過程中會遇到算子無法支持、手工無法優(yōu)化、大量冗余算子等多種問題。

天元系統(tǒng)的訓練和推理是一體的，因此無需進行模型轉換，同時，系統(tǒng)內部內置有模型優(yōu)化，可以有效降低手工優(yōu)化的誤差，精度和速度都能得到保證。

靜態(tài)圖和動態(tài)圖之爭也就是TensorFlow和PyTotch之爭，但是兩種框架真的不得兼得嗎？天元給出的答案是，可以。動靜合一就是天元的做法，從結果上看，使用靜態(tài)圖提速約5%-20%。

在學術界和工業(yè)界都會遇到框架接口不同引起的各種適配問題，天元在此也提出了解決方案，那就是兼容并包。天元采用了Pythonic風格API，可以很自然地被用戶接受，函數的命名也尊重了以往的傳統(tǒng)，可以直接導入PyTotch Module，方便模型復現和實驗。

在生產環(huán)境上，天元也做到了“靈活高效”，不僅在許多算法上都取得了領先的性能，在與其他框架進行對比時速度也完全不輸，同時，天元還關注到了顯存和片上內存的節(jié)省，天元系統(tǒng)在保證不影響速度的前提下實現了20倍以上的內存減少。

三大特點：“訓得好”、“訓得快”、“訓得動”

在發(fā)布會上，曠視首席科學家孫劍表示，“天元就像我們的孩子”，他也就其三大特點進行了介紹，包括框架與算法協同、高效訓練系統(tǒng)、大規(guī)模能力，用大白話來說就是“訓得好”、“訓得快”、“訓得動”。

孫劍表示，由于當前計算平臺的特性差異比較大，無法用一種網絡滿足所有需求。

天元通過快速的算子算法開發(fā)，靈活高效的算子支持，Jit自動算子融合三方面，實現了端上的高性能，在自測和第三方測試中都取得了不錯的成績。目前也已經配備至國產智能手機中，加速手機的智能化。

在介紹第二個優(yōu)點之前，孫劍提到，在計算機視覺挑戰(zhàn)賽COCO中，曠視已經實現了三連冠，能取得這樣的成績，除了優(yōu)秀的研究員、對比賽的理解，曠視天元系統(tǒng)功不可沒。

曠視天元系統(tǒng)能夠通過多機訓練提速16倍，加速了創(chuàng)新周期，并且精度更高，而且也是第一次實現了從框架上支持超大mini-Batch訓練，種種優(yōu)點集中后，研究人員就可以在相同的比賽時間內測試更多的想法。

在Object365之后，孫劍表示，Object365 V2也在今天開放給大家，Object365 V2可以說是世界上最大的物體檢測數據集，配備了365種常見物體，2百萬張圖像，2.8千萬個人工標注，是COCO比賽數據集的16倍大。

面對如此龐大的數據集，孫劍表示，曠視天元完全“訓得動”，高校加速比的多機訓練、底顯存消耗、亞線性顯存節(jié)省技術、MegRay通訊框架、高效數據編碼傳輸，這些特點都使得天元系統(tǒng)能夠訓練出一個精度更高速度更快的模型。

除了上述三個特點，孫劍讓大家試想，1400多名研發(fā)人員共享高效計算資源是怎樣的場景。

他說，共享時每個研發(fā)人員都有一份獨有的交互式訓練模式，能夠讓每個人隨時停下來調試，不僅如此，系統(tǒng)還支持多人同時在線訓練、數據自動預加載，自動閑置資源利用、計算配額管理，這些功能的實現，也都是要得益于曠視Brain++。

對于Brain++，用此前曠視聯合創(chuàng)始人唐文斌的話說就是，Brain++的“目標是讓研發(fā)人員獲得從數據到算法產業(yè)化的綜合技術能力，不用重復造輪子也可以推進AI快速落地。Brain++還引入了AutoML技術，可以讓算法來訓練算法，讓AI來創(chuàng)造AI”。

發(fā)布會上，曠視云服務業(yè)務副總裁趙立威就曠視Brain++進行了更深層的介紹。

具體來說，Brain++的架構分為三部分，核心模塊就是最新開源的深度學習算法開發(fā)框架天元（MegEngine），其次是提供算力調度支持的深度學習云計算平臺MegCompute，以及用于提供數據服務和管理的數據管理平臺MegData。

他說道，AI加速著各行各業(yè)的創(chuàng)新進程，但是在AI具體落地過程中馬太效應還是比較明顯的。其中，以企業(yè)為例，企業(yè)在應用AI時遇到了不少共性問題，比如對數據的利用、數據隱私、模型效果、難以保證使用方法在生產過程中的精度和性能需求等等。

曠視Brain++也正是基于解決這些問題提出，趙立威介紹道，在框架基礎上，曠視研究院提出“三位一體”概念，融合數據和算力平臺，構建出集“算法、數據和算力”于一體的AI生產力套件Brain++，自動化、規(guī)?；?、集約化生產算法，在Brain++的驅動下一一成為現實。

要讓AI真正助力到具體行業(yè)種，去賦能傳統(tǒng)行業(yè)，達到商業(yè)創(chuàng)新的目標，趙立威在最后也向大家分享了三個通過使用曠視Brain++成功的案例，并表示，“你也可以擁有專屬的Brain++平臺”。

在這里，文摘菌也為大家簡單總結一下，Brain++的核心模塊MegEngine，也就是天元系統(tǒng)，是以C++為基礎，和其他框架使用異構架構的框架不同，MegEngine使用了計算圖方式，進行分布式計算更為便捷。同時，MegEngine引入了曠視獨家AutoML技術，訓練一次，就能得到整個模型空間的刻畫，降低了人力成本，也大幅提高開發(fā)效率。

天元系統(tǒng)可實現訓練、部署一體化，能夠支撐大規(guī)模視覺方向的算法研發(fā)，具體又分為計算引擎、運行時管理、編譯和優(yōu)化以及編程和表示四個方面。

本次發(fā)布會上，眾多AI界大咖也紛紛送上祝福，中國工程院院士高文表示，深度學習是目前AI能夠掀起全球科研熱潮的重要原因之一，而另一個則是采取了開源開放的措施，曠視這次的開源是“一件值得祝賀的事”，也是“一件重要的事”。

中國科學院院士姚期智也表示，AI現在的地位就和過去數學和物理的地位很像，如何發(fā)展AI，這需要從兩個角度考慮，一個是人才培養(yǎng)，一個是研究創(chuàng)新，其中，前者呼吁具有豐富交叉學科背景的人才，清華也在重點培養(yǎng)，包括開設智班和姚班，以及編纂AI教材，后者則需要產學研的結合，曠視Brain++正是工程化的代表。

國產深度學習框架百花齊放！清華開源首個國內高校自研的深度學習框架Jittor

先于曠視，3月20日，清華大學開發(fā)了名為Jittor的深度學習框架，這是首個國內高校自研的深度學習框架，這一框架的開源有望為深度學習社區(qū)提供新方案，推動深度學習框架國產化。

根據官網介紹，Jittor是一個用元算子表達神經網絡計算單元，并且完全基于動態(tài)編譯的深度學習框架。根據官網的定義，“研究團隊將神經網絡所需的基本算子定義為元算子”，而Jittor的主要特性正是元算子和統(tǒng)一計算圖。

元算子非常底層，通過相互融合可以完成復雜的深度學習計算，體現出了易于使用的特點。研發(fā)團隊表示，采用元算子的Jittor目前已經超越了Numpy，可以完成更復雜高效的操作。

在統(tǒng)一計算圖方面，Jittor融合了靜態(tài)計算圖和動態(tài)計算圖的優(yōu)點，在易于使用的同時，提供了高性能的優(yōu)化?；谠阕娱_發(fā)的深度學習模型，可以被Jittor實時自動優(yōu)化，并且運行在指定如CPU、GPU的硬件上。

Jittor官網：

https://cg.cs.tsinghua.edu.cn/jittor/

GitHub地址：

https://github.com/Jittor/jittor

在設計理念上，Jittor保持著易用、靈活和及時的特點：

易用且可定制：用戶只需要數行代碼，就可定義新的算子和模型，在易用的同時，不喪失任何可定制性；

實現與優(yōu)化分離：用戶可以通過前端接口專注于實現，而實現自動被后端優(yōu)化，從而提升前端代碼的可讀性，以及后端優(yōu)化的魯棒性和可重用性；

所有都是即時的：Jittor的所有代碼都是即時編譯并且運行的，包括Jittor本身。用戶可以隨時對Jittor的所有代碼進行修改，并且動態(tài)運行。

具體來說，Jittor的7大新特點值得關注：

最近清華、曠視相繼開源深度學習框架，再加上更早的開源百度PaddlePaddle，而據了解，華為也即將開源自己的深度學習框架，國產深度學習框架正在迎來發(fā)展高速期，希望借著這股東風，能夠激發(fā)更多的人對AI領域的興趣，參與到國產AI的建設中。