Open AI Lab：端側(cè)AI計算在嵌入式場景下的三大趨勢

圖：Open AI LAB 產(chǎn)品經(jīng)理彭月濤

Open AI Lab產(chǎn)品經(jīng)理彭月濤首先介紹了公司的定位和聚焦方向，開放智能機器（上海）有限公司，簡稱OPEN AI LAB，由Arm生態(tài)加速器安創(chuàng)空間、全志科技、地平線機器人于2016年12月發(fā)起成立。業(yè)務(wù)模式聚焦AI產(chǎn)業(yè)化，基于AI落地為目的，探討AI技術(shù)在嵌入式落地的問題。

當(dāng)前AI應(yīng)用普及化的路上有三大痛點：一是云端部署和運營成本過高：視頻處理要求帶寬大和時延低、GPU和存儲陣列昂貴且功耗高，AI系統(tǒng)趨勢是大量AI計算需要向前端本地化遷移，云邊端分布計算；二是前端算力弱、方案性能差：當(dāng)前移動計算芯片跑NN太慢、市場上缺性價比高的邊緣AI芯片，OPEN AI LAB提供的高效方式是充分挖掘現(xiàn)有硬件(芯片/模組)AI潛力，保護既有投資；三是算法開發(fā)適配難、效率低：終端芯片沒有統(tǒng)一高效的算力平臺、算法開發(fā)者無法適配硬件差異，OPEN AI LAB推出分工協(xié)作模式，算法開發(fā)者無須精通硬件，系統(tǒng)集成商可自由挑選算法。

OPEN AI LAB將解決這三大痛點視為其核心價值。彭月濤表示，嵌入式AI呈現(xiàn)三大趨勢：第一、邊緣計算，數(shù)據(jù)從云向端側(cè)遷移，端云結(jié)合。云端算力需要解決帶寬問題，第二、嵌入式端側(cè)，需要做低時延、實時性的數(shù)據(jù)處理，進行推理，產(chǎn)生高質(zhì)量的信息；第三、嵌入式AI產(chǎn)品全面滲透金融、醫(yī)療、安防、零售、制造業(yè)、以及家庭等行業(yè)，在物聯(lián)網(wǎng)領(lǐng)域的智能終端，如無人機、可穿戴設(shè)備、智能電視、智能攝像頭等都有典型的應(yīng)用。

目前，OPEN AI LAB為ARM生態(tài)開發(fā)者提供的重要的設(shè)計平臺和工具主要有三塊：EAIDK是全球首個采用Arm架構(gòu)的人工智能開發(fā)平臺，專為 AI 開發(fā)者精心打造，面向邊緣計算的人工智能開發(fā)套件；Tengine是一款輕量級模塊化高性能的神經(jīng)網(wǎng)絡(luò)推理引擎，專門針對Arm嵌入式設(shè)備優(yōu)化；Tengine-Lite是近期推出的，專為MCU設(shè)計的超輕量級AI推理框架，它能夠適用于極端苛刻的MCU嵌入式開發(fā)環(huán)境。

在嵌入式AI開發(fā)平臺，Open AI Lab可以做到：

1、和SoC廠家合作直接合作，以工業(yè)產(chǎn)品品質(zhì)實施軟、硬件平臺開發(fā)。提供穩(wěn)定、可靠的軟硬一體化解決方案；

2、以商業(yè)應(yīng)用案例支持AI算法應(yīng)用教學(xué)，加速初學(xué)者；

3、提升算力、解決碎片化問題，賦能開發(fā)者；

4、“軟硬平臺+算法應(yīng)用”一體化AI開發(fā)套件。與Arm生態(tài)系統(tǒng)合力打造開放，通用、標(biāo)準(zhǔn)化的端側(cè)智能開發(fā)平臺，配合Arm Open AI Platform戰(zhàn)略；

5、行業(yè)客戶、創(chuàng)客、極客AI創(chuàng)新驗證平臺；

6、智能產(chǎn)品研發(fā)、產(chǎn)品開發(fā)企業(yè)，產(chǎn)品原型開發(fā)、驗證、以及小規(guī)模產(chǎn)品部署試點。

彭月濤介紹， OPEN Al LAB聯(lián)合Arm中國、瑞芯微正式發(fā)布了面向教育及創(chuàng)客的嵌入式人工智能應(yīng)用開發(fā)平臺 EAIDK－610。EAIDK-610運行典型的深度學(xué)習(xí)算法，同等條件下，可對基于原始Caffe的實現(xiàn)進行3-5倍的加速，內(nèi)存占用下降1倍，快速進行算法和原型驗證。

Open AI Lab定位學(xué)校教育的綜合方案提供商。聯(lián)合企業(yè)及國家教育管理結(jié)構(gòu)，擴大證書和自有比賽的影響力。有自然語音處理套件，有機器人、無人機套件可以提供給開發(fā)者，AI開發(fā)平臺上有本地語音庫、機器視覺庫、嵌入式深度學(xué)習(xí)框架和異構(gòu)計算庫，在基礎(chǔ)軟件部分支持操作系統(tǒng)和設(shè)備驅(qū)動。

思必馳AI語音瞄準(zhǔn)三大場景，今年或發(fā)力可穿戴和會議轉(zhuǎn)寫

創(chuàng)業(yè)之初，思必馳業(yè)務(wù)聚焦于口語教育，自2014年謀求轉(zhuǎn)型剝離教育業(yè)務(wù)后，開始專注于智能語音開發(fā)賦能終端，并推出國內(nèi)第一個對話智能云平臺。在2015年~2018年期間，先后獲阿里，富士康，MTK等投資，AI垂直終端產(chǎn)品研發(fā)進程得以進一步加快。

圖：思必馳IoT商務(wù)總經(jīng)理王盱林

“發(fā)展至今，公司已經(jīng)不僅僅限于算法?！?，思必馳IoT商務(wù)總經(jīng)理王盱林表示，思必馳從小步慢跑已經(jīng)逐漸成長為國內(nèi)專業(yè)的對話式人工智能平臺公司，擁有全鏈路的智能語音語言技術(shù)，自主研發(fā)了新一代的人機對話操作系統(tǒng)（DUI），和人工智能芯片；為車聯(lián)網(wǎng)、IOT、以及眾多行業(yè)場景合作伙伴提供自然語言交互解決方案。

王盱林指出，思必馳AI語音產(chǎn)品服務(wù)主要聚焦于三大場景，包括車載應(yīng)用，消費類電子（如智能音箱、電視等）及機器人。值得一提的是，今年思必馳將新增智能穿戴和會議轉(zhuǎn)寫場景服務(wù)，譬如低功耗藍牙無線耳機TWS、手表。

在這些IoT場景落地應(yīng)用中，依托思必馳智能語音交互技術(shù)可以展現(xiàn)出九大核心優(yōu)勢。如遠(yuǎn)場交互、口語對話、兼容有無屏、第三方心源、技能豐富、數(shù)據(jù)可視化、OTA升級、企業(yè)VIP服務(wù)、合作靈活。同時，寄希望于DUI平臺打通連接一個或多個IoT系統(tǒng)，實現(xiàn)全屋智能、互聯(lián)互通。

聲?？萍迹篈I智能虛擬人在游戲和教育領(lǐng)域前景廣闊

圖：聲?？萍悸?lián)合創(chuàng)始人孫立發(fā)博士

聲?？萍悸?lián)合創(chuàng)始人孫立發(fā)博士強調(diào)指出，互聯(lián)網(wǎng)和人工智能時代的差別，互聯(lián)網(wǎng)紅利逐漸消失，APP應(yīng)用已經(jīng)增長非常緩慢，互聯(lián)網(wǎng)+解決信息不對稱的問題和連接的問題。還有很多問題無法解決，比如醫(yī)院一天看病人的數(shù)量有限，效率的問題和成本問題都無法解決，AI智能虛擬人可以幫助醫(yī)生提高效率，人工智能可以解決效率的問題。

未來人機交互往哪個方向發(fā)展？孫立發(fā)博士說，語音交互、動作手勢是趨勢，語音交互式NUI最自然的交互方式之一，在開車的時候，用語音發(fā)號施令，手機助手里面可以用語音進行交互。

聲?？萍荚贏I智能虛擬人方面掌握四項關(guān)鍵技術(shù)：第一、發(fā)音糾錯技術(shù)和語音識別技術(shù)，包括單詞的重音，語音、語調(diào)是否正確。第二、自然語言處理和對話系統(tǒng)；第三、個性化語音合成。個性化體現(xiàn)在音色層面，可以定制奧巴馬、林志玲的聲音。核心技術(shù)四、圖像和視頻處理。未來可以實現(xiàn)自由對話，從語音合成，到圖像、視頻處理合成一體。

孫立發(fā)博士指出AI智能虛擬人需要的關(guān)鍵技術(shù)包括：語音合成模擬人的嘴巴，圖像識別模擬人的眼睛，自然語言處理和對話系統(tǒng)模擬大腦。

目前在教育領(lǐng)域，市場的痛點在于優(yōu)質(zhì)師資不足且成本高，中小培訓(xùn)機構(gòu)、英語APP等客戶提出虛擬老師的需求，聲?？萍伎梢蕴峁半p師AI課堂解決方案“幫助客戶制作虛擬老師；在娛樂和游戲領(lǐng)域，市場的痛點是視頻錄制效率低且成本高，聲?？萍伎梢蕴峁碧摂M形象生成方案“幫助客戶制作虛擬主播。

可穿戴、車載、智能家居成AI語音未來典型場景應(yīng)用

會上，杭州國芯人工智能事業(yè)部總經(jīng)理凌云分享了AI語音芯片和應(yīng)用結(jié)合實際落地的應(yīng)用案例。并介紹國芯車載語音、智能音箱語音及語音電視（NationalChip AI+IOT）三大場景應(yīng)用方案。

圖：杭州國芯片人工智能事業(yè)部總經(jīng)理凌云

“AI自然語音交互，看似簡單實則難?！焙贾輫酒斯ぶ悄苁聵I(yè)部總經(jīng)理凌云表示，隨著AI語音交互落地各場景中的應(yīng)用越發(fā)普及，其中隱形的門檻或坑也隨之顯現(xiàn)，拾音&降噪，語音喚醒，AEC與聲學(xué)結(jié)構(gòu)都是需要考慮的因素。

從應(yīng)用端來看，凌云指出，AI語音應(yīng)用領(lǐng)域的劃分主要是從人、車、家三部分考量。如針對人的可穿戴AI設(shè)備TWS耳機、手表、眼鏡等未來市場空間及應(yīng)用將會非常廣闊。

第二部分是AI語音在車載的應(yīng)用。從安全因素考慮，車載AI語音應(yīng)用將會是未來市場的剛需場景，如車內(nèi)音樂/電臺播放、導(dǎo)航及打電話應(yīng)用。

第三部分，針對智能家居場景的語音應(yīng)用。凌云認(rèn)為，智能音箱會逐漸成為室內(nèi)家居語音應(yīng)用中的智慧中心，通過其控制室內(nèi)其它用電設(shè)備。在未來藍牙遙控器將會被語音設(shè)備取替。

展望未來，凌云指出，語音交互體驗、語音AI芯片PPA及IoT滲透率將持續(xù)提升，語音將變成按鍵、觸摸后的又一個主流萬物交互方式。

IT軟硬件從業(yè)者，如何深入了解AI？

對于IT軟硬件的從業(yè)者、工程師或即將畢業(yè)的學(xué)生，在AI方面到底如何做？是去做算法，還是去研究芯片？帶著這個問題，瘋殼科技CTO劉燃給出了他的答案，“AI技術(shù)要落地到具體的產(chǎn)品上，需要有兩個部分，一是理論算法的研究實現(xiàn)，二是相關(guān)算法的使用?！?/p>

圖：瘋殼科技CTO劉燃

瘋殼科技CTO劉燃指出，針對理論算法的研究更適合科學(xué)家和資金雄厚的企業(yè)，至于其他99%的開發(fā)者則學(xué)會使用這些優(yōu)質(zhì)算法的接口應(yīng)用于產(chǎn)品上即可。

會上，劉燃展示了兩款跟語音識別和人臉識別的開發(fā)套件，并附上了教材。所有的硬件原理圖包括通信代碼等都是全開放的，另外一款是已經(jīng)量產(chǎn)的AI語音識別機器人，非常適合工程師和學(xué)校的開發(fā)者。

那么，對于18歲以下的青少年兒童，又該如何學(xué)習(xí)理解AI的技術(shù)呢？不急，瘋殼科技也帶來了一款黑科技。

在展示環(huán)節(jié)，瘋殼科技推出了這款針對青少年編程的“殼殼板”開源產(chǎn)品，它是把一些常用的工程物理傳感器集成在一個小板上，同時附帶一套開發(fā)的圖形化編程界面系統(tǒng)，使得青少年兒童上手容易，直接拖拽編程，做出各種各樣的實驗現(xiàn)象。