UCloud實驗室研發(fā)總監(jiān)葉理燈

UCloud實驗室研發(fā)總監(jiān)葉理燈談人工智能的三要素以及云計算如何推動人工智能落地。英特爾至強可擴展處理器和Intel Caffe框架相結(jié)合，為UCloud帶來高性能、低成本的方案，有效提升用戶體驗。

人工智能已經(jīng)成為產(chǎn)業(yè)變革越來越重要的推動力量。不管是通過人工智能實現(xiàn)轉(zhuǎn)型升級的傳統(tǒng)企業(yè)，還是將人工智能視為發(fā)展方向的初創(chuàng)公司，越來越多的企業(yè)需要借助人工智能來挖掘數(shù)據(jù)價值，了解現(xiàn)狀、預(yù)測未來，做出更為準(zhǔn)確的經(jīng)營決策。

但是，如何通過收集-應(yīng)用-累積的閉環(huán)，發(fā)揮數(shù)據(jù)的價值？如何通過算法去推動業(yè)務(wù)洞察？如何通過計算力的提升，來進行深度學(xué)習(xí)、推理和訓(xùn)練？與此同時，人工智能基礎(chǔ)設(shè)施的搭建，人工智能系統(tǒng)的部署該從哪里開始？成本該怎樣考量？運維如何開展？這些問題讓很多人將人工智能看作是“高門檻”的技術(shù)，在談及落地應(yīng)用時無從下手。

作為人工智能應(yīng)用普及的推動者，英特爾積極打造人工智能的新生態(tài)，助力人工智能技術(shù)的大眾化，推動人工智能真正產(chǎn)生社會價值。英特爾與國內(nèi)公有云的領(lǐng)導(dǎo)者和人工智能領(lǐng)域的先行者UCloud攜手，為UCloud提供了領(lǐng)先、高效、可擴展且開放的基礎(chǔ)設(shè)施，幫助UCloud建設(shè)高性能、低成本的AI架構(gòu)，讓用戶像使用成熟的云產(chǎn)品一樣使用AI服務(wù)。

云計算—AI落地的天然加速器

英特爾首席數(shù)據(jù)科學(xué)家鮑勃·羅杰斯（Bob Rogers）曾指出，對于那些希望應(yīng)用人工智能，卻不知該如何開始進行基礎(chǔ)設(shè)施搭建的企業(yè)來說，與云計算廠商的合作是一條很好的路徑。

云計算對AI的快速落地起到很大的推動作用。UCloud實驗室研發(fā)總監(jiān)葉理燈也認(rèn)為，云計算與人工智能落地的緊密關(guān)系不言而喻。云計算天然是計算能力的提供者。越來越多的數(shù)據(jù)在云計算上產(chǎn)生，為提供計算能力而生的云計算收獲了龐大的生產(chǎn)和消費數(shù)據(jù)。因此，在云計算上做機器學(xué)習(xí)的訓(xùn)練和推理則順理成章。

在UCloud看來，云計算本身作為規(guī)模經(jīng)濟，其核心能力在于運營。作為海量用戶考驗過同時又保持中立的平臺，UCloud在實踐中通過大量案例來發(fā)現(xiàn)問題并不斷優(yōu)化技術(shù)產(chǎn)品和服務(wù)，支撐更多用戶的運營。同時，UCloud基于行業(yè)不斷進行技術(shù)創(chuàng)新，以定制化的研發(fā)滿足不同行業(yè)的用戶需求。早前，UCloud在業(yè)界首次提出了90秒響應(yīng)，走在云服務(wù)行業(yè)水平的前列。這種在云計算平臺積累的技術(shù)優(yōu)勢和運營服務(wù)能力，也為UCloud提供差異化AI服務(wù)奠定了堅實基礎(chǔ)。

UCloud的一站式AI服務(wù)

2017年，UCloud提出了“ CBA ”（Cloud，Bigdata，AI）三位一體發(fā)展戰(zhàn)略，并發(fā)布了UAI（人工智能）系列產(chǎn)品，包UAI-Train、UAI-Inference和安全屋等產(chǎn)品，已構(gòu)筑起一站式AI全服務(wù)。

葉理燈介紹，“AI的三部曲可以分為大數(shù)據(jù)收集、AI模型訓(xùn)練和AI在線服務(wù)。” 針對數(shù)據(jù)收集和模型訓(xùn)練，UCloud已經(jīng)為用戶提供了成熟的云主機、云存儲、云網(wǎng)絡(luò)等解決方案。而在AI在線服務(wù)方面，UCloud為用戶提供了“兩步走”的部署模式。首先，向用戶提供SDK工具包，一鍵完成在線部署。其次，用戶可以通過AI在線服務(wù)PaaS平臺進行后續(xù)管理和維護。該平臺擁有自動請求負(fù)載均衡、自動資源管理的功能。用戶只需要將業(yè)務(wù)部署在平臺上，就無須操心其后續(xù)的運維。

UAI在線服務(wù)（UAI-Inference）面向初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型而生，讓企業(yè)迅速完成AI基礎(chǔ)設(shè)施的搭建和部署，適用于普遍的AI應(yīng)用場景，如圖像識別、自然語言處理等。UAI在線服務(wù)對主流的AI框架，包括TensorFlow、Keras、Caffe和MXNet等都提供良好的支持，企業(yè)可以根據(jù)自己的業(yè)務(wù)需求來選擇不同的AI框架進行接入。

AI on IA，英特爾讓AI部署更靈活高效

英特爾利用自身技術(shù)和產(chǎn)品創(chuàng)新的整合優(yōu)勢，與UCloud打造全面靈活的云和人工智能產(chǎn)品組合，幫助企業(yè)方便地獲取、開發(fā)和部署人工智能應(yīng)用。

至強可擴展處理器帶來卓越性能。在UAI在線服務(wù)中，英特爾至強可擴展平臺提供了堅實基礎(chǔ)。UAI在線服務(wù)利用云主機中英特爾至強可擴展處理器的處理能力，將最新英特爾AVX-512用于支持和加速AI在線服務(wù)。英特爾AVX-512 在每個時鐘周期的每秒浮點運算次數(shù)增加了一倍，執(zhí)行苛刻的計算任務(wù)時，能夠提供更加卓越的性能和吞吐量。UCloud利用至強可擴展處理器產(chǎn)品家族強大的可擴展性進行彈性部署，用低成本獲得高性能，降低用戶的TCO，克服GPU價格昂貴且擴展性不足的弊端。經(jīng)過反復(fù)的優(yōu)化和驗證，AI在線服務(wù)的重要指標(biāo)——時延被成功降低到了數(shù)百毫秒，完全滿足了UCloud用戶的應(yīng)用需求。

Intel Caffe框架躍升服務(wù)效率。UCloud是國內(nèi)第一個以Intel Caffe框架提供差異化AI服務(wù)的公有云廠商。Intel Caffe框架針對英特爾硬件平臺做了深度優(yōu)化，在保證兼容性的前提下，極大地提高了性能。UCloud的一系列測試結(jié)果表明，借助Intel Caffe框架，測試系統(tǒng)同時運行的線程數(shù)量可以得到顯著增加?；谠摽蚣?，測試系統(tǒng)的執(zhí)行時間也能從最初的37秒縮短至優(yōu)化后的3.6秒，整體執(zhí)行性能提高了10倍以上。事實證明，通過采用這一框架，UCloud AI在線服務(wù)效率得到了極大的躍升。

正如葉理燈所說：“與英特爾的合作為UCloud帶來了三點優(yōu)勢，提高性能，降低成本，改善用戶體驗?！?英特爾至強可擴展處理器為UCloud的云計算和人工智能平臺搭建了堅實基礎(chǔ)。面向未來，雙方還將攜手，不斷去推動人工智能的普及和實踐，讓更多企業(yè)便捷部署人工智能平臺，真正擁抱人工智能所創(chuàng)造的無限可能。