正如其他技術(shù)革新一樣，人工智能 (AI) 為人們的數(shù)字體驗帶來了新機遇，但同時也伴隨著諸多挑戰(zhàn)。除了潛在的變革性影響，有鑒于AI 應(yīng)用的過程中，大量的敏感數(shù)據(jù)會被收集和保存，并進一步被使用在為最終用戶提供高度個性化的技術(shù)體驗上，它同時也帶來了獨特的安全威脅。對安全問題的關(guān)注正推動行業(yè)及社會各界展開密切討論，攜手尋找合適的解決方案，以更大限度地發(fā)揮 AI 的優(yōu)勢，并盡可能減少任何潛在的社會影響。

注重安全性深植于 Arm 的企業(yè)核心基因之中。積極應(yīng)對安全挑戰(zhàn)是 Arm 為無處不在的 AI 奠定技術(shù)基礎(chǔ)的根基。在 AI 以空前的規(guī)模加速技術(shù)創(chuàng)新之時，Arm 在其業(yè)內(nèi)領(lǐng)先的 IP 中部署了基礎(chǔ)安全技術(shù)與相關(guān)標(biāo)準(zhǔn)，在 AI 的持續(xù)演進過程中繼續(xù)發(fā)揮重要作用，以應(yīng)對新出現(xiàn)的安全威脅。

安全性在邊緣 AI 領(lǐng)域的作用

隨著 AI 日益普及，我們預(yù)計在網(wǎng)絡(luò)邊緣設(shè)備上運行 AI 推理工作負(fù)載的場景將大幅增長。由于推理工作使用的是經(jīng)過訓(xùn)練的模型，其所需的算力較少，有助于廣泛地推動在邊緣領(lǐng)域?qū)崿F(xiàn)更高效的 AI 計算。與此同時，AI 工作負(fù)載將在更接近數(shù)據(jù)采集之處進行處理，也能夠提供更快響應(yīng)的用戶體驗，減少延遲。

從安全角度來看，將 AI 處理分布到邊緣應(yīng)用將使企業(yè)和用戶大受裨益。其中一個關(guān)鍵的安全優(yōu)勢在于，敏感的用戶數(shù)據(jù)可以在實際設(shè)備上進行處理，而無需再發(fā)送給第三方，這使得企業(yè)和消費者都能更好地掌控自己的數(shù)據(jù)。

目前市面上有很多基于 AI 的安全用例，其中，智能視覺可以充分展示邊緣 AI 的優(yōu)勢。許多企業(yè)正在研發(fā)智能攝像頭，以廣泛應(yīng)用于家庭、護理院和醫(yī)院，用以監(jiān)測老年人的相關(guān)活動，以及時處理摔倒等意外情況的發(fā)生。在實際設(shè)備上提供圖像處理和場景識別的能力，實現(xiàn)了本質(zhì)上更安全的系統(tǒng)，消除了將敏感信息發(fā)送給第三方處理所帶來的風(fēng)險。這也讓人們更容易接受在所需環(huán)境中安裝此類攝像頭，因為這些環(huán)境中往往也存在著重要的隱私考量。

打造可信賴的硬件

然而，企業(yè)還需要確保其硬件值得信賴，尤其是在 AI 時代，他們必須保護其成本高昂的生成式 AI 模型免受攻擊。此前發(fā)布的《PSA Certified 2023 安全性報告》強調(diào)了對安全硬件的需求，報告表明 69% 的技術(shù)決策者愿意為保護設(shè)備安全支付額外費用，其中 65% 的決策者在做出購買決策時特別關(guān)注安全認(rèn)證。若要防止惡意攻擊者竊取基于 AI 和機器學(xué)習(xí) (ML) 模型的知識產(chǎn)權(quán)，有效地保護邊緣設(shè)備至關(guān)重要。

處理器安全

不論是將 AI 的處理全權(quán)交給 CPU，或是結(jié)合 GPU 或 NPU 等協(xié)處理器一起提供支持，邊緣 AI 的發(fā)展趨勢都與 CPU 相關(guān)。大量 AI 計算正發(fā)生在 CPU 之上，因此 AI 時代的安全性取決于 CPU 的安全性。這也是為什么確保 AI 安全在很大程度上依賴于保障計算安全的基礎(chǔ)。

使用 AI 和 ML 工具及框架部署代碼有助于識別安全漏洞，但攻擊者也可以使用同樣的技術(shù)在數(shù)百萬行代碼中找出可利用的漏洞。這意味著計算機架構(gòu)師需要加倍努力提高計算系統(tǒng)的安全性。多年來，Arm 朝著這個目標(biāo)刻苦鉆研，不斷開發(fā)和投資新的安全架構(gòu)功能。

內(nèi)存標(biāo)記擴展

Arm 的內(nèi)存標(biāo)記擴展 (Memory Tagging Extension, MTE) 功能內(nèi)建于最新一代 Armv9 架構(gòu) CPU 中。MTE 可以動態(tài)識別空間和時間內(nèi)存安全問題，這些問題占所有嚴(yán)重安全漏洞的 70%。隨著 AI 的發(fā)展，這些安全威脅持續(xù)存在。

MTE 已經(jīng)在移動設(shè)備市場上得到了廣泛應(yīng)用。MediaTek 已將這項技術(shù)部署到面向旗艦智能手機的基于 Arm 架構(gòu)的天璣 9300 系統(tǒng)級芯片 (SoC)上，而谷歌也已在 Android 14 中啟用了 MTE。vivo 在其 X100 和 X100 Pro 旗艦智能手機中搭載了天璣 9300，此前還宣布開放千鏡內(nèi)存安全檢測能力，將為其開發(fā)者提供 MTE 等技術(shù)。整個移動生態(tài)系統(tǒng)致力于支持 MTE，這將幫助全球數(shù)百萬開發(fā)者加快產(chǎn)品上市速度，提供更出色、更安全的用戶體驗。未來 MTE 的應(yīng)用范圍將不再局限于移動領(lǐng)域，而是隨著采用 Arm A 系列架構(gòu)處理器的設(shè)備進入到高性能的物聯(lián)網(wǎng) (IoT) 市場。

Arm 安全技術(shù)

作為 Armv9 架構(gòu)的一部分，我們推出了機密領(lǐng)域管理擴展 (Realm Management Extensions, RME)，這是 Arm 機密計算架構(gòu) (CCA) 的基礎(chǔ)。這有助于保護運行虛擬機的數(shù)據(jù)安全，避免因虛擬機管理程序遭到破壞而受到攻擊。用于訓(xùn)練先進 ML 模型的數(shù)據(jù)中心顯然需要這種技術(shù)，但在部署經(jīng)過訓(xùn)練的 ML 模型的物聯(lián)網(wǎng)市場中，確保邊緣計算系統(tǒng)的安全也同樣重要。

我們還引入了指針驗證 (Pointer Authentication, PAC) 和分支目標(biāo)識別 (Branch Target Identification, BTI)，作為內(nèi)置于 Armv9 架構(gòu)中的安全技術(shù)，從而提供更強大的保護性能，防止返回導(dǎo)向編程 (Return-Orientated Programming, ROP) 和跳轉(zhuǎn)導(dǎo)向編程 (Jump-Orientated Programming, JOP) 等代碼復(fù)用攻擊。在 AI 時代，這一點非常重要，因為攻擊者將能夠利用 AI 和 ML 工具，開發(fā)出復(fù)用已有代碼的復(fù)雜方法。PAC 和 BTI 正部署到消費技術(shù)和物聯(lián)網(wǎng)市場的 Arm A 系列和 M 系列架構(gòu)中。

此外，Arm 將繼續(xù)與業(yè)界伙伴展開協(xié)作，推動我們的安全框架和認(rèn)證計劃 PSA Certified 的發(fā)展，創(chuàng)建面向所有聯(lián)網(wǎng)設(shè)備的最佳實踐基準(zhǔn)。這一體系從核心層面構(gòu)建，有助于改善系統(tǒng)的基礎(chǔ)安全狀況，滿足消費者的期望——即隨著設(shè)備的普及，其安全性也應(yīng)得到保障。這一目標(biāo)主要針對基于 Arm A 系列和 M 系列架構(gòu)的物聯(lián)網(wǎng)設(shè)備。

Morello 與安全領(lǐng)域的未來

除了現(xiàn)有的安全功能外，Arm 始終關(guān)注新的技術(shù)、標(biāo)準(zhǔn)和合作，積極尋求提高安全性的機會。Morello 就是一個很好的例子，該計劃重點研究 CPU 架構(gòu)的創(chuàng)新設(shè)計方法，致力于構(gòu)建更加強大的處理器，防止產(chǎn)生某些關(guān)鍵的安全漏洞。我們與劍橋大學(xué)和 SRI International 合作，開發(fā)出了一種原型技術(shù)，如果進展順利的話，可能會實施到未來的硬件中。

加快推進 AI 時代的安全性

基于 AI 和 ML 的技術(shù)正日益滲透到計算的各個領(lǐng)域。隨著 AI 工作負(fù)載逐漸轉(zhuǎn)移到邊緣，機遇和挑戰(zhàn)將在安全領(lǐng)域并存。

在 AI 創(chuàng)新快速涌現(xiàn)的同時，我們?nèi)匀恍枰裱A(chǔ)的安全原則。事實上，在 AI 時代，許多目前已投入使用的 Arm 基礎(chǔ)安全技術(shù)將變得更為重要。

正因如此，我們將致力于提高相關(guān)架構(gòu)、IP 和處理器的安全性，并為由此產(chǎn)生的技術(shù)組件和標(biāo)準(zhǔn)提供大力支持。Arm 將持續(xù)增加更多的 AI 和 ML 功能，同時推動安全性的加速發(fā)展，進而成為全球 AI 體驗的安全計算平臺。

審核編輯：劉清