隨著現(xiàn)代人工智能技術(shù)的興起，對(duì)設(shè)備上模型訓(xùn)練的需求已成為一個(gè)重要的研究領(lǐng)域。任務(wù)復(fù)雜性和工作量的增加強(qiáng)調(diào)了將 AI 模型訓(xùn)練帶到邊緣的必要性。

在邊緣進(jìn)行推理之后，需要在邊緣的設(shè)備上持續(xù)訓(xùn)練 AI 模型，以處理具有非平穩(wěn)輸入的不確定情況。深度學(xué)習(xí)模型在部署到嵌入式設(shè)備之前在遠(yuǎn)程服務(wù)器上進(jìn)行訓(xùn)練。但是已經(jīng)發(fā)生了向持續(xù)學(xué)習(xí)的轉(zhuǎn)變，設(shè)備上的個(gè)性化可以通過(guò)新獲取的數(shù)據(jù)增加基于用戶(hù)交互的自適應(yīng)功能。

在設(shè)備上更新和重新訓(xùn)練已經(jīng)訓(xùn)練過(guò)的模型可能需要很長(zhǎng)時(shí)間，這對(duì)于實(shí)時(shí)輸入來(lái)說(shuō)幾乎是不可能完成的任務(wù)。即使只是簡(jiǎn)單地更新預(yù)測(cè)模型，新的傳入數(shù)據(jù)也會(huì)導(dǎo)致災(zāi)難性的遺忘，其中人工神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)新信息時(shí)會(huì)完全突然地忘記先前學(xué)習(xí)的信息。

持續(xù)學(xué)習(xí) （CL） 是隨著不斷變化的外部環(huán)境、動(dòng)態(tài)傳入數(shù)據(jù)而增量學(xué)習(xí)的能力，以及泛化分布外和執(zhí)行遷移和元學(xué)習(xí)的能力。由于內(nèi)存和計(jì)算量的增加，神經(jīng)網(wǎng)絡(luò)僅在部署到嵌入式設(shè)備之前進(jìn)行推理訓(xùn)練。直到最近，對(duì)超低功耗設(shè)備的深度學(xué)習(xí)模型的研究仍基于訓(xùn)練后部署假設(shè)，其中靜態(tài)模型無(wú)法在不斷變化的環(huán)境中采用。為了改變動(dòng)態(tài)，在基于 Latent Replay 的 CL 技術(shù)上開(kāi)展的工作，超低功耗 TinyML 設(shè)備對(duì)計(jì)算和內(nèi)存的需求一直是個(gè)問(wèn)題。

實(shí)時(shí)持續(xù)學(xué)習(xí)的潛在回放

持續(xù)學(xué)習(xí)的 Latent Replay 方法實(shí)際上意味著可以從上面的架構(gòu)圖中理解的幾個(gè)方面。在潛在重放中，不是將過(guò)去數(shù)據(jù)的一部分存儲(chǔ)在輸入空間中，而是將數(shù)據(jù)存儲(chǔ)在某個(gè)中間層的激活卷中。這反過(guò)來(lái)又解決了計(jì)算和存儲(chǔ)問(wèn)題，為此在復(fù)雜的視頻上進(jìn)行了基準(zhǔn)測(cè)試，例如 CORe50 NICv2 和 OpenLORIS。

查看 Latent Replay 的架構(gòu)圖，離輸入層更近的層，通常稱(chēng)為表示層，通常會(huì)執(zhí)行低級(jí)特征提取。預(yù)訓(xùn)練模型的權(quán)重是穩(wěn)定的，可以跨應(yīng)用程序重復(fù)使用，而更高級(jí)別的模型提取特定于類(lèi)的特征，對(duì)于最大限度地提高準(zhǔn)確性至關(guān)重要。為了保持穩(wěn)定性，所提出的方法在 Latent Replay 之下的層采用減慢學(xué)習(xí)速度，并讓上面的層以自己的速度學(xué)習(xí)。

即使較低層的速度減慢到零，也可以節(jié)省計(jì)算和存儲(chǔ)，因?yàn)樾枰诰W(wǎng)絡(luò)中向前和向后流動(dòng)的模式的一小部分。但在表示層未凍結(jié)為零的正常情況下，存儲(chǔ)在外部存儲(chǔ)器中的激活會(huì)經(jīng)歷老化效應(yīng)。如果層的訓(xùn)練很慢，老化效應(yīng)不會(huì)破壞，因?yàn)橥獠坑洃浻袝r(shí)間恢復(fù)新的模式。

具有量化潛在重放的設(shè)備上持續(xù)學(xué)習(xí)

在最近基于 Pellegrini 所做工作的研究中，研究人員致力于開(kāi)發(fā)一個(gè) TinyML 平臺(tái)，用于通過(guò)量化的潛在回放進(jìn)行設(shè)備上的持續(xù)學(xué)習(xí)。這項(xiàng)工作采用 VEGA，這是一個(gè)基于 PULP 的深度學(xué)習(xí) TinyML 平臺(tái)，它是一種采用 22nm 工藝技術(shù)制造的端節(jié)點(diǎn)片上系統(tǒng)原型。CL 的 Latent Replay 已經(jīng)在智能嵌入式設(shè)備上進(jìn)行了測(cè)試，包括在 Snapdragon-845 CPU 上運(yùn)行的智能手機(jī)。但這項(xiàng)工作更側(cè)重于超低功耗 TinyML 設(shè)備，以節(jié)省與之相關(guān)的計(jì)算和內(nèi)存限制。

該研究提出了擴(kuò)展 Latent Replay 算法以使用 8 位量化和凍結(jié)前端的想法。這不會(huì)影響 CL 過(guò)程并支持帶有量化的 Latent Replay 壓縮，從而將內(nèi)存需求減少多達(dá) 4.5 倍。這被稱(chēng)為持續(xù)學(xué)習(xí)的量化潛在重放。CL 原語(yǔ)包括常見(jiàn)層的前向和后向傳播，如卷積、深度卷積和全連接層，它們經(jīng)過(guò)調(diào)整以在 VEGA 上優(yōu)化執(zhí)行。

可以根據(jù)應(yīng)用程序和可用資源定義的計(jì)算和存儲(chǔ)精度之間始終存在權(quán)衡。用于持續(xù)學(xué)習(xí)的潛在重放是適用于從嵌入式設(shè)備到智能小工具的各種系統(tǒng)的最有效方式。

審核編輯：郭婷