電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）在深度學(xué)習(xí)中，經(jīng)常聽(tīng)到一個(gè)詞“模型訓(xùn)練”，但是模型是什么？又是怎么訓(xùn)練的？在人工智能中，面對(duì)大量的數(shù)據(jù)，要在雜亂無(wú)章的內(nèi)容中，準(zhǔn)確、容易地識(shí)別，輸出需要的圖像/語(yǔ)音，并不容易。因此算法顯得尤為重要。算法也就是模型。

算法的內(nèi)容，除了核心識(shí)別引擎，也包括各種配置參數(shù)，如：語(yǔ)音智能識(shí)別的比特率、采樣率、音色、音調(diào)、音高、音頻、抑揚(yáng)頓挫、方言、噪音等。成熟的識(shí)別引擎，核心內(nèi)容一般不會(huì)經(jīng)常變化。為實(shí)現(xiàn)“識(shí)別成功”這一目標(biāo)，就只能對(duì)配置參數(shù)做調(diào)整。

對(duì)不同輸入，我們會(huì)配置不同參數(shù)值，最后在結(jié)果統(tǒng)計(jì)取一個(gè)各方比較均衡、識(shí)別率較高的一組參數(shù)值，這組參數(shù)值，就是訓(xùn)練后得到的結(jié)果，這就是訓(xùn)練的過(guò)程，也叫模型訓(xùn)練。

如何訓(xùn)練一個(gè)AI模型？

訓(xùn)練模型需要用到AI框架，比如MindSpore。具體如何訓(xùn)練一個(gè)AI模型呢？昇思MindSpore

此前發(fā)布一個(gè)詳細(xì)的案例，訓(xùn)練的模型是用來(lái)對(duì)手寫(xiě)數(shù)字圖片進(jìn)行分類(lèi)的LeNet5模型。MindSpore是華為推出全場(chǎng)景AI計(jì)算框架，2020年3月28日宣布MindSpore正式開(kāi)源。

首先是安裝MindSpore，MindSpore提供給用戶(hù)使用的是Python接口。安裝的時(shí)候，選擇合適的版本、硬件平臺(tái)、操作系統(tǒng)、編程語(yǔ)言、安裝方式。其次是定義模型，安裝好之后，就可以導(dǎo)入MindSpore提供的算子（卷積、全連接、池化等函數(shù)）來(lái)構(gòu)建模型了。構(gòu)建一個(gè)AI模型就像建一個(gè)房子，MindSpore提供的算子就像是磚塊、窗戶(hù)、地板等基本組件。

接下來(lái)是導(dǎo)入訓(xùn)練數(shù)據(jù)集，什么是訓(xùn)練數(shù)據(jù)集呢，剛剛定義好的模型是不能對(duì)圖片進(jìn)行正確分類(lèi)的，要通過(guò)訓(xùn)練過(guò)程來(lái)調(diào)整模型的參數(shù)矩陣的值。訓(xùn)練過(guò)程就需要用到訓(xùn)練樣本，也就是打上了正確標(biāo)簽的圖片。這就好比教小孩兒認(rèn)識(shí)動(dòng)物，需要拿幾張圖片給他們看，告訴他們這是什么，教了幾遍之后，小孩兒就能認(rèn)識(shí)了。

那么這里訓(xùn)練LeNet5模型就需要用到MNIST數(shù)據(jù)集。這個(gè)數(shù)據(jù)集由兩部分組成：訓(xùn)練集（6萬(wàn)張圖片）和測(cè)試集（1萬(wàn)張圖片），都是0~9的黑白手寫(xiě)數(shù)字圖片。訓(xùn)練集是用來(lái)訓(xùn)練AI模型的，測(cè)試集是用來(lái)測(cè)試訓(xùn)練后的模型分類(lèi)準(zhǔn)確率的。

再接下來(lái)就是訓(xùn)練模型，訓(xùn)練數(shù)據(jù)集和模型定義完成后，就可以開(kāi)始訓(xùn)練模型了。在訓(xùn)練之前，還需要從MindSpore導(dǎo)入兩個(gè)函數(shù)：損失函數(shù)，就是衡量預(yù)測(cè)結(jié)果和真實(shí)標(biāo)簽之間的差距的函數(shù)；優(yōu)化器，用來(lái)求解損失函數(shù)關(guān)于模型參數(shù)的更新梯度的。準(zhǔn)備好之后，開(kāi)始訓(xùn)練，把前面定義好的模型、損失函數(shù)、優(yōu)化器封裝成一個(gè)Model，使用model.train接口就可以訓(xùn)練LeNet5模型了。最后就是測(cè)試訓(xùn)練后的模型準(zhǔn)確率。

訓(xùn)練AI模型花費(fèi)大

當(dāng)然，模型訓(xùn)練需要強(qiáng)大的算力支撐，尤其是參數(shù)量大的模型，花費(fèi)極大。

比如OpenAI的語(yǔ)言模型GPT-3，這是一個(gè)大型的、數(shù)學(xué)模擬的神經(jīng)網(wǎng)絡(luò)，從網(wǎng)絡(luò)上抓取大量文本進(jìn)行訓(xùn)練后，GPT-3可以以驚人的連貫性預(yù)測(cè)哪些詞應(yīng)該填在其他詞前后，生成流暢的文本。據(jù)估計(jì)，訓(xùn)練GPT-3的成本接近500萬(wàn)美元。

一些小企業(yè)想要訓(xùn)練一個(gè)參數(shù)較大的算法，往往比較苦難。健康IT公司Optum的一位領(lǐng)導(dǎo)此前表示，他們團(tuán)隊(duì)使用語(yǔ)言模型來(lái)分析通話記錄，識(shí)別哪些患者風(fēng)險(xiǎn)較高，哪些應(yīng)該及早推薦轉(zhuǎn)診。只是訓(xùn)練一個(gè)GPT-3大小千分之一的語(yǔ)言模型，也會(huì)很快耗盡團(tuán)隊(duì)的預(yù)算。

另外一家從事搜索業(yè)務(wù)的創(chuàng)業(yè)公司Glean，一直很想使用最新的AI算法來(lái)改進(jìn)公司的產(chǎn)品。

Glean提供Gmail、Slack和Salesforce等應(yīng)用程序進(jìn)行搜索的工具，用于解析語(yǔ)言的新AI技術(shù)，可以幫助公司的客戶(hù)更快地發(fā)掘正確的文件或?qū)υ挕?/div>