近期，谷歌公布新版ASPIRE訓(xùn)練架構(gòu)，該架構(gòu)主要用于改進大型語言模型的選擇性預(yù)測情況。谷歌表示，盡管大語言模型在自然語言理解與生成領(lǐng)域發(fā)展迅速，應(yīng)用廣泛，然而在涉及到高風(fēng)險決策時，其預(yù)測能力仍待加強。為此，谷歌推出ASPIRE訓(xùn)練框架，通過向模型引入“可信度”機制，提升預(yù)測準確率。

該框架分為三步驟：“特定任務(wù)調(diào)整”、“答案采樣”以及“自我評估學(xué)習(xí)”。首先，“特定任務(wù)調(diào)整”階段針對基本訓(xùn)練的大型語言模型進一步深化訓(xùn)練，重點提高預(yù)測能力。其次，“答案采樣”階段模型會根據(jù)調(diào)整的參數(shù)，生成多個答案，同時建立自我評估學(xué)習(xí)數(shù)據(jù)集，產(chǎn)生較高信度的選項。最后，“自我評估學(xué)習(xí)”階段則設(shè)定參數(shù)以提升機模自我評估能力，使之能檢測答案準確性，以便在回答問題時附加可信度評分。

據(jù)悉該架構(gòu)取得顯著成效。在CoQA、TriviaQA和SQuAD三個問答數(shù)據(jù)集測試中，經(jīng)由ASPIRE調(diào)整的OPT-2.7B小模型表現(xiàn)全面優(yōu)于更大規(guī)模的OPT-30B模型。此成果證實，經(jīng)適配調(diào)整，小型語言模型亦有潛力超越大型語言模型。

研究人員總結(jié)指出，ASPIRE訓(xùn)練框架有效改善了大型語言模型的輸出精度，使小型模型經(jīng)微調(diào)后可以實現(xiàn)“恰當且自信”的預(yù)測。