最近又出了個比較吸引人眼球的Prompt Learning，甚至該方法還被稱之為NLP的“第四范式”，具體有哪幾項請參考以下鏈接：

綜述文章：https://arxiv.org/pdf/2107.13586.pdf

相關(guān)資源：http://pretrain.nlpedia.ai

Part1什么是Prompt Learning

從BERT誕生開始，使用下游任務(wù)數(shù)據(jù)微調(diào)預(yù)訓練語言模型 （LM）已成為 NLP 領(lǐng)域的通用做法。直到GPT-3模型首先將自然語言的提示信息（prompt）和任務(wù)示例（demonstration）作為上下文輸入給GPT-3，使得GPT-3只需要少數(shù)的幾個樣本，不需要訓練底層的參數(shù)便能夠處理任務(wù)。應(yīng)該是受到這一做法的啟發(fā)，目前很多研究聚焦在Prompt Learning上，只為了更好的激發(fā)語言模型的潛能。

在了解Prompt Learning之前，首先我們要知道什么是prompt。prompt是提示的意思，也就是說需要提示模型我們想讓它干什么。通常在GPT-3中，我們輸入一段描述，再加上“翻譯”或者“問答”的prompt，那么GPT-3會生成相應(yīng)的結(jié)果。

最近該玩法在NLU中也得到了應(yīng)用，比如情感分類任務(wù)，給定一句話“I missed the bus today.”，在其之后添加一個prompt：“I felt so __”，之后讓語言模型用一個情感類的詞進行完型填空，再將填空的詞語映射到標簽，這樣一來就能夠解決分類任務(wù)了。

大家發(fā)現(xiàn)沒有，這樣一來減少了訓練和測試階段之間的gap，因為我們在預(yù)訓練的時候使用的MLM任務(wù)就是一個完型填空任務(wù)，通常使用分類任務(wù)fine-tuning模型的時候需要加一個hidden_size * label_size的FFN，還得專門去訓練這個FFN的參數(shù)。但是如果使用Prompt Learning的方式，就省略了這一步了。這樣一來豈不是不用花大力氣訓練模型了？哈哈是的，很多研究證明Prompt Learning在小樣本（few-shot）場景下很有效。

Part2Few-shot Learner

論文標題：Making Pre-trained Language Models Better Few-shot Learners

論文來源：ACL2021

論文鏈接：https://arxiv.org/pdf/2012.15723.pdf

論文代碼：https://github.com/princeton-nlp/LM-BFF

本文主要有兩個貢獻點：

（1）基于提示（prompt）進行微調(diào)，關(guān)鍵是如何自動化生成提示模板；

（2）將樣本示例以上下文的形式添加到每個輸入中，關(guān)鍵是如何對示例進行采樣；

1prompt-based fine-tuning

之前說過GPT-3模型基于prompt生成文本。受到該啟發(fā)本文提出了一種可以應(yīng)用于任意預(yù)訓練模型的prompt learning模型——LM-BFF（小樣本微調(diào)預(yù)訓練模型）。

從上圖可以看出在預(yù)訓練的時候使用的MLM任務(wù)就是一個完型填空任務(wù)，在分類任務(wù)中微調(diào)的時候需要加一個hidden_size * label_size的FFN，微調(diào)的過程需要訓練這個FFN的參數(shù)。在使用Prompt Learning的方式的時候省略了這一步。這樣一來就不用花大力氣訓練模型了，而且該方法減少了訓練和測試階段之間的gap，在小樣本（few-shot）場景下很有效。

在具體的實驗過程中，作者發(fā)現(xiàn)使用不同的模板或不同的標簽詞進行微調(diào)得到的效果是不同的，如下圖所示：

比如對于同一個標簽詞，如果使用的prompt的模板不同（替換了某個單詞或者刪除某一個標點符號），得到的結(jié)果會有較大的波動；而且當選擇不同的標簽詞時，對預(yù)測的結(jié)果也會產(chǎn)生影響。這是由于人工設(shè)計模板和標簽詞時候和模型本身具有的gap帶來的缺陷。因此作者提出一種自動創(chuàng)建模板的方法。

2Automatic Prompt Generation

Prompt的自動生成又分為了兩個部分（label的生成和模板的生成）：

Label Generation

這個部分主要分成3步：

（1）首先在訓練集中，針對未經(jīng)過微調(diào)的語言模型，對于每個label都找到使其條件概率最大Topk個單詞；

（2）綜合每個類別下的候選標簽詞，然后找出使得訓練集正確率最大的top-n個分配方式；

（3）使用dev集對模型進行微調(diào)，從n個分配方式中選擇最佳的一個標簽詞，構(gòu)建標簽映射關(guān)系M。

Prompt Generation

模板的生成則是使用的T5模型，固定標簽詞，生成固定模板。

整體過程如下所示：

Fine-tuning with Demonstration

在GPT-3中，微調(diào)的時候從訓練集中隨機抽取32個示例，以上下文的形式添加到每個輸入中；

這種方式的缺陷在于：樣本示例的數(shù)量會受到模型最大輸入長度的限制；不同類型的大量隨機示例混雜在一起，會產(chǎn)生很長的上下文，不利于模型學習。

LM-BFF采用2種簡單的方式進行了改進：

對于每個輸入，從每個類別中隨機采樣一個樣本示例，最終將所有類別下的采樣示例進行拼接輸入；

對于每個輸入，在每個類別中，通過與Sentence-BERT進行相似度計算、并從排序得分的top50%中隨機選擇一個樣本示例。

Results

本文提出了一種簡單而又有效的小樣本微調(diào)方法——LM-BFF。主要包括2部分：

采用提示自動構(gòu)建方式來進行「基于模板的微調(diào)方法」。

動態(tài)選擇樣本示例，作為輸入的上下文。但LM-BFF也有以下缺陷：

LM-BFF仍落后基于全量標注數(shù)據(jù)的標準微調(diào)方法（PS：廢話，數(shù)據(jù)目前還是越多好～）

LM-BFF自動構(gòu)建提示的方法雖然有效，但擴展搜索空間在現(xiàn)實應(yīng)用中仍是一個巨大挑戰(zhàn)；

LM-BFF僅支持幾種特定的任務(wù)：1）能自然轉(zhuǎn)化為「空白填空」問題，如結(jié)構(gòu)化預(yù)測的NER任務(wù)可能就不適合；2）句子輸入不要太長；3）不要包含過多的類別；其中2）和3）可以在長距離語言模型中進行改善。

編輯：jq