基于問題導(dǎo)向式提示調(diào)優(yōu)小樣本文本分類

打開文本圖片集

摘 要：低資源場景下提示調(diào)優(yōu)比帶有額外分類器的通用微調(diào)方法（fine-tuning）分類性能好，但提示調(diào)優(yōu)中設(shè)計(jì)一個(gè)較好的提示模板和標(biāo)簽詞映射器需要花費(fèi)大量的精力。針對(duì)該問題，提出問題導(dǎo)向式提示調(diào)優(yōu)的小樣本分類方法（question-oriented prompt-tuning，QPT）。首先，利用數(shù)據(jù)集標(biāo)簽和可訓(xùn)練的連續(xù)提示構(gòu)建提問形式的模板，通過預(yù)訓(xùn)練模型學(xué)習(xí)到最優(yōu)提示模板；然后，每條樣本用模板進(jìn)行填充，將文本分類任務(wù)轉(zhuǎn)換成完形填空任務(wù)；最后，使用外部知識(shí)及兩種細(xì)化方法構(gòu)建標(biāo)簽詞映射器，通過預(yù)測的標(biāo)簽詞與分類標(biāo)簽的映射關(guān)系得出分類結(jié)果。（剩余16663字）