基于RoBERTa的中醫(yī)藥專利命名實(shí)體識(shí)別

打開(kāi)文本圖片集

［摘 要］ 中醫(yī)藥發(fā)明專利的成分及功能實(shí)體具有種類復(fù)雜、歧義繁多等特點(diǎn)。針對(duì)傳統(tǒng)命名實(shí)體識(shí)別方法無(wú)法充分獲取其中的語(yǔ)義特征表示，上下文信息及一詞多義等問(wèn)題，提出一種中醫(yī)藥發(fā)明專利命名實(shí)體識(shí)別模型，該模型將RoBERTa-WWM預(yù)訓(xùn)練模型、雙向長(zhǎng)短期記憶（BiLSTM）網(wǎng)絡(luò)、條件隨機(jī)場(chǎng)（CRF）三個(gè)模塊串聯(lián)結(jié)合，將專利摘要依次通過(guò)RoBERTa-WWM進(jìn)行語(yǔ)義提取生成含有先驗(yàn)知識(shí)的語(yǔ)義詞嵌入；BiLSTM網(wǎng)絡(luò)增強(qiáng)詞嵌入中的上下文特征信息；CRF解碼序列，輸出概率最大結(jié)果。（剩余10732字）