中文命名實(shí)體識(shí)別的傅立葉卷積網(wǎng)絡(luò)

打開文本圖片集

摘  要：針對(duì)transformer編碼器架構(gòu)在中文命名實(shí)體識(shí)別任務(wù)上表現(xiàn)不佳的問題，提出使用無參數(shù)化的傅立葉子層替換編碼器中自注意力子層，使用卷積神經(jīng)網(wǎng)絡(luò)替代前饋神經(jīng)網(wǎng)絡(luò)。實(shí)驗(yàn)表明，采用結(jié)合傅立葉變換和卷積神經(jīng)網(wǎng)絡(luò)的transformer encoder架構(gòu)的算法，可以在較小的字符嵌入和參數(shù)量下實(shí)現(xiàn)性能提升，且訓(xùn)練過程更快。（剩余5598字）