基于GScRNN神經網絡的對抗樣本防御方法

摘要：深度神經網絡(DNN)的日益發展被應用到圖像語音識別等多個領域之中,然而面對輸入樣本的輕微改變,經過DNN復雜的內部神經元可能導致細小的擾動被大幅度地擴大,從而使得神經網絡模型的輸出結果完全不同于人工判別結果,對于自然語言處理任務中,可以誘導欺騙垃圾郵件短信識別系統。通過統計詞向量空間各個維度分布變化,提出一種基于高斯分布的中性詞構造方法(GSNeutral),在此基礎上建立GScRNN網絡,糾正出輸入樣本中存在擾動的部分,通過中性詞替換該部分達到平滑判別邊界的目的。