一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標聲紋特征提取方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明設(shè)及一種神經(jīng)網(wǎng)絡(luò)和特征提取方法，特別是一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標 聲紋特征提取方法，屬于目標識別領(lǐng)域。
【背景技術(shù)】
[0002] 水聲信號中存在著如同指紋一樣可區(qū)分個體的聲紋特征。船舶福射噪聲主要由發(fā) 電機、推進系統(tǒng)和船上輔助設(shè)備等聲源產(chǎn)生，可W被探測設(shè)備所偵測獲取。偵測到的水聲信 號中存在著與其多聲源相應(yīng)的區(qū)別與其他型號船舶的聲紋特征，聲紋特征包含簡單特征和 復雜特征，聲紋特征中的線譜就是簡單特征，運些特征線譜可W用頻率、幅值和寬度描述， 而特征線譜間存在的關(guān)聯(lián)關(guān)系則為復雜特征，可W更精細地用重構(gòu)信號的譜圖表示。目前 用于目標識別的水聲信號特征提取方法均為淺層神經(jīng)網(wǎng)絡(luò)，尚無利用深層神經(jīng)網(wǎng)絡(luò)進行特 征提取，更無利用深層神經(jīng)網(wǎng)絡(luò)進行可用于識別目標個體的聲紋特征提取。
[0003] 近些年來，深度學習（De邱Learning)作為機器學習 （Machine Leaning)研究中的 一個新的領(lǐng)域，W其在各個機器學習任務(wù)中所展現(xiàn)出來的優(yōu)良的性能，得到了廣泛的關(guān)注。 深度學習的引入也在一定程度上使得機器學習更加接近其原始的目標：人工智能 (Artificial Intelligent)。在經(jīng)典機器學習方法中，人工智能系統(tǒng)基于系統(tǒng)輸入特征學 習得到模型，從而實現(xiàn)分類和識別。在表示學習 （Representation Learning)方法中，人工 智能系統(tǒng)不僅學習如何從給定特征映射到系統(tǒng)輸出，而且學習如何選擇輸入特征。然而在 實際應(yīng)用中，影響輸入觀察的因素非常多，如何從中抽取出更具代表性的高層特征，是表示 學習所面臨的困難。而基于深度學習的人工智能系統(tǒng)則實現(xiàn)了從底層的簡單概念中構(gòu)建得 到高層復雜概念的能力。深度學習之所W被稱為"深度"，是相對支撐向量機（Support Vector Machine)、提升方法(Boosting)、最大賭方法等"淺層學習"方法而言的。深度學習 的概念源于人工神經(jīng)網(wǎng)絡(luò)(Adificial化ural Network)的研究，最早由多倫多大學的 化nton等提出，其中在輸入層和輸出層之間包含超過一個隱層的神經(jīng)網(wǎng)絡(luò)，即深層神經(jīng)網(wǎng) 絡(luò)(De邱Neural Network),就是一種深度學習結(jié)構(gòu)。在神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，隨機梯度下降 和誤差反傳算法作為傳統(tǒng)訓練多層網(wǎng)絡(luò)的典型算法，在訓練包含多個隱層的神經(jīng)網(wǎng)絡(luò)時， 難W達到理想的效果。其中，一個主要困難源于深層網(wǎng)絡(luò)的非凸目標函數(shù)的局部最優(yōu)點普 遍存在，從而使得隨機初始化的網(wǎng)絡(luò)在訓練中容易陷入一個較差的局部最優(yōu)點。2006年，預(yù) 訓練(Pretraining)的概念被引入到了神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，很好地解決了 D順的模型優(yōu)化所 面臨的問題。隨著深層神經(jīng)網(wǎng)絡(luò)在許多機器學習任務(wù)中取得了良好的性能，神經(jīng)網(wǎng)絡(luò)又迎 來新一輪的研究熱潮。在機器視覺領(lǐng)域，深層神經(jīng)網(wǎng)絡(luò)在ImageNet競賽中帶來的顯著性能 提升。在自然語言處理領(lǐng)域，循環(huán)神經(jīng)網(wǎng)絡(luò)語言模型被廣泛地應(yīng)用到各個領(lǐng)域，取得了顯著 優(yōu)于N元文法的性能。基于神經(jīng)網(wǎng)絡(luò)的方法也被應(yīng)用到了許多自然語言處理任務(wù)中，例如機 器翻譯，命名體識別，詞性標注，語義分析等。基于深層神經(jīng)網(wǎng)絡(luò)的語音識別聲學模型成為 了主流的建模方法，并在信息產(chǎn)業(yè)上取得了成功。

【發(fā)明內(nèi)容】

[0004] 本發(fā)明的技術(shù)解決問題是：克服現(xiàn)有技術(shù)的不足，提供了一種深層神經(jīng)網(wǎng)絡(luò)和水 聲目標聲紋特征提取方法，該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標信號特點進行了適應(yīng)性的設(shè)計， 利用該深層神經(jīng)網(wǎng)絡(luò)可W實現(xiàn)水聲目標信號基頻、諧波的準確提取W及原始信號譜的重 構(gòu)，削弱原始信號譜中包含的噪聲線譜，對原始信號譜產(chǎn)生凈化的作用，減小干擾線譜對最 終船舶目標個體識別的影響，并適應(yīng)頻率漂移。
[0005] 本發(fā)明的技術(shù)解決方案是:一種深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，用于 水聲目標聲紋特征的提取，所述輸入層中的節(jié)點數(shù)為水聲目標信號原始信號譜的頻點數(shù)、 基頻取值范圍內(nèi)的所有頻率的頻點數(shù)W及諧波階次之和，輸出層的節(jié)點數(shù)為原始信號譜的 頻點數(shù)，所述隱層的層數(shù)大于等于2,隱層的節(jié)點數(shù)小于輸入層的節(jié)點數(shù)。
[0006] 所述深層神經(jīng)網(wǎng)絡(luò)由多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸 入層、隱層和輸出層，淺層神經(jīng)網(wǎng)絡(luò)的隱層層數(shù)為1。
[0007] 按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神經(jīng)網(wǎng)絡(luò)進行訓練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱 層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓練數(shù)據(jù)。
[0008] 對所有淺層網(wǎng)絡(luò)進行預(yù)訓練，將淺層神經(jīng)網(wǎng)絡(luò)學習得到的權(quán)重作為所述深度神經(jīng) 網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重。
[0009] 在深度神經(jīng)網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重基礎(chǔ)上，對深層神經(jīng)網(wǎng)絡(luò)的權(quán)重進行微調(diào)， 使其性能達到最優(yōu)。
[0010]所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)的激活函數(shù)為si卵oid函數(shù)。
[0011] 采用批量梯度下降算法對所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進行訓練。
[0012] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進行網(wǎng)絡(luò)學習的代價函數(shù)為信號重構(gòu)的均方 誤差。
[0013] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)采用批量梯度下降算法進行網(wǎng)絡(luò)權(quán)重更新，具 體由公式：
[0014]
[001引給出，其中，Wi功網(wǎng)絡(luò)j層到i層的權(quán)重系數(shù)，α為學習率。
[0016] -種基于深層神經(jīng)網(wǎng)絡(luò)的水聲目標聲紋特征提取方法，主要包括：
[0017] 獲取水聲目標原始信號譜的步驟；
[0018] 從水聲目標原始信號譜中提取基頻和諧波的步驟；
[0019] 將提取基頻、諧波W及水聲目標原始信號譜輸入權(quán)利要求1中深層神經(jīng)網(wǎng)絡(luò)對原 始信號譜進行重構(gòu)的步驟。
[0020] 本發(fā)明與現(xiàn)有技術(shù)相比的有益效果是：
[0021] 該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標信號特點進行了適應(yīng)性的設(shè)計，可W實現(xiàn)水聲目標 信號基頻、諧波的準確提取W及原始信號譜的重構(gòu)，削弱原始信號譜中包含的噪聲線譜，對 原始信號譜產(chǎn)生凈化的作用，減小干擾線譜對最終船舶目標個體識別的影響，與現(xiàn)有方法 相比，本發(fā)明具有一定的抗噪聲干擾和頻率漂移能力。
【附圖說明】
[0022] 圖1為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第一種示意圖；
[0023] 圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第二種示意圖；
[0024] 圖3為本發(fā)明的方法流程圖；
[0025] 圖4為5層自編碼網(wǎng)絡(luò)堆疊形成示意圖；
[0026] 圖5為本發(fā)明實施例中重構(gòu)誤差隨迭代次數(shù)變化的關(guān)系示意圖；
[0027] 圖6為本發(fā)明實施例中網(wǎng)絡(luò)的收斂曲線示意圖；
[0028] 圖7為本發(fā)明實施例中微調(diào)后網(wǎng)絡(luò)的收斂曲線示意圖；
[0029] 圖8為信噪比為-20地時深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0030] 圖9為信噪比為-28地時深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0031] 圖10為原始信號譜基頻提取誤差統(tǒng)計圖。
【具體實施方式】
[0032] 下面結(jié)合附圖對本發(fā)明的【具體實施方式】進行進一步的詳細描述。
[0033] 圖1和圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)示意圖，從圖1和圖2可知，本發(fā)明提出的一種 深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，所述深層神經(jīng)網(wǎng)絡(luò)主要用于水聲目標聲紋特征 的提取，所述輸入層中的節(jié)點數(shù)為水聲目標信號原始信號譜的頻點數(shù)、基頻取值范圍內(nèi)的 所有頻率的頻點數(shù)W及諧波階次之和，輸出層的節(jié)點數(shù)為原始信號譜的頻點數(shù)，所述隱層 的層數(shù)大于等于2。
[0034] 深層神經(jīng)網(wǎng)絡(luò)使用原始信號譜作為監(jiān)督信息，對其進行重構(gòu)，網(wǎng)絡(luò)隱層輸出則可 W看成是對輸入信號的編碼表示。根據(jù)隱層節(jié)點數(shù)的不同，自編碼網(wǎng)絡(luò)可分成兩種：
[0035] (i)隱層節(jié)點數(shù)小于輸入節(jié)點數(shù)，網(wǎng)絡(luò)隱層可看成是對信號的壓縮編碼；
[0036] (ii)隱層節(jié)點數(shù)大于輸入節(jié)點數(shù)，網(wǎng)絡(luò)隱層可更加充分的刻畫輸入信號的分布。
[0037] 本發(fā)明關(guān)注的問題是從受噪聲污染的目標信號中重構(gòu)原始信號譜，而原始信號譜 為稀疏分布的諧波信號，因此本發(fā)明采用第一種結(jié)構(gòu)。
[0038] 所述深層神經(jīng)網(wǎng)絡(luò)可直接根據(jù)需要對輸入層、隱層和輸出層分別進行設(shè)定，也可 由多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸入層、隱層和輸出層，其中隱 層的層數(shù)為1。
[0039] 當采用多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成時，為了取得更好的效果，需要預(yù)先對每 一個淺層神經(jīng)網(wǎng)絡(luò)進行訓練和學習，進行訓練時，需要按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神 經(jīng)網(wǎng)絡(luò)進行訓練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓練數(shù) 據(jù)。在進行學習時，需要將所有淺層神經(jīng)網(wǎng)絡(luò)學習得到的權(quán)重作為所述深