隨著計算機(jī)的普及,人們習(xí)慣于使用互聯(lián)網(wǎng)來獲取所需要的信息,但是由于數(shù)字信息是以指數(shù)形式逐年遞增。人們在使用搜索引擎時,搜索引擎只能返回相關(guān)信息的鏈接或者包含答案內(nèi)容的大段文本資料,用戶想要獲取有用的信息還要進(jìn)行二次篩選,搜索引擎已經(jīng)無法滿足大多數(shù)人的需求。但問答系統(tǒng)反饋給用戶的答案不是一大堆相關(guān)的文檔或者是相關(guān)的鏈接,而是更加精確的答案,這樣更加符合用戶的需求。問答系統(tǒng)的關(guān)鍵技術(shù)就是問句相似度處理,傳統(tǒng)的相似度研究方法無法有效捕獲句子的語義信息,而且匹配的準(zhǔn)確度不高。深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)可以對句子特征進(jìn)行有效提取,循環(huán)神經(jīng)網(wǎng)絡(luò)可以捕獲句子的上下文信息,兩種方法都可以很好的捕獲句子的語義信息,并且使用深度學(xué)習(xí)的句子相似度準(zhǔn)確度更高。本文對深度學(xué)習(xí)中卷積神經(jīng)網(wǎng)絡(luò)(CNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)在文本處理上的優(yōu)缺點(diǎn)做了對比。結(jié)合深度學(xué)習(xí)的相關(guān)知識著重研究了深度匹配語義模型,并對基于卷積神經(jīng)網(wǎng)絡(luò)的語義匹配模型展開研究,在池化層使用k-max均值采樣,提出了基于k-max均值采樣技術(shù)的句子相似度算法,通過與原模型進(jìn)行實(shí)驗(yàn)對比,得出本文所用方法的精確度更高。在實(shí)驗(yàn)研究的過程中發(fā)現(xiàn)該方式存在無...

【文章頁數(shù)】：55 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖2.1二維空間余弦距離

被稱為歐氏距離），指在m維空間中兩個的距離。假設(shè)x，y是空間中的兩個點(diǎn)，2(,)()iidistxyxyx，y的坐標(biāo)值。當(dāng)使用歐氏距離表示相1(,)1(,)distxysimxy向量的常用方法[36]，主要是通過計算兩向量之間的相似度，當(dāng)余弦值越接近1....

圖2.3神經(jīng)元其中、、……、是輸入項，、、……、代表權(quán)重，為偏置項，f(z)為

圖2.3神經(jīng)元、、……、是輸入項，、、……、代表權(quán)重，為偏置神經(jīng)元輸出如式（2.5）。(......)11220yfwxwxwxwnn所有的神經(jīng)元連接組合在一起便是一個神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)紀(jì)60年代，Hubei等人在研究視覺皮層時，發(fā)現(xiàn)視覺信息從視網(wǎng)多....

圖2.4池化操作中的最大池化和平均池化

并且成功證明了神經(jīng)網(wǎng)絡(luò)深度的提升也對提升分類絡(luò)的核心思想是局部感知與權(quán)值共享，典型的卷積神經(jīng)網(wǎng)絡(luò)池化層、全連接層和輸出層五部分組成。作比較簡單，就是對原始的數(shù)據(jù)進(jìn)行預(yù)處理，并將處理好的積神經(jīng)網(wǎng)絡(luò)中最關(guān)鍵的一層，卷積層的運(yùn)行原理就是將輸入的神經(jīng)元相連。積層提取到不同的特征之后進(jìn)入池....

圖2.5循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

即隱藏層的輸入不僅包含當(dāng)前的輸入內(nèi)容還包含上一層隱藏層的內(nèi)容，循環(huán)神經(jīng)網(wǎng)絡(luò)如圖2.5。圖2.5循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖算式（2.6）是輸出層的計算公式，輸出層是一個全連接層，意味著它的每個節(jié)點(diǎn)與隱藏層的每個節(jié)點(diǎn)都是相互連接的，輸出層的權(quán)重矩陣用V表示，激活函數(shù)用g表示。算式....

本文編號：4003726