隨著計(jì)算機(jī)的普及,人們習(xí)慣于使用互聯(lián)網(wǎng)來獲取所需要的信息,但是由于數(shù)字信息是以指數(shù)形式逐年遞增。人們?cè)谑褂盟阉饕鏁r(shí),搜索引擎只能返回相關(guān)信息的鏈接或者包含答案內(nèi)容的大段文本資料,用戶想要獲取有用的信息還要進(jìn)行二次篩選,搜索引擎已經(jīng)無法滿足大多數(shù)人的需求。但問答系統(tǒng)反饋給用戶的答案不是一大堆相關(guān)的文檔或者是相關(guān)的鏈接,而是更加精確的答案,這樣更加符合用戶的需求。問答系統(tǒng)的關(guān)鍵技術(shù)就是問句相似度處理,傳統(tǒng)的相似度研究方法無法有效捕獲句子的語義信息,而且匹配的準(zhǔn)確度不高。深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)可以對(duì)句子特征進(jìn)行有效提取,循環(huán)神經(jīng)網(wǎng)絡(luò)可以捕獲句子的上下文信息,兩種方法都可以很好的捕獲句子的語義信息,并且使用深度學(xué)習(xí)的句子相似度準(zhǔn)確度更高。本文對(duì)深度學(xué)習(xí)中卷積神經(jīng)網(wǎng)絡(luò)(CNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)在文本處理上的優(yōu)缺點(diǎn)做了對(duì)比。結(jié)合深度學(xué)習(xí)的相關(guān)知識(shí)著重研究了深度匹配語義模型,并對(duì)基于卷積神經(jīng)網(wǎng)絡(luò)的語義匹配模型展開研究,在池化層使用k-max均值采樣,提出了基于k-max均值采樣技術(shù)的句子相似度算法,通過與原模型進(jìn)行實(shí)驗(yàn)對(duì)比,得出本文所用方法的精確度更高。在實(shí)驗(yàn)研究的過程中發(fā)現(xiàn)該方式存在無...

【文章頁數(shù)】：55 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖2.1二維空間余弦距離

被稱為歐氏距離），指在m維空間中兩個(gè)的距離。假設(shè)x，y是空間中的兩個(gè)點(diǎn)，2(,)()iidistxyxyx，y的坐標(biāo)值。當(dāng)使用歐氏距離表示相1(,)1(,)distxysimxy向量的常用方法[36]，主要是通過計(jì)算兩向量之間的相似度，當(dāng)余弦值越接近1....

圖2.3神經(jīng)元其中、、……、是輸入項(xiàng)，、、……、代表權(quán)重，為偏置項(xiàng)，f(z)為

圖2.3神經(jīng)元、、……、是輸入項(xiàng)，、、……、代表權(quán)重，為偏置神經(jīng)元輸出如式（2.5）。(......)11220yfwxwxwxwnn所有的神經(jīng)元連接組合在一起便是一個(gè)神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)紀(jì)60年代，Hubei等人在研究視覺皮層時(shí)，發(fā)現(xiàn)視覺信息從視網(wǎng)多....

圖2.4池化操作中的最大池化和平均池化

并且成功證明了神經(jīng)網(wǎng)絡(luò)深度的提升也對(duì)提升分類絡(luò)的核心思想是局部感知與權(quán)值共享，典型的卷積神經(jīng)網(wǎng)絡(luò)池化層、全連接層和輸出層五部分組成。作比較簡(jiǎn)單，就是對(duì)原始的數(shù)據(jù)進(jìn)行預(yù)處理，并將處理好的積神經(jīng)網(wǎng)絡(luò)中最關(guān)鍵的一層，卷積層的運(yùn)行原理就是將輸入的神經(jīng)元相連。積層提取到不同的特征之后進(jìn)入池....

圖2.5循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

即隱藏層的輸入不僅包含當(dāng)前的輸入內(nèi)容還包含上一層隱藏層的內(nèi)容，循環(huán)神經(jīng)網(wǎng)絡(luò)如圖2.5。圖2.5循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖算式（2.6）是輸出層的計(jì)算公式，輸出層是一個(gè)全連接層，意味著它的每個(gè)節(jié)點(diǎn)與隱藏層的每個(gè)節(jié)點(diǎn)都是相互連接的，輸出層的權(quán)重矩陣用V表示，激活函數(shù)用g表示。算式....

本文編號(hào)：4003726