發(fā)布時(shí)間：2020-04-09 15:16

【摘要】：推薦系統(tǒng)的任務(wù)是通過聯(lián)系用戶和產(chǎn)品,幫助用戶發(fā)現(xiàn)對(duì)自己有價(jià)值的信息。優(yōu)秀的推薦算法可以使得推薦系統(tǒng)的效率大大提高,增強(qiáng)推薦結(jié)果的正確性,滿足海量用戶的需求。異構(gòu)眾核體系結(jié)構(gòu)的發(fā)展為高性能計(jì)算技術(shù)與推薦系統(tǒng)的結(jié)合帶來了新的發(fā)展契機(jī)。本論文面向當(dāng)前主流的多核與眾核處理器實(shí)現(xiàn)并優(yōu)化一種推薦系統(tǒng)領(lǐng)域極具代表性的算法:交替最小二乘法(ALS),旨在從不同角度最大化該推薦算法的性能。本文的主要工作和創(chuàng)新點(diǎn)包含以下三點(diǎn):1.使用OpenCL實(shí)現(xiàn)了ALS算法,使其具備跨平臺(tái)可移植特性;針對(duì)不同平臺(tái)實(shí)施不同的優(yōu)化技巧,組合不同優(yōu)化技巧產(chǎn)生多個(gè)代碼變體,從而方便研究者針對(duì)不同平臺(tái)選擇最優(yōu)的優(yōu)化方法。實(shí)驗(yàn)結(jié)果表明,相對(duì)于基準(zhǔn)實(shí)現(xiàn),在Intel E5-2670平臺(tái)上優(yōu)化后的ALS的執(zhí)行速度提高為原來的5.5倍,在NVIDIA K20C平臺(tái)上的性能提高了21.2倍;該實(shí)現(xiàn)在多個(gè)數(shù)據(jù)集上的性能均優(yōu)于cuMF。2.在分析ALS算法熱點(diǎn)和剖析已有ALS實(shí)現(xiàn)所存在問題的基礎(chǔ)上,進(jìn)一步提出了一種基于細(xì)粒度分塊并行策略的ALS實(shí)現(xiàn)。該實(shí)現(xiàn)通過細(xì)粒度的任務(wù)劃分與合理的線程配置實(shí)現(xiàn)了該算法性能上的大幅提升。實(shí)驗(yàn)數(shù)據(jù)表明,與基準(zhǔn)實(shí)現(xiàn)相比,該實(shí)現(xiàn)在NVIDIA K20C平臺(tái)上實(shí)現(xiàn)了多達(dá)88倍的性能加速,在AMD gfx803平臺(tái)上實(shí)現(xiàn)了多達(dá)98倍的性能加速。此外,該實(shí)現(xiàn)在不同平臺(tái)和不同特征維數(shù)上的性能均超越了cuMF。3.根據(jù)推薦系統(tǒng)數(shù)據(jù)集的特點(diǎn),提出了一種基于數(shù)據(jù)重用策略的ALS實(shí)現(xiàn)。該實(shí)現(xiàn)是基于一種新的稀疏矩陣壓縮分塊存儲(chǔ)格式以及數(shù)據(jù)重用/重排兩種優(yōu)化策略。數(shù)據(jù)重用策略降低了不同存儲(chǔ)層次之間的數(shù)據(jù)傳輸次數(shù),從而減少了訪問全局存儲(chǔ)的壓力。數(shù)據(jù)重排策略通過重新組織稀疏矩陣的行列,最大化數(shù)據(jù)重用的收益。實(shí)驗(yàn)數(shù)據(jù)表明,相對(duì)于領(lǐng)域內(nèi)最快的Gates實(shí)現(xiàn),本文提出的實(shí)現(xiàn)在K20C平臺(tái)上達(dá)到約2.08倍的加速比,在TITAN X平臺(tái)上能夠取得約3.72倍的加速比。據(jù)筆者所知,這是目前領(lǐng)域內(nèi)最快的基于ALS算法的矩陣分解實(shí)現(xiàn)。本文結(jié)合了交替最小二乘算法、推薦系統(tǒng)數(shù)據(jù)集與異構(gòu)眾核體系結(jié)構(gòu)的特點(diǎn),合理地將任務(wù)映射到處理器的計(jì)算核心,運(yùn)用了多種面向體系結(jié)構(gòu)的優(yōu)化技巧,從而能夠充分地利用硬件架構(gòu)的資源,實(shí)現(xiàn)在不同平臺(tái)上矩陣分解性能的大幅度提升。本文所提出的ALS實(shí)現(xiàn)能夠被直接地融入到當(dāng)前主流地大數(shù)據(jù)處理框架中。
【圖文】：

這種無論對(duì)于信息消費(fèi)者還是信息生產(chǎn)者都產(chǎn)生了很大的挑戰(zhàn)：對(duì)于消費(fèi)者來說，從大量信息中找到自己感興趣的信息是一件非常困難的事情；信息生產(chǎn)者，讓自己生產(chǎn)的信息脫穎而出，受到廣大用戶的關(guān)注，也是一件困難的事情。推薦系統(tǒng)就是解決這一矛盾的重要工具。推薦系統(tǒng)的任務(wù)就是用戶和信息，一方面幫助用戶發(fā)現(xiàn)對(duì)自己有價(jià)值的信息，另一方面讓信息能現(xiàn)在它感興趣的用戶面前，從而實(shí)現(xiàn)信息需求者和信息生產(chǎn)者的雙贏。和搜擎不同，個(gè)性化推薦系統(tǒng)需要依賴用戶的行為數(shù)據(jù)，因此一般都是作為一個(gè)存在于不同網(wǎng)站之中。在互聯(lián)網(wǎng)的各類網(wǎng)站中都可以看到推薦系統(tǒng)的應(yīng)用，性化推薦系統(tǒng)在這些網(wǎng)站中的主要作用是通過分析大量用戶行為日志，給不戶提供個(gè)性化的頁面展示，從而提高網(wǎng)站的點(diǎn)擊率和轉(zhuǎn)化率[38]。因此，推薦系統(tǒng)廣泛應(yīng)用于互聯(lián)網(wǎng)的各大領(lǐng)域，包括電子商務(wù)（亞馬遜圖薦—圖 1.1，淘寶購物推薦—圖 1.2，京東購物）、電影和視頻（Netflix，YouTube性化音樂電臺(tái)（豆瓣電臺(tái)，Pandora，Last.fm，雅虎音樂）、社交網(wǎng)絡(luò)（Faceboowitter，Linkedin）、個(gè)性化閱讀（Google Reader，鮮果網(wǎng)）、基于位置的服Foursquare）、個(gè)性化郵件（Gmail，Tapestry）和廣告等等。

為三類：基于內(nèi)容的推薦系統(tǒng)，協(xié)同過濾推薦系統(tǒng)，混合推薦系統(tǒng)。基薦系統(tǒng)的核心是能夠獲得物品的準(zhǔn)確描述（這些描述可以是人工生成的自動(dòng)提取的）以及這些特征的重要記錄，基于這些信息就可以為用戶推趣的產(chǎn)品。然而，收集這些物品的描述是一項(xiàng)很大的工程，而且一些物要隨著時(shí)間的變化來更新信息數(shù)據(jù)庫。協(xié)同過濾方法則能夠避免該問題思想是：如果用戶集在過去有相同的偏好，那么可以假定在未來他們一似的偏好�；旌贤扑]系統(tǒng)則是組合不同技術(shù)產(chǎn)生從而更好更精確的推薦在過去的幾年里，推薦系統(tǒng)的研究與發(fā)展如火如荼。未來，，搜索結(jié)果的能會(huì)將搜索引擎變?yōu)樯舷挛母兄�的推薦系統(tǒng)。類似地，其他一些飛速增，比如“物聯(lián)網(wǎng)”或“服務(wù)網(wǎng)”也會(huì)用到推薦系統(tǒng)。目前比較常用且具的協(xié)同過濾推薦算法有交替最小二乘法 (Alternating Least Squares, AL度下降法 (Cyclic Coordinate Descent, CCD)，隨機(jī)梯度下降法 (Stoient Descent, SGD)，奇異值分解 (Single Value Decomposition, SVD)等。推薦算法詳細(xì)介紹請(qǐng)參見 1.2 節(jié)。本文重點(diǎn)關(guān)注的是基于交替最小二乘法解推薦算法。
【學(xué)位授予單位】：國防科技大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2018
【分類號(hào)】：TP391.3;O241.5

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 邵品琮;;最小二乘法介}9[J];數(shù)學(xué)通報(bào);1963年07期

2 謝樂平;陳坡;謝淑坤;;最小二乘法教學(xué)研究[J];智富時(shí)代;2017年01期

3 侯麗麗;任海霞;孫曉丹;劉楊;申琦;;好多元分辨-交替最小二乘法研究姜黃素的性質(zhì)及降解過程[J];計(jì)算機(jī)與應(yīng)用化學(xué);2012年12期

4 王祖蔭;卡爾曼濾波與經(jīng)典最小二乘法[J];巖礦測試;1993年01期

5 R.P.柯雷;賈德華;;用于一般優(yōu)化問題的最小二乘法[J];鐵路航測;1987年03期

6 樓運(yùn)豪;核測量實(shí)驗(yàn)中數(shù)據(jù)處理方法研究[J];實(shí)驗(yàn)室研究與探索;1987年03期

7 徐彥忠,丘思疇;用最小二乘法確定太陽電池電參數(shù)[J];華中理工大學(xué)學(xué)報(bào);1988年S2期

8 王飛躍 ,王景美 ,謝貽權(quán);最佳格點(diǎn)集在最小二乘法中的應(yīng)用[J];浙江大學(xué)學(xué)報(bào)(自然科學(xué)版);1988年03期

9 谷峰;最小二乘法解對(duì)切比雪夫解的逼近[J];浙江大學(xué)學(xué)報(bào)(自然科學(xué)版);1988年06期

10 孫鎖泰 ,楊加明;連續(xù)性最小二乘法解正交異性薄板彎曲問題[J];江蘇工學(xué)院學(xué)報(bào);1988年03期

相關(guān)會(huì)議論文 前10條

1 王大愚;;最小二乘法平滑技術(shù)在體育中運(yùn)用的嘗試[A];第四屆全國運(yùn)動(dòng)生物力學(xué)學(xué)術(shù)會(huì)議論文集（二）[C];1983年

2 朱鳳蓉;徐江;董宏波;周國慶;李志明;;最小二乘法在同位素質(zhì)譜學(xué)中的應(yīng)用[A];2007年全國質(zhì)譜學(xué)會(huì)無機(jī)質(zhì)譜、同位素質(zhì)譜、質(zhì)譜儀器和教育學(xué)專業(yè)委員會(huì)學(xué)術(shù)交流會(huì)論文集[C];2007年

3 柳明;劉雨;蘇寶庫;蔣效雄;;總體最小二乘法辨識(shí)慣導(dǎo)平臺(tái)誤差模型研究[A];2007'儀表，自動(dòng)化及先進(jìn)集成技術(shù)大會(huì)論文集（一）[C];2007年

4 沈燕華;王勇;;膜結(jié)構(gòu)裁剪膜片展開的約束最小二乘法[A];計(jì)算機(jī)技術(shù)在工程建設(shè)中的應(yīng)用——第十二屆全國工程建設(shè)計(jì)算機(jī)應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2004年

5 蔣維;張文坤;羅俊波;楊樹生;;基于最小二乘法的機(jī)床熱誤差建模補(bǔ)償技術(shù)[A];“裝備中國”2017年“創(chuàng)新濱�！�SEW杯”高端裝備創(chuàng)新設(shè)計(jì)大賽論文集[C];2017年

6 張武軍;尹旭日;徐泉峰;;基于音圈電機(jī)驅(qū)動(dòng)的快速定位系統(tǒng)參數(shù)辨識(shí)[A];第六屆全國信息獲取與處理學(xué)術(shù)會(huì)議論文集（2）[C];2008年

7 董艷萍;邢昱;趙文哠;;基于最小二乘法的社會(huì)網(wǎng)絡(luò)辨識(shí)[A];第37屆中國控制會(huì)議論文集（B）[C];2018年

8 毛利軍;陳少林;;基于假設(shè)模態(tài)法的結(jié)構(gòu)模態(tài)識(shí)別[A];第九屆全國振動(dòng)理論及應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2007年

9 陳云生;;用最小二乘法與搜索法尋求A值與風(fēng)速V關(guān)系的數(shù)學(xué)表達(dá)式[A];中國電子學(xué)會(huì)可靠性分會(huì)第十三屆學(xué)術(shù)年會(huì)論文選[C];2006年

10 張波;張大慶;于一發(fā);張剛剛;;基于數(shù)據(jù)的自適應(yīng)動(dòng)態(tài)規(guī)劃——總體最小二乘法[A];第26屆中國控制與決策會(huì)議論文集[C];2014年

相關(guān)博士學(xué)位論文 前10條

1 覃永輝;偏微分方程的耦合Legendre Chebyshev配置最小二乘法[D];上海大學(xué);2016年

2 于志云;非線性方程的混合有限元研究[D];鄭州大學(xué);2012年

3 高俊文;面向機(jī)械故障診斷應(yīng)用的盲分離技術(shù)研究[D];華南理工大學(xué);2016年

4 王彩華;穩(wěn)態(tài)奇異擾動(dòng)問題的數(shù)值解[D];天津大學(xué);2014年

5 李壯;短基線定位關(guān)鍵技術(shù)研究[D];哈爾濱工程大學(xué);2013年

6 孔祥兵;基于同質(zhì)區(qū)分析的高光譜影像混合像元分解[D];武漢大學(xué);2012年

7 陳學(xué)松;強(qiáng)化學(xué)習(xí)及其在機(jī)器人系統(tǒng)中的應(yīng)用研究[D];廣東工業(yè)大學(xué);2011年

8 馬永杰;基于非線性化學(xué)指紋圖譜技術(shù)的乳品質(zhì)控方法研究及數(shù)學(xué)模型構(gòu)建[D];陜西科技大學(xué);2016年

9 徐宗秋;基于多導(dǎo)航衛(wèi)星系統(tǒng)的精密單點(diǎn)定位模型與方法研究[D];遼寧工程技術(shù)大學(xué);2013年

10 鄧祥力;大型變壓器保護(hù)新原理研究和裝置研制[D];華中科技大學(xué);2011年

相關(guān)碩士學(xué)位論文 前10條

1 陳靜;面向眾核平臺(tái)交替最小二乘法的實(shí)現(xiàn)與性能優(yōu)化[D];國防科技大學(xué);2018年

2 Meyof Kweyui Ngongang Mark;基于無線電信號(hào)的精確定位[D];北京郵電大學(xué);2019年

3 常保利;電控機(jī)械式自動(dòng)變速器智能換擋策略建模與仿真研究[D];長安大學(xué);2018年

4 張秀楠;基于可見光的室內(nèi)三維定位算法研究[D];南京師范大學(xué);2018年

5 陳佩玉;基于平面波綜合技術(shù)的雙站柱面近場散射測量方法研究[D];西安電子科技大學(xué);2018年

6 高庚;最小二乘法和總體最小二乘法線性回歸中的估值漂移及其判定[D];太原理工大學(xué);2018年

7 何加寶;多段徑向基函數(shù)網(wǎng)絡(luò)的正交最小二乘法和正則最小二乘法[D];安徽工業(yè)大學(xué);2012年

8 董巧玲;不同誤差影響模型下總體最小二乘法在多元線性回歸中的應(yīng)用研究[D];太原理工大學(xué);2016年

9 韓倩;基于模糊對(duì)數(shù)最小二乘法的企業(yè)價(jià)值評(píng)價(jià)研究[D];成都理工大學(xué);2011年

10 陳雪松;基于遞歸最小二乘法的電壓閃變研究[D];四川大學(xué);2006年

本文編號(hào)：2620924