發(fā)布時間：2020-10-20 01:01

　　 有序?qū)W習(xí)是機(jī)器學(xué)習(xí)中的一種特殊的有監(jiān)督學(xué)習(xí)方法,它可有效利用數(shù)據(jù)之間的等第關(guān)系,備受研究者的廣泛關(guān)注。基于費希爾判別分析的有序回歸模型LDLOR(Linear Discriminant Learning for Ordinal Regression)雖有效解決有序數(shù)據(jù)的分類或回歸問題,但未能有效利用數(shù)據(jù)的結(jié)構(gòu)信息等。為此,論文以LDLOR模型為基礎(chǔ),結(jié)合高校本科生期末成績預(yù)測場景,側(cè)重圍繞嵌入局部結(jié)構(gòu)保持和類內(nèi)離散度自適應(yīng)調(diào)整的有序?qū)W習(xí)開展研究。主要工作如下:1.提出了基于局部保持的有序回歸學(xué)習(xí)算法(LSP-LDLOR)、基于自適應(yīng)局部保持的有序回歸學(xué)習(xí)算法(SaLSP-LDLOR)。LSP-LDLOR 算法以 IMED-LDLOR(IMED:IMage Euclidean Distance)為基礎(chǔ),嵌入樣本空間局部結(jié)構(gòu)信息;進(jìn)一步,對局部保持矩陣進(jìn)行了自適應(yīng)調(diào)整,得到優(yōu)化的局部保持矩陣,以此構(gòu)建基于自適應(yīng)局部保持的有序回歸學(xué)習(xí)算法SaLSP-LDLOR。將LSP-LDLOR算法與SaLSP-LDLOR算法在人臉表情數(shù)據(jù)集JAFFE和人臉年齡數(shù)據(jù)集FG-NET上與IMED-LDLOR算法進(jìn)行了比較,實驗驗證了算法的有效性。2.提出了基于自適應(yīng)類內(nèi)離散度的有序回歸學(xué)習(xí)(SaSw-LDLOR)算法、基于局部保持自適應(yīng)類內(nèi)離散度的有序回歸學(xué)習(xí)(LSaSw-LDLOR)算法。以IMED-LDLOR為基礎(chǔ),對類內(nèi)離散度矩陣進(jìn)行模糊自適應(yīng)調(diào)整,構(gòu)建基于自適應(yīng)類內(nèi)離散度的有序回歸學(xué)習(xí)算法。進(jìn)一步,嵌入局部結(jié)構(gòu)保持信息,設(shè)計出基于局部保持自適應(yīng)類內(nèi)離散度的有序回歸學(xué)習(xí)算法LSaSw-LDLOR。將SaSw-LDLOR算法與LSaSw-LDLOR算法在人臉表情數(shù)據(jù)集JAFFE和人臉年齡數(shù)據(jù)集FG-NET上與IMED-LDLOR算法進(jìn)行了比較,實驗驗證了算法的有效性。3.利用新設(shè)計的有序?qū)W習(xí)算法進(jìn)行成績預(yù)測。以南京師范大學(xué)2017級某學(xué)院的大學(xué)計算機(jī)基礎(chǔ)課程成績預(yù)測為背景,以此驗證新設(shè)計算法的適用性。訓(xùn)練集來自學(xué)生們一整個學(xué)期的課堂考勤、一卡通消費、圖書館進(jìn)出、上網(wǎng)時段與時長以及過程性考核等信息。分析了經(jīng)典的機(jī)器學(xué)習(xí)算法和有序回歸學(xué)習(xí)算法對樣本學(xué)生的期末成績預(yù)測的準(zhǔn)確率等,在成績預(yù)測實驗中驗證了新提出算法的實用性。
【學(xué)位單位】：南京師范大學(xué)
【學(xué)位級別】：碩士
【學(xué)位年份】：2019
【中圖分類】：G434;TP181
【部分圖文】：

有序回歸（Ｏｒｄｉｎａｌ?Ｒｅｇｒｅｓｓｉ叫ＯＲ）學(xué)習(xí)屬于機(jī)器學(xué)習(xí)中的有監(jiān)督學(xué)習(xí)方法［叫。??目前，己有眾多有序回歸方法相繼被提出，根據(jù)ＧｕｔｉＳｒｒｅｚ等人［１３］的表述，有序??回歸方法可分為樸素方法、有序二分類方法和閾值方法，如圖１．２所示。??—?＠歸???—ｆｆ通分類??—樸＊方法一???￣??Ｉ—代價分類????［―?荇序分Ｗ??—二分類法－???｜細(xì)歸｜－?Ｈ?ａ約麟??—｜?Ｋ枳分布??—?支持向＊機(jī)??—?閾值法一一判規(guī)學(xué)習(xí)??—?流形學(xué)習(xí)??—?高斯過ｇ??圖１．２有序回歸算法分類??２??

是高維樣本數(shù)據(jù)投影到低維后使其局部信息能夠得到最像歐式距離度量，是本文第三章與第四章圖像分析所采用的方ｒ判別分析??ｒ判別分析，或者可稱為線性判別分析（Ｌｉｎｅａｒ?ｄｉｓｃｒｉｍｉｎａｎｔ?ａ一種被廣泛使用的經(jīng)典特征提取方法。Ｆｉｓｈｅｒ判別分析最ｒ于１９３６年提出來的二類分類方法［６１］，其目的是利用已知類別模型，為未知類別的樣本進(jìn)行分類＝隨后，Ｒａｏ等人［６２］在１９４８年進(jìn)行了擴(kuò)展，使其能夠處理多分類問題。??ｒ判別分析與統(tǒng)計學(xué)中的方差分析（Ａｎａｌｙｓｉｓ?ｏｆ?ｖａｒｉａｎｃｅ，?ＡＮＯＶＡ）相關(guān)，它們都試圖通過一些特征或測量值的線性組合來表示一個所示，Ｆｉｓｈｅｒ判別分析的核心思想是投影，即將高維問題簡化為。給定訓(xùn)練樣本集，尋找一條最佳的投影方向，投影后使得同類異類樣本盡可能遠(yuǎn)。??

別分析的有序回歸模型最早由Ｓｕｎ等人于文獻(xiàn)［３２］中提的模型是基于線性條件下的，所以這里僅介紹該模型的序回歸模型（Ｌｉｎｅａｒ?Ｄｉｓｃｒｉｍｉｎａｎｔ?Ｌｅａｒｎｉｎｇ?ｆｏｒ?ＯｒｄｉｎａｌＬＤＡ相同，ＬＤＬＯＲ通過尋找一條最佳的投影方向，使相關(guān)性沿著該投影方向能夠得到較好地保持。??有序回歸模型ＬＤＬＯＲ滿足以下兩條原則：??影向量ｗ應(yīng)盡可能地最大化類間離散度且最小化類內(nèi)影向量…應(yīng)充分保留原樣本空間數(shù)據(jù)的有序相關(guān)性。??ＤＬＯＲ模型描述如下??ｍｉｎ?Ｊ｛ｗ，ｐ）?＝?ｈ＞ｔ?－Ｓ?ｗ?—?Ｃ?ｐ??＇ｓ．ｔ．?ｗ?■?（ｍｋ＋１?－?ｍｋ）?＞?ｐ，?ｋ?＝?＼，２，．．．，Ｋ—＼??示第Ａ－類樣本的均值，Ｃ表示懲罰系數(shù)。若ｐ＞０，則保持原空間的有序關(guān)系。??式（２．６）是一個經(jīng)典的二次規(guī)劃問題（Ｑｕａｄｒａｔｉｃ?Ｐｒｏｇｒａｍ式??
【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 程寬桐;算法分類及各種基本算法的比較與優(yōu)選(上)[J];齊魯珠壇;1996年04期

2 劉培;池忠軍;;算法歧視的倫理反思[J];自然辯證法通訊;2019年10期

3 孫建麗;;算法自動化決策風(fēng)險的法律規(guī)制研究[J];法治研究;2019年04期

4 吳珍珍;;基于分類規(guī)則算法對存款意愿傾向的研究[J];石河子科技;2018年02期

5 唐璐楊;唐小妹;李柏渝;劉小匯;;多源融合導(dǎo)航系統(tǒng)的融合算法綜述[J];全球定位系統(tǒng);2018年03期

6 周祉含;;西方新聞傳播學(xué)的算法研究綜述[J];新聞愛好者;2019年04期

7 趙春杰;;算法共謀的規(guī)制思路[J];市場周刊;2019年07期

8 金爽;;基于標(biāo)簽傳播的社區(qū)發(fā)現(xiàn)算法研究與應(yīng)用[J];電腦迷;2018年01期

9 孫建麗;;試論算法的法律保護(hù)模式[J];電子知識產(chǎn)權(quán);2019年06期

10 程寬桐;算法分類及各種基本算法的比較與優(yōu)選（下）[J];齊魯珠壇;1996年05期

相關(guān)博士學(xué)位論文 前7條

1 賈潔茹;跨攝像機(jī)行人再識別中度量學(xué)習(xí)算法研究[D];北京交通大學(xué);2019年

2 高陽;基于局部擴(kuò)展的重疊社區(qū)發(fā)現(xiàn)算法研究[D];哈爾濱工業(yè)大學(xué);2019年

3 翟婷婷;面向流數(shù)據(jù)分類的在線學(xué)習(xí)算法研究[D];南京大學(xué);2018年

4 段沛博;分布式約束優(yōu)化算法的研究與應(yīng)用[D];東北大學(xué);2017年

5 羅春備;面向多尺度復(fù)雜場景的高效電磁仿真算法研究[D];浙江大學(xué);2019年

6 邵彥超;油氣井安全生產(chǎn)監(jiān)控數(shù)據(jù)預(yù)測預(yù)警系統(tǒng)及算法研究[D];北京郵電大學(xué);2016年

7 劉瓊;鄉(xiāng)村道路環(huán)境下農(nóng)業(yè)機(jī)器人導(dǎo)航避障算法研究[D];西北農(nóng)林科技大學(xué);2017年

相關(guān)碩士學(xué)位論文 前10條

1 蔣阿娟;基于改進(jìn)的LBP與2DLDA算法的人臉識別研究[D];安徽理工大學(xué);2019年

2 張洲;無源測向關(guān)鍵技術(shù)及算法實現(xiàn)[D];電子科技大學(xué);2019年

3 聶飛;遷移聚類新算法研究[D];江南大學(xué);2019年

4 李俊杰;動態(tài)時間規(guī)整算法的改進(jìn)研究及其應(yīng)用[D];江南大學(xué);2019年

5 楊姣;基于KNN算法的網(wǎng)絡(luò)流量異常檢測研究[D];曲阜師范大學(xué);2019年

6 席毅堃;基于K-means的改進(jìn)C4.5算法研究[D];內(nèi)蒙古農(nóng)業(yè)大學(xué);2019年

7 鮑舒婷;密度峰聚類算法優(yōu)化及其隱私保護(hù)研究[D];安徽師范大學(xué);2019年

8 謝勇;基于Spark平臺的聚類算法研究[D];重慶郵電大學(xué);2018年

9 董耀聰;基于機(jī)會思想的無線傳感器網(wǎng)絡(luò)節(jié)點路由算法研究[D];北京交通大學(xué);2019年

10 杜托;基于Hadoop的關(guān)聯(lián)規(guī)則挖掘算法研究[D];重慶郵電大學(xué);2018年

本文編號：2847970