矩陣分解相關(guān)模型的優(yōu)化算法研究
發(fā)布時(shí)間:2024-07-08 20:16
矩陣分解的原理是將原始數(shù)據(jù)矩陣分解成多個(gè)矩陣的乘積,其作用是數(shù)據(jù)降維或者超完備基的學(xué)習(xí)。然而,傳統(tǒng)的矩陣分解算法存在很多不足,第一,容易陷入局部解,而無(wú)法搜素到全局最優(yōu)解;第二,對(duì)于各個(gè)子問(wèn)題優(yōu)化存在收斂慢、計(jì)算量大和精度差等問(wèn)題。因此,本文提出收斂快、計(jì)算量小、精度高以及能搜索到全局解的多個(gè)算法,理論和實(shí)驗(yàn)證實(shí)了這些算法的可行性和有效性。除了對(duì)矩陣分解問(wèn)題的優(yōu)化算法進(jìn)行研究以外,本文還要研究如何將矩陣分解有效地應(yīng)用到實(shí)際問(wèn)題;诰仃嚪纸獾乃枷,本文提出了監(jiān)督性學(xué)習(xí)方法,該方法可以很好應(yīng)用于圖像識(shí)別。我們的創(chuàng)新點(diǎn)如下:·提出基于慣性神經(jīng)網(wǎng)絡(luò)求解非負(fù)矩陣分解的一類算法,通過(guò)Lyapunov泛函知識(shí)證明慣性神經(jīng)網(wǎng)絡(luò)系統(tǒng)的穩(wěn)定性,且收斂到全局最優(yōu)解。相對(duì)于傳統(tǒng)算法而言,該算法的優(yōu)勢(shì)在于通過(guò)調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)的慣性項(xiàng),從而搜索到全局最優(yōu)解!ぬ岢龌诠烙(jì)序列優(yōu)化來(lái)理論求解非負(fù)矩陣分解的一類算法:即通過(guò)Nesterov的凸優(yōu)理論對(duì)兩個(gè)帶約束凸二次規(guī)劃問(wèn)題進(jìn)行交替優(yōu)化。相對(duì)于傳統(tǒng)算法而言,該類算法的優(yōu)勢(shì)在于各子問(wèn)題的算法收斂率為O(1/k2),且擁有收斂快,計(jì)算量小和精度高的特點(diǎn)...
【文章頁(yè)數(shù)】:103 頁(yè)
【學(xué)位級(jí)別】:博士
【部分圖文】:
本文編號(hào):4003818
【文章頁(yè)數(shù)】:103 頁(yè)
【學(xué)位級(jí)別】:博士
【部分圖文】:
圖1.1本文研究的內(nèi)容和應(yīng)用范圍用一個(gè)慣性神經(jīng)網(wǎng)絡(luò)系統(tǒng)直接優(yōu)化非負(fù)矩陣分解,第二,采用兩個(gè)慣性神經(jīng)網(wǎng)絡(luò)系統(tǒng)交替優(yōu)化非負(fù)矩陣分解
圖1.1本文研究的內(nèi)容和應(yīng)用范圍性神經(jīng)網(wǎng)絡(luò)系統(tǒng)直接優(yōu)化非負(fù)矩陣分解,第二,采交替優(yōu)化非負(fù)矩陣分解。通過(guò)信號(hào)處理實(shí)驗(yàn)證明,,我們提出的算法在盲源分離中可以獲得更好分離化算法求解非負(fù)矩陣分解各子問(wèn)題存在收斂慢、計(jì),本文將Nesterov的估計(jì)序列理論應(yīng)用于求解非,使其各個(gè)子問(wèn)....
圖5.1LDA示意圖:紅點(diǎn)表示0類,藍(lán)點(diǎn)表示1類,圖中分類直線為y=wTx
即每行減少對(duì)應(yīng)行的均值C=1mˉXˉXT,并計(jì)算出其對(duì)應(yīng)的特征對(duì)應(yīng)的特征值大小,從大到小排列,,其降維后的數(shù)據(jù)為Y=PZ。LDA)(LinearDiscriminantAnalysis,LD法,其有關(guān)的理論最開始由Fish提,試著將樣本集投影到直線上,使投影位置....
本文編號(hào):4003818
本文鏈接:http://www.lk138.cn/kejilunwen/yysx/4003818.html
最近更新
教材專著