一類凸優(yōu)化問題的隨機下降算法及其應(yīng)用
發(fā)布時間:2020-04-04 19:44
【摘要】:近年來,最優(yōu)化問題的研究和發(fā)展得到了廣泛的關(guān)注.隨著大數(shù)據(jù)時代的到來,源于工程、信息、生物等很多應(yīng)用問題中,所求模型可以被歸納為等式約束優(yōu)化問題.由于目標(biāo)函數(shù)可能非光滑、問題規(guī)模又特別巨大,傳統(tǒng)的內(nèi)點算法等往往不適合,這些問題可以使用增廣拉格朗日算法或者ADMM算法等一階算法求解更為適合.其中,ADMM算法利用目標(biāo)函數(shù)關(guān)于兩塊變量的可分性,把一個規(guī)模較大的子問題轉(zhuǎn)化為兩個規(guī)模較小的子問題求解,大大簡化了子問題的計算量.由于這些問題的重要應(yīng)用價值,近十幾年,學(xué)者們提出了一系列ADMM的改進算法.其中,ADMM下降算法(DADMM)可以在保持每步計算量基本不變的前提下,通過對部分變量進行延拓,提高了ADMM的收斂速度.另一方面,有學(xué)者提出利用隨機步長加快投影收縮算法的收斂速度.本文在ADMM下降算法的基礎(chǔ)之上,結(jié)合了隨機步長的思想,提出了隨機步長ADMM下降算法(RDADMM),進一步提高了收斂速度.同時,針對目標(biāo)函數(shù)具有特殊結(jié)構(gòu)的情形,有學(xué)者提出了線性化ADMM算法,利用目標(biāo)函數(shù)的結(jié)構(gòu),通過對ADMM子問題進行線性化等改造使其有顯式解,簡化了子問題求解.基于此算法,又有學(xué)者將線性化ADMM算法和ADMM下降算法相結(jié)合,提出了線性化ADMM下降算法,在保持子問題有顯式解的前提之下提升了線性化ADMM算法的收斂速度.本文結(jié)合隨機步長思想,提出了隨機步長的線性化ADMM下降算法(RDLADMM).通過求解帶等式約束的二次規(guī)劃數(shù)值實驗,新算法的計算效率得到了驗證.本文具體研究內(nèi)容安排如下:第一章,主要介紹了選題背景和研究意義,以及ADMM算法的國內(nèi)外研究現(xiàn)狀,并闡述了本文的主要工作.第二章,介紹本文的研究成果.針對求解帶有兩塊變量的結(jié)構(gòu)型凸優(yōu)化問題,我們提出了兩種新算法,即RDADMM算法和RDLADMM算法.第三章,給出了本文新算法的收斂性分析和證明.第四章,證明了本文新算法收斂速率為O(1/t).第五章,數(shù)值實驗.將RDADMM算法應(yīng)用于求解帶有兩塊變量結(jié)構(gòu)型凸優(yōu)化問題,驗證其計算效率.第六章,對本文的研究進行總結(jié)和展望.
【學(xué)位授予單位】:南京財經(jīng)大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:O224
本文編號:2613997
【學(xué)位授予單位】:南京財經(jīng)大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:O224
【參考文獻】
相關(guān)期刊論文 前3條
1 徐海文;;一類凸優(yōu)化的混合下降算法[J];計算數(shù)學(xué);2012年01期
2 徐海文;;一類單調(diào)非線性變分不等式的前向加速收縮算法[J];數(shù)值計算與計算機應(yīng)用;2011年04期
3 徐海文;;一類變分不等式的隨機步長收縮算法[J];工程數(shù)學(xué)學(xué)報;2011年04期
,本文編號:2613997
本文鏈接:http://www.lk138.cn/kejilunwen/yysx/2613997.html
最近更新
教材專著