中国韩国日本在线观看免费,A级尤物一区,日韩精品一二三区无码,欧美日韩少妇色

基于模型聚合的分布式拜占庭魯棒優(yōu)化算法研究

發(fā)布時間:2024-06-28 03:11
  機器學習算法離不開數(shù)據(jù)。隨著數(shù)據(jù)的爆炸式增長,單臺機器無法分析如此大規(guī)模的數(shù)據(jù)。同時,在某些場景中,數(shù)據(jù)本身分布式地存儲在不同的設(shè)備中,由于隱私問題,無法將這類數(shù)據(jù)收集到某個設(shè)備集中處理;谏鲜鲈,許多學者提出了分布式機器學習算法。在這些算法中,數(shù)據(jù)可以分布在多臺機器中,這些機器可以通過某種方式實現(xiàn)信息的交換,從而可以協(xié)同合作地學習一個更加強大有效的模型。傳統(tǒng)的分布式機器學習假設(shè)每個計算節(jié)點都是可靠的,然而在實際應用問題中并非如此。一些計算節(jié)點可能因為遭到了惡意攻擊或篡改,或者因為機器本身的故障或數(shù)據(jù)錯誤,會發(fā)送錯誤信息給中心節(jié)點,從而導致模型訓練失敗。相關(guān)研究把這些發(fā)送錯誤信息給中心節(jié)點的計算節(jié)點稱為拜占庭節(jié)點,存在拜占庭節(jié)點的分布式計算模型稱為拜占庭錯誤模型。本文主要研究在拜占庭錯誤模型下的分布式的魯棒優(yōu)化算法。在master-worker結(jié)構(gòu)中,假設(shè)一部分計算節(jié)點是拜占庭節(jié)點。在訓練模型的過程中,由于數(shù)據(jù)損壞、通信錯誤或者惡意攻擊,拜占庭節(jié)點在每次通信會發(fā)送任意的錯誤信息給中心節(jié)點,從而破壞模型的協(xié)同訓練。針對機器學習領(lǐng)域常見的隨機優(yōu)化問題,本文提出了一種能夠抵抗拜占庭攻擊的...

【文章頁數(shù)】:57 頁

【學位級別】:碩士

【部分圖文】:

圖3.1隨機梯度下降算法的步驟圖示???=-■

圖3.1隨機梯度下降算法的步驟圖示???=-■

?第3章基于模型聚合的拜占庭魯棒優(yōu)化算法???Master??Worker?…丨,<?M??1— ̄,,一- ̄^ ̄ ̄** ̄>_、?^ ̄ ̄I?、??T?ri?T^-p^??■?datat???????!?datOf.?\???damr^i\???????i?datam??1?…?r?....


圖3.2?RSA的步驟圖示???-?

圖3.2?RSA的步驟圖示???-?

的迭代值xg;??8根據(jù)式子(3.9)或者式子(3.12)更新本地迭代值。??Master??Worker?…?Sj?…N?? ̄:!? ̄?—?—?^—..???:?.?卜 ̄?一^?——-—-I??????dat〇i?;?datctr?\?datar^x\???????datam?....


圖3.5髙斯攻擊下Top*l準確率(a)g?=?4?(bh?=?8??

圖3.5髙斯攻擊下Top*l準確率(a)g?=?4?(bh?=?8??

?i.???GeoMde?o.0-4???GeoMde??°?0?4?Krum?°?▼-▼?Krum??0.3?會,,Median?〇?2??-?Median??〇2?^?RSA?.會……RSA???-?SGD??-?SGD??°?1000?2000?3000?4000?5000....


圖3.6常數(shù)向量攻擊下Top-1準確率(a)?9?=?4?(bh?=?8??

圖3.6常數(shù)向量攻擊下Top-1準確率(a)?9?=?4?(bh?=?8??

?i.???GeoMde?o.0-4???GeoMde??°?0?4?Krum?°?▼-▼?Krum??0.3?會,,Median?〇?2??-?Median??〇2?^?RSA?.會……RSA???-?SGD??-?SGD??°?1000?2000?3000?4000?5000....



本文編號:3996347

資料下載
論文發(fā)表

本文鏈接:http://www.lk138.cn/shoufeilunwen/xixikjs/3996347.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶3ce45***提供,本站僅收錄摘要或目錄,作者需要刪除請E-mail郵箱bigeng88@qq.com