發(fā)布時(shí)間：2024-03-06 04:11

　　隨著深度學(xué)習(xí)的不斷發(fā)展,深度學(xué)習(xí)已經(jīng)在圖像、語言、文本各方面得到比較廣泛的應(yīng)用。在如今的社會中,深度學(xué)習(xí)也利用在許多對安全嚴(yán)苛的環(huán)境中,在個(gè)人的財(cái)產(chǎn)和隱私方面也已經(jīng)廣泛的利用到深度學(xué)習(xí)。目前的研究發(fā)現(xiàn)對抗樣例能夠比較容易欺騙深度學(xué)習(xí)網(wǎng)絡(luò),能夠使深度學(xué)習(xí)網(wǎng)絡(luò)出現(xiàn)錯誤的分類結(jié)果,甚至能夠產(chǎn)生攻擊者想要的分類結(jié)果,同時(shí)人們對對抗樣例的分辨是非常困難的,很多攻擊者產(chǎn)生的對抗樣例是人眼很難分辨的。對抗樣本的脆弱性成為在安全關(guān)鍵的情況下應(yīng)用深度神經(jīng)網(wǎng)絡(luò)的主要風(fēng)險(xiǎn)之一。本文以此為前提背景,設(shè)計(jì)了面向深度學(xué)習(xí)模型的安全測試平臺,充分解決了人們對深度學(xué)習(xí)安全問題的知識的不足。本文主要對整個(gè)平臺做出仔細(xì)的分析,對系統(tǒng)的整體架構(gòu)做出總結(jié),并總結(jié)了目前比較流行的深度學(xué)習(xí)模型攻擊算法,在此基礎(chǔ)上開發(fā)面向深度學(xué)習(xí)模型的安全測試平臺。面向深度學(xué)習(xí)模型的安全測試平臺主要包括用戶登陸注冊模塊、深度學(xué)習(xí)攻擊模塊、防御模塊、以及評估模塊,攻擊模塊和防御模塊使用當(dāng)今比較流行的算法。其中利用深度學(xué)習(xí)模型進(jìn)行圖片預(yù)測產(chǎn)生預(yù)測正確的圖片,利用攻擊算法產(chǎn)生對抗樣例,并提供用戶下載。防御模塊利用防御算法產(chǎn)生防御增強(qiáng)模型,使模型能夠更加...

【文章頁數(shù)】：90 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖２－１所示：??用???????，???Ｓ?卜型上＃?Ｉ?丨模型防御１丨模型評佔(zhàn)１??面???．．個(gè)?

?山東大學(xué)碩士學(xué)位論文???２．２面向深度學(xué)習(xí)模型的安全測試平臺描述??２．２．１業(yè)務(wù)流程分析??為了方便用戶使用該系統(tǒng)，本節(jié)主要對各個(gè)�？爝M(jìn)行流程分析，并利用流程??圖的方式詳細(xì)的描述。首先是系統(tǒng)整體描述，系統(tǒng)主要包括數(shù)據(jù)集層，深度學(xué)習(xí)??模型的利用以及評估的方法的指標(biāo)，評估的....

圖２－２攻擊流程圖??攻擊模塊主要是使用深度學(xué)習(xí)模型預(yù)測正確的數(shù)據(jù)集，利用現(xiàn)有的攻擊算法??生成對抗樣例，然后通過這些對抗樣例進(jìn)行評估，系統(tǒng)設(shè)計(jì)了對于攻擊的衡量標(biāo)??

就是用戶的界??面進(jìn)行各種的操作，操作易上手。??（２）攻擊模塊流程圖??用戶需要登陸系統(tǒng)后才能使用系統(tǒng)所提供的該模塊的功能。用戶可以選擇上??傳自己的深度學(xué)習(xí)模型，選擇使用攻擊的算法。使用攻擊算法時(shí)，主要是利用用??戶上傳的深度學(xué)習(xí)模型保存文件，系統(tǒng)支持ｐｙｔｏｒｃｈ保存的模型....

圖２－３防御流程圖??用戶登陸后才能夠使用防御模塊的功能，防御模塊主要是實(shí)現(xiàn)對模型的防御

影響深度學(xué)習(xí)模型的預(yù)測結(jié)果，展示??出深度學(xué)習(xí)模型的脆弱性。??在預(yù)測完成后，系統(tǒng)設(shè)置評估的標(biāo)準(zhǔn)主要包括：ＭＲ：?錯誤分類的概率、??ＡＣＡＣ：對錯誤類的平均預(yù)測置信度、ＡＣＴＣ：對正確類的平均預(yù)測置信度、ＡＬＤ：??平均Ｌ１或者Ｌ２或者Ｌ無窮范式的失真度量、ＡＳＳ：平均結(jié)構(gòu)的相....

圖２￣４評估流程圖??２．２．２功能性需求??根據(jù)上節(jié)所述，該平臺主要包括普通用戶和管理員兩種角色

?山東大學(xué)碩士學(xué)位論文???（’開始?１?（?Ｓｉ?、）????．、、?－Ｊ??＜????Ｊ??????????用戶登陸?否?生成對抗樣例——？?——？查看評估效果??：?ｆ￣￣?￣ｆ＾?＾Ｔ￣??否否是??上傳深度學(xué)習(xí)模?Ｌ?不???型圖片?口??圖２￣４評估流程圖??２．２．....

本文編號：3920532