隨著深度學(xué)習(xí)的不斷發(fā)展,深度學(xué)習(xí)已經(jīng)在圖像、語(yǔ)言、文本各方面得到比較廣泛的應(yīng)用。在如今的社會(huì)中,深度學(xué)習(xí)也利用在許多對(duì)安全嚴(yán)苛的環(huán)境中,在個(gè)人的財(cái)產(chǎn)和隱私方面也已經(jīng)廣泛的利用到深度學(xué)習(xí)。目前的研究發(fā)現(xiàn)對(duì)抗樣例能夠比較容易欺騙深度學(xué)習(xí)網(wǎng)絡(luò),能夠使深度學(xué)習(xí)網(wǎng)絡(luò)出現(xiàn)錯(cuò)誤的分類結(jié)果,甚至能夠產(chǎn)生攻擊者想要的分類結(jié)果,同時(shí)人們對(duì)對(duì)抗樣例的分辨是非常困難的,很多攻擊者產(chǎn)生的對(duì)抗樣例是人眼很難分辨的。對(duì)抗樣本的脆弱性成為在安全關(guān)鍵的情況下應(yīng)用深度神經(jīng)網(wǎng)絡(luò)的主要風(fēng)險(xiǎn)之一。本文以此為前提背景,設(shè)計(jì)了面向深度學(xué)習(xí)模型的安全測(cè)試平臺(tái),充分解決了人們對(duì)深度學(xué)習(xí)安全問(wèn)題的知識(shí)的不足。本文主要對(duì)整個(gè)平臺(tái)做出仔細(xì)的分析,對(duì)系統(tǒng)的整體架構(gòu)做出總結(jié),并總結(jié)了目前比較流行的深度學(xué)習(xí)模型攻擊算法,在此基礎(chǔ)上開(kāi)發(fā)面向深度學(xué)習(xí)模型的安全測(cè)試平臺(tái)。面向深度學(xué)習(xí)模型的安全測(cè)試平臺(tái)主要包括用戶登陸注冊(cè)模塊、深度學(xué)習(xí)攻擊模塊、防御模塊、以及評(píng)估模塊,攻擊模塊和防御模塊使用當(dāng)今比較流行的算法。其中利用深度學(xué)習(xí)模型進(jìn)行圖片預(yù)測(cè)產(chǎn)生預(yù)測(cè)正確的圖片,利用攻擊算法產(chǎn)生對(duì)抗樣例,并提供用戶下載。防御模塊利用防御算法產(chǎn)生防御增強(qiáng)模型,使模型能夠更加...

【文章頁(yè)數(shù)】：90 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２－１所示：??用???????，???Ｓ?卜型上＃?Ｉ?丨模型防御１丨模型評(píng)佔(zhàn)１??面???．．個(gè)?

?山東大學(xué)碩士學(xué)位論文???２．２面向深度學(xué)習(xí)模型的安全測(cè)試平臺(tái)描述??２．２．１業(yè)務(wù)流程分析??為了方便用戶使用該系統(tǒng)，本節(jié)主要對(duì)各個(gè)�？爝M(jìn)行流程分析，并利用流程??圖的方式詳細(xì)的描述。首先是系統(tǒng)整體描述，系統(tǒng)主要包括數(shù)據(jù)集層，深度學(xué)習(xí)??模型的利用以及評(píng)估的方法的指標(biāo)，評(píng)估的....

圖２－２攻擊流程圖??攻擊模塊主要是使用深度學(xué)習(xí)模型預(yù)測(cè)正確的數(shù)據(jù)集，利用現(xiàn)有的攻擊算法??生成對(duì)抗樣例，然后通過(guò)這些對(duì)抗樣例進(jìn)行評(píng)估，系統(tǒng)設(shè)計(jì)了對(duì)于攻擊的衡量標(biāo)??

就是用戶的界??面進(jìn)行各種的操作，操作易上手。??（２）攻擊模塊流程圖??用戶需要登陸系統(tǒng)后才能使用系統(tǒng)所提供的該模塊的功能。用戶可以選擇上??傳自己的深度學(xué)習(xí)模型，選擇使用攻擊的算法。使用攻擊算法時(shí)，主要是利用用??戶上傳的深度學(xué)習(xí)模型保存文件，系統(tǒng)支持ｐｙｔｏｒｃｈ保存的模型....

圖２－３防御流程圖??用戶登陸后才能夠使用防御模塊的功能，防御模塊主要是實(shí)現(xiàn)對(duì)模型的防御

影響深度學(xué)習(xí)模型的預(yù)測(cè)結(jié)果，展示??出深度學(xué)習(xí)模型的脆弱性。??在預(yù)測(cè)完成后，系統(tǒng)設(shè)置評(píng)估的標(biāo)準(zhǔn)主要包括：ＭＲ：?錯(cuò)誤分類的概率、??ＡＣＡＣ：對(duì)錯(cuò)誤類的平均預(yù)測(cè)置信度、ＡＣＴＣ：對(duì)正確類的平均預(yù)測(cè)置信度、ＡＬＤ：??平均Ｌ１或者Ｌ２或者Ｌ無(wú)窮范式的失真度量、ＡＳＳ：平均結(jié)構(gòu)的相....

圖２￣４評(píng)估流程圖??２．２．２功能性需求??根據(jù)上節(jié)所述，該平臺(tái)主要包括普通用戶和管理員兩種角色

?山東大學(xué)碩士學(xué)位論文???（’開(kāi)始?１?（?Ｓｉ?、）????．、、?－Ｊ??＜????Ｊ??????????用戶登陸?否?生成對(duì)抗樣例——？?——？查看評(píng)估效果??：?ｆ￣￣?￣ｆ＾?＾Ｔ￣??否否是??上傳深度學(xué)習(xí)模?Ｌ?不???型圖片?口??圖２￣４評(píng)估流程圖??２．２．....

本文編號(hào)：3920532