面向編碼MapReduce的通信有效計算負載調(diào)度研究
發(fā)布時間:2020-12-09 04:28
近年來,邊緣計算已經(jīng)成為了下一代網(wǎng)絡(luò)研究中最為矚目的技術(shù)亮點,邊緣計算為許多諸如虛擬現(xiàn)實,自動駕駛,深度學(xué)習(xí)等新興的計算密集型應(yīng)用提供了強有力的計算力保證。這些新型的計算應(yīng)用的發(fā)展也對計算性能提出更高的要求。MapReduce是一種專門為大規(guī)模并行數(shù)據(jù)處理設(shè)計的分布式計算框架。在邊緣計算中通?梢圆捎肕apReduce框架在多個邊緣服務(wù)器上分布式處理各種類型的計算任務(wù)。更進一步,編碼MapReduce框架利用編碼技術(shù)與冗余計算資源通過調(diào)整計算負載可以對服務(wù)器之間的通信負載進行優(yōu)化。隨著近些年計算應(yīng)用對于低時延的需求日益強烈。邊緣服務(wù)器之間的大量通信負載成為提高計算性能的瓶頸,并且邊緣計算資源具有時變特征。如何通過計算負載調(diào)度充分利用動態(tài)變化的冗余計算資源來提高計算性能,如何對邊緣服務(wù)器之間通信負載進行優(yōu)化。以此為動機,本文開展了對面向編碼MapReduce的通信有效計算負載調(diào)度的研究。首先,本文研究了單任務(wù)場景下通信有效計算負載調(diào)度算法。對于可以預(yù)先獲知整個時間范圍內(nèi)可用計算資源狀態(tài)的離線情況,將通信負載的調(diào)度算法轉(zhuǎn)化為優(yōu)化問題,利用最優(yōu)性條件對計算重復(fù)因子和計算任務(wù)量進行解耦,將聯(lián)合...
【文章來源】:浙江大學(xué)浙江省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:86 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖1.1?MapReduce框架基本執(zhí)行流程[s]??
?丨?_ii?wm??圖1.1?MapReduce框架基本執(zhí)行流程[s]??碼MapReduce框架中,將編碼技術(shù)的應(yīng)用擴展到邊緣計算中來,通過編碼減少Shuffle階段??的通信負載,提高邊緣計算的整體性能。??編碼MapReduce通過建立計算負載與通信負載之間的關(guān)系,證明可以通過增加計算負??載以減少Shuffle階段的通信負載。編碼MapReduce利用不同計算節(jié)點上相同數(shù)據(jù)塊的重復(fù)??計算,以實現(xiàn)編碼。更具體地說,對于具有K個計算節(jié)點的服務(wù)器群集,通過多播LAN網(wǎng)??絡(luò)互連,計算任務(wù)共有<5個輸入文件,B個Reduce函數(shù)。編碼MapReduce提出了一種特定??的策略來分配Map任務(wù),可以對計算節(jié)點上每個數(shù)據(jù)塊進行i?次重復(fù)計算,并在Shuffle階??段進行編碼可以大幅減少Shuffle階段的通信負載,具體實例可以參考如圖1.2所示。??在圖1.2中
□??引理2?(定理2注解).我們發(fā)現(xiàn)在定理2中的計算負載調(diào)度算法與注水算法有異曲同工之??妙。如圖2J所示,A是與^相交的解平面,是它直接決定了調(diào)度方案,因為所有注??入的水S⑷的總量滿足⑴C,+?}?=?M,所以我們可以通過調(diào)整A來??調(diào)整水平面以滿足最終水量的和為M達到最優(yōu)性。此時與最優(yōu)解平面A*與^相交的結(jié)果??便是最優(yōu)調(diào)度算法。??2.4在線計算負載調(diào)度算法??在本節(jié)中,我們基于上一節(jié)的離線最優(yōu)計算負載調(diào)度算法希望可以可在在線場景中得??到相應(yīng)的解決方案。利用競爭分析方法,我們得到任意在線調(diào)度算法的競爭比下界,并且??16??
本文編號:2906271
【文章來源】:浙江大學(xué)浙江省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:86 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖1.1?MapReduce框架基本執(zhí)行流程[s]??
?丨?_ii?wm??圖1.1?MapReduce框架基本執(zhí)行流程[s]??碼MapReduce框架中,將編碼技術(shù)的應(yīng)用擴展到邊緣計算中來,通過編碼減少Shuffle階段??的通信負載,提高邊緣計算的整體性能。??編碼MapReduce通過建立計算負載與通信負載之間的關(guān)系,證明可以通過增加計算負??載以減少Shuffle階段的通信負載。編碼MapReduce利用不同計算節(jié)點上相同數(shù)據(jù)塊的重復(fù)??計算,以實現(xiàn)編碼。更具體地說,對于具有K個計算節(jié)點的服務(wù)器群集,通過多播LAN網(wǎng)??絡(luò)互連,計算任務(wù)共有<5個輸入文件,B個Reduce函數(shù)。編碼MapReduce提出了一種特定??的策略來分配Map任務(wù),可以對計算節(jié)點上每個數(shù)據(jù)塊進行i?次重復(fù)計算,并在Shuffle階??段進行編碼可以大幅減少Shuffle階段的通信負載,具體實例可以參考如圖1.2所示。??在圖1.2中
□??引理2?(定理2注解).我們發(fā)現(xiàn)在定理2中的計算負載調(diào)度算法與注水算法有異曲同工之??妙。如圖2J所示,A是與^相交的解平面,是它直接決定了調(diào)度方案,因為所有注??入的水S⑷的總量滿足⑴C,+?}?=?M,所以我們可以通過調(diào)整A來??調(diào)整水平面以滿足最終水量的和為M達到最優(yōu)性。此時與最優(yōu)解平面A*與^相交的結(jié)果??便是最優(yōu)調(diào)度算法。??2.4在線計算負載調(diào)度算法??在本節(jié)中,我們基于上一節(jié)的離線最優(yōu)計算負載調(diào)度算法希望可以可在在線場景中得??到相應(yīng)的解決方案。利用競爭分析方法,我們得到任意在線調(diào)度算法的競爭比下界,并且??16??
本文編號:2906271
本文鏈接:http://www.lk138.cn/guanlilunwen/ydhl/2906271.html
最近更新
教材專著