發(fā)布時間：2024-06-08 00:24

　　近年來,隨著互聯(lián)網(wǎng)的發(fā)展人們產生的數(shù)據(jù)越來越多,為了處理并挖掘這些數(shù)據(jù)的價值,大數(shù)據(jù)技術得到了飛速的發(fā)展與應用。Hive作為構建與大數(shù)據(jù)基礎平臺之上的開源數(shù)據(jù)應用,具有高擴展性、高容錯性、模式自由的特性,能很好地滿足企業(yè)級數(shù)據(jù)倉庫地需求。因此,各個行業(yè)已經開始大力建設基于大數(shù)據(jù)平臺的數(shù)據(jù)倉庫,通過其對數(shù)據(jù)進行采集、處理挖掘出其潛在的價值。本論文以K12在線教育的業(yè)務需求為背景,在充分研究企業(yè)業(yè)務需求的基礎上,對基于大數(shù)據(jù)平臺的K12在線教育數(shù)據(jù)倉庫進行了總體的系統(tǒng)架構設計,針對數(shù)據(jù)處理過程進行了數(shù)據(jù)流向框架設計及技術選型。通過大數(shù)據(jù)生態(tài)開源組件搭建并部署Hadoop集群,編寫Flume、Kafka等程序采集課堂埋點日志,使用Java編程語言在日志Etl清洗、轉換、脫敏后接入Hive。將已有地Mysql業(yè)務庫數(shù)據(jù)通過Sqoop導入Hive,采用Shell編程語言開發(fā)數(shù)據(jù)一致性校驗腳本,對進入數(shù)據(jù)倉庫的數(shù)據(jù)進行正確性校驗。結合K12在線教育企業(yè)具體的業(yè)務需求采用維度建模,選取星型模式進行數(shù)據(jù)倉庫分層設計與開發(fā),最終完成了數(shù)據(jù)倉庫的設計與實現(xiàn),并對數(shù)據(jù)倉庫實現(xiàn)的功能進行展示與分析。本論文完成...

【文章頁數(shù)】：66 頁

【學位級別】：碩士

【文章目錄】：
摘要
Abstract
第1章 緒論
    1.1 研究背景及意義
    1.2 本論文的研究進展
        1.2.1 數(shù)據(jù)倉庫發(fā)展現(xiàn)狀
        1.2.2 K12 在線教育行業(yè)發(fā)展現(xiàn)狀
    1.3 本文主要研究內容
    1.4 本文的論文的組織結構
第2章 相關技術基礎
    2.1 大數(shù)據(jù)開源生態(tài)
    2.2 大數(shù)據(jù)獲取技術
    2.3 大數(shù)據(jù)平臺資源管理技術
    2.4 大數(shù)據(jù)處理技術
    2.5 企業(yè)級數(shù)據(jù)倉庫
    2.6 本章小結
第3章 需求分析與方案設計
    3.1 需求整理
        3.1.1 功能性需求
        3.1.2 非功能性需求
    3.2 系統(tǒng)體系設計
        3.2.1 總體架構設計
        3.2.2 系統(tǒng)功能架構
        3.2.3 系統(tǒng)技術選型
    3.3 本章小結
第4章 數(shù)據(jù)倉庫設計與實現(xiàn)
    4.1 基于虛擬化的大數(shù)據(jù)平臺搭建
        4.1.1 Ambari集群部署
        4.1.2 數(shù)據(jù)庫環(huán)境配置
    4.2 數(shù)據(jù)接入與處理實現(xiàn)
        4.2.1 數(shù)據(jù)源分析與定義
        4.2.2 日志采集與接入HDFS
        4.2.3 業(yè)務庫數(shù)據(jù)導入與導出
        4.2.4 實時自動同步業(yè)務庫信息至數(shù)據(jù)倉庫
        4.2.5 數(shù)據(jù)的一致性校驗
    4.3 K12 在線教育數(shù)據(jù)倉庫模型設計
        4.3.1 業(yè)務主題的劃分
        4.3.2 數(shù)據(jù)倉庫模型建模
        4.3.3 數(shù)據(jù)倉庫分層設計
        4.3.4 寬表的設計與開發(fā)
    4.4 本章小結
第5章 數(shù)據(jù)倉庫在K12 在線教育領域的驗證與實現(xiàn)
    5.1 Hive數(shù)據(jù)倉庫數(shù)據(jù)導入導出驗證
    5.2 K12 在線教育數(shù)據(jù)倉庫性能分析
    5.3 看板與報表的展示與分析
    5.4 課次分析報告實時生成與推送
    5.5 本章小結
結論
參考文獻
致謝



本文編號：3991180