決策樹(shù)是機(jī)器學(xué)習(xí)中較為常用的一種算法,是一種強(qiáng)大的分類(lèi)器。決策樹(shù)的基本原理是利用樹(shù)形結(jié)構(gòu)對(duì)特征屬性以及潛在結(jié)果之間的關(guān)系建立起的模型。與神經(jīng)網(wǎng)絡(luò),支持向量機(jī)不同,利用決策樹(shù)進(jìn)行建模后,預(yù)測(cè)模型容易理解,預(yù)測(cè)結(jié)果容易解釋,并且對(duì)缺失值及變量的分布不敏感,因此幾乎能夠在任何類(lèi)型的數(shù)據(jù)集上進(jìn)行建模,被廣泛的應(yīng)用于個(gè)人信用評(píng)估、醫(yī)學(xué)診斷、自然語(yǔ)言處理等各個(gè)領(lǐng)域。在實(shí)際問(wèn)題中擬合模型時(shí),要考慮犯不同類(lèi)型錯(cuò)誤時(shí)的代價(jià),并且尋找方法對(duì)模型進(jìn)行優(yōu)化。在本文中采用決策樹(shù)擬合模型,主要采用的基本算法為C5.0算法及CART算法,并對(duì)每種算法分別加入Boosting增強(qiáng)算法提高模型性能。在傳統(tǒng)的比較模型性能時(shí),往往采用的方法為比較模型的準(zhǔn)確率或者錯(cuò)誤率。但是在實(shí)際問(wèn)題中,比較不同模型的性能時(shí),不能單純比較模型在測(cè)試集上準(zhǔn)確率,測(cè)試集的選取有一定偶然性,并且只比較模型的準(zhǔn)確性對(duì)于有犯錯(cuò)代價(jià)的問(wèn)題時(shí),不足以說(shuō)明模型性能的好壞。因此本文采用模型的靈敏度作為樣本,并通過(guò)假設(shè)檢驗(yàn)方法來(lái)進(jìn)行模型的比較。由于各組樣本之間不獨(dú)立,因此在比較多組模型的靈敏度時(shí),采用Friedman非參數(shù)假設(shè)檢驗(yàn)方法來(lái)比較模型的性能,檢驗(yàn)結(jié)果... 

【文章來(lái)源】：大連理工大學(xué)遼寧省 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：67 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
引言
1理論
    1.1 決策樹(shù)
        1.1.1 決策樹(shù)劃分選擇
        1.1.2 剪枝
        1.1.3 缺失值處理
    1.2 Boosting算法
    1.3 主成分分析
    1.4 評(píng)價(jià)模型的指標(biāo)
        1.4.1 單個(gè)模型的性能度量
        1.4.2 不同模型之間的比較檢驗(yàn)
2實(shí)證分析
    2.1 數(shù)據(jù)簡(jiǎn)介
    2.2 數(shù)據(jù)前期預(yù)處理
        2.2.1 識(shí)別缺失值
        2.2.2 探索數(shù)據(jù)
        2.2.3 驗(yàn)證變量之間的相關(guān)關(guān)系
        2.2.4 對(duì)連續(xù)變量進(jìn)行多重共線(xiàn)性檢驗(yàn)
    2.3 模型擬合
        2.3.1 C5.0模型擬合
        2.3.2 增強(qiáng)算法
        2.3.3 CART算法模型
        2.3.4 CART算法中加入增強(qiáng)算法
    2.4 比較模型
結(jié)論
參考文獻(xiàn)
附錄A 程序
致謝


【參考文獻(xiàn)】：
期刊論文
[1]基于決策樹(shù)的改進(jìn)AdaBoost算法在車(chē)輛檢測(cè)中的應(yīng)用[J]. 李斌,王凱,徐英杰,劉賞.  軟件導(dǎo)刊. 2017(05)
[2]基于改進(jìn)決策樹(shù)分類(lèi)的Android惡意軟件檢測(cè)[J]. 鮑美英.  軟件. 2017(02)
[3]面向大數(shù)據(jù)分析的決策樹(shù)算法[J]. 張棪,曹健.  計(jì)算機(jī)科學(xué). 2016(S1)
[4]基于決策樹(shù)算法的競(jìng)爭(zhēng)對(duì)手識(shí)別模型研究[J]. 王知津,周鵬,韓正彪.  情報(bào)理論與實(shí)踐. 2013(03)
[5]基于多分類(lèi)器組合的個(gè)人信用評(píng)估模型[J]. 向暉,楊勝剛.  湖南大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版). 2011(03)
[6]數(shù)據(jù)挖掘中的決策樹(shù)算法比較研究[J]. 林向陽(yáng).  中國(guó)科技信息. 2010(02)
[7]精煉決策樹(shù)模型在個(gè)人信用評(píng)估中的應(yīng)用[J]. 朱毅峰,孫亞南.  統(tǒng)計(jì)教育. 2008(01)
[8]基于決策樹(shù)的個(gè)人住房貸款信用風(fēng)險(xiǎn)評(píng)估模型[J]. 劉軍麗,陳翔.  計(jì)算機(jī)工程. 2006(13)
[9]數(shù)據(jù)挖掘中決策樹(shù)算法的最新進(jìn)展[J]. 韓慧,毛鋒,王文淵.  計(jì)算機(jī)應(yīng)用研究. 2004(12)
[10]數(shù)據(jù)挖掘中決策樹(shù)算法的探討[J]. 唐華松,姚耀文.  計(jì)算機(jī)應(yīng)用研究. 2001(08)



本文編號(hào)：2932550