基于概率校準的集成學習方法
大小:0.78 MB 人氣: 2017-12-22 需要積分:1
針對原有集成學習多樣性不足而導致的集成效果不夠顯著的問題,提出一種基于概率校準的集成學習方法以及兩種降低多重共線性影響的方法。首先,通過使用不同的概率校準方法對原始分類器給出的概率進行校準;然后使用前一步生成的若干校準后的概率進行學習,從而預測最終結果。第一步中使用的不同概率校準方法為第二步的集成學習提供了更強的多樣性。接下來,針對校準概率與原始概率之間的多重共線性問題,提出了選擇最優( choose-best)和有放回抽樣(bootstrap)的方法。選擇最優方法對每個基分類器,從原始分類器和若干校準分類器之間選擇最優的進行集成;有放回抽樣方法則從整個基分類器集合中進行有放回的抽樣,然后對抽樣出來的分類器進行集成。實驗表明,簡單的概率校準集成學習對學習效果的提高有限,而使用了選擇最優和有放回抽樣方法后,學習效果得到了較大的提高。此結果說明,概率校準為集成學習提供了更強的多樣性,其伴隨的多重共線性問題可以通過抽樣等方法有效地解決。
非常好我支持^.^
(0) 0%
不好我反對
(0) 0%