數(shù)據(jù)挖掘第六講

<script type="text/javascript" src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=default"></script>

1什么是馬爾可夫模型,什么是轉(zhuǎn)移概率,什么是C-K方程?

1.馬爾可夫模型

• 過程(或系統(tǒng))“將來”的情況與“過去”的情況無關(guān),則成過程(或系統(tǒng))具有馬爾可夫性
• 具有馬爾可夫性的隨機過程稱為馬爾可夫過程
• 時間和狀態(tài)都是離散的馬爾可夫過程稱為馬爾可夫鏈

1. 轉(zhuǎn)移概率
   條件概率
   $$ P_{ij}(m, m +n) = P(X_{m + n} = a_j | X_m =a_i)$$
   為馬氏鏈在時刻 m 處于狀態(tài)$a_i$條件下,在時刻m+n轉(zhuǎn)移到狀態(tài)$a_j$的轉(zhuǎn)移概率
2. 轉(zhuǎn)移矩陣
   由轉(zhuǎn)移概率組成的矩陣稱為馬氏鏈的轉(zhuǎn)移概率矩陣.
   (吸收壁睦疫，反射壁的概念)
3. C-K方程

什么是HMM,HMM的三大問題是什么?

• 隱馬爾可夫模型HMM是由兩個隨機過程組成带斑，其中一個是不可觀測的有限狀態(tài)馬氏鏈（使用作弊骰子）奴迅，而且它的轉(zhuǎn)移概率可能也是不知道的坤次，這個馬氏鏈稱為狀態(tài)鏈，另一個隨機過程是可觀測到的程帕，稱為觀測鏈尽超，某時刻觀測鏈的觀測結(jié)果受該時刻狀態(tài)鏈的狀態(tài)影響交洗。

1. 評估問題：給定觀察序列O和HMM λ=(π, A, B)，判斷O是由λ產(chǎn)生的可能性有多大奥吩？

• 求解：前向和后向算法

2. 解碼問題：給定觀察序列O和HMM λ=(π, A, B)哼蛆，判斷序列O對應的最優(yōu)狀態(tài)序列是什么？

• 求解：維特比（viterbi）算法

3. 學習問題：給定觀察序列O霞赫，確定產(chǎn)生O的最可能HMM λ=(π, A, B)

• 求解：鮑姆威爾士（Baum-Welch）算法

什么叫抽樣?抽樣方法都有哪些,如何抽樣?

指從目標總體（Population腮介，或稱為母體）中抽取一部分個體作為樣本（Sample），通過觀察樣本的某一或某些屬性端衰，依據(jù)所獲得的數(shù)據(jù)對總體的數(shù)量特征得出具有一定可靠性的估計判斷叠洗，從而達到對總體的認識

• 樣本特征體現(xiàn)總體特征
• 樣本特征與總體特征的偏差在可接受范圍內(nèi)

1. 隨機抽樣
   1. 簡單隨機抽樣
      • 對總體單位不做任何分類排隊，完全按照隨機原則直接從總體中隨機抽取一部分單位組成樣本的抽樣組織方式
        • 先將總體各單位進行編碼旅东，然后按照隨機原則灭抑，用抽簽法或隨機數(shù)法抽取若干數(shù)碼，所有中選的數(shù)碼對應的單位即構(gòu)成樣本
   2. 分層抽樣
      • 將總體按某個主要標志進行分組抵代，再按隨機原則采用簡單隨機抽樣方式從各組中抽取一定數(shù)目的總體單位組成樣本的抽樣組織方式名挥。
      • 按隨機原則根據(jù)各層中單位數(shù)量占總體單位數(shù)量的比例抽取各層的樣本數(shù)量。
   3. 分層最佳抽樣
      • 指不僅按各層單位數(shù)占總體單位數(shù)的比例分配各層的樣本數(shù)主守，還根據(jù)各層標準差的大小來調(diào)整各層樣本數(shù)目的抽樣方法禀倔。
   4. 系統(tǒng)抽樣
      • 將總體單位按某一標志排序，而后按一定間隔抽取樣本單位的抽樣組織方式参淫。
   5. 整群抽樣
      • 將總體全部單位分為若干“群”救湖，然后隨機抽取一部分“群”，被抽中群體的所有單位進行全面調(diào)查的抽樣組織方式
2. 非隨機抽樣
   1. 任意抽樣
      • 調(diào)查人員本著隨意性原則去選擇樣本的抽樣方式
        • 簡單涎才、經(jīng)濟
        • 默認個體是相同的
        • 誤差較大
   2. 判斷抽樣
      • 根據(jù)調(diào)查人員的主觀經(jīng)驗從總體樣本中選擇那些被判斷為最能代表總體的單位作樣本的抽樣方法
      • 抽樣依照調(diào)查者個人偏好來選擇樣本
      • 人的因素至關(guān)重要
      • 好的很好鞋既，差的很差，兩極分化
   3. 配額抽樣
      • 指調(diào)查人員將調(diào)查總體樣本按一定標志分類或分層耍铜，確定各類（層）單位的樣本數(shù)額邑闺，在配額內(nèi)任意抽選樣本的抽樣方式
      • 按照一定的標準和比例分配樣本的數(shù)額，然后根據(jù)配額抽取樣本
      • 做法與分層抽樣完全相同棕兼，區(qū)別只在于抽的時候是隨機抽還是非隨機的抽
   4. 滾雪球抽樣
      • 先選擇一組調(diào)查對象陡舅，通常是隨機地選取的。訪問這些被調(diào)查者之后伴挚，再請他們提供另外一些屬于所研究的目標總體的調(diào)查對象靶衍，根據(jù)所提供的線索灾炭，選擇此后的調(diào)查對象。這一過程會繼續(xù)下去颅眶，形成滾雪球的效果