一. 為什么引入EM 1. 最大似然估計(jì)（MLE） （1）已知：① 一堆觀測(cè)數(shù)據(jù)X ② 數(shù)據(jù)服從的統(tǒng)計(jì)模型 估計(jì)...

一. 概述 1.神經(jīng)元生物模型 （1）結(jié)構(gòu)：許多樹突（dendrite）用于輸入颓影，一個(gè)軸突（axon）用于輸出报强。 （2）特性：興奮性和傳導(dǎo)性。興...

一. 廣義線性模型（generalized linear model） 1.線性回歸（Linear Regression）——回歸算法 （1）因...

一. 信息論 1. 熵（entropy） （1）熵：隨機(jī)變量 不確定性 的 度量 （2）數(shù)據(jù)：信息+噪音 ①信息：消除不確定性（熵） ②噪音：干...

一. k-NN算法【有監(jiān)督】 1. 概念 (1) 原理：K近鄰是一種多類劃分的模型爬虱，基于實(shí)例隶债，不需要訓(xùn)練。當(dāng)一個(gè)樣本與數(shù)據(jù)集中的k個(gè)樣本最相近時(shí)...

一. 貝葉斯定理 1. 為了解決“逆概率”問(wèn)題跑筝，而提出了貝葉斯定理：在有限的已知信息下燃异，回推出概率 2. (1) A：要求解信息，B：已知信息 ...

一. 概念 1. 模型 感知機(jī)是二分類的線性分類模型继蜡，旨在求出將輸入實(shí)例劃分為兩類的分離超平面回俐，是神經(jīng)網(wǎng)絡(luò)與支持向量機(jī)的基礎(chǔ)。 ...

一. 支持向量 1.線性可分樣本集 (1) 定義：稀并，有： ①若 ② (2) 證明：有一條直線可實(shí)現(xiàn)二分類仅颇，有...