這也是一個(gè)經(jīng)典的描述性統(tǒng)計(jì)與建模的小案例了,主要用到pandas進(jìn)行數(shù)據(jù)處理,用statsmodels進(jìn)行統(tǒng)計(jì)建模就轧。
數(shù)據(jù)來(lái)源:
紅葡萄酒(http://archive.ics.uci.edu/ml/machine-learning-databases/wine-quality/winequality-red.csv)
白葡萄酒(http://archive.ics.uci.edu/ml/machine-learning-databases/wine-quality/winequality-white.csv)
將這兩個(gè)數(shù)據(jù)表合并成為一個(gè)新的數(shù)據(jù)集wine豌鹤,然后統(tǒng)一處理,代碼如下:
import numpy as np
import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as plt
import statsmodels.api as sm
import statsmodels.formula.api as smf
from statsmodels.formula.api import ols, glm
合并文件
filepath1 = 'C:/Users/Carman/Downloads/winequality-red.csv'
filepath2 = 'C:/Users/Carman/Downloads/winequality-white.csv'
red = pd.read_csv(filepath1,sep = ';')
white = pd.read_csv(filepath2,sep = ';')
red['type'] = 'red' # 新增type一欄用于之后進(jìn)行不同葡萄酒的品種對(duì)比
white['type'] = 'white'
wine = red.append(white).reset_index(drop = True)
wine.columns = wine.columns.str.replace(' ','_')
按照葡萄酒類型顯示質(zhì)量的描述性統(tǒng)計(jì)
wine.groupby('type')['quality'].describe().unstack('type')
用seaborn畫一下兩種類型葡萄酒評(píng)分分布的密度直方圖叫倍,從統(tǒng)計(jì)圖可以看出,兩種葡萄酒的評(píng)分都近似正態(tài)分布豺瘤。
sns.set_style("dark")
sns.distplot(red_wine,norm_hist=True, kde=False, color="red", label="Red wine")
sns.distplot(white_wine,norm_hist=True, kde=False, color="white", label="White wine")
plt.title("Distribution of Quality by Wine Type")
plt.legend()
plt.show()
然后可以用t檢驗(yàn)判斷紅葡萄酒和白葡萄酒的平均評(píng)分是否有區(qū)別吆倦。
ps:t檢驗(yàn)是用于小樣本的兩個(gè)平均值差異程度的檢驗(yàn)方法。它是用T分布理論來(lái)推斷差異發(fā)生的概率坐求,從而判定兩個(gè)平均數(shù)的差異是否顯著蚕泽。(上學(xué)期看的統(tǒng)計(jì)學(xué)的書又忘光了~~)
# 檢驗(yàn)紅葡萄酒和白葡萄酒的平均質(zhì)量是否有所不同
print(wine.groupby(['type'])[['quality']].std())
tstat, pvalue, df = sm.stats.ttest_ind(white_wine,red_wine)
print('\ntstat: %.3f pvalue: %.4f' % (tstat, pvalue))
t 檢驗(yàn)統(tǒng)計(jì)量為 9.69,p 值為 0.00瞻赶,這說(shuō)明白葡萄酒的平均質(zhì)量評(píng)分在統(tǒng)計(jì)意義上大于紅葡萄酒的平均質(zhì)量評(píng)分赛糟。
成對(duì)變量之間的關(guān)系和相關(guān)性
##計(jì)算所有變量的相關(guān)矩陣
print(wine.corr())
corr 函數(shù)可以計(jì)算出數(shù)據(jù)集中所有變量?jī)蓛芍g的線性相關(guān)性。根據(jù)相關(guān)系數(shù)的符號(hào)砸逊,從輸出中可以知道酒精含量璧南、硫酸鹽、pH 值师逸、游離二氧化硫和檸檬酸這些指標(biāo)與質(zhì)量是正相關(guān)的司倚,相反,非揮發(fā)性酸篓像、揮發(fā)性酸动知、殘余糖分、氯化物员辩、總二氧化硫和密度這些指標(biāo)與質(zhì)量是負(fù)相關(guān)的盒粮。
用statsmodel 包來(lái)進(jìn)行線性回歸
my_formula = 'quality~alcohol + chlorides + citric_acid + density\
+ fixed_acidity + free_sulfur_dioxide + pH + residual_sugar + sulphates\
+ total_sulfur_dioxide + volatile_acidity'
lm = ols(my_formula, data=wine).fit()
第一行代碼將一個(gè)字符串賦給變量 my_foumula,有點(diǎn)R 語(yǔ)言語(yǔ)法的回歸公式定義奠滑。波浪線左側(cè)的變量 quality 是因變量丹皱,波浪線右側(cè)的變量是自變量妒穴。
輸出看一下結(jié)果:
print(lm.summary())
打印出了模型結(jié)果的摘要信息,包括模型系數(shù)摊崭、系數(shù)的標(biāo)準(zhǔn)差和置信區(qū)間讼油、修正 R 方、F 統(tǒng)計(jì)量等等信息呢簸。
做預(yù)測(cè)
對(duì)數(shù)據(jù)進(jìn)行線性回歸的建模之后就可以根據(jù)給出的自變量特征值做預(yù)測(cè)了矮台,這里方便起見我們隨機(jī)選取一些已經(jīng)擬合過的數(shù)據(jù)
new_observations = wine.sample(20)
new_observations=new_observations[new_observations.columns.difference(['quality', 'type'])]
y_test = new_observations1.quality
# 基于新觀測(cè)中的葡萄酒特性預(yù)測(cè)質(zhì)量評(píng)分
y_predicted = lm.predict(new_observations1)
# 將預(yù)測(cè)值保留兩位小數(shù)并打印到屏幕上
y_predicted_rounded = [round(score, 2) for score in y_predicted]
print(y_predicted_rounded)
對(duì)于準(zhǔn)確性的檢驗(yàn)本來(lái)想用 accuracy_score,但是可能因?yàn)轭A(yù)測(cè)的quality有小數(shù)位數(shù)的原因報(bào)錯(cuò)根时,將小數(shù)四舍五入成整數(shù)之后倒是可以用瘦赫,不過最終結(jié)果只有0.4。