線性回歸—Kaggle舊金山犯罪記錄

知識點(diǎn):
unique去重
logistic回歸glm命令


kaggle的案例網(wǎng)址:https://www.kaggle.com/c/sf-crime
提供舊金山2003-2015年88萬行的犯罪記錄,包括日期晒他,犯罪類型逸贾,地區(qū),警區(qū)灼伤,處置辦法,地址等狐赡。

2-train.png

要求:根據(jù)train的記錄嗜诀,預(yù)測test犯罪集的數(shù)據(jù)類別。

2.png

這里的數(shù)據(jù)雖然有88w行之多发皿,但是指標(biāo)只有9個拂蝎,并不算特別復(fù)雜。課程使用邏輯回歸來做温自。

背景理論:

Logistic回歸與多重線性回歸都?xì)w于同一個家族,即廣義線性模型(generalizedlinear model)松捉。
這一家族中的模型形式基本類似馆里,不同的就是因變量不同。
如果是連續(xù)的鸠踪,就是多重線性回歸;
如果是二項(xiàng)分布营密,就是Logistic回歸;
如果是泊松分布纷捞,就是泊松回歸被去;
Logistic回歸的因變量可以是二分類的,也可以是多分類的编振,實(shí)際中最常用的就是二分類的Logistic回歸

此外:

Logistic回歸模型的適用條件
1 因變量為二分類的分類變量或某事件的發(fā)生率,并且是數(shù)值型變量臀玄。但重復(fù)計數(shù)現(xiàn)象指標(biāo)不適用于Logistic回歸畅蹂。
2 殘差和因變量都要服從二項(xiàng)分布。二項(xiàng)分布對應(yīng)的是分類變量液斜,所以不是正態(tài)分布叠穆,進(jìn)而不是用最小二乘法臼膏,而是最大似然法來解決方程估計和檢驗(yàn)問題。
3 各觀測對象間相互獨(dú)立

首先加載包和文件

library(MASS)
library(readr)
library(caret)
library(ggplot2)
library(lubridate)

setwd("E:")
train<-read_csv("sf_train.csv")
test<-read_csv("sf_test.csv")
head(train)

然后用lubridate包的命令渗磅,將日期分成年月時間等幾組變量。這里做了一個函數(shù)仔掸,用函數(shù)帶入train和test兩個文件医清。

make_feature<-function(df){
Dates1<-strptime(as.character(df$Dates),"%Y-%m-%d %H:%M:%S")
df$Year<-year(Dates1)
df$Month<-month(Dates1)
df$Hour<-hour(Dates1)
return(df)
}

train<-make_feature(train)
head(train)
test<-make_feature(test)
head(test)

這時候train和test就會多了幾列時間參數(shù)。

3.png

第三步鞋怀,設(shè)置兩個空數(shù)據(jù)框,第一個submission是要提交文件密似,變量與test的相同葫盼,第二個response的變量是train文件里犯罪種類。

submission<-data.frame(Id=test$Id)
response<-data.frame(Cat=train$Category)
#此處用unique將犯罪種類去重
crime<-as.character(unique(train$Category))      
crime<-sort(crime)

贫导。

1.png

設(shè)置一個循環(huán)孩灯,每次犯罪類型相同時,賦值為1峰档,否則為0.
之后將其與train的其他變量進(jìn)行線性回歸,類型為二項(xiàng)分布

for(i in crime){
    response[,i]<-0
    response[,i][response$Cat==i]<-1
    fit<-glm(response[,i]~PdDistrict+DayOfWeek+Year+Month+Hour+X:Y,
         data=train,family=binomial)
    pred<-predict(fit,test,type="response")
    submission[i]<-pred
}

這個參數(shù)能用在binomial數(shù)據(jù),也就是響應(yīng)變量是二分型的時候,這個參數(shù)選成type=response,表示輸出結(jié)果預(yù)測響應(yīng)變量為1的概率掀亩。
(老師注:response[,i] 就是把稠密矩陣變?yōu)橄∈杈仃?


response
submission
0.png

最后檢查一下欢顷,寫入csv文件。大功告成炼七。

head(submission)
write.csv(submission,"submission_criminal.csv",row.names=F)

相應(yīng)的可視化,表示某類犯罪的發(fā)生點(diǎn)豌拙。不過因?yàn)槭莋ooglemap,要翻墻姆蘸。

map<-get_map("San Francisco",zoom=12,color="bw")
plot(map)

map_crime<-function(crime_df,crime){
    filtered<-filter(crime_df,Category %in% crime)
    plot<-ggmap("San Francisco",zoom=12,color="bw",extent='device')
            +geom_point(data=filtered,aes(x=X,y=Y,color=Category),alpha=0.6)
    return(plot)
}
map_crime(train,c('SUICIDE','ARSON'))

雖然是簡單的線性回歸逞敷,但要把參數(shù)用對用好也不容易,尤其對于數(shù)學(xué)功底不深的小白我來說推捐,而且還有許多其他相關(guān)的處理侧啼,也是有挑戰(zhàn)性的新內(nèi)容。
多做筆記痊乾,多做功課,日拱一卒蛾魄。


來自煉數(shù)成金聽課比較湿滓,代碼有些小修改滴须。

參考文件
caret包的應(yīng)用
Logistic回歸總結(jié)(沒看懂叽奥,存?zhèn)€檔)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末朝氓,一起剝皮案震驚了整個濱河市魔市,隨后出現(xiàn)的幾起案子赵哲,更是在濱河造成了極大的恐慌,老刑警劉巖磅网,帶你破解...
    沈念sama閱讀 206,602評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件筷屡,死亡現(xiàn)場離奇詭異簸喂,居然都是意外死亡燎潮,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,442評論 2 382
  • 文/潘曉璐 我一進(jìn)店門除呵,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人颜曾,你說我怎么就攤上這事秉剑。” “怎么了侦鹏?”我有些...
    開封第一講書人閱讀 152,878評論 0 344
  • 文/不壞的土叔 我叫張陵略水,是天一觀的道長价卤。 經(jīng)常有香客問我渊涝,道長,這世上最難降的妖魔是什么炸卑? 我笑而不...
    開封第一講書人閱讀 55,306評論 1 279
  • 正文 為了忘掉前任煤傍,我火速辦了婚禮,結(jié)果婚禮上蚯姆,老公的妹妹穿的比我還像新娘。我一直安慰自己疙驾,他們只是感情好郭毕,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,330評論 5 373
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般傻挂。 火紅的嫁衣襯著肌膚如雪挖息。 梳的紋絲不亂的頭發(fā)上金拒,一...
    開封第一講書人閱讀 49,071評論 1 285
  • 那天绪抛,我揣著相機(jī)與錄音电禀,去河邊找鬼幢码。 笑死鞭呕,一個胖子當(dāng)著我的面吹牛宛官,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播腋么,決...
    沈念sama閱讀 38,382評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼亥揖,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了费变?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,006評論 0 259
  • 序言:老撾萬榮一對情侶失蹤扛稽,失蹤者是張志新(化名)和其女友劉穎滑负,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體矮慕,經(jīng)...
    沈念sama閱讀 43,512評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,965評論 2 325
  • 正文 我和宋清朗相戀三年瘟斜,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片明未。...
    茶點(diǎn)故事閱讀 38,094評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡壹蔓,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出佣蓉,到底是詐尸還是另有隱情,我是刑警寧澤勇凭,帶...
    沈念sama閱讀 33,732評論 4 323
  • 正文 年R本政府宣布虾标,位于F島的核電站寓盗,受9級特大地震影響璧函,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜蘸吓,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,283評論 3 307
  • 文/蒙蒙 一库继、第九天 我趴在偏房一處隱蔽的房頂上張望箩艺。 院中可真熱鬧宪萄,春花似錦、人聲如沸拜英。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,286評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽排监。三九已至,卻和暖如春棋蚌,著一層夾襖步出監(jiān)牢的瞬間嫁佳,已是汗流浹背谷暮。 一陣腳步聲響...
    開封第一講書人閱讀 31,512評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留瓤漏,地道東北人颊埃。 一個月前我還...
    沈念sama閱讀 45,536評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像班利,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子罗标,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,828評論 2 345

推薦閱讀更多精彩內(nèi)容