數(shù)據(jù)清理
最近閱讀了《Python共享單車數(shù)據(jù)分析》,由于一直在學(xué)習(xí)PowerQuery,因此嘗試用它處理一下:
1下載數(shù)據(jù)
共享單車數(shù)據(jù)文件? 密碼: mtto
2數(shù)據(jù)預(yù)覽
csv文件驹止,數(shù)據(jù)來源于法國斋扰,因此第一行有亂碼鞋怀,各列以“;”分隔
3導(dǎo)入PowerQuery中進(jìn)行處理
3.1消除亂碼
參考Power Query愛好者中Csv.Document一文中的方法對源文件進(jìn)行處理屋休,在pq中將導(dǎo)入代碼做如下改動:
let
? 源 = Csv.Document(File.Contents("e:\zm\簡書\bikes.csv"),
? [Delimiter=",", Columns=1, Encoding=1252, QuoteStyle=QuoteStyle.None])
in
? 源
其中 Encoding=1252 查自內(nèi)碼表(codepage),幾次嘗試后得以確定承耿。
3.2數(shù)據(jù)拆分冠骄、轉(zhuǎn)換、清理
拆分列加袋,然后提升首行為標(biāo)題凛辣,為了統(tǒng)計分析,須將第一列直接轉(zhuǎn)換為日期格式职烧,結(jié)果如下:
發(fā)現(xiàn)系統(tǒng)默認(rèn)格式為“年/月/日“,而數(shù)據(jù)源文件的格式為"日/月/年",1月13日扁誓,變成了13月1日!因此報錯蚀之,經(jīng)咨詢蝗敢,進(jìn)行如下改動:
即在更改類型時選擇使用區(qū)域設(shè)置,選擇法語(法國)
在語法上的區(qū)別:
直接將文本轉(zhuǎn)換成日期
更改的類型1 = Table.TransformColumnTypes(提升的標(biāo)題,{{"Date", type date}})
選擇區(qū)域設(shè)置
根據(jù)區(qū)域設(shè)置更改的類型 = Table.TransformColumnTypes(提升的標(biāo)題, {{"Date", type date}}, "fr-FR")
目測有兩列數(shù)據(jù)為空或者是null足删,通過對列篩選進(jìn)行判斷:
刪除兩個空列寿谴,自此完成數(shù)據(jù)清理工作。
以上是通過雙擊CSV數(shù)據(jù)文件進(jìn)入excel失受,然后用pq處理讶泰,因此要更改導(dǎo)入部分的代碼,如果用新建立查詢的方法導(dǎo)入csv文件拂到,則更為簡單快捷痪署,自動拆分列,再選擇好正確的原始文件格式兄旬,就可以直接編輯處理而無須更改代碼狼犯,具體見下圖:
用bing 翻譯法語
Berri 1--貝里1? ? ? ? données non disponibles-數(shù)據(jù)不可用? Maisonneuve1--沒翻譯出來
C?te-Sainte-Catherine--科特迪瓦-圣凱瑟琳? ? du Parc--的公園? Pierre-Dupuy---皮埃爾
Rachel-秋
通過對法語的粗糙翻譯,可以推斷該文件記錄的是各地區(qū)每天騎共享單車的人數(shù),數(shù)據(jù)清理干凈后再用透視表之類的工具處理就很方便了悯森!