數(shù)據(jù)框塑形——Tidyr vs Reshape

數(shù)據(jù)框的塑形是學(xué)習(xí)R語(yǔ)言過(guò)程中的一個(gè)重要的知識(shí)點(diǎn)溯泣,是從Excel思維轉(zhuǎn)換成編程思維的重要過(guò)程。盡管很多作圖函數(shù)一個(gè)命令就可以讓輸入數(shù)據(jù)變成美輪美奐的圖,但往往初學(xué)者會(huì)卡在如何制作符合需要的input data上面。根源原因就是Excel的數(shù)據(jù)儲(chǔ)存思維與R語(yǔ)言有很大不同絮姆。很多時(shí)候日常記錄在Excel里面的數(shù)據(jù)格式不適合直接用,而在Excel里面“點(diǎn)點(diǎn)點(diǎn)和調(diào)調(diào)調(diào)”又非常違背學(xué)習(xí)R語(yǔ)言的“懶人精神”赞赖。所以為了節(jié)省下“點(diǎn)點(diǎn)點(diǎn)和調(diào)調(diào)調(diào)”的枯燥時(shí)間滚朵,就要花時(shí)間學(xué)習(xí)一下數(shù)據(jù)塑形。

本文要介紹的2個(gè)包3對(duì)函數(shù)都出自哈德利大神前域。一般人寫(xiě)包就是只是造個(gè)工具,大神直接定義了一種數(shù)據(jù)轉(zhuǎn)換的思維韵吨。直接上表格匿垄,用眼睛體會(huì)一下表格的“長(zhǎng)”和“扁”,省去大段文字描述。

test <- data.frame(geneid = paste0("gene",1:4),
                   sample1 = c(1,4,7,10),
                   sample2 = c(2,5,0.8,11),
                   sample3 = c(0.3,6,9,12))
test

我先不說(shuō)這個(gè)test它是個(gè)“扁”表格椿疗,因?yàn)楫?dāng)我把它變“長(zhǎng)”了漏峰,就能感受到它的“扁”了。

# 先不用管這里的包和函數(shù)届榄,體會(huì)表格
library(tidyr)
gather(data = test,
                      key = sample_nm,
                      value = exp,
                      - geneid)

數(shù)據(jù)框“扁”變“長(zhǎng)”就是將所有觀測(cè)值匯總成了一列浅乔,所有變量名也匯總成列。因?yàn)镽語(yǔ)言數(shù)據(jù)處理的時(shí)候基本都是取列(向量)來(lái)用的铝条,具體列里面的元素取哪些靖苇,就靠篩選了。所以要變成這樣班缰。

reshape2 —— melt & dcast

我盲猜這個(gè)包是最先出現(xiàn)的贤壁,因?yàn)榘锩娴暮瘮?shù)最少,文檔里面有這樣一句話:

Reshape (hopefully) makes it easy to do what you have been struggling to do with tapply, by, aggregate, xtabs, apply and summarise. It is also useful for getting your data into the correct structure for lattice or ggplot plots.

感覺(jué)它就是為ggplot應(yīng)運(yùn)而生的埠忘。它倆還一起獲得了2006年的 John Chambers Award for Statistical Computing獎(jiǎng)項(xiàng)脾拆。盡管現(xiàn)在用的都是ggplot2了,但這些舊的包和函數(shù)都和好用莹妒,生命力旺盛著呢名船。這三對(duì)函數(shù)之間沒(méi)有巨大差別,細(xì)微之處遇見(jiàn)的比較少旨怠,選哪個(gè)包帚,順手就是好的

melt 變長(zhǎng)

melt基本語(yǔ)法是:

melt(data,id.vars,measure.vars,variable.name='variable',...,na.rm=FALSE,value.name='value',factorAsStrings=TRUE)

只需要記住前三個(gè)變量,后面的都不用管:

  • data:指的你想處理的數(shù)據(jù)框
  • id.vars:是不想融合的變量运吓,可以是一個(gè)也可以是多個(gè)(括在向量里)
  • measure.vars:想要融合的變量
  • variable.name & value.name:默認(rèn)會(huì)把融合的變量名儲(chǔ)存的列的列名定義為“variable”渴邦,而觀測(cè)值的列名定義為“value”,有了這兩個(gè)參數(shù)拘哨,可以在融合時(shí)就修改成自己想要的名字谋梭。
library(reshape2)
test_melt <- melt(test,id.vars = "geneid",measure.vars = c("sample1","sample2","sample3"))

dcast 變扁

“長(zhǎng)”變“扁”用的是dcast()函數(shù),語(yǔ)法是:

dcast(data, formula, fun.aggregate = NULL, ..., margins = NULL,
  subset = NULL, fill = NULL, drop = TRUE, value.var = guess_value(data))

其中需要掌握的是參數(shù)formula的格式

rowvar1 + rowvar2 +...  ~  colvar1 + colvar2 +...

按照rowvar倦青,展開(kāi)colvar瓮床。也可以理解為rowvar是不變的,colvar是拆分的

我們?cè)囋噷⒆兓臄?shù)據(jù)再恢復(fù)产镐。和原始數(shù)據(jù)比較一下隘庄,是一樣的。

test_dcast <- dcast(test_melt, geneid ~ variable)
test_dcast
identical(test, test_dcast)

dcast很棒的功能——聚合運(yùn)算

dcast有一個(gè)很棒的功能就是可以在聚合的時(shí)候(dcast稱為聚合的過(guò)程)可以同步對(duì)數(shù)據(jù)執(zhí)行函數(shù)運(yùn)算癣亚。

  • fun.aggregate:用于指定聚合函數(shù)丑掺,對(duì)已聚合的數(shù)據(jù)執(zhí)行聚合運(yùn)算

演示的時(shí)候由于test沒(méi)有相同的分組,所以我們加一列type述雾。

x = test
x$type = rep(c("A","B"),2)
x

可以看到重塑以后的數(shù)據(jù)對(duì)各列按照type進(jìn)行了均值(mean)計(jì)算街州。

x_melt = melt(x,id.vars = c("geneid","type"),measure.vars = c("sample1","sample2","sample3"))
dcast(x_melt, type ~ variable, mean)

tidyr —— gather & spread

tidyr是哈德利大神的神作tidyverse中的成員兼丰。專注數(shù)據(jù)框整理,除了gatherspread還有許多別的函數(shù)唆缴。這里只關(guān)注這兩個(gè)函數(shù)鳍征。

gather 變長(zhǎng)

這對(duì)函數(shù)開(kāi)始提出了keyvalue的概念。key就是由變量名組成的一列面徽,相當(dāng)于melt里面的id.vars艳丛。value就是觀測(cè)值,相當(dāng)于measure.vars趟紊。對(duì)于不想變化的列氮双,就在列名前面加一個(gè)"-"(減號(hào))。

用法是:

gather(data,key = "key", value = "value", ..., na.rm = FALSE, convert = FALSE, factor_key = FALSE)
test_gather <- gather(data = test,
                      key = sample_nm,
                      value = exp,
                      - geneid)
test_gather

spread 變扁

用法是:

spread(data, key, value, fill = NA, convert = FALSE, drop = TRUE, sep = NULL)

演示一下test數(shù)據(jù)织阳,和原始數(shù)據(jù)比較果然也是一樣的眶蕉。

test_spread <- spread(data = test_gather,
                  key = sample_nm,
                  value = exp)
test_spread
identical(test,test_spread)

注意到spread里面有個(gè)fill參數(shù),是處理NA值的唧躲,默認(rèn)是給填上"NA"造挽。

test_na <- test_gather[c(1:2,5:11),]
test_na_re <- spread(data = test_na,
                     key = sample_nm,
                     value = exp)
test_na_re # 賦值為NA
# 也可以填上別的,字符串弄痹,一個(gè)確定的數(shù)字都可以
test_na_fill <- spread(data = test_na,
                     key = sample_nm,
                     value = exp,
                     fill = "AAA")

參數(shù)dropgather里面的na.rm一樣饭入,就是對(duì)于有缺失的觀測(cè)值是否顯示。

meltgather的比較

我們來(lái)比較一下meltgather的結(jié)果肛真。

colnames(test_melt) <- colnames(test_gather) # 列名不一致先處理一下
identical(test_gather,test_melt)

結(jié)果是不一樣的谐丢,很意外吧。肉眼上是完全看不出來(lái)的

test_gather
test_melt

str一下能看出來(lái)蚓让,數(shù)據(jù)的格式不一樣乾忱。gather將匯總的變量名處理成字符型,而melt處理成因子型(即使是在options(stringsAsFactors = FALSE)的大環(huán)境下)历极,這樣作圖的時(shí)候就會(huì)產(chǎn)生影響窄瘟,所以個(gè)人覺(jué)得gather會(huì)更好用一些,當(dāng)需要變因子的時(shí)候趟卸,再手動(dòng)調(diào)整蹄葱,也可以自定義因子的順序。

tidyr —— pivot_longer & pivot_wider

在查看gather幫助文檔的時(shí)候會(huì)發(fā)現(xiàn)這個(gè)包的狀態(tài)是“retired”锄列。盡管并不影響我們對(duì)這個(gè)包的熱愛(ài)和使用图云,但好奇心驅(qū)使我去查看了文檔底下推薦的pivot,然后就看到了大神對(duì)自己包的官方吐槽邻邮。

For some time, it’s been obvious that there is something fundamentally wrong with the design of spread() and gather(). Many people don’t find the names intuitive and find it hard to remember which direction corresponds to spreading and which to gathering. It also seems surprisingly hard to remember the arguments to these functions, meaning that many people (including me!) have to consult the documentation every time.

他們的用法如下竣况,只保留了重要參數(shù)。詳細(xì)的參見(jiàn)vignette

pivot_longer(
  data,
  cols,
  names_to = "name",
  values_to = "value")

pivot_wider(
  data,
  id_cols = NULL,
  names_from = name,
  values_from = value)

這兩對(duì)函數(shù)和gather & spread沒(méi)有本質(zhì)區(qū)別饶囚,只是讓參數(shù)“說(shuō)人話”了,使用起來(lái)更友好了一些叶堆。所以對(duì)應(yīng)的參數(shù)名稱是:

gather & spread pivot_X
key names_to
value values_to
key names_from
value values_from

其他資料

另外看到了一篇文章關(guān)于tidyr和reshape2的比較。https://rpubs.com/sterding/Reshape2_and_Tidyr

Tidyr vs. Reshape2

  1. They are very similar!
  2. cast() in reshape2 can work on matrix/array, while gather() in tidyr can only work on data.frame.
  3. reshape2 can do aggregation, while tidyr is not designed for this purpose.
  4. colsplit() in reshape2 operates only on a single column while separate() in tidyr performs all the operation at once.
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市裕偿,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌空厌,老刑警劉巖堤器,帶你破解...
    沈念sama閱讀 206,126評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異歇万,居然都是意外死亡揩晴,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén)贪磺,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)硫兰,“玉大人,你說(shuō)我怎么就攤上這事寒锚〗儆常” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,445評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵刹前,是天一觀的道長(zhǎng)泳赋。 經(jīng)常有香客問(wèn)我,道長(zhǎng)喇喉,這世上最難降的妖魔是什么祖今? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,185評(píng)論 1 278
  • 正文 為了忘掉前任,我火速辦了婚禮拣技,結(jié)果婚禮上千诬,老公的妹妹穿的比我還像新娘。我一直安慰自己膏斤,他們只是感情好徐绑,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著掸绞,像睡著了一般泵三。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上衔掸,一...
    開(kāi)封第一講書(shū)人閱讀 48,970評(píng)論 1 284
  • 那天烫幕,我揣著相機(jī)與錄音,去河邊找鬼敞映。 笑死较曼,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的振愿。 我是一名探鬼主播捷犹,決...
    沈念sama閱讀 38,276評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼弛饭,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了萍歉?” 一聲冷哼從身側(cè)響起侣颂,我...
    開(kāi)封第一講書(shū)人閱讀 36,927評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎枪孩,沒(méi)想到半個(gè)月后憔晒,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡蔑舞,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評(píng)論 2 323
  • 正文 我和宋清朗相戀三年拒担,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片攻询。...
    茶點(diǎn)故事閱讀 37,997評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡从撼,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出钧栖,到底是詐尸還是另有隱情低零,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評(píng)論 4 322
  • 正文 年R本政府宣布桐经,位于F島的核電站毁兆,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏阴挣。R本人自食惡果不足惜气堕,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望畔咧。 院中可真熱鬧茎芭,春花似錦、人聲如沸誓沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,204評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)拜隧。三九已至宿百,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間洪添,已是汗流浹背垦页。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,423評(píng)論 1 260
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留干奢,地道東北人痊焊。 一個(gè)月前我還...
    沈念sama閱讀 45,423評(píng)論 2 352
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親薄啥。 傳聞我的和親對(duì)象是個(gè)殘疾皇子辕羽,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評(píng)論 2 345