中文文檔 pyspark.sql.DataFrameNaFunctions

新版本1.4之后捐顷,在dataframe中處理丟失數(shù)據(jù)的功能榨馁。

7.1 drop(how='any',?thresh=None,?subset=None):New in version 1.3.1.

返回:一個新的留攒,刪除空值的行?DataFrame.dropna()?and?DataFrameNaFunctions.drop()?可以互相替代.

參數(shù):●?– how.?‘a(chǎn)ny’ or ‘a(chǎn)ll’. If ‘a(chǎn)ny’,刪除包含缺失值的行,?If ‘a(chǎn)ll’, 刪除所有值為缺失值的行

? ? ? ? ? ?●–??thresh. int,默認(rèn)為None如果指定斗这,則刪除小于閾值 非空值的行。這將覆蓋how參數(shù)虏束。

? ? ? ? ? ?●–? subset.?子集-要考慮的列名的可選列表棉饶。

In [386]: df4.dropna().show()

+----+------+--------+

|year|course|earnings|

+----+------+--------+

|2012|dotNET|? 10000|

|2012|dotNET|? ? 5000|

|2012|? Java|? 20000|

|2013|dotNET|? 48000|

|2013|? Java|? 30000|

|2012|? ? c|? ? 9999|

+----+------+--------+


7.2: fill(value,?subset=None):新版本1.3.1之后

替換null值也就是 for?na.fill().?DataFrame.fillna()?and?DataFrameNaFunctions.fill()?是等價(jià)的

參數(shù):●?–?value?– int, long, float, string, or dict.將空值替換。如果值是dict镇匀,則忽略子集照藻,并且值必須是從列名(字符串)到替換值的映射。替換值必須是int汗侵、long幸缕、float或string。

? ? ? ? ? ?●–subset.?可選擇的列名列表晰韵。將忽略在子集中指定的不具有匹配數(shù)據(jù)類型的列发乔。例如,如果值是一個字符串雪猪,而子集包含一個非字符串列栏尚,則只會忽略該非字符串列。

df.fillna({df.columns[2]:20}).show()

+-----+---+------+

| name|age|height|

+-----+---+------+

|Alice|? 2|? ? 80|

|? Bob|? 5|? ? 20|

+-----+---+------+

被忽略

In [396]: df.fillna({df.columns[2]:'unknow'}).show()

+-----+---+------+

| name|age|height|

+-----+---+------+

|Alice|? 2|? ? 80|

|? Bob|? 5|? null|

+-----+---+------+

7.3 replace(to_replace,?value,?subset=None):版本1.4后有的新功能

參數(shù):●to_replace– int只恨、long译仗、float、string或list官觅。要替換的值纵菌。如果該值是dict,則忽略該值休涤,并且to-replace必須是從列名(字符串)到替換值的映射咱圆。要替換的值必須是int、long、float或string闷堡。

? ? ? ? ? ?●–value– int隘膘、long、float杠览、string或list弯菊。用于替換孔的值。替換值必須是int踱阿、long管钳、float或string。如果值是列表或元組软舌,則值的長度應(yīng)與to-replace的長度相同才漆。

? ?????????●–subset?–可選擇的列名列表。將忽略在子集中指定的不具有匹配數(shù)據(jù)類型的列佛点。例如醇滥,如果值是一個字符串,而子集包含一個非字符串列超营,則只會忽略該非字符串列鸳玩。

????????????返回:dataframe ,?DataFrame.replace()?and?DataFrameNaFunctions.replace()?是等價(jià)的????

In [399]: df.na.replace(2,20).show()

+-----+---+------+

| name|age|height|

+-----+---+------+

|Alice| 20|? ? 80|

|? Bob|? 5|? null|

+-----+---+------+

In [400]: df.show()

+-----+---+------+

| name|age|height|

+-----+---+------+

|Alice|? 2|? ? 80|

|? Bob|? 5|? null|

+-----+---+------+

In [402]: df.na.replace(['Alice','Bob'],['A','B']).show()

+----+---+------+

|name|age|height|

+----+---+------+

|? A|? 2|? ? 80|

|? B|? 5|? null|

+----+---+------+

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末演闭,一起剝皮案震驚了整個濱河市不跟,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌米碰,老刑警劉巖窝革,帶你破解...
    沈念sama閱讀 206,482評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異吕座,居然都是意外死亡虐译,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評論 2 382
  • 文/潘曉璐 我一進(jìn)店門米诉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來菱蔬,“玉大人,你說我怎么就攤上這事史侣∷┟冢” “怎么了?”我有些...
    開封第一講書人閱讀 152,762評論 0 342
  • 文/不壞的土叔 我叫張陵惊橱,是天一觀的道長蚪腐。 經(jīng)常有香客問我,道長税朴,這世上最難降的妖魔是什么回季? 我笑而不...
    開封第一講書人閱讀 55,273評論 1 279
  • 正文 為了忘掉前任家制,我火速辦了婚禮,結(jié)果婚禮上泡一,老公的妹妹穿的比我還像新娘颤殴。我一直安慰自己,他們只是感情好鼻忠,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,289評論 5 373
  • 文/花漫 我一把揭開白布涵但。 她就那樣靜靜地躺著,像睡著了一般帖蔓。 火紅的嫁衣襯著肌膚如雪矮瘟。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,046評論 1 285
  • 那天塑娇,我揣著相機(jī)與錄音澈侠,去河邊找鬼。 笑死埋酬,一個胖子當(dāng)著我的面吹牛哨啃,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 38,351評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼弯洗!你這毒婦竟也來了雏节?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,988評論 0 259
  • 序言:老撾萬榮一對情侶失蹤邑跪,失蹤者是張志新(化名)和其女友劉穎次坡,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體画畅,經(jīng)...
    沈念sama閱讀 43,476評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡砸琅,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,948評論 2 324
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了轴踱。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片症脂。...
    茶點(diǎn)故事閱讀 38,064評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖淫僻,靈堂內(nèi)的尸體忽然破棺而出诱篷,到底是詐尸還是另有隱情,我是刑警寧澤雳灵,帶...
    沈念sama閱讀 33,712評論 4 323
  • 正文 年R本政府宣布棕所,位于F島的核電站,受9級特大地震影響悯辙,放射性物質(zhì)發(fā)生泄漏琳省。R本人自食惡果不足惜迎吵,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,261評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望针贬。 院中可真熱鬧击费,春花似錦、人聲如沸桦他。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,264評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽瞬铸。三九已至批幌,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間嗓节,已是汗流浹背荧缘。 一陣腳步聲響...
    開封第一講書人閱讀 31,486評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留拦宣,地道東北人截粗。 一個月前我還...
    沈念sama閱讀 45,511評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像鸵隧,于是被迫代替她去往敵國和親绸罗。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,802評論 2 345

推薦閱讀更多精彩內(nèi)容