Dl4j - CSV數(shù)據(jù)轉(zhuǎn)換

## 準備數(shù)據(jù)

```

0,0,24,9.833333333333334,10,9.7,454,0

0,1,4,17.0,1,17.0,432,0

1,0,2,20.0,1,20.0,0,0

1,1,24,10.375,13,9.615384615384615,455,0

1,1,4,10.75,3,11.0,0,0

0,1,3,16.0,2,16.0,246,0

0,1,6,13.0,4,13.0,4767,0

```

## 轉(zhuǎn)換

```

val sparkConf = new SparkConf()

.set("spark.serializer", "org.apache.spark.serializer.KryoSerializer")

.set("spark.kryo.registrator", "org.nd4j.Nd4jRegistrator")

.setMaster("local[*]")

.setAppName("Dl4jTransform")

val useSparkLocal = true

val spark = SparkSession

.builder

.config(sparkConf)

.getOrCreate()

def main(args: Array[String]): Unit = {

val sc = spark.sparkContext

sc.setLogLevel("ERROR")

val inputDataSchema = new Schema.Builder()

.addColumnInteger("geneSid")

.addColumnInteger("platform")

.addColumnInteger("loginCount")

.addColumnDouble("loginHour")

.addColumnInteger("shareCount")

.addColumnDouble("shareHour")

.addColumnDouble("regHours")

.addColumnCategorical("shareIn", "YES", "NO")

.build()

val tp = new TransformProcess.Builder(inputDataSchema)

.removeColumns("shareHour", "loginHour")

.convertToInteger("regHours") //轉(zhuǎn)成整數(shù)

//? ? ? .transform(new BaseDoubleTransform("regHours") { //自定義轉(zhuǎn)換

//? ? ? ? override def map(writable: Writable): Writable = {

//? ? ? ? ? new IntWritable(writable.toInt)

//? ? ? ? }

//

//? ? ? ? override def map(o: Any): AnyRef = {

//? ? ? ? ? val d = o.asInstanceOf[Double]

//? ? ? ? ? new IntWritable(d.toInt)

//? ? ? ? }

//? ? ? })

.categoricalToInteger("shareIn") // 轉(zhuǎn)成數(shù)字 YES:0? NO:1

.build()

val lines = spark.sparkContext.textFile("hello.csv")

val readWritables = lines.map(new StringToWritablesFunction(new CSVRecordReader()).call(_))

val processed = SparkTransformExecutor.execute(readWritables, tp)

val toSave = processed.map(new WritablesToStringFunction("\t"))

import spark.implicits._

toSave.rdd.toDS().show(false)

}

```

輸出結(jié)果

```

+------------------------+

|value? ? ? ? ? ? ? ? ? |

+------------------------+

|0 0? 24 10 454? ? ? 0? |

|0 1? 4? 1? 432? ? ? 0? |

|1 0? 2? 1? 0? ? 0? |

|1 1? 24 13 455? ? ? 1? |

|1 1? 4? 3? 0? ? 0? |

|0 1? 3? 2? 246? ? ? 0? |

|0 1? 6? 4? 4767? 0? |

+------------------------+

```

---

![](https://upload-images.jianshu.io/upload_images/9028759-07315bb8dadcd082.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子僻造,更是在濱河造成了極大的恐慌绝页,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,183評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件徊都,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機士复,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,850評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來共苛,“玉大人判没,你說我怎么就攤上這事∮缇ィ” “怎么了澄峰?”我有些...
    開封第一講書人閱讀 168,766評論 0 361
  • 文/不壞的土叔 我叫張陵,是天一觀的道長辟犀。 經(jīng)常有香客問我俏竞,道長绸硕,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,854評論 1 299
  • 正文 為了忘掉前任魂毁,我火速辦了婚禮玻佩,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘席楚。我一直安慰自己咬崔,他們只是感情好,可當我...
    茶點故事閱讀 68,871評論 6 398
  • 文/花漫 我一把揭開白布烦秩。 她就那樣靜靜地躺著垮斯,像睡著了一般。 火紅的嫁衣襯著肌膚如雪只祠。 梳的紋絲不亂的頭發(fā)上兜蠕,一...
    開封第一講書人閱讀 52,457評論 1 311
  • 那天,我揣著相機與錄音抛寝,去河邊找鬼熊杨。 笑死,一個胖子當著我的面吹牛盗舰,可吹牛的內(nèi)容都是我干的晶府。 我是一名探鬼主播,決...
    沈念sama閱讀 40,999評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼岭皂,長吁一口氣:“原來是場噩夢啊……” “哼郊霎!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起爷绘,我...
    開封第一講書人閱讀 39,914評論 0 277
  • 序言:老撾萬榮一對情侶失蹤书劝,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后土至,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體购对,經(jīng)...
    沈念sama閱讀 46,465評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,543評論 3 342
  • 正文 我和宋清朗相戀三年陶因,在試婚紗的時候發(fā)現(xiàn)自己被綠了骡苞。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,675評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡楷扬,死狀恐怖解幽,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情烘苹,我是刑警寧澤躲株,帶...
    沈念sama閱讀 36,354評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站镣衡,受9級特大地震影響霜定,放射性物質(zhì)發(fā)生泄漏档悠。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,029評論 3 335
  • 文/蒙蒙 一望浩、第九天 我趴在偏房一處隱蔽的房頂上張望辖所。 院中可真熱鬧,春花似錦磨德、人聲如沸缘回。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,514評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽切诀。三九已至,卻和暖如春搔弄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背丰滑。 一陣腳步聲響...
    開封第一講書人閱讀 33,616評論 1 274
  • 我被黑心中介騙來泰國打工顾犹, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人褒墨。 一個月前我還...
    沈念sama閱讀 49,091評論 3 378
  • 正文 我出身青樓炫刷,卻偏偏與公主長得像,于是被迫代替她去往敵國和親郁妈。 傳聞我的和親對象是個殘疾皇子浑玛,可洞房花燭夜當晚...
    茶點故事閱讀 45,685評論 2 360