隨便說(shuō)說(shuō)函數(shù)柯里化

什么是柯里化(Currying)旭等?
柯里化是以數(shù)學(xué)家航背、邏輯學(xué)家Haskell Brooks Curry的名字命名的溉委,與咖喱無(wú)關(guān)。編程語(yǔ)言Haskell也是以他的名字命名的矮嫉。
所謂柯里化茫因,是指將接受多個(gè)參數(shù)的函數(shù)的求值過(guò)程蚪拦,轉(zhuǎn)變?yōu)橐幌盗凶雍瘮?shù)的鏈?zhǔn)角笾颠^(guò)程的方法。這一系列子函數(shù)中冻押,每個(gè)子函數(shù)的參數(shù)列表都是原來(lái)參數(shù)列表的子集驰贷。并且除了最后一個(gè)子函數(shù)之外,其他子函數(shù)都會(huì)按序接受參數(shù)洛巢,而返回一個(gè)新的函數(shù)括袒。

簡(jiǎn)單來(lái)講,如果在集合X稿茉、Y锹锰、Z上定義函數(shù)f: (X × Y) → Z,那么將f柯里化漓库,會(huì)構(gòu)造出新函數(shù)f': X → (Y → Z)恃慧。也就是說(shuō),函數(shù)f'接受X中的參數(shù)渺蒿,然后返回一個(gè)由Y映射到Z的函數(shù)痢士,進(jìn)而從該函數(shù)得到結(jié)果。這可以表示為f'(x)(y)=f(x, y)蘸嘶。與這個(gè)過(guò)程相反的過(guò)程就叫反柯里化(Uncurrying)良瞧。

用Java來(lái)舉個(gè)例子陪汽,假設(shè)有一個(gè)將兩數(shù)相加的方法:

int add(int x, int y) {
    return x + y;
}

將其柯里化之后训唱,就是這樣的:

Function<Integer, Function<Integer, Integer>> add() {
    return x -> y -> x + y;
}

如果用Scala的話,看起來(lái)更加簡(jiǎn)潔一些:

def add(x: Int)(y: Int): Int = {
    x + y
}

它實(shí)際上是以下這種形式的簡(jiǎn)寫:

def add(x: Int): (Int => Int) = {
    (y: Int) => {
        x + y
    }
}

所以挚冤,我們也可以簡(jiǎn)單地認(rèn)為况增,函數(shù)柯里化之后相當(dāng)于將其原來(lái)的參數(shù)列表分拆成了多個(gè)參數(shù)列表進(jìn)行調(diào)用,因此Scala官方文檔中也將其稱為“multiple parameter lists”训挡。

看了上面的例子之后澳骤,我們可能都會(huì)感覺(jué)柯里化沒(méi)什么卵用歧强,“只是塊語(yǔ)法糖而已嘛”。但它在像Scala這樣推崇函數(shù)式編程的語(yǔ)言中確實(shí)有奇效为肮。例如在Scala內(nèi)部的SeqLike特征中摊册,有個(gè)corresponds()方法:

  def corresponds[B](that: GenSeq[B])(p: (A,B) => Boolean): Boolean = {
    val i = this.iterator
    val j = that.iterator
    while (i.hasNext && j.hasNext)
      if (!p(i.next(), j.next()))
        return false

    !i.hasNext && !j.hasNext
  }

它按照一定條件來(lái)比較兩個(gè)序列的對(duì)應(yīng)性,并返回true或false颊艳。它接受兩個(gè)分開(kāi)的參數(shù):要比較的另一個(gè)序列that茅特、比較條件p,其中p又是一個(gè)函數(shù)棋枕,這就是典型的柯里化白修。
舉個(gè)栗子,如果我們有多個(gè)字符串組成的序列(即Seq[String])a和b重斑,那么我們要比較a內(nèi)的每個(gè)字符串在不區(qū)分大小寫的情況下是否與b內(nèi)的字符串相等兵睛,就可以這樣寫,非常簡(jiǎn)單:

a.corresponds(b)(_.equalsIgnoreCase(_))

在Spark的源碼中也廣泛運(yùn)用了函數(shù)柯里化窥浪。如Spark Core系列文章中的代碼#4.1祖很,即SparkContext.parallelize()方法中,withScope出現(xiàn)的地方就有點(diǎn)詭異:

  def parallelize[T: ClassTag](
      seq: Seq[T],
      numSlices: Int = defaultParallelism): RDD[T] = withScope {
    assertNotStopped()
    new ParallelCollectionRDD[T](this, seq, numSlices, Map[Int, Seq[String]]())
  }

實(shí)際上withScope()是個(gè)方法漾脂,因?yàn)樗唤邮芤粋€(gè)參數(shù)突琳,所以圓括號(hào)直接用花括號(hào)代替了,這在Scala中是允許的符相。其最終實(shí)現(xiàn)位于RDDOperationScope.withScope()方法中:

  private[spark] def withScope[T](
      sc: SparkContext,
      name: String,
      allowNesting: Boolean,
      ignoreParent: Boolean)(body: => T): T = {
    // Save the old scope to restore it later
    val scopeKey = SparkContext.RDD_SCOPE_KEY
    val noOverrideKey = SparkContext.RDD_SCOPE_NO_OVERRIDE_KEY
    val oldScopeJson = sc.getLocalProperty(scopeKey)
    val oldScope = Option(oldScopeJson).map(RDDOperationScope.fromJson)
    val oldNoOverride = sc.getLocalProperty(noOverrideKey)
    try {
      if (ignoreParent) {
        // Ignore all parent settings and scopes and start afresh with our own root scope
        sc.setLocalProperty(scopeKey, new RDDOperationScope(name).toJson)
      } else if (sc.getLocalProperty(noOverrideKey) == null) {
        // Otherwise, set the scope only if the higher level caller allows us to do so
        sc.setLocalProperty(scopeKey, new RDDOperationScope(name, oldScope).toJson)
      }
      // Optionally disallow the child body to override our scope
      if (!allowNesting) {
        sc.setLocalProperty(noOverrideKey, "true")
      }
      body
    } finally {
      // Remember to restore any state that was modified before exiting
      sc.setLocalProperty(scopeKey, oldScopeJson)
      sc.setLocalProperty(noOverrideKey, oldNoOverride)
    }
  }

這個(gè)方法能夠保證執(zhí)行函數(shù)體body時(shí)拆融,在body內(nèi)部生成的所有RDD都位于同一個(gè)操作域內(nèi)。它是我們?cè)赟park Web UI展示的DAG圖中能夠看到RDD之間轉(zhuǎn)化關(guān)系的基礎(chǔ)啊终。

總的來(lái)說(shuō)镜豹,柯里化的意義主要有三點(diǎn):

  • 參數(shù)復(fù)用
  • 復(fù)雜邏輯分拆
  • 延遲執(zhí)行

嘛,就這樣蓝牲。晚安趟脂。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市例衍,隨后出現(xiàn)的幾起案子昔期,更是在濱河造成了極大的恐慌,老刑警劉巖佛玄,帶你破解...
    沈念sama閱讀 218,122評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件硼一,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡梦抢,警方通過(guò)查閱死者的電腦和手機(jī)般贼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,070評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人哼蛆,你說(shuō)我怎么就攤上這事蕊梧。” “怎么了腮介?”我有些...
    開(kāi)封第一講書人閱讀 164,491評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵肥矢,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我叠洗,道長(zhǎng)橄抹,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書人閱讀 58,636評(píng)論 1 293
  • 正文 為了忘掉前任惕味,我火速辦了婚禮楼誓,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘名挥。我一直安慰自己疟羹,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,676評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布禀倔。 她就那樣靜靜地躺著榄融,像睡著了一般。 火紅的嫁衣襯著肌膚如雪救湖。 梳的紋絲不亂的頭發(fā)上愧杯,一...
    開(kāi)封第一講書人閱讀 51,541評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音鞋既,去河邊找鬼力九。 笑死,一個(gè)胖子當(dāng)著我的面吹牛邑闺,可吹牛的內(nèi)容都是我干的跌前。 我是一名探鬼主播,決...
    沈念sama閱讀 40,292評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼陡舅,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼抵乓!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起靶衍,我...
    開(kāi)封第一講書人閱讀 39,211評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤灾炭,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后颅眶,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體蜈出,經(jīng)...
    沈念sama閱讀 45,655評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,846評(píng)論 3 336
  • 正文 我和宋清朗相戀三年帚呼,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了掏缎。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,965評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡煤杀,死狀恐怖眷蜈,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情沈自,我是刑警寧澤酌儒,帶...
    沈念sama閱讀 35,684評(píng)論 5 347
  • 正文 年R本政府宣布,位于F島的核電站枯途,受9級(jí)特大地震影響忌怎,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜酪夷,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,295評(píng)論 3 329
  • 文/蒙蒙 一榴啸、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧晚岭,春花似錦鸥印、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,894評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至片择,卻和暖如春潜的,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背字管。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 33,012評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工啰挪, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人嘲叔。 一個(gè)月前我還...
    沈念sama閱讀 48,126評(píng)論 3 370
  • 正文 我出身青樓脐供,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親借跪。 傳聞我的和親對(duì)象是個(gè)殘疾皇子政己,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,914評(píng)論 2 355