SparkContext組件之SparkConf

sparkContext是spark程序的入口碰镜,可以創(chuàng)建RDD户誓、accumulators和broadcast

/**
 * Main entry point for Spark functionality. A SparkContext represents the connection to a Spark
 * cluster, and can be used to create RDDs, accumulators and broadcast variables on that cluster.
 *
 * Only one SparkContext may be active per JVM.  You must `stop()` the active SparkContext before
 * creating a new one.  This limitation may eventually be removed; see SPARK-2243 for more details.
 *
 * @param config a Spark Config object describing the application configuration. Any settings in
 *   this config overrides the default configs as well as system properties.
 */
class SparkContext(config: SparkConf) extends Logging with ExecutorAllocationClient {

sparkContext的初始化只需要一個sparkConf忠售,sparkConf的實質(zhì)是一個<k, v>對

/**
 * Configuration for a Spark application. Used to set various Spark parameters as key-value pairs.
 *
 * Most of the time, you would create a SparkConf object with `new SparkConf()`, which will load
 * values from any `spark.*` Java system properties set in your application as well. In this case,
 * parameters you set directly on the `SparkConf` object take priority over system properties.
 *
 * For unit tests, you can also call `new SparkConf(false)` to skip loading external settings and
 * get the same configuration no matter what the system properties are.
 *
 * All setter methods in this class support chaining. For example, you can write
 * `new SparkConf().setMaster("local").setAppName("My app")`.
 *
 * Note that once a SparkConf object is passed to Spark, it is cloned and can no longer be modified
 * by the user. Spark does not support modifying the configuration at runtime.
 *
 * @param loadDefaults whether to also load values from Java system properties
 */
class SparkConf(loadDefaults: Boolean) extends Cloneable with Logging {

sparkConf的主要參數(shù)有

  • master
  • appName
  • jars
  • executorEnv
  • sparkHome
    /**
   * Creates a modified version of a SparkConf with the parameters that can be passed separately
   * to SparkContext, to make it easier to write SparkContext's constructors. This ignores
   * parameters that are passed as the default value of null, instead of throwing an exception
   * like SparkConf would.
   */
  private[spark] def updatedConf(
      conf: SparkConf,
      master: String,
      appName: String,
      sparkHome: String = null,
      jars: Seq[String] = Nil,
      environment: Map[String, String] = Map()): SparkConf =
  {
    val res = conf.clone()
    res.setMaster(master)
    res.setAppName(appName)
    if (sparkHome != null) {
      res.setSparkHome(sparkHome)
    }
    if (jars != null && !jars.isEmpty) {
      res.setJars(jars)
    }
    res.setExecutorEnv(environment.toSeq)
    res
  }
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末彪标,一起剝皮案震驚了整個濱河市诗宣,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌奥此,老刑警劉巖弧哎,帶你破解...
    沈念sama閱讀 212,454評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異稚虎,居然都是意外死亡撤嫩,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,553評論 3 385
  • 文/潘曉璐 我一進店門蠢终,熙熙樓的掌柜王于貴愁眉苦臉地迎上來序攘,“玉大人茴她,你說我怎么就攤上這事〕痰欤” “怎么了丈牢?”我有些...
    開封第一講書人閱讀 157,921評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長瞄沙。 經(jīng)常有香客問我己沛,道長,這世上最難降的妖魔是什么距境? 我笑而不...
    開封第一講書人閱讀 56,648評論 1 284
  • 正文 為了忘掉前任申尼,我火速辦了婚禮,結(jié)果婚禮上垫桂,老公的妹妹穿的比我還像新娘师幕。我一直安慰自己,他們只是感情好诬滩,可當我...
    茶點故事閱讀 65,770評論 6 386
  • 文/花漫 我一把揭開白布霹粥。 她就那樣靜靜地躺著,像睡著了一般疼鸟。 火紅的嫁衣襯著肌膚如雪后控。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,950評論 1 291
  • 那天愚臀,我揣著相機與錄音忆蚀,去河邊找鬼。 笑死姑裂,一個胖子當著我的面吹牛馋袜,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播舶斧,決...
    沈念sama閱讀 39,090評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼欣鳖,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了茴厉?” 一聲冷哼從身側(cè)響起泽台,我...
    開封第一講書人閱讀 37,817評論 0 268
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎矾缓,沒想到半個月后怀酷,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,275評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡嗜闻,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,592評論 2 327
  • 正文 我和宋清朗相戀三年蜕依,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,724評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡样眠,死狀恐怖友瘤,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情檐束,我是刑警寧澤辫秧,帶...
    沈念sama閱讀 34,409評論 4 333
  • 正文 年R本政府宣布,位于F島的核電站被丧,受9級特大地震影響盟戏,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜甥桂,卻給世界環(huán)境...
    茶點故事閱讀 40,052評論 3 316
  • 文/蒙蒙 一抓半、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧格嘁,春花似錦、人聲如沸廊移。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,815評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽狡孔。三九已至懂诗,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間苗膝,已是汗流浹背殃恒。 一陣腳步聲響...
    開封第一講書人閱讀 32,043評論 1 266
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留辱揭,地道東北人离唐。 一個月前我還...
    沈念sama閱讀 46,503評論 2 361
  • 正文 我出身青樓,卻偏偏與公主長得像问窃,于是被迫代替她去往敵國和親亥鬓。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 43,627評論 2 350

推薦閱讀更多精彩內(nèi)容