需要HADOOP_CONF_DIR YARN_CONF_DIR環(huán)境變量垄开,用于寫入數(shù)據(jù)到hdfs和連接到y(tǒng)arn的resourcemanager。
啟動方式同樣有兩種:
cluster mode 在yarn集群中的一個進程中運行腐芍,客戶進程可以結(jié)束秦躯。
client mode 在客戶進程中運行件蚕,只是從yarn中獲取資源
yarn的地址是通過配置文件獲得的,啟動時只需要傳遞 --yarn即可
./bin/spark-submit --class path.to.your.Class --master yarn --deploy-mode cluster [options] <app jar> [app options]
例如
./bin/spark-submit --class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode cluster \
--driver-memory 4g \
--executor-memory 2g \
--executor-cores 1 \
--queue thequeue \
lib/spark-examples*.jar \
10
./bin/spark-shell --master yarn --deploy-mode client
./bin/spark-submit --class my.main.Class \
--master yarn \
--deploy-mode cluster \
--jars my-other-jar.jar,my-other-other-jar.jar \
my-main-jar.jar \
app_arg1 app_arg2