hadoop 命令

問題導(dǎo)讀
1.hadoop daemonlog管理員命令的作用是什么鳍悠?
2.hadoop如何運(yùn)行一個類酗电,如何運(yùn)行一個jar包冤馏?
3.hadoop archive的作用是什么监署?

[圖片上傳中...(image-2a4785-1523504811054-0)]

概述

hadoop命令被bin/hadoop 腳本調(diào)用. 運(yùn)行hadoop腳本不帶任何命令將打印命令相關(guān)描述颤专。
Usage: hadoop [--config confdir] [--loglevel loglevel] [COMMAND] [GENERIC_OPTIONS] [COMMAND_OPTIONS]

|

FIELD

|

Description

|
|

--config confdir

|

覆蓋默認(rèn)配置文件目錄。默認(rèn)路徑${HADOOP_HOME}/conf.

|
|

--loglevel loglevel

|

覆蓋日志級別. 有效日志級別為FATAL, ERROR, WARN, INFO, DEBUG, 和 TRACE. 默認(rèn)是 INFO.

|
|

GENERIC_OPTIONS

|

多項命令共同支持的選項

|
|

COMMAND_OPTIONS

|

hadoop子項目文檔描述了hadoop命令的選項钠乏。hdfs和YARN在其它文檔那個

|

Hadoop 通用選項

Many subcommands honor a common set of configuration options to alter their behavior:

|

GENERIC_OPTION

|

Description

|
|

-archives <comma separated list of archives>

|

Specify comma separated archives to be unarchived on the compute machines. Applies only to job.

|
|

-conf <configuration file>

|

指定應(yīng)用程序配置文件

|
|

-D <property>=<value>

|

使用一個給定的屬性值

|
|

-files <comma separated list of files>

|

指定文件復(fù)制到mapredue集群栖秕。僅適用于job.

|
|

-jt <local> or <resourcemanager:port>

|

指定ResourceManager.僅適用于job.

|
|

-libjars <comma seperated list of jars>

|

指定jar文件包括所在classpath.僅適用于job.

|

Hadoop 通用命令

所有這些命令都是從Hadoop的shell命令執(zhí)行。他們被分成用戶命令和管理員命令【 User Commands 和 Admininistration Commands.】

用戶命令
用于Hadoop集群用戶命令晓避。

archive

創(chuàng)建一個Hadoop檔案簇捍,更多信息查看 Hadoop Archives Guide.

checknative

用法: hadoop checknative [-a] [-h]

|

COMMAND_OPTION

|

Description

|
|

-a

|

檢查所有庫

|
|

-h

|

打印幫助

|

這個命令檢查Hadoop本地代碼的可用性。更多信息查看 #NativeLibraries.html俏拱。默認(rèn)暑塑,此命令只檢查libhadoop的可用性。
classpath

用法: hadoop classpath [--glob |--jar <path> |-h |--help]

|

COMMAND_OPTION

|

Description

|
|

--glob

|

通配符

|
|

--jar path

|

jar路徑

|
|

-h, --help

|

打印幫助

|

打印classpath需要Hadoop的jar和需要的庫類路徑锅必。如果不帶參數(shù)調(diào)用事格,然后打印的命令腳本設(shè)置classpath。這可能包含通配符

credential

用法:hadoop credential <subcommand> [options]

|

COMMAND_OPTION

|

Description

|
|

create alias [-provider provider-path]

|

提示證書被存儲為指定別名的用戶搞隐。如果沒有-provider選項的話驹愚,那么將會默認(rèn)使用core-site.xml文件中hadoop.security.credential.provider.path項對應(yīng)的值。

|
|

delete alias [-provider provider-path] [-f]

|

刪除與所提供的別名對應(yīng)的證書文件劣纲。如果沒有-provider選項的話逢捺,那么將會默認(rèn)使用core-site.xml文件中hadoop.security.credential.provider.path項對應(yīng)的值。這項操作需要通過用戶的確認(rèn)癞季,除非使用了-f選項劫瞳。

|
|

list [-provider provider-path]

|

列出所有的證書別名。如果沒有-provider選項的話绷柒,那么將會默認(rèn)使用core-site.xml文件中hadoop.security.credential.provider.path項對應(yīng)的值志于。

|

該命令在憑證提供者內(nèi)部管理憑證(credentials),密碼(passwords)和秘密(secrets)辉巡。

Hadoop的CredentialProvider API支持應(yīng)用程序拆分恨憎,并且要求拆分后的應(yīng)用如何儲存所需的密碼(passwords)和秘密(secrets)。為了指明一個Provider的位置和類型,需要在core-site.xml添加hadoop.security.credential.provider.path配置項憔恳,或者通過指令中-provider命令選項進(jìn)行設(shè)置瓤荔。Provider路徑是一串以逗號分割的URL字符串。這些字符串會說明Provider的類型和位置钥组,舉個例子:

[Bash shell] 純文本查看 復(fù)制代碼

|

1

|

user:``///``,jceks:``//file/tmp/test``.jceks,jceks:``/hdfs``@nn1.example.com``/my/path/test``.jceks

|

指示當(dāng)前用戶的憑證输硝,需要通過User Provider咨詢。存儲在本地文件系統(tǒng)的文件/tmp/test.jceks是一個Java Keystore Provider程梦,相應(yīng)的存儲在hdfs上的文件nn1.example.com/my/path/test.jcek也是一個Java Keystore Provider点把。

當(dāng)使用credential命令時,它通常要提供密碼(password)或秘密(secret)給一個特定的憑證存儲provider屿附。為了清晰的表明要顯示使用哪個provider存儲郎逃,可以在命令中使用-provider選項。否則挺份,給定多個provider的時候褒翰,則使用的哥非持久的provider,這可能不是你預(yù)期的
例如:

[Bash shell] 純文本查看 復(fù)制代碼

|

1

|

hadoop credential list -provider jceks:``//file/tmp/test``.jceks

|

distcp

遞歸的拷貝文件或者目錄匀泊。更多信息查看 Hadoop DistCp Guide.

fs
這個命令在文檔 File System Shell Guide 优训。 和hdfs腳本的dfs類似

jar

用法: hadoop jar <jar> [mainClass] args...
運(yùn)行一個jar文件使用yarn啟動yarn應(yīng)用程序

key
通過KeyProvider管理秘鑰

trace

查看和修改Hadoop跟蹤(tracing)設(shè)置。查看:跟蹤(tracing)指南各聘。
Tracing Guide.

version

用法: hadoop version

打印版本

CLASSNAME

用法: hadoop CLASSNAME

運(yùn)行一個類

管理員命令

集群管理員命令
daemonlog
用法:

[Bash shell] 純文本查看 復(fù)制代碼

|

1

2

|

hadoop daemonlog -getlevel <host:httpport> <classname>

hadoop daemonlog -setlevel <host:httpport> <classname> <level>

|

|

COMMAND_OPTION

|

Description

|
|

-getlevel host:httpportclassname

|

打印運(yùn)行在<host:port>的守護(hù)進(jìn)程的日志級別揣非。這個命令內(nèi)部會連接http://<host:port>/logLevel?log=<name>

|
|

-setlevel host:httpportclassname level

|

設(shè)置運(yùn)行在<host:port>的守護(hù)進(jìn)程的日志級別。這個命令內(nèi)部會連接http://<host:port>/logLevel?log=<name>

|

設(shè)置或獲取指定后臺進(jìn)程的日志級別

[Bash shell] 純文本查看 復(fù)制代碼

|

1

|

Example: $ bin``/hadoop daemonlog -setlevel 127.0.0.1:50070 org.apache.hadoop.hdfs.server.namenode.NameNode DEBUG

|

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末躲因,一起剝皮案震驚了整個濱河市早敬,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌毛仪,老刑警劉巖搁嗓,帶你破解...
    沈念sama閱讀 221,695評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件芯勘,死亡現(xiàn)場離奇詭異箱靴,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)荷愕,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,569評論 3 399
  • 文/潘曉璐 我一進(jìn)店門衡怀,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人安疗,你說我怎么就攤上這事抛杨。” “怎么了荐类?”我有些...
    開封第一講書人閱讀 168,130評論 0 360
  • 文/不壞的土叔 我叫張陵怖现,是天一觀的道長。 經(jīng)常有香客問我,道長屈嗤,這世上最難降的妖魔是什么潘拨? 我笑而不...
    開封第一講書人閱讀 59,648評論 1 297
  • 正文 為了忘掉前任,我火速辦了婚禮饶号,結(jié)果婚禮上铁追,老公的妹妹穿的比我還像新娘。我一直安慰自己茫船,他們只是感情好琅束,可當(dāng)我...
    茶點故事閱讀 68,655評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著算谈,像睡著了一般涩禀。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上然眼,一...
    開封第一講書人閱讀 52,268評論 1 309
  • 那天埋泵,我揣著相機(jī)與錄音,去河邊找鬼罪治。 笑死丽声,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的觉义。 我是一名探鬼主播雁社,決...
    沈念sama閱讀 40,835評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼晒骇!你這毒婦竟也來了霉撵?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,740評論 0 276
  • 序言:老撾萬榮一對情侶失蹤洪囤,失蹤者是張志新(化名)和其女友劉穎徒坡,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體瘤缩,經(jīng)...
    沈念sama閱讀 46,286評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡喇完,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,375評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了剥啤。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片锦溪。...
    茶點故事閱讀 40,505評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖府怯,靈堂內(nèi)的尸體忽然破棺而出刻诊,到底是詐尸還是另有隱情,我是刑警寧澤牺丙,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布则涯,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏粟判。R本人自食惡果不足惜肖揣,卻給世界環(huán)境...
    茶點故事閱讀 41,873評論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望浮入。 院中可真熱鬧龙优,春花似錦、人聲如沸事秀。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,357評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽易迹。三九已至宰衙,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間睹欲,已是汗流浹背供炼。 一陣腳步聲響...
    開封第一講書人閱讀 33,466評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留窘疮,地道東北人袋哼。 一個月前我還...
    沈念sama閱讀 48,921評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像闸衫,于是被迫代替她去往敵國和親涛贯。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,515評論 2 359

推薦閱讀更多精彩內(nèi)容

  • 【大數(shù)據(jù)筆記】-解讀hadoop命令 - flyfoxs - ITeye技術(shù)網(wǎng)站 http://flyfoxs....
    葡萄喃喃囈語閱讀 1,750評論 0 1
  • Hadoop命令之列出所有Hadoop Shell支持的命令 Hadoop命令之顯示關(guān)于某個命令的詳細(xì)信息 Had...
    我可夢閱讀 287評論 0 3
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理蔚出,服務(wù)發(fā)現(xiàn)弟翘,斷路器,智...
    卡卡羅2017閱讀 134,701評論 18 139
  • 與其 通過規(guī)章制度讓大家 遵守 某項規(guī)定 骄酗,時而還要擔(dān)驚受怕 總有那么一小嘬人 冒天下之大不韙 以身試法 ...
    Helen_Cat閱讀 11,273評論 0 0
  • Hadoop - 命令參考 在“$ HADOOP_HOME / bin / hadoop fs”中有更多的命令比這...
    全能程序猿閱讀 369評論 0 2