Hadoop基本操作命令大全

启动Hadoop

start-all.sh

关闭HADOOP

stop-all.sh

查看文件列表

查看hdfs中/user/admin/aaron目录下的文件。

hadoop fs -ls /user/admin/aaron

列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。

hadoop fs -lsr /user/admin/aaron

创建文件目录

hadoop fs -mkdir /user/admin/aaron/newDir

删除文件

删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件

hadoop fs -rm /user/admin/aaron/needDelete

删除hdfs中/user/admin/aaron目录以及该目录下的所有文件

hadoop fs -rmr /user/admin/aaron

上传文件

hadoop fs –put /home/admin/newFile /user/admin/aaron/

下载文件

hadoop fs –get /user/admin/aaron/newFile /home/admin/newFile

查看文件

hadoop fs –cat /home/admin/newFile

新建一个空文件

hadoop  fs  -touchz /user/new.txt

将hadoop上某个文件重命名

hadoop  fs  –mv /user/test.txt  /user/ok.txt

将hadoop指定目录下所有内容保存为一个文件,同时down至本地

hadoop dfs –getmerge  /user /home/t

提交MAPREDUCE JOB

h bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的JOB

hadoop job -kill job_201005310937_0053

更多HADOOP的命令

hadoop

可以看到更多命令的说明信息:

  namenode -format        format the DFS filesystem

  secondarynamenode    run the DFS secondary namenode

  namenode                      run the DFS namenode

  datanode                        run a DFS datanode

  dfsadmin                        run a DFS admin client

  fsck                                  run a DFS filesystem checking utility

  fs                                      run a generic filesystem user client

  balancer                        run a cluster balancing utility

  jobtracker                      run the MapReduce job Tracker node

  pipes                              run a Pipes job

  tasktracker                    run a MapReduce task Tracker node

  job                                  manipulate MapReduce jobs

  queue                            get information regarding JobQueues

  version                          print the version

  jar <jar>            run a jar file

  distcp <srcurl> <desturl> copy file or directories recursively

  archive -archiveName NAME <src>* <dest> create a hadoop archive

  daemonlog            get/set the log level for each daemon

 or

  CLASSNAME            run the class named CLASSNAME

Most commands print help when invoked w/o parameters.

说明:

1、列出所有Hadoop Shell支持的命令

  $bin/hadoop fs -help

2、显示关于某个命令的详细信息

  $bin/hadoop fs -help command-name

3、用户可使用以下命令在指定路径下查看历史日志汇总,显示作业的细节信息,失败和终止的任务细节

  $bin/hadoop job -history output-dir

4、关于作业的更多细节,比如成功的任务,以及对每个任务的所做的尝试次数等可以用下面的命令查看

  $bin/hadoop job -history all output-dir

5、格式化一个新的分布式文件系统

  $bin/hadoop namenode -format

6、在分配的NameNode上,运行下面的命令启动HDFS,所有列出的slave上启动DataNode守护进程

  $bin/start-dfs.sh

7、在分配的JobTracker上,运行下面的命令启动Map/Reduce

  $bin/start-mapred.sh

8、在分配的NameNode上,执行下面的命令停止HDFS:

  $bin/stop-dfs.sh

9、在分配的JobTracker上,运行下面的命令停止Map/Reduce:

  $bin/stop-mapred.sh

 


DFSShell

10、创建一个名为 /foodir 的目录

  $bin/hadoop dfs -mkdir /foodir

11、创建一个名为 /foodir 的目录

  $bin/hadoop dfs -mkdir /foodir

12、查看名为/foodir/myfile.txt 的文件内容

  $bin/hadoop dfs -cat /foodir/myfile.txt

 


DFSAdmin

13、将集群置于安全模式

  $bin/hadoop dfsadmin -safemode enter

14、显示Datanode列表

  $bin/hadoop dfsadmin -report

15、使Datanode节点datanodename退役

  $bin/hadoop dfsadmin -decommission datanodename

16、bin/hadoop dfsadmin-help 命令能列出所有当前支持的命令。比如:

    *-report:报告HDFS的基本统计信息。有些信息可以在NameNode Web服务首页看到。

    *-safemode:通常并不需要,管理员的确可以手动让NameNode进入或离开安全模式。

    *-finalizeUpgrade:删除上一次升级时制作的集群备份。

17、显式地将HDFS置于安全模式

  $bin/hadoop dfsadmin -safemode

18、在升级之前,管理员需要用(升级终结操作)命令删除存在的备份文件

  $bin/hadoop dfsadmin -finalizeUpgrade

19、能够知道是否需要对一个集群执行升级终结操作。

  $dfsadmin -upgradeProgress status

20、使用-upgrade选项运行新的版本

  $bin/start-dfs.sh -upgrade

21、需要退回到老版本,就必须停止集群并且部署老版本的Hadoop,用回滚选项启动集群

  $bin/start-dfs.h -rollback

22、下面的新命令或新选项是用于支持配额的。前两个是管理员命令。

    *dfsadmin -setquota <N> <directory>...<directory>

把每个目录配额设为N。这个命令会在每个目录上尝试,如果N不是一个正的长整型数,目录不存在或是文件名,或者目录超过配额,则会产生错误报告。

    *dfsadmin -clrquota <directory>...<director>

为每个目录删除配额。这个命令会在每个目录上尝试,如果目录不存在或者是文件,则会产生错误报告。如果目录原来没有设置配额不会报错。

    *fs -count -q <directory>...<directory>

使用-q选项,会报告每个目录设置的配额,以及剩余配额。如果目录没有设置配额,会报告none和inf。

23、创建一个hadoop档案文件

  $hadoop archive -archiveName NAME <src>* <dest>

    -archiveName NAME  要创建的档案的名字。

    src文件系统的路径名,和通常含正则表达的一样。

    dest保存档案文件的目标目录。

24、递归拷贝文件或目录

  $hadoop distcp <srcurl> <desturl>

    srcurl      源Url

    desturl    目标Url

 


25、运行HDFS文件系统检查工具(fsck tools)
用法:hadoopfsck [GENERIC_OPTIONS] <path> [-move | -delete | -openforwrite] [-files[-blocks [-locations | -racks]]]

相关推荐