200字范文,内容丰富有趣,生活中的好帮手!
200字范文 > Hadoop之HDFS常用Shell命令

Hadoop之HDFS常用Shell命令

时间:2018-07-11 08:07:36

相关推荐

Hadoop之HDFS常用Shell命令

Hadoop之HDFS常用Shell命令

启动Hadoop集群

sbin/start-dfs.shsbin/start-yarn.sh

-help:输出这个命令参数

hadoop fs -help rm

-ls: 显示目录信息

hadoop fs -ls /

-mkdir:在hdfs上创建目录

hadoop fs -mkdir -p /hadoop

-moveFromLocal从本地剪切粘贴到hdfs

hadoop fs -moveFromLocal ./hh.txt /hadoop

-cat:显示文件内容

hadoop fs -cat /hadoop/hh.txt

-tail:显示一个文件的末尾

adoop fs -tail /hadoop/hh.txt

-chgrp 、-chmod、-chown:linux文件系统中的用法一样,修改文件所属权限

hadoop fs -chmod 666 /hadoop/hh.txthadoop fs -chown centos:centos /hadoop/hh.txt

-copyFromLocal:从本地文件系统中拷贝文件到hdfs路径去

hadoop fs -copyFromLocal README.txt /

-copyToLocal:从hdfs拷贝到本地

hadoop fs -copyToLocal /hadoop/hh.txt ./

-cp :从hdfs的一个路径拷贝到hdfs的另一个路径

hadoop fs -cp /hadoop/hh.txt /admin/hah.txt

-mv:在hdfs目录中移动文件

hadoop fs -mv /hh.txt /admin

-get:等同于copyToLocal,就是从hdfs下载文件到本地

hadoop fs -get /hadoop/hh.txt ./

-getmerge :合并下载多个文件,比如hdfs的目录 /aaa/下有多个文件:log.1, log.2,log.3,…

hadoop fs -getmerge /user/test/* ./hh.txt

-put:等同于copyFromLocal

hadoop fs -put ./zaiyiqi.txt /user/test/

-rm:删除文件或文件夹

hadoop fs -rm /user/test/jinlian2.txt

-rmdir:删除空目录

hadoop fs -rmdir /test

-du统计文件夹的大小信息

hadoop fs -du -s -h /user/test

-setrep:设置hdfs中文件的副本数量

hadoop fs -setrep 10 /hadoop/hh.txt

这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。

hadoop fs、hadoop dfs与hdfs dfs命令的区别

Hadoop fs:使用面最广,可以操作任何文件系统。

hadoop dfs与hdfs dfs:只能操作HDFS文件系统相关(包括与Local FS间的操作),前者已经Deprecated,一般使用后者。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。