头歌实践教学平台
教学课堂
大数据从入门到实战 - 第2章 分布式文件系统HDFS
第1关:HDFS的基本操作
任务描述
本关任务:使用Hadoop命令来操作分布式文件系统。
编程要求
在右侧命令行中启动Hadoop,进行如下操作。
在HDFS中创建/usr/output/文件夹;在本地创建hello.txt文件并添加内容:“HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。”;将hello.txt上传至HDFS的/usr/output/目录下;删除HDFS的/user/hadoop目录;将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。
测试说明
平台会查看你本地的文件和HDFS的文件是否存在,如果存在,则会将其内容输出到控制台。
预期输出:
HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。
HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。
代码
start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
截图
第2关:HDFS-JAVA接口之读取文件
任务描述
本关任务:使用HDFS的Java接口进行文件的读写,文件uri地址为hdfs://localhost:9000/user/hadoop/task.txt。
编程要求
在右侧代码编辑区中编写代码实现如下功能:
使用FSDataInputStream获取HDFS的/user/hadoop/目录下的task.txt的文件内容,并输出,其中uri为hdfs://localhost:9000/user/hadoop/task.txt。
测试说明
点击评测,平台会通过脚本创建/user/hadoop/task.txt文件并添加相应内容,无需你自己创建,开启hadoop,编写代码点击评测即可。因为Hadoop环境非常消耗资源,所以你如果一段时间不在线,后台会销毁你的镜像,之前的数据会丢失(你的代码不会丢失),这个时候需要你重新启动Hadoop。
预期输出: WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷,进一寸有一寸的欢喜。
第一行打印出来的是log4j的日志警告,可以忽略。
代码
//请在Begin-End之间添加你的代码,完成任务要求。
/********* Begin *********/
URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(uri, config);
InputStream in = null;
try{
in = fs.open(new Path(uri));
IOUtils.copyBytes(in,System.out,2048,false);
}catch(Exception e){
IOUtils.closeStream(in);
}
/********* End *********/
截图
第3关:HDFS-JAVA接口之上传文件
任务描述
本关任务:使用HDFSAPI上传文件至集群。
编程要求
在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:
在/develop/input/目录下创建hello.txt文件,并输入如下数据: 迢迢牵牛星,皎皎河汉女。 纤纤擢素手,札札弄机杼。 终日不成章,泣涕零如雨。 河汉清且浅,相去复几许? 盈盈一水间,脉脉不得语。 《迢迢牵牛星》 使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目录下,并打印进度。
测试说明
平台会运行你的java程序,并查看集群的文件将文件信息输出到控制台,第一行属于警告信息可以忽略。
预期输出:
代码
//请在 Begin-End 之间添加代码,完成任务要求。
/********* Begin *********/
File localPath = new File("/develop/input/hello.txt");
String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
InputStream in = new BufferedInputStream(new FileInputStream(localPath));
Configuration conf = new Configuration();
FileSystem fs = FileSystem.get(URI.create(hdfsPath),conf);
long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
FSDataOutputStream out = fs.create(new Path(hdfsPath),new Progressable(){
long fileCount = 0;
public void progress(){
System.out.println("总进度"+(fileCount / fileSize) * 100 + "%");
fileCount++;
}
});
IOUtils.copyBytes(in,out,2048,true);
/********* End *********/
截图
第4关:HDFS-JAVA接口之删除文件
任务描述
本关任务:删除HDFS中的文件和文件夹。
编程要求
在右侧代码区填充代码,实现如下功能:
删除HDFS的/user/hadoop/目录(空目录);删除HDFS的/tmp/test/目录(非空目录);列出HDFS根目录下所有的文件和文件夹;列出HDFS下/tmp/的所有文件和文件夹。
测试说明
HDFS的文件夹在你点击评测是会通过脚本自动创建,不需要你自己创建哦,依照题意编写代码点击评测即可。
预期输出:
代码
//请在 Begin-End 之间添加代码,完成本关任务。
/********* Begin *********/
String uri = "hdfs://localhost:9000/";
String path1 = "hdfs://localhost:9000/user/hadoop";
String path2 = "hdfs://localhost:9000/tmp/test";
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(uri),config);
fs.delete(new Path(path1),true);
fs.delete(new Path(path2),true);
Path[] paths = {new Path(uri),new Path("hdfs://localhost:9000/tmp")};
FileStatus[] status = fs.listStatus(paths);
Path[] listPaths = FileUtil.stat2Paths(status);
for(Path path : listPaths){
System.out.println(path);
}
/********* End *********/
截图
精彩文章
发表评论