hadoop的几个问题 1.将本地文件复制到hdfs中,那么在hdfs中这个文件是存放在namenode还是分开放在datanode
答案:1 悬赏:20 手机版
解决时间 2021-04-06 00:36
- 提问者网友:書生途
- 2021-04-05 15:23
hadoop的几个问题 1.将本地文件复制到hdfs中,那么在hdfs中这个文件是存放在namenode还是分开放在datanode
最佳答案
- 五星知识达人网友:空山清雨
- 2021-04-05 16:57
试着回答:
先说明一下:
1. namenode负责管理目录和文件信息,真正的文件块是存放在datanode上。
2. 每个map和reduce(即task)都是java进程,默认是有单独的jvm的,所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以:
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上,确切的说是在tasktracker中。每个map和reduce都会有自己的对象,当多个map读入一个文件时,实际上不同的map是读的文件不同的块,reduce也是一样,各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上,和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象,与前面inputformat原因一样。
先说明一下:
1. namenode负责管理目录和文件信息,真正的文件块是存放在datanode上。
2. 每个map和reduce(即task)都是java进程,默认是有单独的jvm的,所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以:
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上,确切的说是在tasktracker中。每个map和reduce都会有自己的对象,当多个map读入一个文件时,实际上不同的map是读的文件不同的块,reduce也是一样,各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上,和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象,与前面inputformat原因一样。
我要举报
如以上回答内容为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
点此我要举报以上问答信息
大家都在看
推荐资讯