hadoop运行原理

 时间:2026-05-05 05:38:50

1、1)HDFS自动保存多个副本,移动计算。缺点是小文件存取占用namenode内存,写入只支持追加,不能随机修改。

它存储的逻辑空间称为block,文件的权限类似linux。整体架构分三种节点,NN,SNN,DN

 NN 负责读写操作保存metadata(Ownership Permission blockin/p>

 SNN 负责辅助NN合并fsimage和edits,减少nn启动时间

 DN 负责存数据,每个数据(文件)分割成若干block,每个block默认3个副本。启动后像NN发送心跳保持联系

 NN保存的metadata在hdfs启动后加载到计算机内存,除block位置信息的metadata保存在OS文件系统中的fsimage文件中,对metadata的操作日志保存在OS文件系统中的edits文件中。block位置信息是hdfs启动后由DN上报NN再加载到内存的。

 HDFS的安全模式:直到NN完全加载完metadata之前的这段时间。期间不能写入文件,DN检查各个block完整性,并修复。

hadoop运行原理

2、2)MapReduce

离线计算框架,过程分为split map shuffle reduce四个过程

架构节点有:Jobtracker TaskTracker

Split将文件分割,传输到mapper,mapper接收KV形式的数据,经过处理,再传到shuffle过程。

Shuffle先进行HashPartition或者自定义的partition,会有数据倾斜和reduce的负载均衡问题;再进行排序,默认按字典排序;为减少mapper输出数据,再根据key进行合并,相同key的数据value会被合并;最后分组形成(key,value{})形式的数据,输出到下一阶段

Reduce输入的数据就变成了,key+迭代器形式的数据,再进行处理。

hadoop运行原理

  • pytorch如何对两张图片进行预测?
  • win 10 系统下如何调出命令行
  • 在文件资源管理器电脑属性查看主路由器的IP地址
  • Android Studio如何开启循环滚动列表
  • mysql的ODBC驱动如何下载及安装
  • 热门搜索
    中外合作办学怎么样 欧莱雅怎么样 远视眼是怎么形成的 军旗怎么下 英雄联盟怎么安装 圣诞节英文怎么写 咬肌大怎么办 北汽威旺m20怎么样 宫外孕是怎么回事 第一次带美瞳怎么戴