千家信息网

再看hadoop RPC

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,再看hadoop PRC以前写过一篇文章叫做《hadoop RPC从入门到暂时放弃》,现在粗略的把《Hadoop 2.xHDFS源码剖析》看完了第一遍,感觉对HDFS的整体了解上升了一个层次,并且重新
千家信息网最后更新 2026年11月01日再看hadoop RPC

再看hadoop PRC

以前写过一篇文章叫做《hadoop RPC从入门到暂时放弃》,现在粗略的把《Hadoop 2.xHDFS源码剖析》看完了第一遍,感觉对HDFS的整体了解上升了一个层次,并且重新看了一下动态代理、protocol buffer所以这次重新来写写对于hadoop RPC的认识。

下面还是主要通过ClientProtocol协议,即hdfs客户端与NameNode通信的协议,来介绍一下对hadoopRPC的认识。

  1. 客户端

首先编写程序操作hadoop hdfs的时候,通常都是会用到DFSClient这个类的,这里的DFSClient类中,持有一个实现了ClientProtocol接口的ClientNameNodeProtocolTranslatorPB(以下简称translator)的对象实例,这个实例主要的功能就是将ClientProtocol转化为protocol buffer方式序列化的请求,其实主要也是在这其中使用动态代理获取了ClientNamenodeProtocolPB的代理对象来实现转换。其中获取translator的时候还需要考虑NameNode是否是HA模式的。

其次Client部分最主要的方法就是Client.call方法,在调用call方法时会需要获取相应RPCServer 的连接对象(Connection),但是由于建立连接在任何一个系统中都是一个十分耗时的操作,所以connection会缓存到相应服务器的连接。Connection对象除了负责建立连接之外,还会在获取相应请求对应的应答后唤起相应请求的线程。PRC请求除了包括经过protocol buffer序列化的参数,还有对应的请求协议的标识字段。当接收到请求相应的应答时,会根据callId唤起等待的线程,这里根据RPC调用是否成功需要考虑是调用正常的接受应答方法还是异常的应答方法。

2.服务器

以NameNode的RPC服务器为例,它有一个名为NameNodeRpcServer的类专门负责从客户端、DataNode、以及其他NameNode发送过来的PRC请求。由于需要处理多种PRC协议(例如从客户端发来的ClientNameNodeProtocolPB),所以在这个类中需要一个叫做BlockingService的类,根据发送的请求中关于调用协议的信息,找出相应得serverSideTranslator来处理相应的*PB协议转化为真正的协议,例如通过clientNNPbService这个BlockingService将从客户端发来的ClientNamenodeProtocolPB协议,利用clientProtocolServerTranslator转化为jvm能够识别的ClientProtocol协议。

除此之外,RPC服务端还参考了reactor设计模型,采用线程池以及nio的思想,提高了并发能力,具体细节可以参考以前写得《hadoop RPC从入门到暂时放弃》。

以上差不多就是对hadoopRPC的全部认识了,以后有新的了解在及时更新。

肯草在深圳

2017-03-12


客户 客户端 方法 对象 服务 就是 服务器 线程 代理 动态 实例 序列 时候 还是 参考 处理 粗略 成功 差不多 以下简称 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技海报 互联网的科技 互联网科技有限公司经营范围 科技制造互联网公司 互联网金融公司科技 平安科技 互联网 互联网未来科技 朗涯互联网科技 广州互联网络科技有限公司 菲比寻常互联网科技 兼蜜互联网科技 智腾互联网科技有限公司 互联网科技公司实习生 允成互联网科技有限公司融资 迪庆互联网科技招生 保险科技服务互联网营销体系 2021互联网科技公司排名 智帮互联网科技公司最近动向 工业互联网科技成果转化 艺电能源互联网科技有限公司招聘 南京欣网互联网络科技有限公司 西安纸贵互联网科技有限公司 中关村互联网 科技集团 北京互联网科技公司 世界互联网领先科技成果 天速互联网络科技有限公司 本届互联网博览会上的黑科技 互联网科技公司营业执照怎么办理 互联网科技手机排行榜 互联网科技创业计划的风险分析
0