MapReduce的特性有哪些

本篇文章给大家分享的是有关MapReduce的特性有哪些，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。

计数器

• 作用：计数器是收集作业统计信息的有效手段之一，用于质量控制或应用级统计。计数器还可辅助诊断系统故障。

• 任务计数器

• 文件系统计数器

• FileInputFormat 计数器

• FileOutputFormat计数器

• 作业计数器

• 作业计数器由application master维护,因此无需在网络间传输数据

• 用户定义的java计数器

• 用户定义的Streaming 计数器

排序

• 部分排序

• 许多应用并不强求待处理的文件全局有序

• 全排序

• 思路：首先，创建一系列排好序的文件 其次 串联这些文件 最后生成一个全局排序的文件。主要思路是使用一个partitioner来描述输出的全局排序

连接

• MapReduce 能够执行大型数据集间的"连接"操作

• map端连接

• reduce 端连接 更常用

边数据分布

• 是作业所需的额外的只读数据，已辅助处理主数据集

• 利用JobConf来配置作业

• 分布式缓存

以上就是MapReduce的特性有哪些，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注行业资讯频道。