作者：admin 发布时间：2024-01-26 02:30 分类：资讯 浏览：23 评论：0
1、在map中，每个 map 函数会输出一组 key/value对， Shuffle 阶段需要从所有 map主机上把相同的 key 的 key value对组合在一起，（也就是这里省去的Combiner阶段）组合后传给 reduce主机， 作为输入进入 reduce函数里。
2、输入分片：在进行Map计算之前，MapReduce会根据输入文件计算输入分片，每个输入分片对应一个Map任务，输入分片存储的并非数据本身。如果输入文件较大，可以进行输入分片调整，例如合并小文件，以优化计算效率。
3、map任务的输入和输出都是key-value （3） 把每个map输出的key-value都进行分区，然后做排序、归并、合并后，分发给所有reduce节点去处理——这个过程称为shuffle。因此map输出的分区数量取决于reduce机器（节点）的数量。
4、处理一个mapreduce作业主要包括的过程如下：输入数据切片 在开始执行作业之前，输入数据会被切片成若千个小块。每个小块通常大小为64MB-128MB左右。Map任务执行 每个Worker节点会启动若个Mapper线程来处理输入数据切片。
5、输入：输入数据分为键/值对，由集群中的每个节点处理。映射函数：使用输入数据中的每个键/值对来调用用户定义的映射函数，以生成一组中间键/值对。Shuffle：将中间的键/值对分组，并将其发送到正确的节点。
6、MapReduce运行的时候，会通过Mapper运行的任务读取HDFS中的数据文件，然后调用自己的方法，处理数据，最后输出。Reducer任务会接收Mapper任务输出的数据，作为自己的输入数据，调用自己的方法，最后输出到HDFS的文件中。
mapreduce中，map阶段处理的数据如何传递给reduce阶段，是mapreduce框架中最关键的一个流程，这个流程就叫shuffle阶段。
Shuffle阶段：在Map阶段之后执行。这个阶段是自动进行的，对Map阶段输出的所有键值对进行排序和分组，以便将传递给Reduce阶段。Reduce阶段：在Shuffle阶段之后执行。
使用序列化：将数据序列化为字节数组可以减少数据传输的大小，常用的序列化框架包括Avro、Protobuf和Thrift等。
其实不管在map端还是在reduce端，MapReduce都是反复地执行排序，合并操作，现在终于明白了有些人为什么会说：排序是hadoop的灵魂。
处理一个mapreduce作业主要包括的过程如下：输入数据切片 在开始执行作业之前，输入数据会被切片成若千个小块。每个小块通常大小为64MB-128MB左右。Map任务执行 每个Worker节点会启动若个Mapper线程来处理输入数据切片。
mapreduce工作流程如下：输入分片（input split）：在进行map计算之前，mapreduce会根据输入文件计算输入分片（input split），每个输入分片（input split）针对一个map任务，输入分片（input split）存储的并非数据本身。
当mapreduce任务提交后，reduce task就不断通过RPC从JobTracker那里获取map task是否完成的信息，如果获知某台TaskTracker上的map task执行完成，Shuffle的后半段过程就开始启动。
算法原理 下列动图来自五分钟学算法，演示了快速排序算法的原理和步骤。
分为2个步骤，map和reduce，map专门负责对每个数据独立地同时地打标签，框架会对相同标签的数据分成一组，reduce对分好的那些组数据做累计计算。