shuffle和mapshuffle有什么区别

这篇文章将为大家详细讲解有关shuffle和map shuffle有什么区别,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

为企业提供成都网站设计、成都网站制作、外贸网站建设、网站优化、成都全网营销推广、竞价托管、品牌运营等营销获客服务。创新互联建站拥有网络营销运营团队,以丰富的互联网营销经验助力企业精准获客,真正落地解决中小企业营销获客难题,做到“让获客更简单”。自创立至今,成功用技术实力解决了企业“网站建设、网络品牌塑造、网络营销”三大难题,同时降低了营销成本,提高了有效客户转化率,获得了众多企业客户的高度认可!

普通shuffle结构图:

shuffle和map shuffle有什么区别

shuffle和map shuffle有什么区别

  • 不同表由不同的map完成,shuffle把条件相等的key分发到reduce task上去执行

  • join等于是在reduce阶段完成

缺点:
成本高且效率慢,所有的数据都需要shuffle去完成

map shuffle结构图:

shuffle和map shuffle有什么区别

  • mapjoin: join是发生在map阶段,无shuffle

  • mapjoin使用前提:大表 join 小表(小表有大小限制 maximum;hive元数据判断大小表)

  • 本地的map task读取小表的数据生成HashTable File,然后upload到分布式缓存里.

  • 完成本地map task小表后,启动Mapjoin task作业读取大表数据,每条数据和缓存里数据进行匹配

关于“shuffle和map shuffle有什么区别”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。


新闻名称:shuffle和mapshuffle有什么区别
文章地址:http://hxwzsj.com/article/jcpehg.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 手机网站设计 重庆企业网站建设 网站制作公司 成都网站设计 企业网站设计 网站制作 网站制作公司 成都网站制作 响应式网站建设 梓潼网站设计 成都网站设计公司 成都网站设计 攀枝花网站设计 响应式网站设计 自适应网站设计 成都网站设计制作公司 四川成都网站设计 成都网站设计 成都网站建设 LED网站设计方案 成都网站设计 重庆网站制作