spark-submit限制参数未生效怎么办

小编给大家分享一下spark-submit限制参数未生效怎么办,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

10年积累的成都网站制作、网站建设经验,可以快速应对客户对网站的新想法和需求。提供各种问题对应的解决方案。让选择我们的客户得到更好、更有力的网络服务。我虽然不认识你,你也不认识我。但先网站设计制作后付款的网站建设流程,更有乌海海南免费网站建设让你可以放心的选择与我们合作。

spark-submit 限制参数未生效

因为在spark-submit时配置的executor-memory 2g等没有生效,后来问同事说他也碰到这样的问题,解决方案就是动态的分配executor

--conf spark.yarn.maxAppAttempts=1 --conf spark.dynamicAllocation.minExecutors=2 --conf spark.dynamicAllocation.maxExecutors=4 --conf spark.dynamicAllocation.initialExecutors=4

以上是“spark-submit限制参数未生效怎么办”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!


本文名称:spark-submit限制参数未生效怎么办
链接分享:http://hxwzsj.com/article/gchcee.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 营销网站建设 重庆手机网站建设 成都网站建设 成都网站设计 成都网站建设公司 成都营销网站制作 LED网站设计方案 企业网站建设 网站建设 成都网站建设 公司网站建设 成都网站设计 成都商城网站建设 重庆企业网站建设 成都网站制作公司 成都网站设计 企业网站设计 定制网站制作 宜宾网站设计 成都网站建设 网站建设方案 高端定制网站设计