Spark中怎么调用Jni程序

本篇文章给大家分享的是有关Spark中怎么调用Jni程序,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。

创新互联是一家专业提供关岭企业网站建设,专注与网站设计、成都网站设计H5开发、小程序制作等业务。10年已为关岭众多企业、政府机构等服务。创新互联专业网站设计公司优惠进行中。

1.jni调用中的资源销毁问题处理。

           从saprk on yarn 模式下,每提交一次任务,就启动一组进程,并在任务完成后进程销毁,因此,只要确保全局资源只存在一份就可以保证不会发生内存泄漏,系统崩溃的情况。

 2.jni程序中的多个方法之间静态对象可共享。

3.corsegenbackend进程在任务提交时被创建,并在任务执行完成后被销毁,此进程个数在yarn模式下通过 --num-executors设置。

4.在spark上,任务可能跑在多个进程上,如果jni程序中包含C++静态对象,如何确保静态对象只被初始化加载一次?。

           解决方法:

              1.写在 mapparition中,但是被调用次数过多是个缺点。

              2.写在static块中,可以确保每个进程只对该方法调用一次。

5.spark中的mappartitions方法,如果在后台调用了一次 df.first();则可能会发生只被map一次的情况。

以上就是Spark中怎么调用Jni程序,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。


当前题目:Spark中怎么调用Jni程序
文章网址:http://hxwzsj.com/article/iescod.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 重庆网站制作 成都网站制作 营销型网站建设 网站建设公司 成都网站建设公司 手机网站设计 成都网站设计制作公司 成都品牌网站建设 自适应网站设计 高端定制网站设计 成都网站设计 成都模版网站建设 重庆网站建设 成都网站建设 响应式网站设计 营销型网站建设 成都响应式网站建设 成都企业网站建设公司 成都网站制作 成都网站制作 成都网站设计 营销网站建设