spark表关联

发现用spark写表join比flink 简单很多,至少schema 可以省了,下面是一个例子

我们提供的服务有:做网站、网站制作、微信公众号开发、网站优化、网站认证、凯里ssl等。为成百上千家企事业单位解决了网站和推广的问题。提供周到的售前咨询和贴心的售后服务,是有科学管理、有技术的凯里网站制作公司

public static void main(String[] args) {        

         SparkSession s= SparkSession.builder().appName("rec").getOrCreate();

         Dataset user=s.read().format("jdbc")
          .option("driver", "com.MySQL.jdbc.Driver")
          .option("url", "jdbc:mysql://*")
          .option("dbtable", "user")
          .option("user", "1")
          .option("password", "1")
          .load();

         Dataset house=s.read().format("jdbc")
                  .option("driver", "com.mysql.jdbc.Driver")
                  .option("url", "jdbc:mysql://")
                  .option("dbtable", "house")
                  .option("user", "1")
                  .option("password", "1")
                  .load();

         user.cache();

         house.cache();

         user.createOrReplaceTempView("user");

         house.createOrReplaceTempView("house");

         Dataset temp= s.sql("select user.user_name, house.house_name from user inner join house where user.uid=house.uid ");

         temp.write().csv("/home/ziroom/house-user");

    }

新闻名称:spark表关联
文章链接:http://hxwzsj.com/article/gpddcg.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 营销型网站建设 公司网站建设 移动网站建设 成都定制网站建设 企业网站设计 响应式网站设计 成都响应式网站建设 营销型网站建设 成都网站设计 定制网站建设 网站建设公司 营销型网站建设 成都网站建设 响应式网站设计 H5网站制作 成都网站建设 网站制作 攀枝花网站设计 网站建设费用 外贸网站设计方案 网站建设改版 做网站设计