Spark数据导入时的类型检测相关问题

Spark 可以读取文本,csv和rmdb中的数据,并且带有类型自动检测功能

专注于为中小企业提供成都网站设计、成都做网站服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业庆安免费做网站提供优质的服务。我们立足成都,凝聚了一批互联网行业人才,有力地推动了上1000+企业的稳健成长,帮助中小企业通过网站建设实现规模扩充和转变。

public final static String DATA_SEPARATOR_TAB = "\t";

session.read().format("csv").option("delimiter", Constants.DATA_SEPARATOR_TAB).option("inferSchema", "true").option("header", "true").option("encoding", charset).csv(path).toDF(columnNames).write().mode(mode).saveAsTable(tempTable);

红色属性决定spark是否自动探测数据类型,如果不开启自动探测,默认都是string

rdbms导入到spark中默认会类型探测和对应,但是在处理sqlserver的时间类型有问题

Spark 数据导入时的类型检测相关问题

如上图所示

只有datetime可以被spark识别并存储为日期类型,其他的都落地成了String类型,所以在执行data_formate时因为要多做一步转换所以性能会差很多



网页名称:Spark数据导入时的类型检测相关问题
链接URL:http://hxwzsj.com/article/giiihi.html

其他资讯

Copyright © 2025 青羊区翔捷宏鑫字牌设计制作工作室(个体工商户) All Rights Reserved 蜀ICP备2025123194号-14
友情链接: 网站制作 自适应网站设计 成都网站建设 成都h5网站建设 成都定制网站建设 成都网站设计 高端网站设计 成都网站建设 重庆手机网站建设 网站建设费用 网站设计公司 成都网站制作 泸州网站建设 响应式网站设计方案 成都网站建设 响应式网站设计 手机网站建设套餐 H5网站制作 品牌网站建设 成都网站建设 成都网站设计 网站建设方案