spark写orc格式文件
发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,在hive中建表格式存储格式为orccreate table user(id int,name string) stored as orc;spark写文件 val jsons = "hdfs:
千家信息网最后更新 2026年11月02日spark写orc格式文件
在hive中建表格式存储格式为orc
create table user(id int,name string) stored as orc;
spark写文件
val jsons = "hdfs://localhost:9000/test/artist_orc.json" val people = sc.textFile(jsons) val schemaString = "id name" val schema = StructType(schemaString.split(" ").map(fieldName => {if(fieldName == "name") StructField(fieldName, StringType, true) else StructField(fieldName, IntegerType, true)})) val rowRDD = people.map(line=>{ JSONObject.fromObject(line) }).map(p => Row(new Integer(p.get("id").toString), p.get("name"))) val hiveContext = new org.apache.spark.sql.hive.HiveContext(sc) val peopleSchemaRDD = hiveContext.createDataFrame(rowRDD, schema) peopleSchemaRDD.write.format("orc").save("hdfs://localhost:9000/user/xb/warehouse/artist_orc/adf")
格式
文件
存储
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
湖南永感互联网科技有限公司
为想互联网科技怎么样
科技赋能下的互联网金融
互联网与新科技
互联网金融科技创新
兼蜜互联网科技
太原新华互联网科技学校怎么样
南山科技园互联网公司有哪些
浙江互联网科技研学营
民营互联网公司国防科技
科技互联网海报
众安科技工业互联网合作
互联网方面的科技前沿
互联网企业科技类企业如何做账
电子商务与互联网科技的关系
上海同邻互联网科技有限公司规模
科技互联网专业工作会议发言稿
互联网科技创新方面的资料
利用互联网等科技手段
互联网科技快速发展优美句子
没上市的科技互联网公司
狮子座互联网科技有限公司
上海卓越科技 互联网
互联网科技素材视频竖屏
互联网 科技馆
坤平互联网科技
互联网科技和信息
科技互联网海报
互联网科技接地气
美国五大互联网科技公司市值多少