spark如何写入hive数据
发表于:2026-10-31 作者:千家信息网编辑
千家信息网最后更新 2026年10月31日,这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。package hgs.spark.hiveimport o
千家信息网最后更新 2026年10月31日spark如何写入hive数据
这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
package hgs.spark.hiveimport org.apache.spark.SparkConfimport org.apache.spark.SparkContextimport org.apache.spark.sql.SparkSessionimport org.apache.spark.sql.SQLContextimport org.apache.spark.sql.SaveModeimport org.apache.spark.sql.types.StructFieldimport org.apache.spark.sql.types.StructTypeimport org.apache.spark.sql.types.IntegerTypeimport org.apache.spark.sql.types.StringTypeimport org.apache.spark.sql.Rowobject WriteDatatoHive { def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("WriteDatatoHive").setMaster("local") val context = new SparkContext(conf) val rdd = context.parallelize(List(("wd",22),("cm",25)), 2).map(x=>Row(x._1,x._2)) val builder = SparkSession.builder() .appName("hiveApp") .config("spark.sql.warehouse.dir","hdfs://bigdata00:9000/user/hive/warehouse/") .enableHiveSupport() .getOrCreate() //import builder.implicits._ import builder.implicits._ val personShcema = StructType( List( //下面为一个列的描述,分别为 列名,数据类型,是否为空 StructField("name",StringType,true), StructField("age",IntegerType,true) ) ) val personDF = builder.createDataFrame(rdd, personShcema) personDF.createOrReplaceTempView("personm") //这个可以存储数据与hiveSQL兼容 builder.table("personm").write.insertInto("test.person") //builder.sql("select * from personm").write.option("spark.sql.hive.convertMetastoreParquet", false) //.mode(SaveMode.Append).saveAsTable("test.person") context.stop() }}case class person(name:String,age:Int)关于"spark如何写入hive数据"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。
数据
篇文章
更多
不错
实用
内容
文章
知识
类型
别为
参考
存储
帮助
有关
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
涨乐互联网科技
圆梦互联网科技
盈实互联网科技
西安互联网科技
狮子座互联网科技有限公司
奇酷互联网络科技公司
科技创新互联网企业
互联网科技ppt模板
睿民互联网科技
顺玮阁互联网科技
金融科技与互联网金融相同和不同
互联网时代科技改变生活
宝灵互联网科技有限公司
移动互联网年度科技创新
互联网金融科技展
黑云互联网科技有限公司
互联网科技快讯热点
陕西云淼互联网科技公司
长沙渺峰互联网科技有限公司
广州全民伙伴互联网科技有限公司
互联网科技公司排名
为想互联网科技怎么样
善班互联网科技有限公司
互联网科技美容
金融科技和互联网金融
江苏南京365互联网科技
科技互联网的核心竞争力
世界互联网科技成果奖
互联网领先科技活动
平安好医生打造互联网科技医疗