spark如何写入hive数据
发表于:2025-12-02 作者:千家信息网编辑
千家信息网最后更新 2025年12月02日,这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。package hgs.spark.hiveimport o
千家信息网最后更新 2025年12月02日spark如何写入hive数据
这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
package hgs.spark.hiveimport org.apache.spark.SparkConfimport org.apache.spark.SparkContextimport org.apache.spark.sql.SparkSessionimport org.apache.spark.sql.SQLContextimport org.apache.spark.sql.SaveModeimport org.apache.spark.sql.types.StructFieldimport org.apache.spark.sql.types.StructTypeimport org.apache.spark.sql.types.IntegerTypeimport org.apache.spark.sql.types.StringTypeimport org.apache.spark.sql.Rowobject WriteDatatoHive { def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("WriteDatatoHive").setMaster("local") val context = new SparkContext(conf) val rdd = context.parallelize(List(("wd",22),("cm",25)), 2).map(x=>Row(x._1,x._2)) val builder = SparkSession.builder() .appName("hiveApp") .config("spark.sql.warehouse.dir","hdfs://bigdata00:9000/user/hive/warehouse/") .enableHiveSupport() .getOrCreate() //import builder.implicits._ import builder.implicits._ val personShcema = StructType( List( //下面为一个列的描述,分别为 列名,数据类型,是否为空 StructField("name",StringType,true), StructField("age",IntegerType,true) ) ) val personDF = builder.createDataFrame(rdd, personShcema) personDF.createOrReplaceTempView("personm") //这个可以存储数据与hiveSQL兼容 builder.table("personm").write.insertInto("test.person") //builder.sql("select * from personm").write.option("spark.sql.hive.convertMetastoreParquet", false) //.mode(SaveMode.Append).saveAsTable("test.person") context.stop() }}case class person(name:String,age:Int)关于"spark如何写入hive数据"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。
数据
篇文章
更多
不错
实用
内容
文章
知识
类型
别为
参考
存储
帮助
有关
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
数据库做不下去
电商网络技术深度解析
数据库导入和导出
网络安全教育周鸿祎
联通选号软件开发
数据库大作业心得
湛江市委网络安全
乌鲁木齐县网络安全指挥中心
网络安全执法专业都学啥
维护工具属于软件开发工具吗
数据库查询课程表信息
电信ip地址默认服务器
服务器安全狗界面
多人服务器
爱复互联网科技
华为v5服务器升级bios
专插本数据库原理及应用
计算机网络技术博主
株洲串口服务器价格
青岛软件开发哪家靠谱
有私有服务器吗
野生药用植物图谱数据库
数据库加密技术的介绍
我的世界服务器多人生存第05集
电信ip地址默认服务器
因与服务器无法建立安全
excel从数据库提取
日照实验学校网络安全
上海多人视频聊天软件开发
计算机数据库长什么样