千家信息网

sqoop clob从Oracle导入到hive 回车换行导致记录增多

发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,sqoop import --hive-import --hive-overwrite --connect jdbc:oracle:thin:@192.168.92.136:1521:cyporcl
千家信息网最后更新 2026年11月02日sqoop clob从Oracle导入到hive 回车换行导致记录增多

sqoop import --hive-import --hive-overwrite --connect jdbc:oracle:thin:@192.168.92.136:1521:cyporcl --username ODS --password 'od154DS$!(' -m 1 --hive-database ODS --table Q_TRA_DISPUTESTATUS --fields-terminated-by '\001' --hive-drop-import-delims --null-string '\\N' --null-non-string '\\N' --map-column-java DISPUTERESULT=String

DISPUTERESULT 这个字段是Oracleclob 类型的,里面有回车, 加载到hive 里面导致 记录增多。


--map-column-java和--map-column-hive两个参数都要显示给出;还需要设置--hive-drop-import-delims这样才能顺利导出数据。

.导入的列有换行符如何解决
本以为万事大吉,万万没想到导入的列有nclob类型,里面存储了一篇篇文章,势必有着换行符。果不其然,hive查询数据全部错乱, 查询资料发现--hive-delims-replacement(替换/n,/r等符号用你指定的字符)和--hive-drop-import-delims参数。可添加上去发现并没有什么卵用,没有起作用。百度goole很久,终于发现一篇帖子,http://stackoverflow.com/questions/28076200/hive-drop-import-delims-not-removing-newline-while-using-hcatalog-in-sqoop
意思是要用--map-column-java参数来显示指定列为String类型。我的解决方案为 --map-column-java 我的CLOB列=String 果然,问题解决,换行符全部被去掉。不过听说改变存储格式 或许也可以避免这个问题,希望有着经验的大神来回答一下。总结下来就这么多,希望能帮助大家




参数 换行符 类型 数据 问题 存储 查询 错乱 万事大吉 果不其然 没想到 万事 两个 作用 大神 字段 字符 帖子 意思 文章 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 耶加雪菲 互联网科技名片 湖北九亚互联网络科技有限公司 哈尔滨大商圈互联网科技有限公司 科技赋能下的互联网金融 远拓互联网科技 互联网科技论坛 深圳卡尔迅互联网科技有限公司怎么样 欧洲十大科技互联网公司 成都互联网科技公司100强 互联网公司科技股 彤创互联网科技有限公司 知域互联网科技有限公司大骗子 辽宁互联网新科技 广州市恰铎互联网科技有限公司 互联网科技和法律行业 威龙国际互联网科技公司 伊宁互联网科技做什么的 每天都有哪些好的互联网科技 四川互联网展示科技馆设计 科技互联网龙头 青岛互联网科技公司 华中科技大学互联网 善班互联网科技有限公司 奔汉互联网科技 深圳前海聚择互联网科技有限公司 黑科技闪耀互联网之光 互联网科技公司实习生 山东子淼互联网科技有限公司 广州燕处互联网科技有限公司
0