千家信息网

hadoop MapReduce初试遇到的问题

发表于:2026-10-31 作者:千家信息网编辑
千家信息网最后更新 2026年10月31日,hadoop MapReduce初试遇到的问题./hadoop jar ./MapReduce-jar-with-dependencies.jar com.hc360.mp.WordCountHbas
千家信息网最后更新 2026年10月31日hadoop MapReduce初试遇到的问题

hadoop MapReduce初试遇到的问题


./hadoop jar ./MapReduce-jar-with-dependencies.jar com.hc360.mp.WordCountHbaseReader /user/hbase/tabelname01 tablename

在hadoop集群上执行 MapReduce任务时,需要用到许多依赖jar,一般情况下都是在执行时,在执行命令上进行配置指定,这样会造成执行命令太长,并且容易出错,有时还想带几个参数信息,这样更容易出错;

比较好的处理方法是,在生成运行jar时,将需要的依赖jar打包到运行jar中,这样在执行时所有依赖的jar都有了,就不用指定了。


./hdfs dfs -rmr /user/hbase/

hdfs上已有的文件不能进行覆盖,生成文件时必须是没有的新文件,可以在产生文件前执行以上命令清除已有的文件:


16/07/19 18:26:08 INFO ipc.Client: Retrying connect to server: xxxx/192.168.xx.xx:8032. Already tried 4 time(s); retry policy is etryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS)

hadoop集群上,如果没有启动 yarn(MapReduce),当运行MapReduce任务时,会提示上面的信息;

当执行hadoop的shell命令时,如果提示类似上面的信息,可以查看是否启动了hadoop进程。


java.lang.IllegalArgumentException: Does not contain a valid host:port authority:

java.net.UnknownHostException

hadoop集群的hostname配置,主机名不要包含下划线"_",但可以有横线"-"。

在hadoop集群中每个机器都要配置集群所有机器的hostname域名,以便相互访问。

这里分享一个血的教训,在给hostname起名字的时候一定要注意,虽然linux支持一些特殊字符,但java里面并不支持,所以hostname的命名一定要使用数字和字母(以点号分隔)。如果起的hostname包含了特殊字符下划线,导致hadoop运行时候的reduce阶段出错。


文件 集群 命令 运行 信息 配置 特殊 下划线 任务 字符 时候 机器 面的 提示 支持 生成 问题 不用 主机 参数 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 广州为想互联网科技有限公司 为想互联网科技怎么样 互联网科技工作委员会副主任毛军 互联网是不是新科技 中国 科技 互联网 紫鲸互联网科技 互联网科技logo设计 互联网科技英文翻译 盛创互联网科技有限公司 哈尔滨秒房互联网科技有限公司 山东吉时兔互联网科技有限公司 玖二柒互联网科技公司待遇 南平创想时代互联网科技有限公司 阿大互联网科技有限公司 江阴互联网智能科技产品进口 南博望互联网科技有限公司 富国互联网金融科技混合基金 互联网与数字科技关系 萌小萌互联网科技河南有限公司 绵阳真晨互联网科技有限公司 麻工互联网科技 丰台科技园 互联网 互联网高科技企业 撒么互联网科技公司 互联网软件和科技 工业互联网等科技实现智能化赋能 徐州市互联网科技有限公司 美国互联网科技公司 互联网科技融合创新 风投北京互联网科技
0