千家信息网

linux下hadoop的安装和配置过程

发表于:2025-12-02 作者:千家信息网编辑
千家信息网最后更新 2025年12月02日,这篇文章主要讲解了"linux下hadoop的安装和配置过程",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"linux下hadoop的安装和配置过程"吧
千家信息网最后更新 2025年12月02日linux下hadoop的安装和配置过程

这篇文章主要讲解了"linux下hadoop的安装和配置过程",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"linux下hadoop的安装和配置过程"吧!

1,安装linux
本文假设从裸机开始,所以要先装linux。本人是ubuntu对支持者,所以装的是ubuntu,废话没有,很容易就装好了。在安装过程中,要注意所有节点对主机名应该有规律,比如node0, node1, node2 ...
2,准备
下面对软件对安装,全都使用了apt,这个软件需要互联网链接,如果你对网速极慢,或者根本链接不到外部网络(这个现象在教育网内很常见),可以从一个能上网对ubuntu电脑上的/var/cache/apt/archives文件夹里deb文件出来安装(什么?你问我这个文件夹里为什么没有想要的包,这个文件夹是apt对缓存文件夹,想要里面有你想要对东西,不用我提醒你应该怎么办了吧)。
ubuntu默认已经装好了openssh-client,需要安装openssh-server。命令如下:

代码如下:


sudo apt-get install openssh-server


然后是jdk:

代码如下:


sudo apt-get install default-jdk



3,配置网络
如果你的节点们可以通过dhcp服务器获得ip,我个人建议,这样做,原因是简单,不用怎么配置就搞定了。或者可以使用静态ip,作为一个牛b的linux大牛,应该可以通过一行命令来设置静态ip,但是我不会。我通常都是在gnome提供的网络管理器来设ip对。如果你用对linux里没有图形界面,那样请google。
设置好了ip地址之后,记忆在/etc/hosts文件中给每个节点起个名字,最好就是各自对主机名,这样有利于下面对配置和管理。
hadoop要求各节点间可以不需要输入密码就能用ssh互相登录。我使用了比官方方法简单一点方法来设置,但是据说安全性有点儿问题。下面是方法:
在某个节点上执行如下命令:

代码如下:


rm -rf ~/.ssh

代码如下:


ssh-keygen -t rsa


这个命令之后需要多按几次回车,知道再次出现命令提示符。当然,这个做法也不是很安全,里面有个输入key的地方,官方的建议是,输入一首歌的歌词,呵呵,这个建议很搞笑。当然在我的步骤中,这个key就是空值了。

代码如下:


cat ~/.ssh/id_rsa.pub >> authorized_keys


然后把整个.ssh文件夹考到所有对节点上,具体方法可以使用scp命令,具体命令由于和具体环境有关,下面不写。

这样网络就设置对差不多了。
4,安装hadoop
解压,这个比较简单,命令不写。解压对位置最好每个hadoop都一样,不一样有什么后果,我没试过。
之后要进行一些配置,首先进入解压后目录对conf文件夹,要修改对配置文件包括hadoop-env.sh hadoop-site.xml masters slaves
hadoop-env.sh中要uncomment下面一行:

代码如下:


export JAVA_HOME=/home/hadoop/jdk1.6.0_16/


当然具体的值,也要根据具体情况进行更改。
接下来是hadoop-site.xml,下面是我的文件内容。

代码如下:




fs.default.name
hdfs://node0:6000


mapred.job.tracker
node0:6001



这个例子很直白,不解释。

masters里面是jobtracker和namenode所在节点的主机名或者ip地址,我的masters文件里只有一行,当然如果你想要设置多个节点作为主节点,也可以。
slaves里面是所有tasktracker和datanode对主机名或ip地址。
5,运行
先进入hadoop安装文件夹。然后依次运行如下命令:

代码如下:


bin/hadoop namenode -format
bin/start-all.sh


不出意外的话,现在hadoop就可以使用了。

感谢各位的阅读,以上就是"linux下hadoop的安装和配置过程"的内容了,经过本文的学习后,相信大家对linux下hadoop的安装和配置过程这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是,小编将为大家推送更多相关知识点的文章,欢迎关注!

文件 配置 命令 节点 代码 文件夹 过程 主机 方法 网络 一行 内容 地址 就是 建议 学习 输入 安全 不用 可以通过 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 安卓数据库的清单文件 常州网络服务器机柜高性价比之选 电子刊数据库英语怎么说 爱课程计算机网络安全观后感 桌面远程连接服务器 深圳安胜网络技术 Saas软件开发什发票 mysql 数据库文件小 数据库1146错误什么意思 集团公司网络安全知识答题答案 数据库信息系统外文翻译 天津汽车控制器底层控制软件开发 临沂代驾软件开发公司 合肥光学仿真软件开发公司 龙驰网信网络技术公章 万方数据库有哪些特殊功能 国庆假期网络安全公约10条 网络技术部自我评价 植物大战僵尸 服务器 网络安全界的3大公司 服务器域名购买了多久可以使用 wps表格比对数据库 网络技术大会开幕式 奉贤区机械软件开发服务产品介绍 一个交换机可以接多个服务器 临沂代驾软件开发公司 一键安装配置数据库 龙驰网信网络技术公章 计算机的软件开发论文 铭祥联网络技术
0