千家信息网

如何使用JAVA API操作HDFS

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,这篇文章主要介绍如何使用JAVA API操作HDFS,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!第一步:windows中的hadoop环境配置windows操作系统需要配置一
千家信息网最后更新 2026年11月01日如何使用JAVA API操作HDFS

这篇文章主要介绍如何使用JAVA API操作HDFS,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

第一步:windows中的hadoop环境配置

  • windows操作系统需要配置一下hadoop环境

  • mac本质上是unix系统,不需要配置

==参考文档《Windows&Mac本地开发环境配置》==

链接:https://pan.baidu.com/s/1tFJSlRxn18YELUUAUkXXQA
提取码:g9ka

第二步:创建java maven工程,并导入包:


3.1.4



org.apache.hadoop
hadoop-client
${hadoop.version}


org.apache.hadoop
hadoop-common
${hadoop.version}


org.apache.hadoop
hadoop-hdfs
${hadoop.version}


org.apache.hadoop
hadoop-mapreduce-client-core
${hadoop.version}



junit
junit
4.11
test


org.testng
testng
RELEASE


log4j
log4j
1.2.17





org.apache.maven.plugins
maven-compiler-plugin
3.0

1.8
1.8
UTF-8




org.apache.maven.plugins
maven-shade-plugin
2.4.3


package

shade


true





第三步:开发hdfs的javaAPI操作

//简化版
@Test
public void mkDirOnHDFS() throws IOException {
//配置项
Configuration configuration = new Configuration();
//设置要连接的hdfs集群
configuration.set("fs.defaultFS", "hdfs://node01:8020");
//获得文件系统
FileSystem fileSystem = FileSystem.get(configuration);
//调用方法创建目录;若目录已经存在,则创建失败,返回false
boolean mkdirs = fileSystem.mkdirs(new Path("/kaikeba/dir1"));
//释放资源
fileSystem.close();
}

//指定目录所属用户
@Test
public void mkDirOnHDFS2() throws IOException, URISyntaxException, InterruptedException {
//配置项
Configuration configuration = new Configuration();
//获得文件系统
FileSystem fileSystem = FileSystem.get(new URI("hdfs://node01:8020"), configuration, "test");
//调用方法创建目录
boolean mkdirs = fileSystem.mkdirs(new Path("/kaikeba/dir2"));
//释放资源
fileSystem.close();
}

//创建目录时,指定目录权限
@Test
public void mkDirOnHDFS3() throws IOException {
Configuration configuration = new Configuration();
configuration.set("fs.defaultFS", "hdfs://node01:8020");

FileSystem fileSystem = FileSystem.get(configuration);
FsPermission fsPermission = new FsPermission(FsAction.ALL, FsAction.READ, FsAction.READ);
boolean mkdirs = fileSystem.mkdirs(new Path("hdfs://node01:8020/kaikeba/dir3"), fsPermission);
if (mkdirs) {
System.out.println("目录创建成功");
}

fileSystem.close();
}

注意:我们一定按照之前的环境搭建要求配置好了相应的hadoop集群,相关host,并且hadoop启动成功的情况下才能正常运行以上程序。

以上是"如何使用JAVA API操作HDFS"这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注行业资讯频道!

目录 配置 环境 系统 成功 内容 文件 方法 篇文章 资源 集群 参考 开发 操作系统 价值 兴趣 小伙 小伙伴 工程 情况 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技官网 互联网科技的英文 大白互联网科技 互联网科技宣传片 华中科技有哪些互联网大佬 上海电发互联网科技有限公司 深圳国际航运科技和互联网 剑昆互联网络科技有限公司临桂 互联网科技与管理 岳阳华臻互联网科技有限公司 智腾互联网科技有限公司 乌苏新华互联网科技做什么的 浙南科技城互联网大厦建设工程 内蒙古九一互联网科技 广州富喜互联网络科技 版纳互联网科技选哪家 互联网的黑科技实验室 恒生科技互联网指数十大成分股 知域互联网科技有限公司官网 互联网科技企业文化 互联网科技园 华中科技大学互联网 碳银互联网科技有限公司 青海省互联网新科技 现代互联网科技股 湖南一路畅行互联网科技 山东星卡互联网科技有限公司官网 厦门江牛科技互联网 兰石爱特工业互联网科技分公司 福仕德教育科技互联网
0