千家信息网

Spark 参数传递问题解析

发表于:2025-12-03 作者:千家信息网编辑
千家信息网最后更新 2025年12月03日,一 . sparkconf 这个需要在代码里面写,在代码里面写了,那么就不能更改了,即便你在外面传递了一个参数,最终也会在代码里面生效,它的优先级最高二 . sparksubmit / spark-s
千家信息网最后更新 2025年12月03日Spark 参数传递问题解析

一 . sparkconf 这个需要在代码里面写,在代码里面写了,那么就不能更改了,即便你在外面传递了一个参数,最终也会在代码里面生效,它的优先级最高

二 . sparksubmit / spark-shell 等脚本,一般在这里面传递,针对我这个应用的参数

三 . 配置文件 在conf 目录下,注意如果需要让参数生效,得template 去掉: 默认的,全局的



这三个地方都可以设置参数,如果说,我们对同样一个参数进行设置,最终是哪个地方生效

这三个地方的优先级是: sparkconf > sparksubmit > 配置文件


0