导航：首页 > 开发技术 >

Spark SQL怎么用

发表于：2026-11-04 作者：千家信息网编辑

千家信息网最后更新 2026年11月04日，这篇文章主要介绍"Spark SQL怎么用"，在日常操作中，相信很多人在Spark SQL怎么用问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答"Spark SQL怎么用"

千家信息网最后更新 2026年11月04日Spark SQL怎么用

这篇文章主要介绍"Spark SQL怎么用"，在日常操作中，相信很多人在Spark SQL怎么用问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答"Spark SQL怎么用"的疑惑有所帮助！接下来，请跟着小编一起来学习吧！

pom.xml

org.apache.spark
spark-core_2.10
2.1.0
org.apache.spark
spark-sql_2.10
2.1.0

Java:

import java.io.Serializable;
import java.util.Arrays;
import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.sql.Dataset;
import org.apache.spark.sql.Row;
import org.apache.spark.sql.SQLContext;
import org.apache.spark.sql.SparkSession;
public class SparkSqlTest {
public static class Person implements Serializable {
private static final long serialVersionUID = -6259413972682177507L;
private String name;
private int age;
public Person(String name, int age) {
this.name = name;
this.age = age;
}
public String toString() {
return name + ": " + age;
}
public String getName() {
return name;
}
public void setName(String name) {
this.name = name;
}
public int getAge() {
return age;
}
public void setAge(int age) {
this.age = age;
}
}
public static void main(String[] args) {
SparkConf conf = new SparkConf().setAppName("Test").setMaster("local");
JavaSparkContext sc = new JavaSparkContext(conf);
SparkSession spark = SparkSession.builder().appName("Test").getOrCreate();
JavaRDD input = sc.parallelize(Arrays.asList("abc,1", "test,2"));
JavaRDD persons = input.map(s -> s.split(",")).map(s -> new Person(s[0], Integer.parseInt(s[1])));
//[abc: 1, test: 2]
System.out.println(persons.collect());
Dataset df = spark.createDataFrame(persons, Person.class);
/*
+---+----+
|age|name|
+---+----+
| 1| abc|
| 2|test|
+---+----+
*/
df.show();
/*
root
|-- age: integer (nullable = false)
|-- name: string (nullable = true)
*/
df.printSchema();
SQLContext sql = new SQLContext(spark);
sql.registerDataFrameAsTable(df, "person");
/*
+---+----+
|age|name|
+---+----+
| 2|test|
+---+----+
*/
sql.sql("SELECT * FROM person WHERE age>1").show();
sc.close();
}
}