怎么实现Spark Streaming初试

本篇文章为大家展示了怎么实现Spark Streaming初试，内容简明扼要并且容易理解，绝对能使你眼前一亮，通过这篇文章的详细介绍希望你能有所收获。

Spark Streaming初试

yum install nc.x86_64

./bin/spark-shell --total-executor-cores 34

敲入下面程序：

import org.apache.spark.SparkConf

import org.apache.spark.streaming.{Seconds, StreamingContext}

import org.apache.spark.storage.StorageLevel

val ssc = new StreamingContext(sc, Seconds(1))

val lines = ssc.socketTextStream("hostname", 9999, StorageLevel.MEMORY_AND_DISK_SER)

val words = lines.flatMap(_.split(" "))

val wordCounts = words.map(x => (x, 1)).reduceByKey(_ + _)

wordCounts.print()

ssc.start()

ssc.awaitTermination()

在hostname机器，安装nc后，nc -lk 9999

不断输入字符，例如hello world，会在启动spark-shell的机器不断统计每次输入数据的字符频率统计。

上述内容就是怎么实现Spark Streaming初试，你们学到知识或技能了吗？如果还想学到更多技能或者丰富自己的知识储备，欢迎关注行业资讯频道。