spark mllib中数据降维之如何实现主成分分析

小编给大家分享一下spark mllib中数据降维之如何实现主成分分析，希望大家阅读完这篇文章之后都有所收获，下面让我们一起去探讨吧！

运行代码如下

package spark.DataDimensionReductionimport org.apache.spark.mllib.linalg.Vectorsimport org.apache.spark.mllib.linalg.distributed.RowMatriximport org.apache.spark.{SparkConf, SparkContext}/**  * 数据降维  * 主成分分析PCA  * 设法将原来具有一定相关行（比如 P个指标）的指标  * 重新组合成一组新的互相无关的综合指标来代替原来的指标，从而实现数据降维的目的  * Created by eric on 16-7-24.  */object PCA {  val conf = new SparkConf()                                     //创建环境变量    .setMaster("local")                                             //设置本地化处理    .setAppName("PCA")                              //设定名称  val sc = new SparkContext(conf)  def main(args: Array[String]) {    val data = sc.textFile("./src/main/spark/DataDimensionReduction/a.txt")      .map(_.split(" ").map(_.toDouble))      .map(line => Vectors.dense(line))    val rm = new RowMatrix(data)    val pc = rm.computePrincipalComponents(3)//提取主成分，设置主成分个数为３    val mx = rm.multiply(pc)//创建主成分矩阵    mx.rows.foreach(println)  }}

a.txt

1 2 3 45 6 7 89 0 8 76 4 2 1

结果如下

看完了这篇文章，相信你对"spark mllib中数据降维之如何实现主成分分析"有了一定的了解，如果想了解更多相关知识，欢迎关注行业资讯频道，感谢各位的阅读！