这篇文章主要介绍spark mllib中数据降维之如何实现奇异值分解,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
运行代码如下
package spark.DataDimensionReduction
import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.mllib.linalg.distributed.RowMatrix
import org.apache.spark.{SparkContext, SparkConf}
/**
* 数据降维
* 一个矩阵在计算过程中,将它在一个方向上进行拉伸,需要关心的是拉伸的幅度与方向.
* 奇异值分解(SVD):一个矩阵分解成带有方向向量的矩阵相乘
* Created by eric on 16-7-24.
*/
object SVD {
val conf = new SparkConf() //创建环境变量
.setMaster("local") //设置本地化处理
.setAppName("SVD") //设定名称
val sc = new SparkContext(conf)
def main(args: Array[String]) {
val data = sc.textFile("./src/main/spark/DataDimensionReduction/a.txt")
.map(_.split(" ").map(_.toDouble))
.map(line => Vectors.dense(line))
val rm = new RowMatrix(data) //读入行矩阵
val SVD = rm.computeSVD(2, computeU = true) //进行SVD计算
println(SVD) //打印SVD结果矩阵
//求 SVD 分解的矩阵
println("*********************")
val u = SVD.U
val s = SVD.s
val v = SVD.V
println(u, s, v)
}
}
a.txt
1 2 3 4
5 6 7 8
9 0 8 7
6 4 2 1
结果如下

以上是“spark mllib中数据降维之如何实现奇异值分解”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注天达云行业资讯频道!