Spark运行原理及RDD解密

Spark是分布式内存计算框架，而不是分布式内容存储框架，搭配tachyon分布式内存文件系统，会更加有效果。

在文件模式下，spark比hadoop快10倍，在内存计算模式下，快100倍！

下面是一些

1 spark是分布式 基于内存 特别适合于迭代计算的计算框架

2 mapReduce就两个阶段map和reduce，而spark是不断地迭代计算，更加灵活更加强大，容易构造复杂算法。

3 spark不能取代hive，hive做数据仓库存储，spark sql只是取代hive的计算引擎，成为分析平台，hadoop作为存储平台

4 spark中间数据可以在内存也可以在磁盘

5 partition是一个数据集合

6 注意：初学者执行多个步骤要注意分步检验，不然不知哪里错了

7 var data = sc.textFile("/user") 不必写hdfs:// ，根据上下文判断

8 读文件得到HadoopRDD，去掉文件中索引，得到MapPartitionsRDD,这样一系列分片的数据分布在 不同的机器。

9 移动计算而不是移动数据

移动计算表示分布到各个机器上，分别计算自身负责的那部分数据，而不是把数据从各个机器上移动来进行计算。

计算完后进行数据汇总。