今天小编给大家分享一下spark编程怎么应用的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。
启动spark-shell:


上述代码中使用的sc,这是Spark-Shell帮助我们自动生成的SparkContext的实例:

上述的操作都是transformations我们需要触发一个action才能执行:

我们可以看到预期结果,但我们可以看到collect操作返回的是一个Array,所以数据不要太多,否则会出现OOM
下面执行下filter操作:


以上就是“spark编程怎么应用”这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注天达云行业资讯频道。