RDD 创建后就可以在 RDD 上进行数据处理。RDD 支持两种 *** 作: 1. 转换(transformation):
即从现有的数据集创建一个新的数据集 2. 动作(action): 即在数据集上进行计算后,返回一个
值给 Driver 程序
RDD 的转化 *** 作是返回一个新的 RDD 的 *** 作,比如 map() 和 filter() ,而行动 *** 作则是向
驱动器程序返回结果或把结果写入外部系统的 *** 作,会触发实际的计算,比如 count() 和 first() 。
Spark 对待转化 *** 作和行动 *** 作的方式很不一样,因此理解你正在进行的 *** 作的类型是很重要的。
如果对于一个特定的函数是属于转化 *** 作还是行动 *** 作感到困惑,你可以看看它的返回值类型:转
化 *** 作返回的是 RDD,而行动 *** 作返回的是其他的数据类型。
RDD 中所有的 Transformation 都是惰性的,也就是说,它们并不会直接计算结果。相反的
它们只是记住了这些应用到基础数据集(例如一个文件)上的转换动作。只有当发生一个要求返回
结果给 Driver 的 Action 时,这些 Transformation 才会真正运行。
这个设计让 Spark 更加有效的运行。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)