scala – PairRDD的总和值
发布时间：2020-12-16 18:18:55 所属栏目：安全 来源：网络整理
导读：我有一个类型的RDD： dataset :org.apache.spark.rdd.RDD[(String,Double)] = MapPartitionRDD[26] 这相当于(Pedro,0.0833),(你好,0.001828)…… 我想总结所有的价值,0.0833 0.001828 ..但我找不到合适的 解. 解决方法 考虑输入数据,您可以执行以下操作： //
|
我有一个类型的RDD：
dataset :org.apache.spark.rdd.RDD[(String,Double)] = MapPartitionRDD[26] 这相当于(Pedro,0.0833),(你好,0.001828)…… 我想总结所有的价值,0.0833 0.001828 ..但我找不到合适的 解决方法
考虑输入数据,您可以执行以下操作：
// example
val datasets = sc.parallelize(List(("Pedro",("Hello",0.001828)))
datasets.map(_._2).sum()
// res3: Double = 0.085128
// or
datasets.map(_._2).reduce(_ + _)
// res4: Double = 0.085128
// or even
datasets.values.sum()
// res5: Double = 0.085128
（编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |