scala – 如何在Spark中使用RangePartitioner

发布时间：2020-12-16 08:55:14 所属栏目：安全来源：网络整理

导读：我想在我的 Java Spark应用程序中使用RangePartitioner,但我不知道如何设置两个scala参数scala.math.Ordering K证据$1和scala.reflect.ClassTag K证据港币$16.有人能举个例子吗？这是JavaDoc of RangePartitioner的链接(对我来说没什么用,因为我是Spark和Sc

我想在我的 Java Spark应用程序中使用RangePartitioner,但我不知道如何设置两个scala参数scala.math.Ordering< K>证据$1和scala.reflect.ClassTag< K>证据港币$16.有人能举个例子吗？

这是JavaDoc of RangePartitioner的链接(对我来说没什么用,因为我是Spark和Scala的新手……)：

我的代码实际上看起来像：

JavaPairRDD<Integer,String> partitionedRDD = rdd.partitionBy(new RangePartitioner<Integer,String>(10,rdd,true,evidence$1,evidence$2));

解决方法

如果你看一下OrderedRDDFunctions的api,就会有一个关于如何为你的密钥设置隐式排序的例子.

import org.apache.spark.SparkContext._

val rdd: RDD[(String,Int)] = ...
implicit val caseInsensitiveOrdering = new Ordering[String] {
  override def compare(a: String,b: String) = a.toLowerCase.compare(b.toLowerCase)
}

我知道它是spark-scala apis的一个片段,但你至少可以推断出如何传递你的Ordering参数.对于ClassTag类型,我建议检查通用scala文档或论坛.添加scala标记以进行提问.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!