scala – 如何根据Spark DataFrame中的字符串集中的列值来过滤行

发布时间：2020-12-16 09:12:07 所属栏目：安全来源：网络整理

导读：是否有更优雅的过滤方式基于一组字符串中的值？ def myFilter(actions: Set[String],myDF: DataFrame): DataFrame = { val containsAction = udf((action: String) = { actions.contains(action) }) myDF.filter(containsAction('action))} 在SQL中可以做到

是否有更优雅的过滤方式基于一组字符串中的值？

def myFilter(actions: Set[String],myDF: DataFrame): DataFrame = {
  val containsAction = udf((action: String) => {
    actions.contains(action)
  })

  myDF.filter(containsAction('action))
}

在SQL中可以做到

select * from myTable where action in ('action1','action2','action3')

解决方法

这个怎么样：

myDF.filter("action in (1,2)")

要么

import org.apache.spark.sql.functions.lit       
myDF.where($"action".in(Seq(1,2).map(lit(_)):_*))

要么

import org.apache.spark.sql.functions.lit       
myDF.where($"action".in(Seq(lit(1),lit(2)):_*))

Additional support will be added to make this cleaner in 1.5

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!