scala – Spark数据帧为每个现有行添加一行
发布时间：2020-12-16 09:51:59 所属栏目：安全 来源：网络整理
导读：我有一个包含以下列的数据框： groupid,unit,height----------------------1,in,552,54 我想创建另一个包含额外行的数据框,其中unit = cm,height = height * 2.54. 结果数据帧： groupid,541,cm,139.72,137.16 不知道如何使用spark udf并在这里爆炸. 任何帮
|
我有一个包含以下列的数据框：
groupid,unit,height ---------------------- 1,in,55 2,54 我想创建另一个包含额外行的数据框,其中unit = cm,height = height * 2.54. 结果数据帧： groupid,54 1,cm,139.7 2,137.16 不知道如何使用spark udf并在这里爆炸. 解决方法
您可以使用withColumn创建另一个包含所需更改的数据框,然后将两个数据框合并为
import sqlContext.implicits._
import org.apache.spark.sql.functions._
val df = Seq(
(1,"in",55),(2,54)
).toDF("groupid","unit","height")
val df2 = df.withColumn("unit",lit("cm")).withColumn("height",col("height")*2.54)
df.union(df2).show(false)
你应该有 +-------+----+------+ |groupid|unit|height| +-------+----+------+ |1 |in |55.0 | |2 |in |54.0 | |1 |cm |139.7 | |2 |cm |137.16| +-------+----+------+ （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |