scala – spark dataframe：如何添加索引列

发布时间：2020-12-16 09:26:50 所属栏目：安全来源：网络整理

导读：我从csv文件中读取数据,但没有索引. 我想在1到行的数字中添加一列. 我该怎么办,谢谢(scala) 解决方法使用Scala,您可以使用： import org.apache.spark.sql.functions._ df.withColumn("id",monotonicallyIncreasingId) 你可以参考这个exemple和scala docs.

我从csv文件中读取数据,但没有索引.

我想在1到行的数字中添加一列.

我该怎么办,谢谢(scala)

解决方法

使用Scala,您可以使用：

import org.apache.spark.sql.functions._ 

df.withColumn("id",monotonicallyIncreasingId)

你可以参考这个exemple和scala docs.

使用Pyspark,您可以使用：

from pyspark.sql.functions import monotonically_increasing_id 

df_index = df.select("*").withColumn("id",monotonically_increasing_id())

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!