如何在使用scala读取文件后删除hdfs目录中的文件

发布时间：2020-12-16 08:50:00 所属栏目：安全来源：网络整理

导读：我使用fileStream从Spark(流式上下文)中读取hdfs目录中的文件.如果我的Spark关闭并在一段时间后启动,我想读取目录中的新文件.我不想读取已经由Spark读取和处理的目录中的旧文件.我试图在这里避免重复. val lines = ssc.fileStream[LongWritable,Text,TextInp

我使用fileStream从Spark(流式上下文)中读取hdfs目录中的文件.如果我的Spark关闭并在一段时间后启动,我想读取目录中的新文件.我不想读取已经由Spark读取和处理的目录中的旧文件.我试图在这里避免重复.

val lines = ssc.fileStream[LongWritable,Text,TextInputFormat]("/home/File")

任何代码片段都有帮助吗？

解决方法

您可以使用FileSystem API.以下是命令.

import org.apache.hadoop.fs.FileSystem
import org.apache.hadoop.fs.Path
val fs=FileSystem.get(sc.hadoopConfiguration)
val outPutPath="/abc"
if(fs.exists(new Path(outPutPath)))
  fs.delete(new Path(outPutPath),true)

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!