在Scala中逐行读取和处理文件
发布时间:2020-12-16 18:24:13 所属栏目:安全 来源:网络整理
导读:假设我需要应用两个函数f:String = A和g:A = B到大文本文件中的每一行最终创建一个B列表. 由于文件很大而且f和g很贵,我想使处理并发.我可以使用“并行集合”并执行类似io.Source.fromFile(“data.txt”).getLines.toList.par.map(l = g(f(l))但它不会执行
假设我需要应用两个函数f:String => A和g:A => B到大文本文件中的每一行最终创建一个B列表.
由于文件很大而且f和g很贵,我想使处理并发.我可以使用“并行集合”并执行类似io.Source.fromFile(“data.txt”).getLines.toList.par.map(l => g(f(l))但它不会执行读取文件,f和g同时发生. 在这个例子中实现并发的最佳方法是什么? 解决方法
您可以在Future上使用map:
val futures = io.Source.fromFile(fileName).getLines.map{ s => Future{ stringToA(s) }.map{ aToB } }.toIndexedSeq val results = futures.map{ Await.result(_,10 seconds) } // alternatively: val results = Await.result(Future.sequence(futures),10 seconds) (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |