scala – 通过键Scalding Hadoop写入多个输出,一个MapReduce作业

发布时间：2020-12-16 18:56:04 所属栏目：安全来源：网络整理

导读：如何在单个Map Reduce作业中使用Scalding(/ cascading)写入依赖于键的多个输出.我当然可以使用.filter来获取所有可能的密钥,但这是一个可怕的黑客攻击,它将启动许多工作. 解决方法 Scalding中有 TemplatedTsv(从0.9.0rc16及更高版本开始),与Cascading Templa

如何在单个Map Reduce作业中使用Scalding(/ cascading)写入依赖于键的多个输出.我当然可以使用.filter来获取所有可能的密钥,但这是一个可怕的黑客攻击,它将启动许多工作.

解决方法

Scalding中有 TemplatedTsv(从0.9.0rc16及更高版本开始),与Cascading TemplateTsv完全相同.

Tsv(args("input"),('COUNTRY,'GDP))
.read
.write(TemplatedTsv(args("output"),"%s",'COUNTRY))
// it will create a directory for each country under "output" path in Hadoop mode.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!