在Scala中返回临时Spark SQL表
发布时间:2020-12-16 10:05:07 所属栏目:安全 来源:网络整理
导读:首先,我使用将CSV文件转换为Spark DataFrame val df = sqlContext.read.format("com.databricks.spark.csv").option("header","true").load("/usr/people.csv") 在那种类型的df和返回后我可以看到 res30: org.apache.spark.sql.DataFrame = [name: string,ag
首先,我使用将CSV文件转换为Spark DataFrame
val df = sqlContext.read.format("com.databricks.spark.csv").option("header","true").load("/usr/people.csv") 在那种类型的df和返回后我可以看到 res30: org.apache.spark.sql.DataFrame = [name: string,age: string,gender: string,deptID: string,salary: string] 然后我使用df.registerTempTable(“people”)将df转换为Spark SQL表. 但是在那之后,当我做人们而不是得到类型表,我得到了 <console>:33: error: not found: value people 是因为人们是临时桌子吗? 谢谢 解决方法
使用您使用的registerTempTable命令注册临时表时,它将在SQLContext中可用.
这意味着以下内容不正确,将为您提供错误: scala> people.show <console>:33: error: not found: value people 要使用临时表,您需要使用sqlContext调用它.示例: scala> sqlContext.sql("select * from people") 注意:df.registerTempTable(“df”)将注册一个临时表,其名称df对应于应用该方法的DataFrame. 所以坚持df不会坚持表,但DataFrame,甚至认为SQLContext将使用该DataFrame. (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |