代码之家 › 专栏 › 技术社区 › mikeL

将结构列转换为scala列表

rdd apache-spark scala

mikeL · 技术社区 · 6 年前

我的数据框架中有一个结构列,我想将它收集为scala列表。

case class Class1(x1: Integer, x2: Double)

val df = Seq(("a", Class1(10,5.5)), ("b", Class1(7,2.1))).toDF("id", "col1")

当我尝试将结构列转换为 RDD 并收集:

df.select($"col1").rdd.map(x => x.asInstanceOf[Array[(Integer, Double)]]).collect()

我得到这个错误:

Caused by: java.lang.ClassCastException: org.apache.spark.sql.catalyst.expressions.GenericRowWithSchema cannot be cast to [Lscala.Tuple2;

我想回来

List((10,5.5),(7,2.1))

2 回复 | 直到 6 年前

Shaido MadHadders 6 年前

既然你已经有了 case class 您可以在收集数据时利用它。只需转换 DataFrame 致 DataSet[Class1] 使用前 collect .这将为您提供所需的列表:

df.select($"col1").as[Class1].collect().toList

Ramesh Maharjan 6 年前

你应该使用 . 符号选择 struct 列分隔列并使用该列名称将其转换为 tuple 在里面 map 功能 rdd 你应该得到你想要的输出。

df.select($"col1.*").rdd.map(x=> (x.getAs[Integer]("x1"), x.getAs[Double]("x2"))).collect.toList
//List((10,5.5), (7,2.1))

我希望答案有帮助

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前