代码之家 › 专栏 › 技术社区 › rohanagarwal

cassandra中的集并

apache-spark-dataset cassandra apache-spark java

rohanagarwal · 技术社区 · 7 年前

identifier, date, set(integer)

我想使用Spark实现的是根据标识符和日期对行进行分组,然后聚合所有集合值。我将通过一个例子更清楚地说明:

原始数据:(考虑代表整数的字母)

id1, 05-05-2017, {a,b,c}
id1, 05-05-2017, {c,d}
id1, 26-05-2017, {a,b,c}
id1, 26-05-2017, {b,c}
id2, 26-05-2017, {a,b,c}
id2, 26-05-2017, {b,c,d}

id1, 05-05-2017, {a,b,c,d}
id1, 26-05-2017, {a,b,c}
id2, 26-05-2017, {a,b,c,d}

因为这是一个集合,所以我希望聚合结果中的值是唯一的。我正在使用java和dataset。

1 回复 | 直到 7 年前

dumitru 7 年前

如果您的数据帧包含您提到的列,您可以这样做:

df.withColumn("set", explode(col("set"))).groupBy("identifier", "date").agg(collect_set("set"))

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前