代码之家 › 专栏 › 技术社区 › user3243499

如何创建一个可更改的数据文件,并将流行附加到SCAPK中?

spark-streaming apache-spark

user3243499 · 技术社区 · 6 年前

我有一个火花流源来读取数据。我想从这个源读取数据,并一直追加到一个可变的数据帧,这样在流的末尾(当我停止流媒体)时,我会在火花存储器中有一个数据框,用于进一步的操作。

如何实现?

注: 我知道火花中的所有东西都是惰性负载,对于火花流之外的任何操作都是不可能的。然而,我的目标是在流媒体中“缓存”SCAPLE内存中的数据,然后我想在流媒体之后使用这个缓存的数据帧。

0 回复 | 直到 6 年前

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前