代码之家 › 专栏 › 技术社区 › Ged

是否可以对结构化流进行排队流?

spark-structured-streaming apache-spark

Ged · 技术社区 · 6 年前

通过数据流,从官方文件中:

RDD作为流的队列:用于测试火花流应用程序使用测试数据,还可以基于 RDD,使用streamingContext.queuestream(queueofRDD)。每个RDD推动进入队列将被视为数据流中的一批数据,并且像溪流一样处理。

所以,对于结构化流,我可以使用队列流还是不使用队列流作为输入?

无法在结构化流媒体指南2.3或2.4中找到任何内容。

我确实注意到了 内存流 . 走这条路?我想是的,如果是的话,为什么Queuestream不再是一个选项?

我已经将队列流转换为内存流作为输入,它工作得很好,但是这是必需的吗?

1 回复 | 直到 6 年前

Ged 6 年前

我的理解是,对于结构化流,我不能使用Queuestream,因为它是一个数据流。

使用结构化流模拟流输入确实适用于MemoryStream。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前