代码之家 › 专栏 › 技术社区 › Chandan Ray

HDFS和CASSANDRA之间的负查询(有7000万条记录)大约需要40分钟

apache-spark

Chandan Ray · 技术社区 · 6 年前

我的HDFS拼花文件和Cassandra表有7000万行,16列,14列是Json格式,长度超过2000。

我在做源减去目标和目标减去源。然后计算HDFS和Cassandra的每个数据帧的计数。我花了40分钟。

运行在具有6 TB空间的纱线上,具有20个数据节点和1640个核心。

即使我将执行器数量更改为100,核心数量更改为4,性能也不会提高。请告诉我,如果这是最大的效率,我们可以实现。

0 回复 | 直到 6 年前

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前