代码之家 › 专栏 › 技术社区 › amol visave

spark作业失败时会发生什么?

apache-spark-sql apache-spark

amol visave · 技术社区 · 2 年前

假设我正在从RDBMS读取表,并用HDFS编写它。作业成功完成48%,之后由于某些原因失败。下一步该怎么做?aa我们不能从头开始阅读,因为这会浪费时间。那么,如何只读取剩余的记录呢?

Suppose i am reading a table from RDBMS and writing it in HDFS. Job is completed 48% successfully and after that it fails due to some reasons. What should be the next course of action here ? aa we cannot start reading from start again because it will be waste of time . so how to read only remaining records ?

0 回复 | 直到 2 年前

rikyeah 2 年前

一般来说,这取决于故障的类型,以及集群的所有因素(复制因素…)。一般来说,如果你想写原子性,你应该参考事务 here 更多信息。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前