代码之家 › 专栏 › 技术社区 › user3243499

Spark日志中任务id格式的含义

apache-spark

user3243499 · 技术社区 · 6 年前

我正在运行一个繁重的Spark作业,在其中一个worker节点中,我得到如下日志语句:

2019-01-25 06:34:41 INFO  Executor:54 - Running task 163.1 in stage 0.0 (TID 168)

我知道这一点 163 是任务编号,但另一个是什么 (.1) 意思是

我看到其他的声明都没有这个 .1 相反,他们有 .0 详情如下:

2019-01-25 06:34:10 INFO  Executor:54 - Running task 151.0 in stage 0.0 (TID 151)

1 回复 | 直到 6 年前

zero323 little_kid_pea 6 年前

这就是问题所在 attempt number

def id: String = s"$index.$attemptNumber"

大于0的数字表示以前尝试过任务,并且可能由于失败而重新安排了任务。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

2 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前