代码之家 › 专栏 › 技术社区 › Knows Not Much

如何在Spark中压缩“代码生成”和“已清理的收集器”消息

apache-spark scala

Knows Not Much · 技术社区 · 6 年前

我写了一份火花作业。工作顺利,没有任何问题。但是,当我查看错误日志文件时,会看到许多类型的消息

[error] 18/11/25 17:28:14 INFO CodeGenerator: Code 
generated in 16.947005 ms

和

[error] 18/11/25 17:28:15 INFO ContextCleaner: Cleaned
accumulator 239819

和

[error] 18/11/25 17:28:06 INFO BlockManagerInfo: Removed 
broadcast_13354_piece0 on 192.168.2.101:43753 in memory 
(size: 20.5 KB, free: 6.2 GB)

有什么方法可以抑制这些信息吗?他们只是在膨胀我的日志文件。

不知道为什么Spark将这些报告为错误。当它们看起来像某种调试消息时。

1 回复 | 直到 6 年前

anuj saxena 6 年前

当您创建的对象 SparkContext ,使用以下代码根据需要设置日志级别:

sparkContext.setLogLevel("WARN")

上面的行将为设置日志级别 Spark 到 WARN 你不会得到任何 INFO 或 DEBUG 级别日志。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前