代码之家 › 专栏 › 技术社区 › lugger1

AWS spark作业监视工具

monitoring pyspark apache-spark amazon-web-services

lugger1 · 技术社区 · 6 年前

我在主节点上运行linux“htop”命令,这当然显示了许多可用的内核和大量未使用的RAM,但是我需要一个工具来查看节点上的负载。我在Zeppelin笔记本上找到了一个指向SparkUI的链接,它只显示了与Zeppelin相关的作业,而不是所有作业(命令行作业不存在,Jupyter笔记本也不存在,等等)。 HUE显示所有正在运行的作业的列表,但是无法查看每个作业创建的资源负载。

0 回复 | 直到 6 年前

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前