代码之家 › 专栏 › 技术社区 › Brendan

PySpark执行器库何时会与驱动程序不同?

executor pyspark apache-spark

Brendan · 技术社区 · 4 年前

我一直在跟踪 this guide (为Medium帖子道歉),它展示了如何为Spark执行器和驱动程序分别打包python env和库。什么时候你会期望每个库都需要不同的库?我认为一个简单但具体的例子会有所帮助。

0 回复 | 直到 4 年前

Aditya Vikram Singh 4 年前

想象一下,一旦火花作业完成,您需要向用户发送一封电子邮件作为通知,现在发送电子邮件的特定功能将始终在驱动程序上执行,所以 smtplib 并且相关库只需要在驱动程序上可用,因为执行者不会发送电子邮件。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前