代码之家 › 专栏 › 技术社区 › gddxz

远程spark submit无法通过paramiko工作

spark-submit apache-spark python

gddxz · 技术社区 · 7 年前

我的spark程序在远程ubuntu系统中。现在我想使用paramiko(一个用于SSH2连接的python包)从windows系统执行它。

问题是我可以在远程ubuntu系统中执行python程序,但不能执行spark程序。有人知道为什么吗?

1 回复 | 直到 7 年前

FaigB 7 年前

很可能你应该设置spark环境变量。在要启动spark应用程序的远程实例上,在.bashrc文件中输入spark

SPARK_HOME=*<path to your spark folder>*

export PATH=$SPARK_HOME/bin:$PATH

然后通过命令获取更改后的.bashrc文件的源代码

source  ~/.bashrc

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前