代码之家 › 专栏 › 技术社区 › Ajay Kharade

如何将外部配置文件传递给pyspark(spark2.x)程序?

pyspark

-1

Ajay Kharade · 技术社区 · 6 年前

但是,当我试图运行相同的脚本使用Spark提交命令与主纱线和集群部署模式是集群它给我的配置文件不存在的错误,我已经检查纱线日志,并能够看到相同的,下面是运行pyspark作业的命令。

spark2-submit --master yarn --deploy-mode cluster test.py /home/sys_user/ask/conf/config.ini

1 回复 | 直到 6 年前

Ajay Kharade 6 年前

与 spark2 sumbmit公司

e、 g.spark2 submit——主纱线——部署模式集群 pyspark\u脚本.py

Jugal Panchal 4 年前

.config('spark.files', 'config/local/config.ini') \

读入Pypark:

with open(SparkFiles.get('config.ini')) as config_file:
    print(config_file.read())

这对我很有用。

推荐文章

Leonard · Pyspark:JSON到Pyspark数据帧

2 年前

Fran Arenas · Pyspark collect()方法在Pycharm或控制台中执行测试时给出了不同的顺序

2 年前

titutubs · 有没有一种更有效的方法来为Databricks SQL中的bin值编写代码?

2 年前

markwatson · AWS Glue:如何在输出中添加具有源文件名的列?

6 年前

juamd · 顺序(k,<元组>)RDD

6 年前

Gaurav Gupta · 如何加载多行记录的CSV文件?

6 年前

Jared · 如何在本地模式下运行的pyspark中读取S3?

6 年前

ka_boom · 在pyspark中链接多个groupBy

6 年前

ds_user · 在apache spark中复制记录计数

6 年前

ds_user · 结合类型和子类型的Apache Spark组

6 年前