代码之家 › 专栏 › 技术社区 › Ged

df.write.mode(“append”)按比例

apache-spark

Ged · 技术社区 · 6 年前

是用于写入如下数据库的api的spark sql系列:

 DF.write.mode("append").jdbc(url, table, prop)

能按比例工作吗?

或者sqoop应该在什么时候使用?

1 回复 | 直到 6 年前

user9942512 6 年前

一般来说,jdbc上的写操作通常会受到目标系统功能的限制。一般来说,JDBC连接器不是为批量数据迁移而设计的,而且大多数供应商都有自己的特定于平台的批量插入工具。

特定的写作模式 append 几乎没有或根本没有影响。

和往常一样,如果你对某个特定选择的性能影响有疑问,最好在你使用的平台上对其进行基准测试,这些数据反映了实际输入的属性,并使用了与之相当的资源,你可以在生产中随意使用。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前