代码之家 › 专栏 › 技术社区 › OdiumPura

使用JDBC(Sql server)查询tempview

pyspark apache-spark scala

OdiumPura · 技术社区 · 2 年前

我有一个临时视图:

sales.createOrReplaceTempView("sales")

我想在SQL server查询中使用此临时视图:

select distinct
    t2.id,
    t1.prod
from prod t1 
join sales t2  on t2.id = t1.id

prod表(t1)存储在sql server中,sales表(t2)是tempView。

我应该如何运行此查询?是否可以使用JDBC来运行它?

1 回复 | 直到 2 年前

Surya 2 年前

您的Spark应用程序正在不同的计算机集群上运行,您正在使用这些计算机创建临时视图。您的sql server正在另一台计算机上运行,您在该计算机上创建了一个表。这两个组件使用不同的数据语言。您始终可以将它们连接起来,并将其中任何一个带到另一个平台,然后在公共平台上使用两个表/视图,但不能简单地将不同平台上的表连接起来。

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前