代码之家 › 专栏 › 技术社区 › tree em

使用scala spark将参数传递到sql字符串三元组

apache-spark scala

-1

tree em · 技术社区 · 5 年前

val BusinessDate = '2019-02-06'
val query = """(SELECT *
                  |FROM
                  |  v_Account AS a left join v_Customer AS c
                  | ON c.CustomerID = a.CustomerID AND c.Businessdate = a.Businessdate
                  |WHERE
                  | a.Category = 'Deposit' AND
                  | c.Businessdate= '2019-02-06' AND a.Balance IS NOT NULL AND
                  | isnull(a.Classification,'N/A') IN ('Contractual Account','Non-Term Deposit','Term Deposit')) tmp """.stripMargin

val responseWithSelectedColumns = spark
      .read
      .format("jdbc")
      .option("url", url)
      .option("driver", driver)
      .option("dbtable", query)
      .load()

    print("TOTAL: "+responseWithSelectedColumns.count())

c.Businessdate= '2019-02-06' , 我希望将BusinessDate作为参数传递,而不是像这样直接传递。

我该怎么做?

1 回复 | 直到 5 年前

shay__ 5 年前

这叫做 string interpolation

val BusinessDate = '2019-02-06'
val query = s"""(SELECT *
                  |FROM
                  |  v_Account AS a left join v_Customer AS c
                  | ON c.CustomerID = a.CustomerID AND c.Businessdate = a.Businessdate
                  |WHERE
                  | a.Category = 'Deposit' AND
                  | c.Businessdate= '$BusinessDate' AND a.Balance IS NOT NULL AND
                  | isnull(a.Classification,'N/A') IN ('Contractual Account','Non-Term Deposit','Term Deposit')) tmp """.stripMargin

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前