代码之家 › 专栏 › 技术社区 › ScalaBoy

新列接收空值

apache-spark-sql apache-spark scala

-1

ScalaBoy · 技术社区 · 6 年前

我有以下数据框 df

+-----------+-----------+-----------+
|CommunityId|nodes_count|edges_count|
+-----------+-----------+-----------+
|         26|          3|         11|
|        964|         16|         18|
|       1806|          9|         31|
|       2040|         13|         12|
|       2214|          8|          8|
|       2927|          7|          7|

然后我添加列 Rate 如下:

df
  .withColumn("Rate",when(col("nodes_count") =!= 0, (lit("edges_count")/lit("nodes_count")).as[Double]).otherwise(0.0))

这就是我得到的:

+-----------+-----------+-----------+-----------------------+
|CommunityId|nodes_count|edges_count|                   Rate|
+-----------+-----------+-----------+-----------------------+
|         26|          3|         11|                   null|
|        964|         16|         18|                   null|
|       1806|          9|         31|                   null|
|       2040|         13|         12|                   null|
|       2214|          8|          8|                   null|
|       2927|          7|          7|                   null|

不知为什么 费率 总是等于 null 是的。

1 回复 | 直到 6 年前

user9989324 6 年前

因为你用 lit .你应该用 col 相反:

df
  .withColumn(
    "Rate" ,when(col("nodes_count") =!= 0,
    (col("edges_count") / col("nodes_count")).as[Double]).otherwise(0.0))

尽管两者都是 when 作为 Double 在这里没用,简单的划分就足够了:

df.withColumn("Rate", col("edges_count") / col("nodes_count"))

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前