代码之家 › 专栏 › 技术社区 › Aaron

SQL Server trig函数引发无效的浮点操作

trigonometry floating-point sql-server

Aaron · 技术社区 · 6 年前

我用合法的Lat/Long值调用这个函数来计算两点之间的距离。它对我99.99%的分数都很有效,但在这一点上,它崩溃了:

SELECT ACOS(SIN(-34.8821289 * PI() / 180) 
          * SIN(-34.882129 * PI() / 180) 
          + (COS(-34.8821289 * PI() / 180) 
           * COS(-34.882129 * PI() / 180) 
           * COS((150.7406616 - 150.740662) * PI() / 180))) / (PI() / 180) * 111.325

出于性能原因,我非常希望继续使用trig函数,而不是原生的sqlserver地理类型。

1 回复 | 直到 6 年前

Aaron 6 年前

该死的,看起来像是混合了一些7位数的小数位值和其他6位数的小数位值,导致COS函数被四舍五入为1,然后因为1超出范围而炸毁了整个ACOS函数?

通过将所有的输入值减少到6位数,似乎完全解决了这个问题。

推荐文章

K.Z · 无法使用ADO获取Insert命令的记录Id。NET 4.0中的NET

2 年前

Duvan · 将逗号(,)替换为点(.)[副本]

2 年前

Yara1994 · 如果另一列具有特定值-SQL Server,则删除具有唯一Id的所有行

2 年前

Simon Worth · 是否可以使用SqlClient自动获取查询字符串中定义的参数列表

2 年前

Mateen Bagheri · 选择表的计数并选择其自身

2 年前

SoT · SQL Server中求和函数的工作方式

2 年前

rapha123 · 如何使用REPLACE函数使用SQL更改这两个单词?

2 年前

NKAT · 将列值聚合到列表中会产生错误

2 年前

deanpillow · 返回两列中有一个匹配值的记录

2 年前

snowflakes74 · 在Dapper中异步查询多个结果

2 年前