代码之家  ›  专栏  ›  技术社区  ›  mtryingtocode

红移舍入问题

  •  0
  • mtryingtocode  · 技术社区  · 5 年前

    我的基准是这个聚合

    select site, sum(sales) / 1.07 as sales from sales group by site;
    

    select site, product, sum(sales) / 1.07 as sales from sales group by site, product;
    

    有没有合适的方法来处理这种红移?

    0 回复  |  直到 5 年前
        1
  •  1
  •   Gordon Linoff    5 年前

    我建议分开 之前

    select site, product, sum(sales / 1.07) as sales
    from sales
    group by site, product;
    

    从数学上讲,这应该是等价的。然而,由于数字在计算机中不是无限精确的,这可能会解决您的问题。