sql-server – 执行计算时丢失的比例

发布时间：2020-12-12 16:20:00 所属栏目：MsSql教程来源：网络整理

导读：我正在进行计算,但我没有得到预期的答案.我在计算时失去了一些规模. 计算公式为：651/1000 * -413.72063274 = -269.33213191(至8 d.p) 在SQL Server中我这样做： declare @var numeric(28,8)declare @a numeric(28,8)declare @b numeric(28,8)set @var = -413

我正在进行计算,但我没有得到预期的答案.我在计算时失去了一些规模.

计算公式为：651/1000 * -413.72063274 = -269.33213191(至8 d.p)

在SQL Server中我这样做：

declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000

select CAST((@a/@b) * @var as numeric(28,8)) as result_1,CAST(CAST(@a as numeric(28,8)) 
      /CAST(@b as numeric(28,8)) as numeric(28,8)) 
      *CAST(@var as numeric (28,8))   as result_2

结果是

result_1：-269.33213200(正确到6dp)
result_2：-269.332132(正确到6dp)

如何获取返回的查询：-269.33213191(正确到8dp)？

解决方法

对于这种特定情况,您可以通过先将所有值相乘并将最终结果除以此乘数来作弊.

declare @var numeric(28,8)
declare @m numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000
set @m   = 10000000


select CAST(((@a*@m) * (@var*@m) / (@b*@m)) AS NUMERIC(28,8)) / @m 
-- Result: -269.3321319137

编辑

另一方面,在不使用乘数的情况下保持其精度

select CAST(@a * @var AS NUMERIC(28,8)) / @b
-- Result: -269.3321319140

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!