加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

postgreSQL 小数点惹得祸

发布时间:2020-12-13 16:38:49 所属栏目:百科 来源:网络整理
导读:按每个活动的达标率展示 示例表 activity 如下: activity | need | already | user A | 1000 | 1 | U_A B | 500 | 1 | U_B B | 500 | 1 | U_B A | 1000 | 1 | u_A 开始写SQL: select activity, count ( 1 ),need,round( count ( 1 ):: NUMERIC / need:: NUME

按每个活动的达标率展示

示例表 activity 如下:

activity | need | already | user
A        | 1000 | 1 | U_A
B        | 500 | 1 | U_B
B        | 500 | 1 | U_B
A        | 1000 | 1 | u_A

开始写SQL:

select activity,count(1),need,round(count(1)::NUMERIC / need::NUMERIC,2 ) already_rate from activity where activity in ('A','B') group by activity,need order by already_rate desc,activity asc;
结果: 
| activity | count | need | already_rate |
| A        | 2     | 1000 | 0.00         |
| B        | 2     |  500 | 0.00         |

上边应该是B 排在A前边才对,且already_rate 也出错了,主要是由于精度没有掌握好,need数如果不都一样,比较随机,这个时候该怎么办呢?
不管咋变,count数不可能比 need数大,自然小数位的个数,可以由need的长度决定比较好,修改SQL如下:

select activity,length(need::text) ) already_rate from activity where activity in ('A',activity asc;
结果: 
| activity | count | need | already_rate |
| B        | 2     |  500 | 0.004        |
| A        | 2     | 1000 | 0.0020       |

完美了!

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读