加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

c – 了解浮点精度

发布时间:2020-12-16 10:31:59 所属栏目:百科 来源:网络整理
导读:是这样的情况: 可表示的浮点值在零附近的实数行中最密集? 当数字线偏离零时,可表示的浮点值会变稀疏(指数?)? 如果上述两个都是真的,那是否意味着距离零更远的精度更低? 总体问题:精确度在某种程度上是指或可以依赖于您可以表示的数字密度(准确)吗? 解
是这样的情况:

>可表示的浮点值在零附近的实数行中最密集?
>当数字线偏离零时,可表示的浮点值会变稀疏(指数?)?
>如果上述两个都是真的,那是否意味着距离零更远的精度更低?

总体问题:精确度在某种程度上是指或可以依赖于您可以表示的数字密度(准确)吗?

解决方法

术语精度通常是指所表示的值中的有效位数(位).因此精度随着表示的尾数中的位数(或数字)而变化.与原点的距离没有任何作用.

你说的是关于实线上浮子密度的真实情况.但在这种情况下,正确的术语是准确性,而不是精确性.小幅度的FP数字比较大的FP数字准确得多.这与整数形成对比,整数在其范围内具有统一的精度.

我强烈推荐论文What Every Computer Scientist Should Know About Floating Point Arithmetic,其中涵盖了这一点以及更多内容.

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读