c – 了解浮点精度
发布时间:2020-12-16 10:31:59 所属栏目:百科 来源:网络整理
导读:是这样的情况: 可表示的浮点值在零附近的实数行中最密集? 当数字线偏离零时,可表示的浮点值会变稀疏(指数?)? 如果上述两个都是真的,那是否意味着距离零更远的精度更低? 总体问题:精确度在某种程度上是指或可以依赖于您可以表示的数字密度(准确)吗? 解
是这样的情况:
>可表示的浮点值在零附近的实数行中最密集? 总体问题:精确度在某种程度上是指或可以依赖于您可以表示的数字密度(准确)吗? 解决方法
术语精度通常是指所表示的值中的有效位数(位).因此精度随着表示的尾数中的位数(或数字)而变化.与原点的距离没有任何作用.
你说的是关于实线上浮子密度的真实情况.但在这种情况下,正确的术语是准确性,而不是精确性.小幅度的FP数字比较大的FP数字准确得多.这与整数形成对比,整数在其范围内具有统一的精度. 我强烈推荐论文What Every Computer Scientist Should Know About Floating Point Arithmetic,其中涵盖了这一点以及更多内容. (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
相关内容
- libpqxx查询postgresql数据库表的通用方法
- AJAX问题之XMLHttpRequest status = 0
- c# – 放置DTO,结果对象等的位置?
- c# – 将base64string转换为Image类型.找不到图片类型?
- 为什么有些C标准库`operator <<`函数将它们的流宽度重置为
- c# 实现子窗口关闭父窗口也关闭的简单实例
- ios – Swift – 如何将Tab Bar和导航栏添加到单个视图控制
- SQlite3 C++ 基本应用(sqlite3_stmt搞定二进制)
- ios – 删除按钮由自定义单元格覆盖
- c# – 将TransactionScope传递给Parallel.Invoke创建的任务