为什么4.1％2使用Ruby返回0.0999999999999996？但4.2％2 == 0.2

发布时间：2020-12-17 03:35:27 所属栏目：百科来源：网络整理

导读：为什么4.1％2会返回0.0999999999999996？但是4.2％2 == 0.2. 解决方法见： What Every Programmer Should Know About Floating-Point Arithmetic 实数是无限的.计算机正在使用有限数量的位(32位,今天64位).因此,计算机完成的浮点运算不能代表所有实数. 0.1

为什么4.1％2会返回0.0999999999999996？但是4.2％2 == 0.2.

解决方法

见： What Every Programmer Should Know About Floating-Point Arithmetic

实数是无限的.计算机正在使用有限数量的位(32位,今天64位).因此,计算机完成的浮点运算不能代表所有实数. 0.1是这些数字之一.

请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机代表实数的方式.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!