ruby-on-rails – Rails通过抛出浮点逻辑来搞乱BigDecimals

发布时间：2020-12-17 02:44:38 所属栏目：百科来源：网络整理

导读：我正在玩铁轨,我发现了一些奇怪的东西.为了存储货币值,我使用典型的十进制数据类型,活动记录转换为BigDecimal.我认为这是精确的,我想避免浮点数学的奇怪行为.但是当我将99.99存储到数据库时,一切正常,但是当记录被活动记录加载时,它会失去精度并转换为99.989

我正在玩铁轨,我发现了一些奇怪的东西.为了存储货币值,我使用典型的十进制数据类型,活动记录转换为BigDecimal.我认为这是精确的,我想避免浮点数学的奇怪行为.但是当我将99.99存储到数据库时,一切正常,但是当记录被活动记录加载时,它会失去精度并转换为99.9899999999之类的东西.这看起来像一个浮点问题.

我做了一些测试,发现像这样创建一个BigDecimal b = BigDecimal.new(“99.99”)导致一个“干净”的变量但是这样构建它b = BigDecimal.new(99.99)会导致“不洁”的版本我想避免.

我想,当从数据库加载记录时,ActiveRecord用一个中间浮点重建BigDecimal.这不是我想要的,我想知道是否可以避免.

Ruby版本1.9.3p0
Rails 3.2.9
Sqlite 3.7.9

解决方法

您的问题是您使用的是SQLite,而SQLite没有对数字(m,n)数据类型的本机支持.从 fine manual：

1.0 Storage Classes and Datatypes

Each value stored in an SQLite database (or manipulated by the database engine) has one of the following storage classes:

NULL. The value is a NULL value.

INTEGER. The value is a signed integer,stored in 1,2,3,4,6,or 8 bytes depending on the magnitude of the value.

REAL. The value is a floating point value,stored as an 8-byte IEEE floating point number.

TEXT. The value is a text string,stored using the database encoding (UTF-8,UTF-16BE or UTF-16LE).

BLOB. The value is a blob of data,stored exactly as it was input.

请继续阅读该页面,了解SQLite的类型系统的工作原理.

您的Ruby代码中的99.99可能是BigDecimal.new(’99 .99′),但它几乎可以肯定是SQLite中的REAL值99.99(即一个8字节的IEEE浮点值)并且存在邻域.

因此,在开发环境中切换到更好的数据库;特别是,在您要部署的任何数据库之上进行开发.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!