objective-c – 使用NSUInteger的奇怪行为 – 无法正确转换为flo

发布时间：2020-12-16 06:54:49 所属栏目：百科来源：网络整理

导读：这是我的情况.它让我疯狂：我有一个NSMutableArray,其计数值为517.我有一个double值,这是我的乘数. double multiplier = 0.1223;double result = [myArray count] * multiplier; // 63 even (wrong!) 实际上它应该是63.2291.如果我走： double result = [my

这是我的情况.它让我疯狂：

我有一个NSMutableArray,其计数值为517.我有一个double值,这是我的乘数.

double multiplier = 0.1223;
double result = [myArray count] * multiplier; // 63 even (wrong!)

实际上它应该是63.2291.如果我走：

double result = [myArray count] * 0.1223; // 63.2291 (right!)

要么..

double result = 517 * multiplier; // 63.2291 (right!)

这对任何人都有意义吗？

附录：

这是我的实际功能：

- (double) getValueForPercentage:(double)percVal
{
   int adjustedCount = [originalData count] - 1;
   double final = percVal * (double)adjustedCount;
   return final;
}

当我这样做时,我从未得到超过小数点的任何数字.然而,如果我摆脱“-1”,a-la,它确实有效：

- (double) getValueForPercentage:(double)percVal
{
   int adjustedCount = [originalData count];
   double final = percVal * (double)adjustedCount;
   return final;
}

当然,我需要-1.

第二个附录：

我注意到的另一个有趣的事情是,如果我将一个硬编码的数字传递给这个函数它工作正常,但如果我传递我需要使用的double值,它会失败：

int pointCount = [srcData getDayCount];

for (int i = 0; i < pointCount; i++) {
   double progress = (double)i/(double)(pointCount - 1);
   double satv = [srcData getValueForPercentage:progress];
   // satv is always a number without any digits beyond the decimal
}

解决方法

好吧,当我开始遇到这些问题时,我环顾四周,没有找到任何理由或解释.

我现在做的是让一切都变成一个NSNumber,然后在上面调用doubleValue.这应该会产生您正在寻找的结果：

NSNumber * pointCount = [NSNumber numberWithUnsignedInt: [srcData getDayCount]];
for (NSInteger i = 0; i < [pointCount intValue]; i++) {
    NSNumber * count = [ NSNumber numberWithInt: i ];
    double progress = [count doubleValue]/[pointCount doubleValue] - 1.0;
    double satv = [srcData getValueForPercentage:progress];
    // satv is always a number without any digits beyond the decimal
}

希望能帮助到你.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!