加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

C#和Javascript代码计算给出了不同的结果

发布时间:2020-12-15 04:26:07 所属栏目:百科 来源:网络整理
导读:我正在做一个Unity项目,我需要将UTM坐标转换为纬度和经度.我已经尝试了几种C#解决方案,但它们都不够准确.但我找到了一些 Javascript代码,它给出了我正在寻找的确切结果( https://www.movable-type.co.uk/scripts/latlong-utm-mgrs.html).问题是,当我将代码转
我正在做一个Unity项目,我需要将UTM坐标转换为纬度和经度.我已经尝试了几种C#解决方案,但它们都不够准确.但我找到了一些 Javascript代码,它给出了我正在寻找的确切结果( https://www.movable-type.co.uk/scripts/latlong-utm-mgrs.html).问题是,当我将代码转换为C#时,它会给出不同的结果.以下是我看到问题的代码片段:

使用Javascript:

var a = 6378137;
var f = 1/298.257223563;
var e = Math.sqrt(f*(2-f));
var n = f / (2 - f);
var n2 = n*n,n3 = n*n2,n4 = n*n3,n5 = n*n4,n6 = n*n5;
var A = a/(1+n) * (1 + 1/4*n2 + 1/64*n4 + 1/256*n6);

我自己转换的C#代码:

var a = 6378137;
var f = 1 / 298.257223563;
var e = Math.Sqrt(f * (2 - f));
var n = f / (2 - f);
var n2 = n * n;
var n3 = n2 * n;
var n4 = n3 * n;
var n5 = n4 * n;
var n6 = n5 * n;
var A = a / (1 + n) * (1 + 1 / 4 * n2 + 1 / 64 * n4 + 1 / 256 * n6);

它们应该相同,但A的值不同.在Javascript它是6367449.145823415(我想要的),但C#给出6367444.6571225897487819833001.我可以在我的项目中使用Javascript代码,但方便的是Unity在去年停止支持Javascript.

两个函数的输入相同.这可能是什么问题?

解决方法

您在最后一个表达式中遇到问题
var A = a / (1 + n) * (1 + 1 / 4 * n2 + 1 / 64 * n4 + 1 / 256 * n6);

在C#1/4 *中,n2被评估为0,因为默认情况下1和4被认为是整数,整数除法1/4给出0.同样的事情发生在1/64 * n4和1/256 * n6.但在JavaScript中只有64位浮点数,因此1/4的计算结果为0.25.

可能的解决方法:

var A = a / (1 + n) * (1 + 1 / 4.0 * n2 + 1 / 64.0 * n4 + 1 / 256.0 * n6);

现在答案似乎完全一样.

注意:正如@Lithium所提到的,你可能会发现更优雅的是在数字的末尾添加d而不是.0来表示它是double.

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读