问题标签 [double]

我有一些在 10.919 秒内运行的代码。对其进行分析表明，10.182 秒被浪费在

当我使用时调用

可以做什么？我必须使用 Java 与外部 API 进行交互。


编辑：我使用了以下技巧：

并下降到 1.5s / 2.2s

编辑：

使java返回数组的长逗号分隔字符串表示，然后使用

产生几乎可以忍受的性能

如果您在 MSSQLServer 中有一个浮点数，那么您在 .NET 中将其映射到什么？

您可以将其转换为 Double 还是会丢失数字？

我正在做一些需要 SIMD 的工作，我需要对一个双精度数组进行操作。是否有任何主流架构支持这一点？我只见过浮点运算。

提前致谢， 斯特凡

问题如下：我们正在创建一个类 testObject 的实例，并用一个 double 填充一个 var。

TestExcel 类从 PhpExcel 扩展而来，当我们将对象 testObject 提交到构造函数时，我们会在执行 var_dump 时获得 var 的科学记数法。

任何人都可以帮助我们。我和我的同事不明白如何通过扩展 phpExcel 类来更改实例的内容。

当我们不做扩展时， var_dump 返回正确的符号。-- 200000 做扩展时得到科学记数法 -- 2.0E+5

我有一个简单的 C# 函数：

计算大于或等于“值”的较大数字，即“步长”的倍数。但它缺乏精确度，如以下测试所示：

第一个和第二个断言都可以，但第三个断言失败，因为结果只相等到小数点后 6 位。这是为什么？有什么办法可以纠正这个吗？

更新如果我调试测试，我发现这些值在小数点后第 8 位而不是第 6 位是相等的，可能是因为 Math.Round 引入了一些不精确性。

注意在我的测试代码中，我写了“F”后缀（显式浮点常量），我的意思是“D”（双精度），所以如果我改变它，我可以有更高的精度。

有 isnan() 函数吗？

PS.：我在MinGW（如果这有什么不同的话）。

我通过使用 isnan() from 解决了这个问题<math.h>，它在 中不存在<cmath>，我一开始是在#includeing 中。

NSTimeInterval == 双倍；（例如 169.12345666663）

我怎样才能把这个双数四舍五入，以便在“点”之后只剩下 2 位数字？
如果结果是 NSNumber，那就太好了。

我的应用程序使用 VSTO 读取 Excel 文件并将读取的数据添加到StringDictionary. 它只添加带有几位数字的数据（1000 1000,2 1000,34 - 逗号是俄罗斯标准中的分隔符）。

检查当前字符串是否是适当的数字更好？

或者

由于以下解析算法问题，我必须使用StringDictionary而不是。Dictionary<string, double>

我的问题：哪种方式更快？哪个更安全？

Convert.ToDouble(object)打电话还是更好Convert.ToDouble(string)？

我想知道哪种 Integer 或 Float 类型最快。
我在想字节比整数快，因为它的范围更小。
有人告诉我..在某些情况下整数比一个字节快。

第二个问题：
GPU 正在走向世界统治..
所以我问自己：Double 能否比 Integer“更快”.. 因为 FPU
那么专家在哪里？:)

在 C# 中。我有一个具有 20 位精度的双精度数（我从数据库中提取的）。在 Visual Studio（使用 QuickWatch）中，我可以看到双精度值 = 0.00034101243963859839。

我想在文本框中显示这个值，然后当我把它拿出来并将它转换回双精度值时让它成为相同的值。但我总是输掉最后两位数字

我尝试了以下方法：

在这些情况下：

我希望能够做到以下几点：

有没有办法保持最后两位精度？