问题标签 [double-precision]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
7 回答
927 浏览

java - 如何判断一个double变量是否有整数值?

我正在尝试使用 Java 查找二次方程的可能整数根。

在此处输入图像描述

这是我的代码片段:

对于a = 2,b = -1c = -40755, 其中一个根是143.0 (143.0当我回显它时打印到控制台所以我只对这样的双精度值感兴趣, 不是143.00001) 我的问题是, 我怎样才能确保任何根都有一个整数值?如果root1 = 143.0然后例如root1 == 143应该返回true。

我试过root1 == Math.floor(root1)了,但没有用。

0 投票
2 回答
461 浏览

math - 整数乘法是否使用双精度浮点数精确到 2^53?

我问是因为我正在计算所有矩阵值都是整数的矩阵乘法。

我想使用 LAPACK 以便获得正确的快速代码。存储为 s 的两个大整数(其乘积小于2^53double在相乘时会产生double包含精确整数结果的 a 吗?

0 投票
1 回答
2870 浏览

cuda - 双精度 CUFFT

我在使用 CUDA FFT 库时遇到了一些问题。

我将输入声明为 cuDoubleComplex,但编译器返回此类型与 cufftComplex 类型的参数不兼容的错误。在网上搜索了一番后,我找到了 cufft.h 文件,其中有一行typedef cuComplex cufftComplex;. 我的问题是,在库 cuComplex.h 中,很明显 cuComplex 具有单浮点精度(typedef cuFloatComplex cuComplex;),但我想要双精度。

这可能吗?

特别是,我获得以下内容:

在这一行:

0 投票
1 回答
3729 浏览

matlab - MATLAB vpa() 不计算指数表达式的变量点数?

尝试使用 vpa() 为指数中的有理表达式计算变量点数:

上面显示了这个问题。ans1 显示表达式的默认输出。ans2 表明 vpa() 没有计算表达式的变量点数。ans 2_5 显示了它应该计算的内容。我正在寻找的结果是x^0.182.

ans3 只是表明当函数是乘法时 vpa() 会产生预期的结果——它是指数中的一些东西,它把它绊倒了。

如何请求 vpa 评估指数?

[编辑]

也许我可以更清楚地说明这一点。我真正需要的是指数表达式的指数的访问器或索引。因此,如果我的表达是 y = x^a 我需要能够在x该返回上有一些访问器a

这可能吗?

0 投票
2 回答
962 浏览

c++ - Visual Express 2010 双精度变量

我刚刚开始使用 C++ 进行编码,但之前对 MATLAB 和 MySql 有相当多的经验。我正在尝试计算一些复合数字,因此准确性是关键。我曾尝试使用双数来做到这一点,但由于某种原因,我只能得到 7 位有效数字的准确度(与浮点数相同)。我什至尝试使用 long double 来尝试计算,但我仍然只能得到 7 sf 的精度。

我没有正确初始化双打吗?我以为它们只是标准库的一部分??非常感谢任何帮助。下面的代码给出了用于计算的代码的主要部分(其余部分主要是加载数据或调试)。


更新

这是代码示例(减去数据读取)。我已经输入了前 5 个值。计算应该给出 ( EXPECTED OUTPUT ) 在 Excel 中计算,使用完全相同的输入:

下面的代码给出了什么(实际输出):

代码:

感谢您的努力。


更新 2:

预期结果和实际结果都使用相同的复利公式。

复合总计 = ((1+(日利率/10000))*(1+(之前的复合总计/10000)))

每日费率是:

第一天:0 第 2 天:-1.09526 第 3 天:5.46038 第 4 天:-1.61801 第 5 天:0.283089

0 投票
1 回答
1425 浏览

grails - 如何在 grails 中正确保存 double 类型?

基本上要保存的域不尊重浮点,因为它会变成另一种格式

我有下一个域

看法:

控制器:

请求位置保存()

参数在保存后像 params.latitude=29.089177 和 params.longitude=-110.961227 一样到达,这些值像 locationInstance.latitude=29089177 和 locationInstance.longitude=-110961227 一样存储在数据库中。

要在视图中显示,如 latitude=2.9089177E7 和 longitude=-1.10961227E8

有什么问题,我有另一个主题类项目并且运行正常。并尝试将属性名称和类型更改为浮动而不是解析

谢谢!

0 投票
3 回答
3247 浏览

c++ - 在编译时在浮点和双精度之间切换

如果我想在编译时在浮点和双精度之间切换,我应该在哪里查看。就像,如果用户想要浮点数而不是双精度,我如何保持这种灵活性?换句话说,我应该如何定义一个可以有条件地为浮点或双精度的变量?

0 投票
2 回答
5455 浏览

c++ - 错误地使用 SetPrecision

使用以下 2 个函数关注带有 * 注释的行。当 cout<< 语句执行时,不显示小数位。3021680380 /10000000 变成 302. 而不是 302.1680。

有任何想法吗?

0 投票
2 回答
309 浏览

c++ - Matlab和c ++矩阵乘积:相同的输入,不同的输出

我在 x86 计算机上的 ubuntu 12.04 和 g++ 4.6.3 中使用 Matlab 2010。这就是我进行生产和输入的方式:

这是 的定义operator*

奇怪的是,我在 Matlab 中制作了具有相同值的相同矩阵,但得到了不同的结果。这是 Matlab 代码:

而 aaa 是 c++ 实现的输出。我知道错误很小,但我想知道导致问题的原因!我想调试很多代码,我需要零差异才能进行良好的调试。

0 投票
1 回答
138 浏览

c - 如何翻译 printf 给出的 %a 的值?

0x1.921fb82c2bd7fp+1人类可读的演示文稿中的价值是什么?我通过printf使用得到了这个值%a