问题标签 [double-precision]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - 如何判断一个double变量是否有整数值?
我正在尝试使用 Java 查找二次方程的可能整数根。
这是我的代码片段:
对于a = 2
,b = -1
和c = -40755
, 其中一个根是143.0
(143.0
当我回显它时打印到控制台所以我只对这样的双精度值感兴趣, 不是143.00001
) 我的问题是, 我怎样才能确保任何根都有一个整数值?如果root1 = 143.0
然后例如root1 == 143
应该返回true。
我试过root1 == Math.floor(root1)
了,但没有用。
math - 整数乘法是否使用双精度浮点数精确到 2^53?
我问是因为我正在计算所有矩阵值都是整数的矩阵乘法。
我想使用 LAPACK 以便获得正确的快速代码。存储为 s 的两个大整数(其乘积小于2^53
)double
在相乘时会产生double
包含精确整数结果的 a 吗?
cuda - 双精度 CUFFT
我在使用 CUDA FFT 库时遇到了一些问题。
我将输入声明为 cuDoubleComplex,但编译器返回此类型与 cufftComplex 类型的参数不兼容的错误。在网上搜索了一番后,我找到了 cufft.h 文件,其中有一行typedef cuComplex cufftComplex;
. 我的问题是,在库 cuComplex.h 中,很明显 cuComplex 具有单浮点精度(typedef cuFloatComplex cuComplex;
),但我想要双精度。
这可能吗?
特别是,我获得以下内容:
在这一行:
matlab - MATLAB vpa() 不计算指数表达式的变量点数?
尝试使用 vpa() 为指数中的有理表达式计算变量点数:
上面显示了这个问题。ans1 显示表达式的默认输出。ans2 表明 vpa() 没有计算表达式的变量点数。ans 2_5 显示了它应该计算的内容。我正在寻找的结果是x^0.182
.
ans3 只是表明当函数是乘法时 vpa() 会产生预期的结果——它是指数中的一些东西,它把它绊倒了。
如何请求 vpa 评估指数?
[编辑]
也许我可以更清楚地说明这一点。我真正需要的是指数表达式的指数的访问器或索引。因此,如果我的表达是
y = x^a
我需要能够在x
该返回上有一些访问器a
。
这可能吗?
c++ - Visual Express 2010 双精度变量
我刚刚开始使用 C++ 进行编码,但之前对 MATLAB 和 MySql 有相当多的经验。我正在尝试计算一些复合数字,因此准确性是关键。我曾尝试使用双数来做到这一点,但由于某种原因,我只能得到 7 位有效数字的准确度(与浮点数相同)。我什至尝试使用 long double 来尝试计算,但我仍然只能得到 7 sf 的精度。
我没有正确初始化双打吗?我以为它们只是标准库的一部分??非常感谢任何帮助。下面的代码给出了用于计算的代码的主要部分(其余部分主要是加载数据或调试)。
更新
这是代码示例(减去数据读取)。我已经输入了前 5 个值。计算应该给出 ( EXPECTED OUTPUT ) 在 Excel 中计算,使用完全相同的输入:
下面的代码给出了什么(实际输出):
代码:
感谢您的努力。
更新 2:
预期结果和实际结果都使用相同的复利公式。
复合总计 = ((1+(日利率/10000))*(1+(之前的复合总计/10000)))
每日费率是:
第一天:0 第 2 天:-1.09526 第 3 天:5.46038 第 4 天:-1.61801 第 5 天:0.283089
grails - 如何在 grails 中正确保存 double 类型?
基本上要保存的域不尊重浮点,因为它会变成另一种格式
我有下一个域
看法:
控制器:
请求位置保存()
参数在保存后像 params.latitude=29.089177 和 params.longitude=-110.961227 一样到达,这些值像 locationInstance.latitude=29089177 和 locationInstance.longitude=-110961227 一样存储在数据库中。
要在视图中显示,如 latitude=2.9089177E7 和 longitude=-1.10961227E8
有什么问题,我有另一个主题类项目并且运行正常。并尝试将属性名称和类型更改为浮动而不是解析
谢谢!
c++ - 在编译时在浮点和双精度之间切换
如果我想在编译时在浮点和双精度之间切换,我应该在哪里查看。就像,如果用户想要浮点数而不是双精度,我如何保持这种灵活性?换句话说,我应该如何定义一个可以有条件地为浮点或双精度的变量?
c++ - 错误地使用 SetPrecision
使用以下 2 个函数关注带有 * 注释的行。当 cout<< 语句执行时,不显示小数位。3021680380 /10000000 变成 302. 而不是 302.1680。
有任何想法吗?
c++ - Matlab和c ++矩阵乘积:相同的输入,不同的输出
我在 x86 计算机上的 ubuntu 12.04 和 g++ 4.6.3 中使用 Matlab 2010。这就是我进行生产和输入的方式:
这是 的定义operator*
:
奇怪的是,我在 Matlab 中制作了具有相同值的相同矩阵,但得到了不同的结果。这是 Matlab 代码:
而 aaa 是 c++ 实现的输出。我知道错误很小,但我想知道导致问题的原因!我想调试很多代码,我需要零差异才能进行良好的调试。
c - 如何翻译 printf 给出的 %a 的值?
0x1.921fb82c2bd7fp+1
人类可读的演示文稿中的价值是什么?我通过printf
使用得到了这个值%a
。