问题标签 [floating-point-precision]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c++ - odeint:复杂且精度更高的类型
任何人都可以为我提供一些帮助,帮助我创建一个使用复数向量的 c++ odeint 求解器的最小示例,如果可能的话,精度更高(boost.multiprecision 或 libquadmath __float128 , __complex128 说)。
文档中有一个使用复杂标量的示例http://headmyshoulder.github.com/odeint-v2/doc/boost_numeric_odeint/tutorial/special_topics.html
它在那里提到:
我试图通过以下更改来修改它typedef vector<complex<double>> state_type
:
}
但是,这会产生大量错误。
谁能给我一个复杂 ODE 的最小工作示例?甚至更好地实现高精度数据类型..看起来 odeint 可以支持相当任意的状态类型,但我在让它们工作时遇到了很多麻烦。
更新代码
错误登录编译:
c - float - c 数据类型
当我运行它时,它说“相等”。但是当我将 a 的值更改为 2000000(少一个零)时,答案是否定的。为什么 ?
php - 如何使数字不以科学形式显示?
我想将浮点数数组写入文件
但在 test.txt 中,我看到
我不希望浮点数以科学/指数形式显示,我希望它们保持原始形式,此外,还有像 12430120340 这样的大整数,所以如果我对浮点数使用特殊格式,比如 0.000123293304 那么也许它不适合大整数,也许将它们转换为字符串可能是个好主意?但如何?
python - Python:在浮动列表中查找最小项目的索引
如何在 Python 浮点数列表中找到最小项的索引?如果它们是整数,我会简单地做:
但是,对于浮点数列表,我会收到以下错误,我认为是因为浮点数相等比较相当不确定。
现在,我知道我可以简单地滚动列表并比较每个项目以查看它是否 < (min + 0.0000000000001) 和 > (min - 0.0000000000001),但这有点混乱。有没有更优雅(最好是内置)的方法来查找浮动列表中最小项目的索引?
c++ - 将 2^31 分配给浮点数或双精度数
我必须将一个整数值乘以 2^31。我用谷歌搜索了它,看起来双打的范围在 2.23e-308 <= |X| 之间 <= 1.79e308 使用 64 位,浮点数介于 1.18e-38 <= |X| <= 3.40e38。
这比我需要的要多得多。但它不起作用。
我的头文件中有这个常量值:
如果那时我只是这样做:
那么,dummy 的值为 11。
我不知道问题是否在于分配这样的常量值,但我不知道如何在不丢失精度的情况下编写它。
有什么帮助吗?
编辑:对不起,愚蠢的问题。我的 MatLab 背景背叛了我,忘记了 ^ 不适用于 C++ 中的求幂。我已经投票关闭。
java - Java - 一次双加/减法中的最大精度损失
在java中处理两个double
值(加/减)时,是否可以粗略地确定最大精度损失是多少?最坏的情况可能是两个数字不能准确表示,然后对它们执行操作,这导致一个值也不能准确表示。
c - C中的数字精度误差
这是我写的一段代码:
当我输入数字 1441.1441 时,我得到的结果是 14411440 而不是 14411441,这显然是将我的输入数字乘以 10000 后的正确结果。有人可以帮我解决这个问题吗?
matlab - Matlab 导入带有标题和浮点精度数字的 CSV 文件
我的问题是将 CSV 文件中的数字导入到 matlab 变量中,其精度与原始数字相同。这是我的数据示例(可以有 X 行,文件顶部有一个标题):
我已经使用导入向导和以下代码成功导入了数据。但问题是数字导入只有双精度,这是不够的。
和 matlab 导入向导结果:
我正在使用 Matlab R2011a
mysql - 选择具有给定精度的 FLOAT
我想将我的值存储为 FLOATS,但是在检索它们时,用户可以指定(并在运行时更改)他想在小数点后看到多少位数。
我可以SELECT
以某种方式通过它,还是必须在我的应用程序中这样做?
python - Python中的浮点精度
我在python中编写了这个函数:
当我在 Wolphramapha 和 Maple 中计算这个函数时,我会得到 189.797,但使用 python我会得到 184.91089913 我的程序有什么问题?