问题标签 [precision]

是否可以在 Ruby 中设置浮点数的显示精度？

就像是：

还是我必须重写的to_s方法Float？

我正在尝试构建一个算法来验证双精度值是否是由最小值、最大值和步长值定义的范围的成员。问题是检查该值是否符合步进规则。对于整数，这很容易做到：

但是，这不适用于双精度值。我知道这至少部分是出于精确的原因，我尝试通过将所有值乘以一个非常高的数字并将它们转换为长整数来破解解决方案。但是，这不适用于所有值，并且在检查余数时也不允许从 0 出现小偏差。有没有人遇到过这个问题并想出了一个好的解决方案？下面是一个以非工作验证方法为特色的示例和测试。

这样做的一种方法是从最小值开始并逐步增加它，直到它等于或大于输入值，但除了一个丑陋的解决方案之外，这可能是我的应用程序中的潜在瓶颈，所以我真的很想避免。

我很感激任何指示...

问候/亨里克

}

这更像是一个好奇的问题，但有谁知道在 C++ 中如何处理负精度值？例如：

我已经尝试过并使用 GCC，似乎精度值被忽略了，但我很好奇在这种情况下是否有一些官方说法。

我有一个方法可以返回像 1.234567890 这样的浮点数。我想测试它是否确实如此。但是，这个返回的浮点数似乎在不同的平台上具有不同的精度，那么我如何断言返回的值为 1.23456789？如果我这样做：

那么这可能会在某些精度不够的平台上失败。

为什么我在 Mapkit 中的位置精度不如地图应用程序中的精度？精度设置为最佳。如果我试图在 maps.app 中获取我的位置，我的应用程序中的精度为 50m，我有 500m。我究竟做错了什么 ：）？有什么技巧可以得到更好的结果吗？

谢谢你的帮助 ：）

在数学中，同一性(1 + sqrt(2))^2 = 3 + 2*sqrt(2)是正确的。但在浮点（IEEE 754，使用单精度，即 32 位）计算中，情况并非如此，因为sqrt(2)它没有精确的二进制表示。

那么使用 的近似值是否sqrt(2)会为左侧和右侧提供不同的结果？如果是，为什么？对近似值进行平方会显着降低精度吗？

那么，哪个等价表达式给出了最准确的结果？

即使使用 -Wall 选项也不会引起任何警告。有时，我想知道精度损失在哪里。为什么 gcc 不支持此警告，而 msvc 支持此警告？

谢谢。

编辑：我的 gcc -v 显示

Configured with: ../../gcc-4.4.1/configure --prefix=/mingw --build=mingw32 --enable-languages=c,ada,c++,fortran,objc,obj-c++ --disable-nls --disable-win32-registry --enable-libgomp --enable-cxx-flags='-fno-function-sections -fno-data-sections' --disable-werror --enable-threads --disable-symvers --enable-version-specific-runtime-libs --enable-fully-dynamic-string --with-pkgversion='TDM-2 mingw32' --enable-sjlj-exceptions --with-bugurl=http://www.tdragon.net/recentgcc/bugs.php

SQL Serverdecimal数据类型是否为列中的每个值存储了小数点后的实际位数？

例如

在哪里

是否可以检索用户输入的确切“0.0012500”值，或者是否有必要存储在另一列中输入的实际小数位数？

我有一个针对 MySql 数据库运行的 Spring 应用程序。我有一个销售表，如：

在我的春季课程中，我有以下内容：

但是，这将返回 1 的价格，即使此查询直接在数据库上返回0.8500也是如此。如何避免从数据库中的小数到代码中的 long 的精度损失？

我在 Perl 中遇到了一个奇怪的行为。以下减法应产生零作为结果（它在 Python 中执行）：

为什么会发生以及如何避免？

PS 效果出现在“为 x86_64-linux-gnu-thread-multi 构建的 v5.10.0”（Ubuntu 9.04）和“为 darwin-2level 构建的 v5.8.9”（Mac OS 10.6）上