问题标签 [floating-point-conversion]

我有一个网页，它从数据库中获取数据，然后在线显示它，但由于某种原因，如果值是0.4它正在改变它0.400000005960464，如果它是859.8它改变它859.799987792969。我对其进行了调试，发现它正在从数据库中正确读取值，所以这不是问题，而是.aspx页面弄乱了这些值。这就是我为该页面所拥有的，正在更改的是 DataField 组件 1 和 2。

我需要使用来自另一个系统的数字，这些数字是 java 中的 128 位（四精度）浮点数。

考虑到 java 中没有等效类型，我想使用 java 代码降低数字的精度，以便它们可以存储在 java double 中。这可以在 c 或使用汇编中相当容易地完成，但我想纯粹在 java 中完成。

假设四精度数存储在 java 中的 128 位字节数组中是公平的。

有没有一个好的解决方案，只使用java？谢谢。

在 STM32F4 MCU 上，我需要将浮点数转换为整数。

我有 FP 数字作为 arm_pid_f32() 函数的结果，但后来我需要更新接受 12 位整数的内部 DAC 值。

我知道我会失去一些“精确度”，但如果我不转换它并让它直接传递给 DAC 更新功能，我会遇到一些奇怪的行为，这让我有问题。

最好的方法是什么？

我正在使用 KEIL MDK-ARM IDE + CMSIS DSP 库。

BTW：MCU 用于 PID 控制回路，我有 12 位 A/D，PID 算法和我的系数和 DAC 作为输出设备。DAC 目前用于调试目的，稍后将被同样需要整数的 PWM 模块取代。

现在上面的函数将无法正常运行。由于 JavaScript 没有正确添加浮动小数。所以我尝试了很多方法...

还尝试了一个 close hack，因为这给了我我的十进制数，上面给了我一个整数，无论​​如何。

虽然我相信上面的问题是它变成了一个字符串并且只是没有切割。所以问题是我如何增加小数，因为这是非常必要的。

例子

我想将给定的转换float为它的二进制表示。我尝试将浮点值写入 a MemoryStream，逐字节读取此MemoryStream字节并将字节转换为它们的二进制表示。但每一次尝试都失败了。

• “无法读取关闭的流”（但我只关闭了作者）
• 出于测试目的，我只是写了一个整数（我认为大小为四个字节）MemoryStream，当我没有刷新时，长度为 0，而当我刷新时，长度为StreamWriter1。

我确信有一种更好的方法可以将floats 转换为二进制，但我也想了解一下这个MemoryStream类。

当在tovalue范围内徘徊时，在和之间闪烁。有没有一种干净的方法来抑制减号，它只表示不相关的噪音小数点后十位？-1.0e-141.0e-14s"0.000""-0.000"

（不太一般的情况是cout << ...。）

避免输出负零的最佳方法是什么？解决表面问题。它的答案是在传递给 <<之前四舍五入到正确的有效数字位数，与“如果所有数字都为零，则只需删除 frickin' 减号”相比，需要大量计算。

uint16我想对一个浮点数进行异或，如下所示：

当我运行测试时，会发生以下错误：

如何转换x为 16 位的整数值？

简单地说，就是当我放的时候：

它返回一个错误，有没有办法对浮点类型进行模运算或者我必须进行转换？我正在使用 xCode IDE 和 Objective-C 语言

谁能向我解释这里发生了什么：

哪个输出：

1000000.13

1000000.125

我期望：

对象 o 具有底层浮点类型（似乎发生在 [通过观察它被键入为对象 {float} 的监视窗口）

1000000.123f 将作为 1000000.125 存储在 f 中（32 位的 IEEE754 近似值？）

double 也将存储 1000000.125 （即使 f 似乎不包含我的预期，似乎也会发生）

在这两种情况下，要求 ToString 上的往返格式都会给我 1000000.125。

谁能告诉我在串出 f 时我做错了什么得到 1000000.13？

浮点除法导致应为 1 的值变为 .9999999，因此将其设为 0 而不是 1，因此所需更改的计算不正确。处理这个问题的最简单方法是什么？（另外，如果有一些关于如何处理这个问题的指南/文章，我希望有一个链接供参考。） 例如。3.51 坏了。

两个版本的代码都有相同的问题。

下一个版本以更明确的方式具有相同的问题。

有一个简单的解决方法吗？我对所有想法持开放态度。