0

我将一个值为 0.00291545 的浮点参数传递给片段着色器。但是片段函数得到了 n/a 。 快速代码 片段着色器

在 Xcode 调试器的“Bound Resources”视图中,显示值为 0.003 Bound Resources

在 Xcode 着色器调试器视图中,我做了一些测试。它表明 0.0004 将被转换为 0 并且 0.0005 将被转换为 0.001 。浮点值的行为类似于半值。 在着色器调试器中测试代码

所以,我的问题是:

  1. 为什么 0.00291545 首先转换为 0.003,然后转换为 0 ?

  2. 为什么浮点值与 half 具有相同的精度?

  3. 如何使用具有正常精度的浮点值?

4

1 回答 1

1

我发现了问题所在!

Xcode 调试器误导了我。

0.00291545 未转换为 0.003,也未转换为 n/a。调试器显示不准确,但实际值准确。

感谢肯托马斯

于 2018-11-11T11:42:57.883 回答