3

我有一个将 RGB 颜色空间中的向量转换为 HSV 的函数 - 该例程通过了所有测试并且在绝大多数时间都可以工作。但是，崩溃报告表明它偶尔会失败（0.0001% 的调用或更少。）但是，由于调用此函数的次数太多，这占软件中总崩溃的很大一部分。

代码的相关部分如下：

glm::vec4 RGBtoHSV(glm::vec4 rgb)
{
    vec4 hsv = vec4(0,0,0,rgb.w);

    float r = rgb.x;
    float g = rgb.y;
    float b = rgb.z;
    float M = std::max(std::max(r,g),b);
    float m = std::min(std::min(r,g),b);
    float c = M - m;

    //calc hue
    float hp = 0;
    if (c == 0)
        hp = 0;
    else if (M == r)
        hp = glm::mod(((g-b)/c), 6.0f);
    else if (M == g)
        hp = ((b-r)/c) + 2;
    else if (M == b)
        hp = ((r-g)/c) + 4;
    else
        EXPECT(false);
    float h = hp * 60;

    ...

glm::vec4 是对GLM库的引用，但类型基本上就是这样的：

struct vec4 {
    union {
        struct { float x, y, z, w; }
        struct { float r, g, b, a; }
    }
}

失败的行是期望（假）；——这只是断言我们总是达到大写之一，问题是控制如何达到那里？

4

1 回答 1

2

假设这些是 IEEE-754 浮点数，那么与NaN. 如果您使用不同的浮点表示，那么我的其余答案可能不相关。

听起来可能有点奇怪，但任何与NaN返回 False 的比较。因此，即使您尝试这样做，您也会NaN == Nan变得错误。MSDN 链接。

如果您NaN在引发断言的代码部分进行测试，那么这很可能是问题所在。您可以使用 http://en.cppreference.com/w/cpp/numeric/math/isnan 中找到的方法来执行isnan()此操作。<cmath>

我很快整理了一些代码来演示，如果您的系统上发生同样的情况，请告诉我：

#include <iostream>
#include <cmath>
int main(){
    float r = 0.0/0;
    std::cout << "r = " << r <<  std::endl;
    float g = 7.0;
    float b = 0.0;
    float M = std::max(std::max(r,g),b);
    float m = std::min(std::min(r,g),b);
    float c = M - m;

    //calc hue
    float hp = 0;
    if (c == 0)
        std::cout << "c == 0" << std::endl;
    else if (M == r)
        std::cout << "M == r" << std::endl;
    else if (M == g)
        std::cout << "M == g" << std::endl;
    else if (M == b)
        std::cout << "M == b" << std::endl;
    else
        std::cout << "oops" << std::endl;
        if(std::isnan(M))
            std::cout << "NaN encountered" << std::endl;

}

在我用 gcc 编译的机器上，这给出了以下输出：

r = -nan
oops
NaN encountered

0.0/0因此，代码中的其他地方似乎有可能发生了什么事。

于 2013-11-07T20:24:31.747 回答