0

所以我在一个工作正常的 AVR 微控制器上做了这个功能，但是当我打电话时

display(1)

4 位显示屏上显示的值是“1.099”而不是“1.000”。

void display(float n) {
int8_t i, digit_pos=0;
unsigned short digit;
PORTC &= ~((1<<MUX_A2) | (1<<MUX_B2) | (1<<MUX_E2));
ENABLE_DISPLAY;

for (i=3;i>=-3;i--)
{
    digit = n/pow(10,i);
    digit = digit%10;
    if (digit==0&&i>0&&digit_pos==0)
        continue;
    if (digit_pos-i<3)
        if (i==0)
            digit += 10;

    PORTD = SegCode[digit];
    PORTC = ((PORTC & (~(3<<MUX_A2))) | (digit_pos<<MUX_A2)) & ~(1<<MUX_E2);
    PORTC |= (1<<MUX_E2);
    if (digit_pos==3)
        break;
    else
        digit_pos++;
}

PORTD=0x00;
}

应该显示的“n”变量是一个浮点数，那么为什么精度会从第二个小数开始丢失

digit = n/pow(10,i);
digit = digit%10;

是因为类型转换吗？是因为某些 8 位 RISC 处理器的限制吗？

4

2 回答 2

2

这是因为类型转换。

float不精确，所以当你在浮点数中执行 1/.01 和 1/.001 时，你得到的结果略小于 100 和 1000。（我不想那么彻底地跟踪你的代码，但这就是问题所在谎言。）这是四舍五入到 99 和 999，这就是为什么 9 出现在输出中。

如果可以的话，使用整数工作会好得多。通过添加最后一个预期数字的一半值来防止四舍五入。

似乎您期望的值介于 0.001 和 9999 之间。快速实现将用例：

if (n > 9999) error
else if (n >= 1000) {dec = (int)(n + 0.5); shift = 0;}
else if (n >= 100) {dec = (int)(10*(n + 0.05)); shift = 1;}
and so on

then do stuff with dec

另一个提示，您不需要使用 % 运算符。从右边计算数字并在显示前存储它们。

dec_next = dec / 10;
digit = dec - 10*dec_next;
dec = dec_next;
于 2013-09-04T02:25:37.327 回答
1

digit被声明为unsigned short，因此分配给它的任何十进制值都将被截断。您正在执行的除法产生一个float您尝试存储的值digit，因此它将被截断以存储为unsigned short.

如果可以腾出空间，您可能希望将类型更改digit为 a 。float

于 2013-09-03T21:40:43.630 回答