1

我有一种情况，位掩码和/或类型转换无法按预期工作。我正在使用一个非常大的分布式系统，其中一些部分是用 C 编写的。

让我困惑的几行代码是：

uint16_t
mask(uint32_t nr)
{
  return (uint16_t)(nr & 0x1ff);
}

...

  int nr = 65536;
  int index;
  index = mask(nr);

...

在这种情况下，掩码的返回是 65536 而不是预期的 0。这个例子中有一些不一致的类型转换，但我不明白结果怎么可能是错误的。我们基本上屏蔽了 32 位整数的低 9 位，并将结果转换为 16 位整数。我最好的猜测是，有一些编译器优化会改变前 16 位，但对高 16 位没有任何作用，因为我们只想返回 16 位。由于在这种情况下“索引”是一个 32 位整数，这还包括“nr”的第 17 位，它没有在位掩码中修改，因此第 17 位仍然设置为 1 并将 65536 分配给索引.

有没有人对这种行为有解释？

编辑：我忘记了一些重要的参数。正确包含掩码函数的原型。该系统是为 Linux x86 构建的，带有 gcc 4.3.2。

编辑2：汇编代码：

0805b640 <mask>:
 805b640:       55                      push   %ebp
 805b641:       89 e5                   mov    %esp,%ebp
 805b643:       83 ec 18                sub    $0x18,%esp
 805b646:       65 a1 14 00 00 00       mov    %gs:0x14,%eax
 805b64c:       89 45 fc                mov    %eax,0xfffffffc(%ebp)
 805b64f:       31 c0                   xor    %eax,%eax
 805b651:       8b 45 08                mov    0x8(%ebp),%eax
 805b654:       66 25 ff 01             and    $0x1ff,%ax
 805b658:       8b 55 fc                mov    0xfffffffc(%ebp),%edx
 805b65b:       65 33 15 14 00 00 00    xor    %gs:0x14,%edx
 805b662:       75 02                   jne    805b666 <maks+0x26>
 805b664:       c9                      leave  
 805b665:       c3                      ret    
 805b666:       e8 a5 ac 04 00          call   80a6310 <__stack_chk_fail_local>
 805b66b:       90                      nop    
 805b66c:       8d 74 26 00             lea    0x0(%esi),%esi
4

2 回答 2

2

这是我的 gcc (4.6.2) 产生的mask结果（经过优化；没有，它周围有一些绒毛）：

.LFB0:
    .cfi_startproc
    movl    4(%esp), %eax
    andw    $511, %ax
    ret
    .cfi_endproc

所以它确实只修改了低阶 16 位，调用者有责任实际将高阶 16 位清零

movzwl  %ax, %eax

如果在调用站点知道正确的原型，它会这样做。我非常怀疑

正确包含掩码函数的原型。

事实并非如此，检查并重新检查。如果确实如此，那么您已经发现了一个重大错误（如此重大以至于我们可能已经听说过）。

uint16_t并uint32_t通过包含 linux/types.h 提供

嗯，这里没有。它们由stdint.h. 无论如何，您都应该#include <stdint.h>得到它们，即使它们也由linux/types.h您的系统提供，因为这是便携式解决方案。

于 2013-03-19T16:06:39.067 回答
0

我在这里看到的唯一可能的解释是没有调用预期的掩码函数。请仅在一个文件中尝试您的示例代码，和/或重命名掩码函数。您的值 (0x10000) 的位和 (nr & 0x1ff) 应始终为零。

于 2013-03-19T15:44:21.800 回答