3

我正在阅读一个反汇编的 win32 c++ 程序，我看到了很多：

AND AL,0xFF

这是完全没有意义的还是编译器为什么会生成这些？

这是一个更长的例子：

movsx   eax, byte ptr [ebx]
shl     eax, 18h
movsx   edx, byte ptr [ebx+1]
shl     edx, 10h
add     eax, edx
movsx   ecx, byte ptr [ebx+2]
shl     ecx, 8
add     eax, ecx
movsx   edx, byte ptr [ebx+3]
add     eax, edx
xor     edx, edx
call    sub_43B55C
mov     ecx, eax
mov     edx, eax
sar     ecx, 10h
and     al, 0FFh      # <----
sar     edx, 8
and     cl, 0FFh      # <----
mov     [esi], cl
and     dl, 0FFh      # <----
mov     [esi+1], dl
mov     [esi+2], al
add     ebx, 4
add     esi, 3
inc     ebp
cmp     ebp, 6
jl      short loc_43B5E4

在这些操作之后没有检查标志，所以这不是目的。在 之后，、 和中AND的值被移动到。ALCLDL[ESI + n]

4

1 回答 1

4

正如@fuz 所建议的那样，这只是优化器foo & 0xff在最有可能在原始函数中使用它的上下文中没有识别为无操作的错误。

在将项目的编译设置设置为 "Release" 后，我使用 Borland C++ Builder 6 编译了以下代码片段：

unsigned char foobar(int foo) { return (foo >> 16) & 0xff; }

这与您提供的反汇编中执行的操作非常相似。我们有一个 32 位的值，我们想要移动给定数量的位，然后将其转换为字节值，本质上将原始值的 16-23 位作为一个字节返回。输入参数的类型int是为了生成sar指令而不是 a shr：很可能int在原始代码中也使用了 an 。

在使用objconv编译和反汇编生成的 .obj之后（因为我不知道如何从 C++ Builder 的 IDE 中启用程序集列表），我得到了这个：

@foobar$qi PROC NEAR
;  COMDEF @foobar$qi
        push    ebp                                     ; 0000 _ 55
        mov     ebp, esp                                ; 0001 _ 8B. EC
        mov     eax, dword ptr [ebp+8H]                 ; 0003 _ 8B. 45, 08
        sar     eax, 16                                 ; 0006 _ C1. F8, 10
        and     al, 0FFFFFFFFH                          ; 0009 _ 24, FF
        pop     ebp                                     ; 000B _ 5D
        ret                                             ; 000C _ C3
@foobar$qi ENDP

如您所见，冗余and仍然存在。可以忽略反汇编中的 32 位立即数，因为指令的编码清楚地表明实际代码流中的立即数是 8 位：无论如何，8 位寄存器没有其他有效选项。

Microsoft Visual Studio C++ 6 似乎也犯了同样的错误，但是在整个 32 位寄存器上运行（因此由于 32 位立即数而产生了 3 个字节），清除了高位 - 这是不必要的，看看如何函数的返回值被明确声明为 8 位：

?foobar@@YAEH@Z PROC NEAR                               ; foobar
; 1    : unsigned char foobar(int foo) { return (foo >> 16) & 0xff; }
  00000 55               push    ebp
  00001 8b ec            mov     ebp, esp
  00003 8b 45 08         mov     eax, DWORD PTR _foo$[ebp]
  00006 c1 f8 10         sar     eax, 16                        ; 00000010H
  00009 25 ff 00 00 00   and     eax, 255               ; 000000ffH
  0000e 5d               pop     ebp
  0000f c3               ret     0
?foobar@@YAEH@Z ENDP                                    ; foobar

同时，godbolt 上可用的最旧版本的 gcc正确地将其编译为本质上只是一个转变，除了由于调用约定而导致的列表之间的自然差异。

于 2017-07-27T23:07:34.620 回答