简短版本:如何使用此处描述的定点乘法检测溢出,但对于有符号类型?
长版:
我的Q31.32 定点类型仍有一些溢出问题。为了更容易在纸上计算示例,我使用相同的算法制作了一个小得多的类型,即基于 sbyte 的 Q3.4。我认为,如果我能解决 Q3.4 类型的所有问题,那么同样的逻辑应该适用于 Q31.32 类型。
请注意,我可以很容易地通过对 16 位整数执行 Q3.4 乘法来实现它,但我这样做好像不存在,因为对于 Q31.32 我需要一个 128 位整数不存在(而且 BigInteger 太慢了)。
我希望我的乘法通过饱和来处理溢出,即发生溢出时,结果是可以根据操作数的符号表示的最大值或最小值。
这基本上是类型的表示方式:
struct Fix8 {
sbyte m_rawValue;
public static readonly Fix8 One = new Fix8(1 << 4);
public static readonly Fix8 MinValue = new Fix8(sbyte.MinValue);
public static readonly Fix8 MaxValue = new Fix8(sbyte.MaxValue);
Fix8(sbyte value) {
m_rawValue = value;
}
public static explicit operator decimal(Fix8 value) {
return (decimal)value.m_rawValue / One.m_rawValue;
}
public static explicit operator Fix8(decimal value) {
var nearestExact = Math.Round(value * 16m) * 0.0625m;
return new Fix8((sbyte)(nearestExact * One.m_rawValue));
}
}
这就是我目前处理乘法的方式:
public static Fix8 operator *(Fix8 x, Fix8 y) {
sbyte xl = x.m_rawValue;
sbyte yl = y.m_rawValue;
// split x and y into their highest and lowest 4 bits
byte xlo = (byte)(xl & 0x0F);
sbyte xhi = (sbyte)(xl >> 4);
byte ylo = (byte)(yl & 0x0F);
sbyte yhi = (sbyte)(yl >> 4);
// perform cross-multiplications
byte lolo = (byte)(xlo * ylo);
sbyte lohi = (sbyte)((sbyte)xlo * yhi);
sbyte hilo = (sbyte)(xhi * (sbyte)ylo);
sbyte hihi = (sbyte)(xhi * yhi);
// shift results as appropriate
byte loResult = (byte)(lolo >> 4);
sbyte midResult1 = lohi;
sbyte midResult2 = hilo;
sbyte hiResult = (sbyte)(hihi << 4);
// add everything
sbyte sum = (sbyte)((sbyte)loResult + midResult1 + midResult2 + hiResult);
// if the top 4 bits of hihi (unused in the result) are neither all 0s or 1s,
// then this means the result overflowed.
sbyte topCarry = (sbyte)(hihi >> 4);
bool opSignsEqual = ((xl ^ yl) & sbyte.MinValue) == 0;
if (topCarry != 0 && topCarry != -1) {
return opSignsEqual ? MaxValue : MinValue;
}
// if signs of operands are equal and sign of result is negative,
// then multiplication overflowed upwards
// the reverse is also true
if (opSignsEqual) {
if (sum < 0) {
return MaxValue;
}
}
else {
if (sum > 0) {
return MinValue;
}
}
return new Fix8(sum);
}
这会在类型的精度范围内提供准确的结果并处理大多数溢出情况。但是它不处理这些,例如:
Failed -8 * 2 : expected -8 but got 0
Failed 3.5 * 5 : expected 7,9375 but got 1,5
让我们弄清楚第一个乘法是如何发生的。
-8 and 2 are represented as x = 0x80 and y = 0x20.
xlo = 0x80 & 0x0F = 0x00
xhi = 0x80 >> 4 = 0xf8
ylo = 0x20 & 0x0F = 0x00
yhi = 0x20 >> 4 = 0x02
lolo = xlo * ylo = 0x00
lohi = xlo * yhi = 0x00
hilo = xhi * ylo = 0x00
hihi = xhi * yhi = 0xf0
总和显然是 0,因为除了 hihi 之外所有项都是 0,但在最终总和中只使用了 hihi 的最低 4 位。
我通常的溢出检测魔法在这里不起作用:结果为零,因此结果的符号没有意义(例如 0.0625 * -0.0625 == 0(通过向下舍入),0 是正数但操作数的符号不同);hihi 的高位也是 1111,即使没有溢出也经常发生。
基本上我不知道如何检测这里发生的溢出。有没有更通用的方法?