我收到有关以下表达式的警告消息。
(400*ev.PageBounds.Width)/2400
警告消息是输出精度降低到操作数的精度。
为什么?我可以忽略它吗?
谢谢,
我收到有关以下表达式的警告消息。
(400*ev.PageBounds.Width)/2400
警告消息是输出精度降低到操作数的精度。
为什么?我可以忽略它吗?
谢谢,
只需使用更广泛精度的操作数:
(400.0*ev.PageBounds.Width)/2400.0
或铸造它们:
(((double)400)*v.PageBounds.Width)/(double)2400
等等。请注意,它400
决定了结果的类型,您可以跳过强制转换2400
编辑:不,一般来说你不应该忽略它。该消息警告您将 BLAH 除以 2400 可能会导致分数被截断。IE。3500 / 2400 = 1。当所有操作数都是整数时,它会以这种方式完成,例如:
2 * 4 / 10 * 10 ==== 0
尽管
2 * 4.0 / 10 * 10 ==== 8