6

我编写了一个将 64 位 Double 转换为 ByteString 的函数(架构/类型安全并不是真正的问题——让我们现在假设 Double 是 64 位 Word)。虽然下面的函数运行良好,但我想知道是否有更快的方法将 Double 转换为 ByteString。在下面的代码中,有一个将 Word64 解包到 Word8 列表中,然后是反向(使其成为小端格式),然后打包到 ByteString 中。代码如下:

{-# LANGUAGE MagicHash #-}
import GHC.Prim
import GHC.Types
import GHC.Word
import Data.Bits (shiftR)
import Data.ByteString (pack, unpack)
import Data.ByteString.Internal (ByteString)
import Text.Printf (printf)

encodeDouble :: Double -> ByteString
encodeDouble (D# x) = pack $ reverse $ unpack64 $ W64# (unsafeCoerce# x)

unpack64 :: Word64 -> [Word8]
unpack64 x = map (fromIntegral.(shiftR x)) [56,48..0]

-- function to convert list of bytestring into hex digits - for debugging
bprint :: ByteString -> String
bprint x = ("0x" ++ ) $ foldl (++) "" $ fmap (printf "%02x") $ unpack x

main = putStrLn $ bprint $ encodeDouble 7234.4

Mac x86 上的示例 GHCi 输出:

*Main> bprint $ encodeDouble 7234.4
"0x666666666642bc40"

虽然代码似乎运行良好,但我计划在通过 IPC 发送之前将大量 Double 值编码为 ByteString。因此,如果有的话,我将不胜感激有关使其更快的指示。

在我看来,必须将 double 解压缩到 Word8 中,然后再打包到 ByteString 中。所以,可能是整体算法,不能改进太多。但是,如果有的话,使用更有效的解包/打包功能可能会有所作为。

EDIT1: 我刚刚在 Mac (GHC 7.0.3) 上发现了另一个并发症——由于这个错误,上面的代码无法在 GHC 中编译——到目前为止我正在 GHCi 中进行测试:

$ ghc -O --make t.hs
[1 of 1] Compiling Main             ( t.hs, t.o )

/var/folders/_q/33htc59519b3xq7y6xv100z40000gp/T/ghc6976_0/ghc6976_0.s:285:0:
    suffix or operands invalid for `movsd'

/var/folders/_q/33htc59519b3xq7y6xv100z40000gp/T/ghc6976_0/ghc6976_0.s:304:0:
    suffix or operands invalid for `movsd'

所以,看起来我必须依靠 FFI(谷物/数据二进制 ieee754 包),直到这个错误被修复,或者直到我找到解决方法。看起来与GHC Ticket 4092有关。如果这是一个新错误或不同的错误,请纠正我。目前,我无法编译它:(

EDIT2: 更新代码以使用 unsafeCoerce 修复了编译问题。下面的代码与标准基准:

{-# LANGUAGE MagicHash #-}
import GHC.Prim
import GHC.Types
import GHC.Word
import Data.Bits (shiftR)
import Data.ByteString (pack, unpack)
import Data.ByteString.Internal (ByteString)
import Text.Printf (printf)
import Unsafe.Coerce
import Criterion.Main

--encodeDouble :: Double -> ByteString
encodeDouble  x = pack $ reverse $ unpack64 $ unsafeCoerce x

unpack64 :: Word64 -> [Word8]
unpack64 x = map (fromIntegral.(shiftR x)) [56,48..0]

main = defaultMain [
        bgroup "encodeDouble" [
          bench "78901.234"  $ whnf encodeDouble 78901.234
          , bench "789.01" $ whnf encodeDouble 789.01
          ]
       ]

标准输出(截断):

estimating cost of a clock call...
mean is 46.09080 ns (36 iterations)

benchmarking encodeDouble/78901.234
mean: 218.8732 ns, lb 218.4946 ns, ub 219.3389 ns, ci 0.950
std dev: 2.134809 ns, lb 1.757455 ns, ub 2.568828 ns, ci 0.950

benchmarking encodeDouble/789.01
mean: 219.5382 ns, lb 219.0744 ns, ub 220.1296 ns, ci 0.950
std dev: 2.675674 ns, lb 2.197591 ns, ub 3.451464 ns, ci 0.950

进一步分析,大部分瓶颈似乎都在 unpack64 中。强制大约需要 6ns。unpack64 大约需要 195ns。在这里将 word64 解包为 word8 列表非常昂贵。

4

3 回答 3

5

我最近添加了对 IEEE-754 浮点数的支持,您可以在 in 中cereal找到类似的功能。这是一个使用该版本往返a和返回的示例:binarydata-binary-ieee754cerealpiByteString

Prelude Data.Serialize> runGet getFloat64be $ runPut $ putFloat64be pi
Right 3.141592653589793

它使用 ST 数组的技巧来快速进行转换;有关更多详细信息,请参阅这个较早的问题

更新:D'oh,我应该知道如何使用我贡献给图书馆的调用......

更新 x2:关于编译失败,我不认为这是一个错误。

我没有仔细查看此特定代码的生成程序集,但是movsd指令的操作数被弄乱了。来自Intel x86 手册的 §11.4.1.1 :

MOVSD(移动标量双精度浮点)将 64 位双精度浮点操作数从内存传输到 XMM 寄存器的低位四字,反之亦然,或在 XMM 寄存器之间传输。

在未优化的代码中,您有很好的指令movsd LnTH(%rip),%xmm0-Omovsd Ln2cJ(%rip),%rax%rax

优化器可能会根据所涉及的数据类型对它需要在寄存器之间移动的数据表示进行假设。unsafeCoerce和朋友们使这些假设无效,所以当指令选择器认为它为 a 选择了正确的操作时D#,它实际上是在发出试图填充D#aW64#很适合的代码的代码。

由于处理这个问题需要优化器放弃在正常情况下让它发出更好的代码的许多假设,我倾向于说这不是一个错误,而是一个很好的故事,说明为什么unsafe函数会带有警告购买者警告。

于 2011-12-02T03:32:10.253 回答
2

请注意,unsafeCoerce#这里的使用是危险的,文档说

将一个未装箱的类型转换为另一个相同大小的未装箱类型(但不是浮点和整数类型之间的强制

unsafeCreate关于速度,避开中间列表直接通过from写入内存可能会更快Data.ByteString.Internal

于 2011-12-02T02:08:13.280 回答
1

根据 acfoltzer(谷物源代码)和 Daniel Fischer(unsafeCreate)的建议,我编写了下面的代码,该代码非常适合我的用例,而且速度也很快:

{-#LANGUAGE MagicHash #-}
import Data.ByteString (pack, unpack)
import Data.ByteString.Internal (unsafeCreate,ByteString)
import Data.Bits (shiftR)
import GHC.Int (Int64)
import GHC.Prim
import GHC.Types
import GHC.Word
import Unsafe.Coerce
import Criterion.Main
import Foreign

-- | Write a Word64 in little endian format
putWord64le :: Word64 -> Ptr Word8 -> IO()
putWord64le w p = do
  poke p               (fromIntegral (w)           :: Word8)
  poke (p `plusPtr` 1) (fromIntegral (shiftR w  8) :: Word8)
  poke (p `plusPtr` 2) (fromIntegral (shiftR w 16) :: Word8)
  poke (p `plusPtr` 3) (fromIntegral (shiftR w 24) :: Word8)
  poke (p `plusPtr` 4) (fromIntegral (shiftR w 32) :: Word8)
  poke (p `plusPtr` 5) (fromIntegral (shiftR w 40) :: Word8)
  poke (p `plusPtr` 6) (fromIntegral (shiftR w 48) :: Word8)
  poke (p `plusPtr` 7) (fromIntegral (shiftR w 56) :: Word8)

{-# INLINE putWord64le #-}

encodeDouble :: Double -> ByteString
encodeDouble x = unsafeCreate 8 (putWord64le $ unsafeCoerce x)

main :: IO ()
main = defaultMain [
        bgroup "encodeDouble" [
          bench "78901.234"  $ whnf encodeDouble 78901.234
          , bench "789.01" $ whnf encodeDouble 789.01
          ]
       ]

标准输出(截断):

estimating cost of a clock call...
mean is 46.80361 ns (35 iterations)
found 5 outliers among 35 samples (14.3%)
  3 (8.6%) high mild
  2 (5.7%) high severe

benchmarking encodeDouble/78901.234
mean: 18.80689 ns, lb 18.73805 ns, ub 18.97247 ns, ci 0.950
std dev: 516.7499 ps, lb 244.8588 ps, ub 1.043685 ns, ci 0.950

benchmarking encodeDouble/789.01
mean: 18.96963 ns, lb 18.90986 ns, ub 19.06127 ns, ci 0.950
std dev: 374.2191 ps, lb 275.3313 ps, ub 614.4281 ps, ci 0.950

从 ~220ns 到 ~19ns,很好!我没有在编译中做任何花哨的事情。只需 -O 标志将在 GHC7(Mac,x86_64)中执行。

现在,试图弄清楚如何用双打列表快速做到这一点!

于 2011-12-03T19:28:54.740 回答