1

我是 haskell 的新手，我遇到了一个非常严重的性能问题，它必须是我的代码而不是 haskell 平台。

我有一个 Levenshtein 距离（自己的代码）的 python 实现，我将它传递（或尝试这样做）到 haskell。结果如下：

bool2int :: Bool -> Int
bool2int True = 1
bool2int False = 0

levenshtein :: Eq a => [a] -> [a] -> Int -> Int -> Int
levenshtein u v 0 0 = 0
levenshtein u v i 0 = i
levenshtein u v 0 j = j
levenshtein u v i j = minimum [1 + levenshtein u v i (j - 1),
    1 + levenshtein u v (i - 1) j,
    bool2int (u !! (i - 1) /= v !! (j - 1) ) + levenshtein u v (i - 1) (j - 1) ]

distance :: Eq a => [a] -> [a] -> Int
distance u v = levenshtein u v (length u) (length v)

现在，长度为 10 或更长的字符串的执行时间差异在 python 和 haskell 之间是 10 的各种幂。此外，通过一些粗略的时间测量（挂钟，因为到目前为止我还没有在 haskell 中找到 clock() 命令），我的 haskell 实现似乎没有花费 O(mn)，但是其他一些快速增长的成本。

注意：我不希望我的 haskell 实现与 python 脚本竞争速度。我只是希望它在“合理”的时间内运行，而不是整个宇宙存在的时间的倍数。

问题：

  • 我做错了什么，我的实现是如此的慢？
  • 如何解决？
  • 谈论“懒惰评估”：我认为如果levenshtein "cat" "kit" 2 2被调用三次，则只计算一次。这是正确的吗？
  • 我的 bool2int 必须有内置的东西，对吧？
  • 如果任何其他意见能推动我在掌握 Haskell 的艰难道路上前进，我们将不胜感激。

编辑：这是用于比较的python代码：

#! /usr/bin/python3.2
# -*- coding, utf-8 -*-

class Levenshtein:
        def __init__ (self, u, v):
                self.__u = ' ' + u
                self.__v = ' ' + v
                self.__D = [ [None for x in self.__u] for x in self.__v]
                for x, _ in enumerate (self.__u): self.__D [0] [x] = x
                for x, _ in enumerate (self.__v): self.__D [x] [0] = x

        @property
        def distance (self):
                return self.__getD (len (self.__v) - 1, len (self.__u) - 1)

        def __getD (self, i, j):
                if self.__D [i] [j] != None: return self.__D [i] [j]
                self.__D [i] [j] = min ( [self.__getD (i - 1, j - 1) + (0 if self.__v [i] == self.__u [j] else 1),
                                  self.__getD (i, j - 1) + 1,
                                  self.__getD (i - 1, j) + 1] )
                return self.__D [i] [j]

print (Levenshtein ('first string', 'second string').distance)
4

2 回答 2

5

我做错了什么，我的实现是如此的慢？

您的算法具有指数复杂性。您似乎假设正在为您记住呼叫，但事实并非如此。

如何解决？

您需要添加显式记忆，可能使用数组或其他方法。

谈论“懒惰评估”：我认为如果levenshtein "cat" "kit" 2 2被调用三次，则只计算一次。这是正确的吗？

不，Haskell 不做自动记忆。懒惰意味着如果你这样做let y = f x in y + y，那么f x只有在需要总和的结果时才会评估（一次）。这并不意味着只会f x + f x在一次调用中进行评估f x。当您想要共享来自子表达式的结果时，您必须明确。

我的 一定有内置的东西bool2int，对吧？

是的，有一个instance Enum Bool，所以你可以使用fromEnum.

*Main> fromEnum True
1
*Main> fromEnum False
0

如果任何其他意见能推动我在掌握 Haskell 的艰难道路上前进，我们将不胜感激。

虽然从头开始写东西可能很有趣并且很有教育意义，但在做这样的常见事情时，学会利用Hackage上的许多优秀库是很重要的。

例如，在edit-distance 包中有一个 Levenshtein 距离的实现。

我将您的 Haskell 代码翻译回 Python 进行比较：

def levenshtein(u, v, i, j):
    if i == 0: return j
    if j == 0: return i

    return min(1 + levenshtein(u, v, i, (j-1)),
               1 + levenshtein(u, v, (i-1), j),
               (u[i-1] != v[j-1]) + levenshtein(u, v, (i-1), (j-1)))

def distance(u, v):
    return levenshtein(u, v, len(u), len(v))

if __name__ == "__main__":
    print distance("abbacabaab", "abaddafaca")

即使没有修复chrisdb 在他的回答中指出的 O(n) 索引问题，编译时它的执行速度也比 Haskell 版本慢：

$ time python levenshtein.py
6

real    0m4.793s
user    0m4.690s
sys 0m0.020s

$ time ./Levenshtein 
6

real    0m0.524s
user    0m0.520s
sys 0m0.000s

当然，它们都输给了 edit-distance 包中正确记忆的版本：

$ time ./LevenshteinEditDistance 
6

real    0m0.015s
user    0m0.010s
sys 0m0.000s

这是一个简单的记忆实现，使用Data.Array：

import Data.Array

distance u v = table ! (m, n)
   where table = listArray ((0, 0), (m, n)) [levenshtein i j | i <- [0..m], j <- [0..n]]

         levenshtein 0 j = j
         levenshtein i 0 = i
         levenshtein i j = minimum [ 1 + table!(i, j-1)
                                   , 1 + table!(i-1, j)
                                   , fromEnum (u'!(i-1) /= v'!(j-1)) + table!(i-1, j-1) ]

         u' = listArray (0, m-1) u
         v' = listArray (0, n-1) v

         m = length u
         n = length v

main = print $ distance "abbacabaab" "abaddafaca"

它的执行方式与您的原始 Python 代码类似：

$ time python levenshtein-original.py 
6

real    0m0.037s
user    0m0.030s
sys 0m0.000s
$ time ./LevenshteinArray 
6

real    0m0.017s
user    0m0.010s
sys 0m0.000s
于 2011-07-16T17:04:10.243 回答
2

在我看来，可能的原因是使用 !! 用于随机访问。Haskell 列表是链表，不太适合需要随机访问而非顺序访问的算法。

您可能想尝试用更适合随机访问的内容替换列表。如果您对字符串感兴趣，可以使用 Data.Text 或 ByteStrings，它们是底层数组，应该很快。或者你可以使用像 Data.Vector 这样的东西。

编辑：实际上，看起来 Data.Text 会有同样的问题，因为文档说索引是 O(n)。可能最好转换为向量。

于 2011-07-16T16:59:53.777 回答