65

我正在寻找一个 Python 库,用于从一组字符串中查找最长的公共子字符串。有两种方法可以解决这个问题:

  • 使用后缀树
  • 使用动态规划。

实现的方法并不重要。重要的是它可以用于一组字符串(不仅仅是两个字符串)。

4

10 回答 10

65

这些配对函数将在任意字符串数组中找到最长的公共字符串:

def long_substr(data):
    substr = ''
    if len(data) > 1 and len(data[0]) > 0:
        for i in range(len(data[0])):
            for j in range(len(data[0])-i+1):
                if j > len(substr) and is_substr(data[0][i:i+j], data):
                    substr = data[0][i:i+j]
    return substr

def is_substr(find, data):
    if len(data) < 1 and len(find) < 1:
        return False
    for i in range(len(data)):
        if find not in data[i]:
            return False
    return True


print long_substr(['Oh, hello, my friend.',
                   'I prefer Jelly Belly beans.',
                   'When hell freezes over!'])

毫无疑问,该算法可以改进,而且我对 Python 的了解不多,所以也许它在语法上也可以更有效,但它应该可以完成这项工作。

编辑:内联第二个 is_substr 函数,如 JF Sebastian 所示。用法保持不变。注意:算法没有变化。

def long_substr(data):
    substr = ''
    if len(data) > 1 and len(data[0]) > 0:
        for i in range(len(data[0])):
            for j in range(len(data[0])-i+1):
                if j > len(substr) and all(data[0][i:i+j] in x for x in data):
                    substr = data[0][i:i+j]
    return substr

希望这可以帮助,

杰森。

于 2010-05-24T00:12:40.897 回答
6

这可以做得更短:

def long_substr(data):
  substrs = lambda x: {x[i:i+j] for i in range(len(x)) for j in range(len(x) - i + 1)}
  s = substrs(data[0])
  for val in data[1:]:
    s.intersection_update(substrs(val))
  return max(s, key=len)

集合(可能)被实现为哈希映射,这使得这有点低效。如果您(1)将集合数据类型实现为 trie 并且(2)仅将后缀存储在 trie 中,然后强制每个节点成为端点(这相当于添加所有子字符串),那么理论上我会猜这个婴儿的记忆效率很高,特别是因为尝试的交叉点非常容易。

然而,这是短暂的,过早的优化是大量浪费时间的根源。

于 2015-09-16T14:29:32.563 回答
4

我更喜欢这个is_substr,因为我发现它更具可读性和直观性:

def is_substr(find, data):
  """
  inputs a substring to find, returns True only 
  if found for each data in data list
  """

  if len(find) < 1 or len(data) < 1:
    return False # expected input DNE

  is_found = True # and-ing to False anywhere in data will return False
  for i in data:
    print "Looking for substring %s in %s..." % (find, i)
    is_found = is_found and find in i
  return is_found
于 2013-02-18T20:12:01.963 回答
4
def common_prefix(strings):
    """ Find the longest string that is a prefix of all the strings.
    """
    if not strings:
        return ''
    prefix = strings[0]
    for s in strings:
        if len(s) < len(prefix):
            prefix = prefix[:len(s)]
        if not prefix:
            return ''
        for i in range(len(prefix)):
            if prefix[i] != s[i]:
                prefix = prefix[:i]
                break
    return prefix

来自http://bitbucket.org/ned/cog/src/tip/cogapp/whiteutils.py

于 2010-05-23T18:59:08.133 回答
2
# this does not increase asymptotical complexity
# but can still waste more time than it saves. TODO: profile
def shortest_of(strings):
    return min(strings, key=len)

def long_substr(strings):
    substr = ""
    if not strings:
        return substr
    reference = shortest_of(strings) #strings[0]
    length = len(reference)
    #find a suitable slice i:j
    for i in xrange(length):
        #only consider strings long at least len(substr) + 1
        for j in xrange(i + len(substr) + 1, length + 1):
            candidate = reference[i:j]  # ↓ is the slice recalculated every time?
            if all(candidate in text for text in strings):
                substr = candidate
    return substr

免责声明这对 jtjacques 的回答几乎没有任何帮助。但是,希望这应该更具可读性更快,并且不适合评论,因此我将其发布在答案中。shortest_of老实说,我不满意。

于 2010-05-24T07:51:17.620 回答
1

如果有人正在寻找一个通用版本,它也可以获取任意对象序列的列表:

def get_longest_common_subseq(data):
    substr = []
    if len(data) > 1 and len(data[0]) > 0:
        for i in range(len(data[0])):
            for j in range(len(data[0])-i+1):
                if j > len(substr) and is_subseq_of_any(data[0][i:i+j], data):
                    substr = data[0][i:i+j]
    return substr

def is_subseq_of_any(find, data):
    if len(data) < 1 and len(find) < 1:
        return False
    for i in range(len(data)):
        if not is_subseq(find, data[i]):
            return False
    return True

# Will also return True if possible_subseq == seq.
def is_subseq(possible_subseq, seq):
    if len(possible_subseq) > len(seq):
        return False
    def get_length_n_slices(n):
        for i in xrange(len(seq) + 1 - n):
            yield seq[i:i+n]
    for slyce in get_length_n_slices(len(possible_subseq)):
        if slyce == possible_subseq:
            return True
    return False

print get_longest_common_subseq([[1, 2, 3, 4, 5], [2, 3, 4, 5, 6]])

print get_longest_common_subseq(['Oh, hello, my friend.',
                                     'I prefer Jelly Belly beans.',
                                     'When hell freezes over!'])
于 2015-03-05T03:53:02.360 回答
0

我的回答,很慢,但很容易理解。处理一个包含 100 个 1 kb 字符串的文件大约需要两秒钟,如果有多个子字符串,则返回任何一个最长的子字符串

ls = list()
ls.sort(key=len)
s1 = ls.pop(0)
maxl = len(s1)

#1 创建一个按长度向后排序的所有子字符串的列表。因此我们不必检查整个列表。

subs = [s1[i:j] for i in range(maxl) for j in range(maxl,i,-1)]
subs.sort(key=len, reverse=True)
    

#2 检查下一个最短的子字符串,然后是下一个等。如果不在任何下一个最短的字符串中,则打破循环,这并不常见。如果它通过所有检查,则默认为最长的,打破循环。

def isasub(subs, ls):
    for sub in subs:
        for st in ls:
            if sub not in st:
                break 
        else:
            return sub
            break
print('the longest common substring is: ',isasub(subs,ls))
于 2021-03-08T10:51:56.493 回答
0

穴居人解决方案将根据您作为列表传递的子字符串长度为您提供字符串中最常见的子字符串的数据框:

import pandas as pd

lista = ['How much wood would a woodchuck',' chuck if a woodchuck could chuck wood?']

string = ''
for i in lista:
    string = string + ' ' + str(i)

string = string.lower()

characters_you_would_like_to_remove_from_string = [' ','-','_']

for i in charecters_you_would_like_to_remove_from_string:
    string = string.replace(i,'')

substring_length_you_want_to_check = [3,4,5,6,7,8]

results_list = []

for string_length in substring_length_you_want_to_check:
    for i in range(len(string)):
        checking_str = string[i:i+string_length]
        if len(checking_str) == string_length:
            number_of_times_appears = (len(string) - len(string.replace(checking_str,'')))/string_length
            results_list = results_list+[[checking_str,number_of_times_appears]]


df = pd.DataFrame(data=results_list,columns=['string','freq'])

df['freq'] = df['freq'].astype('int64')

df = df.drop_duplicates()


df = df.sort_values(by='freq',ascending=False)

display(df[:10])

结果是:

    string  freq
78    huck     4
63    wood     4
77    chuc     4
132  chuck     4
8      ood     4
7      woo     4
21     chu     4
23     uck     4
22     huc     4
20     dch     3
于 2021-04-03T21:05:14.703 回答
0

在我的机器上添加一个“中断”显着加快了 jtjacques 的回答(16K 文件为 1000X 左右):

def long_substr(data):
    substr = ''
    if len(data) > 1 and len(data[0]) > 0:
        for i in range(len(data[0])):
            for j in range(len(substr)+1, len(data[0])-i+1):
                if all(data[0][i:i+j] in x for x in data[1:]):
                    substr = data[0][i:i+j]
                else:
                    break
    return substr
于 2021-08-16T00:21:43.603 回答
-1

您可以使用 SuffixTree 模块,它是基于通用后缀树的 ANSI C 实现的包装器。该模块易于处理......

看看:这里

于 2011-04-16T09:30:22.217 回答