我正在寻找一种将字符串与字符串数组进行比较的方法。进行精确搜索当然很容易,但我希望我的程序能够容忍拼写错误、字符串的缺失部分等等。
是否有某种框架可以执行这样的搜索?我有一些想法,搜索算法将按匹配百分比或类似的东西返回一些结果顺序。
我正在寻找一种将字符串与字符串数组进行比较的方法。进行精确搜索当然很容易,但我希望我的程序能够容忍拼写错误、字符串的缺失部分等等。
是否有某种框架可以执行这样的搜索?我有一些想法,搜索算法将按匹配百分比或类似的东西返回一些结果顺序。
您可以使用Levenshtein 距离算法。
“两个字符串之间的 Levenshtein 距离定义为将一个字符串转换为另一个字符串所需的最小编辑次数,允许的编辑操作是插入、删除或替换单个字符。” - 维基百科
这个来自dotnetperls.com:
using System;
/// <summary>
/// Contains approximate string matching
/// </summary>
static class LevenshteinDistance
{
/// <summary>
/// Compute the distance between two strings.
/// </summary>
public static int Compute(string s, string t)
{
int n = s.Length;
int m = t.Length;
int[,] d = new int[n + 1, m + 1];
// Step 1
if (n == 0)
{
return m;
}
if (m == 0)
{
return n;
}
// Step 2
for (int i = 0; i <= n; d[i, 0] = i++)
{
}
for (int j = 0; j <= m; d[0, j] = j++)
{
}
// Step 3
for (int i = 1; i <= n; i++)
{
//Step 4
for (int j = 1; j <= m; j++)
{
// Step 5
int cost = (t[j - 1] == s[i - 1]) ? 0 : 1;
// Step 6
d[i, j] = Math.Min(
Math.Min(d[i - 1, j] + 1, d[i, j - 1] + 1),
d[i - 1, j - 1] + cost);
}
}
// Step 7
return d[n, m];
}
}
class Program
{
static void Main()
{
Console.WriteLine(LevenshteinDistance.Compute("aunt", "ant"));
Console.WriteLine(LevenshteinDistance.Compute("Sam", "Samantha"));
Console.WriteLine(LevenshteinDistance.Compute("flomax", "volmax"));
}
}
实际上,您可能更喜欢使用Damerau-Levenshtein 距离算法,该算法还允许转置字符,这是数据输入中常见的人为错误。您将在此处找到它的 C# 实现。
.NET 框架中没有任何东西可以帮助您实现开箱即用。
最常见的拼写错误是那些字母是单词的正确语音表示,但不是单词的正确拼写。
例如,可以争辩说单词sword
和sord
(是的,那是一个单词)具有相同的语音词根(当您发音时它们听起来相同)。
话虽如此,您可以使用许多算法将单词(甚至是拼写错误的单词)翻译成语音变体。
第一个是Soundex。它的实现相当简单,并且有相当数量的.NET 实现了这个算法。它相当简单,但它为您提供了可以相互比较的真实值。
另一个是变音器。虽然我找不到 Metaphone 的本机 .NET 实现,但提供的链接包含指向许多其他可以转换的实现的链接。最容易转换的可能是Metaphone 算法的 Java 实现。
需要注意的是,Metaphone 算法已经过修改。有Double Metaphone(具有.NET 实现)和Metaphone 3。Metaphone 3 是一个商业应用程序,但在针对常用英语单词的数据库运行时,其准确率是 98%,而 Double Metaphone 算法的准确率是 89%。根据您的需要,您可能想要寻找(在 Double Metaphone 的情况下)或购买(在 Metaphone 3 的情况下)算法的源代码并通过 P/Invoke 层转换或访问它(有 C++ 实现盛产)。
Metaphone 和 Soundex 的区别在于 Soundex 生成固定长度的数字键,而 Metaphone 生成不同长度的键,因此结果会有所不同。最后,两者都会为您做同样的比较,您只需要根据您的要求和资源(当然还有拼写错误的容忍度)找出最适合您的需求。
这是 LevenshteinDistance 方法的一个实现,它使用更少的内存,同时产生相同的结果。这是此维基百科文章中“具有两个矩阵行的迭代”标题下的伪代码的 C# 改编版本。
public static int LevenshteinDistance(string source, string target)
{
// degenerate cases
if (source == target) return 0;
if (source.Length == 0) return target.Length;
if (target.Length == 0) return source.Length;
// create two work vectors of integer distances
int[] v0 = new int[target.Length + 1];
int[] v1 = new int[target.Length + 1];
// initialize v0 (the previous row of distances)
// this row is A[0][i]: edit distance for an empty s
// the distance is just the number of characters to delete from t
for (int i = 0; i < v0.Length; i++)
v0[i] = i;
for (int i = 0; i < source.Length; i++)
{
// calculate v1 (current row distances) from the previous row v0
// first element of v1 is A[i+1][0]
// edit distance is delete (i+1) chars from s to match empty t
v1[0] = i + 1;
// use formula to fill in the rest of the row
for (int j = 0; j < target.Length; j++)
{
var cost = (source[i] == target[j]) ? 0 : 1;
v1[j + 1] = Math.Min(v1[j] + 1, Math.Min(v0[j + 1] + 1, v0[j] + cost));
}
// copy v1 (current row) to v0 (previous row) for next iteration
for (int j = 0; j < v0.Length; j++)
v0[j] = v1[j];
}
return v1[target.Length];
}
这是一个可以为您提供百分比相似度的函数。
/// <summary>
/// Calculate percentage similarity of two strings
/// <param name="source">Source String to Compare with</param>
/// <param name="target">Targeted String to Compare</param>
/// <returns>Return Similarity between two strings from 0 to 1.0</returns>
/// </summary>
public static double CalculateSimilarity(string source, string target)
{
if ((source == null) || (target == null)) return 0.0;
if ((source.Length == 0) || (target.Length == 0)) return 0.0;
if (source == target) return 1.0;
int stepsToSame = LevenshteinDistance(source, target);
return (1.0 - ((double)stepsToSame / (double)Math.Max(source.Length, target.Length)));
}
您的另一个选择是使用 Soundex 或 Metaphone 进行语音比较。我刚刚完成了一篇介绍这两种算法的 C# 代码的文章。您可以在http://www.blackbeltcoder.com/Articles/algorithms/phonetic-string-comparison-with-soundex查看它。
这里有两种计算字符串之间的Levenshtein 距离的方法。
两个字符串之间的 Levenshtein 距离定义为将一个字符串转换为另一个字符串所需的最小编辑次数,允许的编辑操作是插入、删除或替换单个字符。
获得结果后,您需要定义要用作匹配或不匹配阈值的值。在一堆样本数据上运行该函数,以很好地了解它是如何帮助确定您的特定阈值的。
/// <summary>
/// Calculates the Levenshtein distance between two strings--the number of changes that need to be made for the first string to become the second.
/// </summary>
/// <param name="first">The first string, used as a source.</param>
/// <param name="second">The second string, used as a target.</param>
/// <returns>The number of changes that need to be made to convert the first string to the second.</returns>
/// <remarks>
/// From http://www.merriampark.com/ldcsharp.htm
/// </remarks>
public static int LevenshteinDistance(string first, string second)
{
if (first == null)
{
throw new ArgumentNullException("first");
}
if (second == null)
{
throw new ArgumentNullException("second");
}
int n = first.Length;
int m = second.Length;
var d = new int[n + 1, m + 1]; // matrix
if (n == 0) return m;
if (m == 0) return n;
for (int i = 0; i <= n; d[i, 0] = i++)
{
}
for (int j = 0; j <= m; d[0, j] = j++)
{
}
for (int i = 1; i <= n; i++)
{
for (int j = 1; j <= m; j++)
{
int cost = (second.Substring(j - 1, 1) == first.Substring(i - 1, 1) ? 0 : 1); // cost
d[i, j] = Math.Min(
Math.Min(
d[i - 1, j] + 1,
d[i, j - 1] + 1),
d[i - 1, j - 1] + cost);
}
}
return d[n, m];
}