3

为 newb 问题道歉，但 C# 不是我的第一语言。

我正在尝试在给定的内容中建立单词之间所有分隔符的索引列表，并考虑标点符号。我希望使用正则表达式 \b （单词“边界”），但它与我没想到的各种东西相匹配。这是我写的方法：

internal static IList<int> GetBreakIndexesInContent(string content)
{
    IList<int> indices = new List<int>();
    if (content != null) 
    {
        foreach (Match match in Regex.Matches(content, @"\b"))
        {
            Console.WriteLine("INDEX:[" + match.Index + "]   CHAR:[" + content.Text[match.Index] + "]   UNICODE:[" + (int)content.Text[match.Index] + "]");
            indices.Add(match.Index);
        }
    }
    return indices;
}

给定以下 100 个字符的字符串：

"Lorem ipsum dolor sit amet, tritani quaestio suscipiantur mea ea, duo et impedit facilisi evertitur."

我期望我的方法生成一个长度为 14 个元素的列表，其中第一个索引是位置 5，第二个位置是 11，依此类推（忽略位置 26 和 64 处的逗号，以及 99 处的句点）。相反，这是我得到的输出：

//COUNT: [30]
INDEX:[0]   CHAR:[L]   UNICODE:[76]
INDEX:[5]   CHAR:[ ]   UNICODE:[32]
INDEX:[6]   CHAR:[i]   UNICODE:[105]
INDEX:[11]   CHAR:[ ]   UNICODE:[32]
INDEX:[12]   CHAR:[d]   UNICODE:[100]
INDEX:[17]   CHAR:[ ]   UNICODE:[32]
INDEX:[18]   CHAR:[s]   UNICODE:[115]
INDEX:[21]   CHAR:[ ]   UNICODE:[32]
INDEX:[22]   CHAR:[a]   UNICODE:[97]
INDEX:[26]   CHAR:[,]   UNICODE:[44]
INDEX:[28]   CHAR:[t]   UNICODE:[116]
INDEX:[35]   CHAR:[ ]   UNICODE:[32]
INDEX:[36]   CHAR:[q]   UNICODE:[113]
INDEX:[44]   CHAR:[ ]   UNICODE:[32]
INDEX:[45]   CHAR:[s]   UNICODE:[115]
INDEX:[57]   CHAR:[ ]   UNICODE:[32]
INDEX:[58]   CHAR:[m]   UNICODE:[109]
INDEX:[61]   CHAR:[ ]   UNICODE:[32]
INDEX:[62]   CHAR:[e]   UNICODE:[101]
INDEX:[64]   CHAR:[,]   UNICODE:[44]
INDEX:[66]   CHAR:[d]   UNICODE:[100]
INDEX:[69]   CHAR:[ ]   UNICODE:[32]
INDEX:[70]   CHAR:[e]   UNICODE:[101]
INDEX:[72]   CHAR:[ ]   UNICODE:[32]
INDEX:[73]   CHAR:[i]   UNICODE:[105]
INDEX:[80]   CHAR:[ ]   UNICODE:[32]
INDEX:[81]   CHAR:[f]   UNICODE:[102]
INDEX:[89]   CHAR:[ ]   UNICODE:[32]
INDEX:[90]   CHAR:[e]   UNICODE:[101]
INDEX:[99]   CHAR:[.]   UNICODE:[46]

我不只是尝试匹配 " "或稍后仅过滤 ASCII 32 的原因是因为这需要对不一定在所有单词之间使用空格的外语保持敏感。另外，因为我不想无意中将多个空间捕获为单独的“分隔符”。

我真的希望\b能成为真正的单词分离的一个很好的标准包罗万象，但似乎并非如此。我可以“自己动手”，但我希望如果 C# 已经有某种工具来处理这个问题，我可以省去重新发明轮子的麻烦。

当然，任何帮助将不胜感激。

谢谢，格雷格。

4

3 回答 3

2

如果正则表达式\w（\W简单到

private static readonly Regex rxWord = new Regex( @"\w+" ) ;
static IEnumerable<string> ParseWords( string s )
{
  return rxWord.Matches(s).Cast<Match>().Select( m => m.Value ) ;
}

private static Regex rxNonWord = new Regex( @"\W+" ) ;
private static IEnumerable<string> ParseNonWords( string s )
{
  return rxNonWord.Matches(s).Cast<Match>().Select( m => m.Value ) ;
}

但是从你所说的你想要做的事情来看，从 CLR 支持的 Unicode 类别中组合你的字符类或单词分隔符可能会更容易。

此外，使用正则表达式“单词”和“非单词”类（\w和\W）以及它们之间的边界（\b）可能不起作用，因为在正则表达式中，“单词”不一定是您认为的那样。字符类\w最初是 C 语言标识符 ( [A-Za-z0-9_]) 中允许的字符集。如果您是一名 C 程序员，使用正则表达式在源代码中查找符号，这将非常有用。在随意的文字中翻找单词不太好。

CLR 正则表达式的当前定义\w是它匹配包含在任何这些 Unicode 类别中的任何字符：

  • Li（字母，小写）
  • Lu（字母，大写）
  • Lt（字母，标题大小写）
  • Lo（字母，其他）
  • Lm（字母，修饰符）
  • Nd（数字，十进制数字）
  • Pc（标点符号、连接符） 此类别包括 10 个字符。至少在英语中，这里最常见的是_(0x005F) 又名下划线或 LOWLINE。

所有这些都可以说是\w懒惰的写作方式[\p{Ll}\p{Lu}\p{Lt}\p{Lo}\p{Lm}\p{Nd}\p{Pc}]。

非单词字符类\W与此相反。它完全等同于说[^\p{Ll}\p{Lu}\p{Lt}\p{Lo}\p{Lm}\p{Nd}\p{Pc}]。

零宽度锚\b不会“匹配”任何东西：就像它的姐妹^and一样$，\b 将匹配锚定到特定位置。在 的情况下\b，该位置是单词 ( \w) 和非单词 ( \W) 字符之间的边界。\b有一个表亲，它与逆向匹配：它将匹配锚定在两个单词 ( ) 或两个非单词 ( ) 字符\B之间的边界。\w\W

所以...

您需要首先提出适合您的问题域的“单词”定义。这比看起来更难：例如，“二十三”是一个词还是两个词？“前妻”呢？或者像“抽象表现主义”这样的复合词怎么样，取决于上下文是一个或两个词（你会在字典中找到“抽象”、“表现主义”和“抽象表现主义”作为单独的条目）。

如果您可以定义一个符合该定义的字符类，那么一切都很好。要匹配单词之间的间隙内容，您所要做的就是定义它的反字符类。

如果一个简单的字符类不能满足你，你需要使用各种前瞻/后瞻断言来匹配你想要的。

于 2013-10-29T21:55:21.880 回答
1

字边界匹配位置示例： 

 In   Lorem   ipsum   dolor   sit   amet, 
^  ^ ^     ^ ^     ^ ^     ^ ^   ^ ^    ^^

所以你可以看到它比你想象的更多的匹配。

从技术上讲，边界是一个断言。断言存在于“之间”字符。
当他们坐在角色之间时，他们倾向于向前看或向后看。

所以\b可能是(?<=\w)(?=\W|$)或者(?<=\W|^)(?=\w)

于 2013-10-29T20:34:03.287 回答
1

我不是故意要打这么长的评论。我想我不妨将其移至答案。

\b匹配单词和非单词字符之间的所有边界，即\wand之间\W，包括字符串开头和您的第一个字母之间、字母和空格之间（在空格的两侧）等等。

您可能需要将您的表达式与环视断言结合起来以实现您想要的。

例如，

\b(?<=[a-zA-Z])

使用肯定的后向断言来确保您只匹配字母后面的单词边界。但是，这将考虑空格分隔符，我不确定您是否想要这样做，在这种情况下，

\b(?<=[a-zA-Z])(?!\s)

添加了一个额外的条件——这次是一个否定的前瞻断言，以确保您只匹配单词边界而不是空格字符。

于 2013-10-29T20:38:21.420 回答