5

我正在努力寻找/创建一种可以确定随机 5 个字母组合的发音的算法。

到目前为止,我发现的最接近的东西来自这个 3 岁的 StackOverflow 线程:

测量一个单词的发音?

<?php
// Score: 1
echo pronounceability('namelet') . "\n";

// Score: 0.71428571428571
echo pronounceability('nameoic') . "\n";

function pronounceability($word) {
    static $vowels = array
        (
        'a',
        'e',
        'i',
        'o',
        'u',
        'y'
        );

    static $composites = array
        (
        'mm',
        'll',
        'th',
        'ing'
        );

    if (!is_string($word)) return false;

    // Remove non letters and put in lowercase
    $word = preg_replace('/[^a-z]/i', '', $word);
    $word = strtolower($word);

    // Special case
    if ($word == 'a') return 1;

    $len = strlen($word);

    // Let's not parse an empty string
    if ($len == 0) return 0;

    $score = 0;
    $pos = 0;

    while ($pos < $len) {
        // Check if is allowed composites
        foreach ($composites as $comp) {
                $complen = strlen($comp);

                if (($pos + $complen) < $len) {
                        $check = substr($word, $pos, $complen);

                        if ($check == $comp) {
                                $score += $complen;
                                $pos += $complen;
                                continue 2;
                        }
                }
        }

        // Is it a vowel? If so, check if previous wasn't a vowel too.
        if (in_array($word[$pos], $vowels)) {
                if (($pos - 1) >= 0 && !in_array($word[$pos - 1], $vowels)) {
                        $score += 1;
                        $pos += 1;
                        continue;
                }
        } else { // Not a vowel, check if next one is, or if is end of word
                if (($pos + 1) < $len && in_array($word[$pos + 1], $vowels)) {
                        $score += 2;
                        $pos += 2;
                        continue;
                } elseif (($pos + 1) == $len) {
                        $score += 1;
                        break;
                }
        }

        $pos += 1;
    }

    return $score / $len;
}
?>

...但它远非完美,给出了一些相当奇怪的误报:

使用此功能,以下所有比率都可发音,(7/10 以上)

  • 中泰达
  • LLFDA
  • MMGDA
  • THHDA
  • RTHDA
  • XYHDA
  • 维启达

比我更聪明的人可以用这个算法来解决这个问题:

  • 'MM'、'LL' 和 'TH' 仅在元音之后或之前才有效?
  • 连续 3 个或更多的辅音是禁止的,(除非第一个或最后一个是“R”或“L”)
  • 您能想到的任何其他改进...

(我已经进行了大量的研究/谷歌搜索,这似乎是过去 3 年每个人都在参考/使用的主要发音功能,所以我相信更新的、更精致的版本会受到更广泛的社区,不仅仅是我!)。

4

3 回答 3

8

基于对“在字母上使用马尔可夫模型”的链接问题的建议

使用马尔可夫模型(当然是字母,而不是单词)。单词的概率是发音容易程度的一个很好的代表。

我想我会尝试一下并取得一些成功。

我的方法论

我将一个真正的 5 个字母单词列表复制到一个文件中作为我的数据集(这里...嗯,实际上是这里)。

然后我使用隐马尔可夫模型(基于 One-gram、Bi-gram 和 Tri-gram)来预测目标词在该数据集中出现的可能性。

(将某种音标作为步骤之一可以获得更好的结果。)

首先,我计算数据集中字符序列的概率。

例如,如果“A”出现 50 次,而数据集中只有 250 个字符,则“A”的概率为 50/250 或 0.2。

对二元组 'AB', 'AC', ... 做同样的事情

对三元组 'ABC'、'ABD'、... 执行相同操作

基本上,我对“ABCDE”这个词的评分由以下组成:

  • 概率('A')
  • 概率('B')
  • 概率('C')
  • 概率('D')
  • 探测' )
  • 概率('AB')
  • 概率('BC')
  • 概率('CD')
  • 概率('DE')
  • 概率('ABC')
  • 概率('BCD')
  • 概率('CDE')

您可以将所有这些相乘以获得目标单词出现在数据集中的估计概率(但这非常小)。

因此,我们取每个日志并将它们加在一起。

现在我们有了一个分数,可以估计我们的目标词出现在数据集中的可能性。

我的代码

我已经编码这是 C#,并且发现大于负 160 的分数非常好。

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.IO;

namespace Pronouncability
{

class Program
{
    public static char[] alphabet = new char[]{ 'A','B','C','D','E','F','G','H','I','J','K','L','M','N','O','P','Q','R','S','T','U','V','W','X','Y','Z' };

    public static List<string> wordList = loadWordList(); //Dataset of 5-letter words

    public static Random rand = new Random();

    public const double SCORE_LIMIT = -160.00;

    /// <summary>
    /// Generates random words, until 100 of them are better than
    /// the SCORE_LIMIT based on a statistical score. 
    /// </summary>
    public static void Main(string[] args)
    {
        Dictionary<Tuple<char, char, char>, int> trigramCounts = new Dictionary<Tuple<char, char, char>, int>();

        Dictionary<Tuple<char, char>, int> bigramCounts = new Dictionary<Tuple<char, char>, int>();

        Dictionary<char, int> onegramCounts = new Dictionary<char, int>();

        calculateProbabilities(onegramCounts, bigramCounts, trigramCounts);

        double totalTrigrams = (double)trigramCounts.Values.Sum();
        double totalBigrams = (double)bigramCounts.Values.Sum();
        double totalOnegrams = (double)onegramCounts.Values.Sum();

        SortedList<double, string> randomWordsScores = new SortedList<double, string>();

        while( randomWordsScores.Count < 100 )
        {
            string randStr = getRandomWord();

            if (!randomWordsScores.ContainsValue(randStr))
            {
                double score = getLikelyhood(randStr,trigramCounts, bigramCounts, onegramCounts, totalTrigrams, totalBigrams, totalOnegrams);

                if (score > SCORE_LIMIT)
                {
                    randomWordsScores.Add(score, randStr);
                }
            }
        }


        //Right now randomWordsScores contains 100 random words which have 
        //a better score than the SCORE_LIMIT, sorted from worst to best.
    }


    /// <summary>
    /// Generates a random 5-letter word
    /// </summary>
    public static string getRandomWord()
    {
        char c0 = (char)rand.Next(65, 90);
        char c1 = (char)rand.Next(65, 90);
        char c2 = (char)rand.Next(65, 90);
        char c3 = (char)rand.Next(65, 90);
        char c4 = (char)rand.Next(65, 90);

        return "" + c0 + c1 + c2 + c3 + c4;
    }

    /// <summary>
    /// Returns a score for how likely a given word is, based on given trigrams, bigrams, and one-grams
    /// </summary>
    public static double getLikelyhood(string wordToScore, Dictionary<Tuple<char, char,char>, int> trigramCounts, Dictionary<Tuple<char, char>, int> bigramCounts, Dictionary<char, int> onegramCounts, double totalTrigrams, double totalBigrams, double totalOnegrams)
    {
        wordToScore = wordToScore.ToUpper();

        char[] letters = wordToScore.ToCharArray();

        Tuple<char, char>[] bigrams = new Tuple<char, char>[]{ 

            new Tuple<char,char>( wordToScore[0], wordToScore[1] ),
            new Tuple<char,char>( wordToScore[1], wordToScore[2] ),
            new Tuple<char,char>( wordToScore[2], wordToScore[3] ),
            new Tuple<char,char>( wordToScore[3], wordToScore[4] )

        };

        Tuple<char, char, char>[] trigrams = new Tuple<char, char, char>[]{ 

            new Tuple<char,char,char>( wordToScore[0], wordToScore[1], wordToScore[2] ),
            new Tuple<char,char,char>( wordToScore[1], wordToScore[2], wordToScore[3] ),
            new Tuple<char,char,char>( wordToScore[2], wordToScore[3], wordToScore[4] ),


        };

        double score = 0;

        foreach (char c in letters)
        {
            score += Math.Log((((double)onegramCounts[c]) / totalOnegrams));
        }

        foreach (Tuple<char, char> pair in bigrams)
        {
            score += Math.Log((((double)bigramCounts[pair]) / totalBigrams));
        }

        foreach (Tuple<char, char, char> trio in trigrams)
        {
            score += 5.0*Math.Log((((double)trigramCounts[trio]) / totalTrigrams));
        }


        return score;
    }

    /// <summary>
    /// Build the probability tables based on the dataset (WordList)
    /// </summary>
    public static void calculateProbabilities(Dictionary<char, int> onegramCounts, Dictionary<Tuple<char, char>, int> bigramCounts, Dictionary<Tuple<char, char, char>, int> trigramCounts)
    {
        foreach (char c1 in alphabet)
        {
            foreach (char c2 in alphabet)
            {
                foreach( char c3 in alphabet)
                {
                    trigramCounts[new Tuple<char, char, char>(c1, c2, c3)] = 1;
                }
            }
        }

        foreach( char c1 in alphabet)
        {
            foreach( char c2 in alphabet)
            {
                bigramCounts[ new Tuple<char,char>(c1,c2) ] = 1;
            }
        }

        foreach (char c1 in alphabet)
        {
            onegramCounts[c1] = 1;
        }


        foreach (string word in wordList)
        {
            for (int pos = 0; pos < 3; pos++)
            {
                trigramCounts[new Tuple<char, char, char>(word[pos], word[pos + 1], word[pos + 2])]++;
            }

            for (int pos = 0; pos < 4; pos++)
            {
                bigramCounts[new Tuple<char, char>(word[pos], word[pos + 1])]++;
            }

            for (int pos = 0; pos < 5; pos++)
            {
                onegramCounts[word[pos]]++;
            }
        }
    }

    /// <summary>
    /// Get the dataset (WordList) from file.
    /// </summary>
    public static List<string> loadWordList()
    {
        string filePath = "WordList.txt";

        string text = File.ReadAllText(filePath);

        List<string> result = text.Split(' ').ToList();

        return result;
    }
}

}

在我的示例中,我将三元组概率缩放 5。

我还将所有计数加一,因此我们不会乘以零。

最后的笔记

我不是 php 程序员,但该技术很容易实现。

尝试一些缩放因子,尝试不同的数据集,或者添加一些其他检查,就像你上面建议的那样。

于 2012-08-09T07:04:14.247 回答
2

从一开始就生成一个合理发音的组合怎么样?我已经做了一些事情,我生成了一个随机的Soundex代码,然后从它返回到一个(通常)可发音的原始代码。

于 2012-08-09T12:18:04.987 回答
0

如果有人正在寻找使用节点执行此操作的方法,我发现了一个名为pronouncable的模块,它似乎实现了 Xantix 的答案所描述的内容。

npm i pronounceable

无需在 RunKit 上安装任何东西即可进行测试

于 2022-02-26T16:04:58.397 回答