1

我该怎么做?

我想做的是一次加载斯坦福 NLP,然后通过 HTTP 或其他端点与之交互。原因是加载需要很长时间,并且加载每个要分析的字符串是不可能的。

例如,这里是斯坦福 NLP 在一个简单的 C# 程序中加载,该程序加载了罐子......我正在寻找我在下面所做的事情,但是在 java 中:

    Reading POS tagger model from edu/stanford/nlp/models/pos-tagger/english-left3words/english-left3words-distsim.tagger ... done [9.3 sec]. 
    Loading classifier from D:\Repositories\StanfordNLPCoreNLP\stanford-corenlp-3.6.0-models\edu\stanford\nlp\models\ner\english.all.3class.distsim.crf.ser.gz ... done [12.8 sec]. 
    Loading classifier from D:\Repositories\StanfordNLPCoreNLP\stanford-corenlp-3.6.0-models\edu\stanford\nlp\models\ner\english.muc.7class.distsim.crf.ser.gz ... done [5.9 sec]. 
    Loading classifier from D:\Repositories\StanfordNLPCoreNLP\stanford-corenlp-3.6.0-models\edu\stanford\nlp\models\ner\english.conll.4class.distsim.crf.ser.gz ...  done [4.1 sec]. 
done [8.8 sec]. 

Sentence #1 ...

这超过 30 秒。如果这些都必须每次加载,哎呀。为了展示我想在 java 中做什么,我用 C# 编写了一个工作示例,这个完整的示例有一天可能会对某人有所帮助:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;

using System.IO;
using java.io;
using java.util;
using edu.stanford.nlp;
using edu.stanford.nlp.pipeline;
using Console = System.Console;

namespace NLPConsoleApplication
{
    class Program
    {
        static void Main(string[] args)
        {
            // Path to the folder with models extracted from `stanford-corenlp-3.6.0-models.jar`
            var jarRoot = @"..\..\..\..\StanfordNLPCoreNLP\stanford-corenlp-3.6.0-models";
            // Text for intial run processing
            var text = "Kosgi Santosh sent an email to Stanford University. He didn't get a reply.";
            // Annotation pipeline configuration
            var props = new Properties();
            props.setProperty("annotators", "tokenize, ssplit, pos, lemma, ner, parse, sentiment"); 
            props.setProperty("ner.useSUTime", "0");
            // We should change current directory, so StanfordCoreNLP could find all the model files automatically
            var curDir = Environment.CurrentDirectory;
            Directory.SetCurrentDirectory(jarRoot);
            var pipeline = new StanfordCoreNLP(props);
            Directory.SetCurrentDirectory(curDir);
            // loop
            while (text != "quit")
            {
                // Annotation
                var annotation = new Annotation(text);
                pipeline.annotate(annotation);
                // Result - Pretty Print
                using (var stream = new ByteArrayOutputStream())
                {
                    pipeline.prettyPrint(annotation, new PrintWriter(stream));
                    Console.WriteLine(stream.toString());
                    stream.close();
                }
                edu.stanford.nlp.trees.TreePrint tprint = new edu.stanford.nlp.trees.TreePrint("words");
                Console.WriteLine();
                Console.WriteLine("Enter a sentence to evaluate, and hit ENTER (enter \"quit\" to quit)");
                text = Console.ReadLine();
            } // end while
        }
    }
}

所以加载需要 30 秒,但是每次你在控制台上给它一个字符串时,解析和标记该字符串需要一秒钟的最小时间。

您可以看到我在 while 循环之前加载了 jar 文件。

这最终可能是一个套接字服务、HTML 或其他可以处理请求(以字符串的形式)并返回解析的东西。

我的最终目标是在 Nifi 中使用一种机制,通过一个可以发送要解析的字符串的处理器,并让它们在不到一秒的时间内返回,而如果使用传统的 Web 服务器线程示例(例如),则需要 30 多秒。每个请求都会加载整个内容 30 秒,然后开始工作。我希望我说清楚了!

这该怎么做?

4

2 回答 2

1

您列出的任何机制都是通过 Apache NiFi 利用该服务的完全合理的前进路线。根据您的需要,与 NiFi 标准版本捆绑在一起的一些处理器和扩展可能足以与您提议的 Web 服务或类似产品进行交互。

如果您正在努力在 NiFi 本身内执行所有这些,则自定义控制器服务可能是向 NiFi 提供此资源的绝佳途径,该资源属于应用程序本身的生命周期。

NiFi 可以通过控制器服务和自定义处理器等项目进行扩展,我们有一些文档可以帮助您开始这条道路。

额外的细节肯定有助于提供更多信息。请随时在此处跟进其他评论和/或通过我们的邮件列表与社区联系。

如果不清楚 NiFi 是 JVM 驱动的并且工作将使用 Java 或 JVM 友好的语言完成,我确实想提出一项。

于 2016-05-23T18:41:51.163 回答
1

你应该看看斯坦福 NLP 在 3.6.0 版本中引入的新 CoreNLP 服务器。似乎它只是你想要的?ETS等其他一些人也做过类似的事情。

要点:如果大量使用它,您可能(目前)想要从github HEAD获取最新的 CoreNLP 代码,因为它包含对服务器的一些修复,这些修复将在下一个版本中发布。

于 2016-05-23T21:16:50.523 回答