0

我只是一个 lucene 入门者,在从 RAMDIrectory 更改为 FSDirectory 的过程中遇到了一个问题:

首先我的代码:

    private static IndexWriterConfig iwc = new IndexWriterConfig(Version.LUCENE_43,
            new StandardAnalyzer(Version.LUCENE_43));
    Directory DIR = FSDirectory.open(new File(INDEXLOC)); //INDEXLOC = "path/to/dir/"
    // RAMDirectory DIR = new RAMDirectory();

    // Index some made up content      
    IndexWriter writer =
            new IndexWriter(DIR, iwc);


    // Store both position and offset information
    FieldType type = new FieldType();
    type.setStored(true);
    type.setStoreTermVectors(true);
    type.setStoreTermVectorOffsets(true);
    type.setStoreTermVectorPositions(true);
    type.setIndexed(true);
    type.setTokenized(true);

    IDocumentParser p = DocumentParserFactory.getParser(f);
    ArrayList<ParserDocument> DOCS = p.getParsedDocuments();

    for (int i = 0; i < DOCS.size(); i++) {
        Document doc = new Document();
        Field id = new StringField("id", "doc_" + i, Field.Store.YES);
        doc.add(id);
        Field text = new Field("content", DOCS.get(i).getContent(), type);
        doc.add(text);
        writer.addDocument(doc);
    }
    writer.close();
    // Get a searcher
    IndexSearcher searcher = new IndexSearcher(DirectoryReader.open(DIR));
    // Do a search using SpanQuery
    SpanTermQuery fleeceQ = new SpanTermQuery(new Term("content", "zahl"));
    TopDocs results = searcher.search(fleeceQ, 10);
    for (int i = 0; i < results.scoreDocs.length; i++) {
        ScoreDoc scoreDoc = results.scoreDocs[i];
        System.out.println("Score Doc: " + scoreDoc);
    }
    IndexReader reader = searcher.getIndexReader();

    AtomicReader wrapper = SlowCompositeReaderWrapper.wrap(reader);
    Map<Term, TermContext> termContexts = new HashMap<Term, TermContext>();
    Spans spans = fleeceQ.getSpans(wrapper.getContext(), new Bits.MatchAllBits(reader.numDocs()), termContexts);
    int window = 2;// get the words within two of the match
    while (spans.next() == true) {
        Map<Integer, String> entries = new TreeMap<Integer, String>();
        System.out.println("Doc: " + spans.doc() + " Start: " + spans.start() + " End: " + spans.end());
        int start = spans.start() - window;
        int end = spans.end() + window;
        Terms content = reader.getTermVector(spans.doc(), "content");
        TermsEnum termsEnum = content.iterator(null);
        BytesRef term;
        while ((term = termsEnum.next()) != null) {
            // could store the BytesRef here, but String is easier for this
            // example
            String s = new String(term.bytes, term.offset, term.length);
            DocsAndPositionsEnum positionsEnum = termsEnum.docsAndPositions(null, null);
            if (positionsEnum.nextDoc() != DocIdSetIterator.NO_MORE_DOCS) {
                int i = 0;
                int position = -1;
                while (i < positionsEnum.freq() && (position = positionsEnum.nextPosition()) != -1) {
                    if (position >= start && position <= end) {
                        entries.put(position, s);
                    }
                    i++;
                }
            }
        }
        System.out.println("Entries:" + entries);
    }

这只是我在一个很棒的网站上找到的一些代码,我想尝试一下....使用 RAMDirectory 一切都很好。但是,如果我将其更改为我的 FSDirectory,它会给我一个 NullpointerException,例如:

在 com.org.test.TextDB.myMethod(TextDB.java:184) 在 com.org.test.Main.main(Main.java:31) 的线程“main”java.lang.NullPointerException 中的异常

语句条款内容 = reader.getTermVector(spans.doc(), "content"); 似乎没有结果并返回null。所以例外。但为什么?在我的 ramDIR 中一切正常。

似乎 indexWriter 或 Reader(真的不知道)没有从索引中正确写入或读取字段“内容”。但我真的不知道为什么它“写”在 RAMDirectory 中而不是写在 FSDIrectory 中?!

有人对此有想法吗?

4

1 回答 1

1

给这个测试一个快速的测试运行,我无法重现你的问题。

我认为这里最可能的问题是索引中的旧文档。这种写法,每次运行,都会有更多的文档被添加到你的索引中。以前运行的旧文档不会被删除或覆盖,它们只会留下来。所以,如果你之前在同一个目录上运行过这个,比如说,在你添加 line 之前,你的type.setStoreTermVectors(true);一些结果可能是这些带有术语向量的旧文档reader.getTermVector(...),如果文档不存储术语向量,则会返回 null。

当然,在 a 中索引的任何内容RAMDirectory都会在执行完成后立即删除,因此在这种情况下不会出现问题。

简单的解决方案是尝试删除索引目录并再次运行它。

如果您想在运行时从一个新索引开始,您可以通过以下方式进行设置IndexWriterConfig

private static IndexWriterConfig iwc = new IndexWriterConfig(Version.LUCENE_43,
        new StandardAnalyzer(Version.LUCENE_43));
iwc.setOpenMode(IndexWriterConfig.OpenMode.CREATE);

当然,这是一个猜测,但似乎与您描述的行为一致。

于 2014-10-27T21:17:08.147 回答