我正在使用自定义分析器索引和搜索代码。给定文本“将 wi-fi 工作”,生成以下标记(“将”是停用词,被消除)。
wi-fi {position:2 start:5 end:10}
wifi {position:2 start:5 end:10}
wi {position:2 start:5 end:7}
fi {position:2 start:8 end:10}
work {position:3 start:11 end:15}
当我搜索术语 wi-fi 时,我会得到搜索结果。但是,当我针对 wifi、wi、fi 发出任何查询(短语/非短语)时,我没有得到任何结果。生成的令牌有什么问题吗?
解析的搜索查询:
对于 wi-fi (工作正常)
Lucene's: +matchAllDocs:true +(alltext:wi-fi alltext:wifi alltext:wi alltext:fi)
对于 wifi (没有返回结果)
Lucene's: +matchAllDocs:true +alltext:wifi
对于“wi-fi 工作” (工作正常)
Lucene's: +matchAllDocs:true +alltext:"(wi-fi wifi wi fi) work"
对于“wifi 会工作” (没有返回结果)
Lucene's: +matchAllDocs:true +alltext:"? wifi work"
更新
发现问题:
public boolean incrementToken() throws IOException
{
/*
* first return all tokens in the list
*/
if (tokens.size() > 0)
{
Token top = tokens.removeFirst();
restoreState(current);
**termAtt.setEmpty().append(new String(top.buffer(), 0, top.length()));**
offsetAtt.setOffset(top.startOffset(), top.endOffset());
posIncrAtt.setPositionIncrement(0);
return true;
}
/*
* if there are no more incoming tokens return false
*/
if (!input.incrementToken())
return false;
Token wrapper = new Token();
wrapper.copyBuffer(termAtt.buffer(), 0, termAtt.length());
wrapper.setStartOffset(offsetAtt.startOffset());
wrapper.setEndOffset(offsetAtt.endOffset());
wrapper.setPositionIncrement(posIncrAtt.getPositionIncrement());
normalizeHyphens(wrapper);
current = captureState();
return true;
}
在上面的粗体线中,我说
termAtt.setEmpty().append(new String(top.buffer()));
当我搜索wi时,我没有得到任何结果,但wi*用于给出结果。看起来这个 top.buffer() 包含一些导致奇怪行为的额外垃圾。
在这上面浪费了一天:(