3

从网站（wiki 文章）中提取关键字时遇到问题，提取的关键字并不完全是关键字，是从 html 中提取的词，而不是从网站中提取的词。

我使用以下代码：

include("Extkeys.php");
[...]
if (empty($keywords)){
$ekeywords = new KeyPer;
$keywords = $ekeywords->Keys($webhtml);
}

“Extkeys”的代码是：

<?php
class Extkeys {
function Keys($webhtml) { 
$webhtml = $this->clean($webhtml); 
$blacklist='de,la,los,las,el,ella,nosotros,yo,tu,el,te,mi,del,ellos'; 
$sticklist='test'; 
$minlength = 3; 
$count = 17; 

$webhtml = preg_replace('/[\.;:|\'|\"|\`|\,|\(|\)|\-]/', ' ', $webhtml); 
$webhtml = preg_replace('/¡/', '', $webhtml); 
$webhtml = preg_replace('/¿/', '', $webhtml);

$keysArray = explode(" ", $webhtml); 
$keysArray = array_count_values(array_map('strtolower', $keysArray)); 
$blackArray = explode(",", $blacklist); 

foreach($blackArray as $blackWord){ 
if(isset($keysArray[trim($blackWord)])) 
unset($keysArray[trim($blackWord)]); 
} 
arsort($keysArray); 
$i = 1; 
$keywords = ""; 
foreach($keysArray as $word => $instances){ 
if($i > $count) break; 
if(strlen(trim($word)) >= $minlength && is_string($word)) { 
$keywords .= $word . ", "; 
$i++; 
} 
} 

$keywords = rtrim($keywords, ", "); 

return $keywords=$sticklist.''.$keywords; 
} 

function clean($webhtml) { 

$regex = '/(([_A-Za-z0-9-]+)(\\.[_A-Za-z0-9-]+)*@([A-Za-z0-9-]+)(\\.[A-Za-z0-9-]+)*)/iex'; 
$desc = preg_replace($regex, '', $webhtml); 
$webhtml = preg_replace( "''si", '', $webhtml ); 
$webhtml = preg_replace( '/]*>([^<]+)<\/a>/is', '\2 (\1)', $webhtml ); 
$webhtml = preg_replace( '//', '', $webhtml ); 
$webhtml = preg_replace( '/{.+?}/', '', $webhtml ); 
$webhtml = preg_replace( '/ /', ' ', $webhtml ); 
$webhtml = preg_replace( '/&/', ' ', $webhtml ); 
$webhtml = preg_replace( '/"/', ' ', $webhtml ); 
$webhtml = strip_tags( $webhtml ); 
$webhtml = htmlspecialchars($webhtml); 
$webhtml = str_replace(array("\r\n", "\r", "\n", "\t"), " ", $webhtml); 

while (strchr($webhtml," ")) { 
$webhtml = str_replace(" ", "",$webhtml); 
} 

for ($cnt = 1; 
$cnt < strlen($webhtml)-1; $cnt++) {
if (($webhtml{$cnt} == '.') || ($webhtml{$cnt} == ',')) { 
if ($webhtml{$cnt+1} != ' ') { 
$webhtml = substr_replace($webhtml, ' ', $cnt + 1, 0); 
} 
} 
} 
return $webhtml; 
} 
}
?>

这是提取的关键字的示例：

testfalse, lang, {mw, loader, window, function, true, vector, user, gadget, mediawiki, legacy, options, usebetatoolbar, implementation, resourceloader, default

文章来源： http ://en.wikipedia.org/wiki/Searchengine

代码“Extkeys”，它是教程中代码的副本，适合我使其发挥作用。

我如何使代码可以提取网站的关键字，而不是 html？

此致！

4

2 回答 2

1

假设我理解您的问题，我认为只需执行以下操作就是您正在寻找的解决方案。

This will read the HTML from a URL (e.g. http://www.whatever.com/page.html) and use that to generate the keys, rather than requiring the HTML as a parameter.

function Keys($url) { 
    $webhtml = file_get_contents($url);
于 2012-12-01T19:54:51.557 回答
1

您想先从页面中提取内容，然后搜索关键字。这意味着您想从页面中找到实际内容并将内容剥离为侧边栏、页脚等。只需 google 以提取 HTML 内容，有很多关于此的文章。

我在java中做过一次，有一个名为boilerpipe的库我不确定是否有PHP端口/接口，快速谷歌搜索没有显示任何内容。但我确信 PHP 也有类似的库。

摆脱 HTML 而不是专门搜索页面内容的最简单方法是使用正则表达式去除所有 html，例如s/<[^>]+>//g. 然而，对于搜索引擎来说，这可能不是最好的方法，因为您最终会遇到很多可能会弄乱您的密钥提取的废话。

编辑：这是一篇关于使用 PHP 进行内容提取的文章。

于 2012-12-01T19:59:31.173 回答