当搜索引擎访问一个网页时,它的get_browser()
作用和$_SERVER['HTTP_USER_AGENT']
返回是什么?
此外,当搜索引擎抓取网页时,PHP 提供的其他可能证据是什么?
当搜索引擎访问一个网页时,它的get_browser()
作用和$_SERVER['HTTP_USER_AGENT']
返回是什么?
此外,当搜索引擎抓取网页时,PHP 提供的其他可能证据是什么?
get_browser()函数尝试确定浏览器的功能(以数组形式) non standard user-agents
,但由于 相反,对于一个严肃的应用程序,构建你自己的。
这$_SERVER["HTTP_USER_AGENT"]
是一个“描述”用户浏览器的长字符串,可以用作上述函数中的第一个参数(可选);提示:使用这个来发现用户的浏览器而不是 get_browser() 本身!还要为丢失的用户代理做好准备!这个字符串的一个例子是:
Mozilla/5.0 (Macintosh; U; PPC Mac OS X; en) AppleWebKit/418 (KHTML, like Gecko) Safari/417.9.3
遵循规则的搜索引擎或机器人或蜘蛛或爬虫将根据存储在您网站根目录中的robots.txt的信息访问您的页面。如果没有 robots.txt,蜘蛛可以抓取整个网站,只要它在您的网页中找到链接;如果你有这个文件,你可以编写它来告诉蜘蛛要搜索什么;注意:此规则仅适用于“好”蜘蛛,而不适用于坏蜘蛛
get_browser()
&$_SERVER['HTTP_USER_AGENT']
将返回给你Useragents
,它应该是这样的:
谷歌 :
兵:
雅虎:
-> 要完全控制(和限制)抓取,请不要使用robots.txt,请使用.htaccess或http.conf规则。(好的爬虫在 robots.txt 中有一半时间不会对您的禁止规则发表意见)