5

如何使用 cURL 向网站发出请求并让网站相信我是搜索引擎。

4

1 回答 1

9

您可以将您的用户代理设置为 Googlebot(有关Google 知识库中使用的确切用户代理的更多信息):

curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)');

这可能并不总是有效!一些网站可能会选择反向 DNS 检查任何声称是 Googlebot 的人。

于 2013-05-17T13:14:35.663 回答