在我的网站http://www.mustseeindia.com/places-around-bangalore "" 是有效的 URL。
爬网时,MSN bot 会在其上附加一个字符串,从而导致爬网错误。
MSN 机器人附加的字符串- “&layout=button_count&show_faces=false&width=80;&action=like&font&colorscheme=light&height=25”
MSN 机器人生成的 URL 错误- http://www.mustseeindia.com/places-around-bangalore&layout=button_count&show_faces=false&width=80;&action=like&font&colorscheme=light&height=25
这会阻止我网站上的 1000 个页面被 MSN 抓取,我该如何处理?