我从网站中提取 HTML,通过发送标头使网站认为我只是浏览网站的用户,如下所示:
def page(goo):
import fileinput
import sys, heapq, array, urllib
import BeautifulSoup
from BeautifulSoup import BeautifulSoup
import re
from urllib import FancyURLopener
class MyOpener(FancyURLopener):
version = 'Mozilla/5.0 (Windows; U; Windows NT 5.1; it; rv:1.8.1.11) Gecko/20071127 Firefox/2.0.0.11'
myopener = MyOpener()
filehandle = myopener.open(goo)
return filehandle.read()
page=page(WebSite)
这适用于大多数网站,甚至是 Google 和 Wikipedia,但不适用于Tmart.com。不知怎的,Tmart 可以看到它不是网络浏览器,并返回错误。我怎样才能解决这个问题?