我需要测试一个需要使用 urllib.urlopen 查询外部服务器上的页面的函数(它也使用 urllib.urlencode)。服务器可能已关闭,页面可能会更改;我不能依靠它进行测试。
控制 urllib.urlopen 返回的最佳方法是什么?
我需要测试一个需要使用 urllib.urlopen 查询外部服务器上的页面的函数(它也使用 urllib.urlencode)。服务器可能已关闭,页面可能会更改;我不能依靠它进行测试。
控制 urllib.urlopen 返回的最佳方法是什么?
另一种简单的方法是让您的测试覆盖 urllib 的urlopen()
函数。例如,如果您的模块有
import urllib
def some_function_that_uses_urllib():
...
urllib.urlopen()
...
你可以这样定义你的测试:
import mymodule
def dummy_urlopen(url):
...
mymodule.urllib.urlopen = dummy_urlopen
然后,当您的测试调用 , 中的函数时mymodule
,dummy_urlopen()
将调用而不是真正的urlopen()
. 像 Python 这样的动态语言使得为测试提取方法和类变得非常容易。
请参阅我在http://softwarecorner.wordpress.com/上的博客文章,了解有关为测试排除依赖关系的更多信息。
我正在使用Mock 的补丁装饰器:
from mock import patch
[...]
@patch('urllib.urlopen')
def test_foo(self, urlopen_mock):
urlopen_mock.return_value = MyUrlOpenMock()
你给莫克斯看了吗?它应该做你需要的一切。这是一个简单的交互式会话,说明了您需要的解决方案:
>>> import urllib
>>> # check that it works
>>> urllib.urlopen('http://www.google.com/')
<addinfourl at 3082723820L ...>
>>> # check what happens when it doesn't
>>> urllib.urlopen('http://hopefully.doesnotexist.com/')
#-- snip --
IOError: [Errno socket error] (-2, 'Name or service not known')
>>> # OK, let's mock it up
>>> import mox
>>> m = mox.Mox()
>>> m.StubOutWithMock(urllib, 'urlopen')
>>> # We can be verbose if we want to :)
>>> urllib.urlopen(mox.IgnoreArg()).AndRaise(
... IOError('socket error', (-2, 'Name or service not known')))
>>> # Let's check if it works
>>> m.ReplayAll()
>>> urllib.urlopen('http://www.google.com/')
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/usr/lib/python2.5/site-packages/mox.py", line 568, in __call__
raise expected_method._exception
IOError: [Errno socket error] (-2, 'Name or service not known')
>>> # yay! now unset everything
>>> m.UnsetStubs()
>>> m.VerifyAll()
>>> # and check that it still works
>>> urllib.urlopen('http://www.google.com/')
<addinfourl at 3076773548L ...>
HTTPretty的工作方式与 FakeWeb 完全相同。HTTPretty 在套接字层工作,因此它应该可以拦截任何 python http 客户端库。它针对 urllib2、httplib2 和请求进行了实战测试
import urllib2
from httpretty import HTTPretty, httprettified
@httprettified
def test_one():
HTTPretty.register_uri(HTTPretty.GET, "http://yipit.com/",
body="Find the best daily deals")
fd = urllib2.urlopen('http://yipit.com')
got = fd.read()
fd.close()
assert got == "Find the best daily deals"
如果您甚至不想加载模块:
import sys,types
class MockCallable():
""" Mocks a function, can be enquired on how many calls it received """
def __init__(self, result):
self.result = result
self._calls = []
def __call__(self, *arguments):
"""Mock callable"""
self._calls.append(arguments)
return self.result
def called(self):
"""docstring for called"""
return self._calls
class StubModule(types.ModuleType, object):
""" Uses a stub instead of loading libraries """
def __init__(self, moduleName):
self.__name__ = moduleName
sys.modules[moduleName] = self
def __repr__(self):
name = self.__name__
mocks = ', '.join(set(dir(self)) - set(['__name__']))
return "<StubModule: %(name)s; mocks: %(mocks)s>" % locals()
class StubObject(object):
pass
进而:
>>> urllib = StubModule("urllib")
>>> import urllib # won't actually load urllib
>>> urls.urlopen = MockCallable(StubObject())
>>> example = urllib.urlopen('http://example.com')
>>> example.read = MockCallable('foo')
>>> print(example.read())
'foo'
处理此问题的最佳方法可能是拆分代码,以便处理页面内容的逻辑与获取页面的代码分开。
然后将 fetcher 代码的实例传递给处理逻辑,然后您可以轻松地将其替换为模拟 fetcher 以进行单元测试。
例如
class Processor(oject):
def __init__(self, fetcher):
self.m_fetcher = fetcher
def doProcessing(self):
## use self.m_fetcher to get page contents
class RealFetcher(object):
def fetchPage(self, url):
## get real contents
class FakeFetcher(object):
def fetchPage(self, url):
## Return whatever fake contents are required for this test
最简单的方法是更改您的函数,使其不必使用 urllib.urlopen。假设这是您的原始功能:
def my_grabber(arg1, arg2, arg3):
# .. do some stuff ..
url = make_url_somehow()
data = urllib.urlopen(url)
# .. do something with data ..
return answer
添加一个参数,该参数是用于打开 URL 的函数。然后你可以提供一个模拟函数来做你需要的任何事情:
def my_grabber(arg1, arg2, arg3, urlopen=urllib.urlopen):
# .. do some stuff ..
url = make_url_somehow()
data = urlopen(url)
# .. do something with data ..
return answer
def test_my_grabber():
my_grabber(arg1, arg2, arg3, urlopen=my_mock_open)
添加到克林特米勒的答案,要做到这一点,我必须创建一个实现读取方法的假类,如下所示:
class FakeURL:
def read(foo):
return '{"some":"json_text"}'
然后存根 urllib2.open:
# Stub out urllib2.open.
def dummy_urlopen(foo, bar, baz):
return FakeURL()
urllib2.urlopen = dummy_urlopen