我一直在为花费太多时间处理单元测试回归问题的软件开发团队寻找某种解决方案(在我的案例中大约有 30% 的时间!!!),即处理一天失败的单元测试以天为单位。
以下是我熟悉的一个解决方案,它分析了哪些最新的代码更改导致某个单元测试失败:
我想知道是否有人知道类似的工具,以便我可以对它们进行基准测试。同样,如果有人可以推荐另一种方法来处理这个烦人的问题。
感谢高级
我一直在为花费太多时间处理单元测试回归问题的软件开发团队寻找某种解决方案(在我的案例中大约有 30% 的时间!!!),即处理一天失败的单元测试以天为单位。
以下是我熟悉的一个解决方案,它分析了哪些最新的代码更改导致某个单元测试失败:
我想知道是否有人知道类似的工具,以便我可以对它们进行基准测试。同样,如果有人可以推荐另一种方法来处理这个烦人的问题。
感谢高级
你有我们的同情。听起来你有脆性试验综合症。理想情况下,对单元测试的一次更改应该只会破坏一个测试——这应该是一个真正的问题。就像我说的,“理想”。但这类行为常见且可治疗。
我建议花一些时间与团队一起做一些根本原因分析,以分析为什么所有这些测试都失败了。是的,有一些花哨的工具可以跟踪哪些测试最常失败,哪些测试一起失败。一些持续集成服务器已内置此功能。这很棒。但我怀疑如果你只是问对方,你会知道的。我一直在这样做,团队总是从他们的经验中知道。
任何人,我见过的其他一些导致这种情况的事情:
- 关于运行最可能失败的测试的子集 - 因为它通常由于其他团队成员(至少在我的情况下)而失败,我需要让其他人运行我的测试 - 这在某些开发中可能是“政治问题”环境;)。任何其他建议都会被采纳。非常感谢 – SpeeDev 2010 年 9 月 30 日 23:18
如果您必须“请其他人”运行您的测试,那么这表明您的测试基础架构存在严重问题。所有测试(无论是谁编写的)都应该自动运行。修复失败测试的责任应该在于提交更改的人而不是测试作者。
经常测试,经常提交。
如果您还没有这样做,我建议使用持续集成工具,并要求/要求开发人员在提交之前运行自动化测试。至少是测试的一个子集。如果运行所有测试花费的时间太长,那么使用 CI 工具为每个提交生成一个构建(包括运行所有自动化测试),这样您就可以轻松查看哪个提交破坏了构建。
如果自动化测试太脆弱,也许他们不测试功能,但实现细节?有时测试实现细节是个好主意,但它可能会出现问题。