qileilove

blog已经转移至github,大家请访问 http://qaseven.github.io/

从一个真实项目入手分析测试有效性

  去年底做了一个Android应用的项目,代码总计2万多行,测试周期4个月,项目虽小,但涉及到手机终端适配、网络环境兼容等多个方面。项目阶段一结束后,我们简单总结了一下测试方法有效性的问题。发出来与大家共享。

  这个Android应用的主要功能很简单,附加功能较多,基本都属于锦上添花类。测试的实际情况如下:

  1、资源投入:持续时长4个月,人力6人+,测试机型30款+

  2、测试执行:23轮功能测试,7轮系统测试,8轮健全测试,3轮机型兼容测试,3轮性能测试,1轮MTBF测试,1轮PD/UI验证测试。

  但是这其中有很多不足之处,较明显的如下:

  1、前期功能测试和健全测试一天一轮,频度太快且测试费时,效果不好。

  2、初期的测试用例设计全面,但未精确定义编写粒度,描述过程过细,后期因需求变更导致维护成本较高。

  3、因项目流程和过程控制影响,无法明确划分测试阶段,且初期没有找到最佳敏捷测试方法,测试流程冗余僵化,导致大量重复性的工作,灵活性偏低。

  在测试进程中我们已发现测试策略的问题,并及时调整,在阶段二开始使用新策略——使用两阶段测试模型:

  1、阶段一<自由测试>:按照探索性测试(Exploratory Testing)模式,布置有针对性有重点的自由测试,以“把软件使用坏掉”为目的,尽可能多发现bug。

  2、阶段二<覆盖测试>:执行各项测试用例,以“全面测试”为目的

  具体的时间安排如下:

  1、先期产品开发阶段,即Alpha release之前,做功能测试、健全测试、缺陷验证+自由测试。

  2、项目中期,Alpha ~ Beta之间,执行全面的系统测试、兼容性测试、性能测试,并开展自动化脚本开发、环境搭建等工作。

  3、Beta release之后,在产品发布前的2~3周,就开始确定稳定版本Release Candidate,在此版本基础上做最后一轮全面测试、重点子模块的健全测试、缺陷主导的ET等,完成最终报告并交由项目组领导、QA审核发布。

  本次测试有效性总结我们引入了两个质量来衡量:软件质量指标和测试过程质量指标。

  软件质量指标包括:

  (一)需求功能点覆盖率:

  计算测试用例总数之和除以与之一一对应的功能点数之和,主要查看是否有功能点遗漏测试的情况。用例覆盖需求矩阵,一个需求对应多个功能点。

  需求覆盖率=∑测试用例数(个)/∑功能点(个)=1055/147=7.18

 

  (二)用例执行覆盖率:

  计算测试用例执行总数除以与之一一对应的测试数之和,主要查看是否有测试用例执行遗漏或有效的情况。

  用例执行覆盖率=∑执行的测试用例个数(个)/∑测试用例个数(个)*100%

  功能测试276条,系统测试779条,用例执行覆盖率达到99%。


  测试过程质量指标包括:

  (一)缺陷探测率:

  计算内部发现的缺陷数除以内部发现的缺陷数与用户发现的缺陷数之和,主要查看内部发现缺陷的能力。说明:缺陷探测率越高,即内部发现的bug数越多,发布后客户发现的bug数就越少,质量成本就越低。

  缺陷探测率=内部发现的缺陷数(个)/(内部发现的缺陷数(个)+用户发现的缺陷数(个))*100%

  缺陷数=636(有效),用户发现缺陷数=1(当前)

  缺陷探测率=636/637=99.84%

  (二)有效缺陷率:

  计算被开发人员确认的BUG数总和除于本人上报BUG的总和,可用于查看测试人员的个人测试质量,也可用于查看整个测试组的测试质量。

  无效BUG状态包括:问题重复、不是问题、不可复现状态。这项指标用于考察测试人员发现的、被确认为缺陷的缺陷数高低或者百分比,数和比率越高测试质量越高。

  注意:由于系统框架根本性的、初始化参数设置错误引发的、错误数据、错误环境等而开发人员因无法修正、可以通过改变环境而无需修改程序、重新导入数据、再次发布而解决的BUG为有效BUG

  有效缺陷率=测试人员发现的有效缺陷数(个)/测试人员发现的总缺陷数(个)*100%=636/689=92.31%

  (三)用例执行效率:

  计算测试人员执行的用例数除以执行测试的时间,主要查看测试人员执行测试的效率

  说明:此指标的统计需要有一定的前提条件:用例的执行步骤相对来说分布较均匀,执行时间在一个较长的时间段内

  用例执行效率=∑测试人员执行的用例数(个)/∑执行用例的时间(小时)

  (四)缺陷发现率:

  计算测试人员各自发现的缺陷数总和除于各自所花费的测试时间总和。

  缺陷发现率=∑提交缺陷数(个)/∑执行测试的有效时间(小时)

  以第18轮功能测试为例:

  用例执行效率=10.17

  缺陷发现率=36.67%

  (五)缺陷覆盖率:

  计算缺陷与测试用例的比率,用来衡量测试用例覆盖缺陷的能力。

  缺陷覆盖率=∑缺陷个数/∑测试用例条数

 

版权声明:本文出自 cmriqa 的51Testing软件测试博客:http://www.51testing.com/?489136

原创作品,转载时请务必以超链接形式标明本文原始出处、作者信息和本声明,否则将追究法律责任。

posted on 2012-10-26 13:48 顺其自然EVO 阅读(293) 评论(0)  编辑  收藏 所属分类: 测试学习专栏


只有注册用户登录后才能发表评论。


网站导航:
 
<2012年10月>
30123456
78910111213
14151617181920
21222324252627
28293031123
45678910

导航

统计

常用链接

留言簿(54)

随笔分类

随笔档案

文章分类

文章档案

搜索

最新评论

阅读排行榜

评论排行榜