编制目的
本文件作为软件测试过程中各阶段的通过标准,旨在合理有效的对软件阶段质量进行控制,同时为软件测试的深度选择和资源投入的决策提供参考。
主要内容与适用范围
主要内容
本标准规定了软件测试中缺陷、错误、故障等问题的分级方案及分级说明;各阶段测试通过需遵循的标准;以及把常见问题按分类编写了分级说明。
适用范围
本标准适用于全部模块的白盒测试(含模块测试和联调测试)、系统测试等测试阶段,以及阶段内里程碑的控制。上述阶段的测试属于黑盒测试。
特别需要申明的是:软件一旦进入开发阶段,测试就同步开始了,对于开发过程中的程序员自测,本标准不能适用。
【注①:黑盒测试也称功能测试或数据驱动测试,它是在已知产品所应具有的功能,通过测试来检测每个功能是否都能正常使用,在测试时,把程序看作一个不能打开的黑盆子,在完全不考虑程序内部结构和内部特性的情况下,测试者在程序接口进行测试,它只检查程序功能是否按照需求规格说明书的规定正常使用,程序是否能适当地接收输入数锯而产生正确的输出信息,并且保持外部信息(如数据库或文件)的完整性。】
【注②:白盒测试也称结构测试或逻辑驱动测试,它是知道产品内部工作过程,可通过测试来检测产品内部动作是否按照规格说明书的规定正常进行,按照程序内部的结构测试程序,检验程序中的每条通路是否都有能按预定要求正确工作,而不顾它的功能,白盒测试的主要方法有逻辑驱动、基路测试等,主要用于软件验证。
问题分级规则
分级方法及简要说明
本标准将测试过程中产生的问题按严重程度分成四级,①严重问题:在流程、数据或安全方面存在重大问题,导致软件不具可用性,或核心功能项无法使用;②一般问题:由于设计的缺陷,导致软件使用中存在较明显的障碍,或者局部功能错误,但可以采取其他变通的操作实现;③轻度问题:由于编码不够完善,使某个小功能无法使用,或者对特殊的操作与要求不能支持;④细微问题:存在某些细微的缺陷,但不影响程序正常应用或该功能在下次升级版本中可以实现。
特别说明
在BUGGIT中Bug严重性级别和本文档分级方法的对应关系
A:冲突—系统冲突或其他不可重现的错误
|
①严重问题
|
B:主要—功能不能用 |
C:次要—不正确的功能
|
②一般问题 |
D:不大重要—文件拼写错误
|
③轻度问题 |
E:查看—不能再现错误 |
F:将来可以加入的功能
|
④细微问题 |
☆在填写BUG严重级别时,请参照该文档中描述的情况对应填写。 |
从软件规范化角度说明
①严重问题:严重不合理,核心功能完全违反软件规范或业务规范,可能导致用户强烈的反感。
②一般问题:一般不合理,即使用户经过较长时间的熟练依然有错误操作的可能,或者使用者始终无法较流畅的操作,可能会导致用户的抱怨。
③轻度问题:轻度不合理,存在歧义,需要反复和用户说明,即使如此,也有可能在使用中感到不便;界面设计存在缺陷、凌乱或不友好。
④细微问题:虽有不尽人意之处,但不影响用户操作;或用户使用频率较低,并且不会造成错误;局部界面不够美观。
从软件功能实现角度说明
①严重问题:由于需求、设计错误导致流程和流程控制存在重大错误,与现有政策法规或实务惯例的规定(约定)有明显冲突;由于设计错误严重削弱软件处理事务的能力;由于编码错误导致骨干流程不可用。
②一般问题:局部功能无法正常使用,但不影响软件整体流程的实现;无法满足可以预料到的特殊应用;软件功能的实现过程中弹出未控制的系统错误提示,导致流程中断。
③轻度问题:功能虽然能够正常使用,但由于实现过程中缺乏容错性,不能对设计边界以外(甚至边界本身)的数据或操作做出正确的响应,导致程序整体不稳定;运行过程中弹出未控制的系统提示,但不影响流程继续。
④细微问题:处理过程中出现的对实现功能没有影响的缺陷;经过说明,用户可以较容易理解并且不影响用户使用的;实质上与软件实现需求无关的。
从软件数据准确性角度说明
数据准确性实质上衡量一个管理软件功能实现方面最重要的尺度,考虑到数据问题极可能导致软件质量危机,在此标准中单独说明。
①严重问题:由于设计及编码错误导致的各种报表数据统计结果错误;由于设计疏漏导致流程中数据控制失败;数据计算过程中的四舍五入错误;通过接口转移出现数据错误;各种系统操作(如月结年结、备份恢复等)导致的数据错误,以及其他本文中未列出的数据出错。
②一般错误:由于表格边界设置不当导致数据位数显示错误;报表与报表之间同种指标数据不一致而没有说明或说明不清楚;报表经过重新排序刷新后出现数据不一致现象;特殊数据未参与统计而没有说明或说明不清楚;各种辅助项目属性修改导致统计出错。
③涉及数据错误的问题不存在轻度或细微状态。
从软件安全性和严密性角度说明
①严重问题:在不依赖后台数据库和解密程序的情况下能够非法登录系统;权限体系存在重大缺陷足够导致安全隐患;对一些可能对信息安全或数据完整造成威胁的操作缺少强制备份、强制更换操作员、强制重新启动程序等控制。
②一般错误:权限设置存在逻辑上的错误;显而易见的权限控制失败;备份数据未经处理可直接打开。
③轻度问题:存在隐含的安全漏洞,可以利用快捷方式、成批处理,以及权限的组合应用中的安全漏洞进行未经授权的操作。
④细微问题:默认状态权限设置不合理;没有遵循逐级授权的原则。
通过标准
针对目前公司现状,提出几个分阶段的,具备一定里程碑概念的测试通过标准,贯穿于整个软件(系统)测试过程,以下所有的标准细则是一个递进的约束,每一阶段的测试必须通过才能进入下一阶段。
单元/集成测试通过标准
4.1.1 标准适用范围
基于各层基类和存储过程的独立/联调测试。
4.1.2标准内容
具备以下所有条目,可以通过单元/集成测试:
⑴:各基类和存储过程的正常值测试全部通过;
⑵:联调测试各接口没有问题;
⑶:各基类和存储过程的异常值测试通过率达85%以上;
系统测试通过标准
4.2.1 标准适用范围
所有的系统测试。
4.2.2 标准内容
具备以下所有条目,系统测试才可以通过: