功能性测试
- 评审需求,多方面考虑,整理出内在外在以及非功能性的直接间接功能点,对比需求,提取测试点
- 根据常用的一些分析方法,等价类边界值判定表因果图场景法等方法,设计测试用例,对提取的功能点进行覆盖
- 测试各个阶段不断跟踪缺陷,做好用例的更新迭代和不断变更需求所带来的业务或者需求的错误
运行
- App安装完成后的试运行,可正常打开软件
- App打开测试,是否有加载状态进度提示
- App打开速度测试,速度是否可观
- App页面间的切换是否流畅,逻辑是否正确
- 注册: 用户名密码长度、注册后的提示页面、前台注册页面和后台的管理页面数据是否一致、注册后,在后台管理中页面提示
- 登录: 使用合法的用户登录系统、系统是否允许多次非法的登陆,是否有次数限制、使用已经登陆的账号登陆系统是否正确处理、使用禁用的账号登陆系统是否正确处理、用户名、口令(密码)错误或漏填时能否登陆、删除或修改后的用户,原用户登陆、不输入用户口令和用户、重复点(确定或取消按钮)是否允许登陆、登陆后,页面中登陆信息、页面中有注销按钮、登陆超时的处理
- 注销: 注销原模块,新的模块系统能否正确处理、终止注销能否返回原模块,原用户、注销原用户,新用户系统能否正确处理、使用错误的账号、口令、无权限的被禁用的账号进行注销
应用前后台切换
- APP切换到后台,再回到 app,检查是否停留在上一次操作界面
- APP切换到后台,再回到 app,检查功能及应用状态是否正常
- app切换到后台,再回到前台时,注意程序是否崩溃,功能状态是否正常,尤其是对于从后台切换回前台数据有自动更新的时候
- 手机锁屏解屏后进入app注意是否会崩溃,功能状态是否正常,尤其是对于从后台切换回前台数据有自动更新的时候
- 当App使用过程中有电话进来中断后再切换到app,功能状态是否正常
- 当杀掉app进程后,再开启app,观察app能否正常启动
- 出现必须处理的提示框后,切换到后台,再切换回来,检查提示框是否还存在,有时候会出现应用自动跳过提示框的缺陷
- 对于有数据交换的页面,每个页面都必需要进行前后台切换、锁屏的测试,这种页面最容易出现崩溃
免登录
很多应用提供免登录功能,当应用开启时自动以上一次登录的用户身份来使用app
- 考虑无网络情况时能否正常进入免登录状态
- 切换用户登录后,要校验用户登录信息及数据内容是否相应更新,确保原用户退出
- 一个帐户只允许登录一台机器。所以,需要检查一个帐户登录多台手机的情况。原手机里的用户需要被踢出,给出友好提示
- app切换到后台,再切回前台的校验
- 密码更换后,检查有数据交换时是否进行了有效身份的校验
- 支持自动登录的应用在进行数据交换时,检查系统是否能自动登录成功并且数据操作无误
- 检查用户主动退出登录后,下次启动app,应停留在登录界面
数据更新
- 需要确定哪些地方需要提供手动刷新,哪些地方需要自动刷新,哪些地方需要手动+自动刷新
- 确定哪些地方从后台切换回前台时需要进行数据更新
- 根据业务、速度及流量的合理分配,确定哪些内容需要实时更新,哪些需要定时更新
- 确定数据展示部分的处理逻辑,是每次从服务端请求,还是有缓存到本地,这样才能有针对性的进行相应测试
- 检查有数据交换的地方,均有相应的异常处理
离线浏览
- 在无网络情况可以浏览本地数据
- 退出app再开启app时能正常浏览
- 切换到后台再切回前台可以正常浏览
- 锁屏后再解屏回到应用前台可以正常浏览
App更新
- 当客户端有新版本时,有更新提示
- 当版本为非强制升级版时,用户可以取消更新,老版本能正常使用。用户在下次启动app时,仍能出现更新提示
- 当版本为强制升级版时,当给出强制更新后用户没有做更新时,退出客户端。下次启动app时,仍出现强制升级提示
- 当客户端有新版本时,在本地不删除客户端的情况下,直接更新检查是否能正常更新
- 当客户端有新版本时,在本地不删除客户端的情况下,检查更新后的客户端功能是否是新版本
- 当客户端有新版本时,在本地不删除客户端的情况下,检查资源同名文件如图片是否能正常更新成最新版本。如果以上无法更新成功的,也都属于缺陷
定位、照相机服务
- App有用到相机,定位服务时,需要注意系统版本差异
- 有用到定位服务、照相机服务的地方,需要进行前后台的切换测试,检查应用是否正常
- 当定位服务没有开启时,使用定位服务,会友好性弹出是否允许设置定位提示。当确定允许开启定位时,能自动跳转到定位设置中开启定位服务
- 测试定位、照相机服务时,需要采用真机进行测试
时间测试
- 客户端可以自行设置手机的时区、时间,因此需要校验该设置对app的影响
- 中国为东8区,所以当手机设置的时间非东8区时,查看需要显示时间的地方,时间是否展示正确,应用功能是否正常
- 时间一般需要根据服务器时间再转换成客户端对应的时区来展示,这样的用户体验比较好
推送测试
- 检查push消息是否按照指定的业务规则发送
- 检查不接受推送消息时,检查用户不会再接收到push
- 如果用户设置了免打扰的时间段,检查在免打扰时间段内,用户接收不到PUSH、在非免打扰时间段,用户能正常收到 push
- 当push消息是针对登录用户的时候,需要检查收到的push与用户身份是否相符,没有错误地将其它人的消息推送过来。一般情况下,只对手机上最后一个登录用户进行消息推送。
- 测试push时,需要采用真机进行测试
兼容性测试
- android版本的兼容性
- 手机分辨率兼容性
- 网络的兼容性:2G3G4GWIFI,弱网下、断网时
- app跨版本的兼容性
- 各种设备品牌机型系统版本等兼容
- 与本地及主流App是否兼容
性能测试
- 压力测试
- 电量流量测试
- cup、内存消耗
- app启动时长
- crash率
- 内存泄漏
- 压服务器端接口及客户端在不同网络环境下响应速度
- 极限测试:各种边界情况下验证app的响应能力,如:低电量、储存满。弱网等情况
- 响应能力测试:验证各种情况下不同操作能否满足用户响应需求,比如App安装、卸载的响应时间、App各类功能性操作的影响时间
- 压力测试:反复长期操作下,系统该资源的使用情况,比如App反复进行安装卸载,查看系统资源是否正常、其他功能反复进行操作,查看系统资源是否正常
网络测试
- 外网测试主要现实模拟客户使用网络环境,检验客户单程序在实际网若环境中使用情况及进行业务操作
- 外网测试主要覆盖到wifi2G3G4G,.netwap、电信移动联通、所有可能的组合进行测试
- 尽可能全面覆盖用户的使用场景,测试用例中需要包含不同网络排列组合的各种可能
- 还有模拟信号被屏蔽时候。客户端的影响等。还有做外包场景测试,在高山、丘陵、火车上等特殊环境下进行全面测试
接口性测试
- client端和service端的交互
- client端的数据更新和service端的数据是否一致
- client端更新时连接中断
- client端更新时service端宕机
业务逻辑测试
- 主要测试客户端业务能否正常完成
异常测试
- 交互异常性测试:客户端作为手机特性测试,包括被打扰的情况;如来电、来短信、低电量测试等,还要注意手机端硬件上,如:待机,插拔数据线、耳机等操作不会影响客户端
- 异常性测试:主要包含了断网、断电、服务器异常等情况下,客户端能否正常处理,保证数据正确性
回归测试
- Bug修复后且在新版本发布后需要进行回归测试
- Bug修复后的回归测试在交付前、要进行全量用例的回归测试
升级更新测试
- 每次app版本迭代更新时,配合不同网络环境,及不同更新权限(强制更新,不强制更新),进行下载、安装、更新、启动运行等测试
- 测试升级后的功能是否与需求说明一样
- 测试与升级模块相关的模块的功能是否与需求一致
- 升级安装意外情况的测试(如死机、断电、重启)
- 升级界面的UI测试
- 不同操作系统间的升级测试
支付测试
- 支付结果的确认,数据库查询
- 请求报文是否加密
- 不同场景的支付,金额足够、金额不足、重复支付、无网支付、弱网支付、同账号多平台一起支付、余额宝微信信用卡等多种支付方式、不同支付方式的组合、密码正确/错误、支付上限等情况
安全测试
软件权限
- 扣费风险:包括发送短信、拨打电话、连接网络等
- 隐私泄露风险:包括访问手机信息、访问联系人信息等
- 对App的输入有效性校验、认证、授权、敏感数据存储、数据加密等方面进行检测
- 限制/允许使用手机功能接人互联网
- 限制/允许使用手机发送接受信息功能
- 限制/允许应用程序来注册自动启动应用程序
- 限制或使用本地连接
- 限制/允许使用手机拍照或录音
- 限制/允许使用手机读取用户数据
- 限制/允许使用手机写人用户数据
- 检测App的用户授权级别、数据泄漏、非法授权访问等
安装与卸载安全性
- 应用程序应能正确安装到设备驱动程序上
- 能够在安装设备驱动程序上找到应用程序的相应图标
- 是否包含数字签名信息
- JAD文件和JAR包中包含的所有托管属性及其值必需是正确的
- JAD文件显示的资料内容与应用程序显示的资料内容应一致
- 安装路径应能指定
- 没有用户的允许,应用程序不能预先设定自动启动
- 卸载是否安全,其安装进去的文件是否全部卸载
- 卸载用户使用过程中产生的文件是否有提示
- 其修改的配置信息是否复原
- 卸载是否影响其他软件的功能
- 卸载应该移除所有的文件
数据安全性
- 当将密码或其他的敏感数据输人到应用程序时,其不会被储存在设备中,同时密码也不会被解码
- 输人的密码将不以明文形式进行显示
- 密码,信用卡明细,或其他的敏感数据将不被储存在它们预输人的位置上
- 当应用程序处理信用卡明细,或其他的敏感数据时,不以明文形式将数据写到其它单独的文件或者临时文件中
- 防止应用程序异常终止而又没有侧除它的临时文件,文件可能遭受人侵者的袭击,然后读取这些数据信息
- 当将敏感数据输人到应用程序时,其不会被储存在设备中
- 备份应该加密,恢复数据应考虑恢复过程的异常通讯中断等,数据恢复后再使用前应该经过校验
- 应用程序应考虑系统或者虚拟机器产生的用户提示信息或安全警告
- 如果数据库中重要的数据正要被重写,应及时告知用户
- 应用程序读和写数据正确
通讯安全性
- 在运行其软件过程中,如果有来电、SMS、EMS、MMS、蓝牙、红外等通讯或充电时,是否能暂停程序,优先处理通信,并在处理完毕后能正常恢复软件,继续其原来的功能
- 当创立连接时,应用程序能够处理因为网络连接中断,进而告诉用户连接中断的情况
- 应用程序将保持工作到通讯超时,进而发送给用户一个错误信息指示有连接错误
- HTTP、HTTPS覆盖测试
人机接口安全性
- 返回菜单总保持可用
- 命令有优先权顺序
- 声音的设置不影响应用程序的功能
- 应用程序必需利用目标设备适用的全屏尺寸来显示上述内容
- 应用程序必需能够处理不可预知的用户操作,例如错误的操作和同时按下多个键
安装、卸载测试
安装
- 软件在不同操作系统(Palm OS、Symbian、Linux、Android、iOS、Black Berry OS 6.0、Windows Phone 7)下安装是否正常
- 软件安装后的是否能够正常运行,安装后的文件夹及文件是否写到了指定的目录里
- 软件安装各个选项的组合是否符合概要设计说明
- 软件安装向导的 UI测试
- 软件安装过程是否可以取消,点击取消后,写入的文件是否如概要设计说明处理
- 软件安装过程中意外情况的处理是否符合需求(如死机,重启,断电)
- 安装空间不足时是否有相应提示
- 安装后没有生成多余的目录结构和文件
- 对于需要通过网络验证之类的安装,在断网情况下尝试一下
- 还需要对安装手册进行测试,依照安装手册是否能顺利安装
卸载
- 直接删除安装文件夹卸载是否有提示信息
- 测试系统直接卸载程序是否有提示信息
- 测试卸载后文件是否全部删除所有的安装文件夹
- 卸载过程中出现的意外情况的测试(如死机、断电、重启)
- 卸载是否支持取消功能,单击取消后软件卸载的情况
- 系统直接卸载 UI测试,是否有卸载状态进度条提示
UI测试
- 用户界面(菜单、对话框、窗口)等布局,风格是否满足用户需求,文字位置,描述是否正确,界面美观程度,文字图片组合是否合理
- 用户友好性、人性化、便于操作等
导航测试
- 按钮、对话框、列表和窗口等;或在不同的连接页面之间需要导航
- 是否易于导航,导航是否直观
- 是否需要搜索引擎
- 导航帮助是否准确直观
- 导航与页面结构、菜单、连接页面的风格是否一致
图形测试
- 横向比较。各控件操作方式统一
- 自适应界面设计,内容根据窗口大小自适应
- 页面标签风格是否统一
- 页面是否美观
- 页面的图片应有其实际意义而要求整体有序美观
- 图片质量要高且图片尺寸在设计符合要求的情况下应尽量小
- 界面整体使用的颜色不宜过多
内容测试
- 输入框说明文字的内容与系统功能是否一致
- 文字长度是否加以限制
- 文字内容是否表意不明
- 是否有错别字
- 信息是否为中文显示
- 是否有敏感性词汇、关键词
- 是否有敏感性图片,如:涉及版权、专利、隐私等图片
交叉事件测试
- 多个 App同时运行是否影响正常功能
- App运行时前/后台切换是否影响正常功能
- App运行时拨打/接听电话
- App运行时发送/接收信息
- App运行时发送/收取邮件
- App运行时切换网络(2G、3G、wifi)
- App运行时浏览网络
- App运行时使用蓝牙传送/接收数据
- App运行时使用相机、计算器等手机自带设备
用户体验测试
- 是否有空数据界面设计,引导用户去执行操作
- 是否滥用用户引导
- 是否有不可点击的效果,如:你的按钮此时处于不可用状态,那么一定要灰掉,或者拿掉按钮,否则会给用户误导
- 菜单层次是否太深
- 交互流程分支是否太多
- 相关的选项是否离得很远
- 一次是否载入太多的数据
- 界面中按钮可点击范围是否适中
- 标签页是否跟内容没有从属关系,当切换标签的时候,内容跟着切换
- 操作应该有主次从属关系
- 是否定义 Back的逻辑。涉及软硬件交互时,Back键应具体定义
- 是否有横屏模式的设计,应用一般需要支持横屏模式,即自适应设计
硬件环境测试
手势操作测试
- 手机开锁屏对运行中的 App的影响
- 切换网络对运行中的 App的影响
- 运行中的 App前后台切换的影响
- 多个运行中的 App的切换
- App运行时关机
- App运行时重启系统
- App运行时充电
- App运行时kill掉进程再打开
网络环境
- 无网络时,执行需要网络的操作,给予友好提示,确保程序不出现crash
- 内网测试时,要注意选择到外网操作时的异常情况处理
- 在网络信号不好时,检查功能状态是否正常,确保不因提交数据失败而造成crash
- 在网络信号不好时,检查数据是否会一直处于提交中的状态,有无超时限制。如遇数据交换失败时要给予提示
- 在网络信号不好时,执行操作后,在回调没有完成的情况下,退出本页面或者执行其他操作的情况,有无异常情况。此问题也会经常出现程序crash
服务器宕机或出现404、502等情况下的测试
后台服务牵涉到 DNS、空间服务商的情况下会影响其稳定性,如:当出现域名解析故障时,你对后台 API的请求很可能就会出现 404错误,抛出异常。这时需要对异常进行正确的处理,否则可能会导致程序不能正常工作。