CN110110854A

CN110110854A - 一种基于边状态的深度神经网络测试充分性的方法

Info

Publication number: CN110110854A
Application number: CN201910258666.XA
Authority: CN
Inventors: 王子元; 钱航
Original assignee: Nanjing Post and Telecommunication University
Current assignee: Nanjing Post and Telecommunication University
Priority date: 2019-04-01
Filing date: 2019-04-01
Publication date: 2019-08-09
Anticipated expiration: 2039-04-01
Also published as: CN110110854B

Abstract

本发明公开了一种基于边状态的深度神经网络测试充分性的方法，包括准备待测模型和测试用例；确定神经元状态以及记录神经元状态；确定边的状态并记录边的状态；确定覆盖标准和计算覆盖率并优化模型，本发明为神经网络模型提供了新的测试指标，有助于测试人员挑选测试用例或提升测试用例数据质量，同时也能为深度学习测试的发展提供帮助。

Description

一种基于边状态的深度神经网络测试充分性的方法

技术领域

本发明涉及一种基于边状态的深度神经网络测试充分性准则，用于评价深度神经网络的测试是否充分，属于深度学习领域和软件测试领域。

背景技术

深度学习系统在过去十年间取得了很大进步并被广泛应用于各大领域，例如计算机视觉、自然语言处理、自动驾驶和自动医学诊断等。随着深度学习系统被用于越来越多的安全攸关系统，该系统是否能够保证较高的安全性成了人们担心的问题。现实是深度学习系统已经被发现容易受到各种不同的攻击而造成严重后果，轻者可能只是识别错误的图片，重者甚至会对人类的人身安全造成威胁，例如自动驾驶中的事故。人们在享受深度学习系统给我们带来的便利的同时也需要注意它隐藏的威胁，因此对深度学习系统的测试是一件非要有必要的事情。

深度学习系统是一种基于深度神经网络(DNN)的系统，它与传统的软件有较大的区别。在实际操作中，深度神经网络是由大量的训练数据训练得到，其也可能会因为不完整的、不正确的训练数据或者训练过程而隐含缺陷，当这种神经网络被应用于实践中时，很可能会因为一些没有被训练好的神经元表现出错误的状态而导致严重后果。因此对DNN的测试也是不容忽视的一个重要环节。

我们将传统软件视为用高级编程语言编写的任何程序，传统程序中的每条语句执行某些操作，将前一语句的输出转换为下一语句的输入或更改程序的状态。对于传统软件，现如今人们已经在不同的层面定义了许多的完善的覆盖标准，这些覆盖标准从不同的角度分析软件运行时的行为。不同于此，我们将深度学习系统视为包含一个或多个DNN的软件系统。DNN由多层神经元和相邻层神经元之间的连接组合而成，一个DNN都包含输入层、输出层和一个或多个隐藏层。每个神经元都是一个计算单元，通过将激活函数应用于其输出来得到输出。传统的软件测试，我们更关注程序语句和分支的覆盖情况，而对于DNN，我们需要关注的是神经元和其连接的状态，这也是传统软件测试和DNN测试最大的区别。

在对DNN进行测试时，我们不能仅仅根据输入和输出的是否高度匹配来定义一个测试准则的好坏，如果一些神经元和神经元的连接没有被测试用例覆盖到，很可能成为未来应用的隐患，因此我们还需要对测试的充分性给予关注。

发明内容

发明目的：为了克服现有技术中存在的不足，本发明提供一种基于边状态的深度神经网络测试充分性的方法，本发明给出了合适的覆盖准则以评估DNN测试的充分性。如果神经元的值高于某个阈值，神经元的状态呈激活状态，反之呈未激活状态，除了输入层和输出层，所有隐藏层的相邻层神经元的连接视为这两个神经元的边，相邻层两个神经元的状态组合视为对应的边的状态，边的状态就会有“激活-激活”、“激活-未激活”、“未激活-激活”、“未激活-未激活”四种。通过记录大量测试用例下每条边表现出的状态，统计有多少条边表现过一种或多种状态便可计算其边覆盖率。边覆盖率不仅仅注重单个神经元的状态，而是将测试目标放到相邻层的两个神经元的连接上，从不同的角度评估测试的充分性。

技术方案：为实现上述目的，本发明采用的技术方案为：

一种基于边状态的深度神经网络测试充分性的方法，在深度神经网络中，一些神经元可能会因未被正确地训练而在某些输入下表现出错误的状态，而一些神经元的错误的状态会导致严重的后果。深度神经网络测试，不能仅仅测试输入和输出的匹配，还需要保证神经元和神经元的连接的状态都在测试用例中被覆盖到了，提出了基于边状态的深度神经网络测试充分性准则，认为神经元有激活和未激活两种状态，那么连接相邻层神经元的边便有四种状态，并根据以上定义了多种覆盖准则便于评测。在于将深度学习测试的目标转向神经元的连接，根据边的状态来评估神经网络测试的充分性。包括以下步骤：

步骤1)准备待测深度神经网络模型和测试用例；

步骤2)确定神经元状态以及记录神经元状态：

步骤2.1)每一条测试用例输入深度神经网络模型时，记录每一个神经元的值；

步骤2.2)给定激活阈值β；

步骤2.3)将每一个神经元的值与β进行比较，如果值大于β则记录为激活状态，如果值小于β则记录为未激活状态；

步骤3)根据连接的两个神经元的状态确定边的状态以及记录边的状态：

步骤3.1)边的状态由其连接的两个神经元的状态决定，根据两个神经元的状态可定义边的状态有“激活-激活”、“激活-未激活”、“未激活-激活”、“未激活-未激活”四种；

步骤3.2)根据之前记录的神经元状态计算每个测试用例下每条边的状态；

步骤3.3)记录每个测试用例输入下每条边的状态；

步骤4)确定覆盖标准和计算覆盖率：

步骤4.1)假设有测试用例套件T，如果在某个测试用例输入下，边e表现出“激活-激活”的状态，那么边e被T强激活边覆盖SAC；

假设有测试用例套件T，如果在某几个测试用例输入下，边e表现出“激活-激活”和“未激活-激活”的状态，那么边e被T输出激活边覆盖OAC；

假设有测试用例套件T，如果在某几个测试用例输入下，边e表现出“激活-激活”、“激活-未激活”、“未激活-激活”、“未激活-激活”的状态，那么边e被T全状态边覆盖FSC；

步骤4.2)根据不同的覆盖准则，统计满足覆盖准则中规定的所有状态的边的个数N_COv；

步骤4.3)计算待测模型的所有隐藏层构成的边的个数N；

步骤4.4)计算满足条件的边占所有边的百分比即可得到对应的覆盖率COV；

计算公式为：

步骤4.5)根据计算出的覆盖率来优化深度神经网络模型。

优选的：步骤1)中准备待测深度神经网络模型和测试用例包括以下步骤：

步骤1.1)准备一个训练好的待测的深度神经网络模型；

步骤1.2)根据实际的深度神经网络模型准备好对应的测试用例；

步骤1.3)逐一将测试用例输入深度神经网络模型进行计算。

优选的：覆盖率不能达到预期标准，则需要者提升数据质量或挑选测试用例。

本发明相比现有技术，具有以下有益效果：

本发明将深度学习测试的目标转移到神经元的连接上，并提出了边的概念，提出由神经元激活状态决定的边的状态的概念，根据边的状态提出强激活覆盖、输出激活覆盖、全激活覆盖三个覆盖准则，可以更加全面地保证测试用例的充分性，提高深度学习测试的可信度。

附图说明

图1：计算边覆盖率流程示意图，

图2：一个神经网络模型结构示意图，

图3：覆盖率评估和模型优化流程图。

具体实施方式

下面结合附图和具体实施例，进一步阐明本发明，应理解这些实例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。

一种基于边状态的深度神经网络测试充分性的方法，如图1所示，本发明方法主要包括：

1.训练一个神经网络模型，并根据模型的层数和各层神经元的结构准备若干测试用例。神经网络模型如图2所示，神经网络是由若干个层的神经元和相邻层神经元的连接构成。由于神经元的连接在神经网络也占着很大的比重，因此将边作为测试对象是很有必要的事。

2.获取各个神经元在所有测试用例下的激活数据。模型在不同的测试用例输入下，神经元会输出不同的值。对于一个神经元，我们认为如果它的值大于某个阈值，神经元就表现出激活的状态，如果它的值小于某个阈值，神经元就表现出未激活的状态。当我们规定了阈值后，就可以获取所有神经元的激活状态，同时模型每一条边的状态也就可以被获取。神经网络中，相邻层的两个神经元可以构成一条边，所以边的状态可以由组成边的两个神经元的状态决定。

3.定义覆盖标准并计算对应覆盖率。神经元的激活状态决定的边会有四种不同的状态，由发明内容可知，我们提出了三种统计覆盖标准，分别为：边两端的神经元都表现出激活状态的强激活边覆盖、边中后层的神经元表现出激活状态而前层神经元表现出激活和未激活状态的输出激活边覆盖以及边两端神经元都需要表现出激活和未激活两种状态的全状态边覆盖。根据不同的覆盖标准，我们可以计算满足覆盖标准的边占所有的边的比值来获得对应的覆盖率。

4.根据计算的覆盖率来评估神经网络测试的充分性，如果覆盖率达不到预期的标准，那么需要优化神经网络模型或者提升数据的质量，直到覆盖率达到了我们的预期，我们才认为神经网络测试在边覆盖测试标准下有较好的充分性。该过程由图3所示。

具体包括以下步骤：

步骤1)准备待测模型和测试用例；

步骤1.1)准备一个训练好的待测的深度神经网络模型；

步骤1.2)根据实际的模型准备好对应的若干测试用例，数量不能过多或过少；

步骤1.3)逐一将测试用例输入模型进行计算；

步骤2)定义神经元状态以及记录神经元状态：定义神经元的激活状态，将神经元的输出值与一个自定义的阈值进行比较，如果值较大则是激活状态，如果值较小则是未激活状态，这样就可以根据各个神经元的值来判断其激活状态。

步骤2.1)每一条测试用例输入模型时，记录每一个神经元的值；

步骤2.2)定义一个激活阈值β；

步骤3)定义边的状态以及记录边的状态：定义神经网络中边的状态，边就是深度神经网络中隐藏层的相邻层神经元之间的连接，边的状态由连接的两个神经元的激活状态决定，因此边一共就有“激活-激活”、“激活-未激活”、“未激活-激活”、“未激活-未激活”四种状态。在提取了神经元的值并获得其激活状态后就可以确定神经网络的每一条边的状态。

步骤3.3)记录每个测试用例输入下每条边的状态；

步骤4)定义覆盖标准和计算覆盖率：提出了三种覆盖准则：(1)、强激活边覆盖，即边两端两个神经元都表现过激活状态的覆盖情况；(2)、输出激活边覆盖，即边两端中后层神经元表现出激活状态而前层神经元表现出激活和未激活状态的覆盖情况；(3)、全状态边覆盖，即边两端神经元都表现出激活和未激活两种状态的覆盖情况。根据覆盖准则可以统计符合覆盖准则的边的个数，并计算其占神经网络中隐藏层神经元构成的所有的边的占比即得到对应的覆盖率。

步骤4.1)假设有测试用例套件T，如果在某个测试用例输入下，边e表现出“激活-激活”的状态，那么边e被T强激活边覆盖(SAC)；

假设有测试用例套件T，如果在某几个测试用例输入下，边e表现出“激活-激活”和“未激活-激活”的状态，那么边e被T输出激活边覆盖(OAC)；

假设有测试用例套件T，如果在某几个测试用例输入下，边e表现出“激活-激活”、“激活-未激活”、“未激活-激活”、“未激活-激活”的状态，那么边e被T全状态边覆盖(FSC)；

步骤4.3)计算待测模型的所有隐藏层构成的边的个数N；

步骤4.4)计算满足条件的边占所有边的百分比即可得到对应的覆盖率；

计算公式为:

步骤4.5)根据计算出的覆盖率来优化模型，如果覆盖率不能达到预期标准，则需要者提升数据质量或挑选测试用例。

综上所述，本发明提出一种基于边状态的深度神经网络测试充分性评估方法，开发者和测试人员可以根据边覆盖测试准则来评估模型的好坏和测试的充分性。可以帮助挑选测试用例或提升测试用例数据的质量。本发明为神经网络模型提供了新的测试指标，有助于测试人员挑选测试用例或提升测试用例数据质量，同时也能为深度学习测试的发展提供帮助。

以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims

1.一种基于边状态的深度神经网络测试充分性的方法，其特征在于，包括以下步骤：

步骤1)准备待测深度神经网络模型和测试用例；

步骤2)确定神经元状态以及记录神经元状态：

步骤2.2)给定激活阈值β；

步骤3.3)记录每个测试用例输入下每条边的状态；

步骤4)确定覆盖标准和计算覆盖率：

步骤4.3)计算待测模型的所有隐藏层构成的边的个数N；

计算公式为：

步骤4.5)根据计算出的覆盖率来优化深度神经网络模型。

2.根据权利要求1所述基于边状态的深度神经网络测试充分性方法，其特征在于：步骤1)中准备待测深度神经网络模型和测试用例包括以下步骤：

步骤1.1)准备一个训练好的待测的深度神经网络模型；

步骤1.3)逐一将测试用例输入深度神经网络模型进行计算。

3.根据权利要求2所述基于边状态的深度神经网络测试充分性方法，其特征在于：覆盖率不能达到预期标准，则需要者提升数据质量或挑选测试用例。