CN115906032B - 一种识别模型的修正方法、装置和存储介质 - Google Patents

Abstract

本申请涉及一种识别模型的修正方法、装置和存储介质，该方法包括：根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；所述待修正的识别模型根据特征向量和特征矩阵构造；根据所述待测试的特征向量、所述特征矩阵及所述待测试的特征向量对应的第一标签向量，构造攻击仿真模型；对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；根据所述目标特征向量修正值对所述特征向量进行修正，及根据所述目标特征矩阵修正值对所述特征矩阵进行修正。解决了现有技术中存在的未从攻击者的角度来考虑身份识别系统存在的漏洞，从而导致身份识别系统安全性低的技术问题，提高了识别模型的安全性。

Description

一种识别模型的修正方法、装置和存储介质

技术领域

本申请涉及人工智能领域，特别是涉及一种识别模型的修正方法、装置和存储介质。

背景技术

目前，智能手机、智能手环等智能设备已成为人们日常生活和工作的重要组成部分。这些智能设备不仅提供打电话、发短信、查邮件等功能，其内部存储了大量敏感信息。因此，智能设备身份识别系统的准确性和鲁棒性是保证其内部重要信息安全的关键技术。因此，研究基于用户生物信息的身份识别系统存在的漏洞，对提高身份识别系统的鲁棒性和准确性有很大的价值。

目前已有一些有关身份识别系统攻击的工作，如模仿攻击和重放攻击。真实用户的生物信息可能会被擅长模仿的冒名顶替者模仿。因此，基于用户生物信息的身份识别系统可能会被误导而导致错误的身份识别结果。以“Alice”和“Bob”为例。Alice的生物信息被身份识别系统误判别为Bob。而身份识别系统没有意识到这个错误的判别。事实上，系统漏洞将给基于用户生物信息的身份识别系统相关应用程序带来严重的安全隐患。因此，如何从攻击者的角度出发，发现现有的基于用户生物信息的身份识别系统存在的漏洞，为身份识别系统的保护提供借鉴是非常必要的。

针对现有技术中存在的未从攻击者的角度来考虑身份识别系统存在的漏洞，从而导致身份识别系统安全性低的技术问题，目前还没有提出有效的解决方案。

发明内容

在本实施例中提供了一种识别模型的修正方法、装置和存储介质，以解决现有技术中存在的未从攻击者的角度来考虑身份识别系统存在的漏洞，从而导致身份识别系统安全性低的技术问题。

第一个方面，在本实施例中提供了一种识别模型的修正方法，所述方法包括：

根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；所述待修正的识别模型根据特征向量和特征矩阵构造；所述第一标签向量用于标识所述待测试的特征向量对应的身份信息，所述特征向量根据采集的所述用户的信息数据生成，所述特征矩阵根据所述用户的特征向量生成；

根据所述待测试的特征向量、所述特征矩阵及所述待测试的特征向量对应的第一标签向量，构造攻击仿真模型；

对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；

根据所述目标特征向量修正值对所述特征向量进行修正，及根据所述目标特征矩阵修正值对所述特征矩阵进行修正。

在其中的一些实施例中，所述方法还包括：

采集所述用户的信息数据；

对所述信息数据进行特征提取，得到所述用户的特征向量。

在其中的一些实施例中，所述根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量，包括：

根据所述待修正的识别模型、待测试的特征向量、所述特征矩阵、特征向量修正值和特征矩阵修正值，生成所述待测试的特征向量对应的第一标签向量。

在其中的一些实施例中，所述根据所述待测试的特征向量、所述特征矩阵及所述待测试的特征向量对应的第一标签向量，构造攻击仿真模型，包括：

根据所述待测试的特征向量、所述特征矩阵、所述待测试的特征向量对应的第一标签向量、特征向量修正值、特征矩阵修正值和第二标签向量，构造攻击仿真模型；所述第二标签向量用于标识所述识别模型遭受攻击后，所述识别模型识别出的身份信息。

在其中的一些实施例中，所述对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值，包括：

对所述攻击仿真模型进行求解，得到目标特征向量修正值、目标特征矩阵修正值和目标第二标签向量。

在其中的一些实施例中，所述方法还包括：

根据修正后的特征向量和修正后的特征矩阵，修正所述待修正的识别模型。

在其中的一些实施例中，所述方法还包括：

根据修正后的特征向量、修正后的特征矩阵和所述目标第二标签向量，修正所述待修正的识别模型。

第二个方面，在本实施例中提供了一种识别模型的修正装置，所述装置包括：

获取模块，用于根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；所述待修正的识别模型根据特征向量和特征矩阵构造；所述第一标签向量用于标识所述待测试的特征向量对应的身份信息，所述特征向量根据采集的所述用户的信息数据生成，所述特征矩阵根据所述用户的特征向量生成；

构造模块，用于根据所述待测试的特征向量、所述特征矩阵及所述待测试的特征向量对应的第一标签向量，构造攻击仿真模型；

计算模块，用于对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；

修正模块，用于根据所述目标特征向量修正值对所述特征向量进行修正，及根据所述目标特征矩阵修正值对所述特征矩阵进行修正。

第三个方面，在本实施例中提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行第一个方面所述的识别模型的修正方法。

第四个方面，在本实施例中提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现第一个方面所述的识别模型的修正方法的步骤。

与现有技术相比，在本实施例中提供的一种识别模型的修正方法、装置和存储介质，根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型，通过求解攻击仿真模型，得到目标特征向量修正值和目标特征矩阵修正值，从而对身份识别模型系统的特征向量和特征矩阵进行修正，修正后的识别模型可以抵御识别模型系统内部和识别模型系统外部的攻击，提高了识别模型的安全性，从而解决了现有技术中存在的未从攻击者的角度来考虑身份识别系统存在的漏洞，从而导致身份识别系统安全性低的技术问题。

本申请的一个或多个实施例的细节在以下附图和描述中提出，以使本申请的其他特征、目的和优点更加简明易懂。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是执行本申请实施例的一种识别模型的修正方法的终端的硬件结构框图；

图2是本申请实施例的一种识别模型的修正方法的流程图；

图3是本申请实施例的另一种识别模型的修正方法的流程图；

图4是本申请实施例的对攻击仿真模型进行求解得到目标特征向量修正值和目标特征矩阵修正值的流程图；

图5是本优选实施例的一种针对身份识别模型的内外合谋攻击模型的生成方法的流程图；

图6是本申请实施例的一种识别模型的修正装置的结构框图。

具体实施方式

为更清楚地理解本申请的目的、技术方案和优点，下面结合附图和实施例，对本申请进行了描述和说明。

除另作定义外，本申请所涉及的技术术语或者科学术语应具有本申请所属技术领域具备一般技能的人所理解的一般含义。在本申请中的“一”、“一个”、“一种”、“该”、“这些”等类似的词并不表示数量上的限制，它们可以是单数或者复数。在本申请中所涉及的术语“包括”、“包含”、“具有”及其任何变体，其目的是涵盖不排他的包含；例如，包含一系列步骤或模块（单元）的过程、方法和系统、产品或设备并未限定于列出的步骤或模块（单元），而可包括未列出的步骤或模块（单元），或者可包括这些过程、方法、产品或设备固有的其他步骤或模块（单元）。在本申请中所涉及的“连接”、“相连”、“耦接”等类似的词语并不限定于物理的或机械连接，而可以包括电气连接，无论是直接连接还是间接连接。在本申请中所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。通常情况下，字符“/”表示前后关联的对象是一种“或”的关系。在本申请中所涉及的术语“第一”、“第二”、“第三”等，只是对相似对象进行区分，并不代表针对对象的特定排序。

在本实施例中提供的方法实施例可以在终端、计算机或者类似的运算装置中执行。比如在终端上运行，图1是执行本申请实施例的一种识别模型的修正方法的终端的硬件结构框图。如图1所示，终端可以包括一个或多个（图1中仅示出一个）处理器102和用于存储数据的存储器104，其中，处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置。上述终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述终端的结构造成限制。例如，终端还可包括比图1中所示更多或者更少的组件，或者具有与图1所示出的不同配置。

存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如在本实施例中的一种识别模型的修正方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输设备106用于经由一个网络接收或者发送数据。上述的网络包括终端的通信供应商提供的无线网络。在一个实例中，传输设备106包括一个网络适配器（NetworkInterface Controller，简称为NIC），其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输设备106可以为射频（Radio Frequency，简称为RF）模块，其用于通过无线方式与互联网进行通讯。

在本实施例中提供了一种识别模型的修正方法，图2是本申请实施例的一种识别模型的修正方法的流程图，如图2所示，该流程包括如下步骤：

步骤S210，根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；待修正的识别模型根据特征向量和特征矩阵构造；第一标签向量用于标识待测试的特征向量对应的身份信息，特征向量根据采集的用户的信息数据生成，特征矩阵根据用户的特征向量生成。

具体地，这里的待修正的识别模型预先根据特征向量和特征矩阵构造。

步骤S220，根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型。

具体地，根据预先构造的待修正的识别模型得到的待测试的特征向量对应的第一标签向量构造攻击仿真模型，该攻击仿真模型用于仿真识别模型内部和识别模型外部的攻击。

步骤S230，对攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值。

具体地，对攻击仿真模型进行求解，得到待修正的识别模型的特征向量的目标特征向量修正值和待修正的识别模型的特征矩阵的目标特征矩阵修正值。该目标特征向量修正值即为识别模型外部最小的扰动信息值，该目标特征矩阵修正值即为识别模型内部最小的扰动信息值。根据对攻击仿真模型进行求解，得到识别模型的内部和外部的最小的扰动信息值，即当识别模型外部的特征向量扰动超过外部最小的扰动信息值及识别模型内部的特征矩阵扰动超过内部最小的扰动信息值时，输入至识别模型的待测试的特征向量，会被识别模型误识别成为第一目标对象，而该待测试的特征向量对应的真实身份为第二目标对象，第一目标对象和第二目标对象身份差异信息最小。

步骤S240，根据目标特征向量修正值对特征向量进行修正，及根据目标特征矩阵修正值对特征矩阵进行修正。

具体地，根据对攻击仿真模型进行求解，得到的目标特征向量修正值和目标特征矩阵修正值，分别对待修正的识别模型的特征向量进行修正及对特征矩阵进行修正，得到修正后的识别模型，该修正后的识别模型可以抵御识别模型系统内部和识别模型系统外部的攻击。

在本实施例中，根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型，通过求解攻击仿真模型，得到目标特征向量修正值和目标特征矩阵修正值，从而对身份识别模型系统的特征向量和特征矩阵进行修正，修正后的识别模型可以抵御识别模型系统内部和识别模型系统外部的攻击，提高了识别模型的安全性，从而解决了现有技术中存在的未从攻击者的角度来考虑身份识别系统存在的漏洞，从而导致身份识别系统安全性低的技术问题。

在其中的一些实施例中，该识别模型的修正方法，如图3所示，还包括如下步骤：

步骤S310，采集用户的信息数据。

具体地，通过终端设备采集用户的信息数据。这里的信息数据可以包括步态数据，步态数据可以包括加速度数据、角速度数据以及时间戳。

步骤S320，对信息数据进行特征提取，得到用户的特征向量。

具体地，对采集到的信息数据进行特征提取，得到用户的特征向量。进一步具体地，采用平滑滤波法对用户的信息数据进行预处理，用户特征向量为用户步态的时域、频域和小波域特征，具体的为均值、最大值、最小值、周期、众数、幅值、方差、偏态、均方根误差等，利用预设的特征选择方法对用户特征向量进行特征选择，选择出与信息数据对应的标签相关性大的特征作为最终的特征向量。另外，进一步具体地，根据特征向量生成特征矩阵。

在本实施例中，对信息数据进行特征提取，得到用户的特征向量，选择出与信息数据对应的标签相关性大的特征作为最终的特征向量，提高了识别模型的识别准确度。

在其中的一些实施例中，步骤S210，根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量，包括：根据待修正的识别模型、待测试的特征向量、特征矩阵、特征向量修正值和特征矩阵修正值，生成待测试的特征向量对应的第一标签向量。

具体地，将根据特征向量修正值对待测试的特征向量进行修正后得到的特征向量，和根据特征矩阵修正值对特征矩阵进行修正后得到的特征矩阵，输入至待修正的识别模型，生成待测试的特征向量对应的第一标签向量。

在其中的一些实施例中，步骤S220，根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型，包括：

根据待测试的特征向量、特征矩阵、待测试的特征向量对应的第一标签向量、特征向量修正值、特征矩阵修正值和第二标签向量，构造攻击仿真模型；第二标签向量用于标识识别模型遭受攻击后，识别模型识别出的身份信息。

具体地，获取待测试的特征向量经过待修正的识别模型识别后的标签向量，确定该特征向量对应的用户的身份信息，确定该身份信息在标签向量中的位置A，第二标签向量中位置A对应的元素为0，其他位置对应的元素可以为1。

在其中的一些实施例中，步骤S230，对攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值，包括：

对攻击仿真模型进行求解，得到目标特征向量修正值、目标特征矩阵修正值和目标第二标签向量。

具体地，对构造的攻击仿真模型进行求解，得到目标特征向量修正值、目标特征矩阵修正值和目标第二标签向量。该目标特征向量修正值即为识别模型外部最小的扰动信息值，该目标特征矩阵修正值即为识别模型内部最小的扰动信息值。根据对攻击仿真模型进行求解，得到识别模型的内部和外部的最小的扰动信息值，即当识别模型外部的特征向量扰动超过外部最小的扰动信息值及识别模型内部的特征矩阵扰动超过内部最小的扰动信息值时，输入至识别模型的待测试的特征向量，会被识别模型误识别成为第一目标对象，而该待测试的特征向量对应的真实身份为第二目标对象，第一目标对象和第二目标对象身份差异信息最小。该目标第二标签向量即为第一目标对象所对应的标签向量。

在其中的一些实施例中，该识别模型的修正方法还包括：

根据修正后的特征向量和修正后的特征矩阵，修正待修正的识别模型。

在其中的一些实施例中，该识别模型的修正方法还包括：根据修正后的特征向量、修正后的特征矩阵和目标第二标签向量，修正待修正的识别模型。

在其中的一些实施例中，步骤S240，对攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值，如图4所示，包括如下步骤：

步骤S241，对攻击仿真模型进行求解，得到攻击仿真模型的目标值。

步骤S242，确定目标值对应的特征向量修正值为目标特征向量修正值，确定目标值对应的特征矩阵修正值为目标特征矩阵修正值。

在其中的一些实施例中，在步骤S210，根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量之前，包括：根据特征向量和特征矩阵，构造待修正的识别模型。

下面通过优选实施例对本申请实施例进行描述和说明。

图5是本优选实施例的一种针对身份识别模型的内外合谋攻击模型的生成方法的流程图，如图5所示，该方法包括如下步骤：

步骤S501，采集用户步态数据，根据采集到的用户步态数据构建步态数据集。

具体地，通过智能设备采集用户步态数据。该步态数据集为{步态，加速度数据和角速度数据，时间戳}。

通过智能设备采集用户生物信息，智能设备包括但不限于智能手机、智能手环、摄像头等的一种或几种。生物信息包括但不限于人脸、指纹、虹膜、声音和步态中的一种或几种。生物信息数据集为{用户生物信息类型，数据类型，时间戳}，其中，用户生物信息类型包括人脸、指纹、虹膜、声音和步态中的一种或多种，数据类型为摄像头采集到的人脸图像、指纹采集到的指纹图像、麦克风采集到的声音、加速度传感器采集到的加速度数据、陀螺仪传感器采集到的角速度数据。

步骤S502，定义用户的身份属性。

具体地，这里的用户的身份属性即为用户的标签。

步骤S503，对用户步态数据集提取用户特征向量，根据所有用户特征向量构建字典矩阵D。

具体地，字典矩阵D，D=[D₁，D₂，……D_c]，其中，D₁，D₂，……D_c为特征向量，C代表特征向量的类别。进一步具体地，包括如下步骤：

S5031：利用5点平滑滤波法对用户步态数据集进行预处理。

S5032：用户特征向量为用户步态的时域、频域和小波域特征，具体的为均值、最大值、最小值、周期、众数、幅值、方差、偏态、均方根误差等。

S5033：利用Fisher score特征选择方法对用户特征向量进行特征选择，选择出与对应标签相关性大的特征作为最终的特征向量。根据所有用户选择后的特征向量构建字典矩阵。

步骤S504，将用户特征向量对应的身份属性作为样本的标签，根据样本及样本的标签构建身份识别模型。

具体地，身份识别模型如公式（1）和公式（2）所示。

min_x‖x‖₀（1）

s.t.‖y-Dx‖₂≤（2）

其中，x为样本的标签，x为标签向量，y为测试样本的特征向量，D为字典矩阵，为误差，是一个很小的值，‖x‖₀表示x的0范数，‖y-Dx‖₂表示y-Dx的2范数，s.t.表示约束条件；min_x‖x‖₀表示样本的标签向量x的0范数的最小值时标签向量x的取值，即用标签向量x来调节‖x‖₀使得‖x‖₀达到最小值；公式（1）的最优解为标签向量x中只有一个位置为1，其余位置为0，公式（2）为该身份识别模型的约束条件。进一步地，x可以为稀疏向量。

步骤S505，构建内外合谋攻击模型。

具体地，内外合谋攻击模型如公式（3）、公式（4）、公式（5）、公式（6）和公式（7）所示。

其中，Z是一个稀疏向量，取值为0或1，1代表身份识别模型识别的目标对象；y_A是待测试的步态信息的特征向量，D和D_A为字典矩阵；Z_A是测试样本y_A在Z中被身份识别模型识别后的第一目标对象，Z_A、Z_i为向量Z的元素，Z_A=0，i为自变量，i的取值为正整数，C为特征向量的类别；σ和α是惩罚因子；X_A'对应被篡改之后的待测试的步态信息的特征向量对应的稀疏向量，分别将最小扰动信息Δy和最小扰动信息ΔD，加入到测试样本的特征向量y和字典矩阵D中，根据公式（1）和公式（2）计算得到X_A'；τ和β为阈值因子，为误差；Δy是一个向量，代表对待测试的步态信息的特征向量y_A增加的最小扰动信息；ΔD是一个矩阵，代表对身份识别模型的字典矩阵D增加的最小扰动信息，s.t.表示约束条件。

‖Z-X_A'‖₁表示Z-X_A'的1范数，‖Δy‖₁表示Δy的1范数，‖ΔD‖₁表示ΔD的1范数，min_Δy,ΔD,Z‖Z-X_A'‖₁+σ‖Δy‖₁+α‖ΔD‖₁表示‖Z-X_A'‖₁+σ‖Δy‖₁+α‖ΔD‖₁最小值时，Δy，ΔD，Z的取值，即用向量Δy、矩阵ΔD和向量Z来调节函数‖Z-X_A'‖₁+σ‖Δy‖₁+α‖ΔD‖₁，使得函数‖Z-X_A'‖₁+σ‖Δy‖₁+α‖ΔD‖₁达到最小值；‖X_A'‖₁为X_A'的1范数，‖y_A+Δy-(D+ΔD)X_A'‖₂为y_A+Δy-(D+ΔD)X_A'的2范数，argmin{‖X_A'‖₁：‖y_A+Δy-(D+ΔD)X_A' ‖₂≤} 为满足约束条件‖y_A+Δy-(D+ΔD)X_A'‖₂≤的‖X_A'‖₁最小值时，X_A'的取值。公式（4）、公式（5）、公式（6）和公式（7）为内外合谋攻击模型的约束条件。

步骤S506，获取身份识别模型待测试的步态信息的特征向量y_A。

步骤S507，将待测试的步态信息y_A输入内外合谋攻击模型中，通过模型的反复寻优过程，找到最优解。

具体地，通过模型的反复寻优过程找到Δy、ΔD和Z的最优解。对待测试的步态信息y_A和字典矩阵D（即步态系统模型信息）中分别同时增加最小的扰动信息Δy和ΔD，使得待测试的步态信息的特征向量y_A在身份识别系统中实际对应的第一目标对象被身份识别模型识别成其中一个第二目标对象Z，该第一目标对象与身份识别模型识别成的其中一个第二目标对象Z的生物信息差异最小。

在本实施中，本优选实施例的一种针对身份识别模型的内外合谋攻击模型的生成方法，在待测试的生物信息和身份识别模型系统的步态系统模型信息中同时增加最小的扰动信息，使得待测试的生物信息实际对应的第一目标对象被身份识别模型系统识别成一个第二目标对象，第一目标对象与身份识别模型系统识别成的其中一个第二目标对象的生物信息差异最小。

在其中的一些实施例中，在步骤S507之后，还包括：根据Δy、ΔD和Z的最优解，修正字典矩阵D和待测试的步态信息的特征向量y_A，从而得到修正后的身份识别模型。

在本实施例中还提供了一种识别模型的修正装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。以下所使用的术语“模块”、“单元”、“子单元”等可以实现预定功能的软件和/或硬件的组合。尽管在以下实施例中所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图6是本申请实施例的一种识别模型的修正装置的结构框图，如图6所示，该装置包括：

获取模块610，用于根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；待修正的识别模型根据特征向量和特征矩阵构造；第一标签向量用于标识待测试的特征向量对应的身份信息，特征向量根据采集的用户的信息数据生成，特征矩阵根据用户的特征向量生成；

构造模块620，用于根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型；

计算模块630，用于对攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；

修正模块640，用于根据目标特征向量修正值对特征向量进行修正，及根据目标特征矩阵修正值对特征矩阵进行修正。

需要说明的是，上述各个模块可以是功能模块也可以是程序模块，既可以通过软件来实现，也可以通过硬件来实现。对于通过硬件来实现的模块而言，上述各个模块可以位于同一处理器中；或者上述各个模块还可以按照任意组合的形式分别位于不同的处理器中。

在本实施例中还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

可选地，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：

S1，根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；待修正的识别模型根据特征向量和特征矩阵构造；第一标签向量用于标识待测试的特征向量对应的身份信息，特征向量根据采集的用户的信息数据生成，特征矩阵根据用户的特征向量生成；

S2，根据待测试的特征向量、特征矩阵及待测试的特征向量对应的第一标签向量，构造攻击仿真模型；

S3，对攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；

S4，根据目标特征向量修正值对特征向量进行修正，及根据目标特征矩阵修正值对特征矩阵进行修正。

需要说明的是，在本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，在本实施例中不再赘述。

需要进一步说明的是，本申请所涉及的用户信息（包括但不限于用户设备信息、用户个人信息等）和数据（包括但不限于用于分析的数据、存储的数据、展示的数据等），均为经用户授权或者经过各方充分授权的信息和数据。这里的用户信息包括但不限于用户的生物信息。

此外，结合上述实施例中提供的一种识别模型的修正方法，在本实施例中还可以提供一种存储介质来实现。该存储介质上存储有计算机程序；该计算机程序被处理器执行时实现上述实施例中的任意一种识别模型的修正方法的步骤。

应该明白的是，这里描述的具体实施例只是用来解释这个应用，而不是用来对它进行限定。根据本申请提供的实施例，本领域普通技术人员在不进行创造性劳动的情况下得到的所有其它实施例，均属本申请保护范围。

显然，附图只是本申请的一些例子或实施例，对本领域的普通技术人员来说，也可以根据这些附图将本申请适用于其他类似情况，但无需付出创造性劳动。另外，可以理解的是，尽管在此开发过程中所做的工作可能是复杂和漫长的，但是，对于本领域的普通技术人员来说，根据本申请披露的技术内容进行的某些设计、制造或生产等更改仅是常规的技术手段，不应被视为本申请公开的内容不足。

“实施例”一词在本申请中指的是结合实施例描述的具体特征、结构或特性可以包括在本申请的至少一个实施例中。该短语出现在说明书中的各个位置并不一定意味着相同的实施例，也不意味着与其它实施例相互排斥而具有独立性或可供选择。本领域的普通技术人员能够清楚或隐含地理解的是，本申请中描述的实施例在没有冲突的情况下，可以与其它实施例结合。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对专利保护范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请的保护范围应以所附权利要求为准。

Claims (9)

1.一种识别模型的修正方法，其特征在于，所述方法包括：

根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；所述待修正的识别模型根据特征向量和特征矩阵构造；所述第一标签向量用于标识所述待测试的特征向量对应的身份信息，所述特征向量根据采集的用户的信息数据生成，所述特征矩阵根据所述用户的特征向量生成；

根据所述待测试的特征向量、所述特征矩阵、所述待测试的特征向量对应的第一标签向量、特征向量修正值、特征矩阵修正值和第二标签向量，构造攻击仿真模型；所述第二标签向量用于标识所述识别模型遭受攻击后，所述识别模型识别出的身份信息；

对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；所述目标特征向量修正值即为识别模型外部最小的扰动信息值，所述目标特征矩阵修正值即为识别模型内部最小的扰动信息值；当识别模型外部的特征向量扰动超过外部最小的扰动信息值及识别模型内部的特征矩阵扰动超过内部最小的扰动信息值时，输入至识别模型的待测试的特征向量，会被识别模型误识别成为第一目标对象，所述待测试的特征向量对应的真实身份为第二目标对象，所述第一目标对象和所述第二目标对象身份差异信息最小；

根据所述目标特征向量修正值对所述特征向量进行修正，及根据所述目标特征矩阵修正值对所述特征矩阵进行修正。

2.根据权利要求1所述的识别模型的修正方法，其特征在于，所述方法还包括：

采集所述用户的信息数据；

对所述信息数据进行特征提取，得到所述用户的特征向量。

3.根据权利要求1所述的识别模型的修正方法，其特征在于，所述根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量，包括：

根据所述待修正的识别模型、待测试的特征向量、所述特征矩阵、特征向量修正值和特征矩阵修正值，生成所述待测试的特征向量对应的第一标签向量。

4.根据权利要求1所述的识别模型的修正方法，其特征在于，所述对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值，包括：

对所述攻击仿真模型进行求解，得到目标特征向量修正值、目标特征矩阵修正值和目标第二标签向量。

5.根据权利要求1所述的识别模型的修正方法，其特征在于，所述方法还包括：

根据修正后的特征向量和修正后的特征矩阵，修正所述待修正的识别模型。

6.根据权利要求4所述的识别模型的修正方法，其特征在于，所述方法还包括：

根据修正后的特征向量、修正后的特征矩阵和所述目标第二标签向量，修正所述待修正的识别模型。

7.一种识别模型的修正装置，其特征在于，所述装置包括：

获取模块，用于根据待修正的识别模型，获取待测试的特征向量对应的第一标签向量；所述待修正的识别模型根据特征向量和特征矩阵构造；所述第一标签向量用于标识所述待测试的特征向量对应的身份信息，所述特征向量根据采集的用户的信息数据生成，所述特征矩阵根据所述用户的特征向量生成；

构造模块，用于根据所述待测试的特征向量、所述特征矩阵、所述待测试的特征向量对应的第一标签向量、特征向量修正值、特征矩阵修正值和第二标签向量，构造攻击仿真模型；所述第二标签向量用于标识所述识别模型遭受攻击后，所述识别模型识别出的身份信息；

计算模块，用于对所述攻击仿真模型进行求解，得到目标特征向量修正值和目标特征矩阵修正值；所述目标特征向量修正值即为识别模型外部最小的扰动信息值，所述目标特征矩阵修正值即为识别模型内部最小的扰动信息值；当识别模型外部的特征向量扰动超过外部最小的扰动信息值及识别模型内部的特征矩阵扰动超过内部最小的扰动信息值时，输入至识别模型的待测试的特征向量，会被识别模型误识别成为第一目标对象，所述待测试的特征向量对应的真实身份为第二目标对象，所述第一目标对象和所述第二目标对象身份差异信息最小；

修正模块，用于根据所述目标特征向量修正值对所述特征向量进行修正，及根据所述目标特征矩阵修正值对所述特征矩阵进行修正。

8.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行权利要求1至权利要求6中任一项所述的识别模型的修正方法。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至权利要求6中任一项所述的识别模型的修正方法的步骤。

Images