CN113360310B - 网络模型异常的处理方法、装置、设备和存储介质 - Google Patents

Abstract

本公开提供了网络模型异常的处理方法、装置、设备和存储介质，涉及人工智能技术领域，尤其涉及深度学习技术领域。具体实现方案为：确定异常网络模型版本和异常样本特征值；根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。本公开实施例能够提高网络模型的异常处理效率。

Description

网络模型异常的处理方法、装置、设备和存储介质

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习技术领域，具体涉及网络模型异常的处理方法、装置、设备和存储介质。

背景技术

诸如深度神经网络(Deep Neural Networks，DNN)模型之类的非线性模型，广泛应用于线上预测任务。非线性模型不同于线性模型，更似于黑盒系统，从输入层到输出层存在多个隐藏层。

在线上预测任务存在异常的情况下，需要对非线性模型进行分析，以定位模型异常原因。

发明内容

本公开提供了一种用于网络模型异常的处理方法、装置、设备和存储介质。

根据本公开的一方面，提供了一种网络模型异常的处理方法，包括：

确定异常网络模型版本和异常样本特征值；

根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。

根据本公开的又一方面，提供了一种网络模型异常的处理装置，包括：

版本特征值模块，用于确定异常网络模型版本和异常样本特征值；

参数向量模块，用于根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

预测模块，用于根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。

根据本公开的又一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开任意实施例所提供的网络模型异常的处理方法。

根据本公开的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开任意实施例所提供的网络模型异常的处理方法。

根据本公开的又一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开任意实施例所提供的网络模型异常的处理方法。

根据本公开的技术，能够提高网络模型的异常处理效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例提供的一种网络模型异常的处理方法的示意图；

图2是根据本公开实施例提供的另一种网络模型异常的处理方法的示意图；

图3是根据本公开实施例提供的又一种网络模型异常的处理方法的示意图；

图4是根据本公开实施例提供的又一种网络模型异常的处理方法的逻辑示意图；

图5根据本公开实施例提供的一种网络模型异常的处理装置的示意图；

图6是用来实现本公开实施例的网络模型异常的处理方法电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

以下结合附图，对本公开实施例提供的该方案进行详细说明。

图1是根据本公开实施例提供的一种网络模型异常的处理方法的示意图，本公开实施例可适用于网络模型在线上运行异常的情况下，对网络模型进行异常分析的情况。该方法可由一种网络模型异常的处理装置来执行，该装置可采用硬件和/或软件的方式来实现，可配置于电子设备中。参考图1，该方法具体包括如下：

S110、确定异常网络模型版本和异常样本特征值；

S120、根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

S130、根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。

在本公开实施例中，在通过网络模型执行线上预测任务过程中，可以对网络模型进行离线更新，并且从离线更新的网络模型中选择满足模型发布条件的网络模型发布到线上，执行线上预测任务。例如，可以将每天零点离线更新的网络模型作为基础网络模型，将每隔预设时长(如1小时)发布到线上的网络模型作为增量网络模型。基础网络模型、增量网络模型可以为非线性网络模型。本公开实施例对任务类型不做具体限定，如任务类型可以为推荐类任务。

其中，异常网络模型版本可以为线上预测任务发生异常时，线上使用的网络模型版本，异常网络模型可以为预测任务发生异常时所采用的线上预测模型，异常网络模型为增量网络模型，异常样本特征值可以为线上预测任务所采用的样本特征值。也就是说，在线上的任一网络模型对任意样本特征值所预测的任务得分异常的情况下，可以将该网络模型的版本信息作为异常网络模型版本，且将该样本特征值作为异常样本特征值。其中，样本可以包括至少两个slot(样本槽)，每个样本槽有至少一个样本特征值(sign)，样本格式可以类似于slot1:sign1 slot1:sign2 slot2:sign3，即第一样本槽对应第一样本特征值和第二样本特征值，第二样本操作对应第三样本特征值。

其中，异常网络模型的网络参数可以包括参数权重w和偏置b，嵌入(Embedding)向量与样本特征值一一对应，各异常样本特征值有自己的嵌入向量。具体的，可以根据异常网络模型版本确定异常网络模型的网络参数，通过对异常样本特征值进行解析，得到异常样本特征值对应的嵌入向量。并且，可以基于深度学习库的静态库文件，采用异常样本特征值的嵌入向量和异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分，且记录预测过程中的网络层输出值，即记录预测过程中各网络层的前向输出值。

通过对异常样本特征值进行解析得到异常样本特征值的嵌入向量，基于深度学习库的静态库文件，使用异常网络模型的网络参数对异常样本进行预测，并记录预测过程中各网络层的前向输出值，从而可以根据隐藏层的前向输出值对异常网络模型进行分析，定位网络模型线上预估任务出现异常的原因，能够克服非线性模型中隐藏层的不透明问题，从而能够提高异常定位效率和准确度。

相关技术中，对非线性网络模型进行异常定位的方式，是先停止线上模型的样本配送，固定线上异常网络模型，采用异常样本(bad case)请求线上固定的异常网络模型，分析线上预测的任务得分，并结合模型的日志分析模型的异常原因。由于停止线上模型的样本配送，模型停更，导致对于线上后续的流量的预测不正确，给线上实时系统带来损失；无法对隐藏层进行分析；并且，涉及大量人工操作，异常处理效率低下。

本公开实施例的技术方案，通过对异常样本特征值进行解析，得到异常样本特征值对应的嵌入向量，并且本地采用异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分，并记录预测过程中各网络层的前向输出值，能够避免干扰线上预测任务，并且能够克服非线性模型中隐藏层的不透明问题，从而提高异常定位效率和准确度。

图2是根据本公开实施例提供的另一种网络模型异常的处理方法的示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图2，本实施例提供的网络模型异常的处理方法包括：

S210、确定异常网络模型版本和异常样本特征值；

S220、根据所述异常网络模型版本，确定异常网络模型的网络参数；

S230、根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量；

S240、根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。

其中，异常网络模型版本即异常网络模型的版本信息。具体的，针对每一网络模型，可以记录该网络模型的版本信息和该网络模型的网络参数。在获取异常网络模型版本(即异常网络模型的版本信息)之后，可以将异常网络模型版本，与各网络模型的版本信息进行匹配，将匹配成功的网络模型作为异常网络模型，以及将匹配成功的网络模型的网络参数作为异常网络模型的网络参数。

在对网络模型进行离线更新过程中，样本特征值、样本特征值的嵌入向量也随模型更新，即增量网络模型的更新过程可以引入新样本特征值，以及新样本特征值的嵌入向量。通过根据异常网络模型版本，从基础网络模型或增量网络模型的嵌入向量中查询异常样本特征值的嵌入向量，能够提高异常样本特征值的嵌入向量确定效率，从而提高模型异常处理效率。

在一种可选实施方式中，所述根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量，包括：获取所述异常网络模型版本到基础网络模型版本之间的至少一个中间网络模型版本；根据所述异常样本特征值，从所述异常网络模型版本和所述中间网络模型版本关联的嵌入向量中，查询异常样本特征值的嵌入向量。

由于样本特征值的嵌入向量随着网络模型的离线更新而不断更新。在获取异常网络模型版本后，可以分别获取位于异常网络模型版本与基础网络模型版本之间的增量网络模型版本作为中间网络模型版本。以delta-0为基础网络模型版本，且delta-3为异常网络模型版本为例，则中间网络模型版可以为delta-1和delta-2。各增量网络模型版本对应有包括样本特征值与嵌入向量之间关联关系的增量文件。可以通过分布式任务调度(MR.Queue，MRQ)逆序扫描异常网络模型版本所关联的增量文件、各中间网络模型版本所关联的增量文件，得到与异常样本特征值关联的嵌入向量，例如依次扫描delta-3、delta-2和delta-1的增量文件，在得到各异常样本特征值的嵌入向量后可以停止分布式任务。通过逆序扫描能够提高得到异常样本特征值的嵌入向量的速率。

在一种可选实施方式中，所述根据所述异常网络模型版本，确定异常网络模型的网络参数，包括：根据所述异常网络模型版本，确定异常网络模型的域名地址；根据所述异常网络模型的域名地址，获取异常网络模型的模型文件；从所述模型文件中提取所述异常网络模型的网络参数。

在增量网络模型构建过程中，通过不同域名地址分别存储增量网络模型的模型文件，并且记录有增量网络模型版本与域名地址之间的关联关系。在确定异常网络模型版本后，可以将与异常网络模型版本关联的域名地址作为异常网络模型的域名地址，并通过异常网络模型的地址访问异常网络模型的模型文件，进而提取异常网络模型的网络参数。通过不同域名地址对增量网络模型的模型文件进行分别存储，能够避免不同增量网络模型的模型文件混乱，相互干扰，从而提高异常网络模型的网络参数的准确性。

在一种可选实施方式中，所述根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，包括：若至少两个嵌入向量关联相同的样本槽，则对所述至少两个嵌入向量进行拼接；根据所述异常网络模型的网络参数和经拼接的嵌入向量，预测异常样本特征值的任务得分。

其中，每个样本槽可以有至少一个样本特征值(sign)，一个样本特征值对应一个嵌入向量。通过对关联相同样本槽的嵌入向量进行拼接，使每个样本槽对应唯一的嵌入向量。通过根据异常网络模型的网络参数和经拼接的嵌入向量(即每个样本槽对应唯一的嵌入向量)，能够提高对异常样本特征值进行预测的效率。

本公开实施例的技术方案，通过根据异常网络模型版本进行增量文件扫描，能够提高得到异常样本特征值的嵌入向量的速率，通过不同域名地址对增量网络模型的模型文件进行分别存储，能够避免不同增量网络模型的模型文件混乱，相互干扰，从而提高异常网络模型的网络参数的准确性。

图3是根据本公开实施例提供的又一种网络模型异常的处理方法的示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图3，本实施例提供的网络模型异常的处理方法包括：

S310、确定异常网络模型版本和异常样本特征值；

S320、根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

S330、根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值；

S340、确定与待分析模型指标关联的可视化组件；

S350、通过所述可视化组件，对预测过程中的网络层输出值进行可视化，得到所述待分析模型指标的可视化分析结果。

在本公开实施例中，网络层输出值是指在对异常样本进行预测过程中各网络层的前向输出值。受异常网络模型中神经元数量、样本数量的影响，前向输出值数量庞大，通过对前向输出值进行可视化分析，可以提高异常定位便捷性。

待分析模型指标可以是网络层输出值本身，即可以确定异常网络模型的神经元激活分布。也可以对异常网络模型进行数据分布、索引分布等。本公开实施例对待分析模型指标不做具体限定。待分析模型指标可以具有关联的可视化组件，不同待分析模型指标关联的可视化组件不同。并且，待分析模型指标更新，尤其是增加新的待分析模型指标后，通过增加与新的待分析模型指标关联的可视化组件，可以对新的待分析模型指标进行可视化分析。通过可视化组件，对网络层输出值进行可视化，不仅能够提高模型异常分析的直观性，提高异常定位效率，还能够便于引入新的待分析模型指标，提高异常分析的灵活性。本公开实施例对可视化组件不做具体限定，例如，可视化组件可以依托web(网页)可视化框架例如dash框架实现。通过本地化故障排查，复现异常样本特征值在线上预测的过程，探知异常网络模型各网络层经过了什么样的变化、影响，通过将各网络层的输出值可视化，并针对性引入待分析模型指标，辅助定位线上模型异常原因。

图4是根据本公开实施例提供的又一种网络模型异常的处理方法的逻辑示意图，参考图4，针对故障排除(DeBug)任务，获取异常网络模型版本和异常样本特征值，把任务下发给分布式任务调度，通过分布式任务调度，查询任务，即根据异常网络模型版本逆序扫描结构化数据库(如Redis)中异常网络模型版本关联的增量文件、中间网络模型版本关联的增量文件，直至得到各异常样本特征值的嵌入向量。还根据异常网络模型版本得到异常网络模型的网络参数。在确定异常网络模型的网络参数、各异常样本特征值的嵌入向量后，启动故障排除任务，通过深度学习模型的静态库，使用异常网络模型的网络参数、各异常样本特征值的嵌入向量，重新对各异常样本进行任务得分预测，且记录重新预测过程中各网络层的前向输出值，存储在分布式数据库(例如mongdb)中。前端依托可视化框架(如dash)对网络层的前向输出值进行可视化分析。待分析模型指标可以包括统计出各网络层的详情、前向输出值的数值分布、索引分布以及神经元激活分布等，使用户通过可视化的模型指标分析模型异常的原因。

参考图4，前端可以查看可视化分析结果，也可以通过可视化框架提交故障排除任务，且将前期提交的故障排除任务信息，如异常网络模型版本和异常样本特征值下发到分布式任务调度。

在本公开实施例中，采用本地化模式，无需线上停更模型或回滚模型，避免给线上实时系统带来损失，通过可视化分析，使得模型异常定位更加直观、便捷；还能大幅度降低人力的投入，提升了模型异常问题定位的效率。

图5根据本公开实施例提供的一种网络模型异常的处理装置的示意图，本实施例可适用于在网络模型线上运行异常的情况下，对网络模型进行异常分析的情况，该装置配置于电子设备中，可实现本公开任意实施例所述的网络模型异常的处理方法。参考图5，该网络模型异常的处理装置400具体包括如下：

版本特征值模块401，用于确定异常网络模型版本和异常样本特征值；

参数向量模块402，用于根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

预测模块403，用于根据所述异常网络模型的网络参数和所述嵌入向量，预测异常样本特征值的任务得分，并记录预测过程中的网络层输出值。

在一种可选实施方式中，所述参数向量模块402包括：

网络参数单元，用于根据所述异常网络模型版本，确定异常网络模型的网络参数；

嵌入向量单元，用于根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量。

在一种可选实施方式中，所述网络参数单元包括：

域名子单元，用于根据所述异常网络模型版本，确定异常网络模型的域名地址；

模型文件子单元，用于根据所述异常网络模型的域名地址，获取异常网络模型的模型文件；

网络参数子单元，用于从所述模型文件中提取所述异常网络模型的网络参数。

在一种可选实施方式中，所述嵌入向量单元包括：

中间版本子单元，用于获取所述异常网络模型版本到基础网络模型版本之间的至少一个中间网络模型版本；

嵌入向量子单元，用于根据所述异常样本特征值，从所述异常网络模型版本和所述中间网络模型版本关联的嵌入向量中，查询异常样本特征值的嵌入向量。

在一种可选实施方式中，所述预测模块403包括：

向量拼接单元，用于若至少两个嵌入向量关联相同的样本槽，则对所述至少两个嵌入向量进行拼接；

预测单元，用于根据所述异常网络模型的网络参数和经拼接的嵌入向量，预测异常样本特征值的任务得分。

在一种可选实施方式中，该网络模型异常的处理装置400还包括可视化分析模块，所述可视化分析模块包括：

可视化组件单元，用于确定与待分析模型指标关联的可视化组件；

可视化分析单元，用于通过所述可视化组件，对预测过程中的网络层输出值进行可视化，得到所述待分析模型指标的可视化分析结果。

本实施例的技术方案，采用本地化模式，无需线上停更模型或回滚模型，避免给线上实时系统带来损失，通过可视化分析，使得模型异常定位更加直观、便捷；还能大幅度降低人力的投入，提升了模型异常问题定位的效率。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种执行机器学习模型算法的计算单元、数字信息处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如网络模型异常的处理方法。例如，在一些实施例中，网络模型异常的处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的网络模型异常的处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行网络模型异常的处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上执行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (10)

1.网络模型异常的处理方法，包括：

确定异常网络模型版本和异常样本特征值；

根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

基于深度学习库的静态库文件，采用异常样本特征值的嵌入向量和异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分，并记录预测过程中的网络层输出值；

其中，所述根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量，包括：

根据所述异常网络模型版本，确定异常网络模型的域名地址；

根据所述异常网络模型的域名地址，获取异常网络模型的模型文件；

从所述模型文件中提取所述异常网络模型的网络参数；

根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量。

2.根据权利要求1所述的方法，其中，所述根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量，包括：

获取所述异常网络模型版本到基础网络模型版本之间的至少一个中间网络模型版本；

根据所述异常样本特征值，从所述异常网络模型版本和所述中间网络模型版本关联的嵌入向量中，查询异常样本特征值的嵌入向量。

3.根据权利要求1或2所述的方法，其中，所述基于深度学习库的静态库文件，采用异常样本特征值的嵌入向量和异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分，包括：

若至少两个嵌入向量关联相同的样本槽，则对所述至少两个嵌入向量进行拼接；

基于深度学习库的静态库文件，采用经拼接的嵌入向量和所述异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分。

4.根据权利要求1或2所述的方法，所述记录预测过程中的网络层输出值之后，还包括：

确定与待分析模型指标关联的可视化组件；

通过所述可视化组件，对预测过程中的网络层输出值进行可视化，得到所述待分析模型指标的可视化分析结果。

5.一种网络模型异常的处理装置，包括：

版本特征值模块，用于确定异常网络模型版本和异常样本特征值；

参数向量模块，用于根据所述异常网络模型版本和所述异常样本特征值，确定异常网络模型的网络参数和异常样本特征值的嵌入向量；

预测模块，用于基于深度学习库的静态库文件，采用异常样本特征值的嵌入向量和异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分，并记录预测过程中的网络层输出值；

其中，所述参数向量模块包括：

网络参数单元，用于根据所述异常网络模型版本，确定异常网络模型的网络参数；

嵌入向量单元，用于根据所述异常网络模型版本和所述异常样本特征值，确定异常样本特征值的嵌入向量；

其中，所述网络参数单元包括：

域名子单元，用于根据所述异常网络模型版本，确定异常网络模型的域名地址；

模型文件子单元，用于根据所述异常网络模型的域名地址，获取异常网络模型的模型文件；

网络参数子单元，用于从所述模型文件中提取所述异常网络模型的网络参数。

6.根据权利要求5所述的装置，其中，所述嵌入向量单元包括：

中间版本子单元，用于获取所述异常网络模型版本到基础网络模型版本之间的至少一个中间网络模型版本；

嵌入向量子单元，用于根据所述异常样本特征值，从所述异常网络模型版本和所述中间网络模型版本关联的嵌入向量中，查询异常样本特征值的嵌入向量。

7.根据权利要求5或6所述的装置，其中，所述预测模块包括：

向量拼接单元，用于若至少两个嵌入向量关联相同的样本槽，则对所述至少两个嵌入向量进行拼接；

预测单元，用于基于深度学习库的静态库文件，采用经拼接的嵌入向量和所述异常网络模型的网络参数对异常样本进行预测，得到预测的任务得分。

8.根据权利要求5或6所述的装置，还包括可视化分析模块，所述可视化分析模块包括：

可视化组件单元，用于确定与待分析模型指标关联的可视化组件；

可视化分析单元，用于通过所述可视化组件，对预测过程中的网络层输出值进行可视化，得到所述待分析模型指标的可视化分析结果。

9. 一种电子设备，其中，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。