CN112070235A - 一种深度学习框架的异常定位方法、装置及存储介质 - Google Patents

一种深度学习框架的异常定位方法、装置及存储介质 Download PDF

Info

Publication number
CN112070235A
CN112070235A CN202010937170.8A CN202010937170A CN112070235A CN 112070235 A CN112070235 A CN 112070235A CN 202010937170 A CN202010937170 A CN 202010937170A CN 112070235 A CN112070235 A CN 112070235A
Authority
CN
China
Prior art keywords
model
neural network
layer
signal
test frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010937170.8A
Other languages
English (en)
Inventor
李滨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Pinecone Electronic Co Ltd
Priority to CN202010937170.8A priority Critical patent/CN112070235A/zh
Publication of CN112070235A publication Critical patent/CN112070235A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本公开提供了一种深度学习框架的异常定位方法、装置及介质，此方法包括：确定第一神经网络模型的总层数；根据第一神经网络模型确定有序的多个子模型，其中，多个子模型的个数与所述总层数相同，每个子模型包括第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同；使用相同的输入数据分别在参考框架和测试框架上依序运行多个子模型，并且根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子；根据所有子模型对应的信噪比定位所述测试框架的异常位置。本公开可以提高定位准确度。

Description

一种深度学习框架的异常定位方法、装置及存储介质
技术领域
本公开涉及深度学习技术领域，尤其涉及一种深度学习框架的异常定位方法、装置及存储介质。
背景技术
越来越多的用于机器学习算法编程实现的框架得到广泛应用。此类系统一般部署于各类服务器、PC端和网页并支持图形处理器(Graphics Processing Unit，简称GPU)高性能数值计算，被广泛应用于产品开发和各领域的科学研究。
检测此类系统的异常位置的方式一般为对系统的内部单元进行测试，发现内部单元与设计目标的差异。但这种检测方式需要较大的较长的处理时间并使用较多的处理资源。
所以提高定位框架异常位置的性能是需要解决的技术问题。
发明内容
为克服相关技术中存在的问题，本公开提供了一种深度学习框架的异常定位方法、装置及存储介质
根据本公开实施例的第一方面，提供一种深度学习框架的异常定位方法，包括：
确定第一神经网络模型的总层数；
根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同；
使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型，并且根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子；
根据所有子模型对应的信噪比定位所述测试框架的异常位置。
在一实施方式中，所述根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，包括：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
在一实施方式中，所述根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
确定满足降低幅度大于设定幅度的各个模型对；
从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
在一实施方式中，所述方法还包括：确定第二神经网络模型；所述第二神经网络模型的第一层的节点是非数值变换类的节点；
所述根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
在一实施方式中，所述方法还包括：在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
根据本公开实施例的第二方面，提供一种深度学习框架的异常定位装置，包括：
第一确定模块，被配置为确定第一神经网络模型的总层数；
第二确定模块，被配置为根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同；
运行模块，被配置为使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型；
第三确定模块，被配置为根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子；
定位模块，被配置为根据所有子模型对应的信噪比定位所述测试框架的异常位置。
在一实施方式中，第三确定模块，还被配置为使用以下方法根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
在一实施方式中，所述定位模块，还被配置为使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
确定满足降低幅度大于设定幅度的各个模型对；
从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
在一实施方式中，所述装置还包括：
第四确定模块，被配置为确定第二神经网络模型；所述第二神经网络模型的第一层的节点是非数值变换类的节点；
所述定位模块，还被配置使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置：
所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
在一实施方式中，所述定位模块，还被配置为在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
根据本公开实施例的第三方面，提供一种深度学习框架的异常定位装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述方法。
根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行所述方法。
本公开的实施例提供的技术方案可以包括以下有益效果：通过设置包括第一神经网络模型中以第一层为起点的连续的多个层的子模型的方式，对第一神经网络模型的结构进行分层，使用多个子模型进行测试，根据多个子模型分别在参考框架和测试框架上运行后得到的信噪比，定位测试框架的异常位置，使用不同的子模型实现模拟第一神经网络模型中不同处理阶段的效果，提高定位准确度。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种深度学习框架的异常定位的方法的流程图；
图2是根据一示例性实施例示出的一种深度学习框架的异常定位的装置的结构图；
图3是根据一示例性实施例示出的一种深度学习框架的异常定位的装置的结构图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本公开实施例中提供一种深度学习框架的异常定位的方法。参照图1，图1是根据一示例性实施例示出的一种深度学习框架的异常定位方法的流程图。如图1所示，此方法包括：
步骤S11，确定第一神经网络模型的总层数。
步骤S12,根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同。
步骤S13,使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型，并且根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子。
步骤S14，根据所有子模型对应的信噪比定位所述测试框架的异常位置。
其中，参考框架和测试框架均是用于机器学习算法编程实现的框架。例如：参考框架是TensorFlow，测试框架是MACE。
例如：第一神经网络模型共包括5层，即总层数为5。确定5个子模型，此5个子模型分别包括第一神经网络模型的第1层、第1至2层、第1至3层、第1至4层，第1至5层。
本实施例中，通过设置包括第一神经网络模型中以第一层为起点的连续的多个层的子模型的方式，对第一神经网络模型的结构进行分层，使用多个子模型进行测试，根据多个子模型分别在参考框架和测试框架上运行后得到的信噪比，定位测试框架的异常位置，使用不同的子模型实现模拟第一神经网络模型中不同处理阶段的效果，提高定位准确度。
本公开实施例中提供一种深度学习框架的异常定位方法，此方法包括图1所示的方法，并且：步骤S13中，根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，包括：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
其中，每个子模型在参考框架的输出结果与测试框架的输出结果之间的差值是此子模型在参考框架的输出结果与测试框架的输出结果的差，或者是，此子模型在测试框架的输出结果与参考框架的输出结果的差，或者是两者的差值绝对值。
本公开实施例中提供一种深度学习框架的异常定位方法，此方法包括图1所示的方法，并且：步骤S14中，根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
步骤S141，确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
步骤S142，计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
步骤S143,确定满足降低幅度大于设定幅度的各个模型对；
步骤S144，从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
步骤S145，确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
例如：设定幅度为0.5。第一神经网络模型共包括5层，5个子模型分别为模型A、模型B、模型C、模型D和模型E。模型A包括第一神经网络模型的第1层，模型B包括第一神经网络模型的第1至2层，模型C包括第一神经网络模型的第1至3层，模型D包括第一神经网络模型的第1至4层，模型E包括第一神经网络模型的第1至5层。
5个子模型对应的信噪比依次为102、100、49、48、20。
确定4个模型对，每个模型对包括两个子模型，第一个子模型的总层数小于第二个子模型的总层数。即每个模型对包括相邻的两个子模型。第一个模型对包括模型A和模型B，第二个模型对包括模型B和模型C，第三个模型对包括模型C和模型D，第四个模型对包括模型D和模型E。
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度。4个模型对对应的降低幅度依次为：0.0196，0.51，0.02，0.58。
确定满足降低幅度大于设定幅度的各个模型对是第二个模型对和第四个模型对。
从第二个模型对和第四个模型对中选择第一个子模型的总层数最低的模型对或者选择第二个子模型的总层数最低的模型对，选择出第二个模型对。第二个模型对包括模型B和模型C。
确定第二个模型对中第二个子模型即模型C的最后一层是目标层，此目标层是第一神经网络模型中的第3层，确定测试框架的异常位置是此目标层在测试框架中对应的算子。
本公开实施例中提供一种深度学习框架的异常定位方法，此方法包括图1所示的方法，并且还包括：确定第二神经网络模型；所述第二神经网络模型的第一层的节点是非数值变换类的节点；
步骤S14中根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
其中，第一神经网络模型的第一层在所述参考框架对应的算子与第二神经网络模型的第一层在所述参考框架对应的算子不同。第一神经网络模型的第一层在所述参考框架对应的算子是数值变换类的节点。第二神经网络模型的第一层在所述参考框架对应的算子是非数值变换类的节点。
第一神经网络模型的第一层在所述测试框架对应的算子与第二神经网络模型的第一层在所述测试框架对应的算子不同。第一神经网络模型的第一层在所述测试框架对应的算子是数值变换类的节点。第二神经网络模型的第一层在所述测试框架对应的算子是非数值变换类的节点。
其中，数值变换类的算子一般为运算算子，例如：进行加、减、乘、除、多次方、卷积等。
非数值变换类的算子是指对数据进行格式上的重新设置而不改变数据的内容的算子，例如将12个数据依次排列的向量，转换为排列为3乘4的矩阵。
在一实施方式中，在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
本公开实施例中提供一种深度学习框架的异常定位装置。参照图2，图2是根据一示例性实施例示出的一种深度学习框架的异常定位装置的结构图。如图2所示，此装置包括：
第一确定模块201，被配置为确定第一神经网络模型的总层数。
第二确定模块202，被配置根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同。
运行模块203，被配置为被配置为使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型。
第三确定模块204，被配置为根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子。
定位模块205，被配置为根据所有子模型对应的信噪比定位所述测试框架的异常位置。
本公开实施例中提供一种深度学习框架的异常定位装置，此装置包括图2所示的装置，并且：第三确定模块204，还被配置为使用以下方法根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
本公开实施例中提供一种深度学习框架的异常定位装置，此装置包括图2所示的装置，并且：定位模块205，还被配置为使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
确定满足降低幅度大于设定幅度的各个模型对；
从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
本公开实施例中提供一种深度学习框架的异常定位装置，此装置包括图2所示的装置，并且还包括：第四确定模块，被配置为确定第二神经网络模型；所述第二神经网络模型的第一层在所述参考框架和所述测试框架中对应的算子与所述第一神经网络模型的第一层在所述参考框架和所述测试框架中对应的算子相同；所述第二神经网络模型的第一层的节点是非数值变换类的节点。
定位模块205，还被配置使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置：
所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
在一实施方式中，定位模块205，还被配置为在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
图3是根据一示例性实施例示出的一种深度学习框架的异常定位装置300的框图。例如，装置300可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图3，装置300可以包括以下一个或多个组件：处理组件302，存储器304，电源组件306，多媒体组件308，音频组件310，输入/输出(I/O)的接口312，传感器组件314，以及通信组件316。
处理组件302通常控制装置300的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件302可以包括一个或多个处理器320来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件302可以包括一个或多个模块，便于处理组件302和其他组件之间的交互。例如，处理组件302可以包括多媒体模块，以方便多媒体组件308和处理组件302之间的交互。
存储器304被配置为存储各种类型的数据以支持在设备300的操作。这些数据的示例包括用于在装置300上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器304可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件306为装置300的各种组件提供电力。电源组件306可以包括电源管理系统，一个或多个电源，及其他与为装置300生成、管理和分配电力相关联的组件。
多媒体组件308包括在所述装置300和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件308包括一个前置摄像头和/或后置摄像头。当设备300处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件310被配置为输出和/或输入音频信号。例如，音频组件310包括一个麦克风(MIC)，当装置300处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器304或经由通信组件316发送。在一些实施例中，音频组件310还包括一个扬声器，用于输出音频信号。
I/O接口312为处理组件302和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件314包括一个或多个传感器，用于为装置300提供各个方面的状态评估。例如，传感器组件314可以检测到设备300的打开/关闭状态，组件的相对定位，例如所述组件为装置300的显示器和小键盘，传感器组件314还可以检测装置300或装置300一个组件的位置改变，用户与装置300接触的存在或不存在，装置300方位或加速/减速和装置300的温度变化。传感器组件314可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件314还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件314还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件316被配置为便于装置300和其他设备之间有线或无线方式的通信。装置300可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件316经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件316还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置300可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器304，上述指令可由装置300的处理器320执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (12)

1.一种深度学习框架的异常定位方法，其特征在于，包括：
确定第一神经网络模型的总层数；
根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同；
使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型，并且根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中,所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子；
根据所有子模型对应的信噪比定位所述测试框架的异常位置。
2.如权利要求1所述的方法，其特征在于，
所述根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，包括：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
3.如权利要求1所述的方法，其特征在于，
所述根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
确定满足降低幅度大于设定幅度的各个模型对；
从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
4.如权利要求1所述的方法，其特征在于，
所述方法还包括：确定第二神经网络模型；所述第二神经网络模型的第一层的节点是非数值变换类的节点；
所述根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
5.如权利要求4所述的方法，其特征在于，
所述方法还包括：在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
6.一种深度学习框架的异常定位装置，其特征在于，包括：
第一确定模块，被配置为确定第一神经网络模型的总层数；
第二确定模块，被配置为根据所述第一神经网络模型确定有序的多个子模型，其中，所述多个子模型的个数与所述总层数相同，每个子模型包括所述第一神经网络模型中以第一层为起点的连续的多个层，不同的子模型包括的层的个数不同；
运行模块，被配置为使用相同的输入数据分别在参考框架和测试框架上依序运行所述多个子模型；
第三确定模块，被配置为根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比，其中所述参考框架和所述测试框架均包括与所述第一神经网络模型的每个层对应的算子；
定位模块，被配置为根据所有子模型对应的信噪比定位所述测试框架的异常位置。
7.如权利要求6所述的装置，其特征在于，
第三确定模块，还被配置为使用以下方法根据每个子模型在所述参考框架和所述测试框架上的运行结果的差别确定每个子模型对应的信噪比：
将每个子模型在所述参考框架的运行结果作为信号，将所述子模型在所述参考框架的运行结果与所述测试框架的运行结果之间的差值作为噪声，根据所述信号和所述噪声计算所述子模型的信噪比。
8.如权利要求6所述的装置，其特征在于，
所述定位模块，还被配置为使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置，包括：
确定多个模型对，每个模型对包括总层数相差1的两个子模型，每个模型对中第一个子模型的总层数小于第二个子模型的总层数；
计算每个模型对中第二个子模型的信噪比相比第一个子模型的噪比的降低幅度；
确定满足降低幅度大于设定幅度的各个模型对；
从满足降低幅度大于设定幅度的各个模型对中选择第一个子模型的总层数最低的模型对，或者选择第二个子模型的总层数最低的模型对；
确定选择出的模型对中第二个子模型的最后一层是目标层，确定所述测试框架的异常位置是所述目标层在所述测试框架中对应的算子。
9.如权利要求6所述的装置，其特征在于，
所述装置还包括：
第四确定模块，被配置为确定第二神经网络模型；所述第二神经网络模型的第一层的节点是非数值变换类的节点；
所述定位模块，还被配置使用以下方法根据所有子模型对应的信噪比定位所述测试框架的异常位置：
所述有序的多个子模型中的第一个子模型对应的信噪比小于设定值并且所述第一神经网络模型的第一层的节点是数值变换类的节点时，使用相同的输入数据对所述第二神经网络的第一层分别在参考框架和测试框架上运行，根据所述第二神经网络的第一层在所述参考框架和所述测试框架上的运行结果之间的差值确定所述第二神经网络的第一层对应的信噪比，在所述第二神经网络的第一层对应的信噪比小于或等于所述设定值时，确定所述测试框架的异常位置是框架结构。
10.如权利要求9所述的装置，其特征在于，
所述定位模块，还被配置为在所述第二神经网络的第一层对应的信噪比大于所述设定值时，确定所述测试框架的异常位置是所述第一神经网络模型的第一层在所述测试框架对应的算子。
11.一种深度学习框架的异常定位的装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述权利要求1至5中任一权利要求所述的方法。
12.一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行所述权利要求1至5中任一权利要求所述的方法。
CN202010937170.8A 2020-09-08 2020-09-08 一种深度学习框架的异常定位方法、装置及存储介质 Pending CN112070235A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010937170.8A CN112070235A (zh) 2020-09-08 2020-09-08 一种深度学习框架的异常定位方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010937170.8A CN112070235A (zh) 2020-09-08 2020-09-08 一种深度学习框架的异常定位方法、装置及存储介质

Publications (1)

Publication Number Publication Date
CN112070235A true CN112070235A (zh) 2020-12-11

Family

ID=73664493

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010937170.8A Pending CN112070235A (zh) 2020-09-08 2020-09-08 一种深度学习框架的异常定位方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN112070235A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113360310A (zh) * 2021-06-02 2021-09-07 北京百度网讯科技有限公司 网络模型异常的处理方法、装置、设备和存储介质
CN114363949A (zh) * 2022-01-21 2022-04-15 杭州北斗时空研究院 一种用于uwb定位系统的异常数据检测方法
CN115113528A (zh) * 2022-07-06 2022-09-27 昆仑芯(北京)科技有限公司 神经网络模型的运行控制方法、装置、设备及介质
CN117349034A (zh) * 2023-12-05 2024-01-05 创意信息技术股份有限公司 一种大语言模型分层加载方法及装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113360310A (zh) * 2021-06-02 2021-09-07 北京百度网讯科技有限公司 网络模型异常的处理方法、装置、设备和存储介质
CN113360310B (zh) * 2021-06-02 2023-08-04 北京百度网讯科技有限公司 网络模型异常的处理方法、装置、设备和存储介质
CN114363949A (zh) * 2022-01-21 2022-04-15 杭州北斗时空研究院 一种用于uwb定位系统的异常数据检测方法
CN114363949B (zh) * 2022-01-21 2023-06-02 杭州北斗时空研究院 一种用于uwb定位系统的异常数据检测方法
CN115113528A (zh) * 2022-07-06 2022-09-27 昆仑芯(北京)科技有限公司 神经网络模型的运行控制方法、装置、设备及介质
CN117349034A (zh) * 2023-12-05 2024-01-05 创意信息技术股份有限公司 一种大语言模型分层加载方法及装置
CN117349034B (zh) * 2023-12-05 2024-02-23 创意信息技术股份有限公司 一种大语言模型分层加载方法及装置

Similar Documents

Publication Publication Date Title
TWI781359B (zh) 人臉和人手關聯檢測方法及裝置、電子設備和電腦可讀儲存媒體
US20210012523A1 (en) Pose Estimation Method and Device and Storage Medium
CN112070235A (zh) 一种深度学习框架的异常定位方法、装置及存储介质
CN109165738B (zh) 神经网络模型的优化方法及装置、电子设备和存储介质
CN107590534B (zh) 训练深度卷积神经网络模型的方法、装置及存储介质
CN107967459B (zh) 卷积处理方法、装置及存储介质
CN110543849B (zh) 检测器的配置方法及装置、电子设备和存储介质
CN110188865B (zh) 信息处理方法及装置、电子设备和存储介质
CN113239232B (zh) 图神经网络推荐系统、方法、装置、电子设备及存储介质
CN109358788B (zh) 界面显示方法、装置及终端
CN109447258B (zh) 神经网络模型的优化方法及装置、电子设备和存储介质
CN112948704A (zh) 用于信息推荐的模型训练方法、装置、电子设备以及介质
CN108984628B (zh) 内容描述生成模型的损失值获取方法及装置
CN107480773B (zh) 训练卷积神经网络模型的方法、装置及存储介质
CN105551047A (zh) 图片内容的检测方法和装置
CN111859097B (zh) 数据处理方法、装置、电子设备及存储介质
CN112259122A (zh) 音频类型识别方法、装置及存储介质
CN115512116B (zh) 图像分割模型优化方法、装置、电子设备及可读存储介质
CN111046780A (zh) 神经网络训练及图像识别方法、装置、设备和存储介质
CN115953710A (zh) 一种行为识别方法、装置、电子设备及存储介质
CN111860552A (zh) 基于核自编码器的模型训练方法、装置及存储介质
CN116310633A (zh) 一种关键点检测模型训练方法及关键点检测方法
CN111367669B (zh) 一种确定最优运算通路的方法、装置及介质
CN114549327A (zh) 视频超分辨率方法、装置、电子设备、存储介质
CN110659726B (zh) 一种图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination