CN115712517B - 一种神经网络处理器的故障处理方法及装置 - Google Patents
一种神经网络处理器的故障处理方法及装置 Download PDFInfo
- Publication number
- CN115712517B CN115712517B CN202211208823.4A CN202211208823A CN115712517B CN 115712517 B CN115712517 B CN 115712517B CN 202211208823 A CN202211208823 A CN 202211208823A CN 115712517 B CN115712517 B CN 115712517B
- Authority
- CN
- China
- Prior art keywords
- fault
- neural network
- network processor
- module
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 272
- 238000003672 processing method Methods 0.000 title abstract description 8
- 238000012545 processing Methods 0.000 claims abstract description 86
- 238000000034 method Methods 0.000 claims abstract description 66
- 230000008569 process Effects 0.000 claims abstract description 27
- 230000004044 response Effects 0.000 claims abstract description 24
- 238000004364 calculation method Methods 0.000 claims description 178
- 238000012360 testing method Methods 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 10
- 230000001052 transient effect Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 17
- 238000011176 pooling Methods 0.000 description 11
- 230000007246 mechanism Effects 0.000 description 8
- 238000003062 neural network model Methods 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000007257 malfunction Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Hardware Redundancy (AREA)
Abstract
公开了一种神经网络处理器的故障处理方法及装置,包括:获取神经网络处理器的故障信息,根据故障信息确定所述神经网络处理器中的故障模块的故障类型;根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理。本公开在发现神经网络处理器出现故障时,不会立即重启整个神经网络处理器或者重启整个自动驾驶系统,而是采用上述方法先确定当前故障的故障类型,再选择相应的调控模式对故障模块出现的故障进行处理,可使得神经网络处理器能够快速恢复正常工作状态,并继续执行出错之前的任务,从而提高神经网络处理器的故障处理效率,保证了自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
Description
技术领域
本公开涉及人工智能技术领域,更具体地,涉及一种神经网络处理器的故障处理方法、装置、可读存储介质及电子设备。
背景技术
神经网络技术被广泛的应用到诸如安全监控、辅助驾驶、智能机器人、智能医疗等领域来完成各种任务,例如,在自动驾驶系统中,用于图像识别、图像分类、语音识别等,而在利用神经网络算法执行各种任务时需要利用到神经网络处理器来完成数据的处理,因此为了保证各种任务的顺利执行,对神经网络处理器(或称神经网络加速器)的故障处理是非常重要的。
目前,在检测到神经网络处理器存在故障时,通常会重启整个神经网络处理器。而对整个神经网络处理器进行重启需要耗费较长的时间,从而导致神经网络处理器不能对外界信息进行快速处理并反馈,影响任务的执行进程。
发明内容
为了解决上述技术问题,本公开实施例提供了一种神经网络处理器的故障处理方法及装置,可快速地定位到出错的模块,并进行故障识别,使得神经网络处理器能够快速恢复正常工作状态,并继续执行出错之前的任务,从而提高神经网络处理器的故障处理效率,进而保证神经网络处理器能对外界信息进行快速反应,不影响任务的执行进程。
根据本公开的第一方面,提供了一种神经网络处理器的故障处理方法,包括:
获取神经网络处理器的故障信息;
根据故障信息确定神经网络处理器中的故障模块的故障类型;
根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理。
根据本公开的第二方面,提供了一种神经网络处理器的故障处理装置,包括:
故障信息获取模块,被配置为获取神经网络处理器的故障信息;
故障类型确定模块,被配置为根据故障信息确定神经网络处理器中故障模块的故障类型;
故障处理模块,被配置为根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理。
根据本公开的第三方面,提供了一种计算机可读存储介质,存储介质存储有计算机程序,计算机程序用于执行上述的神经网络处理器的故障处理方法。
根据本公开的第四方面,提供了一种电子设备,电子设备包括:
神经网络处理器;
用于存储神经网络处理器可执行指令的存储器;
神经网络处理器,用于从存储器中读取可执行指令,并执行指令以实现上述的神经网络处理器的故障处理方法。
与现有技术相比,本公开提供的神经网络处理器的故障处理方法及装置,至少包括以下有益效果:
本公开实施例与传统的故障处理方法相比,不是在一经发现故障就立即重启整个神经网络处理器,甚至重启整个系统(如自动驾驶系统),而是通过先获取神经网络处理器的故障信息,根据故障信息确定神经网络处理器中的故障模块的故障类型;再根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理,可使得神经网络处理器能够快速恢复正常工作状态,并继续执行出错之前的任务,从而提高神经网络处理器的故障处理效率,保证了自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开一示例性实施例提供的神经网络处理器的故障处理方系统的结构示意图;
图2是本公开一示例性实施例提供的神经网络处理器的故障处理方法流程示意图;
图3是本公开一示例性实施例提供的神经网络处理器的故障处理方法中步骤201和步骤202的流程示意图;
图4是本公开一示例性实施例提供的神经网络处理器的故障处理方法中步骤203的流程示意图;
图5是本公开一示例性实施例提供的神经网络处理器的结构示意图;
图6是本公开一示例性实施例提供的神经网络处理器的故障处理方法中步骤S401的流程示意图;
图7是本公开一示例性实施例提供的神经网络处理器的故障处理方法中步骤S203的另一种流程示意图;
图8是本公开一示例性实施例提供的神经网络处理器的故障处理方法中对故障模块出现的故障进行处理之前的流程示意图;
图9是本公开一种示例性实施例提供的神经网络处理器的故障处理方法中步骤S203的又一种流程示意图;
图10是本公开一种示例性实施例提供的神经网络处理器的故障处理方法中步骤S901的一种流程示意图;
图11是本公开一种示例性实施例提供的神经网络处理器的故障处理装置的结构示意图;
图12是本公开一示例性实施例提供的神经网络处理器的故障处理装置中第一种故障处理模块113的结构示意图;
图13是本公开一示例性实施例提供的神经网络处理器的故障处理装置中第二种故障处理模块113的结构示意图;
图14是本公开一示例性实施例提供的神经网络处理器的故障处理装置中第三种故障处理模块113的结构示意图;
图15是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
本公开概述
神经网络(简称NN)已成功地应用于图像处理、语音分析等领域。例如,卷积神经网络(CNN)已被广泛地应用于辅助驾驶、安全监控、人机交互、工业控制等领域。
以自动驾驶系统为例,在训练完成神经网络模型之后,可以借助神经网络处理器来完成目标识别、图像分类等任务的处理。例如,基于来自车载传感器(camera(相机)、红外、Lidar(激光雷达)、Radar(毫米波雷达)等)获取声音、图像等感知数据作为输入数据,神经网络处理器运行编译后的神经网络模型对这些感知数据进行处理,执行各种任务(如目标检测、目标分类、目标识别、图像分割等),并获得输出数据。例如,在目标检测任务中,神经网络的输出数据可以为一些坐标框,标识出可能有目标对象的位置。又例如,在目标分类任务中,神经网络的输出数据可以为一个检测到的对象在某个分类或者某些分类上的打分数据,标识该对象属于某个分类的可能性。
如果神经网络处理器在计算过程中发生故障(例如,timeout(超时)、非法指令、计算逻辑故障、sram ecc故障(静态随机存储器故障)等),有可能会导致运算结果与预期结果不一致。例如,在目标分类任务中,运算结果与预期结果之间不一致,可体现在神经网络输出某个检测到的对象的某个分类的打分数值与预期结果有偏差。一般地,对于安全性能有较高要求的系统(如自动驾驶系统)中,都会设置相关的故障检测机制,以检测神经网络处理器的故障,并进行相应的故障处理。在相关技术中,可以检测到神经网络处理器发生的一些故障,例如,timeout(超时)、非法指令、计算逻辑故障、sram ecc故障(静态随机存储器故障)等。但是,当自动驾驶系统在发现神经网络加速器的故障或者收到神经网络加速器上报的故障信号指示时,就会立刻放弃当前计算结果,重启神经网络处理器,甚至重新启动整个系统。然而,重启过程比较耗时,且在重启的过程中,神经网络处理器不能正常处理自动驾驶系统的需求,与此同时,自动驾驶系统的任务也会被中断,因此,在重启神经网络处理器之后,还要重新进行任务计算,由此不利于自动驾驶系统对外界信息作出快速的反应,不仅会影响任务的执行进程,甚至还可能会影响到自动驾驶系统的安全性。
本公开实施例提供的神经网络处理器的故障处理方法,与相关技术相比,在发现神经网络处理器的故障或者接收到神经网络处理器上报的故障信号指示时,不会立刻放弃当前计算结果,重启神经网络处理器或者重启整个神经网络系统,而是通过先根据故障信息确定神经网络处理器中的故障模块的故障类型,再选择相应的调控模式对故障模块出现的故障进行处理,从而使得神经网络处理器能够快速恢复正常工作状态,并继续执行出错之前的任务,提高了神经网络处理器的故障处理效率,保证了自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
示例性系统
图1是本公开一示例性实施例提供的神经网络处理器的故障处理系统的结构示意图。如图1所示,该系统包括:故障控制处理装置101,以及与故障控制处理装置101连接的神经网络处理器102。
在本公开一示例性实施例中,故障控制处理装置101可以先检测或者收集神经网络处理器102的故障信息,然后对这些故障信息进行评估和分析,确定神经网络处理器中的故障模块的故障类型,之后再根据故障类型,使用预设的调控模式对神经网络处理器102的故障模块出现的故障进行处理。可见,本公开实施例提供的技术方案,在发现神经网络处理器的故障或者收到神经网络处理器上报的故障信号指示时,并不是立刻放弃当前计算结果,重启神经网络处理器或者重启整个神经网络系统,而是通过上述方法先确定神经网络处理器102出现故障的故障类型,然后再根据故障类型选用相应的调控模式进行故障处理,从而使得神经网络处理器能够快速恢复正常工作状态,并继续执行出错之前的任务,进而提高神经网络处理器的故障处理效率,保证自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
示例性方法
图2是本公开一示例性实施例提供的神经网络处理器的故障处理方法的流程示意图。
本公开中的神经网络处理器指的是具有数据处理能力和/或指令执行能力的任何形式的处理单元,例如通用处理器CPU、图形处理器GPU、专用集成电路ASIC、现场可编程门阵列FPGA等,也可以是专用的神经网络处理器或加速器等。神经网络处理器可以被配置为在启动(例如,通电)后其工作状态便受到检测和/或监控,以检测和/或监控其故障信息,并进行相应的故障处理。如图2所示,本公开一示例性实施例提供的神经网络处理器的故障处理方法,至少包括如下步骤:
步骤201,获取神经网络处理器的故障信息。结合图1,故障控制处理装置101可以通过检测神经网络处理器102是否发生了某些故障的方式来收集相关的故障信息。例如,可通过在故障控制处理装置101中设置与神经网络处理器102外部接口、计算逻辑、内部缓冲存储器等相关联的多个故障检测单元或集成的单个故障检测单元以确定处理器各模块的工作状态处于正常状态或发生故障。
在一实施例中,可以通过故障检测单元检测神经网络处理器102当前运行的程序代码是否发生更改/失真,若当前运行的程序代码发生更改/失真,则可以指示出现了程序错误(program fault),并收集相关的故障信息。
在一实施例中,可通过故障检测单元检测神经网络处理器102的各个通信接口的编码、位置等是否与预设的编码、位置等一致。当部分或全部通信接口的编码、位置等出现不一致的情况,可以指示出现了接口错误(interface fault),并收集相关的故障信息。
在一实施例中,可通过故障检测单元检测神经网络处理器102在执行运算时是否出现无响应或响应时间过长的情况。当出现响应时间过长时,可以指示超时错误(time outfault),并收集相关的故障信息。
此外,故障控制处理装置101还可以收集神经网络处理器102上报的故障信息。在一实施例中,神经网络处理器102可通过对其外部接口、神经网络计算逻辑、内部缓冲存储器等各部分的工作状态进行检测,并将检测到的故障信息上报至故障控制处理装置101。例如,可在神经网络处理器102中设置与外部接口、计算逻辑、内部缓冲存储器等相关联的多个检测单元或集成的单个检测单元以确定处理器各模块的工作状态处于正常状态或发生故障,并将检测到的故障信息上报至故障控制处理装置101。
在一实施例中,可通过检测单元检测神经网络处理器102的网络层是否发生神经网络运算相关的故障。例如,在检测到卷积(conv)层、全连接(FC)层或者分类(如softmax)层的某个单元发生故障时,可以指示出现计算逻辑故障,并将检测出来的故障信息上报至故障控制处理装置101。
在一实施例中,可通过检测单元检测神经网络处理器102的算术逻辑单元(ALU)编号、类型是否发生故障。例如,在检测到卷积(conv)、池化(pooling)、驱动(move)等的编号、类型与预设的编号、类型不一致,可以指示出现算术逻辑单元(ALU)编号、类型故障,并将检测到的故障信息上报至故障控制处理装置101。
在一实施例中,可通过检测单元检测神经网络处理器102的MAC地址在数组(array)中的位置是否发生错误。例如,在检测到神经网络处理器102的MAC地址在数组(array)中的位置发生错位或者更改时,可以指示MAC在数组(array)中的位置出错,并将检测到的故障信息上报至故障控制处理装置101。
在一实施例中,可通过检测单元检测神经网络处理器102内部存储过程中是否发生故障。例如,在将卷积运算的中间结果存储在内部静态随机存取存储器(sram)时,在检测到sram的位置和地址错误时,可以指示静态随机存取存储器(sram)的位置和地址出错,并将检测到的故障信息上报至故障控制处理装置101。
步骤202,根据故障信息确定神经网络处理器中的故障模块的故障类型。
故障控制处理装置101可对上述收集到的故障信息进行评估和分析,并根据评估分析结果确定神经网络处理器102中的故障模块的故障类型。
故障类型通常包括可恢复故障(瞬态可恢复故障)、不可恢复故障(永久不可恢复故障)和待确认故障(即暂时未被确定为瞬态故障和永久故障)。
步骤203,根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理。
预设的调控模式,包括重新计算模式和重启模式等。
在实际应用中,可预先建立故障类型与调控模式的对应关系,在确定了神经网络处理器的故障类型之后,可根据该对应关系选择相应的调控模式来对神经网络处理器中出现故障的故障模块进行处理,以尽快排除故障,恢复神经网络处理器的正常工作状态。
本实施例提供的神经网络处理器的故障处理方法,至少包括以下有益效果:
与相关技术相比,在检测发现神经网络处理器的故障或者收到神经网络处理器上报的故障信号指示时,会先根据故障信息确定神经网络处理器中的故障模块的故障类型,然后再根据故障类型选择相应的调控模式对故障模块出现的故障进行处理,可使得神经网络处理器能够快速恢复至正常的工作状态,并继续执行出错之前的任务,从而提高神经网络处理器的故障处理效率,有利于保证神经网络处理器能对外界信息进行快速反应,且不影响任务的执行进程。
需要说明的是,本公开实施例提供的故障处理方法,不仅可适用于车辆的辅助驾驶、自动驾驶、驾驶员监控、人机交互等多个技术领域,还可适用于航空航天器、无人机、工业控制领域等其他需要使用神经网络处理器的场景。
图3示出了如图2所示的实施例中的步骤S201和步骤202的流程示意图。
如图3所示,在上述图2所示实施例的基础上,本公开一个示例性实施例中,步骤S201所示获取神经网络处理器的故障信息,具体可以包括:
步骤S301,获取神经网络处理器中故障模块的模型相关信息、硬件相关信息以及运算相关信息。
在深度神经网络模型中,一般包含很多网络层的计算。在每个网络层的计算中,又有很多不同的计算类型,比如包括卷积、全连接、池化、缩放、变形、激活函数计算等,还包括张量或者向量操作等。对于卷积计算,还可以进一步细分为depthwise卷积(只改变featuremap(特征图)的大小,不改变通道数)、pointwise卷积(不改变feature map(特征图)的大小,只改变通道数)等。
神经网络处理器可由多个组成模块构成,多个模块可包括存储模块、多个反馈控制模块、多个计算模块、内部控制模块等。故障模块,是指神经网络处理器在运行过程中出现故障的一个或者多个上述组成模块。例如,在神经网络处理器运行过程中,其中的某个计算模块01出现故障,那么故障模块为该计算模块01。
基于神经网络完成某种运算、推理、识别及控制任务的特点,在神经网络处理器运行神经网络模型的过程中,需要收集的信息包括上述深度神经网络模型对应的模型相关信息、神经网络处理器各个模块对应的硬件相关信息、以及运算相关信息。
其中,模型相关信息,包括出现故障的故障模块的当前计算所属的神经网络类型的计算层、计算类型等方面的信息。
硬件相关信息,包括出错的模块信息,以及出错的模块的类型分类(如控制部分、计算部分、存储部分)的相关信息。
运算相关信息,包括与数据依赖相关的信息,即当前故障对计算模块的数据影响的信息。
步骤S202所示根据故障信息确定神经网络处理器中出现故障的故障模块的故障类型,具体可以包括:
步骤S302,根据模型相关信息、硬件相关信息或运算相关信息中的至少一个,确定故障模块的故障类型。
根据模型相关信息、硬件相关信息、运算相关信息可以精确地定位到神经网络处理器当前出现故障的故障模块的具体故障位置,以及故障原因。具体地,通过收集并分析的模型相关信息可确定,当前执行阶段是在神经网络模型中第几个网络层出现故障,进一步地,还可以确定是在该网络层中的那个卷积计算或者池化操作出现故障。又例如,在通过编译器将神经网络模型编译到神经网络处理器上执行时,可能会将一个层网络中的某种计算拆分成多个计算步骤,比如,将一个完整的conv(卷积)计算拆分成10个较小的sub-conv(次卷积)计算序列,此时,可将出现故障的信息定位到具体的sub-conv上。通过收集并分析硬件相关信息,可以确定出现故障的模块是神经网络处理中的卷积模块、池化模块、变形模块等这类的计算模块;或者是流程控制、内部存储访问控制这类的控制模块;或者是sram构成的数据存储模块中的哪个(些)模块。通过收集并分析运算相关信息,可以确定出错的模块是否会影响神经网络的计算模块的数据流向等。比如,conv(卷积)的输出结果存储在sram(静态随机存取存储器)中的空间,可能与conv的输入数据空间重合或者部分重合,那么,conv计算过程中,其计算结果会直接覆盖conv的输入数据,此时,若conv出现故障,就会影响其自身模块的输入数据。又例如,conv(卷积)和pooling(池化)同时计算,conv的输出可能会覆盖pooling的输入,此时,若conv出现故障,就会影响pooling模块的输入数据。如果是存储模块发生故障,信息还包括出错数据所在计算流程中的位置。例如,是本次conv(或者sub-conv)计算中的输入数据出错,或者是conv计算的中间结果出错,或者是conv计算的最后计算结果出错。
进一步,可以根据上述确定的故障原因以及故障位置等,确定神经网络处理器/加速器当前出现故障的故障模块的故障类型是可恢复故障,还是永久故障,抑或者是待确认故障。
关于故障类型划分的一种可选方式为,在原始计算过程中,若是控制电路发生故障(比如,控制电路的硬件冗余机制给出的故障警报),且在重新计算后,控制电路依然发生故障,那么,可以确定这是“永久故障”(或称为“不可恢复故障”)。如果在重新计算后,控制电路没有再发生故障,那么,可以确定这是“瞬态故障”(或称为“可恢复故障”)。
本实施例中,通过对接收到的模型相关信息、硬件相关信息以及运算相关信息中的至少一个,可快速且准确地定位神经网络处理器/神经网络加速器当前出现故障的故障模块的故障原因及故障位置,并确定其对应的故障类型。
图4示出了如图2所示的实施例中的步骤S203的一种流程示意图。如图4所示,在上述图2所示实施例的基础上,本公开一个示例性实施例中,步骤S203所示的根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理,具体可以包括如下步骤:
步骤S401,当故障类型属于第一待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的至少一个计算模块进行重新计算操作;
步骤S402,响应于结束重新计算操作后未接收到新的故障信息,将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制。
图5示出了本公开一示例性实施例提供的神经网络处理器的结构示意图。如图5所示,该神经网络处理器可包括内部控制模块501、计算模块502、反馈控制模块503、存储模块504、接口总线505和控制切换模块506。
结合图1和5,内部控制模块501,通常是指相对于神经网络处理器外部的故障控制处理装置101而言的内部控制调度模块。内部控制模块501负责对一个或多个计算模块502的神经网络计算进行控制和调度。内部控制模块501可包括第一控制模块和第二控制模块。
计算模块502,主要用于神经网络的计算,或者神经网络计算中的部分计算。计算模块502可包括控制信息保持单元、存储单元、状态记录单元。
控制信息保持单元,可用于保存计算模块502重新计算所必须的控制信息,保证在计算模块未完成计算之前,控制信息不会被覆盖或清除,以使得计算模块可以在控制模块的控制下进行重新计算。此外,还可保存计算模块502当前一次计算的必须配置信息,或者是计算模块502历史上已经完成的多次配置信息,同时,还可标记配置信息的有效性。例如,pooling(池化)计算模块的近4次计算的配置信息。如果该4次中的某次pooling计算所需的存于sram的input(输入)数据已经被覆盖,则记录该历史配置为无效配置。
存储单元(memory),可用于保存计算模块的输入、中间结果以及最后计算结果。
状态记录单元,可用于记录与该计算模块有关的各种信息,包括上面提到的模型信息、硬件信息、数据依赖信息等内容。其中,模型信息可以由NN(神经网络)处理器的内部控制模块在进行计算调度的时候通过特定接口将模型信息写入到状态记录单元,或者是通过控制指令中的特定信息段传递给计算模块然后保存在状态记录单元。硬件信息可以是计算模块记录的计算过程、计算流程、计算状态以及故障状态等信息。数据依赖信息可以是由NN(神经网络)处理器的内部控制模块在进行计算调度的时候通过特定接口将模型信息写入到状态记录单元,或者是通过控制指令中的特定信息段传递给计算模块然后保存在状态记录单元,还可以是该计算模块与其他计算模块相互通信获得的信息。故障控制处理装置101可以获取上述状态记录单元记录的这些信息,,以便于后续的判断和控制使用。
反馈控制模块503,可用于将计算模块的重新计算操作状态反馈给内部控制模块501。该反馈控制模块还可用于对执行重新计算操作的计算模块输出的状态信号进行切换。如在发现故障时,选择使用重新计算的状态输出信号作为最后的输出信号,而不是第一次正常计算的状态输出信号。
接口总线505,可用于神经网络处理器102与故障控制处理装置101之间的数据交换传输。
控制切换模块506,可以控制计算模块在内部控制与外部控制两种模式之间进行切换。正常情况下,为内部控制模式。当计算模块发生故障后,可以切换到外部控制模式,由NN处理器外部的故障控制模块接管,来控制该计算模块的行为。外部控制模式可以通过控制切换模块,让计算模块在功能模式、重新计算模式、自测试模式之间进行切换。例如,外部控制模式可以直接控制该计算模块进行replay计算(或者进入test模式进行测试),或者可以选择让出现故障的该计算模块继续执行直到计算完成,然后再控制该计算模块进行replay计算。
在一示例性实施例中,当故障控制处理装置101检测发现神经网络处理器发生故障时,可对检测到的故障信息进行分析,若经分析后,确定神经网络处理器当前出现故障的故障模块的故障类型为第一待确认故障,如一个卷积计算逻辑出现错误,则接管控制神经网络处理器释放的内部控制模块501中的第一控制模块的控制权限,并控制神经网络处理器中的至少一个计算模块进行重新计算操作(即replay操作)。与此同时,可通过与反馈控制模块503的通信将执行重新计算操作的计算模块的状态反馈给内部控制模块501,以使内部控制模块501根据反馈的通知,协调控制其他计算模块的计算。若在上述执行重新计算操作的计算模块结束(完成)重新计算操作后没有接收到新的故障信息,则将神经网络处理器当前出现故障的故障模块的故障类型更新为已恢复故障,同时解除对第一控制模块的接管控制,即将第一控制模块的控制权限交还给神经网络处理器的内部控制模块501,使得神经网络处理器可以继续执行后续的计算。
在另一种可行的执行方式中,响应于上述执行重新计算操作的计算模块结束(完成)重新计算操作后接收到新的故障信息,则将故障类型更新为不可恢复故障(或永久故障)。此时,故障控制处理装置101可对NN处理器进行重启操作(即reset操作),或者上报至外部系统。
本实施例中,当故障控制处理装置101确定神经网络处理器当前出现故障的故障模块的故障类型为第一待确认故障(如计算模块中的某个卷积计算逻辑出现错误)时,接管神经网络处理器中的内部控制模块中的第一控制模块,以控制当前出现卷积计算逻辑错误的计算模块进行重新计算操作,并在该计算模块执行完成重新计算操作后没有接收到新的故障信息时,将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制,无需重新启动神经网络处理器,甚至重启系统,即可使得神经网络处理器快速恢复正常工作状态,提高了神经网络处理器的故障处理效率,可保证自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
图6示出了如图4所示的实施例中的步骤S401的流程示意图。如图6所示,在上述图4所示实施例的基础上,本公开一个示例性实施例中,步骤S401所示的当故障类型属于第一待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的至少一个计算模块进行重新计算操作,具体可包括如下步骤:
步骤S601,当故障类型属于第一待确认故障时,向神经网络处理器中的第二控制模块发送第一待确认故障,以获取第二控制模块返回的与第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序;
步骤S602,接管神经网络处理器中的第一控制模块,控制至少两个关联计算模块按照计算执行顺序进行重新计算操作。
在神经网络处理器中,可能不止一个计算模块,而是多个计算模块。多个计算模块可以是功能结构相同的,也可以是功能结构不同的计算模块。多个计算模块之间可能会存在某种数据依赖关系,如某个计算模块的计算依赖于另一个计算模块输出的计算结果。因此,当故障控制处理装置101根据对收集到的故障信息的评估分析结果确定神经网络处理器当前可能涉及到至少两个计算模块发生故障,且该故障的故障类型为第一待确认故障时,向神经网络处理器中的第二控制模块反馈该第一待确认故障。接收该第二控制模块返回的与第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序。接管神经网络处理器释放的第一控制模块的控制权限,控制上述的至少两个关联计算模块按照该计算执行顺序进行重新计算操作。
关联计算模块,通常是指在计算模块之间具有数据依赖关系的模块。例如,计算模块01的输出结果是计算模块02的输入,计算模块02的输出结果又是计算模块03的输入,那么可认为计算模块01、计算模块02和计算模块03是关联计算模块。
作为一示例,假设故障控制处理装置101接收到第二控制模块返回的与第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序为计算模块01→计算模块02→计算模块03。那么,故障控制处理装置101在接管神经网络处理器释放的第一控制模块的控制权限后,可先控制计算模块01执行重新计算操作。同时,可控制计算模块01将其重新计算操作的状态(如未计算、计算中、计算结束等)发送给相关的计算模块02和计算模块03。在计算模块01计算结束后,再控制计算模块02执行重新计算操作,在计算模块02计算结束后,再控制计算模块03执行重新计算操作。
需要说明的是,若计算模块02或计算模块03的计算依赖于计算模块01的计算结果,或者需要在计算模块01计算结束后才能进行计算,那么计算模块02或计算模块03就需要等待计算模块01执行完毕重新计算操作。否则,计算模块02、计算模块03可以自由执行重新计算操作,无需等待计算模块01计算结束。
本实施例中,当神经网络处理器当前发生故障的故障模块涉及到多个计算模块,并且确认发生的故障的故障类型为第一待确认故障时,可以向第二控制模块反馈该第一待确认故障,并在获取到第二控制模块返回的与第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序后,接管神经网络处理器中的第一控制模块,控制至少两个关联计算模块按照计算执行顺序进行重新计算操作,可保证计算模块的重新计算结果的准确性和可靠性。
图7示出了如图2所示的实施例中的步骤S203的另一种流程示意图。如图7所示,在上述图2所示实施例的基础上,本公开一个示例性实施例中,步骤S203所示的根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理,具体可以包括如下步骤:
步骤S701,当故障类型属于第二待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的计算模块进行第一重新计算操作,得到第一计算结果;
步骤S702,基于第一计算结果,控制计算模块进行第二重新计算操作;
步骤S703,响应于结束第一重新计算操作和第二重新计算操作后均未接收到新的故障信息,将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制。
在一示例性实施例中,假设神经网络处理器102的sram(静态随机存取存储器)出现ecc错误,故障控制处理装置101根据收集到的故障信息进行分析后确定是conv计算的input数据出现错误,并且通过其中的模型信息追溯到该input数据是前面一次pooling计算的计算结果。若经进一步的检测分析发现,前面一次pooling计算的配置信息仍存在于对应的计算模块的控制信息保持单元中,并且该配置信息的有效性标识为有效(表示对应的input数据在sram中还有效,没有被其他数据覆盖),则可确定神经网络处理器当前发生的故障的故障类型为第二待确认故障。接着,故障控制处理装置101可接管控制神经网络处理器中的第一控制模块,并控制神经网络处理器中的计算模块进行池化(pooling)计算的第一重新计算操作,得到第一计算结果。然后,以该第一计算结果为输入,再控制出现故障的conv计算进行第二重新计算操作。若在结束上述第一重新计算操作和第二重新计算操作后均没有接收到新的故障信息,则将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制。
若在结束上述第一重新计算操作和/或第二重新计算操作后接收到新的故障信息,则将故障类型更新为不可恢复故障(或者永久故障)。此时,故障控制处理装置101可以对NN处理器进行重启操作,或者是上报至外部系统。
本实施例中,当故障控制处理装置101确定神经网络处理器当前出现故障的故障模块的故障类型为第二待确认故障时,可通过接管神经网络处理器中的内部控制模块中的第一控制模块,以控制神经网络处理器中的计算模块进行第一重新计算操作,得到第一计算结果;再以第一计算结果为输入,控制计算模块进行第二重新计算操作;并在上述第一、第二重新计算操作执行完毕后均没有接收到新的故障信息时,将将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制,无需重新启动神经网络处理器,甚至重启系统,即可使得神经网络处理器快速恢复正常工作状态,提高了神经网络处理器的故障处理效率,可保证自动驾驶系统能够对外界信息作出快速的反应,且不会影响到任务的执行进程。
图8示出了如图4、6、7所示的实施例中根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理之前的流程示意图。
如图8所示,在上述图4、6、7所示实施例的基础上,本公开一个示例性实施例中,在步骤根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理之前,具体还可以包括如下步骤:
步骤S801,当故障类型属于待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的计算模块进行自测试操作;
步骤S802,响应于自测试操作结束后未接收到新的故障信息,将故障类型更新为瞬态可恢复故障,并控制计算模块进行重新计算操作;
步骤S803,响应于重新计算操作结束后未接收到新的故障信息,解除对第一控制模块的接管控制。
步骤S804,响应于自测试操作结束后接收到新的故障信息,将所述故障类型更新为永久不可恢复故障,并控制所述神经网络处理器进行重启操作。
在一示例性实施例中,故障控制处理装置101在检测到神经网络处理器发生故障,并且确定其发生的故障的故障类型为待确认故障时,可以通过接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中出现故障的计算模块进行自测试操作。例如,控制该计算模块使用预设的测试模式对其计算阵列进行测试。若在自测试操作结束后没有接收到新的故障信息,则将故障类型更新为瞬态可恢复故障,并控制该计算模块进行重新计算操作。若在重新计算操作结束后没有接收到新的故障信息,则解除对第一控制模块的接管控制。若在自测试操作结束后接收到新的故障信息,则将故障类型更新为永久不可恢复故障,并控制神经网络处理器进行重启操作,或者上报至外部系统。
自测试操作,可以是LBSIT测试、test pattern的测试或者是多个不同的pattern的模式的其中一个或者是组合模式。其中,pattern是java.util.regex中的一个类。一个pattern是一个正则表达式经编译后的表现模式。还可以是定制的其他测试模式。
本实施例中,在发现神经网络处理器发生故障,并且确定该故障的故障类型为待确认故障时,通过故障控制模块接管神经网络处理器的第一控制模块,并控制出现故障的计算模块先进行自测试操作,然后,根据自测试操作的结果确定是否需要进一步的重新计算操作,可以提高故障处理的效率。
图9示出了如图2所示的实施例中的步骤S203的又一种流程示意图。如图9所示,在上述图2所示实施例的基础上,本公开一个示例性实施例中,步骤S203,具体可以包括如下步骤:
步骤S901,响应于故障类型属于待确认故障时,向神经网络处理器中的第二控制模块发送故障类型,以使第二控制模块根据预设的重新计算所必须的配置信息,控制神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果;
步骤S902,基于重新计算结果,重新确定故障类型,得到重新确定的故障类型;
步骤S903,响应于重新确定的故障类型与之前确定的故障类型相同,使用预设的调控模式对故障模块出现的故障进行处理。
预设的重新计算所必须的配置信息,可包括配置信息的有效性标识、保持计算模块当前一次或者历史多次计算的相关配置信息等。
在一示例性实施例中,当故障控制处理装置101检测发现神经网络处理器发生故障,并确定该故障的故障类型为待确认故障时,可以通过向神经网络处理器中的第二控制模块反馈该故障类型,使得第二控制模块根据预设的重新计算所必须的配置信息,控制神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果。故障控制处理装置101基于第二控制模块返回的重新计算结果,重新确定神经网络处理器当前发生的故障的故障类型,得到重新确定的故障类型。假设重新确定的故障类型为第一待确认故障,之前确定的故障类型也是第一待确认故障,即二者相同。那么,可以进一步通过接管控制神经网络处理器中的第一控制模块,执行上述图4所示的实施例所示的后续流程。
本实施例中,在故障控制处理装置101确定神经网络处理器当前发生的故障的故障类型为待确认故障时,可先向第二控制模块反馈该故障类型,使得第二控制模块控制神经网络处理器的计算模块进行重新计算操作,得到重新计算结果。接着,若故障控制处理装置101基于第二控制模块返回的重新计算结果,重新确定该故障类型与前一次确定的故障类型相同,则再接管控制第一控制模块,控制神经网络处理器的计算模块进行重新计算操作。即通过神经网络处理的内部控制模块(第二控制模块)与故障控制模块的相互配合,实现对神经网络处理器的故障的故障处理,可提高故障处理结果的可靠性。
图10示出了如图9所示的实施例中的第二控制模块根据预设的重新计算所必须的配置信息,控制神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果,并返回重新计算结果的流程示意图。
如图10所示,在上述图9所示实施例的基础上,本公开一个示例性实施例中,第二控制模块根据预设的重新计算所必须的配置信息,控制神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果,具体可以包括如下步骤:
步骤S1001,根据预设的重新计算所必须的配置信息,控制计算模块进行至少两次重新计算操作,得到至少两个重新计算结果;
步骤S1002,对至少两个重新计算结果进行比较,得到比较结果;
步骤S1003,根据比较结果,确定重新计算结果。
在一示例性实施例中,第二控制模块可根据预设的重新计算所必须的配置信息,控制神经网络处理器的计算模块进行至少两次重新计算,该至少两次重新计算为哈希计算,进而得到至少两个哈希值,并可将每个哈希值分别存储于不同的存储空间,便于后续的调取使用。然后,再将该至少两个哈希值进行比较,比较的方式可以为判断这些哈希值是否相同。若比较的结果为这些哈希值不完全相同,则确定该神经网络处理器仍存在故障,将该重新计算结果返回给故障控制处理装置101,若比较的结果为这些哈希值完全相同,则确定该神经网络处理器当前不存在故障。
本实施例中,通过控制计算模块进行至少两次重新计算操作,并对至少两个重新计算结果进行比较,得到比较结果,再根据该比较结果确定神经网络处理器是否存在故障,可以保证故障评估分析结果的可靠性。
需要说明的是,上述实施例在执行重新计算操作或者自测试操作的步骤时,也需要对其他故障检测机制进行必须的处理。例如,在进行重新计算操作控制时,同时需要对超时检测的watchdog机制进行处理。在进行自测试操作控制时,同时需要对超时检测的watchdog机制以及不可用(disable)机制进行处理。其中,watchdog机制,即Linux看门狗,是Linux自带系统,是一个计算机程序,用于监视系统的运行。
示例性装置
根据与本公开方法实施例相同的构思,本公开实施例还提供了一种神经网络处理器的故障处理装置。
图11示出了本公开一示例性实施例提供的神经网络处理器的故障处理装置的结构示意图。
如图11所示,本公开一示例性实施例提供的神经网络处理器的故障处理装置,包括:
故障信息获取模块111,被配置为获取神经网络处理器的故障信息;
故障类型确定模块112,被配置为获取神经网络处理器的故障信息,根据故障信息确定神经网络处理器中故障模块的故障类型;
故障处理模块113,被配置为根据故障类型,使用预设的调控模式对故障模块出现的故障进行处理。
如图12所示,在本发明一个示例性实施例中,故障处理模块113包括:
第一计算单元1121,被配置为当故障类型属于第一待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的至少一个计算模块进行重新计算操作;
第一更新单元1122,被配置为响应于结束重新计算操作后未接收到新的故障信息,将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制。
在本发明一个示例性实施例中,上述第一计算单元1121,可具体被配置为:
发送组件,被配置为当故障类型属于第一待确认故障时,向神经网络处理器中的第二控制模块发送第一待确认故障,以获取第二控制模块返回的与第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序;
接管组件,接管神经网络处理器中的第一控制模块,控制至少两个关联计算模块按照计算执行顺序进行重新计算操作。
如图13所示,在本发明另一个示例性实施例中,故障处理模块113包括:
第二计算单元1123,被配置为当故障类型属于第二待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的计算模块进行第一重新计算操作,得到第一计算结果;
控制单元1124,被配置为基于第一计算结果,控制计算模块进行第二重新计算操作;
第二更新单元1125,被配置为响应于结束第一重新计算操作和第二重新计算操作后均未接收到新的故障信息,将故障类型更新为已恢复故障,并解除对第一控制模块的接管控制。
在本发明的上述图12、13所示的实施例的基础上,故障处理装置,还可具体包括:
自测试模块,被配置为当故障类型属于待确认故障时,接管控制神经网络处理器中的第一控制模块,以控制神经网络处理器中的计算模块进行自测试操作;
更新模块,被配置为响应于自测试操作结束后未接收到新的故障信息,将故障类型更新为瞬态可恢复故障,并控制计算模块进行重新计算操作;
解除模块,被配置为响应于重新计算操作结束后未接收到新的故障信息,解除对第一控制模块的接管控制。
重启模块,被配置为响应于自测试操作结束后接收到新的故障信息,将故障类型更新为永久不可恢复故障,并控制神经网络处理器进行重启操作。
如图14所示,在本发明又一个示例性实施例中,故障处理模块113包括:
发送单元1126,被配置为响应于故障类型属于待确认故障时,向神经网络处理器中的第二控制模块发送故障类型,以使第二控制模块根据预设的重新计算所必须的配置信息,控制神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果,并返回重新计算结果;
接收单元1127,被配置为基于重新计算结果,重新确定故障类型,得到重新确定的故障类型;
处理单元1128,被配置为响应于重新确定的故障类型与之前确定的故障类型相同,使用预设的调控模式对故障模块出现的故障进行处理。
在本发明一个实施例中,在上述图14所示的实施例的基础上,上述第二控制模块包括:
重新计算单元,被配置为根据预设的重新计算所必须的配置信息,控制计算模块进行至少两次重新计算操作,得到至少两个重新计算结果;
比较单元,被配置为对至少两个重新计算结果进行比较,得到比较结果;
返回单元,被配置为当根据比较结果确定神经网络处理器存在故障时,返回重新计算结果。
示例性电子设备
图15图示了根据本公开实施例的电子设备的框图。
如图15所示,电子设备160包括一个或多个处理器161和存储器162。
处理器161可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备160中的其他组件以执行期望的功能。
存储器162可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器161可以运行所述程序指令,以实现上文所述的本公开的各个实施例的神经网络处理器的故障处理方法以及/或者其他期望的功能。
在一个示例中,电子设备160还可以包括:输入装置163和输出装置164,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
当然,为了简化,图15中仅示出了该电子设备160中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备160还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的标志杆的像素坐标获取方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的标志杆的像素坐标获取方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (8)
1.一种神经网络处理器的故障处理方法,包括:
获取神经网络处理器的故障信息;
根据所述故障信息确定所述神经网络处理器中的故障模块的故障类型;
根据所述故障类型,使用预设的调控模式对所述故障模块出现的故障进行处理;
其中,根据所述故障类型,使用预设的调控模式对所述故障模块出现的故障进行处理,包括:
当所述故障类型属于第一待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的至少一个计算模块进行重新计算操作;响应于结束所述重新计算操作后未接收到新的故障信息,将所述故障类型更新为已恢复故障,并解除对所述第一控制模块的接管控制;
或者,
当所述故障类型属于第二待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的计算模块进行第一重新计算操作,得到第一计算结果;基于所述第一计算结果,控制所述计算模块进行第二重新计算操作;响应于结束所述第一重新计算操作和所述第二重新计算操作后均未接收到新的故障信息,将所述故障类型更新为已恢复故障,并解除对所述第一控制模块的接管控制;
或者,
响应于所述故障类型属于待确认故障时,向所述神经网络处理器中的第二控制模块发送所述故障类型,所述第二控制模块根据预设的重新计算所必须的配置信息,控制所述神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果;基于所述重新计算结果,重新确定所述故障类型,得到重新确定的故障类型;响应于所述重新确定的故障类型与之前确定的故障类型相同,使用预设的调控模式对所述故障模块出现的故障进行处理。
2.根据权利要求1所述的方法,其中,所述当所述故障类型属于第一待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的至少一个计算模块进行重新计算操作,包括:
当所述故障类型属于第一待确认故障时,向所述神经网络处理器中的第二控制模块发送所述第一待确认故障,以获取所述第二控制模块返回的与所述第一待确认故障的处理相关的至少两个关联计算模块的计算执行顺序;
接管所述神经网络处理器中的第一控制模块,控制所述至少两个关联计算模块按照所述计算执行顺序进行重新计算操作。
3.根据权利要求1~2中任一项所述的方法,其中,所述根据所述故障类型,使用预设的调控模式对所述故障模块出现的故障进行处理之前,还包括:
当所述故障类型属于待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的计算模块进行自测试操作;
响应于自测试操作结束后未接收到新的故障信息,将所述故障类型更新为瞬态可恢复故障,并控制所述计算模块进行重新计算操作;
响应于重新计算操作结束后未接收到新的故障信息,解除对所述第一控制模块的接管控制;或者,
响应于自测试操作结束后接收到新的故障信息,将所述故障类型更新为永久不可恢复故障,并控制所述神经网络处理器进行重启操作。
4.根据权利要求1所述的方法,其中,所述第二控制模块根据预设的重新计算所必须的配置信息,控制所述神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果,包括:
所述第二控制模块根据所述预设的重新计算所必须的配置信息,控制所述计算模块进行至少两次重新计算操作,得到至少两个重新计算结果;
所述第二控制模块对所述至少两个重新计算结果进行比较,得到比较结果;
根据所述比较结果,得到所述重新计算结果。
5.根据权利要求1所述的方法,其中,所述获取神经网络处理器的故障信息,包括:
获取所述神经网络处理器中故障模块的模型相关信息、硬件相关信息以及运算相关信息;
所述根据所述故障信息,确定所述神经网络处理器中出现故障的故障模块的故障类型包括:
根据所述模型相关信息、所述硬件相关信息或所述运算相关信息中的至少一个,确定所述故障模块的故障类型。
6.一种神经网络处理器的故障处理装置,包括:
故障信息获取模块,被配置为获取神经网络处理器的故障信息;
故障类型确定模块,被配置为根据所述故障信息确定所述神经网络处理器中故障模块的故障类型;
故障处理模块,被配置为根据所述故障类型,使用预设的调控模式对所述故障模块出现的故障进行处理;
其中,根据所述故障类型,使用预设的调控模式对所述故障模块出现的故障进行处理,包括:
当所述故障类型属于第一待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的至少一个计算模块进行重新计算操作;响应于结束所述重新计算操作后未接收到新的故障信息,将所述故障类型更新为已恢复故障,并解除对所述第一控制模块的接管控制;
或者,
当所述故障类型属于第二待确认故障时,接管控制所述神经网络处理器中的第一控制模块,以控制所述神经网络处理器中的计算模块进行第一重新计算操作,得到第一计算结果;基于所述第一计算结果,控制所述计算模块进行第二重新计算操作;响应于结束所述第一重新计算操作和所述第二重新计算操作后均未接收到新的故障信息,将所述故障类型更新为已恢复故障,并解除对所述第一控制模块的接管控制;
或者,
响应于所述故障类型属于待确认故障时,向所述神经网络处理器中的第二控制模块发送所述故障类型,所述第二控制模块根据预设的重新计算所必须的配置信息,控制所述神经网络处理器中的计算模块进行重新计算操作,得到重新计算结果;基于所述重新计算结果,重新确定所述故障类型,得到重新确定的故障类型;响应于所述重新确定的故障类型与之前确定的故障类型相同,使用预设的调控模式对所述故障模块出现的故障进行处理。
7.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-5中任一所述的神经网络处理器的故障处理方法。
8.一种电子设备,所述电子设备包括:
神经网络处理器;
用于存储所述神经网络处理器可执行指令的存储器;
所述神经网络处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-5中任一所述的神经网络处理器的故障处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211208823.4A CN115712517B (zh) | 2022-09-30 | 2022-09-30 | 一种神经网络处理器的故障处理方法及装置 |
PCT/CN2023/114743 WO2024066833A1 (zh) | 2022-09-30 | 2023-08-24 | 神经网络处理器的故障处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211208823.4A CN115712517B (zh) | 2022-09-30 | 2022-09-30 | 一种神经网络处理器的故障处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115712517A CN115712517A (zh) | 2023-02-24 |
CN115712517B true CN115712517B (zh) | 2024-04-16 |
Family
ID=85230917
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211208823.4A Active CN115712517B (zh) | 2022-09-30 | 2022-09-30 | 一种神经网络处理器的故障处理方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN115712517B (zh) |
WO (1) | WO2024066833A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115712517B (zh) * | 2022-09-30 | 2024-04-16 | 北京地平线机器人技术研发有限公司 | 一种神经网络处理器的故障处理方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111212775A (zh) * | 2017-11-17 | 2020-05-29 | 特斯拉公司 | 用于处理载具神经网络处理器中的错误的系统和方法 |
CN112115009A (zh) * | 2020-08-13 | 2020-12-22 | 中国科学院计算技术研究所 | 一种用于神经网络处理器的故障检测方法 |
CN112231134A (zh) * | 2020-10-28 | 2021-01-15 | 地平线(上海)人工智能技术有限公司 | 神经网络处理器的故障处理方法及装置、设备、存储介质 |
CN112506690A (zh) * | 2020-12-09 | 2021-03-16 | 北京地平线信息技术有限公司 | 控制处理器的方法及装置 |
WO2021123837A2 (en) * | 2019-12-19 | 2021-06-24 | Arm Limited | Fault detection in neural networks |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115712517B (zh) * | 2022-09-30 | 2024-04-16 | 北京地平线机器人技术研发有限公司 | 一种神经网络处理器的故障处理方法及装置 |
-
2022
- 2022-09-30 CN CN202211208823.4A patent/CN115712517B/zh active Active
-
2023
- 2023-08-24 WO PCT/CN2023/114743 patent/WO2024066833A1/zh unknown
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111212775A (zh) * | 2017-11-17 | 2020-05-29 | 特斯拉公司 | 用于处理载具神经网络处理器中的错误的系统和方法 |
WO2021123837A2 (en) * | 2019-12-19 | 2021-06-24 | Arm Limited | Fault detection in neural networks |
CN112115009A (zh) * | 2020-08-13 | 2020-12-22 | 中国科学院计算技术研究所 | 一种用于神经网络处理器的故障检测方法 |
CN112231134A (zh) * | 2020-10-28 | 2021-01-15 | 地平线(上海)人工智能技术有限公司 | 神经网络处理器的故障处理方法及装置、设备、存储介质 |
CN112506690A (zh) * | 2020-12-09 | 2021-03-16 | 北京地平线信息技术有限公司 | 控制处理器的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115712517A (zh) | 2023-02-24 |
WO2024066833A1 (zh) | 2024-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102295601B1 (ko) | 차량 뉴럴 네트워크 프로세서의 에러들을 처리하는 시스템 및 방법 | |
KR102025556B1 (ko) | 처리 장치, 추적 유닛 및 진단 장치 | |
KR20240063166A (ko) | 이미지 오분류에 대한 안전 모니터 | |
CN115712517B (zh) | 一种神经网络处理器的故障处理方法及装置 | |
US7840832B2 (en) | Fault tolerant control system | |
KR20190119864A (ko) | 딥러닝 기반의 소형 물체 검출 기법 | |
JPWO2019176603A1 (ja) | 異常診断システム及び異常診断方法 | |
CN112506690B (zh) | 控制处理器的方法及装置 | |
CN112231134B (zh) | 神经网络处理器的故障处理方法及装置、设备、存储介质 | |
US20220107864A1 (en) | Systems and methods for error recovery | |
CN105698788A (zh) | 产生两个独立不同的姿态解、惯性解或两者的系统和方法 | |
CN112231034A (zh) | 结合rpa和ai的软件界面元素的识别方法与装置 | |
JP2022534918A (ja) | 無効な画像変換に対するセーフティモニタ | |
US11142212B2 (en) | Safety-aware comparator for redundant subsystems in autonomous vehicles | |
US12045675B2 (en) | Safety monitor for incorrect kernel computation | |
US20200370893A1 (en) | Device and method for compensating for route of autonomous vehicle | |
US9122603B2 (en) | Failure detection in high-performance clusters and computers using chaotic map computations | |
CN107423029B (zh) | 计算单元 | |
CN115908498A (zh) | 一种基于类别最优匹配的多目标跟踪方法及装置 | |
CA3221529A1 (en) | Systems and methods for generation of action strategies by an autonomous system | |
CN108762227B (zh) | 一种自动驾驶测试系统及方法 | |
KR102052816B1 (ko) | 비휘발성 주기억장치 환경에서 에러 복구 방법 및 그 시스템 | |
KR101846498B1 (ko) | 상태회귀 가능한 내고장성 cpu 코어 및 이의 제어방법 | |
US20240045854A1 (en) | Method for checking a processing of payload data | |
US11491650B2 (en) | Distributed inference multi-models for industrial applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |