CN110222845A - 用于训练机器学习系统的方法、设备和计算机程序 - Google Patents

Abstract

本发明涉及一种用于训练机器学习系统（12）的方法。所述机器学习系统（12）借助所述机器学习系统的输入参量沿着通过所述机器学习系统（12）的多个路径的传播根据相应的路径的多个区段的激活来确定输出参量。根据分配给所述区段的、表征机器学习系统的参量以及根据分配给所述区段的激活函数来确定每个区段的激活。所述方法包括以下步骤：确定所述机器学习系统（12）的输出参量。根据表征学习进展的成本函数适配表征所述机器学习系统的参量（23）中的至少一个。本发明此外涉及一种计算机程序和一种用于实施所述方法的设备以及一种机器可读的存储元件（12），在所述存储元件上存储所述计算机程序。

Description

用于训练机器学习系统的方法、设备和计算机程序

技术领域

本发明涉及用于训练机器学习系统的一种方法和一种设备。本发明同样涉及一种计算机程序和一种机器可读的存储元件。

背景技术

DE 10 2005 050 577 A1公开一种用于检查用于控制设备的神经网络的方法。神经网络具有在第一层中的多个第一神经元和在第二层中的第二神经元。从预给定的多个测试信号组合中选择每种测试信号组合。测试信号组合被施加到第一神经元上，并且第二神经元的输出信号被检测。在已经施加了所述测试信号组合其中的每种测试信号组合之后，输出总检查信号。

发明内容

本发明的优点

在神经网络的运行期间，可能在神经网络内出现信号干扰，所述信号干扰可能导致错误分类(Falschklassifikation)。例如当借助由信号干扰所损害的神经网络不能够符合现实地探测到车辆在交通场景中的存在时，这在安全关键的应用中可能具有严重的结果。具有独立权利要求1的特征的方法与此相对地具有以下优点，在训练（Training）期间训练（anlernen）所述神经网络：能够在神经网络运行期间应对（umgehen mit）信号干扰。另一个优点是，能够在具有高的射线曝光的周围环境中运行所述神经网络，因为该神经网络可以应对通过高能量的辐射所引起的干扰。

有利的扩展方案是独立权利要求的主题。

在第一方面中，本发明涉及一种用于训练机器学习系统的方法。所述机器学习系统借助所述机器学习系统的输入参量沿着通过所述机器学习系统的多个路径的传播根据相应的路径的多个区段的激活来确定输出参量。根据分配给所述区段的、表征机器学习系统的参量并且根据分配给所述区段的激活函数（Aktivierungsfunktion）来确定每个区段的所述激活。所述方法包括以下步骤：根据所提供的训练输入参量确定所述机器学习系统的输出参量。在确定所述输出参量其中的至少一个输出参量时，根据干扰参量改变、尤其提高或衰减（dämpfen）所述区段其中的一个区段的至少一个激活。根据表征学习进展（Lernfortschritt）的成本函数来适配表征所述机器学习系统的参量其中的至少一个参量。

干扰参量（Störgröße）可以理解为以下参量：所述参量被用于例如根据这些参量来改变机器学习系统的激活。所述激活的改变可能导致机器学习系统的所不期望的损害或有错误的行为，尤其导致错误的输出参量的确定。应注意，根据干扰参量来对激活的改变不导致机器学习系统的结构的改变，而是引起（herbeiführen）信号改变，例如增强或衰减机器学习系统的激活。衰减在下文中被理解为：衰减导致对机器学习系统的激活的减轻（Verminderung），而并不由于对激活的减轻而失去所述激活的全部信息。

所述方法具有以下优点：机器学习系统在训练期间学习：应对机器学习系统内的干扰。因为在训练期间，机器学习系统可以掌握（sich aneignen）策略以便能够更好地应对运行中的故障。所述方法的另一个优点是，借助所使用的干扰参量可以在训练期间避免机器学习系统过度适配（Überanpassung）于训练数据。另一个优点是，所述方法与（未）被监视的机器学习的方案、尤其与所述方案的表征学习进展的成本函数的不同组成（Zusammensetzung）兼容（kompatibel）。

在所述方法的进一步扩展方案中，当所述激活之一具有小于能预给定的值的值时，那么根据所述干扰参量提高所述激活。此外，当所述激活之一具有大于另外的能预给定的值的值时，那么根据所述干扰参量衰减所述激活。所述能预给定的值小于所述另外的能预给定的值。

干扰参量借助所述进一步扩展方案有针对性地置于（platzieren bei）小的激活处、尤其置于表征机器学习系统的参量其中的小的参量处，因为所述参量更容易受干扰影响并且一旦在所述参量中出现干扰，就可能引起错误分类。所述进一步扩展方案的优点因此是，通过在自身的敏感位置上训练机器学习系统，使所述机器学习系统相对于干扰变得特别鲁棒（robust）。

优选地，可以随机地选择所述干扰参量的值，例如根据能预给定的概率分布来选择。由此，不存在如下静态干扰（statische Störung），机器学习系统可能在训练时记住所述静态干扰来作为样本（Muster）并且因此相对于随机出现的干扰变得不鲁棒。

此外提出，在确定输出参量中的至少一个时借助比特翻转运算（Bitkipper-Operation）改变所述激活。比特翻转运算可以理解为，在二进制系统中改变所述激活的值的能预给定的位值（Stellenwert），优选随机选择的比特。这能够实现：借助比特翻转运算也可以模仿（nachbilden）在硬件中、尤其在二进制级（binäre Ebene）上的干扰并且将其用于训练机器学习系统。

在另一方面，本发明涉及一种计算机程序，所述计算机程序被设立用于，实施之前提到的方法之一，即包括以下指令：当所述计算机程序在计算机上运行时所述指令促使计算机实施所提到的所述方法之一连同其所有步骤，本发明涉及一种机器可读的存储模块，在所述存储模块上存储所述计算机程序，并且本发明涉及一种设备、尤其计算机，所述设备被设立用于实施所提到的方法之一。

附图说明

本发明的实施例在附图中示出并且在下面的描述中进一步阐述。在此，其中：

图1示出至少部分自主的车辆的示意图；

图2示出深度神经网络的示意图，其具有信号在深度神经网络内的所记录的（eingetragen）传播路径并且示出具有干扰以及所述干扰的传播路径的深度神经网络的示意图；

图3示出根据本发明的方法的一种实施方式的示意图；

图4示出用于训练机器学习系统的一种设备的示意图。

具体实施方式

图1示出至少部分自主的机器人的示意图，所述机器人在实施例中通过至少部分自主的车辆（10）给定。在另一实施例中，至少部分自主的机器人可以是服务机器人、装配机器人或固定的生产机器人。至少部分自主的车辆（10）可以包括检测单元（11）。检测单元（11）可以例如是摄像机，所述摄像机检测车辆（10）的周围环境。检测单元（11）可以与机器学习系统（12）连接。机器学习系统（12）根据例如借助检测单元（11）所提供的输入参量以及根据多个表征机器学习系统的参量来确定输出参量。输出参量可以转发给执行器控制单元（Aktorsteuerungseinheit）（13）。执行器控制单元（13）可以根据机器学习系统（12）的输出参量操控执行器。执行器可以例如是车辆（10）的发动机。

在另一个实施例中，执行器控制单元（13）包括释放系统（Freigabesystem）。所述释放系统根据机器学习系统（12）的输出参量决定：是否对象、例如所检测的机器人或所检测的人具有对一个区域的访问（Zugang）。优选地，可以根据释放系统的决定来操控执行器。

此外，车辆（10）包括计算单元（14）和机器可读的存储元件（15）。

在存储元件（15）上可以存储计算机程序，所述计算机程序包括如下命令，在计算单元（14）上实施所述命令时，所述命令导致：计算单元（14）实施根据本发明的方法。也能够设想，分别可以包括所述计算机程序的下载产品或人工生成的信号在车辆（10）的接收器上接收之后促使计算单元（14）实施根据本发明的方法。

在一种另外的实施方式中，将机器学习系统（12）应用在测量系统中，所述测量系统不在图中示出。测量系统在以下方面区别于根据图1的机器人：测量系统不包括执行器控制单元（13）。测量系统可以存储或者示出机器学习系统（12）的输出参量，例如借助视觉表示或音频表示来示出，而不是将其转发给执行器控制单元（13）。

也能够设想，在测量系统的进一步扩展方案中，检测单元（11）可以检测人类的或动物身体的或者其一部分的图像。例如，这可以借助光学信号来进行，或者借助超声信号，或者借助MRT/CT方法。在该进一步扩展方案中，测量系统可以包括机器学习系统，所述机器学习系统如此被训练，使得根据输入参量输出分类，例如基于所述输入参量，哪个病象（Krankheitsbild）可能存在。

机器学习系统（12）可以包括深度神经网络（20a）。

图2示出这样的深度神经网络（20a）的示意图。所述深度神经网络（20a）包括多个层，其中，每个层由多个神经元（22）组成。这些层至少间接地借助多个连接（23）相互关联（verknüpfen）。连接（23）可以表示通过深度神经网络的路径的区段并且可以与后续的层的或前面的层的神经元连接。深度神经网络（20a）根据输入参量（21）和分配给每个连接（23）的特征性的参量、尤其表征机器学习系统的参量来确定输出参量（25）。这些连接具有激活，所述激活可以分别根据分配给所述连接的相应的特征性的参量来确定。

深度神经网络（20a）示例性地示出输入参量（21）的信号走向路径（24），所述信号走向路径在不同的区段上具有大的激活，所述输入参量通过深度神经网络（20a）传播。典型地，在深度神经网络（20a）中，仅仅非常少的信号走向路径（24）具有大的激活。因此，干扰可能更频繁地涉及具有小的激活的路径。此外，具有更小的信号值的信号走向路径的干扰更强烈地影响深度神经网络（20a）的输出参量（25），尤其当干扰显著提高信号值时。这可能导致有错误地确定的输出参量（25）。该情况示例性地在深度神经网络（20b）中示出。

示例性地，在倒数第二个层的神经元其中的一个神经元中，可能出现信号干扰（26），例如通过环境影响引起的硬件故障。信号干扰（26）可能导致，受干扰的神经元输出大的输出参量，所述输出参量引起后续的层的另外的大的激活并且因此可在深度神经网络（20b）中形成影响输出参量（25）的附加的信号走向路径（27）。该附加的信号走向路径（27）可能负面地影响输出参量（25）。

应注意，图2中的示意性的信号干扰（26）不限于神经元中的或激活中的信号干扰。附加地或替代地，干扰也可能出现在神经元（22）的输入参量中、分别分配给连接（23）的所存储的值之一中或者深度神经网络的输入参量（21）中。

图3示出一种用于运行机器学习系统（12）的方法（30）的示意图，所述机器学习系统相对于上面提及的信号干扰是鲁棒的。

方法（30）以步骤31开始。在步骤31中，给机器学习系统（12）提供训练数据，例如经标签的图像。在接着的步骤32中，根据训练数据借助机器学习系统（12）根据表征机器学习系统的参量确定关于相应的训练数据的输出参量。在确定输出参量（25）期间，在步骤32中，将干扰参量置于机器学习系统（12）内，尤其根据干扰参量改变通过机器学习系统（12）的路径之一的激活。

优选地，将干扰参量置于表征机器学习系统的参量之一处，该参量具有小于能预给定的值的值，因为该参量在干扰的情况下可以具有对机器学习系统（12）的输出参量的强烈影响。优选地，将干扰参量在机器学习系统（12）内置于随机选择的位置处。

有利地，以相加的方式或以相乘的方式以干扰参量加载激活或加载表征机器学习系统的参量，其中所述干扰参量置于所述激活或所述参量处。替代地，可以将表征机器学习系统的参量或所述激活置于（setzen auf）干扰参量的值。

在一种另外的实施方式中，干扰参量的值可以是事先定义的值或最大可能的值或随机选择的值。

此外能够设想，通过比特翻转运算改变激活。例如可以如此实现比特翻转运算，使得作为干扰参量产生比特流（Bitstrom），所述比特流仅仅在待翻转的比特上具有值“1”。该激活然后可以通过与比特流的异或逻辑运算（logische XOR-Verknüpfung）来改变。显然，等值的是，直接改变激活中的待翻转（zu kippend）的比特的值，也即使其反转（invertieren）。

如果机器学习系统包括至少一个深度神经网络，则可以随机选择：将干扰参量置于哪些神经元或哪些连接处，尤其根据干扰参量来改变。可选地，干扰参量可以仅仅置于机器学习系统（12）的能预给定的区段、尤其层中，由此，可以训练机器学习系统（12）针对干扰的逐层的鲁棒性。附加地或替代地，干扰参量的数目可以与神经元（22）的数目成比例。

在一个附加的或替代的实施例中，深度神经网络可以具有卷积层（英语：Convolutional Layer）。卷积层的激活根据至少一个卷积核和卷积层的输入参量来确定。因此能够设想，根据干扰参量改变卷积核的元素或所确定的激活之一。

在一种另外的实施方式中，其中机器学习系统包括至少一个深度神经网络，将干扰参量优选置于如下层中，该层形成深度神经网络的后面部分（hinteren Teil）。后面视野（hintere Sichten）可以理解为以下层：所述层直接与深度神经网络的输出端连接。深度神经网络在此相对于干扰特别敏感，因为在此不能够通过另外的后续的层来补偿所述干扰。

应注意，这些干扰不仅仅可以在硬件级上在训练时在步骤32中被插入，而且可以借助软件在训练时通过干扰参量来模拟。

在已经结束步骤32之后，跟着的是步骤33。在步骤33中，根据成本函数如此适配表征机器学习系统的参量其中的多个、至少一个参量，使得机器学习系统（12）解决能预给定的任务。成本函数可以与训练数据以及与机器学习系统（12）的所属的所确定的输出参量（25）相关。优选地，成本函数表征机器学习系统（12）的学习进展：机器学习系统的所确定的输出参量以什么程度与训练数据一致。能预给定的任务可以例如是，对输入参量、尤其检测单元（11）的摄像机图像进行分类或分割（segmentieren）。优选地，为了适配表征机器学习系统的参量，应用优化方法。优化方法可以例如是梯度下降方法（Gradientenabstiegsverfahren），所述梯度下降方法通过适配表征机器学习系统的参量来使成本函数最小化。

可选地，在适配时可以忽略表征机器学习系统的如下参量，其中干扰参量已经被置于所述参量处，从而使所述参量不在干扰参量的影响下被适配。替代地，可以在优化方法中考虑干扰参量。这具有有利的效果，即，表征机器学习系统的参量接着不根据所述干扰参量来被适配。

在已经结束在步骤33中适配表征机器学习系统的参量之后，跟着的是步骤34。在步骤34中，根据所检测的输入参量以及根据所训练的机器学习系统（12）的表征机器学习系统的参量其中的经适配的参量来确定输出参量，其中所述输入参量例如已经借助检测单元（11）被检测。根据输出参量可以操控执行器、尤其借助执行器控制单元（13）操控车辆（10）的发动机。

所述方法（30）以此结束。在一种附加的或替代的实施方式中，方法（30）可以以步骤32或33重新执行，可选地，这些步骤可以多次地相继重复直至满足能预给定的中断标准（Abbruchkriterium）。显然，所述方法不仅仅如所描述的那样完全地以软件的方式来实现，而且可以以硬件或以由软件和硬件组成的混合形式来实现。

图4示出一种用于训练机器学习系统（12）的、尤其用于实施所述方法（30）的设备（40）的示意图。设备（40）包括训练模块（41），所述训练模块根据机器学习系统（12）的输出参量并且优选地借助能预给定的训练数据来训练机器学习系统（12）。在训练期间，适配表征机器学习系统的参量，所述表征机器学习系统的参量保存在存储器（42）中。

Claims (10)

1.一种用于训练机器学习系统（12）的方法，其中，所述机器学习系统（12）借助所述机器学习系统的输入参量沿着通过所述机器学习系统（12）的多个路径的传播根据相应的所述路径的多个区段的激活来确定输出参量，其中，根据分配给所述区段的、表征所述机器学习系统的参量并且根据分配给所述区段的激活函数来确定每个区段的所述激活，所述方法包括以下步骤：

根据所提供的训练输入参量确定所述机器学习系统（12）的输出参量，

其中，在确定所述输出参量其中的至少一个输出参量时，根据干扰参量改变、尤其提高或衰减所述区段其中的一个区段的至少一个激活；

根据表征学习进展的成本函数来适配表征所述机器学习系统的参量（23）其中的至少一个参量。

2.根据权利要求1所述的方法，其中当所述激活之一具有小于能预给定的值的值时，那么根据所述干扰参量提高所述激活；以及

其中，当所述激活之一具有大于另外的能预给定的值的值时，那么根据所述干扰参量衰减所述激活，其中所述能预给定的值小于所述另外的能预给定的值。

3.根据以上权利要求中任一项所述的方法，其中，随机地选择所述干扰参量的值。

4.根据以上权利要求中任一项所述的方法，其中，借助比特翻转运算改变所述激活。

5.根据以上权利要求中任一项所述的方法，其中，多次地重复所述机器学习系统（12）的所述训练，其中，根据表征所述学习进展的所述成本函数来选择所述干扰参量。

6.一种用于操控执行器（10）的方法，所述方法包括以下步骤：

根据权利要求1至6中任一项所述地训练机器学习系统（12）；和

根据经训练的所述机器学习系统（12）的所确定的输出参量来操控所述执行器（10）。

7.根据权利要求6所述的方法，其中，所述执行器（10）至少是部分自主的机器人或者是至少部分自主的车辆。

8.一种计算机程序，所述计算机程序包括命令，当在计算机上运行所述计算机程序时所述命令引起：实施根据权利要求1至7中任一项所述的方法。

9.一种机器可读的存储介质（15），在所述存储介质上存储根据权利要求8所述的计算机程序。

10.一种设备（40,14），所述设备被设立用于，实施根据权利要求1至7中任一项所述的方法。