CN113449585A - 用于运行分类器的方法和设备 - Google Patents
用于运行分类器的方法和设备 Download PDFInfo
- Publication number
- CN113449585A CN113449585A CN202110325283.7A CN202110325283A CN113449585A CN 113449585 A CN113449585 A CN 113449585A CN 202110325283 A CN202110325283 A CN 202110325283A CN 113449585 A CN113449585 A CN 113449585A
- Authority
- CN
- China
- Prior art keywords
- classifier
- quantization
- types
- output signals
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J7/00—Circuit arrangements for charging or depolarising batteries or for supplying loads from batteries
- H02J7/0047—Circuit arrangements for charging or depolarising batteries or for supplying loads from batteries with monitoring or indicating devices or circuits
- H02J7/0048—Detection of remaining charge capacity or state of charge [SOC]
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J7/00—Circuit arrangements for charging or depolarising batteries or for supplying loads from batteries
- H02J7/34—Parallel operation in networks using both storage and other dc sources, e.g. providing buffering
- H02J7/35—Parallel operation in networks using both storage and other dc sources, e.g. providing buffering with light sensitive cells
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Power Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Signal Processing (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Human Computer Interaction (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Image Analysis (AREA)
Abstract
Description
技术领域
本发明涉及一种分类器、一种用于借助于分类器进行分类的方法、一种用于训练分类器的方法、一种训练设备、一种计算机程序和一种机器可读存储介质。
背景技术
从未在先公开的DE 10 2018 220 701公知一种用于通过到硬件的非线性映射来量化特征图(Feature Maps)的方法。
本发明的优点
分类器是在基于传感器信号做出决策的现代系统中的重要组成部分。在这种情况下,尤其是神经网络达到了最高分类精度。高分类精度对于很多技术应用来说至关重要,因为正确的工作原理在很多情况下都受到分类精度决定性的影响。
例如可设想的是:分类器被用于基于摄像机数据来确定行人在自主车辆的计划轨迹之内停留的位置。例如,如果存在与行人碰撞的威胁,则该信息可以被用于修改轨迹。
在该示例中,分类精度至关重要,因为未被探测到的行人可能导致车辆与行人的碰撞。
分类器通常可能需要大量算术运算,以便得出分类。同样需要不小的内存量来提供分类器的模型参数。这两个方面使得在诸如机器人那样的系统中难以使用分类器,因为这里计算和存储能力通常可能严重受限。
因而,为了进行高效计算,可以使用量化方法,以便降低分类器的算术运算的分辨率。这提供了如下优点:由于算术运算的分辨率通常以平方的形式包括在分类器的能耗中,所以分类器的能耗可以显著降低。此外,分类器需要少得多的内存来计算输出。
但是,也附加地得到如下优点:如果分类器已被量化,则该分类器可以通过特殊技术设备、比如专业化的计算硬件来能效显著更高地被运行。
通常,分类器只能针对用来训练该分类器的量化类型提供良好的分类精度。但是,可以是有利的是:分类器可以在运行时利用多个不同的量化类型来被量化。例如,分类器可以选择低分辨率的量化类型,以便节省能量。替代地,该分类器可以使用高分辨率的量化类型,以便实现还更精确的分类性能。
具有独立权利要求1的特征的分类器的优点在于:应该用来量化分类器的量化类型可以在推理时被动态规定。这能够使分类器的行为与相对应的现实情况、诸如在当前时间点提供的最大计算能力和/或最大容许能耗进行匹配。
发明内容
在第一方面,本发明涉及一种计算机实现的分类器,用于根据被输送给分类器的输入信号来确定输出信号,其中分类器被构造为:从可指定的多个可能的量化类型中选择量化类型;并且根据所选择的量化类型来执行对输出信号的确定。
分类器可以被理解为一种设备,该设备被设计为使得该设备可以接收一个或多个输入信号并且可以确定分类输出,该分类输出表征输入信号或输入信号的部分。例如,分类器可以被用于确定对象位于作为输入信号被提供给分类器的图像的哪些部分。
除了对象探测之外,分类器也可以被用于其它分类任务,例如被用于语义分割。在这种情况下,分类器将输入信号中的每个期望点、例如摄像机图像的每个像素分类到期望类别。这例如可以被用于:移动机器人基于输入图像来识别周围环境的可行驶区域的边界并且基于此来计划轨迹。
分类器可包括机器学习领域的模型、比如神经网络。该模型可以被用于对分类器的输入信号进行分类。分类器还可以包含预处理和/或后处理方法。
被输送给分类器的输入信号可以是不同类型的输入数据,例如来自摄像机传感器、雷达传感器、LIDAR传感器、超声传感器或者红外摄像机传感器的输入数据。来自麦克风的音频记录也可以被用作输入信号,例如以离散化音频信号或者频谱图像的形式。还可设想的是:多个类型的传感器数据可以组合,以便获得针对分类器的输入信号。
替代地,可以借助于计算机辅助措施来合成地生成输入信号。例如,可以基于物理模型来计算或渲染图像。
输出信号可以被理解为分类器对输入信号的特性的预测。在此,输出信号可能不同于所希望的输出信号,也就是说分类器可能输出错误分类。从这个意义上来说,分类器的性能被理解为分类精度、即针对输入信号来输出所希望的分类的能力。通常,高性能至关重要,因为错误分类可能导致运行该分类器的设备的非期望的和/或危险的行为。
例如可设想的是:分类器被用作系统的一部分,其中系统以及尤其是分类器通过容量有限和/或有波动的能量源、例如电池和/或可再生能量源来被运行。在该示例中,分类器通常得到系统的大部分能耗,因为分类器的计算通常一并基于高分辨率的浮点运算,这些高分辨率的浮点运算需要相对大量的能量。因而,如果分类器执行能效更高的计算,则效率以及借此主要还有系统的运行时间可以增加。
为了降低能量需求,可以使用为了确定输出信号所需的通过较低分辨率的算术运算来进行的计算。为此,可以对分类器进行量化。
分类器的量化可以被理解为对分类器为了其算术运算所使用的数字表示的精度、也就是说分辨率的降低。在下文,根据特定方法的量化被称作量化类型。量化类型主要可以通过该量化类型的分辨率、即所要量化的值被量化到的位(Bits)数和/或通过对量化进行限制的区间边界和/或该量化类型的量化等级和/或在这些量化等级之间的间隔来被表征。在下文,根据量化类型对一个或多个值的量化可以被理解为:所述一个或多个值根据该量化类型的规则来被量化。如果在下文谈到分类器的量化,则这可以被理解为根据相对应的量化类型对该分类器的参数的量化。根据量化类型对输出信号的确定可以被理解为:分类器的用于确定输出信号的算术运算的至少部分基于分类器有关该量化类型的量化来被执行。
已经表明:分类器的量化在进行不考虑量化的训练之后可能导致相当可观的性能损失。如果在训练期间已经考虑到量化,则可以缓解该问题。
然而,公知的方法只能将分类器训练为使得该分类器针对特定的量化类型来被设计。此外,如果为了推理而选择与为了训练不同的量化类型,则对于利用量化来训练的分类器来说,分类器的性能通常也可能降低。
然而,对于推理来说可以是有利的是:可以基于不同的现实情况在多个量化类型之间进行选择。
例如可以是有利的是:电池运行的系统根据电池的充电状态来选择量化类型。在电池电量高的情况下,可以将高分辨率(并且借此从分类的角度能量花费高)的量化类型用于分类器的算术运算,而在电量低的情况下可以选择低分辨率的量化类型。
还可设想的是:量化类型可以根据分类任务的难度来被选择。例如可设想的是:对离得远并且相对应地小的对象的对象探测比对近处的对象的探测困难得多。可设想的是:在这种情况下,必须选择高分辨率的量化类型,以便实现所希望的性能。还可设想的是:对于简单的分类任务来说已经可以选择低分辨率的量化类型,以便实现相对应的所希望的性能。例如可设想的是:应基于图像数据来判断是白天还是夜晚的分类器利用很低的量化类型就已经可以实现适当的性能。
为了进行推理,针对相对应的分类任务可以向分类器提供适合于该任务的难度的量化类型。
分类任务的难度和量化等级的相对应地所需的分辨率可以通过相对应的测试数据凭经验被确定。为此,针对不同分辨率的量化类型可以确定分类器关于测试数据记录方面的性能并且相对应地选择如下量化类型,对于该量化类型来说,相对应的性能超过预先限定的阈值。如果多个量化类型都超过该阈值,则可以优选地选择分辨率最低的量化类型。
通常,利用高分辨率的量化类型来被量化的分类器可以实现比利用低分辨率的量化类型来被量化的分类器更好的性能。然而,可以值得期望的是:在利用不同的量化类型进行量化的情况下,分类器仍然实现至少近似相同的性能。
公知的方法可以利用特定量化类型来对分类器进行训练。如果系统在推理时想要为所使用的分类器选择与为了训练分类器所使用的量化类型不同的量化类型,则这可能导致可观的性能损失,尤其是当所希望的量化类型具有比为了训练所使用的分辨率更低的分辨率时可能导致可观的性能损失。
具有权利要求1中的特征的分类器的优点在于:针对分类器可以选择不同的量化类型,并且在不同的量化类型之间、尤其是在不同分辨率的量化类型之间的性能损失可以显著减少。这例如能够实现基于除了性能本身之外的其它要求对量化类型的选择。
例如可设想的是:分类器可以在如下方法中被使用,其中该方法可以由系统来实施并且量化类型的集合可以根据该系统的运行状态来被选择。该运行状态例如可以表征用于运行该系统的资源的可用性。
如上所述,该运行状态例如可以描述电池的充电状态。
还可设想的是:该运行状态可以描述该系统所基于的一种或多种环境影响。例如,该系统可以由光伏设备来运行。在这种情况下,如果多云并且因而向该系统提供更少的能量,则该系统可以为分类器指定低分辨率的量化类型,而在晴天时可以选择高分辨率的量化类型。在该示例中,该运行状态可以被理解为当前天气状况。
此外,该运行状态也可以通过其它参数来被表征。例如可设想的是:通过电力来运行的设备可确定当前的电价。在电价低的情况下可设想的是给分类器指定高分辨率的量化类型,而在电价高的情况下可以选择低分辨率的量化类型。在该示例中,该运行状态可以被理解为经济因素。
此外,该运行状态可以表征与为了该系统的运行所需的资源不同的参量。例如可设想的是:该运行状态限定了对分类器的鲁棒性的要求。例如公知的是:如果分类器使用低分辨率的量化类型来确定输出信号,则这些分类器不易受到对抗样本(AdversarialExamples)的影响。该事实例如可以被利用为使得针对输入信号可以确定关于不同分辨率的量化类型的多个输出信号。接着,可以将通过不同的输出信号来表征的分类进行比较并且这样可以确定某个分类在多大程度上一致。这允许分类器确定关于其分类的不确定性的形式,基于该不确定性的形式,该系统可以相对应地被操控。在这种情况下,该运行状态可以被理解为对该系统的要求,该要求描述了应该进行鲁棒的分类。
在另一方面,本发明涉及一种用于训练分类器的计算机实现的方法,该方法包括如下步骤:
·基于可能的量化类型的集合来指定量化类型集合;
·基于输入信号来确定输出信号集合,其中所述输出信号集合中的输出信号分别被分配给所述量化类型集合中的量化类型;
·确定成本值集合,其中所述集合的成本值分别被分配给所述输出信号集合的输出信号并且描述了所述输出信号在多大程度上对应于所希望的输出信号;
·基于所述成本值集合来确定总成本值;
·根据所述总成本值来训练所述分类器。
用于训练的方法需要可能的量化类型的集合,这些可能的量化类型可以被理解为分类器针对其被设计用于以后的运行的量化类型。此外,为了进行训练可以使用输入信号的数据记录,该数据记录在下文也被称作训练数据记录。
对于训练数据记录的一个或多个输入信号来说,为了进行训练,分别产生输出信号集合。这些输出信号分别表征一个分类并且可以与所希望的被分配给相对应的输入信号的所希望的输出信号进行比较。优选地,基于成本函数来进行该比较,通过该成本函数可以确定相应的成本值,该成本值表征对相对应的输出信号与所希望的输出信号的偏差程度的量度。
接着,针对不同的量化类型所确定的输出信号可以通过融合函数来被组合,以便这样来获得总成本值。替代地,可设想的是:针对一个训练步骤只从可能的量化类型的集合中选择了一个量化类型,并且相对应地对于每个输入信号来说确定一个输出信号。在这种情况下,可以将所确定的成本值直接用作总成本值。
该做法的优点在于:分类器可以被训练为使得该分类器被设计用于针对不同的量化类型来确定输出信号。尤其是,通过该方法来被训练的分类器可以实现适合于不同的量化类型的性能,其中量化可基于分类器的一个或多个相同的参数。这意味着:对于分类器的使用来说仅须提供一组参数,而不必针对每个量化类型存储不同的参数。
还可设想的是:即使低分辨率的量化类型不被设置用于在由分类器进行推理的情况下使用,分类器也主要可以利用这些量化类型来被训练。利用低分辨率的量化类型进行的训练引起分类器的正则化,因为低分辨率引起高量化噪声。该正则化有利地导致相对于输入信号中的干扰而言更鲁棒的分类器,这引起分类器的更高的性能。
在本发明的另一方面,可设想的是:对分类器的训练分批次(Batch)地被执行,并且针对每个批次在指定量化类型集合的步骤中从可能的量化类型的集合中随机地指定量化类型。
术语Batch(批次)(堆(Stapel)的英文)可以被理解为输入信号集合,这些输入信号作为集合被提供给分类器并且分类器针对一批次的输入信号来确定输出信号。为了进行分批次的训练,数据记录可以被分成特定大小的批次,这些批次逐步被输送给分类器。接着,对分类器的训练可以被执行为使得在训练步骤中选择批次并且基于该批次的输入信号来相对应地确定总成本值的集合。接着,分类器可以根据这些总成本值的加权和来被训练。
对于批次来说,在训练期间可以使用可能的量化类型的子集来对分类器进行量化。为此,可以优选地针对不同的批次分别从可能的量化类型的集合中随机地选择量化类型。该做法的优点在于:对于一批次的输入信号来说不必分别确定多个输出信号,由此缩短了分类器对批次的处理时间。经此,使分类器能够在特定时间段内处理更多批次并且由此从训练数据中提取更多信息。这导致训练的更快的收敛和分类器的更高的性能。
在本发明的不同方面,术语“计算机”包括用于执行可指定的计算规则的任意设备。这些计算规则可以以软件的形式存在,或者以硬件的形式存在,或者也可以以软件和硬件的混合形式存在。
附图说明
随后,本发明的实施方式参考随附的附图进一步予以阐述。在附图中:
图1示意性示出了控制系统的构造;
图2示意性示出了用于控制至少部分自主机器人的实施例;
图3示意性示出了用于控制私人助理的实施例;
图4示意性示出了分类器的第一层的实施例;
图5示意性示出了分类器对总成本值的确定;
图6示出了示意性流程图,该流程图显示出对分类器的训练;以及
图7示意性示出了用于训练分类器的方法流程。
具体实施方式
图1示出了在其周围环境(20)中与控制系统(40)进行交互的执行器(10)。优选地,控制系统(40)可以由能量源(101)来运行。此外,影响能量源(101)的信息可以优选地从能量源传感器(30a)被传送给控制系统(40)。以优选地均匀的时间间隔以传感器(30)、尤其是如视频传感器那样的成像传感器来检测周围环境(20),该传感器也可以通过多个传感器来给出,例如立体摄像机。传感器(30)的传感器信号(S)——或在有多个传感器的情况下每个传感器信号(S)——被传送给控制系统(40)。因此,控制系统(40)接收传感器信号(S)的序列。控制系统(40)据此来确定操控信号(A),这些操控信号被传输给执行器(10)。替代地或附加地,可设想的是:通过操控信号(A)来对显示设备(10a)、例如屏幕进行操控,其中显示设备(10a)重现与操控信号(A)相对应的信息。
控制系统(40)在可选的接收单元(50)中接收传感器(30)的传感器信号(S)的序列,该接收单元将传感器信号(S)的序列转换成输入图像(x)的序列(替代地也可以直接各采用传感器信号(S)作为输入图像(x))。输入图像(x)例如可以是传感器信号(S)的片段或者对该传感器信号的进一步处理。输入图像(x)包括视频录制的各个帧。换言之,根据传感器信号(S)来确定输入图像(x)。输入图像(x)的序列被输送给分类器(60)。
分类器(60)优选地通过参数(w)来被参数化,这些参数寄存在参数存储器(P)中并且由该参数存储器来提供。为了该目的,分类器可由第一层组成。在这种情况下,这些第一层的第一参数()形成分类器的参数(w)。还可设想的是:在分类器(60)将参数(w)用于计算输出信号(y)之前,该分类器对这些参数进行量化。在这种情况下,量化类型()优选地是在训练分类器期间已经被使用的量化类型。
其中是被量化的参数,是参数并且是这些量化点之间的步长。如果参数小于左区间边界,则被量化的参数可以优选地被设置到左区间边界上。如果该被量化的参数大于右区间边界,则该被量化的参数可以优选地被设置到右区间边界上。
量化也可以在最小的区间边界与最大的区间边界之间非线性地进行。为此,区间的范围例如可具有高分辨率,也就是说包含多个量化点,而区间的其它点具有低分辨率,即包含少量的量化点。与线性量化相比,这里,量化点之间的间隔可以不一样大。
在其它实施方式中,用来对分类器(60)进行量化的一个或多个量化类型基于能量源传感器(30a)的传感器信号()来被确定。例如,能量源传感器(30a)可以是用于确定电池(101)的当前充电状态的传感器,而另一传感器信号()可表征电池(101)的当前充电状态。接着,分类器(60)可基于另一传感器信号()来选择应被用于对参数(w)进行量化的一个或多个量化类型。例如,在电池(101)的充电状态低的情况下,可以使用低分辨率的量化类型。
分类器(60)根据输入图像(x)来确定一个或多个输出信号()。所述一个或多个输出信号()被输送给可选的变换单元(80),该变换单元据此来确定操控信号(A),这些操控信号被输送给执行器(10),以便相对应地对执行器(10)进行操控。输出信号()例如可包括关于传感器(30)已检测到的对象的信息。
在另一实施例中,控制系统(40)的分类器(60)基于至少两个量化类型来确定相对应的数目的输出信号()并且将这些输出信号作为输出信号(y)集合来输出。在这种情况下,转换单元(80)可以确定这些输出信号()在多大程度上彼此不同。
对于这些输出信号()表征相同或至少类似的分类的情况来说,转换单元(80)可以将操控信号(A)输出给执行器(10),该操控信号表征对执行器(10)的正常操控。对于这些输出信号()表征彼此不同的分类的情况来说,对执行器(10)的操控可能受限或者被切换到由人类来控制执行器(10)。还可设想的是:转换单元(80)向显示器(10a)提供操控信号(A),该显示器以适当的方式向人类、比如控制系统(40)的制造商呈现分类的偏差。这例如可以通过警告在对周围环境(20)的感知中出现了差异来实现。
在其它实施例中,可设想的是:传感器(30)是声学传感器、诸如麦克风,该声学传感器可以检测周围环境(20)中的噪声和/或语音信号(S)。在这种情况下,分类器(60)可以被构造为:根据被移交给该分类器的音频信号(x)来对特定的噪声和/或语音指令进行分类。例如,分类器(60)可以确定音频信号(x)是否包含信号音、比如警笛声或者其它报警音。替代地,可设想的是:分类器(60)确定语音指令,其中相对应地被确定的指令可以经由操控信号(A)被传送给执行器(10、10a)。
在上文提到的实施例中,执行器(10)接收操控信号(A),相对应地被操控并且实施相对应的行动。在这种情况下,执行器(10)可包括(不一定在结构上集成的)操控逻辑,该操控逻辑根据操控信号(A)来确定接着用来操控执行器(10)的第二操控信号。
在其它实施方式中,控制系统(40)包括传感器(30)。在另外其它实施方式中,替代地或附加地,控制系统(40)也包括执行器(10)。在另外其它实施方式中,控制系统包括能量源(101)和/或能量源传感器(30a)。
在其它优选的实施方式中,控制系统(40)包括至少一个处理器(45)和至少一个机器可读存储介质(46),在该机器可读存储介质上存储有命令,当这些命令在一个或多个处理器(45)上被实施时,这些命令促使控制系统(40)实施按照本发明的方法。
图2示出了控制系统(40)可以如何被用于控制至少部分自主机器人、这里是至少部分自主且电池运行的机动车(100)。在该实施例中,车辆的不仅控制系统(40)而且执行器(10、10a)都可以通过至少一个电池(101)来被运行,该电池优选地安装在车辆(101)中。优选地,电池(101)也给控制系统(40)供应能量。
传感器(30)例如可以是优选地布置在机动车(100)中的视频传感器,其中分类器(60)可以被设立为根据输入图像(x)来标识对象。
优选地布置在机动车(100)中的执行器(10)例如可以是机动车(100)的刹车装置、驱动装置或转向装置。在其它实施例中,控制系统也可以控制多个执行器(10)。接着,操控信号(A)可以被确定为使得该执行器或这些执行器(10)被操控为使得尤其是当涉及某些类型的对象、例如行人时,机动车(100)例如防止了与由分类器(60)所标识的对象相撞。
替代地,可设想的是:传感器(30)位于麦克风中,而且分类器(60)基于麦克风(30)的所记录的音频信号(S)来对是否能听到周围环境(20)中的紧急车辆的警笛声进行分类。如果分类器(60)在音频信号中探测到警笛声,则车辆(101)的执行器(10)例如可以被操控为使得车辆(101)形成紧急车道。
还可设想的是:分类器(60)针对不同的量化类型()来确定输出信号(),并且转换单元(80)确定关于分类的不确定性。对于该不确定性超过预先限定的阈值的情况来说,控制系统可以经由车辆的例如显示器(10a)来指示人类接管对车辆(101)的控制。
替代地,该至少部分自主机器人也可以是其它移动机器人(未绘出),例如是这种通过飞行、漂浮、潜水或步行来前进的机器人。该移动机器人例如也可以是至少部分自主割草机或者至少部分自主清洁机器人。在这些情况下,操控信号(A)也可以被确定为使得移动机器人的驱动装置和/或转向装置被操控为使得该至少部分自主机器人例如防止与由分类器(60)所标识的对象相撞。
替代地或附加地,可以利用操控信号(A)来操控显示单元(10a),而且例如可以呈现所确定的安全区域。
图3示出了如下实施例,在该实施例中,控制系统(40)被用于控制电池运行的医疗诊断仪器(200)。诊断仪器(200)可以利用摄像机传感器(30)来拍摄患者的眼睛(201)的图像。然后,分类器(60)基于该图像来对眼睛是否有疾病进行分类。对于分类器(60)探测到了疾病的情况来说,在诊断仪器(200)的显示设备(10a)上可以显示该图像并且在该图像上标记(202)眼睛的相对应的位置。
诊断仪器(200)优选地由电池(101)来运行,该电池优选地安装在诊断仪器(200)中。尤其是,分类器(60)也可以由电池(101)来运行。控制系统能够通过充电状态传感器(30a)来获得关于电池(101)的充电状态的信息。这些信息可以被用于确定量化类型(),分类器(60)基于该量化类型来执行分类。
对于充电状态传感器(30a)测量到电池电量低于预先限定的阈值的情况来说,控制系统(40)可以优选地选择低分辨率的量化类型(),用于分类器(60)的接下来的分类。对于电池电量对应于该阈值或者超过该阈值的情况来说,控制系统可以优选地选择高分辨率的量化类型()。
为了分类,分类器(60)可以接收图像以及所选择的量化类型()并且基于此来确定输出信号(),该输出信号表征眼睛疾病的程度多大以及位置在哪里。然后,这些信息可以由控制系统(40)的变换单元(80)变换成相对应的操控信号(A)并且由显示设备(10a)相对应地以视觉方式呈现。附加地,可设想的是:除了关于疾病的信息之外,所选择的量化类型()也一并被呈现在显示设备(10a)上。
在另一实施例中,可设想的是:控制系统(40)选择多个量化类型(),并且分类器针对这些量化类型()中的每个量化类型基于该图像来分别确定输出信号()。这些输出信号()可以利用公知的集成或融合技术由控制系统(40)的变换单元(80)来处理,以便获得显示设备(10a)的操控信号(A)。附加地,可设想的是:变换单元(80)基于输出信号()的偏差来确定不确定性量度,例如熵或者转移信息。优选地,该不确定性量度可以在操控信号(A)中被一并传送给显示设备(10a),例如以便在显示设备(10a)上显示不确定的分类的区域。
图4示出了如下实施例,在该实施例中,控制系统(40)被用于操控访问控制系统。访问控制系统例如可以包含门(400),该门可以由马达(10)来打开或关闭。控制系统(40)基于摄像机传感器(30)的图像来操控马达(10)。
为此,摄像机传感器(30)可以观察门的周围环境。接着,摄像机传感器(30)的图像可以由分类器(60)来处理。分类器(60)可以针对这些图像来探测人员在这些图像中所处的位置并且预测这些人员的身份。如果探测到人员并且该人员的身份已被分类器(60)所确定,则可以检查该人员是否可以被允许访问门后面的区域。这例如可以通过将所探测到的人员的身份与数据库进行对照来进行。
对于应该允许该人员访问的情况来说,控制系统(40)可以将相对应的操控信号(A)发送给马达(10),该操控信号促使该马达(10)将门打开。
可设想的是:访问控制系统、尤其是控制系统(40)的分类器(60)由光伏设备(101)来供应能量。还可设想的是:光伏设备(101)拥有天气传感器(30a),该天气传感器可以确定关于紧接着的天气状况(401)的信息。例如,天气传感器(30a)可以确定:太阳辐射在不久的将来将在多大程度上提供用于在光伏设备中产生能量。天气传感器(30a)可以将该信息提供给控制系统(40)。接着,控制系统(40)可以基于该信息来确定应该用来量化分类器(60)的量化类型()。在太阳辐射低的情况下,例如可以选择低分辨率的量化类型(),而在太阳辐射高的情况下可以选择高分辨率的量化类型()。
图5示出了分类器(60)的第一层()。第一层()包括第一权重()。在第一量化单元(601)中,第一层()基于量化类型()集合将第一输入信号(i)量化到被量化的输入信号()的集合上。为此,针对每个量化类型(),第一量化单元(601)产生相对应的被量化的输入信号()。第一权重()由第二量化单元基于量化类型()集合来量化,以便获得被量化的权重()的集合。为此,针对每个量化类型(),第二量化单元(601)产生相对应的被量化的权重()。然后,与量化类型()对应的被量化的输入和一个或多个关于相同的量化等级被量化的权重可以由结算单元(603)来结算,以便获得相对应的被量化的输出信号()。
在另一实施例中,可设想的是:针对量化类型所确定的被量化的输入信号()和针对同一量化类型所确定的被量化的权重()分别以至少三维张量的形式存在。在这种情况下,计算单元可以通过将相对应的被量化的输入与作为卷积掩码的相对应的被量化的权重进行离散卷积来确定相对应的被量化的输出。
在其它实施例中,可设想的是:为了确定被量化的输出信号(),相对应的输入信号()和相对应的权重()有关不同的量化类型()来被量化。例如可设想的是,输入信号()与相对应的权重()相比利用更低分辨率的量化类型()来被量化,或者反过来。
图6示意性示出了基于输入信号(x)和所希望的输出()对总成本值()的确定。在该实施例中,分类器(60)基于输入信号(x)和量化类型()集合针对每个量化类型()来分别确定输出信号()。成本函数(701)针对输出信号()中的每个输出信号确定单独的成本值()。为此,所希望的输出信号()可以以独热编码(One-Hot-Encoding)的形式存在,并且例如可以使用交叉熵函数作为成本函数。
然后,基于所确定的成本值(),通过总成本函数(702)来确定总成本值()。例如,可以使用确定所有成本值()的平均值的函数作为总成本函数(702)。替代地,可设想的是:基于各个成本值()的加权和来确定总成本值()。
图7示意性示出了用于训练分类器(60)的方法流程。
在第二步骤(402)中,输入信号(x)作为训练数据被输送给分类器(60),其中训练数据包含输入信号(x)和分类器(60)的与输入信号(x)对应的所希望的输出信号()。接着,对于每个输入信号(x)来说,分类器(60)可以针对在第一步骤(401)中选择的量化类型()之一来确定输出信号(),其方式是该分类器首先有关该量化类型被量化。在这种情况下,该量化类型可以随机地从在第一步骤(401)中确定的量化类型()中被确定。替代地,也可设想的是:分类器(60)分别针对所有在第一步骤中被选择的量化类型()来确定输出信号()。
由分类器所确定的输出信号()可以在第三步骤(403)中被输送给成本函数,以便针对每个输出信号()都计算成本值,该成本值表征相应的输出信号()与对应于输入信号(x)的所希望的输出信号()的偏差程度。为此,例如可以使用交叉熵函数。
在其它实施例中,步骤二(402)到五(405)可以迭代地被重复,直至达到了所希望的迭代数。
Claims (14)
4.根据权利要求3所述的方法,其中所述运行状态表征用于运行所述控制系统(40)、尤其是用于运行所述分类器(60)的资源的可用性。
5.根据权利要求4所述的方法,其中所述控制系统(40)、尤其是所述分类器(60)由电池(101)来运行,并且所述运行状态表征所述电池(101)的充电状态。
6.根据权利要求3所述的方法,其中所述运行状态表征对所述分类器(60)的鲁棒性的要求。
12.一种训练设备,所述训练设备被设立为实施根据权利要求7或8中任一项所述的方法。
13.一种计算机程序,所述计算机程序被设立为实施根据权利要求2至9中任一项所述的方法。
14.一种机器可读存储介质(46),在其上存储有根据权利要求11所述的计算机程序。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102020203998.4A DE102020203998A1 (de) | 2020-03-27 | 2020-03-27 | Verfahren und Vorrichtung zum Betreiben eines Klassifikators |
DE102020203998.4 | 2020-03-27 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113449585A true CN113449585A (zh) | 2021-09-28 |
Family
ID=77658637
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110325283.7A Pending CN113449585A (zh) | 2020-03-27 | 2021-03-26 | 用于运行分类器的方法和设备 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210304033A1 (zh) |
CN (1) | CN113449585A (zh) |
DE (1) | DE102020203998A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102020210328A1 (de) | 2020-08-13 | 2022-02-17 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren und Vorrichtung zum Trainieren eines quantisierten Klassifikators |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017049496A1 (en) | 2015-09-23 | 2017-03-30 | Intel Corporation | Apparatus and method for local quantization for convolutional neural networks (cnns) |
DE102018220701A1 (de) | 2018-11-30 | 2020-06-04 | Robert Bosch Gmbh | Diskretisierung von Zahlenwerten mit adaptiver Genauigkeit |
-
2020
- 2020-03-27 DE DE102020203998.4A patent/DE102020203998A1/de active Pending
-
2021
- 2021-03-19 US US17/206,974 patent/US20210304033A1/en active Pending
- 2021-03-26 CN CN202110325283.7A patent/CN113449585A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
DE102020203998A1 (de) | 2021-09-30 |
US20210304033A1 (en) | 2021-09-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102313773B1 (ko) | 신경망 학습에 기반한 입력 처리 방법 및 이를 위한 장치 | |
US20210089895A1 (en) | Device and method for generating a counterfactual data sample for a neural network | |
US11189171B2 (en) | Traffic prediction with reparameterized pushforward policy for autonomous vehicles | |
CN110222717B (zh) | 图像处理方法和装置 | |
US11531899B2 (en) | Method for estimating a global uncertainty of a neural network | |
CN111401517B (zh) | 一种感知网络结构搜索方法及其装置 | |
US20210192343A1 (en) | Method and device for training generative adversarial network for converting between heterogeneous domain data | |
CN113039555A (zh) | 通过使用基于注意力的神经网络在视频剪辑中进行动作分类 | |
US20230244924A1 (en) | System and method for robust pseudo-label generation for semi-supervised object detection | |
CN113592060A (zh) | 一种神经网络优化方法以及装置 | |
KR102597787B1 (ko) | 멀티스케일 딥 평형 모델들을 위한 시스템 및 방법 | |
US11468276B2 (en) | System and method of a monotone operator neural network | |
KR20230088714A (ko) | 개인화된 뉴럴 네트워크 프루닝 | |
EP4318322A1 (en) | Data processing method and related device | |
CN117217280A (zh) | 神经网络模型优化方法、装置及计算设备 | |
CN112149820A (zh) | 用于训练人工神经网络的方法、人工神经网络和相应计算机程序 | |
CN113243021A (zh) | 用于训练神经网络的方法 | |
CN113449585A (zh) | 用于运行分类器的方法和设备 | |
CN116432736A (zh) | 神经网络模型优化方法、装置及计算设备 | |
US20230260259A1 (en) | Method and device for training a neural network | |
CN115699103A (zh) | 一种使用可解释自聚焦注意预测行为的方法和装置 | |
CN111435457A (zh) | 对传感器获取的采集进行分类的方法 | |
CN116543214A (zh) | 一种基于均匀泊松编码的脉冲神经网络目标检测方法 | |
CN112714916A (zh) | 机器学习系统及创建机器学习系统的方法、计算机程序和设备 | |
CN116861962A (zh) | 一种数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |