CN114358241A - 确定安全关键输出值的方法及相应的系统和程序产品 - Google Patents

确定安全关键输出值的方法及相应的系统和程序产品 Download PDF

Info

Publication number
CN114358241A
CN114358241A CN202111200855.5A CN202111200855A CN114358241A CN 114358241 A CN114358241 A CN 114358241A CN 202111200855 A CN202111200855 A CN 202111200855A CN 114358241 A CN114358241 A CN 114358241A
Authority
CN
China
Prior art keywords
neural network
target parameter
value
entity
output value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111200855.5A
Other languages
English (en)
Inventor
M·布罗索斯基
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dr Ing HCF Porsche AG
Original Assignee
Dr Ing HCF Porsche AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dr Ing HCF Porsche AG filed Critical Dr Ing HCF Porsche AG
Publication of CN114358241A publication Critical patent/CN114358241A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/02—Registering or indicating driving, working, idle, or waiting time only
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0808—Diagnosing performance data

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Feedback Control In General (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本发明涉及借助针对技术实体(10)的数据分析装置(30)确定安全关键输出值(y1、y2...yn)的方法，包括：由数据分析装置接收(S10)实体和/或实体的环境的表示输入值(x)的数据和/或测量值；借助软件应用程序由数据分析装置(30)来处理(S20)输入值(x)以确定至少一个第一输出值(y1)，具有以下方法步骤：使用(S21)具有第一可学习参数(θ)的多个层(hθ(x))的神经网络；通过函数(φ)修改(S22)神经网络的最后一层或附加层，使得输出值(y1)处于至少一个目标参数(s)的规定取值范围(C(s))内；通过具有第二可学习参数(β)的神经网络的其他附加层(kβ(x))来确定(S23)目标参数(s)和/或目标参数(s)的取值范围(C(s))。

Description

确定安全关键输出值的方法及相应的系统和程序产品
技术领域
本发明涉及的是用于借助针对技术实体(特别是机动车辆)的数据分析装置来确定安全关键输出值的方法和系统。
背景技术
在自动化驾驶领域，安全相关功能在某些应用中完全由车辆本身控制。车辆驾驶员不再监控交通状况，因而必须完美地保护这些功能免受故障的影响。
例如，在对机动车辆等技术单元进行自动化安全监控的情况下，会评估单个组件乃至整个单元的状况，以避免损坏、规划维护从而降低成本。为此，优选为必须遵守的测量值定义某些指数或特性值，一旦超过或低于这些测量值就会引起错误警报。这些测量值可以是光学或声学数据，例如在某个组件或传动系运行状态下的有害频率，或者面部识别过程中的光学数据，或者机动车辆中的自动距离监控或允许的运动轨迹的计算。针对所获得的测量数据来定义和配置计算算法，以便从中获得关于激发和/或有害频率的信息或关于人员或环境的信息。然后可以监控这些关键因素(例如关键性能指标)，以便在发生变化时提前识别在技术单元和单个组件上可能产生的损害。但在分析链和/或计算链中的这些不同步骤需要非常高水平的专业知识，并且在数学方面也是复杂和耗时的。
DE 101 13 538 B4描述了一种具有控制器的控制装置，该控制器接收输入变量并且由此确定被馈送到受控对象的执行器的操纵变量。设有神经校正发生器，其接收到源于受控对象的过程变量、一部分控制器输入变量和一部分由控制器确定的操纵变量，并从这些输入变量产生校正信号。
DE 10 2019 105850 A1描述了一种为车辆和/或车辆组件的控制仪生成缩减神经网络的方法。第一神经网络的第一数据字段被读入并且借助该第一数据字段来生成缩减神经网络。
发明内容
有鉴于此，本发明的目的是提供用于借助针对技术实体的数据分析装置来确定安全关键输出值的方法、系统和计算机程序产品，其特征在于高可靠性和计算能力的高效使用。
在方法方面，本发明用以达成上述目的的解决方案为下述第一方面的特征，在系统方面，本发明用以达成上述目的的解决方案为下述第二方面的特征，在计算机程序产品方面，本发明用以达成上述目的的解决方案为下述第三方面的特征，以下还涉及本发明的优选技术方案。
根据第一方面，本发明涉及一种借助针对技术实体的数据分析装置来确定安全关键输出值y1、y2、...、yn的方法，该方法包括：
-由所述数据分析装置接收所述实体和/或所述实体的环境的数据和/或测量值，其中所述数据/测量值描述所述实体和/或所述实体的环境的至少一个状态和/或至少一个特征并且表示输入值；
-借助软件应用程序由所述数据分析装置来处理输入值x以确定至少一个第一输出值y1，具有以下方法步骤：
-使用具有第一可学习参数θ的多个层hθ(x)的神经网络；
-通过函数φ修改所述神经网络的最后一层或附加层，使得输出值y1处于至少一个目标参数s的规定取值范围C(s)内；
-通过具有第二可学习参数β的神经网络的其他附加层kβ(x)来确定所述目标参数s和/或所述目标参数s的取值范围C(s)。
在一种进一步改进方案中，所述目标参数s和/或所述取值范围C(s)表示至少一个第二输出值y2。
有利地，将由所述目标参数s形成的表达式g(s)作为另一输入值传递到所述神经网络，使得所述神经网络的计算值z也取决于所述目标参数s。
在一种实施方式中，将噪声分量Δs添加到所述确定的目标参数s，其中所述噪声分量Δs是与所述参数s具有相同维度的随机数。
在本发明的一种改进方案中，共享或共同使用用于确定所述第一输出值y1和所述第二输出值y2的可学习参数γ。
特别是使用某个数据库，其中存储有关于技术单元的特性、图像和特性参数及其关联的数据。
有利地，所述技术实体是机动车辆。
根据第二方面，本发明涉及一种用于用数据分析装置来确定针对技术实体的安全关键输出值y1、y2、...、yn的系统，其中所述数据分析装置被构建成接收传输给所述数据分析装置的所述实体和/或所述实体的环境的数据和/或测量值，其中所述数据/测量值描述所述实体和/或所述实体的环境的至少一个状态和/或至少一个特征并且表示输入值x。由所述数据处理设备借助软件应用程序处理所述输入值x以确定至少一个第一输出值y1，具有以下处理步骤：
-使用具有第一可学习参数θ的多个层hθ(x)的神经网络；
-通过函数φ修改所述神经网络的最后一层或附加层，使得输出值y1处于至少一个目标参数s的规定取值范围C(s)内；
-通过具有第二可学习参数β的神经网络的其他附加层kβ(x)来确定所述目标参数s和/或所述目标参数s的取值范围C(s)。
在一种改进方案中，所述目标参数s和/或所述取值范围C(s)表示至少一个第二输出值y2。
在一种实施方式中，将由所述目标参数s形成的表达式g(s)作为另一输入值传递到所述神经网络，使得所述神经网络的计算值z也取决于所述参数s。
有利地，将噪声分量Δs添加到所述确定的目标参数s，且其中所述噪声分量Δs是与所述目标参数s具有相同维度的随机数。
特定而言，共享或共同使用用于确定所述第一输出值y1和所述第二输出值y2的可学习参数γ。
在一种实施方式中，使用某个数据库，其中存储有关于技术单元的特性、图像和特性参数及其关联的数据。
所述技术实体有利地是机动车辆。
根据第三方面，本发明涉及一种计算机程序产品，其包括可运行的程序编码，所述程序编码被配置为使得其在运行时实施根据第一方面所述的方法。
附图说明
下面结合附图所示实施例对本发明进行详细说明。
图中：
图1为用于确定针对技术实体的安全关键输出值的本发明的系统的示意图；
图2为本发明的神经网络的第一实施例；
图3为本发明的神经网络的第二实施例；
图4为本发明的神经网络的第三实施例；
图5为本发明的神经网络的第四实施例；
图6为用于阐释本发明的方法的各方法步骤的流程图；
图7为根据本发明的第四方面的一种实施方式的计算机程序产品。
附图标记
10 实体
20 传感器
30 数据分析装置
32 处理器
40 存储单元
45 软件模块
50 数据库
70 用户界面
100 系统
200 计算机程序产品
250 程序编码
x 输入值
y 输出值
具体实施方式
下面通过结合权利要求书进行详细说明来阐述本发明或其实施例的更多特征、方面和优点。
图1示出用于借助针对实体10的数据分析装置30来确定安全关键输出值的系统100。实体10例如可以是机动车辆。实体10配设有传感器20，其将声学、光学、化学和/或其他测量值记录为数据。传感器20例如可以是压力传感器、压电传感器、转速传感器、温度传感器和/或图像记录传感器，如相机。传感器20将测量值和数据转发到数据分析装置30，使得这些表示输入值x。数据分析装置30优选地具有处理器32，其借助具有算法的软件应用程序来处理输入值x。也可以将这些数据首先存储在存储单元40或软件模块45中，在某个未来的时间点上再由数据分析装置30处理。此外，数据分析装置30可以访问一或多个另外的数据库50。在数据库50中例如可以存储与实体10的特性以及图像和特性参数有关的信息或数据。示例性的特性为转速频率或马达在特定速度下的转矩。此外，例如也可以从数据库50下载实体10的环境的图像。在数据库50中也可以存储实体10的构建规划，如变速器或马达的轴承。此外，在数据库50中可以存储有用来定义安全标准的目标变量和目标值。此外还可以设有构建为显示器的用户界面70，其用于输出计算结果。
本发明中的“处理器”例如指机器或电子电路。处理器尤其可以是中央处理器(Central Processing Unit，CPU)、微处理器或微控制器，例如专用集成电路或数字信号处理器，其可能与用于存储程序指令等的存储单元组合使用。处理器也可以理解为虚拟处理器、虚拟机或软核CPU。处理器例如也可以是可编程处理器，其配设有用于实施本发明的上述方法的配置步骤，或者如此地配置有配置步骤，使得该可编程处理器可实现所述方法、所述组件、所述模块或本发明的其他方面和/或部分方面的本发明的特征。
本发明中的“存储单元”或“存储模块”和类似元件例如可指形式为随机存储器(Random-Access Memory，RAM)的易失性存储器，或者永久存储器，例如硬盘或数据载体，或者例如可更换的存储模块。该存储模块也可以是基于云的存储器解决方案。
本发明中的“模块”例如可以理解为用于存储程序指令的处理器和/或存储单元。例如，该处理器被专门配置成如此地运行程序指令，使得处理器实施旨在实施或实现本发明的方法或本发明的方法的步骤的功能。
本发明中的“测量值”既可指原始数据又可指根据传感器20的测量结果而处理的数据。
在图2中，显示了具有动态限制的神经网络的本发明的建模。根据本发明，数据分析装置30使用具有以下特性的人工神经网络的改进架构来处理输入值x：在每个前向计算步骤中，针对输入值x针对性地限制至少一个第一输出值y1的取值范围。这些输入值x优选为传感器20的测量值的数据。但也可以使用来自数据库50或其他来源的输入值x。
具有由带可学习参数θ的不同层hθ(x)组成的已知架构的神经网络与扩展函数φ相结合，以控制对输出值范围C(s)的限制。函数φ将神经网络的计算值z映射至取决于目标参数s的取值范围C(s)。函数φ本身不包含任何可学习的参数θ。
根据本发明，通过具有自有可学习参数β的神经网络的附加层s＝kβ(x)来根据输入值x确定至少一个目标参数s。因此，通过神经网络确定的目标参数s可以被视为附加输入值。这样就基于借助神经网络的输入值来学习目标参数s，从而大体上通过本身计算而非外部预设来进行确定。
通过目标参数s来定义神经网络的最大输出量D的子集C(s)。神经网络的可学习参数优选用θ表示，但它们也可以是任意其他参数。将第一输出值y1定义为：
Figure BDA0003303481740000051
其中
Figure BDA0003303481740000052
通过以本发明的这种方式规定神经网络的架构而规定，神经网络的输出值y1＝fθ(x，s)仅处于输出集C(s)中。在本发明中将具有这种架构的神经网络称为具有动态限制的神经网络。使用已知的神经网络架构并用函数φ进行修改，使得输出值y1处于定义的输出值范围C(s)内。这样就能将已知的神经网络用作训练算法。对基于梯度的优化法和分类法而言尤为如此，可以将这些方法应用于本发明的具有动态限制的神经网络。将已知训练算法应用于本发明的神经网络的优点是，能够添加额外的安全特性。为了能够使用基于梯度的学习方法，函数φ(z，s)优选不仅在z上可微分，而且在s上可微分。
通过神经网络的附加层s＝kβ(x)确定的目标参数s和分配给该目标参数的取值范围C(s)可以形成神经网络的第二输出值y2。
由此，本发明通过以下方式来提供具有动态限制的神经网络：以特定方式修改具有已知架构的神经网络。本发明的神经网络将每个第一输出值y1映射在针对特定参数s而规定的定义取值范围C(s)内。这样就能避免通常会出现在已知神经网络中的无法预测的输出值。而本发明的神经网络提供的是处于取值范围C(s)内的输出值，因而在其结构方面是确定性的。参数s和取值范围C(s)是借助神经网络的附加层s＝kβ(x)并基于输入值x而确定的。因此，目标参数s以及分配给它的取值范围C(s)是基于输入值x确定的。
图3示出本发明的神经网络的扩展，其中将参数s的表达式g(s)赋予神经网络。因此，在将由目标参数s形成的表达式g(s)作为进一步的输入值x传递到神经网络的情况下，神经网络的计算值z取决于目标参数s本身。在此情况下，函数φ(z，s)应用于神经网络的计算值z＝hθ(x，g(s))并将神经网络的输出值y1映射至取值范围C(s)。此外在函数φ在z上可微分的情况下，就能将基于梯度的优化法应用于本发明的神经网络。
因而产生下式：
Figure BDA0003303481740000061
在针对一或多个输入值x使用多个目标参数si以及多个限制取值范围C(si)的情况下，这一点较为有利。使用表达式g(s)时，中间变量z同样取决于目标参数s。为了能够使用基于梯度的学习方法，表达式g(s)优选可微分。
此外如图3所示，目标参数s和分配给它的取值范围C(s)形成神经网络的第二输出值y2。
通过由神经网络本身来确定目标参数s可提高可解释性，因为学习的目标参数s描述了输出C(s)的可解释的限制。例如，在图像处理中，确定的目标参数s可以表示二维图像区域中的一个区域，该区域覆盖了神经网络的输出值y1。举例而言，如果神经网络的任务是定位面部的某些定位点(地标)，如鼻尖，则该区域可能是人脸周围的边框(bounding box)。
所确定的目标参数s表示神经网络的另一输出y2，因而可以使用多任务学习的算法。通过同时学习不同的输出值y1、y2、...、yn可以提高性能。
输出值y1、y2、...、yn在对取值范围C(s)的限制方面是一致的，这样就能将不同输出值y1、y2、...、yn间的相关性考虑在内。因而在图像处理领域，边框和地标并非被彼此独立地预测，而是以某种方式预测，使得边框确保也将人脸中的地标包括在内。
如图4所示，在一种进一步改进方案中，可以将噪声分量Δs添加到所确定的目标参数s。Δs是与参数s具有相同维度的随机数，其中其绝对值限制在||s||＜ε。这样就能针对不同且形式可变的限制区域y1∈C(s+Δs)实现可靠预测。此外也不会因此而违反可微性，从而不会违反基于梯度的学习方法的使用。
图5示出用于确定第一输出值y1∈C(s)和第二输出值y2＝s而共享或共同使用的可学习参数γ。
神经网络通常是多维的，因而在下文中，根据将输出值范围限制在具有M个角点{vi}i＝1...，M的任意N维凸多面体C(s)来描述本发明的具有动态限制的神经网络的建模。多面体C(s)由M个N维角点
Figure BDA0003303481740000071
的坐标定义为限制性目标参数。神经网络的最后一层中的计算值z被定义为z＝(z1，...，zM)。函数φ此时定义如下
Figure BDA0003303481740000072
或者
Figure BDA0003303481740000073
并基于计算值z＝(z1，...，zM)和目标参数
Figure BDA0003303481740000074
的使用，其中σ表示M维softmax函数。Softmax函数σ将具有实数分量的M维矢量z转换为同样具有取值范围(0，1)内的实数分量的M维矢量σ(z)，其中矢量σ(z)的分量总和为1。
从而针对输出值(y)的取值范围C(s)产生以下公式：
Figure BDA0003303481740000075
这样就在凸多面体C(s)的矢量s作为表达式g(s)传递到神经网络的情况下，结果同样处于所考虑的凸多面体C(s)中。
在本发明的更多一般性方案中，将神经网络的多维输出的不同分量zk限制为k个不同的凸多面体Ck，其分别具有不同的维度和角点数。针对不同的计算值z1、...、zk，选择不同的函数φ1、...、φk以将分量z1、...、zk映射至输出值y1、...、yk。凸多面体Ck可以通过将所有多面体的角点的坐标进行归总来表示。
原则上也可以通过将非凸多面体划分为凸多面体来将神经网络的输出值y限制为非凸多面体。在此情况下，可以在凸多面体分量中实施本发明的方法。此外，将Softmax概率用来选择表示针对特定任务的最佳解决方案的多面体分量。
这种具有动态限制的多维神经网络还可以将多个技术实体相互联系起来。这样例如就能在某种车型的不同车辆之间进行比较。例如可以将不同车辆的数据在其运行期间转发到云端，以便借助本发明的算法基于技术数据的平均值来测定数据分析，例如一定里程后测定离合器特性。
本发明应用广泛，例如应用于自动驾驶车辆的运动规划。输入数据x可以是车辆中的传感器(如相机)的测量值，或者使用LiDAR、雷达或超声波。也可以使用已经处理过的测量值，例如对象数据。输出值y1例如可以表示基于输入值x以及关于时间和空间上的环境的数据的轨迹。目标参数s表示地理地形的可行驶区域C(s)。根据本发明，将定义可行驶区域的该目标参数s确定为神经网络的另一输出值y2∶y2＝s。这个目标参数s是用神经网络确定的，因此，本发明能够确保预测轨迹y1处于预测的可行驶区域C(s)＝C(y2)内，从而形成针对某项任务的一致性解决方案。
此外，本发明的神经网络的改变后的架构可以减少计算工作量。此外，可以使用非常深的神经网络，其特点是计算结果的准确性高。这一点在低容错的安全关键应用中尤为重要。此外，可以通过不同的输出值y1、y2、...、yn来规定不同类别的限制，这些输出值与各自的应用有关。
用于计算车辆的运动规划的已知神经网络具有以下缺点：神经网络的行为由于其“黑盒子特性”是难以预测的。因此，这类神经网络只能有限地应用于具有较高安全要求的情况。特别是在应用于自动驾驶领域时，必须排除运动规划造成与其他道路使用者发生碰撞的情况。而本发明的神经网络可以通过限制输出值范围C(s)，来排除某些行为模式，例如选择会造成碰撞的轨迹。对于运动规划，本发明的算法仅允许避免与其他现有和检测到的车辆发生碰撞的轨迹。车辆的运动规划指的是空间上和时间上的车辆位置变化，因而根据本发明，输出值范围C(s)可以随时间动态地改变。只有在轨迹在时间点t上处于此前定义的空间区域内时，才允许车辆移动。
本发明的更多应用实例是调节车辆中的x和y坐标，例如车道保持辅助系统中的横向调节或者自适应巡航控制(Adaptive Cruise Control，ACC)中的纵向调节。优选基于测量数据，如与前车的距离，来计算额定加速度或额定转向角作为输出值。使用本发明的算法进行控制可以根据作为输入值的测量值计算出输出值的下限值和上限值。在这些极限范围内，优选可以在将神经网络应用于车辆之前，对该神经网络的行为进行训练。
因此，本发明的神经网络的行为不仅借助数据以已知方式隐含训练，而且还可以通过确定输出值范围C(s)来进行明确建模。输出值范围C(s)又由目标参数s确定，该目标参数是借助神经网络计算出来的。从而改进了目标参数s的确定。
因此，本发明的用于确定技术单元10的安全关键输出值y1、y2、...、yn的方法包括以下步骤，如图6所示：
在步骤S10中，由数据分析装置30接收实体10和/或实体10的环境的数据和/或测量值，其中这些数据/测量值描述实体10和/或实体10的环境的至少一个状态和/或特征并且表示输入值x。
在步骤S20中，在数据分析装置30中借助软件应用程序处理输入值x以确定至少一个第一输出值y1，具有以下方法步骤：
在步骤S21中，使用具有第一可学习参数θ的多个层hθ(x)的神经网络。
在步骤S22中，通过函数φ修改神经网络的最后一层或附加层，使得输出值y1处于至少一个目标参数s的规定取值范围C(s)内；
在步骤S23中，通过具有第二可学习参数β的神经网络的其他附加层kβ(x)来确定目标参数s和/或目标参数s的取值范围C(s)。
图7示出了根据本发明的一种实施方式的计算机程序产品200。计算机程序产品200包括可运行的程序编码250。程序编码250被配置为使得其在运行时实施本发明的方法。

Claims (15)

1.一种借助针对技术实体(10)的数据分析装置(30)来确定安全关键输出值(y1、y2、...、yn)的方法，所述方法包括：
-由所述数据分析装置(30)接收(S10)所述实体(10)和/或所述实体(10)的环境的数据和/或测量值，其中所述数据/测量值描述所述实体(10)和/或所述实体(10)的环境的至少一个状态和/或至少一个特征并且表示输入值(x)；
-借助软件应用程序由所述数据分析装置(30)来处理(S20)所述输入值(x)以确定至少一个第一输出值(y1)，具有以下方法步骤：
-使用(S21)具有第一可学习参数(θ)的多个层(hθ(x))的神经网络；
-通过函数(φ)修改(S22)所述神经网络的最后一层或附加层，使得所述输出值(y1)处于至少一个目标参数(s)的规定取值范围(C(s))内；
-通过具有第二可学习参数(β)的所述神经网络的其他附加层(kβ(x))来确定(S23)所述目标参数(s)和/或所述目标参数(s)的取值范围(C(s))。
2.根据权利要求1所述的方法，其中所述目标参数(s)和/或所述取值范围(C(s))表示至少一个第二输出值(y2)。
3.根据权利要求1或2所述的方法，其中将由所述目标参数(s)形成的表达式(g(s))作为另一输入值传递到所述神经网络，使得所述神经网络的计算值(z)也取决于所述目标参数(s)。
4.根据权利要求1至3中任一项所述的方法，其中将噪声分量(Δs)添加到所述确定的目标参数(s)，其中所述噪声分量(Δs)是与所述参数(s)具有相同维度的随机数。
5.根据权利要求1至4中任一项所述的方法，其中共享或共同使用用于确定所述第一输出值(y1)和所述第二输出值(y2)的可学习参数(γ)。
6.根据权利要求1至4中任一项或多项所述的方法，其中使用某个数据库(50)，在所述数据库中存储有关于所述技术单元(10)的特性、图像和特性参数及其关联的数据。
7.根据权利要求1至5中任一项或多项所述的方法，其中所述技术实体(10)是机动车辆。
8.一种用于用数据分析装置(30)来确定针对技术实体(10)的安全关键输出值(y1、y2、...、yn)的系统(100)，其中所述数据分析装置(30)被构建成接收传输给所述数据分析装置(30)的所述实体(10)和/或所述实体(10)的环境的数据和/或测量值，其中所述数据/测量值描述所述实体(10)和/或所述实体(10)的环境的至少一个状态和/或至少一个特征并且表示输入值(x)，并且借助软件应用程序来处理所述输入值(x)以确定至少一个第一输出值(y1)，具有以下方法步骤：
-使用(S21)具有第一可学习参数(θ)的多个层(hθ(x))的神经网络；
-通过函数(φ)修改(S22)所述神经网络的最后一层或附加层，使得所述输出值(y1)处于至少一个目标参数(s)的规定取值范围(C(s))内；
-通过具有第二可学习参数(β)的所述神经网络的其他附加层(kβ(x))来确定(S23)所述目标参数(s)和/或所述目标参数(s)的取值范围(C(s))。
9.根据权利要求8所述的系统(100)，其中所述目标参数(s)和/或所述取值范围(C(s))表示至少一个第二输出值(y2)。
10.根据权利要求8或9所述的系统(100)，其中由所述目标参数(s)形成的表达式(g(s))作为另一输入值被传递到所述神经网络，使得所述神经网络的计算值(z)也取决于所述目标参数(s)。
11.根据权利要求8至10中任一项所述的系统(100)，其中噪声分量(Δs)被添加到所述确定的目标参数(s)，且其中所述噪声分量(Δs)是与所述参数(s)具有相同维度的随机数。
12.根据权利要求8至11中任一项所述的系统(100)，其中用于确定所述第一输出值(y1)和所述第二输出值(y2)的可学习参数(γ)被共享或共同使用。
13.根据权利要求8至12中任一项所述的系统(100)，其中某个数据库(50)被使用，在所述数据库中存储有关于所述技术单元(10)的特性、图像和特性参数及其关联的数据。
14.根据权利要求8至13中任一项所述的系统(100)，其中所述技术实体(10)是机动车辆。
15.一种计算机程序产品(200)，其包括可运行的程序编码(250)，所述程序编码被配置为使得其在运行时实施根据权利要求1至7中任一项所述的方法。
CN202111200855.5A 2020-10-14 2021-10-14 确定安全关键输出值的方法及相应的系统和程序产品 Pending CN114358241A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102020127051.8 2020-10-14
DE102020127051.8A DE102020127051A1 (de) 2020-10-14 2020-10-14 Verfahren zur Bestimmung von sicherheitskritischen Ausgabewerten mittels einer Datenanalyseeinrichtung für eine technische Entität

Publications (1)

Publication Number Publication Date
CN114358241A true CN114358241A (zh) 2022-04-15

Family

ID=80818057

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111200855.5A Pending CN114358241A (zh) 2020-10-14 2021-10-14 确定安全关键输出值的方法及相应的系统和程序产品

Country Status (4)

Country Link
US (1) US20220114416A1 (zh)
KR (1) KR102595615B1 (zh)
CN (1) CN114358241A (zh)
DE (1) DE102020127051A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021105174B3 (de) * 2021-03-04 2022-03-31 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren und Vorrichtung zur Spurregelung eines Fahrzeugs

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10113538B4 (de) 2001-03-20 2012-03-01 Bayerische Motoren Werke Aktiengesellschaft Regelvorrichtung und Regelverfahren
US10268200B2 (en) * 2016-12-21 2019-04-23 Baidu Usa Llc Method and system to predict one or more trajectories of a vehicle based on context surrounding the vehicle
EP3714285B1 (en) * 2019-01-30 2022-07-27 Baidu.com Times Technology (Beijing) Co., Ltd. Lidar localization using rnn and lstm for temporal smoothness in autonomous driving vehicles
DE102019105850A1 (de) 2019-03-07 2019-04-18 FEV Europe GmbH Verfahren zur Erzeugung eines reduzierten neuronalen Netzes für ein Steuergerät eines Fahrzeuges mithilfe von Eigenvektoren

Also Published As

Publication number Publication date
KR102595615B1 (ko) 2023-10-31
KR20220049459A (ko) 2022-04-21
DE102020127051A1 (de) 2022-04-14
US20220114416A1 (en) 2022-04-14

Similar Documents

Publication Publication Date Title
EP3776364B1 (en) Deep reinforcement learning with fast updating recurrent neural networks and slow updating recurrent neural networks
US11354406B2 (en) Physics-based approach for attack detection and localization in closed-loop controls for autonomous vehicles
JP6742554B1 (ja) 情報処理装置およびそれを備えた電子機器
CN110941272B (zh) 自动驾驶控制方法和设备
EP3992908A1 (en) Two-stage depth estimation machine learning algorithm and spherical warping layer for equi-rectangular projection stereo matching
US20210166085A1 (en) Object Classification Method, Object Classification Circuit, Motor Vehicle
JP7465473B2 (ja) 自律車両の安全停止解放をもたらすためのシステム及び方法
Jiao et al. End-to-end uncertainty-based mitigation of adversarial attacks to automated lane centering
CN116068885A (zh) 切换递归卡尔曼网络的改进
CN114358241A (zh) 确定安全关键输出值的方法及相应的系统和程序产品
US20220230418A1 (en) Computer-implemented method for training a computer vision model
EP3992909A1 (en) Two-stage depth estimation machine learning algorithm and spherical warping layer for equi-rectangular projection stereo matching
US11657635B2 (en) Measuring confidence in deep neural networks
Lim et al. Gaussian process auto regression for vehicle center coordinates trajectory prediction
Wang et al. Resilient flocking control for connected and automated vehicles with cyber-attack threats
US20230185919A1 (en) System and process using homomorphic encryption to secure neural network parameters for a motor vehicle
US11886782B2 (en) Dynamics model for globally stable modeling of system dynamics
US11481614B2 (en) Method and system for generating safety-critical output values of an entity
CN113196308A (zh) 基于求解的内省来增强强化学习智能体的训练以对机器人和自主载具进行控制和规划
Dangi et al. Free space and lane boundary fault recognition and prediction for independent vehicles using machine learning
US20230075425A1 (en) Systems and methods for training and using machine learning models and algorithms
US11645364B2 (en) Systems and methods for object detection using stereovision information
US20220358316A1 (en) Vehicle lidar system with neural network-based dual density point cloud generator
CN112529000A (zh) 训练分割模型的设备和方法
Alaskar et al. Integrated Target Tracking and Control for Automated Car-Following of Truck Platforms

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination