CN113169927B - 判定装置、判定程序、判定方法及神经网络模型的生成方法 - Google Patents

判定装置、判定程序、判定方法及神经网络模型的生成方法 Download PDF

Info

Publication number
CN113169927B
CN113169927B CN201980080963.8A CN201980080963A CN113169927B CN 113169927 B CN113169927 B CN 113169927B CN 201980080963 A CN201980080963 A CN 201980080963A CN 113169927 B CN113169927 B CN 113169927B
Authority
CN
China
Prior art keywords
data
state quantity
determination
quantity data
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201980080963.8A
Other languages
English (en)
Other versions
CN113169927A (zh
Inventor
上口翔悟
上田浩史
足立直树
滨田芳博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Wiring Systems Ltd, AutoNetworks Technologies Ltd, Sumitomo Electric Industries Ltd filed Critical Sumitomo Wiring Systems Ltd
Publication of CN113169927A publication Critical patent/CN113169927A/zh
Application granted granted Critical
Publication of CN113169927B publication Critical patent/CN113169927B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3013—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is an embedded system, i.e. a combination of hardware and software dedicated to perform a certain function in mobile devices, printers, automotive or aircraft systems
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466—Performance evaluation by tracing or monitoring
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841—Registering performance data
    • G07C5/085—Registering performance data using electronic data carriers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/44—Star or tree networks
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/06—Improving the dynamic response of the control system, e.g. improving the speed of regulation or avoiding hunting or overshoot
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Automation & Control Theory (AREA)
  • Computer Hardware Design (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Small-Scale Networks (AREA)
  • Traffic Control Systems (AREA)

Abstract

一种判定装置，获取与车辆的状态相关的第一数据及多个第二数据，该判定装置具备：多个已学习神经网络，在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，以推定相当于所述第一数据的推定数据；以及判定部，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常。

Description

判定装置、判定程序、判定方法及神经网络模型的生成方法
技术领域
本发明涉及一种判定装置、判定程序、判定方法及神经网络模型的生成方法。
本申请要求基于2018年12月12日提出申请的日本申请第2018-232958号的优先权，并引用所述日本申请中记载的全部记载内容。
背景技术
在车辆中搭载有用于对发动机控制等动力传动系统、空调控制等车身系统等的车载设备进行控制的ECU(Electronic Control Unit，电子控制单元)。在这些ECU通过车载网络系统来收发消息时，针对攻击者对该车载网络系统进行访问并发送非法帧等威胁来研究安全对策，提出对在车载网络中接收的帧的异常度进行计算的安全处理方法(例如专利文献1)。
专利文献1的安全处理方法基于依次获取的帧的信息来依次更新规定模型。在车载网络中接收到的帧的异常度的计算通过使用了该接收到的帧的信息和所述规定模型的运算处理来进行。并且，该规定模型基于依次获取的帧的信息，通过机器学习来依次更新。
现有技术文献
专利文献
专利文献1:日本特开2017-111796号公报
发明内容
本公开的一个方式涉及一种判定装置，获取与车辆的状态相关的第一数据及多个第二数据，具备：多个已学习神经网络，在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据；以及判定部，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常。
附图说明
图1是例示包括实施方式1涉及的判定装置的判定系统的结构的示意图。
图2是例示判定装置的结构的框图。
图3是例示判定装置的控制部所包括的功能部的功能框图。
图4是例示已学习神经网络的一个方式的说明图。
图5是例示判定装置的控制部的处理的流程图。
图6是例示实施方式2(第二已学习神经网络)涉及的判定装置的控制部所包括的功能部的功能框图。
图7是例示第二已学习神经网络的一个方式的说明图。
图8是例示判定装置的控制部的处理的流程图。
具体实施方式
[本公开要解决的问题]
专利文献1的安全处理方法通过使用单个规定模型的运算处理来进行，因此担心在进行帧的异常度的计算时难以确保该计算结果的精度。
本公开鉴于这样的情形而完成，目的在于提供一种能够提升判定与车辆的状态相关的状态量数据是否正常的精度的判定装置等。
[本公开的效果]
根据本公开的一个方式，能够提供一种能够提升判定与车辆的状态相关的状态量数据是否正常的精度的判定装置等。
[本发明的实施方式的说明]
首先，列举出本公开的实施方式来进行说明。另外，也可以任意地组合以下记载的实施方式中的至少一部分。
(1)本公开的一个方式涉及一种判定装置，获取与车辆的状态相关的第一数据及多个第二数据，具备：多个已学习神经网络，在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据；以及判定部，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常。
在本方式中，判定部在判定第一数据(判定对象状态量数据)是否正常时，基于该判定对象状态量数据和多个已学习神经网络各自推定出的各个推定数据(推定状态量数据)来进行该判定。因此，与使用单一已学习神经网络的情况相比，能够精度良好地对判定对象状态量数据是否正常进行判定。
(2)本公开的一个方式涉及的判定装置中，所述多个第二数据各自与所述第一数据之间的相关系数各自的绝对值为规定值以上。
在本方式中，设为所述多个第二数据(比较对象状态量数据)各自与第一数据(判定对象状态量数据)之间的相关系数各自的绝对值为规定值以上，从而能够提升该判定结果的精度。
(3)本公开的一个方式涉及的判定装置中，所述相关系数的绝对值的规定值为0.7。
在本方式中，通过将相关系数的绝对值的规定值设为0.7，能够使用与第一数据(判定对象状态量数据)之间的相关系数的绝对值为0.7以上的第二数据(比较对象状态量数据)来对判定对象状态量数据是否正常进行判定，能够提升该判定结果的精度。
(4)本公开的一个方式涉及的判定装置中，所述判定部在包含在以所述第一数据为基准的规定范围内的推定数据的个数比未包含在所述规定范围内的推定数据的个数多的情况下判定为所述第一数据正常，包含在所述规定范围内的推定数据的个数比未包含在所述规定范围内的推定数据的个数少的情况下判定为所述第一数据异常。
在本方式中，基于包含在以第一数据(判定对象状态量数据)为基准的规定范围内的推定数据(推定状态量数据)的个数来进行判定，因此能够精度良好地判定第一数据(判定对象状态量数据)是否正常。
(5)本公开的一个方式涉及的判定装置中，所述判定部基于包含在以所述第一数据为基准的规定范围内的推定数据的个数和未包含在所述规定范围内的推定数据的个数，判定所述第一数据是否正常的概率。
在本方式中，基于包含在以第一数据(判定对象状态量数据)为基准的规定范围内的推定数据(推定状态量数据)的个数来判定第一数据(判定对象状态量数据)是否正常的概率，因此能够根据该概率来进行适当的处理。
(6)本公开的一个方式涉及的判定装置中，所述判定部包括第二已学习神经网络，该第二已学习神经网络在被输入所述第一数据及所述多个已学习神经网络各自推定出的各个推定数据的情况下进行学习，从而推定所述第一数据是否正常。
在本方式中，判定部包括第二已学习神经网络，从而能够提升判定第一数据(判定对象状态量数据)是否正常的精度。
(7)本公开的一个方式涉及的判定装置中，所述第一数据为所述车辆的车速。
在本方式中，通过将第一数据(判定对象状态量数据)设为车速，判定部能够判定与车速的当前值相关的正常与否。
(8)本公开的一个方式涉及一种判定程序，使计算机执行如下处理：获取与车辆的状态相关的第一数据及多个第二数据，对多个已学习神经网络的各已学习神经网络输入所获取的所述多个第二数据的各第二数据，所述已学习神经网络在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常。
在本方式中，能够使计算机作为判定装置来发挥功能。
(9)本公开的一个方式涉及一种判定方法，获取与车辆的状态相关的第一数据及多个第二数据，对多个已学习神经网络的各已学习神经网络输入所获取的所述多个第二数据的各第二数据，所述已学习神经网络在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常。
在本方式中，能够提供一种能够提升判定与车辆的状态相关的状态量数据是否正常的精度的判定方法。
(10)本公开的一个方式涉及一种神经网络模型的生成方法，获取教师数据，该教师数据包括与车辆的状态相关的多种第二数据和对应于各第二数据的与车辆的状态相关的第一数据，基于第二数据及对应于该第二数据的第一数据的每个组合的教师数据，针对每个所述组合生成以在输入了第二数据的情况下输出与对应的第一数据相关的推定数据的方式进行了学习的神经网络模型。
在本方式中，能够提供一种生成能够提升判定与车辆的状态相关的状态量数据是否正常的精度的神经网络模型的方法。
(11)本公开的一个方式涉及的神经网络模型的生成方法中，将为了对所述第一数据与所输出的各推定数据进行比较而生成的多个所述神经网络模型并联连接。
在本方式中，通过提供生成彼此并联连接的多个神经网络模型的方法，能够提供生成能够提升判定与车辆的状态相关的状态量数据是否正常的精度的神经网络模型的方法。
(12)本公开的一个方式涉及的神经网络模型的生成方法中，所述教师数据包括所述第一数据和与该第一数据的相关系数的绝对值为规定值以上的第二数据。
在本方式中，通过将第一数据与多个第二数据的各第二数据之间的相关系数的绝对值设为规定值以上，能够提供生成能够提升判定与车辆的状态相关的状态量数据是否正常的精度的神经网络模型的方法。
[本公开的实施方式的详细情况]
针对本公开，基于示出其实施方式的附图来具体地进行说明。以下，参照附图来说明本公开的实施方式涉及的判定装置6。此外，本公开不限于这些示例，而由权利要求书示出，意在包括与权利要求书等同的意思及范围内的全部变更。
(实施方式1)
图1是例示包括实施方式1涉及的判定装置6的判定系统的结构的示意图。在车辆C中搭载有车外通信装置1、车载中继装置2、多个车载ECU3、显示装置5及判定装置6，且由这些装置组来构成判定系统。
车辆C经由车外通信装置1与连接于车外网络(未图示)的外部服务器等(未图示)进行通信，有时担心由于来自车外的非法访问(攻击)使车载ECU3因病毒等而处于异常的状态。对此，能够通过包括判定装置6的判定系统来判定从处于异常的车载ECU3输出的数据(与车辆的状态相关的数据/状态量数据)是否正常。
车外通信装置1是用于使用例如3G、LTE、4G、WiFi等移动体通信的协议来进行无线通信的通信装置，经由天线11与程序提供装置(未图示)等外部服务器进行数据的收发。车外通信装置1与外部服务器之间的通信例如经由公共线路网或因特网等外部网络来进行。
车载中继装置2对在这些多个车载ECU3之间收发的消息进行中继。车载中继装置2是例如集中由控制系统的车载ECU3、安全系统的车载ECU3及车身系统的车载ECU3等多个系统的通信线41(CAN总线/CAN线缆)构成的区段并对这些区段之间的车载ECU3彼此的通信进行中继的网关(中继器)。并且，车载中继装置2也可以作为将经由车外通信装置1从与车外网络(未图示)连接的程序提供装置等外部服务器获取的程序或数据向搭载于车辆C的车载ECU3(Electronic Control Unit，单子控制单元)发送的重编程主站而发挥功能。
车外通信装置1与车载中继装置2及显示装置5通过例如串行电缆等线束而以能够通信的方式连接。车载中继装置2与车载ECU3及判定装置6通过与例如CAN(Control AreaNetwork，控域网/注册商标)或以太网(Ethernet/注册商标)等的通信协议对应的车内LAN4而以能够通信的方式连接。
车载ECU3与搭载于车辆的发动机、制动器等致动器或传感器等连接，且是进行该致动器的驱动控制或者将从传感器输出的数据向车内LAN4输出的计算机。车载ECU3经由车内LAN4及车载中继装置2以能够相互通信的方式连接。这些车载ECU3包括与车速传感器31连接的车速ECU3a。车速传感器31是对例如车辆的车轮的转速进行检测的传感器，且以时序检测与该转速相关的数据并向车速ECU3a输出。车速ECU3a对从车速传感器31输出的数据进行获取，将获取的数据转换成例如车速值，并作为与该车速相关的数据经由车内LAN向其他车载ECU3及判定装置6发送。并且，这些车载ECU3中的多个车载ECU3输出相对于车速具有规定值以上的相关系数的状态量。详细内容在后文中叙述。
显示装置5例如是汽车导航的显示器等HMI(Human Machine Interface，人机界面)装置。显示装置5与车载中继装置2的输入输出I/F通过串行电缆等线缆而以能够通信的方式连接。显示装置5显示从车载中继装置2或判定装置6输出的数据或信息。显示装置5与车载中继装置2之间的连接方式不限于由输入输出I/F等实现的连接方式，显示装置5与车载中继装置2也可以是经由车内LAN4的连接方式。
图2是例示判定装置6的结构的框图。图3是例示判定装置6的控制部60所包括的功能部的功能框图。判定装置6包括控制部60、存储部61及车内通信部63。
存储部61由RAM(Random Access Memory，随机存取存储器)等易失性存储器元件或ROM(Read Only Memory，只读存储器)、EEPROM(Electrically Erasable ProgrammableROM，电可擦可编程只读存储器)、闪存等非易失性存储器元件构成，且预先存储有控制程序及处理时参照的数据。关于存储在存储部61中的控制程序，也可以存储从判定装置6能够读取的记录介质62读出的控制程序。另外，也可以是，从连接于未图示的通信网的未图示的外部计算机下载控制程序并存储到存储部61中。存储部61保存有构成已学习神经网络602(NN)的实体文件(已学习的模型文件)。已学习的模型文件包括在控制程序中。
车内通信部63例如是使用CAN或以太网等的通信协议的输入输出接口(CAN收发机或以太网PHY部)，控制部60经由车内通信部63与连接于车内LAN4的车载ECU3或车载中继装置2等车载设备彼此通信。
控制部60由CPU(Central Processing Unit，中央处理单元)、MPU(MicroProcessing Unit，微型处理单元)或GPU(Graphics Processing Unit，图形处理单元)等构成，通过读取被预先存储在存储部61中的控制程序、数据及已学习的模型文件来进行各种控制处理及运算处理等。
控制部60通过执行控制程序而相当于对经由车内通信部63接收的数据进行获取的获取部601。该数据包括例如从车速ECU3a输出的与车速相关的数据等判定对象状态量数据(第一数据)及相对于判定对象状态量数据具有规定值以上的相关系数的多个与状态量相关的数据(多个比较对象状态量数据(第二数据))。
控制部60通过读取已学习的模型文件而作为已学习神经网络602来发挥功能，并基于获取的比较对象状态量数据来对推定状态量数据(推定数据)进行推定。
控制部60通过执行控制程序而相当于基于判定对象状态量数据及推定状态量数据来判定该判定对象状态量数据是否正常的判定部603。
判定装置6设为与车载中继装置2分开设置的装置，且通过通信线41与车载中继装置2以能够通信的方式连接，但不限于此。也可以是，判定装置6包括在车载中继装置2中，且作为该车载中继装置2的一个功能部而发挥功能。即，也可以是，车载中继装置2与判定装置6同样地具备控制部(未图示)、存储部(未图示)，且车载中继装置2的控制部通过执行控制程序而作为判定装置6来发挥功能。或者，判定装置6也可以构成为对车辆C整体进行控制的车身ECU或车载计算机的一个功能部。或者，判定装置6也可以包括在经由车外通信装置1与车辆C以能够通信的方式连接的云服务器等外部服务器中。
如上所述，控制部60通过执行控制程序而作为获取部601、已学习神经网络602及判定部603来发挥功能，在图3中，将这些部位表示为功能部。
通过由获取部601来获取车速等判定对象状态量数据及多个比较对象状态量数据，这些数据输入到控制部60。在物理层面上，这些数据经由车内通信部63而输入到控制部60。控制部60将所输入的判定对象状态量数据及多个比较对象状态量数据作为例如控制程序的参数来执行该控制程序，从而作为获取部601、已学习的网络及判定部603来发挥功能。
车速等判定对象状态量数据例如是从车速ECU3a发送的数据。多个比较对象状态量数据是从与对这些比较对象状态量数据分别进行检测的拍摄部、Lidar(激光雷达)(light detection and ranging，光检测和测距)或各种传感器连接的车载ECU3发送的数据，例如是发动机转速、电动机转速、方向盘旋转角或加速度等表示与车辆C的行驶相关的状态的状态量。或者，也可以是，多个比较对象状态量数据是与车载中继装置2基于接收到的数据而传播到车内LAN4的数据、消息的种类或交通的分析结果相关的数据，且是从该车载中继装置2发送的数据。比较对象状态量数据也可以是基于单一值的数据或包括基于时序的多个值在内的时序数据。如上所述，判定装置6所获取的多个比较对象状态量数据各自优选为例如发动机转速、电动机转速等彼此不同的种类的状态量。通过使判定装置6所获取的多个比较对象状态量数据各自的种类不同，能够根据与该种类相应的观点来对判定对象状态量数据是否正常进行判定，使该判定的精度提升。此外，不限于判定装置6所获取的多个比较对象状态量数据全部在种类上不同的情况，也可以是，作为多个比较对象状态量数据中的一部分的几个比较对象状态量数据的种类相同。或者，也可以是，多个比较对象状态量数据全部在该数据的种类上相同。
比较对象状态量数据各自与判定对象状态量数据之间的相关系数的绝对值为规定值以上。即，比较对象状态量数据各自相对于判定对象状态量数据的相关系数各自的绝对值为规定值以上。该规定值例如为0.7，通过将规定值设为0.7，能够使用与判定对象状态量数据相关度比较高的状态量的比较对象状态量数据。在进一步使推定精度提升时，优选将该规定值设为0.9。更优选的是，可以将该规定值设为0.97。相关系数例如能够通过使用算式(相关系数＝判定对象状态量的值与比较对象状态量的值的协方差/(判定对象状态量的值的标准差×比较对象状态量的值的标准差))来计算。通过使相关系数各自的绝对值为规定值以上，在正相关及负相关这两者的情况下，能够使用相关度较高的状态量的比较对象状态量数据。即，在负相关的比较对象状态量数据的情况下，与判定对象状态量数据的相关系数为负(minus)值，但能够通过将该值乘以-1而用作正相关的比较对象状态量数据。
获取部601所获取的各个比较对象状态量数据即输入到控制部60的各个比较对象状态量数据(成为控制程序的参数的各个比较对象状态量数据)被输入到与各个比较对象状态量数据的种类对应的各个已学习神经网络602(已学习的NN)。详细内容在后文中叙述，已学习神经网络602根据所输入的比较对象状态量数据来进行学习，以推定相当于判定对象状态量数据的推定状态量数据。如图3所示，各个已学习神经网络602以彼此并联的方式连接。因此，由各个已学习神经网络602推定的各个推定状态量数据被输出到判定部603，形成由彼此并联地连接的各个已学习神经网络602构成的数据流拓扑。
如图3所示，对已学习神经网络602a输入与其对应的比较对象状态量数据a，已学习神经网络602a推定相当于判定对象状态量数据的推定状态量数据a并将其输出到判定部603。同样地，对已学习神经网络602b输入与其对应的比较对象状态量数据b，已学习神经网络602b推定相当于判定对象状态量数据的推定状态量数据b并将其输出到判定部603。
对每个已学习神经网络602输入不同种类的比较对象状态量数据。每个已学习神经网络602基于输入的比较对象状态量数据来进行学习从而以成为与相当的判定对象状态量数据相等的数据的方式对推定状态量数据进行推定。不过，由于比较对象状态量数据的种类及相关系数的差异等，在各个已学习神经网络602所推测的各个推定状态量数据的值中产生偏差。
各个已学习神经网络602所推定的各个推定状态量数据及获取部601所获取的判定对象状态量数据被输入到判定部603。判定部603基于输入的各个推定状态量数据及判定对象状态量数据来对判定对象状态量数据是否正常进行判定。通过对判定对象状态量数据是否正常进行判定，能够对直到获取判定对象状态量数据为止的处理中是否存在非法处理即非法处理的有无进行判定。
判定部603针对判定对象状态量数据所包括的判定对象状态量的值，导出包含在以该判定对象状态量的值为基准的规定范围内所的推定状态量数据的个数。以判定对象状态量的值为基准的规定范围是指例如相对于该值±10％的范围，且是在对判定对象状态量的值的精度进行判定上允许的阈值范围。例如，在判定对象状态量数据是与车速相关的数据且判定对象状态量的值(车速)为60Km的情况下，如果将以判定对象状态量的值为基准的规定范围(阈值范围)设为相对于该值±10％，则阈值范围(规定范围)为54Km到66Km。
判定部603在各个推定状态量数据中导出处于该阈值范围内的推定状态量数据的个数和未处于阈值范围内的(处于阈值范围外的)推定状态量数据的个数，并对这些个数进行比较，从而对判定对象状态量数据是否正常(非法处理的有无)进行判定。即，在处于阈值范围内的推定状态量数据的个数比未处于阈值范围内的推定状态量数据的个数多的情况下，判定部603判定为判定对象状态量数据正常。在处于阈值范围内的推定状态量数据的个数比未处于阈值范围内的推定状态量数据的个数少的情况下，判定部603判定为判定对象状态量数据异常。
判定部603在进行该判定时，也可以在处于阈值范围内的推定状态量数据的个数为所推定的推定状态量数据的个数的总数一半以上的情况下判定为判定对象状态量数据正常。判定部603也可以在处于阈值范围内的推定状态量数据的个数小于所推定的推定状态量数据的个数的总数一半的情况下判定为判定对象状态量数据异常。
判定部603也可以基于处于阈值范围内的推定状态量数据的个数与未处于阈值范围内的推定状态量数据的个数的比例，来导出与判定对象状态量数据是否正常相关的概率。该概率例如基于以处于阈值范围内的推定状态量数据的个数除以所推定的推定状态量数据的个数的总数而得到的值来确定。即，在所推定的推定状态量数据的个数的总数为10个且处于阈值范围内的推定状态量数据的个数为7个的情况下，判定对象状态量数据正常的概率为70％(70＝(7/10)×100)。此时，判定对象状态量数据异常的概率当然为30％(30＝100-70)。
也可以是，判定部603将判定对象状态量数据是否正常或判定对象状态量数据是否正常的概率作为判定结果输出并存储到存储部61中，发送到显示装置5或者经由车载中继装置2及车外通信装置1发送到处于车外的外部服务器。
这样，具备与多个不同种类的比较对象状态量数据各自对应的多个已学习神经网络602，判定部603使用由该已学习神经网络602各自推定的各个推定状态量数据。由此，即使在任一个比较对象状态量数据或在任一个已学习神经网络602的处理中发生异常的情况下，也能够精度良好地对判定对象状态量数据是否正常，即与判定对象状态量数据相关的非法处理的有无进行判定。即，即使在输出比较对象状态量数据的车载ECU3中的任一个被病毒等攻击而处于异常的情况下，也能够使用从其他正常的车载ECU3输出的比较对象状态量数据来对判定对象状态量数据是否正常进行判定。或者，即使在任一个已学习神经网络602被病毒等攻击而处于异常的情况下，也能够基于其他正常的已学习神经网络602推定的推定状态量来对判定对象状态量数据是否正常进行判定。
在对判定对象状态量数据与所推定的多个推定状态量数据进行比较时，通过是否处于以判定对象状态量数据为基准的规定范围内(阈值范围内)来进行该比较，因此能够吸收每个已学习神经网络602推定的推定状态量的偏差，精度良好地对判定对象状态量数据是否正常进行判定。
通过将相关系数的绝对值的规定值设为例如0.7，能够使用与判定对象状态量数据之间的相关系数的绝对值为0.7以上的比较对象状态量数据来对判定对象状态量数据是否正常进行判定，能够使该判定结果的精度提升。
例示了与车速相关的数据来作为判定对象状态量数据，但不限于此。判定对象状态量数据包括例如发动机或电动机的转速、制动器的驱动量或者方向盘的旋转角等表示车辆C的状态的状态量。在该情况下，比较对象状态量数据相对于这些例示的判定对象状态量数据具有绝对值为规定值以上的相关系数。
图4是例示已学习神经网络602的一个方式的说明图。已学习神经网络602包括输入层、中间层及输出层，中间层例如由包括全耦合层及自回归层在内的多层(深度神经网络)构成。
输入层例如由单一节点(神经元)构成，对该输入层输入相对于例如车速等判定对象状态量数据具有规定值以上的相关系数的比较对象状态量数据。
全耦合层是由例如100个的多个节点构成且该多个节点各自与位于前后的全部节点耦合的层。已学习神经网络602包括两个全耦合层，这两个全耦合层位于自回归层前后。
自回归层是由例如100个的多个节点构成且不仅在顺向上对下一层输出还对自身层输出结果的层。因此，能够将按时序输出的多个值提供为时序数据。包括这样的自回归层的神经网络也称为递归型神经网络，作为LSTM(Long Short Term Memory/长短时记忆)模型来安装。此外，中间层设为包括自回归层，但不限于此，也可以不包括自回归层而由多个全耦合层构成。在中间层不包括自回归层的情况下，通过各个输入值的瞬时值来进行运算。
输出层例如由单一节点(神经元)构成，且输出通过所输入的比较对象状态量数据来推定的推定状态量数据。在判定对象状态量数据为与车速相关的数据的情况下，推定状态量数据也是与车速相关的数据。
通过向以上述方式构成的神经网络(未学习的神经网络)输入教师数据(学习用数据)而使其学习，生成已学习神经网络602(神经网络模型)。在递归型神经网络中，该学习例如使用BPTT(Backpropagation Through Time/通过时间的反向传播)算法来进行。
教师数据基于从搭载于车辆C的各种传感器或装置输出的比较对象状态量数据和与输出该比较对象状态量数据的时间点相同时间点下的判定对象状态量数据(例如车速)的两个状态量数据的组合(问题(比较对象状态量数据)及回答(判定对象状态量数据)的数据集)。即，比较对象状态量数据及判定对象状态量数据是通过使输出这些状态量数据的时间点为相同时间点来对应的数据集。
该教师数据包括多个时间点下的这些两个状态量数据的组合。在教师数据中，这些两个状态量数据的组合可以是作为时序数据排序的数据。即，在使神经网络602学习该教师数据时，可以从在前的时间点起依次读取基于该教师数据所包括的两个状态量数据的组合的数据。能够这样使用基于时序的教师数据通过上述的BBTT算法来学习包括自回归层的神经网络。通过这样使用时序数据，将一个时间点(时刻t＝n)下的教师数据中(学习用数据)的与车速等判定对象状态量数据存在相关度的比较对象状态量数据输入到神经网络602，并推定下一个时间点(时刻t＝n+1)的相当于车速等判定对象状态量数据的推定数据。重复计算该推定的推定数据与作为正解值的车速等判定对象状态量数据的差分，使用计算出的全差分来计算学习误差，并使神经网络602进行学习，使得例如该学习误差达到最小。
关于相同时间点，不限于输出比较对象状态量数据的时间点与输出对象状态量的时间点完全为相同时刻的情况，在使用已学习神经网络602来进行运算时允许误差的范围内也可以存在这些时间点的差异。或者，也可以是，比较对象状态量数据及判定对象状态量数据各自以规定周期输出，在同一周期内输出的比较对象状态量数据及判定对象状态量数据各自作为相同时间点来使用。
根据比较对象状态量的数据的种类而存在多个教师数据，通过使多个教师数据的各教师数据输入到相同结构的各个神经网络模型(未学习的神经网络)并进行学习，生成与比较对象状态量的数据的种类相应的多个已学习神经网络602。如图3所示，生成的多个已学习神经网络602彼此并联地连接。
作为神经网络的输入值(说明变量)的比较对象状态量数据所包括的各个值可以是以通过除以该值的最大值而成为0到1的方式正态化的值。神经网络例如可以构成为线性回归模型。线性回归模型根据作为说明变量(x:输入值)的比较对象状态量数据来推定作为目的变量(y:输出值)的判定对象状态量数据，且是利用使用了作为说明变量的系数的偏回归变量(b/加权系数)及误差(e/偏倚)的回归式(y＝b1·x1+b2·x2+b3·x3+···+bk·xk+e)来进行预测的模型。这些加权系数及偏倚例如能够使用二乘误差函数作为损失函数并通过使用最速下降法及误差反向传播法来导出，以使损失函数的输出值(来自输出层的输出值与回答的差异)达到最小。
即，作为如上所述地生成已学习神经网络602(神经网络模型)的方法，通过以下的处理来实现。首先，将与车辆C的状态相关的第一数据(例如车速等判定对象状态量数据)设为回答数据，将与第一数据之间的相关系数的绝对值为规定值以上的第二数据(比较对象状态量数据)设为问题数据，通过问题数据及回答数据组合而成的数据集构成，并准备使作为问题数据的第二数据各自的种类不同的多个教师数据。接下来，准备与所述教师数据的个数相同数量的多个未学习的神经网络，并通过多个教师数据的各教师数据针对未学习的各个神经网络依次进行学习处理，该学习处理以基于所输入的第二数据对相当于作为所输入的第二数据的回答的第一数据的推定数据进行推定的方式使用教师数据进行学习。然后，生成为了对所推定的各个推定数据进行比较而彼此并联地连接的与多个教师数据各自对应的多个已学习神经网络602。
针对这样生成的已学习神经网络602，将比较对象状态量数据输入到输入层，从而推定为与该比较对象状态量数据对应的判定对象状态量数据的推定状态量数据从输出层输出。如上所述，中间层包括自回归层。在基于时序的多个比较对象状态量数据作为时序数据从输入层输入的情况下，通过将在当前时间点下输入到自回归层的值和在之前时间点下从自回归层输出的值相加，成为从当前时间点下的自回归层输出的值。通过这样使用自回归层，能够基于在车辆C行驶中按时序输出的比较对象状态量数据来精度良好地推定相当于对象状态量的推定状态量。
在本实施方式中，设为针对单一已学习神经网络602输入一种比较对象状态量数据，但不限于此。也可以是，针对单一已学习神经网络602输入相同时间点下的多种比较对象状态量数据，并对相当于与所输入的这些多种比较对象状态量数据对应的判定对象状态量数据的推定数据进行推定并输出。在输入多种比较对象状态量数据时，输入层的节点数可以与该多种比较对象状态量数据相同数量。或者，在输入多种比较对象状态量数据时，也可以输入将该多种比较对象状态量数据所包括的各个值相加或对该值各自乘上规定系数并统一单位制而合并(合并处理)的值。此外，在这样针对单一已学习神经网络602输入多种比较对象状态量数据的情况下，该已学习神经网络602通过使用包括由多种比较对象状态量数据及判定对象状态量数据的组合构成的数据集在内的教师数据来进行学习而生成。
图5是例示判定装置6的控制部60的处理的流程图。判定装置6的控制部60在车辆C起动的状态下始终地进行以下的处理。
判定装置6的控制部60获取多个比较对象状态量数据(S10)。控制部60获取从车载ECU3或车载中继装置2等发送的表示车辆C的状态的多个比较对象状态量数据，并存储到存储部61中。控制部60也可以将获取的各个比较对象状态量数据与获取的时间点或时刻建立关联并存储到存储部61中。
判定装置6的控制部60判定是否接收到判定对象状态量数据(S11)。控制部60判定是否接收到例如车速等判定对象状态量数据。在判定对象状态量数据是与车速相关的数据的情况下，该数据例如从车速ECU3a发送。
在未接收到判定对象状态量数据的情况下(S11:否)，判定装置6的控制部60为了再次执行S10的处理而进行循环处理。控制部60在未接收到判定对象状态量数据的情况下，再次执行S10的处理，获取在上次S10的处理以后从车载ECU3或车载中继装置2等发送的多个比较对象状态量数据，并存储到存储部61中。该存储也可以覆写上次获取的比较对象状态量数据来存储。
在接收到判定对象状态量数据的情况下(S11:是)，判定装置6的控制部60获取判定对象状态量数据(S12)。控制部60在接收到判定对象状态量数据的情况下，获取该判定对象状态量数据并存储到存储部61中。控制部60也可以将获取的判定对象状态量数据与获取的时间点或时刻建立关联并存储到存储部61中。控制部60周期性地进行S11的处理，因此能够将判定对象状态量数据及多个比较对象状态量数据作为在相同时间点下获取的数据来使用。或者，控制部60将获取的判定对象状态量数据及多个比较对象状态量数据与获取的时间点或时刻建立对应地存储，因此也可以基于该获取的时间点或时刻来确定判定对象状态量数据及多个比较对象状态量数据。
判定装置6的控制部60基于多个比较对象状态量数据的各比较对象状态量数据来对各个推定状态量数据进行推定(S13)。控制部60通过执行控制程序来作为已学习神经网络602发挥功能，通过将多个比较对象状态量数据的各比较对象状态量数据输入到与该比较对象状态量数据各自对应的各个已学习神经网络602，来对各个推定状态量数据进行推定。
判定装置6的控制部60判定包含在规定范围内的推定状态量数据的个数是否比未包含的推定状态量数据的个数多(S14)。控制部60以存储在存储部61中的判定对象状态量数据为基准，导出包含在规定范围内(阈值范围内)的推定状态量数据的个数和未包含的推定状态量数据的个数，并对导出的这些个数进行比较。
在包含在规定范围内的推定状态量数据的个数比未包含的推定状态量数据的个数多的情况下(S14:是)，判定装置6的控制部60判定为不存在非法处理(正常)(S15)。在包含在规定范围内的推定状态量数据的个数比未包含的推定状态量数据的个数多的情况下，控制部60判定为在直到获取判定对象状态量数据为止的处理中不存在非法处理即判定对象状态量数据正常。该“不存在非法处理”例如包括如下情况：输出判定对象状态量数据的车载ECU3的处理正常进行，从该车载ECU3发送的判定对象状态量数据在发送中途未被篡改。即，在判定对象状态量数据为与车速相关的数据的情况下，车速ECU3a正常地工作，从车速ECU3a发送的数据正常地通过车内LAN4来传输。
在包含在规定范围内的推定状态量数据的个数少于(不多于)未包含的推定状态量数据的个数的情况下(S14:否)，判定装置6的控制部60判定为存在非法处理(异常)(S141)。在包含在规定范围内的推定状态量数据的个数少于未包含的推定状态量数据的个数的情况下，控制部60判定为在直到获取判定对象状态量数据为止的处理中存在非法处理即判定对象状态量数据异常。该“存在非法处理”例如包括输出判定对象状态量数据的车载ECU3由于被病毒等攻击而进行了非法处理的情况或从该车载ECU3发送的判定对象状态量数据被其他非法车载ECU3在发送中途篡改的情况等。
判定装置6的控制部60在执行S15或S141之后结束一系列处理。或者，判定装置6的控制部60也可以在执行S15或S141之后为了再次执行S10的处理而进行循环处理。
在本实施方式中，判定装置6的控制部60基于包含在规定范围内的推定状态量数据的个数等来对判定对象状态量数据是否正常(非法处理的有无)进行判定，但不限于此。也可以是，判定装置6的控制部60基于包含在规定范围内的推定状态量数据的个数及未包含在规定范围内的推定状态量数据的个数，来导出与判定对象状态量数据是否正常相关的概率。
在本实施方式中，判定装置6的控制部60以判定对象状态量数据的接收作为触发而进行S12以后的处理，对判定对象状态量数据是否正常(非法处理的有无)进行判定，但不限于此。也可以是，判定装置6的控制部60以规定周期获取多个比较对象状态量数据及判定对象状态量数据，并在每个该周期基于这些获取的数据来对判定对象状态量数据是否正常进行判定。
(实施方式2)
图6是例示实施方式2(第二已学习神经网络603a)涉及的判定装置6的控制部60所包括的功能部的功能框图。实施方式2的判定装置6在判定部603为第二已学习神经网络603a这点上与判定部603由基于规则库的处理实现的实施方式1的判定装置6不同。
实施方式2的判定装置6具有与实施方式1的判定装置6相同的结构(参照图2)，控制部60、存储部61及车内通信部63等硬件结构与实施方式1相同。
在实施方式2的判定装置6的控制部60所包括的功能部中，对判定对象状态量数据是否正常进行判定的判定部603包括第二已学习神经网络603a，控制部60通过执行实施方式2中的控制程序来作为第二已学习神经网络603a发挥功能。判定部603以外的功能部即获取部601及对推定状态量数据进行推定的已学习神经网络602与实施方式1相同。
第二已学习神经网络603a在被输入判定对象状态量数据及推定状态量数据的各数据的情况下进行学习，从而推定判定对象状态量数据是否正常。
如图6所示，对第二已学习神经网络603a输入车速等判定对象状态量数据及多个已学习神经网络602各自推定的各个推定状态量数据。第二已学习神经网络603a基于所输入的判定对象状态量数据及推定状态量数据的各数据来推定判定对象状态量数据是否正常，并将所推定的判定对象状态量数据是否正常作为判定结果输出。该推定不限于判定对象状态量数据是否正常，也可以包括与判定对象状态量数据是否正常相关的概率。
图7是例示第二已学习神经网络603a的一个方式的说明图。与已学习神经网络602同样地，第二已学习神经网络603a是包括输入层、中间层及输出层的深度神经网络。第二已学习神经网络603a也可以是在中间层中包括自回归层的递归型神经网络。
输入层由与判定状态量数据及多个推定状态量数据的个数对应的数量的节点构成。中间层由例如包括全耦合层及自回归层在内的多层构成。输出层由例如两个节点构成，该两个节点可以包括在推定为判定对象状态量数据正常(不存在非法处理)的情况下点火的节点和在推定为判定对象状态量数据异常(存在非法处理)的情况下点火的节点。
为了学习第二已学习神经网络603a而输入的教师数据由作为问题的判定对象状态量数据及多个推定状态量数据所组成的数据集和表示作为回答的判定对象状态量数据是否正常的数据构成。能够通过例如基于实车行驶而获取的数据或模拟结果的数据来生成该教师数据。
图8是例示判定装置6的控制部60的处理的流程图。与实施方式1同样地，判定装置6的控制部60在车辆C起动的状态下始终地进行以下的处理。
判定装置6的控制部60与实施方式1的处理(S10、S11、S12、S13)同样地进行处理(S20、S21、S22、S23)。
判定装置6的控制部60基于多个推定状态量数据及判定对象状态量数据来推定判定对象状态量数据是否正常(S24)。控制部60将多个推定状态量数据及判定对象状态量数据输入到第二已学习神经网络603a，并使用第二已学习神经网络603a来进行推定判定对象状态量数据是否正常的处理。
判定装置6的控制部60基于推定结果来对判定对象状态量数据是否正常进行判定(S25)。控制部60基于第二已学习神经网络603a的推定结果来对判定对象状态量数据是否正常(非法处理的有无)进行判定。能够通过使用第二已学习神经网络603a来精度良好地对判定对象状态量数据是否正常进行判定。
判定装置6的控制部60在执行S25之后结束一系列处理。或者，判定装置6的控制部60也可以在执行S25之后为了再次执行S20的处理而进行循环处理。
应该理解为，本次公开的实施方式在全部方面均为示例，而不是限制性的内容。本发明的范围并不由上述的意思示出，而由权利要求书示出，意在包括与权利要求书等同的意思及范围内的全部变更。
标号说明
C 车辆
1 车外通信装置
11 天线
2 车载中继装置
3 车载ECU
3a 车速ECU
31 车速传感器
4 车内LAN
41 通信线
5 显示装置
6 判定装置
60 控制部
601 获取部
602 已学习神经网络(神经网络模型)
603 判定部
603a 第二已学习神经网络
61 存储部
62 记录介质
63 车内通信部

Claims (9)

1.一种判定装置，获取与车辆的状态相关的第一数据及多个第二数据，
所述判定装置具备：
多个已学习神经网络，在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据；以及
判定部，基于所述多个已学习神经网络各自推定出的各个所述推定数据和所述第一数据来判定所述第一数据是否正常，
所述判定部包括第二已学习神经网络，该第二已学习神经网络在被输入所述第一数据及所述多个已学习神经网络各自推定出的各个推定数据的情况下进行学习，从而推定所述第一数据是否正常。
2.根据权利要求1所述的判定装置，其中，
所述多个第二数据的每一个与所述第一数据之间的相关系数的绝对值为规定值以上。
3.根据权利要求2所述的判定装置，其中，
所述相关系数的绝对值的规定值为0.7。
4.根据权利要求1至3中的任一项所述的判定装置，其中，
所述第一数据为所述车辆的车速。
5.一种存储有判定程序的记录介质，该判定程序使计算机执行如下处理：
获取与车辆的状态相关的第一数据及多个第二数据，
对多个已学习神经网络的各已学习神经网络输入所获取的所述多个第二数据的各第二数据，所述已学习神经网络在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据，
对第二已学习神经网络输入所述第一数据及所述多个已学习神经网络各自推定出的各个推定数据而使所述第二已学习神经网络进行学习，从而推定所述第一数据是否正常。
6.一种判定方法，
获取与车辆的状态相关的第一数据及多个第二数据，
对多个已学习神经网络的各已学习神经网络输入所获取的所述多个第二数据的各第二数据，所述已学习神经网络在被输入所述多个第二数据中的任一个第二数据的情况下进行学习，从而推定相当于所述第一数据的推定数据，
对第二已学习神经网络输入所述第一数据及所述多个已学习神经网络各自推定出的各个推定数据而使所述第二已学习神经网络进行学习，从而推定所述第一数据是否正常。
7.一种神经网络模型的生成方法，
获取教师数据，该教师数据包括与车辆的状态相关的多种第二数据和对应于各第二数据的与车辆的状态相关的第一数据，
基于第二数据及对应于该第二数据的第一数据的每个组合的教师数据，针对每个所述组合生成以在输入了第二数据的情况下输出与对应的第一数据相关的推定数据的方式进行了学习的神经网络模型，
生成以在输入了第一数据及与该第一数据相关的推定数据的情况下输出该第一数据是否正常的判定结果的方式进行了学习的第二神经网络模型。
8.根据权利要求7所述的神经网络模型的生成方法，其中，
将为了对所述第一数据与所输出的各推定数据进行比较而生成的多个所述神经网络模型并联连接。
9.根据权利要求7或8所述的神经网络模型的生成方法，其中，
所述教师数据包括所述第一数据和多种第二数据，该多种第二数据的每一种与所述第一数据之间的相关系数的绝对值为规定值以上。
CN201980080963.8A 2018-12-12 2019-11-29 判定装置、判定程序、判定方法及神经网络模型的生成方法 Active CN113169927B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018-232958 2018-12-12
JP2018232958A JP7215131B2 (ja) 2018-12-12 2018-12-12 判定装置、判定プログラム、判定方法及びニューラルネットワークモデルの生成方法
PCT/JP2019/046810 WO2020121849A1 (ja) 2018-12-12 2019-11-29 判定装置、判定プログラム、判定方法及びニューラルネットワークモデルの生成方法

Publications (2)

Publication Number Publication Date
CN113169927A CN113169927A (zh) 2021-07-23
CN113169927B true CN113169927B (zh) 2023-01-03

Family

ID=71076008

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980080963.8A Active CN113169927B (zh) 2018-12-12 2019-11-29 判定装置、判定程序、判定方法及神经网络模型的生成方法

Country Status (4)

Country Link
US (1) US20210326677A1 (zh)
JP (2) JP7215131B2 (zh)
CN (1) CN113169927B (zh)
WO (1) WO2020121849A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102506805B1 (ko) * 2020-10-07 2023-03-07 고려대학교 산학협력단 의사 정상 데이터를 이용한 자가 감독 학습 기반의 차량 이상징후 탐지 장치 및 방법
WO2022075678A2 (ko) * 2020-10-07 2022-04-14 고려대학교 산학협력단 의사 정상 데이터를 이용한 자가 감독 학습 기반의 차량 이상징후 탐지 장치 및 방법
KR102552699B1 (ko) * 2020-11-30 2023-07-10 주식회사 인포카 차량 고장 여부를 예측하기 위한 인공 신경망 학습 방법, 차량 고장 여부 판단 방법, 및 이를 수행하는 컴퓨팅 시스템
JP7388343B2 (ja) * 2020-12-18 2023-11-29 トヨタ自動車株式会社 ターボチャージャのオイルコーキング堆積量の推定装置
JP2022114878A (ja) * 2021-01-27 2022-08-08 株式会社オートネットワーク技術研究所 判定装置、再学習装置及び判定方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002259940A (ja) * 2001-03-06 2002-09-13 Kddi Corp 出力状態判定機能を有する並列ニューラルネットワーク処理システム
JP2012018450A (ja) * 2010-07-06 2012-01-26 Keio Gijuku ニューラルネットワークシステム、ニューラルネットワークシステムの構築方法およびニューラルネットワークシステムの制御プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07168799A (ja) * 1993-09-22 1995-07-04 Fuji Electric Co Ltd ニューラルネットワークの学習装置
JP3675246B2 (ja) * 1999-08-13 2005-07-27 Ｋｄｄｉ株式会社 正誤答判定機能を有するニューラルネットワーク手段
JP4517633B2 (ja) 2003-11-25 2010-08-04 ソニー株式会社 対象物検出装置及び方法
JP2005242803A (ja) 2004-02-27 2005-09-08 Mitsubishi Heavy Ind Ltd 機械の性能推定器、性能推定方法及び性能推定プログラム
CN102750824B (zh) * 2012-06-19 2014-04-16 银江股份有限公司 基于多种神经网络分类器投票的城市道路交通状态检测方法
CN104316729B (zh) * 2014-11-13 2017-01-25 成都运达科技股份有限公司 机车车辆转向架检测用加速度传感器的自诊断方法
JP6497656B2 (ja) 2015-07-03 2019-04-10 パナソニックＩｐマネジメント株式会社 通信方法およびそれを利用した通信装置
JP6698401B2 (ja) 2016-03-30 2020-05-27 株式会社神戸製鋼所 ルール抽出装置、該方法および該プログラム
CN106184068A (zh) * 2016-06-30 2016-12-07 北京奇虎科技有限公司 汽车内部网络安全检测方法及装置、汽车
DE112017006854T5 (de) 2017-01-18 2019-10-02 Panasonic Intellectual Property Management Co., Ltd. Überwachungsvorrichtung, Überwachungsverfahren und Computerprogramm
JP6956624B2 (ja) 2017-03-13 2021-11-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 情報処理方法、情報処理システム、及びプログラム
CN108536123B (zh) * 2018-03-26 2019-08-30 北京交通大学 基于长短时记忆神经网络的列控车载设备故障诊断方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002259940A (ja) * 2001-03-06 2002-09-13 Kddi Corp 出力状態判定機能を有する並列ニューラルネットワーク処理システム
JP2012018450A (ja) * 2010-07-06 2012-01-26 Keio Gijuku ニューラルネットワークシステム、ニューラルネットワークシステムの構築方法およびニューラルネットワークシステムの制御プログラム

Also Published As

Publication number Publication date
US20210326677A1 (en) 2021-10-21
WO2020121849A1 (ja) 2020-06-18
CN113169927A (zh) 2021-07-23
JP7215131B2 (ja) 2023-01-31
JP7439963B2 (ja) 2024-02-28
JP2023052390A (ja) 2023-04-11
JP2020096286A (ja) 2020-06-18

Similar Documents

Publication Publication Date Title
CN113169927B (zh) 判定装置、判定程序、判定方法及神经网络模型的生成方法
Hanselmann et al. CANet: An unsupervised intrusion detection system for high dimensional CAN bus data
US11999364B2 (en) Systems and methods for intrusion detection in vehicle systems
US11110895B2 (en) Vehicle network intrusion detection system (IDS) using vehicle state predictions
US10850684B2 (en) Vehicle secure messages based on a vehicle private key
JP6807906B2 (ja) 車両へのコンピュータ攻撃を阻止するためのルールを生成するシステムおよび方法
US20180196941A1 (en) Security system and methods for identification of in-vehicle attack orginator
JP2017079406A (ja) 車載記録システム及び車載制御装置
CN114710372B (zh) 基于增量学习的车载can网络入侵检测系统及方法
CN109495438A (zh) 用于车内网络入侵检测的系统和方法
US20190266498A1 (en) Behavioral models for vehicles
US12001553B2 (en) Detecting vehicle malfunctions and cyber attacks using machine learning
Suwatthikul et al. In-vehicle network level fault diagnostics using fuzzy inference systems
CN113079167B (zh) 一种基于深度强化学习的车联网入侵检测方法及系统
Balaji et al. NeuroCAN: Contextual anomaly detection in controller area networks
CN109150846A (zh) 车辆入侵检测方法及车辆入侵检测装置
CN117376920A (zh) 智能网联汽车网络攻击检测、安全状态估计及控制方法
WO2021111865A1 (ja) 判定装置、判定プログラム及び判定方法
US20230185919A1 (en) System and process using homomorphic encryption to secure neural network parameters for a motor vehicle
JP2019214249A (ja) 検知装置、コンピュータプログラム、検知方法及び学習モデル
WO2021095491A1 (ja) 車載中継装置及び情報処理方法
Mohammed et al. Resilient Event Triggered Interval Type‐2 Fuzzy Sliding Mode Control for Connected and Autonomous Vehicles Subjected to Multiple Cyber Attacks
JP2022172456A (ja) 車両の電子データシステムへの侵入の検知／評価
CN117201107A (zh) 一种基于多维特征的云车联动入侵检测方法及系统
CN117872747A (zh) 基于离线强化学习的驾驶控制方法、装置以及计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant