CN111052093A - 异常判定装置、异常检测模型制作服务器及程序 - Google Patents

异常判定装置、异常检测模型制作服务器及程序 Download PDF

Info

Publication number
CN111052093A
CN111052093A CN201880051156.9A CN201880051156A CN111052093A CN 111052093 A CN111052093 A CN 111052093A CN 201880051156 A CN201880051156 A CN 201880051156A CN 111052093 A CN111052093 A CN 111052093A
Authority
CN
China
Prior art keywords
abnormality
node
information
vehicle
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880051156.9A
Other languages
English (en)
Other versions
CN111052093B (zh
Inventor
高桥良太
佐佐木崇光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Priority claimed from PCT/JP2018/041277 external-priority patent/WO2019142456A1/ja
Publication of CN111052093A publication Critical patent/CN111052093A/zh
Application granted granted Critical
Publication of CN111052093B publication Critical patent/CN111052093B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0709—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function
    • G06F11/0739—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function in a data processing system embedded in automotive or aircraft systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766—Error or fault reporting or storing
    • G06F11/0775—Content or structure details of the error report, e.g. specific table structure, specific error fields
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3013—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is an embedded system, i.e. a combination of hardware and software dedicated to perform a certain function in mobile devices, printers, automotive or aircraft systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3058—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466—Performance evaluation by tracing or monitoring
    • G06F11/3476—Data logging
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06—Management of faults, events, alarms or notifications
    • H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/142—Network analysis or design using statistical or mathematical methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1425—Traffic logging, e.g. anomaly detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/46—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for vehicle-to-vehicle communication [V2V]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/48—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for in-vehicle communication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/552—Detecting local intrusion or implementing counter-measures involving long-term monitoring or reporting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
    • G06F21/566—Dynamic detection, i.e. detection performed at run-time, e.g. emulation, suspicious activities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1416—Event detection, e.g. attack signature detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Environmental & Geological Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Optimization (AREA)
  • Probability & Statistics with Applications (AREA)
  • Pure & Applied Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Analysis (AREA)
  • Algebra (AREA)
  • Small-Scale Networks (AREA)
  • Traffic Control Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

网络上的作为监视对象的第一节点所包含的异常判定装置(125)包含处理器，该处理器执行：取得包含时刻和第一节点上的传感器数据或者控制数据所示的该时刻的第一节点的状态信息在内的日志信息，执行与该时刻的第一节点上的异常的发生相关的第一异常判定，基于从位于第一节点的周边且作为其他监视对象的第二节点取得的与第二节点的异常相关的第二节点信息，执行与该时刻的第二节点上的异常的发生相关的第二异常判定，在第二节点上发生了异常的情况下，向日志信息附加表示第二节点上发生异常的异常信息，并向网络上的至少一部分节点发送。

Description

异常判定装置、异常检测模型制作服务器及程序
技术领域
本发明涉及使用异常检测模型进行异常判定的V2X网络。
背景技术
日益变得高功能的汽车所使用的与外部的通信路径不限于经由LTE(长期演进：Long Term Evolution)等移动通信线路的通信路径而不断增加。V2X(意思是Vehicle-to-everything即车到万物)网络设想了正在道路上行驶的汽车与其他汽车、信号灯等交通基础设施、行人的智能电话等周围的各种物体进行通信，面向实现V2X网络的技术的实用化使得更智能的自动驾驶的实现也逐渐进入视野。
另一方面，对于从包含外部的更多路径接受信息的汽车的车载网络系统而言，与网络攻击对应的风险也增加。为了实现更高功能的汽车的安全，提出了对抗这样的风险的技术(例如参照专利文献1及2)。
在先技术文献
专利文献
专利文献1：特开2017－33186号公报
专利文献2：特开2017－111796号公报
发明内容
本发明要解决的课题
但是，在专利文献1或2中提出的技术中，关于用于生成在异常检测中使用的模型的信息，没有考虑作为该信息的提供源的节点在V2X的通信中可能受到周边的节点影响。
于是，本发明提供能够将周边的节点对发送源的节点的影响纳入考虑地选定用于生成在异常检测中使用的模型的信息的异常判定装置等。
用于解决课题的手段
本发明的一个方式所涉及的异常判定装置被包含在V2X网络中的作为监视对象的第一节点中，且包含处理器，所述处理器执行：日志信息取得步骤，取得日志信息，该日志信息包含时刻、以及所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息；第一异常判定步骤，执行与所述时刻的所述第一节点上的异常的发生相关的第一异常判定；第二异常判定步骤，基于从第二节点取得的与所述第二节点的异常相关的第二节点信息，执行与所述时刻的所述第二节点上的异常的发生相关的第二异常判定，所述第二节点是所述V2X网络中的作为监视对象的其他节点且位于所述第一节点的周边；异常信息附加步骤，在所述第二异常判定的结果表示所述第二节点上发生异常的情况下，向所述日志信息附加表示所述第二节点上发生异常的异常信息；以及日志信息发送步骤，将被附加了所述异常信息的所述日志信息，向构成所述V2X网络的至少一部分节点发送。
另外，本发明的一个方式所涉及的异常检测模型制作服务器是具备处理部的服务器，所述处理部执行：日志信息取得步骤，取得由V2X网络中的作为监视对象的第一节点生成的日志信息；信息选定步骤，从取得的所述日志信息选定规定的信息；以及模型制作步骤，将选定的所述规定的信息作为学习数据使用，执行用于制作供所述V2X网络中对所述第一节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习，所述日志信息将时刻、所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息、表示所述时刻的所述第一节点上有无异常的第一异常信息、与表示所述时刻的位于所述第一节点的周边且与所述第一节点进行通信的第二节点上有无异常的第二异常信息建立对应地包含，在所述信息选定步骤中，基于所述第一异常信息及所述第二异常信息选定所述规定的信息。
此外，这些概括的或者具体的方式既可以由系统、方法、集成电路、计算机程序或者计算机可读取的CD－ROM等记录介质实现，也可以由系统、方法、集成电路、计算机程序及记录介质的任意组合实现。
发明效果
根据本发明，能够将提供源的节点从周边的节点受到的影响纳入考虑地选定用于生成在异常检测中使用的模型的信息。
附图说明
图1是用于说明V2X网络的概要的图。
图2是表示实施方式中汽车所具备的车载网络系统的构成例的框图。
图3是表示上述车载网络系统中包含的异常判定装置的构成例的框图。
图4是表示由异常判定装置取得的日志信息的数据构成的一例的图。
图5是表示由异常判定装置取得的日志信息的数据构成的其他例的图。
图6是表示由异常判定装置取得的日志信息的数据构成的再其他例的图。
图7是表示上述V2X网络中的路侧机的构成例的框图。
图8是表示上述V2X网络中的异常监视服务器的构成例的框图。
图9是表示与从作为监视对象的节点的车辆向异常监视服务器上传数据相关的次序的一例的时序图。
图10是表示与从作为监视对象的节点的车辆向异常监视服务器上传数据相关的次序的其他例的时序图。
图11是表示实施方式中的异常判定装置所进行的处理的次序的一例的流程图。
图12是表示与从作为监视对象的节点的车辆向异常监视服务器上传数据相关的次序的再其他例子的时序图。
图13是表示实施方式中的异常判定装置所进行的处理的次序的其他例的流程图。
图14是表示与从作为监视对象的节点的车辆向异常监视服务器上传数据相关的次序的再其他例子的时序图。
图15是表示与从作为监视对象的节点的车辆向异常监视服务器上传数据相关的次序的再其他例子的时序图。
图16是表示上述异常监视服务器所进行的异常检测的次序的一例的流程图。
图17是表示上述V2X网络中的监视节点所进行的异常检测的次序的一例的流程图。
图18是表示上述异常监视服务器所进行的异常检测模型制作的次序的一例的流程图。
图19是表示上述异常监视服务器中的学习用数据的选定处理的次序的一例的流程图。
图20是表示上述异常监视服务器中的学习用数据的选定处理的次序的其他例的流程图。
图21是表示上述异常监视服务器中的学习用数据的选定处理的次序的再其他例子的流程图。
图22是表示上述异常监视服务器中的有教师学习用数据的选定处理的次序的一例的流程图。
图23A是表示上述异常监视服务器中的有教师学习用数据的选定处理的次序的一例的流程图。
图23B是表示上述异常监视服务器中的有教师学习用数据的选定处理的次序的一例的流程图。
具体实施方式
(成为本公开的基础的见识等)
在V2X网络中进行的通信能够基于与车辆进行通信的对方而细分为几个种类。作为一例有车车间(Vehicle-to-vehicle，以下记作V2V)通信。在V2V通信中，例如前车的速度的信息被实时地传送给后车，在后车中该信息能够被用于调整车间距离或者速度。另外，通过在紧急行驶中的紧急车辆与行驶中的一般车辆之间授受信息，有可能使一般车辆避开紧急车辆所行驶的路径，或者使紧急车辆避开正变得拥堵的路径。作为其他例，有路车间(Vehicle-to-roadside-Infrastructure，以下记作V2I)通信。V2I通信中的车辆的通信对方是各种路侧机。此处的路侧机指的是作为交通基础系统的设施而被设置在道路或者其附近的设备，例如是信号灯、ETC(Electronic Toll Collection)门、交通量计测机、自动查处违反限速装置、以及智能道路交通系统(Intelligent Transport Systems，以下记作ITS)或者新交通管理系统(Universal Traffic Management System，以下记作UTMS)等信息化的交通基础中使用的其他各种设备。在这些设备之中，有的在信息化以前不具有通信功能，也有的为了与行驶车辆授受信息而具备了通信功能。此外，用于通过LTE等移动通信线路取得互联网上的信息或者享受服务的通信也作为V2N(车至蜂窝网络：Vehicle-to-cellular-Network)通信被列举为V2X的一个方式。
V2X网络上的这样的信息的取得及提供如上述例子中那样，其目的在于强化交通安全及提高便利性。可是，在V2X网络中授受的数据不限于这样的有用的信息的数据。也可能从受到网络攻击或者由于故障而发生了异常的节点，发送虚假的信息或者非法的命令等扰乱其他节点的信息处理设备中的判断或者招致错误动作从而使得异常扩大的信息的数据。
为了抑制这样的异常的发生或者扩大，例如在V2X网络上设置了对在网络中流动的数据进行监视并对异常进行检测的系统(以下也称为异常监视系统)。异常监视系统将异常检测模型与在网络中流动的数据的内容或者发送模式进行比较，并基于其差异来对异常进行检测，该异常检测模型例如是通过使用从正常状态下行驶的车辆收集的传感器数据或者控制数据的日志进行的机器学习制作或者更新(以下不特别区分制作与更新，简称为制作)的正常模型等模型。此处的与数据的异常相关的判定的精度受到异常检测模型的精度影响。例如，使用从没有发生异常的状况下行驶的车辆收集的数据来制作正常模型。在此，数据是否是车辆中发生了异常时的数据，例如在车载网络上连接了具有异常判定功能的ECU(电子控制单元：Electronic Control Unit)的情况下，能够基于该ECU所进行的判定来区分。因此，也能够判断是否将该数据用于制作正常模型等。
但是，作为还使用通过V2X通信从周边的节点接收的数据进行控制或者传感的车辆，其传感器数据或者控制数据即使是在未检测到异常时由该车辆生成的数据，在其周边的节点中在该数据被生成时发生了异常的情况下，也有可能受到该异常的影响。根据情况，即使本来是应该被判定为异常的状态，也有可能受到与发生了异常的周边的节点相关的信息的影响而被判定为正常。因此，随着对应于V2X通信的车辆普及，即使是基于来自未检测到异常的车辆的数据制作的正常模型，也存在异常判定的精度有可能下降的问题。
鉴于这样的问题，本发明人想到了如下机制：从在V2X网络中收集的数据中，选定适于制作作为目标的异常检测模型的学习数据。
本发明的一个方式所涉及的异常判定装置被包含在V2X网络中的作为监视对象的第一节点中，且包含处理器，所述处理器执行：日志信息取得步骤，取得日志信息，该日志信息包含时刻、以及所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息；第一异常判定步骤，执行与所述时刻的所述第一节点上的异常的发生相关的第一异常判定；第二异常判定步骤，基于从第二节点取得的与所述第二节点的异常相关的第二节点信息，执行与所述时刻的所述第二节点上的异常的发生相关的第二异常判定，该第二节点是所述V2X网络中的作为监视对象的其他节点，而且位于所述第一节点的周边；异常信息附加步骤，在所述第二异常判定的结果表示所述第二节点上发生异常的情况下，向所述日志信息附加表示所述第二节点上发生异常的异常信息；以及日志信息发送步骤，将被附加了所述异常信息的所述日志信息，向构成所述V2X网络的至少一部分节点发送。
由此，能够向被作为用于制作异常监视系统所使用的异常检测模型的学习数据而使用的日志信息，添加表示有无从作为周边的通信对方的周边节点受到不良影响的可能性的信息。此外，在此的周边指的是能够进行V2V通信或者V2I通信的程度的距离范围，其上限例如是数十米～数百米程度的范围。
另外，例如也可以是，第二节点信息包含：在所述第二节点中基于所述第二节点的传感器数据或者控制数据中的至少一方执行与所述第二节点中有无异常发生相关的判定的结果，所述第二异常判定通过取得所述第二节点信息所包含的所述结果而被执行。或者也可以是，第二节点信息包含所述第二节点的传感器数据或者控制数据中的至少一方，所述第二异常判定基于所述第二节点信息所包含的所述传感器数据或者控制数据中的至少一方而被执行。
像这样，表示有无从周边节点受到不良影响的可能性的信息由发送日志信息的节点或者其周边节点提供。另外，例如也可以是，在包含判定为所述第二节点中发生了异常的结果的情况下，第二节点信息还包含与所述第二节点中发生的异常的种类相关的判定的结果。或者也可以是，所述第二异常判定包含与发生的异常的种类相关的判定，所述异常信息还表示所述发生的异常的种类。
由此，能够区分使用与用于制作异常检测模型的机器学习的方法相应的学习数据日志信息。
另外，例如也可以是，所述第一节点是具备能够与构成所述V2X网络的其他节点进行通信的车载网络系统的车辆。由此，在产生了作为日志信息被发送的数据的节点中，取得与该节点的周边节点中有无异常发生相关的信息。像这样取得的信息与在学习数据生成服务器等中根据状况证据性的信息事后进行的有无异常发生的判定相比更易于确保精度。另外，能够抑制对大量数据进行收集的学习数据生成服务器的负荷。
另外，例如也可以是，在所述日志信息发送步骤中发送的所述日志信息，被向使用所述日志信息来制作供所述V2X网络中的监视系统在异常检测中使用的异常检测模型的节点发送。
由此，能够制作如下异常检测模型，该异常检测模型将能够基于各节点的周边节点中有无异常发生来区分使用的日志信息作为学习数据使用。
另外，本发明的一个方式所涉及的异常检测模型制作服务器是具备处理部的服务器，所述处理部执行：日志信息取得步骤，取得由V2X网络中的作为监视对象的第一节点生成的日志信息；信息选定步骤，从取得的所述日志信息中选定规定的信息；以及模型制作步骤，将选定的所述规定的信息作为学习数据使用，执行用于制作供所述V2X网络中对所述第一节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习，所述日志信息将时刻、所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息、表示所述时刻的所述第一节点上有无异常的第一异常信息、与表示所述时刻的位于所述第一节点的周边且与所述第一节点进行通信的第二节点上有无异常的第二异常信息建立对应地包含，在所述信息选定步骤中，基于所述第一异常信息及所述第二异常信息选定所述规定的信息。
由此，能够执行将下述日志信息用于学习数据的机器学习来制作异常检测模型，该日志信息包含表示有无受到周边节点中的异常的不良影响的可能性的信息。
另外也可以是，在所述信息选定步骤中，将与表示没有异常的所述第一异常信息及表示没有异常的所述第二异常信息建立了对应的状态信息，选定为所述规定的信息，在所述模型制作步骤中，将选定的所述规定的信息作为学习数据使用，制作正常模型作为所述异常检测模型。或者也可以是，在所述信息选定步骤中，将与表示有异常的所述第一异常信息及表示有异常的所述第二异常信息中的至少一方建立了对应的状态信息，选定为所述规定的信息，在所述模型制作步骤中，将选定的所述规定的信息作为有教师学习数据使用，制作所述异常检测模型。
由此，能够与日志信息中被附加的异常发生的有无相应地区分使用机器学习的方法，能够得到可执行更高精度的异常检测的异常检测模型。
另外，本发明的一个方式所涉及的程序由V2X网络中的作为监视对象的第一节点中包含的异常判定装置所包含的处理器执行，通过由所述处理器执行，使所述异常判定装置执行：日志信息取得步骤，取得日志信息，该日志信息包含：时刻、以及所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息；第一异常判定步骤，执行与所述时刻的所述第一节点上的异常的发生相关的第一异常判定；第二异常判定步骤，基于从第二节点取得的与所述第二节点的异常相关的第二节点信息，执行与所述时刻的所述第二节点上的异常的发生相关的第二异常判定，所述第二节点是所述V2X网络中的作为监视对象的其他节点，而且位于所述第一节点的周边；异常信息附加步骤，在所述第二异常判定的结果表示所述第二节点上发生异常的情况下，向所述日志信息附加表示所述第二节点上发生异常的异常信息；以及日志信息发送步骤，将被附加了所述异常信息的所述日志信息，向构成所述V2X网络的至少一部分节点发送。
由此，能够向被作为用于制作供异常监视系统使用的异常检测模型的学习数据而使用的日志信息，添加表示有无从周边节点受到不良影响的可能性的信息。
另外，本发明的一个方式所涉及的程序由服务器所具备的处理部执行，通过由所述处理部执行，使所述服务器执行：日志信息取得步骤，取得由V2X网络中的作为监视对象的第一节点生成的日志信息；信息选定步骤，从取得的所述日志信息中选定规定的信息；以及模型制作步骤，将选定的所述规定的信息作为学习数据使用，执行用于制作供所述V2X网络中对所述第一节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习；所述日志信息将时刻、所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息、表示所述时刻的所述第一节点上有无异常的第一异常信息、与表示所述时刻的位于所述第一节点的周边且与所述第一节点进行通信的第二节点上有无异常的第二异常信息建立对应地包含，在所述信息选定步骤中，基于所述第一异常信息及所述第二异常信息选定所述规定的信息。
由此，能够执行将下述日志信息用于学习数据的机器学习来制作异常检测模型，该日志信息包含表示有无受到周边节点中的异常的不良影响的可能性的信息。
此外，以下说明的实施方式表示本发明的一个具体例。以下的实施方式中示出的数值、形状、构成要素、步骤、步骤的顺序等是一例，意图不在于限定本发明。此外，关于以下实施方式中的构成要素之中独立权利要求中未记载的构成要素，作为任意的构成要素而被说明。另外，只要不产生矛盾，还能够将实施方式及其变形例的各自的内容组合，其包含在本发明的技术范围内。
(实施方式)
[1.V2X网络的概要]
首先，说明本发明所涉及的技术能够适用的V2X网络的概要。图1是用于说明V2X网络的概要的图。
在构成V2X网络1的节点中，包含车辆10A、10B及10C、信号灯30A、车速计测机30B、基站40以及异常监视服务器50。此外，以下有时将车辆10A、10B及10C汇总或者不特别区别而指代任意的1个以上地标记为车辆10。另外，有时将信号灯30A及车速计测机30B汇总或者不特别区别而指代一方地标记为路侧机30。
车辆10进行与车辆10之间的V2V通信及与路侧机30之间的V2I通信，例如使用BSM(基本安全信息：Basic Safety Message)等规定的消息集来收发数据。另外，车辆10经由基站40与互联网等通信网络20连接，与异常监视服务器50进行V2N通信。从车辆10向异常监视服务器50，发送车辆10所具备的车载网络系统100上的通信数据，例如包含传感器数据或者控制数据所表示的内容的日志。
从异常监视服务器50向车辆10，发送在车载网络系统100内的异常检测中能够利用的数据，例如在车辆上执行的异常检测中使用的异常检测模型。此外，该异常检测模型通过将从各车辆10发送的日志作为学习数据使用的机器学习而被制作。另外，在该例中，也可以在路侧机30与异常监视服务器50之间也进行数据的授受。例如，从路侧机30向异常监视服务器50，发送路侧机30的系统上的通信数据，从异常监视服务器50向路侧机30，发送在路侧机30所进行的异常检测中能够利用的异常检测模型。
另外，在V2X网络1中，车辆10是异常监视服务器50所进行的监视的对象。更具体而言，异常监视服务器50针对车辆10向V2X网络1传输的数据，执行由网络攻击或者故障引起的异常的检测，来判定车辆10中是否发生了异常。另外，路侧机30也是异常监视服务器50所进行的监视的对象，但除了各自的本来的功能、也就是作为信号灯或者车速计测机的功能之外，还具有对其他节点进行监视的功能，将车辆10作为监视的对象。在V2X网络1中，也可以说像这样通过作用不同的多个节点构筑了异常监视系统。
[2.节点的构成]
接下来，在构成V2X网络1的上述各种节点之中，说明车辆10、路侧机30及异常监视服务器50的构成。
[2－1.车辆]
各车辆10具备能够与其他节点进行如上所述的V2X通信的车载网络系统。图2是表示作为车辆10所具备的车载网络系统的一例的由车辆10A具备的车载网络系统100的构成的框图。
车载网络系统100是例如至少一部分遵循CAN(控制器域网：Controller AreaNetwork)的标准而构筑并进行动作的系统，具备：外部通信装置110；对车辆10的内部与外部、及功能系统各自的网络间的数据进行中继的网关120；以及作为这些功能系统各自的网络的信息系统网络130及控制系统网络140。此外，信息系统网络130及控制系统网络140是车载网络系统100中能够包含的功能系统的网络的例子，不限定于这些。另外，本发明所涉及的技术也能够适用于未基于功能系统而分化的网络系统。另外，也能够适用于遵循Ethernet(注册商标)等CAN以外的标准的网络上的系统、或者遵循CAN及Ethernet等不同的标准的部分并存的网络系统。
外部通信装置110是与V2X网络1中的作为不同于车辆10A的节点的车辆10B及10C、路侧机30(图2中省略)以及基站40进行通信的接口，由与V2X通信中使用的各种通信标准对应的通信模组实现。
网关120由安装了上述数据的中继的功能的ECU实现。另外，网关120在功能上包含能够在该ECU上实现的后述的异常判定装置125。
信息系统网络130由双划线所示的总线及与该总线连接的多个ECU131、132及133构成，控制系统网络140由总线及与该总线连接的多个ECU141、142及143构成。在各ECU中，在不同于与总线连接的接口的接口上，连接着传感器或者促动器等设备(未图示)。通过传感器的计测而得到的传感器数据在ECU内部被利用，或者为了在其他ECU中利用而被向总线输出。连接着促动器的ECU与这样的传感器数据所示的信息相应地，或者按照从其他ECU经由总线取得的控制数据，对促动器进行控制。另外，在车载网络系统100中，这样的传感器数据或者控制数据也由网关120接收，成为网关120所包含的异常判定装置125所进行的异常判定的对象。图3是表示异常判定装置125的功能性的构成例的框图。
异常判定装置125对车载网络系统100中有无发生异常进行判定(异常判定)。在该异常判定的处理中，例如能够利用基于数据帧的发送模式及数据的内容中的任一个或者其双方的方法、利用MAC(Message Authentication Code)等的消息认证技术的方法、利用上述异常检测模型的方法等各种方法、或者它们的组合。在图3的框图中示出异常判定装置125的构成例。
异常判定装置125具备数据接收部1251、日志信息取得部1252、数据发送部1253、积蓄部1254及异常判定部1255。
数据接收部1251接收在车载网络系统100上发送的传感器数据或者控制数据。
日志信息取得部1252将数据接收部1251所接收的数据的内容与从计时器(未图示)取得的该数据的接收时刻的信息建立对应，作为日志信息向积蓄部1254积蓄。在图4中示出像这样被积蓄在积蓄部1254中的日志信息的数据的构成的一例。在图4所示的例子中，在各行中，从计时器取得的时刻向“时刻”栏，数据接收部1251所接收的数据的内容向“车内状态信息”栏，被相互建立对应地存放。作为日志信息被存放的数据的内容在图4中作为该例示出了速度及加速度，但不限定于这些。例如，偏航率、挡位、转向角、发动机转速、加速器位置等由车辆10所具备的传感器测定的测定值、基于该测定值执行的判定的判定值、发出的控制指示等，各种信息能够按照时序作为日志信息被存放。另外，在该例中，进而存放着该时刻的车辆10A的位置信息。这样的位置信息例如能够从与车载网络系统100连接的汽车导航系统或者智能电话等所具备的定位系统的接收模组被提供。
异常判定部1255执行与积蓄部1254中积蓄的日志信息所示的时刻的车载网络系统100上有无异常发生相关的判定。该异常判定也可以例如使用日志信息中包含的传感器数据或者控制数据的内容、或者车载网络系统100上的其他信息，通过上述各种方法执行。异常判定部1255将该异常判定的结果向对应的日志信息附加。在图5中示出附加了这样的异常判定的结果后的日志信息的数据的构成的一例。在图5所示的例子中，各行中存放的日志信息所包含的时刻的车辆10A中的异常判定的结果被存放在“车内异常判定”栏中。另外，在该例中，进而在异常判定的结果是发生了异常的情况下(参照“车内异常判定”栏的值为“异常”的行)，将该异常的发生之处作为异常的类别的信息存放(参照“车内异常类别”栏)。像这样，异常判定部1255也可以取得与发生的异常相关的更加详细的信息并向日志信息附加。
另外，异常判定部1255基于通过V2V通信或者V2I通信从周边节点取得的信息进行异常判定，将该异常判定的结果进一步向日志信息附加。在图6中示出像这样附加了其他节点的异常判定的结果后的日志信息的数据的构成的一例。在图6所示的例子中，各行中存放的日志信息所包含的时刻的车辆10A的周边节点中的异常判定的结果与同行的各信息建立对应地被存放在“周边节点异常判定”栏中。另外，在该例中，进而在异常判定的结果是发生了异常的情况下(参照“周边节点异常判定”栏的值是“异常”的行)，将表示发生了该异常的节点或者进而在节点内发生异常之处的信息，作为异常的类别的信息进一步建立对应地存放(参照“周边节点异常类别”栏)。其中，在此信息与时刻建立对应的其他节点中的异常，只要是在相对于该时刻近的规定的时间(例如数秒以内～1分钟以内)发生的或者检测到的即可，并不要求严密的同时性。另外，只要满足时间性的条件，也可以针对1个时刻的车内异常，将多件与周边节点的异常判定相关的信息建立对应。关于周边节点的异常判定留待后述。
此外，在本说明书中为了说明方便，有时不仅将如图4所示的某时刻的车内状态的信息，也如图5或者图6所示，将由异常判定部1255附加的与本节点或者周边节点中的异常相关的信息也包含在内，称为日志信息，将其数据称为日志。另外，在V2X网络中，作为异常监视服务器50的监视对象的各车辆10是本实施方式中的第一节点的例子，与第一节点进行通信的周边节点是本实施方式中的第二节点的例子。第二节点也可以也是异常监视服务器50的监视对象。
另外，在图4至图6中，在一行中存放且被建立了对应的信息的总和在以下也称为记录。例如在图6所示的日志的各记录中，包含不严格的某时刻的、某节点(例如车辆10A)的位置、源于传感器数据或者控制数据的该节点的状态、该节点中有无异常的判定结果及在有异常的情况下的其类别、以及该节点的周边节点中有无异常的判定结果及在有异常的情况下的其类别。
积蓄部1254是上述日志信息的数据的保存场所。
数据发送部1253将异常判定部1255所执行的车载网络系统100上的异常判定的结果，例如通过经由外部通信装置110的V2V通信或者V2I通信向周边节点发送。数据发送部1253所进行的该异常判定的结果的发送既可以在每次判定时执行，也可以定期地执行。另外，也可以仅发送在检测到异常的情况下的判定的结果。在向周边节点发送的信息中，至少包含异常有无发生，也可以还包含异常的类别、对应的时刻、或者对车辆10A唯一地进行识别的ID。另外，数据发送部1253通过经由外部通信装置110的V2N通信，将积蓄部1254中积蓄的日志信息的数据向异常监视服务器50发送。像这样从车辆10向异常监视服务器50提供的日志信息，被作为下述机器学习的学习数据而被利用，该机器学习用于制作供异常监视服务器50中的异常判定使用的异常检测模型。
这样的异常判定装置125在本实施方式的例子中通过如下方式实现：由实现网关120的ECU的微控制器的处理器执行规定的程序，在存储器中读写数据，从计时器取得时刻信息，从输入输出部进行数据的收发。此外，异常判定装置125的实现方式不限定于该例，例如也可以由与车载网络系统100连接的除了网关以外的一个ECU或其他装置的一部分或者整体实现。另外，例如，上述的异常判定装置125的各构成要素的功能也可以基于由车载网络系统100上的多个ECU、存储装置等的组合进行分担的形式实现。
此外，车辆10A所包含的作为控制系统网络140的控制对象的驱动系统等、与作为汽车的行驶相关的构成要素(未图示)，由于与本实施方式所涉及的异常监视的技术之间关联性不高，因此省略说明。
另外，进一步说明作为周边节点的车辆10的异常判定。车辆10B及10C也能够与车辆10A同样分别具有能够在V2X网络1中进行通信的车载网络系统。另外，如果例如车辆10B与车辆10A同样具备异常判定装置125，则车辆10A能够接收由车辆10B执行的异常判定的结果，并基于该结果判定周边节点中是否发生了异常。另外，如果在从车辆10B接收的信息中还包含与发生的异常的类别相关的信息，则车辆10A能够基于该信息进行与周边节点中发生的异常的类别相关的判定。无论如何，基本上进行依照所接收的信息所示的结果的判定即可。
但是，不限于与V2X网络1连接的全部车辆10的车载网络系统总是与上述说明的车载网络系统100同等地发挥功能。例如，设想车辆10B的与车辆10A同样具备的异常判定装置125中发生了故障的情况，另外，车辆10C的车载网络系统欠缺与异常判定装置125同等的功能的情况。也就是说，车辆10A无法从车辆10B及车辆10C接收异常判定的结果。从这样的车辆10B及车辆10C，也可以将不包含异常判定的结果的表示车内的状态的信息、例如图4的列表的各行中所示的信息向周边节点发送。在接收了该信息的作为周边节点的车辆10A中，与异常判定部1255针对车载网络系统100上的异常进行判定同样地，基于接收的表示车辆10B或者车辆10C的状态的信息判定有无异常发生。另外，也可以还针对周边节点中发生的异常的类别进行判定。
此外，除了上述以外，还有从路侧机30取得与作为周边节点的车辆10的异常相关的信息的路径，对此留待后述。
无论是哪种模式，在具备相当于异常判定装置125的功能的车载网络系统中，由异常判定部1255例如以一定周期反复执行本车辆的状态的信息的取得及有无异常的判定、以及针对周边节点中有无异常的判定，生成如图6所示的构成的日志信息的数据。另外，该数据被数据发送部1253向异常监视服务器50发送。
[2－2.路侧机]
各路侧机30如上所述当然具备各自的本来的功能，也就是说在图1的例子中，在路侧机30之中，信号灯30A具备作为信号灯的功能，车速计测机30B具备作为车速计测机等的功能。但是，本实施方式中的路侧机30还具有作为对其他节点进行监视的监视节点的功能，将车辆10作为监视的对象。以下说明路侧机30的用于实现对其他节点进行监视的功能的构成。
图7是表示V2X网络1中的路侧机30的构成例的框图。路侧机30具备数据接收部31、数据发送部33、积蓄部34及异常判定部35。
数据接收部31及数据发送部33是与V2X网络1中的作为不同于路侧机30的节点的车辆10及异常监视服务器50等进行通信的接口，由与V2X通信中使用的各种通信标准对应的通信模组实现。积蓄部34是路侧机30所具备的信息处理系统的存储装置，异常判定部35通过由该信息处理装置的处理器执行规定的程序而被实现。
数据接收部31经由通信网络20从异常监视服务器50，取得例如在异常检测中使用的异常检测模型。另外，数据接收部31从车辆10接收日志信息的数据。在此从车辆10发送的日志信息的数据能够与车辆10的状况相应地，具有图4至图6的任一个所示的数据构成。
异常判定部35使用该异常检测模型，基于日志信息进行车辆10的异常判定。异常判定部35所进行的该异常判定相当于车辆10中的异常判定装置125的异常判定部1255对其他节点的异常判定。另外，异常判定部35也执行相当于异常判定部1255对本节点的异常判定的异常判定，也就是说路侧机30内的系统的异常判定。
数据接收部31所接收的异常检测模型及日志信息、由异常判定部35附加了与本节点或者其他节点的异常判定相关的信息后的日志信息的数据被向积蓄部34积蓄。
另外，与异常判定相关的信息被数据发送部33向车辆10发送。此外，在此从路侧机30取得与异常判定相关的信息的车辆10不限定于例如作为上述日志信息的数据的发送源的车辆10也可以由作为其周边节点的车辆10接收并取得。
也就是说，基于表示各车辆10的状态的信息判定有无异常发生，能够由本节点或者作为周边节点的其他车辆10或者路侧机30进行。另外，各车辆10基于从作为周边节点的其他车辆10取得的判定结果或者状态信息，或者基于从作为第三方的周边节点的路侧机30取得的判定结果，取得该作为周边节点的其他车辆10的异常判定的结果。
在V2X网络1中，通过使用从作为监视对象的节点的车辆10收集的以时序表示各车辆的状态的日志信息来进行的机器学习，制作用于异常检测的模型。在此，日志的各记录中包含的各时刻的车辆10的状态或者异常判定的结果有可能受到与有异常的周边节点相关的信息影响。另外，通过将受到这样的影响时的记录与未受影响时的记录区别地作为学习数据使用，能够得到可实现更高精度的异常判定的异常检测模型。在以往设想的日志信息中，在选定所使用的学习数据时将从各节点收集的日志信息所示的时刻及位置作为线索，来判定周边节点中有无异常。但是，在这样的方法中，从收集的大量日志进行学习数据的选定处理的信息处理装置的处理负荷很大，判定周边节点中有无异常发生的准确性也不确定。于是，通过如上所述在车辆10中取得日志信息的实际的场所及时间，使车辆10利用各种路径取得周边节点有无异常的判定结果并向日志信息附加，能够关于周边节点的异常，将比异常监视服务器50中进行判定更准确的信息与日志信息建立对应，另外，能够抑制从收集的日志选定学习数据的选定处理的负荷。
此外，理想情况下如果从车辆10收集的全部日志都是如图6所示的形式的数据，则选定学习数据的信息处理装置的负荷大为削减。但是，通过如上所述的方法，提供附加了与本节点或者进而与周边节点有无异常相关的信息后的日志的车辆10尚处于普及过程中的过渡期，也处于图4至图6所示的各形式的日志混合存在的时期，其中图6所示的形式的日志成为线索而能够削减信息处理装置中选定学习数据的负荷。
像这样选定学习数据的信息处理装置可以专用于该选定处理，但在本实施方式的例子中，异常监视服务器50进行日志的收集、学习数据的选定、异常检测模型的制作、直到通过使用异常检测模型的异常判定进行监视。接下来，说明异常监视服务器50的构成。
[2－3.异常监视服务器]
图8是表示V2X网络1中的异常监视服务器50的构成例的框图。
异常监视服务器50具备数据接收部51、学习数据选定部52、学习部53、积蓄部54及异常判定部55。
数据接收部51从作为监视对象的各节点经由V2X网络1接收数据。
学习数据选定部52从接收的日志选定被作为学习数据使用的日志。例如，仅将车内和周边节点都被判定为“正常”的记录，作为用于制作正常模型的学习数据选定。
学习部53使用学习数据选定部52所选定的学习数据执行学习来制作异常检测模型。
积蓄部54保存数据接收部51所接收的日志及学习部53所制作的异常检测模型。
异常判定部55读出积蓄部54中保存的异常检测模型，使用该异常检测模型进行异常检测/判定(本说明书中也简称为异常判定)。此外，异常判定与其目的相应地有两种。一种是在从监视对象的节点接收了如图4所示的不包含异常判定的结果的日志的情况下，以针对该日志取得在选定用于制作异常检测模型的学习数据中能够利用的判定的结果作为目的而被进行的异常判定。另一种是针对从监视对象的节点发送的各种数据以监视V2X网络1为目的而被执行的异常判定。
此外，虽然在图8中省略，异常监视服务器50也可以还具备发送部，所制作的异常检测模型如上所述，被从发送部向进行本节点或者周边节点的异常判定的各节点发送。
这样的异常监视服务器50由包含通信模组、存储装置、执行规定的程序的处理部(处理器)在内的1台以上的计算机实现。在由多台计算机实现的情况下，它们既可以在一处协同动作，也可以相互位于远程并经由互联网等通信网络授受数据来协同动作。
关于异常监视服务器50中执行的处理的次序留待后述。
[3.监视对象节点中的处理及V2X网络中的数据的流动]
接下来，关于V2X网络1的作为监视对象的节点中的处理次序及数据的流动，也结合以往的情况来说明本实施方式。
[3－1.车辆中不处理与其他节点的异常相关的判定的情况]
图9是表示与从作为监视对象的节点的车辆10A向异常监视服务器50上传数据相关的次序的一例的时序图。此外，在该例中，设想车辆10A由于功能上的理由或者不存在能够进行通信的周边节点而不针对周边节点执行异常判定。
在车辆10A中，日志信息取得部1252接收在车载网络系统100中各ECU向总线送出的数据，取得表示车内状态的日志信息(S111)。针对在此取得的表示车辆10A的车内状态的日志信息，以下为了与其他日志信息区别而称为第一日志信息。图4所示的数据构成例的日志信息也可以说是该阶段中的日志信息。
接下来，异常判定部1255执行针对车辆10A的车内状态的异常判定(S113)。判定结果被向第一日志信息附加。图5所示的数据构成例的日志信息也可以说是该阶段中的日志信息。在该例中，在检测异常并判定为在车内发生了异常的情况下，异常判定部1255进而确定发生之处作为该异常的类别，将该结果向第一日志信息附加。针对与车辆10A的车内的异常相关的该判定的结果，以下为了与其他判定的结果区别而称为第一判定结果。其中，第一判定结果中至少包含与有无异常发生相关的判定结果即可，与异常的类别相关的信息不是必须的。像这样，由异常判定部1255生成向第一日志信息附加了第一判定结果后的内容的向异常监视服务器50上传的数据(日志)(S115)。在步骤S115中生成的数据被数据发送部1253向异常监视服务器50发送(S119)。
在接收了在作为监视对象的节点的车辆10A中像这样生成的日志信息的数据后的异常监视服务器50中，学习数据选定部52以该数据的各记录中包含的车辆10A的时刻及位置的信息作为线索，根据从其他节点接收的大量日志，检索发生了有可能对车辆10A的状态造成影响的异常的节点。学习数据选定部52通过该检索，针对日志的各记录，对受到周边节点的异常的影响时的记录与未受到该影响时的记录进行区别，并与用途相应地选定(S511)。此外，从这样的检索到选定为止的异常监视服务器50中的处理的负荷较大。另外，在仅收集了如图4所示的不包含周边节点的信息的数据的以往的异常监视服务器50中，也可能会针对所接收的日志的全部记录都执行该处理。
[3－2.各车辆收集周边节点中的与异常相关的判定结果的情况]
图10是表示与从作为监视对象的节点的车辆10A向异常监视服务器50上传数据相关的次序的一例的时序图。在该例中，设想作为车辆10A的周边节点的车辆10B在其车载网络系统中具备相当于图3所示的异常判定装置125的异常判定装置。另外，车辆10A从车辆10B取得车辆10B中的异常的判定结果，这一点与图9所示的例子不同。
在车辆10A中，由日志信息取得部1252执行的日志信息取得(S111A)及异常判定(S113A)，分别相当于图9所示的处理次序的步骤S111及S113。在至此为止的阶段中，在积蓄部1254中保存图5所示的附加了判定结果(第一判定结果)而构成的第一日志信息。
另外，在车辆10B中，进行相当于车辆10A中的步骤S111A的日志信息的取得(S111B)。针对取得的表示车辆10B的车内状态的日志信息，与上述第一日志信息区别，以下称为第二日志信息。图4所示的数据构成例也是第二日志信息的数据构成例。
接下来，在车辆10B中，执行相当于车辆10A中的步骤S113A的车内的异常的判定(S113B)。针对与车辆10B的车内的异常相关的该判定的结果，与第一判定结果区别，以下称为第二判定结果。第二判定结果也与第一判定结果同样，至少包含与有无异常发生相关的判定结果即可，也可以还包含与异常的类别相关的信息。
接下来，从车辆10B将第二判定结果向车辆10A发送(S119B)。在数据接收部1251接收了第二判定结果的车辆10A中，由异常判定部1255向第一日志信息进一步附加第二判定结果，生成向第一日志信息附加了第一判定结果及第二判定结果后的内容的向异常监视服务器50上传的数据(日志)(S115A)。该数据是如图6所示的构成的数据。也就是说，是将作为本节点的车辆10A的车内状态信息及车内异常判定的结果与作为周边节点的车辆10B的异常判定的结果相互建立对应地包含的数据。在步骤S115A中生成的数据由数据发送部1253向异常监视服务器50发送(S119A)。
图11是表示该例中说明的车辆10A的异常判定装置125的处理的次序的一例的流程图。在异常判定装置125中，数据接收部1251从在车载网络系统100中流动的数据取得日志信息(图10的第一日志信息)(S11)。如果取得了日志信息，则异常判定部1255执行取得日志信息的时刻的车辆10A的车内的基于异常检测的异常判定(S12)。该异常判定的结果(图10的第一判定结果)以与日志信息建立对应的方式向该日志信息附加，例如被存放至同一记录(S13)。接下来，异常判定部1255判定是否在规定的时间内从周边节点接收了异常判定的结果(图10的第二判定结果)(S14)。在接收了的情况下(S14为“是”)，异常判定部1255将进一步附加了第二判定结果(S18)后的数据利用数据发送部1253向异常监视服务器50上传，在未接收的情况下(S14为“否”)，将未被赋予第二判定结果的第一日志信息利用数据发送部1253向异常监视服务器50上传(S19)。在车辆10A中，图11所示的一系列的次序例如以一定周期反复执行。
再次参照图10，在接收了在作为监视对象的节点的车辆10A中像这样生成的日志信息的数据后的异常监视服务器50中，学习数据选定部52基于该数据的各记录中包含的车辆10A的周边节点的异常判定的结果的信息，对受到周边节点的异常影响时的记录与未受该影响时的记录进行区别，与用途相应地选定(S511)。由此，在异常监视服务器50中，与图9所示的例子相比，以较小的处理负荷执行学习数据的选定，而且能够得到更加准确的与周边节点中有无异常相关的信息。
此外，在图10的例子中，从车辆10B向车辆10A发送异常判定的结果，从车辆10A将日志向异常监视服务器50上传，但也可以从车辆10A也向车辆10B发送车辆10A中的异常判定的结果，从车辆10B也将如图6所示的构成的日志向异常监视服务器50上传。像这样，在异常监视服务器50中，从与V2X网络1连接的大量车辆汇集日志，从该日志中选定的学习数据在异常监视服务器50所进行的异常检测模型的制作中被使用。关于异常检测模型的制作的处理次序留待后述。
另外，在图10的例子中，车辆10A仅从车辆10B接收了异常判定的结果，但实际上，能够从可进行V2V通信的多个作为周边节点的车辆收集异常判定的结果。另外，也可以在从多个周边节点接收的异常判定的结果之中，例如由异常判定部1255选择向第一日志信息附加的结果。
[3－3.在车辆中执行其他节点中的异常判定的情况]
图12是表示与从作为监视对象的节点的车辆10A向异常监视服务器50上传数据相关的次序的其他例的时序图。在该例中设想如下情况：在作为车辆10A的周边节点的车辆10B中，虽然在其车载网络系统中存在相当于异常判定装置125的数据接收部1251及日志信息取得部1252的部分并取得表示车内的状态的信息，但由于缺少异常判定部1255或者其发生故障等理由而未进行异常判定。另外，车辆10A从车辆10B取得的不是车辆10B中的异常的判定结果，而是取得表示车辆10B的车内的状态的信息，这一点与图10所示的例子不同。
在车辆10A中，由日志信息取得部1252执行的日志信息取得(S111A)及异常判定(S113A)是与图10所示的次序共通的处理次序。在至此为止的阶段中，在积蓄部1254中保存图5所示的附加了判定结果(第一判定结果)而构成的第一日志信息。
另外，在车辆10B中进行的日志信息的取得(S111B)是与图10的例子所示的处理共通的处理。针对取得的表示车辆10B的车内状态的日志信息，以下与图10的例子同样称为第二日志信息。
接下来，从车辆10B将第二日志信息向车辆10A发送(S117B)。在接收了第二日志信息的车辆10A中，由异常判定部1255基于第二日志信息执行车辆10B的车内的异常判定(S113B)。针对与车辆10B的车内的异常相关的该判定的结果，与图10的例子同样在以下称为第二判定结果。
接下来，在车辆10A中，由异常判定部1255生成向第一日志信息附加了第一判定结果及第二判定结果后的内容的向异常监视服务器50上传的数据(日志)(S115A)。该数据与图10的例子中在步骤S115A中生成的日志相同，是将作为本节点的车辆10A的车内状态信息及车内异常判定的结果与作为周边节点的车辆10B的异常判定的结果相互建立对应地包含的数据。在步骤S115A中生成的数据由数据发送部1253向异常监视服务器50发送(S119A)。
图13是表示该例中说明的车辆10A的异常判定装置125的处理的次序的一例的流程图。与图11的流程图所示的次序相比，不同点在于包含：在从周边节点未接收判定结果的情况下(S14为“否”)针对是否从车辆10B接收了车内状态信息的判断(步骤S15)，以及在接收了车内状态信息的情况下(步骤S15为“是”)与车辆10B中有无异常发生相关的判定(步骤S16)。在车辆10A中，图13所示的一系列的次序例如以一定周期反复执行。
再次参照图12，在从车辆10A接收了数据的异常监视服务器50中，由学习数据选定部52执行学习数据的选定(S511)。由此，在异常监视服务器50中，与图9所示的例子相比，以较小的处理负荷执行学习数据的选定，而且能够得到更加准确的与周边节点中有无异常相关的信息。另外，在存在本节点上无法基于状态信息进行异常判定的车辆的情况下也能够应对。
此外，在图10或者图12的例子中，车辆10A向第一日志信息附加异常判定的结果的周边节点是车辆10B，但周边节点不限定于车辆10，也可以是路侧机30中的异常判定的结果。车辆10A也可以接受如在图10的例子中由车辆10B执行的那样由路侧机30执行的异常判定的结果的提供并将该判定的结果向第一日志信息附加。另外，也可以如在图12的例子中从车辆10B接收了表示车辆10B的内部的状态的信息那样，车辆10A接收表示路侧机30内部的状态的信息，并将基于该信息执行的路侧机30有无异常的判定结果向第一日志信息附加。图14是表示在后者的情况下与从车辆10A向异常监视服务器50上传数据相关的次序的其他例的时序图。图14所示的例子在以下几点不同：从路侧机30向车辆10A发送相当于车辆10B的第二日志信息的路侧机状态信息(S137)，基于该路侧机状态信息，车辆10A的异常判定部1255进行路侧机30中的异常判定(S133)，以及向异常监视服务器50发送的数据是向第一日志信息附加了第一判定结果、以及相当于与车辆10B相关的第二判定结果的与路侧机30相关的第三判定结果后的数据。
[3－4.收集在周边节点间进行的异常判定结果的情况]
图15是表示与从作为监视对象的节点的车辆10A向异常监视服务器50上传数据相关的次序的再其他例的时序图。在该例中，与图12所示的例子同样设想在作为车辆10A的周边节点的车辆10B中，由于缺少异常判定部1255或者其发生故障等理由而未进行异常判定的情况。但是，与图12所示的例子相比不同点在于，基于车辆10B的状态信息执行异常判定的不是车辆10A而是路侧机30，该判定的结果被从路侧机30向车辆10A提供。
在车辆10A中，由日志信息取得部1252执行的日志信息取得(S111A)及异常判定(S113A)分别相当于图9所示的处理次序的步骤S111及S113。在至此为止的阶段中，在积蓄部1254中保存图5所示的附加了判定结果(第一判定结果)而构成的第一日志信息。
另外，在车辆10B中进行的日志信息的取得(S111B)是与图10及图12的例子所示的处理共通的处理。针对取得的表示车辆10B的车内状态的日志信息，以下与上述例子同样称为第二日志信息。
接下来，从车辆10B将第二日志信息向路侧机30发送(S117B)。该例中的路侧机30具备相当于车辆10A的异常判定部1255的功能，如果接收了第二日志信息，则执行相当于图12的例子所示的车辆10A中的步骤S113B的基于第二日志信息针对车辆10B的车内的异常判定(S133B)。针对与车辆10B的车内的异常相关的该判定的结果，与图10及图12的例子同样在以下称为第二判定结果。
接下来，从路侧机30将第二判定结果向车辆10A发送(S139B)。在数据接收部1251接收了第二判定结果的车辆10A中，与图10的例子同样，由异常判定部1255向第一日志信息进一步附加第二判定结果，生成向第一日志信息附加了第一判定结果及第二判定结果后的内容的向异常监视服务器50上传的数据(日志)(S115A)。该数据与图10及图12的例子中在步骤S115A中生成的日志相同，是将作为本节点的车辆10A的车内状态信息及车内异常判定的结果与作为周边节点的车辆10B的异常判定的结果相互建立对应地包含的数据。在步骤S115A中生成的数据由数据发送部1253向异常监视服务器50发送(S119A)。
该例中的车辆10A的异常判定装置125所进行的处理的次序例虽然第二判定结果的发送源不同，但仍由图11或者图13的流程图示出。
再次参照图15，在从车辆10A接收了数据的异常监视服务器50中，由学习数据选定部52执行学习数据的选定(S511)。由此，在异常监视服务器50中，与图9所示的例子相比，以较小的处理负荷执行学习数据的选定，而且能够得到更加准确的与周边节点中有无异常相关的信息。另外，在存在本节点上无法基于状态信息进行异常判定的车辆的情况下也能够应对。
此外，在图15的例子中，从路侧机30发送针对车辆10B的异常判定的结果的目的地虽然示出了仅为车辆10A，但不限定于此。例如从路侧机30发送的目的地也可以包含车辆10B。例如路侧机30也可以向通过V2I通信能够进行通信的范围的全部车辆发送针对车辆10B的异常判定的结果。
[3－5.备注]
在上述3－2至3－4中，示出了到如下为止的处理次序及节点间的数据的授受的变形：作为监视对象的节点的车辆10A取得表示某时刻的车内的状态的信息，取得车内异常判定的结果以及在检测到异常的情况下还取得类别，取得周边节点异常判定的结果以及在检测到异常的情况下还取得类别的信息，将这些信息建立对应而得到的数据向异常监视服务器50发送。但是，这些变形是例子，而不作为限定，包含由V2X网络1能够授受的数据的内容及路径、以及各节点中能够执行的各种处理次序在内的变形也属于本发明的技术范围。
例如，路侧机30如上所述，也可以作为对各车辆10进行监视的监视节点发挥功能，作为监视节点的路侧机30也可以从通信范围内的各车辆10收集车内状态信息或者与车内的异常判定相关的信息，将收集的信息向通信范围内的各车辆10发送。也就是说，也可以从基于V2I通信的通信范围内的车辆10取得与各车内的异常相关的信息，进而向各车共享该信息。此时，在受理了车内状态信息的情况下，路侧机30也可以基于该车内状态信息执行异常判定，发送其结果，以及在检测到异常的情况下还发送类别的信息。另外，监视节点也可以将取得的信息经由通信网络20向异常监视服务器50提供。
另外，也可以是不仅将某车辆有无异常经由路侧机30向其他车辆发送，还将某路侧机30有无异常利用车辆间的通信共享。
另外，也可以从路侧机30经由通信网络20发送各种数据。
另外，在上述3－2至3－4的说明中，从车辆10B向车辆10A等的节点间的数据的发送虽然也能够解释为指定一个对方来执行，但不限定于这样的通信方式。节点间的数据的收发能够以通过V2V通信或者V2I通信所能执行的各种通信方式被执行。例如发送目的地也可以是存在于可通信的区域中的全部节点，也可以在这些节点中基于特定的组，例如车辆的厂商、车载网络系统的种类(例：厂商、依据标准的版本等)、节点的种类(例：车辆或路侧机)等进行限定，或者适用按组间而不同的条件(例：车辆按厂商，路侧机为全部)。
[4.异常监视服务器中的处理]
接下来，说明在V2X网络1中对车辆10或者还对路侧机30中有无异常发生进行监视的异常监视服务器50中的处理次序。如上所述，异常监视服务器50进行日志的收集、学习数据的选定、异常检测模型的制作、直到使用异常检测模型的异常监视。其中，关于日志的收集，由于是接收通过上述监视对象节点中的处理发送的日志，因此省略说明，以下说明其他处理。
[4－1.异常判定]
首先，说明使用异常检测模型进行的异常判定的处理次序。图16是表示上述异常监视服务器50所进行的两种异常判定之中，以取得在选定学习数据中能够利用的判定的结果作为目的的异常判定的次序的一例的流程图。
在与V2X网络1连接的异常监视服务器50中，数据接收部51接收从作为监视对象的各节点发送的日志(S21)。
接下来，异常判定部55从积蓄部54读出异常检测模型(S22)，针对接收的如图4所示的构成的日志之中的各记录，使用该异常检测模型进行异常检测。在检测到异常的情况下，异常判定部55判定为在作为该日志的发送源的节点中发生了异常。另外，在没有检测到异常的情况下，异常判定部55判定为在作为该数据的发送源的节点中未发生异常。与有无异常发生相关的判定的结果被从异常判定部55输出(S24)。结果的输出更具体而言，例如是将向图4的日志附加了判定结果后的数据、也就是图5所示的状态的日志向积蓄部34保存。另外，作为结果的输出，也可以向作为被判定的数据的发送源的节点发送判定结果。
此外，步骤S23中的异常的判定，既可以仅是与有无异常发生相关的判定，也可以在检测出异常的情况下，还包含基于发生之处的种类等的与该异常相关的更详细的判定。另外，在检测出异常的情况下，在步骤S24中输出的判定结果中，也可以包含与该异常相关的更详细的判定结果。
图17是表示上述异常监视服务器50所进行的两种异常判定之中，以监视V2X网络1作为目的的异常判定的次序的一例的流程图。
在与V2X网络1连接的异常监视服务器50中，数据接收部51接收从作为监视对象的各节点发送的数据(S31)。
接下来，异常判定部55从积蓄部54读出异常检测模型(S32)，针对接收的数据，使用该异常检测模型进行异常检测。在检测出异常的情况下，异常判定部55判定为在作为该日志的发送源的节点中发生了异常(步骤S34为“是”)，进而向V2X网络1内通知发生异常。通知的对象既可以是V2X网络1内的全部节点，也可以选择与发生了异常的数据的节点具有规定的关联性的节点来发送。规定的关联性例如是基于节点的种类(例：车辆或路侧机)、车辆或者路侧机的厂商、车载网络系统或者路侧机的控制系统的种类(例：厂商、依据标准的版本等)等的关联性。这样的关联性例如既可以基于从监视对象的各节点收集的日志中包含的信息被取得，也可以是另行收集的在异常监视服务器50中能够利用的数据所示的关联性。
在没有检测到的异常的情况下，异常判定部55判定为在作为该日志的发送源的节点中未发生异常(步骤S34为“否”)，结束异常判定的处理。
此外，在以监视V2X网络1作为目的的异常判定的情况下，也可以将异常判定的结果向异常监视服务器50的积蓄部54保存。
此外，图17的流程图所示的处理不限于由异常监视服务器50执行，如果在V2X网络1内还有作为监视节点发挥功能的路侧机30或者车辆10，则也可以由这些节点的异常判定部35或者异常判定部1255执行。
[4－2.学习数据的选定及异常检测模型的制作]
接下来，说明包含学习数据的选定在内的制作异常检测模型的处理的次序。图18是表示异常监视服务器50中的异常检测模型的制作的处理的次序的例子的流程图。
首先，学习数据选定部52读出积蓄部54中保存的日志(S41)。
接下来，学习数据选定部52在根据需要使异常判定部55针对读出的日志执行规定的处理之后选定记录(S42)。处理的内容根据读出的日志的状态及用途而不同，其详细情况留待后述。
接下来，学习部53使用学习数据选定部52所选定的学习数据来执行学习(S43)，将作为其结果来制作的异常检测模型向积蓄部54保存(S44)。像这样制作(包含更新的情况)的异常检测模型如上所述在异常监视服务器50的异常判定中被使用，或者被向执行异常判定的V2X网络1上的各节点发送。
在此，说明学习数据选定部52所进行的步骤S42的详细情况。
图19是表示异常监视服务器50中的学习用数据的选定处理的次序的一例的流程图。在该例中，异常监视服务器50所接收的数据是如图4所示的构成，包含表示时刻、位置和车内状态的信息，但不包含任何与异常相关的信息，也不包含与周边节点相关的信息。在从积蓄部54读出的日志是这样的构成的情况下，学习数据选定部52使异常判定部55基于记录所包含的车内状态的信息执行异常判定(S51)。在有异常的情况下(S52为“是”)，学习数据选定部52将该记录作为学习部53所进行的下次学习中被用于有教师学习的数据来选定(S57)。关于有教师学习留待后述。
在没有异常的情况下(S52为“否”)，学习数据选定部52使用该记录所包含的时刻信息及位置信息，从已取得的周边节点的数据，检索在生成该记录时存在于作为该日志的发送源的节点周边的其他节点的记录(S53)。接下来，学习数据选定部52利用与作为检索结果取得的周边节点的记录所包含的信息相应的方法，取得基于该信息进行的异常判定的结果。也就是说，在周边节点的信息包含异常判定的结果的情况下，取得该结果，在不包含的情况下，使异常判定部55执行异常判定并取得其结果(S54)。
接下来，学习数据选定部52在作为检索结果取得的周边节点有异常的情况下(S55为“是”)，将该记录作为在学习部53所进行的下次学习中被用于有教师学习的数据来选定(S57)。在没有异常的情况下(S55为“否”)，将该记录作为在学习部53所进行的下次学习中被用于制作正常模型的数据来选定(S56)。
图20是表示异常监视服务器50中的学习用数据的选定处理的次序的其他例的流程图。在该例中，异常监视服务器50所接收的数据是如图5所示的构成，包含表示时刻、位置和车内状态的信息、以及与车内的异常相关的信息，但不包含与周边节点相关的信息。在从积蓄部54读出的日志是这样的构成的情况下，学习数据选定部52读出记录所包含的车内的异常判定的结果(S61)。在有异常的情况下(S62为“是”)，学习数据选定部52将该记录作为在学习部53所进行的下次学习中被用于有教师学习的数据来选定(S67)。
没有异常的情况下的处理与图19所示的步骤S52至S56或者S57的次序是共通的。也就是说，在没有异常的情况下(S62为“否”)，学习数据选定部52使用该记录所包含的时刻信息及位置信息，从已取得的周边节点的数据检索其他节点的记录(S63)。接下来，学习数据选定部52利用与作为检索结果取得的周边节点的记录所包含的信息相应的方法，取得基于该信息进行的异常判定的结果(S64)。
接下来，学习数据选定部52在作为检索结果取得的周边节点中有异常的情况下(S65为“是”)，将该记录作为在学习部53所进行的下次学习中被用于有教师学习的数据来选定(S67)。在没有异常的情况下(S65为“否”)，将该记录作为在学习部53所进行的下次学习中被用于制作正常模型的数据来选定(S66)。
图21是表示异常监视服务器50中的学习用数据的选定处理的次序的再其他例子的流程图。在该例子中，异常监视服务器50所接收的数据是图6所示的构成，包含表示时刻、位置和车内状态的信息及与车内的异常相关的信息、以及与周边节点的异常相关的信息。在从积蓄部54读出的日志是这样的构成的情况下，学习数据选定部52读出记录所包含的车内的异常判定的结果(S71)。在有异常的情况下(S72为“是”)，学习数据选定部52将该记录作为在学习部53所进行的下次学习中被用于有教师学习的数据来选定(S76)。
在没有异常的情况下(S72为“否”)，学习数据选定部52读出记录所包含的周边节点的异常判定的结果(S73)。在有异常的情况下(S74为“是”)，学习数据选定部52将该记录作为在学习部53所进行的下次学习中被用于有教师学习的数据来选定(S76)。在没有异常的情况下(S74为“否”)，将该记录作为在学习部53所进行的下次学习中被用于制作正常模型的数据来选定(S75)。
在此，说明本实施方式中的有教师学习。在有教师学习中，将已知是在车内或者周边节点中发生了异常时的车内状态的数据(记录)向学习部53大量赋予。学习部53从该数据中提取特征，基于该特征制作发生了异常时与正常时的分类，也就是说制作用于异常检测的模型。另外，如果能够对异常进行分类，例如按照与发生的节点的种类或者各节点中的发生之处等相应的种类来划分，则能够关于作为分类的结果的一个类型取得有教师学习用的学习数据。通过使用该学习数据来使学习部53进行学习，制作用于识别某种类的节点、或者某种类的节点的某处的状态的信息是否为异常的异常检测模型。说明像这样与希望制作的异常检测模型相应地区分使用学习数据的更具体的例子。图22、图23A及图23B是表示异常监视服务器50中的有教师学习用数据的选定处理的次序的一例的流程图。
参照图22，首先在学习数据选定部52中，判定所收集的日志的某记录的异常是在作为该日志的发送源的车辆10中发生的异常，还是该车辆10的周边节点、在此为路侧机30的异常(S81)。在是路侧机30的异常的情况下(S81为“是”，至S82)，学习数据选定部52进而作为与路侧机30的异常的类别相应的有教师学习用数据来选定(S91A)。在图23A的例子中，与路侧机30的异常的类别是ETC门的异常(S92A)、信号灯的异常(S93A)、道路信标的异常(S94A)中的哪一种异常相应地，作为与各异常相应的有教师学习数据被选定。在是车辆10的异常的情况下(S81为“否”，至S83)，学习数据选定部52进而作为与车辆10的异常的类别相应的有教师学习用数据来选定(S91A)。在图23B的例子中，与车辆10的异常的类别是车载网络系统100的以太网(Ethernet)的部分中的异常(S92B)、CAN中的异常(S93B)、IVI(In-Vehicle Infotainment system：车内信息娱乐系统)的部分中的异常(S94B)中的哪一种异常相应地，作为与各异常相应的有教师学习数据被选定。这样的选定通过参照日志所包含的周边节点的异常类别的信息而被进行。此外，上述举出的异常的类别是例子，不限定于这些。例如作为周边节点的异常的类别，也可以极为简单地表示是周边的车辆还是路侧机。
[5.效果等]
像这样，在本实施方式中，在车辆10中生成表示本车辆的状态的信息的日志时，关于该时刻在车辆10或者进而其周边节点(车辆或者路侧机)中是否发生了异常，在与该信息由车辆10取得的状况尽可能接近的时刻及场所(处的节点)中进行判定，将该判定结果向表示车辆10的状态的信息附加。所谓尽可能接近的时刻及场所，关于各车辆10的异常的判定在由各车辆10取得状态信息时由该车辆10的异常判定装置执行，是最接近的方式。关于周边节点的异常的判定由各周边节点执行，是最接近的方式，但其次接近的方式有由取得了状态信息的车辆10基于从周边节点接收的状态信息进行判定的方式。或者作为其次接近的方式，还有由取得了表示本车辆的状态的信息的车辆10取得由其他周边节点针对某周边节点执行的关于异常的判定的方式。无论在这些方式中的哪种方式中，与在日志被收集至异常监视服务器50之后再针对各记录进行异常判定相比，更准确的可能性或者可执行性自身更高，另外，能够抑制异常监视服务器50的负荷。
通过附加了这样的与异常相关的判定结果，在从表示车辆10的状态的信息的日志的记录选定以制作正常模型作为异常检测模型为目的的学习数据时，能够排除异常时的记录。通过使用这样的学习数据，能够得到更高品质的正常模型，有助于提高异常检测的精度。
另外，异常监视服务器50例如根据其监视服务的运营方式，可以考虑到仅收集特定的厂商、特定的车型或者特定的车载网络系统的车辆等一部分车辆的日志的情形。另外，还可以考虑到在异常监视服务器50与路侧机之间由于某种原因而未进行信息的授受的情形。在像这些情形下，如果遵循在V2X中利用的标准，实现了通信的标准及数据的格式的整合，则通过各车辆10在行驶中与周边节点进行通信来交换与异常相关的信息，也能够在异常监视服务器50中收集能够进行如上所述的选定的日志。
另外，也可以使用在本节点或者周边节点中发生了异常时的记录，进而执行有教师学习。通过使用并用有教师学习来制作的异常检测模型，有能够进行更高精度的异常判定的可能性，或者能够加快异常判定的精度提高的速度。
也就是说，在制作用于V2X网络的异常监视的异常检测模型中，通过使用不仅考虑各节点的信息还考虑与周边的节点的异常相关的信息来动态地选择的学习数据，能够得到可实现更高精度的异常检测的异常检测模型。结果，V2X网络的安全性提高，实现了汽车社会的安全和便利性的提高。
(变形例等)
以上，关于本发明所涉及的车载网络系统所具备的异常判定装置及制作异常检测模型的服务器等，基于实施方式如上所述地进行了说明，但本发明不限定于该说明。上述实施方式是本发明所涉及的技术的例示，本发明不限定于上述内容，也能够适用于适宜地进行了变更、置换、附加、省略等的实施方式。例如，如下的变形例也包含在本发明的一个实施方式中。
(1)图1所示的构成V2X网络1的各种节点的数量、连接方式等是用于说明本实施方式的例示，不限定本发明。另外，如上所述，本发明不是在构成V2X网络1的车辆10及路侧机30全部都分别具备如图3或者图7所示的构成的情况下才能实现。本节点或者节点间的相互的异常判定在普及之前需要时间。以上作为实施方式，关于在其过渡性的状况下执行各节点的异常判定及利用或者提供判定结果的信息的方式，举出了几个例子，但从这些例子能够容易想到的其他方式也包含在本发明的技术范围中。
(2)上述实施方式中示出的各种处理的次序(例如使用图9～图23B示出的次序等)的执行顺序并不一定要限制为如上所述的顺序，在不脱离发明的主旨的范围内，能够替换执行顺序，或者并列执行多个次序，或者省略其次序的一部分。
(3)另外，上述实施方式中示出的日志的数据构成(参照图4～图6)不严密地限定于图示的例子。例如这些各图所示的日志的各记录内的信息项目以任意的方法被建立对应皆可，不需要被包含在一个表或者列表中。另外，日志所包含的数据不限定于这些图所示的数据。在异常监视服务器50或者用于制作学习数据的服务器等、在本发明所涉及的技术中对该日志进行收集并利用的装置或者系统中，例如也可以还包含用于对各节点进行识别的ID、用于将各节点分至上述组的信息等。另外，在从各节点发送的数据中也可以包含这些信息。
(4)在上述实施方式中例示的日志(参照图4～图6)中，与车内或者周边节点的异常相关的判定的结果以异常和正常的二值被示出，但不限定于此。例如也可以使用以更多阶段表示异常发生的可能性的值、在有异常的情况下以更多阶段表示其严重度的值等。
(5)构成上述实施方式中的各装置的构成要素的一部分或者全部也可以由1个系统LSI(Large Scale Integration：大规模集成电路)构成。系统LSI是将多个构成部集成在1个芯片上来制造的超多功能LSI，具体而言，是包含微处理器、ROM、RAM等而构成的计算机系统。在该ROM中记录着计算机程序。通过微处理器按照计算机程序进行动作，系统LSI达成其功能。另外，构成上述各装置的构成要素的各部分既可以个别地作为单芯片，也可以以包含一部分或者全部的方式作为单芯片。另外，在此设为系统LSI，但根据集成度的差别，也有时称为IC、LSI、超级LSI、特级LSI。另外，形成集成电路的方法不限于LSI，也可以由专用电路或者通用处理器实现。也可以利用在制造LSI后能够编程的FPGA(Field ProgrammableGate Array)或者可重构LSI内部的电路单元的连接及设定的可重构处理器。进而，如果由于半导体技术的进步或者衍生的其他技术而出现了形成置换LSI的集成电路的技术，当然也可以使用该技术进行功能模块的集成。生物技术的适用等是有可能的。
(6)构成上述各装置的构成要素的一部分或者全部也可以由可针对各装置拆装的IC卡或者单体的模组构成。IC卡或者模组是由微处理器、ROM、RAM等构成的计算机系统。IC卡或者模组也可以设为包含上述超多功能LSI。通过微处理器按照计算机程序进行动作，IC卡或者模组达成其功能。该IC卡或者该模组也可以具有抗篡改性。
(7)作为本发明的一个方式，也可以是包含例如图9～图23B以及本说明书中与这些图关联的记载中包含的处理次序的全部或者一部分在内的方法。
例如，作为异常判定的方法，是由V2X网络1中的作为监视对象的节点所包含的异常判定装置125所具备的处理器执行的方法，包括：日志信息取得步骤(例如步骤S11)，取得日志信息，该日志信息包含时刻、以及该节点上的传感器数据或者控制数据中的至少一方所示的该时刻的该节点的状态信息；第一异常判定步骤(例如步骤S12)，执行与该时刻的该节点上的异常的发生相关的第一异常判定；第二异常判定步骤(例如步骤S14)，基于从周边节点取得的与周边节点的异常相关的周边节点信息，执行与上述时刻的周边节点上的异常的发生相关的第二异常判定，所述周边节点是V2X网络1中的作为监视对象的其他节点，而且是位于上述节点的周边的节点；异常信息附加步骤(例如步骤S18)，在第二异常判定的结果表示在周边节点上发生了异常的情况下，向上述日志信息附加表示在该周边节点上发生了异常的异常信息；以及日志信息发送步骤(例如步骤S19)，将附加了异常信息后的该日志信息向构成V2X网络1的至少一部分节点发送。
另外，例如作为异常检测模型的制作方法，是由服务器所具备的处理部执行的方法，包括：日志信息取得步骤(例如步骤S21)，取得由V2X网络1中的监视对象节点生成的日志信息；信息选定步骤，从该日志信息选定规定的信息；以及模型制作步骤(例如步骤S44)，将选定的规定的信息作为学习数据使用，执行用于制作供V2X网络1中对上述监视对象节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习。在此，在该异常检测模型的制作方法中，上述日志信息将时刻、监视对象节点上的传感器数据或者控制数据中的至少一方所示的该时刻的监视对象节点的状态信息、表示该时刻的监视对象节点上有无异常的第一异常信息、与表示该时刻位于监视对象节点的周边且与监视对象节点进行通信的第二节点上有无异常的第二异常信息建立对应地包含。在上述信息选定步骤中，基于第一异常信息及第二异常信息选定规定的信息。在此所谓规定的信息，例如是在作为正常模型的学习数据中使用的信息，另外例如是在用于有教师学习的学习数据中使用的信息。
(8)另外，作为本发明的一个方式，既可以是使计算机执行上述各方法所涉及的处理的计算机程序，也可以由该计算机程序构成的数字信号。
(9)另外，作为本发明的一个方式，也可以是将该计算机程序或者数字信号记录至计算机可读取的记录介质、例如软盘、硬盘、CD－ROM、MO、DVD、DVD－ROM、DVD－RAM、BD(Blu-ray(注册商标)盘)、半导体存储器等的方式。另外，也可以是这些记录介质中记录的数字信号。另外，作为本发明的一个方式，也可以是将计算机程序或者数字信号经由电气通信线路、无线或者有线通信线路、以互联网为代表的网络、数据广播等传送的方式。
(10)另外，作为本发明的一个方式，也可以是具备微处理器和存储器的计算机系统，存储器记录着上述计算机程序，微处理器依照计算机程序进行动作。另外，也可以通过将程序或者数字信号向记录介质记录并转送，或者将程序或者数字信号经由网络等转送，从而通过独立的其他计算机系统实施。
(11)将上述实施方式及上述变形例中示出的各构成要素及功能任意组合而实现的方式也包含在本发明的范围内。
工业实用性
本发明能够被利用于收集及选定用于通过机器学习制作在异常检测中使用的异常检测模型的学习数据。
附图标记说明：
1 V2X网络
10、10A、10B、10C 车辆
20 通信网络
30 路侧机
30A 信号灯
30B 车速计测机
31 数据接收部
33、1253 数据发送部
34、1254 积蓄部
35、1255 异常判定部
50 异常监视服务器
51、1251 数据接收部
52 学习数据选定部
53 学习部
54 积蓄部
55 异常判定部
100 车载网络系统
110 外部通信装置
120 网关
125 异常判定装置
130 信息系统网络
131、132、133、141、142、143 ECU
140 控制系统网络
1252 日志信息取得部

Claims (18)

1.一种异常判定装置，是V2X网络即车到万物网络中的作为监视对象的第一节点所包含的异常判定装置，且包含处理器，
所述处理器执行：
日志信息取得步骤，取得日志信息，所述日志信息包含：时刻、以及所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息；
第一异常判定步骤，执行与所述时刻的所述第一节点上的异常的发生相关的第一异常判定；
第二异常判定步骤，基于从第二节点取得的与所述第二节点的异常相关的第二节点信息，执行与所述时刻的所述第二节点上的异常的发生相关的第二异常判定，所述第二节点是所述V2X网络中的作为监视对象的其他节点，而且位于所述第一节点的周边；
异常信息附加步骤，在所述第二异常判定的结果表示所述第二节点上发生异常的情况下，向所述日志信息附加表示所述第二节点上发生异常的异常信息；以及
日志信息发送步骤，将被附加了所述异常信息后的所述日志信息，向构成所述V2X网络的至少一部分节点发送。
2.如权利要求1所述的异常判定装置，
第二节点信息包含：在所述第二节点中基于所述第二节点的传感器数据或者控制数据中的至少一方执行的与所述第二节点中有无异常发生相关的判定的结果，
所述第二异常判定通过取得所述第二节点信息所包含的所述结果而被执行。
3.如权利要求2所述的异常判定装置，
第二节点信息在包含所述第二节点中发生了异常的判定的结果的情况下，还包含与所述第二节点中发生的异常的种类相关的判定的结果。
4.如权利要求1所述的异常判定装置，
第二节点信息包含所述第二节点的传感器数据或者控制数据中的至少一方，
所述第二异常判定基于所述第二节点信息所包含的所述传感器数据或者控制数据中的至少一方而被执行。
5.如权利要求4所述的异常判定装置，
所述第二异常判定包含与发生的异常的种类相关的判定，所述异常信息还表示所述发生的异常的种类。
6.如权利要求1至5中的任一项所述的异常判定装置，
所述第一节点是具备能够与构成所述V2X网络的其他节点进行通信的车载网络系统的车辆。
7.如权利要求1至6中的任一项所述的异常判定装置，
所述第二节点是具备能够与构成所述V2X网络的其他节点进行通信的信息处理系统的路侧机、或者具备能够与构成所述V2X网络的其他节点进行通信的车载网络系统的车辆。
8.如权利要求1至7中的任一项所述的异常判定装置，
在所述日志信息发送步骤中发送的所述日志信息，被向使用所述日志信息制作异常检测模型的节点发送，该异常检测模型是所述V2X网络中的监视系统在异常检测中使用的异常检测模型。
9.一种程序，由V2X网络即车到万物网络中的作为监视对象的第一节点所包含的异常判定装置所包含的处理器执行，该程序通过由所述处理器执行，使所述异常判定装置执行：
日志信息取得步骤，取得日志信息，该日志信息包含：时刻、以及所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息；
第一异常判定步骤，执行与所述时刻的所述第一节点上的异常的发生相关的第一异常判定；
第二异常判定步骤，基于从第二节点取得的与所述第二节点的异常相关的第二节点信息，执行与所述时刻的所述第二节点上的异常的发生相关的第二异常判定，所述第二节点是所述V2X网络中的作为监视对象的其他节点，而且位于所述第一节点的周边；
异常信息附加步骤，在所述第二异常判定的结果表示所述第二节点上发生异常的情况下，向所述日志信息附加表示所述第二节点上发生异常的异常信息；以及
日志信息发送步骤，将被附加了所述异常信息后的所述日志信息，向构成所述V2X网络的至少一部分节点发送。
10.一种异常检测模型制作服务器，是具备处理部的服务器，
所述处理部执行：
日志信息取得步骤，取得由V2X网络即车到万物网络中的作为监视对象的第一节点生成的日志信息；
信息选定步骤，从取得的所述日志信息中选定规定的信息；以及
模型制作步骤，将选定的所述规定的信息作为学习数据使用，执行用于制作供所述V2X网络中对所述第一节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习，
所述日志信息将时刻、所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息、第一异常信息、与第二异常信息建立对应地包含，
所述第一异常信息表示所述时刻的所述第一节点上有无异常，
所述第二异常信息表示所述时刻的位于所述第一节点的周边且与所述第一节点进行通信的第二节点上有无异常，
在所述信息选定步骤中，基于所述第一异常信息及所述第二异常信息选定所述规定的信息。
11.如权利要求10所述的异常检测模型制作服务器，
在所述信息选定步骤中，将与表示没有异常的所述第一异常信息及表示没有异常的所述第二异常信息建立了对应的状态信息，选定为所述规定的信息，
在所述模型制作步骤中，将选定的所述规定的信息作为学习数据使用，制作正常模型作为所述异常检测模型。
12.如权利要求10所述的异常检测模型制作服务器，
在所述信息选定步骤中，将与表示有异常的所述第一异常信息及表示有异常的所述第二异常信息中的至少一方建立了对应的状态信息，选定为所述规定的信息，
在所述模型制作步骤中，将选定的所述规定的信息作为有教师学习数据使用，制作所述异常检测模型。
13.如权利要求12所述的异常检测模型制作服务器，
所述第一异常信息在所述第一节点上有异常的情况下还表示异常的种类，
在所述信息选定步骤中，汇集与表示相同的所述第一节点上的异常的种类的所述第一异常信息建立了对应的状态信息，并选定为所述规定的信息。
14.如权利要求12或13所述的异常检测模型制作服务器，
所述第二异常信息在所述第二节点上有异常的情况下还表示所述第二节点上的异常的种类，
在所述信息选定步骤中，汇集与表示相同的所述第二节点上的异常的种类的所述第二异常信息建立了对应的状态信息，并选定为所述规定的信息。
15.如权利要求10至14中的任一项所述的异常检测模型制作服务器，
所述处理部还执行：异常检测步骤，使用被制作的所述异常检测模型，针对从所述V2X网络中的监视对象发送的数据进行异常检测。
16.如权利要求10至15中的任一项所述的异常检测模型制作服务器，
所述第一节点是具备能够与构成所述V2X网络的其他节点进行通信的车载网络系统的车辆。
17.如权利要求10至16中的任一项所述的异常检测模型制作服务器，
所述第二节点是具备能够与构成所述V2X网络的其他节点进行通信的信息处理系统的路侧机、或者具备能够与构成所述V2X网络的其他节点进行通信的车载网络系统的车辆。
18.一种程序，由服务器所具备的处理部执行，该程序通过由所述处理部执行，使所述服务器执行：
日志信息取得步骤，取得由V2X网络即车到万物网络中的作为监视对象的第一节点生成的日志信息；
信息选定步骤，从取得的所述日志信息中选定规定的信息；以及
模型制作步骤，将选定的所述规定的信息作为学习数据使用，执行用于制作供所述V2X网络中对所述第一节点进行监视的监视节点在异常检测中使用的异常检测模型的机器学习，
所述日志信息将时刻、所述第一节点上的传感器数据或者控制数据中的至少一方所示的所述时刻的所述第一节点的状态信息、第一异常信息、与第二异常信息建立对应地包含，
所述第一异常信息表示所述时刻的所述第一节点上有无异常，
所述第二异常信息表示所述时刻的位于所述第一节点的周边且与所述第一节点进行通信的第二节点上有无异常，
在所述信息选定步骤中，基于所述第一异常信息及所述第二异常信息选定所述规定的信息。
CN201880051156.9A 2018-01-22 2018-11-07 服务器、程序记录介质及方法 Active CN111052093B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862620154P 2018-01-22 2018-01-22
US62/620154 2018-01-22
JP2018-110275 2018-06-08
JP2018110275A JP7118757B2 (ja) 2018-01-22 2018-06-08 サーバ、プログラム、及び、方法
PCT/JP2018/041277 WO2019142456A1 (ja) 2018-01-22 2018-11-07 異常判定装置、異常検知モデル作成サーバ及びプログラム

Publications (2)

Publication Number Publication Date
CN111052093A true CN111052093A (zh) 2020-04-21
CN111052093B CN111052093B (zh) 2024-08-02

Family

ID=67472348

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880051156.9A Active CN111052093B (zh) 2018-01-22 2018-11-07 服务器、程序记录介质及方法

Country Status (4)

Country Link
US (1) US20200334554A1 (zh)
EP (1) EP3745271B1 (zh)
JP (1) JP7118757B2 (zh)
CN (1) CN111052093B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111724615A (zh) * 2020-06-18 2020-09-29 北京百度网讯科技有限公司 用于控制车辆的方法、装置、设备以及存储介质

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10573146B1 (en) 2014-10-07 2020-02-25 State Farm Mutual Automobile Insurance Company Systems and methods for improved assisted or independent living environments
US11094180B1 (en) 2018-04-09 2021-08-17 State Farm Mutual Automobile Insurance Company Sensing peripheral heuristic evidence, reinforcement, and engagement system
US11354406B2 (en) * 2018-06-28 2022-06-07 Intel Corporation Physics-based approach for attack detection and localization in closed-loop controls for autonomous vehicles
CN109032116A (zh) * 2018-08-30 2018-12-18 百度在线网络技术（北京）有限公司 车辆故障处理方法、装置、设备及存储介质
EP3912326B1 (en) * 2019-01-14 2024-05-22 Nokia Technologies Oy Vehicle-to-vehicle and vehicle-to-network communication
JP6825754B1 (ja) * 2019-06-20 2021-02-03 住友電気工業株式会社 車載通信システム、スイッチ装置、機能部、通信制御方法および通信制御プログラム
JP7276514B2 (ja) * 2019-06-28 2023-05-18 オムロン株式会社 自動化システムを操作する方法および装置、自動化システム、およびコンピュータプログラム製品
US20210065054A1 (en) * 2019-09-03 2021-03-04 Koninklijke Philips N.V. Prioritizing tasks of domain experts for machine learning model training
JP7065356B2 (ja) * 2019-11-11 2022-05-12 パナソニックＩｐマネジメント株式会社 情報処理装置、情報処理方法、およびプログラム
JP7311402B2 (ja) * 2019-11-19 2023-07-19 エヌ・ティ・ティ・コミュニケーションズ株式会社 閾値出力装置、閾値出力方法および閾値出力プログラム
US11444980B2 (en) 2020-04-15 2022-09-13 T-Mobile Usa, Inc. On-demand wireless device centric security for a 5G wireless network
US11070982B1 (en) 2020-04-15 2021-07-20 T-Mobile Usa, Inc. Self-cleaning function for a network access node of a network
US11799878B2 (en) 2020-04-15 2023-10-24 T-Mobile Usa, Inc. On-demand software-defined security service orchestration for a 5G wireless network
US11824881B2 (en) 2020-04-15 2023-11-21 T-Mobile Usa, Inc. On-demand security layer for a 5G wireless network
US11206542B2 (en) * 2020-05-14 2021-12-21 T-Mobile Usa, Inc. 5G cybersecurity protection system using personalized signatures
US11057774B1 (en) 2020-05-14 2021-07-06 T-Mobile Usa, Inc. Intelligent GNODEB cybersecurity protection system
US11563503B2 (en) * 2020-09-15 2023-01-24 Ford Global Technologies, Llc Vehicle Wi-Fi access point detection and mitigation
KR102329889B1 (ko) * 2020-09-23 2021-11-23 펜타시큐리티시스템 주식회사 로드 사이드 유닛의 이상 감지 방법 및 장치
CN114283606A (zh) * 2020-09-27 2022-04-05 阿波罗智联(北京)科技有限公司 用于车辆导航的方法、装置、设备、系统和云控平台
US11877217B2 (en) * 2021-02-01 2024-01-16 Toyota Motor Engineering & Manufacturing North America, Inc. Message processing for wireless messages based on value of information
US11772659B2 (en) * 2021-05-13 2023-10-03 Ford Global Technologies, Llc Vehicular anomaly detection, reporting, and dynamic response
US20230100298A1 (en) * 2021-09-24 2023-03-30 Qualcomm Incorporated Detection of radio frequency signal transfer anomalies
KR102602602B1 (ko) * 2021-11-09 2023-11-16 고려대학교 산학협력단 V2x 환경에서 도로교통인프라를 이용한 공격 탐지 방법
JP2023112819A (ja) 2022-02-02 2023-08-15 株式会社オートネットワーク技術研究所 監視装置、車両監視システムおよび車両監視方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102202321A (zh) * 2010-03-25 2011-09-28 通用汽车环球科技运作有限责任公司 在车辆Ad hoc网络中的V2X连接的协作诊断与预测应用
CN103718546A (zh) * 2011-07-29 2014-04-09 松下电器产业株式会社 用于通过检测异常来改善站点运营的系统和方法
CN105976609A (zh) * 2015-11-06 2016-09-28 乐卡汽车智能科技（北京）有限公司 一种车辆数据处理系统及方法
US20170013005A1 (en) * 2015-06-29 2017-01-12 Argus Cyber Security Ltd. System and method for consistency based anomaly detection in an in-vehicle communication network
CA3023697A1 (en) * 2016-06-17 2017-12-21 Qualcomm Incorporated Methods and systems for context based anomaly monitoring
CN107533492A (zh) * 2015-04-03 2018-01-02 三菱电机大楼技术服务株式会社 中继装置和程序

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7839292B2 (en) * 2007-04-11 2010-11-23 Nec Laboratories America, Inc. Real-time driving danger level prediction
JP5331774B2 (ja) * 2010-10-22 2013-10-30 株式会社日立パワーソリューションズ 設備状態監視方法およびその装置並びに設備状態監視用プログラム
US9659250B2 (en) 2011-08-31 2017-05-23 Hitachi Power Solutions Co., Ltd. Facility state monitoring method and device for same
US10091218B2 (en) * 2012-01-23 2018-10-02 Hrl Laboratories, Llc System and method to detect attacks on mobile wireless networks based on network controllability analysis
WO2014061021A1 (en) * 2012-10-17 2014-04-24 Tower-Sec Ltd. A device for detection and prevention of an attack on a vehicle
KR20150070801A (ko) * 2013-12-17 2015-06-25 현대자동차주식회사 차량간 통신을 이용한 교통정보 전달방법
JP6398739B2 (ja) * 2015-01-19 2018-10-03 株式会社デンソー 車載機、車載機診断システム
US10708293B2 (en) * 2015-06-29 2020-07-07 Argus Cyber Security Ltd. System and method for time based anomaly detection in an in-vehicle communication network
JP6298021B2 (ja) * 2015-07-30 2018-03-20 トヨタ自動車株式会社 攻撃検知システムおよび攻撃検知方法
JP6423402B2 (ja) 2015-12-16 2018-11-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ セキュリティ処理方法及びサーバ
KR102464898B1 (ko) * 2016-01-05 2022-11-09 삼성전자주식회사 차량과 관련된 영상 정보를 공유하는 방법 및 장치
CN106650705B (zh) 2017-01-17 2020-04-24 深圳地平线机器人科技有限公司 区域标注方法、装置和电子设备
US10382466B2 (en) * 2017-03-03 2019-08-13 Hitachi, Ltd. Cooperative cloud-edge vehicle anomaly detection
US10332320B2 (en) * 2017-04-17 2019-06-25 Intel Corporation Autonomous vehicle advanced sensing and response
US11079241B2 (en) * 2017-12-29 2021-08-03 Intel Corporation Detection of GPS spoofing based on non-location data

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102202321A (zh) * 2010-03-25 2011-09-28 通用汽车环球科技运作有限责任公司 在车辆Ad hoc网络中的V2X连接的协作诊断与预测应用
CN103718546A (zh) * 2011-07-29 2014-04-09 松下电器产业株式会社 用于通过检测异常来改善站点运营的系统和方法
CN107533492A (zh) * 2015-04-03 2018-01-02 三菱电机大楼技术服务株式会社 中继装置和程序
US20170013005A1 (en) * 2015-06-29 2017-01-12 Argus Cyber Security Ltd. System and method for consistency based anomaly detection in an in-vehicle communication network
CN105976609A (zh) * 2015-11-06 2016-09-28 乐卡汽车智能科技（北京）有限公司 一种车辆数据处理系统及方法
CA3023697A1 (en) * 2016-06-17 2017-12-21 Qualcomm Incorporated Methods and systems for context based anomaly monitoring

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
章昭辉等: "大规模网络服务系统行为异常的敏捷感知方法", 计算机学报, no. 02, 15 February 2017 (2017-02-15), pages 505 - 519 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111724615A (zh) * 2020-06-18 2020-09-29 北京百度网讯科技有限公司 用于控制车辆的方法、装置、设备以及存储介质

Also Published As

Publication number Publication date
JP7118757B2 (ja) 2022-08-16
EP3745271A1 (en) 2020-12-02
EP3745271B1 (en) 2024-04-10
EP3745271A4 (en) 2021-04-14
US20200334554A1 (en) 2020-10-22
CN111052093B (zh) 2024-08-02
JP2019128934A (ja) 2019-08-01

Similar Documents

Publication Publication Date Title
CN111052093B (zh) 服务器、程序记录介质及方法
KR101974347B1 (ko) 차량 고장 진단 시스템 및 그 진단방법
CN107925600B (zh) 安全处理方法以及服务器
CN111052202A (zh) 用于基于相对定位的安全自主驾驶的系统和方法
CN110300686A (zh) 数据分析装置及程序
CN102157020B (zh) 车辆信息存储设备和车辆诊断系统
US11640728B2 (en) In-vehicle information device, vehicular server, server system, and information transmission method for in-vehicle information device
CN109076016B (zh) 非法通信检测基准决定方法、决定系统以及记录介质
CN109005678B (zh) 非法通信检测方法、非法通信检测系统以及记录介质
CN102202321A (zh) 在车辆Ad hoc网络中的V2X连接的协作诊断与预测应用
CN112367318A (zh) 安全处理方法以及计算机
EP3744582A1 (en) Data analysis device and program
WO2019127232A1 (en) System and method for determining vehicle speed
GB2585243A (en) Traffic event and road condition identification and classification
Wideberg et al. A smartphone application to extract safety and environmental related information from the OBD-II interface of a car
WO2012013228A1 (en) A method and a system for monitoring traffic of vehicles
WO2019142456A1 (ja) 異常判定装置、異常検知モデル作成サーバ及びプログラム
CN111815988A (zh) 一种为应急情况下控制车辆行驶路线的方法、系统
CN111739293A (zh) 一种数据融合方法及装置
KR20160062259A (ko) 차량 이상 상태를 관리하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록매체
KR102295427B1 (ko) OBD(On Board Diagnostics) 장치를 통해 수집된 데이터 기반의 차량 상태 감지방법 및 시스템
GB2590730A (en) Automatically tracking a trajectory of a vehicle
JP7467756B2 (ja) 異常検知システム、車載器、異常検知方法、及びプログラム
CN107300905B (zh) 移动体控制设备和移动体控制方法
KR20200113996A (ko) V2x 시스템 및 v2x 시스템의 정보 신뢰성 판단 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant