JP6702389B2 - 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置 - Google Patents

車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置 Download PDF

Info

Publication number
JP6702389B2
JP6702389B2 JP2018191214A JP2018191214A JP6702389B2 JP 6702389 B2 JP6702389 B2 JP 6702389B2 JP 2018191214 A JP2018191214 A JP 2018191214A JP 2018191214 A JP2018191214 A JP 2018191214A JP 6702389 B2 JP6702389 B2 JP 6702389B2
Authority
JP
Japan
Prior art keywords
input
output
parameter
layer
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018191214A
Other languages
English (en)
Other versions
JP2020060125A (ja
Inventor
俊洋 中村
俊洋 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2018191214A priority Critical patent/JP6702389B2/ja
Priority to US16/569,088 priority patent/US10864900B2/en
Priority to CN201910914722.0A priority patent/CN111022206B/zh
Priority to EP19201914.9A priority patent/EP3636904A3/en
Publication of JP2020060125A publication Critical patent/JP2020060125A/ja
Application granted granted Critical
Publication of JP6702389B2 publication Critical patent/JP6702389B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/30—Controlling fuel injection
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00—Conjoint control of vehicle sub-units of different type or different function
    • B60W10/04—Conjoint control of vehicle sub-units of different type or different function including control of propulsion units
    • B60W10/06—Conjoint control of vehicle sub-units of different type or different function including control of propulsion units including control of combustion engines
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D13/00—Controlling the engine output power by varying inlet or exhaust valve operating characteristics, e.g. timing
    • F02D13/02—Controlling the engine output power by varying inlet or exhaust valve operating characteristics, e.g. timing during engine operation
    • F02D13/0223—Variable control of the intake valves only
    • F02D13/0234—Variable control of the intake valves only changing the valve timing only
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/0025—Controlling engines characterised by use of non-liquid fuels, pluralities of fuels, or non-fuel substances added to the combustible mixtures
    • F02D41/0047—Controlling exhaust gas recirculation [EGR]
    • F02D41/0077—Control of the EGR valve or actuator, e.g. duty cycle, closed loop control of position
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/02—Circuit arrangements for generating control signals
    • F02D41/14—Introducing closed-loop corrections
    • F02D41/1401—Introducing closed-loop corrections characterised by the control or regulation method
    • F02D41/1405—Neural network control
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/24—Electrical control of supply of combustible mixture or its constituents characterised by the use of digital means
    • F02D41/2406—Electrical control of supply of combustible mixture or its constituents characterised by the use of digital means using essentially read only memories
    • F02D41/2425—Particular ways of programming the data
    • F02D41/2429—Methods of calibrating or learning
    • F02D41/2477—Methods of calibrating or learning characterised by the method used for learning
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/24—Electrical control of supply of combustible mixture or its constituents characterised by the use of digital means
    • F02D41/26—Electrical control of supply of combustible mixture or its constituents characterised by the use of digital means using computer, e.g. microprocessor
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/30—Controlling fuel injection
    • F02D41/38—Controlling fuel injection of the high pressure type
    • F02D41/40—Controlling fuel injection of the high pressure type with means for controlling injection timing or duration
    • F02D41/402—Multiple injections
    • F02D41/403—Multiple injections with pilot injections
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2510/00—Input parameters relating to a particular sub-units
    • B60W2510/06—Combustion engines, Gas turbines
    • B60W2510/0638—Engine speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2510/00—Input parameters relating to a particular sub-units
    • B60W2510/06—Combustion engines, Gas turbines
    • B60W2510/0676—Engine temperature
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00—Output or target parameters relating to a particular sub-units
    • B60W2710/06—Combustion engines, Gas turbines
    • B60W2710/0688—Engine temperature
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D2200/00—Input parameters for engine control
    • F02D2200/02—Input parameters for engine control the parameters being related to the engine
    • F02D2200/025—Engine noise, e.g. determined by using an acoustic sensor
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D35/00—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for
    • F02D35/02—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for on interior conditions
    • F02D35/023—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for on interior conditions by determining the cylinder pressure
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D35/00—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for
    • F02D35/02—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for on interior conditions
    • F02D35/023—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for on interior conditions by determining the cylinder pressure
    • F02D35/024—Controlling engines, dependent on conditions exterior or interior to engines, not otherwise provided for on interior conditions by determining the cylinder pressure using an estimation
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/02—Circuit arrangements for generating control signals
    • F02D41/14—Introducing closed-loop corrections
    • F02D41/1438—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor
    • F02D41/1444—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases
    • F02D41/146—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases the characteristics being an NOx content or concentration
    • F02D41/1461—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases the characteristics being an NOx content or concentration of the exhaust gases emitted by the engine
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/02—Circuit arrangements for generating control signals
    • F02D41/14—Introducing closed-loop corrections
    • F02D41/1438—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor
    • F02D41/1444—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases
    • F02D41/1466—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases the characteristics being a soot concentration or content
    • F02D41/1467—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases the characteristics being a soot concentration or content with determination means using an estimation
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/30—Controlling fuel injection
    • F02D41/38—Controlling fuel injection of the high pressure type
    • F02D41/40—Controlling fuel injection of the high pressure type with means for controlling injection timing or duration
    • F02D41/402—Multiple injections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Combined Controls Of Internal Combustion Engines (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)

Description

本発明は、車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置に関する。
従来、入力層、中間層（隠れ層）及び出力層を含むニューラルネットワークを用いて所定の入力パラメータから所定の出力パラメータを導出することが知られている（例えば、特許文献１）。
特開２０１１−５４２００号公報
特許文献１に記載のニューラルネットワークでは、入力層の各ノードが一つの中間層の各ノードに並列的に結合されている。このようなニューラルネットワークでは、入力パラメータの時系列的な変化がニューラルネットワークのモデルに表現されていないため、時系列に発生する事象に対する予測精度が低下する。
そこで、本発明の目的は、ニューラルネットワークを用いて、時系列的に発生する事象を精度良く予測することにある。
本開示の要旨は以下のとおりである。
（１）ニューラルネットワークを用いた学習済みモデルを用いて車両の出力パラメータを算出する演算部と、前記演算部によって算出された前記出力パラメータに基づいて、前記車両に搭載された車両用駆動装置を制御する制御部とを備え、前記ニューラルネットワークは、第１の時点における前記車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、車両用駆動装置の制御装置。
（２）前記第２入力パラメータの数は前記第１入力パラメータの数よりも少ない、上記（１）に記載の車両用駆動装置の制御装置。
（３）前記第２入力パラメータは前記第１入力パラメータの一部である、上記（２）に記載の車両用駆動装置の制御装置。
（４）前記ニューラルネットワークは、前記第１隠れ層の出力が前記第２隠れ層に入力されるように構成される、上記（１）から（３）のいずれか１つに記載の車両用駆動装置の制御装置。
（５）前記ニューラルネットワークは、前記第１隠れ層と前記第２隠れ層との間に少なくとも一つの隠れ層を含む、上記（１）から（３）のいずれか１つに記載の車両用駆動装置の制御装置。
（６）前記ニューラルネットワークは、前記第２隠れ層の出力が前記出力層に入力されるように構成される、上記（１）から（５）のいずれか１つに記載の車両用駆動装置の制御装置。
（７）前記ニューラルネットワークは、前記第２隠れ層と前記出力層との間に少なくとも一つの隠れ層を含む、上記（１）から（５）のいずれか１つに記載の車両用駆動装置の制御装置。
（８）前記制御部は、前記車両に搭載された内燃機関を制御し、前記第１入力パラメータは、機関回転数、機関水温、吸気マニホルド内の吸気中の酸素濃度、筒内吸気量、筒内容積、筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧の少なくとも一つを含み、前記第２入力パラメータは、燃料噴射量、燃料噴射時期及び燃料噴射圧の少なくとも一つを含み、前記出力パラメータは、燃焼音の音圧、機関本体から排出される有害物質の濃度及び前記内燃機関の熱効率の少なくとも一つを含む、上記（１）から（７）のいずれか１つに記載の車両用駆動装置の制御装置。
（９）前記第１入力パラメータは筒内圧及び筒内温度を含み、前記第２入力パラメータは筒内圧及び筒内温度を含まない、上記（８）に記載の車両用駆動装置の制御装置。
（１０）ニューラルネットワークを用いた学習済みモデルを車両に設けられた通信装置を介して前記車両の外部のサーバから受信すると共に、該学習済みモデルを用いて前記車両の出力パラメータを算出する演算部を備える車載電子制御ユニットであって、前記ニューラルネットワークは、第１の時点における前記車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、前記サーバは、前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを含む訓練データセットを記憶する記憶装置を備え、該訓練データセットを用いて前記学習済みモデルを生成する、車載電子制御ユニット。
（１１）第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを取得すると共に、前記車両に設けられた通信装置を介して前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを前記車両の外部のサーバに送信するパラメータ取得部と、ニューラルネットワークを用いた学習済みモデルを前記サーバから前記通信装置を介して受信すると共に、該学習済みモデルを用いて前記出力パラメータを算出する演算部とを備える車載電子制御ユニットであって、前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、前記サーバは、前記パラメータ取得部によって取得された前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記学習済みモデルを生成する、車載電子制御ユニット。
（１２）第１の時点における車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記車両の出力パラメータを出力する出力層とを含むニューラルネットワークを用いた学習済みモデルであって、前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記ニューラルネットワークの重みが学習された、学習済みモデル。
（１３）車両に設けられた電子制御ユニットと、前記車両に設けられた通信装置と、前記車両の外部のサーバとを備えた機械学習システムであって、前記電子制御ユニットは、第１の時点における前記車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを取得すると共に、前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを前記通信装置を介して前記サーバに送信する、パラメータ取得部と、ニューラルネットワークを用いた学習済みモデルを前記サーバから前記通信装置を介して受信すると共に、該学習済みモデルを用いて前記出力パラメータを算出する演算部とを備え、前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、前記サーバは、前記パラメータ取得部によって取得された前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記学習済みモデルを生成する、機械学習システム。
（１４）第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータとを取得することと、ニューラルネットワークを用いた学習済みモデルを用いて、前記第１入力パラメータ及び前記第２入力パラメータに基づいて前記車両の出力パラメータを算出することと、前記出力パラメータに基づいて、前記車両に搭載された車両用駆動装置を制御することとを含み、前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、車両用駆動装置の制御方法。
（１５）第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを訓練データセットとして用いて、ニューラルネットワークを用いた学習済みモデルを生成することと、前記学習済みモデルを電子制御ユニットに実装することとを含み、前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、電子制御ユニットの製造方法。
（１６）第１の時点における第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、出力パラメータを出力する出力層とを含むニューラルネットワークを用いた学習済みモデルを用いて、前記第１入力パラメータ及び前記第２入力パラメータに基づいて前記出力パラメータを算出するように構成された、出力パラメータ算出装置。
本発明によれば、ニューラルネットワークを用いて、時系列的に発生する事象を精度良く予測することができる。
図１は、第一実施形態に係る車両用駆動装置の制御装置が用いられる内燃機関を概略的に示す図である。 図２は、第一実施形態におけるＥＣＵのプロセッサの機能ブロック図である。 図３は、単純な構成を有するニューラルネットワークの一例を示す。 図４は、時系列的に発生する事象の一例を示す図である。 図５は、演算部において用いられるニューラルネットワークの一例を示す図である。 図６は、ニューラルネットワークの自由度と出力パラメータの決定係数との関係を示す図である。 図７は、演算部において用いられるニューラルネットワークの別の例を示す図である。 図８は、演算部において用いられるニューラルネットワークの適用例を示す図である。 図９は、第一実施形態における車両用駆動装置の制御の制御ルーチンを示すフローチャートである。 図１０は、第二実施形態に係る機械学習システムを概略的に示す図である。 図１１は、第三実施形態に係る機械学習システムが適用される車両に設けられた内燃機関を概略的に示す図である。 図１２は、第三実施形態におけるＥＣＵのプロセッサの機能ブロック図である。 図１３は、第四実施形態におけるＥＣＵのプロセッサの機能ブロック図である。
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下の説明では、同様な構成要素には同一の参照番号を付す。
＜第一実施形態＞
最初に、図１〜図９を参照して、本発明の第一実施形態について説明する。
＜内燃機関全体の説明＞
図１は、第一実施形態に係る車両用駆動装置の制御装置が用いられる内燃機関を概略的に示す図である。図１に示される内燃機関１は、圧縮自着火式内燃機関（ディーゼルエンジン）であり、車両に搭載される。内燃機関１は車両用駆動装置の一例である。
内燃機関１は、機関本体１０、燃料供給装置２０、吸気系３０、排気系４０及び排気ガス再循環（ＥＧＲ）システム５０を備える。機関本体１０は、複数の気筒１１が形成されたシリンダブロックと、吸気ポート及び排気ポートが形成されたシリンダヘッドと、クランクケースとを備える。本実施形態では、気筒１１の数は４つである。各気筒１１内にはピストンが配置されると共に、各気筒１１は吸気ポート及び排気ポートに連通している。また、シリンダヘッドには、吸気ポートを開閉するように構成された吸気弁と、排気ポートを開閉するように構成された排気弁とが設けられている。
燃料供給装置２０は、燃料噴射弁２１、コモンレール２２、燃料供給管２３、燃料ポンプ２４及び燃料タンク２５を備える。燃料噴射弁２１は、コモンレール２２及び燃料供給管２３を介して燃料タンク２５に連結されている。燃料噴射弁２１は、各気筒１１の燃焼室内に燃料を直接噴射するようにシリンダヘッドに配置されている。燃料噴射弁２１はいわゆる筒内噴射弁である。燃料供給管２３には、燃料タンク２５内の燃料を圧送する燃料ポンプ２４が配置される。燃料ポンプ２４によって圧送された燃料は、燃料供給管２３を介してコモンレール２２に供給され、燃料噴射弁２１から各気筒１１の燃焼室内に直接噴射される。コモンレール２２内の燃料の圧力は燃料ポンプ２４の出力を変更することによって調整される。
吸気系３０は、吸気ポート、吸気マニホルド３１、吸気管３２、エアクリーナ３３、ターボチャージャ５のコンプレッサ３４、インタークーラ３５及びスロットル弁３６を備える。吸気ポート、吸気マニホルド３１及び吸気管３２は、空気を気筒１１内に導く吸気通路を形成する。
各気筒１１の吸気ポートは吸気マニホルド３１及び吸気管３２を介してエアクリーナ３３に連通している。吸気管３２内には、吸気管３２内を流通する吸入空気を圧縮して吐出するコンプレッサ３４と、コンプレッサ３４によって圧縮された空気を冷却するインタークーラ３５とが設けられている。スロットル弁３６は、スロットル弁駆動アクチュエータ３７によって回動せしめられることで、吸気通路の開口面積を変更することができる。
排気系４０は、排気ポート、排気マニホルド４１、排気管４２、ターボチャージャ５のタービン４３及びディーゼルパティキュレートフィルタ（ＤＰＦ）４４を備える。排気ポート、排気マニホルド４１及び排気管４２は、燃焼室における混合気の燃焼によって生じた排気ガスを排出する排気通路を形成する。
各気筒１１の排気ポートは、排気マニホルド４１及び排気管４２を介してＤＰＦ４４に連通している。排気管４２には、排気ガスのエネルギによって回転駆動せしめられるタービン４３が設けられている。タービン４３が回転駆動せしめられると、これに伴ってコンプレッサ３４が回転し、よって吸入空気が圧縮される。本実施形態では、タービン４３には可変ノズルが設けられている。可変ノズルの開度が変更されると、タービン４３のタービンブレードに供給される排気ガスの流速が変化し、この結果、タービン４３の回転速度が変化する。
ＤＰＦ４４は排気ガス中の粒子状物質（ＰＭ）を捕集する。なお、排気系４０はＤＰＦ４４の代わりに又はＤＰＦ４４に加えて他の排気浄化装置を備えていてもよい。他の排気浄化装置は、例えば、選択還元型ＮＯｘ低減触媒（ＳＣＲ触媒）、ＮＯｘ吸蔵還元触媒、酸化触媒等である。
ＥＧＲシステム５０は、機関本体１０から排気通路に排出された排気ガスの一部を吸気通路に供給する。ＥＧＲシステム５０は、ＥＧＲ管５１と、ＥＧＲ制御弁５２と、ＥＧＲクーラ５３とを備える。ＥＧＲ管５１は、排気マニホルド４１と吸気マニホルド３１とに連結され、これらを互いに連通させる。ＥＧＲ管５１には、ＥＧＲ管５１内を流れるＥＧＲガスを冷却するＥＧＲクーラ５３が設けられている。また、ＥＧＲ管５１には、ＥＧＲ管５１によって形成されるＥＧＲ通路の開口面積を変更することができるＥＧＲ制御弁５２が設けられている。ＥＧＲ制御弁５２の開度を制御することによって、排気マニホルド４１から吸気マニホルド３１へ還流されるＥＧＲガスの流量が調整され、その結果、ＥＧＲ率が変化する。なお、ＥＧＲ率は、気筒１１内に供給される全ガス量（新気量とＥＧＲガス量との合計）に対するＥＧＲガス量の割合である。
なお、内燃機関１の構成は上記構成に限定されない。したがって、気筒配列、燃料の噴射態様、吸排気系の構成、動弁機構の構成、過給機の構成及び過給機の有無のような内燃機関の具体的な構成は、図１に示した構成と異なっていてもよい。
＜車両用駆動装置の制御装置＞
車両用駆動装置（本実施形態では内燃機関１）の制御装置６０は電子制御ユニット（ＥＣＵ）６１及び各種センサを備える。内燃機関１の各種制御は各種センサの出力等に基づいてＥＣＵ６１によって実行される。
ＥＣＵ６１は、デジタルコンピュータから構成され、双方向性バス６２を介して相互に接続されたメモリ６３、プロセッサ６５、入力ポート６６及び出力ポート６７を備える。メモリ６３は、揮発性メモリ（例えば、ＲＡＭ）及び不揮発性メモリ（例えば、ＲＯＭ）を備え、プロセッサ６５において実行されるプログラム、プロセッサ６５によって各種処理が実行されるときに使用される各種データ等を記憶する。
入力ポート６６には、各種センサの出力が入力される。本実施形態では、エアフロメータ７１、水温センサ７２、酸素濃度センサ７３、吸気温センサ８０、燃圧センサ７４及び負荷センサ７８の出力が、対応するＡＤ変換器６８を介して、入力ポート６６に入力される。
エアフロメータ７１は、エアクリーナ３３とコンプレッサ３４との間の吸気管３２に配置され、吸気管３２内の空気の流量を検出する。水温センサ７２は、内燃機関１の冷却水路に配置され、内燃機関１の冷却水の水温（機関水温）を検出する。酸素濃度センサ７３は、吸気マニホルド３１に配置され、吸気マニホルド３１内の吸気（本実施形態では新気及びＥＧＲガス）中の酸素濃度を検出する。吸気温センサ８０は、吸気マニホルド３１に配置され、吸気マニホルド３１内の吸気の温度を検出する。
燃圧センサ７４は、コモンレール２２に配置され、コモンレール２２内の燃料の圧力、すなわち燃料噴射弁２１へ供給される燃料の圧力を検出する。負荷センサ７８は、車両に設けられたアクセルペダル７７に接続され、アクセルペダル７７の踏み込み量に比例した出力電圧を発生する。負荷センサ７８は機関負荷を検出する。また、入力ポート６６には、クランクシャフトが例えば１０°回転する毎に出力パルスを発生するクランク角センサ７９が接続され、この出力パルスが入力ポート６６に入力される。クランク角センサ７９は機関回転数を検出する。
一方、出力ポート６７は、対応する駆動回路６９を介して、内燃機関１の各種アクチュエータに接続される。本実施形態では、出力ポート６７は、タービン４３の可変ノズル、燃料噴射弁２１、燃料ポンプ２４、スロットル弁駆動アクチュエータ３７及びＥＧＲ制御弁５２に接続されている。ＥＣＵ６１は、これらアクチュエータを制御する制御信号を出力ポート６７から出力することによって内燃機関１を制御する。
図２は、第一実施形態におけるＥＣＵ６１のプロセッサ６５の機能ブロック図である。本実施形態では、プロセッサ６５は演算部８１及び制御部８２を有する。演算部８１は、ニューラルネットワークを用いた学習済みモデルを用いて車両の出力パラメータを算出する。制御部８２は、演算部８１によって算出された車両の出力パラメータに基づいて車両用駆動装置を制御する。
＜ニューラルネットワークの概要＞
最初に、図３を参照して、ニューラルネットワークの概要について説明する。図３は、単純な構成を有するニューラルネットワークの一例を示す。
図３における丸印は人工ニューロンを表す。人工ニューロンは、通常、ノード又はユニットと称される（本明細書では、「ノード」と称す）。図３において、Ｌ＝１は入力層を示し、Ｌ＝２及びＬ＝３は隠れ層を示し、Ｌ＝４は出力層を示している。なお、隠れ層は中間層とも称される。
図３において、ｘ1及びｘ2は入力層（Ｌ＝１）の各ノード及びそのノードからの出力値を示しており、ｙは出力層（Ｌ＝４）のノード及びその出力値を示している。同様に、ｚ1 (L=2) 、ｚ2 (L=2)及びｚ3 (L=2)は隠れ層（Ｌ＝２）の各ノード及びそのノードからの出力値を示しており、ｚ1 (L=3)及びｚ2 (L=3)は隠れ層（Ｌ＝３）の各ノード及びそのノードからの出力値を示している。
入力層の各ノードでは入力がそのまま出力される。一方、隠れ層（Ｌ＝２）の各ノードには、入力層の各ノードの出力値ｘ1及びｘ2が入力され、隠れ層（Ｌ＝２）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕが算出される。例えば、図３において隠れ層（Ｌ＝２）のｚk (L=2)（ｋ＝１、２、３）で示される各ノードにおいて算出される総入力値ｕk (L=2)は、次式のようになる（Ｍは入力層のノードの数）。
Figure 0006702389
 次いで、この総入力値ｕk (L=2)は活性化関数ｆにより変換され、隠れ層（Ｌ＝２）のｚk (L=2)で示されるノードから、出力値ｚk (L=2)（＝ｆ（ｕk (L=2)））として出力される。一方、隠れ層（Ｌ＝３）の各ノードには、隠れ層（Ｌ＝２）の各ノードの出力値ｚ1 (L=2) 、ｚ2 (L=2)及びｚ3 (L=2)が入力され、隠れ層（Ｌ＝３）の各ノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（＝Σｚ・ｗ＋ｂ）が算出される。この総入力値ｕは同様に活性化関数により変換され、隠れ層（Ｌ＝３）の各ノードから、出力値ｚ1 (L=3)、ｚ2 (L=3)として出力される、活性化関数は例えばシグモイド関数σである。
また、出力層（Ｌ＝４）のノードには、隠れ層（Ｌ＝３）の各ノードの出力値ｚ1 (L=3)及びｚ2 (L=3)が入力され、出力層のノードでは、それぞれ対応する重みｗ及びバイアスｂを用いて総入力値ｕ（Σｚ・ｗ＋ｂ）が算出され、又はそれぞれ対応する重みｗのみを用いて総入力値ｕ（Σｚ・ｗ）が算出される。例えば、出力層のノードでは活性化関数として恒等関数が用いられる。この場合、出力層のノードにおいて算出された総入力値ｕが、そのまま出力値ｙとして出力層のノードから出力される。
＜ニューラルネットワークにおける学習＞
本実施形態では、誤差逆伝播法を用いて、ニューラルネットワーク内における各重みｗの値及び各バイアスｂの値が学習される。誤差逆伝播法は周知であるため、誤差逆伝播法の概要について、以下に簡単に説明する。なお、バイアスｂは重みｗの一種なので、以下の説明では、バイアスｂは重みｗの一つとされている。
図３に示したようなニューラルネットワークにおいて、Ｌ＝２、Ｌ＝３又はＬ＝４の各層のノードへの総入力値ｕ(L)における重みをｗ(L)で表すと、誤差関数Ｅの重みｗ(L)による微分、すなわち、勾配∂Ｅ／∂ｗ(L)は次式に書き換えられる。
Figure 0006702389
 ここで、ｚ(L-1)・∂ｗ(L)＝∂ｕ(L)であり、（∂Ｅ／∂ｕ(L)）＝δ(L)とすると、上記（１）式は次式に変換される。
Figure 0006702389
ここで、ｕ(L)が変動すると、次の層の総入力値ｕ(L+1)の変化を通じて誤差関数Ｅの変動を引き起こすので、δ(L)を次式で表すことができる（ＫはＬ＋１層におけるノードの数）。
Figure 0006702389
 ここで、z(L)＝ｆ(u(L))と表すと、上記（３）式の右辺の総入力値ｕk (L+1)は次式で表される。
Figure 0006702389
 ここで、上記（３）式の右辺第１項（∂Ｅ／∂ｕ(L+1)）はδ(L+1)である。また、上記（３）式の右辺第２項（∂uk (L+1)／∂u(L)）は次式で表される。
Figure 0006702389
 したがって、δ(L)は、次式で表される。
Figure 0006702389
 すなわち、δ(L+1)が求まると、δ(L)を求めることができることになる。
ニューラルネットワークの学習が行われる場合、或る入力値ｘ及びその入力値ｘに対する出力の正解データｙtを含む訓練データセットが用いられる。或る入力値ｘに対する出力層からの出力値がｙであった場合、誤差関数として二乗誤差が用いられている場合には、誤差関数Ｅは、Ｅ＝１／２(ｙ−ｙt)2となる。また、図３の出力層（Ｌ＝４）のノードでは、出力値ｙ＝ｆ(u(L))となる。このため、出力層（Ｌ＝４）のノードにおけるδ(L)の値は、次式で示されるようになる。
Figure 0006702389
 ここで、出力層の活性化関数ｆ(u(L))が恒等関数である場合、ｆ’(u(L))＝１となる。したがって、δ(L)＝ｙ−ｙtとなり、δ(L)が求まる。
δ(L)が求まると、上式（６）を用いて前層のδ(L-1)が求まる。このようにして順次、前層のδが求められ、これらδの値を用いて、上式（２）から、各重みｗについて誤差関数Ｅの微分、すなわち、勾配∂Ｅ／∂ｗ(L)か求められる。勾配∂Ｅ／∂ｗ(L)か求められると、この勾配∂Ｅ／∂ｗ(L)を用いて、誤差関数Ｅの値が減少するように、重みｗの値が更新される。すなわち、重みｗの学習が行われることになる。
＜本実施形態におけるニューラルネットワーク＞
以下、本実施形態の演算部８１において用いられるニューラルネットワークについて説明する。本実施形態では、演算部８１において用いられるニューラルネットワークは、時系列に発生する事象をモデリングする。
図４は、時系列的に発生する事象の一例を示す図である。図４において、Ｐ、Ｑ及びＹは、それぞれ、時系列的に変化する車両の所定のパラメータを示している。パラメータＹはパラメータＰ及びＱの影響を受ける。具体的には、時刻ｔ２におけるパラメータＹ2は、時刻ｔ２よりも前の時刻ｔ１におけるパラメータＰ1及びＱ1の影響を受ける。したがって、時刻ｔ２におけるパラメータＹ2は時刻ｔ１におけるパラメータＰ1及びＱ1の関数（ｆ（Ｐ1, Ｑ1）として表される。また、時刻ｔ３におけるパラメータＹ3は、時刻ｔ３よりも前の時刻ｔ２におけるパラメータＰ2及びＱ2の影響を受ける。したがって、時刻ｔ３におけるパラメータＹ3は時刻ｔ２におけるパラメータＰ2及びＱ2の関数（ｇ（Ｐ2, Ｑ2）として表される。
このため、ニューラルネットワークを用いてパラメータＹ3を予測する場合、パラメータＰ2及びＱ2を入力パラメータとし、パラメータＹ3を出力パラメータとすることが考えられる。しかしながら、図４の例では、パラメータＰ2が観測不可能であるため、パラメータＰ2を入力パラメータとすることができない。
この場合、観測可能なパラメータＰ1、Ｑ1及びＱ2を入力パラメータとし、各入力パラメータを入力層に入力することが考えられる。例えば、入力パラメータＰ1、Ｑ1及びＱ2が、図３に示されるような入力層（Ｌ＝１）の各ノード（この場合、ノード数は３となる）に入力される。しかしながら、この場合、入力パラメータＰ1、Ｑ1及びＱ2の時系列的な変化と出力パラメータＹ3との関係がニューラルネットワークのモデルに表現されない。この結果、出力パラメータＹ3の予測精度が低下する。
そこで、本実施形態では、入力パラメータＰ1、Ｑ1及びＱ2から出力パラメータＹ3が生成される過程が表現されるようにニューラルネットワークが構成される。図５は、演算部８１において用いられるニューラルネットワークの一例を示す図である。
図５に示されるように、ニューラルネットワークは、第１の時点における車両の第１入力パラメータが入力される第１入力層と、第１の時点よりも後の第２の時点における車両の第２入力パラメータが入力される第２入力層とを含む。したがって、ニューラルネットワークは複数の入力層を含む。各入力層には、同一時点の入力パラメータが入力される。
図５の例では、第１の時点における車両の第１入力パラメータとして、図４の時刻ｔ１におけるパラメータＰ1及びＱ1が用いられる。このため、第１入力パラメータの数が二つであり、第１入力層のノードの数は二つである。また、図５の例では、第２の時点における車両の第２入力パラメータとして、図４の時刻ｔ２におけるパラメータＱ2が用いられる。このため、第２入力パラメータの数が一つであり、第２入力層のノードの数は一つである。各入力層のノードの数は、各入力層に入力される入力パラメータの数と等しい。
図５の例では、時刻ｔ２におけるパラメータＰ2が観測不可能であるため、第２入力パラメータの数が第１入力パラメータの数よりも少ない。また、図５の例では、第１入力パラメータ及び第２入力パラメータとして共通のパラメータ（パラメータＱ）が用いられ、第２入力パラメータは第１入力パラメータの一部である。
また、ニューラルネットワークは第１隠れ層及び第２隠れ層を含む。すなわち、ニューラルネットワークは複数の隠れ層を含む。図５の例では、第１隠れ層及び第２隠れ層のノードの数はそれぞれ４つである。すなわち、第１隠れ層及び第２隠れ層のノードの数は等しい。また、図５の例では、入力層及び隠れ層の数が等しい。
第１入力層は第１隠れ層に結合される。具体的には、第１入力層のノードは、それぞれ、第１隠れ層の全てのノードに結合される。このため、第１隠れ層には、第１入力層の出力が入力される。具体的には、第１隠れ層のノードには、それぞれ、第１入力層の全てのノードの出力が入力される。
第２入力層は第２隠れ層に結合される。具体的には、第２入力層のノードは第２隠れ層の全てのノードに結合される。このため、第２隠れ層には、第２入力層の出力が入力される。具体的には、第２隠れ層のノードには、それぞれ、第２入力層の全てのノードの出力が入力される。
また、第２隠れ層には、第１隠れ層の出力と相関する値も入力される。第１隠れ層の出力と相関する値には、第１隠れ層の出力と、ニューラルネットワークが第１隠れ層と第２隠れ層との間に他の隠れ層が含まれる場合に他の隠れ層によって変換された第１隠れ層の出力とが含まれる。図５の例では、第１隠れ層は第２隠れ層に結合される。具体的には、第１隠れ層のノードは、それぞれ、第２隠れ層の全てのノードに結合される。このため、第２隠れ層には、第１隠れ層の出力が入力される。具体的には、第２隠れ層のノードには、それぞれ、第１隠れ層の全てのノードの出力が入力される。
また、ニューラルネットワークは、車両の出力パラメータを出力する出力層を含む。出力層は、第１隠れ層の出力及び第２隠れ層の出力に基づいて、第２の時点よりも後の第３の時点における出力パラメータを出力する。このように、本実施形態におけるニューラルネットワークでは、相対的に前の時点における入力パラメータに基づいて、相対的に後の時点における出力パラメータが出力される。図５の例では、第３の時点における車両の出力パラメータとして、図４の時刻ｔ３におけるパラメータＹ3が用いられる。この場合、出力層のノードの数は一つである。出力層のノードの数は、出力層から出力される出力パラメータの数と等しい。
出力層には、第２隠れ層の出力と相関する値が入力される。第２隠れ層の出力と相関する値には、第２隠れ層の出力と、第２隠れ層と出力層との間に他の隠れ層が含まれる場合に他の隠れ層によって変換された第２隠れ層の出力とが含まれる。図５の例では、第２隠れ層は出力層に結合される。具体的には、第２隠れ層のノードは、それぞれ、出力層の全てのノードに結合される。このため、出力層には、第２隠れ層の出力が入力される。具体的には、出力層のノードには、それぞれ、第２隠れ層の全てのノードの出力が入力される。
また、図５に示されるように、ニューラルネットワークは、第１入力層が結合された第１隠れ層が、第２入力層が結合された第２隠れ層よりも出力層から遠くなるように構成される。言い換えれば、ニューラルネットワークは、第１入力層が結合された第１隠れ層が、第２入力層が結合された第２隠れ層よりも浅い層になるように構成される。したがって、本実施形態では、ニューラルネットワークは、相対的に前の時点における入力パラメータが入力される隠れ層が、相対的に後の時点における入力パラメータが出力される隠れ層よりも、全ての入力パラメータよりも後の時点における出力パラメータを出力する出力層から遠くなるように構成される。上記のような構成により、ニューラルネットワークを用いて、時系列的に発生する事象を精度良く予測することができる。
また、図５の例では、第１入力パラメータＰ1及びＱ1を第１隠れ層に入力することによって、第１隠れ層の出力が、観測不可能なパラメータＰ2の特徴量を含むようになる。この結果、第１隠れ層の出力と相関する値と、第２入力パラメータＱ2とが入力される第２隠れ層による処理は、入力パラメータＰ2及びＱ2から出力パラメータを出力する処理に近くなる。このため、時間変化によって観測不可能となる入力パラメータが存在する場合であっても、出力パラメータの予測精度が低下することを抑制することができる。
図６は、ニューラルネットワークの自由度と出力パラメータＹ3の決定係数との関係を示す図である。ニューラルネットワークの自由度は、設定可能な重み及びバイアスの数が多いほど大きくなる。すなわち、ニューラルネットワークの自由度は、入力層の数、入力層のノードの数、隠れ層の数及び隠れ層のノードの数が多いほど大きくなる。
また、出力パラメータＹ3の決定係数Ｒ2は、次式によって算出され、０〜１の値を採る。出力パラメータの予測精度は、出力パラメータＹ3の決定係数Ｒ2が１に近付くほど高くなる。
Ｒ2＝（出力パラメータＹ3の予測値の偏差平方和）／（出力パラメータＹ3の観測値の偏差平方和）
ここで、出力パラメータＹ3の予測値は、学習済みのニューラルネットワークにより出力された値であり、出力パラメータＹ3の観測値はセンサ等を用いて実際に検出された値である。
図６には、図５に示されたニューラルネットワークを用いた結果が菱形でプロットされ、比較例のニューラルネットワークを用いた結果が三角でプロットされている。比較例のニューラルネットワークでは、図５に示されたニューラルネットワークから第２入力層が省略され、第１入力パラメータとしてパラメータＰ1、Ｑ1及びＱ2が第１入力層に入力された。
図６から分かるように、図５に示されたニューラルネットワークでは、比較例と比べて、ニューラルネットワークの自由度が小さい場合であっても、出力パラメータＹ3の決定係数が大きくなり、出力パラメータＹ3の予測精度が高くなる。したがって、ニューラルネットワークの自由度を大きくすることなく出力パラメータＹ3の予測精度を高めることができる。この結果、ニューラルネットワークを用いた学習済みモデルを作成するための学習時間を低減することができる。
なお、図５に示されるニューラルネットワークにおいて、入力層及び隠れ層の数は、それぞれ、３つ以上であってもよい。また、各入力層、各隠れ層及び出力層のノードの数は、それぞれ、１つ以上の他の数であってもよい。また、各隠れ層のノードの数が異なっていてもよい。また、観測不可能なパラメータが存在しない場合、第１入力層及び第２入力層のノード数が等しく、第２入力パラメータが第１入力パラメータと同一であってもよい。また、第２入力パラメータが第１入力パラメータに含まれていなくてもよい。また、第２入力パラメータの数が第１入力パラメータの数よりも多くてもよい。
図７は、演算部８１において用いられるニューラルネットワークの別の例を示す図である。図７に示されるように、ニューラルネットワークは、入力層に結合された隠れ層（第１隠れ層及び第２隠れ層）の間に少なくとも一つの隠れ層を含んでいてもよい。また、図７に示されるように、ニューラルネットワークは、第２隠れ層と出力層（第２出力層）との間に少なくとも一つの隠れ層を含んでいてもよい。このことによって、ニューラルネットワークが扱う事象が複雑な場合（例えば、入力パラメータ又は出力パラメータの数が多い場合）であっても、出力パラメータの予測精度を高めることができる。
また、出力層の数は二つ以上であってもよい。例えば、図７に示されるように、ニューラルネットワークは、第１隠れ層に結合される出力層（第１出力層）を更に含んでいてもよい。図７の例では、第１出力層は、第２の時点における出力パラメータＹ2を出力する。
＜ニューラルネットワークの具体的な適用例＞
次に、図８を参照して、演算部８１において用いられるニューラルネットワークの具体的な適用例について説明する。図８は、演算部８１において用いられるニューラルネットワークの適用例を示す図である。
図８に示されるニューラルネットワークは、第１の時点における車両の第１入力パラメータが入力される第１入力層と、第１の時点よりも後の第２の時点における車両の第２入力パラメータが入力される第２入力層と、第２の時点よりも後の第３の時点における車両の第３入力パラメータが入力される第３入力層とを含む。各入力層は、入力される入力パラメータの数と等しい複数のノードを有する。
また、図８に示されるニューラルネットワークは、第１入力層に結合された第１隠れ層と、第２入力層に結合された第２隠れ層と、第３入力層に結合された第３隠れ層とを含む。第１隠れ層には、第１入力層の出力が入力される。第２隠れ層には、第２入力層の出力及び第１隠れ層の出力が入力される。第３隠れ層には、第３入力層の出力及び第２隠れ層の出力が入力される。各隠れ層は複数のノードを有する。
また、図８に示されるニューラルネットワークは、車両の出力パラメータを出力する出力層を含む。出力層は、第１隠れ層の出力、第２隠れ層の出力及び第３隠れ層の出力に基づいて、第３の時点よりも後の第４の時点における出力パラメータを出力する。出力層は第３隠れ層に結合され、第３隠れ層の出力が出力層に入力される。また、出力層は複数のノードを有する。
なお、このニューラルネットワークは、第１隠れ層と第２隠れ層との間、第２隠れ層と第３隠れ層との間、又は第３隠れ層と出力層との間に他の隠れ層を含んでもよい。また、出力層の数は二つ以上であってもよい。
図８に示されるニューラルネットワークを用いたモデルは、内燃機関１の一回のサイクルにおける燃焼過程に適用される。図８には、クランク角に対する筒内容積、筒内圧、筒内温度及び燃料噴射率の推移を示すグラフが示されている。内燃機関１では、燃料噴射弁２１によって多段噴射が実施される。具体的には、一回のサイクルにおいて、二回のパイロット噴射（第１パイロット噴射Ｐ１及び第２パイロット噴射Ｐ２）と一回のメイン噴射Ｍとが実施される。筒内容積は、筒内の燃焼状態に関わらず、クランク角に応じて変化する。一方、筒内圧及び筒内温度は筒内の燃焼状態に応じて変化する。
図８に示されるニューラルネットワークは、一回のサイクルにおける燃焼の結果として生じる燃焼音の音圧、機関本体１０から排出される有害物質の濃度及び内燃機関１の熱効率を出力パラメータとして出力層から出力する。有害物質は、例えば、一酸化炭素（ＣＯ）、炭化水素（ＨＣ）、窒素酸化物（ＮＯｘ）、粒子状物質（ＰＭ）等である。なお、出力パラメータは上記パラメータの少なくとも一つであってもよい。
上記出力パラメータと相関するパラメータとしては、機関回転数、機関水温、吸気マニホルド内の吸気中の酸素濃度、筒内吸気量、筒内容積、筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧が挙げられる。特に、上記の出力パラメータは、燃焼時の筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧の影響を受ける。このため、筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧を第１入力パラメータ、第２入力パラメータ及び第３入力パラメータとして用いることが好ましい。
しかしながら、高価な筒内圧センサ及び筒内温度センサが気筒１１内に設けられていない限り、燃焼後の筒内圧及び筒内温度は検出不可能である。このため、筒内圧及び筒内温度を第２入力パラメータ及び第３入力パラメータとして用いることができない。そこで、図８に示されるニューラルネットワークでは各入力パラメータが以下のように設定される。
第１の時点における第１入力パラメータとして、クランク角θ１における機関回転数、機関水温、吸気マニホルド３１内の吸気中の酸素濃度、筒内吸気量、筒内容積、筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧が用いられる。したがって、第１入力パラメータの数は１０である。クランク角θ１は、第１パイロット噴射（Ｐ１）の開始時期、すなわち一回のサイクルにおける燃料噴射の開始時期に相当する。なお、第１入力パラメータは上記パラメータの少なくとも一つであってもよい。
第２の時点における第２入力パラメータとして、クランク角θ２における燃料噴射量、燃料噴射時期及び燃料噴射圧が用いられる。したがって、第２入力パラメータの数は、３つであり、第１入力パラメータの数よりも少ない。また、第２入力パラメータは第１入力パラメータの一部である。クランク角θ２は第２パイロット噴射（Ｐ２）の開始時期に相当する。なお、第２入力パラメータは上記パラメータの少なくとも一つであってもよい。
第３の時点における第３入力パラメータとして、クランク角θ３における燃料噴射量、燃料噴射時期及び燃料噴射圧が用いられる。したがって、第３入力パラメータの数は、３つであり、第１入力パラメータの数よりも少ない。また、第３入力パラメータは、第２入力パラメータと等しく、第１入力パラメータの一部である。クランク角θ３はメイン噴射（Ｍ）の開始時期に相当する。なお、第３入力パラメータは上記パラメータの少なくとも一つであってもよい。
各入力パラメータは、各種センサ等を用いてＥＣＵ６１において例えば以下のように算出され、演算部８１によって取得される。機関回転数はクランク角センサ７９の出力に基づいて算出される。機関水温は水温センサ７２の出力に基づいて算出される。吸気マニホルド内の吸気中の酸素濃度は酸素濃度センサ７３の出力に基づいて算出される。筒内吸気量は、エアフロメータ７１の出力と、ＥＣＵ６１からＥＧＲ制御弁５２に出力される指令値とに基づいて算出される。筒内容積は、クランク角センサ７９によって検出されたクランク角に基づいて算出される。
燃焼前の筒内圧は、エアフロメータ７１の出力及び内燃機関１の圧縮比に基づいて算出される。燃焼前の筒内温度は、吸気温センサ８０の出力及び内燃機関１の圧縮比に基づいて算出される。なお、内燃機関１の圧縮比は、予め定められ、ＥＣＵ６１のメモリ６３に記憶されている。燃料噴射量及び燃焼噴射時期は、ＥＣＵ６１から燃料噴射弁２１に出力される指令値に基づいて算出される。燃料噴射圧は燃圧センサ７４の出力に基づいて算出される。
図８に示されるニューラルネットワークの学習（すなわち、重みｗ及びバイアスｂの設定）は、ニューラルネットワークを用いたモデルが車両に搭載される前に行われる。ニューラルネットワークの学習では、入力パラメータの実測値と、この入力パラメータに対応する出力パラメータの実測値（正解データ）とを含む訓練データセットが用いられる。具体的には、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新することによって、重みｗ及びバイアスｂが設定される。この結果、ニューラルネットワークが学習され、ニューラルネットワークを用いた学習済みモデルが生成される。
生成された学習済みモデルは車両のＥＣＵ６１に実装される。なお、訓練データセットのための入力パラメータ及び出力パラメータの実測値は例えばエンジンベンチ等を用いて予め取得される。また、ニューラルネットワークの学習は、例えば、工場に設置された計算機（例えばＧＰＵを搭載したコンピュータ）を用いて行われる。
＜フローチャート＞
図９は、第一実施形態における車両用駆動装置の制御の制御ルーチンを示すフローチャートである。本制御ルーチンはＥＣＵ６１によって所定の実行間隔で繰り返し実行される。所定の実行間隔は例えば一回のサイクルの時間である。
最初に、ステップＳ１０１において、演算部８１は車両の入力パラメータを取得する。
次いで、ステップＳ１０２において、演算部８１は、ニューラルネットワークを用いた学習済みモデルを用いて、車両の入力パラメータに基づいて車両の出力パラメータを算出する。具体的には、演算部８１は、ステップ１０１において取得した入力パラメータをニューラルネットワークに入力することによってニューラルネットワークに出力パラメータを出力させる。例えば、図８に示されるニューラルネットワークが用いられる場合には、第１の時点における車両の第１入力パラメータが第１入力層に入力され、第２の時点における車両の第２入力パラメータが第２入力層に入力され、第３の時点における車両の第３入力パラメータが第３入力層に入力される。すなわち、第１入力パラメータ、第２入力パラメータ及び第３入力パラメータに基づいて出力パラメータが算出される。
次いで、ステップＳ１０３において、制御部８２は、演算部８１によって算出された出力パラメータに基づいて車両用駆動装置（本実施形態では内燃機関１）を制御する。例えば、出力パラメータが燃焼音の音圧である場合、制御部８２は、燃焼音の音圧が目標値以下になるように燃料噴射率のパターン等を制御する。また、出力パラメータが、機関本体１０から排出されるＮＯｘの濃度である場合、制御部８２は、ＮＯｘの濃度が目標値以下になるようにＥＧＲ制御弁５２の開度等を制御する。また、出力パラメータが内燃機関１の熱効率である場合、制御部８２は、熱効率が所定値以上になるように燃料噴射率のパターン、吸気弁の閉弁時期等を制御する。なお、吸気弁の閉弁時期は、内燃機関１に設けられた公知の可変バルブタイミング機構を制御することによって変更される。ステップＳ１０３の後、本制御ルーチンは終了する。
＜第二実施形態＞
第二実施形態に係る機械学習システムに用いられる電子制御ユニットの構成及び制御は、基本的に第一実施形態における電子制御ユニットと同様である。このため、以下、本発明の第二実施形態について、第一実施形態と異なる部分を中心に説明する。
第二実施形態では、ニューラルネットワークを用いた学習済みモデルが車両の外部のサーバにおいて生成され、サーバから車両に受信された学習済みモデルが演算部８１において用いられる。このことによって、学習済みモデルを必要に応じて入れ替え又は追加することができ、ニューラルネットワークを用いて所望の出力パラメータを得ることができる。また、サーバとの通信によりニューラルネットワークの重み等を更新することによって出力パラメータの予測精度を高めることができる。
図１０は、第二実施形態に係る機械学習システムを概略的に示す図である。機械学習システム３００は、車両１００に設けられた電子制御ユニット（ＥＣＵ）６１及び通信装置９１と、車両１００の外部のサーバ２００とを備える。第一実施形態と同様に、図２に示されるように、ＥＣＵ６１のプロセッサ６５は演算部８１及び制御部８２を有する。
ＥＣＵ６１と通信装置９１とは、ＣＡＮ（Controller Area Network）等の規格に準拠した車内ネットワークを介して互いに通信可能に接続される。通信装置９１は、通信ネットワークを介してサーバ２００と通信可能な機器であり、例えばデータ通信モジュール（ＤＣＭ）である。通信装置９１とサーバ２００との間の通信は、各種通信規格に準拠した無線通信によって行われる。
サーバ２００は、通信インターフェース２１０、記憶装置２３０及びプロセッサ２２０を備える。通信インターフェース２１０及び記憶装置２３０は信号線を介してプロセッサ２２０に接続されている。なお、サーバ２００は、キーボード及びマウスのような入力装置、ディスプレイのような出力装置等を更に備えていてもよい。
通信インターフェース２１０は、サーバ２００を通信ネットワークを介して車両１００の通信装置９１に接続するためのインターフェース回路を有する。記憶装置２３０は、例えば、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＤＤ）、光記録媒体、ランダムアクセスメモリ（ＲＡＭ）のような半導体メモリ等から構成される。
記憶装置２３０は各種データを記憶する。具体的には、記憶装置２３０は、ニューラルネットワークの学習を行うための訓練データセット（例えば、第１入力パラメータ、第２入力パラメータ及び出力パラメータを含む訓練データセット）と、ニューラルネットワークの学習を行うためのコンピュータプログラムとを記憶する。訓練データセットのための入力パラメータ及び出力パラメータの実測値は例えばエンジンベンチ等を用いて予め取得される。なお、訓練データセットのための入力パラメータ及び出力パラメータの実測値は、車両１００とは異なる他の車両において取得され、この他の車両に設けられた通信装置からサーバ２００に送信されてもよい。
図１０に示されるように、サーバ２００のプロセッサ２２０は機能ブロックとして学習部２２２を備える。学習部２２２は、サーバ２００の記憶装置２３０に記憶された訓練データセットを用いてニューラルネットワークの学習を行い、ニューラルネットワークを用いた学習済みモデルを生成する。具体的には、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新することによって、重みｗ及びバイアスｂが設定される。この結果、ニューラルネットワークが学習され、ニューラルネットワークを用いた学習済みモデルが生成される。なお、第二実施形態におけるニューラルネットワークは第一実施形態と同様の構成（例えば、図５、図７及び図８参照）を有する。
学習部２２２によって学習済みモデルが生成されると、生成された学習済みモデルがサーバ２００の通信インターフェース２１０及び車両１００の通信装置９１を介してサーバ２００からＥＣＵ６１に送信される。ＥＣＵ６１の演算部８１は、学習済みモデルをサーバ２００から通信装置９１を介して受信し、受信した学習済みモデルを用いて車両の出力パラメータを算出する。また、ＥＣＵ６１の制御部８２によって車両用駆動装置の制御が実行される場合には、第一実施形態と同様に図９の制御ルーチンが実行される。
＜第三実施形態＞
第三実施形態に係る機械学習システムの構成及び制御は、基本的に第二実施形態における機械学習システムと同様である。このため、以下、本発明の第三実施形態について、第二実施形態と異なる部分を中心に説明する。
第三実施形態では、第二実施形態と同様に、ニューラルネットワークを用いた学習済みモデルが車両の外部のサーバにおいて生成され、サーバから車両に受信された学習済みモデルが演算部８１において用いられる。一方、第三実施形態では、訓練データセットのための入力パラメータ及び出力パラメータの実測値が車両において取得される。このことによって、多数の訓練データセットを容易に用意することができる。
図１１は、第三実施形態に係る機械学習システムが適用される車両に設けられた内燃機関を概略的に示す図である。内燃機関１’には、図１に示される各種センサに加えて、音圧センサ７５及び濃度センサ７６が設けられている。
音圧センサ７５は、例えば機関本体１０のシリンダブロックに配置され、燃焼音の音圧を検出する。濃度センサ７６は、内燃機関１’の排気通路、例えばタービン４３とＤＰＦ４４との間に配置され、機関本体１０から排出される有害物質の濃度を検出する。濃度センサ７６は、例えば、ＨＣの濃度を検出するＨＣ濃度センサ、ＮＯｘの濃度を検出するＮＯｘ濃度センサ等である。音圧センサ７５及び濃度センサ７６の出力は、対応するＡＤ変換器６８を介して、ＥＣＵ６１の入力ポート６６に入力される。
第二実施形態と同様に、図１０に示されるように、機械学習システム３００は、車両１００に設けられた電子制御ユニット（ＥＣＵ）６１及び通信装置９１と、車両１００の外部のサーバ２００とを備える。図１２は、第三実施形態におけるＥＣＵ６１のプロセッサ６５の機能ブロック図である。第三実施形態では、プロセッサ６５は、演算部８１及び制御部８２に加えて、パラメータ取得部８３を有する。
パラメータ取得部８３は車両１００の入力パラメータ及び出力パラメータを取得する。具体的には、パラメータ取得部８３は、演算部８１と同様に、各種センサの出力等に基づいてＥＣＵ６１によって算出された入力パラメータを取得する。また、パラメータ取得部８３は、各種センサの出力等に基づいてＥＣＵ６１によって算出された出力パラメータを取得する。例えば、出力パラメータが燃焼音の音圧である場合、パラメータ取得部８３は、音圧センサ７５の出力に基づいて算出された燃焼音の音圧を取得する。また、出力パラメータが、機関本体１０から排出される有害物質の濃度である場合、パラメータ取得部８３は、濃度センサ７６の出力に基づいて算出された有害物質の濃度を取得する。
サーバ２００の学習部２２２によって学習されるニューラルネットワークが図５又は図７に示されるような構成を有する場合、パラメータ取得部８３は、第１の時点における車両の第１入力パラメータと、第２の時点における車両の第２入力パラメータと、第３の時点における車両の出力パラメータとを取得する。また、学習されるニューラルネットワークが図８に示されるような構成を有する場合、パラメータ取得部８３は、第１の時点における車両の第１入力パラメータと、第２の時点における車両の第２入力パラメータと、第３の時点における車両の第３入力パラメータと、第４の時点における車両の出力パラメータとを取得する。
パラメータ取得部８３は、取得した入力パラメータ及び出力パラメータを通信装置９１を介してサーバ２００に送信する。サーバ２００に送信された入力パラメータ及び出力パラメータはサーバ２００の記憶装置２３０に記憶される。
サーバ２００の学習部２２２は、パラメータ取得部８３によって取得された入力パラメータ及び出力パラメータを訓練データセットとして用いて、ニューラルネットワークを用いた学習済みモデルを生成する。具体的には、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新することによって、重みｗ及びバイアスｂが設定される。この結果、ニューラルネットワークが学習され、ニューラルネットワークを用いた学習済みモデルが生成される。
また、第二実施形態と同様に、サーバ２００の学習部２２２は学習済みモデルを演算部８１に送信し、演算部８１は、受信した学習済みモデルを用いて出力パラメータを算出する。学習済みモデルを用いて出力パラメータを算出することによって、センサ等によって出力パラメータを検出する前に、所定の入力パラメータに対する出力パラメータを予測することができる。
また、ＥＣＵ６１の制御部８２によって車両用駆動装置の制御が実行される場合には、第一実施形態と同様に図９の制御ルーチンが実行される。
＜第四実施形態＞
第四実施形態に係る車両用駆動装置の制御装置の構成及び制御は、基本的に第一実施形態における車両用駆動装置の制御装置と同様である。このため、以下、本発明の第一実施形態について、第一実施形態と異なる部分を中心に説明する。
第四実施形態では、第三実施形態と同様に、訓練データセットのための入力パラメータ及び出力パラメータの実測値が車両において取得される。一方、第四実施形態では、ニューラルネットワークを用いた学習済みモデルが車両において生成される。このことによって、車両を用いて学習済みモデルを容易に生成することができる。
図１３は、第四実施形態におけるＥＣＵ６１のプロセッサ６５の機能ブロック図である。第四実施形態では、プロセッサ６５は、演算部８１及び制御部８２に加えて、パラメータ取得部８３及び学習部８４を有する。第三実施形態と同様に、パラメータ取得部８３は入力パラメータ及び出力パラメータを取得する。取得された入力パラメータ及び出力パラメータはＥＣＵ６１のメモリ６３に記憶される。
学習部８４は、パラメータ取得部８３によって取得された入力パラメータ及び出力パラメータを訓練データセットとして用いて、ニューラルネットワークを用いた学習済みモデルを生成する。具体的には、多数の訓練データセットを用いて、上述した誤差逆伝播法によってニューラルネットワークの重みｗ及びバイアスｂを繰り返し更新することによって、重みｗ及びバイアスｂが設定される。この結果、ニューラルネットワークが学習され、ニューラルネットワークを用いた学習済みモデルが生成される。
演算部８１は、学習部８４によって生成された学習済みモデルを用いて出力パラメータを算出する。学習済みモデルを用いて出力パラメータを算出することによって、センサ等によって出力パラメータを検出する前に、所定の入力パラメータに対する出力パラメータを予測することができる。
また、ＥＣＵ６１の制御部８２によって車両用駆動装置の制御が実行される場合には、第一実施形態と同様に図９の制御ルーチンが実行される。
＜その他の実施形態＞
以上、本発明に係る好適な実施形態を説明したが、本発明はこれら実施形態に限定されるものではなく、特許請求の範囲の記載内で様々な修正及び変更を施すことができる。
例えば、車両用駆動装置はガソリンエンジンであってもよい。例えば、本実施形態におけるニューラルネットワークを用いたモデルは、吸気ポートに燃料を噴射するポート噴射弁と、筒内に直接燃料を噴射する筒内噴射弁とを備えたガソリンエンジンに適用されてもよい。この場合、一回のサイクルにおいて、最初にポート噴射弁から燃料が噴射され、次に筒内噴射弁から燃料が噴射される。このことを考慮し、ニューラルネットワークにおける第１入力パラメータ、第２入力パラメータ及び出力パラメータは例えば以下のように設定される。
第１入力パラメータは、機関回転数、ポート噴射量、ポート噴射時期、吸気温度、吸気圧力、ＥＧＲ制御弁の開度及び吸入空気量の少なくとも一つを含む。また、第２入力パラメータは、筒内噴射量、筒内噴射時期及び筒内噴射圧の少なくとも一つを含む。また、出力パラメータは、混合気の着火時期、混合気の燃焼期間、機関本体から排出される有害物質の濃度及び燃焼による発熱量の最大値の少なくとも一つを含む。この場合も、第１入力パラメータ、第２入力パラメータ及び出力パラメータは各種センサの出力等に基づいてＥＣＵ６１において算出可能である。
また、車両用駆動装置は、内燃機関以外の駆動装置、例えば、モータ、トランスミッション、バッテリ等であってもよい。例えば、本実施形態におけるニューラルネットワークを用いたモデルは、ハイブリッド車両（ＨＶ）、プラグインハイブリッド車両（ＰＨＶ）又は電気自動車（ＥＶ）に搭載されたバッテリに適用されてもよい。車両の運転開始時のバッテリの充電率（ＳＯＣ：Ｓｔａｔｅ Ｏｆ Ｃｈａｒｇｅ）の初期値は、バッテリの電圧を検出可能な電圧センサの出力等に基づいて算出可能である。また、バッテリの温度を検出可能な温度センサがバッテリに設けられている場合、車両の運転中のバッテリの温度も観測可能である。一方、車両の運転中のＳＯＣは観測不可能である。このことを考慮し、ニューラルネットワークにおける第１入力パラメータ、第２入力パラメータ及び出力パラメータは例えば以下のように設定される。
第１入力パラメータは、バッテリ電圧、バッテリ電流、車両の運転開始時のバッテリ温度、車両の運転開始時のバッテリのＳＯＣ及び車両の連続運転時間の少なくとも一つを含む。また、第２入力パラメータは車両の運転中のバッテリ温度を含む。また、出力パラメータは車両の運転中のバッテリのＳＯＣを含む。この場合も、第１入力パラメータ、第２入力パラメータ及び出力パラメータは各種センサの出力等に基づいてＥＣＵ６１において算出可能である。
また、上述したようなニューラルネットワークを用いた学習済みモデルは、第１入力パラメータ及び第２入力パラメータに基づいて出力パラメータを算出されるように構成された出力パラメータ算出装置に用いられてもよい。この場合、第１入力パラメータ、第２入力パラメータ及び出力パラメータは、車両に関するパラメータに限定されない。
１、１’ 内燃機関
６０ 車両用駆動装置の制御装置
６１ 電子制御ユニット（ＥＣＵ）
８１ 演算部
８２ 制御部
８３ パラメータ取得部
９１ 通信装置
１００ 車両
２００ サーバ
３００ 機械学習システム

Claims (16)

  1. ニューラルネットワークを用いた学習済みモデルを用いて車両の出力パラメータを算出する演算部と、
    前記演算部によって算出された前記出力パラメータに基づいて、前記車両に搭載された車両用駆動装置を制御する制御部と
    を備え、
    前記ニューラルネットワークは、第１の時点における前記車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、車両用駆動装置の制御装置。
  2. 前記第２入力パラメータの数は前記第１入力パラメータの数よりも少ない、請求項１に記載の車両用駆動装置の制御装置。
  3. 前記第２入力パラメータは前記第１入力パラメータの一部である、請求項２に記載の車両用駆動装置の制御装置。
  4. 前記ニューラルネットワークは、前記第１隠れ層の出力が前記第２隠れ層に入力されるように構成される、請求項１から３のいずれか１項に記載の車両用駆動装置の制御装置。
  5. 前記ニューラルネットワークは、前記第１隠れ層と前記第２隠れ層との間に少なくとも一つの隠れ層を含む、請求項１から３のいずれか１項に記載の車両用駆動装置の制御装置。
  6. 前記ニューラルネットワークは、前記第２隠れ層の出力が前記出力層に入力されるように構成される、請求項１から５のいずれか１項に記載の車両用駆動装置の制御装置。
  7. 前記ニューラルネットワークは、前記第２隠れ層と前記出力層との間に少なくとも一つの隠れ層を含む、請求項１から５のいずれか１項に記載の車両用駆動装置の制御装置。
  8. 前記制御部は、前記車両に搭載された内燃機関を制御し、
    前記第１入力パラメータは、機関回転数、機関水温、吸気マニホルド内の吸気中の酸素濃度、筒内吸気量、筒内容積、筒内圧、筒内温度、燃料噴射量、燃料噴射時期及び燃料噴射圧の少なくとも一つを含み、前記第２入力パラメータは、燃料噴射量、燃料噴射時期及び燃料噴射圧の少なくとも一つを含み、前記出力パラメータは、燃焼音の音圧、機関本体から排出される有害物質の濃度及び前記内燃機関の熱効率の少なくとも一つを含む、請求項１から７のいずれか１項に記載の車両用駆動装置の制御装置。
  9. 前記第１入力パラメータは筒内圧及び筒内温度を含み、前記第２入力パラメータは筒内圧及び筒内温度を含まない、請求項８に記載の車両用駆動装置の制御装置。
  10. ニューラルネットワークを用いた学習済みモデルを車両に設けられた通信装置を介して前記車両の外部のサーバから受信すると共に、該学習済みモデルを用いて前記車両の出力パラメータを算出する演算部を備える車載電子制御ユニットであって、
    前記ニューラルネットワークは、第１の時点における前記車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、
    前記サーバは、前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを含む訓練データセットを記憶する記憶装置を備え、該訓練データセットを用いて前記学習済みモデルを生成する、車載電子制御ユニット。
  11. 第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを取得すると共に、前記車両に設けられた通信装置を介して前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを前記車両の外部のサーバに送信するパラメータ取得部と、
    ニューラルネットワークを用いた学習済みモデルを前記サーバから前記通信装置を介して受信すると共に、該学習済みモデルを用いて前記出力パラメータを算出する演算部と
    を備える車載電子制御ユニットであって、
    前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、
    前記サーバは、前記パラメータ取得部によって取得された前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記学習済みモデルを生成する、車載電子制御ユニット。
  12. 第１の時点における車両の第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記車両の出力パラメータを出力する出力層とを含むニューラルネットワークを用いた学習済みモデルであって、
    前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記ニューラルネットワークの重みが学習された、学習済みモデル。
  13. 車両に設けられた電子制御ユニットと、前記車両に設けられた通信装置と、前記車両の外部のサーバとを備えた機械学習システムであって、
    前記電子制御ユニットは、
    第１の時点における前記車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを取得すると共に、前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを前記通信装置を介して前記サーバに送信する、パラメータ取得部と、
    ニューラルネットワークを用いた学習済みモデルを前記サーバから前記通信装置を介して受信すると共に、該学習済みモデルを用いて前記出力パラメータを算出する演算部と
    を備え、
    前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含み、
    前記サーバは、前記パラメータ取得部によって取得された前記第１入力パラメータ、前記第２入力パラメータ及び前記出力パラメータを訓練データセットとして用いて前記学習済みモデルを生成する、機械学習システム。
  14. 第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータとを取得することと、
    ニューラルネットワークを用いた学習済みモデルを用いて、前記第１入力パラメータ及び前記第２入力パラメータに基づいて前記車両の出力パラメータを算出することと、
    前記出力パラメータに基づいて、前記車両に搭載された車両用駆動装置を制御することと
    を含み、
    前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、車両用駆動装置の制御方法。
  15. 第１の時点における車両の第１入力パラメータと、前記第１の時点よりも後の第２の時点における前記車両の第２入力パラメータと、前記第２の時点よりも後の時点における前記車両の出力パラメータとを訓練データセットとして用いて、ニューラルネットワークを用いた学習済みモデルを生成することと、
    前記学習済みモデルを電子制御ユニットに実装することと
    を含み、
    前記ニューラルネットワークは、前記第１入力パラメータが入力される第１入力層と、前記第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、前記出力パラメータを出力する出力層とを含む、電子制御ユニットの製造方法。
  16. 第１の時点における第１入力パラメータが入力される第１入力層と、前記第１の時点よりも後の第２の時点における第２入力パラメータが入力される第２入力層と、前記第１入力層の出力が入力される第１隠れ層と、該第１隠れ層の出力と相関する値と前記第２入力層の出力とが入力される第２隠れ層と、出力パラメータを出力する出力層とを含むニューラルネットワークを用いた学習済みモデルを用いて、前記第１入力パラメータ及び前記第２入力パラメータに基づいて前記出力パラメータを算出するように構成された、出力パラメータ算出装置。
JP2018191214A 2018-10-09 2018-10-09 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置 Expired - Fee Related JP6702389B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018191214A JP6702389B2 (ja) 2018-10-09 2018-10-09 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置
US16/569,088 US10864900B2 (en) 2018-10-09 2019-09-12 Control device of vehicle drive device, vehicle-mounted electronic control unit, trained model, machine learning system, method of controlling vehicle drive device, method of producing electronic control unit, and output parameter calculation device
CN201910914722.0A CN111022206B (zh) 2018-10-09 2019-09-25 车辆用驱动装置的控制装置及方法、车载电子控制单元
EP19201914.9A EP3636904A3 (en) 2018-10-09 2019-10-08 Control device of vehicle drive device, vehicle-mounted electronic control unit, trained model, machine learning system, method of controlling vehicle drive device, method of producing electronic control unit, and output parameter calculation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018191214A JP6702389B2 (ja) 2018-10-09 2018-10-09 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置

Publications (2)

Publication Number Publication Date
JP2020060125A JP2020060125A (ja) 2020-04-16
JP6702389B2 true JP6702389B2 (ja) 2020-06-03

Family

ID=68242307

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018191214A Expired - Fee Related JP6702389B2 (ja) 2018-10-09 2018-10-09 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置

Country Status (4)

Country Link
US (1) US10864900B2 (ja)
EP (1) EP3636904A3 (ja)
JP (1) JP6702389B2 (ja)
CN (1) CN111022206B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022154404A1 (ko) * 2021-01-13 2022-07-21 한온시스템 주식회사 인공지능 기반 차량 통합 열 관리 시스템의 제어 시스템 및 그 제어 방법

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6702380B2 (ja) * 2018-09-14 2020-06-03 トヨタ自動車株式会社 内燃機関の制御装置
JP6690743B1 (ja) * 2019-01-23 2020-04-28 トヨタ自動車株式会社 機械学習装置
JP6795116B1 (ja) * 2020-06-08 2020-12-02 トヨタ自動車株式会社 車両、及びサーバ
JP7388343B2 (ja) * 2020-12-18 2023-11-29 トヨタ自動車株式会社 ターボチャージャのオイルコーキング堆積量の推定装置
CN113123891B (zh) * 2021-06-17 2021-08-31 潍柴动力股份有限公司 燃烧系统的控制方法、燃烧系统及内燃机
US11454183B1 (en) * 2021-12-08 2022-09-27 Southwest Research Institute Method of generating rate-of-injection (ROI) profiles for a fuel injector and system implementing same
US20230304430A1 (en) * 2022-03-25 2023-09-28 Ford Global Technologies, Llc System and methods for estimating emissions

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5130936A (en) * 1990-09-14 1992-07-14 Arinc Research Corporation Method and apparatus for diagnostic testing including a neural network for determining testing sufficiency
JP2934330B2 (ja) * 1991-02-28 1999-08-16 株式会社豊田中央研究所 車両の操作量決定装置
JPH05233585A (ja) * 1992-02-24 1993-09-10 Hitachi Ltd 設備異常診断方法
CA2081519C (en) * 1992-10-27 2000-09-05 The University Of Toronto Parametric control device
US6601051B1 (en) * 1993-08-09 2003-07-29 Maryland Technology Corporation Neural systems with range reducers and/or extenders
US5625750A (en) * 1994-06-29 1997-04-29 Ford Motor Company Catalyst monitor with direct prediction of hydrocarbon conversion efficiency by dynamic neural networks
JP3301250B2 (ja) * 1995-01-27 2002-07-15 松下電器産業株式会社 空燃比制御装置
JPH0939821A (ja) * 1995-08-02 1997-02-10 Mitsubishi Motors Corp 車両の後輪操舵制御装置
US6236908B1 (en) * 1997-05-07 2001-05-22 Ford Global Technologies, Inc. Virtual vehicle sensors based on neural networks trained using data generated by simulation models
JP3550985B2 (ja) * 1997-12-02 2004-08-04 株式会社デンソー 神経回路網の検証方法，検証装置及び記録媒体
US5904227A (en) * 1997-12-30 1999-05-18 Otis Elevator Company Method for continuously adjusting the architecture of a neural network used in elevator dispatching
JP2000231547A (ja) * 1999-02-12 2000-08-22 Victor Co Of Japan Ltd ネットワーク型ファジイ制御装置及びその学習方法
US6493689B2 (en) * 2000-12-29 2002-12-10 General Dynamics Advanced Technology Systems, Inc. Neural net controller for noise and vibration reduction
US6882929B2 (en) * 2002-05-15 2005-04-19 Caterpillar Inc NOx emission-control system using a virtual sensor
JP2004239233A (ja) * 2003-02-10 2004-08-26 Toyota Motor Corp 内燃機関の気筒別空燃比の推定および気筒排気割合の推定
US7181334B2 (en) * 2003-05-14 2007-02-20 General Motors Corporation Method and apparatus to diagnose intake airflow
JP4082596B2 (ja) * 2003-07-07 2008-04-30 本田技研工業株式会社 制御装置
JP4211565B2 (ja) * 2003-10-16 2009-01-21 いすゞ自動車株式会社 シリンダ内圧検出方法
FR2862342B1 (fr) * 2003-11-19 2006-02-17 Renault Sas Procede et systeme d'estimation de quantites de particules emises dans les gaz d'echappement d'un moteur diesel d'un vehicule automobile
JP2007533911A (ja) * 2004-04-20 2007-11-22 サウスウエスト リサーチ インスティテュート 圧力関係の値用の個々の推量器を備える仮想シリンダ圧力センサ
US7917333B2 (en) * 2008-08-20 2011-03-29 Caterpillar Inc. Virtual sensor network (VSN) based control system and method
US8965664B2 (en) * 2009-03-27 2015-02-24 Honda Motor Co., Ltd. Controller for plant
US8453431B2 (en) * 2010-03-02 2013-06-04 GM Global Technology Operations LLC Engine-out NOx virtual sensor for an internal combustion engine
JP5028509B2 (ja) 2010-06-16 2012-09-19 本田技研工業株式会社 内燃機関のｅｇｒ制御装置
CN102072789B (zh) * 2010-11-03 2012-05-23 西南交通大学 一种地面测试铁道车辆轮轨力的连续化处理方法
JP5234085B2 (ja) 2010-11-11 2013-07-10 富士電機株式会社 ニューラルネットワークの学習方法
US9328644B2 (en) 2013-09-24 2016-05-03 GM Global Technology Operations LLC Exhaust system and method of estimating diesel particulate filter soot loading for same using two-tier neural network
CN104268638A (zh) * 2014-09-11 2015-01-07 广州市香港科大霍英东研究院 一种基于elman神经网络的光伏发电系统功率预测方法
US10183590B2 (en) 2016-09-23 2019-01-22 Faraday&Future Inc. Electric vehicle battery monitoring system
WO2019099228A1 (en) * 2017-11-14 2019-05-23 Tula Technology, Inc. Machine learning for misfire detection in a dynamic firing level modulation controlled engine of a vehicle
US10634081B2 (en) * 2018-02-05 2020-04-28 Toyota Jidosha Kabushiki Kaisha Control device of internal combustion engine
US11164074B2 (en) * 2018-02-08 2021-11-02 Western Digital Technologies, Inc. Multi-core systolic processor system for neural network processing
CN108537327B (zh) * 2018-03-28 2020-11-03 北京航空航天大学 一种基于时间序列bp神经网络预测方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022154404A1 (ko) * 2021-01-13 2022-07-21 한온시스템 주식회사 인공지능 기반 차량 통합 열 관리 시스템의 제어 시스템 및 그 제어 방법

Also Published As

Publication number Publication date
US10864900B2 (en) 2020-12-15
US20200108815A1 (en) 2020-04-09
CN111022206A (zh) 2020-04-17
JP2020060125A (ja) 2020-04-16
EP3636904A2 (en) 2020-04-15
EP3636904A3 (en) 2020-07-29
CN111022206B (zh) 2022-06-21

Similar Documents

Publication Publication Date Title
JP6702389B2 (ja) 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置
JP6702390B2 (ja) 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置
US11230985B2 (en) Control device of internal combustion engine, in-vehicle electronic control unit, machine learning system, control method of internal combustion engine, manufacturing method of electronic control unit, and output parameter calculation device
EP1682764B1 (en) Method for controlling combustion in an internal combustion engine and predicting performance and emissions
EP1705353B1 (en) Method and device for estimating the inlet air flow in a combustion chamber of a cylinder of an internal combustion engine
US10991174B2 (en) Machine learning device of amount of unburned fuel, machine learning method, learned model, electronic control unit, method of production of electronic control unit, and machine learning system
US11436488B2 (en) Control device
CN101523034B (zh) 基于发动机汽缸压力估算发动机的系统参数
CN101313138A (zh) 用于柴油发动机的控制系统
CN102383906B (zh) 温度估计系统和方法
US10371071B2 (en) Systems and methods for non-intrusive closed-loop combustion control of internal combustion engines
CN104675538B (zh) 用于确定新鲜空气质量流量的方法和测量设备
JP2020045773A (ja) 内燃機関の制御装置
Wang et al. Design of Engine-Out Virtual NOₓ Sensor Using Neural Networks and Dynamic System Identification
JP2020020295A (ja) 内燃機関の制御装置
US8607546B2 (en) Method for monitoring hydrocarbon slip from an oxidation catalyst
JP2020045821A (ja) 内燃機関の制御装置
EP2550442B1 (en) Method for adaption of a mass flow sensor
Suzuki et al. Control-Oriented Modeling Methodology for Turbocharged Engine Control Design and System Calibration
JP2016133044A (ja) 内燃機関の制御装置
JP2014190306A (ja) 内燃機関の制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200203

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200203

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200420

R151 Written notification of patent or utility model registration

Ref document number: 6702389

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees