JP6501018B1 - 未燃燃料量の機械学習装置 - Google Patents

未燃燃料量の機械学習装置 Download PDF

Info

Publication number
JP6501018B1
JP6501018B1 JP2018081365A JP2018081365A JP6501018B1 JP 6501018 B1 JP6501018 B1 JP 6501018B1 JP 2018081365 A JP2018081365 A JP 2018081365A JP 2018081365 A JP2018081365 A JP 2018081365A JP 6501018 B1 JP6501018 B1 JP 6501018B1
Authority
JP
Japan
Prior art keywords
amount
unburned fuel
parameter
value
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018081365A
Other languages
English (en)
Other versions
JP2019190306A (ja
Inventor
祐介 高巣
祐介 高巣
大史 大八木
大史 大八木
圭介 永坂
圭介 永坂
金子　智洋
智洋 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2018081365A priority Critical patent/JP6501018B1/ja
Priority to US16/007,446 priority patent/US10991174B2/en
Application granted granted Critical
Publication of JP6501018B1 publication Critical patent/JP6501018B1/ja
Publication of JP2019190306A publication Critical patent/JP2019190306A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0808—Diagnosing performance data
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/02—Circuit arrangements for generating control signals
    • F02D41/14—Introducing closed-loop corrections
    • F02D41/1401—Introducing closed-loop corrections characterised by the control or regulation method
    • F02D41/1405—Neural network control
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02D—CONTROLLING COMBUSTION ENGINES
    • F02D41/00—Electrical control of supply of combustible mixture or its constituents
    • F02D41/02—Circuit arrangements for generating control signals
    • F02D41/14—Introducing closed-loop corrections
    • F02D41/1438—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor
    • F02D41/1444—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases
    • F02D41/1459—Introducing closed-loop corrections using means for determining characteristics of the combustion gases; Sensors therefor characterised by the characteristics of the combustion gases the characteristics being a hydrocarbon content or concentration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
    • F02B—INTERNAL-COMBUSTION PISTON ENGINES; COMBUSTION ENGINES IN GENERAL
    • F02B77/00—Component parts, details or accessories, not otherwise provided for
    • F02B77/08—Safety, indicating, or supervising devices
    • F02B77/085—Safety, indicating, or supervising devices with sensors measuring combustion processes, e.g. knocking, pressure, ionization, combustion flame
    • F02B77/086—Sensor arrangements in the exhaust, e.g. for temperature, misfire, air/fuel ratio, oxygen sensors
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/008—Registering or indicating the working of vehicles communicating information to a remotely located station

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Combined Controls Of Internal Combustion Engines (AREA)
  • Exhaust Gas After Treatment (AREA)
  • Processes For Solid Components From Exhaust (AREA)

Abstract

【課題】機関から排出される未燃燃料量を精度よく推定する。【解決手段】ニューラルネットワークを用いた未燃燃料量の機械学習装置において、内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数を求め、相関関数に基づいて、パラメータの中で、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータと未燃燃料量から、ニューラルネットワークを用いて未燃燃料量を機械学習する。【選択図】図１４

Description

本発明は未燃燃料量の機械学習装置に関する。
機関から排出される未燃燃料量が、機関要求トルクおよび機関回転数の関数として、マップの形で予め記憶されており、排気温度に基づいてマップに記憶されている未燃燃料量を修正することにより未燃燃料量の推定値を求めるようにした未燃燃料量推定装置が公知である（例えば特許文献１を参照）。即ち、供給された燃料のうちで燃焼せしめられた燃料量が多いと排気温度が上昇すると共に機関から排出される未燃燃料量が減少し、一方、供給された燃料のうちで燃焼せしめられた燃料量が少ないと排気温度が低下すると共に機関から排出される未燃燃料量が増大する。このように機関から排出される未燃燃料量は排気温度に応じて変化するので、上述の未燃燃料量推定装置では、排気温度に基づいてマップに記憶されている未燃燃料量を修正することにより未燃燃料量の推定値を求めるようにしている。
特開２００８−３８８２２号公報
しかしながら、機関から排出される未燃燃料量は、機関要求トルク、機関回転数、排気温度以外の機関運転パラメータによっても変化し、従って、排気温度に基づいてマップに記憶されている未燃燃料量を修正することにより未燃燃料量の推定値を求めても、未燃燃料量を、高い推定精度でもって求めることができない。そこで、本発明では、機械学習を用いて、未燃燃料量を、高い精度で予測するようにしている。
即ち、１番目の発明では、内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数を求め、相関関数が、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなり、未燃燃料量の平均値とこの一次関数から未燃燃料量の分散が算出され、この分散に基づき、未燃燃料量に対する相関度合いの強さを示すパラメータの寄与率が算出され、寄与率が予め設定された下限値以上のパラメータが、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータとして選定され、真の未燃燃料量のばらつきによる分散の変化度が、上述の下限値とされ、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置が提供される。
２番目の発明では、内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数を求め、相関関数が、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなり、未燃燃料量の平均値とこの一次関数から未燃燃料量の分散が算出され、この分散に基づき、未燃燃料量に対する相関度合いの強さを示すパラメータの寄与率が算出され、パラメータの寄与率の高い方から順に寄与率を累積することによって得られる累積寄与率が予め設定された上限値に達したときに、累積寄与率に貢献しているパラメータが、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータとして選定され、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置が提供される。
３番目の発明では、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータが、アフター噴射量、ＥＧＲ率およびメイン噴射量からなり、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置が提供される。
４番目の発明では、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータが、機関回転数、メイン噴射量、アフター噴射量、アフター噴射時期およびＥＧＲ率からなり、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置が提供される。
１番目から４番目の発明によれば、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習を行うことにより、未燃燃料量を精度よく予測することが可能となる。
図１は内燃機関の全体図である。 図２はシリンダヘッドの平面断面図である。 図３は燃料噴射弁からの燃料噴射形態を示す図である。 図４はニューラルネットワークの一例を示す図である。 図５Ａおよび図５Ｂはシグモイド関数σの値の変化を示す図である。 図６Ａおよび図６Ｂは夫々、ニューラルネットワークと、隠れ層のノードからの出力値を示す図である。 図７Ａは出力層のノードからの出力値を示す図であり、図７Ｂはニューラルネットワークを示す図であり、図７Ｃは出力層のノードからの出力値を示す図である。 図８は、本発明の実施例において用いられているデータセットの一覧表を示す図である。 図９は、シリンダ内への吸入空気量ＱＡのマップを示す図である。 図１０Ａおよび図１０Ｂは、相関関数ｆｓ（ｉ）を示す図である。 図１１Ａおよび図１１Ｂは、分散を説明するための図である。 図１２は、各パラメータの寄与率と、累積寄与率を示す図である。 図１３Ａおよび図１３Ｂは、ニューラルネットワークを示す図である。 図１４は、学習ルーチンを示すフローチャートである。 図１５Ａおよび図１５Ｂは、ニューラルネットワークを示す図である。 図１６は、学習ルーチンの別の実施例を示すフローチャートである。 図１７は、図１６において破線Ａで囲まれた部分の別の実施例を示すフローチャートである。 図１８は、図１６において破線Ａで囲まれた部分の更に別の実施例を示すフローチャートである。 図１９は、図１６において破線Ａで囲まれた部分の更に別の実施例を示すフローチャートである。 図２０は、噴射量制御の機能ブロック図を示す図である。 図２１は、噴射量制御ルーチンを示すフローチャートである。 図２２Ａおよび図２２Ｂは、触媒の温度変化を示す図である。 図２３は、噴射量制御の別の実施例の機能ブロック図を示す図である。 図２４は、本発明による更に別の実施例を示す機能ブロック図である。 図２５は、本発明による更に別の実施例を示す機能ブロック図である。
＜内燃機関の全体構成＞
図１に圧縮着火式内燃機関の全体図を示す。図１を参照すると、１は機関本体、２は各気筒の燃焼室、３は各気筒の燃焼室２内に配置された燃料噴射弁、４は吸気マニホルド、５は排気マニホルドを夫々示す。吸気マニホルド４は吸気ダクト６を介して排気ターボチャージャ７のコンプレッサ７ａの出口に連結され、コンプレッサ７ａの入口は吸入空気量検出器８を介してエアクリーナ９に連結される。吸気ダクト６内にはアクチュエータ１０により駆動されるスロットル弁１１が配置され、吸気ダクト６周りには吸気ダクト６内を流れる吸入空気を冷却するためのインタクーラ１２が配置される。
一方、排気マニホルド５は排気ターボチャージャ７の排気タービン７ｂの入口に連結され、排気タービン７ｂの出口は排気管１３を介して排気浄化用触媒コンバータ１４に連結される。図１に示される実施例では、この触媒コンバータ１４内に、上流側から順に、酸化触媒１５とパティキュレートフィルタ１６とが収容されている。排気マニホルド５と吸気マニホルド４とは排気ガス再循環（以下、ＥＧＲと称す）通路１７を介して互いに連結され、ＥＧＲ通路１７内にはＥＧＲ制御弁１８が配置される。更に、ＥＧＲ通路１７内にはＥＧＲ通路１７内を流れるＥＧＲガスを冷却するためのＥＧＲクーラ１９が配置される。各燃料噴射弁３は燃料供給管２０を介してコモンレール２１に連結され、このコモンレール２１は燃料ポンプ２２を介して燃料タンク２３に連結される。
図１に示されるように、排気マニホルド５には、排気マニホルド５内に燃料を噴射するための燃料添加弁２４が配置されている。一方、吸気マニホルド４には、吸気マニホルド４内の吸気圧を検出するための吸気圧センサ２５が配置されており、更に、吸気マニホルド４には、吸気マニホルド４内の吸気温を検出するための吸気温センサ２６が配置されている。また、排気マニホルド５には、排気マニホルド５内の排気圧を検出するための排気圧センサ２７が配置されており、触媒コンバータ１４には、触媒温度、例えば、パティキュレートフィルタ１６の温度を検出するための触媒温センサ２８が配置されている。また、機関本体１には、エンジン冷却水温を検出するための水温センサ２９が配置されており、コモンレール２１には、コモンレール２１内の燃料圧、即ち、コモンレール圧を検出するための燃料圧センサ３０が配置されている。
一方、図１に示される例では、排気管１３内に、機関から排出される未燃燃料量を取得するためにＨＣ濃度センサ３１が配置されている。このようなＨＣ濃度センサ３１を用いた場合には、ＨＣ濃度センサ３１と吸入空気量から未燃燃料量が算出される。なお、ＨＣ濃度センサ３１に代えて、排気管１３内の排気ガス成分を分析可能なガス分析装置を用いることもできる。一方、シリンダヘッド３２の平面断面図を示す図２において、３３は一対の吸気弁、３４は一対の排気弁、３５は、一対の吸気弁３３に向けて二つに分岐された吸気ポート、３６は一方の吸気ポート３５内に配置されたスワール制御弁、３７は、スワール制御弁３７の弁軸、３８はスワール制御弁３６の開度を制御するためのアクチュエータを夫々示す。スワール制御弁３６が閉弁せしめられると、燃焼室２内にはシリンダ軸線回りに旋回するスワール流が発生する。
再び図１を参照すると、電子制御ユニット（ＥＣＵ）４０はデジタルコンピュータからなり、双方向性バス４１によって互いに接続されたROM（リードオンリメモリ）４２、RAM（ランダムアクセスメモリ）４３、ＣＰＵ（マイクロプロセッサ）４４、入力ポート４５および出力ポート４６を具備する。入力ポート４５には、吸入空気量検出器８、吸気圧センサ２５、吸気温センサ２６、排気圧センサ２７、触媒温センサ２８、水温センサ２９、燃料圧センサ３０の出力信号が、対応するAD変換器４７を介して入力される。更に、入力ポート４５には、ＨＣ濃度センサ３１の出力信号、又は、ガス分析装置の出力信号が、対応するAD変換器４７を介して入力される。
また、アクセルペダル５０にはアクセルペダル５０の踏込み量に比例した出力電圧を発生する負荷センサ５１が接続され、負荷センサ５１の出力電圧は対応するAD変換器４７を介して入力ポート４５に入力される。更に入力ポート４５にはクランクシャフトが例えば３０°回転する毎に出力パルスを発生するクランク角センサ５２が接続される。ＣＰＵ４４内ではクランク角センサ５２の出力信号に基づいてエンジン回転数が算出される。一方、出力ポート４６は対応する駆動回路４８を介して燃料噴射弁３、スロットル弁駆動用アクチュエータ１０、ＥＧＲ制御弁１８、燃料ポンプ２２およびスワール制御弁駆動用アクチュエータ３８に接続される。
図３は、燃料噴射弁３から燃焼室２内への燃料噴射形態を示している。なお、図３において、横軸はクランク角を示している。さて、図３において、Ｍは、圧縮上死点近傍で行われるメイン噴射を示しており、Ｐ１は、メイン噴射Ｍの前に最初に行われる第１パイロット噴射を示しており、Ｐ２は、メイン噴射Ｍの前でかつ第１パイロット噴射Ｐ１の後に行われる第２パイロット噴射を示している。また、Ａは、メイン噴射Ｍの後でクランク角７０°前に行われるアフター噴射を示している。この場合、アフター噴射Ａによる噴射燃料は燃焼室２内において燃焼せしめられる。一方、Ｐは、メイン噴射Ｍの後でクランク角７０°後に行われるポスト噴射を示している。この場合、ポスト噴射Ｐによる噴射燃料は、燃焼室２内において燃焼せしめられることなく、未燃ＨＣの形で燃焼室２から排出される。なお、上述のクランク角７０°は一例である。
＜ニューラルネットワークの概要＞
本発明による実施例では、ニューラルネットワークを用いて内燃機関の性能を表す種々の値を推定するようにしている。図４はこのニューラルネットワークの一例を示している。図４における丸印は人工ニューロンを表しており、ニューラルネットワークにおいては、この人工ニューロンは、通常、ノード又はユニットと称される（本願では、ノードと称す）。図４においてL＝１は入力層、L＝２および L＝３は隠れ層、L＝４は出力層を夫々示している。また、図４において、ｘ１およびｘ２ は入力層 ( L＝１) の各ノードからの出力値を示しており、ｙ は出力層 ( L＝４) のノードからの出力値を示しており、ｚ１、ｚ２ およびｚ３ は隠れ層 ( L＝２) の各ノードからの出力値を示しており、ｚ１およびｚ２ は隠れ層 ( L＝３) の各ノードからの出力値を示している。なお、隠れ層の層数は、１個又は任意の個数とすることができ、入力層のノードの数および隠れ層のノードの数も任意の個数とすることができる。なお、本発明による実施例では、出力層のノードの数は１個とされている。
入力層の各ノードでは入力がそのまま出力される。一方、隠れ層 ( L＝２) の各ノードには、入力層の各ノードの出力値ｘ１およびｘ２ が入力され、隠れ層 ( L＝２) の各ノードでは、夫々対応する重みｗおよびバイアスｂを用いて総入力値ｕが算出される。例えば、図４において隠れ層 ( L＝２) のｚｋ（ｋ＝１，２，３）で示されるノードにおいて算出される総入力値ｕｋは、次式のようになる。
Figure 0006501018
 次いで、この総入力値ｕｋは活性化関数ｆにより変換され、隠れ層 ( L＝２) のｚｋで示されるノードから、出力値ｚｋ(= f (ｕｋ)) として出力される。隠れ層 ( L＝２) の他のノードについても同様である。一方、隠れ層 ( L＝３) の各ノード には、隠れ層 ( L＝２) の各ノードの出力値ｚ１、ｚ２ およびｚ３ が入力され、隠れ層 ( L＝3 ) の各ノードでは、夫々対応する重みｗおよびバイアスｂを用いて総入力値ｕ（Σｚ・ｗ＋ｂ）が算出される。この総入力値ｕは同様に活性化関数により変換され、隠れ層 ( L＝3 ) の各ノードから、出力値ｚ１ 、ｚ２ として出力される、なお、本発明による実施例では、この活性化関数としてシグモイド関数σが用いられている。
一方、出力層 ( L＝４) のノード には、隠れ層 ( L＝３) の各ノードの出力値ｚ１ およびｚ２ が入力され、出力層 のノードでは、夫々対応する重みｗおよびバイアスｂを用いて総入力値ｕ（Σｚ・ｗ＋ｂ）が算出されるか、又は、夫々対応する重みｗのみを用いて総入力値ｕ（Σｚ・ｗ）が算出される。本発明による実施例では、出力層のノードでは恒等関数が用いられており、従って、出力層のノードからは、出力層のノードにおいて算出された総入力値ｕが、そのまま出力値ｙとして出力される。
＜ニューラルネットワークによる関数の表現＞
さて、ニューラルネットワークを用いると任意の関数を表現することができ、次に、このことについて簡単に説明する。まず初めに、活性化関数として用いられているシグモイド関数σについて説明すると、シグモイド関数σは、σ（ｘ）＝１/（１＋exp（-ｘ））で表され、図５Ａに示されるようにｘの値に応じて０と１の間の値を取る。ここで、ｘをｗｘ＋ｂに置き換えると、シグモイド関数σは、σ（ｗｘ＋ｂ）＝１/（１＋exp（-ｗｘ―ｂ））で表される。ここで、ｗの値を大きくしていくと、図５Ｂにおいて曲線σ１、σ２、σ３で示されるように、シグモイド関数σ（ｗｘ＋ｂ）の曲線部分の傾斜が次第に急になり、ｗの値を無限大にすると、図５Ｂにおいて曲線σ４で示されるように、シグモイド関数σ（ｗｘ＋ｂ）は、ｘ＝−ｂ/ｗ（ｗｘ＋ｂ＝０）となるｘ、即ち、σ（ｗｘ＋ｂ）＝０．５となるｘにおいて、図５Ｂに示されるように、ステップ状に変化するようになる。このようなシグモイド関数σの性質を利用すると、ニューラルネットワークを用いて任意の関数を表現することができる。
このことを説明するに当たり、初めに、図６Ａに示されるような１個のノードからなる入力層 ( Ｌ＝１) と、２個のノードからなる隠れ層 ( Ｌ＝２) と、１個のノードからなる出力層 ( Ｌ＝３) とにより構成されるニューラルネットワークについて説明する。このニューラルネットワークでは、図６Ａに示されるように、入力層 ( Ｌ＝１) のノードには入力値ｘが入力され、隠れ層 ( Ｌ＝２) においてｚ１で示されるノードには、重みｗ１ (Ｌ２) およびバイアスｂ１を用いて算出された入力値ｕ＝ｘ・ｗ１ (Ｌ２)＋ｂ１ が入力される。この入力値ｕはシグモイド関数σ（ｘ・ｗ１ (Ｌ２)＋ｂ１）により変換され、出力値ｚ１ として出力される。同様に、隠れ層 ( Ｌ＝２) においてｚ２で示されるノードには、重みｗ２ (Ｌ２)およびバイアスｂ２ を用いて算出された入力値ｕ＝ｘ・ｗ2 (Ｌ２)＋ｂ2 が入力され、この入力値ｕはシグモイド関数σ（ｘ・ｗ2 (Ｌ２)＋ｂ2）により変換され、出力値ｚ2 として出力される。
一方、出力層 ( Ｌ＝３) のノード には、隠れ層 ( Ｌ＝２) の各ノードの出力値ｚ１ およびｚ２ が入力され、出力層 のノードでは、夫々対応する重みｗ１ (ｙ) およびｗ２ (ｙ) を用いて総入力値ｕ（Σｚ・ｗ＝ｚ１・ｗ１ (ｙ) ＋ｚ２・ｗ２ (ｙ)）が算出される。前述したように、本発明による実施例では、出力層のノードでは恒等関数が用いられており、従って、出力層のノードからは、出力層のノードにおいて算出された総入力値ｕが、そのまま出力値ｙとして出力される。
さて、図６Ｂは、図６Ａにおける重みｗ１ (Ｌ２) およびｗ2 (Ｌ２) の値を大きくすることにより、シグモイド関数σの値を、図５Ｂに示されるように、ステップ状に変化させた場合を示している。図６Ｂの（Ｉ）には、ｘ＝―ｂ１ /ｗ１ (Ｌ２) において、シグモイド関数σ（ｘ・ｗ１ (Ｌ２)＋ｂ１ ）の値がステップ状に増大するように重みｗ１ (Ｌ２)およびバイアスｂ１が設定されたときの隠れ層 ( Ｌ＝２) のノードからの出力値ｚ１が示されている。また、図６Ｂの（II）には、ｘ＝―ｂ１ /ｗ１ (Ｌ２) よりも少し大きいｘ＝−ｂ２ /ｗ２ (Ｌ２) においてシグモイド関数σ（ｘ・ｗ2 (Ｌ２)＋ｂ2）の値がステップ状に減少するように重みｗ２ (Ｌ２)およびバイアスｂ２ が設定されたときの隠れ層 ( Ｌ＝２) のノードからの出力値ｚ２が示されている。また、図６Ｂの（III）には、隠れ層 ( Ｌ＝２) の各ノードからの出力値ｚ１ とｚ２ の和（ｚ１ ＋ｚ２ ）が実線で示されている。図６Ａに示されるように、各出力値ｚ１ 、ｚ２ には、夫々対応する重みｗ１ (ｙ) およびｗ２ (ｙ) が乗算されており、図６Ｂの（III）には、ｗ１ (ｙ) 、ｗ２ (ｙ) ＞１であるときの出力値ｙが破線で示されている。
このように、図６Ａに示されるニューラルネットワークにおいて、隠れ層 ( Ｌ＝２) の一対のノードにより、図６Ｂの（III）に示されるような短冊状の出力値ｙが得られる。従って、隠れ層 ( Ｌ＝２) の対をなすノード数を増大し、隠れ層 ( Ｌ＝２) の各ノードにおける重みｗおよびバイアスｂの値を適切に設定すると、図７Ａにおいて破線の曲線で示すような関数ｙ＝ｆ(ｘ）を近似する関数を表現できることになる。なお、図７Ａでは、各短冊が接するように描かれているが、実際には、各短冊は部分的に重なる場合がある。また、実際には、ｗの値は無限大とはならないために、各短冊は、正確な短冊状にはならず、図５Ｂにおいてσ３で示される曲線部分の上半分のような曲線状となる。なお、詳細な説明は省略するが、図７Ｂに示されるように、異なる二つの入力値ｘＩおよびｘ２に対し、隠れ層 ( Ｌ＝２)において夫々対応する一対のノードを設けると、図７Ｃに示されるように、入力値ｘＩおよびｘ２に応じた柱状の出力値ｙが得られる。この場合、各入力値ｘＩ、ｘ２に対し、隠れ層 ( Ｌ＝２) に多数の対をなすノードを設けると、夫々異なる入力値ｘＩおよびｘ２に応じた複数個の柱状の出力値ｙが得られ、従って、入力値ｘＩおよびｘ２ と出力値ｙとの関係を示す関数を表現できることがわかる。なお、異なる三つ以上の入力値ｘがある場合でも同様に、入力値ｘと出力値ｙとの関係を示す関数を表現できる。入力値が１個の場合には、入力値の数１＋出力値１個により、関数が２次元平面上で表される。入力値が２個の場合には、入力値の数２＋出力値１個により、関数が３次元空間においで表される。即ち、入力値がｎ個の場合には、入力値の数１＋出力値１個により、関数がｎ＋１次元平面において表される。なお、紙面上に４次元平面以上の空間を表現することはできないので、図は割愛する。なお、本実施例では活性化関数としてシグモイド関数を選択しているが、原理的には、単調に増加しかつ微分可能な関数であってもよい。シグモイド関数を用いる理由は、後述する誤差関数（コスト関数）の極小値（あるいは最小値）を用いる際に、解析的に求めることが困難な場合に勾配降下法を用いるが、当該勾配降下法を適用する際に、後述する誤差逆伝搬法を用いることにより計算を容易にするためである。したがって勾配降下法による計算が可能であればシグモイド関数でなくてもよい。更に勾配降下法を用いるのは、解析的に計算できないためであるが、解析的に計算可能な場合は、勾配降下法を用いる必要はない。
＜ニューラルネットワークにおける学習＞
一方、本発明による実施例では、誤差逆伝播法を用いて、ニューラルネットワーク内における各重みｗの値およびバイアスｂの値が学習される。この誤差逆伝播法は周知であり、従って、誤差逆伝播法についてはその概要を以下に簡単に説明する。なお、バイアスｂは重みｗの一種なので、以下の説明では、バイアスｂは重みｗの一つとされている。さて、図４に示すようなニューラルネットワークにおいて、Ｌ＝２，Ｌ＝３又は Ｌ＝４の各層のノードへの入力値ｕ（Ｌ）における重みをｗ（Ｌ）で表すと、誤差関数Ｅの重みｗ（Ｌ）による微分、即ち、勾配∂Ｅ/∂ｗ（Ｌ）は、書き換えると、次式で示されるようになる。
Figure 0006501018
 ここで、ｚ（Ｌ−１）・∂ｗ（Ｌ）＝ ∂ｕ（Ｌ）であるので、（∂Ｅ/∂ｕ（Ｌ））＝δ（Ｌ）とすると、上記（１）式は、次式でもって表すことができる。
Figure 0006501018
ここで、ｕ（Ｌ）が変動すると、次の層の総入力値ｕ（Ｌ＋１）の変化を通じて誤差関数Ｅの変動を引き起こすので、δ（Ｌ）は、次式で表すことができる。
Figure 0006501018
 ここで、z（Ｌ）＝ｆ(u（Ｌ）) と表すと、上記（３）式の右辺に現れる入力値ｕk （Ｌ＋１）は、次式で表すことができる。
Figure 0006501018
 ここで、上記（３）式の右辺第１項（∂Ｅ/∂ｕ（Ｌ＋１））はδ（Ｌ＋１）であり、上記（３）式の右辺第２項（∂uｋ （Ｌ＋１） /∂u（Ｌ））は、次式で表すことができる。
Figure 0006501018
 従って、δ（Ｌ）は、次式で示される。
Figure 0006501018
 即ち、δ（Ｌ＋１）が求まると、δ（Ｌ）を求めることができることになる。
さて、或る入力値に対して訓練データ、即ち、教師データｙｔが求められており、この入力値に対する出力層からの出力値がｙであった場合、誤差関数として二乗誤差が用いられている場合には、二乗誤差Ｅは、Ｅ＝１/２(ｙ−ｙｔ)２で求められる。この場合、図４の出力層（Ｌ＝４）のノードでは、出力値ｙ＝ ｆ(u（Ｌ）) となり、従って、この場合には、出力層（Ｌ＝４）のノードにおけるδ（Ｌ）の値は、次式で示されるようになる。
Figure 0006501018
 ところで、本発明による実施例では、前述したように、ｆ(u（Ｌ）) は恒等関数であり、ｆ’(u（Ｌｌ）) ＝ １となる。従って、δ（Ｌ）＝ｙ−ｙｔ となり、δ（Ｌ）が求まる。
δ（Ｌ）が求まると、上式（６）を用いて前層のδ（Ｌ−１）が求まる。このようにして順次、前層のδが求められ、これらδの値を用いて、上式（２）から、各重みｗについて誤差関数Ｅの微分、即ち、勾配∂Ｅ/∂ｗ（Ｌ）か求められる。勾配∂Ｅ/∂ｗ（Ｌ）か求められると、この勾配∂Ｅ/∂ｗ（Ｌ）を用いて、誤差関数Ｅの値が減少するように、重みｗの値が更新される。即ち、重みｗの値の学習が行われることになる。なお、訓練データとしてバッチ、又はミニバッチが用いられる場合には、誤差関数Ｅとして、次の二乗和誤差Ｅが用いられる。
Figure 0006501018
 一方、二乗誤差を逐次算出するようにしたオンライン学習が行われる場合には、誤差関数Ｅとして、上述の二乗誤差Ｅが用いられる。
＜本発明による実施例＞
さて、図１に示される内燃機関では、パティキュレートフィルタ１６上に堆積したパティキュレートを燃焼除去するために、パティキュレートフィルタ１６の温度を定期的に、通常運転時の温度よりも高い目標再生温度に維持し、それによりパティキュレートフィルタ１６を再生するパティキュレートフィルタ再生制御が行われる。この場合、パティキュレートフィルタ１６の温度が目標再生温度に対して高すぎると、パティキュレートフィルタ１６が劣化したり、溶損したりする危険性があり、パティキュレートフィルタ１６の温度が目標再生温度に対して低すぎると、堆積したパティキュレートを良好に燃焼除去できなくなる。従って、パティキュレートフィルタ１６の良好な再生を確保するには、パティキュレートフィルタ１６の温度を目標再生温度に維持する必要がある。
ところで、図１に示される内燃機関では、燃料噴射弁３から燃焼室２内にポスト噴射Ｐ（図３を参照）が行われると、或いは、燃料添加弁２４から排気マニホルド５内に燃料噴射が行われると、これら燃料は燃焼することなく、未燃燃料として、酸化触媒１５およびパティキュレートフィルタ１６に送り込まれる。この未燃燃料は、酸化触媒１５或いはパティキュレートフィルタ１６において酸化され、このとき発生する酸化反応熱によってパティキュレートフィルタ１６の温度が上昇せしめられる。一方、燃焼室２からは、燃焼の燃え残りである未燃燃料が排出され、この未燃燃料も、酸化触媒１５或いはパティキュレートフィルタ１６において酸化され、このとき発生する酸化反応熱によってもパティキュレートフィルタ１６の温度が上昇せしめられる。
この場合、パティキュレートフィルタ１６の温度は、酸化触媒１５或いはパティキュレートフィルタ１６において発生する酸化反応熱により決まり、従って、パティキュレートフィルタ１６の温度は、酸化触媒１５およびパティキュレートフィルタ１６に送り込まれる未燃燃料量により決まることになる。従って、図１に示される内燃機関では、パティキュレートフィルタ１６の温度を目標再生温度に維持すべきときには、燃焼室２から排出される、燃焼の燃え残りである未燃燃料量を考慮に入れて、燃料噴射弁３から噴射されるポスト噴射量、或いは、燃料添加弁２４から噴射される燃料噴射量を、パティキュレートフィルタ１６の温度が目標再生温度に維持されるように、制御している。
この場合、燃料噴射弁３から噴射すべきポスト噴射量は、パティキュレートフィルタ１６の温度を目標再生温度に維持するのに必要な未燃燃料量から、燃焼の燃え残りである未燃燃料量、即ち、ポスト噴射以外（図３の例ではP1、P2、M、A）に由来する未燃燃料量を差し引いた量であり、同様に、燃料添加弁２４から噴射すべき燃料噴射量は、パティキュレートフィルタ１６の温度を目標再生温度に維持するのに必要な未燃燃料量から、燃焼室２から排出される、燃焼の燃え残りである未燃燃料量を差し引いた量である。従って、パティキュレートフィルタ１６の温度を正確に目標再生温度に維持するためには、燃焼室２から排出される、燃焼の燃え残りである未燃燃料量を正確に推定する必要がある。そこで本発明では、ニューラルネットワークを用いて、燃焼室２から排出される、燃焼の燃え残りである未燃燃料量を正確に推定するようにしている。なお、以下、この燃焼室２から排出される、燃焼の燃え残りである未燃燃料量を、単に未燃燃料量、又は、燃焼室２から排出される未燃燃料量と称す。従って、未燃燃料量、或いは、燃焼室２から排出される未燃燃料量には、ポスト噴射による燃料は含まれない。
ところで、このようにニューラルネットワークを用いて未燃燃料量を推定する場合には、ニューラルネットワークの入力として、未燃燃料量に影響を与えるパラメータを用いる必要がある。未燃燃料量に影響を与えるパラメータは、本発明者の過去の経験に基づき決定され、図８には、未燃燃料量に影響を与えるパラメータの一例が、一覧表の形で示されている。図８に示される例では、Ｎo. １からＮo. １６までのｍ個（ｍ＝１６）のパラメータ、即ち、メイン噴射量、メイン噴射時期、第１パイロット噴射量、第１パイロット噴射時期、第２パイロット噴射量、第２パイロット噴射時期、アフター噴射量、アフター噴射時期、コモンレール圧、エンジン回転数、吸気マニホルド４内の吸気圧、吸気マニホルド４内の吸気温、エンジン冷却水温、排気圧、ＥＧＲ率およびスワール比が入力パラメータとして用いられている。また、Ｎo. １７は出力パラメータを示しており、図８に示される例では、この出力パラメータは、燃焼室２から排出される未燃燃料量である。
また、図８に示されるように、Ｎo. １からＮo. １６までの各パラメータの値は、ｘ１からｘ１６で示され、出力パラメータの値、即ち、出力値はｙで示される。なお、以下の説明において、各パラメータを、ｘ１からｘ１６で示す場合もある。また、図８には、各パラメータ値ｘ１―ｘ１６の取得方法が記載されている。即ち、図８に示されるように、メイン噴射時期ｘ２、第１パイロット噴射量ｘ３、第１パイロット噴射時期ｘ４、第２パイロット噴射量ｘ５、第２パイロット噴射時期ｘ６、アフター噴射量ｘ７およびアフター噴射時期ｘ８は、電子制御ユニット（ＥＣＵ）４０において発生せしめられる指令値から取得され、エンジン回転数ｘ１０およびＥＧＲ率ｘ１５は、電子制御ユニット（ＥＣＵ）４０における算出値から取得される。
更に、図８に示されるように、コモンレール圧ｘ９は、燃料圧センサ３０の出力値から取得され、吸気マニホルド４内の吸気圧ｘ１１は、吸気圧センサ２５の出力値から取得され、吸気マニホルド４内の吸気温ｘ１２は、吸気温センサ２６の出力値から取得され、エンジン冷却水温ｘ１３は、水温センサ２９の出力値から取得され、排気圧ｘ１４は、排気圧センサ２７の出力値から取得され、スワール比ｘ１６は、スワール制御弁３６の要求開度から取得される。また、燃焼室２から排出される未燃燃料量ｙは、ＨＣ濃度センサ３１の出力値から、又は、ガス分析装置の出力値から取得される。なお、図８に示される各パラメータ値の取得方法は一例を示しており、図８に示される各パラメータ値は、他の別のパラメータのパラメータ値から取得することもできる。
ここで、電子制御ユニット（ＥＣＵ）４０において行われているＥＧＲ率ｘ１５の算出方法について簡単に説明する。ＥＧＲガスの再循環作用が停止しているときに燃焼室２に供給される吸入空気量ＱＡは、過給圧、即ち、吸気マニホルド４内の吸気圧とエンジン回転数との関数となる。この吸入空気量ＱＡは予め実験により求められており、図９に示されるように、吸気マニホルド４内の吸気圧とエンジン回転数との関数としてマップの形でＲＯＭ４２内に記憶されている。ＥＧＲガスの再循環作用が行われているときのＥＧＲ量は、ＲＯＭ４２内に記憶されている吸入空気量ＱＡから、吸入空気量検出器８により検出された吸入空気量を差し引いた量であり、このＥＧＲ量と吸入空気量ＱＡから、ＥＧＲ率ｘ１５（＝ＥＧＲ量/吸入空気量ＱＡ）が算出される。
さて、エンジンは出荷前に、性能の確認のため、種々の運転状態の下で運転が行われ、このとき取得された種々のパラメータの値が予め記憶されている。図８に示されるＮo. １からＮo. １７までのパラメータは、これら種々のパラメータの中の一部であって、これら種々のパラメータには、図８に示されるＮo. １からＮo. １７までのパラメータ以外の、例えば、触媒温センサ２８により検出されたパティキュレートフィルタ１６の温度等の多数の他のパラメータが含まれている。本発明による実施例では、これらの予め記憶されているパラメータの中から、出力パラメータとして未燃燃料量が制御対象とされ、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータが、未燃燃料量に影響を与えるパラメータとして想定されている。
さて、前述したように、ニューラルネットワークを用いて未燃燃料量を推定する場合には、ニューラルネットワークの入力として、未燃燃料量に影響を与えるパラメータを用いる必要がある。従って、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータが、実際に未燃燃料量に影響を与えるか否か、即ち、未燃燃料量と強い相関関係があるか否かを判定する必要が生ずる。そこで本発明による実施例では、相関関数を用いて、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータが、未燃燃料量と強い相関関係があるか否かを判定するようにしている。この相関関数を用いた判定は、データセットに基づいて行われ、従って、先に、このデータセットについて簡単に説明する。
上述したように、エンジンは出荷前に、種々の運転状態の下で運転が行われ、このとき取得された種々のパラメータの値が予め記憶されている。この記憶されているパラメータの値の中から、図８に示されるＮo. １からＮo. １７までのパラメータに関するデータ、即ち、パラメータ値ｘ１−ｘ１６、ｙが抽出され、運転状態毎に抽出されたパラメータ値ｘ１−ｘ１６、ｙが、運転状態毎にデータセットとしてＲＯＭ４２内、或いは、ＲＡＭ４３内に記憶される。この場合、抽出された運転状態がｎ個あったとすると、ｎ個のデータセットが記憶されていることになる。相関関数を用いた判定は、これらｎ個のデータセットに基づいて行われる。
次に、図１０Ａから図１２を参照しつつ、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータから、未燃燃料量と強い相関関係を有するパラメータを選定する方法について説明する。まず初めに、図１０Ａおよび図１０Ｂを参照しつつ、相関関数について説明する。図１０Ａは、図８においてＮo. １で示されるパラメータ値ｘ１、即ち、メイン噴射量ｘ１（横軸）と、図８においてＮo. １７で示される出力値ｙ、即ち、燃焼室２から排出される未燃燃料量ｙ（縦軸）との関係を示している。上述したように、本発明による実施例では、パラメータ値ｘ１−ｘ１６、ｙに関する運転状態毎のｎ個のデータセットが記憶されており、ｉ番目のデータセット中のメイン噴射量をｘ１(ｉ）で表すと、図１０Ａにおける各点は、運転状態毎のデータセット中のメイン噴射量ｘ１(ｉ）（ｉ＝１，２・・・ｎ）と、未燃燃料量ｙとの関係を示している。図１０Ａの横軸には、代表的に、１番目のデータセット中のメイン噴射量を示すｘ１(１）と、２番目のデータセット中のメイン噴射量を示すｘ１(２）とが記載されている。
さて、上述したように、図１０Ａにおける各点は、運転状態毎のデータセット中のメイン噴射量ｘ１(ｉ）と未燃燃料量ｙとの関係を示している。従って、或るデータセット中のメイン噴射量ｘ１(ｉ）と、それとは異なるデータセット中のメイン噴射量ｘ１(ｉ）が図１０Ａの横軸上において隣接していたとしても、即ち、これら二つのメイン噴射量ｘ１(ｉ）がほぼ同量であったとしても、これら二つのメイン噴射量ｘ１(ｉ）の属するデータセットが異なれば運転状態が全く異なるので、これら二つのメイン噴射量ｘ１(ｉ）に対する未燃燃料量ｙは大きく異なる。従って、図１０Ａに示されるように、未燃燃料量ｙは、上下に広範囲にばらつくことになる。
一方、図１０Ａにおける点のばらつきを巨視的に見ると、メイン噴射量ｘ１(ｉ）が大きくなるほど、点が全体的に上方に位置していることがわかる。即ち、メイン噴射量ｘ１(ｉ）が大きくなると、運転状態が種々に変化したとしても、未燃燃料量ｙが次第に増大していくことがわかる。このことは、メイン噴射量ｘ１(ｉ）と未燃燃料量ｙとの間に相関関係があることを意味している。即ち、点の全体的な変化の傾向が相関関係を表していることになる。そこで、本発明による実施例では、点の全体的な変化の傾向を一次関数で表すために、この一次関数を、最小２乗法を用いて求めている。この場合、メイン噴射量ｘ１(ｉ）に対する一次関数は、ｙ＝ｆ１(ｉ）とすると、次式で表される。
Figure 0006501018
 ここで、ａ１は傾きを表しており、ｂ１は切片を表している。
一方、ｘ１(ｉ）のときのｙをｙ(ｉ）とし、ｘ１(ｉ）の平均値をｘ１(ｉ）ｅ とし、y (ｉ）の平均値をy (ｉ）ｅ とすると、最小２乗法の公式から、上記（９）式における傾きａ１および切片ｂ１は、次式で表される。
Figure 0006501018
 従って、図１０Ａに示される各点のｘ１(ｉ）およびｙ(ｉ）の値を用いて、上記（１０）式および上記（１１）式から傾きａ１および切片ｂ１を求めると、上記（９）式で示されるメイン噴射量ｘ１(ｉ）に対する一次関数ｆ１(ｉ）が求まることになる。図１０Ａにおいて実線で示される直線は、この一次関数ｆ１(ｉ）を示している。
図１０Ｂは、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータのうちでｓ番目のパラメータ、即ち、Ｎo. ｓのパラメータ値ｘｓ（横軸）と、図８においてＮo. １７で示される出力値ｙ、即ち、燃焼室２から排出される未燃燃料量ｙ（縦軸）との関係を示している。図１０Ｂにおいて、図１０Ａと同様に、ｉ番目のデータセット中のパラメータ値をｘｓ(ｉ）で表すと、図１０Ｂにおける各点は、図１０Ａと同様に、運転状態毎のデータセット中のパラメータ値ｘｓ(ｉ）（ｉ＝１，２・・・ｎ）と、未燃燃料量ｙとの関係を示している。図１０Ｂの横軸には、代表的に、１番目のデータセット中のパラメータ値ｘｓ(１）と、２番目のデータセット中のパラメータ値ｘｓ(２）とが記載されている。
このＮo. ｓのパラメータ値ｘｓ(ｉ）に対する一次関数を、ｙ＝ｆｓ(ｉ）とすると、この一次関数ｆｓ(ｉ）は、次式で表される。
Figure 0006501018
 ここで、ａｓは傾きを表しており、ｂｓは切片を表している。
一方、ｘｓ(ｉ）のときのｙをｙ(ｉ）とし、ｘｓ(ｉ）の平均値をｘｓ(ｉ）ｅ とし、y (ｉ）の平均値をy (ｉ）ｅ とすると、最小２乗法の公式から、上記（１２）式における傾きａｓおよび切片ｂｓは、次式で表される。
Figure 0006501018
 従って、この場合にも、図１０Ｂに示される各点のｘｓ(ｉ）およびｙ(ｉ）の値を用いて、上記（１３）式および上記（１４）式から傾きａｓおよび切片ｂｓを求めると、上記（１２）式で示されるＮo. ｓのパラメータ値ｘｓに対する一次関数ｆｓ(ｉ）が求まることになる。図１０Ｂにおいて実線で示される直線は、この一次関数ｆｓ(ｉ）を示している。
ところで、図１０Ａに示される一次関数ｆ１(ｉ）と、図１０Ｂに示される一次関数ｆｓ(ｉ）とを比較すると、図１０Ｂに示される一次関数ｆｓ(ｉ）の方が、図１０Ａに示される一次関数ｆ１(ｉ）に比べて、直線の傾きが小さい。直線の傾きが小さいということは、パラメータ値ｘｓが変化しても未燃燃料量ｙがほとんど変化しないことを示している。即ち、直線の傾きが小さいということは、パラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの間に強い相関関係がないことを意味している。従って、図１０Ａおよび図１０Ｂにおいて実線で示される一次関数ｆ１(ｉ）およびｆｓ(ｉ）は、パラメータ値ｘ１(ｉ）と未燃燃料量ｙとの相関の強さおよびパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の強さを夫々表しており、従って、これら一次関数ｆ１(ｉ）およびｆｓ(ｉ）、即ち、各パラメータ値ｘｓ(ｉ）（ｓ＝１，２・・・１６）に対する一次関数ｆｓ(ｉ）は、相関関数と称される。
さて、上述の説明からわかるように、パラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いは、相関関数ｆｓ(ｉ）の傾きａｓが大きくなるほど強くなる。従って、相関関数ｆｓ(ｉ）の傾きａｓからパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いを推定することができる。そこで、本発明による実施例では、内燃機関の運転に関係する各パラメータｘｓ（ｓ＝１，２・・・１６）に対し、パラメータと未燃燃料量との間の相関関係を示す相関関数ｆｓ(ｉ）を求め、この相関関数ｆｓ(ｉ）に基づいて相関度合いの強いパラメータを選定するようにしている。なお、この場合、相関関数ｆｓ(ｉ）は、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなる。
さて、上述したように、相関関数ｆｓ(ｉ）の傾きａｓからパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いを推定することができる。ところが相関関数ｆｓ(ｉ）の傾きａｓは、図１０Ｂの横軸上におけるパラメータ値ｘｓの目盛りの取り方によって変化し、目盛りの間隔を大きくすると相関関数ｆｓ(ｉ）の傾きａｓは小さくなる。従って、相関関数ｆｓ(ｉ）の傾きａｓからパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いを正確に推定することは難しい。そこで、本発明による実施例では、未燃燃料量ｙの平均値と一次関数ｆｓ(ｉ）、即ち、相関関数ｆｓ(ｉ）から求まる未燃燃料量ｙの分散Ｖ（ｆｓ）（ｓ＝１，２・・・１６）を用いている。次に、この分散Ｖ（ｆｓ）について、図１１Ａおよび図１１Ｂを参照しつつ簡単に説明する。
図１１Ａには、図１０Ａに示される各点と、図１０Ａにおいて実線で示される相関関数ｆ１(ｉ）とに加えて、パラメータ値ｘ１(ｉ）の平均値ｘ１ｅ と、未燃燃料量ｙの平均値ｆ１ｅ とが示されており、図１１Ｂには、図１０Ｂに示される各点と、図１０Ｂにおいて実線で示される相関関数ｆｓ(ｉ）とに加えて、パラメータ値ｘｓ(ｉ）の平均値ｘｓｅ と、未燃燃料量ｙの平均値ｆｓｅ とが示されている。図１０Ａに示される場合の分散Ｖ（ｆ１）は、図１１Ａに示されるように、各パラメータ値ｘ１(ｉ）における相関関数ｆ１(ｉ）の値と、未燃燃料量ｙの平均値ｆ１ｅとの差Δｉの二乗和の平均値で表され、同様に、図１０Ｂに示される場合の分散Ｖ（ｆｓ）は、図１１Ｂに示されるように、各パラメータ値ｘｓ(ｉ）における相関関数ｆｓ(ｉ）の値と、未燃燃料量ｙの平均値ｆｓｅとの差Δｉの二乗和の平均値で表される。
即ち、これらの分散Ｖ（ｆ１）および分散Ｖ（ｆｓ）、即ち、各パラメータ値ｘｓ(ｉ）（ｓ＝１，２・・・１６）に対する分散Ｖ（ｆｓ）は、次式により求められる。
Figure 0006501018
 上式（１５）に上式（１２）を代入すると、分散Ｖ（ｆｓ）は次式で示されるように、パラメータ値ｘｓ(ｉ）と、パラメータ値ｘｓ(ｉ）の平均値ｘｓｅ で表される。
Figure 0006501018
図１１Ａおよび図１１Ｂにおいて、差Δｉが大きくなるほど分散Ｖ（ｆｓ）が大きくなり、従って、パラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いは、分散Ｖ（ｆｓ）が大きくなるほど強くなる。従って、分散Ｖ（ｆｓ）からパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いを推定することができる。この場合、分散Ｖ（ｆｓ）は、図１０Ｂおよび図１１Ｂの横軸上におけるパラメータ値ｘｓの目盛りの取り方に関係なく同じ値となる。従って、分散Ｖ（ｆｓ）からパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いを正確に推定することができることになる。従って、本発明による実施例では、相関関数が、最小２乗法を用いて算出された、パラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの間の関係を示す一次関数からなり、未燃燃料量ｙの平均値と一次関数から未燃燃料量の分散Ｖ（ｆｓ）が算出され、分散Ｖ（ｆｓ）に基づいて相関度合いの強いパラメータが選定される。
このようにパラメータ値ｘｓ(ｉ）と未燃燃料量ｙとの相関の度合いは、分散Ｖ（ｆｓ）が大きくなるほど強くなる。従って、分散Ｖ（ｆｓ）が大きくなるほど、パラメータ値ｘｓが未燃燃料量ｙに与える影響は大きくなる。本発明による実施例では、パラメータ値ｘｓの未燃燃料量ｙに与える影響の大きさが、次式に示される寄与率で表される。
Figure 0006501018
 上式（１７）に示されるようにパラメータｘｓの寄与率は、パラメータｘｓの分散Ｖ（ｆｓ）を、ｍ個のパラメータｘｓ（ｓ＝１，２・・・１６）の分散Ｖ（ｆｓ）の和ΣＶ（ｆｍ）で除した値である。この場合、パラメータｘｓの寄与率が大きくなると、パラメータ値ｘｓの未燃燃料量ｙに与える影響が大きくなり、従って、パラメータｘｓの寄与率に基づいて、相関度合いの強いパラメータが選定される。
即ち、本発明による実施例では、分散Ｖ（ｆｓ）に基づき、未燃燃料量に対する相関度合いの強さを示すパラメータｘｓの寄与率が算出され、このパラメータの寄与率に基づいて相関度合いの強いパラメータが選定される。なお、パラメータｘｓの二つ以上の寄与率の和は累積寄与率と称される。例えば、パラメータｘ１の寄与率とパラメータｘ２の寄与率の和は、次式で表される。
Figure 0006501018
 なお、上式（１８）からわかるように、全てのパラメータｘｓの寄与率の和は、１となる。次に、図１２に示される具体例を参照しつつ、これらパラメータｘｓの寄与率および累積寄与率について説明する。
図１２に示される具体例では、図８に示されるＮo. １からＮo. １６までのパラメータｘ１−ｘ１６と、未燃燃料量ｙに関する運転状態毎のｎ個のデータセットに基づいて、上式（１７）により各パラメータｘｓの寄与率が算出され、図１２には、全パラメータｘｓが、算出された寄与率の大きいパラメータｘｓから順に並べて示されている。図１２に示される具体例では、アフター噴射量ｘ７の寄与率が最も高く、次にＥＧＲ率ｘ１５の寄与率が高く、次にメイン噴射量ｘ１の寄与率が高く、次にエンジン回転数ｘ１０の寄与率が高く、次にアフター噴射時期ｘ８の寄与率が高く、次に吸気マニホルド４内の吸気圧ｘ１１の寄与率が高く、次にエンジン冷却水温ｘ１３の寄与率が高い。
その他のパラメータｘｓの寄与率、即ち、コモンレール圧ｘ９の寄与率、第１パイロット噴射時期ｘ４の寄与率、スワール比ｘ１６の寄与率、吸気マニホルド４内の吸気温ｘ１２の寄与率、メイン噴射時期ｘ２の寄与率、第２パイロット噴射時期ｘ６の寄与率、排気圧ｘ１４の寄与率、第１パイロット噴射量ｘ３の寄与率、および第２パイロット噴射量ｘ５の寄与率はほとんど零である。なお、図１２には、寄与率を、大きい方から順に加算したときの累積寄与率が示されている。
次に、本発明による実施例において、選択された相関度合いの強いパラメータｘｓに基づき、ニューラルネットワークを用いて行われる学習制御について、図１３Ａおよび図１３Ｂを参照しつつ説明する。図１３Ａおよび図１３Ｂはニューラルネットワーク示しており、図１３Ａおよび図１３Ｂにおいて、L＝１は入力層、L＝２および L＝３は隠れ層、L＝４は出力層を夫々示している。なお、図１３Ａにおいて、入力層 ( L＝１) は５個のノードからなり、隠れ層 ( L＝２) および隠れ層 ( L＝３) は６個のノードからなるが、隠れ層の層数は、１個又は任意の個数とすることができ、入力層のノードの数および隠れ層のノードの数も任意の個数とすることができる。一方、図１３Ｂにおいて、入力層 ( L＝１) は３個のノードからなり、隠れ層 ( L＝２) および隠れ層 ( L＝３) は４個のノードからなるが、隠れ層の層数は、１個又は任意の個数とすることができ、入力層のノードの数および隠れ層のノードの数も任意の個数とすることができる。なお、本発明による実施例では、図１３Ａおよび図１３Ｂのいずれに示す場合でも、出力層のノードの数は１個とされている。
図１３Ａは、相関度合いの強いパラメータｘｓとして５個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊、Ｘ４ ＊、Ｘ５ ＊ が選定された場合を示している。この場合には、選定された５個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊、Ｘ４ ＊、Ｘ５ ＊ を用いて、出力層（L＝４）からの出力値が、実測された未燃燃料量ｙに近づくように、ニューラルネットワークの重みの学習が行われる。ニューラルネットワークの重みの学習が完了すると、重みの学習の完了したニューラルネットワークを用いて、未燃燃料量ｙの推定が可能となる。即ち、重みの学習の完了したニューラルネットワークの入力層 ( L＝１) に、パラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊、Ｘ４ ＊、Ｘ５ ＊ が入力されると、ニューラルネットワークの出力層（L＝４）からは、未燃燃料量の推定値ｙｅ が出力される。
一方、図１３Ｂは、相関度合いの強いパラメータｘｓとして３個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊ が選定された場合を示している。この場合には、選定された３個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊ を用いて、出力層（L＝４）からの出力値が、実測された未燃燃料量ｙに近づくように、ニューラルネットワークの重みの学習が行われる。この場合にも同様に、ニューラルネットワークの重みの学習が完了すると、重みの学習の完了したニューラルネットワークを用いて、未燃燃料量ｙの推定が可能となる。即ち、重みの学習の完了したニューラルネットワークの入力層 ( L＝１) に、パラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊ が入力されると、ニューラルネットワークの出力層（L＝４）からは、未燃燃料量の推定値ｙｅ が出力される。
次に、図８に示されるデータセットを用いて学習を行う場合を例にとって、図１４に示される学習ルーチンの一例について説明する。図１４を参照すると、まず初めに、ステップ１００において、未燃燃料量に影響を与えると想定されるパラメータが選定される。即ち、前述したように、エンジンは出荷前に、性能の確認のため、種々の運転状態の下で運転が行われ、このとき取得された種々のパラメータの値が予め記憶されている。ステップ１００では、これらの予め記憶されているパラメータの中から、出力パラメータとして未燃燃料量が選定され、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータが、未燃燃料量に影響を与えると想定されるパラメータとして選定される。
次いで、ステップ１０１では、選定されたパラメータの関係を示すデータセット、即ち、図８に示されるデータセットが読み込まれる。次いでステップ１０２では、上式（１２）、（１３）および（１４）から、パラメータｘｓについての相関関数ｆｓ(ｉ）が算出される。次いでステップ１０３では、上式（１６）から、パラメータｘｓについての分散Ｖ（ｆｓ）が算出される。次いで、ステップ１０４では、相関関数ｆｓ(ｉ）又は分散Ｖ（ｆｓ）に基づいて、パラメータｘｓと未燃燃料量ｙとの間の相関度合が、予め定められた基準値よりも大きいか否かが判別される。なお、ｓの初期値は１とされているので、最初にステップ１０２に進んだときには、パラメータｘ１についての相関関数ｆ１(ｉ）が算出され、ステップ１０３において、パラメータｘ１についての分散Ｖ（ｆ１）が算出され、ステップ１０４において、相関関数ｆ１(ｉ）又は分散Ｖ（ｆ１）に基づき、パラメータｘ１と未燃燃料量ｙとの間の相関度合が、予め定められた基準値よりも大きいか否かが判別される。
この場合、ステップ１０４では、例えば、パラメータｘｓについての相関関数ｆｓ(ｉ）の傾きａｓが予め定められた値以上であれば、相関度合が、予め定められた基準値よりも大きいと判別され、又は、パラメータｘｓについての分散Ｖ（ｆ１）が予め定められた値以上であれば、相関度合が、予め定められた基準値よりも大きいと判別される。ステップ１０４において、相関度合が、予め定められた基準値よりも大きいと判別されたときには、ステップ１０５に進んで、パラメータｘｓが、相関度合の強いパラメータとして、電子制御ユニット４０のＲＡＭ４３内に記憶されているリストに登録される。次いで、ステップ１０６に進む。
これに対し、ステップ１０４において、相関度合が、予め定められた基準値よりも大きくないと判別されたときには、ステップ１０６にジャンプする。ステップ１０６では、ｓが１だけインクリメントされる。次いで、ステップ１０７では、ｓがｍ＋１となったか否か、即ち、ｍ個の全てのパラメータｘｓについて、相関度合と、予め定められた基準値との比較がなされたか否かが判別される。ｓがｍ＋１となっていないときにはステップ１０２に戻る。これに対し、ｓがｍ＋１となったとき、即ち、ｍ個の全てのパラメータｘｓについて、相関度合と、予め定められた基準値との比較がなされたと判別されたときには、ステップ１０８に進む。
ステップ１０８では、ニューラルネットワークの入力パラメータの選定が行われる。図１４に示される例では、ステップ１０５においてリストに登録されているパラメータ、即ち、相関度合が、予め定められた基準値よりも大きい相関度合のパラメータが、ニューラルネットワークの入力パラメータとして選定される。次いで、ステップ１０９では、ニューラルネットワークの重みの学習が行われる。このとき、ニューラルネットワークの入力パラメータとして選定されたパラメータがＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊、Ｘ４ ＊、Ｘ５ ＊である場合には、図１３Ａに示されるように、これら５個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊、Ｘ４ ＊、Ｘ５ ＊がニューラルネットワークの入力層 ( L＝１) に入力され、ニューラルネットワークの入力パラメータとして選定されたパラメータがＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊である場合には、図１３Ｂに示されるように、これら３個のパラメータＸ１ ＊、Ｘ２ ＊、Ｘ３ ＊がニューラルネットワークの入力層 ( L＝１) に入力される。
このように、本発明による実施例では、内燃機関の運転に関するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータｘｓが選定され、選定されたパラメータに基づき、未燃燃料量を推定するための機械学習、即ち、教師データを用いた機械学習が行われる。もう少し、具体的に言うと、本発明による実施例では、内燃機関の運転に関係するパラメータの中で、機関から排出される未燃燃料量と相関度合いの強いパラメータｘｓが選定され、選定されたパラメータｘｓに基づき、ニューラルネットワークを用いて、未燃燃料量を推定するための機械学習が行われる。この場合、本発明による実施例では、内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数が求められ、この相関関数に基づいて相関度合いの強いパラメータが選定される。この場合、本発明による実施例では、相関関数が、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなり、未燃燃料量の平均値とこの一次関数から未燃燃料量の分散が算出され、この一次関数又は分散に基づいて相関度合いの強いパラメータが選定される。
ところで、本発明による実施例では、図１に示されるように、内燃機関が電子制御ユニット４０を具備しており、電子制御ユニット４０が、機関の運転に関係する入力パラメータの値を取得するパラメータ値取得部と、入力層、隠れ層および出力層からなるニューラルネットワークを用いて演算を行う演算部と、記憶部とを具備している。この場合、図１に示される例では、入力ポート４５が上述のパラメータ値取得部を構成しており、ＣＰＵ４４が上述の演算部を構成しており、ＲＯＭ４２およびＲＡＭ４３が上述の記憶部を構成している。なお、ＣＰＵ４４、即ち、上述の演算部では、機関の運転パラメータの値が入力層に入力され、機関の運転パラメータの値に応じて変化する出力値が出力層から出力される。
この場合、本発明による実施例では、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータとがパラメータ値取得部により取得され、パラメータ値取得部により取得された未燃燃料量とパラメータとの関係を示すデータセットが記憶部に記憶され、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータが選定され、選定されたパラメータと未燃燃料量から、演算部により、ニューラルネットワークの重みが学習され、重みの学習されたニューラルネットワークを用いてパラメータに応じた未燃燃料量の推定値が出力される。
次に、図１２を参照しつつ説明したパラメータｘｓの寄与率を用いて、相関度合いの強いパラメータｘｓを選定するようにした実施例について説明する。この実施例では、例えば、相関度合いの強いパラメータｘｓとして、パラメータｘｓの寄与率の高い上位三つ以上のパラメータｘｓが選定され、選定されたパラメータｘｓによってニューラルネットワークの重みが学習され、学習済みのニューラルネットワークを用いて、選定されたパラメータ値ｘｓを用いて未燃燃料量ｙの推定値が算出される。図１５Ａおよび図１５Ｂは、この実施例において用いられているニューラルネットワークを示しており、図１６は、この実施例を実行するための学習ルーチンを示している。
図１５Ａおよび図１５Ｂを参照すると、図４と同様に、L＝１は入力層、L＝２および L＝３は隠れ層、L＝４は出力層を夫々示している。なお、図１５Ａにおいて、入力層 ( L＝１) は５個のノードからなり、隠れ層 ( L＝２) および隠れ層 ( L＝３) は６個のノードからなるが、隠れ層の層数は、１個又は任意の個数とすることができ、入力層のノードの数および隠れ層のノードの数も任意の個数とすることができる。一方、図１５Ｂにおいて、入力層 ( L＝１) は３個のノードからなり、隠れ層 ( L＝２) および隠れ層 ( L＝３) は４個のノードからなるが、隠れ層の層数は、１個又は任意の個数とすることができ、入力層のノードの数および隠れ層のノードの数も任意の個数とすることができる。なお、この実施例では、図１５Ａおよび図１５Ｂのいずれに示す場合でも、出力層のノードの数は１個とされている。
次に、図８に示されるデータセットを用いて学習を行う場合を例にとって、図１６に示される学習ルーチンを説明する。図１６を参照すると、まず初めに、ステップ２００において、未燃燃料量に影響を与えると想定されるパラメータが選定される。即ち、前述したように、エンジンは出荷前に、性能の確認のため、種々の運転状態の下で運転が行われ、このとき取得された種々のパラメータの値が予め記憶されている。ステップ２００では、これらの予め記憶されているパラメータの中から、出力パラメータとして未燃燃料量が選定され、図８に示されるＮo. １からＮo. １６までのｍ個のパラメータが、未燃燃料量に影響を与えると想定されるパラメータとして選定される。
次いで、ステップ２０１では、選定されたパラメータの関係を示すデータセット、即ち、図８に示されるデータセットが読み込まれる。次いでステップ２０２では、上式（１２）、（１３）および（１４）から、パラメータｘｓについての相関関数ｆｓ(ｉ）が算出される。次いでステップ２０３では、上式（１６）から、パラメータｘｓについての分散Ｖ（ｆｓ）が算出される。次いで、ステップ２０４では、分散Ｖ（ｆｓ）をΣＶ（ｆｍ）に加算することにより、分散の和ΣＶ（ｆｍ）が算出される。なお、ｓの初期値は１とされているので、最初にステップ２０２に進んだときには、パラメータｘ１についての相関関数ｆ１(ｉ）が算出され、ステップ２０３において、パラメータｘ１についての分散Ｖ（ｆ１）が算出され、ステップ２０４において、分散の和ΣＶ（ｆｍ）に分散Ｖ（ｆ１）が加算される。
次いで、ステップ２０５では、ｓが１だけインクリメントされる。次いで、ステップ２０６では、ｓがｍ＋１となったか否か、即ち、ｍ個の全てのパラメータｘｓについて、分散Ｖ（ｆｓ）が算出されたか否かが判別される。ｓがｍ＋１となっていないときにはステップ２０２に戻る。これに対し、ｓがｍ＋１となったとき、即ち、ｍ個の全てのパラメータｘｓについて、分散Ｖ（ｆｓ）が算出されたと判別されたときには、ステップ２０７に進んで、ｓが１に初期化され、次いで、ステップ２０８に進む。このとき、ステップ２０４では、ｍ個の全てのパラメータｘｓについての分散Ｖ（ｆｓ）の和ΣＶ（ｆｍ）が算出されている。
ステップ２０８では、上式（１７）を用いて、パラメータｘｓの寄与率が算出される。次いで、ステップ２０９では、ｓが１だけインクリメントされる。次いで、ステップ２１０では、ｓがｍ＋１となったか否か、即ち、ｍ個の全てのパラメータｘｓについて、寄与率が算出されたか否かが判別される。ｓがｍ＋１となっていないときにはステップ２０８に戻る。これに対し、ｓがｍ＋１となったとき、即ち、ｍ個の全てのパラメータｘｓについて、寄与率が算出されたと判別されたときには、ステップ２１１に進む。ステップ２１１では、ステップ２０８において算出された寄与率の中で、寄与率の高い上位三つ以上のパラメータｘｓが選定される。次いで、ステップ２１２では、選定されたパラメータｘｓを用いて、ニューラルネットワークの重みの学習が行われる。
図１５Ａは、ステップ２１１において、寄与率の高い上位五つのパラメータｘｓ、即ち、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８（図１２を参照）が選定された場合を示している。この場合には、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８ を用いて、出力層（L＝４）からの出力値が、実測された未燃燃料量ｙに近づくように、ニューラルネットワークの重みの学習が行われる。ニューラルネットワークの重みの学習が完了すると、重みの学習の完了したニューラルネットワークを用いて、未燃燃料量ｙの推定が可能となる。即ち、重みの学習の完了したニューラルネットワークの入力層 ( L＝１) に、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８が入力されると、ニューラルネットワークの出力層（L＝４）からは、未燃燃料量の推定値ｙｅ が出力される。
一方、図１５Ｂは、ステップ２１１において、寄与率の高い上位三つのパラメータｘｓ、即ち、アフター噴射量ｘ７、ＥＧＲ率ｘ１５およびメイン噴射量ｘ１（図１２を参照）が選定された場合を示している。この場合には、アフター噴射量ｘ７、ＥＧＲ率ｘ１５およびメイン噴射量ｘ１を用いて、出力層（L＝４）からの出力値が、実測された未燃燃料量ｙに近づくように、ニューラルネットワークの重みの学習が行われる。この場合にも、ニューラルネットワークの重みの学習が完了すると、重みの学習の完了したニューラルネットワークを用いて、未燃燃料量ｙの推定が可能となる。即ち、重みの学習の完了したニューラルネットワークの入力層 ( L＝１) に、アフター噴射量ｘ７、ＥＧＲ率ｘ１５およびメイン噴射量ｘ１が入力されると、ニューラルネットワークの出力層（L＝４）からは、未燃燃料量の推定値ｙｅ が出力される。
次に、相関度合いの強いパラメータとして、寄与率が予め設定された下限値以上のパラメータを選定するようにした実施例について説明する。この実施例は、図１６に示される学習ルーチンにおいて破線Ａで囲まれたルーチン部分を、図１７において破線Ａで囲まれたルーチン部分に置き換えることにより実行される。図１６に示される学習ルーチンにおいてステップ２００からステップ２０７までは既に説明しているので、ステップ２００からステップ２０７までの説明は省略し、図１７に示されるステップ２２０からステップ２２５についてのみ説明する。
図１７を参照すると、ステップ２２０では、上式（１７）を用いて、パラメータｘｓの寄与率が算出される。次いで、ステップ２２１では、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きいか否かが判別される。パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きいときには、ステップ２２２に進んで、パラメータｘｓが、相関度合の強いパラメータとして、電子制御ユニット４０のＲＡＭ４３内に記憶されているリストに登録される。次いで、ステップ２２３に進む。これに対し、ステップ２２１において、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きくないと判別されたときには、ステップ２２３にジャンプする。
ステップ２２３では、ｓが１だけインクリメントされる。次いで、ステップ２２４では、ｓがｍ＋１となったか否か、即ち、ｍ個の全てのパラメータｘｓについて、寄与率と、予め設定されている下限値Ｒ０との比較がなされたか否かが判別される。ｓがｍ＋１となっていないときにはステップ２２０に戻る。これに対し、ｓがｍ＋１となったとき、即ち、ｍ個の全てのパラメータｘｓについて、寄与率と、予め設定されている下限値Ｒ０との比較がなされたと判別されたときには、ステップ２２５に進む。ステップ２２５では、ステップ２２２においてリストに登録されているパラメータ、即ち、予め設定されている下限値Ｒ０よりも大きい寄与率のパラメータが、ニューラルネットワークの入力パラメータとして選定され、この入力パラメータを用いて、ニューラルネットワークの重みの学習が行われる。
ステップ２２１において用いられている下限値Ｒ０ として、実測された未燃燃料量ｙ、即ち、真の未燃燃料量ｙのばらつきによる分散の変化度を用いることができる。即ち、エンジンにおける公差内での寸法のばらつきにより、同じ運転条件でも、真の未燃燃料量ｙがばらつく。この場合、真の未燃燃料量ｙの分散Ｖ（ｙ）は、真の未燃燃料量ｙと真の未燃燃料量ｙの平均値との二乗和の平均値で表される。ここで、例えば、寸法が公差内の中央であるように作成されたエンジンにおける真の未燃燃料量ｙの分散をＶ（ｙ０）とし、寸法が公差内で最大となるように作成されたエンジンにおける真の未燃燃料量ｙの分散をＶ（ｙ１）とすると、公差内での寸法のばらつきによる真の未燃燃料量ｙの分散Ｖ（ｙ）の変化度は（Ｖ（ｙ１）―Ｖ（ｙ０））/Ｖ（ｙ０）で表される。この分散の変化度が、下限値Ｒ０ として用いられる。即ち、エンジンの公差内で寸法のばらつきによる真の未燃燃料量ｙのばらつき幅が、下限値Ｒ０ として用いられる。
次に、パラメータ値を検出するためのセンサの搭載の有無およびセンサのコストに基づいて、選定されたパラメータの再選定を行うようにした実施例について説明する。この実施例は、図１６に示される学習ルーチンにおいて破線Ａで囲まれたルーチン部分を、図１８において破線Ａで囲まれたルーチン部分に置き換えることにより実行される。図１６に示される学習ルーチンにおいてステップ２００からステップ２０７までは既に説明しているので、ステップ２００からステップ２０７までの説明は省略し、図１８に示されるステップ２３０からステップ２３７についてのみ説明する。
図１８を参照すると、ステップ２３０では、上式（１７）を用いて、パラメータｘｓの寄与率が算出される。次いで、ステップ２３１では、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きいか否かが判別される。パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きいときには、ステップ２３２に進んで、パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載されるか否かが判別される。パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載される場合には、ステップ２３３に進んで、パラメータ値ｘｓを検出するためのセンサの価格、即ち、コストが予め設定された許容コストD０未満であるか否かが判別される。パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０未満であるときにはステップ２３４に進んで、パラメータｘｓが、相関度合の強いパラメータとして、電子制御ユニット４０のＲＡＭ４３内に記憶されているリストに登録される。次いで、ステップ２３５に進む。
これに対し、ステップ２３１において、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きくないと判別されたとき、又はステップ２３２において、パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載されないと判別されたとき、又はステップ２３３において、パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０以上であると判別されたときには、ステップ２３５にジャンプする。ステップ２３５では、ｓが１だけインクリメントされる。次いで、ステップ２３６では、ｓがｍ＋１となったか否か、即ち、ｍ個の全てのパラメータｘｓについて、寄与率と、予め設定されている下限値Ｒ０との比較等がなされたか否かが判別される。
ステップ２３６において、ｓがｍ＋１となっていないと判別されたときにはステップ２３０に戻る。これに対し、ｓがｍ＋１となったとき、即ち、ｍ個の全てのパラメータｘｓについて、寄与率と、予め設定されている下限値Ｒ０との比較等がなされたと判別されたときには、ステップ２３７に進む。ステップ２３７では、ステップ２３４においてリストに登録されているパラメータが、ニューラルネットワークの入力パラメータとして選定され、この入力パラメータを用いて、ニューラルネットワークの重みの学習が行われる。
即ち、この実施例では、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きく、かつ、パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載され、かつ、パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０未満であるときに、パラメータｘｓが、ニューラルネットワークの入力パラメータとして選定される。この場合、別の言い方をすると、パラメータｘｓの寄与率が予め設定されている下限値Ｒ０ よりも大きいときに、パラメータｘｓが、ニューラルネットワークの入力パラメータとして選定され、パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載され、かつ、パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０未満であるときに、パラメータｘｓが、ニューラルネットワークの入力パラメータとして再選定される。
次に、パラメータｘｓの寄与率の高い方から順に寄与率を累積することによって得られる累積寄与率が予め設定された上限値に達したときに、累積寄与率に貢献しているパラメータｘｓを、相関度合いの強いパラメータとして選定するようにした実施例について説明する。この実施例は、図１６に示される学習ルーチンにおいて破線Ａで囲まれたルーチン部分を、図１９において破線Ａで囲まれたルーチン部分に置き換えることにより実行される。図１６に示される学習ルーチンにおいてステップ２００からステップ２０７までは既に説明しているので、ステップ２００からステップ２０７までの説明は省略し、図１９に示されるステップ２４０からステップ２５１についてのみ説明する。
図１９を参照すると、ステップ２４０では、上式（１７）を用いて、全てのパラメータｘｓの寄与率が算出される。次いで、ステップ２４１では、パラメータｘｓの寄与率が大きい方から順にＲ１、Ｒ２、・・・Ｒｋ、・・・とされる。次いで、ステップ２４２では、ΣＲに寄与率Ｒｋを加算することによって、累積寄与率ΣＲが算出される。ここでｋの初期値は１とされており、従って、最初にステップ２４２に進んだときには、ΣＲに最も大きい寄与率Ｒ１が加算される。なお、累積寄与率ΣＲの初期値は零である。次いで、ステップ２４３では、ｋが１だけインクリメントされる。次いで、ステップ２４４では、累積寄与率ΣＲが、予め設定された上限値、例えば、０．９８を越えたか否かが判別される。累積寄与率ΣＲが、予め設定された上限値を越えていないときには、ステップ２４２に戻る。
最初にステップ２４２に戻ったときには、累積寄与率ΣＲに、２番目に大きい寄与率Ｒ２が加算される。次いで、ステップ２４２では、ステップ２４４において、累積寄与率ΣＲが、予め設定された上限値を越えたと判別されるまで、累積寄与率ΣＲに、大きい方から順に寄与率Ｒｋが加算され続ける。次いで、ステップ２４４において、累積寄与率ΣＲが、予め設定された上限値を越えたと判別されると、ステップ２４５に進み、累積寄与率ΣＲに貢献しているパラメータｘｓが、電子制御ユニット４０のＲＡＭ４３内に記憶されているリストに、相関度合いの強いパラメータとして登録される。次いで、ステップ２４６に進む。このときリストに登録されるパラメータｘｓは、リストに登録されなかった残りのパラメータｘｓの寄与率Ｒｋよりも大きい寄与率Ｒｋを有するｋ個のパラメータである。
ステップ２４６からステップ２５０では、リストに登録されたパラメータｘｓについて、パラメータ値を検出するためのセンサの搭載の有無およびセンサのコストに基づき、選定されたパラメータの再選定が行われる。即ち、ステップ２４６では、リストに登録されたパラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載されるか否かが判別される。パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載される場合には、ステップ２４７に進んで、パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０未満であるか否かが判別される。パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０未満であるときにはステップ２４９に進む。
これに対し、ステップ２４６において、パラメータ値ｘｓを検出するためのセンサが、市販される車両に搭載されないと判別されたとき、又は、ステップ２４７において、パラメータ値ｘｓを検出するためのセンサのコストが予め設定された許容コストD０以上であると判別されたときには、ステップ２４８に進み、これら判別の対象になったパラメータｘｓが、リストに登録されたパラメータｘｓから削除される。即ち、リストが更新される。次いで、ステップ２４９に進む。ステップ２４９では、ｓが１だけインクリメントされる。次いで、ステップ２５０では、ｓがｋ＋１となったか否か、即ち、ステップ２４５においてリストに登録されたｋ個の全てのパラメータｘｓについて、センサの搭載に関する判別とセンサのコストに関する判別がなされたか否かが判別される。
ステップ２５０において、ｓがｋ＋１となっていないと判別されたときにはステップ２４６に戻る。これに対し、ｓがｋ＋１となったとき、即ち、ステップ２４５においてリストに登録されたｋ個の全てのパラメータｘｓについて、センサの搭載に関する判別とセンサのコストに関する判別がなされたと判別されたときには、ステップ２５１に進む。ステップ２５１では、ステップ２４８において更新されたリストに登録されているパラメータが、ニューラルネットワークの入力パラメータとして選定され、この入力パラメータを用いて、ニューラルネットワークの重みの学習が行われる。
さて、本発明による実施例では、排気マニホルド５内に配置された燃料添加弁２４からの燃料噴射量を制御することにより、触媒コンバータ１４内に流入する未燃燃料量を制御するようにしている。図２０は、この燃料添加弁２４からの噴射量制御の機能ブロック図を示している。図２０に示されるように、この実施例では、燃料添加弁２４からの基本噴射量を算出するための２次元マップ６０と、燃焼室２から排出される未燃燃料量の推定値ｙe を出力するニューラルネットワーク６１とが用いられている。この場合、本発明による実施例では、触媒コンバータ１４内に流入する未燃燃料量を目標未燃燃料量とするのに必要な燃料添加弁２４からの基本噴射量が予め実験により求められており、この燃料添加弁２４からの基本噴射量が、図２０に示されるように、エンジン回転数ｘ１０およびメイン噴射量ｘ１の関数として、２次元マップ６０の形で、予め電子制御ユニット４０のＲＯＭ４２内に記憶されている。
なお、この場合、燃料添加弁２４からの燃料噴射に変えて、燃料噴射弁３からのポスト噴射を用いることもできる。この場合には、触媒コンバータ１４内に流入する未燃燃料量を目標未燃燃料量とするのに必要な燃料噴射弁３からの基本ポスト噴射量が予め実験により求められており、この燃料噴射弁３からの基本ポスト噴射量が、エンジン回転数ｘ１０およびメイン噴射量ｘ１の関数として、２次元マップの形で、予め電子制御ユニット４０のＲＯＭ４２内に記憶されている。
ところで、図２０に示されるニューラルネットワーク６１は、寄与率の高い上位五つのパラメータｘｓ、即ち、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８（図１２を参照）を入力パラメータとして、ニューラルネットワークの出力値ｙが、燃焼室２から排出される未燃燃料量の実測値に近づくように、ニューラルネットワークの重みの学習が行われた学習済みのニューラルネットワークを示している。このニューラルネットワーク６１は、電子制御ユニット４０のＲＯＭ４２又はＲＡＭ４２内に記憶されている。なお、本発明による実施例では、このニューラルネットワークの重みの学習は、車両の出荷前に行われるが、このニューラルネットワークの重みの学習をオンボードで行うこともできる。
一方、このニューラルネットワーク６１を用いて燃焼室２から排出される未燃燃料量を推定する際には、図２０に示されるように、ニューラルネットワーク６１の入力層（Ｌ＝１）に、寄与率の高い上位五つのパラメータｘｓ、即ち、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８（図１２を参照）が入力される。このとき、ニューラルネットワーク６１からは、燃焼室２から排出される未燃燃料量の推定値ｙe が出力される。次いで、図２０に示されるように、２次元マップ６０から算出された燃料添加弁２４からの基本噴射量から、ニューラルネットワーク６１から出力された未燃燃料量の推定値ｙe が減算され、未燃燃料量の推定値ｙe分だけ減量された燃料が、燃料添加弁２４から噴射される。
図２１は、燃料添加弁２４からの噴射量を制御するための噴射量制御ルーチンを示している。図２０を参照すると、まず初めに、ステップ３００において、パティキュレートフィルタ１６上に堆積したパティキュレートを燃焼除去するためのＰＭ再生要求が発せられているか否かが判別される。ＰＭ再生要求が発せられていないときには、処理サイクルを完了する。これに対し、ＰＭ再生要求が発せられているときには、ステップ３０１に進んで、エンジン回転数ｘ１０およびメイン噴射量ｘ１に基づき、２次元マップ６０から、燃料添加弁２４からの基本噴射量Ｗが算出される。
次いで、ステップ３０２では、ニューラルネットワーク６１から出力された未燃燃料量の推定値ｙe が読み込まれる。次いで、ステップ３０３では、燃料添加弁２４からの基本噴射量Ｗから、未燃燃料量の推定値ｙe を減算した値（Ｗ−ｙe）が算出される。この値（Ｗ−ｙe）は、触媒コンバータ１４内に流入する未燃燃料量を目標未燃燃料量とするのに必要な燃料添加弁２４からの噴射量を表している。次いで、ステップ３０３では、燃料添加弁２４から、噴射量（Ｗ−ｙe）でもって、燃料噴射が行われる。その結果、触媒コンバータ１４内に流入する未燃燃料量を目標未燃燃料量とするのに必要な燃料が燃料添加弁２４から噴射される。
図２２Ａおよび図２２Ｂは、パティキュレートフィルタ１６の再生時に、触媒コンバータ１４内に流入する未燃燃料量が目標未燃燃料量となるように燃料添加弁２４からの噴射量を制御した場合の実験結果を示している。なお、図２２Ｂは、図２２Ａに比べて、パティキュレートフィルタ１６の温度Ｔ、即ち、触媒温度Ｔを、１０倍に拡大して示している。また、図２２Ａおよび図２２Ｂにおいて、実線は、ＥＧＲガス量が目標ＥＧＲガス量に対してずれている場合において、図２０および図２１に示される本発明による噴射量制御が行われた場合を示しており、破線は、ＥＧＲガス量が目標ＥＧＲガス量に対してずれている場合において、従来技術による噴射量制御が行われた場合を示しており、一点鎖線は、ＥＧＲガス量が目標ＥＧＲガス量に対してずれていない場合において、従来技術による噴射量制御が行われた場合を示している。
図２２Ｂからわかるように、ＥＧＲガス量が目標ＥＧＲガス量に対してずれていない場合には、従来技術であっても、パティキュレートフィルタ１６の温度Ｔは、一点鎖線で示されるように、ほぼ目標温度に到達する。一方、ＥＧＲガス量が目標ＥＧＲガス量に対してずれている場合には、従来技術では、パティキュレートフィルタ１６の温度Ｔは、破線で示されるように、目標温度を大巾に越えてしまう。これに対し、ＥＧＲガス量が目標ＥＧＲガス量に対してずれている場合であっても、図２０および図２１に示される本発明による噴射量制御が行われた場合には、パティキュレートフィルタ１６の温度Ｔは、実線で示されるように、目標温度を少し越えるだけである。ところで、ＥＧＲガス量は目標ＥＧＲガス量に対してずれることが多い。従って、本発明による噴射量制御を用いた方が、パティキュレートフィルタ１６の温度Ｔを、目標温度に近づけることができると言える。
図２３は、図２０に示される２次元マップ６０を用いないで、パティキュレートフィルタ１６の再生時に、触媒コンバータ１４内に流入する未燃燃料量が目標未燃燃料量となるように燃料添加弁２４からの噴射量を制御するようにした変形例を示している。この変形例では、図８に示されるデータセットにおいて、出力パラメータとして、未燃燃料量ｙの代わりに、燃料添加弁２４からの噴射量ｙが用いられ、寄与率の高いパラメータｘｓを入力パラメータとして、この噴射量ｙが目標未燃燃料量に近づくように、図２３に示されるニューラルネットワークの重みが学習される、
一方、ニューラルネットワークを用いて燃料添加弁２４からの噴射量を推定する際には、図２３に示されるように、この変形例でも、例えば、寄与率の高い上位五つのパラメータｘｓ、即ち、アフター噴射量ｘ７、ＥＧＲ率ｘ１５、メイン噴射量ｘ１、エンジン回転数ｘ１０およびアフター噴射時期ｘ８（図１２を参照）が、ニューラルネットワークの入力層（Ｌ＝１）に入力される。このとき、ニューラルネットワークからは、燃料添加弁２４からの噴射量の推定値ｙe が出力され、燃料添加弁２４からは、この推定値ｙeでもって、燃料噴射が行われる。
さて、本発明による実施例では、図１４、図１６、図１７、図１８および図１９に示されるように、ニューラルネットワークを用いて、内燃機関の運転に関するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータと未燃燃料量から、未燃燃料量を推定するための学習済みモデルが作成される。
この場合、本発明による実施例では、この学習済みモデルは、内燃機関の運転に関するパラメータ、即ち、燃料圧センサ３０により検出されたコモンレール圧、吸気温センサ２６により検出された吸気マニホルド４内の吸気圧、水温センサ２９により検出されたエンジン冷却水温、排気圧センサ２７により検出された排気圧、スワール制御弁３６の要求開度から取得されたスワール比、電子制御ユニット（ＥＣＵ）４０において発生せしめられる指令値又は算出値から取得されたメイン噴射量、メイン噴射時期、第１パイロット噴射量、第１パイロット噴射時期、第２パイロット噴射量、第２パイロット噴射時期、アフター噴射量、アフター噴射時期、エンジン回転数およびＥＧＲ率の中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータと未燃燃料量の関係を示すデータセットに基づき、選定されたパラメータをニューラルネットワークの入力パラメータとすると共に未燃燃料量を教師データとして、ニューラルネットワークの重みが学習された学習済みモデルからなる。
一方、本発明による実施例では、この学習済みモデルが、電子制御ユニット４０内に組み込まれる。この場合、本発明による実施例では、この電子制御ユニットは、上述の内燃機関の運転に関するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータと未燃燃料量の関係を示すデータセットに基づき、選定されたパラメータをニューラルネットワークの入力パラメータとすると共に未燃燃料量を教師データとして、ニューラルネットワークの重みが学習された学習済みモデルの組み込まれた電子制御ユニットからなる。
一方、電子制御ユニット４０を製造するに当たり、学習済みのニューラルネットワークを学習済みモデルとして内部に組み込むことが可能である。従って、本発明による実施例では、電子制御ユニット製造方法として、上述の内燃機関の運転に関するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータと未燃燃料量の関係を示すデータセットに基づき、選定されたパラメータをニューラルネットワークの入力パラメータとすると共に未燃燃料量を教師データとして、ニューラルネットワークの重みが学習され、学習済みのニューラルネットワークを学習済みモデルとして内部に組み込むことで電子制御ユニットを製造する電子制御ユニット製造方法が用いられている。
一方、図２４は、機関から排出される未燃燃料量を予測する機械学習システムの一例の全体図を示している。図２４を参照すると、７０は車両を示しており、７１は車両７０の外部に設置されているサーバを示している。この車両７０では、燃料圧センサ３０、吸気温センサ２６、水温センサ２９、排気圧センサ２７、スワール制御弁３６の要求開度、電子制御ユニット（ＥＣＵ）４０において発生せしめられる指令値又は算出値、および、ＨＣ濃度センサ３１、又は、ガス分析装置に基づき、コモンレール圧、吸気マニホルド４内の吸気圧、エンジン冷却水温、排気圧、スワール比、メイン噴射量、メイン噴射時期、第１パイロット噴射量、第１パイロット噴射時期、第２パイロット噴射量、第２パイロット噴射時期、アフター噴射量、アフター噴射時期、エンジン回転数およびＥＧＲ率、および、機関から排出される未燃燃料量が求められている。
一方、サーバ７１は、図２４に示されるように、車両７１との間で通信を行う通信部７２と、車両７０から通信部７２を介して、コモンレール圧、吸気マニホルド４内の吸気圧、エンジン冷却水温、排気圧、スワール比、メイン噴射量、メイン噴射時期、第１パイロット噴射量、第１パイロット噴射時期、第２パイロット噴射量、第２パイロット噴射時期、アフター噴射量、アフター噴射時期、エンジン回転数およびＥＧＲ率、および、機関から排出される未燃燃料量機関から排出される未燃燃料量と、未燃燃料量からなるパラメータ値を取得するパラメータ値取得部７３と、パラメータ値取得部７３により取得されたパラメータと取得された未燃燃料量との関係を示すデータセットを記憶する記憶部７４と、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータを選定するパラメータ選定部７５と、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みを学習する学習部７６とを具備している。
即ち、この機関から排出される未燃燃料量を予測する機械学習システムは、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータとを取得するパラメータ値取得部と、パラメータ値取得部により取得されたパラメータと、取得された未燃燃料量との関係を示すデータセットを記憶する記憶部と、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータを選定するパラメータ選定部と、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みを学習する学習部とを具備している。
この、機械学習システムでは、車両７０において取得された、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータに関するデータがサーバ７１の通信部７２により受信され、受信された未燃燃料量と、未燃燃料量に関係するパラメータとの関係を示すデータセットが記憶され、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータが選定され、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みの学習が行われる。
一方、図２５は、内燃機関の排気浄化触媒の温度を予測する機械学習システムの別の例の全体図を示している。この例においても、図２４と同様に、７０は車両を示しており、７２は車両７１の外部に設置されているサーバを示している。このサーバ７１も、図２４に示されるサーバ７１と同様に、車両７１との間で通信を行う通信部７２と、車両７０から通信部７２を介して、コモンレール圧、吸気マニホルド４内の吸気圧、エンジン冷却水温、排気圧、スワール比、メイン噴射量、メイン噴射時期、第１パイロット噴射量、第１パイロット噴射時期、第２パイロット噴射量、第２パイロット噴射時期、アフター噴射量、アフター噴射時期、エンジン回転数およびＥＧＲ率、および、機関から排出される未燃燃料量機関から排出される未燃燃料量と、未燃燃料量からなるパラメータ値を取得するパラメータ値取得部７３と、パラメータ値取得部７３により取得されたパラメータと取得された未燃燃料量との関係を示すデータセットを記憶する記憶部７４と、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータを選定するパラメータ選定部７５と、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みを学習する学習部７６とを具備している。
一方、この例では、車両７０が、車載電子制御ユニット４０に加え、サーバ７１との間で通信を行う通信部７７を具備している。この例でも、車両７０において取得された、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータに関するデータがサーバ７１の通信部７２により受信され、受信された未燃燃料量と、未燃燃料量に関係するパラメータとの関係を示すデータセットが記憶され、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータが選定され、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みの学習、即ち、機関から排出される未燃燃料量の学習が行われる。次いで、機関から排出される未燃燃料量の学習済みモデルが、サーバ７１の通信部７２から車両７０の通信部７７に送信され、通信部７７において受信された学習済みモデルによって車載電子制御ユニット４０内のニューラルネットワークの重みが更新される。
即ち、この例では、車載電子制御ユニット４０は、車両７０において、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータの値を示すデータを取得し、このデータをサーバ７１に送信し、サーバ７１において、受信されたパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定すると共に、選定されたパラメータと未燃燃料量を用いてニューラルネットワークの重みが学習された学習済みモデルが生成され、生成された学習済みモデルが車両７０に送信され、車両７０において、学習済みモデルを用いて、取得されたパラメータの値から、未燃燃料量を予測する車載電子制御ユニットあって、サーバ７１が、機関から排出される未燃燃料量と、未燃燃料量に関係するパラメータとを取得するパラメータ値取得部７３と、パラメータ値取得部７３により取得されたパラメータと取得された未燃燃料量との関係を示すデータセットを記憶する記憶部７４と、データセットに記憶されているパラメータの中で、未燃燃料量と相関度合いの強いパラメータを選定するパラメータ選定部７５と、選定されたパラメータと未燃燃料量から、ニューラルネットワークの重みを学習する学習部７６とを備える、車載電子制御ユニットからなる。
なお、本機械学習は回帰問題として連続値となる出力を扱っているが、出力が有限個の離散カテゴリとなる分類問題（多クラス分類）として考えることもできる。具体的には出力として複数のクラスを用意し、その各クラスと未燃燃料量を対応させてやればよい。
また、機械学習のうち教師あり学習にはニューラルネットワークだけでなく、ランダムフォレスト、サポートベクターマシン、k近傍法等の種々の方法がある。これらモデルはあくまで特徴ベクトルによって張られる特徴空間において境界線を張り、決定境界を効率よく求めるアルゴリズムという点で共通する。すなわちニューラルネットワークで推定が可能であるならば、他の教師あり学習のモデルでも機械学習可能である。
また、機械学習として教師あり学習を用いる代わりに、半教師あり学習を用いることもできる。
１ 内燃機関
２ 燃焼室
３ 点火栓
４ 燃料噴射弁
１４ 触媒コンバータ
１５ 酸化触媒
１６ パティキュレートフィルタ
２４ 燃料添加弁
２５ 吸気圧センサ
２６ 吸気温センサ
２７ 排気圧センサ
２９ 水温センサ
３０ 燃料圧センサ
３１ ＨＣ濃度センサ
４０ 電子制御ユニット

Claims (4)

  1. 内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数を求め、該相関関数が、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなり、未燃燃料量の平均値と該一次関数から未燃燃料量の分散が算出され、該分散に基づき、未燃燃料量に対する相関度合いの強さを示すパラメータの寄与率が算出され、該寄与率が予め設定された下限値以上のパラメータが、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータとして選定され、真の未燃燃料量のばらつきによる分散の変化度が、該下限値とされ、選定された該パラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置。
  2. 内燃機関の運転に関係する各パラメータに対し、パラメータと未燃燃料量との間の相関関係を示す相関関数を求め、該相関関数が、最小２乗法を用いて算出された、パラメータ値と未燃燃料量との間の関係を示す一次関数からなり、未燃燃料量の平均値と該一次関数から未燃燃料量の分散が算出され、該分散に基づき、未燃燃料量に対する相関度合いの強さを示すパラメータの寄与率が算出され、パラメータの寄与率の高い方から順に該寄与率を累積することによって得られる累積寄与率が予め設定された上限値に達したときに、該累積寄与率に貢献しているパラメータが、内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータとして選定され、選定された該パラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置。
  3. 内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータが、アフター噴射量、ＥＧＲ率およびメイン噴射量からなり、選定された該パラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置。
  4. 内燃機関の運転に関係するパラメータの中から、機関から排出される未燃燃料量と相関度合いの強いパラメータを選定し、選定されたパラメータが、機関回転数、メイン噴射量、アフター噴射量、アフター噴射時期およびＥＧＲ率からなり、選定された該パラメータに基づき、未燃燃料量を推定するための機械学習が行われることを特徴とする、教師データを用いて機械学習を行う未燃燃料量の機械学習装置。
JP2018081365A 2018-04-20 2018-04-20 未燃燃料量の機械学習装置 Active JP6501018B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018081365A JP6501018B1 (ja) 2018-04-20 2018-04-20 未燃燃料量の機械学習装置
US16/007,446 US10991174B2 (en) 2018-04-20 2018-06-13 Machine learning device of amount of unburned fuel, machine learning method, learned model, electronic control unit, method of production of electronic control unit, and machine learning system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018081365A JP6501018B1 (ja) 2018-04-20 2018-04-20 未燃燃料量の機械学習装置

Publications (2)

Publication Number Publication Date
JP6501018B1 true JP6501018B1 (ja) 2019-04-17
JP2019190306A JP2019190306A (ja) 2019-10-31

Family

ID=66166729

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018081365A Active JP6501018B1 (ja) 2018-04-20 2018-04-20 未燃燃料量の機械学習装置

Country Status (2)

Country Link
US (1) US10991174B2 (ja)
JP (1) JP6501018B1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11156178B2 (en) * 2017-09-12 2021-10-26 Ford Global Technologies, Llc Diesel engine particulate filter regeneration system and methods
JP2019116881A (ja) * 2017-12-27 2019-07-18 トヨタ自動車株式会社 内燃機関の制御装置
JP6702380B2 (ja) * 2018-09-14 2020-06-03 トヨタ自動車株式会社 内燃機関の制御装置
JP7079445B2 (ja) * 2018-09-25 2022-06-02 本田技研工業株式会社 モデルパラメータ学習装置、制御装置及びモデルパラメータ学習方法
JP7143895B2 (ja) * 2018-09-27 2022-09-29 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム
DE102019124259A1 (de) * 2019-09-10 2021-03-11 Bayerische Motoren Werke Aktiengesellschaft Ermitteln eines Sensorfehlers eines Sensors in einem Abgasstrang eines Kraftfahrzeugs
US11459962B2 (en) * 2020-03-02 2022-10-04 Sparkcognitton, Inc. Electronic valve control
JP2021156258A (ja) * 2020-03-30 2021-10-07 株式会社豊田中央研究所 モデル構築装置、モデル構築方法、エンジン制御パラメータ決定方法、及びエンジン
DE102020116488B3 (de) * 2020-06-23 2021-03-25 Iav Gmbh Ingenieurgesellschaft Auto Und Verkehr Verfahren zum Betreiben einer Brennkraftmaschine, Steuergerät und Brennkraftmaschine
JP7388343B2 (ja) * 2020-12-18 2023-11-29 トヨタ自動車株式会社 ターボチャージャのオイルコーキング堆積量の推定装置
CN115762653B (zh) * 2022-11-11 2023-08-11 哈尔滨工程大学 基于进化算法和深度学习的燃料燃烧机理优化方法

Family Cites Families (67)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2792633B2 (ja) * 1990-02-09 1998-09-03 株式会社日立製作所 制御装置
SE509805C2 (sv) * 1994-08-11 1999-03-08 Mecel Ab Metod och system för reglering av förbränningsmotorer
DE69635429T2 (de) * 1995-01-27 2006-08-03 Matsushita Electric Industrial Co., Ltd., Kadoma Luft/Kraftstoff-Verhältnis-Steuersystem
US6098012A (en) * 1995-02-13 2000-08-01 Daimlerchrysler Corporation Neural network based transient fuel control method
JP3510021B2 (ja) * 1995-09-29 2004-03-22 松下電器産業株式会社 内燃機関の空燃比制御装置
US5745653A (en) * 1996-02-05 1998-04-28 Ford Global Technologies, Inc. Generic neural network training and processing system
US5781700A (en) * 1996-02-05 1998-07-14 Ford Global Technologies, Inc. Trained Neural network air/fuel control system
DE69729981T2 (de) * 1996-05-28 2004-12-16 Honda Giken Kogyo K.K. Gerät zur Steuerung des Luft/Kraftstoffverhältnisses, das ein neuronales Netzwerk benutzt
US6278986B1 (en) * 1996-06-27 2001-08-21 Yahama Hatsudoki Kabushiki Kaisha Integrated controlling system
US6032139A (en) * 1996-09-27 2000-02-29 Yamaha Hatsudoki Kabushiki Kaisha Electronic controller using genetic evolution techniques suitable for controlling a motor
JP3825845B2 (ja) * 1996-09-27 2006-09-27 ヤマハ発動機株式会社 進化的制御方式
JPH10122017A (ja) * 1996-10-14 1998-05-12 Yamaha Motor Co Ltd エンジン制御方式
US5915359A (en) * 1996-12-13 1999-06-29 Ford Global Technologies, Inc. Method and system for determining and controlling A/F ratio during cold start engine operation
US5690072A (en) * 1996-12-13 1997-11-25 Ford Global Technologies, Inc. Method and system for determining and controlling a/f ratio in lean engines
DE19706750A1 (de) * 1997-02-20 1998-08-27 Schroeder Dierk Prof Dr Ing Dr Verfahren zur Gemischsteuerung bei einem Verbrennungsmotor sowie Vorrichtung zu dessen Durchführung
US6330553B1 (en) * 1997-04-09 2001-12-11 Yamaha Hatsudoki Kabushiki Kaisha Autonomic system for updating fuzzy neural network and control system using the fuzzy neural network
US6236908B1 (en) * 1997-05-07 2001-05-22 Ford Global Technologies, Inc. Virtual vehicle sensors based on neural networks trained using data generated by simulation models
US5806013A (en) * 1997-08-29 1998-09-08 Echlin, Inc. Control of engine fuel delivery using an artificial neural network in parallel with a feed-forward controller
JPH1185719A (ja) * 1997-09-03 1999-03-30 Matsushita Electric Ind Co Ltd パラメータ推定装置
US6405122B1 (en) * 1997-10-14 2002-06-11 Yamaha Hatsudoki Kabushiki Kaisha Method and apparatus for estimating data for engine control
DE69929920D1 (de) * 1998-04-09 2006-04-27 Yamaha Motor Co Ltd Krafstoffeinspritzsteuereinheit für ein Brennkraftmaschine
EP0959414A1 (en) * 1998-05-20 1999-11-24 Yamaha Hatsudoki Kabushiki Kaisha Optimization method for a fuzzy neural network
US6678640B2 (en) * 1998-06-10 2004-01-13 Matsushita Electric Industrial Co., Ltd. Method and apparatus for parameter estimation, parameter estimation control and learning control
US6415272B1 (en) * 1998-10-22 2002-07-02 Yamaha Hatsudoki Kabushiki Kaisha System for intelligent control based on soft computing
JP3959980B2 (ja) * 2001-04-26 2007-08-15 三菱ふそうトラック・バス株式会社 実験計画法に基づくデータ解析方法および装置並びに実験計画法に基づくデータ解析プログラムおよび同プログラムを記録したコンピュータ読み取り可能な記録媒体
US6687597B2 (en) * 2002-03-28 2004-02-03 Saskatchewan Research Council Neural control system and method for alternatively fueled engines
US6882929B2 (en) 2002-05-15 2005-04-19 Caterpillar Inc NOx emission-control system using a virtual sensor
US6805099B2 (en) * 2002-10-31 2004-10-19 Delphi Technologies, Inc. Wavelet-based artificial neural net combustion sensing
JP2004239233A (ja) * 2003-02-10 2004-08-26 Toyota Motor Corp 内燃機関の気筒別空燃比の推定および気筒排気割合の推定
US7181334B2 (en) * 2003-05-14 2007-02-20 General Motors Corporation Method and apparatus to diagnose intake airflow
DE10328015A1 (de) * 2003-06-23 2005-01-13 Volkswagen Ag Virtuelle Lambdasonde für ein Kraftfahrzeug
DE602004004221T2 (de) 2003-09-19 2007-05-03 Nissan Motor Co., Ltd., Yokohama Regenerationssteuerung eines Filters
JP4432693B2 (ja) * 2003-09-19 2010-03-17 日産自動車株式会社 エンジンの排気浄化装置本発明はエンジンの排気浄化装置に関し、詳しくはエンジン排気中の微粒子状物質を捕集するフィルタの再生処理技術の改良に関する。
FR2867232B1 (fr) * 2004-03-05 2006-05-05 Inst Francais Du Petrole Methode d'estimation de la richesse en carburant dans un cylindre d'un moteur a combustion
US7299123B2 (en) * 2005-03-04 2007-11-20 Stmicroelectronics S.R.L. Method and device for estimating the inlet air flow in a combustion chamber of a cylinder of an internal combustion engine
EP2275946A1 (en) * 2005-03-04 2011-01-19 STMicroelectronics S.r.l. Probabilistic neural network and relative training method
US7565333B2 (en) * 2005-04-08 2009-07-21 Caterpillar Inc. Control system and method
US7499842B2 (en) * 2005-11-18 2009-03-03 Caterpillar Inc. Process model based virtual sensor and method
US7505949B2 (en) * 2006-01-31 2009-03-17 Caterpillar Inc. Process model error correction method and system
US20070233326A1 (en) * 2006-03-31 2007-10-04 Caterpillar Inc. Engine self-tuning methods and systems
JP4673787B2 (ja) * 2006-05-10 2011-04-20 本田技研工業株式会社 内燃機関の空燃比制御装置
JP4591423B2 (ja) 2006-08-09 2010-12-01 株式会社デンソー エンジンの燃料未燃分推定装置、排気浄化装置の温度推定装置
US8478506B2 (en) * 2006-09-29 2013-07-02 Caterpillar Inc. Virtual sensor based engine control system and method
JP4645585B2 (ja) 2006-12-12 2011-03-09 株式会社デンソー エンジントルク制御装置
WO2008131789A1 (de) * 2007-04-26 2008-11-06 Fev Motorentechnik Gmbh Regelungssystem zur regelung der abgasrückführrate mittels virtuellem nox-sensors mit adaption über einen nox sensor
US7787969B2 (en) * 2007-06-15 2010-08-31 Caterpillar Inc Virtual sensor system and method
US7899652B2 (en) * 2007-08-31 2011-03-01 Toyota Motor Engineering & Manufacturing North America, Inc. Linear programming support vector regression with wavelet kernel
US7542879B2 (en) * 2007-08-31 2009-06-02 Caterpillar Inc. Virtual sensor based control system and method
US7593804B2 (en) * 2007-10-31 2009-09-22 Caterpillar Inc. Fixed-point virtual sensor control system and method
US8224468B2 (en) * 2007-11-02 2012-07-17 Caterpillar Inc. Calibration certificate for virtual sensor network (VSN)
DE602008001659D1 (de) * 2008-01-29 2010-08-12 Honda Motor Co Ltd Steuersystem für einen Verbrennungsmotor
US20090300422A1 (en) * 2008-05-30 2009-12-03 Caterpillar Inc. Analysis method and system using virtual sensors
US7917333B2 (en) * 2008-08-20 2011-03-29 Caterpillar Inc. Virtual sensor network (VSN) based control system and method
US8965664B2 (en) * 2009-03-27 2015-02-24 Honda Motor Co., Ltd. Controller for plant
DE102009032064B3 (de) * 2009-07-07 2010-08-26 Continental Automotive Gmbh Verfahren und Vorrichtung zum Betreiben einer Brennkraftmaschine
US8676476B2 (en) * 2009-12-04 2014-03-18 GM Global Technology Operations LLC Method for real-time, self-learning identification of fuel injectors during engine operation
US8880321B2 (en) * 2011-03-07 2014-11-04 Toyota Motor Engineering & Manufacturing North America, Inc. Adaptive air charge estimation based on support vector regression
US8793004B2 (en) * 2011-06-15 2014-07-29 Caterpillar Inc. Virtual sensor system and method for generating output parameters
US9650934B2 (en) * 2011-11-04 2017-05-16 Honeywell spol.s.r.o. Engine and aftertreatment optimization system
US8738271B2 (en) * 2011-12-16 2014-05-27 Toyota Motor Engineering & Manufacturing North America, Inc. Asymmetric wavelet kernel in support vector learning
US8977373B2 (en) * 2011-12-28 2015-03-10 Caterpillar Inc. Systems and methods for extending physical sensor range using virtual sensors
US20130268177A1 (en) * 2012-04-05 2013-10-10 Chrysler Group Llc Individual cylinder fuel air ratio estimation for engine control and on-board diagnosis
US20140012791A1 (en) * 2012-07-05 2014-01-09 Caterpillar Inc. Systems and methods for sensor error detection and compensation
US9328644B2 (en) * 2013-09-24 2016-05-03 GM Global Technology Operations LLC Exhaust system and method of estimating diesel particulate filter soot loading for same using two-tier neural network
US10415492B2 (en) * 2016-01-29 2019-09-17 Garrett Transportation I Inc. Engine system with inferential sensor
US10634081B2 (en) * 2018-02-05 2020-04-28 Toyota Jidosha Kabushiki Kaisha Control device of internal combustion engine
JP6477951B1 (ja) * 2018-04-05 2019-03-06 トヨタ自動車株式会社 車載電子制御ユニット

Also Published As

Publication number Publication date
US20190325671A1 (en) 2019-10-24
US10991174B2 (en) 2021-04-27
JP2019190306A (ja) 2019-10-31

Similar Documents

Publication Publication Date Title
JP6501018B1 (ja) 未燃燃料量の機械学習装置
JP6477951B1 (ja) 車載電子制御ユニット
EP3690558B1 (en) Control device of internal combustion engine, in-vehicle electronic control unit, machine learning system, control method of internal combustion engine, manufacturing method of electronic control unit, and output parameter calculation device
CN111016920B (zh) 车辆用驱动装置的控制装置及控制方法、车载电子控制单元、已学习模型和机器学习系统
CN111022206B (zh) 车辆用驱动装置的控制装置及方法、车载电子控制单元
US9228511B2 (en) Engine feedback control system and method
CN101622437B (zh) 用于估计内燃机的排气温度的方法和设备
CN104895651A (zh) 对颗粒过滤器碳烟速率的环境湿度和温度校正
JP6699702B2 (ja) 内燃機関の制御装置及びその制御方法、並びに内燃機関を制御するための学習モデル及びその学習方法
De Cesare et al. Neural network based models for virtual no x sensing of compression ignition engines
Quérel et al. State of the art and analysis of control oriented NOx models
Fischer Transient NOx estimation using artificial neural networks
JP2011132915A (ja) 物理量推定装置
CN102102565B (zh) 在内燃发动机运转过程中进行“车上”故障诊断的方法和装置
US20220351022A1 (en) Method and Arrangement for Predicting Engine Out Nitrogen Oxides (EONOx) using a Neural Network
CN111164292B (zh) 用于求取燃烧马达的燃烧废气中的炭黑浓度的方法和装置
Wang A study of model-based control strategy for a gasoline turbocharged direct injection spark ignited engine
JP2010096021A (ja) 内燃機関の燃焼状態診断装置
JP2020045821A (ja) 内燃機関の制御装置
US11840974B2 (en) Intelligent mass air flow (MAF) prediction system with neural network
Bojahr et al. Synthetic Fuel Detection for Vehicles in Field using Machine Learning
WO2021034259A1 (en) Method of performing misfire diagnosis, control arrangement, internal combustion engine, and related devices
bin Elias Modelling and prediction of air path behaviour in a heavy-duty engine using artificial neural networks

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180615

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180615

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180615

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181019

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190116

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20190116

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190123

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20190129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190304

R151 Written notification of patent or utility model registration

Ref document number: 6501018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151