JP6371655B2 - 車両挙動判定装置 - Google Patents

車両挙動判定装置 Download PDF

Info

Publication number
JP6371655B2
JP6371655B2 JP2014192665A JP2014192665A JP6371655B2 JP 6371655 B2 JP6371655 B2 JP 6371655B2 JP 2014192665 A JP2014192665 A JP 2014192665A JP 2014192665 A JP2014192665 A JP 2014192665A JP 6371655 B2 JP6371655 B2 JP 6371655B2
Authority
JP
Japan
Prior art keywords
feature point
vehicle
behavior
image data
movement amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014192665A
Other languages
English (en)
Other versions
JP2016060463A (ja
Inventor
晴彦 長橋
晴彦 長橋
秀喜 榎本
秀喜 榎本
清一 石関
清一 石関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2014192665A priority Critical patent/JP6371655B2/ja
Publication of JP2016060463A publication Critical patent/JP2016060463A/ja
Application granted granted Critical
Publication of JP6371655B2 publication Critical patent/JP6371655B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Air Bags (AREA)

Description

本発明は、車両の回転挙動を判定する車両挙動判定装置に関する。
車両には、衝突等から乗員を保護するため、エアバッグを展開させるエアバッグ装置、シートベルトを巻き取って弛みを吸収するプリテンショナ装置、ヘッドレストを移動させるアクティブヘッドレスト装置等が設けられている。例えば、エアバッグ装置は、ステアリングホイール、インストルメントパネル、シートおよびルーフトリム等に格納されるエアバッグモジュールを有している。このエアバッグモジュールは、衝突時にガスを発生させるインフレータと、インフレータからのガスによって膨張するエアバッグとを備えている。ところで、車両が鉛直軸回りに回転するスピン挙動や、車両がロール軸回りに回転するロールオーバー挙動が発生した場合には、車体側部のサイドエアバッグやカーテンエアバッグを回転挙動に応じて適切に展開させる必要がある。このため、車両には、スピン挙動を検出するヨーレートセンサや、ロールオーバー挙動を検出するロールレートセンサが搭載されている(特許文献1参照)。
特開2008−247387号公報
ところで、エアバッグ装置等の誤作動を防止する観点から、車両には複数のヨーレートセンサやロールレートセンサが搭載されることも多い。しかしながら、ヨーレートセンサやロールレートセンサは高価なセンサであることから、ヨーレートセンサやロールレートセンサの個数を削減することが望まれている。このため、ヨーレートセンサやロールレートセンサに代えて、車両の回転挙動を判定する装置の開発が求められている。
本発明の目的は、車両の回転挙動を判定することにある。
本発明の車両挙動判定装置は、車両の回転挙動を判定する車両挙動判定装置であって、撮像周期毎に車両周囲を撮像して画像データを出力するセンサ部と、前記センサ部より出力される複数の前記画像データから、共通の特徴点を抽出する特徴点抽出部と、撮像時点の異なる複数の前記特徴点を比較し、前記特徴点の移動量を演算する移動量演算部と、前記特徴点の移動量に基づいて、前記車両の回転挙動を判定する挙動判定部と、を有し、前記センサ部として、車両前方の画像データを出力する前センサ部と、車両後方の画像データを出力する後センサ部との少なくともいずれか一方を備え、前記特徴点抽出部は、前記特徴点として、前記画像データの消失点よりも右側の領域から右特徴点を抽出し、前記画像データの消失点よりも左側の領域から左特徴点を抽出し、前記移動量演算部は、前記右特徴点の移動量を演算し、前記左特徴点の移動量を演算し、前記挙動判定部は、前記右特徴点と前記左特徴点との移動量の垂直方向成分に基づいて、前記車両の回転挙動がロール軸回りに回転するロールオーバー挙動であるか否かを判定する。
本発明によれば、車両周囲の画像データに基づいて、車両の回転挙動を判定することができる。
本発明の一実施の形態である車両挙動判定装置を備えた車両を示す概略図である。 (a)および(b)は、車体側部に設けられたエアバッグモジュールの展開状態を示す説明図である。 車両を上方から示す図である。 車両挙動判定装置およびエアバッグシステムの制御系を示す概略図である。 制御ユニットが有する機能の一部を示すブロック図である。 (a)および(b)は、スピン挙動発生時の前方画像データと後方画像データとの変化を示すイメージ図である。 スピン挙動発生時における前方画像データの特徴点の移動状況を示すイメージ図である。 (a)および(b)は、スピン挙動発生時の左方画像データと右方画像データとの変化を示すイメージ図である。 (a)および(b)は、スピン挙動発生時における左特徴点と右特徴点との移動状況を示すイメージ図である。 (a)および(b)は、ロールオーバー挙動発生時の前方画像データと後方画像データとの変化を示すイメージ図である。 ロールオーバー挙動発生時における前方画像データの特徴点の移動状況を示すイメージ図である。 (a)および(b)は、ロールオーバー挙動発生時の左方画像データと右方画像データとの変化を示すイメージ図である。 (a)および(b)は、ロールオーバー挙動発生時における左特徴点と右特徴点との移動状況を示すイメージ図である。 スピン挙動およびロールオーバー挙動の判定手順の一例を示すフローチャートである。 スピン挙動およびロールオーバー挙動の判定手順の一例を示すフローチャートである。 エアバッグ展開制御の実行手順の一例を示すフローチャートである。 (a)〜(c)は、スピン展開モードにおけるエアバッグモジュールA1〜A14の展開状況の一例を示す図である。 (a)および(b)は、ロールオーバー展開モードにおけるエアバッグモジュールの展開状況の一例を示す図である。 (a)および(b)は、ロールオーバー展開モードにおけるエアバッグモジュールの展開状況の一例を示す図である。
以下、本発明の実施の形態を図面に基づいて詳細に説明する。図1は本発明の一実施の形態である車両挙動判定装置10を備えた車両11を示す概略図である。図1に示すように、車両挙動判定装置10は、車両周囲を撮像するカメラユニット(センサ部)C1〜C4を有している。カメラユニットC1〜C4には、CCDやCMOS等のイメージセンサが内蔵されており、カメラユニットC1〜C4によって撮像された画像データは後述する制御ユニット20に出力される。カメラユニットとして、車両前方の画像データを出力するカメラユニット(前センサ部)C1が設けられており、車両後方の画像データを出力するカメラユニット(後センサ部)C2が設けられている。また、カメラユニットとして、車両左方の画像データを出力するカメラユニット(左センサ部)C3が設けられており、車両右方の画像データを出力するカメラユニット(右センサ部)C4が設けられている。後述するように、車両挙動判定装置10は、画像データに基づいて車両11の回転挙動を判定し、判定した回転挙動をエアバッグシステム12に出力する。そして、エアバッグシステム12は、回転挙動に応じてエアバッグモジュールの展開モードを設定し、展開モードに応じてエアバッグモジュールの展開を制御する。
図1に示すように、車両11にはエアバッグシステム12が搭載されている。エアバッグシステム12は、車室内の各部に設置される複数のエアバッグモジュールA1〜A14を有している。ドライバシート13の前方には、フロントエアバッグとして、図示しないステアリングホイールに格納されるエアバッグモジュールA1が設けられている。また、ドライバシート13の前方には、ニーエアバッグとして、図示しないインストルメントパネル下部に格納されるエアバッグモジュールA2が設けられている。さらに、ドライバシート13の側方には、サイドエアバッグとして、ドライバシート側部に格納されるエアバッグモジュールA3が設けられている。同様に、パッセンジャシート14の前方には、フロントエアバッグとして、図示しないインストルメントパネル上部に格納されるエアバッグモジュールA4が設けられている。また、パッセンジャシート14の前方には、ニーエアバッグとして、図示しないインストルメントパネル下部に格納されるエアバッグモジュールA5が設けられている。さらに、パッセンジャシート14の側方には、サイドエアバッグとして、パッセンジャシート側部に格納されるエアバッグモジュールA6が設けられている。さらに、ドライバシート13とパッセンジャシート14との間には、センタエアバッグとして、ドライバシート側部やパッセンジャシート側部に格納されるエアバッグモジュールA7が設けられている。
右リヤシート15の前方には、フロントエアバッグとして、ドライバシート背部に格納されるエアバッグモジュールA8が設けられている。また、右リヤシート15の側方には、サイドエアバッグとして、右リヤシート側部に格納されるエアバッグモジュールA9が設けられている。同様に、左リヤシート16の前方には、フロントエアバッグとして、パッセンジャシート背部に格納されるエアバッグモジュールA10が設けられている。また、左リヤシート16の側方には、サイドエアバッグとして、左リヤシート側部に格納されるエアバッグモジュールA11が設けられている。さらに、右リヤシート15と左リヤシート16との間には、センタエアバッグとして、右リヤシート側部や左リヤシート側部に格納されるエアバッグモジュールA12が設けられている。さらに、車体側部には、カーテンエアバッグとして、ルーフパネルとルーフトリムとの間に格納されるエアバッグモジュールA13,A14が設けられている。
図2(a)および(b)は、車体側部に設けられたエアバッグモジュールA3,A9,A13の展開状態を示す説明図である。図2(a)には展開前のエアバッグモジュールA3,A9,A13が示されており、図2(b)には展開後のエアバッグモジュールA3,A9,A13が示されている。図2(a)に示すように、右側の車体側部には、ルーフトリム内に格納されるエアバッグモジュールA13が設けられている。また、右側の車体側部には、ドライバシート側部に格納されるエアバッグモジュールA3が設けられており、右リヤシート側部に格納されるエアバッグモジュールA9が設けられている。図2(b)に示すように、エアバッグモジュールA13は、右フロントドアD1および右リヤドアD3の窓ガラスW1,W3を覆うように展開される。また、エアバッグモジュールA3,A9は、エアバッグモジュールA13よりも下方で、乗員の側面を覆うように展開される。このように、車体側部のエアバッグモジュールA3,A9,A13は、ドアD1,D3と乗員との間に展開される。なお、左側の車体側部に設けられるエアバッグモジュールA6,A11,A14についても、エアバッグモジュールA3,A9,A13と同様に、ドアD2,D4と乗員との間に展開される。
図3は車両11を上方から示す図である。図3に示すように、車両11には、エアバッグ展開制御に窓ガラスW1〜W4の開閉制御を連動させるため、ウィンドウレギュレータR1〜R4が設けられている。右フロントドアD1には、窓ガラスW1を開閉するウィンドウレギュレータR1が組み込まれており、左フロントドアD2には、窓ガラスW2を開閉するウィンドウレギュレータR2が組み込まれている。また、右リヤドアD3には、窓ガラスW3を開閉するウィンドウレギュレータR3が組み込まれており、左リヤドアD4には、窓ガラスW4を開閉するウィンドウレギュレータR4が組み込まれている。なお、各ウィンドウレギュレータR1〜R4は、窓ガラスW1〜W4にアームやケーブル等を介して連結される図示しない電動アクチュエータを有している。
図4は車両挙動判定装置10およびエアバッグシステム12の制御系を示す概略図である。図1および図4に示すように、車両挙動判定装置10およびエアバッグシステム12は、車両11の回転挙動を判定してエアバッグモジュールA1〜A14およびウィンドウレギュレータR1〜R4を制御するため、CPUやメモリ等によって構成される制御ユニット20を有している。制御ユニット20には、衝突時の加速度を車体前部で検出する加速度センサSa1,Sa2、衝突時の加速度を車体側部で検出する加速度センサSa3〜Sa6、衝突時の加速度を車体後部で検出する加速度センサSa7,Sa8が接続されている。また、制御ユニット20には、ドライバシート13における乗員の有無や体格等を検出する着座センサSb1、パッセンジャシート14における乗員の有無や体格等を検出する着座センサSb2、右リヤシート15における乗員の有無や体格等を検出する着座センサSb3、左リヤシート16における乗員の有無や体格等を検出する着座センサSb4が接続されている。さらに、制御ユニット20には、各車輪の回転速度を検出する車輪速センサ21、ステアリングホイールの操舵角を検出する操舵角センサ22等が接続されている。また、制御ユニット20には、衝突時の加速度を検出する加速度センサ23が組み込まれている。
続いて、制御ユニット20の機能について詳細に説明する。図5は制御ユニット20が有する機能の一部を示すブロック図である。図5に示すように、制御ユニット20は、車両11の回転挙動つまりスピン挙動やロールオーバー挙動を判定する車両挙動判定部30を有している。また、制御ユニット20は、判定された回転挙動に基づきエアバッグモジュールA1〜A14およびウィンドウレギュレータR1〜R4を制御する乗員保護制御部31を有している。車両挙動判定部30は、画像処理部32、特徴点抽出部33、データ記憶部34、特徴点比較部35および挙動判定部36を備えている。また、乗員保護制御部31は、展開モード設定部37、展開制御部38およびウィンドウ制御部39を備えている。車両挙動判定部30を備える制御ユニット20は、後述するように、特徴点抽出部、移動量演算部および挙動判定部として機能する。
カメラユニットC1〜C4は、所定の撮像周期毎に画像データを制御ユニット20の画像処理部32に出力する。画像処理部32は、画像データに対して、ノイズ除去処理、エッジ抽出処理および2値化処理等を実行する。これらの補正処理が施された画像データは画像処理部32から特徴点抽出部33に送信され、特徴点抽出部33において画像データから特徴点が抽出される。例えば、特徴点抽出部33は、画像データから濃度勾配のある点を特徴点として抽出する。このような特徴点が抽出される対象物としては、車両周囲に存在するあらゆる物が対象となる。例えば、停止車両、先行車両、後続車両、併走車両、走行道路の白線、標識、信号機、電柱、ガードレール、縁石等から特徴点を抽出することが可能である。また、抽出される特徴点としては、物に限られることはなく、走行道路の白線等が交わる無限遠点つまり消失点であっても良い。
画像データから抽出された特徴点は、特徴点抽出部33からデータ記憶部34に格納され、特徴点抽出部33から特徴点比較部35に送信される。そして、特徴点比較部(移動量演算部)35は、データ記憶部34から送信される前回の特徴点と、特徴点抽出部33から送信される今回の特徴点とを比較し、画像データ上で移動する特徴点の移動量を演算する。つまり、特徴点比較部35においては、撮像時点が異なる複数の画像データに基づき、特徴点の画素の流れに相当するオプティカルフローが検出される。続いて、特徴点比較部35から挙動判定部36に特徴点の移動量が送信され、挙動判定部36は特徴点の移動量に基づいて車両11の回転挙動を判定する。挙動判定部36は、車両11の回転挙動が鉛直軸回りに回転するスピン挙動であるか否かを判定し、車両11の回転挙動がロール軸回りに回転するロールオーバー挙動であるか否かを判定する。なお、ロール軸とは、車両前部と車両後部とのロールセンタを結ぶ軸であり、車両11の前後方向に伸びる軸である。
以下、車両11の回転挙動の判定方法について説明する。まず、図6および図7を用いて、車両前後のカメラユニットC1,C2を用いたスピン挙動の判定方法について説明し、図8および図9を用いて、車両左右のカメラユニットC3,C4を用いたスピン挙動の判定方法について説明する。その後、図10および図11を用いて、車両前後のカメラユニットC1,C2を用いたロールオーバー挙動の判定方法について説明し、図12および図13を用いて、車両左右のカメラユニットC3,C4を用いたロールオーバー挙動の判定方法について説明する。
[スピン挙動の判定例1]
図6(a)および(b)はスピン挙動発生時の前方画像データと後方画像データとの変化を示すイメージ図である。図6(a)にはスピン挙動発生前の状況が示され、図6(b)にはスピン挙動発生時の状況が示されている。図6(a)および(b)に示すように、車両11に右回りのスピン挙動が発生した場合には、車両前方の画像データ(以下、前方画像データと記載する。)は左側(矢印α方向)に移動し、車両後方の画像データ(以下、後方画像データと記載する。)は右側(矢印β方向)に移動する。すなわち、前方画像データまたは後方画像データから特徴点を抽出し、この特徴点の移動量の水平方向成分を演算することにより、車両11のスピン挙動を判定することが可能となる。
例えば、前方画像データから特徴点を抽出した場合において、移動量の水平方向成分が左方向に大きい場合には、車両11に右回りのスピン挙動が発生していると判定される。一方、移動量の水平方向成分が右方向に大きい場合には、車両11に左回りのスピン挙動が発生していると判定される。同様に、後方画像データから特徴点を抽出した場合において、移動量の水平方向成分が左方向に大きい場合には、車両11に左回りのスピン挙動が発生していると判定される。一方、移動量の水平方向成分が右方向に大きい場合には、車両11に右回りのスピン挙動が発生していると判定される。なお、図6(a)および(b)に示す後方画像データは左右反転させた画像データであり、後方画像データに付した右側とは車両右側の画像を意味し、後方画像データに付した左側とは車両左側の画像を意味する。
ここで、図7はスピン挙動発生時における前方画像データの特徴点の移動状況を示すイメージ図である。なお、図7には、スピン挙動発生前の走行道路上の白線が実線で示され、スピン挙動発生時の走行道路上の白線が一点鎖線で示されている。図7に示すように、撮像時点が前の前方画像データから特徴点として消失点Pa1が抽出され、撮像時点が後の前方画像データから共通の特徴点として消失点Pa2が抽出された場合について考える。このとき、特徴点の移動量(Pa1→Pa2)の水平方向成分が所定の閾値を上回るXaであった場合には、前方画像データが大きく水平方向に移動する状況であるため、車両11にスピン挙動が発生していると判定される。図示する場合には、符号Pa1から符号Pa2に特徴点が左側に移動することから、車両11の回転挙動は右側に旋回するスピン挙動であると判定される。
前述の説明では、特徴点として消失点を用いているが、これに限られることはなく、他の特徴点を用いても良い。例えば、図7に示すように、撮像時点が前の前方画像データの標識40から特徴点としてPb1を抽出し、撮像時点が後の前方画像データの標識40から共通の特徴点としてPb2を抽出しても良い。このとき、特徴点の移動量(Pb1→Pb2)の水平方向成分が所定の閾値を上回るXbであった場合には、前方画像データが左方向に移動する状況であるため、車両11に右回りのスピン挙動が発生していると判定される。また、撮像時点が前の前方画像データの白線から特徴点としてPc1を抽出し、撮像時点が後の前方画像データの白線から共通の特徴点としてPc2を抽出しても良い。このとき、特徴点の移動量(Pc1→Pc2)の水平方向成分が所定の閾値を上回るXcであった場合には、前方画像データが左方向に移動する状況であるため、車両11に右回りのスピン挙動が発生していると判定される。
なお、前述の特徴点Pb1,Pc1のように、消失点以外から抽出された特徴点を用いる場合には、同様のスピン挙動が発生した場合であっても、車速や撮像周期に応じて移動量の水平方向成分は変化することになる。このため、スピン挙動の判定精度を高めるためには、スピン挙動を判定する際の閾値を車速や撮像周期に応じて変化させることが望ましい。また、図7に示すように、車両11の回転挙動が右回りのスピン挙動である場合において、特徴点Pb1のように、消失点よりも左側の領域から特徴点を抽出すると、特徴点の移動量の水平方向成分が大きくなる。一方、車両11の回転挙動が右回りのスピン挙動である場合において、特徴点Pc1のように、消失点よりも右側の領域から特徴点を抽出すると、特徴点の移動量の水平方向成分が小さくなる。このように、同様のスピン挙動が発生した場合であっても、特徴点の抽出領域が消失点よりも左側であるか右側であるかによって、移動量の水平方向成分は変化することになる。このため、スピン挙動の判定精度を高めるためには、スピン挙動を判定する際の閾値を特徴点の抽出領域に応じて変化させることが望ましい。また、乗員のステアリング操作による誤判定を回避するため、操舵角に応じてスピン挙動を判定する際の閾値を変化させても良い。なお、前述の説明では、前方画像データから抽出した特徴点を用いて、車両11のスピン挙動を判定しているが、これに限られることはなく、後方画像データから抽出した特徴点を用いて、車両11のスピン挙動を判定しても良いことはいうまでもない。
[スピン挙動の判定例2]
図8(a)および(b)はスピン挙動発生時の左方画像データと右方画像データとの変化を示すイメージ図である。図8(a)にはスピン挙動発生前の状況が示され、図8(b)にはスピン挙動発生時の状況が示されている。図8(a)および(b)に示すように、車両11に右回りのスピン挙動が発生した場合には、車両左方の画像データ(以下、左方画像データと記載する。)は後側(矢印α方向)に進められ、車両右方の画像データ(以下、右方画像データと記載する。)は前側(矢印β方向)に戻される。すなわち、左方画像データおよび右方画像データから特徴点を抽出し、これら特徴点の移動量の水平方向成分を演算して比較することにより、車両11のスピン挙動を判定することが可能となる。
例えば、左方画像データから特徴点として左特徴点PLを抽出し、右方画像データから特徴点として右特徴点PRを抽出する。そして、左特徴点PLと右特徴点PRとの移動量の水平方向成分を比較し、左特徴点PLが右特徴点PRよりも後方に大きく移動する場合には、車両11に右回りのスピン挙動が発生していると判定される。一方、左特徴点PLと右特徴点PRとの移動量の水平方向成分を比較し、右特徴点PRが左特徴点PLよりも後方に大きく移動する場合には、車両11に左回りのスピン挙動が発生していると判定される。なお、図示する場合には、ガードレール41の反射鏡が特徴点として抽出されている。
ここで、図9(a)および(b)はスピン挙動発生時における左特徴点と右特徴点との移動状況を示すイメージ図である。なお、図9(a)にはスピン挙動発生前の状況が示され、図9(b)にはスピン挙動発生時の状況が示されている。図9(a)および(b)に示すように、撮像時点が前の左方画像データから特徴点として左特徴点PL1が抽出され、撮像時点が後の左方画像データから共通の特徴点として左特徴点PL2が抽出される。同様に、図9(a)および(b)に示すように、撮像時点が前の右方画像データから特徴点として右特徴点PR1が抽出され、撮像時点が後の右方画像データから共通の特徴点として右特徴点PR2が抽出される。
このとき、左方画像データにおいては、左特徴点の移動量(PL1→PL2)の水平方向成分がXaであるのに対し、右方画像データにおいては、右特徴点の移動量(PR1→PR2)の水平方向成分がXaよりも大幅に小さいXbであった場合について考える。この場合は、左特徴点PL1の水平方向成分Xaと右特徴点PR1の水平方向成分Xbとの差が所定の閾値を上回る状況であり、左右の画像データが大きく水平方向にずれる状況であることから、車両11にスピン挙動が発生していると判定される。すなわち、図示する場合には、車両11が前進走行中であることから、車両11にスピン挙動が発生していない場合には、左特徴点PL1は符号Z1で示す位置に移動し、右特徴点PR1は符号Z2で示す位置に移動する。しかしながら、図9(b)に示すように、左特徴点PL1はスピン成分によって符号PL2で示す位置に進められ、右特徴点PR1はスピン成分によって符号PR2で示す位置に戻されることから、車両11の回転挙動は右側に旋回するスピン挙動であると判定される。
なお、前述の説明では、左特徴点PL1と右特徴点PR1との移動量を比較することにより、車両11の回転挙動がスピン挙動であるか否かを判定しているが、これに限られることはない。例えば、左特徴点PL1の移動量の水平方向成分から直進成分を減算してスピン成分を演算し、このスピン成分の大きさに基づいて車両11にスピン挙動が発生しているか否かを判定しても良い。これにより、左特徴点PL1の移動量だけを用いてスピン挙動を判定することが可能となる。また、右特徴点PR1の移動量の水平方向成分から直進成分を減算してスピン成分を演算し、このスピン成分の大きさに基づいて車両11にスピン挙動が発生しているか否かを判定しても良い。これにより、右特徴点PR1の移動量だけを用いてスピン挙動を判定することが可能となる。また、乗員のステアリング操作による誤判定を回避するため、操舵角に応じてスピン挙動を判定する際の閾値を変化させても良い。
[ロールオーバー挙動の判定例1]
図10(a)および(b)はロールオーバー挙動発生時の前方画像データと後方画像データとの変化を示すイメージ図である。図10(a)にはロールオーバー挙動発生前の状況が示され、図10(b)にはロールオーバー挙動発生時の状況が示されている。図10(a)および(b)に示すように、車両11に右回りのロールオーバー挙動が発生した場合には、前方画像データは左側(矢印α方向)に傾動し、後方画像データは左側(矢印β方向)に傾動する。すなわち、前方画像データまたは後方画像データから特徴点を抽出し、この特徴点の移動量の垂直方向成分を演算することにより、車両11のロールオーバー挙動を判定することが可能となる。
ここで、図11はロールオーバー挙動発生時における前方画像データの特徴点の移動状況を示すイメージ図である。図11には、ロールオーバー挙動発生前の走行道路上の白線が実線で示され、ロールオーバー挙動発生時の走行道路上の白線が一点鎖線で示されている。まず、図11に示すように、前方画像データの領域を、消失点よりも左側の領域ALと、消失点よりも右側の領域ARとに区画する。次いで、撮像時点が前の前方画像データの領域ALから、特徴点として左特徴点PL1が抽出され、撮像時点が後の前方画像データの領域ALから、共通の特徴点として左特徴点PL2が抽出される。同様に、撮像時点が前の前方画像データの領域ARから、特徴点として右特徴点PR1が抽出され、撮像時点が後の前方画像データの領域ARから、共通の特徴点として右特徴点PR2が抽出される。なお、図示する場合には、標識40が左特徴点PL1として抽出され、白線が右特徴点PR1として抽出されている。
このとき、左特徴点の移動量(PL1→PL2)の垂直方向成分が下向きのYaであるのに対し、右特徴点の移動量(PR1→PR2)の垂直方向成分が上向きのYbであった場合について考える。この場合は、左側の領域ALが下がって右側の領域ARが上がる状況であり、前方画像データが左回りに回転する状況であることから、車両11に右回りのロールオーバー挙動が発生していると判定される。一方、図示する状況とは逆に、左特徴点PL1の移動量の垂直方向成分が上向きであり、右特徴点PR1の移動量の垂直方向成分が下向きであった場合には、車両11に左回りのロールオーバー挙動が発生していると判定される。
なお、前述の説明では、左特徴点と右特徴点との垂直方向成分の向きが逆転していることから、車両11にロールオーバー挙動が発生すると判定しているが、これに限られることはない。例えば、左特徴点と右特徴点との垂直方向成分の向きが共通であったとしても、垂直方向成分に所定の閾値を上回る差が認められる場合には、車両11にロールオーバー挙動が発生していると判定される。また、左特徴点と右特徴点との垂直方向成分の向きが逆転している場合であっても、垂直方向成分の差が所定の閾値を下回る場合には、ロールオーバー挙動が発生していないと判定される。なお、前述の説明では、前方画像データから抽出した特徴点を用いて、車両11のロールオーバー挙動を判定しているが、これに限られることはなく、後方画像データから抽出した特徴点を用いて、車両11のロールオーバー挙動を判定しても良いことはいうまでもない。
[ロールオーバー挙動の判定例2]
図12(a)および(b)はロールオーバー挙動発生時の左方画像データと右方画像データとの変化を示すイメージ図である。図12(a)にはロールオーバー挙動発生前の状況が示され、図12(b)にはロールオーバー挙動発生時の状況が示されている。図12(a)および(b)に示すように、車両11に右回りのロールオーバー挙動が発生した場合には、左方画像データは下方(矢印α方向)に移動し、右方画像データは上方(矢印β方向)に移動する。すなわち、左方画像データおよび右方画像データから特徴点を抽出し、これら特徴点の移動量の垂直方向成分を演算して比較することにより、車両11のロールオーバー挙動を判定することが可能となる。
例えば、左方画像データから特徴点として左特徴点PLを抽出し、右方画像データから特徴点として右特徴点PRを抽出する。そして、左特徴点PLと右特徴点PRとの移動量の垂直方向成分を比較し、左特徴点PLが右特徴点PRよりも下方に大きく移動する場合には、車両11に右回りのロールオーバー挙動が発生していると判定される。一方、左特徴点PLと右特徴点PRとの移動量の垂直方向成分を比較し、右特徴点PRが左特徴点PLよりも下方に大きく移動する場合には、車両11に左回りのロールオーバー挙動が発生していると判定される。なお、図示する場合には、ガードレール41の反射鏡が特徴点として抽出されている。
ここで、図13(a)および(b)はロールオーバー挙動発生時における左特徴点と右特徴点との移動状況を示すイメージ図である。なお、図13(a)にはロールオーバー挙動発生前の状況が示され、図13(b)にはロールオーバー挙動発生時の状況が示されている。図13(a)および(b)に示すように、撮像時点が前の左方画像データから特徴点として左特徴点PL1が抽出され、撮像時点が後の左方画像データから共通の特徴点として左特徴点PL2が抽出される。同様に、図13(a)および(b)に示すように、撮像時点が前の右方画像データから特徴点として右特徴点PR1が抽出され、撮像時点が後の右方画像データから共通の特徴点として右特徴点PR2が抽出される。
このとき、左方画像データにおいては、左特徴点の移動量(PL1→PL2)の垂直方向成分が下向きのYaであるのに対し、右方画像データにおいては、右特徴点の移動量(PR1→PR2)の垂直方向成分が上向きのYbであった場合について考える。この場合は、左方画像データが下がって右方画像データが上がる状況であることから、車両11に右回りのロールオーバー挙動が発生していると判定される。一方、図示する状況とは逆に、左特徴点PL1の移動量の垂直方向成分が上向きであり、右特徴点PR1の移動量の垂直方向成分が下向きであった場合には、車両11に左回りのロールオーバー挙動が発生していると判定される。
なお、前述の説明では、左特徴点と右特徴点との垂直方向成分の向きが逆転していることから、車両11にロールオーバー挙動が発生すると判定しているが、これに限られることはない。例えば、左特徴点と右特徴点との垂直方向成分の向きが共通であったとしても、垂直方向成分に所定の閾値を上回る差が認められる場合には、車両11にロールオーバー挙動が発生していると判定される。また、左特徴点と右特徴点との垂直方向成分の向きが逆転している場合であっても、垂直方向成分の差が所定の閾値を下回る場合には、ロールオーバー挙動が発生していないと判定される。
続いて、前述したスピン挙動とロールオーバー挙動との判定手順をフローチャートに沿って説明する。図14および図15はスピン挙動およびロールオーバー挙動の判定手順の一例を示すフローチャートである。まず、図14のフローチャートを用いて、車両前後のカメラユニットC1,C2を用いたスピン挙動およびロールオーバー挙動の判定手順について説明し、図15のフローチャートを用いて、車両左右のカメラユニットC3,C4を用いたスピン挙動およびロールオーバー挙動の判定手順について説明する。
[スピン挙動およびロールオーバー挙動の判定手順例1]
図14に示すように、ステップS11では、カメラユニットC1から制御ユニット20に前方画像データが取り込まれ、ステップS12では、制御ユニット20によって前方画像データにノイズ除去等の補正処理が施される。続いて、ステップS13では、前方画像データから特徴点P1が抽出される。続くステップS14では、撮像時点の異なる新旧の特徴点P1が比較され、新旧の前方画像データ間における特徴点P1の移動量Lが演算される。また、ステップS14では、移動量Lの水平方向成分Lxが演算され、移動量Lの垂直方向成分Lyが演算される。
次いで、ステップS15では、特徴点P1の移動量Lが所定の閾値A1以上であるか否かが判定される。ステップS15において、移動量Lが閾値A1未満であると判定された場合には、ステップS11に戻って新たな前方画像データが取り込まれる。一方、ステップS15において、移動量Lが閾値A1以上であると判定された場合には、ステップS16に進み、移動量Lの水平方向成分Lxが所定の閾値A2以上であるか否かが判定される。ステップS16において、水平方向成分Lxが閾値A2以上であると判定された場合には、ステップS17に進み、車両11にスピン挙動が発生していると判定される。一方、ステップS16において、水平方向成分Lxが閾値A2未満であると判定された場合には、ステップS18に進み、移動量Lの垂直方向成分Lyが所定の閾値A3以上であるか否かが判定される。ステップS18において、垂直方向成分Lyが閾値A3以上であると判定された場合には、ステップS19に進み、車両11にロールオーバー挙動が発生していると判定される。一方、ステップS18において、垂直方向成分Lyが閾値A3未満であると判定された場合には、ステップS11に戻って新たな前方画像データが取り込まれる。
なお、スピン挙動やロールオーバー挙動の回転方向については、水平方向成分Lxの向きや、垂直方向成分Ly1の向きに基づき判定される。また、特徴点を抽出する画像データとしては、前方画像データに限られることはない。例えば、後方画像データであっても良く、左方画像データであっても良く、右方画像データであっても良い。
[スピン挙動およびロールオーバー挙動の判定手順例2]
図15に示すように、ステップS21では、カメラユニットC3,C4から制御ユニット20に左方画像データおよび右方画像データが取り込まれ、ステップS22では、制御ユニット20によって左方画像データおよび右方画像データにノイズ除去等の補正処理が施される。続くステップS23では、左方画像データから左特徴点P1が抽出され、ステップS24では、右方画像データから右特徴点P2が抽出される。次いで、ステップS25では、撮像時点の異なる新旧の左特徴点P1が比較され、新旧の左方画像データ間における左特徴点P1の移動量L1が演算される。また、ステップS25では、移動量L1の水平方向成分Lx1が演算され、移動量L1の垂直方向成分Ly1が演算される。同様に、続くステップS26では、撮像時点の異なる新旧の右特徴点P2が比較され、新旧の左方画像データ間における右特徴点P2の移動量L2が演算される。また、ステップS26では、移動量L2の水平方向成分Lx2が演算され、移動量L2の垂直方向成分Ly2が演算される。
次いで、ステップS27では、移動量L1と移動量L2との差の絶対値が、所定の閾値B1以上であるか否かが判定される。ステップS27において、移動量L1,L2の差が閾値B1未満であると判定された場合には、ステップS21に戻って新たな左方画像データおよび右方画像データが取り込まれる。一方、ステップS27において、移動量L1,L2の差が閾値B1以上であると判定された場合には、ステップS28に進み、水平方向成分Lx1と水平方向成分Lx2との差の絶対値が、所定の閾値B2以上であるか否かが判定される。ステップS28において、水平方向成分Lx1,Lx2の差が閾値B2以上であると判定された場合には、ステップS29に進み、車両11にスピン挙動が発生していると判定される。一方、ステップS28において、水平方向成分Lx1,Lx2の差が閾値B2未満であると判定された場合には、ステップS30に進み、垂直方向成分Ly1と垂直方向成分Ly2との差の絶対値が、所定の閾値B3以上であるか否かが判定される。ステップS30において、垂直方向成分Ly1,Ly2の差が閾値B3以上であると判定された場合には、ステップS31に進み、車両11にロールオーバー挙動が発生していると判定される。一方、ステップS30において、垂直方向成分Ly1,Ly2の差が閾値B3未満であると判定された場合には、ステップS21に戻って新たな左方画像データおよび右方画像データが取り込まれる。
なお、スピン挙動やロールオーバー挙動の回転方向については、水平方向成分Lx1,Lx2の向きや、垂直方向成分Ly1,Ly2の向きに基づき判定される。また、左特徴点および右特徴点を抽出する画像データとしては、左方画像データおよび右方画像データに限られることはない。例えば、前方画像データから左特徴点と右特徴点とを抽出しても良く、後方画像データから左特徴点と右特徴点とを抽出しても良い。
これまで説明したように、画像データから抽出した特徴点の移動量に基づいて、スピン挙動やロールオーバー挙動等を判定することができる。これにより、スピン挙動やロールオーバー挙動の検出能力を確保しながら、ヨーレートセンサやロールレートセンサ等の使用個数を削減することが可能となる。
[エアバッグ展開制御]
続いて、車両11の回転挙動に応じてエアバッグモジュールA1〜A14を展開するエアバッグ展開制御について説明する。前述したように、エアバッグ展開制御を実行する制御ユニット20は、挙動判定部36によって判定された回転挙動(スピン挙動,ロールオーバー挙動)に基づいて、エアバッグモジュールA1〜A14およびウィンドウレギュレータR1〜R4を制御する乗員保護制御部31を有している。図5に示すように、乗員保護制御部31は、回転挙動に基づいてエアバッグモジュールA1〜A14の展開モードを設定する展開モード設定部37と、展開モードに応じてエアバッグモジュールA1〜A14を展開する展開制御部38と、を備えている。また、乗員保護制御部31は、回転挙動に基づいてウィンドウレギュレータR1〜R4を制御するウィンドウ制御部39を備えている。なお、エアバッグモジュールA1〜A14は、ガスを発生させるインフレータ42と、ガスによって膨張するバッグ43とを有している。衝突発生時には、展開制御部38からインフレータ42に点火信号が出力され、インフレータ42から放出されるガスによってバッグ43が膨張状態となる。
以下、エアバッグ展開制御の実行手順について説明する。図16はエアバッグ展開制御の実行手順の一例を示すフローチャートである。図16に示すように、ステップS41では、車両11にスピン挙動が発生しているか否かが判定される。ステップS41において、スピン挙動の発生が判定されている場合には、ステップS42に進み、車体側部のエアバッグモジュールを中心に展開するスピン展開モードが設定される。このスピン展開モードが設定されると、ステップS43に進み、ウィンドウレギュレータR1〜R4が制御され、車体側部の窓ガラスW1〜W4が閉じられる。一方、ステップS41において、スピン挙動が発生していないと判定された場合には、ステップS44に進み、車両11にロールオーバー挙動が発生しているか否かが判定される。ステップS44において、ロールオーバー挙動の発生が判定されている場合には、ステップS45に進み、車体側部のエアバッグモジュールを中心に展開するロールオーバー展開モードが設定される。このロールオーバー展開モードが設定されると、ステップS43に進み、ウィンドウレギュレータR1〜R4が制御され、車体側部の窓ガラスW1〜W4が閉じられる。また、ステップS44において、ロールオーバー挙動が発生していないと判定された場合には、ステップS46に進み、通常展開モードが設定される。この通常展開モードは、衝突時に所定レベル以上の加速度を検出する加速度センサSa1〜Sa8の位置に基づいて、展開対象となるエアバッグモジュールA1〜A14を選択して展開する展開モードである。
このように、エアバッグモジュールA1〜A14の展開モードが設定されると、ステップS47に進み、エアバッグモジュールA1〜A14に対する展開指令の有無が判定される。すなわち、ステップS47では、エアバッグモジュールA1〜A14の展開が必要な衝突状況が発生したか否かが判定される。このステップS47においては、例えば、加速度センサSa1〜Sa8の何れかにおいて所定レベル以上の加速度が検出され、かつ制御ユニット20内の加速度センサ23によって所定レベル以上の加速度が検出された場合に、エアバッグモジュールA1〜A14に対する展開指令が有ると判定される。ステップS47において、展開指令が有ると判定されると、ステップS48に進み、制御ユニット20から展開対象のエアバッグモジュールA1〜A14に点火信号が出力される。なお、各展開モードにおいて、展開対象となるエアバッグモジュールA1〜A14は、各シート13〜16における乗員の着座状況、所定レベル以上の加速度を検出した加速度センサSa1〜Sa8の位置等によって決定される。
ここで、図17(a)〜(c)はスピン展開モードにおけるエアバッグモジュールの展開状況の一例を示す図である。また、図18(a)、図18(b)、図19(a)および図19(b)は、ロールオーバー展開モードにおけるエアバッグモジュールの展開状況の一例を示す図である。なお、図17〜図19には、乗員がドライバシート13に着座したときの展開状況が示されている。
車両11にスピン挙動が発生した場合には、車両11が回転しながら障害物に向かうことから、障害物に対して車体側部から衝突する状況が考えられる。このため、スピン挙動の発生が判定された場合には、車体側部のエアバッグモジュールA3,A13を中心にエアバッグモジュールを展開するスピン展開モードが設定される。ところで、車体側部のエアバッグモジュールA3,A13を展開する際に、ドアD1の窓ガラスW1が開かれていると、エアバッグモジュールA3,A13が車外に露出することから、エアバッグモジュールA3,A13を適切に機能させることが困難となる。そこで、図17(a)に示すように、スピン展開モードの設定時に窓ガラスW1が開かれていた場合には、図17(b)に示すように、衝突前からウィンドウレギュレータR1が制御されて窓ガラスW1が閉じ始められる。これにより、図17(c)に示すように、衝突時においては、車体側部の窓ガラスW1を閉じた状態のもとで、車体側部のエアバッグモジュールA3,A13が展開される。これにより、車体側部のエアバッグモジュールA3,A13を適切に展開することができ、乗員を適切に保護することが可能となる。
また、車両11にロールオーバー挙動が発生する状況とは、例えば、斜面に沿って横転する虞のある状況や、縁石等に衝突して横転する虞のある状況であることから、車両11の横転状況に合わせてエアバッグモジュールを展開することが重要である。このため、ロールオーバー挙動の発生が判定された場合には、車体側部のエアバッグモジュールA3,A13を中心にエアバッグモジュールを展開するロールオーバー展開モードが設定される。ところで、車体側部のエアバッグモジュールA3,A13を展開する際に、ドアD1の窓ガラスW1が開かれていると、エアバッグモジュールA3,A13が車外に露出することから、エアバッグモジュールA3,A13を適切に機能させることが困難となる。そこで、図18(a)に示すように、ロールオーバー展開モードの設定時に窓ガラスW1が開かれていた場合には、図18(b)に示すように、横転前からウィンドウレギュレータR1が制御されて窓ガラスW1が閉じ始められる。これにより、図19(a)および(b)に示すように、横転時においては、車体側部の窓ガラスW1を閉じた状態のもとで、車体側部のエアバッグモジュールA3,A13が展開される。また、車両11が横転する際には、車体の下部から上部にかけて徐々に路面等に接触することから、図19(a)に示すように、下側のサイドエアバッグであるエアバッグモジュールA3を展開した後に、図19(b)に示すように、上側のカーテンエアバッグであるエアバッグモジュールA13を展開している。これにより、車体側部のエアバッグモジュールA3,A13を適切に展開することができ、乗員を適切に保護することが可能となる。
本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。前述の説明では、新旧2つの画像データを比較して特徴点の移動量を演算しているが、これに限られることはなく、3つ以上の画像データを比較して特徴点の移動量を演算しても良い。また、カメラユニットC1〜C4としては、単眼カメラであっても良く、ステレオカメラであっても良い。さらに、カメラユニットC1,C2の撮像方向は、車両11の前後方向に対して傾斜しても良く、カメラユニットC3,C4の撮像方向は、車両11の車幅方向に対して傾斜しても良い。
また、前述の説明では、スピン挙動やロールオーバー挙動の判定結果に基づいてエアバッグシステム12を制御しているが、これに限られることはない。例えば、スピン挙動やロールオーバー挙動の判定結果を用いて、各車輪のブレーキ制御やトルク分配制御等を実行することにより、スピン挙動やロールオーバー挙動を解消しても良い。なお、前述の説明では、特徴点抽出部、移動量算出部および挙動判定部を、1つの制御ユニット20に組み込んでいるが、これに限られることはない。例えば、特徴点抽出部、移動量算出部および挙動判定部を、複数の制御ユニットに分けて組み込んでも良い。
10 車両挙動判定装置
11 車両
20 制御ユニット
33 特徴点抽出部
35 特徴点比較部(移動量演算部)
36 挙動判定部
C1 カメラユニット(センサ部,前センサ部)
C2 カメラユニット(センサ部,後センサ部)
C3 カメラユニット(センサ部,左センサ部)
C4 カメラユニット(センサ部,右センサ部)

Claims (1)

  1. 車両の回転挙動を判定する車両挙動判定装置であって、
    撮像周期毎に車両周囲を撮像して画像データを出力するセンサ部と、
    前記センサ部より出力される複数の前記画像データから、共通の特徴点を抽出する特徴点抽出部と、
    撮像時点の異なる複数の前記特徴点を比較し、前記特徴点の移動量を演算する移動量演算部と、
    前記特徴点の移動量に基づいて、前記車両の回転挙動を判定する挙動判定部と、
    を有し、
    前記センサ部として、車両前方の画像データを出力する前センサ部と、車両後方の画像データを出力する後センサ部との少なくともいずれか一方を備え、
    前記特徴点抽出部は、前記特徴点として、前記画像データの消失点よりも右側の領域から右特徴点を抽出し、前記画像データの消失点よりも左側の領域から左特徴点を抽出し、
    前記移動量演算部は、前記右特徴点の移動量を演算し、前記左特徴点の移動量を演算し、
    前記挙動判定部は、前記右特徴点と前記左特徴点との移動量の垂直方向成分に基づいて、前記車両の回転挙動がロール軸回りに回転するロールオーバー挙動であるか否かを判定する、
    車両挙動判定装置。
JP2014192665A 2014-09-22 2014-09-22 車両挙動判定装置 Active JP6371655B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014192665A JP6371655B2 (ja) 2014-09-22 2014-09-22 車両挙動判定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014192665A JP6371655B2 (ja) 2014-09-22 2014-09-22 車両挙動判定装置

Publications (2)

Publication Number Publication Date
JP2016060463A JP2016060463A (ja) 2016-04-25
JP6371655B2 true JP6371655B2 (ja) 2018-08-08

Family

ID=55796936

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014192665A Active JP6371655B2 (ja) 2014-09-22 2014-09-22 車両挙動判定装置

Country Status (1)

Country Link
JP (1) JP6371655B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6787766B2 (ja) * 2016-12-09 2020-11-18 株式会社Subaru 車両用横転検出装置
KR102627453B1 (ko) 2018-10-17 2024-01-19 삼성전자주식회사 위치 추정 장치 및 방법
KR102623127B1 (ko) * 2019-07-08 2024-01-10 현대모비스 주식회사 루프 에어백 장치

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007216747A (ja) * 2006-02-15 2007-08-30 Fujitsu Ten Ltd 車両横転検知装置及び乗員保護システム
JP5556748B2 (ja) * 2011-06-21 2014-07-23 株式会社デンソー 車両状態検出装置

Also Published As

Publication number Publication date
JP2016060463A (ja) 2016-04-25

Similar Documents

Publication Publication Date Title
KR101611087B1 (ko) 차량용 승객 보호시스템 및 방법
US20170036565A1 (en) Vehicle seat
JP6107839B2 (ja) 車両用乗員保護装置
JP6371655B2 (ja) 車両挙動判定装置
US10710544B2 (en) External airbag
JP2008105498A (ja) エアバッグ制御システム、エアバッグ制御方法、エアバッグ制御装置、及びプログラム
US20160264094A1 (en) External airbag
EP3222475B1 (en) Dashboard protection arrangement
JP4584097B2 (ja) ロールオーバー判定装置
CN106985783A (zh) 图像处理装置
JP6675823B2 (ja) 乗員保護装置
US10688949B2 (en) Occupant protection device
JP2009220784A (ja) エアバッグ制御装置及びエアバッグ制御方法
JP5087081B2 (ja) 側面衝突用エアバッグ制御装置
JP2020157839A (ja) エアバック装置およびこれを備えた車両
JP2006160066A (ja) エアバッグ展開制御装置、エアバッグ展開制御方法
KR20130012730A (ko) 후드 에어백 장치
JP6323713B2 (ja) 車両回転検出装置
JP7084179B2 (ja) 車両の側面衝突検出装置
KR20220153264A (ko) 도어 장착형 에어백 및 그 전개 제어방법
JP6555659B2 (ja) 車外用エアバッグ
JP6690902B2 (ja) 歩行者保護デバイスの制御システム
JP4751158B2 (ja) カーテンエアバッグ装置
KR102227219B1 (ko) 에어백 전개를 위한 스몰 오버랩 충돌 판단 방법
KR101697927B1 (ko) 자동차의 승객보호장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180713

R150 Certificate of patent or registration of utility model

Ref document number: 6371655

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250