JP4984521B2 - 車載カメラの制御装置 - Google Patents

車載カメラの制御装置 Download PDF

Info

Publication number
JP4984521B2
JP4984521B2 JP2005368059A JP2005368059A JP4984521B2 JP 4984521 B2 JP4984521 B2 JP 4984521B2 JP 2005368059 A JP2005368059 A JP 2005368059A JP 2005368059 A JP2005368059 A JP 2005368059A JP 4984521 B2 JP4984521 B2 JP 4984521B2
Authority
JP
Japan
Prior art keywords
vehicle
camera
mode
driver
function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005368059A
Other languages
English (en)
Other versions
JP2007168570A (ja
Inventor
重康 魚住
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2005368059A priority Critical patent/JP4984521B2/ja
Publication of JP2007168570A publication Critical patent/JP2007168570A/ja
Application granted granted Critical
Publication of JP4984521B2 publication Critical patent/JP4984521B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車載カメラの制御装置に係り、特に、車室内に運転者の顔を撮影するため或いは車室内を撮影するために設けられた車載カメラの制御装置に関する。
従来から、車室内に設けられた車載カメラの撮像画像を処理する装置が知られている(例えば、特許文献1及び2参照)。これら従来の装置においては、運転者の状態(例えば顔の向きや目線の方向)を検知するための機能と車両盗難を防止するための機能との双方を備えた車載カメラが用いられている。具体的には、これらの装置は、イグニションスイッチがオンとなる車両運転時は、車載カメラの撮像画像に基づいて運転者の脇見や居眠りの有無などを検知し、一方、イグニションスイッチがオフとなる車両停止時は、車両盗難が検知される際にその車載カメラの撮像画像をメモリに記録し或いは所定の通報先へ伝送することとしている。
特開2004−122969号公報 特開2003−112605号公報
しかしながら、上記従来の装置においては、車載カメラの撮像画像を運転者の状態検知に用いる場合(車両運転時)と車両盗難防止に用いる場合(車両停止時)とで、カメラの撮影領域が異なっておらず、利用される撮像画像が同一である。このため、利用される車載カメラの撮像画像の範囲が一定に固定されると、その固定範囲が比較的狭いときには、運転者の状態を精度よく検知することは可能であっても車室内を広範囲にわたって撮影することができない事態が生じ、逆に、その固定範囲が比較的広いときには、車室内を広範囲にわたって撮影することは可能であっても運転者の状態を精度よく検知することができない事態が生じ、この点で、上記した両機能が適切に両立しない不都合が生じ得る。
本発明は、上述の点に鑑みてなされたものであり、運転者の状態検知を行う機能と車両盗難防止を含む車両監視を行う機能とを適切に両立させることが可能な車載カメラの制御装置を提供することを目的とする。
上記の目的は、イグニションスイッチのオン/オフにより車両が運転されているか停止されているかを判定する車両状態判定手段と、前記車両状態判定手段による判定結果に応じて、車室内に設けられた車載カメラの撮影機能を、主に運転者の顔を撮影する際に対応する第1の撮影モードと主に車室内を撮影する際に対応する第2の撮影モードとに切り替える撮影機能切替手段と、前記車載カメラに付随する赤外投光器の機能を、前記車両状態判定手段により車両が運転されていると判定される場合は、主に前記車載カメラの撮影領域における照度を確保する際に対応する第1の投光モードに設定し、一方、前記車両状態判定手段により車両が停止されていると判定される場合は、キーロックスイッチの状態に基づく車両外側から車両がロックされているか否かに応じて、主に車室内監視を行う際に対応する第2の投光モードと主に車両盗難者への威嚇発光を行う際に対応する第3の投光モードとに切り替える投光機能制御手段と、を備える車載カメラの制御装置により達成される。
この態様の発明において、車室内の車載カメラの撮影機能は、イグニションスイッチのオン/オフにより車両が運転されているか停止されているかに応じて、主に運転者の顔を撮影する際に対応する第1の撮影モードと主に車室内を撮影する際に対応する第2の撮影モードとに切り替わる。車載カメラの撮影機能が運転者の顔撮影によるその状態検知時と車室内撮影による車両監視時とで適宜対応して第1の撮影モードと第2の撮影モードとに切り替われば、車載カメラの撮影機能に関し運転者の状態検知を行う機能と車両監視を行う機能とが適切に両立されることとなる。
また、車室内の車載カメラに付随する赤外投光器の機能は、主に車載カメラの撮影領域における照度を確保する際に対応する第1の投光モードと主に車室内監視を行う際に対応する第2の投光モードと主に車両盗難者への威嚇発光を行う際に対応する第3の投光モードとに切り替わる。具体的には、車両が運転されている場合は第1の投光モードに設定し、また、車両が停止されている場合は車両外側から車両がロックされているか否かに応じて第2の投光モードと第3の投光モードとに切り替わる。車載カメラに付随する赤外投光器の機能が車載カメラの撮影領域の照度を確保してその撮像画像から運転者の状態を検知する時と車両盗難を防止する車両監視時と車両盗難者への威嚇発光を行う盗難防止時とで適宜対応して第1の投光モードと第2の投光モードと第3の投光モードとに切り替われば、赤外投光器の機能に関し運転者の状態検知を行う機能と車両監視を行う機能とが適切に両立されることとなる。
この場合、上記した車載カメラの制御装置において、前記撮影機能切替手段は、前記車載カメラの撮影領域を、前記第1の撮影モード時には狭域とし、一方、前記第2の撮影モード時には広域とすることとしてもよい。車載カメラの撮影領域は、運転者の顔を撮影してその状態を検知するうえでは比較的狭くても十分である一方、車室内を撮影して車両監視を行ううえでは比較的広い方が有効である。従って、本発明の構成によれば、車載カメラの撮影機能に関し運転者の状態検知を行う機能と車両監視を行う機能とを適切に両立させることが可能となる。
また、上記した車載カメラの制御装置において、前記撮影機能切替手段は、前記車載カメラの撮影した撮像画像全体のうちの画像処理範囲を、前記第1の撮影モード時には狭範囲とし、一方、前記第2の撮影モード時には広範囲とすることとしてもよい。車載カメラの撮像画像全体のうちの画像処理範囲は、運転者の顔を撮影してその状態を検知するうえでは比較的狭くても十分である一方、車室内を撮影して車両監視を行ううえでは比較的広い方が有効である。従って、本発明の構成によれば、車載カメラの撮影機能に関し運転者の状態検知を行う機能と車両監視を行う機能とを適切に両立させることが可能となる。
この場合、上記した車載カメラの制御装置において、前記投光機能制御手段は、前記赤外投光器の投光を、前記第1の投光モード時には常時行い、一方、前記第2の投光モード時及び前記第3の投光モード時には間欠的に行うこととしてもよい。赤外投光器の投光は、車載カメラの撮影領域の照度を確保するうえでは常時行うことが適切である一方、車室内監視や車両盗難者への威嚇発光を行ううえでは間欠的に行うことが有効である。従って、本発明の構成によれば、赤外投光器の機能に関し運転者の状態検知を行う機能と車両監視を行う機能とを適切に両立させることが可能となる。
また、上記した車載カメラの制御装置において、前記投光機能制御手段は、前記赤外投光器の投光出力強度を、前記第1の投光モード時及び前記第2の投光モード時には低くし、一方、前記第3の投光モード時には高くすることとしてもよい。赤外投光器の投光出力強度は、車載カメラの撮影領域の照度を確保するうえでは比較的低くても十分である一方、車両盗難者への威嚇発光を行ううえでは比較的高い方が有効である。従って、本発明の構成によれば、赤外投光器の機能に関し運転者の状態検知を行う機能と車両監視を行う機能とを適切に両立させることが可能となる。
この場合、前記投光機能制御手段による前記投光出力強度の切り替えは、投光する前記赤外投光器の数が増減されることにより実現されることとしてもよいし、また、前記赤外投光器に流す電流値が増減されることにより実現されることとしてもよい。
本発明によれば、車載カメラ又はそれに付随する赤外投光器の機能に関し運転者の状態検知を行う機能と車両監視を行う機能とを適切に両立させることができる。
図1は、本発明の一実施例である車両に搭載される車載カメラの制御装置を備えるシステムの構成図を示す。また、図2は、本実施例の有する車載カメラの搭載構造を示す。尚、図2(A)には車両横方向から見た際の図を、また、図2(B)には図2(A)に示す矢視IIIの方向へ見た際の図を、それぞれ示す。本実施例のシステムは、1台の車載カメラを用いて、車両シートに着座する車両運転者の顔の向いている方向を検知すると共に、車両盗難防止や車内監視のための車両監視を行うシステムである。
図1に示す如く、本実施例のシステムは、車載カメラ10及びその車載カメラ10に付随する赤外投光器12を備えている。車載カメラ10及び赤外投光器12は、単一のケース14内に収納されている。このケース14は、ステアリングコラム16の軸部を覆うコラムアッパカバー18の上面に設置されている。
尚、ケース14のコラムアッパカバー18上での配設位置は、車両衝突時における衝撃吸収を図るうえで必要なケース14とコンビネーションメータ20表面との間のクリアランスを確保する観点や車載カメラ10の撮影領域をある程度大きく確保する観点から、できるだけステアリングホイール22側であることが望ましい。また、上記のステアリングコラム16は、ステアリングホイール22及びケース14と一体で、後述のイグニションスイッチのオンによる車両運転時には車両運転者が運転操作し易いように通常のステア操作位置にあり、一方、イグニションスイッチのオフによる車両停止時には車両運転者が降車し易くかつ乗車し易いように上記のステア操作位置よりもエンジンルーム側すなわちコンビネーションメータ側の格納位置に格納されることとしてもよい。すなわち、ステアリングコラム16の位置は、車両運転者によるイグニション操作に応じてステア操作位置と格納位置とに切り替わることとしてもよい。
車載カメラ10は、そのカメラ光軸中心がステアリングホイール22の中心Oを通る鉛直線上に位置するように配置されている。車載カメラ10は、ステアリングホイール22の表面に運転者がそのステアリングホイール22を手で握るためかつコンビネーションメータ20を視認するために開口する開口部22aを通して、車両進行方向と正対する方向かつ運転者の頭部(顔)が存在する方向へ指向されたカメラ画角を有し、運転者の顔をほぼ正面から撮影することが可能である。
また、赤外投光器12は、ケース14内において車載カメラ10の左右両側に同数ずつ(図2(B)においては3個ずつ)設けられている。各赤外投光器12は、車両運転者の頭部付近へ向けて赤外光を投光するLEDランプであり、運転者の顔を照らすことにより特に車載カメラ10による夜間撮影を可能とする機能を有している。尚、赤外投光器12を車載カメラ10の左右両側に同数ずつ設けるのは、車両運転者がほぼ正面を向いている際(非脇見時)に運転者の顔における赤外光による照度を左右均等にすることができ、これにより、夜間撮影時に車載カメラ10の撮像画像から運転者の顔幅や顔中心線などの特徴部位を適正に検出し易くなり、後述する運転者の顔向き角度の正確な検出を実行することが可能となるからである。
車載カメラ10及び赤外投光器12は、その制御装置として機能するカメラECU24に接続されている。車載カメラ10の撮影した映像信号は、カメラECU24に供給される。カメラECU24は、コンピュータを主体に構成されており、車載カメラ10から供給される映像信号を後に詳述の如く処理する。また、カメラECU24は、後に詳述の如く、赤外投光器12による赤外光の投光を制御する。
カメラECU24には、車両運転者により操作されるイグニションスイッチ26及びキーロックスイッチ28が接続されている。イグニションスイッチ26は、車両運転時にオン状態となり、車両停止時にオフ状態となるスイッチである。また、キーロックスイッチ28は、車両外側からドアキーシリンダに車両キーが挿入されてドアロック操作が行われ或いは無線通信を利用してリモートドアロック操作が行われることにより車両ドアがロックされているときにオン状態となり、それ以外のときにオフ状態となるスイッチである。カメラECU24は、イグニションスイッチ26の状態に基づいて車両が運転されているか停止されているか否かを判別すると共に、キーロックスイッチ28の状態に基づいて車両外側から車両ドアがロックされているか否かすなわち車両が駐車されているか否かを判別する。カメラECU24は、これらの判別結果に基づいて、車載カメラ10の撮像画像の処理を行い、かつ、赤外投光器12の投光制御を行う。
カメラECU24には、コンピュータを主体に構成された車間制御ECU30が通信接続されている。車間制御ECU30には、車体前端のバンパやフロントグリル等に配設された障害物センサ32が接続されている。障害物センサ32は、例えばミリ波レーダやレーザレーダ,カメラ等により構成されており、自車両の前方(特に自車両の進路上)に存在する障害物に応じた信号を車間制御ECU30に対して出力する。車間制御ECU30は、障害物センサ32の出力信号に基づいて、自車両が走行するのに最も注意すべき前方障害物の有無を検出すると共に、かかる前方障害物が存在するときには自車両とその前方障害物との距離を検出し、その検出距離と車速センサなどを用いて検出される自車速とに基づいて両者の相対速度を検出する。そして、それらの結果に基づいて自車両と前方障害物との衝突を予測する。
カメラECU24の検出した後述の車両運転中における車両運転者の顔向き角度の情報は、車間制御ECU30に供給される。車間制御ECU30は、カメラECU24から供給される運転者の顔向き角度の情報に基づいて、運転者が顔を向けた方向である顔向き角度θを把握する。車間制御ECU30は、障害物センサ32などを用いて検出した自車両と前方障害物との衝突予測を、運転者の顔向き角度θに応じて補正する。
車間制御ECU30には、警報表示ディスプレイ34及び警報ブザー36が接続されている。警報表示ディスプレイ34は、例えば車室内のインストルメントパネルに設けられたメータユニットであり、車間制御ECU30からの駆動指令に従って警報表示を行うことで車両運転者に対する注意喚起を行う。また、警報ブザー36は、車室内に設けられたブザー警報器であり、車間制御ECU30からの駆動指令に従ってブザー吹鳴を行うことで車両運転者に対する注意喚起を行う。車間制御ECU30は、自車両と前方障害物との衝突予測結果に応じて適宜、警報表示ディスプレイ34及び警報ブザー36を駆動させる。
また、カメラECU24には、コンピュータを主体に構成された車両監視ECU40が通信接続されている。車両監視ECU40には、上記したイグニションスイッチ26及びキーロックスイッチ28が接続されている。車両監視ECU40は、イグニションスイッチ26の状態に基づいて車両が運転されているか停止されているか否かを判別すると共に、キーロックスイッチ28の状態に基づいて車両外側から車両ドアがロックされているか否かすなわち車両が駐車されているか否かを判別して、車両の状態、具体的には、車両が運転されている状況(車両運転モード)にあるか、車両が停止されているが車両ドアがロックされていない状況(車内監視用モード)にあるか、或いは、車両が停止されておりかつ車両ドアがロックされている状況(盗難防止用モード)にあるかを検知する。
車両監視ECU40には、また、侵入センサ42が接続されている。侵入センサ42は、例えば電波や超音波,赤外線などを利用して車両自体や車室内のものの動きや振動を検知する感知センサや車両シートに加わる荷重を検知する荷重センサなどであって、車室内への侵入行為や車室内における人の有無に応じた信号を車両監視ECU40に対して出力する。車両監視ECU40は、侵入センサ42の出力信号に基づいて車室内における人の存在などの広い意味での車両侵入行為を検知する。
車両監視ECU40には、更に、警報アラーム44、記録装置46、及び送信機48が接続されている。警報アラーム44は、車両周囲に向けてアラーム警報を出力するアラーム警報器であり、車両監視ECU40からの駆動指令に従ってアラーム警報を発することで車両周囲の人に対して自車両において盗難などの不正行為が行われていることを報知する。上記した車載カメラ10の撮影した撮像画像は、車両停止中、カメラECU24を経由して車両監視ECU40に供給される。記録装置46は、ハードディスクなどにより構成されており、カメラECU24側から供給される車載カメラ10の撮像画像を記録する。また、送信機48は、警察署や消防署などの救援機関に救援要請を行い得るヘルプネットセンタと無線通信を行うためのデータ通信モジュール(DCM)などであり、必要に応じて、カメラECU24側から供給される車載カメラ10の撮像画像を通信ネットワークを介してヘルプネットセンタへ送信する。車両監視ECU40は、検知した車両の状態及び侵入センサ42による検知結果に応じて適宜、警報アラーム44、記録装置46、及び送信機48を駆動させる。
次に、本実施例のシステムの動作について説明する。本実施例のシステムは、(1)車載カメラ10の撮像画像を用いて車両運転者の顔向き角度θを検出して自車両と前方障害物との衝突予測を行い、その衝突予測結果に応じて衝突回避或いは衝突緩和のための警報を行うプリクラッシュセーフティ(PCS)システムであると共に、(2)侵入センサ42や車載カメラ10を用いて車両盗難防止や車内監視を行う車両監視システムである。
本実施例のシステムにおいて、カメラECU24は、上記の如く、イグニションスイッチ26の状態に基づいて車両が運転されているか停止されているか否かを判別すると共に、キーロックスイッチ28の状態に基づいて車両外側から車両ドアがロックされているか否かすなわち車両が駐車されているか否かを判別する。
カメラECU24は、上記の判別の結果、イグニションスイッチ26のオンにより車両が運転されていると判別するときは、上記PCSシステムの作動を可能とすべく、車載カメラ10から入力される映像信号としての撮像画像について2値化処理や特徴点抽出処理などの画像処理を行う。そして、その撮像画像から車両運転者の顔幅及び顔中心線を検出すると共に、それらの検出パラメータから撮像画像に映し出された運転者の顔の左右間隔比率を算出することにより、その左右間隔比率から運転者の顔が向く方向すなわち正面からの顔向き角度θ(尚、運転者が車両真正面に顔を向けたときを0°とする。)を検出する。この検出された運転者の顔向き角度θの情報は、カメラECU24から車間制御ECU30へ供給される。
また、カメラECU24は、イグニションスイッチ26のオンにより車両が運転されていると判別するときは、運転者の顔近傍の照度を確保すべく、赤外投光器12を常時点灯させて赤外光を投光させる。この場合には、運転者の顔が赤外投光器12による赤外光により照らされつつ車載カメラ10による撮影が行われることとなるので、夜間撮影時にもカメラECU24によるカメラ撮像画像の処理において、運転者の顔幅や顔中心線などの特徴部位が適正に検出され易くなり、運転者の顔向き角度θの正確な検出が行われ易くなる。
車間制御ECU30は、上記の如く、障害物センサ32の出力信号に基づいて、自車両が走行するのに最も注意すべき前方障害物の有無を検出する。その結果、その前方障害物の存在を検知したときは、以後、その前方障害物との距離及び相対速度並びに自車両の進路及びその進路に対する前方障害物の位置等に基づいて、自車両が現時点で前方障害物と衝突する可能性(衝突可能性)を演算する。尚、自車両が前方障害物と衝突するまでの時間が短いほどその衝突可能性は高まるので、車間制御ECU30が演算する衝突可能性は、自車両と前方障害物との距離を両者の相対速度で割って求まる時間(衝突予測時間)に対応した値とすればよく、この際には、その衝突予測時間が短いほど大きな値となる。そこで、車間制御ECU30は、予め、運転者がPCSシステムの作動(警報)による不快な思いをすることなく衝突回避行動を有効にとることが困難となる衝突可能性具体的には衝突までの衝突予測時間を、警報を開始するための基準しきい値レベル(例えば1.8秒や2秒;基準タイムt1)として格納している。
また、運転者がインナーミラーや運転席側や助手席側のアウターミラー,車室内のディスプレイ表示を見たり、或いは車体左右の安全確認のために車外を視認したりする脇見による前方不注意が生ずると、車両の前面衝突が生じ易くなり、車両が衝突する可能性が高くなる。従って、自車両の衝突回避や被害軽減を図るうえでは、衝突前、運転者の車両前方への注意力が低下しているときは、通常よりも早いタイミングで車両運転者に向けて上記の警報を行うことが適切である。そこで、車間制御ECU30は、予め、運転者が顔を正面方向から外す脇見を行っているか否かを判別するための顔向き角度のしきい値θ0(例えば、±15°)を格納している。
車間制御ECU30は、カメラECU24から運転者の顔向き角度θの情報が供給されるごとに、その顔向き角度θをしきい値θ0と比較する。その結果、θ≦θ0が成立するときは、運転者の顔がほぼ正面方向に向いていると判断できるので、上記の如く現時点での自車両と前方障害物との衝突可能性を演算した際に、その衝突予測時間を通常どおりの基準タイムt1と比較する。そして、衝突予測時間が基準タイムt1以下になったとき、その時点から少なくとも衝突時まで警報がなされるように警報表示ディスプレイ34及び警報ブザー36に対して駆動指令を行う。この場合には、警報表示ディスプレイ34が警報表示を行い、警報ブザー36がブザー吹鳴を行うことにより、自車両と前方障害物との衝突回避又は衝突緩和が運転者に促されることとなる。
一方、θ>θ0が成立するときは、運転者の顔が正面方向に向いていないと判断できるので、まず、運転者への警報を開始するうえで前方障害物との衝突予測時間が至るべきしきい値タイムttを上記の基準タイムt1よりも長くすること(衝突時を基準にして早めにすること)で、衝突可能性が達すべきしきい値レベルを上記の基準しきい値レベルから低下させる。尚、運転者の顔が正面方向に向いていない脇見の継続時間が長いほど、そのしきい値タイムttの基準タイムt1からの前出し時間を長くして、そのしきい値レベルの基準しきい値レベルからの低下量を多くすることとしてもよい。そして次に、自車両と前方障害物との衝突可能性を演算した際に、その衝突予測時間をその時点で設定されているしきい値タイムttと比較する。その比較の結果、衝突予測時間がしきい値タイムtt以下となったとき、その時点から少なくとも衝突時まで警報がなされるように警報表示ディスプレイ34及び警報ブザー36に対して駆動指令を行う。この場合には、警報表示ディスプレイ34が警報表示を行い、警報ブザー36がブザー吹鳴を行うことにより、自車両と前方障害物との衝突回避又は衝突緩和が運転者に促されることとなる。
従って、本実施例のPCSシステムによれば、自車両が前方障害物と衝突する前に、衝突回避又は被害軽減のための警報表示ディスプレイ20及び警報ブザー22による警報を行うと共に、更に、その警報を、カメラ撮像画像の画像処理により運転者の顔が正面方向を向いていないと判断される状況においては、正面方向を向いていると判断される状況において開始される運転者の通常衝突回避行動をとり得るタイミングよりも早く開始することができる。このため、本実施例のPCSシステムによれば、前方障害物との衝突前において、できるだけ警報によって運転者に煩わしさを与えるのを抑制しつつ、運転者の脇見に起因した衝突回避行動が遅れるのを防止することができ、これにより、車両走行時における安全性を向上させることが可能となっている。
また、カメラECU24は、イグニションスイッチ26のオフにより車両が停止されていると判別するときは、上記車両監視システムの作動を可能とすべく、車両カメラ10から入力される映像信号としての撮像画像について、上記の如く運転者の顔向き角度θの検出を行うための2値化処理や特徴点抽出などの画像処理を行うことなく、そのまま車両監視ECU40へ供給する。
車両監視ECU40は、上記の如く、イグニションスイッチ26の状態に基づいて車両が運転されているか停止されているか否かを判別すると共に、キーロックスイッチ28の状態に基づいて車両外側から車両ドアがロックされているか否かすなわち車両が駐車されているか否かを判別する。その判別の結果、イグニションスイッチ26のオンにより車両が運転されていると判別するときは、侵入センサ42を無効にすると共に、警報アラーム44による警報などを行わない一方、イグニションスイッチ26のオフにより車両が停止されていると判別するときは、警報アラーム44などの駆動を許容する。
具体的には、車両監視ECU40は、車両が停止されておりかつ車両外側からの車両ドアロックがなされていないときは、車両停止後に正規の車両乗員が車室内に残っている可能性はあるが車室内の状態を監視する目的で、侵入センサ42を無効に維持しつつ、カメラECU24側から供給される車載カメラ10の撮像画像を記録装置46へ記録する(車内監視モード)。また、車両が停止されておりかつ車両外側からの車両ドアロックがなされているときは、車両停止後に正規の車両乗員が降車したと判断できるので、不審者による車両盗難を防止する目的で、侵入センサ42を有効にすると共に、警報アラーム44、記録装置46、及び送信機48のすべての駆動を許容する(盗難防止モード)。そして、かかる盗難防止モードで侵入センサ42を用いて車両侵入行為を検知すると、車両侵入が生じた旨を車両周囲の人に知らせるべく警報アラーム44を駆動させると共に、カメラECU24側から供給される車載カメラ10の撮像画像を記録装置46へ記録し、送信機48を用いてカメラECU24側から供給される車載カメラ10の撮像画像を通信ネットワークを介してヘルプネットセンタへ送信する。
従って、本実施例の車両監視システムによれば、イグニションオフ後、車内監視や車両盗難防止などの車両監視を行い、特に、車室内の状態を画像として残すべくカメラ撮像画像を記録装置46に記録し、更に侵入センサ42を用いた侵入行為検知時には送信機48を用いてヘルプネットセンタへ送信することができる。このため、本実施例の車両監視システムによれば、車両侵入防止や盗難防止を確保して車両のセキュリティ性を向上させることが可能となっている。
ところで、一台の車載カメラ10の撮像画像が、PCSシステムにおける運転者の顔向き角度θの検出に用いられる場合と車両監視システムにおける車両監視に用いられる場合とで、その利用される撮像画像全体のうちの画像処理範囲が同一であって一定に固定されていると、その固定範囲が比較的狭いときには、運転者の顔向き角度を精度よく検出することは可能であっても車室内を広範囲にわたって撮影することができない事態が生じ、逆に、その固定範囲が比較的広いときには、車室内を広範囲にわたって撮影することは可能であっても運転者の顔向き角度を精度よく検出することができない事態が生じ、この点で、両システムの機能が両立しない不都合が生じ得る。
また、本実施例のPCSシステムにおいて車載カメラ10の撮像画像を用いて運転者の顔向き角度θが検出されるときには常時、その正確な検出が行われ易くなるように赤外投光器12から赤外光が投光される。しかし、本実施例の車両監視システムにおいては、運転者の顔向き角度θを検出する必要はないので、その検出のために赤外投光器12から赤外光を投光することは不要である一方、車両監視が行われていることを人に知らせるうえではその赤外光を投光することは有効である。
そこで、本実施例のシステムにおいては、車載カメラ10の撮像画像を利用したPCSシステムの機能と車両監視システムの機能とが適切に両立するように車載カメラ10の撮影機能を適宜切り替える点に第1の特徴を有し、また、赤外投光器12の機能をPCSシステムの作動時と車両監視システムの作動時とで切り替える点に第2の特徴を有している。以下、図3及び図4を参照して、本実施例の特徴部について説明する。
図3は、本実施例においてPCSシステムの機能と車両監視システムの機能との両立を図る手法を説明するための図を示す。尚、図3(A)には車両上方から見た際の図を、また、図3(B)には車載カメラ10の撮影した撮像画像の一例を、それぞれ示す。更に、図4は、本実施例の車載カメラ10の制御装置においてカメラECU24が実行する制御ルーチンの一例のフローチャートを示す。図4に示すルーチンは、所定時間ごとに繰り返し起動されるルーチンである。図4に示すルーチンが起動されると、まずステップ100の処理が実行される。
カメラ撮像画像から運転者の顔を抽出してその顔向き角度θを検出するうえでは、そのカメラ撮像画像に運転者の顔のみが映し出されていれば十分である。一方、車両監視のためにカメラ撮像画像を記録し或いはヘルプネットセンタへ送信するうえでは、そのカメラ撮像画像に車室内にわたって広い領域が映し出されていることが適切である。従って、図3に示す如く、車載カメラ10の撮影し得る領域(カメラ画角)を車室内全体が映し出されるようにある程度広く設定したうえで、運転者の顔向き角度の検出に用いる画像処理範囲をカメラ撮像画像全体のうちの一部に限定すると共に、車両監視に用いる画像処理範囲をカメラ撮像画像全体に設定することとすれば、車載カメラ10の機能に関し上記のPCSシステムと車両監視システムとの両立を図ることが可能となる。
また、夜間やトンネル走行時においてもカメラ撮像画像を用いて運転者の顔向き角度θを精度よく検出するうえでは、常時、赤外投光器12から赤外光を投光させることが適切である。また、車内監視が行われていることを人に知らせるうえでは、赤外投光器12からの赤外光の投光を間欠的に行うことが有効である。特に、車両盗難監視時に車両侵入行為が検出されたときは、その侵入者に対して赤外投光器12からの赤外光の投光による威嚇発光を行うことが車両盗難を防止するうえで有効である。
本実施例において、カメラECU24には、イグニションスイッチ26の状態及びキーロックスイッチ28の状態が入力される(ステップ100)。そして、カメラECU24は、イグニションスイッチ26のオンにより車両が運転されていると判別するとき(ステップ102における否定判定時)は、上記PCSシステムの作動を可能とする顔向き検知モードとなる(ステップ104)。
カメラECU24は、顔向き検知モードでは、車載カメラ10の撮影した撮像画像から運転者の顔を抽出するのに用いる画像処理範囲を図3(B)に示す如くそのカメラ撮像画像全体のうちの一部に限定して、その撮像画像全体のうち比較的狭い画像処理範囲について画像処理を行うことにより運転者の顔向き角度θを検出すると共に、赤外投光器12による赤外光の投光を常時行わせる(ステップ106)。尚、この際、上記の一部に限定される画像処理範囲のカメラ撮像画像全体での位置及び大きさは、車両シートに正規に着座した車両運転者の顔が全体的に含まれるものであればよい。また、赤外投光器12による赤外光の投光は、常時行われるのではなく、車室内が比較的暗くなったときにのみ行われるものであってもよい。また、この投光の出力強度は、運転者の顔近傍における照度が抽出可能な程度に確保されればよく、赤外投光器12において許容される最大強度よりも低く抑えられたものであってもよい。例えば、この出力強度の低下は、すべての赤外投光器12のうち赤外光を投光させるものの数を減らし、或いは、各赤外投光器12へ流す電流や印加する電圧を減らすことにより実現されることとすればよい。
かかる構成によれば、顔向き検知モードにおいて、カメラ撮像画像のうちの必要最低限の範囲での画像処理により運転者の顔向き角度θの検出を行うことができると共に、夜間撮影時やトンネル走行時などにもその顔向き角度θの正確な検出を行うことができる。このため、カメラ撮像画像の画像処理により得た運転者の顔向き角度θに応じたPCSシステムにおける警報制御を適切に行うことが可能となっている。
また、カメラECU24は、イグニションスイッチ26のオフかつキーロックスイッチ28のオフにより車両が停止されておりかつ車両外側からドアロックがなされていないと判別するとき(ステップ102における肯定判定かつステップ108における否定判定時)は、上記車両監視システムにおける車内監視の作動を可能とする車内監視モードとなる(ステップ110)。
カメラECU24は、車内監視モードでは、車載カメラ10の撮影した撮像画像全体のうちその車内監視に用いる画像処理範囲を図3(B)に示す如くその撮像画像全体に設定してその撮像画像全体を車両監視ECU40へ供給すると共に、赤外投光器12による赤外光の投光を間欠的に行わせる(ステップ112)。尚、この際、赤外光の投光は、予め定められた所定間隔周期で所定時間継続して行われるものとすればよい。また、その投光の出力強度は、赤外投光器12において許容される最大強度よりも低く抑えられたものであればよい。
かかる構成によれば、車内監視モードにおいて、車載カメラ10を用いて車室内全体が映し出されるようなある程度広い領域を撮影することができ、そして、その撮影領域が映し出された撮像画像を記録装置46に記録することができる。このため、車両停止時に車両外側からドアロックがなされていないときに、車室内全体が映し出されたカメラ撮像画像を記録装置46に記録することで適切な車内監視を行うことが可能となっている。また、車内監視モードにおいては、赤外投光器12を間欠的に点滅させることができるため、車両周囲の人に車内監視が行われている旨を知らせることができ、車両に対する不正行為などの抑止を図ることが可能となっている。
更に、カメラECU24は、イグニションスイッチ26のオフかつキーロックスイッチ28のオンにより車両が停止されておりかつ車両外側からドアロックがなされていると判別するとき(ステップ102における肯定判定かつステップ108における肯定判定時)は、上記車両監視システムにおける車両盗難防止の作動を可能とする盗難防止モードとなる(ステップ114)。また、車両監視ECU40も、車両が停止されておりかつ車両外側からドアロックがなされていると判別するときは、侵入センサ42を有効にして盗難防止モードとなる。そして、かかる盗難防止モードにおいて侵入センサ42を用いて車両侵入行為を検知すると、その車両侵入行為が生じた旨を示す情報をカメラECU24へ送信する。
カメラECU24は、盗難防止モードにおいて車両監視ECU40から車両侵入行為が生じた旨の情報を受信すると、車載カメラ10の撮影した撮像画像全体のうちその盗難防止に用いる画像処理範囲を図3(B)に示す如くその撮像画像全体に設定してその画像全体を車両監視ECU40へ供給すると共に、赤外投光器12による赤外光の投光を間欠的にかつ出力強度を上げて行わせる(ステップ116)。尚、この際、赤外投光器12による投光の出力強度は、赤外投光器12において許容される最大強度であればよく、すべての赤外投光器12から赤外光を投光させかつ各赤外投光器12へ流す電流や電圧を最大許容値に設定するものとすればよい。また、この投光は、上記した車内監視モードにおける間隔周期や継続時間と同一の周期や継続時間で行われるものとしてもよいが、緊迫感を上げるため、それよりも短い周期や継続時間で行われるものとしてもよい。
かかる構成によれば、盗難防止モードにおいて車両侵入行為が検知された際、車載カメラ10を用いて車室内全体が映し出されるようなある程度広い領域を撮影することができ、そして、その撮影領域が映し出された撮像画像を記録装置46に記録すると共に、ヘルプネットセンタへ送信することができる。このため、車両停止かつ車両外側からのドアロック時すなわち車両駐車時において、適切な盗難防止を図ることが可能となっている。また、盗難防止モードにおいて車両侵入行為が検知された際には、赤外投光器12を出力強度を上げて間欠的に点滅させることができるため、車両への侵入者を威嚇することができ、車両侵入や車両盗難の防止を図ることが可能となっている。
このように本実施例のシステムにおいては、一台の車載カメラ10が、イグニションオン時に作動するPCSシステムとイグニションオフ時に作動する車両監視システムとで兼用されると共に、その車載カメラ10の撮影機能が、PCSシステムにおいて必要な運転者の顔向き角度θを検知するのに対応した顔向き検知モードと、車両監視システムにおいて必要な車室内の広範囲にわたる画像を取得するのに対応した車内監視モード及び盗難防止モードとに切り替わる。具体的には、撮影領域が予め一定画角に定められた車載カメラ10の撮影した撮像画像全体のうち利用される画像処理範囲が、PCSシステムにおいて運転者の顔向き角度θを検出する際には比較的狭い範囲とされ、一方、車両監視システムにおいて広範囲の撮像画像を取得する際には比較的広い範囲とされる。
車載カメラ10の撮像画像全体のうち利用される画像処理範囲は、運転者の顔向き角度θを検出するうえでは撮像画像に運転者の顔が映し出されていれば十分であって、比較的狭くても十分である一方、車室内を撮影して車両監視を行ううえでは撮像画像に運転者の顔だけでなく広く車室内が映し出されているのが有効であって、比較的広い方が有効である。従って、本実施例のシステムによれば、PCSシステムでの運転者の顔向き角度θの検出を適切に行うことができ、また、車両監視システムでの車室内が広範囲に映し出されたカメラ撮像画像の取得を適切に行うことができるので、PCSシステムと車両監視システムとで兼用される一台の車載カメラ10の撮影機能に関し、両システムの機能を適切に両立させることが可能となっている。
この点、本実施例によれば、一台の車載カメラ10の撮影機能をPCSシステム及び車両監視システムそれぞれに適切に対応させて切り替えることができるので、両システムにそれぞれ別個のカメラを適用することは不要であり、システムの簡素化及びコストの削減を図ることが可能となっている。
また、本実施例のシステムにおいては、赤外投光器12がPCSシステムと車両監視システムの2つのモードとで兼用されると共に、その赤外投光器12の機能が、PCSシステムにおいて必要な運転者の顔における照度を確保するのに対応した顔向き検知モードと、車両監視システムにおいて必要な車内監視が行われていることを外部に知らせるのに対応した車内監視モードと、車両監視システムにおいて必要な車両侵入者を威嚇するのに対応した盗難防止モードとに切り替わる。具体的には、赤外投光器12の投光が、PCSシステムにおいて運転者の顔における照度を確保する際には常時かつ比較的低い出力強度で行われ、車両監視システムにおいて車内監視を行っていることを外部に知らせる際には間欠的にかつ比較的低い出力強度で行われ、また、車両監視システムにおいて車両侵入者を威嚇する際には間欠的にかつ比較的高い出力強度で行われる。
赤外投光器12の投光は、車載カメラ10の撮影領域の照度を確保するうえでは常時行うことが適切である一方、車内監視が行われていることを車両周囲の人などに知らせ或いは車両盗難者への威嚇発光を行ううえでは間欠的に行うことが有効である。また、赤外投光器12の投光出力強度は、車載カメラ10の撮影領域(特に運転者の顔)の照度を確保する或いは車内監視が行われていることを車両周囲の人などに知らせるうえでは比較的低くても十分である一方、車両盗難者への威嚇発光を行ううえでは比較的高い方が有効である。従って、本実施例のシステムによれば、赤外投光器12による赤外光の投光を、PCSシステムでは運転者の顔向き角度θの検出が行われ易くなるように、車両監視システムでの車内監視モードでは車内監視が行われていることを外部に知らせるように、また、車両監視システムでの盗難防止モードでは車両盗難者を威嚇するように適切に行うことができるので、PCSシステムと車両監視システムとで兼用される赤外投光器12の機能に関し、両システムの各モードの機能を適切に発揮させることが可能となっている。
この点、本実施例によれば、共通の赤外投光器12の機能をPCSシステム及び車両監視システムそれぞれに適切に対応させて切り替えることができるので、両システムにそれぞれ別個の赤外投光器や表示器を適用することは不要であり、システムの簡素化及びコストの削減を図ることが可能となっている。
尚、上記の実施例においては、顔向き検知モードが特許請求の範囲に記載した「第1の撮影モード」及び「第1の投光モード」に、車内監視モード及び盗難防止モードが特許請求の範囲に記載した「第2の撮影モード」に、車内監視モードが特許請求の範囲に記載した「第2の投光モード」に、盗難防止モードが特許請求の範囲に記載した「第投光モード」に、それぞれ相当していると共に、カメラECU24が、図4に示すルーチン中ステップ102〜116の処理を実行することにより特許請求の範囲に記載した「撮影機能切替手段」及び「投光機能制御手段」が実現されている。
ところで、上記の実施例においては、車載カメラ10の撮影する撮影領域を予め一定画角に固定したうえで、その撮像画像全体のうちの画像処理範囲を場合に応じて狭くしたり広くしたりすることとしているが、本発明はこれに限定されるものではなく、逆に、車載カメラ10の撮影する撮影領域自体を場合に応じて画角変更によって狭く(狭角化)したり広く(広角化)したりしたうえで、画像処理をその得られた撮像画像全体に対して行うこととしてもよい。尚、この車載カメラ10の撮影領域の変更は、車載カメラ10のレンズの自動的な切り替えやズーム倍率の変更により実現されることとすればよい。かかる車載カメラ10の撮影機能をハード的に切り替える構成においても、上記実施例での車載カメラ10の撮影機能をソフト的に切り替える構成と同様の効果を得ることが可能である。
また、上記の実施例においては、車載カメラ10の撮像画像を用いて検出された車両運転者の顔向き角度θの情報を、自車両と前方障害物との衝突予測を行うPCSシステムに用いているが、本発明はこれに限定されるものではなく、単に顔向き角度θの大きさに応じて警報を発するシステムに用いることとしてもよい。
また、上記の実施例においては、車載カメラ10の撮像画像を用いて車両運転者の顔向き角度θを検出するが、車載カメラ10の撮像画像を用いて検出する運転者の状態は顔向き角度θに限定されるものではなく、運転者の顔における目の向く視線方向や表情,瞬き,欠伸などを検出するものであってもよい。
更に、上記の実施例においては、イグニションスイッチ26のオフかつキーロックスイッチ28のオフにより車両が停止されておりかつ車両外側からドアロックがなされていないとき、車両監視システムにおける車内監視の作動を可能とする車内監視モードが実現されて、車室内の比較的広い範囲が映し出された車載カメラ10の撮像画像が記録装置46に記録されるが、このとき、何ら車載カメラ10が機能を果たさずその撮像画像が記録装置46に記録されないこととしてもよい。かかる構成においては、車両が停止されておりかつ車両外側からドアロックがなされている状況において侵入センサ42により車両侵入行為が検知された際に、車室内の比較的広い範囲が映し出された車載カメラ10の撮像画像が記録装置46に記録されることとなる。
本発明の一実施例である車載カメラの制御装置を備えるシステムの構成図である。 本実施例の有する車載カメラの搭載構造を示す図である。 本実施例においてPCSシステムの機能と車両監視システムの機能との両立を図る手法を説明するためのである。 本実施例の車載カメラの制御装置において実行される制御ルーチンの一例のフローチャートである。
符号の説明
10 車載カメラ
12 赤外投光器
24 カメラECU
26 イグニションスイッチ
28 キーロックスイッチ

Claims (7)

  1. イグニションスイッチのオン/オフにより車両が運転されているか停止されているかを判定する車両状態判定手段と、
    前記車両状態判定手段による判定結果に応じて、車室内に設けられた車載カメラの撮影機能を、主に運転者の顔を撮影する際に対応する第1の撮影モードと主に車室内を撮影する際に対応する第2の撮影モードとに切り替える撮影機能切替手段と、
    前記車載カメラに付随する赤外投光器の機能を、前記車両状態判定手段により車両が運転されていると判定される場合は、主に前記車載カメラの撮影領域における照度を確保する際に対応する第1の投光モードに設定し、一方、前記車両状態判定手段により車両が停止されていると判定される場合は、キーロックスイッチの状態に基づく車両外側から車両がロックされているか否かに応じて、主に車室内監視を行う際に対応する第2の投光モードと主に車両盗難者への威嚇発光を行う際に対応する第3の投光モードとに切り替える投光機能制御手段と、
    を備えることを特徴とする車載カメラの制御装置。
  2. 前記撮影機能切替手段は、前記車載カメラの撮影領域を、前記第1の撮影モード時には狭域とし、一方、前記第2の撮影モード時には広域とすることを特徴とする請求項1記載の車載カメラの制御装置。
  3. 前記撮影機能切替手段は、前記車載カメラの撮影した撮像画像全体のうちの画像処理範囲を、前記第1の撮影モード時には狭範囲とし、一方、前記第2の撮影モード時には広範囲とすることを特徴とする請求項1記載の車載カメラの制御装置。
  4. 前記投光機能制御手段は、前記赤外投光器の投光を、前記第1の投光モード時には常時行い、一方、前記第2の投光モード時及び前記第3の投光モード時には間欠的に行うことを特徴とする請求項記載の車載カメラの制御装置。
  5. 前記投光機能制御手段は、前記赤外投光器の投光出力強度を、前記第1の投光モード時及び前記第2の投光モード時には低くし、一方、前記第3の投光モード時には高くすることを特徴とする請求項1又は4記載の車載カメラの制御装置。
  6. 前記投光機能制御手段による前記投光出力強度の切り替えは、投光する前記赤外投光器の数が増減されることにより実現されることを特徴とする請求項記載の車載カメラの制御装置。
  7. 前記投光機能制御手段による前記投光出力強度の切り替えは、前記赤外投光器に流す電流値が増減されることにより実現されることを特徴とする請求項記載の車載カメラの制御装置。
JP2005368059A 2005-12-21 2005-12-21 車載カメラの制御装置 Expired - Fee Related JP4984521B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005368059A JP4984521B2 (ja) 2005-12-21 2005-12-21 車載カメラの制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005368059A JP4984521B2 (ja) 2005-12-21 2005-12-21 車載カメラの制御装置

Publications (2)

Publication Number Publication Date
JP2007168570A JP2007168570A (ja) 2007-07-05
JP4984521B2 true JP4984521B2 (ja) 2012-07-25

Family

ID=38295725

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005368059A Expired - Fee Related JP4984521B2 (ja) 2005-12-21 2005-12-21 車載カメラの制御装置

Country Status (1)

Country Link
JP (1) JP4984521B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5720400B2 (ja) * 2011-04-26 2015-05-20 日産自動車株式会社 画像処理装置及び画像処理方法
KR101619651B1 (ko) 2014-11-26 2016-05-10 현대자동차주식회사 운전자 감시장치 및 그의 조명제어방법
EP3410687B1 (en) * 2017-05-30 2019-12-25 Veoneer Sweden AB Camera module for a motor vehicle, method of using, and method of assembling a camera module
JP6717333B2 (ja) 2018-03-23 2020-07-01 株式会社デンソー 露出制御装置
JP2020050077A (ja) * 2018-09-26 2020-04-02 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
JP7222642B2 (ja) * 2018-09-26 2023-02-15 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
JP7185992B2 (ja) * 2018-09-26 2022-12-08 株式会社Subaru 車両の乗員監視装置、および乗員保護システム
CN114734953B (zh) * 2021-01-07 2023-09-15 上海博泰悦臻网络技术服务有限公司 一种车载摄像系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10158415C2 (de) * 2001-11-29 2003-10-02 Daimler Chrysler Ag Verfahren zur Überwachung des Innenraums eines Fahrzeugs, sowie ein Fahrzeug mit mindestens einer Kamera im Fahrzeuginnenraum
JP2005206025A (ja) * 2004-01-22 2005-08-04 Denso Corp 車載カメラ装置
JP4419609B2 (ja) * 2004-03-01 2010-02-24 株式会社デンソー 車載カメラシステム

Also Published As

Publication number Publication date
JP2007168570A (ja) 2007-07-05

Similar Documents

Publication Publication Date Title
JP4984521B2 (ja) 車載カメラの制御装置
US7391301B2 (en) Antitheft device, monitoring device and antitheft system
JP2006193057A (ja) 車両監視ユニットおよびルームミラー装置
JP2009280109A (ja) 車両周辺監視装置
JP2013041483A (ja) 車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム
JP2004122969A (ja) 車両盗難防止装置
JP2010257249A (ja) 車載防犯装置
JP2008087651A (ja) 車載カメラシステム
JP4085990B2 (ja) 車両用盗難防止システムおよび車両用盗難防止方法
JP2013041489A (ja) 車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム
CN112319367A (zh) 车内滞留人员监控保护系统及设备
JP2017102840A (ja) 車両監視装置
JP4211562B2 (ja) 車両用周辺監視装置
JP2005247014A (ja) 車載カメラシステム
KR100862041B1 (ko) 차량용 승객 보호 장치
JP2006096316A (ja) 監視装置
JP4628666B2 (ja) 車載カメラシステム
JP3775272B2 (ja) 車室内モニタシステム
JP2003104132A (ja) 同乗者モニタ装置
WO2017105913A1 (en) Thief alert system using a camera
JP4578447B2 (ja) 暗所における複数車両監視方法と監視システム
JP2005018235A (ja) 車両用警報装置
JP3843964B2 (ja) 車両用侵入者警報装置
JP7112191B2 (ja) 画像処理装置及び画像処理方法
JP7051369B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R151 Written notification of patent or utility model registration

Ref document number: 4984521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees