JP2016088158A - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP2016088158A
JP2016088158A JP2014221678A JP2014221678A JP2016088158A JP 2016088158 A JP2016088158 A JP 2016088158A JP 2014221678 A JP2014221678 A JP 2014221678A JP 2014221678 A JP2014221678 A JP 2014221678A JP 2016088158 A JP2016088158 A JP 2016088158A
Authority
JP
Japan
Prior art keywords
display
detection
frame
displayed
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014221678A
Other languages
English (en)
Other versions
JP2016088158A5 (ja
JP6306489B2 (ja
Inventor
義貴 横尾
Yoshitaka Yokoo
義貴 横尾
八州志 照田
Yasushi Teruda
八州志 照田
武井 且行
Katsuyuki Takei
且行 武井
重信 三枝
Shigenobu Saegusa
重信 三枝
千尋 加藤
Chihiro Kato
千尋 加藤
康博 小西
Yasuhiro Konishi
康博 小西
康介 棟方
Kosuke Munakata
康介 棟方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Alpine Electronics Inc
Original Assignee
Honda Motor Co Ltd
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd, Alpine Electronics Inc filed Critical Honda Motor Co Ltd
Priority to JP2014221678A priority Critical patent/JP6306489B2/ja
Publication of JP2016088158A publication Critical patent/JP2016088158A/ja
Publication of JP2016088158A5 publication Critical patent/JP2016088158A5/ja
Application granted granted Critical
Publication of JP6306489B2 publication Critical patent/JP6306489B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】表示画面上での注意喚起表示を可及的に滑らかに表示する。【解決手段】周辺監視装置10は、カメラ14と、ディスプレイ18と、物体検出部32と、表示画面処理部36とを備える。表示画面処理部36は、物体検出部32の検出に基づき画像中の移動体22に検出枠Dを重畳して表示する。この際、表示画面処理部36は、物体検出部32が検出したタイミングにおける画像上の検出位置に検出枠Dを表示すると共に、所定時間経過して次の検出枠Dを表示しても検出位置での表示を継続する。【選択図】図1

Description

本発明は、車両に搭載され、この車両周辺の情報を搭乗者に提供する周辺監視装置に関する。
近年、車両の運転時における操作性の向上や危険回避等を図るため、撮像部により車両の周辺の状況を撮影して、車両の搭乗者に撮影した動画を提供する周辺監視装置が開発されている。例えば、本出願人は、特許文献1に開示されている車両用周辺監視装置を先に出願した。
特許文献1に開示の周辺監視装置は、車両の後部に搭載したカメラ(撮像部)と、カメラが撮影した画像を処理する画像処理ECU(画像処理部)と、画像処理ECUが生成した表示画面を表示する表示部とを備える。そして、周辺監視装置は、カメラが撮影した車両後方の動画を表示部に表示すると共に、その画面上で注意すべき物体(他の車両の通過等)を検出すると、表示画面に方形状の検出枠(以下、注意喚起表示ともいう)を表示する。これにより周辺監視装置は、検出枠を車両の搭乗者に視認させて、運転時の注意を促すことができる。
特開2012−162211号公報
ところで、従来の検出枠の表示においては、所定のフレームレート(例えば、数十〜数百msecの周期)で注意すべき物体の移動を検出して、不透明の検出枠(注意喚起表示)を変位させている。このため、動画上では、表示される検出枠が物体に対して滑らかに追従しておらず、特に物体の速度が速いと飛び飛びに(離散的に)表示されていた。このように動画上で検出枠を飛び飛びに表示してしまうと、ユーザが移動体を快適に視認するというより、むしろ煩わしく感じることが想定される。また、検出枠を飛び飛びに表示すると、注意すべき物体の移動状態(方向等)が分かり難くなる。
本発明は、上記の実情に鑑みてなされたものであって、表示画面上での注意喚起表示を可及的に滑らかに表示することにより、ユーザに煩わしさを感じさせることを抑制しつつ、注意すべき物体を良好に認識させ得る周辺監視装置を提供することを目的とする。
前記の目的を達成するために、本発明は、自車周辺を撮像する撮像部と、前記撮像部で撮像された画像を表示する表示部と、前記撮像部で撮像された画像中に注意すべき物体を検出する検出部と、前記検出部の検出に基づき前記画像中の前記物体又は前記物体の周辺に注意喚起表示を重畳して表示する喚起表示制御部と、を備えた周辺監視装置において、前記喚起表示制御部は、第1タイミングで表示された注意喚起表示を、前記第1タイミングよりも後の第2タイミングで注意喚起表示を表示しても、継続して表示することを特徴とする。
上記によれば、周辺監視装置は、喚起表示制御部により、検出部が検出した検出位置に注意喚起表示を表示すると共に、所定時間経過しても検出位置での表示を継続することで、ユーザに対して注意すべき物体を良好に認識させることができる。すなわち、注意喚起表示は、所定時間経過しても検出位置での表示が継続されるので、次の注意喚起表示が表示された段階でも表示されたままとなり、注意喚起表示の残像が残ることになる。このため、ユーザに対しては、注意喚起表示が煩わしく感じることを抑制して、滑らかに変位しているように認識させることができる。
この場合、前記喚起表示制御部は、前記第1タイミングで表示された注意喚起表示を、前記第2タイミングで表示された注意喚起表示よりも視認性を低下して表示するとよい。
このように、第1タイミングで表示された注意喚起表示を、第2タイミングで表示された注意喚起表示よりも視認性を低下させて表示することで、新しい注意喚起表示のほうが目立つことになる。その一方で、第1タイミングの注意喚起表示が目立たない残像で視認される。
また、前記喚起表示制御部は、前記第1タイミングの注意喚起表示の不透明度を低くすることで視認性を低下させることが好ましい。
このように注意喚起表示の不透明度を低くすることで、ユーザに対し第1タイミングの注意喚起表示を簡単に見難くすることができる。
さらに、前記喚起表示制御部は、注意すべき前記物体の変位に沿って前記注意喚起表示を追従させることが好ましい。
このように、注意すべき物体の変位に沿って注意喚起表示を追従させることで、注意すべき物体の注意喚起表示が残像で表示されることになり、ユーザが違和感なく注意喚起表示を目で追うことができる。
またさらに、前記注意喚起表示は、枠表示であることが好ましい。
このように、注意喚起表示が枠表示であることで、その内側に注意すべき物体を認識することができる。
さらにまた、前記喚起表示制御部は、注意すべき前記物体を最初に検出した際に、前記検出位置に対して外側から内側に向かって前記枠表示を段階的に小さくし、且つ前記外側の枠表示を前記内側の枠表示よりも視認性を低下させるとよい。
このように喚起表示制御部は、検出位置に対して外側から内側に向かって枠表示を段階的に小さくし、且つ外側の枠表示を内側の枠表示よりも視認性を低下させることで、最初に検出した物体に枠表示が段々と近づくように見せることができる。これにより、ユーザは、注意すべき物体に対し容易に気づくことができる。
本発明によれば、表示画面上での注意喚起表示を可及的に滑らかに表示することにより、ユーザに煩わしさを感じさせることを抑制しつつ、注意すべき物体を良好に認識させることができる。
本発明の一実施形態に係る周辺監視装置の動作を説明するための概略説明図である。 図1の周辺監視装置の内部構成を示す機能ブロック図である。 図1の周辺監視装置の表示画面の例を示す説明図である。 図4Aは、表示画面処理部によるフォーカス表示処理を説明する第1説明図であり、図4Bは、図4Aに続くフォーカス表示処理を説明する第2説明図であり、図4Cは、図4Bに続くフォーカス表示処理を説明する第3説明図である。 図5Aは、表示画面処理部による残像表示処理を説明する第1説明図であり、図5Bは、図5Aに続く残像表示処理を説明する第2説明図であり、図5Cは、図5Bに続く残像表示処理を説明する第3説明図であり、図5Dは、図5Cに続く残像表示処理を説明する第4説明図である。 図6Aは、図5Dに続く残像表示処理を説明する第5説明図であり、図6Bは、図6Aに続く残像表示処理を説明する第6説明図である。 図7Aは、表示画面処理部が残像表示処理を行った際の、検出枠の表示状態を時間変化で示すグラフであり、図7Bは、従来の検出枠の表示状態を時間的変化で示すグラフである。 図8Aは、第1変形例に係る残像表示処理の検出枠の表示状態を時間変化で示すグラフであり、図8Bは、第2変形例に係る残像表示処理の検出枠の表示状態を時間変化で示すグラフである。 お知らせ音の動作タイミングを示すタイムチャートである。 表示画面処理部による残像表示処理のフローチャートである。
以下、本発明に係る周辺監視装置について好適な実施形態を挙げ、添付の図面を参照して詳細に説明する。
図1に示すように、本発明の一実施形態に係る周辺監視装置10は、車両12の外側周辺部の状況(交通状態等)を、搭乗者であるユーザに確認(監視)させるための車載装置として車両12に設置される。特に、この周辺監視装置10は、車両12のユーザにとって死角となる車両12の後方の状況を、リアルタイムの動画として提供する構成となっている。なお、以下の説明では、四輪自動車に搭載される周辺監視装置10について詳述するが、周辺監視装置10が設けられる対象は特に限定されず、車両12の他にも運輸に関わる機器(船舶等)に適用してよい。
具体的には、周辺監視装置10は、カメラ14(撮像部)、画像処理ECU16(画像処理部)及びディスプレイ18(表示部)を含んで構成される。そして、カメラ14により車両12の周辺を撮像し、画像処理ECU16によりその情報を処理して、処理した表示画面をディスプレイ18に表示することで、車両12周辺の状況をユーザに視認させる。なお、周辺監視装置10は、該周辺監視装置10専用のカメラ14、画像処理ECU16、ディスプレイ18だけで動作してもよく、後述するように車両12に搭載される他の車載装置を適宜組み合わせて動作する構成でもよい。
以下、周辺監視装置10の各構成について詳述していく。カメラ14は、車両12の後部に取り付けられて車両12の後方を撮像する、いわゆる車載用リアカメラである。例えば、カメラ14は、車体の幅方向中央部、且つ天井部に近い位置に固定される。このカメラ14は、所定のフレームレート(例えば、30fps)で車両12周辺の画像(フレーム:静止画)を順次撮像して、画像信号として画像処理ECU16に連続的に出力する。
また、周辺監視装置10は、撮像部としてカメラ14に加えて(或いは、カメラ14に代えて)、車両12の後方に存在する物体を検出する図示しないセンサが適用されてもよい。センサとしては、超音波を出力してその反射を検出する音波探知装置(超音波センサ)、電磁波を出力してその反射を検出するレーダ装置等が挙げられる。
また、このカメラ14は、実際に撮影を行うレンズとして水平方向で約180°程度の広い視野範囲の撮像が可能な超広角レンズ(魚眼レンズ)を適用している。これにより、周辺監視装置10は、車両12の後方だけでなく後方且つ左右方向を含むワイドビュー画像を取得することができる。なお、周辺監視装置10は、車両12の後方にカメラ14を複数設けることで、後方且つ左右方向を撮影する構成でもよい。この場合、撮像部は、上記の超広角レンズを適用せずに、標準的な視野範囲のレンズを有するカメラ14を使用して、画像処理ECU16において各カメラ14が撮影した画像を適宜合成し、ディスプレイ18に表示する構成としてもよい。要するに、撮像部は、画像処理ECU16が処理してディスプレイ18に表示することが可能な種々の構成を適用することができる。
一方、画像処理ECU16は、信号線20を介してカメラ14に接続され、カメラ14が撮影した画像(動画)を信号情報として受信(取得)する。画像処理ECU16内では、取得した画像を処理して表示画面を生成する。また、画像処理ECU16は、ディスプレイ18に画像を表示しない場合でも、カメラ14により車両12後部を定常的に撮影し、その画像に基づき移動体を検出して移動体と車両12の衝突を回避する処理を行うとよい。
画像処理ECU16は、ハードウェアとして、図示しない入出力部、演算部、記憶部(ROM、RAM等)を有する周知のコンピュータ(マイクロコンピュータを含む)を適用し得る。画像処理ECU16は、演算部が記憶部に記憶されているプログラムを読み出して実行することで、図2に示すような機能実現部を構築して、種々の画像処理を行う。画像処理ECU16の機能実現部については後述する。
また、周辺監視装置10のディスプレイ18は、例えば、車両12内の図示しないダッシュボードの幅方向中央部に設けられ、信号線21を介して画像処理ECU16に接続されている。ディスプレイ18としては、液晶、有機EL等の周知の表示装置が挙げられ、またユーザが画面上に触れて操作可能なタッチパネルを適用することができる。本実施形態に係るディスプレイ18は、車両12に搭載されるナビゲーション装置又はディスプレイオーディオ装置等の表示部を利用している。
そして、周辺監視装置10は、車両12の後退移動(バック)に伴って動作し、車両12周辺の状況をユーザに提供する。すなわち、車両12の後退移動時には、物体(他の車両22、人を含む動物、障害物等)に接触する可能性が高まるので、車両12の後側に一層注意を払う必要が生じる。そのため例えば、ディスプレイ18において、ナビゲーション装置によるナビゲーション画面を表示していても、車両12の後退移動時には、周辺監視装置10の表示に切り換えてカメラ14で撮影した車両12の後方の動画を表示する。
図1に示すように、例えば、ユーザの車両12の後方を他の車両22が通過すると、この車両22がディスプレイ18にリアルタイムに表示されるので、ユーザは車両12を停止する等の適宜の運転操作を行うことができる。なお、以下の説明では、説明の便宜のため、ユーザが乗車する車両12を自車12ともいい、それ以外の注意すべき物体(自車12の後側を通行する車両22等)を移動体22ともいう。
特に、周辺監視装置10の画像処理ECU16は、カメラ14で撮像した画像を処理することで、移動体22を検出してディスプレイ18で表示される動画24上に検出枠D(枠表示)を重畳する表示制御を行う。このため、画像処理ECU16は、内部プログラムの実行により、図2に示すように画像取得部26、動画生成部28、シフトポジション判別部30、物体検出部32、衝突危険度算出部34、表示画面処理部36(喚起表示制御部)を構築する。また、画像処理ECU16は、CAN56等の車内信号線を介して、警報制御部38、シフトポジションセンサ40、メータ42、スピーカ44に接続されている。
画像取得部26は、信号線20を介して接続されるカメラ14の動作を制御すると共に、カメラ14が撮像した画像(動画24の信号情報)を受信して、画像処理ECU16の記憶部等に一時的に記憶させる。
動画生成部28は、画像取得部26が受信した動画の信号情報を所定の補正手段により補正して、ユーザが視認可能な動画24を生成する。例えば、動画生成部28は、フル画面(超広角レンズが撮像した画像そのまま)やノーマルビュー画面(超広角レンズが撮影した画像の両側部分を省いたもの)等のユーザ設定に基づき、画面を部分的に削除する、又は歪みを補正する等の処理を行う。
シフトポジション判別部30は、CAN56等の車内信号線を介して自車12のシフトポジションセンサ40からシフトレバーの位置情報を取得し、自車12の運転状態を判別する。上述したように、周辺監視装置10は、自車12が後退移動する際に、ディスプレイ18に動画24を表示させるように動作する。そのため、画像処理ECU16は、シフトポジション判別部30によりシフトレバーがリバースにセットされたことを判別すると、ディスプレイ18の表示を動画生成部28が生成した動画に切り換える処理を行う。なお、画像処理ECU16は、図2中に示すようにシフトポジションセンサ40から、シフトレバーの位置情報を直接取得する構成でもよく、メータ42に送信されたシフトレバーの位置情報をこのメータ42から取得する構成でもよい。
一方、物体検出部32は、画像取得部26が一時的に記憶した画像の情報を読み出して、画像中に含まれる注意すべき物体を検出する。この注意すべき物体としては、自車12と相対的に近接する移動体22(車両)が挙げられる。移動体22には、車両22の他に、人等の動物や道路に落ちて転がっている落下物等、自車12の走行に影響する可能性があるものが含まれてもよい。
物体検出部32による移動体22の検出手段としては、例えば、取得した複数のフレーム(画像)同士の差分をとるフレーム間差分法が挙げられる。フレーム間差分法では、カメラ14が撮影した時点T0のフレームと、この時点T0から所定のフレームレート(例えば、30fpsの場合は1/30秒)経過した時点T1のフレームを取り出して、このフレーム同士を比較する。そして、時点T0のフレームに自車12周辺の背景と移動体22が写り込み、時点T1のフレームで自車12周辺の背景に対し移動体22が移動していれば、時点T0のフレームと、時点T1のフレームとの差分をとることで移動体22のみを検出することができる。この際、自車12が後退移動しても、高速に切り換わる動画24のフレームレートに対して動作が遅いため、背景は変わらないと見なすことができる。勿論、物体検出部32は、車両12の後退移動時の車速に基づき、フレームを補正処理することで自車12周辺の背景を抽出し移動体22の検出に使用してもよい。
物体検出部32は、2つのフレーム間で他車を検出すると、相互の座標位置に基づき移動体22の移動ベクトル(進行方向及び速度)を算出することができる。そのため、移動体22が自車12に近づいているか遠ざかっているかを判定することが可能となり、また画面上に重畳する検出枠Dの位置を補正することができる。
物体検出部32は、移動体22を検出したことに基づき、その検出情報を衝突危険度算出部34に通知する。また、物体検出部32内に備える判定部32aにより、ユーザに対して注意を喚起すべき物体であるか否かを判定し、注意を喚起すべき物体と判定した場合には、動画上の移動体22の検出位置(2次元座標位置)を表示画面処理部36に通知する。判定部32aは、例えば、自車12に向かって近接する移動体22について注意を喚起すべき物体と判定するとよい。逆に、自車12から遠ざかる移動体22については、自車12と接触する可能性が大幅に低くなるため注意を喚起しなくてもよい。さらに、判定部32aは、検出枠Dを表示する際に、前回検出した移動体22であるか、今回新しく検出した移動体22であるかを判別する。前回検出した移動体22を判別することにより、検出枠Dを良好に追従(移動体22の変位に応じて検出枠Dを離散的に表示する)させることができる。
衝突危険度算出部34は、物体検出部32が検出した移動体22について、自車12との距離や相互の相対的な車速に基づき、衝突する危険度を算出する。そして、算出した危険度が予め設定されている閾値を超えた場合には、表示画面処理部36にその旨を通知して、表示画面処理部36により衝突する危険性がある旨をユーザに報知する。ユーザへの報知は、例えば、ディスプレイ18への表示、スピーカ44からの警告音の出力が挙げられる。衝突危険度算出部34は、危険度を算出する際に、車両12の後部に設けられた他のセンサ(超音波、レーダ等)の情報を合わせることで、危険度の算出精度を高めてもよい。
また、衝突危険度算出部34は、上記の閾値に対してさらに危険度が高い場合に、自車12の駆動を制御する図示しない制御部(例えば、ブレーキ用ECU)に信号を送信する構成であるとよい。これにより、車両12は、ユーザが後退移動の操作を行っている際に強制停止させることができ、移動体22との衝突を回避することができる。このため、ディスプレイ18に他の画像が表示されていても、周辺監視装置10は画像取得部26、物体検出部32、衝突危険度算出部34の動作を実施しているとよい。
表示画面処理部36は、シフトポジション判別部30のバック判別により動画の再生が設定された場合に、ディスプレイ18に表示するための表示画面I(図3参照)を生成する。そして、画像処理ECU16は、生成した表示画面Iの信号をディスプレイ18に送信して表示させる。表示画面Iには、再生する動画24の周辺を囲うように枠IFを合成するとよく、その枠IFには、ユーザに対し報知する情報50やユーザがタッチ操作可能な操作ボタン52が表示されるとよい。
また、表示画面処理部36は、物体検出部32が検出した移動体22について注意喚起表示を重畳表示する処理を行う。この注意喚起表示としては、上述したように、物体検出部32が検出した移動体22の検出位置を中心に、その周囲を方形状に囲う検出枠Dが挙げられる。
例えば、図3に示すディスプレイ18に表示される表示画面Iには、表示画面処理部36が生成する動画24と、枠IFが表示され、映り込んだ移動体22に対し検出枠Dが重畳表示される。これに対し、自車12周辺の背景(溝46や木48等)は、略静止していることにより検出枠Dが表示されない。なお、検出された移動体22の近傍位置には、物体検出部32で算出された移動ベクトルに基づき、移動体22の移動方向を示す矢印表示54が表示されるとよい。
検出枠Dは、赤色や橙色等のユーザが危険性を認識し易い色で表現され、比較的太めの枠線により形成されることが好ましい。また、検出枠Dは、移動体22の周囲を囲うサイズに形成されることで、ユーザは検出枠D内に映る移動体22も同時に確認することができる。
そして、本実施形態に係る表示画面処理部36は、検出枠Dの表示において、フォーカス表示処理(図4A〜図4C参照)と、残像表示処理(図5A〜図6B参照)とを実施する。フォーカス表示処理とは、動画24上で移動体22を最初に検出した際に、その移動体22に関する注意を、ユーザに対して一層確実に喚起するための処理である。一方、残像表示処理とは、移動体22の移動に伴い検出枠Dを追従して表示する際に、ユーザに対して検出枠Dの位置変化を滑らかに見せるための処理である。次に、これらの表示処理について具体的に説明していく。
フォーカス表示処理では、移動体22を最初に検出した場合に、その移動体22に向かって的を絞るように検出枠Dを小さく変化させて表示する。このように、検出枠Dのサイズを徐々に小さくしていくと、ユーザは、検出枠D(すなわち、移動体22)の出現を認識し易くなる。以下、移動体22を最初に(第1タイミングで)検出した際に表示する検出枠Dを、初回検出枠D1という。
具体的には、表示画面処理部36は、図4Aに示すように、物体検出部32が移動体22を最初に検出すると、検出位置を中心に先ず大きなサイズの方形状の枠(以下、初回検出第1枠D1aという)を表示する。初回検出第1枠D1aは、例えば、検出した移動体22に最終的にセットされる初回検出枠D1(初回検出第3枠D1c)に対して2倍以上のサイズに設定されるとよい。このように2倍以上のサイズで表示すると、ユーザの視線を誘導し易くなる。なお、初回検出第1枠D1aは、最初の表示においては不透明度20%である。
次に、表示画面処理部36は、図4Bに示すように、初回検出第1枠D1aよりも内側で、初回検出第1枠D1aと同じ中心位置且つ相似する方形状の初回検出第2枠D1bを表示する。初回検出第2枠D1bは、例えば、検出した移動体22に最終的にセットされる初回検出枠D1(初回検出第3枠D1c)に対し1.5倍以上のサイズに設定されるとよい。
表示画面処理部36は、所定のフレームレート(例えば、1〜3フレーム)で初回検出第1枠D1aを表示し、その後に初回検出第2枠D1bを続けて表示する。この初回検出第2枠D1bは、不透明度60%で表示するため、初回検出第1枠D1aに比べて初回検出第2枠D1bの方が目立つことになる。
さらにその後、図4Cに示すように、表示画面処理部36は、初回検出第2枠D1bよりも内側で、初回検出第2枠D1bと同じ中心位置且つ相似する方形状の初回検出第3枠D1cを表示する。この初回検出第3枠D1cは、初回検出第2枠D1bの表示時と同じフレームレートの経過後に表示される。また、初回検出第1枠D1aは、消滅させる(不透明度0%にする)、又は初回検出第2枠D1bよりもさらに視認性を低下させて表示させるとよい。この初回検出第1枠D1aと初回検出第2枠D1bに対し、初回検出第3枠D1cは、不透明度100%で表示されるため、初回検出第3枠D1cの方が目立つことになる。
初回検出第3枠D1cは、物体検出部32が検出した移動体22に対応して設定されたサイズである。このため、表示画面処理部36は、初回検出第3枠D1cの表示に伴い、フォーカス表示処理を終了する。このように、動画の時間進行に沿って、初回検出第2枠D1b、初回検出第3枠D1cの表示の際に、徐々に枠の不透明度を上げて表示することで、動画24上においては初回検出枠D1に向かってサイズ変化の残像が表示される。そのため、ユーザは、初めて検出した移動体22を視覚的に追い易くなる。なお、初回検出第1枠D1a、初回検出第2枠D1bは、所定のフレームレートの経過毎に順次消していってもよい(例えば、図4B中で初回検出第1枠D1aを消し、図4C中で初回検出第2枠D1bを消してもよい)。
なお、フォーカス表示処理は、サイズを変化して表示する枠の数について特に限定されるものではなく、2つ(すなわち、初回検出第1枠D1aと初回検出第2枠D1b)でもよく、或いは4つ以上でもよい。この場合、ユーザが違和感なく検出枠Dを認識し得るように、枠のサイズが均等的に小さくなっていく設定であることが好ましい。また、残像となる枠の不透明度は、自由に設定してよい。
一方、残像表示処理では、動画24上で移動体22が移動していく際に、前に表示した検出枠Dについて、所定のフレームレートを経過して次に検出枠Dを表示しても残すことで、次の検出枠Dに対して残像を見せるものである。このように、動画24上で検出枠Dを残像表示することにより、ユーザは、検出枠Dの移動(位置変化)が円滑に行われているように認識し、移動体22への注意力が上昇する。以下、移動体22に対して時間経過毎に表示される各検出枠Dを、初回検出枠D1、第2回検出枠D2、第3回検出枠D3、…、と順次回数を上げて区別する。
具体的には、表示画面処理部36は、図5Aに示すように、物体検出部32が移動体22を検出すると、上記のフォーカス表示処理を経て初回検出枠D1(初回検出第3枠D1c)を表示する。この初回検出枠D1は、不透明度100%である。表示画面処理部36は、所定のフレームレートの間、初回検出枠D1を表示し続ける。
検出枠Dを表示し続けるフレームレートは、カメラ14が撮像するスピード(フレームレート)、又は移動体22を検出する方法等にもよるが、例えば、30fpsの場合は3〜6フレームであるとよい。3フレームよりも小さいと、画像処理ECU16の処理負荷が増加し、6フレームよりも大きいと、動画24上での前後の検出枠Dが大きく離れ易くなり、表示上がたつきが目立つようになる。
所定のフレームレート(本実施形態では4フレーム)の経過に伴い、画像処理ECU16は、物体検出部32により移動体22の移動を検出する。この際、物体検出部32の判定部32aがこれまでに検出した移動体22か、新しい移動体22かを判定し、これまでに検出した移動体22であれば、その情報と共に検出位置を表示画面処理部36に通知する。
表示画面処理部36は、図5Bに示すように、初回検出枠D1よりも後のタイミング(第2タイミング)となる第2回検出枠D2を、その検出位置を中心として表示する。図5B中では、移動体22が表示画面Iの左方向に移動しているので、第2回検出枠D2は、初回検出枠D1よりも左側に表示される。この場合、第2回検出枠D2は、初回検出枠D1と同じサイズの枠であり、不透明度100%に表示される。なお、図5B〜図6B中では、不透明度の変化が認識し易くなるように、図5A中の移動体22に対して該移動体22が大きく離れた状態で図示している。
そして、表示画面処理部36は、第2回検出枠D2の表示に伴って、初回検出枠D1の視認性を低下させることで、動画24の残像が徐々に消えるように処理する。例えば、第2回検出枠D2を最初に表示したフレーム(以下、第1フレームF1という)から、フレームが順次更新される際に、不透明度を段々と下げる画像処理を実施する。
具体的には、第1フレームF1では、初回検出枠D1を80%の不透明度に変更して表示する(図5B中の太い1点鎖線を参照)。第1フレームF1の次の第2フレームF2では、初回検出枠D1を60%の不透明度で表示する(図5C中の太い2点鎖線を参照)。第2フレームF2の次の第3フレームF3では、初回検出枠D1を40%の不透明度で表示する(図5Dの細い1点線を参照)。第3フレームF3の次の第4フレームF4では、初回検出枠D1を20%の不透明度で表示する(図6Aの細い2点鎖線を参照)。
このように、第2回検出枠D2を不透明(不透明度100%)で表示する期間(4フレーム)中において、フレーム毎に初回検出枠D1の不透明度を下げることで、ユーザは、初回検出枠D1が滑らかに消えていくように見える。
また、第2回検出枠D2の表示後に4フレーム経過すると、画像処理ECU16は、物体検出部32により移動体22の移動を検出して、その検出位置に基づき第3回検出枠D3を表示する。第3回検出枠D3は、第2回検出枠D2と同じサイズであり、不透明度100%で表示される。
一方、第2回検出枠D2は、上述した初回検出枠D1と同様に、視認性が低下するように(不透明度が段々と下がるように)表示される。例えば、図6B中に示すように、第3回検出枠D3が最初に表示された際のフレームF5では、第2回検出枠D2の不透明度が80%で表示される。また、第3回検出枠D3の表示時には、初回検出枠D1が0%の不透明度となり、動画上で消えること(非表示)になる。以降の残像表示は、上記を繰り返すことになるので、説明を省略する。
以上の検出枠Dの残像表示処理表示について、さらに詳細に説明する。図7Aは、表示画面処理部36が残像表示処理を行った際の、検出枠Dの表示状態を時間変化で示すグラフであり、図7Bは、従来の検出枠D0の表示状態を時間的変化で示すグラフである。図7Bに示すように、従来の検出枠D1’〜D5’は、移動体の検出位置で初回検出枠D1’が不透明度100%で表示され、所定のフレームレート(4フレーム)の経過後、移動体が移動した検出位置で第2回検出枠D2’が不透明度100%で表示されていた。この際、初回検出枠D1’は消えるように表示していた(不透明度0%になっていた)。このため、動画上では、検出枠D1’〜D5’が飛び飛びになってしまい、ユーザが煩わしく感じる、移動体の移動方向が分かり難い等の不都合があった。
一方、本発明では、図7Aに示すように、同位置に表示される初回検出枠D1は、所定のフレームレート(4フレーム)の間不透明度100%で表示され、第2回検出枠D2が表示されると、初回検出枠D1は同位置で不透明度が下がるように表示される。さらに、4フレームが経過した段階では、初回検出枠D1がちょうど不透明度0%となり、第2回検出枠D2も不透明度が下がり始める。以下、検出枠D3〜D5も同様の表示を繰り返す。なお、図7中では、100%の高さ位置にある実線に対し、斜めに傾斜し且つ点線で示す部分が、不透明度が下がる変化度合に相当する。このように検出枠D1〜D5を表示することで、ユーザは、動画24上で検出枠D1〜D5が滑らかに移動しているように視認する。そのため、煩わしさが抑制されて、移動体22の移動方向を良好に認識することができる。
なお、検出枠Dの不透明度の減少度合いは、特に限定されるものではなく、例えば、図8Aの第1変形例に示すように不透明度の傾斜が緩やかでもよい。これにより、第3回検出枠D3を表示した時でも、初回検出枠D1を表示したままにする(残像がより長く残る)ことができ、移動体22の軌跡がより確認し易くなる。また逆に、図8Bの第2変形例に示すように、不透明度の傾斜が急であってもよいことは勿論である。
図2に戻り、周辺監視装置10の警報制御部38は、ディスプレイ18への検出枠Dの表示時に、スピーカ44から音による警報(以下、お知らせ音という)を鳴らす構成となっている。このお知らせ音は、ユーザが認識し易いように、例えば、「ピッピッピ」等の高音且つ短時間に複数回繰り返す電子音であることが好ましい(図1も参照)。
スピーカ44は、このお知らせ音のフレーズを図示しない記憶部に記憶しており、警報制御部38からの吹鳴指示に基づき、お知らせ音を周期的に出力する。なお、スピーカ44の構成は、特に限定されず、例えば、ディスプレイ18やメータ42に予め内蔵されているものを利用してよい。
警報制御部38は、表示画面処理部36からCAN56を介して通知される検出枠Dの表示に基づき、お知らせ音の出力制御を行う。この警報制御部38は、移動体22(他車や人)が複雑に出入りする状況で音が鳴り続けることを抑止するため、以下の(a)〜(e)に列記する条件を判別して、お知らせ音のタイミングを制御する構成となっている。
(a)物体検出部32より移動体22が最初に検出されて検出枠Dを表示する際に、お知らせ音を所定の吹鳴期間だけ吹鳴する。
(b)吹鳴期間の経過後は、所定の抑制期間だけお知らせ音の吹鳴を停止する。
(c)警報抑制期間中に別の移動体22を検出しても、お知らせ音の吹鳴を停止又は抑制する。
(d)警報抑制期間後、(a)で検出されていた移動体22に対しては、お知らせ音を出力しない。
(e)警報抑制期間後、別の移動体22を検出した場合にはお知らせ音を出力する。
警報制御部38は、上記の条件を適宜判別して吹鳴指示を行うことで、例えば、図9に示すようなタイムチャートでお知らせ音を出力する。具体的には、時点t1において、表示画面処理部36が移動体22を検出すると、その検出情報が警報制御部38に伝達されて、警報制御部38は、スピーカ44に対しお知らせ音の吹鳴指示を送信する。これにより、お知らせ音がスピーカ44から出力される。この際、警報制御部38は、所定の吹鳴期間(例えば、お知らせ音の「ピッピッピ」というフレーズを、間隔をあけて2サイクル分出力する期間)だけ、スピーカ44に吹鳴指示を出力する。
そして、吹鳴期間の経過する時点t2において、警報制御部38は、警報抑制期間に移行して、吹鳴指示を停止し、お知らせ音を吹鳴しないようにする。例えば、時点t3において、画像処理ECU16が、時点t1で検出した移動体22を検出し続けているとしても、警報抑制期間となっていることで吹鳴指示を出力しない。
また例えば、時点t4において、警報制御部38は、画像処理ECU16により他の移動体22が検出され表示された場合にも吹鳴指示を実施しない。他の移動体22を表示したとしても、お知らせ音を先に鳴らしていたことにより、ユーザの視線がディスプレイ18又は後方に向いており、移動体22に気付くからである。或いは、警報制御部38は、他の移動体22を検出した場合に、最初に鳴らしたお知らせ音よりも抑制して(例えば、低い音量)で、お知らせ音を鳴らす吹鳴指示を行ってもよい。
警報抑制期間は、画像処理ECU16が時点t1において検出した移動体22に対する検出枠Dの表示がなくなってから、所定時間(例えば、2秒)実施し、時点t5で警報抑制期間を終了する。その後、表示画面処理部36が時点t6で新たに移動体22を検出すると、警報制御部38は、再び吹鳴指示をスピーカ44に送信してお知らせ音を出力する。なお、警報制御部38は、警報抑制期間後に検出した移動体22が、時点t1の際の移動体22と同じ場合には、ユーザが既に気付いているので、吹鳴指示を行わなくてもよい。
このように、画像処理ECU16による移動体22の検出枠Dの表示時にお知らせ音を出力し、その一方で警報抑制期間中にお知らせ音を停止することで、不要なお知らせ音の吹鳴が抑えられ、ユーザが煩わしく感じることを軽減することができる。
本実施形態に係る周辺監視装置10は、基本的には以上のように構成される。以下、表示画面処理部36の残像表示処理のフローについて、図10を参照して説明する。表示画面処理部36による以下の残像表示処理のフローは、動画生成部28で表示される1フレーム(33msec)毎に実施されるものである。
表示画面処理部36は、物体検出部32から移動体22の検出及びその検出位置が通知されると、既に検出枠Dが表示されているか否かを判別する(ステップS1)。ステップS1において、検出枠Dが表示されていない場合は、ステップS2に進み、検出枠Dが既に表示されている場合は、ステップS5に進む。
ステップS2では、物体検出部32から移動体22の検出が新規であったか否かを判別する。そして、移動体22の検出があった場合はステップS3に進み、移動体22の検出がなかった場合には、処理を終了する。
ステップS3では、表示画面処理部36に設けられる図示しないカウンタ部において、カウンタNxに0をセットする。
ステップS3の後、表示画面処理部36は、物体検出部32から通知された検出位置に基づき検出枠Dを表示する(ステップS4)。この際、検出された移動体22が、物体検出部32により最初に表示されたものであれば、上述したフォーカス表示処理を行う。このステップS4を終了すると、表示画面処理部36は、処理を終了する。
一方、ステップS1において検出枠Dが既に表示されていると判別した場合、ステップS5では、カウンタNxに1を加える処理(Nx=Nx+1)を行う。
ステップS5の後、表示画面処理部36は、カウンタNxが4よりも大きい(Nx>4)か否かを判別する(ステップS6)。そして、カウンタNxが4以下の場合は、ステップS7に進み、カウンタNxが4よりも大きい場合には、ステップS8に進む。
ステップS7では、検出枠Dの不透明度を100%に設定する。すなわち、カウンタNxが4以下の場合は、検出枠Dの表示から4フレームが経過していないため、そのまま検出枠Dを不透明に表示し続ける。その結果、検出枠Dが表示されてから132msecの間は、移動体22の検出位置を明りょうに示す。
一方、ステップS8では、カウンタNxが4よりも大きいことで、4フレームが経過したことになるので、カウンタNxの値を利用して検出枠Dの不透明度を算出する。不透明度は、例えば、不透明度=[100−(Nx−4)×20]%の式で算出される。この式により不透明度を算出すると、フレームが1つ経過する毎(すなわち、33msec毎)に不透明度が20%ずつ低下することになる。なお、不透明度が0%となった場合、表示画面処理部36は、検出枠Dの表示を終了するとよい。
ステップS7又はステップS8の後は、それぞれのステップで設定された不透明度に基づき検出枠Dの表示を行う(ステップS9)。このステップS9が終了すると、ステップS2に移行して、上述したステップS2〜S4の処理を実施することで、1フレームにおける表示処理が終了する。
上記の処理フローにより、表示画面処理部36は動画24上において検出された移動体22に、先ず不透明な検出枠Dを表示する。そして、移動体22が移動して次の検出枠Dが表示された際には、前回表示していた検出枠Dが残像表示に変わり、この検出枠Dが徐々に透明に変化していく。
以上のとおり、本実施形態に係る周辺監視装置10は、物体検出部32が検出した検出位置に検出枠Dを表示すると共に、所定時間経過しても検出位置での表示を継続することで、ユーザに対し移動体22を良好に認識させることができる。すなわち、検出枠Dは、所定時間経過しても検出位置での表示が継続されるので、次の検出枠Dが表示された段階でも表示されたままとなり、検出枠Dの残像が残ることになる。このため、ユーザに対しては、検出枠Dを滑らかに変位しているように視認させることが可能となり、煩わしく感じることを抑制することができる。
この場合、先のタイミング(第1タイミング)で表示した検出枠Dよりも、次のタイミング(第2タイミング)で表示した検出枠Dより視認性を低下させて表示する。その結果、新しい検出枠Dのほうが目立つ一方で、先の検出枠Dが目立たない残像で視認されることになる。また、周辺監視装置10は、移動体22の変位に沿って検出枠Dを追従させることで、移動体22の検出枠Dが残像で表示され、ユーザが違和感なく移動体22を目で追うことができる。
さらに、表示画面処理部36は、フォーカス表示処理において、検出位置を中心として外側から内側に向かって検出枠Dを段階的に小さくし、且つ外側の検出枠Dを内側の検出枠Dよりも視認性を低下させる。これにより、最初に検出した移動体22に検出枠Dが段々と近づくように見せることができ、ユーザは、移動体22に対し容易に気づくことができる。
なお、本実施形態に係る周辺監視装置10は、上記構成に限定されるものではなく、種々の変形例又は応用例をとり得る。例えば、周辺監視装置10は、カメラ14により車両12の後方を撮影する構成に限定されるものではない。撮像部として、車両12の後方を撮影するカメラ14と、車両12の側方を撮影するカメラとを組み合わせて車両12周辺(例えば、270°まわり)の動画24を合成してもよく、車両12の側方を撮影するカメラ14で周辺監視装置10を構成してもよい。さらに、撮像部は車両12の前方を撮影するカメラを組み合わせて(又は単独で)動画24を合成してもよい。
また、注意喚起表示は、上記のように方形状の検出枠Dに限定されないことは勿論である。例えば、検出枠Dは、四隅が丸角でもよく、枠の全体形状として他の多角形状、正円形状や楕円形状でもよく、或いは枠線が、点線、鎖線等でもよい。或いは、注意喚起表示は、枠の他に、点状(多角状の点、丸点等)、十字状、括弧状、模様を含むもの等でもよい。
また、残像表示処理において、視認性を低下させる他の手段として、第2タイミングで表示された検出枠Dに連なる線状の軌跡を示すことで、第2タイミングで表示された検出枠Dに対し尾が引いて見えるような描画を描いてもよい。さらに、残像表示処理では、先に表示した検出枠Dは、そのまま継続的に表示されるだけでも、次の検出枠Dに対する残像を構成し得る。
上記において、本発明について好適な実施形態を挙げて説明したが、本発明は前記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、種々の改変が可能なことは言うまでもない。
10…周辺監視装置 12…自車(車両)
14…カメラ 16…画像処理ECU
18…ディスプレイ 22…移動体(車両)
32…物体検出部 36…表示画面処理部
38…警報制御部 44…スピーカ
D…検出枠 I…表示画面

Claims (6)

  1. 自車周辺を撮像する撮像部と、
    前記撮像部で撮像された画像を表示する表示部と、
    前記撮像部で撮像された画像中に注意すべき物体を検出する検出部と、
    前記検出部の検出に基づき前記画像中の前記物体又は前記物体の周辺に注意喚起表示を重畳して表示する喚起表示制御部と、を備えた周辺監視装置において、
    前記喚起表示制御部は、第1タイミングで表示された注意喚起表示を、前記第1タイミングよりも後の第2タイミングで注意喚起表示を表示しても、継続して表示する
    ことを特徴とする周辺監視装置。
  2. 請求項1記載の周辺監視装置において、
    前記喚起表示制御部は、前記第1タイミングで表示された注意喚起表示を、前記第2タイミングで表示された注意喚起表示よりも視認性を低下して表示する
    ことを特徴とする周辺監視装置。
  3. 請求項2記載の周辺監視装置において、
    前記喚起表示制御部は、前記第1タイミングの注意喚起表示の不透明度を低くすることで視認性を低下させる
    ことを特徴とする周辺監視装置。
  4. 請求項1〜3のいずれか1項に記載の周辺監視装置において、
    前記喚起表示制御部は、注意すべき前記物体の変位に沿って前記注意喚起表示を追従させる
    ことを特徴とする周辺監視装置。
  5. 請求項1〜4のいずれか1項に記載の周辺監視装置において、
    前記注意喚起表示は、枠表示である
    ことを特徴とする周辺監視装置。
  6. 請求項5記載の周辺監視装置において、
    前記喚起表示制御部は、注意すべき前記物体を最初に検出した際に、検出位置に対して外側から内側に向かって前記枠表示を段階的に小さくし、且つ前記外側の枠表示を前記内側の枠表示よりも視認性を低下させる
    ことを特徴とする周辺監視装置。
JP2014221678A 2014-10-30 2014-10-30 周辺監視装置 Active JP6306489B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014221678A JP6306489B2 (ja) 2014-10-30 2014-10-30 周辺監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014221678A JP6306489B2 (ja) 2014-10-30 2014-10-30 周辺監視装置

Publications (3)

Publication Number Publication Date
JP2016088158A true JP2016088158A (ja) 2016-05-23
JP2016088158A5 JP2016088158A5 (ja) 2017-01-19
JP6306489B2 JP6306489B2 (ja) 2018-04-04

Family

ID=56016187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014221678A Active JP6306489B2 (ja) 2014-10-30 2014-10-30 周辺監視装置

Country Status (1)

Country Link
JP (1) JP6306489B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018036444A (ja) * 2016-08-31 2018-03-08 アイシン精機株式会社 表示制御装置
JP2018106429A (ja) * 2016-12-27 2018-07-05 トヨタ自動車株式会社 警報出力装置
JP2019021152A (ja) * 2017-07-20 2019-02-07 本田技研工業株式会社 走行支援装置及び走行支援方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005346177A (ja) * 2004-05-31 2005-12-15 Nissan Motor Co Ltd 車両用情報提示装置
JP2009231938A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
US20100253489A1 (en) * 2009-04-02 2010-10-07 Gm Global Technology Operations, Inc. Distortion and perspective correction of vector projection display

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005346177A (ja) * 2004-05-31 2005-12-15 Nissan Motor Co Ltd 車両用情報提示装置
JP2009231938A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
US20100253489A1 (en) * 2009-04-02 2010-10-07 Gm Global Technology Operations, Inc. Distortion and perspective correction of vector projection display

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018036444A (ja) * 2016-08-31 2018-03-08 アイシン精機株式会社 表示制御装置
CN107791951A (zh) * 2016-08-31 2018-03-13 爱信精机株式会社 显示控制装置
JP2018106429A (ja) * 2016-12-27 2018-07-05 トヨタ自動車株式会社 警報出力装置
US10661711B2 (en) 2016-12-27 2020-05-26 Toyota Jidosha Kabushiki Kaisha Warning output device
JP2019021152A (ja) * 2017-07-20 2019-02-07 本田技研工業株式会社 走行支援装置及び走行支援方法

Also Published As

Publication number Publication date
JP6306489B2 (ja) 2018-04-04

Similar Documents

Publication Publication Date Title
CN108883702B (zh) 车辆用装置、以及持续的有形计算机读取介质
JP2007074326A (ja) 運転支援装置
JP5741173B2 (ja) 画像表示装置、及び、画像表示方法
JP6379779B2 (ja) 車両用表示装置
JP5277974B2 (ja) 運転支援装置
TW201309515A (zh) 調校車用影像裝置之方法及其系統
JP2010160606A (ja) 車両用情報提示システム
US20170021770A1 (en) Image processing device, method for controlling image processing device, non-transitory computer readable medium recording program, and display device
JP6205640B2 (ja) 車両用警告装置
WO2011114638A1 (ja) 車両周囲監視装置および車両周囲監視方法
WO2015015919A1 (ja) 車両周辺監視装置
JP5855206B1 (ja) 車両用透過表示装置
JP2007235529A (ja) 車両周囲監視システム及び画像表示方法
JP6224029B2 (ja) 画像処理装置および画像処理方法
JP6306489B2 (ja) 周辺監視装置
JP2013005233A (ja) 車両周辺監視装置
JP2006338594A (ja) 歩行者認識装置
JP2016055801A (ja) 車載表示装置
KR20120103232A (ko) 장애물 충돌 방지를 위한 주차 보조 장치 및 그 방법
US11708032B2 (en) Driving support device
JP2009183473A (ja) 視線方向検出装置及び視線方向検出方法
JP2016021116A (ja) 車両用表示装置
JP2018144554A (ja) 車両用ヘッドアップディスプレイ装置
JP2013132976A (ja) 障害物警報装置
JP2015008453A (ja) カメラ装置および警告方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180308

R150 Certificate of patent or registration of utility model

Ref document number: 6306489

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250