JP2005276056A - ノーズビューモニタ装置 - Google Patents

ノーズビューモニタ装置 Download PDF

Info

Publication number
JP2005276056A
JP2005276056A JP2004091666A JP2004091666A JP2005276056A JP 2005276056 A JP2005276056 A JP 2005276056A JP 2004091666 A JP2004091666 A JP 2004091666A JP 2004091666 A JP2004091666 A JP 2004091666A JP 2005276056 A JP2005276056 A JP 2005276056A
Authority
JP
Japan
Prior art keywords
vehicle
approaching object
optical flow
image
flow vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004091666A
Other languages
English (en)
Other versions
JP4259368B2 (ja
Inventor
Takahiro Maemura
高広 前村
Masahiro Ikeyama
将弘 池山
Emrullah Durucan
ドゥルカン エムルラー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Motors Corp
Original Assignee
Mitsubishi Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Motors Corp filed Critical Mitsubishi Motors Corp
Priority to JP2004091666A priority Critical patent/JP4259368B2/ja
Priority to US11/087,873 priority patent/US7190282B2/en
Priority to DE102005013920A priority patent/DE102005013920B4/de
Priority to CNB200510063703XA priority patent/CN100471263C/zh
Publication of JP2005276056A publication Critical patent/JP2005276056A/ja
Application granted granted Critical
Publication of JP4259368B2 publication Critical patent/JP4259368B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】 ノーズビューモニタ装置に関し、シンプルなロジックで、車両のノーズ部分の側方の接近物体を精度よく検出できるようにして、乗員に接近物体情報を報知することができるようにする。
【解決手段】 車両2のノーズ前面に設けられて車両側方の画像を撮像する撮像手段3と、該画像に基づきオプティカルフローベクトルを算出するオプティカルフローベクトル算出手段11と、該オプティカルフローベクトル算出手段11により算出されたオプティカルフローベクトルのうち該画像中における該車両2の進行方向へのベクトル成分を有するオプティカルフローベクトルに基づいて接近物体を検出する接近物体検出手段12と、該画像を表示するとともに該接近物体の検出を報知する報知手段5とを備える。
【選択図】 図1

Description

本発明は、ノーズビューカメラの撮像画像を表示するとともに、撮像画像のオプティカルフローベクトルを検出するノーズビューモニタ装置に関する。
従来より、車両のノーズ(前端)部に左右側方を撮像する撮像カメラを設け、撮像した画像(いわゆるノーズビュー画像)をモニタ装置等に表示して、乗員の肉眼目視の補助を行う技術が開発されている。このような技術においては、一般に、撮像画像を表示するモニタ装置がテレビ画像やカーナビゲーション画像(ナビ画像)等を表示する車載モニタと兼用されるようになっており、車両の走行時にはテレビ画像やナビ画像が表示され、車両が交差点やT字路に差し掛かって一時停止したときには自動的にノーズビュー画像の表示に切り換わるようになっている。
また、特許文献1には、車両前部に取り付けられて左右側方の画像を撮像しそれを車室内のモニタ装置(ディスプレイ)に表示する車両用カメラ装置において、車両の停止以前又は所定の低速度走行になる以前に、車速や減速度の大きさに応じて、装置を自動的にオン作動させる構成が記載されている。このような構成によれば、例えば、車両が交差点に差しかかり運転者が左右確認を行おうとしたときには、一時停止するより以前に装置をオン作動させてノーズ部からの左右側方の撮像画面をディスプレイに映し出すことができ、運転者は余裕を持ってスピーディかつスムーズに左右確認を行うことができ、一方、渋滞によるノロノロ運転時には装置をオン作動させず、テレビ画像やナビ画像等を妨げないようにすることができるようになっている。
一方、このようなモニタ装置の撮像画像において、撮像画像内における移動物体をオプティカルフローを利用して検出する技術も開発されている。オプティカルフローとは、画像上の2次元速度ベクトル場、すなわち、動画像中の運動物体の見かけの速度場のことである。このような技術では、例えば、所定周期で撮像された連続する2枚の画像間において、同一の対象物として認識可能な点を特徴点として設定(演算処理によって検出)し、この特徴点の移動(移動方向と移動距離)をベクトル(このベクトルがオプティカルフローベクトルであり、単にフローベクトルとも称され、また、このベクトルのことがオプティカルフローと称されることもある)として算出する。そして、撮像した画像内の全領域において、この特徴点とフローベクトルとを算出することで、画像内の移動物体の位置,移動方向等の情報を認識できるようになっている。
また、例えば、特許文献2には、車両の走行方向(車両の進行方向である前方)の撮像画像のオプティカルフローを求める演算処理において、画像上における道路外の風景に相当する領域を省いて演算を行う構成が記載されている。具体的には、画像上の無限遠点から画面の下方両隅部に引いた直線によって囲まれる下方部分と無限遠点の周辺の部分とを含む領域についてのみ、オプティカルフローを求めるようになっている。これにより、画像内の全領域においてオプティカルフローを求めるのに比較して、演算量を削減することができ、処理時間を短縮して高速化することができるようになっている。
特許第3287817号公報 特許第3398934号公報
ところで、車両の左右側方を撮像したノーズビュー画像から、オプティカルフローを利用して自車両へ接近する車両等の移動物体を認識することを考えた場合、自車両が停止した状態であれば、自車両に対する相対位置を変化させない対象(例えば、建造物や街路樹等といった画像中の背景の部分)にはフローベクトルが発生せず、実際に移動した物体にのみフローベクトルが発生することになる。つまり、フローベクトルの発生した場所に移動物体が存在するということになり、フローベクトルの有無によって正確に移動物体を検出することができる。
しかし、一般にノーズビュー画像が必要とされる状況は、見通しの悪い交差点やT字路への進入時であり、このような状況では、車両の乗員がノーズビュー画像を見て左右側方を確認しながら車両をゆっくり前進させる操作が行われることが多い。このように、自車両が移動している状態では、ノーズビュー画像のアングル(構図)自体が動いてしまうため、画像中の背景をなす建造物や街路樹等の実際には移動していない対象にもフローベクトルが発生することになり、背景を移動物体として検出してしまう、という課題がある。また、このようにアングル自体が動いている画像の中から、自車両に接近する移動物体のみを抽出して検出することも困難である。
本発明はこのような課題に鑑み案出されたもので、シンプルなロジックで、車両のノーズ部分の側方の接近物体を精度よく検出できるようにして、乗員に接近物体情報を報知することができるようにした、ノーズビューモニタ装置を提供することを目的とする。
上記目的を達成するため、本発明のノーズビューモニタ装置(請求項1)は、車両のノーズ前面に設けられて車両側方の画像を撮像する撮像手段と、該画像に基づきオプティカルフローベクトルを算出するオプティカルフローベクトル算出手段と、該オプティカルフローベクトル算出手段により算出されたオプティカルフローベクトルのうち該画像中における該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルに基づいて接近物体を検出する接近物体検出手段と、該画像を表示するとともに該接近物体の検出を報知する報知手段とを備えたことを特徴としている。
また、該該撮像手段は、該車両の左右両側方の領域をそれぞれ撮像可能に構成され、該オプティカルフローベクトル算出手段は、該撮像手段により撮像された該車両の左右各側方領域の画像に基づいてオプティカルフローベクトルを算出するとともに、該接近物体検出手段は、該オプティカルフローベクトル算出手段により算出された上記の左側方領域におけるオプティカルフローベクトルのうち右方向のベクトル成分を有するオプティカルフローベクトルと、上記の右側方領域におけるオプティカルフローベクトルのうち左方向のベクトル成分を有するオプティカルフローベクトルとに基づいて接近物体を検出することが好ましい(請求項2)。
また、該報知手段は、該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルの大きさに応じた複数の報知態様を切り換えて、該画像を表示するとともに該接近物体の検出を報知することが好ましく(請求項3)、または、該報知手段は、該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルの数に応じた複数の報知態様を切り換えて、該画像を表示するとともに該接近物体の検出を報知することが好ましい(請求項4)。
また、該車両の車両速度を検出する車両速度検出手段を備え、該接近物体検出手段は、該車両速度が予め設定された所定値よりも大きいときに、該接近物体の検出を停止することが好ましく(請求項5)、該車両の操舵角を検出する操舵角検出手段を備え、該接近物体検出手段は、該操舵角が予め設定された所定値よりも大きいときに、該接近物体の検出を停止することが好ましく(請求項6)、さらに、該報知手段は、該接近物体検出手段が該接近物体の検出を停止したことを報知することが好ましい(請求項7)。
本発明のノーズビューモニタ装置(請求項1)によれば、車両側方における自車両への接近物体の認識を容易にすることができる。また、自車両への接近物体の認識にかかるオプティカルフローの演算量を削減させることができる。さらに、車両が低速で移動した場合であっても撮像した画像における背景画像の移動を自車両への接近物体と誤認識することを防止でき、正確に移動物体を検出して、検出精度を向上させることができる。したがって、自車両への接近物体の誤報知を低減させることができる。
また、本発明のノーズビューモニタ装置(請求項2)によれば、車両の左側方領域と右側方領域とにおける自車両への接近物体の検出を容易にすることができる。また、シンプルな制御ロジックで正確に自車両への接近物体を検出することができる。
また、本発明のノーズビューモニタ装置(請求項3,4)によれば、オプティカルフローベクトルの大きさ,数に応じた複数の報知態様を切り換えることによって、自車両への接近物体の危険度を判定することができ、危険度に応じた効果的な報知を行うことができるようになり、安全性を向上させることができる。
また、本発明のノーズビューモニタ装置(請求項5)によれば、大きな車両速度での移動による接近物体の誤認識,誤報知を低減できる。そのため、結果的にオプティカルフローによる接近物体の検出精度を向上させることができる。
また、本発明のノーズビューモニタ装置(請求項6)によれば、大きな操舵角での移動による接近物体の誤認識,誤報知を低減できる。そのため、結果的にオプティカルフローによる接近物体の検出精度を向上させることができる。
また、本発明のノーズビューモニタ装置(請求項7)によれば、誤認識防止のための接近物体の検出の停止を、乗員へ報知することができ、乗員の接近物体への注意を促して、安全性をより向上させることができる。
以下、図面により、本発明の実施の形態について説明する。
図1〜図5は、本発明の一実施形態としてのノーズビューモニタ装置を示すもので、図1は本装置を備えた車両を示す模式的構成図、図2は本装置によるモニタ表示例としての表示画面内容の模式図、図3は本装置における制御を説明するためのフローチャート、図4は本装置の接近物体検出手段における演算処理を説明するための模式図、図5は本装置におけるノーズビューカメラの撮像領域を示す模式的平面図である。
図1を参照すれば、本発明のノーズビューモニタ装置1を搭載した車両2が示されている。車両2は、車両の左右側方を撮像するノーズビューカメラ(撮像手段)3,車両2の走行速度信号を検出する車速センサ(車両速度検出手段)4,ノーズビューカメラ3の作動スイッチとしてのノーズカメラスイッチ6,乗員によるステアリングホイールの操舵角(又は操舵輪の舵角)信号を検出する操舵角センサ(操舵角検出手段)7,電子制御ユニット(ECU)10及びノーズビューカメラによって撮像された画像を表示するためのモニタ(報知手段)5を備えて構成されている。
ノーズビューカメラ3は、車両2のノーズ(前端)部の左右端部に一対設けられており、車両の左側方と右側方とを同時に撮像することができるようになっている。
また、モニタ5は、ノーズビューカメラ3で撮像された左右側方の画像を表示するようになっている。本実施形態では、図2に示すように、車両2の右側方の画像をモニタ画面における右半分の領域に表示すると同時に、車両2の左側方の画像をモニタ画面における左半分の領域に表示するようになっている。これにより、乗員は車両の左右側方を同時に確認することができるようになっている。
左右各々のノーズビューカメラ3によって撮像される領域は、本実施形態においては、図5に示すように、車両2の車幅方向の左右側方であって、車両2の進行方向に対して垂直な方向よりも僅かに前方を指向するようになっている。これにより、車両2の左側方の画像内においては、車両の進行方向が画像上の右側方向となり、一方、右側方の画像内においては、車両の進行方向が画像上の左側方向となる。また、図2に示すように、左側方の画像内において車両2の前方道路を車両2に接近しつつある車両21は、画像上では右方向へ移動しながら拡大するように表示されることになり、一方、右側方の画像内において車両2の前方道路を車両2に接近しつつある車両22は、画像上では左方向へ移動しながら拡大するように表示されることになる。
車速センサ4は、車輪の回転数情報を検出し、その回転数情報をECU10へ入力するようになっている。また同様に、操舵角センサ7は、乗員によって操舵されたステアリングホイールの操舵角情報を検出し、それをECU10へ入力するようになっている。なお、ECU10は、入力された車輪の回転数情報に基づいて車両2の走行速度Vを算出するとともに、操舵角情報に基づいて操舵輪の舵角θを算出するようになっている。
ノーズカメラスイッチ6は、ノーズビューカメラ3の作動のオン/オフを切り換えるスイッチになっており、ノーズカメラスイッチ6がオフに操作されているときにはノーズビューカメラ3が作動しないようになっている。また、ノーズカメラスイッチ6がオンに操作されているときには、所定の条件(ノーズビューカメラ作動条件)が成立するとノーズビューカメラ3が作動するようになっている。
ノーズビューカメラ作動条件とは、例えば、ECU10で算出された車両2の走行速度Vが予め設定された所定速度V0(ごく低速の状態に対応する速度であり、例えば5km/h)よりも小さく、かつ、操舵輪の舵角θが予め設定された所定角度θ0よりも小さい(すなわち、ハンドルの操舵状態がニュートラルの状態に近い)こと、となっている。
なお、モニタ5は、ノーズビューカメラ3が作動しているときにはその撮像画像を表示するが、ノーズビューカメラ3が作動していないときには別の画像、例えばテレビ画像やカーナビゲーション画像を表示する、一般的な車載モニタとして機能するようになっている。
つまり、通常の走行時において、テレビ画像やカーナビゲーション画像を継続的に表示させた状態で、ノーズカメラスイッチ6がオンになっていれば、車両2が交差点やT字路へ進入しようとするとき、舵角θが所定角度θ0よりも小さいまま所定速度V0より車両の速度が減速した時点で、自動的にノーズビューカメラ3が作動し、左右側方の画像がモニタ5に表示されるようになっている。つまり、乗員が意識しなくても、自動的に画像がテレビ画像やカーナビゲーション画像から左右側方の画像に切り換わるようになっている。また、舵角θが所定角度θ0以上のときや走行速度Vが所定速度V0以上のときには、ノーズビューカメラ3が作動せず、一般的な車載モニタとしてテレビ画像やカーナビゲーション画像の表示を継続するようになっている。
なお、所定速度V0及び所定角度θ0の大きさは、ノーズビューカメラ3の撮像画像における背景部分のフローベクトルの大きさとの兼ね合いで設定されるものであり、これについては後述する。
また、ノーズカメラスイッチ6をオフにしておけば、上述のノーズビューカメラ作動条件が成立したとしても、ノーズビューカメラ3を作動させないことができるようになっている。
ECU10は、ノーズビューカメラ3で撮像された左右側方の各々の撮像画像のオプティカルフローを算出して、自車両へ接近する移動物体を検出することができるようになっている。まず、ECU10は、撮像画像のオプティカルフローを算出するオプティカルフロー算出部(オプティカルフローベクトル算出手段)11と、オプティカルフロー算出部11で算出されたオプティカルフローベクトルに基づいて自車両への接近物体を検出する接近物体検出部(接近物体検出手段)12と、これらの算出,検出結果を出力する出力部13とを備えて構成されている。なお、以下の説明では、各オプティカルフローベクトルについては、単にフローベクトルと呼び、これらのフローベクトルの集合体については、オプティカルフローと呼ぶことにする。
オプティカルフロー算出部11は、ノーズビューカメラ3が撮像した左右側方の各々の画像のオプティカルフローを個別に算出するようになっており、左側方の画像(すなわち、図2における左半分の領域の画像)のオプティカルフローは左側方領域オプティカルフロー算出部11Aにおいて、右側方の画像(すなわち、図2における右半分の領域の画像)のオプティカルフローは右側方領域オプティカルフロー算出部1Bにおいて、それぞれ算出されるようになっている。なお、オプティカルフローの算出については、ノーズビューカメラ3が撮像した画像のうち連続する2枚の画像間において、同一の対象物に対応する点を特徴点として算出(演算処理によって検出)し、この特徴点の移動方向と移動距離とをフローベクトルとして算出する方法が用いられるようになっている。また、撮像した画像内の全領域においてフローベクトルが算出されて、画像内の移動物体の位置,移動方向等の情報を認識できるようになっている。
接近物体検出部12は、オプティカルフロー算出部11で算出されたフローベクトルに基づいて、車両2へ接近する物体を検出するようになっている。具体的には、左右側方の画像中において、車両2の進行方向側への勾配を有するフローベクトルに基づいて、自車両2への接近物体を検出するようになっている。例えば、左側方の画像では、画像上で右方向のベクトル成分を有するフローベクトルを抽出し、一方、右側方の画像では、画像上で左方向のベクトル成分を有するフローベクトルを抽出する。そして、抽出されたフローベクトルが、車両2に接近する接近物体(すなわち、フローベクトルを有する移動物体のうち、自車両2に接近する物体)によるフローベクトルであると判断し、接近物体を認識するようになっている。
つまり、単にオプティカルフローを利用して移動物体を認識しただけでは、その移動物体が自車両2に接近しているかどうかを判断することが困難であるが、本実施形態においては、接近物体検出部12が、オプティカルフロー算出部11で認識された移動物体のうち、自車両2へ接近する物体のフローベクトルを、それが存在する領域とその方向とに基づいて抽出,選別して認識することで、自車両2に対して接近している、ひいては、自車両2にとって危険である可能性のある移動物体を認識するようになっているのである。
また、出力部13は、接近物体検出部12が自車両2への接近物体を検出したときに、モニタ5上に接近物体が検出されたことを表示するとともに、音声等によって乗員へ報知するようになっている。ここで、出力部13は、接近物体検出部12で検出された車両2の進行方向側への勾配を有するフローベクトルの大きさと数とに基づいて、複数の報知態様を切り換えて、画像を表示するとともに接近物体の検出を報知するようになっている。
つまり、車両2の進行方向側への勾配を有するフローベクトルの大きさに着目すれば、そのフローベクトルが大きい場合には、たとえそのフローベクトルを発生させている接近物体が自車両2から離れた距離にあったとしても、高速で自車両2に接近していることになるため自車両2にとって危険である可能性が高く、一方、その移動物体がたとえ高速で自車両2に接近していなくても、自車両2にとって近い距離にあれば、その移動物体が危険である可能性が高いことに変わりはなく、この場合にも車両2の進行方向側への勾配を有するフローベクトルが大きくなる。
したがって、車両2の進行方向側への勾配を有するフローベクトルの大きさの増大に伴って、接近物体の車両2に対する危険度が上昇するものとして、その危険度に応じた複数の報知モードを切り換えて、画面表示,報知を実施するようになっているのである。
また同様に、自車両2への接近物体が多い、又は、自車両2と接近物体との距離が近いときには、車両2の進行方向側への勾配を有するフローベクトルの数が増大することになるため、フローベクトルの数の増大に伴って、接近物体の車両2に対する危険度が上昇するものとして、その危険度に応じた複数の報知モードを切り換えて、画面表示,報知を実施する。
本実施形態においては、出力部13は、「危険度小報知モード」,「危険度大報知モード」といった複数の報知モードを備えており、接近物体検出部12が検出した接近物体のフローベクトルの大きさと数とに基づいて、これらの報知モードを切り換えるように構成されている。
すなわち、車両2の進行方向側への勾配を有するフローベクトルについて、その大きさが予め設定された所定の大きさよりも大きなものが検出された場合、又は、予め設定された所定数以上検出された場合には、出力部13が「危険度大報知モード」に設定され、それ以外の場合には、出力部13が「危険度小報知モード」に設定される。
「危険度小報知モード」において、出力部13は、接近物体によるフローベクトルのひとつを矢印で画面表示し、音声によって接近物体の検出を報知する(例えば、「周囲に注意してください」とアナウンスする等)ようになっている。
また、「危険度大報知モード」において、出力部13は、接近物体検出部12が検出した接近物体に対応する画面上の領域を強調表示(例えば、輝度や色調を変化させる等)するとともに、接近物体による全てのフローベクトルを矢印で画面表示し、さらに音声によって危険度が高いことを乗員へ報知する(例えば、「接近している車両がありますので注意してください」とアナウンスする等)ようになっている。
なお、出力部13は、ノーズビューカメラ作動条件が成立しなくなった(V≧V0またはθ≧θ0)ときにも、その旨を乗員へ報知するようになっている。
本実施形態にかかるノーズビューモニタ装置1は上述のように構成され、図3に示すフローチャートに従って、以下のように制御が行われる。なおこのフローは、常時ECU10において所定のサイクル(例えば、ノーズビューカメラ3の撮像サイクルに同期するサイクル)毎に実行されている。
ステップA10からステップA30は、オプティカルフローを算出するための前提として、ノーズビューカメラ3が作動しているか否かを判定するフローとなっている。
まず、ステップA10では、ノーズカメラスイッチ6がオンになっているか否かが判定される。オンになっていればステップA20へ進み、オフになっていればこのフローを終了する。次に、ステップA20では、車両の走行速度Vが所定速度V0よりも小さいか否かが判定され、V<V0の場合にはステップA30へ進み、V≧V0の場合にはこのフローを終了する。続いて、ステップA30では、操舵輪の舵角θが所定角度θ0よりも小さいか否かが判定され、θ<θ0の場合にはステップA40へ進み、θ≧θ0の場合にはこのフローを終了する。
つまり、ノーズビューカメラ3が作動していない場合にはステップA40以降へは進まずにフローを終了し、ノーズビューカメラ3が作動して初めてステップA40以降へ進むことになる。
ステップA40では、オプティカルフロー算出部11において、ノーズビューカメラ3が撮像した左右側方の画像における特徴点を個別に算出し、ステップA50で全ての特徴点についてのフローベクトルを算出する。つまりここでは、左右側方のの各々の画像内における移動物体が認識されることになる。
続いてステップA60では、接近物体検出部12において、ステップA50で算出された全てのフローベクトルについて、車両2の進行方向側へのベクトル成分を有するか否かが判定される。車両2の左側方の画像上のフローベクトルに対しては、画像上で右方向のベクトル成分を有するか否かが判定され、一方、車両2の右側方の画像上のフローベクトルに対しては、画像上で左方向のベクトル成分を有するか否かが判定される。つまり、ここでは、ステップA50で認識された移動物体のうち、車両2に接近する移動物体(接近物体)を他と区別して認識することになる。
ここで、車両2の進行方向側へのベクトル成分を有するフローベクトルを検出しなかった場合には、接近物体がないということになるため、このフローを終了するが、上記のフローベクトルを検出した場合には、ステップA70へ進む。
ステップA70では、出力部13において、接近物体を認識したことがモニタ5に表示されるとともに、音声によって乗員へ報知される。ここで、出力部13における乗員への報知は、ステップA60で検出された車両2の進行方向側へのベクトル成分を有するフローベクトルの大きさと数に応じて、報知モードが切り換えられる。
ステップA60で検出された接近物体のフローベクトルのうち、その大きさが予め設定された所定の大きさよりも大きいものが検出された場合、又は、予め設定された所定数以上の接近物体のフローベクトルが検出された場合には、出力部13が「危険度大報知モード」に設定され、接近物体に対応する画面上の領域が強調表示されるとともに、接近物体による全てのフローベクトルが矢印で画面表示され、さらに音声によって危険度が高いことが、乗員へ報知される。
また、ステップA60で検出された接近物体のフローベクトルのうち、その大きさが予め設定された所定の大きさよりも大きいものが検出されず、かつ、予め設定された所定数以上の接近物体のフローベクトルが検出されなかった場合には、出力部13が「危険度小報知モード」に設定され、接近物体によるフローベクトルのひとつが矢印で画面表示されて、音声によって接近物体の検出が乗員へ報知される。
以上のような制御により、具体的には以下のような作用・効果を奏する。
図5に示すようなT字路において、車両2が左右確認しながら幹線道路へ進入しようとする場合、まず車両2のノーズカメラスイッチ6がオンに操作されていると、車両2が幹線道路の手前で走行速度を所定速度V0よりも小さくしたときに、自動的にノーズビューカメラ3が作動し、左右側方の画像がモニタ5に表示される。これにより、乗員にモニタ5の画像の切り換えを意識させることなく、自動的に左右側方の画像をモニタ5へ表示させることができる。また、ノーズビューカメラ3が作動すると、ECU10において、撮像した画像におけるオプティカルフローの算出を開始する。
ここで、車両2が図5に示す位置に停止している場合には、図3(a)に示すように、ノーズビューカメラ3の位置が固定されているため、撮像した画像中において背景部分(画像上において車両21,22の背景となっている部分であり、ここでは、道路や建物,ガードレール,空といった移動しない対象を指す)にはフローベクトルが発生せず、車両2に接近する接近物体としての車両21,22によるフローベクトル(図3(a)中における黒矢印)のみが発生することになる。そして、このとき、車両21,22によるフローベクトルの方向は、車両21は左側方の画像内において右方向へのベクトル成分を有し、すなわち、画像内における車両2の進行方向側への勾配を持つことになる。一方、車両22は、右側方の画面内において左方向へのベクトル成分を有し、画像内における車両2の進行方向側への勾配を持つことになる。
したがって、接近物体検出部12において、左右側方の画像中において、車両の進行方向側への勾配を有するフローベクトルに基づいて、接近物体としての車両21,22を検出することができる。
また、車両2が図5に示す位置を低速で(走行速度V<V0で)走行している場合、つまり、乗員が左右確認を行いながらゆっくりと車両2を前進させている場合には、図3(b)に示すように、ノーズビューカメラ3の撮像位置の移動によって、撮像された画像中において背景部分にもフローベクトル(図3(b)中における白抜き矢印)が発生することになる。そして、車両21,22によるフローベクトルは、車両2が停止している場合に発生するであろうフローベクトル(すなわち、図3(a)に示された黒矢印のフローベクトル)と、ノーズビューカメラ3の位置移動によって発生する背景部分のフローベクトル(白抜き矢印のフローベクトル)との和としてのフローベクトル(図3(b)中における黒矢印)が発生することになる。また、背景部分のフローベクトルは、車両2が前進することによって、画像上において車両2の前進方向と逆方向への勾配を有するフローベクトルとして発生することになる。
したがって、車両2をゆっくり前進させることによって、車両21,22によるフローベクトルの大きさと方向は変形を受けることになるが、車両2が低速で徐行している場合には大きな変形を受けず、画像上において車両2の進行方向側への勾配を持つことができる。また、たとえ、車両21,22によるフローベクトルのうち、車両の進行方向側への勾配と、背景部分のフローベクトルとが等しくなったとしても、車両21,22によるフローベクトルは、車両2への接近によって画像上において拡大するような方向、すなわち、画像上における上下方向へのベクトルをも有しているため、車両21,22によるフローベクトルが打ち消されることはない。
このとき、車両21,22によるフローベクトルの方向は、図3(c)に示すように、画像中において車両2の進行方向側の勾配を有するベクトル方向であり、左側方領域においては右方向のベクトル成分を有する方向、右側方領域においては左方向のベクトル成分を有する方向である。換言すると、左側方領域においては鉛直方向から時計回りに180度の範囲の方向のフローベクトルであり、右側方領域においては鉛直方向から反時計回りに180度の範囲の方向のフローベクトルである。
そして、接近物体検出部12において、左右側方の画像中において、車両の進行方向側への勾配を有するフローベクトルに基づいて、接近物体としての車両21,22を検出することができる。したがって、接近物体を検出したことをECU2の出力部13がモニタ5に出力し、乗員への注意を促すことができる。
また、出力部13は、接近物体の自車両2に対する危険度に応じて、報知モードを切り換えるようになっているため、危険度を乗員へ効果的に報知することができ、安全性を向上させることができる。
なお、車両2が素早く前進した場合には、ノーズビューカメラ3の位置移動によって発生する背景部分のフローベクトルが大きくなるため、車両21,22によるフローベクトルの方向が、画像上において車両2の進行方向側への勾配を持たないようになることが考えられるが、本実施形態においては、車両2の走行速度Vが所定速度V0以上になるとノーズビューカメラ3の作動が停止するようになっているため、接近物体を誤認識を防止することができる。また同様に、車両2の操舵角θが所定角度θ0以上になるとノーズビューカメラ3の作動が停止するようになっているため、旋回移動によって接近物体を誤認識することもない。そして結果的に、オプティカルフローによる接近物体の検出精度を向上させることができる。
また、ノーズビューカメラ3の作動が停止した場合にも、出力部13は、その旨を乗員へ報知するため、乗員への注意を促して、安全性を向上させることができる。
なお、所定速度V0及び所定角度θ0の大きさの設定については、実施の形態に応じて任意であるが、車両2が移動したときに、その走行速度V,操舵角θが大きいほど、上記の背景部分のフローベクトルは大きくなる。したがって、接近速度の速い物体を検出するためには、所定速度V0及び所定角度θ0の設定値を大きくしても何ら問題はなく、一方、接近速度の遅い物体を検出するためには、車両2が停止していることが望ましいことになる。しかし、車両2が移動している場合には、一般公道を走行する接近物体としての車両21,22によるフローベクトルと、背景部分に発生するフローベクトルとの方向性の相違を利用することによって(すなわち、上述のようなロジックによって)、接近物体としての車両21,22を背景部分と区別して認識できるのである。
このように、本発明のノーズビューモニタ装置によれば、車両2が停止している場合であっても、低速(V<V0)で走行している場合でも、あるいは、操舵角が所定角度より小さい(θ<θ0)状態において、車両側方における接近物体を容易かつ確実に認識することができ、背景画像の移動を接近物体と誤認識することを防止でき、接近物体の検出精度を向上させることができる。また、オプティカルフローに基づいて認識される移動物体のうち、自車両2に対して危険である接近物体を認識するための構成がシンプルであり、接近物体の認識にかかるECU10の演算量を減少させることができる。また、危険度に応じた報知により、安全性を向上させることができる。
以上、本発明の実施形態を説明したが、本発明はかかる実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。
例えば、上述の実施形態では、撮像手段としてのノーズビューカメラ3が、車両2のノーズ部の左右端部に各々設けられているが、いずれか一方のみを備えた構成であってもよく、また、広範な撮像領域を有する広角カメラを用いて車両の左右側方を同時に撮像するように構成してもよい。
また、ノーズビューカメラ3の撮像領域は、車両2の進行方向と進入したい幹線道路の方向とのなす角度に応じて、水平方向に調整されるように構成してもよく、あるいは、走行路面の傾斜に応じて、鉛直方向に調整されるように構成してもよい。
また、上述の実施形態における所定速度V0及び所定角度θ0は、認識したい移動物体のフローベクトルの大きさに応じて任意に設定されるものである。例えば、車両2の走行速度Vが所定速度V0よりも大きくても、車両2(ノーズビューカメラ3)の位置移動によって発生する背景部分のフローベクトルよりも大きなフローベクトルを有して移動する移動物体については、上述の構成によって認識することができる。
また、上述の実施形態における出力部13による報知方法は任意であり、例えば、モニタ5上の画像のうち接近物体を強調表示する場合、画像上の接近物体を拡大表示するように構成してもよく、あるいは、車両2の制動装置を作動させることによって乗員への報知を行うように構成してもよい。
また、危険度に応じた複数の報知モードが多段階的に設定されるように構成してもよい。例えば、接近物体検出部12が検出した接近物体のフローベクトルの大きさ及び数に基づいて切り換える報知モードをさらに増やし、接近物体の自車両2への危険である可能性を多段階的に判定することで、よりきめの細かい報知を実施することができ、安全性を向上させることができるとともに、危険度判定にかかる装置自体の信頼性を向上させることができる。
本発明の一実施形態としてのノーズビューモニタ装置を備えた車両を示す模式的構成図である。 本発明の一実施形態としてのノーズビューモニタ装置によるモニタ表示例としての表示画面内容の模式図である。 本発明の一実施形態としてのノーズビューモニタ装置における制御を説明するためのフローチャートである。 本発明の一実施形態としてのノーズビューモニタ装置の接近物体検出手段における演算処理を説明するための模式図である。 本発明の一実施形態としてのノーズビューモニタ装置におけるノーズビューカメラの撮像領域を示す模式的平面図である。
符号の説明
1 ノーズビューモニタ装置
2 車両(自車両)
3 ノーズビューカメラ(撮像手段)
4 車速センサ(車両速度検出手段)
5 モニタ(報知手段)
6 ノーズカメラスイッチ
7 操舵角センサ(操舵角検出手段)
10 電子制御ユニット(ECU)
11 オプティカルフロー算出部(オプティカルフローベクトル算出手段)
11A 左側方領域のオプティカルフロー算出部
11B 右側方領域のオプティカルフロー算出部
12 接近物体検出部(接近物体検出手段)
13 出力部

Claims (7)

  1. 車両のノーズ前面に設けられて車両側方の画像を撮像する撮像手段と、
    該画像に基づきオプティカルフローベクトルを算出するオプティカルフローベクトル算出手段と、
    該オプティカルフローベクトル算出手段により算出されたオプティカルフローベクトルのうち該画像中における該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルに基づいて接近物体を検出する接近物体検出手段と、
    該画像を表示するとともに該接近物体の検出を報知する報知手段とを備えた
    ことを特徴とする、ノーズビューモニタ装置。
  2. 該該撮像手段は、該車両の左右両側方の領域をそれぞれ撮像可能に構成され、
    該オプティカルフローベクトル算出手段は、該撮像手段により撮像された該車両の左右各側方領域の画像に基づいてオプティカルフローベクトルを算出するとともに、
    該接近物体検出手段は、該オプティカルフローベクトル算出手段により算出された上記の左側方領域におけるオプティカルフローベクトルのうち右方向のベクトル成分を有するオプティカルフローベクトルと、上記の右側方領域におけるオプティカルフローベクトルのうち左方向のベクトル成分を有するオプティカルフローベクトルとに基づいて接近物体を検出する
    ことを特徴とする、請求項1記載のノーズビューモニタ装置。
  3. 該報知手段は、該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルの大きさに応じた複数の報知態様を切り換えて、該画像を表示するとともに該接近物体の検出を報知する
    ことを特徴とする、請求項1又は2記載のノーズビューモニタ装置。
  4. 該報知手段は、該車両の進行方向へのベクトル成分を有するオプティカルフローベクトルの数に応じた複数の報知態様を切り換えて、該画像を表示するとともに該接近物体の検出を報知する
    ことを特徴とする、請求項1〜3のいずれか1項に記載のノーズビューモニタ装置。
  5. 該車両の車両速度を検出する車両速度検出手段を備え、
    該接近物体検出手段は、該車両速度が予め設定された所定値よりも大きいときに、該接近物体の検出を停止する
    ことを特徴とする、請求項1〜4のいずれか1項に記載のノーズビューモニタ装置。
  6. 該車両の操舵角を検出する操舵角検出手段を備え、
    該接近物体検出手段は、該操舵角が予め設定された所定値よりも大きいときに、該接近物体の検出を停止する
    ことを特徴とする、請求項1〜5のいずれか1項に記載のノーズビューモニタ装置。
  7. 該報知手段は、該接近物体検出手段が該接近物体の検出を停止したことを報知する
    ことを特徴とする、請求項5又は6記載のノーズビューモニタ装置。
JP2004091666A 2004-03-26 2004-03-26 ノーズビューモニタ装置 Expired - Lifetime JP4259368B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2004091666A JP4259368B2 (ja) 2004-03-26 2004-03-26 ノーズビューモニタ装置
US11/087,873 US7190282B2 (en) 2004-03-26 2005-03-24 Nose-view monitoring apparatus
DE102005013920A DE102005013920B4 (de) 2004-03-26 2005-03-24 Frontsicht-Überwachungsvorrichtung
CNB200510063703XA CN100471263C (zh) 2004-03-26 2005-03-25 前视监视设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004091666A JP4259368B2 (ja) 2004-03-26 2004-03-26 ノーズビューモニタ装置

Publications (2)

Publication Number Publication Date
JP2005276056A true JP2005276056A (ja) 2005-10-06
JP4259368B2 JP4259368B2 (ja) 2009-04-30

Family

ID=35175635

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004091666A Expired - Lifetime JP4259368B2 (ja) 2004-03-26 2004-03-26 ノーズビューモニタ装置

Country Status (1)

Country Link
JP (1) JP4259368B2 (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007147458A (ja) * 2005-11-28 2007-06-14 Fujitsu Ltd 位置検出装置、位置検出方法、位置検出プログラムおよび記録媒体
JP2007336466A (ja) * 2006-06-19 2007-12-27 Nissan Motor Co Ltd 車両用周辺情報提示装置及び車両用周辺情報提示方法
JP2008308011A (ja) * 2007-06-14 2008-12-25 Fujitsu Ten Ltd 運転支援装置および画像表示装置
JP2009230224A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
JP2009230225A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
JP2009277021A (ja) * 2008-05-15 2009-11-26 Hitachi Ltd 接近物検出装置および接近物検出方法
JP2010070127A (ja) * 2008-09-19 2010-04-02 Mitsubishi Motors Corp 車両周辺監視装置
US7925441B2 (en) 2005-03-09 2011-04-12 Mitsubishi Jidosha Kogyo Kabushiki Kaisha Vehicle periphery monitoring apparatus
WO2013018672A1 (ja) * 2011-08-02 2013-02-07 日産自動車株式会社 移動体検出装置及び移動体検出方法
US8513402B2 (en) 2010-10-05 2013-08-20 Korea Institute Of Science And Technology Human serum albumin-siRNA nano-sized carrier system
JP2013200778A (ja) * 2012-03-26 2013-10-03 Fujitsu Ltd 画像処理装置、画像処理方法
JP2014146084A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
JP2014146083A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
JP5614504B2 (ja) * 2011-09-12 2014-10-29 日産自動車株式会社 立体物検出装置
US8891828B2 (en) 2012-05-17 2014-11-18 Fujitsu Limited Image processing apparatus and image processing method
WO2015025984A1 (ja) * 2014-09-01 2015-02-26 株式会社小松製作所 運搬車両及び運搬車両の制御方法
US10397544B2 (en) 2010-08-19 2019-08-27 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
JP2020145564A (ja) * 2019-03-05 2020-09-10 株式会社デンソーテン 画像処理装置および画像処理方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5878808B2 (ja) * 2012-03-27 2016-03-08 富士重工業株式会社 車外環境認識装置および車外環境認識方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0750769A (ja) * 1993-08-06 1995-02-21 Yazaki Corp 車両用後側方監視方法
JPH07244800A (ja) * 1994-03-02 1995-09-19 Honda Motor Co Ltd 移動体検出装置
JPH0990032A (ja) * 1995-09-20 1997-04-04 Nissan Motor Co Ltd 車間距離警報装置
JPH11222049A (ja) * 1998-02-04 1999-08-17 Nissan Motor Co Ltd 車間距離制御装置
JP2000090243A (ja) * 1998-09-14 2000-03-31 Yazaki Corp 周辺監視装置及び方法
JP2001043494A (ja) * 1999-07-27 2001-02-16 Honda Access Corp 車両用カメラ装置
JP2001213254A (ja) * 2000-01-31 2001-08-07 Yazaki Corp 車両用側方監視装置
JP2003030798A (ja) * 2001-07-18 2003-01-31 Hitachi Ltd 車両制御装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0750769A (ja) * 1993-08-06 1995-02-21 Yazaki Corp 車両用後側方監視方法
JPH07244800A (ja) * 1994-03-02 1995-09-19 Honda Motor Co Ltd 移動体検出装置
JPH0990032A (ja) * 1995-09-20 1997-04-04 Nissan Motor Co Ltd 車間距離警報装置
JPH11222049A (ja) * 1998-02-04 1999-08-17 Nissan Motor Co Ltd 車間距離制御装置
JP2000090243A (ja) * 1998-09-14 2000-03-31 Yazaki Corp 周辺監視装置及び方法
JP2001043494A (ja) * 1999-07-27 2001-02-16 Honda Access Corp 車両用カメラ装置
JP2001213254A (ja) * 2000-01-31 2001-08-07 Yazaki Corp 車両用側方監視装置
JP2003030798A (ja) * 2001-07-18 2003-01-31 Hitachi Ltd 車両制御装置

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006010735B4 (de) * 2005-03-09 2016-03-10 Mitsubishi Jidosha Kogyo K.K. Fahrzeugumgebungsüberwachungsvorrichtung
US7925441B2 (en) 2005-03-09 2011-04-12 Mitsubishi Jidosha Kogyo Kabushiki Kaisha Vehicle periphery monitoring apparatus
JP2007147458A (ja) * 2005-11-28 2007-06-14 Fujitsu Ltd 位置検出装置、位置検出方法、位置検出プログラムおよび記録媒体
JP2007336466A (ja) * 2006-06-19 2007-12-27 Nissan Motor Co Ltd 車両用周辺情報提示装置及び車両用周辺情報提示方法
JP2008308011A (ja) * 2007-06-14 2008-12-25 Fujitsu Ten Ltd 運転支援装置および画像表示装置
JP2009230224A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
JP2009230225A (ja) * 2008-03-19 2009-10-08 Mazda Motor Corp 車両用周囲監視装置
JP2009277021A (ja) * 2008-05-15 2009-11-26 Hitachi Ltd 接近物検出装置および接近物検出方法
JP2010070127A (ja) * 2008-09-19 2010-04-02 Mitsubishi Motors Corp 車両周辺監視装置
US10397544B2 (en) 2010-08-19 2019-08-27 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
US8513402B2 (en) 2010-10-05 2013-08-20 Korea Institute Of Science And Technology Human serum albumin-siRNA nano-sized carrier system
WO2013018672A1 (ja) * 2011-08-02 2013-02-07 日産自動車株式会社 移動体検出装置及び移動体検出方法
CN103718214A (zh) * 2011-08-02 2014-04-09 日产自动车株式会社 移动体检测装置和移动体检测方法
US9665781B2 (en) 2011-08-02 2017-05-30 Nissan Motor Co., Ltd. Moving body detection device and moving body detection method
JP5664787B2 (ja) * 2011-08-02 2015-02-04 日産自動車株式会社 移動体検出装置及び移動体検出方法
JP5614504B2 (ja) * 2011-09-12 2014-10-29 日産自動車株式会社 立体物検出装置
JP2013200778A (ja) * 2012-03-26 2013-10-03 Fujitsu Ltd 画像処理装置、画像処理方法
US9390336B2 (en) 2012-03-26 2016-07-12 Fujitsu Limited Image processing device, image processing method
US8891828B2 (en) 2012-05-17 2014-11-18 Fujitsu Limited Image processing apparatus and image processing method
JP2014146083A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
JP2014146084A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
US9811741B2 (en) 2013-01-28 2017-11-07 Fujitsu Ten Limited Object detector
WO2015025984A1 (ja) * 2014-09-01 2015-02-26 株式会社小松製作所 運搬車両及び運搬車両の制御方法
JPWO2015025984A1 (ja) * 2014-09-01 2017-03-02 株式会社小松製作所 運搬車両
US9550493B2 (en) 2014-09-01 2017-01-24 Komatsu Ltd. Transporter vehicle and transporter vehicle control method
JP5990285B2 (ja) * 2014-09-01 2016-09-07 株式会社小松製作所 運搬車両
JP2020145564A (ja) * 2019-03-05 2020-09-10 株式会社デンソーテン 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
JP4259368B2 (ja) 2009-04-30

Similar Documents

Publication Publication Date Title
JP4259368B2 (ja) ノーズビューモニタ装置
US7190282B2 (en) Nose-view monitoring apparatus
JP4513318B2 (ja) 後側方画像制御装置および方法
JP6272375B2 (ja) 車両用表示制御装置
JP4517393B2 (ja) 運転支援装置
JP6485328B2 (ja) 車両の運転支援装置
JP4193740B2 (ja) ノーズビューモニタ装置
US10866416B2 (en) Display control device and display control method
JP2005309797A (ja) 歩行者警報装置
JP2009116723A (ja) 車線変更支援装置
JP5691814B2 (ja) 運転支援装置
JP2007221200A (ja) 車両周辺監視装置
JP4693561B2 (ja) 車両周辺監視装置
CN113895433B (zh) 通过传感器角度调整的前向避撞系统及其方法
JP2009277021A (ja) 接近物検出装置および接近物検出方法
JP2013191050A (ja) 車両周辺監視装置
JP2005182753A (ja) 車両運転支援装置
JP2013161440A (ja) 車両周辺監視装置
JP4930432B2 (ja) 車両用周辺監視装置
JP2005309660A (ja) 車両用右左折支援装置
JP2004252550A (ja) 運転支援装置
JP2005316746A (ja) 接近物体報知装置
JP2005306320A (ja) 制動制御装置
JP2008090655A (ja) 運転支援装置
JP2005217482A (ja) 車両周辺監視方法および装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080708

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080904

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4259368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term