JP2006273002A - Monitoring device for vehicle - Google Patents

Monitoring device for vehicle Download PDF

Info

Publication number
JP2006273002A
JP2006273002A JP2005090994A JP2005090994A JP2006273002A JP 2006273002 A JP2006273002 A JP 2006273002A JP 2005090994 A JP2005090994 A JP 2005090994A JP 2005090994 A JP2005090994 A JP 2005090994A JP 2006273002 A JP2006273002 A JP 2006273002A
Authority
JP
Japan
Prior art keywords
display
vehicle
image
peripheral
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005090994A
Other languages
Japanese (ja)
Other versions
JP4720979B2 (en
Inventor
Nobuaki Kobayashi
宣章 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Seiki Co Ltd
Original Assignee
Nippon Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Seiki Co Ltd filed Critical Nippon Seiki Co Ltd
Priority to JP2005090994A priority Critical patent/JP4720979B2/en
Publication of JP2006273002A publication Critical patent/JP2006273002A/en
Application granted granted Critical
Publication of JP4720979B2 publication Critical patent/JP4720979B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a monitoring device allowing a driver to visually recognizing the surrounding image with a little shift of the eyes even when a vehicle turns to the right or left or changes lanes. <P>SOLUTION: The monitoring device is equipped with a peripheral image pickup means 1 picking up the image at least the right and left sides of the vehicle A, a left side display part provided at the left end side of the front of a cabin, and a right side display part provided at the right end side of the front of the cabin. The monitoring device is equipped with a display means 6 which displays the peripheral image obtained by the peripheral image pickup means on the right or the left display part, operation means (an operation switch, a direction indicator, and a visual line detection means) 2, 3, 4 for performing selection of the peripheral image, and a control means 5 which displays a left side image 10 showing the left side of the vehicle A as the peripheral image on the left side display part of the display means 6, or displays a right side image 11 showing the right side of the vehicle A as the peripheral image on the right display part of the display means 6. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、車両の周辺を撮像した周辺画像を表示する表示手段を備えた車両用監視装置に関する。   The present invention relates to a vehicle monitoring apparatus provided with display means for displaying a peripheral image obtained by imaging the periphery of a vehicle.

従来、車両の周辺を撮像する撮像カメラ(周辺撮像手段)を備えた車両用監視装置が種々提案されており、例えば特許文献1に開示されている。かかる車両用監視装置は、ドアミラーのハウジング内に前記撮像カメラを配設し、この撮像カメラにより車両の側方を撮像し、前記車両側方の画像(周辺画像)を車室内の表示パネル(表示手段)に表示するものである。なお、前記車両の周辺画像として、他に前記車両の後方あるいは前方の画像を表示することが考えられる。かかる車両用監視装置によれば、前記運転者は前記車両の運転時に運転席から目視できないエリアに障害物等がないかどうかを前記表示パネルで監視することができる。   Conventionally, various vehicle monitoring devices including an imaging camera (peripheral imaging means) for imaging the periphery of a vehicle have been proposed, and for example, disclosed in Patent Document 1. In this vehicle monitoring apparatus, the imaging camera is arranged in a housing of a door mirror, the side of the vehicle is imaged by the imaging camera, and an image (peripheral image) of the vehicle side is displayed on a display panel (display) in the vehicle interior. Means). In addition, it is possible to display the image of the back or front of the vehicle as the surrounding image of the vehicle. According to such a vehicle monitoring apparatus, the driver can monitor the display panel for an obstacle or the like in an area that cannot be seen from the driver's seat during driving of the vehicle.

また、かかる車両用監視装置において、例えば特許文献2には、表示器(表示手段)の画面を横方向に3つに分割し、車体の左側に取り付けられる側部カメラで撮影された画像を前記表示器の画面の左部に、車体の後部に取り付けられる後部カメラで撮影された画像を前記表示器の画面の中央に、車体の右側に取り付けられる側部カメラで撮影された画像を前記表示器の画面の右部にそれぞれ配置して表示する点が開示されている。かかる表示によれば運転者は車両後方の状況を一目で認識することが可能となる。
特開2003−61086号公報 特開2003−81014号公報
Further, in such a vehicle monitoring device, for example, Patent Document 2 discloses that an image captured by a side camera attached to the left side of a vehicle body is divided into three screens of a display (display means) in the horizontal direction. An image taken by a rear camera attached to the rear part of the vehicle body is displayed on the left side of the display screen, and an image taken by a side camera attached to the right side of the vehicle body is displayed on the display unit. The point which arrange | positions and displays on each right part of the screen of this is disclosed. According to this display, the driver can recognize the situation behind the vehicle at a glance.
JP 2003-61086 A JP 2003-81014 A

前述の車両用監視装置は単一の表示器を用いて複数の周辺画像を同時に表示するものであり、表示器はそれ自体の視認性を考慮して車室前方の中央(例えば、インストルメントパネルの中央部)に配置されることが一般的である。しかしながら、前記車両の左側側方(左側後方を含む)を示す左側方画像及び前記車両の右側側方(右側後方を含む)を示す右側方画像は、前記車両が右左折あるいは車線変更をする際に特に必要とされるものであるが、運転者は前記車両を右左折あるいは車線変更させる際には前記車両が移動する方向である前記車両の左前方あるいは右前方に視線を向けており、前記表示器に表示される前記左側方画像あるいは前記右側方画像を視認するためには運転者は前記車室中央に視線を移動させなければならず、前記車両の運転を支援する機能としては改良の余地があった。   The above-described vehicle monitoring apparatus displays a plurality of peripheral images simultaneously using a single display, and the display is centered in front of the passenger compartment (for example, an instrument panel in consideration of its own visibility). It is common to be arranged in the central part of). However, the left side image showing the left side of the vehicle (including the left rear) and the right side image showing the right side of the vehicle (including the right rear) are when the vehicle turns right or left or changes lanes. However, when the driver turns the vehicle to the left or right or changes lanes, the driver is looking toward the left front or right front of the vehicle, which is the direction in which the vehicle moves, In order to visually recognize the left side image or the right side image displayed on the display device, the driver must move his / her line of sight to the center of the passenger compartment. There was room.

本発明は、上記の点に鑑み、車両の周辺を撮像した周辺画像を表示する車両用監視装置において、前記車両が右左折あるいは車線変更する場合であっても運転者が少ない視線移動で前記周辺画像を視認することが可能な車両用監視装置を提供することを目的とする。   In view of the above points, the present invention provides a vehicle monitoring device that displays a peripheral image obtained by imaging the periphery of a vehicle. Even when the vehicle turns right or left or changes lanes, the driver can move the line of sight with less gaze movement. It is an object of the present invention to provide a vehicle monitoring apparatus that can visually recognize an image.

前記課題を解決するために、本発明の車両用監視装置は、車両の左右側方を少なくとも撮像する周辺撮像手段と、車室前方の左端側に設けられる左側表示部と前記車室前方の右端側に設けられる右側表示部とを備え前記周辺撮像手段によって得られる周辺画像を前記左側,右側表示部に表示する表示手段と、前記周辺画像の選択を行うための操作手段と、前記操作手段からの操作信号に応じて、前記表示手段の前記左側表示部に前記周辺画像として前記車両の左側方を示す左側方画像を表示させる、あるいは、前記表示手段の前記右側表示部に前記周辺画像として前記車両の右側方を示す右側方画像を表示させる制御手段と、を備えてなることを特徴とする。   In order to solve the above-described problems, a vehicle monitoring apparatus according to the present invention includes peripheral imaging means for imaging at least the left and right sides of a vehicle, a left display portion provided on the left end side in front of the passenger compartment, and a right end in front of the passenger compartment. A right side display unit provided on the side, a display unit for displaying a peripheral image obtained by the peripheral imaging unit on the left side and right side display units, an operation unit for selecting the peripheral image, and the operation unit In response to the operation signal, a left side image indicating the left side of the vehicle is displayed as the peripheral image on the left display unit of the display unit, or the peripheral image is displayed on the right display unit of the display unit as the peripheral image. And a control means for displaying a right side image showing the right side of the vehicle.

また、前記操作手段は前記車両の方向指示器からなり、前記制御手段は、前記方向指示器から前記操作信号として左方指示信号を入力すると前記表示手段の前記左側表示部に前記左側方画像を表示させ、前記方向指示器から前記操作信号として右方指示信号を入力すると前記表示手段の前記右側表示部に前記右側方画像を表示させてなることを特徴とする。   Further, the operation means is composed of a direction indicator of the vehicle, and the control means inputs the left side image on the left display portion of the display means when a left direction instruction signal is inputted as the operation signal from the direction indicator. When the right direction instruction signal is input as the operation signal from the direction indicator, the right side image is displayed on the right side display portion of the display means.

また、前記操作手段として運転者の視線方向を検出する視線検出手段を備え、前記制御手段は、前記視線検出手段から前記操作信号として前記運転者の視線方向を示す検出信号を入力し、前記検出信号から前記運転者が前記車両前方の左側を見ていると判定される場合は前記表示手段の前記左側表示部に前記左側方画像を表示させ、前記検出信号から前記運転者が前記車両前方の右側を見ていると判定される場合は前記表示手段の前記右側表示部に前記右側方画像を表示させてなることを特徴とする。   In addition, the operation unit includes a gaze detection unit that detects a driver's gaze direction, and the control unit inputs a detection signal indicating the driver's gaze direction as the operation signal from the gaze detection unit, and the detection When it is determined from the signal that the driver is looking at the left side in front of the vehicle, the left side image is displayed on the left side display unit of the display means, and the driver is in front of the vehicle from the detection signal. When it is determined that the user is looking at the right side, the right side image is displayed on the right side display unit of the display unit.

また、前記制御手段は、前記周辺撮像手段によって前記車両の左側方から接近する対象物が撮像される場合に前記左側表示部に前記左側方画像を表示させ、前記周辺撮像手段によって前記車両の右側方から接近する対象物が撮像される場合に前記右側表示部に前記右側方画像を表示させてなることを特徴とする。   In addition, the control unit displays the left side image on the left display unit when an object approaching from the left side of the vehicle is imaged by the peripheral imaging unit, and the right side of the vehicle is displayed by the peripheral imaging unit. When the object approaching from the side is imaged, the right side image is displayed on the right side display unit.

また、前記表示手段は、表示光を発する表示器と、前記表示光を利用者に向けて反射する反射手段と、を備えてなることを特徴とする。   In addition, the display means includes a display that emits display light, and a reflection means that reflects the display light toward a user.

また、前記反射手段は、前記車両のフロントガラスからなる、あるいは前記車両のフロントガラスに形成されてなることを特徴とする。   Further, the reflecting means is made of the windshield of the vehicle or formed on the windshield of the vehicle.

本発明は、車両の周辺を撮像した周辺画像を表示する表示手段を備えた車両用監視装置に関し、前記車両が右左折あるいは車線変更する場合であっても運転者が少ない視線移動で前記周辺画像を視認することが可能となる。   The present invention relates to a vehicle monitoring apparatus including a display unit that displays a peripheral image obtained by capturing an image of the periphery of the vehicle, and the peripheral image can be moved with a small number of drivers even when the vehicle turns left or right or changes lanes. Can be visually recognized.

以下、添付図面に基づいて本発明の実施形態について説明する。   Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.

図1に示すように、車両用監視装置は、周辺撮像手段1と、操作スイッチ(操作手段)2と、方向指示器(操作手段)3と、視線検出手段(操作手段)4と、制御手段5と、表示手段6と、から主に構成されている。   As shown in FIG. 1, the vehicle monitoring apparatus includes a peripheral imaging unit 1, an operation switch (operation unit) 2, a direction indicator (operation unit) 3, a line-of-sight detection unit (operation unit) 4, and a control unit. 5 and the display means 6.

周辺撮像手段1は、例えば車両Aの左右のサイドミラー等の外装部品にそれぞれ設けられる高画角カメラが適用されるものであり、図2に示すように、運転者にとって死角となる車両A近傍部分を含む車両Aの左側方(左後方を含む)領域B及び車両Aの右側方(右後方を含む)領域Cの風景を少なくとも撮像することができる。また、周辺撮像手段1は、前述した撮像によって得られる周辺情報(画像情報)を制御手段5に出力する。   For example, a high-angle-of-view camera provided in each of the exterior parts such as the left and right side mirrors of the vehicle A is applied to the peripheral imaging unit 1, and as shown in FIG. The scenery of the left side (including left rear) region B of the vehicle A including the part and the right side (including right rear) region C of the vehicle A can be captured. Further, the peripheral imaging unit 1 outputs peripheral information (image information) obtained by the above-described imaging to the control unit 5.

操作スイッチ2は、運転者による操作によって表示手段6の表示内容を切り替えるためのものであり、操作内容を操作信号として制御手段5に出力する。   The operation switch 2 is for switching the display content of the display means 6 by an operation by the driver, and outputs the operation content to the control means 5 as an operation signal.

方向指示器3は、車両Aの先端部及び後端部にそれぞれ設けられる左右のターンシグナルと各ターンシグナルを点滅駆動させる駆動回路と方向指示器3を操作するためのレバースイッチを有するものであり、表示手段6の表示内容を切り替えるべく、前記レバースイッチの左方あるいは右方指示操作に応じた左方あるいは右方指示信号を操作信号として制御手段5に出力する。   The direction indicator 3 has left and right turn signals provided at the front end portion and the rear end portion of the vehicle A, a drive circuit for blinking and driving each turn signal, and a lever switch for operating the direction indicator 3. In order to switch the display contents of the display means 6, a left or right instruction signal corresponding to the left or right instruction operation of the lever switch is output to the control means 5 as an operation signal.

視線検出手段4は、車両Aの運転席に座る運転者の視線方向を検出するものであり、例えばステレオカメラ4aと画像解析回路とから構成される。ステレオカメラ4aは、図3に示すように、例えば運転席の前方に位置するインストルメントパネルPの上部に設けられる2つのカメラからなる。ステレオカメラ4aは、内部パラメータおよび相対的な位置関係は既知であり、互いに同期した状態で同一の検出対象となる目を含む運転者の顔画像を撮像し、前記画像解析回路に出力する。前記画像解析回路は、前記顔画像に基づいて所定のアルゴリズムを用いて視線(眼球)の移動状態を検出し、視線方向を算出することができる。前記画像解析回路は、例えば、ステレオカメラ4aの撮像に基づいて、運転者の目を特徴部分の3次元座標を算出し、この座標より算出される眼球中心座標と別に算出される黒目中心座標とを通過する線を視線として視線方向を算出し、この視線方向を含む視線データ(検出信号)を操作信号として制御手段5に出力する。   The line-of-sight detection means 4 detects the direction of the line of sight of the driver sitting in the driver's seat of the vehicle A, and includes, for example, a stereo camera 4a and an image analysis circuit. As shown in FIG. 3, the stereo camera 4a is composed of, for example, two cameras provided on the top of the instrument panel P located in front of the driver's seat. The stereo camera 4a has known internal parameters and relative positional relationships, and captures a driver's face image including eyes that are the same detection target in synchronization with each other, and outputs the image to the image analysis circuit. The image analysis circuit can detect a moving state of the line of sight (eyeball) using a predetermined algorithm based on the face image and calculate a line-of-sight direction. The image analysis circuit calculates, for example, the three-dimensional coordinates of the characteristic part of the driver's eyes based on the imaging of the stereo camera 4a, and the black eye center coordinates calculated separately from the eyeball center coordinates calculated from the coordinates. The line-of-sight direction is calculated with the line passing through the line of sight as the line of sight, and line-of-sight data (detection signal) including this line-of-sight direction is output to the control means 5 as an operation signal.

制御手段5は、画像処理回路と、制御回路と、表示用駆動回路と、を備えている。前記画像処理回路は、周辺撮像手段1によって撮像されて得た前記周辺情報を入力し、表示手段6に表示するための周辺画像として後述する左側方画像及び右側方画像を生成するものである。前記制御回路は、マイクロコンピュータから構成されており、ROM,RAM,CPU及び入出力インターフェイス回路を有するものであり、前記画像処理回路にて生成された前記左側方画像あるいは前記右側方画像を操作手段である操作スイッチ2,方向指示器3あるいは視線検出手段4からの操作信号の入力に応じて表示手段6に選択的に表示させるものである。前記表示用駆動回路は、前記制御回路による制御信号に基づいて、表示手段6に所定の表示を行わせるための駆動制御回路である。   The control means 5 includes an image processing circuit, a control circuit, and a display drive circuit. The image processing circuit is configured to input the peripheral information obtained by imaging by the peripheral imaging unit 1 and generate a left side image and a right side image, which will be described later, as peripheral images to be displayed on the display unit 6. The control circuit is composed of a microcomputer and includes a ROM, a RAM, a CPU, and an input / output interface circuit, and operates the left side image or the right side image generated by the image processing circuit. The display means 6 is selectively displayed in response to the input of an operation signal from the operation switch 2, the direction indicator 3 or the line-of-sight detection means 4. The display drive circuit is a drive control circuit for causing the display means 6 to perform a predetermined display based on a control signal from the control circuit.

表示手段6は、車両AのダッシュボードD内に配設されTFT型の液晶表示パネルや有機ELパネルからなる左側表示器6a及び右側表示器6bを有するものであり、左側,右側表示器6a,6bの表示光をフロントガラス(反射手段)Wにて運転者に向けて反射して虚像表示をなすいわゆるヘッドアップディスプレイ装置である。なお、表示手段6は、反射手段としてフロントガラスWにコンバイナ層を形成するものであってもよい。左側表示器6aの表示光はフロントガラスWの運転席側から見て左端部側に位置する左側反射部W1にて反射され、また、右側表示器6bの表示光はフロントガラスWの運転席側から見て右端部側に位置する右側反射部W2にて反射される。すなわち、表示手段6は、左側表示器6aと左側反射部W1とによって図4に示す左側方画像10を表示する左側表示部を構成しており、左側方画像10は車室前方の左端側に虚像表示される。また、表示手段6は、右側表示器6bと右側反射部W2とによって図5に示す右側方画像11を表示する右側表示部を構成しており、右側方画像11は車室前方の右端側に虚像表示される。左側表示器6aによって表示される左側方画像10は、図4に示すように、周辺撮像手段1によって得られる周辺情報に基づいた車両Aの左側方の風景を示すものである。左側方画像10は、車両Aを撮像した車両画像10aを含む車両Aの左側方及び左後方の路面の画像からなる。また、左側表示器6aは、左側方画像10に車両Aからの距離を示す距離ライン10bを重畳させて表示する。右側表示器6bによって表示される右側方画像11は、図5に示すように、周辺撮像手段1によって得られる周辺情報に基づいた車両Aの右側方の風景を示すものである。右側方画像11は、車両Aを撮像した車両画像11aを含む車両Aの右側方及び右後方の路面の画像からなる。また、右側表示器6aは、右側方画像11に車両Aからの距離を示す距離ライン11bを重畳させて表示する。制御手段5は、周辺撮像手段1によって得られる周辺情報を運転者に視認しやすい明るさやコントラストなどに補正を行いつつ描画処理することによって、表示手段6に表示させるべく左側方画像10及び右側方画像11を生成し、表示手段6に出力する。左側方画像10及び右側方画像11の表示によって、車両Aの運転者は、車両Aの右左折時あるいは車線変更時に死角となる車両Aの左側方領域B及び右側方領域Cの状況を監視することができる。   The display means 6 includes a left side display 6a and a right side display 6b which are disposed in the dashboard D of the vehicle A and are made of a TFT type liquid crystal display panel or an organic EL panel. This is a so-called head-up display device that reflects the display light 6b toward the driver by the windshield (reflecting means) W to display a virtual image. In addition, the display means 6 may form a combiner layer in the windshield W as a reflection means. The display light of the left indicator 6a is reflected by the left reflecting portion W1 positioned on the left end side when viewed from the driver seat side of the windshield W, and the display light of the right indicator 6b is reflected on the driver seat side of the windshield W. Is reflected by the right reflecting portion W2 located on the right end side when viewed from the side. That is, the display means 6 comprises the left display part which displays the left side image 10 shown in FIG. 4 by the left side indicator 6a and the left side reflection part W1, and the left side image 10 is on the left end side in front of the passenger compartment. A virtual image is displayed. Moreover, the display means 6 comprises the right side display part which displays the right side image 11 shown in FIG. 5 by the right side indicator 6b and the right side reflection part W2, and the right side image 11 is on the right end side ahead of the passenger compartment. A virtual image is displayed. The left side image 10 displayed by the left side display 6a shows a landscape on the left side of the vehicle A based on the peripheral information obtained by the peripheral imaging means 1, as shown in FIG. The left side image 10 includes images of the road surface on the left side and the left rear side of the vehicle A including the vehicle image 10a obtained by imaging the vehicle A. The left display 6a displays the left side image 10 with a distance line 10b indicating the distance from the vehicle A superimposed thereon. The right side image 11 displayed by the right side display 6b shows a landscape on the right side of the vehicle A based on the peripheral information obtained by the peripheral imaging means 1, as shown in FIG. The right side image 11 includes images of the road surface on the right side and the right rear side of the vehicle A including the vehicle image 11a obtained by imaging the vehicle A. Further, the right side display 6a displays the right side image 11 with a distance line 11b indicating the distance from the vehicle A superimposed thereon. The control means 5 renders the peripheral information obtained by the peripheral imaging means 1 while correcting the brightness, contrast, etc. that are easily visible to the driver, so that the left side image 10 and the right side image are displayed on the display means 6. An image 11 is generated and output to the display means 6. By displaying the left side image 10 and the right side image 11, the driver of the vehicle A monitors the situation of the left side region B and the right side region C of the vehicle A that becomes a blind spot when the vehicle A turns right or left or changes lanes. be able to.

次に、制御手段5による左側方画像10及び右側方画像11の表示選択について説明する。   Next, display selection of the left side image 10 and the right side image 11 by the control means 5 will be described.

制御手段5は、操作スイッチ2の所定操作によって左側方画像10あるいは右側方画像11の表示選択を行う。すなわち、制御手段5は、操作スイッチ2から左側方画像10の表示選択を示す操作信号を入力すると、左側表示器6aに駆動信号を出力し、左側表示器6aに左側方画像10を表示させる。また、制御手段5は、操作スイッチ2から右側方画像11の表示選択を示す操作信号が入力されると、右側表示器6bに駆動信号を出力し、右側表示器6bに右側方画像11を表示させる。なお、操作スイッチ2の所定操作によって、左側方画像10と右側方画像11とが同時に表示されるものであっても良い。   The control means 5 performs display selection of the left side image 10 or the right side image 11 by a predetermined operation of the operation switch 2. That is, when an operation signal indicating display selection of the left side image 10 is input from the operation switch 2, the control unit 5 outputs a drive signal to the left side display 6 a and causes the left side display 6 a to display the left side image 10. Further, when an operation signal indicating display selection of the right side image 11 is input from the operation switch 2, the control unit 5 outputs a drive signal to the right side display 6b and displays the right side image 11 on the right side display 6b. Let Note that the left side image 10 and the right side image 11 may be displayed simultaneously by a predetermined operation of the operation switch 2.

また、制御手段5は、方向指示器3の前記レバースイッチの左方あるいは右方指示操作に応じて左側方画像10あるいは右側方画像11の表示選択を行う。すなわち、制御手段5は、方向指示器3から前記左方指示信号を入力すると、左側表示器6aに駆動信号を出力し、左側表示器6aに左側方画像10を表示させる。なお、このとき、右側表示器6bは非表示とされる。また、制御手段5は、方向指示器3から前記右方指示信号を入力すると、右側表示器6bに駆動信号を出力し、右側表示器6bに右側方画像11を表示させる。なお、このとき、左側表示器6aは非表示とされる。   Further, the control means 5 performs display selection of the left side image 10 or the right side image 11 in accordance with the left or right instruction operation of the lever switch of the direction indicator 3. That is, when the left direction signal is input from the direction indicator 3, the control unit 5 outputs a drive signal to the left side display 6a and causes the left side display 6a to display the left side image 10. At this time, the right display 6b is not displayed. Further, when the control unit 5 receives the right direction signal from the direction indicator 3, the control unit 5 outputs a drive signal to the right side display 6b, and displays the right side image 11 on the right side display 6b. At this time, the left display 6a is not displayed.

また、制御手段5は、車両Aの運転者の視線方向に応じて左側方画像10あるいは右側方画像11の表示選択を行う。すなわち、制御手段5は、視線検出手段4から前記視線データを入力すると、前記視線データに基づいて運転者の視線が車両A前方の左側領域,車両A前方の中央領域,車両A前方の右側領域のいずれに向けられているかを判定する。なお、例えば、前記中央領域としてはフロントガラスWにおいて車両Aが直進している場合に運転者が前方の道路を視認するべく視線を向ける領域が設定され、前記左側領域及び前記右側領域としては、ぞれぞれ前記中央領域よりも運転席側から見て左側及び右側の領域が設定される。制御手段5は、前記視線データに基づいて運転者の視線が前記中央領域に向けられていると判定される場合は、左側表示器6a及び右側表示器6bを非表示とする。また、制御手段5は、前記視線データに基づいて運転者の視線が所定時間以上前記左側領域に向けられていると判定される場合は、左側表示器6aに駆動信号を出力し、左側表示器6aに左側方画像10を表示させる。なお、このとき、右側表示器6bは非表示とされる。また、制御手段5は、前記視線データに基づいて運転者の視線が所定時間以上前記右側領域に向けられていると判定される場合は、右側表示器6bに駆動信号を出力し、右側表示器6bに右側方画像11を表示させる。なお、このとき、左側表示器6aは非表示とされる。   Further, the control means 5 performs display selection of the left side image 10 or the right side image 11 according to the line-of-sight direction of the driver of the vehicle A. That is, when the control unit 5 inputs the line-of-sight data from the line-of-sight detection unit 4, the driver's line of sight is based on the line-of-sight data in the left side area in front of the vehicle A, the central area in front of the vehicle A, and the right side area in front of the vehicle A. It is determined to which one of the For example, as the central region, when the vehicle A is traveling straight in the windshield W, a region in which the driver turns his / her line of sight to view the road ahead is set, and as the left region and the right region, The left and right areas are set as viewed from the driver's seat side than the central area. When it is determined that the driver's line of sight is directed to the central area based on the line-of-sight data, the control unit 5 hides the left side display 6a and the right side display 6b. Further, when it is determined that the driver's line of sight is directed to the left area for a predetermined time or more based on the line-of-sight data, the control means 5 outputs a drive signal to the left display 6a, and the left display The left side image 10 is displayed on 6a. At this time, the right display 6b is not displayed. In addition, when it is determined that the driver's line of sight is directed to the right region for a predetermined time or more based on the line-of-sight data, the control unit 5 outputs a drive signal to the right side display 6b, and the right side display The right side image 11 is displayed on 6b. At this time, the left display 6a is not displayed.

また、制御手段5は、周辺撮像手段1によって得られる前記周辺情報に基づいて、車両Aに接近する対象物(他車両や歩行者等)が撮像される場合に、左側方画像10あるいは右側方画像11を表示させるものである。例えば、制御手段5は、過去に生成された左側方画像10及び右側方画像11と新たに生成される左側方画像10及び右側方画像11とを比較し、最新の画像に含まれる対象物を示す領域が過去の画像に含まれる同一の対象物を示す領域と比較して所定値以上拡大している場合に、前記対象物が車両Aに接近していると判定する。制御手段5は、前記対象物が左側方画像10に含まれる場合、すなわち、周辺撮像手段1によって車両Aの左側方から接近する前記対象物が撮像される場合に左側表示器6aに駆動信号を出力し、左側表示器6aに左側方画像10を表示させる。また、制御手段5は、前記対象物が右側方画像11に含まれる場合、すなわち、周辺撮像手段1によって車両Aの右側方から接近する前記対象物が撮像される場合に右側表示器6bに駆動信号を出力し、右側表示器6bに右側方画像11を表示させる。なお、前記対象物の接近に応じて左側方画像10あるいは右側方画像11を表示させる場合、左側方画像10あるいは右側方画像11の周辺を囲む赤色の枠状マークを点滅表示させる等によって運転者に前記対象物の接近を報知するべく警告表示することが望ましい。また、スピーカ等の音声出力手段を備え、左側方画像10あるいは右側方画像11の表示に伴って警告音を出力して運転者に前記対象物の接近を報知するものであってもよい。   Further, the control means 5 is configured to capture the left side image 10 or the right side image when an object (such as another vehicle or a pedestrian) approaching the vehicle A is imaged based on the peripheral information obtained by the peripheral imaging means 1. The image 11 is displayed. For example, the control unit 5 compares the left side image 10 and the right side image 11 generated in the past with the newly generated left side image 10 and the right side image 11, and selects the object included in the latest image. When the area to be shown is enlarged by a predetermined value or more compared with the area showing the same object included in the past image, it is determined that the object is approaching the vehicle A. When the object is included in the left side image 10, that is, when the object approaching from the left side of the vehicle A is imaged by the peripheral imaging unit 1, the control unit 5 sends a drive signal to the left display 6a. The left side image 10 is displayed on the left side display 6a. Further, the control means 5 is driven to the right display 6b when the object is included in the right side image 11, that is, when the object approaching from the right side of the vehicle A is imaged by the peripheral imaging means 1. A signal is output and the right side image 11 is displayed on the right side display 6b. When the left side image 10 or the right side image 11 is displayed in response to the approach of the object, a red frame mark surrounding the left side image 10 or the right side image 11 is flashed and displayed. It is desirable to display a warning to notify the approach of the object. Further, an audio output means such as a speaker may be provided, and a warning sound may be output along with the display of the left side image 10 or the right side image 11 to notify the driver of the approach of the object.

かかる車両用監視装置は、車両Aの左右側方を少なくとも撮像する周辺撮像手段1と、前記車室前方の左端側に設けられる前記左側表示部と前記車室前方の右端側に設けられる前記右側表示部とを備え前記周辺撮像手段によって得られる前記周辺画像を左側,右側表示器6a,6bに表示する表示手段6と、前記周辺画像の選択を行うための操作手段である操作スイッチ2,方向指示器3及び視線検出手段4と、前記操作手段からの前記操作信号に応じて、表示手段6の前記左側表示部に前記周辺画像として車両Aの左側方を示す左側方画像10を表示させる、あるいは、表示手段6の前記右側表示部に前記周辺画像として車両Aの右側方を示す右側方画像11を表示させる制御手段5と、を備えてなるものである。また、表示手段6は、表示光を発する左側,右側表示器6a,6bと、前記表示光を運転者に向けて反射するフロントガラスWと、を備え、左側表示器6aとフロントガラスWの左側反射部W1とで前記左側表示部を構成し、右側表示器6bとフロントガラスの右側反射部W2とで前記右側表示部を構成してなるものである。   The vehicle monitoring apparatus includes a peripheral imaging unit 1 that captures at least the left and right sides of the vehicle A, the left display portion provided on the left end side in front of the vehicle compartment, and the right side provided on the right end side in front of the vehicle compartment. A display unit 6 that includes a display unit and displays the peripheral image obtained by the peripheral imaging unit on the left and right display units 6a and 6b; In response to the operation signal from the indicator 3 and the line-of-sight detection means 4 and the operation means, a left side image 10 indicating the left side of the vehicle A is displayed on the left display portion of the display means 6 as the peripheral image. Or the control means 5 which displays the right side image 11 which shows the right side of the vehicle A as the said peripheral image on the said right side display part of the display means 6 is provided. The display means 6 includes left and right indicators 6a and 6b that emit display light, and a windshield W that reflects the display light toward the driver, and the left indicator 6a and the left side of the windshield W. The left display unit is constituted by the reflection part W1, and the right display part is constituted by the right side display 6b and the right reflection part W2 of the windshield.

したがって、車両Aが右左折あるいは進路変更する際に運転者の視線が車両A前方の左側あるいは右側に向けられる場合であっても、車両Aの移動方向の死角を示す周辺画像である左側方画像10及び右側方画像11はそれぞれ前記車室前方の左端側及び右端側にて表示されるため、運転者は少ない視線移動で車両Aの移動方向の死角の状況を示す前記周辺画像を視認することが可能となる。   Therefore, even when the driver's line of sight is directed to the left side or the right side ahead of the vehicle A when the vehicle A turns right or left or changes the course, the left side image that is a peripheral image showing the blind spot in the moving direction of the vehicle A 10 and the right side image 11 are respectively displayed on the left end side and the right end side in front of the passenger compartment, so that the driver visually recognizes the surrounding image showing the blind spot in the moving direction of the vehicle A with a small line of sight movement. Is possible.

また、前記操作手段として車両Aの方向指示器3を備え、制御手段5によって、方向指示器から3前記操作信号として前記左方指示信号を入力すると表示手段6の左側表示器6aに左側方画像10を表示させ、方向指示器3から前記操作信号として前記右方指示信号を入力すると表示手段6の右側表示器6bに右側方画像11を表示させることによって、特別な操作を行うことなく、車両Aが右左折あるいは進路変更する際に、車両Aの移動方向の死角を示す前記周辺画像を表示させることが可能となる。   Further, when the operation means includes the direction indicator 3 of the vehicle A and the control means 5 inputs the left instruction signal as the operation signal, 3 from the direction indicator, the left side image 6a of the display means 6 is displayed on the left side image 6a. 10 is displayed, and when the right direction instruction signal is input from the direction indicator 3 as the operation signal, the right side image 11 is displayed on the right side display 6b of the display means 6, so that the vehicle can be operated without any special operation. When A turns right or left or changes course, the surrounding image showing the blind spot in the moving direction of the vehicle A can be displayed.

また、前記操作手段として運転者の視線方向を検出する視線検出手段4を備え、制御手段5によって、視線検出手段4から前記操作信号として運転者の視線方向を示す前記視線データを入力し、前記視線データから運転者が車両A前方の左側を見ていると判定される場合は表示手段6の左側表示器6aに左側方画像10を表示させ、前記視線データから運転者が車両A前方の右側を見ていると判定される場合は表示手段6の右側表示器6bに右側方画像11を表示させることにより、特別な操作を行うことなく、車両Aが右左折あるいは進路変更する際に、車両Aの移動方向の死角を示す前記周辺画像を表示させることが可能となる。   In addition, the operation unit includes a line-of-sight detection unit 4 that detects a driver's line-of-sight direction, and the control unit 5 inputs the line-of-sight data indicating the driver's line-of-sight direction as the operation signal from the line-of-sight detection unit 4. When it is determined from the line-of-sight data that the driver is looking at the left side in front of the vehicle A, the left side image 10a is displayed on the left side display 6a of the display means 6, and the driver displays the right side in front of the vehicle A from the line-of-sight data. When the vehicle A turns right or left or changes its course without performing any special operation, the right side image 11 is displayed on the right side display 6b of the display means 6. It is possible to display the peripheral image indicating the blind spot in the moving direction of A.

また、制御手段5によって、周辺撮像手段1によって車両Aの左側方から接近する前記対象物が撮像される場合に左側表示器6aに左側方画像10を表示させ、周辺撮像手段1によって車両Aの右側方から接近する前記対象物が撮像される場合に右側表示器6bに右側方画像11を表示させることにより、運転者に車両Aの死角方向から接近する前記対象物を報知することが可能となり、車両用監視装置としての商品性を向上させることができる。   Further, when the peripheral imaging means 1 captures the object approaching from the left side of the vehicle A by the control means 5, the left side image 10 is displayed on the left display 6a, and the peripheral imaging means 1 displays the vehicle A of the vehicle A. When the target object approaching from the right side is imaged, the right side image 6b is displayed on the right side display 6b, whereby the driver can be notified of the target object approaching from the blind spot direction of the vehicle A. The merchantability as a vehicle monitoring device can be improved.

なお、本発明は、本発明の実施の形態に限定されるものではなく、その構成は同様の効果が得られるものであればよい。本発明の実施の形態では、表示手段6として、表示光を発する左側,右側表示器6a,6bと、この表示光を運転者の方向へ虚像として投射する反射手段であるフロントガラスWとを少なくとも備えたヘッドアップディスプレイ装置を用いたものを例に上げて説明したが、表示手段として液晶表示パネルや有機ELパネルからなる表示器を直視するものを適用してもよい。   Note that the present invention is not limited to the embodiment of the present invention, and the configuration may be any as long as the same effect can be obtained. In the embodiment of the present invention, the display means 6 includes at least left and right side indicators 6a and 6b that emit display light, and a windshield W that is reflection means that projects the display light as a virtual image toward the driver. Although an example using a head-up display device provided as an example has been described, a display unit including a liquid crystal display panel or an organic EL panel may be applied as a display unit.

本発明の実施の形態である車両用監視装置のブロック図。1 is a block diagram of a vehicle monitoring apparatus according to an embodiment of the present invention. 同上の車両用監視装置の撮像範囲を示す図。The figure which shows the imaging range of the monitoring apparatus for vehicles same as the above. 同上の車両用監視装置が備えられる車両の車室前方を示す図。The figure which shows the vehicle interior front of the vehicle provided with the monitoring apparatus for vehicles same as the above. 同上の車両用監視装置の表示例を示す図。The figure which shows the example of a display of the monitoring apparatus for vehicles same as the above. 同上の車両用監視装置の表示例を示す図。The figure which shows the example of a display of the monitoring apparatus for vehicles same as the above.

符号の説明Explanation of symbols

1 周辺撮像手段
2 操作スイッチ(操作手段)
3 方向指示器(操作手段)
4 視線検出手段(操作手段)
5 制御手段
6 表示手段
6a 左側表示器
6b 右側表示器
10 左側方画像
10a 車両画像
10b 距離ライン
11 右側方画像
11a 車両画像
11b 距離ライン
A 車両
B 左側方領域
C 右側方領域
W フロントガラス(反射手段)
W1 左側反射部
W2 右側反射部
1 Peripheral imaging means 2 Operation switch (operating means)
3. Direction indicator (operation means)
4 Line-of-sight detection means (operation means)
5 Control means 6 Display means 6a Left side display 6b Right side display 10 Left side image 10a Vehicle image 10b Distance line 11 Right side image 11a Vehicle image 11b Distance line A Vehicle B Left side area C Right side area W Windshield (reflection means )
W1 Left reflective part W2 Right reflective part

Claims (6)

車両の左右側方を少なくとも撮像する周辺撮像手段と、
車室前方の左端側に設けられる左側表示部と前記車室前方の右端側に設けられる右側表示部とを備え前記周辺撮像手段によって得られる周辺画像を前記左側,右側表示部に表示する表示手段と、
前記周辺画像の選択を行うための操作手段と、
前記操作手段からの操作信号に応じて、前記表示手段の前記左側表示部に前記周辺画像として前記車両の左側方を示す左側方画像を表示させる、あるいは、前記表示手段の前記右側表示部に前記周辺画像として前記車両の右側方を示す右側方画像を表示させる制御手段と、を備えてなることを特徴とする車両用監視装置。
Peripheral imaging means for imaging at least the left and right sides of the vehicle;
Display means for displaying a peripheral image obtained by the peripheral imaging means on the left and right display parts, comprising a left display part provided on the left end side in front of the passenger compartment and a right display part provided on the right end side in front of the passenger compartment. When,
Operating means for selecting the peripheral image;
In response to an operation signal from the operation means, a left side image showing the left side of the vehicle is displayed as the peripheral image on the left display portion of the display means, or the right display portion of the display means is And a control means for displaying a right side image showing the right side of the vehicle as a peripheral image.
前記操作手段は前記車両の方向指示器からなり、前記制御手段は、前記方向指示器から前記操作信号として左方指示信号を入力すると前記表示手段の前記左側表示部に前記左側方画像を表示させ、前記方向指示器から前記操作信号として右方指示信号を入力すると前記表示手段の前記右側表示部に前記右側方画像を表示させてなることを特徴とする請求項1に記載の車両用監視装置。 The operation means comprises a direction indicator of the vehicle, and the control means causes the left side display portion of the display means to display the left side image when a left direction instruction signal is input as the operation signal from the direction indicator. 2. The vehicle monitoring apparatus according to claim 1, wherein when the right direction instruction signal is inputted as the operation signal from the direction indicator, the right side image is displayed on the right side display portion of the display means. . 前記操作手段として運転者の視線方向を検出する視線検出手段を備え、前記制御手段は、前記視線検出手段から前記操作信号として前記運転者の視線方向を示す検出信号を入力し、前記検出信号から前記運転者が前記車両前方の左側を見ていると判定される場合は前記表示手段の前記左側表示部に前記左側方画像を表示させ、前記検出信号から前記運転者が前記車両前方の右側を見ていると判定される場合は前記表示手段の前記右側表示部に前記右側方画像を表示させてなることを特徴とする請求項1に記載の車両用監視装置。 The operation unit includes a gaze detection unit that detects a gaze direction of the driver, and the control unit inputs a detection signal indicating the gaze direction of the driver as the operation signal from the gaze detection unit, and from the detection signal When it is determined that the driver is looking at the left side in front of the vehicle, the left side image is displayed on the left side display portion of the display means, and the driver shows the right side in front of the vehicle from the detection signal. The vehicle monitoring device according to claim 1, wherein when it is determined that the image is viewed, the right side image is displayed on the right side display unit of the display unit. 前記制御手段は、前記周辺撮像手段によって前記車両の左側方から接近する対象物が撮像される場合に前記左側表示部に前記左側方画像を表示させ、前記周辺撮像手段によって前記車両の右側方から接近する対象物が撮像される場合に前記右側表示部に前記右側方画像を表示させてなることを特徴とする請求項1に記載の車両用監視装置。 The control means displays the left side image on the left display unit when an object approaching from the left side of the vehicle is imaged by the peripheral imaging means, and the peripheral imaging means displays the left side image from the right side of the vehicle. The vehicle monitoring apparatus according to claim 1, wherein the right side image is displayed on the right side display unit when an approaching object is imaged. 前記表示手段は、表示光を発する表示器と、前記表示光を運転者に向けて反射する反射手段と、を備えてなることを特徴とする請求項1に記載の車両用監視装置。 2. The vehicle monitoring apparatus according to claim 1, wherein the display means includes a display that emits display light, and reflection means that reflects the display light toward a driver. 前記反射手段は、前記車両のフロントガラスからなる、あるいは前記車両のフロントガラスに形成されてなることを特徴とする請求項5に記載の車両用監視装置。 6. The vehicle monitoring device according to claim 5, wherein the reflecting means is made of a windshield of the vehicle or formed on the windshield of the vehicle.
JP2005090994A 2005-03-28 2005-03-28 Vehicle monitoring device Expired - Fee Related JP4720979B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005090994A JP4720979B2 (en) 2005-03-28 2005-03-28 Vehicle monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005090994A JP4720979B2 (en) 2005-03-28 2005-03-28 Vehicle monitoring device

Publications (2)

Publication Number Publication Date
JP2006273002A true JP2006273002A (en) 2006-10-12
JP4720979B2 JP4720979B2 (en) 2011-07-13

Family

ID=37208167

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005090994A Expired - Fee Related JP4720979B2 (en) 2005-03-28 2005-03-28 Vehicle monitoring device

Country Status (1)

Country Link
JP (1) JP4720979B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010260483A (en) * 2009-05-08 2010-11-18 Alpine Electronics Inc Vehicle driving support device
WO2015159500A1 (en) * 2014-04-16 2015-10-22 株式会社デンソー Head-up display device
JP2016157336A (en) * 2015-02-25 2016-09-01 キヤノン株式会社 Image processing apparatus, image processing method, and program
CN111216632A (en) * 2018-11-26 2020-06-02 本田技研工业株式会社 Image display device, control method thereof, and storage medium
JP2020088606A (en) * 2018-11-26 2020-06-04 本田技研工業株式会社 Video display device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06227317A (en) * 1993-02-08 1994-08-16 Toyota Motor Corp Car-mounting monitor
JPH07223487A (en) * 1994-02-14 1995-08-22 Mitsubishi Motors Corp Situation display device for vehicle
JP2000071877A (en) * 1998-08-26 2000-03-07 Nissan Motor Co Ltd Vehicular display device
JP2004061259A (en) * 2002-07-29 2004-02-26 Mazda Motor Corp System, method, and program for providing information
JP2005136561A (en) * 2003-10-29 2005-05-26 Denso Corp Vehicle peripheral picture display device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06227317A (en) * 1993-02-08 1994-08-16 Toyota Motor Corp Car-mounting monitor
JPH07223487A (en) * 1994-02-14 1995-08-22 Mitsubishi Motors Corp Situation display device for vehicle
JP2000071877A (en) * 1998-08-26 2000-03-07 Nissan Motor Co Ltd Vehicular display device
JP2004061259A (en) * 2002-07-29 2004-02-26 Mazda Motor Corp System, method, and program for providing information
JP2005136561A (en) * 2003-10-29 2005-05-26 Denso Corp Vehicle peripheral picture display device

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010260483A (en) * 2009-05-08 2010-11-18 Alpine Electronics Inc Vehicle driving support device
WO2015159500A1 (en) * 2014-04-16 2015-10-22 株式会社デンソー Head-up display device
JP2016157336A (en) * 2015-02-25 2016-09-01 キヤノン株式会社 Image processing apparatus, image processing method, and program
CN111216632A (en) * 2018-11-26 2020-06-02 本田技研工业株式会社 Image display device, control method thereof, and storage medium
JP2020088606A (en) * 2018-11-26 2020-06-04 本田技研工業株式会社 Video display device
JP7128096B2 (en) 2018-11-26 2022-08-30 本田技研工業株式会社 Video display device

Also Published As

Publication number Publication date
JP4720979B2 (en) 2011-07-13

Similar Documents

Publication Publication Date Title
US11479177B2 (en) Vehicle display device, display control method, and rearview monitoring system
JP6413207B2 (en) Vehicle display device
JP4699054B2 (en) Vehicle perimeter monitoring device
US10272780B2 (en) Information display system and information display device
JP5310017B2 (en) Vehicle display device and vehicle periphery visual display system including the same
JP6686886B2 (en) Signal processing device, signal processing method, and monitoring system
JP4780385B2 (en) Perimeter monitoring system
WO2015182026A1 (en) Head-up display device
JP2018157403A (en) On-vehicle display device, control method for on-vehicle display device, and control program for on-vehicle display device
JP2018156175A (en) Display system in vehicle and method for controlling display system in vehicle
JP5093611B2 (en) Vehicle periphery confirmation device
JP2009137341A (en) Head-up display device for vehicle
CN107298050B (en) Image display device
JP4970379B2 (en) Vehicle display device
WO2018159017A1 (en) Vehicle display control device, vehicle display system, vehicle display control method and program
WO2013115241A1 (en) Device for alerting vehicle driver and method for same
JP2018154154A (en) Vehicular display system and method of controlling vehicular display system
US20150085117A1 (en) Driving assistance apparatus
US11220214B1 (en) Vehicle viewing system and method including electronic image displays for rearward viewing by a driver
JP4720979B2 (en) Vehicle monitoring device
JP5131152B2 (en) Visual support device
JP2008141574A (en) Viewing aid for vehicle
JP2017186008A (en) Information display system
JP2009073250A (en) Vehicle backsight display device
JP4857891B2 (en) Driving support device and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110309

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110322

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140415

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees