JP2008077354A - Operation supporting apparatus for vehicle - Google Patents

Operation supporting apparatus for vehicle Download PDF

Info

Publication number
JP2008077354A
JP2008077354A JP2006254948A JP2006254948A JP2008077354A JP 2008077354 A JP2008077354 A JP 2008077354A JP 2006254948 A JP2006254948 A JP 2006254948A JP 2006254948 A JP2006254948 A JP 2006254948A JP 2008077354 A JP2008077354 A JP 2008077354A
Authority
JP
Japan
Prior art keywords
vehicle
display
image
driver
curved road
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006254948A
Other languages
Japanese (ja)
Other versions
JP4946300B2 (en
Inventor
Tadayuki Niibe
忠幸 新部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2006254948A priority Critical patent/JP4946300B2/en
Publication of JP2008077354A publication Critical patent/JP2008077354A/en
Application granted granted Critical
Publication of JP4946300B2 publication Critical patent/JP4946300B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/202Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used displaying a blind spot scene on the vehicle part responsible for the blind spot

Landscapes

  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an operation supporting apparatus for vehicle allowing a driver to quickly grasp a status of a driving path. <P>SOLUTION: The apparatus comprises imaging means for imaging scenery outside the vehicle to be a dead angle from a driver caused by existence of a front pillar of the vehicle, displaying means provided at the front pillar inner the vehicle and for displaying an image in the scenery outside of the vehicle which is imaged by the imaging means, determining means for determining whether or not the vehicle is driving in a curved path, and display control means for making the display means display at least one of an enhanced display image of the scenery outside the vehicle which emphasizes a distant portion of the curved path included in the image of the scenery outside the vehicle or a periphery portion of the curved path when the vehicle is determined as driving in the curved path by the determining means. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明はドライバの運転を支援する車輌用運転支援装置に関する。   The present invention relates to a vehicle driving support device that supports driving of a driver.

車輌のフロントピラーは車体の剛性確保上必要とされる一方で、ドライバの視界を狭める要因となっており、特に、カーブ路を走行する際に車輌の進行方向がフロントピラーの存在によって死角となり易い。そこで、例えば特許文献1には車外風景をカメラにより撮影し、フロントピラーの車内側に設けた画像表示器に、ドライバの死角となる車外風景の画像を表示する技術が開示されている。この構成によれば、ドライバはフロントピラーの存在により死角となる車外風景を画像表示器を通して視認することができる。   While the front pillar of the vehicle is necessary to ensure the rigidity of the vehicle body, it is a factor that narrows the driver's field of view. In particular, when traveling on a curved road, the traveling direction of the vehicle tends to be a blind spot due to the presence of the front pillar. . Therefore, for example, Patent Document 1 discloses a technique for photographing a scenery outside the vehicle with a camera and displaying an image of the scenery outside the vehicle, which becomes a blind spot of the driver, on an image display provided inside the front pillar. According to this configuration, the driver can visually recognize the scenery outside the vehicle that becomes a blind spot due to the presence of the front pillar through the image display.

特開2004−64131号公報JP 2004-64131 A

ここで、車輌がカーブ路に差し掛かり、ドライバの視線がフロントウインドウからフロントピラーへと移る際、フロントウインド越しに見える車外風景(実風景)と、フロントピラーに設けた画像表示器から見える車外風景(画像)とを正確に連続させることは困難であり、また、実風景と電子画像との相違もある。このため、フロントピラーの存在により死角となる車外風景を単に画像表示するのみでは、ドライバが瞬時に走行路の状況を把握することは困難である。   Here, when the vehicle approaches a curved road and the driver's line of sight moves from the front window to the front pillar, the outside scenery (actual scenery) seen through the front window and the outside scenery seen from the image display provided on the front pillar ( Image) is difficult to accurately continue, and there is also a difference between an actual landscape and an electronic image. For this reason, it is difficult for the driver to instantly grasp the condition of the travel path simply by displaying an image of the scenery outside the vehicle that becomes a blind spot due to the presence of the front pillar.

従って、本発明の目的は、ドライバがより迅速に走行路の状況を把握できる車輌用運転支援装置を提供することにある。   SUMMARY OF THE INVENTION Accordingly, an object of the present invention is to provide a vehicle driving support device that allows a driver to grasp the condition of a traveling path more quickly.

本発明は、カーブ路走行中においてドライバはカーブ路の遠方部分(カーブ路の出口側)か、或いは、カーブ路の周縁を見ている場合が多いという発想に基づくものであり、本発明によれば、車輌のフロントピラーの存在によってドライバから死角となる車外風景を撮影する撮影手段と、車内側において前記フロントピラーに設けられ、前記撮影手段により撮影された車外風景の画像を表示する表示手段と、車輌がカーブ路を走行中か否かを判定する判定手段と、前記判定手段により車輌がカーブ路を走行中と判定された場合に、前記車外風景の画像に含まれる前記カーブ路の遠方部分、又は、前記カーブ路の周縁、の少なくともいずれか一方を強調した、前記車外風景の強調表示画像を前記表示手段に表示させる表示制御手段と、を備えたことを特徴とする車輌用運転支援装置が提供される。   The present invention is based on the idea that the driver is often looking at the far part of the curved road (the exit side of the curved road) or the periphery of the curved road during traveling on the curved road. For example, photographing means for photographing a scenery outside the vehicle that becomes a blind spot from the driver due to the presence of the front pillar of the vehicle, and display means provided on the front pillar inside the vehicle for displaying an image of the scenery outside the vehicle photographed by the photographing means A determination means for determining whether or not the vehicle is traveling on a curved road, and a remote portion of the curved road included in the image of the outside scenery when the determination means determines that the vehicle is traveling on the curved road Or display control means for causing the display means to display a highlighted image of the scenery outside the vehicle, highlighting at least one of the periphery of the curved road. Vehicle driving support device is provided, wherein the door.

この構成によれば、前記車外風景の画像に含まれる前記カーブ路の遠方部分、又は、前記カーブ路の周縁、の少なくともいずれか一方が強調されるので、ドライバは一目で進行すべき方向を認識できる。従って、ドライバがより迅速に走行路の状況を把握できる。   According to this configuration, since at least one of the far part of the curved road or the peripheral edge of the curved road included in the image of the outside scenery is emphasized, the driver recognizes the direction to proceed at a glance. it can. Therefore, the driver can grasp the condition of the traveling path more quickly.

本発明においては、更に、ドライバの視線の方向を検出する視線方向検出手段と、前記視線方向検出手段により検出されたドライバの視線方向に、前記フロントピラーが存在しているか否かを判定するフロントピラー判定手段と、を備え、前記表示制御手段は、前記フロントピラー判定手段によりドライバの視線方向に前記フロントピラーが存在していると判定された場合に、前記強調表示画像を前記表示手段に表示させる構成を採用することができる。   In the present invention, a gaze direction detecting means for detecting a gaze direction of the driver, and a front for determining whether or not the front pillar exists in the gaze direction of the driver detected by the gaze direction detecting means. Pillar display means, and the display control means displays the highlighted image on the display means when the front pillar determination means determines that the front pillar is present in the line-of-sight direction of the driver. The structure to be made can be adopted.

この構成によれば、ドライバが前記フロントピラーに隠れる車外風景を見ようとしている場合に前記強調表示画像が表示され、例えば、視線をフロントウインドに向けている場合には前記強調表示画像が表示されない。このため、ドライバの注意を不必要に前記表示手段に向けさせることがない。   According to this configuration, the highlighted image is displayed when the driver is looking at the scenery outside the vehicle hidden by the front pillar. For example, when the line of sight is directed to the front window, the highlighted image is not displayed. For this reason, the driver's attention is not unnecessarily directed to the display means.

また、本発明においては、前記強調表示画像は、前記遠方部分又は前記カーブ路の周縁の少なくともいずれか一方の表示色を変更した画像、又は、明るさを変更した画像である構成を採用することができる。   In the present invention, the highlighted image may be an image obtained by changing the display color of at least one of the distant portion or the periphery of the curved road, or an image obtained by changing the brightness. Can do.

この構成によれば、ドライバの注意を前記遠方部分又は前記カーブ路の周縁に向けさせ、ドライバがより迅速に走行路の状況を把握できる。   According to this configuration, the driver's attention is directed toward the far portion or the periphery of the curved road, so that the driver can grasp the situation of the traveling road more quickly.

また、本発明においては、前記表示制御手段は、ドライバに車輌走行上の注意を促す注意情報を前記表示手段に表示させることが可能であり、前記表示手段が前記車外風景の画像を表示している場合は前記注意情報を前記車外風景の画像に重ねて表示させる構成を採用することができる。   In the present invention, the display control means can cause the display means to display caution information that prompts the driver to pay attention on driving the vehicle, and the display means displays an image of the scenery outside the vehicle. In the case where the vehicle is present, a configuration in which the caution information is displayed on the image of the scenery outside the vehicle can be employed.

この構成によれば、前記注意情報を優先的に表示することで、より確実に車輌走行上の注意をドライバに促すことができる。   According to this configuration, the warning information can be preferentially displayed, so that the driver can be more surely cautioned about driving the vehicle.

また、本発明によれば、前記表示制御手段は、前記注意情報を前記表示手段に表示させる場合には、前記遠方部分及び前記カーブ路の周縁を強調せずに前記車外風景の画像を前記表示手段に表示させる構成を採用することができる。   Further, according to the present invention, when the display control unit displays the caution information on the display unit, the display control unit displays the image of the scenery outside the vehicle without emphasizing the distant portion and the periphery of the curved road. The structure displayed on the means can be adopted.

この構成によれば、更に確実に車輌走行上の注意をドライバに促すことができる。   According to this configuration, the driver can be more surely cautioned about vehicle travel.

また、本発明によれば、前記表示制御手段は、車輌の走行状況を示す走行状況情報を前記表示手段に表示させる構成を採用することができる。   Further, according to the present invention, the display control means can adopt a configuration in which the display means displays the driving status information indicating the driving status of the vehicle.

この構成によれば、車輌の走行状況をドライバに知らせることができる。   According to this configuration, it is possible to notify the driver of the traveling state of the vehicle.

以上述べた通り、本発明によれば、ドライバがより迅速に走行路の状況を把握できる車輌用運転支援装置を提供することができる。   As described above, according to the present invention, it is possible to provide a vehicle driving support device that allows a driver to more quickly grasp the condition of a traveling road.

図1は本発明の一実施形態に係る車輌用運転支援装置Aを搭載した車輌1の平面図である。車輌1は右ハンドルの乗用車(4ドアセダン車)であって、左右のフロントピラー(いわゆるAピラー)2a、2bと、フロントピラー2a及び2bによって左右が規定されるフロントウインドウ3と、運転席4とを備えている。   FIG. 1 is a plan view of a vehicle 1 equipped with a vehicle driving support apparatus A according to an embodiment of the present invention. The vehicle 1 is a right-hand drive passenger car (four-door sedan car), which includes left and right front pillars (so-called A pillars) 2a and 2b, a front window 3 whose left and right are defined by the front pillars 2a and 2b, a driver's seat 4, It has.

車輌用運転支援装置Aは、車輌1のフロントピラー2a及び2bの存在によってドライバから死角となる車外風景を撮影するカメラ10a、10bを備える。カメラ10a、10bは例えばCCDセンサであり、本実施形態の場合、カメラ10aはフロントピラー2aに、カメラ10bはフロントピラー2bに、それぞれ固定されている。   The vehicle driving support apparatus A includes cameras 10a and 10b that capture a scene outside the vehicle that becomes a blind spot from the driver due to the presence of the front pillars 2a and 2b of the vehicle 1. The cameras 10a and 10b are, for example, CCD sensors. In this embodiment, the camera 10a is fixed to the front pillar 2a, and the camera 10b is fixed to the front pillar 2b.

カメラ10a、10bの撮影範囲は、フロントピラー2a及び2bの存在によってドライバから死角になると推定される範囲に設定され、本実施形態の場合、一般的な体格のドライバが通常の着座姿勢であることを想定し、運転席4のシートのヘッドレスト中央近傍からフロントピラー2a、2bを通過する仮想的な水平線L1、L2を中心とした一定の範囲S1、S2に設定されている。   The shooting range of the cameras 10a and 10b is set to a range that is estimated to be a blind spot from the driver due to the presence of the front pillars 2a and 2b, and in this embodiment, a driver with a general physique is in a normal sitting posture. Is set to certain ranges S1 and S2 centered on virtual horizontal lines L1 and L2 passing through the front pillars 2a and 2b from the vicinity of the center of the headrest of the seat of the driver's seat 4.

本実施形態では、このようにカメラ10a、10bの撮影範囲を固定的なものとしているが、ドライバの視線を検出してカメラ10a、10bの撮影範囲を可変とする構成でもよい。また、車輌1の周囲の風景画像を撮影し、撮影画像の中からドライバから死角になる範囲を抽出する形式でもよい。   In the present embodiment, the shooting ranges of the cameras 10a and 10b are fixed as described above. However, a configuration in which the shooting ranges of the cameras 10a and 10b are made variable by detecting the line of sight of the driver may be used. Alternatively, a landscape image around the vehicle 1 may be photographed, and a range where a blind spot is extracted from the driver from the photographed image may be extracted.

次に、車輌用運転支援装置Aは車内側においてフロントピラー2a、2bにそれぞれ設けられ、カメラ10a、10bにより撮影された車外風景の画像を表示するディスプレイ11a、11bを備える。図2はフロントピラー2aを運転席側から見た図であり、ディスプレイ11aの配設態様を示す。ディスプレイ11a、11bは例えば液晶表示器であり、ディスプレイ11aはカメラ10aが撮影した画像を、ディスプレイ11bはカメラ10bが撮影した画像を、それぞれ表示する。   Next, the vehicle driving support device A includes displays 11a and 11b that are provided on the front pillars 2a and 2b, respectively, on the inner side of the vehicle, and display images of scenery outside the vehicle photographed by the cameras 10a and 10b. FIG. 2 is a view of the front pillar 2a as viewed from the driver's seat side, and shows an arrangement of the display 11a. The displays 11a and 11b are, for example, liquid crystal displays. The display 11a displays an image captured by the camera 10a, and the display 11b displays an image captured by the camera 10b.

車輌用運転支援装置Aはドライバの視線の方向を検出するために用いるアイポイントカメラ12を備える。アイポイントカメラ12は例えばCCDセンサであり、本実施形態の場合、運転席4の上方において天井に配設されている。アイポイントカメラ12はドライバの顔を撮影可能なようにその撮影範囲が設定されている。アイポイントカメラ12によってドライバの顔を撮影し、公知の画像解析手法により、顔の向き及び眼球の位置を特定することでドライバの視線の方向を検出することができる。   The vehicle driving support apparatus A includes an eye point camera 12 used to detect the direction of the driver's line of sight. The eye point camera 12 is a CCD sensor, for example, and is disposed on the ceiling above the driver's seat 4 in this embodiment. The eye point camera 12 has a shooting range set so that the face of the driver can be shot. The face of the driver can be detected by photographing the face of the driver with the eye point camera 12 and specifying the orientation of the face and the position of the eyeball by a known image analysis method.

車輌用運転支援装置AはGPS(グローバル・ポジショニング・システム)センサ13を備える。GPSセンサ13は人工衛星から発信される電波を受信して車輌1の現在位置を検出する位置検出センサである。   The vehicle driving support apparatus A includes a GPS (global positioning system) sensor 13. The GPS sensor 13 is a position detection sensor that receives a radio wave transmitted from an artificial satellite and detects the current position of the vehicle 1.

車輌用運転支援装置Aは雨滴センサ14を備える。雨滴センサ14はフロントウインドウ3の上縁の車内側に配設されており、フロントウインドウ3への雨滴の付着の有無を検出することで、天候が雨か否かを検出するセンサである。   The vehicle driving support apparatus A includes a raindrop sensor 14. The raindrop sensor 14 is disposed on the inner side of the vehicle at the upper edge of the front window 3 and detects whether or not the weather is raining by detecting whether or not raindrops are attached to the front window 3.

車輌用運転支援装置Aは障害物センサ15を備える。障害物センサ15は例えばレーダ送受信器、超音波送受信器等であり、本実施形態の場合、車輌1の前方端部に配設されている。障害物センサ15は車輌1の前方に存在する人、車輌、構造物(カードレール等)を検出する。   The vehicle driving support apparatus A includes an obstacle sensor 15. The obstacle sensor 15 is, for example, a radar transmitter / receiver, an ultrasonic transmitter / receiver, and the like, and is disposed at the front end of the vehicle 1 in this embodiment. The obstacle sensor 15 detects a person, a vehicle, and a structure (such as a card rail) existing in front of the vehicle 1.

車輌用運転支援装置Aは車速センサ16を備える。車速センサ16は車輌1の走行速度を計測するセンサであり、例えば、エンジンの回転数を検出して車速に換算する。   The vehicle driving support apparatus A includes a vehicle speed sensor 16. The vehicle speed sensor 16 is a sensor that measures the traveling speed of the vehicle 1. For example, the speed of the engine is detected and converted into a vehicle speed.

図3は車輌用運転支援装置Aのブロック図である。CPU20は車輌用運転支援装置A全体の制御を司るプロセッサであり、特に後述する表示制御処理を実行する。CPU20にはEEPROM21、RAM22、HDD(ハードディスクドライブ)24が接続されている。EEPROM21には固定的なデータ、プログラムを記憶する。RAM22はCPU20によって実行されるプログラムのワークエリアを有し、可変データ等を記憶する。HDD24は地図情報等を記憶する。地図情報には道路の座標・形状等の情報が含まれる。これらのEEPROM21、RAM22、HDD24は他の種類の記憶手段でもよい。   FIG. 3 is a block diagram of the vehicle driving support apparatus A. The CPU 20 is a processor that controls the entire vehicle driving support apparatus A, and executes display control processing described later. An EEPROM 21, a RAM 22, and an HDD (Hard Disk Drive) 24 are connected to the CPU 20. The EEPROM 21 stores fixed data and programs. The RAM 22 has a work area for programs executed by the CPU 20 and stores variable data and the like. The HDD 24 stores map information and the like. The map information includes information such as road coordinates and shapes. These EEPROM 21, RAM 22, and HDD 24 may be other types of storage means.

CPU20には通信デバイス23が接続されている。通信デバイス23は交通情報等を受信するために用いられる。また、CPU20には上述したカメラ10a、10b、ディスプレイ11a、11b、アイポイントカメラ12、GPSセンサ13、雨滴センサ14、障害物センサ15、車速センサ16が接続されている。   A communication device 23 is connected to the CPU 20. The communication device 23 is used for receiving traffic information and the like. Further, the above-described cameras 10a and 10b, displays 11a and 11b, an eye point camera 12, a GPS sensor 13, a raindrop sensor 14, an obstacle sensor 15 and a vehicle speed sensor 16 are connected to the CPU 20.

次に、カメラ10a、10bが撮影した車外の風景画像をディスプレイ11a、11bに表示するための、CPU20が実行する表示制御処理の例について説明する。本実施形態ではカメラ10a、10bが撮影した車外の風景画像をディスプレイ11a、11bに常時表示する例について説明するが、ドライバが選択した場合のみ車外の風景画像を表示するようにしてもよい。また、車輌1がカーブ路を走行中の場合や、ドライバの視線がフロントピラー2a又は2b方向を向いている場合にのみ車外の風景画像を表示するようにしてもよい。   Next, an example of display control processing executed by the CPU 20 for displaying the scenery images outside the vehicle photographed by the cameras 10a and 10b on the displays 11a and 11b will be described. In the present embodiment, an example is described in which scenery images outside the vehicle photographed by the cameras 10a and 10b are constantly displayed on the displays 11a and 11b. However, scenery images outside the vehicle may be displayed only when the driver selects them. Further, a landscape image outside the vehicle may be displayed only when the vehicle 1 is traveling on a curved road or when the driver's line of sight is facing the front pillar 2a or 2b.

図4はCPU20が実行する表示制御処理の例を示すフローチャートである。CPU20はこの表示制御処理を繰り返し実行する。なお、同図の例ではカメラ10aで撮影された車外の風景画像をディスプレイ11aに表示する場合を例示するが、カメラ10bで撮影された車外の風景画像をディスプレイ11bに表示する場合も同様である。   FIG. 4 is a flowchart showing an example of display control processing executed by the CPU 20. The CPU 20 repeatedly executes this display control process. In the example shown in the figure, a case where a scenery image taken outside the vehicle photographed by the camera 10a is displayed on the display 11a, but a case where a scenery image taken outside the vehicle photographed by the camera 10b is displayed on the display 11b is also the same. .

S1ではカメラ10aにより車外の風景を撮影する。S2では車輌1が現在走行している走行路を判定する。この判定では、まず、GPSセンサ13の検出結果を取得して車輌1の現在位置を特定する。続いて、HDD24から地図情報を読み出して車輌1の現在位置と照合し、車輌1の走行路を特定する。   In S1, a scene outside the vehicle is photographed by the camera 10a. In S2, the traveling path on which the vehicle 1 is currently traveling is determined. In this determination, first, the detection result of the GPS sensor 13 is acquired to identify the current position of the vehicle 1. Subsequently, the map information is read out from the HDD 24 and collated with the current position of the vehicle 1 to specify the travel path of the vehicle 1.

S3ではS2で判定した走行路がカーブ路か否かを地図情報から判定する。該当する場合はS5へ進み、該当しない場合はS4へ進む。なお、カーブ路か否かは例えば走行路のR(曲率半径)が所定値以上か否かで判定することができる。なお、これに代えて、例えば、車輌1のハンドルの操舵量を検出するセンサを設け、操舵量が一定値以上であれば走行路がカーブ路であると判定してもよい。S4ではS1で撮影した車外の風景画像をディスプレイ11aに表示させて1単位の処理が終了する。   In S3, it is determined from the map information whether or not the traveling road determined in S2 is a curved road. If yes, go to S5, otherwise go to S4. Whether or not the road is a curved road can be determined, for example, based on whether or not R (curvature radius) of the traveling road is greater than or equal to a predetermined value. Instead of this, for example, a sensor that detects the steering amount of the steering wheel of the vehicle 1 may be provided, and if the steering amount is equal to or greater than a certain value, it may be determined that the traveling road is a curved road. In S4, the scenery image outside the vehicle photographed in S1 is displayed on the display 11a, and one unit of processing is completed.

S5ではドライバの視線方向を検出する。視線方向の検出では、まず、アイポイントカメラ12によってドライバの顔を撮影する。続いて、上記の通り、公知の画像解析手法により、顔の向き及び眼球の位置を特定することでドライバの視線の方向を検出する。S6ではS5で検出されたドライバの視線方向に、フロントピラー2aが存在しているか否かを判定する。   In S5, the line-of-sight direction of the driver is detected. In the detection of the line-of-sight direction, the driver's face is first photographed by the eye point camera 12. Subsequently, as described above, the direction of the driver's line of sight is detected by specifying the orientation of the face and the position of the eyeball by a known image analysis method. In S6, it is determined whether or not the front pillar 2a is present in the line-of-sight direction of the driver detected in S5.

この判定は、例えば、アイポイントカメラ12の撮影方向とフロントピラー2aの配設位置との関係を示す情報を予めEEPROM21等に保存し、S5で検出されたドライバの視線方向と上記の情報とを照合することにより行なうことができる。   In this determination, for example, information indicating the relationship between the shooting direction of the eye point camera 12 and the position of the front pillar 2a is stored in advance in the EEPROM 21 or the like, and the line-of-sight direction of the driver detected in S5 and the above information are stored. This can be done by collating.

S6で、該当しない場合はS4へ進み、S1で撮影した車外の風景画像をディスプレイ11aに表示させる。図5(a)はカーブ路を車輌1が走行中の場合におけるディスプレイ11aの表示例を示す図である。フロントウインドウ3越しには実風景としてカーブ路が見えており、ディスプレイ11aにはフロントウインドウ3越しに見えるカーブ路に続くカーブ路が電子画像として表示されている。   In S6, if not applicable, the process proceeds to S4, and the scenery image taken outside in S1 is displayed on the display 11a. FIG. 5A is a diagram showing a display example of the display 11a when the vehicle 1 is traveling on a curved road. A curved road can be seen as an actual scene through the front window 3, and a curved road following the curved road seen through the front window 3 is displayed as an electronic image on the display 11a.

S6で、該当する場合はS7へ進む。S7では注意情報を出力するか否かを判定する処理を行なう。注意情報は、ドライバに車輌走行上の注意を促す情報であり、予め定めた条件が成立した場合に注意情報を出力する。以下、注意情報の内容と出力条件とを例示する。   If applicable, the process proceeds to S7. In S7, processing for determining whether or not to output attention information is performed. The caution information is information that prompts the driver to pay attention when traveling the vehicle. The caution information is output when a predetermined condition is satisfied. Hereinafter, the contents of the caution information and the output conditions will be exemplified.

例えば、車速センサ16によって検出される車輌1の走行速度が、予め定めた速度(例えば、地図情報から導き出される法定速度)を超えている場合は、注意情報として減速を促す旨を出力する。また、障害物センサ15により対向車、歩行者等が検出された場合は、注意情報として対向車等が存在している旨を出力する。また、雨滴センサ14により天候が雨であることが検出された場合は、注意情報として路面が滑り易い旨を出力する。また、通信デバイス23により取得した交通情報が走行路が凍結していることを示す場合には、注意情報として路面が滑り易い旨を出力する。   For example, when the traveling speed of the vehicle 1 detected by the vehicle speed sensor 16 exceeds a predetermined speed (for example, a legal speed derived from map information), a message that prompts deceleration is output as caution information. Further, when an oncoming vehicle, a pedestrian, or the like is detected by the obstacle sensor 15, the fact that an oncoming vehicle or the like is present is output as caution information. Further, when the raindrop sensor 14 detects that the weather is rain, it outputs that the road surface is slippery as caution information. When the traffic information acquired by the communication device 23 indicates that the traveling road is frozen, the fact that the road surface is slippery is output as the caution information.

S8では注意情報を出力するか否かを判定する。S7の判定処理で出力条件が成立していればS9へ進み、成立していなければS11へ進む。S9ではS1で撮影した車外の風景画像に注意情報を重畳した画像を生成する。注意情報は、注意情報の種類に応じて予め画像としてHDD24に記憶しておく。S10ではS9で生成した画像をディスプレイ11aに表示させる。その後1単位の処理を終了する。   In S8, it is determined whether or not attention information is output. If the output condition is satisfied in the determination process of S7, the process proceeds to S9, and if not satisfied, the process proceeds to S11. In S9, an image is generated by superimposing attention information on the scenery image taken outside the vehicle photographed in S1. The attention information is stored in advance in the HDD 24 as an image according to the type of the attention information. In S10, the image generated in S9 is displayed on the display 11a. Thereafter, one unit of processing is terminated.

図5(b)はカーブ路を車輌1が走行中の場合におけるディスプレイ11aの表示例を示す図であり、注意情報100が車外の風景画像に重ねて表示されている例を示す。図6(a)はディスプレイ11aの表示の拡大図である。同図の例では、注意情報100として「減速!!」と表示されており、ドライバに対して車輌1の減速が促されている。図6(b)はディスプレイ11aの他の表示例を示している。同図の例では、注意情報101として「対向車接近!!」と表示されており、ドライバに対して対向車200(風景画像の一部)の存在認識を促している。   FIG. 5B is a diagram illustrating a display example of the display 11a when the vehicle 1 is traveling on a curved road, and illustrates an example in which the caution information 100 is displayed superimposed on a landscape image outside the vehicle. FIG. 6A is an enlarged view of the display 11a. In the example of the figure, “Decelerate !!” is displayed as the attention information 100, and the driver is prompted to decelerate the vehicle 1. FIG. 6B shows another display example of the display 11a. In the example shown in the figure, “oncoming vehicle approaching !!” is displayed as the attention information 101, and the driver is prompted to recognize the presence of the oncoming vehicle 200 (part of the landscape image).

図4に戻り、S11では、S1で撮影した車外の風景画像に含まれるカーブ路の遠方部分、又は、カーブ路の周縁、の少なくともいずれか一方を強調した、車外風景の強調表示画像を生成する。この処理では、先ず、公知の画像解析手法により、S1で撮影した車外の風景画像に含まれるカーブ路の画像を抽出する。カーブ路の遠方部分を強調する場合には、抽出したカーブ路の画像のうち、車輌1から見て最遠方端から一定の範囲の領域を強調する。カーブ路の画像の最遠方端は、右カーブのカーブ路であれば、カーブ路の画像の上右端、左カーブのカーブ路であればカーブ路の画像の上左端となる。   Returning to FIG. 4, in S11, a highlight display image of the outside scenery is generated in which at least one of the far part of the curved road or the periphery of the curved road included in the scenery image taken outside in S1 is emphasized. . In this process, first, an image of a curved road included in the scenery image outside the vehicle photographed in S1 is extracted by a known image analysis method. When emphasizing a far part of a curved road, an area in a certain range from the farthest end as viewed from the vehicle 1 is emphasized in the extracted curved road image. The farthest end of the curved road image is the upper right end of the curved road image if it is a right curved curved road, and the upper left edge of the curved road image if it is a left curved curve road.

カーブ路の周縁を強調する場合には抽出したカーブ路の画像のうち、画像として写っている範囲で、内周縁又は外周縁のすくなくともいずれか一方を強調する。なお、内周縁を強調する方がドライバにとって分かり易いと考えられる。強調の方法としては、例えば、表示色を原画像とは異なるように変更すること、画像の明るさを原画像とは異なるように変更すること、が挙げられる。このように強調することで、ドライバの注意をカーブの遠方部分又はカーブ路の周縁に向けさせ、ドライバがより迅速に走行路の状況を把握できる。   When emphasizing the peripheral edge of the curved road, at least one of the inner peripheral edge and the outer peripheral edge is emphasized in the range of the extracted curved road image as an image. Note that it is easier for the driver to emphasize the inner peripheral edge. Examples of the emphasis method include changing the display color to be different from that of the original image and changing the brightness of the image to be different from that of the original image. By emphasizing in this way, the driver's attention is directed toward the far part of the curve or the periphery of the curved road, so that the driver can grasp the situation of the traveling road more quickly.

S12ではS11で生成した強調表示画像に走行状況情報を重畳した画像を生成する。走行状況情報とは車輌1の走行状況を示す情報であり、走行路の情報、車輌1の進行方向、車輌1の進路予想等が挙げられる。走行状況情報は、その種類に応じて予め画像としてHDD24に記憶しておくか、HDD24から地図情報を読み出してその都度生成することもできる。   In S12, an image in which the driving situation information is superimposed on the highlighted image generated in S11 is generated. The travel status information is information indicating the travel status of the vehicle 1, and includes information on the travel path, the traveling direction of the vehicle 1, the predicted course of the vehicle 1, and the like. The traveling state information can be stored in advance in the HDD 24 as an image according to the type, or can be generated each time the map information is read from the HDD 24.

S13ではS12で生成した画像をディスプレイ11aに表示させる。その後1単位の処理を終了する。図5(c)及び(d)はカーブ路を車輌1が走行中の場合におけるディスプレイ11aの表示例を示す図であり、走行状況情報110が強調表示画像に重ねて表示されている例を示す。図7(a)は図5(c)の場合におけるディスプレイ11aの表示の拡大図であり、図7(b)は図5(d)の場合におけるディスプレイ11aの表示の拡大図である。   In S13, the image generated in S12 is displayed on the display 11a. Thereafter, one unit of processing is terminated. FIGS. 5C and 5D are diagrams showing a display example of the display 11a when the vehicle 1 is traveling on a curved road, and shows an example in which the traveling state information 110 is displayed superimposed on the highlighted image. . FIG. 7A is an enlarged view of the display on the display 11a in the case of FIG. 5C, and FIG. 7B is an enlarged view of the display on the display 11a in the case of FIG. 5D.

図5(c)及び図7(a)の例では、強調表示画像として、カーブ路の遠方部分300が強調表示されている例である。また、走行状況情報として、車輌1のアイコン110aと走行路(カーブ路)の模式図110bとが鳥瞰図として表示されており、また、カーブ路の曲率半径がR60と示されている。   In the example of FIG. 5C and FIG. 7A, the distant portion 300 of the curved road is highlighted as the highlighted image. Further, as the traveling state information, an icon 110a of the vehicle 1 and a schematic diagram 110b of the traveling road (curved road) are displayed as a bird's eye view, and the curvature radius of the curved road is indicated as R60.

図5(d)及び図7(b)の例では、強調表示画像として、カーブ路の内周縁301が強調表示されている例である。また、走行状況情報として、車輌1のアイコン111aと走行路(カーブ路)の模式図111bとが鳥瞰図として表示されており、また、カーブ路の曲率半径がR80と示されている。更に、破線111cにより、車輌1に対するドライバの操作が現在の状態で継続した場合における車輌1の進路予想が表示されている。   In the example of FIGS. 5D and 7B, the inner peripheral edge 301 of the curved road is highlighted as the highlighted image. Further, as the traveling state information, an icon 111a of the vehicle 1 and a schematic diagram 111b of the traveling road (curved road) are displayed as a bird's eye view, and the curvature radius of the curved road is indicated as R80. Furthermore, a predicted route of the vehicle 1 when the driver's operation on the vehicle 1 continues in the current state is displayed by a broken line 111c.

このように本実施形態では、車輌1がカーブ路を走行中の場合、車外風景の画像に含まれるカーブ路の遠方部分、又は、前記カーブ路の周縁、の少なくともいずれか一方が強調される(S13)。本実施形態は、カーブ路走行中においてドライバはカーブ路の遠方部分(カーブ路の出口側)か、或いは、カーブ路の周縁を見ている場合が多いという発想に基づくものであり、発明者が行なった実験によってもこのような結果が出た。しかして、本実施形態のように、車外風景の画像に含まれるカーブ路の遠方部分、又は、前記カーブ路の周縁、の少なくともいずれか一方を強調することで、ドライバは一目で進行すべき方向を認識できる。従って、ドライバがより迅速に走行路の状況を把握できる。   As described above, in the present embodiment, when the vehicle 1 is traveling on a curved road, at least one of the far part of the curved road or the peripheral edge of the curved road included in the image of the scenery outside the vehicle is emphasized ( S13). The present embodiment is based on the idea that the driver is often looking at the far part of the curved road (the exit side of the curved road) or the periphery of the curved road during traveling on the curved road. This was also the case with the experiments that were conducted. Thus, by emphasizing at least one of the far part of the curved road included in the image of the scenery outside the vehicle or the peripheral edge of the curved road as in this embodiment, the direction in which the driver should travel at a glance. Can be recognized. Therefore, the driver can grasp the condition of the traveling path more quickly.

ここで、車外風景の画像の一部を強調して表示するとドライバの注意を引き易くなる。本実施形態では、ドライバの視線方向にフロントピラー2aが存在しているか否かを判定し(S5、S6)、ドライバの視線方向にフロントピラー2aが存在していると判定された場合に、強調表示画像を表示させる(S13)。この構成によれば、ドライバがフロントピラー2aに隠れる車外風景を見ようとしている場合にのみ強調表示画像が表示され、例えば、視線をフロントウインド3に向けている場合には強調表示画像が表示されない。このため、ドライバの注意を不必要にディスプレイ11aに向けさせることがない。   Here, if a part of the image of the scenery outside the vehicle is highlighted and displayed, the driver's attention can be easily drawn. In this embodiment, it is determined whether or not the front pillar 2a is present in the driver's line-of-sight direction (S5, S6). If it is determined that the front pillar 2a is present in the driver's line-of-sight direction, emphasis is given. A display image is displayed (S13). According to this configuration, the highlighted image is displayed only when the driver is looking at the scenery outside the vehicle hidden by the front pillar 2a. For example, when the line of sight is directed to the front window 3, the highlighted image is not displayed. For this reason, the driver's attention is not unnecessarily directed toward the display 11a.

また、本実施形態では、注意情報100、101を車外風景の画像に重ねて表示させている(S9、S10)。注意情報を優先的に表示することで、より確実に車輌走行上の注意をドライバに促すことができる。   In the present embodiment, the caution information 100 and 101 is displayed so as to be superimposed on the image of the scenery outside the vehicle (S9, S10). By displaying the warning information preferentially, the driver can be more surely cautioned about driving the vehicle.

また、本実施形態では、注意情報100、101を表示する場合(S7〜S10)には、S11の処理を経由せず、カーブ路の遠方部分及びカーブ路の周縁を強調せずに車外風景の画像をディスプレイ11aに表示する。強調表示を行なわないことでドライバの注意が注意情報に向き易くなり、更に確実に車輌走行上の注意をドライバに促すことができる。   Further, in the present embodiment, when the caution information 100 and 101 is displayed (S7 to S10), the scenery outside the vehicle is not shown without emphasizing the far part of the curved road and the periphery of the curved road without going through the processing of S11. The image is displayed on the display 11a. By not performing highlighting, the driver's attention can easily be directed to the attention information, and the driver can be more surely alerted to the vehicle's attention.

また、本実施形態では、車輌の走行状況を示す走行状況情報110、111がディスプレイ11aに表示される。この構成によれば、車輌の走行状況をドライバに知らせることができ、運転支援効果を高めることができる。   In the present embodiment, traveling state information 110 and 111 indicating the traveling state of the vehicle is displayed on the display 11a. According to this configuration, the driving situation of the vehicle can be notified to the driver, and the driving support effect can be enhanced.

本発明の一実施形態に係る車輌用運転支援装置Aを搭載した車輌1の平面図である。1 is a plan view of a vehicle 1 equipped with a vehicle driving support apparatus A according to an embodiment of the present invention. フロントピラー2aを運転席側から見た図である。It is the figure which looked at the front pillar 2a from the driver's seat side. 車輌用運転支援装置Aのブロック図である。1 is a block diagram of a vehicle driving support apparatus A. FIG. CPU20が実行する表示制御処理の例を示すフローチャートである。It is a flowchart which shows the example of the display control process which CPU20 performs. (a)乃至(d)はディスプレイ11aの画像表示例を示す図である。(A) thru | or (d) is a figure which shows the example of an image display of the display 11a. (a)及び(b)はディスプレイ11aの画像表示例を示す図である。(A) And (b) is a figure which shows the example of an image display of the display 11a. (a)及び(b)はディスプレイ11aの画像表示例を示す図である。(A) And (b) is a figure which shows the example of an image display of the display 11a.

符号の説明Explanation of symbols

A 車輌用運転支援装置
1 車輌
2a、2b フロントピラー
10a、10b、12 カメラ
11a、11b ディスプレイ
20 CPU
A Vehicle driving support device 1 Vehicle 2a, 2b Front pillar 10a, 10b, 12 Camera 11a, 11b Display 20 CPU

Claims (6)

車輌のフロントピラーの存在によってドライバから死角となる車外風景を撮影する撮影手段と、
車内側において前記フロントピラーに設けられ、前記撮影手段により撮影された車外風景の画像を表示する表示手段と、
車輌がカーブ路を走行中か否かを判定する判定手段と、
前記判定手段により車輌がカーブ路を走行中と判定された場合に、前記車外風景の画像に含まれる前記カーブ路の遠方部分、又は、前記カーブ路の周縁、の少なくともいずれか一方を強調した、前記車外風景の強調表示画像を前記表示手段に表示させる表示制御手段と、
を備えたことを特徴とする車輌用運転支援装置。
Photographing means for photographing the scenery outside the vehicle that becomes a blind spot from the driver due to the presence of the front pillar of the vehicle,
Display means provided on the front pillar inside the vehicle, for displaying an image of a scenery outside the vehicle photographed by the photographing means;
Determining means for determining whether the vehicle is traveling on a curved road;
When it is determined by the determination means that the vehicle is traveling on a curved road, at least one of the far part of the curved road or the peripheral edge of the curved road included in the image of the outside scenery is emphasized. Display control means for causing the display means to display a highlighted image of the scenery outside the vehicle;
A vehicle driving support apparatus comprising:
更に、
ドライバの視線の方向を検出する視線方向検出手段と、
前記視線方向検出手段により検出されたドライバの視線方向に、前記フロントピラーが存在しているか否かを判定するフロントピラー判定手段と、
を備え、
前記表示制御手段は、前記フロントピラー判定手段によりドライバの視線方向に前記フロントピラーが存在していると判定された場合に、前記強調表示画像を前記表示手段に表示させることを特徴とする請求項1に記載の車輌用運転支援装置。
Furthermore,
Gaze direction detection means for detecting the gaze direction of the driver;
Front pillar determination means for determining whether or not the front pillar exists in the line-of-sight direction of the driver detected by the line-of-sight direction detection means;
With
The display control means causes the display means to display the highlighted image when the front pillar determining means determines that the front pillar is present in the line-of-sight direction of the driver. The vehicle driving support device according to 1.
前記強調表示画像は、前記遠方部分又は前記カーブ路の周縁の少なくともいずれか一方の表示色を変更した画像、又は、明るさを変更した画像であることを特徴とする請求項1又は2に記載の車輌用運転支援装置。   The said highlight display image is an image which changed the display color of at least any one of the said far part or the periphery of the said curve road, or the image which changed the brightness, The Claim 1 or 2 characterized by the above-mentioned. Driving support system for vehicles. 前記表示制御手段は、
ドライバに車輌走行上の注意を促す注意情報を前記表示手段に表示させることが可能であり、前記表示手段が前記車外風景の画像を表示している場合は前記注意情報を前記車外風景の画像に重ねて表示させることを特徴とする請求項1乃至3のいずれか1項に記載の車輌用運転支援装置。
The display control means includes
It is possible to display on the display means caution information that prompts the driver to pay attention on vehicle travel. When the display means displays an image of the scenery outside the vehicle, the caution information is displayed on the image of the scenery outside the vehicle. The vehicle driving support device according to any one of claims 1 to 3, wherein the driving support device is displayed in an overlapping manner.
前記表示制御手段は、
前記注意情報を前記表示手段に表示させる場合には、前記遠方部分及び前記カーブ路の周縁を強調せずに前記車外風景の画像を前記表示手段に表示させることを特徴とする請求項4に記載の車輌用運転支援装置。
The display control means includes
5. When displaying the caution information on the display means, the image of the outside scenery is displayed on the display means without emphasizing the distant portion and the periphery of the curved road. Driving support system for vehicles.
前記表示制御手段は、
車輌の走行状況を示す走行状況情報を前記表示手段に表示させることを特徴とする請求項1乃至5のいずれか1項に記載の車輌用運転支援装置。
The display control means includes
The vehicle driving support device according to any one of claims 1 to 5, wherein traveling state information indicating a traveling state of the vehicle is displayed on the display means.
JP2006254948A 2006-09-20 2006-09-20 Driving support device for vehicle Expired - Fee Related JP4946300B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006254948A JP4946300B2 (en) 2006-09-20 2006-09-20 Driving support device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006254948A JP4946300B2 (en) 2006-09-20 2006-09-20 Driving support device for vehicle

Publications (2)

Publication Number Publication Date
JP2008077354A true JP2008077354A (en) 2008-04-03
JP4946300B2 JP4946300B2 (en) 2012-06-06

Family

ID=39349348

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006254948A Expired - Fee Related JP4946300B2 (en) 2006-09-20 2006-09-20 Driving support device for vehicle

Country Status (1)

Country Link
JP (1) JP4946300B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101223406B1 (en) * 2010-07-15 2013-01-16 고려대학교 산학협력단 Display unit mounted on an interior of a vehicle to display outside view and method for controlling the unit
JP2020059388A (en) * 2018-10-10 2020-04-16 株式会社デンソー Display device and display control device
WO2020152737A1 (en) * 2019-01-21 2020-07-30 三菱電機株式会社 Information presentation device, information presentation control method, program, and recording medium

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07223487A (en) * 1994-02-14 1995-08-22 Mitsubishi Motors Corp Situation display device for vehicle
JP2004064131A (en) * 2002-07-24 2004-02-26 Honda Motor Co Ltd Display for vehicle
JP2005122263A (en) * 2003-10-14 2005-05-12 Nissan Motor Co Ltd Risk avoidance guide device for vehicle
JP2005125828A (en) * 2003-10-21 2005-05-19 Fujitsu Ten Ltd Vehicle surrounding visually confirming system provided with vehicle surrounding visually confirming device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07223487A (en) * 1994-02-14 1995-08-22 Mitsubishi Motors Corp Situation display device for vehicle
JP2004064131A (en) * 2002-07-24 2004-02-26 Honda Motor Co Ltd Display for vehicle
JP2005122263A (en) * 2003-10-14 2005-05-12 Nissan Motor Co Ltd Risk avoidance guide device for vehicle
JP2005125828A (en) * 2003-10-21 2005-05-19 Fujitsu Ten Ltd Vehicle surrounding visually confirming system provided with vehicle surrounding visually confirming device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101223406B1 (en) * 2010-07-15 2013-01-16 고려대학교 산학협력단 Display unit mounted on an interior of a vehicle to display outside view and method for controlling the unit
JP2020059388A (en) * 2018-10-10 2020-04-16 株式会社デンソー Display device and display control device
JP7099239B2 (en) 2018-10-10 2022-07-12 株式会社デンソー Display device and display control device
WO2020152737A1 (en) * 2019-01-21 2020-07-30 三菱電機株式会社 Information presentation device, information presentation control method, program, and recording medium
JPWO2020152737A1 (en) * 2019-01-21 2021-09-09 三菱電機株式会社 Information presentation device and information presentation control method, as well as programs and recording media

Also Published As

Publication number Publication date
JP4946300B2 (en) 2012-06-06

Similar Documents

Publication Publication Date Title
CN108351958B (en) Method and device for detecting frame line of parking space
KR102206272B1 (en) Parking assistance method and parking assistance device
JP4517393B2 (en) Driving assistance device
JP4992755B2 (en) Intersection driving support system, in-vehicle equipment, and roadside equipment
US9283963B2 (en) Method for operating a driver assist system of an automobile providing a recommendation relating to a passing maneuver, and an automobile
US7680592B2 (en) System and apparatus for drive assistance
JP5160564B2 (en) Vehicle information display device
JP6311646B2 (en) Image processing apparatus, electronic mirror system, and image processing method
US20140107911A1 (en) User interface method for terminal for vehicle and apparatus thereof
JP5712119B2 (en) Pedestrian notification device for vehicles
US20110128136A1 (en) On-vehicle device and recognition support system
JP2010183170A (en) Display apparatus for vehicle
JP2013533168A (en) Method for supporting parking operation of automobile, driver assistance system, and automobile
JP5708669B2 (en) Vehicle display device
JP2008280026A (en) Driving assistance device
JP2008222153A (en) Merging support device
JP2008293210A (en) Vehicular door opening support apparatus, vehicular door opening support method and vehicular door opening support program
JP2007164671A (en) Device for deciding approaching obstacle and system for warning collision with obstacle
JP2002117494A (en) Peripheral information display device
JP2009211624A (en) Driving support device, driving support method, and computer program
CN107004250B (en) Image generation device and image generation method
JP5605764B2 (en) Vehicle display device
JP2005202787A (en) Display device for vehicle
WO2014076841A1 (en) Display apparatus, control method, program, and recording medium
JP4946300B2 (en) Driving support device for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090330

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20101001

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4946300

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees