JP4882285B2 - 車両用走行支援装置 - Google Patents

車両用走行支援装置 Download PDF

Info

Publication number
JP4882285B2
JP4882285B2 JP2005175009A JP2005175009A JP4882285B2 JP 4882285 B2 JP4882285 B2 JP 4882285B2 JP 2005175009 A JP2005175009 A JP 2005175009A JP 2005175009 A JP2005175009 A JP 2005175009A JP 4882285 B2 JP4882285 B2 JP 4882285B2
Authority
JP
Japan
Prior art keywords
lane
color
vehicle
display
guide
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005175009A
Other languages
English (en)
Other versions
JP2006350617A (ja
Inventor
勇 鈴木
一郎 吉田
佑允 松井
建史 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005175009A priority Critical patent/JP4882285B2/ja
Priority to US11/451,377 priority patent/US7486175B2/en
Priority to DE102006027679.5A priority patent/DE102006027679B4/de
Priority to CN200610092523A priority patent/CN100582673C/zh
Publication of JP2006350617A publication Critical patent/JP2006350617A/ja
Application granted granted Critical
Publication of JP4882285B2 publication Critical patent/JP4882285B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/365Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/029Steering assistants using warnings or proposing actions to the driver without influencing the steering system
    • B62D15/0295Steering assistants using warnings or proposing actions to the driver without influencing the steering system by overlaying a vehicle path based on present steering angle over an image without processing that image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/002Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/026Control of mixing and/or overlay of colours in general
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/06Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed using colour palettes, e.g. look-up tables
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/14Solving problems related to the presentation of information to be displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Instrument Panels (AREA)

Description

本発明は、車両の運転に係る支援情報を、車両のフロントガラスを利用して表示するようにした車両用走行支援装置に関する。
近年では、車両の運転に係る支援情報を、画像情報として車両のフロントガラスに投影し、その画像情報を前景に重畳した虚像として表示するヘッドアップディスプレイを使用した走行支援装置が提供されている(例えば、特許文献1参照)。このような装置にあっては、運転者の視線移動量が少なくなって、表示された運転支援情報の認知ミスを低減できるなどの利点があるため、広く普及しつつある。
特開2005−78414号公報
車両を実際に走行させる場合、例えば、雨天での夜間走行時や積雪道路の走行時などにおいては、自車両の走行レーンを示すレーンマーカ(白線或いは黄線)を視認することが困難或いは不可能な状況、つまり車両の安全運転上において好ましくない状況に陥ることがある。このような状況に対処するためには、前記特許文献1に見られるような走行支援装置を利用し、自車両の走行レーンの形状を示す車線ガイドを、車両のフロントガラス越しの視界(車両運転者の前方視界)において、実際の走行レーンと対応付けた形態で表示することが考えられる。しかしながら、このような形態の車線ガイドを、どのような環境下でも確実に視認可能な状態で表示できる車両用走行支援装置は未だ提供されていない。
本発明は上記事情に鑑みてなされたものであり、その目的は、自車両の走行レーンの形状を示す車線ガイドを、車両運転者の前方視界に実際の走行レーンと対応付けた形態で表示できると共に、その車線ガイドの視認性を周囲の環境に影響されずに確保できるようになる車両用走行支援装置を提供することにある。
請求項1記載の発明によれば、情報取得手段が、自車両の走行レーンの両端に沿って側溝などの障害物があることを示す障害物情報を含む情報であって、自車両の走行レーンの形状及び位置を示す車線情報を取得すると共に、視点検出手段が、車両運転者の視点位置を検出するようになる。画像情報生成手段は、上記視点位置から車両のフロントガラス越しに前方を見たときの走行レーン形状に対応した車線ガイドを示す画像情報を、当該視点位置及び前記車線情報に基づいた演算により生成して表示手段へ出力する。表示手段は、入力された画像情報を車両のフロントガラスに表示、またはフロントガラス越しに表示する構成となっており、これにより、自車両の走行レーンの形状を示す車線ガイドを、車両運転者の前方視界に実際の走行レーンと対応付けた形態で表示できるようになる。尚、画像情報を車両のフロントガラスに表示する表示手段としては、例えばフロントガラスに貼り付けた透過型EL素子或いは他の透過型表示素子が考えられ、また、画像情報を車両のフロントガラス越しに表示する表示手段としては、[背景技術]の項で述べたヘッドアップディスプレイなどが考えられる。
一方、背景色検出手段が、車両前方の道路面の色を検出すると共に、表示色調整手段が、前記表示手段による車線ガイドの表示色を、当該背景色検出手段による検出色と区別可能な色に設定するようになる。つまり、表示された車線ガイドが、車両運転者からフロントガラス越しに見える背景(特には、車線ガイドと重畳した状態となる道路面)に埋もれて視認し難くなる事態を未然に防止できるものであり、結果的に、その車線ガイドの視認性を周囲の環境に影響されずに確保できることになる。
そして、自車両の走行レーンの両端に沿って側溝などの障害物がある場合に、表示手段により表示される車線ガイドが予め決められた危険色で表現されることになるから、例えば障害物を視認し辛い状況下においても、車両運転者に対して障害物についての注意を喚起できるようになり、車両の安全運転を行う上で有益になる。
請求項2記載の発明によれば、上述のように表示される車線ガイドが自車両の走行レーンの両端形状に対応した2本のガイド線であるから、車両運転者は、表示された2本のガイド線を実際の走行レーンと同等の感覚で認識できるようになる。
請求項6記載の発明によれば、自車両の走行路面が積雪状態にあったときには、表示手段による車線ガイドの表示色が、雪面との差異が明瞭な非同化色となるように設定されるから、車両運転者は、積雪道路の走行時においても自車両の走行レーンを確実に認識可能になる。
請求項7記載の発明によれば、情報取得手段が、撮像手段による自車両前方の撮影画像から当該車両の走行レーンの形状及び位置を示す車線情報を抽出するようになり、画像情報生成手段は、この車線情報及び視点検出手段により検出された車両運転者の視点位置に基づいて、表示手段による車線ガイドの表示動作に供するための画像情報を演算して生成するようになる。この場合、撮像手段の感度は人間の視感度より高いという一般的性質があるから、車両運転者にあっては、自分自身で自車両の走行レーンを示すレーンマーカを認識できないような状況下においても、表示手段により表示された車線ガイドに基づいて走行レーンの確認を行い得るようになる。
請求項8記載の発明によれば、上記のような車線情報の抽出元となる撮像手段が暗所撮影可能なカメラにより構成されているから、夜間走行時などにおいても正確な車線情報を取得できるようになる。
以下、本発明の一実施例について図1〜図3を参照しながら説明する。
図1には、車両用走行支援装置の全体構成が機能ブロックの組み合わせにより示されている。
この図1において、表示手段として設けられたディスプレイユニット1は、イメージ生成用の表示モジュール(例えばカラー液晶パネル及び光源ユニットの組み合わせモジュール)、反射ミラーなどをユニット化した周知のヘッドアップディスプレイより成るもので、例えば、車両のダッシュボードにおける運転席対応位置に配置され、入力された画像情報に対応した画像を運転席前方のフロントガラスに投影することにより、当該画像をフロントガラス越しに虚像として表示する動作を行う構成となっている。
尚、表示手段として、上記のような虚像表示を行うヘッドアップディスプレイに代えて、フロントガラスに貼り付けた透過型EL素子或いは他の透過型表示素子を用いることも可能である。
システム制御部2(情報取得手段、画像情報生成手段、背景色検出手段、表示色調整手段に相当)は、マイクロコンピュータを含んで構成されたもので、ディスプレイユニット1での表示画像の制御を、表示制御部3を通じて行う構成となっている。
位置計測システム4(位置検出手段に相当)は、カーナビゲーション装置において周知のGPS受信機などを含んで構成されたもので、自車両の現在位置を示す車両現在位置情報(経緯度情報)をシステム制御部2に与えるようになっている。
システム制御部2からアクセス可能に設けられた道路地図データベース5は、カーナビゲーション用の道路地図データが記憶されていると共に、道路の形状、特には走行レーンの両端形状及び位置を示す道路形状データが記憶されている。尚、この道路形状データは、例えば3次ベジエ曲線(或いは2次スプライン曲線)を表現するための座標データ列により構成されたもので、システム制御部2では、この座標データ列に基づいて走行レーンの両端形状を演算により作成する構成となっている。
視線検知システム6(視点検出手段に相当)は、車両運転者の視点位置を検出するために設けられたもので、具体的に図示しないが、例えば、車両運転者の顔部に向けて赤外光を投光する投光手段、車両運転者の顔部での反射赤外光を映像信号に変換する撮影手段、その映像信号に基づいて二値化処理や特徴点抽出処理などを行うことによって車両運転者の顔部の画像を抽出する画像処理手段、抽出された画像に基づいて車両運転者の視線方向及び視点位置を検出する演算手段を備えた構成となっており、その検出出力をシステム制御部2に与える構成となっている。
カメラ7(撮像手段に相当)は、車両前方の道路面を撮影するために設けられたもので、暗所撮影が可能な構成(例えば高感度カメラを使用する構成)とされており、撮影した画像データをシステム制御部2に与えるようになっている。
ABSユニット8は、車両のアンチロックブレーキ制御を行うために設けられたもので、車輪のスリップ率を示す信号をシステム制御部2に与える構成となっている。サーミスタ9は、車外温度を検出するように設けられ、その検出信号をA/D変換器10を介してシステム制御部2に与える構成となっている。ここで、上記ABSユニット8及びサーミスタ9は、これらの組み合わせにより積雪検知手段(符号なし)を構成するものであり、システム制御部2においては、サーミスタ9による検出温度が所定温度以下の状態で尚且つABSユニット8からの信号により示されるスリップ率が所定値以上のときに、自車両の走行路面が積雪状態にある、と判定する構成となっている。尚、このような積雪検知のために、カメラ7による撮影画像も利用可能である。また、車両運転者が積雪を認識したときに操作されるスイッチを積雪検知手段として設ける構成としても良い。
図2には、システム制御部2による制御内容の一例が示されており、以下これについて説明する。
即ち、図2のフローチャートでは、まず、カメラ7からの画像データの解析処理を行い(ステップS1)、視線検知システム6が検出した車両運転者の視点位置を取り込む(ステップS2)。次いで、上記画像データの解析処理結果(以下、解析データと呼ぶ)に基づいて車両前方のレーンマーカ(白線或いは黄線)の画像を抽出可能か否かの判断を行う(ステップS3)。
レーンマーカ画像を抽出可能な場合には、解析データから抽出した前記レーンマーカの画像を、自車両の走行レーンの形状及び位置を示す車線情報として取得する(ステップS4)。次いで、前記視点位置からフロントガラス越しに前方を見たときの走行レーンの両端形状に対応した2本のガイド線(車線ガイドに相当)を示す画像情報を、当該視点位置及び上記車線情報に基づいた演算により生成する(ステップS5)。尚、上記ガイド線の設定色は、実際のレーンマーカの色に合わせるものであるが、本実施例では、説明の便宜上、無彩色とする。また、この画像情報には、車両運転者の視点位置と道路上のレーンマーカとを結ぶ直線(視線方向)のフロントガラスとの交差位置を示す情報が含まれるものであり、その情報はディスプレイユニット1による画像投影位置を決定するために利用される。
この後には、前記解析データに基づいて、ガイド線の表示位置に対応した背景色(道路の色)が黒に近い色か否かを判断し(ステップS6)、「YES」の場合には、ガイド線の設定色を所定割合だけ白に近づけ(ステップS7)、「NO」の場合には、ガイド線の設定色を所定割合だけ黒に近づける(ステップS8)。上記ステップS7或いはS8の実行後には、ガイド線の設定色と背景色とのコントラスト(設定色の明度と背景色の明度との差)が規定値以上か否かを判断し(ステップS9)、規定値未満であった場合にはステップS6へ戻るが、規定値以上であった場合には、前記設定色のガイド線を示す画像情報を、表示制御部3を通じてディスプレイユニット1に与えることにより、当該画像情報に対応した2本のガイド線をフロントガラス越しに虚像として表示するステップS10を実行した後に、ステップS1へリターンする。
このような表示は、具体的には、車両運転席の周辺を運転者の視点から見た状態で簡略に表現した図3に示すように行われるものであり、同図では、フロントガラス11、ステアリングホイール12などと共に、2本のガイド線Gが示されている。尚、ディスプレイユニット1に代えてフロントガラスに貼り付けた透過型EL素子或いは他の透過型表示素子が表示手段として設けられていた場合にも、運転者の視点位置と道路上のレーンマーカとを結ぶ直線(視線方向)のフロントガラスとの交差位置にガイド線を表示することより、図3と同等の表示形態を実現できるものである。
一方、前記ステップS3で「NO」と判断した場合、つまり、解析データに基づいて車両前方のレーンマーカの画像を抽出できない場合には、位置計測システム4からの車両現在位置情報により自車両の位置を認識すると共に、その認識結果に基づいて道路地図データベース5にアクセスすることにより、自車両の走行レーンの両端形状及び位置を示す道路形状データを車線情報として取得する(ステップS11)。次いで、前記視点位置からフロントガラス越しに前方を見たときの走行レーンの両端形状に対応した2本のガイド線を示す画像情報を、前記ステップS2で取り込んだ視点位置及び上記車線情報に基づいた演算により生成する(ステップS12)。
画像情報の生成後には、サーミスタ9による検出温度及びABSユニット8からの信号に基づいて、積雪状態判定処理を行う(ステップS13)。つまり、サーミスタ9による検出温度が所定温度以下の状態で尚且つABSユニット8からの信号により示されるスリップ率が所定値以上のときに、自車両の走行路面が積雪状態であると判定する。次いで、その判定結果が積雪有りであるか否かを判断し、積雪有りであった場合には、ガイド線の色を、初期設定色、具体的には雪面との差異が明瞭な非同化色(例えば青色)に設定し(ステップS15)、この後にガイド線の表示を行うための前記ステップS10へ移行する。これに対して、判定結果が積雪無しであった場合には、前記ステップS6移行の制御を実行する。
要するに、システム制御部2は、カメラ7により撮影した画像データを解析したデータに基づいて車両前方のレーンマーカの画像を抽出可能な状態にあった場合には、その解析データから抽出したレーンマーカの画像を、自車両の走行レーンの形状及び位置を示す車線情報として取得し、この車線情報及び視線検知システム6により検出された車両運転者の視点位置に基づいて、当該視点位置からフロントガラス越しに前方を見たときの走行レーンの両端形状に対応した2本のガイド線を示す画像情報を生成してディスプレイユニット1へ出力する。また、システム制御部2は、カメラ7により撮影した画像データを解析したデータに基づいて車両前方のレーンマーカの画像を抽出できない状態にあった場合には、位置計測システム4からの車両現在位置情報により認識した自車両の位置に基づいて道路地図データベース5にアクセスすることにより、自車両の走行レーンの両端形状及び位置を示す道路形状データを車線情報として取得し、この車線情報及び視線検知システム6により検出された車両運転者の視点位置に基づいて、当該視点位置からフロントガラス越しに前方を見たときの走行レーンの両端形状に対応した2本のガイド線を示す画像情報を生成してディスプレイユニット1へ出力する。
上記ディスプレイユニット1は、入力された画像情報を車両のフロントガラス越しに表示することにより、自車両の走行レーンの両端形状を示す2本のガイド線(図3の「G」参照)を、車両運転者の前方視界に実際の走行レーンと対応付けた形態で表示するようになる。これにより、車両運転者は、表示された2本のガイド線を実際の走行レーンと同等の感覚で認識できるようになる。
この場合、走行路面に積雪がない状態では、ガイド線の表示位置に対応した背景色(道路の色)が前記解析データに基づいて検出され、その検出結果に基づいて、上記ガイド線の表示色と背景色とのコントラスト(明度の差)が規定値以上となるように設定される。この結果、表示されたガイド線が、車両運転者からフロントガラス越しに見える背景(特には、ガイド線と重畳した状態となる道路面)に埋もれて視認し難くなる事態を未然に防止できるものであり、結果的に、そのガイド線の視認性を周囲の環境に影響されずに確保できることになる。
また、走行路面に積雪がある状態では、ガイド線の表示色が、雪面との差異が明瞭な非同化色となるように設定されるから、車両運転者は、積雪道路の走行時においても自車両の走行レーンを確実に認識可能になる。
尚、上記のように、車線情報をカメラ7により撮影した画像データを解析したデータから取得する状態時には、カメラ7の感度が人間の視感度より高いという一般的性質があるから、車両運転者にあっては、自分自身で自車両の走行レーンを示すレーンマーカを認識できないような状況下においても、ディスプレイユニット1により表示されたガイド線に基づいて走行レーンの確認を的確に行い得るようになる。
(その他の実施の形態)
本発明は上記した実施例に限定されるものではなく、例えば以下のような変形または拡張が可能である。
積雪がない状態では、ガイド線を無彩色で表示する例を説明したが、有彩色で表示する構成としても良いものである。図4には、このような表示を行う場合のシステム制御部2での制御例が示されている。即ち、この図4に示した制御例は、図2中のステップS6〜S9に代えて、ステップS6′〜S9′を実行する構成とした点に特徴がある。具体的には、ステップS5(図2参照)の実行後及びステップS14(図2参照)で「NO」と判断されたときに実行されるステップS6′では、カメラ7による撮影画像を解析したデータに基づいて、ガイド線の表示位置に対応した背景色(道路の色)の色相を判断する。色相が青に近い場合には、ガイド線の設定色を所定割合だけ赤に近づけ(ステップS7′)、色相が赤に近い場合には、ガイド線の設定色を所定割合だけ青に近づける(ステップS8′)。上記ステップS7′或いはS8′の実行後には、ガイド線の設定色と背景色との色度差(各色の色相の差)が規定値以上か否かを判断し(ステップS9′)、規定値未満であった場合にはステップS6′へ戻るが、規定値以上であった場合には、前記設定色のガイド線を示す画像情報を、表示制御部3を通じてディスプレイユニット1に与えることにより、当該画像情報に対応した2本のガイド線をフロントガラス越しに虚像として表示するステップS10を実行した後にリターンする。
カメラ7を暗所撮影可能な構成としても良く、この構成によれば、夜間走行時などにおいても正確な車線情報を取得できるから、ガイド線の表示を確実に行い得るようになる。
例えば、カメラ7により撮影した画像データ或いは道路地図データベース5から取得する車線情報に、自車両の走行レーンの両端に沿って側溝や段差などの障害物あることを示す障害物情報を含むように構成した上で、システム制御部2では、車線情報に障害物情報が含まれるときには、演算により生成したガイド線の表示色を予め決められた危険色(例えば赤色或いは橙色)に設定する構成としても良い。この構成によれば、自車両の走行レーンの両端に沿って側溝や段差などの障害物がある場合に、ディスプレイユニット1により表示されるガイド線が危険色で表現されることになるから、例えば積雪道路の走行時や夜間走行時のように障害物を視認し辛い状況下においても、車両運転者に対して障害物についての注意を喚起できるようになり、車両の安全運転を行う上で有益になる。
車線ガイドとして2本のガイド線を用いる構成としたが、走行レーン全体を単一の色(無彩色も含む)で表現した形態の車線ガイドであっても良い。
車線ガイドの表示色の設定を行うための表示色調整手段の機能をシステム制御部2において実現する構成としたが、当該機能を表示制御部3に持たせる構成としても良い。
カメラによる撮影画像に基づいて車線情報を取得する構成は、必要に応じて設ければ良く、常時において道路地図データベース5から車線情報を取得する構成としても良い。また、道路地図データベース5は車両に搭載されるものを例に挙げたが、車両とのデータ通信が可能な外部施設に道路地図データベースを構築する構成も可能である。
本発明の一実施例を示す装置全体の機能ブロック図 システム制御部による制御内容を示すフローチャート 車両運転席の周辺を簡略的に表現した図 変形例を示す要部のフローチャート
符号の説明
1はディスプレイユニット(表示手段)、2はシステム制御部(情報取得手段、画像情報生成手段、背景色検出手段、表示色調整手段)、4は位置計測システム(位置検出手段)、5は道路地図データベース、6は視線検知システム(視点検出手段)、7はカメラ(撮像手段)を示す。

Claims (8)

  1. 入力された画像情報を車両のフロントガラスに表示、またはフロントガラス越しに表示する表示手段と、
    自車両の走行レーンの両端に沿って側溝などの障害物があることを示す障害物情報を含む情報であって、自車両の走行レーンの形状及び位置を示す車線情報を取得する情報取得手段と、
    車両運転者の視点位置を検出する視点検出手段と、
    この視点検出手段が検出した視点位置から前記フロントガラス越しに前方を見たときの走行レーンの形状に対応した車線ガイドを示す画像情報を、当該視点位置及び前記情報取得手段が取得した車線情報に基づいた演算により生成して前記表示手段へ出力する画像情報生成手段と、
    車両前方の道路面の色を検出する背景色検出手段と、
    前記表示手段による車線ガイドの表示色を、前記背景色検出手段による検出色と区別可能な色に設定する表示色調整手段と、
    を備え、
    前記表示色調整手段は、自車両の走行レーンの両端に沿って側溝などの障害物がある場合において、前記画像情報生成手段が、前記車線ガイドを示す画像情報を、前記視点位置及び前記障害物情報を含む車線情報に基づいた演算により生成した場合に、前記車線ガイドの表示色を予め決められた危険色に設定することを特徴とする車両用走行支援装置。
  2. 前記車線ガイドは、自車両の走行レーンの両端形状に対応した2本のガイド線であることを特徴とする請求項1記載の車両用走行支援装置。
  3. 前記表示色調整手段は、前記車線ガイドの表示色の明度を、前記背景色検出手段による検出色の明度との差が所定値以上となるように設定することを特徴とする請求項1または2記載の車両用走行支援装置。
  4. 前記表示色調整手段は、前記車線ガイドの表示色の色相を、前記背景色検出手段による検出色の色相との差が所定値以上となるように設定することを特徴とする請求項1または2記載の車両用走行支援装置。
  5. 自車両の位置を検出する位置検出手段を備え、
    前記情報取得手段は、走行レーンの形状及び位置を示す車線情報を格納した道路地図データベースにアクセス可能に設けられ、前記位置検出手段の検出出力に基づいて自車両の走行レーンの形状及び位置を示す車線情報を前記道路地図データベースから取得するように構成されていることを特徴とする請求項1〜4の何れかに記載の車両用走行支援装置。
  6. 自車両の走行路面の積雪状態を検出する積雪検知手段を備え、
    前記表示色調整手段は、前記積雪検知手段が検出状態にあるときには、前記車線ガイドの表示色を雪面との差異が明瞭な非同化色となるように設定することを特徴とする請求項1〜5の何れかに記載の車両用走行支援装置。
  7. 自車両前方を撮影する撮像手段を備え、
    前記情報取得手段は、前記撮像手段による撮影画像から自車両の走行レーンの形状及び位置を示す車線情報を抽出するように構成されていることを特徴とする請求項1〜5の何れかに記載の車両用走行支援装置。
  8. 前記撮像手段は、暗所撮影可能なカメラであることを特徴とする請求項7記載の車両用走行支援装置。
JP2005175009A 2005-06-15 2005-06-15 車両用走行支援装置 Expired - Fee Related JP4882285B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005175009A JP4882285B2 (ja) 2005-06-15 2005-06-15 車両用走行支援装置
US11/451,377 US7486175B2 (en) 2005-06-15 2006-06-13 Vehicle drive assist system
DE102006027679.5A DE102006027679B4 (de) 2005-06-15 2006-06-14 Fahrunterstützungssystem für Fahrzeuge
CN200610092523A CN100582673C (zh) 2005-06-15 2006-06-15 车辆驾驶辅助系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005175009A JP4882285B2 (ja) 2005-06-15 2005-06-15 車両用走行支援装置

Publications (2)

Publication Number Publication Date
JP2006350617A JP2006350617A (ja) 2006-12-28
JP4882285B2 true JP4882285B2 (ja) 2012-02-22

Family

ID=37489795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005175009A Expired - Fee Related JP4882285B2 (ja) 2005-06-15 2005-06-15 車両用走行支援装置

Country Status (4)

Country Link
US (1) US7486175B2 (ja)
JP (1) JP4882285B2 (ja)
CN (1) CN100582673C (ja)
DE (1) DE102006027679B4 (ja)

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005046672A1 (de) * 2005-09-29 2007-04-05 Robert Bosch Gmbh Nachtsichteinrichtung
KR100775354B1 (ko) * 2006-04-27 2007-11-09 팅크웨어(주) 네비게이션 배경 정보 제공 방법 및 이를 이용한네비게이션 시스템
DE102007016868A1 (de) * 2007-04-10 2008-10-16 Robert Bosch Gmbh Verfahren zur Anzeige eines Fahrbahnverlaufs und Steuereinrichtung
JP5064870B2 (ja) * 2007-04-17 2012-10-31 株式会社日立製作所 デジタル道路地図の生成方法及び地図生成システム
KR100921427B1 (ko) 2007-12-17 2009-10-14 한국전자통신연구원 영상 기반 내비게이션을 위한 가상차선을 생성하는 방법 및그 장치
JP5259277B2 (ja) * 2008-07-02 2013-08-07 本田技研工業株式会社 運転支援装置
EP2351668A4 (en) * 2008-09-12 2013-03-13 Toshiba Kk IMAGE RADIATION SYSTEM AND IMAGE RADIATION PROCESS
JP5197349B2 (ja) * 2008-12-25 2013-05-15 矢崎総業株式会社 ヘッドアップディスプレイ装置
US8704653B2 (en) 2009-04-02 2014-04-22 GM Global Technology Operations LLC Enhanced road vision on full windshield head-up display
US8384532B2 (en) 2009-04-02 2013-02-26 GM Global Technology Operations LLC Lane of travel on windshield head-up display
US8376595B2 (en) 2009-05-15 2013-02-19 Magna Electronics, Inc. Automatic headlamp control
US8374390B2 (en) * 2009-06-24 2013-02-12 Navteq B.V. Generating a graphic model of a geographic object and systems thereof
DE102009041205A1 (de) * 2009-09-11 2011-03-24 Valeo Schalter Und Sensoren Gmbh Verfahren und Vorrichtung zur Regelung einer Anzeigevorrichtung in einem Fahrzeug
US20110301813A1 (en) * 2010-06-07 2011-12-08 Denso International America, Inc. Customizable virtual lane mark display
US20120038663A1 (en) * 2010-08-12 2012-02-16 Harald Gustafsson Composition of a Digital Image for Display on a Transparent Screen
KR101732076B1 (ko) * 2010-12-22 2017-05-02 엘지전자 주식회사 전자 기기 및 전자 기기의 제어 방법
TWI422504B (zh) * 2010-12-31 2014-01-11 Altek Corp 車用設備控制系統及其方法
KR20120113579A (ko) * 2011-04-05 2012-10-15 현대자동차주식회사 길안내 정보의 윈드쉴드 표시 장치 및 그 방법
KR101208296B1 (ko) * 2011-04-11 2012-12-05 삼성전기주식회사 온 스크린 디스플레이 처리장치 및 이를 포함하는 카메라 모듈의 리프로그래밍 시스템
US20120309321A1 (en) * 2011-05-31 2012-12-06 Broadcom Corporation Synchronized calibration for wireless communication devices
JP5830987B2 (ja) 2011-07-06 2015-12-09 ソニー株式会社 表示制御装置、表示制御方法およびコンピュータプログラム
US8692739B2 (en) * 2011-09-22 2014-04-08 GM Global Technology Operations LLC Dynamic information presentation on full windshield head-up display
US8781170B2 (en) * 2011-12-06 2014-07-15 GM Global Technology Operations LLC Vehicle ghosting on full windshield display
JP2013224081A (ja) 2012-04-20 2013-10-31 Kyocera Corp 画像処理装置および走行支援方法
JP5948170B2 (ja) * 2012-07-09 2016-07-06 株式会社デンソーアイティーラボラトリ 情報表示装置、情報表示方法およびプログラム
JP5783155B2 (ja) 2012-10-05 2015-09-24 株式会社デンソー 表示装置
JP5787099B2 (ja) * 2012-11-06 2015-09-30 コニカミノルタ株式会社 案内情報表示装置
JP2014172406A (ja) * 2013-03-05 2014-09-22 Funai Electric Co Ltd ヘッドアップディスプレイ装置、ヘッドアップディスプレイ装置の表示方法およびヘッドアップディスプレイ装置のプログラム
JP6186905B2 (ja) * 2013-06-05 2017-08-30 株式会社デンソー 車載表示装置およびプログラム
KR101532653B1 (ko) * 2013-08-12 2015-06-30 재단법인대구경북과학기술원 가상 차선 생성 시스템 및 그 방법
EP3761223A1 (en) * 2013-12-04 2021-01-06 Mobileye Vision Technologies Ltd. Adjusting lane offset autonomously
WO2015136874A1 (ja) * 2014-03-13 2015-09-17 パナソニックIpマネジメント株式会社 表示制御装置、表示装置、表示制御プログラム、表示制御方法、及び記録媒体
GB2524514B (en) * 2014-03-25 2017-08-16 Jaguar Land Rover Ltd Navigation system
WO2015144751A1 (en) * 2014-03-25 2015-10-01 Jaguar Land Rover Limited Navigation system
DE112015002362T5 (de) * 2014-05-21 2017-01-26 Yazaki Corporation Sicherheitsprüfungs-hilfsvorrichtung
WO2016051447A1 (ja) * 2014-09-29 2016-04-07 三菱電機株式会社 情報表示制御システムおよび情報表示制御方法
JP6518497B2 (ja) * 2014-09-30 2019-05-22 株式会社Subaru 車両の視線誘導装置
JP5935858B2 (ja) * 2014-11-18 2016-06-15 株式会社デンソー 表示装置
US9387844B2 (en) * 2014-11-24 2016-07-12 Toyota Motor Engineering & Manufacturing North America, Inc. Environment-based anti-lock braking system
IL236243A (en) 2014-12-14 2016-08-31 Elbit Systems Ltd Visual enhancement of color icons is shown
CN104833366B (zh) * 2015-03-30 2017-07-11 北汽福田汽车股份有限公司 虚拟车引领式导航控制装置、控制方法、系统及车辆
US9475494B1 (en) 2015-05-08 2016-10-25 Toyota Motor Engineering & Manufacturing North America, Inc. Vehicle race track driving assistance
KR102402359B1 (ko) * 2015-10-28 2022-05-27 주식회사 에이치엘클레무브 신뢰도 정보를 제공하는 전방 교통 상황 표시 장치 및 방법
KR101767434B1 (ko) * 2015-11-17 2017-08-14 현대오트론 주식회사 헤드업 디스플레이를 이용한 차선 표시장치 및 그 방법
US20190004313A1 (en) * 2015-12-24 2019-01-03 Kyocera Corporation Vehicular head-up display system
DE102016105146A1 (de) * 2016-03-21 2017-09-21 Valeo Schalter Und Sensoren Gmbh Verfahren zum Betreiben einer Kopf-oben-Anzeigevorrichtung für ein Kraftfahrzeug mit Farbwertanpassung, Kopf-oben-Anzeigevorrichtung sowie Kraftfahrzeug
JP6728973B2 (ja) * 2016-05-23 2020-07-22 日産自動車株式会社 表示装置および表示装置の制御方法
JP6607163B2 (ja) * 2016-10-07 2019-11-20 株式会社デンソー 画像処理装置
DE102016012313A1 (de) * 2016-10-15 2018-04-19 Man Truck & Bus Ag Vorrichtung zur Unterstützung eines Fahrers eines Fahrzeugs mit einer Projektionseinrichtung
DE102016223908A1 (de) * 2016-12-01 2018-06-07 Bayerische Motoren Werke Aktiengesellschaft Projektionsanzeigesystem sowie Verfahren zum Betreiben eines Projektionsanzeigesystems
KR101946334B1 (ko) * 2016-12-07 2019-05-10 주식회사 만도 차량의 정상 경로 주행 장치 및 방법
JP6616275B2 (ja) * 2016-12-15 2019-12-04 株式会社Soken 運転支援装置
US10168174B2 (en) * 2017-05-09 2019-01-01 Toyota Jidosha Kabushiki Kaisha Augmented reality for vehicle lane guidance
JP6887743B2 (ja) 2017-05-16 2021-06-16 三菱電機株式会社 表示制御装置および表示制御方法
JP2019117432A (ja) * 2017-12-26 2019-07-18 パイオニア株式会社 表示制御装置
JP7184083B2 (ja) * 2018-07-25 2022-12-06 日本精機株式会社 車両用表示装置、車両用表示装置の制御方法、車両用表示装置の制御プログラム
US10884249B2 (en) * 2018-10-23 2021-01-05 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Combiner head up display with separate infrared function
JP7147590B2 (ja) * 2019-01-25 2022-10-05 トヨタ自動車株式会社 運転支援装置
CN109795414A (zh) * 2019-01-25 2019-05-24 苏州车萝卜汽车电子科技有限公司 用于增强现实抬头显示装置的图像信息处理方法及装置、设备
JP7099354B2 (ja) * 2019-02-15 2022-07-12 トヨタ自動車株式会社 運転支援装置
CN111619343B (zh) * 2019-02-28 2022-02-25 北京新能源汽车股份有限公司 一种抬头显示器模式控制方法、系统、设备及汽车
CN110031010A (zh) * 2019-04-09 2019-07-19 百度在线网络技术(北京)有限公司 车辆引导路线绘制方法、装置及设备
DE102019208212A1 (de) * 2019-06-05 2020-12-10 Audi Ag Verfahren zum Betrieb eines Kraftfahrzeugs, Computerprogrammprodukt und Kraftfahrzeug
WO2021029016A1 (ja) * 2019-08-13 2021-02-18 本田技研工業株式会社 ガイド表示方法
JP2022546286A (ja) * 2019-08-20 2022-11-04 トゥロック,ダニエル 車両用の可視化補助装置
US10981507B1 (en) 2019-11-07 2021-04-20 Focused Technology Solutions, Inc. Interactive safety system for vehicles
GB2608362A (en) * 2021-06-24 2023-01-04 Continental Automotive Gmbh A method for adapting color of an overlay displayed in a display unit of a vehicle and a system thereof
DE102021211710A1 (de) 2021-10-18 2023-04-20 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Ausgeben eines Steuersignals an eine fahrzeugseitige Anzeigeeinheit eines zumindest eine erste und eine zweite Kameraeinheit umfassenden Fahrzeugs

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0570037A1 (en) * 1992-05-15 1993-11-18 General Motors Corporation Head-up display system
JPH0648242A (ja) * 1992-06-01 1994-02-22 Nippondenso Co Ltd 車両用端部位置表示装置
JPH06247184A (ja) 1993-03-01 1994-09-06 Aisin Seiki Co Ltd 車上表示装置
JP3260503B2 (ja) 1993-08-19 2002-02-25 株式会社東芝 走路認識装置および走路認識方法
US6891563B2 (en) * 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
JPH10138792A (ja) 1996-11-13 1998-05-26 Mitsubishi Motors Corp 車両の走行制御装置
JP3473321B2 (ja) * 1997-05-09 2003-12-02 トヨタ自動車株式会社 車両用表示装置
JP2000030181A (ja) * 1998-07-14 2000-01-28 Kansei Corp 路面異常検出装置及びそれを用いた衝突警報装置
JP4075026B2 (ja) 1998-12-03 2008-04-16 マツダ株式会社 車両の障害物警報装置
JP4075172B2 (ja) 1998-12-24 2008-04-16 マツダ株式会社 車両の障害物警報装置
JP3680243B2 (ja) * 1999-01-20 2005-08-10 トヨタ自動車株式会社 走路形状表示装置および地図データベース記録媒体
JP3298851B2 (ja) 1999-08-18 2002-07-08 松下電器産業株式会社 多機能車載カメラシステムと多機能車載カメラの画像表示方法
US6647270B1 (en) 1999-09-10 2003-11-11 Richard B. Himmelstein Vehicletalk
GB0004351D0 (en) * 2000-02-25 2000-04-12 Secr Defence Illumination and imaging devices and methods
JP4698002B2 (ja) 2000-07-11 2011-06-08 マツダ株式会社 車両の表示装置
US6977630B1 (en) * 2000-07-18 2005-12-20 University Of Minnesota Mobility assist device
US7135961B1 (en) 2000-09-29 2006-11-14 International Business Machines Corporation Method and system for providing directions for driving
JP3630100B2 (ja) * 2000-12-27 2005-03-16 日産自動車株式会社 車線検出装置
DE10131720B4 (de) 2001-06-30 2017-02-23 Robert Bosch Gmbh Head-Up Display System und Verfahren
US7065257B2 (en) * 2001-09-03 2006-06-20 Kabushiki Kaisha Toyota Chuo Kenkyusho Image processing method and apparatus
US6580984B2 (en) * 2001-09-07 2003-06-17 Visteon Global Technologies, Inc. Method and device for supplying information to a driver of a vehicle
JP3848554B2 (ja) 2001-10-11 2006-11-22 株式会社日立製作所 危険情報集配信装置、警報発生装置、車両危険情報送信装置および経路探索装置
US20030141990A1 (en) 2002-01-30 2003-07-31 Coon Bradley S. Method and system for communicating alert information to a vehicle
AU2003214595A1 (en) * 2002-03-07 2003-09-16 Yechezkal Evan Spero Enhanced vision for driving
DE10210546A1 (de) 2002-03-09 2003-09-18 Bosch Gmbh Robert Verfahren und System zur automatischen Fahrzeugführung
US20040021831A1 (en) * 2002-07-31 2004-02-05 Canon Kabushiki Kaisha, Tokyo, Japan Projection type image display apparatus and image display system
US7124006B2 (en) 2002-08-19 2006-10-17 Ron Yaacov Davidson Vehicle identification means detection and evasion system
DE10242293B4 (de) 2002-09-12 2007-05-16 Audi Ag Fahrzeugführungssystem
JP4397164B2 (ja) 2003-01-14 2010-01-13 トヨタ自動車株式会社 障害物検出装置及び障害物検出方法
DE10303044A1 (de) * 2003-01-24 2004-08-12 Daimlerchrysler Ag Vorrichtung und Verfahren zur Verbesserung der Sicht in Kraftfahrzeugen
JP4134785B2 (ja) 2003-03-28 2008-08-20 株式会社デンソー 表示装置
JP2005038381A (ja) 2003-06-30 2005-02-10 Toshiba Corp データ分析装置、データ分析プログラム及び携帯端末
JP2005067370A (ja) * 2003-08-22 2005-03-17 Nissan Motor Co Ltd 車両用表示装置
JP4075743B2 (ja) 2003-09-01 2008-04-16 株式会社デンソー 車両走行支援装置
DE10346510B4 (de) * 2003-10-02 2007-11-15 Daimlerchrysler Ag Vorrichtung zur Verbesserung der Sichtverhältnisse in einem Kraftfahrzeug
JP2005138801A (ja) * 2003-11-10 2005-06-02 Calsonic Kansei Corp ヘッドアップディスプレイ装置
US7389178B2 (en) 2003-12-11 2008-06-17 Greenroad Driving Technologies Ltd. System and method for vehicle driver behavior analysis and evaluation
JP2005170323A (ja) 2003-12-15 2005-06-30 Denso Corp 走路形状表示装置
US7561966B2 (en) * 2003-12-17 2009-07-14 Denso Corporation Vehicle information display system
KR100710000B1 (ko) 2004-06-09 2007-04-20 주식회사 오토웍스 지피에스를 이용한 안전운행안내 시스템
JP2006036166A (ja) * 2004-07-30 2006-02-09 Nippon Seiki Co Ltd 車両用表示装置
US7495582B2 (en) 2005-03-08 2009-02-24 Northrop Grumman Corporation Geographic information storage, transmission and display system
JP4815943B2 (ja) 2005-08-19 2011-11-16 株式会社デンソー 危険箇所情報表示装置

Also Published As

Publication number Publication date
DE102006027679B4 (de) 2018-05-30
DE102006027679A1 (de) 2006-12-21
CN100582673C (zh) 2010-01-20
US7486175B2 (en) 2009-02-03
CN1880919A (zh) 2006-12-20
JP2006350617A (ja) 2006-12-28
US20070013495A1 (en) 2007-01-18

Similar Documents

Publication Publication Date Title
JP4882285B2 (ja) 車両用走行支援装置
US8354944B2 (en) Night vision device
US9723243B2 (en) User interface method for terminal for vehicle and apparatus thereof
US7605773B2 (en) Head-up display system and method for carrying out the location-correct display of an object situated outside a vehicle with regard to the position of the driver
US11325471B2 (en) Method for displaying the course of a safety zone in front of a transportation vehicle or an object by a display unit, device for carrying out the method, and transportation vehicle and computer program
KR101680023B1 (ko) 차량에 장착된 차선 인식 시스템과 교통 표지 인식 시스템의 융합 방법
KR101433837B1 (ko) 차량의 나이트-뷰 시스템 동작 방법 및 대응하는 나이트-뷰시스템
US10300853B2 (en) Sign display apparatus and method for vehicle
US20160185219A1 (en) Vehicle-mounted display control device
JP5299026B2 (ja) 車両用表示装置
US20090187333A1 (en) Method and System for Displaying Navigation Instructions
JPWO2012169029A1 (ja) 車線逸脱防止支援装置、車線逸脱防止方法、記憶媒体
US20190244515A1 (en) Augmented reality dsrc data visualization
CN108791062B (zh) 动态信息系统及操作方法
JP2008222153A (ja) 合流支援装置
JP2010524102A (ja) 車道経過を表示する方法および制御装置
EP3600938A1 (en) Device and method for augmented reality driving assistance
US20190061747A1 (en) Method For Assisting A Driver Of A Motor Vehicle During A Turning Manoeuvre, Driver Assistance System And Motor Vehicle
JP4983558B2 (ja) 車両用運転支援装置
JP4893593B2 (ja) 車両用運転支援装置
CN113183758A (zh) 一种基于增强现实的辅助驾驶方法及系统
JP6424775B2 (ja) 情報表示装置
JP2009149306A (ja) 車両用表示装置
JP5192009B2 (ja) 車両の周辺監視装置
EP3580728A1 (fr) Dispositif d'aide a la navigation routiere de nuit

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees