JP2008257403A - 車両用運転支援装置 - Google Patents

車両用運転支援装置 Download PDF

Info

Publication number
JP2008257403A
JP2008257403A JP2007097793A JP2007097793A JP2008257403A JP 2008257403 A JP2008257403 A JP 2008257403A JP 2007097793 A JP2007097793 A JP 2007097793A JP 2007097793 A JP2007097793 A JP 2007097793A JP 2008257403 A JP2008257403 A JP 2008257403A
Authority
JP
Japan
Prior art keywords
vehicle
image
driving support
captured
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007097793A
Other languages
English (en)
Other versions
JP4821685B2 (ja
Inventor
Makiko Sugiura
杉浦  真紀子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007097793A priority Critical patent/JP4821685B2/ja
Publication of JP2008257403A publication Critical patent/JP2008257403A/ja
Application granted granted Critical
Publication of JP4821685B2 publication Critical patent/JP4821685B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

【課題】天候に係らず適切な運転支援を行うことができる車両用運転支援装置を提供すること。
【解決手段】 車両用運転支援装置100の制御装置20は、運転支援を開始すると天気が所定の条件を満たすか否かを判定し(ステップS20、S21)、天気が所定の条件を満たす場合には、カメラ40にて車両の周囲の画像を撮像しつつ、その画像を表示装置14の表示画面140に表示し(ステップS22)、天気が所定の条件を満たさない場合には、記憶装置50にて記憶された画像のなかから現在の車両の位置と向きとに対応する過去の画像を抽出して(ステップS24、S25)、その過去の画像と現在の超音波センサ30の検出結果とを表示装置14の表示画面140に表示する(ステップS26〜S30)。
【選択図】図1

Description

本発明は、車両周囲の情報を表示装置に表示することによって、ドライバーの運転を支援する車両用運転支援装置に関するものである。
従来、車両用運転支援装置の一例として、特許文献1に示す車両用駐車支援装置がある。特許文献1に示す車両用駐車支援装置は、カメラにより把握した自車両の周囲状況の画像情報に障害物や目標軌道等に関する情報を重ね合わせて表示装置に表示する。
特開2003−34206号公報
しかしながら、特許文献1に示す駐車支援装置においては、雨や雪などが降っている場合、カメラのレンズなどに雨や雪が付着することがある。このようにレンズなどに雨粒や雪が付着したカメラにて撮像した画像を表示装置に表示すると、画像が見にくく、車両周囲の状況が確認しにくいという問題があった。したがって、特許文献1に示す駐車支援装置は、雨や雪などが降っている場合には適切な駐車支援を行うことができない可能性がある。
本発明は、上記問題点に鑑みなされたものであり、天候に係らず適切な運転支援を行うことができる車両用運転支援装置を提供することを目的とする。
上記目的を達成するために請求項1に記載の車両用運転支援装置は、車両の車室内に設けられる表示装置と、車両の周囲の画像を撮像する撮像手段と、車両の位置を検出する位置検出手段と、車両の向きを検出する方向検出手段と、車両の周囲の障害物を検出する障害物検出手段と、天気が所定の条件を満たす場合に撮像した画像と、その画像を撮像した際の車両の位置と、画像を撮像した際の車両の向きとを関連付けて記憶する記憶手段と、天気が所定の条件を満たす場合には、撮像手段にて車両の周囲の画像を撮像しつつ画像を表示装置に表示し、天気が所定の条件を満たさない場合には、記憶手段にて記憶された画像のなかから現在の車両の位置と向きとに対応する過去の画像を抽出して、過去の画像と現在の障害物検出手段の検出結果とを表示装置に表示する前記表示制御手段とを備えることを特徴とするものである。
このように、天気が所定の条件を満たさない場合でも、過去の画像と現在の障害物検出手段の検出結果とを表示装置に表示することによって、天気が所定の条件を満たす場合に撮像した画像を背景画像として現在の車両と障害物との位置関係を車両のユーザーに案内することができるので、天候に係らず適切な運転支援を行うことができる。
また、請求項2に示すように、障害物検出手段は、超音波センサを用いてもよい。
このようにすることによって、車両の近辺にある障害物を車両のユーザーに案内することができる。
また、請求項3に示すように、超音波センサは、複数の受信部がアレイ化されるようにしてもよい。
このようにすることによって、より一層正確な障害物に関する情報を車両のユーザーに案内することができるので好ましい。
また、請求項4に示すように、表示制御手段は、記憶手段にて記憶された過去の画像と現在の障害物検出手段の検出結果とを表示装置に表示する場合、過去の画像と現在の障害物検出手段の検出結果とを比較することによって、過去の画像を撮像した際の車両と周囲の障害物との位置関係と、現在の車両と周囲の障害物との位置関係とが対応するように過去の画像を補正して表示装置に表示するようにしてもよい。
このようにすることによって、より一層適切な運転支援を行うことができる。
また、請求項5に示すように、記憶手段は、撮像手段にて撮像された画像を記憶する場合、車両の位置、車両の向きに加えて、障害物検出手段の検出結果を関連付けて記憶するものであって、表示制御手段は、記憶手段にて記憶された過去の画像と現在の障害物検出手段の検出結果とを表示装置に表示する場合、過去の画像に関連付けられた障害物検出手段の検出結果と現在の障害物検出手段の検出結果とを比較することによって、過去の画像を撮像した際の車両と周囲の障害物との位置関係と、現在の車両と周囲の障害物との位置関係とが対応するように過去の画像を補正して表示装置に表示するようにしてもよい。
このように、同じ障害物検出手段の過去の検出結果と現在の検出結果とを比較することによって、処理を容易にすることができると共に、より一層正確にズレを抑制することができる。
また、記憶手段にて記憶された過去の画像と障害物検出手段の検出結果とを表示装置に表示する場合、請求項6に示すように、現在の撮像手段にて撮像された画像にかえて、記憶手段にて記憶された過去の画像と障害物検出手段の検出結果とを表示するようにしてもよいし、請求項7に示すように、現在の撮像手段にて撮像された画像と、記憶手段にて記憶された過去の画像と、障害物検出手段の検出結果とを表示するようにしてもよい。
また、請求項8に示すように、表示制御手段は、記憶手段にて記憶された過去の画像と現在の障害物検出手段の検出結果とを比較して、過去の画像において、現在の障害物検出手段の検出結果と一致しない障害物は消去するようにしてもよい。
車両の周囲には、常に同じ障害物が存在するとは限らない。そこで請求項8に示すようにすることによって、現在の車両の周囲に存在する障害物のみを車両のユーザーに案内することができるので好ましい。
また、請求項9に示すように、天気が所定の条件を満たすか否かを判定するために、降雨雪を検出する降雨雪検出装置を備えるようにしてもよい。
このようにすることによって、自動で天気が所定の条件を満たすか否かを判定することができる。
また、請求項10に示すように、車両が同じ位置に駐車した回数をカウントするカウンタ装置を備え、記憶手段は、カウンタ装置によってカウントされた回数が所定回数に達した場合であり、天気が所定の条件を満たす場合に、天気が所定の条件を満たす場合に撮像した画像と、画像を撮像した際の車両の位置と、画像を撮像した際の車両の向きとを関連付けて記憶するようにしてもよい。
このようにすることによって、自動で画像の記憶を開始することができるので、ユーザーによる操作を省くことができる。
また、請求項11に示すように、ユーザーによって操作されるものであり、操作に応じて操作信号を出力する操作装置を備えるものであって、記憶手段は、操作装置からの操作信号が出力されると、天気が所定の条件を満たす場合に撮像した画像と、画像を撮像した際の車両の位置と、画像を撮像した際の車両の向きとを関連付けて記憶するようにしてもよい。
このようにすることによって、ユーザーが適切であると判断したときに画像の記憶を開始することができる。
以下、本発明の実施の形態を図に基づいて説明する。図1は、本発明の実施の形態における車両用運転支援装置100の概略構成を示すブロック図である。図2は、本発明の実施の形態における車両用運転支援装置100を搭載した車両のイメージ図である。図3は、本発明の実施の形態における超音波センサ30の概略構成を示す平面図である。
図1に示すように、本実施の形態における車両用運転支援装置100は、ナビゲーション装置10、制御装置20、超音波センサ30、カメラ40、記憶装置50などを備える。
ナビゲーション装置10は、位置検出器11、地図データ入力器12、操作デバイス13、表示装置14、表示画面140、スピーカ15、及びナビゲーション装置10全体の制御を行うナビ制御回路(図示省略)などを備える。
位置検出器11(位置検出手段、方向検出手段)は、車両の現在の位置座標(以下、現在いちとも称する)及び車両の向きを検出するための装置として、例えばGPS(Global Positioning System)受信機、ジャイロスコープ、距離センサ、地磁気センサなどの各種センサを備える。
地図データ入力器12は、地図表示や経路案内等に用いる道路データ、目印データ、施設データ、背景データ、駐車スペース位置等の道路系データと目的地検索や周辺施設検索等に用いる施設名や電話番号などの検索データ系などの地図データからなる地図データベースを記憶する記憶媒体である。この記憶媒体としては、データの容量や取扱上の点から、書き換え可能なHDDなどからなる。
操作デバイス13は、ユーザーの操作によって目的地の位置情報などを含む目的地情報などの各種情報、及び現在位置から目的地までの案内経路の設定などのナビゲーション装置10が実行する機能に対応付けられた操作信号などをナビ制御回路に入力するためのものである。また、操作デバイス13は、表示装置14と一体に構成され表示画面上に設定されるタッチスイッチ、表示装置14の表示画面周囲に設けられたプッシュ型のハードスイッチ、表示装置14の表示画面に表示されたカーソルを多方向に操作することができるジョイスティックなどである。なお、これらのスイッチは、単独で用いるようにしてもよいし、複数のスイッチを併用するようにしてもよい。
表示装置14は、インパネに設けられるカラー液晶パネルなどのメインモニタ(表示画面140)などを備える。この表示装置14は、地図データ入力器12に記憶されている地図データなどによって生成される車両周辺の道路地図、後ほど説明するカメラ40にて撮像された画像、後ほど説明する記憶装置50に記憶されている画像などを表示する。スピーカ15は、経路案内や運転支援などの音声を出力するものである。
なお、ナビ制御回路は、マイクロコンピュータを主体として構成されるもので、ROM、RAM、EEPROMなどのメモリやインターフェース回路あるいはデータ転送用のバスラインを備えている。そして、ナビ制御回路は、操作デバイス13からの操作信号、ROM、RAM、EEPROMなどに記憶されるプログラムによって目的地の設定、案内経路の設定、設定した案内経路に基づく経路案内などを行う。
制御装置20(表示制御手段)は、マイクロコンピュータを主体として構成されるもので、ROM、RAM、EEPROMなどのメモリやインターフェース回路あるいはデータ転送用のバスラインを備えている。そして、制御装置20は、ナビゲーション装置10などからの信号に基づいて、カメラ40で撮像された画像を表示装置14に表示することによって運転支援などを行うものである。なお、制御装置20の処理動作に関しては、後ほど詳しく説明する。
超音波センサ30(障害物検出手段)は、車両の周囲(後方)の障害物を検出するものであり、図2に示すように、車両のリヤバンパーなどに搭載されるものである。また、超音波センサ30は、図3に示すように、1個の送信素子(送信部)301と4個の受信素子(受信部)302a〜302dとをアレイ化して同一の半導体基板に集積化されている。
ここで、図4(a)〜(c)により、超音波センサ30による障害物の検出原理を説明する。尚、図4(a)〜(c)では、図3に示す超音波センサ30の送信素子301を地面に対して上側にして、受信素子302a〜302dを下側にして、垂直に保持して使用することを想定している。
図4(a)は、地面に平行なX−Y面内において、超音波センサ30の受信素子302a,302bと、障害物200で反射され受信素子302a,302bに入射する超音波の状態を模式的に示した図である。図4(b)は、地面に垂直な面内において、超音波センサ30の受信素子302a,302cと、障害物200で反射され受信素子302a,302cに入射する超音波の状態を模式的に示した図である。図4(c)は、超音波センサ30の送信素子301の発信する超音波の交流パルス信号と4個の受信素子302a〜302dの受信する超音波の交流パルス信号のタイムチャートを、模式的に示した図である。
図4(a)に示す地面に平行なX−Y面内における障害物200までの距離Dxは、図3に示す上側にある2つの受信素子302a,302bを用いて、図4(c)に示す送信素子301の送信信号(送信)と受信素子302a,302bの受信信号(受信1,受信2)の平均時間値の時間差から演算することができる。
図4(a)に示す地面に平行なX−Y面内におけるX軸に対する障害物200の方位角θxは、図3の上側にある2つの受信素子302a,302bを用いて、図4(c)に示す受信素子302aの信号(受信1)と受信素子302bの信号(受信2)の位相差から演算することができる。
同様にして、図4(b)に示す地面に垂直な面内における障害物200までの距離Dzは、図3の左側にある2つの受信素子302a,302cを用いて、図4(c)に示す送信素子301の送信信号(送信)と受信素子302a,302cの受信信号(受信1,受信3)の平均時間値の時間差から演算することができる。
図4(b)に示す地面に平行な垂直な面内における地面に水平な面に対する障害物200の方位角θzは、図2に示す左側にある2つの受信素子302a,302cを用いて、図4(c)に示す受信素子302aの信号(受信1)と受信素子302cの信号(受信3)の位相差から演算することができる。
このように、本実施形態における超音波センサ30によれば、上記の距離Dx,Dzと方位θx,θzより、超音波センサ30に対する障害物200の距離と方位を定めることができる。
また、受信素子302a〜302dの多アレイ化もしくは車の動きにより障害物200の形状を認識する。
なお、本実施の形態においては、車両の周囲(後方)の障害物を検出する検出器として超音波センサ30を採用する例を用いて説明するが、本発明はこれに限定されるものではない。障害物を検出する検出器としては、上述したセンサ以外に、例えばレーザ光を用いたレーザレーダセンサやミリ波を用いたミリ波センサ等を用いても良い。これらのセンサは、レーザ光やミリ波を放射してから、その放射したレーザ光やミリ波による反射波を受信するまでの時間によって反射物までの距離を検出するものである。さらに、所定の角度範囲を走査するように、複数のレーザ光やミリ波を放射することにより、その照射角度と距離とに基づいて、自車両に対する相対位置関係を求めることができる。
また、近距離を超音波センサにて検出し、遠距離をレーダ手段(レーザ発生素子若しくはミリ波発生素子と、レーザ検出素子若しくはミリ波 検出素子)にて検出するようにしてもよい。このようにすると、広い範囲において障害物を検出することができる。
カメラ40(撮像手段)は、カラー画像を撮像し、アナログ/デジタル変換された画像データを生成するデジタルカメラであって、広角レンズ、ミラー等から構成される光学機構、CCD撮像素子などを備えている。また、カメラ40は、車両の後方に取り付けられて、車両後方を撮像するものである。より具体的には、カメラ40は、車両のうち、車幅方向(車両座標系のY軸方向)の略中央位置に、光軸を下方に向けて取り付けられている。そして、駐車場などに車両を駐車しようとした際に、このカメラ40にて撮像された車両後方の画像(障害物などを含む車両周囲の情報)を表示装置14(表示画面140)に表示することによって、ドライバーの運転を支援するものである。
記憶装置50は、制御装置20内で取り扱うデータなどを必要に応じて記憶しておくためのもので、例えば、後ほど説明する、天気が所定の条件を満たす場合に撮像した画像と、その画像を撮像した際の車両の位置と、その画像を撮像した際の車両の向きとを関連付けて記憶される。なお、記憶装置50の記憶媒体としては、例えばハードディスク、EEPROMなどの不揮発性メモリユニット、記憶可能なICカードなどを用いる。
ここで、本実施の形態における車両用運転支援装置100の処理動作に関して説明する。図5は、本発明の実施の形態における車両用運転支援装置100の記憶処理動作を示すフロー図である。図6は、本発明の実施の形態における車両用運転支援装置100の表示処理動作を示すフロー図である。図7(a)〜(c)は、本発明の実施の形態における表示装置14(表示画面140)の表示例を示すイメージ図である。
本実施の形態における車両用運転支援装置100の特徴的な処理動作は、記憶処理動作と、表示処理動作の二つがある。
まず、図5を用いて車両用運転支援装置100の記憶処理動作に関して説明する。図5に示すフローは、車両用運転支援装置100に電源供給がなされるとスタートするものである。
図5のステップS10では、制御装置20は、画像の記憶を開始するか否かを判定し、記憶開始と判定した場合はステップS11へ進み、記憶開始でないと判定した場合はステップS10での処理を繰り返す。
車両用運転支援装置100は、駐車場などに車両をバックで駐車しようとした際に、カメラ40にて撮像された車両後方の画像を表示装置14(表示画面140)に表示することによって運転支援を行うものである。ところが、天気が所定の条件を満たさない場合(例えば、降雨、降雪時など)は、カメラ40のレンズもしくはレンズカバーなどに雨や雪などが付着する。このようなときにカメラ40で撮像された画像を表示装置14(表示画面140)に表示すると、レンズもしくはレンズカバーなどに付着した雨や雪などの影響で画像が見づらいことがある。
そこで、車両用運転支援装置100は、天気が所定の条件を満たす場合(例えば、晴天時など)に撮像した車両後方の画像を予め記憶しておく。そして、天気が所定の条件を満たさないときに駐車場などに車両をバックで駐車しようとした場合は、その予め記憶しておいた画像(以下、過去の画像とも称する)を表示装置14(表示画面140)に表示するものである。
したがって、ステップS10は、ユーザーへの運転支援を必要とするような場所(例えば、駐車場など)に車両があり、かつ、天気が所定の条件を満たす場合(例えば、晴天時など)の車両後方の画像の記憶を開始するか否かを判定するものである。そこで、制御装置20は、記憶開始条件に基づいて記憶開始か否かを判定する。
この記憶開始条件は、例えば、ユーザーからの指示があったことを条件としてもよい。つまり、制御装置20は、ユーザーによって操作される操作デバイス13や図示しない記憶開始指示ボタンから記憶開始を示す操作信号が出力された場合は、運転支援が必要であり天気が所定の条件を満たすとみなして記憶開始と判定し、記憶開始を示す操作信号が出力されてない場合は記憶開始でないと判定する。このようにすることによって、ユーザーが適切であると判断したときに車両後方の画像の記憶(撮像)を開始することができる。つまり、ユーザーが適切であると判断したときの車両後方の画像を記憶(撮像)することができる。
また、記憶開始条件の他の例としては、車両が同じ位置に駐車した回数が所定回数以上で、かつ天気が所定の条件を満たすことを条件としてもよい。この場合、車両用運転支援装置100(制御装置20)は、車両が同じ位置に駐車した回数をカウントするカウンタと、天気が所定の条件を満たすか否かを判定するための降雨雪を検出する降雨雪検出装置もしくは天気情報を受信可能な通信装置とを備える。つまり、制御装置20は、カウンタの値(車両が同じ位置に駐車した回数)が所定値以上で、降雨雪検出装置もしくは通信装置からの信号によって天気が所定の条件(例えば、晴天など)を満たすとみなした場合は記憶開始と判定し、そうでない場合は記憶開始でないと判定する。このようにすることによって、自動で車両後方の画像の記憶を開始することができるので、ユーザーによる操作を省くことができる。また、降雨雪を検出する降雨雪検出装置もしくは天気情報を受信可能な通信装置を備えることによって、自動で天気が所定の条件(例えば、晴天など)を満たすか否かを判定することができる。
図5のステップS11では、制御装置20は、カメラ40での撮像を開始し、撮像した画像(つまり、天気が所定の条件を満たす場合の画像)と、位置検出器11によって検出された車両の位置、向きとを関連付けて記憶装置50に記憶する。この記憶装置50に記憶する情報のうち車両の位置と向きは、上述のように過去の画像を表示装置14(表示画面140)に表示しようとした場合に、現在の位置に対応する過去の画像を抽出するための検索キーとして記憶するものである。このように車両の位置、向き、画像を関連付けて記憶装置50に記憶しておくことによって、過去の画像を表示装置14(表示画面140)に表示しようとした場合に、現在の位置に対応する過去の画像を抽出することができる。
そして、図5に示すステップS12では、制御装置20は、記憶を終了するか否かを判定して、記憶を終了すると判定した場合はステップS10に戻り、記憶を終了しないと判定した場合はステップS12での処理を繰り返す。この記憶を終了するか否かの判定は、ユーザーからの指示があったか否か、もしくは、車両が駐車したか否かなどによって判定するものである。つまり制御装置20は、ユーザーによって操作される操作デバイス13や図示しない記憶終了指示ボタンから記憶の終了を示す操作信号が出力された場合は記憶を終了すると判定し、記憶の終了を示す操作信号が出力されない場合は記憶を終了しないと判定する。もしくは、制御装置20は、図示しないシフトレバーがパーキングの位置になったり、図示しないイグニッションスイッチがIGの位置から遷移したりした場合は車両が駐車したとみなして記憶を終了すると判定し、そうでない場合は車両が駐車していないとみなして記憶を終了しないと判定する。
次に、図6及び図7を用いて車両用運転支援装置100の表示処理動作に関して説明する。図6に示すフローは、車両用運転支援装置100に電源供給がなされるとスタートするものである。
図6に示すステップS20では、制御装置20は、運転支援を開始するか否かを判定し、運転支援を開始と判定した場合はステップS21へ進み、運転支援を開始しないと判定した場合はステップS20での処理を繰り返す。このとき制御装置20は、ユーザーによって操作される操作デバイス13や図示しない支援開始指示ボタンから運転支援の開始を示す操作信号が出力された場合は運転支援を開始と判定し、運転支援の開始を示す操作信号が出力さない場合は運転支援を開始しないと判定する。このようにすることによって、ユーザーが必要とするときに運転支援を行うことができる。
なお、運転支援を開始するか否かの判定は、自動で行ってもよい。つまり、車両用運転支援装置100は、駐車場などに車両をバックで駐車しようとした際に、カメラ40にて撮像された車両後方の画像を表示装置14(表示画面140)に表示するか、もしくは、過去の画像を表示装置14(表示画面140)に表示することによって運転支援を行うものである。したがって、制御装置20は、図示しないシフトレバーの位置がバックになったか否かを検出し、シフトレバーの位置がバックになった場合は運転支援を開始と判定し、そうでない場合は運転支援を開始しないと判定する。このようにすることによって、自動で運転支援を開始することができるので、ユーザーによる操作を省くことができる。
図6に示すステップS21では、制御装置20は、天気が所定の条件を満たすか否かを判定して、天気が所定の条件を満たすと判定した場合はステップS22へ進み、天気が所定の条件を満たさないと判定した場合はステップS24へ進む。これは、カメラ40で撮像した現在の画像を表示装置14(表示画面140)に表示することによって運転支援を行うか(条件を満たす場合で、例えば晴天時)、もしくは、過去の画像を表示装置14(表示画面140)に表示することによって運転支援を行うか(条件を満たさない場合で、例えば降雨、降雪時など)を判定するためである。
このとき制御装置20は、ユーザーによって操作される操作デバイス13や図示しない支援開始指示ボタンから過去の画像による運転支援の開始を示す操作信号が出力された場合は天気が所定の条件を満たさないと判定し、過去の画像による運転支援の開始を示す操作信号が出力されない場合は天気が所定の条件を満たすと判定する。このようにすることによって、ユーザーが必要とする運転支援(現在の画像を表示するか、もしくは、過去の画像を表示する)を行うことができる。
なお、天気が所定の条件を満たすか否かを判定する場合、降雨雪を検出する降雨雪検出装置もしくは天気情報を受信可能な通信装置からの信号に基づいて行うようにしてもよい。このようにすることによって、自動で現在の天気に適した運転支援(現在の画像を表示するか、もしくは、過去の画像を表示する)を行うことができる。
図6のステップS22では、制御装置20は、天気が所定の条件を満たす場合の運転支援を行う。つまり、制御装置20は、カメラ40にて撮像しつつ、その撮像された現在の画像を表示装置14(表示画面140)に表示することによって運転支援を行う。
そして、図6のステップS23では、制御装置20は、運転支援を終了するか否かを判定して、運転支援を終了すると判定した場合はステップS20に戻り、運転支援を終了しないと判定した場合はステップS22での処理を繰り返す。この運転支援を終了するか否かの判定は、ユーザーからの指示があったか否か、もしくは、車両が駐車したか否かなどによって判定するものである。つまり制御装置20は、ユーザーによって操作される操作デバイス13や図示しない支援終了指示ボタンから運転支援の終了を示す操作信号が出力された場合は運転支援を終了すると判定し、運転支援の終了を示す操作信号が出力されない場合は運転支援を終了しないと判定する。もしくは、制御装置20は、図示しないシフトレバーがパーキングの位置になったり、図示しないイグニッションスイッチがIGの位置から遷移したりした場合は車両が駐車したとみなして運転支援を終了すると判定し、そうでない場合は車両が駐車していないとみなして運転支援を終了しないと判定する。
図6のステップS24以降では、制御装置20は、天気が所定の条件を満たさない場合の運転支援を行う。まず、ステップS24では、制御装置20は、位置検出器11によって現在の車両の位置、向きを検出する。そして、ステップS25では、制御装置20は、記憶装置50から現在の車両の位置、向きに対応する過去の画像を抽出する。
ステップS26では、制御装置20は、超音波センサ30を作動させる。これは、過去の画像を表示装置14(表示画面140)に表示する際に、過去の画像を撮像した際にはなくて現在の車両の周囲にはある障害物を表示装置14(表示画面140)に表示するためである。さらに、過去の画像を撮像した際の車両と周囲の障害物との位置関係と、現在の車両と周囲の障害物との位置関係とが対応するように過去の画像を補正するためである。換言すると、過去の画像を表示装置14(表示画面140)に表示する際に、現在の車両と周囲の障害物との位置関係に合うように過去の画像を補正するためである。ステップS27では、制御装置20は、カメラ40によって撮像を開始する。
ステップS28では、制御装置20は、カメラ40にて撮像した現在の画像に過去の画像を重ね合わせる。このとき、制御装置20は、過去の画像に関連付けられた車両の位置、向きと、ステップS24で検出した現在の車両の位置、向きとによって、現在の車両の位置、向きに合うように過去の画像を補正(変換)する。さらに、制御装置20は、超音波センサ30によって検出した障害物の形状(検出結果)と、過去の画像を画像処理にすることによって得た障害物の形状とを比較する。そして、制御装置20は、この比較結果によって同一の障害物(特徴点)と推測される障害物(特徴点)同士のズレ量を算出し、このズレ量に基づいて過去の画像を補正(変換)する。つまり、制御装置20は、超音波センサ30で得た障害物(特徴点)の形状と、過去の画像で得た障害物(特徴点)の形状とを重ね合わせるように過去の画像を補正(変換)する。
換言すると、制御装置20は、ナビゲーション装置10から得た情報に基づいて、ある程度現在の車両と周囲の障害物との位置関係に合うように過去の画像を補正(変換)し、さらに、超音波センサ30の検出結果と過去の画像とによって、より一層正確に現在の車両と周囲の障害物との位置関係に合うように過去の画像を補正(変換)する。
ステップS29では、制御装置20は、現在の車両の後方に過去の画像にない障害物があるか否かを判定し、障害物があると判定した場合はステップS30へ進み、障害物がないと判定した場合はステップS32へ進む。つまり、制御装置20は、ステップS28での超音波センサ30によって検出した障害物の形状(検出結果)と、過去の画像を画像処理にすることによって得た障害物の形状との比較結果に基づいて、現在の車両の後方に過去の画像にない障害物があるか否かを判定する。
ステップS30では、制御装置20は、天気が所定の条件を満たさない場合の運転支援を行う。つまり、制御装置20は、過去の画像と超音波センサ30にて検出された障害物とを現在のカメラ40で撮像した画像に重ねた状態で表示装置14(表示画面140)に表示することによって運転支援を行う。
より具体的に説明すると、図7(a)は、天気が所定の条件を満たしているときに撮像した過去の画像を表示装置14の表示画面140に表示した場合のイメージ図である。このように天気が所定の条件をみたしている場合、表示画面140に表示される車両の後方にある縁石210やポスト220などの障害物は見やすい状態である。
一方、図7(b)は、同じ場所における天気が所定の条件を満たしていないときにカメラ40で撮像した画像を表示装置14の表示画面140に表示した場合のイメージ図である。このように天気が所定の条件を満たしていない場合、カメラ40で撮像されて表示画面140に表示される車両の後方にある縁石210やポスト220などの障害物は、レンズやレンズフードなどに付着した雨や雪によって見づらい状態である。したがって、ドライバーは、車両と周囲の障害物との位置関係が確認しづらいものである。
図7(c)は、過去の画像と超音波センサ30にて検出された障害物とを表示装置14の表示画面140に表示した場合のイメージ図である。このようにすることによって、車両の周囲の障害物(縁石210やポスト220などの)を過去の画像を用いて見やすい状態で表示画面140に表示しつつ、過去の画像にない現在の車両の周囲の障害物(新たな障害物230)を表示画面140に表示して運転支援を行うことができる。換言すると、過去の画像を背景画像として、過去の画像にない現在の車両の周囲の障害物(新たな障害物230)を表示画面140に表示して運転支援を行うことができる。
ステップS31では、上述のステップS23と同様に運転支援を終了するか否かを判定し、運転支援を終了すると判定した場合はステップS20へ戻り、運転支援を終了しないと判定した場合はステップS30へ戻る。
ステップS32では、制御装置20は、天気が所定の条件を満たさない場合の運転支援を行う。つまり、制御装置20は、過去の画像を現在のカメラ40で撮像した画像に重ねた状態で表示装置14(表示画面140)に表示することによって運転支援を行う。
ステップS33では、制御装置20は、上述のステップS23及びステップS30と同様に運転支援を終了するか否かを判定し、運転支援を終了すると判定した場合はステップS20へ戻り、運転支援を終了しないと判定した場合はステップS32へ戻る。
このように、天気が所定の条件を満たさない場合でも、過去の画像と現在の超音波センサ30の検出結果とを表示装置14の表示画面140に表示することによって、天気が所定の条件を満たす場合に撮像した画像を背景画像として現在の車両と障害物との位置関係を車両のユーザーに案内することができるので、天候に係らず適切な運転支援を行うことができる。
なお、本実施の形態においては、カメラ40によって撮像された現在の画像に過去の画像を重ねて表示装置14の表示画面140に表示する例を採用したが、本発明はこれに限定されるものではない。例えば、カメラ40によって撮像された現在の画像にかえて、過去の画像を表示装置14の表示画面140に表示するようにしてもよい。
また、過去の画像と現在の超音波センサ30の検出結果とを比較して、過去の画像において、現在の超音波センサ30の検出結果と一致しない障害物は消去するようにしてもよい。つまり、過去の画像を撮像した際には存在していたが、現在は存在していない障害物は、過去の画像を画像処理することによって消去して、表示画面140に表示しないようにしてもよい。車両の周囲には、常に同じ障害物が存在するとは限らない。したがって、このようにすることによって、現在の車両の周囲に存在する障害物のみを車両のユーザーに案内することができるので好ましい。
また、本実施の形態においては、超音波センサ30によって検出した障害物の形状(検出結果)と、過去の画像を画像処理にすることによって得た障害物の形状とを比較することによって、過去の画像を補正(変換)する例を用いて説明したが、本発明はこれに限定されるものではない。例えば、超音波センサ30の検出結果同士を比較することによって、過去の画像を補正(変換)するようにしてもよい。この場合、制御装置20は、カメラ40にて撮像された画像を記憶する場合、車両の位置、車両の向きに加えて、超音波センサ30の検出結果を関連付けて記憶装置50に記憶する。そして、制御装置20は、過去の画像に関連付けられた超音波センサ30の検出結果と現在の超音波センサ30の検出結果とを比較することによって、過去の画像を補正(変換)するようにしてもよい。このようにすることによって、同じ超音波センサ30の過去の検出結果と現在の検出結果とを比較して過去の画像を補正(変換)できるので、処理を容易にすることができると共に、より一層正確に過去の画像を補正(変換)することができる。
(変形例1)
また、超音波センサ30及びカメラ40は、車両の後方のみでなく、車両の側方にも設けるようにしてもよい。図8(a)〜(c)は、本発明の変形例1における表示装置14の表示例を示すイメージ図である。
図8(a)は、天気が所定の条件を満たしているときに撮像した過去の画像を表示装置14の表示画面140に表示した場合のイメージ図である。このように天気が所定の条件をみたしている場合、表示画面140に表示される車両の側方にある側溝240などの障害物は見やすい状態である。
一方、図7(b)は、同じ場所における天気が所定の条件を満たしていないときにカメラ40で撮像した画像を表示装置14の表示画面140に表示した場合のイメージ図である。このように天気が所定の条件を満たしていない場合、カメラ40で撮像されて表示画面140に表示される車両の側方にある側溝240などの障害物は、レンズやレンズフードなどに付着した雨や雪によって見づらい状態である。したがって、ドライバーは、車両と周囲の障害物との位置関係が確認しづらいものである。
図7(c)は、過去の画像と超音波センサ30にて検出された障害物とを表示装置14の表示画面140に表示した場合のイメージ図である。このようにすることによって、車両の側方にある側溝240を過去の画像を用いて見やすい状態で表示画面140に表示しつつ、過去の画像にない現在の車両の周囲の障害物(新たな障害物250)を表示画面140に表示して運転支援を行うことができる。換言すると、過去の画像を背景画像として、過去の画像にない現在の車両の周囲の障害物(新たな障害物230)を表示画面140に表示して運転支援を行うことができる。
なお、変形例1において記憶開始を判定するには、上述と同様にユーザーによって操作される操作デバイス13や図示しない記憶開始指示ボタンから記憶の開始を示す操作信号が出力された場合は記憶を開始と判定し、記憶の開始を示す操作信号が出力さない場合は記憶を開始しないと判定する。又は、車両が同じ位置を所定値以下の速度で通過した回数が所定回数以上で、かつ天気が所定の条件を満たすことを条件としてもよい。この場合、車両用運転支援装置100は、車両が同じ位置を所定値以下の速度で通過した回数をカウントするカウンタ、天気が所定の条件を満たすか否かを判定するための降雨雪を検出する降雨雪検出装置もしくは天気情報を受信可能な通信装置などを備えることによってなすことができる。つまり、制御装置20は、カウンタの値(車両が同じ位置を所定値以下の速度で通過した回数)が所定値以上で、降雨雪検出装置もしくは通信装置からの信号によって天気が所定の条件(例えば、晴天など)を満たすとみなした場合は記憶開始と判定し、そうでない場合は記憶開始でないと判定する。このようにすることによっても、自動で画像の記憶を開始することができるので、ユーザーによる操作を省くことができる。
また、変形例1において運転支援を開始するか否かの判定は、上述と同様にユーザーによって操作される操作デバイス13や図示しない支援開始指示ボタンから運転支援の開始を示す操作信号が出力された場合は運転支援を開始と判定し、運転支援の開始を示す操作信号が出力さない場合は運転支援を開始しないと判定する。このようにすることによって、ユーザーが必要とするときに運転支援を行うことができる。又は、車両用運転支援装置100は、車両が同じ位置を所定値以下の速度で通過しようとした際に、カメラ40にて撮像された車両側方の画像を表示装置14(表示画面140)に表示するか、もしくは、過去の画像を表示装置14(表示画面140)に表示することによって運転支援を行うようにしてもよい。
(変形例2)
また、変形例2として、図9に示す超音波センサ30aを採用してもよい。図9は、本発明の変形例2における超音波センサ30aの概略構成を示す図面であり、(a)は平面図であり、(b)は断面図である。
図9に示すように、超音波センサ30aは、複数の超音波検出素子31aと、超音波検出素子31aが搭載される音響整合層32aとが防振材からなるつなぎ部材33aを介してケース35aの開口部に取り付けられている。また、ケース35a内には、超音波検出素子31aとワイヤー(図示省略)などによって電気的に接続される回路基板34aが配置される。そして、このように超音波検出素子31aや回路基板34aが設けられたケース35aは、接着剤36aを介して車両のバンパー37a(車両の外部に出ているセンサ取付部)に取り付けられる。
このように、超音波センサ30aとして、音響整合層32aを用いることにより耐衝撃性(飛び石等の衝撃)に強いセンサを実現することができる。
本発明の実施の形態における車両用運転支援装置100の概略構成を示すブロック図である。 本発明の実施の形態における車両用運転支援装置100を搭載した車両のイメージ図である。 本発明の実施の形態における超音波センサ30の概略構成を示す平面図である。 (a)〜(c)は、本発明の実施の形態における超音波センサ30による障害物の検出原理を説明する説明図である。 本発明の実施の形態における車両用運転支援装置100の記憶処理動作を示すフロー図である。 本発明の実施の形態における車両用運転支援装置100の表示処理動作を示すフロー図である。 (a)〜(c)は、本発明の実施の形態における表示装置14の表示例を示すイメージ図である。 (a)〜(c)は、本発明の変形例1における表示装置14の表示例を示すイメージ図である。 本発明の変形例2における超音波センサ30aの概略構成を示す図面であり、(a)は平面図であり、(b)は断面図である。
符号の説明
10 ナビゲーション装置、11 位置検出器、12 地図データ入力器、13 操作デバイス、14 表示装置、140 表示画面、15 スピーカ、20 制御装置、
30 超音波センサ、31a 超音波検出素子、32a 音響整合層、33a つなぎ部材、34a 回路基板、35a ケース、36a 接着剤、37a バンパー、300 基板、301 送信素子、302a〜302d 受信素子、40 カメラ、50 記憶装置、100 車両用運転支援装置、200 障害物、210 縁石、220 ポスト、230 新たな障害物、240 側溝、250 新たな障害物

Claims (11)

  1. 車両の車室内に設けられる表示装置と、
    前記車両の周囲の画像を撮像する撮像手段と、
    前記車両の位置を検出する位置検出手段と、
    前記車両の向きを検出する方向検出手段と、
    前記車両の周囲の障害物を検出する障害物検出手段と、
    天気が所定の条件を満たす場合に撮像した画像と、当該画像を撮像した際の前記車両の位置と、当該画像を撮像した際の前記車両の向きとを関連付けて記憶する記憶手段と、
    天気が所定の条件を満たす場合には、前記撮像手段にて車両の周囲の画像を撮像しつつ当該画像を前記表示装置に表示し、天気が所定の条件を満たさない場合には、前記記憶手段にて記憶された画像のなかから現在の車両の位置と向きとに対応する過去の画像を抽出して、当該過去の画像と現在の前記障害物検出手段の検出結果とを前記表示装置に表示する前記表示制御手段と、
    を備えることを特徴とする車両用運転支援装置。
  2. 前記障害物検出手段は、超音波センサであることを特徴とする請求項1に記載の車両用運転支援装置。
  3. 前記超音波センサは、複数の受信部がアレイ化されることを特徴とする請求項2に記載の車両用運転支援装置。
  4. 前記表示制御手段は、前記記憶手段にて記憶された過去の画像と現在の前記障害物検出手段の検出結果とを前記表示装置に表示する場合、当該過去の画像と現在の前記障害物検出手段の検出結果とを比較することによって、当該過去の画像を撮像した際の車両と周囲の障害物との位置関係と、現在の車両と周囲の障害物との位置関係とが対応するように前記過去の画像を補正して前記表示装置に表示することを特徴とする請求項1乃至請求項3のいずれか一項に記載の車両用運転支援装置。
  5. 前記記憶手段は、前記撮像手段にて撮像された画像を記憶する場合、前記車両の位置、車両の向きに加えて、前記障害物検出手段の検出結果を関連付けて記憶するものであって、前記表示制御手段は、前記記憶手段にて記憶された過去の画像と現在の前記障害物検出手段の検出結果とを前記表示装置に表示する場合、当該過去の画像に関連付けられた前記障害物検出手段の検出結果と現在の前記障害物検出手段の検出結果とを比較することによって、当該過去の画像を撮像した際の車両と周囲の障害物との位置関係と、現在の車両と周囲の障害物との位置関係とが対応するように前記過去の画像を補正して前記表示装置に表示することを特徴とする請求項1乃至請求項3のいずれか一項に記載の車両用運転支援装置。
  6. 前記表示制御手段は、前記記憶手段にて記憶された過去の画像と前記障害物検出手段の検出結果とを前記表示装置に表示する場合、現在の前記撮像手段にて撮像された画像にかえて、当該記憶手段にて記憶された過去の画像と前記障害物検出手段の検出結果とを表示することを特徴とする請求項1乃至請求項5のいずれか一項に記載の車両用運転支援装置。
  7. 前記表示制御手段は、前記記憶手段にて記憶された過去の画像と前記障害物検出手段の検出結果とを前記表示装置に表示する場合、現在の前記撮像手段にて撮像された画像と、当該記憶手段にて記憶された過去の画像と、前記障害物検出手段の検出結果とを表示することを特徴とする請求項1乃至請求項5のいずれか一項に記載の車両用運転支援装置。
  8. 前記表示制御手段は、前記記憶手段にて記憶された過去の画像と現在の前記障害物検出手段の検出結果とを比較して、当該過去の画像において、現在の前記障害物検出手段の検出結果と一致しない障害物は消去することを特徴とする請求項1乃至請求項7のいずれか一項に記載の車両用運転支援装置。
  9. 天気が所定の条件を満たすか否かを判定するために、降雨雪を検出する降雨雪検出装置を備えることを特徴とする請求項1乃至請求項8のいずれか一項に記載の車両用運転支援装置。
  10. 前記車両が同じ位置に駐車した回数をカウントするカウンタ装置を備え、前記記憶手段は、前記カウンタ装置によってカウントされた回数が所定回数に達した場合であり、天気が所定の条件を満たす場合に、天気が所定の条件を満たす場合に撮像した画像と、当該画像を撮像した際の前記車両の位置と、当該画像を撮像した際の前記車両の向きとを関連付けて記憶することを特徴とする請求項1乃至請求項9のいずれか一項に記載の車両用運転支援装置。
  11. ユーザーによって操作されるものであり、当該操作に応じて操作信号を出力する操作装置を備えるものであって、前記記憶手段は、前記操作装置からの操作信号が出力されると、天気が所定の条件を満たす場合に撮像した画像と、当該画像を撮像した際の前記車両の位置と、当該画像を撮像した際の前記車両の向きとを関連付けて記憶することを特徴とする請求項1乃至請求項9のいずれか一項に記載の車両用運転支援装置。
JP2007097793A 2007-04-03 2007-04-03 車両用運転支援装置 Expired - Fee Related JP4821685B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007097793A JP4821685B2 (ja) 2007-04-03 2007-04-03 車両用運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007097793A JP4821685B2 (ja) 2007-04-03 2007-04-03 車両用運転支援装置

Publications (2)

Publication Number Publication Date
JP2008257403A true JP2008257403A (ja) 2008-10-23
JP4821685B2 JP4821685B2 (ja) 2011-11-24

Family

ID=39980931

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007097793A Expired - Fee Related JP4821685B2 (ja) 2007-04-03 2007-04-03 車両用運転支援装置

Country Status (1)

Country Link
JP (1) JP4821685B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017196990A (ja) * 2016-04-26 2017-11-02 トヨタ自動車株式会社 周辺情報検出センサの配設構造
JP2019129740A (ja) * 2018-01-30 2019-08-08 井関農機株式会社 作業車両
CN110186471A (zh) * 2019-05-06 2019-08-30 平安科技(深圳)有限公司 基于历史视频的导航方法、装置、计算机设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1194571A (ja) * 1997-09-18 1999-04-09 Toshiba Corp 記録再生装置、記録再生方法、及び記録媒体
JP2003030627A (ja) * 2001-07-16 2003-01-31 Denso Corp 車両周辺画像処理装置及び記録媒体
JP2004354170A (ja) * 2003-05-28 2004-12-16 Asahi Kasei Corp 3次元情報表示装置及びアレイ型超音波センサモジュール
JP2005138716A (ja) * 2003-11-06 2005-06-02 Denso Corp 駐車支援装置
JP2006311299A (ja) * 2005-04-28 2006-11-09 Aisin Aw Co Ltd 駐車区画監視装置
JP2007038954A (ja) * 2005-08-05 2007-02-15 Toyota Motor Corp 車両の周囲警報装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1194571A (ja) * 1997-09-18 1999-04-09 Toshiba Corp 記録再生装置、記録再生方法、及び記録媒体
JP2003030627A (ja) * 2001-07-16 2003-01-31 Denso Corp 車両周辺画像処理装置及び記録媒体
JP2004354170A (ja) * 2003-05-28 2004-12-16 Asahi Kasei Corp 3次元情報表示装置及びアレイ型超音波センサモジュール
JP2005138716A (ja) * 2003-11-06 2005-06-02 Denso Corp 駐車支援装置
JP2006311299A (ja) * 2005-04-28 2006-11-09 Aisin Aw Co Ltd 駐車区画監視装置
JP2007038954A (ja) * 2005-08-05 2007-02-15 Toyota Motor Corp 車両の周囲警報装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017196990A (ja) * 2016-04-26 2017-11-02 トヨタ自動車株式会社 周辺情報検出センサの配設構造
US10458821B2 (en) 2016-04-26 2019-10-29 Toyota Jidosha Kabushiki Kaisha Mounting structure for a peripheral information detection sensor used in a vehicle including an automatic driving system
JP2019129740A (ja) * 2018-01-30 2019-08-08 井関農機株式会社 作業車両
CN110186471A (zh) * 2019-05-06 2019-08-30 平安科技(深圳)有限公司 基于历史视频的导航方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
JP4821685B2 (ja) 2011-11-24

Similar Documents

Publication Publication Date Title
JP4556742B2 (ja) 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP4561479B2 (ja) 駐車支援方法及び駐車支援装置
RU2734643C1 (ru) Способ помощи при парковке для устройства помощи при парковке и устройство помощи при парковке
US8089512B2 (en) Driving support device, driving support method and computer program
US10086764B2 (en) Apparatus and method for controlling a viewing angle for a vehicle, and a vehicle including the apparatus
US9863775B2 (en) Vehicle localization system
US7532975B2 (en) Imaging apparatus for vehicles
JP4360403B2 (ja) 車載用障害物検知装置
JP4696691B2 (ja) 駐車支援方法及び駐車支援装置
JP4962788B2 (ja) 車両周辺監視装置
JP2006217447A (ja) 車両用表示装置
WO2007148546A1 (ja) 測位装置
WO2014054289A1 (ja) 車両用ナビゲーションシステムおよび車両用撮影装置
JP2011152865A (ja) 車載撮像装置
JP2005182504A (ja) 駐車支援システム
JP4787196B2 (ja) 車載用ナビゲーション装置
JP2007240380A (ja) トンネル内位置検出装置
CN112859107B (zh) 高尔夫球场自驾车辆的车辆导航切换设备
JP4821685B2 (ja) 車両用運転支援装置
JP2011235677A (ja) 駐車支援システム、ナビゲーション装置
JP2906894B2 (ja) 車間距離検出装置
JP7103201B2 (ja) 情報処理システム、プログラム、及び情報処理方法
JP2006036166A (ja) 車両用表示装置
JP2007140992A (ja) 交差点での運転支援方法及び運転支援装置
JP5108057B2 (ja) 車両用表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090526

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110809

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110822

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140916

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees