JP4870776B2 - 風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体 - Google Patents

風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体 Download PDF

Info

Publication number
JP4870776B2
JP4870776B2 JP2008540796A JP2008540796A JP4870776B2 JP 4870776 B2 JP4870776 B2 JP 4870776B2 JP 2008540796 A JP2008540796 A JP 2008540796A JP 2008540796 A JP2008540796 A JP 2008540796A JP 4870776 B2 JP4870776 B2 JP 4870776B2
Authority
JP
Japan
Prior art keywords
landscape
determined
cell
image
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008540796A
Other languages
English (en)
Other versions
JPWO2008050374A1 (ja
Inventor
隆二郎 藤田
宏平 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Publication of JPWO2008050374A1 publication Critical patent/JPWO2008050374A1/ja
Application granted granted Critical
Publication of JP4870776B2 publication Critical patent/JP4870776B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Description

【技術分野】
【0001】
この発明は、風景を撮像する風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体に関する。ただし、この発明の利用は、上述した風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体には限られない。
【背景技術】
【0002】
自動車を運転中に海や山、夜景などの風景に遭遇した場合に、その風景の写真を自動的に撮影したり、その風景に応じた音楽に自動的に切り換えたりすることができれば大変便利である。近年では、情報センターに撮像お勧めポイントの位置情報をあらかじめ登録しておき、車両が、その位置情報を、インターネットを介してダウンロードし、現在位置がお勧めポイントの位置と一致した場合に撮像をおこなう技術が提案されている(たとえば、下記特許文献1参照。)。
【0003】
【特許文献1】
特開2003−198904号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した従来技術では、撮影に相応しいお勧めポイントの位置情報をあらかじめ登録しておく必要があるため、利用者に、お勧めポイントに関する選定や登録をおこなう手間がかかってしまうという問題が一例として挙げられる。
【0005】
くわえて、あらかじめ走行前にお勧めポイントの登録をおこなう構成であるため、走行する時点の空模様などによって風景が変化してしまい、撮影に相応しくない場合であっても、お勧めポイントとして撮影されてしまうという問題が一例として挙げられる。
【0006】
さらに、走行中に車両の左(右)方向に見晴らしの良い風景が広がった場合であっても、お勧めポイントとして登録されていなければ撮影できない。したがって、運転者は、運転中に風景を注視できないばかりか、後に写真で風景を確認することもできなくなってしまうという問題が一例として挙げられる。また、走行中の見晴らしの良い風景を写真に残そうと、搭乗者がカメラの準備をしても、通り過ぎてしまい、結局撮影できないこともある。
課題を解決するための手段
[0007]
上述した課題を解決し、目的を達成するため、請求項1の発明にかかる風景撮像装置は、撮像手段によって撮像された任意の方向の風景画像(以下、「初期風景画像」という)を複数のセルに分割する分割手段と、前記初期風景画像に対応する初期風景のうち、前記分割手段によって分割された各セルに対応する前記初期風景の一部までの距離を算出する算出手段と、前記算出手段によって算出された距離に基づいて撮像方向を決定する決定手段と、前記算出手段によって算出された前記距離に基づいて前記各セルに対応する前記初期風景の一部が遠景であるか否かを判定する判定手段と、を備え、前記決定手段は、前記判定手段によって遠景であると判定された前記初期風景画像に基づいて前記撮像方向を決定することを特徴とする。
[0008]
また、請求項10の発明にかかる風景撮像方法は、撮像工程によって撮像された任意の方向の風景画像(以下、「初期風景画像」という)を複数のセルに分割する分割工程と、前記初期風景画像に対応する初期風景のうち、前記分割工程によって分割された各セルに対応する前記初期風景の一部までの距離を算出する算出工程と、前記算出工程によって算出された距離に基づいて撮像方向を決定する決定工程と、前記算出工程によって算出された前記距離に基づいて前記各セルに対応する前記初期風景の一部が遠景であるか否かを判定する判定工程と、を含み、前記決定工程では、前記判定工程によって遠景であると判定された前記初期風景画像に基づいて前記撮像方向を決定することを特徴とする。
[0009]
また、請求項11の発明にかかる風景撮像プログラムは、請求項10に記載の風景撮像方法をコンピュータに実行させることを特徴とする。
[0010]
また、請求項12の発明にかかるコンピュータに読み取り可能な記録媒体は、請求項11に記載の風景撮像プログラムを記録したことを特徴とする。
【図面の簡単な説明】
[0011]
[図1]図1は、本実施の形態にかかる風景撮像装置の機能的構成の一例を示すブロック図である。
[図2]図2は、本実施の形態にかかる風景撮像装置の処理の内容を示すフローチャートである。
[図3]図3は、本実施例にかかる車載装置のハードウェア構成の一例を示すブロック図である。
【図4】図4は、本実施例にかかる風景画像の一例を示す説明図である。
【図5】図5は、本実施例にかかる風景画像の分割の一例を示す説明図である。
【図6】図6は、本実施例にかかる風景画像における各セルの距離の算出および遠景の判定の一例を示す説明図である。
【図7】図7は、本実施例にかかるカメラの駆動角度の決定について示す説明図である。
【図8】図8は、本実施例にかかる見晴らし指数算出について示す説明図である。
【図9】図9は、本実施例にかかる車載装置の処理の内容を示すフローチャートである。
【図10】図10は、本実施例にかかる車載装置における駆動方向決定処理(図9のステップS905)の内容について示すフローチャートである。
【図11】図11は、本実施例にかかる車載装置における見晴らし指数算出処理(図9のステップS908)の内容について示すフローチャートである。
【図12】図12は、本実施例にかかる車載装置における空判定処理(図11のステップS1101)の内容について示すフローチャートである。
【図13】図13は、本実施例にかかる車載装置における海判定処理(図11のステップS1102)の内容について示すフローチャートである。
【符号の説明】
【0012】
100 風景撮像装置
101 撮像部
102 分割部
103 算出部
104 決定部
105 判定部
106 保存部
【発明を実施するための最良の形態】
【0013】
以下に添付図面を参照して、この発明にかかる風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体の好適な実施の形態を詳細に説明する。
【0014】
(実施の形態)
(風景撮像装置の機能的構成)
図1を用いて、本実施の形態にかかる風景撮像装置の機能的構成について説明する。図1は、本実施の形態にかかる風景撮像装置の機能的構成の一例を示すブロック図である。
【0015】
図1において、風景撮像装置100は、撮像部101と、分割部102と、算出部103と、決定部104と、判定部105と、保存部106と、から構成されている。
【0016】
撮像部101は、任意の方向の風景画像を撮像する。具体的には、たとえば、撮像部101は、移動体などに搭載された可動式の車載カメラでもよく、移動体の前方を撮像することとしてもよい。
【0017】
また、撮像部101は、たとえば、後述する決定部104によって決定された撮像方向の風景画像を撮像することとしてもよい。具体的には、たとえば、撮像方向の風景画像(以下、「撮像風景画像」という)の撮像は、決定部104によって決定された撮像方向に車載カメラを向けるよう、図示しない駆動部を駆動させておこなう。
【0018】
分割部102は、撮像部101によって撮像された任意の方向の風景画像(以下、「初期風景画像」という)を複数のセルに分割する。また、分割部102は、撮像部101によって撮像された撮像風景画像を複数のセルに分割することとしてもよい。
【0019】
ここで、セルは、たとえば、初期風景画像や撮像風景画像などの画像における所定のサイズの画像片である。所定のサイズは、たとえば、分割対象となった画像が1280×1024ピクセルであった場合は、30×30ピクセル程度が望ましく、後述する算出部103や判定部105の精度や処理速度などに応じて設定することとしてもよい。分割対象となった画像のサイズとセルのサイズとの関係によって、画像のすべてを均一のセルに分割できない場合には、画像の端部を分割の対象から除外することとしてもよい。
【0020】
算出部103は、初期風景画像に対応する初期風景のうち、分割部102によって分割された各セルに対応する初期風景の一部までの距離を算出する。各セルに対応する初期風景の一部までの距離は、たとえば、初期風景の一部と、撮像部101や当該風景撮像装置100などの基準位置との相対的な距離でもよく、算出部103は、これら基準位置から複数のセルの各々に対応する風景の一部までの距離を算出することとなる。
【0021】
具体的には、たとえば、距離の算出は、時系列に相前後して撮像された2つの初期風景画像間のオプティカルフローを算出し、算出したオプティカルフローに基づいて、各セルに含まれる複数の画素に対応する初期風景の一部までの距離を算出する。そして、各セルに含まれる複数の画素に対応する初期風景の一部までの距離の平均値を、各セルに対応する初期風景の一部までの距離として算出することとなる。なお、算出する距離は、たとえば、初期風景の一部が、空に相当する場合など他の風景の一部と比較して非常に距離が大きい場合には、無限大と算出してもよい。
【0022】
決定部104は、たとえば、算出部103によって算出された距離を用いて撮像方向を決定する。具体的には、たとえば、決定部104は、決定された撮像方向の風景画像が撮像可能となるように撮像部101を向けるための、図示しない駆動部を駆動させる角度や距離などを算出することとしてもよい。
【0023】
また、決定部104は、初期風景画像における一以上のセルからなる画像領域における、後述する判定部105によって初期風景の一部が遠景と判定されたセルの数量に基づいて、撮像方向を決定することとしてもよい。より具体的には、たとえば、撮像方向の決定は、画像領域にあるセルのうち、遠景であると判定されたセルが画像領域を見晴らしの良い方向として撮像方向を決定することとしてもよい。
【0024】
判定部105は、算出部103によって算出された距離を用いて、各セルに対応する初期風景の一部が遠景であるか否かを判定する。ここで、遠景とは、たとえば、初期風景を構成する任意の被写体部分までの距離が、所定距離よりも遠くに位置する場合に、任意の被写体部分に対応する初期風景の一部を意味する。この所定距離は、たとえば、あらかじめ設定された所定の距離でもよいし、風景の種類や操作者の好みなどに応じて可変に設定可能な距離であってもよい。
【0025】
より具体的には、たとえば、判定部105は、算出部103によって算出された距離が所定値よりも大きい場合には、そのセルに対応する初期風景の一部は、遠景(たとえば、空、海、山などの遠い風景)であり、所定値よりも小さい場合には、そのセルに対応する風景の一部は、近景(たとえば、走行中の道路、先行車両などの近い風景)であると判定することとしてもよい。なお、遠景と近景との間に、一または複数の中間的な距離の風景を定義してもよい。
【0026】
また、判定部105は、撮像風景画像に対応する撮像風景のうち、分割部102によって分割された各セルに対応する撮像風景の一部が、空、海、山および夜景のうち少なくともいずれか一つに該当するか否かを判定する。このように判定することで、たとえば、空、海、山および夜景のうち少なくとも1つの風景をあらかじめ設定しておくことで、車両の走行中にあらかじめ設定された空、海、山および夜景などの遠景に対応する風景画像を後述する保存部106によって自動的に保存することができる。あるいは、たとえば、車内の音楽や映像を、空、海、山または夜景に応じた音楽や映像に切り換えることができる。
【0027】
具体的には、たとえば、判定部105は、撮像風景画像の上方に位置するセルについて、当該上方に位置するセルに含まれる複数の画素の明度の分散値から、撮像風景の一部が空であるか否かを判定することとしてもよい。
【0028】
より具体的には、たとえば、判定部105は、セルに対応するデータの色情報がRGB系の色情報である場合、この色情報は、色相、明度および彩度をパラメータとする表色系の色情報(たとえば、HLS系の色情報)に変換する。
【0029】
そして、判定部105は、判定対象となる1つのセルおよびその周辺に位置する8つのセル(すなわち、8近傍のセル)のすべての明度の分散値が所定値(たとえば、10)以下の場合には、そのセルに対応する撮像風景の一部は空であると判定する。また、判定部105は、判定対象となる1つのセルおよびその周辺に位置する8つのセル(すなわち8近傍のセル)のうちいずれかの明度の分散値が所定値(たとえば、10)よりも大きい場合には、そのセルに対応する撮像風景の一部は空ではないと判定する。
【0030】
このような構成とすれば、各セルに対応する撮像風景の一部が空であるか否かを確実に判定することができ、たとえば、青空、白い雲、黒い雲、夕焼け空、夜空などの空模様を判定することも可能となる。
【0031】
また、判定部105は、たとえば、空と判定されなかったセルについて、空と判定されたセルに含まれる複数の画素の平均色相および平均彩度に基づいて、撮像風景の一部が海であるか否かを判定することとしてもよい。
【0032】
より具体的には、たとえば、判定部105は、空と判定されなかったセルに含まれる複数の画素の平均色相(あるいは色調)が、空と判定されたセルに含まれる複数の画素の平均色相を含む所定範囲の値であり、かつ、空と判定されなかったセルに含まれる複数の画素の平均明度が、空と判定されたセルに含まれる複数の画素の平均明度以下の場合には、そのセルを海であると判定する構成でもよい。
【0033】
このような構成とすれば、海の色は空の色を反射して空の色に似た、濃い色となっている場合が多いという特性を反映して、撮像風景の一部が海であるか否かを判定することができ、撮像風景の一部が海であるか否かを精度よく判定することが可能となる。
【0034】
また、判定部105は、空と判定されなかったセルのうち、空と判定されたセルに隣接するセルの各々について、色の性質を分析することにより空と空でない風景の境界を検出することで、撮像風景に山が含まれるか否かを判定することとしてもよい。
【0035】
より具体的には、たとえば、判定部105は、1つのセルにおいて、空の色と判定される画素が一定の割合以上であり、かつ、空の色と判定されない画素が一定の割合未満である場合には、そのセルには稜線が含まれている可能性が高いと判断される。ここで、「空の色と判定する」とは、画素の色相、明度および彩度が、上述した空の判定における色相、明度および彩度の範囲に含まれていると判定することをいう。そして、判定部105は、稜線が含まれている可能性が高いと判断されたセルが、一定数以上あれば、風景には山が含まれていると判定する。
【0036】
このような構成とすれば、稜線を検出することにより、風景に山が含まれているか否かを判定することができ、セルのサイズを小さくすることにより、山あるいは山並みの形状を判定することもできる。
【0037】
また、判定部105は、複数のセルの各々について、所定値の明度を基準として画素の2値化をおこなうことにより区別される複数の画素群のうち、基準よりも高い方に区別された画素群の数に基づいて、撮像風景の一部が夜景であるか否かを判定することとしてもよい。
【0038】
より具体的には、たとえば、判定部105は、2値化により、1つのセルに含まれる複数の画素から、所定値よりも明度が高い複数の画素が隣接してなる画素群(所定値以下の明度の画素と隣接する所定値よりも明度の高い1つの画素も含む)が区別し、黒色の背景に白色の粒子が多数存在するように、1つのセルにおいて周囲よりも明度の高い画素が散在しているようになる。
【0039】
そして、判定部105は、所定値よりも明度が高い複数の画素が隣接してなる画素群の数を算出し、所定値よりも明度が高い複数の画素が隣接してなる画素群の数が所定値(たとえば、10)よりも多い場合には、そのセルには夜景が含まれている可能性が高いと判定する。ここで、夜景とは、夜の風景であって、たとえばビル、住宅街、自動車などの光が多く含まれているものを意味し、判定部105は、夜景が含まれている可能性が高いと判定されたセルが、一定数(たとえば、10)以上あれば、風景には夜景が含まれていると判定することとなる。
【0040】
このような構成とすれば、夜景は周辺よりも明度の高い光の点を多く含む場合が多いという特性を反映して、撮像風景の一部が夜景であるか否かを判定することができ、撮像風景の一部が夜景であるか否かを精度よく判定することが可能となる。なお、夜景が含まれている可能性が高いと判定されたセルの数によって、夜景のレベルあるいは度合いを判定してもよい。また、夜景の判定の対象とするセルは、遠景と判定されたセルだけに限ることで処理速度を向上させることができる。さらに、上述した空に関する判定により夜空と判定されたセルが一定数(たとえば、10)以上ある場合だけに限ってもよい。
【0041】
なお、図1の説明では、判定部105によって初期風景について遠景に関する判定をおこなって、撮像風景について、空、海、山および夜景などに関する判定をおこなうこととしたが、これに限ることはない。具体的には、たとえば、判定部105によって撮像風景について遠景に関する判定をおこなってもよいし、初期風景について、空、海、山および夜景などに関する判定をおこなってもよい。
【0042】
保存部106は、判定部105によって判定された判定結果に応じて、撮像風景画像を保存する。具体的には、たとえば、保存部106は、判定結果として、海および山を含む撮像風景画像であると判定された場合に、撮像風景画像を図示しない記憶装置の保存領域に保存する構成でもよい。より具体的には、たとえば、利用者によりあるいは工場での初期設定によりあらかじめ定められた条件を満たす撮像風景画像を自動的に保存する構成としてもよい。
【0043】
また、保存部106は、撮像風景画像と、撮像風景画像の位置情報とを関連づけて保存することとしてもよい。
【0044】
(風景撮像装置100の処理の内容)
つぎに、図2を用いて、本実施の形態にかかる風景撮像装置100の処理の内容について説明する。図2は、本実施の形態にかかる風景撮像装置の処理の内容を示すフローチャートである。図2のフローチャートにおいて、まず、撮像部101によって、風景画像を撮像したか否かを判断する(ステップS201)。風景画像の撮像は、たとえば、利用者や風景撮像装置100の移動とともに連続的におこなう構成でもよいし、利用者によって開始の入力を受け付けることとしてもよい。
【0045】
ステップS201において、風景画像を撮像するのを待って、撮像した場合(ステップS201:Yes)は、分割部102によって、ステップS201において撮像された風景画像(以下、「初期風景画像」という)を複数のセルに分割する(ステップS202)。
【0046】
つぎに、算出部103によって、初期風景画像に対応する初期風景のうち、ステップS202において分割された各セルに対応する初期風景の一部までの距離を算出する(ステップS203)。
【0047】
つづいて、判定部105によって、ステップS203において算出された距離を用いて、遠景を判定する(ステップS204)。遠景の判定は、たとえば、各セルに対応する初期風景の一部が遠景であるか否かを判定する構成である。
【0048】
そして、決定部104によって、初期風景画像における一以上のセルからなる画像領域における、ステップS204において判定された初期風景の一部が遠景と判定されたセルの数量に基づいて撮像方向を決定する(ステップS205)。
【0049】
つぎに、撮像部101によって、ステップS205において決定された撮像方向の撮像風景画像を撮像する(ステップS206)。撮像風景画像の撮像は、たとえば、ステップS205において決定された撮像方向に車載カメラを向けるよう、図示しない駆動部を駆動させておこなう。
【0050】
そして、分割部102によって、ステップS206において撮像された撮像風景画像を複数のセルに分割する(ステップS207)。
【0051】
つぎに、判定部105によって、ステップS206において撮像された撮像風景画像に対応する撮像風景を判定する(ステップS208)。撮像風景の判定は、たとえば、撮像風景画像に対応する撮像風景のうち、ステップS207において分割された各セルに対応する撮像風景の一部が、空、海、山および夜景のうち少なくともいずれか1つに該当するか否かを判定する。
【0052】
そして、保存部106によって、ステップS208において判定された判定結果に応じて、撮像風景画像を保存して(ステップS209)、一連の処理を終了する。
【0053】
なお、図2のフローチャートでは説明を省略したが、ステップS206において撮像された撮像風景画像を、ステップS201における初期風景画像に置き換えて以降の処理をおこなうことで、再度、撮像方向を調整できる構成としてもよい。
【0054】
なお、本発明の風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体は、図1に示した風景撮像装置100によって、その機能を実現することとしたが、風景撮像装置100に限ることはなく、図1に示す機能部を備える構成とすれば、複数の装置であってもよい。各機能部を異なる装置として接続する場合、装置間の接続は、たとえば、有線、無線を問わず、Bluetooth(登録商標)などによって通信をおこなって接続することとしてもよい。
【0055】
以上説明したように、本実施の形態にかかる風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体によれば、撮像された初期風景画像から、遠景を判定して撮像方向を決定して撮像風景画像を撮像するため、あらかじめ登録しなくても見晴らしの良い風景を撮像することができる。
【0056】
また、撮像風景画像について風景を判定することによって、撮像した撮像風景画像を保存する構成であるため、利用者によりあるいは工場での初期設定によりあらかじめ定められた条件に応じて、撮像風景画像を適切に保存することができる。換言すれば、利用者の好みに応じた風景を撮像した撮像風景画像を効率的に保存することができ、かつ、保存領域の有効利用を図ることができる。
【0057】
すなわち、本実施の形態によれば、利用者は、風景撮像装置の操作や撮像地点の登録をしなくても、見晴らしの良い風景を自動的に撮像し、適切な撮像風景画像を保存することができる。特に、運転者は、運転後に風景を確認することができるため、運転中に風景に注意を向ける必要がなくなり、安全運転を図ることができる。
【実施例】
【0058】
以下に、本発明の実施例について説明する。本実施例では、たとえば、車両(四輪車、二輪車を含む)などの移動体に搭載される車載装置によって、本発明の風景撮像装置を実施した場合の一例について説明する。
【0059】
(車載装置のハードウェア構成)
図3を用いて、本実施例にかかる車載装置のハードウェア構成について説明する。図3は、本実施例にかかる車載装置のハードウェア構成の一例を示すブロック図である。
【0060】
図3において、車載装置300は、車両などの移動体に搭載されており、CPU301と、ROM302と、RAM303と、磁気ディスクドライブ304と、磁気ディスク305と、光ディスクドライブ306と、光ディスク307と、音声I/F(インターフェース)308と、スピーカ309と、入力デバイス310と、映像I/F311と、ディスプレイ312と、カメラ313と、通信I/F314と、GPSユニット315と、各種センサ316と、を備えている。また、各構成部301〜316はバス320によってそれぞれ接続されている。
【0061】
まず、CPU301は、車載装置300の全体の制御を司る。ROM302は、ブートプログラム、撮像プログラム、画像判定プログラム、画像保存プログラムなどの各種プログラムを記録している。また、RAM303は、CPU301のワークエリアとして使用される。
【0062】
撮像プログラムは、たとえば、車両前方の風景画像を後述するカメラ313によって撮像させる。また、撮像プログラムは、後述する判定プログラムによって判定された見晴らしの良い地点に向けた撮像方向を撮像するために、カメラ313の駆動部を駆動させる駆動角度を決定させるとともに駆動部を駆動させて、撮像方向の風景画像を撮像させることとしてもよい。
【0063】
画像判定プログラムは、たとえば、後述するカメラ313によって撮像された風景画像の風景に関する判定をおこなわせる。詳細は図4〜図8を用いて説明するが、画像判定プログラムは、たとえば、風景画像の一部を構成するセルに対応する風景が遠景か否かを判定させたり、風景画像の一部を構成するセルに対応する風景が空、海、山および夜景のいずれかに該当するか否かを判定させたりする。
【0064】
また、画像判定プログラムは、たとえば、複数のセルからなる画像領域における遠景のセルの数量から、風景画像に対応する風景について、見晴らしの良い方向を判定させたり、風景画像の一部を構成するセルに対応する風景の種別に応じて見晴らし指数を算出させることによって、見晴らしの良い風景か否かを判定させることとしてもよい。
【0065】
画像保存プログラムは、たとえば、後述する磁気ディスクドライブ304や光ディスクドライブ306を制御して、磁気ディスク305や光ディスク307などの記録媒体に風景画像を保存させる。具体的には、たとえば、保存させるデータは、判定プログラムによって見晴らしの良い風景と判定された風景画像などである。このように、見晴らしの良い風景を保存させることで、利用者は、車両の走行中に左右の風景に気をとられることなく、風景画像を取得することができる。
【0066】
磁気ディスクドライブ304は、CPU301の制御にしたがって磁気ディスク305に対するデータの読み取り/書き込みを制御する。磁気ディスク305は、磁気ディスクドライブ304の制御で書き込まれたデータを記録する。磁気ディスク305としては、たとえば、HD(ハードディスク)やFD(フレキシブルディスク)を用いることができる。
【0067】
磁気ディスク305に記録される情報の一例として、風景画像などが挙げられる。なお、風景画像を磁気ディスク305に記録するようにしたが、後述する光ディスク307に記録するようにしてもよい。
【0068】
また、風景画像は、車載装置300のハードウェアと一体に設けられているものに限って記録されるものではなく、車載装置300の外部に設けられていてもよい。その場合、車載装置300は、たとえば、通信I/F314を通じて、ネットワークを介して風景画像を出力したりする。
【0069】
光ディスクドライブ306は、CPU301の制御にしたがって光ディスク307に対するデータの読み取り/書き込みを制御する。光ディスク307は、光ディスクドライブ306の制御にしたがってデータの読み出される着脱自在な記録媒体である。光ディスク307は、書き込み可能な記録媒体を利用することもできる。また、この着脱自在な記録媒体として、光ディスク307のほか、MO、メモリカードなどであってもよい。
【0070】
音声I/F308は、音声出力用のスピーカ309に接続され、スピーカ309からは音声が出力される。
【0071】
入力デバイス310は、文字、数値、各種指示などの入力のための複数のキーを備えたリモコン、キーボード、マウス、タッチパネルなどが挙げられる。
【0072】
また、映像I/F311は、ディスプレイ312およびカメラ313と接続される。映像I/F311は、具体的には、たとえば、ディスプレイ312全体の制御をおこなうグラフィックコントローラと、即時表示可能な画像情報を一時的に記録するVRAM(Video RAM)などのバッファメモリと、グラフィックコントローラから出力される画像データに基づいて、ディスプレイ312を表示制御する制御ICなどによって構成される。
【0073】
ディスプレイ312には、アイコン、カーソル、メニュー、ウインドウ、あるいは文字や画像などの各種データが表示される。このディスプレイ312は、たとえば、CRT、TFT液晶ディスプレイ、プラズマディスプレイなどを採用することができる。また、ディスプレイ312は、車両に複数備えられていてもよく、たとえば、運転者に対するものと後部座席に着座する搭乗者に対するものなどである。
【0074】
カメラ313は、車両のダッシュボードや天井などに設置され、車両外部の風景画像を撮像する。風景画像は静止画あるいは動画のどちらでもよく、たとえば、カメラ313によって前方および決定された撮像方向の風景画像を撮像し、撮像した風景画像を画像判定プログラムによって判定された判定結果に基づいて、保存プログラムによって磁気ディスク305や光ディスク307などの記録媒体に出力することとしてもよい。また、カメラ313は、駆動部を駆動させることによって、決定された撮像方向を撮像できる可動式のカメラ313であってもよい。
【0075】
通信I/F314は、無線を介してネットワークに接続され、車載装置300とCPU301とのインターフェースとして機能する。通信I/F314は、さらに、無線を介してインターネットなどの通信網に接続され、この通信網とCPU301とのインターフェースとしても機能する。
【0076】
通信網には、LAN、WAN、公衆回線網や携帯電話網などがある。具体的には、通信I/F314は、たとえば、FMチューナー、VICS(Vehicle Information and Communication System)/ビーコンレシーバ、無線ナビゲーション装置、およびその他のナビゲーション装置によって構成され、VICSセンターから配信される渋滞や交通規制などの道路交通情報を取得する。なお、VICSは登録商標である。
【0077】
GPSユニット315は、GPS衛星からの電波を受信し、車両の現在地点を示す情報を出力する。GPSユニット315の出力情報は、後述する各種センサ316の出力値とともに、CPU301による車両の現在地点の算出に際して利用される。現在地点を示す情報は、たとえば緯度・経度、高度などの、地図情報上の1点を特定する情報であり、保存する風景画像に対応付けることによって、見晴らしの良い風景画像の地点を確認できる構成としてもよい。
【0078】
各種センサ316は、車速センサや加速度センサ、角速度センサなどを含み、各種センサ316の出力値は、CPU301による車両の現在地点の算出や、速度や方位の変化量の測定などに用いられる。
【0079】
図1に示した風景撮像装置100が備える撮像部101、分割部102、算出部103、決定部104、判定部105、保存部106は、図3に示した車載装置300におけるROM302、RAM303、磁気ディスク305、光ディスク307などに記録されたプログラムやデータを用いて、CPU301が所定のプログラムを実行し、車載装置300における各部を制御することによってその機能を実現する。
【0080】
すなわち、本実施例の車載装置300は、車載装置300おける記録媒体としてのROM302に記録されている各種プログラムを実行することにより、図1に示した風景撮像装置100が備える機能を、図2に示した手順で実行することができる。
【0081】
(車載装置300の処理の概要)
ここで、図4〜図8を用いて、本実施例にかかる車載装置300の処理の概要について説明する。本実施例にかかる車載装置300は、たとえば、可動式のカメラ313を車両のダッシュボード周辺に設置し、車両の前方の風景画像を撮像して各種判定(解析)をおこなう。ここで、前方の風景画像としたのは、通常、見晴らしの良い地点として、前方または左右の斜め前方などが遠方の風景(遠景)であるからである。
【0082】
そして、車両の前方の風景画像を解析して、風景画像に遠方の風景があるか否かを判定し、遠方の風景がある場合に、カメラ313を遠方の風景がある方向をカメラ313駆動方向として駆動させる。そして、駆動後の風景画像を撮像して、見晴らし指数を算出する。詳細は図8を用いて説明するが、見晴らし指数は、たとえば、風景画像を複数のセルに分割して、遠方の風景と判定されたセルの数で表すこととしてもよい。この見晴らし指数が高い場合に、搭乗者へ報知するとともに、風景画像と風景画像の位置情報を対応付けて保存する。
【0083】
図4は、本実施例にかかる風景画像の一例を示す説明図である。図4において、風景画像400は、車両に設置されたカメラ313によって撮像された、車両の前方の風景である。風景画像400の撮像は、たとえば、車両が走行中である場合に連続的におこなうこととしてもよく、所定間隔毎に1フレームずつ撮像される構成でもよい。また、撮像された風景画像400は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に出力される。
【0084】
また、撮像された風景画像400は、CPU301によって適切に撮像されたか否かを判断する構成でもよい。具体的には、たとえば、画像認識によって風景画像中に障害物が含まれるか否かを判断することとしてもよい。そして、適切に風景が撮像されていなければ、風景画像400を破棄することとしてもよい。
【0085】
図5は、本実施例にかかる風景画像の分割の一例を示す説明図である。図5において、風景画像500は、図4に示した風景画像400について複数に分割されたセル501,501,…によって構成されている。
【0086】
具体的には、たとえば、セル501の分割は、CPU301によって、映像I/F311のバッファ領域や、その他記録媒体の作業領域に記録された風景画像400を複数のセル501に分割する。各セル501のサイズは、たとえば、風景画像400のサイズが1280×1024ピクセルである場合には、30×30ピクセル程度であることが望ましい。なお、セル501のサイズは、後述する距離の算出や風景の判定などの精度や処理速度などを考慮して決めることとしてもよい。
【0087】
また、分割対象となった風景画像400のサイズとセル501のサイズとの関係によって、風景画像400のすべてを均一のセルに分割できない場合には、風景画像400の端部を分割の対象から除外することとしてもよい。
【0088】
図6は、本実施例にかかる風景画像における各セルの距離の算出および遠景の判定の一例を示す説明図である。図6において、画像600は、図5に示した風景画像500を構成する各セル501について、距離を算出し、遠景の判定をおこなった結果を示している。
【0089】
具体的には、たとえば、距離の算出は、まず、相前後して撮像された2つの風景画像について、セル毎に特徴点を検出する。換言すれば、時系列に連続する2つの風景画像について、各セルに含まれる風景の一部のうちからあらかじめ定められた所定の条件に適合する点(言い換えれば画素)を特徴点として検出する。特徴点は、たとえば、セル毎に1つ以上検出する構成でもよい。
【0090】
つづいて、検出された特徴点からオプティカルフローを算出する。すなわち、相前後して撮影された2つの風景画像について、セル毎に検出された特徴点の変化(動きベクトル)を求めることで、オプティカルフローを算出する。そして、各セルの平均距離を算出する。換言すれば、セル毎に検出された複数の特徴点にそれぞれ対応する複数のベクトル(オプティカルフロー)を用いて、カメラ313と複数の特徴点との距離を算出し、算出された距離を平均して、各セルの平均距離として算出する。なお、このように算出された各セルの平均距離は、セル間の相対的な違いが認識できればよいので、本実施例では、たとえば空は無限遠として扱うこととする。
【0091】
また、カメラ313として複眼のカメラ313を用いた場合には、異なる位置から同時に撮像された2つの風景画像についての視差のずれから各セルの平均距離を算出してもよい。
【0092】
また、具体的には、たとえば、遠景の判定は、前述した距離の算出により算出された各セルの平均距離に基づいて、各セルに含まれる風景の一部が遠景であるか否かを判定する処理である。
【0093】
より具体的には、たとえば、遠景の判定は、算出された各セルの平均距離があらかじめ設定されたしきい値よりも大きい場合には、そのセルに対応する風景の一部は、遠景(たとえば、空、海、山などの遠い風景)であり、各セルの平均距離があらかじめ設定されたしきい値よりも小さい場合には、そのセルに対応する風景の一部は、近景(たとえば、走行中の道路、先行車両などの近い風景)であると判定する。
【0094】
あらかじめ設定されるしきい値は複数であってもよく、画像600は、複数の距離に応じた遠景の判定結果を示している。具体的には、たとえば、各セルについて白、灰色、黒などの多段階で表されており、明るい(すなわち白に近い)程、近景(平均距離が小さいこと)を示しており、暗い(すなわち黒に近い)程、遠景(平均距離が大きい)ことを示している。
【0095】
図7は、本実施例にかかるカメラの駆動角度の決定について示す説明図である。図7において、画像700は、図6に示した多段階の遠景の判定によるセル701,702,703,704,705から構成されている。なお、図7の説明では、多段階の遠景の判定として、5段階の遠景を判定し、最も遠景の黒いセル701から順に、暗から明に色分けされており、最も近景のセル705は白く示している。
【0096】
また、画像700には、複数のセル701(702,703,704)からなる、左領域710および右領域720が設定されており、本実施例では、左領域710および右領域720に含まれる最も遠景のセル701の数量に基づいて、カメラ313の駆動角度を決定する構成である。
【0097】
より具体的には、たとえば、駆動角度の決定は、左領域710と、右領域720と、における最も遠景のセル701の数量が多い方に一定角度駆動させるように駆動角度を決定する構成でもよい。画像700においては、左領域710の最も遠景のセル701の数量が39、右領域720の最も遠景のセル701の数量が21であるため、カメラ313を左方向に一定角度駆動させることとなる。
【0098】
また、所定の数量以上の最も遠景のセル701を含む領域の方向にカメラ313が向くようにしてもよい。具体的には、たとえば、最も遠景のセル701の数量が30以上であれば見晴らしの良い風景の方向として、駆動角度を決定してもよい。このようにすれば、左右領域710,720の比較だけでなく、見晴らしが良い方向を的確に判定することができる。
【0099】
また、左右領域710,720の差に応じて角度を算出する構成としてもよい。具体的には、たとえば、差が大きければ大きな角度とし、小さければ小さな角度としてもよい。また、5段階の遠景を点数化して、点数をカウントすることとしてもよい。具体的には、たとえば、セル701を1点、セル702を2点、セル703を3点、セル704を4点、セル705を5点として、合計点数が小さいほど見晴らしが良い方向とする構成でもよい。
【0100】
なお、領域は、その大きさは画像700に限ることはなく、左右領域710,720にくわえて、真ん中に領域を設けたりして3つ以上であってもよい。あるいは、上下方向について道路消失点を検出して、道路消失点より上側の領域について駆動角度を決定することとしてもよい。このように、判定対象となる領域を調整することにより処理の迅速化や負荷軽減を図ることができる。
【0101】
図8は、本実施例にかかる見晴らし指数算出について示す説明図である。図8において、風景画像800は、図7に示した最も遠景のセル701の数量に基づいて決定されたカメラ313の駆動角度分カメラ313を駆動させてから撮像された風景である。撮像された風景画像800は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に出力される。
【0102】
そして、風景画像800は、画像解析によって見晴らし指数が算出される。具体的には、たとえば、見晴らし指数の算出は、海と空の割合から算出する構成でもよく、風景画像800を複数のセルに分割し、分割したセルのうち、海と空のセルの数量をカウントすることによって算出することとしてもよい。なお、海と空の判定については、図12および図13を用いて説明する。ここで、セルの分割については、図5とほぼ同様であるため説明を省略する。
【0103】
そして、算出された見晴らし指数が一定以上であれば、風景画像800が見晴らしの良い風景であると判定して、搭乗者へ報知するとともに、風景画像と風景画像の位置情報を対応付けて保存する。また、ディスプレイ312などによって、見晴らしの良い方向を示したり、見晴らしの良い方向の風景を表示したりしてもよい。
【0104】
(車載装置300の処理の内容)
つぎに、図9〜図13を用いて、本実施例にかかる車載装置300の処理の内容について説明する。図9は、本実施例にかかる車載装置の処理の内容を示すフローチャートである。図9のフローチャートにおいて、まず、カメラ313によって風景画像の撮像を開始するか否かを判断する(ステップS901)。撮像の開始は、たとえば、車両が走行したら開始することとしたり、利用者による開始の入力を受け付けたりしてもよい。
【0105】
ステップS901において、風景画像の撮像を開始するのを待って、開始する場合(ステップS901:Yes)は、CPU301によって、カメラ313の初期化をおこなう(ステップS902)。初期化は、たとえば、可動式のカメラ313を車両の前方に向けることとしてもよい。
【0106】
つぎに、カメラ313によって、車両の前方の風景画像を撮像する(ステップS903)。具体的には、たとえば、図4に示した風景画像400などを撮像し、映像I/F311のバッファメモリやその他記録媒体の作業領域に出力する。
【0107】
そして、CPU301によって、ステップS903において撮像された風景画像の画像分割をおこなう(ステップS904)。具体的には、たとえば、画像分割は、図5に示したように風景画像400を複数のセル501に分割し、複数のセル501からなる風景画像500とする。
【0108】
そして、CPU301によって、ステップS904において画像分割された風景画像を用いてカメラ313を駆動する駆動方向決定処理をおこなう(ステップS905)。駆動方向決定処理は、たとえば、ステップS904において分割されたセルについて遠景に関する判定に基づいておこなう構成でもよく、駆動方向決定処理の詳細は、図10に後述する。
【0109】
つぎに、CPU301によって、ステップS905の駆動方向決定処理において決定された駆動角度分だけカメラ313の駆動部を駆動させる(ステップS906)。
【0110】
その後、カメラ313によって、ステップS906において駆動された方向の風景画像を撮像する(ステップS907)。
【0111】
つぎに、CPU301によって、ステップS907において撮像された風景画像について、見晴らし指数算出処理をおこなう(ステップS908)。見晴らし指数算出処理は、たとえば、図8に示した風景画像800における海と空の割合から算出する構成でもよく、見晴らし指数算出処理の詳細は、図11に後述する。
【0112】
そして、CPU301によって、ステップS908の見晴らし指数算出処理において算出された見晴らし指数は一定以上か否かを判断する(ステップS909)。この見晴らし指数を判断する一定の値は、利用者により設定できる構成でもよく、天気などに応じて自動的に変更する構成でもよい。
【0113】
ステップS909において、見晴らし指数が一定以上であった場合(ステップS909:Yes)は、磁気ディスク305や光ディスク307などの記録媒体によって、見晴らしの良い風景としてステップS907において撮像された風景画像を保存する(ステップS910)。風景画像の保存は、たとえば、風景画像と風景画像の位置情報を対応付けて保存してもよいし、その旨を搭乗者に報知することとしてもよい。搭乗者への報知は、たとえば、ディスプレイ312などによって、見晴らしの良い方向を示したり、見晴らしの良い方向の風景を表示したりしてもよい。
【0114】
また、ステップS909において、見晴らし指数が一定未満であった場合(ステップS909:No)は、ステップS911へ移行して処理をおこなう。
【0115】
その後、CPU301によって、風景画像の撮像を続行するか否かを判断する(ステップS911)。続行の判断は、たとえば、車両が走行中であれば続行することとしてもよいし、利用者によって続行の指示を受け付ける構成でもよい。
【0116】
ステップS911において、続行する場合(ステップS911:Yes)は、ステップS902に戻って処理を繰り返し、続行しない場合(ステップS911:No)は、そのまま一連の処理を終了する。
【0117】
また、図9のフローチャートででは説明を省略したが、搭乗者への報知は、たとえば、車両に搭載されたカーナビゲーション装置などに出力する構成とすれば、カーナビゲーション装置により見晴らしの良い地点を登録することによって、搭乗者は、車両停止お勧め地点として利用することができる。また、車両の停車が可能であれば、搭乗者は、車両を停車させて、見晴らしの良い地点を散策することもできる。また、カーナビゲーション装置による周辺検索によって、駐車場や公園など駐車できる地点を検索して、案内する構成としてもよい。
【0118】
つづいて、図10を用いて、本実施例にかかる車載装置300における駆動方向決定処理(図9のステップS905)の内容について説明する。図10は、本実施例にかかる車載装置における駆動方向決定処理(図9のステップS905)の内容について示すフローチャートである。図10のフローチャートにおいて、まず、CPU301によって、ステップS904において分割された各セルについて特徴点を検出する(ステップS1001)。
【0119】
つぎに、CPU301によって、ステップS1001において検出された特徴点からオプティカルフローを算出し(ステップS1002)、オプティカルフローを用いて各セルの平均距離を算出する(ステップS1003)。なお、ステップS1003では、オプティカルフローを用いて平均距離を算出する代わりに、複眼のカメラ313を用いた場合には、異なる位置から同時に撮像された2つの風景画像についての視差のずれから各セルの平均距離を算出してもよい。
【0120】
そして、CPU301によって、すべてのセルについて処理が終了したか否かを判断する(ステップS1004)。
【0121】
ステップS1004において、すべてのセルについて処理が終了していない場合(ステップS1004:No)は、ステップS1001へ戻って処理を繰り返し、すべてのセルについて処理が終了している場合(ステップS1004:Yes)は、CPU301によって、各領域内の遠景のセルをカウントする(ステップS1005)。ここで、各領域は、たとえば、図7に示した左領域710および右領域720でもよく、それぞれについて最も遠景のセル701の数量をカウントすることとしてもよい。
【0122】
そして、CPU301によって、ステップS1005においてカウントされた遠景のセルの数量に基づいて、カメラ313を駆動させる駆動角度を決定する(ステップS1006)。そして、図9におけるステップS905の駆動方向決定処理を終了して、ステップS906へ移行する。
【0123】
つぎに、図11を用いて、本実施例にかかる車載装置300における見晴らし指数算出処理(図9のステップS908)の内容について説明する。図11は、本実施例にかかる車載装置における見晴らし指数算出処理(図9のステップS908)の内容について示すフローチャートである。図11のフローチャートにおいて、まず、CPU301によって、ステップS907において撮像された風景画像について空判定処理をおこなう(ステップS1101)。空判定処理は、たとえば、風景画像の上方に位置するセルについて、当該上方に位置するセルに含まれる複数の画素の明度の分散値から、風景の一部が空であるか否かを判定することとしてもよく、空判定処理の詳細は、図12に後述する。
【0124】
つづいて、CPU301によって、ステップS907において撮像された風景画像について海判定処理をおこなう(ステップS1102)。海判定処理は、たとえば、ステップS1101において空と判定されなかったセルについて、空と判定されたセルに含まれる複数の画素の平均色相および平均彩度に基づいて、風景の一部が海であるか否かを判定することとしてもよく、海判定処理の詳細は、図13に後述する。
【0125】
つぎに、CPU301によって、ステップS907において撮像された風景画像について山判定処理をおこなう(ステップS1103)。山判定処理は、たとえば、ステップS1101において空と判定されなかったセルのうち、空と判定されたセルに隣接するセルの各々について、色の性質を分析することにより空と空でない風景の境界を検出することで、風景に山が含まれるか否かを判定することとしてもよい。
【0126】
そして、CPU301によって、ステップS907において撮像された風景画像について夜景判定処理をおこなう(ステップS1104)。夜景判定処理は、たとえば、複数のセルの各々について、所定値の明度を基準として画素の2値化をおこなうことにより区別される複数の画素群のうち、基準よりも高い方に区別された画素群の数に基づいて、風景の一部が夜景であるか否かを判定することとしてもよい。
【0127】
その後、CPU301によって、ステップS1101〜ステップS1104において判定された風景に基づいて、所定の特徴セルをカウントする(ステップS1105)。そして、図9におけるステップS908の見晴らし指数算出処理を終了して、ステップS909へ移行する。ここで、所定の特徴セルのカウントは、たとえば、図8に示した海と空のセルの数量をカウントすることによって見晴らし指数とする構成でもよく、利用者によって特徴セルの内容を設定する構成でもよい。
【0128】
なお、本実施例では、風景の特徴として見晴らし指数を用いる構成としたが、見晴らし指数の代わりに、都市度、自然度、紅葉度などを用いることとしてもよい。具体的には、たとえば、紅葉度は、複数のセルに分割された風景画像に対してフラクタル次元を解析し、各セルについて緑葉(緑色)や紅葉(赤色や黄色)や落葉(茶色)を判定する。そして、それぞれの特徴セル数を累計して、風景画像のすべてのセルに対して各特徴セルの占める割合を緑葉率や紅葉率や落葉率とする。
【0129】
そして、これら緑葉率、紅葉率および落葉率を用いて、紅葉度を以下の式(1)によって示すこととしてもよい。
【0130】
紅葉度=(紅葉率−落葉率)/(緑葉率+紅葉率+落葉率) (1)
【0131】
このように示された紅葉度は、たとえば、1.0〜0.5であった場合に紅葉最盛期、0.5未満〜0.0より大きい場合に色づきはじめ(落葉率=0)や紅葉終わりかけ(落葉率>0)、0.0であった場合に常緑広葉樹や針葉樹や紅葉開始前(落葉率=0)や紅葉終わり(落葉率>0)、0.0未満〜−1.0であった場合に落葉とそれぞれ判定することとしてもよい。
【0132】
つぎに、図12を用いて、本実施例にかかる車載装置300における空判定処理(図11のステップS1101)の内容について説明する。図12は、本実施例にかかる車載装置における空判定処理(図11のステップS1101)の内容について示すフローチャートである。図12のフローチャートにおいて、まず、CPU301によって、各セルに含まれる複数の画素の色相H、明度Lおよび彩度Sから、セルにおけるHLSの平均値および分散値を算出する(ステップS1201)。算出された平均値および分散値は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に記録されることとなる。
【0133】
つづいて、CPU301によって、ステップS1201において算出された平均値および分散値について、判定対象のセルおよびその8近傍のセルのすべての画素について平均値および分散値を読み出す(ステップS1202)。すなわち、判定対象となる1つのセルおよびその1つのセルの周辺に位置する8つのセルの各々のすべての画素についての平均値および分散値を読み出すことにより判定をおこなう構成である。ここで、判定対象となるセルは、たとえば、風景画像における上方、典型的には上半分に位置するセルでもよい。そして、判定対象となるセル毎に以降のステップS1203からステップS1205の一連の動作が繰り返されることとなる。
【0134】
なお、セルに対応の色情報がRGB系の色情報である場合、この色情報は、色相、明度(すなわち輝度)および彩度をパラメータとする表色系の色情報、たとえばHLS系の色情報に変換される構成でもよい。
【0135】
つぎに、CPU301によって、ステップS1202において読み出された判定対象となる1つのセルおよびその8近傍のセルのすべての明度Lの分散値が10以下か否かを判断する(ステップS1203)。
【0136】
ステップS1203において、判定対象となる1つのセルおよびその8近傍のセルのすべての明度Lの分散値が10以下の場合(ステップS1203:Yes)は、CPU301によって、その判定対象となる1つのセルに含まれる風景の一部は「空」と判定する(ステップS1204)。すなわち、判定対象のセルは、「空」のセルであると判定し、「空」と判定された結果は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に記録されることとなる。
【0137】
そして、CPU301によって、ステップS1202からステップS1204の一連の動作を、判定対象とすべきすべてのセルについておこなったか否かを判断する(ステップS1205)。
【0138】
また、ステップS1203において、判定対象となる1つのセルおよびその8近傍のセルのうちいずれかの明度Lの分散値が10より大きい場合(ステップS1203:No)は、ステップS1205に移行して、ステップS1202からステップS1204の一連の動作を、判定対象とすべきすべてのセルについておこなったか否かを判断する(ステップS1205)。
【0139】
ステップS1205において、ステップS1202からステップS1204の一連の動作を、判定対象とすべきすべてのセルについておこなった場合(ステップS1205:Yes)は、そのまま、図11におけるステップS1101の空判定処理を終了して、ステップS1102へ移行する。
【0140】
また、ステップS1205において、ステップS1202からステップS1204の一連の動作を、判定対象とすべきすべてのセルについておこなっていない場合(ステップS1205:No)は、ステップS1202へ戻って処理を繰り返す。
【0141】
このようにステップS1201からステップS1204までの一連の動作によって、風景画像に含まれるセルについて「空」のセルであるか否かが判定されることとなる。また、図12では説明を省略したが、風景画像に含まれるセルのうち遠景と判定されたセルについて、「空」のセルであるか否かを判定することとしてもよい。
【0142】
さらに、図12では説明を省略したが、空判定処理の一部として、「空」のセルであると判定されたセルに基づいて、以下のように空模様の判定をおこなうこととしてもよい。
【0143】
空模様の判定は、たとえば、図12において、判定対象とすべきすべてのセルについて判定し、「空」のセルであると判定されたセルの色相H、明度Lおよび彩度Sの平均値に基づいてセル毎の空模様を判定する構成である。
【0144】
より具体的には、たとえば、「空」のセルであると判定されたセルの色相H、明度Lおよび彩度Sの平均値から、判定対象のセルの色相H、明度Lおよび彩度Sの平均値があらかじめ定められた判定条件を満たすか否かによって、空模様を判定する。セルの空模様としては、たとえば「青空」、「白い雲」、「黒い雲」、「夕焼け」および「夜」などが設定されることとしてもよい。
【0145】
判定条件は、たとえば、以下のように設定することができる。なお、色相H、明度Lおよび彩度Sは、0から255の範囲で表してある。
【0146】
セルが「青空」と判定されるための判定条件は、色相Hの平均値が100以上160未満、かつ、明度Lの平均値が100以上180未満、かつ、彩度Sの平均値が60以上である。
【0147】
セルが「白い雲」と判定されるための判定条件は、明度Lの平均値が180以上である。
【0148】
セルが「黒い雲」と判定されるための判定条件は、明度Lの平均値が180未満、かつ、彩度Sの平均値が60未満である。
【0149】
セルが「夕焼け」と判定されるための判定条件は、色相Hの平均値が0以上50未満または220以上250以下、かつ、明度Lの平均値が180未満、かつ、彩度Sの平均値が60以上である。
【0150】
セルが「夜」と判定されるための判定条件は、明度Lの平均値が100未満である。
【0151】
そして、以上のような判定条件に基づいて、セル毎に空模様を判定した後に、各空模様のセルの数量をカウントする。すなわち、「青空」と判定されたセルの数、「白い雲」と判定されたセルの数、「黒い雲」と判定されたセルの数、「夕焼け」と判定されたセルの数および「夜」と判定されたセルの数がそれぞれカウントされることとなる。
【0152】
その後、カウント数に基づいて、風景画像の空模様を判定する構成である。具体的には、たとえば、空模様の判定は、各空模様のセルの数のうち最も多い数の空模様を、風景画像の空模様であると判定することとしてもよい。より具体的には、たとえば、「青空」と判定されたセルの数が、「白い雲」、「黒い雲」、「夕焼け」、「夜」などの他の空模様と判定されたセルの数のいずれよりも多い場合には、風景画像の空模様は「青空」であると判定することとなる。
【0153】
なお、図12に示した空判定処理では、判定対象とするセルを風景画像における上方(典型的には上半分)に固定しているが、判定対象とするセルの領域を可変にしてもよい。
【0154】
具体的には、たとえば、風景画像に写っている水平線(あるいは地平線)より上側に属するセルを空判定処理の判定対象としてもよい。この場合には、たとえば、風景画像中における道路の消失点を検出し、この消失点に基づいて水平線の位置を特定する。この場合、道路の両縁に沿って伸びる線(たとえば白線)の延長線の交点を検出し、これを消失点として用いることができる。
【0155】
このように判定対象とするセルの領域を決定することで、カメラ313の取り付け方向や移動体の上下動によって撮影された風景画像の水平線の位置が上下する場合であっても、一層高い精度で空判定処理をおこなうことができる。
【0156】
あるいは、カメラ313の傾きを検知するGセンサ(あるいは、加速度センサ)を用いることで風景画像内の水平線を検出し、水平線より上側に属するセルを空判定処理の判定対象としてもよい。この場合にも、一層高い精度で空判定処理をおこなうことができる。
【0157】
また、図12に示した空判定処理によるセル毎の空模様の判定結果に基づいて、雲の形状を判定してもよい。すなわち、「青空」または「夕焼け」と判定されたセルと「白い雲」または「黒い雲」と判定されたセルとが相隣接する境界を検出し、雲の形状を判定する。たとえば、まとまった「白い雲」のセルと「青空」のセルとが相隣接する境界が、風景画像における上下方向に伸びている場合には、「入道雲(または、長い雲)」であると判定することができる。あるいは、たとえば、「白い雲」のセルと「青空」のセルとが相隣接する境界が、風景画像においてまだら状あるいは波状である場合には、「うろこ雲(またはまだら雲)」であると判定することができる。
【0158】
また、前述した空模様判定処理において、セルが「白い雲」と判定されるための判定条件を明度Lの平均値が180以上240未満とし、セルが「白飛び」と判定されるための判定条件を明度Lの平均値が240以上であるとしてもよい。この場合には、逆光によって、空の画像が白飛びしてしまっていることを判定することができ、空模様判定処理の精度を高めることができる。
【0159】
つぎに、図13を用いて、本実施例にかかる車載装置300における海判定処理(図11のステップS1102)の内容について説明する。図13は、本実施例にかかる車載装置における海判定処理(図11のステップS1102)の内容について示すフローチャートである。図13のフローチャートにおいて、まず、CPU301によって、図12に示した空判定処理による空判定結果を読み出す(ステップS1301)。この際、1つのセルが以降のステップS1302による処理の対象となるセルとして選択されることとなる。
【0160】
つづいて、CPU301によって、ステップS1301において読み出された空判定結果に基づいて、対象とするセルが「空」のセルよりも下側に位置するか否かを判断する(ステップS1302)。
【0161】
ステップS1302において、対象とするセルが「空」のセルよりも下側に位置しない場合(ステップS1302:No)は、ステップS1301に戻って処理を繰り返す。
【0162】
ステップS1302において、対象とするセルが「空」のセルよりも下側に位置する場合(ステップS1302:Yes)は、CPU301によって、各セルに含まれる複数の画素の色相H、明度Lおよび彩度Sの平均値および分散値を算出する(ステップS1303)。算出された平均値および分散値は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に記録されることとなる。
【0163】
つぎに、CPU301によって、ステップS1303において算出された平均値および分散値について、判定対象のセルおよびその左右のセルのすべての画素について平均値および分散値を読み出す(ステップS1304)。すなわち、判定対象となる1つのセルおよびその左右のセルの各々のすべての画素についての平均値および分散値を読み出すこととなる。そして、判定対象となるセル毎にステップS1304からステップS1307の一連の動作が繰り返されることとなる。
【0164】
つぎに、CPU301によって、判定対象となる1つのセルおよびその左右のセルのすべての色相H、明度Lおよび彩度Sの平均値があらかじめ設定された判定条件である海判定条件を満たすか否かを判断する(ステップS1305)。
【0165】
ここで、海判定条件は、たとえば以下のように設定することができる。なお、色相H、明度Lおよび彩度Sは、0から255の範囲で表してある。
【0166】
海判定条件は、色相Hの平均値が「空」のセルの色相Hの平均値の範囲±10以内、かつ、明度Lの平均値が「空」のセルの明度Lの平均値の最小値以下、かつ、彩度Sの平均値が60以上である。
【0167】
そして、以上のような海判定条件に基づいて、ステップS1305において、海判定条件を満たす場合(ステップS1305:Yes)は、CPU301によって、判定対象のセルは「海」のセルと判定する(ステップS1306)。そして、「海」と判定された結果は、たとえば、映像I/F311のバッファ領域や、その他記録媒体の作業領域に記録されることとなる。
【0168】
このような海判定条件によれば、「空」のセルの色相Hおよび明度Lの平均値に基づいて設定されているので、海が空の色を反射して空の色よりも濃い色であるという特徴と反映して、海判定処理によってセルに含まれる風景の一部が「海」であることを精度よく判定することができる。さらに、海判定条件を満たすか否かは、判定対象のセルにくわえて、その左右に相隣接するセルについても判定されている。よって、海は左右に広がっているという特徴を反映して、海判定処理によってセルに含まれる風景の一部が「海」であることを一層精度よく判定することができる。
【0169】
そして、CPU301によって、ステップS1304からステップS1306の一連の動作を、判定対象とすべきすべてのセルについておこなったか否かを判断する(ステップS1307)。
【0170】
また、ステップS1305において、海判定条件を満たさない場合(ステップS1305:No)は、ステップS1307へ移行して、ステップS1304からステップS1306の一連の動作を、判定対象とすべきすべてのセルについておこなったか否かを判断する(ステップS1307)。
【0171】
ステップS1307において、ステップS1304からステップS1306の一連の動作を、判定対象とすべきすべてのセルについておこなった場合(ステップS1307:Yes)は、そのまま、図11におけるステップS1102の海判定処理を終了して、ステップS1103へ移行する。
【0172】
また、ステップS1307において、ステップS1304からステップS1306の一連の動作を、判定対象とすべきすべてのセルについておこなっていない場合(ステップS1307:No)は、ステップS1304へ戻って処理を繰り返す。
【0173】
なお、図13では説明を省略したが、すべてのセルについて「海」のセルの数をカウントし、「海」のセルの数が、あらかめ設定されたしきい値(たとえば全セルの数の1/5)以上であるときには、風景画像には海の見える風景が含まれていると判定することとしてもよい。
【0174】
以上説明したように、本実施例によれば、撮像した風景画像から遠景を判定して、見晴らしの良い方向へカメラを駆動させることができるため、あらかじめ登録しなくても、見晴らしの良い風景にカメラを向けて撮影することができる。
【0175】
また、撮影した見晴らしの良い方向の風景の風景画像について、空、海、山および夜景などの景色を判定することができる。したがって、利用者や初期設定によって定められた見晴らし指数などの条件により、最適な風景画像を判定して保存することができる。すなわち、無駄な風景画像を保存せずに適切な風景画像だけを効率的に収集することができる。
【0176】
これらよりも明らかなように、本実施例によれば、利用者は、カメラの操作や撮影地点の登録をしなくても、見晴らしの良い風景を自動的に撮像し、適切な風景画像を保存することができる。特に、運転者は、運転後に風景を確認することができるため、運転中に風景に注意を向ける必要がなくなり、安全運転を図ることができる。
【0177】
また、本実施例では説明を省略したが、可動式のカメラを駆動させて風景を撮像する際、駆動にあわせて複数枚の風景画像を取得することで、パノラマ風景画像とする構成でもよい。具体的には、たとえば、パノラマ風景画像は、見晴らしの良い地点と判定された場合に、車両の前方から側方まで可動式のカメラを駆動させて一定角度の駆動間隔ごとに撮像する。そして、撮像した複数枚の風景画像を平行移動してマッチングすることによって、走行中のパノラマ風景画像とすることとしてもよい。
【0178】
また、パノラマ風景画像は、見晴らしの良い地点が道路沿いに続く場合は、可動式のカメラについて、一定角度の駆動間隔ごとに撮像する代わりに、可動式のカメラを見晴らしの良い方向へ向けたまま、一定の走行距離間隔で複数枚の風景画像を撮像することとしてもよい。
【0179】
また、上述した説明では、車両に搭載して風景を撮像する構成としたが、車両に搭載しない構成としてもよい。具体的には、たとえば、定点カメラなどによって、風景を撮像し、見晴らしの良い方向の風景画像を収集することとしてもよい。定点カメラであれば、車載する際に振動対策などを施す必要がないため、安価なシステムを提供することができる。
【0180】
また、本発明では、撮像する対象を風景としたが、風景に限ることはない。たとえば、建造物などを撮像して、美しい建造物の画像を収集することとしてもよい。このようにすることで、幅広く利用者の所望する被写体の画像を収集することができる。
【0181】
なお、本実施の形態で説明した風景撮像方法は、あらかじめ用意されたプログラムをパーソナル・コンピュータやワークステーションなどのコンピュータで実行することにより実現することができる。このプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。またこのプログラムは、インターネットなどのネットワークを介して配布することが可能な伝送媒体であってもよい。

Claims (12)

  1. 撮像手段によって撮像された任意の方向の風景画像(以下、「初期風景画像」という)を複数のセルに分割する分割手段と、
    前記初期風景画像に対応する初期風景のうち、前記分割手段によって分割された各セルに対応する前記初期風景の一部までの距離を算出する算出手段と、
    前記算出手段によって算出された距離に基づいて撮像方向を決定する決定手段と、
    前記算出手段によって算出された前記距離に基づいて前記各セルに対応する前記初期風景の一部が遠景であるか否かを判定する判定手段と、を備え、
    前記決定手段は、
    前記判定手段によって遠景であると判定された前記初期風景画像に基づいて前記撮像方向を決定することを特徴とする風景撮像装置。
  2. 前記決定手段は、
    前記初期風景画像における一以上のセルからなる画像領域における、前記判定手段によって前記初期風景の一部が遠景と判定されたセルの数量に基づいて、前記撮像方向を決定することを特徴とする請求項1に記載の風景撮像装置。
  3. 前記撮像手段は、
    前記決定手段によって決定された撮像方向の風景画像を撮像し、
    前記分割手段は、
    前記撮像手段によって撮像された撮像方向の風景画像(以下、「撮像風景画像」という)を複数のセルに分割し、
    前記判定手段は、
    前記撮像風景画像に対応する撮像風景のうち、前記分割手段によって分割された各セルに対応する前記撮像風景の一部が、空、海、山および夜景のうち少なくともいずれか一つに該当するか否かを判定することを特徴とする請求項1または2に記載の風景撮像装置。
  4. 前記判定手段は、
    前記撮像風景画像の上方に位置するセルについて、当該上方に位置するセルに含まれる複数の画素の明度の分散値から、前記撮像風景の一部が空であるか否かを判定することを特徴とする請求項3に記載の風景撮像装置。
  5. 前記判定手段は、
    前記空と判定されなかったセルについて、当該空と判定されたセルに含まれる複数の画素の平均色相および平均彩度に基づいて、前記撮像風景の一部が海であるか否かを判定することを特徴とする請求項3に記載の風景撮像装置。
  6. 前記判定手段は、
    前記空と判定されなかったセルのうち、当該空と判定されたセルに隣接するセルの各々について、色の性質を分析することにより空と空でない風景の境界を検出することで、前記撮像風景に山が含まれるか否かを判定することを特徴とする請求項3に記載の風景撮像装置。
  7. 前記判定手段は、
    前記複数のセルの各々について、所定値の明度を基準として画素の2値化をおこなうことにより区別される複数の画素群のうち、前記基準よりも高い方に区別された前記画素群の数に基づいて、前記撮像風景の一部が夜景であるか否かを判定することを特徴とする請求項3に記載の風景撮像装置。
  8. 前記判定手段によって判定された判定結果に応じて、前記撮像風景画像を保存する保存手段を備えることを特徴とする請求項3に記載の風景撮像装置。
  9. 前記保存手段は、
    前記撮像風景画像と、当該撮像風景画像の位置情報とを関連づけて保存することを特徴とする請求項8に記載の風景撮像装置。
  10. 撮像工程によって撮像された任意の方向の風景画像(以下、「初期風景画像」という)を複数のセルに分割する分割工程と、
    前記初期風景画像に対応する初期風景のうち、前記分割工程によって分割された各セルに対応する前記初期風景の一部までの距離を算出する算出工程と、
    前記算出工程によって算出された距離に基づいて撮像方向を決定する決定工程と、
    前記算出工程によって算出された前記距離に基づいて前記各セルに対応する前記初期風景の一部が遠景であるか否かを判定する判定工程と、を含み、
    前記決定工程では、
    前記判定工程によって遠景であると判定された前記初期風景画像に基づいて前記撮像方向を決定することを特徴とする風景撮像方法。
  11. 請求項10に記載の風景撮像方法をコンピュータに実行させることを特徴とする風景撮像プログラム。
  12. 請求項11に記載の風景撮像プログラムを記録したことを特徴とするコンピュータに読み取り可能な記録媒体。
JP2008540796A 2006-09-25 2006-09-25 風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体 Expired - Fee Related JP4870776B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2006/318980 WO2008050374A1 (fr) 2006-09-25 2006-09-25 Dispositif, procédé, programme de formation d'images de décor et support d'enregistrement pouvant être lu par ordinateur

Publications (2)

Publication Number Publication Date
JPWO2008050374A1 JPWO2008050374A1 (ja) 2010-02-25
JP4870776B2 true JP4870776B2 (ja) 2012-02-08

Family

ID=39324190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008540796A Expired - Fee Related JP4870776B2 (ja) 2006-09-25 2006-09-25 風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体

Country Status (3)

Country Link
US (1) US8233054B2 (ja)
JP (1) JP4870776B2 (ja)
WO (1) WO2008050374A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4915859B2 (ja) * 2007-03-26 2012-04-11 船井電機株式会社 物体の距離導出装置
CN101930533B (zh) * 2009-06-19 2013-11-13 株式会社理光 在图像采集设备中进行天空检测的装置和方法
FR2948483B1 (fr) * 2009-07-23 2012-02-03 Airbus Operations Sas Procede pour afficher une image sur un ecran d'un aeronef
JP5182594B2 (ja) * 2010-03-31 2013-04-17 アイシン・エィ・ダブリュ株式会社 画像処理システム
ITVI20120303A1 (it) * 2012-11-09 2014-05-10 St Microelectronics Srl Metodo per rilevare una linea retta in un'immagine digitale
CA2888173A1 (en) * 2014-04-17 2015-10-17 Navagation Solutions, Llc Rotatable camera
US20170195579A1 (en) * 2016-01-05 2017-07-06 360fly, Inc. Dynamic adjustment of exposure in panoramic video content
CN108399629B (zh) * 2018-02-05 2020-06-02 西南交通大学 一种人工复眼相机的图像阵列光流估计方法
US10775174B2 (en) * 2018-08-30 2020-09-15 Mapbox, Inc. Map feature extraction system for computer map visualizations

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7106376B1 (en) * 1998-10-22 2006-09-12 Flashpoint Technology, Inc. Method and system for improving image quality of portrait images using a focus zone shift
JP2000244800A (ja) * 1999-02-22 2000-09-08 Victor Co Of Japan Ltd 撮像装置
JP4239128B2 (ja) 2000-03-13 2009-03-18 富士フイルム株式会社 カメラシステム
US7262798B2 (en) * 2001-09-17 2007-08-28 Hewlett-Packard Development Company, L.P. System and method for simulating fill flash in photography
JP2003198904A (ja) 2001-12-25 2003-07-11 Mazda Motor Corp 撮像方法、撮像システム、撮像装置、撮像制御サーバ、並びに撮像プログラム
US7215828B2 (en) * 2002-02-13 2007-05-08 Eastman Kodak Company Method and system for determining image orientation
US7620246B2 (en) * 2002-07-30 2009-11-17 Fujifilm Corporation Method and apparatus for image processing
JP2005045398A (ja) 2003-07-24 2005-02-17 Canon Inc 撮影支援方法、撮影支援装置及び撮影装置
US20050212950A1 (en) * 2004-03-26 2005-09-29 Chinon Kabushiki Kaisha Focal length detecting method, focusing device, image capturing method and image capturing apparatus
US7804980B2 (en) * 2005-08-24 2010-09-28 Denso Corporation Environment recognition device

Also Published As

Publication number Publication date
JPWO2008050374A1 (ja) 2010-02-25
US8233054B2 (en) 2012-07-31
US20100085440A1 (en) 2010-04-08
WO2008050374A1 (fr) 2008-05-02

Similar Documents

Publication Publication Date Title
JP4870776B2 (ja) 風景撮像装置、風景撮像方法、風景撮像プログラムおよびコンピュータに読み取り可能な記録媒体
JP4717073B2 (ja) 風景解析装置及び方法
US9536325B2 (en) Night mode
US7653485B2 (en) Route guidance system and method
JP4895313B2 (ja) ナビゲーション装置およびその方法
US20140297185A1 (en) Method, Device and System for Presenting Navigational Information
US20090262145A1 (en) Information display device
EP1942314A1 (en) Navigation system
JP4845876B2 (ja) 道路景観地図作成装置、方法及びプログラム
CN111126182A (zh) 车道线检测方法、装置、电子设备及存储介质
JP2017528772A (ja) 経路データを生成する方法及びシステム
JP6708785B2 (ja) 走行経路提供システムおよびその制御方法、並びにプログラム
KR20130107697A (ko) 내비게이션 단말기의 배경 화면 표시 장치 및 방법
CN108139226B (zh) 具有新型简易模式的导航应用程序
CN111192341A (zh) 生成高精地图的方法、装置、自动驾驶设备及存储介质
CA2743941C (en) Method, device and system for presenting navigational information
CN108335507A (zh) 利用摄像头的拍摄影像的驾驶引导提供方法及装置
JP2016166794A (ja) 画像作成装置、画像作成方法、画像作成装置用プログラム、および、画像作成システム
JP5778006B2 (ja) 画像処理装置及び画像処理方法
CN111815943B (zh) 车辆停车次数的检测方法、装置、设备及存储介质
JP4591292B2 (ja) 車両用運転支援装置
CN110971889A (zh) 一种获取深度图像的方法、摄像装置以及终端
JP2010218361A (ja) 交通標識認識装置、交通標識認識方法、および、コンピュータプログラム
JP5650416B2 (ja) 表示装置、制御方法、プログラム、及び記憶媒体
JP2003320869A (ja) 車両用情報表示装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111117

R150 Certificate of patent or registration of utility model

Ref document number: 4870776

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees