JP2015069566A - フィルタリング装置および環境認識システム - Google Patents

フィルタリング装置および環境認識システム Download PDF

Info

Publication number
JP2015069566A
JP2015069566A JP2013205390A JP2013205390A JP2015069566A JP 2015069566 A JP2015069566 A JP 2015069566A JP 2013205390 A JP2013205390 A JP 2013205390A JP 2013205390 A JP2013205390 A JP 2013205390A JP 2015069566 A JP2015069566 A JP 2015069566A
Authority
JP
Japan
Prior art keywords
evaluation
value
image
range
evaluation value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013205390A
Other languages
English (en)
Other versions
JP5955291B2 (ja
Inventor
宏行 小野
Hiroyuki Ono
宏行 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP2013205390A priority Critical patent/JP5955291B2/ja
Priority to US14/477,675 priority patent/US9524645B2/en
Priority to DE102014113359.5A priority patent/DE102014113359B4/de
Priority to CN201410503755.3A priority patent/CN104517099B/zh
Publication of JP2015069566A publication Critical patent/JP2015069566A/ja
Application granted granted Critical
Publication of JP5955291B2 publication Critical patent/JP5955291B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

【課題】評価関数の評価値を適切に評価することで、本来無効とすべき差分値を効果的に除外する。
【解決手段】フィルタリング装置は、互いに関連性を有する一対の画像に対し、一方の画像(基準画像)から任意に抽出したブロック(基準ブロック)と他方の画像(比較画像)から抽出した複数のブロック(比較ブロック)との相関を示す複数の評価値を導出する評価値導出部160と、複数の評価値のうち相関が最も高い評価値を一方の境界として評価値の評価範囲を設定する評価範囲設定部162と、複数の評価値と評価範囲とに基づいて相関が最も高い評価値が差分値として有効か否か判定する差分値判定部164とを備える。
【選択図】図2

Description

本発明は、複数の比較対象における対象物の差分値(視差)を求める際、その差分値が有効か否かを判定するフィルタリング装置および環境認識システムに関する。
従来、自車両の前方に位置する車両等の特定物を検出し、先行車両との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。
このような衝突回避制御やクルーズコントロールでは、自車両前方に位置する対象物の、自車両との相対距離を得るために、例えば、視点の異なる2つの撮像装置を用い、それぞれから画像データを取得し、一方の画像データに基づく画像(以下、基準画像という)から任意に抽出したブロックと相関の高いブロックを他方の画像データに基づく画像(以下、比較画像という)から検索する、所謂パターンマッチングを用いて視差を導き出す。そして、撮像装置の設置位置や焦点距離等の撮像パラメータを参照し、三角測量法による所謂ステレオ法を用いて、導出した視差から対象物の撮像装置に対する相対距離を求め、相対距離に水平距離および高さを加えた3次元の位置情報に変換する。そして、この3次元の位置情報を用いて各種認識処理が行われる。ここで、「水平」は画面横方向を示し、後述する「垂直」は画面縦方向を示す。
上記パターンマッチングでは、比較画像上でブロックを水平方向にシフトしながら基準画像のブロックとの相関演算を行い、相関が最も高いブロックの比較画像上の座標と、基準画像のブロックの座標との差分(差分値)を視差としている。しかし、水平方向に同様のパターンが連続する場合、比較画像上のブロックの位置が異なっていても、それぞれのブロックの相関に差が生じにくいので、誤った視差を導出する可能性がある。
そこで、パターンマッチングにおける評価関数、例えば、基準画像および比較画像それぞれのブロック内の同一位置に相当する画素同士の輝度の差分を積算するSAD(Sum of Absolute Difference)において、その評価値の最小値(相関が最高となる値)が所定の条件を満たせば、例えば、所定の固定値以下となっていれば、そのブロックの視差を有効とする技術が知られている(例えば、特許文献2)。また、基準画像および比較画像のブロック周囲の画素の輝度の平均値を求め、ブロック内の輝度からその平均値を減算した結果に基づいて評価値を導出する平均値差分マッチングも開示されている(例えば、特許文献3)。このような評価関数によって、基準画像と比較画像との画像のバラツキや低周波ノイズの影響を低減できる。
特許第3349060号公報 特許第3348939号公報 特許第3917285号公報
しかし、特許文献2のように評価値の最小値を固定値と比較する技術では、様々な環境下においても相関の有無を評価できる一義的な固定値を定めるのが困難であった。また、特許文献3のような平均値差分マッチングでは、同様な環境下の画像同士でも撮像装置の撮像状態、例えば、撮像装置前方のフロントガラスの曇り状態や周囲環境の明るさによって評価値の差が大きくなっていた。したがって、本来無効とすべき視差(差分値)を効果的に除外することができなかった。
本発明は、このような課題に鑑み、評価関数の評価値を適切に評価することで、本来無効とすべき差分値を効果的に除外することが可能なフィルタリング装置および環境認識システムを提供することを目的としている。
上記課題を解決するために、本発明のフィルタリング装置は、互いに関連性を有する一対の比較対象に対し、一方の比較対象から任意に抽出した抽出部位と他方の比較対象から抽出した複数の抽出部位との相関を示す複数の評価値を導出する評価値導出部と、複数の評価値のうち相関が最も高い評価値を一方の境界として評価値の評価範囲を設定する評価範囲設定部と、複数の評価値と評価範囲とに基づいて相関が最も高い評価値が差分値として有効か否か判定する差分値判定部と、を備えることを特徴とする。
差分値判定部は、複数の評価値全体に対する、評価範囲に含まれる評価値の比率が所定の閾値以上であれば、相関が最も高い評価値を差分値として無効と判定してもよい。
差分値判定部は、評価範囲の他方の境界を一辺として評価範囲に含まれる評価値で形成される多角形の面積が所定の閾値以上であれば、相関が最も高い評価値を差分値として無効と判定してもよい。
評価範囲設定部は、相関が最も高い評価値に応じて評価範囲を異ならせてもよい。
比較対象は画像であり、抽出部位は画像中の1または複数の画素からなるブロックであってもよい。
評価範囲設定部は、画像の所定範囲内における画素の輝度の平均値に応じて評価範囲を異ならせてもよい。
上記課題を解決するために、本発明の環境認識システムは、互いに関連性を有する一対の画像を生成する撮像装置と、生成された一対の画像に対し、一方の画像から任意に抽出したブロックと他方の画像から抽出した複数のブロックとの相関を示す複数の評価値を導出する評価値導出部と、複数の評価値のうち相関が最も高い評価値を一方の境界として評価値の評価範囲を設定する評価範囲設定部と、複数の評価値と評価範囲とに基づいて相関が最も高い評価値が視差として有効か否か判定する差分値判定部と、を備えることを特徴とする。
本発明によれば、評価関数の評価値を適切に評価することで、本来無効とすべき差分値を効果的に除外することが可能となる。
環境認識システムの接続関係を示したブロック図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 平均値差分マッチングの動作を説明する説明図である。 基準画像と比較画像を例示した説明図である。 任意の3つの領域における評価値の推移を示した説明図である。 評価値を判定する処理を説明するための説明図である。 評価値を判定する他の処理を説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
近年では、車両に搭載した車載カメラによって自車両の前方の道路環境を撮像し、画像(比較対象)内における色情報や位置情報に基づいて先行車両等の対象物を特定し、特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ(ACC:Adaptive Cruise Control)、所謂衝突防止機能を搭載した車両が普及しつつある。
かかる衝突防止機能では、自車両前方に位置する対象物の、自車両との相対距離を得るために、例えば、視点の異なる2つの撮像装置を用い、2つの撮像装置それぞれから取得した一対の比較対象である基準画像と比較画像とを比較し、所謂パターンマッチングを用いて相関の高いブロック(抽出部位)を抽出する。しかし、画像上の水平方向に同様のパターンが連続する場合、比較画像上のブロックの位置が異なっていても、それぞれのブロックの相関に差が生じにくいので、誤った視差(差分値)を導出する可能性がある。そこで、本実施形態では、パターンマッチングの評価関数における評価値の推移、すなわち、評価値の最小値(相関が最高となる値)近傍の推移に基づいて、その最小値が視差として有効か否か判定し、本来無効とすべき視差を効果的に除外することを目的としている。ここで、ブロックは、画像中の1または複数の画像で構成される部位を示す。以下、このような目的を達成するための環境認識システムを説明し、その具体的な構成要素である車外環境認識装置に設けられたフィルタリング装置を詳述する。
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方に相当する環境を撮像し、3つの色相(R(赤)、G(緑)、B(青))からなるカラー画像やモノクロ画像を生成することができる。ここでは、撮像装置110で撮像されたカラー画像を輝度画像として採用し、後述する距離画像と区別する。
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、認識する対象物は、車両、歩行者、信号機、道路(進行路)、ガードレール、建物といった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の一部として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機としてフレーム毎に各処理を遂行する。
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、所謂パターンマッチングを用いて視差を導き出し、導出された視差情報(後述する相対距離に相当)を画像データに対応付けて距離画像を生成する。パターンマッチングについては後ほど詳述する。また、車外環境認識装置120は、輝度画像に基づく輝度、および、距離画像に基づく自車両1との相対距離を含む実空間における3次元の位置情報を用い、輝度が等しく3次元の位置情報が近いブロック同士を対象物としてグループ化し、自車両1前方の検出領域における対象物がいずれの特定物に対応するかを特定する。
車外環境認識装置120は、特定物を特定すると、その特定物(例えば、先行車両)を追跡しつつ、特定物の相対速度等を導出し、特定物と自車両1とが衝突する可能性が高いか否かの判定を行う。ここで、衝突の可能性が高いと判定した場合、車外環境認識装置120は、その旨、運転者の前方に設置されたディスプレイ122を通じて運転者に警告表示(報知)を行うとともに、車両制御装置130に対して、その旨を示す情報を出力する。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転者の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、駆動機構144、制動機構146を制御する。
以下、車外環境認識装置120の構成について詳述する。ここでは、本実施形態に特徴的な、フィルタリング装置における対象物の視差を求める処理について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した画像データを一時的に保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、評価値導出部160、評価範囲設定部162、差分値判定部164としても機能する。また、評価値導出部160、評価範囲設定部162、および、差分値判定部164はフィルタリング装置としても機能する。以下、パターンマッチング処理の詳細な動作を説明する。
(パターンマッチング処理)
評価値導出部160は、2つの撮像装置110それぞれから画像データを取得し、取得した2つの画像データに基づく、互いに関連性を有する一対の画像に対し、基準となる一方の画像(基準画像)から任意に抽出したブロックと、比較先である他方の画像(比較画像)から抽出した複数のブロックとの相関を示す複数の評価値を導出する。
このパターンマッチングとしては、一対の画像間において、任意のブロック単位で輝度(Y色差信号)を比較することが考えられる。例えば、輝度の差分をとるSAD、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。このうち、ここでは、SADを例に挙げて説明する。また、本実施形態では、基準画像および比較画像のブロック周囲の画素の輝度の平均値を求め、ブロック内の輝度からそれぞれの平均値を減算した結果に基づいて評価値を導出する平均値差分マッチングを行っている。以下に、平均値差分マッチングの動作を説明する。
図3は、平均値差分マッチングの動作を説明する説明図である。まず、評価値導出部160は、図3(a)に示すように、基準画像200から、例えば水平4画素×垂直4画素の画素202の配列で表されるブロック(以下、基準ブロックという)204を抽出する。そして、以降の処理において、順次、基準ブロック204を抽出し、抽出した基準ブロック204毎に視差を導出する。ここでは、基準ブロック204を水平4画素×垂直4画素としているが、基準ブロック204内の画素数は任意に設定することができる。
かかる基準ブロック204においては、隣接する基準ブロック204同士の画素を重ねない。また、本実施形態では、基準ブロック204同士を隣接させているので、例えば、検出領域(例えば水平600画素×垂直180画素)に映し出されている全ての画素202に対して、水平150×垂直45=6750のブロックが基準ブロック204として順次抽出されることとなる。
ただし、上述したように、本実施形態では平均値差分マッチングを採用しているので、図3(b)に示すように、評価値導出部160は、下記数式1に基づいて、基準ブロック204を中心とした基準ブロック204の周囲の水平8画素×垂直8画素で表される領域206内の画素202の輝度Rb(i,j)の平均値Abを求める。
Ab=ΣRb(i,j)/64…(数式1)
ただし、iは1〜8で表される領域206内の水平画素位置、jは1〜8で表される領域206内の垂直画素位置である。また、領域206が基準画像200に収まらない場合(端部により領域206が欠ける場合)、収まらない部分を省略して平均値Abを求める。
そして、評価値導出部160は、下記数式2の如く、基準ブロック204内の画素202の輝度Eb(i,j)から上記平均値Abを減算して、平均値差分輝度EEb(i,j)を導出する。
EEb(i,j)=Eb(i,j)−Ab…(数式2)
ただし、iは1〜4で表される基準ブロック204内の水平画素位置、jは1〜4で表される基準ブロック204内の垂直画素位置である。
続いて、評価値導出部160は、図3(c)に示すように、比較画像210から、例えば水平4画素×垂直4画素の画素212の配列で表されるブロック(以下、比較ブロックという)214を抽出する。ここでは、1の基準ブロック204に対して、順次、複数の比較ブロック214を抽出し、それぞれ基準ブロック204との相関を示す評価値を導出する。
かかる比較ブロック214は、例えば、水平方向に1画素ずつシフトされて抽出されるので、隣接する比較ブロック214同士の画素が重なることとなる。本実施形態では、1の基準ブロック204に対し、基準ブロック204に相当する位置216から水平方向の左右に合計128の比較ブロック214を抽出することとなる。したがって、抽出範囲(探索範囲)は水平(128+3=)131画素×垂直4画素となる。基準ブロック204に相当する位置216と抽出範囲との位置関係は、基準画像200と比較画像210との視差の出現態様に応じて設定される。
ただし、上述したように、本実施形態では平均値差分マッチングを採用しているので、基準ブロック204同様、評価値導出部160は、下記数式3に基づいて比較ブロック214を中心とした比較ブロック214の周囲の水平8画素×垂直8画素で表される領域内の画素の輝度Rc(i,j)の平均値Acを求める。
Ac=ΣRc(i,j)/64…(数式3)
ただし、iは1〜8で表される領域内の水平画素位置、jは1〜8で表される領域内の垂直画素位置である。
そして、評価値導出部160は、下記数式4の如く、比較ブロック214内の画素の輝度Ec(i,j)から上記平均値Acを減算して、平均値差分輝度EEc(i,j)を導出する。
EEc(i,j)=Ec(i,j)−Ac…(数式4)
ただし、iは1〜4で表される比較ブロック214内の水平画素位置、jは1〜4で表される比較ブロック214内の垂直画素位置である。
次に、評価値導出部160は、下記数式5に示すように、基準ブロック204の各画素202の平均値差分輝度EEb(i,j)から、比較ブロック214内の同一の位置に相当する各画素212の平均値差分輝度EEc(i,j)を減算し、それを積算して評価値Sを導出する。
S=Σ(EEb(i,j)−EEc(i,j))…(数式5)
こうして導出された複数の評価値Sは、小さい程、すなわち、差分がないほど、相関が高くなる。したがって、1の基準ブロック204に対する比較ブロック214との複数(ここでは128)の評価値のうち、最小の評価値(最小値)の位置が視差の一端を示す位置の候補となる。
評価値導出部160は、任意の基準ブロック204に対する評価値の最小値が導出されると、その最小値に相当する比較ブロック214の座標と、基準ブロック204(基準ブロック204に相当する位置216)の座標の差分を視差としてデータ保持部152の所定の領域に保持させる。したがって、データ保持部152には、水平150×垂直45=6750の基準ブロック204の視差が保持されることとなる。
上記平均値差分マッチングは、画像の高周波成分のみをマッチングの対象とするものであり、ハイパスフィルタと等価な作用を有しているため低周波ノイズを除去することができる。また、基準画像200と比較画像210との間の輝度の僅かなバランスの狂いの影響、カメラやアナログ回路部品の経年変化によるゲイン変化の影響に対しても、視差の特定精度が高く、視差の導出精度を高めることが可能となる。
図4は、基準画像200と比較画像210を例示した説明図である。ここでは、視点の異なる2つの撮像装置110から取得した一対の画像のうち、図4(a)に示す、右に位置する撮像装置110からの画像を基準画像200とし、図4(b)に示す、左に位置する撮像装置110からの画像を比較画像210とする。
評価値導出部160が基準画像200と比較画像210とに基づいて評価値を導出する場合、例えば、図4(a)に示す領域220では、トラックの側端にエッジが生じており、パターンマッチングし易く、視差を容易に導出することができる。
一方、図4(a)に示す領域222の横断歩道の白線のように、水平方向に同様のパターンが連続する場合、比較画像210上のブロックの位置が異なっていても、それぞれのブロックの相関に差が生じにくいので、誤った視差を導出する可能性がある。また、同様に、図4(a)に示す領域224の空といった背景のように、水平方向に類似した特徴を有する領域でもブロックの相関に差が生じにくく、誤った視差を導出する可能性がある。その他、オクルージョンが生じている場合にも同様に視差を特定できない状況が生じうる。
図5は、上記の3つの領域220、222、224における評価値の推移を示した説明図であり、領域220中の任意の基準ブロック204の例を図5(a)に、領域222中の任意の基準ブロック204の例を図5(b)に、領域224中の任意の基準ブロック204の例を図5(c)に示す。また、図5(a)、(b)、(c)では、横軸に比較ブロック214の水平位置を、縦軸に評価値を示す。ここで、評価値は、小さいほど相関が高いことを表す。
図5(a)では、領域220において比較されるブロック同士が特徴的なので、局所的に評価値が小さい方に突出し、明確に最小値が出現する。一方、図5(b)や図5(c)では、パターンマッチングに相当する評価値の最小値は出現するものの、最小値の近傍では、同等レベルの評価値が出現している。
そこで、本実施形態では、パターンマッチングの評価値の推移、すなわち、評価値の最小値(相関が最高となる値)近傍の推移の形状に着目して、その最小値が視差として有効か否か判定する。具体的に、最小値の近傍に他の評価値が出現していなければ、その最小値を視差として有効と判定し、最小値の近傍に他の評価値が出現していれば、無効と判定する。以下に、その処理を詳述する。
図6は、評価値を判定する処理を説明するための説明図である。図6(a)〜(c)は、図5(a)〜(c)に対応している。評価範囲設定部162は、複数(ここでは128)の評価値のうち最小値(相関が最も高い評価値)を一方の境界として、評価値が大きくなる方(相関が低くなる方)に評価値の評価範囲を設定する。ここでは、仮に評価範囲の大きさを固定値として図6(a)〜(c)に示すように評価範囲を設定している。図6(a)〜(c)では、評価範囲の一方の境界を最小値としているので、評価値の推移に応じて評価範囲の位置が異なるのが理解できる。
差分値判定部164は、複数の評価値と評価範囲とに基づいて相関が最も高い評価値が視差として有効か否か判定する。例えば、差分値判定部164は、複数の評価値全体に対する、評価範囲に含まれる評価値の比率に基づいて相関が最も高い評価値が視差として有効か否か判定する。
具体的に、評価値の最小値がMin、評価範囲の大きさがWで示される場合、評価値Kが下記数式6を満たす数Nを計数する。
K<(Min+W)…(数式6)
そして、計数した数Nが所定の閾値以上であれば、最小値が視差である信頼度が低いとみなし、その最小値を視差として無効と判定する。ここで、所定の閾値は、所定の比率(例えば20%)に比較ブロック214の数である128を乗じて決定される。
また、差分値判定部164は、評価範囲に含まれる評価値の比率に代えて、評価範囲の他方の境界を一辺として評価範囲に含まれる評価値で形成される多角形の面積に基づいて相関が最も高い評価値が視差として有効か否か判定してもよい。
図7は、評価値を判定する他の処理を説明するための説明図である。図7は、図6(b)に対応している。評価範囲設定部162は、複数(ここでは128)の評価値のうち評価範囲に含まれる隣接する評価値同士を結線し、さらに、評価範囲のうち、評価値の最小値と異なる境界も接続して、図7においてハッチングで示した多角形を形成する。そして、その多角形の面積が所定の閾値以上であれば、相関が最も高い評価値を視差として無効と判定する。このような面積によっても最小値近傍の評価値の推移を判定することができる。
また、上記では、評価範囲の大きさを仮に固定値としたが、評価範囲設定部162は、評価範囲を適応的に変更することもできる。例えば、評価範囲設定部162は、基準画像200または比較画像210の所定範囲内における画素の輝度の平均値に応じて評価範囲を異ならせる。ここで、所定範囲は、画像全体、予め定められた位置における所定の大きさの範囲、比較画像210の抽出範囲等、様々な範囲を設定することができる。
具体的に、評価範囲設定部162は、所定範囲内における画素の輝度の平均値が低いと評価範囲を小さく設定し、平均値が高いと評価範囲を大きく設定する。これは、全体的に輝度が低い状況、例えば、夕方や夜において、画像上の輝度値が全体的に低くなるので、評価値の最小値近傍がなだらかになり、仮に評価範囲を固定してしまうと意図せず除外されてしまう視差が増えるからである。
また、評価範囲設定部162は、相関が最も高い評価値に応じて評価範囲を異ならせてもよい。例えば、評価値の最小値がMin、評価値の最大値がMax、評価値のスケールがScale、計数がGain(任意の値)で示される場合、評価範囲の大きさWを下記の数式7や数式8に基づいて設定する。
W=Min×Gain/Scale…(数式7)
W=(Max−Min)×Gain/Scale…(数式8)
かかる数式7または数式8によって評価範囲の大きさWを定めることで、評価値の最小値やスケールに応じた評価範囲を設定でき、評価値が推移する形状を適切に判定することが可能となる。
以上、説明したように、本実施形態では、固定値ではなく、最小値を基準にして相対的に変位する評価範囲を判定基準とすることで、撮像装置110前方のフロントガラスの曇り状態や周囲環境の明るさによって輝度が変動したとしても、本来無効とすべき視差を効果的に除外することが可能となる。
また、その評価対象を評価値の最小値のみとせず、最小値近傍の複数の点(推移自体)とすることで、評価値の推移の形状全体から評価値の傾向を判定することができる。こうして、局所的に評価値が小さい方に突出していないと判定できる、本来無効とすべき視差を確実に除外することが可能となる。
また、コンピュータを、上述したフィルタリング装置や環境認識システムとして機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態においては、比較対象として、視点の異なる2つの撮像装置110において同時に撮像された一対の画像を用いる例を挙げて説明したが、かかる場合に限らず、互いに関連性を有する一対の画像に対して広く適用可能である。このような互いに関連性を有する一対の画像としては、例えば、所謂オプティカルフローの処理対象である、1の撮像装置(単眼カメラ)で異なる時刻に撮像され、時系列に出力された2つの画像や、所謂テンプレートマッチングの処理対象である、撮像された画像と予め準備された画像との組み合わせ等が考えられる。また、上述した実施形態では、差分値として、視点の異なる2つの撮像装置110において同時に撮像された一対の画像における「視差」を挙げて説明したが、かかる場合に限らず、差分値は、互いに関連性を有する一対の画像における基準ブロックの差分等、対応する抽出部位同士の差分であればよい。
また、上述した実施形態では、輝度画像を比較対象とし、輝度画像の輝度に基づいて評価値を導出しているが、かかる場合に限らず、輝度以外の情報、例えば、遠赤外線カメラより得られる熱分布や、レーザレーダやミリ波レーダより得られる反射強度の分布等を比較対象とし、それらに基づいて評価値を導出してもよい。この場合も、上記同様、差分値は、対応する抽出部位同士の差分であればよい。
本発明は、複数の画像における対象物の差分値(視差)を求める際、その差分値が有効か否かを判定するフィルタリング装置および環境認識システムに利用することができる。
100 環境認識システム
110 撮像装置
120 車外環境認識装置(フィルタリング装置)
160 評価値導出部
162 評価範囲設定部
164 差分値判定部
200 基準画像
204 基準ブロック
210 比較画像
214 比較ブロック

Claims (7)

  1. 互いに関連性を有する一対の比較対象に対し、一方の比較対象から任意に抽出した抽出部位と他方の比較対象から抽出した複数の抽出部位との相関を示す複数の評価値を導出する評価値導出部と、
    前記複数の評価値のうち相関が最も高い評価値を一方の境界として評価値の評価範囲を設定する評価範囲設定部と、
    前記複数の評価値と前記評価範囲とに基づいて前記相関が最も高い評価値が差分値として有効か否か判定する差分値判定部と、
    を備えることを特徴とするフィルタリング装置。
  2. 前記差分値判定部は、前記複数の評価値全体に対する、前記評価範囲に含まれる評価値の比率が所定の閾値以上であれば、前記相関が最も高い評価値を差分値として無効と判定することを特徴とする請求項1に記載のフィルタリング装置。
  3. 前記差分値判定部は、前記評価範囲の他方の境界を一辺として該評価範囲に含まれる評価値で形成される多角形の面積が所定の閾値以上であれば、前記相関が最も高い評価値を差分値として無効と判定することを特徴とする請求項1に記載のフィルタリング装置。
  4. 前記評価範囲設定部は、前記相関が最も高い評価値に応じて前記評価範囲を異ならせることを特徴とする請求項1から3のいずれか1項に記載のフィルタリング装置。
  5. 前記比較対象は画像であり、前記抽出部位は該画像中の1または複数の画素からなるブロックであることを特徴とする請求項1から4のいずれか1項に記載のフィルタリング装置。
  6. 前記評価範囲設定部は、前記画像の所定範囲内における画素の輝度の平均値に応じて前記評価範囲を異ならせることを特徴とする請求項5に記載のフィルタリング装置。
  7. 互いに関連性を有する一対の画像を生成する撮像装置と、
    生成された一対の画像に対し、一方の画像から任意に抽出したブロックと他方の画像から抽出した複数のブロックとの相関を示す複数の評価値を導出する評価値導出部と、
    前記複数の評価値のうち相関が最も高い評価値を一方の境界として評価値の評価範囲を設定する評価範囲設定部と、
    前記複数の評価値と前記評価範囲とに基づいて前記相関が最も高い評価値が視差として有効か否か判定する差分値判定部と、
    を備えることを特徴とする環境認識システム。
JP2013205390A 2013-09-30 2013-09-30 フィルタリング装置および環境認識システム Active JP5955291B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013205390A JP5955291B2 (ja) 2013-09-30 2013-09-30 フィルタリング装置および環境認識システム
US14/477,675 US9524645B2 (en) 2013-09-30 2014-09-04 Filtering device and environment recognition system
DE102014113359.5A DE102014113359B4 (de) 2013-09-30 2014-09-17 Filtervorrichtung und Umgebungserkennungssystem
CN201410503755.3A CN104517099B (zh) 2013-09-30 2014-09-26 滤波装置和环境识别系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013205390A JP5955291B2 (ja) 2013-09-30 2013-09-30 フィルタリング装置および環境認識システム

Publications (2)

Publication Number Publication Date
JP2015069566A true JP2015069566A (ja) 2015-04-13
JP5955291B2 JP5955291B2 (ja) 2016-07-20

Family

ID=52673279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013205390A Active JP5955291B2 (ja) 2013-09-30 2013-09-30 フィルタリング装置および環境認識システム

Country Status (4)

Country Link
US (1) US9524645B2 (ja)
JP (1) JP5955291B2 (ja)
CN (1) CN104517099B (ja)
DE (1) DE102014113359B4 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019109092A (ja) * 2017-12-15 2019-07-04 富士通株式会社 測定プログラム、測定装置および測定方法
WO2021177163A1 (ja) * 2020-03-05 2021-09-10 ファナック株式会社 複数のカメラにて撮像された画像に基づいて物体の表面の位置情報を生成する三次元測定装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5890816B2 (ja) * 2013-09-30 2016-03-22 富士重工業株式会社 フィルタリング装置および環境認識システム
JP6653300B2 (ja) * 2017-09-15 2020-02-26 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
US10661795B1 (en) * 2018-12-20 2020-05-26 Verizon Patent And Licensing Inc. Collision detection platform

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0786349A (ja) * 1993-09-16 1995-03-31 Fujitsu Ltd 電子ビームを用いた検査装置
JP2001116513A (ja) * 1999-10-18 2001-04-27 Toyota Central Res & Dev Lab Inc 距離画像算出装置
JP2004054586A (ja) * 2002-07-19 2004-02-19 Fuji Heavy Ind Ltd 画像処理装置および画像処理方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3348939B2 (ja) 1993-11-26 2002-11-20 富士重工業株式会社 車輌用距離検出装置
JP3349060B2 (ja) 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP3917285B2 (ja) 1998-02-18 2007-05-23 富士重工業株式会社 ステレオ画像処理装置
JP4856611B2 (ja) * 2007-10-29 2012-01-18 富士重工業株式会社 物体検出装置
JP5386537B2 (ja) * 2011-05-12 2014-01-15 富士重工業株式会社 環境認識装置
JP5603835B2 (ja) * 2011-06-27 2014-10-08 クラリオン株式会社 車両周囲監視装置
JP5612621B2 (ja) * 2012-02-28 2014-10-22 富士重工業株式会社 車外環境認識装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0786349A (ja) * 1993-09-16 1995-03-31 Fujitsu Ltd 電子ビームを用いた検査装置
JP2001116513A (ja) * 1999-10-18 2001-04-27 Toyota Central Res & Dev Lab Inc 距離画像算出装置
JP2004054586A (ja) * 2002-07-19 2004-02-19 Fuji Heavy Ind Ltd 画像処理装置および画像処理方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019109092A (ja) * 2017-12-15 2019-07-04 富士通株式会社 測定プログラム、測定装置および測定方法
WO2021177163A1 (ja) * 2020-03-05 2021-09-10 ファナック株式会社 複数のカメラにて撮像された画像に基づいて物体の表面の位置情報を生成する三次元測定装置
JP7448633B2 (ja) 2020-03-05 2024-03-12 ファナック株式会社 複数のカメラにて撮像された画像に基づいて物体の表面の位置情報を生成する三次元測定装置

Also Published As

Publication number Publication date
JP5955291B2 (ja) 2016-07-20
DE102014113359A1 (de) 2015-04-02
US20150091714A1 (en) 2015-04-02
CN104517099B (zh) 2018-02-13
DE102014113359B4 (de) 2022-12-01
US9524645B2 (en) 2016-12-20
CN104517099A (zh) 2015-04-15

Similar Documents

Publication Publication Date Title
JP5906224B2 (ja) 車外環境認識装置
JP5886809B2 (ja) 車外環境認識装置
JP6132412B2 (ja) 車外環境認識装置
JP5955291B2 (ja) フィルタリング装置および環境認識システム
JP6670085B2 (ja) 車外環境認識装置
JP6722084B2 (ja) 物体検出装置
JP5955292B2 (ja) フィルタリング装置
JP6564218B2 (ja) 車外環境認識装置
JP6591188B2 (ja) 車外環境認識装置
JP7229032B2 (ja) 車外物体検出装置
JP6174960B2 (ja) 車外環境認識装置
JP6660162B2 (ja) 車外環境認識装置
JP6329438B2 (ja) 車外環境認識装置
JP5890816B2 (ja) フィルタリング装置および環境認識システム
JP6378594B2 (ja) 車外環境認識装置
JP6378547B2 (ja) 車外環境認識装置
JP6254866B2 (ja) 車両制御装置
JP6273156B2 (ja) 歩行者認識装置
JP6329442B2 (ja) 車外環境認識装置
JP6412345B2 (ja) 車外環境認識装置
JP6254870B2 (ja) 車外環境認識装置
JP6313667B2 (ja) 車外環境認識装置
JP2020064685A (ja) 車外環境認識装置
JP2022037358A (ja) 車外環境認識装置
JP5981857B2 (ja) 車外環境認識装置および車外環境認識方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160614

R150 Certificate of patent or registration of utility model

Ref document number: 5955291

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250