JP2019056623A - 画像処理装置、及び、画像処理システム - Google Patents

画像処理装置、及び、画像処理システム Download PDF

Info

Publication number
JP2019056623A
JP2019056623A JP2017181073A JP2017181073A JP2019056623A JP 2019056623 A JP2019056623 A JP 2019056623A JP 2017181073 A JP2017181073 A JP 2017181073A JP 2017181073 A JP2017181073 A JP 2017181073A JP 2019056623 A JP2019056623 A JP 2019056623A
Authority
JP
Japan
Prior art keywords
cost value
image
reference image
cost
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017181073A
Other languages
English (en)
Inventor
佐野 徹
Toru Sano
徹 佐野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Electronic Devices and Storage Corp
Original Assignee
Toshiba Corp
Toshiba Electronic Devices and Storage Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Electronic Devices and Storage Corp filed Critical Toshiba Corp
Priority to JP2017181073A priority Critical patent/JP2019056623A/ja
Priority to CN201810047579.5A priority patent/CN109547765B/zh
Priority to US15/922,940 priority patent/US10713806B2/en
Priority to EP18162248.1A priority patent/EP3460757B1/en
Publication of JP2019056623A publication Critical patent/JP2019056623A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

【課題】演算器やメモリの搭載量を低減することができる、画像処理装置、及び画像処理システムを提供する。【解決手段】基準画像における視差計算対象画素と、参照画像における視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の最大ズレ量の範囲内にあるコスト値算出対象画素のそれぞれとのコスト値を算出する、視差毎コスト値算出部14と、参照画像において、抽出されたコスト値算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が垂直方向の最大ズレ量の範囲内にある複数の画素から最小コスト値を抽出するライン間最小コスト値抽出部15と、抽出された1ライン分の前記コスト値算出対象画素のコスト値を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部16と、を備える。【選択図】図2

Description

本実施形態は、画像処理装置、及び、画像処理システムに関する。
水平に二つ並べられたカメラで同じ被写体を撮影すると、カメラ位置の違いから、撮影された二つの画像における被写体の位置は、水平方向にズレが生じる。両画像における被写体の位置の差を「視差(Disparity)」と呼ぶ。カメラから被写体までの距離は、視差の逆数に比例する。すなわち、視差は、遠いものほど小さく、近いものほど大きくなる。
従来、視差を求める手法として、ブロックマッチングが広く用いられている。ブロックマッチングは、二つのカメラで撮影されたそれぞれの画像から小領域(ブロック)を切り出し、両画像間で小領域の類似度(相関値)が最も大きくなる箇所を探索することで視差を求める。具体的には、片方のカメラで撮影された画像(例えば、左側に配置されたカメラで撮影された左画像)を基準とした場合、他方のカメラで撮影された画像(例えば、右側に配置されたカメラで撮影された右画像)において類似度を探索する範囲は、左画像における基準ブロックの座標と同じ座標から、最大視差(例えば128画素)だけ水平方向左側に離れた座標までの範囲のブロックとなる。
このブロックマッチングは、処理がシンプルであり、基本的に各点独立に視差を求めることができるので、高速な計算が可能である。しかし、テクスチャのない領域や、繰り返しパターンが存在する領域では、視差を正確に求めるのが困難であるという問題がある。
一方、近年、画像中の全画素の視差に対するエネルギー関数を定義し、その関数が最小となる視差の組み合わせを求める方式(グローバルマッチング)が提案されている。このグローバルマッチングでは、大域的な視差推定を行うため、テクスチャのない領域や、繰り返しパターンが存在する領域でも、視差をより正確に求めることができる。
しかしながら、グローバルマッチングでは、各画素について、ブロックマッチングと同様の手法で相関値を求めた後、隣接画素の計算結果を用いて自身の計算結果を最適化する。そして、画面全体の画素について、最適化演算された計算結果を集約し、視差を算出する。すなわち、ブロックマッチングに比べ、精度が向上する一方で、演算量や、計算結果を一時的に保持するためのメモリ量が、膨大になってしまうという問題がある。
更に、現実的には、二つのカメラを完全に水平に配置することは難しく、垂直方向のズレや回転方向のズレが生じる。ある程度垂直方向にズレがあることを前提にして、類似度の探索範囲を、水平方向だけでなく垂直方向にも広げる方法が考えられる。この場合、相関値算出のために必要な演算器の数やメモリ量が更に増加してしまうという問題があった。
特許第5792662号公報
本実施形態は、演算器やメモリの搭載量を低減することができる、画像処理装置、及び画像処理システムを提供することを目的とする。
本実施形態の画像処理装置は、基準画像における視差計算対象画素と、参照画像において、前記視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある類似度算出対象画素のそれぞれとの類似度を算出する、視差毎類似度算出部を備える。また、前記参照画像において、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素の類似度から、一つの類似度を算出して選択するライン間類似度抽出部を備える。更に、前記算出された1ライン分の前記類似度算出対象画素の類似度を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部も備える。
本実施形態に係わる画像処理システムの構成の一例を示す概略ブロック図。 距離情報演算部11の構成の一例を示すブロック図。 視差毎コスト値算出部14の詳細な構成の一例を示すブロック図。 視差毎コスト値算出部14におけるコスト値算出手順の一例を説明するフローチャート。 ライン間最小コスト値抽出部15におけるコスト値抽出手順の一例を説明するフローチャート。 コスト最適化演算部16の詳細な構成の一例を示すブロック図。 距離情報演算部11の構成の別の一例を示すブロック図。
以下、図面を参照して実施形態を説明する。
図1は、本実施形態に係わる画像処理システムの構成の一例を示す概略ブロック図である。画像処理システムは、画像マッチング処理装置(以下、画像処理装置と示す)1と、キャリブレーション装置2と、画像入力装置3と、これらを接続するバス4とから構成されている。図1は、2台のカメラによる左右視差画像を用いてステレオマッチング処理を行う画像処理システムについて例示している。
画像入力装置3には、図示しないカメラで撮像された複数の画像(例えば、左目に対応するカメラで撮像されたL画像5lと、右目に対応するカメラで撮像されたR画像5rの2枚の画像)が入力される。L画像5lとR画像5rとは、バス4を介してキャリブレーション装置2に入力される。
キャリブレーション装置2は、設定条件やレンズの個体差などに起因するカメラ内外間の静的なズレを補正する。具体的には、事格子状のパターンなど、大きさが既知の特定図形パターンを撮像した画像を用い、内部パラメータと外部パラメータとを事前に算出しておく。そして、画像入力装置3から入力されたL画像5lとR画像5rとのそれぞれを、内部パラメータと外部パラメータとを用いて変換することで、静的なズレを補正し、補正済L画像6lと補正済R画像6rとを生成する。なお、内部パラメータとは、焦点距離や画像主点位置、レンズ歪みなど、カメラの内部特性を示すものである。また、外部パラメータとは、カメラの三次元空間における回転・平行移動のパラメータであり、ステレオ画像においては、一方の画像を基準とした場合の他方の画像の回転・平行移動の度合を表すものである。補正済L画像6lと補正済R画像6rとは、バス4を介して画像処理装置1に入力される。
画像処理装置1は、補正後の画像(補正済L画像6l、補正済R画像6r)を用いてステレオマッチングを行い、距離画像(カメラから被写体までの距離を示す画像)7を生成する。図1の画像処理装置1は、距離情報演算部11と、L画像用ラインバッファ(以下、Lラインバッファと示す)12と、R画像用ラインバッファ(以下、Rラインバッファと示す)13とを有している。
Lラインバッファ12は、補正済L画像6lにおいて、視差計算対象画素位置のラインを含む、複数ライン分の画素データを格納するバッファである。Rラインバッファ13は、補正済R画像6rにおいて、視差計算対象画素位置のラインを含む、複数のライン分の画素データを格納するバッファである。
距離情報演算部11は、グラフカット法などのグローバルマッチングや、SGM法(Semi-Global Matching法)などを用い、基準画像の画素ごとに視差を算出して視差画像として出力する。図2は、距離情報演算部11の構成の一例を示すブロック図である。距離情報演算部11は、視差毎コスト値算出部14と、ライン間最小コスト値抽出部15と、コスト最適化演算部16と、コスト最小視差抽出部17とを有する。
視差毎類似度算出部としての視差毎コスト値算出部14は、参照画像において、視差計算対象画素におけるコスト値算出画素領域を設定し、当該領域におけるコスト値を算出する。コスト値算出画素領域は、(垂直方向の最大ズレ量)×(水平方向の最大視差)の大きさを有する。例えば、参照画像において、水平方向の画素位置を表す座標をX座標、垂直方向の画素位置を表す座標をY座標とし、視差計算対象画素の位置が(X, Y)=(150, 25)の場合、コスト値算出画素領域は、以下のように設定される。
例えば、水平方向の最大視差が128画素である場合、参照画像における水平方向の探索領域はX=150〜X=23の範囲となる。ここで、垂直方向のズレ量が、視差計算対象画素位置のラインに対して上下1ライン以内である場合、垂直方向の最大ズレ量は3ラインとなる。従って、コスト値算出画素領域は、(X, Y)=(150, 24)〜(23, 24)、(150, 25)〜(23, 25)、(150, 26)〜(23, 26)、の範囲の画素となる。
図3は、視差毎コスト値算出部14の詳細な構成の一例を示すブロック図である。視差毎コスト値算出部14は、特徴量演算部141と、コスト演算部142と、コストバッファ143とを有する。
特徴量演算部141は、基準画像が格納されているラインバッファから取得する視差計算対象画素の画素データ、及び、参照画像が格納されているラインバッファから取得するコスト値算出画素領域内の画素データの特徴量を、それぞれ算出する。例えば、LBP(Local Binary Pattern)など、既存の定量化した特徴量を算出する。特徴量としてLBPを算出する場合、特徴量算出対象画素(中心画素)と、周辺画素との輝度値を比較する。当該周辺画素の中心画素の輝度値より周辺画素の輝度値のほうが大きければ“1”、中心画素の輝度値より周辺画素の輝度値のほうが小さければ“0”ビットを付与する。そして、周辺画素のビットを所定の順序で結合し、特徴量算出対象画素の特徴量(LBP符号)とする。なお、周辺画素に付与するビットは、中心画素の輝度値より周辺画素の輝度値のほうが大きければ“0”、中心画素の輝度値より周辺画素の輝度値のほうが小さければ“1”としてもよい。
コスト演算部142は、基準画像における視差計算対象画素に関する特徴量と、参照画像におけるコスト値算出画素領域内の各画素に関する特徴量とを比較し、視差ごとのコスト値を算出する。例えば、特徴量としてLBP符号を算出した場合、基準画像と参照画像のLBP符号間のハミング距離を算出し、コスト値とする。
コストバッファ143は、コスト演算部142で算出されたコスト値を、参照画像における画素位置と対応付けて格納する。
図4は、視差毎コスト値算出部14におけるコスト値算出手順の一例を説明するフローチャートである。なお、コスト値算出に先立ち、基準画像において視差計算対象画素がセットされており、コスト値算出に必要な特徴量が算出されているものとする。距離画像7を作成するためには、基準画像の全画素について視差を算出する必要がある。通常は、基準画像の左上に位置する画素から右下に位置する画素まで、ラスタスキャンの順に視差計算対象画素位置を順次セットし、各画素位置での視差を算出していく。
まず、コスト値算出対象領域を特定し、探索ライン数(垂直方向の最大ズレ量)Lnumと、水平方向の最大視差数Dnumを設定する(S1)。例えば、上述の一例の場合、Lnum=3、Dnum=128と設定する。また、最初のコスト値算出対象画素位置(探索画素位置)を設定する。最初のコスト値算出対象画素位置は、コスト値算出対象領域の左上に位置する画素である。例えば、上述の一例の場合、最初のコスト値算出対象画素位置は(X, Y)=(23, 24)と設定される。
次に、コスト値算出対象のラインを初期状態(L=0)にセットする(S2)。また、コスト算出対象の水平方向の画素位置を、初期状態(D=0)にセットする(S3)。
次に、コスト演算部142において、探索画素位置におけるコスト値を算出し、コストバッファ143に格納する(S4)。続いて、探索画素位置の水平方向の画素位置(D)を1増加させ、探索画素位置を隣の画素に移動させる(S5)。
探索画素位置がコスト値算出対象領域に含まれる場合(S6、No)、S4に戻って当該画素位置におけるコスト値を算出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合(S6、Yes)、探索画素位置の垂直方向の画素位置(L)を1増加させ、探索画素が含まれるラインを一つ下のラインに移動させる(S7)。
ライン移動後の探索画素位置がコスト値算出対象領域に含まれる場合(S8、No)、S3に戻ってコスト算出対象の水平方向の画素位置を初期状態(D=0)にセットし、当該画素位置におけるコスト値を算出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合(S8、Yes)、コスト値算出対象領域内の全ての画素についてコスト値の算出が終了したと判定され、視差毎コスト値算出部14における一連のコスト値算出手順を終了する。
なお、視差毎コスト値算出部14におけるコスト値の算出方法は、上述した図4のフローチャートの手順に限定されず、コスト値算出対象領域内のすべての画素のコスト値を漏れなく算出できる手順であればよい。例えば、水平方向に画素位置を移動させるのではなく、垂直方向に画素位置を移動させながらコスト値を算出してもよい。また、例えば、コスト値算出対象領域を複数のブロックに分割し、各ブロックにおけるコスト値の算出を並列処理してもよい。
なお、視差毎コスト値算出部14におけるコスト値の算出方法は、上述したLBP符号のハミング距離に限定されず、SAD関数など、既存の定量化したコスト関数を用いてもよい。SAD関数など画素データから特徴量を算出せずに直接コストを算出することが可能な方法を用いる場合、基準画像が格納されているラインバッファから取得する視差計算対象画素の画素データ、及び、参照画像が格納されているラインバッファから取得するコスト値算出画素領域内の画素データをコスト演算部142に直接入力してコスト値を算出することができるため、特徴量演算部141は省略することができる。
ライン間類似度抽出部としてのライン間最小コスト値抽出部15は、視差毎コスト値算出部14で算出されたコスト値を用い、視差ごとに最小コスト値を抽出する。上述の一例の場合、探索ライン数が3ラインなので、コスト値算出画素領域内において水平方向の視差位置が同一である画素は3画素存在する。例えば、コスト値算出画素領域が、(X, Y)=(150, 24)〜(23, 24)、(150, 25)〜(23, 25)、(150, 26)〜(23, 26)である場合、水平方向の視差位置が10である画素は(X, Y)=(140, 24)、(140, 25)、(140, 26)、の3画素存在する。この3画素のコスト値を視差毎コスト値算出部14から取得し、最小コスト値を抽出して、当該視差位置におけるコスト値とする。
図5は、ライン間最小コスト値抽出部15における最小コスト値抽出手順の一例を説明するフローチャートである。まず、コスト値算出対象領域を特定し、水平方向の最大視差数Dnumを設定する(S11)。例えば、上述の一例の場合、Dnum=128と設定する。次に、ライン間最小コスト値抽出対象の水平方向の画素位置(探索対象画素位置)を、初期状態(D=0)にセットする(S12)。
続いて、コスト値算出対象領域内に存在し、探索対象画素位置と水平方向の位置が等しい画素を特定し、これらの画素のコスト値を比較して、最小のコスト値を抽出する(S13)。なお、比較に用いる画素のコスト値は、コストバッファ143から取得してもよいし、必要に応じてコスト演算部142にリクエストしてもよい。
次に、探索画素位置の水平方向の画素位置(D)を1増加させ、探索画素位置を隣の画素に移動させる(S14)。探索画素位置がコスト値算出対象領域に含まれる場合(S15、No)、S13に戻って当該画素位置における最小のコスト値を抽出する。一方、移動後の探索対象画素位置がコスト値算出対象領域に含まれない場合(S15、Yes)、全ての視差位置について最小のコスト値を抽出したと判定され、ライン間最小コスト値抽出の一連の処理手順を終了する。
コスト最適化演算部16は、グラフカット法などのグローバルマッチングやSGM法(Semi-Global Matching法)などによって合成非類似度である合成コスト値Sを算出することで、基準画像の画素ごとに最適化された視差を導出する。コスト最適化演算部16は、ライン間最小コスト値抽出部15で抽出された1ライン分のコスト値を用いて合成コスト値Sを算出する。
ここで、SGM法による合成コスト値Sの算出方法について説明する。合成コスト値Sは、参照画像の端部から視差計算対象画素に向かって集約する方向ベクトルに沿った、複数の経路を定義し、それぞれの経路におけるエネルギーの総和として算出される。エネルギーを算出する経路は、通常、視差計算対象画素に向かい、水平右方向、水平左方向、垂直上方向、垂直下方向から集約する4方向のベクトルに沿った4つの経路が設定される。または、これらの4方向に加え、視差計算対象画素に向かい、右上45度方向、右下45度方向、左下45度方向、左上45度方向から集約する4方向のベクトルに沿った4つの経路を加えた8つの経路が設定される。更に、8方向を更に分割して16方向、3つに分割して24方向とするなど、経路の数は特定の数に限定されない。
それぞれの経路rにおけるエネルギーLr(p, d)は、以下の(1)式を用いて算出される。
Lr(p, d) = C(p, d) + min{Lr(p-r, d), Lr(p-r, d-1) + P1, Lr(p-r, d+1)+P1, Lrmin(p-r) + P2}
…(1)式
(1)式において、C(p, d)は、視差計算対象画素位置から視差dの位置にある画素のコスト値、min{ }は最小値を求める関数、Lrmin(p-r)は、視差計算対象画素位置からr方向に1画素シフトした座標において、シフト量dを変化させた際の、Lr(p-r, d)の最小値を示す。また、P1、P2は予め設定されたペナルティ定数である。このように、エネルギーLr(p, d)は、コスト値C(p, d)に、r方向の所定経路上における1画素前のエネルギーの値が選択されて加算される漸化式となっているので、最適化が行われる。
(1)式に示すエネルギー計算を、複数の方向(例えば、8方向)から行うことで、近似的に全体最適化を行う。すなわち、各方向のエネルギーLr(p, d)の総和として、合成コスト値Sを算出する。
図6は、コスト最適化演算部16の詳細な構成の一例を示すブロック図である。コスト最適化演算部16は、コスト更新値演算部161と、コストバッファ162とを有する。コスト更新値演算部161は、ライン間最小コスト値抽出部15から入力されたコスト値、図示しない記憶部などから入力される所定のペナルティ定数P1、P2、及び、コストバッファ162に格納されている隣接画素のエネルギーを用い、上述した(1)式の演算を行ってエネルギーを算出する。演算結果は、コストバッファ162に格納され、コスト更新値演算部161でのエネルギー算出に再帰的に使用される。
従来の画像処理装置では、コスト値算出画素領域が複数ラインに及ぶ場合、視差毎コスト値算出部14において算出された各ラインのコスト値をそのまま用い、コスト最適化演算部16において3ライン分の合成コスト値Sを算出していた。これに対し、本実施形態においては、ライン間最小コスト値抽出部15で各視差位置におけるコスト値を一つに絞り込むことで、垂直方向のズレ量にかかわらず、コスト最適化演算部16では1ライン分の合成コスト値Sを算出すればよい。従って、演算に用いるメモリや演算器の数を削減することができ、処理時間も低減することができる。
なお、コスト最適化演算部16は、一般的に、特定の一つの経路におけるエネルギー算出に用いられる。従って、距離情報演算部11には、合成コスト値Sを算出するために設定された経路の数と同数のコスト最適化演算部16が設置される。
また、コスト最適化演算部16における合成コスト値Sの算出方法は、上述したグラフカット法などのグローバルマッチングやSGM法に限定されず、既存の他の手法を用いてもよい。
コスト最小視差抽出部17は、コスト最適化演算部16で算出された合成コスト値Sが最小となる視差を抽出する。そして、基準画像の全画素について視差を抽出し、距離画像7を生成して出力する。
このように、本実施形態によれば、グラフカット法などのグローバルマッチングやSGM法(Semi-Global Matching法)などを用いて視差を算出する際に、振動などに起因したカメラ間の動的なズレにより、基準画像と参照画像との間で垂直方向にズレが生じており、コスト値の探索範囲を、水平方向だけでなく垂直方向にも広げる必要がある場合において、コスト値の段階で1ライン分に削減してからエネルギー算出のためのコスト最適化演算を行っている。従って、コスト最適化演算のために必要なメモリや演算器の数を削減することができ、処理時間を低減することができる。
なお、上述では、基準との非類似度の度合いを表すコスト値を用いて視差を算出しているが、コスト値の逆数であり基準との類似度の度合いを表す相関値を用いてもよい。相関値を用いる場合、ライン間最小コスト値抽出部15では、同一視差位置における複数ラインの相関値のうち、最も絶対値の大きい相関値を抽出する。また、コスト最小視差抽出部17では、合成相関値が最大となる視差を抽出する。
また、コスト最小視差抽出部17において抽出された視差位置におけるライン位置を、ラインインデックスとして出力するような構成にしてもよい。図7は、距離情報演算部11の構成の別の一例を示すブロック図である。図7に示す距離情報演算部11は、図2に示す構成要素に加え、ラインインデックス記憶部18と、インデックス選択部19とを更に備える。ラインインデックス記憶部18は、ライン間最小コスト値抽出部15においてコスト値を抽出したラインの情報を視差位置ごとに記憶する。インデックス選択部19は、コスト最小視差抽出部17において抽出した合成コスト値Sが最小となる視差位置におけるラインの情報を、ラインインデックス記憶部18から選択して出力する。このようにラインインデックス情報を出力することで、基準画像と参照画像との間の垂直方向のズレ量を把握することができ、動的なズレの補正にフィードバックすることが可能となる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、一例として示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…画像処理装置、2…キャリブレーション装置、3…画像入力装置、4…バス、5l…L画像、5r…R画像、6l…補正済L画像、6r…補正済R画像、7…距離画像、11…距離情報演算部、12…Lラインバッファ、13…Rラインバッファ、14…視差毎コスト値算出部、15…ライン間最小コスト値抽出部、16…コスト最適化演算部、17…コスト最小視差抽出部、18…ラインインデックス記憶部、19…インデックス選択部、141…特徴量演算部、142…コスト演算部、143、162…コストバッファ、161…コスト更新値演算部、

Claims (5)

  1. 基準画像における視差計算対象画素と、参照画像において、前記視差計算対象画素の位置から水平方向に最大視差離れた位置までの間に配置されている画素の水平方向のそれぞれの位置において、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある類似度算出対象画素のそれぞれとの類似度を算出する、視差毎類似度算出部と、
    前記参照画像において、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素の類似度から、一つの類似度を算出して選択するライン間類似度抽出部と、
    前記算出された1ライン分の前記類似度算出対象画素の類似度を用い、グローバル最適化によるコスト最適化演算を行うコスト最適化演算部と、
    を備える画像処理装置。
  2. 前記コスト最適化演算は、SMG法による合成コスト値の算出により行われることを特徴とする、請求項1に記載の画像処理装置。
  3. 前記類似度は、コスト値であることを特徴とする、請求項1又は請求項2に記載の画像処理装置。
  4. 前記ライン間類似度抽出部は、前記抽出された類似度算出対象画素と水平方向の位置が同じであり、かつ、垂直方向の位置が前記基準画像と前記参照画像との垂直方向の最大ズレ量の範囲内にある複数の画素のコスト値から、最小コスト値を抽出することを特徴とする、請求項3に記載の画像処理装置。
  5. 基準画像と参照画像とを入力する画像入力装置と、
    前記基準画像と前記参照画像との間の静的なズレを補正するキャリブレーション装置と、
    前記キャリブレーション装置によって補正された前記基準画像と前記参照画像との間の動的なズレを補正し、距離画像を生成する、請求項1から請求項4のいずれか一項に記載の画像処理装置と、
    を有することを特徴とする、画像処理システム。
JP2017181073A 2017-09-21 2017-09-21 画像処理装置、及び、画像処理システム Pending JP2019056623A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017181073A JP2019056623A (ja) 2017-09-21 2017-09-21 画像処理装置、及び、画像処理システム
CN201810047579.5A CN109547765B (zh) 2017-09-21 2018-01-18 图像处理装置以及图像处理系统
US15/922,940 US10713806B2 (en) 2017-09-21 2018-03-16 Image processing apparatus and image processing system
EP18162248.1A EP3460757B1 (en) 2017-09-21 2018-03-16 Image processing apparatus and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017181073A JP2019056623A (ja) 2017-09-21 2017-09-21 画像処理装置、及び、画像処理システム

Publications (1)

Publication Number Publication Date
JP2019056623A true JP2019056623A (ja) 2019-04-11

Family

ID=61691332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017181073A Pending JP2019056623A (ja) 2017-09-21 2017-09-21 画像処理装置、及び、画像処理システム

Country Status (4)

Country Link
US (1) US10713806B2 (ja)
EP (1) EP3460757B1 (ja)
JP (1) JP2019056623A (ja)
CN (1) CN109547765B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020195602A1 (ja) 2019-03-25 2020-10-01 株式会社Jvcケンウッド 制御装置、制御方法及び制御プログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
KR20190013224A (ko) * 2017-08-01 2019-02-11 엘지전자 주식회사 이동 단말기
WO2022000458A1 (zh) * 2020-07-03 2022-01-06 深圳市大疆创新科技有限公司 图像深度信息确定方法、装置、设备和存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS4934701B1 (ja) 1970-09-08 1974-09-17
JP2009129318A (ja) 2007-11-27 2009-06-11 Fuji Heavy Ind Ltd 画像処理装置
DE102009012441B4 (de) 2009-03-12 2010-12-09 Deutsches Zentrum für Luft- und Raumfahrt e.V. Verfahren zur Reduktion des Speicherbedarfs bei der Bestimmung von Disparitätswerten für mindestens zwei stereoskopisch aufgenommene Bilder
JP4934701B2 (ja) 2009-06-30 2012-05-16 株式会社日立製作所 ステレオ画像処理装置およびステレオ画像処理方法
JP5792662B2 (ja) 2011-03-23 2015-10-14 シャープ株式会社 視差算出装置、距離算出装置及び視差算出方法
US10142613B2 (en) * 2015-09-03 2018-11-27 Kabushiki Kaisha Toshiba Image processing apparatus, image processing system, and image processing method
US20170353714A1 (en) * 2016-06-06 2017-12-07 Navid Poulad Self-calibrating display system
US10728537B2 (en) * 2016-08-29 2020-07-28 Hitachi, Ltd. Photographing device and photographing method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020195602A1 (ja) 2019-03-25 2020-10-01 株式会社Jvcケンウッド 制御装置、制御方法及び制御プログラム

Also Published As

Publication number Publication date
EP3460757B1 (en) 2020-07-01
US20190087971A1 (en) 2019-03-21
CN109547765B (zh) 2021-10-26
US10713806B2 (en) 2020-07-14
EP3460757A1 (en) 2019-03-27
CN109547765A (zh) 2019-03-29

Similar Documents

Publication Publication Date Title
US10713806B2 (en) Image processing apparatus and image processing system
US8310538B2 (en) Imaging apparatus, method, program, and recording medium used in the program
JP7005458B2 (ja) 画像処理装置、及び、画像処理プログラム、並びに、運転支援システム
JP2006221603A (ja) 3次元情報復元装置、3次元情報復元方法および3次元情報復元プログラム
US10142613B2 (en) Image processing apparatus, image processing system, and image processing method
JP2009529824A (ja) 3次元映像獲得用cmosステレオカメラ
JP6020471B2 (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP2009133753A (ja) 画像処理装置及びその方法
JP5824953B2 (ja) 画像処理装置、画像処理方法及び撮像装置
JP2009146034A (ja) 多視点画像奥行値抽出装置、その方法およびそのプログラム
KR100943635B1 (ko) 디지털카메라의 이미지를 이용한 디스패리티 맵 생성 장치 및 방법
TWI528783B (zh) 產生深度影像之方法及其系統及電腦程式產品
JP2008090583A (ja) 情報処理システム、プログラムおよび情報処理方法
JP2017037426A (ja) 情報処理装置、情報処理方法、プログラム
JP6901424B2 (ja) 画像処理装置、及び、画像処理方法
JP6388532B2 (ja) 画像提供システムおよび画像提供方法
JPWO2017134770A1 (ja) 映像同期装置
JP2021140458A5 (ja)
JP6991700B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2015149675A (ja) カメラパラメータ推定装置及びカメラパラメータ推定プログラム
JP2010079506A (ja) 画像生成装置、方法、通信システム及びプログラム
US20170076460A1 (en) Image processing apparatus and image processing method
KR102637913B1 (ko) 영상 합성 방법 및 장치
US10430971B2 (en) Parallax calculating apparatus
JP5751117B2 (ja) 画像生成装置、画像生成方法、画像生成装置用プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190730

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20191007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210323