JP2000055658A - 画像処理装置および方法、並びに提供媒体 - Google Patents

画像処理装置および方法、並びに提供媒体

Info

Publication number
JP2000055658A
JP2000055658A JP10222954A JP22295498A JP2000055658A JP 2000055658 A JP2000055658 A JP 2000055658A JP 10222954 A JP10222954 A JP 10222954A JP 22295498 A JP22295498 A JP 22295498A JP 2000055658 A JP2000055658 A JP 2000055658A
Authority
JP
Japan
Prior art keywords
image
distance
pixel
distances
reference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP10222954A
Other languages
English (en)
Inventor
Atsushi Yokoyama
敦 横山
Sachiko Miwa
祥子 三輪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP10222954A priority Critical patent/JP2000055658A/ja
Priority to US09/365,049 priority patent/US6483949B1/en
Publication of JP2000055658A publication Critical patent/JP2000055658A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/25Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/12Acquisition of 3D measurements of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

(57)【要約】 【課題】 高精度に距離を測定する。 【解決手段】 対応画素抽出部24は、記憶部25から
射影変換行列Hを読み出して、基準画素mbに対応する
参照画素を決定し、それらの画素値を相関値演算部26
に出力する。相関値演算部26は、基準画素mbを中心
とする所定の小領域と、参照画素を中心とする同様の小
領域との相互相関値小領域内の各画素の差の2乗和(SS
D)として演算する。距離演算部27は、相関値演算部2
6から入力された加算値SSpの最小値の点とその前後
の点を抽出し、その3点を通る2次曲線を生成して、2
次曲線の最小値に対応するZeを基準画素mbの距離とし
て、距離画像メモリ28に出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理装置およ
び方法、並びに提供媒体に関し、特に、複数のステレオ
画像対を用いて被写体までの距離を測定する画像処理装
置および方法、並びに提供媒体に関する。
【0002】
【従来の技術】例えば、図7に示すように、基準カメラ
1および参照カメラ2により、同一の対象物5が撮影さ
れ、画像処理装置31において、撮影された画像対(基
準画像と参照画像A)の対応する画素が特定され、その
視差情報を用いて、基準カメラ1から対象物5までの距
離が求められるステレオ画像距離測定システムが知られ
ている。
【0003】このステレオ画像距離測定システムの動作
について説明する。図8は、3次元空間に存在する対象
点Pを、基準カメラ1または参照カメラ2が撮影した基
準画像と参照画像Aの関係を示している。すなわち、基
準画像内において対象点Pに対応する画素を画素mb
し、参照画像A内において対象点Pに対応する画素を画
素miとすれば、画素miの座標は、3行3列の射影変換
行列Hを用いて mi=H・mb と記述される。したがって、射影変換行列Hは、画素m
bと画素miの座標が判れば、演算することができる。
【0004】そこで、基準カメラ1と参照カメラ2の位
置関係、および基準カメラ1から対象点Pまでの距離Z
が予め測定された系において、画素mbと画素miの座標
を特定し、それらの座標を用いて距離Zに対応する射影
変換行列Hを演算しておく。演算された射影変換行列H
は、画像処理装置31に記憶される。
【0005】例えば図7に示すように、基準カメラ1か
ら対象点Pまでの距離を求める場合、画像処理装置31
は、その距離を、図9に示すように、距離の測定範囲に
離散的に設定された距離Z1乃至ZnのうちのZ1である
と仮定し、対象点Pを基準カメラ1で撮影した基準画像
上の対応する画素(基準画素)mbを、予め演算されて
記憶している距離Z1に対応する射影変換行列Hを用い
て参照画素mi1を決定する。
【0006】その後、画像処理装置31は、決定した参
照画素mi1と基準画素mbとの相互相関値S1を演算す
る。なお、相互相関値S1は、基準画像上の画素mbを中
心とする所定の小領域と、参照画像A上の画素mi1を中
心とする同様の小領域との正規化相互相関や、輝度差の
2乗和等の評価関数を用いて演算される。
【0007】次に、画像処理装置31は、基準カメラ1
から対象点Pまでの距離がZ2であると仮定し、予め演
算されて記憶している距離Z2に対応する射影変換行列
Hを用いて、参照画素mi2を決定する。その後、画像処
理装置31は、決定した画素mi2と画素mbとの相互相
関値S2を演算する。
【0008】以下同様に、画像処理装置31は、基準カ
メラ1から対象点Pまでの距離を、順次、Z3乃至Zn
あると仮定し、仮定した距離に対応する射影変換行列H
を用いて、参照画素mi3乃至minを決定して、相互相関
値S3乃至Snを演算する。
【0009】ところで、基準画像上の画素mbが参照画
像A内に射影された画素mi1乃至mi nは、図9に示すよ
うに、エピポーララインと呼ばれる1本の直線上に存在
することが知られている。
【0010】図10は、距離Z1乃至Znと相互相関値S
1乃至Snの関係を示している。ただし、同図において
は、相互相関値の値Sが小さいほど、相関関係が高い
(比較した画素が類似している)ことを示している。
【0011】次に、画像処理装置31は、相互相関値S
1乃至Snのうちで最も値の小さい(相関関係が高い)も
の(図10の例では、相互相関値S3)と、その前後の
値(図10の例では、相互相関値S2,S4)を通る曲線
(例えば、2次曲線)を生成して、その最小値Seに対
応する距離Zeを、基準画素mbの距離として出力する。
【0012】図11は、2組のステレオ画像対(基準画
像と参照画像A、および基準画像と参照画像B)を用い
て、基準カメラ1から対象物5までの距離を測定するス
テレオ画像距離測定システムの構成を示している。その
動作は、2組のステレオ画像対に対して、図7に示した
構成のものと同様の処理を実行している。すなわち、画
像処理装置41は、図12に示すように、基準画像上の
画素mbに対応する参照画像A上の画素mi1乃至min
決定し、画素mbとの相互相関値S1乃至Snを演算す
る。また、基準画像上の画素mbに対応する参照画像B
上の画素mi1'乃至min 'を決定し、画素mbとの相互相
関値S1'乃至Sn'を演算する。
【0013】その後、画像処理装置41は、相互相関値
1乃至Snと対応する相互相関値S1'乃至Sn'を加算す
る。図13は、●印を用いて相互相関値S1乃至Snを示
し、▲印を用いて相互相関値S1'乃至Sn'を示し、□印
を用いて加算値SS1乃至SSnを示している。
【0014】次に、画像処理装置41は、加算値SS1
乃至SSnのうちで最も値の小さい(相関関係が高い)
もの(図13の例では、加算値SS4)を選択し、選択
した値と、その前後の値(図13の例では、加算値SS
3,SS5)を通る曲線(例えば、2次曲線)を生成し
て、その最小値SSeに対応する距離Zeを、基準画素m
bの距離として出力する。
【0015】このように、2組のステレオ画像対を用い
れば、1組のステレオ画像対を用いたときよりも、高精
度な結果を得ることができる。
【0016】
【発明が解決しようとする課題】ところで、上述したス
テレオ画像距離測定システムにおいては、基準画面上の
画素mbに対応する基準画像上の画素を決定するために、
エピポーラライン上を離散的に探知している(相互相関
値を比較している)が、より高精度に距離を測定するた
めには、エピポーラライン上を短間隔で探知することが
望ましい。
【0017】しかしながら、エピポーラライン上におい
て、探知の回数を増やせば、その分の演算量が増加する
ので、システムの規模が増加したり、処理時間が長くな
る課題があった。
【0018】本発明はこのような状況に鑑みてなされた
ものであり、探知の回数を増加させることなく、高精度
に距離を測定できるようにするものである。
【0019】
【課題を解決するための手段】請求項1に記載の画像処
理装置は、測定範囲に離散的に設定された第1の距離の
組に対応して、基準画像上の任意の画素に対応する第1
の参照画像上の複数の画素を抽出する第1の抽出手段
と、測定範囲に離散的に設定された第2の距離の組に対
応して、基準画像上の任意の画素に対応する第2の参照
画像上の複数の画素を抽出する第2の抽出手段と、第1
の抽出手段が抽出した画素と第2の抽出手段が抽出した
画素との相互相関値を演算する演算手段と、演算手段が
演算した結果に基づいて、基準カメラと被写体との距離
を決定する決定手段とを備えることを特徴とする。
【0020】請求項5に記載の画像処理方法は、測定範
囲に離散的に設定された第1の距離の組に対応して、基
準画像上の任意の画素に対応する第1の参照画像上の複
数の画素を抽出する第1の抽出ステップと、測定範囲に
離散的に設定された第2の距離の組に対応して、基準画
像上の任意の画素に対応する第2の参照画像上の複数の
画素を抽出する第2の抽出ステップと、第1の抽出ステ
ップで抽出した画素と第2の抽出ステップで抽出した画
素との相互相関値を演算する演算ステップと、演算ステ
ップで演算した結果に基づいて、基準カメラと被写体と
の距離を決定する決定ステップとを含むことを特徴とす
る。
【0021】請求項6に記載の提供媒体は、測定範囲に
離散的に設定された第1の距離の組に対応して、基準画
像上の任意の画素に対応する第1の参照画像上の複数の
画素を抽出する第1の抽出ステップと、測定範囲に離散
的に設定された第2の距離の組に対応して、基準画像上
の任意の画素に対応する第2の参照画像上の複数の画素
を抽出する第2の抽出ステップと、第1の抽出ステップ
で抽出した画素と第2の抽出ステップで抽出した画素と
の相互相関値を演算する演算ステップと、演算ステップ
で演算した結果に基づいて、基準カメラと前記被写体と
の距離を決定する決定ステップとを含む処理を画像処理
装置に実行させるコンピュータが読み取り可能なプログ
ラムを提供することを特徴とする。
【0022】請求項1に記載の画像処理装置において
は、第1の抽出手段が、測定範囲に離散的に設定された
第1の距離の組に対応して、基準画像上の任意の画素に
対応する第1の参照画像上の複数の画素を抽出し、第2
の抽出手段が、測定範囲に離散的に設定された第2の距
離の組に対応して、基準画像上の任意の画素に対応する
第2の参照画像上の複数の画素を抽出し、演算手段が、
第1の抽出手段が抽出した画素と第2の抽出手段が抽出
した画素との相互相関値を演算し、決定手段が、演算手
段が演算した結果に基づいて、基準カメラと被写体との
距離を決定する。
【0023】請求項5に記載の画像処理方法、および請
求項6に記載の提供媒体においては、第1の抽出ステッ
プで、測定範囲に離散的に設定された第1の距離の組に
対応して、基準画像上の任意の画素に対応する第1の参
照画像上の複数の画素を抽出し、第2の抽出ステップ
で、測定範囲に離散的に設定された第2の距離の組に対
応して、基準画像上の任意の画素に対応する第2の参照
画像上の複数の画素を抽出し、演算ステップで、第1の
抽出ステップで抽出した画素と第2の抽出ステップで抽
出した画素との相互相関値を演算し、決定ステップで、
演算ステップで演算した結果に基づいて、基準カメラと
被写体との距離を決定する。
【0024】
【発明の実施の形態】以下に本発明の実施の形態を説明
するが、特許請求の範囲に記載の発明の各手段と以下の
実施の形態との対応関係を明らかにするために、各手段
の後の括弧内に、対応する実施の形態(但し一例)を付
加して本発明の特徴を記述すると、次のようになる。
【0025】すなわち、請求項1に記載の画像処理装置
は、測定範囲に離散的に設定された第1の距離の組に対
応して、基準画像上の任意の画素に対応する第1の参照
画像上の複数の画素を抽出する第1の抽出手段(図6の
ステップS2)と、測定範囲に離散的に設定された第2
の距離の組に対応して、基準画像上の任意の画素に対応
する第2の参照画像上の複数の画素を抽出する第2の抽
出手段(図6のステップS5)と、第1の抽出手段が抽
出した画素と第2の抽出手段が抽出した画素との相互相
関値を演算する演算手段(図3の相関値演算部26)
と、演算手段が演算した結果に基づいて、基準カメラと
被写体との距離を決定する決定手段(図3の距離演算部
27)とを備えることを特徴とする。
【0026】但し勿論この記載は、各手段を記載したも
のに限定することを意味するものではない。
【0027】本発明を適用したステレオ画像距離測定シ
ステムの構成について、図1を参照して説明する。な
お、本明細書においてシステムの用語は、複数の装置、
手段などにより構成される全体的な装置を意味するもの
である。
【0028】基準カメラ1、および参照カメラ2,3
は、距離を測定する対象物5を撮影し、撮影した画像を
画像処理装置4に出力するようになされている。ここ
で、基準カメラ1で撮影された画像を基準画像とし、参
照カメラ2で撮影された画像を参照画像Aとし、参照カ
メラ3で撮影された画像を参照画像Bとする。
【0029】画像処理装置4は、入力された画像を用い
て、基準カメラから対象物5の距離を演算し、その距離
の情報を有する距離画像を生成するようになされてい
る。
【0030】図2は、画像処理装置4の構成を示してい
る。基準カメラ1乃至参照カメラ3より入力される画像
情報は、カメラインタフェース(I/F)11においてデジ
タル信号化され、画像メモリ12に供給されて記憶され
るようになされている。CPU13は、ROM15に記録され
ている制御プログラムに基づいて、画像メモリ12およ
びハードディスク(HDD)14から、適宜、必要な情報を
読み出して距離画像を生成し、図示せぬ表示装置が接続
された出力インタフェース(I/F)15に出力するように
なされている。
【0031】ハードディスク14は、測定範囲内に離散
的に設定された距離に対応する、基準画像から参照画像
Aまたは参照画像Bへの射影変換行列Hが記述されたテ
ーブルを記憶するようになされている。なお、このテー
ブルは、予め、実験値を用いて作成されたものである。
【0032】図3は、画像処理装置4の機能的な構成を
示している。画像メモリ21乃至23は、図2の画像メ
モリ12に相当し、画像メモリ21が基準画像を記憶
し、画像メモリ22が参照画像Aを記憶し、画像メモリ
23が参照画像Bを記憶するようになされている。
【0033】対応画素抽出部24は、画像メモリ21か
ら基準画像を読み出し、画像メモリ22から参照画像A
を読み出し、さらに、記憶部25(図2のHDD14に相
当する)から距離Z1,Z3,・・・,Zn-1に対応する
射影変換行列Hを読み出して、図4に示すように、基準
画像上の画素(基準画素)mbに対応する参照画像A上
の画素の候補として、複数の参照画素(mi1,mi3,・
・・,min-1)を決定し、画素mbと複数の参照画素画
素(mi1,mi3,・・・,min-1)の画素値を相関値演
算部26に出力するようになされている。
【0034】また、対応画素抽出部24は、画像メモリ
23から参照画像Bを読み出し、記憶部25から距離Z
2,Z4,・・・,Znに対応する射影変換行列Hを読み
出して、基準画素mbに対応する参照画像B上の画素の候
補として、複数の参照画素(mi2,mi4,・・・,
in)を決定し、それらの画素値を相関値演算部26に
出力するようになされている。
【0035】なお、上述した距離Z1,Z3,・・・,Z
n-1は、測定範囲に離散的に設定された値であり、その
間隔は、基準カメラ1からの距離の増加とともに、増加
するように設定されている。また、距離Z2,Z4,・・
・,Znは、距離Z1,Z3,・・・,Zn-1のそれぞれの
中間に設定された値である。なお、この間隔は等間隔に
設定してもよい。
【0036】相関値演算部26は、基準画素mbを中心と
する所定の小領域と、参照画像A上の参照画素(mi1
i3,・・・,min-1)を中心とする同様の小領域との
相互相関値S1,S3,・・・,Sn-1(図5に▲印で示
す)を、例えば次式に示すように、小領域内の各画素の
差の2乗和(SSD)として演算するようになされている。 SSD(x,y,η,ξ)=Σ(I(x+i,y+j)−
J(x+i−η,y+j−ξ))2 (0<i<小領域の横方向のサイズ、0<j<小領域の
縦方向のサイズ)
【0037】ここで、I(x,y)は基準画像内の座標
(x,y)の画素値であり、J(x,y)は参照画像内
の座標(x,y)の画素値であり、(η,ξ)は視差で
ある。
【0038】なお、基準画素mbと参照画素が類似して
いるほど、その相互相関値は小さいくなる。
【0039】同様に、基準画素mbを中心とする所定の小
領域と、参照画像B上の参照画素(mi2,mi4,・・
・,min)を中心とする同様の小領域との相互相関値S
2,S4,・・・,Sn(図5に●印で示す)が演算され
るようになされている。
【0040】さらに、相関値演算部26は、演算した相
互相関値を用いて、例えば、スプライン曲線を生成し、
相互相関値のうちの隣り合う2個の相互相関値Sk,S
k+2(k=1,2,・・・,n−2)の中点の相互相関
値Sk+1'を補間するようになされている。すなわち、相
関値演算部26は、相互相関値S1,S3,・・・,Sn-
1を用いて相互相関値S2',S4',・・・,Sn-2'(図
5に△印で示す)を補間し、相互相関値S2,S4,・・
・,Snを用いて相互相関値S3',S5',・・・,Sn '
(図5に○印で示す)を補間する。
【0041】さらに、相関値演算部26は、対応する相
互相関値S2,S3',S4,・・・,Sn-1'と相互相関値
2',S3,S4',・・・,Sn-1の加算値SSp=Sp
p'(p=2,3,・・・,n−1、図5に□印で示
す)を演算し、距離演算部27に出力するようになされ
ている。
【0042】距離演算部27は、相関値演算部26から
入力された加算値SSpの最小値の点(図5の例では、
(Z4,SS4))とその前後の点((Z3,SS3)およ
び(Z5,SS5))を抽出し、その3点を通る2次曲線
を生成して、2次曲線の最小値に対応するZeを基準画
素mbの距離として、距離画像メモリ28に出力するよ
うになされている。
【0043】距離画像28メモリは、基準画素の座標と
その距離を対応させて記憶するようになされている。
【0044】次に、ステレオ画像距離測定システムの動
作について、図6にフローチャートを参照して説明す
る。距離を測定する対象物5を、基準カメラ1、および
参照カメラ2,3で撮影した基準画像、および参照画像
A,Bは、対応する画像メモリ21乃至23に記憶され
る。
【0045】ステップS1において、対応画素抽出部2
4は、画像メモリ21から基準画像を読み出し、基準画
像上の任意の画素を基準画素mbに決定する。ステップ
S2において、対応画素抽出部24は、画像メモリ22
から参照画像Aを読み出し、さらに、記憶部25から距
離Z1,Z3,・・・,Zn-1に対応する射影変換行列H
を読み出して、図4に示すように、基準画素mbに対応
する参照画像A上の画素の候補として、複数の参照画素
(mi1,mi3,・・・,min-1)を決定し、画素mbと複
数の参照画素(mi1,mi3,・・・,min-1)の画素値
を相関値演算部26に出力する。
【0046】ステップS3において、相関値演算部26
は、基準画素mbを中心とする所定の小領域と、参照画
像A上の参照画素(mi1,mi3,・・・,min-1)を中
心とする同様の小領域との相互相関値S1,S3,・・
・,Sn-1(図5に▲印で示す)を、上述したように、
小領域内の各画素の差の2乗和として演算する。さら
に、相関値演算部26は、ステップS4において、演算
した相互相関値S1,S3,・・・,Sn-1を用いて、ス
プライン曲線を生成し、相互相関値のうちの隣り合う2
個の相互相関値Sk,Sk+2(k=1,3,・・・,n−
3)の中点の相互相関値Sk+1'を補間する。すなわち、
相関値演算部26は、相互相関値S1,S3,・・・,S
n-1を用いて相互相関値S2',S4',・・・,S
n-2'(図5に△印で示す)を補間する。
【0047】ステップS5において、対応画素抽出部2
4は、画像メモリ23から参照画像Bを読み出し、ステ
ップS6において、記憶部25から距離Z2,Z4,・・
・,Znに対応する射影変換行列Hを読み出して、図4
に示すように、基準画素mbに対応する参照画像B上の画
素の候補として、複数の参照画素(mi2,mi4,・・
・,min)を決定し、それらの画素値を相関値演算部2
6に出力する。
【0048】ステップS6において、相関値演算部26
は、基準画素mbを中心とする所定の小領域と、参照画像
B上の参照画素(mi2,mi4,・・・,min)を中心と
する同様の小領域との相互相関値S2,S4,・・・,S
n(図5に●印で示す)を、上述したように、小領域内
の各画素の差の2乗和として演算する。さらに、相関値
演算部26は、ステップS7において、演算した相互相
関値S2,S4,・・・,Snを用いて、スプライン曲線
を生成し、相互相関値のうちの隣り合う2個の相互相関
値Sk,Sk+2(k=2,4,・・・,n−2)の中点の
相互相関値Sk+ 1'を補間する。すなわち、相関値演算部
26は、相互相関値S2,S4,・・・,Snを用いて相
互相関値S3',S5',・・・,Sn'(図5に○印で示
す)を補間する。
【0049】ステップS8において、相関値演算部26
は、対応する相互相関値S2,S3',S4,・・・,S
n-1'と相互相関値S2',S3,S4',・・・,Sn-1の加
算値SSp=Sp+Sp'(p=2,3,・・・,n−1、
図5に□印で示す)を演算し、距離演算部27に出力す
る。
【0050】距離演算部27は、相関値演算部26から
入力された加算値SSpの最小値の点(図5の例では、
(Z4,SS4))とその前後の点((Z3,SS3)およ
び(Z5,SS5))を抽出し、その3点を通る2次曲線
を生成して、2次曲線の最小値に対応するZeを基準画
素mbの距離として、距離画像メモリ28に出力する。
【0051】ステップS10において、対応画素抽出部
24は、基準画像の全ての画素を基準画素mbとしたか
否かを判定し、する。全ての画素を基準画素mbとした
と判定されるまで、ステップS1乃至ステップS10の
処理が繰り返される。全ての画素を基準画素mbとした
と判定された場合、距離画像28メモリに記憶された基
準画素の座標と対応する距離が距離画像として後段に出
力される。
【0052】このように、参照画像Aにおいては、距離
1,Z3,・・・,Zn-1に対応する参照画素(mi1
i3,・・・,min-1)が抽出され、参照画像Bにおい
ては、距離Z2,Z4,・・・,Znに対応する参照画素
(mi2,mi4,・・・,min)が抽出されるので、図1
2に示した場合と比較して、相互相関値の演算回数を増
加させることなく、想定する距離の間隔を狭めることが
できる。
【0053】なお、実際には、以上の処理は、CPU13
により、ROM15に記録されている制御プログラムに基
づいて実行される。
【0054】また、本実施の形態においては、2組のス
テレオ画像対を用いたが、本発明は、より多くのステレ
オ画像対を用いる場合にも適用できる。
【0055】さらに、本実施の形態においては、相互相
関値を画素値の差の2乗和として演算したが、例えば、
画素値の絶対値の和や正規化相関を演算するようにして
もよい。
【0056】また、本実施の形態においては、相互相関
値の補間にスプライン曲線を用いたが、例えば、前後す
る相互相関値を平均して、その中点の相互相関値を補間
してもよい。
【0057】なお、上記各処理を行うコンピュータプロ
グラムは、磁気ディスク、CD-ROM等の情報記録媒体より
なる提供媒体のほか、インターネット、デジタル衛星な
どのネットワーク提供媒体を介してユーザに提供するこ
とができる。
【0058】
【発明の効果】以上のように、請求項1に記載の画像処
理装置、請求項5に記載の画像処理方法、および請求項
6に記載の提供媒体によれば、測定範囲に離散的に設定
された第1の距離の組に対応して、基準画像上の任意の
画素に対応する第1の参照画像上の複数の画素を抽出
し、定範囲に離散的に設定された第2の距離の組に対応
して、基準画像上の任意の画素に対応する第2の参照画
像上の複数の画素を抽出するようにしたので、探知の回
数を増加させることなく、高精度に距離を測定すること
が可能となる。
【図面の簡単な説明】
【図1】本発明を適用したステレオ画像距離測定システ
ムの構成を示す図である。
【図2】図1の画像処理装置4の構成を示すブロック図
である。
【図3】画像処理装置4の機能的な構成を示すブロック
図である。
【図4】図3の対応画素抽出部24の処理を説明するた
めの図である。
【図5】図3の距離演算部27の処理を説明するための
図である。
【図6】ステレオ画像距離測定システムの動作を説明す
るフローチャートである。
【図7】従来のステレオ画像距離測定システムの構成を
示す図である。
【図8】射影変換行列Hを説明するための図である。
【図9】図7のステレオ画像距離測定システムの動作を
説明するための図である。
【図10】図7のステレオ画像距離測定システムの動作
を説明するための図である。
【図11】従来のステレオ画像距離測定システムの他の
構成を示す図である。
【図12】図11のステレオ画像距離測定システムの動
作を説明するための図である。
【図13】図11のステレオ画像距離測定システムの動
作を説明するための図である。
【符号の説明】
1 基準カメラ, 2,3 参照カメラ, 4 画像処
理装置, 11 カメラインタフェース, 12 画像
メモリ, 13 CPU, 14 ハードディスク, 1
5 ROM, 16 出力インタフェース, 21乃至2
3 画像メモリ, 24 対応画素抽出部, 25 記
憶部, 26 相関値演算部, 27距離演算部, 2
8 距離画像メモリ

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 同一の被写体が撮影された画像対を用い
    て、基準カメラと前記被写体との距離を測定する画像処
    理装置において、 測定範囲に離散的に設定された第1の距離の組に対応し
    て、基準画像上の任意の画素に対応する第1の参照画像
    上の複数の画素を抽出する第1の抽出手段と、 測定範囲に離散的に設定された第2の距離の組に対応し
    て、基準画像上の任意の画素に対応する第2の参照画像
    上の複数の画素を抽出する第2の抽出手段と、 前記第1の抽出手段が抽出した画素と前記第2の抽出手
    段が抽出した画素との相互相関値を演算する演算手段
    と、 前記演算手段が演算した結果に基づいて、前記基準カメ
    ラと前記被写体との距離を決定する決定手段とを備える
    ことを特徴とする画像処理装置。
  2. 【請求項2】 前記第2の距離の組に含まれる距離は、
    前記第1の距離の組に含まれる距離の中間値であること
    を特徴とする請求項1に記載の画像情報処理装置。
  3. 【請求項3】 前記第1および第2の距離の組に含まれ
    る距離の間隔は、前記基準カメラに近いほど狭く設定さ
    れることを特徴とする請求項2に記載の画像情報処理装
    置。
  4. 【請求項4】 前記第1および第2の距離の組に含まれ
    る距離は、等間隔で設定されることを特徴とする請求項
    2に記載の画像情報処理装置。
  5. 【請求項5】 同一の被写体が撮影された画像対を用い
    て、基準カメラと前記被写体との距離を測定する画像処
    理方法において、 測定範囲に離散的に設定された第1の距離の組に対応し
    て、基準画像上の任意の画素に対応する第1の参照画像
    上の複数の画素を抽出する第1の抽出ステップと、 測定範囲に離散的に設定された第2の距離の組に対応し
    て、基準画像上の任意の画素に対応する第2の参照画像
    上の複数の画素を抽出する第2の抽出ステップと、 前記第1の抽出ステップで抽出した画素と前記第2の抽
    出ステップで抽出した画素との相互相関値を演算する演
    算ステップと、 前記演算ステップで演算した結果に基づいて、前記基準
    カメラと前記被写体との距離を決定する決定ステップと
    を含むことを特徴とする画像処理方法。
  6. 【請求項6】 同一の被写体が撮影された画像対を用い
    て、基準カメラと前記被写体との距離を測定する画像処
    理装置に、 測定範囲に離散的に設定された第1の距離の組に対応し
    て、基準画像上の任意の画素に対応する第1の参照画像
    上の複数の画素を抽出する第1の抽出ステップと、 測定範囲に離散的に設定された第2の距離の組に対応し
    て、基準画像上の任意の画素に対応する第2の参照画像
    上の複数の画素を抽出する第2の抽出ステップと、 前記第1の抽出ステップで抽出した画素と前記第2の抽
    出ステップで抽出した画素との相互相関値を演算する演
    算ステップと、 前記演算ステップで演算した結果に基づいて、前記基準
    カメラと前記被写体との距離を決定する決定ステップと
    を含む処理を実行させるコンピュータが読み取り可能な
    プログラムを提供することを特徴とする提供媒体。
JP10222954A 1998-08-06 1998-08-06 画像処理装置および方法、並びに提供媒体 Withdrawn JP2000055658A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP10222954A JP2000055658A (ja) 1998-08-06 1998-08-06 画像処理装置および方法、並びに提供媒体
US09/365,049 US6483949B1 (en) 1998-08-06 1999-07-30 Image processing apparatus and method, and medium therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10222954A JP2000055658A (ja) 1998-08-06 1998-08-06 画像処理装置および方法、並びに提供媒体

Publications (1)

Publication Number Publication Date
JP2000055658A true JP2000055658A (ja) 2000-02-25

Family

ID=16790490

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10222954A Withdrawn JP2000055658A (ja) 1998-08-06 1998-08-06 画像処理装置および方法、並びに提供媒体

Country Status (2)

Country Link
US (1) US6483949B1 (ja)
JP (1) JP2000055658A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004333243A (ja) * 2003-05-06 2004-11-25 Pasuko:Kk 画像マッチング方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4374625B2 (ja) * 1998-05-08 2009-12-02 ソニー株式会社 画像生成装置及び方法
US6801653B1 (en) * 1999-08-05 2004-10-05 Sony Corporation Information processing apparatus and method as well as medium
JP3518465B2 (ja) * 2000-02-18 2004-04-12 日本電気株式会社 被写体抽出装置、被写体抽出方法、及び被写体抽出プログラムを記録した記録媒体
FR2829344B1 (fr) * 2001-08-29 2004-10-01 Oreal Dispositif d'acquisition d'au moins une image d'au moins une partie du visage ou de la chevelure d'une personne
CA2881131A1 (en) * 2012-08-21 2014-02-27 Pelican Imaging Corporation Systems and methods for parallax detection and correction in images captured using array cameras
TWI461995B (zh) * 2012-09-28 2014-11-21 Pixart Imaging Inc 手持式指向裝置及其操作方法
EP2915324B1 (en) 2012-11-05 2020-07-08 360 Heros, Inc. 360 degree camera mount and related photographic and video system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5577130A (en) * 1991-08-05 1996-11-19 Philips Electronics North America Method and apparatus for determining the distance between an image and an object
JP3252293B2 (ja) * 1992-10-29 2002-02-04 セイコープレシジョン株式会社 測距装置
JPH10160410A (ja) * 1996-11-27 1998-06-19 Minolta Co Ltd 測距装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004333243A (ja) * 2003-05-06 2004-11-25 Pasuko:Kk 画像マッチング方法

Also Published As

Publication number Publication date
US6483949B1 (en) 2002-11-19

Similar Documents

Publication Publication Date Title
US6438507B1 (en) Data processing method and processing device
JP6338021B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
CN111457886B (zh) 距离确定方法、装置及系统
JP2001324305A (ja) 画像対応位置検出装置および該装置を備える測距装置
US9183634B2 (en) Image processing apparatus and image processing method
JP2004235934A (ja) キャリブレーション処理装置、およびキャリブレーション処理方法、並びにコンピュータ・プログラム
JP6061770B2 (ja) カメラ姿勢推定装置及びそのプログラム
JP2012185772A (ja) 非固定ズームカメラを用いた自由視点映像の合成画質高精度化方法およびプログラム
JP6662382B2 (ja) 情報処理装置および方法、並びにプログラム
CN113494893A (zh) 一种三维激光扫描系统的标定方法、装置和计算机设备
JPH05303629A (ja) 形状合成方法
JP2000055658A (ja) 画像処理装置および方法、並びに提供媒体
JP3282516B2 (ja) 三次元画像計測方法
JP2002109518A (ja) 三次元形状復元方法及びシステム
JP2003006618A (ja) 3次元モデルの生成方法および装置並びにコンピュータプログラム
JPH11125522A (ja) 画像処理装置および方法
CN113902846B (zh) 一种基于单目深度相机和里程传感器的室内三维建模方法
JP3452188B2 (ja) 2次元動画像中の特徴点の追跡方法
JPH0875454A (ja) 測距装置
CN110232715B (zh) 一种多深度相机自校准的方法、装置及系统
JP2961140B2 (ja) 画像処理方法
JP2011165117A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPH11264724A (ja) 画像処理装置および方法、並びに提供媒体
CN111145268A (zh) 一种视频注册方法及装置
JP2000180121A (ja) 画像処理装置および画像処理方法、並びに提供媒体

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20051101