JP2012023561A - ステレオ撮像装置の制御システム - Google Patents

ステレオ撮像装置の制御システム Download PDF

Info

Publication number
JP2012023561A
JP2012023561A JP2010159948A JP2010159948A JP2012023561A JP 2012023561 A JP2012023561 A JP 2012023561A JP 2010159948 A JP2010159948 A JP 2010159948A JP 2010159948 A JP2010159948 A JP 2010159948A JP 2012023561 A JP2012023561 A JP 2012023561A
Authority
JP
Japan
Prior art keywords
imaging
unit
control system
image
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010159948A
Other languages
English (en)
Other versions
JP4865065B1 (ja
Inventor
Hyo-Lim Chang
暁林 張
Zining Zhen
梓寧 甄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bi2 Vision Co Ltd
Original Assignee
Bi2 Vision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bi2 Vision Co Ltd filed Critical Bi2 Vision Co Ltd
Priority to JP2010159948A priority Critical patent/JP4865065B1/ja
Application granted granted Critical
Publication of JP4865065B1 publication Critical patent/JP4865065B1/ja
Publication of JP2012023561A publication Critical patent/JP2012023561A/ja
Priority to US13/528,771 priority patent/US9052585B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2206/00Systems for exchange of information between different pieces of apparatus, e.g. for exchanging trimming information, for photo finishing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Studio Devices (AREA)

Abstract

【課題】一対の撮像部の相対位置関係が分からなくても立体視が可能なステレオ画像を得ることが可能なステレオ撮像装置の制御システムを提供する。
【解決手段】ステレオ撮像装置の制御システムは、一対の撮像部10と誤差算出部20と制御部30とからなる。一対の撮像部10は、ヨー、ピッチ、ロール及びズーム倍率が少なくとも制御可能なデジタル的又はアナログ的な自由度を持ち、撮像素子により連続画像を撮像可能なものである。誤差算出部20は、一対の撮像部により撮像される各画像を用いて、各撮像部の所定の標準輻輳モデルとの差異から各撮像部の回転誤差及びズーム誤差を算出する。制御部30は、誤差算出部により算出される回転誤差及びズーム誤差を用いて、撮像部の回転角及びズーム比率を制御する。
【選択図】図1

Description

本発明はステレオ撮像装置の制御システムに関し、特に、ステレオ撮像装置の一対の撮像部の位置ずれを補正可能なステレオ撮像装置の制御システムに関する。
ステレオ撮像装置は、左右に置かれた一対のカメラを用いてステレオ画像を得るものである。従来のステレオ撮像装置では、ステレオ画像を得るためには一対のカメラの相対的な位置や姿勢が固定されたものであった。また、立体視機能を高めるために、輻輳運動や基線長の変更、ズーム等が行える多自由度のアクティブカメラのステレオ撮像装置も開発されている。
一対のカメラの相対的な位置関係がずれるとステレオ画像とならないため、これをキャリブレーションする手法が種々開発されている。例えば、特許文献1に開示のものは、撮像装置のキャリブレーションデータ(キャリブレーションパラメータ)を予め記憶しておき、これを用いて撮像されたステレオ画像をキャリブレーションするものである。
また、特許文献2に開示のものは、ステレオ撮像装置からのステレオ画像から特徴点を抽出し、特徴点の対応関係から基礎行列(一対のカメラ間の相対的幾何情報)を演算することで一対のカメラの相対位置を位置ずれや回転ずれを推定するものである。
特開2004−354257号公報 特開2007−263669号公報
しかしながら、特許文献1や特許文献2に記載の従来例では、何れも一対のカメラの相対位置を予め計測又は設定してから、実際のカメラの位置とこの計測又は設定値とのずれを算出するというキャリブレーション手法を用いるため、計算量が膨大となり、リアルタイムでのキャリブレーションが難しかった。また、この手法を用いた相対位置の算出の精度が低いという問題もあった。さらに、両眼の視軸周りの回転角のずれに関して、キャリブレーションを行うことも難しかった。
本発明は、斯かる実情に鑑み、撮像部の姿勢及びズームが制御可能であることを前提に、一対の撮像部の相対位置関係が分からなくても立体視が可能なステレオ画像を得ることが可能なステレオ撮像装置の制御システムを提供しようとするものである。
上述した本発明の目的を達成するために、本発明によるステレオ撮像装置の制御システムは、ヨー、ピッチ、ロール及びズーム倍率が少なくとも制御可能なデジタル的又はアナログ的な自由度を持ち、撮像素子により連続画像を撮像可能な一対の撮像部と
一対の撮像部により撮像される各画像を用いて、各撮像部の所定の標準輻輳モデルとの差異から各撮像部の回転誤差及びズーム誤差を算出する誤差算出部と、誤差算出部により算出される回転誤差及びズーム誤差を用いて、撮像部の回転角及びズーム比率を制御する制御部と、を具備するものである。
ここで、標準輻輳モデルは、
1)一対の撮像部の基線と、各撮像部の光軸と、各撮像部の撮像素子のu軸とが同一平面内に存在する
2)各撮像部の光軸交点が撮像部前面に位置する
3)各撮像部の撮像素子の中心に映る対象物はゼロ視差である
ものであれば良い。
また、各撮像部はピンホールモデルに変換されれば良い。
また、各撮像部がデジタル的な自由度を持つ場合、制御部はアフィン変換を用いて回転角及びズーム倍率を制御すれば良い。
また、各撮像部がアナログ的な自由度を持つ場合、制御部は各撮像部を駆動するアクチュエータにより回転角及びズーム倍率を制御すれば良い。
また、誤差算出部は、各撮像部からの画像のそれぞれの特徴点を抽出する特徴点抽出部とそれぞれの特徴点をマッチングする特徴点マッチング部とを具備すれば良い。
さらに、一対の撮像部の輻輳角を計測する輻輳角計測部を有しても良い。
また、制御部は、輻輳角計測部により計測される輻輳角を用いて、撮像部により撮像される各画像平面が平行になるようにアフィン変換を行っても良い。
本発明のステレオ撮像装置の制御システムには、一対の撮像部の相対位置関係が事前に分からなくても立体視が可能なステレオ画像を得ることが可能であるという利点がある。
図1は、本発明のステレオ撮像装置の制御システムを説明するための概略ブロック図である。 図2は、本発明のステレオ撮像装置の制御システムに用いられる標準輻輳モデルを説明するためのピンホールモデルによる概念図である。 図3は、相対位置が固定された一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の概略ブロック図である。 図4は、3自由度を有する一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の概略ブロック図である。 図5は、3自由度を有する一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の他の例の概略ブロック図である。 図6は、3自由度を有する一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合のさらに他の例の概略ブロック図である。
以下、本発明を実施するための形態を図示例と共に説明する。図1は、本発明のステレオ撮像装置の制御システムを説明するための概略ブロック図である。図示の通り、本発明のステレオ撮像装置の制御システムは、一対の撮像部10と、誤差算出部20と、制御部30とから主に構成されるものである。
撮像部10は、ヨー、ピッチ、ロール及びズーム倍率が少なくとも制御可能なデジタル的又はアナログ的な自由度を持ち、撮像素子により連続画像を撮像可能なものである。ここで、デジタル的な自由度とは、撮像部自体は固定されているが、撮像された連続画像を画像処理で回転、平行移動、ゆがみ補正等を施すことにより、いくつかの自由度を持たせたものであり、アナログ的な自由度とは、撮像部自体がアクチュエータ等により駆動され、複数の自由度を有するものである。
誤差算出部20は、一対の撮像部10により撮像される各画像を用いて、各撮像部の所定の標準輻輳モデルとの差異から各撮像部の少なくとも回転誤差及びズーム誤差を算出するものである。ここで、標準輻輳モデルは、例えば以下のように定義される。
標準輻輳モデル:
1)一対の撮像部の基線と、各撮像部の光軸と、各撮像部の撮像素子のu軸とが同一平面内に存在する
2)各撮像部の光軸交点が撮像部前面に位置する
3)各撮像部の撮像素子の中心に映る対象物はゼロ視差である
また、標準輻輳モデルは、さらに以下の定義を含んでいても良い。
4)各撮像部の焦点距離は以下の式を満足する
但し、fは一方の撮像部の焦点距離、fは他方の撮像部の焦点距離、θは各撮像部の共役角、θは一対の撮像部の輻輳角である。
なお、上記の標準輻輳モデル4)については、ズーム誤差がゼロと等価となるような条件であるため、撮像された画像のズーム誤差がゼロの場合には不要である。
ここで、標準輻輳モデルとしては、カメラの所定の位置関係を標準輻輳として広く定義することが可能である。例えば、立体視が可能なステレオ画像に用いることが可能な標準輻輳モデルとしては、一対の撮像部の視軸が並行している場合も含まれる。さらに、上記の標準輻輳モデル1)〜3)以外に、いくつかの項目を追加しても標準輻輳モデルと定義することが可能なものである。
ここで、図1における、各部の符号を以下のように定義する。
・両眼画像(撮像部10による左右画像):左目画像I、右目画像I
・解像度:画像の幅r、画像の高さr(単位:ピクセル)
・水平画角:左目画像の水平画角α、右眼画像の水平画角α(単位:degree)
・5種類の誤差(誤差算出部20で算出する誤差):
1)Pan寄せ誤差epanD:一対の撮像部10の撮像素子の中心に映る対象物のu軸ずれがないように、一対の撮像部がPanの相互逆方向に回転すべき角度
2)Tilt寄せ誤差etiltD:一対の撮像部10の撮像素子の中心に映る対象物のv軸ずれがないように、一対の撮像部がTiltの相互逆方向に回転すべき角度
3)Roll寄せ誤差erollD:一対の撮像部10の撮像素子のu軸線が基線と各撮像部の光軸と同一平面になるように、一対の撮像部がRollの相互逆方向に回転すべき角度
4)Roll共役誤差erollC:一対の撮像部10の撮像素子のu軸線が基線と各撮像部の光軸と同一平面になるように、一対の撮像部10がRollの相互同方向に回転すべき角度
5)Scale寄せ誤差(Zoom方向寄せ誤差)ezoomD:一対の撮像部10の撮像素子の中心に映る対象物の高さが同じになるように、一対の撮像部10のズームイン/ズームアウトすべき倍率の対数
(単位:zoomは倍率のlog、他はdegree)
・8つの位置値(制御部30で制御すべき位置):
1)左目Pan位置xpanL
2)左目Tilt位置xtiltL
3)左目Roll位置xrollL
4)左目Zoom位置xzoomL
5)右目Pan位置xpanR
6)右目Tilt位置xtiltR
7)右目Roll位置xrollR
8)右目Zoom位置xzoomR
(単位:zoomは倍率のlog、他はdegree)
また、数1における各撮像部の焦点距離f、fは、光学上の焦点距離とは異なり、カメラキャリブレーション上での定義であり、画像空間と実空間との変換比例を表す係数であり、以下のように表されるものである。
図2に、標準輻輳モデルを説明するためのピンホールモデルによる概念図を示す。図2(a)が右側撮像部から見た画像の状態を、図2(b)が左側撮像部から見た画像の状態をそれぞれ表している。図中、図1と同一の符号を付した部分は同一物を表わしている。なお、撮像部10については撮像素子の中心を光学中心として示している。これらの図は、ピンホールモデルと呼ばれるものである。図示の通り、左右で見える画像が異なるが、これらの画像から誤差算出部20により上述の標準輻輳モデルとの差を求める。本明細書中では、この標準輻輳モデルまでの誤差を標準輻輳誤差と呼ぶ。この標準輻輳誤差がゼロとなるように、撮像部又は画像の修正を行う。このように、本発明の制御システムの撮像部は、ピンホールモデルに変換されれば良い。
ここで、上述の標準輻輳モデルにおいて光軸が平行な場合を平行視と呼ぶ。さらに、上述の標準輻輳モデルのすべての条件を満足する上に、一対の撮像部10の光軸の交点が基線の垂直二等分面にある場合を、中心輻輳と呼ぶ。
誤差算出部20では、まず左右の撮像部により撮像された2枚の画像を画像マッピングする。2枚の画像は基本的に同じサイズ(解像度、ピクセル数)とする。この左右のマッピング画像の中で注視点となる特徴点を特徴点抽出部により抽出し、それぞれの特徴点を特徴点マッチング部によりマッチングする。即ち、各マッチング画像で対応するそれぞれの特徴点の位置座標(2次元ベクトル)及びマッチングの個数を抽出してマッチング情報とする。そして、特徴点のマッチング情報から標準輻輳モデルとの誤差である標準輻輳誤差、具体的には、例えば上下誤差、輻輳誤差、回転誤差、傾斜誤差、ズーム誤差を計算する。そして、各自由度の制御量、具体的には、例えばPan寄せ量、Tilt寄せ量、Roll寄せ量、Roll共役量、Scale寄せ量を評価する。そして、画像マッピングの各自由度の目標値、具体的には、例えば左右のマッピング画像のPan、Tilt、Roll、Scaleの各量をそれぞれ決定する。補正量については、フィードバック制御の方式で2つの撮像部の画像を徐々に修正していけば良いため、制御パラメータは制御ループが収束する範囲で適当に設定すれば良い。
特徴点マッチング部は、両眼画像(I,I)を用いて、それぞれに抽出した特徴点をマッチングする機能を有する。なお、座標系は例えば画像の左上頂点を原点とした座標系とする。本発明による制御システムでは、SIFT法やHarris等、種々のマッチング手法を適用可能であり、特定のマッチング手法に限定されるものではない。マッチングの結果は、N個の特徴点対で、下のように表される。
ここで、uLi,vLi,uRi,vRiは1つの特徴点対を表し、(uLi,vLi)と(uRi,vRi)が、それぞれ左目画像と右目画像における特徴点の座標を意味する。
このような左右の特徴点対の表記方式を、共役・寄せに変換するために、以下のようなL/R C/D変換を行う。また、座標系も画像中心座標系に変換する。
そして、各特徴点対に対して、以下のように重みを計算する。
その後、線形回帰のために、各分量のエネルギ方程式を以下のように定義する。
そして、線形回帰により上述の各エネルギ方程式の最小値を求め、誤差の中間変数を得る。
これらを用いて、標準輻輳誤差を以下のように計算する。
制御部30は、誤差算出部20により算出される回転誤差及びズーム誤差等の標準輻輳誤差を用いて、例えば撮像部10の回転角及びズーム倍率を制御するものである。制御部30では、誤差を積分、微分、比例等の演算を用いて、一対の撮像部10の各自由度の操作量を算出する。即ちこれは、撮像部のPID制御である。両眼の相対運動の他に、視標の追跡等の運動も必要の場合は、上記相対運動制御と同時に、共役運動も取り入れたスムーズパーシュート運動(視標追従)や、サッカー度運動(視線の切り替え)等の制御を行えば良い。
ここで、一対の撮像部10がデジタル的な自由度を持つ場合、即ち、撮像部10が固定カメラであり、画像取り込みのみしか行わない場合には、上述で決定された自由度の目標値に従って、画像処理(画像変換)により疑似的に左右の画像をそれぞれPan、Tilt、Rollしたり、Scaleを制御したりすることで、誤差を補正することが可能となる。即ち、画像マッピングにより仮想的にカメラの回転、ズームを実現する。また、回転角及びズーム倍率の制御には、アフィン変換を用いれば良い。勿論、一対の画像についても、それぞれこのような手法で修正することが可能である。
また、一対の撮像部10が両眼アクティブカメラのようなアナログ的な自由度を持つ場合には、両眼アクティブカメラのモータシステムを駆動制御すれば良い。即ち、上述で決定された自由度の目標値に従って、一対の撮像部10のそれぞれを駆動するアクチュエータにより回転角及びズーム倍率を制御すれば良い。具体的には、アクチュエータのPan、Tilt、Rollを制御すると共に、ズーム機能を有するシステムの場合にはズームの目標値を基にズーム倍率の制御を行えば良い。より具体的には、撮像部10への入力として、上述の8つの位置値を制御部30から入力し、左右Zoom位置値を用いてズーム機構を制御すると共に、他の位置値を用いてRoll、Tilt、Panの回転機構を制御すれば良い。アクチュエータは3つのモータにより3自由度を有するように構成されれば良い。また、ズーム倍率を制御することで、水平画角を制御することも可能となる。
また、アナログ的な自由度を持つ場合には、画像マッピングを行わず、左右の撮像部により撮像された2枚の画像をそのまま用いて特徴マッチングを行っても良い。また、誤差の計算結果を直接制御量として目標値を計算し、誤差を補正するように制御しても良い。
このように、本発明の制御システムでは、基礎行列といった各撮像部の相対位置や向きを用いる必要が無く、撮像した画像のみでキャリブレーションが可能である。このため、計算量も少ないので、リアルタイムに補正が可能となり、動画のような連続画像であってもキャリブレーションが可能となる。
但し、一対の撮像部10の輻輳角をそれぞれ計測し、これを誤差算出に用いても良い。上述の例では輻輳角は計測せずに補正制御するものであったが、輻輳角を計測することで、輻輳角のずれを修正しても良い。例えば、輻輳角は画像処理やアクチュエータのモータのエンコーダを用いて計測すれば良い。
さらに、輻輳角が求められれば、これを用いてアフィン変換を行い、両画像平面が平行になるように制御することも可能となる。輻輳角が分かると、標準輻輳モデルに矯正された撮像部の撮像素子平面を、さらに基線に平行にする補正が可能となるため、一対の撮像部の各画像平面が平行になるような画像を生成することが可能となる。これは、例えば3D表示装置に表示するための画像として理想的な画像となる。
ここで、角度に関する誤差はすべて絶対誤差なので、複数の誤差が生じた場合には、一度に標準輻輳にする場合には、オイラ角による計算が必要になる。
以下、上述のような本発明のステレオ撮像装置の制御システムを導入したステレオ撮像システムについて、より具体的に説明する。図3は、相対位置が固定された一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の概略ブロック図である。相対位置が固定された一対の撮像部10は、デジタル的な自由度を持つもの、即ち、撮像された連続画像を画像処理により、回転、平行移動やゆがみ補正等を施すことにより、ヨー、ピッチ、ロール及びズーム倍率を制御可能なものである。
撮像部10により撮像された連続画像は、3D処理ユニット40に入力される。3D処理ユニット40では、事前に画像処理から得られた標準輻輳誤差を用いて、撮像部10から入力される画像をアフィン変換することにより修正し、あたかも一対の撮像部10の視軸が補正されたかのような画像を出力するものである。これにより、標準輻輳誤差が補正された3D画像が出力可能となる。
3D制御ユニット40は、画角測量部41と、マップ生成部42と、画像マッピング部43とを具備するものである。画角測量部41は、事前に画角測量を行い生水平画角を生成するものである。マップ生成部42は、撮像部10からの画像の解像度と画角測量部41からの生水平画角とを入力し、上述の8つの位置値を用いて、補正した水平画角と画像変換マップとを生成する。画像マッピング部43は、撮像部10からの画像の生画像とマップ生成部42からの画像変換マップとを入力し、両眼補正された3D画像を出力するものである。
ここで、図3における、各部の符号を以下のように定義する。
・両眼生画像(撮像部10による左右生画像):左目生画像IL0、右目生画像IR0
・生水平画角:左目生画像の水平画角αL0、右目生画像の水平画角αR0(単位:degree)
・両眼補正した画像:左目画像I、右目画像I
・補正した水平画角:左目画像の水平画角α、右目画像の水平画角α(単位:degree)
・解像度: 画像の幅r、画像の高さr(単位:ピクセル)
・画像変換マップ:左目画像のu軸座標マップMuL、左目画像のv軸座標マップMvL、右目画像のu軸座標マップMuR、右目画像のv軸座標マップMvR
ここで、マップ生成部42において、以下のようにマップを生成する。なお、右目のマップ生成と左目のマップ生成は同じ数式により生成可能であるため、以下の説明では左目のマップ生成の数式だけを示す。まず、以下の式により水平画角を算出する。
ここで、マップは以下のように定義される。
なお、マップの各エレメントの値は以下のように表される。
そして、画像マッピングをするにあたり、生画像と補正した画像は以下のように定義される。
ここで、各エレメントは、画像がモノクロの場合にはスカラーであり、画像がカラーの場合にはベクトルである。
そして、画像マッピングは以下の式を用いて行う。
なお、サブピクセル精度の座標における値は2次元補間等で補完すれば良い。
次に、アナログ的な自由度を持つ撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合について説明する。図4は、3自由度を有する一対の撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の概略ブロック図である。3自由度を有する一対の撮像部10は、アナログ的な自由度を持つもの、即ち、撮像部自体がアクチュエータ等により駆動され、ヨー、ピッチ、ロール及びズーム倍率を制御可能なものである。
撮像部10により撮像された連続画像は、誤差算出部20に入力され、誤差算出部20により標準輻輳誤差が算出される。標準輻輳誤差は、上述の数8を用いて算出すれば良い。この標準輻輳誤差を用いて、手動調整によりアクチュエータを調整し、一対の撮像部10の視軸が矯正された画像を出力する。
図5は、アナログ的な自由度を持つ撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合の他の例の概略ブロック図である。この例では、誤差算出部20により算出される標準輻輳誤差を、眼球協調運動制御モデルを内蔵したモータ制御ユニット50に入力する。モータ制御ユニット50により、眼球協調運動モデルに基づいた制御を行い、一対の撮像部10の視軸が矯正された画像を出力する。なお、眼球協調運動については、本願発明者の一人と同一の発明者による特開2006−329747号公報等、種々の運動制御システムが適用可能である。
図6は、アナログ的な自由度を持つ撮像部を用いたステレオ撮像装置に本発明の制御システムを導入した場合のさらに他の例の概略ブロック図である。この例では、誤差算出部20により算出される標準輻輳誤差を用いてモータ制御ユニット50により眼球協調運動モデルに基づいた制御を行うと共に、上述と同様の構成の3D処理ユニット40により撮像部10から入力される画像をアフィン変換することにより修正し、あたかも一対の撮像部10の視軸が矯正されたかのような画像を出力するものである。このように構成することで、アナログ的な自由度による標準輻輳誤差矯正を行いつつ、デジタル的な自由度による標準輻輳誤差矯正を行うことが可能となる。
なお、本発明のステレオ撮像装置の制御システムは、上述の図示例にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
10 撮像部
20 誤差算出部
30 制御部
40 3D処理ユニット
50 モータ制御ユニット

Claims (8)

  1. ステレオ撮像装置の制御システムであって、該制御システムは、
    ヨー、ピッチ、ロール及びズーム倍率が少なくとも制御可能なデジタル的又はアナログ的な自由度を持ち、撮像素子により連続画像を撮像可能な一対の撮像部と
    前記一対の撮像部により撮像される各画像を用いて、各撮像部の所定の標準輻輳モデルとの差異から各撮像部の回転誤差及びズーム誤差を算出する誤差算出部と、
    前記誤差算出部により算出される回転誤差及びズーム誤差を用いて、撮像部の回転角及びズーム比率を制御する制御部と、
    を具備することを特徴とするステレオ撮像装置の制御システム。
  2. 請求項1に記載のステレオ撮像装置の制御システムにおいて、標準輻輳モデルは、
    1)一対の撮像部の基線と、各撮像部の光軸と、各撮像部の撮像素子のu軸とが同一平面内に存在する
    2)各撮像部の光軸交点が撮像部前面に位置する
    3)各撮像部の撮像素子の中心に映る対象物はゼロ視差である
    ことを特徴とするステレオ撮像装置の制御システム。
  3. 請求項1又は請求項2に記載のステレオ撮像装置の制御システムにおいて、各撮像部はピンホールモデルに変換されることを特徴とするステレオ撮像装置の制御システム。
  4. 請求項1又は請求項2に記載のステレオ撮像装置の制御システムにおいて、各撮像部がデジタル的な自由度を持つ場合、制御部はアフィン変換を用いて回転角及びズーム倍率を制御することを特徴とするステレオ撮像装置の制御システム。
  5. 請求項1又は請求項2に記載のステレオ撮像装置の制御システムにおいて、各撮像部がアナログ的な自由度を持つ場合、制御部は各撮像部を駆動するアクチュエータにより回転角及びズーム倍率を制御することを特徴とするステレオ撮像装置の制御システム。
  6. 請求項1又は請求項2に記載のステレオ撮像装置の制御システムにおいて、前記誤差算出部は、各撮像部からの画像のそれぞれの特徴点を抽出する特徴点抽出部とそれぞれの特徴点をマッチングする特徴点マッチング部とを具備することを特徴とするステレオ撮像装置の制御システム。
  7. 請求項1乃至請求項6の何れかに記載のステレオ撮像装置の制御システムであって、さらに、一対の撮像部の輻輳角を計測する輻輳角計測部を有することを特徴とするステレオ撮像装置の制御システム。
  8. 請求項7に記載のステレオ撮像装置の制御システムにおいて、前記制御部は、輻輳角計測部により計測される輻輳角を用いて、撮像部により撮像される各画像平面が平行になるようにアフィン変換を行うことを特徴とするステレオ撮像装置の制御システム。
JP2010159948A 2010-07-14 2010-07-14 ステレオ撮像装置の制御システム Active JP4865065B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010159948A JP4865065B1 (ja) 2010-07-14 2010-07-14 ステレオ撮像装置の制御システム
US13/528,771 US9052585B2 (en) 2010-07-14 2012-06-20 Control system for stereo imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010159948A JP4865065B1 (ja) 2010-07-14 2010-07-14 ステレオ撮像装置の制御システム

Publications (2)

Publication Number Publication Date
JP4865065B1 JP4865065B1 (ja) 2012-02-01
JP2012023561A true JP2012023561A (ja) 2012-02-02

Family

ID=45777450

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010159948A Active JP4865065B1 (ja) 2010-07-14 2010-07-14 ステレオ撮像装置の制御システム

Country Status (2)

Country Link
US (1) US9052585B2 (ja)
JP (1) JP4865065B1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103248910A (zh) * 2012-02-09 2013-08-14 三星电子株式会社 三维成像系统及其图像再现方法
WO2014055554A1 (en) * 2012-10-05 2014-04-10 Qualcomm Incorporated Method and apparatus for calibrating an imaging device
US9052585B2 (en) 2010-07-14 2015-06-09 Bi2-Vision Co. Control system for stereo imaging device
WO2016051871A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 多眼撮像装置及びその製造方法、情報端末装置
WO2016203988A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2012023168A1 (ja) * 2010-08-19 2013-10-28 パナソニック株式会社 立体映像撮像装置および立体映像撮像方法
KR20130035422A (ko) * 2011-09-30 2013-04-09 삼성전기주식회사 카메라 모듈의 보정 장치

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10149445A (ja) * 1996-11-19 1998-06-02 Image Joho Kagaku Kenkyusho 身体動作解析可視化装置
JP2001128195A (ja) * 1999-10-29 2001-05-11 Atr Ningen Joho Tsushin Kenkyusho:Kk 立体画像補正装置、立体画像表示装置および立体画像補正処理プログラムを記録した記録媒体
JP2006279239A (ja) * 2005-03-28 2006-10-12 Toyota Motor Corp ステレオカメラの補正方法、ステレオカメラ補正装置
JP2008045983A (ja) * 2006-08-15 2008-02-28 Fujifilm Corp ステレオカメラの調整装置
JP2009239485A (ja) * 2008-03-26 2009-10-15 Fuji Heavy Ind Ltd 車両用環境認識装置および先行車追従制御システム
JP2010004465A (ja) * 2008-06-23 2010-01-07 Fujinon Corp 立体画像撮影システム
JP2010011055A (ja) * 2008-06-26 2010-01-14 Olympus Corp 立体視画像表示装置、立体視画像表示方法
JP2010122976A (ja) * 2008-11-20 2010-06-03 Nippon Hoso Kyokai <Nhk> 画像校正評価装置及び画像校正評価プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4727471A (en) * 1985-08-29 1988-02-23 The Board Of Governors For Higher Education, State Of Rhode Island And Providence Miniature lightweight digital camera for robotic vision system applications
CN1219397C (zh) * 2002-10-22 2005-09-14 张晓林 仿生型自动视觉和视线控制系统及方法
JP2004354257A (ja) 2003-05-29 2004-12-16 Olympus Corp キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム
JP2006329747A (ja) 2005-05-25 2006-12-07 Tokyo Institute Of Technology 画像撮影装置
JP4814669B2 (ja) 2006-03-28 2011-11-16 株式会社デンソーアイティーラボラトリ 3次元座標取得装置
JP5171196B2 (ja) 2007-10-09 2013-03-27 株式会社エヌ・ティ・ティ・ドコモ 無線通信システム、無線通信方法及び基地局
US20100097444A1 (en) * 2008-10-16 2010-04-22 Peter Lablans Camera System for Creating an Image From a Plurality of Images
AT506821A2 (de) 2009-06-09 2009-12-15 Fraenkel Andres Transportable gegenstromeinrichtung
JP4865065B1 (ja) 2010-07-14 2012-02-01 Bi2−Vision株式会社 ステレオ撮像装置の制御システム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10149445A (ja) * 1996-11-19 1998-06-02 Image Joho Kagaku Kenkyusho 身体動作解析可視化装置
JP2001128195A (ja) * 1999-10-29 2001-05-11 Atr Ningen Joho Tsushin Kenkyusho:Kk 立体画像補正装置、立体画像表示装置および立体画像補正処理プログラムを記録した記録媒体
JP2006279239A (ja) * 2005-03-28 2006-10-12 Toyota Motor Corp ステレオカメラの補正方法、ステレオカメラ補正装置
JP2008045983A (ja) * 2006-08-15 2008-02-28 Fujifilm Corp ステレオカメラの調整装置
JP2009239485A (ja) * 2008-03-26 2009-10-15 Fuji Heavy Ind Ltd 車両用環境認識装置および先行車追従制御システム
JP2010004465A (ja) * 2008-06-23 2010-01-07 Fujinon Corp 立体画像撮影システム
JP2010011055A (ja) * 2008-06-26 2010-01-14 Olympus Corp 立体視画像表示装置、立体視画像表示方法
JP2010122976A (ja) * 2008-11-20 2010-06-03 Nippon Hoso Kyokai <Nhk> 画像校正評価装置及び画像校正評価プログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9052585B2 (en) 2010-07-14 2015-06-09 Bi2-Vision Co. Control system for stereo imaging device
CN103248910A (zh) * 2012-02-09 2013-08-14 三星电子株式会社 三维成像系统及其图像再现方法
WO2014055554A1 (en) * 2012-10-05 2014-04-10 Qualcomm Incorporated Method and apparatus for calibrating an imaging device
US9275459B2 (en) 2012-10-05 2016-03-01 Qualcomm Incorporated Method and apparatus for calibrating an imaging device
US10104364B2 (en) 2012-10-05 2018-10-16 Qualcomm Incorporated Method and apparatus for bus sharing by multiple imaging sensors
WO2016051871A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 多眼撮像装置及びその製造方法、情報端末装置
WO2016203988A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法
JPWO2016203988A1 (ja) * 2015-06-17 2018-04-05 ソニー株式会社 画像処理装置および画像処理方法
US10453219B2 (en) 2015-06-17 2019-10-22 Sony Corporation Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP4865065B1 (ja) 2012-02-01
US9052585B2 (en) 2015-06-09
US20120257023A1 (en) 2012-10-11

Similar Documents

Publication Publication Date Title
JP4865065B1 (ja) ステレオ撮像装置の制御システム
CN110728715B (zh) 一种智能巡检机器人摄像机角度自适应调整方法
US6847392B1 (en) Three-dimensional structure estimation apparatus
CN102842117B (zh) 显微视觉系统中运动误差矫正方法
TWI520576B (zh) 將二維影像轉換爲三維影像的方法與系統及電腦可讀媒體
CN103971375B (zh) 一种基于图像拼接的全景凝视相机空间标定方法
JP2022500956A (ja) 可動視覚システムの立体キャリブレーション方法
JP2011086111A (ja) 撮像装置校正方法及び画像合成装置
CN102325262B (zh) 立体摄像装置控制系统
CN113724337B (zh) 一种无需依赖云台角度的相机动态外参标定方法及装置
Patel et al. Distance measurement system using binocular stereo vision approach
JP2022500793A (ja) 多自由度可動視覚システムのキャリブレーション方法
CN113048888A (zh) 基于双目视觉的远距离三维位移测量方法及系统
EP3833018B1 (en) Image processing method and apparatus for stereoscopic images of nearby object in binocular camera system of parallel axis type
KR101634283B1 (ko) 단일영상에서의 3차원 카메라교정을 통한 3차원 공간모델링 형성제어장치 및 방법
WO2024183686A1 (zh) 一种变基线交相角摄影的数字影像立体显微系统及方法
JP2012198031A (ja) 画像補正方法及び画像補正装置
CN113763480B (zh) 一种多镜头全景摄像机组合标定方法
BR112021008558A2 (pt) aparelho, método de estimativa de disparidade, e produto de programa de computador
US20210183092A1 (en) Measuring apparatus, measuring method and microscope system
CN108010089B (zh) 一种基于双目可运动摄像机的高分辨率图像获取方法
US20140168381A1 (en) Stereoscopic image signal processing device and stereoscopic image capture device
JP6734994B2 (ja) ステレオ計測装置及びシステム
CN108616744B (zh) 一种仿生双眼视觉校准系统及校准方法
JP7033294B2 (ja) 撮像システム、撮像方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111109

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4865065

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250