JP4915859B2 - 物体の距離導出装置 - Google Patents

物体の距離導出装置 Download PDF

Info

Publication number
JP4915859B2
JP4915859B2 JP2007079880A JP2007079880A JP4915859B2 JP 4915859 B2 JP4915859 B2 JP 4915859B2 JP 2007079880 A JP2007079880 A JP 2007079880A JP 2007079880 A JP2007079880 A JP 2007079880A JP 4915859 B2 JP4915859 B2 JP 4915859B2
Authority
JP
Japan
Prior art keywords
distance
image
evaluation value
eye
frequency component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007079880A
Other languages
English (en)
Other versions
JP2008241355A (ja
Inventor
純 谷田
孝 豊田
良純 中尾
康生 政木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Funai Electric Co Ltd
Osaka University NUC
Original Assignee
Funai Electric Co Ltd
Osaka University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Funai Electric Co Ltd, Osaka University NUC filed Critical Funai Electric Co Ltd
Priority to JP2007079880A priority Critical patent/JP4915859B2/ja
Publication of JP2008241355A publication Critical patent/JP2008241355A/ja
Priority to US12/261,706 priority patent/US20090060281A1/en
Application granted granted Critical
Publication of JP4915859B2 publication Critical patent/JP4915859B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、物体の距離導出装置に関し、詳しくは、撮像手段によって撮像された画像に基づいて物体の撮像手段からの距離を導出する物体の距離導出装置に関する。
複数のマイクロレンズを有する複眼式カメラを用いて取得した複数の個眼像から単一の画像を画像処理によって再構成する装置が知られている(例えば、特許文献1参照)。複眼式カメラは、薄型に構成できる上に容易に明るい像を得ることができるという長所を有している反面、撮像された各個眼像は解像度が低いという欠点を有していることから、複数の個眼像を単一の画像に再構成する画像処理工程において解像度を高めるための種々の手法が開発されている。
上記特許文献1には、複数の個眼像を解像度の高い単一の画像に再構成する手法の1つである画素再配置法が開示されている。ここで、特許文献1に記載された画像構成装置について、図12、13を参照して簡単に説明する。特許文献1に記載された画像構成装置100は、図12に示されるように、複眼式カメラ101と、複眼式カメラ101によって撮像された画像を処理するプロセッサ102から構成され、プロセッサ102は、図13に示されるように、複眼式カメラ101によって撮像された各個眼像Q1、Q2、Q3の画素をシフト量(各個眼像間の相対位置のずれ)に応じて少しずつずらして同一領域M上に再配置する。画像構成装置100は、各個眼像Q1、Q2、Q3の画素を同一領域上に再配置するに際してシフト量(各個眼像間の相対位置のずれ)を、各個眼像Q1、Q2、Q3間の相関関数に基づいて算出している。
また、複数のイメージセンサによって撮像される像における視差に基づいて三角測量の原理により被写体までの距離を導出する、対象の存在範囲の検出方法(例えば、特許文献2参照)や、被写体に対して移動するカメラによって撮像される複数の画像に基づいて被写体までの距離分布を導出し、導出した距離分布に基づいて被写体の2次元画像を生成する3次元形状抽出装置(例えば、特許文献3参照)が知られている。
さらに、CCD撮像素子によって撮像された画像における画像領域を、距離センサによって測定された距離分布に基づいて距離ごとに分離し、所定の合成画像を作成する撮影装置(例えば、特許文献4参照)が知られている。
特開2005−167484号公報 特許第3575178号公報 特開平9−187038号公報 特開2001−167276号公報
上記のように、撮像された3次元物体の画像に画像処理(ディジタル処理)を施して所定の2次元画像に再構成する過程において、物体と撮像手段との距離情報が必要とされる場合があり、距離情報を取得するための手法は、所要時間が短く、付随したパラメータ等の計算が不要、又は簡単であり、かつ取得される距離情報が正確であることが望ましい。
ところが、上記特許文献2、3に記載の方法、及び装置において採用されている三角測量の原理に基づいて距離を算出する手法では、視点の移動量等のパラメータを予め算出しておかなければならず、特に特許文献3に記載の装置では、カメラの移動に伴ってシャッタを複数回切ることによって視点の異なる複数枚の画像を取得するので、視点の移動量を撮像の都度、算出しなければならないとか、物体と撮像手段間の距離を導出するための時間が長くなるといった問題がある。
特許文献1に記載された画像構成装置は、複眼式カメラを用いているので、視点の異なる複数枚の画像を容易に取得することはできるが、距離導出の手法としてマイクロレンズアレイのレンズ間隔、焦点距離等の複数のパラメータを用いて算出する方法しか示し得ていない。
そこで、本発明は、撮像手段によって撮像された画像に基づいて物体の撮像手段からの距離を導出する物体の距離導出装置において、距離導出に要する時間が短く、計算工程が簡素であって正確に物体と撮像手段間の距離を導出することができる物体の距離導出装置を提供することを目的とする。
上記目的を達成するために、請求項1の発明は、物体の撮像手段と、前記撮像手段によって撮像される画像に基づいて物体の前記撮像手段からの距離を算出する距離算出手段と、を備える物体の距離導出装置において、前記撮像手段は、n(nは2以上の整数)個の個眼像を撮像する撮像光学系を有し、前記距離算出手段は、物体と前記撮像手段との距離を仮に設定する距離設定手段と、前記各個眼像を構成する画素を前記距離設定手段によって設定された仮距離に再配置して1つの再構成画像を作成する再構成画像作成手段と、前記各個眼像を構成する画素を前記距離設定手段によって設定された仮距離に、個眼像ごとに逆投影してn個の逆投影画像を作成する逆投影画像作成手段と、前記再構成画像作成手段によって作成された再構成画像における所定のxy座標位置の画素と、前記逆投影画像作成手段によって作成された逆投影画像における前記所定のxy座標位置の画素との偏差を、1つの再構成画像に対するn個の逆投影画像ごとに算出して合計し、前記仮距離における各xy座標位置の画素について評価値を算出する評価値算出手段と、前記距離設定手段によって設定される仮距離を変更して前記再構成画像作成手段による再構成画像の作成と、前記逆投影画像作成手段による逆投影画像の作成と、前記評価値算出手段による評価値の算出を繰返し実行させる繰返し手段と、前記繰返し手段による繰返し実行の結果、前記評価値が最小になるときの仮距離を各xy座標位置における画素についての前記撮像手段からの距離として決定する距離決定手段と、を備えることを特徴とする。
請求項2の発明は、請求項1に記載の発明において、前記距離算出手段は、前記評価値算出手段によって算出される仮距離における各xy座標位置の画素についての評価値を平滑化する平滑化手段を、さらに備え、前記距離決定手段は、前記平滑化手段によって平滑化された評価値に基づいて各xy座標位置の画素についての前記撮像手段からの導出距離を決定することを特徴とする。
請求項3の発明は、請求項1、又は請求項2に記載の発明において、前記再構成画像作成手段は、前記各個眼像から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像から1つの高周波数成分再構成画像を作成し、前記逆投影画像作成手段は、前記各個眼像から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像からn個の高周波数成分逆投影画像を作成し、前記評価値算出手段は、前記高周波数成分再構成画像及び前記高周波数成分逆投影画像に基づいて評価値を算出することを特徴とする。
請求項1の発明によれば、撮像光学系によってn個の個眼像が得られ、距離算出手段が、距離設定手段によって設定した物体、撮像手段間の仮の距離に基づいて各個眼像から作成した1つの再構成画像と、各個眼像からそれぞれ作成したn個の逆投影画像との画素ごとにおける偏差を算出し、算出した偏差の合計を各画素についての評価値とした上で、当該評価値が最小になる仮の距離を、各画素についての撮像手段からの距離として決定するので、物体と撮像手段間の距離を、短時間のうちに正確に導出することができる。
請求項2の発明によれば、各仮距離における画素ごとの評価値を平滑化するので、xy平面における評価値の分布が滑らかになり、物体と撮像手段間の距離をさらに正確に導出することができる。
請求項3の発明によれば、各個眼像から抽出した高周波数成分に基づいて作成した1つの高周波数成分再構成画像と、同じく各個眼像から抽出した高周波数成分に基づいて作成したn個の高周波数成分逆投影画像とに基づいて評価値を算出するので、個眼像における低周波ノイズが除去されて、物体と撮像手段間の距離をさらに正確に導出することができる。
(第1の実施形態)
以下、本発明の第1の実施形態に係る物体の距離導出装置について、図1乃至図11を参照して説明する。本実施形態の物体の距離導出装置1は、図1に示されるように、複眼撮像装置2と、複眼撮像装置2によって撮像された画像情報をAD変換器3を介して取込み、取込んだディジタルの画像情報に基づいて物体と複眼撮像装置2との間の距離を導出するマイクロプロセッサ4を主体とする距離算出装置5を備える。複眼撮像装置2の前方には、大きさの異なる2個の球状物体Sb1、Sb2と、1個の立方体Scが被撮像物体として載置されている。
複眼撮像装置2は、同一平面に3行3列のアレイ状に配置された9個(本実施形態では、9個としているが、実際には多い方が望ましい)の光学レンズLからなる光学レンズアレイ6と、各光学レンズLの焦点位置にそれぞれ形成される9個の個眼像k1、k2・・k9を撮像するCMOS(Complementary Metal Oxide Semiconductor)イメージセンサから構成された固体撮像素子7と、を備える(図2(a)参照)。
ここで、光学レンズアレイ6と、光学レンズアレイ6の前方に置かれた物体と、各光学レンズLによって形成される固体撮像素子7上の個眼像k1、k2・・k9との位置関係等について、図2(a)、(b)を参照して説明する。物体は、説明の都合上2次元平面に倒立した文字「A」が描かれた板状のもの(以下、物体Aという)とし、光学レンズアレイ6は、図2(a)におけるXY平面に平行に配置され、固体撮像素子7は光学レンズアレイ6に平行に配置されている。
物体Aからの光が、9個の光学レンズLによって固体撮像素子7上にそれぞれ集光されて3行3列の9個の個眼像k1、k2・・k9を形成する。いま、物体Aと光学レンズアレイ6との距離をD、光学レンズアレイ6と固体撮像素子7との距離(焦点距離)をf、物体Aの縦長(大きさ)をH、各個眼像k1、k2・・k9における縦長(大きさ)をhとすると、h=H×f/Dが成立する。実際の複眼撮像装置2では、焦点距離fが極めて小さな値になり、個眼像の大きさhも小さな値になる。
また、各個眼像k1、k2・・k9は、互いに視差を有する画像になっている。例えば、中央の光学レンズLによって形成される個眼像k5と、中央の光学レンズLに対して左右に位置する光学レンズLによって形成される個眼像k4、k6とは視点が左右に、光学レンズL間の距離dずつずれるために、図2(b)に示されるように、互いに左右方向の視差角θを有することになる。tanθ=d/Dである。
図1に示される距離算出装置5は、マイクロプロセッサ4と、マイクロプロセッサ4の動作プログラム等を格納したROM8と、画像データ等を一時的に記憶するRAM9と、大規模容量のメモリ11とを備え、マイクロプロセッサ4は、複眼撮像装置2から取込んだ各個眼像k1、k2・・k9の画像情報を距離導出プログラムに基づいて処理し、物体と複眼撮像装置2間の距離を算出する。
次に、マイクロプロセッサ4が実行する距離算出手順について、図3のフローチャートを参照して説明する。いま、マイクロプロセッサ4は、固体撮像素子7によって撮像された9個の個眼像k1、k2・・k9をディジタルの画像情報として取込み、メモリ11等に記憶した状態であり、光学レンズアレイ6と物体間の距離Dが未知であるとする。
マイクロプロセッサ4は、まず、予め設定された複数の仮距離Dnの中から最初の仮距離D1を読出してきて設定する(S1)。仮距離Dnは、光学レンズアレイ6と物体間の距離Dの候補であって、ROM8、又はメモリ11内に離散した値として予め多数記憶されて用意されるが、実際には遠方にある物体ほど視差角θが小さくなって個眼像間のずれに基づく距離判別が困難になるので、光学レンズアレイ6に近い(近距離)領域では比較的短い間隔に設定され、光学レンズアレイ6から遠い(遠距離)領域では比較的長い間隔に設定される。例えば、仮距離Dnは、指数関数(u=a)で定義される離散的なuの値であってもよい。
次に、マイクロプロセッサ4は、設定した仮距離D1に基づいて、記憶している9個の個眼像k1、k2・・k9から1つの再構成画像を作成する(S2)。この再構成画像作成工程は、特許文献1に記載された画素再配置法と同等の手法により行うことができる。再構成画像作成工程について、図4及び図5を参照して説明する。マイクロプロセッサ4は、各個眼像k1、k2・・k9のxy座標における同一座標位置の画素gごとに、当該画素gの値を光学レンズアレイ6から仮距離D1の位置にある平面に投影するようにして再配置する(図4参照)。以下の説明では、各個眼像k1、k2・・k9ごとの座標は、xy座標として示し、2次元平面XYと区別する。
具体的には、各個眼像k1、k2・・k9の座標(x=1、y=1)の位置の画素g(1、1)が、それぞれ対応する光学レンズLの集光路を逆に辿って仮距離D1の位置にある平面に配置され、次に座標(x=2、y=1)の位置の画素g(2、1)が、それぞれ対応する光学レンズLの集光路を逆に辿って仮距離D1の位置にある平面に配置され、・・という工程を繰返して1つの再構成画像Ad1を作成する。従って、作成された再構成画像Ad1における画素g(x、y)に相当する領域G(x、y)は、図5に示されるように、仮の視差角θ1(tanθ1=d/D1)が反映したずれ量だけずらされて配置された各個眼像k1、k2・・k9からの画素g(x、y)によって構成される。上記のようにして作成された1つの再構成画像Ad1は、メモリ11等に記憶される。
なお、図4において、未知の距離Dにある平面に再構成される場合の再構成画像Adが点線で示される。ここで、仮距離D1が未知の距離Dとずれている場合には、再構成画像Ad1は、再構成画像Adに比べて精細度が劣り、仮距離D1が未知の距離Dに等しい場合には、高い精細度の再構成画像Ad1が得られる。
次に、マイクロプロセッサ4は、仮距離D1に基づいて、記憶している9個の個眼像k1、k2・・k9から9個の逆投影画像を作成する(S3)。この逆投影画像作成工程について、図6及び図7を参照して説明する。代表的に中央の個眼像k5について逆投影画像を作成する工程について説明する。マイクロプロセッサ4は、個眼像k5の画素gごとに、当該画素gの値を光学レンズアレイ6から仮距離D1の位置にある平面に投影するようにして作成する(図6)。
具体的には、図7に示されるように、中央の個眼像k5の座標(x=1、y=1)の画素g(1、1)が、中央の光学レンズLの集光路を逆に辿って仮距離D1の位置にある平面に拡大して配置され、次に座標(x=2、y=1)の画素g(2、1)が、中央の光学レンズLの集光路を逆に辿って仮距離D1の位置にある平面に拡大して配置され、・・という工程を繰返して1つの逆投影画像Ard1を作成する。従って、作成された逆投影画像Ard1における画素g(x、y)に相当する領域G(x、y)は、1つの画素g(x、y)から構成される。そして、マイクロプロセッサ4は、上記の逆投影画像作成工程を、各個眼像k1、k2・・k9について繰返し、9個の逆投影画像Ard1を作成する。作成された9個の逆投影画像Ard1は、メモリ11等に記憶される。
次に、マイクロプロセッサ4は、作成した1つの再構成画像Ad1と、9個の逆投影画像Ard1と、に基づいてxy座標の画素ごとに評価値を算出する(S4)。具体的には、評価値SSD(x、y)は、次の式によって与えられる。
この式において、iは個眼像の番号、Ri(x、y)は、i個目の個眼像における逆投影画像Ard1におけるxy座標位置の画素Gの値であり、B(x、y)は、再構成画像Ad1におけるxy座標位置の画素Gの値である。nは、個眼像の個数であり、本実施形態では9である。
具体的には、マイクロプロセッサ4は、xy座標の各画素gについて、1個目の個眼像k1に関する逆投影画像Ard1と再構成画像Ad1との差を二乗して1個目の個眼像k1の逆投影画像Ard1についての偏差を算出し、同様にして2個目の個眼像k2の逆投影画像Ard1についての偏差を算出し、・・同様にして9個目の個眼像k9の逆投影画像Ard1についての偏差を算出し、最後に9個の偏差を合計して評価値SSD(x、y)を算出する。算出された評価値SSD(x、y)は、RAM9等に記憶される。
次に、マイクロプロセッサ4は、S1において設定した仮距離Dnが全て終了したか否かを判断し(S5)、全て終了していない場合(S5でNO)は、再びS1に戻って仮距離Dnを更新する(S1)。具体的には、仮距離D1の設定を仮距離D2へ更新する。仮距離D1より仮距離D2の方が大きい場合には、光学レンズアレイ6からより遠ざかった位置に1つの再構成画像Ad2が作成され(S2)、9個の逆投影画像Ard2が作成され(S3)、評価値SSD(x、y)が算出される。
以上の工程を繰返すことによって、メモリ11内には、仮距離Dnの個数分の評価値SSD(x、y)が評価値群として記憶される。メモリ11内に記憶された評価値群が、図8に模式的に示される。ここで、メモリ11は、図8に示される各xy座標位置対応した評価値SSDを記憶している。
そして、マイクロプロセッサ4は、S5において、全ての仮距離Dnについての評価値SSD(x、y)の算出が終了したと判断したときに(S5でYES)、各xy座標位置の画素g(x、y)についての評価値SSD(x、y)のうち、どの仮距離Dnにおける評価値SSD(x、y)が最小であるかを判定し、評価値SSD(x、y)が最小になる仮距離Dnを各xy座標位置の画素gについての距離Dであるとして決定する(S6)。
換言すると、マイクロプロセッサ4は、図8に示された評価値群の中から、xy座標の各画素gについて、z方向に沿って評価値SSDを検索することによって、評価値SSDが最小になる仮距離Dnを検出する。
最後に、マイクロプロセッサ4は、S6において決定したxy座標の各画素gに関する距離Dを画面の濃淡に変換した距離画像を作成する(S7)。作成される距離画像の例は、後述する。また、作成された距離画像は、物体と撮像装置間の距離Dを正確に反映した画像であるので、特に物体が立体物である場合に、当該距離画像を用いて、複数の個眼像k1、k2・・k9から、全ての画素において焦点が合った高精細な画像を容易に作成することができる。
図9は、被撮像物体が、図1に示されるように、大きさの異なる2個の球状物体Sb1、Sb2と、1個の立方体Scである場合の、各個眼像k1、k2、・・k9を示す。図10は、複眼撮像装置2からの距離が、それぞれ球状物体Sb1が53cm、球状物体Sb2が23cm、立方体Scが3cmである場合において、仮距離Dnが23cmであるときの再構成画像Adnを示し、図11は、上記S7で導出された距離画像PDを示す。
図10に示された再構成画像Adnは、仮距離Dnが球状物体Sb2の複眼撮像装置2からの距離(23cm)と同等の位置に設定されているので、球状物体Sb2は、高い精細度で再構成されているが、球状物体Sb1と立方体Scは、精細度が低い。
また、図11に示された距離画像PDでは、遠方にある球状物体Sb1は、濃色に表され、中間の位置にある球状物体Sb2は、淡色に表され、極めて近い位置にある立方体Scは、白色に表されている。
(第2の実施形態)
第2の実施形態は、第1の実施形態とほぼ同一であり、異なるところは、図3のフローチャートにおける評価値算出工程S4において、算出した評価値SSD(x、y)を平滑化する点である。具体的には、マイクロプロセッサ4は、S4において算出した評価値SSD(x、y)に対して、公知の平滑化フィルタを適用して平滑化する。
算出した評価値SSD(x、y)が平滑化されることによって、xy平面における評価値SSD(x、y)の分布が滑らかになり(図8参照)、距離決定工程S6において適正ではない仮距離Dnを距離Dとして決定することによる距離Dの誤導出を防止することができる。なお、評価値SSD(x、y)の平滑化は、距離決定工程S6の直前に、仮距離D1〜Dnについての全ての評価値SSD(x、y)に対して一括して実行するようにしてもよい。
(第3の実施形態)
第3の実施形態は、第1の実施形態とほぼ同一であり、異なるところは、図3のフローチャートにおける再構成画像の作成工程S2において、マイクロプロセッサ4が、各個眼像k1、k2・・k9から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像から、前述と同一の手法によって1つの高周波数成分再構成画像Adnを作成する点と、逆投影画像の作成工程S3において、マイクロプロセッサ4が、各個眼像k1、k2・・k9から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像から、前述と同一の手法によって9個の高周波数成分逆投影画像Ardnを作成する点である。具体的には、マイクロプロセッサ4は、各個眼像k1、k2・・k9に対して、公知の周波数フィルタを適用して高周波数成分を抽出する。
ここで、複眼撮像装置2によって撮像された個眼像k1、k2・・k9には、周辺の個眼像(例えば、個眼像k1、個眼像k9等)ほど明るさが少なくなる傾向があり、全個眼像に亘ってグラデュエーションを持った着色が生じることがあるが、これらの障害は、いずれも個眼像中の低周波数成分に生じる障害であり、高周波数成分を抽出して作成した高周波数成分個眼像からは、上記障害が除去され、高周波数成分再構成画像Adn及び高周波数成分逆投影画像Ardnからも上記障害が除去されて、マイクロプロセッサ4は、より正確に距離Dを導出することができる。
本発明の第1の実施形態に係る物体の距離導出装置の概略構成を示すブロック図。 (a)は同物体の距離導出装置における物体と光学レンズアレイと個眼像との位置関係を示す斜視説明図、(b)は同物体の距離導出装置における物体と光学レンズアレイと個眼像との位置関係を示す平面説明図。 同物体の距離導出装置における距離算出手順を示すフローチャート。 同物体の距離導出装置における再構成画像の作成原理を示す斜視説明図。 同物体の距離導出装置における再構成画像の作成原理を示す説明図。 同物体の距離導出装置における逆投影画像の作成原理を示す斜視説明図。 同物体の距離導出装置における逆投影画像の作成原理を示す説明図。 同物体の距離導出装置においてメモリに蓄積される評価値データの説明図。 同物体の距離導出装置において複眼撮像装置によって撮像された個眼像の例を示す図。 同物体の距離導出装置における再構成画像の例を示す図。 同物体の距離導出装置における距離画像の例を示す図。 従来の画像構成装置の構成を示すブロック図。 同従来の画像構成装置における画像の構成手法を示す説明図。
符号の説明
1 物体の距離導出装置
2 複眼撮像装置(撮像手段)
4 マイクロプロセッサ(距離設定手段、再構成画像作成手段、逆投影画像作成手段、評価値算出手段、繰返し手段、距離決定手段、平滑化手段)
5 距離算出装置(距離算出手段)
A 物体
Adn 再構成画像
Ardn 逆投影画像
D 距離
Dn 仮距離
SSD 評価値
Sb1、Sb2 球状物体(物体)
Sc 立方体(物体)
g 画素
k1、k2、・・k9 個眼像

Claims (3)

  1. 物体の撮像手段と、前記撮像手段によって撮像される画像に基づいて物体の前記撮像手段からの距離を算出する距離算出手段と、を備える物体の距離導出装置において、
    前記撮像手段は、n(nは2以上の整数)個の個眼像を撮像する撮像光学系を有し、
    前記距離算出手段は、
    物体と前記撮像手段との距離を仮に設定する距離設定手段と、
    前記各個眼像を構成する画素を前記距離設定手段によって設定された仮距離に再配置して1つの再構成画像を作成する再構成画像作成手段と、
    前記各個眼像を構成する画素を前記距離設定手段によって設定された仮距離に、個眼像ごとに逆投影してn個の逆投影画像を作成する逆投影画像作成手段と、
    前記再構成画像作成手段によって作成された再構成画像における所定のxy座標位置の画素と、前記逆投影画像作成手段によって作成された逆投影画像における前記所定のxy座標位置の画素との偏差を、1つの再構成画像に対するn個の逆投影画像ごとに算出して合計し、前記仮距離における各xy座標位置の画素について評価値を算出する評価値算出手段と、
    前記距離設定手段によって設定される仮距離を変更して前記再構成画像作成手段による再構成画像の作成と、前記逆投影画像作成手段による逆投影画像の作成と、前記評価値算出手段による評価値の算出を繰返し実行させる繰返し手段と、
    前記繰返し手段による繰返し実行の結果、前記評価値が最小になるときの仮距離を各xy座標位置における画素についての前記撮像手段からの距離として決定する距離決定手段と、を備えることを特徴とする物体の距離導出装置。
  2. 前記距離算出手段は、
    前記評価値算出手段によって算出される仮距離における各xy座標位置の画素についての評価値を平滑化する平滑化手段を、さらに備え、
    前記距離決定手段は、前記平滑化手段によって平滑化された評価値に基づいて各xy座標位置の画素についての前記撮像手段からの導出距離を決定することを特徴とする請求項1に記載の物体の距離導出装置。
  3. 前記再構成画像作成手段は、
    前記各個眼像から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像から1つの高周波数成分再構成画像を作成し、
    前記逆投影画像作成手段は、
    前記各個眼像から高周波数成分を抽出してそれぞれの高周波数成分個眼像を作成した上で、各高周波数成分個眼像からn個の高周波数成分逆投影画像を作成し、
    前記評価値算出手段は、前記高周波数成分再構成画像及び前記高周波数成分逆投影画像に基づいて評価値を算出することを特徴とする請求項1、又は請求項2に記載の物体の距離導出装置。
JP2007079880A 2007-03-26 2007-03-26 物体の距離導出装置 Active JP4915859B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007079880A JP4915859B2 (ja) 2007-03-26 2007-03-26 物体の距離導出装置
US12/261,706 US20090060281A1 (en) 2007-03-26 2008-10-30 Object Distance Deriving Device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007079880A JP4915859B2 (ja) 2007-03-26 2007-03-26 物体の距離導出装置

Publications (2)

Publication Number Publication Date
JP2008241355A JP2008241355A (ja) 2008-10-09
JP4915859B2 true JP4915859B2 (ja) 2012-04-11

Family

ID=39912901

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007079880A Active JP4915859B2 (ja) 2007-03-26 2007-03-26 物体の距離導出装置

Country Status (2)

Country Link
US (1) US20090060281A1 (ja)
JP (1) JP4915859B2 (ja)

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
WO2009151903A2 (en) 2008-05-20 2009-12-17 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with hetergeneous imagers
JP2010096723A (ja) * 2008-10-20 2010-04-30 Funai Electric Co Ltd 物体の距離導出装置
WO2011063347A2 (en) 2009-11-20 2011-05-26 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
EP2569935B1 (en) 2010-05-12 2016-12-28 Pelican Imaging Corporation Architectures for imager arrays and array cameras
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
US8305456B1 (en) 2011-05-11 2012-11-06 Pelican Imaging Corporation Systems and methods for transmitting and receiving array camera image data
WO2013003276A1 (en) 2011-06-28 2013-01-03 Pelican Imaging Corporation Optical arrangements for use with an array camera
US20130265459A1 (en) 2011-06-28 2013-10-10 Pelican Imaging Corporation Optical arrangements for use with an array camera
WO2013043761A1 (en) 2011-09-19 2013-03-28 Pelican Imaging Corporation Determining depth from multiple views of a scene that include aliasing using hypothesized fusion
US9129183B2 (en) 2011-09-28 2015-09-08 Pelican Imaging Corporation Systems and methods for encoding light field image files
EP2817955B1 (en) 2012-02-21 2018-04-11 FotoNation Cayman Limited Systems and methods for the manipulation of captured light field image data
JP5900017B2 (ja) * 2012-02-28 2016-04-06 カシオ計算機株式会社 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム
US9210392B2 (en) 2012-05-01 2015-12-08 Pelican Imaging Coporation Camera modules patterned with pi filter groups
CN104508681B (zh) 2012-06-28 2018-10-30 Fotonation开曼有限公司 用于检测有缺陷的相机阵列、光学器件阵列和传感器的系统及方法
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
EP3869797B1 (en) 2012-08-21 2023-07-19 Adeia Imaging LLC Method for depth detection in images captured using array cameras
US20140055632A1 (en) 2012-08-23 2014-02-27 Pelican Imaging Corporation Feature based high resolution motion estimation from low resolution images captured using an array source
US9214013B2 (en) 2012-09-14 2015-12-15 Pelican Imaging Corporation Systems and methods for correcting user identified artifacts in light field images
US20140092281A1 (en) 2012-09-28 2014-04-03 Pelican Imaging Corporation Generating Images from Light Fields Utilizing Virtual Viewpoints
WO2014078443A1 (en) 2012-11-13 2014-05-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
JP6055332B2 (ja) * 2013-02-12 2016-12-27 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
WO2014133974A1 (en) 2013-02-24 2014-09-04 Pelican Imaging Corporation Thin form computational and modular array cameras
US9638883B1 (en) 2013-03-04 2017-05-02 Fotonation Cayman Limited Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process
WO2014138697A1 (en) 2013-03-08 2014-09-12 Pelican Imaging Corporation Systems and methods for high dynamic range imaging using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9521416B1 (en) 2013-03-11 2016-12-13 Kip Peli P1 Lp Systems and methods for image data compression
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
US9106784B2 (en) 2013-03-13 2015-08-11 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing
US9519972B2 (en) 2013-03-13 2016-12-13 Kip Peli P1 Lp Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
WO2014164909A1 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation Array camera architecture implementing quantum film sensors
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
WO2014159779A1 (en) 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
JP2016524125A (ja) 2013-03-15 2016-08-12 ペリカン イメージング コーポレイション カメラアレイを用いた立体撮像のためのシステムおよび方法
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
WO2014150856A1 (en) 2013-03-15 2014-09-25 Pelican Imaging Corporation Array camera implementing quantum dot color filters
US9633442B2 (en) 2013-03-15 2017-04-25 Fotonation Cayman Limited Array cameras including an array camera module augmented with a separate camera
US9898856B2 (en) 2013-09-27 2018-02-20 Fotonation Cayman Limited Systems and methods for depth-assisted perspective distortion correction
US9264592B2 (en) 2013-11-07 2016-02-16 Pelican Imaging Corporation Array camera modules incorporating independently aligned lens stacks
WO2015074078A1 (en) 2013-11-18 2015-05-21 Pelican Imaging Corporation Estimating depth from projected texture using camera arrays
WO2015081279A1 (en) 2013-11-26 2015-06-04 Pelican Imaging Corporation Array camera configurations incorporating multiple constituent array cameras
WO2015134996A1 (en) 2014-03-07 2015-09-11 Pelican Imaging Corporation System and methods for depth regularization and semiautomatic interactive matting using rgb-d images
US9247117B2 (en) 2014-04-07 2016-01-26 Pelican Imaging Corporation Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array
US9521319B2 (en) 2014-06-18 2016-12-13 Pelican Imaging Corporation Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor
KR102155094B1 (ko) * 2014-08-28 2020-09-11 엘지전자 주식회사 이동 단말기 및 그 제어방법
US10250871B2 (en) 2014-09-29 2019-04-02 Fotonation Limited Systems and methods for dynamic calibration of array cameras
US9942474B2 (en) 2015-04-17 2018-04-10 Fotonation Cayman Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
WO2018079283A1 (ja) * 2016-10-26 2018-05-03 ソニー株式会社 画像処理装置、画像処理方法、及び、プログラム
DE102016224162A1 (de) * 2016-12-05 2018-06-07 Continental Automotive Gmbh Head-Up-Display
US10482618B2 (en) 2017-08-21 2019-11-19 Fotonation Limited Systems and methods for hybrid depth regularization
KR102614908B1 (ko) * 2018-09-13 2023-12-18 삼성전자주식회사 이미지 복원 방법 및 장치
US11030724B2 (en) * 2018-09-13 2021-06-08 Samsung Electronics Co., Ltd. Method and apparatus for restoring image
CN109447078B (zh) * 2018-10-23 2020-11-06 四川大学 一种自然场景图像敏感文字的检测识别方法
US11270110B2 (en) 2019-09-17 2022-03-08 Boston Polarimetrics, Inc. Systems and methods for surface modeling using polarization cues
CN114746717A (zh) 2019-10-07 2022-07-12 波士顿偏振测定公司 利用偏振进行表面法线感测的系统和方法
CN114787648B (zh) 2019-11-30 2023-11-10 波士顿偏振测定公司 用于使用偏振提示进行透明对象分段的系统和方法
US11195303B2 (en) 2020-01-29 2021-12-07 Boston Polarimetrics, Inc. Systems and methods for characterizing object pose detection and measurement systems
US11797863B2 (en) 2020-01-30 2023-10-24 Intrinsic Innovation Llc Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
US11953700B2 (en) 2020-05-27 2024-04-09 Intrinsic Innovation Llc Multi-aperture polarization optical systems using beam splitters
KR102455520B1 (ko) * 2020-06-05 2022-10-17 한국과학기술원 마이크로렌즈 어레이를 이용한 초박형 카메라 장치 그리고 이의 다기능 이미징 방법
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09187038A (ja) * 1995-12-27 1997-07-15 Canon Inc 3次元形状抽出装置
JPH11252585A (ja) * 1998-03-05 1999-09-17 Nippon Hoso Kyokai <Nhk> 視差量推定装置
JPWO2004106858A1 (ja) * 2003-05-29 2006-07-20 オリンパス株式会社 ステレオカメラシステム及びステレオ光学モジュール
JP4205533B2 (ja) * 2003-08-26 2009-01-07 独立行政法人科学技術振興機構 立体画像構成方法,立体対象の距離導出方法
JP4235539B2 (ja) * 2003-12-01 2009-03-11 独立行政法人科学技術振興機構 画像構成装置及び画像構成方法
SE528234C2 (sv) * 2004-03-30 2006-09-26 Xcounter Ab Anordning och metod för att erhålla tomosyntesdata
US7697749B2 (en) * 2004-08-09 2010-04-13 Fuji Jukogyo Kabushiki Kaisha Stereo image processing device
WO2007013250A1 (ja) * 2005-07-26 2007-02-01 Matsushita Electric Industrial Co., Ltd. 複眼方式の撮像装置
JP4807986B2 (ja) * 2005-09-05 2011-11-02 株式会社リコー 画像入力装置
JP4297111B2 (ja) * 2005-12-14 2009-07-15 ソニー株式会社 撮像装置、画像処理方法及びそのプログラム
JP4968259B2 (ja) * 2006-05-31 2012-07-04 日本電気株式会社 画像高解像度化装置及び画像高解像度化方法並びにプログラム
US8233054B2 (en) * 2006-09-25 2012-07-31 Pioneer Corporation Scenery imaging apparatus, scenery imaging method, scenery imaging program, and computer-readable recording medium
DE102007004632A1 (de) * 2007-01-30 2008-07-31 Sick Ag Verfahren zur Erfassung eines Gegenstands und optoelektronische Vorrichtung
JP2008242658A (ja) * 2007-03-26 2008-10-09 Funai Electric Co Ltd 立体物体の撮像装置
JP4852591B2 (ja) * 2008-11-27 2012-01-11 富士フイルム株式会社 立体画像処理装置、方法及び記録媒体並びに立体撮像装置

Also Published As

Publication number Publication date
US20090060281A1 (en) 2009-03-05
JP2008241355A (ja) 2008-10-09

Similar Documents

Publication Publication Date Title
JP4915859B2 (ja) 物体の距離導出装置
JP2008242658A (ja) 立体物体の撮像装置
JP7043085B2 (ja) 視点から距離情報を取得するための装置及び方法
TWI510086B (zh) 數位重對焦方法
JP6305053B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2001194114A (ja) 画像処理装置および画像処理方法、並びにプログラム提供媒体
JP3482990B2 (ja) 3次元画像撮影装置
CN111429500B (zh) 轴向扫描光场数据的重建与拼接方法及装置
JP6071257B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP7378219B2 (ja) 撮像装置、画像処理装置、制御方法、及びプログラム
JP6091318B2 (ja) 測距装置およびその制御方法
US20160148386A1 (en) Method and apparatus for estimating depth of focused plenoptic data
JP6009206B2 (ja) 3次元計測装置
JP6234401B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP5369563B2 (ja) 形状測定装置
JP6285686B2 (ja) 視差画像生成装置
JP6877936B2 (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体
JP6494402B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
TWI618394B (zh) 利用影像特性之立體匹配裝置
JP7300895B2 (ja) 画像処理装置および画像処理方法、プログラム、並びに記憶媒体
JP2020193820A (ja) 計測装置、撮像装置、制御方法及びプログラム
KR101857977B1 (ko) 플래놉틱 카메라와 깊이 카메라를 결합한 영상 장치 및 영상 처리 방법
JP6671589B2 (ja) 3次元計測システム、3次元計測方法及び3次元計測プログラム
KR100927236B1 (ko) 영상 복원 방법, 영상 복원 장치 및 영상 복원 방법을 실행하는 프로그램이 기록된 컴퓨터에서 판독될 수 있는 기록매체
JP2009211254A (ja) 画像処理ユニット、複眼撮像装置、画像処理方法、および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111227

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150203

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350