JP4871315B2 - 複眼撮影装置およびその制御方法並びにプログラム - Google Patents

複眼撮影装置およびその制御方法並びにプログラム Download PDF

Info

Publication number
JP4871315B2
JP4871315B2 JP2008079637A JP2008079637A JP4871315B2 JP 4871315 B2 JP4871315 B2 JP 4871315B2 JP 2008079637 A JP2008079637 A JP 2008079637A JP 2008079637 A JP2008079637 A JP 2008079637A JP 4871315 B2 JP4871315 B2 JP 4871315B2
Authority
JP
Japan
Prior art keywords
subject
image
shooting
information
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008079637A
Other languages
English (en)
Other versions
JP2009239392A (ja
Inventor
智紀 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2008079637A priority Critical patent/JP4871315B2/ja
Priority to EP09250765A priority patent/EP2106128B1/en
Priority to US12/410,791 priority patent/US8179431B2/en
Publication of JP2009239392A publication Critical patent/JP2009239392A/ja
Application granted granted Critical
Publication of JP4871315B2 publication Critical patent/JP4871315B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Description

本発明は、複数の異なる撮影位置において被写体を撮影する複眼撮影装置およびその制御方法並びに複眼撮影装置の制御方法をコンピュータに実行させるためのプログラムに関するものである。
複数のカメラを有する複眼カメラを用いて被写体を撮影し、これにより取得された複数の画像(基準カメラによる基準画像および参照カメラによる参照画像)の間で対応する画素である対応点を探索し(ステレオマッチング)、互いに対応する基準画像上の画素と、参照画像上の画素との位置の差(視差)に三角測量の原理を適用することにより、基準カメラまたは参照カメラから当該画素に対応する被写体上の点までの距離を計測して、被写体の立体形状を表す距離画像を生成する手法が提案されている。
一方、複眼カメラにより取得された複数の画像に対象とする被写体が含まれるか否かを判定し、その判定結果に基づいて、上述した距離の計測の他、カメラのフォーカス制御、露出制御および撮影等の各種制御が行われている。このような複眼カメラの各種制御を行うために、複眼カメラにより取得された複数の画像に、顔等の対象とする被写体が含まれるか否かを判定する手法が種々提案されている。例えば、特許文献1には、複眼カメラおよびミリ波レーダという複数のセンサを用意し、複数のセンサのそれぞれが同一の対象物を検出した際の位置および速度の誤差に関する正規分布に基づいて、特定された位置および速度の誤差から、検出された対象物のそれぞれが位置的および速度的に同一の対象物である第1および第2の確率を算出し、第1および第2の確率に基づいて、検出された対象物のそれぞれが同一の対象物である第3の確率を算出し、第3の確率がしきい値を超えた場合に、検出された対象物のそれぞれが同一の対象物であると判断する手法が提案されている。
また、特許文献2には、複数のカメラのうちの1つのカメラにより取得した画像に基づいて、顔等の特定の被写体の検出、フォーカス制御および露出制御等の各種動作を行う手法が提案されている。
特開2004−37239号公報 特開2007−110498号公報
しかしながら、特許文献1に記載された手法は、複眼カメラ以外のセンサが必要であるため、装置の構成が煩雑なものとなる。また、確率を算出する必要があるため、演算にも長時間を要するものとなる。また、特許文献2に記載された手法は、1つのカメラにより取得された画像に基づいて各種制御を行っているため、すべてのカメラの撮影範囲内に共通に存在する被写体がその画像に含まれない場合にも、各種制御が行われることとなる。ここで、1つのカメラの撮影範囲内には存在するが、他のカメラの撮影範囲内には存在しない被写体は、撮影者にとってそれほど重要な被写体ではない場合が多い。このため、特許文献2に記載の手法の場合、1つのカメラにより取得した画像にしか含まれない、重要でない被写体に基づいて各種制御を行ってしまうおそれがある。
本発明は上記事情に鑑みなされたものであり、複眼撮影装置により取得された複数の画像に、共通する顔等の所定被写体が含まれるか否かを簡易に判定できるようにすることを目的とする。
本発明による複眼撮影装置は、被写体を互いに異なる複数の撮影位置において撮影することにより、該被写体の複数の画像を取得する複数の撮影手段と、
該複数の画像のうちの1つの基準画像から所定被写体を検出する被写体検出手段と、
前記基準画像における前記所定被写体の位置およびサイズの情報を含む被写体情報を生成する被写体情報生成手段と、
前記複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成する撮影情報生成手段と、
前記被写体情報および前記撮影情報に基づいて、前記基準画像以外の他の画像に、該基準画像から検出された所定被写体が含まれるか否かを判定し、該判定結果を出力する判定手段とを備えたことを特徴とするものである。
「所定被写体」は、本発明においては、例えば人物の顔や自動車のように、サイズの個体差が小さい被写体とする。
「撮影情報」には、複数の撮影手段の基線長、輻輳角、焦点距離およびズーム倍率の他、データ量を低減するために画素を間引いた場合の、画素の間引き数を表す間引き度合いを含めるようにしてもよい。また、画素値を大きくするために画像の1画素の画素値を撮影手段に含まれる撮像素子の複数画素の画素値から求める画素混合を行った場合の、1画素を構成する撮像素子の画素数を表す画素の混合度合いを含めるようにしてもよい。なお、ズーム倍率としては、撮影手段の光学系を用いることによる光学的なズーム倍率のみならず、画像処理により画像を拡大縮小する電子ズームのズーム倍率も含む。
本発明による複眼撮影装置の制御方法は、被写体を互いに異なる複数の撮影位置において撮影することにより、該被写体の複数の画像を取得し、
該複数の画像のうちの1つの基準画像から所定被写体を検出し、
前記基準画像における前記所定被写体の位置およびサイズの情報を含む被写体情報を生成し、
前記複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成し、
前記被写体情報および前記撮影情報に基づいて、前記基準画像以外の他の画像に、該基準画像から検出された所定被写体が含まれるか否かを判定し、該判定結果を出力することを特徴とするものである。
なお、本発明による複眼撮影装置の制御方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本発明によれば、被写体を互いに異なる複数の撮影位置において撮影することにより被写体の複数の画像を取得し、取得した複数の画像のうちの1つの基準画像から所定被写体を検出し、基準画像における所定被写体の位置およびサイズの情報を含む被写体情報を生成し、複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成し、被写体情報および撮影情報に基づいて、基準画像以外の他の画像に、基準画像から検出された所定被写体が含まれるか否かを判定して、判定結果を出力するようにしたものである。
ここで、所定被写体のサイズの個体差が小さい場合、基準画像に含まれる所定被写体については、基準画像内におけるサイズおよび基準画像を取得した際のズーム倍率から、基準画像を取得した撮影手段(基準撮影手段とする)から所定被写体までの距離を算出することができる。また、基準画像内における所定被写体の位置、焦点距離およびズーム倍率から、基準撮影手段の光軸に対する所定被写体の方向を表す角度(第1の角度とする)を算出することができる。さらに、複数の撮影手段についての基線長、輻輳角および第1の角度から、基準撮影手段以外の他の撮影手段の光軸に対する所定被写体の方向を表す角度(第2の角度とする)を算出することができる。また、他の撮影手段の画角は分かっていることから、第2の角度が他の撮影手段の画角内にあるか否かによって、基準撮影手段以外の他の撮影手段の画角内に被写体が存在するか否か、すなわち、基準画像以外の他の画像に基準画像から検出された所定被写体が含まれるか否かを判定することができる。
このため、本発明によれば、特許文献1に記載された手法のように、煩雑な演算を行うことなく、複数の画像に共通する所定被写体が存在するか否かを判定することができる。また、判定結果に基づいて、撮影者が重要と見なしている、複数の画像において共通する所定被写体を用いて各種制御を行うことができることとなる。
以下、図面を参照して本発明の実施形態について説明する。図1は本発明の実施形態による複眼撮影装置の構成を示す概略ブロック図である。図1に示すように本実施形態による複眼撮影装置1は、2つのカメラ2A,2B、A/D変換部3A,3B、信号処理部4A,4B、およびカメラ制御部5を備える。
カメラ2A,2Bは、それぞれ距離値算出のための画像を取得するためのものであり、撮影レンズを含む光学系およびCCD等の撮像素子を備えてなり、カメラ制御部5により、撮影レンズを用いてのフォーカス動作およびズーム動作、露出制御、並びに撮像素子からの電荷の読み出しのタイミング等の駆動が制御される。また、カメラ2A,2Bは所定間隔を空けて配置されており、カメラ2A,2Bの間隔である基線長および被写体を見込む角度である輻輳角を変更することができる。なお、本実施形態においては、カメラ2A,2Bは動画像を撮影するものとして説明するが、撮影動作が行われるまではスルー画像を撮影し、撮影動作が行われるとそのタイミングにおける静止画像を撮影するものであってもよい。なお、動画像を撮影する場合、画像SA,SBは動画像の1フレームとなる。
なお、カメラ制御部5は、カメラ2A,2Bの撮影時の基線長、輻輳角、焦点距離およびズーム倍率を含む撮影情報C0を生成し、後述する判定部9に撮影情報C0を出力する。ここで、ズーム動作は、カメラ2Aの光学系を用いることによる光学ズームおよび画像自体を拡大縮小することによる電子ズームの双方により行われる場合があるため、ズーム倍率としては、光学ズーム倍率および電子ズーム倍率の双方を含む。なお、カメラ制御部5が撮影情報生成手段に対応する。
A/D変換部3A,3Bは、カメラ2A,2Bが撮影により取得した画像SA,SBをアナログデータからデジタルデータに変換する。
信号処理部4A,4Bは、カメラ2A,2Bが取得した画像SA,SBの画像データに対して、画像データの感度分布のばらつきおよび光学系の歪みを補正する補正処理を施すとともに、2つの画像SA,SBを並行化するための並行化処理を施す。さらに、並行化処理後の画像に対してホワイトバランスを調整する処理、階調補正、シャープネス補正、および色補正等の画像処理を施す。なお、信号処理部4A,4Bにおける処理後の画像についても、処理前の参照符号SA,SBを用いるものとする。また、補正処理、並行化処理および画像処理の3つの処理を合わせて信号処理と称するものとする。
また、複眼撮影装置1は、被写体検出部7、被写体情報生成部8、判定部9および距離算出部10を備える。
被写体検出部7は、カメラ2Aが撮影により取得した画像SA(信号処理前であっても処理後であってもよい)から所定被写体を含む領域を検出する。なお、本実施形態においては、所定被写体として顔を用いるものとし、被写体検出部7は、画像SAから顔を含む顔領域を検出するものとする。ここで、画像から顔領域を検出する手法としては、テンプレートマッチングによる手法、顔の多数のサンプル画像を用いたマシンラーニング学習により得られた顔判別器を用いる手法等の他、画像における肌色を有しかつ顔の輪郭形状を囲む矩形の領域を顔領域として検出する手法、顔の輪郭形状をなす領域を顔領域として検出する手法等、任意の手法を用いることができる。なお、動画像を撮影する場合、画像SA,SBは動画像の1フレームであるため、全フレームから顔領域を検出してその後の処理を行ってもよいが、フレームを間引いて顔領域の検出およびその後の処理を行うようにしてもよい。
図2は顔領域の検出結果を示す図である。図2に示すように画像SAには3つの顔が含まれており、顔を囲む矩形の顔領域F1〜F3が検出されている。
被写体情報生成部8は、被写体検出部7が検出したすべての顔領域についての、画像SAにおける位置およびサイズを表す被写体情報H0を生成する。ここで、顔領域の位置としては、顔領域の対角線の交点の画像SAの水平方向の画素位置を用いるものとするが、これに限定されるものではない。なお、画像SAの座標系は、カメラ2Aの光軸を原点とする。また、顔領域のサイズとは顔領域の高さ方向または幅方向の画素数である。
判定部9は、撮影情報C0および被写体情報H0に基づいて、画像SAから検出された顔領域の顔が画像SBに含まれるか否かを判定し、その判定結果を距離算出部10に出力する。
図3は判定部9による判定の処理を説明するための図である。なお、図3においては、カメラ2A,2Bの基線長をL、輻輳角をθ、カメラ2Aの光軸をZA、カメラ2Bの光軸をZBとし、カメラ2A,2Bにより人物の顔F0を撮影しているものとする。
判定部9は、撮影情報C0に含まれる、カメラ2Aの光学ズーム倍率B1および電子ズーム倍率B2、被写体情報H0に含まれる顔のサイズFS、並びに顔の実際のサイズFRを用いて、下記の式(1)により、カメラ2Aから顔F0までの距離D1を算出する。
D1=FR×B1×B2/FS (1)
ここで、人物の顔のサイズは人による個体差がそれほどないことから、顔の実際のサイズFRとしては、あらかじめ定められた一般的な人物の顔の高さ方向または幅方向のサイズを用いる。
次いで判定部9は、カメラ2Aの光軸ZAに対する顔F0の方向を表す角度βを下記の式(2)により算出する。
β=arctan((X1×P1)/(f1×B2)) (2)
ここで、X1は画像SAにおける顔領域の位置、P1はカメラ2Aが有する撮像素子の水平方向の画素ピッチ、f1はカメラ2Aの焦点距離である。ここで、画素ピッチP1は、後述する全体制御部16のROM16Cに記憶されている。
なお、上記式(2)は、カメラ2Aの光学系の歪みがないことを前提とするものであるが、画像SAが信号処理前のものである場合、カメラ2Aの光学系の歪み影響があるため、上記式(2)を用いたのでは正確に角度βを算出することができない。このため、本実施形態においては、カメラ2Aの光学系の歪みを考慮して、各種顔領域の位置X1、各種焦点距離f1および各種電子ズーム倍率B2についての角度βを算出し、算出した結果に基づいて各種顔領域の位置X1、各種焦点距離f1および各種電子ズーム倍率B2と角度βとの関係を規定したテーブル生成しておき、このテーブルを参照して角度βを求めるようにしてもよい。なお、テーブルはROM16Cに記憶しておけばよい。また、画像SA,SBが信号処理後のものであっても、上記式(2)により各種顔領域の位置X1、各種焦点距離f1および各種電子ズーム倍率B2と角度βとの関係を算出し、算出した結果を規定したテーブルをROM16に記憶しておき、このテーブルを参照して角度βを求めるようにしてもよい。
一方、カメラ2Aから顔F0までの距離D1、カメラ2Bから顔F0までの距離D2、カメラ2Aの光軸ZAに対する顔F0の方向を表す角度β、カメラ2Bの光軸ZBに対する顔F0の方向を表す角度α、基線長Lおよび輻輳角θとは、下記の式(3)、(4)の関係を有する。
D1cos(θ+β)=D2cos(θ+α) (3)
D1sin(θ+β)+D2sin(θ+α)=L (4)
式(3)、(4)から下記の式(5)に示すように距離D2を消去することにより、角度αを算出することができる。
α=arctan((L-D1sin(θ+β)/D1cos(θ+β))-θ (5)
さらに判定部9は、下記の式(6)によりカメラ2Bの画角γを算出する。
γ=arctan((XB×P2)/(f2×B3)) (6)
ここで、XBはカメラ2Bの撮像素子の水平方向画素数、P2はカメラ2Bが有する撮像素子の水平方向の画素ピッチ、f2はカメラ2Bの焦点距離、B3はカメラ2Bの電子ズーム倍率である。ここで、画素ピッチP2は、後述する全体制御部16のROM16Cに記憶されている。
なお、上記式(6)は、カメラ2Bの光学系の歪みがないことを前提とするものであるが、画像SBが信号処理前のものである場合、カメラ2Bの光学系の歪み影響があるため、上記式(6)を用いたのでは正確に画角γを算出することができない。このため、本実施形態においては、カメラ2Bの光学系の歪みを考慮して、各種焦点距離f2および各種電子ズーム倍率B3についての画角γを算出し、算出した結果に基づいて各種焦点距離f2および各種電子ズーム倍率B3と画角γとの関係を規定したテーブル生成しておき、このテーブルを参照して画角γを求めるようにしてもよい。なお、テーブルはROM16Cに記憶しておけばよい。また、画像SA,SBが信号処理後のものであっても、上記式(6)により各種焦点距離f2および各種電子ズーム倍率B3と画角γとの関係を算出し、算出した結果を規定したテーブルをROM16に記憶しておき、このテーブルを参照して画角γを求めるようにしてもよい。
そして判定部9は、画角γおよび角度αから、カメラ2Bの画角内に顔F0が存在するか否かを判定することにより、画像SAから検出された顔領域の顔が画像SBに含まれるか否かを判定し、その判定結果を距離算出部10に出力する。ここで、カメラ2Bの画角内に顔F0が存在する場合、|α|<|γ/2|となることから、判定部9は、|α|<|γ/2|である場合に画像SAから検出された顔領域の顔が画像SBに含まれると判定し、それ以外の場合には画像SAから検出された顔領域の顔が画像SBに含まれないと判定し、判定結果を距離算出部10に出力する。
例えば、図2に示すように検出した顔領域F1〜F3の顔の撮影時の位置関係が、図4に示すものである場合、画像SAから検出した顔領域F1〜F3のうち、顔領域F1のみがカメラ2Bが取得した画像SBには含まれないこととなる。したがって、判定部9は、顔領域F1の顔と一致する顔は画像SBに含まれないが、顔領域F2,F3の顔と一致する顔は画像SBに含まれるとの判定結果を距離算出部10に出力する。
なお、判定部9は、画像SAから検出した顔領域の顔が画像SBにも含まれる場合、その顔を含む顔領域を画像SBから検出し、顔領域の情報(位置およびサイズ)を判定結果に含めて距離算出部10に出力する。
例えば、図2に示す顔領域F1〜F3のうち、顔領域F2,F3の顔に一致する顔が画像SBに含まれると判定された場合、顔領域F2,F3と画像SBとを照合し、画像SB上の顔領域F2,F3と一致する領域を顔領域F2,F3に対応する顔領域として検出する。具体的には、顔領域F2,F3をそれぞれ画像SB上において移動させつつ、顔領域F2,F3のそれぞれと画素SBとの相関を算出し、相関がしきい値以上となる領域を顔領域F2,F3のそれぞれに対応する顔領域F2′,F3′として検出し、検出した顔領域F2′,F3′の情報(位置およびサイズ)を判定結果に含めて距離算出部10に出力する。顔領域F2′,F3′の検出結果を図5に示す。
距離算出部10は、カメラ2A,2Bからカメラ2A,2Bの撮影範囲に含まれる共通する被写体までの距離を測定するためのものであり、まずステレオマッチングの手法を用いてカメラ2A,2Bが取得した画像SA,SBにおいて共通する顔領域間における互いに対応する対応点を求める。例えば、共通する顔領域から部分的な行列(例えば3×3画素)を取り出して相関値を求めることにより対応点を求める。そして、求めた対応点、カメラ2A,2Bの基線長、輻輳角およびズーム倍率を用いて、三角測量の原理により画像SA,SBに共通して含まれる顔までの距離を表す距離値を算出する。具体的には、画像SA,SBに共通する顔領域内のすべての画素について、対応する顔領域間の対応点を検出し、対応点間の差である視差を算出し、視差に基づいて距離値を算出する。なお、距離値に基づいて、各画素が距離値を有する距離画像を生成してもよい。また、画像SA,SBから視差に基づいて、立体視が可能な立体画像を生成するようにしてもよい。
また、複眼撮影装置1は、画像SA,SBおよび各種情報を表示するための液晶等のモニタ11、モニタ11への各種情報の表示を制御する表示制御部12、複眼撮影装置1に各種入力を行うための十字キー、操作ボタン、ズームレバーおよびレリーズボタン等からなる入力部13、並びに画像SA,SBおよび距離値をメモリカード等の記録媒体14に記録するための記録制御部15を備える。さらに、複眼撮影装置1は、CPU16A、作業領域となるRAM16B、並びに装置1の動作プログラム、各種設定値およびテーブルが記憶されているROM16Cからなる全体制御部16を備える。
次いで、本実施形態において行われる処理について説明する。図6は本実施形態において行われる処理を示すフローチャートである。なお、本実施形態においては、人物の顔を被写体とするものであり、少なくともカメラ2Aが取得した画像SAには顔が含まれているものとする。
撮影の指示がなされることにより全体制御部16が処理を開始し、カメラ制御部5がカメラ2A,2Bにより被写体を撮影して、画像SA,SBを取得する(ステップST1)。また、カメラ制御部5が撮影情報C0を生成する(ステップST2)。次いで、被写体検出部7が、カメラ2Aが撮影により取得した画像SAから顔領域を検出する(ステップST3)。そして、被写体情報生成部8が被写体情報H0を生成する(ステップST4)。
そして、判定部9が、撮影情報C0および被写体情報H0に基づいて、画像SAから検出された顔領域の顔が画像SBに含まれるか否かを判定し(ステップST5)、その判定結果を距離算出部10に出力する(ステップST6)。
距離算出部10は、判定部9の判定結果に基づいて、画像SA,SBにおいて共通する顔領域についての距離値を算出し(ステップST7)、リターンする。
このように、本実施形態においては、撮影情報C0および被写体情報H0に基づいて、画像SAから検出された顔領域の顔が画像SBに含まれるか否かを判定するようにしたため、煩雑な演算を行うことなく、画像SA,SBに共通する顔が存在するか否かを判定することができる。また、判定結果に基づいて、撮影者が重要と見なしている、画像SA,SBにおいて共通する顔までの距離値を算出することができる。
なお、上記実施形態においては、複眼撮影装置1を2つのカメラ2A,2Bを備えるものとしているが、3以上のカメラを備えるものとしてもよい。この場合、1つのカメラにより取得した画像から顔領域を検出し、複数のカメラについての撮影時における基線長、輻輳角、焦点距離およびズーム倍率を含む撮影情報C0および被写体情報H0を生成して、検出した顔領域が他の画像に含まれるか否かを判定すればよい。
また、上記実施形態においては、判定結果を距離算出部10に出力して、画像SA,SBに共通する顔までの距離値を算出しているが、判定結果をカメラ制御部5に出力し、画像SA,SBに共通する顔に焦点が合うようにカメラ2A,2Bのフォーカス制御を行うようにしてもよい。また、画像SA,SBに共通する顔の露出が同一となるように、カメラ2A,2Bの露出制御を行うようにしてもよい。さらに、とくに静止画像を撮影する場合において、カメラ2A,2Bにより取得したスルー画像に共通する顔領域が存在するようになったときに、カメラ2A,2Bの撮影動作を行うようにしてもよい。この場合、顔領域の表情を検出し、共通する顔領域に含まれる顔が笑顔等の特定の表情となったときにカメラ2A,2Bの撮影動作を行うようにしてもよい。
ところで、撮影時において、画像SA,SBのデータ量を低減するために画素を間引いたり、画素値を大きくするために画像SA,SBの1画素をカメラ2A,2Bの撮像素子の複数画素から求める画素混合を行っている場合がある。このような場合、画像SA,SBの画素数は、画素間引きあるいは画素混合を行っていない画像の画素数とは異なるものとなる。ここで、本実施形態においては、上記角度αおよび画角γの算出に、画像SA上における顔領域の位置、画像SBの水平方向画素数、およびカメラ2A,2Bの撮像素子の画素ピッチを使用していることから、画像上の同一位置に顔が存在していたとしても、画素の間引きおよび画素混合を行った場合と行っていない場合とでは、算出した角度αおよび画角γの値が異なるものとなる。このため、画素の間引きあるいは画素混合を行った場合は、その情報を撮影情報C0に含め、画素間引きおよび画素混合を考慮して角度αおよび画角γを算出することが好ましい。
また、上記実施形態のフローチャートにおいては、画像SA,SBに顔が含まれることを前提として説明しているが、画像SA,SBに顔が含まれない場合もある。このような場合、画像SA,SBに顔が含まれるか否かを判定し、含まれない場合には撮影の処理に戻るようにしてもよい。
また、上記実施形態においては、所定被写体を顔としているが、車両、建物等、顔以外の被写体を検出の対象にできることはもちろんである。
以上、本発明の実施形態について説明したが、コンピュータを、上記のカメラ制御部5、被写体検出部7、被写体情報生成部8および判定部9に対応する手段として機能させ、図6に示すような処理を行わせるプログラムも、本発明の実施形態の1つである。また、そのようなプログラムを記録したコンピュータ読取り可能な記録媒体も、本発明の実施形態の1つである。
本発明の実施形態による複眼撮影装置の構成を示す概略ブロック図 本実施形態における画像SAからの顔領域の検出結果を示す図 判定部による判定の処理を説明するための図 2つのカメラの撮影時の位置関係を示す図 2つの画像に共通する顔領域の検出結果を示す図 本実施形態において行われる処理を示すフローチャート
符号の説明
1 複眼撮影装置
2A,2B カメラ
5 カメラ制御部
7 被写体検出部
8 被写体情報生成部
9 判定部
10 距離算出部

Claims (3)

  1. 被写体を互いに異なる複数の撮影位置において撮影することにより、該被写体の複数の画像を取得する複数の撮影手段と、
    該複数の画像のうちの1つの基準画像から所定被写体を検出する被写体検出手段と、
    前記基準画像における前記所定被写体の位置およびサイズの情報を含む被写体情報を生成する被写体情報生成手段と、
    前記複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成する撮影情報生成手段と、
    前記被写体情報および前記撮影情報に基づいて、前記基準画像以外の他の画像に、該基準画像から検出された所定被写体が含まれるか否かを判定し、該判定結果を出力する判定手段とを備えたことを特徴とする複眼撮影装置。
  2. 被写体を互いに異なる複数の撮影位置において撮影することにより、該被写体の複数の画像を取得し、
    該複数の画像のうちの1つの基準画像から所定被写体を検出し、
    前記基準画像における前記所定被写体の位置およびサイズの情報を含む被写体情報を生成し、
    前記複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成し、
    前記被写体情報および前記撮影情報に基づいて、前記基準画像以外の他の画像に、該基準画像から検出された所定被写体が含まれるか否かを判定し、該判定結果を出力することを特徴とする複眼撮影装置の制御方法。
  3. 被写体を互いに異なる複数の撮影位置において撮影することにより、該被写体の複数の画像を取得する手順と、
    該複数の画像のうちの1つの基準画像から所定被写体を検出する手順と、
    前記基準画像における前記所定被写体の位置およびサイズの情報を含む被写体情報を生成する手順と、
    前記複数の撮影手段の撮影時における基線長、輻輳角、焦点距離およびズーム倍率の情報を含む撮影情報を生成する手順と、
    前記被写体情報および前記撮影情報に基づいて、前記基準画像以外の他の画像に、該基準画像から検出された所定被写体が含まれるか否かを判定し、該判定結果を出力する手順とを有することを特徴とする複眼撮影装置の制御方法をコンピュータに実行させるためのプログラム。
JP2008079637A 2008-03-26 2008-03-26 複眼撮影装置およびその制御方法並びにプログラム Expired - Fee Related JP4871315B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008079637A JP4871315B2 (ja) 2008-03-26 2008-03-26 複眼撮影装置およびその制御方法並びにプログラム
EP09250765A EP2106128B1 (en) 2008-03-26 2009-03-19 Compound eye photographing apparatus, control method therefor, and program
US12/410,791 US8179431B2 (en) 2008-03-26 2009-03-25 Compound eye photographing apparatus, control method therefor, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008079637A JP4871315B2 (ja) 2008-03-26 2008-03-26 複眼撮影装置およびその制御方法並びにプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2011252130A Division JP5137219B2 (ja) 2011-11-18 2011-11-18 複眼撮影装置およびその制御方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2009239392A JP2009239392A (ja) 2009-10-15
JP4871315B2 true JP4871315B2 (ja) 2012-02-08

Family

ID=40801823

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008079637A Expired - Fee Related JP4871315B2 (ja) 2008-03-26 2008-03-26 複眼撮影装置およびその制御方法並びにプログラム

Country Status (3)

Country Link
US (1) US8179431B2 (ja)
EP (1) EP2106128B1 (ja)
JP (1) JP4871315B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5543870B2 (ja) * 2010-07-23 2014-07-09 オリンパスイメージング株式会社 カメラ、カメラの制御方法、及びプログラム
KR101699922B1 (ko) * 2010-08-12 2017-01-25 삼성전자주식회사 하이브리드 사용자 추적 센서를 이용한 디스플레이 시스템 및 방법
TWI450024B (zh) * 2012-06-05 2014-08-21 Wistron Corp 立體深度影像建立系統及其方法
JP6136189B2 (ja) * 2012-10-22 2017-05-31 株式会社ニコン 補助撮像装置および主撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2974500B2 (ja) * 1992-06-11 1999-11-10 キヤノン株式会社 複眼撮像装置
JPH07177423A (ja) * 1993-12-20 1995-07-14 Canon Inc 複眼撮像装置
JP2002095018A (ja) * 2000-09-12 2002-03-29 Canon Inc 画像表示制御装置及び画像表示システム、並びに画像データの表示方法
JP2004037239A (ja) 2002-07-03 2004-02-05 Fuji Heavy Ind Ltd 同一対象物判断方法および装置、並びに、位置ずれ補正方法および装置
US6690451B1 (en) * 2003-02-06 2004-02-10 Gerald S. Schubert Locating object using stereo vision
JP4095491B2 (ja) * 2003-05-19 2008-06-04 本田技研工業株式会社 距離測定装置、距離測定方法、及び距離測定プログラム
JP4177826B2 (ja) * 2005-03-23 2008-11-05 株式会社東芝 画像処理装置および画像処理方法
JP2007110498A (ja) 2005-10-14 2007-04-26 Fujifilm Corp 複眼式撮影装置
JP4516516B2 (ja) * 2005-12-07 2010-08-04 本田技研工業株式会社 人物検出装置、人物検出方法及び人物検出プログラム
US7984995B2 (en) * 2006-05-24 2011-07-26 Smart Technologies Ulc Method and apparatus for inhibiting a subject's eyes from being exposed to projected light

Also Published As

Publication number Publication date
US8179431B2 (en) 2012-05-15
JP2009239392A (ja) 2009-10-15
EP2106128B1 (en) 2012-02-08
US20090244275A1 (en) 2009-10-01
EP2106128A1 (en) 2009-09-30

Similar Documents

Publication Publication Date Title
KR102111935B1 (ko) 표시 제어장치, 표시 제어방법 및 프로그램
EP3073733A1 (en) Method for generating picture and twin-lens device
US8274572B2 (en) Electronic camera capturing a group of a plurality of specific objects
US8144974B2 (en) Image processing apparatus, method, and program
JP6594180B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2004062565A (ja) 画像処理装置及び方法並びにプログラム記憶媒体
JP6656035B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
EP3820139B1 (en) Image-capture plan presentation apparatus and method
JP2006226965A (ja) 画像処理装置、コンピュータプログラム、及び画像処理方法
JP6552256B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP4871315B2 (ja) 複眼撮影装置およびその制御方法並びにプログラム
JP2009134357A (ja) 画像処理装置、撮像装置、画像処理プログラム及び画像処理方法
KR20220121533A (ko) 어레이 카메라를 통해 획득된 영상을 복원하는 영상 복원 방법 및 영상 복원 장치
JP2009239391A (ja) 複眼撮影装置およびその制御方法並びにプログラム
US20090244264A1 (en) Compound eye photographing apparatus, control method therefor , and program
WO2015141185A1 (ja) 撮像制御装置、撮像制御方法および記録媒体
JP2017103695A (ja) 画像処理装置、画像処理方法、及びそのプログラム
JP5137219B2 (ja) 複眼撮影装置およびその制御方法並びにプログラム
JP2007094536A (ja) 対象物追跡装置及び対象物追跡方法
JP2011118767A (ja) 表情モニタリング方法および表情モニタリング装置
JP2007096480A (ja) 対象物追跡装置及び対象物追跡方法
JP2009237652A (ja) 画像処理装置および方法並びにプログラム
US11880991B2 (en) Imaging apparatus including depth information at first or second spatial resolution at different regions in the image
JP6292785B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2015102602A (ja) 立体撮像装置、立体撮像システム、立体撮像装置の制御方法、プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100707

RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20110418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111118

R150 Certificate of patent or registration of utility model

Ref document number: 4871315

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees