JP5745183B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP5745183B2
JP5745183B2 JP2014528081A JP2014528081A JP5745183B2 JP 5745183 B2 JP5745183 B2 JP 5745183B2 JP 2014528081 A JP2014528081 A JP 2014528081A JP 2014528081 A JP2014528081 A JP 2014528081A JP 5745183 B2 JP5745183 B2 JP 5745183B2
Authority
JP
Japan
Prior art keywords
parallax
subject
optical system
optical
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014528081A
Other languages
English (en)
Other versions
JPWO2014021134A1 (ja
Inventor
理子 朝倉
理子 朝倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014528081A priority Critical patent/JP5745183B2/ja
Application granted granted Critical
Publication of JP5745183B2 publication Critical patent/JP5745183B2/ja
Publication of JPWO2014021134A1 publication Critical patent/JPWO2014021134A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Description

本発明は、撮像装置及び撮像方法に関するものである。
立体画像を表示する際、被写体を適切な視差量で表示しないと、不自然な表示になることが知られている。また、平行法で撮影する場合の視差の主な補正手順は、撮影時にカメラ間の距離を調整すること、または撮影後の画像の座標を補正することである。
例えば、特許文献1では、ピント位置の距離から個人の最適視差量に合わせて、カメラ間の距離、すなわち基線長を平行に動かして視差を調整している。また、最適な視差と、実際の視差と、の間に相違があるときは、その相違分だけ画像をずらして表示する。
図25、図26を用いて、さらに具体的に説明する。図25(a)において、光学系OPAと光学系OPBとを用いて、平行法を用いて被写体1a、1b、1c、1d、1eを撮影する。
図25(b)は、光学系OPAによる撮影画像を示す。図25(c)は、光学系OPBによる撮影画像を示す。図25(d)は、光学系OPAおよび光学系OPBの間で重複する撮影範囲を示す。
図26(a)、(b)、(c)は、平行法における座標変換を説明する図である。図26(a)は、補正前の状態を示している。図26(b)は、補正後の状態を示している。図26(c)は、表示画像の状態を示している。左右の像が正確に撮影されていないため、適切な立体像を得ることができない。
また、特許文献2には、連続するデータの視差の差が閾値範囲に入るように、以下の2つの手順により調整することが提案されている。
(1)左右の画像を補正量だけ水平方向にシフトする。
(2)被写体毎に被写体の距離や位置に応じてシフト量を変えて視差量を補正する。
特開2002−232913号公報 特開2012−054862号公報
このように、従来は、カメラを動かして、カメラ間の距離を変えている。このため、移動機構が必要になってしまい装置が大型化してしまうという問題を生ずる。また、カメラの移動だけでは、適切な視差を得られない場合には、画像を一部切り出している。このため、画像サイズが小さくなってしまうという問題も生ずる。
また、特許文献2に記載の構成では、左右の画像を補正量だけ水平方向にシフトするので、補正後の端の画像がなくなってしまう。
さらに、被写体によってシフト量が異なるので、シフト後の画像が欠落することがある。このため、周囲の画素で補完する必要が生じてしまう。
本発明は、上記に鑑みてなされたものであって、小型で適切な立体画像を得られる撮像装置及び撮像方法を提供することを目的とする。
上述した課題を解決し、目的を解決するために、本発明の撮像装置は、
3つ以上の光学系と、光学系による被写体像を撮像する撮像素子と、を有する撮像装置であって、
少なくとも被写体距離を含む被写体の情報を取得する被写体情報取得部と、
被写体の情報に応じた視差量を算出する視差量算出部と、
視差量算出部によって算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための2つの光学系を選択する光学系選択部と、を有することを特徴とする。
また、本発明の撮像方法は、
少なくとも被写体距離を含む被写体の情報を取得する被写体情報取得ステップと、
被写体の情報に応じた視差量を算出する視差量算出ステップと、
算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための2つの光学系を選択する光学系選択ステップと、を有することを特徴とする。
本発明は、小型で適切な立体画像を得られる撮像装置及び撮像方法を提供することができるという効果を奏する。
第1実施形態に係る撮像装置の機能ブロックを示す図である。 (a)は撮像装置を携帯端末に適用したときの正面図、(b)は携帯端末の裏面図、(c)はその側面図である。 第1実施形態に係る撮像装置の機能ブロックを示す図である。 (a)、(b)、(c)、(d)、(e)、(f)は、第1実施形態に係る撮像装置における複数の光学系の配置を示す図である。 (a)、(b)、(c)、(d)、(e)、(f)は、第1実施形態に係る撮像装置における複数の光学系の光軸位置の配置を示す図である。 (a)、(b)は、撮影範囲の例を示す図である。 (a)、(b)、(c)は、複数の被写体を説明する図である。 複数の被写体を説明する他の図である。 複数の被写体を説明するさらに他の図である。 パラメータを説明する図である。 第2実施形態に係る撮像方法の手順を示すフローチャートである。 第2実施形態に係る撮像方法の手順を示す他のフローチャートである。 第2実施形態に係る撮像方法の手順を示すさらに他のフローチャートである。 第3実施形態に係る撮像装置の機能ブロックを示す図である。 第3実施形態に係る撮像装置の機能ブロックを示す図である。 (a)、(b)、(c)、(d)、(e)、(f)は、第3実施形態に係る撮像装置における複数の光学系の配置を示す図である。 (a)、(b)、(c)は、第3実施形態に係る撮像装置における複数の光学系の光軸位置の配置を示す図である。 (a)、(b)、(c)は、光学系の回転を説明する図である。 第4実施形態に係る撮像方法の手順を示すフローチャートである。 第4実施形態に係る撮像方法の手順を示す他のフローチャートである。 第4実施形態に係る撮像方法の手順を示すさらに他のフローチャートである。 (a)、(b)、(c)、(d)は、撮像素子の撮像面の分割を示す図である。 実施形態にかかるデジタルカメラの外観を示す前方斜視図である。 (a)は、固定焦点光学系を並べた構成の正面図、(b)は、ズーム光学系を並べた構成の正面図である。 複数の光学系による撮影画像を説明する図である。 複数の光学系による撮影画像を説明する他の図である。
本実施形態の撮像装置及び撮像方法による作用効果を説明する。なお、この実施形態によって本発明は限定されるものではない。すなわち、実施形態の説明に当たって、例示のために特定の詳細な内容が多く含まれるが、これらの詳細な内容に色々なバリエーションや変更を加えても、本発明の範囲を超えない。従って、以下で説明する本発明の例示的な実施形態は、権利請求された発明に対して、一般性を失わせることなく、また、何ら限定をすることもなく、述べられたものである。
(第1実施形態)
図1は、実施形態に係る撮像装置100の基本的な機能ブロック図である。
撮像装置100は、3つ以上の光学系101a、101b、101cと、光学系による被写体像を撮像する撮像素子102とを有する。さらに、撮像装置100は、被写体情報取得部103と、視差量算出部104と、光学系選択部105と、を有する。
被写体情報取得部103は、被写体の情報を取得する。視差量算出部104は、被写体の情報に応じた視差量を算出する。光学系選択部105は、視差量算出部104によって算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系101a、101b、101cの中から撮影するための光学系を選択する。
これにより、本実施形態に係る撮像装置100は、光学系を動かさずに適切な視差量で画像を取得できる。なお、「適切な視差量」とは、立体感を得やすい視差量をいう。立体感を得やすい視差量は、例えば、3Dコンソーシアムのガイドライン等に基づいて、または、経験的に、あるいは、シミュレーション等に基づいて、予め定義することができる。
そして、定義された適切な視差量に近づけるように光学系を選択する。なお、「適切
な視差量」の定義は以下も同様である。
視差量算出部104が算出する視差量は、撮影条件と観察条件とから決定される。撮影条件と観察条件の選択は、自動または手動のいずれで行っても良い。
例えば、撮影条件として、多機能携帯電話(以下、「スマートフォン」という。)で撮影することを選択し、観察条件として、スマートフォンで観察すること、もしくは別のディスプレイで観察することを選択することができる。
ここで、視差量は、取得した被写体の情報から、ピント距離(撮像装置から合焦位置までの距離)を基準に最近位置の被写体および最遠位置の被写体の何れに対しても算出してもよい。
さらに、視差量算出部104は、予め有している観察条件を反映した視差マップ(視差テーブル)を使用して、視差量を算出することもできる。この場合、撮像装置100は、例えば、不図示のメモリ等を備え、当該メモリ等が、視差マップを記録してもよい。
なお、撮像素子102は、光学系1個に対して1つの撮像素子を1対1で設ける構成、または、複数の光学系に対して1つの撮像素子を設ける構成でもよい。
図2(a)は、撮像装置100の例である携帯端末200の正面図、図2(b)は、携帯端末200の裏面図、図2(c)は、携帯端末200の側面図である。
図2(a)において、表示部201は、後述する光学系で撮像した画像を表示する。図2(b)において、携帯端末200は、異なる焦点距離を有する複数、本例では4つの光学系202a、202b、202c、202dを有している。ただし、光学系の個数は4つに限定されない。なお、携帯端末200は、携帯電話、PHS、スマートフォン、PDA等の携帯情報処理装置であってもよい。
次に、図3を用いて、詳細に構成を説明する。ここで、図1は、本実施形態の必須の構成を示しており、図3は、さらに望ましい構成を示している。
3つ以上の光学系101a、101b、101cは、各光学系の光軸間の距離がそれぞれ異なるように配置されている。
携帯端末200は、撮像装置100に加え、基線長算出部106と、制御部107と、画像処理・生成部108と、表示部109と、モニタ110と、メモリ111と、光学ズーム部112と、ぼかし処理部113と、座標変換部114と、電子ズーム部115と、を備えている。なお、図3において、撮像素子102は、102a〜102cからなるが、一つの撮像素子から構成されていてもよい。
視差補正部605は、2つ以上の光学系101a、101bの中から選択された撮影するための光学系からの情報に基づいて視差量を補正する。なお、視差量の補正の詳細な手順に関しては、後述する。被写体情報取得部103は、被写体の情報を取得する。視差量算出部104は、被写体の位置から適切な視差量の範囲を算出する。そして、基線長算出部106は、被写体情報取得部103から得られた被写体の情報と、視差量算出部104によって算出された視差量の範囲とに基づいて、その視差量を得られる基線長を算出する。光学系選択部105は、算出された基線長に最も近い長さの光軸間距離を有する光学系を選択する。
画像処理・生成部108は、後述するぼかし処理、座標変換を施した画像を生成する。メモリ111は、画像処理・生成部108により生成された画像データを格納する。表示部109は、画像処理・生成部108により生成された画像を表示する。モニタ110は、画像処理・生成部108により生成された画像を表示する。
被写体距離と視差とに基づいた基線長の計算方法について、図10を参照して説明する。ここで、被写体距離とは、撮像装置100から被写体までの距離をいう。
観察時の適切な視差量を算出するにあたって、飛出し適切最大視差量xは、次式(1)で示される。ここで、飛出し適切最大視差量とは、観察者が、最も観察者側に飛び出ているように観察できる被写体についての適切な視差量をいう。図10において、観察者は、観察者の眼からBだけ離れた位置に、被写体が最も観察者の近くに飛び出しているように観察できる。
x=(A−B)×e/B (1)
ここで、
e:観察者の眼の幅、
A:観察距離(観察者の眼からスクリーンSCまでの距離)、
B:適切最短表示距離(観察者の眼から、観察者にとって最も近く飛び出しているように見える位置までの距離)、
である。
基線長Dは、以下の式(1a)に示される。
D=X/LA×LB/M (1a)
M=F/(LA−F)
ここで、
LA:視差0距離(撮像装置100から観察者にとってスクリーンSCに位置するように観察できる被写体までの位置)、
LB:被写体距離(撮像装置100から被写体までの距離)、
F:光学系を構成するレンズの焦点距離、
X:撮像素子上の飛出し適切最大視差量(=x×表示モニタサイズ/撮像素子サイズ)
、である。
(基線長計算例)
4.3インチのスマートフォン(HD表示)を用いて、被写体を観察する場合、観察距離は250mm、眼の幅は65mmとする。適切に観察できる最短の立体像の位置は観察者の眼から234mm、その時の視差量は4.44mmとなる。
これに対して、スマートフォンのカメラを用いて撮影する場合、例えば画素数HDで画素ピッチが2μmの時、視差量は撮像素子上では0.18mmとなる。
例えばピント距離を1000mm、最短被写体距離を800mmとしたときの基線長は5.6mmとなる。
選択した光学系の光軸間距離が5mmの場合、最適な視差と、実際の視差と、の相違は、0.16mmである。その分を画像シフトさせて視差の補正を行う。
ここで、複数の光学系の配置のバリエーションに関して説明する。図4(a)、(b)、(c)、(d)、(e)、(f)は、それぞれ、3つまたは4つの光学系Lf1、Lf2、Lf3、Lf4の配置を正面から見た図である。
図において、理解しやすいように、焦点距離が短くなる(広角な光学系になる)にしたがい、円形レンズの直径を大きく図示している。
また、図5(a)、(b)、(c)、(d)、(e)、(f)に示すように、3つ以上の光学系の光学系中心を結んだ点線で示す線分は、一直線上に配置されていること、及び多角形状に配置されていることの少なくともいずれか一方の構成であることが望ましい。
また、撮像装置100は、各光学系の位置を変える回転機構を設けても良い。
これにより、光学系を選択する自由度が向上する。
また、被写体情報取得部103により取得される被写体の情報のうち少なくとも1つの情報は、距離情報であることが望ましい。
被写体の距離に合わせて視差量を算出することで適切な立体画像を得ることができる。
被写体距離の取得方法は一般的な手法を用いることができる。例えば、複数の光学系のうち少なくとも2つの光学系によって撮影した画像から、画像処理により被写体距離を取得すること、複数の光学系のうち少なくとも1つの光学系を使用してピント位置を変化させながら被写体の奥行情報を取得(オートフォーカス)すること、もしくは算出した距離マップにより取得することが望ましい。
また、光学系選択部105は、被写体のうちの主要な被写体が、適切な視差量で表示される基線長に最も近い光軸間距離を有する光学系を選択することが望ましい。ここで主要な被写体は、撮影者が予め設定しても良いし、撮像装置100が、主要被写体判定部を備え、画像の中心位置にある被写体や、最もピントの合う被写体を、主要な被写体と判定してもよい。ただし、主要な被写体の認定については、これらの方法に限定されない。
これにより、主要な被写体の位置から適切な視差量を決定することができる。
一般的に、観察者が、快適に被写体を観察するには、スクリーンSCと観察者の眼の位置の距離Aに対して、スクリーンSCの手前A/2〜奥側A/2の位置に被写体が位置するように見えることが好ましい。このため、光学系選択部105は、この範囲に、被写体が位置するように見えるような視差および基線長から光学系を選択することが望ましい。
図7(a)、(b)、(c)を用いて、複数の被写体OBJ−A、OBJ−B,OBJ−C、OBJ−Dについて説明する。各図において、奥行き方向の被写界深度はDとする。手前が撮像装置に近い方向、奥が撮像装置から遠い方向である。また、撮影時の撮影範囲はFV(図7(a))である。
主要な被写体が被写体OBJ−Cの位置で飛び出して表示される場合、視差量算出部104は、OBJ−Cの表示距離BがA/2〜Aとなる視差量を算出する、そして、基線長算出部106は、それに対応する基線長を算出する。最後に、光学系選択部105は、算出された基線長に最も近い長さの光軸間距離を有する光学系のペアを選択する。
また、光学系選択部105は、最も撮像装置100に近い側に表示される被写体が適切な視差量で表示される基線長に最も近い光軸間距離を有する光学系を選択することが望ましい。
これにより、観察者にとって、より適切な表示を行うことができる。
一般的に最も手前に表示される被写体と、スクリーン上に表示される被写体(視差量0)との輻輳角の差が1度以内であることが好ましい。このため、光学系選択部105は、その範囲に入るような視差および基線長から光学系を選択することが望ましい。
この場合、視差量算出部104は、撮像装置100に最も近い被写体である被写体OBJ−Dの輻輳角と、モニタ上の輻輳角の差Δが1度以内になる視差量を算出する。基線長算出部106は、それに対応する基線長を算出する。光学系選択部105は、算出された基線長に最も近い光軸間距離を有する光学系のペアを選択する。
観察者が観察する際に、より好ましい視差量を算出するにあたって、飛出し適切最大視差量xは、次式(2)で示される。
x=(A−B)×e/B (2)
B=e/2(tanα/2)
α=ATAN(e/(2×A))×2+Δ
ここで、
e:観察者の眼の幅、
A:観察距離、
B:適切最短表示距離である。
Δ:最も近い被写体の輻輳角αと、モニタ上の輻輳角βとの差(相違)、
である。
光学系選択部105は、光学系の被写界深度内の被写体のうち最も被写体距離が短い被写体の視差が、適切な視差量で表示される光学系を選択することが望ましい。
これにより、観察者にとって、より適切な表示を行うことができる。また、被写界深度外の被写体はボケるため観察対象外にすることができる。
上述したように、輻輳角の差が1度以内であることが好ましい。このため、光学系選択部105は、その範囲に入るような視差および基線長から光学系を選択することが望ましい。
図7に示すように、視差量算出部104は、被写界深度Dの範囲で最も撮像装置100側の被写体である被写体OBJ−Cの輻輳角と、モニタ上の輻輳角の差が1度以内になる視差量を算出する。基線長算出部106は、それに対応する基線長を算出する。光学系選択部105は、算出された基線長に最も近い光軸間距離を有する光学系のペアを選択する。
被写界深度は、以下の式(3a)、(3b)で示される。
前側被写界深度Lr=δ×Fno×L/(f−δ×Fno×L) (3a)
後側被写界深度Lf=δ×Fno×L/(f−δ×Fno×L) (3b)
ここで、
f:焦点距離(mm)、
Fno:Fナンバー、
δ:許容錯乱円直径(mm)、
L:合焦被写体距離(mm)、
である。
ただし、光学系の収差などにより上記式とは異なる場合もあるため、被写界深度の定義は上記式に限定されない。
また、携帯端末200は、光学系の被写界深度内の被写体のうち被写体距離が長い被写体の視差が、適切な視差量で表示されない場合、撮像装置100は、被写体距離が長い被写体をぼかす処理を行うぼかし処理部113をさらに有することが望ましい。この場合、ぼかし処理部113またはその他の部材が、適切な視差量で表示されているか否かを判定することが好ましい。
これにより、より自然な立体画像を得ることができる。
図8は、ぼかし処理部113が、ぼかし処理を被写体OBJ−A、OBJ−Dに対して行った例を示している。
また、携帯端末200は、適切な視差量と、撮影画像の視差量と、の相違が所定以上の場合は画像の座標変換を行う座標変換部114を有することが望ましい。
これにより、適切な視差量の基線長に一致する光軸間距離の光学系が存在しない場合であって、光学系選択部105が、算出された基線長に最も近い光軸間距離を有する光学系を選択した場合において、座標変換部114は、ずれた視差量の分だけ画像を座標変換する。この結果、適切な視差での立体画像が得られる。
適切な基線長より小さい光軸間距離を有する光学系の組み合わせが存在しない時は、一番小さい組み合わせで撮影して、後処理で座標変換する。
座標変換部114は、画像を「X−X´」だけシフトすることにより、座標変換する。より具体的には、座標変換部114は、「X−X´」の値が正の時は内側へ、「X−X´」の値が負の時は外側へシフトする。
ここで、
X:撮像素子上の適切な視差量、
X´:選択した光学系で取得した画像の視差量、
である。
また、携帯端末200が有する3つ以上の光学系は、その焦点距離がすべて異なることが望ましい。
これにより、観察者は、撮影範囲を変えて、被写体を撮影可能である。すなわち、被写体に適した撮影範囲で撮影することでより自然な立体画像を得ることができる。
複数の光学系を有することで、撮像装置100を小型化し、各光学系単体で2D撮影することも可能である。また、光学系選択部105が、光学系を選択することによって基線長を調整することが出来る。広角ではより広い範囲を撮影できるので、視差量やスクリーン位置の調整も容易となる。
また、携帯端末200は、携帯端末200が有する3つ以上の光学系の少なくとも一つの光学系による出力画像の画角を変化させる光学ズーム部を有する構成が望ましい。そして、光学ズーム部により変化する画角の一部は、他の光学系の画角と同じであることが望ましい。なお、この場合、同じには、略同じも含まれる。
これにより、観察者は、同じ画角の視差画像を確認しながら画像を取得できる。
また、携帯端末200は、携帯端末200が有する3つ以上の光学系の少なくとも一つの光学系による出力画像の画角を変化させる電子ズーム部115を有する構成が望ましい。そして、電子ズーム部115により変化する画角の一部は、他の光学系の画角と略同じであることが望ましい。
これにより、携帯端末200は、同じ画角の視差画像を確認しながら画像を取得できる。さらに、光学ズームによるレンズの移動がないため、小型化が図れる。また、機構が簡略化できる、加えて、可動部が存在しないため、音の発生を防止できる。また、像の動きがスムーズである。
また、携帯端末200が有する3つ以上の光学系の撮影範囲は、少なくとも他の1つの光学系の撮影範囲を含むことが望ましい。
これにより、座標変換部114が、画像を座標変換して、視差補正を行った場合において、画像が小さくなることを防ぐことができる。
図6(a)は、携帯端末200が有する3つの光学系Lf1、Lf2、Lf3の、それぞれの撮影範囲Af1、Af2、Af3を示している。
図6(b)は、4つの光学系Lf1、Lf2、Lf3、Lf4の、それぞれの撮影範囲Af1、Af2、Af3、Af4を示している。
また、光学系選択部105は、携帯端末200が有する光学系の中で、画角が最も小さい光学系を基準にして、光学系を選択することが望ましい。
一番撮影範囲が狭い画像に合わせることによって、座標変換による視差補正を行った時の画像の変化を小さく抑えることができる。
また、座標変換が必要になる場合、携帯端末200は、座標変換量を低減する被写体の位置を視野内において図示するガイド表示部(図9内に示す矢印)を有することが望ましい。
これにより、選択した光学系において、画角の狭い方の画像の被写体の位置を所定の視差量になるような位置での撮影をガイドする。これにより、座標変換による視差補正を行った時の画像の変化を小さく抑えることができる。
(第2実施形態)
第2実施形態に係る撮像方法は、
被写体の情報を取得する被写体情報取得ステップと、
被写体の情報に応じた視差量を算出する視差量算出ステップと、
算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための光学系を選択する光学系選択ステップと、を有することを特徴とする。
これにより、適切な立体画像を得ることができる。
図11は、本実施形態の基本的な撮像手順を示すフローチャートである。ステップS301において、被写体情報取得部103は、被写体の情報を取得する。ステップS302において、視差量算出部104は、被写体の情報に応じた視差量を算出する。ステップS303において、光学系選択部105は、視差量算出部によって算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための光学系を選択する。
これにより、光学系の移動が不要であり、かつ適切な立体画像を得ることができる。
(第1変形例)
図12は、本実施形態の変形例のより詳細な手順を示すフローチャートである。
ステップS401において、撮影者は、被写体を選択する。
ステップS402において、被写体情報取得部103は、被写体の情報を取得する。
ステップS403において、視差量算出部104は、被写体の情報に応じた視差量を算出する。
ステップS404において、基線長算出部106は、被写体情報取得部103から得られた被写体の情報と、視差量算出部104によって算出された視差量とに基づいて基線長を算出する。
ステップS405において、光学系選択部105は、視差量算出部104によって算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための光学系を選択する。
ステップS406において、ぼかし処理部113は、ぼかし処理を行い、座標変換部114は、画像の座標変換を行う。
ステップS407において、表示部109、モニタ110は、立体画像を表示する。また、メモリ111は、画像データを保存する。
(第2変形例)
図13は、本実施形態の他の変形例のさらに詳細な手順を示すフローチャートである。
ステップS501において、撮影者は、スマートフォン、テレビ、スクリーンなどの観察条件を入力する。
ステップS502において、被写体情報取得部103は、被写体の情報を取得する。
ステップS503において、視差量を最適化する被写体を決める。
ステップS504において、視差量算出部104は、被写体の情報に応じた視差量を算出する。このとき、ステップS505において、視差マップを参照しても良い。
ステップS506において、基線長算出部106は、被写体情報取得部103から得られた被写体の情報と、視差量算出部104によって算出された視差量とに基づいて基線長を算出する。
ステップS507において、光学系選択部105は、視差量算出部104によって算出された被写体の情報に応じた視差量に基づいて3つ以上の光学系の中から撮影するための光学系を選択する。
ステップS508において、必要に応じて、矢印などの撮影位置ガイドを表示する。
ステップS509、S510、S511、S512において、画像処理・生成部108は、第1実施形態で上述した座標変換、立体画像生成を行う。
ステップS513において、表示部109、モニタ110は、立体画像を表示する。また、メモリ111は、画像データを保存する。
(第3実施形態)
次に、第3実施形態に係る撮像装置について説明する。なお、以下、上記各実施形態と同一の部分には、同一の参照符号を付す。また、適宜、上記各実施形態と重複する説明は省略する。
図14は、本実施形態に係る撮像装置600の基本的な機能ブロック図である。
撮像装置600は、2つ以上の光学系101a、101bと、光学系による被写体像を撮像する撮像素子102と、を有する。さらに、撮像装置600は、被写体情報取得部103と、視差量算出部104と、視差補正部605と、を有する。
被写体情報取得部103は、被写体の情報を取得する。視差量算出部104は、被写体の情報に応じた視差量を算出する。視差補正部605は、2つ以上の光学系101a、101bの中から選択された撮影するための光学系からの情報に基づいて視差量を補正する。なお、視差量の補正の詳細な手順に関しては、後述する。
これにより、本実施形態に係る撮像装置600は、光学系を動かさずに適切な視差量で画像を取得できる。
視差量算出部104が算出する視差量は、撮影条件と観察条件とから決定される。撮影条件と観察条件の選択は、自動または手動のいずれで行っても良い。
例えば、撮影条件として、既に上述している多機能携帯電話(以下、「スマートフォン」という。)で撮影することを選択し、観察条件として、スマートフォンで観察すること、もしくは別のディスプレイで観察することを選択することができる。
ここで、視差量は、取得した被写体の情報から、ピント距離(撮像装置から合焦位置までの距離)を基準に最近位置の被写体および最遠位置の被写体の何れに対しても算出してもよい。
さらに、視差量算出部104は、予め有している観察条件を反映した視差マップ(視差テーブル)を使用して、視差量を算出することもできる。この場合、撮像装置600は、例えば、不図示のメモリ等を備え、当該メモリ等が、視差マップを記録してもよい。
なお、撮像素子102は、光学系1個に対して1つの撮像素子を1対1で設ける構成、または、複数の光学系に対して1つの撮像素子を設ける構成でもよい。
さらに、2つ以上の複数光学系で小型化し、各光学系単体で2D撮影できる。
広角側ではより広い範囲を撮影できるので、視差量やスクリーン位置の調整も容易となる。
撮像装置600の例である携帯端末の正面図、裏面図、側面図は、それぞれ図2(a)、(b)、(c)と同じであるので記載を省略する。
次に、図15を用いて、詳細に構成を説明する。ここで、図14は、本実施形態の必須の構成を示しており、図15は、さらに望ましい構成を示している。
2つ以上、本実施形態では3つの光学系101a、101b、101cが配置されている。
そして、光学系101a、101b、101cのいずれか1つの光学系の撮影範囲は、少なくとも他の1つの光学系の撮影範囲を含むことが望ましい。
これにより、視差した補正でも画像が小さくなるのを防ぐことができる。
図17(a)は、2つの光学系Lf1、Lf2の、それぞれの撮影範囲Af1、Af2を
示している。
図17(b)は、3つの光学系Lf1、Lf2、Lf3の、それぞれの撮影範囲Af1、Af2、Af3を示している。
図17(c)は、4つの光学系Lf1、Lf2、Lf3、Lf4の、それぞれの撮影範囲Af1、Af2、Af3、Af4を示している。
携帯端末200は、撮像装置600に加え、視差補正部605と、光学系選択部105と、制御部107と、画像処理・生成部108と、表示部109と、モニタ110と、メモリ111と、光学ズーム部112と、ぼかし処理部113と、座標変換部114と、電子ズーム部115と、を備えている。なお、図15において、撮像素子102は、102a〜102cからなるが、一つの撮像素子から構成されていてもよい。
被写体情報取得部103は、被写体の情報を取得する。視差量算出部104は、被写体の位置から適切な視差量の範囲を算出する。光学系選択部105は、視差量または、被写体情報取得部103から得られた被写体の情報と視差量から算出された基線長に基づいて2つ以上の光学系を選択する。視差補正部605は、光学系選択部105によって選択された撮影するための光学系からの情報に基づいて視差量を補正する。
画像処理・生成部108は、後述するぼかし処理、座標変換を施した画像を生成する。メモリ111は、画像処理・生成部108により生成された画像データを格納する。表示部109は、画像処理・生成部108により生成された画像を表示する。モニタ110は、画像処理・生成部108により生成された画像を表示する。
ここで、被写体距離と視差量と基線長計算については、図10を参照して上述している計算方法と同じである。
(基線長計算例)
4.3インチのスマートフォン(HD表示)) を用いて、被写体を観察する場合、観察距離は250mm、目の幅は65mmとする。適切に観察できる最短の立体像の位置は観察者の眼から234mmとなる。その時の視差量は4.44mmとなる。
これに対して、スマートフォンのカメラを用いて撮影する場合、例えば画素数HDで画素ピッチが2μmの時、上記視差量は撮像素子上では0.18mm(90画素)となる。
例えば撮影している画像が撮像素子上での視差が200画素である場合、110画素分だけ画像をシフトさせて視差の補正を行う。
ここで、2つ以上の複数の光学系の配置のバリエーションに関して説明する。図16(a)、(b)、(c)、(d)、(e)、(f)は、それぞれ、2つ以上、例えば3つまたは4つの光学系Lf1、Lf2、Lf3、Lf4の配置を正面から見た図である。
画角が最も小さい光学系の撮影範囲は、他の前記光学系の撮影範囲に含まれていることが望ましい。
これにより、一番撮影範囲が狭い画像に合わせることによって、視差補正を行った時の画像の変化を小さく抑えることができる。
また、図16(a)、(b)、(c)、(d)、(e)、(f)に示すように、2つ以上の光学系の光学系中心位置を結んだ点線で示す線分は、一直線上に配置されていること、及び多角形形状に配置されていることの少なくともいずれか一方の構成であることが望ましい。
また、後述するように撮像装置600は、各光学系の位置を変える回転機構を設けても良い。
さらに、2つ以上の複数光学系の光学系中心間の距離は一定である構成、またはすべて異なる構成のいずれでもよい。
これにより、撮影範囲が他の撮影範囲に含まれる状態にできる。
視差補正部605は、被写体情報取得部103によって取得された被写体位置情報に基づいて視差の補正を行うことが望ましい。
これにより、被写体の情報に合わせた適切な立体画像が取得できる。
また、被写体情報取得部103により取得される被写体の情報のうち少なくとも1つの情報は、距離情報であることが望ましい。
これにより、被写体の距離に合わせた適切な立体画像を得ることができる。
被写体距離の取得方法は一般的な手法を用いることができる。例えば、複数の光学系のうち少なくとも2つの光学系によって撮影した画像から測距すること、複数光学系のうち少なくとも1つの光学系を使用してピント位置を変化させながら被写体の奥行情報を取得(オートフォーカス)すること、もしくは算出した距離マップより取得することが望ましい。
視差補正部605は、視差量算出部104によって算出された被写体情報に応じた視差量をもとに、視差を補正することが望ましい。
これにより、被写体に応じた適切な視差に補正することができる。
さらに、視差補正部605は、被写体のうちの主要な被写体が、適切な視差量で表示されるように視差量を補正することが望ましい。
これにより、主要な被写体が適切な視差量である立体画像を取得できる。
上述したように、一般的に快適に観察できる範囲は、スクリーンSCと眼の位置の距離Aに対して、手前A/2〜奥側A/2とされている。このため、この範囲に入るような視差および基線長から光学系を選択することが望ましい。
第1実施形の説明で用いた図7(a)、(b)を参照して、複数の被写体OBJ−A、OBJ−B、OBJ−C、OBJ−Dについて説明する。各図において、奥行き方向の被写界深度Dを有する。手前が撮像装置に近い方向、奥が撮像装置から遠い方向である。また、撮影時の撮影範囲はFV(図7(a))である。
主要被写体が被写体OBJ−Cで飛び出して表示する場合、視差量算出部104は、OBJ−Cの表示距離BがA/2〜Aとなる視差量を算出する、光学系選択部105は、視差量または、視差量に対応する基線長に基づいて光学系のペアを選択する。
視差補正部605は、最も撮像装置に近い側に表示される被写体が適切な視差量で表示されるように視差量を補正することが望ましい。
これにより、眼に負担の大きい飛び出しにおいて、目に適切な位置での表示を行うことができる。
第1実施形態で述べたように、一般的に最も手前に表示される被写体と、スクリーン上に表示される被写体(視差量0)との輻輳角の差が角度として1度以内が適切とされている。このため、その範囲に入るような視差および基線長から光学系を選択することが望ましい。
この場合、視差量算出部104は、最も手前の被写体である被写体OBJ−Dの輻輳角と、モニタ上の輻輳角の差が1度以内になる視差量を算出する。光学系選択部105は、視差量または、視差量に対応する基線長に基づいて光学系のペアを選択する。
観察者が観察する際に、より好ましい視差量を算出するにあたって、飛出し適切最大視差量xは、上述した式(2)で求められる。
視差補正部605は、光学系の被写界深度内の被写体のうち最も被写体距離が短い被写体の視差が、適切な視差量で表示されるように視差量を補正することが望ましい。
これにより、眼に負担の大きい飛び出しにおいて、目に適切な位置での表示を行うことができる。
ここで主要な被写体は、撮影者が予め設定しても良いし、撮像装置600が、主要被写体判定部を備え、画像の中心位置にある被写体や、最もピントの合う被写体を、主要な被写体と判定してもよい。ただし、主要な被写体の認定については、これらの方法に限定されない。
さらに、深度外のボケた被写体は対象外にすることができる。
被写界深度範囲での最も手前の被写体、即ち、被写体OBJ−Cの輻輳角と、モニタ上の輻輳角の差が1度以内になる視差量を算出する。
被写界深度は、上述した式(3a)、(3b)で求められる。
図7の(a)、(b)ですでに示したように、視差量算出部104は、被写界深度Dの範囲での最も手前の被写体である被写体OBJ−Cの輻輳角と、モニタ上の輻輳角の差が1度以内になる視差量を算出する。光学系選択部105は、視差量または、視差量に対応する基線長に基づいて光学系のペアを選択する。
視差補正部605は、視差量算出部104によって算出された被写体位置に応じた視差量と、適切な視差量との差が所定以上の場合は視差量を補正することが望ましい。
これにより、適切な視差量に補正することができる。
視差補正部605は、画像の座標変換を行う座標変換部114を有することが望ましい。
これにより、適切な視差量の基線長に一致する光軸間距離の光学系が存在しない場合であって、最も近い光学系を選択した場合において、座標変換部114は、ずれた視差量分だけ座標変換する。この結果、適切な視差での立体画像が得られる。
適切な基線長より小さい光学系の組み合わせが存在しない時は、一番小さい組み合わせで撮影して、後処理で座標変換する。
この座標変換は、上述したように、画像を「X−X´」だけシフトする手順で行う。
携帯端末200は、光学系の被写界深度内の被写体のうち被写体距離が長い被写体の視差が、適切な視差量で表示されない場合、被写体距離が長い被写体をぼかす処理を行うぼかし処理部113を有することが望ましい。
これにより、所定以上の視差で眼に負担が大きくなり、快適に観察できなくなることを防止でき、自然な立体画像を得ることができる。
視差量が目の幅以上になると、左右の目の向きが外側になり立体像が観察できなくなる。
ぼかし処理を被写体OBJ−A、OBJ−Dに対して行った例は、図8を用いて、上述している場合と同じである。
携帯端末200は、2つ以上の光学系のうち2つ以上の光学系を選択して、視差画像を撮影する光学系選択部105を有することが望ましい。
これにより、2つ以上の光学系で視差画像を撮影する。この際、光学系選択部105は、撮影したい画角や視差補正量・基線長などに合わせて光学系を選択する。
携帯端末200は、2つ以上の光学系の少なくとも一つの光学系による出力画像の画角を変化させる光学ズーム部112を有し、
光学ズーム部112により変化する画角の一部は、他の光学系の画角と略同じであることが望ましい。
これにより、同じ画角の視差画像を確認しながら画像が取得できる。
2つ以上の光学系の少なくとも一つの光学系による出力画像の画角を変化させる電子ズーム部115を有し、
電子ズーム部115により変化する画角の一部は、他の光学系の画角と略同じであることが望ましい。
これにより、同じ画角の視差画像を確認しながら画像が取得できる。
上述のように、ズームは光学ズームと電子ズームとのいずれの方式でも良い。電子ズームの場合、光学ズームに比較してレンズの移動がない。このため、装置の小型化できること、機構が簡略化できること、駆動音が生じないこと、動きがスムーズであることなどの利点を有する。
さらに、本実施形態は、図18(a)、(b)に示すように、光学系回転機構901を有することが望ましい。
光学系回転機構901は、光学系選択部105によって選択された光学系(レンズLf1、Lf2、Lf3)の配置が撮像素子に対して適切な配置になるように、光学系を回転させて撮影する。
これにより、適切な形式で表示できるような視差画像を取得する。
また、通常の立体画像を表示する際、視差画像を横並びで表示するサイドバイサイドなど、適切な形式で表示できるような視差画像を生成する必要がある。
例えば、選択された光学系が斜めの配置である場合、光学系回転機構901は、選択した光学系が観察者に対して相互に水平方向に位置するように光学系を回転させて撮影する。
また、携帯端末200は、光学系選択部105によって選択された光学系の配置に合わせて、撮像素子上で適切な視差画像になるように画像処理する画像処理部108(画像処理・生成部)を有することが望ましい。
これにより、適切な形式で表示できるような視差画像を取得できる。
また、携帯端末200は、光学系選択部105によって選択された光学系の配置に合わせて、撮像素子上で適切な視差画像になるように撮影ガイドを表示するガイド表示部(図18(c)の矢印)を有することが望ましい。
これにより、適切な形式で表示できるような視差画像を取得できる。
上述したように、通常の立体画像を表示する際、視差画像を横並びで表示するサイドバイサイドなど、適切な形式で表示できるような視差画像を生成する必要がある。
例えば、携帯端末200において、図18(c)に示すように、視野FV内に回転方向や回転量の図示、例えば数値もしくは矢印、回転後の撮影範囲、回転量に応じた長さや太さの矢印などを行うことが望ましい。
(第4実施形態)
次に第4実施形態について説明する。
第4実施形態に係る撮像方法は、
被写体の情報を取得する被写体情報取得ステップと、
被写体の情報に応じた視差量を算出する視差量算出ステップと、
焦点距離が異なる2つ以上の光学系からの情報にもとづいて視差量を補正する視差補正ステップと、を有することを特徴とする。
これにより、常に適切な立体画像を得ることができる。
図19は、本実施形態の基本的な撮像手順を示すフローチャートである。ステップS601において、被写体情報取得部103は、被写体の情報を取得する。ステップS602において、視差量算出部104は、被写体の情報に応じた視差量を算出する。ステップS603において、視差補正部605は、焦点距離が異なる2つ以上の光学系からの情報にもとづいて視差量を補正する。
これにより、光学系の移動が不要であり、かつ適切な立体画像を得ることができる。
(第1変形例)
図20は、本実施形態の変形例のより詳細な手順を示すフローチャートである。
ステップS701において、撮影者は、被写体を選択する。
ステップS702において、被写体情報取得部103は、被写体の情報を取得する。ステップS703において、視差量算出部104は、被写体の情報に応じた視差量を算出する。
ステップS704において、視差補正部605は、焦点距離が異なる2つ以上の光学系からの情報にもとづいて視差量を補正する。
ステップS705において、表示部109、モニタ11は、立体画像を表示する。また、メモリ111は、画像データを保存する。
(第2変形例)
図21は、本実施形態の他の変形例のさらに詳細な手順を示すフローチャートである。
ステップS801において、撮影者は、スマートフォン、テレビ、スクリーンなどの観察条件を入力する。
ステップS802において、被写体情報取得部103は、被写体の情報を取得する。
ステップS803において、視差量を最適化する被写体を決める。
ステップS804において、視差量算出部104は、被写体の情報に応じた視差量を算出する。このとき、ステップS805において、視差マップを参照しても良い。
ステップS806において、視差補正部605は、算出された視差量に基づいて視差量を補正する。
ステップS807において、必要に応じて、矢印などの撮影位置ガイドを表示する。
ステップS808、S809、S810、S811において、画像取得、画像処理・生成部108は、第3実施形態で上述した座標変換、立体画像生成を行う。
ステップS812において、表示部109、モニタ11は、立体画像を表示する。また、メモリ111は、画像データを保存する。
実施形態の態様について説明する。図22(a)、(b)、(c)、(d)は、撮像素子4の撮像面の分割を示す図である。複数のズームレンズは、それぞれ同一の撮像素子4のうちの撮像面の異なる領域に物体の像を結像するように配置されている。図22(a)、(b)、(c)、(d)は、撮像素子4の撮像面を正面からみた構成を示している。各図においてNは、ズームレンズの数量、すなわちモジュール数を示している。
例えば、図22(a)に示す撮像素子4における、2つの矩形領域(斜線を付す)は、ズームレンズを水平方向に2つ並べたときの、それぞれのズームレンズが物体の像を結像するよう領域を示している。2つの結像領域の最短中心間距離はDminで示す。
ここでは、撮像素子4の縦横比を4:3、各ズームレンズの撮像領域を16:9として例示する。
図22(b)は、ズームレンズを垂直方向に2つ(N=2)並べたときの撮像素子4における結像領域を示している。
図22(c)は、水平方向に2つ、垂直方向に2つの計4個(N=4)のズームレンズを並べたときの撮像素子4における結像領域を示している。
さらに、図22(d)は、水平方向に3つ、垂直方向に3つの計9個(N=9)のズームレンズを並べたときの撮像素子4における結像領域を示している。
次に、3つ以上の複数のズームレンズを設けることの作用効果を説明する。
3つ以上の複数のズームレンズを用いることで、撮像系の方向に依らず3D撮像が可能となる。例えばズームレンズが2つ左右方向(水平方向)にだけ並べられているときに、デジタルカメラを縦位置の方向で使用した場合、複数のズームレンズは縦位置(垂直方向)に並ぶことになる。この場合の撮像では左右方向の視差画像は得られない。
これに対して、ズームレンズが4つ以上、上下左右方向に並べられている場合、撮像系を縦位置にした場合、横位置にした場合、いずれの場合も左右方向の視差画像を取得することができる。また、縦位置と横位置との間の状態においても、上下左右の視差画像から、自然な立体感を補間することができる。
また、例えば、3つのズームレンズを水平方向(横方向)に並べる場合、多視点での視差画像を取得することが可能となる。これにより、視聴者の移動や、複数名での3D鑑賞など立体画像鑑賞の自由度が向上する。
これらを実現するために、ズームレンズの数を増やしていくと、それに伴い、製造誤差等に起因するばらつきも大きくなる。このため、本構成の特徴である、共通部材によるレンズ保持などのばらつきを低減する構成の重要性が増すこととなる。
本実施形態の撮像装置によれば、同じ焦点距離範囲を有する少なくとも2つのズームレンズを配置することにより、容易に可変な画角の複数の視差画像を得ることが出来る。このため、3D撮影シーンの自由度が向上する。
また、複数のズームレンズの任意の2つのズームレンズは、入射面から撮像面に至るまでの光軸間距離が略等しい。これにより、各ズームレンズの光軸が平行な平行法や、各変倍光学系の光軸が遠方で公差する公差法により、人間の両眼によって得られるものに近い視差情報を取得することが出来る。
次に、複数の光学系の焦点距離が異なるときに具体的な諸元値を示す。図24(a)は、このような光学系を正面から見た図である。固定焦点f1を有するレンズLf1と、固定焦点f2を有するレンズLf2とが単一の撮像素子に対して横方向に並列して配置されている。
数値実施例1
固定焦点f1のレンズ

単位mm
面データ
面番号 r d nd νd
物面 ∞ ∞
1 17.092 0.69 1.92286 20.88
2 11.685 2.09 1.74320 49.34
3* 207.393 0.32
4 164.069 0.63 1.88300 40.76
5 6.908 1.81
6 -12.196 0.63 1.78800 47.37
7 5.313 1.67 1.84666 23.78
8 40.510 9.37
9(絞り) ∞ 0.63
10* 14.023 1.17 1.58313 59.38
11 -20.051 10.26
12* 15.871 2.89 1.49700 81.54
13 -5.848 0.63 1.88300 40.76
14 -8.692 0.63
15 -38.291 0.63 1.92286 20.88
16 12.287 5.37
17 ∞ 0.00
18 37.408 2.03 1.75211 25.05
19 -18.946 15.62
20 ∞ 1.13 1.51633 64.14
21 ∞ 1.18
像面(撮像面)∞

非球面データ
第3面
K=0.000
A4=6.71509e-06
第10面
K=-8.887
A4=2.54220e-04,A6=-5.63250e-06
第12面
K=0.000
A4=-1.78527e-04,A6=1.25518e-06,A8=7.99258e-08

焦点距離 8.76
FNO. 4.98
画角2ω 70.52
像高 5.40
fb(in air) 17.55
全長(in air) 59.01

群焦点距離
Gf1=28.12 Gf2=-4.60 Gf3=14.33 Gf4=15.20 Gf5=-10.02 Gf6=16.98


固定焦点f2

単位mm
面データ
面番号 r d nd νd
物面 ∞ ∞
1 17.092 0.69 1.92286 20.88
2 11.685 2.09 1.74320 49.34
3* 207.393 14.43
4 164.069 0.63 1.88300 40.76
5 6.908 1.81
6 -12.196 0.63 1.78800 47.37
7 5.313 1.67 1.84666 23.78
8 40.510 0.53
9(絞り) ∞ 0.63
10* 14.023 1.17 1.58313 59.38
11 -20.051 0.32
12* 15.871 2.89 1.49700 81.54
13 -5.848 0.63 1.88300 40.76
14 -8.692 8.57
15 -38.291 0.63 1.92286 20.88
16 12.287 2.11
17 ∞ 0.00
18 37.408 2.03 1.75211 25.05
19 -18.946 15.62
20 ∞ 1.13 1.51633 64.14
21 ∞ 1.18
像面(撮像面)∞

非球面データ
第3面
K=0.000
A4=6.71509e-06
第10面
K=-8.887
A4=2.54220e-04,A6=-5.63250e-06
第12面
K=0.000
A4=-1.78527e-04,A6=1.25518e-06,A8=7.99258e-08

焦点距離 59.59
FNO. 6.34
画角2ω 10.09
像高 5.40
fb(in air) 17.55
全長(in air) 59.01

群焦点距離
Gf1=28.12 Gf2=-4.60 Gf3=14.33 Gf4=15.20 Gf5=-10.02 Gf6=16.98

次に、3つのズーム光学系を有する構成のときの光学系の数値実施例を示す。例えば、図24(b)に示すように、3つのズーム光学系Lf1、Lf2,Lf3を有する構成である。ここで、f1が広角端、f2が中間、f3が望遠端の状態として、撮像することができる。
ズームレンズ

単位mm
面データ
面番号 r d nd νd
物面 ∞ ∞
1 17.092 0.69 1.92286 20.88
2 11.685 2.09 1.74320 49.34
3* 207.393 可変
4 164.069 0.63 1.88300 40.76
5 6.908 1.81
6 -12.196 0.63 1.78800 47.37
7 5.313 1.67 1.84666 23.78
8 40.510 可変
9(絞り) ∞ 0.63
10* 14.023 1.17 1.58313 59.38
11 -20.051 可変
12* 15.871 2.89 1.49700 81.54
13 -5.848 0.63 1.88300 40.76
14 -8.692 可変
15 -38.291 0.63 1.92286 20.88
16 12.287 可変
17 ∞ 0.00
18 37.408 2.03 1.75211 25.05
19 -18.946 15.62
20 ∞ 1.13 1.51633 64.14
21 ∞ 1.18
像面(撮像面)∞

非球面データ
第3面
K=0.000
A4=6.71509e-06
第10面
K=-8.887
A4=2.54220e-04,A6=-5.63250e-06
第12面
K=0.000
A4=-1.78527e-04,A6=1.25518e-06,A8=7.99258e-08

ズームデータ
ズーム比 6.8
広角端 中間 望遠端
焦点距離 8.76 22.49 59.59
FNO. 4.98 5.59 6.34
画角2ω 70.52 26.89 10.09
像高 5.40 5.40 5.40
fb(in air) 17.55 17.55 17.55
全長(in air) 59.01 59.01 59.01
d3 0.32 7.17 14.43
d8 9.37 3.03 0.53
d11 10.26 5.35 0.32
d14 0.63 6.82 8.57
d16 5.37 3.58 2.11

群焦点距離
Gf1=28.12 Gf2=-4.60 Gf3=14.33 Gf4=15.20 Gf5=-10.02 Gf6=16.98

図23はデジタルカメラ40の外観を示す前方斜視図である。
デジタルカメラ40は、この例の場合、撮影用光路42上に位置する撮影光学系41、ファインダー用光路上に位置するファインダー光学系43、シャッターボタン45、ポップアップストロボ46、液晶表示モニター等を含み、カメラ40の上部に配置されたシャッターボタン45を押圧すると、それに連動して撮影光学系、例えば上記数値実施例のレンズを通して撮影が行われる。
本実施形態は、その趣旨を逸脱しない範囲で様々な変形例をとることができる。
以上のように、本発明は、小型で適正な立体画像を得られる撮像装置及び撮像方法に適している。
101a、101b、101c、 光学系
102 撮像素子
103 被写体情報取得部
104 視差量算出部
105 光学系選択部
605 視差補正部

Claims (16)

  1. 3つ以上の光学系と、前記光学系による被写体像を撮像する撮像素子と、を有する撮像装置であって、
    少なくとも被写体距離を含む被写体の情報を取得する被写体情報取得部と、
    前記被写体の情報に応じた視差量を算出する視差量算出部と、
    前記視差量算出部によって算出された前記被写体の情報に応じた前記視差量に基づいて3つ以上の前記光学系の中から撮影するための2つの光学系を選択する光学系選択部と、を有することを特徴とする撮像装置。
  2. 3つ以上の前記光学系は、各光学系の光軸間の距離がそれぞれ異なるように配置されており、
    前記被写体情報取得部から得られた前記被写体の情報と、前記視差量算出部によって算出された前記視差量とに基づいて基線長を算出する基線長算出部とを有し、
    前記光学系選択部は、算出された前記基線長に最も近い長さの光軸間距離を有する光学系を選択することを特徴とする請求項1に記載の撮像装置。
  3. 3つ以上の前記光学系の光学系中心を結んだ線分は、一直線上に配置されていること、及び多角形状に配置されていることの少なくともいずれか一方の構成であることを特徴とする請求項1または2に記載の撮像装置。
  4. 前記光学系選択部は、前記被写体のうちの主要な被写体が、適切な視差量で表示される前記基線長に最も近い光軸間距離を有する光学系を選択することを特徴とする請求項2に記載の撮像装置。
  5. 前記光学系選択部は、最も撮像装置に近い側に表示される被写体が適切な視差量で表示される前記基線長に最も近い光軸間距離を有する光学系を選択することを特徴とする請求項2または4に記載の撮像装置。
  6. 前記光学系選択部は、前記光学系の被写界深度内の被写体のうち最も被写体距離が短い前記被写体の視差が、適切な視差量で表示される光学系を選択することを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  7. 前記光学系の被写界深度内の被写体のうち被写体距離が長い被写体の視差が、適切な視差量で表示されない場合、被写体距離が長い前記被写体をぼかす処理を行うぼかし処理部をさらに有する請求項1から6のいずれか1項に記載の撮像装置。
  8. 適切な視差量と、撮影画像の視差量と、の相違が所定以上の場合は画像の座標変換を行う座標変換部を有することを特徴とする請求項1から7のいずれか1項に記載の撮像装置。
  9. 3つ以上の前記光学系の焦点距離はすべて異なることを特徴とする請求項1から6のいずれか1項に記載の撮像装置。
  10. 3つ以上の前記光学系の少なくとも一つの光学系による出力画像の画角を変化させる光学ズーム部を有し、
    前記光学ズーム部により変化する画角の一部は、他の光学系の画角と略同じであることを特徴とする請求項1から9のいずれか一項に記載の撮像装置。
  11. 3つ以上の前記光学系の少なくとも一つの光学系による出力画像の画角を変化させる電子ズーム部を有し、
    前記電子ズーム部により変化する画角の一部は、他の光学系の画角と略同じであることを特徴とする請求項1から9のいずれか一項に記載の撮像装置。
  12. 3つ以上の前記光学系の撮影範囲は、少なくとも他の1つの光学系の撮影範囲を含むことを特徴とする請求項10または11に記載の撮像装置。
  13. 前記光学系選択部は、画角が最も小さい光学系を基準にして、前記光学系を選択することを特徴とする請求項10から12のいずれか1項に記載の撮像装置。
  14. 前記被写体の視差量が所定の視差量になるような撮影位置をガイドするガイド表示部を有することを特徴とする請求項1〜13のいずれか1項に記載の撮像装置。
  15. 少なくとも被写体距離を含む被写体の情報を取得する被写体情報取得ステップと、
    前記被写体の情報に応じた視差量を算出する視差量算出ステップと、
    算出された前記被写体の情報に応じた前記視差量に基づいて3つ以上の光学系の中から撮影するための2つの光学系を選択する光学系選択ステップと、を有することを特徴とする撮像方法。
  16. 前記視差量を補正する視差補正部を有することを特徴とする請求項1から14のいずれか一項に記載の撮像装置。
JP2014528081A 2012-07-30 2013-07-23 撮像装置及び撮像方法 Expired - Fee Related JP5745183B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014528081A JP5745183B2 (ja) 2012-07-30 2013-07-23 撮像装置及び撮像方法

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2012168242 2012-07-30
JP2012168242 2012-07-30
JP2012168241 2012-07-30
JP2012168241 2012-07-30
JP2014528081A JP5745183B2 (ja) 2012-07-30 2013-07-23 撮像装置及び撮像方法
PCT/JP2013/069855 WO2014021134A1 (ja) 2012-07-30 2013-07-23 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP5745183B2 true JP5745183B2 (ja) 2015-07-08
JPWO2014021134A1 JPWO2014021134A1 (ja) 2016-07-21

Family

ID=50027814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014528081A Expired - Fee Related JP5745183B2 (ja) 2012-07-30 2013-07-23 撮像装置及び撮像方法

Country Status (3)

Country Link
US (1) US20150092023A1 (ja)
JP (1) JP5745183B2 (ja)
WO (1) WO2014021134A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9565416B1 (en) * 2013-09-30 2017-02-07 Google Inc. Depth-assisted focus in multi-camera systems
CN106031148B (zh) * 2014-03-21 2020-07-24 华为技术有限公司 成像设备,成像设备中自动对焦的方法以及对应计算机程序
JP6365153B2 (ja) * 2014-09-10 2018-08-01 株式会社ソシオネクスト 画像符号化方法および画像符号化装置
EP3275359A1 (en) * 2015-05-12 2018-01-31 Olympus Corporation Stereoscopic endoscope device
JP6648916B2 (ja) * 2015-07-27 2020-02-14 キヤノン株式会社 撮像装置
JP6552315B2 (ja) * 2015-07-27 2019-07-31 キヤノン株式会社 撮像装置
JP6584237B2 (ja) * 2015-09-01 2019-10-02 キヤノン株式会社 制御装置、制御方法、およびプログラム
US10057558B2 (en) * 2015-09-04 2018-08-21 Kabushiki Kaisha Toshiba Electronic apparatus and method for stereoscopic display
US10706569B2 (en) * 2016-06-08 2020-07-07 Amazon Technologies, Inc. Selectively paired imaging elements for stereo images
CN108616740A (zh) * 2017-01-16 2018-10-02 深圳市易快来科技股份有限公司 一种多镜头3d拍摄的方法、装置及系统
WO2019070317A1 (en) * 2017-10-02 2019-04-11 Leia Inc. MULTI-VIEW CAMERA NETWORK, MULTI-VIEW SYSTEM AND METHOD HAVING CAMERA SUB-NETWORKS WITH SHARED CAMERA
WO2021124941A1 (ja) * 2019-12-20 2021-06-24 ソニーグループ株式会社 撮像装置、情報処理方法、プログラム、および交換レンズ
JP2024043176A (ja) * 2022-09-16 2024-03-29 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法、及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5142357A (en) * 1990-10-11 1992-08-25 Stereographics Corp. Stereoscopic video camera with image sensors having variable effective position
JPH11341522A (ja) * 1998-05-22 1999-12-10 Fuji Photo Film Co Ltd 立体画像撮影装置
JP2005210217A (ja) * 2004-01-20 2005-08-04 Olympus Corp ステレオカメラ
JP3944188B2 (ja) * 2004-05-21 2007-07-11 株式会社東芝 立体画像表示方法、立体画像撮像方法及び立体画像表示装置
US8736672B2 (en) * 2006-08-24 2014-05-27 Reald Inc. Algorithmic interaxial reduction
US8390674B2 (en) * 2007-10-10 2013-03-05 Samsung Electronics Co., Ltd. Method and apparatus for reducing fatigue resulting from viewing three-dimensional image display, and method and apparatus for generating data stream of low visual fatigue three-dimensional image
JP2011199556A (ja) * 2010-03-19 2011-10-06 Nippon Hoso Kyokai <Nhk> 立体映像撮像装置及び立体映像信号生成装置並びにプログラム
JP4875762B2 (ja) * 2010-05-26 2012-02-15 シャープ株式会社 画像処理装置、画像表示装置および画像撮像装置
US20120113232A1 (en) * 2010-11-10 2012-05-10 Sony Pictures Technologies Inc. Multiple camera system and method for selectable interaxial separation

Also Published As

Publication number Publication date
US20150092023A1 (en) 2015-04-02
WO2014021134A1 (ja) 2014-02-06
JPWO2014021134A1 (ja) 2016-07-21

Similar Documents

Publication Publication Date Title
JP5745183B2 (ja) 撮像装置及び撮像方法
JP5755188B2 (ja) 撮像装置およびレンズ装置
US8988538B2 (en) Image pickup apparatus and lens apparatus
JP4852591B2 (ja) 立体画像処理装置、方法及び記録媒体並びに立体撮像装置
US20160191788A1 (en) Image processing apparatus and image pickup apparatus
JP5368350B2 (ja) 立体撮像装置
JP6436783B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP5231277B2 (ja) 撮像装置、撮像方法
WO2012002307A1 (ja) 単眼立体撮像装置
JP5232330B2 (ja) 立体撮像装置及び立体撮像装置の自動焦点調節方法
JP5814692B2 (ja) 撮像装置及びその制御方法、プログラム
JPWO2011121818A1 (ja) 複眼撮像装置、その視差調整方法及びプログラム
US20160275657A1 (en) Imaging apparatus, image processing apparatus and method of processing image
US10230882B2 (en) Image pickup apparatus acquiring a plurality of in-focus images of different field angles
JP6608194B2 (ja) 画像処理装置およびその制御方法ならびにプログラム
JP2019168479A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2018148383A (ja) 撮像装置および撮像ユニット
JP6057627B2 (ja) 立体画像撮像装置、カメラシステム、立体画像撮像装置の制御方法、プログラム、記憶媒体
JP2012124650A (ja) 撮像装置および撮像方法
JP2013061560A (ja) 測距装置および撮像装置
JP2011146815A (ja) ズレ補正装置、ズレ補正装置を備える3次元デジタルカメラ、ズレ補正方法及びズレ補正プログラム
JP2013242378A (ja) 撮像装置、表示方法、およびプログラム
JP2012075079A (ja) シェーディング補正装置、シェーディング補正方法、シェーディング補正プログラム、及び撮影装置
JP6063662B2 (ja) 撮像装置及び撮像方法
WO2015163350A1 (ja) 画像処理装置、撮像装置及び画像処理プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150430

R151 Written notification of patent or utility model registration

Ref document number: 5745183

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees