JPWO2013186803A1 - 画像撮像装置および画像撮像方法 - Google Patents

画像撮像装置および画像撮像方法 Download PDF

Info

Publication number
JPWO2013186803A1
JPWO2013186803A1 JP2014520796A JP2014520796A JPWO2013186803A1 JP WO2013186803 A1 JPWO2013186803 A1 JP WO2013186803A1 JP 2014520796 A JP2014520796 A JP 2014520796A JP 2014520796 A JP2014520796 A JP 2014520796A JP WO2013186803 A1 JPWO2013186803 A1 JP WO2013186803A1
Authority
JP
Japan
Prior art keywords
imaging
unit
imaging unit
imaging units
units
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014520796A
Other languages
English (en)
Other versions
JP5828038B2 (ja
Inventor
平田 真一
真一 平田
洋 大澤
洋 大澤
京子 古村
京子 古村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Application granted granted Critical
Publication of JP5828038B2 publication Critical patent/JP5828038B2/ja
Publication of JPWO2013186803A1 publication Critical patent/JPWO2013186803A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract

バスインタフェース・カメラ制御インタフェース部300は、複数の撮像ユニット20A〜20Fとプロセッサを接続する。制御データ透過ロジック320は、バスインタフェース・カメラ制御インタフェース部300と複数の撮像ユニット20A〜20Fの間でデータをやりとりする。透過マスクレジスタ310は、複数の撮像ユニット20A〜20Fの内、1以上の撮像ユニットに選択的に書き込みデータを供給するために選択すべき撮像ユニットを指定するための書き込みレジスタと、複数の撮像ユニット20A〜20Fの内、1つの撮像ユニットから選択的に読み出しデータを受け取るために選択すべき撮像ユニットを指定するための読み出しレジスタとを含む。制御データ透過ロジック320は、透過マスクレジスタ310によって入出力動作が切り替えられる。

Description

この発明は、画像撮像装置および方法に関する。特に、合成画像を撮像する装置および方法に関する。
デジタルスチルカメラやデジタルビデオカメラが普及しており、撮影した静止画や動画をコンピュータに保存して閲覧、加工したり、ゲーム機やテレビジョン(TV)システムの画面に表示する機会が多くなっている。また、撮影した動画をインターネットの投稿サイトにアップロードし、他のユーザと動画を共有することも盛んである。
デジタルカメラの中には、パノラマ画像の撮影が可能なものもあり、手軽に視野角の広いパノラマ画像を撮影することができるようになってきた。また、撮影方向を変えながら、デジタルカメラの撮影した複数の画像を貼り合わせることでパノラマ画像を生成するソフトウエアツールもよく利用されている。
また、カメラ付きの携帯電話などの携帯機器にもパノラマ撮影モードやパノラマ画像を合成するアプリケーションが設けられ、携帯機器の傾きを変えながらカメラで撮影し、自動的にパノラマ画像に合成することができるものがある。
特開2011−76249号公報
カメラやカメラ付きの携帯機器にパノラマ撮影モードでは、カメラや携帯機器の撮影方向を変えながら撮影するため、位置ずれによる誤差が大きくなる。また、撮影方向の異なる複数の静止画像を逐次的に撮影してパノラマ画像に合成するため、撮影方向の異なる複数の静止画像の間で時間のずれが生じる。そのため、パノラマ静止画を合成できても、パノラマ動画を撮影することは原理的に難しい。そこで、複数のカメラを搭載した多眼カメラを用いて全方位の画像を同時に撮影してパノラマ写真を合成する方法が取られる。
このような全方位多眼式カメラでは、露出やホワイトバランスなどの撮影パラメータの調整を個々のカメラごとに個別に設定する必要があり、一括制御ができず、手間がかかっていた。
本発明はこうした課題に鑑みてなされたものであり、その目的は、多眼カメラを用いた場合でも個々のカメラを一括かつ高速に制御することのできる技術を提供することにある。
上記課題を解決するために、本発明のある態様の画像撮像装置は、複数の撮像ユニットと、前記複数の撮像ユニットとプロセッサを接続するインタフェース部と、前記インタフェース部と前記複数の撮像ユニットの間でデータをやりとりする論理回路と、前記複数の撮像ユニットの内、1以上の撮像ユニットに選択的に書き込みデータを供給するために選択すべき撮像ユニットを指定するための書き込みレジスタと、前記複数の撮像ユニットの内、1つの撮像ユニットから選択的に読み出しデータを受け取るために選択すべき撮像ユニットを指定するための読み出しレジスタとを含む。前記論理回路は、前記書き込みレジスタおよび前記読み出しレジスタによって入出力動作が切り替えられる。
本発明の別の態様は、画像撮像方法である。この方法は、複数の撮像ユニットによる撮像画像が表示される操作画面において、特定の撮像ユニットを撮影パラメータを設定するための基準カメラとして選択するステップと、前記特定の撮像ユニットから撮影パラメータを読み出すステップと、前記特定の撮像ユニット以外の残りの撮像ユニットに前記特定の撮像ユニットから読み出された撮影パラメータを一括で書き込むステップと、設定された撮影パラメータのもとで前記複数の撮像ユニットによる撮像を行うステップとを含む。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
本発明によれば、多眼カメラを用いて容易に合成画像を生成することができる。
実施の形態に係るパノラマ撮像装置の斜視図である。 図1のパノラマ撮像装置の多眼撮像部の側面撮像ユニットの画角と操作・表示部の設置位置を説明する図である。 図1の多眼撮像部の内部構造を説明する図である。 図4(a)〜図4(c)は、図3の固定部材に搭載された6つの撮像ユニットの位置関係を説明する図である。 6つの撮像ユニットが固定された固定部材と本体部の中心軸を示す図である。 図6(a)および図6(b)は、多眼撮像部と本体部の分離可能な構成を説明する図である。 多眼撮像部の底面にも撮像ユニットを設けた構成を示す図である。 図8(a)〜図8(d)は、固定部材の側面に設置された撮像ユニットの画角と固定部材の天頂面に設置された撮像ユニットの画角の関係を説明する図である。 パノラマ撮像装置の多眼撮像部を上から見た上面図において、固定部材の側面に設置された5つの側面撮像ユニットによる視野の重なりを示す図である。 図10(a)および図10(b)は、操作・表示部に表示される操作画面を説明する図である。 本体部のメイン回路に実装されるパノラマ動画ストリーム生成部の機能構成図である。 パノラマ動画ストリーム生成部における動画ストリーム切り替え記録制御に関する構成を示す。 パノラマ動画ストリーム生成部による動画ストリーム切り替え記録制御手順を説明するフローチャートである。 図14(a)および図14(b)は、動画ストリーム切り替え記録制御により生成されるパノラマ動画ストリームのデータ構造を説明する図である。 多眼カメラを選択的に制御するための制御系の構成図である。 図15の多眼カメラ制御系の機能構成を説明する図である。 図17(a)は、図16の多眼カメラ制御系による書き込み処理を説明するフローチャートであり、図17(b)は、図16の多眼カメラ制御系による読み込み処理を説明するフローチャートである。 図16の多眼カメラ制御系の実装例を説明する図である。 図16の多眼カメラ制御系の別の実装例を説明する図である。 図20(a)および図20(b)は、操作・表示部40に表示される操作画面の例を説明する図である。 基準カメラを指定して一括共通設定する場合を説明する図である。 基準カメラを指定して一括共通設定する場合の操作画面例を示す図である。 室内から窓を通して屋外を撮影する場合を説明する図である。 室内から窓を通して屋外を撮影する場合の操作画面例を示す図である。 室内から窓を通して屋外を撮影する場合の操作画面例を示す図である。 一部のカメラをフリーズさせる場合を説明する図である。 一部のカメラをフリーズさせる場合の操作画面例を示す図である。 多段露出撮影を行うためのパノラマ動画ストリーム生成部の機能構成図である。 図29(a)および図29(b)は、比較のため、複数の撮像ユニットに共通の基準露出値を設定して撮影した撮像画像を説明する図である。 図30(a)〜図30(c)は、図28の露出設定部により各撮像ユニットに設定される基準露出値および基準露出値を中心に多段変化させた変動露出値を説明する図である。 図28のHDR合成部によって合成されたパノラマ画像を説明する図である。 多段露出撮影の手順を説明するフローチャートである。 図33(a)〜図33(c)は、図28のHDR合成部による疑似HDR合成の方法を説明する図である。 方位合わせを行うことのできるパノラマ動画ストリーム生成部の機能構成図である。 正面方向の撮像ユニットの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。 正面方向の撮像ユニットの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。 特定の撮像ユニットの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。 特定の撮像ユニットの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。
[パノラマ撮像装置の構成]
図1は、実施の形態に係るパノラマ撮像装置100の斜視図である。パノラマ撮像装置100は、多眼撮像部10と本体部30を含む。本実施の形態では、多眼撮像部10と本体部30は円筒形であり、多眼撮像部10と本体部30は中心軸を合わせて連結されている。
多眼撮像部10は、円筒形状のカメラ筐体12で覆われており、カメラ筐体12には複数の撮像ユニット20A〜20F(以下、総称するときは撮像ユニット20と呼ぶ)が搭載されている。各撮像ユニット20A〜20Fは、レンズ、撮像素子等、撮影に必要な構成要素を含む。本実施の形態では、円筒形状のカメラ筐体12の円周にレンズが位置するように5つの撮像ユニット20A〜20E(以下、「側面撮像ユニット」とも呼ぶ)が等角度で配置されており、カメラ筐体12の上面にレンズが位置するように1つの撮像ユニット20F(以下、「天頂部撮像ユニット」とも呼ぶ)が配置されている。
本体部30は、操作・表示部40、バッテリ、メイン回路、および外部インタフェースを含む。操作・表示部40は、円筒形状の本体部30の外周よりも内側にくぼんだ位置に設けられている。多眼撮像部10の各撮像ユニット20A〜20Fにより撮像された動画データはシリアルインタフェースやUSB(Universal Serial Bus)インタフェースを介して本体部30のメイン回路に伝送される。メイン回路には、各撮像ユニット20A〜20Fにより撮像された動画フレームを多重化してパノラマ動画ストリームを生成する機能が実装される。メイン回路は、USBメモリなどの外部記録デバイスを接続するための外部インタフェースを含み、生成されたパノラマ動画ストリームは外部インタフェースを介して外部記録デバイスに記録される。
操作・表示部40は、タッチパネルを備えたディスプレイである。多眼撮像部10の各撮像ユニット20A〜20Fにより撮影された各画像をディスプレイに表示する。また、複数の撮像ユニット20A〜20Fにより撮影された複数の画像を合成したパノラマ画像をディスプレイに表示することもできる。さらに、ディスプレイには操作メニューを表示することもでき、ユーザはディスプレイの画面を見ながら、タッチパネルに指で直接触れることで画面に対する操作を入力することができる。
図2は、パノラマ撮像装置100の多眼撮像部10の側面撮像ユニット20Aの画角と操作・表示部40の設置位置を説明する図である。パノラマ撮像装置100の本体部30は三脚80に取り付けられている。
側面撮像ユニット20Aによって撮影される視野は、図のように側面撮像ユニット20Aの画角θによってその広がりが示される。撮影者は三脚80の前に座って、下から手を伸ばして操作・表示部40に表示された操作メニューを操作する。操作・表示部40は、円筒形状の本体部30のくぼみ部分に設けられているため、撮影者がタッチパネルに触れて画面上の操作メニューを操作する場合でも、側面撮像ユニット20Aの視野の外側でタッチパネルに触れることができる。これによって、撮影者の指が意図せず画像に写り込むことを避けることができる。
さらに、操作・表示部40が円筒形状の本体部30のくぼみ部分に設けられていることにより、操作・表示部40による照明光がいずれかの撮像ユニット20A〜20Fに写り込むことを避けることができる。操作・表示部40からの照明光による写り込みの影響が所定のレベル以下にするように、操作・表示部40が設けられるくぼみの深さやくぼみ部分に設けられる操作・表示部40の傾きを設計する。
図3は、多眼撮像部10の内部構造を説明する図である。多眼撮像部10のカメラ筐体12の内部では、複数の撮像ユニット20A〜20Fが一つの固定部材14に固定されている。複数の撮像ユニット20A〜20Fを別々の固定部材に固定すると、各固定部材の熱膨張などによる変形のために複数の撮像ユニット20A〜20F間の位置のずれにばらつきが生じる。本実施の形態のように、複数の撮像ユニット20A〜20Fを一つの固定部材14に固定すれば、固定部材14の熱膨張などによる特性変化が撮像ユニット20A〜20Fに与える影響も一定になるから、複数の撮像ユニット20A〜20F間の位置精度を高めることができる。
本実施の形態では固定部材14は正5角柱であり、5角柱の5つの側面に5つの側面撮像ユニット20A、20B、20C、20D、20Eが設置されており、5角柱の天頂面に1つの天頂部撮像ユニット20Fが設置されている。本実施の形態では、固定部材14は5角柱であるが、それ以外の多角柱として、多角柱の周囲の各面に撮像ユニットを設けてもよい。
一般にパノラマ画像は撮影者の水平方向360度に撮影対象があり、頭上は空であったり、足下は地面であることが多い。そこで、本実施の形態のように、多角柱の外周面に撮像ユニットを設け、多角柱の上面に1つの撮像ユニットを設ける構成にすれば、撮影者の水平方向に等角度で視線方向を変えた複数の画像を撮影することができる。また、複数の撮像ユニットを均等間隔で配置したことにより、各撮像ユニットの撮像データをつなぎ合わせてパノラマ画像を生成する際の合成処理が容易になる。さらに、従来の多眼カメラとして、正12面体の各面に撮像ユニット(合計で12個の撮像ユニット)を設けたものがあるが、それに比べて、本実施の形態では、少ない数の撮像ユニットでパノラマ画像合成に必要な画像を撮影できるという利点もある。
図4(a)〜図4(c)は、図3の固定部材14に搭載された6つの撮像ユニット20A〜20Fの位置関係を説明する図である。図4(a)は、固定部材14の中心軸の方向(図3のz軸方向)から見た上面図であり、図4(b)は、撮像ユニット20Aが取り付けられた固定部材14の角柱の一つの側面に垂直な方向(図3のx軸方向)から見た側面図であり、図4(c)は、図3のx軸方向およびz軸方向と垂直をなす図3のy軸方向から見た側面図である。
図4(a)の上面図に示すように、5つの側面撮像ユニット20A〜20Eが水平面において等しい円周角(72°)で半径Lの円をなすように5角柱の固定部材14の周りに配置されており、各側面撮像ユニット20A〜20Eの撮影方向は円の径方向である。図4(b)および図4(c)の側面図に示すように、固定部材14の天頂面に配置された天頂部撮像ユニット20Fと固定部材14の側面に配置された側面撮像ユニット20Bは、垂直面において円周角90°で半径Lの円をなすように配置されている。天頂部撮像ユニット20Fと固定部材14の固定部材14の他の側面に配置された各側面撮像ユニット20A、20C、20D、20Eも同様に円周角90°で半径Lの円をなすように配置されている。言い換えれば、6つの撮像ユニット20A〜20Fは、半径Lの球をなすように配置されている。
図5は、6つの撮像ユニット20A〜20Fが固定された固定部材14と本体部30の中心軸を示す図である。図のように、固定部材14と本体部30の中心軸が一致するように多眼撮像部10は本体部30に連結される。さらに本体部30の三脚座固定穴50は本体部30の中心軸に設けられているため、三脚座固定穴50に結合される三脚の位置が固定部材14の中心軸に一致するようになり、三脚に設置された本体部30を傾けたり、回したりしたときでも、撮影位置や視線方向などの調整がしやすい。
図6(a)および図6(b)は、多眼撮像部10と本体部30の分離可能な構成を説明する図である。図6(a)のように、多眼撮像部10と本体部30を分離させ、画像データを、たとえば、USB(Universal Serial Bus)などの周辺機器を接続するためのインタフェース規格に合わせて変換し、延長可能なケーブル等と用いて物理的に離れた位置にある本体部30と接続してもよい。また、カメラの信号線を延長する、取り外し可能な中継ケーブルを介して多眼撮像部10と本体部30を接続してもよい。また、多眼撮像部10と本体部30の両方に無線通信機能を設け、両者を無線接続してもよい。これにより、本体部30を持ち込めないような狭い場所でも多眼撮像部10だけを持ち込むことでパノラマ撮影が可能になる。たとえば、穴の中に多眼撮像部10を入れて穴の中のパノラマ撮影ができる。
また、本体部30はタブレットPCや携帯電話などの携帯端末であってもよく、多眼撮像部10と本体部30を切り離して多眼撮像部10と本体部30の間で無線通信によりデータをやりとりしてもよい。これにより、撮影者は本体部30を携帯しながら、多眼撮像部10を遠隔地から操作することが可能になり、撮影者の写り込みを避けることがさらに容易になる。
図6(b)は、多眼撮像部10の底面に三脚座固定穴52を設けた構成であり、多眼撮像部10に直接、三脚を結合することができる。多眼撮像部10に無線通信機能を設ければ、多眼撮像部10で撮影されたデータを本体部30や他の携帯端末に送信することができる。
図7は、多眼撮像部10の底面にも撮像ユニット20Gを設けた構成を示す図である。このように上面の撮像ユニット20F以外に底面にも撮像ユニット20Gを設けたことで、全方位の撮影が可能になる。この場合、底面に三脚を結合することはできないため、天井からワイヤなどで多眼撮像部10をつるすなどの方法で撮影を行うことになる。あるいは、多眼撮像部10を空中に投げることで全方位の撮影を行ってもよい。多眼撮像部10に無線通信機能を設ければ、多眼撮像部10で撮影されたデータを本体部30や他の携帯端末に送信することができる。
図8(a)〜図8(d)は、固定部材14の側面に設置された撮像ユニット20Aの画角と固定部材14の天頂面に設置された撮像ユニット20Fの画角の関係を説明する図である。
図8(a)は、固定部材14の側面に設置された側面撮像ユニット20Aの視野60Aと、固定部材14の天頂面に設置された天頂部撮像ユニット20Fの視野60Bの関係を示す。図8(b)は、パノラマ撮像装置100の多眼撮像部10を上から見た上面図(図3のz軸方向から見た図)であり、固定部材14の側面に設置された側面撮像ユニット20Aの視野60Aの水平画角θAHを示す。図8(c)、図8(d)は、パノラマ撮像装置100を横から見た側面図(図3のx軸方向、y軸方向から見た図)である。図8(c)は、固定部材14の天頂面に設置された天頂部撮像ユニット20Fの水平画角θFHを示す。図8(d)は、固定部材14の側面に設置された側面撮像ユニット20Aの垂直画角θAVと、固定部材14の天頂面に設置された天頂部撮像ユニット20Fの垂直画角θFVを示す。
一例として、側面撮像ユニット20Aの水平画角θAHは、θAH=121°であり、固定部材14の側面に5つの側面撮像ユニット20A〜20Eを設置することで水平方向360°のパノラマ撮影を可能にする。一方、側面撮像ユニット20Aの垂直画角θAVは、θAV=134°であり、天頂部撮像ユニット20Fの水平画角θFH(=134°)または垂直画角θFV(=121°)と合わせて垂直方向180°のパノラマ撮影を可能にする。
なお、この例では、側面撮像ユニット20Aの垂直画角θAVと水平画角θAHの関係は、θAV>θAHである。通常のレンズでは水平画角が垂直画角よりも大きいが、ここでは、側面撮像ユニット20A〜20Eの垂直方向の画角を大きくするために、固定部材14の側面では通常に対して90°回転させた状態で撮像ユニット20A〜20Eを設置していることに留意する。
図9は、パノラマ撮像装置100の多眼撮像部10を上から見た上面図において、固定部材14の側面に設置された5つの側面撮像ユニット20A〜20Eによる視野の重なりを示す図である。各側面撮像ユニット20A〜20Eの水平画角は一例として、121°であり、5つの側面撮像ユニット20A〜20Eによる撮影画像を組み合わせると、水平方向360°のパノラマ撮影ができる。
図10(a)および図10(b)は、操作・表示部40に表示される操作画面を説明する図である。図10(a)に示すパノラマ撮像装置100の6つの撮像ユニット20A〜20Fにより撮影される画像はそれぞれ、図10(b)に示す操作画面の領域A〜Fに表示される。
タッチパネルにおいて図10(b)に示す領域A〜Fのいずれかを選択することで、撮像ユニット20A〜20Fのいずれかを基準カメラとして選択することができる。ここでは、領域Bが選択されており、たとえば、領域Bの枠が別の色で表示されるなど、領域Bが強調表示される。領域Bは、撮像ユニット20Bに対応しており、撮像ユニット20Bが基準カメラになり、撮像ユニット20Bが露出やホワイトバランスなどの撮影条件を設定する際の基準となる。
撮影者が自動露出(AE(auto exposure))ロックボタン74を押すと、自動露出によって基準カメラである撮像ユニット20Bが最適露出値に設定され、その最適露出値が他の撮像ユニット20A、20C、20D、20E、20Fにも反映される。AEロックボタン74はトグルになっており、もう一度押すと、AEロックが解除され、各撮像ユニット20A〜20Fに対して独立に露出を自動調整することができる。
次に、撮影者が自動ホワイトバランス(AWB(auto white balance))ロックボタン76を押すと、自動ホワイトバランスによって基準カメラである撮像ユニット20Bがホワイトバランスが調整され、その補正値が他の撮像ユニット20A、20C、20D、20E、20Fにも反映される。AWBロックボタン76もトグルになっており、もう一度押すと、AWBロックが解除され、各撮像ユニット20A〜20Fに対して独立にホワイトバランスを自動調整することができる。
拡張コントロールボタン78を押すと、各種設定メニューが表示され、撮影パラメータのさらなる設定が可能である。
撮影者が動画記録開始/停止ボタン70を押すと、各撮像ユニット20A〜20Fによって動画が撮影され、もう一度、動画記録開始/停止ボタン70を押すと、動画撮影が停止する。静止画撮影ボタン72を押すと、各撮像ユニット20A〜20Fによって静止画像が撮影される。記録された動画または静止画は、本体部30にメイン回路の外部インタフェースに接続されたUSBメモリなどに記録される。
図11は、本体部30のメイン回路に実装されるパノラマ動画ストリーム生成部200の機能構成図である。
撮影制御部210は、多眼撮像部10の撮像ユニット20A〜20Fの露出値やホワイトバランス値、フレームレートなどの撮影パラメータを個別または一括で設定する。また、撮影制御部210は、撮像ユニット20A〜20Fのズームや撮影の開始/停止などを制御する。
撮像ユニット20A〜20Fにより撮影された動画フレームはそれぞれフレームメモリ220A〜220Fに格納される。
動画ストリーム多重化部230は、フレームメモリ220A〜220Fに格納された撮像ユニット20A〜20Fにより撮影された動画フレームを多重化して多眼動画ストリームを生成し、パノラマステッチ部242に供給する。パノラマステッチ部242は、撮像ユニット20A〜20Fにより撮影された動画フレームをつなぎ合わせるステッチング処理によってパノラマ動画を合成し、パノラマ動画ストリームを生成する。パノラマステッチ部242は、消費電力が制限されている場合は、ステッチング処理を行わずに、多眼動画ストリームをそのまま出力することもできる。また、パノラマステッチ部242は、必要に応じて、多眼動画ストリームとパノラマ動画ストリームの両方を出力することもできる。パノラマステッチ部242は、多眼動画ストリームおよびパノラマ動画ストリームの少なくとも一方をパノラマ動画記憶部240に記録する。
表示制御部260は、フレームメモリ220A〜220Fから撮像ユニット20A〜20Fにより撮影された動画フレームを読み出して操作・表示部40の画面に表示する。
ユーザインタフェース部250は、撮像ユニット20A〜20Fの操作メニューの情報を表示制御部260に与え、表示制御部260は操作メニューを操作・表示部40の画面に表示する。
タッチパネル制御部270は、タッチパネルにおけるユーザの指によるタッチ操作を検出し、タッチ位置の情報などをユーザインタフェース部250に与える。ユーザインタフェース部250は、タッチパネル制御部270により与えられたタッチ位置の情報から操作メニューにおいてユーザが選択した操作内容を特定し、撮影制御部210に操作コマンドを送る。撮影制御部210は、ユーザインタフェース部250から与えられた操作コマンドにもとづいて、撮像ユニット20A〜20Fを制御する。
[動画ストリーム切り替え記録制御]
次に、パノラマ撮像装置100のパノラマ動画ストリーム生成部200における動画ストリーム切り替え記録制御について説明する。
図12は、パノラマ動画ストリーム生成部200における動画ストリーム切り替え記録制御に関する構成を示す。ここでは、図11で示した撮影制御部210と動画ストリーム多重化部230の異なる構成と動作を説明する。図11のパノラマ動画記憶部240、表示制御部260、ユーザインタフェース部250、タッチパネル制御部270の各構成は、ここでは図示を省略する。
図12において、破線は制御信号線を示し、太い線は画像データの伝送路を示す。図11で既に説明したように、撮像ユニット20A〜20Fにより撮影された動画フレームはフレームメモリ220A〜220Fにそれぞれ格納され、動画ストリーム多重化部230は、フレームメモリ220A〜220Fに格納された各撮像ユニット20A〜20Fにより撮影された動画フレームを読み出し、多重化して多眼動画ストリームを生成する。
動画ストリーム多重化部230は、各撮像ユニット20A〜20Fにより撮影された動画フレームを多重化する機能の他、動き検出部232、モード判定部234、および制御信号発生部236の各機能を有する。
動き検出部232は、撮像ユニット20A〜20Fにより撮影された動画フレームA〜Fにおいて動きベクトルを検出し、動画フレームA〜Fの動きベクトルの大きさの総和を求める。あるいは、動き検出部232は、特定の1つ以上の注目する撮像ユニットにより撮影された動画フレームにおいて動きベクトルを検出し、注目する1以上の動画フレームの動きベクトルの大きさの総和を求めてもよい。
モード判定部234は、動き検出部232により算出された動きベクトルの大きさの総和が所定の閾値未満である場合、撮像ユニット20A〜20Fをフレーム周期で順次、間欠動作させて、1フレーム毎に撮像ユニット20A〜20Fのいずれかに切り替え、切り替え先の1つの撮像ユニットが出力する撮像画像を対応するフレームメモリから読み出し、1つの動画ストリームに多重化する「撮像ユニット間欠動作モード」に設定する。
モード判定部234は、動き検出部232により算出された動きベクトルの大きさの総和が所定の閾値以上である場合、すべての撮像ユニット20A〜20Fを同時に動作させ、各撮像ユニット20A〜20Fが出力する撮像画像をフレームメモリ220A〜220Fから読み出し、1つの動画ストリームに多重化する「撮像ユニット同時動作モード」に設定する。
モード判定部234は、設定された撮像ユニットの動作モードの情報を撮影制御部210と制御信号発生部236に与える。
撮影制御部210は、モード判定部234により設定される動作モードに応じた制御信号を撮像ユニット20A〜20Fに供給する。
「撮像ユニット間欠動作モード」の場合、撮影制御部210は、撮像ユニット20A〜20Fをフレーム周期で順次、間欠動作させる制御信号を与える。これにより、動作していない撮像ユニットには電力を供給する必要がなくなり、消費電力を削減できる。
「撮像ユニット同時動作モード」の場合、撮影制御部210は、すべての撮像ユニット20A〜20Fを同時に動作させる制御信号を与える。この場合、すべての撮像ユニット20A〜20Fを動作させるため、消費電力はかかるが、被写体の動きが激しい場合やシーンが変わる場合でも、合成されるパノラマ動画の画質が劣化しない。
制御信号発生部236は、モード判定部234により設定される動作モードに応じた制御信号をフレームメモリ220A〜220Fに供給する。「撮像ユニット間欠動作モード」の場合、制御信号発生部236は、1フレーム毎にフレームメモリ220A〜220Fのいずれかに切り替え、切り替え先のフレームメモリからの読み出しをアクティブにし、他のフレームメモリからの読み出しを非アクティブにする制御信号を与える。「撮像ユニット同時動作モード」の場合、制御信号発生部236は、すべてのフレームメモリ220A〜220Fからの読み出しをアクティブにする制御信号を与える。
ここで、「撮像ユニット同時動作モード」の場合であっても、画像データを伝送するインタフェースの帯域幅が(撮像ユニットの個数)×(1フレームのデータ量)×(フレームレート)よりも大きければ、すべてのフレームメモリ220A〜220Fからの読み出しをアクティブにして、同時に各フレームメモリ220A〜220Fから画像データを読み出しても問題がないが、撮像ユニット1つ分のデータ量しか許容できない場合は、いったんフレームメモリ220A〜220Fに画像データを記録しておき、フレームメモリ220A〜220Fを順次切り替えながら、順次画像データを送出するようにしてもよい。
また、撮像ユニット20A〜20Fの立ち上がり時間が遅く、撮像ユニット20A〜20Fの間欠動作をすると支障がある場合は、撮像ユニット20A〜20Fを連続動作させておいて、フレームメモリ220A〜220Fをフレーム周期で順次、間欠動作させて、1フレーム毎にフレームメモリ220A〜220Fのいずれかに切り替え、切り替え先の1つのフレームメモリから撮像画像を読み出し、1つの動画ストリームに多重化してもよい。これによってもフレームメモリに供給する電力を削減することができる。
また、モード判定部234は、撮像画像の動き量だけでなく、パノラマ撮像装置100のバッテリ残量や許容消費電力に応じて、「撮像ユニット間欠動作モード」と「撮像ユニット同時動作モード」を切り替えてもよい。たとえば長時間動作させるためには単位時間上がりの消費電力を抑える必要があり、「撮像ユニット間欠動作モード」に切り替える。また、バッテリ残量が十分である間は「撮像ユニット同時動作モード」で実行し、バッテリ残量が少なくなると「撮像ユニット間欠動作モード」に切り替えてもよい。また、パノラマ撮像装置100が内蔵された充電式バッテリにより駆動されている場合は「撮像ユニット間欠動作モード」に設定し、ACアダプタから供給される外部電力によって駆動されている場合は「撮像ユニット同時動作モード」に設定してもよい。
動画ストリーム多重化部230は、いずれかの動作モードにおいてフレームメモリ220A〜220Fから送出された画像フレームを多重化して多眼動画ストリームを生成し、メインプロセッサ280に与える。
メインプロセッサ280は、多眼動画ストリームに対してステッチング処理を施してパノラマ動画ストリームを生成し、フラッシュメモリなどの2次記憶装置290に記録する。メインプロセッサ280には、パノラマステッチ処理を実行するためにソフトウェアによってパノラマステッチ部242および切替部246の機能構成が実現される。これらの機能はハードウェアによって実装されてもよい。
パノラマステッチ部242は、動画ストリーム多重化部230から供給される多眼動画ストリームに含まれる撮像ユニット20A〜20Fにより撮影された画像フレームをつなぎ合わせてパノラマ画像を合成し、パノラマ画像フレームの時系列データが配置されたパノラマ動画ストリームを生成し、出力する。バッテリ残量や許容消費電力に応じて消費電力が制限されている場合、パノラマステッチ部242は、パノラマ画像を合成せずに、多眼動画ストリームをそのまま出力する。
切替部246は、消費電力制限に応じて、パノラマステッチ部242が出力するパノラマ動画ストリームと多眼動画ストリームを切り替えて2次記憶装置290に記録する。たとえば、利用可能な電力の大小に応じて次のような3段階の制御が可能である。
(a)利用できる電力が小さい場合、パノラマステッチ部242は、パノラマ動画ストリームを生成せずに、多眼動画ストリームを出力する。この場合、切替部246は、パノラマ動画ストリームのデータ伝送経路243上のスイッチ247をオフにし、多眼動画ストリームのデータ伝送経路244上のスイッチ248をオンにし、多眼動画ストリームを2次記憶装置290に記録する。パノラマステッチ処理を行わないことで消費電力を抑えることができる。
(b)利用できる電力が中くらいである場合、パノラマステッチ部242は、パノラマ動画ストリームを生成して出力するが、多眼動画ストリームは出力しない。この場合、切替部246は、パノラマ動画ストリームのデータ伝送経路243上のスイッチ247をオンにし、多眼動画ストリームのデータ伝送経路244上のスイッチ248をオフにし、パノラマ動画ストリームを2次記憶装置290に記録する。パノラマステッチ部242が動作するため、上記(a)の場合よりも電力を消費するが、パノラマ動画がリアルタイムに生成されるというメリットがある。
(c)利用できる電力が大きい場合、パノラマステッチ部242は、パノラマ動画ストリームを生成して出力するとともに、多眼動画ストリームも出力する。この場合、この場合、切替部246は、パノラマ動画ストリームのデータ伝送経路243上のスイッチ247をオンにし、多眼動画ストリームのデータ伝送経路244上のスイッチ248をオンにし、パノラマ動画ストリームと多眼動画ストリームを2次記憶装置290に記録する。多眼動画ストリームおよびパノラマ動画ストリームの両方を生成して記録するため、処理量が多く、記録データ量も増え、消費電力が最も大きくなる。しかし、パノラマ動画ストリームだけでなく多眼動画ストリームも記録しておくことで、用途が増えるというメリットがある。
なお、上記の説明では、撮像ユニット20A〜20Fのフレームレートが同じである場合を説明したが、各撮像ユニット20A〜20Fによる撮像画像の動き量が異なる場合、各撮像ユニット20A〜20F毎にフレームレートを変えてもよい。その場合は、撮影制御部210および制御信号発生部236は、フレームレートの比で撮像ユニット20A〜20Fおよびフレームメモリ220A〜220Fを切り替える比率を変える。すなわち、フレームレートの比で重み付けしたラウンドロビン式制御を行う。
図13は、パノラマ動画ストリーム生成部200による動画ストリーム切り替え記録制御手順を説明するフローチャートである。
動き検出部232は、各撮像ユニット20A〜20Fによる撮像画像から動きベクトルを検出する(S10)。動き検出部232は、全撮像ユニット20A〜20Fまたは注目する1以上の撮像ユニットの撮像画像の動きベクトルの大きさの総和を求める(S12)。
モード判定部234は、各撮像画像の動きベクトルの大きさの総和が閾値以上であるかどうかを判定し(S14)、各撮像画像の動きベクトルの大きさの総和が閾値未満である場合(S14のN)、「撮像ユニット間欠動作モード」に設定する(S20)。「撮像ユニット間欠動作モード」の場合、低フレームレートで多眼動画ストリームまたはパノラマ動画ストリームが記録される「低フレームレート記録モード」となる。
モード判定部234は、各撮像画像の動きベクトルの大きさの総和が閾値以上である場合(S14のY)、パノラマ撮像装置100が消費電力制限内で動作しているかどうかを判定する(S16)。たとえば、長時間撮影の場合の単位時間当たりの許容消費電力やバッテリ残量などを考慮して、消費電力制限内で動作中であるかどうかを判定する。モード判定部234は、パノラマ撮像装置100が消費電力制限内で動作していなければ(S16のN)、「撮像ユニット間欠動作モード」に設定し(S20)、パノラマ撮像装置100が消費電力制限内で動作していれば(S16のY)、「撮像ユニット同時動作モード」に設定する(S18)。「撮像ユニット同時動作モード」の場合、高フレームレートで多眼動画ストリームまたはパノラマ動画ストリームが記録される「高フレームレート記録モード」となる。
撮影制御部210は、モード判定部234によって設定されたモードに応じて、撮像ユニット20A〜20Fを同時動作または間欠動作に切り替え、制御信号発生部236は、モード判定部234によって設定されたモードに応じて、フレームメモリ220A〜220Fを同時出力または間欠出力に切り替える(S22)。
パノラマ動画ストリーム生成部200は、各モードに応じてフレームメモリ220A〜220Fから出力されるフレームデータを多重化して多眼動画ストリームまたはパノラマ動画ストリームを生成する(S24)。
ユーザにより撮影が停止された場合(S26のY)、終了し、撮影が停止されない場合(S26のN)、ステップS10に戻ってS10からの処理を繰り返す。
図14(a)および図14(b)は、動画ストリーム切り替え記録制御により生成される多眼動画ストリームのデータ構造を説明する図である。ここでは撮像ユニットの個数は4であり、各撮像ユニットのフレームレートは30fps(フレーム/秒)であるとする。
図14(a)は、「撮像ユニット間欠動作モード」の場合に生成される多眼動画ストリームを示す。撮像ユニット20A〜20Dはフレーム周期で順次、間欠動作し、各フレーム周期で、撮像ユニット20Aにより撮像されたフレームA、撮像ユニット20Bにより撮像されたフレームB、撮像ユニット20Cにより撮像されたフレームC、撮像ユニット20Dにより撮像されたフレームDの順に多重化される。撮像ユニット20A〜20Dは4回に1回の割合で間欠動作するため、各撮像ユニット20A〜20Dの実効フレームレートは30fps/4=7.5fpsとなり、多重化後の多眼動画ストリームの転送レートは30fps/4×4=30fps相当となる。すなわち低フレームレートの多眼動画ストリームが生成される。4つの撮像ユニット20A〜20Dが間欠動作しているため、4つの撮像ユニット20A〜20Dにより撮像された4つの撮像画像を合成したパノラマ画像において、隣り合う撮像画像は異なるタイミングに撮像されたものになるが、動きが少ない場合は、時間の異なる撮像画像をつなぎ合わせたパノラマ画像の画質に大きな影響はない。
図14(b)は、「撮像ユニット同時動作モード」の場合に生成される多眼動画ストリームを示す。撮像ユニット20A〜20Dは同時動作し、各フレーム周期で撮像ユニット20Aにより撮像されたフレームA、撮像ユニット20Bにより撮像されたフレームB、撮像ユニット20Cにより撮像されたフレームC、および撮像ユニット20Dにより撮像されたフレームDが多重化される。したがって、各撮像ユニット20A〜20Dの実効フレームレートは30fpsのままであり、多重化後の多眼動画ストリームの転送レートは30fps×4=120fps相当となる。すなわち高フレームレートの多眼動画ストリームが生成される。4つの撮像ユニット20A〜20Dは同時動作しているため、4つの撮像ユニット20A〜20Dにより撮像された4つの撮像画像を合成したパノラマ画像において、隣り合う撮像画像は同じタイミングに撮像されたものになるから、動きが激しい場合であっても、撮像画像をつなぎ合わせたパノラマ画像の画質が保たれる。
以上説明したパノラマ動画ストリーム生成部200の動画ストリーム切り替え記録制御による作用効果を説明する。
一般に、被写体の動きが遅かったり、動きが少ない場合、カメラのフレームレートを落としても画像品質はさほど低下しない。逆に被写体の動きが激しい場合には、カメラのフレームレートを落とす(CMOSイメージセンサの場合、シャッタースピードが長くなることに相当する)と、動きブレにより著しく画質が低下してしまう。多眼式カメラの場合、最高フレームレートで全カメラのデータを常に同時に記録すれば、いかなるシーンにおいても最高の画質が得られるが、消費電力増大およびフラッシュメモリ、SSD(Solid State Drive)、HDD(Hard Disk Drive)等のデータ記憶装置の記録容量を圧迫してしまう問題が生じる。そこで、カメラの動作状態と、記録データをシーンに応じて適応的に制御できることが望ましい。
本実施の形態の動画ストリーム切り替え記録制御によれば、シーンの動きに応じて撮像ユニット20A〜20Fの動作モードとフレームメモリ220A〜220Fの出力モードを切り替えることができる。シーンの動きが大きいときは、各撮像ユニットの実効フレームレートを確保しなければ画質が劣化するため、消費電力よりは画質を優先して「撮像ユニット同時動作モード」に設定し、シーンの動きが小さいときは、各撮像ユニットの実効フレームレートを落としても画質はそれほど劣化しないため、「撮像ユニット間欠動作モード」に切り替えて消費電力を抑える。このようにシーンの動きに応じて動作モードを切り替えることで、画質をさほど損なわずに、消費電力を抑え、記録容量を削減することができる。また、バッテリ残量や許容消費電力に応じて動作モードを切り替えれば、パノラマ撮像装置100を効率良く使用することができる。さらに、「撮像ユニット間欠動作モード」では低フレームの画像ストリームが生成されるため、記録容量を削減することができる。
[多眼カメラ制御系]
図15は、多眼カメラを選択的に制御するための制御系の構成図である。図12の撮影制御部210は、バスインタフェース・カメラ制御インタフェース部300と、透過マスクレジスタ310と、制御データ透過ロジック320とを含み、メインプロセッサ280からの命令を受けて、複数の撮像ユニット20A〜20Fの内、任意の撮像ユニットをまとめて選択的に制御する。たとえば、自動露出(AE)、自動ホワイトバランス(AWB)、露出値(EV)などの制御を一括または選択的に行うことができる。
バスインタフェース・カメラ制御インタフェース部300は、メインプロセッサ280と撮像ユニット20をつなぐ所定の規格のバスインタフェースおよび撮像ユニット20A〜20Fを制御するための専用インタフェースであり、メインプロセッサ280からの指示を受けて、制御データ透過ロジック320へ制御信号を与える。
制御データ透過ロジック320は、撮像ユニット20A〜20Fへの制御データの書き込みまたは撮像ユニット20A〜20Fからのデータの読み出しを行うための回路である。制御データ透過ロジック320は、書き込みに関しては、撮像ユニット20A〜20Fに対してユニキャスト、マルチキャスト、ブロードキャストのいずれかで書き込みデータを送信し、読み出しに関しては撮像ユニット20A〜20Fからユニキャストで読み出しデータを受信することを可能にする。
透過マスクレジスタ310は、制御データ透過ロジック320の回路の入出力動作を制御するためのレジスタである。透過マスクレジスタ310は、撮像ユニット20A〜20Fの個数分の透過マスクレジスタである。
図16は、図15の多眼カメラ制御系の機能構成を説明する図である。カメラ制御インタフェース302は、図15のバスインタフェース・カメラ制御インタフェース部300の一例であり、メインプロセッサ280とともにアプリケーションプロセッサ140を構成する。アプリケーションプロセッサ140は、たとえば、システムオンチップ(SoC)技術によって実装される。
図16の機能構成図において、図15の制御データ透過ロジック320は、I2CやSPIなどのバスインタフェースによってカメラ制御インタフェース302と撮像ユニット20A〜20Fを接続する回路であり、スイッチ130A〜130Fとマルチプレクサ132を含む。
カメラ制御インタフェース302のデータ送信部Txは、スイッチ130A〜130Fを経由して撮像ユニット20A〜20Fと接続され、メインプロセッサ280により指示された制御データが撮像ユニット20A〜20Fに選択的に書き込まれる。制御データ書き込み透過レジスタ110(以下、単に「書き込み透過レジスタ」という)は、撮像ユニット20A〜20Fの個数分の透過マスクレジスタであり、撮像ユニット20A〜20Fに対応するスイッチ130A〜130Fのオン/オフを切り替えるマスクが設定される。
たとえば、書き込み透過レジスタ110の値が‘110000’であるとき、2個の撮像ユニット20Aおよび20Bに対応するスイッチ130Aおよび130Bがオンになり、それ以外の4個の撮像ユニット20C〜20Fに対応するスイッチ130C〜130Fがオフになる。これにより、制御データは2個の撮像ユニット20Aおよび20Bに選択的に書き込まれる。
撮像ユニット20A〜20Fは、多入力1出力のマルチプレクサ132を介してカメラ制御インタフェース302のデータ受信部Rxに接続され、メインプロセッサ280からの読み出し指示にしたがって撮像ユニット20A〜20Fからデータが選択的に読み出される。カメラ設定値読み出し透過レジスタ120(以下、単に「読み出し透過レジスタ」という)は、撮像ユニット20A〜20Fの個数分の透過選択レジスタであり、マルチプレクサ132の複数の入力ストリームのうちのひとつを選択するマスクが設定される。
たとえば、読み出し透過レジスタ120の値が‘010000’であるとき、マルチプレクサ132に入力される6つの撮像ユニット20A〜20Fからの入力ストリームの中から1つの撮像ユニット20Bの入力ストリームが選択され、その撮像ユニット20Bからのデータがマルチプレクサ132から出力ストリームとして出力され、カメラ制御インタフェース302の受信部Rxに供給される。
図16の構成では、メインプロセッサ280から撮像ユニット20A〜20Fに対してデータを読み書きするためのインタフェースは一つであり、書き込み透過レジスタ110および読み出し透過レジスタ120の透過マスクを書き換えるだけで、撮像ユニット20A〜20Fに対して一括または選択的にデータを読み書きできる。撮像ユニット20A〜20Fのそれぞれに独立したインタフェースを設けると回路規模が大きくなるが、図16の構成ではインタフェースを一つにして回路点数を削減することができる。また、書き込み透過レジスタ110を書き換えるだけで書き込み対象の撮像ユニットを任意に選択して、選択された撮像ユニットに対して同時にデータを書き込むことができるため、書き込みを高速化できる。
図17(a)は、図16の多眼カメラ制御系による書き込み処理を説明するフローチャートである。
メインプロセッサ280は、撮像ユニット20A〜20Fに書き込むべき制御データを準備する(S30)。制御データは、たとえば、露出値などの撮影条件に関するデータであり、ユーザインタフェース部250によってユーザから指定される。
メインプロセッサ280は、書き込み対象の撮像ユニットを決定し、書き込み透過レジスタ110に書き込み対象の撮像ユニットを指定する値を書き込む(S32)。書き込み透過レジスタ110が撮像ユニットの個数分の透過マスクである場合、書き込み対象の撮像ユニットを選択する透過マスクを設定する。書き込み透過レジスタ110によってスイッチ120A〜120Fのオン/オフ状態が設定される。書き込み透過レジスタ110の透過マスクの設定は、書き込み対象の撮像ユニットに制御データを選択的に送信するために必要である。
書き込みに対するアクノレッジ(ACK)を必要とする場合、メインプロセッサ280は、読み出し対象の撮像ユニットを決定し、読み出し透過レジスタ120に読み出し対象の撮像ユニットを指定する値を書き込む(S34)。読み出し透過レジスタ120が撮像ユニットの個数分の透過マスクである場合、読み出し対象の撮像ユニットを選択する透過マスクを設定する。多入力1出力のマルチプレクサ132への複数の入力ストリームの内、読み出し透過レジスタ120によって指定された入力ストリームが選択され、出力ストリームとして出力される。読み出し透過レジスタ120の透過マスクの設定は、書き込み対象の撮像ユニットから選択的にACKを受信するために必要である。
ここで、書き込み先の撮像ユニットは各々、書き込みが完了した時点でACKを返す。本来であれば、書き込み対象の全ての撮像ユニットからACKを受け取り、ACKの受信確認を個々に行わなければならないが、もしそのような処理を行おうとすると回路規模が増大し、バス規格とは異なる手順が必要になる。しかし、通常、書き込み処理に失敗することは極めてまれであるから、書き込み対象の撮像ユニットの内、一つの撮像ユニットからのACKのみを透過させてACK確認を行うことで、書き込み対象の全てのACK確認の代わりとすることができ、回路も単純になる。このため、本実施の形態では、ACK確認の際、読み出し透過レジスタ120は1つのビットのみを立てることにしている。もし、各々の撮像ユニットに書き込みが正しく行われたかどうかを厳密に確認したいなら、書き込み処理の後で、各々の撮像ユニットに対して個別にレジスタ値の読み出しを行い、ACK確認を行えばよい。
カメラ制御インタフェース302は、制御データを書き込むための信号を送信端子Txからスイッチ120A〜120Fを介して撮像ユニット20A〜20Fに向けて出力する(S36)。このとき、書き込み透過レジスタ110による透過マスクにしたがってスイッチ120A〜120Fのオン/オフ状態が切り替えられ、書き込み対象として選択された撮像ユニット20だけに制御データが書き込まれる。
書き込みに対するACKが必要である場合、カメラ制御インタフェース302は、撮像ユニット20A〜20Fから、マルチプレクサ132を介してACK信号を受信端子Rxにて受信する(S38)。このとき、読み出し透過レジスタ120による透過マスクにしたがって、読み込み対象として選択された撮像ユニットからACKが確認される。
なお、書き込みに対するACKが不要である場合は、ステップS34とステップS38の処理を省くことができる。
図17(b)は、図16の多眼カメラ制御系による読み込み処理を説明するフローチャートである。
メインプロセッサ280は、読み出すべき撮像ユニット20のレジスタを決定する(S40)。
メインプロセッサ280は、読み出し対象の撮像ユニットを決定し、書き込み透過レジスタ110に読み出し対象の撮像ユニットを指定する値を書き込む(S42)。書き込み透過レジスタ110が撮像ユニットの個数分の透過マスクである場合、読み出し対象の撮像ユニットを選択する透過マスクを設定する。書き込み透過レジスタ110によってスイッチ120A〜120Fのオン/オフ状態が設定される。書き込み透過レジスタ110の透過マスクの設定は、読み出し対象の撮像ユニットに選択的に読み出しアドレスを送信するために必要である。
次に、メインプロセッサ280は、読み出し対象の撮像ユニットを決定し、読み出し透過レジスタ120に読み出し対象の撮像ユニットを指定する値を書き込む(S44)。読み出し透過レジスタ120が撮像ユニットの個数分の透過マスクである場合、読み出し対象の撮像ユニットを選択する透過マスクを設定する。多入力1出力のマルチプレクサ132への複数の入力ストリームの内、読み出し透過レジスタ120によって指定された入力ストリームが選択され、出力ストリームとして出力される。読み出し透過レジスタ120の透過マスクの設定は、読み出し対象の撮像ユニットから選択的にデータとACKを受信するために必要である。
カメラ制御インタフェース302は、撮像ユニットへの読み出しアドレスを送信端子Txからスイッチ120A〜120Fを介して撮像ユニット20A〜20Fに向けて出力する(S46)。このとき、書き込み透過レジスタ110による透過マスクにしたがってスイッチ120A〜120Fのオン/オフ状態が切り替えられ、データの読み出し対象として選択された撮像ユニット20だけに読み出しアドレスが送られる。
カメラ制御インタフェース302は、撮像ユニット20A〜20Fから、マルチプレクサ132を介して指定されたアドレスに対するデータを受信端子Rxにて受信する(S48)。このとき、読み出し透過レジスタ120による透過マスクにしたがって、読み出し対象として選択された撮像ユニットからデータが受け取られ、ACKが確認される。
図18は、図16の多眼カメラ制御系の実装例を説明する図である。図18の実装例では、I2C(Inter-Integrated Circuit)と呼ばれる周辺デバイスとのシリアル通信の方式を利用する。ここでは、簡単のため、撮像ユニットの個数が4個(撮像ユニット20A〜20D)の場合を説明する。
I2Cインタフェース304は、アプリケーションプロセッサ140側にあるインタフェースであり、I2C通信のマスタである。撮像ユニット20A〜20Dは、I2C通信のスレーブである。
I2Cステート監視回路150は、受信ステートにて受信イネーブルをトライステートバッファ170に対してイネーブルする回路である。これにより、マルチプレクサ176からのデータの受信がイネーブルされる。書き込み時は、トライステートバッファ170はブロックされている。
I2Cインタフェース304が出力するSDATAは撮像ユニット20A〜20Dに対応するトライステートバッファ172A〜172Dに供給される。書き込み透過レジスタ110の透過マスクにしたがって書き込み対象の撮像ユニットに対応するトライステートバッファがイネーブルされ、SDATAは書き込み対象の撮像ユニットだけに送信される。プルアップ抵抗174はトライステートバッファ172A〜172Dの出力信号が適切な論理レベルとなるように調整するための抵抗器である。I2Cインタフェース304が出力するSCLKは撮像ユニット20A〜20Dの同期を取るためのクロック信号である。
読み出し透過レジスタ120の透過マスクにしたがって、多入力1出力のマルチプレクサ132の入力端子の内、指定された入力端子からの入力値が多重化されて、トライステートバッファ170を介してI2Cインタフェース304に供給される。
同図では、書き込み透過レジスタ110の透過マスクは‘1100’であるから、書き込み時には撮像ユニット20Aと20Bに制御データが書き込まれる。読み出し透過レジスタ120の透過マスクは‘1000’であるから、読み込み時には撮像ユニット20AからACKが読み出される。
図19は、図16の多眼カメラ制御系の別の実装例を説明する図である。図19の実装例では、SPI(ISerial Peripheral Interface)と呼ばれるコンピュータ内部で使われるデバイス間を接続するバスインタフェースを利用する。ここでも、簡単のため、撮像ユニットの個数が4個(撮像ユニット20A〜20D)の場合を説明する。
SPIインタフェース306は、アプリケーションプロセッサ140側にあるインタフェースであり、SPI通信のマスタである。撮像ユニット20A〜20Dは、SPI通信のスレーブである。
SPIインタフェース306が出力するCS#信号はチップセレクト信号であり、NAND回路180A〜180Dに供給される。書き込み透過レジスタ110は、書き込み対象の撮像ユニット20A〜20Dを選択するための透過マスクであり、撮像ユニット20A〜20Dに対応するNAND回路180A〜180Dにレジスタ値が供給される。この例では、書き込み透過レジスタ110の透過マスクは‘1100’であり、2つのNAND回路180Aおよび180Bに1が入力され、残り2つのNAND回路180Cおよび180Dに0が入力される。NAND回路180A〜180Dの出力値CAM1_CS#〜CAM4_CS#は、撮像ユニット20A〜20Dに反転入力される。これにより、2つの撮像ユニット20Aおよび20Bがセレクトされ、SPIインタフェース306のMOSI(Master Out Slave In)からの制御データTxDataが撮像ユニット20Aおよび20Bに送信される。
SPIインタフェース306のCLKからのSCLK信号は同期を取るために撮像ユニット20A〜20Dに供給される。
SPIインタフェース306のMISO(Master In Slave Out)にはマルチプレクサ182からの読み出しデータRxDataが受信される。読み出し透過レジスタ120は、読み出し対象の撮像ユニット20A〜20Dを選択するための透過マスクであり、多入力1出力のマルチプレクサ182の入力信号を選択するために使われる。この例では、読み出し透過レジスタ120の透過マスクは‘1000’であり、多入力1出力のマルチプレクサ132への複数の入力ストリームの内、撮像ユニット20Aからの入力ストリームが選択され、マルチプレクサ132の出力ストリームとして出力される。
図20(a)および図20(b)は、操作・表示部40に表示される操作画面の例を説明する図である。図20(a)に示すパノラマ撮像装置100の6つの撮像ユニット20A〜20Fにより撮影される画像はそれぞれ、図20(b)に示す操作画面の領域A〜Fに表示される。
操作画面の領域A〜Fの枠は、基準カメラとして選択されたときは、たとえば青色などの色で表示される。また領域がグルーピングされると、各グループごとに枠の色が変わる。基準カメラとしての選択はトグルになっており、クリックするたびに指定/非指定が切り替わる。
動画記録開始/停止ボタン70、静止画撮影ボタン72、自動露出ロックボタン74、自動ホワイトバランスロックボタン76、および拡張コントロールボタン78は、図10(b)で既に説明した通りであるから説明を省略する。
カメラフリーズボタン75を押すと、選択した撮像ユニットは、現在撮像された画像のままフリーズする。すなわち、撮像ユニットは動作したままで、カメラフリーズボタン75を押したときの画像を保持し続ける。カメラフリーズボタン75はトグルになっており、もう一度押すと、カメラフリーズが解除され、選択した撮像ユニットによる撮像が再開する。
グルーピングボタン77を押すと、複数の領域A〜Fの中から任意に選択した領域がグループ化される。言い換えれば、撮像ユニット20A〜20Fの中から特定の撮像ユニットが選択されてグループ化される。グルーピングしたい領域は、操作画面上で領域をクリックしたり、自由曲線で囲むなどにより、選択することができる。
図21は、基準カメラを指定して一括共通設定する場合を説明する図であり、図22は、その場合の操作画面例である。
図21に示すように、撮像ユニット20Aを基準カメラとして設定し、基準カメラの露出値などの撮影パラメータを他の撮像ユニット20B〜20Fにも一括設定する。たとえば、屋内撮影をする場合、正面方向の撮像ユニット20Aを基準カメラとして設定し、他の撮像ユニット20B〜20Fは基準カメラと同じ露出設定で撮影を行う。
図22に示すように、撮像ユニット20Aに対応する領域Aを基準カメラとして選択し、自動露出ロックボタン74、自動ホワイトバランスロックボタン76などを押すと、他の撮像ユニット20B〜20Fに対しても同じパラメータが反映される。
読み出し透過レジスタ120は、基準カメラとして選択された撮像ユニット20Aを読み出し対象の撮像ユニットとして指定する値に設定され、基準カメラである撮像ユニット20Aから露出値やホワイトバランス値などの撮影パラメータが読み出される。その後、書き込み透過レジスタ110は、基準カメラとして選択された撮像ユニット20A以外の残りの撮像ユニット20B〜20Fを書き込み対象の撮像ユニットとして指定する値に設定され、基準カメラである撮像ユニット20Aから読み出された撮影パラメータが残りの撮像ユニット20B〜20Fに一括で書き込まれる。
より具体的な操作手順は以下の通りである。
(1)操作画面において正面カメラの領域Aをクリックする。これにより、領域Aの枠が青色になり、撮像ユニット20Aが基準カメラとなる。
(2)自動ホワイトバランスロックボタン76を押して、基準カメラである撮像ユニット20Aの調整値ですべての撮像ユニット20A〜20Fのホワイトバランスをロックする。
(3)自動露出ロックボタン74を押して、基準カメラである撮像ユニット20Aの調整値ですべての撮像ユニット20A〜20Fの露出値をロックする。
(4)動画記録開始/停止ボタン70または静止画撮影ボタン72により撮影する。
図23は、室内から窓を通して屋外を撮影する場合を説明する図であり、図24および図25は、その場合の操作画面例である。
図23に示すように、窓190から外を撮影する場合、窓側の撮像ユニット20A、20Bおよび20Eは屋外撮影用に露出を絞るが、残りの撮像ユニット20Cおよび20Dは屋内撮影用の露出設定で撮影する必要がある。
図24に示すように、窓側の撮像ユニット20A、20Bおよび20Eに対応する領域A、BおよびEを自由曲線192で囲んで選択する。グルーピングボタン77を押して、選択された領域A、BおよびEをグループ化する。
次に、図25に示すように、同一グループに属する領域A、BおよびEの内、領域Bを選択して撮像ユニット20Bを基準カメラとして選択する。これにより、基準カメラである撮像ユニット20Bと同一の撮影パラメータが同じグループに属する他の撮像ユニット20Aおよび20Eにも反映される。
読み出し透過レジスタ120は、グループ内で基準カメラとして選択された撮像ユニット20Bを読み出し対象の撮像ユニットとして指定する値に設定され、基準カメラである撮像ユニット20Bから露出値やホワイトバランス値などの撮影パラメータが読み出される。その後、書き込み透過レジスタ110は、グループ内で基準カメラとして選択された撮像ユニット20B以外の残りの撮像ユニット20Aおよび20Eを書き込み対象の撮像ユニットとして指定する値に設定され、基準カメラである撮像ユニット20Bから読み出された撮影パラメータが残りの撮像ユニット20Aおよび20Eに一括で書き込まれる。
より具体的な操作手順は以下の通りである。
(1)操作画面において窓側の撮像ユニット20A、20Bおよび20Eに対応する領域A、BおよびEを選択する。
(2)グルーピングボタン77を押して、選択された領域A、BおよびEをグルーピングする。これにより、領域A、BおよびEの枠が緑色になり、第1グループを形成する。残りの領域C、DおよびFは、第2グループを形成する。
(3)領域Bをクリックする。これにより、領域Bの枠が青色になり、領域Bに対応する撮像ユニット20Bが緑色の第1グループの基準カメラとなる。
(4)領域Dをクリックする。これにより、領域Dの枠が青色になり、領域Dに対応する撮像ユニット20Dが第2グループの基準カメラとなる。
(5)自動ホワイトバランスロックボタン76を押すと、第1グループにおいて、基準カメラである撮像ユニット20Bの調整値で同一グループ内の撮像ユニット20A、20Bおよび20Eのホワイトバランスがロックされる。また、第2グループにおいて、基準カメラである撮像ユニット20Dの調整値で同一グループ内の撮像ユニット20C、20Dおよび20Fのホワイトバランスがロックされる。
(6)自動露出ロックボタン74を押すと、第1グループにおいて、基準カメラである撮像ユニット20Bの調整値で同一グループ内の撮像ユニット20A、20Bおよび20Eの露出値がロックされる。また、第2グループにおいて、基準カメラである撮像ユニット20Dの調整値で同一グループ内の撮像ユニット20C、20Dおよび20Fの露出値がロックされる。
(7)動画記録開始/停止ボタン70または静止画撮影ボタン72により撮影する。
図26は、一部のカメラをフリーズさせる場合を説明する図であり、図27は、その場合の操作画面例である。
図26に示すように、パノラマ画像の撮影中に人物194が進入してきた場合、人物194が写っていない状態でカメラの画像をフリーズさせて、そのカメラの撮影を一時的に中断させる。この例では、人物194が撮像画像に写らないように、撮像ユニット20Aおよび撮像ユニット20Bによる撮像を一時中断させ、人物194が写っていない画像でフリーズさせる。
図27に示すように、フリーズさせたい領域AおよびBを選択し、グルーピングボタン77を押してグループ化し、その後、領域AまたはBのいずれか一方を基準カメラとして選択してカメラフリーズボタン75を押す。これにより、同一グループに属する領域AおよびBに対応する撮像ユニット20Aおよび20Bを一時停止させて、人物が写っていない画像でフリーズさせることができる。
より具体的な操作手順は以下の通りである。
(1)操作画面においてフリーズさせたい撮像画像の領域AおよびBを選択する。
(2)グルーピングボタン77を押して、選択された領域AおよびBをグルーピングする。これにより、領域AおよびBの枠が緑色になる。
(3)領域AまたはBをクリックする。これにより選択された方の領域に対応する撮像ユニットが基準カメラとなるが、実際にはカメラをフリーズさせたいグループを指定したのと同じ効果となる。
(4)人物が写っていない状態で、カメラフリーズボタン75を押す。これにより(3)で指定したカメラグループがフリーズ状態となり、領域AおよびBが人物が写っていない画像でフリーズする。
(5)以後、フリーズしていない残りの撮像ユニット20C〜20Fにより撮影する。
以上述べたように、本実施の形態の多眼カメラ制御系によれば、データ書き込み用マスクレジスタとデータ読み出し用選択レジスタを、メインプロセッサがカメラに対してアクセスするインターフェースと各カメラモジュールのインターフェースの間に挿入することで、一括かつ高速にカメラの制御が行えるようになり、結果としてカメラ制御が簡単かつ効率的に行えるようになる。既存インタフェースにレジスタを挿入するだけで多眼カメラ制御系を実現できるため、カメラモジュールやプロセッサのインタフェースを変更する必要がなく、制御系の設計は容易である。
[多段露出撮影]
図28は、多段露出撮影を行うためのパノラマ動画ストリーム生成部200の機能構成図である。ここでは、多段露出撮影に関係する構成を図示しており、それ以外の構成は説明の便宜上、省略している。図28の露出設定部400は、図11で説明した撮影制御部210に実装することができ、図28のHDR合成部420は、図11で説明した動画ストリーム多重化部230に実装することができる。
露出設定部400は、複数の撮像ユニット20A〜20Fのそれぞれに対して露出値を設定する。具体的には、各撮像ユニット20A〜20Fに対して個別の基準露出値を設定し、さらにその基準露出値を中心に上下に露出値を数段変化させた相対露出値を設定する。各撮像ユニット20A〜20Fの個別の基準露出値は、各撮像ユニット20A〜20Fの自動露出(AE)機構によって最適な露出値に設定してもよい。
露出設定部400による各撮像ユニット20A〜20Fに対する露出値の設定は、図15で説明した多眼カメラ制御系を用いて一括または選択的に行うことができる。
各撮像ユニット20A〜20Fによって露出値を変えて撮像された低ダイナミックレンジ(LDR;low dynamic range)の撮像画像はフレームバッファ430A〜430Fに保持される。各フレームバッファ430A〜430Fは、各撮像ユニット20A〜20Fに設定された複数の露出値で撮影された画像を格納する領域を備えたフレームメモリである。
HDR合成部420は、各フレームバッファ430A〜430Fから各撮像ユニット20A〜20Fによって撮像された露出値の異なる低ダイナミックレンジの撮像画像を読み出し、最適な露出値の撮像領域をステッチング処理によって合成することにより、高ダイナミックレンジ(HDR;high dynamic range)のパノラマ画像を生成する。なお、最終的な出力フォーマットがLDRのパノラマ画像である場合は、HDR合成部420は、HDRの合成画像にトーンマッピング処理を施してダイナミックレンジを圧縮したLDRのパノラマ画像を生成することもできる。
HDR合成部420は、隣接する撮像画像の間で特徴点を抽出し、特徴点をもとに隣接する撮像画像をステッチしてパノラマ画像を合成する。特徴点抽出処理には画像マッチングで用いられる公知の技術を用いることができる。HDR合成部420により生成されたパノラマ画像はパノラマ画像記憶部410に記憶される。
図29(a)および図29(b)は、比較のため、複数の撮像ユニット20A〜20Fに共通の基準露出値を設定して撮影した撮像画像を説明する図である。
図29(a)は、ある撮像ユニット20Aによって基準露出値(ここでは基準露出値を0とする)を中心に露出値を多段で変化させてブラケット撮影したときの画像440A〜446Aを示す。画像442Aは基準露出値EV=0で撮影された画像であり、画像443A、444A、445A、446Aは、基準露出値EV=0に対して露出値EVをそれぞれ+1、+4、+5、+7だけ増やして撮像された画像の例である。また、画像441A、440Aは、基準露出値EV=0に対して露出値EVをそれぞれ−4、−7だけ減らして撮像された画像である。露出値EVを+1だけ増やすと光量が2倍に増加し、露出値EVを−1だけ減らすと光量が1/2倍に減少する。
図29(a)において、露出値EV=−7のときの画像440Aは「黒つぶれ」を起こしており、情報量はゼロである。露出値EV=+7のときの画像446Aは一部に「白とび」を生じている。
図29(b)は、別の撮像ユニット20Bによって図29(a)と同じ基準露出値EVを中心に露出値を多段で変化させてブラケット撮影したときの画像440B〜446Bを示す。画像442Bは基準露出値EV=0で撮影された画像であり、画像443B、444B、445B、446Bは、基準露出値EV=0に対して露出値EVをそれぞれ+1、+4、+5、+7だけ増やして撮像された画像である。また、画像441B、440Bは、基準露出値EV=0に対して露出値EVをそれぞれ−4、−7だけ減らして撮像された画像である。
露出値EV=−7およびEV=−4のときの画像440Bおよび441Bは「黒つぶれ」を起こしており、情報量はゼロである。露出値EV=+7のときの画像446Bは一部に「白とび」を生じている。
このように、すべての撮像ユニット20A〜20Fにおいて同じ基準露出値を用いて基準露出値の上下で露出値を多段変化させてブラケット撮影を行うと、「黒つぶれ」や「白とび」を起こす画像が撮影され、無駄が生じる。
多眼式カメラでは、各カメラの視野によって適正露出値が大きく異なる。全方位において適正な露出範囲を確保するためには露出値を多段に変化させて撮影するブラケット撮影が有効である。しかし、多眼式カメラでは、カメラアングルによって視野の明るさのダイナミックレンジが大きく異なり、最も暗い視野から最も明るい視野までをカバーする広い露出範囲ですべてのカメラの露出値を多段階で設定してブラケット撮影することが必要になり、画像のデータ量が増えるとともに撮影時間もかかる。また、すべてのカメラについて同じ基準露出値の上下で露出値を多段変化させると、カメラアングルによっては、「白とび」や「黒つぶれ」となる画像が多数撮影されることになり、無駄も多い。
そこで、本実施の形態の多段露出撮影では、撮像ユニット20A〜20F毎に基準露出値を個別に設定し、各撮像ユニット20A〜20Fにおいて個別の基準露出値の上下で露出値を多段変化させてブラケット撮影を行う。
図30(a)〜図30(c)は、露出設定部400により各撮像ユニット20A〜20Fに設定される基準露出値および基準露出値を中心に所定段数分だけ露出値を多段変化させた相対露出値を説明する図である。図30(a)は、撮像ユニット20Aに設定される基準露出値EVaおよび基準露出値EVaに対してプラス方向に3段、マイナス方向に3段だけ露出値を変化させた相対露出値を示す。図30(b)は、撮像ユニット20Bに設定される基準露出値EVbおよび基準露出値EVbに対してプラス方向に3段、マイナス方向に3段だけ露出値を変化させた相対露出値を示す。図30(c)は、撮像ユニット20Cに設定される基準露出値EVcおよび基準露出値EVcに対してプラス方向に3段、マイナス方向に3段だけ露出値を変化させた相対露出値を示す。
各撮像ユニット20A、20B、20Cに設定される基準露出値EVa、EVb、EVcは、各撮像ユニット20A、20B、20Cの視野において最適な露出値であり、一般には異なる値である。ここでは、各撮像ユニット20A、20B、20Cの基準露出値EVa、EVb、EVcは2段ずつずれている。各撮像ユニット20A、20B、20Cにおいて2段ずつすれた各基準露出値EVa、EVb、EVcのそれぞれに対して+3、+2、+1、−1、−2、−3だけ露出値を変化させた多段露出撮影を行うため、結果的には3つの撮像ユニット20A、20B、20C全体では合計11段の異なる露出値で撮影が行われたことになる。
各撮像ユニット20におけるブラケット撮影の段数は、撮影方向が隣接する撮像ユニット20間で露出範囲の一部が重複するように決定することが望ましい。HDR合成する際、隣接する撮像画像間で露出の相関を取れるようにするためである。
各撮像ユニット20A、20B、20Cでは、それぞれの適正な基準露出値を中心としてプラス方向に3段、マイナス方向に3段だけ露出値を変化させた多段露出撮影が行われているから、各撮像ユニット20A、20B、20Cでは図29(a)および図29(b)で説明したような「黒つぶれ」や「白とび」の画像は撮影されない。そのため、多段露出撮影に無駄が生じない。また、従来のようにすべての撮像ユニット20A、20B、20Cにおいて11段分の多段露出撮影をする場合と比べて、撮像ユニット20A、20B、20Cでは基準露出値を含めて+3〜−3の7段階のブラケット撮影で済むため、ブラケット撮影にかかる時間を大きく短縮することができる。このように、本実施の形態では、各撮像ユニット20A〜20Fによるブラケット撮影の段数が少なくても、HDR合成時のダイナミックレンジが大きく広がり、無駄なく効率的にHDRパノラマ画像合成が可能になる。
図31は、HDR合成部420によって合成されたパノラマ画像を説明する図である。各撮像ユニット20A〜20Fによって複数の露出値で撮影された撮像画像から適正な露出値の撮像領域をステッチして合成することで図31に示すパノラマ画像が得られる。たとえば、領域450は、窓の外の風景であり、ある撮像ユニット20Aによって当該撮像ユニット20Aの視野での適正露出値で撮影された撮像画像から抽出され、領域451は、室内の風景であり、別の撮像ユニット20Bによって当該撮像ユニット20Bの視野での適正露出値で撮影された撮像画像から抽出されたものである。
図32は、本実施の形態による多段露出撮影の手順を説明するフローチャートである。
撮像ユニット20A〜20Fのそれぞれにおいて自動露出(AE)と自動ホワイトバランス(AWB)を行い、各撮像ユニット20A〜20Fを最適な基準露出値に設定して撮影を行う(S50)。
露出設定部400は、各撮像ユニット20A〜20Fの基準露出値を中心に±N段の相対露出値を各撮像ユニット20A〜20Fに設定する(S52)。
各撮像ユニット20A〜20Fにおいて、設定された±N段の相対露出値でブラケット撮影を行う(S54)。
HDR合成部420は、各撮像ユニット20A〜20Fによるブラケット撮影で得られた撮像画像から適正露出の領域をステッチング処理により合成することで、ハイダイナミックレンジのパノラマ画像を合成する(S56)。
上記の説明では、各撮像ユニット20A〜20Fにおいて、基準露出値の上下に所定段数分だけ露出値を変化させて多段露出撮影を行い、各撮像ユニット20A〜20Fにより多段露出撮影された撮像画像から適正露出で撮像された領域をステッチしてハイダイナミックレンジのパノラマ画像を合成した。変形例として、各撮像ユニット20A〜20Fにおいて個別の基準露出値のもとで撮像された画像から擬似的なハイダイナミックレンジのパノラマ画像を合成することもできる。以下、この擬似HDR合成の方法を説明する。
図33(a)〜図33(c)は、HDR合成部420による疑似HDR合成の方法を説明する図である。
疑似HDR合成では、各撮像ユニット20A〜20Fを個別に自動露出制御、自動ホワイトバランス制御して最適な露出値のもとでそれぞれ1枚の画像を撮影する。HDR合成部420が、撮影方向が隣接する2枚の撮影画像間で対応点をマッチングさせてHDRパノラマ画像を合成するが、その際、マッチング点の輝度および色は等しいと考えられること、また、各撮像ユニット20A〜20Fの自動露出による最適な露出値が既知であることから、撮像画像の各画素の輝度および色情報を8ビットに丸め込まずに、HDR合成を行う。
具体的には、3つの撮像ユニット20A、20B、20Cの適正露出値のずれによって、撮像ユニット20Aにより撮影された画像の8ビットの輝度情報が図33(a)に示す輝度範囲にあり、撮像ユニット20Bにより撮影された画像の8ビットの輝度情報が図33(b)に示す輝度範囲にあり、撮像ユニット20Cにより撮影された画像の8ビットの輝度情報が図33(c)に示す輝度範囲にあるとする。
すなわち、32ビットのハイダイナミックレンジで見た場合、撮像ユニット20Bにより撮影された画像の輝度は、撮像ユニット20Aにより撮影された画像の輝度よりも3ビット分だけ明るい範囲にあり、さらに撮像ユニット20Cにより撮影された画像の輝度は、撮像ユニット20Bにより撮影された画像の輝度よりも6ビット分だけ明るい範囲にある。この場合、撮像ユニット20Bにより撮影された画像の画素を撮像ユニット20Aにより撮影された画像の画素に比べて3ビットだけビットシフトさせ、撮像ユニット20Cにより撮影された画像の画素は撮像ユニット20Aにより撮影された画像の画素に比べて3+6=9ビットだけビットシフトさせて、32ビットのビットレンジで画素値を足すことで実質的に8+3+6=17ビットのハイダイナミックレンジの画素値を得ることができる。
色差情報についても同様に各撮像ユニット20A〜20Fの適正露出値に応じてビットシフトさせた上で32ビット空間で画素値を加算することでハイダイナミックレンジの色差情報を得ることができる。
[方位合わせ]
上記の説明では、撮像ユニットの撮影方向を特定の方角に合わせることをしなかったが、たとえば、正面方向の撮像ユニット20Aの撮影方向を磁北に合わせると、ステッチ処理後のパノラマ画像の中心が北を向くようになる。以下では、パノラマ画像の方位合わせを行うための構成と処理を説明する。
図34は、方位合わせを行うことのできるパノラマ動画ストリーム生成部200の機能構成図である。図11のパノラマ動画ストリーム生成部200と異なる構成と動作について説明する。
パノラマ撮像装置100の多眼撮像部10または本体部30には3軸地磁気センサ252と3軸加速度センサ254が搭載される。さらに、3軸ジャイロセンサが搭載されてもよい。3軸地磁気センサ252は、地磁気ベクトルを3軸で検出し、3軸加速度センサ254は、パノラマ撮像装置100の加速度ベクトルを3軸で検出する。
原理的には、パノラマ撮像装置100に3軸ジャイロ(角速度)センサ、3軸加速度センサ、および3軸地磁気センサの少なくとも一つが搭載されていれば、パノラマ撮像装置100の傾きを3軸で検出して、姿勢情報を取得することができる。また、3軸地磁気センサにより、地磁気ベクトルを3軸で検出して、方位情報を取得することができる。
3軸地磁気センサ252により取得された方位情報はユーザインタフェース部250に供給され、3軸地磁気センサ252、3軸加速度センサ254および(もし搭載されていれば)3軸ジャイロセンサの少なくとも一つによって取得された姿勢情報はユーザインタフェース部250に供給される。
ユーザインタフェース部250は、パノラマ撮像装置100の多眼撮像部10が撮影している方位およびパノラマ撮像装置100の姿勢を画面に表示する指示を表示制御部260に与え、表示制御部260は操作・表示部40に撮影方位と姿勢に関する情報をグラフィックスを用いて表示する。また、ユーザインタフェース部250は、たとえばいずれかの撮像ユニットの撮影方向が磁北になるように多眼撮像部10の方向をユーザに調整させる指示を画面に表示させる。
図35(a)、(b)および図36(a)、(b)は、正面方向の撮像ユニット20Aの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。
図35(a)は、パノラマ撮像装置100の多眼撮像部10を天頂から見た概略図であり、操作・表示部40の反対側に正面方向を撮影する撮像ユニット20Aがある。この撮像ユニット20Aを正面カメラとして、正面カメラの撮影方向を磁北に合わせるようにユーザに多眼撮像部10の方向を調整させる案内を操作・表示部40に表示する。3軸地磁気センサ252によって測定された磁北は、図35(a)に矢印で示されており、撮像ユニット20Aの撮影方向は、磁北からずれている。
図35(b)は、操作・表示部40に表示される画面を説明する図である。操作・表示部40には通常、図10(b)に示したように、6つの撮像ユニット20A〜20Fにより撮影される画像が領域A〜Fに表示されているが、正面カメラである撮像ユニット20Aに対応する領域Aを選択すると、図35(b)に示すように、撮像ユニット20Aにより撮影される画像だけが操作・表示部40に大きく表示される。
撮像ユニット20Aにより撮影される画像が表示される領域A(符号42)の下に、3軸地磁気センサ252によって測定された磁北が方位磁石の画像によって表示される(符号44)。さらにその下には、「正面カメラの向きを磁北に合わせてください」というメッセージが表示される(符号46)。ユーザがパノラマ撮像装置100の本体部30を回転させて多眼撮像部10の向きを変えると、撮像ユニット20Aの撮影方向が変わり、それに伴い、方位磁石の磁北の向きも変わる。
ユーザは表示されたメッセージにしたがって、符号44で表示される方位磁石の磁北がまっすぐ上を向くまで、パノラマ撮像装置100の本体部30を回転させて、撮像ユニット20Aの向きを変える。
図36(a)、(b)は、正面カメラである撮像ユニット20Aの向きが3軸地磁気センサ252によって測定された磁北に一致したときの様子を示す。図36(a)に示すように、撮像ユニット20Aの向きは磁北に一致しており、このとき、図36(b)に示すように、方位磁石の磁北はまっすぐ上を向き(符号44)、「Good!」というメッセージが表示される(符号46)。
このように、ユーザは正面カメラである撮像ユニット20Aの撮影方向が磁北になるようにパノラマ撮像装置100の本体部30の向きを設定することができる。これにより、ステッチ処理した後のパノラマ画像の画像中心が真北になる。操作・表示部40の裏側にある撮像ユニット20Aを正面カメラとして、正面カメラの向きを磁北とすることで、正面カメラの撮影方位とパノラマ画像の中心の方角の対応関係が明確になる。なお、パノラマ撮像装置100には3軸加速度センサ254も搭載されることから、水準器などを使わなくても、多眼撮像部10の傾きを検出して、ステッチ処理の際に水平補正することが可能である。
上記の説明では、正面カメラである撮像ユニット20Aの撮影方向を磁北に合わせたが、パノラマ画像の画像中心としたい任意の方角に撮像ユニット20Aの撮影方向を合わせるようにしてもよい。また、正面カメラ以外の撮像ユニットの撮影方向を磁北または任意の方角に合わせてもよい。
図37(a)、(b)および図38(a)、(b)は、特定の撮像ユニットの撮影方向を磁北に合わせるためのユーザインタフェースを説明する図である。
3軸地磁気センサ252によって測定される磁北は図37(a)の矢印の方向であるとする。ここでは、撮像ユニット20A〜20Eの内、撮像ユニット20Cがもっとも磁北に近い向きにある。
図37(b)は、操作・表示部40に表示される画面であり、撮像ユニット20A〜20Fにより撮影される画像がそれぞれ領域A〜Fに表示されている(符号42)。撮像ユニット20Cがもっとも磁北に近い向きにあるため、撮像ユニット20Cの撮影画像が表示される領域Cに方位磁石が表示され、磁北の方向が示される(符号44)。下部には「カメラの向きを磁北に合わせてください」というメッセージが表示される(符号46)。
ユーザは表示されたメッセージにしたがって、符号44で示される方位磁石の磁北がまっすぐ上を向くまで、パノラマ撮像装置100の本体部30を回転させて、撮像ユニット20Cの向きを変える。
図38(a)、(b)は、撮像ユニット20Cの向きが3軸地磁気センサ252によって測定された磁北に一致したときの様子を示す。図38(a)に示すように、撮像ユニット20Cの向きは磁北に一致しており、このとき、図38(b)に示すように、方位磁石の磁北はまっすぐ上を向き(符号44)、「Good!」というメッセージが表示される(符号46)。
このように、ユーザは特定の撮像ユニットの撮影方向が磁北になるようにパノラマ撮像装置100の本体部30の向きを設定することができる。撮影者の位置によっては、操作・表示部40の反対側にある撮像ユニット20Aの撮影方向を磁北として撮影することが困難な場合があり、そのような場合は、正面カメラ以外のいずれかの撮像ユニットの撮影方向を磁北に設定すればよい。
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
上記の説明では、多眼撮像装置の一例として、異なる撮影方向に向けられた複数の撮像ユニット20A〜20Fを含む多眼撮像部10と、操作・表示部40を備えた本体部30とを含むパノラマ撮像装置100を説明したが、多眼撮像部10の複数の撮像ユニットの少なくとも一部は、同一の方向に向けられていてもよい。特に、多眼撮像部10が同じ撮影方向に向けられた少なくとも2つの撮像ユニットを含み、これら2つの撮像ユニットの視点位置が異なる場合、視差のある画像を撮影することができる。視差画像を用いれば、奥行きが把握できるため、3次元画像を生成することができる。視差画像がパノラマ画像であれば、3次元パノラマ画像を生成することができる。多眼撮像装置の別の例として、このようなステレオ撮像装置を構成してもよく、上述の実施の形態における様々な特徴的な構成および処理は、このようなステレオ撮像装置に対しても当てはまることは当業者に理解されるところである。
本実施の形態では、パノラマ画像として全天球パノラマ画像を例に挙げて説明したが、パノラマ画像は、全天球パノラマ画像である必要はなく、撮影方向の異なる複数のカメラで撮影された複数の画像を合成した画像であってもよい。
なお、本明細書でいう「パノラマ画像」とは、狭義の意味での「パノラマ」画像、すなわち横長または縦長の画像や360度の全景画像などに限られるものではなく、単に広い範囲を対象とする画像である。また、実施の形態では、合成画像としてパノラマ画像を生成する例を説明したが、出力される合成画像はいわゆるパノラマ画像である必要はなく、任意のサイズの通常の画像を合成画像としても本発明を適用することができる。あるいは、出力される合成画像は、複数の異なる解像度の画像が階層化された画像であってもよい。そのような階層化された画像は、画像の一部の領域を拡大すると拡大された領域がより解像度の高い画像に置き換わるように構成されてもよい。
10 多眼撮像部、 12 カメラ筐体、 14 固定部材、 20A〜20F 撮像ユニット、 30 本体部、 40 操作・表示部、 50 三脚座固定穴、 70 動画記録開始/停止ボタン、 72 静止画撮影ボタン、 74 自動露出ロックボタン、 75 カメラフリーズボタン、 76 自動ホワイトバランスロックボタン、 77 グルーピングボタン、 78 拡張コントロールボタン、 80 三脚、 100 パノラマ撮像装置、 200 パノラマ動画ストリーム生成部、 210 撮影制御部、 220A〜220F フレームメモリ、 230 動画ストリーム多重化部、 232 動き検出部、 234 モード判定部、 236 制御信号発生部、 240 パノラマ動画記憶部、 242 パノラマステッチ部、 246 切替部、 250 ユーザインタフェース部、 252 3軸地磁気センサ、 254 3軸加速度センサ、 260 表示制御部、 270 タッチパネル制御部、 280 メインプロセッサ、 290 2次記憶装置、 300 バスインタフェース・カメラ制御インタフェース部、 310 透過マスクレジスタ、 320 制御データ透過ロジック、 400 露出設定部、 410 パノラマ画像記憶部、 420 HDR合成部、 430A〜403F フレームバッファ。
合成画像を撮像する技術に利用できる。

Claims (8)

  1. 複数の撮像ユニットと、
    前記複数の撮像ユニットとプロセッサを接続するインタフェース部と、
    前記インタフェース部と前記複数の撮像ユニットの間でデータをやりとりする論理回路と、
    前記複数の撮像ユニットの内、1以上の撮像ユニットに選択的に書き込みデータを供給するために選択すべき撮像ユニットを指定するための書き込みレジスタと、
    前記複数の撮像ユニットの内、1つの撮像ユニットから選択的に読み出しデータを受け取るために選択すべき撮像ユニットを指定するための読み出しレジスタとを含み、
    前記論理回路は、前記書き込みレジスタおよび前記読み出しレジスタによって入出力動作が切り替えられることを特徴とする画像撮像装置。
  2. 前記書き込みレジスタおよび前記読み出しレジスタは、前記複数の撮像ユニットの個数分のマスクレジスタであり、選択すべき撮像ユニットを指定するために前記マスクレジスタの対応するビットに有意の値が設定されることを特徴とする請求項1に記載の画像撮像装置。
  3. 前記論理回路は、
    前記複数の撮像ユニットのそれぞれへ供給される書き込みデータの経路をそれぞれ機能的にオン/オフする複数のスイッチと、
    前記複数の撮像ユニットから受け取られる読み込みデータの経路において、前記複数の撮像ユニットからの複数の入力ストリームの内、1つの入力ストリームを選択して出力ストリームにするマルチプレクサとを含み、
    前記書き込みレジスタは、前記複数のスイッチのオン/オフを切り替えるマスクレジスタであり、前記読み出しレジスタは、前記マルチプレクサへの複数の入力ストリームの内、1つの入力ストリームを選択するマスクレジスタであることを特徴とする請求項2に記載の画像撮像装置。
  4. 特定の撮像ユニットが撮影パラメータを設定するための基準として選択された場合、前記特定の撮像ユニットから撮影パラメータを読み出すために、前記読み出しレジスタは、前記特定の撮像ユニットを選択すべき撮像ユニットとして指定する値に設定され、前記特定の撮像ユニット以外の残りの撮像ユニットに前記特定の撮像ユニットから読み出された撮影パラメータを書き込むために、前記書き込みレジスタは、前記残りの撮像ユニットを選択すべき撮像ユニットとして指定する値に設定されることを特徴とする請求項1から3のいずれかに記載の画像撮像装置。
  5. 前記複数の撮像ユニットの内、1以上の撮像ユニットがグループとして選択された場合、前記グループ内の特定の撮像ユニットから撮影パラメータを読み出すために、前記読み出しレジスタは、前記グループ内の特定の撮像ユニットを選択すべき撮像ユニットとして指定する値に設定され、前記グループ内の特定の撮像ユニット以外の残りの撮像ユニットに前記グループ内の特定の撮像ユニットから読み出された撮影パラメータを書き込むために、前記書き込みレジスタは、前記グループ内の残りの撮像ユニットを選択すべき撮像ユニットとして指定する値に設定されることを特徴とする請求項1から3のいずれかに記載の画像撮像装置。
  6. 複数の撮像ユニットによる撮像画像が表示される操作画面において、特定の撮像ユニットを撮影パラメータを設定するための基準カメラとして選択するステップと、
    前記特定の撮像ユニットから撮影パラメータを読み出すステップと、
    前記特定の撮像ユニット以外の残りの撮像ユニットに前記特定の撮像ユニットから読み出された撮影パラメータを一括で書き込むステップと、
    設定された撮影パラメータのもとで前記複数の撮像ユニットによる撮像を行うステップとを含む画像撮像方法。
  7. 前記複数の撮像ユニットの内、1以上の撮像ユニットをグループとして選択するステップをさらに含み、
    前記選択するステップは、前記グループ内の撮像ユニットの中から特定の撮像ユニットを撮影パラメータを設定するための基準カメラとして選択し、
    前記読み出すステップは、前記グループ内の特定の撮像ユニットから撮影パラメータを読み出し、
    前記書き込むステップは、前記グループ内の特定の撮像ユニット以外の残りの撮像ユニットに前記グループ内の特定の撮像ユニットから読み出された撮影パラメータを書き込むことを特徴とする請求項6に記載の画像撮像方法。
  8. 複数の撮像ユニットによる撮像画像が表示される操作画面において、特定の撮像ユニットを撮影パラメータを設定するための基準カメラとして選択するステップと、
    前記特定の撮像ユニットから撮影パラメータを読み出すステップと、
    前記特定の撮像ユニット以外の残りの撮像ユニットに前記特定の撮像ユニットから読み出された撮影パラメータを一括で書き込むステップと、
    設定された撮影パラメータのもとで前記複数の撮像ユニットによる撮像を行うステップとをコンピュータに実現させるプログラムを格納したことを特徴とするコンピュータ読み取り可能な記録媒体。
JP2014520796A 2012-06-11 2012-06-11 画像撮像装置および画像撮像方法 Active JP5828038B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2012/003797 WO2013186803A1 (ja) 2012-06-11 2012-06-11 画像撮像装置および画像撮像方法

Publications (2)

Publication Number Publication Date
JP5828038B2 JP5828038B2 (ja) 2015-12-02
JPWO2013186803A1 true JPWO2013186803A1 (ja) 2016-02-01

Family

ID=49757677

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014520796A Active JP5828038B2 (ja) 2012-06-11 2012-06-11 画像撮像装置および画像撮像方法

Country Status (4)

Country Link
US (1) US9692966B2 (ja)
JP (1) JP5828038B2 (ja)
CN (1) CN104365081B (ja)
WO (1) WO2013186803A1 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013031155A1 (ja) * 2011-08-30 2013-03-07 パナソニック株式会社 撮像装置
JP2015019215A (ja) * 2013-07-10 2015-01-29 オリンパスイメージング株式会社 撮像装置及び撮像方法
JP2015215422A (ja) * 2014-05-08 2015-12-03 ソニー株式会社 撮像装置
JP6470506B2 (ja) 2014-06-09 2019-02-13 株式会社キーエンス 検査装置
JP6345500B2 (ja) * 2014-06-20 2018-06-20 株式会社ソシオネクスト デジタルカメラの露出制御方法およびデジタルカメラ
CN104469148A (zh) * 2014-11-24 2015-03-25 北京福至创展商业管理有限公司 一种即刻3d同步拍摄系统
CN105721763A (zh) * 2014-12-05 2016-06-29 深圳富泰宏精密工业有限公司 合成照片的系统及方法
JP6361931B2 (ja) * 2015-04-23 2018-07-25 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびに画像処理方法
WO2016174942A1 (ja) * 2015-04-28 2016-11-03 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
CN105430285A (zh) * 2015-12-31 2016-03-23 深圳市华途数字技术有限公司 多目摄像机及其曝光方法
EP3424210B1 (en) 2016-02-29 2021-01-20 Nokia Technologies Oy Adaptive control of image capture parameters in virtual reality cameras
US10148874B1 (en) * 2016-03-04 2018-12-04 Scott Zhihao Chen Method and system for generating panoramic photographs and videos
DK179246B1 (en) * 2016-03-31 2018-03-05 Ap Moeller Maersk As Container ship
US10200624B2 (en) * 2016-04-06 2019-02-05 Facebook, Inc. Three-dimensional, 360-degree virtual reality exposure control
JP6695739B2 (ja) * 2016-05-26 2020-05-20 ソニーセミコンダクタソリューションズ株式会社 処理装置、画像センサ、およびシステム
JP6727930B2 (ja) * 2016-06-01 2020-07-22 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP6741533B2 (ja) * 2016-09-26 2020-08-19 キヤノン株式会社 撮影制御装置およびその制御方法
CN108696694B (zh) * 2017-03-31 2023-04-07 钰立微电子股份有限公司 有关深度信息/全景图像的图像装置及其相关图像系统
JP2019008202A (ja) * 2017-06-27 2019-01-17 ソニーセミコンダクタソリューションズ株式会社 撮像装置
CN107395946B (zh) * 2017-09-08 2023-10-13 北京枭龙防务科技有限公司 一种usb连接的模块化摄像系统
US11057573B2 (en) * 2017-12-20 2021-07-06 Texas Instruments Incorporated Multi camera image processing
JP7098980B2 (ja) * 2018-03-16 2022-07-12 株式会社リコー 撮像装置、画像処理装置および画像処理方法
JP7052652B2 (ja) * 2018-09-06 2022-04-12 トヨタ自動車株式会社 移動ロボット、遠隔端末、移動ロボットの制御プログラム、および遠隔端末の制御プログラム
JP2022035525A (ja) * 2020-08-21 2022-03-04 キオクシア株式会社 半導体記憶装置の動作条件の調整方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148865A (ja) * 1999-11-19 2001-05-29 Minolta Co Ltd 画像入力装置
JP2003244511A (ja) * 2002-02-13 2003-08-29 Fuji Photo Film Co Ltd 全方位撮影カメラ
JP2010074535A (ja) * 2008-09-18 2010-04-02 Fujifilm Corp 撮影装置及び撮影方法
JP2012015751A (ja) * 2010-06-30 2012-01-19 Fujifilm Corp 複眼カメラ、撮影条件設定方法、及び撮影条件設定プログラム
JP2012099889A (ja) * 2010-10-29 2012-05-24 Olympus Imaging Corp カメラ、撮影方法、撮影プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355624A (ja) 1998-06-05 1999-12-24 Fuji Photo Film Co Ltd 撮影装置
US6532533B1 (en) 1999-11-29 2003-03-11 Texas Instruments Incorporated Input/output system with mask register bit control of memory mapped access to individual input/output pins
US7027083B2 (en) * 2001-02-12 2006-04-11 Carnegie Mellon University System and method for servoing on a moving fixation point within a dynamic scene
US7463280B2 (en) 2003-06-03 2008-12-09 Steuart Iii Leonard P Digital 3D/360 degree camera system
EP1876828B1 (en) 2006-07-03 2016-10-26 Axis AB Method and apparatus for configuring parameter values for cameras
CN201199315Y (zh) 2008-05-21 2009-02-25 北京微视新纪元科技有限公司 多目相机
JP5464955B2 (ja) 2009-09-29 2014-04-09 株式会社ソニー・コンピュータエンタテインメント パノラマ画像表示装置
CN102063337B (zh) 2009-11-17 2014-01-08 中兴通讯股份有限公司 多处理器核的信息交互和资源分配的方法及系统
JP5473775B2 (ja) 2010-05-18 2014-04-16 キヤノン株式会社 撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148865A (ja) * 1999-11-19 2001-05-29 Minolta Co Ltd 画像入力装置
JP2003244511A (ja) * 2002-02-13 2003-08-29 Fuji Photo Film Co Ltd 全方位撮影カメラ
JP2010074535A (ja) * 2008-09-18 2010-04-02 Fujifilm Corp 撮影装置及び撮影方法
JP2012015751A (ja) * 2010-06-30 2012-01-19 Fujifilm Corp 複眼カメラ、撮影条件設定方法、及び撮影条件設定プログラム
JP2012099889A (ja) * 2010-10-29 2012-05-24 Olympus Imaging Corp カメラ、撮影方法、撮影プログラム

Also Published As

Publication number Publication date
JP5828038B2 (ja) 2015-12-02
CN104365081B (zh) 2018-05-08
US9692966B2 (en) 2017-06-27
WO2013186803A1 (ja) 2013-12-19
US20150145952A1 (en) 2015-05-28
CN104365081A (zh) 2015-02-18

Similar Documents

Publication Publication Date Title
JP5828039B2 (ja) 画像生成装置および画像生成方法
JP5881827B2 (ja) 画像撮像装置および画像撮像方法
JP5828038B2 (ja) 画像撮像装置および画像撮像方法
JP6151809B2 (ja) 画像撮像装置および画像撮像方法
US8988558B2 (en) Image overlay in a mobile device
JP7135299B2 (ja) 画像処理装置、表示装置、画像処理方法、プログラム
WO2013186805A1 (ja) 画像撮像装置および画像撮像方法
CN105744132B (zh) 全景图像拍摄的光学镜头配件
JP2022128489A (ja) 撮像装置
US20210160429A1 (en) Electronic device including tilt ois and method for capturing image and processing captured image
JP2020042064A (ja) 表示制御装置、撮像装置、制御方法、プログラム、及び、記憶媒体
KR20200025241A (ko) 움직임 변화량에 기반하여 영상 제공 방식을 변경하는 전자 장치 및 방법
US11122202B2 (en) Imaging device, image processing system, and image processing method
US20200412928A1 (en) Imaging device, imaging system, and imaging method
JP2024084281A (ja) 撮像装置の制御装置、方法及びプログラム
JP2020016883A (ja) 撮像装置
WO2022019879A1 (en) Wide angle adapter lens for enhanced video stabilization
JP2020129751A (ja) 電子機器及びその制御方法
JP2020043387A (ja) 画像処理装置、画像処理方法、プログラム、及び、記憶媒体

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151006

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151019

R150 Certificate of patent or registration of utility model

Ref document number: 5828038

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250