JP2017169111A - 撮像制御装置、および撮像制御方法、ならびに撮像装置 - Google Patents
撮像制御装置、および撮像制御方法、ならびに撮像装置 Download PDFInfo
- Publication number
- JP2017169111A JP2017169111A JP2016053995A JP2016053995A JP2017169111A JP 2017169111 A JP2017169111 A JP 2017169111A JP 2016053995 A JP2016053995 A JP 2016053995A JP 2016053995 A JP2016053995 A JP 2016053995A JP 2017169111 A JP2017169111 A JP 2017169111A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- imaging device
- raw data
- exposure
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Abstract
【課題】複数の撮像デバイスで同一被写体を略同一の露光タイミングで撮像できるようにする。
【解決手段】本開示の撮像制御装置は、ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、撮像条件に基づいて同期させる撮像制御部を備える。
【選択図】図18
【解決手段】本開示の撮像制御装置は、ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、撮像条件に基づいて同期させる撮像制御部を備える。
【選択図】図18
Description
本開示は、複数の撮像デバイスの制御に関する撮像制御装置、および撮像制御方法、ならびに撮像装置に関する。
従来から、2つの撮像装置を用いて、高視野かつ高解像度の画像を撮像する撮像システムが提案されている(例えば、特許文献1参照)。
複数の撮像デバイスを用いた撮像を行う場合、各撮像デバイス間で露光タイミングが適切に制御されていることが望ましい。
複数の撮像デバイスで同一被写体を略同一の露光タイミングで撮像することができるようにした撮像制御装置、および撮像制御方法、ならびに撮像装置を提供することが望ましい。
本開示の一実施の形態に係る撮像制御装置は、ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、撮像条件に基づいて同期させる撮像制御部を備えたものである。
本開示の一実施の形態に係る撮像制御方法は、ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、撮像条件に基づいて同期制御するようにしたものである。
本開示の一実施の形態に係る撮像装置は、ローリングシャッタ方式により露光を行う第1の撮像デバイスと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスと、第1の撮像デバイスの露光タイミングと第2の撮像デバイスの露光タイミングとを、撮像条件に基づいて同期させる撮像制御部とを備えたものである。
本開示の一実施の形態に係る撮像制御装置、撮像制御方法、または撮像装置では、ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとが、撮像条件に基づいて適切に同期制御される。
本開示の一実施の形態に係る撮像制御装置、撮像制御方法、または撮像装置によれば、第1の撮像デバイスの露光タイミングと第2の撮像デバイスの露光タイミングとを撮像条件に基づいて適切に同期制御するようにしたので、複数の撮像デバイスで同一被写体を略同一の露光タイミングで撮像することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(2つの撮像デバイスによって互いに画角の異なる2つの画像データを生成し、合成する撮像装置)
1.1 撮像装置の概要(図1〜図5)
1.2 合成処理部の詳細説明(図5〜図12)
1.3 2つの撮像デバイス間の同期制御の説明(図13〜図27)
1.4 効果
1.5 第1の実施の形態の変形例(図28)
2.第2の実施の形態(3つの撮像デバイスによって互いに画角の異なる3つの画像データを生成し、合成する撮像装置)(図29〜図31)
3.その他の実施の形態
1.第1の実施の形態(2つの撮像デバイスによって互いに画角の異なる2つの画像データを生成し、合成する撮像装置)
1.1 撮像装置の概要(図1〜図5)
1.2 合成処理部の詳細説明(図5〜図12)
1.3 2つの撮像デバイス間の同期制御の説明(図13〜図27)
1.4 効果
1.5 第1の実施の形態の変形例(図28)
2.第2の実施の形態(3つの撮像デバイスによって互いに画角の異なる3つの画像データを生成し、合成する撮像装置)(図29〜図31)
3.その他の実施の形態
<1.第1の実施の形態>
[1.1 撮像装置の概要]
図1および図2は、本開示の第1の実施の形態に係る撮像装置1の概略構成の一例を示している。
[1.1 撮像装置の概要]
図1および図2は、本開示の第1の実施の形態に係る撮像装置1の概略構成の一例を示している。
本実施の形態に係る撮像装置1は、第1の撮像デバイス10と第2の撮像デバイス20との2つの撮像デバイスを用いて、画角の広い、高解像度の画像を得ることを可能にするものである。
第1の撮像デバイス10と第2の撮像デバイス20は、例えば、物理的な配置が互いに水平となるように配置されている。第1の撮像デバイス10の光軸AX1と第2の撮像デバイス20の光軸AX2とは、例えば、図1に示したように、互いに平行となっていてもよい。または、例えば図2に示したように、光軸AX1と光軸AX2とが互いに非平行となっていてもよい。光軸AX1と光軸AX2とが互いに非平行である場合、撮像装置1から離れるにつれて光軸AX1と光軸AX2との間隙が狭まる方向を向いていることが好ましい。
第1の撮像デバイス10と第2の撮像デバイス20は、同一の被写体を、撮像領域が互いに異なるようにして撮像することが可能となっている。例えば、図1および図2に示したように、第2の撮像デバイス20は、第1の撮像デバイス10の撮像領域R1のうち外縁を除く領域を撮像領域R2とすることが可能となっている。これにより、第1および第2の撮像デバイス10,20は、画像データ(撮像データ)として、各々で画角の互いに異なる第1および第2のRAWデータIraw1,Iraw2を生成することが可能となっている。撮像デバイス10は、例えば、相対的に画角の広い第1のRAWデータIraw1を撮像により生成する。撮像デバイス20は、例えば、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2を撮像により生成する。第1および第2のRAWデータIraw1,Iraw2の具体例については、後に詳述する。
図3は、撮像装置1の機能ブロックの一例を表したものである。撮像装置1は、例えば、第1および第2の撮像デバイス10,20と、信号処理部30と、制御部40とを備えている。制御部40は、第1および第2の撮像デバイス10,20と信号処理部30とを制御する。
(第1の撮像デバイス10)
第1の撮像デバイス10は、例えば、第1の撮像素子11および第1の光学レンズ12を有している。第1の光学レンズ12は、第1の被写体光L1を集光して、第1の撮像素子11の光入射面に入射させる。第1の光学レンズ12は、例えば、第1の撮像デバイス10において固定されている。このとき、第1の撮像デバイス10の焦点距離が一定値で固定されている。第1の撮像デバイス10は、さらに、例えば、アイリスや可変光学LPF(ローパスフィルタ)を、第1の撮像素子11の光入射面側に有していてもよい。第1の撮像素子11の構成については後述する。
第1の撮像デバイス10は、例えば、第1の撮像素子11および第1の光学レンズ12を有している。第1の光学レンズ12は、第1の被写体光L1を集光して、第1の撮像素子11の光入射面に入射させる。第1の光学レンズ12は、例えば、第1の撮像デバイス10において固定されている。このとき、第1の撮像デバイス10の焦点距離が一定値で固定されている。第1の撮像デバイス10は、さらに、例えば、アイリスや可変光学LPF(ローパスフィルタ)を、第1の撮像素子11の光入射面側に有していてもよい。第1の撮像素子11の構成については後述する。
(第2の撮像デバイス20)
第2の撮像デバイス20は、例えば、第2の撮像素子21および第2の光学レンズ22を有している。第2の光学レンズ22は、第2の被写体光L2を集光して、第2の撮像素子21の光入射面に入射させる。第2の光学レンズ22は、例えば、第2の撮像デバイス20において固定されている。このとき、第2の撮像デバイス20の焦点距離が一定値で固定されている。第2の撮像デバイス20は、さらに、例えば、アイリスや可変光学LPFを、第2の撮像素子21の光入射面側に有していてもよい。
第2の撮像デバイス20は、例えば、第2の撮像素子21および第2の光学レンズ22を有している。第2の光学レンズ22は、第2の被写体光L2を集光して、第2の撮像素子21の光入射面に入射させる。第2の光学レンズ22は、例えば、第2の撮像デバイス20において固定されている。このとき、第2の撮像デバイス20の焦点距離が一定値で固定されている。第2の撮像デバイス20は、さらに、例えば、アイリスや可変光学LPFを、第2の撮像素子21の光入射面側に有していてもよい。
第1の撮像デバイス10と第2の撮像デバイス20は、例えば第1の光学レンズ12と第2の光学レンズ22とによって、光学的に各々の画角を異ならせることが可能となっている。例えば、後述する図22等に示すように、第1の光学レンズ12と第2の光学レンズ22とを双方ともズームレンズとすることによって、光学的に各々の画角を異ならせることが可能となっている。または、後述する図24に示すように、第1の光学レンズ12と第2の光学レンズ22とのいずれか一方をズームレンズとし、他方を単焦点レンズとすることによって、光学的に各々の画角を異ならせることを可能にしてもよい。または、後述する図25に示すように、第1の光学レンズ12と第2の光学レンズ22とを画角が互いに異なる単焦点レンズ(固定焦点レンズ)で構成してもよい。
(第1および第2の撮像素子11,21)
次に、第1および第2の撮像素子11,21について説明する。第1および第2の撮像素子11,21は、例えば、複数の光電変換素子が所定の間隔で2次元配置された受光部と、受光部の光入射面に配置されたカラーフィルタアレイとを有している。第1および第2の撮像素子11,21は、例えば単板式の固体撮像素子であり、例えば、単板式のCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサによって構成されている。第1および第2の撮像素子11,21において、カラーフィルタアレイは、例えば、図4に示したように、R(赤),G(緑),B(青)の3つの色の配列からなるベイヤ配列となっている。なお、カラーフィルタアレイは、例えば、R,G,BにW(白)を加えたRGBW配列となっていてもよい。または、Y(イエロー)、C(シアン)、M(マゼンタ)等の配列となっていてもよい。なお、以下では、カラーフィルタアレイが、RGB配列からなるベイヤ配列となっている場合を例にして説明する。
次に、第1および第2の撮像素子11,21について説明する。第1および第2の撮像素子11,21は、例えば、複数の光電変換素子が所定の間隔で2次元配置された受光部と、受光部の光入射面に配置されたカラーフィルタアレイとを有している。第1および第2の撮像素子11,21は、例えば単板式の固体撮像素子であり、例えば、単板式のCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサによって構成されている。第1および第2の撮像素子11,21において、カラーフィルタアレイは、例えば、図4に示したように、R(赤),G(緑),B(青)の3つの色の配列からなるベイヤ配列となっている。なお、カラーフィルタアレイは、例えば、R,G,BにW(白)を加えたRGBW配列となっていてもよい。または、Y(イエロー)、C(シアン)、M(マゼンタ)等の配列となっていてもよい。なお、以下では、カラーフィルタアレイが、RGB配列からなるベイヤ配列となっている場合を例にして説明する。
第1および第2の撮像素子11,21は、例えば、第1および第2の光学レンズ12,22等を経由して入射してきた第1および第2の被写体光L1,L2を、受光部およびカラーフィルタアレイで離散的にサンプリングすることにより、第1および第2のRAWデータIraw1,Iraw2を生成する。
第1の撮像素子11は、例えば、相対的に画角の広い第1のRAWデータIraw1を生成する。第1の撮像デバイス10では、例えば、第1の光学レンズ12の焦点距離を相対的に短くすることにより、画角が相対的に広い第1のRAWデータIraw1が得られる。
第2の撮像素子21は、例えば、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2を生成する。第2の撮像デバイス20では、例えば、第2の光学レンズ22の焦点距離を相対的に長くすることにより、画角が相対的に狭い第2のRAWデータIraw2が得られる。
第1および第2のRAWデータIraw1,Iraw2は、それぞれ、例えば、カラーフィルタアレイに含まれる複数種類の色情報のうちのいずれか1種類の色情報が画素ごとに設定されたモザイクデータである。例えば、カラーフィルタアレイが、RGB配列からなるベイヤ配列となっている場合には、第1および第2のRAWデータIraw1,Iraw2は、カラーフィルタアレイに含まれる赤色情報、緑色情報および青色情報のうちのいずれか1種類の色情報が画素ごとに設定されたモザイクデータとなっている。この場合、第1および第2のRAWデータIraw1,Iraw2からカラー画像データIcolを生成するためには、全ての画素について全ての色情報を、第1および第2のRAWデータIraw1,Iraw2から生成するデモザイク処理が必要となる。本実施の形態では、デモザイク処理を行う前の第1および第2のRAWデータIraw1,Iraw2において合成が行われる。第1および第2のRAWデータIraw1,Iraw2の合成については、後に詳述する。
(信号処理部30)
次に、信号処理部30について説明する。信号処理部30は、例えば、図3に示したように、合成処理部31およびカメラ信号処理部32を有している。合成処理部31は、第1および第2の撮像デバイス10,20によって生成された第1および第2のRAWデータIraw1,Iraw2を互いに合成することにより、合成RAWデータIrawを生成する。カメラ信号処理部32は、合成処理部31で生成された合成RAWデータIrawに対してデモザイク処理を行うことにより、カラー画像データIcolを生成する。カラー画像データIcolは、例えば、カラーフィルタアレイに含まれる全ての種類の色情報を画素ごとに含んで構成されている。カラーフィルタアレイがRGBのベイヤ配列となっている場合には、カラー画像データIcolは、例えば、画素ごとにRGBの色情報を含んで構成されている。
次に、信号処理部30について説明する。信号処理部30は、例えば、図3に示したように、合成処理部31およびカメラ信号処理部32を有している。合成処理部31は、第1および第2の撮像デバイス10,20によって生成された第1および第2のRAWデータIraw1,Iraw2を互いに合成することにより、合成RAWデータIrawを生成する。カメラ信号処理部32は、合成処理部31で生成された合成RAWデータIrawに対してデモザイク処理を行うことにより、カラー画像データIcolを生成する。カラー画像データIcolは、例えば、カラーフィルタアレイに含まれる全ての種類の色情報を画素ごとに含んで構成されている。カラーフィルタアレイがRGBのベイヤ配列となっている場合には、カラー画像データIcolは、例えば、画素ごとにRGBの色情報を含んで構成されている。
図5は、合成処理部31における信号処理の概念の一例を表したものである。図5は、合成処理部31における信号処理の分かりやすさが優先されている関係で、簡潔な説明となっている。そのため、図5では、上記の符号とは異なる符号が用いられている。
合成処理部31は、第1の撮像デバイス10からワイド画像データIwideを取得し、第2の撮像デバイス20からテレ画像データIteleを取得する。テレ画像データIteleは、ワイド画像データIwideと比べて、画角が小さくなっている。テレ画像データIteleは、ワイド画像データIwideの外縁を除く所定の領域αと対応している。合成処理部31は、第1および第2の撮像デバイス10,20の倍率と、ワイド画像データIwideおよびテレ画像データIteleの画像サイズとに基づいて、所定の領域αを設定する。
合成処理部31は、ワイド画像データIwideから、所定の領域αを切り出すことにより、画像データIwide’を生成する。合成処理部31は、第1および第2の撮像デバイス10,20の倍率に基づいて、テレ画像データIteleを縮小することにより、画像データItele’を生成する。合成処理部31は、画像データIwide’と画像データItele’とを互いに合成することにより、合成画像データIfusionを生成する。ここで、第1の撮像デバイス10の倍率が1倍となっており、第2の撮像デバイス20の倍率が2倍となっているとする。このとき、合成処理部31は、例えば、ユーザによって指定された倍率が1倍のときには、ワイド画像データIwideを、合成RAWデータIrawとして出力する。合成処理部31は、例えば、ユーザによって指定された倍率が2倍以上のときには、テレ画像データIteleをユーザによって指定された倍率に拡大したものを、合成RAWデータIrawとして出力する。合成処理部31は、例えば、ユーザによって指定された倍率が1倍〜2倍のときには、ワイド画像データIwideにおいて、所定の領域αを合成画像データIfusionに置き換えた合成画像データImergeを、合成RAWデータIrawとして出力する。
なお、実際には、画像データIwide’と画像データItele’とには、視差に起因する位置ずれや、第1および第2の撮像デバイス10,20間の感度違いおよび露光違いがある場合がある。また、合成画像データIfusionには、第1および第2の撮像デバイス10,20のナイキスト周波数を超える高周波成分が含まれている場合もある。そもそも、画像データIwide’や画像データItele’はモザイクデータであるので、画像データIwide’と画像データItele’とを互いに精度よく合成するためには、画像データIwide’や画像データItele’に対して画素補間を行うことが好ましい。従って、合成処理部31は、画像データIwide’や画像データItele’に対して、以下に示したような各種の信号処理を行うことが好ましい。
[1.2 合成処理部の詳細説明]
図6は、合成処理部31の機能ブロックの一例を表したものである。図7は、合成処理部31における信号処理手順の一例を表したものである。
図6は、合成処理部31の機能ブロックの一例を表したものである。図7は、合成処理部31における信号処理手順の一例を表したものである。
合成処理部31は、位置合わせ部130および合成部140を有している。位置合わせ部130は、第1および第2の撮像デバイス10,20によって生成された第1および第2のRAWデータIraw1,Iraw2に基づいて、第1および第2のRAWデータIraw1,Iraw2の位置合わせデータを生成する。合成部140は、位置合わせ部130によって生成された位置合わせデータに基づいて第1および第2のRAWデータIraw1,Iraw2を互いに合成する。
位置合わせ部130は、例えば、切出部131、ゲイン補正部132、画素補正部133,134、縮小部135および視差算出部136を有している。
切出部131は、第1のRAWデータIraw1において、第2のRAWデータIraw2との合成を行うフュージョン領域β(図5の領域αに相当)を指定する。具体的には、切出部131は、第1および第2の撮像デバイス10,20の倍率と、第1および第2のRAWデータIraw1,Iraw2の画像サイズとに基づいて、フュージョン領域βを指定する。切出部131は、例えば、第1および第2の撮像デバイス10,20の倍率と、第1および第2のRAWデータIraw1,Iraw2の画像サイズとに基づいて、第1のRAWデータIraw1における、フュージョン領域βの座標を指定する。切出部131は、例えば、指定した座標に基づいて、フュージョン領域βに対応するRAWデータIraw1aを、第1のRAWデータIraw1から切り出す(ステップS101)。
なお、合成処理部31は、RAWデータIraw1aおよび第2のRAWデータIraw2に対して、OPB(Optical Black)減算を行ってもよい。OPB減算とは、暗電流などに起因して生じるノイズ成分を除外することを指している。合成処理部31は、例えば、RAWデータIraw1aおよび第2のRAWデータIraw2から、第1および第2の撮像デバイス10,20が遮光されているときに生じるノイズ成分を除外してもよい。このとき、ノイズ成分の除外により、RAWデータIraw1aおよび第2のRAWデータIraw2において値が負となる画素がある場合には、合成処理部31は、その画素の座標を記憶しておく。
ゲイン補正部132は、RAWデータIraw1aおよび第2のRAWデータIraw2における色情報ごとのゲイン比(例えば、RGBゲイン比)を算出する。ゲイン補正部132は、例えば、RAWデータIraw1a内の平均値を色情報ごとに算出するとともに、第2のRAWデータIraw2内の平均値を色情報ごとに算出する。ゲイン補正部132は、例えば、RAWデータIraw1a,Iraw2における、色情報ごとの平均値の比から、補正ゲインを色情報ごとに算出する。ゲイン補正部132は、算出した補正ゲインに基づいて、第2のRAWデータIraw2を補正し(ステップS102)、これにより、RAWデータIraw2aを生成する。
画素補正部133は、RAWデータIraw1aに含まれる所定種類の色情報(例えば、緑色情報)に基づいて、RAWデータIraw1aに含まれる全ての画素の補間を行うことにより、位置合わせデータとして、所定種類の色情報(例えば、緑色情報)からなる補間RAWデータIraw1bを生成する(ステップS103)。画素補正部134は、RAWデータIraw2aに含まれる所定種類の色情報(例えば、緑色情報)に基づいて、RAWデータIraw2aに含まれる全ての画素の補間を行うことにより、位置合わせデータとして、所定種類の色情報(例えば、緑色情報)からなる補間RAWデータIraw2bを生成する。
画素補正部133は、例えば、図8に示したように、RGB配列からなるベイヤ配列を有するRAWデータIraw1aから、緑色情報からなる補間RAWデータIraw1bを生成する。画素補正部133は、さらに、例えば、図8に示したように、RGB配列からなるベイヤ配列を有するRAWデータIraw2aから、緑色情報からなる補間RAWデータIraw2bを生成する。このとき、中心画素(補間対象の画素)がG画素のときには、画素補正部133は、例えば、図9に示したような補間フィルタFを用いて、中心画素の緑色情報を補正する。また、中心画素(補間対象の画素)がR画素またはB画素のときには、画素補正部133は、中心画素の色情報を、例えば、図10に示したような補間フィルタFを用いて生成した緑色情報に置き換える。
縮小部135は、第1および第2の撮像デバイス10,20の倍率に基づいて、補間RAWデータIraw2bを縮小する(ステップS104)。視差算出部136は、補間RAWデータIraw1b,Iraw2cに基づいて、位置合わせデータとしての視差情報Dispを算出する(ステップS105)。視差情報Dispは、第1の撮像デバイス10と第2の撮像デバイス20との位置が互いに一致していないことから生じる画像上の位置ずれ量に相当するものである。視差算出部136は、例えば、2つの画像間での動きベクトル推定法などを用いて、補間RAWデータIraw1b,Iraw2cから視差情報Dispを生成する。
合成部140は、例えば、フュージョン部141、LPF(ローパスフィルタ)部142、相関処理部143、マージ部144および選択部145を有している。
フュージョン部141は、2つの補間RAWデータIraw1b,Iraw2cを合成することにより合成RAWデータIraw3aを生成する(ステップS106)。具体的には、フュージョン部141は、視差情報Dispに基づいて2つの補間RAWデータIraw1b,Iraw2cを合成することにより合成RAWデータIraw3aを生成する。
LPF部142は、合成RAWデータIraw3aに含まれる、第1および第2の撮像デバイス10,20のそれぞれのナイキスト周波数を超える高周波成分を減衰させることにより、合成RAWデータIraw3bを生成する(ステップS107)。これにより、偽色の発生が抑制される。
相関処理部143は、合成RAWデータIraw3aまたは合成RAWデータIraw3aに所定の処理を行った合成RAWデータIraw3bに対して、相関処理を行う(ステップS108)。相関処理部143は、例えば、図11に示したように、合成RAWデータIraw3aまたは合成RAWデータIraw3bに対して、第1のRAWデータIraw1と補間RAWデータIraw1bとの差分である色差成分(Iraw1−Iraw1b)を付加する。相関処理には色比を用いることも可能である。相関処理部143は、例えば、図12に示したように、合成RAWデータIraw3aまたは合成RAWデータIraw3bに対して、第1のRAWデータIraw1と補間RAWデータIraw1bとの比である色比成分(Iraw1/Iraw1b)を乗じてもよい。これにより、相関処理部143は、第1および第2のRAWデータIraw1,Iraw2の配列に対応する配列のRAWデータIraw3cを生成する。
マージ部144は、第1のRAWデータIraw1と、RAWデータIraw3cとを互いに合成することにより、デモザイク処理用のRAWデータIraw3dを生成する(ステップS109)。このとき、マージ部144は、例えば、RAWデータIraw3cの周縁に、色情報ゼロの額縁状の領域を設けることにより、RAWデータIraw3cの画像サイズを、第1のRAWデータIraw1の画像サイズに揃える。続いて、マージ部144は、例えば、第1のRAWデータIraw1のうちのフュージョン領域αの色情報をゼロにする。さらに、マージ部144は、例えば、第1のRAWデータIraw1に、第1のRAWデータIraw1の画像サイズに揃えたRAWデータIraw3cを足し合わせる。つまり、マージ部144は、例えば、第1のRAWデータIraw1のうちのフュージョン領域αを、RAWデータIraw3cに置き換える。
なお、合成処理部31がOPB減算を行った場合には、マージ部144は、合成処理を行う前に、OPB減算によって除外したノイズ成分を、符号も考慮した上で、RAWデータIraw3cに加算してもよい。
選択部145は、ユーザによって指定される倍率に応じて、出力する合成RAWデータIrawを選択する。第1の撮像デバイス10の倍率が1倍となっており、第2の撮像デバイス20の倍率が2倍となっているとする。このとき、選択部145は、例えば、ユーザによって指定された倍率が1倍のときには、第1のRAWデータIraw1を、合成RAWデータIrawとして出力する。合成処理部31は、例えば、ユーザによって指定された倍率が2倍以上のときには、第2のRAWデータIraw2をユーザによって指定された倍率に拡大したものを、合成RAWデータIrawとして出力する。合成処理部31は、例えば、ユーザによって指定された倍率が1倍〜2倍のときには、RAWデータIraw3dを、合成RAWデータIrawとして出力する。
(撮像装置1における合成処理の効果)
本実施の形態に係る撮像装置1では、第1の撮像デバイス10の撮像領域R1のうち外縁を除く領域が第2の撮像デバイス20の撮像領域R2となっている。さらに、撮像装置1では、相対的に画角の広い第1のRAWデータIraw1と、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2とが、第1および第2の撮像デバイス10,20によって生成される。これにより、合成RAWデータIrawのうち外縁を除く所定の領域(フュージョン領域β)と、第2のRAWデータIraw2とが互いに合成される。言い換えると、枠状の第1のRAWデータIraw1に、第2のRAWデータIraw2が嵌め込まれる。その結果、第1および第2の撮像デバイス10,20を用いて、画角の広い、高解像度の画像を得ることができる。また、第1および第2の撮像デバイス10,20における第1および第2の光学レンズ12,22の双方を固定焦点レンズで構成したとしても、機械的なズーム機構を用いずに光学ズームを実現できる。
本実施の形態に係る撮像装置1では、第1の撮像デバイス10の撮像領域R1のうち外縁を除く領域が第2の撮像デバイス20の撮像領域R2となっている。さらに、撮像装置1では、相対的に画角の広い第1のRAWデータIraw1と、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2とが、第1および第2の撮像デバイス10,20によって生成される。これにより、合成RAWデータIrawのうち外縁を除く所定の領域(フュージョン領域β)と、第2のRAWデータIraw2とが互いに合成される。言い換えると、枠状の第1のRAWデータIraw1に、第2のRAWデータIraw2が嵌め込まれる。その結果、第1および第2の撮像デバイス10,20を用いて、画角の広い、高解像度の画像を得ることができる。また、第1および第2の撮像デバイス10,20における第1および第2の光学レンズ12,22の双方を固定焦点レンズで構成したとしても、機械的なズーム機構を用いずに光学ズームを実現できる。
また、撮像装置1では、第1および第2のRAWデータIraw1,Iraw2に含まれる所定種類の色情報に基づいて、第1および第2のRAWデータIraw1,Iraw2に含まれる全ての画素の補間が行われる。これにより、第1および第2のRAWデータIraw1,Iraw2に対してデモザイク処理を行った上で合成処理を行うときと同程度の精度で、合成処理を行うことができる。
また、撮像装置1では、第1および第2のRAWデータIraw1,Iraw2から生成した2つの補間RAWデータIraw1b,Iraw2bに基づいて、位置合わせデータとしての視差情報Dispが生成される。これにより、視差情報Dispを用いることにより、補間RAWデータIraw1bと補間RAWデータIraw2cとの合成精度を高くすることができる。
また、撮像装置1では、合成RAWデータIraw3aに含まれる、第1および第2の撮像デバイス10,20の各々のナイキスト周波数を超える高周波成分がLPF部142によって減衰される。これにより、RAWデータIrawa1と、RAWデータIraw3cとを互いに合成したときに、偽色の発生を抑えることができる。
また、撮像装置1では、合成RAWデータIraw3cまたは合成RAWデータIraw3aに所定の処理を行ったもの(合成RAWデータIraw3b)に対して、色差成分(Iraw1−Iraw1b)が付加される。このように、撮像装置1では、色情報を少なくして合成処理が行われた後に、合成RAWデータIraw3cまたは合成RAWデータIraw3bに対して、失われた色情報が戻される。従って、撮像装置1では、合成処理に要する処理コストや消費電力を低減しつつ、合成精度を高くすることができる。
また、撮像装置1では、第1のRAWデータIraw1と、RAWデータIraw3cとを互いに合成することにより生成したRAWデータIraw3dに対してデモザイク処理が行われる。このように、撮像装置1では、RAWデータでの合成がなされた後にデモザイク処理が行われるので、デモザイク処理が行われた後に合成がなされる場合と比べて、処理コストや消費電力を低減することができる。
[1.3 2つの撮像デバイス間の同期制御の説明]
上記した撮像装置1のように、第1および第2の撮像デバイス10,20を用いた撮像を行う場合、各撮像デバイス間で露光タイミングが適切に制御されていることが望ましい。一般に、CMOS等のイメージセンサを備える撮像デバイスにおける電子シャッタの方式としては、グローバルシャッタ方式とローリングシャッタ方式とが知られている。グローバルシャッタ方式では、全ての画素に同時に電子シャッタ動作を行う。このため、グローバルシャッタ方式では露光のタイミングが全画素で同じである。一方、ローリングシャッタ方式では、例えば1水平ラインずつ電子シャッタ動作を行う。このため、ローリングシャッタ方式では、露光のタイミングが例えば1水平ラインずつ、シフトした状態となる。このため、特に、第1および第2の撮像デバイス10,20においてローリングシャッタ方式により露光を行う場合、各撮像デバイス間で露光タイミングが適切に制御されていることが望ましい。
上記した撮像装置1のように、第1および第2の撮像デバイス10,20を用いた撮像を行う場合、各撮像デバイス間で露光タイミングが適切に制御されていることが望ましい。一般に、CMOS等のイメージセンサを備える撮像デバイスにおける電子シャッタの方式としては、グローバルシャッタ方式とローリングシャッタ方式とが知られている。グローバルシャッタ方式では、全ての画素に同時に電子シャッタ動作を行う。このため、グローバルシャッタ方式では露光のタイミングが全画素で同じである。一方、ローリングシャッタ方式では、例えば1水平ラインずつ電子シャッタ動作を行う。このため、ローリングシャッタ方式では、露光のタイミングが例えば1水平ラインずつ、シフトした状態となる。このため、特に、第1および第2の撮像デバイス10,20においてローリングシャッタ方式により露光を行う場合、各撮像デバイス間で露光タイミングが適切に制御されていることが望ましい。
なお、以下では、適宜、図1ないし図3等に示した撮像装置1の構成に対応付けた説明を行うが、本開示による同期制御の技術は、図1ないし図3等に示した撮像装置1の構成以外にも適用可能である。例えば、本開示による同期制御の技術は、第1および第2の撮像デバイス10,20で生成された画像データを、上記した本実施の形態の画像合成処理技術以外の方法で合成する場合にも適用可能である。また、本開示による同期制御の技術は、単に2つの画像データを生成するのみで画像合成を行わない場合にも、適用可能である。また、以下では、2つの撮像デバイス間の同期制御を例にして説明するが、後述する第2の実施の形態のように、3つの撮像デバイスを用いる場合、または4つ以上の撮像デバイスを用いる場合にも本開示による同期制御の技術を適用することが可能である。
(同一画角、かつ同一解像度(画素数)で撮像する場合)
図13および図14は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに同一画角、かつ同一解像度(画素数)で撮像する場合の露光タイミングの一例を示している。図13の左側には、第1の撮像デバイス10の第1の撮像素子11によって生成される画像データおよび露光タイミングを模式的に示す。図13の右側には、第2の撮像デバイス20の第2の撮像素子12によって生成される画像データおよび露光タイミングを模式的に示す。図14には、第1および第2の撮像デバイス10,20における撮像の同期信号XVSのタイミングと、第1の撮像素子11および第2の撮像素子12におけるそれぞれのシャッタタイミング(リセットタイミング)および画素データの読み出しタイミングとを示す。後述する図17ないし図21にも、同様のタイミングを示す。
図13および図14は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに同一画角、かつ同一解像度(画素数)で撮像する場合の露光タイミングの一例を示している。図13の左側には、第1の撮像デバイス10の第1の撮像素子11によって生成される画像データおよび露光タイミングを模式的に示す。図13の右側には、第2の撮像デバイス20の第2の撮像素子12によって生成される画像データおよび露光タイミングを模式的に示す。図14には、第1および第2の撮像デバイス10,20における撮像の同期信号XVSのタイミングと、第1の撮像素子11および第2の撮像素子12におけるそれぞれのシャッタタイミング(リセットタイミング)および画素データの読み出しタイミングとを示す。後述する図17ないし図21にも、同様のタイミングを示す。
図13および図14に示したように、第1および第2の撮像デバイス10,20において、同一の被写体を互いに同一画角で撮像する場合、撮像領域は互いに略同一である。この場合、撮像(露光)の開始位置は被写体における略同一の位置p1である。このため、第1および第2の撮像素子11,21におけるそれぞれのシャッタタイミングおよび画素データの読み出しタイミングを同じにすれば、同一の被写体位置を互いに同じタイミングで撮像(露光)することができる。また、その場合、第2の撮像素子12における読み出し期間および露光期間は、第1の撮像素子11における読み出し期間Tr1および露光期間Te1と同じになる。
(異なる画角で撮像する場合)
図15および図16は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに異なる画角、かつ同一解像度(画素数)で撮像する場合の露光タイミングの一例を示している。
図15および図16は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに異なる画角、かつ同一解像度(画素数)で撮像する場合の露光タイミングの一例を示している。
図15および図16に示したように、第1および第2の撮像デバイス10,20において、同一の被写体を互いに異なる画角で撮像する場合、撮像領域は互いに異なる。図15および図16の例では、第1の撮像デバイス10は相対的に画角の広いワイド画角で撮像を行い、第2の撮像デバイス20は相対的に画角の狭いテレ画角で撮像を行っている。この場合、第2の撮像デバイス20の撮像領域は、第1の撮像デバイス10に比べて相対的に狭い。第1の撮像デバイス10の撮像(露光)の開始位置が被写体における位置p1であるとすると、第2の撮像デバイス20の撮像(露光)の開始位置は被写体における位置p1よりも内側の位置p2となる。このため、第1および第2の撮像素子11,21におけるそれぞれのシャッタタイミングおよび画素データの読み出しタイミングを同じにし、また、読み出し期間Tr1および露光期間Te1も第1および第2の撮像素子11,21で同じにすると、第1の撮像素子11と第2の撮像素子21とで、同一の被写体位置を異なるタイミングで撮像(露光)することになる。このように、同一の被写体位置を互いに異なるタイミングで撮像(露光)すると、例えば手ぶれがあった場合や、被写体に動きがある場合に、第1および第2の撮像デバイス10,20で撮像された互いの画像間で相関が取れなくなるおそれがある。
図17および図18は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに異なる画角、かつ同一解像度(画素数)で撮像する場合の露光タイミングの一例を示している。
図18では、第1および第2の撮像デバイス10,20における画角の違いに基づいて図16の露光タイミングを最適化した例を示している。第1および第2の撮像デバイス10,20において互いに異なる画角、かつ同一解像度(画素数)で撮像する場合、図18に示したように、相対的に画角の狭い撮像を行う第2の撮像素子21の露光開始タイミングを、相対的に画角の広い撮像を行う第1の撮像素子11の露光開始タイミングに対して遅延させることが望ましい。また、画角の狭い撮像を行う第2の撮像素子21における画素データの読み出し速度を、画角の広い撮像を行う第1の撮像素子11における画素データの読み出し速度よりも高速にすることが望ましい。図18の例では第1の撮像素子11の読み出し開始タイミングは時間t1である。第2の撮像素子21の読み出し開始タイミングは時間t1から、画角の違いに応じて遅延させた時間t2となっている。また、第2の撮像素子21の読み出し期間は、第1の撮像素子11の読み出し期間Tr1に対し、画角の違いに応じて高速化された期間Tr2となっている。このようなタイミング制御を行うことにより、第1および第2の撮像デバイス10,20において、同一の被写体位置を互いに同じタイミングで撮像(露光)することができる。
なお、読み出し速度の高速化は、ビニング(binning)によって行ってもよい。ビニングとは、近傍にある複数の同色画素をアナログ的に加算する技術である。ビニングによって読み出し画素数を減らすことで、読み出し速度の高速化を図ることができる。
(異なる解像度(画素数)で撮像する場合)
図19および図20は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに同一画角、かつ異なる解像度(画素数)で撮像する場合の露光タイミングの一例を示している。
図19および図20は、第1および第2の撮像デバイス10,20においてローリングシャッタ方式によって互いに同一画角、かつ異なる解像度(画素数)で撮像する場合の露光タイミングの一例を示している。
図19および図20に示したように、第1および第2の撮像デバイス10,20において、同一の被写体を互いに同一画角、かつ異なる解像度(画素数)で撮像する場合、撮像領域自体は互いに略同一である。この場合、第1および第2の撮像素子11,21におけるそれぞれの画素データの読み出し速度を同じにすると、画素数が異なるために、撮像領域が同じであるに関わらず、読み出し期間に違いが生じてしまう。図20の例では、第1の撮像素子11は相対的に画素数が多く高解像度で撮像を行い、第2の撮像素子21は相対的に画素数が少なく低解像度で撮像を行っている。この場合、第2の撮像素子21の読み出し期間は、第1の撮像素子11の読み出し期間Tr1に対し、画素数の違いに応じて高速化された期間Tr2となる。このため、第1の撮像素子11と第2の撮像素子21とで、同一の被写体位置を異なるタイミングで撮像(露光)することになる。
図21は、第1および第2の撮像デバイス10,20における解像度(画素数)の違いに基づいて図20の露光タイミングを最適化した例を示している。第1および第2の撮像デバイス10,20において、同一の被写体を互いに同一画角、かつ異なる解像度(画素数)で撮像する場合、図21に示したように、相対的に画素数の少ない第2の撮像素子21における画素データの読み出し速度を、相対的に画素数の多い第1の撮像素子11における画素データの読み出し速度よりも遅くすることが望ましい。逆にいうと、画素数の多い第1の撮像素子11における画素データの読み出し速度を、画素数の少ない第2の撮像素子21における画素データの読み出し速度よりも高速にすることが望ましい。このようなタイミング制御を行うことにより、第1および第2の撮像デバイス10,20において、同一の被写体位置を互いに同じタイミングで撮像(露光)することができる。
(露光タイミングの同期制御を行うための制御部の構成例)
図22および図23は、露光タイミングの同期制御を行うための制御部の第1および第2の構成例を示している。図22および図23は、第1の撮像デバイス10の第1の光学レンズ12と、第2の撮像デバイス20の第2の光学レンズ22とが、双方ともズームレンズを有する場合の構成例である。
図22および図23は、露光タイミングの同期制御を行うための制御部の第1および第2の構成例を示している。図22および図23は、第1の撮像デバイス10の第1の光学レンズ12と、第2の撮像デバイス20の第2の光学レンズ22とが、双方ともズームレンズを有する場合の構成例である。
図22に示したように、制御部40は、初期値格納部41と、撮像制御部60と、レンズ制御部70とを有していてもよい。なお、図23に示したように、初期値格納部41、撮像制御部60、およびレンズ制御部70を、制御部40の外に設けてもよい。
撮像制御部60は、読み出し制御部61と、シャッタ制御部62とを含んでもよい。読み出し制御部61は、第1および第2の撮像素子11,21におけるそれぞれの画素データの読み出しタイミングを制御する。シャッタ制御部62は、第1および第2の撮像素子11,21におけるそれぞれのシャッタタイミングを制御する。
レンズ制御部70は、フォーカス制御部71と、ズーム制御部72とを含んでもよい。フォーカス制御部71は、第1および第2の光学レンズ12,22のフォーカシングの制御を行う。ズーム制御部72は、第1および第2の光学レンズ12,22のズーミングの制御を行う。ズーム制御部72は、第1および第2の光学レンズ12,22のズーム倍率の情報を、読み出し制御部61とシャッタ制御部62とに送信する。
初期値格納部41は、第1の撮像デバイス10および第2の撮像デバイス20における初期の撮像条件の情報を格納する。初期の撮像条件は、例えば、画角、画素数、クロック速度、フレームレート、露光時間、および動作モード等の露光タイミングに影響を与えるパラメータを含んでいてもよい。
撮像制御部60は、ローリングシャッタ方式により露光を行う第1の撮像デバイス10の露光タイミングと、第1の撮像デバイス10とは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイス20の露光タイミングとを、撮像条件に基づいて同期させる。
ここで、撮像条件は、画角および画素数の少なくとも1つを含んでいてもよい。第2の撮像デバイス20の撮像条件は、第1の撮像デバイス10の撮像条件に対して画角および画素数の少なくとも一方が異なっていてもよい。
また、撮像条件は、ズームレンズのズーム倍率を含んでいてもよい。撮像制御部60は、第1の撮像デバイス10の露光タイミングと第2の撮像デバイス20の露光タイミングとを、ズーム倍率に基づいて動的に同期させてもよい。
撮像制御部60は、上述の図18に示した例のように、第1の撮像デバイス10および第2の撮像デバイス20のうち、相対的に画角の狭い撮像を行う撮像デバイスの露光開始タイミングを、相対的に画角の広い撮像を行う撮像デバイスの露光開始タイミングに対して遅延させる制御を行ってもよい。この場合、撮像制御部60は、画角の狭い撮像を行う撮像デバイスにおける画素データの読み出し速度を、画角の広い撮像を行う撮像デバイスにおける画素データの読み出し速度よりも高速化させる制御を行ってもよい。
また、撮像制御部60は、上述の図21に示した例のように、第1の撮像デバイス10および第2の撮像デバイス20のうち、相対的に画素数の多い撮像デバイスにおける画素データの読み出し速度を、相対的に画素数の少ない撮像デバイスにおける画素データの読み出し速度よりも高速にする制御を行ってもよい。
図24は、露光タイミングの同期制御を行うための制御部の第3の構成例を示している。図24の構成例は、図22の構成例における第1の光学レンズ12に代えて第1の光学レンズ12Aを備えている。第1の光学レンズ12Aは、ズームレンズに代えて固定焦点レンズを含んでいる。この構成例では、ズーム制御部72は、第2の光学レンズ22のズーミングの制御を行う。その他の構成は、図22の構成例と略同様であってもよい。
図25は、露光タイミングの同期制御を行うための制御部の第4の構成例を示している。図25の構成例は、図22の構成例における第1の光学レンズ12に代えて第1の光学レンズ12Aを備えている。また、図22の構成例における第2の光学レンズ22に代えて第2の光学レンズ22Aを備えている。第1および第2の光学レンズ12A,22Aは、ズームレンズに代えて固定焦点レンズを含んでいる。
図25の構成例では、レンズ制御部70からズーム制御部72を省いたレンズ制御部70Aを備えた構成にすることができる。この構成例では、撮像制御部60は、第1の撮像デバイス10の露光タイミングと第2の撮像デバイス20の露光タイミングとを、初期値格納部41に格納された初期の撮像条件に基づいて同期させる。その他の構成は、図22の構成例と略同様であってもよい。
図26は、第1および第2の撮像デバイスの少なくとも一方がズーミングを行う場合(図22ないし図24の構成例)における露光タイミングの同期制御の一例を示している。
撮像制御部60は、電源がオンされると(ステップS201)、初期値格納部41から初期パラメータを読み込む(ステップS202)。初期パラメータは、例えば、画素数、クロック速度、フレームレート、露光時間、および動作モード等の露光タイミングに影響を与える初期の撮像条件であってもよい。ズーム倍率によって画角は動的に変わるので、次に、撮像制御部60は、ズーム制御部72からズームレンズのズーム倍率の情報を読み込む(ステップS203)。これにより、ズーム倍率に応じた画角が決定される。次に、撮像制御部60は、取得した画角等の撮像条件に基づいて、第1および第2の撮像素子11,21におけるそれぞれの画素データの読み出しタイミングを決定する(ステップS204)。次に、撮像制御部60は、取得した画角等の撮像条件に基づいて、第1および第2の撮像素子11,21におけるそれぞれのシャッタタイミングを決定する(ステップS205)。次に、撮像制御部60は、決定したシャッタタイミングおよび読み出しタイミングで、第1および第2の撮像素子11,21に撮像を開始させる(ステップS206)。
図27は、第1および第2の撮像デバイスが双方とも固定焦点で撮像を行う場合(図25の構成例)における露光タイミングの同期制御の一例を示している。
撮像制御部60は、電源がオンされると(ステップS201)、初期値格納部41から初期パラメータを読み込む(ステップS202A)。初期パラメータは、例えば、画角、画素数、クロック速度、フレームレート、露光時間、および動作モード等の露光タイミングに影響を与える初期の撮像条件であってもよい。次に、撮像制御部60は、取得した画角等の撮像条件に基づいて、第1および第2の撮像素子11,21におけるそれぞれの画素データの読み出しタイミングを決定する(ステップS204)。次に、撮像制御部60は、取得した画角等の撮像条件に基づいて、第1および第2の撮像素子11,21におけるそれぞれのシャッタタイミングを決定する(ステップS205)。次に、撮像制御部60は、決定したシャッタタイミングおよび読み出しタイミングで、第1および第2の撮像素子11,21に撮像を開始させる(ステップS206)。
[1.4 効果]
以上のように、本実施の形態によれば、第1の撮像デバイス10の露光タイミングと第2の撮像デバイス20の露光タイミングとを撮像条件に基づいて適切に同期制御するようにしたので、複数の撮像デバイスで同一被写体を略同一の露光タイミングで撮像することができる。
以上のように、本実施の形態によれば、第1の撮像デバイス10の露光タイミングと第2の撮像デバイス20の露光タイミングとを撮像条件に基づいて適切に同期制御するようにしたので、複数の撮像デバイスで同一被写体を略同一の露光タイミングで撮像することができる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。以降の他の実施の形態の効果についても同様である。
[1.5 第1の実施の形態の変形例]
図28は、第1の実施の形態の変形例に係る撮像装置200の概略構成を示している。
図28は、第1の実施の形態の変形例に係る撮像装置200の概略構成を示している。
上記した撮像装置1では、合成処理部31の後段にカメラ信号処理部32を設けた構成となっているが、図28に示した撮像装置200のように、第1および第2のカメラ信号処理部230,240の後段に合成処理部250を設けた構成であってもよい。
撮像装置200は、第1の撮像デバイス10で得られた第1のRAWデータIraw1をカラー画像Icol1に変換するカメラ信号処理部230と、第2の撮像デバイス20で得られた第2のRAWデータIraw2をカラー画像Icol2に変換するカメラ信号処理部240とを備えている。撮像装置200は、さらに、第1および第2のカメラ信号処理部230,240で得られたカラー画像Icol1,Icol2を互いに合成することにより、カラー画像Icol3を生成する合成処理部250を備えている。このように、撮像装置200では、カラー画像化(デモザイク処理)が第1および第2の撮像デバイス10,20ごとに行われるとともに、カラー画像化(デモザイク処理)がなされた後に、画像合成がなされる。
なお、上記した撮像装置1では、画角の互いに異なる第1および第2のRAWデータIraw1,Iraw2に基づいて生成された位置合わせデータに基づいて、第1および第2のRAWデータIraw1,Iraw2が互いに合成される。つまり、上記した撮像装置1では、デモザイク処理が行われる前のRAWデータの段階で合成が行われるので、デモザイク処理の回数を1回に減らすことができる。さらに、上記した撮像装置1では、合成対象である第1および第2のRAWデータIraw1,Iraw2は、本変形例の撮像装置200の合成対象であるカラー画像データIcol1,Icol2と比べて、画素ごとの色情報が少ないので、合成のために必要な演算量を抑えることができる。従って、上記した撮像装置1では、本変形例の撮像装置200に比べて、デモザイク処理および合成処理に要する処理コストや消費電力を低減することができる。
また、上記した撮像装置1では、合成処理部31からはRAWデータIrawが出力される。これにより、合成処理部31の後段であるカメラ信号処理部32には、通常のカメラ信号処理部等を、改変を加えずにそのまま用いることもできる。つまり、上記した撮像装置1では、カメラ信号処理部32に対して、単一の撮像デバイスのRAW出力に対する、デモザイク処理以降の処理構成に一切の変更を行っていないものを適用することができる。従って、上記した撮像装置1では、単一の撮像デバイスを使ったときと同様の簡便さで、デモザイク処理および合成処理に要する処理コストや消費電力を低減することができる。
<2.第2の実施の形態>
次に、本開示の第2の実施の形態について説明する。以下では、上記第1の実施の形態と略同様の構成および作用を有する部分については、適宜説明を省略する。
次に、本開示の第2の実施の形態について説明する。以下では、上記第1の実施の形態と略同様の構成および作用を有する部分については、適宜説明を省略する。
上記第1の実施の形態では、撮像装置1は第1および第2の撮像デバイス10,20を備えていたが、3つ以上の撮像デバイスを備えていてもよい。例えば、図29および図30に示したように、撮像装置1は第1および第2の撮像デバイス10,20と第3の撮像デバイス50との3つの撮像デバイスを備えていてもよい。第1、第2および第3の撮像デバイス10,20,50は、例えば、物理的な配置が互いに水平となるように配置されている。第1の撮像デバイス10の光軸AX1と、第2の撮像デバイス20の光軸AX2と、第3の撮像デバイス50の光軸AX3とは、例えば、図29示したように、互いに非平行となっている。このとき、光軸AX1,AX2,AX3は、撮像装置1から離れるにつれて光軸AX1,AX2,AX3のそれぞれの間隙が互いに狭まる方向を向いていることが好ましい。光軸AX1,AX2,AX3は、互いに平行となっていてもよい。
本実施の形態では、位置合わせ部130は、第1、第2および第3の撮像デバイス10,20,50の各々によって生成された3つ以上のRAWデータIraw1,Iraw2,Iraw4に基づいて、3つ以上のRAWデータIraw1,Iraw2,Iraw4の位置合わせデータを生成する。合成部140は、位置合わせ部130によって生成された位置合わせデータに基づいて3つ以上のRAWデータIraw1,Iraw2,Iraw4を互いに合成する。
本実施の形態では、第2の撮像デバイス20は、第1の撮像デバイス10の撮像領域R1のうち外縁を除く領域を撮像領域R2としている。第3の撮像デバイス50は、第3の撮像素子51および第3の光学レンズ52を有しており、第2の撮像デバイス20の撮像領域R2のうち外縁を除く領域を撮像領域R3としている。第3の光学レンズ52は、第3の被写体光L3を集光して、第3の撮像素子51の光入射面に入射させる。第1、第2および第3の撮像デバイス10,20,50は、各々で画角の互いに異なる第1、第2および第3のRAWデータIraw1,Iraw2,Iraw4を生成する。第1の撮像デバイス10は、最も画角の広い第1のRAWデータIraw1を撮像により生成する。第2の撮像デバイス20は、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2を撮像により生成する。第3の撮像デバイス50は、第2のRAWデータIraw2よりも画角の狭い第3のRAWデータIraw4を撮像により生成する。
本実施の形態では、合成処理部31は、第1のRAWデータIraw1のうち外縁を除く所定の領域と、RAWデータIrawa2との合成と、RAWデータIrawa2のうち外縁を除く所定の領域と、第3のRAWデータIraw4との合成とを行う。
図31は、本実施の形態における合成処理部31の機能ブロックの一例を表したものである。本実施の形態では、位置合わせ部130は、第3のRAWデータIraw4用の信号処理ブロックを有しており、例えば、ゲイン補正部137、画素補正部138および縮小部139を有している。
ゲイン補正部137は、第2および第3のRAWデータIraw2,Iraw4における色情報ごとのゲイン比(例えば、RGBゲイン比)を算出する。ゲイン補正部137は、例えば、第2のRAWデータIraw2内の平均値を色情報ごとに算出するとともに、第3のRAWデータIraw4内の平均値を色情報ごとに算出する。ゲイン補正部137は、例えば、第2および第3のRAWデータIraw2,Iraw4における、色情報ごとの平均値の比から、補正ゲインを色情報ごとに算出する。ゲイン補正部137は、算出した補正ゲインに基づいて、第3のRAWデータIraw4を補正し、これにより、RAWデータIraw4aを生成する。
画素補正部138は、RAWデータIraw4aに含まれる所定種類の色情報(例えば、緑色情報)に基づいて、RAWデータIraw4aに含まれる全ての画素の補間を行うことにより、位置合わせデータとして、所定種類の色情報(例えば、緑色情報)からなる補間RAWデータIraw4bを生成する。画素補正部138は、RAWデータIraw4aに含まれる所定種類の色情報(例えば、緑色情報)に基づいて、RAWデータIraw4aに含まれる全ての画素の補間を行うことにより、位置合わせデータとして、所定種類の色情報(例えば、緑色情報)からなる補間RAWデータIraw4bを生成する。
画素補正部138は、例えば、図8に示したように、RGB配列からなるベイヤ配列を有するRAWデータIraw4aから、緑色情報からなる補間RAWデータIraw4bを生成する。このとき、中心画素(補間対象の画素)がG画素のときには、画素補正部138は、例えば、図9に示したような補間フィルタFを用いて、中心画素の緑色情報を補正する。また、中心画素(補間対象の画素)がR画素またはB画素のときには、画素補正部133は、中心画素の色情報を、例えば、図10に示したような補間フィルタFを用いて生成した緑色情報に置き換える。
縮小部139は、第2および第3の撮像デバイス20,50の倍率に基づいて、補間RAWデータIraw4bを縮小する。視差算出部136は、補間RAWデータIraw1b,Iraw2c,Iraw4cに基づいて、位置合わせデータとしての視差情報Dispを算出する。視差情報Dispは、第1の撮像デバイス10と第2の撮像デバイス20との位置が互いに一致していないことから生じる画像上の位置ずれ量と、第2の撮像デバイス20と第3の撮像デバイス50との位置が互いに一致していないことから生じる画像上の位置ずれ量とに相当するものである。視差算出部136は、例えば、2つの画像間での動きベクトル推定法などを用いて、補間RAWデータIraw1b,Iraw2c,Iraw4cから視差情報Dispを生成する。
本実施の形態では、フュージョン部141は、2つの補間RAWデータIraw1b,Iraw2cを合成するとともに、2つの補間RAWデータIraw2c,Iraw4cを合成することにより合成RAWデータIraw3aを生成する。具体的には、フュージョン部141は、視差情報Dispに基づいて、2つの補間RAWデータIraw1b,Iraw2cを合成するとともに、2つの補間RAWデータIraw2c,Iraw4cを合成することにより合成RAWデータIraw3aを生成する。
本実施の形態では、画角の互いに異なる第1および第2のRAWデータIraw1,Iraw2に基づいて生成された位置合わせデータに基づいて、第1および第2のRAWデータIraw1,Iraw2が互いに合成される。さらに、画角の互いに異なる第2および第3のRAWデータIraw2,Iraw4に基づいて生成された位置合わせデータに基づいて、第2および第3のRAWデータIraw2,Iraw4が互いに合成される。つまり、本実施の形態では、デモザイク処理が行われる前のRAWデータの段階で合成が行われるので、デモザイク処理の回数を減らすことができる。さらに、本実施の形態における合成対象である第1、第2および第3のRAWデータIraw1,Iraw2,Iraw4は、従来の合成対象であるカラー画像データと比べて、画素ごとの色情報が少ない。従って、デモザイク処理および合成処理に要する処理コストや消費電力を低減することができる。
また、本実施の形態では、第1の撮像デバイス10の撮像領域R1のうち外縁を除く領域が第2の撮像デバイス20の撮像領域R2となっており、第2の撮像デバイス20の撮像領域R2のうち外縁を除く領域が第3の撮像デバイス50の撮像領域R3となっている。さらに、本実施の形態では、相対的に画角の広い第1のRAWデータIraw1と、第1のRAWデータIraw1よりも画角の狭い第2のRAWデータIraw2と、第2のRAWデータIraw2よりも画角の狭い第3のRAWデータIraw4とが第1、第2および第3の撮像デバイス10,20,50によって生成される。これにより、合成RAWデータIrawのうち外縁を除く所定の領域(フュージョン領域β)と、第2のRAWデータIraw2とが互いに合成される。さらに、第2のRAWデータIraw2のうち外縁を除く所定の領域と、第3のRAWデータIraw4とが互いに合成される。言い換えると、枠状の第1のRAWデータIraw1に、第2のRAWデータIraw2が嵌め込まれるとともに、枠状の第2のRAWデータIraw2に、第3のRAWデータIraw4が嵌め込まれる。その結果、第1、第2および第3の撮像デバイス10,20,50を用いて、画角の広い、高解像度の画像を得ることができる。また、第1、第2および第3の撮像デバイス10,20,50における第1、第2および第3の光学レンズ12,22,52の全てを固定焦点レンズで構成したとしても、機械的なズーム機構を用いずに光学ズームを実現できる。
その他の構成および動作、ならびに効果は、上記第1の実施の形態と略同様であってもよい。
<3.その他の実施の形態>
本開示による技術は、上記各実施の形態の説明に限定されず種々の変形実施が可能である。
本開示による技術は、上記各実施の形態の説明に限定されず種々の変形実施が可能である。
図1に示した撮像装置1等が適用されるカメラとしてのバリエーションは様々な形態を考えることができる。第1の光学レンズ12等は、固定式でも交換式でもよい。第1の光学レンズ12等が交換式のレンズ部である場合、図22および図23等に示したレンズ制御部70および撮像制御部60は、カメラ本体側に設けられていてもよいし、交換式のレンズ部側に設けられていてもよい。
また、図1に示した撮像装置1等において、信号処理部30で生成されたカラー画像データIcolを、外部メモリに保存したり、ディスプレイに表示するようにしてもよい。また、保存や表示の代わりに、カラー画像データIcolをネットワークで他の装置に伝送しても構わない。また、図1に示した信号処理部30が、撮像装置1の本体とは別であっても構わない。例えば、信号処理部30が、撮像装置1に接続されたネットワークの先にあっても構わない。また、撮像装置1の本体では画像処理を行わずに、外部メモリに画像データを保存してPC(パーソナルコンピュータ)等の別の装置で画像処理を行っても構わない。
なお、信号処理部30の処理は、コンピュータによるプログラムとして実行することが可能である。本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して例えば記憶媒体によって提供されるプログラムである。このようなプログラムを情報処理装置やコンピュータ・システム上のプログラム実行部で実行することでプログラムに応じた処理が実現される。
また、本技術による一連の画像処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体にあらかじめ記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
また、例えば、本技術は以下のような構成を取ることができる。
(1)
ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部
を備えた撮像制御装置。
(2)
前記撮像条件は、画角および画素数の少なくとも1つを含み、
前記第2の撮像デバイスの撮像条件は、前記第1の撮像デバイスの撮像条件に対して画角および画素数の少なくとも一方が異なる
上記(1)に記載の撮像制御装置。
(3)
前記第1の撮像デバイスおよび前記第2の撮像デバイスの初期の前記撮像条件の情報を格納する格納部をさらに備え、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記初期の撮像条件に基づいて同期させる
上記(1)または(2)に記載の撮像制御装置。
(4)
前記第1の撮像デバイスおよび前記第2の撮像デバイスの少なくとも一方は、ズームレンズを有し、
前記撮像条件は、少なくとも前記ズームレンズのズーム倍率を含み、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記ズーム倍率に基づいて同期させる
上記(1)ないし(3)のいずれか1つに記載の撮像制御装置。
(5)
前記撮像条件は、少なくとも画角を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画角の狭い撮像を行う撮像デバイスの露光開始タイミングを、相対的に画角の広い撮像を行う撮像デバイスの露光開始タイミングに対して遅延させる
上記(1)ないし(4)のいずれか1つに記載の撮像制御装置。
(6)
前記撮像制御部は、前記画角の狭い撮像を行う撮像デバイスにおける画素データの読み出し速度を、前記画角の広い撮像を行う撮像デバイスにおける画素データの読み出し速度よりも高速にする
上記(5)に記載の撮像制御装置。
(7)
前記撮像条件は、少なくとも画素数を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画素数の多い撮像デバイスにおける画素データの読み出し速度を、相対的に画素数の少ない撮像デバイスにおける画素データの読み出し速度よりも高速にする
上記(1)ないし(4)のいずれか1つに記載の撮像制御装置。
(8)
ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期制御する
撮像制御方法。
(9)
ローリングシャッタ方式により露光を行う第1の撮像デバイスと、
前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスと、
前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部と
を備えた撮像装置。
(10)
前記第1の撮像デバイスおよび前記第2の撮像デバイスにおいて互いに異なる画角で撮像されることにより生成された、互いに撮像領域の異なる2つの画像データを合成する合成部
をさらに備えた
上記(9)に記載の撮像装置。
(11)
前記合成部は、
前記2つの画像データのうち相対的に画角の広い画像データにおける外縁を除く所定の領域内に、相対的に画角の狭い画像データが含まれるように、前記2つの画像データを合成する
上記(10)に記載の撮像装置。
(1)
ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部
を備えた撮像制御装置。
(2)
前記撮像条件は、画角および画素数の少なくとも1つを含み、
前記第2の撮像デバイスの撮像条件は、前記第1の撮像デバイスの撮像条件に対して画角および画素数の少なくとも一方が異なる
上記(1)に記載の撮像制御装置。
(3)
前記第1の撮像デバイスおよび前記第2の撮像デバイスの初期の前記撮像条件の情報を格納する格納部をさらに備え、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記初期の撮像条件に基づいて同期させる
上記(1)または(2)に記載の撮像制御装置。
(4)
前記第1の撮像デバイスおよび前記第2の撮像デバイスの少なくとも一方は、ズームレンズを有し、
前記撮像条件は、少なくとも前記ズームレンズのズーム倍率を含み、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記ズーム倍率に基づいて同期させる
上記(1)ないし(3)のいずれか1つに記載の撮像制御装置。
(5)
前記撮像条件は、少なくとも画角を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画角の狭い撮像を行う撮像デバイスの露光開始タイミングを、相対的に画角の広い撮像を行う撮像デバイスの露光開始タイミングに対して遅延させる
上記(1)ないし(4)のいずれか1つに記載の撮像制御装置。
(6)
前記撮像制御部は、前記画角の狭い撮像を行う撮像デバイスにおける画素データの読み出し速度を、前記画角の広い撮像を行う撮像デバイスにおける画素データの読み出し速度よりも高速にする
上記(5)に記載の撮像制御装置。
(7)
前記撮像条件は、少なくとも画素数を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画素数の多い撮像デバイスにおける画素データの読み出し速度を、相対的に画素数の少ない撮像デバイスにおける画素データの読み出し速度よりも高速にする
上記(1)ないし(4)のいずれか1つに記載の撮像制御装置。
(8)
ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期制御する
撮像制御方法。
(9)
ローリングシャッタ方式により露光を行う第1の撮像デバイスと、
前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスと、
前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部と
を備えた撮像装置。
(10)
前記第1の撮像デバイスおよび前記第2の撮像デバイスにおいて互いに異なる画角で撮像されることにより生成された、互いに撮像領域の異なる2つの画像データを合成する合成部
をさらに備えた
上記(9)に記載の撮像装置。
(11)
前記合成部は、
前記2つの画像データのうち相対的に画角の広い画像データにおける外縁を除く所定の領域内に、相対的に画角の狭い画像データが含まれるように、前記2つの画像データを合成する
上記(10)に記載の撮像装置。
1…撮像装置、10…第1の撮像デバイス、11…第1の撮像素子、12,12A…第1の光学レンズ、20…第2の撮像デバイス、21…第2の撮像素子、22,22A…第2の光学レンズ、30…信号処理部、40…制御部、41…初期値格納部、50…第3の撮像デバイス、51…第3の撮像素子、52…第3の光学レンズ、60…撮像制御部、61…読み出し制御部、62…シャッタ制御部、70,70A…レンズ制御部、71…フォーカス制御部、72…ズーム制御部、130…位置合わせ部、131…切出部、132…ゲイン補正部、133…画素補正部、134…画素補正部、135…縮小部、136…視差算出部、137…ゲイン補正部、138…画素補正部、139…縮小部、140…合成部、141…フュージョン部、142…LPF部、143…相関処理部、144…マージ部、145…選択部、200…撮像装置、230…第1のカメラ信号処理部、240…第2のカメラ信号処理部、250…合成処理部、AX1,AX2…光軸、Disp…視差情報、Icol,Icol1,Icol2…カラー画像データ、Iraw1…第1のRAWデータ、Iraw2…第2のRAWデータ、Iraw4…第3のRAWデータ、Iraw1a…RAWデータ、Iraw2a,Iraw2c…RAWデータ、Iraw3c,Iraw3d…RAWデータ、Iraw,Iraw3a,Iraw3a’,Iraw3b…合成RAWデータ、Iraw1b,Iraw2b…補間RAWデータ、Idev,Iout…画像データ、Ifusion,Imerge…合成画像データ、Itele…テレ画像データ、Itele’…画像データ、Iwide…ワイド画像データ、Iwide’…画像データ、L1…第1の被写体光、L2…第2の被写体光、L3…第3の被写体光、p1,p2…位置、Tr1,Tr2…読み出し期間、Te1…露光期間、R1,R2,α…領域、β…フュージョン領域。
Claims (11)
- ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部
を備えた撮像制御装置。 - 前記撮像条件は、画角および画素数の少なくとも1つを含み、
前記第2の撮像デバイスの撮像条件は、前記第1の撮像デバイスの撮像条件に対して画角および画素数の少なくとも一方が異なる
請求項1に記載の撮像制御装置。 - 前記第1の撮像デバイスおよび前記第2の撮像デバイスの初期の前記撮像条件の情報を格納する格納部をさらに備え、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記初期の撮像条件に基づいて同期させる
請求項1に記載の撮像制御装置。 - 前記第1の撮像デバイスおよび前記第2の撮像デバイスの少なくとも一方は、ズームレンズを有し、
前記撮像条件は、少なくとも前記ズームレンズのズーム倍率を含み、
前記撮像制御部は、前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記ズーム倍率に基づいて同期させる
請求項1に記載の撮像制御装置。 - 前記撮像条件は、少なくとも画角を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画角の狭い撮像を行う撮像デバイスの露光開始タイミングを、相対的に画角の広い撮像を行う撮像デバイスの露光開始タイミングに対して遅延させる
請求項1に記載の撮像制御装置。 - 前記撮像制御部は、前記画角の狭い撮像を行う撮像デバイスにおける画素データの読み出し速度を、前記画角の広い撮像を行う撮像デバイスにおける画素データの読み出し速度よりも高速にする
請求項5に記載の撮像制御装置。 - 前記撮像条件は、少なくとも画素数を含み、
前記撮像制御部は、前記第1の撮像デバイスおよび前記第2の撮像デバイスのうち、相対的に画素数の多い撮像デバイスにおける画素データの読み出し速度を、相対的に画素数の少ない撮像デバイスにおける画素データの読み出し速度よりも高速にする
請求項1に記載の撮像制御装置。 - ローリングシャッタ方式により露光を行う第1の撮像デバイスの露光タイミングと、前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期制御する
撮像制御方法。 - ローリングシャッタ方式により露光を行う第1の撮像デバイスと、
前記第1の撮像デバイスとは異なる撮像条件でローリングシャッタ方式により露光を行う第2の撮像デバイスと、
前記第1の撮像デバイスの露光タイミングと前記第2の撮像デバイスの露光タイミングとを、前記撮像条件に基づいて同期させる撮像制御部と
を備えた撮像装置。 - 前記第1の撮像デバイスおよび前記第2の撮像デバイスにおいて互いに異なる画角で撮像されることにより生成された、互いに撮像領域の異なる2つの画像データを合成する合成部
をさらに備えた
請求項9に記載の撮像装置。 - 前記合成部は、
前記2つの画像データのうち相対的に画角の広い画像データにおける外縁を除く所定の領域内に、相対的に画角の狭い画像データが含まれるように、前記2つの画像データを合成する
請求項10に記載の撮像装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016053995A JP2017169111A (ja) | 2016-03-17 | 2016-03-17 | 撮像制御装置、および撮像制御方法、ならびに撮像装置 |
KR1020187021360A KR20180121879A (ko) | 2016-03-17 | 2017-01-17 | 촬상 제어 장치, 및 촬상 제어 방법, 및 촬상 장치 |
CN201780016425.3A CN108781250B (zh) | 2016-03-17 | 2017-01-17 | 摄像控制装置、摄像控制方法和摄像装置 |
US16/083,007 US11290619B2 (en) | 2016-03-17 | 2017-01-17 | Imaging control apparatus, imaging control method, and imaging apparatus |
PCT/JP2017/001384 WO2017159027A1 (ja) | 2016-03-17 | 2017-01-17 | 撮像制御装置、および撮像制御方法、ならびに撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016053995A JP2017169111A (ja) | 2016-03-17 | 2016-03-17 | 撮像制御装置、および撮像制御方法、ならびに撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017169111A true JP2017169111A (ja) | 2017-09-21 |
Family
ID=59852217
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016053995A Pending JP2017169111A (ja) | 2016-03-17 | 2016-03-17 | 撮像制御装置、および撮像制御方法、ならびに撮像装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11290619B2 (ja) |
JP (1) | JP2017169111A (ja) |
KR (1) | KR20180121879A (ja) |
CN (1) | CN108781250B (ja) |
WO (1) | WO2017159027A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019102889A (ja) * | 2017-11-29 | 2019-06-24 | 株式会社デンソー | カメラシステム |
KR20190098583A (ko) * | 2018-02-14 | 2019-08-22 | 삼성전자주식회사 | 이미지 표시를 제어하는 전자 장치 및 방법 |
US11146778B2 (en) | 2019-02-18 | 2021-10-12 | Canon Kabushiki Kaisha | Synchronization control device and synchronization control method |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10810751B2 (en) * | 2017-06-23 | 2020-10-20 | Panasonic Intellectual Property Corporation Of America | Distance measuring apparatus and distance measuring method |
JP7027844B2 (ja) * | 2017-11-29 | 2022-03-02 | 株式会社デンソー | カメラモジュール |
JP2019121857A (ja) * | 2017-12-28 | 2019-07-22 | キヤノン株式会社 | 電子機器及びその制御方法 |
JP7043255B2 (ja) | 2017-12-28 | 2022-03-29 | キヤノン株式会社 | 電子機器及びその制御方法 |
JP2020167626A (ja) * | 2019-03-29 | 2020-10-08 | キヤノン株式会社 | 撮像装置およびその制御方法 |
CN110290322A (zh) * | 2019-06-28 | 2019-09-27 | Oppo广东移动通信有限公司 | 设备成像方法、装置、存储介质及电子设备 |
KR20220075028A (ko) * | 2020-11-26 | 2022-06-07 | 삼성전자주식회사 | 다중 크롭 기능을 갖는 이미지 센서를 포함하는 전자 장치 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003134375A (ja) | 2001-10-26 | 2003-05-09 | Matsushita Electric Works Ltd | 画像撮影システム |
JP2005175970A (ja) * | 2003-12-11 | 2005-06-30 | Canon Inc | 撮像システム |
US7663662B2 (en) * | 2005-02-09 | 2010-02-16 | Flir Systems, Inc. | High and low resolution camera systems and methods |
US7859588B2 (en) * | 2007-03-09 | 2010-12-28 | Eastman Kodak Company | Method and apparatus for operating a dual lens camera to augment an image |
JP5413002B2 (ja) * | 2008-09-08 | 2014-02-12 | ソニー株式会社 | 撮像装置および方法、並びにプログラム |
CN102404510B (zh) * | 2009-06-16 | 2015-07-01 | 英特尔公司 | 手持装置中的摄像机应用 |
US20120075489A1 (en) * | 2010-09-24 | 2012-03-29 | Nishihara H Keith | Zoom camera image blending technique |
JP2012227773A (ja) * | 2011-04-20 | 2012-11-15 | Toyota Motor Corp | 画像認識装置 |
CN105556944B (zh) * | 2012-11-28 | 2019-03-08 | 核心光电有限公司 | 多孔径成像系统和方法 |
WO2014111814A2 (en) * | 2013-01-15 | 2014-07-24 | Mobileye Technologies Limited | Stereo assist with rolling shutters |
JP6139713B2 (ja) | 2013-06-13 | 2017-05-31 | コアフォトニクス リミテッド | デュアルアパーチャズームデジタルカメラ |
-
2016
- 2016-03-17 JP JP2016053995A patent/JP2017169111A/ja active Pending
-
2017
- 2017-01-17 US US16/083,007 patent/US11290619B2/en active Active
- 2017-01-17 CN CN201780016425.3A patent/CN108781250B/zh active Active
- 2017-01-17 WO PCT/JP2017/001384 patent/WO2017159027A1/ja active Application Filing
- 2017-01-17 KR KR1020187021360A patent/KR20180121879A/ko unknown
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019102889A (ja) * | 2017-11-29 | 2019-06-24 | 株式会社デンソー | カメラシステム |
KR20190098583A (ko) * | 2018-02-14 | 2019-08-22 | 삼성전자주식회사 | 이미지 표시를 제어하는 전자 장치 및 방법 |
KR102418852B1 (ko) * | 2018-02-14 | 2022-07-11 | 삼성전자주식회사 | 이미지 표시를 제어하는 전자 장치 및 방법 |
US11146778B2 (en) | 2019-02-18 | 2021-10-12 | Canon Kabushiki Kaisha | Synchronization control device and synchronization control method |
Also Published As
Publication number | Publication date |
---|---|
CN108781250B (zh) | 2021-02-19 |
US20190098180A1 (en) | 2019-03-28 |
WO2017159027A1 (ja) | 2017-09-21 |
KR20180121879A (ko) | 2018-11-09 |
US11290619B2 (en) | 2022-03-29 |
CN108781250A (zh) | 2018-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017159027A1 (ja) | 撮像制御装置、および撮像制御方法、ならびに撮像装置 | |
JP6055332B2 (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
JP5917054B2 (ja) | 撮像装置、画像データ処理方法、およびプログラム | |
US9055181B2 (en) | Solid-state imaging device, image processing apparatus, and a camera module having an image synthesizer configured to synthesize color information | |
JP5701785B2 (ja) | カメラモジュール | |
JP6711612B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
US20150373251A1 (en) | Image pickup device and image pickup apparatus | |
US10075640B2 (en) | Motion compensation for image sensor with a block based analog-to-digital converter | |
JP2013092552A (ja) | 固体撮像装置及びカメラモジュール | |
JP2015169722A (ja) | 撮像装置 | |
JP2007243917A (ja) | 撮像装置および画像処理プログラム | |
JP2009296434A (ja) | 画像撮像装置 | |
JP2009044637A (ja) | 撮像装置 | |
JP2011205284A (ja) | 画像処理方法および画像処理装置 | |
KR102619738B1 (ko) | 신호 처리 장치 및 촬상 장치 | |
WO2015186510A1 (ja) | 撮像装置および方法、並びにプログラム | |
US20200389596A1 (en) | Image sensor and image processing system including thereof | |
JP5363872B2 (ja) | 画像補正装置及びそのプログラム | |
JP2009047734A (ja) | 撮像装置及び画像処理プログラム | |
JP2007049301A (ja) | 画像処理装置及び画像処理方法 | |
JP2009047735A (ja) | 撮像装置及び画像処理プログラム | |
JP2010010958A (ja) | マルチバンド画像撮像方法および装置 | |
CN116132805A (zh) | 成像元件、摄像装置、成像元件的工作方法及存储介质 | |
JP4687619B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20210203899A1 (en) | Image processing device, image processing method, and imaging device |