JP6141129B2 - 撮像装置、撮像装置の制御方法、及びコンピュータプログラム - Google Patents

撮像装置、撮像装置の制御方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP6141129B2
JP6141129B2 JP2013146826A JP2013146826A JP6141129B2 JP 6141129 B2 JP6141129 B2 JP 6141129B2 JP 2013146826 A JP2013146826 A JP 2013146826A JP 2013146826 A JP2013146826 A JP 2013146826A JP 6141129 B2 JP6141129 B2 JP 6141129B2
Authority
JP
Japan
Prior art keywords
image
image signal
signal
exposure
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013146826A
Other languages
English (en)
Other versions
JP2015019330A (ja
Inventor
宏 中岡
宏 中岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013146826A priority Critical patent/JP6141129B2/ja
Publication of JP2015019330A publication Critical patent/JP2015019330A/ja
Application granted granted Critical
Publication of JP6141129B2 publication Critical patent/JP6141129B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、撮像装置、撮像装置の制御方法、及びコンピュータプログラムに関し、特に、連続して撮像された複数の画像信号を合成して出力するために用いて好適なものである。
CMOSイメージセンサ(線順次走査方式を採る撮像素子)を備えた撮像装置では、外部ストロボ(例えば、他の撮像装置に備えられている発光手段)が焚かれている状況で撮像が行われることがある。この場合、撮像装置側で決定された露出条件による撮像ができなくなることにより、画像信号中に外部ストロボによる輝度変調が生じてしまい、著しい画像劣化が発生する。特に連続して撮像された複数の画像信号を合成し1つの画像信号として出力する撮像装置では、合成後の画像信号に外部ストロボによる輝度変調の様子が表れるため、ユーザーに不快感を与えてしまう。
そこで、特許文献1には、連続して撮像された複数の画像信号のうち、外部ストロボの影響を受けているフレームの画像信号を、その前後のフレームの画像信号を合成した画像信号に置き換える撮像装置が開示されている。
また、特許文献2には、所定のフォーマットの整数倍のフレームレートで撮像し、外部ストロボの影響を受けていない画像信号のみを選択して画像信号を合成する撮像装置が開示されている。
特開2007−306225号公報 特開2011−015381号公報
しかしながら、特許文献1に記載の撮像装置では、外部ストロボの影響を受けているフレームの画像信号を、その前後のフレームの画像信号を合成した画像信号に置き換える。したがって、連続的な撮像を行っているにも関わらず、撮像している被写体の時間連続性が保たれなくなってしまう問題がある。
また、特許文献2に記載の撮像装置では、部分的に影響を受けている画像信号も、合成する複数の画像信号の対象とはならない。このため、正常に撮像されているラインがあるにも関わらず画像信号全体が使用されない問題がある。また、特許文献2に記載の撮像装置では、外部ストロボの影響を受けていない画像信号のみを選択して合成する際に、合成後の画像信号のレベルを合わせるために欠落フレーム分のレベル補償をしなければならない。したがって、実質的にはゲインアップによるレベル合わせを行う必要があり、S/N比の低い画像となってしまう問題がある。
本発明は、このような問題点に鑑みてなされたものであり、画像信号に輝度変調が発生した場合でも、連続して撮像された複数の画像信号を合成して良好な画像信号を生成できるようにすることを目的とする。
本発明の撮像装置は、行列状に配置された複数の画素を有する撮像素子で連続して撮像された複数の画像信号を合成して画像信号を生成する撮像装置であって、前記画像信号を得るための前記撮像素子における電荷の読み出しを行ってから、その次の前記画像信号を得るための前記撮像素子における電荷の蓄積を開始するまでの時間であるずれ時間を設定する設定手段と、前記設定手段により設定されたずれ時間に基づいて、前記撮像素子の動作を制御する撮像素子制御手段と、前記撮像素子制御手段により動作が制御された前記撮像素子で撮像された前記複数の画像信号の輝度値に基づいて、輝度が変調している領域である輝度変調領域を、前記複数の画像信号のそれぞれについて判定する領域判定手段と、前記領域判定手段により判定された輝度変調領域に基づいて、前記複数の画像信号の合成比率を算出する合成比率算出手段と、前記合成比率算出手段により算出された合成比率で、前記撮像素子制御手段により動作が制御された前記撮像素子で撮像された前記複数の画像信号を合成する合成手段と、を有することを特徴とする。
本発明によれば、画像信号に輝度変調が発生した場合でも、連続して撮像された複数の画像信号を合成して良好な画像信号を生成することができる。
撮像装置の構成の第1の例を示す図である。 第1の例の撮像装置の動作の概要を説明する図である。 画像信号が外部ストロボの影響を受ける条件を説明する図である。 第1の例の撮像装置の動作を説明する図である。 第1の例の撮像装置の全体制御のタイミングを説明する図である。 輝度変調領域の判定方法を説明する図である。 合成比率制御信号を生成する方法を説明する図である。 第1の例の撮像装置の構成の変形例を示す図である。 変形例の撮像装置の動作の概略を説明するフローチャートである。 第1の例の撮像装置の構成の他の変形例を示す図である。 撮像装置の構成の第2の例を示す図である。 低露出・高露出画像信号の輝度値と画素値との関係を示す図である。 低露出・高露出画像信号の画素値のヒストグラムを示す図である。 第2の例の撮像素子の動作を説明する図である。 第2の例の撮像装置の全体制御のタイミングを説明する図である。 合成比率を決定する方法を説明する図である。 撮像装置の構成の第3の例を示す図である。 第3の例の撮像装置の動作の概要を説明するフローチャートである。 輝度変調領域を判定する方法を説明する図である。 撮像装置の構成の第4の例を示す図である。 第4の例の撮像装置の全体制御のタイミングを説明する図である。 撮像素子における電荷の蓄積の様子を説明する図である。 リセット開始のタイミングをずらさない場合の画像信号を示す図である。
本発明の実施形態を説明する前に、本発明の実施形態の前提となる技術を説明する。
図22は、撮像素子における電荷の蓄積の様子を説明する図である。具体的に図22は、外部ストロボが発光されている状況下で、CMOSイメージセンサを利用した撮像装置で被写体を動画として連続して撮影した場合の、撮像素子における電荷蓄積の様子を説明する図である。
チャート2201は、外部ストロボが発光するタイミングを示す。チャート2201の立ち上がっている部分2202において、外部ストロボは発光時間tだけ発光する。
チャート2203は、垂直同期信号を示す。撮像装置の撮影方式で決定される垂直同期信号がアサート(assert)されるタイミング(チャート2203の下向きに突出している部分を参照)で、CMOSイメージセンサから画像信号が読み出される。
チャート2204、2205、2206は、撮像装置に備わるCMOSイメージセンサからの画像信号の読み出し期間を示す。チャート2204、2205、2206では、画素ごとの露光タイミングがライン方向で順次行われる様子を示す。チャート2205に従って読み出される画像信号の基となる各画素の電荷は、チャート2204、2205に挟まれる期間で蓄積される。そして、この期間内に外部ストロボが発光する(図22の外部ストロボの発光時間tを参照)。このため、領域2207については外部ストロボの影響を受けてしまうことにより、撮像装置で決定された適正な露出条件ではなく、露出オーバーで撮影される。同様に、チャート2206に従って読み出される画像信号の基となる各画素の電荷は、チャート2205、2206に挟まれる期間で蓄積される。そして、この期間内に外部ストロボが発光する(図22の外部ストロボの発光時間tを参照)。このため、領域2208についても外部ストロボの影響を受けてしまうことにより、撮像装置で決められた適正な露出条件ではなく、露出オーバーで撮影されてしまう。
図23は、以上の条件で撮像した場合の画像信号を説明する図である。
画像信号2301は、図22のチャート2205に従って読み出された画像信号(画像X)を示す。また、画像信号2302は、図22のチャート2206に従って読み出された画像信号(画像Y)を模式的に示す。
図22を参照して説明したように、図23において、領域2207に相当するライン群が輝度変調の影響を受ける。同様に、領域2208に相当するライン群が輝度変調の影響を受ける。画像Xと画像Yとを合成した場合、結果的には画像X中の輝度変調が発生しているラインと、画像Y中の輝度変調が発生しているラインとの論理和を取ることになる。したがって、全ラインにわたって外部ストロボによる輝度変調を受けた画像が生成される。合成後の信号レベル2304は、画像Xと画像Yとを合成した画像信号2303の信号レベルを示す。合成後の信号レベル2304は、撮像装置が画像信号を合成した後に得られる本来の信号レベル2305よりも、高いレベルの画像信号になる虞がある。また、領域2306は、画像X、Yともに、外部ストロボによる変調領域が発生している領域である。したがって、領域2306に属するラインについては周囲のラインよりもさらに高い信号レベルとなってしまい、この信号レベルが、合成後の画像信号2303上に帯状になって表れてしまう虞がある。
以下の本発明の実施形態は、以上の技術を考慮してなされたものである。
以下、図面を参照しながら、本発明の実施形態を説明する。
(第1の実施形態)
まず、本発明の第1の実施形態を説明する。
図1は、本実施形態の撮像装置の構成の一例を示すブロック図である。
撮像素子101は、光電変換素子を有する画素が行列状(2次元マトリックス状)に配置されて構成される。各画素に備わる光電変換素子は、被写体像を光電変換により電気信号(アナログ信号)に変換する。本実施形態では、撮像素子101は、CMOSセンサを用いて構成されるものとする。撮像素子101は、撮像素子制御部102が生成する制御信号をもとにした駆動パルスで駆動する。光電変換されたアナログ信号は、撮像素子101に備わるAD変換部でデジタル信号に変換され、撮像素子101から出力される。このとき、撮像素子101が電子シャッタ機能を有する場合には、撮像素子制御部102からの制御信号により、必要な露光時間となるように露光時間を確保してもよい。
輝度変調領域判定部103は、撮像素子101から得られる画像信号から外部ストロボによる輝度変調を受けた領域である輝度変調領域を判定し、領域判定の結果を示す情報である輝度変調領域情報を合成比率算出部104に対して出力する。
合成比率算出部104は、メモリ105と合成比率演算部106とを有する。合成比率演算部106は、撮像素子101から出力される画像信号と、フレームメモリ107から出力される1フレーム前の画像信号との合成比率を演算して画像合成部108に合成比率制御信号として出力する。この合成比率の演算は、輝度変調領域判定部103から出力される輝度変調領域情報と、メモリ105から出力される1フレーム前の輝度変調領域情報とに基づいて行われる。
フレームメモリ107は、撮像素子101から出力される画像信号を1フレーム分保持する。
画像合成部108は、フレームメモリ107から出力される画像信号と、撮像素子101から出力される画像信号とを合成し1枚の画像信号を生成する。画像合成部108は、以下の要素で構成される。合成比率調整部109は、撮像素子101から出力される画像信号に対して、合成比率算出部104から出力される合成比率制御信号に応じて、ゲイン処理を行う。合成比率調整部110は、フレームメモリ107から出力される画像信号に対して、合成比率調整部109と同様に、合成比率算出部104から出力される合成比率制御信号に応じて、ゲイン処理を行う。合成部111は、合成比率調整部109及び110から出力される2つの合成比率調整後の画像信号を加算して合成画像112として出力する。
制御部113は、撮像装置全体を制御する。制御部113は、撮像における露出条件等に応じて、撮像素子101の電荷の蓄積時間を決定し、撮像素子制御部102に対して制御信号を渡す役割もある。
次に、外部発光手段の一例である外部ストロボの発光によって、画像信号に現れる影響について図2及び図3を用いて説明する。図2は、撮像素子101における動作の概要の一例を説明する図である。具体的に図2は、撮像素子101での撮像において、電荷のリセットのタイミングをずれ時間(ずれ量)Δtだけ遅らせた場合の撮像素子101の動作の一例を説明する図である。このずれ量Δtは、或る画像信号を得るための撮像素子101における電荷の読み出しを行ってから、次の画像信号を得るための撮像素子101における電荷の蓄積を開始するまでの時間に対応する。
チャート201は、外部ストロボが発光するタイミングを示す。外部ストロボは、チャート201の立ち上がっている部分202において、発光時間tだけ発光する。図2に示す例では、撮像装置の撮影方式で決定される垂直同期信号203は、4回アサート(assert)される。
チャート205、206、207、208は、各画像信号の読み出し期間を示す。各画像信号は、垂直同期信号203がアサートされるタイミングで撮像素子101から読み出される。時間tlは、1ラインの読み出し時間を示す。
チャート209、210は、リセット信号が出力されることを示す。具体的に、チャート209は、チャート206で示される画像信号の電荷蓄積時間を決定するリセット信号が出力されることを示す。チャート210は、チャート207に従って読み出される画像信号の電荷蓄積時間を決定するリセット信号が出力されることを示す。
図2に示すタイミングで外部ストロボが発光した場合、チャート206に従って読み出される画像信号については、ライン数がNの画像信号204の領域211が、外部ストロボの影響を受けることになる。また、チャート207に従って読み出される画像信号については、画像信号204の領域212が、外部ストロボの影響を受けることになる。
図3は、画像信号が外部ストロボの影響を受ける条件を説明する図である。同一符号を付した箇所については説明を省略する。
外部ストロボの発光開始タイミング301と、発光終了タイミング302とで挟まれた期間が、前述した外部ストロボの発光時間tに相当する。また、リセット開始(リセット信号の出力の開始)のタイミングのずれ量Δtによって、撮像素子101での電荷蓄積時間が決定される。リセット開始のタイミングのずれ量Δtが無いとき(Δt=0)の、連続する2つの画像信号間(チャート206、207に従って読み出される画像信号間)で発生する、外部ストロボによる輝度変調を受けるライン(図23の領域2306に相当)をXとする。外部ストロボによる輝度変調を受けるラインXは、以下の(式1)で算出される。
X=t/tl ・・・(式1)
ここで、tlは、前述したように、撮像素子101における1ラインの読み出し時間である(図2を参照)。また、tは、前述したように、外部ストロボの発光時間である(図2を参照)。
次に、リセット開始のタイミングのずれ量Δtを考慮した場合の画像信号の読み出しについて説明する。
連続する2つの画像信号間で発生する外部ストロボによる輝度変調を受けるラインのうち、リセット開始のタイミングのずれ量Δtによって、外部ストロボの影響の重なりが解消されるライン数をΔXとおく。そうすると、連続する2つの画像信号間で発生する外部ストロボによる輝度変調を受けるラインX'は、以下の(式2)のように表現できる。
X'=X−ΔX ・・・(式2)
図3より、ΔXは、時間303(すなわち、リセット開始のタイミングのずれ量Δt)で読み出し可能なライン数を示し、以下の(式3)のように表現できる。
ΔX=Δt/tl ・・・(式3)
以上から、リセット開始のタイミングのずれ量Δtを考慮した場合の2つ画像信号間で発生する外部ストロボによる輝度変調を受けるラインX'は、(式1)、(式2)、(式3)より、以下の(式4)のようになる。
X'=(1/tl)×(t−Δt) ・・・(式4)
ここで、(式4)は、リセット開始のタイミングのずれ量Δtが外部ストロボの発光時間tと同じかそれ以上の場合に、連続する2つの画像信号間で発生する外部ストロボによる輝度変調を受けるラインが0(ゼロ)になることを意味する。すなわち、このような場合には、全てのラインにおいて、どちらか一方の画像信号では適切な撮像が成されることを示す。
制御部113は、(式4)に基づいてずれ時間導出処理を行う。具体的に制御部113は、(式4)で示されたラインX'が0(ゼロ)となるようなリセット開始のタイミングのずれ量Δtを、外部ストロボの平均発光時間に基づいて決定する。そして、制御部113は、このずれ量Δtで撮像するように撮像素子制御部102へ制御信号を渡す。外部ストロボの平均発光時間は、代表的なストロボ発光手段のストロボ発光時間を元に予め決定され、制御部113内の不揮発性記憶媒体等に記憶しておくことにより、撮像装置内に予め情報として保持される。
図4は、本実施形態における撮像素子101の動作を説明する図である。同一符号を付した箇所については説明を省略する。
チャート402、403は、それぞれ、チャート206、207に従って読み出される画像信号の電荷蓄積時間を決定するリセット信号である。このリセット信号は、リセット開始のタイミングのずれ量Δtのオフセットをもって走査される。このリセット開始のタイミングのずれ量Δtは、外部ストロボの平均発光時間を(式4)に与えることにより決定される。
図4に示す発光開始タイミング301と発光終了タイミング302との間の発光時間tで外部ストロボが発光した場合、チャート206に従って読み出される画像信号については、領域404が外部ストロボによる輝度変調を受ける。また、チャート207に従って読み出される画像信号については、領域405が、外部ストロボによる輝度変調の影響を受ける。
画像信号406、407は、それぞれ、チャート206、207に従って読み出される画像信号の模式図である。連続して撮影された2枚の画像信号406、407において、外部ストロボによって輝度変調を受けた領域404、405に注目すると、全てのラインにおいて、どちらか一方の画像信号では適切な撮像が成されるようになる。
次に、図5を参照して、本実施形態の撮像装置の全体制御のタイミングの一例を説明する。同一符号を付した箇所については説明を省略する。
画像信号501は、撮像素子101で撮像された画像信号を示す。チャート206、207、208に従って読み出される画像信号をそれぞれ、画像A、画像B、画像Cとしている。
画像信号502は、フレームメモリ107から出力される画像信号を示す。撮像素子101から出力される画像信号は、1フレーム分遅延されてフレームメモリ107から出力される。
輝度変調領域情報503は、輝度変調領域判定部103から出力される輝度変調領域情報を示す。画像Aから判定された結果(輝度変調領域)を(a)で表している。同様に、画像B、Cから判定された結果(輝度変調領域)を、それぞれ(b)、(c)で表している。
図6を参照して、輝度変調領域判定部103における輝度変調領域の判定方法の一例を説明する。
画像信号601は、撮像素子101で撮像された画像信号(画像A)を模式的に示したものである。輝度変調領域判定部103は、入力される画像信号の各ラインの積分値を算出する。本実施形態では、撮像素子101はCMOSセンサである。このため、外部ストロボによって画像信号上に発生する輝度変調領域は、図6の輝度変調領域情報603のように、ライン方向(同一のライン上)では一様に発生する。したがって、輝度変調領域判定部103は、画像信号の輝度値をライン方向に積分してその積分値であるライン積分値を評価することで輝度変調を受けているか否かを判定することができる。
図6では、輝度変調領域判定部103において演算されたライン積分値602を画像信号601に合わせて示す。横軸は、ライン積分値を表し、縦軸は、ライン数を表す。輝度変調領域判定部103は、予め決められた閾値Thを持ち、算出されたライン積分値が閾値Thより大きい場合に、当該ライン積分値に対応するラインを輝度変調領域であると判定する。一方、ライン積分値が閾値Thより大きくない場合、当該ライン積分値に対応するラインは輝度変調領域でないと判定する。尚、閾値Thを、過去のフレームのライン積分値の結果を参照して決定することで、より精度よく輝度変調領域を判定することもできる。
また、図6では、輝度変調領域判定部103から出力される輝度変調領域情報603を画像信号601に合わせて示す。横軸は、輝度変調領域情報の値を表し、縦軸は、ライン数を表す。輝度変調領域判定部103は、輝度変調を受けたラインでは輝度変調領域情報として1を出力し、そうでないラインでは輝度変調領域情報として0(ゼロ)を出力する。
再び図5に戻って、本実施形態の撮像装置の全体制御を説明する。
輝度変調領域情報504は、合成比率算出部104に備わるメモリ105から出力される輝度変調領域情報を示す。輝度変調領域判定部103から出力される輝度変調領域情報は、1フレーム分遅延されてメモリ105から出力される。
合成比率制御信号505は、輝度変調領域判定部103とメモリ105とから出力される輝度変調領域情報を元に合成比率演算部106で生成される合成比率制御信号を示す。具体的に、合成比率制御信号γ1は、輝度変調領域情報(a)及び(b)に基づいて演算される合成比率制御信号を示し、合成比率制御信号γ2は、輝度変調領域情報(b)及び(c)に基づいて演算される合成比率制御信号を示す。
図7は、合成比率制御信号を生成する方法の一例を説明する図である。具体的に図7は、合成比率演算部106において、輝度変調領域情報(a)及び(b)に基づいて合成比率制御信号γ1を生成する方法の一例を示す図である。
画像信号701、702は、それぞれ画像A、Bを模式的に示したものである。グラフ703、704は、それぞれ、輝度変調領域判定部103で生成される輝度変調領域情報(a)、(b)を示したものである。輝度変調領域情報(a)はメモリ105から出力され、輝度変調領域情報(b)は輝度変調領域判定部103から出力される。
合成比率演算部106は、これら2つの輝度変調領域情報(a)及び(b)を元に、外部ストロボによる輝度変調領域が合成画像112に現れないような合成比率制御信号γ1を生成する。
グラフ705は、合成比率演算部106で生成された合成比率制御信号γ1を模式的に示したものである。領域706では画像Bに輝度変調領域がある。したがって、合成比率演算部106は、領域706では画像Bを使わないように(すなわち画像Aを使うように)合成比率制御信号γ1を生成する。また、領域707では画像Aに輝度変調領域がある。したがって、合成比率演算部106は、領域707では画像Aを使わないように(すなわち画像Bを使うように)合成比率制御信号γ1を生成する。尚、本実施形態では合成比率制御信号γ1は、0(ゼロ)又は1をとるようにし、合成比率制御信号γ1の値が0(ゼロ)である場合には画像Bを使い、1である場合には画像Aを使うことを示すものとする。領域708は、画像A、画像Bのどちらにも輝度変調領域が発生していない領域である。そこで、合成比率演算部106は、領域708では合成比率を徐々に変化させるように合成比率制御信号γ1を生成する。尚、領域708に関しては、合成比率制御信号γ1の値を0.5で固定してもよいし、0(ゼロ)又は1のどちらか一方としてもよい。
再び図5に戻って、本実施形態の撮像装置の全体制御の説明を続ける。
合成画像506は、フレームメモリ107から出力される画像Aと、撮像素子101から出力される画像Bとを合成部111で合成したものを示す。合成比率調整部109、110において、合成比率演算部106から出力される合成比率制御信号γ1に基づく合成比率を元に、画像信号(画像A、B)に対して当該合成比率でゲイン処理する。本実施形態では、合成比率制御信号γ1の値が0(ゼロ)である場合に画像Bを使うこととしている。このため、合成比率調整部109は、受け取った合成比率制御信号γ1に対して、以下の(式5)の操作をすることにより得られる合成比率で、入力される画像信号(画像B)に対してゲイン処理を行う
γ1←(1−γ1) ・・・(式5)
合成部111は、合成比率が調整された後の画像信号(画像A、B)の相互に対応する画素の値を加算して合成画像112を生成して出力する。
以上のように本実施形態では、撮像素子101における電荷蓄積時間を、外部ストロボの代表的な発光時間(平均発光時間)と1ラインの読み出し時間とに基づいて決定して、2つの画像信号を連続して撮像する。すなわち、撮像素子101における電荷の蓄積を開始するタイミングを、外部ストロボの代表的な発光時間(平均発光時間)と1ラインの読み出し時間とに基づく時間だけずらして、2つの画像信号を連続して撮像する。それら2つの画像信号のそれぞれについて、各ラインの積分値(ライン積分値)を導出し、導出したライン積分値と閾値Thとを比較して、輝度変調領域を判定する。2つの画像信号のそれぞれの輝度変調領域に応じて、2つの画像信号を合成する領域と、2つの画像信号の一部(何れか)を使用する領域を決定する。したがって、フレーム欠落を起こすことなく、また、輝度変調を受けていない領域を使って画像信号を生成することで画質の劣化を最小限に抑えることが可能となる。
<変形例1>
本実施形態のようにすると、撮像素子101における電荷蓄積時間は、外部ストロボの代表的な発光時間(平均発光時間)に基づいて決定される。したがって、撮像装置における露出は、本来の露出よりも低くなることがある。この場合は、撮像装置に備わる不図示のゲイン回路(増幅器)に対して設定されるゲイン値(増幅率)を制御し、合成画像の信号値を増幅(ゲインアップ)することで、適正な明るさにすることも可能である。
<変形例2>
また、撮影状況を判断して、本実施形態で説明した制御をするか否かを切り替えることができる。このようにすれば、外部ストロボが焚かれない状況下では、撮像素子101における電荷蓄積時間を、外部ストロボの代表的な発光時間(平均発光時間)を元に決定して撮像しないようにすることが可能になる。
図8は、本変形例の撮像装置の構成の一例を示すブロック図である。撮像装置の構成としては、図1に示した撮像装置に対し制御線801を追加したものとする。
制御線801は、制御部113から出力される制御信号を合成比率演算部106に伝送するためのものであり、具体的には合成比率演算部106で生成される合成比率制御信号を制御するために用いられる。
図9は、本変形例の撮像装置の動作の概略の一例を説明するフローチャートである。
まず、ステップS901において、制御部113は、撮像装置の露出制御パラメータである、F値(F)、蓄積時間(T)、及びゲイン値(G)を取得する。
次に、ステップS902において、制御部113は、室内判定演算をする。外部ストロボが発光される状況は、ほとんどが室内等の照明光源下である。このため、制御部113は、ステップS901で得られた露出制御パラメータを用いて、室内(或いは室内と同等の照明環境下)で撮影されているか否かを判定する。判定は、例えば、次に示す(式6)の判定式に基づいて行われる。
評価値=(Fd/F)2×(T/Td)×(G/Gd) ・・・(式6)
ここで、Fd、Td、Gdは、一般的に室内での撮影条件下における露出制御パラメータ(F値、蓄積時間、ゲイン値)であり、撮像装置内の不揮発性記憶媒体等に予め記憶させておく。
次に、ステップS903において、制御部113は、(式6)の評価値が1以上であるか否かを判定する。この判定の結果、評価値が1以上である場合には、室内で撮影していると判断され、ステップS904へ遷移する。一方、評価値が1未満である場合には、室内で撮影していないと判断され、ステップS905に遷移する。
ステップS904に進むと、撮像装置は、本実施形態で説明したように、撮像素子101における電荷蓄積時間を、外部ストロボの代表的な発光時間(平均発光時間)と1ラインの読み出し時間とに基づいて決定して、2つの画像信号を連続して撮像する。この際、制御部113は、撮像素子制御部102に制御信号を渡す。この制御信号を受けた撮像素子制御部102は、所望の電荷蓄積時間で撮像がなされるように撮像素子101に制御信号を渡す。
一方、ステップS905に進むと、制御部113は、輝度変調領域情報に因らずに合成比率制御信号が一定値(0.5等)となるようにすることを示す制御信号を合成比率演算部106に渡す。また、撮像素子制御部102は、撮像素子101における電荷の蓄積を開始するタイミングが大きくずれないように(図2の時間Δtが所定値となるように)撮像素子101に制御信号を渡す。
以上のように、外部ストロボが焚かれる状況であるか否かを判断することで、適応的に撮像方法を切り替えることが可能となる。
<変形例3>
また、本実施形態のように、撮像素子101における電荷蓄積時間を、外部ストロボの代表的な発光時間(平均発光時間)に基づいて決定すると、撮像装置で撮影したい本来の露出よりも露出が低くなる。露出制御パラメータとしてF値を備える(すなわち絞り制御機構を備える)撮像装置では、F値(絞り値)を制御することで、適正な明るさで撮影することも可能である。
図10は、本変形例の撮像装置の構成の一例を示す図である。本変形例の撮像装置は、図1に示した撮像装置に対し、光学系1001と、光学系1001を制御する光学系制御部1002を追加したものとなる。
制御部113は、制御信号を光学系制御部1002に渡す。この制御信号を受けた光学系制御部1002は、外部ストロボの代表的な発光時間(平均発光時間)と1ラインの読み出し時間とを基にして決定された撮像素子101の電荷蓄積時間に基づいて、露出が過少となっている分の露出を反映するF値を決定する。そして、光学系制御部1002は、決定したF値になるように、光学系1001の絞りを制御する。このようにすることで、適正な明るさで撮影することが可能となる。
<変形例4>
本実施形態では、連続して撮像された2つの画像信号を合成する場合を例に挙げて説明した。しかしながら、合成する画像信号の数は3つ以上であってもよい。
この場合、連続して撮像された複数の画像信号の相互に対応する領域について、一部の画像信号では輝度変調領域であると判定され、他の一部の画像信号では輝度変調領域ではないと判定された場合、当該領域については、当該他の一部の画像信号を使用できる。当該他の一部の画像信号が複数ある場合には、それら複数の画像信号を合成してもよいし、当該他の一部の画像信号の一つを選択してもよい。
(第2の実施形態)
次に、本発明の第2の実施形態を説明する。本実施形態では、第1の実施形態に対し、異なる露出で撮像された複数の画像信号から高ダイナミックレンジの画像信号を合成して生成する構成を付加したものである。これにより、外部ストロボが発光した場合でもその影響を受けない高ダイナミックレンジ画像を生成することができる。したがって、本実施形態の説明において、第1の実施形態と同一の部分については、図1〜図10に付した符号と同一の符号を付す等して詳細な説明を省略する。
図11は、本実施形態の撮像装置の構成の一例を示すブロック図である。
図11において、制御部113は、高ダイナミックレンジで撮影する際の露出量を決定する。撮像素子制御部102は、制御部113から渡される制御信号に従って、撮像素子101の露出量を制御する。さらに制御部113は、撮像素子制御部で決定された露出量に応じて画像信号に対して行うレベル合わせのためのレベル合わせゲインを決定する。
画像合成部1101は、複数の画像信号を合成して1枚の画像信号を生成する。画像合成部1101は、レベル調整部1102、1103、動き検出部1104、合成比率決定部1105、合成比率調整部109、110、及び合成部111を有する。
レベル調整部1102、1103は、制御部113からの制御信号に従って、撮像素子101から読み出される画像信号のレベルをそれぞれ調整する。
動き検出部1104は、レベルが合わせられた2枚の画像信号について、画像信号間の差分情報等を求めて、動きベクトルを検出し、検出した動きベクトルを含む動き検出情報を合成比率決定部1105へ渡す。
合成比率決定部1105は、2枚の画像信号を合成するための合成比率を決定する。この合成比率は、動き検出部1104から出力される動き検出情報と、レベル調整部1102、1103から出力されるレベル調整後の画像信号と、合成比率演算部106から出力される合成比率制御信号とに基づいて決定される。
次に、露出の異なる2枚の画像を撮像し、それらを合成する手順の一例を説明する。以下では、最初に、相対的に低い露出の画像(低露出画像)を撮像し、その次に、相対的に高い露出の画像(高露出画像)を撮像してそれらを合成する場合を例に挙げて説明する。しかしながら、前記低露出画像と、前記高露出画像とを撮像する順番は、これとは逆であっても構わない。
まず、制御部113は、低露出の露出段差を設定する。ここでは、適正露出に対して−2段の露出段差を設定する場合を例に挙げて説明する。
撮像素子制御部102は、制御部113で設定された−2段に相当する露出量になるように撮像素子101の露出量を制御する。すなわち、シャッタースピードのみの制御ならば、撮像素子制御部102は、適正露出時の1/4倍の露出時間を設定する。また、撮像素子101に備わるセンサーゲイン部のみの制御ならば、撮像素子制御部102は、当該センサーゲイン部に、適正露出時の1/4倍のゲインを設定する。これらのうち、何れかのみの設定を行うか、又は、これらの組合せで−2段の露出量を設定する。
そして、撮像素子101は、撮像素子制御部102で設定された露出量(露出時間やゲインの設定値)に従って低露出の撮影を行い、低露出画像信号を出力する。このようにして撮像素子101で得られた画像信号はフレームメモリ107に一時的に保持される。
次に、制御部113は、高露出の露出段差を設定する。ここでは、適正露出に対して+2段の露出段差を設定する場合を例に挙げて説明する。
撮像素子制御部102は、制御部113で設定された+2段に相当する露出量になるように撮像素子101の露出量を制御する。すなわち、シャッタースピードのみの制御ならば、撮像素子制御部102は、適正露出時の4倍の露出時間を設定する。また、撮像素子101に備えられているセンサーゲイン部のみの制御ならば、撮像素子制御部102は、当該センサーゲイン部に、適正露出時の4倍のゲインを設定する。これらのうち、何れかのみの設定を行うか、又は、これらを組合せで+2段の露出量を設定する。
そして、撮像素子101は、撮像素子制御部102で設定された露出量(露出時間やゲインの設定値)に従って高露出の撮影を行い、高露出画像信号を出力する。
ここで、制御部113は、2枚の画像信号を合成する際に前記低露出画像信号と前記高露出画像信号とのレベルを合わせるために、レベル調整部1102、1103に対するレベル設定を行う。すなわち、制御部113は、適正露出時の4倍のレベル合わせゲインを、前記低露出画像信号のレベル合わせを行うレベル調整部1103に設定する。同様に、制御部113は、適正露出時の1/4倍のレベル合わせゲインを、前記高露出画像信号のレベル合わせを行うレベル調整部1102に設定する。
前記低露出画像信号は、フレームメモリ107から読み出されて、レベル調整部1103でレベル合わせが行われ、動き検出部1104、合成比率決定部1105及び合成比率調整部110に送られる。前記高露出画像信号は、レベル調整部1102で、レベル合わせが行われ、動き検出部1104、合成比率決定部1105及び合成比率調整部110に送られる。
動き検出部1104は、レベルが合わせられた前記低露出画像信号と前記高露出画像信号とを比較して、画像内の動き検出情報(例えば動きベクトル)を検出する。例えば、動き検出部1104は、前記低露出画像信号と前記高露出画像信号とをそれぞれ一定の領域に区分し、相互に対応する各領域の画素値の差分を求め、その差分の値の絶対値が大きい場合、その領域は動き領域であると判断する。尚、動き検出情報の検出は、公知の技術で実現できるので、ここでは、その詳細な説明を省略する。
合成比率決定部1105は、レベル調整後の画像信号の明るさ情報と、動き検出部1104からの動き検出情報と、合成比率演算部106からの合成比率制御信号と、に基づいて合成比率を決定する。
具体的に説明すると、合成比率決定部1105は、まず、レベル調整後の画像信号(前記低露出画像信号と前記高露出画像信号)を比較する。そして、合成比率決定部1105は、画像の明るい部分は前記低露出画像信号が主に合成されるように合成比率を決定し、画像の暗い部分は前記高露出画像信号が主に合成されるように合成比率を設定する。また、合成比率決定部1105は、前記動き領域と判断された領域については、前記低露出画像信号と前記高露出画像信号のうち何れか一方の画像信号を出力し、前記動き領域とでない領域については、他方の画像信号を出力する様に合成比率を決定する。尚、本実施形態では、動き領域と判断された領域については低露出画像信号を出力するものとする。このようにすることによって、電荷蓄積動作による蓄積ブレ等の画質の劣化を回避することが可能となり、合成後の画像信号で、動き領域のブレ等の画質の劣化を回避することができる。
本実施形態ではさらに、合成比率演算部106から出力される合成比率制御信号に基づいて合成比率を決定するが、その詳細な内容については後述する。
図12は、前記低露出画像信号及び前記高露出画像信号の輝度値と画素値との関係の一例を示す図である。図12において、横軸は、撮像された画像信号の輝度値を示し、縦軸は、画像データの画素値の大きさを示す。
図12(a)は、レベル合わせが行われる前の関係を示す。図12(a)において、白抜き線Lは前記低露出画像信号の値を示し、黒太線Hは前記高露出画像信号の値を示す。Nは、レベル合わせの目標となる、適正露出の画像信号の値を示す。以下では適正露出の画像信号(N)をレベル合わせの目標とする場合を例に挙げて説明する。
図12(a)に示すように、前記低露出画像信号(L)の輝度値は、輝度値Y0からY2までの広い輝度範囲を有するが、画素値は、画素値V0からV1までの狭い範囲にとどまり、明るい画像信号が白飛びしないように撮影される。逆に、前記高露出画像信号(H)の輝度値は、輝度値Y0からY1までの狭い輝度範囲を有するが、画素値は、画素値V0からV2までの広い範囲を有し、暗い画像信号が黒つぶれしないように撮影される。
図12(b)は、これらの画像信号(前記低露出画像信号と前記高露出画像信号)を合成するためにレベル合わせをした場合の関係を示す。
図12(b)において、前記低露出画像信号は、露出段差に従ってレベル合わせが行われ、画素値が画素値V0からV2までのデータ値を有する低露出画像信号(L2)となる。同様に前記高露出画像信号は、露出段差に従ってレベル合わせが行われ、画素値が画素値V0からV1までのデータ値を有する高露出画像信号(H2)となる。レベル合わせが行われた結果、前記低露出画像信号(L2)と前記高露出画像信号(H2)は、何れも適正露出の場合の画像信号(N)の輝度値と画素値との関係に合わせられる。この結果、画像合成処理では、輝度値Y1からY2の範囲については、低露出画像信号に基づく画像となり、輝度値Y0からY1の範囲については、低露出画像信号と高露出画像信号とが混合された画像となる。尚、動き検出は、レベル合わせ後の前記低露出画像信号(L2)と、レベル合わせ後の前記高露出画像信号(H2)とで共通するデータ範囲、すなわち輝度値が輝度値Y0からY1の範囲で行われる。
図13は、前記低露出画像信号及び前記高露出画像信号の画素値のヒストグラムの一例を示す図である。図13において、横軸は、画素値を示し、縦軸は、その画像値を持つ画素の画素数を示す。
図13(a)は、レベル合わせが行われる前のヒストグラムを示す。図13(a)において、細線Lは、前記低露出画像信号のヒストグラムを示し、画素値が画素値V0からV1の範囲に分布している。太線Hは、前記高露出画像信号のヒストグラムを示し、画素値が画素値V0からV2の範囲に分布している。前記高露出画像信号の輝度値のうち、図12の輝度値Y1以上の輝度値は飽和している。このため、前記高露出画像信号のヒストグラム(H)は、画素値の暗い部分のみのヒストグラムとなっている。点線Nは、適正露出の場合のヒストグラムを示す。
図13(b)は、レベル合わせを行った後のヒストグラムを示す。
前記低露出画像信号のヒストグラム(L)は、露出段差に従ってレベル合わせが行われた結果、画素値が画素値V0からV2までに分布するヒストグラム(L2)となる。また、前記高露出画像信号のヒストグラム(H)は、露出段差に従ってレベル合わせが行われた結果、画素値が画素値V0からV1までに分布するヒストグラム(H2)となる。画素値V0からV1の範囲では、レベル合わせ後の前記低露出画像信号のヒストグラム(L2)と前記高露出画像信号のヒストグラム(H2)とが一致した(重なった)状態となる。
図14は、このような構成で高ダイナミックレンジの撮像を実現する場合の本実施形態における撮像素子101の動作を説明する図である。同一符号を付した箇所については説明を省略する。
チャート1401は、チャート206に従って読み出される画像信号の電荷蓄積時間を決定するリセット信号である。撮像素子101は、第1の実施形態と同様に、外部ストロボの平均発光時間を(式4)に与えることにより決定されたリセット開始のタイミングのずれ量Δtのオフセットをもって走査される。加えて、高ダイナミックレンジの撮像のために、制御部113は、1フレームおきに低露出画像用のリセットタイミングと高露出画像用のリセットタイミングで撮像素子101が駆動できるように、撮像素子制御部102に対して、制御信号を送信する。撮像素子101は、撮像素子制御部102から送信される制御信号に従って駆動する。
図14に示す発光開始タイミング301と発光終了タイミング302の間の発光時間tで外部ストロボが発光すると、チャート206に従って読み出される画像信号については、輝度変調領域1402に相当するライン群が外部ストロボによる輝度変調を受ける。また、チャート207に従って読み出される画像信号については、輝度変調領域1403に相当するライン群が、外部ストロボによる輝度変調の影響を受ける。
画像信号1404、1405は、それぞれ、チャート206、207に従って読み出される画像信号の模式図である。連続して撮影された2枚の画像信号1404、1405において、外部ストロボによって輝度変調を受けた領域である輝度変調領域1402、1403に注目すると、全てのラインにおいて、どちらか一方の画像信号では適切な撮像が成されるようになる。
次に、図15を参照して、本実施形態の撮像装置の全体制御のタイミングの一例を説明する。同一符号を付した箇所については説明を省略する。
画像信号1501は、撮像素子101で撮像された画像信号を示す。チャート206、207、208、1517で読み出される画像信号をそれぞれ、画像O、画像P、画像Q、画像Rとしている。
画像信号1502は、フレームメモリ107から出力される画像信号を示す。撮像素子101から出力される画像信号は、1フレーム分遅延されてフレームメモリ107から出力される。
輝度変調領域情報1503、1504は、輝度変調領域判定部103から出力される輝度変調領域情報を示す。画像Oから判定された結果(輝度変調領域)を(o)、画像Qから判定された結果(輝度変調領域)を(q)で表している。
輝度変調領域判定部103は、制御部113から送信される制御信号に従って、前記低露出画像信号を撮像素子101から読み出している期間だけ輝度変調領域判定を行うように制御される。このため、図15に示すように、1フレーム置きに(フレーム間欠で)輝度変調領域情報が出力される。輝度変調領域の判定は、第1の実施形態と同様に、入力される画像信号の輝度値をライン方向に積分してその積分値であるライン積分値を閾値Thと比較することで実現される(図6を参照)。
輝度変調領域判定部1505、1506は、合成比率算出部104に備えるメモリ105から出力される輝度変調領域情報を示す。輝度変調領域判定部103から入力される輝度変調領域情報は、1フレーム分遅延されてメモリ105から出力される。
合成比率制御信号1507、1508は、メモリ105から出力される輝度変調領域情報を元に合成比率演算部106で生成される合成比率制御信号を示す。具体的に、合成比率制御信号γ1は、輝度変調領域情報(o)に基づいて演算される合成比率制御信号を示し、合成比率制御信号γ2は、輝度変調領域情報(q)に基づいて演算される合成比率制御信号を示す。
動き検出情報1509、1510は、動き検出部1104から出力される動き検出情報を示す。前述したように、動き検出情報1509、1510は、レベル調整部1102、1103から出力されるレベル調整後の画像信号(前記低露出画像信号と前記高露出画像信号)を元に生成される。図15では、画像O及び画像Pを元に検出された動き検出情報を動き検出情報α1とし、画像Qと画像Rを元に検出された動き検出情報を動き検出情報α2としている。
また、動き検出部1104は、制御部113から送信される制御信号に従って、合成の対象となる2枚の画像信号(前記低露出画像信号と前記高露出画像信号)が画像合成部1101に入力される期間だけ動き検出を行うように制御されている。このため、図15に示すように1フレーム置きに(フレーム間欠で)動き検出情報が出力される。
合成比率1511、1512は、レベル調整部1102、1103から出力されるレベル調整後の画像信号(前記低露出画像信号と前記高露出画像信号)のレベルに応じて、合成比率決定部1105で生成された合成比率を示す。図15では、画像O及び画像Pのレベルに応じて生成された合成比率を合成比率β1とし、画像Q及び画像Rのレベルに応じて生成された合成比率を合成比率β2としている。
合成比率1513、1514は、合成比率決定部1105から出力される合成比率を示す。図15では、画像O及び画像Pを合成するときの合成比率を合成比率δ1とし、画像Q及び画像Rを合成するときの合成比率を合成比率δ2とする。
合成画像1515、1516は、レベル調整部1102、1103から出力される画像信号(前記低露出画像信号と前記高露出画像信号)を合成した合成画像を示す。合成比率調整部109、110は、合成比率決定部1105から出力される合成比率δ1、δ2を元に、画像信号に対して、当該合成比率でゲイン処理する。本実施形態では、第1の実施形態と同様に、合成比率δ1の値が0(ゼロ)である場合に画像P、Rを使うこととする。このため、合成比率調整部109は、受け取った合成比率δ1、δ2に対して、第1の実施形態と同様に(式5)の操作をして得られる合成比率で、入力される画像信号(画像P、R)に対してゲイン処理を行う。
図16は、撮像素子101から読み出される画像信号(前記低露出画像信号と前記高露出画像信号)を元に合成比率を決定する方法の一例を説明する図である。同一符号を付している箇所については説明を省略する。
グラフ1601は、画像Oと画像Pを元に生成される動き検出情報α1を示す。合成比率決定部1105は、画像信号(画像O、P)間に差分がある領域については、画像Oを選択する。従って、輝度変調領域1402及び1403に属するラインにおいて、低露出画像信号(すなわち画像O)を選択するように動き検出情報α1が生成される。
グラフ1602は、画像O、画像Pの信号レベルに応じて生成される合成比率β1を示す。図16では、説明の便宜上ライン単位で合成比率β1を示す。実際には、1画素単位で画像O、Pの信号レベルを比較したり、或る区分領域に区切って画像O、Pの信号レベルを比較したりすること等が行われる。
グラフ1603は、画像Oを元に生成される合成比率制御信号γ1を示す。外部ストロボによる輝度変調領域が合成画像112に現れないような合成比率制御信号γ1が生成される。より具体的には、輝度変調領域1402に関しては画像Oを使わないように(すなわち画像Pを使うように)合成比率制御信号γ1が生成される。第1の実施形態では、合成比率制御信号を生成する際に、2つの画像信号を参照した。これに対し、本実施形態では、合成の対象となる2つの画像信号(前記低露出画像信号と前記高露出画像信号)のうち、前記低露出画像信号の輝度変調領域1402しか参照していない。前述したように本実施形態では、動き検出部1104は、合成の対象となる画像信号の差分値の絶対値が大きい領域は動き領域であると判断し、前記低露出画像信号を出力する。このため、外部ストロボによる輝度変調が前記高露出画像信号に発生した場合には、外部ストロボによる輝度変調が発生した領域(輝度変調領域)を動き検出部1104で検出することができる。したがって、前述したように本実施形態では、前記低露出画像信号と前記高露出画像信号のうち、前記低露出画像信号の輝度変調領域1402しか参照しない。
グラフ1604は、動き検出情報α1、レベルに応じた合成比率β1、及び合成比率制御信号γ1を元に、合成比率決定部1105で決定され、合成比率調整部109及び110に渡される合成比率δ1を示す。合成比率決定部1105は、合成比率制御信号γ1が0(ゼロ)の領域に対する合成比率δ1を、それに従い0(ゼロ)とする。次に、合成比率決定部1105は、それ以外の領域(γ1=1の領域)のうち、動き検出情報α1が1の領域に対する合成比率δ1を、1とする。最後に、合成比率決定部1105は、合成比率が決定していない領域の合成比率δ1については、レベルに応じた合成比率β1に従って決定する。
以上のように本実施形態では、動き検出領域については、低露出画像信号を選択した後、低露出画像信号の輝度変調領域については、高露出画像信号画像Oを優先的に選択し、残りの領域については、レベルに応じて低露出画像信号と高露出画像信号を合成する。したがって、高ダイナミックレンジの撮像を行う撮像装置においても、合成後の画像信号上に外部ストロボの影響が発生することを抑制することが可能になり、第1の実施形態で説明した効果と同様の効果を奏する。また、低露出画像信号と高露出画像信号を合成する領域については、高ダイナミックレンジの画像を生成することが可能となる。
(第3の実施形態)
次に、本発明の第3の実施形態を説明する。第1の実施形態では、リセット開始のタイミングのずれ量Δtを、外部ストロボの平均発光時間に基づいて予め決定し、所定の時間で固定した場合を例に挙げて説明した。これに対し、本実施形態では、リセット開始のタイミングのずれ量Δtを動的に決定する場合について説明する。このように本実施形態と第1の実施形態とは、リセット開始のタイミングのずれ量Δtを決定するための構成及び処理が主として異なる。したがって、本実施形態の説明において、第1、第2の実施形態と同一の部分については、図1〜図16に付した符号と同一の符号を付す等して詳細な説明を省略する。
図17は、本実施形態の撮像装置の構成の一例を示すブロック図を示す。
本実施形態の撮像装置は、図1に示した第1の実施形態の撮像装置に対して、合成比率演算部106が、合成後に現れる輝度変調領域の情報を制御部113に渡す制御線1701が追加されたものである。
撮像装置は、リセット開始のタイミングのずれ量Δtが0(ゼロ、Δt=0)の状態で撮像する。そして、撮像装置は、外部ストロボが発光した場合に、連続して撮像された2つの画像信号を合成した後に現れる輝度変調領域を元に、リセット開始のタイミングのずれ量Δtを決定する。そのために、合成比率演算部106は、輝度変調領域判定部103から得られる輝度変調領域情報を元に、合成画像112上に現れる輝度変調領域を判定し、その判定の結果を、制御線1701を介して制御部113に渡す。
図18は、撮像素子101を駆動する際の本実施形態の撮像装置の動作の概要の一例を説明するフローチャートである。
まず、ステップS1801において、輝度変調領域判定部103は、外部ストロボの発光による輝度変調領域を判定する。第1の実施形態で述べたように、外部ストロボによって輝度変調を受けている領域を輝度変調領域情報として出力する。
次に、ステップS1802において、合成比率演算部106は、画像合成後に輝度変調領域が発生するライン数を算出する。
図19は、合成画像112上に現れる輝度変調領域を判定する方法の一例を説明する図である。
本実施形態の撮像装置において、リセット開始のタイミングのずれ量Δt=0で撮像したときに外部ストロボが発光すると、例えば、図22に示したようにして撮像素子101における電荷の蓄積と読み出しとが行われる。
図22に示すチャート2205、2206に従って読み出される画像信号が、それぞれ、画像信号1901、1902(画像X、Y)に対応する。
図19において、グラフ1903は、画像Xを元に輝度変調領域判定部103で生成される輝度変調領域情報を示し、グラフ1904は、画像Yを元に輝度変調領域判定部103で生成される輝度変調領域情報を示す。合成比率演算部106は、メモリ105を介して、これら両方の輝度変調領域情報から、画像合成後に輝度変調領域が発生するライン数を算出する。グラフ1905は、これら両方の輝度変調領域情報(グラフ1903、1904)の論理積を取った結果を示す。領域1906が、画像合成後に輝度変調領域として残ってしまうラインに相当する。合成比率演算部106は、演算した結果(ライン数)を制御部113に渡す。
図18の説明に戻り、ステップS1803において、制御部113は、合成比率演算部106により算出されたライン数と、撮像素子101の1ラインの読み出し時間tlから、(式4)に従って、外部ストロボの発光時間tを算出する。(式4)における左辺の変数X'は、2つの画像信号間で発生する外部ストロボによる輝度変調を受けるラインであり、合成比率演算部106で算出されたライン数に相当する。また、リセット開始のタイミングのずれ量Δtは0(ゼロ、Δt=0)である。以上から外部ストロボの発光時間tが簡単に求まる。
次に、ステップS1804において、制御部113は、ステップS1803で算出された外部ストロボの発光時間tを元に、リセット開始のタイミングのずれ量Δtを算出する。(式4)から、リセット開始のタイミングのずれ量Δtを、外部ストロボの発光時間t以上の値にすることで、連続する2つの画像信号間で発生する外部ストロボによる輝度変調を受けるラインを0にすることができる。制御部113は、撮像素子101に対して、このようにして算出したリセット開始のタイミングのずれ量Δtで撮像するように撮像素子制御部102へ制御信号を渡す。そして、撮像素子制御部102は、リセット開始のタイミングのずれ量Δtに基づいて、撮像素子101における電荷の蓄積時間を制御する。
以上のように本実施形態では、連続して撮像された2つの画像信号を解析し、当該2つの画像信号に共通して存在する輝度変調領域に対応するライン数を導出する。そして、導出したライン数と、撮像素子101の1ラインの読み出し時間と、リセット開始のタイミングの現在のずれ量とに基づいて、外部ストロボの発光時間を算出する。したがって、第1の実施形態で説明した効果に加え、以下の効果が得られる。すなわち、撮像装置で映像を記録する前に、合成後の画像信号に外部ストロボによる影響が出ないように撮像素子101を駆動することができ、且つ、外部ストロボが発光していない状況下ではリセット開始のタイミングをずらすことなく撮像することができる。
<変形例>
本実施形態では、リセット開始のタイミングのずれ量Δtが0(ゼロ、Δt=0)で撮像された画像信号から外部ストロボの発光時間tを算出した。しかしながら、リセット開始のタイミングのずれ量Δtが0(ゼロ)では無い場合であって、外部ストロボの発光時間tが、リセット開始のタイミングのずれ量Δtより大きい場合も、同様に(式4)により、外部ストロボの発光時間tを算出することができる。この場合、(式4)には、リセット開始のタイミングのずれ量Δtの現在値を与える。また、第1の実施形態に示したように、外部ストロボの平均発光時間を元に予め決定されたリセット開始のタイミングのずれ量Δtの値を調整することもできる。
また、本実施形態の構成を第2の実施形態に適用することもできる。
(第4の実施形態)
次に、本発明の第4の実施形態を説明する。本実施形態では、第1の実施形態に対し、リセット開始のタイミングのずれ量Δtで撮像された2つの画像信号を合成して得た画像信号の露出を補償する構成を付加したものである。したがって、本実施形態の説明において、第1〜第3の実施形態と同一の部分については、図1〜図19に付した符号と同一の符号を付す等して詳細な説明を省略する。
図20は、本実施形態の撮像装置の構成の一例を示すブロック図である。
本実施形態の撮像装置は、図1に示した第1の実施形態の撮像装置と比較し、2つのフレームメモリ2004、2005を有することと、2つのメモリ2002、2003を有することと、露出補正用画像信号を生成するための構成が追加されたことが異なる。具体的に、露出補正用画像信号を生成する補正信号生成処理を実行するための構成として、露出補正信号生成部2007と、露出補正部2008とが撮像装置に備わる。本実施形態の撮像装置は、リセット開始のタイミングのずれ量Δtで連続して撮像された2つの画像信号を合成した画像信号において過少になっている露出を、他のフレームの画像信号に基づいて補償する。
図20において、合成比率算出部2001は、図1に示した合成比率算出部104と異なり、2つのメモリ(第1のメモリ2002と、第2のメモリ2003)を有する。合成比率演算部106は、第1のメモリ2002及び第2のメモリ2003から出力される輝度変調領域情報に基づいて合成比率制御信号を生成する。
第1のフレームメモリ2004及び第2のフレームメモリ2005は、撮像素子101から出力される画像信号を1フレーム分保持するフレームメモリである。第2のフレームメモリ2005は、第1のフレームメモリ2004から出力される画像信号を1フレーム分保持する。
画像合成部2006は、図1に示した画像合成部108に対し、露出補正信号生成部2007と、露出補正部2008とが追加されたものである。合成比率調整部109、110は、それぞれ、第1のフレームメモリ2004、第2のフレームメモリ2005から出力される画像信号に対して、合成比率演算部106から出力される合成比率制御信号に応じた合成比率でゲイン処理を行う。
露出補正信号生成部2007は、撮像素子101から出力される画像信号から、制御部113から送られてくる制御信号に応じて、露出補正用画像信号を生成する。
露出補正部2008は、合成部111から出力される合成後の画像信号と、露出補正信号生成部2007から出力される露出補正用画像信号とを合成(加算)して、合成画像2009を出力する。
図21を参照して、本実施形態の撮像装置の全体制御のタイミングの一例を説明する。同一符号を付した箇所については、説明を省略する。
画像信号2101は、撮像素子101から読み出される画像信号を示す。
画像信号2102、2103は、それぞれ、第1のフレームメモリ2004、第2のフレームメモリ2005から出力される画像信号を示す。画像信号を、出力順に、画像O、画像P、画像Q、画像Rとしている。
第1のフレームメモリ2004は、撮像素子101から出力された画像信号を1フレーム分保持する。第2のフレームメモリ2005は、フレームメモリ2004から出力された画像信号を1フレーム分保持する。
輝度変調領域情報2104は、輝度変調領域判定部103から出力される輝度変調領域情報を示す。
輝度変調領域情報2105、2106は、それぞれ、第1のメモリ2002、第2のメモリ2003から出力される輝度変調領域情報を示す。図21では、画像信号の番号に沿って順に、輝度変調領域情報(o)、(p)、(q)、(r)と表記している。
合成比率信号2107は、合成比率演算部106で生成される合成比率制御信号を示す。合成比率制御信号γ1は、第1のメモリ2002から出力される輝度変調領域情報(p)と第2のメモリ2003から出力される輝度変調領域情報(o)とを元に生成される。同様に、合成比率制御信号γ2は、第1のメモリ2002から出力される輝度変調領域情報(q)と第2のメモリ2003から出力される輝度変調領域情報(r)とを元に生成される。合成比率制御信号γ1、γ12を生成する方法は、第1の実施形態で説明した方法と同じである。
画像信号2108は、合成部111で合成された画像信号を示す。画像Oと画像Pは、合成比率制御信号γ1に従って、合成比率調整部109、110でゲイン処理が成される。このことは、第1の実施形態で説明したのと同じである。
露出補正用画像信号2109は、露出補正信号生成部2007で生成される露出補正用画像信号を示す。画像Oと画像Pとが合成された画像信号が出力されるタイミングで制御部113から出力される制御信号に基づいて、画像Qに基づく露出補正用画像信号が生成される。制御部113から出力される制御信号は、撮像素子101におけるリセット開始のタイミングのずれ量Δtに応じた露出の過少分を補償するように計算されたゲイン量を指示する信号である。露出補正信号生成部2007は、このゲイン量に基づいて、画像Qに対してゲイン処理を行ったものを露出補正用画像信号として生成する。撮像素子101におけるリセット開始のタイミングのずれ量Δtが0(ゼロ、Δt=0)のときの電荷の蓄積時間をTとすると、ゲイン量Gaは、以下の(式7)で表される。
Ga=Δt/(T−Δt) ・・・(式7)
合成画像2110は、合成部111で合成された画像信号と露出補正信号生成部2007で生成された露出補正用画像信号とを露出補正部2008で合成したものを示す。画像Oと画像Pの合成画像に対して次のフレームである画像Qから生成された画像補正信号Q'が加算される。同様に、画像Pと画像Qの合成画像に対して次のフレームである画像Rから生成された画像補正信号R'が加算される。
以上のように本実施形態では、リセット開始のタイミングのずれ量Δtに起因する露光の過少に応じたゲイン量で次の画像信号に対してゲイン処理を行って露出補正用画像信号を生成する。そして、連続して撮像された2つの画像信号を第1の実施形態で説明したようにして合成した画像信号を露出補正用画像信号で補償する。これにより、ゲインアップによる露出の補償よりもS/Nのよい合成画像2009を得ることが可能となる。また、図示しない光学系の絞り値を変更するよりも、急峻な露出補償が可能となる。
また、本実施形態の構成を第2の実施形態又は第3の実施形態に適用することもできる。
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
101 撮像素子、103 輝度変調領域判定部、104 合成比率算出部、108 画像合成部

Claims (23)

  1. 行列状に配置された複数の画素を有する撮像素子で連続して撮像された複数の画像信号を合成して画像信号を生成する撮像装置であって、
    前記画像信号を得るための前記撮像素子における電荷の読み出しを行ってから、その次の前記画像信号を得るための前記撮像素子における電荷の蓄積を開始するまでの時間であるずれ時間を設定する設定手段と、
    前記設定手段により設定されたずれ時間に基づいて、前記撮像素子の動作を制御する撮像素子制御手段と、
    前記撮像素子制御手段により動作が制御された前記撮像素子で撮像された前記複数の画像信号の輝度値に基づいて、輝度が変調している領域である輝度変調領域を、前記複数の画像信号のそれぞれについて判定する領域判定手段と、
    前記領域判定手段により判定された輝度変調領域に基づいて、前記複数の画像信号の合成比率を算出する合成比率算出手段と、
    前記合成比率算出手段により算出された合成比率で、前記撮像素子制御手段により動作が制御された前記撮像素子で撮像された前記複数の画像信号を合成する合成手段と、
    を有することを特徴とする撮像装置。
  2. 前記合成比率算出手段は、前記領域判定手段により、前記複数の画像信号の少なくとも1つの画像信号に、前記輝度変調領域となる領域があると判定され、且つ、前記複数の画像信号の残りの画像信号の、当該領域に対応する領域が前記輝度変調領域ではないと判定された場合、当該領域については、前記複数の画像信号の残りの画像信号を使用するように、前記合成比率を算出することを特徴とする請求項1に記載の撮像装置。
  3. 前記合成比率算出手段は、前記領域判定手段により、前記複数の画像信号の相互に対応する領域が、前記輝度変調領域でないと判定された場合、当該領域については、当該複数の画像信号を合成して使用するように、前記合成比率を算出することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記複数の画像信号は、相対的に露出が高い高露出画像信号と、相対的に露出が低い低露出画像信号であることを特徴とする請求項1〜3の何れか1項に記載の撮像装置。
  5. 前記高露出画像信号と前記低露出画像信号の信号レベルを合わせるレベル調整手段と、
    前記レベル調整手段により信号レベルが合わせられた、前記高露出画像信号と前記低露出画像信号との信号レベルの差分に基づいて被写体の動きを検出する動き検出手段と、
    前記合成比率算出手段により算出された合成比率と、前記動きが検出された領域である動き検出領域と、前記レベル調整手段により信号レベルが合わせられた前記高露出画像信号および前記低露出画像信号と、に基づいて、前記合成比率を決定する合成比率決定手段と、を更に有することを特徴とする請求項4に記載の撮像装置。
  6. 前記合成比率算出手段は、
    前記低露出画像信号の前記輝度変調領域については、前記高露出画像信号を使用し、前記低露出画像信号の前記輝度変調領域と異なる領域については、前記低露出画像信号を使用するように、前記合成比率を算出し、
    前記合成比率決定手段は、
    前記動き検出領域については、前記高露出画像信号および前記低露出画像信号のうち予め定められた一方の画像信号を使用し、前記動き検出領域と異なる領域については、他方の画像信号を使用し、
    前記低露出画像信号の前記輝度変調領域については、前記動き検出領域に基づいて使用するとされた画像信号に関わらず、前記高露出画像信号を使用し、
    その他の領域については、前記レベル調整手段により信号レベルが合わせられた前記高露出画像信号および前記低露出画像信号の信号レベルに応じて前記高露出画像信号および前記低露出画像信号を合成して使用するように、前記合成比率を決定することを特徴とする請求項5に記載の撮像装置。
  7. 前記複数の画像信号の両方に共通する前記輝度変調領域に存在する前記撮像素子のライン数と、前記撮像素子の1ラインの読み出し時間とに基づいて、前記ずれ時間を導出するずれ時間導出手段を更に有することを特徴とする請求項1〜6の何れか1項に記載の撮像装置。
  8. 前記ずれ時間は、外部発光手段の平均発光時間に基づいた所定の時間であることを特徴とする請求項1〜6の何れか1項に記載の撮像装置。
  9. 前記撮像素子制御手段により動作が制御された前記撮像素子で撮像された画像信号であって、前記複数の画像信号と異なる画像信号に対して、前記ずれ時間と、当該ずれ時間に対応する前記撮像素子における電荷の蓄積時間とに基づくゲインをかけることにより得られた信号を露出補正用画像信号として生成する補正信号生成手段と、
    前記補正信号生成手段により生成された露出補正用画像信号と前記合成手段により合成された複数の画像信号とを合成する露出補正手段と、を更に有することを特徴とする請求項1〜8の何れか1項に記載の撮像装置。
  10. 少なくとも絞りを含む光学系と、
    前記光学系の動作を制御する光学系制御手段と、を更に有し、
    前記光学系制御手段は、前記ずれ時間と、当該ずれ時間に対応する前記撮像素子における電荷の蓄積時間とに基づく絞り値になるように、前記光学系の絞りを制御することを特徴とする請求項1〜8の何れか1項に記載の撮像装置。
  11. 前記撮像装置の露出制御パラメータに応じて、前記ずれ時間に基づく前記撮像素子の動作の制御を行うか否かを判断する判断手段を更に有し、
    前記撮像素子制御手段は、前記判断手段により、前記ずれ時間に基づく前記撮像素子の動作の制御を行わないと判断されると、前記ずれ時間を0(ゼロ)として前記撮像素子の動作を制御することを特徴とする請求項1〜10の何れか1項に記載の撮像装置。
  12. 行列状に配置された複数の画素を有する撮像素子で連続して撮像された複数の画像信号を合成して画像信号を生成する撮像装置の制御方法であって、
    前記画像信号を得るための前記撮像素子における電荷の読み出しを行ってから、その次の前記画像信号を得るための前記撮像素子における電荷の蓄積を開始するまでの時間であるずれ時間を設定する設定工程と、
    前記設定工程により設定されたずれ時間に基づいて、前記撮像素子の動作を制御する撮像素子制御工程と、
    前記撮像素子制御工程により動作が制御された前記撮像素子で撮像された前記複数の画像信号の輝度値に基づいて、輝度が変調している領域である輝度変調領域を、前記複数の画像信号のそれぞれについて判定する領域判定工程と、
    前記領域判定工程により判定された輝度変調領域に基づいて、前記複数の画像信号の合成比率を算出する合成比率算出工程と、
    前記合成比率算出工程により算出された合成比率で、前記撮像素子制御工程により動作が制御された前記撮像素子で撮像された前記複数の画像信号を合成する合成工程と、
    を有することを特徴とする撮像装置の制御方法。
  13. 前記合成比率算出工程は、前記領域判定工程により、前記複数の画像信号の少なくとも1つの画像信号に、前記輝度変調領域となる領域があると判定され、且つ、前記複数の画像信号の残りの画像信号の、当該領域に対応する領域が前記輝度変調領域ではないと判定された場合、当該領域については、前記複数の画像信号の残りの画像信号を使用するように、前記合成比率を算出することを特徴とする請求項12に記載の撮像装置の制御方法。
  14. 前記合成比率算出工程は、前記領域判定工程により、前記複数の画像信号の相互に対応する領域が、前記輝度変調領域でないと判定された場合、当該領域については、当該複数の画像信号を合成して使用するように、前記合成比率を算出することを特徴とする請求項12又は13に記載の撮像装置の制御方法。
  15. 前記複数の画像信号は、相対的に露出が高い高露出画像信号と、相対的に露出が低い低露出画像信号であることを特徴とする請求項12〜14の何れか1項に記載の撮像装置の制御方法。
  16. 前記高露出画像信号と前記低露出画像信号の信号レベルを合わせるレベル調整工程と、
    前記レベル調整工程により信号レベルが合わせられた、前記高露出画像信号と前記低露出画像信号との信号レベルの差分に基づいて被写体の動きを検出する動き検出工程と、
    前記合成比率算出工程により算出された合成比率と、前記動きが検出された領域である動き検出領域と、前記レベル調整工程により信号レベルが合わせられた前記高露出画像信号および前記低露出画像信号と、に基づいて、前記合成比率を決定する合成比率決定工程と、を更に有することを特徴とする請求項15に記載の撮像装置の制御方法。
  17. 前記合成比率算出工程は、
    前記低露出画像信号の前記輝度変調領域については、前記高露出画像信号を使用し、前記低露出画像信号の前記輝度変調領域と異なる領域については、前記低露出画像信号を使用するように、前記合成比率を算出し、
    前記合成比率決定工程は、
    前記動き検出領域については、前記高露出画像信号および前記低露出画像信号のうち予め定められた一方の画像信号を使用し、前記動き検出領域と異なる領域については、他方の画像信号を使用し、
    前記低露出画像信号の前記輝度変調領域については、前記動き検出領域に基づいて使用するとされた画像信号に関わらず、前記高露出画像信号を使用し、
    その他の領域については、前記レベル調整工程により信号レベルが合わせられた前記高露出画像信号および前記低露出画像信号の信号レベルに応じて前記高露出画像信号および前記低露出画像信号を合成して使用するように、前記合成比率を決定することを特徴とする請求項16に記載の撮像装置の制御方法。
  18. 前記複数の画像信号の両方に共通する前記輝度変調領域に存在する前記撮像素子のライン数と、前記撮像素子の1ラインの読み出し時間とに基づいて、前記ずれ時間を導出するずれ時間導出工程を更に有することを特徴とする請求項12〜17の何れか1項に記載の撮像装置の制御方法。
  19. 前記ずれ時間は、外部発光手段の平均発光時間に基づいた所定の時間であることを特徴とする請求項12〜17の何れか1項に記載の撮像装置の制御方法。
  20. 前記撮像素子制御工程により動作が制御された前記撮像素子で撮像された画像信号であって、前記複数の画像信号と異なる画像信号に対して、前記ずれ時間と、当該ずれ時間に対応する前記撮像素子における電荷の蓄積時間とに基づくゲインをかけることにより得られた信号を露出補正用画像信号として生成する補正信号生成工程と、
    前記補正信号生成工程により生成された露出補正用画像信号と前記合成工程により合成された複数の画像信号とを合成する露出補正工程と、を更に有することを特徴とする請求項12〜19の何れか1項に記載の撮像装置の制御方法。
  21. 少なくとも絞りを含む光学系の動作を制御する光学系制御工程と、を更に有し、
    前記光学系制御工程は、前記ずれ時間と、当該ずれ時間に対応する前記撮像素子における電荷の蓄積時間とに基づく絞り値になるように、前記光学系の絞りを制御することを特徴とする請求項12〜19の何れか1項に記載の撮像装置の制御方法。
  22. 前記撮像装置の露出制御パラメータに応じて、前記ずれ時間に基づく前記撮像素子の動作の制御を行うか否かを判断する判断工程を更に有し、
    前記撮像素子制御工程は、前記判断工程により、前記ずれ時間に基づく前記撮像素子の動作の制御を行わないと判断されると、前記ずれ時間を0(ゼロ)として前記撮像素子の動作を制御することを特徴とする請求項12〜21の何れか1項に記載の撮像装置の制御方法。
  23. 請求項12〜22の何れか1項に記載の撮像装置の制御方法の各工程をコンピュータに実行させることを特徴とするコンピュータプログラム。
JP2013146826A 2013-07-12 2013-07-12 撮像装置、撮像装置の制御方法、及びコンピュータプログラム Expired - Fee Related JP6141129B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013146826A JP6141129B2 (ja) 2013-07-12 2013-07-12 撮像装置、撮像装置の制御方法、及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013146826A JP6141129B2 (ja) 2013-07-12 2013-07-12 撮像装置、撮像装置の制御方法、及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2015019330A JP2015019330A (ja) 2015-01-29
JP6141129B2 true JP6141129B2 (ja) 2017-06-07

Family

ID=52439918

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013146826A Expired - Fee Related JP6141129B2 (ja) 2013-07-12 2013-07-12 撮像装置、撮像装置の制御方法、及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP6141129B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6659163B2 (ja) * 2016-03-16 2020-03-04 キヤノン株式会社 フラッシュバンド判定装置、その制御方法、およびプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3731729B2 (ja) * 2000-12-20 2006-01-05 松下電器産業株式会社 画像合成回路
JP4777266B2 (ja) * 2007-01-19 2011-09-21 キヤノン株式会社 撮像装置及びその制御方法
JP5129182B2 (ja) * 2009-03-12 2013-01-23 富士フイルム株式会社 撮像装置及び撮像制御方法
US8681265B2 (en) * 2009-04-16 2014-03-25 Panasonic Corporation Imaging device, external flash detection method, program, and integrated circuit
JP2012156634A (ja) * 2011-01-24 2012-08-16 Sony Corp フラッシュバンド処理回路、フラッシュバンド処理方法、撮像装置及び撮像処理方法

Also Published As

Publication number Publication date
JP2015019330A (ja) 2015-01-29

Similar Documents

Publication Publication Date Title
KR101080427B1 (ko) 전자셔터를 이용하여 영상의 동적 범위를 향상시키는 방법 및 그 장치
AU2012224341A1 (en) Image pickup apparatus, image pickup apparatus control method, and program
KR20110032344A (ko) 고대비 영상 생성 장치 및 방법
JP2012235332A (ja) 撮像装置、および撮像装置制御方法、並びにプログラム
JP2011254170A (ja) 撮像装置および撮像方法
JP6672081B2 (ja) 撮像装置
JP2014052487A (ja) 撮像装置、撮像装置の制御方法、プログラム、および記憶媒体
JP2014154982A (ja) 撮像装置およびその制御方法
US11128799B2 (en) Image processing apparatus and image processing method
JP5199736B2 (ja) 画像撮像装置
JP3999321B2 (ja) 電子カメラ
JP2015231118A (ja) 画像合成装置、画像合成システム及び画像合成方法
JP2017225072A (ja) 撮像装置、その制御方法、及びプログラム
JP5797072B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP4934123B2 (ja) 撮影装置および方法
JP2011199785A (ja) 撮像装置及び方法
JP6141129B2 (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP6242129B2 (ja) 撮像装置、その制御方法、及び制御プログラム
JP6393091B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6231814B2 (ja) 露出決定装置、撮像装置、制御方法、及びプログラム
JP2020096280A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP7234015B2 (ja) 撮像装置およびその制御方法
JP2021004781A (ja) 距離画像生成装置
US11012630B1 (en) Image processor and image processing method
JP2014027460A (ja) 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160630

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170502

R151 Written notification of patent or utility model registration

Ref document number: 6141129

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees