JP2007228099A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2007228099A JP2007228099A JP2006044487A JP2006044487A JP2007228099A JP 2007228099 A JP2007228099 A JP 2007228099A JP 2006044487 A JP2006044487 A JP 2006044487A JP 2006044487 A JP2006044487 A JP 2006044487A JP 2007228099 A JP2007228099 A JP 2007228099A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- output frame
- frame rate
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】表示装置のフレームレートに応じて露光時間の異なる画像をより多く撮影して合成に用いて、被写体の階調を忠実に再現したダイナミックレンジを拡大した画像データを得ることができ、複数のフレームレートで画像データを出力可能で、かつフレームレートの異なる複数の表示装置に対して同時に画像データを出力できる撮像装置を実現する。
【解決手段】本発明の撮像装置は、記憶装置又は表示装置へ送信するための出力フレームレートに応じて、前記撮像素子の露光時間の数を決定して、更に複数の異なる露光時間を決定して、撮像素子に複数の異なる露光時間で露光制御を行い、露光制御によって生成された複数の撮影画像を画像合成部で合成させる制御を行う制御部を有する。
【選択図】図3
【解決手段】本発明の撮像装置は、記憶装置又は表示装置へ送信するための出力フレームレートに応じて、前記撮像素子の露光時間の数を決定して、更に複数の異なる露光時間を決定して、撮像素子に複数の異なる露光時間で露光制御を行い、露光制御によって生成された複数の撮影画像を画像合成部で合成させる制御を行う制御部を有する。
【選択図】図3
Description
本発明は、デジタル画像を広いダイナミックレンジで撮影でき、複数のフレームレートで画像データを出力可能な撮像装置に関するものである。
テレビカメラ、ビデオカメラ等の画像入力手段として、CCDやCMOSをはじめとする固体撮像素子が多く利用されている。これらは、静止画撮影等に用いられる銀塩写真システムに比べてダイナミックレンジが狭く、被写体の輝度の高い箇所(明領域)と被写体の輝度の低い箇所(暗領域)の輝度差が大きい条件での撮影時には問題がある。即ち、明領域において階調が失われる白とび、又は暗領域において階調が失われる黒つぶれ等が発生する。
そこで、固体撮像素子のダイナミックレンジ拡大の方法として、露光時間の異なる複数の画像を撮影し、これらの複数の画像データを合成して、ダイナミックレンジの拡大された1つの画像を得る方法が提案されている。
合成方法としては、先ず画像信号の加算や、特許文献1に示されているように、露光時間の異なる複数の画像を撮影して白とびや黒つぶれ等が発生していない共通領域を抽出して共通領域における輝度を一致させる、そして、複数の画像のうち1つを標準画像と決めて標準画像における白とびや黒つぶれ箇所を他の画像の同一箇所に置換する方法がある。
ところで近年、1台のカメラで撮影した画像を複数の表示装置に表示するために複数の表示方式に変換する場合がある。
例えば監視カメラにおいて、表示装置として、テレビ受像機、PC用モニタ、携帯電話画面などがある。これらに対して各々異なるフレームレートで画像データを出力することが必要となる。
例えば監視カメラにおいて、表示装置として、テレビ受像機、PC用モニタ、携帯電話画面などがある。これらに対して各々異なるフレームレートで画像データを出力することが必要となる。
しかしながら、特許文献1においては、決められた数の露光時間の異なる画像を撮影して合成する。そのため、例えば60fps(フレーム/秒)で表示するための画像を出力するために120fpsで撮像可能な撮像素子を用いた場合、撮影された露光時間の異なる2画像で合成する。ところが、これより遅いフレームレート、例えば30fpsで表示する表示装置に出力する場合にも、露光時間の組み合わせは表示装置のフレームレートに応じた変更が行われない。
そのため、30fpsで表示する表示装置に対しては、露光時間の異なる画像を4画像撮影する時間があるにもかわらず、2種類の露光時間で撮影された画像を合成に用いるため、撮像素子の撮影能力を生かすことができない。更に、表示装置毎に適したダイナミックレンジ拡大処理をすることができない。
また、30fpsで表示する表示装置と60fpsで表示する表示装置に同時に出力することもできない。
また、30fpsで表示する表示装置と60fpsで表示する表示装置に同時に出力することもできない。
本発明は以上の点を考慮してなされたもので、表示装置のフレームレートに応じて露光時間の異なる画像をより多く撮影して合成に用いて、被写体の階調を忠実に再現したダイナミックレンジを拡大した画像データを得ることができ、かつフレームレートの異なる複数の表示装置に対して同時に画像データを出力できる撮像装置を提案しようとするものである。
本発明の撮像装置は、入射される光に応じてアナログ画像信号を出力する撮像素子、前記撮像素子を駆動するタイミングジェネレータ、前記アナログ画像信号をデジタル画像信号に変換して出力するA/D変換部、前記デジタル画像信号を色調補正して撮影画像を生成する現像処理部、前記撮影画像を複数記憶するフレームメモリ、前記フレームメモリに記憶された複数の撮影画像を合成して合成画像を生成する画像合成部、前記合成画像を記憶する出力フレームメモリ、前記出力フレームメモリから読み出される前記合成画像を外部又は内部にある記憶装置又は表示装置に送信する通信部、及び撮像装置全体を制御する制御部を備えてなり、前記制御部は、記憶装置又は表示装置へ送信するための出力フレームレートに応じて、前記撮像素子の露光時間の数を決定し、更に複数の異なる露光時間を決定して前記撮像素子に複数の異なる露光時間で露光制御を行い、前記露光制御によって生成された複数の撮影画像を前記画像合成部で合成させる制御を行う。
本発明の撮像装置によれば、1出力フレーム分の画像を生成する期間においてアナログ画像信号を出力可能な最大数のフレーム数を用いて画像合成を行うことによって、撮像素子の撮像フレームレートを最大限に活かして、より明部と暗部の輝度差の大きい被写体に対応して撮影することができる。
また、各フレームの白とび、黒つぶれ等、適正露光部分ではない階調が失われた箇所を避け、可能な限り各フレームの中から適正露光部分の中心に近い箇所を合成に用いることによって、撮像素子の撮像フレームレートを最大限に活かして、被写体の階調を忠実に再現したダイナミックレンジを拡大した画像を得ることができる。
更に、要求出力フレームレートが複数存在する時には、最も高い要求出力フレームレートの画像に適合した複数の異なる露光時間で撮影を行うことによって、複数の要求フレームレートに対応して、通信部からダイナミックレンジ拡大を行った画像を出力することができる。
以下、本発明の実施形態を図面に基づいて説明する。
図1は構成を示すブロック図、図2は制御の流れを表すフローチャート、図3は撮像装置1の最も高い出力フレームレートに応じた露光時間の異なる撮像フレームを生成する動作を示す説明図、図4と図5は画像合成方法の一例を示す説明図である。
図1は構成を示すブロック図、図2は制御の流れを表すフローチャート、図3は撮像装置1の最も高い出力フレームレートに応じた露光時間の異なる撮像フレームを生成する動作を示す説明図、図4と図5は画像合成方法の一例を示す説明図である。
図1に従って、本発明の実施形態の全体構成を説明する。
撮像装置1は、露光時間を異ならせて順次アナログ画像信号を撮像フレームレートで出力するCCD、CMOS等の撮像素子12、撮像素子12を駆動するタイミングジェネレータ(TG)13、アナログ画素信号をデジタル画素信号に変換して出力するA/D変換部14を有する。
撮像装置1は、露光時間を異ならせて順次アナログ画像信号を撮像フレームレートで出力するCCD、CMOS等の撮像素子12、撮像素子12を駆動するタイミングジェネレータ(TG)13、アナログ画素信号をデジタル画素信号に変換して出力するA/D変換部14を有する。
また、デジタル画素信号を色調補正して撮影画像を生成する現像処理部15、撮影画像から適正な露光量で撮像された画素の検出を行う適正露光部分検出部21、撮影画像を撮像フレームとして記憶するフレームメモリ16を有する。
また、フレームメモリ16に記憶された露光時間の異なる複数の撮像フレームを読み出して合成した合成画像を生成する画像合成部17、合成画像を記憶する出力フレームメモリ18を有する。
また、インターネット、LAN等のネットワーク3を介して外部装置2に対して合成画像から生成された出力フレームを画像データとして送信及び外部装置2から撮影指示の受信を行う通信部19を有する。
また、撮像装置1に対する撮影指示等のコマンドを入力するための操作キーからなるコマンド入力部20、撮像装置1全体を制御するCPUを含む制御部11から構成される。
コマンド入力部20又は外部装置2による撮影指示には、外部装置2に送信する画像のフレームレートを示す要求出力フレームレートが含まれている。
コマンド入力部20又は外部装置2による撮影指示には、外部装置2に送信する画像のフレームレートを示す要求出力フレームレートが含まれている。
撮像フレームは、撮像素子12の1回の露光動作によって得られる画像情報を指し、外部装置2に対する送信時における出力フレームは、外部装置2の表示手段の表示エリアに同時に表示する画像情報又は記憶フォーマットにおける1画面分の画像情報を指す。
インターレス動作時においてはODD(奇数行)用画像情報、EVEN(偶数行)用画像情報を別の出力フレームとする。
インターレス動作時においてはODD(奇数行)用画像情報、EVEN(偶数行)用画像情報を別の出力フレームとする。
次に、図2を用いて、制御部11による制御の流れについて説明する。
制御部11が、コマンド入力部20又は通信部19を介して外部装置から撮像装置1の動作に関する指示を受けるために待機している時には、以下の動作を行う。即ち、コマンド入力部20又は外部装置2から撮影指示を受けると(ステップS101)、タイミングジェネレータ(TG)13、撮像素子1216、A/D変換部14、現像処理部15を駆動して、撮像装置1の撮影動作を開始する。
制御部11が、コマンド入力部20又は通信部19を介して外部装置から撮像装置1の動作に関する指示を受けるために待機している時には、以下の動作を行う。即ち、コマンド入力部20又は外部装置2から撮影指示を受けると(ステップS101)、タイミングジェネレータ(TG)13、撮像素子1216、A/D変換部14、現像処理部15を駆動して、撮像装置1の撮影動作を開始する。
制御部11は、1出力フレーム分の画像を生成する期間において撮像素子12が出力可能な最多撮像フレーム数を用いて画像合成を行うために、撮像フレームレートと要求出力フレームレートを比較して最多撮像フレーム数を決定する(ステップS102)。
要求出力フレームレートの異なる複数の撮影指示を受けた時、又は複数の要求出力フレームレートを含む撮影指示を受けた時は、撮像フレームレートと要求されている中で最も高い要求出力フレームレートを比較して最多撮像フレーム数を決定する。
要求出力フレームレートの異なる複数の撮影指示を受けた時、又は複数の要求出力フレームレートを含む撮影指示を受けた時は、撮像フレームレートと要求されている中で最も高い要求出力フレームレートを比較して最多撮像フレーム数を決定する。
次に、最多撮像フレーム数に応じた複数の異なる露光時間を決定する(ステップS103)。
決定した複数の露光時間によって撮像素子に撮影を実行させ、これによって生成された複数の撮像フレームはそれぞれフレームメモリ16に記憶される(ステップS104)。
そして、制御部11は、画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度を決定する(ステップS105)。この基準輝度を基に、画像合成部17が各撮像フレームから画素を選択して画像合成を行うように制御する(ステップS106)。
決定した複数の露光時間によって撮像素子に撮影を実行させ、これによって生成された複数の撮像フレームはそれぞれフレームメモリ16に記憶される(ステップS104)。
そして、制御部11は、画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度を決定する(ステップS105)。この基準輝度を基に、画像合成部17が各撮像フレームから画素を選択して画像合成を行うように制御する(ステップS106)。
次に、制御部11は、画像合成部17が合成した画像を外部装置2へ送信する階調深さになるように階調圧縮を実行するように制御して、合成画像が出力フレームメモリ18に記憶される(ステップS107)。
出力フレームメモリ18に記憶された出力フレームのフレームレートが要求出力フレームレートと一致しているかどうか判定される(ステップS108)。一致している時は、制御部11の指示によって出力フレームメモリ18から読み出されて(ステップS109)、画像データとして通信部19から外部装置2へ送信される(ステップS111)。
また一致していない時は、出力フレームのフレームレートを要求出力フレームレートへ変換して(ステップS110)、画像データとして通信部19から送信される(ステップS111)。
出力フレームメモリ18に記憶された出力フレームのフレームレートが要求出力フレームレートと一致しているかどうか判定される(ステップS108)。一致している時は、制御部11の指示によって出力フレームメモリ18から読み出されて(ステップS109)、画像データとして通信部19から外部装置2へ送信される(ステップS111)。
また一致していない時は、出力フレームのフレームレートを要求出力フレームレートへ変換して(ステップS110)、画像データとして通信部19から送信される(ステップS111)。
フレームレートの変換は、制御部11による出力フレームメモリ18からの読み出し動作によって行い、出力フレームを選択的に読み出して、画像データとして通信部19から外部装置2へ送信される。
例えば、出力フレームメモリに記憶されている出力フレームが60fpsのフレームレートである時、要求出力フレームレートが30fpsの画像を要求している外部装置2には、1フレーム送信して次のフレームを送信しない。要求出力フレームレート35fpsの画像を要求している外部装置2には、1フレームを送信して次の1フレーム又は2フレームを送信しないというパターンで、1秒間60フレームの画像からできるだけ均一な間隔で35フレームを選択して送信する。
例えば、出力フレームメモリに記憶されている出力フレームが60fpsのフレームレートである時、要求出力フレームレートが30fpsの画像を要求している外部装置2には、1フレーム送信して次のフレームを送信しない。要求出力フレームレート35fpsの画像を要求している外部装置2には、1フレームを送信して次の1フレーム又は2フレームを送信しないというパターンで、1秒間60フレームの画像からできるだけ均一な間隔で35フレームを選択して送信する。
次に、図3を用いて、最多撮像フレーム数の決定方法について具体的に説明する。
最多撮像フレーム数は、出力フレームの1期間において生成可能な撮像フレームの数である。
最多撮像フレーム数=撮像フレームレート/要求出力フレームレート
の式による計算結果において小数部分を切り捨てることによって求められる。
最多撮像フレーム数は、出力フレームの1期間において生成可能な撮像フレームの数である。
最多撮像フレーム数=撮像フレームレート/要求出力フレームレート
の式による計算結果において小数部分を切り捨てることによって求められる。
例えば、撮像フレームレートが120fps、要求出力フレームレートが60fpsである時の最多撮像フレーム数は2となる。撮像フレームレートが120fps、要求出力フレームレートが35fpsである時の最多撮像フレーム数は3となる。撮像フレームレートが120fps、要求出力フレームレートが30fpsである時の最多撮像フレーム数は4となる。
撮像フレームレートが120fps、要求出力フレームレートが60fpsである時の露光時間の異なる2つの撮像フレームは、それぞれ撮像フレームA、撮像フレームBとして順に出力される。撮像フレームレートが120fps、要求出力フレームレートが35fpsである時の露光時間の異なる3つの撮像フレームはそれぞれ撮像フレームA、撮像フレームB、撮像フレームCとして順に出力される。撮像フレームレートが120fps、要求出力フレームレートが30fpsである時の露光時間の異なる4つの撮像フレームはそれぞれ撮像フレームA、撮像フレームB、撮像フレームC、撮像フレームDとして順に出力される。
但し、撮像フレームレートと要求出力フレームレートの値によって順に撮像フレームを出力していく時に、次の撮像フレームが生成された時点において、次の出力フレームの画像を生成する期間に達していない場合がある。
例えば、撮像フレームレートが120fps、要求出力フレームレートが35fpsである時には、図3のように、撮像フレームA、撮像フレームB、撮像フレームCが順に出力される。その後、次の出力フレームの画像を生成する期間に達していない時に出力される撮像フレームが一定の間隔で発生する。
例えば、撮像フレームレートが120fps、要求出力フレームレートが35fpsである時には、図3のように、撮像フレームA、撮像フレームB、撮像フレームCが順に出力される。その後、次の出力フレームの画像を生成する期間に達していない時に出力される撮像フレームが一定の間隔で発生する。
図3では、斜線で示しており、これを空撮像フレームという。空撮像フレームは次の出力フレームの画像合成に用いない。空撮像フレームについて露光時間は任意に定めて撮像素子12によって撮影してもよいし、撮影をしなくてもよい。
単一の外部装置2の記憶手段に記憶するための画像データと表示手段に表示するための画像データの出力フレームレートが異なる時がある。或いは複数の外部装置2の必要としている画像データの出力フレームレートが異なる時がある。これらのように、コマンド入力部20又は外部装置2による撮影指示に含まれている要求出力フレームレートが異なる場合には、最も高い要求出力フレームレートを、前述の式の要求出力フレームレートに代入して最多撮像フレーム数を求める。
例えば、撮像フレームレートが120fps、要求出力フレームレートが30fps、35fps、60fpsの3種類である時は、60fpsがもっとも高い要求出力フレームレートであり、最多撮像フレーム数は2となる。
ここで、図6を用いて最多撮像フレーム数の決定における実際の制御の流れを説明する。
制御部11は、コマンド入力部20又は外部装置2から撮影指示を受けた時(ステップS201)、まず要求出力フレームレートが1つであるか複数であるかを確認する(ステップS202)。
制御部11は、コマンド入力部20又は外部装置2から撮影指示を受けた時(ステップS201)、まず要求出力フレームレートが1つであるか複数であるかを確認する(ステップS202)。
要求出力フレームレートが複数である時、要求出力フレームレートの中から最も高い要求出力フレームレートを選択する(ステップS203)。それが1つである時はその要求出力フレームレートを用いて、先述の通りに撮像フレーム数を算出、決定する(ステップS204)。
撮像フレーム数の決定後、撮影動作中は常に撮像フレーム数を制御部11において保持しておく(ステップS205)。ここで、新規の要求出力フレームレートがコマンド入力部20又は外部装置から指定された(ステップS206)時には、再度、撮像フレーム数を算出、決定するように制御する。
次に、図4と図5を用いて、複数の露光時間の決定方法について具体的に説明する。
複数の露光時間を決定するために、撮影対象範囲又は撮影対象範囲の一部分の撮像を外部装置2への画像データ送信前に行う。
そして、適正露光部分検出部21が、現像処理部15において生成された撮影画像の一定輝度H以上の画素は白とび部分、一定輝度L以下の画素は黒つぶれ部分とみなし、L<輝度<Hとなる画素を適正露光部分として検出する。
複数の露光時間を決定するために、撮影対象範囲又は撮影対象範囲の一部分の撮像を外部装置2への画像データ送信前に行う。
そして、適正露光部分検出部21が、現像処理部15において生成された撮影画像の一定輝度H以上の画素は白とび部分、一定輝度L以下の画素は黒つぶれ部分とみなし、L<輝度<Hとなる画素を適正露光部分として検出する。
更に、露光時間を変化させて撮影画像の生成と適性露光部分の検出を繰り返し実行する。
例えば2つの異なる露光時間で撮像を行う場合、制御部11は適正露光部分検出結果によって白とび部分が無い又は少ない露光時間T−1、黒つぶれ部分が無い又は少ない露光時間T+1を決定する。
露光時間の長さの関係はT−1 < T+1とする。
例えば2つの異なる露光時間で撮像を行う場合、制御部11は適正露光部分検出結果によって白とび部分が無い又は少ない露光時間T−1、黒つぶれ部分が無い又は少ない露光時間T+1を決定する。
露光時間の長さの関係はT−1 < T+1とする。
露光時間T−1で撮影される撮像フレームをA、露光時間T+1で撮影される撮像フレームをBとする。図4に示すように、撮像フレームAと撮像フレームBの両方において適正露光部分となる画素が、少なくとも1画素以上、両方の撮像フレームに存在するように露光時間T−1と露光時間T+1は決定される。
露光時間T−1、露光時間T+1は、撮像素子12が2つの撮像フレームを出力した後、撮影対象範囲又は撮影対象範囲の一部分の輝度に応じて、或いは、コマンド入力部20又は外部装置2による指示により変更してもよい。
インターレス動作時は、撮像フレームAがODDフレームである場合は撮像フレームBもODDフレーム、撮像フレームAがEVENフレームである場合は撮像フレームBもEVENフレームとする。
インターレス動作時は、撮像フレームAがODDフレームである場合は撮像フレームBもODDフレーム、撮像フレームAがEVENフレームである場合は撮像フレームBもEVENフレームとする。
また、例えば4つの異なる露光時間で撮像を行う場合、制御部11は適正露光部分検出結果によって白とび部分が無い又は少ない露光時間T−2、露光時間T−1、黒つぶれ部分が無い又は少ない露光時間T+1、露光時間T+2を決定する。露光時間の長さの関係はT−2<T−1<T+1<T+2とする。
露光時間T−2で撮影される撮像フレームをA、露光時間T−1で撮影される撮像フレームをB、露光時間T+1で撮影される撮像フレームをC、露光時間T+2で撮影される撮像フレームをDとする。図5に示すように露光時間の最も近い2つの撮像フレームの両方において適正露光部分となる画素が、少なくとも1画素以上、両方の撮像フレームに存在するように決定される。即ち、撮像フレームAと撮像フレームB、撮像フレームBと撮像フレームC、撮像フレームCと撮像フレームDの両方において適正露光部分となる画素が、少なくとも1画素以上、両方の撮像フレームに存在するように各露光時間は決定される。
露光時間T−2、露光時間T−1、露光時間T+1、露光時間T+2は、撮像素子12が4つの撮像フレームを出力した後、撮影対象範囲又は撮影対象範囲の一部分の輝度に応じて、或いは、コマンド入力部20又は外部装置2による指示により変更してもよい。
インターレス動作時は、撮像フレームAがODDフレームである場合は撮像フレームB〜DもODDフレーム、撮像フレームAがEVENフレームである場合は撮像フレームB〜DもEVENフレームとする。
インターレス動作時は、撮像フレームAがODDフレームである場合は撮像フレームB〜DもODDフレーム、撮像フレームAがEVENフレームである場合は撮像フレームB〜DもEVENフレームとする。
次に、図4と図5を用いて、画像合成方法について具体的に説明する。
例えば2つの異なる露光時間で撮像を行う場合、画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度とする。そして、図4に示すように撮像フレームAと撮像フレームBの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にA−B輝度を決定する。
例えば2つの異なる露光時間で撮像を行う場合、画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度とする。そして、図4に示すように撮像フレームAと撮像フレームBの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にA−B輝度を決定する。
画像合成部17では、A−B輝度未満の画素は撮像フレームA、A−B輝度以上は撮像フレームBの画素値を選択し、図4において斜線で示した選択部分の画素値を元に画像合成を行う。
この時、撮像フレーム毎に例えば0から255までの数値で輝度が表現されているとすると、A−B輝度は撮像フレームAの画素値で例えば170と表現され、撮像フレームBの画素値では例えば80と表現される。
この時、撮像フレーム毎に例えば0から255までの数値で輝度が表現されているとすると、A−B輝度は撮像フレームAの画素値で例えば170と表現され、撮像フレームBの画素値では例えば80と表現される。
そのため、画像合成部17による画像合成は、撮像フレームBのA−B輝度を表現する画素値である80が撮像フレームAにおける表現である170となるように、撮像フレームBの画素値を換算して実行される。
また、例えば、4つの異なる露光時間で撮像を行う場合には、以下のように実行される。
画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度とする。図5に示すように、撮像フレームAと撮像フレームBの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にA−B輝度を決定する。また、撮像フレームBと撮像フレームCの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にB−C輝度を決定する。撮像フレームCと撮像フレームDの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にC−D輝度を決定する。
また、例えば、4つの異なる露光時間で撮像を行う場合には、以下のように実行される。
画像合成において各画素の輝度を複数の撮像フレームから選択する際の基準となる基準輝度とする。図5に示すように、撮像フレームAと撮像フレームBの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にA−B輝度を決定する。また、撮像フレームBと撮像フレームCの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にB−C輝度を決定する。撮像フレームCと撮像フレームDの適正露光部分の輝度範囲が重複する輝度重複部分の中心値付近にC−D輝度を決定する。
画像合成部17では、A−B輝度未満の画素は撮像フレームAの画素値を選択する。また、A−B輝度以上かつB−C輝度未満の画素は撮像フレームBを選択する。また、B−C輝度以上かつC−D輝度未満の画素は撮像フレームC、C−D輝度以上の画素は撮像フレームDの画素値を選択する。そして、図5において斜線で示した選択部分の画素値を元に画像合成を行う。
この時、撮像フレーム毎に例えば0から255までの数値で輝度が表現されているとすると、A−B輝度は撮像フレームAの画素値で例えば170と表現され、撮像フレームBの画素値では例えば80と表現される。
そのため、画像合成部17による画像合成は、撮像フレームBのA−B輝度を表現する画素値である80が撮像フレームAにおける表現である170となるように、撮像フレームBの画素値を換算して実行される。
そのため、画像合成部17による画像合成は、撮像フレームBのA−B輝度を表現する画素値である80が撮像フレームAにおける表現である170となるように、撮像フレームBの画素値を換算して実行される。
また、B−C輝度は撮像フレームBの画素値で例えば160と表現され、撮像フレームCの画素値では例えば70と表現される。
そのため、撮像フレームCのB−C輝度を表現する画素値である70が撮像フレームBにおける表現である160となるように、撮像フレームCの画素値を換算して、その後、撮像フレームAにおける表現となるように換算して画像合成が実行される。
そのため、撮像フレームCのB−C輝度を表現する画素値である70が撮像フレームBにおける表現である160となるように、撮像フレームCの画素値を換算して、その後、撮像フレームAにおける表現となるように換算して画像合成が実行される。
撮像フレームDについても同様に、撮像フレームAとの合成において撮像フレームAの輝度表現に対して整合するように画素値を換算換算して画像合成が実行される。
これまで、1出力フレーム分の画像を生成する期間において2つ以上の撮像フレームを出力可能な場合について説明を行ってきた。しかしながら、2つ以上の撮像フレームを出力できない場合は、画像合成を行わずに、制御部11の指示によって画像データとして通信部19から送信される。
これまで、1出力フレーム分の画像を生成する期間において2つ以上の撮像フレームを出力可能な場合について説明を行ってきた。しかしながら、2つ以上の撮像フレームを出力できない場合は、画像合成を行わずに、制御部11の指示によって画像データとして通信部19から送信される。
この時には、フレームメモリ16から読み出して送信してもよいし、フレームメモリ16から出力フレームメモリ18に画像データを移動してから送信してもよい。
勿論、現像処理部15から出力フレームメモリ18に撮影画像を直接記憶するようにしてもよい。出力フレームのフレームレートと要求出力フレームレートが一致していない時はフレームレートを変換してから送信する。
勿論、現像処理部15から出力フレームメモリ18に撮影画像を直接記憶するようにしてもよい。出力フレームのフレームレートと要求出力フレームレートが一致していない時はフレームレートを変換してから送信する。
以上のように、本実施形態では、1出力フレーム分の画像を生成する期間において撮像素子12が出力可能な最多撮像フレーム数を用いて画像合成を行う。これにより、撮像フレームレートを最大限に活かして、より明部と暗部の輝度差の大きい被写体に対応して撮影することができる。
また、要求出力フレームレートに最適な撮像フレーム数を用いる。それと共に、各撮像フレームの露光時間の最も近い2つの撮像フレームの両方において適正露光部分となる画素が、少なくとも1画素以上、両方の撮像フレームに存在するように、最適な露光時間の組み合わせを選択する。更に、各フレームの白とび、黒つぶれ等、適正露光部分ではない階調が失われた箇所を避け、可能な限り各撮像フレームの中から適正露光部分の輝度中心に近い箇所を合成に用いる。これにより、撮像フレームレートを最大限に活かして、被写体の階調を忠実に再現したダイナミックレンジを拡大した画像を得ることができる。
更に、要求出力フレームレートが複数存在する時には、最も高い要求出力フレームレートの1出力フレーム分の画像を生成する期間において撮像素子12が出力可能な最多撮像フレーム数を用いて画像合成を行う。これにより、通信部19から複数の要求出力フレームレートに対応して、ダイナミックレンジ拡大を行った画像を出力することができる。
ここで、画像合成方法として、各撮像フレームから基準輝度を基に画素値を選択、換算する方法を示したが、他の画像合成方法を用いても、本発明の要求出力フレームレートに応じて露光時間の組み合わせを決定することにより、同様に効果を得ることが可能である。
また、複数の要求出力フレームレートに対応して画像データを生成するための出力フレームレートの変換は、出力フレームメモリ18からの読み出し動作によって実現する方法を示した。しかしながら、予め変換したうえで要求出力フレームレート毎に画像データを出力フレームメモリ18に記憶するようにしてもよい。
また、複数の要求出力フレームレートに対応して画像データを生成するための出力フレームレートの変換は、出力フレームメモリ18からの読み出し動作によって実現する方法を示した。しかしながら、予め変換したうえで要求出力フレームレート毎に画像データを出力フレームメモリ18に記憶するようにしてもよい。
また、出力フレームメモリ18に記憶する前の出力フレーム、あるいは出力フレームメモリ18から読み出し後の画像データを、外部装置2に応じて解像度を変換するようにしてもよい。
また、ネットワーク3を介して外部装置2と接続する例を挙げたが、外部装置2と専用の通信線経由、又は直接接続する構成にしてもよい。
また、ネットワーク3を介して外部装置2と接続する例を挙げたが、外部装置2と専用の通信線経由、又は直接接続する構成にしてもよい。
なお、本実施形態における図2及び図6の一連のステップのプログラムコード等は、コンピュータのRAMやROMなどに記憶されたプログラムが動作することによって実現できる。このプログラム、及び当該プログラムを記録したコンピュータ読み取り可能な記憶媒体は本発明の実施形態に含まれる。
具体的に、前記プログラムは、例えばCD−ROMのような記録媒体に記録し、或いは各種伝送媒体を介し、コンピュータに提供される。前記プログラムを記録する記録媒体としては、CD−ROM以外に、フレキシブルディスク、ハードディスク、磁気テープ、光磁気ディスク、不揮発性メモリカード等を用いることができる。他方、前記プログラムの伝送媒体としては、以下のものを用いることができる。即ち、プログラム情報を搬送波として伝搬させて供給するためのコンピュータネットワーク(LAN、インターネットの等のWAN、無線通信ネットワーク等)システムにおける通信媒体(光ファイバ等の有線回線や無線回線等)である。
また、コンピュータが供給されたプログラムを実行することにより上述の実施形態の機能が実現されるだけでなく、そのプログラムがコンピュータにおいて稼働しているOS(オペレーティングシステム)あるいは他のアプリケーションソフト等と共同して上述の実施形態の機能が実現される場合も、かかるプログラムは本発明の実施形態に含まれる。また、供給されたプログラムの処理の全てあるいは一部がコンピュータの機能拡張ボードや機能拡張ユニットにより行われて上述の実施形態の機能が実現される場合も、かかるプログラムは本発明の実施形態に含まれる。
1 撮像装置
2 外部装置
3 ネットワーク
11 制御部
12 撮像素子
13 タイミングジェネレータ(TG)
14 A/D変換部
15 現像処理部
16 フレームメモリ
17 画像合成部
18 出力フレームメモリ
19 通信部
20 コマンド入力手段
21 適正露光部分検出部
2 外部装置
3 ネットワーク
11 制御部
12 撮像素子
13 タイミングジェネレータ(TG)
14 A/D変換部
15 現像処理部
16 フレームメモリ
17 画像合成部
18 出力フレームメモリ
19 通信部
20 コマンド入力手段
21 適正露光部分検出部
Claims (12)
- 入射される光に応じてアナログ画像信号を出力する撮像素子、前記撮像素子を駆動するタイミングジェネレータ、前記アナログ画像信号をデジタル画像信号に変換して出力するA/D変換部、前記デジタル画像信号を色調補正して撮影画像を生成する現像処理部、前記撮影画像を複数記憶するフレームメモリ、前記フレームメモリに記憶された複数の撮影画像を合成して合成画像を生成する画像合成部、前記合成画像を記憶する出力フレームメモリ、前記出力フレームメモリから読み出される前記合成画像を外部又は内部にある記憶装置又は表示装置に送信する通信部、及び撮像装置全体を制御する制御部を備えてなり、
前記制御部は、記憶装置又は表示装置へ送信するための出力フレームレートに応じて、前記撮像素子の露光時間の数を決定し、更に複数の異なる露光時間を決定して前記撮像素子に複数の異なる露光時間で露光制御を行い、前記露光制御によって生成された複数の撮影画像を前記画像合成部で合成させる制御を行うことを特徴とする撮像装置。 - 前記出力フレームレートを入力するコマンド入力部を有することを特徴とする請求項1に記載の撮像装置。
- 前記通信部は記憶装置又は表示装置からコマンドを受信し、前記出力フレームレートはコマンド又はコマンドの一部として前記通信部を介して記憶装置又は表示装置から入力されることを特徴とする請求項1又は2に記載の撮像装置。
- 前記出力フレームレートは記憶装置又は表示装置において記憶又は再生するフレームレートであることを特徴とする請求項1〜3のいずれか1項に記載の撮像装置。
- 前記記憶装置又は表示装置は、ハードディスク、リムーバブルディスク、モニタ、及びこれらを内蔵しているその他の装置であることを特徴とする請求項1〜4のいずれか1項に記載の撮像装置。
- 前記出力フレームレートは送信先毎に異なることを許容することを特徴とする請求項1〜5のいずれか1項に記載の撮像装置。
- 前記複数の異なる露光時間の数は、出力フレームレートの1出力フレーム期間において撮像素子が出力可能な最多撮像画像数以下であり、前記出力フレームレートが複数存在する場合は、最も高い出力フレームレートの1出力フレーム期間において前記撮像素子が出力可能な最多撮像画像数以下であることを特徴とする請求項1〜6のいずれか1項に記載の撮像装置。
- 前記複数の異なる露光時間の数は、出力フレームレートの1出力フレーム期間において撮像素子が出力可能な最多撮像画像数であり、前記出力フレームレートが複数存在する場合は、最も高い出力フレームレートの1出力フレーム期間において前記撮像素子が出力可能な最多撮像画像数であることを特徴とする請求項1〜6のいずれか1項に記載の撮像装置。
- 更に撮影画像から適正な露光量である画素と適正でない露光量である画素を判別する適正露光部分検出部を有し、前記複数の異なる露光時間の組み合わせは、露光時間の最も近い2つの撮像フレームの両方において適正な露光量である画素が、少なくとも1画素以上、両方の撮像フレームに存在するように決定されることを特徴とする請求項1〜8のいずれか1項に記載の撮像装置。
- 前記適正露光部分検出部は、予め定められた範囲内の輝度を持つ画素を適正な露光量である画素と判断することを特徴とする請求項1〜9のいずれか1項に記載の撮像装置。
- 前記画像合成部による合成画像の階調深さを送信先に応じて変更することを特徴とする請求項1〜10のいずれか1項に記載の撮像装置。
- 前記出力フレームメモリに記憶された合成画像のフレームレートと出力フレームレートが異なる時には、出力フレームレートに変換してから送信することを特徴とする請求項1〜11のいずれか1項に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006044487A JP2007228099A (ja) | 2006-02-21 | 2006-02-21 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006044487A JP2007228099A (ja) | 2006-02-21 | 2006-02-21 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007228099A true JP2007228099A (ja) | 2007-09-06 |
Family
ID=38549487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006044487A Pending JP2007228099A (ja) | 2006-02-21 | 2006-02-21 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007228099A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010016619A (ja) * | 2008-07-03 | 2010-01-21 | Nec Electronics Corp | 画像処理集積回路、画像処理装置及び画像処理方法 |
JP2010079552A (ja) * | 2008-09-25 | 2010-04-08 | Omron Corp | 画像処理装置および画像処理方法 |
US8380043B2 (en) | 2009-02-26 | 2013-02-19 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US10742892B1 (en) | 2019-02-18 | 2020-08-11 | Samsung Electronics Co., Ltd. | Apparatus and method for capturing and blending multiple images for high-quality flash photography using mobile electronic device |
US10911691B1 (en) | 2019-11-19 | 2021-02-02 | Samsung Electronics Co., Ltd. | System and method for dynamic selection of reference image frame |
US11062436B2 (en) | 2019-05-10 | 2021-07-13 | Samsung Electronics Co., Ltd. | Techniques for combining image frames captured using different exposure settings into blended images |
US11095829B2 (en) | 2019-06-11 | 2021-08-17 | Samsung Electronics Co., Ltd. | Apparatus and method for high dynamic range (HDR) image creation of dynamic scenes using graph cut-based labeling |
US11430094B2 (en) | 2020-07-20 | 2022-08-30 | Samsung Electronics Co., Ltd. | Guided multi-exposure image fusion |
-
2006
- 2006-02-21 JP JP2006044487A patent/JP2007228099A/ja active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010016619A (ja) * | 2008-07-03 | 2010-01-21 | Nec Electronics Corp | 画像処理集積回路、画像処理装置及び画像処理方法 |
JP2010079552A (ja) * | 2008-09-25 | 2010-04-08 | Omron Corp | 画像処理装置および画像処理方法 |
US9661238B2 (en) | 2009-02-26 | 2017-05-23 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US8620138B2 (en) | 2009-02-26 | 2013-12-31 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US8831404B2 (en) | 2009-02-26 | 2014-09-09 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US9247154B2 (en) | 2009-02-26 | 2016-01-26 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US8380043B2 (en) | 2009-02-26 | 2013-02-19 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US9860454B2 (en) | 2009-02-26 | 2018-01-02 | Canon Kabushiki Kaisha | Reproducing apparatus and reproducing method |
US10742892B1 (en) | 2019-02-18 | 2020-08-11 | Samsung Electronics Co., Ltd. | Apparatus and method for capturing and blending multiple images for high-quality flash photography using mobile electronic device |
US11062436B2 (en) | 2019-05-10 | 2021-07-13 | Samsung Electronics Co., Ltd. | Techniques for combining image frames captured using different exposure settings into blended images |
US11095829B2 (en) | 2019-06-11 | 2021-08-17 | Samsung Electronics Co., Ltd. | Apparatus and method for high dynamic range (HDR) image creation of dynamic scenes using graph cut-based labeling |
US10911691B1 (en) | 2019-11-19 | 2021-02-02 | Samsung Electronics Co., Ltd. | System and method for dynamic selection of reference image frame |
US11430094B2 (en) | 2020-07-20 | 2022-08-30 | Samsung Electronics Co., Ltd. | Guided multi-exposure image fusion |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8638374B2 (en) | Image pickup apparatus, image pickup system, and image pickup method | |
US7860321B2 (en) | Image pickup apparatus with function of rate conversion processing and control method therefor | |
JP6317577B2 (ja) | 映像信号処理装置及びその制御方法 | |
JP5609742B2 (ja) | 撮像装置、画像合成方法、及びプログラム | |
JP2007228099A (ja) | 撮像装置 | |
JP2007251860A (ja) | 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置 | |
US20110199496A1 (en) | Image capturing apparatus, image capturing control method, and storage medium | |
JP2017175319A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009194770A (ja) | 撮像装置、動画再生装置及びそのプログラム | |
JP2008124671A (ja) | 撮像装置および撮像方法 | |
JP6351212B2 (ja) | 撮像装置、撮像装置の制御方法及びシステム | |
JP4369263B2 (ja) | デジタルカメラ及び画像信号生成方法 | |
JP2015019397A (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2009005173A (ja) | 撮像装置及びその制御方法並びに撮像システム | |
JP4288992B2 (ja) | 撮像装置及び方法 | |
JP6775386B2 (ja) | 撮像装置、その制御方法、プログラムならびに記録媒体 | |
JP2008072501A (ja) | 撮像装置、撮像方法、プログラムおよび記録媒体 | |
JP6351213B2 (ja) | 撮像装置、撮像装置の制御方法及びシステム | |
JP6594485B2 (ja) | 撮像装置、撮像装置の制御方法及びシステム | |
JP6602425B2 (ja) | 撮像装置、撮像装置の制御方法及びシステム | |
JP6075829B2 (ja) | 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体 | |
JP2017201749A (ja) | 画像処理装置およびその制御方法 | |
JP5233611B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2000115693A (ja) | 画像データ記録方法、画像データ記録装置、画像データ再生方法、画像データ再生装置、情報記録媒体及びコンピュータ読み取り可能な記録媒体 | |
JP2017011676A (ja) | 画像処理装置及び画像処理方法 |