JP2019501567A - ハイダイナミックレンジビデオ/イメージングのための、露光時間セットを低減するためのデバイスおよび方法 - Google Patents

ハイダイナミックレンジビデオ/イメージングのための、露光時間セットを低減するためのデバイスおよび方法 Download PDF

Info

Publication number
JP2019501567A
JP2019501567A JP2018524287A JP2018524287A JP2019501567A JP 2019501567 A JP2019501567 A JP 2019501567A JP 2018524287 A JP2018524287 A JP 2018524287A JP 2018524287 A JP2018524287 A JP 2018524287A JP 2019501567 A JP2019501567 A JP 2019501567A
Authority
JP
Japan
Prior art keywords
channel
pixel
block
image
intensity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018524287A
Other languages
English (en)
Other versions
JP6632724B2 (ja
Inventor
ウラファリョル、オネイ
Original Assignee
ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ホアウェイ・テクノロジーズ・カンパニー・リミテッド filed Critical ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Publication of JP2019501567A publication Critical patent/JP2019501567A/ja
Application granted granted Critical
Publication of JP6632724B2 publication Critical patent/JP6632724B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures

Abstract

本発明は、ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するための方法を提供する。当該方法は、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶する段階と、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階と、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じてスコア値を計算する段階と、全ての候補の低減済みセットの計算されたスコア値に基づいて複数の候補の低減済みセットの中から候補の低減済みセットを選択する段階と、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御する段階とを備える。

Description

本発明は概して、コンピュータビジョンおよびコンピュテーショナルフォトグラフィの分野に関し、特に、ハイダイナミックレンジイメージングおよびビデオの課題に関する。
本発明は、ハイダイナミックレンジイメージング(HDRI)およびビデオを向上させるテーマに取り組む。ハイダイナミックレンジ、HDR、とは、スマートフォンおよびカメラなどの、現在および将来の画像およびビデオ捕捉デバイスの品質を向上させる重要な方法である。HDRIは、一般には、異なって露光された画像を捕捉して、それらをHDR画像にマージすることによって実現される。異なる露光セットおよび捕捉された対応画像が多ければ多いほど、最終HDR画像の品質がより良好となる。
本発明のコンテキストにおいて、露光時間とは、捕捉デバイスが画像またはビデオフレームの捕捉中に露光される光の量を制御する時間間隔である。画像/フレームが大きければ大きいほど、明るい。2D画像またはピクチャとは、1つのカメラで取得される通常の2次元画像であり、その画像は、例えば、RGBまたは色度−輝度値を用いて画定され得る。質感とは、色彩強度において著しい変動を有するコンテンツを表す画像内のエリアである。オーバー露光された画像エリアとは、過度に露光された画像エリアであり、これにより、エリアの大部分が白飛びする。アンダー露光された画像エリアとは、露光不足の画像エリアであり、これにより、エリアの大部分が黒つぶれする。
最新技術では、HDR処理は、異なる露光時間の予め画定されたセットに基づくことが既知であり、すなわち、HDR画像は、露光時間の予め画定されたセットにおいて捕捉された複数の画像をマージすることによって取得される。しかしながら、予め画定された露光時間のセットは予め画定されたものなので、質感情報は、生成されたHDR画像において失われる場合がある。
特定の用途に対して、用いられる予定の異なる露光時間のセットが限定されている。例えば、異なる露光時間において捕捉された画像のセットは、時間的制約によって限定される。このことは、画像用HDRについて同様であるが、特にビデオ用HDRアプリケーションについて同様である。
上述の欠点および問題を考慮しており、本発明は、最新技術を向上させることを目的としている。特に、本発明の目的は、例えば、HDRビデオアプリケーションにおけるような、特に時間的制約下において、向上したHDRの撮像性能を提供することである。さらなる目的は、画像用HDRおよびビデオ用HDRアプリケーションのためにHDRイメージングのための効率の良い解決手段を提供することである。
例えば、ビデオ用HDRにおいて、交替する露光時間において画像が捕捉され、各時間段階でマージされる。従って、ゴースト効果を防止すべく、異なる露光時間のセットは、可能な限り小さくしなければならない。理想的には、2つの異なる露光時間のみが用いられる。しかしながら、露光時間セットが2つの予め画定された露光時間を含むので、質感情報は、生成されたHDR画像またはビデオにおいて失われる場合がある。
本発明は特に、最終HDR画像のために、質感または画像情報を過度に失うことなく、異なる露光時間のより大きいセットから小さいセットを選択することによって、HDR撮像性能を向上させることを意図している。
本発明の上述の目的は、添付の独立請求項において提供される解決手段によって達成される。本発明の有利な実装方式は、それぞれの従属請求項においてさらに画定される。
本発明の第1の態様は、ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するよう適合されるデバイスを提供する。デバイスは、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶するよう適合される記憶ユニットを備える。デバイスは、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御するよう適合されるキャリブレーション制御ユニットを備える。デバイスは、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合される計算ユニットを備える。デバイスは、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセットの中から、候補の低減済みセットを選択するよう適合される選択ユニットを備える。デバイスは、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御するよう適合されるHDR制御ユニットを備える。
それに関して、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合される計算ユニットと、計算されたスコア値に基づいて候補の低減済みセットを選択するよう適合される選択ユニットとを提供することによって、HDR制御ユニットは、画像および質感の細部が維持され得るように、複数の画像の捕捉を制御するよう有利に適合される。選択された候補の低減済みセットの露光時間は、選択ユニットによって有利に選択され、これにより、捕捉された画像の画像および質感の細部は、HDRイメージングのために有利に維持され得る。
特に、記憶ユニットにより記憶されている主要セットは、異なる選択可能な露光時間の固定されたセットであり得る。あるいは、主要セットは、異なる選択可能な露光時間の固定されたセットのサブパートであってよい。主要セットは、固定されたセットから選択されるサブパートであってよく、または、言い換えれば、いくつかの露光時間は、主要セットを取得するために、固定されたセットから除外されてよい。例えば、主要セットは、画像捕捉条件に応じて、例えば、輝度に応じて、または、ユーザによりされたユーザ選択に応じて、選択されるサブパートであってよい。画像捕捉条件に応じてされる選択の例は、輝度に応じてデバイスにより自動的に選択される主要セットであり、これにより、例えば、主要セットは、最適の低減済みセットが検索される夜間または暗い状況のためのサブセットであってよい。さらなる例は、ユーザにより行われたシーンモード選択に応じて選択される主要セットであり、そのような選択モードは、例えば、ポートレート、風景、夕焼け、屋内、夜間ポートレート、または運動である。
特に、キャリブレーション画像は、キャリブレーションのために用いられる画像である。これらの画像は、任意の種類の画像であってよく、特定パターンは必要とされない。特に、キャリブレーション画像において、予め画定されたパターンまたは予め画定された色は必要とされない。
特に、HDR制御ユニットは、選択された候補の低減済みセットの露光時間のみにおいて、複数の画像の捕捉を制御するよう適合される。そして、捕捉は、選択された候補の低減済みセットの露光時間のみにおいて実行され、選択された候補の低減済みセットに属していない追加の露光時間においては実行されない。言い換えれば、HDR画像は、選択された候補の低減済みセットの露光時間のみにおいて捕捉された画像をマージすることによって、取得される。
特に、選択ユニットは、複数の候補の低減済みセットの中から、最適のスコア値、例えば、最も高い、または最も低いスコア値を有する候補の低減済みセットを選択するよう適合され得る。最適のスコア値は、対応するキャリブレーション画像における高程度の乱れを反映し得る。従って、最適のスコア値は、スコア値の具体的な計算に応じて、すなわち、当該高程度の乱れが、最も高いまたは最も低いスコア値によって反映されるかに応じて、最も高いまたは最も低いスコア値に対応し得る。
特に、デバイスは、HDRキャリブレーションモードとHDR動作モードとを切り替えるよう適合される。当該HDRキャリブレーションモードにおいて、記憶ユニットは、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶するよう適合され、キャリブレーション制御ユニットは、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御するよう適合され、計算ユニットは、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合され、選択ユニットは、全ての候補の低減済みセットの計算されたスコア値に基づいて複数の候補の低減済みセットの中から候補の低減済みセットを選択するよう適合される。当該HDR動作モードにおいて、HDR制御ユニットは、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御するよう適合される。
第1の態様に係るデバイスの第1の実装形態において、キャリブレーション画像は、チャネルを有する。さらに、計算ユニットは、ブロック位置を画定するグリッドに従って各選択されたキャリブレーション画像のチャネルを画素ブロックに分割することと、各選択されたキャリブレーション画像のチャネルの画素ブロックごとに、画素ブロックにおける画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロックに関連付けることと、ブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像のチャネルの画素ブロックを含むブロックスタックを画定することと、ブロックスタックごとに、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別することと、チャネルのブロックスタックごとに識別された最適値に基づいて候補の低減済みセットのチャネルスコア値を計算することとによって、候補の低減済みセットごとに、選択されたキャリブレーション画像のチャネルの強度に応じて、スコア値を計算するよう適合され、ここで、チャネルスコア値は、スコア値である。
それに関して、計算されたスコア値は、それ自体が、選択されたキャリブレーション画像の質感の細部の量を反映するパラメータであることに有利である。
また、画像全体を用いることの代わりに、画素ブロック形成は、画像のより小さい領域を分離することに役に立ち、これにより、小さい領域の画像細部は、潜在的に維持され得て、計算されたスコア値は、選択されたキャリブレーション画像の質感を反映する。
画素強度は、画素ブロック内の画素の強度に関するものであってよい。あるいは、画素強度は、画素ブロック内の画素群の強度に関するものであってよい。画素群は、画像符号化において用いられるマクロブロックに相当し得て、例えば、8×8の画素の、例えば、長方形または正方形の群からなり得る。画素群の画素強度は、画素群の各画素の強度を平均することによって取得され得る。
チャネルは、RGB色空間における赤色、緑色、および青色チャネルのうちの1つであってよい。キャリブレーション画像は、グレースケールのデジタル画像であってよい。その場合、グレースケール画像は1つのチャネルのみを有する。代替的な色空間も、1つまたは複数のチャネルを画定する。例えば、YUVまたはY'UV色空間において、チャネルは、輝度(Y)またはルマ(Y')に対応し得る。好ましくは、チャネルは、画像における画素強度を反映するチャネルであり得る。
特に、強度依存の値の最適値を識別することは、強度依存の値の最大または最小値がそれぞれ、ブロックスタックにおける最も高い程度の乱れを反映するかに応じて、強度依存の値の最大または最小値を識別することを含み得る。好ましくは、強度依存の値の最適値を識別することは、強度依存の値の最大値を識別することを含み得る。
第1の態様に係るデバイスの第2の実装形態において、キャリブレーション画像は、単一チャネルを有する単一チャネル画像、または、デバイスは、キャリブレーション画像を、単一チャネルを有する単一チャネル画像に変換するよう適合される変換ユニットを備える。
それに関して、画像および質感の細部がHDRイメージングのために維持されるはずなので、単一チャネルキャリブレーション画像がキャリブレーション画像における強度変化を反映することから、単一チャネルキャリブレーション画像は、候補の低減済みセットを選択するのに十分である。単一チャネルを用いることは、画像の強度特性および変動を依然として維持しつつ、効率の良い処理を可能にする。
例えば、単一チャネルは、RGB色空間における赤色、緑色、および青色チャネルのうちの1つであり得る。キャリブレーション画像は、グレースケールのデジタル画像であり得る。代替的なYUVまたはY'UV色空間において、単一チャネルは、輝度(Y)またはルマ(Y')に対応し得る。もしキャリブレーション画像が単一チャネル画像として利用可能ではない場合、本発明は、マルチチャネルキャリブレーション画像を単一チャネルキャリブレーション画像に変換することを有利に提供する。カラー画像は、いくつかの積層カラーチャネルで作られてよく、それらのそれぞれは、所与のチャネルの値レベルを表す。例えば、赤色(R)、緑色(G)、青色(B)の色成分の3つの独立チャネルからなるRGB画像は、例えば、異なるチャネルの色成分を加重平均することによってグレースケール画像に変換され得る。変換された単一チャネルは、YUVまたはY'UV色空間の輝度(Y)またはルマ(Y')であってもよい。輝度は、例えば、Y=0.2126R+0.7152G+0.0722Bという数式を用いて3つのRGB色成分の線形結合により取得され得る。
第1の態様に係るデバイスの第3の実装形態において、キャリブレーション画像は、複数のチャネルを有し、計算ユニットは、候補の低減済みセットごとに、ブロック位置を画定するグリッドに従って、各選択されたキャリブレーション画像の各チャネルを画素ブロックに分割することと、各選択されたキャリブレーション画像の各チャネルの画素ブロックごとに、画素ブロックにおける画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロックに関連付けることと、チャネルごとおよびブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像の当該チャネルの画素ブロックを含むブロックスタックを画定することと、ブロックスタックごとに、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別することと、チャネルごとに、チャネルのブロックスタックごとに識別された最適値に基づいて候補の低減済みセットのチャネルスコア値を計算することと、各チャネルのそれぞれのチャネルスコア値に応じて、スコア値を計算することとによって、選択されたキャリブレーション画像のチャネルの強度に応じて、スコア値を計算するよう適合される。
それに関して、スコア値を計算するために複数のチャネルを有するキャリブレーション画像を用いることは、スコア値のゆえに候補の低減済みセットの選択を向上させ得て、そして、キャリブレーション画像におけるより多くの強度特性および変動を考慮し得る。
第1の態様に係るデバイスの第1の実装形態のさらなる特徴および効果は、第1の態様に係るデバイスの第3の実装形態にも適用する。言い換えれば、チャネルを有するキャリブレーション画像の場合に関する特徴および効果は、複数のチャネルを有するキャリブレーション画像の場合にも適用する。
第1の態様に係るデバイスの第4の実装形態において、キャリブレーション画像は、マルチチャネル画像であり、スコア値は、各チャネルのそれぞれのチャネルスコア値を組み合わせることによって、または、各チャネルのチャネルスコア値のうち最適のチャネルスコアを選択することによって、計算される。
マルチチャネル画像は、例えば、RGB色空間において、または画像における画素強度を好ましく反映するいくつかのチャネルを含む代替的な色空間において、画定された画像であってよい。
それに関して、各チャネルのそれぞれのチャネルスコア値を組み合わせることは、それぞれのチャネルスコア値を加算または乗算することを含んでよく、これにより、計算されたスコア値は、各チャネルの強度特性を有利に考慮する。あるいは、各チャネルのそれぞれのチャネルスコア値を組み合わせることは、各チャネルのチャネルスコア値のうち、最適のチャネルスコア、例えば、最大スコア値を選択することを含んでよく、これにより、スコア値計算が簡略化され得る。
第1の態様に係るデバイスの第5の実装形態において、計算ユニットは、画素ブロックの画素強度のヒストグラムを計算することと、画素ブロックの画素強度のヒストグラムに基づいて、画素ブロックの、強度依存の値に対応するエントロピ値を計算することとによって、画素ブロックにおける画素強度に依存する強度依存の値を計算するよう適合される。
それに関して、エントロピ値は、それ自体が、例えば、画像のコンテンツを迅速に変更するなど、乱れの程度に対する一般処置であることで有利である。
画像の高質感は、画素強度を迅速に変更することも含み、このことは、本発明がHDRコンテンツにおいて有利に維持するものである。
第1の態様に係るデバイスの第6の実装形態において、画素ブロックのエントロピ値は、以下の数式に従って計算される。
Figure 2019501567
はキャリブレーション画像mの画素ブロックbにおける画素強度iの発生確率であり、bは、ブロックインデックスであり、mは、画像インデックスである。
第1の態様に係るデバイスの第7の実装形態において、計算ユニットは、画素ブロックの画素強度の分散値を計算することによって、画素ブロックにおける画素強度に依存する強度依存の値を計算するよう適合される。
それに関して、分散値は、エントロピベースの方法の代替的なものとして、例えば、画像のコンテンツを迅速に変更するなど、それ自体が乱れの程度も反映することで有利である。
画素強度は、画素ブロックの画素の強度に関するものであってよく、または、画素ブロックの画素群の強度に関するものであってよい。
第1の態様に係るデバイスの第8の実装形態において、画素ブロックの画素強度の分散値は、以下の数式に従って計算される。
Figure 2019501567
XおよびYは、画素ブロックのサイズであり、i(x,y)は、画素ブロック内の画素位置(x,y)における画素強度であり、aは、画素ブロック内の平均画素強度値である。
それに関して、数式に従うこの計算は、画素強度の分散値に基づいて強度依存の値を計算するための有利な実装方式である。
第1の態様に係るデバイスの第9の実装形態において、計算ユニットは、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最大値を識別することによって、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別するよう適合され、計算ユニットは、チャネルのブロックスタックごとにそれぞれ識別された最大値、またはそれらから導出された値を加算または乗算することによって、チャネルのブロックスタックごとに識別された最適値に基づいて候補の低減済みセットのチャネルスコア値を計算するよう適合される。
それに関して、最大値を用いること、ならびに加算または乗算は、候補の低減済みセットの最適の選択を提供し得る。
特に、最大値から導出された値は、それらの対数値であってよい。
そして、チャネルのブロックスタックごとに、識別された最大値の対数値を計算すること、および計算された対数値を加算することは、そのような計算が数値不安定性を回避し得ることで有利であり得る。
特に、チャネルのブロックスタックごとにそれぞれ識別された最大値を乗算することは、対数値を加算することを含む解決手段の代替的な解決手段であり得る。
第1の態様に係るデバイスの第10の実装形態において、グリッドにより画定されたブロック位置は、隣接するまたは重なる。
それに関して、画素ブロックは、キャリブレーション画像全体をカバーするように重ならずに隣接し得る。
あるいは、画素ブロックは、より多くの正確な結果を取得するように重なってよい。
第1の態様に係るデバイスの第11の実装形態において、複数の候補の低減済みセットは、予め画定された、またはユーザにより画定される共通のサイズを有する。
本発明の第2の態様は、本発明の第1の態様に係るデバイスと、HDR画像処理ユニットと、少なくとも1つのカメラとを備えるシステムを提供する。キャリブレーション制御ユニットは、当該少なくとも1つのカメラによるキャリブレーション画像の捕捉を制御するよう適合される。HDR制御ユニットは、当該少なくとも1つのカメラによる複数の画像の捕捉を制御するよう適合される。HDR画像処理ユニットは、HDR画像を取得すべく、複数の画像をマージするよう適合される。
それに関して、HDR制御ユニットは、画像および質感の細部が維持され得るように、複数の画像の捕捉を制御するよう有利に適合される。選択された候補の低減済みセットの露光時間は選択ユニットにより有利に選択され、これにより、捕捉された画像の画像および質感の細部は有利に維持され得て、これにより、取得されたHDR画像の品質も向上し得る。
特に、HDR制御ユニットは、選択された候補の低減済みセットの露光時間のみにおいて複数の画像の捕捉を制御するよう適合され、HDR画像処理ユニットは、選択された候補の低減済みセットの露光時間において捕捉された画像のみをマージするよう適合される。
特に、システムは、HDRキャリブレーションモードとHDR動作モードとを切り替えるよう適合される。当該HDRキャリブレーションモードにおいて、キャリブレーション制御ユニットは、当該少なくとも1つのカメラ(101)によるキャリブレーション画像の捕捉を制御するよう適合される。当該HDR動作モードにおいて、HDR制御ユニットは、当該少なくとも1つのカメラによる複数の画像の捕捉を制御するよう適合される。当該HDR動作モードにおいて、HDR画像処理ユニットは、HDR画像を取得すべく、複数の画像をマージするよう適合される。
本発明の第3の態様は、ハイダイナミックレンジ、HDR、画像を取得するために、複数の画像の捕捉を制御するための方法を提供する。方法は、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶する段階を備える。方法は、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階を備える。方法は、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算する段階を備える。方法は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセットの中から、候補の低減済みセットを選択する段階を備える。方法は、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御する段階を備える。
それに関して、選択されたキャリブレーション画像の強度に応じてスコア値を計算し、計算されたスコア値に基づいて候補の低減済みセットを選択することによって、画像および質感の細部が維持され得るように、複数の画像の捕捉を制御することが有利に可能である。選択された候補の低減済みセットの露光時間は、有利に選択され、これにより、捕捉された画像の画像および質感の細部は、HDRイメージングのために有利に維持され得る。
特に、主要セットは、異なる選択可能な露光時間の固定されたセットであってよい。あるいは、主要セットは、異なる選択可能な露光時間の固定されたセットのサブパートであってよい。主要セットは、固定されたセットから選択されるサブパートであってよく、または、言い換えれば、いくつかの露光時間は、主要セットを取得するために、固定されたセットから除外されてよい。例えば、主要セットは、画像捕捉条件に応じて、例えば、輝度に応じて、またはユーザによりされたユーザ選択に応じて、選択されるサブパートであってよい。画像捕捉条件に応じる選択の例は、輝度に応じて自動的に選択される主要セットであり、これにより、例えば、主要セットは、最適の低減済みセットが検索される夜間または暗い状況のためのサブセットであり得る。さらなる例は、ユーザによりされたシーンモード選択に応じて選択される主要セットであり、そのような選択モードは、例えば、ポートレート、風景、夕焼け、屋内、夜間ポートレート、または運動などである。
特に、キャリブレーション画像は、キャリブレーションのために用いられる画像である。これらの画像は、任意の種類の画像であってよく、特定パターンは必要とされない。特に、キャリブレーション画像において、予め画定されたパターン、または予め画定された色は必要とされない。
特に、選択された候補の低減済みセットの露光時間のみにおいて複数の画像の捕捉を制御することが有利である。そして、捕捉は、選択された候補の低減済みセットの露光時間のみにおいて実行され、選択された候補の低減済みセットに属していない追加の露光時間においては実行されない。言い換えれば、HDR画像は、選択された候補の低減済みセットの露光時間のみにおいて捕捉された画像をマージすることによって取得される。
特に、複数の候補の低減済みセットの中から、例えば、最も高いまたは最も低いスコア値など、最適のスコア値を有する候補の低減済みセットを選択することが有利である。最適のスコア値は、対応するキャリブレーション画像における高程度の乱れを反映し得る。従って、最適のスコア値は、スコア値の具体的な計算に応じて、すなわち、高程度の乱れが最も高いまたは最も低いスコア値により反映されるかに応じて、最も高いまたは最も低いスコア値に対応し得る。
特に、方法は、HDRキャリブレーションモードとHDR動作モードとを切り替えるよう適合される。当該HDRキャリブレーションモードは、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶することと、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御することと、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算することと、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセットの中から、候補の低減済みセットを選択することとを含む。当該HDR動作モードは、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ複数の画像の捕捉を制御することを含む。
第3の態様に係る方法の第1の実装形態において、キャリブレーション画像は、チャネルを有する。さらに、候補の低減済みセットごとに、選択されたキャリブレーション画像のチャネルの強度に応じて、スコア値を計算する段階は、ブロック位置を画定するグリッドに従って各選択されたキャリブレーション画像のチャネルを画素ブロックに分割する段階と、各選択されたキャリブレーション画像のチャネルの画素ブロックごとに、画素ブロックにおける画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロックに関連付ける段階と、ブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像のチャネルの画素ブロックを含むブロックスタックを画定する段階と、ブロックスタックごとに、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別する段階と、チャネルのブロックスタックごとに識別された最適値に基づいて、候補の低減済みセットのチャネルスコア値を計算する段階とを含み、ここで、チャネルスコア値は、スコア値である。
それに関して、計算されたスコア値は、それ自体が選択されたキャリブレーション画像の質感の細部の程度を反映するパラメータであることで有利である。
また、画像全体を用いることの代わりに画素ブロック形成は、画像のより小さい領域を分離することに役に立ち、これにより、小さい領域の画像細部は、潜在的に維持され得て、計算されたスコア値は、選択されたキャリブレーション画像の質感を反映する。
画素強度は、画素ブロック内の画素の強度に関するものであってよい。あるいは、画素強度は、画素ブロック内の画素群の強度に関するものであってよい。画素群は、画像符号化において用いられるマクロブロックに相当し得て、例えば、8×8の画素の、例えば、長方形または正方形の群からなり得る。画素群の画素強度は、画素群の各画素の強度を平均することによって取得され得る。
チャネルは、RGB色空間における赤色、緑色、および青色チャネルのうちの1つであり得る。キャリブレーション画像は、グレースケールのデジタル画像であり得る。その場合、グレースケール画像は、1つのチャネルのみを有する。代替的な色空間も、1つまたは複数のチャネルを画定する。例えば、YUVまたはY'UV色空間において、チャネルは、輝度(Y)またはルマ(Y')に対応し得る。好ましくは、チャネルは、画像における画素強度を反映するチャネルであり得る。
特に、強度依存の値の最適値を識別することは、強度依存の値の最大または最小値がそれぞれ、ブロックスタックにおける最も高い程度の乱れを反映するかに応じて、強度依存の値の最大または最小値を識別することを含んでよい。好ましくは、強度依存の値の最適値を識別することは、強度依存の値の最大値を識別することを含んでよい。
第3の態様に係る方法の第2の実装形態において、キャリブレーション画像は、単一チャネルを有する単一チャネル画像であり、または、方法は、キャリブレーション画像を、単一チャネルを有する単一チャネル画像に変換する段階を備える。
それに関して、画像および質感の細部がHDRイメージングのために維持されるはずなので、単一チャネルキャリブレーション画像がキャリブレーション画像における強度変化を反映することから、単一チャネルキャリブレーション画像は、候補の低減済みセットを選択するのに十分である。単一チャネルを用いることは、画像の強度特性および変動を依然として維持しつつ、効率の良い処理を可能にする。
例えば、単一チャネルは、RGB色空間における赤色、緑色、および青色チャネルのうちの1つであってよい。キャリブレーション画像は、グレースケールのデジタル画像であってよい。代替的なYUVまたはY'UV色空間において、単一チャネルは、輝度(Y)またはルマ(Y')に対応し得る。もしキャリブレーション画像が単一チャネル画像として利用可能ではない場合、本発明は、マルチチャネルキャリブレーション画像を単一チャネルキャリブレーション画像に変換することを有利に提供する。カラー画像は、いくつかの積層カラーチャネルで作られてよく、それらのそれぞれは、所与のチャネルの値レベルを表す。例えば、赤色(R)、緑色(G)、および青色(B)の色成分の3つの独立チャネルからなるRGB画像は、例えば、異なるチャネルの色成分を加重平均することによって、グレースケール画像に変換され得る。変換された単一チャネルは、YUVまたはY'UV色空間の輝度(Y)またはルマ(Y')であってもよい。輝度は、例えば、Y=0.2126R+0.7152G+0.0722Bという数式を用いて3つのRGB色成分の線形結合により取得され得る。
第3の態様に係る方法の第3の実装形態において、キャリブレーション画像は、複数のチャネルを有する。候補の低減済みセットごとに、選択されたキャリブレーション画像のチャネルの強度に応じて、スコア値を計算する段階は、ブロック位置を画定するグリッドに従って各選択されたキャリブレーション画像の各チャネルを画素ブロックに分割する段階を含み、各選択されたキャリブレーション画像の各チャネルの画素ブロックごとに、画素ブロックにおける画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロックに関連付ける段階と、チャネルごとおよびブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像の当該チャネルの画素ブロックを含むブロックスタックを画定する段階と、ブロックスタックごとに、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別する段階と、チャネルごとに、チャネルのブロックスタックごとに識別された最適値に基づいて候補の低減済みセットのチャネルスコア値を計算す段階と、各チャネルのそれぞれのチャネルスコア値に応じて、スコア値を計算する段階とを含む。
それに関して、スコア値を計算するために、複数のチャネルを有するキャリブレーション画像を用いることは、スコア値のゆえに候補の低減済みセットの選択を向上させ得て、そして、キャリブレーション画像におけるより多くの強度特性および変動を考慮し得る。
第3の態様に係る方法の第1の実装形態のさらなる特徴および効果は、第3の態様に係る方法の第3の実装形態にも適用する。
言い換えれば、チャネルを有するキャリブレーション画像の場合に関する特徴および効果は、複数のチャネルを有するキャリブレーション画像の場合にも適用する。
第3の態様に係る方法の第4の実装形態において、キャリブレーション画像は、マルチチャネル画像であり、スコア値は、各チャネルのそれぞれのチャネルスコア値を組み合わせることによって、または各チャネルのチャネルスコア値のうち最適のチャネルスコアを選択することによって、計算される。
マルチチャネル画像は、例えば、RGB色空間において、または、画像における画素強度を好ましく反映するいくつかのチャネルを含む代替的な色空間において、画定された画像であってよい。
それに関して、各チャネルのそれぞれのチャネルスコア値を組み合わせることは、それぞれのチャネルスコア値を加算または乗算することを含んでよく、これにより、計算されたスコア値は、各チャネルの強度特性を有利に考慮する。あるいは、各チャネルのそれぞれのチャネルスコア値を組み合わせることは、各チャネルのチャネルスコア値のうち最適のチャネルスコア、例えば、最大のスコア値を選択することを含んでよく、これにより、スコア値の計算は簡略化され得る。
第3の態様に係る方法の第5の実装形態において、画素ブロックにおける画素強度に依存する強度依存の値を計算する段階は、画素ブロックの画素強度のヒストグラムを計算する段階と、画素ブロックの画素強度のヒストグラムに基づいて、画素ブロックの、強度依存の値に対応するエントロピ値を計算する段階とを含む。
それに関して、エントロピ値は、それ自体が、例えば、画像のコンテンツを迅速に変更するなど、乱れの程度に対する一般処置であることで有利である。
画像の高質感は、画素強度を迅速に変更することも含み、このことは、本発明がHDRコンテンツにおいて有利に維持するものである。
第3の態様に係る方法の第6の実装形態において、画素ブロックのエントロピ値は、以下の数式に従って、計算される。
Figure 2019501567
は、キャリブレーション画像mの画素ブロックbの画素強度iの発生確率であり、bはブロックインデックスであり、mは画像インデックスである。
第3の態様に係る方法の第7の実装形態において、画素ブロックにおける画素強度に依存する強度依存の値を計算する段階は、画素ブロックの画素強度の分散値を計算する段階を含む。
それに関して、分散値は、それ自体が、代替的なエントロピベースの方法として、例えば、画像のコンテンツを迅速に変更するなど、乱れの程度も反映することで有利である。
画素強度は、画素ブロックの画素の強度に関するものであってよく、または画素ブロックの画素群の強度に関するものであってよい。
第3の態様に係る方法の第8の実装形態において、画素ブロックの画素強度の分散値は、以下の数式に従って計算される。
Figure 2019501567
XおよびYは、画素ブロックのサイズであり、i(x,y)は、画素ブロック内の画素位置(x,y)における画素強度であり、aは、画素ブロック内の平均画素強度値である。
それに関して、数式に従うこの計算は、画素強度の分散値に基づいて強度依存の値を計算するために有利な実装方式である。
第3の態様に係る方法の第9の実装形態において、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値を識別する段階は、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最大値を識別する段階を含み、チャネルのブロックスタックごとに識別された最適値に基づいて候補の低減済みセットのチャネルスコア値を計算する段階は、チャネルのブロックスタックごとにまたはそれらから導出された値について、それぞれ識別された最大値を加算または乗算する段階を含む。
それに関して、最大値を用いること、ならびに加算または乗算することは、候補の低減済みセットの最適の選択を提供し得る。
特に、最大値から導出された値は、それらの対数値であってよい。
そして、チャネルのブロックスタックごとに、識別された最大値の対数値を計算し、計算された対数値を加算する段階は、そのような計算が数値不安定性を回避し得ることで有利であり得る。
特に、チャネルのブロックスタックごとにそれぞれ識別された最大値を乗算することは、対数値を加算することを含む解決手段の代替的な解決手段であり得る。
第3の態様に係る方法の第10の実装形態において、グリッドにより画定されたブロック位置は、隣接する、または重なる。
それに関して、画素ブロックは、キャリブレーション画像全体をカバーするように重ならずに隣接し得る。
あるいは、画素ブロックは、より多くの正確な結果を取得するように、重なってよい。
第3の態様に係る方法の第11の実装形態において、複数の候補の低減済みセットは、予め画定された、またはユーザにより画定される共通サイズを有する。
本発明の第4の態様は、コンピュータプログラムがコンピューティングデバイス上で動作するとき、本発明の第3の態様に係る方法を実行するためのプログラムコードを有するコンピュータプログラムを提供する。
本発明によれば、HDRキャリブレーションモードにおいて、数がN個の露光時間からなる候補の低減済みセットまたはサブセットが、利用可能な露光時間の主要セットまたは基本セットから、選択される。主要セットは、数がM個の利用可能な露光時間または候補露光時間からなり、ここで、M>Nである。そして、露光時間の選択された候補の低減済みセットが、例えば、HDR動作モードにおいて、実際のHDR処理のために用いられる。
M個の利用可能な露光時間のセットを低減するために、実際のHDR処理のために用いられる、サイズがN個の露光時間の低減済みセットが、ユーザにより画定され、またはデバイスにより予め画定されている。サイズがN個のこの画定は、好ましくは、HDRキャリブレーションモードにおいて実行される。
そして、HDRキャリブレーションモードにおいて、この数がN個の異なる露光時間を含む可能な候補の低減済みセットごとに、スコア値が計算される。各可能な候補の低減済みセットのスコア値を計算した後に、最良のスコア値を有する候補の低減済みセットが、解決手段として選択され、すなわち、HDR動作モードにおいてHDR処理を実行するために選択される。
本発明はこうして、最終HDR解決策における細部のほとんどを同時に維持しつつ、露光時間の候補の低減済みセットを選択するためのHDRキャリブレーションモードを提供する。
本願において説明されている全てのデバイス、エレメント、ユニット、および手段は、ソフトウェアまたはハードウェアエレメント、またはそれらの任意の種類の組み合わせにおいて実装され得ることが留意されるべきである。本願において説明されている様々なエンティティにより実行される全ての段階、ならびに様々なエンティティにより実行されると説明されている機能は、それぞれのエンティティは、それぞれの段階および機能を実行すように適合されまたは構成されることを意味することを意図される。たとえ具体的な実施形態の以下の説明において、ある具体的な機能または段階が、その具体的な段階または機能を実行するそのエンティティの具体的な詳述したエレメントの説明において反映されていない外部のエンティティにより完全に形成される場合、これらの方法および機能はそれぞれのソフトウェアまたはハードウェアエレメントまたはそれらの任意の種類の組み合わせにおいて実装されることができることは、当業者には明確であるべきである。
本発明の上述の態様および実装形態は、添付図面に関連して、具体的な実施形態の以下の説明において説明される。
本発明の実施形態に係るシステムを示す。 本発明の実施形態に係るキャリブレーション画像およびブロックスタックを示す。 本発明の実施形態に係る方法を示す。 本発明の実施形態に係る方法を示す。 本発明の実施形態に係るスコア値の計算を示す。
図1は、本発明の実施形態に係るシステム100を示す。システム100は、本発明の実施形態に係るデバイス102を備える。本発明の実施形態に係るデバイス102は、ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するよう適合される。デバイス102は、選択可能な露光時間の主要セット104と、主要セット104のそれぞれのサブセットである複数の候補の低減済みセット105とを記憶するよう適合される記憶ユニット103を備える。 デバイス102は、主要セット104の各露光時間においてそれぞれキャリブレーション画像の捕捉を制御するよう適合されるキャリブレーション制御ユニット106を備える。デバイス102は、候補の低減済みセット105ごとに、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合される計算ユニット107を備える。デバイス102は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセット105の中から、候補の低減済みセット110を選択するよう適合される選択ユニット108を備える。デバイス102は、HDR画像を取得するために、選択された候補の低減済みセット110の各露光時間においてそれぞれ、複数の画像の捕捉を制御するよう適合されるHDR制御ユニット109を備える。本発明の実施形態に係るシステム100は、デバイス102、ならびに、HDR画像処理ユニット111および少なくとも1つのカメラ101を備える。システム100において、キャリブレーション制御ユニット106は、当該少なくとも1つのカメラ101によるキャリブレーション画像の捕捉を制御するよう適合される。HDR制御ユニット109は、当該少なくとも1つのカメラ101による複数の画像の捕捉を制御するよう適合される。HDR画像処理ユニット111は、HDR画像を取得すべく、複数の画像をマージするよう適合される。図1に示されているシステム100は、単一カメラ101を備え、カメラに対して2つまたはそれよりも多くの露光時間を決定するために用いられてよく、これにより、HDR画像は、選択された候補の低減済みセット110により画定された露光時間のみにおいてこの単一カメラ101のみにより捕捉された画像から取得され得る。あるいは、システムは、1つより多くのカメラを備えるマルチカメラシステムであってよく、これにより、HDR画像は、複数のカメラにより捕捉された画像から取得され得る。ここで、選択された候補の低減済みセット110により画定された各露光時間は、1つのカメラのみに割り当てられ得る。本発明の単一カメラまたはマルチカメラシステムは、2Dまたは3DイメージングによってHDR画像を取得するために用いられ得る。
図2は、本発明の実施形態に係るキャリブレーション画像201、202、203を示す。キャリブレーション画像の捕捉は、キャリブレーション画像が主要セット104の各露光時間においてそれぞれ捕捉されるよう、キャリブレーション制御ユニット106により制御される。候補の低減済みセット105ごとに、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像201、202、203は、計算ユニット107により選択される。そして、計算ユニット107は、選択されたキャリブレーション画像201、202、203の強度に応じて、スコア値を計算する。図1の特定の実施形態において、選択可能な露光時間の主要セットは、数がM=3の利用可能な露光時間を含む。当該3つの利用可能な露光時間が、t1、t2、t3であり、主要セット104は、{t1,t2,t3}に対応する。示されている実施形態において、HDR動作モードのための数がN個の露光時間が、N=2であるよう選択される。記憶ユニット103において記憶されている複数の候補の低減済みセット105はこうして、{t1,t2}、{t1,t3}、{t2,t3}というセットに対応する。候補の低減済みセットは、例えば、図1の実施形態に示されているように、サイズM個の主要セットから取得可能なサイズがN個の全ての可能な候補の低減済みセットであってよい。あるいは、候補の低減済みセットは、主要セットから取得可能な、予め低減された数の全ての可能な候補の低減済みセットであってよい。
図3は、本発明の実施形態に係る方法を示し、特に、ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するための方法300を示す。方法は、選択可能な露光時間の主要セット104と、主要セット104のそれぞれのサブセットである複数の候補の低減済みセット105とを記憶する段階301を備える。方法は、主要セット104の各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階302を備える。方法は、候補の低減済みセット105ごとに、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像201、202、203を選択する段階303と、選択されたキャリブレーション画像201、202、203の強度に応じて、スコア値を計算する段階304とを備える。方法は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセット105の中から、候補の低減済みセット110を選択する段階305を備える。方法は、HDR画像を取得するために、選択された候補の低減済みセット110の各露光時間においてそれぞれ、複数の画像の捕捉を制御する段階306を備える。本発明の特定の実施形態において、キャリブレーション画像201、202、203は、チャネルを有する。この実施形態において、計算ユニット107は、候補の低減済みセット105ごとに、ブロック位置を画定するグリッドに従って、各選択されたキャリブレーション画像201、202、203のチャネルを画素ブロック1,1...1,6;2,1...2,6;N,1...N,6に分割することによって、選択されたキャリブレーション画像201、202、203のチャネルの強度に応じて、スコア値を計算するよう適合される。図2の実施形態において、各キャリブレーション画像201、202、203は、6つのブロック位置を画定するグリッドに分割される。例えば、露光時間t1において捕捉されているキャリブレーション画像201は、グリッドにより画定された6個の画素ブロック1,1、1,2、1,3、1,4、1,5、1,6を含む。グリッドは、好ましくは、全ての候補画像のための共通サイズを有する。図2の実施形態いおいて、グリッドサイズは、2×3の画素ブロックである。図2に示されているグリッドが長方形の形状を有する一方、非長方形のグリッドが用いられてもよい。計算ユニット107は、各選択されたキャリブレーション画像201、202、203のチャネルの画素ブロックごとに、画素ブロック1,1...1,6;2,1...2,6;N,1...N,6における画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロック1,1...1,6;2,1...2,6;N,1...N,6に関連付けるよう適合される。計算ユニット107は、ブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像201、202、203のチャネルの画素ブロックを含むブロックスタック204、205、206を画定するよう適合される。
例えば、図2は、グリッドの左上のブロック位置が、キャリブレーション画像201の画素ブロック1,1に対応することを示す。このブロック位置は、キャリブレーション画像202の画素ブロック2,1にも対応し、キャリブレーション画像203における画素ブロックN,1にも対応する。これらの画素ブロック1,1 2,1...N,1は共にブロックスタック204を形成し、図2において「3Dブロックスタック1」とも称される。同様に、ブロックスタック205は、全てのキャリブレーション画像201、202、203の上中央の位置に位置する画素ブロック1,2 2,2...N,2を含む。示されているブロックスタック206は、グリッドにより画定された右下のブロック位置に位置する画素ブロック1,6 2,6 N,6を含む。言い換えれば、ブロック位置ごとに、全ての対応する画素ブロックが収集されてそれぞれの3Dブロックスタック204、205、206としてバンドルされる。
図2において、各画素ブロックは、ペア(m,b)により表れ、ここで、bは、具体的なキャリブレーション画像mのブロック位置を画定する。値mは、キャリブレーション画像インデックスであり、すなわち、各キャリブレーション画像が捕捉されている1つの露光時間に対応するので、mは、露光時間インデックスでもある。値bは、ブロック位置インデックスであり、ここで、図2において用いられているグリッドは、b=6のブロック位置であることを画定し、b=1〜6である。図2は、N個の画像の1つの候補の低減済みセット、および、ブロック位置bごとのサイズN個の対応するb=6のブロックスタックを示す。計算ユニット107は、ブロックスタック204、205、206ごとに、ブロックスタックを形成する画素ブロックに関連付けられた強度依存の値の最適値、特に最大値を識別するよう適合される。計算ユニット107は、チャネルのブロックスタック204、205、206ごとに識別された最適値、特に最大値に基づいて、候補の低減済みセット105のチャネルスコア値を計算するよう適合される。ここで、チャネルスコア値は、スコア値に対応する。代替的な本発明の実施形態において、キャリブレーション画像201、202、203は、複数のチャネルを有する。この実施形態において、各選択されたキャリブレーション画像201、202、203の各チャネルは、画素ブロック1,1...1,6;2,1...2,6;N,1...N,6に分割され、強度依存の値は、各チャネルの画素ブロックごとに計算され、画素ブロックに関連付けられる。
そして、ブロックスタック204、205、206は、各チャネルのブロック位置ごとに画定され、強度依存の値の最適値、特に最大値は、ブロックスタック204、205、206ごとに識別される。そして、チャネルごとに、候補の低減済みセットのチャネルスコア値は、チャネルのブロックスタックごとに、識別された最適値、特に最大値に基づいて、計算される。最後に、スコア値は、各チャネルのそれぞれのチャネルスコア値に応じて、例えば、各チャネルのそれぞれのチャネルスコア値を組み合わせることによって、または各チャネルのチャネルスコア値のうち最適のチャネルスコアを選択することによって、計算される。
図4は、本発明のさらなる実施形態、特に、HDR動作モード中に用いられるべき候補の低減済みセット110を選択するためのHDRキャリブレーションモードの実施形態に係る方法を示す。まず、M個のキャリブレーション画像が、異なる露光時間において、すなわち、主要セット104に含まれるM個の異なる露光時間において、捕捉される401。そして、全てのキャリブレーション画像は、グレースケール画像に変換され402、すなわち、キャリブレーション画像は、グレースケールチャネルの形式で単一チャネルを有するキャリブレーション画像に変換される。露光時間の次の候補の低減済みセットが選択され403、選択された候補の低減済みセットのスコア値が計算され404、バッファされる405。全ての低減済み候補セットが選択されている/テストされているかのテストが行われる406。答えが否である場合とすれば、次の候補の低減済みセットが選択される場合である。答えが、全ての候補の低減済みセットが選択されている/テストされているという場合、処理は、HDR動作モードに対する最良のスコアを有する候補の低減済みセットを選択する/出す407という最終段階へと進む。
図4は、最良の低減済みセットを選択するためにこれらのスコア値を取得すべく、候補の低減済みセットの連続またはループ処理を示す。代替的な実施形態において、スコア値を計算する段階404は、全てまたは一部の候補の低減済みセットについて並行して実行されてよく、ここで、最良の候補の低減済みセットは、図5の実施形態においてより詳細に説明されるように、例えば、もしスコアがエントロピに基づいて決定される場合に最大スコアを有する低減済み候補セットの選択などの選択基準に基づいて、選択される。
図5は、本発明の実施形態に係るスコア値を計算する段階304、404を示す。計算は候補の低減済みセット105について実行され、このことは、図5において示され、計算の入力は、候補の低減済みセット105の、数がN個(N<M)の選択されたキャリブレーション画像である。これらのキャリブレーション画像は、事実上、候補の低減セット105の露光時間において捕捉されたキャリブレーション画像に対応する。図5の実施形態において、キャリブレーション画像は、グレースケール画像の形式であり、すなわち、それらは、単一チャネル画像に変換される。第1の段階において、ヒストグラムが、入力されたキャリブレーション画像のそれぞれの画素ブロックまたはグリッドブロックごとに計算される501。ヒストグラムは、当該画素ブロックの画素強度のヒストグラムであり、画素ブロック内の強度iを有する画素hの数を記述する。第2の段階において、各画素ブロックのエントロピ値Em,bが、当該画素ブロックの画素強度のヒストグラムに基づいて計算される502。エントロピ値は、画素ブロックごとに計算される強度依存の値に対応する。ヒストグラムは、以下の数式に従って、各キャリブレーション画像mおよび画素ブロックbのエントロピ値を計算するために用いられてよい。
Figure 2019501567
ここで、bは、ブロックインデックスであり、mは画像インデックスであり、pは、画素強度iの発生確率であり、例えば、i=0,・・・,255である。
確率pは、画像強度のヒストグラムから直接計算される。
Figure 2019501567
第3の段階において、最大エントロピが、ブロックスタック204、205、206ごとに計算される503。このことは、例えば、ブロックスタック内の各画素ブロックのエントロピを計算し、各画素ブロックのこれらの計算されたエントロピ値のうち最大エントロピを選択することによって達成される。最大エントロピは、特定のキャリブレーション画像mに対して与えられる。
その結果、各画素ブロックスタックbには、最大エントロピが割り当てられる。
Figure 2019501567
第4の段階において、全てのブロックスタックの対数の和が計算され504、このことは、低減済みセット候補のチャネルスコア値を出し、低減済みセット候補の当該チャネルスコア値は、計算ユニット107により計算304されたスコア値に対応する。
Figure 2019501567
この段階の利点は、チャネルスコア値を計算するとき、数値不安定性が回避され得ることである。第4の段階の代替的なアプローチが、全てのブロックスタック204、205、206の全ての最大エントロピ値の積を計算することを含んでよい。 そして、最良の、すなわち、最大のチャネルスコア値を有する候補の低減済みセットが、解決手段として、すなわち、HDR動作モードのために用いられるべき候補の低減済みセットとして、選択される307。説明されているこのHDRキャリブレーションモードを完了していた後に、露光時間の選択された候補の低減済みセットが、HDR動作モードのために、例えば、実際のHDR処理のために、N個の露光時間の固定されたセットとして選択される。任意選択的に、HDRキャリブレーションモードで捕捉されたキャリブレーション画像は、HDR処理のためのHDR動作モードにおいて用いられてもよい。例えば、全てのM個のキャリブレーション画像、または、露光時間の選択された候補の低減済みセットに対応するN個のキャリブレーション画像のみが、HDR動作モードにおいて用いられてよい。そのようなモードは、組み合わせられたキャリブレーション/動作モードであってよい。
第2の段階において、エントロピ値が計算されている502。代替的なアプローチにおいて、およびエントロピを計算する代わりに、以下の数式に従って、分散値vを計算することが提供される。
Figure 2019501567
ここで、XおよびYは、画素ブロックのサイズ、例えば、それらの幅および高さであり、i(x,y)は、画素ブロック内の画素位置(x,y)においける画素強度であり、aは、画素ブロック内の平均画素強度値である。
図5の実施形態は、グレースケール画像の形式の単一チャネルキャリブレーション画像に対するチャネルスコア値の計算を含む。あるいは、キャリブレーション画像は、カラー画像のように、例えば、RGB画像などのマルチチャネル画像であってもよい。そのような場合、チャネルスコア値をチャネルごとに独立に計算し、全てのチャネルのチャネルスコア値を合計して、計算ユニット107により計算304されたスコア値を作成する。本発明は、例ならびに実装方式として様々な実施形態とともに説明されている。
しかしながら、当業者および特許請求の範囲に記載の発明を実施する者により、図面、本開示、および独立請求項の検討から、他の変形が理解および実現され得る。特許請求の範囲において、ならびに説明において、「備え」という用語は、他のエレメントまたは段階を除外するものではなく、一(「a」または「an」)という不定冠詞は、複数を除外するものではない。
単一エレメントまたは他のユニットは、特許請求の範囲において列挙されているいくつかのエンティティまたはアイテムの機能を実現し得る。特定の測定が相互に異なる従属請求項において列挙されているという単なる事実は、これらの測定の組み合わせは有利な実装において用いられることができないことを示すものではない。
本発明は、ハイダイナミックレンジイメージング(HDRI)およびビデオを向上させるテーマに取り組む。ハイダイナミックレンジHDRとは、スマートフォンおよびカメラなどの、現在および将来の画像およびビデオ捕捉デバイスの品質を向上させる重要な方法である。HDRIは、一般には、異なって露光された画像を捕捉して、それらをHDR画像にマージすることによって実現される。異なる露光セットおよび捕捉された対応画像が多ければ多いほど、最終HDR画像の品質がより良好となる。
本発明の第1の態様は、ハイダイナミックレンジHDR画像を取得するために複数の画像の捕捉を制御するよう適合されるデバイスを提供する。デバイスは、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶するよう適合される記憶ユニットを備える。デバイスは、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御するよう適合されるキャリブレーション制御ユニットを備える。デバイスは、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合される計算ユニットを備える。デバイスは、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセットの中から、候補の低減済みセットを選択するよう適合される選択ユニットを備える。デバイスは、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御するよう適合されるHDR制御ユニットを備える。
本発明の第3の態様は、ハイダイナミックレンジHDR画像を取得するために、複数の画像の捕捉を制御するための方法を提供する。方法は、選択可能な露光時間の主要セットと、主要セットのそれぞれのサブセットである複数の候補の低減済みセットとを記憶する段階を備える。方法は、主要セットの各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階を備える。方法は、候補の低減済みセットごとに、候補の低減済みセットの露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算する段階を備える。方法は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセットの中から、候補の低減済みセットを選択する段階を備える。方法は、HDR画像を取得するために、選択された候補の低減済みセットの各露光時間においてそれぞれ、複数の画像の捕捉を制御する段階を備える。
図1は、本発明の実施形態に係るシステム100を示す。システム100は、本発明の実施形態に係るデバイス102を備える。本発明の実施形態に係るデバイス102は、ハイダイナミックレンジHDR画像を取得するために複数の画像の捕捉を制御するよう適合される。デバイス102は、選択可能な露光時間の主要セット104と、主要セット104のそれぞれのサブセットである複数の候補の低減済みセット105とを記憶するよう適合される記憶ユニット103を備える。 デバイス102は、主要セット104の各露光時間においてそれぞれキャリブレーション画像の捕捉を制御するよう適合されるキャリブレーション制御ユニット106を備える。デバイス102は、候補の低減済みセット105ごとに、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像を選択し、選択されたキャリブレーション画像の強度に応じて、スコア値を計算するよう適合される計算ユニット107を備える。デバイス102は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセット105の中から、候補の低減済みセット110を選択するよう適合される選択ユニット108を備える。デバイス102は、HDR画像を取得するために、選択された候補の低減済みセット110の各露光時間においてそれぞれ、複数の画像の捕捉を制御するよう適合されるHDR制御ユニット109を備える。本発明の実施形態に係るシステム100は、デバイス102、ならびに、HDR画像処理ユニット111および少なくとも1つのカメラ101を備える。システム100において、キャリブレーション制御ユニット106は、当該少なくとも1つのカメラ101によるキャリブレーション画像の捕捉を制御するよう適合される。HDR制御ユニット109は、当該少なくとも1つのカメラ101による複数の画像の捕捉を制御するよう適合される。HDR画像処理ユニット111は、HDR画像を取得すべく、複数の画像をマージするよう適合される。図1に示されているシステム100は、単一カメラ101を備え、カメラに対して2つまたはそれよりも多くの露光時間を決定するために用いられてよく、これにより、HDR画像は、選択された候補の低減済みセット110により画定された露光時間のみにおいてこの単一カメラ101のみにより捕捉された画像から取得され得る。あるいは、システムは、1つより多くのカメラを備えるマルチカメラシステムであってよく、これにより、HDR画像は、複数のカメラにより捕捉された画像から取得され得る。ここで、選択された候補の低減済みセット110により画定された各露光時間は、1つのカメラのみに割り当てられ得る。本発明の単一カメラまたはマルチカメラシステムは、2Dまたは3DイメージングによってHDR画像を取得するために用いられ得る。
図3は、本発明の実施形態に係る方法を示し、特に、ハイダイナミックレンジHDR画像を取得するために複数の画像の捕捉を制御するための方法300を示す。方法は、選択可能な露光時間の主要セット104と、主要セット104のそれぞれのサブセットである複数の候補の低減済みセット105とを記憶する段階301を備える。方法は、主要セット104の各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階302を備える。方法は、候補の低減済みセット105ごとに、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像201、202、203を選択する段階303と、選択されたキャリブレーション画像201、202、203の強度に応じて、スコア値を計算する段階304とを備える。方法は、全ての候補の低減済みセットの計算されたスコア値に基づいて、複数の候補の低減済みセット105の中から、候補の低減済みセット110を選択する段階305を備える。方法は、HDR画像を取得するために、選択された候補の低減済みセット110の各露光時間においてそれぞれ、複数の画像の捕捉を制御する段階306を備える。本発明の特定の実施形態において、キャリブレーション画像201、202、203は、チャネルを有する。この実施形態において、計算ユニット107は、候補の低減済みセット105ごとに、ブロック位置を画定するグリッドに従って、各選択されたキャリブレーション画像201、202、203のチャネルを画素ブロック1,1...1,6;2,1...2,6;N,1...N,6に分割することによって、選択されたキャリブレーション画像201、202、203のチャネルの強度に応じて、スコア値を計算するよう適合される。図2の実施形態において、各キャリブレーション画像201、202、203は、6つのブロック位置を画定するグリッドに分割される。例えば、露光時間t1において捕捉されているキャリブレーション画像201は、グリッドにより画定された6個の画素ブロック1,1、1,2、1,3、1,4、1,5、1,6を含む。グリッドは、好ましくは、全ての候補画像のための共通サイズを有する。図2の実施形態いおいて、グリッドサイズは、2×3の画素ブロックである。図2に示されているグリッドが長方形の形状を有する一方、非長方形のグリッドが用いられてもよい。計算ユニット107は、各選択されたキャリブレーション画像201、202、203のチャネルの画素ブロックごとに、画素ブロック1,1...1,6;2,1...2,6;N,1...N,6における画素強度に依存する強度依存の値を計算し、強度依存の値を画素ブロック1,1...1,6;2,1...2,6;N,1...N,6に関連付けるよう適合される。計算ユニット107は、ブロック位置ごとに、当該ブロック位置における各選択されたキャリブレーション画像201、202、203のチャネルの画素ブロックを含むブロックスタック204、205、206を画定するよう適合される。
図4は、本発明のさらなる実施形態、特に、HDR動作モード中に用いられるべき候補の低減済みセット110を選択するためのHDRキャリブレーションモードの実施形態に係る方法を示す。まず、M個のキャリブレーション画像が、異なる露光時間において、すなわち、主要セット104に含まれるM個の異なる露光時間において、捕捉される401。そして、全てのキャリブレーション画像は、グレースケール画像に変換され402、すなわち、キャリブレーション画像は、グレースケールチャネルの形式で単一チャネルを有するキャリブレーション画像に変換される。露光時間の次の候補の低減済みセットが選択され403、選択された候補の低減済みセットのスコア値が計算され404、バッファされる405。全ての低減済み候補セットが選択されている/テストされているかのテストが行われる406。答えが否である場合とすれば、次の候補の低減済みセットが選択され。答えが、全ての候補の低減済みセットが選択されている/テストされているという場合、処理は、HDR動作モードに対する最良のスコアを有する候補の低減済みセットを選択する/出す407という最終段階へと進む。
図5は、本発明の実施形態に係るスコア値を計算する段階304、404を示す。計算は候補の低減済みセット105について実行され、このことは、図5において示され、計算の入力は、候補の低減済みセット105の、数がN個(N<M)の選択されたキャリブレーション画像である。これらのキャリブレーション画像は、事実上、候補の低減済みセット105の露光時間において捕捉されたキャリブレーション画像に対応する。図5の実施形態において、キャリブレーション画像は、グレースケール画像の形式であり、すなわち、それらは、単一チャネル画像に変換される。第1の段階において、ヒストグラムが、入力されたキャリブレーション画像のそれぞれの画素ブロックまたはグリッドブロックごとに計算される501。ヒストグラムは、当該画素ブロックの画素強度のヒストグラムであり、画素ブロック内の強度iを有する画素hの数を記述する。第2の段階において、各画素ブロックのエントロピ値Em,bが、当該画素ブロックの画素強度のヒストグラムに基づいて計算される502。エントロピ値は、画素ブロックごとに計算される強度依存の値に対応する。ヒストグラムは、以下の数式に従って、各キャリブレーション画像mおよび画素ブロックbのエントロピ値を計算するために用いられてよい。
Figure 2019501567
ここで、bは、ブロックインデックスであり、mは画像インデックスであり、pは、画素強度iの発生確率であり、例えば、i=0,・・・,255である。

Claims (15)

  1. ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するよう適合されるデバイス(102)であって、前記デバイスは、
    選択可能な露光時間の主要セット(104)と、前記主要セット(104)のそれぞれのサブセットである複数の候補の低減済みセット(105)とを記憶するよう適合される記憶ユニット(103)と、
    前記主要セット(104)の各露光時間においてそれぞれ、キャリブレーション画像の捕捉(401)を制御するよう適合されるキャリブレーション制御ユニット(106)と、
    候補の低減済みセット(105)ごとに、前記候補の低減済みセット(105)の前記露光時間において捕捉された前記キャリブレーション画像(201、202、203)を選択(403)し、前記選択されたキャリブレーション画像(201、202、203)の強度に応じてスコア値を計算(404)するよう適合される計算ユニット(107)と、
    全ての候補の低減済みセットの前記計算されたスコア値に基づいて前記複数の候補の低減済みセット(105)の中から、候補の低減済みセット(110)を選択(407)するよう適合される選択ユニット(108)と、
    前記HDR画像を取得するために、前記選択された候補の低減済みセット(110)の各露光時間においてそれぞれ、前記複数の画像の前記捕捉を制御するよう適合されるHDR制御ユニット(109)と
    を備える
    デバイス。
  2. 前記キャリブレーション画像は、チャネルを有し、
    前記計算ユニット(107)は、
    ブロック位置を画定するグリッドに従って、各選択されたキャリブレーション画像(201、202、203)の前記チャネルを、画素ブロック(1,1...1,6;2,1...2,6;N,1...N,6)に分割することと、
    各選択されたキャリブレーション画像(201、202、203)の前記チャネルの画素ブロックごとに、前記画素ブロックにおける画素強度に依存する強度依存の値(Em,b,v2)を計算(502)し、前記強度依存の値を前記画素ブロックに関連付けることと、
    ブロック位置ごとに、前記ブロック位置における各選択されたキャリブレーション画像(201、202、203)の前記チャネルの前記画素ブロック(1,1;2,1...N,1)を含むブロックスタック(204、205、206)を画定することと、
    ブロックスタック(204、205、206)ごとに、前記ブロックスタックを形成する前記画素ブロックに関連付けられた前記強度依存の値(Em,b,v2)の最適値(Ebmax)を識別(503)することと、
    前記チャネルのブロックスタック(204、205、206)ごとに識別された前記最適値に基づいて前記候補の低減済みセット(105)のチャネルスコア値を計算(504)することとによって、
    候補の低減済みセット(105)ごとに、前記選択されたキャリブレーション画像(201、202、203)の前記チャネルの強度に応じて前記スコア値を計算(404)するよう適合され、
    前記チャネルスコア値は、前記スコア値である、請求項1に記載のデバイス。
  3. 前記キャリブレーション画像は、単一チャネルを有する単一チャネル画像であり、または、前記デバイスは、前記キャリブレーション画像を、単一チャネルを有する単一チャネル画像に変換するよう適合される変換ユニットを備える、請求項2に記載のデバイス。
  4. 前記キャリブレーション画像は、複数のチャネルを有し、
    前記計算ユニット(107)は、
    ブロック位置を画定するグリッドに従って、各選択されたキャリブレーション画像(201、202、203)の各チャネルを画素ブロック(1,1...1,6;2,1...2,6;N,1...N,6)に分割することと、
    各選択されたキャリブレーション画像(201、202、203)の各チャネルの画素ブロックごとに、前記画素ブロックの画素強度に依存する強度依存の値(Em,b,v2)を計算(502)し、前記強度依存の値を前記画素ブロックに関連付けることと、
    チャネルごとおよびブロック位置ごとに、前記ブロック位置における各選択されたキャリブレーション画像(201、202、203)の前記チャネルの前記画素ブロック(1,1;2,1...N,1)を含むブロックスタック(204、205、206)を画定することと、
    ブロックスタック(204、205、206)ごとに、前記ブロックスタックを形成する前記画素ブロックに関連付けられた前記強度依存の値(Em,b,v)の最適値(Ebmax)を識別(503)することと、
    チャネルごとに、前記チャネルのブロックスタック(204、205、206)ごとに識別された前記最適値に基づいて前記候補の低減済みセット(105)のチャネルスコア値を計算(504)することと、
    各チャネルのそれぞれの前記チャネルスコア値に応じて、前記スコア値を計算することとによって、
    候補の低減済みセット(105)ごとに、前記選択されたキャリブレーション画像(201、202、203)の前記チャネルの強度に応じて前記スコア値を計算(404)するよう適合される、請求項1に記載のデバイス。
  5. 前記キャリブレーション画像はマルチチャネル画像であり、
    前記スコア値は、各チャネルのそれぞれの前記チャネルスコア値を組み合わせることによって、または各チャネルの前記チャネルスコア値のうち最適のチャネルスコアを選択することによって、計算される、請求項4に記載のデバイス。
  6. 前記計算ユニット(107)は、
    前記画素ブロックの前記画素強度のヒストグラムを計算(501)することと、
    前記画素ブロックの前記画素強度の前記ヒストグラムに基づいて前記画素ブロックの、前記強度依存の値に対応するエントロピ値(Em,b)を計算(502)することとによって、
    前記画素ブロックにおける前記画素強度に依存する前記強度依存の値(Em,b,v)を計算(502)するよう適合される、請求項2から5のいずれか一項に記載のデバイス。
  7. 前記画素ブロックの前記エントロピ値は、以下の数式
    Figure 2019501567
    に従って、計算され、
    はキャリブレーション画像mの画素ブロックbにおける画素強度iの発生確率であり、bはブロックインデックスであり、mは画像インデックスである、請求項6に記載のデバイス。
  8. 前記計算ユニット(107)は、
    前記画素ブロックの画素強度の分散値(v)を計算することによって、
    前記画素ブロックの前記画素強度に依存する前記強度依存の値を計算(502)するよう適合される、請求項2から5のいずれか一項に記載のデバイス。
  9. 前記画素ブロックの前記画素強度の前記分散値は、以下の数式
    Figure 2019501567
    に従って、計算され、
    XおよびYは前記画素ブロックのサイズであり、i(x,y)は前記画素ブロック内の画素位置(x,y)における画素強度であり、aは前記画素ブロック内の平均画素強度値である、請求項8に記載のデバイス。
  10. 前記計算ユニット(107)は、
    前記ブロックスタックを形成する前記画素ブロックに関連付けられた前記強度依存の値(Em,b,v2)の最大値(Ebmax)を識別することによって、
    前記ブロックスタックを形成する前記画素ブロックに関連付けられた前記強度依存の値(Em,b,v)の前記最適値(E max)を識別(503)するよう適合され、
    前記計算ユニット(107)は、
    前記チャネルのブロックスタック(204、205、206)ごとにそれぞれ識別された前記最大値(E max)、またはそれらから導出された値を加算する、または乗算することによって、
    前記チャネルのブロックスタック(204、205、206)ごとに識別された前記最適値に基づいて前記候補の低減済みセット(105)の前記チャネルスコア値を計算(504)するよう適合される、請求項2から9のいずれか一項に記載のデバイス。
  11. 前記グリッドにより画定された前記ブロック位置は、隣接するか、または重なる、
    請求項2から10のいずれか一項に記載のデバイス。
  12. 前記複数の候補の低減済みセット(105)は、予め画定された、またはユーザにより画定される共通サイズを有する、
    請求項1から11のいずれか一項に記載のデバイス。
  13. 請求項1から12のいずれか一項に記載のデバイス(102)と、HDR画像処理ユニット(111)と、少なくとも1つのカメラ(101)とを備えるシステム(100)であって、
    前記キャリブレーション制御ユニット(106)は、前記少なくとも1つのカメラ(101)による前記キャリブレーション画像の前記捕捉(401)を制御するよう適合され、
    前記HDR制御ユニット(109)は、前記少なくとも1つのカメラ(101)による前記複数の画像の前記捕捉を制御するよう適合され、
    前記HDR画像処理ユニット(111)は、前記複数の画像をマージして、前記HDR画像を取得するよう適合される、
    システム。
  14. ハイダイナミックレンジ、HDR、画像を取得するために複数の画像の捕捉を制御するための方法(300)であって、前記方法は、
    選択可能な露光時間の主要セット(104)と、前記主要セット(104)のそれぞれのサブセットである複数の候補の低減済みセット(105)とを記憶する段階(301)と、
    前記主要セット(104)の各露光時間においてそれぞれ、キャリブレーション画像の捕捉を制御する段階(302)と、
    候補の低減済みセット(105)ごとに、前記候補の低減済みセット(105)の前記露光時間において捕捉された前記キャリブレーション画像(201、202、203)を選択(303)し、前記選択されたキャリブレーション画像(201、202、203)の強度に応じてスコア値を計算(304)する段階と、
    全ての候補の低減済みセットの前記計算されたスコア値に基づいて前記複数の候補の低減済みセット(105)の中から候補の低減済みセット(110)を選択(305)する段階と、
    前記HDR画像を取得するために、前記選択された候補の低減済みセット(110)の各露光時間においてそれぞれ、前記複数の画像の前記捕捉を制御(306)する段階と
    を備える
    方法。
  15. コンピュータプログラムであって、
    前記コンピュータプログラムがコンピューティングデバイス上で動作したとき、請求項14に記載の方法を実行するためのプログラムコードを有するコンピュータプログラム。
JP2018524287A 2015-11-11 2015-11-11 ハイダイナミックレンジビデオ/イメージングのための、露光時間セットを低減するためのデバイスおよび方法 Active JP6632724B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/EP2015/076290 WO2017080592A1 (en) 2015-11-11 2015-11-11 Device and method for reducing the set of exposure times for high dynamic range video/imaging

Publications (2)

Publication Number Publication Date
JP2019501567A true JP2019501567A (ja) 2019-01-17
JP6632724B2 JP6632724B2 (ja) 2020-01-22

Family

ID=54697543

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018524287A Active JP6632724B2 (ja) 2015-11-11 2015-11-11 ハイダイナミックレンジビデオ/イメージングのための、露光時間セットを低減するためのデバイスおよび方法

Country Status (6)

Country Link
US (1) US10645304B2 (ja)
EP (1) EP3363193B1 (ja)
JP (1) JP6632724B2 (ja)
KR (1) KR102120269B1 (ja)
CN (1) CN108353133B (ja)
WO (1) WO2017080592A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2584907A (en) * 2019-06-21 2020-12-23 Zivid As Method for determining one or more groups of exposure settings to use in a 3D image acquisition process
KR20210035369A (ko) 2019-09-23 2021-04-01 삼성전자주식회사 복수의 이미지 센서들에 의해 획득되는 이미지 데이터에 기초하여 비디오 hdr 처리를 수행하기 위한 전자 장치
CN110636227B (zh) * 2019-09-24 2021-09-10 合肥富煌君达高科信息技术有限公司 高动态范围hdr图像合成方法及集成该方法的高速相机
CN112616013B (zh) * 2020-12-03 2022-03-04 上海龙旗科技股份有限公司 实现自动hdr的方法及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090303347A1 (en) * 2008-06-09 2009-12-10 Jae-Hyun Kwon Method and apparatus for obtaining image using entropy
JP2010220207A (ja) * 2009-02-18 2010-09-30 Olympus Corp 画像処理装置及び画像処理プログラム
JP2014179980A (ja) * 2013-03-14 2014-09-25 Konicaminolta Laboratory Usa Inc 高ダイナミックレンジ画像を生成するために画像のセットからサブセットを選択する方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56121020A (en) 1980-02-26 1981-09-22 Minolta Camera Co Ltd Exposure controller of camera
US7084905B1 (en) * 2000-02-23 2006-08-01 The Trustees Of Columbia University In The City Of New York Method and apparatus for obtaining high dynamic range images
GB2443663A (en) * 2006-07-31 2008-05-14 Hewlett Packard Development Co Electronic image capture with reduced noise
JP4218723B2 (ja) * 2006-10-19 2009-02-04 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
CN101981694B (zh) * 2008-02-25 2016-02-24 Rjs科技公司 用于高动态范围图像传感器感测阵列的系统和方法
US8743235B2 (en) * 2009-11-04 2014-06-03 Board Of Regents, The University Of Texas System Adaptive automatic exposure apparatus and method for digital images
US9706130B2 (en) * 2015-05-28 2017-07-11 Blackberry Limited Camera having HDR during pre-flash

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090303347A1 (en) * 2008-06-09 2009-12-10 Jae-Hyun Kwon Method and apparatus for obtaining image using entropy
JP2010220207A (ja) * 2009-02-18 2010-09-30 Olympus Corp 画像処理装置及び画像処理プログラム
JP2014179980A (ja) * 2013-03-14 2014-09-25 Konicaminolta Laboratory Usa Inc 高ダイナミックレンジ画像を生成するために画像のセットからサブセットを選択する方法

Also Published As

Publication number Publication date
US10645304B2 (en) 2020-05-05
KR20180084851A (ko) 2018-07-25
CN108353133B (zh) 2021-06-15
KR102120269B1 (ko) 2020-06-08
US20180262673A1 (en) 2018-09-13
CN108353133A (zh) 2018-07-31
EP3363193B1 (en) 2024-01-24
EP3363193A1 (en) 2018-08-22
WO2017080592A1 (en) 2017-05-18
JP6632724B2 (ja) 2020-01-22

Similar Documents

Publication Publication Date Title
US8830341B2 (en) Selection of an optimum image in burst mode in a digital camera
US10021313B1 (en) Image adjustment techniques for multiple-frame images
US10645304B2 (en) Device and method for reducing the set of exposure times for high dynamic range video/imaging
KR100983037B1 (ko) 자동 화이트 밸런스 조정 방법
US20170134634A1 (en) Photographing apparatus, method of controlling the same, and computer-readable recording medium
JP5781372B2 (ja) 画像処理装置及び撮像装置
WO2012098768A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置
JP6423088B2 (ja) 対象物の高ダイナミックレンジ合成画像を取得するための顕微鏡および方法
JP2014155001A (ja) 画像処理装置及び画像処理方法
CN112351195B (zh) 图像处理方法、装置和电子系统
JP2021180527A (ja) 画像処理装置
CN112261292B (zh) 图像获取方法、终端、芯片及存储介质
JPWO2017056834A1 (ja) 画像処理装置及び画像処理方法
US20190370949A1 (en) Blending images
TWI694722B (zh) 用於高動態範圍成像的曝光位準控制、系統和方法
JP6624785B2 (ja) 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体
JP2019129446A (ja) 画像処理装置、および画像処理方法、並びにプログラム
CN116055891A (zh) 图像处理方法及其装置
JP4359662B2 (ja) カラー画像の露出補正方法
US20220343529A1 (en) Image signal processing based on virtual superimposition
US20190052803A1 (en) Image processing system, imaging apparatus, image processing apparatus, control method, and storage medium
Kang et al. Bayer patterned high dynamic range image reconstruction using adaptive weighting function
CN111242087A (zh) 物体识别方法及装置
JP2021093694A (ja) 情報処理装置およびその制御方法
JP2015142281A (ja) 被写体探索装置、その制御方法、および制御プログラム、並びに撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180613

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180613

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191210

R150 Certificate of patent or registration of utility model

Ref document number: 6632724

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250