JP2010231756A - Hdr画像生成方法および同方法を用いる電子デバイス - Google Patents

Hdr画像生成方法および同方法を用いる電子デバイス Download PDF

Info

Publication number
JP2010231756A
JP2010231756A JP2009204709A JP2009204709A JP2010231756A JP 2010231756 A JP2010231756 A JP 2010231756A JP 2009204709 A JP2009204709 A JP 2009204709A JP 2009204709 A JP2009204709 A JP 2009204709A JP 2010231756 A JP2010231756 A JP 2010231756A
Authority
JP
Japan
Prior art keywords
pixel
eigenvalue
original image
training images
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009204709A
Other languages
English (en)
Inventor
Chao-Chun Lin
林照鈞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Micro Star International Co Ltd
Original Assignee
Micro Star International Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Micro Star International Co Ltd filed Critical Micro Star International Co Ltd
Publication of JP2010231756A publication Critical patent/JP2010231756A/ja
Pending legal-status Critical Current

Links

Classifications

    • G06T5/92
    • G06T5/60
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Abstract

【課題】高ダイナミックレンジ画像生成方法および同方法を用いる電子デバイスを提供すること。
【解決手段】この方法は、ニューラルネットワークアルゴリズムによって生成された輝度調整モデルをロードするステップと、オリジナル画像を得るステップと、オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得するステップと、オリジナル画像の画素固有値、第1の固有値、および第2の固有値に従って輝度調整モデルによってHDR画像を生成するステップとを含む。この電子デバイスは、輝度調整モデル、固有値取得ユニット、および輝度調整プロシージャを含む。この電子デバイスは、固有値取得ユニットによってオリジナル画像の画素固有値、第1の固有値、および第2の固有値を取得し、輝度調整モデルによってオリジナル画像からHDR画像を生成する。
【選択図】図3

Description

本発明は、画像処理方法および同方法を用いる電子デバイスに関し、より詳細には、高ダイナミックレンジ(HDR)画像生成方法および同方法を用いる電子デバイスに関する。
光を検出するとき、人間の目の視覚系は、周囲光の分布に従ってその感度を調整する。したがって、人間の目は、明るすぎるかまたは暗すぎる環境に対して、数分の調整の後に適合することができる。現在、ビデオカメラ、カメラ、一眼レフカメラ、およびウェブカメラなどの画像ピックアップ装置の作動原理は似ており、ピンホール結像の原理に基づいて、取り込んだ画像がレンズを介して検出部に投影される。しかし、フィルム、電荷結合素子センサ(CCDセンサ)、および相補型金属酸化膜半導体センサ(CMOSセンサ)などの感光性素子の感光性範囲は、人間の目のそれとは異なり、画像に対して自動的に調整することができない。したがって、取り込んだ画像には、通常、明るすぎるかまたは暗すぎる部分がある。図1は、ダイナミックレンジが不十分な画像の概略図である。画像10は、通常のデジタルカメラによって取り込まれた、ダイナミックレンジが不十分な画像である。図1で、画像ブロック12の左下角は暗すぎるが、一方、画像ブロック14の右上角は明るすぎる。そのような場合、左下角の画像ブロック12内の木および家の詳細は、この領域が暗すぎるのではっきり見ることができない。
従来技術では、上記の問題を解決するために高ダイナミックレンジ(HDR)画像が採用される。HDR画像は、様々な露出設定を用いて様々な感光度で同一領域の画像を取り込み、次いで、取り込んだ画像を、人間の目で見て具合のよい画像へ合成することにより形成される。図2は、複数の画像をHDR画像へ合成する様子の概略図である。HDR画像20は、複数の画像21、23、25、27、および29を様々な光感度で合成することにより形成される。この方法は優れた効果を達成するが、明白な欠点もある。まず、取り込まれた各画像の位置は正確でなければならず、いかなる誤差によっても合成が困難になる恐れがある。その上、諸画像を取り込むとき、必要な記憶空間が、単一フレームから複数フレームへと増加する。さらに、合成するのに要する時間も考えられる。したがって、この方法は、時間がかかり、記憶空間を浪費し、かつ間違いが起き易い。
本発明は、上記問題を解決するために、ニューラルネットワークアルゴリズムによって訓練された輝度調整モデルによってオリジナル画像からHDR画像を生成することができる高ダイナミックレンジ(HDR)画像生成方法である。
本発明は、HDR画像生成方法を提供する。この方法は、ニューラルネットワークアルゴリズムによって生成された輝度調整モデルをロードするステップと、オリジナル画像を得るステップと、オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得するステップと、オリジナル画像の画素固有値、第1の固有値、および第2の固有値に従って輝度調整モデルによってHDR画像を生成するステップとを含む。
第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。
オリジナル画像の画素固有値は次式で計算され、
ここで、C1はオリジナル画像の画素固有値であり、Nはオリジナル画像の水平方向の画素の合計数であり、Mはオリジナル画像の垂直方向の画素の合計数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
オリジナル画像の第1の固有値は次式で計算され、
ここで、
はオリジナル画像の第1の固有値であり、xはオリジナル画像の第1の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jはオリジナル画像の第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
オリジナル画像の第2の固有値は次式で計算され、
ここで、
はオリジナル画像の第2の固有値であり、yはオリジナル画像の第2の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)はオリジナル画像の第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
輝度調整モデルは外部デバイスで生成される。生成プロセスは、複数の訓練画像をロードするステップと、諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得し、ニューラルネットワークアルゴリズムによって輝度調整モデルを生成するステップとを含む。
第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。
諸訓練画像のそれぞれの画素固有値は次式で計算され、
ここで、C1は諸訓練画像のそれぞれの画素固有値であり、Nは諸訓練画像のそれぞれの水平方向の画素の合計数であり、Mは諸訓練画像のそれぞれの垂直方向の画素の合計数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
諸訓練画像のそれぞれの第1の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第1の固有値であり、xは諸訓練画像のそれぞれの第1の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jは諸訓練画像のそれぞれの第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
諸訓練画像のそれぞれの第2の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第2の固有値であり、yは諸訓練画像のそれぞれの第2の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)は諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
ニューラルネットワークアルゴリズムは、逆伝播ニューラルネットワーク(BNN)アルゴリズム、ラジアル基底関数(RBF)アルゴリズム、または自己組織化マップ(SOM)アルゴリズムである。
HDR画像を生成するための電子デバイスは、輝度調整モデルによってオリジナル画像に対して輝度調整を実行するように適合させる。電子デバイスは、輝度調整モデル、固有値取得ユニット、および輝度調整プロシージャを含む。輝度調整モデルは、ニューラルネットワークアルゴリズムによって生成される。固有値取得ユニットは、オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得する。輝度調整プロシージャは、オリジナル画像の画素固有値、第1の固有値、および第2の固有値に従って輝度調整モデルによってHDR画像を生成するために、輝度調整モデルおよび固有値取得ユニットに接続される。
第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。
オリジナル画像の画素固有値は次式で計算され、
ここで、C1はオリジナル画像の画素固有値であり、Nはオリジナル画像の水平方向の画素の合計数であり、Mはオリジナル画像の垂直方向の画素の合計数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
オリジナル画像の第1の固有値は次式で計算され、
ここで、
はオリジナル画像の第1の固有値であり、xはオリジナル画像の第1の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jはオリジナル画像の第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
オリジナル画像の第2の固有値は次式で計算され、
ここで、
はオリジナル画像の第2の固有値であり、yはオリジナル画像の第2の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)はオリジナル画像の第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
輝度調整モデルは外部デバイスで生成される。生成プロセスは、複数の訓練画像をロードするステップと、諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得し、ニューラルネットワークアルゴリズムによって輝度調整モデルを生成するステップとを含む。
第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。
諸訓練画像のそれぞれの画素固有値は次式で計算され、
ここで、C1は諸訓練画像のそれぞれの画素固有値であり、Nは諸訓練画像のそれぞれの水平方向の画素の合計数であり、Mは諸訓練画像のそれぞれの垂直方向の画素の合計数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
諸訓練画像のそれぞれの第1の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第1の固有値であり、xは諸訓練画像のそれぞれの第1の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jは諸訓練画像のそれぞれの第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
諸訓練画像のそれぞれの第2の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第2の固有値であり、yは諸訓練画像のそれぞれの第2の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)は諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
ニューラルネットワークアルゴリズムは、BNNアルゴリズム、RBFアルゴリズム、またはSOMアルゴリズムである。
本発明のHDR画像生成方法および電子デバイスによれば、HDR画像は、ニューラルネットワークアルゴリズムによって訓練された輝度調整モデルにより、単一画像から生成することができる。それによって、複数の画像を取り込むのに要する時間が短縮され、また、取り込んだ画像を保存するための空間が縮小される。一方、複数の画像を単一画像へ合成する時間が短縮される。
本明細書で説明のためにのみ与えられ、したがって本発明を限定するものではない以下の詳細な説明から、本発明がより十分に理解されるであろう。
ダイナミックレンジが不十分な画像の概略図である。 複数の画像をHDR画像へ合成する様子の概略図である。 本発明の一実施形態によるHDR画像生成方法の流れ図である。 本発明の一実施形態による輝度調整モデル生成の流れ図である。 本発明の別の実施形態によるHDR画像生成用電子デバイスのアーキテクチャの概略図である。 本発明の別の実施形態による輝度調整モデル生成の流れ図である。 本発明の一実施形態によるBNNアルゴリズムを説明する概略図である。
本発明の、HDR画像生成方法は、画像を取り込むことができる電子デバイスに適用される。この方法は、ソフトウェアまたはファームウェアプログラムの形式で電子デバイスの記憶ユニット内に構築することができ、電子デバイスのプロセッサにより、その画像を取り込む機能を用いる一方で内蔵ソフトウェアまたはファームウェアプログラムを実行するやり方で実施することができる。電子デバイスは、デジタルカメラ、コンピュータ、携帯電話、または画像を取り込むことができる携帯情報端末(PDA)でよいが、これらには限定されない。
図3は、本発明の一実施形態によるHDR画像生成方法の流れ図である。この方法は以下のステップを含む。
ステップS100で、ニューラルネットワークアルゴリズムによって生成された輝度調整モデルがロードされる。
ステップS110で、オリジナル画像が得られる。
ステップS120で、オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値が取得される。
ステップS130で、オリジナル画像の画素固有値、第1の固有値、および第2の固有値に従って、輝度調整モデルによって、HDR画像が生成される。
ステップS120では、第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。ここで、第1の方向および第2の方向は、実際の要件に従って調整することができる。例えば、2つの方向は、それぞれ、X軸に対してプラス45°およびプラス135°で交差するか、またはX軸に対してプラス30°およびプラス150°で交差してよい。しかし、オリジナル画像の固有値の取得方向は、訓練画像の固有値の取得方向と一致していなければならない(すなわち同一方向である)。
ステップS120で、オリジナル画像の画素固有値は次式で計算され、
ここで、C1はオリジナル画像の画素固有値であり、Nはオリジナル画像の水平方向の画素の合計数であり、Mはオリジナル画像の垂直方向の画素の合計数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
ステップS120で、オリジナル画像の第1の固有値は次式で計算され、
ここで、
はオリジナル画像の第1の固有値であり、xはオリジナル画像の第1の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jはオリジナル画像の第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
ステップS120で、オリジナル画像の第2の固有値は次式で計算され、
ここで、
はオリジナル画像の第2の固有値であり、yはオリジナル画像の第2の方向の画素数であり、Yijはオリジナル画像の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)はオリジナル画像の第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
さらに、ステップS100では、輝度調整モデルが外部デバイスで生成される。外部デバイスは製造業者のコンピュータ機器または実験室のコンピュータ機器でよいが、これらには限定されない。図4は、本発明の一実施形態による輝度調整モデル生成の流れ図である。生成プロセスは以下のステップを含む。
ステップS200で、複数の訓練画像がロードされる。
ステップS210で、諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値が取得され、ニューラルネットワークアルゴリズムによって輝度調整モデルが生成される。
ステップS210では、第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。ここで、第1の方向および第2の方向は、実際の要件に従って調整することができる。例えば、2つの方向は、それぞれ、X軸に対してプラス45°およびプラス135°で交差するか、またはX軸に対してプラス30°およびプラス150°で交差してよい。しかし、オリジナル画像の固有値の取得方向は、訓練画像の固有値の取得方向と一致していなければならない(すなわち同一方向である)。
ステップS210で、諸訓練画像のそれぞれの画素固有値は次式で計算され、
ここで、C1は諸訓練画像のそれぞれの画素固有値であり、Nは諸訓練画像のそれぞれの水平方向の画素の合計数であり、Mは諸訓練画像のそれぞれの垂直方向の画素の合計数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
ステップS210で、諸訓練画像のそれぞれの第1の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第1の固有値であり、xは諸訓練画像のそれぞれの第1の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jは諸訓練画像のそれぞれの第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
ステップS210で、諸訓練画像のそれぞれの第2の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第2の固有値であり、yは諸訓練画像のそれぞれの第2の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)は諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
ニューラルネットワークアルゴリズムは、逆伝播ニューラルネットワーク(BNN)アルゴリズム、ラジアル基底関数(RBF)アルゴリズム、または自己組織化マップ(SOM)アルゴリズムである。
図5は、本発明の別の実施形態によってHDR画像を生成するための電子デバイスのアーキテクチャの概略図である。電子デバイス30は、記憶ユニット32、処理ユニット34、および出力ユニット36を備える。記憶ユニット32は、オリジナル画像322を保存し、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、または同期式ダイナミックランダムアクセスメモリ(SDRAM)でよいが、これらには限定されない。
処理ユニット34は、記憶ユニット32に接続され、輝度調整モデル344、固有値取得ユニット342、および輝度調整プロシージャ346を備える。固有値取得ユニット342は、オリジナル画像322の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得する。輝度調整モデル344は、ニューラルネットワークアルゴリズムによって生成される。輝度調整プロシージャ346は、オリジナル画像322の画素固有値、第1の固有値、および第2の固有値に従って、輝度調整モデル344によって、HDR画像を生成する。処理ユニット34は、中央処理ユニット(CPU)またはマイクロコントロールユニット(MCU)でよいが、これらには限定されない。出力ユニット36は、生成されたHDR画像を電子デバイス30の画面上に表示するために、処理ユニット34に接続される。
第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。ここで、第1の方向および第2の方向は、実際の要件に従って調整することができる。例えば、2つの方向は、それぞれ、X軸に対してプラス45°およびプラス135°で交差するか、またはX軸に対してプラス30°およびプラス150°で交差してよい。しかし、オリジナル画像の固有値の取得方向は、訓練画像の固有値の取得方向と一致していなければならない(すなわち同一方向である)。
オリジナル画像322の画素固有値は次式で計算され、
ここで、C1はオリジナル画像322の画素固有値であり、Nはオリジナル画像322の水平方向の画素の合計数であり、Mはオリジナル画像322の垂直方向の画素の合計数であり、Yijはオリジナル画像322の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
オリジナル画像の第1の固有値は次式で計算され、
ここで、
はオリジナル画像322の第1の固有値であり、xはオリジナル画像322の第1の方向の画素数であり、Yijはオリジナル画像322の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jはオリジナル画像322の第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
オリジナル画像322の第2の固有値は次式で計算され、
ここで、
はオリジナル画像322の第2の固有値であり、yはオリジナル画像322の第2の方向の画素数であり、Yijはオリジナル画像322の第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)はオリジナル画像322の第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
輝度調整モデルは外部デバイスで生成される。外部デバイスは製造業者のコンピュータ機器または実験室のコンピュータ機器でよいが、これらには限定されない。図6は、本発明の別の実施形態による輝度調整モデル生成の流れ図である。生成プロセスは以下のステップを含む。
ステップS300で、複数の訓練画像がロードされる。
ステップS310で、諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値が取得され、ニューラルネットワークアルゴリズムによって輝度調整モデルが生成される。
ステップS310では、第1の方向と第2の方向は異なり、第1の方向は水平方向で、第2の方向は垂直方向である。ここで、第1の方向および第2の方向は、実際の要件に従って調整することができる。例えば、2つの方向は、それぞれ、X軸に対してプラス45°およびプラス135°で交差するか、またはX軸に対してプラス30°およびプラス150°で交差してよい。しかし、オリジナル画像の固有値の取得方向は、訓練画像の固有値の取得方向と一致していなければならない(すなわち同一方向である)。
ステップS310で、諸訓練画像のそれぞれの画素固有値は次式で計算され、
ここで、C1は諸訓練画像のそれぞれの画素固有値であり、Nは諸訓練画像のそれぞれの水平方向の画素の合計数であり、Mは諸訓練画像のそれぞれの垂直方向の画素の合計数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である。
ステップS310で、諸訓練画像のそれぞれの第1の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第1の固有値であり、xは諸訓練画像のそれぞれの第1の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Y(i+x)jは諸訓練画像のそれぞれの第1の方向で(i+x)番目かつ第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である。
ステップS310で、諸訓練画像のそれぞれの第2の固有値は次式で計算され、
ここで、
は諸訓練画像のそれぞれの第2の固有値であり、yは諸訓練画像のそれぞれの第2の方向の画素数であり、Yijは諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向でj番目の画素の輝度値であり、Yi(j+y)は諸訓練画像のそれぞれの第1の方向でi番目かつ第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である。
ニューラルネットワークアルゴリズムは、BNNアルゴリズム、RBFアルゴリズム、またはSOMアルゴリズムである。
図7は、本発明の一実施形態によるBNNアルゴリズムを説明する概略図である。BNNアルゴリズム40は、入力層42、隠れ層44および出力層46を含む。各訓練画像は、総計でM×Nの画素を有し、各画素は、さらに各3つの固有値(すなわち画素固有値、第1の固有値、および第2の固有値)を有する。入力層は、それぞれ各訓練画像における画素の固有値を入力し、その結果、入力層42内のノード(X1、X2、X3、・・・、Xα)の合計数は、α=3×M×Nとなる。隠れ層44内のノード(P1、P2、P3、・・・、Pβ)の数はβであり、出力層46内のノード(Y1、Y2、Y3、・・・、Yγ)の数はγであり、またα≧β≧γである。BNNアルゴリズムがすべての訓練画像の収束を訓練しかつ求めた後に、輝度調整モデル化が得られる。輝度調整モデルの入力層42と隠れ層44の間で重み値Wαβの第1の組が得られ、輝度調整モデルの隠れ層44と出力層46の間で重み値Wβγの第2の組が得られる。
隠れ層44内の各ノードの値は次式で計算され、
ここで、Pjは隠れ層44内のj番目のノードの値であり、Xiは入力層42内のi番目のノードの値であり、Wijは入力層42内のi番目のノードと隠れ層44内のj番目のノードの間の重み値であり、bjは隠れ層44内のj番目のノードのオフセットであり、またα、i、およびjは正整数である。
さらに、出力層46内の各ノードの値は次式で計算され、
ここで、Ykは出力層46内のk番目のノードの値であり、Pjは隠れ層44内のj番目のノードの値であり、Wjkは隠れ層44内のj番目のノードと出力層46内のk番目のノードの間の重み値であり、ckは出力層46内のk番目のノードのオフセットであり、またβ、j、およびkは正整数である。
さらに、平均2乗誤差(MSE)
によって収束が求められ、ここで、λは訓練画像の合計数であり、γは出力層内のノードの合計数であり、Tk sはs番目の訓練画像内のk番目のノードの目標出力値であり、Yk sはs番目の訓練画像内のk番目のノードの演繹出力値であり、またλ、γ、s、およびkは正整数である。
30 電子デバイス
32 記憶ユニット
34 処理ユニット
36 出力ユニット
322 オリジナル画像
342 固有値取得ユニット
344 輝度調整モデル
346 輝度調整プロシージャ
40 BNNアルゴリズム
42 入力層
44 隠れ層
46 出力層

Claims (22)

  1. ニューラルネットワークアルゴリズムによって生成された輝度調整モデルをロードするステップと、
    オリジナル画像を得るステップと、
    前記オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得するステップと、
    前記オリジナル画像の前記画素固有値、前記第1の固有値、および前記第2の固有値に従って前記輝度調整モデルによってHDR画像を生成するステップとを含む高ダイナミックレンジ(HDR)画像生成方法。
  2. 前記第1の方向と前記第2の方向が異なり、前記第1の方向が水平方向で、前記第2の方向が垂直方向である請求項1に記載のHDR画像生成方法。
  3. 前記オリジナル画像の前記画素固有値が次式で計算され、
    ここで、C1は前記オリジナル画像の前記画素固有値であり、Nは前記オリジナル画像の前記水平方向の画素の合計数であり、Mは前記オリジナル画像の前記垂直方向の画素の合計数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である請求項1に記載のHDR画像生成方法。
  4. 前記オリジナル画像の前記第1の固有値が次式で計算され、
    ここで、
    は前記オリジナル画像の前記第1の固有値であり、xは前記オリジナル画像の前記第1の方向の画素数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Y(i+x)jは前記オリジナル画像の前記第1の方向で(i+x)番目かつ前記第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である請求項1に記載のHDR画像生成方法。
  5. 前記オリジナル画像の前記第2の固有値が次式で計算され、
    ここで、
    は前記オリジナル画像の前記第2の固有値であり、yは前記オリジナル画像の前記第2の方向の画素数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Yi(j+y)は前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である請求項1に記載のHDR画像生成方法。
  6. 前記輝度調整モデルが外部デバイスで生成され、前記生成プロセスが、
    複数の訓練画像をロードするステップと、
    前記諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得し、前記ニューラルネットワークアルゴリズムによって前記輝度調整モデルを生成するステップとを含む請求項1に記載のHDR画像生成方法。
  7. 前記第1の方向と前記第2の方向が異なり、前記第1の方向が水平方向で、前記第2の方向が垂直方向である請求項6に記載のHDR画像生成方法。
  8. 前記諸訓練画像のそれぞれの前記画素固有値が次式で計算され、
    ここで、C1は前記諸訓練画像のそれぞれの前記画素固有値であり、Nは前記諸訓練画像のそれぞれの前記水平方向の画素の合計数であり、Mは前記諸訓練画像のそれぞれの前記垂直方向の画素の合計数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である請求項6に記載のHDR画像生成方法。
  9. 前記諸訓練画像のそれぞれの前記第1の固有値が次式で計算され、
    ここで、
    は前記諸訓練画像のそれぞれの前記第1の固有値であり、xは前記諸訓練画像のそれぞれの前記第1の方向の画素数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Y(i+x)jは前記諸訓練画像のそれぞれの前記第1の方向で(i+x)番目かつ前記第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である請求項6に記載のHDR画像生成方法。
  10. 前記諸訓練画像のそれぞれの前記第2の固有値が次式で計算され、
    ここで、
    は前記諸訓練画像のそれぞれの前記第2の固有値であり、yは前記諸訓練画像のそれぞれの前記第2の方向の画素数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Yi(j+y)は前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である請求項6に記載のHDR画像生成方法。
  11. 前記ニューラルネットワークアルゴリズムが、逆伝播ニューラルネットワーク(BNN)アルゴリズム、ラジアル基底関数(RBF)アルゴリズム、または自己組織化マップ(SOM)アルゴリズムである請求項1に記載のHDR画像生成方法。
  12. ニューラルネットワークアルゴリズムによって生成された輝度調整モデルと、
    オリジナル画像の画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得するための固有値取得ユニットと、
    前記オリジナル画像の前記画素固有値、前記第1の固有値、および前記第2の固有値に従って前記輝度調整モデルによってHDR画像を生成するために、前記輝度調整モデルおよび前記固有値取得ユニットに接続された輝度調整プロシージャとを備え、前記輝度調整モデルによって前記オリジナル画像に対して輝度調整を実行するように適合された高ダイナミックレンジ(HDR)画像生成用電子デバイス。
  13. 前記第1の方向と前記第2の方向が異なり、前記第1の方向が水平方向で、前記第2の方向が垂直方向である請求項12に記載のHDR画像生成用電子デバイス。
  14. 前記オリジナル画像の前記画素固有値が次式で計算され、
    ここで、C1は前記オリジナル画像の前記画素固有値であり、Nは前記オリジナル画像の前記水平方向の画素の合計数であり、Mは前記オリジナル画像の前記垂直方向の画素の合計数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である請求項12に記載のHDR画像生成用電子デバイス。
  15. 前記オリジナル画像の前記第1の固有値が次式で計算され、
    ここで、
    は前記オリジナル画像の前記第1の固有値であり、xは前記オリジナル画像の前記第1の方向の画素数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Y(i+x)jは前記オリジナル画像の前記第1の方向で(i+x)番目かつ前記第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である請求項12に記載のHDR画像生成用電子デバイス。
  16. 前記オリジナル画像の前記第2の固有値が次式で計算され、
    ここで、
    は前記オリジナル画像の前記第2の固有値であり、yは前記オリジナル画像の前記第2の方向の画素数であり、Yijは前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Yi(j+y)は前記オリジナル画像の前記第1の方向でi番目かつ前記第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である請求項12に記載のHDR画像生成用電子デバイス。
  17. 前記輝度調整モデルが外部デバイスで生成され、前記生成プロセスが、
    複数の訓練画像をロードするステップと、
    前記諸訓練画像のそれぞれの画素固有値、第1の方向の第1の固有値、および第2の方向の第2の固有値を取得し、前記ニューラルネットワークアルゴリズムによって前記輝度調整モデルを生成するステップとを含む請求項12に記載のHDR画像生成用電子デバイス。
  18. 前記第1の方向と前記第2の方向が異なり、前記第1の方向が水平方向で、前記第2の方向が垂直方向である請求項17に記載のHDR画像生成用電子デバイス。
  19. 前記諸訓練画像のそれぞれの前記画素固有値が次式で計算され、
    ここで、C1は前記諸訓練画像のそれぞれの前記画素固有値であり、Nは前記諸訓練画像のそれぞれの前記水平方向の画素の合計数であり、Mは前記諸訓練画像のそれぞれの前記垂直方向の画素の合計数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、N、M、i、およびjは正整数である請求項17に記載のHDR画像生成用電子デバイス。
  20. 前記諸訓練画像のそれぞれの前記第1の固有値が次式で計算され、
    ここで、
    は前記諸訓練画像のそれぞれの前記第1の固有値であり、xは前記諸訓練画像のそれぞれの前記第1の方向の画素数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Y(i+x)jは前記諸訓練画像のそれぞれの前記第1の方向で(i+x)番目かつ前記第2の方向でj番目の画素の輝度値であり、i、j、およびxは正整数である請求項17に記載のHDR画像生成用電子デバイス。
  21. 前記諸訓練画像のそれぞれの前記第2の固有値が次式で計算され、
    ここで、
    は前記諸訓練画像のそれぞれの前記第2の固有値であり、yは前記諸訓練画像のそれぞれの前記第2の方向の画素数であり、Yijは前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向でj番目の画素の輝度値であり、Yi(j+y)は前記諸訓練画像のそれぞれの前記第1の方向でi番目かつ前記第2の方向で(j+y)番目の画素の輝度値であり、i、j、およびyは正整数である請求項17に記載のHDR画像生成用電子デバイス。
  22. 前記ニューラルネットワークアルゴリズムが、逆伝播ニューラルネットワーク(BNN)アルゴリズム、ラジアル基底関数(RBF)アルゴリズム、または自己組織化マップ(SOM)アルゴリズムである請求項17に記載のHDR画像生成用電子デバイス。
JP2009204709A 2009-03-25 2009-09-04 Hdr画像生成方法および同方法を用いる電子デバイス Pending JP2010231756A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW098109806A TW201036453A (en) 2009-03-25 2009-03-25 Method and electronic device to produce high dynamic range image

Publications (1)

Publication Number Publication Date
JP2010231756A true JP2010231756A (ja) 2010-10-14

Family

ID=42664184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009204709A Pending JP2010231756A (ja) 2009-03-25 2009-09-04 Hdr画像生成方法および同方法を用いる電子デバイス

Country Status (4)

Country Link
US (1) US20100246940A1 (ja)
JP (1) JP2010231756A (ja)
DE (1) DE102009039819A1 (ja)
TW (1) TW201036453A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190067113A (ko) * 2017-12-06 2019-06-14 한국과학기술원 이미지 처리 방법 및 장치
JP2020524446A (ja) * 2017-06-16 2020-08-13 ドルビー ラボラトリーズ ライセンシング コーポレイション 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化
KR20200142035A (ko) * 2018-04-09 2020-12-21 돌비 레버러토리즈 라이쎈싱 코오포레이션 신경망 매핑을 사용하는 hdr 이미지 표현
US11315223B2 (en) 2018-01-24 2022-04-26 Samsung Electronics Co., Ltd. Image processing apparatus, image processing method, and computer-readable recording medium

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9633263B2 (en) 2012-10-09 2017-04-25 International Business Machines Corporation Appearance modeling for object re-identification using weighted brightness transfer functions
WO2015188359A1 (zh) * 2014-06-12 2015-12-17 深圳市大疆创新科技有限公司 一种图片处理方法、装置
JP6237797B2 (ja) * 2016-01-05 2017-11-29 ソニー株式会社 ビデオシステム、ビデオ処理方法、プログラム、およびビデオコンバーター
WO2017215767A1 (en) * 2016-06-17 2017-12-21 Huawei Technologies Co., Ltd. Exposure-related intensity transformation
US10609286B2 (en) * 2017-06-13 2020-03-31 Adobe Inc. Extrapolating lighting conditions from a single digital image
WO2018231968A1 (en) * 2017-06-16 2018-12-20 Dolby Laboratories Licensing Corporation Efficient end-to-end single layer inverse display management coding
WO2019001701A1 (en) * 2017-06-28 2019-01-03 Huawei Technologies Co., Ltd. APPARATUS AND METHOD FOR IMAGE PROCESSING
CN107809593B (zh) * 2017-11-13 2019-08-16 Oppo广东移动通信有限公司 拍摄图像的方法、装置、终端和存储介质
KR102524671B1 (ko) 2018-01-24 2023-04-24 삼성전자주식회사 전자 장치 및 그의 제어 방법
CN111741211B (zh) * 2019-03-25 2022-07-29 华为技术有限公司 图像显示方法和设备
US11556784B2 (en) 2019-11-22 2023-01-17 Samsung Electronics Co., Ltd. Multi-task fusion neural network architecture

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7149262B1 (en) * 2000-07-06 2006-12-12 The Trustees Of Columbia University In The City Of New York Method and apparatus for enhancing data resolution
JP4814217B2 (ja) * 2004-04-15 2011-11-16 ドルビー ラボラトリーズ ライセンシング コーポレイション 画像を低ダイナミックレンジから高ダイナミックレンジに変換するシステム及びコンピュータプログラム

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020524446A (ja) * 2017-06-16 2020-08-13 ドルビー ラボラトリーズ ライセンシング コーポレイション 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化
JP7037584B2 (ja) 2017-06-16 2022-03-16 ドルビー ラボラトリーズ ライセンシング コーポレイション 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化
US11288781B2 (en) 2017-06-16 2022-03-29 Dolby Laboratories Licensing Corporation Efficient end-to-end single layer inverse display management coding
KR20190067113A (ko) * 2017-12-06 2019-06-14 한국과학기술원 이미지 처리 방법 및 장치
KR102034968B1 (ko) 2017-12-06 2019-10-21 한국과학기술원 이미지 처리 방법 및 장치
US11315223B2 (en) 2018-01-24 2022-04-26 Samsung Electronics Co., Ltd. Image processing apparatus, image processing method, and computer-readable recording medium
KR20200142035A (ko) * 2018-04-09 2020-12-21 돌비 레버러토리즈 라이쎈싱 코오포레이션 신경망 매핑을 사용하는 hdr 이미지 표현
JP2021521517A (ja) * 2018-04-09 2021-08-26 ドルビー ラボラトリーズ ライセンシング コーポレイション ニューラルネットワークマッピングを用いるhdr画像表現
KR102361987B1 (ko) 2018-04-09 2022-02-14 돌비 레버러토리즈 라이쎈싱 코오포레이션 신경망 매핑을 사용하는 hdr 이미지 표현
JP7189230B2 (ja) 2018-04-09 2022-12-13 ドルビー ラボラトリーズ ライセンシング コーポレイション ニューラルネットワークマッピングを用いるhdr画像表現

Also Published As

Publication number Publication date
DE102009039819A1 (de) 2010-09-30
US20100246940A1 (en) 2010-09-30
TW201036453A (en) 2010-10-01

Similar Documents

Publication Publication Date Title
JP2010231756A (ja) Hdr画像生成方法および同方法を用いる電子デバイス
EP3624439B1 (en) Imaging processing method for camera module in night scene, electronic device and storage medium
US8508619B2 (en) High dynamic range image generating apparatus and method
US11532076B2 (en) Image processing method, electronic device and storage medium
CN105141853B (zh) 图像处理方法以及电子设备
JP5238931B2 (ja) Hdr画像生成方法および同方法を用いるデジタル撮像素子
CN106060412A (zh) 拍照处理方法和装置
JP2021184591A (ja) 高ダイナミックレンジ画像の電子画像安定化を実施するための方法、デバイス、カメラ、およびソフトウェア
WO2022135581A1 (zh) 图像检测方法、装置、系统、设备和存储介质
CN103139492A (zh) 摄像装置、摄像方法以及监视系统
CN116055890A (zh) 生成高动态范围视频的方法和电子设备
US10972676B2 (en) Image processing method and electronic device capable of optimizing hdr image by using depth information
CN114827487B (zh) 一种高动态范围图像合成方法和电子设备
WO2016006430A1 (ja) 撮像装置、撮像方法、およびプログラム、並びに再生装置
CN101859430B (zh) 产生高动态范围图像的方法及装置
WO2016154873A1 (zh) 一种终端设备和拍照的方法
TWI604413B (zh) 影像處理方法及影像處理裝置
WO2023124202A1 (zh) 图像处理方法与电子设备
CN115633262B (zh) 图像处理方法和电子设备
WO2023040725A1 (zh) 白平衡处理方法与电子设备
CN117135471A (zh) 一种图像处理方法和电子设备
TWI590192B (zh) 適應性高動態範圍影像合成演算法
US11869224B2 (en) Method and system for establishing light source information prediction model
WO2022097559A1 (ja) 情報処理装置、撮像装置、プログラム、記憶媒体及び方法
KR20240001131A (ko) 계산적 사진촬영을 위한 이미지 정렬

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20131126