WO2022153348A1 - 画像調整方法、プログラムおよび画像調整装置 - Google Patents
画像調整方法、プログラムおよび画像調整装置 Download PDFInfo
- Publication number
- WO2022153348A1 WO2022153348A1 PCT/JP2021/000611 JP2021000611W WO2022153348A1 WO 2022153348 A1 WO2022153348 A1 WO 2022153348A1 JP 2021000611 W JP2021000611 W JP 2021000611W WO 2022153348 A1 WO2022153348 A1 WO 2022153348A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- luminance
- histogram
- dimensional
- image
- derived
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000006243 chemical reaction Methods 0.000 claims abstract description 45
- 235000019557 luminance Nutrition 0.000 claims description 400
- 238000009795 derivation Methods 0.000 claims description 63
- 238000004364 calculation method Methods 0.000 description 24
- 238000010586 diagram Methods 0.000 description 8
- 238000005286 illumination Methods 0.000 description 8
- 230000001186 cumulative effect Effects 0.000 description 4
- 238000005315 distribution function Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 3
- 238000013139 quantization Methods 0.000 description 3
- 238000009827 uniform distribution Methods 0.000 description 3
- 229920001577 copolymer Polymers 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration by the use of histogram techniques
-
- G06T5/92—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
Abstract
本発明の一態様は、入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を第1輝度および第2輝度に対応する数値とする2次元輝度ヒストグラムを導出し、第1輝度より大きく、第2輝度以下の第3輝度に応じて定まる加重係数を用いて、2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を第3輝度に対応する数値とする1次元輝度ヒストグラムを導出し、導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する画像調整方法である。
Description
本発明は、画像調整方法、プログラムおよび画像調整装置の技術に関する。
近年、デジタルカメラやスマートフォンなどが広範に使用されることによって、日々撮影される画像の数が膨大になりつつある。こうした背景もあり、画像編集の1つである画像強調に対する需要が著しく増大している。市販の画像編集ソフトウェアを使用して満足のいく結果を得るためには、画像編集の専門知識または多くの手作業を必要とする。従って、様々な撮影環境において撮影された画像に適応可能な自動画像強調を実現することが重要となる。
従来からある画像強調方法の1つであるヒストグラム平坦化は、直感的な実装品質と高い効率によって最も注目を集めてきた。ヒストグラム平坦化は、入力画像の編集後に出力される出力画像の輝度分布が一様分布になるように、入力画像の輝度を出力画像の輝度に変換する輝度変換関数を導出する。
具体的に、ヒストグラム平坦化では、入力画像の輝度分布である1次元輝度ヒストグラムを構築し、1次元輝度ヒストグラムの累積分布関数に基づいて輝度変換関数を導出する。ヒストグラム平坦化は、用途によって有用性が示されている。
しかし、ヒストグラム平坦化が使用する1次元輝度ヒストグラムは、輝度が入力画像に出現する頻度の分布である。そのため、テクスチャのない背景や画像の量子化ノイズなど、意味的に重要ではない画像領域であっても、類似する輝度を大量に有する領域であれば、コントラストが過度に強調されてしまう問題がある。この問題は、画像の勾配情報を1次元輝度ヒストグラムに埋め込むことで対処されている。なお、意味的に重要な画像領域として、例えば主となる被写体が写っている領域(または背景以外の領域)が挙げられる。
例えば、特許文献1に開示された技術では、画像の輝度勾配を画素の重要度として算出し、画素の重要度で重み付けされた新しい1次元輝度ヒストグラムを構築する。この新しい1次元輝度ヒストグラムを平坦化することで、意味的に重要ではない画像領域に対して、コントラストの過度強調を抑制することができる。
しかしながら、特許文献1に開示された技術は、画像の局所領域内に頻繁に共起する輝度に対して、これらの輝度を有する画素の重要度を過大評価する場合がある。従って、非常に小さい(暗い)輝度と非常に大きい(明るい)輝度が画像の局所領域内に頻繁に共起する場合、これらの輝度が輝度範囲の中央に過度に引き寄せられるように変換される傾向がある。
その結果、輝度範囲の中央近くのコントラストが減衰したり、画像の量子化ノイズが強調されたりする場合があるという問題がある。
上記事情に鑑み、本発明は、より好適に画像を編集可能な技術の提供を目的としている。
本発明の一態様は、入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を前記第1輝度および前記第2輝度に対応する数値とする2次元輝度ヒストグラムを導出する2次元輝度ヒストグラム導出ステップと、前記第1輝度より大きく、前記第2輝度以下の第3輝度に応じて定まる加重係数を用いて、前記2次元輝度ヒストグラム導出ステップにより導出された2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を前記第3輝度に対応する数値とする1次元輝度ヒストグラムを導出する1次元輝度ヒストグラム導出ステップと、前記1次元輝度ヒストグラム導出ステップにより導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する輝度変換ステップと、を備えた画像調整方法である。
本発明の一態様は、上記画像調整方法をコンピュータに実行させるためのプログラムである。
本発明の一態様は、入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を前記第1輝度および前記第2輝度に対応する数値とする2次元輝度ヒストグラムを導出する2次元輝度ヒストグラム導出部と、前記第1輝度より大きく、前記第2輝度以下の第3輝度に応じて定まる加重係数を用いて、前記2次元輝度ヒストグラム導出部により導出された2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を前記第3輝度に対応する数値とする1次元輝度ヒストグラムを導出する1次元輝度ヒストグラム導出部と、前記1次元輝度ヒストグラム導出部により導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する輝度変換部と、を備えた画像調整装置である。
本発明により、より好適に画像を編集することが可能となる。
本発明の実施形態について、図面を参照して詳細に説明する。図1は、実施形態における画像調整装置100の構成を示すブロック図である。画像調整装置100は、入力された入力画像を調整し、出力画像として出力する装置である。入力画像は、濃淡画像である。出力画像は、入力画像を強調した画像である。具体的には、入力画像のコントラストを拡大し、入力画像内の隠れた詳細を明らかにした結果の画像である。
本実施形態を濃淡画像に適用する場合には、この濃淡画像を入力画像とする。本実施形態をカラー画像に適用する場合、このカラー画像から濃淡画像を導出し、この濃淡画像を入力画像とする。例えばHSV色空間におけるカラー画像のV成分画像を濃淡画像として導出する。画像調整装置100は、カラー画像から導出された濃淡画像のみに対して調整するため、出力画像はカラー情報を含まない。カラー情報を含む画像を出力画像とする場合、HSV色空間において、カラー画像のV成分画像を調整された画像に置き換える。
画像調整装置100は、2次元輝度ヒストグラム導出部200、1次元輝度ヒストグラム導出部300、および輝度変換部400で構成される。
2次元輝度ヒストグラム導出部200は、入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を第1輝度および第2輝度に対応する数値とする2次元輝度ヒストグラムを導出する。1次元輝度ヒストグラム導出部300は、第1輝度より大きく、第2輝度以下の第3輝度に応じて定まる加重係数を用いて、2次元輝度ヒストグラム導出部200により導出された2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を第3輝度に対応する数値とする1次元輝度ヒストグラムを導出する。輝度変換部400は、1次元輝度ヒストグラム導出部300により導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する。以下、これらの詳細について説明する。
2次元輝度ヒストグラム導出部200は、入力画像が入力され、2次元輝度ヒストグラムを1次元輝度ヒストグラム導出部300に出力する。入力画像をA={a(q)}とする。a(q)∈[0,K)は入力画像の座標qにある画素の輝度である。Kは濃淡画像の画素が取り得る輝度の総数であり、本実施形態ではK=256とする。
入力画像において、第1輝度i∈[0,K)を有する画素を中心とする局所領域内に、第2輝度j∈[0,K)が出現する事象をci,jとする。すなわち、ci,jは、第1輝度iと第2輝度jが入力画像の局所領域内に共起する事象である。
2次元輝度ヒストグラム導出部200は、第1輝度iと第2輝度jが入力画像の局所領域内に共起する事象が発生する確率をp(ci,j)とし、統計量すなわち第1輝度iと第2輝度jのペアにおけるヒストグラム値とする。2次元輝度ヒストグラム導出部200は、これらのヒストグラム値の集合を2次元輝度ヒストグラムとする。
2次元輝度ヒストグラム導出部200は、第1輝度iと第2輝度jのペアの各々について、所望のコントラスト強調の度合が大きいほど、第1輝度iと第2輝度jのペアにおけるヒストグラム値p(ci,j)が大きくなるように、2次元輝度ヒストグラムを導出することが望ましい。
すなわち、2次元輝度ヒストグラムのヒストグラム値が所望のコントラスト強調の度合を正確に表すことが望ましい。以下の説明では、2つの輝度間のコントラストが輝度変換関数によってどれだけ拡大されるかを「実際のコントラスト強調の度合」と表現する。2つの輝度において、実際のコントラスト強調の度合はどの程度が望ましいかを「所望のコントラスト強調の度合」と表現する。
2次元輝度ヒストグラム導出部200は、入力画像の局所領域内に共起した第1画素と第2画素のペアの各々から、第1輝度iと第2輝度jとの間の差分を導出し、これらの差分を統合した結果の数値を、第1輝度iと第2輝度jが入力画像の局所領域内に共起する事象が発生する確率p(ci,j)とし、第1輝度iと第2輝度jのペアにおけるヒストグラム値とする。2次元輝度ヒストグラム導出部200は、これらのヒストグラム値の集合を2次元輝度ヒストグラムとして導出する。
具体的に、2次元輝度ヒストグラム導出部200は、以下のように2次元輝度ヒストグラムを導出する。入力画像をA={a(q)}とする。a(q)∈[0,K)は入力画像の座標qにある画素の輝度である。2次元輝度ヒストグラム導出部は、第1輝度iと第2輝度jのペアの各々について、ヒストグラム値p(ci,j)を下記(1)を用いて導出する。
ここで、N(q)は座標qを中心とする局所領域内にある座標の集合であり、局所領域のサイズは例えば7×7である。δ(x,y)はクロネッカーのデルタで、x=yの場合は1、x≠yの場合は0となる。2次元輝度ヒストグラム導出部200は、第1輝度iと第2輝度jのペアの各々について、ヒストグラム値p(ci,j)を導出した後、これらのヒストグラム値の集合を2次元輝度ヒストグラムとして導出する。
次に、上記(1)による統計量の導出に代えて、反射率画像を用いて2次元輝度ヒストグラムを導出する例について説明する。図2は、反射率画像を用いて2次元輝度ヒストグラムを導出する場合の2次元輝度ヒストグラム導出部200の構成を示すブロック図である。2次元輝度ヒストグラム導出部200は、反射率画像導出部210と2次元輝度ヒストグラム計算部220とを備える。反射率画像導出部210は、入力画像から反射率画像を導出し、2次元輝度ヒストグラム計算部220に出力する。2次元輝度ヒストグラム計算部220は、入力画像と反射率画像を用いて2次元輝度ヒストグラムを計算することで、2次元輝度ヒストグラムを導出する。
反射率画像導出部210は、入力画像を平滑化した画像を照明画像とし、入力画像から照明画像を除去した画像を反射率画像として導出する。具体的に、以下のように反射率画像を導出する。本実施形態では、反射率画像導出部210は、「Structure Extraction from Texture via Relative Total Variation, Li Xu他、ACM Transactions on Graphics, Vol. 31, No. 6, Article 139, Publication Date: November 2012」に記載の方法を使用して照明画像を導出する。
この方法は、各画素の周辺の局所領域における、輝度の一次導関数の絶対値の平均と輝度の一次導関数の平均の絶対値との比率を、各画素についてのテクスチャの強度とする。照明画像は、入力画像と照明画像の差分と、照明画像のテクスチャの強度との合計が最小になるように最適化される。なお、上記方法の代わりに、メディアンフィルタ、バイラテラルフィルタ、ガイド付きフィルタまたは異方性拡散フィルタを使用して、照明画像を導出してもよい。
入力画像Aの照明画像と反射率画像をそれぞれIとRとする。反射率画像は、下記(2)を使用して導出される。
入力画像Aの照明画像と反射率画像をそれぞれIとRとする。反射率画像は、下記(2)を使用して導出される。
ここで、ln(・)は自然対数である。また、対数の真数部分に示される演算子は、行列Aの要素を、行列Iの対応する要素で除算することを示す。自然対数の代わりに、1より大きい任意の実数を底とする対数を使用して、反射率画像を導出してもよい。小さな量の差分を拡大する対数関数を使用することで、意味的に重要であることが多い暗い画像領域に対して、反射率の差分を拡大することが可能となる。すなわち、対数関数を使用することは、反射率画像の導出に対して有効である。ここで、反射率とは、反射率画像にある画素の画素値である。
反射率画像の導出は、入力画像から照明画像を除去する方法であれば良く、特定の方法に限定されない。例えば、入力画像の各画素値を照明画像の各画素値で除算した結果の画像を反射率画像としてもよい。すなわち、反射率画像を下記(3)で導出しても良い。
このようにして反射率画像が反射率画像導出部210により導出されると、2次元輝度ヒストグラム計算部220により2次元輝度ヒストグラムが計算される。第1輝度iを有する入力画像の画素を第1画素とし、第2輝度jを有する入力画像の画素を第2画素とする。第1画素と同じ位置にある反射率画像の画素の画素値を第1反射率とし、第2画素と同じ位置にある反射率画像の画素の画素値を第2反射率とする。
2次元輝度ヒストグラム計算部220は、第1輝度iと第2輝度jのペアの各々について、入力画像の局所領域内に共起した第1画素と第2画素のペアの各々から、第1反射率と第2反射率の間の差分を導出し、これらの差分を統合した結果の数値を、前記第1輝度と第2輝度のペアにおけるヒストグラム値p(ci,j)とする。これらのヒストグラム値の集合を2次元輝度ヒストグラムとして導出する。
具体的に、以下のように2次元輝度ヒストグラムを導出する。反射率画像をR={r(q)}とする。r(q)は反射率画像の座標qにある画素の画素値である。2次元輝度ヒストグラム計算部は、第1輝度iと第2輝度jのペアの各々について、ヒストグラム値p(ci,j)を下記(4)で導出する。
ここで、N(q)は座標qを中心とする局所領域内にある座標の集合であり、本実施形態では、局所領域のサイズは7×7である。δ(x,y)はクロネッカーのデルタで、x=yの場合は1、x≠yの場合は0となる。2次元輝度ヒストグラム導出部200は、第1輝度iと第2輝度jのペアの各々について、ヒストグラム値p(ci,j)を導出した後、これらのヒストグラム値の集合を2次元輝度ヒストグラムとして導出する。このように、2次元輝度ヒストグラム導出部200は、第1輝度と第2輝度との差分に基づいて前記統計量を導出することで、2次元輝度ヒストグラムを導出する
図3は、入力画像に対し、上記(4)により導出されたp(ci,j)を示すグラフである。図3に示されるグラフは、左上が原点であり、横軸はiを示し、縦軸はjを示す。また、図3のグラフでは、p(ci,j)が大きいほど白く表示される。
反射率画像を用いて2次元輝度ヒストグラムを導出することによる効果について説明する。まず、主となる被写体が写っている画像領域や背景以外の領域など、意味的に重要な画像領域では、テクスチャや模様が含まれる場合が多く、反射率画像における画素値間の差分が大きい場合が多い。テクスチャのない背景や画像の量子化ノイズなど、意味的に重要ではない画像領域では、反射率画像における画素値間の差分が小さい場合が多い。
そこで、反射率画像を用いて2次元輝度ヒストグラムを導出することにより、2次元輝度ヒストグラムにおいて、意味的に重要な画像領域内に共起した輝度のペアでは、ヒストグラム値がより大きく算出される。また、意味的に重要ではない画像領域内に共起した輝度のペアでは、ヒストグラム値がより小さく算出される。従って、2次元輝度ヒストグラムのヒストグラム値が所望のコントラスト強調の度合を正確に表すことが可能となる。
次に、1次元輝度ヒストグラム導出部300について説明する。1次元輝度ヒストグラム導出部300は、2次元輝度ヒストグラムを2次元輝度ヒストグラム導出部200から取得し、1次元輝度ヒストグラムを輝度変換部400に出力する。
入力画像において、第3輝度k∈[0,K)が出現する事象をokとする。この事象が発生する確率をp(ok)とし、第3輝度kにおけるヒストグラム値とする。これらのヒストグラム値の集合を1次元輝度ヒストグラムとする。後述するように、輝度変換部400によれば、第3輝度kの各々について、輝度k-1と輝度kのペアにおける実際のコントラスト強調の度合が、第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)に正比例する。
従って、第1輝度iと第2輝度jのペアの各々について、実際のコントラスト強調の度合は、第1輝度iより大きく第2輝度j以下の全ての第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)の合計に正比例する。すなわち、第1輝度iと第2輝度jのペアの各々について、実際のコントラスト強調の度合は下記(5)に正比例する。
一方、本実施形態では、2次元輝度ヒストグラムのヒストグラム値が所望のコントラスト強調の度合を表す。ここで、実際のコントラスト強調の度合が2次元輝度ヒストグラムのヒストグラム値に正比例すれば、実際のコントラスト強調の度合が所望のコントラスト強調の度合と一致し、所望の通りに入力画像のコントラストを強調することが可能となる。
上述の考察によれば、1次元輝度ヒストグラム導出部300は、第1輝度iと第2輝度jのペアの各々について、第1輝度iより大きく第2輝度j以下の全ての第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)の合計が、第1輝度iと第2輝度jのペアにおける2次元輝度ヒストグラムのヒストグラム値p(ci,j)に正比例するように、1次元輝度ヒストグラムを導出することが望ましい。
すなわち、1次元輝度ヒストグラム導出部300は、第1輝度iと第2輝度jのペアの各々について、下記(6)に示す条件が満たされるように、1次元輝度ヒストグラムを導出することが望ましい。
このために、本実施形態では、入力画像において、第3輝度kが出現する事象okと、第3輝度kより小さい第1輝度iと第3輝度k以上の第2輝度jが局所領域内に共起する事象ci,jが、互いに従属すると仮定する。従って、事象okを周辺事象とすれば、事象okの確率p(ok)はp(ci,j)を周辺化することで導出することが可能となる。
実際の導出例について説明する。図4は、1次元輝度ヒストグラム導出部300の構成を示すブロック図である。1次元輝度ヒストグラム導出部300は、加重係数導出部310と1次元輝度ヒストグラム計算部320とを備える。
加重係数導出部310は、加重係数を1次元輝度ヒストグラム計算部320に出力する。加重係数導出部310は、第3輝度kの各々について、予め優先度係数skを算出する。例えば、優先度係数skとして、同一の実数を優先度係数とする。次に、加重係数導出部310は、第3輝度kと、第3輝度kより小さい第1輝度iと、第3輝度k以上の第2輝度jとの三つ組みの各々について、第3輝度kの優先度係数skを、第1輝度iより大きく第2輝度j以下の全ての輝度の優先度係数の合計で除算する。加重係数導出部310は、除算結果を、三つ組みにおける加重係数として導出する。
具体的に、以下のように加重係数を導出する。本実施形態では、加重係数導出部310は、第3輝度kの各々について、同一の実数1/Kを優先度係数skとする。すなわちsk=1/Kとする。Kは上述したように濃淡画像の画素が取り得る輝度の総数である。次に、加重係数導出部310は、第3輝度kと、第3輝度kより小さい第1輝度iと、第3輝度k以上の第2輝度jとの三つ組みの各々について、三つ組みにおける加重係数p(ok|ci,j)を下記(7)で導出する。
1次元輝度ヒストグラム計算部320は、2次元輝度ヒストグラムを2次元輝度ヒストグラム導出部200から取得し、加重係数を加重係数導出部310から取得し、1次元輝度ヒストグラムを輝度変換部400に出力する。
1次元輝度ヒストグラム計算部320は、第3輝度kの各々について、第3輝度kより小さい第1輝度iと第3輝度k以上の第2輝度jのペアにおける2次元輝度ヒストグラムのヒストグラム値p(ci,j)に対して、加重係数p(ok|ci,j)を使用して加重合計を導出する。1次元輝度ヒストグラム計算部320は、導出した加重合計を第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)とする。これらのヒストグラム値の集合を1次元輝度ヒストグラムとして導出する。
具体的に、以下のように1次元輝度ヒストグラムを導出する。1次元輝度ヒストグラム計算部320は、第3輝度kの各々について、1次元輝度ヒストグラムのヒストグラム値p(ok)を下記(8)で導出する。
ここで、加重係数p(ok|ci,j)は、条件付き確率であり、事象ci,jが発生した時の、事象okの確率である。上記(8)は、事象okを周辺事象とし、事象okの確率p(ok)を、p(ci,j)を周辺化することで導出することを示している。1次元輝度ヒストグラム計算部320は、第3輝度kの各々について、1次元輝度ヒストグラムのヒストグラム値p(ok)を導出した後、これらのヒストグラム値の集合を1次元輝度ヒストグラムとして導出する。
1次元輝度ヒストグラムの他の導出例について説明する。1次元輝度ヒストグラム導出部300は、以下のような反復法を用いて1次元輝度ヒストグラムを導出してもよい。具体的に、加重係数導出部310は、1回目の反復において、加重係数を1次元輝度ヒストグラム計算部320に出力する。2回目以降の反復において、加重係数導出部310は、前回の反復で導出された1次元輝度ヒストグラムを1次元輝度ヒストグラム計算部320から取得し、加重係数を1次元輝度ヒストグラム計算部320に出力する。
1回目の反復では、加重係数導出部310は、第3輝度kの各々について、優先度係数skの初期値を算出する。例えば、優先度係数skとして、同一の実数を優先度係数とする。次に、加重係数導出部310は、第3輝度kと、第3輝度kより小さい第1輝度iと、第3輝度k以上の第2輝度jとの三つ組みの各々について、第3輝度kの優先度係数skを、第1輝度iより大きく第2輝度j以下の全ての輝度の優先度係数の合計で除算する。加重係数導出部310は、除算結果を、三つ組みにおける加重係数として導出する。
このように、1次元輝度ヒストグラム導出部300は、各々の第3輝度について優先度係数を導出する。1次元輝度ヒストグラム導出部300は、第1輝度と第2輝度と第3輝度とに対応する加重係数を、除算結果とする。ここでの除算結果とは、第3輝度に対応する優先度係数を、第1輝度より大きく第2輝度以下の全ての輝度に対応する優先度係数の合計で除算した除算結果である。
具体的に、以下のように加重係数を導出する。本実施形態では、加重係数導出部310は、第3輝度kの各々について、同一の実数1/Kを優先度係数skとする。すなわちsk=1/Kとする。
2回目以降の反復では、第3輝度kの各々について、前回の反復で導出された1次元輝度ヒストグラムのヒストグラム値を、第3輝度kの優先度係数skとする。次に、第3輝度kと、第3輝度kより小さい第1輝度iと、第3輝度k以上の第2輝度jとの三つ組みの各々について、三つ組みにおける加重係数p(ok|ci,j)を上記(7)で導出する。
1次元輝度ヒストグラム計算部320は、2次元輝度ヒストグラムを2次元輝度ヒストグラム導出部200から取得し、加重係数を加重係数導出部310から取得し、反復回数が最大反復回数に到達するまで、1次元輝度ヒストグラムを加重係数導出部310に出力する。1次元輝度ヒストグラム計算部320は、反復回数が所定の最大反復回数に到達したら、1次元輝度ヒストグラムを輝度変換部400に出力する。
1次元輝度ヒストグラム計算部320は、第3輝度kの各々について、第3輝度kより小さい第1輝度iと第3輝度k以上の第2輝度jのペアにおける2次元輝度ヒストグラムのヒストグラム値p(ci,j)に対して、加重係数p(ok|ci,j)を使用して加重合計を導出する。1次元輝度ヒストグラム計算部320は、導出した加重合計を第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)とする。これらのヒストグラム値の集合を1次元輝度ヒストグラムとして導出する。
1次元輝度ヒストグラム計算部320は、第3輝度kの各々について、1次元輝度ヒストグラムのヒストグラム値p(ok)を上記(8)で導出する。第3輝度kの各々について、1次元輝度ヒストグラムのヒストグラム値p(ok)を導出した後、これらのヒストグラム値の集合を1次元輝度ヒストグラムとして導出する。
1次元輝度ヒストグラム計算部320は、反復回数が最大反復回数に到達するまで、上述の処理を繰り返す。反復回数が最大反復回数に到達したら、最後の反復で導出した1次元輝度ヒストグラムを輝度変換部400に出力する。最大反復回数は2回や3回程度で十分であり、本実施形態では最大反復回数を2回に設定する。図5は、図3で示した2次元輝度ヒストグラムから導出された1次元輝度ヒストグラムを示す図である。図5では、横軸が輝度値を示し、縦軸が度数を示す。
反復法を用いた1次元輝度ヒストグラム導出部300によれば、第3輝度は、前回の反復で導出された1次元輝度ヒストグラムのヒストグラム値が大きいほど優先度係数が大きくなり、現在の反復で導出される1次元輝度ヒストグラムのヒストグラム値が2次元輝度ヒストグラムからより多くの画像情報を取得することが可能となる。すなわち、より正確に1次元輝度ヒストグラムを導出することが可能となる。
次に、輝度変換部400について説明する。輝度変換部400は、入力画像を取得し、1次元輝度ヒストグラムを1次元輝度ヒストグラム導出部300から取得し、出力画像を出力する。輝度変換部400は、1次元輝度ヒストグラムが所定のヒストグラムに変換されるように、輝度を変換する輝度変換関数を導出する。この輝度変換関数を使用して、入力画像の各画素の輝度を変換した結果の画像を出力画像として導出する。なお、本実施形態では、一様分布関数を所定のヒストグラムとする。
入力画像をA={a(q)}とする。出力画像をB={b(q)}とする。a(q)∈[0,K)とb(q)∈[0,K)は、それぞれ入力画像と出力画像の座標qにある画素の輝度である。輝度変換部は、b(q)=T(a(q))の形式の輝度変換関数T(・)を導出する。この輝度変換関数T(・)を使用して、入力画像Aの各画素qの輝度a(q)を変換した結果の画像を出力画像Bとして導出する。具体的に、以下のように出力画像を導出する。
入力画像Aにおける1次元輝度ヒストグラムp(ok)の累積分布関数をPa(k)とし、前記所定のヒストグラムの累積分布関数をPb(k)とする。輝度変換部は、輝度変換関数T(・)を式9で導出する。ここで、P-1
b(・)は累積分布関数Pb(k)の逆関数である。
上述したように、本実施形態では、一様分布関数を所定のヒストグラムとしている。この場合、輝度変換部400の処理はヒストグラム平坦化と同等であり、上記(9)は下記(10)となる。
図6は、図5の1次元輝度ヒストグラムから導出された輝度変換関数を示す図である。図6では、横軸が変換前の輝度値を示し、縦軸が変換後の輝度値を示す。なお、一様分布関数の代わりに、対数関数や線形関数などを所定のヒストグラムとしても良い。輝度変換関数T(・)を導出した後、b(q)=T(a(q))によって、入力画像Aの各画素qの輝度a(q)を変換した結果の画像を出力画像Bとして導出する。
なお、輝度変換関数を上記(10)で導出した場合、第3輝度kの各々について、輝度k-1と輝度kのペアにおける実際のコントラスト強調の度合は下記(11)となり、第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)に正比例する。
従って、第1輝度iと第2輝度jのペアの各々について、実際のコントラスト強調の度合は、第1輝度iより大きく第2輝度j以下の全ての第3輝度kにおける1次元輝度ヒストグラムのヒストグラム値p(ok)の合計に正比例する。すなわち、第1輝度iと第2輝度jのペアの各々について、実際のコントラスト強調の度合は上記(5)に正比例する。
以上説明した1次元輝度ヒストグラム導出部300と輝度変換部400によれば、第1輝度と第2輝度のペアの各々について、実際のコントラスト強調の度合が、第1輝度と第2輝度のペアにおける2次元輝度ヒストグラムのヒストグラム値に正比例する。従って、2次元輝度ヒストグラムのヒストグラム値が所望のコントラスト強調の度合を正確に表すことができれば、所望の通りに入力画像のコントラストを強調することが可能となる。結果として、意味的に重要ではない画像領域において、2次元輝度ヒストグラムのヒストグラム値を調整することで、コントラストの過度強調を抑制しながら、画像強調を実現することが可能となる。
また、2次元輝度ヒストグラム導出部200と1次元輝度ヒストグラム導出部300によれば、非常に小さい(暗い)第1輝度と非常に大きい(明るい)第2輝度が入力画像の局所領域内に頻繁に共起する場合でも、これらの輝度が輝度範囲の中央に過度に引き寄せられることなく、より正しい輝度変換が可能となる。従って、輝度範囲の中央近くのコントラストが減衰することなく、画像強調を実現することが可能となる。
図7は、上述した処理の流れを示すフローチャートである。画像調整装置100は、入力画像が入力される(ステップS101)。画像調整装置100は、2次元輝度ヒストグラムを導出するにあたり、反射率画像を用いるか否かを判定する(ステップS102)。反射率画像を用いるか否かは、例えばユーザにより設定された内容が記憶された不図示の記憶装置を参照することで判定される。
反射率画像を用いない場合(ステップS102:NO)、画像調整装置100は、上記(1)を用いて、2次元輝度ヒストグラムを導出し(ステップS103)、ステップS104に進む。反射率画像を用いる場合(ステップS102:YES)、画像調整装置100は、反射率画像を導出する(ステップS109)。画像調整装置100は、上記(4)を用いて、2次元輝度ヒストグラムを導出し(ステップS103)、ステップS104に進む。
画像調整装置100は、加重係数を導出する(ステップS104)。画像調整装置100は、1次元輝度ヒストグラムを導出する(ステップS105)。画像調整装置100は、反復上限回数に到達したか否かを判定する(ステップS106)。反復上限回数は、例えばユーザにより設定された内容が記憶された不図示の記憶装置を参照することで取得する。反復上限回数が1の場合は、反復法を行わないことを示す。
反復上限回数に到達していない場合には(ステップS106:NO)、画像調整装置100は、ステップS105で導出された1次元輝度ヒストグラムにおける第3輝度に対応する数値を、第3輝度に対応する優先度係数として、ステップS104で再び加重係数を導出する。一方、反復上限回数に到達したか、反復上限回数が1の場合には(ステップS106:YES)、画像調整装置100は、輝度変換し(ステップS107)、輝度変換した画像を出力画像として出力し(ステップS108)、処理を終了する。
以上説明した実施形態において、画像調整装置100は、CPU(Central Processing Unit)等のプロセッサーとメモリーとを用いて構成されてもよい。この場合、画像調整装置100は、プロセッサーがプログラムを実行することによって、画像調整装置100として機能する。なお、画像調整装置100の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されても良い。上記のプログラムは、コンピュータ読み取り可能な記録媒体に記録されても良い。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM、半導体記憶装置(例えばSSD:Solid State Drive)等の可搬媒体、コンピュータシステムに内蔵されるハードディスクや半導体記憶装置等の記憶装置である。上記のプログラムは、電気通信回線を介して送信されてもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
本発明は、画像を強調する装置や画像を編集するソフトウェアに適用可能である。
100…画像調整装置、200…2次元輝度ヒストグラム導出部、210…反射率画像導出部、220…2次元輝度ヒストグラム計算部、300…1次元輝度ヒストグラム導出部、310…加重係数導出部、320…1次元輝度ヒストグラム計算部、400…輝度変換部
Claims (7)
- 入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を前記第1輝度および前記第2輝度に対応する数値とする2次元輝度ヒストグラムを導出する2次元輝度ヒストグラム導出ステップと、
前記第1輝度より大きく、前記第2輝度以下の第3輝度に応じて定まる加重係数を用いて、前記2次元輝度ヒストグラム導出ステップにより導出された2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を前記第3輝度に対応する数値とする1次元輝度ヒストグラムを導出する1次元輝度ヒストグラム導出ステップと、
前記1次元輝度ヒストグラム導出ステップにより導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する輝度変換ステップと、
を備えた画像調整方法。 - 前記2次元輝度ヒストグラム導出ステップは、前記第1輝度と前記第2輝度との差分に基づいて前記統計量を導出することで、前記2次元輝度ヒストグラムを導出する請求項1に記載の画像調整方法。
- 前記2次元輝度ヒストグラム導出ステップは、入力画像から、入力画像を平滑化した画像を除去した反射率画像を用いて、前記2次元輝度ヒストグラムを導出する請求項1に記載の画像調整方法。
- 前記1次元輝度ヒストグラム導出ステップは、各々の前記第3輝度について優先度係数を導出し、前記第1輝度と前記第2輝度と前記第3輝度とに対応する加重係数を、前記第3輝度に対応する優先度係数を、前記第1輝度より大きく前記第2輝度以下の全ての輝度に対応する優先度係数の合計で除算した除算結果とする請求項1から請求項3のいずれか1項に記載の画像調整方法。
- 前記1次元輝度ヒストグラム導出ステップは、導出された1次元輝度ヒストグラムにおける前記第3輝度に対応する数値を、前記第3輝度に対応する優先度係数として、再び加重係数を導出する請求項4に記載の画像調整方法。
- 請求項1から請求項5のいずれか1項に記載の画像調整方法をコンピュータに実行させるためのプログラム。
- 入力画像における局所領域内に共起した第1輝度を有する第1画素と、第2輝度を有する第2画素とから統計量を導出し、当該統計量を前記第1輝度および前記第2輝度に対応する数値とする2次元輝度ヒストグラムを導出する2次元輝度ヒストグラム導出部と、
前記第1輝度より大きく、前記第2輝度以下の第3輝度に応じて定まる加重係数を用いて、前記2次元輝度ヒストグラム導出部により導出された2次元輝度ヒストグラムに重みづけを行うことで数値を導出し、当該数値を前記第3輝度に対応する数値とする1次元輝度ヒストグラムを導出する1次元輝度ヒストグラム導出部と、
前記1次元輝度ヒストグラム導出部により導出された1次元輝度ヒストグラムが所定のヒストグラムに変換されるように輝度変換関数を導出し、当該輝度変換関数を用いて、入力画像の各画素の輝度を変換する輝度変換部と、
を備えた画像調整装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/000611 WO2022153348A1 (ja) | 2021-01-12 | 2021-01-12 | 画像調整方法、プログラムおよび画像調整装置 |
JP2022574869A JPWO2022153348A1 (ja) | 2021-01-12 | 2021-01-12 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/000611 WO2022153348A1 (ja) | 2021-01-12 | 2021-01-12 | 画像調整方法、プログラムおよび画像調整装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2022153348A1 true WO2022153348A1 (ja) | 2022-07-21 |
Family
ID=82446980
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2021/000611 WO2022153348A1 (ja) | 2021-01-12 | 2021-01-12 | 画像調整方法、プログラムおよび画像調整装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2022153348A1 (ja) |
WO (1) | WO2022153348A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008072253A (ja) * | 2006-09-12 | 2008-03-27 | Canon Inc | 画像処理装置およびその方法 |
JP2019016117A (ja) * | 2017-07-05 | 2019-01-31 | 日本電信電話株式会社 | 画像調整装置、局所的コントラスト量計算装置、方法、及びプログラム |
-
2021
- 2021-01-12 JP JP2022574869A patent/JPWO2022153348A1/ja active Pending
- 2021-01-12 WO PCT/JP2021/000611 patent/WO2022153348A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008072253A (ja) * | 2006-09-12 | 2008-03-27 | Canon Inc | 画像処理装置およびその方法 |
JP2019016117A (ja) * | 2017-07-05 | 2019-01-31 | 日本電信電話株式会社 | 画像調整装置、局所的コントラスト量計算装置、方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JPWO2022153348A1 (ja) | 2022-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10672112B2 (en) | Method and system for real-time noise removal and image enhancement of high-dynamic range images | |
RU2400815C2 (ru) | Способ повышения качества цифрового фотоизображения | |
TWI405147B (zh) | 單張影像的階層式去動態模糊方法 | |
Safonov et al. | Adaptive image processing algorithms for printing | |
JP6097588B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2019016117A (ja) | 画像調整装置、局所的コントラスト量計算装置、方法、及びプログラム | |
WO2023030139A1 (zh) | 图像融合方法、电子设备和存储介质 | |
US8526754B2 (en) | System for enhancing depth of field with digital image processing | |
US7379561B2 (en) | Method and system for differentially and regularly modifying a digital image by pixel | |
US20080267524A1 (en) | Automatic image enhancement | |
CN111353955A (zh) | 一种图像处理方法、装置、设备和存储介质 | |
US10304167B2 (en) | Spatially adaptive tone mapping operator | |
Lee et al. | Image enhancement approach using the just-noticeable-difference model of the human visual system | |
WO2022153348A1 (ja) | 画像調整方法、プログラムおよび画像調整装置 | |
Jen et al. | Bayesian structure-preserving image contrast enhancement and its simplification | |
Drago et al. | Design of a tone mapping operator for high-dynamic range images based upon psychophysical evaluation and preference mapping | |
WO2016051716A1 (ja) | 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体 | |
Watanabe et al. | Improvement of color quality with modified linear multiscale retinex | |
Safonov et al. | Adaptive sharpening of photos | |
JP3814421B2 (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP4125191B2 (ja) | 画像処理装置および方法 | |
JP7425361B2 (ja) | 画像調整装置、画像調整方法及びプログラム | |
RU2383924C2 (ru) | Способ адаптивного повышения резкости цифровых фотографий в процессе печати | |
Song et al. | Contrast enhancement algorithm considering surrounding information by illumination image | |
Gao et al. | Multiscale decomposition based high dynamic range tone mapping method using guided image filter |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21919245 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2022574869 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 21919245 Country of ref document: EP Kind code of ref document: A1 |