JP2016212623A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2016212623A JP2016212623A JP2015095620A JP2015095620A JP2016212623A JP 2016212623 A JP2016212623 A JP 2016212623A JP 2015095620 A JP2015095620 A JP 2015095620A JP 2015095620 A JP2015095620 A JP 2015095620A JP 2016212623 A JP2016212623 A JP 2016212623A
- Authority
- JP
- Japan
- Prior art keywords
- image
- resolution
- resolution image
- level
- scale
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims description 86
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000009499 grossing Methods 0.000 claims abstract description 79
- 238000000034 method Methods 0.000 claims abstract description 71
- 230000008569 process Effects 0.000 claims abstract description 57
- 230000001965 increasing effect Effects 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 18
- 238000013341 scale-up Methods 0.000 description 16
- 230000000694 effects Effects 0.000 description 13
- 238000000926 separation method Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000003702 image correction Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 230000036548 skin texture Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】画像の「明瞭感」や「凹凸感」を改善しながら、線画像周辺のアーティファクトを抑制する。【解決手段】多重解像度画像を生成する多重解像度画像生成部21は、一の解像度レベル(n)の起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像301として出力することによって、多重解像度画像を生成する。起点画像301に対して平滑化処理を施すことで、線画像の周辺において濃淡の程度が緩和され、結果として線画像周辺のアーティファクトを抑制した画像が得られる。【選択図】図4
Description
本発明は、画像処理装置、画像処理方法、及びプログラムに関する。
デジタルカメラ等の撮影装置やディスプレイ等の表示装置等を使用して表現された画像は、これを見た者に対して現実世界(撮影者が実際に見た景色等)とは異なる印象を与えることがある。これは、装置の持つダイナミックレンジが現実世界のダイナミックレンジと比較してはるかに小さいため、これらの装置が表現する画像の明瞭感及び凹凸感が現実世界に比べて欠如するためである。ここで「明瞭感の欠如」とは、実際の景色に比べてかすみ・モヤがかかったような印象を与えることである。また、「凹凸感の欠如」とは、実際の風景中の木々の盛りあがった状態や、岩肌のごつごつした感じがなくなり、平面的になってしまったような印象を与えることである。
明瞭感や凹凸感の欠如した画像を改善する手法として、従来トーンカーブによるコントラスト強調やアンシャープマスク等が活用されてきた。しかし、上記手法を用いても、技術が発達した昨今では十分な効果が得られなくなってきている。
明瞭感や凹凸感の欠如した画像を改善する手法として、従来トーンカーブによるコントラスト強調やアンシャープマスク等が活用されてきた。しかし、上記手法を用いても、技術が発達した昨今では十分な効果が得られなくなってきている。
近年、上記手法とは異なる画像の改善方法として、多重解像度画像を使用した画像処理方法が提案されている。特許文献1には、多重像度画像を生成し、生成した多重解像度画像を非線形で単調に増加する奇数変換関数に従って修正した後に、多重解像度画像を再構成して出力画像を得る画像処理方法が開示されている。この発明では、ダイナミックレンジを拡大することなく、信号レベルの全レンジに渡ってデジタル画像のコントラストを改善することができる。
特許文献1に記載の方法によってコントラストを強調した場合、発明者の検討により以下のような不具合が起こることが判明した。即ち、例えば均一輝度領域中に線画像があるといった箇所において、コントラスト強調前には存在しなかった人工的な濃淡(アーティファクト)が出力画像に現れることが判明した。「均一輝度領域中に線画像がある箇所」とは、例えば風景画像の空の領域中に電線が走っているような場合である。このような画像のコントラストを大きく強調するとアーティファクトが顕著になるため、コントラストの強調量をあまり大きくできないという問題があった。
本発明は上述の事情に鑑みてなされたものであり、画像の「明瞭感」や「凹凸感」を改善しながら、アーティファクトを抑制することを目的とする。
本発明は上述の事情に鑑みてなされたものであり、画像の「明瞭感」や「凹凸感」を改善しながら、アーティファクトを抑制することを目的とする。
上記の課題を解決するために、請求項1に記載の発明は、入力画像から生成された明るさ成分画像から多重解像度画像を生成する多重解像度画像生成手段、前記各多重解像度画像のデータ値を修正する多重解像度画像修正手段、及び、修正後の多重解像度画像を再構成する再構成手段を備え、再構成された画像から出力画像を生成する画像処理装置であって、前記多重解像度画像生成手段は、一の解像度レベルの起点画像に対して平滑化処理を施すことによって第一画像を生成し、前記第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像を生成し、前記第一画像と前記第二画像とに基づいて当該解像度レベルの解像度画像を生成すると共に、前記スケールダウン画像を次の解像度レベルの起点画像として出力することによって、前記多重解像度画像を生成することを特徴とする。
本発明によれば、画像の「明瞭感」や「凹凸感」を改善しながら、アーティファクトを抑制することができる。
以下、本発明を図に示した実施形態を用いて詳細に説明する。但し、この実施形態に記載される構成要素、種類、組み合わせ、形状、その相対配置などは特定的な記載がない限り、この発明の範囲をそれのみに限定する主旨ではなく単なる説明例に過ぎない。
以下、本発明の実施形態を詳細に説明する。なお、各段階で生成される画像データについては単に「画像」の語を用いて説明する。
以下、本発明の実施形態を詳細に説明する。なお、各段階で生成される画像データについては単に「画像」の語を用いて説明する。
〔第一の実施形態〕
図1は、本発明の一実施形態に係る画像処理装置のハードウェア構成図である。
画像処理装置は、画像の編集や加工等の画像処理機能を備えた装置であり、デジタルカメラやスキャナ、画像編集ソフトウェアがインストールされた汎用のコンピュータ等により実現される。
画像処理装置1は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、記憶装置104、操作入力装置105、表示装置106、及びネットワークインターフェース107等を備え、各部がバス108にて接続された構成を有する。
CPU101は、ROM102に記憶されたプログラムを読み出してRAM103に展開して実行することにより、以下の各実施形態にて説明する各画像処理を実行する手段として機能する。記憶装置104は、HDD(Hard Disk Drive)等の不揮発性記憶手段から構成され、入力画像や出力画像、各部で生成される画像の処理に必要なフィルタデータ等を記憶する。操作入力装置105は、操作者がCPU101に命令や情報等を入力する手段であり、キーボードや、マウス等のポインティングデバイス等から構成されている。表示装置106は、液晶ディスプレイ等から構成され、入力内容や処理結果等を表示する。ネットワークインターフェース107は、ネットワークNを介して外部の他のコンピュータと通信により情報を伝達する手段であり、例えば処理対象となる画像を取得する。
図1は、本発明の一実施形態に係る画像処理装置のハードウェア構成図である。
画像処理装置は、画像の編集や加工等の画像処理機能を備えた装置であり、デジタルカメラやスキャナ、画像編集ソフトウェアがインストールされた汎用のコンピュータ等により実現される。
画像処理装置1は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、記憶装置104、操作入力装置105、表示装置106、及びネットワークインターフェース107等を備え、各部がバス108にて接続された構成を有する。
CPU101は、ROM102に記憶されたプログラムを読み出してRAM103に展開して実行することにより、以下の各実施形態にて説明する各画像処理を実行する手段として機能する。記憶装置104は、HDD(Hard Disk Drive)等の不揮発性記憶手段から構成され、入力画像や出力画像、各部で生成される画像の処理に必要なフィルタデータ等を記憶する。操作入力装置105は、操作者がCPU101に命令や情報等を入力する手段であり、キーボードや、マウス等のポインティングデバイス等から構成されている。表示装置106は、液晶ディスプレイ等から構成され、入力内容や処理結果等を表示する。ネットワークインターフェース107は、ネットワークNを介して外部の他のコンピュータと通信により情報を伝達する手段であり、例えば処理対象となる画像を取得する。
図2は、本発明の一実施形態に係る画像処理装置の機能を示した概略ブロック図である。画像処理装置1は、色分解部11と多重解像度操作部12と色合成部13とを備えている。また、多重解像度操作部12は、多重解像度画像生成部21と多重解像度画像操作部22と再構成部23とを備えている。
画像処理装置1は、入力された汎用形式のカラー画像(入力画像Din)を、色分解部11において明るさ成分Y(起点画像301(0))と色成分CrCb(色成分画像330)とに分解する。次に、この明るさ成分画像に対して、多重解像度操作部12では、まず多重解像度画像生成部21が多重解像度画像を生成し、生成された多重解像度画像に対して多重解像度画像操作部22が所定の操作を行い、操作を施された多重解像度画像に対して再構成部23が画像の再構成を行う。また色分解部11において入力画像Dinから分離された色成分画像は、色合成部13へ入力される。色合成部13では、多重解像度操作部12から出力される明るさ成分Y”(再構成画像311(0))と、色成分画像330とを合成して、カラー画像(出力画像Dout)を出力する。
画像処理装置1は、入力された汎用形式のカラー画像(入力画像Din)を、色分解部11において明るさ成分Y(起点画像301(0))と色成分CrCb(色成分画像330)とに分解する。次に、この明るさ成分画像に対して、多重解像度操作部12では、まず多重解像度画像生成部21が多重解像度画像を生成し、生成された多重解像度画像に対して多重解像度画像操作部22が所定の操作を行い、操作を施された多重解像度画像に対して再構成部23が画像の再構成を行う。また色分解部11において入力画像Dinから分離された色成分画像は、色合成部13へ入力される。色合成部13では、多重解像度操作部12から出力される明るさ成分Y”(再構成画像311(0))と、色成分画像330とを合成して、カラー画像(出力画像Dout)を出力する。
画像処理装置1に入力される入力画像DinはTIF形式であり、RGBの3つの色成分を有し、1画素あたり各色16bitのデータを有する。本発明の各実施形態において処理される入力画像のファイル形式はTIF形式に限定されるものではなく、JPEGやPNGなどの他のファイル形式であってもちろん問題はない。また、入力画像の色成分に関してもRGB色空間に限定されるものではなく、RGB以外の色空間であっても良く、1画素あたりのデータ量も16bit以外のデータ量であってもかまわない。これらは、本願発明の本質的な部分には影響をおよぼすものではない。
また、第一の実施形態では、色分解部11がRGBの色成分を持つ入力画像の各画素をYCbCr色空間へ変換する。第一の実施形態ではRGBからYCrCbへの変換を下記の計算式によって行っている。
しかしながら、YCbCr色空間への変換は、本願発明を限定するものではなく、これ以外の明るさ成分(または明度成分)と色成分とを有するような色空間であるLa*b*色空間、HSV色空間、などであってもかまわない。
〈多重解像度操作部の処理〉
図3は、多重解像度操作部による処理の概要を示す模式図である。多重解像度画像生成部21は、色分解部11から出力された明るさ成分画像を解像度レベル0の起点画像として画像処理を実施し、順次解像度レベル1,2,…n…nmaxの起点画像を生成する。また、各解像度レベルの処理において多重解像度画像生成部21が生成した解像度画像に対して、多重解像度画像操作部22がデータ値を操作した操作後の解像度画像を再構成部23に出力する。再構成部23においては、解像度レベルnmax,nmax−1,…n…1,0の順に画像の再構成を行い、最終的に解像度レベル0(M×Nサイズ)の再構成画像を出力する。
図3は、多重解像度操作部による処理の概要を示す模式図である。多重解像度画像生成部21は、色分解部11から出力された明るさ成分画像を解像度レベル0の起点画像として画像処理を実施し、順次解像度レベル1,2,…n…nmaxの起点画像を生成する。また、各解像度レベルの処理において多重解像度画像生成部21が生成した解像度画像に対して、多重解像度画像操作部22がデータ値を操作した操作後の解像度画像を再構成部23に出力する。再構成部23においては、解像度レベルnmax,nmax−1,…n…1,0の順に画像の再構成を行い、最終的に解像度レベル0(M×Nサイズ)の再構成画像を出力する。
以下、解像度レベルnにおける画像処理に基づいて第一の実施形態を詳細に説明する。
図4は、解像度レベルnにおける多重解像度操作部の処理を示した模式図である。
《多重解像度画像生成部の処理》
多重解像度操作部12では、まず多重解像度画像生成部21が多重解像度画像を生成する。多重解像度画像生成部21は、色分解部11から出力された明るさ成分画像から、多重解像度画像を構成する各解像度画像の生成を行う。なお、以下では本発明をYCbCr色空間の例により説明すると共に、色分解部11から出力された明るさ成分画像(多重解像度画像操作を行う前のY成分画像)をY(x,y)と表す。
多重解像度画像生成部21は、起点画像301(n)(このときの起点画像の画像サイズは(Mn,Nn)サイズの画像であると仮定する)に対して、第一平滑化フィルタ211によって第一平滑化処理を施すことで、第一画像303(n)を生成する(ステップS1)。
図4は、解像度レベルnにおける多重解像度操作部の処理を示した模式図である。
《多重解像度画像生成部の処理》
多重解像度操作部12では、まず多重解像度画像生成部21が多重解像度画像を生成する。多重解像度画像生成部21は、色分解部11から出力された明るさ成分画像から、多重解像度画像を構成する各解像度画像の生成を行う。なお、以下では本発明をYCbCr色空間の例により説明すると共に、色分解部11から出力された明るさ成分画像(多重解像度画像操作を行う前のY成分画像)をY(x,y)と表す。
多重解像度画像生成部21は、起点画像301(n)(このときの起点画像の画像サイズは(Mn,Nn)サイズの画像であると仮定する)に対して、第一平滑化フィルタ211によって第一平滑化処理を施すことで、第一画像303(n)を生成する(ステップS1)。
図5は、第一平滑化フィルタのフィルタ係数の一例を示す図である。図5で例示したフィルタ係数は、本願発明を限定するものではなく、これ以外のフィルタ係数、フィルタサイズであってももちろんかまわない。画像を平滑化する機能を有するものであれば、どのような平滑化フィルタを用いてもかまわない。
第一平滑化処理によって生成された第一画像303(n)に対して、多重解像度画像生成部21は、第二平滑化フィルタ212によって第二平滑化処理を行う(ステップS3)。第二平滑化フィルタ212は、例えば5×5のガウシアンフィルタである。図6は、第二平滑化フィルタのフィルタ係数の一例を示す図である。
第一平滑化処理によって生成された第一画像303(n)に対して、多重解像度画像生成部21は、第二平滑化フィルタ212によって第二平滑化処理を行う(ステップS3)。第二平滑化フィルタ212は、例えば5×5のガウシアンフィルタである。図6は、第二平滑化フィルタのフィルタ係数の一例を示す図である。
次に、多重解像度画像生成部21は、第二平滑化処理を施した画像から、偶数番号が割り当てられた行・列の画素データから構成される縦横1/2サイズの画像を作成する(ステップS5)。この画像のことを以下ではスケールダウン画像、こうした処理をスケールダウンと呼ぶことにする。
なお、第一の実施形態では先頭行および先頭列をそれぞれ、0行目および0列目と呼ぶこととする。つまり第一の実施形態で取り扱われる画像は偶数番号が割り当てられた列・行から始まることとする。
スケールダウン画像の画像サイズは(Mn/2,Nn/2)となる。このスケールダウン画像は、次の解像度レベルである、解像度レベル(n+1)における起点画像301(n+1)として出力される。
なお、第一の実施形態では先頭行および先頭列をそれぞれ、0行目および0列目と呼ぶこととする。つまり第一の実施形態で取り扱われる画像は偶数番号が割り当てられた列・行から始まることとする。
スケールダウン画像の画像サイズは(Mn/2,Nn/2)となる。このスケールダウン画像は、次の解像度レベルである、解像度レベル(n+1)における起点画像301(n+1)として出力される。
更に多重解像度画像生成部21は、スケールダウン画像のサイズを縦横2倍にして元の入力画像サイズと同じ(Mn,Nn)サイズの画像を作成する(ステップS7)。このとき行・列がともに偶数番号の画素にはスケールダウン画像の各データ値を割り当て、行・列のどちらかが奇数番号の画素には行・列がともに偶数番号の画素と同一の画素データ値をひとまず割り当てる。つまり、同一の画素データを持つ4つの画素が生成される。この画像のことを以下ではスケールアップ画像、こうした処理をスケールアップ、と呼ぶことにする。
その後、多重解像度画像生成部21は、スケールアップ画像に対して第二平滑化フィルタ212による第三平滑化処理を実行し、第二画像305(n)を作成する(ステップS9)。
その後、多重解像度画像生成部21は、スケールアップ画像に対して第二平滑化フィルタ212による第三平滑化処理を実行し、第二画像305(n)を作成する(ステップS9)。
次に、多重解像度画像生成部21は、第一画像303(n)と、第二画像305(n)との差(差分)を、各画素について計算した画像を生成する(ステップS11)。以下、この画像のことを、解像度レベルnの解像度画像307(n)と呼ぶ。
以上の操作により、解像度レベルnの起点画像301(n)から解像度レベルnの解像度画像307(n)が生成される。解像度レベルnの解像度画像307(n)は(Mn,Nn)サイズの画像である。
以上の操作により、解像度レベルnの起点画像301(n)から解像度レベルnの解像度画像307(n)が生成される。解像度レベルnの解像度画像307(n)は(Mn,Nn)サイズの画像である。
第一の実施形態において多重解像度画像生成部21は、こうした一連の処理(ステップS1〜S11までの平滑化処理、スケールダウン・スケールアップ、当該解像度レベルの解像度画像の算出)を繰り返し実行する。多重解像度画像生成部21は、最終的に、(2,2)サイズの「解像度画像」が算出されるまで、上記一連の処理を図3に示すように繰り返していくことで、いわゆる多重解像度画像を生成する。
解像度レベル0(元画像と同じサイズ)の解像度画像の画像サイズ(M,N)から解像度レベルnmaxの解像度画像(2×2)サイズまでの一連の解像度画像が、多重解像度画像の各解像度レベルの画像に対応しており、第一の実施形態の多重解像度画像生成部21では、このような一連の解像度画像の生成を行うことになる。なお解像度レベルnmaxは入力画像の画像サイズに応じて異なる値となる。
解像度レベル0(元画像と同じサイズ)の解像度画像の画像サイズ(M,N)から解像度レベルnmaxの解像度画像(2×2)サイズまでの一連の解像度画像が、多重解像度画像の各解像度レベルの画像に対応しており、第一の実施形態の多重解像度画像生成部21では、このような一連の解像度画像の生成を行うことになる。なお解像度レベルnmaxは入力画像の画像サイズに応じて異なる値となる。
第一の実施形態では、スケールダウン直前、及びスケールアップ直後に、第二平滑化フィルタ212として5×5のガウシアンフィルタを使用したが、これ以外の平滑化フィルタを使用してももちろんかまわない。また、平滑化フィルタを利用したスケールダウン、スケールアップではなく、いわゆる補間処理を使用して、スケールダウン、及びスケールアップを行ってもかまわない。補間処理の具体例としては、バイリニア法、バイキュービック法などを挙げることができ、これらを適用して、スケールダウン、スケールアップを行うことができる。
また、第一の実施形態における各解像度レベルでの解像度画像307は、第一画像303と第二画像305との差分から算出しているが、差分以外の方法でこの解像度画像を算出しても、本願発明の目的を達成することができる。たとえば、第一画像303と第二画像305との比率(割り算)により解像度画像を算出してもかまわない。
第一の実施形態では、スケールダウンを繰り返す際に、入力画像のサイズによっては、画像サイズ(行数又は列数)が奇数となってしまう場合が現れる。(本実施形態では、各行・各列に対して偶数番号である0から始まる番号を割り当てているので、偶数番号の行・列で終了することになる。)第一の実施形態では次のように対応している。
画像サイズ(例として行数P)が奇数となってしまった場合には、スケールダウン後の画像サイズ(行数)を(P+1)/2として、スケールダウンを行う。スケールダウン後の各画素にはスケールダウン前の偶数番号の行・列の各画素値が反映される。
なお、このような、各解像度画像における画像サイズの取り方は本願発明をなんら制限するものではない。たとえば、スケールダウン前の画像サイズ(行・列)が奇数の場合には1行(列)追加してから、1/2サイズにスケールダウンを行ってもよい。また別の方法として、入力画像の段階で画像サイズをあらかじめ2の階乗の行数、2の階乗の列数を有する画像に拡張してから多重解像画像の生成を行うようにしてもよい。
画像サイズ(例として行数P)が奇数となってしまった場合には、スケールダウン後の画像サイズ(行数)を(P+1)/2として、スケールダウンを行う。スケールダウン後の各画素にはスケールダウン前の偶数番号の行・列の各画素値が反映される。
なお、このような、各解像度画像における画像サイズの取り方は本願発明をなんら制限するものではない。たとえば、スケールダウン前の画像サイズ(行・列)が奇数の場合には1行(列)追加してから、1/2サイズにスケールダウンを行ってもよい。また別の方法として、入力画像の段階で画像サイズをあらかじめ2の階乗の行数、2の階乗の列数を有する画像に拡張してから多重解像画像の生成を行うようにしてもよい。
<<<ラプラシアンピラミッド>>>
多重解像度画像生成部21が生成する多重解像度画像は、各解像度レベルの起点画像に平滑化処理を施す点で、本来のラプラアンピラミッドとは異なる。しかし、それ以外の点においてはラプラアンピラミッドと同等である。即ち、ラプラシアンピラミッドの本質的な部分である「各解像度レベルにおいて、起点画像とスケールダウン・スケールアップ画像との差分をとることで、当該解像度レベルでの解像度画像を生成する」という点については、本実施形態の多重解像度画像と、いわゆるラプラシアンピラミッドとは同じである。上記事情に鑑みて、本明細書においては、多重解像度画像生成部21が生成する多重解像度画像を便宜的に「ラプラシアンピラミッド」と表現する。
本実施形態において多重解像度画像生成部21は、はじめに各解像度レベルの起点画像に第一平滑化処理を施して第一画像を生成し、第一画像に対して、一連の処理(平滑化、ダウンスケール、アップスケール、平滑化)を施した第二画像を生成し、第一画像と第二画像との差分をとることで当該解像度レベルにおける解像度画像(ラプラシアン成分画像)を算出する。
ラプラシアンピラミッドの生成、及びラプラシアンピラミッドからの画像再構築に必要な処理は基本的な画像処理の繰り返しである。また、ラプラシアンピラミッドの生成に係る画像処理は、他の多重解像度画像(例えば離散ウェーブレット変換)に比べて計算量も比較的軽量であるといった特徴を有する。
多重解像度画像生成部21が生成する多重解像度画像は、各解像度レベルの起点画像に平滑化処理を施す点で、本来のラプラアンピラミッドとは異なる。しかし、それ以外の点においてはラプラアンピラミッドと同等である。即ち、ラプラシアンピラミッドの本質的な部分である「各解像度レベルにおいて、起点画像とスケールダウン・スケールアップ画像との差分をとることで、当該解像度レベルでの解像度画像を生成する」という点については、本実施形態の多重解像度画像と、いわゆるラプラシアンピラミッドとは同じである。上記事情に鑑みて、本明細書においては、多重解像度画像生成部21が生成する多重解像度画像を便宜的に「ラプラシアンピラミッド」と表現する。
本実施形態において多重解像度画像生成部21は、はじめに各解像度レベルの起点画像に第一平滑化処理を施して第一画像を生成し、第一画像に対して、一連の処理(平滑化、ダウンスケール、アップスケール、平滑化)を施した第二画像を生成し、第一画像と第二画像との差分をとることで当該解像度レベルにおける解像度画像(ラプラシアン成分画像)を算出する。
ラプラシアンピラミッドの生成、及びラプラシアンピラミッドからの画像再構築に必要な処理は基本的な画像処理の繰り返しである。また、ラプラシアンピラミッドの生成に係る画像処理は、他の多重解像度画像(例えば離散ウェーブレット変換)に比べて計算量も比較的軽量であるといった特徴を有する。
《多重解像度画像操作部の処理》
多重解像度画像操作部22は、上述の処理によって算出された夫々の解像度画像307(n)に対して、以下のような計算式によりデータ値を操作(変換或いは修正)して、操作後の解像度画像309(n)を算出する(ステップS13)。
多重解像度画像操作部22は、上述の処理によって算出された夫々の解像度画像307(n)に対して、以下のような計算式によりデータ値を操作(変換或いは修正)して、操作後の解像度画像309(n)を算出する(ステップS13)。
ここで、上記の各文字の意味は以下のとおりである。
L’n(x,y)・・・解像度レベルnにおけるデータ値操作後の解像度画像のデータ値。nは0〜入力画像サイズによって決まる上限nmax、の範囲を取る。
|Ln(x,y)|・・・解像度レベルnにおける変換前の解像度画像のデータ値の絶対値(大きさ)。nは0〜入力画像サイズによって決まる上限nmax、の範囲を取る。
sign・・・Ln(x,y)の値が、正の場合は「1」、負の場合は「−1」をとる。
range・・・第一の実施形態では、YCbCr色空間のY成分を元画像としており、Y成分は0.0〜1.0の範囲をとるため、「range=0.1」とした(なお、このrangeの値は元画像のダイナミックレンジに依存する)。
α・・・第一の実施形態では「α=0.6」とした。
grad・・・第一の実施形態では「grad=0.6」とした(なお、このgradの値も元画像のダイナミックレンジに依存する)。
L’n(x,y)・・・解像度レベルnにおけるデータ値操作後の解像度画像のデータ値。nは0〜入力画像サイズによって決まる上限nmax、の範囲を取る。
|Ln(x,y)|・・・解像度レベルnにおける変換前の解像度画像のデータ値の絶対値(大きさ)。nは0〜入力画像サイズによって決まる上限nmax、の範囲を取る。
sign・・・Ln(x,y)の値が、正の場合は「1」、負の場合は「−1」をとる。
range・・・第一の実施形態では、YCbCr色空間のY成分を元画像としており、Y成分は0.0〜1.0の範囲をとるため、「range=0.1」とした(なお、このrangeの値は元画像のダイナミックレンジに依存する)。
α・・・第一の実施形態では「α=0.6」とした。
grad・・・第一の実施形態では「grad=0.6」とした(なお、このgradの値も元画像のダイナミックレンジに依存する)。
図7は、第一の実施形態における多重解像度画像操作部による多重解像度画像の操作前後のデータ値の関係を示した模式図である。図中水平方向に操作前の解像度画像のデータ値「Ln(x,y)」をとり、垂直方向に操作後の解像度画像のデータ値「L’n(x,y)」をとっている。図7の実太線が式(2)により算出されたデータ値を示している。なお、破線は傾き1の直線であり、データ値Lに対して操作を加えない場合に対応している。
図7から明らかなように、絶対値が小さなデータ値(ラプラシアン成分の絶対値が小さいもの)に対しては相対的に大きく増加するような変化を与えて、変換後にはデータ値が増加するようにしている。一方で、大きなデータ値(解像度画像のデータ値が大きいもの)に対しては、相対的に小さく増加するような変化または減少するような変化を与えて、変換後にはデータ値が少なめの増加あるいは減少となるようにしている。
図7から明らかなように、絶対値が小さなデータ値(ラプラシアン成分の絶対値が小さいもの)に対しては相対的に大きく増加するような変化を与えて、変換後にはデータ値が増加するようにしている。一方で、大きなデータ値(解像度画像のデータ値が大きいもの)に対しては、相対的に小さく増加するような変化または減少するような変化を与えて、変換後にはデータ値が少なめの増加あるいは減少となるようにしている。
第一の実施形態では多重解像度画像の操作例として式(2)に基づく操作を例示したが、このことは本願発明を限定するものではない。これ以外の方法であってももちろんかまわない。例えば式(2)のような数式に基づく操作ではなく、ルックアップテーブル(LUT)を利用した操作でもかまわない。
なお、第一の実施形態において多重解像度操作部12に入力されるデータはYCbCr色空間のY成分であるので、入力画像のダイナミックレンジ(Dr)は、1.0となる(入力画像のY成分は0.0〜1.0の値をとる)。
また、第一の実施形態では図7から分かるように各解像度画像のデータ値を増加させるように操作したデータ値範囲(L/Dr)は上述の「range」に対応するため、0.1という値になる。このため、第一の実施形態は下記の関係式(3)を満たす条件となっている。
なお、第一の実施形態において多重解像度操作部12に入力されるデータはYCbCr色空間のY成分であるので、入力画像のダイナミックレンジ(Dr)は、1.0となる(入力画像のY成分は0.0〜1.0の値をとる)。
また、第一の実施形態では図7から分かるように各解像度画像のデータ値を増加させるように操作したデータ値範囲(L/Dr)は上述の「range」に対応するため、0.1という値になる。このため、第一の実施形態は下記の関係式(3)を満たす条件となっている。
L/Dr<0.1
・・・式(3)
・・・式(3)
つまり、多重解像度操作部12は、操作前の解像度画像のデータ値「Ln(x,y)」が「−0.1<Ln(x,y)<0.1」の範囲内にある場合、操作後の解像度画像のデータ値「L’n(x,y)」が操作前よりも増加するように操作する。
《再構成部の処理》
再構成部23は、多重解像度画像生成部21と逆の操作を繰り返して、明るさ成分画像を再構成する。
つまり、低解像側の解像度レベル(n+1)から出力された中間再構成画像311(n+1)に対してスケールアップを実施し(ステップS15)、その後、第二平滑化フィルタ212である5×5のガウシアンフィルタで第四平滑化処理を行って(ステップS17)、第三画像313(n)を生成する。また、再構成部23は、第三画像313(n)に対して操作後の解像度データ309(n)を加算する処理を実行する(ステップS19)。
こうした操作を各解像度レベルで繰り返し行うことで、最終的に解像度レベル0の明るさ成分画像Y”(x,y)を再構成する。
ここで、解像度レベルn=nmaxの処理のとき再構成部23がスケールアップする画像は、図3に示すように多重解像度画像生成部21が生成したスケールダウン画像である。
再構成部23は、多重解像度画像生成部21と逆の操作を繰り返して、明るさ成分画像を再構成する。
つまり、低解像側の解像度レベル(n+1)から出力された中間再構成画像311(n+1)に対してスケールアップを実施し(ステップS15)、その後、第二平滑化フィルタ212である5×5のガウシアンフィルタで第四平滑化処理を行って(ステップS17)、第三画像313(n)を生成する。また、再構成部23は、第三画像313(n)に対して操作後の解像度データ309(n)を加算する処理を実行する(ステップS19)。
こうした操作を各解像度レベルで繰り返し行うことで、最終的に解像度レベル0の明るさ成分画像Y”(x,y)を再構成する。
ここで、解像度レベルn=nmaxの処理のとき再構成部23がスケールアップする画像は、図3に示すように多重解像度画像生成部21が生成したスケールダウン画像である。
再構成部23におけるスケールアップ(ステップS15)も、多重解像度画像生成部21におけるスケールアップ(ステップS7)と同じ手法で計算する。つまり、再構成部23は、解像度レベル(n+1)の中間再構成画像311(n+1)から、操作後の解像度画像309(n)と同サイズの画像(基本的には(Mn/2,Nn/2)サイズの画像を縦横2倍にした(Mn,Nn)サイズの画像)を作成する。行・列がともに偶数番号の画素に低解像側の中間再構成画像のデータ値を設定し、行・列のどちらかの番号が奇数の場合には、行・列がともに偶数番号の画素データ値をひとまず割り当てる(つまり同一の画素データを持つ4つの画素が生成される)。
その後、第二平滑化フィルタ212である5×5のガウシアンフィルタにより平滑化処理を行った画像を作成することで、スケールアップ画像である第三画像313(n)を生成する。
その後、第二平滑化フィルタ212である5×5のガウシアンフィルタにより平滑化処理を行った画像を作成することで、スケールアップ画像である第三画像313(n)を生成する。
画像処理装置1では、図2に示すように、このような一連の処理によって生成された新たな明るさ成分画像(Y”(x,y)、又は再構成データ311(0)と称する)と色成分画像330(CrCb)とを色合成部13が合成する。また、色合成部13は合成した画像についてYCbCr色空間からRGB色空間への変換を行い、RGBの色成分をもつ画像を出力画像Doutとして出力する。なお、CbCr成分については入力画像Dinから生成した後には、特になにも加工をせずに使用する。
第一の実施形態では、この色成分であるCbCr成分に特に操作を行うことはしないが、このことは本願発明を限定するものではなく、彩度の強調などを行って、より鮮やかな画像を出力するような構成であってももちろんかまわない。
第一の実施形態では、この色成分であるCbCr成分に特に操作を行うことはしないが、このことは本願発明を限定するものではなく、彩度の強調などを行って、より鮮やかな画像を出力するような構成であってももちろんかまわない。
〔第二の実施形態〕
第一の実施形態では、全ての解像度レベルにおいて「各解像度レベルの起点画像に平滑化処理を施してから各解像度レベルでの解像度画像を生成する」のに対して、第二の実施形態では、一部の解像度レベルについては第一の実施形態と同様の処理により各解像度レベルでの解像度画像を生成し、他部の解像度レベルについては「各解像度レベルの起点画像から直接、各解像度レベルでの解像度画像を生成する」点で第一の実施形態と相違する。より具体的には、線画像周辺のアーティファクトの抑制に有効な解像度レベルについてのみ、起点画像に平滑化処理を実行する点で、第一の実施形態と相違する。
第一の実施形態では、全ての解像度レベルにおいて「各解像度レベルの起点画像に平滑化処理を施してから各解像度レベルでの解像度画像を生成する」のに対して、第二の実施形態では、一部の解像度レベルについては第一の実施形態と同様の処理により各解像度レベルでの解像度画像を生成し、他部の解像度レベルについては「各解像度レベルの起点画像から直接、各解像度レベルでの解像度画像を生成する」点で第一の実施形態と相違する。より具体的には、線画像周辺のアーティファクトの抑制に有効な解像度レベルについてのみ、起点画像に平滑化処理を実行する点で、第一の実施形態と相違する。
図8は、第二の実施形態において、他部の解像度レベルに適用される多重解像度操作部による処理の概要を示す模式図である。以下、第一の実施形態と同一の処理についての説明は適宜省略する。
図8に記載しているように、多重解像度画像生成部21は、解像度レベルnの起点画像301(n)((Mn,Nn)サイズ)に対して、直接、第二平滑化フィルタ212である5×5のガウシアンフィルタにより平滑化処理を行う(ステップS31)。なお、第二平滑化フィルタ212のフィルタ係数は第一の実施形態と同様であり、図6で示したものである。
次に、多重解像度画像生成部21は、平滑化処理を施した画像から、偶数番号が割り当てられた行・列の画素データから構成される縦横1/2サイズの画像(第二スケールダウン画像)を作成する(ステップS33)。
なお、図8でも先頭行および先頭列をそれぞれ、0行目および0列目と呼ぶこととする(つまり第一の実施形態とおなじく、画像は偶数番号が割り当てられた列・行から始まることとする)。
第二スケールダウン画像の画像サイズは(Mn/2,Nn/2)となる。第二スケールダウン画像は、次の解像度レベルである、解像度レベル(n+1)における起点画像301(n+1)となる。
図8に記載しているように、多重解像度画像生成部21は、解像度レベルnの起点画像301(n)((Mn,Nn)サイズ)に対して、直接、第二平滑化フィルタ212である5×5のガウシアンフィルタにより平滑化処理を行う(ステップS31)。なお、第二平滑化フィルタ212のフィルタ係数は第一の実施形態と同様であり、図6で示したものである。
次に、多重解像度画像生成部21は、平滑化処理を施した画像から、偶数番号が割り当てられた行・列の画素データから構成される縦横1/2サイズの画像(第二スケールダウン画像)を作成する(ステップS33)。
なお、図8でも先頭行および先頭列をそれぞれ、0行目および0列目と呼ぶこととする(つまり第一の実施形態とおなじく、画像は偶数番号が割り当てられた列・行から始まることとする)。
第二スケールダウン画像の画像サイズは(Mn/2,Nn/2)となる。第二スケールダウン画像は、次の解像度レベルである、解像度レベル(n+1)における起点画像301(n+1)となる。
多重解像度画像生成部21は、第二スケールダウン画像のサイズを縦横2倍にして、起点画像と同じ(Mn,Nn)サイズの第二スケールアップ画像を作成する(ステップS35)。このとき行・列がともに偶数番号の画素には第二スケールダウン画像の各データ値を割り当て、行・列のどちらかが奇数番号の画素には行・列がともに偶数番号の画素と同一の画素データ値をひとまず割り当てる。つまり、同一の画素データを持つ4つの画素が生成される。
その後、多重解像度画像生成部21は、第二スケールアップ画像に対して第二平滑化フィルタ212として、図6に示す5×5のガウシアンフィルタにより平滑化処理を実行して(ステップS37)、スケールダウン及びスケールアップされた第四画像315(n)を生成する。
続いて多重解像度画像生成部21は、解像度レベルnの起点画像301(n)と、第四画像315(n)との差分を各画素について計算し、解像度レベルnの解像度画像317(n)(サイズ(Mn,Nn))を生成する(ステップS39)。
その後、多重解像度画像生成部21は、第二スケールアップ画像に対して第二平滑化フィルタ212として、図6に示す5×5のガウシアンフィルタにより平滑化処理を実行して(ステップS37)、スケールダウン及びスケールアップされた第四画像315(n)を生成する。
続いて多重解像度画像生成部21は、解像度レベルnの起点画像301(n)と、第四画像315(n)との差分を各画素について計算し、解像度レベルnの解像度画像317(n)(サイズ(Mn,Nn))を生成する(ステップS39)。
第二の実施形態における、多重解像度画像操作部22による処理と再構成部23による処理は第一の実施形態と同様であるので、説明を省略する。
第二の実施形態では、高解像度側の解像度レベル(nの値が小さな解像度レベル)については、起点画像301に対して第一平滑化フィルタ211(ステップS1)を施してから図4のスケールダウン、スケールアップ、及び解像度画像の算出(ステップS3〜S11)を実行する。その一方で、低解像度側の解像度レベル(nの値が大きな解像度レベル)については、起点画像301に対して第一平滑化フィルタ211を施さずに直接スケールダウン、スケールアップ、及び解像度画像の算出(ステップS31〜S39)を実行する。
どの解像度レベルを高解像度側とするか低解像度側とするかについては、入力画像のサイズに基づいて決定されるべきであるため、一概には規定できない。しかし、一例として多重解像度画像生成部21は、解像度レベル0から「nmax/2」までを高解像度側として図4に示した処理を実行し、その他の解像度レベルを低解像度側として図8に示した処理を実行することができる。
発明者の行った検討での一例を挙げるとすれば、入力画像のサイズが、4928×3280pxである場合の実際の画像処理試験では、解像度レベル0から解像度レベル6までを高解像度側、解像度レベル7から解像度レベル12までを低解像度側とすることで狙いの特性の画像を得ることができた。即ち、得られた画像は、明瞭感や凹凸感を向上させる一方で、線画像周辺で発生するアーティファクトが低減・解消されたものとなった。
発明者の行った検討での一例を挙げるとすれば、入力画像のサイズが、4928×3280pxである場合の実際の画像処理試験では、解像度レベル0から解像度レベル6までを高解像度側、解像度レベル7から解像度レベル12までを低解像度側とすることで狙いの特性の画像を得ることができた。即ち、得られた画像は、明瞭感や凹凸感を向上させる一方で、線画像周辺で発生するアーティファクトが低減・解消されたものとなった。
〔第三の実施形態〕
第三の実施形態に係る画像処理について説明する。本実施形態においては、第一の実施形態に示した第一平滑化フィルタのフィルタ係数における中心画素の重みWRが、以下の式(4)を満たす点に特徴がある。
第三の実施形態に係る画像処理について説明する。本実施形態においては、第一の実施形態に示した第一平滑化フィルタのフィルタ係数における中心画素の重みWRが、以下の式(4)を満たす点に特徴がある。
0.3≦WR≦0.8
・・・式(4)
・・・式(4)
「中心画素の重みWR」とは、フィルタ係数の各画素の総和(図5では「256/256=1」に相当する)に対する、中心画素の比率(図5では「204/256=0.80」に相当する)を意味する。つまり、図5で例示しているフィルタ係数では、中心画素の重みWRは0.80となる。
発明者の行った検討では、中心画素の重みWRの値が大きくなると(1.0に近づくと)、「線画像周辺のアーティファクト(人工的な濃淡)が解消しきれずに知覚されてしまう」といった不具合が発生することが明らかになった。一方で、中心画素の重みWRの値が小さくなると、アーティファクトを発生させることなく「明瞭感」や「凹凸感」を意図通りに向上させることができるものの、「画像の細部のボケ」が発生するという問題が生じることが明らかとなった。この「画像の細部のボケ」とは、特に写真画像を拡大して表示・閲覧したときなどに、画像の細部が鮮鋭さを欠き、ボケたように感じる不具合である。
次に、発明者の行った比較実験(主観評価実験)を説明する。第一の実施形態と同じ構成の画像処理装置1において、第一平滑化フィルタ211に相当する平滑化フィルタとして、「中心画素の重みWR」の値が異なるフィルタを準備して、この実験に使用した。
また、処理を行う対象画像は、風景などを中心に「線画像が均一輝度領域中に走っているような画像」を60種用意して、処理後の画像に「線画像の周辺に、アーティファクトが発生しているか否か」といった観点、および、「画像の細部のボケが認められるか否か」といった観点で、発明者が主観で評価を行うことで、本比較実験を実施した。
また、処理を行う対象画像は、風景などを中心に「線画像が均一輝度領域中に走っているような画像」を60種用意して、処理後の画像に「線画像の周辺に、アーティファクトが発生しているか否か」といった観点、および、「画像の細部のボケが認められるか否か」といった観点で、発明者が主観で評価を行うことで、本比較実験を実施した。
表1が、「中心画素の重みWR」を変えた場合の主観評価結果である。
「○」、「×」の意味はそれぞれ以下のとおりである。
「線画像周辺でのアーティファクト」の項目に関して、「○」はアーティファクトが解消された状態を表し、「×」はアーティファクトが一部では解消しきれずに知覚されてしまう状態を、それぞれ表している。
「画像の細部のボケ」の項目に関して、「○」は画像の細部がボケたように感じずに特に不具合を感じない状態を表し、「×」は画像の細部がボケたように感じられてしまい望ましいとはいえない状態を、それぞれ表している。
表1で示した結果からわかるように、フィルタ係数における中心画素の重みWRを式(4)で規定した範囲内とすることで、「線画像の周辺でアーティファクトが発生する」という不具合と、「画像の細部のボケ」といった不具合とを、ともに解消することができ、良好な処理結果を得ることができる。
「線画像周辺でのアーティファクト」の項目に関して、「○」はアーティファクトが解消された状態を表し、「×」はアーティファクトが一部では解消しきれずに知覚されてしまう状態を、それぞれ表している。
「画像の細部のボケ」の項目に関して、「○」は画像の細部がボケたように感じずに特に不具合を感じない状態を表し、「×」は画像の細部がボケたように感じられてしまい望ましいとはいえない状態を、それぞれ表している。
表1で示した結果からわかるように、フィルタ係数における中心画素の重みWRを式(4)で規定した範囲内とすることで、「線画像の周辺でアーティファクトが発生する」という不具合と、「画像の細部のボケ」といった不具合とを、ともに解消することができ、良好な処理結果を得ることができる。
〔第四の実施形態〕
第一の実施形態では、多重解像度画像がラプラシアンピラミッドとなっていたのに対して、第四の実施形態では、多重解像度画像が2次元の離散ウェーブレット変換を繰り返すことによって生成される画像である点に特徴がある。
第四の実施形態においても第一の実施形態と同様に、各解像度レベルの起点画像に対して第一平滑化フィルタ211による平滑化処理を実行して第一画像303(図4参照)を生成し、生成された第一画像に対して2次元の離散ウェーブレット変換を実行する。
しかしながら、起点画像に“はじめに”平滑化処理を施す点を除けば、第四の実施形態での多重解像度画像は、2次元の離散ウェーブレット変換を繰り返すことによって、生成される多重解像度画像と同じである。こうした理由により、第四の実施形態では、便宜的に、生成される多重解像度画像を「2次元の離散ウェーブレット変換を繰り返すことによって生成される多重解像度」と表現する。
第一の実施形態では、多重解像度画像がラプラシアンピラミッドとなっていたのに対して、第四の実施形態では、多重解像度画像が2次元の離散ウェーブレット変換を繰り返すことによって生成される画像である点に特徴がある。
第四の実施形態においても第一の実施形態と同様に、各解像度レベルの起点画像に対して第一平滑化フィルタ211による平滑化処理を実行して第一画像303(図4参照)を生成し、生成された第一画像に対して2次元の離散ウェーブレット変換を実行する。
しかしながら、起点画像に“はじめに”平滑化処理を施す点を除けば、第四の実施形態での多重解像度画像は、2次元の離散ウェーブレット変換を繰り返すことによって、生成される多重解像度画像と同じである。こうした理由により、第四の実施形態では、便宜的に、生成される多重解像度画像を「2次元の離散ウェーブレット変換を繰り返すことによって生成される多重解像度」と表現する。
第四の実施形態における処理の概要は以下の通りである。なお、2次元の離散ウェーブレット変換については、公知であるため、ここでは詳細な説明を省略する。図9は第四の実施形態における多重解像度操作部による処理の概要を示す模式図である。
まず多重解像度画像生成部21が、起点画像301(n)に対して、第一平滑化フィルタ211による第一平滑化処理を実行して第一画像303(n)を生成する(ステップS41)。
まず多重解像度画像生成部21が、起点画像301(n)に対して、第一平滑化フィルタ211による第一平滑化処理を実行して第一画像303(n)を生成する(ステップS41)。
次に、多重解像度画像生成部21が、第一画像303(n)に対して2次元の離散ウェーブレット変換を実行して、第一画像303(n)を低周波係数であるLLと3つの高周波係数であるLH、HL、HHとに分解する(ステップS41)。ステップS41では、第一画像303(n)に対して二次元の離散ウェーブレット変換を用いた一連の処理(X方向ダウンサンプリング、X方向アップサンプリング、又は、Y方向ダウンサンプリング、Y方向アップサンプリング)を施した第二画像を生成し、第一画像と第二画像との差分をとることで当該解像度における解像度画像(いわゆる、HH、LH、HL成分)を算出する。
生成された低周波係数LLについては、次段の解像度レベルの起点画像301(n+1)として第一平滑化フィルタ211による第一平滑化処理と、2次元の離散ウェーブレット変換とが繰り返し適用されることにより、各解像度レベルでのLL、LH、HL、HHの各係数が算出される。
算出された解像度レベルnのLH、HL、HHの各係数(解像度画像321(n))に対して、多重解像度画像操作部22が式(2)に基づく操作を実行する(ステップS43)。
多重解像度画像操作部22によって操作されたLH,HL,HHの各係数(操作後の解像度画像323(n))と、次段の解像度レベル(n+1)の中間再構成画像325(n+1)(LL係数)とを、再構成部23がウェーブレット逆変換によって再構成し、当該解像度レベルでの起点画像と同サイズの中間再構成画像325(n)を生成する(ステップS45)。
生成された低周波係数LLについては、次段の解像度レベルの起点画像301(n+1)として第一平滑化フィルタ211による第一平滑化処理と、2次元の離散ウェーブレット変換とが繰り返し適用されることにより、各解像度レベルでのLL、LH、HL、HHの各係数が算出される。
算出された解像度レベルnのLH、HL、HHの各係数(解像度画像321(n))に対して、多重解像度画像操作部22が式(2)に基づく操作を実行する(ステップS43)。
多重解像度画像操作部22によって操作されたLH,HL,HHの各係数(操作後の解像度画像323(n))と、次段の解像度レベル(n+1)の中間再構成画像325(n+1)(LL係数)とを、再構成部23がウェーブレット逆変換によって再構成し、当該解像度レベルでの起点画像と同サイズの中間再構成画像325(n)を生成する(ステップS45)。
以上の処理を繰り返し実行することにより、最終的に入力画像と同サイズの明るさ成分画像(Y”(x,y))を生成する。以降の色合成部13による色合成処理は、第一の実施形態と同じであるため、説明を省略する。
第四の実施形態においても、明瞭感や凹凸感を向上させて、線画像の周辺でのアーティファクトを解消することができる。
第四の実施形態においても、明瞭感や凹凸感を向上させて、線画像の周辺でのアーティファクトを解消することができる。
〔第五の実施形態〕
第一の実施形態と第五の実施形態との相違点は、各解像度レベルにおいて多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が異なる点にある。より具体的には、第五の実施形態では低勾配領域(解像度画像のデータ値の絶対値|L|が小さな値となっている箇所)では、第一の実施形態と比較してデータ値の強調を抑制している。
第一の実施形態と第五の実施形態との相違点は、各解像度レベルにおいて多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が異なる点にある。より具体的には、第五の実施形態では低勾配領域(解像度画像のデータ値の絶対値|L|が小さな値となっている箇所)では、第一の実施形態と比較してデータ値の強調を抑制している。
図10(a)、(b)は、多重解像度画像操作部による操作前後のデータ値の関係を示した図である。図10(a)は「−0.2<L<0.2」の範囲を示し、(b)は「−0.1<L<0.1」の範囲を示している。即ち、図10(b)は、図10(a)の、データ値Lの絶対値が小さい領域を拡大して示した図である。なお、図10において、細実線は第一の実施形態における操作前後のデータ値を示し(図7の太実線に対応する)、太実線は第五の実施形態における操作前後のデータ値を示している。破線は傾き1の直線であり、データ値Lに対して操作を加えない場合に対応している。
第一の実施形態と第五の実施形態では、「|L|<0.04」の領域におけるデータ値の操作態様が異なっている。なお、「|L|>0.04」の領域におけるデータ値の操作内容は同一である。つまり、第五の実施形態では、「|L|<0.04」の領域において、データ値の強調が、第一の実施形態と比較して抑制された構成となっている。解像度画像値の強調を抑制する範囲について「|L|<0.04」というのは一例である。
第一の実施形態と第五の実施形態では、「|L|<0.04」の領域におけるデータ値の操作態様が異なっている。なお、「|L|>0.04」の領域におけるデータ値の操作内容は同一である。つまり、第五の実施形態では、「|L|<0.04」の領域において、データ値の強調が、第一の実施形態と比較して抑制された構成となっている。解像度画像値の強調を抑制する範囲について「|L|<0.04」というのは一例である。
第五の実施形態における作用、効果について説明する。
画像に含まれるノイズ成分は、画像の信号成分(実際に撮影対象に存在していた濃淡)とは異なり、強調したくない成分である。その一方で、様々な理由によって発生するノイズが撮影画像に含まれる(重畳されてしまう)ことを避けることは非常に難しい。発明者の検討によれば、こうしたノイズ成分は決して大きな勾配を有するものではなく、ごく小さな勾配によるものであることが多いという特徴を有することが判明した。「ごく小さな勾配」は解像度画像のデータ値では「ごく小さなデータ値」に対応する。
画像に含まれるノイズ成分は、画像の信号成分(実際に撮影対象に存在していた濃淡)とは異なり、強調したくない成分である。その一方で、様々な理由によって発生するノイズが撮影画像に含まれる(重畳されてしまう)ことを避けることは非常に難しい。発明者の検討によれば、こうしたノイズ成分は決して大きな勾配を有するものではなく、ごく小さな勾配によるものであることが多いという特徴を有することが判明した。「ごく小さな勾配」は解像度画像のデータ値では「ごく小さなデータ値」に対応する。
一方で、画像の信号成分は、ノイズ成分と比較して、解像度画像のデータ値のうち、やや大きなデータ値に対応することが検討により明らかになった。第五の実施形態はこうした検討結果を反映したものである。
つまり、解像度画像のデータ値の操作では、ノイズ成分の強調につながりやすい小さなデータ値の強調を抑制して、ノイズ成分の強調を防止している。
第五の実施形態によれば、ノイズ成分の強調を抑えながら画像の信号成分を強調して、「明瞭感」および「凹凸感」の改善をはかることができる。
つまり、解像度画像のデータ値の操作では、ノイズ成分の強調につながりやすい小さなデータ値の強調を抑制して、ノイズ成分の強調を防止している。
第五の実施形態によれば、ノイズ成分の強調を抑えながら画像の信号成分を強調して、「明瞭感」および「凹凸感」の改善をはかることができる。
〔第六の実施形態〕
第六の実施形態と第五の実施形態との相違点は、多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が各解像度レベルに応じて異なる点にある。より詳しくは、第六の実施形態においては解像度レベルを低解像度レベル、中解像度レベル、高解像度レベルの3パターンに分類する。多重解像度画像操作部は、低解像度レベルと高解像度レベルにおいては、第五の実施形態に示した内容のデータ値操作を実行し、中解像度レベルにおいては、第一の実施形態に示した内容のデータ値操作を実行する。
即ち、低解像度レベルと高解像度レベルにおいては、低勾配領域(解像度画像のデータ値の絶対値|L|が小さな値となっている箇所)のデータ値の強調を抑制する。中解像度レベルにおいては、低勾配領域のデータ値の強調を抑制することなく、データ値を操作する構成となっている。
第六の実施形態と第五の実施形態との相違点は、多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が各解像度レベルに応じて異なる点にある。より詳しくは、第六の実施形態においては解像度レベルを低解像度レベル、中解像度レベル、高解像度レベルの3パターンに分類する。多重解像度画像操作部は、低解像度レベルと高解像度レベルにおいては、第五の実施形態に示した内容のデータ値操作を実行し、中解像度レベルにおいては、第一の実施形態に示した内容のデータ値操作を実行する。
即ち、低解像度レベルと高解像度レベルにおいては、低勾配領域(解像度画像のデータ値の絶対値|L|が小さな値となっている箇所)のデータ値の強調を抑制する。中解像度レベルにおいては、低勾配領域のデータ値の強調を抑制することなく、データ値を操作する構成となっている。
高解像度レベル、中解像度レベル、低解像度レベルの区分例について説明する。例えば、入力画像の画素数が4928×3280pxである場合、解像度レベルnmaxは12であるので、多重解像度操作部12は、解像度レベル0から12までの多重解像度画像(解像度画像)を生成する。
第六の実施形態においては、解像度レベル0,1,2を高解像度の解像度レベルとし、多重解像度画像操作部22が、第五の実施形態(図10参照)に示した低勾配領域のデータ値の強調を押さえた操作を実行する。続いて、解像度レベル3〜7を中解像度の解像度レベルとし、多重解像度画像操作部22が、第一の実施形態(図7参照)に示したデータ値の操作を実行する。最後に、解像度レベル8〜12を低解像度の解像度レベルとし、多重解像度画像操作部22が、第五の実施形態(図10参照)に示した低勾配領域のデータ値の強調を押さえた操作を実行する。
第六の実施形態においては、解像度レベル0,1,2を高解像度の解像度レベルとし、多重解像度画像操作部22が、第五の実施形態(図10参照)に示した低勾配領域のデータ値の強調を押さえた操作を実行する。続いて、解像度レベル3〜7を中解像度の解像度レベルとし、多重解像度画像操作部22が、第一の実施形態(図7参照)に示したデータ値の操作を実行する。最後に、解像度レベル8〜12を低解像度の解像度レベルとし、多重解像度画像操作部22が、第五の実施形態(図10参照)に示した低勾配領域のデータ値の強調を押さえた操作を実行する。
第六の実施形態における作用、効果について説明する。
第五の実施形態において、画像に含まれるノイズ成分は、大きな勾配ではなくごく小さな勾配によるものであることが多いことをすでに説明した。
発明者の検討によると、画像に含まれるノイズ成分はさらに、高解像度画像に多く含まれることが判明した。その一方で、中解像度画像には、ごく小さな勾配にも画像の信号成分(実際に撮影対象に存在していた濃淡)が含まれる、ということも明らかになった。そして、低解像度画像では、ノイズというよりも低勾配側を強調することによって濃度段差(擬似輪郭)が目立ちやすいといった問題があり、解像度画像のデータ値のうち、ごく小さな勾配に対応するごく小さなデータ値の強調を抑制することによって、こうした問題の発生を解消することができることができる。
つまり、第六の実施形態に示した構成により、ノイズの強調や、階調段差(擬似輪郭)の発生を抑制しながら、画像の信号成分(実際に撮影対象に存在していた濃淡)を必要以上に抑制することなく、画像の信号成分を強調することができるようになる。その結果として、画像の「明瞭感」および「凹凸感」の改善を行うことができる。
第五の実施形態において、画像に含まれるノイズ成分は、大きな勾配ではなくごく小さな勾配によるものであることが多いことをすでに説明した。
発明者の検討によると、画像に含まれるノイズ成分はさらに、高解像度画像に多く含まれることが判明した。その一方で、中解像度画像には、ごく小さな勾配にも画像の信号成分(実際に撮影対象に存在していた濃淡)が含まれる、ということも明らかになった。そして、低解像度画像では、ノイズというよりも低勾配側を強調することによって濃度段差(擬似輪郭)が目立ちやすいといった問題があり、解像度画像のデータ値のうち、ごく小さな勾配に対応するごく小さなデータ値の強調を抑制することによって、こうした問題の発生を解消することができることができる。
つまり、第六の実施形態に示した構成により、ノイズの強調や、階調段差(擬似輪郭)の発生を抑制しながら、画像の信号成分(実際に撮影対象に存在していた濃淡)を必要以上に抑制することなく、画像の信号成分を強調することができるようになる。その結果として、画像の「明瞭感」および「凹凸感」の改善を行うことができる。
〔第七の実施形態〕
第七の実施形態と第一の実施形態との相違点は、各解像度レベルにおいて多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が異なる点にある。より具体的には、第七の実施形態では、データ値の操作がコントラストを減少させる操作である点に特徴がある。
第七の実施形態と第一の実施形態との相違点は、各解像度レベルにおいて多重解像度画像操作部が実行する解像度画像のデータ値の操作内容が異なる点にある。より具体的には、第七の実施形態では、データ値の操作がコントラストを減少させる操作である点に特徴がある。
図11は、多重解像度画像操作部による操作前後のデータ値の関係を示した図である。太実線は第七の実施形態における操作前後のデータ値を示している。破線は傾き1の直線であり、データ値Lに対して操作を加えない場合に対応している。図示するように、「−Llim<L<0」の範囲において太実線は破線の上方に位置し、「0<L<Llim」の範囲において太実線は破線の下方に位置する。
即ち、多重解像度画像操作部22は「−Llim<L<Llim」の範囲において、データ値Lが負の場合に操作後のデータ値L’が元のデータ値Lよりも小さくなるように操作し、データ値Lが正の場合に操作後のデータ値L’が元のデータ値Lよりも大きくなるように操作する。
即ち、多重解像度画像操作部22は「−Llim<L<Llim」の範囲において、データ値Lが負の場合に操作後のデータ値L’が元のデータ値Lよりも小さくなるように操作し、データ値Lが正の場合に操作後のデータ値L’が元のデータ値Lよりも大きくなるように操作する。
第七の実施形態における作用、効果について説明する。
図11のような、操作前の多重解像度画像のデータ値Lと、操作後の多重解像度画像のデータ値L’との関係、を持つことは、この多重解像度画像を再構成して得られる明るさ成分画像のコントラストを減少させる効果を得ることにつながる。
写真画像の観点からは、人物画像の肌領域などでは、コントラストが大きくないほうが、人物画像を知覚した者が滑らかな肌(好ましい肌)として知覚するようになる。このため、人物の肌領域を含むような画像に対しては、第七の実施形態のようにして、画像のコントラストを減少させるように、操作前・後のラプラシアン成分の関係を持たせるようにすることで、好ましい人物画像を生成することができるようになる。
図11のような、操作前の多重解像度画像のデータ値Lと、操作後の多重解像度画像のデータ値L’との関係、を持つことは、この多重解像度画像を再構成して得られる明るさ成分画像のコントラストを減少させる効果を得ることにつながる。
写真画像の観点からは、人物画像の肌領域などでは、コントラストが大きくないほうが、人物画像を知覚した者が滑らかな肌(好ましい肌)として知覚するようになる。このため、人物の肌領域を含むような画像に対しては、第七の実施形態のようにして、画像のコントラストを減少させるように、操作前・後のラプラシアン成分の関係を持たせるようにすることで、好ましい人物画像を生成することができるようになる。
なお、従来技術のように単純に、図11のような操作前の多重解像度画像のデータ値と、操作後の多重解像度画像のデータ値との関係を持つようにしただけでは、第一の実施形態と同じように、処理後の画像において「線画像の周辺でのアーティファクト」といった不具合が発生する。
こうした、「線画像の周辺でのアーティファクト」といった不具合に対しては、各解像度レベルにおける起点画像に対して第一平滑化フィルタによる第一平滑化処理を施してから後段の処理を行うようにすることで、「線画像の周辺に、アーティファクトが発生する」といった不具合を解消することができる。
つまり、第七の実施形態に示した構成により、「線画像の周辺に、アーティファクトが発生する」といった不具合を発生させることなく、「好ましい人物画像」を生成することができるようになる。
こうした、「線画像の周辺でのアーティファクト」といった不具合に対しては、各解像度レベルにおける起点画像に対して第一平滑化フィルタによる第一平滑化処理を施してから後段の処理を行うようにすることで、「線画像の周辺に、アーティファクトが発生する」といった不具合を解消することができる。
つまり、第七の実施形態に示した構成により、「線画像の周辺に、アーティファクトが発生する」といった不具合を発生させることなく、「好ましい人物画像」を生成することができるようになる。
以上、第一〜第七の実施形態にて説明した画像処理方法は、各処理手順を画像処理装置1に適合した言語でコード化したプログラムをインストールして実行させることで実施可能である。また、このプログラムは、インストール可能な形式または実行可能な形式のファイルとしてCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)等のコンピュータで読み取り可能な記録媒体に記録して提供するようにしてもよい。或いは、インターネット等のネットワーク経由で提供または配布するようにしてもよい。また、各種プログラムを、ROM等に予め組み込んで提供してもよい。
〔本発明の実施態様と作用、効果のまとめ〕
〈第一の実施態様〉
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成部21、多重解像度画像のデータ値を修正する多重解像度画像修正部22、及び、修正後の多重解像度画像を再構成する再構成部23を備え、再構成された画像から出力画像Doutを生成する画像処理装置1であって、多重解像度画像生成部21は、一の解像度レベル(n)の起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像301として出力することによって、多重解像度画像を生成することを特徴とする。
〈第一の実施態様〉
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成部21、多重解像度画像のデータ値を修正する多重解像度画像修正部22、及び、修正後の多重解像度画像を再構成する再構成部23を備え、再構成された画像から出力画像Doutを生成する画像処理装置1であって、多重解像度画像生成部21は、一の解像度レベル(n)の起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像301として出力することによって、多重解像度画像を生成することを特徴とする。
従来では、撮影機材や表示機材のダイナミックレンジが現実世界のダイナミックレンジと比較してはるかに小さいことが原因で、撮影者(作成者)の意図とは異なる状態で(明瞭感や凹凸感が欠如した状態で)画像が表現されてしまうという問題があった。上記問題を解消するべく、画像に対して多重解像度画像を利用してコントラストの強調を行った場合には、「線画像の周辺に、コントラスト強調を行う前には存在しなかったアーティファクト(人工的な濃淡)が発生する」といった不具合が発生することが発明者の検討によって判明した。上記現象は、画像の均一濃度領域中に本来は存在しなかった濃淡が発生するといった現象であり、処理後の画像を知覚した者に対して著しい違和感を与える。
第一の実施態様に係る画像処理装置は、多重解像度画像を操作することで画像の「明瞭感」や「凹凸感」を改善しながら、同時にアーティファクトの発生を抑制し、撮影者の意図通りの画像表現を実現するものである。
本実施態様において「線画像周辺のアーティファクト」が抑制される理由は必ずしも明らかになってはいないが、以下に説明する作用がアーティファクトを抑制する効果を生み出していると考えられる。
即ち、第一の実施態様においては、起点画像に平滑化処理を施すことによって算出される各解像度レベルでの解像度画像は、線画像の周辺において濃淡の程度が緩和された解像度画像になると考えられる。各解像度画像に対して、コントラスト強調処理を実行して「明瞭感」や「凹凸感」の改善を図った場合、線画像の周辺における濃淡の程度が、はじめに平滑化処理を行わない場合に比べて小さく維持されることになる。このため、コントラスト強調後においても、線画像の周辺において濃淡の極端な変化が生じることがなくなり、「線画像の周辺にアーティファクトが発生する」といった問題を解消することができると考えられる。
本実施態様において「線画像周辺のアーティファクト」が抑制される理由は必ずしも明らかになってはいないが、以下に説明する作用がアーティファクトを抑制する効果を生み出していると考えられる。
即ち、第一の実施態様においては、起点画像に平滑化処理を施すことによって算出される各解像度レベルでの解像度画像は、線画像の周辺において濃淡の程度が緩和された解像度画像になると考えられる。各解像度画像に対して、コントラスト強調処理を実行して「明瞭感」や「凹凸感」の改善を図った場合、線画像の周辺における濃淡の程度が、はじめに平滑化処理を行わない場合に比べて小さく維持されることになる。このため、コントラスト強調後においても、線画像の周辺において濃淡の極端な変化が生じることがなくなり、「線画像の周辺にアーティファクトが発生する」といった問題を解消することができると考えられる。
従来技術において多重解像度画像を利用したコントラストの強調を行った場合、上記アーティファクトが発生するため、コントラストの強調レベルを必要以上に大きくできないという問題もあった。本実施態様においては、線画像周辺のアーティファクトを解消(又は低減)できるため、コントラスト強調レベルを従来では不可能だったレベルにまで引き上げることができる。
本実施態様に係る画像処理装置により、従来では不可能だったレベルでのコントラスト強調を施して明瞭感や凹凸感を補正した画像は、撮影対象物の臨場感や本物感(リアル感)を備える。また、補正の程度によっては、非現実的な雰囲気のある画像を獲得することも可能である。更に本実施形態においては、上記画像を1枚の通常の写真画像から得ることができる。
このようにして得られた画像を商品広告に使用した場合には、商品訴求力が高く、顧客注目度の高い広告となる。もちろん、上記画像は商品広告だけではなく、様々な用途に活用することができる。
本実施態様に係る画像処理装置により、従来では不可能だったレベルでのコントラスト強調を施して明瞭感や凹凸感を補正した画像は、撮影対象物の臨場感や本物感(リアル感)を備える。また、補正の程度によっては、非現実的な雰囲気のある画像を獲得することも可能である。更に本実施形態においては、上記画像を1枚の通常の写真画像から得ることができる。
このようにして得られた画像を商品広告に使用した場合には、商品訴求力が高く、顧客注目度の高い広告となる。もちろん、上記画像は商品広告だけではなく、様々な用途に活用することができる。
〈第二の実施態様〉
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成部21、多重解像度画像のデータ値を修正する多重解像度画像修正部22、及び、修正後の多重解像度画像を再構成する再構成部23を備え、再構成された画像から出力画像Doutを生成する画像処理装置1であって、多重解像度画像生成部21は、一部の解像度レベル(n)においては、起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像301として出力し、他部の解像度レベルにおいては、起点画像301をスケールダウンした第二スケールダウン画像をスケールアップすることによって第四画像315を生成し、起点画像と第四画像とに基づいて当該解像度レベルの解像度画像317を生成すると共に、第二スケールダウン画像を次の解像度レベルの起点画像301として出力することによって、多重解像度画像を生成することを特徴とする。
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成部21、多重解像度画像のデータ値を修正する多重解像度画像修正部22、及び、修正後の多重解像度画像を再構成する再構成部23を備え、再構成された画像から出力画像Doutを生成する画像処理装置1であって、多重解像度画像生成部21は、一部の解像度レベル(n)においては、起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像301として出力し、他部の解像度レベルにおいては、起点画像301をスケールダウンした第二スケールダウン画像をスケールアップすることによって第四画像315を生成し、起点画像と第四画像とに基づいて当該解像度レベルの解像度画像317を生成すると共に、第二スケールダウン画像を次の解像度レベルの起点画像301として出力することによって、多重解像度画像を生成することを特徴とする。
即ち、本態様においては、一部の解像度レベルについては起点画像に対する平滑化処理を実行し、他部の解像度レベルについては起点画像に対する平滑化処理を実行しない。本態様のように、起点画像に対する平滑化処理を限定的に実行することによっても、「線画像周辺のアーティファクト」を抑制できる。
ここで、起点画像に対する平滑化処理を実行する解像度レベルは、線画像周辺のアーティファクトの抑制に有効な解像度レベルとするべきであるが、処理によって得られる効果が入力画像の画素数(画像サイズ)や、線画像の太さにも依存するため、明確には限定できない。しかし、発明者の検討によれば、高解像度〜中間解像度(解像度レベルの比較的に小さなレベル)で、起点画像への平滑化処理を行えば、効果的であることが判明している。
本態様では、起点画像に対する平滑化処理を限定的に実行するので、平滑化処理にかかる計算量・計算負荷が少なくて済むという長所もある。
従って、本態様によれば、少ない計算量で、線画像周辺のアーティファクトを抑制できる。
ここで、起点画像に対する平滑化処理を実行する解像度レベルは、線画像周辺のアーティファクトの抑制に有効な解像度レベルとするべきであるが、処理によって得られる効果が入力画像の画素数(画像サイズ)や、線画像の太さにも依存するため、明確には限定できない。しかし、発明者の検討によれば、高解像度〜中間解像度(解像度レベルの比較的に小さなレベル)で、起点画像への平滑化処理を行えば、効果的であることが判明している。
本態様では、起点画像に対する平滑化処理を限定的に実行するので、平滑化処理にかかる計算量・計算負荷が少なくて済むという長所もある。
従って、本態様によれば、少ない計算量で、線画像周辺のアーティファクトを抑制できる。
〈第三の実施態様〉
本実施態様は、第一平滑化処理において使用する第一平滑化フィルタにおいて中心画素の重みをWRとしたとき、「0.3≦WR≦0.8」を満たすことを特徴とする。
本実施態様によれば、「画像の細部のボケ」を発生させることなく、線画像周辺のアーティファクトを抑制し、画像の「明瞭感」や「凹凸感」を撮影者の意図通りに向上させることができる。
本実施態様は、第一平滑化処理において使用する第一平滑化フィルタにおいて中心画素の重みをWRとしたとき、「0.3≦WR≦0.8」を満たすことを特徴とする。
本実施態様によれば、「画像の細部のボケ」を発生させることなく、線画像周辺のアーティファクトを抑制し、画像の「明瞭感」や「凹凸感」を撮影者の意図通りに向上させることができる。
〈第四の実施態様〉
本態様において、多重解像度画像操作部22は、各解像度画像のコントラストを増加させる処理を実行することを特徴とする。
本実施態様によれば、各解像度画像のコントラストを増加させることで、「明瞭感」および「凹凸感」を向上させた出力画像を得ることができる。
本態様において、多重解像度画像操作部22は、各解像度画像のコントラストを増加させる処理を実行することを特徴とする。
本実施態様によれば、各解像度画像のコントラストを増加させることで、「明瞭感」および「凹凸感」を向上させた出力画像を得ることができる。
〈第五の実施態様〉
本態様において、多重解像度画像操作部22は、各解像度画像のコントラストを減少させる処理を実行することを特徴とする。
人物画像の肌領域についてはコントラストの少ない方が好まれる傾向にあるため、人物画像の肌の領域を好ましい肌状態(肌質感)として再現するためには、多重解像度画像に対してコントラストを減少させるような操作を実行することが好ましい。しかし、多重解像度画像のコントラストを減少させた場合、コントラストを強調した場合と同様に「線画像の周辺にアーティファクトが発生する」といった問題を引き起こすことが発明者の検討により判明した。
本実施態様によれば、第一及び第二の実施態様にて説明したように「線画像周辺のアーティファクト」を抑制することができる。更に、各解像度画像のコントラストを抑制することで、人物画像の肌状態の向上を図ることができる。
本態様において、多重解像度画像操作部22は、各解像度画像のコントラストを減少させる処理を実行することを特徴とする。
人物画像の肌領域についてはコントラストの少ない方が好まれる傾向にあるため、人物画像の肌の領域を好ましい肌状態(肌質感)として再現するためには、多重解像度画像に対してコントラストを減少させるような操作を実行することが好ましい。しかし、多重解像度画像のコントラストを減少させた場合、コントラストを強調した場合と同様に「線画像の周辺にアーティファクトが発生する」といった問題を引き起こすことが発明者の検討により判明した。
本実施態様によれば、第一及び第二の実施態様にて説明したように「線画像周辺のアーティファクト」を抑制することができる。更に、各解像度画像のコントラストを抑制することで、人物画像の肌状態の向上を図ることができる。
〈第六の実施態様〉
本態様において、多重解像度画像生成手段21は、多重解像度画像としてラプラシアンピラミッドを生成することを特徴とする。
第一の実施態様にて説明したように、各解像度レベルの起点画像に平滑化処理を施す点で、本態様において多重解像度画像生成部21が生成する多重解像度画像は本来のラプラアンピラミッドとは異なる。しかし、それ以外の点においてはラプラシアンピラミッドと同等であるので、多重解像度画像を便宜的に「ラプラシアンピラミッド」と表現する。
本態様において、多重解像度画像生成手段21は、多重解像度画像としてラプラシアンピラミッドを生成することを特徴とする。
第一の実施態様にて説明したように、各解像度レベルの起点画像に平滑化処理を施す点で、本態様において多重解像度画像生成部21が生成する多重解像度画像は本来のラプラアンピラミッドとは異なる。しかし、それ以外の点においてはラプラシアンピラミッドと同等であるので、多重解像度画像を便宜的に「ラプラシアンピラミッド」と表現する。
多重解像度画像生成部21は、はじめに各解像度レベルの起点画像に平滑化処理を施して第一画像を生成し、第一画像に対して、一連の処理(平滑化、ダウンサンプリング、アップサンプリング、平滑化)を施した第二画像を生成し、第一画像と第二画像との差をとることで当該解像度における解像度画像(ラプラシアン成分画像)を算出していく。
多重解像度画像(プラシアンピラミッド)の生成、および多重解像度画像(ラプラシアンピラミッド)からの画像再構築に必要となる処理は、基本的な画像処理の繰り返しである。また、この多重解像度画像(ラプラシアンピラミッド)の生成に係る画像処理は、他の多重解像度画像(例えば離散ウェーブレット変換)に比べて計算量も比較的軽量であるといった特徴を有する。このように、多重解像度画像としてラプラシアンピラミッドを使用することは、画像処理に関わる処理を基本的な処理によって構成することができ、かつ計算量も軽量である、といった効果を得られる。
多重解像度画像(プラシアンピラミッド)の生成、および多重解像度画像(ラプラシアンピラミッド)からの画像再構築に必要となる処理は、基本的な画像処理の繰り返しである。また、この多重解像度画像(ラプラシアンピラミッド)の生成に係る画像処理は、他の多重解像度画像(例えば離散ウェーブレット変換)に比べて計算量も比較的軽量であるといった特徴を有する。このように、多重解像度画像としてラプラシアンピラミッドを使用することは、画像処理に関わる処理を基本的な処理によって構成することができ、かつ計算量も軽量である、といった効果を得られる。
また、本実施態様においては多重解像度画像としてラプラシンピラミッドを使用して、第一の実施態様と同様に「明瞭感」および「凹凸感」の向上と「線画像周辺のアーティファクトの抑制」を両立させることができる。
ここで、「明瞭感」と「凹凸感」の向上に関しては画像の勾配が大きく影響を及ぼす。ラプラシアンピラミッドを構成する各解像度画像のデータ値は、入力画像の勾配と関係の深い特性値に相当する。このため、各解像度画像のデータ値を操作することで、「明瞭感」と「凹凸感」を改善した画像を得ることができる。また、各解像度レベルの起点画像に対して平滑化処理を施すため、線画像周辺のアーティファクトを抑制できる。
ここで、「明瞭感」と「凹凸感」の向上に関しては画像の勾配が大きく影響を及ぼす。ラプラシアンピラミッドを構成する各解像度画像のデータ値は、入力画像の勾配と関係の深い特性値に相当する。このため、各解像度画像のデータ値を操作することで、「明瞭感」と「凹凸感」を改善した画像を得ることができる。また、各解像度レベルの起点画像に対して平滑化処理を施すため、線画像周辺のアーティファクトを抑制できる。
〈第七の実施態様〉
本態様において、多重解像度画像生成部21は、離散ウェーブレット変換を実行することによって多重解像度画像を生成することを特徴とする。
第一の実施態様にて説明したように、各解像度レベルの起点画像に平滑化処理を施す点で、本態様において多重解像度画像生成部21が生成する多重解像度画像は本来の離散ウェーブレット変換を用いた多重解像度画像とは異なる。しかし、それ以外の点においては離散ウェーブレット変換を用いた多重解像度画像と同等であるので、本態様によって求められる多重解像度画像を便宜的に「離散ウェーブレット変換を用いた多重解像度画像」と表現する。
多重解像度画像生成部21は、はじめに各解像度レベルの起点画像に平滑化処理を施して第一画像を生成し、第一画像に対して離散ウェーブレット変換を用いた一連の処理(Xダウンサンプリング、Xアップサンプリングまたは、Yダウンサンプリング、Yアップサンプリング)を施した第二画像を生成し、第一画像と第二画像との差をとることで当該解像度の画像(いわゆる、HH、LH、HL成分を)を算出していく。
本態様において、多重解像度画像生成部21は、離散ウェーブレット変換を実行することによって多重解像度画像を生成することを特徴とする。
第一の実施態様にて説明したように、各解像度レベルの起点画像に平滑化処理を施す点で、本態様において多重解像度画像生成部21が生成する多重解像度画像は本来の離散ウェーブレット変換を用いた多重解像度画像とは異なる。しかし、それ以外の点においては離散ウェーブレット変換を用いた多重解像度画像と同等であるので、本態様によって求められる多重解像度画像を便宜的に「離散ウェーブレット変換を用いた多重解像度画像」と表現する。
多重解像度画像生成部21は、はじめに各解像度レベルの起点画像に平滑化処理を施して第一画像を生成し、第一画像に対して離散ウェーブレット変換を用いた一連の処理(Xダウンサンプリング、Xアップサンプリングまたは、Yダウンサンプリング、Yアップサンプリング)を施した第二画像を生成し、第一画像と第二画像との差をとることで当該解像度の画像(いわゆる、HH、LH、HL成分を)を算出していく。
本態様においても、第一の実施態様と同様に「明瞭感」および「凹凸感」の向上と、「線画像周辺のアーティファクトの抑制」を両立させることができる。
ここで、「明瞭感」と「凹凸感」の向上に関しては画像の勾配が大きく影響を及ぼす。離散ウェーブレット変換を用いて生成した多重解像度画像を構成する解像度画像のデータ値は、入力画像の勾配と関係の深い特性値に相当する。このため、各解像度画像のデータ値を操作することで、「明瞭感」と「凹凸感」を改善した画像を得ることができる。また、各解像度レベルの起点画像に対して平滑化処理を施すため、線画像周辺のアーティファクトを抑制できる。
ここで、「明瞭感」と「凹凸感」の向上に関しては画像の勾配が大きく影響を及ぼす。離散ウェーブレット変換を用いて生成した多重解像度画像を構成する解像度画像のデータ値は、入力画像の勾配と関係の深い特性値に相当する。このため、各解像度画像のデータ値を操作することで、「明瞭感」と「凹凸感」を改善した画像を得ることができる。また、各解像度レベルの起点画像に対して平滑化処理を施すため、線画像周辺のアーティファクトを抑制できる。
また本態様は離散ウェーブレット変換を用いるため、生成された多重解像度画像を保持するためのメモリ領域が少ないといった特徴を有する。より詳しくは、離散ウェーブレット変換によって多重解像度画像を生成した場合に必要となるメモリ量は、多重解像度化を行う前の画像を保持するために必要となるメモリ領域と基本的には同じである。なお、ラプラシンピラミッドを使用はした多重解像度画像を保持するために必要となるメモリ量は、多重解像度化前の画像に対して、1.33倍のメモリ量が必要である。
従って、本態様によれば、更に多重解像度画像のデータを保持するために必要となるメモリ量が少ない、といった効果を得られる。
従って、本態様によれば、更に多重解像度画像のデータを保持するために必要となるメモリ量が少ない、といった効果を得られる。
〈第八の実施態様〉
本態様において、多重解像度画像修正手段(多重解像度画像操作部22)は、各解像度画像を構成する画素のデータ値をL、入力画像のダイナミックレンジをDrとした場合に、少なくとも「L/Dr<0.1」(式(3))を満たすデータ値Lを増加させる処理を実行することを特徴とする。
本態様において、多重解像度画像修正手段(多重解像度画像操作部22)は、各解像度画像を構成する画素のデータ値をL、入力画像のダイナミックレンジをDrとした場合に、少なくとも「L/Dr<0.1」(式(3))を満たすデータ値Lを増加させる処理を実行することを特徴とする。
発明者の検討によれば、式(3)に規定されるデータ値Lに対して、データ値を増加させる操作を行うことによって、「明瞭感」および「凹凸感」の増加した画像を得ることができることが判明した。式(3)で規定されたデータ値範囲に対してデータ値を増加させることによって、「明瞭感」や「凹凸感」が向上する理由は、必ずしも明らかになっているわけではないが、以下に説明する作用が「明瞭感」や「凹凸感」が向上させる効果を生み出していると考えられる。
即ち、撮影対象である現実世界のダイナミックレンジと比較して、デジタルカメラを構成する撮像素子やディスプレイなどの表示装置等のダイナミックレンジが非常に狭いことをすでに説明した。上記理由から、カメラや表示装置で取り扱われる画像に対してダイナミックレンジの圧縮が行われるが、このときに比較的小さな濃度差を有するエッジ部や勾配もダイナミックレンジの圧縮にともない圧縮される。比較的小さな濃度差を有するエッジ部や勾配は、視覚的には望ましい圧縮量よりも強く圧縮されることになるため、知覚しづらくなってしまう。そしてこの結果として、「明瞭感」や「凹凸感」が悪化すると考えられる。
本態様では、式(3)で規定されるような相対的に小さな濃度差を持つ領域で、エッジや勾配に対応する特性値を操作してエッジや勾配を相対的に大きくする画像処理を実行する。ダイナミックレンジ圧縮にともなって劣化してしまった比較的小さな濃度差を有するエッジ部や勾配を再度大きくするようにすることができるため、「明瞭感」や「凹凸感」が向上した画像を得ることができるようになる。
本態様によれば、視覚的に望ましくない状態で圧縮されてしまった、比較的小さな濃度差を有するエッジ部や勾配を、知覚的に適切に知覚することができるように改善することができる。
本態様では、式(3)で規定されるような相対的に小さな濃度差を持つ領域で、エッジや勾配に対応する特性値を操作してエッジや勾配を相対的に大きくする画像処理を実行する。ダイナミックレンジ圧縮にともなって劣化してしまった比較的小さな濃度差を有するエッジ部や勾配を再度大きくするようにすることができるため、「明瞭感」や「凹凸感」が向上した画像を得ることができるようになる。
本態様によれば、視覚的に望ましくない状態で圧縮されてしまった、比較的小さな濃度差を有するエッジ部や勾配を、知覚的に適切に知覚することができるように改善することができる。
〈第九の実施態様〉
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成ステップ、多重解像度画像のデータ値を修正する多重解像度画像修正ステップ、及び、修正後の多重解像度画像を再構成する再構成ステップを含む多重解像度処理ステップを有し、再構成された画像から出力画像Doutを生成する画像処理方法であって、多重解像度画像生成ステップは、一の解像度レベル(n)の起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像として出力することによって、多重解像度画像を生成するステップであることを特徴とする。
本態様は、第一の実施態様と同様の作用、効果を奏する。
本態様は、入力画像Dinから生成された明るさ成分画像Yから多重解像度画像を生成する多重解像度画像生成ステップ、多重解像度画像のデータ値を修正する多重解像度画像修正ステップ、及び、修正後の多重解像度画像を再構成する再構成ステップを含む多重解像度処理ステップを有し、再構成された画像から出力画像Doutを生成する画像処理方法であって、多重解像度画像生成ステップは、一の解像度レベル(n)の起点画像301に対して平滑化処理を施すことによって第一画像303を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像305を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像307を生成すると共に、スケールダウン画像を次の解像度レベル(n+1)の起点画像として出力することによって、多重解像度画像を生成するステップであることを特徴とする。
本態様は、第一の実施態様と同様の作用、効果を奏する。
〈第十の実施態様〉
本態様は、第九の実施態様に係る画像処理法をコンピュータに実行させるためのプログラムである。
本態様は、第一の実施態様と同様の作用、効果を奏する。
本態様は、第九の実施態様に係る画像処理法をコンピュータに実行させるためのプログラムである。
本態様は、第一の実施態様と同様の作用、効果を奏する。
1…画像処理装置、11…色分解部、12…多重解像度操作部、13…色合成部、21…多重解像度画像生成部、211…第一平滑化フィルタ、212…第二平滑化フィルタ、22…多重解像度画像操作部、23…再構成部、101…CPU、102…ROM、103…RAM、104…記憶装置、105…操作入力装置、106…表示装置、107…ネットワークインターフェース、108…バス、301…起点画像、303…第一画像、305…第二画像、307…解像度画像、309…解像度画像、311…(中間)再構成画像、312…第二平滑化フィルタ、313…第三画像、315…第四画像、317…解像度画像、321…解像度画像、323…解像度画像、325…中間再構成画像、330…色成分画像
Claims (10)
- 入力画像から生成された明るさ成分画像から多重解像度画像を生成する多重解像度画像生成手段、前記各多重解像度画像のデータ値を修正する多重解像度画像修正手段、及び、修正後の多重解像度画像を再構成する再構成手段を備え、再構成された画像から出力画像を生成する画像処理装置であって、
前記多重解像度画像生成手段は、一の解像度レベルの起点画像に対して平滑化処理を施すことによって第一画像を生成し、前記第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像を生成し、前記第一画像と前記第二画像とに基づいて当該解像度レベルの解像度画像を生成すると共に、前記スケールダウン画像を次の解像度レベルの起点画像として出力することによって、前記多重解像度画像を生成することを特徴とする画像処理装置。 - 入力画像から生成された明るさ成分画像から多重解像度画像を生成する多重解像度画像生成手段、多重解像度画像のデータ値を修正する多重解像度画像修正手段、及び、修正後の多重解像度画像を再構成する再構成手段を備え、再構成された画像から出力画像を生成する画像処理装置であって、
多重解像度画像生成手段は、
一部の解像度レベルにおいては、起点画像に対して平滑化処理を施すことによって第一画像を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像を生成すると共に、前記スケールダウン画像を次の解像度レベルの起点画像として出力し、
他部の解像度レベルにおいては、起点画像をスケールダウンした第二スケールダウン画像をスケールアップすることによって第四画像を生成し、起点画像と第四画像とに基づいて当該該解像度レベルの解像度画像を生成すると共に、前記第二スケールダウン画像を次の解像度レベルの起点画像として出力することによって多重解像度画像を生成することを特徴とする画像処理装置。 - 平滑化処理において使用する平滑化フィルタにおいて中心画素の重みをWRとしたとき、「0.3≦WR≦0.8」を満たすことを特徴とする請求項1又は2に記載の画像処理装置。
- 多重解像度画像処理手段は、各解像度画像のコントラストを増加させる処理を実行する
ことを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。 - 多重解像度画像処理手段は、各解像度画像のコントラストを減少させる処理を実行することを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
- 多重解像度画像生成手段は、多重解像度画像としてラプラシアンピラミッドを生成することを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
- 多重解像度画像生成手段は、離散ウェーブレット変換を実行することによって多重解像度画像を生成することを特徴とする請求項1乃至6の何れか一項に記載の画像処理装置。
- 多重解像度画像修正手段は、各解像度画像を構成する画素のデータ値をL、入力画像のダイナミックレンジをDrとした場合に、少なくとも「L/Dr<0.1」を満たすデータ値Lを増加させる処理を実行することを特徴とする請求項1乃至7の何れか一項に記載の画像処理装置。
- 入力画像から生成された明るさ成分画像から多重解像度画像を生成する多重解像度画像生成ステップ、多重解像度画像のデータ値を修正する多重解像度画像修正ステップ、及び、修正後の多重解像度画像を再構成する再構成ステップを含む多重解像度処理ステップを有し、再構成された画像から出力画像を合成する画像処理方法であって、
多重解像度画像生成ステップは、一の解像度レベルの起点画像に対して平滑化処理を施すことによって第一画像を生成し、第一画像をスケールダウンしたスケールダウン画像をスケールアップすることによって第二画像を生成し、第一画像と第二画像とに基づいて当該解像度レベルの解像度画像を生成すると共に、前記スケールダウン画像を次の解像度レベルの起点画像として出力することによって、多重解像度画像を生成するステップであることを特徴とする画像処理方法。 - 請求項9に記載の画像処理方法をコンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015095620A JP2016212623A (ja) | 2015-05-08 | 2015-05-08 | 画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015095620A JP2016212623A (ja) | 2015-05-08 | 2015-05-08 | 画像処理装置、画像処理方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016212623A true JP2016212623A (ja) | 2016-12-15 |
Family
ID=57551101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015095620A Pending JP2016212623A (ja) | 2015-05-08 | 2015-05-08 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016212623A (ja) |
-
2015
- 2015-05-08 JP JP2015095620A patent/JP2016212623A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6432214B2 (ja) | 画像処理装置、画像処理方法、記憶媒体及びプログラム | |
JP6961139B2 (ja) | 知覚的な縮小方法を用いて画像を縮小するための画像処理システム | |
US8275218B2 (en) | Forward and backward image resizing method | |
TWI406571B (zh) | Image Processing Method for Enhancing Image Edge Resolution | |
US20050169553A1 (en) | Image sharpening by variable contrast stretching | |
JP2012521708A (ja) | 色周波数に基づく顕著性マップを用いて画像を修正する方法及び装置 | |
JP2003283811A (ja) | 画像処理装置およびプログラム | |
CN111667410B (zh) | 图像分辨率提升方法、装置及电子设备 | |
WO2011111819A1 (ja) | 画像処理装置、画像処理プログラム、および、画像を生成する方法 | |
JP5460987B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JPH08294001A (ja) | 画像処理方法および画像処理装置 | |
RU2583725C1 (ru) | Способ и система для обработки изображения | |
Qin | An improved super resolution reconstruction method based on initial value estimation | |
KR101341617B1 (ko) | 단일 영상의 오차모델을 기반으로 한 고해상도 영상 복원장치 및 방법 | |
JP2002183727A (ja) | 画像処理装置 | |
KR101910894B1 (ko) | 영상 복원 장치 및 방법 | |
JP2008211840A (ja) | 画像処理装置 | |
JP2016115318A (ja) | ぼやけ補正装置、超解像装置およびプログラム | |
WO2011087083A1 (ja) | データ処理方法、データ処理装置、及びデータ処理プログラム | |
JP2016218502A (ja) | 画像処理装置、制御方法およびプログラム | |
JP2016212623A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JPH1153534A (ja) | 画像の修復方法及び装置 | |
JP2011049696A (ja) | 画像処理装置及び画像処理方法 | |
JP6417938B2 (ja) | 画像処理装置、画像処理方法、プログラム、及び記録媒体 | |
KR101332030B1 (ko) | 영상 확대방법 및 이를 수행하는 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180418 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190709 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200107 |