JP2011065339A - 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 - Google Patents
画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 Download PDFInfo
- Publication number
- JP2011065339A JP2011065339A JP2009214407A JP2009214407A JP2011065339A JP 2011065339 A JP2011065339 A JP 2011065339A JP 2009214407 A JP2009214407 A JP 2009214407A JP 2009214407 A JP2009214407 A JP 2009214407A JP 2011065339 A JP2011065339 A JP 2011065339A
- Authority
- JP
- Japan
- Prior art keywords
- image
- texture
- acquired
- base
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
- 238000012545 processing Methods 0.000 title claims abstract description 296
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000003860 storage Methods 0.000 title claims description 8
- 238000000034 method Methods 0.000 claims description 110
- 238000012937 correction Methods 0.000 claims description 100
- 230000008569 process Effects 0.000 claims description 98
- 238000009826 distribution Methods 0.000 claims description 17
- 230000001052 transient effect Effects 0.000 claims description 11
- 238000001914 filtration Methods 0.000 claims description 9
- 238000005259 measurement Methods 0.000 claims description 6
- 238000012423 maintenance Methods 0.000 claims description 5
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 238000011946 reduction process Methods 0.000 claims description 4
- 230000015572 biosynthetic process Effects 0.000 claims description 3
- 238000003786 synthesis reaction Methods 0.000 claims description 3
- 230000002146 bilateral effect Effects 0.000 description 42
- 238000010586 diagram Methods 0.000 description 34
- 230000008859 change Effects 0.000 description 32
- 230000000694 effects Effects 0.000 description 22
- 230000006870 function Effects 0.000 description 18
- 238000004458 analytical method Methods 0.000 description 12
- 238000009499 grossing Methods 0.000 description 12
- 238000002156 mixing Methods 0.000 description 10
- 238000000926 separation method Methods 0.000 description 10
- 206010047571 Visual impairment Diseases 0.000 description 9
- 230000000052 comparative effect Effects 0.000 description 9
- 230000009467 reduction Effects 0.000 description 8
- 238000003702 image correction Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000007423 decrease Effects 0.000 description 6
- 238000003708 edge detection Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
【課題】画像処理装置において、ノイズ成分の発生を効果的に抑制し、画質をより適切に改善することを可能とする。
【解決手段】画像処理装置(100、200、300等)は、第1画像を取得する取得手段(110、120等)と、取得された第1画像からテクスチャ画像を生成する生成手段(110)と、取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得手段(120)と、生成されたテクスチャ画像と、取得されたベース画像とを合成する合成手段(130)とを備える。
【選択図】図1
【解決手段】画像処理装置(100、200、300等)は、第1画像を取得する取得手段(110、120等)と、取得された第1画像からテクスチャ画像を生成する生成手段(110)と、取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得手段(120)と、生成されたテクスチャ画像と、取得されたベース画像とを合成する合成手段(130)とを備える。
【選択図】図1
Description
本発明は、例えばバイラテラルフィルタを用いた画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体の技術分野に関する。
一般的に、この種の画像処理装置として、特許文献1等では、拡大縮小回路を利用することにより、オーバーシュートやアンダーシュートを付加すること無く、画像の輪郭部分の立ち上がり、立下りを急峻にさせる技術が開示されている。
また、非特許文献1等では、画像の輪郭をぼかさずにノイズ成分を除去可能な非線形フィルタとしてバイラテラルフィルタに関する技術が開示されている。
また、非特許文献2等では、画像の輪郭部分において隣接した画素間の画素値の変化割合を大きくさせるバイラテラルフィルタに関する技術が開示されている。
また、非特許文献3等では、骨格成分とテクスチャ成分との分離に基づく画像拡大処理に関する技術が開示されている。この文献における骨格成分とは、本発明のベース画像に相当する。この技術は、入力画像を骨格成分とテクスチャ成分とに分離し、各成分に適した補間法を採用することで、細かなテクスチャ成分を保存しつつ、輪郭付近にジャギーやリンギングを発生させることなく、輪郭を鮮鋭に保つ技術である。
「バイラテラルフィルタによるノイズ除去とイラスト風画像の生成」浦浜喜一著、映像情報メディア学会誌Vol.62,No.8,pp.1268〜1273(2008)
「浦浜喜一,井上光平"バイラテラルフィルタのエッジ強調性"電子情報通信学会論文誌2003/3Vol.J86-ANo.3」
「齊藤隆弘,石井勇樹,中川陽介,小松隆"乗算型骨格/テクスチャ画像分離の画像処理への応用"電子情報通信学会論文誌DVol.J90-DNo.7pp.1682-1685
しかしながら、上述した特許文献1等によれば、鮮鋭化処理によって、画像の輪郭のうち斜め線の部分や曲線の部分に出現する階段状のギザギザ、いわゆる、ジャギーやリンギングなどのノイズ成分の発生を低減することが困難であるという技術的な問題点が生じる。特に、このジャギーやリンギングなどのノイズ成分は、例えば画像の輪郭部分、いわゆる、エッジ部分などのように、隣接した画素間の画素値のレベル差が大きい画素において発生しやすい。
本発明は、例えば上述した従来の問題点に鑑みなされたものであり、ノイズ成分の発生を効果的に抑制し、画質をより適切に改善することが可能な画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体を提供することを課題とする。
上記課題を解決するために、本発明に係る画像処理装置は、第1画像を取得する取得手段と、前記取得された第1画像からテクスチャ画像を生成する生成手段と、前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得手段と、前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成手段とを備える。
本発明に係る画像処理装置によれば、例えばメモリ、プロセッサ等を備えて構成される取得手段によって、第1画像が取得される。例えばメモリ、プロセッサ等を備えて構成される生成手段によって、取得された第1画像からテクスチャ画像が生成される。ここに、本発明に係る「第1画像」は、例えばカメラ、ビデオカメラ等により撮像された例えば写真、動画を構成するフレーム画像、カラー画像や白黒画像等の画像を意味する。本発明に係る「テクスチャ画像」とは、各画素の画素値が周辺の画素と比べて小さく変化している成分で構成されている画像を意味する。また、本発明に係る「ベース画像」とは、画像からテクスチャ成分を殆どまたは完全に無くした画像を意味する。典型的には、「ベース画像」とは、画素値の変化が大きな輪郭部と、画素値の変化が一律である平坦部とによって構成される。
また、本発明に係る「画素値」とは、例えば輝度、色度、又は彩度等の画素の特性レベルの大小を、画素単位で示した指標を意味する。また、本発明に係る「生成」とは、典型的には、画像中のテクスチャ画像のみを、直接的又は間接的に「生成」、「抽出」、「識別」、「選別」、「取捨選択」等することを意味する。
特に、例えばメモリ、プロセッサ等を備えて構成されるベース画像取得手段によって、第1画像の輪郭に鮮鋭化処理が施されると共に、当該鮮鋭化処理が施された第1画像においてテクスチャ画像の画素値を殆ど又は完全に無くしたベース画像が取得される。ここに、本発明に係る「鮮鋭化処理」とは、画像の輪郭の画素値の空間方向の傾きを大きくさせる画像処理を意味する。典型的には、本発明に係る鮮鋭化処理とは、画像の輪郭を跨って隣接した画素群の画素値の空間方向の変化割合を大きくさせる画像処理を意味する。次に、合成手段によって、生成されたテクスチャ画像と、取得されたベース画像とが合成される。
このように、本発明では、同一の第1画像から、ベース画像とテクスチャ画像とを、例えばバイラテラルフィルタを用いてそれぞれ独立して取得又は生成している。典型的には、上述の生成手段は、第1画像から、バイラテラルフィルタやεフィルタを用いてフィルタ処理された画像を減算することによって、テクスチャ画像を生成している。
これにより、例えばバイラテラルフィルタ等による、第1画像の輪郭を跨って隣接した画素群の画素値の変化割合を大きくさせる作用、いわゆる、エッジ鮮鋭化作用を、テクスチャ画像を殆ど又は完全に無くしたベース画像に対してのみに施すことができるので、画質改善の効果が顕著に高めることが可能である。このように、いわゆる、エッジ鮮鋭化作用が、テクスチャ画像を殆ど又は完全に無くしたベース画像に対してのみに施されることにより、入力画像における画素値の微小な変化を保存しながら画像処理を行えるので、エッジを鮮鋭化しつつ、粒状感やディティール感を維持した画像を得ることができ、実践上、大変好ましい。
典型的には、前記ベース画像取得手段は、バイラテラルフィルタ以外に、トリラテラルフィルタを用いて前記ベース画像を取得するように構成してよい。
これにより、ベース画像取得手段におけるバイラテラルフィルタ又はトリラテラルフィルタは、垂直方向の画素と水平方向の画素とに対して、輪郭の鮮鋭化の演算処理を畳み込みつつ同時に行っている。これにより、垂直方向と水平方向との2次元の方向において、第1画像の輪郭を跨って隣接した画素群の画素値の変化割合を大きくさせる、いわゆる、エッジを急峻化させることが可能であり、2次元方向に処理することにより、ジャギーの発生を効果的に抑制することができる。
加えて、ベース画像取得手段におけるバイラテラルフィルタ又はトリラテラルフィルタは、第1画像に含まれるジャギーやリンギングなどのノイズ成分は、バイラテラルフィルタ等が有するノイズ除去作用によって、平滑化される共に低減される効果もある。
以上の結果、画像の輪郭の部分にジャギーが発生するのを殆ど又は完全に防止することが可能であると共に、ノイズ成分を適切に低減可能であり、より効果的に画質改善を行えるので、実践上、大変有益である。
仮に、バイラテラルフィルタやトリラテラルフィルタを用いない従来の輪郭補正の技術を用いて、水平方向の画素のみに対して輪郭補正処理が行われる、あるいは、水平方向の画素と垂直方向の画素とに対して別々に輪郭補正処理が行われる場合、次のような技術的な問題点が生じる。即ち、輪郭補正処理のレベル強度を大きくするに従って、画像の輪郭のうち斜め線の部分や曲線の部分にジャギーが現れてしまうため、バイラテラルフィルタやトリラテラルフィルタを用いない従来の輪郭補正の技術では、画質改善の効果に限界があるという技術的な問題点が生じる。
本発明に係る画像処理装置の他の態様では、前記生成手段は、前記取得された第1画像から、前記取得された第1画像にエッジ維持フィルタリングを施した画像を減算することにより、前記テクスチャ画像を生成する。或いは、本発明に係る画像処理装置の他の態様では、前記生成手段は、前記取得されたベース画像を用いて、前記取得された第1画像から前記テクスチャ画像を生成する。
この態様によれば、生成手段は、取得された第1画像から、取得された第1画像にエッジ維持フィルタリングを施した画像を減算することにより、テクスチャ画像を生成する。或いは、生成手段は、取得されたベース画像を用いて、取得された第1画像からテクスチャ画像を生成する。典型的には、生成手段は、第1画像から、ベース画像を生成するためのフィルタの特性と同じ特性を有するフィルタを用いて画像処理された画像を減算することによって、テクスチャ画像を生成する。これにより、第1画像が本来有するテクスチャ画像と全く又は殆ど同一のテクスチャ画像を高精度に再生成することが可能である。
これにより、エッジ鮮鋭化作用を、ベース画像に対してのみに施した後で、このベース画像と、高精度に再生成されたテクスチャ画像とを合成することができるので、画質改善の効果をより顕著に高めることが可能である。
仮に、取得されたベース画像を用いないで、取得された第1画像からテクスチャ画像を生成した場合、第1画像が本来有するテクスチャ画像と異なるテクスチャ画像が生成される可能性があり、第1画像が本来有するテクスチャ画像成分の再生が困難になってしまう問題点が生じる場合がある。
本発明に係る画像処理装置の他の態様では、前記生成手段は、前記取得されたベース画像に加えて、エッジらしさの度合いを示すエッジ係数を用いて、前記取得された第1画像から前記テクスチャ画像を生成する。
この態様によれば、生成手段は、取得されたベース画像に加えて、エッジらしさの度合いを示すエッジ係数を用いて、取得された第1画像からテクスチャ画像を生成する。典型的には、生成手段は、ベース画像にエッジ係数「1−K(但し、Kは、0≦K≦1の範囲の実数)」が乗算された画像と第1画像に係数「K」が乗算された画像との和を、第1画像から減算することによって、テクスチャ画像を生成する。言い換えると、生成手段は、第1画像にエッジ係数「1−K」が乗算された画像から、ベース画像に係数「1−K」が乗算された画像を減算することによって、テクスチャ画像を生成する。
典型的には、エッジらしさの度合いが高くなるに従って、エッジ係数は「1」に近づくので、生成手段によって生成されたテクスチャ画像の信号レベルを殆ど又は完全にゼロにすることが可能である。一般的に、エッジらしさの度合いが高い画像領域においては、第1画像のエッジ部分と、ベース画像のエッジ部分との差分成分の影響が顕著に高いので、テクスチャ画像の信号レベルを殆ど又は完全にゼロにすることにより、この差分成分の影響を効果的に無くすことが可能である。他方、エッジらしさの度合いが低くなるに従って、エッジ係数は「ゼロ」に近づくので、生成手段によって、第1画像が本来有するテクスチャ画像と殆ど同一のテクスチャ画像を、高精度に再生成することが可能である。一般的に、エッジらしさの度合いが低い画像領域においては、第1画像のエッジ部分と、ベース画像のエッジ部分との差分成分の影響が顕著に低いので、第1画像が本来有するテクスチャ画像と殆ど同一になるように再生成されたテクスチャ画像を用いることが可能である。
これにより、第1画像が本来有するテクスチャ画像と殆ど同一のテクスチャ画像を、エッジ係数に応じて高精度に再生成することが可能である。
以上の結果、エッジ鮮鋭化作用を、ベース画像に対してのみに施した後で、このベース画像と、高精度に再生成されたテクスチャ画像とを合成することができるので、画質改善の効果をより顕著に高めることが可能である。
仮に、エッジらしさの度合いを示すエッジ係数を用いないで、テクスチャ画像を生成した場合、次のような技術的な問題点が生じる。即ち、エッジらしさの度合いを考慮することなく、テクスチャ画像を生成するために、第1画像から、ベース画像を減算した場合、第1画像のエッジ部分と、ベース画像のエッジ部分との差分成分が生じてしまい、第1画像が本来有するテクスチャ画像と全く又は殆ど同一のテクスチャ画像を再度生成することが困難になってしまい、ひいては、第1画像に対する鮮鋭化作用の精度が顕著に低下してしまうという技術的な問題点が生じる。
本発明に係る画像処理装置の他の態様では、前記生成されたテクスチャ画像に対して、前記生成されたテクスチャ画像の性質に応じた補正を行う第1補正処理、及び、前記取得されたベース画像に対して、前記取得されたベース画像の性質に応じた補正を行う第2補正処理のうち少なくともいずれか一方の補正処理を施す補正手段を更に備え、前記合成手段は、前記少なくともいずれか一方の補正処理が施された後、前記テクスチャ画像と、前記ベース画像とを合成する。
この態様によれば、テクスチャ画像と、ベース画像とを区別して、テクスチャ画像及びベース画像のそれぞれの性質に応じた適切な手法で、それぞれ補正することができる。この結果、画像処理の結果、出力される画像の画質をより高めることができる。
本発明に係る画像処理装置の他の態様では、前記補正手段は、前記第1補正処理として、前記生成されたテクスチャ画像に対して、3次元ノイズリダクション処理、美肌補正処理、及び、孤立点除去処理のうち少なくとも一つの処理を施し、前記生成されたテクスチャ画像を補正する。
この態様によれば、補正手段は、第1補正処理として、画像の輪郭、即ち、エッジ部を含まないテクスチャ画像に対してのみ、時間軸方向のフィルタ処理である3次元ノイズリダクション処理、いわゆる、3DNR処理を行う。これにより、この3DNR処理は、画像の輪郭に何ら影響を与えない。これにより、ランダムノイズを3DNRで除去しつつ、残像の発生を効果的に低減可能であるので、実践上、大変有益である。
仮に、テクスチャ画像と、ベース画像とを区別して補正することなく、ベース画像に対して3DNR処理を行った場合、いわゆる、残像が発生する度合いが高まるという技術的な問題点が生じる。特に、この残像は、画像の輪郭、即ち、エッジ部において一般的に検知されるので、ベース画像、ひいては、ベース画像とテクスチャ画像とが合成されて出力される出力画像に残像が発生し、画質が低下してしまうという技術的な問題点が生じる。
或いは、補正手段は、第1補正処理として、テクスチャ画像に対してのみ美肌補正処理を行う。この美肌補正処理は、第1画像の肌色近辺の色を検出して、その近辺の色のみテクスチャ画像の信号レベルを低減する画像処理である。これにより、肌のノイズ感を抑えることができる。
或いは、補正手段は、第1補正処理として、テクスチャ画像に対してのみ孤立点除去処理を行う。これにより、この孤立点除去処理は、画像の輪郭、即ち、エッジ部などの画素値が大きく変化する画素部分の影響を殆ど又は完全に受けることなく、孤立点除去処理を行うため、孤立点等のノイズを検出する精度を高めると共に、ノイズ除去を効果的に行うことが可能であるので、実践上、大変有益である。
本発明に係る画像処理装置の他の態様では、前記補正手段は、前記第2補正処理として、前記取得されたベース画像に対して、グラデーション補正処理、及びトランジェント補正処理のうち少なくとも一つの処理を施し、前記取得されたベース画像を補正する。
この態様に係る一の構成によれば、即ち、補正手段が第2補正処理として、取得されたベース画像に対して、グラデーション補正処理を施し、取得されたベース画像を補正する構成によれば、テクスチャ成分の影響を低減しつつ、ベース画像に対して、グラデーション補正処理が施されるため、良好なグラデーション補正処理を行うことができる。具体的には、テクスチャ成分がないベース画像において、画素値の段階的な変化に応じて、線形的に画素値を変化させること可能であり、良好なグラデーション補正処理を行うことができる。
仮に、テクスチャ成分が含まれている画像に対して、グラデーション補正処理をかける場合、このテクスチャ成分が妨害となって正常にグラデーション補正処理を行うことができない可能性があるという技術的な問題点が生じる。
この態様に係る一の構成によれば、即ち、補正手段が第2補正処理として、取得されたベース画像に対して、トランジェント補正処理を施し、取得されたベース画像を補正する構成によれば、テクスチャ成分の影響を低減しつつ、ベース画像に対して、トランジェント補正処理が施されるため、良好なトランジェント補正処理を行うことができる。ここに、トランジェント補正処理とは、エッジの傾きを空間的な処理によって高めるもので、輝度信号、色信号の少なくともどちらか一方に施す処理である。
具体的には、テクスチャ成分がないベース画像において、エッジ周辺の画素値の段階的な変化に応じて、時間方向にエッジの傾きを急峻にすること可能であり、良好なトランジェント補正処理を行うことができる。
仮に、テクスチャ成分が含まれている画像に対して、トランジェント補正処理をかける場合、このテクスチャ成分が妨害となって正常にトランジェント補正処理を行うことができない可能性があるという技術的な問題点が生じる。
本発明に係る画像処理装置の他の態様では、前記補正手段は、前記第1補正処理として、前記生成されたテクスチャ画像に対して、非線形処理、及び乗算処理のうち少なくとも一方の処理を施し、前記生成されたテクスチャ画像を補正すると共に、前記取得されたベース画像に対して、非線形処理、及び乗算処理を施さない。
この態様によれば、補正手段は、第1補正処理として、テクスチャ画像に対して、乗算処理を行う。補正手段は、ベース画像に対して、乗算処理を行わない。これにより、ベース画像におけるエッジ部や平坦部のレベルを維持可能であるので、輪郭や精細な部分が鮮明に浮き上がった視覚上の効果、いわゆる、画像の粒状感やディティール感が向上すると共に画像でのコントラストを高めることが可能であるので、実践上、大変好ましい。加えて、テクスチャ画像に対してのみ乗算処理を行うことで、エッジ部や平坦部のレベルを維持したまま粒状感を増加させることができコントラスト感を高めることができる。
或いは、補正手段は、第1補正処理として、テクスチャ画像に対して、非線形処理を行う。補正手段は、ベース画像に対して、非線形処理を行わない。これにより、ベース画像におけるエッジ部や平坦部のレベルを維持可能であるので、輪郭や精細な部分が鮮明に浮き上がった視覚上の効果、いわゆる、画像の粒状感やディティール感が向上すると共に画像でのコントラストを高めることが可能であるので、実践上、大変好ましい。加えて、この態様によれば、テクスチャ画像に対してのみ非線形処理を行うことで、エッジ部や平坦部のレベルを維持したまま粒状感を増加させることができコントラスト感を高めることができる。
本発明に係る画像処理装置の他の態様では、前記取得された少なくとも1つの第1画像における任意の領域で周波数成分の分布を測定する測定手段を更に備え、前記ベース画像取得手段は、前記測定された周波数成分の分布に基づいて、前記ベース画像を取得することに加えて又は代えて、前記生成手段は、前記測定された周波数成分の分布に基づいて、前記テクスチャ画像を生成する。
ここに、本発明に係る「任意の領域」とは、典型的には、任意の画素領域を意味してよい。
この態様によれば、入力される多種多様な第1画像に対して、測定された周波数成分の分布に基づいて、画像の粒状感やディティール感のレベルを一定レベルに維持することが可能であるので、実践上、大変好ましい。
本発明に係る画像処理装置の他の態様では、前記ベース画像取得手段は、前記測定された周波数成分の分布に応じてタップ数、及びフィルタ係数のうち少なくとも一つを変化させ、前記ベース画像を取得することに加えて又は代えて、前記生成手段は、前記測定された周波数成分の分布に応じてタップ数、及びフィルタ係数のうち少なくとも一つを変化させ、前記テクスチャ画像を生成する。
ここに、本発明に係るタップ数とは、画像処理の対象となる画素の範囲を、画素の単位で表現した値を意味する。
この態様によれば、典型的には、測定された周波数成分の分布に応じて、フィルタの最適タップ数を選択することができる。
この結果、入力される多種多様な第1画像に対して、測定された周波数成分の分布に基づいてタップ数を変化させて、画像の粒状感やディティール感の度合いを、一定レベルに高精度で維持することが可能であるので、実践上、大変好ましい。
本発明に係る画像処理装置の他の態様では、前記測定手段は、前記第1画像を取得する際のシーン毎又はチャンネル毎に、前記周波数成分の測定を初期化する。
この態様によれば、入力される多種多様な第1画像に対して、画像の粒状感やディティール感の度合いを、一定レベルに高精度で維持することが可能である。
上記課題を解決するために、本発明の画像処理方法は、第1画像を取得する取得工程と、前記取得された第1画像からテクスチャ画像を生成する生成工程と、前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得工程と、前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成工程とを備える。
本発明の画像処理方法によれば、上述した本発明の画像処理装置が有する各種利益を享受することが可能となる。尚、上述した本発明の画像処理装置が有する各種態様に対応して、本発明の画像処理方法も各種態様を採ることが可能である。
本発明の画像処理プログラムは、コンピュータを備える装置によって実行される画像処理プログラムであって、第1画像を取得する取得手段と、前記取得された第1画像からテクスチャ画像を生成する生成手段と、前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得手段と、前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成手段として前記コンピュータを機能させる。
本発明に係る画像処理プログラムの実施形態によれば、当該コンピュータプログラムを格納するROM、CD−ROM、DVD−ROM、ハードディスク等の記録媒体から、当該コンピュータプログラムをコンピュータに読み込んで実行させれば、或いは、当該コンピュータプログラムを、通信手段を介してコンピュータにダウンロードさせた後に実行させれば、上述した本発明の画像処理装置に係る実施形態を比較的簡単に実現できる。
尚、上述した本発明の画像処理装置に係る実施形態における各種態様に対応して、本発明の画像処理プログラムに係る各実施形態も各種態様を採ることが可能である。
本発明の記憶媒体は、上述した、画像処理プログラム(但し、各種の態様を含む)を記憶している。
本発明に係る記憶媒体の実施形態によれば、上述した画像処理プログラムを、コンピュータに読み取らせることで、コンピュータを上述した本発明の画像処理装置に係る実施形態として適切に、機能させることが可能である。
以下、図面を参照して本発明を実施するための最良の形態について説明する。
<第1実施形態>
(全体構成)
先ず、本発明の第1実施形態について説明する。図1は、第1実施形態に係る画像処理装置の全体構成を示すブロック図である。
(全体構成)
先ず、本発明の第1実施形態について説明する。図1は、第1実施形態に係る画像処理装置の全体構成を示すブロック図である。
図1に示されるように、第1実施形態に係る画像処理装置100は、テクスチャ画像生成部110、鮮鋭化処理部120、及び加算器130を備えて構成されている。
入力画像は、テクスチャ画像生成部110、及び鮮鋭化処理部120にそれぞれ入力される。尚、入力画像によって、本発明に係る第1画像の一例が構成されている。
テクスチャ画像生成部110は、入力画像からテクスチャ画像を分離して、分離したテクスチャ画像を出力する。尚、本発明に係る取得手段の一例、及び、本発明に係る生成手段の一例が、このテクスチャ画像生成部110によって構成されている。
鮮鋭化処理部120は、入力画像に対してエッジ鮮鋭化処理を施し、エッジ鮮鋭化処理を施された入力画像を、ベース画像として出力する。尚、本発明に係る取得手段の一例、及び、本発明に係るベース画像取得手段の一例が、この鮮鋭化処理部120によって構成されている。
鮮鋭化処理部120によって出力されたベース画像と、テクスチャ画像生成部110によって出力されたテクスチャ画像とを加算器130で合成することで出力画像を得る。尚、本発明に係る合成手段の一例が、この加算器130によって構成されている。
(テクスチャ画像生成部の詳細構成)
次に、図2を参照して、第1実施形態に係るテクスチャ画像生成部110の詳細構成について説明する。ここに、図2は、第1実施形態に係るテクスチャ画像生成部110の詳細構成を示したブロック図である。
次に、図2を参照して、第1実施形態に係るテクスチャ画像生成部110の詳細構成について説明する。ここに、図2は、第1実施形態に係るテクスチャ画像生成部110の詳細構成を示したブロック図である。
テクスチャ画像生成部110は、フィルタ処理部111、及び減算器112を備えて構成される。入力画像は、フィルタ処理部111、減算器112に入力される。フィルタ処理部111では、入力画像をエッジ維持フィルタ処理し出力する。入力画像からエッジ維持フィルタ処理された入力画像を減算器112で減算することでテクスチャ画像を得る。フィルタ処理部111は、エッジ維持効果のあるフィルタで構成され、εフィルタ、バイラテラルフィルタ、及びトリラテラルフィルタのうちいずれか一方を用いてよい。
再び図1に戻る。
鮮鋭化処理部120は、エッジ急峻化効果のあるバイラテラルフィルタ、及びトリラテラルフィルタのうちいずれか一方を用いてよい。本実施形態に係るバイラテラルフィルタは、フィルタの重み係数が,着目画素からの空間的な距離と着目画素の画素値と周辺画素の画素値の差分という2つの要素から決まるフィルタを意味している。トリラテラルフィルタは、バイラテラルフィルタに第3の関数を追加した方式のフィルタである。典型的には、トリラテラルフィルタは、インパルスノイズの検出器を第3の重みとした方式のフィルタ、或いは注目画素とその周辺画素との勾配に基づく関数を追加した方式のフィルタなどを挙げることができる。
(テクスチャ画像生成部のフィルタ処理部の一例であるεフィルタ)
次に、図3を参照して、テクスチャ画像生成部のフィルタ処理部の一例であるεフィルタについて説明する。ここに、図3は、第1実施形態に係るテクスチャ画像生成部のフィルタ処理部の一例であるεフィルタにおける非線形関数の具体例を示したグラフ(図3(a)ないし図3(d))である。尚、図3(a)ないし図3(d)において、横軸は、周辺画素値xn-kとフィルタ処理の中心画素値xnとの差を示し、縦軸は、後述の非線形関数F(x)の出力を示す。
次に、図3を参照して、テクスチャ画像生成部のフィルタ処理部の一例であるεフィルタについて説明する。ここに、図3は、第1実施形態に係るテクスチャ画像生成部のフィルタ処理部の一例であるεフィルタにおける非線形関数の具体例を示したグラフ(図3(a)ないし図3(d))である。尚、図3(a)ないし図3(d)において、横軸は、周辺画素値xn-kとフィルタ処理の中心画素値xnとの差を示し、縦軸は、後述の非線形関数F(x)の出力を示す。
非線形平滑化フィルタであるεフィルタは画素値の急峻な変化を損なうことなく当該画素を平滑化する際に有効なデジタルフィルタである。εフィルタは、フィルタ処理用の画素が1次元で2N+1タップの場合、次の式(1)によって表される。
ここで、関数F(x)は、その関数値の絶対値((F(x)))(但し、((a))はaの絶対値を示す)が((F(x)))≦ε0に抑えられている非線形関数である。その例を図3に示す。上述の式(1)のεフィルタでは、入力と出力の画素値の差が、次の式(2)で定まる有限の値に抑えられている。
これにより、入出力された画素値の差が±ε以内に制限され、信号の急峻な変化が維持される。
ここで、bn-kに例えば図3(a)のF(x)を採用した場合、bn-kは、次の式(3)によって表される。
このときεフィルタは、フィルタ処理の中心画素の画素値xnと周辺画素の画素値xn-kとの差の絶対値((xn−xn-k))を所定の閾値ε0と比較する。その結果、絶対値((xn−xn-k))が所定の閾値ε0よりも小さい場合は、画素値xn-kをbn-kに代入し、akを各タップ係数とした通常のローパスフィルタと同様の処理を行うことにより、中心画素xnを中心として画像を平滑化する。一方、絶対値((xn−xn-k))が所定の閾値ε0よりも大きい場合は、画素値xnをbn-kに代入し、画素値xn-kを画素値xnに置き換えた後に、中心画素xnを中心としたローパスフィルタ処理を行うことにより、画素値xn-kを無視した平滑化を行う。尚、概ね同様にして、bn-kに、図3(b)に示されたF(x)、図3(c)に示されたF(x)、又は図3(d)に示されたF(x)を採用してよい。
以上によりエッジの急峻な変化をそのままに保存した平滑化を行うことができる。εフィルタは1次元のεフィルタを画像の水平方向及び垂直方向にそれぞれ適応することによって構成される場合と、2次元のεフィルタによって構成される場合とがある。
(鮮鋭化処理部の一例であるバイラテラルフィルタ)
次に、鮮鋭化処理部の一例であると共に、テクスチャ画像生成部のフィルタ処理部の一例であるバイラテラルフィルタについて説明する。
次に、鮮鋭化処理部の一例であると共に、テクスチャ画像生成部のフィルタ処理部の一例であるバイラテラルフィルタについて説明する。
バイラテラルフィルタは非線形フィルタであり、エッジを鮮鋭化するとともに、輝度変化の少ない領域のノイズを平滑化する特徴がある。バイラテラルフィルタはガウス関数を重み係数とし、空間方向と信号方向(階調方向)に対して重み付けを行っている。空間座標(x,y)での入力画素値をd(x,y)とし、座標(x,y)での出力画素値をf(x,y)とし、タップ数を2N+1とした場合、バイラテラルフィルタは次の式(4)によって表される。
ここでα、βはバイラテラルフィルタの係数であり、αを小さくすると空間方向の平滑範囲が広がり、βを小さくすると階調方向の平滑範囲が広がる。バイラテラルフィルタに関する詳細な内容については、『「バイラテラルフィルタによるノイズ除去とイラスト風画像の生成」浦浜喜一著、映像情報メディア学会誌Vol.62,No.8,pp.1268〜1273(2008)』を参照されたし。また、バイラテラルフィルタが有するエッジを急峻化する性質については、『「浦浜喜一,井上光平”バイラテラルフィルタのエッジ強調性”電子情報通信学会論文誌2003/3Vol.J86-ANo.3」』を参照されたし。
(動作原理)
次に、図4ないし図6を参照して、第1実施形態に係る画像処理装置の動作原理について説明する。ここに、図4は、第1実施形態に係る画像処理装置の動作の流れを示したフローチャートである。
次に、図4ないし図6を参照して、第1実施形態に係る画像処理装置の動作原理について説明する。ここに、図4は、第1実施形態に係る画像処理装置の動作の流れを示したフローチャートである。
図5は、第1実施形態に係る画像処理装置のテクスチャ画像生成部における各種の処理が行われた後、得られる画像を、画像上の位置及び画素値を用いて表現した画像の一の波形図(図5(a)ないし図5(c))である。図6は、第1実施形態に係る画像処理装置における各種の処理が行われた後、得られる画像を画像上の位置及び画素値を用いて表現した画像の他の波形図(図6(a)及び図6(b))である。尚、図5(a)ないし図5(c)並びに図6(a)及び図6(b)における、横軸は画像上の位置(即ち、画素位置)を表し、縦軸は、画素値を表している。
図4に示されるように、先ず、テクスチャ画像生成部110によって、画像中の画素を示す画素値Iが取得される(ステップS101)。と同時に又は相前後して、鮮鋭化処理部120によって、画像中の画素を示す画素値Iが取得される(ステップS104)。具体的には、図5(a)は入力画像を示している。入力画像は、画像の一定の範囲のほぼ一律な変化を表すベース成分(即ち、本発明に係るベース画像の一例)と、画像の細かな変化を表すテクスチャ成分(即ち、本発明に係るテクスチャ画像の一例)とから構成されている。
上述したステップS101に続いて、テクスチャ画像生成部110のフィルタ処理部111によって、画素値Iからフィルタ処理した画素値LP(I)が生成される(ステップS102)。具体的には、図5(b)に示された画像の波形図は、入力画像のエッジ部と平坦部で構成された画素群、いわゆる、エッジ部における画素値のレベル変化を維持するフィルタ処理を施すことで得られる。図5(b)に示された画像においては、エッジ部における画素値のレベル変化を維持したままテクスチャ成分が除去されている。
次に、テクスチャ画像生成部110の減算器112によって、画素値Iから画素値LP(I)が減算されることによって、テクスチャ画像「I−LP(I)」が取得される(ステップS30)。具体的には、図5(c)に示されるテクスチャ画像が得られる。このテクスチャ画像は、入力画像からエッジを維持したフィルタ処理後の画像を減算することによって得られる。
次に、上述した鮮鋭化処理部120によって、画像中の画素を示す画素値Iが取得されるステップS104に続いて、鮮鋭化処理部120によって、鮮鋭化処理が施され、画像「BI(I)」が生成される(ステップS105)。具体的には、図6(a)は、ベース画像を示しており、取得された入力画像に対して、鮮鋭化処理を施すことにより、エッジ部における画素値のレベル変化をより急峻化させていることに加えて、画像からテクスチャ成分が除去されている。
最後に、ステップS103において生成された画像「I−LP(I)」と、ステップS105において生成された画像「BI(I)」とが、加算器130によって、合成されることで画像「I−LP(I)+BI(I)」が生成され出力される。具体的には、図6(b)は、出力画像を示しており、生成されたテクスチャ画像と上述のベース画像とを合成した画像「I−LP(I)+BI(I)」が得られる。
上述したバイラテラルフィルタは非線形フィルタであり、エッジ部をなまらせずにノイズを平滑化する特徴があるが、エッジ部を急峻化する性質も持ち合わせている。本実施形態では、この性質を利用して取得した入力画像のエッジ部を急峻化させ、鮮鋭なベース画像を得る。他方で、取得した入力画像をバイラテラルフィルタ処理すると、画像の細かな変化を表すテクスチャ成分も除去されてしまう。そこで、本実施形態では、入力画像からテクスチャ画像を生成し、生成されたテクスチャ画像とベース画像を合成することで、エッジ部は鮮鋭化しつつディテール感を維持した画像を得ることができる。
<第1実施形態における作用と効果の第1の検討>
次に、図7及び図8を参照して、第1実施形態に係る画像処理装置の作用と効果とについて検討する。ここに、図7は、比較例に係る画像処理装置の全体構成を示すブロック図である。図8は、本発明に係る画像処理によって画像の輪郭のエッジが急峻化される様子を示した概念図(図8(a))、及び、比較例に係る画像処理の実施の前後での画像の輪郭の様子を示した概念図(図8(b))である。
次に、図7及び図8を参照して、第1実施形態に係る画像処理装置の作用と効果とについて検討する。ここに、図7は、比較例に係る画像処理装置の全体構成を示すブロック図である。図8は、本発明に係る画像処理によって画像の輪郭のエッジが急峻化される様子を示した概念図(図8(a))、及び、比較例に係る画像処理の実施の前後での画像の輪郭の様子を示した概念図(図8(b))である。
図7に示されるように、比較例に係る画像処理装置100cは、拡大処理部101c、テクスチャ分離部110c、輪郭補正処理部140c、加算器150cを備えて構成されている。拡大処理部101cは、入力画像を所定の画素数へ拡大する処理を行う。テクスチャ分離部110cは、拡大された入力画像からテクスチャ画像を分離する。輪郭補正処理部140cは、拡大された入力画像に対して輪郭補正処理を行う。加算器150cは、入力画像において輪郭補正処理が行われベース画像となった画像と、分離されたテクスチャ画像とを合成し出力画像として出力する。
比較例に係る輪郭補正処理部140cは、バイラテラルフィルタやトリラテラルフィルタを用いない従来の輪郭補正の技術を用いて、水平方向の画素のみに対して輪郭補正処理を行う、あるいは、水平方向の画素と垂直方向の画素とに対して別々に輪郭補正処理を行う。このため、画質改善のために、輪郭補正処理のレベル強度を大きくするに従って、図8(b)に示されるように、画像の輪郭のうち斜め線の部分や曲線の部分にジャギーと呼ばれる階段状のギザギザが現れてしまう。このため、従来の輪郭補正の技術では、画質改善の効果に限界があるという技術的な問題点が生じる。
これに対して、本実施形態によれば、鮮鋭化処理部120におけるバイラテラルフィルタ又はトリラテラルフィルタは、垂直方向の画素と水平方向の画素とに対して、輪郭の鮮鋭化の演算処理を畳み込みつつ同時に行っている。これにより、垂直方向と水平方向との2次元の方向において、画像の輪郭を構成し隣接した画素群、いわゆる、エッジ部における画素値のレベル変化を急峻化させることが可能であり、ジャギーの発生を効果的に抑制することができる。このバイラテラルフィルタ又はトリラテラルフィルタの作用を以下、「エッジ鮮鋭化作用」又は「エッジ鮮鋭化処理」と称す。
具体的には、図8(a)に示されるように、画像の輪郭のうち斜め線の部分にジャギーが発生するのを殆ど又は完全に防止することが可能であり、効果的に画質改善を行えるので、実践上、大変有益である。
また、一般的に、フィルタリング処理や拡大処理等の各種の画像処理によって、ジャギーやリンギングなどのノイズ成分が少なからず発生する。特に、このジャギーやリンギングなどのノイズ成分は、例えば画像の輪郭周辺、いわゆる、エッジ周辺などのように、隣接した画素間の画素値のレベル差が大きい画素位置において発生しやすい。
このため、比較例においては、拡大処理部101cで発生したジャギーやリンギングなどのノイズ成分が、輪郭補正処理部140cにおいて、さらに強調され、出力画像にノイズ成分が発生する度合いが高まってしまうという技術的な問題点が生じる。
これに対して、本実施形態に係る鮮鋭化処理部120においては、入力画像に各種の画像処理が施されることにより発生したジャギーやリンギングなどのノイズ成分は、バイラテラルフィルタが有するノイズ除去作用とエッジ鮮鋭化作用によって、平滑化される共に低減される。また、テクスチャ画像は、入力画像と、フィルタ処理部111による入力画像のフィルタ処理を施した画像との減算であるため、上述した図5(c)に示されるように、テクスチャ画像を構成する画素間の画素値のレベル差は非常に小さい。これにより、このテクスチャ画像に対して各種の画像処理を施した場合、ジャギーやリンギングなどのノイズ成分の発生を顕著に抑制することができる。
この結果、本実施形態によれば、各種の画像処理で発生する可能性が高いジャギーやリンギングなどのノイズ成分の発生を効果的に抑制した画像を得ることができる。
仮に、入力画像をベース画像とテクスチャ画像とに単に分離し、それぞれの画像に対して、ノイズ除去処理や従来の輪郭補正処理等の各種の画像処理を施した場合、これらの各種の画像処理の際の輪郭を表現するための画像情報が欠落してしまい、画像の輪郭を鮮鋭化することが困難になってしまうという技術的な問題点が生じる。
これに対して、本実施形態は、同一の入力画像から、ベース画像とテクスチャ画像とをバイラテラルフィルタを用いてそれぞれ独立して作成している。特に、本実施形態では、上述したように、入力画像から、バイラテラルフィルタやεフィルタを用いたフィルタ処理部111によってフィルタ処理された画像を減算することによって、テクスチャ画像を生成している。これにより、バイラテラルフィルタによるエッジ鮮鋭化作用が、ベース画像とテクスチャ画像との両者にそれぞれ独立して施されるので、画質改善の効果を顕著に高めることが可能である。このように、バイラテラルフィルタによるエッジ鮮鋭化作用が、ベース画像とテクスチャ画像との両者にそれぞれ独立して施されることにより、入力画像において画素値の微小な変化に応じて画像処理を行えるので、輪郭や精細な部分が鮮明に浮き上がった視覚上の効果、いわゆる、画像の粒状感やディティール感が向上すると共に画像での精細な質感をも視覚可能であるので、実践上、大変好ましい。
<第1実施形態における作用と効果の第2の検討>
次に、第1実施形態に係る画像処理装置の作用と効果とについて、更に検討する。
次に、第1実施形態に係る画像処理装置の作用と効果とについて、更に検討する。
一般的に、骨格成分とテクスチャ成分との分離に基づく画像処理に関する技術では、分離処理にTV(Total Variation)ノルムを使用した反復演算処理が行われている。また、骨格画像の補間処理においても周波数帯域への変換と、TVノルムを使用した反復演算処理が行われる。このため、骨格成分とテクスチャ成分との分離に基づく画像処理に関する技術では、画像処理量が膨大になってしまい、例えば通信回線を利用したオンライン方式の画像処理では、画像処理時間が長くなってしまうという技術的な問題が生じる。さらに骨格成分とテクスチャ成分との分離に基づく画像処理に関する技術では、テクスチャ画像に加えて、骨格画像も分離処理によって生成される。即ち、次の式(5)の関係が成り立っている。
入力画像=骨格画像+テクスチャ画像+α …… (5)
このため、式(5)の「α」に相当する部分である骨格画像のエッジ部の一部が分離処理の際に平滑化されてしまい、この平滑化された骨格画像を更に補間処理した場合、骨格画像のエッジ部の鮮鋭化効果が低減されてしまうという技術的な問題点が生じる。
このため、式(5)の「α」に相当する部分である骨格画像のエッジ部の一部が分離処理の際に平滑化されてしまい、この平滑化された骨格画像を更に補間処理した場合、骨格画像のエッジ部の鮮鋭化効果が低減されてしまうという技術的な問題点が生じる。
これに対して、第1実施形態によれば、画像信号における周波数帯域への変換処理が行われないと共に、反復演算処理が行われない。これにより、画像処理の高速化を容易に実現可能であると共に画像処理量の低減を実現可能であると共に、画像処理の際のメモリ量を効果的に低減することができる。更に、入力画像に対して各種の画像処理と鮮鋭化処理を行っているので、エッジ部が平滑化されることなく保持されており、良好な鮮鋭化効果を得ることができる。
<第2実施形態>
(全体構成)
次に、本発明の第2実施形態について説明する。図9は、第2実施形態に係る画像処理装置の全体構成を示すブロック図である。尚、第2実施形態に係る構成要素において、上述した第1実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第2実施形態の動作において、上述した第1実施形態の動作と概ね同様な動作についての説明も適宜省略する。
(全体構成)
次に、本発明の第2実施形態について説明する。図9は、第2実施形態に係る画像処理装置の全体構成を示すブロック図である。尚、第2実施形態に係る構成要素において、上述した第1実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第2実施形態の動作において、上述した第1実施形態の動作と概ね同様な動作についての説明も適宜省略する。
特に、第1実施形態と第2実施形態との相違点の概略は、次の2点である。即ち、相違点は、第2実施形態に係るテクスチャ画像生成部210には、入力画像に加えて、鮮鋭化処理部120が出力したベース画像が入力されている点、及び、テクスチャ画像生成部210内部の構成及び動作が異なる点である。以下、より具体的に説明する。
図9に示されるように、第2実施形態に係る画像処理装置100は、テクスチャ画像生成部210、鮮鋭化処理部120、加算器130を備えて構成されている。
入力画像は、テクスチャ画像生成部210、及び鮮鋭化処理部120にそれぞれ入力される。
鮮鋭化処理部120は、入力画像に対してエッジ鮮鋭化処理を施し、ベース画像として出力する。典型的には、鮮鋭化処理部120は、入力画像においてエッジの度合い(いわゆる、エッジらしさの度合い)が高いエッジ部を鮮鋭化するとともに、入力画像においてエッジの度合いが低い非エッジ部を平滑化するフィルタで構成されてよい。より具体的には、
鮮鋭化処理部120は、エッジ部に対してエッジ急峻化効果のあるバイラテラルフィルタ、及びトリラテラルフィルタのうちいずれか一方を用いてよい。本実施形態に係るバイラテラルフィルタは、フィルタの重み係数が、着目画素からの空間的な距離と着目画素の輝度値と周辺画素の輝度値の差分という2つの要素から決まるフィルタを意味している。トリラテラルフィルタは、バイラテラルフィルタに第3の関数を追加した方式のフィルタである。典型的には、トリラテラルフィルタは、インパルスノイズの検出器を第3の重みとした方式のフィルタ或いは注目画素とその周辺画素との勾配に基づく関数を追加した方式のフィルタなどを挙げることができる。以上より、鮮鋭化処理部120からは、ベース画像、いわゆる、骨格画像が出力される。
鮮鋭化処理部120は、エッジ部に対してエッジ急峻化効果のあるバイラテラルフィルタ、及びトリラテラルフィルタのうちいずれか一方を用いてよい。本実施形態に係るバイラテラルフィルタは、フィルタの重み係数が、着目画素からの空間的な距離と着目画素の輝度値と周辺画素の輝度値の差分という2つの要素から決まるフィルタを意味している。トリラテラルフィルタは、バイラテラルフィルタに第3の関数を追加した方式のフィルタである。典型的には、トリラテラルフィルタは、インパルスノイズの検出器を第3の重みとした方式のフィルタ或いは注目画素とその周辺画素との勾配に基づく関数を追加した方式のフィルタなどを挙げることができる。以上より、鮮鋭化処理部120からは、ベース画像、いわゆる、骨格画像が出力される。
テクスチャ画像生成部210では、入力画像と、鮮鋭化処理部120でエッジ鮮鋭化処理が施されたベース画像とが入力される。テクスチャ画像生成部210は、それらの入力された入力画像及びベース画像に基づいて、テクスチャ画像を生成し出力する。
加算器130は、鮮鋭化処理部の出力であるベース画像と、テクスチャ画像生成部210が出力したテクスチャ画像とを合成することにより、出力画像を出力する。
(テクスチャ画像生成部の詳細構成)
次に、図10及び図11を参照して、第2実施形態に係るテクスチャ画像生成部210の詳細構成について説明する。ここに、図10は、第2実施形態に係るテクスチャ画像生成部210の詳細構成を示したブロック図である。図11は、第2実施形態に係るテクスチャ画像生成部210の混合部212の詳細構成を示したブロック図である。
次に、図10及び図11を参照して、第2実施形態に係るテクスチャ画像生成部210の詳細構成について説明する。ここに、図10は、第2実施形態に係るテクスチャ画像生成部210の詳細構成を示したブロック図である。図11は、第2実施形態に係るテクスチャ画像生成部210の混合部212の詳細構成を示したブロック図である。
テクスチャ画像生成部210は、エッジ検出部211、混合部212、及び減算器217を備えて構成される。入力画像は、エッジ検出部211、混合部212、及び減算器217にそれぞれ入力される。
エッジ検出部211は、入力画像のエッジ部を検出し、エッジらしさの度合いを、混合部212に出力する。
混合部212は、入力画像と、鮮鋭化処理部の出力であるベース画像とに対して、エッジらしさの度合いに応じて、重み付け処理を施し、重み付け処理がそれぞれ施された入力画像と、ベース画像と混合し、混合した画像を減算器217に出力する。
詳細には、混合部212は、図11に示されるように、乗算係数を発生する係数発生部213、乗算器214、乗算器215、及び加算器216を備えて構成されている。
係数発生部213は、エッジ検出部211から入力されたエッジらしさの度合いに応じて、乗算係数を発生し、発生した乗算係数Kに対応して、1から乗算係数K(但し、Kは、0≦K≦1の範囲の実数)を差し引いた値である係数「1−K」を乗算器214に出力すると共に、乗算係数Kを、乗算器215に出力する。
乗算器214は、鮮鋭化処理部120から出力されたベース画像の信号レベルを、上述した係数「1−K」に応じて、「1−K」倍(但し、0≦K≦1)し、信号レベルが「1−K」倍されたベース画像を加算器216に出力する。
乗算器215は、入力画像の信号レベルを、上述した乗算係数Kに応じて、「K」倍(但し、0≦K≦1)し、信号レベルが「K」倍された入力画像を加算器216に出力する。
加算器216は、信号レベルが「1−K」倍されたベース画像と、信号レベルがK倍された入力画像とを加算し、加算された画像を、上述した減算器217へ出力する。
このように混合部212は、エッジらしさの度合いが高いと判定された画像領域に対応して、入力画像の割合が主(大部分)である画像を出力し、他方、エッジらしさの度合いが低いと判定された画像領域に対応して、鮮鋭化処理部120から出力されたベース画像の割合が主(大部分)である画像を出力する。
再び、図10に戻る。図10に示されるように、減算器217は、入力画像から、混合部212が出力した画像を減算し、減算した結果である差分の画像を、加算器130(図9を参照)へ出力する。
これにより、減算器217は、エッジらしさの度合いが高いと判定された画像領域に対応して、入力画像から、入力画像の割合が主(大部分)である画像が減算される、言い換えると、ほぼ同一の画像信号、同士が減算されるので、減算器217から出力される画像は、殆ど又は完全に無くなる。他方、エッジらしさの度合いが低いと判定された画像領域に対応して、入力画像から、ベース画像の割合が主(大部分)である画像が減算されることにより、テクスチャ画像の割合が主(大部分)である画像が、減算器217から出力される。
最後に、図9に示されるように、加算器130で、鮮鋭化処理部120が出力したベース画像と、テクスチャ画像生成部210の減算器217の出力であるテクスチャ画像とが合成されることにより、出力画像が得られる。典型的には、エッジらしさの度合いが高いと判定された画像領域に対応して、減算器217から出力される画像は、殆ど又は完全に無くなるので、加算器130は、ベース画像を出力画像として出力する。他方、エッジらしさの度合いが低いと判定された画像領域に対応して、テクスチャ画像の割合が主(即ち、大部分)である画像が、減算器217から出力されるので、加算器130は、ベース画像とテクスチャ画像との和である画像、即ち、入力画像を出力画像として出力する。
これにより、エッジらしさの度合いが高いと判定された画像領域においては、主として、鮮鋭化処理部120のフィルタ処理によって鮮鋭化されたベース画像が出力される。他方、エッジらしさの度合いが低いと判定された画像領域においては、入力画像自体がそのまま出力される。加えて、エッジらしさの度合いが高いレベルと低いレベルとの中間レベルである中間領域においては、ベース画像と入力画像とがエッジらしさの度合いに応じて混合された画像が出力される。これにより、エッジらしさの度合いが高い画像領域と、エッジらしさの度合いが低い画像領域との境界が視認されるのを効果的に防止することができる。
特に、エッジ検出部211による、エッジらしさの度合いの判定を2値化してよい。即ち、エッジらしさの度合いが閾値を越える場合、上述した乗算係数に「1」を代入し、エッジらしさの度合いが閾値を越えない場合、上述した乗算係数に「0:ゼロ」を代入してよい。これにより、混合部212は、ベース画像及び入力画像のうちいずれか一方の画像を、乗算係数に応じて切り替えつつ、出力することができる。典型的には、エッジらしさの度合いが閾値を越えると判定された画像領域においては、主として、鮮鋭化処理部120のフィルタ処理によって鮮鋭化されたベース画像が出力される。他方、エッジらしさの度合いが閾値を越えないと判定された画像領域においては、入力画像自体がそのまま出力される。
(動作原理)
次に、図12を参照して、第2実施形態に係る画像処理装置の動作原理について説明する。ここに、図12は、第2実施形態に係る画像処理装置の動作の流れを示したフローチャートである。
次に、図12を参照して、第2実施形態に係る画像処理装置の動作原理について説明する。ここに、図12は、第2実施形態に係る画像処理装置の動作の流れを示したフローチャートである。
図12に示されるように、先ず、テクスチャ画像生成部210によって、画像中の画素を示す画素値Iが取得される(ステップS201)。と同時に又は相前後して、鮮鋭化処理部120によって、画像中の画素を示す画素値Iが取得される(ステップS204)。
次に、エッジ検出部211によって、画素値Iのエッジらしさの度合いが検出される(ステップS202)。
次に、係数発生部213は、検出されたエッジらしさの度合いに応じて、乗算係数Kを発生する(ステップS203)。上述したように乗算係数Kは、所定の範囲(即ち、0≦K≦1)に含まれる値であり、エッジらしさの度合いが高くなるに従って、「1」に近くなる値となり、他方、乗算係数Kは、エッジらしさの度合いが低くなるに従って、「0」に近くなる値となる。
次に、鮮鋭化処理部120によって、画素値Iに対して、鮮鋭化処理が施される(ステップS205)。
次に、乗算器214によって、鮮鋭化処理が施された画素値B(I)の信号レベルが「1−K」倍され、画素値「B(I)*(1−K)」が得られる(ステップS206)。
と同時に又は合前後して、乗算器215によって、画素値Iの信号レベルが「K」倍され、画素値「I*K」が得られる(ステップS207)。
次に、加算器216によって、画素値「B(I)*(1−K)」と、画素値「I*K」とが加算され、画素値「B(I)*(1−K)+I*K」が得られる(ステップS208)。
次に、減算器217によって、画素値Iから、画素値「B(I)*(1−K)+I*K」が減算され、画素値「I−{B(I)*(1−K)+I*K}」が得られる(ステップS209)。
最後に、加算器130によって、上述した画素値「I−{B(I)*(1−K)+I*K}」と、画素値Iに対して鮮鋭化処理が施された画素値B(I)とが加算され、次の式(1)に示された画素値が得られる。
[I−{B(I)*(1−K)+I*K}]+B(I) …… (1)
式(1)を整理すると、式(1a)が得られる。
式(1)を整理すると、式(1a)が得られる。
[I−{B(I)*(1−K)+I*K}]+B(I)
={I−B(I)*(1−K)−I*K}+B(I)
=I−B(I)*(1−K)−I*K+B(I)
=I−B(I)+B(I)*K−I*K+B(I)
=I+B(I)*K−I*K
=I−I*K+B(I)*K
=I(1−K)+B(I)*K …… (1a)
即ち、第2実施形態に係る画像処理装置200によって、出力画像の画素値「I*(1−K)+B(I)*K」が得られる(ステップS210)。
={I−B(I)*(1−K)−I*K}+B(I)
=I−B(I)*(1−K)−I*K+B(I)
=I−B(I)+B(I)*K−I*K+B(I)
=I+B(I)*K−I*K
=I−I*K+B(I)*K
=I(1−K)+B(I)*K …… (1a)
即ち、第2実施形態に係る画像処理装置200によって、出力画像の画素値「I*(1−K)+B(I)*K」が得られる(ステップS210)。
上述したように、第2実施形態においては、テクスチャ画像を生成する際に、言い換えると、テクスチャ画像を入力画像から分離する際に、鮮鋭化処理が施された画像と、検出されたエッジらしさの度合いとを利用することにより、テクスチャ画像を入力画像から分離するための専用フィルタを必要としない。言い換えると、第2実施形態では、ベース画像の生成の際に用いるフィルタと、テクスチャ画像の生成の際に用いるフィルタとは、同一のエッジ鮮鋭化処理用のフィルタ(以下、適宜「エッジ鮮鋭化フィルタ」と称す)である。このフィルタからの出力は、エッジらしさの度合いが低い画像領域(いわゆる、非エッジ部)の信号レベルの平滑化と同時に、エッジ鮮鋭化処理が施される。
仮に、ベース画像を生成するためのフィルタの特性と、テクスチャ画像を生成するためのフィルタの特性とが異なる場合、入力画像のテクスチャ成分と全く又は殆ど同一のテクスチャ画像を再度生成することが困難になってしまうという技術的な問題点が生じる。或いは、仮に、ベース画像の生成の際に用いるフィルタと、テクスチャ画像の生成の際に用いるフィルタとが、同一のエッジ鮮鋭化フィルタであるとしても、エッジらしさの度合いを考慮することがない場合、テクスチャ画像を生成した場合、次のような技術的な問題点が生じる。即ち、エッジらしさの度合いを考慮することなく、テクスチャ画像を生成するために、入力画像から、入力画像に対してエッジ鮮鋭化フィルタによるエッジ鮮鋭化処理を施した画像を減算した場合、入力画像のエッジ部と、鮮鋭化された入力画像のエッジ部との差分成分が、テクスチャ画像生成部210から出力されてしまい、入力画像のテクスチャ成分と全く又は殆ど同一のテクスチャ画像を再度生成することが困難になってしまうという技術的な問題点が生じる。
これに対して、第2実施形態では、ベース画像の生成の際に用いるフィルタと、テクスチャ画像の生成の際に用いるフィルタとは、同一のエッジ鮮鋭化フィルタであると共に、エッジらしさの度合いを考慮し、エッジらしさの度合いが高いと判定された画像領域に対応して、入力画像から、入力画像の割合が主(大部分)である画像が減算される、言い換えると、ほぼ同一の画像信号、同士が減算されるので、減算器217から出力される画像は、殆ど又は完全に無くなる。詳細には、上述したステップS209にて、テクスチャ画像生成部210の出力値として得られる画素値「I−{B(I)*(1−K)+I*K}」において、乗算係数Kに「1:イチ」に近い値を代入すると、画素値の値もゼロに近くなる。言い換えると、エッジらしさの度合いが高いと判定された画像領域においては、入力画像のエッジ部と、鮮鋭化された入力画像のエッジ部との差分成分の影響が顕著に高いので、テクスチャ画像の信号レベルを殆ど又は完全にゼロにすることが可能である。
他方、エッジらしさの度合いが低いと判定された画像領域に対応して、入力画像から、ベース画像の割合が主(大部分)である画像が減算されることにより、テクスチャ画像の割合が主(大部分)である画像が、減算器217から出力される。詳細には、上述したステップS209にて、テクスチャ画像生成部210の出力値として得られる画素値「I−{B(I)*(1−K)+I*K}」において、乗算係数Kに「0:ゼロ」に近い値を代入すると、画素値の値は、「I−B(I)」に近くなる。言い換えると、エッジらしさの度合いが低いと判定された画像領域においては、入力画像のエッジ部と、鮮鋭化された入力画像のエッジ部との差分成分の影響が顕著に低いので、入力画像のテクスチャ成分と全く又は殆ど同一のテクスチャ画像を再度生成することが可能である。
このように、第2実施形態においては、入力画像からベース画像とテクスチャ画像とを分離し、テクスチャ画像を生成する際に、検出されたエッジらしさの度合いを考慮すると共に、1種類の鮮鋭化処理用のフィルタによって、画像処理を行う。
これにより、画像のエッジ精鋭化処理を、エッジらしさの度合いが高いエッジ部に対してのみに施すことができると共に、テクスチャ画像に対してはエッジ精鋭化処理を殆ど又は完全に施すことなく、エッジ精鋭化処理のテクスチャ画像への影響を殆ど又は完全に無くすことが可能である。加えて、これにより、鮮鋭化処理120によってベース画像が出力される際に失われるテクスチャ成分と、加算器130によって加算されるテクスチャ画像とを、殆ど又は完全に等しくさせることが可能である。
このように、エッジらしさの度合いの高低に応じて、生成されたテクスチャ画像の信号レベルを変化させることで、入力画像のテクスチャ成分と全く又は殆ど同一のテクスチャ画像を再度生成することが可能であるので、テクスチャ画像の高精度な生成と、画像領域の全体部分におけるエッジ鮮鋭化処理との両立を実現することが可能である。
<第3実施形態>
(全体構成)
先ず、本発明の第3実施形態について説明する。図13は、第3実施形態に係る画像処理装置の全体構成を示すブロック図である。
(全体構成)
先ず、本発明の第3実施形態について説明する。図13は、第3実施形態に係る画像処理装置の全体構成を示すブロック図である。
尚、第3実施形態に係る構成要素において、上述した第2実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第3実施形態の動作において、上述した第2実施形態の動作と概ね同様な動作についての説明も適宜省略する。
図13に示されるように、第3実施形態に係る画像処理装置300は、テクスチャ画像生成部210、鮮鋭化処理部120、乗算器310、及び加算器130を備えて構成されている。尚、本発明に係る第1補正処理を施す補正手段の一例が、乗算器310によって構成されている。
乗算器310は、テクスチャ成分の量を制御するもので、倍率L倍で指定する。L=0の場合は、テクスチャ画像から生成される画像は0になり、ベース画像から作成される画像のみが出力画像となる。0<L<1の場合は、テクスチャ画像から生成される画像が低減され、ベース画像から生成される画像と合成され出力される。L=1の場合は、乗算器が無い状態と同じになり、ベース画像から生成される画像とテクスチャ画像から生成される画像が同じ比率で合成され出力画像となる。L>1の場合は、テクスチャ画像から生成される画像が増強され、ベース画像から生成される画像と合成され出力画像となる。
第3実施形態では、テクスチャ画像生成部210から出力されたテクスチャ画像は、乗算器310を経由して加算器130に入力される。加算器130では、これら入力されたベース画像及びテクスチャ画像を合成して出力画像として出力する。
第3実施形態によれば、テクスチャ画像に対して、上述した乗算処理を行い、ベース画像に対して、上述した乗算処理を行わない。これにより、ベース画像におけるエッジ部や平坦部のレベルを維持可能であるので、輪郭や精細な部分が鮮明に浮き上がった視覚上の効果、いわゆる、画像の粒状感やディティール感が向上すると共に画像でのコントラストを高めることが可能であるので、実践上、大変好ましい。
加えて、第3実施形態によれば、テクスチャ画像に対してのみ乗算処理を行うことで、エッジ部や平坦部のレベルを維持したまま粒状感を増加させることができコントラスト感を高めることができる。
以上のように、第3実施形態によれば、画像をベース画像とテクスチャ画像とに分離することにより、テクスチャ画像に対してのみ、単独で画像補正処理を施すことが可能である。典型的には、テクスチャ画像の信号レベルを線形的に増減する画像補正処理を施すことにより、鮮鋭感を調整できるので、実践上、大変好ましい。
<第4実施形態>
(全体構成)
次に、本発明の第4実施形態について説明する。図14は、第4実施形態に係る画像処理装置の全体構成を示すブロック図である。図15は、第4実施形態に係る非線形処理部における非線形関数の具体例を示したグラフである。
(全体構成)
次に、本発明の第4実施形態について説明する。図14は、第4実施形態に係る画像処理装置の全体構成を示すブロック図である。図15は、第4実施形態に係る非線形処理部における非線形関数の具体例を示したグラフである。
尚、第4実施形態に係る構成要素において、上述した第2実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第4実施形態の動作において、上述した第2実施形態の動作と概ね同様な動作についての説明も適宜省略する。
図14に示されるように、第4実施形態に係る画像処理装置400は、テクスチャ画像生成部210、鮮鋭化処理部120、非線形処理部410、及び加算器130を備えて構成されている。尚、本発明に係る第1補正処理を施す補正手段の一例が、非線形処理部410によって構成されている。
第4実施形態では、テクスチャ画像生成部210から出力されたテクスチャ画像は、非線形処理部410を経由して加算器130に入力される。加算器130では、これら入力されたベース画像及びテクスチャ画像を合成して出力画像として出力する。
非線形処理部410は、テクスチャ画像に非線形的なフィルタ処理を行う。一般的に、テクスチャ画像の成分は、画像成分の高域成分に相当するため、画像本来の高域成分、言い換えると、細かい成分以外にノイズ成分が含まれる頻度が多い。このため、いわゆる、S字曲線処理(図15を参照)を行うことで、低レベルのテクスチャ成分をノイズとして低減し、画像本来のテクスチャ成分が多く含まれると思われる中間的なレベルのテクスチャ成分の信号レベルを増幅し、あるレベル以上のテクスチャ成分は低減するように、非線形処理の特性を設定することで、総合的な画質を向上することが可能である。
典型的には、図15に示されるように、非線形処理部410に入力されたテクスチャ画像の信号レベル(即ち、図15中の入力レベル)が、所定レベル(即ち、図15中の入力レベル範囲A1の下端値)よりも低い場合、テクスチャ画像の成分の信号レベルに対して、入力レベルに対する出力レベルの変化率の小さい値を乗算することにより、ノイズとして低減する。尚、図15中の一点鎖線は、非線形処理部410に入力されたテクスチャ画像の信号レベルを同じレベルで出力する場合における、非線形処理部410の特性を示している。
他方、非線形処理部410に入力されたテクスチャ画像の信号レベルが、画像本来のテクスチャ画像の成分が多く含まれると思われる中間的なレベル範囲(即ち、図15中の入力レベル範囲A1)内にある場合、テクスチャ画像の成分の信号レベルに変化率の大きい値を乗算することにより、信号レベルを増幅する。更に他方、非線形処理部410に入力されたテクスチャ画像の信号レベルが、所定レベル(即ち、図15中の入力レベル範囲A1の上端値)を超える場合、テクスチャ画像の成分の信号レベルに変化率の小さい値を乗算することにより、テクスチャ成分の過度の増幅を防ぎ、テクスチャ画像にこのような非線形処理を施すことになるので、総合的な画質を向上することが可能である。
第4実施形態によれば、テクスチャ画像に対して、上述した非線形処理を行い、ベース画像に対して、上述した非線形処理を行わない。
これにより、ベース画像におけるエッジ部や平坦部のレベルを維持可能であるので、エッジ鮮鋭化に加え、非線形処理により、テクスチャ成分が強調されることにより、精細な部分が鮮明に浮き上がったような視覚上の効果、いわゆる、画像の粒状感やディティール感が向上すると共に画像でのコントラストを高めることが可能であるので、実践上、大変好ましい。
以上のように、第4実施形態によれば、画像をベース画像とテクスチャ画像とに分離することにより、テクスチャ画像に対してのみ、単独で画像補正処理を施すことが可能である。典型的には、テクスチャ画像の信号レベルを非線形的に増減する画像補正処理を施すことにより、鮮鋭感を調整できると共にノイズ低減を行うことができるので、実践上、大変好ましい。
<第5実施形態>
(全体構成)
次に、図16及び図17を参照して、本発明の第5実施形態について説明する。図16は、第5実施形態に係る画像処理装置の全体構成を示すブロック図である。図17は、第5実施形態に係るグラデーション補正処理を施した画像の波形図(図17(a))及び比較例に係るグラデーション補正処理を施した画像の波形図(図17(b))である。
(全体構成)
次に、図16及び図17を参照して、本発明の第5実施形態について説明する。図16は、第5実施形態に係る画像処理装置の全体構成を示すブロック図である。図17は、第5実施形態に係るグラデーション補正処理を施した画像の波形図(図17(a))及び比較例に係るグラデーション補正処理を施した画像の波形図(図17(b))である。
尚、第5実施形態に係る構成要素において、上述した第2実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第5実施形態の動作において、上述した第2実施形態の動作と概ね同様な動作についての説明も適宜省略する。
図16に示されるように、第5実施形態に係る画像処理装置500は、テクスチャ画像生成部210、テクスチャ画像用処理部510、鮮鋭化処理部120、ベース画像用処理部520、及び加算器130を備えて構成されている。尚、本発明に係る第1補正処理を施す補正手段の一例が、テクスチャ画像用処理部510によって構成されている。また、本発明に係る第2補正処理を施す補正手段の一例が、ベース画像用処理部520によって構成されている。
テクスチャ画像用処理部510は、テクスチャ画像の性質や特性に適した画像処理を行う。典型的には、テクスチャ画像用処理部510は、3次元ノイズリダクション処理、美肌補正処理、又は孤立点除去処理などの処理を行う。3次元ノイズリダクション処理は、画像信号を、時間軸方向にフィルタ処理する。これにより、ランダムノイズなどを除去することができる。典型的には、動画で残像が発生しやすい問題があるが、テクスチャ成分に対してのみ3次元ノイズリダクションを作用させれば、低周波成分がないため残像が目立ちにくい利点がある。また、美肌補正処理は、入力画像の肌色近辺の色を検出して、その近辺の色のみテクスチャ成分を下げる。これにより、肌のノイズ感を抑えることができる。また、孤立点除去処理は、テクスチャ成分がある程度の大きさ(領域)で分布すると考えて、孤立的に存在するテクスチャ成分はノイズと判断し除去する処理である。これにより、ノイズ低減効果を向上することができる。
ベース画像用処理部520は、ベース画像の性質や特性に適した画像処理を行う。典型的には、ベース画像用処理部520は、グラデーション補正処理やトランジェント補正(LTI/CTI)処理などを行う。グラデーション補正処理は、階調の変化がなだらかな領域(グラデーション領域)を判別したときに、その領域内で低域通過フィルタ処理または線形補間を行うことによって、グラデーション領域内で均一な階調変化を実現する。トランジェント補正処理は、エッジの傾きを空間的な処理によって高めるもので、輝度信号、色信号の少なくともどちらか一方に施す処理である。
第5実施形態では、鮮鋭化処理部120によってエッジ鮮鋭化されつつ出力されたベース画像は、ベース画像用処理部520を経由して加算器130に入力される。加えて、テクスチャ画像生成部210から出力されたテクスチャ画像は、テクスチャ画像用処理部510を経由して加算器130に入力される。加算器130では、これら入力されたベース画像及びテクスチャ画像を合成して出力画像として出力する。
特に、第5実施形態では、鮮鋭化処理部120による鮮鋭化処理後のベース画像においては、エッジを保持した平滑化が行われ、このベース画像はエッジ部及び平坦部から構成されており、テクスチャ画像、又はテクスチャ成分が含まれていない。これにより、第5実施形態では、ベース画像用処理部520によって、テクスチャ成分が殆ど又は完全にないベース画像に対して、例えばグラデーション補正処理が施されるため、良好なグラデーション補正処理を行うことができる。具体的には、図17(a)に示されるように、第5実施形態に係るグラデーション補正処理では、テクスチャ成分がないベース画像において、画素値の段階的な変化に応じて、線形的に画素値を変化させること可能であり、良好なグラデーション補正処理を行うことができる。尚、図17(a)内の点線は、画素値の段階的な変化の変化率の傾きを示す。
仮に、テクスチャ成分が含まれている画像に対して、グラデーション補正処理をかける場合、図17(b)に示されるように、このテクスチャ成分が妨害となって正常にグラデーション補正処理を行うことができない可能性があるという技術的な問題点が生じる。尚、図17(b)内の点線は、テクスチャ成分が殆ど又は完全にないベース画像における画素値の段階的な変化を示す。
また、一般的に、画像に含まれるランダムノイズは、細かな振動成分であるのでテクスチャ成分に類似する成分として分類される。特に、入力画像に対して時間軸方向のフィルタ処理である3次元ノイズリダクション、いわゆる、3DNR処理を行った場合、残像が問題となる。また、この残像は特に、画像の輪郭、即ち、エッジ部において一般的に検知される傾向がある。
これに対して、第5実施形態に係るテクスチャ画像用処理部510は、画像の輪郭、即ち、エッジ部を含まないテクスチャ画像に対してのみ3DNR処理を行っている。これにより、テクスチャ画像用処理部510での3DNR処理は、画像のエッジ部に何ら影響を与えない。これにより、第5実施形態によれば、ランダムノイズを3DNRで除去しつつ、残像の発生を効果的に低減可能であるので、実践上、大変有益である。
加えて、一般的に孤立点除去処理で除去されるノイズ成分も細かな振動成分であるため、テクスチャ成分に類似する成分として分類される。
第5実施形態に係るテクスチャ画像用処理部510においては、テクスチャ画像に対してのみ孤立点除去処理が行われる。これにより、テクスチャ画像用処理部510は、画像の輪郭、即ち、エッジ部などの画素値が大きく変化する画素部分の影響を殆ど又は完全に受けることなく、孤立点除去処理を行うため、孤立点等のノイズを検出する精度を高めると共に、ノイズ除去を効果的に行うことが可能であるので、実践上、大変有益である。
以上のように、第5実施形態によれば、入力画像を、ベース画像とテクスチャ画像とに分離することにより、分離された画像に画像補正処理をそれぞれ施すことができる。これにより、画像補正処理の自由度を増加させることが可能である。これにより、テクスチャ画像の制御や、ベース画像及びテクスチャ画像にそれぞれ適した画像補正処理を施すことが可能であるので、実践上、大変有益である。
<第6実施形態>
(全体構成)
次に、図18、図19及び図20を参照して、本発明の第6実施形態について説明する。図18は、第6実施形態に係る画像処理装置の全体構成を示すブロック図である。図19は、第6実施形態に係るテクスチャ画像生成部の構成を示すブロック図である。図20は、第6実施形態に係る入力画像の周波数成分と各周波数成分の頻度との定量的及び定性的な関係を示したヒストグラム(図20(a)及び図20(b))である。
(全体構成)
次に、図18、図19及び図20を参照して、本発明の第6実施形態について説明する。図18は、第6実施形態に係る画像処理装置の全体構成を示すブロック図である。図19は、第6実施形態に係るテクスチャ画像生成部の構成を示すブロック図である。図20は、第6実施形態に係る入力画像の周波数成分と各周波数成分の頻度との定量的及び定性的な関係を示したヒストグラム(図20(a)及び図20(b))である。
尚、第6実施形態に係る構成要素において、上述した第1実施形態に係る構成要素と概ね同様な構成要素には、同一の符号番号を付し、それらの説明については、適宜省略する。加えて、第6実施形態の動作において、上述した第1実施形態の動作と概ね同様な動作についての説明も適宜省略する。
図18に示されるように、第6実施形態に係る画像処理装置600は、テクスチャ画像生成部610、鮮鋭化処理部620、加算器130、及び、周波数分析処理部630を備えて構成されている。尚、本発明に係る測定手段の一例が、この周波数分析処理部630によって構成されている。
図19に示されるように、第6実施形態に係るテクスチャ画像生成部610は、フィルタ処理部611、及び減算器112を備えて構成される。
周波数分析処理部630は、入力画像の空間周波数成分を分析し、その分析結果に基づいて、テクスチャ画像生成部610のフィルタ処理部611及び鮮鋭化処理部620における各種のパラメータ設定を行う。入力画像は、テクスチャ画像生成部610、鮮鋭化処理部620、及び周波数分析処理部630にそれぞれ入力される。周波数分析処理部630による周波数分析の結果に関する情報は、テクスチャ画像生成部610のフィルタ処理部611、及び鮮鋭化処理部620にそれぞれ入力される。
空間周波数成分の分析方法として、ウェーブレット(Wavelet)変換、フーリエ(Fourier)変換、またはDCT(Discrete Cosine Transform)変換、アダマール変換等のいずれかの処理を行い周波数分布の統計量を求める。この統計値から画像の鮮鋭度を判定しパラメータの設定を行う。周波数分析処理部からフィルタ処理部へのパラメータとしてεフィルタの場合は、タップ数、ε値、非線形関数の選択がある。バイラテラルフィルタの場合はタップ数、係数α、係数βがある。周波数分析処理部から鮮鋭化処理部へのパラメータ設定としてはタップ数、係数α、係数βがある。
一例として、入力画像をフーリエ変換し周波数領域に展開する。周波数領域に展開された画像データをヒストグラム処理し、周波数分布の統計量を求める。この統計量に基づいて、図20(b)に示されるように、例えば、低域成分の頻度と、概ね同様の頻度で高域成分が存在し、高域成分が含まれる度合いが大きい場合、鮮鋭度が高いと判断してよい。他方、図20(a)に示されるように、例えば、低域成分の頻度と比較して、高域成分の頻度が高域になるに従って減少し、ひいては高域成分の頻度が無くなっており、高域成分含まれる度合いが小さい場合、鮮鋭度が低いと判断してよい。
典型的には、鮮鋭度が高い場合、タップ数を増加方向に変更し、鮮鋭度が低い場合、タップ数を減少方向に変更してよい。急激な変更を避けるため、鮮鋭度の高低に関わらずにタップ数の変更をゼロにした遷移する区間を持つように考慮してよい。また、上記処理は一枚の画像で行ってもよいが、一枚のあるブロック領域だけで行ってもよい。さらに画像が示す絵柄によって周波数分布が変化することも考慮して複数枚の画像の蓄積値または平均値から周波数分布の統計量を求めてもよい。周波数分析処理はシーンチェンジやチャンネルチェンジによってリセット処理する方法も考えられる。
以上のように、第6実施形態によれば、入力画像の周波数成分を解析し、エッジ成分やテクスチャ成分が分布する周波数領域を事前に把握することにより、多種多様な入力画像に対して、常に、バイラテラルフィルタやトリラテラルフィルタのタップ数やパラメータを最適な値に設定できるので、実践上、大変好ましい。
加えて、第6実施形態によれば、周波数分析処理部630によって入力画像の鮮鋭度を事前に判別することによって、多種多様な入力画像に対して、上述した画像の粒状感やディティール感の度合いを、一定レベルに維持することが可能であるので、実践上、大変好ましい。
本発明は、上述した実施形態に限られるものではなく、請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体もまた本発明の技術的範囲に含まれるものである。
本発明は、例えばデジタルカメラ、例えば液晶TV、PDP、有機EL等のディスプレイ装置、例えばDVD、Blu-ray、HD-DVD、HDDレコーダ、パソコン等の画像再生装置、例えば、地上デジタル放送受信端末、ケーブルデジタル放送受信端末、衛星デジタル放送受信端末、IP放送受信端末、カーナビ、携帯電話、ワンセグ受信機器等のデジタル放送受信装置などの画像処理装置、及び、当該画像処理装置における画像処理方法に利用可能である。加えて、本発明は、例えば静止画及び動画編集ソフトウェア、静止画及び動画再生ソフトウェアなどの画像処理方法、画像処理プログラム、及び、当該画像処理プログラムが記憶される記憶媒体に利用可能である。
100、200、300、400、500、600…画像処理装置、110、210、610…テクスチャ画像生成部、111、611…フィルタ処理部、112…減算器、120、620…鮮鋭化処理部、130…加算器、310…乗算器、410…非線形処理部、510…テクスチャ画像用処理部、520…ベース画像用処理部、630…周波数分析処理部。
Claims (14)
- 第1画像を取得する取得手段と、
前記取得された第1画像からテクスチャ画像を生成する生成手段と、
前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像取得手段と、
前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成手段とを備えることを特徴とする画像処理装置。 - 前記生成手段は、前記取得された第1画像から、前記取得された第1画像にエッジ維持フィルタリングを施した画像を減算することにより、前記テクスチャ画像を生成することを特徴とする請求項1に記載の画像処理装置。
- 前記生成手段は、前記取得されたベース画像を用いて、前記取得された第1画像から前記テクスチャ画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記生成手段は、前記取得されたベース画像に加えて、エッジらしさの度合いを示すエッジ係数を用いて、前記取得された第1画像から前記テクスチャ画像を生成することを特徴とする請求項1から3のうちいずれか一項に記載の画像処理装置。
- 前記生成されたテクスチャ画像に対して、前記生成されたテクスチャ画像の性質に応じた補正を行う第1補正処理、及び、前記取得されたベース画像に対して、前記取得されたベース画像の性質に応じた補正を行う第2補正処理のうち少なくともいずれか一方の補正処理を施す補正手段を更に備え、
前記合成手段は、前記少なくともいずれか一方の補正処理が施された後、前記テクスチャ画像と、前記ベース画像とを合成することを特徴とする請求項1から4のうちいずれか一項に記載の画像処理装置。 - 前記補正手段は、前記第1補正処理として、前記生成されたテクスチャ画像に対して、3次元ノイズリダクション処理、美肌補正処理、及び、孤立点除去処理のうち少なくとも一つの処理を施し、前記生成されたテクスチャ画像を補正することを特徴とする請求項5に記載の画像処理装置。
- 前記補正手段は、前記第2補正処理として、前記取得されたベース画像に対して、グラデーション補正処理、及びトランジェント補正処理のうち少なくとも一つの処理を施し、前記取得されたベース画像を補正することを特徴とする請求項5に記載の画像処理装置。
- 前記補正手段は、前記第1補正処理として、前記生成されたテクスチャ画像に対して、非線形処理、及び乗算処理のうち少なくとも一方の処理を施し、前記生成されたテクスチャ画像を補正すると共に、前記取得されたベース画像に対して、非線形処理、及び乗算処理を施さないことを特徴とする請求項5に記載の画像処理装置。
- 前記取得された少なくとも1つの第1画像における任意の領域で周波数成分の分布を測定する測定手段を更に備え、
前記ベース画像取得手段は、前記測定された周波数成分の分布に基づいて、前記ベース画像を取得することに加えて又は代えて、
前記生成手段は、前記測定された周波数成分の分布に基づいて、前記テクスチャ画像を生成することを特徴とする請求項1から8のうちいずれか一項に記載の画像処理装置。 - 前記ベース画像取得手段は、前記測定された周波数成分の分布に応じてタップ数、及びフィルタ係数のうち少なくとも一つを変化させ、前記ベース画像を取得することに加えて又は代えて、
前記生成手段は、前記測定された周波数成分の分布に応じてタップ数、及びフィルタ係数のうち少なくとも一つを変化させ、前記テクスチャ画像を生成することを特徴とする請求項9に記載の画像処理装置。 - 前記測定手段は、前記第1画像を取得する際のシーン毎又はチャンネル毎に、前記周波数成分の測定を初期化することを特徴とする請求項9に記載の画像処理装置。
- 第1画像を取得する取得工程と、
前記取得された第1画像からテクスチャ画像を生成する生成工程と、
前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得工程と、
前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成工程と
を備えることを特徴とする画像処理方法。 - コンピュータを備える装置によって実行される画像処理プログラムであって、
第1画像を取得する取得手段と、
前記取得された第1画像からテクスチャ画像を生成する生成手段と、
前記取得された第1画像の輪郭に鮮鋭化処理を施すことにより輪郭が鮮鋭化されたベース画像を取得するベース画像取得手段と、
前記生成されたテクスチャ画像と、前記取得されたベース画像とを合成する合成手段として前記コンピュータを機能させることを特徴とする画像処理プログラム。 - 請求項13に記載の画像処理プログラムを記憶したことを特徴とする記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009214407A JP2011065339A (ja) | 2009-09-16 | 2009-09-16 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009214407A JP2011065339A (ja) | 2009-09-16 | 2009-09-16 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011065339A true JP2011065339A (ja) | 2011-03-31 |
Family
ID=43951532
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009214407A Abandoned JP2011065339A (ja) | 2009-09-16 | 2009-09-16 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011065339A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014132433A (ja) * | 2012-12-07 | 2014-07-17 | Canon Inc | 画像生成装置および画像生成方法 |
US9007492B2 (en) | 2012-02-01 | 2015-04-14 | Panasonic Intellectual Property Management Co., Ltd. | Image processing device and imaging device |
JP2016062594A (ja) * | 2014-09-16 | 2016-04-25 | 三星電子株式会社Samsung Electronics Co.,Ltd. | テクスチャを処理する方法及びその装置 |
US9881373B2 (en) | 2012-12-07 | 2018-01-30 | Canon Kabushiki Kaisha | Image generating apparatus and image generating method |
JP2019008407A (ja) * | 2017-06-21 | 2019-01-17 | ノーリツプレシジョン株式会社 | 画像処理装置 |
CN110660031A (zh) * | 2019-09-19 | 2020-01-07 | 广州酷狗计算机科技有限公司 | 图像锐化方法及装置、存储介质 |
WO2023045979A1 (zh) * | 2021-09-27 | 2023-03-30 | 上海商汤智能科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
-
2009
- 2009-09-16 JP JP2009214407A patent/JP2011065339A/ja not_active Abandoned
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9007492B2 (en) | 2012-02-01 | 2015-04-14 | Panasonic Intellectual Property Management Co., Ltd. | Image processing device and imaging device |
JP2014132433A (ja) * | 2012-12-07 | 2014-07-17 | Canon Inc | 画像生成装置および画像生成方法 |
US9881373B2 (en) | 2012-12-07 | 2018-01-30 | Canon Kabushiki Kaisha | Image generating apparatus and image generating method |
JP2016062594A (ja) * | 2014-09-16 | 2016-04-25 | 三星電子株式会社Samsung Electronics Co.,Ltd. | テクスチャを処理する方法及びその装置 |
JP2019008407A (ja) * | 2017-06-21 | 2019-01-17 | ノーリツプレシジョン株式会社 | 画像処理装置 |
CN110660031A (zh) * | 2019-09-19 | 2020-01-07 | 广州酷狗计算机科技有限公司 | 图像锐化方法及装置、存储介质 |
CN110660031B (zh) * | 2019-09-19 | 2023-12-05 | 广州酷狗计算机科技有限公司 | 图像锐化方法及装置、存储介质 |
WO2023045979A1 (zh) * | 2021-09-27 | 2023-03-30 | 上海商汤智能科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2011033619A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 | |
JP5839631B2 (ja) | ブロックノイズの検出方法 | |
JP2011065339A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 | |
KR101009999B1 (ko) | 윤곽보정방법, 화상처리장치 및 표시장치 | |
JP6101817B2 (ja) | 画像高画質化装置、画像表示装置、画像高画質化方法及びコンピュータプログラム | |
JP4858609B2 (ja) | ノイズ低減装置、ノイズ低減方法、及びノイズ低減プログラム | |
JP4847591B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
TW200803467A (en) | Selective local transient improvement and peaking for video sharpness enhancement | |
JP2003526272A (ja) | ビデオ画像のシャープさを改善するシステム及び方法 | |
KR20090102610A (ko) | 영상 스케일링 검출 방법 및 장치 | |
JP2011134204A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
EP3438923B1 (en) | Image processing apparatus and image processing method | |
KR100565065B1 (ko) | 필터 뱅크를 이용한 이미지 세부묘사 향상 방법 및 장치 | |
US7894686B2 (en) | Adaptive video enhancement gain control | |
JP5652272B2 (ja) | 画像処理装置、画像処理プログラム及び画像処理方法 | |
JP4456096B2 (ja) | ノイズ除去方法および装置並びにプログラム | |
JP4641957B2 (ja) | 画像処理装置および画像処理プログラム | |
US8665315B2 (en) | Signal processing device, reproducing device, signal processing method and program | |
JP2010199994A (ja) | 画像処理装置 | |
JP5794169B2 (ja) | 映像ノイズ低減装置及び映像ノイズ低減方法 | |
JP4235217B2 (ja) | フィルタリング型画像補正装置およびフィルタリング型画像補正方法 | |
JP4363125B2 (ja) | 画像信号処理装置、ビューファインダ、表示装置、画像信号処理方法、記録媒体及びプログラム | |
TW201933278A (zh) | 影像處理方法及影像處理裝置 | |
WO2004097738A1 (ja) | 信号処理装置および方法、記録媒体、並びにプログラム | |
JP2007028468A (ja) | 画像処理装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120820 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20121003 |
|
A072 | Dismissal of procedure [no reply to invitation to correct request for examination] |
Free format text: JAPANESE INTERMEDIATE CODE: A073 Effective date: 20121204 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20121212 |