以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、発明の実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書に記載されている発明をサポートする実施の形態が本明細書に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明の全てを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
即ち、本発明の一側面の画像処理装置は、入力信号を線形または非線形に平滑化して平滑化信号を生成する平滑化手段(例えば、図16の非線形平滑化処理部11)と、前記入力信号より前記平滑化信号を減算して差分信号を生成する減算手段(例えば、図16の減算部12)と、前記差分信号を少なくとも高域差分信号、中域差分信号、および低域差分信号の3帯域の信号に分離する帯域分離手段(例えば、図16の帯域分離部73)と、前記平滑化信号の変化率に基づいて、前記高域差分信号への処理の要否を判定する高域信号処理判定手段(例えば、図16の高域用処理判定部71)と、前記平滑化信号の変化率に基づいて、前記低域差分信号への処理の要否を判定する低域信号処理判定手段(例えば、図16の低域用処理判定部72)と、前記高域信号処理判定手段の判定結果に基づいて、前記高域差分信号の0近傍の値を0に処理し、高域処理信号として出力する高域信号処理手段(例えば、図16の高域信号制御部74)と、前記低域信号処理判定手段の判定結果に基づいて、前記低域差分信号の0近傍の値を0に処理し、低域処理信号として出力する低域信号処理手段(例えば、図16の低域信号制御部75)と、前記高域処理信号、前記低域処理信号、前記中域差分信号、および平滑化信号を加算して出力信号を生成する出力信号生成手段(例えば、図16の加算部76)とを含む。
前記帯域分離手段には、少なくともHPF、BPF、およびLPF(例えば、図16のHPF111、BPF112、およびLPF113)を含み、前記HPF、BPF、およびLPFにより、前記差分信号を少なくとも高域差分信号、中域差分信号、および低域差分信号の3帯域の信号に分離させるようにすることができる。
前記高域信号処理判定手段(例えば、図16の高域用処理判定部71)には、前記平滑化信号の傾きを前記変化率として計算する傾き計算手段(例えば、図16の傾き計算部92)と、前記平滑化信号の傾きと所定の閾値との比較により、前記平滑化信号の傾きが所定の閾値より大きい場合、前記高域差分信号への処理が必要であると判定する高域判定手段(例えば、図16の処理判定部93)とを含ませるようにすることができる。
前記高域信号処理手段(例えば、図16の高域信号制御部74)には、コアリング、またはレベル制御により、前記高域差分信号の0近傍の値を0に処理して出力する高域処理手段(例えば、図16の信号制御部13−1)と、前記高域判定手段の判定結果に基づいて、前記高域処理手段により処理された高域差分信号、または、前記高域処理手段により処理されていない高域差分信号のいずれかを、高域処理信号として選択する高域選択手段(例えば、図16の選択部121)とを含ませるようにすることができる。
前記高域選択手段(例えば、図16の選択部121)には、前記高域信号処理判定手段により処理が必要であると判定された場合、前記高域処理手段により処理された高域差分信号を前記高域処理信号として選択させ、前記高域信号処理判定手段により処理が必要であると判定されなかった場合、前記高域処理手段により処理されていない高域差分信号を前記高域処理信号として選択させるようにすることができる。
前記低域信号処理判定手段(例えば、図16の低域用処理判定部72)には、前記平滑化信号の傾きを前記変化率として計算する傾き計算手段(例えば、図16の傾き計算部102)と、前記平滑化信号の傾きと所定の閾値との比較により、前記平滑化信号の傾きが所定の閾値より小さい場合、前記低域差分信号への処理が必要であると判定する低域判定手段(例えば、図16の処理判定部103)とを含ませるようにすることができる。
前記低域信号処理手段(例えば、図16の低域信号制御部75)には、コアリング、またはレベル制御により、前記低域差分信号の0近傍の値を0に処理して出力する低域処理手段(例えば、図16の信号処理部13−2)と、前記低域判定手段の判定結果に基づいて、前記低域処理手段により処理された低域差分信号、または、前記低域処理手段により処理されていない高域差分信号のいずれかを、高域処理信号として選択する低域選択手段(例えば、図16の選択部131)とを含ませるようにすることができる。
前記低域選択手段(例えば、図16の選択部131)には、前記低域信号処理判定手段により処理が必要であると判定された場合、前記低域処理手段により処理された低域差分信号を前記低域処理信号として選択させ、前記低域信号処理判定手段により処理が必要であると判定されなかった場合、前記低域処理手段により処理されていない低域差分信号を前記低域処理信号として選択させるようにすることができる。
前記高域処理信号、前記低域処理信号、前記中域差分信号、および平滑化信号をそれぞれ増幅する増幅手段(例えば、図22の増幅部151乃至154)をさらに含ませるようにすることができる。
前記高域処理信号、前記低域処理信号、前記中域差分信号、および平滑化信号をそれぞれ増幅する増幅手段(例えば、図24の増幅部171乃至174)をさらに含ませるようにすることができ、前記出力信号生成手段には、前記増幅手段によりそれぞれ増幅された前記高域処理信号、前記低域処理信号、前記中域差分信号、および平滑化信号に加えて、前記差分信号を加算して出力信号を生成させるようにすることができる。
本発明の一側面の画像処理方法は、入力信号を線形または非線形に平滑化して平滑化信号を生成する平滑化ステップ(例えば、図18のステップS101)と、前記入力信号より前記平滑化信号を減算して差分信号を生成する減算ステップ(例えば、図18のステップS102)と、前記差分信号を少なくとも高域差分信号、中域差分信号、および低域差分信号の3帯域の信号に分離する帯域分離ステップ(例えば、図18のステップS103乃至105)と、前記平滑化信号の高域変化率に基づいて、前記高域差分信号への処理の要否を判定する高域信号処理判定ステップ(例えば、図18のステップS110)と、前記平滑化信号の低域変化率に基づいて、前記低域差分信号への処理の要否を判定する低域信号処理判定ステップ(例えば、図18のステップS115)と、前記高域信号処理判定ステップの処理での判定結果に基づいて、前記高域差分信号の0近傍の値を0に処理し、高域処理信号として出力する高域信号処理ステップ(例えば、図18のステップS106)と、前記低域信号処理判定ステップの処理での判定結果に基づいて、前記低域差分信号の0近傍の値を0に処理し、低域処理信号として出力する低域信号処理ステップ(例えば、図18のステップS107)と、前記高域処理信号、前記低域処理信号、前記中域差分信号、および平滑化信号を加算して出力信号を生成する出力信号生成ステップ(例えば、図18のステップS118)とを含む。
本発明を適用した多階調化処理装置の説明にあたり、まず、従来の多階調化処理装置の構成、および、多階調化処理について説明する。
図1は、従来の多階調化処理装置1の構成例を示すブロック図である。
非線形平滑化処理部11は、入力される画像信号である入力信号Y1を非線形に平滑化し、平滑化信号S1として減算部14および加算部14に供給する。尚、非線形平滑化処理部11の構成については、図4を参照して詳細を後述する。
減算部12は、入力信号Y1より平滑化信号S1を減算し、差分信号T1として信号処理部13に供給する。
信号処理部13は、差分信号T1をコアリング、または、レベル制御するなどして処理し、処理信号T1’として加算部14に供給する。より詳細には、信号処理部13は、コアリングにより、例えば、図2で示されるように、差分信号T1が0近傍付近の所定の閾値Th2乃至Th1の範囲であるとき、処理信号T1’に変換して出力し、それ以外の範囲のとき、差分信号T1をそのまま処理信号T1’として出力する。また、信号処理部13は、レベル制御により、例えば、図3で示されるように、差分信号T1が0近傍付近の所定の閾値Th4乃至Th3の範囲であるとき、曲線で示されるように、処理信号T1’に変換して出力し、それ以外の範囲のとき、差分信号T1をそのまま処理信号T1’として出力する。
加算部14は、処理信号T1’と平滑化信号S1とを加算して、入力画像信号である信号Y1を多階調化した出力信号Y2を生成して出力する。
次に、図4を参照して、非線形平滑化処理部11の詳細な構成について説明する。
水平処理方向成分画素抽出部31は、入力信号Y1の各画素より注目画素を順次設定すると共に、注目画素に対応する、非線形平滑化処理に必要な画素を抽出し、非線形フィルタ35および混合部37に出力する。より具体的には、水平処理方向成分画素抽出部31は、注目画素に対して、水平方向に左右に隣接するそれぞれ2画素を水平処理方向成分画素として抽出し、抽出した4画素と注目画素のそれぞれの画素値を非線形フィルタ35および混合部37に供給する。
尚、ここでは、注目画素に対して水平方向の1次元方向に対して処理を実行する例について説明するものとするが、垂直方向であってもよいし、水平方向および垂直方向を両方向に対して実施するようにしても良いことは言うまでもない。また、抽出する水平処理方向成分画素の画素数は、注目画素に対して左右に隣接する2画素ずつに限るものではなく、水平方向に隣接している画素であればよく、例えば、注目画素の左右に隣接する3画素ずつであってもよいし、さらには、注目画素に対して左方向に隣接する1画素と、右方向に隣接する3画素とするようにしても良い。
垂直参照方向成分画素抽出部32は、入力信号Y1の各画素より注目画素を順次設定すると共に、注目画素に対応する、非線形平滑化処理に必要な画素が配置されている方向と異なる垂直方向に隣接する画素を抽出し、差分絶対値算出部33に出力する。より具体的には、垂直参照方向成分画素抽出部32は、注目画素に対して、垂直方向の上下に隣接する2画素を垂直参照方向成分画素として抽出し、抽出した4画素と注目画素のそれぞれの画素値を閾値設定部33に供給する。
尚、抽出する垂直参照方向成分画素の画素数は、注目画素に対して上下に隣接する2画素ずつに限るものではなく、垂直方向に隣接している画素であればよく、例えば、注目画素の上下に隣接する3画素ずつであってもよいし、さらには、注目画素に対して上方向に隣接する1画素と、下方向に隣接する3画素とするようにしても良い。
差分絶対値算出部33は、注目画素と、非線形平滑化処理に必要な画素が配置されている方向と異なる垂直方向に隣接する各画素との差分絶対値を求めて、閾値決定部34に供給する。閾値決定部34は、差分絶対値算出部34より供給されてくる差分絶対値のうち、最大となるものに所定のマージンを加算した値を閾値ε1として決定し、非線形フィルタ35および混合比検出部36に供給する。
非線形フィルタ35は、入力信号Y1を構成する画素の変動のうち、そのサイズが閾値決定部34より供給されてくる閾値ε1よりも大きい急峻なエッジを保持すると共に、エッジ以外の部分を平滑化し、平滑化した画像信号SLPF-Hを混合部37に出力する。
混合比検出部36は、閾値決定部34より供給されてくる閾値ε1よりも十分に小さい閾値ε2を求め、この閾値ε2に基づいて、入力信号Y1を構成する画素の変動の中の微小な変化を検出し、検出結果を用いて、混合比を計算し、混合部37に供給する。
混合部37は、平滑化処理された画像信号SLPF-Hと平滑化されていない入力された画像信号Y1を、混合比検出部36より供給される混合比に基づいて、混合し、非線形平滑化された平滑化信号S1として出力する。
非線形フィルタ35のLPF(Low Pass Filter)51は、制御信号発生部52より供給される制御信号および閾値決定部34より供給されてくる閾値ε1に基づいて、注目画素と、その水平方向の左右に隣接する2画素である水平処理方向成分画素との画素値を用いて、注目画素を平滑化して、平滑化された画像信号SLPF-Hを混合部37に出力する。制御信号発生部52は、注目画素と、水平処理方向成分画素との画素値の差分絶対値を算出し、その算出結果に基づいてLPF51を制御する制御信号を発生し、LPF51に供給する。尚、非線形フィルタ35としては、例えば、εフィルタを用いるようにしてもよい。
次に、図5のフローチャートを参照して、図1の多階調化処理装置1による多階調化処理について説明する。
ステップS1において、非線形平滑化処理部11の水平処理方向成分画素抽出部31は、ラスタスキャン順に注目画素を設定する。尚、注目画素の設定順序は、ラスタスキャン順以外の順序であってもよい。
ステップS2において、非線形平滑化処理部11は、非線形平滑化処理を実行し、入力信号Y1を平滑化信号S1として減算部12および加算部14に供給する。
ここで、図6のフローチャートを参照して、非線形平滑化処理部11による非線形平滑化処理について説明する。
ステップS11において、水平処理方向成分画素抽出部31は、注目画素と共に、注目画素に対して水平方向(左右方向)に2画素ずつ隣接する近傍画素である水平処理方向成分画素からなる合計5画素の画素値をバッファ21より抽出して非線形平滑化処理部32に出力する。例えば、図7で示されるような場合、画素L2,L1,C,R1,R2が、注目画素および水平処理方向成分画素として抽出される。尚、図7においては、画素Cは、注目画素であり、画素L2,L1が、注目画素Cの左側に隣接する2画素の水平処理方向成分画素であり、画素R1,R2が注目画素Cの右側に隣接する2画素の水平処理方向成分画素である。
ステップS12において、垂直参照方向成分画素抽出部32は、注目画素と共に、注目画素に対して垂直方向(上下方向)に2画素ずつ隣接する近傍画素である垂直参照方向成分画素からなる合計5画素の画素値をバッファ21より抽出して差分絶対値算出部33に出力する。例えば、図7で示されるような場合、画素U2,U1,C,D1,D2が、注目画素および垂直参照方向成分画素として抽出される。尚、図7においては、画素Cは、注目画素であり、画素U2,U1が、注目画素Cの上側に隣接する2画素の垂直参照方向成分画素であり、画素D1,D2が注目画素Cの下側に隣接する2画素の垂直参照方向成分画素である。
ステップS13において、差分絶対値算出部33は、注目画素と、垂直参照方向画素との画素値の差分絶対値を求めて、閾値決定部34に供給する。例えば、図7の場合、注目画素は、画素Cであり、垂直参照方向画素は、画素U2,U1,D1,D2であるので、差分絶対値算出部33は、|C−U2|,|C−U1|,|C−D2|,|C−U1|を算出し、閾値決定部34に供給する。
ステップS14において、閾値決定部34は、差分絶対値算出部33より供給されてくる差分絶対値のうち、最大値となる差分絶対値を閾値ε1に決定し、非線形フィルタ35および混合比検出部36に供給する。したがって、図7の場合、閾値決定部34は、|C−U2|,|C−U1|,|C−D2|,|C−U1|の最大値を検索し、その最大値に所定のマージンを加算して閾値ε1として設定する。ここで、マージンを加算するとは、例えば、10%のマージンを加算する場合、差分絶対値の最大値×1.1を閾値ε1として設定することである。
ステップS15において、水平処理方向成分画素抽出部31より供給された注目画素と水平処理方向成分画素に基づいて、注目画素に非線形フィルタ処理が施される。
ここで、図8のフローチャートを参照して、非線形フィルタ処理について説明する。
ステップS31において、非線形フィルタ35の制御信号発生部52は、注目画素と、水平処理方向成分画素との画素値の差分絶対値を計算する。すなわち、図7の場合、制御信号発生部52は、注目画素Cと、水平方向に隣接する各近傍画素である水平処理方向成分画素L2,L1,R1,R2との画素値の差分絶対値|C−L2|,|C−L1|,|C−R1|,|C−R2|を計算する。
ステップS32において、ローパスフィルタ51は、制御信号発生部52により計算された各差分絶対値と閾値決定部34により設定された閾値ε1と比較して、この比較結果に対応して、入力信号Y1に非線形フィルタリング処理を施す。より具体的には、ローパスフィルタ51は、例えば、以下の式(1)のように、注目画素Cおよび水平処理方向成分画素の画素値を、タップ係数を用いて加重平均して、注目画素Cに対応する変換結果C’を平滑化された画像信号SLPF-Hとして混合部37に出力する。
C’=(1×L2+2×L1+3×C+2×R1+1×R2)/9
・・・(1)
ただし、近傍画素と注目画素Cとの画素値の差分絶対値が、所定の閾値εよりも大きい水平処理方向成分画素については、画素値を注目画素Cのものと置換して計算するようにする。すなわち、例えば、水平処理方向成分画素R2がR2>εの場合、R2をCに置換して計算する。
ステップS33において、混合比検出部36は、微小エッジ判定処理を実行し、微小なエッジが存在するか否かを判定する。
ここで、図9のフローチャートを参照して、微小エッジ判定処理について説明する。
ステップS41において、混合比検出部36は、それぞれ閾値決定部34より供給されてきた閾値ε1に基づいて、微小なエッジの有無を検出するために必要とされる閾値ε2を求める。より具体的には、閾値ε2は、閾値ε1に対して十分に小さな値であることが条件(ε2≪ε1)であるので、例えば、閾値ε1に対して、十分に小さい係数を乗じることにより得られた値を閾値ε2として設定する。
ステップS42において、混合比検出部36は、注目画素と、各水平処理方向成分画素との画素値の差分絶対値を算出し、各差分絶対値が全て、閾値ε2(≪ε1)よりも小さいか否かを判定し、その判定結果に基づいて、微小なエッジが存在するか否かを判定する。
すなわち、例えば、図7で示したように、混合比検出部36は、注目画素Cと、水平方向に隣接する各水平処理方向成分画素L2,L1,R1,R2との画素値の差分絶対値を算出し、各差分絶対値が全て、閾値ε2よりも小さいか否かを判定し、各差分絶対値が全て閾値ε2よりも小さいと判定した場合、近傍画素と注目画素との画素値に変化がないものとみなし、ステップS44に進み、注目画素の近傍には、微小なエッジが存在しないものと判定する。
一方、ステップS42において、算出された差分絶対値のうち、1つでも閾値ε2以上のものがあると判定された場合、ステップS43に進み、混合比検出部36は、注目画素の左右の一方側の水平処理方向成分画素と注目画素との差分絶対値が全て閾値ε2よりも小さく、かつ、注目画素の左右の他方側の水平処理方向成分画素と注目画素との差分絶対値が全て閾値ε2以上であって、かつ、注目画素の左右の他方側の水平処理方向成分画素と注目画素との各差分の正負が一致しているか否かを判定する。
すなわち、注目画素Cの左右の一方側の水平処理方向成分画素が、例えば、図7の画素L2,L1であり、注目画素Cの左右の他方側の水平処理方向成分画素が、図7の画素R2,R1である場合、混合比検出部36は、注目画素Cの左右の一方側の水平処理方向成分画素と注目画素Cとの差分絶対値が全て閾値ε2よりも小さく、かつ、注目画素Cの左右の他方側の水平処理方向成分画素R1,R2と注目画素Cとの差分絶対値が全て閾値ε2以上であって、かつ、注目画素Cの左右の他方側の水平処理方向成分画素R1,R2と注目画素Cとの各差の正負が一致しているか否かを判定する。
例えば、上記の条件が満たされていると判定された場合、ステップS44において、混合比検出部36は、注目画素の近傍に、微小なエッジが存在すると判定する。
一方、ステップS43において、上記条件を満たしていないと判定された場合、ステップS45において、混合比検出部36は、注目画素の近傍には、微小なエッジが存在しないと判定する。
例えば、注目画素Cと水平処理方向成分画素L2,L1,R1,R2の関係が図10に示すような場合、注目画素Cと左側の水平処理方向成分画素L2,L1の差分絶対値|L2−C|,|L1−C|が閾値ε2よりも小さく、かつ、注目画素Cと右側の水平処理方向成分画素R1,R2の差分絶対値|R1−C|,|R2−C|が閾値ε2以上であり、かつ、注目画素Cと右側の水平処理方向成分画素R1,R2の差(R1−C),(R2−C)の符号が一致する(いまの場合、ともに正)ので、注目画素Cの近傍に微小なエッジが存在すると判定される。
また、例えば、注目画素Cと水平処理方向成分画素L2,L1,R1,R2の関係が図11に示すような場合、注目画素Cと左側の水平処理方向成分画素L2,L1の差分絶対値|L2−C|,|L1−C|が閾値ε2よりも小さく、かつ、注目画素Cと右側の水平処理方向成分画素R1,R2の差分絶対値|R1−C|,|R2−C|が閾値ε2以上ではあるが、かつ、注目画素Cと右側の水平処理方向成分画素R1,R2の差(R1−C),(R2−C)の符号が一致しない(いまの場合、それぞれ正、負)ので、注目画素Cの近傍に微小なエッジが存在しないと判定される。
さらに、例えば、注目画素Cと水平処理方向成分画素L2,L1,R1,R2の関係が図12に示すような場合、注目画素Cの左右いずれの側も、注目画素Cと水平処理方向成分画素の差分絶対値が全て閾値ε3よりも小さいわけではないので、注目画素Cの近傍に微小なエッジが存在しないと判定される。
このようにして、注目画素の近傍に微小なエッジが存在するか否かが判定された後、処理は図8のステップS34に戻る。
ステップS33の処理が終了すると、ステップS34において、混合比検出部36は、ステップS33における微小エッジ判定処理による判定結果が、「注目画素Cの近傍に微小なエッジが存在する」であるか否かを判定する。例えば、微小エッジ判定処理による判定結果が、「注目画素Cの近傍に微小なエッジが存在する」である場合、ステップS35において、混合比検出部36は、水平方向に非線形フィルタリング処理された画像信号SLPF-Hと入力信号Y1の混合比であるMixレートMr-Hを最大MixレートMr-H maxとして混合部37に出力する。尚、最大MixレートMr-H maxは、MixレートMr-Hの最大値、すなわち、画素値のダイナミックレンジの最大値と最小値の差分絶対値である。
ステップS36において、混合部52は、混合比検出部36より供給されるMixレートMr-Hに基づいて、入力信号Y1と非線形フィルタ35により非線形平滑化処理された画像信号SLPF-Hとを混合し、平滑化信号S1として出力する。より詳細には、混合部37は、以下の式(2)を演算して、入力信号Y1と非線形フィルタにより非線形平滑化された画像信号SLPF-Hとを混合する。
SF-H=Y1×Mr-H/Mr-H max+SLPF-H×(1−Mr-H/Mr-H max)
・・・(2)
ここで、Mr-Hは、Mixレートであり、Mr-H maxは、MixレートMr-Hの最大値、すなわち、画素値の最大値と最小値の差分絶対値である。
式(2)で示されるように、MixレートMr-Hが大きければ、非線形フィルタ35により処理された画像信号SLPF-Hの重みが小さくなり、入力された処理されていない画像信号Y1の重みが大きくなる。逆に、MixレートMr-Hが小さければ、すなわち、水平方向に隣接する画素間の画素値の差分絶対値が小さいほど、非線形フィルタにより処理された画像信号SLPF-Hの重みが大きくなり、入力された処理されていない画像信号の重みが小さくなる。
従って、微小エッジが検出された場合、MixレートMr-Hは最大MixレートMr-H maxとなるので、実質的に入力された画像信号Y1が、そのまま出力されることになる。
一方、ステップS34において、「微小エッジが存在しない」と判定された場合、ステップS37において、混合比検出部36は、注目画素と、各水平処理方向成分画素との画素値の差分絶対値をそれぞれ計算し、計算した各差分絶対値のうちの最大値を混合比である、MixレートMr-Hとして求め、混合部37に出力し、その処理は、ステップS36に進む。
すなわち、図7の場合、混合比検出部36は、注目画素Cと、各水平処理方向成分画素L2,L1,R1,R2との画素値の差分絶対値|C−L2|,|C−L1|,|C−R1|,|C−R2|を計算し、計算した各差分絶対値のうちの最大値を混合比であるMixレートMr-Hとして求め、混合部37に出力する。
すなわち、微小エッジが存在しない場合、注目画素と各水平処理方向成分画素との画素値の差分絶対値の最大値に応じて、非線形フィルタリング処理された画像信号SLPF-Hと、入力された画像信号Y1とが混合されて、非線形平滑化処理された平滑化信号S1が生成され、微小エッジが存在した場合、入力された画像信号Y1がそのまま出力される。
結果として、非線形平滑化処理部11においては、閾値ε2を基準として微小エッジが検出されることになるので、微小エッジが存在する部分については、非線形平滑化処理が施されないようにすると共に、エッジが存在しない部分についても、その差分絶対値の大きさに応じて非線形平滑化処理が施された画素値と、入力信号とを混合するようにしたので、特に、微小なエッジで構成された単純なパターン画像等で著しく画質の劣化が生じてしまうという事態を抑止することが可能になる。
ここで、図6のフローチャートの説明に戻る。
以上の処理により、非線形平滑化処理が実行されると、その処理は、図5のフローチャートにおけるステップS3に進む。
ステップS3において、減算部12は、入力信号Y1より平滑化信号S1を減算し、差分信号T1を生成して、信号処理部13に供給する。すなわち、全帯域を含む入力信号Y1より低域の平滑化信号S1が減算されるので、入力信号Y1の高域成分が差分信号T1として出力されることになる。
ステップS4において、信号処理部13は、差分信号T1に対してコアリング、または、レベル制御処理を施し、処理信号T1’を加算部14に供給する。すなわち、小振幅であるほど量子化誤差が含まれることになるので、この処理により、高域成分の量子化誤差が減少されることになる。
ステップS5において、加算部14は、平滑化信号S1および処理信号T1’を加算して、出力信号Y2を生成して、出力する。
ステップS6において、水平処理方向成分画素抽出部31は、全ての画素を注目画素として処理したか、すなわち、未処理の画素が存在するか否かを判定し、例えば、全ての画素を注目画素として処理していない、すなわち、未処理画素が存在すると判定した場合、その処理は、ステップS1に戻る。そして、ステップS6において、全ての画素が注目画素として処理された、すなわち、未処理画素が存在しないと判定された場合、多階調化処理は、終了する。
以上の処理により、例えば、図13の実線で示されるような入力信号Y1が入力されると、平滑化処理により、図13の点線で示される平滑化信号S1が出力される。この場合、差分信号T1は、図14の実線で示される信号となる。このとき、差分信号T1が十分に小さいと、差分信号T1は、信号処理部13により0または0近傍の値となるため、出力信号Y2は、実質的に平滑化信号S1となる。尚、図13においては、横軸が、信号の画像上の水平方向の位置を示し、垂直方向が画素値を示しており、以降においても同様に表示するものとする。
結果として、入力信号Y1は、図1の多階調化処理装置1により、視覚的に目立ちやすい量子化誤差が除去されている、多階調化された出力信号Y2(≒S1)として出力されることになる。
ところで、例えば、図15の実線で示される1LSBだけが変化するステップ波形の近傍に、1LSBだけ変化する振幅成分を持つような入力信号Y1が上述した図1のような多階調化処理装置1に入力された場合、図15の点線で示されるような出力信号Y2として多階調化されて出力される。すなわち、図13,図15のそれぞれの実線で示されるY1は、異なる波形であるにも関わらず、図1の多階調化処理装置1に入力された場合、信号処理は、同一の出力信号Y2が出力されてしまうことになり、図15の入力信号Y1に基づいた画像に対して、若干鮮鋭度を欠いた画像となってしまうことがあった。これは、差分信号T1に含まれる量子化誤差が振幅成分が平滑化処理により除去されるために発生する。
そこで、本発明を適用した多階調化処理装置においては、差分信号T1を複数の帯域に分離し、振幅成分である帯域成分については、その帯域成分毎に処理をさせることにより、適正な多階調化を実現させるようにしている。
図16は、本発明を適用した多階調化処理装置1の構成例を示している。尚、図1における構成と同一の構成については、同一の符号を付しており、その説明は、適宜省略するものとする。
高域用処理判定部71は、バッファ91、傾き計算部92、および処理判定部93より構成されており、平滑化信号S1の注目画素を中心とした左右にそれぞれN個の画素値(注目画素を含めて(2N+1)画素の画素値)を蓄積する。傾き計算部92は、バッファ91に蓄積された、注目画素を中心とした(2N+1)画素の画素値の最大値と最小値との差分を画素数で割った値を傾きC1として計算し、処理判定部93に出力する。処理判定部93は、傾きC1と所定の閾値th11とを比較して、傾きC1の方が閾値th11よりも大きいとき、高域信号制御部74に対して、高域信号制御を実施するように指示する制御信号を供給する。すなわち、高域用処理判定部71は、注目画素近傍の平滑化信号の変化率(高域変化率)を傾きC1として計算し、傾きC1が所定の閾値th11より大きいとき、高域信号T11に対して信号制御を行うように指示する。
低域用処理判定部72は、バッファ101、傾き計算部102、および処理判定部103より構成されており、平滑化信号S1の注目画素を中心とした左右に水平にM個の画素値(注目画素を含めて(2M+1)画素の画素値)を蓄積する。傾き計算部102は、バッファ101に蓄積された、注目画素を中心とした(2M+1)画素の画素値の最大値と最小値との差分を画素数で割った値を傾きC2として計算し、処理判定部103に出力する。処理判定部103は、傾きC2と所定の閾値th12とを比較して、傾きC2の方が閾値th12よりも小さいとき、低域信号制御部75に対して、低域信号制御を実施するように指示する制御信号を供給する。すなわち、低域用処理判定部72は、注目画素近傍の平滑化信号の変化率(低域変化率)を傾きC2として計算し、傾きC2が所定の閾値th12より小さいとき、低域信号T13に対して信号制御を行うように指示する。
尚、傾き計算部92においては、高域信号T11の変化の傾きC1を求めており、傾き計算部102においては、低域信号T13の変化の傾きC2を求めているので、傾きを求めるに当たりN<Mとなる。
帯域分離部73は、HPF(High Pass Filter)111、BPF(Band Pass Filter)112、およびLPF(Low Pass Filter)113から構成されており、差分信号T1を3種類の周波数帯域の信号に分離し、高域信号T11、中域信号T12、低域信号T13として、それぞれ高域信号制御部74、加算部76、および低域信号制御部75に出力する。より詳細には、HPF111は、差分信号T1における所定の周波数fhより高い高周波帯域の信号を抽出して高域信号T11として、BPF112は、差分信号T1における所定の周波数flより高く周波数fhよりも低い中周波帯域の信号を中域信号T12として、LPFは、差分信号T1における所定の周波数fhより低い低周波帯域の信号を低域信号T13として、それぞれ抽出して出力することで、差分信号T1を3種類の帯域に分離する。尚、ここでは、高域信号T11、中域信号T12、および低域信号T13は、周波数帯域の小さい方から低域信号T13、中域信号T12、および高域信号T11と定義するものとする。また、本実施例における、帯域分離部73は、HPF111、BPF112、およびLPF113を用いて、差分信号T1を高域信号T11、中域信号T12、および低域信号T13の3種類の帯域の信号に分離する例について説明を進めるものとするが、帯域の分離については、その他の定義によるものでもよく、例えば、HPFにより抽出される帯域の信号を高域信号T11とし、LPFにより抽出される帯域の信号を低域信号T13とし、それ以外の信号を中域信号T12と定義するようにしてもよい。
高域信号制御部74は、信号制御部13−1および選択部121より構成されており、選択部121は、高域用処理判定部71より高域信号制御を実施するように指示する信号が供給されるとき、選択部121に供給されてくる高域信号T11および信号制御部13−1により信号制御された高域信号T11’のうち、高域信号T11’を高域制御信号T21として加算部76に出力し、高域用処理判定部71より高域信号制御を実施するように指示する信号が供給されてこないとき、選択部121に供給されてくる高域信号T11をそのまま高域制御信号T21として加算部76に出力する。
低域信号制御部75は、信号制御部13−2および選択部131より構成されており、選択部131は、低域用処理判定部72より低域信号制御を実施するように指示する信号が供給されるとき、選択部131に供給されてくる低域信号T13および信号制御部13−2により信号制御された低域信号T13’のうち、低域信号T13’を低域制御信号T22として加算部76に出力し、低域用処理判定部72より低域信号制御を実施するように指示する信号が供給されてこないとき、選択部131に供給されてくる低域信号T13をそのまま低域制御信号T22として加算部76に出力する。
加算部76は、高域制御信号T21、低域制御信号T22、中域信号T12、および平滑化信号S1を加算して、出力信号Y2を生成して出力する。
次に、図17のフローチャートを参照して、図16の多階調化処理装置1による多階調化処理について説明する。尚、図17のフローチャートのステップS101,S102,S120の処理は、図5のフローチャートにおけるステップS1,S2,S6の処理とどうようであるので、その説明は省略するものとする。
ステップS102において、非線形平滑化処理部11により、非線形平滑化処理が実行され、入力信号Y1が非線形平滑化されて平滑化信号S1が生成されると、減算部12、高域用処理判定部71、低域用処理判定部72、および加算部76に出力される。
ステップS103において、減算部12は、入力信号Y1より平滑化信号S1を減算し、差分信号T1を生成して、帯域分離部73に供給する。
ステップS104において、帯域分離部73のHPF111は、差分信号T1の高域成分を抽出して高域信号T11として高域信号制御部74に出力する。
ステップS105において、帯域分離部73のBPF112は、差分信号T1の中域成分を抽出して高域信号T12として加算部76に出力する。
ステップS106において、帯域分離部73のLPF111は、差分信号T1の低域成分を抽出して低域信号T13として低域信号制御部75に出力する。
ステップS107において、高域信号制御部74の信号制御部13−1は、高域信号T11を信号制御し、選択部121に出力する。
ステップS108において、低域信号制御部75の信号制御部13−2は、低域信号T13を信号制御し、選択部131に出力する。
ステップS109において、高域用処理判定部71のバッファ91は、高域処理判定用の画素を(2N+1)個を蓄積する。
ステップS110において、傾き計算部92は、バッファ91に蓄積されている(2N+1)個の画素を読み出し、最大値および最小値を抽出して、その差分絶対値を(2N+1)で割ることにより、傾きC1を計算し、処理判定部93に供給する。
ステップS111において、処理判定部93は、傾きC1が閾値th11よりも大きいか否かを判定し、大きいと判定した場合、ステップS112において、高域信号制御部74に対して、高域信号制御を実施するように指示する制御信号を供給する。これに応じて、高域信号制御部74の選択部121は、信号制御された高域信号T11’を高域制御信号T21として加算部76に出力する。
一方、ステップS111において、傾きC1が閾値th11よりも大きくないと判定された場合、ステップS113において、処理判定部93は、高域信号制御部74に対して、高域信号制御を実施するように指示する制御信号を供給しない。これに応じて、高域信号制御部74の選択部121は、高域信号T11をそのまま高域制御信号T21として加算部76に出力する。
ステップS114において、低域用処理判定部72のバッファ101は、低域処理判定用の画素を(2M+1)個を蓄積する。
ステップS115において、傾き計算部102は、バッファ101に蓄積されている(2M+1)個の画素を読み出し、最大値および最小値を抽出して、その差分絶対値を(2M+1)で割ることにより、傾きC2を計算し、処理判定部103に供給する。
ステップS116において、処理判定部103は、傾きC2が閾値th12よりも小さいか否かを判定し、小さいと判定した場合、ステップS117において、低域信号制御部75に対して、低域信号制御を実施するように指示する制御信号を供給する。これに応じて、低域信号制御部75の選択部131は、信号制御された低域信号T13’を低域制御信号T22として加算部76に出力する。
一方、ステップS116において、傾きC2が閾値th12よりも小さくないと判定された場合、ステップS118において、処理判定部103は、低域信号制御部75に対して、低域信号制御を実施するように指示する制御信号を供給しない。これに応じて、低域信号制御部75の選択部131は、低域信号T13をそのまま低域制御信号T22として加算部76に出力する。
ステップS119において、加算部76は、高域制御信号T21、通域信号T12、低域制御信号T22、および平滑化信号S1を加算して、出力信号Y2を生成して出力する。
以上の処理により、例えば、図15の点線で示される十分信号の勾配が寝ているような波形(傾きが小さい波形)の場合、平滑化信号S1は、多階調化され、目に付きにくい変化となる。このとき差分信号T1は、帯域分離部73により高域信号T11、中域信号T12、および低域信号T13に分離されて、図18の点線、実線、1点鎖線で示されるように分離される。図15の点線で示される、十分に勾配が寝ているような入力信号Y1の場合は、高域信号T11、中域信号T12、および低域信号T13は、それぞれ量子化誤差を含んでいるものの、低域信号T13のエネルギーが大きくなり、目に見える量子化ノイズとしては、低域信号T13が支配的になる。
このため、低域用処理判定部72により、低域信号T13の傾きを判定させ、傾きC2が所定の閾値th12より小さい、すなわち、平滑化信号S1の変化が小さい場合、低域信号用制御部75により、低域信号T13が、コアリングやレベル制御により信号制御されたT13’が低域制御信号として出力される。
すなわち、傾きC2が小さく、平滑化信号に大きな変化が存在しない場合、低域信号T13に含まれる小振幅な成分をコアリング、またはレベル制御により擬似輪郭などを低減させることが可能となる。
一方、高域信号T11については、平滑化信号S1の急峻な変化は存在しないため、傾きC1が閾値th11よりも小さいと判定され、高域信号制御を実施するように指示する信号は出力されないことになるので、高域信号T11が、高域制御信号T21としてそのまま出力されることになる。
結果として、出力信号Y2は、図19の点線で示されるように、多階調化された平滑化信号S1に対して、低域信号T13が削減されたような波形となる。尚、図19の実線は、入力信号Y1である。量子化ノイズとして支配的であった小振幅の低域信号T13が削除されることにより、入力信号Y1に対して、出力信号Y2には、図19における領域A,B,Cで示されるような特徴的な変化が発生する。
逆に、図20の実線で示される平滑化信号S1のように高配が急峻な入力信号Y1の場合、平滑化信号S1は、多階調化されているが、図21で示されるように、量子化誤差は差分信号T1のうち、高域成分であるT11に多く含まれる。尚、図21においては、図20の入力信号Y1の場合における、帯域分離部73により分離された、高域信号T11、中域信号T12および低域信号T13の関係を示しており、点線が、高域信号T11を、実線が、中域信号T12を、1点鎖線が低域信号T13をそれぞれ示している。
したがって、傾きC2は大きく、平滑化信号S1に大きな変化が存在するので、低域信号T13がそのまま、低域制御信号T22として出力される。
一方、高域信号T11については、平滑化信号S1の急峻な変化が存在するため、傾きC1が閾値th11よりも大きいと判定され、高域信号制御を実施するように指示する信号が出力されることになるので、高域信号T11に含まれる小振幅な成分がコアリング、またはレベル制御により0または0近傍の値とされて、高域制御信号T21として出力されることになる。
結果として、出力信号Y2は、多階調化された平滑化信号S1(図20の実線)に近い値となり、滑らかな傾きを再現することが可能となる。
ここで、高域用処理判定部71および低域用処理判定部72は、平滑化信号S1に基づいて、それぞれ傾きC1,C2を求めることにより、高域信号制御および低域信号制御の要否を判定してきたが、平滑化信号S1に代えて、入力信号Y1で代用するようにしてもよい。
以上によれば、入力信号Y1または平滑化信号S1の傾きに応じて、支配的な帯域の量子化誤差成分を効果的に除去することにより、画像の鮮鋭度を保ったまま多階調化を実現することが可能となる。
以上においては、入力信号Y1を多階調化した出力信号Y2を生成するようにした多階調化処理装置1の例について説明してきたが、各種信号をそれぞれ増幅してエンハンス処理した出力信号Y2を得るときにも同様の効果を実現させることもできる。
図22は、各種信号をそれぞれ増幅してエンハンス処理して出力信号Y2を得るようにした多階調化処理装置1の構成を示している。尚、図22において、図16と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
図22において、図16の多階調化処理装置1と異なるのは、新たに増幅部151乃至154が設けられている点である。増幅部151は、平滑化信号S1を所定の倍率X1で増幅して、増幅信号A1として加算部76に出力する。増幅部152は、高域制御信号T21を所定の倍率X2で増幅して、増幅信号A2として加算部76に出力する。増幅部153は、中域信号T12を所定の倍率X3で増幅して、増幅信号A3として加算部76に出力する。増幅部154は、低域制御信号T22を所定の倍率X4で増幅して、増幅信号A4として加算部76に出力する。
次に、図23のフローチャートを参照して、図22の多階調化処理装置1による多階調化処理について説明する。尚、図23のフローチャートのステップS141乃至S158,S164の処理は、図17のフローチャートのステップS101乃至S118,S120の処理と同様であるので、その説明は省略するものとする。
すなわち、ステップS159において、増幅部151は、平滑化信号S1を所定の倍率X1で増幅して、増幅信号A1として加算部76に出力する。
ステップS160において、増幅部152は、高域制御信号T21を所定の倍率X2で増幅して、増幅信号A2として加算部76に出力する。
ステップS161において、増幅部153は、中域信号T12を所定の倍率X3で増幅して、増幅信号A3として加算部76に出力する。
ステップS162において、増幅部154は、低域制御信号T22を所定の倍率X4で増幅して、増幅信号A4として加算部76に出力する。
ステップS163において、加算部76は、増幅信号A1乃至A4を加算して、出力信号Y2を生成して出力する。
以上の処理により、入力信号Y1または平滑化信号S1の傾きに応じて、支配的な帯域の量子化誤差成分を効果的に除去することにより、画像の鮮鋭度を保ったまま多階調化し、さらにエンハンス処理を加えることが可能となる。
また、図22における多階調化処理装置1における処理では、加算部76が、増幅信号A1乃至A4を加算する例について説明してきたが、増幅部151乃至154の増幅倍率を調整して、差分信号T1を加算して、出力信号を求めるようにして、エンハンスして差分信号T1に上乗せする信号のみを帯域別に処理するようにしても良い。
図24は、エンハンスして差分信号T1に上乗せする信号を帯域別に処理するようにした多階調化処理装置1の構成例を示している。尚、図24において、図22における構成と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
図24において、図22の構成と異なるのは、増幅部151乃至154に代えて、増幅部171乃至174を設けて、加算部76に代えて加算部175を設けた点である。
増幅部171は、平滑化信号S1を所定の倍率X11で増幅して、増幅信号A11として加算部176に出力する。増幅部172は、高域制御信号T21を所定の倍率X12で増幅して、増幅信号A12として加算部175に出力する。増幅部173は、中域信号T12を所定の倍率X13で増幅して、増幅信号A13として加算部175に出力する。増幅部174は、低域制御信号T22を所定の倍率X14で増幅して、増幅信号A14として加算部175に出力する。尚、倍率X11乃至X14は、差分信号T1に対して上乗せするエンハンス分のみであるので、いずれも1未満の値である。
加算部176は、増幅信号A11乃至A14に加えて、差分信号T1を加算する。
次に、図25のフローチャートを参照して、図24の多階調化処理装置1による多階調化処理について説明する。尚、図25のフローチャートのステップS181乃至S198,S204の処理は、図17のフローチャートのステップS101乃至S118,S120の処理と同様であるので、その説明は省略するものとする。
すなわち、ステップS199において、増幅部171は、平滑化信号S1を所定の倍率X11で増幅して、増幅信号A11として加算部175に出力する。
ステップS200において、増幅部172は、高域制御信号T21を所定の倍率X12で増幅して、増幅信号A12として加算部175に出力する。
ステップS201において、増幅部173は、中域信号T12を所定の倍率X13で増幅して、増幅信号A13として加算部175に出力する。
ステップS202において、増幅部174は、低域制御信号T22を所定の倍率X14で増幅して、増幅信号A14として加算部175に出力する。
ステップS203において、加算部175は、増幅信号A11乃至A14および差分信号T1を加算して、出力信号Y2を生成して出力する。
以上の処理により、入力信号Y1または平滑化信号S1の傾きに応じて、エンハンス処理を加える信号における支配的な帯域の量子化誤差成分を効果的に除去することにより、画像の鮮鋭度を保ったまま多階調化し、さらにエンハンス処理を加えることが可能となる。
以上のように、本発明によれば、限られたビット精度の画像信号から、より階調の細かな画像信号を作り出すことが可能となる。
ところで、上述した一連の画像処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図26は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタフェース1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタフェース1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011から読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
1 多階調化処理装置, 11 非線形平滑化処理部, 12 減算部, 13,13−1,13−2 信号処理部, 71 高域用処理判定部, 72 低域用処理判定部, 73 帯域分離部, 74 高域信号制御部, 75 低域信号制御部, 76 加算部, 91 バッファ, 92 傾き計算部, 93 処理判定部, 101 バッファ, 102 傾き計算部, 103 処理判定部, 111 HPF, 112 BPF, 113 LPF, 121,131 選択部