以下、添付図面を参照して本発明の実施の形態を詳細に説明する。
<<第1実施形態>>
(モアレ発生とその抑制)
まず、図1、図2を参照して、モアレの発生する空間周波数とサンプリング周波数の関係を説明する。図1は、画像の空間周波数とモアレの関係を模式的に表した図である。図1(A)は元画像(入力画像)における空間周波数の分布を示したグラフであり、図1(B)は、縮小画像における空間周波数の分布を示したグラフである。図1(C)は、縮小画像におけるモアレの原因となる空間周波数と発生したモアレの空間周波数の分布を示したグラフである。
各グラフの横軸は空間周波数を表し、縦軸は画像の度数、すなわち、画像における当該周波数の成分の強度を表している。なお、図1では、サンプリング周波数を「SF」(Sampling Frequency)と略記している。
図1において、31はサンプリング周波数の2分の1の空間周波数(SF/2)の位置であり、ナイキスト周波数と一致する。32は入力画像の度数分布、33は入力画像を縮小した縮小画像の度数分布、34はナイキスト周波数を超えた部分の度数分布を示している。35はサンプリング周波数の4分の1の空間周波数(SF/4)の位置を示し、36はナイキスト周波数を超えたことによるモアレ発生の原因となる周波数成分を示している。37は画像とサンプリング周波数との干渉によるモアレ発生の原因となる周波数成分を示し、38はモアレの発生する周波数成分を示している。
図1(A)における入力画像の空間周波数32は、ナイキストの定理(標本化定理)により、画素のSF/2の位置31に制限されている。ナイキストの定理によれば、元の信号の2倍の周波数でサンプリングを行えば、デジタル化したデータから元の信号を正確に復元でき、デジタル化された信号からはSF/2の周波数までの信号しか正確に復元できないことになる。
この入力画像を縮小処理すると、SFに対して画像の空間周波数33は上がる。このとき、画像の空間周波数33がSF/2の位置31を超える周波数に度数分布34が存在する場合では、モアレが発生する。また、SF/2を超える周波数成分がなくても、画像内の高周波成分の部分とSF/2以下の周波数成分の部分との干渉により、モアレが発生しうる。
この様子を、空間周波数で見たのが図1(C)である。SF/2を超える周波数成分36、および、SF/4(35)からSF/2までの周波数成分37の空間周波数の画像成分によって、SF/4(35)以下の低周波成分の部分38にモアレが発生する。すなわち、SF/4以下の低周波成分38それ自体はモアレの発生原因ではなく、SF/4を超える周波数成分36、37により、低周波成分38にモアレが発生する。本発明の各実施形態では、このようなモアレが発生する空間周波数の原因部分(周波数成分36、37)と結果部分(周波数成分38)とが異なることを利用して、ボヤケることなくモアレを除去する。
図2は、以下の実施形態で使用するLPFおよびハイパスフィルター(HPFと略す)の周波数特性を説明する図である。図2(A)は、画像の縮小率があまり高くない(縮小率が1に近い)場合を示し、図2(B)は縮小率が高い(縮小率が1から離れて大きい)場合を示す。図2に示すグラフの横軸は空間周波数を表し、縦軸は画像の度数を表している。図2では、図1と同様に、サンプリング周波数をSFと略記している。図2(A)中、35は図1と同様に、SF/4の位置を示している。41はLPFの周波数特性、42はHPFの周波数特性、43はLPFのカットオフ周波数、44はHPFのカットオフ周波数を示している。
図1(C)を参照して説明したように、SF/4以下の周波数成分は変形処理によりモアレが発生する部分であり、モアレの原因部分ではない。モアレの原因となるのはSF/4以上の周波数成分である。このため、カットオフ周波数43がSF/4付近にある周波数特性41のLPFを用いて入力画像を処理すると、モアレの原因部分が除去される。したがって、その後に、縮小などの変形をした場合にもモアレは発生しない。一方で、高周波成分が失われて、画像にボヤケが生じてしまう。
また、SF/4以上の周波数成分はモアレの原因部分であり、モアレが発生する部分ではない。このため、入力画像から縮小などの変形をしてモアレの発生した画像に対し、カットオフ周波数44がSFの4分の1付近にある周波数特性42のHPFを用いて処理すれば、モアレは除去される。一方で、低周波成分が失われてしまう。
そこで、本実施形態では、周波数を切り分ける処理および変形する処理する順番を、空間周波数の高い部分と低い部分で逆にすることによって、モアレとボヤケの発生を同時に回避することを可能とする。すなわち、変形画像の低周波成分と変形画像の高周波成分を演算し、この2つの画像を合成することで、全周波数の変形画像を取得する。2つの画像にモアレはないので、合成した画像にもモアレは生じない。2つの画像のカットオフ周波数が同じであれば、失われたり強調されたりするような周波数成分もない。また、取得画像には高周波成分も含まれるので、画像のボヤケも生じない。
ただし、変形率が高くなれば、変形の前後におけるカットオフ周波数をLPFとHPFとの間で調整しないと、モアレを適切に除去できなかったり、合成後の画像の周波数成分の一部が失われたり強調されたりする場合がある。このことについて、図2(B)を参照して、変形率が高い場合のフィルターの空間周波数を説明する。図2(B)中、図2(A)と同様に、35はSF/4、42はHPFの周波数特性、44はHPFのカットオフ周波数を示している。45はLPFの周波数特性、46はLPFのカットオフ周波数、47は縮小率AにSFの4分の1を掛けた周波数の位置(A×SF/4)を示している。
縮小によって、画像の空間周波数が高くなることは、図1(B)において述べたとおりである。画像を縮小すると、縮小率Aについて、縮小率の逆数(1/A)だけ空間周波数が高くなる。例えば、縮小率が0.6倍の場合は、1.67倍だけ画像の空間周波数が高くなる。そこで、縮小率に応じて、LPFのカットオフ周波数を下げて、カットオフ周波数=A×SF/4としておけば、LPFを通した画像の空間周波数は、縮小後に1/A倍になり、SF/4になる。これは、HPFのカットオフ周波数と一致する。
このように、縮小率が高い場合は、このようにLPFとHPFのカットオフ周波数を調整することで、モアレを除去できるし、失われたり強調されたりするような周波数成分もない。以上のような原理で、ボヤケることなくモアレを除去して縮小・拡大・幾何変形することが可能である。以下、このような原理により画像処理を行う具体的な実施形態例を説明する。
(画像処理装置)
次に、図3〜図7を用いて、本発明の一実施形態例(第1実施形態)を説明する。図3は、本発明の第1実施形態に係る画像処理装置の機能構成を示すブロック図である。図3中、11は入力信号の高周波成分を除去する第1のLPF部であり、12は縮小拡大や幾何変形を行う第1の変形部である。13は縮小拡大や幾何変形を行う第2の変形部である。14は入力信号の低周波成分を除去するHPF部であり、15はHPF部14の一部を構成する第2のLPF部、16はHPF部14の一部を構成する減算器である。17は加算器であり、第2の変形部12において変形された低周波成分画像と、HPF部14において高周波成分が抽出された変形画像とを加算して出力画像を生成する。
図3のように、本実施形態では、入力画像の低周波成分については、第1のLPF部11において低周波成分を抽出してから、第1の変形部12において変形を行う。このため、入力画像の高周波成分が低周波成分に影響することによるモアレの発生を抑制することができる。さらに、入力画像を第2の変形部13において変形を行ってから、第2のHPF部14において高周波成分画像を抽出し、変形済みの低周波成分と、高周波成分とを加算器17において加算する。このように、画像の高周波成分も出力画像に反映されるため、画像のボヤケを抑制することができる。また、変形済みの画像から高周波成分画像を抽出することで、低周波成分に発生したモアレを取り除いてから加算することで、低周波成分に対してモアレを発生させることもない。したがって、モアレ発生の抑止と画像の鮮明さとを両立した画像処理を行うことが可能となる。
HPF部14は単に通常のHPFを用いて構成してもよいが、第2のLPF部15と減算器16を組み合わせて、HPF部14を構成すると、第1のLPF部11の周波数特性を合わせやすい。すなわち、同等の構成のLPFを第1、第2のLPF部11、15に用いることで、第1のLPF部11のカットオフ周波数(第1のカットオフ周波数)とHPF部14のカットオフ周波数(第2のカットオフ周波数)を容易に整合させることができる。このため、加算器17において加算後の画像において、同一周波数成分の重複や特定の周波数のもれを低減することが可能となる。そこで、本実施形態では、第2のLPF部15と減算器16を組み合わせてHPF部14を実現した構成例について説明する。
なお、第1のLPF部11および第2のLPF部15は、一般的に使用されている様々なLPFで構成することができる。例えば、平均値フィルター、ガウスフィルター、バタワースフィルター、などである。LPFにおけるカットオフ周波数がサンプリング周波数の4分の1に近いものとして、平均値フィルターであれば、縦×横のサイズが1.25×1.25〜5×5のもの、例えば2×2のサイズのものを用いることができる。なお、小数点を用いたサイズのフィルターは、小数点となる座標位置の定数を小さくすることで実現することができる。同様に、ガウスフィルターであれば、フィルター半径が1.5〜6のもの、例えば、半径が2のサイズのものを用いることができる。また、バタワースフィルターであれば、例えば、カットオフ周波数をサンプリング周波数の4分の1にしたフィルター定数のものを用いることができる。
また、第1および第2の変形部12,13は、一般的に使われている様々な補間演算回路で構成可能である。例えば、最近傍補間回路、線形補間回路、キュービック補間回路、などである。第1と第2の変形部12、13は、同じ変形比率で、縮小拡大幾何変形などの変形処理を行う。
同じ変形比率であれば、第1と第2の変形部の具体的な構成の種類を変えてもよい。例えば、第1の変形部12を最近傍補間回路あるいは線形補間回路とし、第2の変形部13をキュービック補間回路とすることができる。この場合、視認されにくい低周波成分を回路規模の小さな最近傍補間回路や線形補間で実現し、視認されやすい高周波成分を精度の高いキュービック補間回路で行うことになる。このため、小さな回路規模で、視覚特性に応じた画像処理を行うことが可能となる。また、第1の変形部12を最近傍補間回路とし、第2の変形部13を線形補間回路とすることで、回路規模をさらに削減することも可能である。また、第1の変形部12を最近傍補間回路の代わりに、近傍4点の平均値で補間する回路により実現することで、より簡略な回路で構成することも可能である。
なお、第1の変形部12、第2の変形部13において画像の変形を行うと、変形部の入力と出力では画素ごとに処理のタイミングが変わってしまう。このため、第1の変形部12、第2の変形部13内にはバッファメモリを用意する必要があるが、図3では省略している。また、第1、第2のLPF部11、15内にもバッファメモリが必要であるが、これも省略している。
(画像処理装置の動作)
以下、本実施形態に係る画像処理装置の動作を説明する。入力画像は動画像であり、フレーム内の各画素が順番に本構成ブロックに入力される場合を説明する。入力画像は第1のLPF部11でカットオフ周波数以下の低周波成分のみが抽出され、次に第1の変形部12において、所望の変形率の画像に変形され、第1の変形画像が得られる。
また、入力画像は第2の変形部13にも入力されて、所望の変形率の画像に変形されて、第2の変形画像が得られる。第2の変形画像は、減算器16のプラス側および第2のLPF部15に入力される。第2のLPF部15によって、第2の変形画像の低周波成分が抽出されるので、これを減算器のマイナス側に入力する。減算器16において第2の変形画像からその低周波成分を減算することにより、第2の変形画像の高周波成分のみが得られる。
このようにして得られた、低周波成分のみの第1の変形画像と第2の変形画像の高周波成分を加算器17で合成することによって、全周波数成分からなる変形画像である出力画像が得られる。
ここで、第1のLPF部11と第2のLPF部15は変形率が低い場合には、同じ特性のものを使用しうる。具体的には、0.75倍〜1.25倍程度までは、同じものが使える。縮小率や拡大率、幾何変形率が高い部分においては、第1のLPF部11ないし第2のLPF部15のどちらかのカットオフ周波数ないし、カットオフ周波数に比例するフィルターサイズを調節する必要がある。
(LPFの特性の関係)
次に、第1のLPF部11と第2のLPF部15の特性の関係を、図4を用いて説明する。図4は、本発明の第1実施形態における、元画像に適用する第1のLPF部11と変形画像に適用する第2のLPF部15の特性の関係を示した図である。
図4(A)(B)(C)(D)は、元画像に適用する第1のLPF部11の特性を一定として、第1の変形部12、第2の変形部13における様々な変形について、第2のLPF部15における特性を変化させる場合を示している。すなわち、図4(A)は、縮小画像に適用する第2のLPF部15の特性を変えた場合を示し、図4(B)は、拡大画像に適用する第2のLPF部15の特性を変えた場合を示している。図4(C)は、幾何変形画像に適用する第2のLPF部15の特性を変えた場合を示し、図4(D)は、変形率の小さい微変形画像に適用する第2のLPF部15の特性を変えた場合を示す。
図4(E)(F)(G)(H)は、変形画像に適用する第2のLPF部15の特性を一定として、第1の変形部12、第2の変形部13における様々な変形について、第1のLPF部11における特性を変化させる場合を示している。すなわち、図4(E)は、縮小前に元画像に適用する第1のLPF部11の特性を変えた場合を示し、図4(F)は、拡大前に元画像に適用する第1のLPF部11の特性を変えた場合を示している。図4(G)は、幾何変形前に元画像に適用する第1のLPF部11の特性を変えた場合を示し、図4(H)は、変形率の小さい変形前に元画像に適用する第1のLPF部11の特性を変えた場合を示す。
図4中、21は元画像、22は縮小画像、23は拡大画像、24は幾何変形画像、25は変形率の小さい微変形画像、26は標準的なフィルターサイズ、27は変形率だけ小さいフィルターサイズ、28は変形率だけ大きいフィルターサイズを示している。なお、フィルターサイズとは、フィルタリング処理を行う際に、対象画素のまわりの参照する画素の範囲を示すものである。平均値フィルターを例にとると、縦横に3×3〜9×9程度の範囲が通常使われるが、本実施形態においては、変形率に応じて、それよりも大きな範囲のフィルターを使用しうる。
平均値フィルターやガウスフィルターでは、フィルターサイズとカットオフ周波数の関係は比例関係にある。そこで、第1、第2のLPF部11、15のフィルターサイズを、第1、第2の変形部12、13における変形率に応じて変えることにより、カットオフ周波数を、画像の変形により変化した空間周波数に合わせることができる。
図4(A)(B)(C)(D)は、変形前の第1のLPF部11のフィルターサイズを一定とするものである。図4(A)では、縮小画像22に適用する第2のLPF部15のフィルターサイズを、変形率だけ小さなフィルターサイズ27とする。図4(B)では、拡大画像23に適用する第2のLPF部15のフィルターサイズを、変形率だけ大きなフィルターサイズ28とする。図4(C)では、幾何変形画像24に適用する第2のLPF部15のフィルターサイズを、画像内の変形率の高い領域に対して標準より小さなフィルターサイズ27とし、変形率が低い領域に対しては、標準的なフィルターサイズ26とする。図4(D)では、変形率の低い画像25に適用するLPFのフィルターサイズを、標準的なフィルターサイズ26とする。このように、これらの例では、第1、第2の変形部12、13は対象画像に対して所定の同一の変形率で変形を行い、第2のLPF部11のカットオフ周波数は、第1のLPF部15のカットオフ周波数に対して変形率を乗算したものである。
図4(E)(F)(G)(H)では、変形後の第2のLPF部15のフィルターサイズを一定とするものである。図4(E)では、元画像21に適用する第1のLPF部11のフィルターサイズを、縮小画像22の変形率の逆数だけ大きなフィルターサイズ28とする。図4(F)では、元画像21に適用する第1のLPF部11のフィルターサイズを、拡大画像23の変形率の逆数だけ小さなフィルターサイズ27とする。図4(G)では、元画像21に適用する第1のLPF部11のフィルターサイズを、幾何変形画像24の領域ごとの変形率に応じてその逆数だけ変化させる。変形率が高い領域のみ、縮小率の逆数だけ標準より大きなフィルターサイズ28とする。図4(H)では、元画像21に適用する第1のLPF部11のフィルターサイズを、変形率が低い微変形画像に応じて、標準的なフィルターサイズ26とする。このように、これらの例では、第1、第2の変形部12、13は対象画像に対して同一の変形率で変形を行い、第1のLPF部15のカットオフ周波数は、第2のLPF部11のカットオフ周波数を変形率で除算したものである。
上述のように、フィルターサイズを可変とするのは、第1のLPF部11および第2のLPF部15のどちらでも構わないし、或いは、両方のフィルターサイズを可変として、変形前後のカットオフ周波数が一致するようにすればよい。ただ、変形後の画像のカットオフ周波数をSF/4に近づけるとより効果的にモアレを抑制することができるので、変形前の第1のLPF部11のフィルターサイズを可変とするとより効果的である。
(フィルターサイズ)
次に、LPFのフィルターサイズを具体的に説明する。変形率によって変えない側のLPFのフィルターサイズは、前述の標準的なフィルターサイズとすることができる。LPFでは、フィルターサイズが大きくなるほどカットオフ周波数が下がり、カットオフ周波数とサンプリング周波数とは比例する関係にある。ナイキスト周波数はSF/2であり、2画素で1周期になる画像成分である。そこで、標準的なフィルターとしては、ナイキスト周波数の半分つまりSF/4をカットオフ周波数とするフィルターである。このようなフィルターは、2画素で1周期になるような周波数成分を完全に無くし、最大4画素で1周期になるような周波数成分を残すフィルターである。
平均値フィルターにおいては、2×2のサイズのものでは、2画素の範囲の平均をとるフィルターなので、2画素で1周期になる周波数成分を取ることができるが、4画素で1周期になる成分は取ることができない。
そこで、本実施形態では、平均値フィルターの標準的なサイズを2×2とする場合を説明する。そして、標準サイズとするLPFのカットオフ周波数がサンプリング周波数の4分の1から離れるに従って、モアレが残る可能性が出てくるので、カットオフ周波数は、サンプリング周波数(SF)の8分の1から16分の7の間の値の周波数である。その場合のLPFの標準的なフィルターサイズは、平均値フィルターでは1.25×1.25〜5×5の間である。またガウスフィルターでは中央を加重的に平均化するので、平均値フィルターの画素範囲の1.5倍程度である3×3サイズとすることができる。そして、SFの1/8〜7/16の間になるのは、2×2〜7×7の間であり、この範囲にフィルターサイズを設定することができる。そして、変形率によってフィルターサイズを変える側のLPFでは変形率に応じて、平均値フィルターのサイズを変えることになる。
標準的なフィルターサイズに対応して変形率によって変更するフィルターサイズを、具体的に説明する。例えば、図4(B)において、拡大率が1.8倍の場合で、拡大前の第1のLPF部11の平均値フィルターを標準的なサイズの中心値である2×2とする場合を説明する。第2のLPF部15のサイズ=第1のLPF部11のサイズ×変形率=2×1.8=3.6であるので、拡大後の第2のLPF部15の平均値フィルターのサイズは3×3にすればよい。
また、例えば、図4(E)において、縮小率が0.7倍の場合で、縮小後の第2のLPF部15の平均値フィルターを標準的なサイズの中心値である2×2とする場合を説明する。第1のLPF部11のサイズ=第2のLPF部15のサイズ/変形率=2/0.7≒3であるので、縮小前の第1のLPF部11の平均値フィルターを3×3とすればよい。最適値がない場合も近い値にすれば、出力画像の周波数分布の劣化を極力防ぐことができる。
(フィルターの構成例)
以下、図5〜図7を用いて、各サイズのLPFあるいはHPFの具体例を説明する。図5は、平均値フィルターで実現したLPFの構成例を示す図である。図5において、格子全体の中心のハッチングが施された格子は対象画素を示し、各格子内の数字は対象画素および周辺に位置する画素に対する倍率を示している。
LPFは、画素値に図に示す倍率を乗算したもの合計値を倍率の合計値で割り算することによって、出力を得る。あるいは割り算の代わりに、近似的に乗算とシフト演算によって演算することにより、出力を得る。
図5(A)は、2×2サイズの平均値フィルターおよび3x3サイズの平均値フィルターに置き換えたものを示す。(A1)は2×2の座標を用いたものであるが画素の重心がずれてしまうので、代わりに(A2)として重心位置をずらして3×3で表した等価なフィルターを用いる。各画素用の倍率0.25〜1を対応する画素の画素値に乗算したものの合計値を、倍率の合計値である4で除算することにより、対象画素のフィルタリング出力が演算される。上述したように、このサイズの平均値フィルターは、カットオフ周波数がSF/4に近いので標準的なサイズのLPFとなる。
図5(B)は、1.5×1.5サイズの平均値フィルターとして3×3の座標の定数で実現したものを示す。各画素用の倍率1を対応する画素の画素値に乗算したものの合計値を、倍率の合計値である2で除算することにより、対象画素のフィルタリング出力が演算される。このサイズの平均値フィルターは、標準的なサイズより小さなサイズのLPFであり、カットオフ周波数がSF/4よりも高くなる。
図5(C)は、3×3サイズの平均値フィルターを示す。各画素用の倍率1を対応する画素の画素値に乗算したものの合計値を、倍率の合計値である9(図5(B)の例では、倍率1が、9個設定されている)で除算することにより、対象画素のフィルタリング出力が演算される。近似値を算出する場合は、対象画素の画素値に7を乗算して64で除算する(6ビット切り捨てる)ことによりフィルタリング出力が演算される。このサイズの平均値フィルターは、標準的なサイズより大きなサイズのLPFであり、カットオフ周波数がSF/4よりも低くなる。
次に、図6は、ガウスフィルターで実現したLPFの構成例を示す図である。図6(A)は、3×3サイズ(半径2)のガウスフィルターを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を16で除算する(4ビット切り捨てる)ことにより、対象画素のフィルタリング出力が演算される。上述したように、このサイズの平均値フィルターは、カットオフ周波数がSF/4に近いので標準的なサイズのLPFとなる。
図6(B)は、3×3サイズ(半径1.5)のガウスフィルターを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を8で除算する(3ビット切り捨てる)ことにより、対象画素のフィルタリング出力が演算される。このサイズのガウスフィルターは、カットオフ周波数がSF/4に近いが若干高いので、標準的なサイズあるいは標準的なサイズより小さなサイズのLPFとして使用する。
図6(C)は、5×5サイズ(半径6)のガウスフィルターを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を256で除算する(8ビット切り捨てる)ことにより、対象画素のフィルタリング出力が演算される。このサイズのガウスフィルターは、カットオフ周波数がSF/4に近いが若干低いので、標準的なサイズあるいは標準的なサイズより大きなサイズのLPFとして使用する。
図7は、HPFの構成例を示す図である。図3において、第2のLPF部15と減算器16を組み合わせずに、専用のHPFを設けて一度に演算する場合に、ここに説明するHPFが使用される。
図7(A)は、2×2サイズのHPFを3×3サイズに置き直したHPFを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を、正または負の倍率の合計値である3で除算することにより、対象画素のフィルタリング出力が演算される。近似値を算出する場合は、対象画素の画素値に85を乗算して256で除算する(8ビット切り捨てる)ことによりフィルタリング出力が演算される。上述したように、このサイズのHPFは、カットオフ周波数がSF/4に近いので標準的なサイズのHPFとなる。
図7(B)は、1.5×1.5サイズのHPFを3×3サイズの定数で実現したHPFを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を計算することにより、対象画素のフィルタリング出力が演算される。このサイズの平均値フィルターは、標準的なサイズより小さなサイズのHPFであり、カットオフ周波数がSF/4よりも高くなる。
図7(C)は、3×3サイズのHPFを示す。各画素用の倍率を対応する画素の画素値に乗算したものの合計値を、正または負の倍率の合計値である8で除算する(3ビット切り捨てる)ことにより、対象画素のフィルタリング出力が演算される。このサイズの平均値フィルターは、標準的なサイズより大きなサイズのHPFであり、カットオフ周波数がSF/4よりも低くなる。
上記のように、本実施形態では、モアレの発生原理に着目して、入力画像の低周波成分についてはLPFを経由してから画像の変形を行い、高周波成分については画像の変形を行ってからHPFを経由して、両者を合成する。このように、高周波成分と低周波成分を別に処理することにより、画像の変形におけるサンプリング周波数と高周波成分の干渉等に起因するモアレの発生を抑制すると共に、高周波成分を出力画像に反映させることで画像のボヤケを抑制することが可能となる。
第1実施形態において、変形後の高周波成分を求める構成は、通常のHPFでもよいが、LPFと減算器を組み合わせたものでもよいことなどを説明した。このように、本発明は上記実施形態の具体的構成に限ることはなく、発明の趣旨を同じとする別の構成によっても実施することができる。
<<第2実施形態>>
第1実施形態の画像処理装置は、入力画像と出力画像の画素の階調値が、ガンマ系でもリニア系でも適用することができる。もっとも、階調値がガンマ系で表される場合とリニア系で表される場合とでは、その特性により、回路規模や変形処理に対する反応が異なる。すなわち、階調値がガンマ系である場合には、階調ビット数が8〜10ビットあればよいので、LPFや変形処理回路が小さくできる。階調値がリニア系である場合には、階調ビット数が12〜16ビット必要となり処理回路が大きくなる。一方、リニア系における変形処理の補間値は正確であるが、ガンマ系の変形処理においては線形補間やキュービック補間で求めた値が正確でなくなるので、出力画像にモアレではないがモアレに似た妨害(ノイズ)が現れることがある。そこで本実施形態(第2実施形態)では、ガンマ系処理とリニア系処理の長所を組み合わせて、比較的小さな処理回路で正確な出力画像を得られる構成を説明する。
図8は、本発明の第2施形態に係る画像処理装置の構成を示すブロック図である。図8中、11〜17の構成要素は、図3の構成要素と同様であり、詳細な説明は省略する。51はガンマ系階調値をリニア系階調値に変換するガンマ2.2処理部、52はリニア系階調値をガンマ系階調値に変換するガンマ0.45処理部である。
ガンマ2.2処理部51は入力値を2.2乗に演算する回路であり、ガンマ0.45処理部52は入力値を0.45乗に演算する回路である。ガンマ2.2処理部51およびガンマ0.45処理部52は、例えば、ルックアップテーブルによって構成することができる。あるいは、入力値を2乗あるいは0.5乗とする乗算器および平方根演算器を用いて、簡易に構成することもできる。
第2実施形態では、入力画像としてガンマ系の階調値が入ってくる場合を想定している。第1のLPF部11、第1の変形部12、第2のLPF部15、減算器16、加算器17はガンマ系のまま処理を行う。第2の変形部13はリニア系の処理を行う。ガンマ系の入力画像を、ガンマ2.2処理部51でリニア系に直してから、第2の変形部13で縮小拡大幾何変形などの変形処理を行い、第2の変形画像(リニア系)を得る。第2の変形画像(リニア系)をガンマ0.45処理部52でガンマ系に直してから、第2のLPF部15および加算器17に供給する。
上記のように、本実施形態では、入力画像の高周波成分についての変形を行う際は、ガンマ系階調値として表された入力画像をリニア系階調値に変換してから変形処理を行い、この変形された入力画像をガンマ系階調値に変換して、HPFの処理を行う。このため、リニア系で処理する回路を第2の変形部13のみとできるので、全処理回路をリニア系とするより、処理回路が少なくて済む。また、正確な補間値を用いて、第2の変形画像を作成するので、その高周波成分も正確な値となり、モアレに似た妨害が発生することもない。
なお本実施形態では、減算器16と加算器17の処理順番が図3と逆になっているが、この順番であれば、減算器16による演算が本構成による最後の処理になるので、加算器17で負の値を計算処理する必要がなくなり、処理回路が簡便で済む利点がある。
<<第3実施形態>>
次に、本発明の第3実施形態として、第1の変形画像と第2の変形画像の使用割合を調整する画像処理装置の構成について説明する。図9は、各変形画像の比率を変えて合成する画像処理装置の構成を示すブロック図である。図9中、11〜17の構成要素は図3の構成要素と同様であり、詳細な説明は省略する。61は低周波成分を変形した第1の変形画像に対する乗算器、62は第2の変形画像に対する乗算器、63は第2の変形画像の低周波成分に対する乗算器である。
61〜63の各乗算器には、それぞれに対して別の値の定数を乗算することができる。乗算器61〜63において乗算する定数をそれぞれa,b,cとし、本実施形態では定数a,b,cはいずれも0.5〜2.0の範囲内にある値である。
入力画像は、第1のLPF部11によって低周波成分のみが抽出されてから、第1の変形部12によって変形されて第1の変形画像となる。乗算器61は、この第1の変形画像に対してa倍の乗算を行う。乗算器62は、第2の変形部13によって変形された入力画像(第2の変形画像)に対して、b倍の乗算を行う。乗算器63は、第2の変形部13によって変形された第2の変形画像から第2のLPF部15により低周波成分のみを抽出した画像に対して、c倍の乗算を行う。乗算器61の出力と乗算器62の出力を加算器17で加算したものに、乗算器63の出力を減算器16で減算することにより、出力画像を得る。なお、乗算器61〜63は対象画像の階調値に対して定数を乗じる演算を行う。
本実施形態においては、画像処理の途中で3種類の画像の比率を変えることができるので、出力画像に対して様々な調整や効果を加えることができる。例えば、第2の変形部13において拡大や幾何変形などの変形処理を行うと、一般的にシャープネスが不足した画像になることが多い。そこで、各定数を、例えば、a=1.0,b=c=1.2とすることにより、画像における高周波成分の比率を低周波成分に比べて増やすことができるので、出力画像としてシャープな変形画像を得ることができる。
また、実施形態1の構成においてLPFのカットオフ特性がなだらかであるなどの原因により、モアレが若干残ってしまう場合に、本実施形態の処理で対応することが可能である。モアレを抑制する効果を高めるために、第2の変形後に画像の低周波成分を大きくし、その分だけ、低周波成分の第1の変形画像を大きくすると、減算器16でモアレの原因となる成分をより大きく減算することになる。例えば、各乗算器の定数をa=1.1,b=1.0,c=1.1とすることにより、このようなモアレの抑制を実現できる。
なお、図9の構成例では、乗算器61の出力と乗算器62の出力とを加算器17において加算したものから、減算器16において、乗算器63の出力を減算しているが、回路構成はこれに限られない。例えば、図3の構成例と同様に、入力画像の高周波成分について乗算器62の出力から乗算器63の出力を減算し、この減算結果に低周波成分についての乗算器61の出力を加算するようにしてもよい。
<<第4実施形態>>
次に、入力画像が静止画である場合や、入力画像のフレームレートが、変形処理回路で処理可能なフレームレートの半分以下である場合に、実施可能な形態を第4実施形態として説明する。図10は、第4実施形態における、入力画像が静止画またはフレームレートが遅い場合の画像処理装置の構成を示すブロック図である。
図10中、11〜17の構成要素は図3の構成要素と同様であり、詳細な説明は省略する。71は入力画像を一時記憶する第1のフレームバッファ、72は変形画像を一時記憶する第2のフレームバッファ、73は拡大縮小幾何変形などを行う変形部である。
このような構成による画像処理装置の動作を説明する。入力画像は、第1のLPF部11に入力されるとともに、第1のフレームバッファ71に一時記憶・保持される。第1のLPF部11の出力は変形部73によって変形されて第1の変形画像となり、第2のフレームバッファ72に一時記憶・保持される。
その動作が終わった後に、第1のフレームバッファ71から入力画像が読み出され、変形部73に入力される。変形部73で変形された第2の変形画像は、加算器17および第2のLPF部15に入力される。第2のフレームバッファから第1の変形画像が読み出され、加算器17によって第2の変形画像と加算される。その出力から、減算器16によって、第2のLPF部15の出力が減算され、出力画像を得る。
本実施形態においては、回路規模の大きい変形部は1構成だけあればよいので、回路規模を小さくすることが可能となる。
<<第5実施形態>>
第1〜第4の実施形態では、画像処理装置の各構成要素を専用のハードウェアにより構成する例を説明したが、汎用の情報処理装置を用いても同様の処理を行うことができる。本実施形態では、汎用の情報処理装置による構成例として、マイクロプロセッサなどを用いた構成によって、変形等の画像処理を行う場合を、図11、図12を用いて説明する。
図11は、第5実施形態における、マイクロプロセッサを用いた構成によるブロック図である。図11中、81は演算および制御を行うマイクロプロセッサ(MPU)、82は入力インターフェース、83は出力インターフェースである。84はコンピュータプログラムを格納するROM(読出し専用メモリ)、85はワーキングメモリとして使用するRAM(書込み可能メモリ)、86は画像の一時記憶を行うストレージ、である。なお、RAM85が複数枚の画像を記憶できるほど大きなものである場合は、ストレージ86はなくても構わない。図11の構成を有する汎用の情報処理装置として、組込み装置、パーソナルコンピュータ(PC)、タブレット端末、スマートフォン、クラウドサーバー等の装置を用いることが可能である。
図12は、第5実施形態における、マイクロプロセッサによって行う処理を示したフローチャートである。図11の構成において、MPU81が、ROM84やストレージ86等に書き込まれたコンピュータプログラムに従い、図12のフローチャートに示した各ステップの処理を実行する。以下、処理のステップごとに説明する。
まず、ステップ901において、入力画像を入力インターフェース82よりRAM85に読み込む。ステップ902において、読み込んだ入力画像を、ストレージ86にも一時記憶する。ステップ903において、RAM85上の入力画像に対し、LPF処理を行い、LPF画像1としてRAM85上に一時記憶する。このLPF処理は、第1実施形態で説明した第1のLPF部11の処理と同様の処理である。
ステップ904において、そのLPF画像1に対し、拡大縮小幾何変形などの変形処理を行い第1の変形画像を得る。ステップ905において、第1の変形画像をストレージ86に一時記憶する。ステップ906において、ストレージ86から入力画像を読み出し、拡大縮小幾何変形などの変形処理を行い第2の変形画像を得て、RAM85上に一時記憶する。ステップ907において、第2の変形画像をストレージ86に一時記憶する。
ステップ908において、RAM85上の第2の変形画像に対し、LPF処理を行い、LPF画像2を得る。このLPF処理は、第1実施形態で説明した第2のLPF部15の処理と同様の処理である。ステップ909において、LPF画像2をストレージ86に一時記憶する。
ステップ910において、第1の変形画像と第2の変形画像をストレージ86から読み出して、加算を行い、加算画像を得る。ステップ911において、その加算画像から、ストレージ86から読み出したLPF画像2を減算して、処理結果を得る。処理結果をステップ912で一時記憶する。一時記憶した処理結果を、ステップ913において、出力インターフェース83を通じて出力画像として出力する。
以上の動作によって、第1実施形態と同様の処理をマイクロプロセッサによって行う工程を説明した。同様にマイクロプロセッサを用いて、第2実施形態ならびに第3実施形態の処理を行えることは自明であるため、説明を省略する。本実施形態のように、汎用の情報処理装置において前述の実施形態に係る画像処理装置と同様の動作を行うことで、モアレとボヤケの両方を抑制しつつ画像処理を行うことが可能となる。
上記実施形態における画像の拡大縮小幾何変形の別の例として、輝度色差信号における色差成分の間引き処理が行われても良い。
一般的に、輝度色差信号YPbPrの画素数比率が同じものである4:4:4信号から、水平方向の色差信号を半分に間引いた4:2:2信号や、水平および垂直方向の色差信号を半分に間引いて4分の1とした4:2:0信号を作成している。この時に行なう間引き処理はLPFを使った縮小処理であるので、上記実施形態の動作に適用することができる。適用する場合には、4:4:4信号における輝度信号Yに対しては上記の画像処理を行なわず、色差信号PbおよびPrについて上記の画像処理を行なった後、元のままの輝度信号Yと座標位置を合わせる。これにより、色差信号のモアレとボヤケの両方を抑制した4:2:2信号や4:2:0信号を得ることができる。
<<第6実施形態>>
上記実施形態においては、主に画像の拡大縮小幾何変形をする場合について述べてきた。本発明の第6の実施形態(第6実施形態)では、スクリーン印刷におけるAMスクリーン(網点)の作成において、画像をスクリーン線数に合わせて縮小拡大する場合の処理について説明する。
図13は、AMスクリーニング処理を説明する図であり、図13(A)は入力画像、図13(B)はスクリーン画像、を表す。
図13(A)中、151は入力画像の一部、152は入力画像中の一つの画素、153はAMスクリーンにおけるスクリーン線、である。図13(B)において、154はスクリーン線の1つの交点におけるインク量、155はインク量を決定する画素範囲、である。
AM(Amplitude Modulated)スクリーニング処理とは、スクリーン線153の交点ごとに印刷するべきインク量154を演算する処理である。図13では、入力画像の12×12の画素から、スクリーン画像における5×5のスクリーン線に変換する処理を示しており、入力画像151の解像度からスクリーン線153の解像度に変換する縮小変形の演算処理となる。なお、スクリーン線153は、インクの色ごとに斜めに配置することが一般的であるので、その場合のスクリーニング処理は、縮小処理に加えて幾何変形処理になる。
図14は、本発明の第6実施形態に係る画像処理装置の構成を示すブロック図である。図14中、11、14〜17の構成要素は、第1実施形態で説明した図3の構成要素と同様であり、詳細な説明は省略する。131は低周波画像のAMスクリーン画像を作る第1のAMスクリーニング処理部であり、132は入力画像のAMスクリーン画像を作る第2のAMスクリーニング処理部である。
入力画像は、第1のLPF部11によって低周波成分のみが抽出されてから、第1のAMスクリーニング処理部131によって所望の線数に合わせたAMスクリーンが生成されて、第1のAMスクリーン画像となる。
また、入力画像は第2のAMスクリーニング処理部132にも入力されて、所望の線数である第2のAMスクリーン画像が得られる。第2の第2のAMスクリーン画像は、減算器16のプラス側および第2のLPF部15に入力される。第2のLPF部15によって、第2のAMスクリーン画像の低周波成分が抽出されるので、これを減算器のマイナス側に入力する。減算器16において第2のAMスクリーン画像からその低周波成分を減算することにより、第2のAMスクリーン画像の高周波成分のみが得られる。
このようにして得られた、低周波成分のみの第1のAMスクリーン画像と第2のAMスクリーン画像の高周波成分を加算器17で合成することによって、全周波数成分からなるAMスクリーン画像である出力画像が得られる。以上のように、本実施形態においては、入力画像の低周波成分についてはLPFを経由してからAMスクリーン処理を行い、高周波成分についてはAMスクリーン処理を行ってからHPFを経由して、両者を合成する。このように、AMスクリーン処理を行う場合であっても、高周波成分と低周波成分を別に処理することにより、第1実施形態と同様に、モアレの発生を抑制すると共に画像のボヤケを抑制することが可能となる。
<<第7実施形態>>
上記実施形態においては、拡大縮小変形における変形率が任意のものに対応できる場合を述べてきた。本発明の第7の実施形態(第7実施形態)では、3板式プロジェクターの各素子の微妙なずれを補正するレジストレーション補正処理など、変形率がごく小さい変形処理に、上記手法を適用する場合を説明する。
図15は、レジストレーションずれを説明する図である。図15中、点線で表した161はR色(赤色)の投影画像(放射画像)、実線で表した162はG色(緑色)の投影画像、一点鎖線で表した163はB色(青色)の投影画像、である。
3板式のプロジェクターでは、ランプ光をRGB色に分けて、色ごとに液晶またはデジタルミラーデバイスなどの光学変調素子で入力画像に応じて変調して、変調後の3色を光学系で統合し、統合した変調光を投影レンズによってスクリーンに投影する。この時に、変調素子の位置と統合する光学系の間に設計値からのわずかなずれがあると、各色の投影光がぴったり重ならずに、ずれて投影されてしまう。そこで変調位置の位置と光学系を微調整することで、投影画像のずれ量を通常1画素以下に抑えることができる。しかしながら、図15に示すように、G色の放射画像162に対し、R色の放射画像161やB色の放射画像163の位置が、1画素以下のずれ量で投影されることになる。この時、投影した画像には色ずれと呼ばれる妨害が発生してしまう。色ずれとは、単色の線の縁にR色やB色の色が表示されてしまうことにより、単色なのに色が見えてしまう妨害である。
この色ずれ妨害を軽減するために、レジストレーション補正と呼ばれる処理が一般に行われている。レジストレーション補正とは、R色とB色の入力画像に幾何変形処理を行い、R色の投影画像161およびB色の投影画像163を、G色の投影画像162に一致させるものである。なお、レジストレーション処理を行っても投影された各色の画素が完全に一致するわけではないので、わずかな色ずれが残るが、視聴者に認識できない程度まで軽減させることが可能である。
図16は、本発明の第7施形態に係る画像処理装置の構成を示すブロック図である。図16中、11、14〜17の構成要素は、第1実施形態で説明した図3の構成要素と同様であり、詳細な説明は省略する。141は入力画像のレジストレーション補正処理部である。
本構成において入力画像は、第1のLPF部11による低周波成分画像には、変形処理であるレジストレーション補正を行わない。これは、レジストレーション補正処理における変形処理が数画素以下であり、そのほとんどは1画素程度の変形処理であるので、低周波画像に対してレジストレーション補正を行っても、画像の変化は少ないからである。
他方、入力画像はレジストレーション補正処理部141にも入力されて、所望のレジストレーション補正を行ったレジストレーション補正画像が得られる。レジストレーション補正画像は、減算器16のプラス側および第2のLPF部15に入力される。第2のLPF部15によって、レジストレーション補正画像の低周波成分が抽出されるので、これを減算器のマイナス側に入力する。減算器16においてレジストレーション補正画像からその低周波成分を減算することにより、レジストレーション補正画像の高周波成分のみが得られる。
このようにして得られた、低周波成分のみの画像とレジストレーション補正画像の高周波成分を加算器17で合成することによって、全周波数成分からなるレジストレーション補正画像である出力画像が得られる。
本実施形態においては、第1実施形態と同様に、モアレの抑制とボヤケの抑制を両立することに加えて、レジストレーション補正処理を1回しか行わないので、処理回路がコンパクトになる。プログラムで行う場合は、高速に処理できるという利点がある。
<<第8実施形態>>
以上の実施形態においては、主に縮小拡大変形処理やAMスクリーニング処理によって発生するモアレを防止する例を説明してきた。本発明の第8の実施形態(第8実施形態)では、デジタルの撮像素子を用いた光学撮影や読み取りにおける、デジタル画像化処理において発生するモアレおよび偽色を防止する実施形態について、説明する。
図17は、本実施形態に係る画像処理装置の構成を示すブロック図である。図17中、14〜17の構成要素は、第1実施形態で説明した図3の構成要素と同様であり、詳細な説明は省略する。171は結像面の前に設置されて被写体像に対して光学的にぼかす働きをする光学LPF(光学的ローパスフィルター)である。172は光学LPF部171でボヤケた被写体像をデジタル画像化する撮像素子などの第1のデジタル画像化部である。173はボヤケていない被写体像をデジタル画像化する撮像素子などの第2のデジタル画像化部である。
光学的に入力した被写体像は、第1の光学LPF171によって被写体像の低周波成分(低周波域)のみが抽出されてから、第1のデジタル画像化部172によって、第1のデジタル画像となる。第1の光学LPF171のカットオフ周波数は、撮像素子の空間周波数よりも低い値に設定される。
また、光学的に入力した被写体像(低周波域だけでなく、低周波域より高い周波数域を含む)は第2のデジタル画像化部173によって、所望の解像度を持つデジタル画像である第2のデジタル画像にデジタル化される。
第2のデジタル画像は、減算器16のプラス側および第2のLPF部15に入力される。第2のLPF部15によって、第2のデジタル画像の低周波成分が抽出されるので、これを減算器のマイナス側に入力する。減算器16において第2のデジタル画像からその低周波成分を減算することにより、第2のデジタル画像の高周波成分のみが得られる。
このようにして得られた、低周波成分のみの第1のデジタル画像と第2のデジタル画像の高周波成分を加算器17で合成することによって、全周波数成分からなるデジタル画像である出力画像が得られる。
ここで、第1の光学LPF部171の空間カットオフ周波数と、第2のLPF部15の空間カットオフ周波数は、近い周波数に合わせておくことにより、合成によって全周波数からなるデジタル画像となる。2つのLPFのカットオフ周波数が大きくずれている場合、合成した画像がボヤケたりシャープすぎたりすることになるためである。そこで、例えば、一方のカットオフ周波数を、他方のカットオフ周波数の1/2〜2倍の間の値とすることができる。また、第1の光学LPF部171のカットオフ周波数と第2のLPF部15のカットオフ周波数とは、例えば、被写体像を撮像する撮像素子のサンプリング周波数の8分の1以上2分の1以下とすることができる。
上記のように、本実施形態においては、光学的な被写体像をデジタル画像化する際に高周波成分と低周波成分を別に処理する。すなわち、低周波成分については光学LPFにより低周波成分を抽出してから、デジタル画像化を行い、高周波成分についてはデジタル画像化を行ってから、高周波成分を抽出する。このため、光学的な被写体像のデジタル画像化に伴うモアレの抑制とボヤケの抑制を両立することが可能となる。本実施形態の構成は、静止画の撮影ならびに動画の撮影あるいは、スキャナーによる書類の読み取りなど、モアレの発生する恐れのあるあらゆる撮影において、用いることが可能である。
次に、本実施形態に係る画像処理装置のより具体的な装置構成について、図18を参照して説明する。図18は、本実施形態における光学系の例を複数示しており、図18(A)は光学系の第1の例を示した図である。図18(A)中、181は被写体を結像させるためのレンズ光学系、182は被写体像を2方向に分けるプリズムあるいはハーフミラーである。183は被写体像のピントをずらしてぼかす光学LPF、184はぼかした被写体像をデジタル画像化する第1の撮像素子、185はぼけていない解像度の高い被写体像をデジタル画像化する第2の撮像素子、である。つまり、図18(A)の光学LPF183、第1の撮像素子184、第2の撮像素子185は、図17の第1の光学LPF171、第1のデジタル画像化部172、第2のデジタル画像化部173にそれぞれ対応する。
図18(A)のように、被写体はレンズ光学系181によって結像させられ、レンズ光学系181を通過した光は、結像位置までの間に位置するプリズムあるいはハーフミラー182によって2方向に分けられる。第1の結像面には光学LPF183および第1の撮像素子184が設置され、第2の結像面には撮像素子2が設置される。
そうして各撮像素子の各画素の値を読み取ることによって、撮像素子1によって第1のボヤケたデジタル画像が得られ、第2の撮像素子185によって、解像度の高い第2のデジタル画像が得られる。それ以後の説明は図17を参照して説明したとおりである。
図18(B)、図18(C)、図18(D)は、本実施形態における光学系の第2の例を示した図である。図18(B)は撮影開始前の状態、図18(C)はボヤケたデジタル画像を撮影する状態、図18(D)は解像度の高いデジタル画像を撮影する状態を示す。図中、181は図18(A)と同様に被写体を結像させるためのレンズ光学系である。191は被写体像を2方向に切り変えるクイックリターンミラー、192は結像を実視化させるスクリーン、193はスクリーン上に結像された被写体像を正立させるためのダハミラーである。194は被写体像をぼかす光学可動式のLPF、195は被写体像をデジタル画像化する撮像素子、である。
被写体はレンズ光学系181によって結像させられるが、図18(B)の撮影開始前の状態では、クイックリターンミラー191によって、被写体はスクリーン192に結像する。スクリーン192に結像した光はダハミラー193で正立像に変換されて、ユーザーが正立で見えるようになる。
ユーザーが撮影を開始するために不図示のシャッターボタンを押すと、まずクイックリターンミラーがアップされて、図18(C)のボヤケたデジタル画像を撮影する状態に移行する。この状態では、可動式光学LPF194が挿入されているため、ボヤケさせた被写体像が、撮像素子195に結像する。そこで、撮像素子195によってボヤケた被写体像がデジタル画像化される。
次に、可動式光学LPF194が光路内から外れるように移動させられて、図18(D)の解像度の高いデジタル画像を撮影する状態に移行する。この状態では、被写体の像が解像度の高いまま、直接撮像素子195に結像するので、撮像素子195によって解像度の高い被写体像がデジタル画像化される。
2回のデジタル画像化処理が終了したら、可動式光学LPF194およびクイックリターンミラーを図18(B)の撮影前の位置に戻して、一連の撮影動作は終了する。このように可動式光学LPF194光路上にある場合とない場合の2回のデジタル画像化処理を行うことによって、一枚の撮像素子195によって第1のボヤケたデジタル画像と第2のデジタル画像が得られる。それ以後の説明は図17を参照して説明したとおりである。
図18(E)、図18(F)、図18(G)は、本実施形態における光学系の第3の例を示した図である。18(E)は撮影開始前の状態、図18(F)はボヤケたデジタル画像を撮影する状態、図18(G)は解像度の高いデジタル画像を撮影する状態を示す。図中、181は図18(A)同様であり、191から193および195は図18(B)、図18(C)、図18(D)と同様である。201は電気的にLPF特性をONOFFすることのできる特性変化光学LPF、である。
ここで、特性変化光学LPF201は、特許第2556831号や特開2003−50398号に述べられているような、電気的にLPF特性をONOFFすることのできる光学LPFである。本実施形態の特性変化光学LPF201は、電気信号が与えられていないときは光学LPFとして作用し、電気信号が与えられると入射光をそのまま透過させる性質を有する。このように特性変化光学LPF201は、電気光学素子によってローパスフィルター化することができる。
図18(E)の撮影開始前の状態は図18(B)と同じである。ユーザーがシャッターボタンを押すと、図18(C)、図18(D)と同様に、図18(F)、図18(G)の状態に移行する。図18(F)のボヤケたデジタル画像を撮影する状態では、特性変化光学LPF201に対し、電気信号を与えないでおくことにより、特性変化光学LPF201において被写体像をボヤケさせてから撮像素子195に結像させる。
図18(G)の解像度の高いデジタル画像を撮影する状態では、特性変化光学LPF201に対し、電気信号を与えることにより、被写体像をボヤケさせないで撮像素子195に解像度の高い像を結像させる。
このように光路上にある、特性変化光学LPF201の特性を変えながら、2回のデジタル画像化処理を行うことによって、撮像素子195によって第1のボヤケたデジタル画像と第2のデジタル画像が得られる。それ以後の説明は図17における説明でなされている。
図18(H)、図18(I)、図18(J)は、本実施形態における光学系の第4の例を示した図である。18(H)は撮影開始前の状態、図18(I)はボヤケたデジタル画像を撮影する状態、図18(J)は解像度の高いデジタル画像を撮影する状態を示す。図中、181は図18と同様であり、191から193および195は図18(B)、図18(C)、図18(D)と同様である。211は電気的に撮像素子195を微振動させる機構、である。
ここで、微振動機構211は、ピエゾ素子や電磁コイルなどを用いて、電気信号を撮像素子195の位置の変化に変換することで、撮像素子195を微振動させる機構である。図18(H)の撮影開始前の状態は図18(B)と同様である。ユーザーがシャッターボタンを押すと、図18(C)、図18(D)と同様に、図18(I)、図18(J)の状態に移行する。
図18(I)のボヤケたデジタル画像を撮影する状態では、微振動機構211を駆動し、撮像素子195を微振動させながら、撮像素子195は被写体像をデジタル画像化する。微振動しながら撮影したデジタル画像は、光学LPFを通さなくてもボヤケたデジタル画像となる。
図18(J)の解像度の高いデジタル画像を撮影する状態では、微振動機構211の駆動を停止することにより、撮像素子を微振動させない。そうすると被写体像はボヤケないので撮像素子195に解像度の高い像が結像させられる。
このように撮像素子195に微振動を与えた状態と与えない状態で、2回のデジタル画像化処理を行うことによって、撮像素子195によって第1のボヤケたデジタル画像と第2のデジタル画像が得られる。それ以後の説明は図17における説明でなされている。
ここで、微振動で生じさせたボヤケの空間カットオフ周波数と、第2のLPF部15の空間カットオフ周波数は、近い周波数に合わせておくことにより、合成によって全周波数からなるデジタル画像となる。このため、あらかじめ、微振動させた画像を解析して、第2のLPF部の空間カットオフを調整しておくことが肝要である。
なお、ボヤケた第1のデジタル画像と解像度の高い第2のデジタル画像を得る方法は、上記で示した以外の方法を取ることもできる。例えば、オートフォーカス機構を用いて、フォーカスをわずかにずらした画像を結像させた状態で、ボヤケた第1のデジタル画像を撮影し、フォーカスを合掌させた画像を結像させた状態で、解像度の高い第2のデジタル画像を撮影してもよい。
以上のような構成により、光学的な被写体像についてその高周波成分と低周波成分とを別々に処理することで、デジタル画像化に伴うモアレの抑制とボヤケの抑制を両立することが可能となる。なお、ここでは主に一眼レフカメラにおける光学配置を想定した構成例を説明したが、これに限られない。例えば、スキャナーなどの読み取り装置においても、同様にLPFの位置を変えたりオンオフしたりすることなどによって、ボヤケたデジタル画像と解像度の高いデジタル画像の2種類を得て、以降も同様の処理を行うことによって、同様の効果を得ることができる。
ところで、第8実施形態の光学系の例2から例4においては、一つの撮像素子を用いるので、撮像素子を2つ用いるより例1より小型化できコストを低くすることができる。もっとも、2回のデジタル画像化を行っている間に、被写体の一部が動いてしまうと、出力画像中で動いている被写体部分で動きブレが生じてしまう場合がある。
しかしながら、動きのある部分は撮像素子中の複数の画素をまたいで動くので、撮像素子のピッチと干渉せずモアレや偽色が生じない。この特徴を利用すれば、2回のデジタル画像化を行ってモアレおよび偽色の除去と動きブレの解消を両立することができる。
<<第9実施形態>>
次に、本発明の第9の実施形態(第9実施形態)として、動いている被写体に対応しながら、モアレ及び偽色を除去する構成につき、第1例と第2例の2種類を示す。図19は、本実施形態に係る画像処理装置の構成例を示しており、図19(A)は第1例に係る画像処理装置の構成を示すブロック図である。図19(A)中、14〜17の構成要素は、図3の構成要素と同様で、171〜173の構成要素は図17の構成要素と同様であり、詳細な説明は省略する。
221は比較器であり、第1のデジタル画像化部172から出力されるボヤケたデジタル画像1の各画素と、第2のLPF部15から出力されるぼかしたデジタル画像2の各画素を比較する。222はセレクタであり、比較器221の判定に応じて、出力画像とする画素を切り替える。
本構成においては、入力した被写体像を光学LPF171でぼかした後でデジタル画像化したボヤケたデジタル画像1の各画素のG成分1を比較器221へ入力する。さらに、被写体像をそのままデジタル画像化した後に、LPF2によってぼかしたデジタル画像2の各画素のG成分2を比較器221へ入力する。比較器221は、これらのG成分1とG成分2とを比較する。
この比較器221において、2つのデジタル画像の各画素のG成分について、以下の判定1,2,3のうちいずれに当たるか判定を行う。なお、判定にG成分のみを使うのは、R成分とB成分は偽色の影響を受けやすいからである。
判定1 G成分1=G成分2
判定2 |G成分1−G成分2|<閾値
判定3 |G成分1−G成分2|>閾値
このように、比較器221は、画素値の差分の絶対値を演算し、当該差分の絶対値と所定の閾値との大小を比較する。
次に、上記判定によって、セレクタ222において、2つのデジタル画像の各画素を切り替える。1つ目のデジタル画像の画素1は、図17における出力画像の画素と同じもの、つまり本画像処理を加えた画素である。2つ目の画素2は被写体像をそのままデジタル画像化した画素である。
セレクタは、判定1,2,3の結果に応じて、出力する画素を以下のように切り替える。判定1の場合は、G成分は同じであるが、偽色の影響でRとB成分は異なっている可能性があるので、出力画像の画素として画素1を出力する。判定2の場合は、動いていない画素と判断し、出力画像の画素として画素1を出力する。判定3の場合は、動いている画素と判断し、出力画像の画素として画素2を出力する。
ここで閾値は、モアレ除去を重視するか、動きブレを起こさないことを重視するかで、異なる値を用いることができる。例えば、閾値を10%(=0.1)とすれば、モアレの強さが10%以下のものは除去できるが、10%以上強く出たモアレは除去できない。一方、動きブレは10%以下の差があるもののみが残るので、あまり目立たない。
同様に、閾値を40%(=0.4)とすれば、モアレの強さが40%以下のものまで除去できる。一方、動きブレは40%までの差があるものまで残るので、ある程度目立ってしまう。よって、この閾値は、発生するモアレの強度によって、変更できるようにすることができる。
図19(B)は、本発明の第9実施形態の第2例に係る画像処理装置の構成を示すブロック図である。図19(B)中、14〜17の構成要素は、図3の構成要素と同様で、171〜173の構成要素は図17の構成要素と同様であり、詳細な説明は省略する。
231は類似度計算器であり、ボヤケたデジタル画像1の各画素のG成分1とぼかしたデジタル画像2の各画素のG成分2の類似度を計算する。232は合成処理部であり、類似度計算器231が計算した類似度に応じて、ボヤケたデジタル画像1の各画素とぼかしたデジタル画像2の各画素の合成比率を変更・制御する。
画像の類似度は、様々な計算方式が知られており、いずれの方式を用いてもよいが、例えば、演算対象画素の周辺画素の平均値の差を類似度として算出することができる。ここでは、画素値の差分の2乗に基づき類似度を計算する例を示す。
A=(G成分1−G成分2)2
なおG成分の値は、その最大値が1.0となるように正規化しておけば、Aの値の範囲は0〜1.0となる。
このAの値が小さいほど類似度が大きく、対象画素が動いている可能性が低い。そこで、合成処理部232では、例えば以下の合成処理を行う。
S=画素1*(1−A)+画素2*A
動いている可能性が高いほどAの値は大きいので、合成処理した画素Sは、デジタル画像2をぼかした画素2の比率が大きくなり、逆に動いている可能性が高いほどAの値は小さいので、ボヤケたデジタル画像1の画素1の比率が大きくなる。このようにして、第1の画像+第2の画像−第3の画像を演算した画素および第2の画像の演算対象画素が、積和演算によって合成される。
この合成処理した画素Sに対し、減算器(差分器)16の出力であるところのデジタル画像2の高周波成分を加算器17で加えることにより、出力画像の各画素となる。この構成に置いて結局、出力画像の各画素は、動いている可能性が高い画素はデジタル画像2に近いものとなり、動いている可能性の低い画素は、ボヤケたデジタル画像1とデジタル画像2の高周波成分を加えたものに近いものとなる。よって、モアレ除去と動きブレの両方が適度に抑えられた出力画像が得られる。
以上の第8から第9の実施形態の説明において、撮影における静止画撮影の場合を主として説明してきたが、フレームレートに合わせて高速に処理を繰り返し行うことにより、動画の撮影に用いることができることは明らかであり、説明は省略する。
<<第10実施形態>>
次に、本発明の第10の実施形態(第10実施形態)として、モアレを除去しながらキレの良い動画撮影を行う構成を説明する。図20は、本実施形態に係る画像処理装置の構成を示すブロック図である。図20中、15と16は図14と同じ、172は図17と同じであるので、説明を省略する。
241は動画撮影のフレームレートの倍速のタイミング信号の発生器であり、242は電気的にLPFをONOFFする特性変化光学LPFである。243はボヤケたデジタル画像1もしくはデジタル画像2の高周波成分を切り変えるセレクタである。
この構成において、例えば動画撮影のフレームレートが60P(フレーム毎秒)の場合は、倍速タイミング発生器241は倍の120Pのタイミングを発生する。この倍速で、特性変化光学LPF1は、LPF特性をオン、オフを周期的に繰り返す。そうすれば、デジタル画像化部172において、ボヤケたデジタル画像1と解像度の高いデジタル画像2が周期的に出力することになる。この出力をHPF部14によって、高周波成分を取り出す。
次に倍速タイミングで切り替えるセレクタ243によって、ボヤケたデジタル画像1と解像度の高いデジタル画像の高周波成分を切り替えて出力画像(動画)とする。このため、モアレおよび偽色の含まれない出力画像(画像1)と、120Pの半分だけに存在する高周波成分画像(画像2)とが交互に出力される。したがって、全体として、モアレおよび偽色を抑制しつつ、キレのよい動画を出力することが可能となる。
<<第11実施形態>>
次に、本発明の第11の実施形態(第11実施形態)として、モアレや偽色を除去する画像処理ソフトに適応した構成を、第1例および第2例により説明する。
図21は、本実施形態に係る画像処理装置の構成例を示しており、図21(A)は第1例に係る画像処理装置の構成を示すブロック図である。
図中、14〜17は図14と同じ、171〜173は図17と同じであるので、説明を省略する。251は画像を記録するメモリカードである。
本実施形態においては、被写体像を光学LPF171でボヤケさせてからデジタル画像化したボヤケたデジタル画像1と、被写体像をそのままデジタル画像化した解像度の高いデジタル画像2の両方をメモリカード251に記憶しておく。
そして画像処理ソフトは、メモリカード251から、解像度の高いデジタル画像2を読み出し、LPF部15および減算器16によって高周波成分を抜き出す。また、ボヤケたデジタル画像1を読み出し、これに加えることによって、出力画像を得る。
本実施形態においては、2つの画像を撮影しておき、モアレが発生している場合のみ、画像処理ソフトでモアレを除去した画像を得られる。モアレが発生していない場合は、解像度の高いデジタル画像をそのまま使えばよいという利点がある。
図21(B)は、本発明の第11実施形態の第2例に係る画像処理装置の構成を示すブロック図である。図中、15〜17は図14と同じ、171〜173は図17と同じ、251は図21(A)と同じであるので、説明を省略する。261はユーザーにより示されたモアレ領域、262セレクタである。
本実施形態においては、画像処理ソフトにおいてユーザーによって指示された領域261のみセレクタ262によって、本画像処理を行った画素を出力画像とし、その他の画素は解像度の高いデジタル画像2の画素を出力画素とする。こうすることによって、モアレの発生している部分のみ本処理を行うので、全体としてモアレの無く元の解像度の高い画像の比率の多い高画質な出力画像が得られる。
以上に上げた実施形態8から12による本画像処理の適用は、静止画の撮影ならびに動画の撮影あるいは、スキャナーによる書類の読み取りなど、モアレの発生する恐れのあるあらゆる撮影において、用いることが可能である。
以上、各実施形態を挙げて、本発明を実現する構成例を説明したが、本発明の趣旨を実現する構成が、上記実施形態に限るものではないことは言うまでもない。上記の各実施形態は、拡大縮小幾何変形などの変形処理をデジタル演算で行う装置やプログラムに幅広く利用可能である。例えば、TVにおいて入力解像度を表示パネルの解像度に合わせて変換する機能や、ピクチャーインピクチャー機能における解像度変換に用いることができる。あるいは、プロジェクターにおけるキーストーンや曲面変形機能や、デジタルカメラにおける解像度変換機能や、画像処理アプリケーションにおける解像度変換や画像回転などの機能にも用いることができる。さらには、プリンターにおいてはプリンタードライバーおよびプリンター本体内における画像解像度の変換処理などにも幅広く利用可能である。以上の各実施形態の構成によれば、光電変換される前の被写体像か、被写体像を光電変換して取得された撮影画像かに関わらず、その低周波成分と高周波成分とで異なる処理をすることで、モアレとボヤケをともに低減することができる。
<<その他の実施形態>>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。