JP4958876B2 - 画像処理装置及び方法並びに画像表示装置 - Google Patents

画像処理装置及び方法並びに画像表示装置 Download PDF

Info

Publication number
JP4958876B2
JP4958876B2 JP2008271123A JP2008271123A JP4958876B2 JP 4958876 B2 JP4958876 B2 JP 4958876B2 JP 2008271123 A JP2008271123 A JP 2008271123A JP 2008271123 A JP2008271123 A JP 2008271123A JP 4958876 B2 JP4958876 B2 JP 4958876B2
Authority
JP
Japan
Prior art keywords
image
intermediate image
frequency component
horizontal
pixel value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008271123A
Other languages
English (en)
Other versions
JP2010102397A (ja
Inventor
正太郎 守谷
悟崇 奥田
聡 山中
浩次 南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2008271123A priority Critical patent/JP4958876B2/ja
Priority to PCT/JP2009/003330 priority patent/WO2010013401A1/ja
Priority to CN200980130164.3A priority patent/CN102113307B/zh
Priority to EP09802651.1A priority patent/EP2320637B1/en
Priority to US13/056,540 priority patent/US8498499B2/en
Publication of JP2010102397A publication Critical patent/JP2010102397A/ja
Application granted granted Critical
Publication of JP4958876B2 publication Critical patent/JP4958876B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、入力画像に対し強調処理する画像処理装置及び方法、並びにこれらを用いた画像表示装置に関し、例えば入力画像として、元となる画像を拡大した拡大画像が入力された際に、高周波数成分の生成および加算をすることによって、解像感の高い出力画像を得るよう画像の強調処理を行うものである。
一般に画像を表す画像信号に対し適宜画像処理を施した後、画像を再生表示するということが行われている。
例えば特許文献1に記載された画像処理装置においては、多重解像度に変換された細部画像に対して、所望の周波数帯域の細部画像に対する強調係数をその所望の周波数帯域よりも低い周波数帯域の細部画像の信号に基づいて設定することにより、所望の周波数帯域を強調している。
特開平9−44651号公報
しかしながら、多重解像度に変換された細部画像に対して、所望の周波数帯域の細部画像に対する強調係数を適宜設定する画像処理装置では、入力画像によっては強調処理が不適切あるいは不十分となり、適正な画質の出力画像を得ることが不可能であった。
例えば、入力画像として拡大処理を受けた画像が入力される場合、入力画像の周波数スペクトルの高周波数成分側には、拡大処理前の画像の周波数スペクトルの一部が折り返した成分(折り返し成分)が現れる。したがって単純に高周波数成分を強調すると、この折り返し成分を強調してしまい、不適切な処理となる。また、周波数帯域を限定し、折り返し成分を含まない周波数帯域のみを強調すると、周波数スペクトルで考えた場合、高周波数成分側の強調を避けることになり、結果的に不十分な強調処理となってしまう。
また、入力画像としてノイズ処理を受けた画像が入力される場合、高周波数成分側の周波数スペクトルはノイズ処理によって失われている。したがって高周波数成分を取り出そうとしても、取り出すことができず、十分に画像の強調処理を行えないことがある。
本発明の画像処理装置は、
入力画像の特定の周波数帯域近傍の成分を取り出した第1の中間画像を生成する第1の中間画像生成手段と、
前記第1の中間画像をもとに第2の中間画像を生成する第2の中間画像生成手段と、
前記第1の中間画像と前記第2の中間画像をもとに第3の中間画像を生成する中間画像後処理手段と、
前記入力画像と前記第1の中間画像と前記第3の中間画像を加算する加算手段と
を有する画像処理装置において、
前記中間画像後処理手段は、
前記第1の中間画像と前記第2の中間画像の画素値の符号を比較する符号比較手段と、
前記符号比較手段における比較の結果に基づき前記第2の中間画像の画素値を変化させる画素値変更手段とを有する
ことを特徴とする。
本発明によれば、入力画像がその周波数スペクトルにおいて、高周波数成分側に折り返し成分を含んでいる場合や、高周波数成分を十分に含んでいない場合でも画像のエッジ近傍に不自然な輝度の変化を生じることなく十分に画像の強調処理を行うことができる。
実施の形態1.
図1は本発明の実施の形態1による画像処理装置の構成を示す図であり、例えば画像表示装置の一部として用いることができる。
図示の画像処理装置は、第1の中間画像生成手段1と、第2の中間画像生成手段2と、中間画像後処理手段3と、加算手段4とを有する。
第1の中間画像生成手段1は、入力画像DINから特定の周波数帯域近傍の成分を取り出した中間画像(第1の中間画像)D1を生成する。
第2の中間画像生成手段2は、中間画像D1に後述する処理を行った中間画像(第2の中間画像)D2を生成する。
中間画像後処理手段3は、中間画像D2に後述する処理を行った中間画像(第3の中間画像)D3を生成する。
加算手段4は、入力画像DINと、中間画像D1と、中間画像D3を加算する。加算手段4による加算の結果得られる画像が最終的な出力画像DOUTとして出力される。
図2は第1の中間画像生成手段1の構成例を示した図であり、図示の第1の中間画像生成手段1は、入力画像DINから特定の周波数帯域よりも低い周波数成分を除去し、入力画像DINの高周波数成分のみを取り出した画像(第1の高周波数成分画像)D1Aを生成する高周波数成分画像生成手段1Aと、画像D1Aから、特定の周波数帯域よりも高い周波数成分を除去し、画像D1Aの低周波数成分のみを取り出した画像D1Bを生成する低周波数成分画像生成手段1Bとを備える。高周波数成分画像生成手段1Aと低周波数成分画像生成手段1Bとで特定の周波数帯域の成分を取り出す帯域通過フィルタ手段が構成されている。第1の中間画像生成手段1からは画像D1Bが中間画像D1として出力される。
図3は第2の中間画像生成手段2の構成例を示した図であり、図示の第2の中間画像生成手段2は、中間画像D1に対し、後述する非線形処理を行った画像D2Aを出力する非線形処理手段2Aと、画像D2Aの高周波数成分のみを取り出した画像D2Bを出力する高周波数成分画像生成手段2Bとを備える。第2の中間画像生成手段2からは画像D2Bが中間画像D2として出力される。
図4は中間画像後処理手段3の構成例を示した図であり、図示の中間画像後処理手段3は、中間画像D1と中間画像D2の各画素値の符号を比較した結果を信号D3Aとして出力する符号比較手段3Aと、信号D3Aに基づいて、中間画像D2の画素値を変更した画像D3Bを出力する画素値変更手段3Bとを備える。中間画像後処理手段3からは画像D3Bが中間画像D3として出力される。
加算手段4は、入力画像DINに対し、中間画像D1および中間画像D3を加算し、最終的な出力画像DOUTを生成する。
以下、本発明の実施の形態1による画像処理装置の詳細な動作について説明を行う。
まず、第1の中間画像生成手段1の詳細な動作について説明する。
まず、第1の中間画像生成手段1は、高周波数成分画像生成手段1Aにおいて、入力画像DINの高周波数成分のみを取り出した画像D1Aを生成する。高周波数成分の取り出しは、ハイパスフィルタ処理を行うことで可能である。なお、高周波数成分の取り出しは画像の水平方向、垂直方向それぞれについて行う。すなわち高周波数成分画像生成手段1Aは、入力画像DINに対し、水平方向のハイパスフィルタ処理を行って水平方向についてのみ高周波数成分を取り出した画像D1Ahを生成する水平方向高周波数成分画像生成手段1Ahと、垂直方向のハイパスフィルタ処理を行って垂直方向についてのみ高周波数成分を取り出した画像D1Avを生成する垂直方向高周波数成分画像生成手段1Avとを備え、画像D1Aは画像D1Ahと画像D1Avとから成る。
次に、第1の中間画像生成手段1は、低周波数成分画像生成手段1Bにおいて、画像D1Aの低周波数成分のみを取り出した画像D1Bを生成する。低周波数成分の取り出しは、ローパスフィルタ処理を行うことで可能である。なお、低周波数成分の取り出しは水平方向、垂直方向それぞれについて行う。すなわち低周波数成分画像生成手段1Bは、画像D1Ahに対し水平方向のローパスフィルタ処理を行った画像D1Bhを生成する水平方向低周波数成分画像生成手段1Bと、画像D1Avに対し垂直方向のローパスフィルタ処理を行った画像D1Bvを生成する垂直方向低周波数成分画像生成手段1Bvとを備え、画像D1Bは画像D1Bhと画像D1Bvとから成る。そして、第1の中間画像生成手段1からは、画像D1Bが中間画像D1として出力される。なお、中間画像D1は、画像D1Bhに相当する画像D1h、及び画像D1Bvに相当する画像D1vから成る。
次に、第2の中間画像生成手段2の詳細な動作について説明する。
まず、第2の中間画像生成手段2は、非線形処理手段2Aにおいて、中間画像D1に対して後述する非線形処理を行った画像D2Aを生成する。非線形処理は、水平方向、垂直方向それぞれについて行う。すなわち非線形処理手段2Aは、画像D1Bhに対して後述する非線形処理を行って画像D2Ahを生成する水平方向非線形処理手段2Ahと、画像D1Bvに対して後述する非線形処理を行って画像D2Avを生成する垂直方向非線形処理手段2Avとを備え、画像D2Aは画像D2Ahと画像D2Avとから成る。
非線形処理手段2Aの動作についてさらに詳しく説明する。非線形処理手段2Aは同様の構成を有する水平方向非線形処理手段2Ah、及び垂直方向非線形処理手段2Avを備える。ここで、水平方向非線形処理手段2Ahは水平方向の処理を行い、垂直方向非線形処理手段2Avは垂直方向の処理を行う。
図5は水平方向非線形処理手段2Ahの構成例を表す図である。図示の水平方向非線形処理手段2Ahは、ゼロクロス判定手段311hと、信号増幅手段312hとを備える。なお、非線形処理手段2Ahには、画像D1hが入力画像DIN311hとして入力される。
ゼロクロス判定手段311hは入力画像DIN311hにおける画素値の変化を水平方向に沿って確認する。そして画素値が正の値から負の値へ、あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、信号D311hによってゼロクロス点の前後にある画素(前後において隣接する画素)の位置を信号増幅手段312hに伝達する。例えばゼロクロス点の左右に位置する画素がゼロクロス点の前後に位置する画素として認識される。
信号増幅手段312hは信号D311hをもとにゼロクロス点の前後にある画素(前後において隣接する画素)を特定し、ゼロクロス点の前後にある画素についてのみその画素値を増幅させた(絶対値を大きくした)非線形処理画像D312hを生成する。すなわち、ゼロクロス点前後にある画素の画素値に対しては増幅率を1より大きな値とし、それ以外の画素の画素値に対しての増幅率は1とする。
そして水平方向非線形処理手段2Ahからは画像D2Ahとして非線形処理画像D312hが出力される。
図6は垂直方向非線形処理手段2Avの構成例を表す図である。図示の垂直方向非線形処理手段2Avは、ゼロクロス判定手段311vと、信号増幅手段312vとを備える。なお、非線形処理手段2Avには、画像D1vが入力画像DIN311vとして入力される。
ゼロクロス判定手段311vは入力画像DIN311vにおける画素値の変化を垂直方向に沿って確認する。そして画素値が正の値から負の値へ、あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、信号D311vによってゼロクロス点の前後にある画素(前後において隣接する画素)の位置を信号増幅手段312vに伝達する。例えばゼロクロス点の上下に位置する画素がゼロクロス点の前後に位置する画素として認識される。
信号増幅手段312vは信号D311vをもとにゼロクロス点の前後にある画素(前後において隣接する画素)を特定し、ゼロクロス点の前後にある画素についてのみその画素値を増幅させた(絶対値を大きくした)非線形処理画像D312vを生成する。すなわち、ゼロクロス点前後にある画素の画素値に対しては増幅率を1より大きな値とし、それ以外の画素の画素値に対しての増幅率は1とする。
以上が非線形処理手段2Aの動作である。
次に、第2の中間画像生成手段2は、高周波数成分画像生成手段2Bにおいて、画像D2Aの高周波数成分のみを取り出した画像D2Bを生成する。高周波数成分の取り出しは、ハイパスフィルタ処理を行うことで可能である。なお、高周波数成分の取り出しは画像の水平方向、垂直方向それぞれについて行う。すなわち高周波数成分画像生成手段2Bは、画像D2Ahに対し水平方向のハイパスフィルタ処理を行った画像D2Bhを生成する水平方向高周波数成分画像生成手段2Bhと、画像D2Avに対し垂直方向のハイパスフィルタ処理を行った画像D2Bvを生成する垂直方向高周波数成分画像生成手段2Bvとを備え、画像D2Bは画像D2Bhと画像D2Bvとから成る。
そして第2の中間画像生成手段2からは、画像D2Bが中間画像D2として出力される。なお、中間画像D2は画像D2Bhに相当する画像D2hおよび画像D2Bvに相当する画像D2vから成る。
次に、中間画像後処理手段3の詳細な動作について説明する。
まず、中間画像後処理手段3の符号比較手段3Aは、中間画像D1と中間画像D2の各画素値についてその符号を比較し、その結果を信号D3Aとして出力する。ここで符号の比較は画像D1hと画像D2hの各画素について(画像中の互いに同一の位置の画素について)行なうとともに、画像D1vと画像D2vの各画素について(即ち画像中の互いに同一の位置の画素について)も行う。符号比較手段3Aは、水平方向符号比較手段3Ahと、垂直方向符号比較手段3Avとを備え、水平方向符号比較手段3Ahは画像D1hと画像D2hについて各画素の符号の比較を行ない、その結果を信号D3Ahとして出力し、垂直方向符号比較手段3Avは、画像D1vと画像D2vについて各画素の符号の比較を行ない、その結果を信号D3Avとして出力する。信号D3Ahおよび信号D3Avが信号D3Aとして出力される。
符号比較手段3Aの動作についてさらに詳しく説明する。
図7(A)〜(D)は画像D1h、D1v、D2h、D2vを表した図であり、図7(A)が画像D1hを、図7(B)が画像D1vを、図7(C)が画像D2hを、図7(D)が画像D2vを表している。図7(A)〜(D)では画像の水平方向および垂直方向に合わせて水平座標、垂直座標および各座標値が表されている。また、画像D1hについては、水平座標x、垂直座標yの位置にある画素の画素値がD1h(xy)という記号で表されており、画像D1vについては、水平座標x、垂直座標yの位置にある画素の画素値がD1v(xy)という記号で表されており、画像D2hについては、水平座標x、垂直座標yの位置にある画素の画素値がD2h(xy)という記号で表されており、画像D2vについては、水平座標x、垂直座標yの位置にある画素の画素値がD2v(xy)という記号で表されている。
水平方向符号比較手段3Ahは画像D1hと画像D2hの同一座標の画素値について符号を比較する。すなわち、画素値D1h(11)と画素値D2h(11)の符号の比較、画素値D1h(12)と画素値D2h(12)の符号の比較、一般化して言えば、D1h(xy)とD2h(xy)の符号の比較という様に同一座標の画素値について符号の比較を行い、各画素の画素値について符号の一致、不一致を確認し、その結果を信号D3Ahとして出力する。また、垂直方向符号比較手段3Avは画像D1vと画像D2vの同一座標の画素値について符号を比較する。すなわち、画素値D1v(11)と画素値D2v(11)の符号の比較、画素値D1v(12)と画素値D2v(12)の符号の比較、一般化して言えば、D1v(xy)とD2v(xy)の符号の比較という様に同一座標の画素値について符号の比較を行い、各画素の画素値について符号の一致、不一致を確認し、その結果を信号D3Avとして出力する。そして信号D3Ahおよび信号D3Avが信号D3Aとして、符号比較手段3Aから出力される。
以上が符号比較手段3Aの動作である。
画素値変更手段3Bは、信号D3Aに基づき中間画像D2の画素値を変更した画像D3Bを生成する。画素値変更手段3Bは、中間画像D2の各画素値のうち、信号D3Aによって中間画像D1の各画素値と符号が異なると示されたものについて、中間画像D2の画素値をゼロとする。一方、符号が一致する場合には、中間画像D2をそのまま出力する。なおこの処理は、画像D2hおよび画像D2vの各々について行われる。
画素値変更手段3Bは、水平方向画素値変更手段3Bhと、垂直方向画素値変更手段3Bvとを備える。
水平方向画素値変更手段3Bhは、画像D2hと信号D3Ahとを受け、信号D3Ahが、「符号が異なる」ことを示す場合には、画素の画素値をゼロにした画像D3Bhを出力し、一方、信号D3Ahが「符号が一致する」ことを示す場合には、中間画像D2hをそのまま画像D3Bhとして出力する。
垂直方向画素値変更手段3Bvは、画像D2vと信号D3Avとを受け、信号D3Avが、「符号が異なる」ことを示す場合には、画素の画素値をゼロにした画像D3Bvを出力し、一方、信号D3Avが「符号が一致する」ことを示す場合には、中間画像D2vをそのまま画像D3Bvとして出力する。
画素値変更手段3Bからは、画像D3Bhおよび画像D3Bvが画像D3Bとして出力される。
そして、画像D3Bが中間画像D3として中間画像後処理手段3から出力される。なお、中間画像D3は画像D3Bhに相当する画像D3hと画像D3Bvに相当する画像D3vとから成る。
最後に加算手段4の動作について説明する。加算手段4は入力画像DINと中間画像D1と中間画像D3とを加算した出力画像DOUTを生成する。そして出力画像DOUTが最終的な出力画像として、画像処理装置から出力される。
なお、中間画像D1は画像D1hおよび画像D1vから成っており、中間画像D3は画像D3hおよび画像D3vから成っているので、入力画像DIN、中間画像D1、及び中間画像D3を加算することは、入力画像DINに対し、画像D1h、D1v、D3h、及びD3vの全てを加算することを意味する。
ここで、加算手段4での加算処理は単純加算に限らず重み付け加算を用いてもよい。すなわち、画像D1h、D1v、D3h、及びD3vの各々をそれぞれ異なる増幅率で増幅してから入力画像DINに加算してもよい。
以下、本発明における画像処理装置を画像表示装置の一部として利用する例について説明する。この説明を通じて、本発明における画像処理装置の作用、効果も明らかなものとなるであろう。なお、以下の説明では特に断らない限り、Fnという記号は入力画像DINのナイキスト周波数を表す。
図8は本発明における画像処理装置を利用した画像表示装置であり、モニタU3上に原画DORGに対応した画像が表示される。
画像拡大手段U1は、原画DORGの画像サイズがモニタU3の画像サイズより小さい場合、原画DORGを拡大した画像DU1を出力する。ここで画像を拡大する手段としては、バイキュービック法などを用いることができる。
本発明における画像処理装置U2は、画像DU1に対し、先に説明した処理を行った画像DU2を出力する。そしてモニタU3上には画像DU2が表示される。
以下、原画DORGは、水平方向、垂直方向ともその画素数がモニタU3の画素数の半分であるとして、まず画像拡大手段U1の動作、作用について説明を行う。
図9は画像拡大手段U1の構成および動作を表す図であり、画像拡大手段U1は、水平方向ゼロ挿入手段U1Aと、水平方向低周波数成分通過手段U1Bと、垂直方向ゼロ挿入手段U1Cと、垂直方向低周波数成分通過手段U1Dとを備える。水平方向ゼロ挿入手段U1Aは原画DORGの水平方向に関して画素値0を持つ画素を適宜挿入した画像DU1Aを生成する。水平方向低周波数成分通過手段U1Bはローパスフィルタ処理により画像DU1Aの低周波数成分のみを取り出した画像DU1Bを生成する。垂直方向ゼロ挿入手段U1Cは画像DU1Bの垂直方向に関して画素値0を持つ画素を適宜挿入した画像DU1Cを生成する。垂直方向低周波数成分通過手段DU1Dは画像DU1Cの低周波数成分のみを取り出した画像DU1Dを生成する。そして画像DU1Dが原画DORGを水平方向、垂直方向とも2倍した画像DU1として、画像拡大手段U1から出力される。
図10(A)〜(E)は画像拡大手段U1の動作を詳しく説明するための図であり、図10(A)は原画DORGを、図10(B)は画像DU1Aを、図10(C)は画像DU1Bを、図10(D)は画像DU1Cを、図10(E)は画像DU1Dを表す。図10(A)〜(E)に関して、四角(各升目)は画素を表し、その中に書かれた記号あるいは数値は各画素の画素値を表す。
水平方向ゼロ挿入手段U1Aは図10(A)に示す原画DORGに対して、水平方向の1画素につき1個、画素値0をもった画素を挿入し(即ち、原画DORGの水平方向に隣接する画素列相互間に一つの、画素値0の画素から成る画素列を挿入し)、図10(B)に示す画像DU1Aを生成する。水平方向低周波数成分通過手段U1Bは図10(B)に示す画像DU1Aに対して、ローパスフィルタ処理を施し、図10(C)に示す画像DU1Bを生成する。垂直方向ゼロ挿入手段U1Cは図10(C)に示す画像DU1Bに対して、垂直方向の1画素につき1個、画素値0をもった画素を挿入し(即ち、画像DU1Bの垂直方向に隣接する画素行相互間に一つの、画素値0の画素から成る画素行を挿入し)、図10(D)に示す画像DU1Cを生成する。垂直方向低周波数成分通過手段U1Dは図10(D)に示す画像DU1Cに対して、ローパスフィルタ処理を施し、図10(E)に示す画像DU1Dを生成する。以上の処理により原画DORGを水平方向、垂直方向とも2倍に拡大した画像DU1Dが生成される。
図11(A)〜(D)は画像拡大手段U1による処理の作用を周波数空間上で表したものであり、図11(A)は原画DORGの周波数スペクトル、図11(B)は画像DU1Aの周波数スペクトル、図11(C)は水平方向周波数成分通過手段U1Bの周波数応答、図11(D)は画像DU1Bの周波数スペクトルを表している。なお、図11(A)〜(D)において横軸は水平方向の空間周波数を表す周波数軸であり、縦軸は周波数スペクトルもしくは周波数応答の強度を表している。なお原画DORGの画素数は入力画像DINの半分となっており、言い換えると原画DORGのサンプリング間隔は入力画像DINのサンプリング間隔の2倍になっている。したがって原画DORGのナイキスト周波数は入力画像DINのナイキスト周波数の半分すなわち、Fn/2となる。
なお、図11(A)〜(D)では表記を簡素にするため、1本の周波数軸しか用いていない。しかしながら、通常、画像データは2次元平面状に並んだ画素配列上に与えられた画素値から成り、その周波数スペクトルも水平方向の周波数軸および垂直方向の周波数軸で張られる平面上に与えられるものである。したがって原画DORG等の周波数スペクトル等を正確に表すためには、水平方向の周波数軸および垂直方向の周波数軸の両方を記載する必要がある。しかしながらその周波数スペクトルの形状は通常、周波数軸上の原点を中心に等方的に広がったものであり、周波数軸1本で張られる空間上での周波数スペクトルを示しさえすれば、そこから周波数軸2本で張られる空間へ拡張して考察することは当業者にとって容易である。したがって以降の説明でも特に断らない限り、周波数空間上での説明は、1本の周波数軸で張られる空間を用いて行う。
まず、原画DORGの周波数スペクトルについて説明する。通常、自然画像が原画DORGとして入力されるがそのスペクトル強度は周波数空間の原点周辺に集中している。したがって原画DORGの周波数スペクトルは図11(A)のように表すスペクトルSPOのようになる。
次に、画像DU1Aのスペクトル強度について説明する。画像DU1Aは、原画DORGに対して、水平方向に1画素につき1画素、画素値0を持った画素を挿入することで生成される。このような処理を行うと周波数スペクトルには原画DORGのナイキスト周波数を中心にした折り返しが発生する。すなわち周波数±Fn/2を中心にスペクトルSPOが折り返したスペクトルSPMが発生するので、画像DU1Aの周波数スペクトルは図11(B)のように表される。
次に、水平方向低周波数成分通過手段U1Bの周波数応答について説明する。水平方向低周波数成分通過手段はローパスフィルタによって実現されるので、その周波数応答は図11(C)に示すように周波数が高くなるほど低くなる。
最後に、画像DU1Bの周波数スペクトルについて説明する。図11(B)に示す周波数スペクトルを持った画像DU1Aに対し、図11(C)に示した周波数応答を持ったローパスフィルタ処理を行うことで、画像DU1Bが得られる。したがって画像DU1Bの周波数スペクトルは画像DU1Bに示すように、スペクトルSPMの強度がある程度落ちたスペクトルSP2と、スペクトルSPOの強度がある程度落ちたスペクトルSP1から成る。なお一般に、ローパスフィルタの周波数応答は周波数が高くなるほど低くなる。従って、スペクトルSP1の強度をスペクトルSPOと比較すると、水平方向低周波数成分通過手段U1Bによって、高周波数成分側、すなわち周波数が±Fn/2近傍でのスペクトル強度が減少したものとなる。
また、画像拡大手段U1による処理のうち、垂直方向ゼロ挿入手段U1Cおよび垂直方向低周波数成分通過手段U1Dによる処理について、その周波数空間上での作用についての説明は省略するが、その処理の内容から、垂直方向の空間周波数を表す軸方向に対して、図11(A)〜(D)を用いて説明した内容と同様の作用があることは容易に理解できる。すなわち、画像DU1Dの周波数スペクトルは、図11(D)に示した周波数スペクトルが2次元上に広がったものとなる。
また、以降の説明ではスペクトルSP2のことを折り返し成分と呼ぶ。この折り返し成分は、画像上では、比較的高い周波数成分を持ったノイズあるいは偽の信号として現れる。そのようなノイズあるいは偽の信号としてオーバーシュートやジャギーあるいはリンギング等が挙げられる。
以下、本発明における画像処理装置の作用、効果について説明する。
図12(A)〜(E)は入力画像DIN(もしくは画像DU1)として原画DORGを拡大して得られた画像DU1Dが入力された場合の、入力画像DINから中間画像D1を生成する際の作用、効果を模式的に表した図であり、図12(A)は入力画像DINの周波数スペクトルを、図12(B)は高周波数成分画像生成手段1Aの周波数応答を、図12(C)は低周波数成分画像生成手段1Bの周波数応答を、図12(D)は第1の中間画像生成手段1の周波数応答を、図12(E)は中間画像D1の周波数スペクトルを表す。なお、図12(A)〜(E)においても図11(A)〜(D)と同様の理由で周波数軸は1本しか用いていない。
さらに図12(A)〜(E)では、空間周波数が0以上となる範囲でのみ周波数スペクトルあるいは周波数応答の強度を表しているが、以下の説明での周波数スペクトルあるいは周波数応答は、周波数軸上の原点を中心に対称的な形状となる。したがって説明に用いる図は、空間周波数が0以上となる範囲のみを示したもので十分である。
まず、入力画像DINの周波数スペクトルについて説明する。画像DU1Dが入力画像DINとして入力されるので、入力画像DINの周波数スペクトルは図12(A)に示すように、周波数スペクトルは図11(D)で説明したものと同じ形状となり、原画DORGのスペクトルSPOの強度がある程度落ちたスペクトルSP1と折り返し成分となるスペクトルSP2から成る。
次に、高周波数成分画像生成手段1Aの周波数応答について説明する。高周波数成分画像生成手段1Aはハイパスフィルタにより構成されているので、その周波数応答は図12(B)に示すように周波数が低くなるほど低くなる。
次に、低周波数成分画像生成手段1Bの周波数応答について説明する。低周波数成分画像生成手段1Bはローパスフィルタにより構成されているので、その周波数応答は図12(C)に示すように周波数が高くなるほど低くなる。
次に、第1の中間画像生成手段1の周波数応答について説明する。入力画像DINが持つ周波数成分のうち、図12(D)に示された低周波数成分側の領域RL1の周波数成分については、第1の中間画像生成手段1内の高周波数成分画像生成手段1Aで弱められる。一方、図12(D)に示された高周波数成分側の領域RH1の周波数成分については、第1の中間画像生成手段1内の低周波数成分画像生成手段1Bで弱められる。したがって、第1の中間画像生成手段1の周波数応答は、図12(D)に示すように、低周波数成分側の領域RL1と高周波数成分側の領域RH1によって帯域を制限された中間の領域RM1にピークを持ったものとなる。
次に、中間画像D1の周波数スペクトルについて説明する。図12(A)に示す周波数スペクトルを持つ入力画像DINが、図12(D)に示した周波数応答を持つ第1の中間画像生成手段1を通過することで、中間画像D1が得られる。そして第1の中間画像生成手段1の周波数応答は、低周波数成分側の領域RL1と高周波数成分側の領域RH1によって帯域制限された中間の領域RM1にピークを持ったものなので、中間画像D1の周波数スペクトルは、入力画像DINの周波数スペクトルのうち、低周波数成分側の領域RL1と高周波数成分側の領域RH1に含まれる部分の強度が弱くなったものとなる。従って中間画像D1は入力画像DINの持つ高周波数成分から折り返し成分となるスペクトルSP2を取り除いたものとなる。すなわち第1の中間画像生成手段1には、入力画像DINのもつ高周波数成分から折り返し成分となるスペクトルSP1を取り除いた中間画像D1を生成するという効果がある。
図13(A)〜(C)は第2の中間画像生成手段2の作用、効果を表した図であり、図13(A)は非線形処理画像D2Aの周波数スペクトルを、図13(B)は高周波数成分画像生成手段2Bの周波数応答を、図13(C)は画像D2Bの周波数スペクトルを表す。なお、図13(A)〜(C)では、図12(A)〜(E)と同様の理由で、空間周波数が0以上となる範囲でのみ周波数スペクトルあるいは周波数応答の強度を表している。
後述するように非線形処理画像D2Aでは、高周波数成分側の領域RH2に相当する高周波数成分が生成される。図13(A)はその様子を模式的に表した図である。画像D2Bは非線形処理画像D2Aが高周波数成分画像生成手段2Bを通過することで生成される。高周波数成分画像生成手段2Bはハイパスフィルタで構成されており、その周波数応答は図13(B)に示すように周波数が高くなるほど高いものとなる。従って画像D2Bの周波数スペクトルは図13(C)に示すように非線形処理画像D2Aの周波数スペクトルから低周波数成分側の領域RL2に相当する成分を取り除いたものとなる。言い換えると、非線形処理手段2Aには高周波数成分側の領域RH2に相当する高周波数成分を生成する効果があり、高周波数成分画像生成手段2Bには非線形処理手段2Aで生成された高周波数成分のみを取り出す効果がある。
上記の作用、効果についてさらに詳しく説明する。
図14(A)〜(C)及び図15(A)〜(C)はステップエッジをサンプリングした際に得られる信号について表した図である。
図14(A)はステップエッジとサンプリング間隔S1を表しており、図14(B)はステップエッジをサンプリング間隔S1でサンプリングした際に得られる信号を表しており、図14(C)は図14(B)に表された信号の高周波数成分を表している。一方、図15(A)はステップエッジとサンプリング間隔S1より間隔の広いサンプリング間隔S2を表しており、図15(B)はステップエッジをサンプリング間隔S2でサンプリングした際に得られる信号を表しており、図15(C)は図15(B)に表された信号の高周波数成分を表している。なお、以下の説明ではサンプリング間隔S2の長さはサンプリング間隔S1の長さの2倍であるとする。
図14(C)及び図15(C)に表されるようにステップエッジの中央は高周波数成分を表した信号においてゼロクロス点Zとして現れる。また、高周波数成分を表した信号のゼロクロス点Zの近傍での傾きは、サンプリング間隔が短いほど急になり、かつゼロクロス点Z近傍での局所的な最大値、最小値を与える点の位置も、サンプリング間隔が短いほどゼロクロス点Zに近づく。
すなわち、サンプリング間隔が変わっても、エッジ近傍において高周波数成分を表す信号のゼロクロス点の位置は変化しないが、サンプリング間隔が小さくなるほど(あるいは解像度が上がるほど)エッジ近傍での高周波数成分の傾きは急になり、局所的な最大値、最小値を与える点の位置はゼロクロス点に近づく。
図16(A)〜(F)はステップエッジをサンプリング間隔S2でサンプリングした信号が2倍に拡大された後、本発明における画像処理装置に入力された際の作用、効果を表す図であり、特に第1の中間画像生成手段1および第2の中間画像生成手段2の作用、効果を表している。なお、先に述べた通り、第1の中間画像生成手段1および第2の中間画像生成手段2内部の処理は水平方向、垂直方向のそれぞれについて行われるのでその処理は一次元的に行われる。したがって図16(A)〜(F)では一次元信号を用いて処理の内容を表している。
図16(A)は、図15(B)と同様ステップエッジをサンプリング間隔S2でサンプリングした信号である。図16(B)は、図16(A)に表した信号を2倍に拡大した信号である。すなわち、原画DORGに図16(A)に示すようなエッジが含まれる場合、入力画像DINとして図16(B)に示すような信号が入力される。なお、信号を2倍に拡大するとサンプリング間隔は拡大前の半分になるため、図16(B)に表した信号のサンプリング間隔は図14(A)〜(C)中のサンプリング間隔S1と同じになる。また、図16(A)において座標P3で表される位置はエッジ信号の低輝度側の境界部分であり、座標P4で表される位置はエッジ信号の高輝度側の境界である。
図16(C)は図16(B)に表した信号の高周波数成分を表した信号、すなわち高周波数成分画像生成手段1Aから出力される画像D1Aに相当する信号である。なお、画像D1Aは、入力画像DINの高周波数成分を取り出したものなので、その中には折り返し成分も含まれている。
図16(D)は図16(C)に表した信号の低周波数成分を表した信号、すなわち低周波数成分画像生成手段1Bから出力される画像D1Bに相当する信号である。なお先に述べたとおり画像D1Bが中間画像D1として出力されるので、図16(D)は中間画像D1にも相当する。図16(D)に示すとおり、中間画像D1においてゼロクロス点Z近傍の局所的な最小値は座標P3に、局所的な最大値は座標P4に現れ、その様子は図15(C)に示した、ステップエッジをサンプリング間隔S2でサンプリングした信号から取り出した高周波数成分と一致する。また、画像D1Aに含まれていた折り返し成分は、低周波数成分画像生成手段1Bで行うローパスフィルタ処理によって取り除かれる。
図16(E)は、図16(D)に表した信号に対する非線形処理手段2Aに入力された際の出力信号、すなわち、中間画像D1が入力された場合に非線形処理手段2Aから出力される画像D2Aを表している。非線形処理手段2Aではゼロクロス点Zの前後の座標P1、P2の信号値が増幅される。したがって、画像D2Aは図16(E)に示すように座標P1、P2での信号値の大きさが他の値に比べ大きくなり、ゼロクロス点Z近傍で、局所的な最小値の現れる位置が座標P3からよりゼロクロス点Zに近い座標P1に、局所的な最大値の現れる位置が座標P4からよりゼロクロス点Zに近い座標P1へと変化する。これは非線形処理手段2Aにおける、ゼロクロス点Z前後の画素の値を増幅するという非線形処理によって、高周波数成分が生成されたことを意味する。このように画素ごとに適応的に増幅率を変える、あるいは画素に応じて処理の内容を適宜変えることで、高周波数成分を生成することが可能になる。すなわち非線形処理手段2Aには、中間画像D1には含まれない高周波数成分、すわなち、図13(A)に示した高周波数成分側の領域RH2に相当する高周波数成分を生成する効果がある。
図16(F)は図16(E)に表した信号の高周波数成分を表した信号、すなわち高周波数成分画像生成手段2Bから出力される画像D2Bに相当する信号である。画像D2Bのより正確な形状については後述するが、図16(F)に示すとおり、画像D2Bにおいてゼロクロス点Z近傍の局所的な最小値は座標P1に、最大値は座標P2に現れ、その様子は図14(C)に示した、ステップエッジをサンプリング間隔S1でサンプリングした信号から取り出した高周波数成分と一致する。これは非線形処理手段2Aにおいて生成された高周波数成分が高周波数成分画像生成手段2Bによって取り出され、画像D2Bとして出力されることを意味する。また、取り出された画像D2Bはサンプリング間隔S1に対応した周波数成分を含む信号であるといえる。言い換えると、高周波数成分画像生成手段2Bには非線形処理手段2Aで生成された高周波数成分のみを取り出す効果がある。
以上が第2の中間画像生成処理手段2の機能であり、まとめると、第2の中間画像生成処理手段2内の非線形処理手段2Aは高周波数成分側の領域RH2に相当する高周波数成分を生成する機能を有し、第2の中間画像生成処理手段2内の高周波数成分画像生成手段2Bは非線形処理手段2Aで生成された高周波数成分のみを取り出す機能を有する。そして画像D2Bが中間画像D2として出力されるので、第2の中間画像生成手段2は、サンプリング間隔S1に対応した高周波数成分を持った中間画像D2を出力することができる。
図17(A)〜(E)、並びに図18(A)及び(B)は中間画像後処理手段3の作用、効果を説明するための図である。図17(A)〜(E)は画像D2Bあるいは中間画像D2のより正確な形状および中間画像後処理手段3の作用について説明するための図であり、図18(A)及び(B)は中間画像後処理手段3の効果について説明するための図である。以下これらの図を用いて中間画像処理手段3の作用、効果の説明を行う。
図17(A)は第2の中間画像生成手段2内にある非線形処理手段2Aから出力される非線形処理画像D2Aを模式的に示した図であり、特にゼロクロス点Z近傍での非線形処理画像D2Aを示している。
図17(B)は図17(A)に示された領域R2付近での非線形処理画像D2Aについて示した図であり、白丸に実線で示されたデータが非線形処理画像D2Aを表しており、「*」印に点線で示されたデータが非線形処理画像D2Aの低周波数成分を表している。
非線形処理画像D2Aの低周波数成分としては、非線形処理画像D2Aの画素値の局所的な加重平均値が計算される。領域R2付近では、画素値のいくらかは正の値をとっているものの大半の画素値はゼロとなっているので、低周波数成分の値はゼロより若干大きな値になる。そして非線形処理画像D2Aの画素値と低周波数成分の値を比較すると低周波数成分の値の方が若干大きくなる。一方、非線形処理画像D2Aにおいて座標P2付近では、座標P2以外に位置する画素の画素値は、座標P2に位置する画素の画素値より小さな値となるため、低周波数成分の値は非線形処理画像D2Aの画素値より小さな値となる。すなわち、領域R2付近と座標P2付近で、非線形処理画像D2Aの画素値と低周波数成分の値の大小関係が入れ替わる結果となる。
図17(C)は図17(A)に示された領域R1付近での非線形処理画像D2Aについて示した図であり、白丸に実線で示されたデータが非線形処理画像D2Aを表しており、「*」印に点線で示されたデータが非線形処理画像D2Aの低周波数成分を表している。
非線形処理画像D2Aの低周波数成分としては、非線形処理画像D2Aの画素値の局所的な加重平均値が計算される。領域R1付近では、画素値のいくらかは負の値をとっているものの大半の画素値はゼロとなっているので、低周波数成分の値はゼロより若干小さな値(絶対値がより大きい、負の値)になる。そして非線形処理画像D2Aの画素値と低周波数成分の値を比較すると低周波数成分の値の方が若干小さくなる。一方、非線形処理画像D2Aにおいて座標P1付近では、座標P1以外に位置する画素の画素値は、座標P1に位置する画素の画素値より大きな値(絶対値がより小さい、負の値)となるため、低周波数成分の値は非線形処理画像D2Aの画素値より大きな値となる。すなわち、領域R1付近と座標P1付近で、非線形処理画像D2Aの画素値と低周波数成分の値の大小関係が入れ替わる結果となる。
図17(D)は第2の中間画像生成手段2内部の高周波数成分画像生成手段2Bから出力される画像D2Bを模式的に表した図である。画像D2Bは、非線形処理画像D2Aの高周波数成分を取り出すことで得られるが、非線形処理画像D2Aから高周波数成分を取り出すためには、非線形処理画像D2Aからその低周波数成分を引けばよい。すなわち、図17(B)、(C)に示した非線形処理画像D2Aと低周波数成分の差が画像D2Bとなる。先に説明したとおり、領域R1付近では非線形処理画像D2Aの方が低周波数成分より大きな値となっており、座標P1付近では低周波数成分の方が非線形処理画像D2Aより大きな値となっており、座標P2付近では非線形処理画像D2Aの方が低周波数成分より大きな値となっており、領域R2付近では低周波数成分の方が非線形処理画像D2Aより大きな値となっているので、領域R1付近、座標P1付近、座標P2付近、領域R2付近の順に画像D2Bの値を見ていくと一度正の値から負の値へと変化し、座標P1で局所的な最小値をとった後、負の値から正の値へと変化する。そして座標P2で局所的な最大値をとった後、正の値から負の値へと変化する。そして画像D2Bが中間画像D2として出力されるので、中間画像D2も同様の変化をする。
一方、同じ箇所での中間画像D1の画素値の変化を見ると負から正へと一回変化するだけである。したがって中間画像D1と中間画像D2を比較すると、領域R1付近と領域R2付近で両者の符号が逆になる。
図17(E)は中間画像後処理手段3から出力される中間画像D3を模式的に表す図である。中間画像後処理手段3内部の符号比較手段3Aでは中間画像D1と中間画像D2の符号を比較し、両者の符号が逆であった場合、画素値変更手段D3Bにおいて該当する中間画像D2の画素値をゼロにすることとしている。一方、符号が同じである場合には、中間画像D2の画素値がそのまま中間画像D3の画素値として出力される。したがって、領域R1付近と領域R2付近における中間画像D1と中間画像D2での画素値の正負の符号の不一致が解消される。その結果、図17(E)に示すように、座標P1、P2における局所的な最小値、最大値を保ったまま、領域R1付近、R2付近における、中間画像D1との正負の符号の不一致を解消した中間画像D3を得ることができる。
また、中間画像D3において、ゼロクロス点Z近傍の局所的な最小値、最大値は座標P1、P2で表される位置にある画素に保たれたままである。これは、第2の中間画像生成手段2で生成された、サンプリング間隔S1に対応した高周波数成分が中間画像D3でも保たれていることを意味する。したがって、中間画像後処理手段3には、第2の中間画像生成手段2で生成された、サンプリング間隔S1に対応した高周波数成分を保ったまま、中間画像D1との正負の符号の不一致を解消できるという効果がある。
図18(A)はエッジ近傍で、中間画像D1と中間画像D2を入力画像DINに加算した場合に得られる画像を模式的に表す図である。先に述べたように中間画像D1と中間画像D2とでは領域R1付近、R2付近で画素値の符号が逆である。
領域R1を例に考えた場合、中間画像D1は負の値をとっているので、入力画像DINの画素値を小さくすることでエッジを強調する効果をもっているが、中間画像D2は正の値をとっているので、中間画像D2を加算してもエッジを強調することは出来ない。また、中間画像D1によって引かれる値の大きさより、中間画像D2によって足される値が大きい場合(中間画像D1の絶対値より、中間画像D2の絶対値が大きい場合)、図18(A)に示す通り、領域R1付近の画素値はその周囲と比較して若干大きな値となってしまう。
領域R2を例に考えた場合、中間画像D1は正の値をとっているので、入力画像DINの画素値を大きくすることでエッジを強調する効果をもっているが、中間画像D2は負の値をとっているので、中間画像D2を加算してもエッジを強調することは出来ない。また、中間画像D1によって足される値の大きさより、中間画像D2によって引かれる値が大きい場合(中間画像D1の絶対値より、中間画像D2の絶対値が大きい場合)、図18(A)に示す通り、領域R2付近の画素値はその周囲と比較して若干小さな値となってしまう。
すなわち、中間画像D1と中間画像D2の画素値の正負の符号の不一致によって、エッジ近傍に不自然な輝度の変化が見られることとなる。通常エッジは画像の水平方向や垂直方向などある方向に沿ってある程度の長さをもつため、この不自然な輝度の変化もエッジと並んである程度の長さを持って現れることとなり、結果的にエッジ近傍に不自然な線あるいは模様が見られることとなる。
図18(B)はエッジ近傍で、中間画像D1と中間画像D3を入力画像DINに加算した場合に得られる画像を模式的に表す図である。先に述べたように中間画像D1と中間画像D3とでは画素値の正負の符号は一致している。したがって入力画像DINに中間画像D1と中間画像D3を加算しても領域R1付近、R2付近に不自然な輝度の変化が現れることなく、エッジを強調することができる。
言い換えると加算手段4において入力画像DINに中間画像D1と中間画像D3を加算することで不自然な輝度の変化を生じることなく画像の強調を行うことが可能となる。
また、先に述べたとおり中間画像D1は入力画像DINの持つ高周波数成分から折り返し成分を取り除いたものであり、図12(E)に示すように原画DORGのナイキスト周波数近傍の高周波数成分に対応している。図11(D)で説明したとおり、原画DORGのナイキスト周波数近傍のスペクトル強度は画像拡大手段U1での拡大処理によって弱められているので、中間画像D1を加算することで、拡大処理によって弱められたスペクトル強度を補うことができる。また、中間画像D1から、折り返し成分は取り除かれているので、オーバーシュートやジャギーあるいはリンギングといった偽の信号を強調することはない。一方、中間画像D3はサンプリング間隔S1に対応した高周波数成分である。したがって画像D3を加算することで原画DORGのナイキスト周波数以上の帯域の高周波数成分を与えることができるので、画像の解像感を増すことができる。したがって、加算手段4において中間画像D1と中間画像D3を入力画像DINに加算することで、折り返し成分を強調することなく高周波数成分を加算することが可能となり、画像の解像感を高めることが可能となる。言い換えると、折り返し成分に起因するオーバーシュートやジャギーあるいはリンギング等の増加を抑えつつ高周波数成分を加算し、画像の解像感を高めることができる。
さらに、本発明における画像処理装置では、第1の中間画像生成手段1および第2の中間画像生成手段2において、画像の水平方向に関する処理、垂直方向に関する処理を並列に行っているので、画像の水平方向のみ、あるいは垂直方向のみに限らず任意の方向に関して上記の効果を得ることができる。
また、本発明における画像処理装置では周波数空間で考えて原点からFnに渡る周波数帯域のうち、原画DORGのナイキスト周波数±Fn/2近傍(あるいは特定の周波数帯域)に入力画像DINが持っている成分をもとに、画像DINのナイキスト周波数±Fn近傍の高周波数成分に対応した画像D2Bを生成している。したがってなんらかの理由で、入力画像DINにおいて、ナイキスト周波数±Fn近傍の周波数成分が失われていたとしても、画像D2Bにより、ナイキスト周波数±Fn近傍の周波数成分を与えることが可能になる。
なお、特定の周波数帯域として用いる箇所は、±Fn/2近傍に限定されるものではない。すなわち高周波数成分画像生成手段1Aおよび低周波数成分画像生成手段1Bの周波数応答を適宜変更することで、利用する周波数帯域を変更することができる。
上記の説明ではナイキスト周波数近傍Fn近傍の周波数成分が失われる例として画像の拡大処理を挙げたが、入力画像DINに対してナイキスト周波数Fn近傍の周波数成分が失われる原因はそれに限らず、他にもノイズ除去処理等が考えられる。したがって本発明における画像処理装置の用途は画像拡大処理後に限定されるものではない。
実施の形態2.
図19は本発明の実施の形態2による画像処理方法のフローを表す図であり、本発明の実施の形態2による画像処理方法は、第1の中間画像生成ステップST1、第2の中間画像生成ステップST2、中間画像後処理ステップST3、及び加算ステップST4により実現される。
第1の中間画像生成ステップST1は、図20に示すように、高周波数成分画像生成ステップST1A、及び低周波数成分画像生成ステップST1Bを含む。
高周波数成分画像生成ステップST1Aは、水平方向高周波数成分画像生成ステップST1Ah、及び垂直方向高周波数成分画像生成ステップST1Avを含み、低周波数成分画像生成ステップST1Bは、水平方向低周波数成分画像生成ステップST1Bh、及び垂直方向高周波巣成分画像ST1Bvを含む。
第2の中間画像生成ステップST2は、図21に示すように、非線形処理ステップST2A、及び高周波数成分画像生成ステップST2Bを含む。
非線形処理ステップST2Aは、水平方向非線形処理ステップST2Ah、及び垂直方向非線形処理ステップST2Avを含み、高周波数成分画像生成ステップST2Bは、水平方向高周波数成分通過ステップST2Bh、及び垂直方向高周波数成分通過ステップST2Bvを含む。
水平方向非線形処理ステップST2Ahは、図22に示すように、ゼロクロス判定ステップST311h、及び信号増幅ステップST312hを含み、垂直方向非線形処理ステップST2Avは、図23に示すように、ゼロクロス判定ステップST311v、及び信号増幅ステップST312vから成る。
中間画像後処理ステップST3は、図24に示すように、符号比較ステップST3A、及び画素値変更ステップST3Bを含む。
符号比較ステップST3Aは、水平方向符号比較ステップST3Ah、及び垂直方向符号比較ステップST3Avを含み、画素値変更ステップST3Bは、水平方向画素値変更ステップST3Bh、及び垂直方向画素値変更ステップST3Bvを含む。
まず、図20のフローに従って第1の中間画像生成ステップST1の動作について説明する。
高周波数成分画像生成ステップST1Aでは、図示しない画像入力ステップにて入力された入力画像DINに対し、以下のような処理が行われる。まず、水平方向高周波数成分画像生成ステップST1Ahでは、水平方向のハイパスフィルタ処理によって、入力画像DINから水平方向の高周波数成分を取り出した画像D1Ahを生成する。垂直方向高周波数成分画像ステップST1Avでは、垂直方向のハイパスフィルタ処理によって、入力画像DINから垂直方向の高周波数成分を取り出した画像D1Avを生成する。すなわち、高周波数成分画像生成ステップST1Aは、高周波数成分画像生成手段1Aと同様の処理を行い、入力画像DINから、画像D1Ahおよび画像D1Avから成る画像D1Aを生成する。この動作は高周波数成分画像生成手段1Aと同等である。
低周波数成分画像生成ステップST1Bでは、画像D1Aに対し、以下のような処理が行われる。まず、水平方向低周波数成分画像生成ステップST1Bhでは、水平方向のローパスフィルタ処理によって、画像D1Ahから水平方向の低周波数成分を取り出した画像D1Bhを生成する。垂直方向低周波数成分画像生成ステップST1Bvでは、垂直方向のローパスフィルタ処理によって、画像D1Avから垂直方向の低周波数成分を取り出した画像D1Bvを生成する。すなわち、低周波数成分画像生成ステップST1Bは、低周波数成分画像生成手段1Bと同様の処理を行い、画像D1Aから、画像D1Bhおよび画像D1Bvから成る画像D1Bを生成する。この動作は低周波数成分画像生成手段1Bと同等である。
以上が第1の中間画像生成ステップST1の動作であり、第1の中間画像生成ステップST1は画像D1Bhを画像D1hとし、画像D1Bvを画像D1vとし、画像D1hおよび画像D1vから成る中間画像D1を出力する。以上の動作は第1の中間画像生成手段1と同等である。
次に図21〜図23のフローに従って第2の中間画像生成ステップST2の動作について説明する。
まず、非線形処理ステップST2Aでは中間画像D1に対し、以下のような処理を行う。
まず、水平方向非線形処理ステップST2Ahでは、図22に示すフローに従った処理で画像D1hから画像D2Ahを生成する。図22に示すフローでの処理は以下の通りである。まず、ゼロクロス判定ステップST311hでは、画像D1hにおける画素値の変化を水平方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、ゼロクロス点の左右に位置する画素を信号増幅ステップST312hに通知する。信号増幅ステップST312hでは画像D1hについて、ゼロクロス点の左右に位置すると通知された画素の画素値を増幅し、その画像を画像D2Ahとして出力する。すなわち、非線形処理ステップST2Ahは、画像D1hに対し、水平方向非線形処理手段2Ahと同様の処理を行い、画像D2Ahを生成する。
次に、垂直方向非線形処理ステップST2Avでは、図23に示すフローに従った処理で画像D1vから画像D2Avを生成する。図23に示すフローでの処理は以下の通りである。まず、ゼロクロス判定ステップST311vでは、画像D1vにおける画素値の変化を垂直方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、ゼロクロス点の上下に位置する画素を信号増幅ステップST312vに通知する。信号増幅ステップST312vでは画像D1vについて、ゼロクロス点の上下に位置すると通知された画素の画素値を増幅し、その画像を画像D2Avとして出力する。すなわち、非線形処理ステップST2Avは、画像D1vに対し、垂直方向非線形処理手段2Avと同様の処理を行い、画像D2Avを生成する。
以上が非線形処理ステップST2Aの動作であり、非線形処理ステップST2Aは画像D2Ahおよび画像D2Avから成る画像D2Aを生成する。その動作は非線形処理手段2Aと同等である。
次に、高周波数成分画像生成ステップST2Bでは画像D2Aに対し、以下の様な処理を行う。
まず、水平方向高周波数成分画像生成ステップST2Bhでは、画像D2Ahに対し水平方向のハイパスフィルタ処理を行った画像D2Bhを生成する。すなわち、水平方向高周波数成分画像生成ステップST2Bhは、水平方向高周波数成分画像生成手段2Bhと同様の処理を行う。
次に、垂直方向高周波数成分画像生成ステップST2Bvでは、画像D2Avに対し垂直方向のハイパスフィルタ処理を行った画像D2Bvを生成する。すなわち、垂直方向高周波数成分画像生成ステップST2Bvは、垂直方向高周波数成分画像生成手段2Bvと同様の処理を行う。
以上が高周波数成分画像生成ステップST2Bの動作であり、高周波数成分画像生成ステップST2Bは画像D2Bhおよび画像D2Bvから成る画像D2Bを生成する。その動作は高周波数成分画像生成手段2Bと同等である。
以上が第2の中間画像生成ステップST2の動作であり、第2の中間画像生成ステップST2は画像D2Bを中間画像D2として出力する。すなわち、画像D2Bhを画像D2hとし、画像D2Bvを画像D2vとした中間画像D2を出力する。この動作は第2の中間画像生成手段2と同等である。
次に図24のフローに従って中間画像後処理ステップST3の動作について説明する。
まず、符号比較ステップST3Aでは、中間画像D1と中間画像D2の各画素値についてその符号を比較する。ここで中間画像D1は画像D1hおよび画像D1vから成り、中間画像D2は画像D2hおよび画像D2vから成り、符号の比較は画像D1hと画像D2hの各画素について行われるとともに、画像D1vと画像D2vの各画素についても行われる。すなわち、画像D1hと画像D2hについては水平方向符号比較ステップST3Ahにおいて各画素の符号の比較が行われ、画像D1vと画像D2vについては垂直方向符号比較ステップST3Avにおいて各画素の符号の比較が行われる。そして比較の結果を示す信号D3Ahおよび信号D3Avが信号D3Aとして出力される。
このように、水平方向符号比較ステップST3Ahは水平方向符号比較手段3Ahと同様の処理を行ない、中間画像D1h及び中間画像D2hから信号D3hを得る。ステップST3Ahの動作の詳細は、水平方向符号比較手段3Ahと同じである。垂直方向符号比較ステップST3Avは垂直方向符号比較手段3Avと同様の処理を行ない、中間画像D1v及び中間画像D2vから信号D3vを得る。ステップST3Avの動作の詳細は、垂直方向符号比較手段3Avと同じである。
画素値変更ステップST3Bでは、符号比較ステップST3Aでの比較結果を示す信号D3Aに基づき中間画像D2の画素値を変更した画像D3Bを生成する。すなわち、画素値変更ステップST3Bは、中間画像D2の各画素値のうち、符号比較ステップST3Aにおいて中間画像D1の各画素値と符号が異なると判定されたものについて、その画素値をゼロとする。一方、符号が一致する場合には、中間画像D2をそのまま出力する。なおこの処理は、画像D2hおよび画像D2vの各々について行われる。すなわち画像D2hについては、水平方向画素値変更ステップST3Bhにおいて、画像D1hと符号が異なる画素の画素値をゼロにした画像D3Bhが生成され、画像D2vについては、垂直方向画素値変更ステップST3Bvにおいて、画像D1vと符号が異なる画素の画素値をゼロにした画像D3Bvが生成される。なお、ステップST3Bhにおいて、符号が一致する場合には、中間画像D2hをそのまま中間画像D3hとして出力する。同様に、ステップST3Bvにおいて、符号が一致する場合には、中間画像D2vをそのまま中間画像D3vとして出力する。そして画素値変更ステップST3Bからは、画像D3Bhおよび画像D3Bvが画像D3Bとして出力される。
そして、画像D3Bが中間画像D3として中間画像後処理ステップST3から出力される。なお、中間画像D3は画像D3Bhに相当する画像D3hと画像D3Bvに相当する画像D3vから成る。
以上が中間画像後処理ステップST3の動作であり、この動作は中間画像後処理手段3と同等である。
加算ステップST4は入力画像DIN、中間画像D1、及び中間画像D3を加算し、出力画像DOUTを生成する。なお、中間画像D1は画像D1hおよび画像D1vから成り、中間画像D3は画像D3hおよび画像D3vから成るので、加算ステップST4では画像D1h、D1v、D3h、及びD3vの全てが入力画像DINに加算される。この際、画像D1h、D1v、D3h、及びD3vを入力画像DINに単純に加算してもよいし、重み付け加算してもよい。そして出力画像DOUTが本発明における画像処理方法の最終出力画像として出力される。以上が加算ステップST4の動作であり、この動作は加算手段4の動作と同等である。
以上が本発明における画像処理方法の動作である。
本発明における画像処理方法の動作はその説明から明らかなように、本発明の実施の形態1における画像処理装置と同等である。したがって本発明における画像処理方法は、本発明の実施の形態1における画像処理装置と同様の効果を持つ。また、上記の画像処理方法で処理された画像を、図8に示す画像表示装置で表示することもできる。
本発明の実施の形態1による画像処理装置の構成を示すブロック図である。 図1の第1の中間画像生成手段1の構成例を示すブロック図である。 図1の第2の中間画像生成手段2の構成例を示すブロック図である。 図1の中間画像後処理手段3の構成例を示すブロック図である。 図3の水平方向非線形処理手段2Ahの構成例を示すブロック図である。 図3の垂直方向非線形処理手段2Avの構成例を示すブロック図である。 (A)〜(D)は、図2の画像D1h、画像D1v、画像D2h、画像D2vを表す図である。 本発明による画像処理装置を用いた画像表示装置の構成例を示すブロック図である。 図9の画像拡大手段U1の構成例を示すブロック図である。 (A)〜(E)は、図9の画像拡大手段U1の動作を示す画素配置図である。 (A)〜(D)は、図9の画像拡大手段U1の動作を示す周波数応答図及び周波数スペクトル図である。 (A)〜(E)は、図1の第1の中間画像生成手段1の動作を示す周波数応答図及び周波数スペクトル図である。 (A)〜(C)は、図1の第2の中間画像生成手段2の動作を示す周波数応答図及び周波数スペクトル図である。 (A)〜(C)は、ステップエッジとステップエッジをサンプリング間隔S1でサンプリングしたときに得られる、相連続する画素の信号の値を示す図である。 (A)〜(C)は、ステップエッジとステップエッジをサンプリング間隔S2でサンプリングしたときに得られる、相連続する画素の信号の値を示す図である。 (A)〜(F)は、図1の第1の中間画像生成手段1および第2の中間画像生成手段2の動作を示す、相連続する画素の信号の値を示す図である。 (A)〜(E)は、中間画像D2のより正確な形状および中間画像後処理手段3の作用を表す図である。 (A)及び(B)は、中間画像後処理手段3の効果を表す図である。 本発明の実施の形態2による画像処理方法を示すフロー図である。 図19の第1の中間画像生成ステップST1における処理を示すフロー図である。 図19の第2の中間画像生成ステップST2における処理を示すフロー図である。 図21の水平方向非線形処理ステップST2Ahにおける処理を示すフロー図である。 図21の垂直方向非線形処理ステップST2Avにおける処理を示すフロー図である。 図19の中間画像後処理ステップST3における処理を示すフロー図である。
符号の説明
1 第1の中間画像生成手段、 2 第2の中間画像生成手段、 3 中間画像後処理手段、 4 加算手段、 DIN 入力画像、 D1 第1の中間画像、 D2 第2の中間画像、 D3 第3の中間画像、 DOUT 出力画像。

Claims (12)

  1. 入力画像の特定の周波数帯域近傍の成分を取り出した第1の中間画像を生成する第1の中間画像生成手段と、
    前記第1の中間画像をもとに第2の中間画像を生成する第2の中間画像生成手段と、
    前記第1の中間画像と前記第2の中間画像をもとに第3の中間画像を生成する中間画像後処理手段と、
    前記入力画像と前記第1の中間画像と前記第3の中間画像を加算する加算手段と
    を有する画像処理装置において、
    前記中間画像後処理手段は、
    前記第1の中間画像と前記第2の中間画像の画素値の符号を比較する符号比較手段と、
    前記符号比較手段における比較の結果に基づき前記第2の中間画像の画素値を変化させる画素値変更手段とを有する
    ことを特徴とする画像処理装置。
  2. 前記画素値変更手段は、
    前記符号比較手段で前記第1の中間画像の画素値の符号と前記第2の中間画像の画素値の符号が異なると判断された場合、
    前記第2の中間画像の画素値をゼロとした処理画像を出力し、
    前記中間画像後処理手段は、
    前記処理画像を前記第3の中間画像として出力することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第1の中間画像生成手段は、
    前記入力画像の高周波数成分のみを取り出した第1の高周波数成分画像を生成する第1の高周波数成分画像生成手段と、
    前記第1の高周波数成分画像の低周波数成分のみを取り出す低周波数成分画像生成手段とを有する
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記第1の高周波数成分画像生成手段は、
    前記入力画像の各画素の水平方向近傍に存在する画素を用いて高周波数成分を取り出した第1の水平方向高周波数成分画像を生成する第1の水平方向高周波数成分画像生成手段と、
    前記入力画像の各画素の垂直方向近傍に存在する画素を用いて高周波数成分を取り出した第1の垂直方向高周波数成分画像を生成する第1の垂直方向高周波数成分画像生成手段とを有し、
    前記低周波数成分画像生成手段は、
    前記第1の水平方向高周波数成分画像の低周波数成分のみを取り出した第1の水平方向中間画像を生成する水平方向低周波数成分画像生成手段と、
    前記第1の垂直方向高周波数成分画像の低周波数成分のみを取り出した第1の垂直方向中間画像を生成する垂直方向低周波数成分画像生成手段とを有する
    ことを特徴とする請求項3に記載の画像処理装置。
  5. 前記第2の中間画像生成手段は、
    前記第1の中間画像の画素値を画素に応じて変化させた増幅率で増幅させた非線形処理画像を生成する非線形処理手段を有する
    ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記第2の中間画像生成手段は、
    前記非線形処理画像の高周波数成分のみを取り出した第2の高周波数成分画像を生成する第2の高周波数成分画像生成手段をさらに有する
    ことを特徴とする請求項5に記載の画像処理装置。
  7. 前記第1の中間画像が、
    前記第1の水平方向中間画像および前記第1の垂直方向中間画像から成り、
    前記非線形処理手段は、
    前記第1の水平方向中間画像の各画素値を画素に応じて変化させた増幅率で増幅した水平方向非線形処理画像を生成する水平方向非線形処理手段と、
    前記第1の垂直方向中間画像の各画素値を画素に応じて変化させた増幅率で増幅した垂直方向非線形処理画像を生成する垂直方向非線形処理手段とを有し、
    前記第2の高周波数成分画像生成手段は、
    前記水平方向非線形処理画像の高周波数成分のみを取り出した画像を第2の水平方向中間画像として生成する第2の水平方向高周波数成分画像生成手段と、
    前記垂直方向非線形処理画像の高周波数成分のみを取り出した画像を第2の垂直方向中間画像として生成する第2の垂直方向高周波数成分画像生成手段とを有し、
    前記第2の中間画像が、前記第2の水平方向中間画像と前記第2の垂直方向中間画像から成る
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記水平方向非線形処理手段は、
    前記第1の水平方向中間画像の画素値が正から負もしくは負から正へと変化する箇所をゼロクロス点として判定する水平方向ゼロクロス点判定手段と、
    前記水平方向ゼロクロス点判定手段の判定結果に応じて前記第1の水平方向中間画像の各画素に対する増幅率を決定する水平方向信号増幅手段とを有し、
    前記垂直方向非線形処理手段は、
    前記第1の垂直方向中間画像の画素値が正から負もしくは負から正へと変化する箇所をゼロクロス点として判定する垂直方向ゼロクロス点判定手段と、
    前記垂直方向ゼロクロス点判定手段の判定結果に応じて前記第1の垂直方向中間画像の各画素に対する増幅率を決定する垂直方向信号増幅手段とを有する
    ことを特徴とする請求項7に記載の画像処理装置。
  9. 前記符号比較手段は、
    前記第1の水平方向中間画像の画素値の符号と前記第2の水平方向中間画像の画素値の符号を比較する水平方向符号比較手段と、
    前記第1の垂直方向中間画像の画素値の符号と前記第2の垂直方向中間画像の画素値の符号を比較する垂直方向符号比較手段とを有し、
    前記画素値変更手段は、
    前記第2の水平方向中間画像の画素値を変更する水平方向画素値変更手段と
    前記第2の垂直方向中間画像の画素値を変更する垂直方向画素値変更手段とを有し、
    前記水平方向画素値変更手段は、
    前記水平方向符号比較手段において、前記第1の水平方向中間画像の画素値の符号と前記第2の水平方向中間画像の画素値の符号が異なると判断された場合、前記第2の水平方向中間画像の画素値をゼロとした第3の水平方向中間画像を生成し、
    前記垂直方向画素値変更手段は、
    前記垂直方向符号比較手段において、前記第1の垂直方向中間画像の画素値の符号と前記第2の垂直方向中間画像の画素値の符号が異なると判断された場合、前記第2の垂直方向中間画像の画素値をゼロとした第3の水平方向中間画像を生成し、
    前記第3の中間画像は、
    前記第3の水平方向中間画像および前記第3の垂直方向中間画像から成る
    ことを特徴とする請求項8に記載の画像処理装置。
  10. 請求項1乃至9のいずれかに記載の画像処理装置を備えたことを特徴とする画像表示装置。
  11. 入力画像の特定の周波数帯域近傍の成分を取り出した第1の中間画像を生成する第1の中間画像生成ステップと、
    前記第1の中間画像をもとに第2の中間画像を生成する第2の中間画像生成ステップと、
    前記第1の中間画像と前記第2の中間画像をもとに第3の中間画像を生成する中間画像後処理ステップと、
    前記入力画像と前記第1の中間画像と前記第3の中間画像を加算する加算ステップを有する画像処理方法において、
    前記中間画像後処理ステップは、
    前記第1の中間画像と前記第2の中間画像の画素値の符号を比較する符号比較ステップと、
    前記符号比較ステップにおける比較の結果に基づき前記第2の中間画像の画素値を変化させる画素値変更ステップとを有する
    ことを特徴とする画像処理方法。
  12. 請求項11記載の画像処理方法により処理された画像を表示することを特徴とする画像表示装置。
JP2008271123A 2008-07-30 2008-10-21 画像処理装置及び方法並びに画像表示装置 Active JP4958876B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008271123A JP4958876B2 (ja) 2008-10-21 2008-10-21 画像処理装置及び方法並びに画像表示装置
PCT/JP2009/003330 WO2010013401A1 (ja) 2008-07-30 2009-07-15 画像処理装置及び方法、並びに画像表示装置
CN200980130164.3A CN102113307B (zh) 2008-07-30 2009-07-15 图像处理装置、方法以及图像显示装置
EP09802651.1A EP2320637B1 (en) 2008-07-30 2009-07-15 Image processing device and method, and image display device
US13/056,540 US8498499B2 (en) 2008-07-30 2009-07-15 Image processing apparatus and method and image display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008271123A JP4958876B2 (ja) 2008-10-21 2008-10-21 画像処理装置及び方法並びに画像表示装置

Publications (2)

Publication Number Publication Date
JP2010102397A JP2010102397A (ja) 2010-05-06
JP4958876B2 true JP4958876B2 (ja) 2012-06-20

Family

ID=42293018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008271123A Active JP4958876B2 (ja) 2008-07-30 2008-10-21 画像処理装置及び方法並びに画像表示装置

Country Status (1)

Country Link
JP (1) JP4958876B2 (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583602A (ja) * 1991-09-24 1993-04-02 Toshiba Corp Museデコーダの雑音低減回路
JPH05344386A (ja) * 1992-06-09 1993-12-24 Matsushita Electric Ind Co Ltd 画像輪郭強調器
JPH07177386A (ja) * 1993-12-21 1995-07-14 Matsushita Electric Ind Co Ltd 画像輪郭強調装置
JPH07274035A (ja) * 1994-03-25 1995-10-20 Sony Corp 映像信号処理装置
JP3310117B2 (ja) * 1994-09-29 2002-07-29 株式会社東芝 テレビジョン信号処理装置
JPH0946554A (ja) * 1995-07-31 1997-02-14 Sony Corp 撮像装置
JPH09224186A (ja) * 1995-12-12 1997-08-26 Sony Corp ビデオカメラおよび輪郭補正装置
US6804393B2 (en) * 2001-01-02 2004-10-12 Eastman Kodak Company Method of calculating noise from a digital image utilizing color cross correlation statistics
JP2003304506A (ja) * 2002-04-10 2003-10-24 Matsushita Electric Ind Co Ltd 映像信号処理装置
TWI255138B (en) * 2005-03-08 2006-05-11 Novatek Microelectronics Corp Method and apparatus for noise reduction of video signals
JP4857699B2 (ja) * 2005-10-05 2012-01-18 カシオ計算機株式会社 フィルタ装置

Also Published As

Publication number Publication date
JP2010102397A (ja) 2010-05-06

Similar Documents

Publication Publication Date Title
JP4767345B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP4994400B2 (ja) 画像処理装置及び方法並びに画像表示装置
WO2010013401A1 (ja) 画像処理装置及び方法、並びに画像表示装置
JP4994355B2 (ja) 画像処理装置及び方法並びに画像表示装置
WO2010073485A1 (ja) 画像処理装置及び方法並びに画像表示装置
JP5300656B2 (ja) 画像処理装置及び方法、並びに画像表示装置
JP4958876B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP4610642B2 (ja) 画像処理装置及び方法、並びに画像表示装置
JP5247628B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5247633B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP4994409B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP4994353B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP5349204B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5471175B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP4994354B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP5197447B2 (ja) 画像処理装置及び撮像装置
JP5383385B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP4912418B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP5225144B2 (ja) 画像処理装置及び方法、並びに画像表示装置
JP6242431B2 (ja) 画像処理装置及び方法、並びに画像表示装置
JP2011049856A (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5984480B2 (ja) 画像処理装置及び方法、並びに画像表示装置
JP2011045015A (ja) 画像処理装置及び方法、並びに画像表示装置
JP2010220063A (ja) 画像処理装置及び方法並びに画像表示装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120221

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120319

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4958876

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250