JP3829985B2 - 画像処理装置および方法、記録媒体、並びにプログラム - Google Patents
画像処理装置および方法、記録媒体、並びにプログラム Download PDFInfo
- Publication number
- JP3829985B2 JP3829985B2 JP2002318276A JP2002318276A JP3829985B2 JP 3829985 B2 JP3829985 B2 JP 3829985B2 JP 2002318276 A JP2002318276 A JP 2002318276A JP 2002318276 A JP2002318276 A JP 2002318276A JP 3829985 B2 JP3829985 B2 JP 3829985B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- edge
- interpolation
- energy
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 299
- 230000008569 process Effects 0.000 claims description 275
- 238000004364 calculation method Methods 0.000 claims description 85
- 238000001514 detection method Methods 0.000 claims description 78
- 230000015572 biosynthetic process Effects 0.000 claims description 44
- 238000003786 synthesis reaction Methods 0.000 claims description 44
- 230000002194 synthesizing effect Effects 0.000 claims description 24
- 238000001914 filtration Methods 0.000 claims description 23
- 230000002708 enhancing effect Effects 0.000 claims description 15
- 238000003672 processing method Methods 0.000 claims description 9
- 230000000750 progressive effect Effects 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 2
- 238000009826 distribution Methods 0.000 abstract description 49
- 239000000872 buffer Substances 0.000 description 139
- 238000010586 diagram Methods 0.000 description 48
- 230000000875 corresponding effect Effects 0.000 description 32
- 230000006870 function Effects 0.000 description 17
- 230000014509 gene expression Effects 0.000 description 16
- 238000003708 edge detection Methods 0.000 description 13
- 230000008859 change Effects 0.000 description 7
- 239000000284 extract Substances 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000009467 reduction Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000001965 increasing effect Effects 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000008719 thickening Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Television Systems (AREA)
- Picture Signal Circuits (AREA)
- Studio Circuits (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理装置および方法、並びに記録媒体に関し、特に、静止画および動画像など様々なソースに適用でき、そして人間の視覚系にアピールする方法で鮮明で自然なエッジとテクスチャを再描画し、高画質な高解像度画像を得ることができるようにした画像処理装置および方法、並びに記録媒体に関する。
【0002】
【従来の技術】
デジタル画像に基づく機器(デジタルカメラやカメラ一体型ビデオテープレコーダなど)の使用機会が多くなるにつれ、いわゆるデジタルズーム処理の必要性が高まってきた。それに伴い、デジタル画像の解像度を上げるための様々な方法が開発されてきた。従来の主な手法として、以下の3つの手法が存在する。第1の手法は、最近隣画素をそのまま用いた補間方法(0次補間(zero-order-hold interpolation))であり、特にハードウェアの観点からみて簡単な補間法である。第2の手法は、最近隣2画素の平均値を計算し、垂直方向と水平方向に新しい画素を挿入する双線形補間方法(bilinear interpolation)であり、隣接画素の補間にはかなり良い手法だと考えられている。第3の手法は、ノイズにも強く、モザイクパターンが出現しない、B-スプライン(B-spline)補間法である。
【0003】
また、エッジを強調できるようにして、インタレース画面をプログレッシブ画面に変換するものがある(例えば、特許文献1参照)。
【0004】
【特許文献1】
特開2002−215121号公報
【0005】
【発明が解決しようとする課題】
しかしながら、第1の方法は、特に高倍率で効果が少なく、拡大された画像には、有名な「モザイクパターン」というノイズが出てしまう。そして、エッジが大幅に破壊され、非常に目障りなジャギーが出現してしまう。第2の方法は、画像全体がぼやけてしまうという欠点があり、画像の解像度は改善されない。加えて、高倍率の際にモザイク現象がたくさん出てしまう。第3の方法は、画像はかなりぼやけてしまい、それにもかかわらず相対的に見るとハードウェアは複雑になってしまう。
【0006】
また、上述の課題を解決すべく、特願2001−201729にて注目画素に隣接する上下のライン上、または、左右の列に存在する画素のうち、注目画素を通る対角線上のいずれかの方向に跨る画素から注目画素を補間することにより、画像中のエッジを強調できるように画像を拡大するものが提案されている。しかしながら、画素を補間するにあたり、補間画素とその上下、または、左右に隣接する画素との相関を求めて、その相関性が認められないときは、上下、または、左右の画素間で線形補完するようにしていたため、必ずしも正しい補間画素を生成することができず、例えば、注目画素に対して斜方向に隣接する画素間で補間すべき画素を使用できないことがあり、結果として、鮮明な拡大画像を生成することができないと言う課題があった。
【0007】
本発明は、このような状況に鑑みてなされたものであり、少ない計算処理量で、効果的かつ簡単に、コンピュータグラフィックスから写真までの範囲に及ぶ様々なタイプの静止画および動画像の解像度の変更にあたり発生する画像のエラーを抑制することができるようにするものである。
【0008】
【課題を解決するための手段】
本発明の第1の画像処理装置は、注目画素位置の中心画素エネルギを計算するエネルギ計算手段と、エネルギ計算手段により計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調手段と、エッジ強調手段により強調されたエッジの方向を検出するエッジ方向検出手段と、線形補間により注目画素位置の線形補間画素を補間する線形補間手段と、エッジ方向検出手段により検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間手段と、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間手段と、エネルギ計算手段により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とを比較する第1の比較手段と、エネルギ計算手段により計算された中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調手段とを備え、第1の比較手段の第1の比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、テクスチャ強調手段は、所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調することを特徴とする。
【0009】
前記エネルギ計算手段には、原画像の所定の画素の水平方向、または、垂直方向の中心画素エネルギを、画素の近傍に存在する近傍画素の画素値より計算させるようにすることができる。
【0010】
前記エネルギ計算手段により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とを比較する第1の比較手段と、エネルギ計算手段により計算された中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調手段とをさらに設けるようにさせることができ、第1の比較手段の第1の比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、テクスチャ強調手段には、所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調させるようにすることができる。
【0011】
前記フィルタ処理は、所定のフィルタの係数を、対応する画素に乗算し、その積を加算する1次元フィルタ処理とするようにすることができる。
【0012】
前記所定のフィルタの係数は、中心画素エネルギに対応する値とするようにすることができる。
【0013】
前記フィルタ処理は、原画像の垂直方向と水平方向のそれぞれの方向について行う処理とするようにすることができる。
前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、合成補間手段には、プログレッシブ画像の前記合成補間画素を補間させるようにすることができる。
本発明の第1の画像処理方法は、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップと、エネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とを比較する比較ステップと、エネルギ計算ステップの処理により計算された中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調ステップとを含み、比較ステップの処理での比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、テクスチャ強調ステップは、所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調することを特徴とする。
本発明の第 1 の記録媒体のプログラムは、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップと、エネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とを比較する比較ステップと、エネルギ計算ステップの処理により計算された中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調ステップとを含み、比較ステップの処理の比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、テクスチャ強調ステップの処理は、所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調することを特徴とする。
本発明の第1のプログラムは、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップとエネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とを比較する比較ステップと、エネルギ計算ステップの処理により計算された中心画素エネルギに基づいて、テクスチャを強調するテク スチャ強調ステップとを含む処理をコンピュータに実行させ、比較ステップの処理の比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、テクスチャ強調ステップの処理は、所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調することを特徴とする。
【0014】
本発明の第2の画像処理装置は、注目画素位置の中心画素エネルギを計算するエネルギ計算手段と、エネルギ計算手段により計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調手段と、エッジ強調手段により強調されたエッジの方向を検出するエッジ方向検出手段と、線形補間により注目画素位置の線形補間画素を補間する線形補間手段と、エッジ方向検出手段により検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間手段と、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間手段と、エネルギ計算手段により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、中心画素エネルギと、最小値よりも大きく最大値よりも小さい所定の閾値、および、最大値とを比較する第1の比較手段とを備え、第1の比較手段の第1の比較結果により、中心画素エネルギが、閾値以上で、かつ、最大値未満の場合、エッジ強調手段は、所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調することを特徴とする。
前記エネルギ計算手段は、前記原画像の所定の画素の水平方向、または、垂直方向の中心画素エネルギを、前記画素の近傍に存在する近傍画素の画素値より計算する。
【0015】
前記フィルタ処理は、所定のフィルタの係数を、対応する画素に乗算し、その積を加算する1次元フィルタ処理とするようにすることができる。
【0016】
前記所定のフィルタの係数は、中心画素エネルギに対応する値とするようにすることができる。
【0017】
前記フィルタ処理は、原画像の垂直方向と水平方向のそれぞれの方向について行う処理とするようにすることができる。
【0018】
前記フィルタ処理が施された画素の画素値と、最大値、および、最小値を比較する第2の比較手段を設けるようにさせることができ、クリッピング処理は、第2の比較手段の第2の比較結果に対応して、フィルタ処理が施された画素の画素値が、最大値よりも大きい場合、フィルタ処理された画素の画素値を最大値に置換する処理とするようにすることができ、フィルタ処理された画素の画素値が、最小値よりも小さい場合、フィルタ処理された画素の画素値を最小値に置換する処理とするようにすることができる。
【0020】
前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、合成補間手段には、プログレッシブ画像の前記合成補間画素を補間させるようにすることができる。
【0021】
本発明の第2の画像処理方法は、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップと、エネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値よりも大きく最大値よりも小さい所定の閾値、および、最大値とを比較する第1の比較ステップとを含み、第1の比較ステップの処理での第1の比較結果により、中心画素エネルギが、閾値以上で、かつ、最大値未満の場合、エッジ強調ステップの処理は、所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調することを特徴とする。
【0022】
本発明の第2の記録媒体のプログラムは、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップと、エネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値よりも大きく最大値よりも小さい所定の閾値、および、最大値とを比較する第1の比較ステップとを含む処理をコンピュータに実行させ、第1の比較ステップの処理での第1の比較結果により、中心画素エネルギが、閾値以上で、かつ、最大値未満の場合、エッジ強調ステップの処理は、所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調することを特徴とする。
【0023】
本発明の第2のプログラムは、注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、エネルギ計算ステップの処理で計算された中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、エッジ強調ステップの処理で強調されたエッジの方向を検出するエッジ方向検出ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップと、エネルギ計算ステップの処理により使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、中心画素エネルギと、最小値よりも大きく最大値よりも小さい所定の閾値、および、最大値とを比較する第1の比較ステップとを含む処理をコンピュータに実行させ、第1の比較ステップの処理での第1の比較結果により、中心画素エネルギが、閾値以上で、かつ、最大値未満の場合、エッジ強調ステップの処理は、所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調することを特徴とする。
【0024】
本発明の第3の画像処理装置は、注目画素位置のエッジの方向を検出する方向検出手段と、方向検出手段により検出されたエッジの方向に基づいて、注目画素位置にエッジ方向補間画素を補間するエッジ方向補間手段と、エッジ方向補間手段により補間されたエッジ方向補間画素の信頼度を検出する信頼度検出手段と、信頼度検出手段により検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択手段と、線形補間により注目画素位置の線形補間画素を補間する線形補間手段と、方向選択手段により選択されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間手段と、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間手段とを備え、方向選択手段は、エッジの方向毎の注目画素とエッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示すエッジの方向のグループの中から最も信頼性の高い方向を選択することを特徴とする。
【0025】
前記エッジ方向補間手段により補間されたエッジ方向補間画素の局所的構造の整合性を判定する整合性判定手段をさらに設けるようにさせることができ、信頼度検出手段には、整合性判定手段の判定結果に基づいて、エッジ方向補間手段により補間されたエッジ方向補間画素の信頼度を検出させるようにすることができる。
【0027】
方向選択手段により選択された最も信頼度の高い方向の信頼度に基づいて、方向選択補間画素の重みを設定する重み設定手段をさらに設けるようにさせることができ、合成補間手段には、重み設定手段により設定された重みに対応する係数を用いて、線形補間画素と選択補間画素の線形和をとることにより合成して合成補間画素を補間させるようにすることができる。
【0028】
前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、合成補間手段には、プログレッシブ画像の前記合成補間画素を補間させるようにすることができる。
【0029】
本発明の第3の画像処理方法は、注目画素位置のエッジの方向を検出する方向検出ステップと、方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、方向選択ステップの処理で選択されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含み、方向選択ステップの処理は、エッジの方向毎の注目画素とエッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示すエッジの方向のグループの中から最も信頼性の高い方向を選択することを特徴とする。
【0030】
本発明の第3の記録媒体のプログラムは、注目画素位置のエッジの方向を検出する方向検出ステップと、方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、方向選択ステップの処理で選択されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含み、方向選択ステップの処理は、エッジの方向毎の注目画素とエッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示すエッジの方向のグループの中から最も信頼性の高い方向を選択することを特徴とする。
【0031】
本発明の第3のプログラムは、注目画素位置のエッジの方向を検出する方向検出ステップと、方向検出ステップの処理で検出されたエッジの方向に基づいて、注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、線形補間により注目画素位置の線形補間画素を補間する線形補間ステップと、方向選択ステップの処理で選択されたエッジの方向に基づいて、注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、線形補間画素と選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含む処理をコンピュータに実行させ、方向選択ステップの処理は、エッジの方向毎の注目画素とエッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示すエッジの方向のグループの中から最も信頼性の高い方向を選択することを特徴とする。
【0032】
本発明の第1の画像処理装置および方法、並びにプログラムにおいては、注目画素位置の中心画素エネルギが計算され、計算された中心画素エネルギに基づいて、エッジが強調され、強調されたエッジの方向が検出され、線形補間により注目画素位置の線形補間画素が補間され、検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素が補間され、線形補間画素と選択補間画素が合成されて合成画素が補間され、使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値が検出され、中心画素エネルギと、最小値、および、最小値よりも大きく最大値よりも小さい所定の閾値とが比較され、計算された中心画素エネルギに基づいて、テクスチャが強調され、比較結果により、中心画素エネルギが、最小値以上で、かつ、閾値未満の場合、所定の画素がテクスチャ領域に属するものとみなされ、フィルタ処理が施されことによりテクスチャが強調される。
本発明の第2の画像処理装置および方法、並びにプログラムにおいては、注目画素位置の中心画素エネルギが計算され、計算された中心画素エネルギに基づいて、エッジが強調され、強調されたエッジの方向が検出され、線形補間により注目画素位置の線形補間画素が補間され、検出されたエッジの方向に基づいて、注目画素位置の選択方向補間画素が補間され、線形補間画素と選択補間画素が合成されて合成画素が補間され、使用された近傍画素のうち、所定の画素を中心として、垂直方向、または、水平方向に配列された近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、中心画素エネルギと、最小値よりも大きく最大値よりも小さい所定の閾値、および、最大値とが比較され、比較結果により、中心画素エネルギが、閾値以上で、かつ、最大値未満の場合、所定の画素がエッジ領域に属するものとみなされ、フィルタ処理が施され、さらに、クリッピング処理が施されることによりエッジが強調される。
【0033】
本発明の第3の画像処理装置および方法、並びにプログラムにおいては、注目画素位置のエッジの方向が検出され、検出されたエッジの方向に基づいて、注目画素位置にエッジ方向補間画素が補間され、補間されたエッジ方向補間画素の信頼度が検出され、検出された信頼度のうち、最も信頼度の高いエッジの方向が選択され、線形補間により注目画素位置の線形補間画素が補間され、選択されたエッジの方向に基づいて、注目画素位置の選択方向補間画素が補間され、線形補間画素と選択補間画素が合成されて合成補間画素が補間され、エッジの方向毎の注目画素とエッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかが判断され、信頼性の傾向を示すエッジの方向のグループの中から最も信頼性の高い方向が選択される。
【0034】
【発明の実施の形態】
図1は、本発明を適用した画像処理装置の構成例を表している。この画像処理装置2においては、画像入力部1が処理対象とされる画像データを、記録媒体から読み取ったり、ネットワークを介して伝送されてくるものを受信して入力し、画像処理部2に出力している。画像処理部2は、画像入力部1より入力された画像の解像度を変更し(拡大または縮小し)、画像出力部3に出力している。画像出力部3は、画像処理部2より供給された画像データを表示部に表示させたり、記録媒体に記録するか、あるいは、伝送媒体を介して、他の装置に伝送する。
【0035】
画像処理部2には、エッジコネクタ処理部11が設けられている。このエッジコネクタ処理部11は、画像のエッジを太くする処理を実行する。すなわち、小さいサイズの画像は、低解像度であり、信頼できる情報が少ないため、拡大するのが困難である。エッジが1画素と同じくらい細い(薄い)と、後述する高速垂直アップサンプリング処理部12,垂直アップサンプリング処理部13,高速水平アップサンプリング処理部14、または、水平アップサンプリング処理部15におけるエッジ検出が困難になり、エッジ方向に沿った補間処理を正確に行うことが困難になる。そこで原画像に前処理を行い、エッジを検出し易くする。この画像情報を破壊しない前処理は、例えばコンピュータのアイコンやワードプロセッサのフォントなどの弱接続(loose connection)を持つ画像に対して行われる。
【0036】
高速垂直アップサンプリング処理部12と垂直アップサンプリング処理部13は、それぞれ原画像の解像度を垂直方向にZ倍する処理を行う。高速垂直アップサンプリング処理部12は、Zの値が1より大きく2より小さい場合の処理を行い、垂直アップサンプリング処理部13は、Zの値が2である場合の処理を行う。
【0037】
高速水平アップサンプリング処理部14と水平アップサンプリング処理部15は、それぞれ原画像の解像度を水平方向にZ倍する処理を行う。高速水平アップサンプリング処理部14は、Zの値が1より大きく2より小さい場合の処理を行い、水平アップサンプリング処理部15は、Zの値が2である場合の処理を行う。
【0038】
線形縮小処理部16は、原画像の解像度を縮小する((Z<1)倍する)処理を行う。
【0039】
1次元垂直イメージリフレッシュ処理部17と1次元垂直イメージリフレッシュ処理部18は、バッファ17a,18aを適宜利用しながら、それぞれ垂直方向または水平方向に画像データを1次元のフィルタで処理し、エッジとテクスチャを視覚的に違和感なく強調する。すなわち、記録媒体に画像データが記録される場合、記録媒体の物理的な影響により高域成分が抑制されて、画像中のエッジ部分とテクスチャ部分がぼけてしまうといった現象が生じることがあるので、1次元垂直イメージリフレッシュ処理部17と1次元垂直イメージリフレッシュ処理部18は、各画素の中心画素エネルギを求めて、対応するフィルタ処理を行うと共に、中心画素エネルギの値からその画素がエッジ、または、テクスチャのいずれに属しているかを判別し、エッジの場合については、さらに、フィルタ処理により生じてしまう歪みを抑制するため、クリッピング処理を施す。
【0040】
また、1次元垂直イメージリフレッシュ処理部17と1次元垂直イメージリフレッシュ処理部18で使用するフィルタは、各々2種類のフィルタが用意されており、必要に応じてユーザが任意に設定することができる。この2種類のフィルタのうち一方のフィルタは、周波数領域の特性を綿密に制御できるという特性があり、他方のフィルタは、前者のフィルタと比較すると周波数領域の特性を綿密に制御することができないが、処理量を軽減することができるというものである。これらのフィルタは、構成するフィルタの要素が異なると言う他は同様であり、その処理も同様である。以下の説明においては、前者のフィルタをAタイプ、後者のフィルタをBタイプと称するものとする。
【0041】
次に、図2のブロック図を参照して、エッジコネクタ11の詳細な構成について説明する。エッジ接続部101は、検出されたエッジの情報を対角エネルギ算出部102に出力し、算出された左右の対角エネルギに基づいて、エッジを太くして接続する。
【0042】
次に、図3のブロック図を参照して、高速垂直アップサンプリング処理部12の構成について説明する。高速垂直アップサンプラ111は、垂直方向補間部112に対して補間画素を生成させて、垂直方向に拡大した画像を生成し、出力する。
【0043】
次に、図4のブロック図を参照して、図3の垂直方向補間部112の構成について説明する。
【0044】
帯域制限部121は、例えば、LPF(Low Pass Filter)などから構成され、入力された画像の各画素の画素値を平滑化して、帯域を制限して方向判別部123、および、エッジ検出部122に出力する。
【0045】
エッジ検出部122は、帯域制限された画像信号から局所エネルギを算出してその値によりエッジ有無を検出し、斜重み付け部129に出力する。
【0046】
方向判別部123は、エッジの方向を判別し、判別したエッジの方向の情報を信頼度格付部124、および、方向性分布生成部125に出力すると共に、画素情報をも方向補間部131に出力する。信頼度格付部124は、入力された画像の情報と、方向判別部123から入力されるエッジの方向の情報に基づいて、エッジの方向の情報の信頼度を求め、方向性分布生成部125に出力する。方向性補間部131は、方向判別部123からの情報に基づいて、その方向に存在する画素値を用いて画素を補間する。
【0047】
方向性分布生成部125は、方向判別部123から入力されるエッジの方向の情報と対応する信頼度格付部124からの信頼度の情報に基づいて、方向性分布を生成して方向選択部126、および、斜重み付け部129に供給する方向選択部126は、方向性分布に基づいて信頼度の高い方向を選択し、選択した方向の情報を斜補間部128に出力する。また、斜重み付け部129は、斜方向のエッジに付する重みを計算して合成部130に出力する。
【0048】
線形補間部127は、入力された画像のうち、補間しようとする画素の垂直方向の上下、または、左右に隣接する画素から線形補間により画素を生成し合成部130に出力する。斜補間部128は、入力された画像のうち、補間しようとする画素を方向選択部126より入力された方向に挟むように隣接する画素間の情報から補間画素を生成し合成部130に出力する。合成部130は、斜重み付け部129より入力されてくる斜め方向の重み付けの情報に基づいて、線形補間により生成された補間画素の画素値と、斜補間部128により斜補間により生成された補間画素の画素値を、それぞれに重み付けして加算する(重みを係数として線形和を求める)ことにより合成して補間画素として出力する。
【0049】
次に、図5のブロック図を参照して、垂直アップサンプリング処理部13の構成について説明する。垂直アップサンプラ141は、垂直方向補間部142に対して、補間画素を生成させて出力する。尚、垂直方向補間部142の構成は、図4を参照して説明した、図3の高速垂直アップサンプリング処理部12の垂直方向補間部と同様であるので、その説明は省略する。
【0050】
次に、図6のブロック図を参照して、高速水平アップサンプリング処理部14の構成について説明する。高速水平アップサンプラ151は、補間しようとする画素の周辺画素の情報を出力して、補間画素を水平方向補間部152に生成させて、垂直方向に拡大した画像を生成して出力する。尚、水平方向補間部152の構成は、図4を参照して説明した、図3の高速垂直アップサンプリング処理部12の垂直方向補間部112と同様の手法で、水平方向の画素について処理するものであるので、その説明は省略する。
【0051】
次に、図7のブロック図を参照して、水平アップサンプリング処理部15の構成について説明する。水平アップサンプラ161は、垂直方向補間部162に対して、補間画素を生成させて出力する。尚、垂直方向補間部162の構成は、図4を参照して説明した、図3の高速垂直アップサンプリング処理部12の垂直方向補間部112と同様の手法で、水平方向の画素について処理するものであるので、その説明は省略する。
【0052】
次に、図8のブロック図を参照して、1次元垂直イメージリフレッシュ処理部17の構成について説明する。中心画素エネルギ算出部171は、入力された画像の注目画素に対応する垂直方向の列に存在する複数の画素から、その中心画素エネルギを算出し、判別比較部174に出力する。垂直最大値最小値検出部172は、入力された画像の注目画素に対応する垂直方向の複数の画素のうち、その最大値となる画素値と最小値となる画素値を抽出して、判別比較部174に出力する。
【0053】
垂直フィルタ処理部173は、入力された画像の注目画素に対応する複数の画素を垂直方向にフィルタ処理して判別比較部174に出力する。判別比較部174は、中心画素エネルギ算出部171より入力される中心画素エネルギの値と、垂直フィルタ処理部173により垂直方向にフィルタ処理された値からテクスチャであるか、エッジであるかを判定し、さらに、エッジである場合、垂直最大値最小値検出部172より入力されてくる最大値または最小値と比較し、値をクリッピングして、バッファ17aに出力する。出力部175は、バッファ17aに記憶された画像信号を適宜読み出して出力する。
【0054】
次に、図9のブロック図を参照して、1次元水平イメージリフレッシュ処理部18の構成について説明する。中心画素エネルギ算出部181は、入力された画像の注目画素に対応する複数の画素から、その中心画素エネルギを算出し、判別比較部184に出力する。水平最大値最小値検出部172は、入力された画像の注目画素に対応する水平方向のライン上に存在する複数の画素のうち、その最大値となる画素値と最小値となる画素値を抽出して、判別比較部184に出力する。
【0055】
水平フィルタ処理部183は、入力された画像の注目画素に対応する複数の画素を水平方向にフィルタ処理して判別比較部184に出力する。判別比較部184は、中心画素エネルギ算出部181より入力される中心画素エネルギの値と、水平フィルタ処理部183により水平方向にフィルタ処理された値からテクスチャであるか、エッジであるかを判定し、さらに、エッジである場合、水平最大値最小値検出部182より入力されてくる最大値または最小値と比較し、値をクリッピングして、バッファ18aに出力する。出力部185は、バッファ18aに記憶された画像信号を適宜読み出して出力する。
【0056】
次に、図10のフローチャートを参照して、画像処理部2のズーム処理について説明する。最初にステップS1において、画像処理部2は、変数zに倍率Zの値を設定する。次にステップS2において、画像処理部2は、変数zの値が2以上であるか否かを判定し、2未満である場合には、ステップS3に進み、変数zの値が1より大きく2より小さい値であるか否かが判定される。変数zの値が1より大きく2より小さい場合にはステップS4に進み、画像処理部2は、高速ズーム処理を行う。この高速ズーム処理の詳細は、図11のフローチャートを参照して後述する。その後、ステップS7において、出力表示処理が実行される。
【0057】
ステップS3において変数zの値が1と2の間の値ではないと判定された場合、ステップS5に進み、その変数zの値は、0であるか否かが判定される。その変数zの値が0でない場合には(変数zの値が1未満である場合には)、ステップS6に進み、標準的な線形縮小処理部16により線形縮小処理が実行される。その後、ステップS7において、出力表示処理が実行される。すなわち、生成された画像が、画像出力部3により、表示部に表示される。
【0058】
これに対してステップS5において、変数zの値が0であると判定された場合、ステップS6におけるズーム処理を所定回数実行した結果、拡大処理は既に完了しているため、ステップS7に進み、出力表示処理が実行される。
【0059】
ステップS2において、変数zの値が2以上であると判定された場合、ステップS8に進み、画像処理部2は、ズーム処理を実行する。このズーム処理の詳細は、図50のフローチャートを参照して後述する。
【0060】
ステップS8の次にステップS9に進み、画像処理部2は、変数zの値を2で除算する。その後、処理はステップS2に戻り、それ以降の処理が繰り返し実行される。
【0061】
すなわち、変数zの値が2以上である場合には、ステップS8の処理が変数zの値が2より小さくなるまで所定回数繰り返し行われる。そして、変数zの値が2より小さくなった場合には、変数zの値が1と2の間の値であるとき、ステップS4で高速ズーム処理が行われ、変数zの値が1未満である場合には、ステップS6で標準的な線形縮小処理が行われる。この標準的な線形縮小処理は、例えば、バイリニアフィルタを用いて実現することができる。
【0062】
次に、図11のフローチャートを参照して、ステップS4の高速ズーム処理について説明する。最初にステップS21において、画像処理部2は、ユーザより設定されているモードが、画像モードであるか否かを判定する。設定されているモードが画像モードでない場合には(処理対象の画像が、エッジコネクタ処理を必要とするアイコンやフォントなどの弱接続の画像である場合には)、ステップS26に進み、エッジコネクタ処理が行われる。このエッジコネクタ処理の詳細は、図46と図47を参照して後述するが、この処理で、弱接続の画像が強接続の画像に前処理される。
【0063】
ステップS21で設定されているモードが画像モードであると判定された場合(処理対象の画像が強接続の画像である場合)、およびステップS26の処理の後、ステップS22に進み、画像処理部2は、1次元垂直イメージリフレッシュ処理を実行する。
【0064】
ここで、図12のフローチャートを参照して、1次元垂直イメージリフレッシュ処理部17の1次元垂直イメージリフレッシュ処理について説明する。
【0065】
ステップS31において、画像入力部1より入力された画像データのうち、処理していない画素があるか否かが判定され、処理されていない画素があると判定された場合、その処理は、ステップS32に進む。
【0066】
ステップS32において、中心画素エネルギ算出部171は、未処理画素を検索し、検索された未処理画素の垂直方向中心画素エネルギを算出する。例えば、図13に示すような画像データが入力され、垂直方向のy+1,y,y−1の各ラインに、画素a乃至e、画素f乃至j、および、画素k乃至oが配置されているものとするとき、画素hの近傍のAエリア(図中実線で囲まれた範囲)の垂直方向中心画素エネルギEV-hは、以下の式(1)により求められる。
【0067】
EV-h=|(b+c+d)−(l+m+n)|・・・(1)
【0068】
ここで、b,c,d,l,m,およびnは、画素b,c,d,l,m,およびnの画素値である。すなわち、式(1)の垂直方向中心画素エネルギEVは、未処理画素を中心とした上のラインと下のラインに存在する画素値の和同士の差分の絶対値である。このため、相関のある画素同士が上下にある場合は、その画素値の差分には、大きな差がないので、垂直方向中心画素エネルギも小さくなり、逆に、相関のない画素同士が上下にある場合、その画素値の差分には大きな差が現れることが多く、結果として垂直方向中心画素エネルギも大きくなる。
【0069】
中心画素エネルギ算出部171は、未処理画素の垂直方向中心画素エネルギEV-hを上記の式(1)を演算することにより求める。
【0070】
ステップS33において、垂直最大値最小値検出部172は、未処理画素を含めた上下3個の画素の画素値を比較して最大値と最小値を求める。すなわち、例えば、図13に示すように、未処理画素が画素hであった場合、それを含めた上下の画素c,h,m(図13中の点線で囲まれたBエリア)の各画素値を読出し、図14に示すように、その内の最大値(c,h,m)と最小値(c,h,m)を求める。
【0071】
ステップS34において、判別比較部174は、求められた垂直方向中心画素エネルギEV-hが、最小値(c,h,m)より大きく、かつ、最大値(c,h,m)未満であるか否かを判定し、最小値(c,h,m)より大きく、かつ、最大値(c,h,m)未満であると判定した場合、すなわち、その画素がエッジか、または、テクスチャであると判定した場合、その処理は、ステップS35に進む。
【0072】
ステップS35において、垂直フィルタ処理部173は、垂直1次元フィルタを構成する係数αの値を計算する。係数αは、式(2)に示すような計算により求められる。
【0073】
α=α0−(EV-h/EV-h-max)・・・(2)
【0074】
ここで、α0(1<α0≦2)は、ユーザにより任意に設定される値であり、EV-h-Maxは、垂直方向中心画素エネルギEV-hの最大値である。尚、ここで言う垂直中心画素エネルギの最大値EV-h-maxは、最大値(c,h,m)とは、異なるものであり、算出され得る最大値を示している。
【0075】
ステップS36において、垂直フィルタ処理部173は、図13に示すBエリアの画素c,h,mに、図14に示すような1次元垂直フィルタ処理を施す。すなわち、1次元垂直フィルタは、(1/2−α/2,α,1/2−α/2)(1<α≦2)といったものであり、例えば、フィルタが上述のタイプAの場合、以下の式(3)に示すような演算により、フィルタ処理された画素値hV-filterが求められる。
【0076】
hV-filter=c×(1/2−α/2)+h×α+m×(1/2−α/2)・・・(3)
【0077】
ここで、係数αは、上述のステップS35の処理で求められた値であり、フィルタによるエッジ、または、テクスチャの強調の程度を調節することができる。すなわち、係数αは、垂直方向中心画素エネルギEV-hの値により動的に変化し、垂直方向中心画素エネルギEV-hが小さいと係数αは大きくなり、結果として、図14に示す1次元垂直フィルタは、画素hに強く作用することになり、逆に、垂直方向中心画素エネルギEV-hが大きいと係数αは小さくなり、結果として、図14に示す垂直フィルタは、画素hに弱く作用することになる。
【0078】
ステップS37において、判別比較部174は、図14に示すように、現在処理している画素がエッジであるか、または、テクスチャであるかの判別処理を行う。すなわち、垂直中心画素エネルギEV-hは、テクスチャである場合、その値が最小値(c,h,m)に近い値をとり、エッジである場合、その値が最大値(c,h,m)に近い値をとる。そこで、最大値(c,h,m)と最小値(c,h,m)の中間付近に閾値EV-sを設定し、閾値EV-sより垂直中心画素エネルギEV-hが大きいとき、エッジであると判別し、逆に、閾値EV-sより垂直中心画素エネルギEV-hが小さいとき、テクスチャであると判別する。例えば、垂直中心画素エネルギEV-hが閾値EV-sより大きいとき、判別比較部174は、注目する処理中の画素が、エッジであると判別し(エッジの表示領域に存在する画素であると判別し)、その処理は、ステップS38に進む。
【0079】
ステップS38において、判別比較部174は、図14に示すように、フィルタ処理した画素値hV-filterと最大値(c,h,m)を比較し、フィルタ処理した画素値hV-filterが最大値(c,h,m)以上であるか否かを判定し、最大値(c,h,m)以上であると判定した場合、ステップS39において、判別比較部174は、画素値hV-filterを最大値(c,h,m)に置き換える。
【0080】
ステップS40において、判別比較部174は、最大値(c,h,m)に置き換えられた画素値を画素hの画素値としてバッファ17aに記憶させ、その処理は、ステップS31に戻り、全ての画素に1次元垂直エッジ強調処理が施されたと判定されるまで同様の処理が繰り返される。
【0081】
ステップS34において、垂直方向中心画素エネルギEVが、最小値(c,h,m)より大きく、かつ、最大値(c,h,m)未満ではないと判定された場合、すなわち、その画素がエッジか、または、テクスチャでではないと判定された場合、その処理は、ステップS40に進み、判別比較部174は、画素hの画素値を、フィルタ処理することなく、そのままバッファ17aに記憶させ、その処理は、ステップS31に戻り、それ以降の処理が繰り返される。また、ステップS37において、垂直中心画素エネルギEV-hが閾値EV-sより小さいとき、判別比較部174は、注目する処理中の画素が、テクスチャであると判定し、その処理は、ステップS40に進む。すなわち、テクスチャである場合、判別比較部174は、フィルタ処理が施された画素値hV-filterを画素hの値としてバッファ17aに記憶させる。
【0082】
ステップS38において、フィルタ処理した画素値hV-filterが最大値(c,h,m)以上ではないと判定した場合、ステップS41において、判別比較部174は、フィルタ処理した画素値hV-filterと最小値(c,h,m)を比較し、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下であるか否かを判定し、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下であると判定した場合、その処理は、ステップS42に進む。
【0083】
ステップS42において、判別比較部174は、画素値hV-filterを最小値(c,h,m)に置き換え、ステップS40において、最小値(c,h,m)に置き換えられた画素値を、画素hの画素値としてバッファ17aに記憶する。
【0084】
ステップS41において、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下ではないと判定された場合、その処理は、ステップS40に進み、判別比較部174は、フィルタ処理された画素値hV-filterを、画素hの画素値としてバッファ17aに記憶させ、その処理は、ステップS31に戻る。
【0085】
すなわち、ステップS34の処理で、垂直方向中心画素エネルギEV-hが、最小値(c,h,m)より大きく、かつ、最大値(c,h,m)未満である場合、図14に示すように、ステップS33の処理で求められた最大値(c,h,m)、および、最小値(c,h,m)が、画素c,h,mの局所的な範囲の最大値と最小値とみなされ、ステップS36の処理でフィルタ処理して求められた画素値が、その最小値と最大値の範囲に含まれたときは、さらに、ステップS37の処理で、エッジであるかテクスチャであるかが判定され、テクスチャとして判定されると、フィルタ処理した画素値が、そのままバッファ17aに記憶させられ、エッジとして判定されると、最小値(c,h,m)以下のときは画素値が最小値に、最大値(c,h,m)以上のときは画素値が最大値にされて(クリッピングされて)、バッファ17aに記憶させられる。ステップS34の処理で、垂直方向中心画素エネルギEVが、最小値(c,h,m)より大きく、かつ、最大値(c,h,m)未満ではない場合、エッジ、または、テクスチャではないと判定された場合、元の画素値が、フィルタ処理されることもなく、そのままバッファ17aに記憶される。
【0086】
尚、1次元垂直フィルタは、上述のように2種類存在し、図14に示すAタイプと、図15で示すようにBタイプが存在する。すなわち、Aタイプでは、式(3)で示したような演算により、フィルタ処理がなされるが、Bタイプでは、以下の式(4)に示すような演算がされる。
【0087】
hV-filter(TypeB)
=c×(1/4−α/2)+h×1/2+α+m×(1/4−α/2)・・・(4)
【0088】
尚、係数αは、Aタイプと同様に、式(2)により設定可能であり、その他の処理も同様であるので、その処理の説明は省略する。
【0089】
ここで、図11の処理の説明に戻る。
【0090】
ステップS22の処理における、1次元垂直イメージリフレッシュ処理が実行されると、続いてステップS23において、1次元水平イメージリフレッシュ処理が実行される。
【0091】
ここで、図16のフローチャートを参照して、1次元水平イメージリフレッシュ処理部18の1次元水平イメージリフレッシュ処理について説明する。
【0092】
ステップS51において、1次元水平イメージリフレッシュ処理部18は、1次元垂直イメージリフレッシュ処理部17により1次元垂直イメージリフレッシュ処理された画像データのうち、処理していない画素があるか否かを判定し、処理していない画素があると判定された場合、その処理は、ステップS52に進む。
【0093】
ステップS52において、中心画素エネルギ算出部181は、未処理画素を検索し、検索された未処理画素の垂直方向中心画素エネルギを算出する。例えば、図17に示すような画像データが入力され、垂直方向のy+1,y,y−1の各ラインに、画素a乃至e、画素f乃至j、および、画素k乃至oが配置されているものとするとき、画素hの近傍のAエリア(図中実線で囲まれた範囲)の水平方向中心画素エネルギEH-hは、以下の式により求められる。
【0094】
EV-h=|(d+i+n)−(b+g+l)|・・・(5)
【0095】
ここで、b,c,d,l,m,およびnは、画素b,c,d,l,m,およびnの画素値である。すなわち、式(5)の水平方向中心画素エネルギEHは、未処理画素を中心とした右のラインと左のラインに存在する画素値の和同士の差分の絶対値である。このため、相関のある画素同士が左右にある場合は、その画素値の差分には、大きな差がないので、水平方向中心画素エネルギも小さくなり、逆に、相関のない画素同士が左右にある場合、その画素値の差分には大きな差が現れることが多く、結果として水平方向中心画素エネルギも大きくなる。
【0096】
中心画素エネルギ算出部181は、未処理画素の水平方向中心画素エネルギEH-hを上記の式(5)を演算することにより求める。
【0097】
ステップS53において、水平最大値最小値検出部182は、未処理画素を含めた左右3個の画素の画素値を比較して最大値と最小値を求める。すなわち、例えば、図17に示すように、未処理画素が画素hであった場合、それを含めた上下の画素g,h,i(図17中の点線で囲まれたBエリア)の各画素値を読出し、図18に示すように、その内の最大値(g,h,i)と最小値(g,h,i)を求める。
【0098】
ステップS54において、判定比較部184は、求められた水平方向中心画素エネルギEHが、最小値(g,h,i)より大きく、かつ、最大値(g,h,i)未満であるか否かを判定し、最小値(g,h,i)より大きく、かつ、最大値(g,h,i)未満であると判定した場合、すなわち、その画素がエッジか、または、テクスチャであると判定した場合、その処理は、ステップS55に進む。
【0099】
ステップS55において、水平フィルタ処理部183は、水平1次元フィルタを構成する係数αの値を計算する。係数αは、上述の式(2)と同様に、式(6)に示すような計算により求められる。
【0100】
α=α0−(EH-h/EH-h-max)・・・(6)
【0101】
ここで、α0(1<α0≦2)は、ユーザにより任意に設定される値であり、EH-h-Maxは、水平方向中心画素エネルギEH-hの最大値である。尚、ここで言う水平中心画素エネルギの最大値EH-h-maxは、最大値(g,h,i)とは、異なるものであり、算出され得る最大値を示している。
【0102】
ステップS56において、水平フィルタ処理部183は、図17に示すBエリアの画素g,h,iに、図18に示すような1次元水平フィルタ処理を施す。すなわち、1次元水平フィルタとしては、(1/2−α/2,α,1/2−α/2)(1<α≦2)といったものであり、例えば、フィルタが上述のタイプAの場合、以下の式(7)に示すような演算により、フィルタ処理された画素値hH-filterが求められる。
【0103】
hH-filter=g×(1/2−α/2)+h×α+i×(1/2−α/2)・・・(7)
【0104】
ここで、係数αは、上述のステップS55の処理で求められた値であり、フィルタによるエッジ、または、テクスチャの強調の程度を調節することができる。すなわち、係数αは、水平方向中心画素エネルギEH-hの値により動的に変化し、水平方向中心画素エネルギEV-hが小さいと係数αは大きくなり、結果として、図18に示す1次元水平フィルタは、画素hに強く作用することになり、逆に、水平方向中心画素エネルギEH-hが大きいと係数αは小さくなり、結果として、図18に示す垂直フィルタは、画素hに弱く作用することになる。
【0105】
ステップS57において、判別比較部184は、図18に示すように、現在処理している画素がエッジであるか、または、テクスチャであるかを判定する。すなわち、水平中心画素エネルギEH-hは、テクスチャである場合、その値が最小値(g,h,i)に近い値をとり、エッジである場合、その値が最大値(g,h,i)に近い値をとる。そこで、最大値(g,h,i)と最小値(g,h,i)の中間付近に閾値EH-sを設定し、閾値EH-sより水平中心画素エネルギEH-hが大きいとき、エッジであると判別し、逆に、閾値EH-sより水平中心画素エネルギEH-hが小さいとき、テクスチャであると判別する。例えば、水平中心画素エネルギEH-hが閾値EH-sより大きいとき、判別比較部184は、注目する処理中の画素が、エッジであると判定し(エッジの表示領域に存在する画素であると判別し)、その処理は、ステップS58に進む。
【0106】
ステップS58において、判別比較部184は、図18に示すように、フィルタ処理した画素値hH-filterと最大値(g,h,i)を比較し、フィルタ処理した画素値hH-filterが最大値(g,h,i)以上であるか否かを判定し、最大値(g,h,i)以上であると判定した場合、ステップS59において、判別比較部184は、画素値hH-filterを最大値(g,h,i)に置き換える。
【0107】
ステップS60において、判別比較部184は、最大値(g,h,i)に置き換えられた画素値を画素hの画素値としてバッファ18aに記憶させ、その処理は、ステップS51に戻り、全ての画素に1次元垂直エッジ強調処理が施されたと判定されるまで同様の処理が繰り返される。
【0108】
ステップS54において、水平方向中心画素エネルギEHが、最小値(g,h,i)より大きく、かつ、最大値(g,h,i)未満ではないと判定された場合、すなわち、その画素がエッジか、または、テクスチャでではないと判定された場合、その処理は、ステップS60に進み、判別比較部184は、画素hの画素値を、フィルタ処理することなく、そのままバッファ18aに記憶させ、その処理は、ステップS51に戻り、それ以降の処理が繰り返される。また、ステップS57において、水平中心画素エネルギEH-hが閾値EH-sより小さいとき、1次元水平イメージリフレッシュ処理部18は、注目する処理中の画素が、テクスチャであると判定し、その処理は、ステップS60に進む。すなわち、テクスチャである場合、判別比較部184は、フィルタ処理が施された画素値hH-filterを画素hの値としてバッファ18aに記憶させる。
【0109】
ステップS58において、フィルタ処理した画素値hH-filterが最大値(g,h,i)以上ではないと判定した場合、ステップS61において、判別比較部184は、フィルタ処理した画素値hH-filterと最小値(g,h,i)を比較し、フィルタ処理した画素値hH-filterが最小値(g,h,i)以下であるか否かを判定し、フィルタ処理した画素値hH-filterが最小値(g,h,i)以下であると判定した場合、その処理は、ステップS62に進む。
【0110】
ステップS62において、判別比較部184は、画素値hH-filterを最小値(g,h,i)に置き換え、ステップS60において、最小値(g,h,i)に置き換えられた画素値を、画素hの画素値としてバッファ18aに記憶する。
【0111】
ステップS61において、フィルタ処理した画素値hH-filterが最小値(g,h,i)以下ではないと判定した場合、その処理は、ステップS60に進み、判別比較部184は、フィルタ処理された画素値hH-filterを、画素hの画素値としてバッファ18aに記憶させ、その処理は、ステップS51に戻る。
【0112】
すなわち、ステップS54の処理で、水平方向中心画素エネルギEHが、最小値(g,h,i)より大きく、かつ、最大値(g,h,i)未満である場合、図16に示すように、ステップS53の処理で求められた最大値(g,h,i)、および、最小値(g,h,i)が、画素g,h,iの局所的な範囲の最大値と最小値とみなされ、ステップS56の処理でフィルタ処理して求められた画素値が、その最小値と最大値の範囲に含まれたときは、さらに、ステップS57の処理で、エッジであるかテクスチャであるかが判定され、テクスチャとして判定されると、フィルタ処理した画素値が、そのままバッファ18aに記憶させられ、エッジとして判定されると、最小値(g,h,i)以下のときは画素値が最小値に、最大値(g,h,i)以上のときは画素値が最大値にされて(クリッピングされて)、バッファ18aに記憶させられる。ステップS54の処理で、垂直方向中心画素エネルギEHが、最小値(g,h,i)より大きく、かつ、最大値(g,h,i)未満ではない場合、エッジ、または、テクスチャではないと判定されたとき、元の画素値が、フィルタ処理されることもなく、そのままバッファ18aに記憶される。
【0113】
尚、1次元水平フィルタは、上述のように2種類存在し、図18に示すAタイプと、図19で示すようにBタイプが存在する。すなわち、Aタイプでは、式(7)で示したような演算により、フィルタ処理がなされるが、Bタイプでは、以下の式(8)に示すような演算がされる。
【0114】
hH-filter(TypeB)
=g×(1/4−α/2)+h×1/2+α+i×(1/4−α/2)・・・(8)
【0115】
ここで、αの設定は、Aタイプと同様に、式(6)により設定可能であり、その他の処理も同様であるので、その処理の説明は省略する。
【0116】
ここで、図11の処理の説明に戻る。
【0117】
ステップS23において、1次元水平イメージリフレッシュ処理が実行されると、続いて、ステップS24において、高速垂直アップサンプリング処理を実行する。この高速垂直アップサンプリング処理は、例えば、図20に示されるように、画像入力部1より入力された原画像の画素数を垂直方向に拡大する処理を意味する。この高速垂直アップサンプリング処理は、高速垂直アップサンプリング処理部12により実行される。
【0118】
ここで、図21のフローチャートを参照して、高速垂直アップサンプリング処理に付いて説明する。高速垂直アップサンプラ111は、最初にステップS71において、Hバッファ31(後述する図23)と2Yバッファ41(後述する図33)を作成する。画像入力部1より入力された原画像(I_image)のサイズが、In_width×In_heightである場合、Hバッファ31のサイズは、In_width×(alpha_Z×In_height)となる。ここで、alpha_Zは、原画像を垂直方向に拡大する倍率を表し、今の場合、高速垂直アップサンプリングであるので、その値は1より大きく、2より小さい値である(ステップS3,S4)。
【0119】
2Yバッファ41は、サイズがIn_width×1とされる。この2Yバッファ41には、補間された画素が一次的に格納される。
【0120】
次に、ステップS72において、高速垂直アップサンプリング処理部12は、ケース1乃至ケース3に対応する処理を実行する。
【0121】
このケース1乃至ケース3の処理は、Hバッファ31のY行の補間データを生成する処理である。Y行の補間データが、ケース1乃至ケース3のいずれの処理により生成されるかは、次のように決定される。
【0122】
すなわち、本実施の形態においては、原画像I_imageを垂直方向に2倍に拡大した画像としての仮想垂直2倍拡大画像2Y_imageが想定される。Hバッファ31に格納する画像は、原画像I_imageを垂直方向にalpha_Z倍した画像であるから、仮想垂直2倍拡大画像2Y_imageの行を2Y_lineとし、Hバッファ31に格納する画像の行をYとすると、次の比例式が成立する。
【0123】
Y:2Y_line=alpha_Z:2・・・(9)
この式(9)を整理すると、次式が得られる。
【0124】
2Y_line=Y×2/alpha_Z・・・(10)
【0125】
上記の式(10)より計算された値2Y_lineが整数且つ偶数である場合(2Y_line=2nであり、nが整数である場合)、Y行の補間データは、ケース1の処理で生成される。値2Y_lineが整数且つ奇数である場合(2Y_line=2n+1であり、nが整数である場合)、Y行の補間データは、ケース2の処理で生成される。その他の場合、すなわち値2Y_lineが実数である場合、Y行の補間データは、ケース3の処理で生成される。
【0126】
ケース1の場合、図22のフローチャートに示す処理が実行される。すなわち、ケース1の場合、Hバッファ31の行Yの値を、原画像I_image中の所定の行の値(2Y_line/2=n)と対応させることができる。このため、ステップS81において、高速垂直アップサンプラ111は、原画像I_imageの2Y_line/2行をHバッファ31のY行にそのままコピーする。
【0127】
図23は、この場合の処理を模式的に表している。すなわち、ケース1の場合、Hバッファ31の行Yの値が原画像I_imageの行nの値と等しいため、原画像のn(=2Y_line/2)行がHバッファ31のY行にそのままコピーされる。
【0128】
次に、図24のフローチャートを参照して、ケース2の場合の処理について説明する。このケース2の場合、(2n+1)/2の値は整数ではないので、Hバッファ31の行Yの値を、原画像I_image中の所定の行の値に対応させることができない。しかしながら、仮想垂直2倍拡大画像2Y_image中の所定の行(2n+1)とは、対応させることができる。
【0129】
そこで、この場合、ステップS91において、高速垂直アップサンプラ111は、原画像I_image中の所定の範囲(N画素)の上行up_lineと下行down_lineの画素を抽出する。Nの値は可変とされる。従って、上行up_lineの中心座標は、(X+N/2,n)となり、下行down_lineの中心座標は、(X+N/2,n+1)となる。
【0130】
次にステップS92において、垂直方向補間部112のエッジ検出部122は、帯域制限部121により帯域制限された信号に基づいて、局所エネルギE(N)を、次式より算出する。
【0131】
E(N)=Σ(I=0,N-1)ABS(up_line(I)−down_line(N-I-1))・・・(11)
【0132】
上記の式(11)の計算は、up_lineの個々の画素から対角線上に位置するdown_lineの画素を減算し、その絶対値のIが0からN-1までの和を積算することを示している。
【0133】
図25は、局所エネルギE(N)の計算の例を表している。同図に示されるように、上行up_lineの画素と、下行down_lineの画素のうち、対角線上に位置する上の画素から下の画素の画素値が減算され、その差の絶対値の和が局所エネルギE(N)とされる。図25の例では、画素Y0,0の値(30)から、画素Y1,4の値(255)が減算される。また画素Y0,1の画素値(150)から、画素Y1,3の画素値(230)が減算される。以下同様に、画素Y0,2の画素値(150)から画素Y1,2の画素値(200)が減算され、画素Y0,3の画素値(200)から画素Y1,1の画素値(200)が減算され、画素Y0,4の画素値(255)から、画素Y1,0の画素値(30)が減算される。そしてそれぞれの差分の絶対値の和が局所エネルギとされる。
【0134】
ステップS93において、エッジ検出部122は、局所エネルギE(N)が予め設定されている所定の閾値Tより大きいか否かを判定する。局所エネルギE(N)が閾値Tと等しいか、それより小さい場合、その領域は、エッジを含まない平坦な低エネルギの領域と見なされる。この場合、潜在的エッジの方向を計算する必要がない。このため、ステップS94に進み、方向判別部123が、エッジ検出部122の判定結果に基づいて、方向補間部131に、Hバッファ31中の座標(X+N/2,Y)の画素データとして、隣接する上行中心画素up_line(N/2)と、隣接する下行中心画素down_line(N/2)の平均値を演算し、Hバッファ31のその座標(X+N/2,Y)に格納すると共に、垂直方向(後述する図31におけるL2の方向)を示す方向情報を信頼度格付部124、および、方向性分布生成部125に出力する。また、信頼度格付部124は、この補間画素について信頼度が低いことを示す0を方向性分布生成部125に出力する。すなわち、ステップS94においては、次の式に基づいて、標準的な線形補間処理が行われる。
【0135】
H_buffer(X+N/2,Y)=0.5×(up_line(N/2)+down_line(N/2))・・・(12)
【0136】
一方、ステップS93において、局所エネルギE(N)の値が閾値Tより大きいと判定された場合、その領域は、潜在的エッジを含んだ高エネルギ領域と見なされる。このとき、ステップS95において、垂直方向補間部112の方向判別部123は、帯域制限部121により帯域制限された画像信号に基づいて、エッジ方向を試験的に計算する処理を実行し、検出した方向の情報を信頼度格付部124、および、方向性分布生成部125に出力すると共に、検出した画素の情報を方向補間部131に出力する。具体的には、以下に示す演算は、x=N-1からxをデクリメントし、xが−1より大きい間は行われる。
【0137】
Energy=ABS(up_line(N-x-1)−down_line(x))・・・(13)
【0138】
上記の式(13)で計算されたエネルギの値のうち、最も小さいものが選択され、その2つの画素が対応する対角線の方向が局所的なエッジの方向と見なされる。
【0139】
図26は、この場合の具体的な例を表している。この例においては、画素Y0,0の画素値(30)と、画素Y1,4の画素値(255)との差、画素Y0,1の画素値(150)と、画素Y1,3の画素値(230)との差、画素Y0,2の画素値(150)と、画素Y1,2の画素値(200)との差、画素Y0,3の画素値(200)と、画素Y1,1の画素値(200)との差、および画素Y0,4の画素値(255)と、画素Y1,0の画素値(30)との差が、それぞれ演算される。そしてそれらの値の絶対値のうち、最も小さい値(この例の場合、画素Y0,3と画素Y1,1を結ぶ方向)が局所的なエッジ方向と見なされる。
【0140】
図27は、Hバッファ31に保持されている上行up_lineの3画素と下行down_lineの3画素との差から局所的なエッジ方向が推測される例を表している。図27の例においては、Nの値が3とされているが、このNの値としてより大きな値を用いることで、より正確に、かつより多くの方向のエッジの検出が可能となる。
【0141】
ステップS95の処理で、エッジ方向が検出された場合、さらにステップS96において、方向補間部131は、その検出されたエッジ方向の画素を用いて、補間処理を行う(方向補間処理が行われる)。この方向補間処理は、エッジ方向に対応する2つの画素の画素値に基づいて、その間に位置する画素の画素値を補間することを意味する。例えば、図26の例では、画素Y0,3と画素Y1,1の画素値の平均値(200)が、両者の間の画素の画素値とされる。
【0142】
次に、ステップS97に進み、信頼度格付部124は、構造コレクタ処理を実行する。この構造コレクタ処理は、座標(X+N/2,Y)に補間された画素と、その垂直の近傍画素、すなわち座標up_line(N/2)と、座標down_line(N/2)との関係を解析することで、更新された局所構造(ステップS96の方向補間処理で生成された画素とその上下の画素)の整合性をチェックする処理である。
【0143】
すなわち、この構造コレクタ処理では、上行の中心画素から更新された画素を減算する処理が行われ、さらに、更新された画素から下行の中心画素を減算する処理が行われる。さらに、以上のようにして得られた2つの減算結果を乗算することで、垂直方向の変化を表す値V(N/2)が計算される。すなわち、ステップS96においては、次の式で示す演算が行われる。
【0144】
【0145】
次に、ステップS98において、信頼度格付部124は、ステップS97での演算結果に基づいて、更新された局所構造の整合性があるか否かを判定する。この判定は、上記式(14)で演算された値V(N/2)が正であるか否かに基づいて行われる。値V(N/2)が正である場合には、整合性があると見なされ、ステップS99において、信頼度格付部124は、その補間画素の信頼度を1として方向性分布生成部125に出力する。
【0146】
これに対して、ステップS98において、値V(N/2)が負であると判定された場合、整合性はないと見なされる。すなわち、局所方向の識別が誤っており、ステップS96で生成された画素値は、適切でないと判断される。この場合、信頼度格付部124は、ステップS100において、その補間画素の信頼度を0として方向性分布生成部125に出力する。
【0147】
ステップS101において、注目画素に対する注目領域の全ての補間画素が補間されたか否かが判定され、注目領域の全ての補間画素が補間されていないと判定された場合、その処理は、ステップS91に戻り、全ての補間画素が補間されるまで、ステップS91乃至S101の処理が繰り返され、ステップS101において、全ての補間画素が補間されたと判定された場合、その処理は、ステップS102に進む。ここで、注目画素に対する注目領域とは、例えば、図28でしめすP(画素数)×M(ライン)の範囲の補間画素である。尚、図28においては、白丸が注目画素(補間画素)を、黒丸が補間画素を、格子状に塗りつぶされた画素を原画像の画素(元々存在する画素)として示している。ステップS101において、全ての補間画素が補間されるということは、図中の黒丸で示される画素が全て補間されたことを示し、その処理は、ステップS102に進む。
【0148】
ステップS102において、方向選択処理が実行される。
【0149】
ここで、図29のフローチャートを参照して、方向選択処理について説明する。
【0150】
ステップS111において、方向性分布生成部125は、方向性分布を生成する。すなわち、方向性分布生成部125は、これまで入力されたエッジの方向と、その信頼度の情報から、方向性分布を生成する。すなわち、方向性分布生成部125には、図30で示すように、補間画素の配置に対応して、それぞれの補間画素の補間方向と対応する信頼度の情報が入力されていることになる。
【0151】
尚、図28においては、図中5画素×3ラインの補間画素が表示されているので、図30の左部には、この対応する15個の補間画素の配置が表示されている。また、図30の中央部には、各補間画素の補間方向が示されている。この補間画素の方向は、図31で示すように、注目画素について点対象となるように設定された方向に対応する番号であり、方向L0は、上段左端の補間画素と下段右端の補間画素を結ぶ垂直な直線上の方向であり、方向L1は、上段左から2番目の補間画素と下段右から2番目の補間画素を結ぶ直線上の方向であり、方向L2は、真上の補間画素と真下の補間画素を結ぶ直線上の方向であり、方向L3は、上段右から2番目の補間画素と下段左から2番目の補間画素を結ぶ直線上の方向であり、方向L4は、上段右端の補間画素と下段左端の補間画素を結ぶ直線上の方向である。また、図30の右部には、信頼度の分布が示されており、信頼度として1が報告された画素は、○に、信頼度として0が報告された画素には×が表示されている。
【0152】
すなわち、図30によれば、補間画素の補間方向は、上段の左から4,3,4,4,3であり、中段の左から3,4,4,3,4であり、下段の左から4,4,4,4,4であることが示されている。また、信頼度は、上段の左から×,×,○,○,×であり、中断の左から、○,○,×,○,○であり、下段の左から○,○,○,○,×である。
【0153】
この結果、方向性分布生成部125は、図32で示すように、各方向別につけられている○の数を示すヒストグラムからなる方向性分布を生成することにより、方向別の分布を示すことができる。すなわち、図32においては、方向L0は、○が0個、×が0個、方向L1は、○が0個、×が0個、方向L2は、○が0個、×が0個、方向L3は、○が2個、×が2個、方向L4は、○が8個、×が3個となる。
【0154】
ステップS112において、方向選択部126は、これらの方向性分布(補間方向と、対応する信頼度の分布)から以下のBalance関数を設定する。
【0155】
すなわち、まず、方向選択部126は、以下の式(15)で示す注目画素(X,Y)に対応するBalance関数を設定する。
【0156】
【0157】
Population(LI)は、方向LI毎に信頼度があることを示す画素の個数の示す関数であり、Σは、総和と求めることを示し、(I=(N+1)/2,N-1)、または、(I= 0,(N-3)/2)は、総和を求めるIの範囲を示している。Nは、設定された方向の数を示す。従って、図31においては、方向L0乃至L4であるのでN=5となる。
【0158】
ステップS113において、方向選択部126は、Balance(X,Y)が正の値であるか否かを判定し、例えば、正の値であると判定した場合、ステップS114において、図31で定義する方向LIのうち、Iが、I=(N+1)/2からN-1の範囲の中で最も信頼度の高い方向を選択する。
【0159】
一方、ステップS113において、正の値ではないと判定された場合、ステップS115において、図31で定義する方向LIのうち、Iが、I=0から(N-3)/2の範囲の中で最も信頼度の高い方向を選択する。
【0160】
すなわち、式(15)で定義される関数は、方向を垂直方向を中心として、方向を示す矢印の上端の位置を方向L2で左右に分けた場合、左右のどちら側に信頼性の傾向があるかを示すものであり、例えば、図31で定義する方向L0とL1のグループ全体の信頼性と、方向L3,L4のグループ全体の信頼性のそれぞれの和をとった値の差分をステップS114の処理により、求めて、その大小比較から、垂直方向に対して左右のどちらに傾いているかを求め、信頼性の傾向を示すグループの中から、最も信頼性の高い方向が選択されるようになっている。
【0161】
ステップS116において、方向選択部126は、最も信頼性の高い方向が複数に存在するか否かを判定し、例えば、複数の存在する場合、ステップS117において、選択された複数の最も信頼性の高い方向の中から、最も垂直方向に近い方向を選択する。一方、ステップS116において、最も信頼性の高い方向が複数に存在しない場合は、ステップS117の処理がスキップされて、ステップS114またはS115の処理で選択された方向がそのまま選択される。すなわち、信頼性の程度が同じ方向があった場合は、垂直方向に近いものが選択される。
【0162】
ステップS118において、方向選択部126は、例外条件に含まれるか否かを判定する。すなわち、方向選択部126は、以下の式(16)乃至式(18)のいずれかを満たす場合、例外であると判定し、ステップS119において、垂直方向(図31の方向L2)を選択する。
【0163】
Population_LI(I=(N-1)/2)−Population(Best_Dir)≧−1・・・(16)
Tendency(X,Y)<(PM)/3・・・(17)
Total_ Population(X,Y)<(PM)/3・・・(18)
【0164】
ここで、Population_LI(I=(N-1)/2)は、垂直方向の信頼度であり、Population(Best_Dir)は、ステップS111乃至S117の処理で選択された方向の信頼度である。または、Tendency(X,Y)(以下、Tendency関数とも称する)は、Balance関数が正の場合は、Σ(I=(N+1)/2,N-1)(Population(LI))を示し、負の場合は、Σ(I= 0,(N-3)/2)(Population(LI))を示す。すなわち、方向を垂直方向に左右のグループに分けたときの信頼性の高いグループの信頼度の和である。Total_ Population(X,Y)は、注目画素が(X,Y)の時の信頼度の和である。
【0165】
すなわち、式(16)が満たされる場合、ステップS111乃至S117の処理で選択された方向の信頼度よりも垂直方向の信頼度の方が高いことになるので、垂直方向の方がより信頼度の高い方向の選択となる。また、式(17),式(18)が満たされる場合、信頼性の高いグループの信頼度の和が所定の閾値である(PM)/3よりも小さいことになるので、全体として比較できる精度の画素がなかったものと判断して、垂直方向を選択する。尚、閾値(PM)/3は、他の値に設定するようにしてもよい。
【0166】
ステップS120において、方向選択部126は、選択された方向の情報を斜補間部128に出力する。
【0167】
すなわち、図32の場合、Balance関数は、正となる(ステップS113の処理)ので、方向L3,L4のグループから最も信頼性の高い方向として方向L4が選択されることになる。また、方向L4と同じ信頼性のものは無く、さらに、例外条件に当たらないので、方向L4が選択されることになる。
【0168】
ここで、図24のフローチャートの説明に戻る。
【0169】
ステップS103において、線形補間部127は、注目画素に対して垂直方向の上下に存在する画素間の平均画素値を線形補間画素として求めて合成部130に出力し、同時に、斜補間部128は、方向選択部126より入力された選択された方向に存在する画素間の平均画素値を斜補間画素値として合成部に出力する。
【0170】
すなわち、図32の場合、方向L4が選択されるので、図31のように注目画素が存在する場合、斜補間部128は、図31の上段のライン上にある右端の画素と、下段のライン上にある左端の画素の平均画素値を斜補間画素値として出力することになる。
【0171】
ステップS104において、斜重み付け部129は、以下の式(19)で示すように、注目画素(X,Y)の斜方向の重みweight_slant(X,Y)を設定し、合成部130に出力する。
【0172】
【0173】
すなわち、斜方向の重みは、全信頼度に対するBalance関数(或いは、Tendency関数)の絶対値の割合として設定される。
【0174】
ステップS105において、合成部130は、以下の式(20)の演算により、線形補間部127より入力された線形補間画素と斜補間画素とを重み付けして合成し、補間画素として出力する。
【0175】
【0176】
ここで、h-buffer(X,Y-1)と h-buffer(X,Y+1)は、注目画素の上下に存在する画素値であり、h-buffer(X+Best_Dir-(N-1)/2,Y-1)と h-buffer(X-Best_Dir-(N-1) /2,Y+1)は、注目画素からみて選択された方向の対角線上で、かつ、上下のライン上に存在する画素値である。
【0177】
すなわち、線形補間画素にかかる重みは、(1- weight_slant(X,Y))で表現できるので、線形補間で求められた画素値には、線形補間に係る重みとして(1- weight_slant(X,Y))を乗じ、斜補間画素にかかる重みとしてweight_slant(X,Y)が乗じられて、線形和をとった合成補間画素を最終的な補間画素とする。これにより、垂直方向と斜方向の補間が、その重みによりバランスよく合成されるため、正確な補間画素を生成することが可能となる。
【0178】
Hバッファ31の個々の未知の行の各画素を求めるため、同様の処理が繰り返し実行される。
【0179】
図33は、図24のフローチャートで示されるケース2の場合の処理を、原画像I_image、Hバッファ31、2Yバッファ41、および仮想垂直2倍拡大画像2Y_imageの関係から表している。Hバッファ31のY行が仮想垂直2倍拡大画像2Y_imageの所定の行2Y_lineと所定の関係にある場合には、原画像I_imageのn行と、n+1行に基づいて、方向補間処理が行われ、得られたデータは2Yバッファ41に格納される。そして、2Yバッファ41に格納されたデータがHバッファ31の行Yにコピー(格納)される。
【0180】
次に、図34のフローチャートを参照して、ケース3の処理について説明する。このケースは、2n<2Y_line<2n+1、または、2n-1<2Y_line<2nの場合、つまり、Hバッファ31中の行Yの値が、仮想垂直2倍拡大画像2Y_imageの行2Y_lineのいずれにも対応せず、かつ、原画像I_imageのどの行とも対応しない場合である。
【0181】
この場合、ステップS131において、高速垂直アップサンプラ111は、2Y_lineの値が2nより大きく、且つ2n+1より小さいか否かを判定する。2Y_lineの値が2nより大きく、且つ2n+1より小さい場合、高速垂直アップサンプラ111は、仮想垂直2倍拡大画像2Y_imageの2n+1行と2n行から、Hバッファ31のY行を生成する。
【0182】
そこで、この場合、ステップS132において、高速垂直アップサンプラ111は、仮想垂直2倍拡大画像2Y_imageの2n+1行を、隣接する上行2n行と、下行2n+2行(原画像I_imageにおけるn行とn+1行)を用いて、図24のケース2のフローチャートに示すステップS91乃至ステップS105の処理で計算する。ステップS132で計算された結果は、Hバッファ31における次のn+1行の計算に使用する可能性があるので、ステップS133において、2Yバッファ41に格納される。
【0183】
さらに、ステップS134において、高速垂直アップサンプラ111は、ステップS132で計算された2n+1行(2Yバッファ41に記憶されている値)と、仮想垂直2倍拡大画像2Y_imageの2n行(原画像I_imageのn行)から、Hバッファ31のY行を次式から演算し、Hバッファ31のY行に記憶させる。
【0184】
【0185】
このように、ステップS132乃至S134の処理では、原画像I_imageを垂直方向に2倍に拡大した画像を生成し、その画像と原画像I_imageとから、alpha_Z倍の画像を生成していることになる。
【0186】
一方、ステップS131において、2Y_lineが2nより大きく、且つ2n+1より小さいと判定されなかった場合(2Y_lineが2n-1より大きく、2nより小さいと判定された場合)、高速垂直アップサンプラ111は、仮想垂直2倍拡大画像2Y_imageの2n-1行と2n行から、Hバッファ31のY行を生成する。この2n-1行は、Hバッファ31中の前行を求める際に計算され、2Yバッファ41に既に格納されている場合がある。そこでステップS135において、高速垂直アップサンプラ111は、2n-1行が2Yバッファ41に既に格納されているか否かを判定し、格納されている場合には、ステップS138において、2n-1行のデータを2Yバッファ41から取り出す。
【0187】
これに対して、ステップS135において、2n-1行のデータが2Yバッファ41にまだ格納されていないと判定された場合、ステップS136に進み、高速垂直アップサンプラ111は、仮想垂直2倍拡大画像2Y_imageの2n-1行を、上行2n-2行と下行2n行(原画像I_imageのn-1行とn行)を用い、図24のケース2のフローチャートのステップS91乃至ステップS105の処理により計算する。ステップS136で計算された2n-1行の値は、ステップS137において、Hバッファ31における次のY+1行の計算に使用する可能性があるので、高速垂直アップサンプラ111は、2Yバッファ41に格納する。
【0188】
ステップS137、またはステップS138の処理の後、ステップS139に進み、高速垂直アップサンプラ111は、得られた2n-1行と、仮想垂直2倍拡大画像2Y_imageの2n行(原画像I_imageのn行)からHバッファ31のY行が次式に従って補間する。
【0189】
【0190】
この処理は、X=0からIn_widthより小さい値である期間、Xの値をインクリメントしつつ行われる。
【0191】
Hバッファ31の個々の未知の行の各画素を求めるため、(−1<X<In_width−N+1)と、(−1<Y<alpha_Z×In_height-1)の条件を満たす座標(X+N/2,Y)で、同様の処理が繰り返し実行される。
【0192】
このように、ケース3の処理においては、仮想垂直2倍拡大画像2Y_image中の2n行と2n+1行、または2n-1行と2n行を用いて、重み付け補間が実行される。
【0193】
以上の図34のケース3に示す処理を模式的に表すと、図35に示すようになる。仮想垂直2倍拡大画像2Y_imageの2Y_line行の値が2nより大きく、且つ2n+1関係の場合とHバッファ31のY行とが所定の原画像I_imageのn行とn+1行から方向補間処理により2n+1行、または2n-1行のデータが生成され、2Yバッファ41に記憶される。そして、2Yバッファ41に記憶された値と、仮想垂直2倍拡大画像2Y_imageの2n行のデータから、Hバッファ31のY行のデータが重み付け補間される。
【0194】
図11のフローチャートに戻って、以上のようにして、ステップS24の高速垂直アップサンプリング処理が行われた後、ステップS25に進み、高速水平アップサンプリング処理が実行される。この高速水平アップサンプリング処理は、高速水平アップサンプリング処理部14により実行される。高速水平アップサンプリング処理は、図36に示されるように、画素を水平方向に補間する処理である。
【0195】
図37は、高速水平アップサンプリング処理の詳細を表している。ステップS151で高速水平アップサンプラ151は、Vバッファ51(後述する図39)と2Xバッファ61(後述する図45)を作成する。Vバッファ51は、サイズが、(alpha_Z×In_width)×(alpha_Z×In_height)とされ、2Xバッファ61は、そのサイズが1×(alpha_Z×In_height)とされる。2Xバッファ61には、仮想水平2倍拡大画像2X_imageのX座標(奇数座標)の一列のデータが格納される。
【0196】
ステップS152において、ケース1乃至ケース3に対応する処理が実行される。ケース1乃至ケース3のいずれの処理が実行されるかは、次式を演算することにより判断される。
【0197】
2X_column=X×2/alpha_Z・・・(23)
【0198】
上記演算により求められた2X_columnの値が整数であり、且つ偶数である場合(2X_column=2nであり、nが整数である場合)、ケース1とされ、2X_columnが整数且つ奇数である場合(2X_column=2n+1であり、nが整数である場合)、ケース2とされ、2X_columnが実数である場合(その他の場合)、ケース3とされる。
【0199】
ケース1の場合、図38のフローチャートに示す処理が実行される。このケースは、仮想水平2倍拡大画像2X_imageにおける2X_column=2n列が、前もって計算されたHバッファ31の2X_column/2=n列と対応する場合である。この場合、高速水平アップサンプリング処理部14は、ステップS161において、Hバッファ31の2X_column/2列をVバッファの列Xにコピーする。
【0200】
図39は、このケース1の処理を概念的に表している。仮想水平2倍拡大画像2X_imageにおける2n列が、Vバッファ51のn列と対応する場合、Hバッファ31のn列が、Vバッファ51の列Xにコピーされる。
【0201】
図40は、図37のステップS152のケース2のVバッファ51に対する処理のフローチャートを示している。このケースは、Vバッファ51中の列Xの値を、仮想水平2倍拡大画像2X_image中の所定の列(2n+1)と対応させることができるが、Hバッファ31中の所定の列の値に対応させることはできない場合である。
【0202】
この場合、ステップS171において、高速水平アップサンプラ151は、Hバッファ31中の所定の範囲(N画素)の左列left_column、および右列right_columnを抽出する。左列left_columnの中心座標は、(n,Y+N/2)とされ、右列right_columnの矩形の中心座標は、(n+1,Y+N/2)とされる。
【0203】
次にステップS172において、水平方向補間部152のエッジ検出部122は、帯域制限部121より帯域制限された信号に基づいて、局所エネルギE(N)を、左列left_columnの個々の画素から、対角線上に位置する右列right_columnの画素を減算し、その絶対値の和を演算して求める。すなわち、この処理では次式が演算される。
【0204】
E(N)=Σ(I=0,N-1)ABS(left_column(I)−right_column(N-I-1))・・・(24)
【0205】
次にステップS173において、エッジ検出部122は、エネルギE(N)が予め設定された閾値Tより大きいか否かを判定する。エネルギE(N)が閾値Tと等しいか、それより小さい場合、その領域はエッジを含まない平坦な低エネルギ領域と見なされる。この場合、潜在的なエッジの方向を計算する必要がない。このためステップS174に進み、方向判別部123が、エッジ検出部122の判定結果に基づいて、線形補間部127に、Vバッファ51中の座標(X+N/2,Y)の画素データとして、隣接する左列の中心画素left_column(N/2)と、隣接する右列の中心画素right_column(N/2)の平均値を演算させ、Vバッファ51のその座標(X+N/2,Y)に格納させると共に、水平方向(後述する図44におけるL2の方向を示す方向情報を信頼度格付部124、および、方向性分布生成部125に出力する。また、信頼度格付部124は、この補間画素について信頼度が低いことを示す0を方向性分布生成部125に出力する。
【0206】
すなわち、次式に示すように、隣接する左列の中心画素left_column(N/2)と、隣接する右列の中心画素right_column(N/2)の平均値から、新しい画素(X+N/2,Y)の画素値が演算される(標準的な線形補間処理が行われる)。
【0207】
V-buffer(X+N/2,Y)=0.5×(left_column(N/2)+right_column(N/2))・・・(25)
【0208】
ステップS173において、エネルギE(N)が閾値Tより大きいと判定された場合、その領域は潜在的にエッジを含んでいる高エネルギ領域と見なされる。そこで、この場合、ステップS175に進み、水平方向補間部152の方向判別部123は、帯域制限部121により帯域制限された画像信号に基づいて、エッジ方向を試験的に計算する処理を実行し、検出した方向の情報を信頼度格付部124、および、方向性分布生成部125に出力すると共に、検出した画素の情報を方向補間部131に出力する。具体的には、次式にしたがってエッジ方向計算処理が実行される。
【0209】
Energy=ABS(left_column(N−x−1)−right_column(x))・・・(26)
【0210】
上記演算は、x=N−1からxの値を順次デクリメントし、xが−1より大きい間繰り返される。具体的には、図41に示されるように、左列の画素から対角線上の右列の画素を減算する処理が、右列の上側から実行される。
【0211】
計算されたエネルギのうち、最も小さい値に対応する画素の対角線の方向が局所的なエッジの方向と判定される。図41においては、N=3とされているが、このNの値をより大きい値とすることで、より多くの方向の判定が可能となる。
【0212】
ステップS175の処理で、エッジ方向が検出された場合、さらにステップS176において、方向補間部131は、その検出されたエッジ方向の画素を用いて、補間処理を行う(方向補間処理が行われる)。
【0213】
次に、ステップS177において、信頼度格付部124は、構造コレクタ処理を実行する。すなわちVバッファ51中の座標(X,Y+N/2)に補間された画素と、その垂直方向の近傍画素である座標left_column(N/2)の画素、およびright_column(N/2)の画素との関係を解析することで局所構造の整合性をチェックする処理が行われる。このため、次式に従って、補間された画素を左列の中心の画素から減算し、右列の中心画素を補間された画素から減算することで2つの減算結果を得、さらに2つの減算結果を乗算することで、水平方向の変化を表す値H(N/2)が計算される。
【0214】
【0215】
ステップS178において、ステップS177で演算された値H(N/2)に基づき、補間された局所構造に整合性があるか否かが判定される。具体的には、値H(N/2)が正であるか否かが判定される。値H(N/2)が正である場合には、ステップS176の方向補間処理で求められた画素は正しい(整合性がある)ものとされ、ステップS179において、その補間画素の信頼度を1として方向性分布生成部125に出力する。
【0216】
これに対して、ステップS178において、値H(N/2)が負であると判定された場合(整合性がない)、すなわち、ステップS176の方向補間処理で生成された画素値は適切でないと判定された場合、ステップS180に進み、信頼度格付部124は、その補間画素の信頼度を0として方向性分布生成部125に出力する。
【0217】
ステップS181において、注目画素に対する注目領域の全ての補間画素が補間されたか否かが判定され、注目領域の全ての補間画素が補間されていないと判定された場合、その処理は、ステップS171に戻り、全ての補間画素が補間されるまで、ステップS171乃至S181の処理が繰り返され、ステップS181において、全ての補間画素が補間されたと判定された場合、その処理は、ステップS182に進む。ここで、注目画素に対する注目領域とは、例えば、図42で示すM(画素数)×P(ライン)の範囲の補間画素である。尚、図42においては、白丸が注目画素(補間画素)を、黒丸が補間画素を、格子状に塗りつぶされた画素を原画像の画素(元々存在する画素)として示している。ステップS181において、全ての補間画素が補間されるということは、図中の黒丸で示される画素が全て補間されたことを示す。
【0218】
ステップS182において、方向選択処理が実行される。
【0219】
ここで、図43のフローチャートを参照して、方向選択処理について説明する。
【0220】
ステップS201において、方向性分布生成部125は、方向性分布を生成する。すなわち、方向性分布生成部125は、これまで選択されたエッジの方向と、その信頼度の情報から、方向性分布を生成する。
【0221】
尚、この方向性分布は、図28,図30乃至図32を参照して説明したものと基本的には同様のものであるが、水平方向と垂直方向の関係が反転している。
【0222】
ステップS202において、方向選択部126は、これらの方向性分布(補間方向と、対応する信頼度の分布)から以下のBalance関数を設定する。
【0223】
すなわち、まず、方向選択部126は、以下の式(28)で示す注目画素(X,Y)に対応するBalance関数を設定する。
【0224】
【0225】
Population(LI)は、方向LI毎に信頼性のある画素の個数の示す関数であり、Σは、総和と求めることを示し、(I=(N+1)/2,N-1)、または、(I= 0,(N-3)/2)は、総和を求めるIの範囲を示している。Nは、設定された方向の数を示す。
【0226】
ステップS203において、方向選択部126は、Balance(X,Y)が正の値であるか否かを判定し、例えば、正の値であると判定した場合、ステップS204において、図44で定義する方向LIのうち、Iが、I=(N+1)/2からN-1の範囲の中で最も信頼度の高い方向を選択する。尚、この関係は、図31で示した方向の定義と水平方向と垂直方向の関係が逆転したものであって、基本的には、同様のものである。
【0227】
一方、ステップS203において、正の値ではないと判定された場合、ステップS205において、図44で定義する方向LIのうち、Iが、I=0から(N-3)/2の範囲の中で最も信頼度の高い方向を選択する。
【0228】
すなわち、式(28)で定義される関数は、方向を水平方向を中心として、図中の方向の矢印の右端部を方向L2で上下に分けた場合、上下のどちら側に信頼性の傾向があるかを示すものであり、例えば、図44で定義する方向L0とL1のグループ全体の信頼性と、方向L3,L4のグループ全体の信頼性のそれぞれの和をとった値の差分をステップS204の処理により、求めて、その大小比較から、水平方向に対して上下のどちらに傾いているかを求め、信頼性の傾向を示すグループの中から、最も信頼性の高い方向が選択されるようになっている。
【0229】
ステップS206において、方向選択部126は、最も信頼性の高い方向が複数に存在するか否かを判定し、例えば、複数の存在する場合、ステップS207において、選択された複数の最も信頼性の高い方向の中から、最も水平方向に近い方向を選択する。一方、ステップS206において、最も信頼性の高い方向が複数に存在しない場合は、ステップS207の処理がスキップされて、ステップS204またはS205の処理で選択された方向がそのまま選択される。すなわち、信頼性の程度が同じ方向があった場合は、水平方向に近いものが選択される。
【0230】
ステップS208において、方向選択部126は、例外条件に含まれるか否かを判定する。すなわち、方向選択部126は、以下の式(29)乃至式(31)のいずれかを満たす場合、例外であると判定し、ステップS209において、水平方向(図44の方向L2)を選択する。
【0231】
Population_LI(I=(N-1)/2)−Population(Best_Dir)≧−1・・・(29)
Tendency(X,Y)<(PM)/3・・・(30)
Total_ Population(X,Y)<(PM)/3・・・(31)
【0232】
ここで、Population_LI(I=(N-1)/2)は、水平方向の信頼度であり、Population(Best_Dir)は、ステップS201乃至S207の処理で選択された方向の信頼度である。または、Tendency(X,Y)は、Balance関数が正の場合は、Σ(I=(N+1)/2,N-1)(Population(LI))を示し、負の場合は、Σ(I= 0,(N-3)/2)(Population(LI))を示す。すなわち、方向を示す矢印の右端部の位置を上下のグループに分けたときの信頼性の高いグループの信頼度の和である。Total_ Population(X,Y)は、注目画素が(X,Y)の時の信頼度の和である。
【0233】
すなわち、式(29)が満たされる場合、ステップS201乃至S207の処理で選択された方向の信頼度よりも水平方向の信頼度の方が高いことになるので、水平方向の方がより正しい方向の選択となる。また、式(30),式(31)が満たされる場合、信頼性の高いグループの信頼度の和が所定の閾値である(PM)/3よりも小さいことになるので、全体として比較できる精度の画素がなかったものと判断して、水平方向を選択する。尚、閾値(PM)/3は、他の値に設定するようにしてもよい。
【0234】
ステップS210において、方向選択部126は、選択された方向の情報を斜め補間部128に出力する。
【0235】
ここで、図40のフローチャートの説明に戻る。
【0236】
ステップS183において、線形補間部127は、注目画素に対して水平方向の左右に存在する画素間の平均画素値を線形補間画素として求めて合成部130に出力し、同時に、斜補間部128は、方向選択部126より入力された選択された方向に存在する画素間の平均画素値を線形補間画素値として合成部に出力する。
【0237】
ステップS184において、斜重み付け部129は、以下の式(32)で示すように、注目画素(X,Y)の斜方向の重みweight_slant(X,Y)を設定し、合成部130に出力する。
【0238】
【0239】
すなわち、斜方向の重みは、全信頼度に対するBalance関数(或いは、Tendency関数)の絶対値の割合として設定される。
【0240】
ステップS185において、合成部130は、以下の式(33)の演算により、線形補間部127より入力された線形補間画素と斜補間画素とを重み付けして合成し、補間画素として出力する。
【0241】
【0242】
ここで、v-buffer(X-1,Y)と v-buffer(X+1,Y)は、注目画素の左右に存在する画素値であり、h-buffer(X-1,Y+Best_Dir-(N-1)/2)+ h-buffer(X-1,Y-Best_Dir-(N-1)/2)は、注目画素からみて選択された方向の対角線上で、かつ、左右の列上に存在する画素値である。
【0243】
すなわち、線形補間画素にかかる重みは、(1- weight_slant(X,Y))で表現できるので、線形補間で求められた画素値には、線形補間に係る重みとして(1- weight_slant(X,Y))を乗じ、斜補間画素にかかる重みとしてweight_slant(X,Y)が乗じられて、線形和をとって最終的な補間画素とする。これにより、水平方向と斜方向の補間が、その重みによりバランスよく合成されるため、正確な補間画素を生成することが可能となる。
【0244】
Vバッファ51の個々の未知の行の各画素を求めるため、同様の処理が繰り返し実行される。
【0245】
図45は、以上のケース2の処理を概念的に表したものである。同図に示されるように、Vバッファ51の列Xが、仮想水平2倍拡大画像2X_image中の所定の列と所定の関係にある場合、Hバッファ31のn列と、n+1列から方向補間処理により生成されたデータが2Xバッファ61に記憶され、それがVバッファ51の列Xにコピーされる。
【0246】
次に、図46のフローチャートを参照して、図37のステップS152におけるケース3のVバッファに対する処理について説明する。
【0247】
このケースは、2n<2X_column<2n+1、または、2n-1<2X_column<2nのケースの場合、つまり、Vバッファ51中の列Xの値が、仮想水平2倍拡大画像2X_imageの列2X_columnのいずれにも対応せず、かつ、Hバッファ31のどの列とも対応しない場合である。
【0248】
この場合、ステップS221において、2X_columnの値が2nより大きく、且つ2n+1より小さいか否かが判定される。2X_columnの値が2nより大きく、且つ2n+1より小さい場合、仮想水平2倍拡大画像2X_imageの2n+1列と2nから、Vバッファ51のX列が生成される。
【0249】
そこで、この場合、ステップS222において、高速水平アップサンプリング処理部15は、仮想水平2倍拡大画像2X_imageの2n+1列を、隣接する上列2n列と、下列2n+2列(Hバッファ31におけるn列とn+1列)を用いて、図40のケース2のフローチャートに示すステップS171乃至ステップS185の処理で計算する。ステップS222で計算された結果は、Vバッファ51における次のn+1列の計算に使用する可能性があるので、ステップS223において、2Xバッファ61に格納される。
【0250】
さらに、ステップS224において、ステップS222で計算された2n+1列(2Xバッファ61に記憶されている値)と、仮想水平2倍拡大画像2X_imageの2n列(Hバッファ31のn列)から、Vバッファ51のX列が次式から演算され、Vバッファ51の列Xに記憶される。
【0251】
【0252】
一方、ステップS221において、2X_columnが2nより大きく、且つ2n+1より小さいと判定されなかった場合(2X_columnが2n-1より大きく、2nより小さいと判定された場合)、仮想水平2倍拡大画像2X_imageの2n-1列と2n列から、Vバッファ51のX列が生成される。この2n-1列は、Vバッファ51中の前列を求める際に計算され、2Xバッファ61に既に格納されている場合がある。そこでステップS225において、2n-1列が2Xバッファ61に既に格納されているか否かが判定され、格納されている場合には、ステップS228において、2n-1列が2Xバッファ61から取り出される。
【0253】
これに対して、ステップS225において、2n-1列のデータが2Xバッファ61にまだ格納されていないと判定された場合、ステップS226に進み、仮想水平2倍拡大画像2X_imageの2n-1列を、上列2n-2列と下列2n列(Hバッファ31のn-1列とn列)を用い、図40のケース2のフローチャートのステップS171乃至ステップS185の処理により計算する処理が実列される。ステップS226で計算された2n-1列の値は、ステップS227において、Vバッファ51における次のX+1列の計算に使用する可能性があるので、2Xバッファ61に格納される。
【0254】
ステップS227、またはステップS228の処理の後、ステップS229に進み、得られた2n-1列と、仮想水平2倍拡大画像2X_imageの2n列(Hバッファ31のn列)からVバッファ51のX列が次式に従って補間される。
【0255】
【0256】
この処理は、Y=0からIn_height×alpha_Zより小さい値である期間、Yの値をインクリメントしつつ行われる。
【0257】
Vバッファ51の個々の未知の列の各画素を求めるため、(−1<Y<alpha_Z×In_height−N+1)と、(−1<Y<alpha_Z×In_width−1)の条件を満たす座標(X,Y+N/2)で、同様の処理が繰り返し実行される。
【0258】
このように、ケース3の処理においては、仮想水平2倍拡大画像2X_image中の2n列と2n+1列、または2n-1列と2n列を用いて、重み付け補間が実行される。
【0259】
以上の図46のケース3に示す処理を模式的に表すと、図47に示すようになる。Vバッファ51中の列Xの値が、仮想水平2倍拡大画像2X_imageの列と所定の関係にある場合、原画像I_imageのn列と、n+1列から方向補間処理により2n+1列、または2n-1列のデータが生成され、2Xバッファ61に記憶される。そして、2Xバッファ61に記憶された値と、仮想水平2倍拡大画像2X_imageの2n列のデータから、Vバッファ51のX列のデータが重み付け補間される。
【0260】
以上のようにして、ステップS21において、設定されているモードが、画像モードであると判定された場合、ステップS22乃至ステップS25の処理が行われるのであるが、ステップS21において、設定されているモードが画像モードではないと判定された場合(コンピュータのアイコンやワードプロセッサのフォントなどの弱接続の画像が処理される場合)、ステップS22乃至ステップS25の処理が行われる前に、ステップS26において、エッジコネクタ処理が実行される。図48と図49は、このエッジコネクタ処理の詳細を表している。このエッジコネクタ処理は、エッジコネクタ処理部11により実行される。
【0261】
最初にステップS241において、所定の画素(X,Y)に対応して、2×2個の画素が切り出される。そしてステップS242とステップS243において、それぞれ右対角エネルギと、左対角エネルギが計算される。右対角エネルギは、2×2個の画素のうち、右上の画素から左下の画素を減算することで求められ、左対角エネルギは、左上画素から右下画素を減算することで求められる。
【0262】
例えば、画素(X,Y)を図50Aにおける画素(ピクセル)0とした場合、右対角エネルギは、図50Aに示されるように、ピクセル1からピクセル2の値を減算することで求められ、左対角エネルギは、図50Bに示されるように、ピクセル0からピクセル3の値を減算することにより求められる。
【0263】
次に、ステップS244において、左対角線上の画素値は、右対角線上の画素値より小さいか否かが判定される。図50A,Bの例の場合、ピクセル0とピクセル3の画素値が、ピクセル1とピクセル2の画素値より小さいか否かが判定される。
【0264】
ステップS244において、左対角線上の画素値が右対角線上の画素値より小さいと判定された場合、ステップS245に進み、ステップS243で演算された左対角エネルギは、予め設定されている所定の閾値より小さいか否かが判定される。左対角エネルギが閾値より小さい場合、ステップS246に進み、画素(ピクセル)2は、画素(ピクセル)1より小さいか否かが判定される。画素2が画素1より小さい場合には、ステップS247において、画素1を、画素0と画素3の平均値とする処理が実行される。ステップS246において、画素2が画素1より小さくない(等しいか大きいと判定された場合)、ステップS248に進み、画素2を、画素0と画素3の平均値とする処理が実行される。
【0265】
図51Aは、ステップS247の処理の結果、画素1の値が画素0と画素3の平均値とされた場合を表している。
【0266】
ステップS245において、左対角エネルギが閾値と等しいか閾値より大きいと判定された場合、ステップS246乃至ステップS248の処理はスキップされる。
【0267】
ステップS244において、左対角線上の画素値が右対角線上の画素値より小さくないと判定された場合(等しいかより大きいと判定された場合)、ステップS249に進み、ステップS242で演算された右対角エネルギが、予め設定されている所定の閾値より小さいか否かが判定される。右対角エネルギが閾値より小さい場合には、ステップS250に進み、画素3は、画素0より小さいか否かが判定される。画素3が画素0より小さい場合には、ステップS251において、画素0を、画素1と画素2の平均値とする処理が行われる。ステップS250において、画素3が画素0より小さくない(等しいかより大きい)と判定された場合、ステップS252に進み、画素3を、画素1と画素2の平均値とする処理が実行される。
【0268】
図51Bは、ステップS252における処理により、画素3が、画素1と画素2の平均値とされた場合の例を示している。
【0269】
ステップS249において、右対角エネルギが閾値より小さくないと判定された場合、ステップS250乃至ステップS252の処理はスキップされる。
【0270】
アイコンやフォントなどの弱接続を有するエッジを、以上のエッジコネクタ処理により厚くすることで、エッジ構造を強くすることができる。これにより、図50A,Bに示されるように、エッジが局所的に、たった2つの対角線上にしか存在しない弱接続が存在する場合に、図24のステップS95におけるエッジ方向計算処理、或いは、図40におけるステップS175のエッジ方向計算処理などにより、エッジ方向を認識する際、極端な誤解を引き起こしてしまい、結果的にエッジの連続性を破壊してしまうようなことが抑制される。
【0271】
次に、図2のステップS8のズーム処理について説明する。このズーム処理の詳細は、図52のフローチャートに示されている。図52におけるステップS271乃至ステップS275の処理は、図11の高速ズーム処理におけるステップS21乃至ステップS25の処理と基本的に同様の処理となっている。
【0272】
図52のステップS276におけるエッジコネクタ処理、ステップS272における1次元垂直イメージリフレッシュ処理、およびステップS273における1次元水平イメージリフレッシュ処理は、それぞれ、図11のステップS22の1次元垂直イメージリフレッシュ処理、および、ステップS23のステップS15の1次元水平イメージリフレッシュ処理と同様の処理であるので、その説明は省略する。以下においては、ステップS274における垂直アップサンプリング処理と、ステップS275における水平アップサンプリング処理についてのみ説明する。
【0273】
最初に図53のフローチャートを参照して、ステップS274における垂直アップサンプリング処理について説明する。この処理は、垂直アップサンプリング処理部13により実行される。
【0274】
最初にステップS291において、垂直アップサンプラ141は、Hバッファ31を作成する。そのサイズは、In_width×(2×In_height)とされる。次に、ステップS292において、垂直アップサンプラ141は、図54に示されるように、原画像I_imageのY行をHバッファ31の行2Yにコピーする。Hバッファ31の最後の行には、原画像I_imageの最後の行がコピーされる。
【0275】
次に、ステップS293において、垂直方向補間部142のエッジ検出部122は、原画像I_image中の上行up_lineと下行down_lineのN画素を抽出する。上行up_lineの中心座標は、(X+N/2,n)となり、下行down_lineの中心座標は、(X+N/2,n+1)となる。
【0276】
次にステップS294において、エッジ検出部122は、局所エネルギE(N)を上述の式(11)より算出する。
【0277】
次に、ステップS295において、エッジ検出部122は、局所エネルギE(N)が予め設定されている所定の閾値Tより大きいか否かを判定する。局所エネルギE(N)が閾値Tと等しいか、それより小さい場合、その領域は、エッジを含まない平坦な低エネルギの領域と見なされる。この場合、潜在的エッジの方向を計算する必要がない。このため、ステップS296に進み、方向補間部131が、Hバッファ31中の座標(X+N/2,Y)の画素データとして、隣接する上行中心画素ab_line(N/2)と、隣接する下行中心画素down_line(N/2)の平均値を演算し、Hバッファ31のその座標(X+N/2,Y)に格納すると共に、垂直方向を示す方向情報を信頼度格付部124、および、方向性分布生成部125に出力する。また、信頼度格付部124は、この補間画素について信頼度が低いことを示す0を方向性分布生成部125に出力する。すなわち、ステップS296においては、上述の式(12)に基づいて、標準的な線形補間処理が行われる。
【0278】
ステップS295において、局所エネルギE(N)の値が閾値Tより大きいと判定された場合、その領域は、潜在的エッジを含んだ高エネルギ領域と見なされる。このとき、ステップS297において、エッジ方向を試験的に計算する処理が実行される。具体的には、以下に示す演算が、x=N-1から−1より大きくなるまで行われる。
【0279】
Energy=ABS(up_line(N-x-1)−down_line(x))・・・(36)
【0280】
上記の式(36)で計算されたエネルギの値のうち、最も小さいものが選択され、その2つの画素が対応する対角線の方向が局所的なエッジの方向と見なされる。
【0281】
ステップS297の処理で、エッジ方向が検出された場合、さらにステップS298において、方向補間部131は、その検出されたエッジ方向の画素を用いて、補間処理を行う(方向補間処理を行う)。この方向補間処理は、エッジ方向に対応する2つの画素の画素値に基づいて、その間に位置する画素の画素値を補間することを意味する。
【0282】
次に、ステップS299に進み、信頼度格付部124は、構造コレクタ処理を実行する。この構造コレクタ処理は、座標(X+N/2,Y)に補間された画素と、その垂直の近傍画素、すなわち座標up_line(N/2)と、座標down_line(N/2)との関係を解析することで、更新された局所構造(ステップS298の方向補間処理で生成された画素とその上下の画素)の整合性をチェックする処理である。
【0283】
すなわち、この構造コレクタ処理では、上行の中心画素から更新された画素を減算する処理が行われ、さらに、更新された画素から下行の中心画素を減算する処理が行われる。さらに、以上のようにして得られた2つの減算結果を乗算することで、垂直方向の変化を表す値V(N/2)が計算される。ステップS299においては、次の式で示す演算が行われる。
【0284】
【0285】
次に、ステップS300において、信頼度格付部124は、ステップS299での演算結果に基づいて、更新された局所構造の整合性があるか否かを判定する。この判定は、上記の式(37)で演算された値V(N/2)が正であるか否かに基づいて行われる。値V(N/2)が正である場合には、整合性があると見なされ、ステップS301において、信頼度格付部124は、その補間画素の信頼度を1として方向性分布生成部125に出力する。
【0286】
これに対して、ステップS300において、値V(N/2)が負であると判定された場合、整合性はないと見なされる。すなわち、局所方向の識別が誤っており、ステップS237で生成された画素値は、適切でないと判断される。この場合、局所エッジの方向は、識別不可能と見なされ、この場合、信頼度格付部124は、ステップS302において、その補間画素の信頼度を0として方向性分布生成部125に出力する。
【0287】
ステップS303において、注目画素に対する注目領域の全ての補間画素が補間されたか否かが判定され、注目領域の全ての補間画素が補間されていないと判定された場合、その処理は、ステップS291に戻り、全ての補間画素が補間されるまで、ステップS291乃至S303の処理が繰り返され、ステップS303において、全ての補間画素が補間されたと判定された場合、その処理は、ステップS304に進む。ここで、注目画素に対する注目領域とは、例えば、図28で示したP(画素数)×M(ライン)の範囲の補間画素である。そして、ステップS304において、方向選択処理が実行される。尚、ステップS304の方向選択処理は、図24のフローチャートを参照して説明したステップS102の処理と同様であるので、その説明は省略する。
【0288】
ステップS305において、線形補間部127は、注目画素に対して垂直方向の上下に存在する画素間の平均画素値を線形補間画素として求めて合成部130に出力し、同時に、斜補間部128は、方向選択部126より入力された選択された方向に存在する画素間の平均画素値を線形補間画素値として合成部に出力する。
【0289】
ステップS306において、斜重み付け部129は、上述の式(19)により注目画素(X,Y)の斜方向の重みweight_slant(X,Y)を設定し、合成部130に出力する。
【0290】
ステップS307において、合成部130は、上述の式(20)の演算により、線形補間部127より入力された線形補間画素と斜補間画素とを重み付けして合成し、補間画素として出力する。
【0291】
図55は、図52のステップS275における水平アップサンプリング処理の詳細を表している。この処理は、水平アップサンプリング処理部15により実行される。
【0292】
最初にステップS321において、水平アップサンプラ161は、Vバッファ51を作成する。そのサイズは、2×In_width×2×In_heightとされる。ステップS322において、水平アップサンプラ161は、Hバッファ31のX列をVバッファ51の2X列にコピーする。Xの値は−1より大きく、In_widthより小さい値とされる。
【0293】
ステップS323において、垂直方向補間部162のエッジ検出部122は、Hバッファ31中の左列left_column、および右列right_columnを抽出する。左列left_columnの中心座標は、(n,Y+N/2)とされ、右列right_columnの矩形の中心座標は、(n+1,Y+N/2)とされる。
【0294】
次にステップS324において、エッジ検出部122は、局所エネルギE(N)が、左列left_columnの個々の画素から、対角線上に位置する右列right_columnの画素を減算し、その絶対値の和を演算することで求められる。すなわち、この処理では上述の式(24)が演算される。
【0295】
次にステップS325において、エネルギE(N)が予め設定された閾値Tより大きいか否かが判定される。エネルギE(N)が閾値Tと等しいか、それより小さい場合、その領域はエッジを含まない平坦な低エネルギ領域と見なされる。この場合、潜在的なエッジの方向を計算する必要がない。このためステップS326に進み、標準的な線形補間処理が行われる。すなわち、上述の式(25)に示すように、隣接する左列の中心画素left_column(N/2)と、隣接する右列の中心画素right_column(N/2)の平均値から、新しい画素(X+N/2,Y)の画素値が演算される。
【0296】
ステップS325において、エネルギE(N)が閾値Tより大きいと判定された場合、その領域は潜在的にエッジを含んでいる高エネルギ領域と見なされる。そこで、この場合、ステップS327に進み、次式にしたがってエッジ方向計算処理が実行される。
【0297】
Energy=ABS(left_column(N−x−1)−right_column(x))・・・(38)
【0298】
上記演算は、x=N−1からxの値を順次デクリメントし、xが−1より大きい間繰り返される。
【0299】
計算されたエネルギのうち、最も小さい値に対応する画素の対角線の方向が局所的なエッジの方向と判定される。
【0300】
ステップS327でエッジ方向が判定されると、ステップS328において、方向補間部131は、ステップS327で判定されたエッジ方向の2つの画素の平均値を演算することで、その間の画素を補間する(方向補間処理が実行される)。
【0301】
次に、ステップS329において、構造コレクタ処理が実行される。すなわち、Vバッファ51中の座標(X,Y+N/2)に補間された画素と、その水平方向の近傍画素である座標left_column(N/2)の画素、およびright_column(N/2)の画素との関係を解析することで局所構造の整合性をチェックする処理が行われる。このため、次式に従って、補間された画素を左列の中心の画素から減算し、右列の中心画素を補間された画素から減算することで2つの減算結果を得、さらに2つの減算結果を乗算することで、水平方向の変化を表す値H(N/2)が計算される。
【0302】
【0303】
ステップS330において、ステップS329の処理で演算された値H(N/2)に基づき、補間された局所構造に整合性があるか否かが判定される。具体的には、値H(N/2)が正であるか否かが判定される。値H(N/2)が正である場合には、ステップS328の方向補間処理で求められた画素は正しい(整合性がある)ものとされ、ステップS331において、その補間画素の信頼度を1として方向性分布生成部125に出力する。
【0304】
ステップS330において、値H(N/2)が負である場合(整合性がない、すなわち、ステップS328の方向補間処理で生成された画素値は適切でないと判定された場合)、ステップS332に進み、信頼度格付部124は、その補間画素の信頼度を0として方向性分布生成部125に出力する。
【0305】
ステップS333において、注目画素に対する注目領域の全ての補間画素が補間されたか否かが判定され、注目領域の全ての補間画素が補間されていないと判定された場合、その処理は、ステップS321に戻り、全ての補間画素が補間されるまで、ステップS321乃至S333の処理が繰り返され、ステップS333において、全ての補間画素が補間されたと判定された場合、その処理は、ステップS334に進む。
【0306】
ここで、注目画素に対する注目領域とは、例えば、図42で示したM(画素数)×P(ライン)の範囲の補間画素である。そして、ステップS334において、方向選択処理が実行される。尚、ステップS334の方向選択処理は、図40のフローチャートを参照して説明したステップS182の処理と同様であるので、その説明は省略する。
【0307】
ステップS335において、線形補間部127は、注目画素に対して水平方向の左右に存在する画素間の平均画素値を線形補間画素として求めて合成部130に出力し、同時に、斜補間部128は、方向選択部126より入力された選択された方向に存在する画素間の平均画素値を斜補間画素値として合成部に出力する。
【0308】
ステップS336において、斜重み付け部129は、上述の式(19)により注目画素(X,Y)の斜方向の重みweight_slant(X,Y)を設定し、合成部130に出力する。
【0309】
ステップS337において、合成部130は、上述の式(20)の演算により、線形補間部127より入力された線形補間画素と斜補間画素とを重み付けして合成し、補間画素として出力する。
【0310】
図56は、以上の図55おける水平アップサンプリング処理の概念を表している。同図に示されるように、Hバッファ31のX列のデータが、Vバッファ51の2X列にコピーされる。そして、その間の列のデータが補間される。
【0311】
以上のようにして、画像の解像度を任意の倍率で変更することができる。この場合、例えば、画像を6倍に拡大するとき、ズーム処理を2回繰り返し、4倍の画像を得た後、3/2倍の高速ズーム処理を行うこともできるし、ズーム処理を3回繰り返し、8倍の画像を得た後、3/4倍の線形縮小処理を行うこともできる。
【0312】
また、図12,図16のフローチャートで説明したように、1次元垂直イメージリフレッシュ処理、および、1次元水平イメージリフレッシュ処理は、エッジとテクスチャを識別し、エッジに対しては、フィルタ処理とクリッピング処理を施し、テクスチャに対しては、フィルタ処理のみを施すと言ったように処理内容を分けて、それぞれに対応した適切な処理を施すことが可能となる。
【0313】
さらに、上述のように、図10、または、図52で示すように、高速ズーム処理、または、ズーム処理において、垂直アップサンプリング処理、および、水平アップサンプリング処理を行う前に、1次元垂直イメージリフレッシュ処理、および、1次元水平イメージリフレッシュ処理を実行することにより、1次元垂直イメージリフレッシュ処理、および、1次元水平イメージリフレッシュ処理は、画素数が拡大される前の原画像の画素数での処理を実行するだけで済むため、図14,図15,図18,図19で示す1次元垂直フィルタ、および、1次元水平フィルタのフィルタタップ数を、拡大処理後の画素数に対応させる必要がなく、その分計算処理量を低減させることができ、処理の高速化を実現することが可能となる。
【0314】
また、1次元垂直フィルタ、および、1次元水平フィルタの係数αが、垂直中心画素エネルギEV、および、水平中心画素エネルギEHの値の変化に動的に対応するため、エッジ、または、テクスチャへの強調処理の強弱を適切に変化させることが可能となる。
【0315】
さらに、図24,図40,図53,図55のフローチャートを参照して説明したように、方向補間における方向を方向性分布を用いることにより、正確に判断することが可能となる。また、方向性分布により判断された斜補間によって求められる画素値と、線形補間された画素値とを、方向性分布に基づいて重み付けして線形和として補間画素を合成して、生成することにより、正確に画素値を補間することが可能となる。
【0316】
結果として、画像の解像度を変換することにより生じる画像上のエラーを抑制することができ、鮮明な変換画像を生成することが可能となる。図57は、従来の技術(特願2001−201729にて出願された発明を適用した技術)により解像度変換された画像を示しており、図58は、本願発明の手法を適用して解像度変換された画像である。
【0317】
両者は、共に均一な2本の曲線を表示した画像である。図58の画像は、図57の画像に比較して、2本の曲線の太さがより均一に表現されており、より鮮明な画像が生成されている。すなわち、本発明によれば、解像度変換により生じるエラーが抑制されるので、鮮明な解像度変換画像が生成されている。
【0318】
尚、以上の例においては、水平方向、および、垂直方向のそれぞれに拡大する場合について説明してきたが、いずれか一方向のみを拡大するようにしてもよい。このとき、垂直方向にのみ拡大する処理は、インタレース画像からプログレッシブ画像に変換する、いわゆるIP変換と同様の処理となるため、本発明は、IP変換にも応用することが可能である。尚、実際の処理については、上述で説明した処理における水平方向、または、垂直方向のいずれかの拡大率を1としたときの処理としてもよいし、または、水平方向、または、垂直方向のいずれか一方の処理をスキップすることにより実現されるので、その説明は省略する。
【0319】
図59は、図1に示した機能ブロックを有する画像処理装置2のハードウェアの構成例を表している。CPU(Central Processing Unit)311は、ROM(Read Only Memory)312に記憶されているプログラム、または記憶部318からRAM(Random Access Memory)313にロードされたプログラムに従って各種の処理を実行する。RAM313にはまた、CPU311が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0320】
CPU311、ROM312、およびRAM313は、バス314を介して相互に接続されている。このバス314にはまた、入出力インタフェース315も接続されている。
【0321】
入出力インタフェース315には、キーボード、マウスなどよりなる入力部316、CRT,LCDなどよりなるディスプレイ、並びにスピーカなどよりなる出力部317、ハードディスクなどより構成される記憶部318、モデム、ターミナルアダプタなどより構成される通信部319が接続されている。通信部319は、インターネットなどに代表されるネットワークを介しての通信処理を行う。
【0322】
入出力インタフェース315には、また、必要に応じてドライブ320が接続され、磁気ディスク331、光ディスク332、光磁気ディスク333、或いは半導体メモリ334などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部318にインストールされる。
【0323】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
【0324】
この記録媒体は、図59に示す装置では、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク331(フレキシブルディスクを含む)、光ディスク332(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク333(MD(Mini-Disc)を含む)、もしくは半導体メモリ334などよりなるパッケージメディアにより構成されるだけでなく、装置に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM312や、記憶部318に含まれるハードディスクなどで構成される。
【0325】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0326】
【発明の効果】
以上の如く、本発明の画像処理装置および方法、並びにプログラムによれば、補間する画素のエッジの方向を正確に把握することができ、さらに、より正確な補間画素を生成することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した画像処理装置の構成例を示すブロック図である。
【図2】図1のエッジコネクタ処理部の構成例を示すブロック図である。
【図3】図1の高速垂直アップサンプリング処理部の構成例を示すブロック図である。
【図4】図3の垂直方向補間部の構成例を示すブロック図である。
【図5】図1の垂直アップサンプリング処理部の構成例を示すブロック図である。
【図6】図1の高速水平アップサンプリング処理部の構成例を示すブロック図である。
【図7】図1の水平アップサンプリング処理部の構成例を示すブロック図である。
【図8】図1の1次元垂直イメージリフレッシュ処理部の構成例を示すブロック図である。
【図9】図1の1次元水平イメージリフレッシュ処理部の構成例を示すブロック図である。
【図10】図1の画像処理装置のズーム処理を説明するフローチャートである。
【図11】図10のステップS4における高速ズーム処理を説明するフローチャートである。
【図12】図11のステップS22における1次元垂直イメージリフレッシュ処理を説明するフローチャートである。
【図13】図11のステップS22における1次元垂直イメージリフレッシュ処理を説明する図である。
【図14】図11のステップS22における1次元垂直イメージリフレッシュ処理を説明する図である。
【図15】図11のステップS22における1次元垂直イメージリフレッシュ処理を説明する図である。
【図16】図11のステップS23における1次元水平イメージリフレッシュ処理を説明するフローチャートである。
【図17】図11のステップS23における1次元水平イメージリフレッシュ処理を説明する図である。
【図18】図11のステップS23における1次元水平イメージリフレッシュ処理を説明する図である。
【図19】図11のステップS23における1次元水平イメージリフレッシュ処理を説明する図である。
【図20】高速垂直アップサンプリング処理を説明する図である。
【図21】図11のステップS24における高速垂直アップサンプリング処理の詳細を説明するフローチャートである。
【図22】図21のステップS72におけるケース1の処理を説明するフローチャートである。
【図23】図22のケース1の処理を説明する図である。
【図24】図21のステップS72におけるケース2の処理を説明するフローチャートである。
【図25】図24のステップS92における局所エネルギの計算を説明する図である。
【図26】図24のステップS94におけるエッジ方向計算処理を説明する図である。
【図27】図24のステップS94におけるエッジ方向計算処理を説明する図である。
【図28】注目領域を説明する図である。
【図29】図24のステップS102における方向選択処理を説明するフローチャートである。
【図30】方向と信頼度の例を説明する図である。
【図31】定義されるエッジの方向を説明する図である。
【図32】方向性分布を説明する図である。
【図33】図21のケース2の処理を説明する図である。
【図34】図21のステップS72におけるケース3の処理を説明するフローチャートである。
【図35】図34におけるケース3の処理を説明する図である。
【図36】図11のステップS24における高速水平アップサンプリングを説明する図である。
【図37】図11のステップS24における高速水平アップサンプリング処理の詳細を説明するフローチャートである。
【図38】図37のステップS152におけるケース1の処理を説明するフローチャートである。
【図39】図37のケース1の処理を説明する図である。
【図40】図37のステップS152におけるケース2の処理を説明するフローチャートである。
【図41】図37のケース2の処理を説明する図である。
【図42】注目画素を説明する図である。
【図43】図40のステップS182における方向選択処理を説明するフローチャートである。
【図44】定義されるエッジの方向を説明する図である。
【図45】図37のケース2の処理を説明する図である。
【図46】図37のステップS152におけるケース3の処理を説明するフローチャートである。
【図47】図46のケース3の処理を説明する図である。
【図48】図11のステップS26におけるエッジコネクタ処理の詳細を説明するフローチャートである。
【図49】図11のステップS26におけるエッジコネクタ処理の詳細を説明するフローチャートである。
【図50】図48のステップS242とステップS243における右対角エネルギと左対角エネルギを説明する図である。
【図51】図48のステップS247と図49のステップS252における処理を説明する図である。
【図52】図2のステップS8におけるズーム処理を説明するフローチャートである。
【図53】図52におけるステップS274の垂直アップサンプリング処理の詳細を説明するフローチャートである。
【図54】図53の垂直アップサンプリング処理を説明する図である。
【図55】図52のステップS275における水平アップサンプリング処理を説明するフローチャートである。
【図56】図55の水平アップサンプリング処理を説明する図である。
【図57】従来の解像度変換方式で解像度を変換した画像を示す図である。
【図58】本発明を適用した解像度変換方式で解像度を変換した画像を示す図である。
【図59】図1の画像処理装置のハードウェアの構成例を示すブロック図である。
【符号の説明】
1 画像入力部, 2 画像処理部, 3 画像出力部, 10 画像処理装置, 11 エッジコネクタ処理部, 12 高速垂直アップサンプリング処理部, 13 垂直アップサンプリング処理部, 14 高速水平アップサンプリング処理部, 15 水平アップサンプリング処理部, 16 線形縮小処理部, 17 1次元垂直イメージリフレッシュ処理部,17a バッファ, 181次元水平エッジビルダ処理部, 18a バッファ
Claims (26)
- 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置において、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算手段と、
前記エネルギ計算手段により計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調手段と、
前記エッジ強調手段により強調された前記エッジの方向を検出するエッジ方向検出手段と、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間手段と、
前記エッジ方向検出手段により検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間手段と、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間手段と、
前記エネルギ計算手段により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、
前記中心画素エネルギと、前記最小値、および、前記最小値よりも大きく前記最大値よりも小さい所定の閾値とを比較する比較手段と、
前記エネルギ計算手段により計算された前記中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調手段とを備え、
前記比較手段の比較結果により、前記中心画素エネルギが、前記最小値以上で、かつ、前記閾値未満の場合、前記テクスチャ強調手段は、前記所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調する
ことを特徴とする画像処理装置。 - 前記エネルギ計算手段は、前記原画像の所定の画素の水平方向、または、垂直方向の中心画素エネルギを、前記画素の近傍に存在する近傍画素の画素値より計算する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記フィルタ処理は、所定のフィルタの係数を、対応する画素に乗算し、その積を加算する1次元フィルタ処理である
ことを特徴とする請求項1に記載の画像処理装置。 - 前記所定のフィルタの係数は、前記中心画素エネルギに対応する値である
ことを特徴とする請求項3に記載の画像処理装置。 - 前記フィルタ処理は、前記原画像の垂直方向と水平方向のそれぞれの方向について行う処理である
ことを特徴とする請求項1に記載の画像処理装置。 - 前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、前記合成補間手段は、プログレッシブ画像の前記合成補間画素を補間する
ことを特徴とする請求項1に記載の画像処理装置。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置の画像処理方法において、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値、および、前記最小値よりも大きく前記最大値よりも小さい所定の閾値とを比較する比較ステップと、
前記エネルギ計算ステップの処理により計算された前記中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調ステップとを含み、
前記比較ステップの処理での比較結果により、前記中心画素エネルギが、前記最小値以上で、かつ、前記閾値未満の場合、前記テクスチャ強調ステップは、前記所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調する
ことを特徴とする画像処理方法。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するプログラムであって、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値、および、前記最小値よりも大きく前記最大値よりも小さい所定の閾値とを比較する比較ステップと、
前記エネルギ計算ステップの処理により計算された前記中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調ステップとを含み、
前記比較ステップの処理の比較結果により、前記中心画素エネルギが、前記最小値以上で、かつ、前記閾値未満の場合、前記テクスチャ強調ステップの処理は、前記所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調する
ことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するコンピュータに、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値、および、前記最小値よりも大きく前記最大値よりも小さい所定の閾値とを比較する比較ステップと、
前記エネルギ計算ステップの処理により計算された前記中心画素エネルギに基づいて、テクスチャを強調するテクスチャ強調ステップとを含む処理を実行させ、
前記比較ステップの処理の比較結果により、前記中心画素エネルギが、前記最小値以上で、かつ、前記閾値未満の場合、前記テクスチャ強調ステップの処理は、前記所定の画素をテクスチャ領域に属するものとみなし、フィルタ処理を施すことによりテクスチャを強調する
ことを特徴とするプログラム。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置において、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算手段と、
前記エネルギ計算手段により計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調手段と、
前記エッジ強調手段により強調された前記エッジの方向を検出するエッジ方向検出手段と、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間手段と、
前記エッジ方向検出手段により検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間手段と、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間手段と、
前記エネルギ計算手段により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出手段と、
前記中心画素エネルギと、前記最小値よりも大きく前記最大値よりも小さい所定の閾値、および、前記最大値とを比較する第1の比較手段とを備え、
前記第1の比較手段の第1の比較結果により、前記中心画素エネルギが、前記閾値以上で、かつ、前記最大値未満の場合、前記エッジ強調手段は、前記所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調する
ことを特徴とする画像処理装置。 - 前記エネルギ計算手段は、前記原画像の所定の画素の水平方向、または、垂直方向の中心画素エネルギを、前記画素の近傍に存在する近傍画素の画素値より計算する
ことを特徴とする請求項10に記載の画像処理装置。 - 前記フィルタ処理は、所定のフィルタの係数を、対応する画素に乗算し、その積を加算する 1 次元フィルタ処理である
ことを特徴とする請求項11に記載の画像処理装置。 - 前記所定のフィルタの係数は、前記中心画素エネルギに対応する値である
ことを特徴とする請求項12に記載の画像処理装置。 - 前記フィルタ処理は、前記原画像の垂直方向と水平方向のそれぞれの方向について行う処理である
ことを特徴とする請求項11に記載の画像処理装置。 - 前記フィルタ処理が施された画素の画素値と、前記最大値、および、前記最小値を比較する第2の比較手段を備え、
前記クリッピング処理は、前記第2の比較手段の第2の比較結果に対応して、前記フィルタ処理が施された画素の画素値が、前記最大値よりも大きい場合、前記フィルタ処理された画素の画素値を最大値に置換する処理であり、前記フィルタ処理された画素の画素値が、前記最小値よりも小さい場合、前記フィルタ処理された画素の画素値を最小値に置換する処理である
ことを特徴とする請求項11に記載の画像処理装置。 - 前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、前記合成補間手段は、プログレッシブ画像の前記合成補間画素を補間する
ことを特徴とする請求項10に記載の画像処理装置。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置の画像処理方法において、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値よりも大きく前記最大値よりも小さい所定の閾値、および、前記最大値とを比較する第1の比較ステップとを含み、
前記第1の比較ステップの処理での第1の比較結果により、前記中心画素エネルギが、前記閾値以上で、かつ、前記最大値未満の場合、前記エッジ強調ステップの処理は、前記所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調する
ことを特徴とする画像処理方法。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するプログラムであって、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値よりも大きく前記最大値よりも小さい所定の閾値、および、前記最大値とを比較する第1の比較ステップとを含む処理をコンピュータに実行させ、
前記第1の比較ステップの処理での第1の比較結果により、前記中心画素エネルギが、前記閾値以上で、かつ、前記最大値未満の場合、前記エッジ強調ステップの処理は、前記所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調する
ことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するコンピュータに、
前記注目画素位置の中心画素エネルギを計算するエネルギ計算ステップと、
前記エネルギ計算ステップの処理で計算された前記中心画素エネルギに基づいて、エッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理で強調された前記エッジの方向を検出するエッジ方向検出ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記エッジ方向検出ステップの処理で検出されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップと、
前記エネルギ計算ステップの処理により使用された前記近傍画素のうち、前記所定の画素を中心として、垂直方向、または、水平方向に配列された前記近傍画素の画素値の、最大値、および、最小値を検出する最大値最小値検出ステップと、
前記中心画素エネルギと、前記最小値よりも大きく前記最大値よりも小さい所定の閾値、および、前記最大値とを比較する第1の比較ステップとを含む処理をコンピュータに実行させ、
前記第1の比較ステップの処理での第1の比較結果により、前記中心画素エネルギが、前記閾値以上で、かつ、前記最大値未満の場合、前記エッジ強調ステップの処理は、前記所定の画素をエッジ領域に属するものとみなし、フィルタ処理を施し、さらに、クリッピング処理を施すことによりエッジを強調する
ことを特徴とするプログラム。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置において、
注目画素位置の前記エッジの方向を検出する方向検出手段と、
前記方向検出手段により検出された前記エッジの方向に基づいて、前記注目画素位置にエッジ方向補間画素を補間するエッジ方向補間手段と、
前記エッジ方向補間手段により補間されたエッジ方向補間画素の信頼度を検出する信頼度検出手段と、
前記信頼度検出手段により検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択手段と、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間手段と、
前記方向選択手段により選択されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間手段と、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間手段とを備え、
前記方向選択手段は、前記エッジの方向毎の前記注目画素と前記エッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示す前記エッジの方向のグループの中から最も信頼性の高い方向を選択する
ことを特徴とする画像処理装置。 - 前記エッジ方向補間手段により補間されたエッジ方向補間画素の局所的構造の整合性を判定する整合性判定手段をさらに備え、
前記信頼度検出手段は、前記整合性判定手段の判定結果に基づいて、前記エッジ方向補間手段により補間されたエッジ方向補間画素の信頼度を検出する
ことを特徴とする請求項20に記載の画像処理装置。 - 前記方向選択手段により選択された最も信頼度の高い方向の信頼度に基づいて、前記方向選択補間画素の重みを設定する重み設定手段をさらに備え、
前記合成補間手段は、前記重み設定手段により設定された前記重みに対応する係数を用いて、前記線形補間画素と前記選択補間画素の線形和をとることにより合成して合成補間画素を補間する
ことを特徴とする請求項21に記載の画像処理装置。 - 前記原画像が、インタレース画像の場合、垂直方向にのみ2倍に拡大するとき、前記合成補間手段は、プログレッシブ画像の前記合成補間画素を補間する
ことを特徴とする請求項20に記載の画像処理装置。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置の画像処理方法において、
注目画素位置の前記エッジの方向を検出する方向検出ステップと、
前記方向検出ステップの処理で検出された前記エッジの方向に基づいて、前記注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、
前記エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、
前記信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記方向選択ステップの処理で選択されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含み、
前記方向選択ステップの処理は、前記エッジの方向毎の前記注目画素と前記エッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示す前記エッジの方向のグループの中から最も信 頼性の高い方向を選択する
ことを特徴とする画像処理方法。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するプログラムであって、
注目画素位置の前記エッジの方向を検出する方向検出ステップと、
前記方向検出ステップの処理で検出された前記エッジの方向に基づいて、前記注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、
前記エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、
前記信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記方向選択ステップの処理で選択されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含み、
前記方向選択ステップの処理は、前記エッジの方向毎の前記注目画素と前記エッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示す前記エッジの方向のグループの中から最も信頼性の高い方向を選択する
ことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 原画像の空間解像度を垂直方向と水平方向のいずれか一方、または、その両方向をそれぞれZ倍することにより変換する画像処理装置を制御するコンピュータのプログラムであって、
注目画素位置の前記エッジの方向を検出する方向検出ステップと、
前記方向検出ステップの処理で検出された前記エッジの方向に基づいて、前記注目画素位置にエッジ方向補間画素を補間するエッジ方向補間ステップと、
前記エッジ方向補間ステップの処理で補間されたエッジ方向補間画素の信頼度を検出する信頼度検出ステップと、
前記信頼度検出ステップの処理で検出された信頼度のうち、最も信頼度の高いエッジの方向を選択する方向選択ステップと、
線形補間により前記注目画素位置の線形補間画素を補間する線形補間ステップと、
前記方向選択ステップの処理で選択されたエッジの方向に基づいて、前記注目画素位置の選択方向補間画素を補間する選択方向補間ステップと、
前記線形補間画素と前記選択補間画素を合成して合成補間画素を補間する合成補間ステップとを含む処理をコンピュータに実行させ、
前記方向選択ステップの処理は、前記エッジの方向毎の前記注目画素と前記エッジ方向補間画素との画素値の大小関係から、垂直方向を中心とした左右のいずれのグループに信頼性の傾向を示すか、または、水平方向を中心とした上下のいずれのグループに信頼性の傾向を示すかを判断し、信頼性の傾向を示す前記エッジの方向のグループの中から最も信頼性の高い方向を選択する
ことを特徴とするプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002318276A JP3829985B2 (ja) | 2002-10-31 | 2002-10-31 | 画像処理装置および方法、記録媒体、並びにプログラム |
US10/694,781 US6943807B2 (en) | 2002-10-31 | 2003-10-29 | Image processing apparatus and method, recording medium, and program thereof |
US11/081,602 US7009623B2 (en) | 2002-10-31 | 2005-03-17 | Image processing apparatus and method, recording medium, and program thereof |
US11/081,506 US6995775B2 (en) | 2002-10-31 | 2005-03-17 | Image processing apparatus and method, recording medium, and program thereof |
US11/087,683 US6999099B2 (en) | 2002-10-31 | 2005-03-24 | Image processing apparatus and method, recording medium, and program thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002318276A JP3829985B2 (ja) | 2002-10-31 | 2002-10-31 | 画像処理装置および方法、記録媒体、並びにプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004153668A JP2004153668A (ja) | 2004-05-27 |
JP2004153668A5 JP2004153668A5 (ja) | 2005-03-17 |
JP3829985B2 true JP3829985B2 (ja) | 2006-10-04 |
Family
ID=32461444
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002318276A Expired - Fee Related JP3829985B2 (ja) | 2002-10-31 | 2002-10-31 | 画像処理装置および方法、記録媒体、並びにプログラム |
Country Status (2)
Country | Link |
---|---|
US (4) | US6943807B2 (ja) |
JP (1) | JP3829985B2 (ja) |
Families Citing this family (55)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2737849C (en) * | 2001-10-26 | 2017-01-24 | Research In Motion Limited | System and method for remotely controlling mobile communication devices |
US7379625B2 (en) * | 2003-05-30 | 2008-05-27 | Samsung Electronics Co., Ltd. | Edge direction based image interpolation method |
US7659915B2 (en) * | 2004-04-02 | 2010-02-09 | K-Nfb Reading Technology, Inc. | Portable reading device with mode processing |
US20050225222A1 (en) * | 2004-04-09 | 2005-10-13 | Joseph Mazzochette | Light emitting diode arrays with improved light extraction |
US7627172B2 (en) * | 2004-06-07 | 2009-12-01 | Sony Corporation | Image processing apparatus and method, and program |
KR100611179B1 (ko) * | 2004-06-23 | 2006-08-10 | 삼성전자주식회사 | 영상처리장치 |
JP4600011B2 (ja) * | 2004-11-29 | 2010-12-15 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
KR100587979B1 (ko) * | 2004-12-20 | 2006-06-08 | 한국전자통신연구원 | 이미지 확대를 위한 경계선 및 귀퉁이 기반 보간 방법 |
JP4635652B2 (ja) * | 2005-03-08 | 2011-02-23 | ソニー株式会社 | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 |
JP4375308B2 (ja) | 2005-08-30 | 2009-12-02 | 日本電気株式会社 | 隆線方向抽出装置、隆線方向抽出方法、隆線方向抽出プログラム |
JP2007147727A (ja) * | 2005-11-24 | 2007-06-14 | Sony Corp | 画像表示装置、画像表示方法、画像表示方法のプログラム及び画像表示方法のプログラムを記録した記録媒体 |
DE102005063072B4 (de) * | 2005-12-30 | 2017-02-02 | Entropic Communications, Inc. | Verfahren und Vorrichtung zur Zwischenzeileninterpolation |
US7456881B2 (en) * | 2006-01-12 | 2008-11-25 | Aptina Imaging Corporation | Method and apparatus for producing Bayer color mosaic interpolation for imagers |
KR100772390B1 (ko) | 2006-01-23 | 2007-11-01 | 삼성전자주식회사 | 방향 보간 방법 및 그 장치와, 그 보간 방법이 적용된부호화 및 복호화 방법과 그 장치 및 복호화 장치 |
JP4730141B2 (ja) | 2006-03-06 | 2011-07-20 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びに、プログラム |
EP1931136B1 (en) * | 2006-12-08 | 2016-04-20 | Panasonic Intellectual Property Corporation of America | Block-based line combination algorithm for de-interlacing |
US20090046202A1 (en) * | 2007-08-17 | 2009-02-19 | Himax Technologies Limited | De-interlace method and apparatus |
JP5238220B2 (ja) * | 2007-10-29 | 2013-07-17 | 株式会社東芝 | 解像度変換装置、方法およびプログラム |
US8086073B2 (en) | 2008-02-07 | 2011-12-27 | Seiko Epson Corporation | Non-uniform image resizer |
JP4973542B2 (ja) | 2008-02-26 | 2012-07-11 | 富士通株式会社 | 画素補間装置及び画素補間方法 |
JP2009212969A (ja) * | 2008-03-05 | 2009-09-17 | Toshiba Corp | 画像処理装置、画像処理方法、及び画像処理プログラム |
US8497938B2 (en) * | 2008-03-21 | 2013-07-30 | Nec Corporation | Image processing method, image processing apparatus and image processing program |
US8200022B2 (en) * | 2008-03-24 | 2012-06-12 | Verint Systems Ltd. | Method and system for edge detection |
US8270766B1 (en) | 2008-07-31 | 2012-09-18 | Adobe Systems Incorporated | Hybrid seam carving and scaling of images with configurable carving tolerance |
US8280186B1 (en) | 2008-07-31 | 2012-10-02 | Adobe Systems Incorporated | Seam-based reduction and expansion of images with table-based priority |
US8218900B1 (en) | 2008-07-31 | 2012-07-10 | Adobe Systems Incorporated | Non-linear image scaling with seam energy |
US8270765B1 (en) | 2008-07-31 | 2012-09-18 | Adobe Systems Incorporated | Hybrid seam carving and scaling of images with configurable energy threshold |
US8280187B1 (en) | 2008-07-31 | 2012-10-02 | Adobe Systems Incorporated | Seam carving and expansion of images with color frequency priority |
US8290300B2 (en) * | 2008-07-31 | 2012-10-16 | Adobe Systems Incorporated | Seam-based reduction and expansion of images with color-weighted priority |
US8265424B1 (en) | 2008-07-31 | 2012-09-11 | Adobe Systems Incorporated | Variable seam replication in images with energy-weighted priority |
US8280191B1 (en) | 2008-07-31 | 2012-10-02 | Abode Systems Incorporated | Banded seam carving of images with pyramidal retargeting |
US8160398B1 (en) * | 2008-07-31 | 2012-04-17 | Adobe Systems Incorporated | Independent resizing of multiple image regions |
US8625932B2 (en) | 2008-08-28 | 2014-01-07 | Adobe Systems Incorporated | Seam carving using seam energy re-computation in seam neighborhood |
JP2010091719A (ja) | 2008-10-07 | 2010-04-22 | Sony Corp | 表示装置、表示データ処理装置、表示データ処理方法 |
US8180177B1 (en) | 2008-10-13 | 2012-05-15 | Adobe Systems Incorporated | Seam-based reduction and expansion of images using parallel processing of retargeting matrix strips |
US8581937B2 (en) | 2008-10-14 | 2013-11-12 | Adobe Systems Incorporated | Seam-based reduction and expansion of images using partial solution matrix dependent on dynamic programming access pattern |
US8681875B2 (en) * | 2008-11-25 | 2014-03-25 | Stmicroelectronics Asia Pacific Pte., Ltd. | Apparatus and method for coding block boundary detection using interpolated autocorrelation |
US8571312B2 (en) * | 2009-01-16 | 2013-10-29 | Samsung Electronics Co., Ltd. | Image interpolation method and apparatus using pattern characteristics of color filter array |
US8358876B1 (en) * | 2009-05-20 | 2013-01-22 | Adobe Systems Incorporated | System and method for content aware in place translations in images |
US8963960B2 (en) | 2009-05-20 | 2015-02-24 | Adobe Systems Incorporated | System and method for content aware hybrid cropping and seam carving of images |
JP5456372B2 (ja) | 2009-05-29 | 2014-03-26 | グローバル・オーエルイーディー・テクノロジー・リミテッド・ライアビリティ・カンパニー | 表示装置 |
JP5523017B2 (ja) | 2009-08-20 | 2014-06-18 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US8659622B2 (en) | 2009-08-31 | 2014-02-25 | Adobe Systems Incorporated | Systems and methods for creating and editing seam carving masks |
GB0917617D0 (en) * | 2009-10-08 | 2009-11-25 | Barco Nv | Video amplitude modulation |
KR101737081B1 (ko) * | 2010-02-10 | 2017-05-17 | 삼성전자주식회사 | 디지털 촬영 장치 및 그 제어 방법과 이를 기록한 기록 매체 |
JP5546342B2 (ja) * | 2010-05-17 | 2014-07-09 | 三菱電機株式会社 | 画像処理装置 |
US8494308B2 (en) * | 2011-03-10 | 2013-07-23 | Sharp Laboratories Of America, Inc. | Image upscaling based upon directional interpolation |
JP6294052B2 (ja) * | 2013-11-11 | 2018-03-14 | 株式会社朋栄 | 1パスビデオ超解像処理方法及びその映像処理を遂行する映像処理装置 |
US10032402B2 (en) * | 2014-07-23 | 2018-07-24 | Texas Instruments Incorporated | Power and brightness management of solid-state displays |
JP6473608B2 (ja) | 2014-11-27 | 2019-02-20 | 三星ディスプレイ株式會社Samsung Display Co.,Ltd. | 画像処理装置、画像処理方法、及びプログラム |
JP6824619B2 (ja) * | 2016-03-31 | 2021-02-03 | キヤノン株式会社 | 画像処理装置、およびその制御方法 |
US10861131B2 (en) | 2017-12-28 | 2020-12-08 | Samsung Electronics Co., Ltd. | Image magnifying apparatus |
CN109325918B (zh) * | 2018-07-26 | 2022-05-13 | 京东方科技集团股份有限公司 | 一种图像处理的方法、装置及计算机存储介质 |
US10739983B1 (en) | 2019-04-10 | 2020-08-11 | Servicenow, Inc. | Configuration and management of swimlanes in a graphical user interface |
JP2024029314A (ja) * | 2022-08-22 | 2024-03-06 | セイコーエプソン株式会社 | 画像処理装置、印刷システム、及び、画像処理方法 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6243989A (ja) | 1985-08-22 | 1987-02-25 | Nec Home Electronics Ltd | 映像適応型走査線補間装置 |
GB2278524B (en) * | 1993-05-28 | 1997-12-10 | Nihon Unisys Ltd | Method and apparatus for rendering visual images employing area calculation and blending of fractional pixel lists for anti-aliasing and transparency |
US5790269A (en) * | 1995-12-12 | 1998-08-04 | Massachusetts Institute Of Technology | Method and apparatus for compressing and decompressing a video image |
US5828983A (en) * | 1996-08-29 | 1998-10-27 | Allen Bradley Company, Llc | Method and apparatus for processing a sampled waveform |
US6803989B2 (en) * | 1997-07-15 | 2004-10-12 | Silverbrook Research Pty Ltd | Image printing apparatus including a microcontroller |
US6665454B1 (en) * | 1997-07-15 | 2003-12-16 | Silverbrook Research Pty Ltd | Dot adjacency compensation in optical storage systems using ink dots |
US6016151A (en) * | 1997-09-12 | 2000-01-18 | Neomagic Corp. | 3D triangle rendering by texture hardware and color software using simultaneous triangle-walking and interpolation for parallel operation |
US6819333B1 (en) * | 2000-05-12 | 2004-11-16 | Silicon Graphics, Inc. | System and method for displaying an image using display distortion correction |
US6828983B1 (en) * | 2000-05-12 | 2004-12-07 | S3 Graphics Co., Ltd. | Selective super-sampling/adaptive anti-aliasing of complex 3D data |
US6626216B2 (en) * | 2000-06-29 | 2003-09-30 | Nokia Corporation | Pneumatic tire having hollow particles in base rubber |
US6894699B2 (en) * | 2000-07-21 | 2005-05-17 | Mitsubishi Denki Kabushiki Kaisha | Image display device employing selective or asymmetrical smoothing |
US6756989B1 (en) * | 2000-08-25 | 2004-06-29 | Microsoft Corporation | Method, system, and computer program product for filtering a texture applied to a surface of a computer generated object |
US6823091B2 (en) * | 2001-01-12 | 2004-11-23 | Micron Technology, Inc. | Pixel resampling system and method |
JP4806849B2 (ja) | 2001-01-15 | 2011-11-02 | ソニー株式会社 | 画像処理装置および方法、プログラム、並びに記録媒体 |
US6731300B2 (en) * | 2001-05-18 | 2004-05-04 | Sun Microsystems, Inc. | Efficient anti-aliased dot rasterization |
JP2003016442A (ja) | 2001-07-03 | 2003-01-17 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP3770121B2 (ja) * | 2001-08-30 | 2006-04-26 | 株式会社デンソー | 画像処理装置 |
-
2002
- 2002-10-31 JP JP2002318276A patent/JP3829985B2/ja not_active Expired - Fee Related
-
2003
- 2003-10-29 US US10/694,781 patent/US6943807B2/en not_active Expired - Lifetime
-
2005
- 2005-03-17 US US11/081,506 patent/US6995775B2/en not_active Expired - Fee Related
- 2005-03-17 US US11/081,602 patent/US7009623B2/en not_active Expired - Fee Related
- 2005-03-24 US US11/087,683 patent/US6999099B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20050169557A1 (en) | 2005-08-04 |
US6999099B2 (en) | 2006-02-14 |
US6995775B2 (en) | 2006-02-07 |
US7009623B2 (en) | 2006-03-07 |
US20040160439A1 (en) | 2004-08-19 |
JP2004153668A (ja) | 2004-05-27 |
US20050157951A1 (en) | 2005-07-21 |
US6943807B2 (en) | 2005-09-13 |
US20050157950A1 (en) | 2005-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3829985B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP4600011B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP4150947B2 (ja) | 画像処理装置および方法、並びに記録媒体 | |
JP4517872B2 (ja) | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
EP2209087B1 (en) | Apparatus and method of obtaining high-resolution image | |
US20060290950A1 (en) | Image superresolution through edge extraction and contrast enhancement | |
KR20070080582A (ko) | 화상 처리 장치 및 방법, 기록 매체, 및, 프로그램 | |
JP2001251500A (ja) | 画像変換方法、画像処理装置、および画像表示装置 | |
KR100860968B1 (ko) | 해상도 향상 장치 및 방법 | |
CN112116543B (zh) | 基于检测式生成框架的图像修复方法、系统及装置 | |
WO2018196470A1 (zh) | 图像处理方法及装置 | |
JP4388110B2 (ja) | 画像処理装置、方法およびプログラム | |
JP2005122361A (ja) | 画像処理装置及び方法、コンピュータプログラム、記録媒体 | |
JP4487179B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
Bordoloi et al. | Hardware accelerated interactive vector field visualization: A level of detail approach | |
US7683914B1 (en) | Triangulation based raster image interpolation | |
CN112052863B (zh) | 一种图像检测方法及装置、计算机存储介质、电子设备 | |
JP2003016442A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
Lin et al. | A study of digital image enlargement and enhancement | |
JP2003116150A (ja) | 信号処理装置、および信号処理方法、プログラム、並びに記録媒体 | |
JP2021165888A (ja) | 情報処理装置、情報処理装置の情報処理方法およびプログラム | |
Jha et al. | Interlinear image interpolation scheme for real time application | |
CN118053092A (zh) | 视频处理方法和装置、芯片、存储介质及电子设备 | |
CN117676144A (zh) | 帧的时域超采样 | |
Pan | Single-frame image super-resolution based on local similarity projection model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040420 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040420 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060529 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060622 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060705 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 3829985 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090721 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100721 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100721 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110721 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110721 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120721 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120721 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130721 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |