JP5891916B2 - 画像拡大処理装置 - Google Patents

画像拡大処理装置 Download PDF

Info

Publication number
JP5891916B2
JP5891916B2 JP2012088316A JP2012088316A JP5891916B2 JP 5891916 B2 JP5891916 B2 JP 5891916B2 JP 2012088316 A JP2012088316 A JP 2012088316A JP 2012088316 A JP2012088316 A JP 2012088316A JP 5891916 B2 JP5891916 B2 JP 5891916B2
Authority
JP
Japan
Prior art keywords
image
pixel
cell
domain
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012088316A
Other languages
English (en)
Other versions
JP2013218523A (ja
Inventor
躍 包
躍 包
敏光 筬島
敏光 筬島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2012088316A priority Critical patent/JP5891916B2/ja
Publication of JP2013218523A publication Critical patent/JP2013218523A/ja
Application granted granted Critical
Publication of JP5891916B2 publication Critical patent/JP5891916B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、原画像を拡大して拡大画像を生成する技術に関し、特に、フラクタルを用いて原画像の拡大処理を行う技術に関する。
一般的なデジタル画像は、所定の画素値をもった画素を縦横に並べた配列によって構成され、そのサイズは、配列を構成する画素数によって定まる。したがって、このようなデジタル画像を拡大するためには、配列を構成する画素数を増やす必要がある。そのため、通常、原画像に含まれている既存の画素の画素値を利用した補間処理を行い、新たな画素の画素値を決定する演算処理が行われる。
たとえば、下記の特許文献1には、原画像上の注目画素の周囲の画素についての画素値の分布状態を評価することにより、新たな画素の画素値を決定し、注目画素を(N×M)画素に拡大する画像拡大処理方法が開示されている。また、特許文献2には、注目画素を含む所定領域に対してエッジ方向情報を推定する処理を行い、推定したエッジ方向に応じたエッジ形状パターンを選択することにより、ボケやジャギーの発生を抑制した画像拡大処理を行う方法が開示されている。
一方、特許文献3には、フラクタルを用いた拡大処理方法が開示されている。この方法は、原画像のもつ自己相似性を利用して、原画像の一部分の領域を、同じ原画像に含まれるより広い領域の類似するパターンによって置き換えることにより、解像度を向上させる手法であり、一般的な補間法を利用した拡大処理に比べて、高周波成分の損失が少ない高品質な拡大画像が得られる利点がある。
特開平7−182503号公報 特開2003−274157号公報 特開平11−008758号公報
前掲の特許文献1,2に開示されている一般的な補間法を利用した画像拡大処理は、そもそも原画像には含まれていなかった新たな画素についての情報を、近隣に位置する既存の画素の情報から推定する、という基本原理に基づくものであるため、高品質な拡大画像を得ることが困難である。たとえば、特許文献1に開示されている手法では、画像のコントラストのみに基づいてエッジ部の認識が行われるため、エッジの方向再現性を確保することが困難である。また、特許文献2に開示されている手法では、濃度差の大きいエッジに関する再現性は確保できるが、濃度差の小さいエッジに関する再現性に問題が生じることになる。
これに対して、特許文献3に開示されているフラクタルを用いた拡大処理では、原画像自身にもともと含まれていた情報を利用して補間が行われるため、エッジ再現性などに優れた高品質な拡大画像が得られるものとされている。しかしながら、原画像の一部分の領域を、より広い領域のパターンによって置き換える際に、もとの領域に対する当該パターンの類似度が十分でないと、拡大画像上にノイズ成分が現れ、画質が低下するという別な問題が生じることになる。
そこで本発明は、フラクタルを用いて拡大処理を行うという基本原理を採用しつつ、ノイズ成分の少ない高品質な拡大画像を得ることができる画像拡大処理装置および画像拡大処理方法を提供することを目的とする。
(1) 本発明の第1の態様は、原画像を拡大して拡大画像を生成する処理を行う画像拡大処理装置において、
拡大対象となる原画像を入力する原画像入力部と、
入力した原画像を、所定の画素値をもった画素の配列を示す画像データとして格納する原画像格納用メモリと、
原画像を所定の回転角θだけ回転させることにより得られる回転画像を、原画像格納用メモリに格納されている画像データを用いた補間演算により生成する回転画像演算部と、
生成された回転画像を、所定の画素値をもった画素の配列を示す画像データとして格納する回転画像格納用メモリと、
原画像格納用メモリに格納されている原画像上に、複数画素の配列からなるレンジセルを、少なくとも拡大対象領域がカバーされるように定義し、定義した個々のレンジセルを、順次、着目レンジセルとして抽出するレンジセル抽出部と、
回転画像格納用メモリに格納されている回転画像上に、レンジセルを構成する画素配列よりも大きな画素配列からなるドメインセルを複数組定義し、個々のドメインセルを、順次、着目ドメインセルとして抽出するドメインセル抽出部と、
抽出された着目レンジセルの画素値変動分布と抽出された着目ドメインセルの画素値変動分布との類似度を判定する類似度判定部と、
個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定する情報を格納する判定結果格納部と、
個々のレンジセルを構成する画素配列からなる被置換画素群を、当該レンジセルについての最適ドメインセルを構成する画素の画素値変動分布を参照することにより画素値が決定された、当該最適ドメインセルと同じ大きさの画素配列からなる置換画素群に置換することにより拡大画像を生成するセル合成部と、
セル合成部によって生成された拡大画像に対して、画素値の修正処理を行う修正処理部と、
修正処理部によって修正された拡大画像を出力する拡大画像出力部と、
を設け、
修正処理部が、隣接配置された複数組の置換画素群の境界部分の画素値の不連続性を平滑化するための画像平滑フィルタを作用させる平滑化処理を行う平滑処理部と、置換画素群を構成する画素の画素値を被置換画素群を構成する画素の画素値により近づけるための輝度値調整処理を行う輝度調整部と、を有し、第k回目の平滑化処理および輝度値調整処理が完了した後に、第(k+1)回目の平滑化処理および輝度値調整処理が実行されるように、平滑化処理と輝度値調整処理とを交互に繰り返し実行し、
第k回目の輝度値調整処理では、置換画素群上に定義されたローカル座標系xyで示される位置に配置されている修正後画素値q (x,y)を、
(x,y)=d′(x,y)×α +q k−1 (ave)
ここで、
d′(x,y)=d(x,y)−d(ave)
α は所定の輝度変換パラメータ
k−1 (ave)は、置換画素群についての修正前画素値の平均
d(ave)は、最適ドメインセルの各画素の画素値の平均
d(x,y)は、最適ドメインセルのローカル座標系xyで示される位置
に配置されている画素の画素値
なる演算式によって算出するようにしたものである。
(2) 本発明の第2の態様は、上述した第1の態様に係る画像拡大処理装置において、
レンジセルをa行b列に配列された画素の集合体によって構成し、
ドメインセルを(M×a)行(M×b)列に配列された画素の集合体によって構成し、
セル合成部が、原画像に対して縦横それぞれM倍の解像度を有する拡大画像を生成するようにしたものである。
(3) 本発明の第3の態様は、上述した第2の態様に係る画像拡大処理装置において、
レンジセル抽出部が、A行B列の画素配列からなる原画像上において、a行b列に配置された画素を包含するセル枠を、行方向にa画素ピッチ、列方向にb画素ピッチで移動させることにより、合計(A/a)×(B/b)組のレンジセルを定義するようにしたものである。
(4) 本発明の第4の態様は、上述した第2の態様に係る画像拡大処理装置において、
レンジセル抽出部が、A行B列の画素配列からなる原画像上において、a行b列に配置された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−a+1)×(B−b+1)組のレンジセルを、相互に部分的な重なりを許して定義し、
セル合成部が、拡大画像を構成する個々の画素の画素値を決定する際に、当該画素位置に複数のレンジセルが重なり合って定義されていた場合には、これら複数のレンジセルのそれぞれについての最適ドメインセルの画素値変動分布を参照した決定処理を行うようにしたものである。
(5) 本発明の第5の態様は、上述した第2〜第4の態様に係る画像拡大処理装置において、
ドメインセル抽出部が、A行B列の画素配列からなる原画像上において、(M×a)行(M×b)列に配列された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−(M×a)+1)×(B−(M×b)+1)組のドメインセルを定義するようにしたものである。
(6) 本発明の第6の態様は、上述した第2〜第5の態様に係る画像拡大処理装置において、
類似度判定部が、着目ドメインセル内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルを生成し、縮小ドメインセルを構成する個々の画素の画素値と、着目レンジセルを構成する個々の画素の画素値とについて、両者が近づくように輝度変換処理を施し、輝度変換処理後の縮小ドメインセルの個々の画素の画素値と着目レンジセルの個々の画素の画素値とを比較することにより類似度の判定を行うようにしたものである。
(7) 本発明の第7の態様は、上述した第2〜第5の態様に係る画像拡大処理装置において、
類似度判定部が、
着目レンジセルRを構成する個々の画素について、その画素値rの平均であるレンジセル平均値r(ave)を求めるレンジセル平均値算出部と、
着目レンジセルRを構成する個々の画素について、その画素値rとレンジセル平均値r(ave)との差を示す差分値r′を求め、求めた差分値r′を画素値とするレンジセル差分画像R′を生成するレンジセル差分画像生成部と、
着目ドメインセルD内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルSDを得る縮小処理部と、
縮小ドメインセルSDを構成する個々の画素について、その画素値sdの平均である縮小ドメインセル平均値sd(ave)を求めるドメインセル平均値算出部と、
縮小ドメインセルSDを構成する個々の画素について、その画素値sdと縮小ドメインセル平均値sd(ave)との差を示す差分値sd′を求め、求めた差分値sd′を画素値とする縮小ドメインセル差分画像SD′を生成する縮小ドメインセル差分画像生成部と、
レンジセル差分画像R′内のx行y列目の画素の画素値をr′(x,y)、縮小ドメインセル差分画像SD′内のx行y列目の画素の画素値をsd′(x,y)としたときに、
α=Σx,y [r′(x,y)・sd′(x,y)]/
Σx,y [sd′(x,y)]
なる式で与えられる輝度変換パラメータαを求める輝度変換パラメータ算出部と、
レンジセル差分画像R′内の各画素の画素値r′(x,y)と、縮小ドメインセル差分画像SD′内の各画素の画素値sd′(x,y)と、輝度変換パラメータαと、に基づいて、
E=Σx,y [r′(x,y)−α・sd′(x,y)]
なる式で与えられる誤差値Eを求める誤差値算出部と、
を有し、誤差値Eが小さいほど、着目レンジセルの画素値変動分布と着目ドメインセルの画素値変動分布との類似度が高いと判定するようにしたものである。
(8) 本発明の第8の態様は、上述した第7の態様に係る画像拡大処理装置において、
セル合成部が、置換画素群を構成する(M×a)行(M×b)列の画素配列のうちのx行y列目の画素の画素値q(x,y)を、最適ドメインセルの各画素の画素値の平均をd(ave)、最適ドメインセルのx行y列目の画素の画素値をd(x,y)として、
q(x,y)=(d(x,y)−d(ave))×α+r(ave)
なる式を用いた演算により決定するようにしたものである。
(9) 本発明の第9の態様は、上述した第8の態様に係る画像拡大処理装置において、
ドメインセル平均値算出部が、縮小ドメインセル平均値sd(ave)を求める機能とともに、ドメインセルDを構成する個々の画素について、その画素値dの平均であるドメインセル平均値d(ave)を求める機能を有し、
判定結果格納部が、個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定するための回転角θおよびセル位置を示す情報とともに、当該最適ドメインセルについての輝度変換パラメータαおよびドメインセル平均値d(ave)、ならびに、レンジセル平均値r(ave)を格納する機能を有し、
セル合成部が、判定結果格納部に格納されている輝度変換パラメータα、ドメインセル平均値d(ave)、レンジセル平均値r(ave)を利用して、画素値q(x,y)を決定するための演算を行うようにしたものである。
(10) 本発明の第10の態様は、上述した第1〜第9の態様に係る画像拡大処理装置において、
回転画像演算部が、回転前の原画像の各画素位置を基準点として、個々の基準点について、回転後の原画像を構成する画素のうちの当該基準点の近傍にある参照画素の画素値を用いた補間演算を行うことにより補間画素値を求め、これら補間画素値を有する各基準点位置に配置された画素の集合体として回転画像の生成を行うようにしたものである。
(11) 本発明の第11の態様は、上述した第10の態様に係る画像拡大処理装置において、
原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
回転画像演算部が、基準点の近傍に参照画素が存在しないために当該基準点についての補間画素値を求めることができない場合には、当該基準点位置に配置された画素については画素値の定義を行わず、
ドメインセル抽出部が、一部もしくは全部の画素について画素値の定義が行われていないドメインセルについては、着目ドメインセルとしての抽出を行わないようにしたものである。
(12) 本発明の第12の態様は、上述した第10の態様に係る画像拡大処理装置において、
原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
回転画像格納用メモリのサイズが、補間画素値を求めることができる位置に配置された画素のみから構成される回転画像を格納するのに適したサイズとなるように、原画像格納用メモリのサイズよりも小さく設定されているようにしたものである。
(13) 本発明の第13の態様は、上述した第10の態様に係る画像拡大処理装置において、
原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
所定の変動範囲内の回転角θだけ回転させることにより得られる複数通りの回転画像をすべて包摂することが可能な包摂矩形内の画像を収容することができるように、回転画像格納用メモリのサイズが、原画像格納用メモリのサイズよりも大きく設定されており、
回転画像演算部が、基準点の近傍に参照画素が存在しないために当該基準点についての補間画素値を求めることができない場合には、当該基準点位置に配置された画素については画素値の定義を行わず、
ドメインセル抽出部が、一部もしくは全部の画素について画素値の定義が行われていないドメインセルについては、着目ドメインセルとしての抽出を行わないようにしたものである。
(14) 本発明の第14の態様は、上述した第10の態様に係る画像拡大処理装置において、
原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
回転画像演算部が、原画像の周囲に当該原画像の複製画像を配置した拡張原画像を作成した上で、当該拡張原画像を利用した補間演算によって、回転画像格納用メモリ内に回転画像を生成する処理を行うようにしたものである。
(15) 本発明の第15の態様は、上述した第14の態様に係る画像拡大処理装置において、
所定の変動範囲内の回転角θだけ回転させることにより得られる複数通りの回転画像をすべて包摂することが可能な包摂矩形内の画像を収容することができるように、回転画像格納用メモリのサイズが、原画像格納用メモリのサイズよりも大きく設定されているようにしたものである。
(16) 本発明の第16の態様は、上述した第14または第15の態様に係る画像拡大処理装置において、
原画像の輪郭矩形の外側の上下左右の四方に、それぞれ輪郭矩形の上下左右の辺を複製基準軸として原画像に対して複製基準軸に関して鏡像関係となる複製画像を配置することにより拡張原画像を作成するようにしたものである。
(17) 本発明の第17の態様は、上述した第16の態様に係る画像拡大処理装置において、
原画像の輪郭矩形の4頂点の各外側近傍の隙間領域に、当該頂点を中心として原画像を180°回転して得られる複製画像を配置することにより拡張原画像を作成するようにしたものである。
(18) 本発明の第18の態様は、上述した第1〜第17の態様に係る画像拡大処理装置において、
判定結果格納部が、個々のレンジセルのそれぞれについて、現段階で最も高い類似度が得られた仮最適ドメインセルに関する情報を格納する格納領域を有し、類似度判定部から特定のレンジセルについての新たな着目ドメインセルに対する類似度の判定結果が得られたときに、当該特定のレンジセルについて現段階で格納されている仮最適ドメインセルについての類似度と新たな着目ドメインセルに対する類似度とを比較し、前者よりも後者の方が高い場合にのみ、前者を後者によって書き換える処理を行い、類似度判定部から全ドメインセルに対する類似度の判定結果が得られた時点で格納されていた仮最適ドメインセルを最終的な最適ドメインセルとするようにしたものである。
(19) 本発明の第19の態様は、上述した第1〜第18の態様に係る画像拡大処理装置において、
原画像入力部が複数の原色プレーンからなるカラー画像を原画像として入力する機能を有し、
原画像格納用メモリおよび回転画像格納用メモリが、それぞれ原色プレーンごとの画像データを別個独立して格納する機能を有し、
セル合成部が、原色プレーンごとの拡大画像を別個独立して生成する機能を有し、
拡大画像出力部が、複数の原色プレーンからなるカラー画像を拡大画像として出力する機能を有するようにしたものである。
(20) 本発明の第20の態様は、コンピュータにプログラムを組み込むことにより、上述した第1〜第19の態様に係る画像拡大処理装置として機能させるようにしたものである。
(21) 本発明の第21の態様は、上述した第1〜第19の態様に係る画像拡大処理装置を、論理素子およびメモリが組み込まれた半導体集積回路によって構成したものである。
本発明では、原画像を任意の回転角θだけ回転させた回転画像が生成され、この回転画像上で定義されたドメインセルの中から、レンジセルに対する類似度が最も高いものが最適ドメインセルとして選択される。そして、この最適ドメインセル内の画素値変動分布を参照して、レンジセルを置換する置換画素群が求められる。このため、回転角θをきめ細かく変化させることにより、多数のバリエーションをもった回転画像を生成することができるようになり、多数のバリエーションをもったドメインセルを定義することができるようになる。そして、この多数のバリエーションをもったドメインセルの中から最適ドメインセルが選択されるため、原画像上のもとの領域に対して極めて類似度の高い最適ドメインセルを利用した拡大処理が可能になる。その結果、ノイズ成分の少ない高品質な拡大画像を得ることができる。
一般的なデジタル画像の拡大処理の原理を示す平面図である。 画像拡大処理に利用される一般的な画素補間方法のいくつかを示す図である。 フラクタルを用いた画像拡大処理で定義されるレンジセルRの一例を示す平面図である。 フラクタルを用いた画像拡大処理で定義されるドメインセルDの一例を示す平面図である。 フラクタルを用いた画像拡大処理の基本手順を示す図である。 図5に示す基本手順における「T6:比較処理」で利用される演算式を示す図である。 レンジセルR(i,j)を構成する被置換画素群を置換画素群Q(R(i,j))で置換する処理を示す図である。 ドメインセルD(m,n)を構成する画素の配置転換例を示す図である。 本発明の特徴となる原画像Pinの回転処理を示す平面図である。 図9に示す回転処理によって回転画像を生成する方法を示す平面図である。 回転処理に基づく画素位置の座標変換処理の一例を示す平面図である。 本発明に係る画像拡大処理方法の基本手順を示す流れ図である。 図12に示す拡大画像修正処理(ステップS16)の一例を示す図である。 本発明に係る画像拡大処理装置の基本構成を示すブロック図である。 回転画像格納用メモリ40に格納される画像の輪郭矩形Cと角θだけ回転した原画像Pinとの位置関係の第1のバリエーションを示す平面図である。 回転画像格納用メモリ40に格納される画像の輪郭矩形Cと角θだけ回転した原画像Pinとの位置関係の第2のバリエーションを示す平面図である。 回転画像格納用メモリ40に格納される画像の輪郭矩形Cと角θだけ回転した原画像Pinとの位置関係の第3のバリエーションを示す平面図である。 図17に示す第3のバリエーションにおいて、拡張原画像を利用した回転画像の生成例を示す平面図である。 拡大画像の品質評価に用いられる式を示す図である。 拡大画像の品質の比較を示すグラフである。 拡大画像の品質の比較に利用した原画像を示す図である。 3通りの方法で得られた拡大画像を示す図である。
以下、本発明を図示する実施形態に基づいて説明する。
<<< §1. 一般的な画像拡大処理の原理 >>>
原画像を拡大して拡大画像を生成するには、原画像に含まれている情報を補間して、その情報量を増やす処理を行う必要がある。図1は、一般的なデジタル画像の拡大処理の原理を示す平面図であり、A×Bの画素配列をもつ原画像Pinを、縦横それぞれ2倍に拡大して、2A×2Bの画素配列をもつ拡大画像Poutを生成した例が示されている。画像拡大処理装置は、入力した原画像Pinに基づいて拡大画像Poutを生成し、これを出力する処理を行うことになる。
図1に示す例の場合、原画像Pinの各画素を、それぞれ2×2に配列された4画素に置き換えることにより拡大画像Poutを生成することができる。たとえば、原画像Pinの左上の1画素(ハッチングを施した画素)は、拡大画像Poutの左上の4画素(ハッチングを施した画素)に置き換えられることになる。このように、原画像の1画素を4画素に置き換えるためには、当該1画素の近傍に新たに3画素を追加して定義すればよい。既存の画素の近傍に新たな画素を追加する場合、当該新たな画素の画素値は、既存の画素の画素値を用いた補間によって求めることができる。
図2は、画像拡大処理に利用される一般的な画素補間方法のいくつかを示す図である。いずれも○印は、原画像上の既存画素の中心位置を示し、×印は新たに定義される補間画素の中心位置を示している。ここで行う補間処理は、○印で示す既存画素の画素値に基づいて、×印で示す補間画素の画素値を決定する処理ということになる。
まず、図2(a) に示す「ニアレストネイバー法」は、新たに補間画素Qを追加する場合に、当該補間画素Qの画素値として、最も近傍にある既存画素の画素値をそのまま流用する方法である。たとえば、図示のとおり、原画像上に、互いに隣接した4つの既存画素Pa〜Pdが存在し、これら既存画素Pa〜Pdの間に新たに補間画素Qを定義する場合、当該補間画素Qの画素値として、最も近傍にある既存画素Pbの画素値がそのまま流用されることになる。この方法は、画素値に対する演算が一切不要であるため、演算負担は極めて低いものの、得られた拡大画像の品質は粗悪なものにならざるを得ない。
一方、図2(b) に示す「バイリニア法」は、隣接する2つの既存画素からの距離に応じた線形補間値を求める方法である。図のグラフにおける横軸は、各画素の一次元方向の位置を示しており、縦軸は各画素の画素値を示している。図示の例は、隣接配置された2つの既存画素Pa,Pbの間に、新たに2つの補間画素Qc,Qdを定義する際に、これら補間画素Qc,Qdの画素値の決定方法を示すものである。図示のとおり、グラフ上で既存画素Pa,Pbの画素値を示す点を結ぶ線形補間ラインFを引き、この線形補間ラインF上の点として、補間画素Qc,Qdの画素値を示す点をプロットすればよい。この方法では、比較的簡単な線形演算により補間画素の画素値を算出できるが、画素値の空間的な変化が線形性をもっていることを前提とする補間処理であるため、やはり高品質な拡大画像を得ることはできない。
また、図2(c) に示す「バイキュービック法」は、補間画素Qの周囲に位置する複数の既存画素(図示の例の場合、16個の既存画素P1〜P16)の位置およびその画素値に基づいた補間演算により、補間画素Qの画素値を算出する方法である。演算負担は重くなるが、近傍領域に存在する多数の既存画素の情報を利用した高度な補間を行うことができる。
しかしながら、図2に例示した一般的な補間法を利用した画像拡大処理は、いずれも、原画像上の既存画素の情報に基づいて、新たに定義する補間画素の画素値を推定するという基本原理に基づく処理ということになる。このように既存画素の情報に基づく推定処理には限界があり、特に、画像のエッジ部分の再現性を確保するのが困難である。
これに対して、本発明が利用するフラクタルを用いた拡大処理の基本原理は、原画像の一部分の領域を、同じ原画像内のより広い領域の類似するパターンによって置き換える、という手法を採るものである。以下、この基本原理を簡単に説明する。
一般に、自然界に存在する多くの物は、その全体を巨視的に観察しても、一部を拡大して微視的に観察しても、相互に類似した形状をなす性質を有しているとされ、そのような幾何学的な自己相似性をもつ性質が、一般にフラクタルと呼ばれている。具体的には、リアス式海岸の海岸線、樹木の枝葉の形状、生物の体内組織の形状などに、代表的なフラクタル構造が見られる。したがって、このような自然界の万物をモチーフとして含む一般的な画像にも、多くのフラクタル構造が含まれていると考えられている。フラクタルを用いた拡大処理は、原画像に含まれるフラクタル構造に着目し、その自己相似性を利用した置換処理によって画像の解像度を向上させる処理ということができる。
フラクタルを用いた画像拡大処理では、まず、原画像上に複数のレンジセルが定義される。図3は、原画像Pin上に定義した複数のレンジセルの一例を示す平面図である。ここでは説明の便宜上、縦方向サイズが12画素、横方向サイズが16画素という画素配列からなる原画像Pin上に、縦横のサイズがそれぞれ2画素の画素配列からなるレンジセルR(図に太線で囲って示す4画素分のセル)を定義した場合を例にとって説明する。別言すれば、ここに示す例の場合、原画像Pinを横方向に8分割、縦方向に6分割することにより、合計48組のレンジセルRが定義されていることになる。
ここでは、便宜上、個々のレンジセルを符号「R(i,j)」で示すことにする。ここで、iはレンジセルの縦位置を示すパラメータであり、当該レンジセルの左上隅の画素が位置する行数を示し、jはレンジセルの横位置を示すパラメータであり、当該レンジセルの左上隅の画素が位置する列数を示す。すなわち、レンジセルR(i,j)は、原画像Pinを構成する画素配列における第i行目、第j列目の画素を左上隅に含むレンジセルということになる。したがって、図3に示す例の場合、原画像Pinの最上段には、左から右方向に向かって、レンジセルR(1,1),R(1,3),R(1,5),... ,R(1,15)が順に並び、その下の段には、やはり左から右に向かって、レンジセルR(3,1),... が並ぶことになる。
続いて、同じ原画像Pin上に複数のドメインセルが定義される。図4は、原画像Pin上に定義した複数のドメインセルの一例を示す平面図であり、縦横のサイズがそれぞれ4画素の画素配列からなるドメインセルD(図に太線で囲って示す16画素分のセル)を定義した例が示されている。すなわち、図示の例の場合、原画像Pinを横方向に4分割、縦方向に3分割することにより、合計12組のドメインセルDが定義されていることになる。
ここでは、便宜上、個々のドメインセルを符号「D(m,n)」で示すことにする。ここで、mはドメインセルの縦位置を示すパラメータであり、当該ドメインセルの左上隅の画素が位置する行数を示し、nはドメインセルの横位置を示すパラメータであり、当該ドメインセルの左上隅の画素が位置する列数を示す。すなわち、ドメインセルD(m,n)は、原画像Pinを構成する画素配列における第m行目、第n列目の画素を左上隅に含むレンジセルということになる。したがって、図4に示す例の場合、原画像Pinの最上段には、左から右方向に向かって、ドメインセルD(1,1),D(1,5),D(1,9),D(1,13)が順に並び、その下の段には、やはり左から右に向かって、ドメインセルD(5,1),... が並ぶことになる。
レンジセルRの大きさとドメインセルDの大きさとの関係は、レンジセルRを構成する画素配列よりもドメインセルDを構成する画素配列の方が大きくなるように設定する必要がある。レンジセルRもドメインセルDも、同じ原画像Pin上に定義された部分領域によって構成されているが、前者の領域よりも後者の領域の方が広域である必要がある。これは、前者の領域を後者の領域によって置き換えることにより、拡大画像を得るために必要な条件である。
本発明に係る拡大処理は、必ずしも縦横等倍の拡大処理に限定されるものではないが、通常の用途では、原画像を縦横等倍に拡大するのが一般的である。そこで、以下、原画像Pinに対して縦横それぞれM倍の解像度を有する拡大画像を生成する例についての説明を行う。
縦横等倍の拡大処理を行う場合、レンジセルRをa行b列に配列された画素の集合体によって構成し、ドメインセルDを(M×a)行(M×b)列に配列された画素の集合体によって構成すればよい。後述するように、本発明に係る画像拡大処理装置では、セル合成部によって、個々のレンジセルR内の被置換画素群が、ドメインセルDと同じ大きさの画素配列からなる置換画素群に置換する処理が行われることになるので、レンジセルRとドメインセルDの大きさの関係を上述のように設定しておけば、原画像Pinに対して縦横それぞれM倍に拡大した拡大画像を得ることができる。図3および図4に示す例は、a=2,b=2,M=2に設定した例ということになる。
レンジセルRは、原画像Pin上に、少なくとも拡大対象領域がカバーされるように定義すればよい。図3に示す例では、原画像Pinの全領域をカバーするようにレンジセルRの定義が行われているが、原画像Pinの一部分のみを拡大すれば足りるような場合は、当該拡大対象領域をカバーするのに必要なレンジセルRを定義すればよい。
与えられた原画像全体を拡大対象領域とする一般的な用途の場合には、図3に示す例のように、A行B列の画素配列(図示の例の場合、A=12,B=16)からなる原画像Pin上において、a行b列(図示の例の場合、a=2,b=2)に配置された画素を包含するセル枠を、行方向にa画素ピッチ、列方向にb画素ピッチで移動させることにより、合計(A/a)×(B/b)組のレンジセルを定義すれば、原画像Pin全体をカバーするレンジセルの定義を行うことができる(なお、後に変形例として述べるように、隣接するレンジセルが一部重なりを生じるような定義を行うことも可能である)。
一方、ドメインセルDは、できるだけ多くのバリエーションが得られるような定義を行うのが好ましい。図4では、説明の便宜上、相互に重なりが生じないように、合計12組のドメインセルDを定義した例を示したが、実用上は、相互に重なりが生じるように、より多数のドメインセルを定義するのが好ましい。これは、特定のレンジセルRに対する置換画素群を決定する際に、当該レンジセルに最も適した最適ドメインセルの情報を利用するためである。最適ドメインセルを選択する上では、候補となるドメインセルの数が多ければ多いほどよい。
具体的には、原画像Pinの左上隅に基本となるドメインセルを定義し、このドメインセルを縦横に1画素ずつ移動させながら、多数のドメインセルの定義を行うようにすればよい。すなわち、A行B列の画素配列からなる原画像Pin上において、(M×a)行(M×b)列に配列された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−(M×a)+1)×(B−(M×b)+1)組のドメインセルを定義すればよい。このような方法を採れば、A=12,B=16,a=2,b=2,M=2という設定例では、合計9×13=117組のドメインセルが定義できる。
結局、上例の場合、ある特定のレンジセルRに対する置換処理は、117組のドメインセルDの中から、当該レンジセルRに最も類似した(後述するように、画素値変動分布が最も類似した)ドメインセルを最適ドメインセルDとして決定し、この最適ドメインセルDを参照することにより当該最適ドメインセルと同じ大きさの画素配列からなる置換画素群を求め、この置換画素群によって元のレンジセルRを置き換えることによって行われることになる。レンジセルRが2×2の画素配列から構成されるのに対して、置換画素群は4×4の画素配列から構成されるため、縦横2倍に拡大した拡大画像が得られることになる。
このように、フラクタルを用いた拡大処理は、原画像Pinにフラクタル構造が存在し自己相似性を有しているとの前提に基づいて、特定のレンジセルRに最も類似した最適ドメインセルD(レンジセルより広域のセル)を同じ原画像Pin上で探し出し、この最適ドメインセルDの画素値変動分布を利用して置換画素群を決定し、当該レンジセルRの内容を置換する、というものである。図2に示した一般的な補間法が、もともと原画像に含まれていない画素情報を、もともと原画像に含まれていた画素情報に基づいて推定する、という手法を採るのに対して、フラクタルを用いた拡大処理は、原画像上のレンジセル内の画素情報を、もともと原画像に含まれていたより広域の画素情報によって置換する、という手法を採るものであり、高周波成分の損失が少ない高品質な拡大画像が得られる利点があるとされている。
<<< §2. フラクタルを用いた拡大処理の具体的手順 >>>
続いて、従来から知られているフラクタルを用いた拡大処理の具体的な手順の一例を説明する。ここでは、§1で述べたように、図3に示す原画像Pin上に、合計48組のレンジセルR(2×2の画素配列)を定義するとともに、図4に示すようなドメインセルDを1画素ピッチで縦横にずらした合計117組のドメインセルD(4×4の画素配列)を定義したものとしよう。
図5は、このような例におけるフラクタルを用いた画像拡大処理の基本手順を示す図であり、原画像Pinから抽出された1つの着目レンジセルR(i,j)と、同じく原画像Pinから抽出された1つの着目ドメインセルD(m,n)と、を比較し、両者の類似度を判定する方法が示されている。
まず、手順T1において、1つの着目レンジセルR(i,j)を抽出する処理、すなわち、着目レンジセルR(i,j)を構成する画素の画素値を読み出す処理が行われる。前述したとおり、着目レンジセルR(i,j)は、2×2の画素配列からなるセルであり、原画像Pin上で第i行目、第j列目に位置する画素を左上隅に含んでいる。ここでは、レンジセルRを構成する個々の画素(およびその画素値)を小文字「r」で示すことにする。したがって、着目レンジセルR(i,j)を構成する4つの画素を原画像Pin上の行列座標で示すと、r(i,j),r(i,j+1),r(i+1,j),r(i+1,j+1)ということになる。
ただ、ここでは、説明の便宜上、着目レンジセルR(i,j)上にローカル座標系xyを定義し、各画素(およびその画素値)をr(x,y)なる記号で表すことにする。すなわち、r(x,y)は、着目レンジセルR(i,j)内のx行y列目の画素(およびその画素値)を示しており、図示の例の場合、x=1または2、y=1または2ということになる。
続いて、手順T2において、この着目レンジセルR(i,j)内の画素の画素値の平均値r(ave)が求められ、
r′(x,y)=r(x,y)−r(ave) 式(1)
なる式に基づいて、差分画素値r′(x,y)が算出され、この差分画素値r′(x,y)をもった画素r′(x,y)からなる差分画像R′(i,j)が生成される。この差分画像R′(i,j)は、元の着目レンジセルR(i,j)に含まれる情報から画素値(輝度値)の変動分布のみを取り出した情報を示すものである。
続いて、手順T3において、1つの着目ドメインセルD(m,n)を抽出する処理、すなわち、着目ドメインセルD(m,n)を構成する画素の画素値を読み出す処理が行われる。前述したとおり、着目ドメインセルD(m,n)は、4×4の画素配列からなるセルであり、原画像Pin上で第m行目、第n列目に位置する画素を左上隅に含んでいる。ここでは、ドメインセルD(m,n)を構成する個々の画素(およびその画素値)を小文字「d」で示すことにし、ローカル座標系xyを用いて、各画素(およびその画素値)をd(x,y)なる記号で表すことにする。すなわち、d(x,y)は、着目ドメインセルD(m,n)内のx行y列目の画素(およびその画素値)を示しており、図示の例の場合、x=1〜4、y=1〜4ということになる。
続いて、手順T4において、この着目ドメインセルD(m,n)内の画素の画素値の平均値d(ave)が求められ、更に、この着目ドメインセルD(m,n)に対する画像縮小処理を行うことにより、縮小ドメインセルSD(m,n)が求められる。ここで、縮小ドメインセルSD(m,n)は、着目レンジセルR(i,j)と同じサイズの画素配列をもったセルであり、この例の場合、2×2の画素配列をもったセルになる。要するに、手順T4における画像縮小処理は、縦横1/M(この例の場合、縦横1/2)に縮小する処理ということになる。
このような縮小処理は、画素を所定間隔で間引く処理によって行うこともできるし(たとえば、偶数行、偶数列の画素を間引けばよい)、M行M列の画素群をその平均的な画素値をもつ1画素に置換する処理によって行うこともできる(たとえば、2行2列の4画素を、その平均的な画素値をもつ1画素に置換すればよい)。ここでは、縮小ドメインセルSD(m,n)を構成する個々の画素(およびその画素値)を小文字「sd」で示すことにし、ローカル座標系xyを用いて、各画素(およびその画素値)をsd(x,y)なる記号で表すことにする。すなわち、sd(x,y)は、縮小ドメインセルSD(m,n)内のx行y列目の画素(およびその画素値)を示しており、図示の例の場合、x=1または2、y=1または2ということになる。
続いて、手順T5において、この縮小ドメインセルSD(m,n)内の画素の画素値の平均値sd(ave)が求められ、
sd′(x,y)=sd(x,y)−sd(ave) 式(2)
なる式に基づいて、差分画素値sd′(x,y)が算出され、この差分画素値sd′(x,y)をもった画素sd′(x,y)からなる差分画像SD′(m,n)が生成される。この差分画像SD′(m,n)は、元の着目ドメインセルD(m,n)を縮小して得られた縮小ドメインセルSD(m,n)に含まれる情報から画素値(輝度値)の変動分布のみを取り出した情報を示すものである。
最後に、手順T6において、レンジセルの差分画像R′(i,j)とドメインセルの差分画像SD′(m,n)との比較が行われ、両者の類似度が判定される。手順T4で画像縮小処理を行ったため、両者は同じサイズの画素配列(この例では、いずれも2×2の画素配列)によって構成されている。そこで、類似度の判定は、それぞれ対応する位置にある画素についての画素値の比較によって行うことができ、対応する画素の画素値の差が少ないほど類似度が高いと判定することができる。
図6は、この比較処理で利用される演算式を示す図である。ここで、輝度変換パラメータαは、
α=Σx,y [r′(x,y)・sd′(x,y)]/
Σx,y [sd′(x,y)] 式(3)
なる式で与えられるパラメータであり、比較対象となる両セル内の画素値(輝度値)の変動振幅の差を補正する役割を果たす。一方、誤差値Eは、輝度変換パラメータαを用いて、
E=Σx,y [r′(x,y)−α・sd′(x,y)] 式(4)
なる式で与えられる値であり、両セル内の画素値(輝度値)の差分二乗誤差の和を示す値である。
図5に示す手順は、本来、着目レンジセルR(i,j)と着目ドメインセルD(m,n)と、を比較し、両者の類似度を判定することを目的とするものである。しかしながら、両者は、画素配列のサイズが異なっているため、まず、手順T4における縮小処理によって幾何変換を施し、手順T6において、対応する画素同士の比較が可能になるようにしている。また、ここで判定すべき類似度は、画素値(輝度値)の絶対値そのものの類似度ではなく、画素値(輝度値)の変動分布の類似度である。そこで、手順T2,T5で変動分のみを取り出す差分演算を行うとともに、手順T6で差分二乗誤差を求める際に輝度変換パラメータαを用いた補正を行い、輝度変換後の画素値を比較する処理を行っている。
結局、上記式(4)で示される誤差値Eは、着目レンジセルR(i,j)と着目ドメインセルD(m,n)との画素値変動分布の相違を示す値ということになる。したがって、ある特定のレンジセルRについて、定義されたすべてのドメインセルD(上例の場合、1画素ピッチで縦横にずらした合計117組のドメインセル)に対する誤差値Eを求めれば、誤差値Eが最も小さいドメインセルD(すなわち、画素値の変動分布が最も類似しているドメインセルD)を、当該特定のレンジセルRについての最適ドメインセルと決定することができる。こうして、最適ドメインセルDが決定されたら、当該最適ドメインセルDを利用して置換画素群を生成し、元のレンジセルRを置換する処理を行えばよい。
図7は、特定のレンジセルRに対する具体的な置換処理を示す図である。図7(a) は、与えられた原画像Pinを示している。ここでは、図5に示す手順に基づく比較処理により、原画像Pin上の特定のレンジセルR(i,j)に対して、ドメインセルD(m,n)が最適ドメインセルと決定されたものとしよう。すなわち、最適ドメインセルD(m,n)は、レンジセルR(i,j)内の画素値の変動分布に対して最も類似性の高い画素値の変動分布を有していることになる。
一方、図7(b) は、図7(a) に示す原画像Pin上に定義されたレンジセルR(i,j)を、置換画素群Q(R(i,j))に置換することによって得られた拡大画像Poutを示している。レンジセルR(i,j)が2×2の画素配列から構成されるのに対して、置換画素群Q(R(i,j))は4×4の画素配列から構成されており、拡大画像Poutは、原画像Pinを縦横にそれぞれ2倍に拡大した画像になっている。置換画素群Q(R(i,j))を構成する各画素をq(x,y)とし、その画素値も同じ記号q(x,y)で表すことにすると、画素値q(x,y)は、
q(x,y)=(d(x,y)−d(ave))×α+r(ave) 式(5)
で与えられる。
ここで、レンジセル平均値r(ave)は、レンジセルR(i,j)を構成する個々の画素r(x,y)の画素値r(x,y)の平均値であり、図5の手順T2で求めたものをそのまま利用することができる(図示の例の場合、x=1または2、y=1または2である)。一方、ドメインセル平均値d(ave)は、最適ドメインセルD(m,n)を構成する個々の画素d(x,y)の画素値d(x,y)の平均値であり、図5の手順T4で求めたものをそのまま利用することができる(図示の例の場合、x=1〜4、y=1〜4である)。なお、図5の手順T4において、縮小処理を行う前に平均値d(ave)を算出しているのは、この図7に示す置換処理における上記式(5)の演算に利用するためである(図5に示す比較処理を行う上では、平均値d(ave)の算出は不要である)。また、輝度変換パラメータαは、図5の手順T6において、図6に示す式(3)に基づく演算によって算出された値であり、レンジセルR(i,j)と最適ドメインセルD(m,n)との間の画素値の変動振幅の差を補正する補正値である。なお、式(5)におけるd(ave)の代用として、縮小ドメインセル平均値sd(ave)を用いるようにしてもかまわない。
結局、式(5)によって算出される置換画素群Q(R(i,j))を構成する16個の画素の各画素値q(x,y)は、被置換画素群となるレンジセルR(i,j)の各画素r(x,y)の平均値r(ave)に、変動量(d(x,y)−d(ave))×αを加えた値ということになる。しかも、変動量(d(x,y)−d(ave))×αは、最適ドメインセルD(m,n)内の対応位置にある画素の画素値の変動量に輝度変換パラメータαを乗じたものになっている。このため、置換画素群Q(R(i,j))は、レンジセルR(i,j)の画素値平均と同じ画素値平均を有し、かつ、最適ドメインセルD(m,n)の画素値変動分布と同じ画素値変動分布をもつことになる。
かくして、図7(b) に示す拡大画像Poutは、これを巨視的に全体観察すれば、原画像Pinの輝度分布をそのまま再現した画像になっており、これを微視的に部分観察すれば、原画像Pin内のいずれかの箇所の輝度分布を再現した画像になっている。このように、フラクタルを用いた拡大処理を行えば、違和感の少ない高品質な拡大画像が得られることになる。
もっとも、フラクタルを用いた拡大処理の品質を維持するためには、ドメインセルDのバリエーションをできるだけ多くすることが重要である。上例の場合、1つのレンジセルRに対して、1画素ピッチで縦横にずらした合計117組のドメインセルDの中から最適ドメインセルの選択を行っているが、得られる拡大画像の品質を向上させるためには、ドメインセルDのバリエーションを更に増やすことが好ましい。
このような観点から、前掲の特許文献3には、原画像Pinから抽出された1つのドメインセルD内の画素の配置転換を行うことにより、バリエーションを増やす工夫が開示されている。たとえば、図5に示す例では、原画像Pinのm行n列目の画素を左上隅に含む位置から、1つのドメインセルD(m,n)のみが抽出され、レンジセルR(i,j)に対する類似度が判定されるが、このドメインセルD(m,n)を構成する16個の画素について配置転換を行うと、原画像Pin上の同じ位置から抽出したドメインセルD(m,n)について、複数通りのバリエーションを得ることができる。
図8は、このようなドメインセルD(m,n)を構成する画素の配置転換例を示す図である。ここでは、原画像Pinから抽出したままのドメインセルDをオリジナルドメインセルD1と呼ぶことにし、このオリジナルドメインセルD1に含まれている画素に、図8左上に示すように、1〜16の番号を付すことにする。このオリジナルドメインセルD1に含まれている画素1〜画素16に対して、様々な配置転換作業を行うことにより、複数通りのバリエーションをもったドメインセルD2〜D8を作成することができる。
たとえば、図8に示すドメインセルD2は、オリジナルドメインセルD1の画素配列を時計回りに90°回転するように配置転換したものであり、画素1〜画素16の配置が変更されていることがわかる。同様に、ドメインセルD3,D4は、オリジナルドメインセルD1の画素配列を時計回りに180°,270°回転するように配置転換したものである。
一方、ドメインセルD5は、オリジナルドメインセルD1の各画素を、配置転換軸a5を基準軸として対称位置にある画素と入れ替えたものである。同様に、ドメインセルD6,D7,D8は、オリジナルドメインセルD1の各画素を、それぞれ配置転換軸a6,a7,a8を基準軸として対称位置にある画素と入れ替えたものである。
図8に示すとおり、各ドメインセルD1〜D8の画素配置は互いに異なっているので、オリジナルドメインセルD1を含めて、合計8通りのバリエーションが生まれたことになる。前述した具体例の場合、1つのレンジセルRに対して、1画素ピッチで縦横にずらした合計117組のドメインセルDが最適ドメインセルの候補となっていたが、図8に例示するような配置転換によって、合計8通りのバリエーションを候補とすることができれば、合計936通りの候補の中から最適ドメインセルの選択を行うことが可能になり、拡大画像の品質向上に貢献する。
<<< §3. 本発明に係る画像拡大処理の基本概念 >>>
本発明に係る画像拡大処理は、§2で述べたフラクタルを用いた拡大処理を更に改良するものであり、この改良により、ドメインセルのバリエーションの数を飛躍的に増加させることが可能になる。
図8に例示したように、原画像Pinの同じ位置から抽出したドメインセルDに対して、画素の配置転換作業を行えば、それだけドメインセルのバリエーションを増やすことが可能である。しかしながら、画素の配置転換は全くランダムに行うことはできないので(全くランダムな配置転換を行うと、フラクタル構造に特有の自己相似性が失われてしまう)、このような画素の配置転換によって得られるバリエーションの数は、実用上、図8に例示したように、たかだか8通り程度に限定されてしまう。そのため、従来のフラクタルを用いた拡大処理手法では、レンジセルRに対する類似度が不十分なドメインセルDが最適ドメインセルとして選択されてしまう可能性があり、拡大画像上にノイズ成分が現れ、画質が低下するという問題が生じる。
本発明の手法によれば、ドメインセルのバリエーションの数を飛躍的に増やすことができるので、類似度が十分に高い最適ドメインセルが選択されるようになり、ノイズ成分の少ない高品質な拡大画像を得ることができるようになる。
本発明の要点は、原画像Pinを任意の回転角θだけ回転させた回転画像を生成し、この回転画像上で定義されたドメインセルの中から、レンジセルに対する類似度が最も高いものを最適ドメインセルとして選択することにある。ここで、回転角θを任意に設定した回転画像を生成するためには、原画像Pinを構成する個々の画素の画素値を用いた補間演算が必要になり、回転画像を構成する個々の画素の画素値は、多くの場合、原画像Pinを構成する個々の画素の画素値とは異なるものになる。したがって、前述した画素の配置転換によって得られるバリエーションとは比較にならない数のバリエーションが得られることになる。
図9は、本発明の特徴となる原画像Pinの回転処理を示す平面図である。ここで、水平基準線Hは、回転前の原画像Pinの上辺の位置を示す直線であり、図示の原画像Pinは、この水平基準線H上の回転中心点Gを中心点として所定の回転角θだけ回転させた後の状態を示している。なお、ここでは、図示の便宜上、回転中心点Gを原画像Pinの左上隅点にとっているが、回転中心点Gは任意の位置にとることができ、たとえば、原画像Pinの中心点を回転中心点Gとしてもよい。
本発明では、レンジセルRの定義は、図3に示すように、回転前の原画像Pin上で行われるが、ドメインセルDの定義は、図9に示すように、回転後の原画像Pin上で行われる(もちろん、回転角θ=0に設定して得られる回転画像は、回転前の原画像Pinと同一である)。但し、ドメインセルDのセル枠の位置は、回転角θにかかわらず常に一定とし、水平基準線Hに対して固定されるようにする。
たとえば、図9に示すドメインセルD(m,n,θ)は、元の原画像Pinを回転角θだけ回転して得られる回転画像上に定義されたドメインセルであるが、セル枠の位置は、回転前の原画像Pinの画素配列のm行n列目の画素が左上隅にくるように固定したままにする。したがって、回転角θを、θ=0°,10°,20°,30°と4通りに変えて回転画像を生成すれば、ドメインセルDも、これら4通りの回転角θに応じて、D(m,n,0°),D(m,n,10°),D(m,n,20°),D(m,n,30°)という4通りのバリエーションが得られるが、これら各ドメインセルDの水平基準線Hに対する位置は不変である。
図10は、図9に示す回転処理によって回転画像を生成する方法を示す平面図である。これまでの説明では、図示の便宜上、個々の画素を小さな正方形の領域で表現し、これら正方形を縦横に並べた配列として、原画像Pin,レンジセルR,ドメインセルD等の画像データを示してきたが、図10では、これら画像データを、所定ピッチで配置された代表点(これまで小さな正方形で示してきた画素の中心点)にそれぞれ所定の画素値を定義したデータとして捉えている。
すなわち、図10において、符号D(m,n,θ)で示した太線の枠は、これまでの説明と同様、ドメインセルDを構成する各画素を正方形の領域として示したものであるが、各正方形の中心点にプロットされた×印は、ドメインセルD(m,n,θ)を構成する各画素の代表点を示している。×印の代表点は、いずれも水平基準線Hに平行な方向に整列している。一方、○印は、元の原画像Pinを回転角θだけ回転して得られる回転画像を構成する画素の代表点を示している。図には、回転画像の1行目の画素の代表点を結ぶ基準線Lが示されているが、この基準線Lは、水平基準線Hに対して回転角θをなす線になる。
図示のとおり、回転角θを任意の値に設定して回転画像を定義すると、多くの場合、○印の位置と×印の位置とは一致しない(もちろん、θ=0°や90°など、回転角θを特定の値に設定した場合は、両者が一致することがある)。そして、与えられた原画像Pinを示す画像データは、あくまでも図10に○印で示す各代表点位置に定義された画素値を示すデータであるので、ドメインセルD(m,n,θ)を構成する各画素の画素値、すなわち、×印の位置に定義すべき画素値を求めるには、近傍に位置する○印の位置に定義されている画素値に基づく補間演算を行う必要がある。
ここで、元の原画像Pinを任意の回転角θだけ回転させることによって得られる回転画像を構成する各画素の代表点位置(図10の○印の位置)の座標は、幾何学的な座標変換処理によって求めることができる。図11は、このような座標変換処理の一例を示す平面図である。この例では、XY二次元座標系上の座標点P(X,Y)を、回転中心点G(X0,Y0)を中心として時計回りに回転角θだけ回転することにより、座標点P′(X′,Y′)が得られた場合に、座標値X′,Y′と元の座標値X,Yとの関係が示されている。具体的には、図示のとおり
X′=X0+(X−X0)・cos θ,
Y′=Y0+(X−X0)・sin θ 式(6)
なる演算式に基づいて、座標値X′,Y′が得られる。したがって、図10に○印で示す各代表点の位置座標は、回転角θを用いた上記式(6)に基づく演算によって決定できる。
したがって、図10に×印で示す各位置に定義すべき画素値は、その近傍の○印の位置に定義されている画素値を参照して、たとえば、図2(c) に例示するバイキュービック法などを利用した公知の補間演算により決定することができる。図示の例の場合、16個の×印の位置に対して、補間演算によってそれぞれ所定の画素値が決定できれば、これら画素値の配列がドメインセルD(m,n,θ)ということになる。
ここで、たとえば、回転角θを、0°,1°,2°,... ,359°と1°刻みに変化させて360通り設定すれば、同じ枠位置から抽出したドメインセルD(m,n,θ)について、360通りのバリエーションを得ることができる。もちろん、回転角θを、0.1°刻みに変化させれば、3600通りのバリエーションを得ることができる。なお、回転角θの範囲は、必ずしも0°〜360°にする必要はなく、たとえば、0°〜90°という範囲に限定してもよいし、−20°〜+20°という範囲に限定してもかまわない。
このように、本発明では、任意の回転角θを設定した回転画像を生成し、この回転画像を用いてドメインセルDを得るようにしたため、得られるドメインセルのバリエーションの数を飛躍的に増加させることができる。その結果、最適ドメインセルの類似度を高め、拡大画像の品質を格段に向上させることができるようになる。もちろん、任意の回転角θを設定した回転画像からドメインセルDを得るには、図10で説明したとおり、バイキュービック法などを利用した補間演算を行う必要があるため、演算負担は増加することになるが、近年はCPUなどの演算処理ユニットの性能が向上してきており、本発明を利用することにより、実用上、十分な速度で高品質な拡大画像を得ることが可能である。
<<< §4. 本発明に係る画像拡大処理の基本手順 >>>
続いて、図12の流れ図を参照しながら、本発明に係る画像拡大処理の基本手順を説明する。この基本手順は、専用のプログラムを組み込んだコンピュータによって実行される。
まず、ステップS1では、拡大処理の対象となる原画像Pinを、所定の画素値をもった画素の配列を示す画像データとして原画像格納用メモリに格納する入力段階が行われる。たとえば、原画像格納用メモリには、図3に示すように、縦横の行列状に配置された複数の画素からなる矩形画像が、拡大処理の対象となる原画像Pinとして格納される。
続くステップS2では、レンジセルの縦および横の位置を示すパラメータiおよびjが初期値に設定される。ここに示す例の場合、レンジセルの左上隅に位置する画素の行番号および列番号をパラメータi,jとして用いているため、初期値として、i=1,j=1が設定される。
そして、ステップS3において、原画像格納用メモリに格納されている原画像Pinの一部の領域を、レンジセルR(i,j)として抽出する処理が行われる。既に述べたとおり、本発明では、原画像Pin上の所定位置に、複数画素の配列からなるレンジセルが定義される。たとえば、図3に示す例では、2×2の画素配列からなる合計48組のレンジセルRが定義されている。ステップS3では、このように定義された複数組のレンジセルのうち、パラメータi,jで特定される1組のレンジセルを着目レンジセルとして抽出し、抽出した着目レンジセル内の各画素の画素値を読み出す処理が行われる。たとえば、図5に示す例の場合、2×2の画素配列からなる着目レンジセルR(i,j)を構成する4つの画素の各画素値r(x,y)が読み出されることになる。
次のステップS4では、回転角θの初期値が設定される。初期値は、任意の値に設定することができるが、実用上は、回転角θの変動範囲の始端となる値に設定すればよい。たとえば、回転角θの変動範囲を0°〜90°に設定する場合には、初期値θ=0°に設定すればよいし、回転角θの変動範囲を−20°〜+20°に設定する場合には、初期値θ=−20°に設定すればよい。
続くステップS5では、設定された回転角θに基づいて、回転画像P(θ)を演算する処理が行われる。すなわち、原画像格納用メモリに格納されている原画像Pinについての画像データ(ステップS1で入力した回転させていない画像データ)を用いた補間演算により、原画像Pinを回転角θだけ回転させた回転画像P(θ)を生成し、生成された回転画像P(θ)を、所定の画素値をもった画素の配列を示す画像データとして回転画像格納用メモリに格納する処理が行われる。
§3では、図10を参照して、1組のドメインセルD(m,n,θ)を構成する画素(×印を代表点とする画素)の画素値を、回転画像を構成する画素(○印を代表点とする画素)の画素値に基づく補間処理によって求める処理を説明した。ステップS5で行われる回転画像P(θ)の演算処理は、このような補間処理を、必要なすべてのドメインセルDに関して行う処理ということができる。
別言すれば、図10に○印で示す画素の各代表点は、「元の原画像Pin(原画像格納用メモリに格納されている画像データ)上の画素の各代表点を、回転角θだけ回転させて得られる点」として定義される概念上の点にすぎない。ステップS5の演算処理は、このような概念上の点を参照して、水平基準線Hに対して固定された×印で示す代表点(図10では、×印の点は、ドメインセルD(m,n,θ)内の16点しか示されていないが、これを同ピッチで縦横に繰り返し並べた点)についての画素値を求め、画像データとして、回転画像格納用メモリに格納する処理と言うことができる。
結局、ステップS5が完了した時点では、原画像格納用メモリには、ステップS1で入力した原画像Pinの画像データが格納されており、回転画像格納用メモリには、ステップS5で行った補間演算により求められた回転画像P(θ)の画像データが格納された状態になる。
続いて、ステップS6において、ドメインセルの縦および横の位置を示すパラメータmおよびnが初期値に設定される。ここに示す例の場合、ドメインセルの左上隅に位置する画素の行番号および列番号をパラメータm,nとして用いているため、初期値として、m=1,n=1が設定される。
そして、ステップS7では、回転画像格納用メモリに格納されている回転画像P(θ)の一部の領域を、着目ドメインセルD(m,n,θ)として抽出する処理が行われる。本発明では、回転画像P(θ)上の所定位置に、複数画素の配列からなるドメインセルDが定義される。ここで、ドメインセルDは、レンジセルRを構成する画素配列よりも大きな画素配列から構成されている。たとえば、図5には、原画像Pin上に4×4の画素配列からなるドメインセルD(m,n)を定義した例が示されているが、本発明では、原画像Pinの代わりに、回転画像P(θ)上の所定位置にドメインセルD(m,n,θ)が定義されることになる(もちろん、θ=0の設定で得られた回転画像P(0)は、実質的に、原画像Pinと同じ画像になる)。
続くステップS8では、ステップS3で抽出された着目レンジセルR(i,j)と、ステップS7で抽出された着目ドメインセルD(m,n,θ)との比較が行われ、両者の類似度が判定される。この比較判定処理の具体的な手順は、図5で述べた着目レンジセルR(i,j)と着目ドメインセルD(m,n)との比較判定処理の手順と同様である。すなわち、ステップS3で抽出された着目レンジセルR(i,j)に対しては、手順T2の差分演算処理が行われ、レンジセル差分画像R′(i,j)が生成される。一方、ステップS7で抽出された着目ドメインセルD(m,n,θ)に対しては、手順T4の縮小処理、手順T5の差分演算処理が行われ、縮小ドメインセル差分画像SD′(m,n,θ)が生成される。
そして、最後に、手順T6の比較処理により、レンジセル差分画像R′(i,j)と縮小ドメインセル差分画像SD′(m,n,θ)との類似度(両画像の画素値変動分布の類似度)を示す誤差値Eが、図6に示す式(3),(4)に基づいて求められる。ここで、誤差値Eは、値が小さいほど、類似度が高いことを示すパラメータとなる。こうして求められた比較結果(誤差値E)は、着目レンジセルR(i,j)と着目ドメインセルD(m,n,θ)との比較結果として保存される。
このような比較処理が、着目レンジセルR(i,j)と着目ドメインセルD(m,n,θ)の組み合わせを変えることにより、総当たりで実施される。すなわち、ステップS9では、回転画像P(θ)上に定義された全ドメインセルについての処理が完了したか否かが判断され、否定的な判断がなされた場合には、ステップS10へと進み、パラメータm,nが更新され、新たなドメインセルD(m,n,θ)についてステップS7からの処理が繰り返し実行される。回転画像P(θ)上に、1画素ピッチで縦横にずらした多数のドメインセルDを定義して最適ドメインセルの候補とする場合であれば、パラメータmを1ずつ増加させる更新およびパラメータnを1ずつ増加させる更新を、mとnのすべての組み合わせについて行えばよい。
ステップS9で肯定的な判断がなされた場合には、ステップS11へと進み、全回転角度についての処理が完了したか否かが判断される。たとえば、回転角θの変動範囲を0°〜90°に設定し、ステップS4でθの初期値をθ=0°に設定して徐々に増加させる更新を行った場合には、θ=90°についての処理が完了するまで、ステップS11における否定的判断がなされ、ステップS12へと進むことになる。ステップS12では、回転角θの値が更新され(たとえば、1°とか、0.1°とか、予め設定した所定の刻み幅だけ増加させる更新を行えばよい)、ステップS5からの処理が繰り返し実行される。
すなわち、ステップS5では、原画像格納用メモリに格納されている原画像Pinに基づいて新たな回転画像P(θ)が演算され、回転画像格納用メモリの画像データが新たな回転画像P(θ)に書き換えられる。そして、この新たな回転画像P(θ)から抽出されたドメインセルDを用いて、前述した処理が繰り返し実行される。
ステップS11で肯定的な判断がなされた場合には、ステップS13へと進み、全レンジセルRについての処理が完了したか否かが判断される。たとえば、図3に示す例のように、合計48組のレンジセルRを定義した場合、これら48組のレンジセルすべてについての処理が完了するまでは、ステップS13で否定的判断がなされ、ステップS14へ進むことになる。ステップS14では、パラメータi,jが更新され、新たなレンジセルR(i,j)についてステップS3からの処理が繰り返し実行される。図3に例示するように、2画素ピッチで縦横にずらした多数のレンジセルRを定義した場合、パラメータiを2ずつ増加させる更新およびパラメータjを2ずつ増加させる更新を、iとjのすべての組み合わせについて行えばよい。
結局、ステップS2〜S14に示す手順は、個々のレンジセルRと個々のドメインセルDとのすべての組み合わせに関して、それぞれ比較を行って類似度を判定し、その結果を保存する手順ということになる。すなわち、ステップS14を経てステップS3へ戻る繰り返し手順では、原画像Pin上の異なる位置に定義された複数のレンジセルR(i,j)のそれぞれについて、画素値を読み出すレンジセル読出処理が繰り返し行われ、比較対象となる一方の情報が取得される。
一方、ステップS12を経てステップS5へ戻る繰り返し手順では、回転角θの異なる複数通りの回転画像P(θ)を生成し、これを回転画像格納用メモリに格納する画像回転処理が繰り返し行われる。そして、この画像回転処理の中に入れ子式に組み込まれたステップS10を経てステップS7へ戻る繰り返し手順では、結局、複数通りの回転画像P(θ)のそれぞれについて、かつ、回転画像P(θ)上の異なる位置に定義された複数のドメインセルDのそれぞれについて、画素値を読み出すドメインセル読出処理が繰り返し行われ、比較対象となる他方の情報が取得されることになる。
こうして、ステップS8の類似度判定段階では、個々のレンジセルRのそれぞれについて、複数通りの回転画像P(θ)のそれぞれについての複数位置からそれぞれ抽出されたドメインセルDに対する類似度の判定が行われ、最も高い類似度が得られたドメインセルを当該レンジセルについての最適ドメインセルとして特定する処理が行われる。
最終的に、ステップS13で肯定的な判断がなされると、ステップS15へと進み、拡大画像の生成処理が行われる。この処理は、レンジセルRを構成する画素配列からなる被置換画素群を、ドメインセルDと同じ大きさの画素配列からなる置換画素群に置換することにより拡大画像を生成する処理であり、その手順は、§2において、図7を参照して述べたとおりである。すなわち、被置換画素群となるレンジセルRについての最適ドメインセルDを構成する画素の画素値変動分布を参照することにより、置換画素群Q(R(i,j))を構成する各画素の画素値q(x,y)を決定する処理が行われることになる。図7に示す例の場合、レンジセルR(i,j)を構成する2×2の画素配列からなる被置換画素群が、ドメインセルDと同じ大きさの4×4の画素配列からなる置換画素群Q(R(i,j))に置換されている。
ここで、置換画素群Q(R(i,j))を構成する各画素の画素値q(x,y)は、レンジセルR(i,j)およびその最適ドメインセルD(m,n)を利用した式(5)に基づく演算によって算出される。これまでの各手順を実行することにより、個々のレンジセルRと個々のドメインセルDとのすべての組み合わせに関して、それぞれ類似度が判定され、その結果が保存されているので、ステップS15を実行する時点では、個々のレンジセルRについて、最も高い類似度が得られたドメインセルDを最適ドメインセルとして特定することができる。そこで、この最適ドメインセルを利用して、式(5)に基づく演算を行い、置換画素群Q(R(i,j))を構成する各画素の画素値を決定し、これを拡大画像格納用メモリに記録する処理を行えばよい。
ここで述べる実施例では、レンジセルRをa行b列に配列された画素の集合体によって構成し、ドメインセルDを(M×a)行(M×b)列に配列された画素の集合体によって構成しているため、ステップS15では、ステップS1で入力した原画像Pinに対して、縦横それぞれM倍の解像度を有する拡大画像が生成されることになる。
続くステップS16では、ステップS15で生成された拡大画像に対する修正処理が行われる。この修正処理は、得られた拡大画像の品質を向上させるとともに、その輝度値を原画像Pinの輝度値により近づけることを目的とするものであり、その詳細については、§5で述べることにする。
最後のステップS17では、修正処理が完了した画像を、最終的な拡大画像Poutとして出力する処理が行われる。
<<< §5. 拡大画像に対する修正処理 >>>
ここでは、図12に示す流れ図におけるステップS16の拡大画像修正処理の詳細について述べる。ここでは、異なる2通りの手法に基づく修正処理を説明する。いずれの修正処理も、ステップS15で生成された拡大画像に対して、画素値を修正する処理という点では共通するが、第1の修正処理は、画素値の不連続性を平滑化する修正処理であり、第2の修正処理は、拡大画像の輝度値を原画像の輝度値に近づける修正処理ということになる。
まず、第1の修正処理を説明する。既に述べたとおり、本発明では、原画像Pin上に多数のレンジセルRが定義され、このレンジセルR内の画素群を1セットの被置換画素群として、より解像度の高い置換画素群Qによる置換が行われる。たとえば、図3に示す例の場合、原画像Pin上に48組のレンジセルRが定義され、個々のレンジセルR内の画素群が1セットとして置換されてゆくことになる。
ここで、置換後の各画素の画素値分布に着目すると、1セットの置換画素群Qに所属する画素の画素値分布は自然なものになる。なぜなら、1セットの置換画素群Qは、最適ドメインセルDを参照して生成されたものであり、当該最適ドメインセルDは、もともと原画像Pinに含まれていた部分画像であるためである。これに対して、1セットの置換画素群Q1とこれに隣接して配置される別な1セットの置換画素群Q2との境界部分には、不自然な画素値分布が生じやすい。なぜなら、各置換画素群Q1,Q2は、それぞれ別な最適ドメインセルを参照して生成されたものであり、これらの最適ドメインセルは、必ずしも原画像Pin上において隣接していたセルではないためである。
したがって、たとえば、図7(b) に示すような拡大画像Poutを生成すると、置換画素群Q(R(i,j))内の画素値分布は自然なものになるとしても、その上下左右に隣接する別な置換画素群との境界部分の画素値分布は不自然なものになりやすい。
第1の修正処理は、このような問題に対処する修正を行うものであり、隣接配置された複数組の置換画素群の境界部分の画素値の不連続性を平滑化するための画像平滑フィルタを作用させる処理ということができる。このような画像平滑フィルタとしては、ローパスフィルタ、移動平均フィルタ、加重平均フィルタなどが知られており、この画像平滑フィルタを用いた畳み込み演算により、置換画素群の境界部分の画素値分布を自然にするための平滑化を行うことができる。具体的な平滑化の演算処理については、公知の技術であるため、ここでは詳しい説明は省略する。
一方、第2の修正処理は、置換画素群を構成する画素の画素値を被置換画素群を構成する画素の画素値により近づけるための輝度調整処理ということができる。ここでは、図13を参照しながら、この輝度調整処理を具体的に説明しよう。
ここでは、ステップS15の拡大画像生成処理によって作成された拡大画像を第0次拡大画像と呼ぶことにする。図13の左上に示す画像が、この第0次拡大画像であり、この例では、4×4の画素配列からなる置換画素群Q(R(i,j))によって、原画像Pin上のレンジセルR(i,j)を置換した状態が示されている。第0次拡大画像は、このような多数の置換画素群の集合によって構成されている。
図示の置換画素群Q(R(i,j))は、図7(b) に示す置換画素群Q(R(i,j))に対応するものであり(Qの次の添字「0」は、第0次拡大画像を構成する置換画素群であることを示す)、その各画素値q(x,y)は、式(5)に基づいて算出されたものである。ここでは、置換画素群Q(R(i,j))を構成する個々の画素を、この置換画素群上に定義されたローカル座標系xyを用いて、q(x,y)と表すこととし、当該画素の画素値も同じ符号q(x,y)と表すことにする。
一方、図13の右上に示すドメインセルD(m,n,θ)は、レンジセルR(i,j)についての最適ドメインセルである。そこで、この最適ドメインセルD(m,n,θ)を構成する個々の画素d(x,y)の画素値についての平均値d(ave)を求め、更に、
d′(x,y)=d(x,y)−d(ave) 式(7)
なる式に基づいて、差分画素値d′(x,y)を算出し、この差分画素値d′(x,y)をもった画素d′(x,y)からなる差分画像D′(m,n,θ)を生成する。この差分画像D′(m,n,θ)は、最適ドメインセルD(m,n,θ)に含まれる情報から画素値(輝度値)の変動分布のみを取り出した情報を示すものである。
続いて、第0次拡大画像を構成する置換画素群Q(R(i,j))に対して、次のような修正処理を行う。まず、置換画素群Q(R(i,j))を構成する個々の画素q(x,y)についての画素値の平均値q0(ave)を算出する。そして、
q′(x,y)=q(x,y)−q(ave) 式(8)
なる式に基づいて、差分画素値q′(x,y)を算出し、この差分画素値q′(x,y)をもった画素q′(x,y)からなる差分画像Q′(R(i,j))を生成する。この差分画像Q′(R(i,j))は、置換画素群Q(R(i,j))に含まれる情報から画素値(輝度値)の変動分布のみを取り出した情報を示すものである。
ところで、図7に示すように、置換画素群の画素値q(x,y)は、
q(x,y)=(d(x,y)−d(ave))×α+r(ave) 式(5)
なる式で与えられるので、この式(5)と上述した式(8)とをまとめれば、置換画素群Q(R(i,j))を構成する各画素の画素値q(x,y)は、
(x,y)=d′(x,y)×α+r(ave) 式(9)
なる式によって算出されたことになる。この式(9)におけるαは、図6の式(3)で算出される輝度変換パラメータαと同じものであるが、ここでは、第0次拡大画像を得るために用いたパラメータという意味で、第0次輝度変換パラメータαと呼ぶことにする。
次に、画素値q(x,y)を、
(x,y)=d′(x,y)×α+q(ave) 式(10)
α=Σx,y [q′(x,y)・d′(x,y)]/
Σx,y [d′(x,y)] 式(11)
なる式によって算出する。ここで、式(10)は、式(9)に準じた式となっており、式(9)のq(x,y)をq(x,y)に置き換え、αをαに置き換え、r(ave)をq(ave)に置き換えたものである。同様に、式(11)は、図6に示す式(3)に準じた式となっており、式(3)のr′(x,y)をq′(x,y)に置き換え、sd′(x,y)をd′(x,y)に置き換えたものである。
こうして算出された画素値q(x,y)をもつ画素の集合体として、置換画素群Q(R(i,j))を定義し、第0次拡大画像を構成する置換画素群Q(R(i,j))を、それぞれ置換画素群Q(R(i,j))に置き換える処理を行えば、第0次拡大画像に基づいて第1次拡大画像を得ることができる。
同様にして、第1次拡大画像から第2次拡大画像を得る処理を行い、更に、第2次拡大画像から第3次拡大画像を得る処理を行い、... という処理を合計n回繰り返してゆけば、第n次拡大画像が得られる。第k次拡大画像を第(k−1)次拡大画像から得るには、第k次拡大画像の画素値q(x,y)を、
(x,y)=d′(x,y)×α+qk−1(ave) 式(12)
α=Σx,y [q′(x,y)・d′(x,y)]/
Σx,y [d′(x,y)] 式(13)
なる一般式によって算出すればよい。
一般に、第k次拡大画像は、第(k−1)次拡大画像に比べて、原画像Pinの輝度値により近い高品質な画像になる。kの値を増やしてゆくと、拡大画像の輝度値(画素値)は徐々に収束してゆくことになるので、輝度値の変化がある程度の範囲内に収束した時点で得られた第k次拡大画像を、最終的な第n次拡大画像とすればよい。通常、n=10程度に設定すれば、十分に高品質な拡大画像を得ることができる。
以上、第1の修正処理として平滑化処理を、第2の修正処理として輝度値修正処理を述べたが、実際には、これらを交互に繰り返して行うのが好ましい。すなわち、一般的な手順として、第k次拡大画像が得られたら、この第k次拡大画像に対して第1の修正処理である平滑化処理を行い、平滑化した後の第k次拡大画像に基づいて、第2の修正処理である輝度値修正処理を行って第(k+1)次拡大画像を生成する、という処理を、k=0からk=n−1まで順次行えばよい。
<<< §6. 本発明に係る画像拡大処理装置の基本構成 >>>
続いて、本発明に係る画像拡大処理装置の基本構成を、図14に示すブロック図を参照しながら説明する。この画像拡大処理装置は、与えられた原画像Pinを拡大して拡大画像Poutを生成する処理を行う装置であり、実際には、コンピュータに専用のプログラムを組み込むことによって構成することができる。もちろん、この図14に各ブロックとして示されている構成要素を、論理素子およびメモリによって構成すれば、この画像拡大処理装置を半導体集積回路として実現することも可能である。
図示の原画像入力部10は、拡大対象となる原画像Pinを入力する機能をもった構成要素であり、入力された原画像Pinは、原画像格納用メモリ20に格納される。原画像Pinは、所定の画素値をもった画素の配列を示す画像データによって構成されており、原画像格納用メモリ20は、そのような画像データを格納する役割を果たす。
回転画像演算部30は、原画像格納用メモリ20に格納されている原画像Pinを、所定の回転角θだけ回転させることにより回転画像P(θ)を生成し、得られた回転画像P(θ)を回転画像格納用メモリ40に格納する処理を行う。回転画像P(θ)は、原画像格納用メモリ20内の原画像Pinを構成する画像データを用いた補間演算により生成される。補間演算の基本原理は、図10を参照して説明したとおりである。回転画像格納用メモリ40は、生成された回転画像P(θ)を、所定の画素値をもった画素の配列を示す画像データとして格納する。
レンジセル抽出部50は、原画像格納用メモリ20に格納されている原画像Pin上に、複数画素の配列からなるレンジセルRを、少なくとも拡大対象領域がカバーされるように定義し、定義した個々のレンジセルR(i,j)を、順次、着目レンジセルとして抽出する処理を行う。たとえば、図3に示す例のように、原画像Pinの全領域を拡大対象領域として、合計48組のレンジセルを定義した場合は、これら48組のレンジセルが順次抽出されることになる。
図3に示す例の場合、レンジセル抽出部50は、A行B列の画素配列からなる原画像Pin上において、a行b列に配置された画素を包含するセル枠を、行方向にa画素ピッチ、列方向にb画素ピッチで移動させることにより、合計(A/a)×(B/b)組のレンジセルを定義することになる。なお、レンジセル抽出部50によるレンジセルR(i,j)の抽出処理とは、実際には、図5に例示するように、レンジセルR(i,j)を構成する個々の画素の画素値r(x,y)を読み出す処理である。
一方、ドメインセル抽出部60は、回転画像格納用メモリ40に格納されている回転画像P(θ)上に、ドメインセルを複数組定義し、個々のドメインセルD(m,n,θ)を、順次、着目ドメインセルとして抽出する処理を行う。ここで、個々のドメインセルDは、レンジセルRを構成する画素配列よりも大きな画素配列を有するようにする。
ここに示す例の場合、ドメインセル抽出部60は、A行B列の画素配列からなる原画像上において、拡大倍率をMとして、(M×a)行(M×b)列に配列された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−(M×a)+1)×(B−(M×b)+1)組のドメインセルを定義することになる。なお、ドメインセル抽出部60によるドメインセルD(m,n,θ)の抽出処理とは、実際には、ドメインセルD(m,n,θ)を構成する個々の画素の画素値r(x,y)を読み出す処理である。
類似度判定部90は、レンジセル抽出部50が抽出した着目レンジセルR(i,j)の画素値変動分布と、ドメインセル抽出部60が抽出した着目ドメインセルD(m,n,θ)の画素値変動分布との類似度を判定する処理を行う。判定結果として得られた類似度は、判定結果格納部80に格納される。もっとも、ここに示す実施例の場合、判定結果格納部80には、すべての判定結果(類似度判定部90で得られたすべての類似度)を格納しておく必要はなく、個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定する情報が格納されていれば十分である。
セル合成部70は、判定結果格納部80に格納されている情報に基づいて、個々のレンジセルR(i,j)についての最適ドメインセルD(m,n,θ)を認識し、当該最適ドメインセルD(m,n,θ)を構成する画素の画素値変動分布を参照して、当該最適ドメインセルと同じ大きさの画素配列からなる置換画素群を構成する画素の画素値を決定する。具体的には、図7に示す式(5)に基づいて、置換画素群を構成する画素の画素値q(x,y)が決定され、当該画素の集合体である置換画素群Q(R(i,j))が決定される。そして、レンジセルR(i,j)を構成する画素配列からなる被置換画素群を、当該レンジセルR(i,j)についての置換画素群Q(R(i,j))に置換することにより拡大画像を生成する処理を行う。
この処理の具体例は、図7に示したとおりである。要するに、セル合成部70は、拡大倍率をM、レンジセルR(i,j)の縦横サイズをa,b、置換画素群Q(R(i,j))を構成する(M×a)行(M×b)列の画素配列のうちのx行y列目の画素の画素値をq(x,y)、最適ドメインセルD(m,n,θ)のx行y列目の画素の画素値をd(x,y)、その平均値をd(ave)として、図7に示すように、
q(x,y)=(d(x,y)−d(ave))×α+r(ave) 式(5)
なる式を用いた演算により、画素値q(x,y)を求める処理を行うことになる。
このような拡大画像生成処理を行うために、セル合成部70内には、拡大画像を格納するための拡大画像格納用メモリ71が設けられており、拡大画像は、この拡大画像格納用メモリ71内に生成されることになる。こうして生成された拡大画像は、拡大画像出力部110によって、拡大画像Poutとして出力される。
もっとも、ここに示す実施例では、更に、修正処理部100が設けられている。この修正処理部100は、セル合成部70によって生成された拡大画像に対して、画素値の修正処理を行う構成要素であり、拡大画像出力部110は、実際には、この修正処理部100によって修正された拡大画像を、最終的な拡大画像Poutとして出力することになる。
修正処理部100は、拡大画像格納用メモリ71内に格納されている拡大画像に対する修正処理を行うため、平滑処理部101と輝度調整部102とを有している。ここで、平滑処理部101は、§5で第1の修正処理として説明した平滑処理、すなわち、隣接配置された複数組の置換画素群の境界部分の画素値の不連続性を平滑化するための画像平滑フィルタを作用させる処理を行う構成要素である。また、輝度調整部102は、§5で第2の修正処理として説明した輝度調整処理、すなわち、置換画素群を構成する画素の画素値を被置換画素群を構成する画素の画素値により近づけるため、図13で説明した処理を行う構成要素である。セル合成部70によって拡大画像格納用メモリ71内に生成された拡大画像は、図13に示す第0次拡大画像に相当するものである。修正処理部100による修正作業により、拡大画像格納用メモリ71内の画像は、第1次拡大画像,第2次拡大画像,第3次拡大画像,... と更新されてゆき、最終的な第n次拡大画像が得られた時点で、拡大画像出力部110によって、当該第n次拡大画像が最終的な拡大画像Poutとして出力されることになる。
もちろん、この図14に示す画像拡大処理装置は、図12の流れ図に示す処理を実行するように制御される。すなわち、まず、ステップS1の原画像Pinの入力段階において、原画像格納用メモリ20に原画像Pinが格納され、所定のパラメータi,jの設定に基づくステップS3のレンジセル抽出段階では、1つの着目レンジセルR(i,j)がレンジセル抽出部50によって抽出され、類似度判定部90に与えられる。また、所定の回転角θの設定に基づくステップS5の回転画像P(θ)の演算段階では、回転画像演算部30の演算が行われ、得られた回転画像P(θ)が回転画像格納用メモリ40に格納される。そして、所定のパラメータm,nの設定に基づくステップS7のドメインセル抽出段階では、1つの着目ドメインセルR(m,n,θ)がドメインセル抽出部60によって抽出され、類似度判定部90に与えられる。
続く、ステップS8では、類似度判定部90による着目レンジセルR(i,j)と着目ドメインセルR(m,n,θ)との類似度判定が行われ、判定結果が、判定結果格納部80に格納される。そして、ステップS10において、パラメータm,nが更新されると、ドメインセル抽出部60により、回転画像格納用メモリ40に格納されている回転画像P(θ)の別な位置から新たな着目ドメインセルR(m,n,θ)の抽出が行われ、類似度判定部90による判定処理が繰り返し実行される。
こうして、同一の回転画像P(θ)上のすべての位置から着目ドメインセルR(m,n,θ)の抽出が完了すると、ステップS12において、回転角θが更新される。これにより、回転画像演算部30が、新たな回転角θに基づいて、新たな回転画像の演算を行い、得られた新たな回転画像P(θ)が回転画像格納用メモリ40に格納される。このようにして、様々な回転画像P(θ)について、それぞれ着目ドメインセルR(m,n,θ)を抽出し、類似度判定部90によって類似度を判定する処理が繰り返し実行される。
そして、同一の着目レンジセルR(i,j)について、ドメインセルR(m,n,θ)の全候補に対する類似度判定が完了すると、ステップS14において、パラメータi,jが更新される。これにより、レンジセル抽出部50が、新たなパラメータi,jに基づいて、新たなレンジセルR(i,j)を抽出して類似度判定部90に与える処理を行う。このようにして、すべてのレンジセルR(i,j)について、候補となるすべてのドメインセルR(m,n,θ)に対する類似度判定が完了したら、セル合成部70が、判定結果格納部80に格納されている判定結果を利用して、各レンジセルR(i,j)に対する最適ドメインセルR(m,n,θ)の認識を行い、置換処理によって拡大画像の生成が行われることになる。
続いて、類似度判定部90の詳細な説明を行う。この類似度判定部90が行う類似度判定処理の基本手順は、§2において図5を参照して述べたとおりである。すなわち、類似度判定部90は、ドメインセル抽出部60によって抽出された着目ドメインセルD(m,n,θ)内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルSD(m,n,θ)を生成し、この縮小ドメインセルSD(m,n,θ)を構成する個々の画素sd(x,y)の画素値と、レンジセル抽出部50によって抽出された着目レンジセルR(i,j)を構成する個々の画素r(x,y)の画素値とについて、両者が近づくように輝度変換処理(差分演算を行って画素値変動分布のみを抽出し、一方に輝度変換パラメータαを乗じて、比較対象となる両画素値の輝度調整を行う処理)を施し、輝度変換処理後の縮小ドメインセルSD(m,n,θ)の個々の画素の画素値と着目レンジセルR(i,j)の個々の画素の画素値とを比較することにより類似度の判定を行うことになる。
この実施例の場合、類似度判定部90は、縮小処理部91、レンジセル平均値算出部92、ドメインセル平均値算出部93、レンジセル差分画像生成部94、縮小ドメインセル差分画像生成部95、輝度変換パラメータ算出部96、誤差値算出部97によって構成されている。これらの各構成要素は、図5に示す手順を実行するための構成要素ということになる。
レンジセル平均値算出部92は、着目レンジセルR(i,j)を構成する個々の画素について、その画素値r(x,y)の平均であるレンジセル平均値r(ave)を求める処理を行い、レンジセル差分画像生成部94は、着目レンジセルR(i,j)を構成する個々の画素について、その画素値r(x,y)とレンジセル平均値r(ave)との差を示す差分値r′(x,y)を求め、求めた差分値r′(x,y)を画素値とするレンジセル差分画像R′(i,j)を生成する。この処理は、図5に手順T2として示す処理に対応する。
一方、縮小処理部91は、着目ドメインセルD(m,n,θ)内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルSD(m,n,θ)を作成する。ドメインセル平均値算出部93は、この縮小ドメインセルSD(m,n,θ)を構成する個々の画素について、その画素値sd(x,y)の平均である縮小ドメインセル平均値sd(ave)を求める。そして、縮小ドメインセル差分画像生成部95は、縮小ドメインセルSD(m,n,θ)を構成する個々の画素について、その画素値sd(x,y)と縮小ドメインセル平均値sd(ave)との差を示す差分値sd′(x,y)を求め、求めた差分値sd′(x,y)を画素値とする縮小ドメインセル差分画像SD′(m,n,θ)を生成する。この処理は、図5に手順T4およびT5として示す処理に対応する。
輝度変換パラメータ算出部96は、レンジセル差分画像R′(i,j)内のx行y列目の画素の画素値をr′(x,y)、縮小ドメインセル差分画像SD′(m,n,θ)内のx行y列目の画素の画素値をsd′(x,y)としたときに、図6上段に示すように、
α=Σx,y [r′(x,y)・sd′(x,y)]/
Σx,y [sd′(x,y)] 式(3)
なる式で与えられる輝度変換パラメータαを求める処理を行う。
そして、誤差値算出部97は、レンジセル差分画像R′(i,j)内の各画素の画素値r′(x,y)と、縮小ドメインセル差分画像SD′(m,n,θ)内の各画素の画素値sd′(x,y)と、輝度変換パラメータαと、に基づいて、図6下段に示すように、
E=Σx,y [r′(x,y)−α・sd′(x,y)] 式(4)
なる式で与えられる誤差値Eを求める処理を行う。ここで、この誤差値Eが小さいほど、着目レンジセルR(i,j)の画素値変動分布と着目ドメインセルD(m,n,θ)の画素値変動分布との類似度が高い、との判定結果を示すことになる。
こうして得られた判定結果は、判定結果格納部80に格納される。もちろん、判定結果格納部80には、特定のレンジセルR(i,j)と特定のドメインセルD(m,n,θ)との組み合わせについて算出された誤差値Eそのものを判定結果として格納するようにしてもよいが、セル合成部70が拡大画像を生成する処理を行う際に必要な情報は、個々の誤差値Eそのものではなく、個々のレンジセルR(i,j)について、どのドメインセルD(m,n,θ)が最適ドメインセルであるかを認識するための情報である。もちろん、上記判定処理によって得られた個々の誤差値Eをすべて判定結果格納部80に格納しておけば、特定のレンジセルR(i,j)について誤差値Eが最も小さいドメインセルD(m,n,θ)を最適ドメインセルとして認識することが可能であるが、ここに示す実施例では、個々のレンジセルRのそれぞれについて、最適ドメインセルDを特定するための情報を判定結果格納部80に格納するようにしている。
すなわち、判定結果格納部80には、個々のレンジセルRのそれぞれについて、現段階で最も高い類似度が得られているドメインセルD(ここでは、仮最適ドメインセルと呼ぶことにする)に関する情報を格納する格納領域が設けられている。具体的には、最適ドメインセルD(m,n,θ)を特定するための情報として、回転角θおよびセル位置を示すパラメータm,nを格納すればよい。そして、類似度判定部90から判定結果格納部80に対して、特定のレンジセルについての新たな着目ドメインセルに対する類似度の判定結果(すなわち、誤差値E)が得られたときに、当該特定のレンジセルについて現段階で格納されている仮最適ドメインセルについての類似度(誤差値E)と新たな着目ドメインセルに対する類似度(誤差値E)とを比較し、前者よりも後者の方が高い場合(誤差値Eの比較の場合は、前者よりも後者の方が低い場合)にのみ、前者に関する情報(m,n,θ)を後者に関する情報(m,n,θ)によって書き換える処理を行うようにする。そうすれば、類似度判定部90から全ドメインセルに対する類似度の判定結果が得られた時点で判定結果格納部80に格納されていた仮最適ドメインセルが、最終的な最適ドメインセルということになる。
なお、ここに示す実施例の場合、ドメインセル平均値算出部93は、縮小ドメインセルSD(m,n,θ)を構成する個々の画素sd(x,y)についての画素値の平均値である縮小ドメインセル平均値sd(ave)を求める機能とともに、縮小前のドメインセルD(m,n,θ)を構成する個々の画素d(x,y)についての画素値の平均値であるドメインセル平均値d(ave)を求める機能も有している。前述したとおり、縮小ドメインセル平均値sd(ave)は、縮小ドメインセル差分画像生成部95が縮小ドメインセル差分画像を生成する際に利用されることになる。
一方、ドメインセル平均値d(ave)は、類似度判定部90における類似度判定に用いられるわけではなく、セル合成部70における拡大画像生成処理に利用される(図7の式(5)参照)。もちろん、セル合成部70にドメインセル平均値d(ave)を算出する機能をもたせてもよいが、ここに示す実施例では、ドメインセル平均値算出部93において、縮小ドメインセル平均値sd(ave)とドメインセル平均値d(ave)との双方を算出させるようにし、セル合成部70が算出結果を利用できるようにしている。
また、ここに示す実施例では、判定結果格納部80が、個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定するための回転角θおよびセル位置を示すパラメータm,nとともに、当該最適ドメインセルについての輝度変換パラメータαおよびドメインセル平均値d(ave)、ならびに、レンジセル平均値r(ave)を格納する機能も有している。前述したとおり、輝度変換パラメータαは誤差値Eを算出するために必要な値であり、輝度変換パラメータ算出部αにおいて算出される。また、レンジセル平均値r(ave)は、レンジセル差分画像を作成するために必要な値であり、レンジセル平均値算出部92において算出される。更に、ドメインセル平均値算出部93では、ドメインセル平均値d(ave)が算出される。
そして、セル合成部70が行う拡大画像生成処理では、画素値q(x,y)を決定するために(図7の式(5)参照)、レンジセル平均値r(ave)と、最適ドメインセルに関する輝度変換パラメータαおよびドメインセル平均値d(ave)とが必要になる。もちろん、これらの値は、セル合成部70において算出することもできるが、ここに示す実施例では、個々のR(i,j)ごとに、これらの値を類似度判定部90で算出し、判定結果格納部80に格納するようにしている。したがって、セル合成部70は、判定結果格納部80に格納されている輝度変換パラメータα、ドメインセル平均値d(ave)、レンジセル平均値r(ave)を利用して、画素値q(x,y)を決定するための演算を行うことができる。
もちろん、輝度変換パラメータαおよびドメインセル平均値d(ave)は、個々のR(i,j)についての最適ドメインセルに関する値のみが必要になるので、判定結果格納部80には、最適ドメインセルに関する値のみが格納されるようにすれば十分である。具体的には、個々のレンジセルについて現段階で格納されている仮最適ドメインセルについての類似度と新たな着目ドメインセルに対する類似度とを比較し、前者よりも後者の方が高い場合(誤差値Eの比較の場合は、前者よりも後者の方が低い場合)にのみ、前者についての値α,d(ave)を後者についての値α,d(ave)に書き換える処理を行ってゆけば、最終的に、最適ドメインセルに関する値のみが格納されている状態になる。
以上、類似度判定部90の詳細な構成を説明したが、この類似度判定部90の各構成要素による演算結果は、輝度調整部102によっても利用することができる。既に述べたとおり、輝度調整部102は、図13に示すような輝度調整演算を行い、拡大画像格納用メモリ71内の第k次拡大画像に対する修正処理を行うことになるが、この輝度調整演算の内容は、類似度判定部90によって行われる類似度判定演算の内容に準じたものになっている。もちろん、輝度調整部102の内部に、図13に示すような輝度調整演算を行うための構成要素を組み込むこともできるが、実用上は、類似度判定部90内の構成要素を利用して修正処理を行うようにするのが好ましい。
<<< §7. 矩形画像を回転させる上での工夫 >>>
図14に示す画像拡大処理装置において、回転画像演算部30は、原画像格納用メモリ20内に格納されている原画像Pinを回転角θだけ回転させて回転画像P(θ)を生成し、これを回転画像格納用メモリ40に格納する処理を行う。この場合、原画像Pinが、たとえば、魚眼レンズなどで撮影された円形の画像であった場合、回転画像P(θ)も円形の画像になるので、画像の輪郭形状が変化することはない。しかしながら、一般的な用途で利用されるデジタル画像は、通常、矩形の輪郭をもった画像であり、原画像Pinも回転画像P(θ)も矩形画像となるのが一般的である。
本発明において、原画像格納用メモリ20および回転画像格納用メモリ40として、それぞれ矩形画像の画像データを格納するメモリを用い、矩形画像を取り扱うようにする場合、回転画像P(θ)を生成する際に若干の工夫が必要になる。ここでは、そのような工夫をいくつか述べることにする。
ここでは、まず、原画像格納用メモリ20と回転画像格納用メモリ40とが、全く同じサイズの矩形画像を格納する構成をもったメモリである場合を考えてみる。具体的には、原画像格納用メモリ20がA行B列の画素配列からなる原画像Pinを収容するサイズのメモリによって構成され、回転画像格納用メモリ40が同じくA行B列の画素配列からなる回転画像P(θ)を収容するサイズのメモリによって構成されているものとしよう。
図15は、回転画像格納用メモリ40に格納される画像の輪郭矩形C(以下、単に、輪郭矩形Cと呼ぶ)と角θだけ回転した原画像Pinとの位置関係の第1のバリエーションを示す平面図である。図10で説明したように、回転画像P(θ)を構成する画素(すなわち、ドメインセルDを構成する画素)の代表点(×印)は、水平基準線Hに平行な方向に整列しているのに対し、回転角θだけ回転した原画像Pinを構成する画素の代表点(○印)は、水平基準線Hに対して角度θをなす基準線Lに平行な方向に整列している。
したがって、図15において、輪郭矩形Cは、水平基準線Hに平行な二辺をもった矩形となり、これに回転角θだけ回転した矩形状の原画像Pinを重ねると、図示のように、両者は互いにずれた状態になる。なお、ここでは、原画像Pinの中心位置に回転中心点Gを定め、この回転中心点Gが、輪郭矩形Cの中心位置にくるように、両者を重ね合わせた例を示すことにする。
結局、図15に示す例の場合、回転後の原画像Pinの4隅のドットによるハッチングを施して示す領域は、輪郭矩形Cの外部に食み出すことになる。逆に言えば、輪郭矩形Cの4隅には、原画像Pinが重ならない領域が生じることになる。ところで、回転画像演算部30は、原画像格納用メモリ20に格納されている回転前の原画像Pinの各画素位置を基準点(図10の×印の点)として、個々の基準点について、回転後の原画像Pinを構成する画素(図10の○印の点に配置された画素)のうちの当該基準点の近傍にある参照画素の画素値を用いた補間演算を行うことにより補間画素値を求め、これら補間画素値を有する各基準点位置に配置された画素の集合体として回転画像P(θ)の生成を行うことになるので、基準点の近傍に参照画素が存在しない場合、補間画素値を求めることができなくなる。
たとえば、図15に示す例の場合、輪郭矩形Cの4隅の領域(原画像Pinが重ならない領域)については、補間画素値を求めることができない。このため、輪郭矩形Cの左上から順番に、ドメインセルD(1,1,θ),D(1,5,θ),... を定義した場合、ドメインセルD(1,5,θ)を構成する16個の画素については、それぞれ画素値を求めることができるが、ドメインセルD(1,1,θ)を構成する16個の画素の一部については、画素値を求めることができなくなる。
このように、回転画像格納用メモリ40に格納される画像の各画素の基準点の近傍に、回転後の原画像Pinに含まれる参照画素が存在しないと、当該基準点についての補間画素値を求めることができない。そのような場合には、回転画像演算部30が、当該基準点位置に配置された画素については画素値の定義を行わないようにすればよい。具体的には、たとえば、16進数の「00」や「FF」といった特殊なコードを、便宜上、定義域外の画素値とするような取り決めをしておき、この特殊コードが画素値として記録されている画素については、画素値が定義されていない画素として取り扱うようにすればよい。また、ドメインセル抽出部60は、一部もしくは全部の画素について画素値の定義が行われていないドメインセルについては、着目ドメインセルとしての抽出を行わないようにすればよい。
このような取り扱いをするように決めておけば、図15に示す輪郭矩形Cの4隅の領域は画素値が定義されていない領域となり、当該領域にかかるドメインセルは、着目ドメインセルとしては抽出されないことになる。具体的には、図15に示す例の場合、ドメインセルD(1,5,θ)は抽出されるが、ドメインセルD(1,1,θ)は抽出されないことになる。このように、画素値が定義されていない画素を含むドメインセルDは、着目画素として抽出されることはないので、類似度判定部90における判定処理には何ら支障は生じない。
もちろん、矩形画像を取り扱う際の工夫として、別なアプローチを採ることも可能である。図16は、輪郭矩形Cと角θだけ回転した原画像Pinとの位置関係の第2のバリエーションを示す平面図である。図15に示す例は、原画像格納用メモリ20と回転画像格納用メモリ40とが、全く同じサイズの矩形画像を格納する構成をもったメモリである場合であったが、図16に示す例では、回転画像格納用メモリ40のサイズが、補間画素値を求めることができる位置に配置された画素のみから構成される回転画像を格納するのに適したサイズとなるように、原画像格納用メモリ20のサイズよりも小さく設定されている。
その結果、輪郭矩形Cは、回転した原画像Pinの中に包摂された状態になる。すなわち、輪郭矩形C内の任意の点は、必ず、回転した原画像Pinの中の点になるので、回転画像格納用メモリ40に格納される画像の各画素の基準点の近傍には、必ず、回転後の原画像Pinに含まれる参照画素が存在することになる。したがって、各基準点について、必ず補間画素値を求めることができ、回転画像格納用メモリ40に格納される画像の各画素には、必ず何らかの画素値が与えられる。図16に示す例の場合、ドメインセルD(1,1,θ)内の16個の画素や、ドメインセルD(1,5,θ)内の16個の画素には、すべて何らかの画素値が定義されることになり、これらのドメインセルを着目ドメインセルとして抽出しても、何ら支障は生じない。
なお、図16に示す例では、回転角が、−θ〜+θの範囲であれば、輪郭矩形Cが、回転した原画像Pinの中に包摂された状態になるが、回転角がこの範囲を越えると、輪郭矩形Cの隅が回転した原画像Pinから食み出してしまう。したがって、たとえば、回転角の範囲を0°〜360°に設定するような場合は、当該角度範囲で回転させても輪郭矩形Cが原画像Pinから食み出さないように、輪郭矩形Cのサイズ(すなわち、回転画像格納用メモリ40のサイズ)をより小さく設定する必要がある。ただ、輪郭矩形Cのサイズを小さくすればするほど、図にドットによるハッチングを施して示す領域の面積が広くなる。すなわち、原画像Pinのうち、ドメインセルDとしては利用されない部分の面積が広くなる。これは、最適ドメインセルの候補が減ることを意味するので、輪郭矩形Cのサイズをあまり小さく設定するのは好ましくない。
そこで、原画像Pinに含まれる画像情報を隅々まで利用する、という観点から、全く逆のアプローチを採ることも可能である。図17は、輪郭矩形Cと角θだけ回転した原画像Pinとの位置関係の第3のバリエーションを示す平面図である。この例の場合、所定の変動範囲内の回転角θだけ回転させることにより得られる複数通りの回転画像をすべて包摂することが可能な包摂矩形内の画像を収容することができるように、回転画像格納用メモリ40のサイズが、原画像格納用メモリ20のサイズよりも大きく設定されている。
すなわち、この例の場合は、回転角θが所定の範囲内である限り、輪郭矩形Cが原画像Pinをそっくり包摂するようになる。したがって、原画像Pinに含まれる画像情報は隅々まで利用され、すべての情報を利用したドメインセルDが候補として抽出されることになる。もちろん、この図17に示す例の場合、図15に示す例と同様に、輪郭矩形C上に定義されるドメインセルDの一部については、画素値の定義が行われないことになる。たとえば、図示されているドメインセルD(5,13,θ),D(9,13,θ),D(9,17,θ)については、全画素について画素値を求めることができるが、ドメインセルD(1,1,θ),D(1,5,θ),D(1,9,θ),D(1,13,θ),D(5,17,θ)については、一部もしくは全部の画素値を定義することができない。
このように、基準点の近傍に参照画素が存在しないために当該基準点についての補間画素値を求めることができない場合には、図15に示す例と同様に、当該基準点位置に配置された画素については画素値の定義を行わないようにし、ドメインセル抽出部60が、一部もしくは全部の画素について画素値の定義が行われていないドメインセルDについては、着目ドメインセルとしての抽出を行わないようにすればよい。
この図17に示す例は、原画像Pinに含まれる画像情報を隅々まで利用してドメインセルを形成できるので、最適ドメインセルの候補を増やすメリットが得られるが、輪郭矩形Cを大きく設定する必要があるため、必要な回転画像格納用メモリ40のサイズが肥大し、製造コストが高騰する点がデメリットになる。特に、回転角θの許容範囲を大きく設定すればするほど、輪郭矩形Cのサイズも大きくする必要がある(たとえば、回転角の範囲を0°〜360°に設定した場合、輪郭矩形Cは図示のサイズよりも更に大きくする必要がある)。しかも、着目ドメインセルとしては抽出されないドメインセルDの数も増え、メモリ領域が無駄に消費されることになる。
このように、これまで述べてきたアプローチには、それぞれ一長一短があるが、最後に、原画像Pinに含まれる画像情報を隅々まで利用して最適ドメインセルの候補を増やすメリットを維持しつつ、着目ドメインセルとしては抽出されないドメインセルDの数を抑え、メモリ領域を有効活用できる効果的な方法を述べておく。この方法の特徴は、回転画像演算部30が、回転させた原画像Pinの周囲に当該原画像の複製画像を配置した拡張原画像を作成した上で、当該拡張原画像を利用した補間演算によって、回転画像格納用メモリ40内に回転画像を生成する処理を行う点にある。ここでは、図17に示す第3のバリエーションにおいて、拡張原画像を利用した回転画像の生成例を説明しよう。
図18は、図17に示す例と同様に、回転角θが所定の範囲内である限り、輪郭矩形Cが原画像Pinをそっくり包摂するように、回転画像格納用メモリ40のサイズを、原画像格納用メモリ20のサイズよりも大きく設定した例である。図17に示す例の場合、回転した原画像Pinの外側の領域については補間画素値を求めることができないため、着目ドメインセルとして利用可能なドメインセルを定義することができず、メモリ領域が無駄に消費されていたが、図18に示す例の場合、回転した原画像Pinの外側の領域についても補間画素値を求めることができるようになる。
なぜなら、この図18に示す例の場合、元の原画像Pinの9倍の大きさの拡張原画像Zが定義されているからである。図では、角θだけ回転して得られる原画像(直線で囲われた矩形内の画像)を原画像Pin(0)と呼び、この原画像Pin(0)を複製して得られる各画像(一部もしくは全部が一点鎖線で囲われた矩形内の画像)を複製画像Pin(1)〜Pin(8)と呼ぶことにする。拡張原画像Zは、原画像Pin(0)と複製画像Pin(1)〜Pin(8)とを併せた画像ということになる。
ここで、複製画像Pin(1)は、複製基準軸L1(原画像Pin(0)の輪郭矩形の上辺)に関して原画像Pin(0)と鏡像関係となる画像であり、いわば原画像Pin(0)を図の白矢印で示すように、上方に折り返すように配置して得られる画像である。また、複製画像Pin(2)は、複製基準軸L2(原画像Pin(0)の輪郭矩形の下辺)に関して原画像Pin(0)と鏡像関係となる画像であり、いわば原画像Pin(0)を図の白矢印で示すように、下方に折り返すように配置して得られる画像である。
同様に、複製画像Pin(3)は、複製基準軸L3(原画像Pin(0)の輪郭矩形の左辺)に関して原画像Pin(0)と鏡像関係となる画像であり、いわば原画像Pin(0)を図の白矢印で示すように、左方に折り返すように配置して得られる画像である。また、複製画像Pin(4)は、複製基準軸L4(原画像Pin(0)の輪郭矩形の右辺)に関して原画像Pin(0)と鏡像関係となる画像であり、いわば原画像Pin(0)を図の白矢印で示すように、右方に折り返すように配置して得られる画像である。
一方、複製画像Pin(5)は、頂点V5(原画像Pin(0)の輪郭矩形の左上頂点)を中心として、原画像Pin(0)を180°回転して得られる画像であり、複製画像Pin(6)は、頂点V6(原画像Pin(0)の輪郭矩形の右上頂点)を中心として、原画像Pin(0)を180°回転して得られる画像であり、複製画像Pin(7)は、頂点V7(原画像Pin(0)の輪郭矩形の左下頂点)を中心として、原画像Pin(0)を180°回転して得られる画像であり、複製画像Pin(8)は、頂点V8(原画像Pin(0)の輪郭矩形の右下頂点)を中心として、原画像Pin(0)を180°回転して得られる画像である。
原画像Pin(0)の周囲に、上述した8枚の複製画像Pin(1)〜Pin(8)を配置して得られる拡張原画像Zは、輪郭矩形Cの全領域を覆うことが可能である。しかも、上述した方法で複製を行えば、各画像Pin(0)〜Pin(8)の境界部分において、画像が滑らかに接続されることになるので、境界を跨がるようなドメインセルDが定義されたとしても、当該ドメインセルD内の画素値分布は違和感のない自然なものになる。
もちろん、回転角θによっては、元の原画像Pinの9倍の大きさの拡張原画像Zによっても輪郭矩形Cの全領域を覆うことができないような場合もある。そのような場合は、更にその周囲に複製画像を配置するようにしてもかまわない。もちろん、覆うことができなかった領域には画素値を定義せず、画素値が定義されていない画素を含むドメインセルDについては、着目ドメインセルとして抽出しないようにしてもよい。
また、輪郭矩形Cの全領域を覆う必要がないのであれば、必ずしも8枚の複製画像Pin(1)〜Pin(8)のすべてを配置して拡張原画像を形成する必要はなく、たとえば、複製画像Pin(1)〜Pin(4)の4枚を原画像Pin(0)の周囲に配置して拡張原画像を形成してもかまわない。すなわち、原画像Pin(0)の輪郭矩形の外側の上下左右の四方に、それぞれ当該輪郭矩形の上下左右の辺を複製基準軸として原画像に対して複製基準軸に関して鏡像関係となる複製画像を配置することにより拡張原画像を作成すればよい。
図18に示す例は、この4枚の複製画像Pin(1)〜Pin(4)を配置した上に、更に、原画像Pin(0)の輪郭矩形の4頂点の各外側近傍の隙間領域に、当該頂点を中心として原画像を180°回転して得られる複製画像を配置することにより拡張原画像を作成した例ということになる。
なお、図18に示す例は、図17に示す例(回転画像格納用メモリ40のサイズが、原画像格納用メモリ20のサイズよりも大きく設定されている例)に拡張原画像を適用したものであるが、もちろん、図15に示す例(回転画像格納用メモリ40のサイズが、原画像格納用メモリ20のサイズに等しくなるように設定されている例)に拡張原画像を適用することも可能である。
<<< §8. 本発明の変形例 >>>
ここでは、これまで述べてきた種々の実施例についての変形例をいくつか述べておく。
(1) 相互に重なりを生じるレンジセル群の定義
図3では、A行B列の画素配列からなる原画像上において、a行b列に配置された画素を包含するセル枠を、行方向にa画素ピッチ、列方向にb画素ピッチで移動させることにより、合計(A/a)×(B/b)組のレンジセルRを定義した例を示した。このような方法では、原画像Pinの全体をカバーし、かつ、相互に重なり合わない複数のレンジセル群の定義が可能になる。
ただ、本発明を実施するにあたって、相互に重なりを生じるレンジセル群を定義してもかまわない。たとえば、レンジセル抽出部50が、A行B列の画素配列からなる原画像Pin上において、a行b列に配置された画素を包含するセル枠をレンジセルRとして定義する際に、当該セル枠を行方向に1画素ピッチ、列方向に1画素ピッチで移動させれば、合計(A−a+1)×(B−b+1)組のレンジセルを、相互に部分的な重なりを許して定義することができる。
もっとも、このように相互に重なりを生じるレンジセル群を定義した場合、セル合成部70が拡大画像を生成する際に、拡大画像を構成する1つの画素の位置に複数のレンジセルが重なり合って定義されることになる。したがって、セル合成部70は、拡大画像を構成する個々の画素の画素値を決定する際に、当該画素位置に複数のレンジセルが重なり合って定義されていた場合には、これら複数のレンジセルのそれぞれについての最適ドメインセルの画素値変動分布を参照して、個々の画素の画素値を決定する処理を行う必要がある。
(2) カラー画像への適用
これまで述べてきた実施例では、原画像Pinが単一のプレーンからなるモノクロ画像であり、得られる拡大画像Poutも単一のプレーンからなるモノクロ画像になる例を述べたが、本発明は、カラー画像についても同様に適用可能である。一般に、カラー画像は、複数の原色(たとえば、R,G,Bの3色)から構成され、複数の原色プレーンの集合体として表現される。そこで、カラー画像を取り扱う場合には、図14に示す構成において、原画像入力部10に、複数の原色プレーンからなるカラー画像を原画像Pinとして入力する機能をもたせ、原画像格納用メモリ20および回転画像格納用メモリ40に、それぞれ原色プレーンごとの画像データを別個独立して格納する機能をもたせ、セル合成部70に、原色プレーンごとの拡大画像を別個独立して生成する機能をもたせ、拡大画像出力部110に、複数の原色プレーンからなるカラー画像を拡大画像として出力する機能をもたせるようにすればよい。
(3) 画素の配置転換の併用
図8では、抽出した着目ドメインセルD(m,n)に対して、画素の配置転換を行うことによりバリエーションを増やす例を示したが、本発明においても、このような画素の配置転換を行い、バリエーションを更に増やすようにしてもかまわない。すなわち、特定の回転角θだけ回転した回転画像P(θ)の特定の位置から、ドメインセルD(m,n,θ)を抽出したら、抽出したドメインセルD(m,n,θ)について、画素の配置転換を行えば、位置を示すパラメータm,nによるバリエーション、回転角θによるバリエーションに、更に、画素の配置転換によるバリエーションを加えることができる。
(4) 縦横任意倍率の拡大処理
これまで述べた実施例では、縦横ともにM倍の拡大画像を得る例を示したが、本発明を実施する上では、拡大率は必ずしも縦横等倍である必要はない。たとえば、縦U倍、横V倍の拡大画像を生成するのであれば、a行b列の画素配列からなるレンジセルRに対して、(U×a)行(V×b)列の画素配列からなるドメインセルDを定義するようにすればよい。
<<< §9. 本発明に係る実施例の具体的な効果 >>>
最後に、本発明に係る実施例の具体的な効果を示しておく。図19は、画像変換の品質評価に用いられる式を示す図である。一般に、何らかの方法で変換された画像の品質を客観的に評価するための数値のひとつとして、PSNR(Peak Signal-to-Noise Ratio)なる値が知られている。このPSNR値は、図19の式(14)で定義されるMSEなる値を用いて、式(15)によって定義される。ここで、f(i,j)は、原画像のi行j列目の画素の画素値、f′(i,j)は、変換後の画像のi行j列目の画素の画素値、uは、各画像の縦方向サイズ、vは、各画像の横方向サイズである。このPSNR値が大きいほど、変換後の画像の品質は高いとされている。
図20は、3通りの実験結果について、拡大画像の品質の比較を示すグラフである。実験結果Aは、従来のフラクタルを用いた拡大手法(図5に示す基本手順による拡大処理を行うもの)により得られた拡大画像についての評価を示し、実験結果Bは、更に、図8に示すバリエーション(画素の配置転換によるバリエーション)を加えた方法により得られた拡大画像についての評価を示し、実験結果Cは、本発明に係る拡大手法(回転角θ=0°〜90°まで1°刻みで変化させたもの)により得られた拡大画像についての評価を示している。図示のとおり、本発明に係る方法によれば、従来の方法よりも更に品質の高い拡大画像が得られることがわかる。
図21は、拡大画像の品質の比較に利用した原画像を示す図である。まず、上段のサンプル画像を用意し、これを中段に示すように縦横1/2に縮小したものを原画像Pinとして、この原画像Pinに対して3通りの方法で拡大処理を行った。理想的な処理であれば、図21の下段に示すような拡大画像(上段のサンプル画像と全く同じ画像)が得られることになる。
図22は、3通りの方法で拡大処理を行った結果を示す画像である。図22(a) は、図2(c) に示すバイキュービック法によって得られた拡大画像、図22(b) は、図8に示すバリエーション(画素の配置転換によるバリエーション)を付加した従来のフラクタルを用いた拡大処理によって得られた拡大画像(図20の実験結果B)、そして図22(c) は、本発明に係る拡大処理によって得られた拡大画像(図20の実験結果C)である。
いずれも、図21の下段に示す理想的な拡大画像に比べると品質は落ちるが、3通りの拡大方法の中では、図22(c) に示す本発明に係る拡大処理によって得られた拡大画像が最も高い品質の画像となっている。すなわち、図22(a) に示す拡大画像では、高周波成分が失われてしまっており、全体的にピンボケした画像になっている。一方、図22(b) に示す拡大画像では、高周波成分は損なわれていないが、画像全体に細かなノイズ成分が現れ、品質の低下を招いている。これに対して、図22(c) に示す拡大画像では、高周波成分も十分に再現されており、ノイズ成分も抑制されている。これは、回転角θ=0°〜90°まで1°刻みで変化させた回転画像の生成により、最適ドメインセルの候補となるドメインセルのバリエーションが飛躍的に向上したためと考えられる。
10:原画像入力部
20:原画像格納用メモリ
30:回転画像演算部
40:回転画像格納用メモリ
50:レンジセル抽出部
60:ドメインセル抽出部
70:セル合成部
71:拡大画像格納用メモリ
80:判定結果格納部
90:類似度判定部
91:縮小処理部
92:レンジセル平均値算出部
93:ドメインセル平均値算出部
94:レンジセル差分画像生成部
95:縮小ドメインセル差分画像生成部
96:輝度変換パラメータ算出部
97:誤差値算出部
100:修正処理部
101:平滑処理部
102:輝度調整部
110:拡大画像出力部
A:原画像Pinの縦方向サイズ(画素配列の総行数)
a:レンジセルの縦方向サイズ(画素配列の総行数)
a5〜a8:画素の配置転換軸
B:原画像Pinの横方向サイズ(画素配列の総列数)
b:レンジセルの横方向サイズ(画素配列の総列数)
C:回転画像格納用メモリに格納される画像の輪郭矩形
D(m,n):ドメインセル
D′(m,n):ドメインセルの差分画像
D(m,n,θ):ドメインセル(角度θだけ回転させた回転画像から得られたもの)
D1〜D8:ドメインセル(画素の配置転換を行ったものを含む)
d(x,y):ドメインセルの各画素/その画素値
d′(x,y):ドメインセルの差分画像の各画素/その画素値
d(ave):ドメインセル平均値(ドメインセルの各画素の画素値の平均値)
E:誤差値
F:線形補間ライン
f(i,j):原画像の画素値
f′(i,j):変換後の画像の画素値
G,G(X0,Y0):回転中心点
H:水平基準線
i:レンジセルの縦位置を示すパラメータ
j:レンジセルの横位置を示すパラメータ
k:輝度調整処理の回数を示すパラメータ
L:回転画像の基準線
L1〜L4:複製基準軸
M:拡大倍率/
m:ドメインセルの縦位置を示すパラメータ
n:ドメインセルの横位置を示すパラメータ
O:XY座標系の原点
P1〜P16:原画像上の既存画素
Pa〜Pd:原画像上の既存画素
Pin:原画像(入力画像)
Pin(0):原画像(複製の元になる画像)
Pin(1)〜Pin(8):原画像の複製画像
Pout:拡大画像(出力画像)
P(X,Y):座標点
P′(X,Y):回転後の座標点
P(θ):回転画像
Q,Qc,Qd:補間画素
Q(R(i,j)):置換画素群
(R(i,j)):第0次置換画素群
Q′(R(i,j)):第0次置換画素群の差分画像
q(x,y):置換画素群を構成する各画素/その画素値
(x,y):第0次置換画素群を構成する各画素/その画素値
(x,y):第1次置換画素群を構成する各画素/その画素値
(x,y):第k次置換画素群を構成する各画素/その画素値
q′(x,y):第0次置換画素群の差分画像を構成する各画素/その画素値
(ave):第0次置換画素群を構成する各画素の画素値の平均値
(ave):第k次置換画素群を構成する各画素の画素値の平均値
q′(x,y):第k次置換画素群の差分画像を構成する各画素/その画素値
R(i,j):レンジセル/被置換画素群
R′(i,j):レンジセルの差分画像
r(x,y):レンジセルの各画素/その画素値
r(ave):レンジセル平均値(レンジセルの各画素の画素値の平均値)
r′(x,y):レンジセル差分画像の各画素/その画素値
S1〜S17:流れ図の各ステップ
SD(m,n):縮小ドメインセル
SD′(m,n):縮小ドメインセル差分画像
sd(x,y):縮小ドメインセルの各画素/その画素値
sd′(x,y):縮小ドメインセル差分画像の各画素/その画素値
sd(ave):縮小ドメインセル平均値(縮小ドメインセルの各画素の画素値の平均値)
T1〜T6:各手順
u:画像の縦方向サイズ(画素配列の総行数)
V5〜V8:原画像の輪郭を構成する矩形の頂点
v:画像の横方向サイズ(画素配列の列行数)
X:XY座標系の座標軸/座標値
X0,X′:XY座標系の座標値
x:セル内のローカル座標系の座標値(セル内の画素の縦位置を示すパラメータ)
Y:XY座標系の座標軸/座標値
Y0,Y′:XY座標系の座標値
y:セル内のローカル座標系の座標値(セル内の画素の横位置を示すパラメータ)
Z:拡張原画像
α:輝度変換パラメータ
α:第0次輝度変換パラメータ
α:第1次輝度変換パラメータ
α:第k次輝度変換パラメータ
θ:回転角

Claims (21)

  1. 原画像を拡大して拡大画像を生成する処理を行う画像拡大処理装置であって、
    拡大対象となる原画像を入力する原画像入力部と、
    入力した原画像を、所定の画素値をもった画素の配列を示す画像データとして格納する原画像格納用メモリと、
    前記原画像を所定の回転角θだけ回転させることにより得られる回転画像を、前記原画像格納用メモリに格納されている画像データを用いた補間演算により生成する回転画像演算部と、
    生成された回転画像を、所定の画素値をもった画素の配列を示す画像データとして格納する回転画像格納用メモリと、
    前記原画像格納用メモリに格納されている原画像上に、複数画素の配列からなるレンジセルを、少なくとも拡大対象領域がカバーされるように定義し、定義した個々のレンジセルを、順次、着目レンジセルとして抽出するレンジセル抽出部と、
    前記回転画像格納用メモリに格納されている回転画像上に、前記レンジセルを構成する画素配列よりも大きな画素配列からなるドメインセルを複数組定義し、個々のドメインセルを、順次、着目ドメインセルとして抽出するドメインセル抽出部と、
    抽出された着目レンジセルの画素値変動分布と抽出された着目ドメインセルの画素値変動分布との類似度を判定する類似度判定部と、
    個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定する情報を格納する判定結果格納部と、
    個々のレンジセルを構成する画素配列からなる被置換画素群を、当該レンジセルについての最適ドメインセルを構成する画素の画素値変動分布を参照することにより画素値が決定された、当該最適ドメインセルと同じ大きさの画素配列からなる置換画素群に置換することにより拡大画像を生成するセル合成部と、
    前記セル合成部によって生成された拡大画像に対して、画素値の修正処理を行う修正処理部と、
    前記修正処理部によって修正された拡大画像を出力する拡大画像出力部と、
    を備え、
    前記修正処理部が、隣接配置された複数組の置換画素群の境界部分の画素値の不連続性を平滑化するための画像平滑フィルタを作用させる平滑化処理を行う平滑処理部と、置換画素群を構成する画素の画素値を被置換画素群を構成する画素の画素値により近づけるための輝度値調整処理を行う輝度調整部と、を有し、第k回目の平滑化処理および輝度値調整処理が完了した後に、第(k+1)回目の平滑化処理および輝度値調整処理が実行されるように、前記平滑化処理と前記輝度値調整処理とを交互に繰り返し実行し、
    第k回目の輝度値調整処理では、置換画素群上に定義されたローカル座標系xyで示される位置に配置されている修正後画素値q (x,y)を、
    (x,y)=d′(x,y)×α +q k−1 (ave)
    ここで、
    d′(x,y)=d(x,y)−d(ave)
    α は所定の輝度変換パラメータ
    k−1 (ave)は、置換画素群についての修正前画素値の平均
    d(ave)は、最適ドメインセルの各画素の画素値の平均
    d(x,y)は、最適ドメインセルのローカル座標系xyで示される位置
    に配置されている画素の画素値
    なる演算式によって算出することを特徴とする画像拡大処理装置。
  2. 請求項1に記載の画像拡大処理装置において、
    レンジセルをa行b列に配列された画素の集合体によって構成し、
    ドメインセルを(M×a)行(M×b)列に配列された画素の集合体によって構成し、
    セル合成部が、原画像に対して縦横それぞれM倍の解像度を有する拡大画像を生成することを特徴とする画像拡大処理装置。
  3. 請求項2に記載の画像拡大処理装置において、
    レンジセル抽出部が、A行B列の画素配列からなる原画像上において、a行b列に配置された画素を包含するセル枠を、行方向にa画素ピッチ、列方向にb画素ピッチで移動させることにより、合計(A/a)×(B/b)組のレンジセルを定義することを特徴とする画像拡大処理装置。
  4. 請求項2に記載の画像拡大処理装置において、
    レンジセル抽出部が、A行B列の画素配列からなる原画像上において、a行b列に配置された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−a+1)×(B−b+1)組のレンジセルを、相互に部分的な重なりを許して定義し、
    セル合成部が、拡大画像を構成する個々の画素の画素値を決定する際に、当該画素位置に複数のレンジセルが重なり合って定義されていた場合には、これら複数のレンジセルのそれぞれについての最適ドメインセルの画素値変動分布を参照した決定処理を行うことを特徴とする画像拡大処理装置。
  5. 請求項2〜4のいずれかに記載の画像拡大処理装置において、
    ドメインセル抽出部が、A行B列の画素配列からなる原画像上において、(M×a)行(M×b)列に配列された画素を包含するセル枠を、行方向に1画素ピッチ、列方向に1画素ピッチで移動させることにより、合計(A−(M×a)+1)×(B−(M×b)+1)組のドメインセルを定義することを特徴とする画像拡大処理装置。
  6. 請求項2〜5のいずれかに記載の画像拡大処理装置において、
    類似度判定部が、着目ドメインセル内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルを生成し、前記縮小ドメインセルを構成する個々の画素の画素値と、着目レンジセルを構成する個々の画素の画素値とについて、両者が近づくように輝度変換処理を施し、輝度変換処理後の前記縮小ドメインセルの個々の画素の画素値と前記着目レンジセルの個々の画素の画素値とを比較することにより類似度の判定を行うことを特徴とする画像拡大処理装置。
  7. 請求項2〜5のいずれかに記載の画像拡大処理装置において、
    類似度判定部が、
    着目レンジセルRを構成する個々の画素について、その画素値rの平均であるレンジセル平均値r(ave)を求めるレンジセル平均値算出部と、
    前記着目レンジセルRを構成する個々の画素について、その画素値rと前記レンジセル平均値r(ave)との差を示す差分値r′を求め、求めた差分値r′を画素値とするレンジセル差分画像R′を生成するレンジセル差分画像生成部と、
    着目ドメインセルD内の画像を縦横それぞれ1/Mに縮小して縮小ドメインセルSDを得る縮小処理部と、
    前記縮小ドメインセルSDを構成する個々の画素について、その画素値sdの平均である縮小ドメインセル平均値sd(ave)を求めるドメインセル平均値算出部と、
    前記縮小ドメインセルSDを構成する個々の画素について、その画素値sdと前記縮小ドメインセル平均値sd(ave)との差を示す差分値sd′を求め、求めた差分値sd′を画素値とする縮小ドメインセル差分画像SD′を生成する縮小ドメインセル差分画像生成部と、
    前記レンジセル差分画像R′内のx行y列目の画素の画素値をr′(x,y)、前記縮小ドメインセル差分画像SD′内のx行y列目の画素の画素値をsd′(x,y)としたときに、
    α=Σx,y [r′(x,y)・sd′(x,y)]/
    Σx,y [sd′(x,y)]
    なる式で与えられる輝度変換パラメータαを求める輝度変換パラメータ算出部と、
    前記レンジセル差分画像R′内の各画素の画素値r′(x,y)と、前記縮小ドメインセル差分画像SD′内の各画素の画素値sd′(x,y)と、前記輝度変換パラメータαと、に基づいて、
    E=Σx,y [r′(x,y)−α・sd′(x,y)]
    なる式で与えられる誤差値Eを求める誤差値算出部と、
    を有し、前記誤差値Eが小さいほど、着目レンジセルの画素値変動分布と着目ドメインセルの画素値変動分布との類似度が高いと判定することを特徴とする画像拡大処理装置。
  8. 請求項7に記載の画像拡大処理装置において、
    セル合成部が、置換画素群を構成する(M×a)行(M×b)列の画素配列のうちのx行y列目の画素の画素値q(x,y)を、最適ドメインセルの各画素の画素値の平均をd(ave)、最適ドメインセルのx行y列目の画素の画素値をd(x,y)として、
    q(x,y)=(d(x,y)−d(ave))×α+r(ave)
    なる式を用いた演算により決定することを特徴とする画像拡大処理装置。
  9. 請求項8に記載の画像拡大処理装置において、
    ドメインセル平均値算出部が、縮小ドメインセル平均値sd(ave)を求める機能とともに、ドメインセルDを構成する個々の画素について、その画素値dの平均であるドメインセル平均値d(ave)を求める機能を有し、
    判定結果格納部が、個々のレンジセルのそれぞれについて、最も高い類似度が得られた最適ドメインセルを特定するための回転角θおよびセル位置を示す情報とともに、当該最適ドメインセルについての輝度変換パラメータαおよびドメインセル平均値d(ave)、ならびに、レンジセル平均値r(ave)を格納する機能を有し、
    セル合成部が、前記判定結果格納部に格納されている輝度変換パラメータα、ドメインセル平均値d(ave)、レンジセル平均値r(ave)を利用して、画素値q(x,y)を決定するための演算を行うことを特徴とする画像拡大処理装置。
  10. 請求項1〜9のいずれかに記載の画像拡大処理装置において、
    回転画像演算部が、回転前の原画像の各画素位置を基準点として、個々の基準点について、回転後の原画像を構成する画素のうちの当該基準点の近傍にある参照画素の画素値を用いた補間演算を行うことにより補間画素値を求め、これら補間画素値を有する各基準点位置に配置された画素の集合体として回転画像の生成を行うことを特徴とする画像拡大処理装置。
  11. 請求項10に記載の画像拡大処理装置において、
    原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
    回転画像演算部が、基準点の近傍に参照画素が存在しないために当該基準点についての補間画素値を求めることができない場合には、当該基準点位置に配置された画素については画素値の定義を行わず、
    ドメインセル抽出部が、一部もしくは全部の画素について画素値の定義が行われていないドメインセルについては、着目ドメインセルとしての抽出を行わないことを特徴とする画像拡大処理装置。
  12. 請求項10に記載の画像拡大処理装置において、
    原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
    回転画像格納用メモリのサイズが、補間画素値を求めることができる位置に配置された画素のみから構成される回転画像を格納するのに適したサイズとなるように、原画像格納用メモリのサイズよりも小さく設定されていることを特徴とする画像拡大処理装置。
  13. 請求項10に記載の画像拡大処理装置において、
    原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
    所定の変動範囲内の回転角θだけ回転させることにより得られる複数通りの回転画像をすべて包摂することが可能な包摂矩形内の画像を収容することができるように、回転画像格納用メモリのサイズが、原画像格納用メモリのサイズよりも大きく設定されており、
    回転画像演算部が、基準点の近傍に参照画素が存在しないために当該基準点についての補間画素値を求めることができない場合には、当該基準点位置に配置された画素については画素値の定義を行わず、
    ドメインセル抽出部が、一部もしくは全部の画素について画素値の定義が行われていないドメインセルについては、着目ドメインセルとしての抽出を行わないことを特徴とする画像拡大処理装置。
  14. 請求項10に記載の画像拡大処理装置において、
    原画像格納用メモリおよび回転画像格納用メモリが、それぞれ矩形画像の画像データを格納する機能を有し、
    回転画像演算部が、原画像の周囲に当該原画像の複製画像を配置した拡張原画像を作成した上で、当該拡張原画像を利用した補間演算によって、回転画像格納用メモリ内に回転画像を生成する処理を行うことを特徴とする画像拡大処理装置。
  15. 請求項14に記載の画像拡大処理装置において、
    所定の変動範囲内の回転角θだけ回転させることにより得られる複数通りの回転画像をすべて包摂することが可能な包摂矩形内の画像を収容することができるように、回転画像格納用メモリのサイズが、原画像格納用メモリのサイズよりも大きく設定されていることを特徴とする画像拡大処理装置。
  16. 請求項14または15に記載の画像拡大処理装置において、
    原画像の輪郭矩形の外側の上下左右の四方に、それぞれ前記輪郭矩形の上下左右の辺を複製基準軸として前記原画像に対して前記複製基準軸に関して鏡像関係となる複製画像を配置することにより拡張原画像を作成することを特徴とする画像拡大処理装置。
  17. 請求項16に記載の画像拡大処理装置において、
    原画像の輪郭矩形の4頂点の各外側近傍の隙間領域に、当該頂点を中心として前記原画像を180°回転して得られる複製画像を配置することにより拡張原画像を作成することを特徴とする画像拡大処理装置。
  18. 請求項1〜17のいずれかに記載の画像拡大処理装置において、
    判定結果格納部が、個々のレンジセルのそれぞれについて、現段階で最も高い類似度が得られた仮最適ドメインセルに関する情報を格納する格納領域を有し、類似度判定部から特定のレンジセルについての新たな着目ドメインセルに対する類似度の判定結果が得られたときに、当該特定のレンジセルについて現段階で格納されている仮最適ドメインセルについての類似度と前記新たな着目ドメインセルに対する類似度とを比較し、前者よりも後者の方が高い場合にのみ、前者を後者によって書き換える処理を行い、類似度判定部から全ドメインセルに対する類似度の判定結果が得られた時点で格納されていた仮最適ドメインセルを最終的な最適ドメインセルとすることを特徴とする画像拡大処理装置。
  19. 請求項1〜18のいずれかに記載の画像拡大処理装置において、
    原画像入力部が複数の原色プレーンからなるカラー画像を原画像として入力する機能を有し、
    原画像格納用メモリおよび回転画像格納用メモリが、それぞれ原色プレーンごとの画像データを別個独立して格納する機能を有し、
    セル合成部が、原色プレーンごとの拡大画像を別個独立して生成する機能を有し、
    拡大画像出力部が、複数の原色プレーンからなるカラー画像を拡大画像として出力する機能を有することを特徴とする画像拡大処理装置。
  20. 請求項1〜19のいずれかに記載の画像拡大処理装置としてコンピュータを機能させるプログラム。
  21. 請求項1〜19のいずれかに記載の画像拡大処理装置として機能する論理素子およびメモリが組み込まれた半導体集積回路。
JP2012088316A 2012-04-09 2012-04-09 画像拡大処理装置 Expired - Fee Related JP5891916B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012088316A JP5891916B2 (ja) 2012-04-09 2012-04-09 画像拡大処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012088316A JP5891916B2 (ja) 2012-04-09 2012-04-09 画像拡大処理装置

Publications (2)

Publication Number Publication Date
JP2013218523A JP2013218523A (ja) 2013-10-24
JP5891916B2 true JP5891916B2 (ja) 2016-03-23

Family

ID=49590540

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012088316A Expired - Fee Related JP5891916B2 (ja) 2012-04-09 2012-04-09 画像拡大処理装置

Country Status (1)

Country Link
JP (1) JP5891916B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109993693B (zh) * 2017-12-29 2023-04-25 澜至电子科技(成都)有限公司 用于对图像进行插值的方法和装置
JP2020170306A (ja) * 2019-04-02 2020-10-15 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN110751955B (zh) * 2019-09-23 2022-03-01 山东大学 基于时频矩阵动态选择的声音事件分类方法及系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3661964B2 (ja) * 1997-06-17 2005-06-22 日本放送協会 画像拡大処理装置および方法並びに画像拡大処理制御プログラムを記録した記録媒体
JP2000308056A (ja) * 1999-04-16 2000-11-02 Sanyo Electric Co Ltd 画像圧縮装置
JP2001052183A (ja) * 2000-01-01 2001-02-23 Mitsubishi Electric Corp 画像処理装置
JP3491829B2 (ja) * 2000-11-15 2004-01-26 セイコーエプソン株式会社 画像処理装置及び画像処理方法
JP3882651B2 (ja) * 2002-03-20 2007-02-21 富士ゼロックス株式会社 画像処理装置およびプログラム
JP4760468B2 (ja) * 2006-03-23 2011-08-31 カシオ計算機株式会社 画像処理装置及び画像処理方法
JP2009026032A (ja) * 2007-07-19 2009-02-05 Victor Co Of Japan Ltd 解像度変換装置及び解像度変換方法
JP5321439B2 (ja) * 2009-12-15 2013-10-23 株式会社Jvcケンウッド 画像符号化装置、画像復号化装置、画像符号化方法、及び、画像復号化方法

Also Published As

Publication number Publication date
JP2013218523A (ja) 2013-10-24

Similar Documents

Publication Publication Date Title
US7324706B2 (en) System and method for representing a general two dimensional spatial transformation
JP3915563B2 (ja) 画像処理装置および画像処理プログラム
EP1800245B1 (en) System and method for representing a general two dimensional spatial transformation
JP5294343B2 (ja) 画像位置合わせ処理装置、領域拡張処理装置及び画質改善処理装置
WO2008005103A1 (en) Anisometric texture synthesis
JP2007193508A (ja) 画像処理装置及び画像処理プログラム
JP5891916B2 (ja) 画像拡大処理装置
JP2005149500A (ja) 多焦点画像スタック内の歪みの補正方法
CN111179173A (zh) 一种基于离散小波变换和坡度融合算法的图像拼接方法
CN106355545B (zh) 一种数字图像几何变换的处理方法及装置
JP4126541B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム、記憶媒体
JP6840506B2 (ja) 画像処理装置、画像処理方法、プログラム
US9532071B2 (en) Resampling apparatus, method, and recording medium having resampling program recorded therein for digital image
JP2006350562A (ja) 画像処理装置及び画像処理プログラム
US20120050820A1 (en) Image processing apparatus, control method of the same, and program
CN101739696B (zh) 用于对凸多边形进行栅格化的系统及方法
KR20070119482A (ko) 이미지 리샘플링 방법
CN110807113A (zh) 可视化布局中的矩形图元重叠的非迭代消除方法
JP4265362B2 (ja) 画像処理装置
Stasik et al. Improvements in upscaling of pixel art
JP2005123813A (ja) 画像処理装置
KR20070102989A (ko) 2차원 공간변환을 표현하는 시스템과 방법
JP4479364B2 (ja) 3次元表面形状モデル作成装置,3次元表面形状モデル作成方法及び3次元表面形状モデル作成プログラム
JP2006295379A (ja) 画像処理方法及び画像処理装置
JP7125174B2 (ja) メッシュ位置特定装置、印刷版作製システム、印刷版パターン作成装置、記憶媒体、メッシュ位置特定方法、印刷版作製方法、および印刷版パターン作成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160208

R150 Certificate of patent or registration of utility model

Ref document number: 5891916

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees