JP5471474B2 - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP5471474B2
JP5471474B2 JP2010005563A JP2010005563A JP5471474B2 JP 5471474 B2 JP5471474 B2 JP 5471474B2 JP 2010005563 A JP2010005563 A JP 2010005563A JP 2010005563 A JP2010005563 A JP 2010005563A JP 5471474 B2 JP5471474 B2 JP 5471474B2
Authority
JP
Japan
Prior art keywords
pixel
change rate
image
pixel value
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010005563A
Other languages
English (en)
Other versions
JP2011146888A (ja
Inventor
紘美 横井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2010005563A priority Critical patent/JP5471474B2/ja
Priority to US12/986,167 priority patent/US8554019B2/en
Publication of JP2011146888A publication Critical patent/JP2011146888A/ja
Application granted granted Critical
Publication of JP5471474B2 publication Critical patent/JP5471474B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)

Description

本願は原画像の画像拡大処理を行う画像処理装置および画像処理方法に関する。
画像拡大処理のアルゴリズムに関しては、最近傍法、バイリニア法およびバイキュービック法などがある。
まず、最近傍法は、変換先の画素座標を変換元の座標値に逆変換し、最も近傍にある画素を変換先の画素値とするものである。変換が簡素である反面、ジャギーなどが目立ち画質は落ちる。
また、バイリニア法は、変換先の画素座標を変換元の座標値に逆変換し、近傍4(=2×2)画素から直線補間を行って画素値とするものである。ジャギーなどが目立たない反面、近傍4画素の重み付け平均であることから拡大画像がぼけた印象の画像となる。
さらに、バイキュービック法は、変換先の画素座標を変換元の座標値に逆変換し、近傍16(=4×4)画素から3次式を用いて補間を行うものである。バイリニア法に比べて画素のボケは抑えられるが、計算量が多く処理速度が遅くなる。
また、画像拡大処理技術に関して、例えば特開2008−33692号公報に開示の「画像処理装置およびその制御方法」がある。この従来例では、原画像のシャープネスを維持すると共にノイズの発生を抑制するために、拡大画像データと平滑化画像データを生成し、これらの差分をとった差分画像データに強調係数を乗算し、該乗算結果と拡大画像データの加算により拡大画像を得ている。つまり、拡大処理後のデータにアンシャープマスク処理を施す技法であるが、画像拡大処理には主としてバイキュービック法を用いている。
また、画像拡大処理アルゴリズムに関する提案としては、例えば特開平6−38024号公報に開示の「画像処理装置」がある。この従来例では、エッジ部分の先鋭さを保存した拡大画像を得るために、隣接画素間の階調変化の度合いに応じて補間画素の階調変化率を調整し、該調整変化率に応じて補間画素の階調を求めている。具体的には次の手法が例示されている。(1)隣接画素の階調差から変化率を調整するもの。(2)隣接画素間およびさらに後方画素との階調差から階調変化の方向(正負)を見て変化率を調整するもの。(3)エッジ強調処理後の隣接画素の階調差から変化率を調整するもの。
特開2008−33692号公報 特開平6−38024号公報
上述したように、画像拡大処理の一般的手法として、最近傍法、バイリニア法およびバイキュービック法があるが、一長一短があった。つまり、計算量の少ない最近傍法およびバイリニア法を用いた場合には画質にジャギーやぼけ等の問題があり、より良い画質の得られるバイキュービック法を用いた場合には計算量が多く処理速度が遅くなる。そこで、バイキュービック法に比べて計算量を抑制でき、より良い画質の得られる手法が望まれていた。
また、特許文献2においては、エッジ強調処理後の画像データを拡大処理すると、せっかく強調したエッジ部分が滑らかになることから、エッジ強調処理と拡大処理との兼ね合いが難しいという事情がある。
本発明の一側面は、上記従来の事情に鑑みてなされたものであって、画像を拡大する場合の補間位置での画素を強調する画像処理装置および画像処理方法を提供することを目的としている。
本発明の一側面によれば、原画像を拡大した拡大画像を生成する画像処理装置は、前記原画像の第1の画素位置の第1の画素変化率および第2の画素位置の第2の画素変化率を算出する変化率算出手段と、前記原画像の拡大に応じて前記原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素値を、該補間位置に応じて第1の重み付けをされた前記第1の画素変化率と、該補間位置に応じて第2の重み付けをされた前記第2の画素変化率とに基づいて算出する画素値算出手段とを有する。
本発明の一側面によれば、画像を拡大する場合の補間位置での画素が強調される。
本発明の一実施例に係る画像処理装置の構成図である。 実施例の画像処理装置における画像処理方法を説明するフローチャートである。 本発明における画素値の生成を概念的に説明する説明図(その1)である。 本発明における画素値の生成を概念的に説明する説明図(その2)である。 画素値補正部における画素値の補正処理を概念的に説明する説明図である。 適用例1の原画像の画像データを例示する説明図である。 適用例1の画素値算出過程および結果の数値表を例示する説明図である。 本発明の画像拡大処理手法と一般的手法による画素値推移を対比した説明図(その1)である。 適用例2の原画像の画像データを例示する説明図である。 適用例2の画素値算出過程および結果の数値表を例示する説明図である。 本発明の画像拡大処理手法と一般的手法による画素値推移を対比した説明図(その2)である。 変形例1の変化率算出法の切替えについて説明する説明図である。 変形例3の2次元の拡大処理を説明する説明図である。
以下、本発明の画像処理装置および画像処理方法の実施例について図面を参照して詳細に説明する。
図1は本発明の一実施例に係る画像処理装置の構成図である。同図において、本実施例の画像処理装置は、画像処理回路10と、SDRAM(Synchronous DRAM)等で具現されるメモリ40と、メモリ40に対するアクセスを制御するメモリコントローラ30とを備える。
ここで、画像処理回路10は原画像に基づき一方向に拡大した拡大画像を生成するものである。画像処理回路10は、全体制御部11、読出し転送制御部12、入力バッファ13、書込み転送制御部14、出力バッファ15、画像性質解析部21、変化率算出部22、予測画素値生成部23および画素値補正部24を備える。
以下では、原画像の画像データを入力して拡大率を設定するためのユーザまたは他の画像処理装置等とのインタフェースについては特定せず、当該画像処理装置に対して原画像データおよび拡大率が何らかの手段を介して入力・通知されるものとして説明する。また、原画像データはメモリ40の原画像データ記憶領域41に記憶されており、画像処理回路10による拡大処理後の画像データはメモリ40の拡大画像データ記憶領域42に記憶されるものとする。
まず、全体制御部11は、画像処理回路10内の各構成要素の動作を制御する。また、拡大画像の画素座標を原画像上の座標に変換する処理は、この全体制御部11で行われる。なお、本実施例の画像処理回路10による拡大画像生成は一方向であり、水平方向の拡大処理を想定したとき、拡大画像における各ラインの画素数は原画像の画素数に拡大率をかけた個数となる。例えば、原画像における1ラインの座標上の長さを拡大率倍した画素数で割って画素間のピッチを求め、該ピッチに基づき拡大画像の画素座標を求めれば良い。
また、読出し転送制御部12は、全体制御部11の指示に基づきメモリ40から原画像データを読み出して入力バッファ13に格納する。本実施例ではメモリ40の読出し/書込みをバースト転送で行っており、読出し転送制御部12は、読出し先頭アドレスおよびデータ長をメモリコントローラ30に通知して原画像データの読出しを行い、入力バッファ13に格納する。
従って、入力バッファ13には、少なくとも1回のバースト転送のデータ量を格納するだけの容量が必要である。なお、画像性質解析部21、変化率算出部22、予測画素値生成部23および画素値補正部24での待ち時間をより少なくするためには、入力バッファ13を第1および第2の領域に分割して、各領域を上記容量とするのが望ましい。つまり、一方の領域の画素を用いた処理が終了して他方の領域のみの画素を用いる処理に移行したときに、一方の領域に次のバースト転送による読出し・格納を行えば、全体処理においてメモリ読出しがボトルネックとなる時間を低減できる。
また、書込み転送制御部14は、全体制御部11の指示に基づき出力バッファ15から拡大処理後の画像データを読み出してメモリ40に格納する。つまり、書込み転送制御部14は、書込み先頭アドレスおよびデータ長をメモリコントローラ30に通知して、拡大画像データをメモリ40に書き込む。従って、出力バッファ15には少なくとも1回のバースト転送のデータ量を格納するだけの記憶容量が必要である。また、メモリ書込みがボトルネックとなる時間を低減するためには、入力バッファ13と同様に、出力バッファ15を第1および第2の領域に分割して、各領域を上記記憶容量とするのが望ましい。
また、変化率算出部22は、まず、全体制御部11から指示があった拡大画像の原画像における変換後座標について、該変換後座標の隣接2画素を含む近傍3画素の画素値を入力バッファ13から読み出す。そして、これら3画素の画素値に基づき隣接2画素の画素変化率を求める。つまり、変化率算出部22は特許請求の範囲にいう変化率算出手段(変化率算出ステップ)の主要処理を司る。
次に、隣接2画素の画素値および画素変化率に基づき変換後座標における画素変化率を推定する。これは、特許請求の範囲にいう画素値算出手段(画素値算出ステップ)の一部機能であり、原画像の拡大に応じて原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素について、該補間位置に応じた第1の重み付けおよび第2の重み付けを行うことに相当する。
具体的には、変化率算出部22では、変換後座標に対する近傍2画素間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して、変換後座標における画素変化率を該近似関数に基づき算出する。ここで、n次関数はn次の多項式を含む。
また、変化率算出部22では処理対象の画素が画素変化率の符号が反転する変曲点であるか否かを判断している。なお、変曲点であるか否かの判断のためには、3個の画素座標における画素変化率が必要であるから、4個の画素座標における画素値が必要となる。この変曲点の情報は画像性質解析部21および画素値補正部24における処理で利用される。従って、画像性質解析および画素値補正の各処理にこの変曲点情報を用いる場合、変化率算出部22には、少なくとも3個の画素座標における画素変化率を順次保持するバッファまたはシフトレジスタ等の記憶手段が必要となる。
また、画像性質解析部21は、特許請求の範囲にいう画像性質解析手段(画像性質解析ステップ)に該当し、変化率算出部22において算出した画素の画素変化率の推移に基づき画像の性質を推定する。短い範囲の画像性質解析としては、例えば、画素変化率の急激な変化について、変化率算出部22が算出に用いる近傍3画素の内、隣接画素間の画素変化率の差分値に基づき判断する。
また、比較的広範囲の画像性質解析としては、例えば、変化率算出部22による画素変化率を所定個数分の履歴として蓄積し、その所定範囲の画素変化率から画像の性質を解析する。つまり、画素変化率が比較的広範囲で大きく変化しているか否か、画素変化率の変化が激しいか(変化周期が短いか;高周波画像であるか)否か、などについて解析する。
また、画素変化率の変化の度合いについては、変化率算出部22で判断された変曲点について、その変曲点画素の画素値が所定値以上である変曲点を抽出し、その抽出した変曲点の発生頻度(発生周期)等に基づき高周波画像であるか否かを判断することができる。また変曲点画素の隣接画素との画素変化率の差分が所定値以上である変曲点を抽出して、その抽出した変曲点の発生頻度(発生周期)等に基づき判断することも可能である。なお、変曲点の隣接画素との画素変化率の差分に基づく解析では、その変曲点の先鋭さ、即ち該画素座標における先鋭さについても判断できる。
また、変化率算出部22では、画像性質解析部21による画像性質の推定結果に応じて、近似に用いる直線またはn次関数を選定するが、先鋭さの度合いが大きいほど関数の次数nを高く設定するのが望ましい。つまり、短い範囲の画像性質解析を利用して、例えば、画素変化率の変化(隣接画素の画素変化率の差分)が第1所定値未満のところでは直線(1次関数)近似を使用する。また、画素変化率の変化が第2所定値(>第1所定値)以上では2次関数を使用する。さらに、第3所定値(>第2所定値)等を設けてより高次の関数を用いるようにしても良い。
このように、短い範囲の画像性質解析結果は、変化率算出部22、画像性質解析部21、予測画素値生成部23および画素値補正部24の一連の処理の中で逐一利用可能である。しかしながら、比較的広範囲の画像性質解析結果を逐一反映させるのは処理高速化の観点から難しい。つまり、短い範囲の画像性質解析は変換後座標の近傍3画素を用いて行うが、比較的広範囲の画像性質解析は、変曲点を用いた解析の場合でも該変曲点の判断に4画素を要するからである。
したがって、比較的広範囲の画像性質解析結果は、例えば、n次関数の選定に用いるしきい値(第1所定値、第2所定値および第3所定値)の調整など、局所的ではなく全体的な処理・判断に使用するのが望ましい。例えば、複数ラインについての画像性質解析結果から、変曲点画素の画素値が所定値以上または変曲点座標の先鋭さの度合いが所定値以上で高いものの発生頻度(発生周期)に応じて関数選定に用いるしきい値を変化させることが考えられる。
また、短い範囲の画像性質解析を変化率算出部22、画像性質解析部21、予測画素値生成部23および画素値補正部24の一連の処理の中に組み入れると、1生成画素当たりの処理時間が幾分増すので、これを省略する構成も考えられる。つまり、比較的広範囲の画像性質解析のみを行う構成であり、この場合、変化率算出部22ではデフォルトとして例えば直線を設定しておき、複数ラインについての画像性質解析結果に応じ関数を改めて選定するものである。
なお、変曲点の発生頻度の高い原画像は文字やイラスト等のデジタル画像である可能性が高く、また、変曲点の発生頻度の低い原画像は写真や絵画等の自然画である可能性が高い。従って、例えば、変曲点の発生頻度の高い場合はエッジ部分をより強調するべくしきい値をそれぞれ低く設定し、また変曲点の発生頻度の低い場合はしきい値を相対的に高く設定するといった調整を行えば良い。このような、全体的なしきい値の調整により、画像の性質に応じて拡大画像のシャープさをより一層高めることができる。
また、予測画素値生成部23は、特許請求の範囲にいう画素値算出手段(画素値算出ステップ)に該当し、変化率算出部22による変換後座標の画素変化率に基づき該変換後座標における画素値を算出する。
また、画素値補正部24は、特許請求の範囲にいう画素値補正手段(画素値補正ステップ)に該当し、予測画素値生成部23で算出された画素値を補正する。画素値補正部24では、変換後座標が所定条件の位置にあるときに、該変換後座標に隣接する2つの生成画素の画素値に基づく画素値に補正する。そして補正後の(補正しないときには予測画素値生成部23で算出した)画素値を出力バッファ15に書き込む。
なお、画素値補正部24が画素値補正を行う補正実施条件(座標の位置条件)としては、例えば以下のそれぞれ独立した3つの条件が考えられる。(1)変換後座標が原画像の画素の座標から所定距離内にあるとき、(2)変換後座標が変曲点画素および該変曲点画素に隣接する画素のそれぞれの座標から所定距離内にあるとき、(3)変換後座標が変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるとき、である。これらの詳細については後述する。
以上説明したように、本実施例の画像処理装置では、構成要素の機能に幾つかの選択肢があるので、ここで大まかな機能的構成例を例示しておく。計算量(ハードウェア量)に応じた装置コストおよび処理速度の観点で、本実施例の画像処理装置の適用態様に応じて何れかの構成を選択して良い。
(構成1)変化率算出部22では関数選定のデフォルトとして例えば直線を設定し、変曲点判断を行わない。また画像性質解析部21では、短い範囲の画像性質解析を省略する。また比較的広範囲の画像性質解析については、隣接画素との画素変化率の差分に基づき変化周期を判断する。また、変化率算出部22では画像性質解析結果に応じ関数を改めて選定する。さらに画素値補正部24では、補正実施条件(座標の位置条件)として(1)を用いる。
(構成2)変化率算出部22では関数選定のデフォルトとして例えば直線を設定し、変曲点判断を行う。また画像性質解析部21では、短い範囲の画像性質解析を省略する。また比較的広範囲の画像性質解析については、変曲点画素の隣接画素との画素変化率の差分に基づき変化周期を判断し、変曲点の先鋭さも判断する。また、変化率算出部22では画像性質解析結果に応じ関数を改めて選定する。さらに画素値補正部24では、補正実施条件(座標の位置条件)として(1)乃至(3)の何れか1つを用いる。
(構成3)変化率算出部22では、デフォルトとして例えば直線を設定し、変曲点判断を行わない。また画像性質解析部21では、短い範囲の画像性質解析(隣接画素間の画素変化率の差分)を行う。また比較的広範囲の画像性質解析については、隣接画素との画素変化率の差分に基づき変化周期を判断する。また変化率算出部22では、短い範囲の画像性質解析に応じてしきい値に基づき逐一関数を選定し、また、比較的広範囲の画像性質解析結果に応じてしきい値を調整する。さらに画素値補正部24では、補正実施条件(座標の位置条件)として(1)を用いる。
(構成4)変化率算出部22では関数選定のデフォルトとして例えば直線を設定し、変曲点判断を行う。また画像性質解析部21では、短い範囲の画像性質解析(隣接画素間の画素変化率の差分)を行う。また比較的広範囲の画像性質解析については、変曲点画素の隣接画素との画素変化率の差分に基づき変化周期を判断し、変曲点の先鋭さも判断する。また変化率算出部22では、短い範囲の画像性質解析に応じてしきい値に基づき逐一関数を選定する。また、比較的広範囲の画像性質解析結果に応じてしきい値を調整する。さらに画素値補正部24では、補正実施条件(座標の位置条件)として(1)乃至(3)の何れか1つを用いる。
次に、以上説明した各構成要素を備えた本実施例の画像処理装置における画像処理方法について、図2乃至図5を参照して詳細に説明する。ここで、図2は実施例の画像処理装置における画像処理方法を説明するフローチャートであり、図3および図4はそれぞれ本発明における画素値の生成を概念的に説明する説明図であり、図5は画素値補正部24における画素値の補正処理を概念的に説明する説明図である。
図2のフローチャートにおいて、まず、読出し転送制御部12により、メモリ40の原画像データ格納領域41から原画像データがバースト転送で読み出され入力バッファ13に格納される(ステップS101)。このデータ転送は、全体制御部11により入力バッファ13内の全ての原画像データに関わる処理が終了したか否かが判断され(ステップS102)、全ての原画像データに関わる処理が終了した時点で行われる。なお、入力バッファ13を第1および第2の領域に分割する場合には、何れか一方の領域の画素を用いた処理が終了して他方の領域のみの画素を用いる処理に移行したときにデータ転送が行われることとなる。
また他方で、書込み転送制御部14により、出力バッファ15から拡大処理後の画像データが読み出され、バースト転送でメモリ40の拡大画像データ格納領域42に格納される(ステップS122)。このデータ転送は、生成される毎に出力バッファ15に格納された画素値(拡大処理後の画像データ)が出力バッファ15の容量分に達したか否かが全体制御部11により判断され、出力バッファ15の容量分に達した時点で行われる。なお、出力バッファ15を第1および第2の領域に分割する場合には、何れか一方の領域への格納が終了して他方の領域への格納処理に移行したときにデータ転送が行われることとなる。
次に、画像性質解析部21、変化率算出部22、予測画素値生成部23および画素値補正部24による一連の処理は、処理に必要な入力画素が入力バッファ13にあり、且つ、出力バッファ15に空きがある状態を待って処理を開始する(ステップS111)。なお、以下では、拡大画像の画素座標を原画像上の座標に変換する処理は全体制御部11で前もって行われるか、或いは逐次行われ、拡大画像の原画像における変換後座標がこれら各構成要素に通知されるものとして説明する。
まず、画像性質解析部21により、変化率算出部22において算出した画素の画素変化率の推移に基づき画像の性質を推定する(ステップS112)。
次に、変化率算出部22により、全体制御部11から指示があった変換後座標について、該変換後座標の隣接2画素を含む近傍3画素の画素値を入力バッファ13から読み出す。そして、これら3画素の画素値に基づき隣接2画素の画素変化率を求め、次に、隣接2画素の画素値および画素変化率に基づき変換後座標における画素変化率を推定する(ステップS113)。
なお、画像性質解析部21において、短い範囲の画像性質解析では、変化率算出部22で求めた隣接2画素の画素変化率に基づきその差分を求め、画素変化率の変化を解析する。変化率算出部22では、この解析結果に基づき所定しきい値との比較で近似に用いる直線またはn次関数を選定し、変換後座標における画素変化率を求める。
また、比較的広範囲の画像性質解析については、変化率算出部22による画素変化率が所定数分蓄積された後に行われる。変化率算出部22で変曲点判断を行う場合は、変曲点画素の隣接画素との画素変化率の差分に基づき変化周期を判断し、変曲点の先鋭さも判断する。変化率算出部22で変曲点判断を行わない場合は、隣接画素との画素変化率の差分に基づき変化周期を判断する。変化率算出部22では、この解析結果に基づき関数選定に用いる所定しきい値を調整する。
次に、予測画素値生成部23により、変化率算出部22で求めた変換後座標の画素変化率に基づき該変換後座標における画素値を算出する(ステップS114)。
ここで、変化率算出部22および予測画素値生成部23における処理について、図3および図4を参照して具体的に説明する。なお、図3および図4では、原画像において、ある水平方向のライン上で水平座標X0,X1,X2およびX3にそれぞれ画素値D0,D1,D2およびD3の画素E0,E1,E2およびE3が存在していると仮定している。また、拡大画像の画素座標を原画像上の座標値に変換した変換後座標Xを仮定し、水平座標Xに拡大処理で生成する画素があると仮定している。
変換後座標Xにおける画素値を算出するに際して、隣接2画素はE1およびE2であり、近傍3画素はE0,E1およびE2である。まず、変化率算出部22では隣接2画素E1,E2の画素変化率を求める。図4に示すように、画素E1の画素変化率は傾きK1=E1−E0として、また画素E2の画素変化率は傾きK2=E2−E1として、それぞれ求められる。
次に、変換後座標に対する近傍2画素間の画素変化率の推移を直線(1次関数)で近似する場合には、図4において、2画素間の画素変化率を直線で結んだ前方傾きGafの折れ線推移となる。変換後座標Xにおける1次関数に基づく画素変化率Kd1は、X2−X1=1、画素E1の座標X1から変換後座標Xまでの距離をdltとすると、次式で得られる。
Kd1=K1×(1−dlt)+(K2×dlt) (1)
また、変換後座標に対する近傍2画素間の画素変化率の推移を2次関数k=f(x)で近似する場合には、図4において、隣接2画素E1,E2の画素変化率を2次関数で結んだ点線の推移となる。変換後座標Xにおける2次関数に基づく画素変化率Kd2は次式で得られる。
Kd2=K1+{f(x):x=dlt} (2)
そして、予測画素値生成部23では、1次関数に基づく画素変化率Kd1、或いは、2次関数に基づく画素変化率Kd2を用いて、変換後座標Xにおける画素値D12X1,D12X2を次式でそれぞれ求める。
D12X1=D1+Kd1×dlt (3)
D12X2=D1+Kd2×dlt (4)
つまり、画素変化率の直線近似では画素値D12X1の画素E12X1が、また画素変化率の2次関数近似では画素値D12X2の画素E12X2が、それぞれ拡大画像の画素として生成されることとなる。
なお、以上の説明では、画素変化率をその画素の1つ前の座標との画素値の差分(前方傾きGaf)として求めたが、図4に示すように、その画素の1つ後の座標との画素値の差分(後方傾きGab)として求めても良い。但しこの場合には、画素変化率の推移の近似をずらして(上述の例では、水平座標X0,X1の区間で)行うこととなり、分かり易さの点で前方傾きGafで行う方が望ましい。
次に、図2のフローチャートにおいて、画素値補正部24により、予測画素値生成部23で算出された画素値を必要であれば補正する(ステップS115)。ここでは、画素値補正部24では、変換後座標が変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるとき(位置条件(3))に、該変換後座標に隣接する2つの生成画素の画素値に基づく画素値に補正するものとする。
この画素値補正部24における補正処理について、図5を参照して具体的に説明する。なお、図5(a)に示すように、原画像において、ある水平方向のライン上で水平座標X0,X1,X2,X3およびX4にそれぞれ画素値D0,D1,D2,D3およびD4の画素E0,E1,E2,E3およびE4が存在していると仮定している。また、本具体例は5倍の拡大処理を行うものであり、拡大画像の原画像における変換後座標は、原画像の各画素の座標と、原画像の各隣接2画素間に4個それぞれ存在することとなる。
先の具体例と同様に、変換後座標に対する近傍2画素間の画素変化率(前方傾き)の推移を直線(1次関数)で近似すれば、図5(b)に示すように、2画素間の画素変化率を直線で結んだ折れ線推移となる。ここで、変化率算出部22により、水平座標X2の前後で画素変化率の符号がプラスからマイナスへ反転しており、水平座標X2(画素E2)は変曲点と判断される。
また、先の具体例(図3および図4)と同様に、変換後座標における1次関数に基づく画素変化率を求める(式(1)参照)。そして、変換後座標における画素値を求める(式(3)参照)と、図5(a)に示す(図中、白抜き丸:○で表記する)ように、拡大画像の各画素の画素値が得られる。しかしながら、変曲点画素E2および該変曲点画素E2の拡大方向に隣接する画素E3については、同図から明らかなように、拡大画像の画素値の推移として(滑らかな推移となっていない)不自然な箇所となっている。
これは、変換後座標に対する近傍2画素間の画素変化率の推移を直線(1次関数)で近似することが、画素値の推移として2画素間の傾きを表す関数を1階微分することと同義であることに起因すると考えられる。つまり、画素間毎に微分を行うと、原画像の画素座標がその微分境界となり、特に変曲点近傍において不自然さが発生するものと考えられる。なお、n次関数で近似する場合にはn階微分することと同義であり、nが大きくなるにつれ不自然さは顕著に表れると考えられる。
そこで、画素値補正部24では、変換後座標が変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるとき(位置条件(3))に、該変換後座標に隣接する2つの生成画素の画素値に基づく画素値に補正する。ここで、「座標から所定距離」については、原画像データの隣接画素間の距離を1としたとき、例えば±0.05〜±0.1の範囲について補正処理を行えば良い。この補正処理により計算量が幾分増えることになるが、この所定範囲内に変換後座標が存在する確率は低いので、計算量への影響は抑制できる。
図5(a)では、変曲点画素E2については、画素E12−8および画素E23−2による線形補正を行って、画素E2aに補正している。また、該変曲点画素E2の拡大方向に隣接する画素E3についても同様に、画素E23−8および画素E34−2による線形補正を行って、画素E3aに補正している。
このように、画素値補正部24の補正処理では、補正箇所の座標よりもさらに拡大方向(後方)の拡大画像の画素として生成された画素の画素値を用いるので、少なくとも3個の画素値を保持するバッファまたはシフトレジスタ等の記憶手段が必要となる。なお、画素値補正部24に記憶手段は持たずに、一旦出力バッファ15に格納した画素値を参照することとし、また、補正箇所の画素について補正処理後に補正値に書き換えるようにしても良い。
以上の説明では、画素値補正を行う位置条件として、上記位置条件(3)を用いた。なお、位置条件(1)や位置条件(2)では、画素値補正を行う箇所が位置条件(3)よりも多く、その分処理時間を増大させてしまうことから、本具体例のように、画素値補正を行う位置条件として位置条件(3)を用いるのが望ましい。但し、全体的な計算量を抑制する観点から変曲点判断を行わない場合には、位置条件(1)のみの適用として良い。
なお、画素値補正部24による画素値補正は、拡大率が2または3倍以上であるときに行い、拡大率が2または3倍未満では行わないようにした方が良い。変曲点近傍における不自然さを隣接する2個の生成画素で線形補正するものであるから、相対的に低い拡大率では2個の生成画素間の距離が離れており、線形補正により却って不自然な画素値となる可能性があるからである。
次に、図2のフローチャートにおいて、画素値補正部24により補正処理された後の(補正しないときには予測画素値生成部23で算出した)画素値を出力バッファ15に書き込む(ステップS116)。このとき、全体制御部11は、入力バッファ13内の全ての原画像データに関わる処理が終了したか否か、並びに、出力バッファ15に格納された画素値(拡大処理後の画像データ)が出力バッファ15の容量分に達したか否かを毎回判定する。
そして、全体制御部11により、拡大処理で生成される全ての画素について処理が終了したか否かを判断し(ステップS117)、生成画素についての処理が終了した場合には一連の処理を終了し、そうでない場合にはステップS111に戻って処理を繰り返す。
〔適用例1〕
次に、本発明の画像拡大処理手法と一般的手法(最近傍法およびバイリニア法)とを対比するために、シミュレーション実験結果を適用例として例示する。なお、適用例1および適用例2では上記(構成2)を使用する。つまり、変化率算出部22ではデフォルトとして直線を設定し、変曲点判断を行う。また画像性質解析部21では、短い範囲の画像性質解析を省略する。また比較的広範囲の画像性質解析については処理対象の原画像データが少ないため行われないものとする。さらに画素値補正部24では、補正実施条件(座標の位置条件)として(1)を用いる。
まず、適用例1について図6乃至図8の説明図を参照して説明する。ここで、図6は原画像の画像データを例示する説明図であり、図7は画素値算出過程および結果の数値表を例示する説明図であり、図8は本発明の画像拡大処理手法と一般的手法による画素値推移を対比した説明図である。なお、適用例1は原画像データを5倍に拡大するものであり、水平座標4から8の間について実験結果を示す。
本発明の適用としては、図6に示す原画像の画像データに対して、変換後座標に対する近傍2画素間の画素変化率(前方傾き)の推移を直線(1次関数)で近似した。上述の説明で用いた例と同様に、変換後座標における1次関数に基づく画素変化率を求めた(式(1)参照)。これを図7中の「予測傾きKd」として示す。また、この予測傾きKdを用いて変換後座標における画素値を求めた(式(3)参照)。これを図7中の「予測画素値」として示す。
また、適用例1の原画像データでは、水平座標6に変曲点画素が存在する。適用例1では、画素値補正部24における補正処理を実施する条件に、補正実施条件(1)「変換後座標が原画像の画素の座標から所定距離内にあるとき」、を用いた。
ここで、補正実施条件(3)に該当せず、補正実施条件(2)に該当するのは水平座標5の画素であるが、補正量は他の補正対象(水平座標6および7)の補正量と比べてわずかであった。これにより、補正実施条件(1)「変換後座標が原画像の画素の座標から所定距離内にあるとき」であっても、画質への影響が少ないことを実証できた。
また、最近傍法による生成画素値を図7(図中の括弧書きは最近傍法で選択された画素座標を示す)に示し、生成画素値の推移を図8(b)に重ねて示す。また、バイリニア法による生成画素値の推移を図8(a)に重ねて示す。これら従前の画像拡大処理の一般的手法と比べて、本発明の画像拡大処理手法による補正前および補正後の生成画素値の推移は滑らかであり、従前の手法における画質の問題点(ジャギーやぼけ等)を低減できることは容易に考察できる。
〔適用例2〕
次に、適用例2について図9乃至図11の説明図を参照して説明する。ここで、図9は原画像の画像データを例示する説明図であり、図10は画素値算出過程および結果の数値表を例示する説明図であり、図11は本発明の画像拡大処理手法と一般的手法による画素値推移を対比した説明図である。なお、適用例2は原画像データを5倍に拡大するものであり、水平座標3から8の間について実験結果を示す。
本発明の適用としては、図9に示す原画像の画像データに対して、変換後座標に対する近傍2画素間の画素変化率(前方傾き)の推移を直線(1次関数)で近似した。上述の説明で用いた例と同様に、変換後座標における1次関数に基づく画素変化率を求めた(式(1)参照)。これを図10中の「予測傾きKd」として示す。また、この予測傾きKdを用いて変換後座標における画素値を求めた(式(3)参照)。これを図10中の「予測画素値」として示す。
適用例2では、画素値補正部24における補正処理を実施する条件に、補正実施条件(1)「変換後座標が原画像の画素の座標から所定距離内にあるとき」、を用いた。
また、最近傍法による生成画素値を図10(図中の括弧書きは最近傍法で選択された画素座標を示す)に示し、生成画素値の推移を図11(b)に重ねて示す。また、バイリニア法による生成画素値の推移を図11(a)に重ねて示す。これら従前の画像拡大処理の一般的手法と比べて、本発明の画像拡大処理手法による補正前および補正後の生成画素値の推移は滑らかであり、従前の手法における画質の問題点(ジャギーやぼけ等)が改善されることは容易に考察できる。
また、適用例1および適用例2では、原画像データにおけるエッジ部分を例示している。図8および図11に示すように、本発明の画像拡大処理手法では、画素値の推移における凸部分はオーバーシュート気味に、凹部分はアンダーシュート気味にそれぞれ拡大画像の画素値が生成されるので、エッジ部分の先鋭さがより強調されることとなる。その結果、従前の手法における画質の問題点(ジャギーやぼけ等)が解消されることは容易に考察できる。
以上説明したように、本実施例の画像処理装置および画像処理方法では、原画像に基づき一方向に拡大した拡大画像を生成する画像処理装置および画像処理方法であって、全体制御部11により拡大画像の画素座標を原画像上の座標に変換した後、変化率算出部22(変化率算出ステップ)により、原画像における変換後座標の隣接2画素を含む近傍3画素の画素値に基づき隣接2画素の画素変化率を求め、該隣接2画素の画素値および画素変化率に基づき変換後座標における画素変化率を推定する。そして、予測画素値生成部23(画素値算出ステップ)により、変換後座標の画素変化率に基づき該変換後座標における画素値を算出する。
これにより、計算量を抑制すると共に、より良い画質の拡大画像を得られる画像処理装置および画像処理方法を実現できる。
まず、計算量について比較・考察する。従来の最近傍法およびバイリニア法は隣接2画素の画素値に基づく手法であり、バイキュービック法は隣接2画素を含む近傍4画素の画素値に基づく手法である。これに対して本実施例の画像処理装置および画像処理方法は、隣接2画素を含む近傍3画素の画素値に基づく手法である。
従って、大まかに一方向の拡大処理についての計算量を比較すれば、「最近傍法:バイリニア法:バイキュービック法:本実施例」の計算量の比は「1:2:4:3」となる。なお、近傍法は画素値の単なる置き換えであることから「1」とした。つまり、本実施例は、画質に難があっても計算量の少ない最近傍法およびバイリニア法よりも計算量は多いが、より良い画質が得られても計算量の多いバイキュービック法よりも計算量は少ないと言える。
次に、画質については、概ね計算量に比例して画質は良くなる傾向にあるから、本実施例は、最近傍法およびバイリニア法よりも良い画質を得ることができるが、バイキュービック法には若干劣ると考えられる。実際に、適用例1および適用例2で示したように、最近傍法およびバイリニア法と比べて、本実施例の補正前および補正後の生成画素値の推移は滑らかであり、画質の問題点(ジャギーやぼけ等)を低減できることも実証された。
また、本実施例では、変化率算出部22(変化率算出ステップ)において、近傍2画素間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して変換後座標における画素変化率を推定するようにしている。
図3および図4を参照して明らかなように、単なる隣接画素間の画素値の線形近似(バイリニア法)と比較して、直線を用いる場合でも画素値が変化する部分をより際立たせるように作用する。また、関数の次数を高くすればするほどその際立たせる度合いは増していく。また、適用例1および適用例2で示したように、画素値の推移における凸部分はオーバーシュート気味に、凹部分はアンダーシュート気味にそれぞれ拡大画像の画素値が生成される。
つまり、本実施例の画像処理装置および画像処理方法では、拡大画像の画素を生成する際に、画素値の推移における凸凹部分の画素値変化の度合いがより上下に強調されることとなり、原画像におけるエッジ部分の先鋭さがより強調されることになる。結果として、画質の問題点(ジャギーやぼけ等)が解消される。また、エッジ強調処理とは独立した処理でエッジ強調され、従来のようにエッジ強調処理後の拡大処理でエッジ強調処理を損なうといった問題も生じない。
また、本実施例では、画像性質解析部21(画像性質解析ステップ)において画素の画素変化率の推移に基づき画像の性質を推定し、画像性質解析結果に応じて近似に用いる直線またはn次関数を選定するようにしている。
例えば、画素変化率が急激に変化しているか否か、画素変化率が比較的広範囲で大きく変化しているか否か、画素変化率の変化が激しいか(変化周期が短いか)否かについて解析し、該解析結果に応じて関数選定を行う。このように、画像の性質に応じて拡大画像の先鋭部分が強調されるので、シャープさをより一層高めることができる。
また、本実施例では、画素値補正部24(画素値補正ステップ)において、変換後座標が原画像の画素の座標から所定距離内にあるときに、該変換後座標に隣接する2つの生成画素の画素値に基づく画素値に補正するようにしている。
本実施例の手法は拡大画像の画素生成の際に画素間毎に微分を行うことと等価であり、原画像の画素座標がその微分境界となるが、この原画像の画素座標近傍にある生成画素を補正するので、生成画素値の推移をより滑らかにすることができ、拡大画像の画質を向上させることができる。なお、この補正処理により計算量が幾分増えるが、画素座標近傍に変換後座標が存在する確率は低いので、計算量への影響は抑制できる。
また、本実施例では、画素値補正部24(画素値補正ステップ)において、変換後座標が変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるときに、該変換後座標に隣接する2つの生成画素の画素値に基づく画素値に補正するようにしている。ここで、変曲点画素は画素変化率の符号が変化する変曲点に位置するもので、変化率算出部22(変化率算出ステップ)により判断する。
このように、変曲点か否かを判断して、原画像の画素座標のうち変曲点画素および該変曲点画素の拡大方向に隣接する画素の近傍を補正対象とするので、生成画素値の推移をより滑らかにできると共に、計算量への影響をより抑制することができる。
〔変形例1〕
以上説明した実施例では、画像性質解析部21の画素変化率の推移に基づく画像性質解析結果に応じて近似に用いる直線またはn次関数を選定したが、画素変化率の推移がより平坦なものである場合には、最近傍法またはバイリニア法で生成しても良い。
つまり、図1の画像処理回路10に、変換後座標における画素値を最近傍法で算出する第2の画素値算出手段と、変換後座標における画素値をバイリニア法で算出する第3の画素値算出手段と、を備えた構成とする。全体制御部11では、画像性質解析部21の画像性質解析結果に応じて、画素値算出23、第2の画素値算出手段または第3の画素値算出手段の何れかを選定して変換後座標における画素値を算出する。なお、第2の画素値算出手段および第3の画素値算出手段を、変化率算出部22における関数の選択肢として備える構成としても良い。
例えば、画素変化率の急激な変化がなく、画素変化率が比較的広範囲で大きく変化せず、或いは画素変化率の変化に乏しい(変化周期が所定値以上に長い)場合に、実施例の手法を用いずに最近傍法またはバイリニア法で拡大画像の画素を生成する。なお、画素変化率の推移の平坦さ(変化周期の長さ等)の度合いに応じて、「最近傍法を選択する所定値>バイリニア法を選択する所定値」とするのが望ましい。
図12を参照して、変化率算出法の切替えについて説明する。図12(a)はバイリニア法の場合、図12(b)は最近傍法の場合、図12(c)は実施例(直線近似)の場合、図12(d)は実施例(多項式近似)の場合、それぞれについての画素変化率を近似する関数を示している。
まず、バイリニア法の場合には、変換後座標の隣接2画素の画素値の直線補間であるので、隣接2画素間の画素変化率については、図12(a)に示すように、変換後座標の後方画素(X2)の画素変化率の一定値で近似することになる。バイリニア法は実施例の手法よりも計算量が少なく、原画像の性質として画素変化率の推移がより緩やかまたは平坦なものである場合に適用するのが望ましい。
また、最近傍法の場合には、最も近傍にある画素を変換後座標の画素値とするので、隣接2画素間の画素変化率については、図12(b)に示す通りとなる。即ち、前方画素の座標X1から変換後座標Xまでの距離をdltとすると、dlt=0〜0.5の範囲では前方画素の画素変化率の一定値、dlt=0.5〜1の範囲では後方画素の画素変化率の一定値で近似することになる。最近傍法はバイリニア法よりも計算量が少なく、原画像の性質として画素変化率の推移がさらに緩やかまたは平坦なものである場合に適用するのが望ましい。
次に、実施例(直線近似)の場合には、図12(c)に示すように、変換後座標の隣接2画素間の画素変化率の推移を直線で近似する。実施例の直線近似は、画素変化率に急激な変化があり、画素変化率が比較的広範囲で大きく変化し、或いは画素変化率の変化が激しい(変化周期が短い)場合に適用するのが望ましい。実施例の直線近似は、最近傍法またはバイリニア法よりも計算量が多くなるが、このような性質を持つ原画像の拡大処理においては、最近傍法またはバイリニア法における画質の問題点(ジャギーやぼけ等)を低減できる。
また、実施例(多項式近似)の場合には、図12(d)に示すように、変換後座標の隣接2画素間の画素変化率の推移を多項式で近似する。実施例の多項式近似は、直線近似を適用する場合よりもさらに画素変化率に急激な変化があり、画素変化率が比較的広範囲で大きく変化し、或いは画素変化率の変化が激しい(変化周期が短い)場合に適用するのが望ましい。実施例の多項式近似は、さらに計算量が増えるが、このような性質を持つ原画像の拡大処理においては、画質の問題点(ジャギーやぼけ等)をより一層低減できる。
このように、変形例1では、画像性質解析部21の画像性質解析結果に応じて、画素値算出23、第2の画素値算出手段または第3の画素値算出手段の何れかを選定して変換後座標における画素値を算出する。これにより、拡大画像の画質を維持しつつ、処理速度の高速化を図ることができる。
つまり、画素変化率の推移がより平坦なものである場合には、より計算量の少ない手法に切り替えて拡大画像の画素を生成するので、処理の高速化を図ることができる。なお、最近傍法またはバイリニア法を選択する所定値は、処理速度と拡大画像の画質の劣化とのトレードオフで決められるものであり、実験的に求めるのが望ましい。
〔変形例2〕
また、以上説明した実施例および変形例1では、原画像の画像性質の解析を画像性質解析部21で行い、画素変化率の近似関数の選定や最近傍法またはバイリニア法への切替えを行ったが、これをユーザ設定により行うようにしても良い。
つまり、ユーザインタフェースとして、例えば「自然画」または「文書・イラスト」の選択設定を持つ構成とする。「自然画」選択の場合には実施例の高次関数近似または多項式近似を適用し、「文書・イラスト」選択の場合には実施例の直線近似或いは最近傍法またはバイリニア法を適用する。
自然画では画素変化率の急激な変化がなく、画素変化率が比較的広範囲で大きく変化せず、或いは画素変化率の変化に乏しい(変化周期が長い)ものが一般的である。つまり、自然画の場合は出力画像が滑らかでグラデーション変化が望ましく、オーバーシュートなどでダイナミックな変化を強調した拡大画像が得られる実施例の手法が適している。
また一方、文書・イラストでは画素変化率に急激な変化があり、画素変化率が比較的広範囲で大きく変化し、或いは画素変化率の変化が激しい(変化周期が短い)ものが一般的である。例えば、最近傍法による拡大画像では。オーバーシュートなどが無く、コピーしたような境界がはっきりした画像となることから、文書・イラストの画像に適している。
このようなユーザ設定により、画像性質解析部21を省略することができ、ハードウェア量を低減することができる。
〔変形例3〕
また、以上説明した実施例、変形例1および変形例2では、原画像に基づき一方向に拡大した拡大画像を生成する画像処理装置および画像処理方法について説明した。原画像を水平方向または垂直方向に拡大した拡大画像を、それぞれ垂直方向または水平方向に拡大することにより、2次元の拡大処理に本発明を適用することができる。
なお、実施例(図1)の構成で2次元の拡大処理を行うとすると、例えば水平方向に拡大した拡大画像データについて、水平方向の画素配列を垂直方向の画素配列に並べ替える必要がある。つまり、一方向に拡大した拡大画像データの水平方向と垂直方向の画素配列を逆に並べ替えた後、該並び替え後の拡大画像データについて拡大処理を行うものである。
画素配列の並べ替え手法としては、例えば、メモリ40内に、拡大画像データ記憶領域42以外の他の拡大画像データ記憶領域を設け、メモリ40上で並べ替えを行うことが考えられる。また、メモリコントローラ30または画像処理回路10の書込み転送制御部14にアドレス変換機能を持たせ、一方向の拡大処理における拡大画像データ記憶領域42への書込み時に画素配列の並べ替えを行うようにしても良い。
図13には、2次元の拡大処理への本発明の適用を概念的に示す。2次元の拡大処理での任意の変換後座標における画素値の算出は、(隣接2画素を含む近傍3画素)×(隣接2画素を含む近傍3画素)=9画素で、該9画素の画素値に基づき行われることとなる。従って、大まかに2次元の拡大処理についての計算量を比較すれば、「最近傍法:バイリニア法:バイキュービック法:本実施例」の計算量の比は「1:4:16:9」となる。
なお、本発明の諸態様の付記として、以下に示す。
(付記1)
原画像を拡大した拡大画像を生成する画像処理装置であって、
前記原画像の第1の画素位置の第1の画素変化率および第2の画素位置の第2の画素変化率を算出する変化率算出手段と、
前記原画像の拡大に応じて前記原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素値を、該補間位置に応じて第1の重み付けをされた前記第1の画素変化率と、該補間位置に応じて第2の重み付けをされた前記第2の画素変化率とに基づいて算出する画素値算出手段と、
を有することを特徴とする画像処理装置。
(付記2)
前記画素値算出手段は、前記第1の画素変化率および前記第2の画素変化率間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して前記第1の重み付けおよび前記第2の重み付けを行うことを特徴とする付記1に記載の画像処理装置。
(付記3)
前記変化率算出手段において算出した画素の画素変化率の推移に基づき画像の性質を推定する画像性質解析手段、を有し、
前記画素値算出手段は、前記画像性質解析手段による画像性質の推定結果に応じて、近似に用いる直線またはn次関数を選定することを特徴とする付記2に記載の画像処理装置。
(付記4)
前記補間位置における画素値を最近傍法で算出する第2の画素値算出手段と、
前記補間位置における画素値をバイリニア法で算出する第3の画素値算出手段と、を有し、
前記画像性質解析手段による画像性質の推定結果に応じて、前記画素値算出手段、前記第2の画素値算出手段または前記第3の画素値算出手段の何れかを選定して前記補間位置における画素値を算出することを特徴とする付記3に記載の画像処理装置。
(付記5)
前記補間位置が前記原画像の画素の座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正する画素値補正手段を有することを特徴とする付記1〜付記4の何れか1項に記載の画像処理装置。
(付記6)
前記画素値算出手段で算出された画素値を補正する画素値補正手段を有し、
前記変化率算出手段は、前記画素変化率の符号が変化する変曲点に位置する変曲点画素を検出し、
前記画素値補正手段は、前記補間位置が前記変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正することを特徴とする付記1〜付記4の何れか1項に記載の画像処理装置。
(付記7)
原画像を水平方向または垂直方向に拡大した拡大画像を、それぞれ垂直方向または水平方向に拡大することを特徴とする付記1〜付記6の何れか1項に記載の画像処理装置。
(付記8)
原画像を拡大した拡大画像を生成する画像処理方法であって、
前記原画像の第1の画素位置の第1の画素変化率および第2の画素位置の第2の画素変化率を算出する変化率算出ステップと、
前記原画像の拡大に応じて前記原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素値を、該補間位置に応じて第1の重み付けをされた前記第1の画素変化率と、該補間位置に応じて第2の重み付けをされた前記第2の画素変化率とに基づいて算出する画素値算出ステップと、
を有することを特徴とする画像処理方法。
(付記9)
前記画素値算出ステップは、前記第1の画素変化率および前記第2の画素変化率間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して前記第1の重み付けおよび前記第2の重み付けを行うことを特徴とする付記8に記載の画像処理方法。
(付記10)
前記変化率算出手段において算出した画素の画素変化率の推移に基づき画像の性質を推定する画像性質解析ステップ、を有し、
前記画素値算出ステップは、前記画像性質解析ステップによる画像性質の推定結果に応じて、近似に用いる直線またはn次関数を選定することを特徴とする付記9に記載の画像処理方法。
(付記11)
前記補間位置における画素値を最近傍法で算出する第2の画素値算出ステップと、
前記補間位置における画素値をバイリニア法で算出する第3の画素値算出ステップと、を有し、
前記画像性質解析ステップによる画像性質の推定結果に応じて、前記画素値算出ステップ、前記第2の画素値算出ステップまたは前記第3の画素値算出ステップの何れかを選定して前記補間位置における画素値を算出することを特徴とする付記10に記載の画像処理装置。
(付記12)
前記補間位置が前記原画像の画素の座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正する画素値補正ステップを有することを特徴とする付記8〜付記11の何れか1項に記載の画像処理装置。
(付記13)
前記画素値算出ステップで算出された画素値を補正する画素値補正ステップを有し、
前記変化率算出ステップは、前記画素変化率の符号が変化する変曲点に位置する変曲点画素を検出し、
前記画素値補正ステップは、前記補間位置が前記変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正することを特徴とする付記8〜付記11の何れか1項に記載の画像処理方法。
(付記14)
原画像を水平方向または垂直方向に拡大した拡大画像を、それぞれ垂直方向または水平方向に拡大することを特徴とする付記8〜付記13の何れか1項に記載の画像処理方法。
(付記15)
前記第1の重み付けと前記第2の重み付けは、前記補間位置に応じた前記第1の補間位置と前記第2の補間位置との間の案分によって決まることを特徴とする付記1に記載の画像処理装置。
10 画像処理回路
11 全体制御部
12 読出し転送制御部
13 入力バッファ
14 書込み転送制御部
15 出力バッファ
21 画像性質解析部
22 変化率算出部
23 予測画素値生成部
24 画素値補正部
30 メモリコントローラ
40 メモリ
41 原画像データ記憶領域
42 拡大画像データ記憶領域

Claims (10)

  1. 原画像を拡大した拡大画像を生成する画像処理装置であって、
    前記原画像の第1の画素位置の第1の画素変化率および第2の画素位置の第2の画素変化率を算出する変化率算出手段と、
    前記原画像の拡大に応じて前記原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素値を、該補間位置に応じて第1の重み付けをされた前記第1の画素変化率と、該補間位置に応じて第2の重み付けをされた前記第2の画素変化率とに基づいて算出する画素値算出手段と、
    を有することを特徴とする画像処理装置。
  2. 前記画素値算出手段は、前記第1の画素変化率および前記第2の画素変化率間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して前記第1の重み付けおよび前記第2の重み付けを行うことを特徴とする請求項1に記載の画像処理装置。
  3. 前記変化率算出手段において算出した画素の画素変化率の推移に基づき画像の性質を推定する画像性質解析手段、を有し、
    前記画素値算出手段は、前記画像性質解析手段による画像性質の推定結果に応じて、近似に用いる直線またはn次関数を選定することを特徴とする請求項2に記載の画像処理装置。
  4. 前記補間位置における画素値を最近傍法で算出する第2の画素値算出手段と、
    前記補間位置における画素値をバイリニア法で算出する第3の画素値算出手段と、を有し、
    前記画像性質解析手段による画像性質の推定結果に応じて、前記画素値算出手段、前記第2の画素値算出手段または前記第3の画素値算出手段の何れかを選定して前記補間位置における画素値を算出することを特徴とする請求項3に記載の画像処理装置。
  5. 前記補間位置が前記原画像の画素の座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正する画素値補正手段を有することを特徴とする請求項1〜請求項4の何れか1項に記載の画像処理装置。
  6. 前記画素値算出手段で算出された画素値を補正する画素値補正手段を有し、
    前記変化率算出手段は、前記画素変化率の符号が変化する変曲点に位置する変曲点画素を検出し、
    前記画素値補正手段は、前記補間位置が前記変曲点画素および該変曲点画素の拡大方向に隣接する画素のそれぞれの座標から所定距離内にあるときに、該補間位置に隣接する2つの生成画素の画素値に基づく画素値に補正することを特徴とする請求項1〜請求項4の何れか1項に記載の画像処理装置。
  7. 前記原画像を水平方向に拡大した前記拡大画像を垂直方向に拡大し、または前記原画像を垂直方向に拡大した前記拡大画像を水平方向に拡大することを特徴とする請求項1〜請求項6の何れか1項に記載の画像処理装置。
  8. 原画像を拡大した拡大画像を生成する画像処理方法であって、
    前記原画像の第1の画素位置の第1の画素変化率および第2の画素位置の第2の画素変化率を算出する変化率算出ステップと、
    前記原画像の拡大に応じて前記原画像の第1の画素位置と第2の画素位置の間に補間される補間位置の画素値を、該補間位置に応じて第1の重み付けをされた前記第1の画素変化率と、該補間位置に応じて第2の重み付けをされた前記第2の画素変化率とに基づいて算出する画素値算出ステップと、
    を有することを特徴とする画像処理方法。
  9. 前記画素値算出ステップは、前記第1の画素変化率および前記第2の画素変化率間の画素変化率の推移を直線またはn次関数(nは2以上の正整数)で近似して前記第1の重み付けおよび前記第2の重み付けを行うことを特徴とする請求項8に記載の画像処理方法。
  10. 前記変化率算出手段において算出した画素の画素変化率の推移に基づき画像の性質を推定する画像性質解析ステップ、を有し、
    前記画素値算出ステップは、前記画像性質解析ステップによる画像性質の推定結果に応じて、近似に用いる直線またはn次関数を選定することを特徴とする請求項9に記載の画像処理方法。
JP2010005563A 2010-01-14 2010-01-14 画像処理装置および画像処理方法 Expired - Fee Related JP5471474B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010005563A JP5471474B2 (ja) 2010-01-14 2010-01-14 画像処理装置および画像処理方法
US12/986,167 US8554019B2 (en) 2010-01-14 2011-01-06 Apparatus and method for image processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010005563A JP5471474B2 (ja) 2010-01-14 2010-01-14 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2011146888A JP2011146888A (ja) 2011-07-28
JP5471474B2 true JP5471474B2 (ja) 2014-04-16

Family

ID=44258575

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010005563A Expired - Fee Related JP5471474B2 (ja) 2010-01-14 2010-01-14 画像処理装置および画像処理方法

Country Status (2)

Country Link
US (1) US8554019B2 (ja)
JP (1) JP5471474B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI466063B (zh) * 2011-09-29 2014-12-21 Altek Corp 影像內插的處理方法
JP6021780B2 (ja) * 2013-10-07 2016-11-09 キヤノン株式会社 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法
JP6316010B2 (ja) * 2014-01-30 2018-04-25 キヤノン株式会社 画像処理装置、画像処理方法
JP6671101B2 (ja) 2015-02-05 2020-03-25 シナプティクス・ジャパン合同会社 画像処理回路、表示パネルドライバ、表示装置及び画像処理方法
KR102303666B1 (ko) * 2015-06-24 2021-09-23 삼성디스플레이 주식회사 영상 처리 방법, 영상 처리 방법을 수행하는 영상 처리 장치, 및 영상 처리 장치를 포함하는 표시 장치
DE102015224476A1 (de) * 2015-12-07 2017-06-08 Dialog Semiconductor (Uk) Limited Mehrfachpegel-Abwärts-Aufwärts-Wandler mit hoher Effizienz
CN109325909B (zh) * 2017-07-31 2023-03-31 深圳市中兴微电子技术有限公司 一种图像放大方法和图像放大装置
CN109510920B (zh) * 2017-09-14 2021-03-23 奇景光电股份有限公司 像素内插电路与像素内插方法
CN107993196B (zh) * 2017-12-12 2021-08-31 苏州大学 基于预测校验的图像插值方法及系统
US10546216B1 (en) * 2019-04-11 2020-01-28 Seetree Systems Ltd. Recurrent pattern image classification and registration
CN110246170A (zh) * 2019-06-03 2019-09-17 岳宇飞 一种获得浅景深图像的方法
CN112381714A (zh) * 2020-10-30 2021-02-19 南阳柯丽尔科技有限公司 图像处理的方法、装置、存储介质及设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0638024A (ja) * 1992-07-15 1994-02-10 Canon Inc 画像処理装置
TW377431B (en) * 1995-04-14 1999-12-21 Hitachi Ltd Method and apparatus for changing resolution
US5991463A (en) * 1995-11-08 1999-11-23 Genesis Microchip Inc. Source data interpolation method and apparatus
JPH11168622A (ja) * 1997-12-05 1999-06-22 Canon Inc 画像処理装置、画像処理方法および記憶媒体
US6510254B1 (en) * 1998-04-06 2003-01-21 Seiko Epson Corporation Apparatus and method for image data interpolation and medium on which image data interpolation program is recorded
US20050094899A1 (en) * 2003-10-29 2005-05-05 Changick Kim Adaptive image upscaling method and apparatus
US7508997B2 (en) * 2004-05-06 2009-03-24 Samsung Electronics Co., Ltd. Method and apparatus for video image interpolation with edge sharpening
GB0424737D0 (en) * 2004-11-09 2004-12-08 Isis Innovation Method,computer program and signal processing apparatus for determining statistical information of a signal
TWI320914B (en) * 2006-07-28 2010-02-21 Via Tech Inc Weight-adjusted apparatus and method thereof
JP4999392B2 (ja) 2006-07-28 2012-08-15 キヤノン株式会社 画像処理装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP5115361B2 (ja) * 2008-06-27 2013-01-09 富士通株式会社 画素補間装置、画素補間方法および画素補間プログラム

Also Published As

Publication number Publication date
US20110170803A1 (en) 2011-07-14
US8554019B2 (en) 2013-10-08
JP2011146888A (ja) 2011-07-28

Similar Documents

Publication Publication Date Title
JP5471474B2 (ja) 画像処理装置および画像処理方法
JP4216830B2 (ja) 映像処理装置及び方法並びにコンピュータが読出可能な記憶媒体
JP4621733B2 (ja) イメージを見てエンハンスする方法及びシステム
US8620109B2 (en) Image processing apparatus, image processing method and image processing program
JP4999392B2 (ja) 画像処理装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP2008167027A (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP2006053887A (ja) 解像度変換の補間方法、画像処理装置、画像表示装置、プログラムおよび記録媒体
JP2013058147A (ja) 画像処理装置及び方法、並びにプログラム
EP3101622B1 (en) An image acquisition system
JP2015165385A (ja) 画像処理方法および画像処理装置
JP2005135096A (ja) 画像処理方法および画像処理装置、並びにプログラム
US20210192688A1 (en) Signal processing device and signal processing method
JP2018026007A (ja) 画像処理装置、画像処理方法及びプログラム
US20180218477A1 (en) Data interpolation device, method therefor, and image processing apparatus
US8755639B2 (en) Image scaling method and apparatus with enhancement of image quality
JP4962573B2 (ja) 画像処理装置
JP2005038046A (ja) シェーディング補正装置、シェーディング補正方法、シェーディング補正プログラム、シェーディング補正装置に用いる補間演算装置、補間演算方法、補間演算プログラム、並びにその応用装置
JP6135937B2 (ja) 画像処理方法および画像処理装置
JP2014048714A (ja) 画像処理装置及び画像処理方法
JP5857531B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5134585B2 (ja) 変倍画像生成装置および変倍画像生成法
JP4265362B2 (ja) 画像処理装置
JP2013257665A (ja) 映像処理装置、映像処理装置の制御方法
JP5014514B2 (ja) 画像処理装置
JP2004289340A (ja) 画像拡大処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120928

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140120

R150 Certificate of patent or registration of utility model

Ref document number: 5471474

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees