WO2011108144A1 - 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置 - Google Patents

画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置 Download PDF

Info

Publication number
WO2011108144A1
WO2011108144A1 PCT/JP2010/069893 JP2010069893W WO2011108144A1 WO 2011108144 A1 WO2011108144 A1 WO 2011108144A1 JP 2010069893 W JP2010069893 W JP 2010069893W WO 2011108144 A1 WO2011108144 A1 WO 2011108144A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
wavelet transform
subband
component
transform unit
Prior art date
Application number
PCT/JP2010/069893
Other languages
English (en)
French (fr)
Inventor
張 小▲忙▼
上野 雅史
康寛 大木
Original Assignee
シャープ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シャープ株式会社 filed Critical シャープ株式会社
Priority to JP2012502960A priority Critical patent/JP5640071B2/ja
Priority to EP10847041A priority patent/EP2544144A1/en
Priority to US13/582,361 priority patent/US8897569B2/en
Priority to CN2010800651106A priority patent/CN102844786A/zh
Priority to RU2012141557/08A priority patent/RU2012141557A/ru
Publication of WO2011108144A1 publication Critical patent/WO2011108144A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/393Enlarging or reducing
    • H04N1/3935Enlarging or reducing with modification of image resolution, i.e. determining the values of picture elements at new relative positions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4084Transform-based scaling, e.g. FFT domain scaling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration by non-spatial domain filtering
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Abstract

 画像拡大装置は、入力画像を拡大して第1の拡大画像を生成する画像拡大フィルタ(1)と、前記第1の拡大画像をウェーブレット変換する第1のウェーブレット変換部(2)と、前記第1の拡大画像をウェーブレット変換する第2のウェーブレット変換部(3)と、第1のウェーブレット変換部の出力に基づいて生成される第1のエッジ信号(EDGE_CDF9/7)及び第2のウェーブレット変換部の出力に基づいて生成される第2のエッジ信号(EDGE_Harr)を用いた強調処理を行う強調処理部(6,7,8,10)とを備える。前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使う。

Description

画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置
 本発明は、画像を拡大する技術に関する。
 近年、フルHD(1920画素×1080画素)のテレビが一般的になってきており、また、4k2k(4096画素×2048画素程度)や8k4k(8192画素×4096画素程度)などの解像度がより高い表示パネルも開発されている。その一方で、SD(NTSCでは720画素×480画素、PALでは720画素×576画素)のコンテンツが大量に存在する。したがって、低解像度のコンテンツを高解像度の表示装置に表示させるための画像拡大技術が必要となっている。
 従来より種々の画像拡大方法が提案されているが、その中にはウェーブレット変換を用いた方法がある。
 ここで、ウェーブレット変換の概要について説明する。図17は、原画像とウェーブレット変換画像を模式的に示す図である。原画像IMGに対して離散ウェーブレット変換(DWT:Discrete Wavelet Transform)を施すと、サブバンド成分IMG_LL、IMG_HL、IMG_LH、及びIMG_HHによって構成されるウェーブレット変換画像が得られる。各サブバンド成分の画像サイズは原画像IMGの1/4である。
 原画像IMGに対して水平方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して垂直方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果が、サブバンド成分IMG_LLである。なお、サブバンド成分IMG_LLは、原画像IMGに対して垂直方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して水平方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果であってもよい。
 原画像IMGに対して水平方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して垂直方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果が、サブバンド成分IMG_HLである。したがって、サブバンド成分IMG_HLは、原画像IMGの水平方向における高周波成分を抽出した画像、すなわち垂直方向を向くエッジ情報を反映した画像を表している。なお、サブバンド成分IMG_HLは、原画像IMGに対して垂直方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して水平方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果であってもよい。
 原画像IMGに対して水平方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して垂直方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果が、サブバンド成分IMG_LHである。したがって、サブバンド成分IMG_LHは、原画像IMGの垂直方向における高周波成分を抽出した画像、すなわち水平方向を向くエッジ情報を反映した画像を表している。なお、サブバンド成分IMG_LHは、原画像IMGに対して垂直方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して水平方向にローパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果であってもよい。
 原画像IMGに対して水平方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して垂直方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果が、サブバンド成分IMG_HHである。したがって、サブバンド成分IMG_HHは、原画像IMGの水平方向における高周波成分と垂直方向における高周波成分を抽出した画像(原画像IMGの斜め方向における高周波成分を抽出した画像)、すなわち斜め方向を向くエッジ情報を反映した画像を表している。なお、サブバンド成分IMG_HHは、原画像IMGに対して垂直方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行い、その処理結果に対して水平方向にハイパスフィルタ処理及び1/2サイズとするためのサンプリング処理を行った結果であってもよい。
 サブバンド成分IMG_LL、IMG_HL、IMG_LH、及びIMG_HHによって構成されるウェーブレット変換画像に対して逆離散ウェーブレット変換(IDWT:Inverse Discrete Wavelet Transform)を施すと、原画像IMGが得られる。
 続いて、ウェーブレット変換を用いた画像拡大方法の概要について説明する。図18は、ウェーブレット変換を用いた画像拡大方法の概要を模式的に示す図である。
 拡大対象である入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做す。残りの三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHについては、情報がないため、全ての画素値が0であるサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)とする。そうすると、入力画像IMG_INを、サブバンド成分IMG_IN、IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)によって構成されるウェーブレット変換画像と見ることができる。
 このサブバンド成分IMG_IN、IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)によって構成されるウェーブレット変換画像に対して逆離散ウェーブレット変換を施すことで、入力画像IMG_INの4倍の画像数を有する拡大画像である出力画像IMG_OUTが得られる。しかしながら、サブバンド成分IMG_IN、IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)によって構成されるウェーブレット変換画像において高周波数成分の情報が欠けているため、拡大画像である出力画像IMG_OUTはボケ気味になる。
 逆に言うと、三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHについて適切な情報が得られれば、拡大画像がボケ気味になるという問題を解決することができる。また、サブバンド成分IMG_HLのゲイン調整を行ってから逆離散ウェーブレット変換を行うことで、垂直方向を向くエッジが強調された拡大画像を得ることができ、サブバンド成分IMG_LHのゲイン調整を行ってから逆離散ウェーブレット変換を行うことで、水平方向を向くエッジが強調された拡大画像を得ることができ、サブバンド成分IMG_HHのゲイン調整を行ってから逆離散ウェーブレット変換を行うことで、斜め方向を向くエッジが強調された拡大画像を得ることができる。
 三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHについての情報を得る方法が、特許文献1、特許文献2、非特許文献1~3などで提案されている。
 特許文献1で提案されている画像拡大方法について図19を参照して説明する。まず、拡大対象である入力画像IMG_INに対して離散ウェーブレット変換を施して、サブバンド成分LL2、HL2、LH2、及びHH2によって構成されるウェーブレット変換画像を得る。それから、サブバンド成分LL2、HL2、LH2、及びHH2の情報を用いて、三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHを予測する。なお、予測の際に用いる係数は学習で得たものである。そして、拡大対象である入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、予測した三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHと合わせたものをウェーブレット変換画像と見て、逆離散ウェーブレット変換を行って拡大画像である出力画像IMG_OUTを得ている。なお、特許文献3で提案されている画像拡大方法も、特許文献1で提案されている画像拡大方法と同様に、三つのサブバンド成分(高周波成分が含まれるサブバンド成分)IMG_HL、IMG_LH、及びIMG_HHを予測している。
 続いて、特許文献2で提案されている画像拡大方法について図20を参照して説明する。拡大対象画像をウェーブレット変換画像のサブバンド成分IMG_LLと看做す。それから、図20(a)に示すフィルタを用いて拡大対象画像の垂直方向におけるエッジ成分を抽出し、不足しているサブバンド成分IMG_HLと看做し、図20(b)に示すフィルタを用いて拡大対象画像の水平方向におけるエッジ成分を抽出し、不足しているサブバンド成分IMG_LHと看做し、図20(c)に示すフィルタを用いて拡大対象画像の斜め方向におけるエッジ成分を抽出し、不足しているサブバンド成分IMG_HHと看做し、上記四つのサブバンド成分を合わせたものをウェーブレット変換画像と見て、逆離散ウェーブレット変換を行って拡大画像を得ている。
 続いて、非特許文献2で提案されている画像拡大方法について説明する。Sparsity constraintを仮定して収束するまで繰り返して演算を行うことで、エッジを予測することによって、三つのサブバンド成分(高周波成分が含まれるサブバンド成分)を予測する方法が非特許文献1に記載されており、非特許文献2ではかかる方法を画像拡大に応用している。非特許文献3では、非特許文献1に記載されている方法を改良して収束回数を2にまで短縮して画像拡大を行っている。
 特許文献1で提案されている画像拡大方法では、学習させていない画像については、高周波成分が含まれるサブバンド成分を正しく予測できる保証が無い。また、特許文献1で提案されている画像拡大方法では、画像の拡大と同時に十分なエッジ強調をすることができない。このため、拡大画像がボケ気味でくっきりしない画像になるおそれがある。なお、特許文献3で提案されている画像拡大方法は、特許文献1で提案されている画像拡大方法と同様の問題を有しており、さらに、膨大な演算量を必要とするという問題も有している。
 特許文献2で提案されている画像拡大方法では、例示されているエッジ検出フィルタ(図20参照)から判断すると、高周波成分が含まれるサブバンド成分について適切な情報を得ることができない。例示されているエッジ検出フィルタはそのまま使ってエッジ強調を行う場合においてもオーバーシュートやジャギーが発生し、さらに、逆離散ウェーブレット変換が行われると、画像サイズが水平方向、垂直方向それぞれにおいて2倍に拡大するのでジャギーが広がる。したがって、特許文献2で提案されている画像拡大方法によって得られる拡大画像では、強調したエッジに不自然なジャギーが生じる。
 非特許文献2や非特許文献3で提案されている画像拡大方法は、sparsity constraint条件で閾値以下である弱いエッジは強調できないという問題を有している。また、非特許文献2や非特許文献3で提案されている画像拡大方法は、エッジ情報の予測において、収束するまで複数回に亘って繰り返し演算を行う必要があるので、演算量が大きく、遅延が生じるという問題も有している。
 上記のような問題点を解決することができる画像拡大装置が本発明者によって発明され、本出願人によって既に特許出願されている(特願2009-225995号)。特願2009-225995号で提案されている画像拡大装置の一例を図21に示す。
 図21に示す画像拡大装置は、Lanczos3フィルタ101と、離散ウェーブレット変換部102と、乗算器103~105と、逆離散ウェーブレット変換部106と、書き換え可能な不揮発性メモリを内蔵する制御部(不図示)とを備えている。
 制御部は、不揮発性メモリからLanczos3フィルタ101、離散ウェーブレット変換部102、及び逆離散ウェーブレット変換部106の定数設定を読み出して、Lanczos3フィルタ101、離散ウェーブレット変換部102、及び逆離散ウェーブレット変換部106に定数を設定する。
 Lanczos3フィルタ101は、入力画像IMG_INを水平方向、垂直方向それぞれにおいて拡大した拡大画像IMG_UPを生成する。
 離散ウェーブレット変換部102は、拡大画像IMG_UPを離散ウェーブレット変換して、サブバンド成分IMG_LL、IMG_HL、IMG_LH、及びIMG_HHを生成する。
 また、制御部は、不揮発性メモリから、垂直方向を向くエッジの強調強度に対応するゲイン値G_HL、水平方向を向くエッジの強調強度に対応するゲイン値G_LH、斜め方向を向くエッジの強調強度に対応するゲイン値G_HHを読み出して、ゲイン値G_HLを乗算器103に供給し、ゲイン値G_LHを乗算器104に供給し、ゲイン値G_HHを乗算器105に供給する。乗算器103は、サブバンド成分IMG_HLとゲイン値G_HLとを乗算したものを逆離散ウェーブレット変換部106に供給する。乗算器104は、サブバンド成分IMG_LHとゲイン値G_LHとを乗算したものを逆離散ウェーブレット変換部106に供給する。乗算器105は、サブバンド成分IMG_HHとゲイン値G_HHとを乗算したものを逆離散ウェーブレット変換部106に供給する。なお、サブバンド成分IMG_LLはそのまま逆離散ウェーブレット変換部106に供給される。
 逆離散ウェーブレット変換部106は、サブバンド成分IMG_LLをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、三つのゲイン処理後サブバンド成分IMG_HL・G_HL、IMG_LH・G_LH、及びIMG_HH・G_HHと合わせたものをウェーブレット変換画像と見て、逆離散ウェーブレット変換を行って拡大画像IMG_SYNTHを生成する。拡大画像IMG_SYNTHが図21に示す画像拡大装置の出力となる。
 Lanczos3フィルタ101による画像拡大処理において、弱い高周波成分(ある程度減衰した高周波成分)を持ち上げることができるが、その弱い高周波成分の強度を調整することはできない。それにもかかわらず、図21に示す画像拡大装置では、サブバンド成分IMG_HL、IMG_LH、及びIMG_HHに対してゲイン処理を行うことにより、エッジ強調強度を調整することを可能としているため、ジャギーが少なく、高画質な画像を得ることができる。
特開2000-215305号公報(段落0035、第5図) 特開2001-8027号公報(段落0041、第1図、第6図) 特開平7-152907号公報(要約)
G. Guleryuz, "Predicting wavelet coefficients over Edges using estimates based on nonlinear approximants," Proc. Data compression conference, IEEE DCC-04, 2004 C. S. Boon, O. G. Guleryuz, T. Kawahara, and Y. Suzuki, "Sparse super-resolution reconstructions of video from mobile devices in digital TV broadcast applications," Proc. SPIE conference on applications on of digital image processing XXIX, San Diego, 2006 S. Kanumuri, O. G. Guleryuz and M. R. Givanlar. "Fast super-resolution reconstructions of mobile video using warped transforms and adaptive thresholding," Proc. SPIE conference on applications of digital image processing XXX, 2007
 しかしながら、図21に示す画像拡大装置を始め、特願2009-225995号で提案されている画像拡大装置は、1種類のウェーブレット変換だけを使っているため、画像の輪郭(急峻エッジ、ストラクチャ)と画像の細部(緩やかなエッジ、テクスチャ)とを同時に画質良く強調することができないという問題を有している。
 例えば、CDF9/7ウェーブレット変換だけを使った場合、自然な画像の輪郭を検出できるが、画像の細部を検出することはできない。また、例えば、Haarウェーブレット変換だけを使った場合、画像の輪郭と画像の細部とを同時に検出できるが、検出した画像の輪郭はCDF9/7ウェーブレット変換だけを使った場合に比べてジャギーが目立つ。
 本発明は、上記の状況に鑑み、画像の輪郭と画像の細部とを同時に画質良く強調することができる画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置を提供することを目的とする。
 上記目的を達成するために本発明に係る画像拡大装置は、入力画像を拡大した第1の拡大画像を生成する画像拡大フィルタと、前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第1のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第2のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第3のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第4のサブバンド成分を生成する第1のウェーブレット変換部と、前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第5のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第6のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第7のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第8のサブバンド成分を生成する第2のウェーブレット変換部と、所定のサブバンド成分、並びに、前記第1のウェーブレット変換部から出力される前記第2のサブバンド成分、前記第3のサブバンド成分、及び前記第4のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第1のエッジ信号を生成する第1の逆ウェーブレット変換部と、所定のサブバンド成分、並びに、前記第2のウェーブレット変換部から出力される前記第6のサブバンド成分、前記第7のサブバンド成分、及び前記第8のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第2のエッジ信号を生成する第2の逆ウェーブレット変換部と、第2の拡大画像を生成する画像拡大部と、前記第1のエッジ信号及び前記第2のエッジ信号を用いて、前記第2の拡大画像に対して強調処理を行う強調処理部とを備え、前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使い、前記第1の逆ウェーブレット変換部と前記第2の逆ウェーブレット変換部とが互いに異なる逆ウェーブレット変換を使う構成(第1の構成)である。
 また、上記第1の構成の画像拡大装置において、前記第1のウェーブレット変換部がCDF9/7ウェーブレット変換を使い、前記第2のウェーブレット変換部がHaarウェーブレット変換を使い、前記第1の逆ウェーブレット変換部がCDF9/7逆ウェーブレット変換を使い、前記第2の逆ウェーブレット変換部がHaar逆ウェーブレット変換を使う構成(第2の構成)にしてもよい。
 また、上記第1または第2の構成の画像拡大装置において、前記画像拡大部が、前記入力画像及び3つの所定のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って前記第2の拡大画像を生成する第3の逆ウェーブレット変換部であるようにしてもよい(第3の構成)。
 また、上記第1または第2の構成の画像拡大装置において、前記画像拡大部が、前記第1のサブバンド成分及び3つの所定のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って前記第2の拡大画像を生成する第3の逆ウェーブレット変換部であるようにしてもよい(第4の構成)。
 また、上記第1または第2の構成の画像拡大装置において、前記画像拡大フィルタが前記画像拡大部を兼ねており、前記第1の拡大画像と前記第2の拡大画像とが同一であるようにしてもよい(第5の構成)。
 また、画像を輪郭と細部に分けて強調するときに細部に輪郭が残ることを抑制する観点から、上記第1~第5のいずれかの構成の画像拡大装置において、前記第1のエッジ信号は、画像の輪郭を表す信号であり、前記第2のエッジ信号は、画像の輪郭と画像の細部の両方を含む信号であり、前記強調処理部は、注目画素の周辺領域に前記第1のエッジ信号が所定の閾値より大きい画素があれば、前記注目画素の前記第2のエッジ信号に対するゲインを零にするようにしてもよい(第6の構成)。
 また、輪郭と細部それぞれに網目のようなノイズが現れることを抑制する観点から、上記第1~第6のいずれかの構成の画像拡大装置において、前記第1のエッジ信号に対してローパスフィルタ処理を施す第1のローパスフィルタを、前記第1の逆ウェーブレット変換部と前記強調処理部との間に設け、前記第2のエッジ信号に対してローパスフィルタ処理を施す第2のローパスフィルタを、前記第2の逆ウェーブレット変換部と前記強調処理部との間に設けるようにしてもよい(第7の構成)。
 上記目的を達成するために本発明に係る画像拡大プログラムは、コンピュータを、入力画像を拡大した第1の拡大画像を生成する画像拡大フィルタと、前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第1のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第2のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第3のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第4のサブバンド成分を生成する第1のウェーブレット変換部と、前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第5のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第6のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第7のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第8のサブバンド成分を生成する第2のウェーブレット変換部と、所定のサブバンド成分、並びに、前記第1のウェーブレット変換部から出力される前記第2のサブバンド成分、前記第3のサブバンド成分、及び前記第4のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第1のエッジ信号を生成する第1の逆ウェーブレット変換部と、所定のサブバンド成分、並びに、前記第2のウェーブレット変換部から出力される前記第6のサブバンド成分、前記第7のサブバンド成分、及び前記第8のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第2のエッジ信号を生成する第2の逆ウェーブレット変換部と、第2の拡大画像を生成する画像拡大部と、前記第1のエッジ信号及び前記第2のエッジ信号を用いて、前記第2の拡大画像に対して強調処理を行う強調処理部とを備え、前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使い、前記第1の逆ウェーブレット変換部と前記第2の逆ウェーブレット変換部とが互いに異なる逆ウェーブレット変換を使う画像拡大装置として機能させるようにしている。
 上記目的を達成するために本発明に係る記憶媒体は、上記画像拡大プログラムを記憶したコンピュータ読み取り可能な記憶媒体とする。
 上記目的を達成するために本発明に係る表示装置は、上記第1~第7のいずれかの構成の画像拡大装置を備えている。
 また、上記構成の表示装置において、前記画像拡大装置の前記入力画像が輝度画像であってもよい。或いは、上記構成の表示装置において、前記画像拡大装置を3つ備え、1つ目の前記画像拡大装置の入力画像が赤色成分画像であり、2つ目の前記画像拡大装置の入力画像が緑色成分画像であり、3つ目の前記画像拡大装置の入力画像が青色成分画像であるようにしてもよい。
 本発明によると、前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使うので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。
本発明の第1実施形態に係る画像拡大装置の構成を示す図である。 本発明の第1実施形態に係る画像拡大装置の動作を示すフローチャートである。 本発明の第1実施形態に係る画像拡大装置の各部の入出力データ例を示す図である。 本発明の第2実施形態に係る画像拡大装置の構成を示す図である。 本発明の第1実施形態、第2実施形態、第4実施形態、及び第5実施形態における各画像の画像サイズを模式的に示す図である。 本発明の第3実施形態に係る画像拡大装置の構成を示す図である。 本発明の第3実施形態及び第6実施形態における各画像の画像サイズを模式的に示す図である。 本発明の第4実施形態に係る画像拡大装置の構成を示す図である。 本発明の第4実施形態に係る画像拡大装置の動作を示すフローチャートである。 ローパスフィルタ処理前後のエッジ信号の例を示す図である。 本発明の第4実施形態に係る画像拡大装置の各部の入出力データ例を示す図である。 本発明の第5実施形態に係る画像拡大装置の構成を示す図である。 本発明の第6実施形態に係る画像拡大装置の構成を示す図である。 本発明に係る表示装置の一例である液晶テレビの概略構成を示す図である。 本発明の第1実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明の第2実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明の第3実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明の第4実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明の第5実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明の第6実施形態に係る画像拡大装置を用いたバックエンド部の構成例を示す図である。 本発明に係る画像拡大装置を用いたバックエンド部であって、当該画像拡大装置がRGB信号を処理するタイプのバックエンド部の構成例を示す図である。 コンピュータの概略構成を示す図である。 原画像とウェーブレット変換画像を模式的に示す図である。 ウェーブレット変換を用いた画像拡大方法の概要を模式的に示す図である。 特許文献1で提案されている画像拡大方法の概要を模式的に示す図である。 特許文献2で提案されている画像拡大方法で用いられるフィルタの例を示す図である。 特願2009-225995号で提案されている画像拡大装置の一例を示す図である。
 本発明の実施形態について図面を参照して以下に説明する。
<本発明の第1実施形態に係る画像拡大装置>
 本発明の第1実施形態に係る画像拡大装置の構成を図1に示す。本発明の第1実施形態に係る画像拡大装置は、Lanczos3フィルタ1と、CDF9/7ウェーブレット変換部2と、Haarウェーブレット変換部3と、CDF9/7逆ウェーブレット変換部4と、Haar逆ウェーブレット変換部5と、ゲイン制御部6と、乗算器7及び8と、CDF9/7逆ウェーブレット変換部9と、加算器10と、書き換え可能な不揮発性メモリを内蔵する制御部(不図示)とを備えている。
 本発明の第1実施形態に係る画像拡大装置の動作について図2に示すフローチャートを参照して説明する。
 まず、制御部が、不揮発性メモリからLanczos3フィルタ1、CDF9/7ウェーブレット変換部2、Haarウェーブレット変換部3、CDF9/7逆ウェーブレット変換部4、Haar逆ウェーブレット変換部5、及びCDF9/7逆ウェーブレット変換部9の定数設定を読み出して、Lanczos3フィルタ1、CDF9/7ウェーブレット変換部2、Haarウェーブレット変換部3、CDF9/7逆ウェーブレット変換部4、Haar逆ウェーブレット変換部5、及びCDF9/7逆ウェーブレット変換部9に定数を設定する(ステップS10)。本実施形態では、Lanczos3フィルタ1が画像を水平方向、垂直方向それぞれにおいて2倍に拡大する画像拡大フィルタとして機能するように、Lanczos3フィルタ1の定数が設定される。
 次に、Lanczos3フィルタ1が、入力画像IMG_INを水平方向、垂直方向それぞれにおいて2倍に拡大した拡大画像IMG_UPを生成する(ステップS20)。また、CDF9/7逆ウェーブレット変換部9が入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行って拡大画像IMG_SYNTHを生成する(ステップS20)。なお、サブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)はそれぞれ全ての画素値が0であるサブバンド成分である。
 次に、CDF9/7ウェーブレット変換部2が、拡大画像IMG_UPに対してCDF9/7ウェーブレット変換を行って、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHを生成する(ステップS30)。また、Haarウェーブレット変換部3が、拡大画像IMG_UPに対してHaarウェーブレット変換を行って、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHを生成する(ステップS30)。
 続くステップS40においてゲイン処理が行われる。以下、ゲイン処理について詳述する。
 CDF9/7逆ウェーブレット変換部4が、サブバンド成分IMG_LL(0)と、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_HL、IMG2_LH、及びIMG2_HHと合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行ってエッジ信号EDGE_CDF9/7を生成し、そのエッジ信号EDGE_CDF9/7を乗算器7とゲイン制御部6とに出力する。また、Haar逆ウェーブレット変換部5が、サブバンド成分IMG_LL(0)と、Haarウェーブレット変換部3から出力されるサブバンド成分IMG3_HL、IMG3_LH、及びIMG3_HHと合わせたものをウェーブレット変換画像と見て、Haar逆ウェーブレット変換を行ってエッジ信号EDGE_Haarを生成し、そのエッジ信号EDGE_Haarを乗算器8とゲイン制御部6とに出力する。なお、サブバンド成分IMG_LL(0)は全ての画素値が0であるサブバンド成分である。
 ゲイン制御部6は、エッジ信号EDGE_CDF9/7及びEDGE_Haarに基づいて、ゲインGAIN_CDF9/7及びGAIN_Haarの各値を決定する。
 本実施形態では、ゲイン制御部6は、エッジ信号EDGE_CDF9/7が第1の閾値Th1より大きいか否かを画素毎に判定し、エッジ信号EDGE_CDF9/7が第1の閾値Th1より大きい画素についてはゲイン値をc1(正の定数)とし、エッジ信号EDGE_CDF9/7が第1の閾値Th1以下である画素についてはゲイン値を0として、ゲインGAIN_CDF9/7を生成する。そして、ゲインGAIN_CDF9/7とエッジ信号EDGE_CDF9/7とが乗算器7で乗算されて補正信号REV_CDF9/7が生成される。
 CDF9/7ウェーブレット変換を使って得られたエッジ信号EDGE_CDF9/7は、画像の輪郭を滑らか(自然)に表しているので、上述したような処理により、補正信号REV_CDF9/7は、画像の輪郭部分を強調する補正信号となる。なお、第1の閾値Th1はコアリング閾値である。
 また、本実施形態では、ゲイン制御部6は、エッジ信号EDGE_CDF9/7が第2の閾値Th2より小さく且つエッジ信号EDGE_Haarが第3の閾値Th3より大きいか否かを画素毎に判定し、エッジ信号EDGE_CDF9/7が第2の閾値Th2より小さく且つエッジ信号EDGE_Haarが第3の閾値Th3より大きい画素についてはゲイン値をc2(正の定数)とし、エッジ信号EDGE_CDF9/7が第2の閾値Th2以上及び/又はエッジ信号EDGE_Haarが第3の閾値Th3以下である画素についてはゲイン値を0として、ゲインGAIN_Haarを生成する。そして、ゲインGAIN_Haarとエッジ信号EDGE_Haarとが乗算器8で乗算されて補正信号REV_Haarが生成される。なお、c2はc1と同じ値、異なる値のいずれであっても構わない。
 Haarウェーブレット変換を使って得られたエッジ信号EDGE_Haarは画像の輪郭と画像の細部の両方を含んでおり、尚かつ、エッジ信号EDGE_Haarに含まれている画像の輪郭にはジャギーがあるので、画像の輪郭部分(エッジ信号EDGE_CDF9/7が大きい画素の部分)を排除し、画像の細部部分のみを残すようにする。上述したような処理により、補正信号REV_Haarは、画像の細部部分のみを強調する補正信号となる。なお、第2の閾値Th2は画像の輪郭部分に該当するか否かを判別するための閾値であり、第3の閾値Th3はコアリング閾値である。
 ここで、第1の閾値Th1と第2の閾値Th2とを同一にした場合での、本発明の第1実施形態に係る画像拡大装置の各部の入出力データ例を図3に示す。上から順に、Lanczos3フィルタ1に入力される入力画像IMG_IN、Lanczos3フィルタ1から出力される拡大画像IMG_UP、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HH、Haarウェーブレット変換部3から出力されるサブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HH、CDF9/7逆ウェーブレット変換部4から出力されるエッジ信号EDGE_CDF9/7、Haar逆ウェーブレット変換部5から出力されるエッジ信号EDGE_Haar、ゲイン制御部6から出力されるゲインGAIN_CDF9/7及びGAIN_Haarを視覚化したものである。なお、図3の一番下に示しているゲイン制御部6から出力されるゲインGAIN_CDF9/7及びGAIN_Haarを視覚化したものにおいて、白色部分は“ゲインGAIN_CDF9/7=c1”の部分であり、黒色部分は“ゲインGAIN_Haar=c2”の部分であり、灰色部分は“ゲインGAIN_CDF9/7=0且つゲインGAIN_Haar=0”の部分である。
 図2に戻り、本発明の第1実施形態に係る画像拡大装置の動作についての説明を続ける。ステップS40に続くステップS50において、補正処理が行われる。加算器10は、ステップS20において生成された拡大画像IMG_SYNTHに、ステップS40で生成された補正信号REV_CDF9/7及びREV_Haarを加えて、出力画像IMG_OUTを生成する。出力画像IMG_OUTが本発明の第1実施形態に係る画像拡大装置の出力となる。
 本実施形態では、入力画像IMG_INがM画素×N画素(M、Nはそれぞれ自然数)であれば、拡大画像IMG_UP及びIMG_SYNTHは夫々2M画素×2N画素となり、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHは夫々M画素×N画素となり、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHは夫々M画素×N画素となる(図5参照)。すなわち、本発明の第1実施形態に係る画像拡大装置は、水平方向、垂直方向それぞれにおいて2倍の画像拡大を行っている。
 また、本実施形態では、ゲイン制御部6で用いられる正の定数c1及びc2は、制御部に内蔵されている不揮発性メモリに記憶されている。その正の定数c1及びc2を書き換えることによって、エッジ強調強度を自由に調整することができる。
 本発明の第1実施形態に係る画像拡大装置は、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。
<本発明の第2実施形態に係る画像拡大装置>
 本発明の第2実施形態に係る画像拡大装置の構成を図4に示す。なお、図4において図1と同一の部分には同一の符号を付す。本発明の第2実施形態に係る画像拡大装置は、本発明の第1実施形態に係る画像拡大装置と同様、Lanczos3フィルタ1と、CDF9/7ウェーブレット変換部2と、Haarウェーブレット変換部3と、CDF9/7逆ウェーブレット変換部4と、Haar逆ウェーブレット変換部5と、ゲイン制御部6と、乗算器7及び8と、CDF9/7逆ウェーブレット変換部9と、加算器10と、書き換え可能な不揮発性メモリを内蔵する制御部(不図示)とを備えている。
 本発明の第2実施形態に係る画像拡大装置が本発明の第1実施形態に係る画像拡大装置と異なる点は、CDF9/7逆ウェーブレット変換部9が、入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見るのではなく、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_LLをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行って拡大画像IMG_SYNTHを生成する点である。
 本発明の第2実施形態に係る画像拡大装置は、本発明の第1実施形態に係る画像拡大装置と同様、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。
<本発明の第3実施形態に係る画像拡大装置>
 本発明の第3実施形態に係る画像拡大装置の構成を図6に示す。なお、図6において図1と同一の部分には同一の符号を付す。本発明の第3実施形態に係る画像拡大装置は、本発明の第1実施形態に係る画像拡大装置からCDF9/7逆ウェーブレット変換部9を取り除き、加算器10が、Lanczos3フィルタ1から出力される拡大画像IMG_UPに、乗算器7及び8から出力される補正信号REV_CDF9/7及びREV_Haarを加えて、出力画像IMG_OUTを生成するようにした構成である。
 本発明の第3実施形態に係る画像拡大装置は、本発明の第1実施形態に係る画像拡大装置及び本発明の第2実施形態に係る画像拡大装置と同様、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。
 また、本発明の第3実施形態に係る画像拡大装置では、Lanczos3フィルタ1での拡大が水平方向、垂直方向それぞれにおいて2倍に限定されない。
 本実施形態では、入力画像IMG_INはM画素×N画素(M、Nはそれぞれ自然数)であり、拡大画像IMG_UP及び出力画像IMG_OUTは夫々2K画素×2L画素(KはM/2より大きい自然数、LはN/2より大きい自然数)であり、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHは夫々K画素×L画素であり、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHは夫々K画素×L画素となる(図7参照)。すなわち、本発明の第3実施形態に係る画像拡大装置は、出力画像IMG_OUTの水平方向の画素数と垂直方向の画素数がそれぞれ2の倍数であれば、拡大処理可能である。
 第1実施形態及び第2実施形態では、上述した通り、水平方向、垂直方向それぞれにおいて2倍の画像拡大しか行えない。ところが、所望の拡大画像は、水平方向、垂直方向それぞれにおいて原画像である入力画像の2倍になるとは限らない。したがって、所望の拡大画像が水平方向、垂直方向それぞれにおいて原画像である入力画像の2倍とはならない場合、本発明の第1実施形態に係る画像拡大装置や本発明の第2実施形態に係る画像拡大装置の前段や後段に、従来の拡大・縮小処理装置を設けることで所望の拡大画像を得ることができるが、従来の拡大・縮小処理装置を設ける分コストが高くなってしまう。
 代表的な表示テレビ信号や表示パネルの画像サイズは表1に示すように全て水平方向、垂直方向ともに2の倍数であるので、本発明の第3実施形態に係る画像拡大装置は、前段や後段に従来の拡大・縮小処理装置を設けなくても、代表的な表示テレビ信号や表示パネルの画像サイズに対応することができる。
Figure JPOXMLDOC01-appb-T000001
<本発明の第1~3実施形態に係る画像拡大装置の課題>
 本発明の第1~3実施形態に係る画像拡大装置は、画像の輪郭と画像の細部とを同時に画質良く強調することができるものの、画像を輪郭と細部に分けて強調するときに細部に輪郭が残るという課題(以下、「第1の課題」という)を有しており、また、輪郭と細部それぞれに網目のようなノイズが現れるという課題(以下、「第2の課題」という)を有している。
<本発明の第4実施形態に係る画像拡大装置>
 本発明の第4実施形態に係る画像拡大装置は、画像の輪郭と画像の細部とを同時に画質良く強調することができ、さらに、上記第1の課題及び上記第2の課題も解決することができる画像拡大装置である。
 本発明の第4実施形態に係る画像拡大装置の構成を図8に示す。なお、図8において図1と同一の部分には同一の符号を付す。本発明の第4実施形態に係る画像拡大装置は、Lanczos3フィルタ1と、CDF9/7ウェーブレット変換部2と、Haarウェーブレット変換部3と、CDF9/7逆ウェーブレット変換部4と、Haar逆ウェーブレット変換部5と、ゲイン制御部6と、乗算器7及び8と、CDF9/7逆ウェーブレット変換部9と、加算器10と、書き換え可能な不揮発性メモリを内蔵する制御部(不図示)と、LPF(Low Pass Filter)201及び202とを備えている。LPF201及び202の実施例としては、例えば、下記(1)式のガウシアン関数を用いて低周波数成分を抽出するLPFが挙げられる。
Figure JPOXMLDOC01-appb-M000002
 本発明の第4実施形態に係る画像拡大装置の動作について図9に示すフローチャートを参照して説明する。なお、図9において図2と同一のステップには同一の符号を付す。
 まず、制御部が、不揮発性メモリからLanczos3フィルタ1、CDF9/7ウェーブレット変換部2、Haarウェーブレット変換部3、CDF9/7逆ウェーブレット変換部4、Haar逆ウェーブレット変換部5、及びCDF9/7逆ウェーブレット変換部9の定数設定を読み出して、Lanczos3フィルタ1、CDF9/7ウェーブレット変換部2、Haarウェーブレット変換部3、CDF9/7逆ウェーブレット変換部4、Haar逆ウェーブレット変換部5、及びCDF9/7逆ウェーブレット変換部9に定数を設定する(ステップS10)。本実施形態では、Lanczos3フィルタ1が画像を水平方向、垂直方向それぞれにおいて2倍に拡大する画像拡大フィルタとして機能するように、Lanczos3フィルタ1の定数が設定される。
 次に、Lanczos3フィルタ1が、入力画像IMG_INを水平方向、垂直方向それぞれにおいて2倍に拡大した拡大画像IMG_UPを生成する(ステップS20)。また、CDF9/7逆ウェーブレット変換部9が入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行って拡大画像IMG_SYNTHを生成する(ステップS20)。なお、サブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)はそれぞれ全ての画素値が0であるサブバンド成分である。
 次に、CDF9/7ウェーブレット変換部2が、拡大画像IMG_UPに対してCDF9/7ウェーブレット変換を行って、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHを生成する(ステップS30)。また、Haarウェーブレット変換部3が、拡大画像IMG_UPに対してHaarウェーブレット変換を行って、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHを生成する(ステップS30)。
 続くステップS45においてローパスフィルタ処理及びゲイン処理が行われる。以下、ローパスフィルタ処理及びゲイン処理について詳述する。
 CDF9/7逆ウェーブレット変換部4が、サブバンド成分IMG_LL(0)と、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_HL、IMG2_LH、及びIMG2_HHと合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行ってエッジ信号を生成する。LPF201は、CDF9/7逆ウェーブレット変換部4において生成されたエッジ信号に対してローパスフィルタ処理を施し、その後、エッジ信号(ローパスフィルタ処理後のエッジ信号)EDGE_CDF9/7を乗算器7とゲイン制御部6とに出力する。また、Haar逆ウェーブレット変換部5が、サブバンド成分IMG_LL(0)と、Haarウェーブレット変換部3から出力されるサブバンド成分IMG3_HL、IMG3_LH、及びIMG3_HHと合わせたものをウェーブレット変換画像と見て、Haar逆ウェーブレット変換を行ってエッジ信号を生成する。LPF202は、Haar逆ウェーブレット変換部5において生成されたエッジ信号に対してローパスフィルタ処理を施し、その後、エッジ信号(ローパスフィルタ処理後のエッジ信号)EDGE_Haarを乗算器8とゲイン制御部6とに出力する。なお、サブバンド成分IMG_LL(0)は全ての画素値が0であるサブバンド成分である。
 上述したような処理により、CDF9/7逆ウェーブレット変換部4において生成されたエッジ信号がローパスフィルタ処理されるので、画像の輪郭部分に網目のようなノイズが現れることを抑制でき、Haar逆ウェーブレット変換部5において生成されたエッジ信号がローパスフィルタ処理されるので、画像の細部部分に網目のようなノイズが現れることを抑制できる。このことは、図10(a)と図10(b)との比較から明らかである。図10(a)は、Haar逆ウェーブレット変換部5から出力される信号を視覚化したものの一例を示しており、図10(b)は、LPF202から出力されるエッジ信号EDGE_Haarを視覚化したものの一例を示している。
 ゲイン制御部6は、m(自然数)行目n(自然数)列目の注目画素G(m,n)のエッジ信号EDGE_CDF9/7及びEDGE_Haarの各値に基づいて、注目画素G(m,n)のゲインGAIN_CDF9/7及びGAIN_Haarの各値を決定する。
 本実施形態では、ゲイン制御部6は、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第1の閾値Th1より大きいか否かを判定し、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第1の閾値Th1より大きければ、注目画素G(m,n)のゲインGAIN_CDF9/7の値をc1(正の定数)とし、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第1の閾値Th1以下であれば、注目画素G(m,n)のゲインGAIN_CDF9/7の値を0とする。そして、ゲインGAIN_CDF9/7とエッジ信号EDGE_CDF9/7とが乗算器7で乗算されて補正信号REV_CDF9/7が生成される。
 CDF9/7ウェーブレット変換を使って得られたエッジ信号EDGE_CDF9/7は、画像の輪郭を滑らか(自然)に表しているので、上述したような処理により、補正信号REV_CDF9/7は、画像の輪郭部分を強調する補正信号となる。なお、第1の閾値Th1はコアリング閾値である。
 また、本実施形態では、ゲイン制御部6は、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第2の閾値Th2より小さく且つ注目画素G(m,n)のエッジ信号EDGE_Haarの値が第3の閾値Th3より大きいか否かを判定し、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第2の閾値Th2より小さく且つ注目画素G(m,n)のエッジ信号EDGE_Haarの値が第3の閾値Th3より大きければ、注目画素G(m,n)のゲインGAIN_Haarの値をc2(正の定数)とし、注目画素G(m,n)のエッジ信号EDGE_CDF9/7の値が第2の閾値Th2以上及び/又は注目画素G(m,n)のエッジ信号EDGE_Haarの値が第3の閾値Th3以下であれば、注目画素G(m,n)のゲインGAIN_Haarの値を0とする。ただし、このような注目画素G(m,n)のゲインGAIN_Haarの値の設定にかかわらず、注目画素G(m,n)の周辺領域(m-Δm(自然数)行目~m+Δm行目であり、n-Δn(自然数)行目~n+Δn列目の領域)に、エッジ信号EDGE_CDF9/7が第4の閾値Th4より大きい画素があれば、注目画素G(m,n)のゲインGAIN_Haarの値を強制的に0にする。そして、ゲインGAIN_Haarとエッジ信号EDGE_Haarとが乗算器8で乗算されて補正信号REV_Haarが生成される。なお、c2はc1と同じ値、異なる値のいずれであっても構わない。
 Haarウェーブレット変換を使って得られたエッジ信号EDGE_Haarは画像の輪郭と画像の細部の両方を含んでおり、尚かつ、エッジ信号EDGE_Haarに含まれている画像の輪郭にはジャギーがあるので、画像の輪郭部分(エッジ信号EDGE_CDF9/7が大きい画素の部分)を排除し、画像の細部部分のみを残すようにする。上述したような処理により、補正信号REV_Haarは、画像の細部部分のみを強調する補正信号となる。なお、第2の閾値Th2は画像の輪郭部分に該当するか否かを判別するための閾値であり、第3の閾値Th3はコアリング閾値である。
 さらに、注目画素G(m,n)の周辺領域(m-Δm行目~m+Δm行目であり、n-Δn行目~n+Δn列目の領域)に、エッジ信号EDGE_CDF9/7が第4の閾値Th4より大きい画素があれば、注目画素G(m,n)のゲインGAIN_Haarの値を強制的に0にしているので、画像を輪郭と細部に分けて強調するときに細部に輪郭が残ることを抑制できる。
 ここで、第1の閾値Th1と第2の閾値Th2とを同一にした場合での、本発明の第4実施形態に係る画像拡大装置の各部の入出力データ例を図11に示す。上から順に、Lanczos3フィルタ1に入力される入力画像IMG_IN、Lanczos3フィルタ1から出力される拡大画像IMG_UP、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HH、Haarウェーブレット変換部3から出力されるサブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HH、LPF201から出力されるエッジ信号EDGE_CDF9/7、LPF202から出力されるエッジ信号EDGE_Haar、図1に示す本発明の第1実施形態に係る画像拡大装置の乗算器8から出力される補正信号REV_Haar(比較例)、乗算器8から出力される補正信号REV_Haarを視覚化したものである。
 図1に示す本発明の第1実施形態に係る画像拡大装置の乗算器8から出力される補正信号REV_Haar(比較例)を視覚化したものと、本実施形態での乗算器8から出力される補正信号REV_Haarを視覚化したものとの比較から、本実施形態では、画像を輪郭と細部に分けて強調するときに細部(補正信号REV_Haar)に輪郭(図11の例では「CLEAN ENERGY is the SUN」という文字の痕)が残ることを抑制できていることがわかる。
 図9に戻り、本発明の第4実施形態に係る画像拡大装置の動作についての説明を続ける。ステップS45に続くステップS50において、補正処理が行われる。加算器10は、ステップS20において生成された拡大画像IMG_SYNTHに、ステップS45で生成された補正信号REV_CDF9/7及びREV_Haarを加えて、出力画像IMG_OUTを生成する。出力画像IMG_OUTが本発明の第4実施形態に係る画像拡大装置の出力となる。
 本実施形態では、入力画像IMG_INがM画素×N画素(M、Nはそれぞれ自然数)であれば、拡大画像IMG_UP及びIMG_SYNTHは夫々2M画素×2N画素となり、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHは夫々M画素×N画素となり、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHは夫々M画素×N画素となる(図5参照)。すなわち、本発明の第4実施形態に係る画像拡大装置は、水平方向、垂直方向それぞれにおいて2倍の画像拡大を行っている。
 また、本実施形態では、ゲイン制御部6で用いられる正の定数c1及びc2は、制御部に内蔵されている不揮発性メモリに記憶されている。その正の定数c1及びc2を書き換えることによって、エッジ強調強度を自由に調整することができる。
 本発明の第4実施形態に係る画像拡大装置は、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。また、本発明の第4実施形態に係る画像拡大装置は、CDF9/7逆ウェーブレット変換部4において生成されたエッジ信号がローパスフィルタ処理されるので、画像の輪郭部分に網目のようなノイズが現れることを抑制でき、Haar逆ウェーブレット変換部5において生成されたエッジ信号がローパスフィルタ処理されるので、画像の細部部分に網目のようなノイズが現れることを抑制できる。また、本発明の第4実施形態に係る画像拡大装置は、注目画素G(m,n)の周辺領域(m-Δm行目~m+Δm行目であり、n-Δn行目~n+Δn列目の領域)に、エッジ信号EDGE_CDF9/7が第4の閾値Th4より大きい画素があれば、注目画素G(m,n)のゲインGAIN_Haarの値を強制的に0にしているので、画像を輪郭と細部に分けて強調するときに細部に輪郭が残ることを抑制できる。
<本発明の第5実施形態に係る画像拡大装置>
 本発明の第5実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置と同様、画像の輪郭と画像の細部とを同時に画質良く強調することができ、さらに、上記第1の課題及び上記第2の課題も解決することができる画像拡大装置である。
 本発明の第5実施形態に係る画像拡大装置の構成を図12に示す。なお、図12において図8と同一の部分には同一の符号を付す。本発明の第5実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置と同様、Lanczos3フィルタ1と、CDF9/7ウェーブレット変換部2と、Haarウェーブレット変換部3と、CDF9/7逆ウェーブレット変換部4と、Haar逆ウェーブレット変換部5と、ゲイン制御部6と、乗算器7及び8と、CDF9/7逆ウェーブレット変換部9と、加算器10と、書き換え可能な不揮発性メモリを内蔵する制御部(不図示)と、LPF201及び202とを備えている。
 本発明の第5実施形態に係る画像拡大装置が本発明の第4実施形態に係る画像拡大装置と異なる点は、CDF9/7逆ウェーブレット変換部9が、入力画像IMG_INをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見るのではなく、CDF9/7ウェーブレット変換部2から出力されるサブバンド成分IMG2_LLをウェーブレット変換画像のサブバンド成分IMG_LLと看做し、残りの三つのサブバンド成分IMG_HL(0)、IMG_LH(0)、及びIMG_HH(0)と合わせたものをウェーブレット変換画像と見て、CDF9/7逆ウェーブレット変換を行って拡大画像IMG_SYNTHを生成する点である。
 本発明の第5実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置と同様、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。また、本発明の第5実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置と同様、CDF9/7逆ウェーブレット変換部4において生成されたエッジ信号がローパスフィルタ処理されるので、画像の輪郭部分に網目のようなノイズが現れることを抑制でき、Haar逆ウェーブレット変換部5において生成されたエッジ信号がローパスフィルタ処理されるので、画像の細部部分に網目のようなノイズが現れることを抑制できる。また、本発明の第5実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置と同様、注目画素G(m,n)の周辺領域(m-Δm行目~m+Δm行目であり、n-Δn行目~n+Δn列目の領域)に、エッジ信号EDGE_CDF9/7が第4の閾値Th4より大きい画素があれば、注目画素G(m,n)のゲインGAIN_Haarの値を強制的に0にしているので、画像を輪郭と細部に分けて強調するときに細部に輪郭が残ることを抑制できる。
<本発明の第6実施形態に係る画像拡大装置>
 本発明の第6実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置及び本発明の第5実施形態に係る画像拡大装置と同様、画像の輪郭と画像の細部とを同時に画質良く強調することができ、さらに、上記第1の課題及び上記第2の課題も解決することができる画像拡大装置である。
 本発明の第6実施形態に係る画像拡大装置の構成を図13に示す。なお、図13において図8と同一の部分には同一の符号を付す。本発明の第6実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置からCDF9/7逆ウェーブレット変換部9を取り除き、加算器10が、Lanczos3フィルタ1から出力される拡大画像IMG_UPに、乗算器7及び8から出力される補正信号REV_CDF9/7及びREV_Haarを加えて、出力画像IMG_OUTを生成するようにした構成である。
 本発明の第6実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置及び本発明の第5実施形態に係る画像拡大装置と同様、画像の輪郭部分と画像の細部部分とを夫々異なる強度で夫々独立して強調することができるので、画像の輪郭と画像の細部とを同時に画質良く強調することができる。また、本発明の第6実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置及び本発明の第5実施形態に係る画像拡大装置と同様、CDF9/7逆ウェーブレット変換部4において生成されたエッジ信号がローパスフィルタ処理されるので、画像の輪郭部分に網目のようなノイズが現れることを抑制でき、Haar逆ウェーブレット変換部5において生成されたエッジ信号がローパスフィルタ処理されるので、画像の細部部分に網目のようなノイズが現れることを抑制できる。また、本発明の第6実施形態に係る画像拡大装置は、本発明の第4実施形態に係る画像拡大装置及び本発明の第5実施形態に係る画像拡大装置と同様、注目画素G(m,n)の周辺領域(m-Δm行目~m+Δm行目であり、n-Δn行目~n+Δn列目の領域)に、エッジ信号EDGE_CDF9/7が第4の閾値Th4より大きい画素があれば、注目画素G(m,n)のゲインGAIN_Haarの値を強制的に0にしているので、画像を輪郭と細部に分けて強調するときに細部に輪郭が残ることを抑制できる。
 また、本発明の第6実施形態に係る画像拡大装置では、Lanczos3フィルタ1での拡大が水平方向、垂直方向それぞれにおいて2倍に限定されない。
 本実施形態では、入力画像IMG_INはM画素×N画素(M、Nはそれぞれ自然数)であり、拡大画像IMG_UP及び出力画像IMG_OUTは夫々2K画素×2L画素(KはM/2より大きい自然数、LはN/2より大きい自然数)であり、サブバンド成分IMG2_LL、IMG2_HL、IMG2_LH、及びIMG2_HHは夫々K画素×L画素であり、サブバンド成分IMG3_LL、IMG3_HL、IMG3_LH、及びIMG3_HHは夫々K画素×L画素となる(図7参照)。すなわち、本発明の第6実施形態に係る画像拡大装置は、出力画像IMG_OUTの水平方向の画素数と垂直方向の画素数がそれぞれ2の倍数であれば、拡大処理可能である。
 第4実施形態及び第5実施形態では、上述した通り、水平方向、垂直方向それぞれにおいて2倍の画像拡大しか行えない。ところが、所望の拡大画像は、水平方向、垂直方向それぞれにおいて原画像である入力画像の2倍になるとは限らない。したがって、所望の拡大画像が水平方向、垂直方向それぞれにおいて原画像である入力画像の2倍とはならない場合、本発明の第4実施形態に係る画像拡大装置や本発明の第5実施形態に係る画像拡大装置の前段や後段に、従来の拡大・縮小処理装置を設けることで所望の拡大画像を得ることができるが、従来の拡大・縮小処理装置を設ける分コストが高くなってしまう。
 代表的な表示テレビ信号や表示パネルの画像サイズは上記の表1に示すように全て水平方向、垂直方向ともに2の倍数であるので、本発明の第6実施形態に係る画像拡大装置は、前段や後段に従来の拡大・縮小処理装置を設けなくても、代表的な表示テレビ信号や表示パネルの画像サイズに対応することができる。
<本発明に係る表示装置>
 本発明に係る表示装置の一例である液晶テレビの概略構成を図14に示す。図14に示す液晶テレビは、チューナ11と、フロントエンド部12と、バックエンド部13と、タイミングコントローラ14と、液晶表示パネル15とを備えている。
 チューナ11は、アンテナ16から送られてくる高周波信号に含まれる受信チャンネルの放送波信号を特定周波数の信号に変換し、フロントエンド部12に出力する。
 フロントエンド部12は、チューナ11の出力信号、又は、外部入力信号(ビデオ、DVD等からのYC信号)を処理する。フロントエンド部12は、処理する信号がコンポジット信号である場合にはYC分離処理を行う。また、フロントエンド部12は、処理する信号が圧縮信号である場合にはデコード処理を行う。また、フロントエンド部12は、処理する信号がインターレース方式の信号である場合にはIP変換処理を行い、インターレース方式の信号をプログレッシブ方式の信号に変換する。
 バックエンド部13は、YC信号をRGB信号に変換するRGB変換処理部(図14において不図示)を有している。また、バックエンド部13は、スケーラ処理及びエッジ強調処理を行うスケーラ・エッジ強調処理部(図14において不図示)を有している。バックエンド部13は、フロントエンド部12の出力信号、又は、外部入力信号(パーソナルコンピュータ等からのRGB信号)を処理して、スケーラ処理及びエッジ強調処理が施されたRGB信号をタイミングコントローラ14に出力する。
 タイミングコントローラ14は、バックエンド部13の出力信号に対して、フレームレート変換(例えば倍速処理)、ガンマ補正、映像信号の変化を予測して変化する前から駆動信号を強める補正などの処理を行い、それらの処理を行うことによって得られた駆動信号によって液晶表示パネル15を駆動する。
 本発明に係る表示装置の一例である図14に示す液晶テレビでは、バックエンド部13のスケーラ・エッジ強調処理部内に本発明に係る画像拡大装置を設けている。
 ここで、本発明の第1実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例を図15Aに示す。なお、図15Aにおいて図1と同一の部分には同一の符号を付す。
 図15Aに示すバックエンド部13では、本発明の第1実施形態に係る画像拡大装置とLanczos3フィルタ17及び18とによって構成されるスケーラ・エッジ強調処理部の後段に、YC信号をRGB信号に変換するRGB変換処理部19が設けられている。なお、図15Aに示すバックエンド部13は、RGB信号をYC信号に変換するYC変換処理部(不図示)も備えており、外部入力信号(パーソナルコンピュータ等からのRGB信号)を処理する場合には、最初に当該YC変換処理部によって外部入力信号をYC信号に変換する。
 図15Aに示すバックエンド部13では、本発明の第1実施形態に係る画像拡大装置は輝度画像IMG_IN_Yを入力画像として取り扱う。色差画像IMG_IN_Cbは、Lanczos3フィルタ17によってスケーラ処理され、水平方向、垂直方向それぞれに2倍に拡大された拡大色差画像IMG_UP_Cbに変換され、RGB変換処理部19に供給される。色差画像IMG_IN_Crは、Lanczos3フィルタ18によってスケーラ処理され、水平方向、垂直方向それぞれに2倍に拡大された拡大色差画像IMG_UP_Crに変換され、RGB変換処理部19に供給される。
 なお、当然の事ながら、本発明の第1実施形態に係る画像拡大装置の代わりに、本発明の第1実施形態に係る画像拡大装置以外の本発明に係る画像拡大装置(例えば、本発明の第2実施形態に係る画像拡大装置、本発明の第3実施形態に係る画像拡大装置、本発明の第4実施形態に係る画像拡大装置、本発明の第5実施形態に係る画像拡大装置、或いは、本発明の第6実施形態に係る画像拡大装置など)を設けてもよい。本発明の第2実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例は図15Bに示すようになり、本発明の第3実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例は図15Cに示すようになり、本発明の第4実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例は図15Dに示すようになり、本発明の第5実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例は図15Eに示すようになり、本発明の第6実施形態に係る画像拡大装置を設けた場合のバックエンド部13の構成例は図15Fに示すようになる。
 また、図15A~図15Fに示す構成とは異なり、バックエンド部13において、RGB変換処理部の後段にスケーラ・エッジ強調処理部を設けて図15Gに示すような構成にすることも可能である。図15Gに示すバックエンド部13では、YC信号をRGB信号に変換するRGB変換処理部19の後段に、セレクタ20と、本発明に係る画像拡大装置21~23とが設けられている。図15Gに示すバックエンド部13では、本発明に係る画像拡大装置がRGBそれぞれで必要となるので、本発明に係る画像拡大装置が3つ必要となっている。RGB変換処理部19は、フロントエンド部12(図14参照)の出力信号(輝度画像IMG_IN_Y、色差画像IMG_IN_Cb、及び色差信号IMG_IN_Cr)をRGB信号に変換してセレクタ20に供給する。セレクタ20は、RGB変換処理部19からのRGB出力、外部入力信号(パーソナルコンピュータ等からのRGB信号)のいずれか一方を選択する。セレクタ20によって選択された信号に含まれている赤色成分画像IMG_SEL_Rは、本発明に係る画像拡大装置21によってスケーラ処理及びエッジ強調処理されて拡大赤色成分画像IMG_OUT_Rとなる。セレクタ20によって選択された信号に含まれている緑色成分画像IMG_SEL_Gは、本発明に係る画像拡大装置22によってスケーラ処理及びエッジ強調処理されて拡大緑色成分画像IMG_OUT_Gとなる。セレクタ20によって選択された信号に含まれている青色成分画像IMG_SEL_Bは、本発明に係る画像拡大装置22によってスケーラ処理及びエッジ強調処理されて拡大青色成分画像IMG_OUT_Bとなる。すなわち、本発明に係る画像拡大装置21は赤色成分画像IMG_SEL_Rを入力画像として取り扱っており、本発明に係る画像拡大装置22は緑色成分画像IMG_SEL_Gを入力画像として取り扱っており、本発明に係る画像拡大装置23は青色成分画像IMG_SEL_Bを入力画像として取り扱っている。本発明に係る画像拡大装置21~23それぞれには、例えば本発明の第1実施形態に係る画像拡大装置を用いることができるが、当然の事ながら、本発明の第1実施形態に係る画像拡大装置以外の本発明に係る画像拡大装置(例えば、本発明の第2実施形態に係る画像拡大装置、本発明の第3実施形態に係る画像拡大装置、本発明の第4実施形態に係る画像拡大装置、本発明の第5実施形態に係る画像拡大装置、或いは、本発明の第6実施形態に係る画像拡大装置など)を用いてもよい。
<変形例>
 以上、本発明に係る実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。
 上述した実施形態では、画像拡大フィルタにLanczos3フィルタを用いたが、画像拡大機能を有する別のフィルタ(例えば、bi-cubic方法を用いるフィルタ、窓付きsinc関数を用いるフィルタ、HaamingやKaiser窓を用いるフィルタなど)に置き換えてもよい。
 上述した第4実施形態、第5実施形態、及び第6実施形態では、上記第1の課題と上記第2の課題の両方を解決することができる構成であったが、上記第1の課題と上記第2の課題のうち上記第1の課題のみを解決することができる構成であってもよく、上記第1の課題と上記第2の課題のうち上記第2の課題のみを解決することができる構成であってもよい。上記第1の課題と上記第2の課題のうち上記第1の課題のみを解決することができる構成の例としては、上述した第1実施形態、第2実施形態、及び第3実施形態において、ゲインGAIN_Haarの値の設定を上述した第4実施形態、第5実施形態、及び第6実施形態と同様にする変更を実施した構成が挙げられる。また、上記第1の課題と上記第2の課題のうち上記第2の課題のみを解決することができる構成の例としては、上述した第4実施形態、第5実施形態、及び第6実施形態において、ゲインGAIN_Haarの値の設定を上述した第1実施形態、第2実施形態、及び第3実施形態と同様にする変更を実施した構成が挙げられる。
 また、本発明に係る画像拡大装置は、専用のハードウェア装置に限定されるものではなく、例えば、図16に示すように、パーソナルコンピュータ等のコンピュータ30のCPU31が、メモリ32に格納された画像拡大プログラムを実行することにより実現されるものであってもよい。CPU31は、インターフェース33を介して外部から取得した画像またはHDD34に記憶されている画像を拡大して得られる拡大画像を、インターフェース33を介して外部に出力したり、HDD34に保存したり、表示部35に表示させたりすることができる。なお、本発明に係る画像拡大プログラムはコンピュータ読み取り可能な記憶媒体に記憶することもできる。
 本発明の画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置は、例えば、低解像度のコンテンツを高解像度の表示装置に表示させる際に利用される。
   1、17、18、101 Lanczos3フィルタ
   2 CDF9/7ウェーブレット変換部
   3 Haarウェーブレット変換部
   4、9 CDF9/7逆ウェーブレット変換部
   5 Haarウェーブレット変換部
   6 ゲイン制御部
   7、8 乗算器
   10 加算器
   11 チューナ
   12 フロントエンド部
   13 バックエンド部
   14 タイミングコントローラ
   15 液晶表示パネル
   16 アンテナ
   19 RGB変換処理部
   20 セレクタ
   21~23 本発明に係る画像拡大装置
   30 コンピュータ
   31 CPU
   32 メモリ
   33 インターフェース
   34 HDD
   35 表示部
   102 離散ウェーブレット変換部
   103~105 乗算器
   106 逆離散ウェーブレット変換部
   201、202 LPF

Claims (12)

  1.  入力画像を拡大した第1の拡大画像を生成する画像拡大フィルタと、
     前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第1のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第2のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第3のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第4のサブバンド成分を生成する第1のウェーブレット変換部と、
     前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第5のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第6のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第7のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第8のサブバンド成分を生成する第2のウェーブレット変換部と、
     所定のサブバンド成分、並びに、前記第1のウェーブレット変換部から出力される前記第2のサブバンド成分、前記第3のサブバンド成分、及び前記第4のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第1のエッジ信号を生成する第1の逆ウェーブレット変換部と、
     所定のサブバンド成分、並びに、前記第2のウェーブレット変換部から出力される前記第6のサブバンド成分、前記第7のサブバンド成分、及び前記第8のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第2のエッジ信号を生成する第2の逆ウェーブレット変換部と、
     第2の拡大画像を生成する画像拡大部と、
     前記第1のエッジ信号及び前記第2のエッジ信号を用いて、前記第2の拡大画像に対して強調処理を行う強調処理部とを備え、
     前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使い、
     前記第1の逆ウェーブレット変換部と前記第2の逆ウェーブレット変換部とが互いに異なる逆ウェーブレット変換を使うことを特徴とする画像拡大装置。
  2.  前記第1のウェーブレット変換部がCDF9/7ウェーブレット変換を使い、前記第2のウェーブレット変換部がHaarウェーブレット変換を使い、前記第1の逆ウェーブレット変換部がCDF9/7逆ウェーブレット変換を使い、前記第2の逆ウェーブレット変換部がHaar逆ウェーブレット変換を使う請求項1に記載の画像拡大装置。
  3.  前記画像拡大部が、前記入力画像及び3つの所定のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って前記第2の拡大画像を生成する第3の逆ウェーブレット変換部である請求項1または請求項2に記載の画像拡大装置。
  4.  前記画像拡大部が、前記第1のサブバンド成分及び3つの所定のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って前記第2の拡大画像を生成する第3の逆ウェーブレット変換部である請求項1または請求項2に記載の画像拡大装置。
  5.  前記画像拡大フィルタが前記画像拡大部を兼ねており、前記第1の拡大画像と前記第2の拡大画像とが同一である請求項1または請求項2に記載の画像拡大装置。
  6.  前記第1のエッジ信号は、画像の輪郭を表す信号であり、
     前記第2のエッジ信号は、画像の輪郭と画像の細部の両方を含む信号であり、
     前記強調処理部は、注目画素の周辺領域に前記第1のエッジ信号が所定の閾値より大きい画素があれば、前記注目画素の前記第2のエッジ信号に対するゲインを零にする請求項1~5のいずれか1項に記載に画像拡大装置。
  7.  前記第1のエッジ信号に対してローパスフィルタ処理を施す第1のローパスフィルタを、前記第1の逆ウェーブレット変換部と前記強調処理部との間に設け、
     前記第2のエッジ信号に対してローパスフィルタ処理を施す第2のローパスフィルタを、前記第2の逆ウェーブレット変換部と前記強調処理部との間に設けている請求項1~6のいずれか1項に記載の画像拡大装置。
  8.  コンピュータを、
     入力画像を拡大した第1の拡大画像を生成する画像拡大フィルタと、
     前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第1のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第2のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第3のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第4のサブバンド成分を生成する第1のウェーブレット変換部と、
     前記第1の拡大画像をウェーブレット変換して、前記第1の拡大画像の水平方向における低周波成分と垂直方向における低周波成分を抽出した画像を表す第5のサブバンド成分、前記第1の拡大画像の水平方向における高周波成分を抽出した画像を表す第6のサブバンド成分、前記第1の拡大画像の垂直方向における高周波成分を抽出した画像を表す第7のサブバンド成分、及び前記第1の拡大画像の水平方向における高周波成分と垂直方向における高周波成分を抽出した画像を表す第8のサブバンド成分を生成する第2のウェーブレット変換部と、
     所定のサブバンド成分、並びに、前記第1のウェーブレット変換部から出力される前記第2のサブバンド成分、前記第3のサブバンド成分、及び前記第4のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第1のエッジ信号を生成する第1の逆ウェーブレット変換部と、
     所定のサブバンド成分、並びに、前記第2のウェーブレット変換部から出力される前記第6のサブバンド成分、前記第7のサブバンド成分、及び前記第8のサブバンド成分をウェーブレット変換画像と見て、逆ウェーブレット変換を行って第2のエッジ信号を生成する第2の逆ウェーブレット変換部と、
     第2の拡大画像を生成する画像拡大部と、
     前記第1のエッジ信号及び前記第2のエッジ信号を用いて、前記第2の拡大画像に対して強調処理を行う強調処理部とを備え、
     前記第1のウェーブレット変換部と前記第2のウェーブレット変換部とが互いに異なるウェーブレット変換を使い、
     前記第1の逆ウェーブレット変換部と前記第2の逆ウェーブレット変換部とが互いに異なる逆ウェーブレット変換を使う画像拡大装置として機能させることを特徴とする画像拡大プログラム。
  9.  請求項8に記載の画像拡大プログラムを記憶したことを特徴とするコンピュータ読み取り可能な記憶媒体。
  10.  請求項1~7のいずれか1項に記載の画像拡大装置を備えることを特徴とする表示装置。
  11.  前記画像拡大装置の入力画像が輝度画像である請求項10に記載の表示装置。
  12.  前記画像拡大装置を3つ備え、
     1つ目の前記画像拡大装置の入力画像が赤色成分画像であり、
     2つ目の前記画像拡大装置の入力画像が緑色成分画像であり、
     3つ目の前記画像拡大装置の入力画像が青色成分画像である請求項10に記載の表示装置。
PCT/JP2010/069893 2010-03-01 2010-11-09 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置 WO2011108144A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012502960A JP5640071B2 (ja) 2010-03-01 2010-11-09 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置
EP10847041A EP2544144A1 (en) 2010-03-01 2010-11-09 Image enlargement device, image enlargement program, memory medium on which an image enlargement program is stored, and display device
US13/582,361 US8897569B2 (en) 2010-03-01 2010-11-09 Image enlargement device, image enlargement program, memory medium on which an image enlargement program is stored, and display device
CN2010800651106A CN102844786A (zh) 2010-03-01 2010-11-09 图像放大装置、图像放大程序、存储图像放大程序的存储介质和显示装置
RU2012141557/08A RU2012141557A (ru) 2010-03-01 2010-11-09 Устройство для увеличения изображения, программа для увеличения изображения, запоминающая среда, в которой хранится программа для увеличения изображения, и устройство отображения

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010-043897 2010-03-01
JP2010043897 2010-03-01
JP2010111686 2010-05-14
JP2010-111686 2010-05-14

Publications (1)

Publication Number Publication Date
WO2011108144A1 true WO2011108144A1 (ja) 2011-09-09

Family

ID=44541820

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/069893 WO2011108144A1 (ja) 2010-03-01 2010-11-09 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置

Country Status (6)

Country Link
US (1) US8897569B2 (ja)
EP (1) EP2544144A1 (ja)
JP (1) JP5640071B2 (ja)
CN (1) CN102844786A (ja)
RU (1) RU2012141557A (ja)
WO (1) WO2011108144A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10229479B2 (en) 2014-11-13 2019-03-12 Nec Corporation Image signal processing apparatus, image signal processing method and image signal processing program

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8525927B1 (en) * 2012-08-17 2013-09-03 Shenzhen China Star Optoelectronics Technology Co., Ltd. Method for enlarging 4K2K resolution and 4K2K resolution enlarging system using same
CN103295225B (zh) * 2013-04-10 2016-09-28 苏州大学 弱光照条件下的列车转向架边缘检测方法
WO2016154366A1 (en) * 2015-03-23 2016-09-29 Arris Enterprises, Inc. System and method for selectively compressing images
CN105260986B (zh) * 2015-10-13 2018-06-29 武汉大学 一种抗模糊的图像放大方法
CN105427247B (zh) * 2015-11-26 2018-08-24 努比亚技术有限公司 一种图像处理的移动终端以及图像处理方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07152907A (ja) 1993-11-29 1995-06-16 Nec Corp 画像拡大方法及び装置
JP2000215305A (ja) 1999-01-26 2000-08-04 Sharp Corp 画像拡大装置
JP2000293684A (ja) * 1999-01-26 2000-10-20 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP2001008027A (ja) 1999-06-22 2001-01-12 Matsushita Electric Ind Co Ltd 画像拡大装置
JP2002522831A (ja) * 1998-08-05 2002-07-23 インテル・コーポレーション Lcdパネルにおける画像表示に適したdwtに基づくアップサンプリング・アルゴリズム
JP2004214985A (ja) * 2002-12-27 2004-07-29 Canon Inc 画像処理装置及び画像再生装置
JP2004260682A (ja) * 2003-02-27 2004-09-16 Matsushita Electric Ind Co Ltd 画像拡大方法
JP2005011191A (ja) * 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd 画像拡大方法
JP2009076030A (ja) * 2007-08-29 2009-04-09 Daihatsu Motor Co Ltd 物体認識装置
JP2009225995A (ja) 2008-03-21 2009-10-08 Daiichi Shokai Co Ltd 遊技機

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07299053A (ja) * 1994-04-29 1995-11-14 Arch Dev Corp コンピュータ診断支援方法
JP3670754B2 (ja) * 1996-04-15 2005-07-13 オリンパス株式会社 信号処理装置
EP1020816B1 (en) 1999-01-14 2005-08-31 Fuji Photo Film Co., Ltd. Method of and system for image processing and recording medium for carrying out the method
WO2000056060A1 (fr) 1999-03-15 2000-09-21 Matsushita Electric Industrial Co., Ltd. Dispositif et procede de traitement d'image, et support enregistre
US6785411B1 (en) * 1999-08-05 2004-08-31 Matsushita Electric Industrial Co., Ltd. Image analyzing apparatus and image analyzing method
DE60121639T2 (de) * 2000-01-20 2007-07-26 Fuji Photo Film Co., Ltd., Minami-Ashigara Verfahren und Vorrichtung zur Unterdrückung eines periodisches Geräusches
US6975753B2 (en) * 2000-09-13 2005-12-13 Canon Kabushiki Kaisha Image processing apparatus, image processing method, program for implementing said method, and storage medium therefor
US6893147B2 (en) * 2002-04-05 2005-05-17 General Electric Company Lamp lens or bezel with visual effect
JP2005025696A (ja) * 2003-07-04 2005-01-27 Japan Science & Technology Agency 画像処理装置、画像処理方法及びプログラム及び記録媒体
CN101053249B (zh) * 2005-09-09 2011-02-16 松下电器产业株式会社 图像处理方法、图像存储方法、图像处理装置及文件格式
EP2942935A1 (en) * 2006-07-13 2015-11-11 NEC Corporation Wavelet-based image encoding and decoding device and encoding method and decoding method
CN101960487B (zh) * 2008-03-03 2012-11-28 三菱电机株式会社 图像处理装置和方法、以及图像显示装置和方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07152907A (ja) 1993-11-29 1995-06-16 Nec Corp 画像拡大方法及び装置
JP2002522831A (ja) * 1998-08-05 2002-07-23 インテル・コーポレーション Lcdパネルにおける画像表示に適したdwtに基づくアップサンプリング・アルゴリズム
JP2000215305A (ja) 1999-01-26 2000-08-04 Sharp Corp 画像拡大装置
JP2000293684A (ja) * 1999-01-26 2000-10-20 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP2001008027A (ja) 1999-06-22 2001-01-12 Matsushita Electric Ind Co Ltd 画像拡大装置
JP2004214985A (ja) * 2002-12-27 2004-07-29 Canon Inc 画像処理装置及び画像再生装置
JP2004260682A (ja) * 2003-02-27 2004-09-16 Matsushita Electric Ind Co Ltd 画像拡大方法
JP2005011191A (ja) * 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd 画像拡大方法
JP2009076030A (ja) * 2007-08-29 2009-04-09 Daihatsu Motor Co Ltd 物体認識装置
JP2009225995A (ja) 2008-03-21 2009-10-08 Daiichi Shokai Co Ltd 遊技機

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
C. S. BOON; 0. G. GULERYUZ; T. KAWAHARA; Y. SUZUKI: "Sparse super-resolution reconstructions of video from mobile devices in digital TV broadcast applications", PROC. SPIE CONFERENCE ON APPLICATIONS ON OF DIGITAL IMAGE PROCESSING XXIX, 2006
G. GULERYUZ: "Predicting wavelet coefficients over Edges using estimates based on nonlinear approximants", PROC. DATA COMPRESSION CONFERENCE, IEEE DCC-04, 2004
S. KANUMURI; O. G. GULERYUZ; M. R. GIVANLAR: "Fast super-resolution reconstructions of mobile video using warped transforms and adaptive thresholding", PROC. SPIE CONFERENCE ON APPLICATIONS OF DIGITAL IMAGE PROCESSING XXX, 2007

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10229479B2 (en) 2014-11-13 2019-03-12 Nec Corporation Image signal processing apparatus, image signal processing method and image signal processing program

Also Published As

Publication number Publication date
CN102844786A (zh) 2012-12-26
JP5640071B2 (ja) 2014-12-10
RU2012141557A (ru) 2014-04-10
US8897569B2 (en) 2014-11-25
US20120321194A1 (en) 2012-12-20
EP2544144A1 (en) 2013-01-09
JPWO2011108144A1 (ja) 2013-06-20

Similar Documents

Publication Publication Date Title
KR102234092B1 (ko) 이미지의 역 톤 매핑을 위한 방법
JP5640071B2 (ja) 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置
JP4490987B2 (ja) 高解像度化装置および方法
US8275218B2 (en) Forward and backward image resizing method
EP2114067B1 (en) Image processing apparatus and image processing method, and program
US7701509B2 (en) Motion compensated video spatial up-conversion
US9552625B2 (en) Method for image enhancement, image processing apparatus and computer readable medium using the same
JP2012531790A (ja) 多重フレームへのアプローチ方法および画像アップスケール処理システム
WO2011111819A1 (ja) 画像処理装置、画像処理プログラム、および、画像を生成する方法
US8229245B2 (en) Method and apparatus for spatio-temporal subband video enhancement with small time delay
CN111429357A (zh) 训练数据确定方法、视频处理方法、装置、设备及介质
JP2003264716A (ja) 画像処理装置
WO2007064341A2 (en) Combined scaling, filtering, and scan conversion
WO2011040074A1 (ja) 画像拡大装置、画像拡大プログラム、及び表示装置
Hentschel et al. Scalable algorithms for media processing
EP1973338A1 (en) Apparatus and method for reducing motion blur in a video signal
Goto et al. Super-resolution for high-resolution displays
Kusano et al. An FPGA-optimized architecture of anti-aliasing based super resolution for real-time HDTV to 4K-and 8K-UHD conversions
WO2012056965A1 (ja) 画像処理装置、電子機器、画像処理方法
JP2007151094A (ja) 画像の階調変換装置、プログラム、電子カメラ、およびその方法
RU2310911C1 (ru) Способ интерполяции изображений
TWI390958B (zh) 影像濾波電路及應用其之影像處理電路及影像處理方法
JP5471175B2 (ja) 画像処理装置及び方法並びに画像表示装置
JP5804258B2 (ja) 画像処理装置、電子機器
JP4483407B2 (ja) 映像信号処理装置

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201080065110.6

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10847041

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2010847041

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2012502960

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 7426/CHENP/2012

Country of ref document: IN

WWE Wipo information: entry into national phase

Ref document number: 13582361

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2012141557

Country of ref document: RU