JP4352298B2 - 演算装置及び変換装置並びにそれらの方法 - Google Patents
演算装置及び変換装置並びにそれらの方法 Download PDFInfo
- Publication number
- JP4352298B2 JP4352298B2 JP2000573098A JP2000573098A JP4352298B2 JP 4352298 B2 JP4352298 B2 JP 4352298B2 JP 2000573098 A JP2000573098 A JP 2000573098A JP 2000573098 A JP2000573098 A JP 2000573098A JP 4352298 B2 JP4352298 B2 JP 4352298B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- data
- teacher
- prediction coefficient
- student
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 43
- 238000006243 chemical reaction Methods 0.000 title claims description 27
- 238000004364 calculation method Methods 0.000 claims description 19
- 238000001914 filtration Methods 0.000 claims 12
- 230000015654 memory Effects 0.000 description 29
- 238000010586 diagram Methods 0.000 description 12
- 238000013507 mapping Methods 0.000 description 11
- 230000003044 adaptive effect Effects 0.000 description 4
- 102100021916 Sperm-associated antigen 1 Human genes 0.000 description 3
- 238000013139 quantization Methods 0.000 description 3
- 239000010749 BS 2869 Class C1 Substances 0.000 description 2
- 239000010750 BS 2869 Class C2 Substances 0.000 description 2
- 238000013144 data compression Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/43—Hardware specially adapted for motion estimation or compensation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4007—Interpolation-based scaling, e.g. bilinear interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
Description
本発明は演算装置及び変換装置並びにそれらの方法に関し、例えば第1のデータを当該第1のデータよりも高質な第2のデータに変換する変換装置及びその変換処理に用いられる予測係数を演算する演算装置に適用して好適なものである。
背景技術
様々なディジタル機器が出現する中、信号フォーマットの異なる機器間の接続においては機器間での信号変換を実現する信号変換装置が必要となる。例えば低解像度の画像データを高解像度のモニタで表示する場合には、低解像度の画像データを高解像度の画像データにフォーマット変換する画像データ変換装置が必要となる。従来、この種の画像データ変換装置においては、低解像度の画像データに対して補間フィルタによる周波数補間処理を施して画素補間を行うことにより高解像度の画像データを形成している。
ところで画像データ変換装置としては、低解像度の画像データをその各画素の信号レベル分布に応じたクラスに分類した後、予測係数と呼ばれるデータが予め格納されているメモリからそのクラスに対応する予測係数を読み出し、当該予測係数と低解像度の画像データとから高解像度の画像データを予測演算するいわゆるクラス分類適応処理を採用したアップコンバータがある。
メモリに格納されている予測係数は、学習と呼ばれるデータ処理によって予め生成されている。この予測係数を生成する学習回路は、教師画像としての高解像度の画像データをディジタルフィルタによってダウンコンバートすることにより生徒画像としての低解像度の画像データを生成し、高解像度の画像データと低解像度の画像データとの間で学習を行って予測係数を生成するようになされている。
ところでこのディジタルフィルタの周波数特性は、高解像度の画像データが複数の信号特性を有する場合には、それぞれの信号特性に応じて周波数特性を変えることが望ましい。すなわち低解像度の画像データから高解像度の画像データを生成する際、静止画部分は、視覚的な分解能が向上することから、ディジタルフィルタは解像度を向上させるような周波数特性のものが望ましいのに対して、動画部分は、解像度をあまり向上させると高帯域の不要な信号成分が動いてしまい画質が劣化することから、ディジタルフィルタは解像度の向上を抑えるような周波数特性のものが望ましい。
従って、1つのディジタルフィルタを用いて高解像度の画像データを低解像度の画像データにダウンコンバートして予測係数を生成する場合には、高解像度の画像データが複数の信号特性を有すると、それぞれの信号特性に応じた予測係数を生成することができず、その結果、低解像度の画像データから高解像度の画像データを生成する際、画質の向上を妨げる問題があった。
また、静止画部分及び動画部分でディジタルフィルタの周波数特性を変えることに限らず、他の要因によってもディジタルフィルタの周波数特性を変える方が良い場合があった。
発明の開示
本発明は以上の点を考慮してなされたもので、従来に比して一段と第1のデータの特徴に合った変換処理を行うための予測係数を演算する演算装置及び当該演算装置によって演算された予測係数を用いて第2のデータを生成する変換装置並びにそれらの方法を提案しようとするものである。
かかる課題を解決するため本発明においては、第1の画像データを、第1の画像データより高質な第2の画像データに変換するための予測係数を演算する演算装置において、第1の画像データより高質な教師画像データを、その特徴に基づいて複数のクラスに分類するクラス決定部と、クラス決定部で決定されたクラス毎に異なるフィルタ処理を、教師画像データに対して行うことで、第1の画像データと同質の生徒画像データを生成する生徒画像データ生成部と、生徒画像データと教師画像データとに基づいて予測係数を生成する予測係数生成部とを設けるようにする。
クラス毎に異なるフィルタ処理を教師画像データに対して行うことにより、第1の画像データ及び教師画像データの特徴に合った生徒画像データが生成される。この生徒画像データ及び教師画像データに基づいて予測係数を生成することにより、第1の画像データ及び教師画像データの特徴に合った予測係数が生成される。
この予測係数を、変換装置において第1の画像データの特徴に合わせて用いることにより、第1の画像データから第2の画像データを変換するにつき、第1の画像データの特徴に合った変換処理を行うことができる。
発明を実施するための最良の形態
以下図面について、本発明の一実施例を詳述する。
(1)クラス分類適応処理の原理
ここで図1は、クラス分類適応処理を実現するアップコンバータ51の回路構成を示す。アップコンバータ51では、外部から供給される例えば8ビットのパルス符号変調(PCM:Pulse Code Modulation)データでなるSD(Standard Definition)画像データS51がクラス分類部52及び予測演算部53に入力される。クラス分類部52は、例えば図2に示すように、SD画像データS51のうち注目画素及び当該注目画素を中心とした複数の周辺画素でなる合計7画素(タップ)をクラス分類用の画素(以下、これをクラスタップと呼ぶ)として設定し、それら画素の信号レベル分布に基づいてクラスコードS52を生成する。因みに、図中実線は第1フィールドを示し、点線は第2フィールドを示す。
このクラス分類部52によってクラスコードS52を生成する方法としては、PCMデータを直接使用する(すなわちPCMデータをそのままクラスデータS52とする)方法や、ADRC(Adaptive Dynamic Range Coding)等のデータ圧縮方法を用いてクラス数を削減するような方法が考えられる。このうちPCMデータをそのままクラスコードS52とする方法では、クラスタップとして8ビットのPCMデータを7タップ用いることから、クラス数が256という膨大な数となり、回路規模が大きくなる。
そこで、クラス分類部52は、ADRCのようなデータ圧縮処理(すなわち再量子化処理)を施すことによりクラス数を削減するようになされている。このADRCによる分類法は、注目画素を中心とする近傍領域内の数タップからADRCコードを、次式
によって求め、当該ADRCコードに基づいてクラスコードS52を生成する手法を用いている。ここで、ciはADRCコード、xiは各クラスタップの入力画素値、MINはADRCにおけるブロックにある各クラスタップの入力画素値のうちの最小画素値、DRは領域内のダイナミックレンジ(最大画素値と最小画素値との差分)、kは再量子化ビット数である。
すなわちADRCによる分類法は、領域内のダイナミックレンジから再量子化ビット数に応じた量子化ステップ幅を算出し、入力画素値から最小画素値を減算した画素値を量子化ステップ幅に応じて再量子化するものである。例えば領域内の7タップにおいて各クラスタップを1ビットに再量子化する1ビットADRCを行う場合では、領域内のダイナミックレンジに基づいて7タップの各入力画素値を適応的に1ビット量子化し、その結果、7タップの入力画素値を7ビットのデータに削減することができるので、全体としてクラス数を128クラスにまで削減することができる。この1ビットADRCについては、特開平7−87481号及びその対応米国特許第5488618号に開示されている。
図1に戻って、予測係数ROM(Read Only Memory)54は、後述する学習回路60によって予め生成された各クラス毎に対応する予測係数データS53を格納しており、クラス分類部52から供給されるクラスコードS52に応じた予測係数データS53を読み出し、これを予測演算部53に送出する。予測演算部53は、例えば図3に示すように、外部から入力されるSD画像データS51のうち、注目画素及び当該注目画素を中心とした複数の周辺画素でなる合計13タップを予測演算用の画素(以下、これを予測タップと呼ぶ)として選定し、当該予測タップの各画素値と予測係数データS53とを用いて、線形一次結合でなる次式
によって表される積和演算を行うことにより、予測タップには存在しないHD(High Definition)画素の集まりであるHD画像データS54を生成し、これを外部に出力する。ここで、x′は各HD画素値、xiは各予測タップの画素値、wiは予測係数、nは予測タップ数であり、この場合nは13である。
ところで図4は、予測係数ROM54に格納されている予測係数データを生成する学習回路60の回路構成を示し、当該学習回路60は、予測係数データを予め生成して、これを予測係数ROM54に格納するようになされている。学習回路60では、教師信号としてのHD画像データS60が垂直間引きフィルタ61及び予測係数算出回路62に入力される。学習回路60は、HD画像データS60を垂直間引きフィルタ61及び水平間引きフィルタ62によって間引くことにより、生徒信号としてのSD画像データS61を生成し、これをクラス分類部64及び予測係数算出回路62に入力するようになされている。
クラス分類部64は、図1に示すアップコンバータのクラス分類部52と同様の構成でなり、SD画像データS61からクラスタップを選定し、その信号レベル分布に基づいてクラスコードS62を生成し、これを予測係数算出回路62に送出する。予測係数算出回路62は、HD画像データS60及びSD画像データS61を基に、クラスコードS62が示すクラスに応じた予測係数をクラス毎に算出し、その結果得た予測係数データS63を予測係数ROM54に格納する。
この場合、予測係数算出回路62は、上述の(2)式における予測係数wを最小自乗法によって求めるようになされている。具体的には予測係数算出回路62は、XをSD画素値、Wを予測係数、YをHD画素値として、いわゆる観測方程式と呼ばれる次式
XW=Y .....(3)
但し
を生成するように各データを収集する。ここでmは予測するHD画素の画素数を示す学習データ数、nは予測タップ数である。
次に予測係数算出回路62は、この(3)式を基に、次式
XW=Y+E .....(4)
但し、
に示す残差方程式を立てる。従って各予測係数wiは、この(4)式から、次式
が最小のときに最適な値となることがわかる。すなわち次式
を満たすように予測係数wiが算出される。
そこで予測係数算出回路62は、このn個ある(6)式を満たすようなw1、w2、……、wnを算出すればよいことになり、上述の(4)式から、次式
を得、これら(6)及び(7)式から、次式
を求める。そして予測係数算出回路62は、上述の(4)及び(8)式から、次式
によって表される正規方程式を生成する。このようにして予測係数算出回路62は、予測タップ数nと同一次数の連立方程式でなる正規方程式を生成し、掃き出し法(Gauss Jordanの消去法)を用いてこの正規方程式を解くことにより、各予測係数wiを算出する。
以下、学習回路60による予測係数生成手順について図5に示すフローチャートを用いて説明する。ステップSP61から入ったステップSP62において、学習回路60は、教師信号としてのHD画像データS60から生徒信号としてのSD画像データS61を生成することにより、予測係数を生成するのに必要な学習データを生成すると共に、SD画像データS61からクラスタップを選定し、その信号レベル分布に基づいてクラス分類を行う。
そして、ステップSP63において、学習回路60は、予測係数を生成するのに必要十分な数の学習データが得られたか否か判定し、その結果、未だ必要十分な学習データが得られていないと判断された場合にはステップSP63において否定結果を得ることによりステップSP65に移行する。
ステップSP65において、学習回路60は、各クラス毎に上述の(9)式でなる正規方程式を生成し、ステップSP62に戻って同様の処理手順を繰り返すことにより、予測係数を生成するのに必要十分な正規方程式を生成する。
これに対してステップSP63において肯定結果が得られると、このことは必要十分な学習データが得られたことを表しており、このとき学習回路60はステップSP66に移って、上述の(9)式でなる正規方程式を掃き出し法によって解くことにより、予測係数w1、w2、……、wnを各クラス毎に生成する。そしてステップSP67において、学習回路60は、生成した各クラス毎の予測係数w1、w2、……、wnを予測係数ROM54に格納し、ステップSP68に移って処理を終了する。
(2)第1の実施例
学習回路は、教師画像としてのHD画像データを生徒画像としてのSD画像データにダウンコンバートし、これらHD画像データとSD画像データとの間で学習を行うことにより各クラス毎の予測係数を生成するようになされている。以下、学習回路60による予測係数生成手順について図6に示すフローチャートを用いて説明する。
ステップSP71から入ったステップSP72において、学習回路は、教師画像としてのHD画像データから生徒画像としてのSD画像データを生成することにより、予測係数を生成するのに必要な学習データを生成する。このステップSP72において、学習回路は、図7に示すように、通過帯域の異なる複数のダウンフィルタF1〜F4を使って1つのHD画像データHDから複数のSD画像データSD1〜SD4を生成する。この場合、ダウンフィルタF1の通過帯域が最も高く、ダウンフィルタF2、F3及びF4の順に通過帯域が低くなるように設定されている。
ステップSP73において、学習回路は、予測係数を生成するのに必要十分な数の学習データが得られたか否かを判定し、その結果、未だ必要十分な学習データが得られていないと判断された場合にはステップSP73において否定結果を得ることによりステップSP75に移る。
ステップSP75において、学習回路は、各SD画像データSD1〜SD4ごとに上述の(9)式でなる正規方程式を生成し、ステップSP72に戻って同様の処理手順を繰り返すことにより、予測係数を生成するのに必要十分な数の正規方程式を生成する。
これに対してステップSP73において肯定結果が得られると、このことは必要十分な数の学習データが得られたことを表しており、このとき学習回路はステップSP76に移って、上述のステップSP75において生成された正規方程式を掃き出し法によって解くことにより、各SD画像データSD1〜SD4ごとに予測係数を生成する。
このステップSP76の処理において、学習回路は、図8に示すように、HD画像データHDとSD画像データSD1との間で学習ST1を行うことにより予測係数Y1を生成し、これを係数メモリM1に格納する。以下、同様に学習回路は、HD画像データHDとSD画像データSD2〜SD4との間でそれぞれ学習ST2〜ST4を行うことにより予測係数Y2〜Y4をそれぞれ生成し、これらを係数メモリM2〜M4にそれぞれ格納する。
ここでダウンフィルタFの周波数特性は、HD画像データHDのうち動きの小さい領域に対しては通過帯域を高く、動きの大きい領域に対しては通過帯域を低くすることが望ましい。従って学習回路は、図6のステップSP77において、HD画像データHDをその動きの度合いに応じて4つの動きクラスC1〜C4に分類し、係数メモリM1に格納されている予測係数Y1のうち動きクラスC1に対応するものを予測係数メモリM5に格納する。同様に、係数メモリM2に格納されている予測係数Y2のうち動きクラスC2に対応するものを係数メモリM5に格納し、係数メモリM3に格納されている予測係数Y3のうち動きクラスC3に対応するものを係数メモリM5に格納し、係数メモリM4に格納されている予測係数Y4のうち動きクラスC4に対応するものを係数メモリM5に格納することにより係数メモリM5への予測係数の登録を行い、続くステップSP78において予測係数生成手順を終了する。
図9は、学習によって生成された係数メモリM5を採用したアップコンバータ100の構成を示す。アップコンバータ100は、入力されるSD画像データS100をクラス分類部101及びディレイ回路102に入力する。クラス分類部101は、SD画像データS100をクラス分類することによりクラスコードS101を発生し、これを係数メモリM5に送出する。
係数メモリM5は、供給されたクラスコードS101に基づいて、動きクラスC1〜C4のうちクラスコードS101に応じた動きクラスCの予測係数を読み出し、その予測係数データS102をマッピング回路103に送出する。ディレイ回路102は、SD画像データS100を所定時間遅延し、マッピング回路103に送出する。マッピング回路103は、SD画像データS100と予測係数データS102との積和演算を行うことによりHD画像データS103を生成し、外部に出力するようになされている。
以上の構成において、学習回路は、通過帯域の異なる複数のダウンフィルタF1〜F4を使って1つのHD画像データHDから複数のSD画像データSD1〜SD4を生成した後、HD画像データHDとSD画像データSD1〜SD4との間でそれぞれ学習を行って予測係数Y1〜Y4をそれぞれ生成し、当該予測係数Y1〜Y4のうち動きクラスC1〜C4に相当するものをそれぞれ抽出して係数メモリM5に格納することにより、HD画像データHDの動きに応じた予測係数を係数メモリM5に格納することになる。かくして、SD画像データS100の動きに応じた予測係数を用いてHD画像データS103を生成することになり、従来のように1つのダウンフィルタによって生成された予測係数を用いてマッピングを行う場合に比して、HD画像データS103の画質が向上する。
以上の構成によれば、通過帯域の異なる複数のダウンフィルタF1〜F4を使って複数の予測係数Y1〜Y4をそれぞれ生成し、当該予測係数Y1〜Y4の中から動きクラスC1〜C4に相当するものを抽出して係数メモリM5に格納することにより、SD画像データS100の動きを考慮した予測係数を用いてHD画像データS103を生成することができ、かくして従来に比して一段とHD画像データS103の画質を向上し得る。
(3)第2の実施例
図7との対応部分に同一符号を付して示す図10は、第2の実施例によるダウンコンバータ110の構成を示す。ダウンコンバータ110は、教師画像としてのHD画像データHDをスイッチSW1及びクラス分類部111に入力する。クラス分類部111は、HD画像データHDをその動き量に応じた動きクラスC1〜C4に分類することによりクラスデータS110を生成し、これをスイッチSW1及びSW2に供給する。この場合、クラス分類部111は、最も動き量が小さいものを動きクラスC1に分類し、当該動き量が大きくなることに応じて動きクラスC2〜C4に分類し、最も動き量の大きいものを動きクラスC4に分類する。なお、動き量によってクラス分類を行う画像信号変換装置は、特開平9−74543号に記載されている。
スイッチSW1及びSW2は、供給されるクラスデータS110が示す動きクラスCに基づいて画素毎に通過帯域の異なる複数のダウンフィルタF1〜F4を適応的に切り換えながら選択する。ダウンコンバータ110は、切り換えられたダウンフィルタFによってHD画像データHDをダウンコンバートすることにより1つのSD画像データSDを生成する。その際、HD画像データHDの動き量が小さい場合には、通過帯域が高いダウンフィルタF1を選択し、動き量が大きくなることに応じて通過帯域の低いダウンフィルタF2〜F4を選択する。このようにダウンコンバータ110は、HD画像データHDの動き量に応じてダウンフィルタFを適応的に切り換えながらSD画像データSDを生成する。
次いで図11に示すように、学習回路は、教師画像としてのHD画像データHDと生徒画像としてのSD画像データSDとの間で学習STを行うことにより予測係数Yを生成し、これを係数メモリMに格納する。
図9との対応部分に同一符号を付して示す図12は、上述の係数メモリMを使ったアップコンバータ120の構成を示す。アップコンバータ120は、入力されるSD画像データS100をクラス分類部101及びディレイ回路102に入力する。クラス分類部101は、SD画像データS100をクラス分類することによりクラスコードS101を発生し、これを係数メモリMに送出する。
係数メモリMは、供給されたクラスコードS101に基づいて予測係数を読み出し、その予測係数データS120をマッピング回路103に送出する。ディレイ回路102は、SD画像データS100を所定時間遅延し、マッピング回路103に送出する。マッピング回路103は、SD画像データS100と予測係数データS120との積和演算を行うことにより、HD画像データS121を生成し、外部に出力するようになされている。 ここでアップコンバータ120のクラス分類部101(図12)によるクラス分類について図13を用いて説明する。クラス分類部101は、SD画像データのうち、同一フィールド内に存在する9画素と、当該9画素と同一位置に存在する1フレーム前の9画素に注目して、各画素のフレーム間差分をそれぞれ求めた上でそれらの絶対値和をとり、当該絶対値和を閾値に基づいて判定することによりSD画像データを4クラスに分類する。
続いてダウンコンバータ110のクラス分類部111(図10)によるクラス分類について図14を用いて説明する。クラス分類部111は、SD画像データの4倍の画素数を有するHD画像データをクラス分類することから、SD画像データの場合と同一の面積でなる領域から1画素おきに9画素を抽出して、その各画素のフレーム間差分の絶対値和をとることにより4クラスに分類する。
従って、SD画像データをアップコンバータ120のクラス分類部101によって分類したクラスと、当該SD画像データと対応関係にあるHD画像データをダウンコンバータ110のクラス分類部111によって分類したクラスとは、同一とはならない場合があるが、ほぼ同一の領域のクラスタップを抽出してクラス分類していることから、両クラス間の不整合はほとんどなく無視できる程度である。
以上の構成において、ダウンコンバータ110は、HD画像データHDの動き量に応じて複数の周波数特性のダウンフィルタFを適応的に切り換えながら、HD画像データHDをダウンコンバートすることにより1つのSD画像データSDを生成する。学習回路は、これらHD画像データHDとSD画像データSDとの間で学習ST行うことにより予測係数を生成し、係数メモリMに格納する。
ところでアップコンバータ100のクラス分類部101は、全てのSD画像データS100について完全に正しくクラス分類し得るわけではなく、実際上は、完全なクラス分類は困難である。従って、上述の第1の実施例によるアップコンバータ100では、同じような信号レベル分布のSD画像データS100からHD画像データS103を生成する場合であっても、クラス分類が正確に行われずに、全く周波数特性の異なるダウンフィルタFを用いて生成された予測係数によってマッピングするおそれがあり、その際、予測係数の値が大きく変化してしまい、生成されるHD画像データS103の画質が劣化することがある。
これに対して、第2の実施例によるアップコンバータ120では、同じような信号レベル分布のSD画像データS100を異なるクラスに分類しても、予測係数が大きく変化することはなく、その結果、生成されるHD画像データS121の画質が劣化することがなくなる。
また学習STを行う際には、生徒画像として1つのSD画像データSDを用いるだけで済むため、学習STにかかる時間が短縮される。
以上の構成によれば、HD画像データHDをクラス分類してそのクラスに応じて複数の周波数特性のダウンフィルタFを適応的に切り換えながら、HD画像データHDをSD画像データSDに変換して予測係数を生成することにより、マッピング時に、使用される予測係数がSD画像データS100のクラスによって大きく変化することを回避することができ、従って第1の実施例の場合に比して一段と画質を向上し得る。
(4)他の実施例
なお上述の実施例においては、本発明をSD画像データS100からHD画像データS103及びS121を生成する画像データ変換装置に適用した場合について述べたが、本発明はこれに限らず、要は、第1のデータから第2のデータを生成するデータ変換装置に本発明を広く適用し得る。
また上述の実施例においては、予測データの生成に学習回路を適用した場合について述べたが、本発明はこれに限らず、要は、第2の画像データに対応する教師画像データから通過帯域の異なる複数のフィルタを用いて予測データを生成すれば良い。
また上述の実施例においては、予測データ記憶機能として係数メモリM5及びMを適用した場合について述べたが、本発明はこれに限らず、要は、予測データを記憶するものであれば良い。
また上述の実施例においては、クラスの決定にクラス分類部101を適用した場合について述べたが、本発明はこれに限らず、要は、第1の画像データから注目画素を含む複数の画素を抽出し、その抽出された複数の画素から注目画素に対するクラスを決定すれば良い。
また上述の実施例においては、読出しの制御に係数メモリM5及びMを適用した場合について述べたが、本発明はこれに限らず、要は、決定されたクラスに応じた予測データを予測データ記憶部から読み出せば良い。
また上述の実施例においては、画素データの発生にマッピング回路103を適用した場合について述べたが、本発明はこれに限らず、要は、予測データ記憶部から読み出された予測データから第2の画像データの注目画素を発生すれば良い。
また上述の実施例においては、本発明を画像データ変換装置に適用する場合について述べたが、本発明はこれに限らず、例えば音声等近接する複数のデータ間(波形)に関連性のあるデータに対して適用して好適である。
さらに上述の実施例においては、本発明によるクラス分類適応処理をSD−HD変換のように画素数(空間解像度)を変換する場合に適用したが、本発明はこれに限らず、特開平5−167991号公報に開示されているように時間解像度を創造する場合、特開平10−313251号公報に開示されているようにサンプリング周波数を高くして音質を改善する場合、特開平7−85267号公報に開示されているように量子化ビット数を多くして情報量の増加に対応した信号を生成することにより空間解像度を高くする場合、特願平10−123021号で提案されているように画像のぼけを改善する場合にそれぞれ適用することができる。
上述のように本実施例によれば、第2の画像データに対応する教師画像データから通過帯域の異なる複数のフィルタを用いて予測データを生成することにより、第1の画像データの特徴に応じた予測データを用いて第2の画像データを生成することができ、かくして従来に比して一段と画質を向上し得る。
産業上の利用可能性
例えば低解像度の画像データから高解像度の画像データを生成する画像データ変換装置及びその変換処理に用いられる予測係数を演算する装置に適用して好適なものである。
【図面の簡単な説明】
図1は、アップコンバータの構成を示すブロック図である。
図2は、クラスタップ配置例を示す略線図である。
図3は、予測タップ配置例を示す略線図である。
図4は、学習回路の構成を示すブロック図である。
図5は、予測係数生成手順を示すフローチャートである。
図6は、第1の実施例の予測係数生成手順を示すフローチャートである。
図7は、本発明によるダウンコンバートの第1の実施例の説明に供する略線図である。
図8は、本発明による学習方法と係数メモリの第1の実施例の説明に供する路線図である。
図9は、本発明によるアップコンバータの第1の実施例を示すブロック図である。
図10は、本発明によるダウンコンバートの第2の実施例の説明に供する略線図である。
図11は、本発明による学習方法と係数メモリの第2の実施例の説明に供する略線図である。
図12は、本発明によるアップコンバータの第2の実施例を示すブロック図である。
図13は、マッピング時のクラスタップ配置例を示す路線図である。
図14は、ダウンコンバート時のクラスタップ配置例を示す路線図である。
Claims (21)
- 第1の画像データを、上記第1の画像データより高質な第2の画像データに変換するための予測係数を演算する演算装置において、
上記第1の画像データより高質な教師画像データを、その特徴に基づいて複数のクラスに分類するクラス決定部と、
上記クラス決定部で決定されたクラス毎に異なるフィルタ処理を、上記教師画像データに対して行うことで、上記第1の画像データと同質の生徒画像データを生成する生徒画像データ生成部と、
上記生徒画像データと上記教師画像データとに基づいて上記予測係数を生成する予測係数生成部と
を具え、
上記生徒画像データ生成部は、上記クラス決定部で決定された上記クラス毎に異なる通過帯域を有する上記フィルタ処理を上記教師画像データに対して行う
ことを特徴とする演算装置。 - 上記第2の画像データ及び上記教師画像データは、上記第1の画像データより解像度が高い
ことを特徴とする請求項1に記載の演算装置。 - 上記第2の画像データ及び上記教師画像データは、上記第1の画像データより画素数が多い
ことを特徴とする請求項1に記載の演算装置。 - 上記第2の画像データと上記教師画像データは、同じ画素数である
ことを特徴とする請求項2に記載の演算装置。 - 上記予測係数生成部は、上記生徒画像データと上記教師画像データとの間で学習を行うことで上記予測係数を生成する
ことを特徴とする請求項1に記載の演算装置。 - 上記予測係数生成部は、上記クラス毎に異なる予測係数を生成する
ことを特徴とする請求項1に記載の演算装置。 - 上記生徒画像データ生成部は、上記クラス決定部で決定されたクラス毎に異なる通過帯域のダウンフィルタを用いてフィルタ処理を行うことで、上記生徒画像データを生成する
ことを特徴とする請求項6に記載の演算装置。 - 上記クラス決定部は、上記教師画像データの動きを上記特徴として、上記教師画像データを上記複数のクラスのいずれかに分類する
ことを特徴とする請求項1に記載の演算装置。 - 第1の画像データを、第1の画像データより高質な第2の画像データに変換するための予測係数を演算する演算方法において、
上記第1の画像データより高質な教師画像データを、その特徴に基づいて複数のクラスに分類するステップと、
上記複数のクラスに分類するステップにおいて決定された上記クラス毎に異なる通過帯域を有する上記フィルタ処理を上記教師画像データに対して行うことにより、当該分類されたクラス毎に異なるフィルタ処理を、上記教師画像データに対して行うことで、上記第1の画像データと同質の生徒画像データを生成するステップと、
上記生徒画像データと上記教師画像データとに基づいて上記予測係数を生成するステップと
を具えることを特徴とする演算方法。 - 第1の画像データを、上記第1の画像データより高質な第2の画像データに変換する変換装置において、
複数のクラスの各クラス毎に予測係数を記憶する記憶部と、
上記第1の画像データをその特徴に基づいて上記複数のクラスのいずれかに対応するかを決定するクラス決定部と、
上記クラス決定部で決定されたクラスに対応する予測係数に基づいて、上記第1の画像データを上記第2の画像データに変換する変換部とを具え、
上記記憶部に記憶されている上記予測係数は、
上記第1の画像データより高質な教師画像データを、その特徴に基づいて複数のクラスに分類するステップと、
上記分類されたクラス毎に異なるフィルタ処理を上記教師画像データに対して行うことで、上記第1の画像データと同質の生徒画像データを生成するステップと、
上記生徒画像データと上記教師画像データとに基づく学習を行うステップと
を予め行うことにより生成され、
上記生徒画像データを生成するステップでは、上記複数のクラスに分類するステップで決定された上記クラス毎に異なる通過帯域を有する上記フィルタ処理が上記教師画像データに対して行われる
ことを特徴とする変換装置。 - 上記第2の画像データ及び上記教師画像データは、上記第1の画像データより解像度が高い
ことを特徴とする請求項10に記載の変換装置。 - 上記第2の画像データ及び上記教師画像データは、上記第1の画像データより画素数が多い
ことを特徴とする請求項10に記載の変換装置。 - 上記第2の画像データと上記教師画像データは、同じ画素数である
ことを特徴とする請求項11に記載の変換装置。 - 第1のデータを、上記第1のデータより高質な第2のデータに変換するための予測係数を演算する演算装置において、
上記第1のデータより高質な教師データを、その特徴に基づいて複数のクラスに分類するクラス決定部と、
上記クラス決定部で決定されたクラス毎に異なるフィルタ処理を、上記教師データに対して行うことで、上記第1のデータと同質の生徒データを生成する生徒データ生成部と、
上記生徒データと上記教師データとに基づいて上記予測係数を生成する予測係数生成部と
を具え、
上記生徒データ生成部は、上記クラス決定部で決定された上記クラス毎に異なる通過帯域を有する上記フィルタ処理を上記教師データに対して行う
ことを特徴とする演算装置。 - 上記第1のデータは、第1のデータ数であり、上記第2のデータは上記第1のデータ数より多い第2のデータ数であり、上記教師データは、上記第1のデータ数より多い第3のデータ数である
ことを特徴とする請求項14に記載の演算装置。 - 上記第2のデータ数と上記第3のデータ数は同じである
ことを特徴とする請求項15に記載の演算装置。 - 上記第1のデータ、上記第2のデータ及び上記教師データは、画像データである
ことを特徴とする請求項14に記載の演算装置。 - 上記予測係数生成部は、上記生徒データと上記教師データとの間で学習を行うことで上記予測係数を生成する
ことを特徴とする請求項14に記載の演算装置。 - 上記予測係数生成部は、上記クラス毎に異なる予測係数を生成する
ことを特徴とする請求項14に記載の演算装置。 - 上記生徒データ生成部は、上記クラス決定部で決定されたクラス毎に異なる通過帯域のダウンフィルタを用いてフィルタ処理を行うことで、上記生徒データを生成する
ことを特徴とする請求項19に記載の演算装置。 - 第1のデータを、上記第1のデータより高質な第2のデータに変換するための予測係数を演算する演算方法において、
上記第1のデータより高質な教師データを、その特徴に基づいて複数のクラスに分類するステップと、
上記複数のクラスに分類するステップにおいて決定された上記クラス毎に異なる通過帯域を有する上記フィルタ処理を上記教師画像データに対して行うことにより、当該分類されたクラス毎に異なるフィルタ処理を、上記教師データに対して行うことで、上記第1のデータと同質の生徒データを生成するステップと、
上記生徒データと上記教師データとに基づいて上記予測係数を生成するステップと
を具えることを特徴とする演算方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27859398 | 1998-09-30 | ||
PCT/JP1999/005384 WO2000019724A1 (en) | 1998-09-30 | 1999-09-30 | Arithmetic device, converter, and their methods |
Publications (1)
Publication Number | Publication Date |
---|---|
JP4352298B2 true JP4352298B2 (ja) | 2009-10-28 |
Family
ID=17599435
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000573098A Expired - Fee Related JP4352298B2 (ja) | 1998-09-30 | 1999-09-30 | 演算装置及び変換装置並びにそれらの方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6718073B1 (ja) |
EP (1) | EP1033886A4 (ja) |
JP (1) | JP4352298B2 (ja) |
KR (1) | KR100657776B1 (ja) |
WO (1) | WO2000019724A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8036494B2 (en) * | 2004-04-15 | 2011-10-11 | Hewlett-Packard Development Company, L.P. | Enhancing image resolution |
JP2005311629A (ja) * | 2004-04-20 | 2005-11-04 | Sony Corp | 係数データの生成装置および生成方法、情報信号の処理装置および処理方法、並びにプログラムおよびそれを記録した媒体 |
JP4193871B2 (ja) * | 2006-05-18 | 2008-12-10 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
WO2021241266A1 (ja) * | 2020-05-29 | 2021-12-02 | ソニーグループ株式会社 | 画像処理装置および方法 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3278881B2 (ja) | 1991-12-13 | 2002-04-30 | ソニー株式会社 | 画像信号生成装置 |
KR100360206B1 (ko) * | 1992-12-10 | 2003-02-11 | 소니 가부시끼 가이샤 | 화상신호변환장치 |
JP3572632B2 (ja) | 1993-06-29 | 2004-10-06 | ソニー株式会社 | 異常検出装置 |
JP3458412B2 (ja) | 1993-06-30 | 2003-10-20 | ソニー株式会社 | 量子化ビット数変換装置および変換方法、並びに量子化ビット数学習装置および学習方法 |
JP3470403B2 (ja) | 1994-08-01 | 2003-11-25 | ソニー株式会社 | ディジタル画像信号の処理装置 |
US5748235A (en) * | 1994-08-31 | 1998-05-05 | Sony Corporation | Imaging apparatus including means for converting red, green, and blue signal components of standard resolution to respective high resolution signal components |
JP3781203B2 (ja) * | 1994-11-28 | 2006-05-31 | ソニー株式会社 | 画像信号補間装置及び画像信号補間方法 |
JP3794505B2 (ja) * | 1995-03-22 | 2006-07-05 | ソニー株式会社 | 信号変換装置及び信号変換方法 |
JP3870428B2 (ja) * | 1995-05-10 | 2007-01-17 | ソニー株式会社 | 画像情報変換装置および方法並びに係数データ生成装置および方法 |
JP3724008B2 (ja) | 1995-05-23 | 2005-12-07 | ソニー株式会社 | 画像情報変換装置および係数データ作成装置 |
US5852470A (en) * | 1995-05-31 | 1998-12-22 | Sony Corporation | Signal converting apparatus and signal converting method |
US5946044A (en) | 1995-06-30 | 1999-08-31 | Sony Corporation | Image signal converting method and image signal converting apparatus |
KR100478070B1 (ko) * | 1996-05-30 | 2005-09-14 | 소니 가부시끼 가이샤 | 화상정보변환장치와방법및적화연산회로와방법 |
JPH1011583A (ja) | 1996-06-27 | 1998-01-16 | Sony Corp | クラス分類適応処理装置、クラス分類適応処理用の学習装置および学習方法 |
JP3796844B2 (ja) | 1996-10-04 | 2006-07-12 | ソニー株式会社 | 画像処理装置、画像処理方法、パラメータ生成装置およびパラメータ生成方法 |
JP3864400B2 (ja) | 1996-10-04 | 2006-12-27 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JPH10126218A (ja) * | 1996-10-15 | 1998-05-15 | Sony Corp | サンプリング周波数変換装置 |
JP4174084B2 (ja) | 1996-12-27 | 2008-10-29 | ソニー株式会社 | 符号化装置、符号化方法、復号化装置、復号化方法、送受信装置、および、送受信方法 |
US6330344B1 (en) * | 1997-02-14 | 2001-12-11 | Sony Corporation | Image processing device and method employing motion detection to generate improved quality image from low resolution image |
WO1998051072A1 (en) | 1997-05-06 | 1998-11-12 | Sony Corporation | Image converter and image conversion method |
JP3946812B2 (ja) | 1997-05-12 | 2007-07-18 | ソニー株式会社 | オーディオ信号変換装置及びオーディオ信号変換方法 |
US6181382B1 (en) * | 1998-04-03 | 2001-01-30 | Miranda Technologies Inc. | HDTV up converter |
-
1999
- 1999-09-30 JP JP2000573098A patent/JP4352298B2/ja not_active Expired - Fee Related
- 1999-09-30 KR KR1020007005851A patent/KR100657776B1/ko not_active IP Right Cessation
- 1999-09-30 EP EP99969880A patent/EP1033886A4/en not_active Withdrawn
- 1999-09-30 US US09/555,245 patent/US6718073B1/en not_active Expired - Fee Related
- 1999-09-30 WO PCT/JP1999/005384 patent/WO2000019724A1/ja active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
KR20010015845A (ko) | 2001-02-26 |
US6718073B1 (en) | 2004-04-06 |
EP1033886A1 (en) | 2000-09-06 |
WO2000019724A1 (en) | 2000-04-06 |
EP1033886A4 (en) | 2008-04-02 |
KR100657776B1 (ko) | 2006-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR0184905B1 (ko) | 부호량제어장치 및 이것을 사용한 부호화장치 | |
JPH08265711A (ja) | 信号変換装置及び信号変換方法 | |
JPH0795475A (ja) | 信号変換装置 | |
JP4352298B2 (ja) | 演算装置及び変換装置並びにそれらの方法 | |
JP3360695B2 (ja) | 画像データの量子化回路 | |
JP3743077B2 (ja) | 画像信号変換装置および方法 | |
JP3671469B2 (ja) | 予測係数の学習方法並びに信号変換装置および方法 | |
JP3627291B2 (ja) | ブロック歪み除去装置および方法 | |
JP2000059652A (ja) | ノイズ除去装置及びノイズ除去方法 | |
JP4337186B2 (ja) | 画像情報変換装置および画像情報変換方法、学習装置および学習方法 | |
JP2000125268A (ja) | 画像データ変換装置及び画像データ変換方法 | |
JP3723995B2 (ja) | 画像情報変換装置および方法 | |
JP3693187B2 (ja) | 信号変換装置及び信号変換方法 | |
KR100982625B1 (ko) | 정보 신호의 처리 장치 및 처리 방법 | |
JP2007251690A (ja) | 画像処理装置および方法、学習装置および方法、並びにプログラム | |
JP3326879B2 (ja) | 画像信号変換装置 | |
JP4235853B2 (ja) | 画像データ変換装置及び画像データ変換方法 | |
JP4131049B2 (ja) | 信号処理装置及び信号処理方法 | |
JP4143877B2 (ja) | 画像データ変換装置及び画像データ変換方法 | |
JP4171958B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4235852B2 (ja) | 画像データ変換装置及び画像データ変換方法 | |
JP4168298B2 (ja) | データ変換装置及びデータ変換方法 | |
JP3620069B2 (ja) | 信号変換装置および方法 | |
JP4300436B2 (ja) | 画像データ変換装置及び画像データ変換方法 | |
JP4062326B2 (ja) | 係数生成装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060223 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090409 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090604 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090702 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090715 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120807 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130807 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |