JP2004312765A - 2:1間引きにおける効果的なダウンコンバージョン - Google Patents

2:1間引きにおける効果的なダウンコンバージョン Download PDF

Info

Publication number
JP2004312765A
JP2004312765A JP2004162602A JP2004162602A JP2004312765A JP 2004312765 A JP2004312765 A JP 2004312765A JP 2004162602 A JP2004162602 A JP 2004162602A JP 2004162602 A JP2004162602 A JP 2004162602A JP 2004312765 A JP2004312765 A JP 2004312765A
Authority
JP
Japan
Prior art keywords
video signal
block
pixel values
filter
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2004162602A
Other languages
English (en)
Inventor
Kim Hee-Yong
キム ヒー−ヨン
Michael Iaquinto
イアキント マイケル
Philips Lally
フィリップス ラリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of JP2004312765A publication Critical patent/JP2004312765A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4023Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4084Scaling of whole images or parts thereof, e.g. expanding or contracting in the transform domain, e.g. fast Fourier transform [FFT] domain scaling
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Television Systems (AREA)

Abstract

【課題】 ビデオ画像を表現する符号化ビデオ信号から低解像度2:1ダウンコンバートされたビデオ信号を形成する装置を提供することが課題である。
【解決手段】 ビデオ画像を表現する符号化ビデオ信号から低解像度ビデオ信号を形成する装置であって、該符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する受信手段と、該複数の高解像度周波数ドメインビデオ係数値を受信し、重みづけを行うダウンコンバージョンフィルタ手段と、該ローパスフィルタリングされた周波数ドメインビデオ係数のセットを受信し、第1の画素値のセットへ変換する逆変換手段と、該第1の画素値のセットを受信し、該第1の画素値のセット内の選択された該画素値を、平均化画素値へ変換する平均化フィルタ手段と、該第2の画素値のセット内の選択された該画素値を消去する間引き手段と、を含む装置により上記課題が達成される。
【選択図】図2A

Description

本発明は、符号化された高解像度ビデオ信号(例えばMPEG−2符号化ビデオ信号)を復号化されたより低い解像度の出力ビデオ信号へ変換、およびフォーマットする復号器に関し、より詳細には、該復号器用の2:1ダウンコンバージョンシステムに関する。
米国では、デジタル形式で符号化された高精細度テレビ信号(HDTV)のための規格が提案されている。この規格の一部は、必然的にMPEG−2規格と同じであり、国際標準化機構(ISO)のMoving Picture Experts Group(MPEG)により提案された規格である。この規格は、「Information Technology−Generic Coding of Moving Pictures and Associated Audio, Recommendation H.626」ISO/IEC 13818−2,IS,11/94と題する国際標準(IS)の刊行物に記載されており、これはISOから入手可能であり、本明細書中においてMPEG−2デジタルビデオ符号化規格の教示のために参考として援用する。
MPEG−2規格は、実際にはいくつかの種類の規格である。MPEG−2規格において、いくつかの異なるプロファイルが規定され、それぞれが符号化画像の複雑性の異なるレベルに対応している。各プロファイルには異なるレベルが規定されており、各レベルは異なる画像解像度に対応する。メインプロファイル、メインレベルとして知られるMPEG−2規格の1つでは、現存のテレビ規格(すなわちNTSCおよびPAL)と一致する符号化ビデオ信号として企図される。メインプロファイル、ハイレベルとして知られる別の規格では、符号化高精細度テレビ画像として企図される。メインプロファイル、ハイレベル規格により符号化された画像は、1画像フレームにつき1,152ものアクティブライン、および1ラインにつき1,920もの画素を有し得る。
一方、メインプロファイル、メインレベル規格は、1ラインにつき720画素、および1フレームにつき576ラインの最大画素サイズを規定している。1秒につき30フレームのフレーム速度において、この規格により符号化された信号は、1秒につき72057630または12,441,600画素のデータ速度を有する。対照的に、メインプロファイル、ハイレベル規格により符号化された画像は、1秒につき1,1521,92030または66,355,200画素の最大データ速度を有する。このデータ速度は、メインプロファイル、メインレベル規格により符号化された画像のデータ速度の5倍よりも大きい。米国においてHDTV符号化のために提案される規格は、この規格のサブセットであり、これは1フレームにつき1,080ものライン、1ラインにつき1,920もの画素、およびこのフレームサイズとして、1秒につき30フレームもの最大フレーム速度を有する。この提案された規格用の最大データ速度は、メインプロファイル、メインレベル規格用の最大データ速度よりも、依然はるかに大きい。
MPEG−2規格は、データおよび制御情報の組合せを含む複雑なシンタックスを規定する。この制御情報のいくつかは、いくつかの異なるフォーマットを有する信号が、規格により変換され、得るように用いられる。これらのフォーマットは、1ライン毎に異なる数の絵素(画素)、フレームまたはフィールド毎に異なる数のライン、および1秒毎に異なる数のフレームまたはフィールドを有する画像を規定する。さらに、MPEG−2メインプロファイルの基本的なシンタックスは、圧縮されたMPEG−2ビットストリームを規定する。このストリームは、シーケンス層、ピクチャ層のグループ、ピクチャ層、スライス層、およびマクロブロック層の5層に分かれて画像のシーケンスを表す。これらの各層は、制御情報と共に導入される。最後に、サイド情報(例えばフレームタイプ、マクロブロックパターン、画像動きベクトル、係数ジグザグパターン、および逆量子化情報)としてもまた知られる他の制御情報は、符号化されたビットストリームに散在している。
ダウンコンバージョンシステムは、高精細度入力ピクチャを低解像度ピクチャへ、低解像度モニタ上のディスプレイのために変換する。高解像度メインプロファイル、ハイレベルピクチャから、メインプロファイル、メインレベルピクチャ、もしくは他のより低い解像度ピクチャフォーマットへのダウンコンバージョンは、HDTVの実現コストを削減する重要性が増してきている。ダウンコンバージョンは、メインプロファイル、ハイレベル符号化ピクチャと共に用いられる高価な高精細度モニタを、より低いピクチャ解像度を有する安価な現存のモニタと置き換えることにより、例えばNTSCまたは525プログレッシブモニタのようなメインプロファイル、メインレベル符号化ピクチャを補助することを可能にする。
効果的にデジタル画像を受信するために、復号器はビデオ信号情報を急速に処理すべきである。最も効果的にするためには、符号化システムは、比較的安価であって、尚かつそれらのデジタル信号をリアルタイムで復号化するのに十分な能力を備えているべきである。
従来技術のダウンコンバージョンのある方法は、復号化高解像度メインプロファイル、ハイレベルピクチャを単にローパスフィルタにかけて間引きし、従来のテレビレシーバ上のディスプレイに適した画像を形成する。結果として、現存の技術を用い、ダウンコンバージョンを採用する復号器は、複雑な設計、相当量のメモリを有する単一プロセッサを用いることにより実現され得、この機能を実現するために空間ドメイン画像上で高データ速度において作動する。しかし、この高解像度および高データ速度は、非常に高価な回路機構を必要とし、これはコストが主要な要因となる消費者用テレビレシーバ内の復号器を実現するには矛盾している。
本発明によるビデオ画像を表現する符号化ビデオ信号から低解像度ビデオ信号を形成する装置(該符号化ビデオ信号は周波数ドメイン変換高解像度ビデオ信号である)は、該符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する受信手段と、ローパスフィルタリングされた周波数ドメインビデオ係数のセットを形成するために、該複数の高解像度周波数ドメインビデオ係数値を受信し、重みづけを行うダウンコンバージョンフィルタ手段と、該ローパスフィルタリングされた周波数ドメインビデオ係数のセットを受信し、第1の画素値のセットへ変換する逆変換手段と、該第1の画素値のセットを受信し、該第1の画素値のセット内の選択された該画素値を、平均化画素値へ変換する平均化フィルタ手段であって、該平均化画素値を含む第2の画素値のセットを供給する、手段と、該低解像度ビデオ信号を供給するために、該第2の画素値のセット内の選択された該画素値を消去する間引き手段とを含み、それにより上記目的が達成される。
低解像度ビデオ信号を形成する装置は、前記平均化フィルタ手段が、前記第1の画素値のセット内の全ての前記画素値を、平均化画素値へ変換してもよい。
低解像度ビデオ信号を形成する装置は、前記平均化フィルタ手段が、前記第1の画素値セット内の前記画素値の内、連続したペアのみを平均化画素値へ変換し、前記第2の画素値のセットが該平均化画素値のみを含み、よって該平均化手段が前記間引き手段を含んでもよい。
低解像度ビデオ信号を形成する装置は、前記符号化ビデオ信号が、動き予測を備える残差ビデオ画像を表現し、該装置は、前出フレームの動き補償ビデオ信号成分を、前記残差ビデオ画像の前記平均化画素値を含む前記第2の画素値のセットに加える合計手段であって、合計された画素値のセットを供給する手段をさらに含み、前記間引き手段が、選択された該合計された画素値のセットを消去し、前記低解像度ビデオ信号を供給してもよい。
低解像度ビデオ信号を形成する装置は、前記受信手段は、前記符号化ビデオ信号を受信し、高解像度周波数ドメインビデオ係数値のブロックを前記ダウンコンバージョンフィルタ手段に供給し、該ダウンコンバージョンフィルタ手段は、該高解像度周波数ドメインビデオ係数値のブロックを受信し、重みづけされた周波数ドメインビデオ係数のブロックを発生し、前記逆変換手段は、該重みづけされた周波数ドメインビデオ係数のブロックを第1の画素値のブロックへ変換し、前記平均化フィルタ手段は、該第1の画素値のブロック内において選択された該画素値を平均化画素値へ変換することにより、該第1の画素値のブロックを第2の画素値のブロックへ変換し、前記間引き手段は、該第2の画素値のブロックから、選択された該画素値を消去し、前記低解像度ビデオ信号を供給してもよい。
低解像度ビデオ信号を形成する装置は、前記受信手段が、前記符号化ビデオ信号を受信し、高解像度周波数ドメインビデオ係数値のブロックを前記ダウンコンバージョンフィルタ手段に供給し、該ダウンコンバージョンフィルタ手段は、該高解像度周波数ドメインビデオ係数値のブロックを受信し、重みづけされた周波数ドメインビデオ係数のブロックを発生し、前記逆変換手段は、該重みづけされた周波数ドメインビデオ係数のブロックを第1の画素値のブロックへ変換し、前記平均化フィルタ手段は、該第1の画素値のブロック内における該画素値の全てを平均化画素値へ変換することにより、該第1の画素値のブロックを第2の画素値のブロックへ変換し、前記間引き手段は、該第2の画素値のブロックの選択された平均化画素値を消去する間引き手段であって、前記低解像度ビデオ信号を供給するしてもよい。
低解像度ビデオ信号を形成する装置は、前記ダウンコンバージョンフィルタ手段が、空間ドメインにおいてブロックミラーフィルタと同等であってもよい。
低解像度ビデオ信号を形成する装置は、前記受信手段が、高解像度周波数ドメインビデオ係数値のN×Nブロックを前記ダウンコンバージョンフィルタに供給し、前記平均化フィルタ手段が、以下の式による画素値を処理し、
Figure 2004312765
ここでx(i)は該画素値のN×Nブロックの水平な行における入力画素を表し、α(i)は対応平均化画素値を表し、前記第2の画素値のブロックが平均化画素値α(i)のみを含み、よって該平均化手段は前記間引き手段を含んでもよい。
低解像度ビデオ信号を形成する装置は、前記平均化フィルタ手段が双線形フィルタ(bi−linear filter)であってもよい。
低解像度ビデオ信号を形成する装置は、前記符号化ビデオ信号が、動き予測を備える残差ビデオ画像を表現し、該装置は、該符号化ビデオ信号の前出フレームに対応する低解像度間引きビデオ信号を格納するメモリ手段と、該格納された低解像度間引きビデオ信号を、該前出フレームに対応する低解像度動き補償ビデオ信号画素値のブロックへ変換するアップサンプリング手段と、該前出フレームに対応する該低解像度動き補償ビデオ信号画素値のブロックを、前記第2の画素値のブロックに加える合計手段であって、合計された画素値のブロックを供給する、手段とを含み、前記間引き手段が、該合計された画素値のブロックから選択された画素値を消去してもよい。
低解像度ビデオ信号を形成する装置は、前記アップサンプリング手段が、ラグランジュ補間を用いて、前記前出フレームに対応する前記格納された低解像度間引きビデオ信号を、該前出フレームに対応する前記低解像度動き補償ビデオ信号画素値のブロックへ変換してもよい。
本発明によるビデオ画像を表現する符号化ビデオ信号から低解像度ビデオ信号を形成する方法(該符号化ビデオ信号は周波数ドメイン変換高解像度ビデオ信号である)は、(a) 該符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する工程と、(b) ローパスフィルタリングされた周波数ドメインビデオ係数のセットを形成するために、該複数の高解像度周波数ドメインビデオ係数値のセットに重みづけを行う工程と、(c) 該ローパスフィルタリングされた周波数ドメインビデオ係数のセットを第1の画素値のセットへ変換する工程と、(d) 第1の画素値のセットにおいて選択された該画素値を、平均化画素値へ変換し、該平均化画素値を含む第2の画素値のセットを供給する工程と、(e) 該低解像度ビデオ信号を供給するために、該第2の画素値のセットにおいて選択された該画素値を消去する工程とを含み、それにより上記目的が達成される。
低解像度ビデオ信号を形成する方法は、工程(d)において、前記第1の画素値のセット内における全ての画素値が、平均化画素値へ変換されてもよい。
低解像度ビデオ信号を形成する方法は、工程(d)において、後に工程(e)で消去されない前記画素値のみが、平均化画素値へ変換されてもよい。
低解像度ビデオ信号を形成する方法は、前記符号化ビデオ信号が動き予測を備える残差ビデオ信号を表現し、該方法は、合計された画素値のセットを供給するために、前出フレームの動き補償ビデオ信号成分を、該残差ビデオ画像の前記平均化画素値を含む、前記第2の画素値のセットに加える工程をさらに含み、該低解像度ビデオ信号を供給するために、該合計された画素値のセットの選択されたものが消去されてもよい。
低解像度ビデオ信号を形成する方法は、工程(a)において、前記符号化ビデオ信号が前記ビデオ画像の画素のブロックを表現する高解像度周波数ドメインビデオ係数値のブロックとして受信され、工程(b)において、該高解像度周波数ドメインビデオ係数値のブロックが、重みづけされた周波数ドメインビデオ係数のブロックを形成するように重みづけされ、工程(c)において、該重みづけされた周波数ドメインビデオ係数のブロックが第1の画素値のブロックへ変換され、
工程(d)において、該第1の画素値のブロック内における選択された該画素値が平均化画素値へ変換され、平均化画素値を含む第2の画素値のブロックが供給され、工程(e)において、前記低解像度ビデオ信号を発生するために、非平均化画素値が該平均化画素値のブロックから消去されてもよい。
低解像度ビデオ信号を形成する方法は、工程(d)において、前記動きアーチファクトを減少するために、前記第1の画素値のブロック内における全ての前記画素値が平均化画素値へ変換され、工程(e)において、前記低解像度ビデオ信号を発生するために、前記第2の画素値のブロックの選択された平均化画素値が消去されてもよい。
低解像度ビデオ信号を形成する方法は、工程(b)における前記高解像度周波数ドメインビデオ係数値を前記重みづけする工程が、空間ドメインにおけるブロックミラーフィルタリングと同等であってもよい。
低解像度ビデオ信号を形成する方法は、前記符号化ビデオ信号が動き予測備える残差ビデオ信号を表現し、該方法は、(f) 該符号化信号の前出フレームに対応する低解像度間引きビデオ信号を格納する工程と、(g) 格納された該低解像度間引きビデオ信号を、該前出フレームに対応する低解像度動き補償ビデオ信号画素値のブロックへ変換する工程と、(h) 合計された画素値のブロックを供給するために、該前出フレームに対応する低解像度動き補償ビデオ信号画素値のブロックを、画素値の前記第2のブロックへ加える工程とをさらに含み、工程(e)において、前記低解像度ビデオ信号を供給するために、該合計された画素値のブロックから選択された画素値が消去されてもよい。
低解像度ビデオ信号を形成する方法は、工程(g)において、ラグランジュ補間が、前記前出フレームに対応する前記格納された低解像度間引きビデオ信号を、該前出フレームに対応する低解像度動き補償ビデオ信号画素値のブロックへ変換するために使用されてもよい。
本発明によるビデオ画像を表現する符号化ビデオ信号から低解像度ビデオ信号を形成する装置(該符号化ビデオ信号は周波数ドメイン変換高解像度ビデオ信号である)は、該符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する受信手段と、周波数ドメインビデオ係数のセットを形成するために、該複数の高解像度周波数ドメインビデオ係数値の選択されたものを受信し、重みづけするダウンコンバージョンフィルタ手段と、該周波数ドメインビデオ係数のセットを受信し、第1の画素値のセットへ変換する逆変換手段と、該第1の画素値のセットを受信し、該第1の画素値のセットにおいて選択された該画素値を、平均化画素値へ変換する平均化フィルタ手段であって、該平均化画素値を含む第2の画素値のセットを供給する、手段と、前記低解像度ビデオ信号を供給するために、該第2の画素値のセットにおいて選択された該画素値を消去する間引き手段とを含み、それにより上記目的が達成される。
ビデオ画像を表現する符号化ビデオ信号から低解像度2:1ダウンコンバートされたビデオ信号を形成する装置。符号化ビデオ信号は、周波数ドメイン変換高解像度ビデオ信号である。装置は、符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する手段を含む。ダウンコンバージョンフィルタ手段は、選択された高解像度周波数ドメインビデオ係数値を受信し、重みづけし、周波数ドメインビデオ係数のセットを形成し、逆変換手段はこのセットを画素値のセットへ変換する。平均化フィルタ手段は、画素値のセットにおいて選択された画素値を、平均化画素値へ変換する。間引き手段は、選択された画素値のセットを消去し、低解像度ビデオ信号を供給する。
本発明のこれらおよび他の特徴ならびに利点は、添付の図面に関連して以下の詳細な説明において明らかとなる。
ビデオ画像を表現する符号化ビデオ信号から低解像度2:1ダウンコンバートされたビデオ信号を形成する装置が提供される。符号化ビデオ信号は、周波数ドメイン変換高解像度ビデオ信号である。装置は、符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する手段を含む。ダウンコンバージョンフィルタ手段は、選択された高解像度周波数ドメインビデオ係数値を受信し、重みづけし、周波数ドメインビデオ係数のセットを形成し、逆変換手段はこのセットを画素値のセットへ変換する。平均化フィルタ手段は、画素値のセットにおいて選択された画素値を、平均化画素値へ変換する。間引き手段は、選択された画素値のセットを消去し、低解像度ビデオ信号を供給する。
I.復号器概要
本発明の例示的な実施形態は、MPEG−2規格(特に、メインプロファイル、ハイレベルMPEG−2規格)により符号化されている符号化HDTV信号をフィルタにかける。
しかし、本明細書中に記載された本発明は、符号化HDTV信号のダウンコンバージョンフィルタリングに限定されない。以下に記載されたフィルタリング方法は、周波数ドメイン符号化デジタル信号(これはフィルタにかけられ、そして再結合されるというセクションに分けられ得る)の他のタイプをもまたフィルタにかけるために用いられ得る。
MPEG−2メインプロファイル規格は、シーケンスレベル、ピクチャレベルのグループ、ピクチャレベル、スライスレベル、およびマクロブロックレベルと5つのレベルに分かれて、画像のシーケンスを規定する。これらの各レベルは、後段レベルが前段レベルの入れ子状態であるサブレベルを備えた、データストリーム内の記録であると考えられ得る。各レベルの記録は、そのサブ記録を復号化する際に用いられるデータを含むヘッダセクションを含む。
マクロブロックは、6つのブロック、4輝度ブロックYおよび2色差ブロックであるCrおよびCbから構成される。符号化されたHDTV信号の各ブロックは、HDTV画像内の64絵素(画素)の二次元離散コサイン変換(DCT)表示における64個の各係数値を表すデータを含む。
符号化プロセスにおいて、画素データは、離散コサイン変換に先立って、動き補償された差分符号化の影響下にあり、そして転換された係数のブロックは、ランレングスおよび可変長符号化技術を適用することによりさらに符号化される。データストリームから画像シーケンスを復元する復号器は、符号化プロセスを逆転する。この復号器は、エントロピー復号器(例えば、可変長復号器)、逆離散コサイン変換プロセッサ、動き補償プロセッサ、および補間器フィルタを利用する。
図1は、従来技術の典型的なビデオ復号化システムのハイレベルブロック図である。従来技術のビデオ復号化は、エントロピー復号器110(これは通常可変長復号器およびランレングス復号器である)、逆量子化器120、および逆離散コサイン変換(IDCT)プロセッサ130を含む。また例示的なシステムは、制御器170をも含み、これはエントロピー復号器110による入力ビットストリームから得られる制御情報に応答した復号化システムの多様な成分を制御する。予測画像の処理のため、従来技術システムはさらに、メモリ160、加算器140、動き補償プロセッサ150、およびブロック−ラスタ変換器(block to raster converter)180を含む。
可変長復号器110は、符号化ビデオ画像信号を受信し、符号化プロセスを逆転し、前に復号化された画像内の整合性マクロブロックの相対的な置換を描写する、動きベクトルを含む制御情報を生成する。この整合性マクロブロックは、現行で復号化されている予測ピクチャのマクロブロックに対応する。可変長復号器110は、イントラフレーム符号化が用いられる場合の現行ビデオ画像(これは残差ビデオ画像として言及される)、もしくはインターフレーム符号化が用いられる場合の現行および予測ビデオ画像間の差分の内いずれかのブロックの量子化DCT変換係数をもまた受信する。逆量子化器120は量子化されたDCT変換係数を受信し、特定のマクロブロック用に量子化されたDCT係数を再構築する。特定のブロック用に用いられようとする量子化マトリックスは、可変長復号器110から受信される。
IDCTプロセッサ130は、再構築されたDCT係数を、空間ドメイン内の画素値へ(マクロブロックの輝度または色差成分を表す8×8マトリックス値の各ブロック用に、そして予測マクロブロックの差分輝度または差分色差成分を表す8×8マトリックス値の各ブロック用に)変換する。
現行マクロブロックが予測的に符号化されない場合には、出力マトリックス値は現行ビデオ画像の対応マクロブロックの画素値である。マクロブロックがインターフレーム符号化される場合は、前出のビデオピクチャフレーム(基準フレーム)の対応マクロブロックは、動き補償プロセッサ150による使用のためにメモリ160内に格納される。動き補償プロセッサ150は、動きベクトル(これはエントロピー復号器110から受信される)に応答したメモリ160から前出のマクロブロックを受信する。動き補償プロセッサ150は、その後、前出のマクロブロックを、加算器140において現行IDCT変換マクロブロック(現在の予測的符号化フレームの残差成分に対応している)へ加え、現行ビデオ画像のための画像の対応マクロブロックを生成し、そしてメモリ160内へ格納される。
II.ダウンコンバージョンシステム
A.概要
図2Aは、ダウンコンバージョンシステムの例示的な実施形態のハイレベルブロック図である。図2Aに示されるように、ダウンコンバージョンシステムは、可変長復号器(VLD)210、ランレングス(R/L)復号器212、逆量子化器214、および逆離散コサイン変換(IDCT)プロセッサ218を含む。さらに、ダウンコンバージョンシステムは、ダウンコンバージョンフィルタ(DCTフィルタ)216、平均化フィルタ240、およびダウンサンプリングプロセッサ232を、符号化されたピクチャのフィルタリングのために含む。以下にはメインプロファイル、ハイレベル符号化入力のための例示的な実施形態が記載されている一方で、ダウンコンバージョンシステムは、いかなる類似の符号化高解像度画像ビットストリームをもって実現され得る。
ダウンコンバージョンシステムはまた、動きベクトル(MV)トランスレータ220、高解像度動きブロック発生器224(これはアップサンプリングプロセッサ226、半画素発生器228、および基準フレームメモリ222を含む)をも含む。
さらにシステムは、垂直プログラマブルフィルタ(VPF)282および水平プログラマブルフィルタ(HZPF)284を含む、ディスプレイコンバージョンブロック280を含む。ディスプレイコンバージョンブロック280は、ダウンサンプル化画像を、より低い解像度を有する特定のディスプレイ上のディスプレイのための画像へ変換する。
ダウンコンバージョンフィルタ216は、周波数ドメイン内で、高解像度(例えばメインプロファイル、ハイレベルDCT)係数のローパスフィルタリングを行う。ダウンサンプリングプロセッサ232は、空間画素値をローパスフィルタにかけられたメインプロファイル、ハイレベルピクチャの間引きにより除去し、メインプロファイル、ハイレベルピクチャを表示するために必要とされる解像度よりも低い解像度を有するモニタ上で表示され得るような画素値の1つのセットを生成する。例示的基準フレームメモリ222は、ダウンサンプル化ピクチャに対応する解像度を有する少なくとも1つの前に復号化された基準フレームに対応する空間画素値を格納する。非イントラマクロブロック符号化のために、MVトランスレータ220は解像度における減算と一致した受信ピクチャの各ブロックのために動きベクトルをスケールする。そして低解像度動きブロック発生器224は、基準フレームメモリ222により供給された間引きされた低解像度動きブロックを受信し、これらの動きブロックをアップサンプル化し、半画素値を発生して半画素精度(復号化およびフィルタリングされた差分画素ブロックへの良好な空間対応を示す)において動きブロックを供給する。
イントラマクロブロック符号化のためのダウンコンバージョンシステムのこの例示的な実施形態の操作が、ここで説明される。メインプロファイル、ハイレベルビットストリームは、VLD210により受信され、復号化される。HDTVシステムにより用いられるヘッダ情報に加えて、VLD210は各ブロックおよびマクロブロックのためのDCT係数および動きベクトル情報を供給する。DCT係数は、R/L復号器212においてランレングス復号化され、および逆量子化器214により逆量子化されている。VLD210およびR/L復号器212は、図1のエントロピー復号器110に対応している。
DCT係数により表現される受信ビデオ画像が高解像度ピクチャであることから、各ブロックのDCT係数は高解像度ビデオ画像の間引き前にローパスフィルタにかけられる。逆量子化器214は、DCT係数をDCTフィルタ216に供給し、このフィルタ216は、周波数ドメイン内において、DCT係数をIDCTプロセッサ218に供給する前に、所定のフィルタ係数値と共にDCT係数に重みを与えることにより、ローパスフィルタリングを行う。例示的な実施形態において、このフィルタ操作は、ブロック単位でブロック上で行われる。
IDCTプロセッサ218は、フィルタリングされたDCT係数の逆離散コサイン変換を行うことにより、空間画素値を供給する。平均化フィルタ240は、空間画素サンプル値を平均化する。ダウンサンプリングプロセッサ232は、所定の間引き比率による空間画素サンプル値を削除することによりピクチャサンプルサイズを縮小する。従って、より低い解像度ピクチャの格納は、より高い解像度であるメインプロファイル、ハイレベルピクチャを格納するために必要とされるものよりも、より小さなフレームメモリ222を使用する。
非イントラマクロブロック符号化のためのダウンコンバージョンシステムのこの例示的な実施形態の操作が、ここで説明される。この例示的な実施形態において、MPEG規格に従い、現行受信画像のDCT係数は、予測画像マクロブロックの残差成分のDCT係数を表す。動きベクトルの水平成分はスケールされる。なぜなら、メモリ内に格納された前出のフレームの低解像度標準ピクチャが高解像度予測フレーム(メインプロファイル、ハイレベル)と同じだけの画素の数を有さないためである。
図2Aを参照すると、VLD210によって提供されたメインプロファイル、ハイレベルビットストリームの動きベクトルは、MVトランスレータ220へ供給される。各動きベクトルはMVトランスレータ220によりスケールされ、基準フレームメモリ222内に格納された前出の画像の基準フレームの適した予測ブロックを参照する。得られたブロック内におけるサイズ(画素値の数)は、現行画像を符号化するために用いられる対応高解像度ブロックのブロックよりも小さい。結果として、検索されたブロックは、アップサンプル化され、IDCTプロセッサ218により供給された残差ブロックと同じだけの画素の数を有する予測ブロックを形成する。
予測ブロックは、MVトランスレータ220からの制御信号に応答してアップサンプリングプロセッサ226によりアップサンプル化され、画素の最初の高解像度ブロックに対応するブロックを発生する。その後、半画素値が発生し(半画素値発生器228内のアップサンプル化予測ブロック用に動きベクトルにより示されるならば)、予測ブロックの適切な空間整列を確実にする。アップサンプル化され整列した予測ブロックは、加算器230内において現行フィルタリングされたブロック(この場合の例としては、予測ブロックから低下した解像度残差成分)が加えられる。すべての処理は、マクロブロック内でマクロブロック単位でなされる。動き補償プロセスが、アップサンプリングドメイン内の現行マクロブロックのために終了した後、再構築されたマクロブロックは、ダウンサンプリングプロセッサ232においてそれに応じて間引きされる。このプロセスは、画像の解像度を低下させずに、単に低解像度フィルタリングされた画像からの冗長画素を取り除く。
一度、画像のためのダウンサンプル化マクロブロックが利用可能になると、ディスプレイコンバージョンブロック280は、低解像度テレビディスプレイ上のディスプレイのための画像に、VPF282およびHZPF284のそれぞれにおいて、ダウンサンプル化画像の垂直および水平な成分をフィルタにかけることにより適合する。
B.平均化フィルタ
図2AのDCTフィルタ216は、IDCTプロセッサ218にDCT係数を供給する前に、それらを所定のフィルタ係数値で重みづけをすることにより、周波数ドメイン内でローパスフィルタリングを行う。DCTフィルタ216により行われるローパスフィルタリングは、出力画像におけるエイリアシング歪みを減少する。
本発明の例示的な実施形態では、DCTフィルタ216がイントラブロック単位でフィルタを行う際、フィルタリングは、フィルタにかけられているブロックに近位のブロックに対応する係数値を有さずに行われる。このことは、ブロック境界における滑らかでないフィルタリングが原因で、ダウンコンバージョンのアーチファクトを含む出力画像をもたらし得る。これらのダウンコンバージョンアーチファクトは、特に、最初の画像が上質な細部を有する動画からなる場合、ならびにスローパニングおよびズーミングがある場合に、出力画像において目に見え得る。
例示的な実施形態において、DCT216は線形シフト不変(linear shift invariant)ではなく、空間ドメイン内のブロックミラーフィルタと同等である。このブロックミラーは、FIRフィルタとしてDCT係数のブロックの中心にある画素において機能するが、ブロック境界においては異なる。なぜなら、このブロックミラーフィルタは、ブロック境界を越えた左右の画素をミラーリングしたと想定し、その後これら入力画素をフィルタにかけ、ローパス出力を獲得する。この例示的な実施形態はまた、ブロック境界における滑らかでないフィルタリングが原因で、ダウンコンバージョンアーチファクトを含む出力画像を生じ得る。
図2Aに示されるこの平均化フィルタ240は、線形シフト不変であり、これらダウンコンバージョンアーチファクトを減少するように設計され得る。2:1ダウンコンバージョンシステムの例示的な実施形態において、平均化フィルタ240は、2つのタップフィルタであり、これはIDCTプロセッサ218が再構築されたDCT係数を空間ドメイン内の画素値へ変換した後に、2つの画素を平均化する。
DCT符号化が8×8画素ブロック上で行われる場合、および平均化フィルタ240が水平な2:1間引きダウンコンバージョンシステム用にブロック内フィルタリングを行う場合の例示的な実施形態が、以下に記される。当業者には公知のように、本発明の教示は他の次元においても適用され得る。
8×8ブロックの入力画素の水平な行を
X=[x
と標識化し、かつ対応8×8ブロックの出力画素の水平な行を
A=[αααααααα
と標識化し、出力画素Aは以下の式(1)から(4)により規定される。
α=(x+x)/2; (1)
α=(x+x)/2; (2)
α=(x+x)/2; (3)
α=(x+x)/2; (4)
上記式(1)から(4)を特徴とするフィルタの周波数応答(dB 対 周波数であって、ここでπはサンプリング周波数の2分の1である)は、図2Bにおいて曲線260により示される。
上記の例において、α、α、α、およびαは、ダウンサンプリングプロセッサ232により捨てられ、フィルタは、Nが行における画素の数である(上記の例においては8である)式(5)および(6)での以下の特性の内、いずれかのように実行され得る。
Figure 2004312765
または
Figure 2004312765
C.マクロブロック予測
前出の画像の基準フレームがダウンサイズされることから、これらのフレームを指向する受信動きベクトルもまた、コンバージョン比率によりトランスレイションされ得る。動きトランスレイション(例えば水平方向における輝度ブロック)について、以下に説明される。垂直方向における動きトランスレイションが使用されるならば、当業者により以下の説明から容易に応用される。最初の画像フレーム内の現行マクロブロックアドレスをxおよびy、水平間引き要素をDx、最初の画像フレームの半画素水平動きベクトルをmvで表すと、半画素ユニット内でXHで表される、最初の画像フレーム内の動きブロックの左上の画素のアドレスは、以下の(7)により得られる。
XH=2x+mv(7)
動きブロックに対応する画素はダウンサンプル化画像内で始まり、そのアドレスは以下の(8)において得られる画素ユニット内でxおよびyで表される。
Figure 2004312765
例示的なDCTフィルタ216およびダウンサンプリングプロセッサ232が、画像の水平成分のみを減少するために、動きベクトルの垂直成分は影響を受けない。色差としては、動きベクトルは最初のピクチャ内の輝度動きベクトルの2分の1である。従って、色差分きベクトルをトランスレイションするための定義もまた、2つの式(7)および(8)を用い得る。
2つの工程プロセスにより動き予測が行われる。まず、図2Aのアップサンプリングプロセッサ226においてダウンサンプル化画像フレームをアップサンプリングすることにより、最初の画像フレーム内の画素精度動き推定が復元され、次に半画素発生器228が最近位の画素値の平均化により半画素動き推定を行う。
最初のピクチャ内の画素に対応する間引きピクチャ内の下位画素は、例えばアップサンプリングプロセッサ226においてアップサンプリング多相フィルタを用いて取り込まれ、最初のピクチャ内の動き予測を与える。加算器230において、動き予測がIDCTプロセッサ218の出力信号へ加えられる。加算器230の出力値が、最初のピクチャフォーマット内の低下解像度画像に対応することから、これらの値はより低い解像度を有するディスプレイ上でのディスプレイの用にダウンサンプル化され得る。ダウンサンプリングプロセッサ232におけるダウンサンプリングは、実質的に画像フレームのサブサンプリングと同等であるが、コンバージョン比率に基づいて調整され得る。例えば、3:1のダウンサンプリングの場合において、水平にダウンサンプル化された画素の数は、各入力マクロブロックにつき6または5であり、また第1のダウンサンプル化画素は、常に入力マクロブロック内の第1の画素であるわけではない。
ダウンサンプル化画像から正しい動き予測ブロックを獲得した後、アップサンプリングが最初のピクチャ内の対応予測ブロックを得るために必要とされる。結果として、動きブロック予測内の下位画素精度は、ダウンサンプル化ピクチャ内においては望ましい。動きベクトルが必要とする第1の画素である下位画素は、ダウンサンプル化動きブロックに加えて決定される。そして、後の下位画素位置が、以下に記載されるようなモジューロ演算を用いて決定される。下位画素位置は、以下の(9)において得られるXで表される。
Figure 2004312765
ここで「%」はモジューロ除算を意味する。
例えば、Xの範囲は、2:1のアップサンプリングでは0,1である。図3Aは下位画素位置、ならびに2:1アップサンプリングにおける対応17個の予測画素を示し、表1は図3Aの記号の説明である。
Figure 2004312765
すでに記載したように、アップサンプリングフィルタはアップサンプリング多相フィルタであり得、表2Aは、これらアップサンプリング多相補間フィルタの特性を示す。
Figure 2004312765
以下の表2Bは、例示的な2:1のアップサンプリング多相フィルタのための多相フィルタ係数を示す。
Figure 2004312765
固定点表示において、表2Bの括弧内の数字は、左にある対応倍精度数を備えた9ビットにおける2の補数表示である。ダウンサンプル化標準画像フレーム内の動き予測ブロックの下位画素位置に依存すると、多相補間フィルタの相に対応するものが用いられる。また、例示的な実施形態では、左および右にあるより多くの画素が、ダウンサンプル化画像フレーム内の17個の水平画素を補間するために必要とされる。例えば、3:1の間引きの場合において、各入力マクロブロックにつき最大6個の水平ダウンサンプル化画素がある。しかし、アップサンプリングする際、9個の水平画素が対応動き予測ブロック値を生成するために必要とされる。なぜなら、アップサンプリングフィルタが、フィルタが作動する境界外で、左および右のより多くの画素を要求するためである。例示的な実施形態が半画素動き推定を利用することから、16個の半画素を得るために17個の画素が必要とされ、この16個の半画素とは、最初の16個の整数画素、あるいは最近位の2つの画素値の平均値のいずれかであり得る。半画素動き発生器が、このことを扱う。表3は、下位画素位置と多相フィルタ要素との間のマッピング、および左の画素(アップサンプリングプロセスのために追加で必要とされる)の数を表す。
Figure 2004312765
図3Bは、入力マクロブロックの各行で行われるアップサンプリングプロセスの概要を示す。初めに、工程310において、処理中の入力画像フレームのブロック用の動きベクトルが受信される。工程312において、動きベクトルはメモリ内のダウンサンプル化基準フレームに対応するようにトランスレイションされる。工程314において、スケールされた動きベクトルが、フレームメモリ内に格納された予測ブロックの座標を取り出すために用いられる。工程316において、ブロック用の下位画素点が決定され、そして工程318において、アップサンプリングのための初期多相フィルタ値が取り出される。格納されたダウンサンプル化基準フレームの予測ブロック用の照合された画素は、工程320においてメモリから取り出される。
フィルタリング工程324における第1パスの前に、工程322においてレジスタが初期化され、これは例示的な実施形態では、初期の3または5画素値を備えるレジスタをロードすることを伴う。そして、フィルタリング工程324の後、工程326においてプロセスは、全ての画素が処理されたかどうかを判定する。例示的な実施形態において、17個の画素が処理される。全ての画素が処理された場合、アップサンプル化ブロックは終了する。全ての画素の処理が終わっていない場合、相は工程328においてアップデートされ、相は0値として確認される。相が0の場合、レジスタは多相フィルタ係数の次のセットのためにアップデートされなければならない。そしてレジスタをアップデートする工程332は、入力画素を単にアップデートする。最も左の画素がブロック境界外にある例外的な事例では、前出の画素値が繰り返され得る。
符号化ストラクチャが、複数のイントラ符号化フレーム間で、多くの予測フレームから成る場合、ダウンコンバージョンピクチャ内のスローに動く最初の画像の再現は、結果的に動きアーチファクトを有する予測フレームとなり得る。このことは、減少した解像度、および/または最初の画像の前もしくは後の動きを有する再現されたダウンコンバージョンピクチャを生む。次のイントラ符号化フレームがディスプレイされると、動きアーチファクトを有するダウンコンバージョン予測ピクチャと精密に再現されたピクチャとの間の差異は、視聴者へ滑らかでない動きをもたらすことになる。例えば、予測フレームが最初の画像の動きの前にある場合、次のイントラ符号化フレームは、動きがそこで逆戻りしているような印象を視聴者に与え得る。
例示的な実施形態において、図2Aのダウンコンバージョンシステムは、アップサンプリングプロセッサ226を含み、このアップサンプリングプロセッサは、ダウンサンプリングプロセッサ232により間引きされた画素を補間するためにラグランジュフィルタを用いる。ラグランジュ補間は当業者には周知であり、本明細書中において参考として援用しているAtkinsonによる「An Introduction to Numerical Analysis」107−10(1978年)により教示されている。ラグランジュフィルタを用いることは、等リプルフィルタを用いることと比べ、上述された動きアーチファクトを減少する。
D.DCT係数の重みづけを利用するDCTドメインフィルタリング
ダウンコンバージョンシステムの例示的な実施形態は、周波数ドメインにおいてDCT係数を処理するDCTフィルタ216を含み、これは空間ドメイン内のローパスフィルタに取って代わる。DCT符号化ピクチャ(例えば、MPEGまたはJPEG規格により企図されるピクチャ)用の空間ドメインフィルタリングの代わるDCTドメインフィルタリングにはいくつかの利点がある。DCTドメインフィルタは、最も顕著に計算的により効果的であり、空間画素に適用される空間ドメインフィルタよりも少ないハードウェアを必要とする。例えば、Nタップを有する空間フィルタは、各空間画素サンプル値のN乗算およびN加算だけ使用し得る。このことはDCTドメインフィルタにおいてはただの1乗算に例えられる。
最も単純なDCTドメインフィルタは、高周波数DCT係数の切り捨てである。しかし高周波数DCT係数の切り捨てからは滑らかなフィルタは結果的に得られず、復号化ピクチャにおいてエッジ近くでの「リンギング」のような欠点を有する。本発明の例示的な実施形態のDCTドメインローパスフィルタは、空間ドメイン内のブロックミラーフィルタから得られる。例えば、ブロックミラーフィルタ用のフィルタ係数値は空間ドメイン内で最適化され、そしてこれらの値はDCTドメインフィルタの係数へ転換される。
例示的な実施形態は、水平方向のみにおけるDCTドメインフィルタリングを示しているが、DCTドメインフィルタリングは、水平方向もしくは垂直方向のいずれかで、または両方で、水平および垂直フィルタを組み合わせることにより行われ得る。
E.DCTドメインフィルタ係数
本発明のある例示的なフィルタが、2つの制約数から導き出される。第1の制約は、フィルタがブロック上の画像データをブロック単位で画像の各ブロック用に、同じピクチャの他のブロックから、または前出のピクチャからの情報を用いることなく処理することである。第2の制約は、フィルタが境界画素値を処理する際に起こるブロック境界の視認性をフィルタが下げることである。
第1の制約によると、MPEG画像シーケンスのDCTベース圧縮において、N×NDCT係数のブロックは、N×N空間画素値のブロックを得る。結果的に、本発明の例示的な実施形態は、現行で受信されるピクチャのブロックを処理するだけのDCTドメインフィルタを実現する。
第2の制約によると、フィルタが空間画素値のブロックに単に適用される場合、ブロック境界上のフィルタリングの遷移があり、これはフィルタの残差を満たすための境界外で、不十分な数の空間画素値により引き起こされる。言い換えると、ブロックのエッジは適切にフィルタにかけられ得ない。なぜなら、Nタップフィルタが、N/2タップのみ用に、または(N/2)−1タップ用に(これはNが奇数であるか、偶数であるかに依存する)、それぞれの入力画素を有するためである。余った入力画素は、ブロックの境界外にある。画素値を供給する以下のいくつかの方法が存在する。1)境界外で所定の定常画素値を繰り返す、2)境界画素値と同じ画素値を繰り返す、そして3)ブロックの画素値を、処理されたブロックに近位の画素値の前出および後のブロックを形成するようにミラーする。前出または後のブロックの内容にある先の情報なしで、ミラーリング方法が好ましい方法として考えられる。従って、本発明の実施形態は、フィルタのためにこのミラーリング方法を利用し、「ブロックミラーフィルタ」と呼ばれる。
ブロックの8入力空間画素サンプル値をローパスフィルタにかける、水平ブロックミラーフィルタを実現する例示的な実施形態が、以下に記載される。入力ブロックのサイズが画素サンプル値の8×8ブロックマトリックスであるならば、水平フィルタリングは、ブロックミラーフィルタを8画素サンプル値の各行に適用することにより行われ得る。フィルタリングプロセスが、ブロックマトリックスのフィルタ係数を列方向に適用することにより実現され得、あるいはその多次元フィルタリングは、ブロックマトリックスの行のフィルタリング、そして次に列のフィルタリングにより達成され得ることは、当業者には明らかとなる。
図4は、8入力画素用の例示的なミラーフィルタのための入力画素値xからxの間の対応(グループX0)を示し、これはタップ値hからh14により表される15タップ空間フィルタを利用する。入力画素はグループX0の左側(グループX1で示される)で、およびグループX0の右側(グループX2で示される)でミラーリングされる。フィルタの出力画素値は、対応画素サンプル値を備えるフィルタタップ値の15乗算の合計である。図4は、第1および第2の出力画素値用の乗算ペアを示す。
F.ブロックミラーフィルタの例示的な実施形態
本発明のブロックミラーフィルタの例示的な実施形態は、以下の工程により得られる。1)一次元ローパス対称フィルタが、2Nタップよりも少ない奇数のタップと共に選択され、2)フィルタ係数が0でパディングすることにより2N値まで増加され、3)フィルタ係数が、最初の中心係数が左回転シフトにより0位置まで到達するように再編成され、4)再編成されたフィルタ係数のDFT係数が決定され、5)DCTフィルタ係数が、入力ブロックの実数DFT係数で乗算され、そして6)フィルタリングされたDCT係数の逆離散コサイン変換(IDCT)が、IDCT係数で乗算されることにより行われ、間引きのために準備されたローパスフィルタリングされた画素のブロックを供給する。
ローパスフィルタのカットオフ周波数は、間引き比率により決まる。ある例示的な実施形態として、カットオフ周波数は、2:1間引きにおいてπ/2であり、ここでπはサンプリング周波数の2分の1である。
MPEGおよびJPEG復号器におけるDCTドメインフィルタは、メモリ要件を減らすことを可能にする。なぜなら、逆量子化器およびブロックのIDCT処理は、従来技術の復号器においてすでに存在しており、DCTドメインフィルタ係数でのDCT係数の追加スケラー乗算のみが要求されるためである。従って、個別のDCTドメインフィルタブロック乗算は、特定の実行において物理的に要求されない。本発明の別の実施形態は、単にDCTドメインフィルタ係数をIDCT処理係数と組み合わせる。
本発明の例示的なダウンコンバージョンシステムにとって、DCT係数の水平フィルタリングおよび間引きが考慮される。以下は、720Vプログレッシブによる1280Hから、720Vプログレッシブによる640Hへのコンバージョン(水平の2:1間引き)の例示的な実行である。
表4は、DCTブロックミラーフィルタ(重みづけ)係数を示す。「DCT Domain Filter for ATV Down Conversion」IEEE Trans. Consumer Electronics、Vol.43(4)1074−8(1997)において、Kimらにより教示されているように、空間ドメインにおけるブロックミラーフィルタは、DCTドメイン内でDCT係数に重みをつけることにより、実現され得る。表4の括弧内の数字は、10ビットにおける2の補数表示である。表4の「」は、値が1よりも大きいために、10ビットにおける2の補数表示用の範囲外の値を意味する。しかし、当業者には公知のように、で示される値によりブロックの列係数の乗算は、係数値をフィルタ値の端数値(余り)で乗算した係数に加えることにより容易に実現され得る。
Figure 2004312765
これらの水平DCTフィルタ係数は、符号化ビデオ画像の8×8DCT係数のブロック内にある各列に重みづけを行う。例えば、列0のDCT係数はH[0]により重みづけされ、そして第1列のDCT係数はH[1]により重みづけされ、同じように続いていく。
表4の係数を特徴とするダウンコンバージョンフィルタの周波数応答(dB 対 周波数)は、図5において曲線510により示される。表4の係数を特徴とするダウンコンバージョンフィルタとカスケードされた式(1)から(4)を特徴とする平均化フィルタの周波数応答(dB 対 周波数)は、図6において曲線610により示される。
上記の説明は、一次元DCTを用いる水平フィルタの実現を図示する。デジタル信号処理技術において公知のように、そのような処理は二次元システムに応用され得る。二次元システムでは、入力シーケンスは値のマトリックスとして表され、シーケンスを列シーケンスにおいて周期Mを備えた周期のように示し、行シーケンスにおいて周期Nを備えた周期のように示し、NおよびMは整数である。二次元DCTは、入力シーケンスの列上で行われる一次元DCT、そして次にDCT処理された入力シーケンスの行上で行われる第2の一次元DCTとして実現され得る。また、当該分野において公知のように、二次元IDCTは、単一プロセスとして実現され得る。
G.ダウンサンプリング
ダウンサンプリングは、ダウンサンプリングプロセッサ232により達成され、ダウンコンバージョンされる画像内の画素の数を減少する。図7は、2:1の間引きにおいて4:2:0色差タイプのために入力および間引きされた出力画素を示す。表5は、図7の輝度画素および色差画素を照合するための説明である。図7のダウンコンバージョン前後の画素位置は、2:1間引きの際のプログレッシブな場合を示す。
Figure 2004312765
プログレッシブフォーマット画像のダウンサンプリング(720画素サイズによる1280から、720画素サイズによる640へのコンバージョンであり得る)として、輝度信号は2つに1つのサンプルのために水平方向にサブサンプル化される。言い換えると、2つに1つの画素が水平方向軸上で間引きされる。色差信号のために、ダウンサンプル化画素は、ちょうど最初の画素よりも下の半画素である。最初のマクロブロック内の画素および間引きされた画素が図7に示される。
ビデオ画像を表現する符号化ビデオ信号から低解像度2:1ダウンコンバートされたビデオ信号を形成する装置を含む、HDTVダウンコンバージョンシステム。符号化ビデオ信号は、動き予測を備えた周波数ドメイン変換高解像度ビデオ信号である。装置は、符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信するレシーバを含む。ダウンコンバージョンフィルタは、高解像度周波数ドメインビデオ係数値を受信し、重みづけを行い、ローパスされた周波数ドメインビデオ係数のセットを形成する。逆変換プロセッサは、周波数ドメインビデオ係数のセットを、画素値のセットへ変換する。平均化フィルタは、画素値のセットにおいて選択された画素値を平均化画素値へ変換する。間引きプロセッサは、選択された画素値のセットを消去し、低解像度ビデオ信号を供給する。
本明細書中において、本発明の例示的な実施形態が示され、説明されているが、このような実施形態は例としてのみ提供されていることは理解される。本発明の精神から逸脱することなく、当業者により数多くの多様化、変更、および代替が生じ得る。従って、添付の特許請求の範囲が本発明の範囲内にある全てのそのような多様化を網羅することが意図される。
ビデオ画像を表現する符号化ビデオ信号から低解像度2:1ダウンコンバートされたビデオ信号を形成する装置が提供される。符号化ビデオ信号は、周波数ドメイン変換高解像度ビデオ信号である。装置は、符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する手段を含む。ダウンコンバージョンフィルタ手段は、選択された高解像度周波数ドメインビデオ係数値を受信し、重みづけし、周波数ドメインビデオ係数のセットを形成し、逆変換手段はこのセットを画素値のセットへ変換する。平均化フィルタ手段は、画素値のセットにおいて選択された画素値を、平均化画素値へ変換する。間引き手段は、選択された画素値のセットを消去し、低解像度ビデオ信号を供給する。
従来技術のビデオ復号化システムを示すハイレベルブロック図である。 ダウンコンバージョンシステムの例示的な実施形態を示すハイレベルブロック図である。 本発明の例示的な実施形態による平均化フィルタの周波数応答特性を示す図である。 2:1ダウンコンバージョンシステムの例示的な実施形態のための下位画素位置および対応予測画素を示す図である。 例示的なダウンコンバージョンシステムのための入力マクロブロックの各行において行われるアップサンプリングプロセスを示す図である。 ブロックミラーフィルタの例示的な実施形態の第1および第2の出力画素値のための乗算ペアを示す図である。 本発明の例示的な実施形態によるダウンコンバージョンフィルタの周波数応答特性を示す図である。 本発明の例示的な実施形態によるカスケード平均化フィルタおよびダウンコンバージョンフィルタの周波数応答特性を示す図である。 2:1間引きを用いた4:2:0ビデオ信号のための入力および間引き出力画素を示す図である。
符号の説明
110 エントロピー復号器
120 逆量子化器
130 逆離散コサイン変換プロセッサ
140 加算器
150 動き補償プロセッサ
160 メモリ
170 制御器
180 ブロック−ラスタ変換器
210 可変長復号器(VLD)
212 ランレングス(R/L)復号器
214 逆量子化器
216 ダウンコンバージョンフィルタ(DCTフィルタ)
218 逆離散コサイン変換(IDCT)プロセッサ
220 MVトランスレータ
222 基準フレームメモリ
224 高解像度動きブロック発生器
226 アップサンプル
228 半画像発生器
232 ダウンサンプル化プロセッサ
240 平均化フィルタ
280 ディスプレイコンバージョンブロック
282 垂直プログラマブルフィルタ
284 水平プログラマブルフィルタ

Claims (1)

  1. ビデオ画像を表現する符号化ビデオ信号から低解像度ビデオ信号を形成する装置であって、該符号化ビデオ信号は周波数ドメイン変換高解像度ビデオ信号であり、該装置は、
    該符号化ビデオ信号を複数の高解像度周波数ドメインビデオ係数値として受信する受信手段と、
    ローパスフィルタリングされた周波数ドメインビデオ係数のセットを形成するために、該複数の高解像度周波数ドメインビデオ係数値を受信し、該複数の高解像度周波数ドメインビデオ係数値を所定の非ゼロのフィルタ係数で重みづけするダウンコンバージョンフィルタ手段と、
    該ローパスフィルタリングされた周波数ドメインビデオ係数のセットを受信し、第1の画素値のセットへ変換する逆変換手段と、
    該第1の画素値のセットを受信し、該第1の画素値のセット内の選択された該画素値を、平均化画素値へ変換する平均化フィルタ手段であって、該平均化画素値を含む第2の画素値のセットを供給する、手段と、
    該低解像度ビデオ信号を供給するために、該第2の画素値のセット内の選択された該画素値を消去する間引き手段と、
    を含む装置。
JP2004162602A 1998-10-09 2004-05-31 2:1間引きにおける効果的なダウンコンバージョン Withdrawn JP2004312765A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US09/169,296 US6487249B2 (en) 1998-10-09 1998-10-09 Efficient down conversion system for 2:1 decimation

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP29035399A Division JP3631642B2 (ja) 1998-10-09 1999-10-12 2:1間引きにおける効果的なダウンコンバージョン

Publications (1)

Publication Number Publication Date
JP2004312765A true JP2004312765A (ja) 2004-11-04

Family

ID=22615071

Family Applications (2)

Application Number Title Priority Date Filing Date
JP29035399A Expired - Fee Related JP3631642B2 (ja) 1998-10-09 1999-10-12 2:1間引きにおける効果的なダウンコンバージョン
JP2004162602A Withdrawn JP2004312765A (ja) 1998-10-09 2004-05-31 2:1間引きにおける効果的なダウンコンバージョン

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP29035399A Expired - Fee Related JP3631642B2 (ja) 1998-10-09 1999-10-12 2:1間引きにおける効果的なダウンコンバージョン

Country Status (6)

Country Link
US (1) US6487249B2 (ja)
EP (1) EP0993198A3 (ja)
JP (2) JP3631642B2 (ja)
KR (1) KR100707116B1 (ja)
CN (1) CN1162008C (ja)
CA (1) CA2285751A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102036091A (zh) * 2007-01-24 2011-04-27 夏普株式会社 多画面显示装置显示用图像数据的处理方法和设备
US11676242B2 (en) 2018-10-25 2023-06-13 Sony Group Corporation Image processing apparatus and image processing method

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6618443B1 (en) 1997-03-12 2003-09-09 Matsushita Electric Industrial Co., Ltd. Upsampling filter for a down conversion system
US6222944B1 (en) * 1998-05-07 2001-04-24 Sarnoff Corporation Down-sampling MPEG image decoder
US6470051B1 (en) * 1999-01-25 2002-10-22 International Business Machines Corporation MPEG video decoder with integrated scaling and display functions
JP2000333171A (ja) * 1999-05-12 2000-11-30 Neucore Technol Inc 画像処理装置
US6590938B1 (en) * 1999-09-30 2003-07-08 Conexant Systems, Inc. DCT domain conversion of a higher definition signal to lower definition signal
GB0026846D0 (en) * 2000-11-03 2000-12-20 Clayton John C Motion compensation of images
US7649947B2 (en) * 2001-06-05 2010-01-19 Qualcomm Incorporated Selective chrominance decimation for digital images
US7630566B2 (en) * 2001-09-25 2009-12-08 Broadcom Corporation Method and apparatus for improved estimation and compensation in digital video compression and decompression
US20030095603A1 (en) * 2001-11-16 2003-05-22 Koninklijke Philips Electronics N.V. Reduced-complexity video decoding using larger pixel-grid motion compensation
US7596179B2 (en) * 2002-02-27 2009-09-29 Hewlett-Packard Development Company, L.P. Reducing the resolution of media data
US7006572B2 (en) * 2002-05-09 2006-02-28 Mitsubishi Electric Research Labs, Inc. Method and apparatus for decoding video bitstreams to reduced spatial resolutions
KR100468786B1 (ko) * 2003-04-02 2005-01-29 삼성전자주식회사 방향성을 예측하고 다항식 필터로 보간을 수행하여스케일링 해상도를 높이는 보간기, 이를 구비한 스케일링장치, 및 그 방법
EP1613087A4 (en) * 2003-04-10 2010-03-31 Nec Corp COMPRESSION / CODING METHOD FOR MOVABLE PICTURES, IMPLEMENTATION DEVICE AND MOBILE IMAGE COMMUNICATION SYSTEM
US7450831B2 (en) * 2003-04-16 2008-11-11 Lsi Corporation Method for DVD-subpicture compositing in 420 chroma format
US7129987B1 (en) 2003-07-02 2006-10-31 Raymond John Westwater Method for converting the resolution and frame rate of video data using Discrete Cosine Transforms
CN1846444B (zh) * 2003-09-17 2011-01-26 汤姆森许可贸易公司 自适应参考画面产生
US7660487B2 (en) * 2003-12-10 2010-02-09 Sony Corporation Image processing method and apparatus with image resolution conversion related to relative movement detection
JP2005287006A (ja) * 2004-03-05 2005-10-13 Canon Inc 画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体及び画像処理装置
KR100611179B1 (ko) * 2004-06-23 2006-08-10 삼성전자주식회사 영상처리장치
FR2876860A1 (fr) * 2004-10-20 2006-04-21 Thomson Licensing Sa Procede de codage hierarchique d'images video
US8385427B2 (en) * 2005-04-15 2013-02-26 Apple Inc. Reduced resolution video decode
TWI444047B (zh) * 2006-06-16 2014-07-01 Via Tech Inc 用於視訊解碼的去方塊效應濾波器、視訊解碼器與圖形處理單元
KR20080079392A (ko) * 2007-02-27 2008-09-01 동서대학교산학협력단 적응적 영상 보간 장치 및 방법
CN101399991B (zh) * 2007-09-26 2010-11-10 华为技术有限公司 一种视频解码的方法和装置
US8306121B2 (en) * 2008-03-17 2012-11-06 Ati Technologies Ulc Method and apparatus for super-resolution of images
US9602814B2 (en) * 2010-01-22 2017-03-21 Thomson Licensing Methods and apparatus for sampling-based super resolution video encoding and decoding
CN102726044B (zh) 2010-01-22 2016-08-10 汤姆逊许可证公司 使用基于示例的超分辨率的用于视频压缩的数据剪切
US9544598B2 (en) 2010-09-10 2017-01-10 Thomson Licensing Methods and apparatus for pruning decision optimization in example-based data pruning compression
US9338477B2 (en) 2010-09-10 2016-05-10 Thomson Licensing Recovering a pruned version of a picture in a video sequence for example-based data pruning using intra-frame patch similarity
US9602819B2 (en) * 2011-01-31 2017-03-21 Apple Inc. Display quality in a variable resolution video coder/decoder system
US10277915B2 (en) 2011-11-07 2019-04-30 Qualcomm Incorporated Signaling quantization matrices for video coding
US8793724B2 (en) 2012-11-08 2014-07-29 Eldon Technology Limited Image domain compliance
ITTO20130032A1 (it) 2013-01-15 2014-07-16 St Microelectronics Srl Procedimento ed apparecchiatura per calcolare piramidi di immagini e prodotto informatico relativo
CN104200766B (zh) * 2014-08-27 2017-02-15 深圳市华星光电技术有限公司 画面补偿方法及具有画面补偿的显示器
WO2016110943A1 (ja) * 2015-01-06 2016-07-14 日立マクセル株式会社 映像表示装置、映像表示方法、及び映像表示システム
US11399930B2 (en) 2017-01-23 2022-08-02 Duke University Systems and methods for psycho-signal processing
CN113498609B (zh) * 2018-12-31 2023-06-20 北京达佳互联信息技术有限公司 用于视频编解码的依赖图片分辨率的配置
US11102487B2 (en) * 2019-08-30 2021-08-24 Adobe Inc. Image resampling for DCT based image encoding formats using memory efficient techniques

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4261043A (en) * 1979-08-24 1981-04-07 Northrop Corporation Coefficient extrapolator for the Haar, Walsh, and Hadamard domains
GB2084833A (en) 1980-04-11 1982-04-15 Ampex System for spatially transforming images
WO1982003712A1 (en) 1981-04-10 1982-10-28 Gabriel Steven Allen Controller for system for spatially transforming images
ATE45258T1 (de) 1981-04-10 1989-08-15 Ampex Geraet zur raeumlichen transformation von bildern.
JPS58219841A (ja) 1982-06-15 1983-12-21 Kokusai Denshin Denwa Co Ltd <Kdd> 標本化周波数の高速変換回路
US4602273A (en) * 1983-08-30 1986-07-22 Rca Corporation Interpolated progressive-scan television display with line-crawl artifact filtration
US4652908A (en) 1985-03-25 1987-03-24 Rca Corporation Filtering system for processing a reduced-resolution video image
JP2592810B2 (ja) 1986-09-30 1997-03-19 株式会社東芝 サンプルレート変換回路
US4774581A (en) 1987-04-14 1988-09-27 Rca Licensing Corporation Television picture zoom system
US5028995A (en) 1987-10-28 1991-07-02 Hitachi, Ltd. Picture signal processor, picture signal coder and picture signal interpolator
US5057911A (en) 1989-10-19 1991-10-15 Matsushita Electric Industrial Co., Ltd. System and method for conversion of digital video signals
US5367334A (en) 1991-05-20 1994-11-22 Matsushita Electric Industrial Co., Ltd. Video signal encoding and decoding apparatus
US5262854A (en) 1992-02-21 1993-11-16 Rca Thomson Licensing Corporation Lower resolution HDTV receivers
JP3158648B2 (ja) 1992-04-30 2001-04-23 ソニー株式会社 ディジタル特殊効果発生装置
US5331346A (en) 1992-10-07 1994-07-19 Panasonic Technologies, Inc. Approximating sample rate conversion system
KR970000761B1 (ko) 1992-10-07 1997-01-18 대우전자 주식회사 소형 디지탈 방식 고선명 텔레비젼
US5274372A (en) 1992-10-23 1993-12-28 Tektronix, Inc. Sampling rate conversion using polyphase filters with interpolation
JP3093494B2 (ja) 1992-11-18 2000-10-03 株式会社東芝 多様性信号処理装置
US5614952A (en) * 1994-10-11 1997-03-25 Hitachi America, Ltd. Digital video decoder for decoding digital high definition and/or digital standard definition television signals
US5477397A (en) 1993-02-23 1995-12-19 Matsushita Electric Corporation Of America Digital high definition television receiver with features that facilitate trick-play modes on a digital VCR
US5644361A (en) 1994-11-30 1997-07-01 National Semiconductor Corporation Subsampled frame storage technique for reduced memory size
US5528301A (en) 1995-03-31 1996-06-18 Panasonic Technologies, Inc. Universal video format sample size converter
CN1140126C (zh) 1995-06-29 2004-02-25 汤姆森多媒体公司 分层压缩视频数据的编解码系统
US5737019A (en) 1996-01-29 1998-04-07 Matsushita Electric Corporation Of America Method and apparatus for changing resolution by direct DCT mapping
US5708732A (en) * 1996-03-06 1998-01-13 Hewlett-Packard Company Fast DCT domain downsampling and inverse motion compensation
US6175592B1 (en) * 1997-03-12 2001-01-16 Matsushita Electric Industrial Co., Ltd. Frequency domain filtering for down conversion of a DCT encoded picture
WO1998041029A1 (en) * 1997-03-12 1998-09-17 Matsushita Electric Industrial Co., Ltd. Upsampling filter and half-pixel generator for an hdtv downconversion system
US6222944B1 (en) * 1998-05-07 2001-04-24 Sarnoff Corporation Down-sampling MPEG image decoder

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102036091A (zh) * 2007-01-24 2011-04-27 夏普株式会社 多画面显示装置显示用图像数据的处理方法和设备
US11676242B2 (en) 2018-10-25 2023-06-13 Sony Group Corporation Image processing apparatus and image processing method

Also Published As

Publication number Publication date
US20010055340A1 (en) 2001-12-27
KR100707116B1 (ko) 2007-04-16
EP0993198A2 (en) 2000-04-12
KR20000028962A (ko) 2000-05-25
CA2285751A1 (en) 2000-04-09
CN1259830A (zh) 2000-07-12
EP0993198A3 (en) 2001-01-31
JP3631642B2 (ja) 2005-03-23
JP2000172237A (ja) 2000-06-23
US6487249B2 (en) 2002-11-26
CN1162008C (zh) 2004-08-11

Similar Documents

Publication Publication Date Title
JP3631642B2 (ja) 2:1間引きにおける効果的なダウンコンバージョン
KR100667606B1 (ko) 다운 변환 시스템용 업 샘플링 필터
US6249549B1 (en) Down conversion system using a pre-decimation filter
EP0908057B1 (en) Upsampling filter and half-pixel generator for an hdtv downconversion system
US6175592B1 (en) Frequency domain filtering for down conversion of a DCT encoded picture
US6990241B2 (en) Circuit and method for decoding an encoded version of an image having a first resolution directly into a decoded version of the image having a second resolution
EP1101358B1 (en) Encoding a video signal with high resolution encoding for regions of interest
WO2001047280A1 (en) Method and apparatus for performing video image decoding
JPH09214972A (ja) デコーダ回路、mpegビデオストリーム復号化方法およびコンピュータ
JP2000341695A (ja) 符号化高精細度ビデオ信号から拡張デコード低減解像度ビデオ信号を得るための装置および方法
EP0973337A2 (en) System for deriving a decoded reduced-resolution video signal from a coded high-definition video signal
JP2000032463A (ja) 映像情報をサイズ変更する方法及び装置
KR100563015B1 (ko) Hdtv다운컨버젼시스템을위한업샘플링필터와하프-픽셀발생기
JP2000244907A (ja) デジタルビデオデータの復号化とフォーマット変換用の低コストビデオ復号器

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20060614

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20060802