JP2015508250A - 適応低解像度アップデートモードを提供するための方法および機器 - Google Patents

適応低解像度アップデートモードを提供するための方法および機器 Download PDF

Info

Publication number
JP2015508250A
JP2015508250A JP2014553380A JP2014553380A JP2015508250A JP 2015508250 A JP2015508250 A JP 2015508250A JP 2014553380 A JP2014553380 A JP 2014553380A JP 2014553380 A JP2014553380 A JP 2014553380A JP 2015508250 A JP2015508250 A JP 2015508250A
Authority
JP
Japan
Prior art keywords
component
video signal
mode
rru
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014553380A
Other languages
English (en)
Inventor
アレクサンドロス トウラピス
アレクサンドロス トウラピス
Original Assignee
マグナム セミコンダクター, インコーポレイテッド
マグナム セミコンダクター, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マグナム セミコンダクター, インコーポレイテッド, マグナム セミコンダクター, インコーポレイテッド filed Critical マグナム セミコンダクター, インコーポレイテッド
Publication of JP2015508250A publication Critical patent/JP2015508250A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

適応低解像度アップデート(RRU)処理を適用するための方法および機器が本明細書で開示される。機器は、ビデオ信号を受信し、ビデオ信号の第1の成分を第1のRRU符号化モードに従って、かつ、ビデオ信号の第2の成分を第2のRRU符号化モードに従って、そのビデオ信号の第1および第2の成分のそれぞれのタイプに基づき、選択的にダウンサンプリングするように構成された符号器を含み得る。機器は、符号化ビットストリームを受信し、その符号化ビットストリームに基づいて、回復された残差を提供するように構成された復号器を含み得る。復号器は、符号化ビットストリームのシグナル機構に基づき、復元された信号を提供するために、回復された残差の第1の成分を第1のRRUモードに従って選択的にアップサンプリングし、かつ、回復された残差の第2の成分を第2のRRUモードに従って選択的にアップサンプリングするようにさらに構成され得る。

Description

相互参照
本出願は、2012年1月19日に出願された米国仮出願第61/588,613号に対する優先権を主張し、それは、いかなる目的に対しても、参照によりその全体において本明細書に組み込まれる。
開示する発明の実施形態は、一般に、ビデオ信号の符号化および/または復号に関し、より詳細には、1つまたは複数の図示した実施形態における、低解像度符号化に関する。
ビデオ符号化規格が発展するにつれて、主観的および/または客観的品質における低下を最小限にしながら、データ圧縮を高めようとして、様々なアルゴリズムおよび機能が使用されてきた。例えば、ITU−Tビデオ符号化規格H.263に導入された低解像度アップデートモードは、十分な主観的品質を維持しながら、改善された符号化効率を可能にするために開発された。このモードで符号化されたビットストリームの構文は、フル解像度で符号化されたビットストリームと本質的に同一であるが、H.263規格は、動き補償またはイントラ予測後のその残差の使用および予測信号へのその追加において異なった。例えば、このモードでの画像は、フル解像度の符号化ピクチャに比べて4分の1の数のマクロブロックを含み、動きベクトルデータが、それぞれ、16×16および8×8の代わりに、フル解像度ピクチャの32×32および16×16のブロックサイズに関連付けられた。DCTおよびテクスチャデータが低解像度ピクチャの8×8ブロックに関連付けられるので、最終的なフル解像度表現を生成するために、アップサンプリング方式が使用される必要がある。
このプロセスは客観的品質を著しく低下させたが、符号化される必要のあるビット数が、より少ないモード数(4により)、動きデータ、および残差に起因して減らされたので、損失は補われた。客観的品質に比べて、主観的品質は、このデータ削減の結果としてほとんど損なわれていない。
機器の例が提供される。機器例は、符号器を含み得る。符号器は、ビデオ信号を受信し、ビデオ信号の第1および第2の成分のそれぞれのタイプの少なくとも一部に基づき、ビデオ信号の第1の成分を第1のRRU符号化モードに従って、かつ、ビデオ信号の第2の成分を第2のRRU符号化モードに従って選択的にダウンサンプリングするように構成され得る。
符号器は、第1および第2の成分を、シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、選択的にダウンサンプリングするように構成され得る。
符号器は、フル解像度基準を使用して、動き予測を実行するように構成され得る。
符号器は、ビデオ信号の第1の成分を、ビデオ信号の第1の成分の時空間解析の少なくとも一部に基づいて、選択的にダウンサンプリングするように構成され得る。
機器例は、復号器を含み得る。復号器は、符号化ビットストリームを受信し、符号化ビットストリームの少なくとも一部に基づいて、回復された残差を提供するように構成され得、復号器は、符号化ビットストリームの1つまたは複数のシグナル機構の少なくとも一部に基づき、復元されたビデオ信号を提供するために、回復された残差の第1の成分を第1のRRUモードに従って選択的にアップサンプリングし、回復された残差の第2の成分を第2のRRUモードに従って選択的にアップサンプリングするようにさらに構成され得る。
復号器は、第1および第2の成分を、シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、選択的にアップサンプリングするように構成され得る。
いくつかの例では、第1および第2の成分は、各々、赤のクロミナンス差(red−difference chrominance)成分、青のクロミナンス差成分、輝度成分、またはそれらの組合せを含み得る。
符号器の例が提供される。符号器例は、モード決定ブロックおよびエントロピー符号器を含み得る。モード決定ブロックは、ビデオ信号を受信し、ビデオ信号の成分に対応した信号をビデオ信号内に提供するように構成され得、その信号は、RRU符号化モードを含む。エントロピー符号器は、モード決定ブロックに結合され得、信号を受信するように構成され得る。エントロピー符号器は、成分および信号の少なくとも一部に基づいて、符号化ビットストリームを提供するようにさらに構成され得る。
符号器例は、ダウンサンプラを含み得る。ダウンサンプラは、モード決定ブロックに結合され得、RRU符号化モードに従ってビデオ信号の成分をダウンサンプリングするように構成され得る。
いくつかの例では、ダウンサンプラは、アップサンプリング方式の少なくとも一部に基づいて、残差をダウンサンプリングするように構成され得る。
いくつかの例では、成分は、輝度成分を含み得、RRU符号化モードは、フル解像度に対応し得る。
符号化の方法が提供される。方法例は、ビデオ信号を受信すること、RRUモードで動作しながらビデオ信号を解析すること、およびビデオ信号の解析の後、ビデオ信号の成分のタイプの少なくとも一部に基づいて、ビデオ信号の成分を選択的にダウンサンプリングすることを含む。
いくつかの方法例では、RRUモードで動作しながらビデオ信号を解析することが、複数の領域の各々について時空間解析を実行することを含み得る。
いくつかの方法例では、成分は、赤のクロミナンス差成分、青のクロミナンス差成分、輝度成分、またはそれらの組合せを含む。
いくつかの方法例では、ビデオ信号の成分を選択的にダウンサンプリングすることが、ビデオ信号の第1の成分を第1のRRU符号化モードに従って選択的にダウンサンプリングすること、およびビデオ信号の第2の成分を第2のRRU符号化モードに従って選択的にダウンサンプリングすることを含み得る。
いくつかの方法例では、ビデオ信号の成分を選択的にダウンサンプリングすることが、規範的アップサンプリング方式の少なくとも一部に基づいて、成分をダウンサンプリングすることを含み得る。
方法例が提供される。一方法例は、復号器で、RRUタイプを示すシグナル機構を含む符号化ビットストリームを受信すること、符号化ビットストリームの少なくとも一部に基づいて、残差を生成すること、およびシグナル機構の少なくとも一部に基づいて、残差の成分を選択的にアップサンプリングすることを含み得る。
いくつかの方法例では、残差の成分を選択的にアップサンプリングすることが、シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、成分を選択的にアップサンプリングすることを含み得る。
一方法例は、シーケンスレベル低解像度アップデートモードが有効かどうかを判断するためにシーケンスを解析すること、シーケンスレベル低解像度アップデートモードが有効な場合に、フレームレベル低解像度アップデートモードが有効かどうかを判断するためにシーケンスのフレームを解析すること、およびフレームレベル低解像度アップデートモードが有効な場合に、成分のタイプの少なくとも一部に基づいて、マクロブロックの成分をダウンサンプリングするかどうかを判断するために、フレームのマクロブロックを解析することを含み得る。
いくつかの方法例は、マクロブロックの解析後に、マクロブロックの成分に対応するRRU符号化モードを提供することを含み得る。
いくつかの方法例は、シーケンスレベル低解像度アップデートモードが有効でない場合に、シーケンスをフル解像度で符号化すること、およびフレームレベル低解像度アップデートモードが有効でない場合に、フレームをフル解像度で符号化することを含み得る。
一方法例は、マクロブロックについて時空間解析を実行すること、時空間解析の前記実行の少なくとも一部に基づいて、予備低解像度アップデート符号化決定を生成すること、その予備低解像度アップデート符号化決定を使用してマクロブロックのブロックを符号化すること、その符号化されたブロックが基準を満足するかどうかを判断すること、および符号化されたブロックが基準を満足しない場合に、フォールバック低解像度アップデート決定を使用してブロックを符号化することを含み得る。
いくつかの方法例では、予備低解像度アップデート符号化決定を使用してマクロブロックのブロックを符号化することが、第1の解像度でブロックを符号化することを含み得、符号化されたブロックが基準を満足しない場合に、フォールバック低解像度アップデート決定を使用してブロックを符号化することが、第2の解像度でブロックを符号化することを含み得、第2の解像度は第1の解像度よりも低い。
いくつかの方法例は、予備低解像度アップデート決定を前記生成前に、マクロブロックをブロックに分割することを含み得る。
本発明の実施形態による符号器のブロック図である。 本発明の実施形態による符号器のブロック図である。 本発明の実施形態によるビデオストリームのシーケンスを符号化するためのプロセスの流れ図である。 本発明の実施形態による領域の解析および符号化のためのプロセスの流れ図である。 本発明の実施形態に従って、異なるRRU符号化モードにフレームを割り当てる例の概略図である。 本発明の実施形態に従って、様々なRRU符号化モードで符号化されたマクロブロックのブロック図である。 本発明の実施形態による、ブロック境界に対するアップサンプリング方式の概略図である。 本発明の実施形態による、内側位置に対するアップサンプリング方式の概略図である。 本発明の実施形態による復号器の概略図である。 本発明の実施形態によるメディア配信システムの概略図である。 本明細書に記載する符号器を利用し得るビデオ配信システムの概略図である。
適応低解像度アップデート(RRU)モードを提供するための方法および機器が本明細書で記述される。少なくとも1つの実施形態では、RRUモードに従って、ビデオ信号の1つまたは複数の成分(例えば、色成分)が選択的にダウンサンプリングされ得る。本発明の実施形態の十分な理解を提供するために、ある詳細が以下に記述される。しかし、本発明の実施形態は、これらの特定の詳細なしで、または追加もしくは異なる詳細とともに、実施され得ることが当業者には明らかであろう。その上、本明細書に記載する本発明の特定の実施形態は、例として提供され、本発明の範囲をこれら特定の実施形態に制限するために使用されるべきではない。他の事例では、本発明を不必要に分かりにくくするのを回避するために、周知のビデオ構成要素、符号器または復号器構成要素、回路、制御信号、タイミングプロトコル、およびソフトウェア動作が、詳細には示されていない。
本発明の実施形態は、ダウンサンプリングを対象とする。ダウンサンプリングは、一般に、画像の事例に対して、隣接するサンプル(例えば、画素または画素成分)を平均化することにより解像度が下げられ得るプロセスである。多くの場合、平均値は、エッジまたは角に対するサンプルの位置に基づき、重みを加えられて変動し得る。解像度は、サブサンプリングを使用しても下げられ得る。サブサンプリングは、一般に、元のサンプルのほんの一部だけが残るように、サンプルが、例えば、画像から、除去され得るプロセスである。4:4:4サンプリングレートの画像のクロミナンス成分が、例えば、クロミナンスサンプルの数を、垂直および水平の両方で半分だけ減らすことにより、4:2:0解像度にサブサンプリングされ得る。本明細書では成分および/または残差のダウンサンプリングに対する参照が行われているが、ダウンサンプリングまたはサブサンプリングのいずれかが、本明細書に記載する任意の実施形態に適用され得ることが当業者によって理解されるであろう。
本発明の実施形態は、RRU符号化モードを提供するための方法および機器を含む。RRU符号化は、一般に、ビデオ信号から生成された残差が、符号化ビットストリームに符号化される前に、それによってダウンサンプリングされ得るが、予測(例えば、動き予測)が依然としてフル解像度基準を使用して実行され得る、機構を指す。これは、例えば、ビットストリーム内で符号化されたマクロブロックまたは符号化ユニットの数を減らし得、それにより、ビットストリームのビットレートを減らし得る。RRU符号化は一般に、残差のダウンサンプリングを対象とするが、本明細書では、ビデオ信号の特定の成分のダウンサンプリングに対する参照が行われる。これは、いくつかの例では、特定の成分に対応するビデオ信号の任意の部分を、それから生成された任意の残差を含めて、ダウンサンプリングすることを包含することを意図する。
図1は、本発明の実施形態による符号器100のブロック図である。符号器100は、1つまたは複数の論理回路、制御論理、論理ゲート、プロセッサ、メモリ、および/または同じもの任意の組合せもしくは部分的組合せを含み得、1つまたは複数の符号化技術を使用してビデオ信号の符号化および/または圧縮を行い得、その例が以下でさらに記述される。符号器100は、例えば、可変のビットレート信号および/または一定のビットレート信号を符号化し得、一般に、レートに依存しない方法で生成され得るビットストリームを出力するために、固定レートで動作し得る。符号器100は、テレビ、放送システム、モバイル機器、ならびにラップトップおよびデスクトップの両方のコンピュータを含むが、それらに制限されず、ビデオ符号化を採用する任意の様々な装置で実装され得る。
少なくとも1つの実施形態では、符号器100は、可変長符号化符号器(例えば、ハフマン符号器、ランレングス符号器、またはCAVLC符号器)などの、エントロピー符号器を含み得、かつ/または、データを、例えば、マクロブロックレベルで符号化し得る。各マクロブロックは、イントラ符号化モード、インター符号化モード、双方向で、または同じものの任意の組合せもしくは部分的組合せで符号化され得る。
動作例において、符号器100は、一実施形態では、ビデオデータ(例えば、フレーム)を含み得る、ビデオ信号を受信および符号化し得る。符号器100は、符号化ビットストリームを提供するために、MPEG−2、MPEG−4、H.263、H.264、H.HEVC、またはそれらの任意の組合せなどの、1つまたは複数の符号化規格に部分的または完全に従って、ビデオ信号を符号化し得る。符号化ビットストリームは、データバスおよび/または、復号器もしくはトランスコーダ(図示せず)などの装置に提供され得る。
以下でさらに説明するように、符号器100は、RRU符号化モードで動作し得、それに応じて、ビデオ信号の1つまたは複数の成分を選択的にダウンサンプリングし得る。一実施形態では、成分は、成分のそれぞれのタイプ(例えば、輝度、青のクロミナンス差、赤のクロミナンス差)および/または特定のビデオ、場面、画像、マクロブロック、もしくは任意の他の符号化ユニットにおける成分の重要性に基づいて、選択的にダウンサンプリングされ得る。例として、1つまたは複数のシーケンスが比較的高い量の動きおよび/または青色画素を含む、ビデオ信号のクロミナンス成分が、信号の一部でダウンサンプリングされ得る。この方法でのダウンサンプリングは、シーケンス、ピクチャ、スライス、およびマクロブロック構文レベルを含むが、それらに限定されず、任意の構文レベルで適用され得る。
図2は、本発明の実施形態による符号器200のブロック図である。符号器200は、図1の符号器100の少なくとも一部を実装するために使用され得、さらに、H.264符号化規格に一部または完全に準拠し得る。いくつかの実施形態では、符号器200は、追加または代替として、H.263符号化規格などの、当技術分野で周知の1つまたは複数の他の符号化規格に一部または完全に準拠し得る。符号器200は、モード決定ブロック230、予測ブロック220、遅延バッファ202、変換206、ダウンサンプラ260、量子化ブロック250、エントロピー符号器208、逆量子化ブロック210、逆変換ブロック212、アップサンプラ262、加算器214、非ブロック化フィルタ216、およびピクチャバッファ218を含み得る。
モード決定ブロック230は、以下でさらに記述される、着信ベースバンドビデオ信号および復号されたピクチャバッファ信号の少なくとも一部に基づき、適切な動作モードを決定し得、かつ/またはフレーム毎および/もしくはマクロブロックベースで、適切な動作モードを決定し得る。加えて、モード決定ブロック230は、ビデオ信号の動きおよび/または視差推定を採用し得る。モード決定は、マクロブロックタイプ、イントラモード、インターモード、構文要素(例えば、動きベクトル)、および量子化パラメータを含み得る。
符号器200がRRUモードで動作する場合、モード決定ブロック230は、ビデオ信号の1つまたは複数の成分がダウンサンプリングされるべきかどうかを判断するために、ビデオ信号をさらに解析し得る。すなわち、モード決定ブロック230は、ビデオ信号を解析して、1つまたは複数のRRU符号化モードを含む信号をビデオ信号内に提供し得る。RRU符号化モードは、ビデオ信号がダウンサンプリングされ得、ビデオ信号の個々の成分および/または任意の構文レベルに適用され得る方法を示し得る。一例として、RRU符号化モードは、シーケンスの全てではない成分がダウンサンプリングされ得ること、全ての成分がダウンサンプリングされ得ること、または全ての成分がフル解像度で符号化され得ることを示し得る。いくつかの例では、成分に対応する残差が、モード決定ブロック230によりビデオ信号内に信号通知されたRRU符号化モードを使用して、選択的にダウンサンプリングされ得る。その結果、ダウンサンプリングされた解像度で符号化される残差がダウンサンプラ260に提供され得、フル解像度で符号化される残差が変換206に直接提供され得る。
モード決定ブロック230の出力が、H.264符号化規格などの符号化規格および/または他の予測方法論に従って予測因子(predictor)を生成するために予測ブロック220によって利用され得、少なくとも1つの実施形態では、予測ブロック220は、フル解像度基準に基づいて予測因子を生成し得る。予測因子は、減算器204でビデオ信号の遅延バージョンから減算され得る。ビデオ信号の遅延バージョンを使用すると、モード決定ブロック230に動作する時間を提供し得る。減算器204の出力は、残差(例えば、ブロックと予測されたブロックとの間の差)であり得、残差は、ダウンサンプラ260またはDCT変換208に提供され得る。
前述のように、成分に対する信号が、成分がダウンサンプリングされることを示しているRRU符号化モードを含む場合、その成分に対応する任意の残差がダウンサンプラ260に提供され得る。ダウンサンプラ260は、RRU符号化モードに従って各残差をダウンサンプリングし得るか、かつ/または固定のアップサンプリングプロセスに基づいて解像度を下げ得る。すなわち、また、以下で説明するように、復元された低解像度残差がアップサンプラ262によってアップサンプリングされ得る。いくつかの実施形態では、このアップサンプリングは、固定された、規範的変換であるアップサンプリング方式を使用し得、その方式に基づいて、複数のダウンサンプリングフィルタがダウンサンプラ260によって残差に適用され得る。特定の基準を最も良く満足するダウンサンプリングされた残差が選択されて、変換206に提供され得る。例えば、ダウンサンプラ260は、アップサンプリング方式の適用後、(例えば、絶対誤差計算の合計に基づいて)元の信号に最も近い表現を生成するダウンサンプリングされた残差を提供し得る。
変換206は、残差を周波数領域に変換するために、フル解像度残差を減算器204から受信し得るか、または低解像度残差をダウンサンプラ260から受信して、離散コサイン変換(DCT)などの変換を実行し得る。結果として、変換206は、例えば、ビデオ信号内のデータのスペクトル成分に対応し得る、係数ブロックを提供し得る。量子化ブロック250は、係数ブロックを受信して、量子化された係数ブロックを生成するために係数ブロックの係数を量子化し得る。量子化ブロック250によって採用された量子化は、損失の多いものであり得るが、量子化された係数ブロックの1つまたは複数の係数を、例えば、ラグランジュ評価関数に基づいて、調整および/または最適化し得る。
次いで、エントロピー符号器208が、符号化ビットストリームを提供するために量子化された係数ブロックを符号化し得る。符号化ビットストリームは、例えば、モード決定230によって提供された1つまたは複数の信号を含み得る。一実施形態では、特定の構文レベルに対する信号のみがビットストリーム内に含まれ得る。一例として、RRU符号化モードは、ブロック、マクロブロック、フレームおよび/またはピクチャに対してのみビットストリーム内に含まれ得る。エントロピー符号器208は、可変長符号化(VLC)符号器などの、当業者によって周知の任意のエントロピー符号器であり得る。量子化された係数ブロックは、逆量子化ブロック210によって逆スケーリングおよび量子化もされ得る。逆スケーリングおよび量子化された係数は、復元された残差を生成するために、逆変換ブロック212によって逆変換され得る。
アップサンプラ262は、1つまたは複数の残差を選択的にアップサンプリングし得る。例えば、残差がダウンサンプラ260によってダウンサンプリングされた場合、対応する復元された残差は、アップサンプラ262によってアップサンプリングされ得る。いくつかの実施形態では、アップサンプラ262は、復元された残差を一定の方法でアップサンプリングし得るか、または、前述のように、ダウンサンプラ260のダウンサンプリングに基づいてアップサンプリングし得る。アップサンプラ262は、ビデオ信号内に提供された信号を受信し、ダウンサンプリングが逆にされるように復元された残差をアップサンプリングし得る。アップサンプラ262は、双線形、双三次、およびランツォシュ補間フィルタを含むが、それらに限定されず、現在または将来において、当技術分野で周知の任意の補間フィルタを含み得る。
復元された残差は、復元されたビデオを生成するために、加算器214で予測因子に加算され得、その復元されたビデオは次いで、非ブロック化フィルタ216によって非ブロック化され、将来のフレーム内で使用するためにピクチャバッファ218に書き込まれて、さらなるマクロブロック内イントラ予測または他のモード決定方法論のためにモード決定ブロック230にフィードバックされ得る。
前述のように、符号器200は、H.264符号化規格を含む、任意の既知のビデオ符号化規格にしたがって動作し得る。従って、様々なビデオ符号化規格が動き予測および/または動き補償を採用するので、符号器200は、逆量子化ブロック210、逆変換212、アップサンプラ262、復元加算器214、および非ブロック化フィルタ216を含むフィードバックループをさらに含み得る。これらの要素は、符号器200によって実行される符号化プロセスを、少なくとも一部は逆にし得る、復号器に含まれる要素を反映し得る。加えて、符号器のフィードバックループは、予測ブロック220およびピクチャバッファ218を含み得る。
符号器200の動作例では、ビデオ信号(例えば、ベースバンドビデオ信号)が、符号器200に提供され得る。ビデオ信号は、遅延バッファ202およびモード決定ブロック230に提供され得る。モード決定ブロック230は、ビデオ信号を解析し得、それにより、ビデオ信号の1つまたは複数の成分を選択的にダウンサンプリングし得る。モード決定ブロック230は、1つまたは複数の成分が、信号内に含まれる1つまたは複数のRRU符号化モードを使用してダウンサンプリングされることを示す信号を提供し得、成分のタイプ、および/または特定の符号化ユニット(例えば、マクロブロック、場面、画像)に対する成分の重要性に基づいて、成分をダウンサンプリングするかどうかを判断し得る。例として、クロミナンス成分が、第1のRRU符号化モード(例えば、4:4:4から4:2:0へのダウンサンプリング)で信号通知され得、輝度成分が第2のRRU符号化モード(例えば、ダウンサンプリングなし)で信号通知され得る。
減算器204は、ビデオ信号を遅延バッファ202から受信し得、残差を生成するために、動き予測信号をビデオ信号から減算し得る。残差は、モード決定ブロック230の信号通知に基づいて、変換206またはダウンサンプラ260のいずれかに提供され得る。残差(例えば、フル解像度残差またはダウンサンプリングされた残差)は、変換206に提供され、DCTなどの順変換を使用して処理され得る。前述のように、変換206は、量子化ブロック250に提供され得る係数ブロックを生成し得、量子化ブロック250は、その係数ブロックを量子化および/または最適化し得る。エントロピー符号器は、符号化ビットストリームを提供するために、モード決定ブロック230によって提供された任意の信号を含め、量子化された係数ブロックおよび対応する構文要素を符号化し得る。
量子化された係数ブロックは、符号器200のフィードバックループにさらに提供され得る。すなわち、量子化された係数ブロックは、復元されたビデオ信号を生成するために、逆量子化ブロック210、逆変換212、アップサンプラ262、および復元加算器214によって、それぞれ、逆量子化され、逆変換され、(例えば、以前にダウンサンプリングされた場合)アップサンプリングされて、動き予測信号に追加され得る。非ブロック化フィルタ216は、復元されたビデオ信号を受信し得、ピクチャバッファ218は、フィルタ処理されたビデオ信号を非ブロック化フィルタ216から受信し得る。一実施形態では、非ブロック化フィルタ216によって採用された非ブロック化のレベルは、それぞれの成分に対してモード決定230による信号に基づき得る。フィルタ処理されたビデオ信号を使用して、予測ブロック220は動き予測信号を加算器204に提供し得る。
周知のように、非ブロック化フィルタ216などの非ブロック化フィルタは、復号されたビデオ信号のエッジを平滑にし得る。符号器200は、符号器200がHEVC符号化規格に従って符号化し得る少なくとも1つの実施形態では、非ブロック化フィルタ216を含むとして示されているが、非ブロック化フィルタ216は、非ブロック化フィルタ、サンプル適応オフセット(SAO)フィルタ、および適応ループフィルタ(AFL)を含み得る。これらのフィルタは、現在および将来において、当技術分野で周知の任意の符号化パラメータを使用し得、ビデオ信号および/またはビットストリーム内で信号通知されたRRU符号化モードに基づいて復号された信号をさらにフィルタ処理し得る。いくつかの実施形態では、符号化パラメータは、追加または代替として、ビデオストリーム内で事前決定かつ/または信号通知され得る。一例として、+2の非ブロック化強度および+1のSAOオフセットが、RRU符号化成分に対応する残差に対して使用され得る。
さらに、符号器200は、ダウンサンプリングされた残差を変換し、フル解像度基準で動き予測を採用することを示しているが、いくつかの実施形態では、予測および残差符号化の両方が、低解像度基準を使用して採用され得る。一実施形態では、これは、予測因子をダウンスケーリングし、任意のフィルタ処理プロセスの前または後に、復元されたビデオ信号をアップスケーリングすることにより実装され得る。
その結果、図2の符号器200は、1つまたは複数の構文レベルにおいて1つまたは複数のダウンサンプリングされた成分を有する符号化ビットストリームを提供するために、RRUモードで動作し得る。符号器200は、半導体技術で作動され得、ハードウェア、ソフトウェア、またはそれらの組合せで実装され得る。いくつかの例では、符号器200は、ソフトウェアで実装され得るモード決定ブロック230を除いて、ハードウェアで実装され得る。他の例では、他のブロックもソフトウェアで実装され得るが、いくつかの事例におけるソフトウェア実施態様は、リアルタイム動作を達成し得ない。
図3は、本発明の実施形態によるビデオストリームのシーケンスを符号化するためのプロセスの流れ図である。プロセス300は、図1の符号器100および図2の符号器200を含め、本明細書に記載する任意の符号器を使用して実装され得る。特に、プロセス300の実施態様は、図2のモード決定ブロック230とともに記述されるが、当業者によって、図2の符号器200の任意の数の他の要素が、プロセス300の1つまたは複数のステップを実装するために使用され得ることが理解されるであろう。
ステップ305で、ビデオ信号のシーケンスが、例えば、モード決定ブロック230によって解析され得、その解析に基づき、シーケンスレベルRRUモードが有効にされ得る。シーケンスレベルRRUモードが有効にされるかどうかは、例えば、コンテンツ(例えば、映画、生放送など)、動き、および/またはシーケンスの各成分のサンプリングレートを含むが、それらに限定されず、シーケンスの様々な測定基準に基づき得る。
ステップ310で、モード決定ブロック230が、シーケンスレベルRRUモード処理が有効にされているかどうかをさらに判断し得る。シーケンスレベルRRUモード処理が無効な場合、ステップ315でシーケンスの第1のフレームがフル解像度で符号化され得る。フレームをフル解像度で符号化することは、例えば、フレームの全ての成分に対する残差を減算器204からDCT変換206に提供することを含み得、それにより、ダウンサンプラ260を迂回する。少なくとも1つの実施形態では、フレームをフル解像度で符号化することは、フレームがフル解像度で符号化されることを示すRRU符号化モードを含む1つまたは複数の信号を提供することをさらに含み得る。ステップ320で、シーケンス内に符号化されていないフレームが残っている場合、ステップ315で、シーケンスの次のフレームがフル解像度で符号化され得る。ステップ315および320は、シーケンスの全てのフレームがフル解像度で符号化されるまで反復して繰り返され得る。
そうでなく、シーケンスレベルRRUモードが有効な場合、ステップ325で、プロセス300は、シーケンスの第1のフレームを解析し得る。この解析に従って、フレームレベルRRUモードが有効にされ得る。シーケンスレベルRRUモードに対する判断と同様に、モード決定ブロック230は、フレームレベルRRUモードを、例えば、シーケンスのフレームの様々な測定基準に基づいて、有効にするかどうかを判断し得る。ステップ330で、モード決定ブロック230が、フレームレベルRRUモードが有効にされているかどうかを判断し得、フレームレベルRRUモードが無効な場合、ステップ335で、フレームがフル解像度で符号化され得る。ステップ340で、シーケンス内に符号化されていないフレームが残っている場合、ステップ340で、フレームレベルRRUモードが有効にされるべきかを判断するために、次のフレームがモード決定ブロック230によって解析され得る。
フレームレベルRRUモードがフレームに対して有効な場合、ステップ345で、フレームの、マクロブロックまたはマクロブロックのグループなどの領域が識別され得る。一実施形態では、領域は、モード決定ブロック230によって識別され得る。ステップ350で、マクロブロックの任意の成分がダウンサンプリングされるべきかどうかを判断し、そうである場合は、どの方法で行われるべきかを判断するために、第1のマクロブロックが、例えば、モード決定ブロック230によって解析され得る。以下で説明するように、この判断は、成分のそれぞれのタイプ、マクロブロックのエッジに対する近接度、コード性能(例えば、速度歪みコスト)検査、時空間解析、またはそれらの組合せに基づき得る。一例として、エッジを有するマクロブロックに応答して、モード決定ブロック230は、第1のRRU符号化モード(例えば、4:2:0へのダウンサンプリング)で解析されたマクロブロックのクロミナンス成分の1つまたは複数に対応する信号、および第2のRRU符号化モード(例えば、ダウンサンプリングなし)で解析されたマクロブロックの輝度成分に対応する信号を提供し得る。
この方法で提供された信号は、1つまたは複数のRRU符号化モードを含む構文要素であり得、任意の構文レベルでさらに適用され得る。例えば、信号は、シーケンスの成分がRRU符号化モードに従ってダウンサンプリングされることを示すRRU符号化モードを含み得るか、またはマクロブロックの成分がRRU符号化モードに従ってフル解像度で符号化されることを示し得る。モード決定ブロック230により信号通知の結果として任意のダウンサンプリングが採用されると、各成分に対する残差(例えば、ダウンサンプリングされたか、またはフル解像度)が、例えば、エントロピー符号器208によって符号化されて、ビットストリーム内に提供され得る。前述のように、信号は、ビットストリーム内でも符号化され得、いくつかの実施形態では、特定の構文レベルに対応する信号だけがビットストリーム内で符号化され得る。信号は、各残差が動的に切り替え得る解像度をさらに含み得る。いくつかの実施形態では、信号は、ダウンサンプリングされた残差に対してのみ提供され得、かつ/またはフル解像度で符号化された残差に対して提供され得る。さらに、いくつかの実施形態では、信号は、複数の成分に対応し得る。例えば、少なくとも1つの実施形態では、複数の成分が、単一の信号および/またはRRU符号化モードを使用してダウンサンプリングされ得る。ステップ355で、現在のフレーム内にマクロブロックが残っている場合、ステップ350で、次のマクロブロックが検討され得る。
いくつかの実施形態では、信号通知は、例えば、1つまたは複数の構文要素を符号化規格に導入することにより、明示的であり得るか、または、例えば、信号を、HEVCまたはH.264などの、既知の符号化規格に既に存在している構文要素に関連付けることにより暗黙的であり得る。表1は、例えば、本発明の少なくとも1つの実施形態で使用するためのパラメータを含み得る。特に、HEVCなどの符号化規格では、RRUのシーケンスレベルサポートを提供する新しいパラメータ(例えば、rru_coding_mode)およびRRUタイプ指定(例えば、RRUクロミナンスなしのみ、全成分、補間フィルタなど)が、様々なレベルで信号通知するために使用され得る。表1は、シーケンスレベルRRU処理に対応するパラメータ例を示す。
表2は、本明細書に記載する発明の少なくとも1つの実施形態で使用するための符号化フラグを含む。符号化フラグは、例えば、スライスレベルでのオーバーヘッドを削減するために使用され得る。「rru_coding_flag」が設定されない場合には、例えば、通常の符号化が使用され得る。そうでなければ、RRUモードを示すために、1つまたは複数のレベルで追加の情報が要求され得る。
表3は、本明細書に記載する発明の少なくとも1つの実施形態で使用され得るRRUタイプの例を含む。一例として、RRUタイプの表は、RRUタイプをインデックスの参照リストと関連付けるためにスライスレベルで使用され得る。
表4は、本発明の実施形態に従った符号化表構文例を示す。示すように、一実施形態では、3つのモード:RRUオフ、全色成分に対するRRU、およびクロミナンス成分のみに対するRRUがサポートされ得る。さらに、1つまたは複数の補間回路が信号通知され得る。
少なくとも1つの実施形態では、信号は、参照ピクチャインデックス指標を含み得る。H.264では、参照ピクチャインデックスは、コーデックが、以前に復号されている可能性のある複数のピクチャを参照することを可能にし得るが、重み付けおよび照度変更パラメータなどの、これらの参照に関連付けられ得る他の情報にアクセスするためにも使用され得る。このようにして、少なくとも1つの実施形態では、ピクチャリスト並べ換え/修正命令が、異なる参照インデックスに同じ実際の参照ピクチャを複数回、しかし、その都度異なる重み付けパラメータで、割り当てるために使用され得る。本明細書に記載する例では、RRU符号化モードおよび/またはダウンサンプリングのタイプ/方法が、異なるRRUパラメータを有する異なる参照インデックスを使用して示され得る。一例として、いくつかの領域(例えば、エッジ近くのエリア)がRRU符号化モードに従ってダウンサンプリングされず、残りの領域がクロミナンス成分に対してのみ1つまたは複数のRRU符号化モードに従ってダウンサンプリングされることは、望ましくあり得る。加えて、各1つが、それぞれのダウンサンプリング方法論に割り当てられるのではなく、同じ参照をポイントする、3つの参照インデックスを割り当てることが望ましくあり得る。信号が提供され得、重み付きの予測情報が割り当てられる方法に類似した方法で参照インデックスが割り当てられる。
それに応じて、符号器200は、ビデオ信号の1つまたは複数の成分がRRU符号化モードに従ってダウンサンプリングされるべきかどうかを判断するために、シーケンス、フレーム、および/またはマクロブロックレベルでビデオ信号を解析するためにプロセス300を実装し得る。他の実施形態では、ビデオ信号の他の構文レベルが使用され得る。すなわち、プロセス300は、ブロックのグループ、マクロブロック、スライス、フレーム、ピクチャ、シーケンスおよび/またはピクチャのグループ(GOP)を解析し得る。
図3のステップ350に関して、ビデオ信号の1つまたは複数の成分をダウンサンプリングするかどうかを判断するために、1つまたは複数の方法論が使用され得る。成分がダウンサンプリングされるかどうかは、例えば、速度歪みコストまたは時空間解析に基づき得る。歪みコストは、平方差の合計、絶対誤差の合計、および/または構造類似性指標(SSIM)、または他の客観的計測値を使用して測定され得、速度コストは、例えば、動きベクトルおよび各予定される符号化モードに対する他の符号化要素コストに基づき、予測されたビットレートまたは実際のビットレートを使用して測定され得る。
図4は、本発明の実施形態による領域の解析および符号化のためのプロセス400の流れ図である。プロセス400は、図3のステップ350を実装するために使用され得る。本明細書に記載するプロセス400は、ビデオ信号のマクロブロックに関して記述されているが、当業者によって、プロセス400はビデオ信号の任意の構文レベルで適用され得ることが理解されるであろう。
ステップ405で、時空間解析が、例えば、モード決定ブロック230によってマクロブロックについて実行され得る。この解析は、例えば、テクスチャ、動き、残差特性、AC係数、1つもしくは複数の事前定義された条件(例えば、画像内での相対位置)、またはそれらの組合せに基づき得る。解析に基づき、ステップ410で、予備のRRU符号化決定がマクロブロックに対して判断され得る。すなわち、1つまたは複数の符号化規格に従って、マクロブロックの任意の成分がダウンサンプリングされるべきかどうか、およびそうである場合は、その方法が判断され得る。加えて、マクロブロックは、例えば、複数のブロックに分割され得る。
ステップ415で、マクロブロックの第1のブロックが、予備RRU決定に従い、例えば、ダウンサンプラ260によって符号化され得る。ステップ420で、符号化ブロックが1つまたは複数の特定の基準を満足するかどうかが判断され得る。例えば、符号化ブロックが、特定の閾値を満足するビットレートを有するかどうかが判断され得る。ステップ425で、符号化ブロックが基準を満足する場合、ブロックは、例えば、エントロピー符号器208によって符号化されて、符号化ビットストリーム内に提供され得る。ブロックに対応する信号も、符号化ビットストリーム内に提供され得る。
ステップ425で、符号化ブロックが特定の基準を満足しない場合、ステップ435で、ブロックを符号化するためにフォールバックRRU符号化決定が使用され得、基準を最も良く満足するRRU決定が現在のブロックに対して選択され得る。少なくとも1つの実施形態では、フォールバックRRU符号化決定は、ブロックの解像度を、予備RRU符号化決定の解像度よりも低い解像度に下げることを含み得る。ブロックの解像度を予備RRU符号化決定の解像度よりも高い解像度に上げるRRU符号化決定などの、他のRRU符号化決定も使用され得る。マクロブロックの各ブロックが検討されるまで、残りのブロックが、ステップ415、420、425、および430を使用して反復して符号化され得る。
図5は、本発明の実施形態に従って、異なるRRU符号化モードをフレームに割り当てる例の概略図500である。フレーム502は、例えば、全ての成分がフル解像度で符号化されるRRU符号化モードに対応し得る。フレーム504は、青のクロミナンス差成分および赤のクロミナンス差成分が低解像度で符号化されるRRU符号化モードに対応し得る。フレーム506は、全ての成分が低解像度で符号化されるRRU符号化モードに対応し得る。
図6は、本発明の実施形態に従って、様々なRRU符号化モードで符号化されたマクロブロック600のブロック図である。マクロブロック600は、3つのエリア601、602、603のうちの1つに対応する複数のブロックを含み得る。エリア601に対応するブロックは、青のクロミナンス差成分および赤のクロミナンス差成分が低解像度で符号化されている(例えば、ダウンサンプリングされている)RRU符号化モードに対応する。エリア602に対応するブロックは、全ての成分が低解像度で符号化されているRRU符号化モードに対応する。エリア603に対応するブロックは、どの成分も低解像度で符号化されていないRRU符号化モードに対応する。他の例では、異なるブロックが、それぞれの成分に対して任意の組合せの低解像度を使用し得る。
図7aは、本発明の実施形態による、ブロック境界に対するアップサンプリング方式700の概略図である。図のように、アップサンプリング方式700は、アップサンプル画素701の各々に対して、それぞれの値を計算するために、ダウンサンプル画素702を使用し得る。さらに、アップサンプル画素701の各々は、画素701に対する値がそれによってアップサンプリングプロセス中に計算され得る、それぞれの計算式に対応し得る。例えば、画素701bは、画素の値がb=(3×A+B+2)/4によって決定され得る、計算式に対応し、式中、AおよびBは、ダウンサンプル画素702aおよび702bのそれぞれの値に対応する。アップサンプリングのための他の画素値定式化が他の例で使用され得る。
図7bは、本発明の実施形態による、内側位置に対するアップサンプリング方式750の概略図750である。図のように、アップサンプリング方式750は、アップサンプル画素751の各々に対する値を計算するために、ダウンサンプル画素752を使用する。図7aの画素701と同様に、アップサンプル画素751の各々に対する値が、ダウンサンプリングされた画素752の値を使用してそれぞれの計算式で決定され得る。
図8は、本発明の実施形態による復号器800の概略図である。復号器800は、1つまたは複数の論理回路、制御論理、論理ゲート、プロセッサ、メモリ、および/または同じもの任意の組合せもしくは部分的組合せを含み得、現在または将来において当技術分野で周知の1つまたは複数の復号技術を使用して、ビデオ信号の復号および/または圧縮を行い得る。復号器800は、例えば、図1の符号器100などの符号器によって提供されたビットストリーム(例えば、符号化ビットストリーム)を復号し得る。復号器800は、テレビ、放送システム、モバイル機器、ならびにラップトップおよびデスクトップの両方のコンピュータを含むが、それらに制限されず、ビデオ符号化を採用する様々な装置のいずれかで実装され得る。復号器800は、さらに、H.264符号化規格に一部または完全に準拠し得、いくつかの実施形態では、追加または代替として、H.263およびHEVC符号化規格などの、当技術分野で周知の1つまたは複数の他の符号化規格に一部または完全に準拠し得る。
復号器800は、図2の符号器200に関して以前に記述されている要素を含む。これらの要素は、図2で使用された同じ参照番号を使用して図8内で識別されており、共通要素の動作は、前述のとおりである。それ故、これらの要素の動作の詳細な記述は簡略にするために繰り返されない。
復号器800は、符号化ビットストリームを復号し得るエントロピー復号器808を含み得る。符号化ビットストリームの復号後、結果として生じる量子化された係数ブロックは、前述のように、逆量子化されて、逆変換され得、各回復された残差は、アップサンプラ262に、または加算器214に提供され得る。少なくとも1つの実施形態では、エントロピー復号器808は、残差がアップサンプラ262に提供され得るか、または加算器214に提供され得るかを判断し得る。エントロピー復号器808は、この判断を、例えば、符号化ビットストリーム内に含まれるシグナル機構および/または他のデータに基づいて行い得る。それに応じて、復元されたビデオ信号を提供するために、ダウンサンプリングされた残差がアップサンプリングされ、かつ/または加算器214に提供され得る。
図9は、本発明の実施形態によるメディア配信システムの概略図である。メディア配信システム900は、メディアソース902を様々なメディア出力(複数可)904の1つまたは複数に配信するための機構を提供し得る。図9では、1つだけのメディアソース902およびメディア出力904が示されているが、任意の数が使用され得、本発明の例は、メディアコンテンツを任意の数のメディア出力にブロードキャストおよび/または他の方法で配信するために使用され得ることを理解されたい。
メディアソースデータ902は、ビデオ、音声、データ、またはそれらの組合せを含むが、それらに限定されず、メディアコンテンツの任意のソースであり得る。メディアソースデータ902は、例えば、カメラ、マイクロホン、および/もしくは他の捕捉装置を使用して捕捉され得るか、または処理装置によって生成もしくは提供され得る音声および/またはビデオデータであり得る。メディアソースデータ902は、アナログまたはデジタルであり得る。メディアソースデータ902がアナログデータである場合、メディアソースデータ902は、例えば、アナログ/デジタル変換器(ADC)を使用して、デジタルデータに変換され得る。通常、メディアソースデータ902を伝送するために、あるタイプの圧縮および/または暗号化が望ましくあり得る。それに応じて、MPEG−2、MPEG−4、H.263、H.264、HEVC、またはこれらもしくは他の符号化規格の組合せなどであるがそれらに限定されない、符号化規格に従った符号化方法を含む、現在または将来において当技術分野で周知の任意の符号化方法を使用して、メディアソースデータ902を符号化し得る、符号器910が提供され得る。符号器910は、本明細書に記載された本発明の実施形態で実装され得る。例えば、符号器910は、図1の符号器100および/または図2の符号器200で実装され得る。
符号化データ912は、人工衛星914、アンテナ916、および/またはネットワーク918などの、通信リンクに提供され得る。ネットワーク918は、有線または無線であり得、電気的および/または光学的伝送を使用してさらに通信し得る。アンテナ916は、地上波アンテナであり得、例えば、従来のAMおよびFM信号、衛星信号、または当技術分野で周知の他の信号を受信および送信し得る。通信リンクは、符号化データ912をブロードキャストし得、いくつかの例では、符号化データ912を変更し、(例えば、符号化データ912の再符号化、符号化データ912に対する加算または減算によって)その変更された符号化データ912をブロードキャストし得る。通信リンクから提供された符号化データ920は、図8の復号器800などの復号器を含み得るか、またはそれに結合され得る受信器922によって受信され得る。復号器は、1つまたは複数のメディア出力を、図9に示すメディア出力904で提供するために、符号化データ920を復号し得る。
受信器922は、モデム、ルーター、サーバー、セットトップボックス、ラップトップ、デスクトップ、コンピュータ、タブレット、携帯電話などを含むがそれらに限定されない、任意の数の装置内に含まれ得るか、またはそれらの装置と通信し得る。
図9のメディア配信システム900および/または符号器910は、コンテンツ配信業界の様々なセグメントで利用され得る。
図10は、本明細書に記載する符号器を利用し得るビデオ配信システム1000の概略図である。ビデオ配信システム1000は、ビデオ配信者(video contributer)1005を含む。ビデオ配信者1005は、デジタル衛星ニュース収集システム1006、イベントブロードキャスト1007、およびリモートスタジオ1008を含み得るが、それらに限定されない。これらビデオ配信者1005の各々またはいずれかは、メディアソースデータを符号化して、符号化データを通信リンクに提供するために、図9の符号器910などの、本明細書に記載の符号器を利用し得る。デジタル衛星ニュース収集システム1006は、符号化データを人工衛星1002に提供し得る。イベントブロードキャスト1007は、符号化データをアンテナ1001に提供し得る。リモートスタジオ1008は、符号化データをネットワーク1003を経由して提供し得る。
製作セグメント1010は、コンテンツ発信者(content originator)1012を含み得る。コンテンツ発信者1012は、符号化データをビデオ配信者1005のいずれかまたは組合せから受信し得る。コンテンツ発信者1012は、受信したコンテンツを利用可能にし得、受信したコンテンツのいずれかを編集、結合、および/または操作して、そのコンテンツを利用可能にし得る。コンテンツ発信者1012は、符号化データを人工衛星1014(または別の通信リンク)に提供するために、図1の符号器100または図2の符号器200などの、本明細書に記載の符号器を利用し得る。コンテンツ発信者1012は、ネットワークまたは他の通信リンクを経由して、符号化データを地上デジタルテレビ放送システム1016に提供し得る。いくつかの例では、コンテンツ発信者1012は、配信者(複数可)1005から受信したコンテンツを復号するために、図8に関連して記述された復号器800などの、復号器を利用し得る。コンテンツ発信者1012は、次いで、データを再符号化し、符号化されたデータを人工衛星1014に提供し得る。他の例では、コンテンツ発信者1012は、受信したデータを復号しない可能性があり、受信したデータの符号化フォーマットを変更するために、トランスコーダを利用し得る。
一次配信セグメント1020は、デジタル放送システム1021、地上デジタルテレビ放送システム1016、および/またはケーブルシステム1023を含み得る。デジタル放送システム1021は、符号化データを人工衛星1014から受信するため、図9に関連して記述された受信器922などの、受信器を含み得る。地上デジタルテレビ放送システム1016は、符号化データをコンテンツ発信者1012から受信するため、図9に関連して記述した受信器922などの、受信器を含み得る。ケーブルシステム1023は、それ自身のコンテンツをホストし得、それは、製作セグメント1010および/または配信者セグメント1005から受信していることもあれば、受信していないこともあり得る。例えば、ケーブルシステム1023は、それ自身のメディアソースデータ902を、図9に関連して記述されたように提供し得る。
デジタル放送システム1021は、符号化データを人工衛星1025に提供するために、図9に関連して記述された符号器910などの、符号器を含み得る。ケーブルシステム1023は、ネットワークまたは他の通信リンクを経由して、符号化データをケーブルローカルヘッドエンド1032に提供するために、図1の符号器100または図2の符号器200などの符号器を含み得る。二次配信セグメント1030は、例えば、人工衛星1025および/またはケーブルローカルヘッドエンド1032を含み得る。
ケーブルローカルヘッドエンド1032は、ネットワークまたは他の通信リンクを経由して、符号化データをクライアントセグメント940内のクライアントに提供するために、図1の符号器100または図2の符号器200などの符号器を含み得る。人工衛星1025は、信号をクライアントセグメント1040内のクライアントにブロードキャストし得る。クライアントセグメント1040は、コンテンツを復号し、最終的にコンテンツをユーザーに対して利用可能にするため、図9に関連して記述された受信器922および関連した復号器などの、受信器を含み得る、任意の数の装置を含み得る。クライアントセグメント1040は、セットトップボックス、タブレット、コンピュータ、サーバー、ラップトップ、デスクトップ、携帯電話などの装置を含み得る。
それに応じて、符号化および/または復号が、ビデオ配信システム内のいくつかのポイントのいずれでも利用され得る。本発明の実施形態は、これらのセグメントのいずれか、またはいくつかの例全部内で利用法を見つけ得る。
前述から、本明細書では、本発明の特定の実施形態が説明のために記述されているが、様々な修正が、本発明の精神および範囲から逸脱することなく、行われ得ることが理解されるであろう。その結果、本発明は、添付の請求項による場合を除いて、制限されない。

Claims (24)

  1. ビデオ信号を受信し、前記ビデオ信号の第1および第2の成分のそれぞれのタイプの少なくとも一部に基づいて、第1のRRU符号化モードに従ってダウンサンプリングされる前記ビデオ信号の第1の成分、および第2のRRU符号化モードに従ってダウンサンプリングされる前記ビデオ信号の第2の成分を選択的にダウンサンプリングするように構成された符号器、
    を備える機器。
  2. 前記符号器が、シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、前記第1および第2の成分を選択的にダウンサンプリングするようにさらに構成されている、
    請求項1に記載の機器。
  3. 前記符号器が、フル解像度基準を使用して動き予測を実行するようにさらに構成されている、
    請求項1に記載の機器。
  4. 前記符号器が、前記ビデオ信号の前記第1の成分の時空間解析の少なくとも一部に基づいて、前記ビデオ信号の前記第1の成分を選択的にダウンサンプリングするようにさらに構成されている、
    請求項1に記載の機器。
  5. 符号化ビットストリームを受信し、前記符号化ビットストリームの少なくとも一部に基づいて、回復された残差を提供するように構成された復号器であって、前記復号器が、前記符号化ビットストリームの1つまたは複数のシグナル機構の少なくとも一部に基づいて、復元されたビデオ信号を提供するために、第1のRRUモードに従ってアップサンプリングされる前記回復された残差の第1の成分、および第2のRRUモードに従ってアップサンプリングされる前記回復された残差の第2の成分を選択的にアップサンプリングするように構成された復号器、
    を備える機器。
  6. 前記復号器が、シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、前記第1および第2の成分を選択的にアップサンプリングするようにさらに構成されている、
    請求項5に記載の機器。
  7. 前記第1および第2の成分が、各々、赤のクロミナンス差成分、青のクロミナンス差成分、輝度成分、またはそれらの組合せを含む、
    請求項5に記載の機器。
  8. ビデオ信号を受信し、前記ビデオ信号の成分に対応しRRU符号化モードを含む信号を前記ビデオ信号内に提供するように構成されたモード決定ブロックと、
    前記モード決定ブロックに結合され、前記信号を受信するように構成されたエントロピー符号器であって、前記成分および前記信号の少なくとも一部に基づいて、符号化ビットストリームを提供するように構成されているエントロピー符号器と、
    を備える符号器。
  9. 前記モード決定ブロックに結合され、前記RRU符号化モードに従って前記ビデオ信号の前記成分をダウンサンプリングするように構成されたダウンサンプラをさらに備える、
    請求項8に記載の符号器。
  10. 前記ダウンサンプラが、アップサンプリング方式の少なくとも一部に基づいて、前記残差をダウンサンプリングするようにさらに構成されている、
    請求項9に記載の符号器。
  11. 前記成分は輝度成分を含み、
    前記RRU符号化モードはフル解像度に対応する、
    請求項8に記載の符号器。
  12. ビデオ信号を受信するステップと、
    RRUモードで動作中に前記ビデオ信号を解析するステップと、
    前記ビデオ信号の解析後に、前記ビデオ信号の前記成分のタイプの少なくとも一部に基づいて、前記ビデオ信号の成分を選択的にダウンサンプリングするステップと、
    を含む符号化の方法。
  13. 前記RRUモードで動作中に前記ビデオ信号を解析するステップが、複数の領域の各々について時空間解析を実行するステップを含む、
    請求項12に記載の方法。
  14. 前記成分が、赤のクロミナンス差成分、青のクロミナンス差成分、輝度成分、またはそれらの組合せを含む、
    請求項12に記載の方法。
  15. 前記ビデオ信号の成分を選択的にダウンサンプリングするステップが、
    前記ビデオ信号の第1の成分を第1のRRU符号化モードに従って選択的にダウンサンプリングするステップと、
    前記ビデオ信号の第2の成分を第2のRRU符号化モードに従って選択的にダウンサンプリングするステップと、
    を含む、請求項12に記載の方法。
  16. 前記ビデオ信号の成分を前記選択的にダウンサンプリングするステップが、前記成分を、規範的アップサンプリング方式の少なくとも一部に基づいて、ダウンサンプリングするステップ、
    を含む、請求項12に記載の方法。
  17. RRUタイプを示すシグナル機構を含む符号化ビットストリームを復号器で受信するステップと、
    前記符号化ビットストリームの少なくとも一部に基づいて、残差を生成するステップと、
    前記シグナル機構の少なくとも一部に基づいて、前記残差の成分を選択的にアップサンプリングするステップと、
    を含む、方法。
  18. 前記残差の成分を選択的にアップサンプリングするステップが、
    シーケンスレベル、フレームレベル、マクロブロックレベル、またはそれらの任意の組合せで、前記成分を選択的にアップサンプリングするステップ、
    を含む、請求項17に記載の方法。
  19. シーケンスレベル低解像度アップデートモードが有効かどうかを判断するために、シーケンスを解析するステップと、
    前記シーケンスレベル低解像度アップデートモードが有効な場合に、フレームレベル低解像度アップデートモードが有効かどうかを判断するために、前記シーケンスのフレームを解析するステップと、
    前記フレームレベル低解像度アップデートモードが有効な場合に、前記成分のタイプの少なくとも一部に基づいて、マクロブロックの成分をダウンサンプリングするかどうかを判断するために、前記フレームのマクロブロックを解析するステップと、
    を含む、方法。
  20. マクロブロックの解析後に、前記マクロブロックの前記成分に対応するRRU符号化モードを提供するステップ、
    をさらに含む、請求項19に記載の方法。
  21. 前記シーケンスレベル低解像度アップデートモードが有効でない場合に、前記シーケンスをフル解像度で符号化するステップと、
    前記フレームレベル低解像度アップデートモードが有効でない場合に、前記フレームをフル解像度で符号化するステップと、
    をさらに含む、請求項19に記載の方法。
  22. マクロブロックについて時空間解析を実行するステップと、
    時空間解析の少なくとも一部に基づいて、予備低解像度アップデート符号化決定を生成するステップと、
    前記予備低解像度アップデート符号化決定を使用して前記マクロブロックのブロックを符号化するステップと、
    前記符号化されたブロックが基準を満足するかどうかを判断するステップと、
    前記符号化されたブロックが前記基準を満足しない場合に、フォールバック低解像度アップデート決定を使用して前記ブロックを符号化するステップと、
    を含む、方法。
  23. 前記予備低解像度アップデート符号化決定を使用して前記マクロブロックのブロックを前記符号化するステップが、前記ブロックを第1の解像度で符号化するステップを含み、
    前記符号化されたブロックが前記基準を満足しない場合に、フォールバック低解像度アップデート決定を使用して前記ブロックを符号化するステップが、前記ブロックを第2の解像度で符号化するステップであって、前記第2の解像度が前記第1の解像度よりも低い、前記ブロックを第2の解像度で符号化するステップ、
    を含む、請求項22に記載の方法。
  24. 予備低解像度アップデート決定を生成する前に、前記マクロブロックをブロックに分割するステップ、
    をさらに含む、請求項22に記載の方法。
JP2014553380A 2012-01-19 2013-01-16 適応低解像度アップデートモードを提供するための方法および機器 Pending JP2015508250A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261588613P 2012-01-19 2012-01-19
US61/588,613 2012-01-19
PCT/US2013/021748 WO2013109631A1 (en) 2012-01-19 2013-01-16 Methods and apparatuses for providing an adaptive reduced resolution update mode

Publications (1)

Publication Number Publication Date
JP2015508250A true JP2015508250A (ja) 2015-03-16

Family

ID=48797174

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014553380A Pending JP2015508250A (ja) 2012-01-19 2013-01-16 適応低解像度アップデートモードを提供するための方法および機器

Country Status (5)

Country Link
US (1) US20130188686A1 (ja)
EP (1) EP2805509A4 (ja)
JP (1) JP2015508250A (ja)
CA (1) CA2861043C (ja)
WO (1) WO2013109631A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11153594B2 (en) 2016-08-29 2021-10-19 Apple Inc. Multidimensional quantization techniques for video coding/decoding systems

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013053314A1 (en) * 2011-10-14 2013-04-18 Mediatek Inc. Method and apparatus for loop filtering
CN103891277B (zh) * 2011-10-14 2018-01-26 寰发股份有限公司 回路滤波方法及其装置
US9491475B2 (en) 2012-03-29 2016-11-08 Magnum Semiconductor, Inc. Apparatuses and methods for providing quantized coefficients for video encoding
US9392286B2 (en) 2013-03-15 2016-07-12 Magnum Semiconductor, Inc. Apparatuses and methods for providing quantized coefficients for video encoding
US20150085915A1 (en) * 2013-09-25 2015-03-26 Jay C.-C. Kuo Method and system for automatically encoding video with uniform throughput
US20150172660A1 (en) * 2013-12-17 2015-06-18 Magnum Semiconductor, Inc. Apparatuses and methods for providing optimized quantization weight matrices
US9794575B2 (en) 2013-12-18 2017-10-17 Magnum Semiconductor, Inc. Apparatuses and methods for optimizing rate-distortion costs in video encoding
US20180192076A1 (en) * 2015-06-16 2018-07-05 Sharp Kabushiki Kaisha Image decoding device image coding device
CN107438257B (zh) * 2016-05-26 2020-04-17 大唐移动通信设备有限公司 一种基带处理单元bbu接口板的ir帧格式转换方法和装置
CN109274969B (zh) * 2017-07-17 2020-12-22 华为技术有限公司 色度预测的方法和设备
US10687083B2 (en) * 2018-06-06 2020-06-16 Intel Corporation Loop restoration filtering for super resolution video coding
WO2020192180A1 (zh) * 2019-03-25 2020-10-01 Oppo广东移动通信有限公司 图像分量的预测方法、编码器、解码器及计算机存储介质
CN114868392A (zh) * 2019-12-31 2022-08-05 华为技术有限公司 编码器、解码器及对应方法
US11184638B1 (en) * 2020-07-16 2021-11-23 Facebook, Inc. Systems and methods for selecting resolutions for content optimized encoding of video data
CN114025168B (zh) * 2021-09-30 2023-08-04 浙江大华技术股份有限公司 视频图像的处理方法、处理设备、电子设备以及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63296583A (ja) * 1987-05-28 1988-12-02 Fujitsu Ltd 画像符号化方式
JP2007528675A (ja) * 2004-03-09 2007-10-11 トムソン リサーチ ファンディング コーポレイション Avc用解像度低下更新モード
JP2009522941A (ja) * 2006-01-09 2009-06-11 トムソン ライセンシング マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
WO2010137323A1 (ja) * 2009-05-29 2010-12-02 三菱電機株式会社 映像符号化装置、映像復号装置、映像符号化方法、および映像復号方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7596179B2 (en) * 2002-02-27 2009-09-29 Hewlett-Packard Development Company, L.P. Reducing the resolution of media data
US9154808B2 (en) * 2005-01-14 2015-10-06 Thomson Licensing Method and apparatus for INTRA prediction for RRU
US8391368B2 (en) * 2005-04-08 2013-03-05 Sri International Macro-block based mixed resolution video compression system
US8325797B2 (en) * 2005-04-11 2012-12-04 Maxim Integrated Products, Inc. System and method of reduced-temporal-resolution update for video coding and quality control
EP1753242A2 (en) * 2005-07-18 2007-02-14 Matsushita Electric Industrial Co., Ltd. Switchable mode and prediction information coding
BRPI0715770B1 (pt) * 2006-08-25 2020-03-10 Interdigital Vc Holdings, Inc. Método, aparelho e mídia de armazenamento para particionamento com menor resolução
WO2008140656A2 (en) * 2007-04-03 2008-11-20 Gary Demos Flowfield motion compensation for video compression
WO2008147125A1 (en) * 2007-05-29 2008-12-04 Lg Electronics Inc. A method and an apparatus for processing a video signal

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63296583A (ja) * 1987-05-28 1988-12-02 Fujitsu Ltd 画像符号化方式
JP2007528675A (ja) * 2004-03-09 2007-10-11 トムソン リサーチ ファンディング コーポレイション Avc用解像度低下更新モード
JP2009522941A (ja) * 2006-01-09 2009-06-11 トムソン ライセンシング マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
WO2010137323A1 (ja) * 2009-05-29 2010-12-02 三菱電機株式会社 映像符号化装置、映像復号装置、映像符号化方法、および映像復号方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11153594B2 (en) 2016-08-29 2021-10-19 Apple Inc. Multidimensional quantization techniques for video coding/decoding systems
US11539974B2 (en) 2016-08-29 2022-12-27 Apple Inc. Multidimensional quantization techniques for video coding/decoding systems

Also Published As

Publication number Publication date
CA2861043A1 (en) 2013-07-25
CA2861043C (en) 2019-05-21
WO2013109631A1 (en) 2013-07-25
EP2805509A4 (en) 2015-07-29
US20130188686A1 (en) 2013-07-25
EP2805509A1 (en) 2014-11-26

Similar Documents

Publication Publication Date Title
JP2015508250A (ja) 適応低解像度アップデートモードを提供するための方法および機器
CN113810690B (zh) 去块效应滤波方法、编解码设备、可读介质
CN109194958B (zh) 使用量化矩阵的视频编解码装置
JP5777080B2 (ja) 合成ビデオのためのロスレス・コード化および関連するシグナリング方法
JP2021520741A (ja) フレームレベル超解像ベースビデオ符号化
CN107113431B (zh) 视频编码设备、视频解码设备、视频编码方法、视频解码方法和程序
US20140269901A1 (en) Method and apparatus for perceptual macroblock quantization parameter decision to improve subjective visual quality of a video signal
US9794575B2 (en) Apparatuses and methods for optimizing rate-distortion costs in video encoding
KR20230037527A (ko) 인트라 예측 모드 스케일러블 코딩 방법 및 장치
US10271070B2 (en) Image processing system, image processing method and program
CN113545063A (zh) 使用线性模型进行帧内预测的方法及装置
CN113785573A (zh) 编码器、解码器和使用自适应环路滤波器的对应方法
CN113796078A (zh) 帧内预测模式相关的编码器、解码器及对应方法
CN117478915A (zh) 用于构建应用多假设预测的块的mpm列表的编码器、解码器及相应方法
JP7393366B2 (ja) 画像の符号化方法、復号化方法、エンコーダおよびデコーダ
CN113348665A (zh) 编码器、解码器及色度帧内模式推导的对应方法
CN113574870B (zh) 编码器、解码器及其实现的对当前块进行预测译码的方法
CN115699775A (zh) 视频或图像编码系统中基于单色颜色格式的色度去块参数信息的图像编码方法
US9392286B2 (en) Apparatuses and methods for providing quantized coefficients for video encoding
KR20160031061A (ko) 적응적 루프 필터 적용 방법 및 그를 이용한 스케일러블 비디오 부호화 장치
CN113891084B (zh) 帧内预测模式相关的编码器、解码器、对应方法及计算机可读介质
KR20140048806A (ko) 공간 해상도에 기반한 계층 간 예측 장치 및 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150915

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160301