JP5726919B2 - リモートディスプレイに画像をレンダリングするためのデルタ圧縮ならびに動き予測およびメタデータの修正を可能にすること - Google Patents

リモートディスプレイに画像をレンダリングするためのデルタ圧縮ならびに動き予測およびメタデータの修正を可能にすること Download PDF

Info

Publication number
JP5726919B2
JP5726919B2 JP2012556222A JP2012556222A JP5726919B2 JP 5726919 B2 JP5726919 B2 JP 5726919B2 JP 2012556222 A JP2012556222 A JP 2012556222A JP 2012556222 A JP2012556222 A JP 2012556222A JP 5726919 B2 JP5726919 B2 JP 5726919B2
Authority
JP
Japan
Prior art keywords
macroblock
data
frame buffer
motion information
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012556222A
Other languages
English (en)
Other versions
JP2013521717A (ja
Inventor
ラビーンドラン、ビジャヤラクシュミ・アール.
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2013521717A publication Critical patent/JP2013521717A/ja
Application granted granted Critical
Publication of JP5726919B2 publication Critical patent/JP5726919B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43632Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Discrete Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

関連出願の相互参照
本出願は、その全体が参照により本明細書に明確に組み込まれる、V.RAVEENDRANという名称で、2010年3月2日に出願された米国仮特許出願第61/309,765号の利益を主張する。
本開示は、一般にデータ圧縮に関する。より詳細には、本開示は、ビデオ信号のワイヤレス送信より前に実行されるデータ圧縮中に動き予測(motion estimation)を低減することに関する。
テレビジョン(TV)および他のモニタにコンテンツをワイヤレス配信することが望ましい。一例として、いくつかの事例では、TVデバイス上に出力するためにユーザデバイスからコンテンツを配信させることが望ましいことがある。たとえば、多くのTVデバイス出力能力と比較して、携帯電話、個人情報端末(PDA)、メディアプレーヤデバイス(たとえば、Apple(登録商標) iPOD(登録商標)デバイス、他のMP3プレーヤデバイスなど)、ラップトップコンピュータ、ノートブックコンピュータなど、多くのポータブルユーザデバイスは、小さいディスプレイサイズなど、出力能力が限定/制約されている。たとえば、ポータブルユーザデバイス上でビデオを閲覧することを望んでいるユーザは、ビデオコンテンツがTVデバイス上に出力するために配信された場合、改善されたオーディオビジュアルエクスペリエンスを得ることがある。したがって、いくつかの事例では、ユーザは、コンテンツを受信(閲覧および/または聴取)する際の改善されたオーディオビジュアルエクスペリエンスを求めて、テレビジョンデバイス(たとえば、HDTVデバイス)上に出力するために、ユーザデバイスからコンテンツを配信することを望むことがある。
フレームバッファ更新(frame buffer updates)を符号化するための方法が提供される。本方法は、フレームバッファ更新を記憶することを含む。本方法はまた、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換することを含む。
フレームバッファ更新を符号化するための装置が提供される。本装置は、フレームバッファ更新を記憶するための手段を備える。本装置はまた、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換するための手段であって、それによって動き予測をバイパスする、変換するための手段を備える。
フレームバッファ更新を符号化するためのコンピュータプログラム製品が提供される。本コンピュータプログラム製品は、プログラムコードを記録したコンピュータ可読媒体を含む。プログラムコードは、フレームバッファ更新を記憶するためのプログラムコードを含む。プログラムコードはまた、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換するためのプログラムコードを含む。
フレームバッファ更新を符号化するように動作可能な装置が提供される。本装置は、(1つまたは複数の)プロセッサと(1つまたは複数の)プロセッサに結合されたメモリとを含む。(1つまたは複数の)プロセッサは、フレームバッファ更新を記憶するように構成される。(1つまたは複数の)プロセッサはまた、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換することを行うように構成される。
本開示のより完全な理解のために、次に添付の図面とともに行われる以下の説明を参照する。
マルチメディアデータを処理し、送信するために使用される構成要素を示すブロック図。 本開示の一態様によるデルタ圧縮を示すブロック図。 ワイヤレス送信のために準備されたマクロブロックデータとヘッダ情報とを示すブロック図。 静的マクロブロックのための例示的なマクロブロックヘッダを示す図。 本開示の一態様によるデルタ圧縮を示す図。
「例示的」という単語は、本明細書では、「例、事例、または例示の働きをすること」を意味するために使用する。「例示的」として本明細書で説明するいかなる態様も、必ずしも他の態様よりも好適または有利なものと解釈すべきではない。
ビデオデータをワイヤレスに送信するためにいくつかの方法が利用され得る。1つのそのような方法は、図1に示すエクスプレスカードインターフェースを介してコンテンツホストに接続するワイヤレス通信デバイスを利用し得る。図示のように、ホスト100は、エクスプレスカードインターフェースを介してエクスプレスカード150に接続する。ホスト100は、いくつかの処理構成要素を利用して1次ディスプレイ102およびオーディオ出力104への出力のためにマルチメディアデータを処理し得るか、またはホストは、バッファを通した(エクスプレスカード150などの外部デバイスとして図1に示された)送信機への出力のためにマルチメディアデータを処理し得、送信機は、アンテナ152を介した最終的なワイヤレス送信のためにそのデータをさらに処理し得る。図1に示した論理およびハードウェアは説明のためのものにすぎない。ホスト、外部デバイスなどの他の構成は、以下で説明する方法および教示を実装するために採用され得る。
通常、ビデオデータを処理するとき、画像データは、ディスプレイプロセッサ106によってレンダリングされ、コンポーズされ(composed)、一般にピクセルデータの形態でフレームバッファ108に送られる。そのデータは、次いで1次ディスプレイ102に出力される。(ムービーを閲覧することなど)いくつかの状況では、出力されるビデオデータは単一のソースからであり得、(ビデオゲームをプレイすることまたは複数のアプリケーションでデバイスを動作させることなど)他の状況では、グラフィカルオーバーレイオブジェクトまたはアナンシエータ(enunciator)を含む複数のグラフィカル入力は、最終的にディスプレイ上に示されるコンポジットビデオフレームを生成するためにビデオ画像に組み合わせられ、および/またはオーバーレイされ得る。複数のビデオ構成要素が組み合わせられる場合、そのようなビデオ構成要素を生成することを担当する各メディアプロセッサは、様々な入力/メディアプロセッサからのデータを組み合わせるために使用されるコンポジションエンジンにフレーム更新情報などのビデオ情報を通信するために、それ自体の出力言語を有し得る。コンポジションエンジンは、様々なプロセッサから(ビデオデータ、グラフィカルオブジェクトなどを含む)入力の組合せを取り出し、必要に応じてそれらをオーバーレイし、組み合わせ、それらを単一の画像にコンポーズし(適切なカラーコンポジションなどの追加の処理を含み得る)、それらを組み合わせて、最終的にディスプレイに表示される画像にする。
様々なプロセッサからの入力は、異なる言語、異なるフォーマットであり得、異なるプロパティを有し得る。たとえば、あるデバイスからの入力は、別のデバイスとは異なるフレーム更新レートでビデオデータを与え得る。別の例として、あるデバイスが新たなピクセル情報を繰り返し与え得、別のデバイスが、(1つまたは複数の)特定の参照ピクセルからの変更を示すピクセル更新の形態でビデオデータのみを与え得る。また、いくつかのプロセッサは、フレームを生成するために互いにコンポーズされる、フレームの異なる領域または異なるタイプのデータに対してのみ動作していることがある。異なるプロセッサからの様々な入力は、コンポジションエンジンによってモード情報に変換され、様々なプロセッサからの入力は、フレームを生成するためにピクセルデータに変換される。コンポジションエンジンによる処理の後、フレーム情報が最終的な表示のためにフレームバッファ108に送られる。
ビデオデータのワイヤレス送信のための一般的な方法は、単にフレームバッファ108からの表示の準備ができたデータをキャプチャし、送信が容易なようにビデオデータを符号化/圧縮し、次いでビデオデータを送る。そのような動作は、ディスプレイリンクドライバ110などの構成要素によって行われ得る。
ビデオデータ圧縮の1つの一般的な方法は、例示のために本明細書で説明するMPEG−2であるが、MPEG−4などの他の圧縮規格も採用され得る。データ圧縮の使用は、追加のプロセッサとメモリ能力とを採用し得、より時間がかかり、電力を消費し得、最終的な送信の遅延につながり得る。遅延は、圧縮プロセスが第1のフレームを完全に復号し、その後、第1のフレームを参照として使用する次のフレームが復号され得ることから生じ得る。
そのような遅延を低減するための1つの方法は、参照フレームからの増分変更として複数の後のフレームのビデオデータを処理することである。そのような方法では、(デルタ(Δ)情報またはディスプレイフレーム更新と呼ばれる)更新または変更情報が、最終的なディスプレイ上に(参照フレームに対して)レンダリングするためにディスプレイプロセッサに送られる。このデルタ情報は、(たとえば、動きベクトルを含む)動き予測または他のデータの形態であり得る。圧縮中にそのようなデルタ情報を計算する際に、追加の処理能力が採用され得る。
本開示の一態様では、圧縮中のデルタ情報の判断が回避され、および/またはそのような判断に専用の処理能力が低減または回避され得る。(コンポジションエンジンに情報を出力する上記で説明したメディアプロセッサなどの)様々なメディアプロセッサは、デルタ情報がキャプチャされ、圧縮中に再計算される必要がないように、デルタ情報をすでに計算し得る。コンポジションエンジンに入る入力を見ることによって、各ピクセルに起こっていることに関するより多くの未加工情報が利用可能である。その情報は、エンコーダがマクロブロックまたはMBと呼ばれるピクセルのグループごとに出力するであろうモード情報に変換され得る。次いで、圧縮技法(たとえば、MPEG−2)によって理解可能なフォーマットのマクロブロックのデータ、および(動き情報を含み得る)マクロブロックのヘッダ情報が符号化され、組み合わせられて、ワイヤレス送信のために圧縮ビットストリームにされ得る。このようにして、従来の圧縮中の動き予測のプロセスおよびデルタ情報の計算は低減され得る。
図2に、本開示の一態様によるデルタ圧縮を示すブロック図を示す。(1つまたは複数の)ビデオソース206からのビデオデータは、デコーダ208によって復号され、ディスプレイプロセッサ212に送られ得る。ディスプレイプロセッサ212から、ビデオデータは、オンデバイス埋込みディスプレイ216または異なるディスプレイ(図示せず)への最終的な配信のためにフレームバッファ214に出力される。オーディオプロセッサ218からのデータは、スピーカー224への最終的な配信のためにオーディオバッファ220に出力される。ディスプレイプロセッサ212はまた、GPU210からの画像データを受信し得る。GPU210は、ビデオデータと組み合わせられるかまたはその上にオーバーレイされ得る様々なグラフィックス、アイコン、画像、または他のグラフィカルデータを生成し得る。
アプリケーション202はコンポジションエンジン/ディスプレイドライバ204と通信し得る。一例では、エンジン/ディスプレイドライバ204は、図1に示したディスプレイリンクドライバ110であり得る。エンジン204は、組合せおよびフレームバッファ214への出力のためにGPU210、デコーダ208、および/または他のソースからの情報を受信するようにディスプレイプロセッサ212に指令する。上記で説明したように、典型的なワイヤレス送信システムでは、フレームバッファ中に含まれているものは、A/Vエンコーダに出力され、送信より前に多重化される最終画像である。
ただし、本開示では、ワイヤレス出力ストリームを生成するために、フレームバッファ中のデータではなくエンジン204からの情報が使用される。エンジンは、(1つまたは複数の)ビデオソース206、GPU210などからのデータを知っている。エンジンはまた、フレームバッファに対する更新の生成に関連するディスプレイプロセッサ212に行くコマンドに気づいている。それらのコマンドは、ビデオディスプレイデータの部分的な更新に関する情報を含む。それらのコマンドはまた、GPU210からのグラフィカルオーバーレイ情報を含む。エンジン204は、従来、それに知られている様々なデータを使用して、フレームバッファに送られるフレームバッファ更新を生成する。
本開示の一態様によれば、エンジン204またはエンジン204への拡張250などのデバイス構成要素は、本明細書で説明するフレームバッファ更新を符号化し得る。フレームバッファ更新は、メモリ252に記憶され得、メタデータを備え得る。メタデータはプロセッサ命令を含み得る。フレームバッファ更新はピクセル情報を含み得る。フレームバッファ更新はフレームレートおよび/またはリフレッシュ速度のためのものであり得る。フレームバッファ更新は、絶対ピクセル、ピクセル差分、周期性、および/またはタイミングに関するデータを含み得る。構成要素は、動き予測メタデータおよびメモリ管理機能の修正を含むハイブリッド圧縮を実行し得る。ハイブリッド圧縮はブロックベースであり得る。フレームバッファ更新はMBデータとMBヘッダとに分割され得る。
エンジン204から、1次ピクセル情報226およびデルタ/周期タイミング情報228がキャプチャされる。メタデータもキャプチャされ得る。いくつかのマクロブロック(MB)についての情報が収集され得る。ピクセルデータ226は、データが表されるピクセルのロケーションを示すインデックス(たとえば、(1,1))を含み得る。((1,1)などの)参照ピクセルから、後のピクセル(たとえば(1,2))のデータは、後のピクセルと前の参照ピクセルとの間の差を示すデルタ情報のみを含み得る。
エンジン204からキャプチャされたデータは、メインディスプレイに行くように意図されたデータであり得るか、または2次ディスプレイに行くように意図され得る(たとえば、リモートディスプレイのみに向けられるビデオデータ)。説明した技法を使用して、所望のピクセルデータが任意のメディアプロセッサからキャプチャされ得、次いで圧縮情報に変換され得、圧縮中に実行される従来の動き予測なしに送られ得る。
いくつかの状況では、1つのマクロブロックから次のマクロブロックへの変更がないことがある。マクロブロックがそれらのそれぞれの参照マクロブロックから変化しないとき、それらは静的マクロブロックと呼ばれる。マクロブロックが静的であるという指示は、ブロック230に示されるようにエンジン204によってキャプチャされ得る。MBデータは、圧縮フォーマット(たとえば、MPEG−2)によって認識されるフォーマットに変換され、送信のためにMBデータ234として出力され得る。タイミングデータ、タイプ(静的マクロブロック(スキップ)、イントラ(I)、予測(PまたはB)など)、デルタ情報などを含むマクロブロック232に関するさらなる情報が、圧縮フォーマット(たとえば、MPEG−2)によって認識されるフォーマットに変換され、送信のためにMBヘッダ情報236として含まれ得る。ヘッダ情報は、事実上、動き情報であり、動きベクトル238、MBモード240(たとえば、予測モード(P、B)など)、またはMBタイプ242(たとえば、新たなフレーム)を含み得る。
図3に、送信のために準備されているMB情報を示す。(ピクセルデータを備える)MBデータ234は、変換され、ワイヤレス送信のための発信MPEG−2ビットストリーム中に含まれる前に符号化される。MBヘッダ236は、MPEG−2ビットストリーム中に含まれるより前にエントロピーコーディングを通して処理される。
図4に、静的ブロックのための例示的なMBヘッダを示す。図4では、MB1,1はフレーム中の第1のマクロブロックである。図示のヘッダは、MB ID(1,1)、MBタイプ(スキップ)、(MBが静的であるとき、(0,0)として図示される)動きベクトルを含み、参照ピクチャを0として示す。
図2および図3に関して上記で説明したプロセスでは、送信より前の従来の圧縮中に実行される動き予測は減らされるかまたはなくされる。ディスプレイプロセッサ212において利用可能なデルタ情報は、一般に圧縮されない。上記のように送信のためにディスプレイプロセッサ212からの動きデータが所望される場合、デルタ情報は、圧縮技法(たとえば、MPEG−2)によって理解可能なフォーマットに変換/符号化されるか、または他の方法で処理され得る。変換されると、デルタ情報は、上記で説明したように参照フレームと組み合わせて使用され得る。
動き予測は、従来の圧縮の総複雑性の50%〜80%の間にあり得るので、動き予測を除去すると、ビデオデータをワイヤレス送信するときに、効率が改善し、電力消費量が低減し、レイテンシが低減する。
たとえば、(特定用途向け集積回路(ASIC)などの)カスタマイズされたハードウェアにおけるMPEG−2符号化は、720pの解像度でのHD符号化の場合は100mW(または1080pの場合はより一層高い)を消費し得る。デルタMPEG−2圧縮のための本明細書で説明する技法は、入力ビデオにおけるエントロピーに比例する圧縮サイクル/複雑性を低減することによってこの数値を著しく減少させ得る。特に、本明細書で説明する技法は、更新を必要としない多数のビデオフレームを利用する。
以下で説明するように、従来、移動が多いと見なされるビデオの場合でも、フレームごとに(コロケートマクロブロック(collocated macroblock)、ゼロ残差(zero residuals)、参照としての前のピクチャの場合のように無移動ベクトル(no movement vector)として定義される)静的である十分に大きい割合のMBがある。
Figure 0005726919
表1に、衛星を介してデジタルTVからキャプチャされた、30個を超える異なる10分間のシーケンスのサンプリングから生じるデータを示す。サンプリングされたプログラミングから、平均してビデオの60%が、ディスプレイ上で更新される必要がない静的マクロブロックを含んでいる。また、表1の第3の列に、ニュースおよびアニメーションタイプビデオでは、フレームの80%以上が時間の80%以上更新される必要がないことを示す。エンコーダが、更新だけ、またはフレーム全体ではなくフレームの一部分を処理することを可能にすることにより、著しい電力節約が生じ得る。これは、(たとえば、フレームの80%以上が静的MBを含んでいるとき)初めに一部の時間行われ得る。
かなりの割合のビデオコンテンツがニュースまたはアニメーションのカテゴリー(すなわち、低動き、低テクスチャ)に入る。
Figure 0005726919
ビデオ処理負荷を最適化(または低減)するためにビデオにおいて適切な冗長性を適用すること、および機構の識別(たとえば、スキップまたは静的情報を使用すること)は、低電力または集積アプリケーションプラットフォームを支援する。
従来の動き予測および補償中に、差分メトリック(絶対値差分和(SAD:sum of absolute difference)または2乗差分和(SSD:sum of squared difference))が計算される前に、大量のデータがフェッチされ、処理され、精度を改善するために一般に補間される。このプロセスは、所望の一致(最も低い差分またはSAD)が得られるまで、所与のブロックまたはMBのための予測子であり得るすべての候補について繰り返される。参照ピクチャからこのデータをフェッチするプロセスは、時間がかかり、処理遅延および計算能力の主な要因となる。一般に、差分を計算する算術は、消費されるプロセッササイクルの数を低減するためにハンドコードされる。ただし、フェッチされるデータはロケーションが大幅に異なる(複数参照ピクチャ予測が使用される場合、複数のフレームにわたってフレーム中の最も遠いMBに最も近い)ことがあり、MB境界と整合されないことがあるので、メモリアドレス指定が追加のオーバーヘッドを追加する。また、前のMBのためにフェッチされたデータは、データフェッチおよびメモリ転送帯域幅のための最適化を制限する現在のMBに好適でないことがある。
図5に、本開示の一態様によるデルタ圧縮を示す。ブロック502に示すように、フレームバッファ更新を記憶する。ブロック504に示すように、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換し、それによって動き予測をバイパスする。
一態様では、装置が、フレームバッファ更新を記憶するための手段と、フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換するための手段とを含む。本デバイスはまた、ユーザ入力コマンドのためのタイムスタンプをキャプチャするための手段と、ユーザ入力コマンドから生じる対応するディスプレイデータをキャプチャするための手段とを含み得る。一態様では、上述の手段は、ディスプレイドライバ110、エンジン204、フレームバッファ108または214、メモリ252、エンジン拡張250、デコーダ208、GPU210、あるいはディスプレイプロセッサ106または212であり得る。
本開示およびその利点について詳細に説明したが、添付の特許請求の範囲によって規定される本開示の技術から逸脱することなく様々な変更、置換および改変を本明細書で行うことができることを理解されたい。さらに、本出願の範囲は、本明細書で説明するプロセス、機械、製造、組成物、手段、方法およびステップの特定の態様に限定されるものではない。当業者が容易に諒解するように、本明細書で説明する対応する態様と実質的に同じ機能を実行するか、または実質的に同じ結果を達成する、現存するかまたは後で展開される、プロセス、機械、製造、組成物、手段、方法、またはステップは本開示に従って利用され得る。したがって、添付の特許請求の範囲は、それらの範囲内にそのようなプロセス、機械、製造、組成物、手段、方法、またはステップを含むものとする。
なお、以下に、出願当初の特許請求の範囲に記載された発明を付記する。
[C1]フレームバッファ更新を符号化するための方法であって、前記方法が、
フレームバッファ更新を記憶することと、
前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換することと
を備える方法。
[C2]前記フレームバッファ更新がピクセル情報とメタデータとを備える、C1に記載の方法。
[C3]前記メタデータがプロセッサ命令を備える、C2に記載の方法。
[C4]前記ハイブリッド圧縮フォーマットがブロックベースである、C1に記載の方法。
[C5]前記フレームバッファ更新がマクロブロックヘッダとマクロブロックデータとを含む、C4に記載の方法。
[C6]前記マクロブロックヘッダが、マクロブロックID、マクロブロックタイプ、動きベクトル、および参照ピクチャのうちの少なくとも1つを備える、C5に記載の方法。
[C7]前記マクロブロックタイプがマクロブロックモードを含み、前記マクロブロックモードが静的マクロブロック(スキップ)、イントラ(I)、および予測(PまたはB)のうちの1つである、C6に記載の方法。
[C8]前記マクロブロックヘッダおよびマクロブロックデータがMPEG−2認識可能フォーマットである、C5に記載の方法。
[C9]前記マクロブロックデータがピクセル差分データと絶対ピクセルデータとを含む、C5に記載の方法。
[C10]前記マクロブロックヘッダが周期性およびタイミングデータを含む、C5に記載の方法。
[C11]フレームバッファ更新を符号化するための装置であって、前記装置が、
フレームバッファ更新を記憶するための手段と、
前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換するための手段であって、それによって動き予測をバイパスする、変換するための手段と
を備える装置。
[C12]フレームバッファ更新を符号化するためのコンピュータプログラム製品であって、前記コンピュータプログラム製品が、
プログラムコードを記録したコンピュータ可読媒体であって、前記プログラムコードが、
フレームバッファ更新を記憶するためのプログラムコードと、
前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換するためのプログラムコードと
を備えるコンピュータ可読媒体
を備えるコンピュータプログラム製品。
[C13]フレームバッファ更新を符号化するように動作可能な装置であって、前記装置が、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに結合されたメモリであって、前記少なくとも1つのプロセッサが、
フレームバッファ更新を記憶することと、
前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することであって、それによって動き予測をバイパスする、変換することと
を行うように構成されている、メモリと
を備える装置。
[C14]前記フレームバッファ更新がピクセル情報とメタデータとを備える、C13に記載の装置。
[C15]前記メタデータがプロセッサ命令を備える、C14に記載の装置。
[C16]前記ハイブリッド圧縮フォーマットがブロックベースである、C13に記載の装置。
[C17]前記フレームバッファ更新がマクロブロックヘッダとマクロブロックデータとを含む、C16に記載の装置。
[C18]前記マクロブロックヘッダが、マクロブロックID、マクロブロックタイプ、動きベクトル、および参照ピクチャのうちの少なくとも1つを備える、C17に記載の装置。
[C19]前記マクロブロックタイプがマクロブロックモードを含み、前記マクロブロックモードが、静的マクロブロック(スキップ)、イントラ(I)、および予測(PまたはB)のうちの1つである、C18に記載の装置。
[C20]前記マクロブロックヘッダおよびマクロブロックデータがMPEG−2認識可能フォーマットである、C17に記載の装置。
[C21]前記マクロブロックデータがピクセル差分データと絶対ピクセルデータとを含む、C17に記載の装置。
[C22]前記マクロブロックヘッダが周期性およびタイミングデータを含む、C17に記載の装置。

Claims (16)

  1. 外部デバイスで画像をレンダリングするための方法であって、前記方法が、
    ユーザデバイスがフレームバッファ更新を記憶することと、
    前記ユーザデバイスが、動き予測をバイパスするために、前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することと、および
    前記ユーザデバイス画像データと前記変換された動き情報を前記外部デバイスに伝送することとを備える方法。
  2. 前記ハイブリッド圧縮フォーマットがブロックベースである、請求項1に記載の方法。
  3. 前記フレームバッファ更新がマクロブロックヘッダとマクロブロックデータとを含む、請求項2に記載の方法。
  4. 前記マクロブロックヘッダが、マクロブロックID、マクロブロックタイプ、動きベクトル、および参照ピクチャのうちの少なくとも1つを備える、請求項3に記載の方法。
  5. 前記マクロブロックタイプがマクロブロックモードを含み、前記マクロブロックモードが静的マクロブロック(スキップ)、イントラ(I)、および予測(PまたはB)のうちの1つである、請求項4に記載の方法。
  6. 前記マクロブロックヘッダおよびマクロブロックデータがMPEG−2認識可能フォーマットである、請求項3に記載の方法。
  7. 前記マクロブロックデータがピクセル差分データと絶対ピクセルデータとを含む、請求項3に記載の方法。
  8. 外部デバイスで画像をレンダリングするための装置であって、前記装置が、
    フレームバッファ更新を記憶するための手段と、
    動き予測をバイパスするために、前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換するための手段と、および
    画像データと前記変換された動き情報を前記外部デバイスに伝送する手段と
    を備える装置。
  9. 外部デバイスで画像をレンダリングするためのコンピュータプログラムであって、前記コンピュータプログラムが、
    ユーザデバイスがフレームバッファ更新を記憶するためのプログラムコードと、
    前記ユーザデバイスが、動き予測をバイパスするために、前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換するためのプログラムコードと、および
    前記ユーザデバイス画像データと前記変換された動き情報を前記外部デバイスに伝送するためのプログラムコードと
    を備えるコンピュータプログラム。
  10. 外部デバイスで画像をレンダリングするように動作可能な装置であって、前記装置が、
    少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサに結合されたメモリと
    を備え、前記少なくとも1つのプロセッサが、
    フレームバッファ更新を記憶することと、
    動き予測をバイパスするために、前記フレームバッファ更新をハイブリッド圧縮フォーマットの動き情報に変換することと、および
    画像データと前記変換された動き情報を前記外部デバイスに伝送することと
    を行うように構成される、装置。
  11. 前記ハイブリッド圧縮フォーマットがブロックベースである、請求項10に記載の装置。
  12. 前記フレームバッファ更新がマクロブロックヘッダとマクロブロックデータとを含む、請求項11に記載の装置。
  13. 前記マクロブロックヘッダが、マクロブロックID、マクロブロックタイプ、動きベクトル、および参照ピクチャのうちの少なくとも1つを備える、請求項12に記載の装置。
  14. 前記マクロブロックタイプがマクロブロックモードを含み、前記マクロブロックモードが、静的マクロブロック(スキップ)、イントラ(I)、および予測(PまたはB)のうちの1つである、請求項13に記載の装置。
  15. 前記マクロブロックヘッダおよびマクロブロックデータがMPEG−2認識可能フォーマットである、請求項12に記載の装置。
  16. 前記マクロブロックデータがピクセル差分データと絶対ピクセルデータとを含む、請求項12に記載の装置。
JP2012556222A 2010-03-02 2011-03-02 リモートディスプレイに画像をレンダリングするためのデルタ圧縮ならびに動き予測およびメタデータの修正を可能にすること Expired - Fee Related JP5726919B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US30976510P 2010-03-02 2010-03-02
US61/309,765 2010-03-02
US13/038,316 US20110216829A1 (en) 2010-03-02 2011-03-01 Enabling delta compression and modification of motion estimation and metadata for rendering images to a remote display
US13/038,316 2011-03-01
PCT/US2011/026920 WO2011109555A1 (en) 2010-03-02 2011-03-02 Enabling delta compression and modification of motion estimation and metadata for rendering images to a remote display

Publications (2)

Publication Number Publication Date
JP2013521717A JP2013521717A (ja) 2013-06-10
JP5726919B2 true JP5726919B2 (ja) 2015-06-03

Family

ID=44531326

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012556222A Expired - Fee Related JP5726919B2 (ja) 2010-03-02 2011-03-02 リモートディスプレイに画像をレンダリングするためのデルタ圧縮ならびに動き予測およびメタデータの修正を可能にすること

Country Status (6)

Country Link
US (1) US20110216829A1 (ja)
EP (1) EP2543193A1 (ja)
JP (1) JP5726919B2 (ja)
KR (1) KR101389820B1 (ja)
CN (1) CN102792689B (ja)
WO (1) WO2011109555A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9198084B2 (en) 2006-05-26 2015-11-24 Qualcomm Incorporated Wireless architecture for a traditional wire-based protocol
US8667144B2 (en) 2007-07-25 2014-03-04 Qualcomm Incorporated Wireless architecture for traditional wire based protocol
US8811294B2 (en) 2008-04-04 2014-08-19 Qualcomm Incorporated Apparatus and methods for establishing client-host associations within a wireless network
US9398089B2 (en) 2008-12-11 2016-07-19 Qualcomm Incorporated Dynamic resource sharing among multiple wireless devices
US9264248B2 (en) 2009-07-02 2016-02-16 Qualcomm Incorporated System and method for avoiding and resolving conflicts in a wireless mobile display digital interface multicast environment
US9582238B2 (en) 2009-12-14 2017-02-28 Qualcomm Incorporated Decomposed multi-stream (DMS) techniques for video display systems
KR102132588B1 (ko) * 2010-09-10 2020-07-10 가부시키가이샤 한도오따이 에네루기 켄큐쇼 발광 소자 및 전자기기
US9413803B2 (en) 2011-01-21 2016-08-09 Qualcomm Incorporated User input back channel for wireless displays
US8964783B2 (en) 2011-01-21 2015-02-24 Qualcomm Incorporated User input back channel for wireless displays
US9582239B2 (en) 2011-01-21 2017-02-28 Qualcomm Incorporated User input back channel for wireless displays
US9787725B2 (en) 2011-01-21 2017-10-10 Qualcomm Incorporated User input back channel for wireless displays
US10135900B2 (en) 2011-01-21 2018-11-20 Qualcomm Incorporated User input back channel for wireless displays
US9065876B2 (en) 2011-01-21 2015-06-23 Qualcomm Incorporated User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
US8674957B2 (en) 2011-02-04 2014-03-18 Qualcomm Incorporated User input device for wireless back channel
US10108386B2 (en) 2011-02-04 2018-10-23 Qualcomm Incorporated Content provisioning for wireless back channel
KR20140043043A (ko) * 2011-02-11 2014-04-08 유니버셜 디스플레이 코포레이션 유기 발광 디바이스 및 이것에 사용되는 재료
CN102710935A (zh) * 2011-11-28 2012-10-03 杭州华银教育多媒体科技股份有限公司 计算机与移动设备间通过增量混合压缩编码进行屏幕传输的方法
US9525998B2 (en) 2012-01-06 2016-12-20 Qualcomm Incorporated Wireless display with multiscreen service
US20150201193A1 (en) * 2012-01-10 2015-07-16 Google Inc. Encoding and decoding techniques for remote screen sharing of media content using video source and display parameters
EP2839654A4 (en) * 2012-04-20 2015-11-18 Intel Corp EFFICIENT FRACTIONAL MOTION ESTIMATION IN TERMS OF PERFORMANCE AND BANDWIDTH
CN103577456B (zh) 2012-07-31 2016-12-21 国际商业机器公司 用于处理时序数据的方法和装置
US9899007B2 (en) * 2012-12-28 2018-02-20 Think Silicon Sa Adaptive lossy framebuffer compression with controllable error rate
GB2516007B (en) * 2013-06-28 2018-05-09 Displaylink Uk Ltd Efficient encoding of display data
US9854258B2 (en) * 2014-01-06 2017-12-26 Disney Enterprises, Inc. Video quality through compression-aware graphics layout
EP3375194A1 (en) 2015-11-09 2018-09-19 Thomson Licensing Method and device for adapting the video content decoded from elementary streams to the characteristics of a display
CN116320432A (zh) 2017-06-20 2023-06-23 微软技术许可有限责任公司 实时屏幕共享
CN208421800U (zh) * 2018-03-19 2019-01-22 广州视源电子科技股份有限公司 一种无线传屏器

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6519286B1 (en) * 1998-04-22 2003-02-11 Ati Technologies, Inc. Method and apparatus for decoding a stream of data
JP2955561B1 (ja) * 1998-05-29 1999-10-04 株式会社ディジタル・ビジョン・ラボラトリーズ ストリーム通信システム及びストリーム転送制御方法
WO2002045420A1 (en) * 2000-11-29 2002-06-06 Sony Corporation Stream processor
JP2002171524A (ja) * 2000-11-29 2002-06-14 Sony Corp データ処理装置および方法
JP2002344973A (ja) * 2001-05-21 2002-11-29 Victor Co Of Japan Ltd 画像符号化データのサイズ変換方法、画像符号化データ伝送方法、及び画像符号化データサイズ変換装置
CN1182488C (zh) * 2002-10-28 2004-12-29 威盛电子股份有限公司 数据压缩/解压缩方法与影像数据压缩/解压缩装置
US7567617B2 (en) * 2003-09-07 2009-07-28 Microsoft Corporation Predicting motion vectors for fields of forward-predicted interlaced video frames
TW200625964A (en) * 2004-07-20 2006-07-16 Qualcomm Inc Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression
US8085846B2 (en) * 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
US7590750B2 (en) * 2004-09-10 2009-09-15 Microsoft Corporation Systems and methods for multimedia remoting over terminal server connections
US20060059510A1 (en) * 2004-09-13 2006-03-16 Huang Jau H System and method for embedding scene change information in a video bitstream
US7646812B2 (en) * 2005-04-01 2010-01-12 Microsoft Corporation Special predictive picture encoding using color key in source content
US20060282855A1 (en) * 2005-05-05 2006-12-14 Digital Display Innovations, Llc Multiple remote display system
US8118676B2 (en) * 2005-07-08 2012-02-21 Activevideo Networks, Inc. Video game system using pre-encoded macro-blocks
JP2009512265A (ja) * 2005-10-06 2009-03-19 イージーシー アンド シー カンパニー リミテッド ネットワーク上の動画データ伝送制御システムとその方法
CN100584035C (zh) * 2005-10-10 2010-01-20 重庆大学 基于压缩传输数据的多个显示器动态视频显示方法
GB2431796A (en) * 2005-10-31 2007-05-02 Sony Uk Ltd Interpolation using phase correction and motion vectors
WO2007124163A2 (en) * 2006-04-21 2007-11-01 Dilithium Networks Pty Ltd. Method and apparatus for video mixing
CN101146222B (zh) * 2006-09-15 2012-05-23 中国航空无线电电子研究所 视频系统的运动估计内核装置
JP2009538084A (ja) * 2006-11-17 2009-10-29 エルジー エレクトロニクス インコーポレイティド ビデオ信号のデコーディング/エンコーディング方法及び装置
EP2127391A2 (en) * 2007-01-09 2009-12-02 Nokia Corporation Adaptive interpolation filters for video coding
US8908763B2 (en) * 2008-06-25 2014-12-09 Qualcomm Incorporated Fragmented reference in temporal compression for video coding
US20100104015A1 (en) * 2008-10-24 2010-04-29 Chanchal Chatterjee Method and apparatus for transrating compressed digital video

Also Published As

Publication number Publication date
US20110216829A1 (en) 2011-09-08
EP2543193A1 (en) 2013-01-09
KR101389820B1 (ko) 2014-04-29
WO2011109555A1 (en) 2011-09-09
CN102792689A (zh) 2012-11-21
KR20120138239A (ko) 2012-12-24
JP2013521717A (ja) 2013-06-10
CN102792689B (zh) 2015-11-25

Similar Documents

Publication Publication Date Title
JP5726919B2 (ja) リモートディスプレイに画像をレンダリングするためのデルタ圧縮ならびに動き予測およびメタデータの修正を可能にすること
CN111580765B (zh) 投屏方法、投屏装置、存储介质、被投屏设备与投屏设备
US9665332B2 (en) Display controller, screen transfer device, and screen transfer method
US8204104B2 (en) Frame rate conversion system, method of converting frame rate, transmitter, and receiver
US8731046B2 (en) Software video transcoder with GPU acceleration
US20130022116A1 (en) Camera tap transcoder architecture with feed forward encode data
KR101056096B1 (ko) 압축 및 압축복원 비디오 비트스트림 모두에 대한 움직임 보상 프레임 레이트 상향 변환을 위한 방법 및 시스템
US11700419B2 (en) Re-encoding predicted picture frames in live video stream applications
US20100046615A1 (en) Method and system for motion-compensated frame-rate up-conversion for both compressed and decompressed video bitstreams
US9601156B2 (en) Input/output system for editing and playing ultra-high definition image
KR100746005B1 (ko) 다중 목적의 비디오 스트림을 처리하는 장치 및 방법
EP2312859A2 (en) Method and system for communicating 3D video via a wireless communication link
US10356439B2 (en) Flexible frame referencing for display transport
US20090074054A1 (en) Resolution-converting apparatus, resolution-converting method and previewing apparatus
US20050238095A1 (en) Transcoder
JP2022524305A (ja) イマーシブビデオ符号化のための高レベルシンタックス
JP2016149770A (ja) ストリーミングレイテンシの最小化システム及びそれを使用する方法
JP4184223B2 (ja) トランスコーダ
CN115776570A (zh) 视频流编解码方法、装置、处理系统及电子设备

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131029

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140121

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150401

R150 Certificate of patent or registration of utility model

Ref document number: 5726919

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees