JP6621827B2 - 無線リンク状態に基づくビデオ復号化待ち時間調整、並びにビデオ復号化誤りの隠蔽のための、古いパケットのリプレイ - Google Patents

無線リンク状態に基づくビデオ復号化待ち時間調整、並びにビデオ復号化誤りの隠蔽のための、古いパケットのリプレイ Download PDF

Info

Publication number
JP6621827B2
JP6621827B2 JP2017534809A JP2017534809A JP6621827B2 JP 6621827 B2 JP6621827 B2 JP 6621827B2 JP 2017534809 A JP2017534809 A JP 2017534809A JP 2017534809 A JP2017534809 A JP 2017534809A JP 6621827 B2 JP6621827 B2 JP 6621827B2
Authority
JP
Japan
Prior art keywords
packet
undecoded
logic module
frame
past
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017534809A
Other languages
English (en)
Other versions
JP2018509791A (ja
Inventor
フリシュマン,ヤニヴ
ナアマン,モシェ
Original Assignee
インテル コーポレイション
インテル コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテル コーポレイション, インテル コーポレイション filed Critical インテル コーポレイション
Publication of JP2018509791A publication Critical patent/JP2018509791A/ja
Application granted granted Critical
Publication of JP6621827B2 publication Critical patent/JP6621827B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4344Remultiplexing of multiplex streams, e.g. by modifying time stamps or remapping the packet identifiers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4382Demodulation or channel decoding, e.g. QPSK demodulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44209Monitoring of downstream path of the transmission network originating from a server, e.g. bandwidth variations of a wireless network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Description

[関連出願]
本願は、米国特許仮出願番号第62/110,503号、2015年1月31日出願、名称「REPLAYING OLD PACKETS FOR CONCEALING VIDEO DECODING ERRORS」、及び米国特許仮出願番号第62/110,505号、2015年1月31日出願、名称「VIDEO DECODING LATENCY ADJUSTMENT BASED ON WIRELESS LINK CONDITIONS」の利益を請求する。これらの出願の内容は、それらの全体がここに明示的に組み込まれる。
ビデオエンコーダは、ビデオ情報を圧縮して、より多くの情報が所与の帯域幅で送信できるようにする。次に、圧縮済み信号は、表示する前に信号を復号化し又は伸張する受信機へ送信されて良い。
幾つかの従来の無線ディスプレイシステムでは、ビデオ圧縮は、無線帯域幅を削減する目的で使用される。無線媒体は信頼できないものであり、圧縮ビデオを運ぶ幾つかのパケットは損失され得るので、デコーダは誤り隠蔽を実施する場合がある。既存の誤り隠蔽の実装は、標準的に、前の復号化画像を含み得るフレームバッファを使用する。画像の損失部分は、標準的に、フレームバッファからの前の画像の同一位置(co−located)部分により置き換えられる。
本願明細書に記載された素材は例を用いて説明されるが、添付の図面に限定されない。説明を簡単且つ明確にするため、図中に示された要素は、必ずしも縮尺通りに描かれていないことが理解される。例えば、幾つかの要素の寸法は、明確さのため、他の要素に比して誇張されている。さらに、適切に検討されるとき、対応する又は類似の要素を示すために、参照符号は図の間で繰り返されている。
例示的なビデオデ処理システムの説明図である。 例示的な従来の無線ディスプレイビデオデコーダの説明図である。 例示的なビデオフレームの説明図である。 例示的な無線ディスプレイビデオデコーダの説明図である。 例示的な損傷ビデオフレームの説明図である。 モード決定ロジックの例示的な実装を示す。 待ち時間変動システムの例示的な実装を示す。 例示的な符号化処理を示すフロー図である。 例示的な作動中のビデオデ符号化システム及びビデオ符号化処理の説明図を提供する。 例示的なビデオデ符号化システムの説明図である。 例示的なシステムの説明図である。 本開示の少なくとも幾つかの実装に従って全てが配置される例示的なシステムの説明図である。
以下の説明は例えばシステムオンチップ(SoC)アーキテクチャのようなアーキテクチャで明示され得る種々の実装を説明するが、本願明細書に記載の技術及び/又は配置の実装は、特定のアーキテクチャ及び/又はコンピューティングシステムに限定されず、同様の目的で任意のアーキテクチャ及び/又はコンピューティングシステムにより実装されて良い。例えば、例えば複数の集積回路(IC)チップ及び/又はパッケージを用いる種々のアーキテクチャ、及び/又はセットトップボックス、スマートフォン等のような種々のコンピューティング装置及び/又は消費者電子機器(CE)装置は、本願明細書に記載の技術及び/又は配置を実装して良い。さらに、以下の説明は、システムコンポーネントの論理実装、種類、及び相互関係、論理区分/統合の選択、等のような多くの特定の詳細事項を説明するが、請求される主題は、このような特定の詳細事項を有しないで実施できる。他の例では、例えば制御構造及び完全なソフトウェア命令シーケンスのような特定の素材は、本願明細書に開示の素材を不明確にすることを回避するために詳細に示されない。
本願明細書に開示の素材は、ハードウェア、ファームウェア、ソフトウェア又はそれらの如何なる組み合わせで実装されて良い。本願明細書に開示の素材は、1又は複数のプロセッサにより読み取られ実行されて良い機械可読媒体に格納された命令として実施されて良い。機械可読媒体は、機械(例えば、コンピューティング装置)により読み取り可能な形式で情報を格納又は送信する任意の媒体及び/又はメカニズムも包含し得る。例えば、機械可読媒体は、ROM(read only memory)、RAM(random access memory)、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリ装置、電気的、光学的、音響的又は他の形式の伝搬される信号(例えば、搬送波、赤外線信号、デジタル信号、等)、等を包含し得る。
本願明細書において「一実装」、「実装」、「例示的な実装」等への参照は、記載された実装が特定の機能、構造又は特徴を含むこと、しかし各実施形態が特定の機能、構造又は特徴を必ずしも含まなくて良いことを意味する。さらに、このような記載は、必ずしも同一の実装を参照しない。さらに、特定の機能、構造又は特徴がある実装に関連して記載されるとき、本願明細書に明示的に記載されているか否かに拘わらず、このような機能、構造又は特徴を他の実装と組み合わせて実施することは、当業者の知識の範囲内である。
無線リンク状態に基づくビデオ復号化待ち時間調整のための動作と共に、ビデオ復号化誤りを隠蔽するために古いパケットをリプレイするための動作を含む、システム、装置、製品、及び方法が以下に記載される。
上述のように、幾つかの従来の無線ディスプレイシステムでは、ビデオ圧縮は、無線帯域幅を削減する目的で使用される。無線媒体は信頼できないものであり、圧縮ビデオを運ぶ幾つかのパケットは損失され得るので、デコーダは誤り隠蔽を実施する場合がある。既存の誤り隠蔽の実装は、標準的に、前の復号化画像を含み得るフレームバッファを使用する。画像の損失部分は、標準的に、フレームバッファからの前の画像の同一位置(co−located)部分により置き換えられる。
さらに、幾つかの従来の解決策は、標準的に、前の復号化画像を格納するために、フレームバッファを使用する場合がある。バッファは、大きく、標準的に高帯域幅でアクセスされる。バッファはオフチップに配置されることが多い。これは、製造コスト及び電力消費を増大する。さらに、知られている解決策は、損失パケットを正しく取り扱うことのできるデコーダを設計する必要がある場合が多い。このようなデコーダは、実装及び検証することが複雑である場合がある。
以下に更に詳述するように、フレームバッファを使用する代わりに、本願明細書に記載の実装のうちの幾つかは、どの画像部分(例えば、スライスレベルで)が損失しているかを検出するためにソフトウェアを使用し得る。損失ピクセルを埋め合わせるためにフレームバッファを使用する代わりに、所謂、前のビデオフレームからのスライスが、損失パケットを隠蔽するために再復号化されて良い。したがって、誤り隠蔽は、非圧縮ピクセル領域ではなく、圧縮パケット領域で実行できる。
従来の解決策とは対照的に、本願明細書に記載の実装方法のうちの幾つかは、フレームバッファを必要としなくて良い。したがって、製造コスト及び電力消費が低減できる。本願明細書に記載の実装のうちの幾つかは、損失パケットを取り扱うことのできるデコーダを必要としなくて良い。これは、デコーダの(HWで行われ得る)実装及び検証を有意に簡略化できる。したがって、事業計画のスケジュール及びリスクを削減する。本願明細書に記載の実装のうちの幾つかは、例えば、結果として生じるWiGigシステムオンチップの複雑性を低減するために使用できる。
図1は、本開示の少なくとも幾つかの実装に従って配置される例示的なビデオ符号化システム100の説明図である。種々の実装では、ビデオ符号化システム100は、1又は複数の高度ビデオコーデック標準に従いビデオ符号化を引き受け及び/又はビデオコーデックを実装するよう構成されて良い。
さらに、種々の実施形態では、ビデオ符号化システム100は、画像プロセッサ、ビデオプロセッサ、及び/又はメディアプロセッサの部分として実装されて良く、本開示に従い、インター予測、イントラ予測、予測符号化、及び/又は同様のものを引き受けて良い。
本願明細書で用いられるとき、用語「符号器」は、エンコーダ及び/又はデコーダを表し得る。同様に、本願明細書で用いられるとき、用語「符号化」は、エンコーダによるエンコーディング、及び/又はデコーダによるデコーディングを表し得る。例えば、本願明細書に記載のようなビデオエンコーダ及びビデオデコーダ(例えば、図4を参照)は、両方とも、符号化の可能な符号器の例であって良い。
幾つかの例では、ビデオ符号化システム100は、簡単のために図1に図示されない追加アイテムを有して良い。例えば、ビデオ符号化システム100は、プロセッサ、無線周波数型(RF)通信機、ディスプレイ、及び/又はアンテナを有して良い。さらに、ビデオ符号化システム100は、簡単のために図1に図示されない、スピーカ、マイクロフォン、加速度計、メモリ、ルータ、ネットワークインタフェース、等のような追加アイテムを有して良い。
幾つかの例では、ビデオ符号化システム100の動作中、現在ビデオ情報が、ビデオデータのフレームの形式で、内部ビット深さ増大モジュール102に供給されて良い。現在ビデオフレームは、モジュール104で最大符号化単位(Largest Coding Unit:LCU)に分割され、次に残差予測モジュール106に渡されて良い。残差予測モジュール106の出力は、変換及び量子化モジュール108により知られているビデオ変換及び量子化処理を受けて良い。変換及び量子化モジュール108の出力は、エントロピ符号化モジュール109と、逆量子化及び逆変換モジュール110と、に供給されて良い。エントロピ符号化モジュール109は、対応するデコーダに通信するために、エントロピ符号化ビットストリーム111を出力して良い。
ビデオ符号化システム100の内部復号化ループでは、逆量子化及び逆変換モジュール110は、残差予測モジュール106及び残差再構成モジュール112の出力を供給するために、変換及び量子化モジュール108により行われる動作の逆を実施して良い。当業者は、本願明細書に記載のような変換及び量子化モジュールと逆量子化及び逆変換モジュールとが、スケーリング技術を利用し得ることを認識できる。残差再構成モジュール112の出力は、残差予測モジュール106にフィードバックされて良く、デブロッキングフィルタ114、サンプル適応型オフセットフィルタ116、適応型ループフィルタ118、バッファ120、動き推定モジュール122、動き補償モジュール124、及びイントラフレーム予測モジュール126を有するループにも提供されて良い。図1に示すように、動き補償モジュール124又はイントラフレーム予測モジュール126の出力は、両方とも、デブロッキングフィルタ114への入力として残差予測モジュール106の出力に結合され、LCU分割モジュール104の出力との差分が取られ、残差予測モジュール106への入力として動作する。
以下に更に詳述するように、フレームバッファを使用する代わりに、本願明細書に記載の実装のうちの幾つかは、どの画像部分(例えば、スライスレベルで)が損失しているかを検出するためにソフトウェアを使用し得る。損失ピクセルを埋め合わせるためにフレームバッファを使用する代わりに、所謂、前のビデオフレームからのスライスが、損失パケットを隠蔽するために再復号化されて良い。したがって、誤り隠蔽は、非圧縮ピクセル領域ではなく、圧縮パケット領域で実行できる。
従来の解決策とは対照的に、本願明細書に記載の実装方法のうちの幾つかは、フレームバッファを必要としなくて良い。したがって、製造コスト及び電力消費が低減できる。本願明細書に記載の実装のうちの幾つかは、損失パケットを取り扱うことのできるデコーダを必要としなくて良い。これは、デコーダの(HWで行われ得る)実装及び検証を有意に簡略化できる。したがって、事業計画のスケジュール及びリスクを削減する。本願明細書に記載の実装のうちの幾つかは、例えば、結果として生じるWiGigシステムオンチップの複雑性を低減するために使用できる。
以下に更に詳述するように、ビデオ符号化システム100は、図3〜4と関連して以下に議論する種々の機能のうちの一部又は全部を実行するために使用されて良い。
図2は、例示的な従来の無線ディスプレイビデオデコーダシステム200の説明図である。
図示のように、既存の無線ディスプレイビデオデコーダシステム200では、符号化ビデオパケットストリームが受信されて良く、復号化ピクセルが出力されて良い。フレームバッファ204は、前の復号化フレームを格納するために使用されて良い。ビデオデコーダ202による復号化が成功すると、新しく復号化されたピクセルが、フレームバッファに書き込まれて良い。これらは、将来のビデオフレームの中の復号化誤りを隠蔽するために使用できる。パケットの損失/到着遅れに起因して復号化が失敗すると、対応する損失パケットは、誤りを隠蔽するためにフレームバッファから読み出されて良い。大規模な高価な高メモリ帯域幅の高電力消費メモリが、フレームバッファを実装するために使用され得る。デコーダは、失敗せずに損失パケットを取り扱うよう設計されなければならない。
図3は、本開示の少なくとも幾つかの実装に従って配置される例示的なビデオフレーム300の説明図である。
既存の実装は非圧縮(つまり、ピクセル)領域で誤り隠蔽を実行するが、本願明細書に記載の種々の実装は、圧縮領域で誤り隠蔽を実行できる。種々の実装では、ビデオフレーム300は、1又は複数の部分に分割されて良い。ここで、各ビデオパケットは1つの部分にのみ属する。各部分は、完全なビデオフレーム、単一のスライス、又は複数のスライスを含み得る。図示のように、ビデオフレーム300は、例えば4個の部分(例えば、スライス)に分割されて良い。各部分は、幾つかのマクロブロック行を占有する。
図4は、本開示の少なくとも幾つかの実装により配置される例示的な無線ディスプレイビデオデコーダシステム400の説明図である。
図示のように、パケットが受信されると、無線ディスプレイビデオデコーダシステム400を制御するソフトウェア(例えば、リプレイフィルタロジックモジュール402)は、パケットがどの部分に属するかを決定して良い。これは、WDEビデオフレーム番号、(新しいAVCスライスが開始するときに設定される)PESパケットデータアライメント指示、スライスヘッダのfirst_mb_in_sliceフィールド又はパケットに含まれる(エンコーダにより生成される)追加特性情報、等、及び/又はそれらの組合せのようなパケットヘッダの中の情報により行われ得る。リプレイフィルタロジックモジュール402が画像の一部のパケットのうちの全部が正しく受信されたことを決定すると、パケットは、デコーダ406による復号化のために送信され、(誤り隠蔽のために使用されるために)ビデオパケット記憶装置404にも格納されて良い。リプレイフィルタロジックモジュール402が幾つかのパケットが損失した(又はそれらの提示時間の後に到着した)ことを決定すると、新しいパケット(例えば、不完全な部分)を送信する代わりに、ビデオパケット記憶装置404に格納された対応する部分のパケットが復号化のために送信されて良い。これは、デコーダ406が常にパケットが損失しないストリームを受信することを保証する。したがって、デコーダ406は、ハードウェアで複雑な誤り隠蔽手段を実装する必要がなく、フレームバッファを保持する必要もない。
このリプレイフィルタロジックモジュール402のソフトウェア実装を簡略化することは、古いパケット、例えば過去の提示時間/シーケンス番号を有するパケットの復号化をサポートするよう、無線ディスプレイビデオデコーダ400を変更することにより可能である。無線ディスプレイビデオデコーダ400の中でこれらのパケットを検出することは、無線ディスプレイビデオデコーダ400に渡される追加制御メタデータにより、又は古いシーケンス番号を有するパケットを受け付け(例えば、デコーダは、パケットが古いシーケンス番号を有する場合でも該パケットを受け付けるために変更されて良い)及び該パケットを古いパケットとして扱い該パケットの(過去の、通常のデコーダでは復号化されない)提示タイムスタンプを無視するよう無線ディスプレイビデオデコーダ400を変更することにより、可能である。
このような技術が実装可能な例示的なアプリケーションは、WiGigディスプレイ拡張(WiGig display extension:WDE)におけるイントラモードのみである。ここで、画像は、多数のスライス(マクロブロック行当たり1乃至16個のスライス)の圧縮であって良く、全てのマクロブロックは、(ゼロから符号化される)イントラマクロブロックであって良い。イントラ符号化手段のみを使用すると、不完全に受信された(例えば、パケットを損失している)新しいスライスを前に復号化した画像からの同一位置のスライスで置き換えることが容易である。また、スライスは、WDEパケット境界に揃えられて良い。この構成は、幾つかのスライスを単一の画像部分に集約すること、及び損失しているイントラ符号化パケットを過去に正しく受信された同一位置の領域のパケットで簡単に置き換えることが可能である。
図4に示す例示的な実装は、誤りを隠蔽するために、フレームバッファではなく、圧縮パケットを使用する発想を含み得る。これは、実装コスト、複雑性を低減し、開発スケジュールを短縮する。
例示的な実装は、パケットのシーケンス番号(例えば、WDEパケットシーケンス番号)が古い(復号化された最高シーケンス番号より小さい)ことを知らせることにより、デコーダに(損失/遅れたパケットを置き換える)古いパケットを識別させることを含む。これは、誤り隠蔽処理を簡素化する。つまり、SWは、単に、古いパケットをデコーダへ送る必要があるだけである。SWとデコーダとの間の明示的な通信も同期も必要なくて良い。
SWは、デコーダへ送信される全てのスライスが無傷であること(全てのパケットが新しい又は全てのパケットが古い)を保証するので、デコーダは、幾つかのパケットが損失している/遅れている場合を扱うために必要な複雑な誤り隠蔽を実装する必要がない。これは、(通常はHWで実装される)デコーダ実装及び検証の複雑性を有意に低減する。また、デコーダ実装では、デコーダ誤りが存在しないとき、次のビデオフレームの開始まで待機することが一般的であり得る。無線リンクを介するとき、これは、全ての損失/遅れたパケットがビデオフレームの重要な部分を破損することを意味し、粗悪なユーザ経験をもたらす。
この例示的な実装を用いるとき、SWが誤り隠蔽の粒度を制御する。フレームが多くのスライスに分割され得るWiGig WDEのような場合、アーチファクトは、更に多くローカライズされる(例えば、1個のスライスに)。
本着想は、主に全てのスライスがイントラ又はP_skipスライスであるコーデックを対象とすることに留意する。コーデックが(非ゼロ残差/動きベクトルを有する)P個のマクロブロックもサポートするとき、本着想は、デコーダにおける複雑な誤り隠蔽を回避するために依然として利用できる。この場合、SWは、損失パケットを有するスライスの場合に(これは、本願明細書に記載の技術が使用されない場合に、デコーダに誤りを取り扱うことを要求する)、P_skipスライスを供給できる。
デコーダがパケットをスライスに及び次にビデオフレームの部分にパーティショニングすることをSWが制御するのを助けるために、WDEパケットヘッダの中で追加データが伝達されて良い。このデータは、以下の情報、つまり、パケットの属するスライス番号、スライス内の最初のパケットである場合を示すビット、スライス内の最後のパケットである場合を示すビット、を提供する。スライス開始がWDEパケット境界に揃えられなければならないというWiGig WDE制限に加えて、この情報を用いることは、スクリーンの幾つかの部分が失われた場合でも、新しいパケットを復号化し続けることを可能にする。これは、無線チャネルにおけるパケット損失の影響を局部にとどめることを助ける。本願明細書の概念は、パケットの内容に関する情報をデコーダではなくSWが容易に得る(及び該情報を誤りを隠蔽するために使用する)ことができるよう、ヘッダ部分の中のストリームに関する高レベルデータを追加することである。
以下に更に詳述するように、無線ディスプレイビデオデコーダ400(例えば、図4)は、図8及び/又は9と関連して以下に議論する種々の機能のうちの一部又は全部を実行するために使用されて良い。
以下に更に詳細に議論するように、図5〜7に記載された例示的な実装は、無線ディスプレイビデオ復号化においてロバストネスと待ち時間とを自動的に平衡できるアルゴリズムを議論する。
既存の解決策は、ユーザにセッション確立において(例えば、無線ディスプレイセッションが開始する前に)、標準的にあまりロバストではない(例えば、より損傷の多い)低待ち時間/ゲームモードの使用と、よりロバストである(例えば、復号化ビデオの損傷が少ない/ない)高待ち時間モードの使用との間で選択することを要求する場合が多い。
後述する例示的な実装は、復号化ビデオの中の損傷の数を監視し、損傷の頻度が高すぎると、損傷のない、より高い待ち時間モードに切り替える。これは、1ビデオフレームの追加遅延を追加することにより行われ、常に、無傷で受信された最後の画像(例えば、損傷なく受信された画像)を復号化して良い。無線リンク状態が改善すると、追加のフレーム待ち時間は除去されて良い。この例示的な実装は、ユーザからの介入無しに動作できる。例えば、本実装は、無線リンク状態に従いオンザフライで待ち時間を採用できる。これは、待ち時間を最小化しながら、変動する無線リンク状態の下で、ロバストなビデオを与えることができる。低待ち時間は、ユーザが無線ディスプレイリンクを介してコンピュータと相互作用する無線ドッキングのために重大である場合が多い。
図5は、本開示の少なくとも幾つかの実装に従って配置される損傷ビデオフレームの例示的な図である。
無線ディスプレイシステムでは、ビデオロバストネスと待ち時間との間にトレードオフがある。1ビデオフレームより少ない待ち時間が使用されるとき、デコーダは、ビデオフレームに対応する全てのパケットが無線リンクを介してデコーダに無傷で到着したかどうかを知る前に、該ビデオフレームを出力し始める。幾つかのパケットが損失しているとき、損傷が生じる。つまり、復号化ビデオフレーム500の部分が新しく受信したパケット502に属し、残りの部分(損失パケットを有する部分)が誤り隠蔽504の結果である場合。多くの場合、誤り隠蔽は、前に受信したフレームからのピクセルを表示することを意味する。これは、検出可能であり且つ気に障る、ビデオフレーム500の中の損傷506と呼ばれるアーチファクトを生じる。
既存のシステムでは、表示画像500の中の損傷を回避するために、ユーザは、よりロバストなモードを選択できる。このモードでは、デコーダは、各ビデオフレームに対応する全てのパケットが無傷で受信されるまで待機し、その次にのみ復号化を開始する。これは、損傷506が存在しないことを保証するが、エンドツーエンド(エンコーダからデコーダまで)の待ち時間が1ビデオフレームより長いことを意味する。高待ち時間は、目と手の協調及びユーザ相互作用に対する高速応答が要求されるゲーム及び生産作業のような対話型アプリケーションでは迷惑である。
以下に更に詳述するように、図6〜7で議論する例示的な実装は、2つの部分を含む。つまり、待ち時間を動的に変化させる方法、及び低待ち時間又は高待ち時間モードを使用するかどうかを決定するモード決定ロジックである。
図6は、本開示の少なくとも幾つかの実装により配置されるモード決定ロジックの例示的な実装を示す。
図示の例では、システム600は、標準的に低待ち時間モードで開始する。Y個のビデオフレームの中でX個より多くの損傷が生じる場合、動作602で無線リンクは、粗悪であるとして表されて良い。次に、システムは、ロバストであって良い高待ち時間モードに遷移する。この高待ち時間モードでは、完全に無傷のビデオフレームのみがデコーダに送られるので、損傷は存在しない。損傷/損失パケットを有しないZ個のビデオフレームが復号化された後に、無線リンクは、良好であると示されて良い。この点で、動作604で、システムは遷移して低待ち時間モードに戻る。X、Y、Zの値は、使用例に依存して、予め確立され及び/又はリアルタイムに決定されて良い。
フレーム損傷とフレーム複製に関し、私達の経験では(研究での試験では)人々は、幾つかの(例えば、3個)のビデオフレームが繰り返されるとき気付かない。これに対して、人々は、ビデオシーケンスの内部で損傷のある又は損失ピクセルのある(例えば、損失パケットに起因する画像の黒色部分は、画像の中のフラッシュとして人々に検出される)単一の画像でも検出できる。したがって、提案のアルゴリズムは、損傷のある画像の数を最小化することを試みる。さらに、無傷なビデオフレーム全体を蓄積することにより、及び追加エンドツーエンド待ち時間を許容することにより、フレーム複製を回避するより高い機会が存在し得る。低待ち時間モードでは、非常に遅く(例えば、パケットの予定復号化/提示時間の後)到着するパケットは損傷を生じ、待ち時間が増大すると、パケットの再送信が成功する可能性が高く、ビデオフレームは遅く到着するが無傷である。
さらに、(例えば、WiGigのような)幾つかの無線技術では、無線リンクが劣化すると、リンクの一時的機能停止の確立は増大する。これらの機能停止の間、無線機は、より良好な送信パラメータを探すことにより、リンク状態を向上しようと試みる。例示的な実装は、このような場合を自動的に検出し、高待ち時間モードに一時的に切り替えて良い。このモードでは、リンク機能停止は、あまり気付かれない(リンク機能停止に起因するパケット到着の遅れと、画像ロバストネスの向上とのトレードオフ(パケットが時間通りに到着しないことにより損傷が少ない))。無線リンク品質の直接的検出に関し、標準的なことは、どれだけ多くのパケットが損失したか/復号化及び提示されるために到着が遅すぎたかである。この知識は、無線レイヤに直接利用可能ではない。例えば、パケットは、複数回再送信される場合でも、依然として、時間通りに成功裏に受信できる(損傷を回避する)。第2の例では、(冗長)シーケンスパラメータセットを含むパケットのような、幾つかのドロップされるパケットは、復号化において問題を生じない。しかし、パケットが損失していることに無線レイヤが気付く場合、無線レイヤは誤ってリンクが粗悪であると宣言するかも知れない。
さらに、使用されているタスクの対話的特性を検出することは常に可能ではない。しかしながら、このような検出は、有意な複雑性を追加し得るOS及び/又はアプリケーションプログラムからのヒントにより試みることができる。これは全ての場合に可能ではないかも知れない(例えば、この情報を供給しない幾つかのレガシアプリケーション)。さらに、例示的な実装は、アプリケーションがロバストネス(損傷無し)を要求するときでも、待ち時間(損傷の危険性)を低減することが可能である場合がある。これは、既存のアプリケーション要件を無効にしたとしても、ユーザ経験を向上する。これは、リンク状態が粗悪であるとき、及び待ち時間の増大が必要なときのみ、使用される。例示的な実装が無ければ、(リンクが良好なために)不必要なときにでも高待ち時間/ロバストモードがより頻繁に使用されるので、ユーザ経験は劣化する。さらに、待ち時間の変更は、受信機(デコーダ)側で行われて良く、その間、送信機(エンコーダ)側で行われる必要のあるタスクの特性を検出するので、タスクの対話的特性の検出が使用されるべきだったかどうかに関する追加制御情報が送信されるべきである。反対に、本願明細書で議論される例示的な実装は、より簡易であって良い受信機側に完全に埋め込まれる。例示的な実装は、OS/アプリケーションプログラムのヒントを必要としない。
図7は、本開示の少なくとも幾つかの実装に従い構成されるエンドツーエンド待ち時間が無線待ち時間変動システム700によりどのように動的に変動され得るかの例示的な実装を示す。
図示の例では、新しいパケットは、受信されると、フィルタロジックモジュール702へ送られる。フィルタロジックモジュール702は、全てのパケットが無傷である(及びパケットが損失していない)完全なビデオフレームを蓄積する。パケットが失われていないことの検出は、ビデオフレーム数のようなビデオパケットが含むメタデータを解析することにより、又は新しいビデオフレームが開始しパケットが損失しなかったこと(例えば、パケットシーケンス番号に穴がない)を示す非VCLパケットの提示時間のような指示を探すことにより、行われて良い。蓄積ビデオフレームは、「無傷で受信した最後のビデオフレーム」記憶装置704に格納されて良い。
パケットソース切替モジュール706において低待ち時間モードが有効であるとき、受信パケットは、デコーダ708により直ちに復号化される。パケットソース切替モジュール706においてロバストな/高待ち時間モードが有効であるとき、デコーダ708は、無傷で受信した最後のビデオフレームメモリ704からパケットを供給されて良い。これらは、古い1又は複数のビデオフレームであるパケットである。提示時間が過去のものであるこのようなパケットを復号化するために、パケットの中の提示時間が復号化前に変更され、又はデコーダ708は古いパケットの復号化をサポートするために変更されて良い。デコーダ708は、信号(例えば、上述のロジックにより生成されるモード選択信号)により古いパケットの復号化を可能にする特別モードに置かれ得る。
以下に更に詳述するように、無線ディスプレイビデオデコーダ400(例えば、図4)及び/又は無線待ち時間変動システム700(例えば、図7)は、図8及び/又は9と関連して以下に議論する種々の機能のうちの一部又は全部を実行するために使用されて良い。
図8は、本開示の少なくとも幾つかの実装に従って配置される例示的な処理800のフロー図である。処理800は、動作802等のうちの1又は複数により図示されるような1又は複数の動作、関数又は作用を有して良い。
処理800は、動作802で開始して良く、「完全なフレーム部分を識別する」。ここで、完全なフレーム部分の少なくとも部分が識別されて良い。例えば、完全なフレーム部分の少なくとも部分は、リプレイフィルタロジックモジュールにより、未復号化パケットストリームから識別されて良い。
処理800は、動作804において継続して良く、「未復号化の蓄積された完全なフレーム部分を格納する」。ここで、蓄積されたビデオフレームの少なくとも一部が格納されて良い。例えば、格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、ストレージメモリにより、蓄積されたビデオフレームの少なくとも一部は、過去の未復号化パケットとして格納されて良い。
処理800は、動作806において継続して良く、「不完全なフレーム部分を識別する」。ここで、不完全な現在フレームの少なくとも部分が識別されて良い。例えば、完全な現在フレームの少なくとも部分は、リプレイフィルタロジックモジュールにより、未復号化パケットストリームから識別されて良い。
処理800は、動作808において継続して良く、「識別された不完全なフレーム部分を格納された未復号化の蓄積された完全なフレーム部分で置き換える」。ここで、識別された不完全なフレームの部分は、置き換えられて良い。例えば、識別された不完全なフレームの部分は、リプレイフィルタロジックモジュールにより、識別された不完全なフレームの部分に対応する格納された過去の未復号化パケットにより置き換えられて良い。
処理800は、動作810において継続して良く、「現在フレームを復号化する」。ここで、現在フレームは復号化されて良い。例えば、現在フレームは、デコーダにより、代替の格納された過去の未復号化パケットに少なくとも部分的に基づき復号化されて良い。
処理800は、本願明細書で議論するような符号器システムにより利用され得る、ビデオ符号化、復号化、及び/又はビットストリーム送信技術のようなビデオコーディングを提供して良い。
処理800及び本願明細書で議論した他の処理に関連する幾らかの追加及び/又は代替の詳細事項は、本願明細書で議論した実装の1又は複数の例において、特に以下の図9に関して図示され得る。
図9A、30B、30Cは、本開示の少なくとも幾つかの実装に従って配置された、例示的なビデオ符号化システム1000(例えば、詳細については図10を参照)及び動作中のビデオ符号化処理9000の説明図を提供する。図示の実装では、処理900は、動作910等のうちの1又は複数により図示されるような1又は複数の動作、関数又は作用を有して良い。
非限定的な例によると、処理900は、図10に関して以下に更に議論されるような、図1の符号器100を含む例示的なビデオ符号化システム1000を参照して本願明細書に記載される。様々な例において、処理900は、エンコーダ及びデコーダの両方を含むシステムにより、又はエンコーダ(及び任意的にデコーダ)を用いる1つのシステムとデコーダ(及び任意的にエンコーダ)を用いるもう1つのシステムとを有する別個のシステムにより、行われて良い。留意すべきことに、上述のように、エンコーダは、エンコーダシステムの一部としてローカルデコーダを用いるローカルデコードループを有して良い。
図示のように、ビデオ符号化システム1000(例えば、詳細については図10を参照)は、ロジックモジュール1050を有して良い。例えば、ロジックモジュール1050は、本願明細書に記載のシステム又はサブシステムのうちの任意のものに関して議論されるような任意のモジュールを有して良い。例えば、ロジックモジュール850は、デコーダ調整ロジックモジュール1060を有して良い。デコーダ調整ロジックモジュール1060は、リプレイフィルタロジックモジュール904、待ち時間調整ロジックモジュール906、及び/又は同様のもの、を有して良い。
処理900は、動作910で開始して良く、「完全なフレーム部分を識別する」。ここで、完全なフレーム部分の少なくとも部分が識別されて良い。例えば、完全なフレーム部分の少なくとも部分は、リプレイフィルタロジックモジュールにより、未復号化パケットストリームから識別されて良い。
リプレイフィルタロジックモジュール904の幾つかの実装では、受信した未復号化パケットストリームはイントラ符号化フレームのみを有して良く、受信した未復号化パケットストリームは信頼できない送信媒体を介して(例えば、WiGig等を介して)受信されて良く、及び/又は各フレームは1又は複数のスライスを有して良い。これらの要因のうちの任意のものは、単独で又は組合せで、リプレイフィルタロジックモジュール904の有効性を強調し得る。
処理900は、動作920において継続して良く、「未復号化の蓄積された完全なフレーム部分を格納する」。ここで、蓄積されたビデオフレームの少なくとも一部が格納されて良い。例えば、格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、ストレージメモリにより、蓄積されたビデオフレームの少なくとも一部は、過去の未復号化パケットとして格納されて良い。
リプレイフィルタロジックモジュール904の幾つかの実装では、完全なフレームの部分は、損失パケットなく予定通りに受信される完全なスライスを含んで良い。
処理900は、動作930において継続して良く、「不完全なフレーム部分を識別する」。ここで、不完全な現在フレームの少なくとも部分が識別されて良い。例えば、完全な現在フレームの少なくとも部分は、リプレイフィルタロジックモジュールにより、未復号化パケットストリームから識別されて良い。
リプレイフィルタロジックモジュールの幾つかの実装では、どのパケットが不完全な現在フレームから失われているかの識別は、以下のうちの1又は複数に少なくとも部分的に基づいて良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、各パケットに関連付けられるスライス番号、等、及び/又はそれらの組合せである。
処理900は、動作940において継続して良く、「識別された不完全なフレーム部分を置き換える」。ここで、識別された不完全なフレームの部分が置き換えられて良い。例えば、識別された不完全なフレームの部分は、リプレイフィルタロジックモジュールにより、識別された不完全なフレームの部分に対応する格納された過去の未復号化パケットにより置き換えられて良い。
リプレイフィルタロジックモジュール904の幾つかの実装では、格納された過去の未復号化パケットからのどのパケットが、不完全な現在フレームからの損失パケットに対応するかは、以下のうちの1又は複数に少なくとも部分的に基づいて良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、各パケットに関連付けられるスライス番号、等、及び/又はそれらの組合せ、である。
追加又は代替で、識別された不完全なフレームの部分の、格納された過去の未復号化パケットによる置き換えは、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられるタイムスタンプを再設定することを更に有して良い(この動作は、図9に図示されない)。
動作910〜940と並列に、又は動作910〜940の代わりに、処理900は、動作950に進んで良く、「待ち時間モードを動的に切り替える」。ここで、デコーダへの供給は、低待ち時間モードと高待ち時間モードとの間で切り替えられて良い。例えば、デコーダへの供給は、入力する未復号化ビデオパケットストリームと過去の格納された完全なビデオフレームのストリームとの間で切り替えられて良い。このような供給の切り替えは、待ち時間調整ロジックモジュールによる、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づいて良い。
例えば、動作910、920、930、940は、低待ち時間モード(損傷が起こる可能性がある)で使用されて良い。高待ち時間モードが使用されており、動作940(例えば、古いビデオフレームの部分による誤り隠蔽)の代わりに、動作910、920、930が使用され得る状況では、SWは、完全な古いビデオフレーム(例えば、無傷で受信した最後のビデオフレーム)の復号化を強制して良い。
待ち時間調整ロジックモジュール906の幾つかの実装では、完全なフレームの部分は、損失パケットなく予定通りに受信される完全なフレームを含んで良い。
待ち時間調整ロジックモジュール906の幾つかの実装では、高待ち時間モードから低待ち時間モードへの遷移は、許容不可能な損傷発生頻度に少なくとも部分的に基づいて良い。
待ち時間調整ロジックモジュール906の幾つかの実装では、高待ち時間モードから低待ち時間モードへの遷移は、許容可能な損傷発生頻度に少なくとも部分的に基づいて良い。
待ち時間調整ロジックモジュール906の幾つかの実装では、低待ち時間モードから高待ち時間モードへの遷移は、無線リンク機能停止の検出に少なくとも部分的に基づいて良い。
幾つかの実装では、低待ち時間モードと高待ち時間モードとの間の決定は、損傷頻度に基づいて良い。このような実装は、リンク機能停止を直接監視することより、良好な場合が多い。しかしながら、どの待ち時間モードが使用されるべきかを決定するために、リンク機能停止の監視は、損傷頻度の監視に加えて又はその代わりに使用されて良い。
動作940の部分として、動作940に加えて、又は動作940の代わりに、処理900は、動作960において継続して良く、「現在フレームを置き換える」。ここで、現在フレームが置き換えられて良い。例えば、現在フレームは、待ち時間調整ロジックモジュールによる、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づいて、現在フレームに対応する格納された過去の未復号化パケットで置き換えられて良い。
追加又は代替で、現在フレームの部分の、格納された過去の未復号化パケットによる置き換えは、デコーダにより、高待ち時間モードパケットで動作するとき、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視することを更に有して良い(この動作は、図9に図示されない)。
処理900は、動作970において継続して良く、「現在フレームを復号化する」。ここで、現在フレームは復号化されて良い。例えば、現在フレームは、デコーダにより、代替の格納された過去の未復号化パケットに少なくとも部分的に基づき復号化されて良い。
処理900は、動作980において継続して良く、「復号化フレームを表示する」。ここで、現在フレームは表示されて良い。例えば、現在の復号化フレームは、ディスプレイにより表示されて良い。
処理900及び本願明細書で議論した他の処理に関連する幾らかの追加及び/又は代替の詳細事項は、本願明細書で議論した実装の1又は複数の例において、特に以下の図10に関して図示され得る。
本願明細書に記載のシステム及び/又は処理の種々のコンポーネントは、ソフトウェア、ファームウェア及び/又はハードウェア、及び/又はそれらの任意の組合せで実装されて良い。例えば、本願明細書に記載のシステム及び/又は処理の種々のコンポーネントは、少なくとも部分的に、例えばスマートフォンのようなコンピューティングシステムに見られるコンピューティングSoC(System−on−a−Chip)のハードウェアにより設けられて良い。当業者は、本願明細書に記載のシステムが対応する図に示されない追加コンポーネントを有しても良いことを理解できる。
本願明細書に記載の実装において使用されるとき、用語「モジュール」は、「コンポーネント」又は「ロジックユニット」を参照して良い。これらの用語は後述される。したがって、用語「モジュール」は、本願明細書に記載の機能を提供するよう構成されるソフトウェアロジック、ファームウェアロジック、及び/又はハードウェアロジックの任意の組合せを参照し得る。例えば、当業者は、ハードウェア及び/又はファームウェアにより実行される動作が、代替で、ソフトウェアパッケージ、コード、及び/又は命令セットとして具現化され得るソフトウェアコンポーネントにより実施されて良いことを理解し、及びロジックユニットがその機能を実装するためにソフトウェアの一部を利用しても良いことも理解する。
本願明細書に記載の任意の実装で用いられるとき、用語「コンポーネント」は、本願明細書に記載の機能を提供するよう構成されるソフトウェアロジック、ファームウェアロジック、及び/又はハードウェアロジックの任意の組合せを表す。ソフトウェアロジックは、プログラマブル回路により実行される命令を格納するソフトウェアパッケージ、コード、及び/又は命令セットとして具現化されて良い。コンポーネントは、集合的又は個々に、大規模システム、例えば集積回路(IC)、システムオンチップ(SoC)、等の部分として具現化されて良い。
本願明細書に記載の任意の実装で用いられるとき、用語「ロジックユニット」は、本願明細書に記載の機能を提供するよう構成されるファームウェアロジック及び/又はハードウェアロジックの任意の組合せを表す。本願明細書の任意の実施形態で用いられるとき、「ハードウェア」は、例えば、単独に又は任意の組み合わせで、ハードワイヤド回路、プログラマブル回路、状態機械回路、及び/又はプログラマブル回路により実行される命令を格納するファームウェアを有して良い。ロジックユニットは、集合的又は個々に、大規模システム、例えば集積回路(IC)、システムオンチップ(SoC)、等の部分を形成する回路として具現化されて良い。例えば、ロジックユニットは、本願明細書で議論した符号化システムのファームウェア又はハードウェアによる実装のために論理回路に組み込まれて良い。さらに、当業者は、ハードウェア及び/又はファームウェアにより実行される動作が、ロジックユニットの機能を実装するためにソフトウェアの部分を利用しても良いことを理解する。
さらに、本願明細書で議論する処理ブロックのうちの任意の1又は複数は、1又は複数のコンピュータプログラムにより提供される命令に応答して行われて良い。このようなプログラムは、例えばプロセッサにより実行されると本願明細書に記載の機能を提供し得る命令を提供する信号を運ぶ媒体を含み得る。コンピュータプログラムは、任意の形式のコンピュータ可読媒体で提供されて良い。したがって、例えば、1又は複数のプロセッサコアを含むプロセッサは、コンピュータ可読媒体によりプロセッサに伝達される命令に応答して、1又は複数の動作を実行して良い。
図10は、本開示の少なくとも幾つかの実装に従って配置される例示的なビデオ符号化システム1000の説明図である。図示の実装では、ビデオ符号化システム1000は、ビデオエンコーダ1002及びビデオデコーダ1004の両方と共に図示されるが、種々の例において、ビデオ符号化システム1000は、ビデオエンコーダ1002のみ、又はビデオデコーダ1004のみを有する場合がある。ビデオ符号化システム1000(種々の例におけるビデオエンコーダ1002のみ又はビデオデコーダ1004のみを含み得る)は、画像化装置1001、アンテナ1002、1又は複数のプロセッサ1006、1又は複数のメモリストア1008、及び/又はディスプレイ装置1010を有して良い。図示のように、画像化装置1001、アンテナ1002、ビデオエンコーダ1002、ビデオデコーダ1004、プロセッサ1006、メモリストア1008、及び/又はディスプレイ装置1010は、互いに通信可能であって良い。
幾つかの例では、ビデオ符号化システム1000は、アンテナ1003を有して良い。例えば、アンテナ1003は、例えばビデオデータの符号化ビットストリームを送信又は受信するよう構成されて良い。プロセッサ1006は、任意の種類のプロセッサ及び/又は処理ユニットであって良い。例えば、プロセッサ1006は、別個の中央処理ユニット、別個のグラフィック処理ユニット、集積システムオンチップ(SoC)ア―キテクチャ、等、及び/又はそれらの組合せを有して良い。さらに、メモリストア1008は、任意の種類のメモリであって良い。例えば、メモリ記憶1008は、揮発性メモリ(例えば、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、等)又は不揮発性メモリ(例えば、フラッシュメモリ等)、等であって良い。非限定的な例では、メモリストア1008は、キャッシュメモリにより実装されて良い。さらに、幾つかの実装では、ビデオ符号化システム1000は、ディスプレイ装置1010を有して良い。ディスプレイ装置1010は、ビデオデータを提示するよう構成されて良い。
図示のように、幾つかの例では、ビデオ符号化システム1000は、ロジックモジュール1050を有して良い。
ビデオデコーダ1004に関連付けられて図示されるが、ビデオエンコーダ1002は、同様に、図示のロジックモジュール1050のような同一及び/又は類似のロジックモジュールに関連付けられて良い。したがって、ビデオデコーダ1004は、ロジックモジュール1050の全部又は部分を有して良い。例えば、アンテナ1003、ビデオデコーダ1004、プロセッサ1006、メモリストア1008、及び/又はディスプレイ1010は、互いに通信すること及び/又はロジックモジュール1050の部分と通信することが可能であって良い。同様に、ビデオエンコーダ1002は、ロジックモジュール1050と同一及び/又は類似のロジックモジュールを有して良い。例えば、画像化装置1001及びビデオエンコーダ1002は、互いに通信すること及び/又はロジックモジュール1050と同一及び/又は類似のロジックモジュールと通信することが可能であって良い。
幾つかの実装では、ロジックモジュール1050は、本願明細書に記載の任意のシステム又はサブシステムに関して議論されるような種々のモジュールを具現化して良い。種々の実施形態では、ロジックモジュール1050のうちの幾つかは、ハードウェアで実装されて良く、一方で、ソフトウェアが他のロジックモジュールを実装して良い。例えば、幾つかの実施形態では、ロジックモジュール1050のうちの幾つかは、特定用途向け集積回路(ASIC)ロジックにより実装されて良く、一方で、他のロジックモジュールは、プロセッサ1006のようなロジックにより実行されるソフトウェア命令により提供されて良い。しかしながら、本開示はこれに関して限定されず、ロジックモジュール1050のうちの幾つかは、ハードウェア、ファームウェア、及び/又はソフトウェアの任意の組合せにより実装されて良い。
例えば、ロジックモジュール1050は、デコーダ調整モジュール1060及び/又は本願明細書に記載の実装のうりの1又は複数の動作を実施するよう構成される同様のモジュールを有して良い。
図11は、本開示の少なくとも幾つかの実装に従って配置される例示的なシステム1100の説明図である。様々な実施形態において、システム1100はメディアシステムであっても良いが、システム1100はこの環境に限定されない。例えば、システム1100は、パーソナルコンピュータ(PC)、ラップトップコンピュータ、ウルトララップトップコンピュータ、タブレット、タッチパッド、ポータブルコンピュータ、ハンドヘルドコンピュータ、パームトップコンピュータ、PDA(personal digital assistant)、携帯電話機、携帯電話機/PDAの組合せ、テレビ、スマートデバイス(例えば、スマートフォン、スマートタブレット、又はスマートテレビ)、MID(mobile internet device)、メッセージング装置、データ通信装置、カメラ(例えば、ポイントアンドシュートカメラ、スーパーズームカメラ、デジタル一眼レフ(digital single−lens reflex:DSLR)カメラ)等に組み込まれて良い。
種々の実装において、システム1100は、ディスプレイ1102に結合されるプラットフォーム1120を有する。プラットフォーム1102は、コンテンツサービス装置1130若しくはコンテンツ配信装置1140のようなコンテンツ装置、又は他の類似のコンテンツソースからコンテンツを受信して良い。1又は複数のナビゲーション機能を有するナビゲーション制御部1150は、例えばプラットフォーム1102及び/又はディスプレイ1120と相互作用するために用いられて良い。これらのコンポーネントの各々は、以下に詳細に説明される。
種々の実装では、プラットフォーム1102は、チップセット1105、プロセッサ1110、メモリ1112、アンテナ1113、記憶装置1114、グラフィックサブシステム1115、アプリケーション1116及び/又は無線機1118の任意の組合せを有して良い。チップセット1105は、プロセッサ1110、メモリ1112、記憶装置1114、グラフィックサブシステム1115、アプリケーション1116及び/又は無線機1118の間の相互通信を提供して良い。例えば、チップセット1105は、記憶装置1114との相互通信を提供可能な記憶装置アダプタ(図示しない)を有して良い。
プロセッサ1110は、CISC(Complex Instruction Set Computer)又はRISC(Reduced Instruction Set Computer)プロセッサ、x86命令セット互換プロセッサ、マルチコア、又は任意の他のマイクロプロセッサ又はCPU(central processing unit)として実施されて良い。種々の実装において、プロセッサ1110は、デュアルコアプロセッサ、デュアルコアモバイルプロセッサ、等であって良い。
メモリ1112は、RAM(Random Access Memory)、DRAM(Dynamic Random Access Memory)、又はSRAM(Static RAM)のような揮発性メモリ装置として実施されて良いが、これらに限定されない。
記憶装置1114は、磁気ディスクドライブ、光ディスクドライブ、テープドライブ、内蔵記憶装置、外付け記憶装置、フラッシュメモリ、バッテリバックアップSDRAM(synchronous DRAM)、及び/又はネットワークアクセス可能な記憶装置のような不揮発性メモリ装置として実施されて良いが、これらに限定されない。種々の実施形態では、記憶装置1114は、例えば複数のハードドライブが含まれるとき重要なデジタルメディアのために記憶性能拡張保護を増大させる技術を有して良い。
グラフィックサブシステム1115は、表示のために静止画像又はビデオのような画像の処理を実行して良い。グラフィックサブシステム1115は、例えばGPU(graphics processing unit)又はVPU(visual processing unit)であって良い。アナログ又はデジタルインタフェースは、グラフィックサブシステム1115及びディスプレイ1120に通信可能に結合するために用いられて良い。例えば、インタフェースは、HDMI(登録商標)(High−Definition Multimedia Interface)、Display Port、無線HDMI(登録商標)、及び/又は無線HD準拠技術のうちの任意のものであって良い。グラフィックサブシステム1115は、プロセッサ1110又はチップセット1105に統合されて良い。幾つかの実装では、グラフィックサブシステム1115は、チップセット1105に通信可能に結合されるスタンドアロン型装置であって良い。
本願明細書に記載されるグラフィック及び/又はビデオ処理技術は、種々のハードウェアアーキテクチャで実施されて良い。例えば、グラフィック及び/又はビデオ機能は、チップセットに統合されて良い。代替で、別個のグラフィック及び/又はビデオプロセッサが用いられて良い。更に別の実装として、グラフィック及び/又はビデオ機能は、マルチコアプロセッサを含む汎用プロセッサにより提供されて良い。更なる実施形態では、機能は、消費者電子機器内に実装されて良い。
無線機1118は、種々の適切な無線通信技術を用いて信号を送信及び受信可能な1又は複数の無線機を有して良い。このような技術は、1又は複数の無線ネットワークに渡る通信に関与し得る。例示的な無線ネットワークは、WLAN(wireless local area network)、WPAN(wireless personal area network)、WMAN(wireless metropolitan area network)、セルラネットワーク、及び衛星ネットワークを含む(が、これらに限定されない)。このようなネットワークに渡る通信では、無線機1118は、任意のバージョンの1又は複数の適用規格に従って動作して良い。
種々の実装では、ディスプレイ1120は、任意のテレビジョン型モニタ又はディスプレイを有して良い。ディスプレイ1120は、例えば、コンピュータディスプレイスクリーン、タッチスクリーンディスプレイ、ビデオモニタ、テレビ型装置、及び/又はテレビを有して良い。ディスプレイ1120は、デジタル及び/又はアナログであって良い。種々の実装において、ディスプレイ1120は、ホログラフィックディスプレイであって良い。また、ディスプレイ1120は、視覚投影を受け得る透過面であって良い。このような投影は、種々の形式の情報、画像及び/又はオブジェクトを伝達し得る。例えば、このような投影は、MAR(mobile augmented reality)アプリケーションのための視覚的オーバレイであって良い。1又は複数のソフトウェアアプリケーション1116の制御下で、プラットフォーム1102は、ユーザインタフェース1122をディスプレイ1120に表示しても良い。
種々の実装において、コンテンツサービス装置1130は、任意の全国的、国際的、及び/又は独立型サービスによりホストされて良く、したがって例えばインターネットを介してプラットフォーム1102にアクセス可能であって良い。コンテンツサービス装置1130は、プラットフォーム1102に及び/又はディスプレイ1120に結合されて良い。プラットフォーム1102に及び/又はコンテンツサービス装置1130は、ネットワーク1160へ及びそれからメディア情報を通信(例えば、送信及び/又は受信)するために、ネットワーク1160に結合されて良い。
コンテンツ配信装置1140も、プラットフォーム1102に及び/又はディスプレイ1120に結合されて良い。
種々の実装において、コンテンツサービス装置1130は、ケーブルテレビボックス、パーソナルコンピュータ、ネットワーク、電話機、インターネット可能装置、又はデジタル情報及び/又はコンテンツを配信可能な機器、及びネットワーク1160を介して又は直接にコンテンツプロバイダとプラットフォーム1102及び/又はディスプレイ1120との間でコンテンツを単方向若しくは双方向通信可能な任意の他の類似の装置を有して良い。コンテンツは、単方向若しくは双方向に、システム1100内のコンポーネントのうちの任意の1つ及びネットワーク1160を介してコンテンツプロバイダへ及びそれから通信されて良い。コンテンツの例は、例えば、ビデオ、音楽、医用及びゲーム情報、等を含む任意のメディア情報を有して良い。
コンテンツサービス装置1130は、メディア情報、デジタル情報、及び/又は他のコンテンツを含むケーブルテレビ番組のようなコンテンツを受信して良い。コンテンツプロバイダの例は、任意のケーブル又は衛星テレビ又は無線機又はインターネットコンテンツプロバイダを含み得る。提供される例は、本開示に従う実装のいかなる限定も意味しない。
種々の実装では、プラットフォーム1102は、1又は複数のナビゲーション機能を有するナビゲーション制御部1150から制御信号を受信して良い。制御部1150のナビゲーション機能は、例えばユーザインタフェース1122と相互作用するために用いられて良い。種々の実施形態において、ナビゲーション制御部1150は、ユーザに空間的(例えば、連続する多次元)データをコンピュータに入力させるコンピュータハードウェアコンポーネント(特に、ヒューマンインタフェース装置)であっても良いポインティングデバイスであって良い。GUI(graphical user interface)、テレビ、及びモニタのような多くのシステムは、ユーザに、身体的ジェスチャを用いてコンピュータ又はテレビを制御させ及びそれらにデータを提供させる。
制御部1150のナビゲーション機能の動きは、ディスプレイ(例えば、ディスプレイ1120)上で、ディスプレイに表示されるポインタ、カーソル、フォーカス、リング又は他の視覚的指示子の動きにより複製されて良い。例えば、ソフトウェアアプリケーション1116の制御下で、ナビゲーション制御部1150に配置されたナビゲーション機能は、ユーザインタフェース1122上に表示される仮想ナビゲーション機能にマッピングされて良い。種々の実施形態において、制御部1150は、別個のコンポーネントではなく、プラットフォーム1102及び/又はディスプレイ1120に統合されて良い。しかしながら、本開示は、本願明細書に示された又は記載された要素又は環境に限定されない。
種々の実装では、ドライバ(図示しない)は、例えば、有効にされると、初期ブートアップ後のボタンのタッチで、テレビのように即座に、ユーザがプラットフォーム1102をオン及びオフにできるようにする技術を有して良い。プログラムロジックは、プラットフォーム1102に、プラットフォームが「オフ」にされると、コンテンツをメディアアダプタ又は他のコンテンツサービス装置1130又はコンテンツ配信装置1140へストリーミングさせて良い。さらに、チップセット1105は、例えば(5.1)サラウンドサウンド音声及び/又は高品位(7.1)サラウンドサウンド音声をサポートするハードウェア及び/又はソフトウェアを有して良い。ドライバは、統合グラフィックプラットフォームのグラフィックドライバを有して良い。種々の実施形態において、グラフィックドライバは、PCI(peripheral component interconnect)Expressグラフィックカードを有して良い。
種々の実装では、システム1100内に示したコンポーネントのうちの任意の1又は複数は統合されて良い。例えば、プラットフォーム1102及びコンテンツサービス装置1130が統合されて良く、プラットフォーム1102及びコンテンツ配信装置1140が統合されて良く、又はプラットフォーム1102、コンテンツサービス装置1130及びコンテンツ配信装置1140が統合されて良い。種々の実施形態において、プラットフォーム1102及びディスプレイ1120は、統合ユニットであって良い。例えば、ディスプレイ1120及びコンテンツサービス装置1130が統合されて良く、又はディスプレイ1120及びコンテンツ配信装置1140が統合されて良い。これらの例は、本開示を限定するものではない。
種々の実施形態において、システム1100は、無線システム、有線システム又は両者の組合せとして実装されて良い。無線システムとして実施されるとき、システム1100は、1又は複数のアンテナ、送信機、受信機、通信機、増幅器、フィルタ、制御ロジック、等のような無線共有媒体を介して通信するのに適するコンポーネント及びインタフェースを有して良い。無線共有媒体の例は、RFスペクトル等のような無線スペクトルの部分を含んで良い。有線システムとして実施されるとき、システム1100は、入力/出力(I/O)アダプタ、対応する有線通信媒体でI/Oアダプタに接続するための物理コネクタ、NIC(network interface card)、ディスク制御部、ビデオ制御部、音声制御部、等のような、有線通信媒体を介して通信するのに適するコンポーネント及びインタフェースを有して良い。有線通信媒体の例は、ワイヤ、ケーブル、金属線、プリント回路基板(PCB)、バックプレーン、スイッチ構造、半導体物質、ツイストペアワイヤ、同軸ケーブル、光ファイバ等を含んで良い。
プラットフォーム1102は、情報を通信するために1又は複数の論理又は物理チャネルを確立して良い。情報は、媒体情報及び制御情報を有して良い。媒体情報は、ユーザに意味のあるデータ提示コンテンツを表し得る。コンテンツの例は、例えば、音声会話、ビデオ会議、ストリーミングビデオ、電子メール(email)メッセージ、音声メールメッセージ、英数字シンボル、グラフィック、画像、ビデオ、テキスト等からのデータを含み得る。ビデオ会議からのデータは、例えば、会話情報、無音期間、背景雑音、快適雑音、トーン等であって良い。制御情報は、自動システム向けのコマンド、命令又は制御ワードを表す任意のデータを表して良い。例えば、制御情報は、システムを通じて媒体情報を転送し、又は所定の方法で媒体情報を処理するようノードに指示するために用いられて良い。しかしながら、実施形態は、図11に示された又は記載された要素又は環境に限定されない。
上述のように、システム1100は、変化する物理的様式又は形状因子で実施されて良い。図12は、システム1200が実施され得る小型装置1200の実装を示す。種々の実施形態において、例えば、装置1200は、無線機能を有するモバイルコンピューティング装置として実施されて良い。モバイルコンピューティング装置は、例えば、処理システム及び1又は複数のバッテリのようなモバイル電源若しくは供給を有する任意の装置を表して良い。
上述のように、例えば、モバイルコンピューティング装置の例は、パーソナルコンピュータ(PC)、ラップトップコンピュータ、ウルトララップトップコンピュータ、タブレット、タッチパッド、ポータブルコンピュータ、ハンドヘルドコンピュータ、パームトップコンピュータ、PDA(personal digital assistant)、携帯電話機、携帯電話機/PDAの組合せ、テレビ、スマートデバイス(例えば、スマートフォン、スマートタブレット、又はスマートテレビ)、MID(mobile internet device)、メッセージング装置、データ通信装置、カメラ(例えば、ポイントアンドシュートカメラ、スーパーズームカメラ、デジタル一眼レフ(digital single−lens reflex:DSLR)カメラ)等を有して良い。
モバイルコンピューティング装置の例は、腕時計型コンピュータ、指輪型コンピュータ、リングコンピュータ、眼鏡型コンピュータ、ベルトクリップ型コンピュータ、腕章型コンピュータ、靴型コンピュータ、衣類型コンピュータ、及び他の装着可能コンピュータのような、人により装着されるよう配置されるコンピュータも含み得る。種々の実施形態では、例えば、モバイルコンピューティング装置は、コンピュータアプリケーション及び音声通信及び/又はデータ通信を実行可能なスマートフォンとして実施されて良い。幾つかの実施形態は、例としてスマートフォンとして実施されるモバイルコンピューティング装置と共に記載され得るが、他の実施形態も他の無線モバイルコンピューティング装置を持ち手実施できることが理解される。実施形態は、この文脈に限定されない。
図12に示すように、装置1200は、筐体1202、ユーザインタフェース1210を含み得るディスプレイ1204、入力/出力(I/O)装置1206、アンテナ1208を有して良い。装置1200は、ナビゲーション機能1212を有して良い。ディスプレイ1204は、モバイルコンピューティング装置に適切な情報を表示する任意の適切なディスプレイを有して良い。I/O装置1206は、モバイルコンピューティング装置に情報を入力する任意の適切なI/O装置を有して良い。
I/O装置1206の例は、英数字キーボード、数字キーパッド、タッチパッド、入力キー、ボタン、スイッチ、ロッカースイッチ、マイクロフォン、スピーカ、音声認識装置及びソフトウェア、画像センサ等を有して良い。情報は、マイクロフォン(図示しない)により装置1200に入力されて良い。このような情報は、音声認識装置(図示しない)によりデジタル化されて良い。実施形態は、この文脈に限定されない。
種々の実施形態は、ハードウェア要素、ソフトウェア要素、又は両者の組み合わせを用いて実施されて良い。ハードウェア要素の例は、プロセッサ、マイクロプロセッサ、回路、回路要素(例えば、トランジスタ、抵抗器、キャパシタ、インダクタ等)、集積回路、ASIC(application specific integrated circuit)、PLD(programmable logic device)、DSP(digital signal processor)、FPGA(field programmable gate array)、メモリユニット、論理ゲート、レジスタ、半導体装置、チップ、マイクロチップ、チップセット等を有して良い。ソフトウェアの例は、ソフトウェアコンポーネント、プログラム、アプリケーション、コンピュータプログラム、アプリケーションプログラム、システムプログラム、機械プログラム、オペレーティングシステムソフトウェア、ミドルウェア、ファームウェア、ソフトウェアモジュール、ルーチン、サブルーチン、関数、メソッド、プロシジャ、ソフトウェアインタフェース、API(application program interface)、命令セット、コンピューティングコード、コンピュータコード、コードセグメント、コンピュータコードセグメント、ワード、値、シンボル、又はそれらの任意の組合せを含んで良い。実施形態がハードウェア要素及び/又はソフトウェア要素を用いて実装されるかの決定は、所望の計算レート、パワーレベル、熱耐性、処理周期バジェット、入力データレート、出力データレート、メモリ資源、データバス速度、及び他の設計若しくは性能制約のような任意の数の要因に従って変化し得る。
さらに、本願明細書で議論した動作のうちの任意の1又は複数のものは、1又は複数のコンピュータプログラムにより提供される命令に応答して行われて良い。このようなプログラムは、例えばプロセッサにより実行されると本願明細書に記載の機能を提供し得る命令を提供する信号を運ぶ媒体を含み得る。コンピュータプログラムは、任意の形式の1又は複数の機械可読媒体で提供されて良い。したがって、例えば、1又は複数のプロセッサコアを有するプロセッサは、1又は複数の機械可読媒体によりプロセッサに伝達されるプログラムコード及び/又は命令又は命令セットに応答して、本願明細書の例示的な処理の動作のうちの1又は複数を実行して良い。通常、機械可読媒体は、本願明細書に記載の装置及び/又はシステムのうちの任意のものに本願明細書で議論したようなシステムの少なくとも部分を実装させるプログラムコード及び/又は命令又は命令セットの形式でソフトウェアを伝達し得る。
本願明細書に説明された特定の特徴は種々の実装を参照して記載されたが、この記載は、限定的意味として考えられることを意図しない。ここで、本開示の関連分野の当業者に明らかな本願明細書に記載の実装の種々の変更は、他の実装と同様に、本開示の精神及び範囲の範囲内にあると考えられる。
以下の例は、更なる実施形態に関連する。
一例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施される方法は、リプレイフィルタロジックモジュールにより、未復号化パケットストリームからの完全なフレームの少なくとも部分を識別するステップを有して良い。格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、ストレージメモリは、蓄積されたビデオフレームの少なくとも一部を、過去の未復号化パケットとして格納して良い。リプレイフィルタロジックモジュールは、未復号化パケットストリームからの不完全な現在フレームの少なくとも部分を識別して良い。リプレイフィルタロジックモジュールは、識別された不完全なフレームの部分を、識別された不完全なフレームの部分に対応する格納された過去の未復号化パケットにより置き換えて良い。デコーダは、代替の格納された過去の未復号化パケットに少なくとも部分的に基づき、現在フレームを復号化して良い。
別の例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施される方法において、受信した未復号化パケットストリームは、イントラ符号化フレームのみを有して良い。受信した未復号化パケットストリームは、信頼できない送信媒体を介して受信されてものである。各フレームは、1又は複数のスライスを有して良い。完全なフレームの少なくとも部分は、損失パケット無しに予定通りに受信される完全なスライスを含む。リプレイフィルタロジックモジュールは、以下のうちの1又は複数に少なくとも部分的に基づき、どのパケットが不完全な現在フレームから損失しているかを識別して良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号である。リプレイフィルタロジックモジュールは、以下のうちの1又は複数に少なくとも部分的に基づき、格納された過去の未復号化パケットからのどのパケットが、不完全な現在フレームからの損失パケットに対応するかを識別して良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号である。識別された不完全なフレームの部分の、格納された過去の未復号化パケットによる置き換えは、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられるタイムスタンプを再設定することを更に有して良い。
別の例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施される方法において、完全なフレームの少なくとも部分は、パケット損失無く予定通りに受信した完全なフレームを有する。待ち時間調整ロジックモジュールは、入力する未復号化ビデオパケットストリームと格納された過去の完全なビデオフレームのストリームとの間で、デコーダへの供給を切り替えて良い。ここで、供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく。待ち時間調整ロジックモジュールは、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードへ遷移して良い。待ち時間調整ロジックモジュールは、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードへ遷移して良い。待ち時間調整ロジックモジュールは、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードへ遷移して良い。デコーダは、高待ち時間モードパケットで動作しているとき、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視して良い。
別の例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施される方法において、受信した未復号化パケットストリームは、イントラ符号化フレームのみを有して良い。受信した未復号化パケットストリームは、信頼できない送信媒体を介して受信されてものである。各フレームは、1又は複数のスライスを有して良い。完全なフレームの少なくとも部分は、損失パケット無しに予定通りに受信される完全なスライスを含む。リプレイフィルタロジックモジュールは、以下のうちの1又は複数に少なくとも部分的に基づき、どのパケットが不完全な現在フレームから損失しているかを識別して良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号である。リプレイフィルタロジックモジュールは、以下のうちの1又は複数に少なくとも部分的に基づき、格納された過去の未復号化パケットからのどのパケットが、不完全な現在フレームからの損失パケットに対応するかを識別して良い。つまり、各パケットに関連付けられるシーケンス番号、選択されるパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号である。識別された不完全なフレームの部分の、格納された過去の未復号化パケットによる置き換えは、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられるタイムスタンプを再設定することを更に有して良い。
他の例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施されるシステムは、未復号化パケットストリームからの完全なフレームの少なくとも部分を識別するよう構成されるリプレイフィルタロジックモジュールを有して良い。ストレージメモリは、格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、蓄積されたビデオフレームの少なくとも一部を、過去の未復号化パケットとして格納して良い。リプレイフィルタロジックモジュールは、未復号化パケットストリームからの不完全な現在フレームの少なくとも部分を識別するよう更に構成されて良い。リプレイフィルタロジックモジュールは、識別された不完全なフレームの部分を、識別された不完全なフレームの部分に対応する格納された過去の未復号化パケットにより置き換えるよう更に構成されて良い。デコーダは、代替の格納された過去の未復号化パケットに少なくとも部分的に基づき、現在フレームを復号化するよう構成されて良い。
別の例では、ビデオ復号化無線ディスプレイのためのコンピュータにより実施されるシステムにおいて、完全なフレームの少なくとも部分は、パケット損失無く予定通りに受信した完全なフレームを有する。待ち時間調整ロジックモジュールは、入力する未復号化ビデオパケットストリームと格納された過去の完全なビデオフレームのストリームとの間で、デコーダへの供給を切り替えるよう構成されて良い。ここで、供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく。待ち時間調整ロジックモジュールは、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードへ遷移するよう更に構成されて良い。待ち時間調整ロジックモジュールは、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードへ遷移するよう更に構成されて良い。待ち時間調整ロジックモジュールは、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードへ遷移するよう更に構成されて良い。デコーダは、高待ち時間モードパケットで動作しているとき、代替の過去の未復号化パケットを現在パケットとして偽装するために、代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視するよう更に構成されて良い。
更なる例では、少なくとも1つの機械可読媒体は、コンピューティング装置で実行されるのに応答して、コンピューティング装置に上述の例のうちの任意の1つに従う方法を実行させる複数の命令を有して良い。
更に別の例では、装置は、上述の例のうちの任意の1つに従う方法を実行する手段を有して良い。
上述の例は、機能の特定の組合せを有して良い。しかしながら、このような上述の例は、これに関して限定されず、種々の実装において、上述の例は、このような特徴の一部のみを取り入れ、このような特徴の異なる順序を取り入れ、このような特徴の異なる組合せを取り入れ、及び/又は明示的に列挙された特徴以外の追加特徴を取り入れて良い。例えば、例示的な方法に関して記載された全ての特徴は、例示的な装置、例示的なシステム、及び/又は例示的な物品に対して実施されて良く、逆も同様である。

Claims (20)

  1. ビデオ復号化無線ディスプレイのためのコンピュータにより実施される方法であって、
    リプレイフィルタロジックモジュールにより、未復号化パケットストリームから完全なフレームの少なくとも部分を識別するステップと、
    ストレージメモリにより、格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、前記蓄積されたビデオフレームの少なくとも一部を過去の未復号化パケットとして格納するステップと、
    前記リプレイフィルタロジックモジュールにより、前記未復号化パケットストリームから不完全な現在フレームの少なくとも部分を識別するステップと、
    前記リプレイフィルタロジックモジュールにより、前記不完全なフレームの識別された部分を、前記不完全なフレームの識別された部分に対応する格納された過去の未復号化パケットで置き換えるステップと、
    デコーダにより、前記の代替の格納された過去の未復号化パケットに少なくとも部分的に基づき、前記現在フレームを復号化するステップと、
    を有する方法。
  2. 受信した前記未復号化パケットストリームは、イントラ符号化フレームのみを含み、
    前記受信した未復号化パケットストリームは、信頼できない送信媒体を介して受信され、
    各フレームは、1又は複数のスライスを有する、
    請求項1に記載の方法。
  3. 前記完全なフレームの少なくとも部分は、パケット損失なしに予定通りに受信される完全なスライスを含む、請求項1に記載の方法。
  4. 前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられる1又は複数のシーケンス番号に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するステップと、
    前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられる前記シーケンス番号に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するステップと、
    を更に有する請求項1に記載の方法。
  5. 前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられるシーケンス番号、選択されたパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するステップと、
    前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられる前記シーケンス番号、選択されたパケットに関連付けられる前記タイムスタンプ、各パケットに関連付けられる前記フレーム番号、及び/又は各パケットに関連付けられる前記スライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するステップと、
    を更に有し、
    前記不完全なフレームの識別された部分を格納された過去の未復号化パケットで置き換えるステップは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記代替の過去の未復号化パケットに関連付けられる前記タイムスタンプを再設定するステップを更に有する、
    請求項1に記載の方法。
  6. 受信した前記未復号化パケットストリームは、イントラ符号化フレームのみを含み、
    受信した前記未復号化パケットストリームは、信頼できない送信媒体を介して受信され、
    各パケットは1又は複数のスライスを有し、
    前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なスライスを含み、
    前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられるシーケンス番号、選択されたパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するステップと、
    前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられる前記シーケンス番号、選択されたパケットに関連付けられる前記タイムスタンプ、各パケットに関連付けられる前記フレーム番号、及び/又は各パケットに関連付けられる前記スライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するステップと、
    を更に有し、
    前記不完全なフレームの識別された部分を格納された過去の未復号化パケットで置き換えるステップは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記代替の過去の未復号化パケットに関連付けられる前記タイムスタンプを再設定するステップを更に有する、
    請求項1に記載の方法。
  7. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールにより、入力される前記未復号化パケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるステップであって、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく、
    請求項1に記載の方法。
  8. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールにより、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるステップであって、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく、ステップと、
    前記待ち時間調整ロジックモジュールにより、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するステップと、
    前記待ち時間調整ロジックモジュールにより、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードに遷移するステップと、
    前記待ち時間調整ロジックモジュールにより、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するステップと、
    を更に有する請求項1に記載の方法。
  9. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールにより、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるステップであって、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく、ステップと、
    前記デコーダにより、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記高待ち時間モードパケットで動作するとき、前記代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視するステップと、
    を更に有する請求項1に記載の方法。
  10. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールにより、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるステップであって、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく、ステップと、
    前記待ち時間調整ロジックモジュールにより、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するステップと、
    前記待ち時間調整ロジックモジュールにより、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードに遷移するステップと、
    前記待ち時間調整ロジックモジュールにより、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するステップと、
    前記デコーダにより、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記高待ち時間モードパケットで動作するとき、前記代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視するステップと、
    を更に有する請求項1に記載の方法。
  11. ビデオ復号化無線ディスプレイのためのコンピュータにより実施されるシステムであって、
    未復号化パケットストリームから完全なフレームの少なくとも部分を識別するリプレイフィルタロジックモジュールと、
    格納されるべき蓄積されたビデオフレームがパケット損失なく完全である場合に、前記蓄積されたビデオフレームの少なくとも一部を過去の未復号化パケットとして格納するストレージメモリと、
    を有し、
    前記リプレイフィルタロジックモジュールは、前記未復号化パケットストリームから不完全な現在フレームの少なくとも部分を識別するよう更に構成され、
    前記リプレイフィルタロジックモジュールは、前記不完全なフレームの識別された部分を、前記不完全なフレームの識別された部分に対応する格納された過去の未復号化パケットで置き換えるよう更に構成され、
    前記の代替の格納された過去の未復号化パケットに少なくとも部分的に基づき、前記現在フレームを復号化するデコーダ、
    を更に有するシステム。
  12. 前記リプレイフィルタロジックモジュールは、各パケットに関連付けられる1又は複数のシーケンス番号に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するよう更に構成され、
    前記リプレイフィルタロジックモジュールは、各パケットに関連付けられる前記シーケンス番号に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するよう更に構成される、
    請求項11に記載のシステム。
  13. 前記リプレイフィルタロジックモジュールは、各パケットに関連付けられるシーケンス番号、選択されたパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するよう更に構成され、
    前記リプレイフィルタロジックモジュールは、各パケットに関連付けられる前記シーケンス番号、選択されたパケットに関連付けられる前記タイムスタンプ、各パケットに関連付けられる前記フレーム番号、及び/又は各パケットに関連付けられる前記スライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するよう更に構成され、
    前記不完全なフレームの識別された部分を格納された過去の未復号化パケットで置き換えることは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記代替の過去の未復号化パケットに関連付けられる前記タイムスタンプを再設定することを更に有する、
    請求項11に記載のシステム。
  14. 受信した前記未復号化パケットストリームは、イントラ符号化フレームのみを含み、
    受信した前記未復号化パケットストリームは、信頼できない送信媒体を介して受信され、
    各パケットは1又は複数のスライスを有し、
    前記完全なフレームの少なくとも部分は、パケット損失なしに予定通りに受信される完全なスライスを含み、
    前記リプレイフィルタロジックモジュールは、各パケットに関連付けられるシーケンス番号、選択されたパケットに関連付けられるタイムスタンプ、各パケットに関連付けられるフレーム番号、及び/又は各パケットに関連付けられるスライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記不完全な現在フレームからどのパケットが損失しているかを識別するよう更に構成され、
    前記リプレイフィルタロジックモジュールにより、各パケットに関連付けられる前記シーケンス番号、選択されたパケットに関連付けられる前記タイムスタンプ、各パケットに関連付けられる前記フレーム番号、及び/又は各パケットに関連付けられる前記スライス番号、のうちの1又は複数に少なくとも部分的に基づき、前記格納された過去の未復号化パケットからのどのパケットが、前記不完全な現在フレームからの損失パケットに対応するかを識別するよう更に構成され、
    前記不完全なフレームの識別された部分を格納された過去の未復号化パケットで置き換えることは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記代替の過去の未復号化パケットに関連付けられる前記タイムスタンプを再設定することを更に有する、
    請求項11に記載のシステム。
  15. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールは、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるよう更に構成され、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づく、
    請求項11に記載のシステム。
  16. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールは、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるよう更に構成され、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づき、
    前記待ち時間調整ロジックモジュールは、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するよう更に構成され、
    前記待ち時間調整ロジックモジュールは、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードに遷移するよう更に構成され、
    前記待ち時間調整ロジックモジュールは、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するよう更に構成される、
    請求項11に記載のシステム。
  17. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールは、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるよう更に構成され、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づき、
    前記デコーダは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記高待ち時間モードパケットで動作するとき、前記代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視するよう更に構成される、
    請求項11に記載のシステム。
  18. 前記完全なフレームの少なくとも部分は、パケット損失なく予定通りに受信される完全なフレームを含み、
    待ち時間調整ロジックモジュールは、入力される前記未復号化ビデオパケットストリームと前記格納された過去の完全なビデオフレームのストリームとの間で前記デコーダへの供給を切り替えるよう更に構成され、前記供給の切り替えは、低待ち時間モード動作と高待ち時間モード動作との間の遷移に少なくとも部分的に基づき、
    前記待ち時間調整ロジックモジュールは、許容不可能な損傷発生頻度に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するよう更に構成され、
    前記待ち時間調整ロジックモジュールは、許容可能な損傷発生頻度に少なくとも部分的に基づき、高待ち時間モードから低待ち時間モードに遷移するよう更に構成され、
    前記待ち時間調整ロジックモジュールは、無線リンク機能停止の検出に少なくとも部分的に基づき、低待ち時間モードから高待ち時間モードに遷移するよう更に構成され、
    前記デコーダは、前記代替の過去の未復号化パケットを現在パケットとして偽装するために、前記高待ち時間モードパケットで動作するとき、前記代替の過去の未復号化パケットに関連付けられる不正なタイムスタンプを無視するよう更に構成される、
    請求項11に記載のシステム。
  19. 少なくとも1つの機械可読媒体であって、
    コンピューティング装置で実行されることに応答して、前記コンピューティング装置に請求項1乃至10のいずれか一項に記載の方法を実行させる複数の命令、
    を有する媒体。
  20. 請求項1乃至10のいずれか一項に記載の方法を実行する手段、
    を有する装置。
JP2017534809A 2015-01-31 2015-12-09 無線リンク状態に基づくビデオ復号化待ち時間調整、並びにビデオ復号化誤りの隠蔽のための、古いパケットのリプレイ Active JP6621827B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201562110505P 2015-01-31 2015-01-31
US201562110503P 2015-01-31 2015-01-31
US62/110,503 2015-01-31
US62/110,505 2015-01-31
US14/671,382 US10158889B2 (en) 2015-01-31 2015-03-27 Replaying old packets for concealing video decoding errors and video decoding latency adjustment based on wireless link conditions
US14/671,382 2015-03-27
PCT/US2015/064609 WO2016122778A1 (en) 2015-01-31 2015-12-09 REPLAYING OLD PACKETS FOR CONCEALING VIDEO DECODING ERRORS and VIDEO DECODING LATENCY ADJUSTMENT BASED ON WIRELESS LINK CONDITIONS

Publications (2)

Publication Number Publication Date
JP2018509791A JP2018509791A (ja) 2018-04-05
JP6621827B2 true JP6621827B2 (ja) 2019-12-18

Family

ID=56544134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017534809A Active JP6621827B2 (ja) 2015-01-31 2015-12-09 無線リンク状態に基づくビデオ復号化待ち時間調整、並びにビデオ復号化誤りの隠蔽のための、古いパケットのリプレイ

Country Status (4)

Country Link
US (1) US10158889B2 (ja)
JP (1) JP6621827B2 (ja)
CN (1) CN107113423B (ja)
WO (1) WO2016122778A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10779011B2 (en) * 2017-07-31 2020-09-15 Qualcomm Incorporated Error concealment in virtual reality system
US10291936B2 (en) * 2017-08-15 2019-05-14 Electronic Arts Inc. Overcoming lost or corrupted slices in video streaming
CN108966270B (zh) * 2018-07-19 2021-08-10 南昌航空大学 无线传感器网络链路质量评估方法
EP4229467A4 (en) * 2019-10-18 2024-07-10 Immersive Robotics Pty Ltd CONTENT DISPLAY PROCESSING
KR20210121777A (ko) * 2020-03-31 2021-10-08 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
EP4167576A4 (en) * 2020-06-30 2023-11-29 Huawei Technologies Co., Ltd. IMAGE PROCESSING METHOD AND DEVICE
US12073634B2 (en) * 2021-08-06 2024-08-27 Rockwell Collins, Inc. Cockpit display ambient lighting information for improving gaze estimation
CN114025172B (zh) * 2021-08-20 2024-07-16 北京旷视科技有限公司 视频帧的处理方法、装置和电子系统

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7508874B2 (en) * 2002-01-29 2009-03-24 Broadcom Corporation Error concealment for MPEG decoding with personal video recording functionality
KR100643270B1 (ko) * 2004-04-02 2006-11-10 삼성전자주식회사 비디오 스트림을 재생하는 클라이언트 및 재생 방법
EP1638337A1 (en) * 2004-09-16 2006-03-22 STMicroelectronics S.r.l. Method and system for multiple description coding and computer program product therefor
US7617436B2 (en) * 2005-08-02 2009-11-10 Nokia Corporation Method, device, and system for forward channel error recovery in video sequence transmission over packet-based network
KR100856215B1 (ko) 2007-01-31 2008-09-03 삼성전자주식회사 동영상 복호화시 프레임 손실의 은폐 방법 및 장치
US8774283B2 (en) * 2007-03-30 2014-07-08 Sony Corporation Information processing device and method
JP4792001B2 (ja) * 2007-04-27 2011-10-12 株式会社東芝 動画像復号装置、放送受信装置、動画像復号方法
JP2008311784A (ja) 2007-06-12 2008-12-25 Toshiba Corp 動画像復号装置および動画像復号方法
JP4519929B2 (ja) * 2008-06-13 2010-08-04 株式会社東芝 情報処理装置およびリカバリ処理方法
US20100158130A1 (en) * 2008-12-22 2010-06-24 Mediatek Inc. Video decoding method
US20100195742A1 (en) 2009-02-02 2010-08-05 Mediatek Inc. Error concealment method and apparatus
US8976873B2 (en) * 2010-11-24 2015-03-10 Stmicroelectronics S.R.L. Apparatus and method for performing error concealment of inter-coded video frames
WO2012089678A1 (en) * 2010-12-30 2012-07-05 Skype Concealment of data loss for video decoding
GB2493212B (en) * 2011-07-29 2015-03-11 Canon Kk Method and device for error concealment in motion estimation of video data
US20130039410A1 (en) * 2011-08-08 2013-02-14 Wai-Tian Tan Methods and systems for adapting error correcting codes
WO2013126284A2 (en) * 2012-02-24 2013-08-29 Vid Scale, Inc. Video coding using packet loss detection
US9118744B2 (en) * 2012-07-29 2015-08-25 Qualcomm Incorporated Replacing lost media data for network streaming
WO2014052856A2 (en) * 2012-09-28 2014-04-03 Marvell World Trade Ltd. Enhanced user experience for miracast devices
US20140119445A1 (en) 2012-10-26 2014-05-01 Lsi Corporation Method of concealing picture header errors in digital video decoding
GB2513090B (en) * 2013-01-28 2019-12-11 Microsoft Technology Licensing Llc Conditional concealment of lost video data
US9661351B2 (en) 2013-03-15 2017-05-23 Sony Interactive Entertainment America Llc Client side frame prediction for video streams with skipped frames
US9681155B2 (en) * 2013-03-15 2017-06-13 Sony Interactive Entertainment America Llc Recovery from packet loss during transmission of compressed video streams
US9369724B2 (en) * 2014-03-31 2016-06-14 Microsoft Technology Licensing, Llc Decoding and synthesizing frames for incomplete video data

Also Published As

Publication number Publication date
CN107113423A (zh) 2017-08-29
WO2016122778A1 (en) 2016-08-04
JP2018509791A (ja) 2018-04-05
US10158889B2 (en) 2018-12-18
CN107113423B (zh) 2020-06-26
US20160227257A1 (en) 2016-08-04

Similar Documents

Publication Publication Date Title
JP6621827B2 (ja) 無線リンク状態に基づくビデオ復号化待ち時間調整、並びにビデオ復号化誤りの隠蔽のための、古いパケットのリプレイ
US8928678B2 (en) Media workload scheduler
US10257510B2 (en) Media encoding using changed regions
US20160014418A1 (en) Adaptive bitrate streaming for wireless video
US9749636B2 (en) Dynamic on screen display using a compressed video stream
CN106664407B (zh) 用于无线显示器的并行编解码的方法、系统、装置及可读介质
TWI590652B (zh) 無線帶寬在編碼器中的減少
US20210120232A1 (en) Method and system of video coding with efficient frame loss recovery
CN107077313B (zh) 用于非媒体内容的远程显示的改进延迟和效率
CN107736026B (zh) 样本自适应偏移编码
US10547839B2 (en) Block level rate distortion optimized quantization
US10356439B2 (en) Flexible frame referencing for display transport
US10484714B2 (en) Codec for multi-camera compression
CN107743707B (zh) 低位率视频编解码

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181203

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191016

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191120

R150 Certificate of patent or registration of utility model

Ref document number: 6621827

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250