JP2012525067A - ハードウェア・タイムスタンプなしでビデオ・フレームを同期すること - Google Patents

ハードウェア・タイムスタンプなしでビデオ・フレームを同期すること Download PDF

Info

Publication number
JP2012525067A
JP2012525067A JP2012507325A JP2012507325A JP2012525067A JP 2012525067 A JP2012525067 A JP 2012525067A JP 2012507325 A JP2012507325 A JP 2012507325A JP 2012507325 A JP2012507325 A JP 2012507325A JP 2012525067 A JP2012525067 A JP 2012525067A
Authority
JP
Japan
Prior art keywords
timestamp
decoder
encoder
packet
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012507325A
Other languages
English (en)
Other versions
JP5313399B2 (ja
Inventor
ケイダー、ロン
グレビック、ネラ
エルスター、コンスタンティン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2012525067A publication Critical patent/JP2012525067A/ja
Application granted granted Critical
Publication of JP5313399B2 publication Critical patent/JP5313399B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/24Systems for the transmission of television signals using pulse code modulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H20/00Arrangements for broadcast or for distribution combined with broadcast
    • H04H20/40Arrangements for broadcast specially adapted for accumulation-type receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H20/00Arrangements for broadcast or for distribution combined with broadcast
    • H04H20/18Arrangements for synchronising broadcast or distribution via plural systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

マルチメディア・ビデオを復号するためのシステムおよび方法が説明される。特に、ハードウェア・インタフェースを用いることなく、パケットの到着の時間を決定するためのシステムおよび方法が開示される。本明細書において説明されるように、各パケットのための到着の時間は、フレーム境界の到着および伝送規格の仕様書から情報を外挿することによって導出されうる。これは、符号化器および復号器クロック間のドリフトの計算と、その後のより正確な伝送の復号を可能にする。

Description

本明細書において説明される実施形態は、データ通信に関する。特に、これらの実施形態は、デジタル・ビデオおよびオーディオ処理と、デジタル・ビデオおよびオーディオ・データの復号のための改良されたシステムおよび方法とに関する。
ビデオおよび音楽のようなデジタル・マルチメディア・データは、受信機のユーザによるマルチメディアのプレイのために、無線電話あるいはテレビのような、複数のデバイスに送信されうる。マルチメディアは、多数の異なるビデオ符号化規格に従ってフォーマットされうる。MPEG(Moving Picture Experts Group)は、例えば、MPEG−2パート2に説明される規格のような、多数の規格を開発してきた。その他の符号化規格は、H.261/H.263および最新のH.264/AVCを含む。
ビデオ符号化規格は、圧縮された方式でデータを符号化することによって、伝送速度を高めることを達成する。圧縮は、画像フレームの効率的な伝送のために送信される必要があるデータの全体量を低減しうる。H.264規格は、例えば、圧縮を用いずに達成されうるよりも狭い帯域幅によるビデオおよび画像の伝送を容易にするために設計されたグラフィックおよびビデオ圧縮技術を利用する。特に、MPEG規格は、時間的相関あるいはフレーム間相関と称される、連続する画像フレーム間の類似を利用するビデオ符号化技術を、フレーム間圧縮を提供するために組み込む。フレーム間圧縮技術は、画像フレームのピクセル・ベース表示を、動き表示に変換することによって、複数のフレームにわたるデータ冗長性を活用する。それに加えて、ビデオ符号化技術は、空間相関あるいはフレーム間相関と称される、画像フレーム内の類似を、画像フレーム内の空間相関が更に圧縮されうるフレーム内圧縮を達成するために利用しうる。フレーム内圧縮は通常、空間予測および離散コサイン変換(DCT)符号化のような、静止画像を圧縮するための従来処理に基づく。
MPEG圧縮技術は、時間的相関あるいはフレーム間相関と称される、連続する画像フレーム間の類似を利用するビデオ符号化技術を、フレーム間圧縮を提供するために組み込む。フレーム間圧縮技術は、画像フレームのピクセル・ベース表示を動き表示に変換することによって、複数のフレームにわたるデータ冗長性を活用する。符号化することは、各ピクチャを「マクロ・ブロック」とよばれるブロックに分け、その後、類似するブロックを求めて近隣のピクチャを探索する。適合するもの(match)が見つかると、システムは、ブロック全体の全てを格納する代わりに、ピクチャ間のブロックの動き(あるいは、それの欠如)を記述するはるかに小さなベクトルを格納する。このやり方で、効率的な圧縮が達成される。
これらの圧縮技術を支援するために、多くのデジタル・ビデオ・デバイスが、デジタル・ビデオ・シーケンスを圧縮するための符号化器と、デジタル・ビデオ・シーケンスを解凍するための復号器とを含む。多くの場合において、符号化器および復号器は、ビデオ画像のシーケンスを定義するフレーム内のピクセルのブロック上で動作する、集積符号化器/復号器(CODEC)を備える。画像フレーム内の各マクロブロックについて、符号化器は、最も類似するマクロブロックを識別するために直前のビデオ・フレームのマクロブロックを探索し、そして、前のフレームからのどのマクロブロックが符号化のために使用されたかを示す動きベクトルと一緒に、伝送のためのマクロブロック間の差を符号化する。受信デバイスの復号器は、動きベクトルと符号化された差とを受信し、ビデオ・シーケンスを発生するために動き補償を実行する。
ビデオおよびオーディオへのフレームの適切な戻し変換は、送信機における符号化器と受信機における復号器との間の適切なタイミングに依存する。この受信機は通常、フレームが適切に同期され、受信機においてユーザに対して提示されうるように、フレームの収集に関して、フレームが送信機によって符号化された場合に関する情報を提供される。MPEG2 TSは、MPEG2圧縮技術のためのトランスポート層を説明する規格の一部である。MPEG2 TSは、符号化器のローカル・クロック時間を、タイムスタンプとして圧縮されたフレームのパケットに記録することによって、符号化器と復号器との間の同期に適合する。これらのタイムスタンプは、プログラム・クロック・リファレンス(Program Clock Reference)すなわちPCRとして知られている(参照によって本明細書に全体的に組み込まれる、ISO/IEC 13818-1, Annex Dを参照のこと)。従って、PCRは符号化器タイムスタンプの形態を取る。PCRは、送信機におけるシステム・タイム・クロック(STC)によって導入され、復号器によって参照されるマスタ・クロックを形成して、ビデオおよびオーディオが、いつ解凍され表示されるべきかを決定する。
しかし、PCR値は常に正確なわけではない。動作条件あるいは内在する欠陥に起因する受信機クロックあるいは送信機クロックの何れかにおける不完全性は、この2つのクロック間のドリフトを結果としてもたらすだろう。受信機における復号器は、送信機におけるクロックに比べて、クロックが早い場合はアンダーラン(underrun)を、クロックが遅い場合はオーバランを、いずれは経験するだろう。オーバランおよびアンダーランを防ぐために、受信機は、自己のクロックと送信機のクロックとの間のドリフトを計算する。この受信機はその後、後続のフレームを復号する際に、このドリフトを補償する。
多くのデバイスにおいて、トランスポート・ストリーム・インタフェース(TSIF)として知られる、トランスポート層におけるハードウェア・インタフェースは、PCR値を含む各パケットが受信されると、これをタイムスタンプする。このタイムスタンプはその後、符号化器および復号器のクロック間のドリフトを外挿するために、パケット内に含まれるPCRと共に使用されうる。しかし、いくつかのモバイル・デバイス・インタフェースは、TSIFを支援していない。クロック同期のための代替的な方法を用いない場合、これらのデバイスは、ISDB−T、DVB−T、T−DMB、およびその他多くの規格との互換性をもたないだろう。
いくつかの実施形態においては、符号化器および復号器のクロック間のドリフトを決定するためのシステムは、各々1又は複数のデータ・パケットを備える複数のフレームを受信するように構成された受信機であって、それらのパケットの少なくとも2つは符号化器タイムスタンプを備える受信機と、各フレームを受信すると、インタラプトを発生(produce)するように構成されたコントローラと、このインタラプトに応じて、前述の1又は複数のデータ・パケットのための復号器タイムスタンプを生成するように構成された第1のモジュールと、符号化器タイムスタンプと復号器タイムスタンプとの差を計算することによって、ドリフトを決定するように構成された第2のモジュールとを備える。
いくつかの実施形態においては、符号化器および復号器のクロック間のドリフトを決定するための方法は、各々1又は複数のデータ・パケットを備える複数のフレームを受信し、これらのデータ・パケットのうちの少なくとも2つは、符号化器のタイムスタンプを備えること、前記フレームのうちの少なくとも1つを受信すると、インタラプトを発生することと、このインタラプトの発生に応じて、前述の1又は複数のパケットのための復号器タイムスタンプを生成することと、符号化器タイムスタンプと復号器タイムスタンプとの差に基づいてドリフトを決定することとを備える。
いくつかの実施形態においては、符号化器および復号器のクロック間のドリフトを決定するためのシステムは、各々1又は複数のデータ・パッケージ化手段を備える複数のフレーム化手段を受信するように構成された受信手段であって、これらのデータをパッケージ化する手段のうちの少なくとも2つは、符号化器タイムスタンピング手段を備える受信手段と、前記フレーム化手段を受信すると、インタラプトを発生する手段と、このインタラプトに応じて、前記1又は複数のデータ・パッケージ化手段のための復号器タイムスタンピング手段を生成する手段と、符号化器タイムスタンピング手段と復号器タイムスタンピング手段との差を計算することによって、ドリフトを決定する手段とを備える。
いくつかの実施形態においては、コンピュータ可読媒体は、各々1又は複数のデータ・パケットを備える複数のフレームを受信し、これらのデータ・パケットのうちの少なくとも2つは、符号化器タイムスタンプを備えること、前記フレームのうちの少なくとも1つを受信すると、インタラプトを発生すること、このインタラプトの発生に応じて、前記1又は複数のパケットのための復号器タイムスタンプを生成すること、符号化器タイムスタンプと復号器タイムスタンプとの差に基づいてドリフトを決定することとを備える方法を実施するために実行されるように適合されたコンピュータ可読プログラム・コードを備える。
開示される実施形態の特徴、目的、および利点は、全体にわたって同様の参照文字は対応して識別する図面に関連してなされる場合に、以下に提示される詳細な説明から更に明確になるだろう。
図1は、本発明の実施形態において使用されるブロードキャストおよびデータ通信のトップレベル・ブロック図である。 図2は、タイムスタンプ・モジュールを実現する、本発明の1つの実施形態における受信機の概略図である。 図3は、PCR値を保持するTSパケットを含むOFDMパケットの分析図(breakdown)である。 図4は、パケットOFDMタイムスタンプ対生成処理およびその後の個別のパケット・タイムスタンプの生成処理のフロー図である。 図5は、第1の典型的な実施における、本発明の1つの実施形態によって計算されるような、経時的ドリフト率のグラフである。 図6は、第2の典型的な実施における、本発明の1つの実施形態によって計算されるような、経時的ドリフト率のグラフである。 図7は、第3の典型的な実施における、本発明の1つの実施形態によって計算されるような、経時的ドリフト率のグラフである。 図8は、第4の典型的な実施における、第1のプレイバックについての本発明の1つの実施形態によって計算されるような、経時的ドリフト率のグラフである。 図9は、第4の典型的な実施における、第2のプレイバックについての本発明の1つの実施形態によって計算されるような、経時的ドリフト率のグラフである。
詳細な説明
本開示の実施形態は、マルチメディア・ビデオを復号するためのシステムおよび方法を含む。1つの実施形態は、TSIFによって提供されるハードウェア・タイムスタンプのような、ハードウェア・タイムスタンプが利用不可能な場合に、符号化器クロックと復号器クロックとの間の「ドリフト」を決定するためのシステムおよび方法を提供する。特に、特定の実施形態は、ハードウェア・インタフェースを使用することなく、PCRを含むパケットの到着時間を決定する。この実施形態において、システムは、伝送フレーム境界および伝送規格の特性を参照することによって、パケットの到着時間を外挿する。1つの実施形態において、伝送フレームが受信されることの結果として、ソフトウェア・インタラプトが発生(generate)される。受信機はこのソフトウェア・インタラプトをモニタし、その後、受信されたフレーム内のパケットの到着時間を決定することができる。これらの到着時間はその後、フレーム内の各パケットに関連付けられ、メモリ内に格納される。到着時間はその後、符号化器クロックと復号器クロックとの間のドリフトを決定するために、そのフレームで送られたPCR値と併せて使用される。
以下の詳細な説明は、特定の具体的な実施形態に向けられる。しかし、本明細書における教示は、多数の異なるやり方で適用されることができる。この説明において、同一部分が同一符番で示される図面が参照される。実施形態は、以下に説明されるように、任意のデバイスにおいて実施されうる。特に、実施形態は、OFDMフレーム・インタラプトを有するMPEG2トランスポート・ストリームを受信するように構成されたデバイスに実施されうるが、その他のブロック・ベースの符号化システムおよびフレーム・ベースの伝送システムが同様に使用されうるといことを当業者は容易に認識するだろう。
テレビのためのいくつかの国際基準が、OSIモデルにおけるプレゼンテーション層として、MPEG2を使用している。例えば、日本およびブラジルによって導入されたISDB−T(Integrated Services Digital Broadcasting Terrestrial for Terrestrial Television Broadcasting)は、MPEG2を使用している。同様に、韓国ブロードキャスト(Korean Broadcasts)において使用されているT−DMB(Terrestrial Digital Multimedia Broadcasting)およびヨーロッパにおいて使用されているDVB−T(Digital Video Broadcasting-Terrestrial)がMPEG2を実施している。これらのシステムの各々において、MPEG2トランスポート・ストリームは、再多重化され、OFDM(直交周波数分割多重化)フレーミングの前に、データ・グループ(データ・セグメント)に配置される。OFDMは、DVB−T、T−DMB、ISDB−Tにおける全ての7 OSIモデル層に含まれる。
OFDMは、同時にデータを送信するために、異なるユーザが周波数帯域内の異なる直交トーンに割り当てられる、多元接続通信を提供する。これらのチャネルによって送信される情報は、複数のパケットあるいはフレームに分けられる。各パケットは、特定の実施に依存して、様々な分野を含むように定義されうる。
より完全に以下に説明されるように、特定の実施形態は、トランスポート層における、TSIFのようなハードウェア・インタフェースに依存しないMPEG2 TS PCRタイムスタンプ・システムに向けられる。このシステムは、MPEG2トランスポート・ストリーム層(MPEG2 TS)およびOFDMフレームの両方ともを使用して、ISDB−TおよびT−DMBのような周知の規格との互換性を持つデバイスにおける使用においてメリットを有する。1つの実施形態において、システムは、受信するデバイスにおけるTV復号器のクロックを、送信機における符号化器クロックにアライメントさせる。この実施形態において、OFDMフレーム・インタラプトのようなフレーム・インタラプトが、各TSパケットの到着の時間を外挿するために使用されうる。このシステムを実施する実施形態が、以下に更に詳細に説明される。
図1は、ブロードキャスティングおよびデータ通信システム100のトップレベル・ブロック図を例示する。この実施形態において、ブロードキャスト・システム101は、PCR発生器105を使用する符号化器102を使用して、データを符号化する。PCR発生器105は、チャネル103(a乃至c)で受信機104(a乃至c)の各々に送信されるパケットに、PCRタイムスタンプを周期的に挿入する。チャネル103(a乃至c)は、OFDM実施のような多重化されたチャネルにおけるような、周波数チャネルでありうる。例えば、ブロードキャスト・システム101は、様々な実施形態において、DVB−T、T−DMB、およびISDB−Tシステムでありうる。受信機104(a乃至c)は、セルラー電話、個人用データ・システム、ホーム・コンピュータ、あるいは、ブロードキャスト・システム101から信号を受信することができる、当該技術分野において周知のその他任意のデバイスである。各受信機104(a乃至c)は、伝送を解凍して、その後ユーザに対してデータを表示する復号器107(a乃至c)を有する。復号器107(a乃至c)は、PCRを含む各パケットの到着の時間を復元するために、タイムスタンプ・モジュール106(a乃至c)を用いる。これによって、符号化器102および復号器107(a乃至c)の各々のクロック(図示せず)間のドリフトを決定することができる。
図2は、図1の受信機104a乃至cのうちの1つの概略図を例示する。この実施形態において、伝送はアンテナ201によって受信されるが、伝送を受信するための多数の方法、すなわち、光ファイバーやケーブルなどを、当業者は容易に理解するだろう。受信機104aにおける入力/出力202が、アンテナ201から各OFDMフレームを取得すると、インタラプト発生器208は、新たなフレームが到着したことをタイムスタンプ・モジュール204に通知するソフトウェア・インタラプトを提供する。タイムスタンプ・モジュール106aは、入力OFDMフレームからの、フレーム境界の到着の時間をマーク(mark)するために、クロック203を参照する。十分な解像度の一貫したインクリメントを提供するのであれば、フレームの到着時間を記録するために、その他多数のクロックが使用されうることを当業者は容易に認識するだろう。モジュール106aはその後、メモリ207における、到着時間と特定のフレーム境界のためのユニークな識別子を対にする。このデータは、より詳細に以下に説明されるように、受信されたフレーム内の任意の特定のパケットのドリフトを計算するために後に使用されうる。
入力/出力202はまた、復号器107aにフレームを提供する。これは、メモリ207を使用して受信されたパケットを復号することと、ディスプレイ205によってそれらのコンテンツを表示することとを開始する。コンテンツを表示するのではなく、パケットが格納あるいは再符号化されうることを当業者は容易に認識するだろう。この復号の間、復号器107aは、各パケットの到着の時間を外挿するために、対にされたフレーム・ナンバおよび到着時間を参照しうる。
図3は、一連のOFDMフレームと、それらが含んでいるTSパケットの図を例示する。この実例において、OFDMフレーム306、307は、一連の類似OFDMフレームによって先行されかつ後続されて相次いで到着する。各OFDMフレームは、整数Ptot個のパケットを含む。この例において、Ptotは、例示のために、適宜に7となるように選択されている。Ptotは、通信規格あるいは使用中のOFDM構成によって決定される。Ptotは通常、24から168個の範囲内のパケットである。Fは、フレームの持続時間であり、ここでは、適宜にtsecとして与えられる。所定の規格について、個定数のTSパケットは、各フレームにおけるPCR、すなわち類似の符号化器タイムスタンプ、305を含むだろう。
図3、図4A、および図4Bを参照すると、本発明の特定の実施形態において実施されるような、タイムスタンプ・モジュールの動作およびその後のタイムスタンプ計算が、詳細にわたって説明されるだろう。この実施形態は、第1および第2のモジュールにおいて実施されうる2つの処理を備える。それは、対生成401(図4A)およびその後の個別のパケット・タイムスタンプの計算402(図4B)である。対生成401が最初に説明され、その後、タイムスタンプ計算402が説明される。
(対生成)
図4Aを参照すると、処理401は最初に、1つのフレームに対するパケットの数Ptotと、単一フレームの持続時間Fとを、使用される特定の伝送規格に基づいて決定する。状態404において、OFDMフレームが到着し、システムはフレームの識別ナンバIを示す。例えば、第1のフレームにおいて、値I=1であり、一方で、12番目のフレームにおいては、値I=12などとなる。処理401はその後、状態405へと移動する。ここにおいて、システムは、受信されたOFDMフレームの到着の時間Tを決定するために、スリープ・クロック、あるいはその他の適切なクロックを参照する。次のステップ406において、フレーム内の第1のパケットのグローバル・インデックスPが計算される。グローバル・インデックスPは、システムによって受信された全てのパケットに関するインデックスである。従って、Ptotが7であり、Iが3の場合、Pは21となる(P=I*Ptot)。このシステムはその後、クロック・ドリフト計算におけるその後の使用のために、状態407において、対P、Tを(サイクリック・バッファのような)メモリ内のバッファに格納する。現在のフレームが状態407においてメモリ内に格納されると、処理401は後続のOFDMフレームを受信するために状態404へと戻る。
(復号器タイムスタンプ計算)
図4Bを参照すると、復号器が、ビデオ・ストリームを復号するために特定のパケットを必要としていると、復号器タイムスタンプ計算が実行される。復号器ソフトウェアは最初に、状態408において、グローバル・インデックスjを有する特定のパケットを要求する。一般的に、インデックスjを有するパケットはPCRを含むだろう。システムはその後、サイクリック・バッファから、格納された最も大きなパケット対を特定する。ここにおいて、対は、jより小さいが、状態409において可能な限り大きなグローバル・インデックスPを有する。インデックスPを有するパケットは、PCRを含んでいる可能性もあるし、含んでいない可能性もある。状態409の間、処理402は、パケットjと同じフレームにおける最初のパケットを特定する。jがフレームにおける第1のパケットである場合、P=jである。システムはその後、状態410においてパケットjのタイムスタンプを計算する。この計算は、下記の関係を使用して実行される。
タイムスタンプ=T+[(j−P)/Ptot]*F
項「[(j−P)/Ptot]」は、フレームのうちのどのくらいの割合がそのパケットを先行しているかを効率的に判定する。この割合は、このフレームの全持続時間の同じ割合を取ることによって、フレームの最初の到着とパケットの到着の間の時間差を見つけるために使用される。これをフレーム内の第1のパケットの到着の時間に加えることによって、そのパケットの、外挿された到着時間、すなわち復号器タイムスタンプが生じる。したがって、パケットの全持続時間と、パケットの到着時間と、そのパケットが発見されるフレームの割合とを知ることによって、フレーム内のパケットの到着時間を決定することができる。システムはその後、復号処理においてこのタイムスタンプを使用して、jをインクリメントし、411へ進む。
(ドリフト計算)
フレーム内にPCRを含む各パケットの到着時間が決定されると、その後で、ドリフトが下記のように計算されうる。
i番目のパケットのための導出されたタイムスタンプをTSとすると、
ΔTS=TS−TSi−D
ここで、Dは1より大きい任意のオフセットを備える。i番目のパケットのためのPCRをPCRとすると、
ΔPCR=PCR−PCRi−D
その結果、
ドリフト=ΔPCR−ΔTS
PCRを含むパケットが、1より多くフレーム内に存在していると、いくつかのパケットにわたって、あるいはいくつかのフレームにさえわたって、計算を平均化することによって、おおよそのドリフトが導出されうることを当業者は容易に認識するであろう。このようにして、1つの実施形態において、システムは、第1のパケットと第2のパケットとの符号化器タイムスタンプの差を計算して、第1の値を決定する。この値が既知となると、システムは、第1のパケットと第2のパケットとの復号器タイムスタンプにおける差を計算して、第2の値を決定しうる。その後、システムは、第1の値と第2の値との差を計算して、いくつかのパケットにわたる平均ドリフト値を得る。
オフセットDは、好ましくは、i番目のパケットとは異なるフレームにおけるパケットを常に選択するように、選択されうるが、必ずしもそうである必要があるわけではない。
(例)
上述された実施形態のうちのあるものの種々の実施のためのパラメータが以下に提供される。結果として生じるドリフト率は、図5乃至図9において提供される。
Figure 2012525067
図5は、上記に説明されたように、本発明の実施形態によって計算されるような、例1についてのソースと受信しているクロックとの間の、結果として生じるドリフト率を示す。
Figure 2012525067
図6は、上記に説明されたように、本発明の実施形態によって計算されるような、例2についてのソースと受信しているクロックとの間の、結果として生じるドリフト率を示す。
Figure 2012525067
図7は、上記に説明されたように、本発明の実施形態によって計算されるような、例3についてのソースと受信しているクロックとの間の、結果として生じるドリフト率を示す。
Figure 2012525067
図8および図9は、上記に説明されたように、本発明の実施形態による各場合において計算された、例4におけるムービーの第1および第2のプレイバックの両方についての、ソースと受信しているクロックとの間の、結果として生じるドリフト率を示す。
プラットフォームAはオープン・プラットフォームである。ここにおいて、構成要素は分散しており、囲われていない(not enclosed)。対照的に、プラットフォームBは、実際のモバイル電話の形の発展(development)プラットフォームである。図5乃至図7から分かるように、これら2つのプラットフォームの間のドリフト率は、同一ではない。これは、オープンエア・プラットフォームAとは対照的に、囲まれた(enclosed)プラットフォーム内でのクロックのより高い加熱によって説明されうる。クロックが前から暖まっている(already warm)場合、ドリフト率は予測どおりに挙動し、経時的に値が著しく変化することはない。しかし、クロックが加熱している間は、著しいドリフトが生じうる。プラットフォームAのクロックは、「オープンエア」なので、プラットフォームBのようにひどく熱くはならない(第2のプラットフォームについては最大ピークは〜34秒であるのに対し、例1は〜47秒の最大ピークを有する)。「低温の(cold)」クロックとは異なるドリフト率を生成するために、前からクロックが暖まっていることも予期されるだろう。図8乃至図9に示されるように、前から暖かくなっているクロックは、後のプレイバックで異なるドリフト率を現実に有するだろう。これらの図によって示されるように、この実施形態は、クロック間のドリフト挙動を正しく特徴付けている。
本開示において説明された技術は、ハードウェア、ソフトウェア、ファームウェア、あるいはそれら任意の組合せにおいて実施されうる。ユニットあるいは構成要素として説明された任意の特徴は、統合されたロジック・デバイスにおいて一緒に実現されるか、あるいは、離散的だが相互運用可能なロジック・デバイスとして個別に実施されうる。ソフトウェアにおいて実施される場合、この技術は、実行されると上述された1又は複数の方法を実行する命令群を備えるコンピュータ読取可能媒体によって少なくとも部分的に実現されうる。コンピュータ読取可能媒体は、コンピュータ・プログラム製品の一部を形成しうる。これは、パッケージ・マテリアルを含みうる。コンピュータ読取可能媒体は、同期型ダイナミック・ランダム・アクセス・メモリ(SDRAM)のようなランダム・アクセス・メモリ(RAM)と、読取専用メモリ(ROM)と、非揮発性ランダム・アクセス・メモリ(NVRAM)と、電子的消去可能プログラム可能読取専用メモリ(EEPROM)と、フラッシュ・メモリと、磁気あるいは光学データ記憶媒体などを備えうる。更に、あるいは代替的に、この技術は、少なくとも部分的に、命令群あるいはデータ構成の形態でコードを搬送あるいは伝達し、コンピュータによってアクセス、読み取り、および/あるいは実行されうるコンピュータ読取可能通信媒体によって実現される。
このコードは、1又は複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、アプリケーション特有集積回路(ASIC)、フィールド・プログラム可能ロジック・アレイ(FPGA)、あるいはそれらに相当するその他の集積あるいは離散ロジック回路のような1又は複数のプロセッサによって実行されうる。従って、本明細書において使用されるような用語「プロセッサ」は、前述された構造の任意のもの、あるいは本明細書において説明された技術の実施に適したその他任意の構造を称しうる。更に、いくつかの態様において、本明細書において説明された機能は、符号化および復号するように構成された、あるいは複合ビデオ符号復号器(CODEC)に組み込まれた、専用ソフトウェア・ユニットあるいはハードウェア・ユニット内において提供されうる。ユニットとしての異なる特徴の説明は、例示されたデバイスの異なる機能的態様を強調することを意図しており、このようなユニットが、個別のハードウェアあるいはソフトウェア構成要素によって実現されねばならないということを必ずしも暗示しているわけではない。むしろ、1又は複数のユニットに関連付けられた機能は、共通あるいは個別のハードウェアあるいはソフトウェア構成要素内に統合されうる。
本開示の様々な実施形態が説明された。これらのおよび他の実施形態は、以下の請求項の範囲内に含まれる。

Claims (21)

  1. 符号化器および復号器のクロック間のドリフトを決定するためのシステムであって、
    各々1又は複数のデータ・パケットを備える複数のフレームを受信するように構成された受信機であって、前記パケットのうちの少なくとも2つは符号化器タイムスタンプを備える受信機と、
    各フレームを受信するとインタラプトを発生するように構成されたコントローラと、
    前記インタラプトに応じて、前記1又は複数のデータ・パケットのための復号器タイムスタンプを生成するように構成された第1のモジュールと、
    前記符号化器タイムスタンプと復号器タイムスタンプとの差を計算することによって、ドリフトを決定するように構成された第2のモジュールと
    を備えるシステム。
  2. 前記第1のモジュールおよび前記第2のモジュールは、同じモジュールの一部である請求項1記載のシステム。
  3. 前記第1のモジュールは、前記フレーム内の各パケットの位置を決定することによって、復号器タイムスタンプを生成するように構成された請求項1記載のシステム。
  4. 前記復号器タイムスタンプを格納するためのバッファを更に備える請求項1記載のシステム。
  5. 前記受信機は、無線伝送受信機を備える請求項1記載のシステム。
  6. 前記コントローラは、OFDMフレーム・インタラプト・ハンドラを備える請求項1記載のシステム。
  7. 前記第1のモジュールは、スリープ・タイマを備える請求項1記載のシステム。
  8. 前記システムは、セルラー電話である請求項1記載のシステム。
  9. 前記フレームは、直交周波数分割多重化(OFDM)フレームを備える請求項1記載のシステム。
  10. 前記フレームは、圧縮されたオーディオおよびビデオ・データを備える請求項1記載のシステム。
  11. 前記圧縮されたオーディオおよびビデオ・データは、ISDB(Integrated Services Digital Broadcasting)規格に準拠する請求項10記載のシステム。
  12. 前記圧縮されたオーディオおよびビデオ・データは、T−DMB(Terrestrial Digital Multimedia Broadcasting)規格に準拠する請求項10記載のシステム。
  13. 前記符号化器タイムスタンプと復号器タイムスタンプとの差を計算することは、
    第1の値を決定するために第1のパケットと第2のパケットとの前記符号化器タイムスタンプにおける差を計算することと、
    第2の値を決定するために前記第1のパケットと第2のパケットとの前記復号器タイムスタンプにおける差を計算することと、
    前記第1と第2の値の差を計算することと
    を備える請求項1記載のシステム。
  14. 前記差を計算することは、平均ドリフトを決定するために複数のパケットの対の間で実行される請求項13記載のシステム。
  15. 符号化器および復号器のクロック間のドリフトを決定するための方法であって、
    各々1又は複数のデータ・パケットを備える複数のフレームを受信すること、ここにおいて前記データ・パケットのうちの2つ以上は符号化器タイムスタンプを備え、
    前記フレームのうちの少なくとも1つを受信するとインタラプトを発生することと、
    前記インタラプトの発生に応じて、前記1又は複数のパケットのための復号器タイムスタンプを生成することと、
    前記符号化器タイムスタンプと復号器タイムスタンプとの差に基づいてドリフトを決定することと
    を備える方法。
  16. 符号化器および復号器のクロック間のドリフトを決定するためのシステムであって、
    各々1又は複数のデータ・パケットを備える複数のフレームを受信する手段、ここにおいて前記データ・パケットのうちの少なくとも2つは符号化器タイムスタンプを備え、
    前記フレームを受信するとインタラプトを発生する手段、
    前記インタラプトに応じて、前記1又は複数のデータ・パケットのための復号器タイムスタンプを生成する手段、および
    前記符号化器タイムスタンプと復号器タイムスタンプとの差を計算することによって、ドリフトを決定する手段
    を備えるシステム。
  17. 前記受信する手段は、無線受信機を備える請求項16に記載のシステム。
  18. 前記インタラプトを発生する手段は、コントローラを備える請求項16記載のシステム。
  19. 前記復号器タイムスタンプを生成する手段は、スリープ・タイマを備える請求項16記載のシステム。
  20. 前記ドリフトを決定する手段は、プロセッサを備える請求項16記載のシステム。
  21. 各々1又は複数のデータ・パケットを備える複数のフレームを受信すること、ここにおいて前記データ・パケットのうちの少なくとも2つは符号化器タイムスタンプを備え、
    前記フレームのうちの少なくとも1つを受信するとインタラプトを発生すること、
    前記インタラプトの発生に応じて、前記1又は複数のパケットのための復号器タイムスタンプを生成すること、および
    前記符号化器タイムスタンプと復号器タイムスタンプとの差に基づいてドリフトを決定すること
    を備える方法を実施するために実行されるように適合されたコンピュータ読取り可能コードを具備するコンピュータ読取り可能媒体。
JP2012507325A 2009-04-21 2010-04-20 ハードウェア・タイムスタンプなしでビデオ・フレームを同期すること Expired - Fee Related JP5313399B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/427,479 US8396133B2 (en) 2009-04-21 2009-04-21 Synchronizing video frames without hardware timestamps
US12/427,479 2009-04-21
PCT/US2010/031777 WO2010123921A1 (en) 2009-04-21 2010-04-20 Synchronizing video frames without hardware timestamps

Publications (2)

Publication Number Publication Date
JP2012525067A true JP2012525067A (ja) 2012-10-18
JP5313399B2 JP5313399B2 (ja) 2013-10-09

Family

ID=42272411

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012507325A Expired - Fee Related JP5313399B2 (ja) 2009-04-21 2010-04-20 ハードウェア・タイムスタンプなしでビデオ・フレームを同期すること

Country Status (7)

Country Link
US (1) US8396133B2 (ja)
EP (1) EP2422519B1 (ja)
JP (1) JP5313399B2 (ja)
KR (1) KR101272812B1 (ja)
CN (1) CN102405645B (ja)
TW (1) TW201123910A (ja)
WO (1) WO2010123921A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5496548B2 (ja) * 2009-05-29 2014-05-21 ルネサスエレクトロニクス株式会社 半導体集積回路
US9602228B1 (en) * 2013-01-18 2017-03-21 Gregory R. Warnes Method and apparatus for transmission and reception of a signal over multiple frequencies with time offset encoding at each frequency
EP2954653B1 (en) * 2013-02-06 2018-11-28 Telefonaktiebolaget LM Ericsson (publ) Technique for detecting an encoder functionality issue
CN103747332B (zh) * 2013-12-25 2018-08-10 乐视致新电子科技(天津)有限公司 一种视频的平滑处理方法和装置
US10979785B2 (en) * 2017-01-20 2021-04-13 Hanwha Techwin Co., Ltd. Media playback apparatus and method for synchronously reproducing video and audio on a web browser

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08321836A (ja) * 1995-02-03 1996-12-03 Internatl Business Mach Corp <Ibm> マルチメディア・データの送信のセグメント化および時間同期化のための装置および方法
JPH11136224A (ja) * 1997-10-29 1999-05-21 Fujitsu Ltd クロック周波数同期装置
JP2000165442A (ja) * 1998-11-27 2000-06-16 Toshiba Corp 受信装置および受信方法
JP2000209182A (ja) * 1999-01-19 2000-07-28 Toshiba Corp ディジタル放送システムのクロック再生装置およびその方法およびディジタル放送用送信装置および送信方法
JP2004032069A (ja) * 2002-06-21 2004-01-29 Matsushita Electric Ind Co Ltd クロック制御量演算方法及びクロック再生装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5543853A (en) 1995-01-19 1996-08-06 At&T Corp. Encoder/decoder buffer control for variable bit-rate channel
US6169843B1 (en) 1995-12-01 2001-01-02 Harmonic, Inc. Recording and playback of audio-video transport streams
EP0845877A3 (en) * 1996-11-28 2002-03-27 Oki Electric Industry Co., Ltd. Mobile communication system for accomplishing handover with phase difference of frame sync signals corrected
US6661811B1 (en) 1999-02-12 2003-12-09 Koninklijke Philips Electronics N.V. Method of and apparatus for communicating isochronous data
US6598172B1 (en) * 1999-10-29 2003-07-22 Intel Corporation System and method for clock skew compensation between encoder and decoder clocks by calculating drift metric, and using it to modify time-stamps of data packets
WO2002009351A2 (en) * 2000-07-26 2002-01-31 Thomson Licensing S.A. Multi-media jitter removal in an asynchronous digital home network
FR2818768B1 (fr) * 2000-12-26 2003-03-21 Thomson Multimedia Sa Dispositif et procede d'estampillage temporel, recepteur, ensemble de diffusion differee et suite de paquet correspondants
US7151945B2 (en) * 2002-03-29 2006-12-19 Cisco Systems Wireless Networking (Australia) Pty Limited Method and apparatus for clock synchronization in a wireless network
JP4062504B2 (ja) 2002-09-09 2008-03-19 ソニー株式会社 同期化方法、通信システムおよびデータ受信装置
US20040170159A1 (en) * 2003-02-28 2004-09-02 Kim Myong Gi Digital audio and/or video streaming system
GB2422505A (en) * 2005-01-20 2006-07-26 Agilent Technologies Inc Sampling datagrams
US7872972B2 (en) * 2005-05-27 2011-01-18 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for improving scheduling in packet data networks
US20070002852A1 (en) * 2005-06-30 2007-01-04 Nokia Corporation Fixed interleaving length for MPE-FEC
JP4886689B2 (ja) 2005-07-15 2012-02-29 パナソニック株式会社 パケット送信装置
US8295818B2 (en) * 2005-09-15 2012-10-23 Airvana Network Solutions, Inc. Broadcasting in wireless systems
US20080019398A1 (en) 2006-07-20 2008-01-24 Adimos Systems Ltd. Clock recovery in wireless media streaming
TW200835303A (en) * 2006-09-07 2008-08-16 Avocent Huntsville Corp Point-to-multipoint high definition multimedia transmitter and receiver
US7778277B2 (en) 2006-11-03 2010-08-17 Mediatek Inc. Timing recovery method and system thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08321836A (ja) * 1995-02-03 1996-12-03 Internatl Business Mach Corp <Ibm> マルチメディア・データの送信のセグメント化および時間同期化のための装置および方法
JPH11136224A (ja) * 1997-10-29 1999-05-21 Fujitsu Ltd クロック周波数同期装置
JP2000165442A (ja) * 1998-11-27 2000-06-16 Toshiba Corp 受信装置および受信方法
JP2000209182A (ja) * 1999-01-19 2000-07-28 Toshiba Corp ディジタル放送システムのクロック再生装置およびその方法およびディジタル放送用送信装置および送信方法
JP2004032069A (ja) * 2002-06-21 2004-01-29 Matsushita Electric Ind Co Ltd クロック制御量演算方法及びクロック再生装置

Also Published As

Publication number Publication date
WO2010123921A1 (en) 2010-10-28
KR20120022999A (ko) 2012-03-12
CN102405645B (zh) 2014-11-12
US20100266050A1 (en) 2010-10-21
TW201123910A (en) 2011-07-01
CN102405645A (zh) 2012-04-04
EP2422519B1 (en) 2016-07-20
US8396133B2 (en) 2013-03-12
JP5313399B2 (ja) 2013-10-09
EP2422519A1 (en) 2012-02-29
KR101272812B1 (ko) 2013-06-10

Similar Documents

Publication Publication Date Title
EP1941738B1 (en) Methods and apparatus for service acquisition
US7580612B2 (en) Digital broadcast sending apparatus, receiving apparatus and digital broadcast system
KR100950867B1 (ko) 패킷화된 비디오 데이터 처리 방법, 이미지 데이터를 디코딩하는 방법, 및 비디오 방송 방법
CN101536524B (zh) 用于使用信道切换帧的应用的系统和方法
US20090220011A1 (en) Video encoder and decoder for an improved zapping service for mobile video reception
US20070174880A1 (en) Method, apparatus, and system of fast channel hopping between encoded video streams
EP2695390B1 (en) Fast channel change for hybrid device
US10075726B2 (en) Video decoding method/device of detecting a missing video frame
US9137477B2 (en) Fast channel change companion stream solution with bandwidth optimization
JP5313399B2 (ja) ハードウェア・タイムスタンプなしでビデオ・フレームを同期すること
US6980732B1 (en) Data reproduction transmission apparatus and data reproduction transmission method
JP6333173B2 (ja) 受信装置および受信方法
US20150109411A1 (en) Image playback apparatus for 3dtv and method performed by the apparatus
CA2792106A1 (en) Method and system for inhibiting audio-video synchronization delay
WO2013034073A1 (zh) 3d立体视频编码传输方法及装置
WO2012068898A1 (zh) 移动多媒体广播中分级业务同步的方法、设备和系统
JP2016072919A (ja) 動画像処理方法、動画像処理システムおよび動画像処理プログラム
WO2004114666A1 (en) Constant stream compression processing method
Murugan Multiplexing H. 264/AVC Video with MPEG-AAC Audio
KR20070064750A (ko) 디지털 방송 수신기 및 수신방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130703

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees