JP2010538539A - 相互接続ネットワークにおける関連データストリームの同期 - Google Patents

相互接続ネットワークにおける関連データストリームの同期 Download PDF

Info

Publication number
JP2010538539A
JP2010538539A JP2010522992A JP2010522992A JP2010538539A JP 2010538539 A JP2010538539 A JP 2010538539A JP 2010522992 A JP2010522992 A JP 2010522992A JP 2010522992 A JP2010522992 A JP 2010522992A JP 2010538539 A JP2010538539 A JP 2010538539A
Authority
JP
Japan
Prior art keywords
data
packet
data stream
receiver
buffer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010522992A
Other languages
English (en)
Other versions
JP5624468B2 (ja
Inventor
ブライアン ケイ シュミット
ジェイ デュエイン ノースカット
Original Assignee
シリコン イメージ,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シリコン イメージ,インコーポレイテッド filed Critical シリコン イメージ,インコーポレイテッド
Publication of JP2010538539A publication Critical patent/JP2010538539A/ja
Application granted granted Critical
Publication of JP5624468B2 publication Critical patent/JP5624468B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04JMULTIPLEX COMMUNICATION
    • H04J3/00Time-division multiplex systems
    • H04J3/02Details
    • H04J3/06Synchronising arrangements
    • H04J3/0635Clock or time synchronisation in a network
    • H04J3/0638Clock or time synchronisation among nodes; Internode synchronisation
    • H04J3/0658Clock or time synchronisation among packet nodes
    • H04J3/0661Clock or time synchronisation among packet nodes using timestamps
    • H04J3/0667Bidirectional timestamps, e.g. NTP or PTP for compensation of clock drift and for compensation of propagation delays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23406Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving management of server-side video buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44231Monitoring of peripheral device or external card, e.g. to detect processing problems in a handheld device or the failure of an external recording device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Abstract

【課題】相互接続ネットワークにおいて関連データストリームを同期させる方法及び装置を提供する。
【解決手段】装置は、データストリームを第2装置へ送信する送信器を備え、この送信器は、データパケットを第2装置へ送信する。更に、クロックも備え、装置は、データパケット送信時にこのクロックを使用してデータパケットに対する第1タイムスタンプを与える。又、第2装置から応答を受信する受信器も備え、装置は、第2装置から返送データパケットを受信する際に第2タイムスタンプを与え、その返送パケットは、第2装置によるデータパケットの受信及び送信に対してタイムスタンプを含む。装置は、そのオペレーションを指令するネットワークユニットを備え、このユニットは、少なくとも一部分はパケットに対するタイムスタンプに基づき第2装置によりデータストリームをデコードするための開始時間を決定する。
【選択図】図2

Description

本発明の実施形態は、一般的に、ネットワークの分野に係り、より詳細には、相互接続ネットワークにおいて関連データストリームを同期させる方法及び装置に係る。
ネットワークは、パーソナル電子娯楽装置のような複数の装置を相互接続したものを含むことがある。このようなネットワークでは、相互接続された装置は、データの関連ストリームの共有を含めて、データを共有することができる。送信装置は、複数の装置へストリーミングされるべきデータを含む。一例において、送信装置は、1つ以上のディスプレイ装置により表示するか又は他の使用のためにストリーミングされるべき動画又は他のオーディオ/ビジュアルデータのようなメディアデータのセットを含むか又はそれにアクセスする装置であり、ディスプレイ装置は、おそらく、ビデオを表示するスクリーン、オーディオを発生するスピーカ、又はその両方を含む。用語の簡単化のために、ストリーミングされるデータの使用は、そのようなデータの「表示」と称され、そしてそのようなデータを使用する装置は、「表示装置」又は「受信装置」と称される。
このようなネットワークでは、データの表示を同期させる必要がある。同期のクオリティは、このようなデータの使用、及び不一致表示に対する受信者の敏感さに依存する。この環境内での共通のシナリオは、表示を同期させるという要件で、単一ソースから複数の行先へ複数のメディアストリームを配信することである。受信装置がメディアデータを表示し且つ表示が互いに視覚又は聴覚内にある場合に、見る人又は聞く人が表示装置間の表示時間差に気付かないほど同期が充分厳密であることが要求される。
例えば、ビデオサーバーは、ストリームを、周囲サウンドのデコーディングのためにオーディオ受信器へ且つビデオの表示のために個別のデジタルテレビジョンへ送信することがある。このケースでは、適切な表示のために装置間に適切な唇同期を維持しなければならない。第2の例は、同じメディアストリームを複数のデジタルテレビジョンへ配布することである。このケースでは、各ストリームに対するオーディオ及びビデオのデコーディングは、単一装置内で遂行されて装置に対する適切な唇同期を確保するが、全てのストリームが同期されるよう確保するには複数の表示を互いに整合させねばならない。
しかしながら、同期は、一般的に、装置間に比較的厳密な整合及び通信を要求する。この同期プロセスは、メッセージング及び処理に著しいオーバーヘッドを要求することがある。パーソナル娯楽装置を含む低リソース装置を相互接続するネットワークのような限定ネットワークでは、このような装置間整合及び通信を与えることが困難である。
相互接続ネットワークにおいて関連データストリームを同期させるための方法及び装置が提供される。
本発明の第1の態様では、装置は、データストリームを第2装置へ送信するための送信器を備え、この送信器は、データパケットを第2装置へ送信する。装置は、更に、クロックを備え、装置は、データパケットを送信する際にデータパケットに対する第1タイムスタンプを与える。装置は、第2装置から返送パケットを受信する際に第2タイムスタンプを与え、返送パケットは、第2装置によりパケットを受信及び送信するためにタイムスタンプを含む。ネットワークユニットは、第2装置によりデータストリームをデコードするための開始時間を、少なくとも一部分はパケットに対するタイムスタンプに基づいて決定する。
本発明の第2の態様では、装置は、第2装置からのデータを受け取るための受信器と、クロックとを備え、装置は、第2装置から同期パケットを受信する際に第1タイムスタンプを、そして返送同期パケットを送信する際に第2タイムスタンプを与える。装置は、データストリームのデータを保持するためのバッファを備え、このバッファは、第2装置からのデータストリームに対する開始時間に達したときに流出を開始する。装置は、更に、データストリームをデコードするためのデコーダを備えている。
本発明の第3の態様では、関連データストリームを同期させる方法は、第1受信装置へ送信すべきパケットを準備することを含み、その第1受信装置は、関連データストリームの少なくとも第1データストリームを受信する。パケットを送信する際に第1タイムスタンプが与えられ、返送パケットを受信する際に第2タイムスタンプが与えられ、返送パケットは、更に、第1受信装置によりパケットを受信するためのタイムスタンプ、及び第1受信装置により返送パケットを送信するためのタイムスタンプを含む。第1受信装置に対する第1の開始時間が、パケット及び返送パケットのタイムスタンプに少なくとも一部分基づいて決定される。
本発明の実施形態は、同様の要素が同じ参照番号で示された添付図面を参照して、一例として説明するが、これに限定されない。
複数の受信装置へ配信されるデータストリームの実施形態を示す。 位相関係を決定するためのプロセスの一実施形態を示す。 ある実施形態において同期をとるために受信装置により与えられるデータを示す。 送信器が関連データストリームを同期させるためのプロセスの実施形態を示すフローチャートである。 受信器が関連データストリームを同期させるためのプロセスの実施形態を示すフローチャートである。 娯楽ネットワークの実施形態を示す。 ネットワーク装置の実施形態を示す。 ネットワーク装置のコンポーネントの実施形態を示す。
本発明の実施形態は、一般的に、相互接続ネットワークにおいて関連データストリームを同期させることに向けられる。
ここで使用する「関連データストリーム」とは、任意の仕方で互いに関連している同じデータストリーム又は異なるデータストリームの複数の態様を意味する。1つの例では、複数の表示装置に向けられる単一のビデオデータストリームが、関連データストリームをなす。第2の例では、同じ又は異なる表示装置に向けられるビデオデータストリーム及びオーディオデータストリームが、関連データストリームをなす。
ここで使用する「娯楽ネットワーク」とは、(音楽、オーディオ/ビデオ、ゲーム、写真、等を含む)デジタルメディアコンテンツを装置間に配信するための相互接続ネットワークを意味する。娯楽ネットワークは、パーソナル娯楽ネットワーク、例えば、家庭用のネットワーク、業務設定の娯楽ネットワーク、又は娯楽装置の他のネットワークを含む。このようなネットワークでは、あるネットワーク装置は、メディアコンテンツのソース、例えば、デジタルテレビジョンチューナ、ケーブルセットトップボックス、ビデオ記憶サーバー、及び他のソース装置である。他の装置は、メディアコンテンツを表示又は使用するもので、例えば、デジタルテレビジョン、ホームシアターシステム、オーディオシステム、ゲームシステム、及び他の装置である。更に、ある装置は、メディアコンテンツを記憶又は転送するように意図されたもので、例えば、ビデオ及びオーディオ記憶サーバーである。ある装置は、複数のメディアファンクションを遂行することができる。ある実施形態では、ネットワーク装置は、単一のローカルエリアネットワーク上の同じ位置にある。他の実施形態では、ネットワーク装置は、例えば、ローカルエリアネットワーク間のトンネルを通して複数のネットワークセグメントに広がる。娯楽ネットワークは、複数のデータエンコード及び暗号化プロセスを含む。
ある実施形態では、ネットワークにおける複数の関連データストリームが同期される。ある実施形態では、送信装置と各受信装置との間の位相差を決定し、そして適用可能な位相差に少なくとも一部分基づいて各受信装置のオペレーションを調整することによって、データストリームが同期される。ある実施形態では、送信装置と受信装置との間の位相差は、少なくとも一部分は、受信装置へデータパケットを送信し、返送されるデータパケットを受信し、そしてデータパケットに対して収集されたタイムスタンプを使用することにより、決定される。ある実施形態では、データストリームの同期は、更に、受信装置のオペレーションに関する情報も使用する。
ある実施形態では、プロセスの複雑さを最小にしながら、人間の使用又は操作にとって充分なクオリティとなるようにストリームの同期を維持するためのプロセスが提供される。又、ある実施形態では、単一チップ解決策のように低リソース装置内で具現化することのできる同期プロセスが提供される。
図1は、複数の受信装置へ配信されるデータストリームの実施形態を示す。この図において、ネットワーク105は、複数の装置を含み、そのような装置間で関連データストリームが転送される。データストリームは、メディアストリームデータを含むが、それに限定されない。例えば、送信装置110が、特定のデータストリーム(1つ又は複数)130を、複数の受信装置、例えば、受信装置A 115、受信装置B 120及び受信装置C 125へ配信することが要求される。データストリーム(1つ又は複数)130は、一例においては、複数の位置に表示されるべきオーディオビジュアルデータストリームであるか、又は一緒に表示されるべきオーディオストリーム及びビデオストリームである。位置が1人の個人により観察されるに充分なほど接近している場合に、その個人は、表示が同期されていないことに気付く。しかしながら、装置が異なり、各装置への距離が異なることがある。このために、一般的に、受信装置間には未知のサイズの位相差が生じる。ある実施形態では、各受信装置に対してデータストリームを同期するためのプロセス又はシステムが提供される。
ある実施形態では、システムは、データストリーミングのために「プッシュモデル」を使用する。又、ある実施形態では、単一ソースが相互接続ネットワークを経て単一の行先へメディアストリームを配信する。この環境において、送信器クロック、受信器クロック及びデコーダクロックの3つの関連クロックドメインがある。プッシュモデル実施形態では、送信器は、他の装置に関わらず既知のレートで受信器へメディアストリームを送信し(従って、データを受信器へプッシュし)、受信器からのフィードバックは要求されない。受信器は、ネットワークを通しての可変待ち時間を吸収するために到来するストリームに対してバッファを維持し、そしてストリームデータをデコーダへ転送し、このデコーダは、ストリームからクロックを回復し、そしてそのクロックを標準PLL及びVCO技術によりロックする。このクロック回復は、受信器がストリームデータをデコーダへ配信するレートに基づき、これは、次いで、ストリームレート及び受信器のローカルクロックに基づく。
この例では、デコーダがストリームからクロックを適切に回復できるようにするために、受信器は、「リーキーバケット(leaky bucket)」プロセス又は同様のプロセスを具現化する。ストリームパケットがネットワークから到着するにつれて、それらは、(ネットワークジッタを吸収するために)受信器によってバッファされ、次いで、そのローカルクロックに基づく均一なレートでデコーダへ配送される。受信器クロックは、送信器クロックとは異なるので、受信器がバッファを流出させるレートは、周期的に調整される。このような調整がないと、バッファは、最終的にアンダーフロー又はオーバーフローとなる。
ある実施形態では、標準レート一致技術を使用して、受信器のバッファが流出されるレートを制御することができ、様々な技術が考えられる。このプロセスでは、バッファの深度がモニタされ、平滑機能が適用される。時間と共に、受信器のクロック周波数が送信器のクロック周波数に一致されるというのが有効な結果である。これは、受信器と送信器との間のフィードバック又は通信を必要とせずに、受信器が、送信器により決定されたレートでストリームを再生することを保証する。
ある実施形態では、受信器バッファのサイズは、変化する条件に対して調整することができる。バッファのサイズは、吸収できるネットワークジッタの量、及びレート一致アルゴリズムが有効である時間周期を決定する。大きなバッファは、ネットワーク変動を吸収するための良好な結果を与えるが、この効果は、オペレーションにおける初期待ち時間のコストで発生する。従って、バッファのサイズは、設計上の兼ね合いである。
ある実施形態では、ディスプレイのような装置間の位相関係が対処される。単一ソースから単一行先へメディアストリームのようなデータストリームを送信するための上述したプッシュモデルは、3つのクロック(送信器、受信器及びデコーダ)を同じ周波数に有効にロックさせて、滑らかなデコーディング及び再生を確保する。送信器が、次いで、同じストリーム(又はその異なる部分)を複数の行先に配送する場合には、全てのクロックのレートが、単一行先のケースと同様に、同じ周波数にロックされる。従って、ストリームは、時間と共に離れるようにドリフトしない。
しかしながら、装置のクロック位相は異なる。特に、各ストリームは、第1パケットを受信する時間、バッファ待ち時間及びデコーダ待ち時間に基づいて、実時間の異なる点でデコーディングを開始する。ある実施形態では、全ての関連ストリームの受信器が同時にデコーディングを開始するよう確保するための付加的なメカニズムが設けられる。これは、送信器からの受信器クロックの位相オフセットを決定することを必要とする。
NTP(ネットワークタイムプロトコル)又はイーサネットAV(オーディオビデオ)のようなクロック同期技術は、同じ位相を有するように全てのクロックをセットするのに使用できるが、データストリームにとって重要なのは初期オフセットだけであるから(ソースに対するレート一致が長期間ドリフトを防止するので)、これは必要ではない。ある実施形態では、送信器と各受信器との間の単純な一連のタイムドパケット交換により位相差が評価される。ストリームが開始されるときに瞬時位相差を決定することは、複数のストリーム間に適切な同期を確保するのに充分である。
図2は、位相関係を決定するためのプロセスの一実施形態を示す。この図において、送信器205は、ローカルクロック210を有し、そして受信器215は、ローカルクロック220を有する。ある実施形態では、送信器205は、受信器215へパケット225を送信する。送信器205は、パケット225が出発するときにそのローカルクロック210に基づいてタイムスタンプTs0230を挿入する。パケット225が受信器215に到着すると、受信器のクロック220に基づき新たなタイムスタンプTr1235がパケット225に挿入される。パケット225は、次いで、送信器205へ返送され、パケット225が出発するときに、受信器のローカルクロック220に基づいて第3のタイムスタンプTr2240が挿入される。最終的に、パケット225が送信器205に戻ると、送信器のクロック210に基づいて第4のタイムスタンプTs3245が注目される。ある実施形態では、これらの値は、2つのクロック間の位相差を決定するために少なくとも一部分使用される。
ネットワーク装置に使用されるもののような近代的なクロックは、非常に高精度であり、典型的に、公称周波数との相違は、100ppm(パーツ・パー・ミリオン)以下であり、これは、約100μs/秒の最大スキューを意味する。メディアストリームのようなデータストリームの状況では、このスキューは、一般的に、取るに足らないもので、安全に無視することができる。従って、2つのクロック間の位相関係を確立するために、2つのクロックの周波数が同一であると簡単に仮定するのが安全である。より詳細には、往復遅延δは、次のように決定される。
δ=(Ts3−Ts0)−(Tr2−Tr1) [1]
同様に、受信器クロックに対する送信器クロックのオフセット(即ち、受信器クロックに対して等価な時間を得るために送信器クロックに加算される時間)は、次のように決定される。
Figure 2010538539
但し、送信器の時間は、次の式により特定受信器の時間へと変換される。
Figure 2010538539
一実施形態では、位相オフセットの決定は、往復遅延δが対称的であるという仮定に基づく。しかしながら、実際には、ネットワークジッタが予想不能であり、従って、位相オフセットは、往復遅延の半分δ/2以内の精度となる。ステレオサウンドのような緊密に結合されたオーディオではなくメディアストリーム同期の場合には、人間は、一般的に、80msまでのスキューは我慢できると分かっている。従って、δ/2<80msであれば、位相オフセットは、受け容れられる性能を生じる。位相オフセットは、送信器と各受信器との間のこのプロセスにおいて決定され、受信器と受信器との間ではないので、受信器と受信器との間の最大スキューは、加算的である。従って、受信器と受信器との間の受け容れられるストリーム同期は、往復遅延が人間の許容スレッシュホールドの半分未満であるとき、ひいては、δ/2<40msであるときに、達成できる。
ある実施形態では、前記情報を使用すると、送信器と各受信器との間の位相オフセットを決定するための手順は、往復遅延が適切な範囲内になるまで繰り返される。ターゲット環境がローカルネットワークである具現化では、位相決定の繰り返しが実際に僅かな制約に過ぎず、過渡的バースト又はノイズに対処するだけでよい。
送信器に対する受信器クロックの位相オフセットの最終的コンポーネントは、受信器においてメディアストリームデコーダを通る待ち時間である(待ち時間とは、データパケットが、結果データを送出するまでにメディアストリームデコーダにより保持される期間である)。例えば、MPEG(ムービングピクチャーエクスパートグループ)デコーダは、その内部バッファ要件のために付加的な待ち時間を追加することがある。ある実施形態では、この余計な遅延を考慮するために、受信器は、タイムドパケット要求に応答してこの値を含ませる。
送信器及び受信器におけるタイムドパケット要求の処理オーバーヘッドは、非常に変動しがちである。それ故、ある実施形態では、システム又はプロセスは、タイムドパケットレスポンダを、束縛された既知の遅延をもつハードウェア状態マシンとして具現化する。同様に、送信器におけるパケット進入及び退出タイムスタンプをハードウェアにより発生して、タイムスタンプの精度を改善することができる。タイムスタンプの発生がハードウェアにより遂行されない実施形態では、クロック間の位相オフセットを決定するときに、付加的なエラー補償が要求される。しかしながら、エラーを、人間の許容範囲(例えば、サウンドの位相差に対する人間の許容範囲)内に束縛するだけでよい実施形態では、ハードウェアサポートが要求されなくてもよい。
ある実施形態では、付加的なデコーディング待ち時間と共に各受信器クロック間の位相差が分かると、送信器は、データストリームの表示又は他の使用を一致させるために、各ストリームのデコーディングの開始を各受信器にいつ命令すべきか非常に正確に決定することができる。しかしながら、一般的に、各受信器は、ネットワークの待ち時間を吸収するために異なるバッファ要件を有する。ある実施形態では、送信器は、受信器が受信器の最大デコーダ待ち時間を考慮するために将来のデコード時間をセットする。
図3は、ある実施形態において同期のために受信装置により与えられるデータを示す。ある実施形態では、クロックタイムスタンプ及びデコーダ待ち時間と共に、各受信器は、タイムドパケット要求に応答してそのバッファ情報を含ませる。これは、最小値又はローウオーターマーク(low water mark)、即ちデコーディングを開始できるまでにバッファされねばならないストリームの最小量と、最大値又はハイウオーターマーク(high water mark)、即ちバッファすることのできるストリームデータの最大量とを含む。
例えば、図3も、ローカルクロック120をもつ受信器115を示す。ある実施形態では、受信器115は、送信器によって与えられた送信タイムスタンプTs0130を含むパケット125を受信する。パケット125が受信器115に到着すると、受信器のクロック120に基づく新たなタイムスタンプTr1135がパケット125に挿入される。ある実施形態では、受信器115は、受信器115のデコーダ375に対する待ち時間値350(デコーダが、結果データを送出するまでデータパケットを保持する期間を示す)を与える。ある実施形態では、受信器115は、受信器115のバッファ380に記述するためのバッファ情報360を更に与える。ここに提供される発明は、ハイウオーターマーク365(バッファすることのできるストリームの最大量)と、ローウオーターマーク(デコーディングを開始できるまでにバッファされねばならないストリームデータの最小量)とを含む。パケット125は、次いで、送信器105へ返送され、そしてパケット125が出発するときに、受信器のローカルクロック120に基づいて別のタイムスタンプTr2140が挿入される。
ある実施形態では、全ての受信器を同期させるために、送信器は、受信器に対する初期デコード時間をセットする。ある実施形態では、デコード時間は、現在時間、全ての受信器にとって充分なネットワーク待ち時間、処理を開始するに充分なレベルまで全ての受信器のバッファを充填するに要する時間、及びデコーダ待ち時間を与えるに充分なレベルまで全ての受信器のバッファを充填する時間に基づくものである。ある実施形態では、デコード時間は、現在時間と、(予想ネットワーク遅延を考慮するための)全受信器にわたる最大往復遅延の半分と、全受信器の最大ローウオーターマークまでバッファを充填するに要する時間と、全受信器の最大デコーダ待ち時間までバッファを充填するに要する時間との和であるように決定される。
DECODE=TCURRENT+δMax/2+TMaxLowWM+TMaxDecLat [4]
時間TDECODEは、送信器のクロックに対して式4で決定される。その値は、式3に従い各受信器クロックに対する等価な時間へ変換される。
受信器におけるバッファサポートが許す場合には、エラーの余裕を減少する助けとして付加的な初期待ち時間が追加されてもよい。一実施形態では、開始時間が、ハイウオーターマークを越えるバッファ要件に対応する場合には、ストリームを中断するか、又は同期性能低下のおそれはあるが要件を緩和することもできる。
ある実施形態では、送信器は、各受信器クロックに基づいて開始時間を決定し、開始時間は、式4から得られるTDECODE値と、所与の受信器に対する適当なオフセットとの和である。
Figure 2010538539
送信器は、開始時間(受信器のクロックに基づく)、第1パケットのシーケンス番号、及びパケットレートを、そしてそれに続いてストリームデータを、各受信器へ送信することにより、データストリームを開始する。このプロセスにおいて、送信器は、ストリーム開始情報を受信器へ確実に配送して適切なデコーディング及び同期を保証するように確保する。
ある実施形態では、データストリームを受信する各受信器は、到来するストリームを、受信器のクロックに基づく開始時間に達するまでバッファし、そしてその時点で、受信器は、バッファを流出させてストリームデータをデコーダへ配送し始める。次いで、受信器は、上述したように振る舞う。幾つかのストリームデータパケットがストリームの始めから失われた場合には、受信器は、ストリームパケットレート及び第1の使用可能なシーケンス番号に基づいて、ストリームをデコードし始めるまでに、どれほど長く遅延するかを決定することができる。
図4は、送信器が関連データストリームを同期させるプロセスの実施形態を示すフローチャートである。この図において、データストリームに対する要求が受け取られる。関連データストリームに対して複数のデータ受信器がない場合には(404)、ある実施形態では、送信器は、同期をとらずにデータストリームを開始する(430)。複数のデータ受信器がある場合には(404)、データのデコーディングを同期するプロセスが続く。このプロセスでは、受信器へ送信するための同期パケットが準備される(406)。第1タイムスタンプがデータパケットに挿入され(408)、データパケットが受信器へ送信される。次いで、送信器は、受信装置から返送パケットを受信し(412)、パケットが受信されるときに第2のタイムスタンプを与える(414)。データパケットは、更に、パケットの到着及び送信に対して受信装置からのタイムスタンプを含み、そして更に、デコーダ待ち時間情報及びバッファ情報を含む。このようなデータを使用して、送信器は、受信器に対する往復遅延が、送信器におけるデータパケットの送信と到着との間の時間差から、受信器におけるデータパケットの到着と送信との間の差を差し引いたものに等しいことを決定する(416)。その決定された遅延がスレッシュホールド内にない場合には(418)、変化するネットワークジッタが余計な遅延を生じさせることを示し、遅延の決定が繰り返される。遅延がスレッシュホールド内である場合には(418)、タイムスタンプ値に基づいて位相オフセットが決定される(420)。対処すべき受信器が更にある場合は(422)、同期プロセスが繰り返される(406)。さもなければ、各受信器によるデコーディングの開始時間が決定される。一実施形態では、デコード時間は、現在時間と、受信装置に対する最大往復遅延の半分と、受信装置に対する最大ローウオーターマークの時間と、受信装置に対する最大デコーダ待ち時間との和として決定される(424)。次いで、特定受信装置に対する開始時間は、デコード時間を受信装置のオフセット
Figure 2010538539
ウオーターマークに対する時間より大きい(従って、バッファのオーバーフローを生じる)場合には、問題に対処するアクションが取られ(428)、例えば、特定の受信装置へのストリームを中断し、又は同期要件を緩和する。受信装置が使用可能な開始時間を有するか、さもなければ、同期に対処できる場合には、各受信装置に対してデータストリームを開始することができる(430)。
図5は、受信器が関連データストリームを同期させるプロセスの実施形態を示すフローチャートである。この図において、受信器でデータストリームを受信する要求がある(502)。関連データストリームに対して複数のデータ受信器がない場合には(504)、ある実施形態では、受信したデータをバッファし(506)、そして最小量のデータがバッファされたときにデコーダへデータを配送する(508)ことを含めて、同期をとらずに、データストリームが開始する。関連データストリームに対して複数のデータ受信器がある場合には(504)、データ受信器は、送信器から同期パケットを受信する(510)。受信器は、受信の際にパケットに第1タイムスタンプを挿入させる(512)。受信器は、送信器へ返送するためのパケットを準備し(514)、受信器のデコーダの待ち時間に関する情報をパケットに挿入し(516)、そして受信器のバッファに関する情報を挿入する(518)。受信器は、パケットが送信器へ送信されて戻されるときに(522)、第2タイムスタンプを挿入する(520)。
受信器は、次いで、デコーダへのデータの配送を開始する開始時間を含めて、データストリームを開始するためのインストラクションを受け取る(524)。データストリームを開始すると(526)、受信器は、受信したデータをバッファし始める(528)。バッファ動作(528)は、受信器に対する開始時間に到達する(530)まで続けられ、この点において、受信器は、バッファからデータを流出し(532)そしてそのようなデータをデコーダへ配送する(534)ことを開始する。
図6は、娯楽ネットワークの実施形態を示す。娯楽ネットワークの要素は、複数の装置への関連データストリームを同期させるのに使用される。この図において、娯楽ネットワークシステム600は、互換性のあるメディア装置をネットワークに接続する。接続は、娯楽ネットワーク605への接続として示されている。ある実施形態では、装置は、中央ネットワークサーバーをもたないネットワークとして動作する。娯楽ネットワークを通して、メディアデータストリームは、接続された任意の装置間で転送される。更に、装置は、ネットワークを通して遠隔制御することができる。装置は、同軸ケーブル、イーサネットケーブル、及びファイアワイヤを含む既知のコネクタ及び接続プロトコルを経てネットワークに接続されると共に、Wi−Fi、ブルーツース、及び他のワイヤレス技術を経てワイヤレス接続部へ接続される。
ある実施形態では、装置は、メディアソース又は受信者を含む。図6において、オフィス610は、モデム622を経てネットワーク605へインターネット接続620を与える。インターネットから受信されるデータは、ストリーミングメディアソースを含み、これは、購入したオーディオファイル(ダウンロードされた音楽ファイルのような)、ビデオファイル(映画、テレビ、等の)、及びコンピュータゲームを含むが、これらに限定されない。又、オフィス610は、パーソナルコンピュータ624にも接続され、これは、他のファンクションの中でも、あるメディアストリームを表示し又はあるコンピュータゲームを動作するモニタ626を使用する。
又、娯楽ネットワークは、ベッドルーム612内の装置にも接続され、これは、例えば、テレビジョン632へデータを与えるセットトップボックス630を含む。更に、ベッドルーム(又は他のスペース)は、メディア記憶ユニット628を含む。このメディア記憶ユニット628は、ネットワーク605に接続されたソースからデータを受信し、且つネットワーク605へ接続されたデータ受信者へデータを与える。メディア記憶装置628は、ネットワークに対していかなる形式のメディアストリームデータを含んでもよい。
このシステムは、更に、ケーブル又はファイバシステム634から、或いは衛星ディスクネットワーク636から入力を受信するリビングルーム614も備えている。このようなソースからのメディア入力は、ネットワーク605及び第2テレビジョン640に接続されたセットトップボックス638へ供給される。リビングルームのテレビジョン640に表示するためにネットワーク605に接続されているのは、ビデオゲームユニット642である。ネットワーク装置をもつ多数の他の部屋があり、例えば、ネットワーク605に接続された第3テレビジョン644を含むキッチンがある。又、これに限定されないが、家全体に配置されたスピーカを含むステレオオーディオシステムを含む他のネットワーク装置も存在する。
更に、多数の移動パーソナル電子装置もネットワークに接続される。これらの装置は、ケーブル又はワイヤレス信号を経て接続され、ワイヤレス信号は、ブルーツース、Wi−Fi、赤外線又は他の同様のワイヤレス通信プロトコルを含むが、これに限定されない。このような各々のプロトコルは、(図6には示されていない)ネットワークへのインターフェイス、例えば、Wi−Fiベースステーションを必要とする。このような移動パーソナル電子装置は、デジタルカメラ646、セルラー電話648、パーソナル音楽装置650、又はビデオカメラ652を含むことができる。更に、自動車654に収容された移動システムは、自動車がネットワークに接近したときに(例えば、家のガレージに入ったときに)ネットワーク605に接続することができる。移動パーソナル電子装置は、例えば、ネットワークの範囲内に入ったときにネットワークに自動的に接続される。接続時に、装置は、装置への考えられる自動更新又はダウンロードを含めて、ネットワークを通してデータを得るか、又はネットワークへデータを供給するのに使用できる。一例において、ユーザは、ネットワークを通していずれかの移動電子装置に含まれたデータにアクセスすることができ、例えば、セットトップボックス638を経て、リビングルームのテレビジョン640のデジタルカメラ646に記憶された写真にアクセスすることができる。ある実施形態では、図6に示すネットワーク装置は、ネットワーク処理及びバッファ能力に限度があるように設計された低リソース装置である。
図7は、ネットワーク装置の実施形態を示す。ある実施形態では、ネットワーク装置705は、1つの物理的ネットワークインターフェイス、例えば、イーサネットMACアドレスを伴うエンティティである。図7に示すように、ネットワーク装置は、2つのネットワークインターフェイス710及び715を備えている。従って、ある実施形態では、ネットワーク装置は、物理的エンティティである。又、ある実施形態では、ネットワーク装置は、1つ以上のエージェントを含み、各エージェントは、ネットワーク装置に常駐する論理的エンティティである。ネットワーク装置には複数のエージェントがある。例えば、図7は、ネットワーク装置705を示し、ネットワークインターフェイス710は、通信マネージャー720を経てエージェント730、735及び740にアクセスし、通信マネージャー725を経てエージェント745及び750にアクセスし、且つ通信マネージャー730を経てエージェント755及び760にアクセスする。ある実施形態では、各エージェントには、ネットワーク装置IPアドレスとは独立して、装置のリセットオペレーションにわたり、それを他のエージェントから区別するためのグローバルに独特の識別子が指定される。このように、エージェント755に意図されたコマンドが、エージェントに対する独特のアドレスに宛てられ、次いで、メッセージは、ネットワークインターフェイス715を経てエージェント755へ向けられる。
ある実施形態では、エージェントは、ネットワーク装置内の通信のエンドポイントとして働き、特定セットの能力及び関連振舞いを与える。エージェントは、メディアソース、メディアシンク、メディアコントローラ、及び他の要素を含む。一例において、エージェントは、ビデオストリーミングサービスを提供する。この例では、エージェントは、メッセージに応答してメディアストリームに問合せ且つそれを制御し、そして命令されると、エージェントは、メディアストリームを別のエージェントへ自律的に配送する。ある実施形態では、エージェントは、いつでも、1つ以下のアクティブなメディアセッションを有し、比較的簡単なオペレーションを与える。エージェントは、メッセージを送信及び受信し、そのようなメッセージに応答して内部状態を変更し、そして副次的作用として連続的アクションを遂行する能力を有するという点で、アクティブなオブジェクトとして働くと見ることができ、又、そのように説明することができる。
ある実施形態では、エージェントは、通信マネージャーによって娯楽ネットワーク上で通信することができる。ある実施形態では、図7の通信マネージャー720、725及び730のように、装置当たり1つ以上の通信マネージャーがある。又、ある実施形態では、単一の通信マネージャーによって複数のエージェントをマネージすることができ、例えば、通信マネージャー720によってエージェント730、735及び740がマネージされる。ある実施形態では、通信マネージャーは、その通信マネージャーに結び付けられたエージェントへ及びエージェントからメッセージをルーティングする役割を果たす。そのプロセスは、同じネットワーク装置に対してローカルの他のエージェントへメッセージを配送し、個々のエージェントから出力接続を経てリモートネットワーク装置のエージェントへメッセージをマルチプレクスし、そしてブロードキャスト要求を取り扱うことを含む。ある実施形態では、エージェントは、1つの通信エージェントのみに結び付けられ、通信マネージャーは、1つのネットワークインターフェイスのみに結び付けられる。
ある実施形態では、表示マネージャーは、表示装置のリソースをマネージするエージェントである。より詳細には、表示マネージャーは、表示リソース及びスクリーン幾何学へのアクセスを許可する役割を果たす。ある実施形態では、各表示装置は、ビデオ出力、グラフィック出力、オーディオ出力、及びユーザ入力のようなI/O装置の各関連セットに対して1つの表示マネージャーしかもたない。又、ある実施形態では、エージェントは、セッションマネージャーと共に働き、表示装置へのメディアコンテンツの配送及び表示を整合し、表示装置リソースへのアクセスを許可する。又、ある実施形態では、表示マネージャーは、ユーザセッションのためのスタート点を表し、そしてセッションマネージャーへ制御を委任する。
ある実施形態では、セッションマネージャーは、アクティブなユーザに対してメディアコンテンツのセットを整合するエージェントである。又、ある実施形態では、選択がなされると、セッションマネージャーは、対応する表示マネージャーとのリモートオンスクリーン表示セッションを開始し、そしてネットワーク内の他の装置をマネージするためにアプリケーションプログラムの実行を開始する。又、ある実施形態では、表示マネージャーは、入力イベントをセッションマネージャーへ転送し、そして表示リソースへのアクセス権を許可し、セッションマネージャーは、それを他のエージェントへ委任することができ、従って、他のエージェントが表示装置へコンテンツを配送できるようにする。一例において、表示マネージャーは、セットトップボックス内で実行されるセッションマネージャーへアクセス権を許可する。セッションマネージャーは、表示装置とのリモートUI(ユーザインターフェイス)セッションを開始し、そしてネットワーク装置のユーザが、再生されるべきビデオを、リモートビデオ記憶装置から選択できるようにする。ある実施形態では、セッションマネージャーは、ビデオサーバーへアクセス権を通し、そしてメディアストリームを表示装置へ配送するようにビデオサーバーに指令する。又、ある実施形態では、セッションマネージャーは、メディアコンテンツを使用してユーザの経験をマネージするのに必要な状態を維持する。
図8は、ネットワーク装置のコンポーネントの実施形態を示す。この図において、ネットワーク装置805は、娯楽ネットワークにおける任意の装置であり、図6に示す装置を含むが、これに限定されない。例えば、ネットワーク装置は、テレビジョン、セットトップボックス、記憶ユニット、ゲームコンソール、又は他のメディア装置である。ある実施形態では、ネットワーク装置805は、ネットワークファンクションを与えるためのネットワークユニット810を備えている。ネットワークファンクションは、メディアデータストリームを発生し、転送し、記憶し及び受信することを含むが、これに限定されない。ネットワークユニット810は、チップ上の単一システム(SoC)として又は複数のコンポーネントとして具現化することができる。
ある実施形態では、ネットワークユニット810は、データを処理するためのプロセッサを含む。データの処理は、メディアデータストリームを発生し、メディアデータストリームを転送又は記憶で操作し、そしてメディアデータストリームを使用のために解読及びデコーディングすることを含む。又、ネットワーク装置は、ネットワークオペレーションをサポートするためのメモリ、例えば、DRAM(ダイナミックランダムアクセスメモリ)820、又は他の同様のメモリ及びフラッシュメモリ825、或いは他の不揮発性メモリを含む。
又、ネットワーク装置805は、各々1つ以上のネットワークインターフェイス855を経てネットワークにデータを送信し又はネットワークからデータを受信するための送信器830及び/又は受信器840も備えている。送信器830又は受信器840は、例えば、イーサネットケーブル850を含むワイヤード送信ケーブル、又はワイヤレスユニットに接続される。送信器830又は受信器840は、データ送信のためのライン835及びデータ受信のためのライン845のような1つ以上のラインで、データ転送及び制御信号のためのネットワークユニット810に結合される。付加的な接続も存在する。又、ネットワーク装置805は、装置のメディアオペレーションのための多数のコンポーネントを含むが、ここには示されていない。
上述した説明において、説明上、本発明を完全に理解するために多数の特定の細部について述べた。しかしながら、当業者であれば、幾つかの特定の細部がなくても、本発明を実施できることが明らかであろう。他の点では、良く知られた構造及び装置は、ブロック図の形態で示された。図示されたコンポーネントとコンポーネントとの間に中間構造が存在することがある。説明又は図示されたコンポーネントは、ここに図示又は説明されない付加的な入力又は出力を有することがある。
本発明は、種々のプロセスを含むことができる。本発明のプロセスは、ハードウェアコンポーネントによって遂行することもできるし、又はマシン実行可能なインストラクションによって実施することもでき、これらインストラクションでプログラムされた汎用又は特殊目的プロセッサ或いはロジック回路でプロセスを遂行するように使用できる。或いは又、プロセスは、ハードウェア及びソフトウェアの組合せで遂行することもできる。
本発明の各部分は、本発明によるプロセスを遂行するようにコンピュータ(又は他の電子装置)をプログラムするのに使用されるコンピュータプログラムインストラクションが記憶されたコンピュータ読み取り可能な媒体を含むコンピュータプログラム製品として提供されてもよい。マシン読み取り可能な媒体は、フロッピーディスケット、光学ディスク、CD−ROM(コンパクトディスクリードオンリメモリ)、磁気−光学ディスク、ROM(リードオンリメモリ)、RAM(ランダムアクセスメモリ)、EPROM(消去可能なプログラマブルリードオンリメモリ)、EEPROM(電気的に消去可能なリードオンリメモリ)、マグネット又は光学的カード、フラッシュメモリ、又は電子的インストラクションを記憶するのに適した他の形式のメディア/マシン読み取り可能なメディアを含むが、これに限定されない。更に、本発明は、コンピュータプログラム製品としてダウンロードすることもでき、このプログラムは、リモートコンピュータから、要求を発しているコンピュータへ転送することができる。
多数の方法を最も基本的な形態で説明したが、本発明の基本的な範囲から逸脱せずに、いずれかの方法にプロセスを追加したり又は削除したりすることができ、又、いずれかの上述したメッセージに情報を追加したり削除したりすることができる。当業者であれば、多数の更に別の変更や適応がなされ得ることが明らかであろう。本発明を限定するのではなく例示するために特定の実施形態が示された。本発明の範囲は、上述した特定例によって決定されるのではなく、特許請求の範囲のみによって決定されるものとする。
要素“A”が要素“B”に結合されると言える場合には、要素Aは、要素Bに直結されるか、又は、例えば、要素Cを経て間接的に結合される。コンポーネント、特徴、構造、プロセス、又は特性Aが、コンポーネント、特徴、構造、プロセス、又は特性Bを「引き起こす」と明細書又は請求の範囲に述べられたときには、“A”は、“B”の少なくとも部分的な原因であるが、“B”を引き起こす上で助けとなる少なくとも1つの他のコンポーネント、特徴、構造、プロセス、又は特性でもあることを意味する。コンポーネント、特徴、構造、プロセス、又は特性を含んでもよく(may)、含むことがあり(might)、又は含むことができる(could)と明細書に示された場合に、その特定のコンポーネント、特徴、構造、プロセス、又は特性を含むことが要求されるのではない。明細書又は請求の範囲で「ある(“a”又は“an”)」要素が言及された場合には、述べられた要素が1つしかないことを意味するものではない。
実施形態は、本発明の具現化又は一例である。明細書において「実施形態」、「1つの実施形態」、「ある実施形態」又は「他の実施形態」を言及するときには、その実施形態について述べる特定の特徴、構造又は特性が、少なくともある実施形態には含まれるが、必ずしも全ての実施形態に含まれるのではないことを意味している。「実施形態」、「1つの実施形態」又は「ある実施形態」の種々の出現は、必ずしも全てが同じ実施形態を示していない。本発明の実施形態の以上の説明において、開示を合理化し且つ本発明の1つ以上の種々の態様を理解する上で助けとなるように、本発明の種々の特徴は、時々、単一の実施形態、図面又はその説明に一緒にグループ編成されたことが明らかであろう。しかしながら、開示のこの方法は、請求の範囲に記載の発明が各請求項に述べた以上の特徴を要求するという意図を反映するものとして解釈されるものではない。むしろ、請求の範囲に反映されるように、本発明の態様は、以上に開示された単一実施形態の全ての特徴未満のものに存在する。従って、この説明に明確に組み込まれた請求の範囲において、各請求項は、本発明の個別の実施形態としてそれ自身自立している。
105:ネットワーク
100:送信装置
115:受信装置A
120:受信装置B
125:受信装置C
130:データストリーム
205:送信器
210:クロック
215:受信器
220:ローカルクロック
225:パケット
230、235、240:タイムスタンプ
350:待ち時間値
360:バッファ情報
365:ハイウオーターマーク
370:ローウオーターマーク
375:デコーダ
380:バッファ

Claims (25)

  1. データストリームを第2装置へ送信するように構成された送信器であって、データパケットを第2装置へ送信するように構成された送信器と、
    クロックであって、装置が送信時にこのクロックを使用してデータパケットに対する第1タイムスタンプを与えるように構成されたクロックと、
    第2装置から応答を受信する受信器であって、第2装置から返送データパケットを受信する際に第2タイムスタンプを装置が与えるように構成され、その返送パケットは、第2装置によるデータパケットの受信及び送信に対してタイムスタンプを含むものである受信器と、
    装置のオペレーションを指令するネットワークユニットであって、少なくとも一部分はデータパケットに対するタイムスタンプに基づいて第2装置によってデータストリームをデコードするための開始時間を決定するネットワークユニットと、
    を備えた装置。
  2. 前記データストリームは、前記送信器により送信されるべき複数の関連データストリームの1つである、請求項1に記載の装置。
  3. 前記装置は、複数の関連データストリームを同期させる、請求項2に記載の装置。
  4. 前記開始時間の決定は、データパケットの送信に対する往復時間の決定を含む、請求項1に記載の装置。
  5. 前記開始時間の決定は、前記装置と前記第2装置との間のオフセットの決定を含む、請求項1に記載の装置。
  6. 前記返送データパケットは、前記第2装置のバッファに関する情報を更に含む、請求項1に記載の装置。
  7. 前記返送データパケットは、更に、前記第2装置のデコーダに関する情報を含む、請求項6に記載の装置。
  8. 前記開始時間の決定は、更に、前記バッファ情報及びデコーダ情報を含む、請求項7に記載の装置。
  9. 前記データストリームはメディアデータのストリームを含む、請求項1に記載の装置。
  10. データストリームを第2装置から受信するための受信器と、
    クロックであって、装置が第2装置から同期パケットを受信する際にこのクロックを使用して第1タイムスタンプを与えるように構成されたクロックと、
    第2装置へ返送同期パケットを送信するように構成された送信器であって、装置が送信の際にその返送同期パケットに対する第2タイムスタンプを与えるように構成された送信器と、
    データストリームのデータを保持するバッファであって、データストリームの開始時間に到達したときに装置がバッファの流出を開始するように構成され、前記開始時間は、第2装置から受信されるものであるバッファと、
    データストリームをデコードするためのデコーダと、
    を備えた装置。
  11. 前記装置は、更に、バッファ、デコーダ、或いはバッファ及びデコーダの両方に関する情報を前記返送同期パケットに与えるように構成された請求項10に記載の装置。
  12. 前記バッファに関する情報は、バッファに対する最小データレベル、最大データレベル或いは最小データレベル及び最大データレベルの両方を含む、請求項11に記載の装置。
  13. 前記デコーダに関する情報は、デコーダに対する待ち時間を含む、請求項11に記載の装置。
  14. 前記データストリームは、同期されるべき複数の関連データストリームの1つである、請求項10に記載の装置。
  15. 前記装置は、同期に関する他の関連データストリームを受信する装置とは通信しない、請求項14に記載の装置。
  16. 前記装置は、前記バッファのレベルに基づいて前記クロックのレートを変更する、請求項11に記載の装置。
  17. 関連データストリームを同期させる方法において、
    第1受信装置へ送信するようにパケットを準備するステップであって、第1受信装置は、関連データストリームの少なくとも第1データストリームを受信するステップと、
    第1受信装置へパケットを送信する際に第1タイムスタンプを与えるステップと、
    返送パケットを受信する際に第2タイムスタンプを与えるステップであって、その返送パケットは、第1受信装置によりパケットを受信するための第3タイムスタンプと、第1受信装置により返送パケットを送信するための第4タイムスタンプとを含むものであるステップと、
    少なくとも一部分は前記パケット及び返送パケットのタイムスタンプに基づいて第1受信装置に対する第1開始時間を決定するステップと、
    を備えた方法。
  18. 複数の関連データストリームの第2データストリームを受信するための第2受信装置に対する第2開始時間を決定するステップを更に備えた、請求項17に記載の方法。
  19. 前記第1開始時間及び第2開始時間は、第1データストリーム及び第2データストリームの同期を与える、請求項18に記載の方法。
  20. 前記第1受信装置からバッファ情報及びデコーダ情報を受信するステップを更に備え、前記第1開始時間の決定は、前記バッファ情報及びデコーダ情報を含む、請求項17に記載の方法。
  21. 前記第1開始時間の決定は、関連データストリームを受信する全ての受信装置に対するデコード時間を決定することを含み、このデコード時間は、送信器クロックと、前記第1受信装置に対するクロック時間との間のオフセットにより調整される、請求項20に記載の方法。
  22. 前記デコード時間は、現在時間と、全ての受信装置に対して充分なネットワーク待ち時間と、全ての受信器のバッファを、処理を開始するに充分なレベルに充填するに要する時間と、全ての受信器のバッファを、デコーダ待ち時間を与えるに充分なレベルに充填するための時間とに基づくものである、請求項17に記載の方法。
  23. 前記複数のデータストリームは、複数のメディアデータストリームを含む、請求項17に記載の方法。
  24. 前記第1データストリーム及び第2データストリームは、オーディオ又はビデオデータストリームのコピーである、請求項23に記載の方法。
  25. 前記第1データストリームは、ビデオデータストリームであり、第2データストリームは、そのビデオデータストリームに関連したオーディオデータストリームである、請求項23に記載の方法。
JP2010522992A 2007-08-30 2008-07-08 相互接続ネットワークにおける関連データストリームの同期 Active JP5624468B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/848,153 US7936790B2 (en) 2007-08-30 2007-08-30 Synchronizing related data streams in interconnection networks
US11/848,153 2007-08-30
PCT/US2008/069446 WO2009029339A1 (en) 2007-08-30 2008-07-08 Synchronizing related data streams in interconnection networks

Publications (2)

Publication Number Publication Date
JP2010538539A true JP2010538539A (ja) 2010-12-09
JP5624468B2 JP5624468B2 (ja) 2014-11-12

Family

ID=39689210

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010522992A Active JP5624468B2 (ja) 2007-08-30 2008-07-08 相互接続ネットワークにおける関連データストリームの同期

Country Status (7)

Country Link
US (1) US7936790B2 (ja)
EP (1) EP2186230B1 (ja)
JP (1) JP5624468B2 (ja)
KR (1) KR101548619B1 (ja)
CN (1) CN101809906B (ja)
TW (1) TWI371194B (ja)
WO (1) WO2009029339A1 (ja)

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8332898B2 (en) * 2007-08-09 2012-12-11 Echostar Technologies L.L.C. Apparatus, systems and methods to synchronize communication of content to a presentation device and a mobile device
US7990909B2 (en) * 2007-11-02 2011-08-02 Ciena Corporation Synchronization of network nodes
EP2073548A1 (en) * 2007-12-17 2009-06-24 Alcatel Lucent Method for synchronizing at least two streams
US8194756B2 (en) * 2008-05-28 2012-06-05 Broadcom Corporation Using program clock references to assist in transport of video stream to wireless device
US8630316B2 (en) * 2008-06-19 2014-01-14 Microsoft Corporation Clock synchronization using correlation events
US8639830B2 (en) * 2008-07-22 2014-01-28 Control4 Corporation System and method for streaming audio
JP5083097B2 (ja) * 2008-07-30 2012-11-28 日本電気株式会社 ジッターバッファ制御方法と通信装置
US8141115B2 (en) * 2008-12-17 2012-03-20 At&T Labs, Inc. Systems and methods for multiple media coordination
WO2010104020A1 (ja) * 2009-03-10 2010-09-16 日本電気株式会社 遅延量割り当て手段、遅延量割り当て方法及び遅延量割り当て手段の制御プログラムを記録したコンピュータ読み取り可能な記録媒体
US20120036277A1 (en) * 2009-03-16 2012-02-09 Nederlandse Organisatie Voor Toegepast-Natuurwetenschappelijk Onderzoek Tno Modified Stream Synchronization
US8732749B2 (en) 2009-04-16 2014-05-20 Guest Tek Interactive Entertainment Ltd. Virtual desktop services
KR101629312B1 (ko) * 2009-06-09 2016-06-21 엘지전자 주식회사 메시지 교환 방법 및 싱크 디바이스
US8780778B2 (en) * 2009-07-21 2014-07-15 Lemi Technology, Llc System and method for providing synchronized broadcast and simulcast of media content
US8526985B2 (en) * 2009-11-30 2013-09-03 Alcatel Lucent System and method of geo-concentrated video detection
TW201123793A (en) * 2009-12-31 2011-07-01 Ralink Technology Corp Communication apparatus and interfacing method for I/O control interface
US9229734B2 (en) 2010-01-15 2016-01-05 Guest Tek Interactive Entertainment Ltd. Hospitality media system employing virtual user interfaces
CN102202386B (zh) * 2010-03-24 2014-05-07 华为技术有限公司 一种时钟同步的方法、装置和系统
CA2714227C (en) 2010-06-18 2011-10-25 Guest Tek Interactive Entertainment Ltd. User-profile server for providing user-tailored entertainment experience across different entertainment devices and method thereof
US9003455B2 (en) 2010-07-30 2015-04-07 Guest Tek Interactive Entertainment Ltd. Hospitality media system employing virtual set top boxes
US8392498B2 (en) * 2010-10-08 2013-03-05 Lumi Technologies Limited Distribution of content and behavior to disparate platforms
WO2012048928A1 (en) * 2010-10-15 2012-04-19 Cinemo Gmbh Distributed playback architecture
CN101986590A (zh) * 2010-11-03 2011-03-16 烟台持久钟表集团有限公司 子钟同步时间精确性检测装置及检测方法
US10477158B2 (en) 2010-11-05 2019-11-12 Razberi Technologies, Inc. System and method for a security system
US8922658B2 (en) * 2010-11-05 2014-12-30 Tom Galvin Network video recorder system
US9860490B2 (en) 2010-11-05 2018-01-02 Tom Galvin Network video recorder system
US11082665B2 (en) 2010-11-05 2021-08-03 Razberi Secure Technologies, Llc System and method for a security system
US10157526B2 (en) 2010-11-05 2018-12-18 Razberi Technologies, Inc. System and method for a security system
CN102547798B (zh) * 2010-12-22 2014-08-06 中国移动通信集团浙江有限公司 一种提高无线网络响应速度的方法和系统
US8867984B2 (en) * 2011-01-19 2014-10-21 Alcatel Lucent Interference coordination for communication network
EP2533547A1 (en) * 2011-06-10 2012-12-12 Koninklijke KPN N.V. Method and system for providing a synchronised user experience from multiple modules
CN103999455B (zh) * 2011-12-16 2018-02-06 英特尔公司 协作交叉平台视频捕捉
US9697159B2 (en) * 2011-12-27 2017-07-04 Intel Corporation Multi-protocol I/O interconnect time synchronization
US8751757B1 (en) * 2011-12-30 2014-06-10 Emc Corporation Acquisition and kernel memory storage of I/O metrics
US9137281B2 (en) 2012-06-22 2015-09-15 Guest Tek Interactive Entertainment Ltd. Dynamically enabling guest device supporting network-based media sharing protocol to share media content over local area computer network of lodging establishment with subset of in-room media devices connected thereto
US9787523B2 (en) * 2012-07-05 2017-10-10 Eric Lazarus Managing data in a data queue including synchronization of media on multiple devices
US9318043B2 (en) 2012-07-09 2016-04-19 Mobbers, Inc. Systems and methods for coordinating portable display devices
JP6354197B2 (ja) 2013-03-15 2018-07-11 株式会社リコー 配信制御システム、配信制御方法、及びプログラム
US9131509B2 (en) * 2013-04-05 2015-09-08 Cambium Networks Limited Mechanism for group polling without precise timing
US20140301375A1 (en) * 2013-04-05 2014-10-09 Ashraf Nusairat Timing advance method for synchronized wifi network
US10755003B2 (en) * 2013-11-08 2020-08-25 Rockwell Automation Technologies, Inc. Time synchronization of signal transmission intervals for simulating a machine in industrial automation
JP2015159381A (ja) * 2014-02-21 2015-09-03 ソニー株式会社 情報処理装置、データ生成装置、情報処理方法、および情報処理システム
CA2844724A1 (en) 2014-03-04 2015-09-04 Guest Tek Interactive Entertainment Ltd. Leveraging push notification capabilities of mobile app to send event-triggered invitations to upgrade service offered by hospitality establishment
US20160072601A1 (en) * 2014-09-10 2016-03-10 Silicon Image, Inc. Enhanced Communication Link Using Synchronization Signal as Link Command
CN105898541B (zh) * 2014-11-12 2019-11-26 恩智浦美国有限公司 降低多媒体系统中等待时间的方法和装置
US11044386B1 (en) 2014-12-18 2021-06-22 The Directv Group, Inc. Method and system for synchronizing playback of independent audio and video streams through a network
US20170006331A1 (en) * 2015-06-30 2017-01-05 Stmicroelectronics International N.V. Synchronized rendering of split multimedia content on network clients
DE102015212218A1 (de) * 2015-06-30 2017-01-05 Robert Bosch Gmbh Dezentral synchronisiertes Multisensorsystem
US10454982B1 (en) * 2016-03-18 2019-10-22 Audio Fusion Systems, Inc. Monitor mixing system that distributes real-time multichannel audio over a wireless digital network
EP3440839A4 (en) 2016-04-06 2019-08-28 Charles R. Tudor VIDEO BROADCAST VIA SELECTED VIDEO HOSTS
US10129166B2 (en) 2016-06-21 2018-11-13 Intel Corporation Low latency re-timer
CN106130859A (zh) * 2016-06-23 2016-11-16 北京东土科技股份有限公司 一种工业互联网现场层宽带总线配置管理实现方法
SE541208C2 (en) * 2016-07-04 2019-04-30 Znipe Esports AB Methods and nodes for synchronized streaming of a first and a second data stream
CN107801103B (zh) * 2016-08-29 2020-04-03 上海交通大学 异构网络下基于网络状况的多媒体资源自适应同步方法
KR101853441B1 (ko) * 2016-09-23 2018-05-02 재단법인 실감교류인체감응솔루션연구단 클라이언트 장치 및 그 로컬 클럭 스큐 보정 방법
EP3526651A4 (en) 2016-10-17 2020-04-29 Zomojo Pty Ltd PRECISE TIME STAMP PROCESS AND SYSTEM
US10892833B2 (en) 2016-12-09 2021-01-12 Arris Enterprises Llc Calibration device, method and program for achieving synchronization between audio and video data when using Bluetooth audio devices
GB201703796D0 (en) * 2017-03-09 2017-04-26 Decawave Ltd Remote signal synchronization
WO2019164361A1 (ko) * 2018-02-23 2019-08-29 스타십벤딩머신 주식회사 스트리밍 장치 및 스트리밍 방법
WO2020201950A1 (en) 2019-04-01 2020-10-08 Zomojo Pty Ltd A method and apparatus for network time syncing
US11804921B2 (en) 2019-06-25 2023-10-31 Cisco Technology, Inc. Method and apparatus for high precision time stamping
KR102518285B1 (ko) 2021-04-05 2023-04-06 에스케이하이닉스 주식회사 PCIe 인터페이스 및 인터페이스 시스템
US11546128B2 (en) 2020-06-16 2023-01-03 SK Hynix Inc. Device and computing system including the device
KR102519480B1 (ko) 2021-04-01 2023-04-10 에스케이하이닉스 주식회사 PCIe 장치 및 이를 포함하는 컴퓨팅 시스템
KR102415309B1 (ko) * 2020-06-16 2022-07-01 에스케이하이닉스 주식회사 인터페이스 장치 및 그 동작 방법
US11317252B2 (en) 2020-07-30 2022-04-26 Motorola Solutions, Inc. Echo avoidance in large volume system-wide calls

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104796A (ja) * 2002-09-06 2004-04-02 Sony Internatl Europ Gmbh メディアデータパケットの同期再生
JP2005079932A (ja) * 2003-09-01 2005-03-24 Yokogawa Electric Corp 遅延揺らぎ測定方法及びこれを用いた装置
JP2006197399A (ja) * 2005-01-14 2006-07-27 Sharp Corp タイミングの検出装置、表示装置、タイミングの検出プログラム、タイミングの検出プログラムを記録したコンピュータ読取可能な記録媒体
JP2006237918A (ja) * 2005-02-24 2006-09-07 Sony Corp 情報処理システム、再生端末装置および再生方法、情報処理装置および方法、並びにプログラム
JP2006244060A (ja) * 2005-03-02 2006-09-14 Mitsubishi Electric Corp コンテンツ配信装置、コンテンツ提示用端末及びリクエスト用端末並びにコンテンツ同期配信プログラム
JP2007013705A (ja) * 2005-06-30 2007-01-18 Sony Corp 同時再生システム、情報処理装置、途中参加方法及び途中参加プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2748623B1 (fr) * 1996-05-09 1998-11-27 Thomson Multimedia Sa Encodeur a debit variable
US7444419B2 (en) * 2003-10-10 2008-10-28 Microsoft Corporation Media stream scheduling for hiccup-free fast-channel-change in the presence of network chokepoints
KR100837720B1 (ko) 2005-05-26 2008-06-13 한국전자통신연구원 디지털 멀티미디어 방송에서 비디오 서비스와 동기화된 데이터 서비스를 제공하는 방법 및 그 장치와 데이터 서비스의 실행 방법
EP1943795A2 (en) * 2005-10-06 2008-07-16 Aviom, Inc. Methods and systems for jitter management and latency compensation in a packet-based system
US8700791B2 (en) * 2005-10-19 2014-04-15 Immersion Corporation Synchronization of haptic effect data in a media transport stream
KR100801002B1 (ko) * 2006-06-05 2008-02-11 삼성전자주식회사 무선 네트워크 상에서 멀티미디어 데이터를 전송/재생하는방법, 및 그 방법을 이용한 무선 기기
US7962637B2 (en) * 2006-11-03 2011-06-14 Apple Computer, Inc. Dynamic adjustments of video streams
US7827479B2 (en) * 2007-01-03 2010-11-02 Kali Damon K I System and methods for synchronized media playback between electronic devices

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104796A (ja) * 2002-09-06 2004-04-02 Sony Internatl Europ Gmbh メディアデータパケットの同期再生
JP2005079932A (ja) * 2003-09-01 2005-03-24 Yokogawa Electric Corp 遅延揺らぎ測定方法及びこれを用いた装置
JP2006197399A (ja) * 2005-01-14 2006-07-27 Sharp Corp タイミングの検出装置、表示装置、タイミングの検出プログラム、タイミングの検出プログラムを記録したコンピュータ読取可能な記録媒体
JP2006237918A (ja) * 2005-02-24 2006-09-07 Sony Corp 情報処理システム、再生端末装置および再生方法、情報処理装置および方法、並びにプログラム
JP2006244060A (ja) * 2005-03-02 2006-09-14 Mitsubishi Electric Corp コンテンツ配信装置、コンテンツ提示用端末及びリクエスト用端末並びにコンテンツ同期配信プログラム
JP2007013705A (ja) * 2005-06-30 2007-01-18 Sony Corp 同時再生システム、情報処理装置、途中参加方法及び途中参加プログラム

Also Published As

Publication number Publication date
KR20100063749A (ko) 2010-06-11
CN101809906A (zh) 2010-08-18
WO2009029339A1 (en) 2009-03-05
TWI371194B (en) 2012-08-21
KR101548619B1 (ko) 2015-08-31
JP5624468B2 (ja) 2014-11-12
US20090059962A1 (en) 2009-03-05
EP2186230B1 (en) 2014-09-03
EP2186230A1 (en) 2010-05-19
TW200910844A (en) 2009-03-01
US7936790B2 (en) 2011-05-03
CN101809906B (zh) 2014-02-19

Similar Documents

Publication Publication Date Title
JP5624468B2 (ja) 相互接続ネットワークにおける関連データストリームの同期
EP2328349B1 (en) Information processing system and information processing device
US10728394B1 (en) Dynamic locale based aggregation of full duplex media streams
US9479584B2 (en) Synchronous media rendering of demuxed media components across multiple devices
CN103200098B (zh) 确保共享数据的实体的物理位置
US20080259966A1 (en) Synchronization of one or more source RTP streams at multiple receiver destinations
JP5854243B2 (ja) Ipビデオ信号同期のための方法及び装置
US9621682B2 (en) Reduced latency media distribution system
WO2018049867A1 (zh) 对内容进行同步操作的方法及装置
EP1715612B1 (en) Transmitting apparatus, relaying apparatus, receiving apparatus and network system including these apparatus
US9635082B2 (en) Method of saving content to a file on a server and corresponding device
EP2695389B1 (en) Processing media streams for synchronised output at multiple end points
KR20150146116A (ko) 이종망 기반 방송 서비스를 제공하는 방법 및 장치
JP5262675B2 (ja) 映像配信システムおよびユニキャスト型多地点映像配信方法
JP2009081654A (ja) ストリーム同期再生システム及び方法
JP2013066088A (ja) ネットワークシステム、ネットワーク機器および配信方法
JP2003179662A (ja) データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
JP2008085500A (ja) 受信機、送信機及び同期制御方法
KR101920051B1 (ko) Mmt 복합 전달 서비스에서 mmt 패킷 스트림 동기화를 위한 타이밍 정보 제공 방법 및 mmt 패킷 스트림 동기화 방법
JP2009077108A (ja) 受信装置、受信方法およびコンピュータプログラム
JP2014533031A (ja) ネットワーク内の遅延を正確に推定するためのサービス、システムおよび方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110707

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140203

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20140320

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140320

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140421

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140428

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140514

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140521

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140630

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140926

R150 Certificate of patent or registration of utility model

Ref document number: 5624468

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250