JP5284534B2 - 変更されたストリーム同期 - Google Patents

変更されたストリーム同期 Download PDF

Info

Publication number
JP5284534B2
JP5284534B2 JP2012500223A JP2012500223A JP5284534B2 JP 5284534 B2 JP5284534 B2 JP 5284534B2 JP 2012500223 A JP2012500223 A JP 2012500223A JP 2012500223 A JP2012500223 A JP 2012500223A JP 5284534 B2 JP5284534 B2 JP 5284534B2
Authority
JP
Japan
Prior art keywords
synchronization
stream
information
arrival time
media stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012500223A
Other languages
English (en)
Other versions
JP2012520648A (ja
Inventor
マールテン ストッキング,ハンス
アーサー ヴァルラベン,ファビアン
オスカー バンデベンター,マティイス
アジズ ニアム,オマル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nederlandse Organisatie voor Toegepast Natuurwetenschappelijk Onderzoek TNO
Original Assignee
Nederlandse Organisatie voor Toegepast Natuurwetenschappelijk Onderzoek TNO
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nederlandse Organisatie voor Toegepast Natuurwetenschappelijk Onderzoek TNO filed Critical Nederlandse Organisatie voor Toegepast Natuurwetenschappelijk Onderzoek TNO
Publication of JP2012520648A publication Critical patent/JP2012520648A/ja
Application granted granted Critical
Publication of JP5284534B2 publication Critical patent/JP5284534B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/24Systems for the transmission of television signals using pulse code modulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/765Media network packet handling intermediate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L7/00Arrangements for synchronising receiver with transmitter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234309Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4 or from Quicktime to Realvideo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234318Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23608Remultiplexing multiplex streams, e.g. involving modifying time stamps or remapping the packet identifiers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2381Adapting the multiplex stream to a specific network, e.g. an Internet Protocol [IP] network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/242Synchronization processes, e.g. processing of PCR [Program Clock References]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341Demultiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/64322IP
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/6437Real-time Transport Protocol [RTP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Description

本発明は、関連するストリームの送信先間同期の方法およびシステムに関する。本発明はさらに、そのようなシステムにおいて使用する同期ユニット、同期点、到達時刻情報調整モジュールおよびデータ構造、およびそのような方法を使用するコンピュータプログラム製品に関する。
ボイスオーバーIP(VoIP)およびインターネットプロトコルテレビジョン(IPTV)などの新しいマルチメディア技術が、あらゆる範囲で新しいマルチメディアサービスを生み出す。これらのサービスの1つのタイプは、ユーザのグループが、同じテレビチャンネルを別々に見て、テキスト、音声、および/またはビデオを用いて互いに通信することを可能にする。これらのサービスの他のタイプは、対話型テレビジョン経験を提供する。例えば、テレビジョンのクイズ放送で、放送された問題に視聴者が家庭で答えを入力し、番組に参加することなどである。そのようなサービスは、端末の出力信号がグループ内のすべてのユーザに同時に送信されることを必要とする。言い換えれば、グループにおけるディスプレイまたはプレイアウト装置、例えばテレビジョン、PDA、モバイル装置、PCまたはそれらの組み合わせの、異なる送信先に対応する出力は、同期すべきであるということである。
IPTVシステムにおいては、TVチャンネル信号は典型的には、ヘッドエンド、エッジルータなどのネットワークノードおよびそのようなサービスの加入者の端末へのアクセスノードを介したオペレータの高帯域幅IPネットワーク上を1つ以上のパケット化されたストリームとして送信される。そのようなストリームの送信の間、パケットは、送信の遅延、ネットワークルートの相違、およびコード化ならびにコード解除の遅延の相違などの、ネットワークにおける未知の遅延を被る。結果として、第1の端末(第1の送信先)で受信された音声および映像ストリームのパケットと、別の第2の端末(第2の送信先)で受信されたそれらとの間の時間的な関係が乱されるであろう。
IPTVコンテンツを端末にストリーミングするためには、通常はリアルタイムトランスポートプロトコル(RTP)が用いられる。RTPはシーケンスの番号付けおよびタイムスタンプ作成を提供する。RTPを用いることで、同じ最終端末で終端する関連ストリームの間(ストリーム間同期)の、または、異なる最終端末で終端する関連ストリームの間(グループ同期または送信先間同期)の、1つのストリーム内の時間的な関係(ストリーム内同期)が回復する。F.Boronatらによる論文「マルチメディアグループおよびストリーム間同期技術:比較研究(Multimedia group and inter−stream synchronization techniques:A comparative study)」(Elsevier Information Systems 34(2009)108〜131ページ)は、知られている送信先間同期技術の総合的な概観を提供し、それは3つの主要なカテゴリに分けることができる。
「同期マエストロスキーム(Synchronization Maestro Scheme)」(SMS)においては、中央の同期マスターがグループ内のすべての端末からタイミング情報を集め、制御パケットを端末に配信することによって出力タイミングを調整する。「マスター−スレーブ受信器スキーム(Master−Slave Receiver Scheme)」(MSRS)においては、受信器(端末)はマスター受信器とスレーブ受信器に分類される。マスター受信器はその出力タイミングをスレーブ受信器にマルチキャストし、スレーブ受信器はそれに従ってスレーブ受信器のパケットの出力タイミングを調整する。「配信制御スキーム(Distributed Control Scheme」(DCS)においては、各端末(受信器)はグループ内のすべての他の端末にすべてのタイミング情報をマルチキャストし、端末は正確な出力タイミングを計算するように構成される。これらのスキームは、メディアストリームの発信元または受信器端末のいずれかで同期が発生するという点で共通する。
同時に係属する欧州特許出願には、発信元と受信器の間のストリームの通路に沿ったどこかでネットワークノードが同期化される、さらなる送信先間同期スキームが記載される。この方法は特に、オペレータネットワークにストリーム送信先を接続するアクセス回線における相違に由来するストリーム伝播時間の小さな相違を許容する、大規模な配置およびサービスに適している。
参考の送信先間同期技術の大部分は、端末におけるメディアストリーム受信におけるタイミング情報(例えば、RTPタイムスタンプ、特定のある時刻において受信されたRTPメディアストリームのRTPシーケンスナンバ、トランスポートストリームにおける1つ以上の等価パラメータ)を利用する。異なる受信器のタイミング情報を比較することによって、適切なストリーム調整が計算されることができる。調整の例は、受信器側においてバッファを用いることによる、受信されたストリームのプレイアウト時刻の遅延であってもよい。
これらの知られている同期スキームに関連する1つの問題は、これらのスキームが、発信元と受信器の間のストリームがコンテンツ準備および/またはコンテンツ再生成の目的によって変更される状況を処理するようには設計されていないことである。
ストリームの変更は、多くの状況において必要でありうる、および/または有利でありうる。例えば、効率的な配信のためにメディアストリームを準備するために、メディアストリームはストリーム受信器またはアクセス線の、解像度の変更(例えば、HDからSDへの変更またはより低いビットレートへの変更)などの特定の要請に適応してもよい。そのような状況において、トランスレータまたはトランスコーダと呼ばれるストリーム変更ユニットがストリームの通路に配置されてもよい。変更されたトランスコーダ出力ストリームは、オリジナルの(変更されていない)入力ストリームと比較して異なるタイムスタンプ、シーケンスナンバ、または他のタイミング情報を有してもよい。
メディアストリームは特定の顧客の要求のためにカスタマイズされてもよい。画面外のボイス、サブタイトル、ピクチャインピクチャをメインコンテンツストリームに加える必要があってもよい。これは典型的には、ミクサと呼ばれるストリーム変更ユニットによって行われる。さらに、ネットワークドメインがクロスする場合は、ストリームは、再生器(re−generator)ユニットを用いて再生されてもよい。すべてのこれらのコンテンツ準備および再生スキームは、ストリームにおけるタイミング情報を変化させ、それによって知られている送信先間同期スキームを、信頼できないものに、または使用不可能なものにさえする。したがって、従来技術においては、変更されたストリームと変更されていないストリームの間の、または2つの異なって変更されたストリームの間の、送信先間同期を可能にする方法およびシステムが必要となる。
従来技術において知られている同期スキームの欠点の少なくとも1つを低減するか取り除くこと、および、入力ストリームとして第1のストリームを使用するメディアストリーム変更ユニットの出力ストリームが第2のストリームであるかもしれない、少なくとも前記第1のおよび前記第2のストリームの送信先間同期の方法を提供することが本発明の目的である。方法は以下のステップを含んでもよい。第1の同期ポイントに到達する第1のストリームにおけるパケットの第1の到達時刻情報と、第2の同期ポイントに到達する第2のストリームにおけるパケットの第2の到達時刻情報と、を提供すること。前記入力ストリームおよび前記出力ストリームの間の同期関係に関する同期相関情報を提供すること。および、前記第1のおよび前記第2の到達時刻情報および前記同期相関情報に基づいて、遅延情報を計算すること。さらなる実施形態において、方法はさらに、少なくとも前記第1のまたは前記第2の同期ポイントに前記遅延情報を提供し、前記第1のおよび前記第2の同期ポイントによってそれぞれ出力される前記第1のおよび前記第2のストリームが実質的に同期するように、少なくとも前記第1のおよび前記第2の同期ポイントがストリームの出力を遅延させることを可能にする、ステップを含んでもよい。
同期相関情報を提供することによって、異なる機種環境の視聴者の集合、異なる端末を用いる視聴者の集合、および/または異なるサービス要求を有する視聴者の集合に向けられた関連するストリームが、なおも同期することができる。本発明はしたがって、異なる機種環境のネットワークにおける視聴者のグループが、同期された方式でメディアストリームを見ることを可能にする。
この文脈において、到達時刻とは通常、同期ポイントがメディアストリームのある部分を受信する時刻である。本発明の文脈において、当業者には、パケットが完全に到達する時間がここで用いられる必要がないことが理解される。到達時刻情報として用いられる現実の時刻はわずかに変化し、それは同期ポイントが到達時刻を決定するために用いる正確なポイントに依存する。この時刻は、例えばジッタバッファにパケットを配置する前の、到達時を直接用いてもよい。しかしながら、メディアパケットを取り扱う過程における遅れたポイント内にあってもよく、例えばコード解除過程の直前またはトランスレーション過程の直前などにあってもよい。メディアコンテンツのそのある特定の部分の現実の提示の前に、同期ポイントは、メディアパケットを処理するために必要な時間を知っていてもよく、到達時刻情報として現実の提示時間を使用してもよい。
一実施形態では、前記第1のおよび第2のストリームは少なくとも第1のおよび第2の同期ポイントによって出力され、前記同期ポイントは前記同期ポイントを同期させるために少なくとも1つの同期ユニットに接続される。
他の実施形態では、遅延情報を計算する前記ステップは、第1の到達時刻情報と第2の到達時刻情報の間の共通のタイムラインを達成するように、第1のおよび/または第2の到達時刻情報を調整する調整ステップを有してもよい。前記調整ステップは、同期相関情報の少なくとも一部に基づいてもよい。
一実施形態では、前記調整ステップは到達時刻情報調整モジュールによって実行され、前記モジュールは同期ユニットの一部であり、前記同期ユニットは同期相関情報を提供される。
他の実施形態では、前記調整ステップは同期ポイントにおいて実行されてもよく、前記同期ポイントは到達時刻情報調整モジュールを有してもよい。そのような到達時刻情報調整モジュールは同期相関情報の少なくとも一部を提供されてもよく、同期ユニットは調整された第2の到達時刻情報を提供される。
さらに他の実施形態では、調整ステップはネットワーク要素において実施されてもよく、前記ネットワーク要素は到達時刻情報を受信するように構成されてもよい。ネットワーク要素は到達時刻情報調整モジュールをさらに有してもよく、到達時刻情報調整モジュールは、同期相関情報の少なくとも一部を提供され、同期ユニットは調整された第2の到達時刻情報を提供される。
一実施形態では、前記同期ポイントは端末またはネットワークノードであってもよく、好ましくはアクセスノードであってもよい。さらなる変形例では、ストリーム変更ユニットはトランスレータまたはミクサであってもよく、同期ユニットは同期ポイントまたはサーバ内に含まれてもよい。
さらなる形態では、本発明は同期ユニットに関連してもよく、好ましくは、少なくとも、第1のメディアストリームを受信する第1の同期ポイントおよび第2のメディアストリームを受信する第2の同期ポイントの出力を同期させる同期サーバに関連してもよい。前記第2のストリームは、入力ストリームとして第1のストリームを用いるメディアストリーム変更ユニットの出力ストリームであってもよい。同期ユニットは、第1の同期ポイントに到達するストリームにおけるパケットの第1の到達時刻情報および、第2の同期ポイントに到達する第2のストリームにおけるパケットの第2の到達時刻情報を受信する手段、前記入力ストリームと前記出力ストリームの間の同期関係に関する同期相関情報を提供する手段、および、前記第1のおよび前記第2の到達時刻情報および前記同期相関情報に基づいて遅延情報を計算する手段を有してもよい。
他の実施形態では、同期ユニットは、受信されたストリームが実質的に同期するように、前記第1のおよび前記第2の同期ポイントにおける1つ以上の可変遅延ユニットが受信されたストリームの出力時間を遅延させることを可能にする遅延情報を、前記第1のおよび前記第2の同期ポイントに提供する手段を有してもよい。
さらなる形態では、本発明は少なくとも第1のおよび第2の同期ポイントの出力の送信先間同期システムに関してもよい。システムは、メディアストリームを配信するコンテンツ配信サーバ、入力メディアストリームを変更して、変更された出力メディアストリームにするように構成され、前記入力ストリームと前記出力ストリームの間の同期関係に関する同期相関情報を提供するように構成されたストリーム変更ユニット、および、上記の少なくとも1つの同期ユニットを含んでもよい。
さらなる形態では、本発明は上記システムにおいて使用する同期ポイントおよびメディアストリーム変更ユニットに関してもよい。さらに別の形態では、本発明は上記システムにおいて使用するデータ構造、好ましくはRTCP拡張報告データ構造に関してもよい。前記データ構造は、メディア同期ポイントに到達するストリームにおけるパケット、またはメディアストリーム変更ユニットに到達するストリームにおけるパケット、または前記変更ユニットによって送信されるストリームにおけるパケットに関連づけられた同期ステータス情報を信号化する前記システムによって使用される。また、前記データ構造は、前記データ構造の発信元を識別する識別子、少なくとも1つのタイムスタンプ、好ましくはRTPおよび/またはNTPタイムスタンプ、および/またはメディアストリーム相関識別子を少なくとも含み、前記データ構造は、前記同期ユニットが、前記システムにおけるメディア同期ポイントに関連するメディアストリームを同期させることを可能にする。
本発明はまた、コンピュータのメモリにおいて実行されるとき、上記の方法ステップにおいて記載されたような方法ステップを実行するように構成されたソフトウェアコード部分を含む、コンピュータプログラム製品にも関してよい。
本発明はさらに、本発明による実施形態を概略的に示す添付の図面を参照して記載される。本発明はこれらの特定の実施形態にいかなる意味でも制約されるものではないことが理解されるであろう。
複数のストリーム変更ユニットを含み、関連するストリームを異なる位置に配信することが可能な、異なる機種環境のネットワークトポロジの例示的な実施形態を示す図である。 本発明の一実施形態によるシステムを示す図である。 本発明によるシステムに関連するフロー図である。 本発明の他の実施形態によるシステムを示す図である。 本発明の一実施形態による送信先間同期スキームの実施例を示す図である。 本発明の一実施形態による例示的なRTCP拡張報告(RTCP eXtended Report)を示す図である。 本発明の他の実施形態によるメディアストリームを同期させるRTCPメッセージの使用を示す図である。
図1は、ネットワーク全体のユーザ装置にコンテンツを配信するためのマルチメディア配信システム100の例示的な実施形態を示す。ネットワークは異なる機種環境のトポロジを有し、複数のストリーム変更モジュールを含み、関連するストリームを異なる位置に配信することが可能である。この実施形態では、パケットを含むメディアストリームは複数のユーザ装置に配信され、メディアストリームは異なるユーザ装置に応じて異なる構成をとる。
本出願の文脈におけるパケットは、タイミング情報、例えばタイムスタンプに関連づけられたメディアストリームの1つ(すなわち1単位)である。そのようなパケットの一例は1つ以上のタイムスタンプを有するRTPパケットである。他の例は、1つ以上の表示タイムスタンプを含むトランスポートストリーム(TS)パケットなどのMPEGタイプパケットである。
タイミング情報を含む任意のメディアパケットフォーマットが同期目的のために用いられてもよいことを、当業者は理解する。タイミング情報はトランスポートコンテナ(トランスポートプロトコル)の部分であってもよく、それは標準的なものか専有のものかのいずれかの、コンテンツの搬送のために用いられる。代わりに、または加えて、それは実在のコンテンツの部分であってもよく、例えばコンテンツをコード化するためのコード化スキームにおいて用いられるタイミング情報であってもよい。
図1におけるマルチメディア配信システムはメディアストリーム生成器101を含む。それは例えば、1つ以上のネットワーク、例えばIPネットワークを介して、メディアストリームを異なるユーザ機器(UE)106−109に配信することが可能なサーバを含む。UEまたは端末はプレイアウト装置またはそれに接続された装置(例えばセットトップボックス)に関連してもよい。そのような装置には、例えば携帯電話、テレビジョンセット、IP電話、ゲーム操作盤、スマート計量装置などが挙げられてもよいが、該計量は、同期化されたストリームに応じた他の自動化された動作、例えば同期化された信号に応じた複数の計量装置の自動化された計量などであってもよい。
マルチメディア配信システムは様々なネットワーク要素を有してよく、該要素はメディアストリームにおけるタイミング情報が変更されるように、該メディアストリーム上である動作を実行する。そのようなネットワークエレメントは、以降では概してストリーム変更ユニットと呼ばれる。図1の実施形態では、システムは様々なストリーム変更ユニット、例えば第1のトランスコーダ102、第2のトランスコーダ103、およびミクサ104などを含む。サーバ105は代替のおよび/または追加の基本ストリーム105をミクサに配信してもよい。このサーバ105は、例えば代替の音声(異なる言語、監督のコメントまたはサラウンド音響)、代替のサブタイトル、または代替の映像(例えば、話し言葉を書き言葉に翻訳するサイナー(signer))を配信してもよい。
メディアサーバ101によって配信されるオリジナルのメディアストリーム110は、IP上のUDP上のRTPを用いてネットワーク中に搬送されるMPEG4コード化を伴うビデオオンデマンド(VoD)ストリームであってもよい。このオリジナルのメディアストリーム110は、MPEG2コード化のみをサポートするUE2 107の利益のためにMPEG2コード化されたストリーム内に、オリジナルのMPEG4コード化されたストリームをトランスコードする第1のトランスコーダ102によって、変更(すなわち、トランスコード)される。トランスコードされたメディアストリーム112は、IP上のUDP上のRTPを用いてUE2にさらに搬送される。
第2のトランスコーダ103はオリジナルのメディアストリーム110をトランスコードして、現実のコード化スキームが変化しないオリジナルのメディアストリームによって用いられるコンテナフォーマットとは異なるコンテナフォーマットを有する、変更されたメディアストリームにしてもよい。第2のトランスコーダ103は、UDP上で直接搬送されるMPEGトランスポートストリームを用いるUE3 108にネットワーク中でMPEG4にコード化されるメディアストリームを、例えば配信してもよい。さらに、ミクサ104は1つ以上の追加の基本ストリームをオリジナルのメディアストリームに追加してもよく、オリジナルのメディアストリーム内の1つ以上の基本メディアストリームを1つ以上の代替の基本ストリームに置き換えてもよい。これらの追加の、または代替の基本ストリームはIP上のUDP上のRTPを用いてサーバ105によって配信される。したがって、ミクサ104は、ミックスされたメディアストリーム114を、IP上のUDP上のRTP上のMPEGを用いて、UE4に配信する。
図1に記載のマルチメディア配信システムにおいて、オリジナルのメディアストリーム110は、タイミング情報を含むトランスポートプロトコルを使用してもよい。一実施形態では、RTPプロトコルはトランスポート機構として用いられてもよい。RTPは、メディアストリームを同期化するタイミング情報として用いられてもよいRTPタイムスタンプを用いる。
第1のトランスコーダ102はオリジナルのストリーム110をコード解除して、メディアを再コード化(例えばMPEG4からMPEG2に)してもよい。したがって、それは、UE2 107への送信の開始を示すランダムRTPタイムスタンプを用いて変更されたメディアストリームを送信するであろう。したがって、同じトランスポートプロトコル(IP上のUDP上のRTP)が用いられていても、出ていくメディアストリームのタイムスタンプは入ってくるメディアストリームのタイムスタンプとは異なる。
第2のトランスコーダ103はオリジナルのストリーム110をコード解除せず、異なるトランスポートコンテナを用いるUE3 108にメディアストリーム113を送信する。例えば、UDP上のMPEGトランスポートストリーム(TS)はコンテンツをUE3に送信するように用いられる。これらのMPEG TSパケットは、パケットが表示のために示されるべき瞬間を表示するための、いわゆるプレゼンテーションタイムスタンプ(PTS)の形態でタイミング情報を含んでもよい。たとえ、入ってくるメディアストリームと出ていくメディアストリームの間の現実のコード化が変化しないままであったとしても、これらのPTSはオリジナルのメディアストリーム110のRTPタイムスタンプとは異なる。
ミクサ104は、メディアストリーム111における1つ以上の基本ストリームをオリジナルのメディアストリーム110とミックスすることができる。その後、ミクサ104はミックスされたメディアストリーム114をネットワークを介してUE4 109に送信してもよい。ミクサが新しいメディアストリームを生成するとき、ミクサはこのストリームをUE4に送信する開始時刻として、無作為に生成された新しいRTPタイムスタンプを使用し、入力ストリーム110に用いられるコード化およびトランスポートスキームが、ミックスされた出力ストリーム114に用いられるコード化およびトランスポートスキームと同じである。
さらにいかなる測定もない場合は、UEにおけるプレイアウトの同期は不可能である。というのは、ネットワークにおけるコンテンツ変更ユニットはストリームにおけるタイミング情報を変化させ、発信元とUEのタイムスタンプを互いに一致させなくするためである。この理由は、メディアサーバ101、トランスコーダ102および103、およびミクサ104がそれぞれ開始時刻として無作為なタイムスタンプを選ぶためである。この同じ問題がミクサに存在する。ミクサは、オリジナルのメディアサーバ101と、他の発信元、すなわち追加のおよび代替の基本ストリーム105を有するメディアサーバの両方から、メディアストリームを受信する。上記の説明のとおり、これらのメディアストリームにおけるタイムスタンプは相関づけされない。
図2は、メディアストリームを同期させるための、第1の同期ポイント205および第2の同期ポイント208を有するマルチメディア配信システム200の概略図を示す。同期ポイントとは、同期情報(例えば到達時刻情報)が決定されるストリームの通路における(論理的または物理的な)ポイントである。同期ポイントはネットワークに接続されるかネットワーク内に組み込まれた任意の物理的装置に含まれてもよい。同期ポイントは、例えばネットワークノード、例えばアクセスノード(例えばデジタル加入者線アクセスマルチプレクサ(DSLAM)、ケーブルモデム終端システム(CMTS))、光アクセスノードまたはエッジルータまたはヘッドエンドなどに関連してもよい。代替として、同期ポイントがテレビジョン、パーソナルコンピュータ、ラップトップ、ネットブック、パーソナルデジタルアシスタント、またはメディアストリームを取り扱うことが可能な任意の他の装置に接続されたセットトップボックスとして形成されてもよい。
マルチメディア配信システムは、メディアストリーム発信源201、例えばビデオオンデマンドストリームまたはライブマルチキャストテレビジョン放送を配信する、例えばメディアサーバを含んでもよい。このメディア発信源201はオリジナルの第1のメディアストリーム212をネットワーク211を介して同期ポイントに送信してもよい。第1の同期ポイント205は、いかなる変更もないオリジナルのメディアストリーム212を受信してもよい。しかしながら、第2の同期ポイント208は、同じコンテンツであるが例えば異なるフォーマットであるコンテンツを有するストリームを受信してもよい。したがって、第2の同期ポイント208は、メディアストリーム変更ユニット202によって生成された、変更された第2のメディアストリーム213を受信する。メディアストリーム変更ユニット202は、オリジナルのメディアストリーム212を受信し、変更されたメディアストリーム213を生成する。
第1のおよび第2のストリーム同期ポイント205、208は、それぞれ第1のおよび第2のメディアストリーム212、213の間の送信先間同期(またはグループ同期)を提供するように構成されてもよい。この目的のために、メディアストリーム同期ポイントはメディア同期ユニット204、例えばメディア同期アプリケーションサーバ(MSAS)に接続される。第1のおよび第2のストリーム同期ポイント205、208は第1のおよび第2の同期クライアント207、210と、例えば変化可能な遅延バッファ206、209を含む第1のおよび第2の変化可能な遅延ユニットとを、それぞれ含んでよい。第1のおよび第2の同期クライアント207、210は、以下により詳細に説明されるように、MSAS204と同期情報を交換するように構成される。
メディアストリーム変更ユニット202は、メディアストリーム変更ユニットと関連づけられた第3の同期クライアントSC’203をさらに含んでもよい。同期クライアント207、210、203は、例えば信号化経路214を用いてMSAS204とメッセージを交換する。これらの信号化メッセージは、メディア配信において用いられる同じネットワーク211上で搬送されてもよい。代替として、メッセージは同様に他のネットワーク上で搬送されてもよい。以下の説明において、信号化経路214は同期参照ポイントとみなされる。
この例において、オリジナルのメディアストリーム212は、例えば、UDPプロトコルを用いてIPネットワーク上でRTPにおいて搬送されるビデオストリームに関連することができる。その場合には、オリジナルのメディアストリーム212におけるRTPパケットはメディアストリーム発信元201によって生成されるRTPタイムスタンプおよびRTPプロトコルにおいて定義された同期発信元(SSRC)識別子を含むことができる。
変更されたストリーム213は、オリジナルのメディアストリーム212と同じコンテンツであるがメディアストリーム変更ユニット202によって変更されているコンテンツを有してもよい。変更は、図1を参照にした上記のような変更動作であってもよく、例えば、オリジナルのストリームが高帯域幅高解像度(HD)ストリームであってもよく、変更されたストリームが低帯域幅標準解像度(SD)であってもよい。他の変更は、例えば、ネットワーク内の1つ以上のストリーム同期ポイントによってサポートされるデジタル権利管理(DRM)システムに関連する暗号化スキームの適用であってもよい。この変更は再発信(re−origination)に関してもよい。再発信は、メディアストリームがネットワークの境界を超えた場合、例えば、IPTVプロバイダが1つ以上のプライベートIPTVネットワークと同様にインターネット上で有効なメディアストリームを提供することを欲した場合に提供される。他の変更は、ミックスに基づく変更を含んでもよい。それは例えば、ビデオストリームにおいて手話を実行する人を含めること、あるいは、異なるメディアコンテナにおいてストリームを再送信すること、例えば、RTPを用いるかわりにMPEGトランスポートストリーム(TS)を用いることである。
変更されたメディアストリーム213におけるRTPパケットは、オリジナルのメディアストリーム212におけるそれらと比較して異なるSSRC識別子と異なるRTPタイムスタンプを有してもよい。IETF RTC 3550によれば、SSRC識別子とRTPタイムスタンプはRTPパケットにおいて32ビットヘッダフィールドである。各メディアストリームにおいて、RTPタイムスタンプの開始時間は無作為に選択されるべきである。さらに、SSRCは無作為に選ばれた値であり、それはグローバルに一意的であることを意味している。知られている送信先間同期スキームにおいて、同期は各ストリーム同期ポイントへの信号化タイムスタンプ情報によって達成されることができる。しかしながら、第1のおよび第2のストリーム212、213におけるRTPタイムスタンプは異なるため、第1のおよび第2の同期ポイントにおけるメディアストリームの直接の同期は可能ではない。
マルチメディア配信システムにおいて、第1のおよび第2のストリーム同期ポイント205、208は、いわゆる同期ステータス情報をMSAS204に送信することができる。この同期ステータス情報は、メディアストリームに関連する識別情報(例えばSSRC識別子)、およびタイミング情報(例えば、パケットのプレイアウト時刻に関連づけられたRTPタイムスタンプおよびNTPタイムスタンプ)を有してもよい。
RTPタイムスタンプはRTPデータパケットにおける第1のオクテットのサンプリング例を示す。タイムスタンプの初期値は無作為な値である。RTPタイムスタンプはサンプリング期間をカウントするので、第2のRTPパケットが第1のRTPパケットの後に160のサンプルをスタートさせた場合、第2のRTPタイムスタンプは第1のRTPタイムスタンプよりも160大きい。
NTPタイムスタンプは絶対的な「壁掛け時計(wall clock)」時刻である。NTPは、IETF RFC 1305において定義されたような、1900年1月1日から始まる64ビットカウンタである。NTPによって用いられる64ビットタイムスタンプは、32ビットの整数秒部分と32ビットの小数点以下部分からなる。NTPタイムスタンプは、RTPタイムスタンプによって識別される第1のオクテットが、特定のポイント、すなわち同期ポイントを通過する絶対的な時間を表す。
この特定のポイントは、SCを含むユーザ機器(UE)のプレイアウトポイントであってもよく、NTPタイムスタンプは、特定のオクテットがユーザに示された時刻を表す。代替として、それは、SCが特定のオクテットを最初に受信する入来ポイントであってもよい。同様の方法で、SC’を同期化するために、この特定のポイントは出力ポイントまたは入力ポイントであってもよい。
第1のストリーム同期ポイントは、以下の第1の同期ステータス情報メッセージをMSASに送信することができる。
SSRC識別子=12345678
RTPタイムスタンプ=1556688423
NTPタイムスタンプ=13:42:21.000
同様に、第2のメディアストリーム同期ポイントが、以下の第2の同期ステータス情報メッセージをMSASに送信することができる。
SSRC識別子=90ABCDEF
RTPタイムスタンプ=1684654845
NTPタイムスタンプ=13:42:21.000
この例では、第1のおよび第2のストリーム同期ポイントからの情報は、同じNTPプレイアウト時刻、13:42:21.000に関連する。この例では、両方のメディアストリーム同期ポイントがNTP同期している、すなわち、ネットワークタイムプロトコルまたは何らかの他の手段を使用してそれらの時計は同期していると、考えられる。
上で説明したように、変更されたメディアストリームが同じコンテンツを搬送するが、メディアストリーム変更ユニット202が変更された出力ストリーム213においてタイミング情報を変更するので、同期は可能ではないことがある。同期を可能にするために、メディアストリーム変更ユニット202に関連する同期クライアントSC’は、メディアストリーム変更ユニットによって受信された、入ってくるメディアストリーム212と、メディアストリーム送信ユニットによって第2のメディアストリーム同期ポイントに送信される、出て行くメディアストリーム213と、の間の同期関係に基づく同期相関情報メッセージを送信してもよい。したがって、同期関係は第1のパケットにおける第1のタイミング情報と、第2のパケットにおける第2のタイミング情報に関しており、第1のおよび第2のパケットは同一のコンテンツまたはその一部を有し、前記第2のパケットはメディアストリーム変更ユニットによって変更されたストリームの一部であり、前記第1のパケットは前記変更を受ける前のメディアストリームの一部である。
第1の実施形態では、メディアストリーム変更ユニットは以下の情報をMSASに送信してもよい。
入ってくる:
SSRC識別子=12345678
RTPタイムスタンプ=1556688423
出ていく:
SSRC識別子=90ABCDEF
RTPタイムスタンプ=1684657845
この情報は、入ってくるSSRC識別子/RTPタイムスタンプの組と、出ていくSSRC識別子/RTPタイムスタンプの組と、の両方を含む。したがって、同期相関情報メッセージは、MSASに信号化されたSSRCおよび/またはRTPタイムスタンプを使用して、ストリーム変更ユニットの入力において受信された1つ以上のストリームと、ストリーム変更ユニットの出力において送信された1つ以上のストリームと、の相関を可能にすることができる。
一実施形態では、同期相関情報は1つのメッセージでMSASに送信されてもよい。他の実施形態では、同期相関情報は2つの別々のメッセージで送信されてもよい。別々のメッセージの使用は、入ってくるストリームまたは出ていくストリームのいずれかの同期パラメータが時間を通してあまり大きく変化しない場合には、これらのストリームに関連した同期情報の信号化が頻繁には必要ないため、有利である。同期情報の信号化に関するさらなる詳細は、図5〜図7を参照して以下に説明される。
MSAS204は、メディアストリーム同期ポイントおよび、メディアストリーム変更ユニットからの同期関係を含む同期相関情報メッセージの両方から、第1のおよび第2の同期ステータス情報メッセージを受信する。その後、MSAS204はこの情報を用いて、第1のおよび第2のメディアストリーム同期ポイントにおけるタイミング情報を計算する。
この計算は2つの計算ステップを含むことができる。第1のステップは、すべての同期ステータス情報を1つの時間軸(時間基準)に調整する計算に関する。第2のステップにおいては、現実の遅延情報が計算される。以下の例では、両方のRTPタイムスタンプがミリ秒スケールを示すと考える。そうでなければ、計算はこのことを反映するように調整されるべきである。第1のステップにおいては、すべての同期ステータス情報は1つの共通の時間軸、例えば、オリジナルのメディアストリーム212のRTPタイムスタンプに関連する時間軸に適合される。このステップはステータス情報変換ステップと呼ばれる。
13:42:21.000において、第1のメディアストリーム同期ポイント205はタイムスタンプ1556688423にある。この例では、第2のメディアストリーム同期ポイント208によって提供されたタイムスタンプはオリジナルのメディアストリーム212に関連する時間軸に調整される。他の変形例では、変更されたストリームに関連する時間軸に基づいて同期ステータス情報を調整すること、または両方のストリームの時間軸を新しい(第3の)時間軸に調整することが可能であってもよい。第3の時間軸の例は、各メディアストリームがタイムスタンプ0で開始して、各ストリームから無作為に選ばれた第1のタイムスタンプが0への調整を必要とするような状況に関連してもよい。
第2のメディア同期ポイント208から受信された同期ステータス情報を調整するために、以下の情報が用いられる。
−値1684654845を有する調整されたストリームの同期ステータス情報におけるRTPタイムスタンプ
−変更されたストリームに関連するRTPタイムスタンプ値1684657845が、オリジナルのストリームに関連するRTPタイムスタンプ値1556688423に相関する。
タイムスタンプを調整するための計算は簡単な線形変換に関するものでよい。調整されたタイムスタンプ=conv_timestamp_org_stream+conv_timestamp_mod_stream−timestamp_mod_stream_current。したがって、13:42:21.000に、第2のメディアストリーム同期ポイント208は、調整されたタイムスタンプ1556688423+1684654845−1684657845=1556685423に関連するかもしれない。そのように、第2のメディアストリーム同期ポイント208から受信された同期ステータス情報は、第1のメディアストリーム同期ポイント205から受信された同期ステータス情報に関連する時間軸に調整されてもよい。
その後、遅延情報の計算が知られているスキームに従って実行されてもよい。例えば、遅延情報はメディアストリームを再生する際にいちばん遅れているクライアントに基づいて決定される。上記の例において両方のタイムスタンプが同じ時刻13:42:21.000に報告されているため、計算は双方のメディアストリーム同期ポイントの同期ステータス情報の単純な減算を含んでもよい。1556685423−1556688423=−3000。この結果は、第2のメディアストリーム同期ポイント208におけるメディアストリームが、第1のメディアストリーム同期ポイント205におけるメディアストリームから3秒遅れていることを示す。この時間差はメディアストリーム変更ユニット202において実行されたトランスコードプロセスに起因するかもしれない。報告された時刻(すなわちNTP時刻)がMSASによって受信された異なる同期ステータス情報メッセージにおいて異なる場合は、この時刻の相違は、遅延を決定するための計算において考慮されるべきである。
上記から、変更されたストリームは3秒遅れている(タイムスタンプの右から4桁目に示されているように)ということになる。別の実施形態では、調整されたメディアストリームの時間軸が用いられてもよい。1684657845ms−1684654845ms=3000ms。したがって、両方のメディアストリーム同期ポイントのメディアストリームを同期させるためには、MSASは第1の同期ポイント205に同期設定指示を送信して、プレイアウトを3秒遅らせてもよい。
図3は、図2を参照した上記の例におけるメッセージフロー図300における情報の交換を図示する。第1のステップ302において、第1の同期ポイントはメディアストリーム発信元からオリジナルのメディアストリームを受信し、第2の同期ポイントはメディアストリーム変更ユニットの出力から変更されたメディアストリームを受信し、メディアストリーム変更ユニットは入力信号としてメディアストリーム発信元からのオリジナルのメディアストリームを用いる。
第2のおよび第3のステップ304、306において、第1のおよび第2の同期ポイントはそれぞれ第1のおよび第2の同期ステータス情報メッセージをメディア同期アプリケーションサーバ(MSAS)に送信する。その後、第4のステップ308において、メディアストリーム同期ユニットは、入ってくるメディアストリームと出ていくメディアストリームの間の同期関係に基づく相関情報メッセージをMSASに送信する。したがって、MSASは第5のステップ310において、同期設定指示を計算して、送信先、すなわち第1のおよび第2の同期ポイントにこれらの指示を送信してもよい。
図2および図3を参照して記載された非限定的な例は、1つのメディアストリーム変更ユニットおよび2つの同期ポイントを用いる送信先間同期スキームを示す。さらなる変形例では、そのようなスキームは2つ以上のストリーム変更ユニットと共に、および/または2つ以上のメディア同期ポイントと共に用いられてもよい。ネットワーク上の信号化メッセージ(例えば同期ステータス情報メッセージ、異なるタイムスタンプを相関化する情報を含むメッセージ、同期設定指示)を搬送するために異なるプロトコルが用いられてもよい。これらのメッセージは例えばHTTP上でSOAPを用いるXMLフォーマット(W3C推奨)、SIPメッセージ(IETF RFC 3261)またはRTCPメッセージでMIMEメッセージボディにおけるXMLフォーマットまたはプレーンテキストにおいて搬送されてもよい。
図2および図3を参照して記載された例において、変更可能な遅延ユニットおよび同期ユニットはクライアントサーバタイプモデルにおいて実施され、そこでは、遅延ポイントにおける変更可能な遅延ユニットの機能は同期クライアント(SC)の一部として実施されてもよく、同期ユニットは同期サーバ(SYNCHSまたはメディア同期アプリケーションサーバ(MSAS))として実施されてもよい。同期クライアントは、同期ステータス情報が適切なプロトコルを用いて同期サーバ(同期ユニット)に送信可能となり、同期設定指示が同期サーバから受信可能となるプロトコルソケットを有してもよい。
同期ステータス情報はストリーム受信に基づいたタイミング情報(すなわち、第1の同期ポイントに到達するストリームにおけるパケットの到達時間)を含んでもよく、現在の遅延設定を含んでもよい。したがって、同期ステータス情報は、ストリームにおけるパケットが同期ポイントによって受信される時間においてポイントを考慮する情報を含んでもよい。同期設定指示は、例えば実際に計算された遅延を用いて変更可能な遅延バッファを設定することについての指示を含んでもよい。
同期設定指示および遅延指示という用語は、本発明の目的のために同じ意味で用いられており、あるメディアストリームの実際の遅延時刻を含んでもよい。好ましくは、これらの遅延指示は所定の継続時間だけメディアストリームを遅延させることに関する正の時間値を含んでもよい。代替として、遅延指示はメディアストリームのプレイアウトまたは出力を速めることに関する負の時間値を含んでもよい。ある同期ポイントが大きなバッファを有し、知られている測定を用いてバッファリング時刻を減少させることによって遅延を短縮することを可能にする場合が、これにあてはまるかもしれない。
図4は、ETSI TS 182 027 version 2.0.0で特定されるIMSに基づいたIPTVシステム400として実施される本発明による例示的なコンテンツ配信システムを示す。IPTVシステム400はIPTVメディア機能(MF)401からなり、メディア制御機能(MCF)402およびメディア配信機能(MDF)403を含む。さらに、IPTVシステム400は搬送機能(TF)404、ユーザ機器(UE)405、IPTVサービス制御機能(SCF)406、個別のアプリケーションサーバ(AS)407およびコアIMSネットワーク(Core)408を含む。同期クライアント(SC)409はUE405の部分であってもよく、搬送機能404の部分であってもよい。同期方法の部分として、ユーザ機器がストリームをバッファ可能であるならば、SCはユーザ機器において実施されてもよい。SCは、例えばユーザ機器がバッファ機能をサポートしていない場合に搬送ネットワークにおいて実装されてもよい。SCは少なくとも1つの変更可能な遅延バッファに関連しており、したがってSCがUE内で実装される場合、SCは1つ以上の関連する変更可能な遅延バッファ410を有してもよい。同様に、SCが搬送機能の一部として実施される場合は、搬送機能を含む要素は1つ以上の変更可能な遅延バッファ410を有してもよい。MSAS411の機能は、搬送機能またはメディア機能の部分として、標準IPTVサービス制御機能406に含まれてもよく、代替として、スタンドアローンなアプリケーションサーバ407上で実施されてもよい。メディアストリーム変更ユニット(MSMU)413はIPTVメディア機能401の一部であってもよい。MDF403は実際のトランスコードを実行することができ、MCF402は同期クライアント(SC’)412を含むことができる。
図5は、本発明の一実施形態による送信先間同期スキーム500の実施形態を示し、RTCP RTP制御プロトコル(RTCP)が、メディア配信システムにおける要素間で同期情報を搬送するために用いられる。システムは2つの同期クライアントSCa、SCb 502、504を含む。同期クライアントは第1のおよび第2のメディアストリーム512、514に関連づけられた信号同期ステータス情報をMSAS508に信号化するように設定されている。2つの同期クライアントは2つの異なるRTPメディアストリームを受信する2つのユーザ機器(UE)(図示せず)内にあり、該2つのメディアストリームは異なるサンプリングレートであってもよい。SCaによって受信された第1のメディアストリーム512は、メディアストリーム発信元(すなわちメディアサーバ)に関連したオリジナルのメディアストリームであってもよく、SCbによって受信された第2のメディアストリーム514は、変更されたメディアストリームであってもよい。第1のメディアストリームを第2のメディアストリームに変更する、メディアストリーム変更ユニット(トランスコーダ)502は、該第1のおよび第2のメディアストリームの間の同期関係をMSASに報告する特別な同期クライアントSC’510を含む。
システムはUE、メディアストリーム変更ユニットおよびメディアストリーム発信元の間のメディアセッションをセットアップするためにSIPを使用してもよい。SIP信号化によって搬送されたセッション記述プロトコル(SDP)が、各セッションにおけるメディア構成要素を記述およびネゴシエートするために用いられてもよい。セットアップの最中、UE(およびメディアストリーム変更ユニット)は、特定のUEが属する同期グループを識別するSyncGroupIdと関連づけられてもよい。
同期グループは、1つ以上の指定されたメディアストリームに関して同期されることが必要なUEのグループである。そのようなグループの例は、同期方法において互いに同じコンテンツオンデマンド(映画)を観ることを要求する、2つの異なる位置にある2つの異なるユーザに属する2つのUEであってもよい。
同期セッションを設定する詳細な説明のために、「Dynamic RTCP rely」という名称の、同時に係属する欧州特許出願が参照され、それは本出願への参照によって本明細書に組み込まれる。
さらに、UEおよびメディアストリーム変更ユニット、特にその中に位置する同期クライアントは、RTP制御プロトコル(RTCP)を用いて、同期情報をMSASに関連づけられたIPアドレスおよびポート番号に送信し、UEに関連づけられたRTCP受信器ポート上でMSASからのRTCP報告を受信してもよい。一実施形態では、同期クライアントは、RTCP拡張報告(RTCP XR)を用いたRTCP受信器報告(RTCP RR)において同期ステータス情報を含み、1つ以上のRTCPメッセージ内のその情報をMSASに送信することができる。
特に、同期クライアントは、同期ステータス情報を含む、特別にフォーマットされたRTCP拡張報告(RTCP XR)516、518を生成してもよい。この情報はNTPタイムスタンプと組み合わせられたRTPタイムスタンプの形式であってもよい。RTCP XRは発信元のSSRC、パケットで受信されたNTPタイムスタンプ、パケットで受信されたRTPタイムスタンプ(RTP受信タイムスタンプ)をさらに有してもよく、随意には、SyncGroupIdパラメータを有してもよい。さらに、RTCP XRは、XRにパケットで示されたNTPタイムスタンプ(NYP表示タイムスタンプ)を有してもよい。
SyncGroupIdパラメータはセッション記述プロトコル(SDP)セッションレベル属性、例えば、a=RTCP−xr:sync−group=<value>として、または、例えばIETF RFC 3550によるSDES PRIVアイテムの形式で実施されてもよい。さらなる実施形態では、IETF RFC 3611から知られるRTCP−xr属性フィールドが用いられてもよい。
メディアストリーム変更ユニットSC’に関連づけられた同期クライアントは、MSASに同期相関情報を報告する。UEに関連づけられた同期クライアントとは対照的に、SC’はトランスコーダの入力で1つ以上のメディアストリームに関連づけられたRTCP XRと、トランスコーダの出力で1つ以上のメディアストリームに関連づけられたRTCP XRを送信する。一般的に、同期相関情報520は2つのRTCP XRによって形成され、それは入力ストリームに関連づけられた第1のRTCP XR522および出力ストリーム(すなわち変更された入力ストリーム)に関連づけられた第2のRTCP XR524である。したがって、同期相関情報は、一方は入力ストリームに関連づけられもう一方は出力ストリームに関連づけられた2組のタイムスタンプ(RTP1,NTP1)および(RTP2,NTP2)を有してもよい。
MSASはさらに、同期設定指示を含むRTCP XRを同期クライアントSCa、SCbに送信してもよい。これらのRTCP XRは発信元のSSRC、パケットで受信された参照NTPタイムスタンプ、パケットで受信された参照RTPタイムスタンプ受領タイムスタンプを含んでもよい。RTCP XRはまた、パケットで示された参照NTPタイムスタンプをさらに有してもよい。これらのRTCP XRは共にRTCP送信者報告(SR)に追加されてもよく、UEによって別々に受信されてもよい。
同期設定はNTPタイムスタンプと組み合わせられたRTPタイムスタンプの形式であってもよく、ここでNTPタイムスタンプは、例えばSyncGroupIdによって識別されたとして同期グループによって分割されたクロックを示し、RTPタイムスタンプは期待される提示時刻を示す。
一実施形態において、同期クライアントはMSASと同一場所に配置されてもよい。この場合には、同期ステータス情報と同期設定指示の交換は、それらが存在するMSASの1つ以上の機能エンティティの内部で行われる。
別の実施形態において、同期は1つ以上のブロードキャストストリームの同期に関してもよい。この場合には、MSASは、RFC 3550においてより詳細に記載されたようにフィードバックターゲットとして機能することができる。RTCP受信器報告を転送する前に、MSASは同期ステータス情報を含むRTCP拡張報告を読み込んで削除してもよい。したがって、MSASはRTCP拡張報告を用いて同期設定指示を同期クライアントに送信してもよい。
コンテンツオンデマンドまたは他の単一キャストのストリームの同期の場合、MSASは1つ以上のUEに関連づけられたRTCP受信器報告を適切なメディア機能MFに転送してもよい。RTCP受信者報告を転送する前に、MSASはRTCP XRを読み込んで解析し、同期ステータス情報を含むそれらのRTCP拡張報告を削除してもよい。したがって、MSASは、RTCP送信者報告を適切な同期クライアントに転送して、RTCP拡張報告を使用してSCに同期設定指示を追加してもよい。MSASは別のRTCP XRを用いて同期クライアントに同期設定指示を送信してもよい。
図6は、本発明の一実施形態によるRTPメディアストリーム上の同期情報を報告する例示的なRTCP拡張報告を示す。同期RTCP XRにおける以下のフィールドが、本発明による同期スキームにおいて使用されてもよい。
−特定のRTCPパケットの送信者を識別するパケット送信者のSSRC。
−ブロックフォーマットを識別する8ビットのブロックタイプ(BT)フィールド。
−この特定の拡張報告のためのパケット送信者の役割を識別する、4ビットの同期パケット送信者タイプ(SPST)フィールド。
−パケット提示NTPタイムスタンプが値を有する場合には1に設定される、パケット提示NTPタイムスタンプフラグ(P)。このフラグが0に設定された場合は、パケット提示NTPタイムスタンプは検査されていないものとする。
−メディアペイロードのフォーマットを識別する、7ビットのペイロードタイプ(PT)フィールド。メディアペイロードは、RTPタイムスタンプカウンタにタイムベースを提供するRTPタイムスタンプクロック速度に関連づけられてもよい。
−同期されたメディアストリームを相関させる際に用いるメディアストリーム相関識別子(32ビット)。RTCPパケット送信者がSCまたはMSAS(SPST=1またはSPST=2)である場合、メディアストリーム相関識別子はSyncGroupId上にマッピングされる。RTCPパケット送信者がSC’(SPST=3またはSPST=4)である場合、入ってくるまたは出ていく関連のメディアストリームは同一のメディアストリーム相関識別子を有してもよい。
−メディア発信元のSSRC(32ビット)は、XRが関連するRTPパケットのRTPヘッダにおいて搬送されるSSRC識別子の値に設定されてもよい。
−パケット受信NTPタイムスタンプ(64ビット)は、XRが関連するRTPパケットの最初のオクテットの到達時刻を表してもよい。
−パケット受信RTPタイムスタンプ(32ビット)は、XRが関連するRTPパケットのRTPヘッダにおいて搬送されるRTPタイムスタンプの値に関連づけられる。
−パケット提示NTPタイムスタンプ(32ビット)は、関連づけられたRTPパケットの最初のオクテットを含むデータがユーザに提示された場合のNTPタイムを反映する。これはNTPの秒部分の最も重要でない16ビットと、NTPの秒の小数点以下部分の最も重要な16ビットを含む。このフィールドが空の場合は、このフィールドは0に設定されてもよく、パケット提示NTPタイムスタンプフラグ(P)は0に設定されてもよい。
表1は、同期パケット送信者タイプ(SPST)フィールドに関連づけられ
た値を示す。
Figure 0005284534
図6を参照して記載されたように、特別にフォーマットされたRTCP拡張報告を用いると、ネットワークまたは1つ以上のUEのクライアントとMSASの間の同期情報は効率的に信号化されることができる。例えば図5に記載されたシステムにおいて、UEに関連づけられた同期クライアントSCa、SCb 504、506およびメディアストリーム変更ユニットに関連づけられた同期クライアントSC’510は、RTCP XRを用いてMSASに同期情報(すなわち、同期ステータス情報または同期相関情報)を報告することができる。表2はこの情報の例を提供する。
Figure 0005284534
メディアストリームはその同期発信元(SSRC識別子)によって識別されることができる。すなわち、SSRCa=SSRC1であり、SSRCb=SSRC2である。このようにして、MSASは、SCaが第1のメディアストリームを受信してSCbが第2のメディアストリームを受信することを導き出すことができる。さらに、各メディアストリームは、Hz(すなわち、秒あたりのクロック刻み数)で表すことができる特定のクロック速度に関連してもよい。すなわち、CRa=CR1であり、CRb=CR2である。典型的なクロック速度は、音声に関しては毎秒8000〜96000サンプルの範囲にあり、映像に関しては毎秒90.000サンプルである。
一実施形態では、クロック速度はMSASに信号化されてもよい。別の実施形態では、速度は一定であってもよい。さらに別の実施形態では、クロック速度の代わりにペイロードタイプがMSASに信号化されてもよい。ペイロードタイプは、例えばIETF RFC 3551に記載されたスキームを用いて、クロック速度をマッピングしてもよい。MSASに報告された情報は、RTPタイムスタンプとNTPタイムスタンプの両方をさらに含んでもよい。
SC’は、各メディアストリームにつき1つの、2組のタイムスタンプ(RTP1、NTP1)および(RTP2、NTP2)をMSASに報告する。NTP1はRTP1によって識別されたオクテットがSC’において特定のポイントを通過した時間を表し、NTP2はRTP2によって識別されたオクテットがSC’において特定のポイントを通過した時間を表す。トランスコードおよびクロック速度が変化するため、これらは一般的に異なるオクテットである。識別されたオクテットによって表されるコンテンツ内のポイントが特定のポイントをいつ通過したのかを決定するために、SC’は計算を行ってNTP1およびNTP2を決定しなければならない。
MSASは、プレイアウトSCa−プレイアウトSCb=(NTPa−(RTPa/CRa)−(NTPb−(RTPb/CRb)−(NTP1−(RTP1/CR1)+(NRP2−(RTP2/CR2)というアルゴリズムを使用することで、ミリ秒単位でのSCaのプレイアウトとSCbのプレイアウトの差を決定してもよい。それらのプレイアウトを十分に同期させるために、その結果を用いて、SCaまたはSCbに特定の量だけそのプレイアウトを遅延させることを指示してもよい。
表3の例にあるパラメータを用いると、−5.493秒の遅延(プレイアウトSCa−プレイアウトSCb)という結果になり、このことは、SCbがSCaよりも5.493秒遅くプレイアウトしたことを示す。したがって、実質的に同期させるために、この計算に基づいて、MSASはSCaにその出力を5.493秒遅らせるよう指示してもよい。
Figure 0005284534
図7は、本発明の他の実施形態による、メディアストリームを同期させるためのRTCP XRメッセージの使用を示す。この例では、ある単一のコード化装置702が複数のメディアストリーム変更ユニットを含んでもよい。コード化装置は複数の入ってくるメディアストリーム708、710および出ていくメディアストリーム712−716に関連づけられてもよく、出ていくメディアストリーム712−716は、単一の同期クライアントSC’704によって同期化されてもよい。
入ってくる各メディアストリームA1、B4に関して、および出ていく各メディアストリームA2、A3、B5、...に関して、同期クライアントSC’はRTCP XR718−724をMSAS706に送信してもよい。したがって、この実施形態では、同期相関情報は2つのRTCP XRにおいてMSASに送信される。それらは、入ってくるメディアストリーム708、710に関連づけられた第1のRTCP XR 724、726および、出ていくメディアストリーム712−716に関連づけられた第2のRTCP XR 718−722である。
そのような信号化スキームは、RTCP XRが異なる時刻に、および異なる速度でMSASに独立して送信されるという利点を有する。あるメディアストリームがより安定した時間参照を有する場合は、その同期相関情報はより不定期に更新されてもよくなり、したがって処理時間および帯域が節約される。さらに、入ってくるあるメディアストリームが複数の異なる出ていくメディアストリームにトランスコードする場合、入ってくるメディアストリームに関した同期相関情報の部分が測定され、1度だけ送信されるべきであり、それによって時間および帯域が節約される。
しかしながら、同期相関情報の異なる部分(RTCP XR)を独立して送信することは、同期相関情報のどの部分が関連する部分であるかをMSASが知っていないため、問題となることがある。この場合には、MSASが、同期相関情報のどの部分がひとまとまりになっているかを決定することが不可能である。
この理由により、MSASがトランスコード装置の入力および出力における異なるメディアストリームを相関させることと、正しい同期相関情報をMSASによって受信された異なるRTCP XRから導き出すことと、を可能にするために、同期クライアントSC’はメディアストリーム相関識別子(MSCI)を生成する。例えば、図7において、MSASはMSCIAを用いて、メディアストリーム710に関連づけられたRTCP XR726を、(変更された)メディアストリーム712に関連づけられた第1のRTCP XR718および(変更された)メディアストリーム714に関連づけられた第2のRTCP XR720と相関させることができる。このようにして、複数の変更されたメディアストリームの効率的な同期が達成されてもよい。互いに関連する異なるストリームの間の同期は、同時に同じブロードキャストを視聴することを望みながら異なる性能の異なるプレイアウト装置を用いる異なるユーザにとって有利でありうるだけでなく、互いに関連する異なるストリームを搬送する2つ以上ネットワークを切り換える単独のユーザにとっても有益でありうることに留意すべきである。この切り換えは、例えば、ユーザがカバレッジの悪いモバイルネットワークを用いる場合に発生しうる。ユーザがネットワークへの接続から離れた場合、ユーザは別のネットワーク、例えば、カバレッジが改良された別のモバイルネットワークに切り換えることを望むかもしれない。そのようなネットワーク切り換えの例に、DVB−H(デジタルビデオブロードキャスト−ハンドヘルド)ネットワークとUTMSネットワークの間の切り換えがありうる。モバイルネットワークと固定ネットワークの間の切り換えもまた行われるかもしれない。例えば、モバイルネットワーク経由でビデオストリームを見ているユーザが、帰宅して固定ネットワークに接続された自分の大スクリーンテレビジョンで視聴を続けることを望む場合である。互いに関連する異なるストリームの間の遅延を打ち消すことは、シームレスなネットワーク移行および向上したユーザエクスペリエンスを提供する。
任意のある実施形態に関連して記載されたいかなる特徴も、単独で用いられてもよく、または記載された他の特徴と組み合わされて用いられてもよく、任意の他の実施形態の1つ以上の特徴と組み合わされて用いられてもよく、任意の他の実施形態の組み合わせと組み合わされて用いられてもよい。さらに、上記されなかった同等の例および変形例もまた、本発明の範囲から逸脱せずに用いられることができ、それらは添付の特許請求の範囲において定義される。
例えば、本発明による同期方法は、例えばネットワーク全体またはその一部上で作動する、または、ネットワークを介して流れるすべてのストリーム上で作動する、またはあるストリーム上のみで作動する連続プロセスとして実施されることができる。さらに、連続動作はすべての同期ポイントに作用してもよく、特定の同期ポイントのみに作用してもよい。方法は、この連続方式において動作するようにシステムを構成することによって実施されてもよい。
代替として、方法は、例えばクライアントサーバ型のモデルを用いるセッション型の同期プロセスとして実施されてもよい。同期セッションは、例えばネットワーク内のあるトリガを介して開始または終了してもよい。同期セッションを開始または終了するトリガは、例えば同期ポイントによって提供されてもよく、ネットワークまたはシステム内の他の要素によって提供されてもよい。
一実施形態では、同期サーバおよび同期クライアントは同期セッションを開始および終了するように構成されてもよい。同期セッションは、同期クライアントが招待メッセージを同期サーバに送信したときに開始されてもよく、逆も同様である。同期セッションの最中に、同期サーバおよび同期クライアントは同期ステータス情報および同期設定指示を交換してもよい。同期セッションは、同期クライアントが同期サーバに終了メッセージを送信したときに終了してもよく、逆も同様である。同期サーバおよび同期クライアントは、招待を受け入れるために、または同期セッションの終了を確認するために、返答メッセージを送信してもよい。

Claims (20)

  1. 少なくとも1つの第1のストリーム、および少なくとも1つの第2のストリームの送信先間同期の方法であって、前記第2のストリームは、メディアストリーム変更ユニットの出力ストリームと関連づけられ、前記第1のストリームを入力ストリームとして使用し、
    −第1の同期ポイントに到達した第1のストリーム内のパケットの第1の到達時刻情報および、第2の同期ポイントに到達した第2のストリーム内のパケットの第2の到達時刻情報を遅延情報計算手段に提供するステップと、
    −前記入力ストリームと前記出力ストリームの間の同期関係に関する同期相関情報を前記遅延情報計算手段に提供するステップと、
    −前記第1のおよび前記第2の到達時刻情報および前記同期相関情報に基づいて、前記遅延情報計算手段によって遅延情報を計算するステップと、を含む方法。
  2. −少なくとも前記第1のまたは前記第2の同期ポイントに前記遅延情報を提供し、前記第1のおよび前記第2の同期ポイントによってそれぞれ出力される前記第1のおよび前記第2のストリームが実質的に同期するように、少なくとも前記第1のおよび前記第2の同期ポイントがストリームの出力を遅延させることを可能にするステップをさらに含む、
    請求項1に記載の方法。
  3. 前記第1のおよび前記第2のストリームが少なくとも前記第1のおよび前記第2の同期ポイントによって出力され、前記同期ポイントは前記同期ポイントを同期させるために少なくとも1つの同期ユニットに接続される、請求項1または2に記載の方法。
  4. 遅延情報を計算する前記ステップは、第1の到達時刻情報と第2の到達時刻情報の間の共通のタイムラインを達成するように、第1のおよび/または第2の到達時刻情報を調整する調整ステップをさらに有し、前記調整ステップは、同期相関情報の少なくとも一部に基づく、請求項1から3のいずれか一項に記載の方法。
  5. 前記調整ステップは到達時刻情報調整モジュールによって実行され、前記モジュールは同期ユニットの一部であり、前記同期ユニットは同期相関情報の少なくとも一部を提供される、請求項4に記載の方法。
  6. 前記調整ステップは同期ポイントにおいて実行され、前記同期ポイントは到達時刻情報調整モジュールを有し、前記到達時刻情報調整モジュールは同期相関情報の少なくとも一部を提供され、同期ユニットは調整された第2の到達時刻情報を提供される、請求項4に記載の方法。
  7. 前記調整ステップはネットワーク要素において実行され、前記ネットワーク要素は到達時刻情報を受信するように構成され、前記ネットワーク要素は到達時刻情報調整モジュールをさらに有し、前記到達時刻情報調整モジュールは、同期相関情報の少なくとも一部を提供され、同期ユニットは調整された第2の到達時刻情報を提供される、請求項4に記載の方法。
  8. 前記同期ポイントは端末、ネットワークノード、またはアクセスノードである、請求項1から7のいずれか一項に記載の方法。
  9. 前記ストリーム変更ユニットは、少なくとも第1のメディアストリームを受信および処理するためのメディアストリーム処理装置であり、前記処理は前記第1のメディアストリームにおけるタイミング情報を変更する、請求項1から8のいずれか一項に記載の方法。
  10. 前記同期ユニットは同期ポイントまたはネットワークノードに含まれる、請求項1から9のいずれか一項に記載の方法。
  11. 前記到達時刻情報、前記同期相関情報および/または前記遅延情報は1つ以上のRTCPメッセージにおいて信号化される、請求項1から10のいずれか一項に記載の方法。
  12. 前記RTCPメッセージの少なくとも1つが、パケットの発信元を識別する識別子、RTPタイムスタンプ、NTPタイムスタンプ、クロック速度値および/またはメディアストリーム相関識別子を少なくとも備える、請求項11に記載の方法。
  13. 少なくとも、第1のメディアストリームを受信する第1の同期ポイントおよび第2のメディアストリームを受信する第2の同期ポイントの出力を同期させる同期ユニットであって、前記第2のストリームは、入力ストリームとして第1のストリームを用いるメディアストリーム変更ユニットの出力ストリームであり、前記同期ユニットは、
    第1の同期ポイントに関連づけられたストリームにおけるパケットに関連づけられた第1の時刻情報と、第2の同期ポイントに到達する第2のストリームにおけるパケットの第2の到達時刻情報と、を受信する第1の入力と、
    前記入力ストリームと前記出力ストリームの間の同期関係に関する同期相関情報を受信する第2の入力と、
    前記第1のおよび前記第2の到達時刻情報および前記同期相関情報に基づいて遅延情報を計算するプロセッサと、を含む、同期ユニット。
  14. 受信されたストリームが実質的に同期するように、前記第1のおよび前記第2の同期ポイントにおける1つ以上の可変遅延ユニットが受信されたストリームの出力時間を遅延させることを可能にする遅延情報を前記第1のおよび前記第2の同期ポイントに送信する出力をさらに有する、
    請求項13に記載の同期ユニット。
  15. 前記到達時刻情報、前記同期相関情報および/または前記遅延情報が1つ以上のRTCPメッセージにおいて信号化される、請求項13または14に記載の同期ユニット。
  16. 少なくとも第1のおよび第2の同期ポイントの出力の送信先間同期システムであって、
    メディアストリームを配信するコンテンツ配信サーバと、
    入力メディアストリームを変更して、変更された出力メディアストリームにするように構成され、前記入力ストリームと前記出力ストリームの間の同期関係に関する同期相関情報を提供するように構成されたストリーム変更ユニットと、
    請求項13または14に記載の少なくとも1つの同期ユニットと、を含む、システム。
  17. 前記同期ポイントが、
    ストリーム変更ユニットから同期相関情報を受信する第1の入力と、
    ストリームにおけるパケットの到達時刻情報を同期ユニットに送信する出力と、
    少なくとも1つの可変遅延ユニットと、
    前記少なくとも1つの可変遅延ユニットが、ストリームの出力を同期ポイントが遅延させることを可能にするように、遅延情報を受信する第2の入力と、を含む、請求項16に記載のシステムにおいて使用する同期ポイント。
  18. メディアストリーム変更ユニットが、前記メディアストリーム変更ユニットによって入力ストリームとして用いられる第1のメディアストリームと、前記第1のメディアストリームを入力ストリームとして用いる前記メディアストリーム変更ユニットの出力ストリームである第2のメディアストリームと、の間の同期関係に関連づけられた同期相関情報を提供する手段を含むことを特徴とする、請求項16に記載のシステムにおいて使用するメディアストリーム変更ユニット。
  19. ネットワーク要素が到達時刻情報調整モジュールを含み、前記モジュールが、前記同期相関情報に基づいて、同期ポイントによって受信された変更されたモジュールにおけるパケットの到達時刻情報を調整するように構成されることを特徴とする、請求項16に記載のシステムにおいて使用するネットワーク要素。
  20. コンピュータのメモリにおいて実行されるとき、請求項1から12のいずれか一項に記載の方法ステップを実行するように構成されたソフトウェアコード部分を含む、コンピュータプログラム。
JP2012500223A 2009-03-16 2010-03-16 変更されたストリーム同期 Active JP5284534B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP09003751.6 2009-03-16
EP09003751 2009-03-16
EP09015266.1 2009-12-09
EP09015266 2009-12-09
PCT/EP2010/053407 WO2010106075A1 (en) 2009-03-16 2010-03-16 Modified stream synchronization

Publications (2)

Publication Number Publication Date
JP2012520648A JP2012520648A (ja) 2012-09-06
JP5284534B2 true JP5284534B2 (ja) 2013-09-11

Family

ID=42045454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012500223A Active JP5284534B2 (ja) 2009-03-16 2010-03-16 変更されたストリーム同期

Country Status (7)

Country Link
US (1) US20120036277A1 (ja)
EP (1) EP2409432B1 (ja)
JP (1) JP5284534B2 (ja)
KR (1) KR101291990B1 (ja)
CN (1) CN102356619B (ja)
ES (1) ES2801698T3 (ja)
WO (1) WO2010106075A1 (ja)

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218452B2 (en) * 2009-06-30 2012-07-10 Alcatel Lucent Network detection of real-time applications using incremental linear regression
US8458362B2 (en) 2010-09-30 2013-06-04 Comcast Cable Communications, Llc Delivering content in multiple formats
US9143539B2 (en) * 2010-11-18 2015-09-22 Interdigital Patent Holdings, Inc. Method and apparatus for inter-user equipment transfer of streaming media
CN102137275B (zh) * 2010-12-20 2012-12-19 华为技术有限公司 快速频道切换中快速推送单播流的方法和装置
US9787725B2 (en) 2011-01-21 2017-10-10 Qualcomm Incorporated User input back channel for wireless displays
US8677029B2 (en) 2011-01-21 2014-03-18 Qualcomm Incorporated User input back channel for wireless displays
US20130013318A1 (en) * 2011-01-21 2013-01-10 Qualcomm Incorporated User input back channel for wireless displays
US9413803B2 (en) 2011-01-21 2016-08-09 Qualcomm Incorporated User input back channel for wireless displays
US10135900B2 (en) * 2011-01-21 2018-11-20 Qualcomm Incorporated User input back channel for wireless displays
CA2834168C (en) 2011-04-28 2020-07-07 Voipfuture Gmbh Correlation of media plane and signaling plane of media services in a packet-switched network
KR101405276B1 (ko) * 2011-08-10 2014-07-15 한국전자통신연구원 고정 및 이동 융합형 3dtv에서 좌/우 스트림을 동기화하는 컨텐츠 제공 장치 및 방법, 그리고, 컨텐츠 재생 장치 및 방법
US9380327B2 (en) 2011-12-15 2016-06-28 Comcast Cable Communications, Llc System and method for synchronizing timing across multiple streams
JP5903924B2 (ja) * 2012-02-17 2016-04-13 ソニー株式会社 受信装置および字幕処理方法
KR101917174B1 (ko) 2012-02-24 2018-11-09 삼성전자주식회사 전자 장치 사이의 스트림 전송 방법 및 그 방법을 처리하는 전자 장치
WO2013173668A1 (en) * 2012-05-18 2013-11-21 Motorola Mobility Llc Array of transcoder instances with internet protocol (ip) processing capabilities
WO2013173683A1 (en) * 2012-05-18 2013-11-21 Motorola Mobility Llc Synchronizing multiple transcoding devices utilizing simultaneity of receipt of multicast packets
US9055346B2 (en) 2012-05-18 2015-06-09 Google Technology Holdings LLC Array of transcoder instances with internet protocol (IP) processing capabilities
US9553756B2 (en) * 2012-06-01 2017-01-24 Koninklijke Kpn N.V. Fingerprint-based inter-destination media synchronization
US9883361B2 (en) 2012-07-27 2018-01-30 Qualcomm Incorporated Delivering time synchronized arbitrary data in an RTP session
US9226011B2 (en) 2012-09-11 2015-12-29 Comcast Cable Communications, Llc Synchronizing program presentation
US10356143B2 (en) * 2012-10-10 2019-07-16 Samsung Electronics Co., Ltd. Method and apparatus for media data delivery control
CN103139608B (zh) * 2013-01-21 2016-03-30 北京酷云互动科技有限公司 远程媒体播放信号时延的检测方法及检测系统
JP2014230154A (ja) * 2013-05-23 2014-12-08 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
EP2814259A1 (en) * 2013-06-11 2014-12-17 Koninklijke KPN N.V. Method, system, capturing device and synchronization server for enabling synchronization of rendering of multiple content parts, using a reference rendering timeline
US9800908B2 (en) * 2013-07-09 2017-10-24 Koninklijke Kpn N.V. Synchronized data processing of broadcast streams between receivers, including synchronized data processing between a receiver that is in the process of processing a stream and a receiver that wants to join the stream
WO2015039891A1 (en) 2013-09-20 2015-03-26 Koninklijke Kpn N.V. Correlating timeline information between media streams
ES2796873T3 (es) 2013-09-20 2020-11-30 Koninklijke Kpn Nv Correlacionar información de línea de tiempo entre flujos de medios
JP6349977B2 (ja) 2013-10-21 2018-07-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
CN110891188B (zh) * 2013-12-11 2021-11-05 瑞典爱立信有限公司 用于同步媒体流的方法和系统
CN105900435B (zh) 2014-01-02 2019-06-18 Lg电子株式会社 广播发送装置及其操作方法、和广播接收装置及其操作方法
CN104811824B (zh) * 2014-01-29 2018-05-04 上海数字电视国家工程研究中心有限公司 多媒体传输网络系统
WO2015129181A1 (ja) * 2014-02-28 2015-09-03 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 音声通信端末、中間ノード、処理装置、接続方法およびプログラム
US9794313B2 (en) * 2014-05-09 2017-10-17 Cisco Technology, Inc. Methods and systems to facilitate synchronization of multiple media streams
CN105554044B (zh) 2014-10-28 2019-01-15 国际商业机器公司 在本地对象存储节点中同步对象的方法及装置
EP3235310B1 (en) 2014-12-17 2021-11-03 Telefonaktiebolaget LM Ericsson (publ) Communication network nodes and methods performed therein
US20170353747A1 (en) * 2014-12-22 2017-12-07 Koninklijke Kpn N.V. Quality of Media Synchronization
US10484447B2 (en) 2014-12-24 2019-11-19 Ribbon Communications Operating Company, Inc. Methods and apparatus for communicating delay information and minimizing delays
US20150326636A1 (en) * 2015-05-08 2015-11-12 Bandwidth.Com, Inc. Optimal use of multiple concurrent internet protocol (ip) data streams for voice communications
US11212333B1 (en) * 2015-05-29 2021-12-28 Ribbon Communications Operating Company, Inc. Methods and apparatus for synchronizing transcoded and/or transrated RTP packets
KR101656871B1 (ko) * 2015-08-18 2016-09-13 광운대학교 산학협력단 미디어 데이터 스트림을 동기화시키기 위한 방법, 동기화 서버 및 컴퓨터 판독 가능한 기록매체
CN109690674B (zh) * 2016-09-08 2021-05-11 索尼公司 信息处理装置、信息处理方法和程序
US20180146222A1 (en) * 2016-11-23 2018-05-24 Akamai Technologies, Inc. Systems and methods for demultiplexing and multiplexing multimedia streams that have spurious elementary streams
JP2018164294A (ja) * 2018-06-20 2018-10-18 マクセル株式会社 放送番組の視聴予約および映像デコードの制御方法
US11032367B2 (en) 2018-07-16 2021-06-08 Microsoft Technology Licensing, Llc Long upload time detection and management
KR20210097285A (ko) * 2020-01-30 2021-08-09 삼성전자주식회사 이동통신 네트워크의 미디어 처리 및 전송에 대한 지연을 할당하기 위한 장치와 방법
US11316912B2 (en) * 2020-05-26 2022-04-26 Grass Valley Canada System and method for synchronizing transmission of media content using timestamps
CN113473162B (zh) * 2021-04-06 2023-11-03 北京沃东天骏信息技术有限公司 一种媒体流的播放方法、装置、设备和计算机存储介质
CN117676219A (zh) * 2022-08-29 2024-03-08 华为技术有限公司 一种数据传输方法及装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6360271B1 (en) * 1999-02-02 2002-03-19 3Com Corporation System for dynamic jitter buffer management based on synchronized clocks
US6493872B1 (en) * 1998-09-16 2002-12-10 Innovatv Method and apparatus for synchronous presentation of video and audio transmissions and their interactive enhancement streams for TV and internet environments
US7200857B1 (en) * 2000-06-09 2007-04-03 Scientific-Atlanta, Inc. Synchronized video-on-demand supplemental commentary
US6724825B1 (en) * 2000-09-22 2004-04-20 General Instrument Corporation Regeneration of program clock reference data for MPEG transport streams
US7269338B2 (en) * 2001-12-11 2007-09-11 Koninklijke Philips Electronics N.V. Apparatus and method for synchronizing presentation from bit streams based on their content
US7114173B2 (en) * 2002-05-03 2006-09-26 Aol Time Warner Interactive Video Group, Inc. Technique for synchronizing deliveries of information and entertainment in a communications network
US7084898B1 (en) * 2003-11-18 2006-08-01 Cisco Technology, Inc. System and method for providing video conferencing synchronization
JP2005244605A (ja) * 2004-02-26 2005-09-08 Nippon Telegr & Teleph Corp <Ntt> ストリーミングコンテンツ配信制御システム、プログラム及び該プログラムを格納した記録媒体
US8606949B2 (en) * 2005-04-20 2013-12-10 Jupiter Systems Interconnection mechanism for multiple data streams
DE102005039366B4 (de) * 2005-06-24 2008-10-09 Infineon Technologies Ag Telekommunikations-Endgerät, Telekommunikationssystem, Telekommunikationssitzungs-Servereinheit, Verfahren zum Erzeugen und Senden einer Telekommunikationssitzungs-Nachricht, Verfahren zum Verwalten einer Telekommunikationssitzungs-Nachricht, Computerlesbare Speichermedien und Computerprogrammelemente
CN100442858C (zh) * 2005-10-11 2008-12-10 华为技术有限公司 分组网络中多媒体实时传输的唇同步方法及其装置
WO2008060655A2 (en) * 2006-03-29 2008-05-22 Motionbox, Inc. A system, method, and apparatus for visual browsing, deep tagging, and synchronized commenting
CN101179484A (zh) * 2006-11-09 2008-05-14 华为技术有限公司 一种不同媒体流间的同步方法及系统
US7953118B2 (en) * 2006-12-08 2011-05-31 Microsoft Corporation Synchronizing media streams across multiple devices
US8301790B2 (en) * 2007-05-30 2012-10-30 Randy Morrison Synchronization of audio and video signals from remote sources over the internet
US20080320545A1 (en) * 2007-06-22 2008-12-25 Schwartz Richard T System and method for providing audio-visual programming with alternative content
US20080317439A1 (en) * 2007-06-22 2008-12-25 Microsoft Corporation Social network based recording
US7936790B2 (en) * 2007-08-30 2011-05-03 Silicon Image, Inc. Synchronizing related data streams in interconnection networks
US8514705B2 (en) * 2007-10-23 2013-08-20 Koninklijke Kpn N.V. Method and system for synchronizing a group of end-terminals
US9497103B2 (en) * 2008-02-29 2016-11-15 Audinate Pty Limited Isochronous local media network for performing discovery
US20090257455A1 (en) * 2008-04-15 2009-10-15 Tellabs Operations, Inc. Method and apparatus for synchronizing timing of signal packets
US8141115B2 (en) * 2008-12-17 2012-03-20 At&T Labs, Inc. Systems and methods for multiple media coordination
US8606953B2 (en) * 2010-10-04 2013-12-10 Dialogic Corporation Adjusting audio and video synchronization of 3G TDM streams

Also Published As

Publication number Publication date
EP2409432A1 (en) 2012-01-25
US20120036277A1 (en) 2012-02-09
KR20110125674A (ko) 2011-11-21
EP2409432B1 (en) 2020-05-06
CN102356619A (zh) 2012-02-15
JP2012520648A (ja) 2012-09-06
WO2010106075A1 (en) 2010-09-23
CN102356619B (zh) 2016-11-09
KR101291990B1 (ko) 2013-08-09
ES2801698T3 (es) 2021-01-12

Similar Documents

Publication Publication Date Title
JP5284534B2 (ja) 変更されたストリーム同期
JP5635626B2 (ja) メディア・ストリームの同期のための方法、システム及び装置
US9237179B2 (en) Method and system for synchronizing the output of terminals
EP2832109B1 (en) Marker-based inter-destination media synchronization
US11095929B2 (en) Video distribution synchronization
US8514705B2 (en) Method and system for synchronizing a group of end-terminals
Stokking et al. IPTV inter-destination synchronization: A network-based approach
Stokking et al. Standardization of inter-destination media synchronization
EP2068528A1 (en) Method and system for synchronizing the output of end-terminals
EP2164224A1 (en) Method and system for synchronizing the output of end-terminals
van Brandenburg et al. RTCP XR Block Type for inter-destination media synchronization draft-brandenburg-avt-rtcp-for-idms-03. txt

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130408

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130529

R150 Certificate of patent or registration of utility model

Ref document number: 5284534

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250