JPWO2013190789A1 - 受信装置およびその同期処理方法 - Google Patents

受信装置およびその同期処理方法 Download PDF

Info

Publication number
JPWO2013190789A1
JPWO2013190789A1 JP2014520906A JP2014520906A JPWO2013190789A1 JP WO2013190789 A1 JPWO2013190789 A1 JP WO2013190789A1 JP 2014520906 A JP2014520906 A JP 2014520906A JP 2014520906 A JP2014520906 A JP 2014520906A JP WO2013190789 A1 JPWO2013190789 A1 JP WO2013190789A1
Authority
JP
Japan
Prior art keywords
video
time code
time
stream
added
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014520906A
Other languages
English (en)
Other versions
JP6313704B2 (ja
Inventor
北里 直久
直久 北里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2014520906A priority Critical patent/JP6313704B2/ja
Publication of JPWO2013190789A1 publication Critical patent/JPWO2013190789A1/ja
Application granted granted Critical
Publication of JP6313704B2 publication Critical patent/JP6313704B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04HBROADCAST COMMUNICATION
    • H04H20/00Arrangements for broadcast or for distribution combined with broadcast
    • H04H20/18Arrangements for synchronising broadcast or distribution via plural systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/242Synchronization processes, e.g. processing of PCR [Program Clock References]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Abstract

【課題】互いに同期して再生されるべき2つの映像ストリームを放送とインターネットで伝送する場合のそれぞれの同期再生を良好に行う。【解決手段】第1の映像データの第1の単位毎に第1のタイムコードが付加された放送ストリームを受信可能な放送受信部と、第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも第1の単位毎に第2のタイムコードが付加された通信ストリームをネットワークを通じて受信可能な通信受信部と、基準時刻(STC)を生成する基準時刻生成部と、予め決められたタイミングで、受信された放送ストリームに付加された第1のタイムコードと通信ストリームに付加された第2のタイムコードを取得し、第1のタイムコードに対する第2のタイムコードの遅れ分を算出するタイムコード処理部と、遅れ分を加味して基準時刻を調整する調整部とを具備する。【選択図】図6

Description

本技術は、互いに同期して再生されるべき複数の映像のうち一方を放送で受信し、他方をネットワークを通じて受信し、それぞれを互いに同期再生することが可能な受信装置とその同期処理方法に関する。
近年、携帯電話等の通信用途の帯域拡大の要求に押され、放送用途に割有られる帯域の拡大は将来的に期待できない。一方、例えば3D番組、高解像度映像など、コンテンツの伝送に必要とされる帯域は拡大傾向にあり、放送の帯域だけでは不足することが予想される。そこで、放送とインターネットの統合的に利用して、3D番組、高解像度映像など、広帯域を要する番組を伝送するサービスの実現が検討されている。
例えば、特許文献1には、メインの放送音声データを放送波として伝送するとともに、多視点映像データおよび多聴点音声データをネットワークを介して伝送し、受信装置にてこれらメインの放送音声データ、多視点映像データおよび多聴点音声データを受信し、提示する技術が開示されている。
特開2005−159592号公報
互いに同期して再生されるべき2つの映像ストリームを放送とインターネットとに分けて伝送する場合、それぞれの伝送方式の特性の違いによる2つの映像ストリームの受信タイミングがずれが発生した場合、特にインターネット経由のストリームが放送経由のストリームに対して遅れ、その遅れの量が放送受信側のバッファで吸収できない程度である場合には、同期再生が困難になることが想定される。
以上のような事情に鑑み、本技術の目的は、互いに同期して再生されるべき2つの映像ストリームを放送とインターネットとに分けて伝送する場合のそれぞれの同期再生を良好に行うことのできる受信装置およびその同期処理方法を提供することにある。
上記の課題を解決するために、本技術に係る受信装置は、第1の映像データの第1の単位毎に第1のタイムコードが付加された第1の映像ストリームを放送を通じて受信可能な放送受信部と、前記第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも前記第1の単位毎に第2のタイムコードが付加された第2の映像ストリームをネットワークを通じて受信可能な通信受信部と、前記第1の映像データを提示する処理のタイミングを生成するための基準時刻を生成する基準時刻生成部と、予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出するタイムコード処理部と、前記遅れ分を加味して前記基準時刻を調整する調整部と、を具備する。
この受信装置では、タイムコード処理部が、予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出する。調整部は、前記第1の映像ストリームを提示する処理のタイミングを生成するための基準時刻を前記遅れ分を加味して調整する。これにより、通信ストリームが放送ストリームに対して遅れて受信された場合でも、各ストリームを同期再生することができる。
前記第1の映像ストリームには提示時刻情報が付加され、前記受信装置は、前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、前記通信受信部により受信された前記第2の映像ストリームをデコードする第2の映像デコーダと、をさらに具備し、前記タイムコード処理部は、前記第1の映像デコーダによるデコード対象の前記第1の映像ストリームの前記第1の単位に付加された前記第1のタイムコードを取得して前記第2の映像デコーダに供給し、前記第2の映像デコーダは、前記供給された前記第1のタイムコードと同じ値の前記第2のタイムコードが付加された前記第2の映像ストリームの前記第1の単位をデコードするものであってよい。
前記タイムコード処理部は、少なくとも、前記放送ストリームの受信中に前記通信ストリームが最初に受信されたとき、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出するものであってよい。
前記調整部は、前記遅れ分に所定のマージンを付加した時間データで前記基準時刻を調整するものであってよい。
前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成するものであってよい。
前記第1の映像ストリームには、GOPの先頭ピクチャに前記第1のタイムコードが付加され、前記第2の映像ストリームには、ピクチャ毎に前記第2のタイムコードが付加されたものであってよい。
また、本技術に係る受信装置において、前記第2の映像ストリームには提示時刻情報が付加され、前記受信装置は、前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、前記通信受信部により受信された前記第2の映像ストリームを、当該第2の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第2の映像デコーダと、をさらに具備するものであってよい。
本技術の別の側面に係る同期処理方法は、放送受信部が、第1の映像データの第1の単位毎に第1のタイムコードが付加された第1の映像ストリームを放送を通じて受信し、通信受信部が、前記第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも前記第1の単位毎に第2のタイムコードが付加された第2の映像ストリームをネットワークを通じて受信し、タイムコード処理部が、予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出し、調整部が、前記遅れ分を加味して前記第1の映像ストリームを提示する処理のタイミングを生成するための基準時刻を調整する
ことを特徴とする。
本技術に係る同期処理方法は、前記基準時刻の調整後、前記タイムコード処理部が、第1の映像デコーダによるデコード対象の前記第1の映像ストリームの前記第1の単位に付加された前記第1のタイムコードを取得して第2の映像デコーダに供給し、前記第2の映像デコーダが、前記供給された前記第1のタイムコードと同じ値の前記第2のタイムコードが付加された前記第2の映像ストリームの前記第1の単位をデコードすることとしてもよい。
本技術に係る同期処理方法は、前記基準時刻の調整後、第1の映像デコーダが、前記受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードし、前記基準時刻の調整後、第2の映像デコーダが、前記受信された前記第2の映像ストリームを、当該第2の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードすることとしてもよい。
以上のように、本技術によれば、互いに同期して再生されるべき2つの映像ストリームを放送とインターネットとに分けて伝送する場合のそれぞれの同期再生を良好に行うことができる。
放送ストリームと通信ストリームの同期伝送システムの構成を示す図である。 本技術に係る第1の実施形態の受信装置において、STCの調整により放送ストリームと通信ストリームとを同期させる動作の概要を示すタイムチャートである。 MPEG2ビデオストリームのタイムコードを説明する図である。 MPEG4−AVCビデオストリームのGOPの先頭のアクセスユニットの構成を示す図である。 MPEG4−AVCビデオストリームのGOPの先頭以外のアクセスユニットの構成を示す図である。 図4および図5のPicture Timing SEIの構成を示す図である 第1の実施形態の受信装置の構成を示すブロック図である。 第1の実施形態の受信装置での放送の選局から放送ストリームと通信ストリームとの同期処理、さらには同期処理の終了までのタイムチャートである。 第2の実施形態の受信装置の構成を示すブロック図である。
以下、本技術に係る実施の形態を説明する。
<第1の実施形態>
本実施形態は、放送により伝送される映像を含むストリーム(以下「放送ストリーム」と呼ぶ。)とインターネットにより伝送される映像を含むストリーム(以下「通信ストリーム」と呼ぶ。)を伝送する伝送装置と、伝送装置より伝送された放送ストリームと通信ストリームを受信し、これらを互いに同期させて再生する受信装置とその同期処理方法に関するものである。
このような放送ストリームと通信ストリームの同期伝送システムの例として次のようなものが挙げられる。
1.3D番組
図1は3D番組伝送システムの構成を示す図である。
3D番組を構成する複数の視点の映像のうち1視点の映像が放送で伝送され、他の1視点の映像が通信で伝送される。受信機はこれら放送と通信で伝送される2つの映像を受信し、互いに同期をとって再生してマージし、3D映像を提示する。
2.マルチビュー番組
1つの被写体が複数のカメラで同時に撮影されることによって得られる一つのビューの映像がメインビューとして放送で伝送され、その他の1以上のビューの映像がサブビューとして通信で伝送される。受信機はこれら複数のビューの映像を受信し、メインビューの映像を親画面に表示させるとともに、1以上のサブビューの映像を子画面で表示させる。あるいは、受信機は、メイン画面に表示させる映像をメインビューとサブビューとの間で切り替える。
3.高解像度番組
例えば4Kの(画素数3840×2160)の高解像度カメラで撮影された映像が4分割されて得られる4系統のHDサイズ(画素数1920×1080)の映像のうち、一部が放送で伝送され、残りが通信で伝送される。受信機は各系統のHDサイズの映像を受信し、互いに同期をとって再生し、結合して4Kサイズの高解像度映像を提示する。あるいは、高解像度カメラで撮影された映像がウェーブレット変換などにより周波数分解され、低解像度成分のHDサイズの映像が放送で伝送され、残りの高周波成分の映像が通信で伝送される。受信機は、受信した4つのHDサイズの映像をウェーブレット逆変換などにより周波数合成して一つの高解像度映像として復元して提示する。
4.音声吹き替えサービス
音声吹き替えサービスでは、映像と日本語音声が放送で伝送され、映像に対する多言語の吹き替え版の音声が通信で伝送される。受信機は、映像と日本語音声を放送から受信する一方で、映像に対する多言語の吹き替え版の音声を通信から受信し、ユーザからの要求に応じて、放送の映像と吹き替え音声を互いに同期をとって再生して提示する。
図1は上記の放送ストリームと通信ストリームの同期伝送システムの構成を示す図である。
ここで、番組素材とは、3D番組、マルチビュー番組、高解像度番組、音声吹き替えサービス番組などである。放送・通信設備100において、番組素材は放送用の信号と通信用の信号とに分けられる。放送用の信号と通信用の信号はそれぞれ、エンコーダによってMPEG2_TSなどのストリームに符号化される。符号化されたストリームには提示時刻情報であるタイムコードが挿入される。タイムコードが挿入された一方のストリームは放送で送出され、タイムコードが挿入された他方のストリームは配信サーバによってインターネットを通じて通信で配信される。また、符号化の際には、ビデオのTSパケットに一定周期で時刻参照値であるPCR(Program Clock Reference)が挿入される。あるいは、PCRを含むPCRパケットが一定周期で付加される。
典型的な受信装置200では、一つの番組に関連する放送ストリームおよび通信ストリームを受信する。典型的な受信装置200では、受信した放送ストリームおよび通信ストリームからそれぞれPCRを抽出し、このPCRを用いて受信装置200の基準時刻であるSTC(System Time Clock)を設定あるいは校正し、このSTCと映像のTSパケットに含まれる提示時刻情報であるPTS(Presentation Time Stamp)とから映像の提示のタイミングが生成される。
その際、ネットワークのトラフィック変動によって受信装置200に通信ストリームが受信されるタイミングが、これと同期がとられて再生されるべき放送ストリームに対して遅れる可能性がある。通信ストリームが放送ストリームに対して遅れている場合には受信した放送ストリームをバッファに蓄えて放送ストリームの再生を遅らせる必要がある。しかし、典型的な受信装置200では、PCRをもとに生成されるSTCと、映像のTSパケットに含まれる再生時の時刻管理情報であるPTSから映像ストリームの提示タイミングが一意に決められることが前提とされている。したがって、受信した放送ストリームをバッファに蓄えるだけでは、放送ストリームと通信ストリームとの同期再生を実現することは実際には困難である。
本実施形態では、例えばMPEG2ビデオストリーム、MPEG4−AVCビデオストリームなどの映像ストリームに付加されているタイムコードがGOPの先頭ピクチャやピクチャ毎の提示時刻を時、分、秒、フレームの単位で示すデータであることを利用して、受信装置のSTCの調整、ならびに放送ストリームと通信ストリームとの同期再生を実現する。
[動作の概要]
図2は本技術に係る第1の実施形態の受信装置300において、STCの調整により放送ストリームと通信ストリームとを同期させる動作の概要を示すタイムチャートである。
1.受信装置300は、放送ストリームと通信ストリームの同期再生の指示が発生してから最初に通信ストリームを受信した時点における、放送ストリームおよび通信ストリームから取得したタイムコードどうしを比較する。放送ストリームから取得したタイムコードを「第1のタイムコード」、通信ストリームから取得したタイムコードを「第2のタイムコード」と呼ぶこととする。
ここで、同期再生の指示が発生してから最初に通信ストリームを受信した時点における、放送ストリームの第1のタイムコードを"TCb0"、同期再生の指示が発生してから最初に受信した通信ストリームの第2のタイムコードを"TCi00"としてTCb0>TCi00の条件が成立するかどうかを判定する。
尚、ここでタイムコードは本来、時、分、秒、フレームの4値(TCh,TCm,TCs,TCf)で表現されるが、上記でTCb0とかTCi00と称しているのは4値から以下の式にてミリセカンド単位の1値に変換したものを想定する。
TC=(TCh×60+TCm)×60+TCs)×1000+TCf×1000/60
2.受信装置300は、上記の条件が成立する場合、"TCb0"と"TCi00"とのオフセットΔを次式により算出する。
TCb0−TCi00=Δ ・・・(1)
3.受信装置300は、このオフセットΔでSTCを次式により調整する。
STC−Δ×90−m=STC´ ・・・(2)
ここでオフセットΔに90を掛けるのは、ミリ秒単位のオフセットΔをSTCと同じ90KHzのカウンタ値にマッピングするためである。mは例えば予め決められたマージンである。
4.STCの調整後、受信装置300は、上記最初に通信ストリームを受信した時点における、放送ストリームの映像のTSパケットに含まれるPTSが調整後のSTC´と一致したときデコード対象をデコードするとともに、この第1のタイムコード(TCb0)と同じ値の第2のタイムコード(TCi0)を有する通信ストリームの映像データをデコードする。以降、同様に放送ストリームと通信ストリームの同期再生が繰り返される。
以上の処理により、放送ストリームと通信ストリームとを同期して再生することができる。
[タイムコード]
次に、MPEG2(Moving Picture Experts Group phase 2)ビデオストリームにおけるタイムコードについて説明する。
図3はMPEG2ビデオストリームのタイムコードを説明する図である。
最上位層であるピクチャ層の最初には、Sequence_Headerが記述されている。Sequence_HeaderはMPEG2ビットストリームのシーケンスのヘッダデータを定義するものである。Sequence_Headerの後ろにはGOP_Header、Picture_Headerが記述されている。
GOP_Headerは、MPEGビットストリームのGOP(group_of_picture)層のヘッダデータを定義するものである。このGOP_Headerは、group_start_code、time_code、closed_gop、およびbroken_linkなどから構成される。
group_start_codeは、GOP層の開始同期コードを示すデータである。
time_codeは、GOPの先頭ピクチャのシーケンス先頭からの時間を示すタイムコードである。すなわち、time_codeはGOP(第1の単位)毎に付加されるタイムコードである。
closed_gopは、GOP内の画像が他のGOPから独立再生可能なことを示すフラグデータである。
broken_linkは、編集などのためにGOP内の先頭のBピクチャが正確に再生できないことを示すフラグデータである。
そしてtime_codeは、GOPの先頭ピクチャの提示時刻を示す時(hour)、分(minute)、秒(second)、フレーム(picture)などのデータで構成される。
図4はMPEG4−AVC(Advanced Video Coding)ビデオストリームのGOPの先頭のアクセスユニットの構成を示す図である。
AU delimiterは、ピクチャ境界位置を示す情報である。
SPS(Sequence Parameter Set)は、ビデオシーケンスに関するパラメータである。SPSは、具体的には、ピクチャ単位またはスライス単位の仮想バッファのバッファサイズやビットレート情報が含まれる。
PPS(Picture Parameter Set)は、当該ピクチャに関するパラメータである。
SEI(Supplemental Enhancement Information)は、デコードに関する補助的な情報を含む付加情報である。
Sliceは、アクセスユニットに含まれる1つのピクチャのデータである。
SEIはPicture timing SEIを含む。Picture timing SEIは、Slice(ピクチャのデータ)の復号化および表示のタイミングを示すタイミング情報である。
図5はMPEG4−AVCビデオストリームのGOPの先頭以外のアクセスユニットの構成を示す図である。
GOPの先頭以外のアクセスユニットは、AU delimiter、PPS、SEI、Sliceを含む。そしてSEIには、GOPの先頭のアクセスユニットと同様にPicture timing SEIが含まれている。
図6はPicture Timing SEIの構成を示す図である。Picture Timing SEIには、時(hour)、分(minute)、秒(second)、フレーム(n_frame)のデータが記述される。したがって、MPEG4−AVCビデオストリームにおいて、Picture Timing SEIはピクチャ毎の提示時刻を示すタイムコードである。すなわち、Picture Timing SEIは少なくともGOP毎に付加されるタイムコードである。
一般的にMPEG2ビデオストリームは、放送による映像の伝送に用いられ、MPEG4−AVCビデオストリームはインターネット(通信)による映像の伝送に用いられる。したがって、その場合には、MPEG2ビデオストリームのtime_codeは第1のタイムコード、MPEG4−AVCビデオストリームのPicture timing SEIは第2のタイムコードとして採用される。
[受信装置の構成]
図7は、本実施形態の受信装置300の構成を示すブロック図である。
受信装置300は、チューナ301(放送受信部)、放送用のDeMUX302、放送用の映像バッファ303、放送用の映像デコーダ304(第1の映像デコーダ)、STC生成部305(基準時刻生成部)、ネットワークI/F307(通信受信部)、HTMLブラウザ308、VODプレーヤ309、通信用のストリーミングバッファ310、通信用のDeMUX311、通信用の映像バッファ312、STC調整部313(調整部)、通信用の映像デコーダ314(第2の映像デコーダ)、映像マージャ315およびタイムコード処理部316を備える。
チューナ301は、ユーザにより選択されたチャンネルの放送ストリーム(第1の映像ストリーム)を受信し、トランスポートストリーム(TS:Transport Stream)を生成して放送用のDeMUX302に送出する。
放送用のDeMUX302は、トランスポートストリームのDeMUX処理を行い、映像のTSパケットを分離して映像ストリームとして放送用の映像バッファ303に供給するとともに、映像のTSパケットからPCRを抽出してSTC生成部305に供給する。
放送用の映像バッファ303は、放送用の映像デコーダ304に供給する映像ストリームをバッファリングする。
放送用の映像デコーダ304は、放送用の映像バッファ303から読み出された映像ストリームをSTC生成部305のSTCをタイムベースとしてデコードして映像マージャ315に映像信号を出力する。より具体的には、放送用の映像デコーダ304は、映像のTSパケットに付加されたPTS(Presentation Time Stamp)がSTCの値と一致するタイミンクでその映像が提示されるように、デコード開始および出力のタイミングを制御する。
また、放送用の映像デコーダ304は、放送と通信の同期再生を目的に、デコード対象の映像ストリームに付加されたタイムコード(第1のタイムコード)をタイムコード処理部316に定常的に供給する。
STC生成部305は、放送ストリームから抽出されたPCRを基準に27メガヘルツのSTCを生成し、放送用の映像デコーダ304などに供給する。STC生成部305は、STC調整部313からのSTC調整データをもとにSTCを調整することが可能である。
ネットワークI/F307は、HTML(HyperText Markup Language)ブラウザ308上で動作する放送連動型アプリケーションからVOD(Video On Demand)プレーヤ309への放送ストリームと通信ストリームの同期再生の指示が出されることによってVODプレーヤ309から与えられた通信ストリームの取得リクエストを、インターネットを通じて放送・通信設備100の配信サーバに送信し、配信サーバからの応答として、放送ストリームと同期して再生されるべき通信ストリーム(第2の映像ストリーム)を受信する。
通信用のストリーミングバッファ310は、受信した通信ストリームをバッファリングする。通信用のストリーミングバッファ310は、保持された通信ストリームを取り出して通信用のDeMUX311に供給する。
通信用のDeMUX311は、ストリーミングバッファ310から取り出された通信ストリームから映像のTSパケットを分離して映像ストリームとして通信用の映像バッファ312に供給する。
通信用の映像バッファ312は、通信用の映像デコーダ314に供給する映像ストリームをバッファリングする。
通信用の映像デコーダ314は、通信用の映像バッファ312より取り出された映像ストリームをデコードして、通信系の映像信号を映像マージャ315に供給する。
また、通信用の映像デコーダ314は、STCの調整を目的に、放送ストリームと通信ストリームの同期再生の指示の発生から最初に取得した映像データに含まれるタイムコード(第2のタイムコード)をタイムコード処理部316に供給する。
さらに、STCの調整以後、通信用の映像デコーダ314は、タイムコード処理部316より供給された第1のタイムコードと同じ値の第2のタイムコードをもつ通信ストリームの映像データ単位を通信用の映像バッファ312から取り出してデコードし、通信系の映像信号として映像マージャ315に出力する。
映像マージャ315は、放送系の映像信号と通信系の映像信号とをマージして提示用の映像信号を生成し、図示しないディスプレイに出力する。ここで、マージは、3D番組、マルチビュー番組、高解像度番組、音声吹き替えサービス番組など、番組素材の放送と通信への分離方法に対応した方法で行われる。
タイムコード処理部316は、放送ストリームと通信ストリームの同期再生の指示の発生から最初に通信用の映像デコーダ314より供給された第2のタイムコードと、放送用の映像デコーダ304より供給された最新の第1のタイムコードとを比較し、第2のタイムコードが第1のタイムコードよりも遅れている場合、その差分をSTC調整部313に供給する。
タイムコード処理部316は、STCの調整以後、放送ストリームと通信ストリームの同期再生を目的に、放送用の映像デコーダ304より供給された第1のタイムコードを通信用の映像デコーダ314に供給する。
ホストコントローラ317は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などで構成される。ROMにはCPUに実行させるプログラムやデータが固定的に記憶される。RAMにはROMに格納されたプログラムがロードされ、CPUはそのロードされたプログラムを実行する。
RAMにロードされたプログラムは、ホストコントローラ317を、少なくとも、STC生成部305、HTMLブラウザ308、VODプレーヤ309、タイムコード処理部316、STC調整部313として動作させる。ホストコントローラ317は、例えば、図示しないリモートコントローラを用いてユーザからの各種指示やデータの入力を受け付けることが可能である。なお、STC生成部305、タイムコード処理部316およびSTC調整部313はソフトウェアで構成されることに限定されるものではなく、ハードウェアとして構成されてもよい。
[放送ストリームと通信ストリームの同期処理]
次に、受信装置300において、放送の選局から放送ストリームと通信ストリームとの同期再生までの動作を説明する。
まず、受信装置300のユーザは、図示しないリモートコントローラなどを用いて放送チャンネルの選局を行う。リモートコントローラなどによって受け付けられたユーザからの選局情報はホストコントローラ317にて処理される。ホストコントローラ317は、ユーザからの選局情報に基づいてチューナ301を制御する。
チューナ301にて受信されたチャンネルの放送ストリームは放送用のDeMUX302に送出される。DeMUX302は、放送ストリームから映像のTSパケット、音声のTSパケット、SI(Service Information:番組配列情報)などのその他のTSパケットを分離する。放送用のDeMUX302にて分離された映像のTSパケットは映像ストリームとして放送用の映像バッファ303に供給され、ここで一旦保持される。
また、放送用のDeMUX302は、定常的に、映像のTSパケットからPCRを抽出してSTC生成部305に供給する。STC生成部305では、このPCRを基準に27メガヘルツのSTC(System Time Clock)が生成される。
放送用の映像デコーダ304は、放送用の映像バッファ303から読み出された映像ストリームをデコードし、映像信号を映像マージャ315に供給する。この際、放送用の映像デコーダ304は、映像のTSパケットがもつPTS(Program Clock Reference)とSTC生成部305から与えられるSTCとが一致したタイミンクで映像が提示されるように、当該映像ストリームのデコードおよび出力のタイミングを制御する。また、放送用の映像デコーダ304は、放送ストリームと通信ストリームの同期再生を目的に、デコード対象の映像ストリームに付加されているタイムコードをタイムコード処理部316に供給する。
本動作の一例として、チャンネルが選局された後、このチャンネルもしくは番組に関連付けられたアプリケーション(放送連動型アプリケーション)を受信装置300が放送または通信により取得し、実行する場合を想定する。この放送連動型アプリケーションは、放送ストリームと通信ストリームとの同期再生による、例えば、3D番組、マルチビュー番組、高解像度番組、音声吹き替えサービス番組などの視聴をユーザに促し、ユーザからの視聴の指示(放送ストリームと通信ストリームの同期再生の指示)を受けると、VODプレーヤ309に配信サーバに対する通信ストリームの取得リクエストを送信させるように受信装置300を機能させる。
なお、この放送連動型アプリケーションは、例えばHTML(Hyper Text Markup Language)文書、BML文書(Broadcast Markup Language)、MHEG文書(Multimedia and Hypermedia information coding)、Java(登録商標)スクリプト、静止画ファイル、動画ファイルなどで構成される。
VODプレーヤ309は、放送ストリームと通信ストリームの同期再生の指示を受けると、ネットワークI/F307を制御して、配信サーバにインターネットを通じて、選局中のチャンネルもしくは番組に関連付けられた通信ストリーム(放送ストリームと同期して再生されるべき通信ストリーム)の伝送をリクエストするとともに、タイムコード処理部316にオフセットΔの生成指示を与える。タイムコード処理部316は、この指示を受けると、通信用の映像デコーダ314からの第1のタイムコードの供給を待機する。
一方、リクエストに対して配信サーバから伝送された通信ストリームは、ネットワークI/F307を介して通信用のストリーミングバッファ310に蓄積される。ここで、通信用のストリーミングバッファ310は、通信ストリームの先頭の映像のTSパケットを保持後直ちに読み出して通信用のDeMUX311に供給する。
通信用のDeMUX311は、ストリーミングバッファ310より読み出された通信ストリームから映像のTSパケットを分離して通信用の映像バッファ312に供給する。
通信用の映像デコーダ314は、通信用の映像バッファ312から読み出された映像ストリームをデコードし、映像信号を映像マージャ315に供給する。この際、通信用の映像デコーダ314は、映像ストリームに含まれる第2のタイムコードを、放送ストリームと通信ストリームの同期再生の指示の発生から最初の第2のタイムコードとしてタイムコード処理部316に供給する。
ここで、通信用の映像デコーダ314より供給された最初の第2のタイムコードをTCi00、上記第2のタイムコードと同一タイミングにおいて放送用の映像デコーダ304より供給された第1のタイムコードをTCb0とする。タイムコード処理部316は、TCi00とTCb0とを比較し、TCb0>TCi00の条件が成立するかどうかを判定する。TCb0>TCi00が成立する場合とは、放送ストリームの映像データに対して、これに同期して再生されるべき通信ストリームの映像データが実際には時間的に遅れて受信されていることを意味する。
タイムコード処理部316は、TCb0>TCi00の条件が成立した場合、次式によりTCb0とTCi00とのオフセットΔを算出する。
TCb0−TCi00=Δ ・・・(1)
このオフセットΔの値はSTC調整部313に供給される。
具体的には、第1のタイムコードおよび第2のタイムコードは時、分、秒、フレームの組み合わせで表現されるため、
Δ=((TCbh×60+TCbm)×60+TCbs)×1000+TCbf×1000/60
−((TCih×60+TCim)×60+TCis)×1000+TCif×1000/60
によりミリ秒単位のオフセットΔが得られる。
ここで、TCbhは放送の時単位のタイムコード、TCbmは放送の分単位のタイムコード、TCbsは放送の秒単位のタイムコード、TCbfは放送のフレーム単位のタイムコードである。TCihは放送の時単位のタイムコード、TCimは通信の分単位のタイムコード、TCisは通信の秒単位のタイムコード、TCifは通信のフレーム単位のタイムコードである。
STC調整部313は、オフセットΔを受け取ると、STCの調整値STC´を次式により生成する。
STC−Δ×90−m=STC´ ・・・(2)
ここで、オフセットΔに90を掛けるのは、ミリ秒単位のオフセットΔをSTCと同じ90KHzのカウンタ値にマッピングするためである。mは予め決められたマージンである。
以上のように生成されたSTC´はSTC生成部305に供給され、STC生成部305はこのSTC´でリセットすることで、STCの調整が完了する。
次に、調整されたSTC´を用いて放送ストリームと通信ストリームとの同期再生を行う場合の動作を説明する。
放送用の映像デコーダ304は、デコード対象の映像ストリームに付加された第1のタイムコードを取り出してタイムコード処理部316に供給するとともに、当該映像ストリームをデコードして映像信号を映像マージャ315に供給する。
受信装置300は、放送ストリームの映像のTSパケットに含まれるPTSがSTC´と一致したとき、放送ストリームのデコード再生を再開する。また、通信用の映像デコーダ314は、タイムコード処理部316より取得された第1のタイムコード(TCb0)と同じ値の第2のタイムコード(TCi0)を有する映像ストリームの映像データ単位を通信用の映像バッファ312より取り出してデコードする。通信用の映像デコーダ314によって得られた映像信号は映像マージャ315に供給される。これにより、互いに同期した放送系の映像信号と通信系の映像信号が映像マージャ315に供給される。
映像マージャ315に、互いに同期した放送系の映像信号と通信系の映像信号が供給されることで、元の3D番組、マルチビュー番組、高解像度番組、音声吹き替えサービス番組などの番組が正しく復元される。
なお、TCb0>TCi00の条件が成立した場合にはSTCを調整することとしたが、TCb0<TCi00またはTCb0=TCi00が成立した場合にはSTCの調整は不要である。
また、調整後のSTC´は、このSTC´でデコードが行われた放送番組の終了と同時にもとのSTCに戻される。
図8は以上説明した放送の選局から放送ストリームと通信ストリームとの同期処理、さらには同期処理の終了までのタイムチャートである。
受信装置300において、STCがSTC´に更新されることによって映像ストリームのデコードの開始時刻がT1からT1´に後方へとずらされる。T1からT1´までの間、映像はフリーズ状態で表示される。そしてT1´の時刻から放送と通信それぞれの映像ストリームのデコードが同時に再開される。その後、番組が終了するまで、STC´を基準にデコードが行われる。番組が終了すると、STC´がSTCに戻され、PTSがSTCに一致するアクセスユニットにジャンプしてデコードが行われる。
<第2の実施形態>
上記の第1の実施形態では、放送用の映像デコーダ304が、デコード対象の映像ストリームに付加された第1のタイムコードをタイムコード処理部316に定常的に供給する。タイムコード処理部316は、STCの調整以後、放送ストリームと通信ストリームの同期再生を目的に、放送用の映像デコーダ304より供給された第1のタイムコードを通信用の映像デコーダ314に供給する。そして通信用の映像デコーダ314は、タイムコード処理部316より供給された第1のタイムコードと同じ値の第2のタイムコードをもつ通信ストリームの映像データ単位を通信用の映像バッファ312から取り出してデコードすることとした。
本技術は、このことに限定されるものではなく、STCの調整以後、放送用の映像デコーダおよび通信用の映像デコーダが、それぞれの映像のTSパケットに付加されたPTS(Presentation Time Stamp)が調整後のSTC´と一致するタイミンクでその映像が提示されるように、デコード開始および出力のタイミングを制御するようにしてもよい。
図9は、第2の実施形態の受信装置300Aの構成を示すブロック図である。
この受信装置300Aにおいて、タイムコード処理部316は、第1の実施形態と同様、放送ストリームと通信ストリームの同期再生の指示の発生から最初に通信用の映像デコーダ314Aより供給された第2のタイムコードと、放送用の映像デコーダ304Aより供給された最新の第1のタイムコードとを比較する。タイムコード処理部316は、第2のタイムコードが第1のタイムコードよりも遅れている場合、そのオフセットΔをSTC調整部313に供給する。
STC調整部313は、オフセットΔを受け取ると、STCの調整値STC´を生成し、この調整値STC´をSTC生成部305に与えることで、STC生成部305のSTCを調整する。
STCの調整後、放送用の映像デコーダ304Aは、放送ストリームの映像のTSパケットに付加されたPTS(Presentation Time Stamp)が調整されたSTC´の値と一致するタイミンクでその映像が提示されるように、デコード開始および出力のタイミングを制御する。
一方、通信用の映像デコーダ314Aも同様に、通信ストリームの映像のTSパケットに付加されたPTSが調整されたSTC´の値と一致するタイミンクでその映像が提示されるように、デコード開始および出力のタイミングを制御する。
したがって、本実施形態の受信装置300Aにおいても、通信ストリームが放送ストリームに対して遅れて受信された場合でも、各ストリームを良好に同期再生することができる。
<変形例1>
上記の第1の実施形態では、放送ストリームと通信ストリームとの同期再生の開始前に一度STCを調整するというものであるが、同期再生の開始以後もSTCの調整を行うようにしてよい。
同期再生の開始以後にSTCの調整を行う条件としては、例えば、
1.一定の時間周期(数分、数十分の周期)。
2.ストリーミングバッファ310に蓄えられた映像ストリームのサイズが一定値未満まで低下したとき。
3.通信用の映像バッファ312に蓄えられた映像ストリームのサイズが一定値未満まで低下したとき。
などが挙げられる。
但し、STCの調整は映像のフリーズ状態を誘発することから、あまり高い頻度で行うことは好ましくない。しかし、初回に一度のSTCの調整だけでは、インターネットの通信状況によっては、通信ストリームの受信が間に合わなくなる可能性がある。そこで、上記のように同期再生の開始以後もSTCの調整を行うことは、特に3D映像のように、放送ストリームと通信ストリームの両方の映像なしでは番組再生そのものが破綻してしまうような同期伝送システムにおいては有益である。
オフセットΔを計算する際に用いられるマージンmは通信ストリームの受信状況などに応じて可変としてもよい。すなわち、マージンが大きすぎると放送ストリームの表示のフリーズ時間が長くなり、視聴者に違和感を与える可能性が高くなる。逆に短すぎると、通信ストリームの欠落によって3D番組などの再生が破綻する可能性が高くなる。したがって、番組再生が破綻しない程度に必要最小限のマージンが通信ストリームの受信状況などに応じて動的に設定されることが望ましい。
以上の実施形態では、MPEG2ビデオストリームを放送による映像の伝送に利用し、MPEG4−AVCビデオストリームはインターネット(通信)による映像の伝送に利用することとした。本技術はこれに限定されない。例えば、MPEG2ビデオストリームを放送と通信による映像の伝送に利用してもよいし、MPEG4−AVCビデオストリームを放送と通信による映像の伝送に利用してもよい。
また、本技術は、タイムコードを映像データの所定の単位毎に付加するものであれば、MPEG2ビデオストリーム、MPEG4−AVCビデオストリーム以外のビデオストリームを利用することが可能である。
本技術は、上述の図示例にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
なお、本技術は以下のような構成も採ることができる。
(1) 第1の映像データの第1の単位毎に第1のタイムコードが付加された第1の映像ストリームを放送を通じて受信可能な放送受信部と、
前記第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも前記第1の単位毎に第2のタイムコードが付加された第2の映像ストリームをネットワークを通じて受信可能な通信受信部と、
前記第1の映像データを提示する処理のタイミングを生成するための基準時刻を生成する基準時刻生成部と、
予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出するタイムコード処理部と、
前記遅れ分を加味して前記基準時刻を調整する調整部と
を具備する受信装置。
(2)前記(1)に記載の受信装置であって、
請求項1に記載の受信装置であって、
前記第1の映像ストリームには提示時刻情報が付加され、
前記受信装置は、
前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、
前記通信受信部により受信された前記第2の映像ストリームをデコードする第2の映像デコーダと、をさらに具備し、
前記タイムコード処理部は、前記第1の映像デコーダによるデコード対象の前記第1の映像ストリームの前記第1の単位に付加された前記第1のタイムコードを取得して前記第2の映像デコーダに供給し、
前記第2の映像デコーダは、前記供給された前記第1のタイムコードと同じ値の前記第2のタイムコードが付加された前記第2の映像ストリームの前記第1の単位をデコードする
受信装置。
(3)前記(1)から(2)に記載のいずれかの受信装置であって、
前記調整部は、前記遅れ分に所定のマージンを付加した時間データで前記基準時刻を調整する
受信装置。
(4)前記(1)から(3)に記載のいずれかの受信装置であって、
前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成する
受信装置。
(5)前記(1)から(4)に記載のいずれかの受信装置であって、
前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成する
受信装置。
(6)前記(1)から(5)に記載のいずれかの受信装置であって、
前記第1の映像ストリームには、GOPの先頭ピクチャに前記第1のタイムコードが付加され、前記第2の映像ストリームには、ピクチャ毎に前記第2のタイムコードが付加されたものである。
受信装置。
(7)前記(1)に記載の受信装置であって、
前記第2の映像ストリームには提示時刻情報が付加され、
前記受信装置は、
前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、
前記通信受信部により受信された前記第2の映像ストリームを、当該第2の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第2の映像デコーダと、
をさらに具備する受信装置。
(8)前記(7)に記載の受信装置であって、
前記調整部は、前記遅れ分に所定のマージンを付加した時間データで前記基準時刻を調整する
受信装置。
(9)前記(7)から(8)に記載のいずれかの受信装置であって、
前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成する
受信装置。
(10)前記(7)から(9)に記載のいずれかの受信装置であって、
前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成する
受信装置。
(11)前記(7)から(10)に記載のいずれかの受信装置であって、
前記第1の映像ストリームには、GOPの先頭ピクチャに前記第1のタイムコードが付加され、前記第2の映像ストリームには、ピクチャ毎に前記第2のタイムコードが付加されたものである。
受信装置。
100…放送・通信設備
300…受信装置
301…チューナ
302…放送用のDeMUX
303…放送用の映像バッファ
304…放送用の映像デコーダ
305…STC生成部
307…ネットワークI/F
308…HTMLブラウザ
309…VODプレーヤ
310…ストリーミングバッファ
311…通信用のDeMUX
312…通信用の映像バッファ
313…STC調整部
314…通信用の映像デコーダ
315…映像マージャ
316…タイムコード処理部
317…ホストコントローラ

Claims (10)

  1. 第1の映像データの第1の単位毎に第1のタイムコードが付加された第1の映像ストリームを放送を通じて受信可能な放送受信部と、
    前記第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも前記第1の単位毎に第2のタイムコードが付加された第2の映像ストリームをネットワークを通じて受信可能な通信受信部と、
    前記第1の映像データを提示する処理のタイミングを生成するための基準時刻を生成する基準時刻生成部と、
    予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出するタイムコード処理部と、
    前記遅れ分を加味して前記基準時刻を調整する調整部と
    を具備する受信装置。
  2. 請求項1に記載の受信装置であって、
    前記第1の映像ストリームには提示時刻情報が付加され、
    前記受信装置は、
    前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、
    前記通信受信部により受信された前記第2の映像ストリームをデコードする第2の映像デコーダと、をさらに具備し、
    前記タイムコード処理部は、前記第1の映像デコーダによるデコード対象の前記第1の映像ストリームの前記第1の単位に付加された前記第1のタイムコードを取得して前記第2の映像デコーダに供給し、
    前記第2の映像デコーダは、前記供給された前記第1のタイムコードと同じ値の前記第2のタイムコードが付加された前記第2の映像ストリームの前記第1の単位をデコードする
    受信装置。
  3. 請求項2に記載の受信装置であって、
    前記タイムコード処理部は、少なくとも、前記放送ストリームの受信中に前記通信ストリームが最初に受信されたとき、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出する
    受信装置。
  4. 請求項3に記載の受信装置であって、
    前記調整部は、前記遅れ分に所定のマージンを付加した時間データで前記基準時刻を調整する
    受信装置。
  5. 請求項4に記載の受信装置であって、
    前記基準時刻生成部は、前記放送ストリームに付加された時刻参照値を用いて前記基準時刻を生成する
    受信装置。
  6. 請求項5に記載の受信装置であって、
    前記第1の映像ストリームには、GOPの先頭ピクチャに前記第1のタイムコードが付加され、
    前記第2の映像ストリームには、ピクチャ毎に前記第2のタイムコードが付加されたものである
    受信装置。
  7. 請求項1に記載の受信装置であって、
    前記第2の映像ストリームには提示時刻情報が付加され、
    前記受信装置は、
    前記放送受信部により受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第1の映像デコーダと、
    前記通信受信部により受信された前記第2の映像ストリームを、当該第2の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする第2の映像デコーダと、
    をさらに具備する受信装置。
  8. 放送受信部が、第1の映像データの第1の単位毎に第1のタイムコードが付加された第1の映像ストリームを放送を通じて受信し、
    通信受信部が、前記第1の映像データに対して同期して再生されるべき第2の映像データの少なくとも前記第1の単位毎に第2のタイムコードが付加された第2の映像ストリームをネットワークを通じて受信し、
    タイムコード処理部が、予め決められたタイミングで、前記受信された第1の映像ストリームに付加された前記第1のタイムコードと前記第2の映像ストリームに付加された前記第2のタイムコードを取得し、前記第1のタイムコードに対する前記第2のタイムコードの遅れ分を算出し、
    調整部が、前記遅れ分を加味して前記第1の映像ストリームを提示する処理のタイミングを生成するための基準時刻を調整する
    同期処理方法。
  9. 請求項8に記載の同期処理方法であって、
    前記基準時刻の調整後、前記タイムコード処理部が、第1の映像デコーダによるデコード対象の前記第1の映像ストリームの前記第1の単位に付加された前記第1のタイムコードを取得して第2の映像デコーダに供給し、
    前記第2の映像デコーダが、前記供給された前記第1のタイムコードと同じ値の前記第2のタイムコードが付加された前記第2の映像ストリームの前記第1の単位をデコードする
    同期処理方法。
  10. 請求項8に記載の同期処理方法であって、
    前記基準時刻の調整後、第1の映像デコーダが、前記受信された前記第1の映像ストリームを、当該第1の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードし、
    前記基準時刻の調整後、第2の映像デコーダが、前記受信された前記第2の映像ストリームを、当該第2の映像ストリームに付加された前記提示時刻情報と前記基準時刻とが一致したタイミングで提示するようにデコードする
    同期処理方法。
JP2014520906A 2012-06-22 2013-06-05 受信装置およびその同期処理方法 Active JP6313704B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014520906A JP6313704B2 (ja) 2012-06-22 2013-06-05 受信装置およびその同期処理方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012140938 2012-06-22
JP2012140938 2012-06-22
PCT/JP2013/003527 WO2013190789A1 (ja) 2012-06-22 2013-06-05 受信装置およびその同期処理方法
JP2014520906A JP6313704B2 (ja) 2012-06-22 2013-06-05 受信装置およびその同期処理方法

Publications (2)

Publication Number Publication Date
JPWO2013190789A1 true JPWO2013190789A1 (ja) 2016-02-08
JP6313704B2 JP6313704B2 (ja) 2018-04-18

Family

ID=49768404

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014520906A Active JP6313704B2 (ja) 2012-06-22 2013-06-05 受信装置およびその同期処理方法

Country Status (5)

Country Link
US (1) US10397633B2 (ja)
EP (1) EP2866457B1 (ja)
JP (1) JP6313704B2 (ja)
AR (1) AR091450A1 (ja)
WO (1) WO2013190789A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8560719B2 (en) * 2011-09-14 2013-10-15 Mobitv, Inc. Fragment server directed device fragment caching
US20150109413A1 (en) * 2013-10-21 2015-04-23 Electronics And Telecommunications Research Institute Video reception apparatus to provide hybrid service based on transport stream system target decoder model
KR20150057149A (ko) * 2013-11-18 2015-05-28 한국전자통신연구원 재전송망에 기초한 3d 방송 서비스 제공 시스템 및 방법
JP6127964B2 (ja) * 2013-12-26 2017-05-17 ソニー株式会社 信号切換装置および信号切換装置の動作制御方法
JP6178234B2 (ja) 2013-12-27 2017-08-09 日立マクセル株式会社 放送受信装置及び映像表示方法
US9414100B2 (en) 2014-03-31 2016-08-09 Arris Enterprises, Inc. Adaptive streaming transcoder synchronization
US10887644B2 (en) * 2015-09-01 2021-01-05 Sony Corporation Reception device, data processing method, and program
CN105516118B (zh) * 2015-12-03 2019-06-11 Tcl集团股份有限公司 一种基于非rtc智能电视的时间同步方法及系统
US10764473B2 (en) * 2016-01-14 2020-09-01 Disney Enterprises, Inc. Automatically synchronizing multiple real-time video sources
JP6546326B2 (ja) * 2018-07-27 2019-07-17 マクセル株式会社 放送受信装置及び映像表示方法
JP6908170B2 (ja) * 2019-03-26 2021-07-21 ソニーグループ株式会社 送信方法
JP7120399B2 (ja) 2020-07-29 2022-08-17 ソニーグループ株式会社 送信方法
CN114598909B (zh) * 2022-03-30 2023-12-01 青岛海信宽带多媒体技术有限公司 一种智能机顶盒及直播节目的时间轴显示方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008252831A (ja) * 2007-03-30 2008-10-16 Sharp Corp 放送受信装置、放送再送信装置、放送再送信方法、放送受信システム、制御プログラム、および制御プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2011166615A (ja) * 2010-02-12 2011-08-25 Nippon Telegr & Teleph Corp <Ntt> 映像同期装置、映像表示装置、映像同期方法及びプログラム
JP2012010009A (ja) * 2010-06-23 2012-01-12 Nippon Hoso Kyokai <Nhk> 送信装置、サーバ装置、および受信装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1032815A (ja) * 1996-07-16 1998-02-03 Toshiba Corp 画面合成装置
US6587505B1 (en) * 1998-08-31 2003-07-01 Canon Kabushiki Kaisha Image processing apparatus and method
US6512552B1 (en) * 1999-03-29 2003-01-28 Sony Corporation Subpicture stream change control
EP1158799A1 (en) * 2000-05-18 2001-11-28 Deutsche Thomson-Brandt Gmbh Method and receiver for providing subtitle data in several languages on demand
US7346698B2 (en) * 2000-12-20 2008-03-18 G. W. Hannaway & Associates Webcasting method and system for time-based synchronization of multiple, independent media streams
JP4380930B2 (ja) * 2001-03-19 2009-12-09 株式会社東芝 オーディオ・ビデオ復号再生装置とその同期再生方法
US9948977B2 (en) * 2003-01-09 2018-04-17 Avago Technologies General Ip (Singapore) Pte. Ltd. System, method, and apparatus for determining presentation time for picture without presentation time stamp
CN1868213B (zh) * 2003-09-02 2010-05-26 索尼株式会社 内容接收设备、视频/音频输出定时控制方法及内容提供系统
JP2005123789A (ja) * 2003-10-15 2005-05-12 Matsushita Electric Ind Co Ltd Av同期システム
JP2005159592A (ja) 2003-11-25 2005-06-16 Nippon Hoso Kyokai <Nhk> コンテンツ送信装置およびコンテンツ受信装置
KR100526189B1 (ko) * 2004-02-14 2005-11-03 삼성전자주식회사 트랜스코딩 전후에 타이밍 파라미터를 일정하게유지시키는 트랜스코딩 시스템 및 방법
JP4229035B2 (ja) * 2004-09-28 2009-02-25 ソニー株式会社 記録再生装置および方法、再生装置および方法、記録装置および方法、並びにプログラム
US8140954B2 (en) * 2005-06-05 2012-03-20 International Business Machines Corporation System and method for providing on demand captioning of broadcast programs
JP2007013714A (ja) * 2005-06-30 2007-01-18 Toshiba Corp 情報再生装置及び情報再生方法
CN100442858C (zh) * 2005-10-11 2008-12-10 华为技术有限公司 分组网络中多媒体实时传输的唇同步方法及其装置
JP2008005112A (ja) * 2006-06-21 2008-01-10 Matsushita Electric Ind Co Ltd ストリームエンコーダ及びストリームデコーダ
KR100905723B1 (ko) * 2006-12-08 2009-07-01 한국전자통신연구원 비실시간 기반의 디지털 실감방송 송수신 시스템 및 그방법
WO2009157078A1 (ja) 2008-06-26 2009-12-30 富士通マイクロエレクトロニクス株式会社 映像音声データ出力装置および映像音声データ出力方法
JP4409611B2 (ja) * 2008-08-04 2010-02-03 シャープ株式会社 放送受信装置、放送受信方法、制御プログラム、および制御プログラムを記録したコンピュータ読み取り可能な記録媒体
KR101535827B1 (ko) * 2008-12-05 2015-07-27 삼성전자주식회사 무선 통신 네트워크에서 오디오 및 비디오 동기화 장치 및 방법
KR101164857B1 (ko) * 2008-12-19 2012-07-11 한국전자통신연구원 비실시간으로 3차원 입체 방송을 제공하기 위한 방송 송수신 시스템 및 방법
JP2011066871A (ja) * 2009-08-21 2011-03-31 Sony Corp コンテンツ伝送方法及び表示装置
JP2011123195A (ja) 2009-12-09 2011-06-23 Fuji Xerox Co Ltd 定着装置及び画像形成装置
KR101797497B1 (ko) * 2010-04-04 2017-11-15 엘지전자 주식회사 방송 신호로 전송되는 비실시간 방송 서비스 및 콘텐트 처리 방법 및 장치
KR20120010785A (ko) * 2010-07-27 2012-02-06 대양롤랜트 주식회사 하우징 일체형 다중 베어링 유닛
KR101831775B1 (ko) * 2010-12-07 2018-02-26 삼성전자주식회사 멀티미디어 컨텐츠를 송수신하는 송신 장치 및 수신 장치와, 그 재생 방법
EP2498494A1 (en) * 2011-03-11 2012-09-12 Thomson Licensing Decoder and method at the decoder for synchronizing the rendering of contents received through different networks
US9179118B2 (en) * 2011-05-12 2015-11-03 Intel Corporation Techniques for synchronization of audio and video
CN103125123B (zh) * 2011-08-11 2017-04-26 松下知识产权经营株式会社 再现装置、再现方法、集成电路、广播系统及广播方法
JP5132808B1 (ja) * 2011-10-11 2013-01-30 株式会社東芝 デジタル放送録画再生装置およびデジタル放送録画再生方法
JP5121993B1 (ja) * 2011-10-11 2013-01-16 株式会社東芝 コンテンツ処理装置、及びコンテンツ同期方法
JP5903924B2 (ja) 2012-02-17 2016-04-13 ソニー株式会社 受信装置および字幕処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008252831A (ja) * 2007-03-30 2008-10-16 Sharp Corp 放送受信装置、放送再送信装置、放送再送信方法、放送受信システム、制御プログラム、および制御プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2011166615A (ja) * 2010-02-12 2011-08-25 Nippon Telegr & Teleph Corp <Ntt> 映像同期装置、映像表示装置、映像同期方法及びプログラム
JP2012010009A (ja) * 2010-06-23 2012-01-12 Nippon Hoso Kyokai <Nhk> 送信装置、サーバ装置、および受信装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
松村欣司 他: "Hybridcastの概要と技術", NHK技研R&D, JPN6013043412, 15 November 2010 (2010-11-15), JP, pages 10 - 17, ISSN: 0003595834 *
松村欣司 他: "放送と同期したIPストリーミングによる番組拡張サービスの試作", 2010年映像情報メディア学会年次大会講演予稿集, JPN6013043411, 2 August 2010 (2010-08-02), JP, pages 10 - 5, ISSN: 0003595833 *

Also Published As

Publication number Publication date
US20150135247A1 (en) 2015-05-14
EP2866457A1 (en) 2015-04-29
JP6313704B2 (ja) 2018-04-18
AR091450A1 (es) 2015-02-04
WO2013190789A1 (ja) 2013-12-27
EP2866457B1 (en) 2019-03-20
EP2866457A4 (en) 2015-11-04
US10397633B2 (en) 2019-08-27

Similar Documents

Publication Publication Date Title
JP6313704B2 (ja) 受信装置およびその同期処理方法
US11284142B2 (en) Reception method, transmission method, reception device, and transmission device
JP6333173B2 (ja) 受信装置および受信方法
JP5903924B2 (ja) 受信装置および字幕処理方法
CA2554306C (en) Synchronization and automation in an itv environment
US8760579B2 (en) Video display apparatus, video display system and video display method
KR20170074866A (ko) 수신 장치, 송신 장치, 및 데이터 처리 방법
KR20140022716A (ko) 화상 데이터 송신 장치, 화상 데이터 송신 방법 및 화상 데이터 수신 장치
KR20060134911A (ko) 콘텐츠 수신 장치, 비디오 오디오 출력 타이밍 제어 방법및 콘텐츠 제공 시스템
EP2485501B1 (en) Fast channel change companion stream solution with bandwidth optimization
US20120173668A1 (en) Content transmitting apparatus, content receiving apparatus, content transmission program, content reception program, content transmitting method, and content receiving method
JP2004297628A (ja) ストリーム切替装置およびその装置にコンテンツを提供する装置
US9426506B2 (en) Apparatuses for providing and receiving augmented broadcasting service in hybrid broadcasting environment
US8769562B2 (en) Digital broadcast method, data receiving device, and data transmitting device
EP2814256B1 (en) Method and apparatus for modifying a stream of digital content
JP2012169993A (ja) コンテンツ同期装置、コンテンツ同期方法及びコンテンツ同期プログラム
JP7125692B2 (ja) 放送サービス通信ネットワーク配信装置および方法
KR100802133B1 (ko) 오디오/비디오신호의 동기화를 위한 디지털신호 처리장치및 그의 방법
JP2012142798A (ja) ストリーム切替方法およびデジタル放送送出システム
CN114189737A (zh) 一种数字电视快速切台方法及数字电视
JP2005198105A (ja) 同期信号発生装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160530

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160530

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20171006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180323

R150 Certificate of patent or registration of utility model

Ref document number: 6313704

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150