JPWO2014115389A1 - ビデオ表示装置及びビデオ表示方法 - Google Patents

ビデオ表示装置及びビデオ表示方法 Download PDF

Info

Publication number
JPWO2014115389A1
JPWO2014115389A1 JP2014527381A JP2014527381A JPWO2014115389A1 JP WO2014115389 A1 JPWO2014115389 A1 JP WO2014115389A1 JP 2014527381 A JP2014527381 A JP 2014527381A JP 2014527381 A JP2014527381 A JP 2014527381A JP WO2014115389 A1 JPWO2014115389 A1 JP WO2014115389A1
Authority
JP
Japan
Prior art keywords
video
decoder
speed
encoded data
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014527381A
Other languages
English (en)
Inventor
山影 朋夫
朋夫 山影
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Publication of JPWO2014115389A1 publication Critical patent/JPWO2014115389A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/00007Time or data compression or expansion
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/005Reproducing at a different information rate from the information rate of recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4382Demodulation or channel decoding, e.g. QPSK demodulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/64315DVB-H
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/64322IP
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/00007Time or data compression or expansion
    • G11B2020/00072Time or data compression or expansion the compressed signal including a video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

実施形態によれば、ビデオ表示装置は、第1のデコーダと、第2のデコーダと、制御部と、表示部とを備える。第1のデコーダは、第1の伝送路を通じて第1のビデオ符号化データを受信し、第1のビデオ符号化データを第1の速度でデコードすることによって、第1のビデオを生成する。制御部は、第1のビデオ符号化データが第2のビデオ符号化データよりも早く受信される場合に、第2のデコーダの第2の時刻情報が第1のデコーダの第1の時刻情報に追いつくまでに第1の速度が1倍速未満となる期間が生じるように第1の速度を制御する。表示部は、第1のビデオ符号化データが第2のビデオ符号化データよりも早く受信される場合に、第2の時刻情報が第1の時刻情報に追いつくまで第1のビデオを第1の速度で表示する。

Description

実施形態は、ビデオのデコード及び表示に関する。
従来、ある種のビデオ伝送方式(例えば、デジタル放送など)において、ビデオ符号化データは専用の伝送路(例えば、電波(特に、放送波)の伝送路、専用回線など)を通じて伝送される。ビデオ符号化データは、ビデオ表示装置によって受信される。ビデオ表示装置は、例えば、専用の伝送路において生じる遅延が一定であることを仮定し、MPEG−2 Systems規格(ISO/IEC 13818−1)に記載されているSTD(Standeard Target Decoder)モデルに基づいてビデオ符号化データをデコード及び表示する。また、ビデオ表示装置は、例えば、受信したビデオ符号化データを逐次デコードし、デコードされたビデオをデコードされたビデオ用のバッファに保存し、保存されたビデオの表示動作を表示タイミングに基づいて制御することがある。尚、このビデオ表示装置の変形例として、デコードされたビデオ用のバッファにおけるオーバーフローの発生時にデコードを一時停止させることが知られている。
近年、インターネット(特に、公衆網)の広帯域化に伴い、ビデオ符号化データをインターネットを通じて伝送するビデオ伝送方式も運用されている。但し、インターネットは、専用の伝送路と比べて、伝送遅延が大きくなり易く、かつ、変化(ジッター)し易いという性質がある。インターネットのように伝送遅延が変化し易い伝送路からのビデオ符号化データをデコード及び表示する際には、ビデオ符号化データを保存する符号化データ用のバッファにおいてオーバーフローまたはアンダーフローが発生し易い。この問題に関して、符号化データ用のバッファの占有量に基づいて、デコーダの再生速度を制御することが知られている。例えば、符号化データ用のバッファの占有量が増加しつつある場合には再生速度は速くなるよう制御され、占有量が減少しつつある場合には再生速度が遅くなるよう制御される。
また、単一の伝送路ではなく複数の伝送路(例えば、放送波及びインターネット)を通じて伝送されるビデオ符号化データを同期してデコード及び表示することについて研究開発が進められている。しかしながら、一般的に、複数の伝送路において生じる伝送遅延は等量でないから、これらを通じて伝送されるビデオ符号化データを同期してデコード及び表示することは容易ではない。例えば、最も伝送遅延の大きい伝送路からのビデオ符号化データに同期して他のビデオ符号化データのデコード及び表示を開始することによって、これらのビデオ符号化データを同期してデコード及び表示することは可能となる。しかしながら、この技法によれば、ビデオの表示開始タイミングは最も伝送遅延の大きい伝送路に依存して決定されるので、特に受信対象の伝送路を切り替えた後の表示待ち時間が長くなる。この表示待ち時間に亘って、視聴者は受信対象の伝送路からのビデオを全く視聴できない。
特開2007−312122号公報 特開2012−205075号公報
実施形態は、複数の伝送路を通じてビデオ符号化データが伝送されるビデオ伝送方式においてビデオの表示待ち時間を短縮することを目的とする。
実施形態によれば、ビデオ表示装置は、第1のデコーダと、第2のデコーダと、制御部と、表示部とを備える。第1のデコーダは、第1の伝送路を通じて第1のビデオ符号化データを受信し、第1のビデオ符号化データを第1の速度でデコードすることによって、第1のビデオを生成する。第2のデコーダは、第1の伝送路とは異なる第2の伝送路を通じて第2のビデオ符号化データを受信し、第2のビデオ符号化データを第2の速度でデコードすることによって、第2のビデオを生成する。制御部は、第1のビデオ符号化データが第2のビデオ符号化データよりも早く受信される場合に、第2のデコーダの第2の時刻情報が第1のデコーダの第1の時刻情報に追いつくまでに第1の速度が1倍速未満となる期間が生じるように第1の速度を制御する。表示部は、第1のビデオ符号化データが第2のビデオ符号化データよりも早く受信される場合に、第2の時刻情報が第1の時刻情報に追いつくまで第1のビデオを第1の速度で表示する。
第1の実施形態に係るビデオ表示装置を例示するブロック図。 第1の実施形態に係るビデオ表示装置の動作を例示する図。 第1の実施形態に係るデコーダを例示するブロック図。 第4の実施形態に係るデコーダを例示するブロック図。 第1の実施形態に係るビデオ表示装置の動作を例示する図。 第2の実施形態に係るビデオ表示装置の動作を例示する図。 第3の実施形態に係るビデオ表示装置の動作を例示する図。 第5の実施形態に係るビデオ表示装置を例示するブロック図。 第5の実施形態に係るビデオ表示装置の動作を例示する図。 第5の実施形態に係るビデオ表示装置の動作を例示する図。 表示制御情報を例示する図。 第5の実施形態に係るビデオ表示装置の動作を例示する図。 第1の伝送路を通じて伝送されるビデオ符号化データをデコードすることによって生成されるビデオに含まれる画像を例示する図。 第2の伝送路を通じて伝送されるビデオ符号化データをデコードすることによって生成されるビデオに含まれる画像を例示する図。 図13A及び図13Bのビデオに含まれる画像に基づく画像を例示する図。 図13A及び図13Bのビデオに含まれる画像に基づく画像を例示する図。 図13A及び図13Bのビデオに含まれる画像に基づくサブ画像を例示する図。 第1の伝送路を通じて伝送されるビデオ符号化データをデコードすることによって生成されるビデオに含まれる画像を例示する図。 第2の伝送路を通じて伝送されるビデオ符号化データをデコードすることによって生成されるビデオに含まれる画像を例示する図。 図16A及び図16Bのビデオに含まれる画像に基づく画像を例示する図。 異なる2つの伝送路を通じて伝送されるビデオ符号化データをデコードすることによって生成されるビデオを例示する図。
以下、図面を参照しながら実施形態の説明が述べられる。尚、以降、説明済みの要素と同一または類似の要素には同一または類似の符号が付され、重複する説明は基本的に省略される。
以降の説明において、ビデオとは、画像(より正確には、動画像)を意味しているが、画像及びオーディオの一方または両方として読み替えられてもよい。同様に、ビデオの表示とは、画像の表示を意味しているが、画像の表示及びオーディオの出力の一方または両方として読み替えられてもよい。
(第1の実施形態)
図1に例示されるように、第1の実施形態に係るビデオ表示装置は、N個(Nは2以上の整数)のデコーダ110−1,・・・,110−j(jは2以上N未満の整数),・・・,110−Nと、復号タイミング制御部120と、ビデオ表示部130とを備える。図1のビデオ表示装置は、N個の異なる伝送路100−1,・・・,100−j,・・・,100−Nを通じて伝送されるビデオ符号化データを同期してデコード及び表示できる。尚、図1の例ではN=3であるが、Nは2であってもよいし4以上の整数であってもよい。
伝送路100−1は、図示されない送信装置から出力されるビデオ符号化データ10−1を伝送する。デコーダ110−1は、伝送路100−1を通じてビデオ符号化データ11−1を受信する。ビデオ符号化データ11−1は、伝送路100−1において伝送遅延が生じている点でビデオ符号化データ10−1とは区別される。
ここで、ビデオ符号化データ10−1(及びビデオ符号化データ11−1)は、例えばMPEG−2 Systems規格のTransport Streamであってもよい。或いは、ビデオ符号化データ10−1(及びビデオ符号化データ11−1)は、ストリームが到着する時刻情報と、当該ストリームの復号タイミング及び再生タイミングの情報とが格納されたマルチメディアコンテナであってもよい。尚、ビデオ符号化データ10−1(及びビデオ符号化データ11−1)は、メインストリームに記述されている時刻情報とサブストリームに記述されている時刻情報とが異なっている場合であっても同期表示を可能とするために両者の時刻情報のずれを補償するための情報が用意されるマルチメディアコンテナであってもよい。
デコーダ110−1は、ビデオ符号化データ11−1に含まれる時刻情報(例えば、MPEG−2 Systems規格におけるPCR(Program Clock Reference))に基づいて、デコーダ110−1内部のクロック(例えば、STC(System Time Clock)カウンタ)を制御する。デコーダ110−1は、クロックによって計時される時刻情報12−1(例えば、STCカウンタ値)を復号タイミング制御部120へ出力する。
デコーダ110−1は、復号タイミング制御部120から復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいてビデオ符号化データ11−1をデコードすることによってビデオ14−1を生成する。デコーダ110−1はビデオ14−1をビデオ表示部130へと出力する。
尚、上記説明において、伝送路100−1、デコーダ110−1、ビデオ符号化データ10−1、ビデオ符号化データ11−1、時刻情報12−1、復号タイミング制御情報13−1及びビデオ14−1は、伝送路100−j、デコーダ110−j、ビデオ符号化データ10−j、ビデオ符号化データ11−j、時刻情報12−j、復号タイミング制御情報13−j及びビデオ14−jと読み替えられてもよいし、伝送路100−N、デコーダ110−N、ビデオ符号化データ10−N、ビデオ符号化データ11−N、時刻情報12−N、復号タイミング制御情報13−N及びビデオ14−Nと読み替えられてもよい。
伝送路100−1,・・・,伝送路100−j,・・・,伝送路100−Nのうち少なくとも一部が、例えば、地上デジタル放送、BS(Broadcasting Satellite)デジタル放送またはCS(Communications Satellite)デジタル放送の伝送路であってもよいし、ケーブルテレビの伝送路であってもよい。或いは、伝送路100−1,・・・,伝送路100−j,・・・,伝送路100−Nのうち少なくとも一部が、専用網または公衆網に相当するIP(Internet Protocol)網であってもよい。
具体的には、伝送路100−1,・・・,伝送路100−j,・・・,伝送路100−Nのうちの任意のペアである第1の伝送路及び第2の伝送路は、以下に例示されるものであってよい。
第1の伝送路が、デジタル放送(即ち、地上デジタル放送、BSデジタル放送若しくはCSデジタル放送の伝送路、または、ケーブルテレビ)の伝送路であり、第2の伝送路はIP網であってもよい。
第1の伝送路及び第2の伝送路が、いずれも、デジタル放送の伝送路であって、物理レイヤにおいて異なってもよい。例えば、第1の伝送路が地上デジタル放送の伝送路であり、第2の伝送路がBSデジタル放送の伝送路であってもよい。
第1の伝送路及び第2の伝送路が、いずれも、デジタル放送の伝送路であって、物理レイヤにおいて共通するものの論理レイヤにおいて異なっていてもよい。例えば、第1の伝送路が地上デジタル放送のうちいわゆるフルセグ放送の伝送路であり、第2の伝送路が地上デジタル放送のうちいわゆるワンセグ放送の伝送路であってもよい。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。復号タイミング制御部120は、デコーダ(デコーダ110−1、デコーダ110−j及びデコーダ110−Nを含む)の動作状態に基づいて、デコーダ110−1を1倍速または1倍速未満の速度で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
具体的には、デコーダ110−1の動作開始時に他の全てのデコーダが動作しているならば、復号タイミング制御部120はデコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。他方、デコーダ110−1の動作開始時に他の少なくとも1つのデコーダが動作していないならば、復号タイミング制御部120は、デコーダ110−1を1倍速未満の速度で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。更に、デコーダ110−1が1倍速未満の速度で動作している間に1倍速で動作中の他のデコーダからの時刻情報が時刻情報12−1に追いつくと、復号タイミング制御部120はデコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
尚、上記説明において、デコーダ110−1、ビデオ符号化データ11−1、時刻情報12−1及び復号タイミング制御情報13−1は、デコーダ110−j、ビデオ符号化データ11−j、時刻情報12−j及び復号タイミング制御情報13−jと読み替えられてもよいし、デコーダ110−N、ビデオ符号化データ11−N、時刻情報12−N及び復号タイミング制御情報13−Nと読み替えられてもよい。
復号タイミング制御部120は、時刻情報12−1,・・・,時刻情報12−j,・・・,時刻情報12−Nを通じて、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を判定することができる。復号タイミング制御部120は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を示すデコーダ動作情報15をビデオ表示部130へと出力する。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nからビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを入力し、復号タイミング制御部120からデコーダ動作情報15を入力する。ビデオ表示部130は、デコーダ動作情報15を通じてデコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を検知できる。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nが1倍速で動作しているならば、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを1倍速で表示する。
例えば、ビデオ表示部130は、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの一部または全部に含まれる画像を組み合わせることによって生成される画像16を表示する。画像の組み合わせとは、オーバーレイであってもよいし、ブレンディングであってもよい。具体的には、サイズの異なる複数の画像をピクチャーインピクチャーで表示するための画像16が生成されてもよいし、画素数の異なる複数の画像がこれらの画素数を揃えられてから画素単位で加算されることによって1枚の画像16が生成されてもよい。
また、ビデオ表示部130は、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの一部に含まれる画像に基づくサブ画像17を出力してもよい。サブ画像17は、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの一部に含まれる画像を組み合わせたものであってもよいし、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nのいずれかに含まれる画像であってもよい。サブ画像17は、マルチディスプレイのための画像であり、画像16とは異なりサブディスプレイ(図示されない)に表示される。更に、ビデオ表示部130は、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの一部または全部に含まれるオーディオに基づくオーディオ18を出力してもよい。ここで、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの一部に含まれるオーディオがサラウンドチャンネル数を拡張するために使用されてもよい。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nのうち少なくとも1つが1倍速で動作していないならば、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nのうちいずれか1つを、対応するデコーダ(典型的には、最も早く動作を開始したデコーダ)の動作速度と同じ速度で表示する。
図1のビデオ表示装置の動作が図2及び図5に例示されている。これら図2及び図5の例では、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの伝送開始タイミングは同一であって、これらの表示タイミング(及び出力タイミング)も同一である。また、図5の例では、表示タイミング(及び出力タイミング)は、STCカウンタ値を用いて表現される。尚、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの表示タイミング(及び出力タイミング)は、異なっていてもよい。この場合には、例えばビデオ符号化データ間の表示タイミング(及び出力タイミング)のずれを示す付加情報が伝送されてもよい。
図2及び図5の例では、ビデオ14−1はベースとなるビデオに相当し、ビデオ14−Nはビデオ14−1と同期して表示される付加的なビデオに相当し、ビデオ14−jはビデオ14−1及びビデオ14−Nと同期して表示される付加的なビデオに相当するものとする。また、伝送路100−1における伝送遅延が最も小さく、伝送路100−jにおける伝送遅延が最も大きいものとする。
伝送路100−1における伝送遅延が最も小さいので、ビデオ符号化データ11−1はビデオ符号化データ11−j及びビデオ符号化データ11−Nに比べて早い時刻(0(1))にデコーダ110−1によって受信される。デコーダ110−1は、ビデオ符号化データ11−1に含まれる時刻情報に基づいて、デコーダ110−1内部のクロックを制御する。デコーダ110−1は、クロックによって計時される時刻情報12−1を復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。このときデコーダ110−j及びデコーダ110−Nが動作していないので、復号タイミング制御部120はデコーダ110−1をp倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。ここで、pは1未満の値である。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1をp倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、これを表示する。ここで、ビデオ14−1の表示速度は、デコーダ110−1の動作速度に依存するのでp倍速である。
伝送路100−Nにおける伝送遅延が2番目に小さいので、ビデオ符号化データ11−Nはビデオ符号化データ11−jに比べて早い時刻(0(N))にデコーダ110−Nによって受信される。デコーダ110−Nは、ビデオ符号化データ11−Nに含まれる時刻情報に基づいて、デコーダ110−N内部のクロックを制御する。デコーダ110−Nは、クロックによって計時される時刻情報12−Nを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−Nから時刻情報12−Nを入力する。このときデコーダ110−jが動作していないので、復号タイミング制御部120はデコーダ110−Nをq倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。ここで、qは1未満の値である。尚、qは、pより大きくてもよいが、好ましくはp以下である。q≦pの場合には、デコーダ110−jの時刻情報12−jがデコーダ110−1(即ち、表示中のビデオ14−1)の時刻情報12−1に追いつくよりも前に、当該時刻情報12−jがデコーダ110−Nの時刻情報12−Nに追いつく。
デコーダ110−Nは、復号タイミング制御情報13−Nを入力する。デコーダ110−Nは、復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−Nをq倍速でデコードすることによってビデオ14−Nを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−Nを入力する。但し、時刻情報12−Nが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−Nを表示しない(ビデオ14−Nの表示時刻に表示が完了したものとして扱い、ビデオ14−Nを破棄する)。
伝送路100−jにおける伝送遅延が最も大きいので、ビデオ符号化データ11−jは最も遅い時刻(0(j))にデコーダ110−jによって受信される。デコーダ110−jは、ビデオ符号化データ11−jに含まれる時刻情報に基づいて、デコーダ110−j内部のクロックを制御する。デコーダ110−jは、クロックによって計時される時刻情報12−jを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−jから時刻情報12−jを入力する。このときデコーダ110−1及びデコーダ110−Nが動作しているので、復号タイミング制御部120はデコーダ110−jを1倍速で動作させるための復号タイミング制御情報13−jをデコーダ110−jへと出力する。
デコーダ110−jは、復号タイミング制御情報13−jを入力する。デコーダ110−jは、復号タイミング制御情報13−jに基づいて、ビデオ符号化データ11−jを1倍速でデコードすることによってビデオ14−jを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−jを入力する。但し、時刻情報12−jが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−jを表示しない(ビデオ14−jの表示時刻に表示が完了したものとして扱い、ビデオ14−jを破棄する)。
前述の通り、q<1である。従って、デコーダ110−jの動作後のある時刻(T1(N))に時刻情報12−jが時刻情報12−Nに追いつく。T1(N)は、q、伝送路100−jにおける伝送遅延及び伝送路100−Nにおける伝送遅延によって決まる。このとき、復号タイミング制御部120は、デコーダ110−Nを1倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。
デコーダ110−Nは、復号タイミング制御情報13−Nを入力する。デコーダ110−Nは、復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−Nを1倍速でデコードすることによってビデオ14−Nを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−Nを入力する。但し、時刻情報12−N(時刻情報12−jと等しい)が時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−Nを表示しない(ビデオ14−Nの表示時刻に表示が完了したものとして扱い、ビデオ14−Nを破棄する)。
前述の通り、p<1である。従って、デコーダ110−jの動作後のある時刻(T1(j))に時刻情報12−j及び時刻情報12−Nが時刻情報12−1に追いつく。T1(j)は、p、伝送路100−1における伝送遅延及び伝送路100−jにおける伝送遅延によって決まる。このとき、復号タイミング制御部120は、デコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1を1倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力する。このとき、デコーダ110−1、デコーダ110−j及びデコーダ110−Nは1倍速で動作しているので、ビデオ表示部130はビデオ14−1、ビデオ14−j及びビデオ14−Nを1倍速で表示する。
本実施形態に係るデコーダ(例えば、図1のデコーダ110−1、デコーダ110−j及びデコーダ110−Nに相当する)が図3に例示される。尚、図3において、包括的な説明を述べるために、「−1」、「−j」「−N」などの添え字が省略されている。
デコーダ110は、分離部111と、STCカウンタ112と、画像バッファ113と、画像デコーダ114と、画像表示バッファ115とを備える。デコーダ110は、必要に応じて、オーディオバッファ116と、オーディオデコーダ117と、オーディオ出力バッファ118とを更に備えてもよい。以降の説明では、デコーダ110は、オーディオバッファ116と、オーディオデコーダ117と、オーディオ出力バッファ118とを備えているものとする。
分離部111は、ビデオ符号化データ11を伝送路(例えば、図1の伝送路100−1、伝送路100−jまたは伝送路100−N)から入力する。ビデオ符号化データ11には、例えば、時刻情報19(例えば、PCR)、画像符号化データ20(例えば、ビデオPES(Packetized Elementary Stream)に対応する)、オーディオ符号化データ24(例えば、オーディオPESに対応する)などが多重化されている。分離部111は、ビデオ符号化データ11を分離(逆多重化)することによって、時刻情報19、画像符号化データ20及びオーディオ符号化データ24を得る。分離部111は、時刻情報19をSTCカウンタ112へと出力し、画像符号化データ20を画像バッファ113へと出力し、オーディオ符号化データ24をオーディオバッファ116へと出力する。
STCカウンタ112は、計時動作時には、クロックをカウントすることによって時刻情報12を得る。STCカウンタ112は、時刻情報12を、復号タイミング制御部(例えば、図1の復号タイミング制御部120)、画像表示バッファ115、ならびに、オーディオ出力バッファ118へと出力する。STCカウンタ112による計時動作は、分離部111からの時刻情報19によって制御される。例えば、STCカウンタ112が計時動作を停止している間に時刻情報19としてのPCRが最初に入力されると、当該PCRが初期時刻としてロードされると共にSTCカウンタ112は計時動作を開始する。更に、STCカウンタ112は、計時動作の開始後に入力された時刻情報19としてのPCRに基づいて時刻情報12を補正することもできる。
STCカウンタ112は、復号タイミング制御部(例えば、図1の復号タイミング制御部120)から復号タイミング制御情報13を入力する。STCカウンタ112の計時動作の速度は、復号タイミング制御情報13によって制御される。復号タイミング制御情報13は、デコーダ110の動作速度を1倍速または1倍速未満の速度に制御するためのものである。
MPEG−2 Systems規格によれば、STCカウンタ112の通常の動作周波数(即ち、時刻情報12がカウントアップされる周波数)は27MHzである。STCカウンタ112は、デコーダ110を例えば1/2倍速で動作させるために、STCカウンタ112の動作周波数を通常の半分である13.5MHzに変更してもよい。或いは、STCカウンタ112は、デコーダ110を例えば1/2倍速で動作させるために、時刻情報12を2クロック毎にカウントアップしてもよい。
画像バッファ113は、分離部111から画像符号化データ20を入力し、これを保存する。画像バッファ113に保存された画像符号化データ20は、画像デコーダ114によって必要に応じて読み出される。
画像デコーダ114は、画像バッファ113に保存された画像符号化データ20を必要に応じて読み出し、これをデコードすることによって画像22及び表示時刻情報を得る。画像デコーダ114は、デコードされた画像22及び表示時刻情報を画像表示バッファ115へと出力する。尚、画像デコーダ114は、画像表示バッファ115からデコード一時停止信号23を入力すると、デコードを停止する。
画像表示バッファ115は、画像デコーダ114から画像22及び表示時刻情報を入力し、これらを保存する。画像表示バッファ115は、STCカウンタ112からの時刻情報12の示す時刻が表示時刻情報の示す時刻に達すると、当該表示時刻情報に対応する画像22をビデオ表示部(例えば、図1のビデオ表示部130)へと出力する。画像表示バッファ115から出力された画像22は、ビデオ表示部によって表示されるか否かに関わらず、画像表示バッファ115から削除される。
更に、画像表示バッファ115は、占有量に基づいて、デコード一時停止信号23を画像デコーダ114へと出力できる。例えば、画像表示バッファ115は、占有量がフルに達すると、デコード一時停止信号23を画像デコーダ114へと出力する。係る動作によれば、画像表示バッファ115のオーバーフローを予防することができる。尚、時間経過に伴って画像22及び表示時刻情報が画像表示バッファ115から削除されると画像表示バッファ115の占有量が低下するので、画像表示バッファ115はデコード一時停止信号23を解除する。この結果、画像デコーダ114は、画像符号化データ20のデコードを再開できる。
オーディオバッファ116は、分離部111からオーディオ符号化データ24を入力し、これを保存する。オーディオバッファ116に保存されたオーディオ符号化データ24は、オーディオデコーダ117によって必要に応じて読み出される。
オーディオデコーダ117は、オーディオバッファ116に保存されたオーディオ符号化データ24を必要に応じて読み出し、これをデコードすることによってオーディオ27及び出力時刻情報を得る。オーディオデコーダ117は、デコードされたオーディオ27及び出力時刻情報をオーディオ出力バッファ118へと出力する。尚、オーディオデコーダ117は、オーディオ出力バッファ118からデコード一時停止信号26を入力すると、デコードを停止する。
オーディオ出力バッファ118は、オーディオデコーダ117からオーディオ27及び出力時刻情報を入力し、これらを保存する。オーディオ出力バッファ118は、STCカウンタ112からの時刻情報12の示す時刻が出力時刻情報の示す時刻に達すると、当該出力時刻情報に対応するオーディオ27をビデオ表示部(例えば、図1のビデオ表示部130)へと出力する。オーディオ出力バッファ118から出力されたオーディオ27は、ビデオ表示部によって出力されるか否かに関わらず、オーディオ出力バッファ118から削除される。
更に、オーディオ出力バッファ118は、占有量に基づいて、デコード一時停止信号26をオーディオデコーダ117へと出力できる。例えば、オーディオ出力バッファ118は、占有量がフルに達すると、デコード一時停止信号26をオーディオデコーダ117へと出力する。係る動作によれば、オーディオ出力バッファ118のオーバーフローを予防することができる。尚、時間経過に伴ってオーディオ27及び出力時刻情報がオーディオ出力バッファ118から削除されるとオーディオ出力バッファ118の占有量は低下するので、オーディオ出力バッファ118はデコード一時停止信号26を解除する。この結果、オーディオデコーダ117は、オーディオ符号化データ24のデコードを再開できる。
ここで、画像バッファ113、画像表示バッファ115、オーディオバッファ116及びオーディオ出力バッファ118の容量は、ビデオ符号化データ11と他のビデオ符号化データとの間の伝送遅延差を考慮して定められることが好ましい。例えば、デコーダ110が1倍速未満の速度で動作する期間が長い(即ち、伝送遅延差が大きい)ほど、画像バッファ113、画像表示バッファ115、オーディオバッファ116及びオーディオ出力バッファ118の容量は大きく設計されてもよい。
以上説明したように、第1の実施形態に係るビデオ表示装置は、複数の伝送路を通じてビデオ符号化データが伝送されるビデオ伝送方式において、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信すると、当該ビデオ符号化データを1倍速未満の速度でデコード及び表示する。従って、このビデオ表示装置によれば、複数の伝送路のうちの最小の伝送遅延によってビデオの表示待ち時間が決まる。例えば、図2及び図5の例であれば、最も小さな伝送遅延(0(1))から所定の処理遅延を経たタイミングでビデオを表示することが可能であって、このタイミングは他の伝送遅延(0(j)及び0(N))に左右されない。即ち、このビデオ表示装置によれば、係るビデオ伝送方式において、ビデオの表示待ち時間を短縮化すること(即ち、ビデオの表示待ち時間を、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信する場合と同程度にすること)が可能である。
(第2の実施形態)
第2の実施形態に係るビデオ表示装置は、図1に例示されたビデオ表示装置において復号タイミング制御部120及びビデオ表示部130の動作を変形したものである。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。復号タイミング制御部120は、デコーダ(デコーダ110−1、デコーダ110−j及びデコーダ110−Nを含む)の動作状態に基づいて、デコーダ110−1を1倍速または1倍速未満の速度で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
具体的には、デコーダ110−1の動作開始時に他の少なくとも1つのデコーダが動作しているならば、復号タイミング制御部120はデコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。他方、デコーダ110−1の動作開始時に他の全てのデコーダが動作していないならば、復号タイミング制御部120は、デコーダ110−1をp倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。ここで、pは1未満の値である。
また、あるデコーダ(便宜的に、第1のデコーダと称される)がp倍速で動作している間に、1倍速で動作中の他のデコーダ(便宜的に、第2のデコーダと称される)からの時刻情報が第1のデコーダからの時刻情報に追いつくと、復号タイミング制御部120はデコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を判定する。第2のデコーダを除く全てのデコーダ(第1のデコーダを含む)がp倍速で動作している場合には、復号タイミング制御部120はこれらのデコーダを1倍速で動作させるための復号タイミング制御情報をこれらのデコーダへと出力する。他方、第2のデコーダを除く少なくとも1つのデコーダが1倍速で動作している場合には、復号タイミング制御部120は第2のデコーダをp倍速で動作させるための復号タイミング制御情報を第2のデコーダへと出力する。
尚、上記説明において、デコーダ110−1、ビデオ符号化データ11−1、時刻情報12−1及び復号タイミング制御情報13−1は、デコーダ110−j、ビデオ符号化データ11−j、時刻情報12−j及び復号タイミング制御情報13−jと読み替えられてもよいし、デコーダ110−N、ビデオ符号化データ11−N、時刻情報12−N及び復号タイミング制御情報13−Nと読み替えられてもよい。
復号タイミング制御部120は、時刻情報12−1,・・・,時刻情報12−j,・・・,時刻情報12−Nを通じて、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を判定することができる。復号タイミング制御部120は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を示すデコーダ動作情報15をビデオ表示部130へと出力する。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nからビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを入力し、復号タイミング制御部120からデコーダ動作情報15を入力する。ビデオ表示部130は、デコーダ動作情報15を通じてデコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を検知できる。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの全てが1倍速で動作している(即ち、全てのデコーダからの時刻情報が同期している)ならば、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを1倍速で表示する。ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの表示技法は第1の実施形態と同一または類似であってよい。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nのうち少なくとも1つがp倍速で動作している(即ち、少なくとも1つのデコーダからの時刻情報が他のp倍速で動作中のデコーダからの時刻情報に追いついていない)ならば、このデコーダからのビデオをp倍速で表示する。
本実施形態に係るビデオ表示装置の動作が図6に例示されている。図6の例では、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの伝送開始タイミングは同一であって、これらの表示タイミング(及び出力タイミング)も同一である。また、図6の例では、表示タイミング(及び出力タイミング)は、STCカウンタ値を用いて表現される。尚、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの表示タイミング(及び出力タイミング)は、異なっていてもよい。この場合には、例えばビデオ符号化データ間の表示タイミング(及び出力タイミング)のずれを示す付加情報が伝送されてもよい。
図6の例では、ビデオ14−1はベースとなるビデオに相当し、ビデオ14−Nはビデオ14−1と同期して表示される付加的なビデオに相当し、ビデオ14−jはビデオ14−1及びビデオ14−jと同期して表示される付加的なビデオに相当するものとする。また、伝送路100−1における伝送遅延が最も小さく、伝送路100−jにおける伝送遅延が最も大きいものとする。
伝送路100−1における伝送遅延が最も小さいので、ビデオ符号化データ11−1はビデオ符号化データ11−j及びビデオ符号化データ11−Nに比べて早い時刻(0(1))にデコーダ110−1によって受信される。デコーダ110−1は、ビデオ符号化データ11−1に含まれる時刻情報に基づいて、デコーダ110−1内部のクロックを制御する。デコーダ110−1は、クロックによって計時される時刻情報12−1を復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。このときデコーダ110−j及びデコーダ110−Nが動作していないので、復号タイミング制御部120はデコーダ110−1をp倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1をp倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、これを表示する。ここで、ビデオ14−1の表示速度は、デコーダ110−1の動作速度に依存するのでp倍速である。
伝送路100−Nにおける伝送遅延が2番目に小さいので、ビデオ符号化データ11−Nはビデオ符号化データ11−jに比べて早い時刻(0(N))にデコーダ110−Nによって受信される。デコーダ110−Nは、ビデオ符号化データ11−Nに含まれる時刻情報に基づいて、デコーダ110−N内部のクロックを制御する。デコーダ110−Nは、クロックによって計時される時刻情報12−Nを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−Nから時刻情報12−Nを入力する。このときデコーダ110−1が動作しているので、復号タイミング制御部120はデコーダ110−Nを1倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。
デコーダ110−Nは、復号タイミング制御情報13−Nを入力する。デコーダ110−Nは、復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−Nを1倍速でデコードすることによってビデオ14−Nを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−Nを入力する。但し、時刻情報12−Nが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−Nを表示しない(ビデオ14−Nの表示時刻に表示が完了したものとして扱い、ビデオ14−Nを破棄する)。
伝送路100−jにおける伝送遅延が最も大きいので、ビデオ符号化データ11−jは最も遅い時刻(0(j))にデコーダ110−jによって受信される。デコーダ110−jは、ビデオ符号化データ11−jに含まれる時刻情報に基づいて、デコーダ110−j内部のクロックを制御する。デコーダ110−jは、クロックによって計時される時刻情報12−jを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−jから時刻情報12−jを入力する。このときデコーダ110−1及びデコーダ110−Nが動作しているので、復号タイミング制御部120はデコーダ110−jを1倍速で動作させるための復号タイミング制御情報13−jをデコーダ110−jへと出力する。
デコーダ110−jは、復号タイミング制御情報13−jを入力する。デコーダ110−jは、復号タイミング制御情報13−jに基づいて、ビデオ符号化データ11−jを1倍速でデコードすることによってビデオ14−jを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−jを入力する。但し、時刻情報12−jが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−jを表示しない(ビデオ14−jの表示時刻に表示が完了したものとして扱い、ビデオ14−jを破棄する)。
前述の通り、p<1である。従って、デコーダ110−Nの動作後のある時刻(T1(N))に時刻情報12−Nが時刻情報12−1に追いつく。T1(N)は、p、伝送路100−1における伝送遅延及び伝送路100−Nにおける伝送遅延によって決まる。このとき、復号タイミング制御部120は、デコーダ110−Nをp倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。
デコーダ110−Nは、復号タイミング制御情報13−Nを入力する。デコーダ110−Nは、復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−Nをp倍速でデコードすることによってビデオ14−Nを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−Nを入力する。このとき、デコーダ110−1及びデコーダ110−Nがp倍速で動作し、デコーダ110−jが1倍速で動作しているので、ビデオ表示部130はビデオ14−1及びビデオ14−Nをp倍速で表示する。
前述の通り、p<1である。従って、デコーダ110−jの動作後のある時刻(T1(j))に時刻情報12−jが時刻情報12−1及び時刻情報12−Nに追いつく。T1(j)は、p、伝送路100−1における伝送遅延及び伝送路100−jにおける伝送遅延によって決まる。このとき、復号タイミング制御部120は、デコーダ110−1及びデコーダ110−Nを1倍速で動作させるための復号タイミング制御情報13−1及び復号タイミング制御情報13−Nをデコーダ110−1及びデコーダ110−Nへと出力する。
デコーダ110−1及びデコーダ110−Nは、復号タイミング制御情報13−1及び復号タイミング制御情報13−Nを入力する。デコーダ110−1及びデコーダ110−Nは、復号タイミング制御情報13−1及び復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−1及びビデオ符号化データ11−Nを1倍速でデコードすることによってビデオ14−1及びビデオ14−Nを生成し、これらをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1及びビデオ14−Nを入力する。このとき、デコーダ110−1、デコーダ110−j及びデコーダ110−Nは1倍速で動作しているので、ビデオ表示部130はビデオ14−1、ビデオ14−j及びビデオ14−Nを1倍速で表示する。
以上説明したように、第2の実施形態に係るビデオ表示装置は、複数の伝送路を通じてビデオ符号化データが伝送されるビデオ伝送方式において、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信すると、当該ビデオ符号化データを1倍速未満の速度(p倍速)でデコード及び表示する。従って、このビデオ表示装置によれば、複数の伝送路のうちの最小の伝送遅延によってビデオの表示待ち時間が決まる。例えば、図6の例であれば、最も小さな伝送遅延(0(1))から所定の処理遅延を経たタイミングでビデオを表示することが可能であり、このタイミングは他の伝送遅延(0(j)及び0(N))に左右されない。即ち、このビデオ表示装置によれば、係るビデオ伝送方式において、ビデオの表示待ち時間を短縮化すること(即ち、ビデオの表示待ち時間を、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信する場合と同程度にすること)が可能である。
更に、このビデオ表示装置は、伝送遅延が最小でない伝送路を通じてビデオ符号化データを受信すると、当該ビデオ符号化データを1倍速でデコードする。そして、1倍速で動作中の第2のデコーダからの時刻情報がp倍速で動作中の第1のデコーダからの時刻情報に追いつくと、このビデオ表示装置は第1のデコーダによってデコードされた第1のビデオに加えて第2のデコーダによってデコードされた第2のビデオを更に表示できる。故に、伝送遅延が最小でない伝送路を通じて受信されたビデオ(例えば、図6のビデオ14−N)についても早期の視聴が可能となる。
(第3の実施形態)
第2の実施形態に係るビデオ表示装置は、図1に例示されたビデオ表示装置において復号タイミング制御部120及びビデオ表示部130の動作を変形したものである。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。復号タイミング制御部120は、デコーダ(デコーダ110−1、デコーダ110−j及びデコーダ110−Nを含む)の動作状態に基づいて、デコーダ110−1を1倍速または1倍速未満の速度で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
具体的には、デコーダ110−1の動作開始時に、復号タイミング制御部120はデコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1が全てのデコーダの中で最初に動作を開始しているならば、復号タイミング制御部120は、ある時点で、デコーダ110−1を0倍速で動作(即ち、停止)させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。ある時点とは、例えばビデオ14−1のうち最初の画像がビデオ表示部130によって表示される時点であってもよいし、以降の任意の時点であってもよい。
デコーダ110−1が全てのデコーダの中で2番目以降に動作を開始しているならば、復号タイミング制御部120は、時刻情報12−1が最初に動作を開始した他のデコーダ(便宜的に、第1のデコーダと称される)からの時刻情報に追いつくと、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を判定する。デコーダ110−1を除く全てのデコーダ(第1のデコーダを含む)からの時刻情報が一致しているならば、復号タイミング制御部120はこれらのデコーダを1倍速で動作させるための復号タイミング制御情報をこれらのデコーダへと出力する。他方、デコーダ110−1を除く少なくとも1つのデコーダからの時刻情報が第1のデコーダからの時刻情報に一致していないならば、復号タイミング制御部120はデコーダ110−1を0倍速で動作(即ち、停止)させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
尚、上記説明において、デコーダ110−1、ビデオ符号化データ11−1、時刻情報12−1及び復号タイミング制御情報13−1は、デコーダ110−j、ビデオ符号化データ11−j、時刻情報12−j及び復号タイミング制御情報13−jと読み替えられてもよいし、デコーダ110−N、ビデオ符号化データ11−N、時刻情報12−N及び復号タイミング制御情報13−Nと読み替えられてもよい。
復号タイミング制御部120は、時刻情報12−1,・・・,時刻情報12−j,・・・,時刻情報12−Nを通じて、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を判定することができる。復号タイミング制御部120は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を示すデコーダ動作情報15をビデオ表示部130へと出力する。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nからビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを入力し、復号タイミング制御部120からデコーダ動作情報15を入力する。ビデオ表示部130は、デコーダ動作情報15を通じてデコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの動作状態を検知できる。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nの全てが1倍速で動作している(即ち、全てのデコーダからの時刻情報が同期している)ならば、ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nを1倍速で表示する。ビデオ14−1,・・・,ビデオ14−j,・・・,ビデオ14−Nの表示技法は第1の実施形態と同一または類似であってよい。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nのうち最初に動作開始したものが停止前に1倍速で動作しているならば、このデコーダからのビデオを1倍速で表示する。
ビデオ表示部130は、デコーダ110−1,・・・,デコーダ110−j,・・・,デコーダ110−Nのうち少なくとも1つが動作開始後に停止しているならば、このデコーダからのビデオを0倍速で表示する(例えば、静止画として表示する)。
本実施形態に係るビデオ表示装置の動作が図7に例示されている。図7の例では、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの伝送開始タイミングは同一であって、これらの表示タイミング(及び出力タイミング)も同一である。また、図7の例では、表示タイミング(及び出力タイミング)は、STCカウンタ値を用いて表現される。尚、ビデオ符号化データ10−1、ビデオ符号化データ10−j及びビデオ符号化データ10−Nの表示タイミング(及び出力タイミング)は、異なっていてもよい。この場合には、例えばビデオ符号化データ間の表示タイミング(及び出力タイミング)のずれを示す付加情報が伝送されてもよい。
図7の例では、ビデオ14−1はベースとなるビデオに相当し、ビデオ14−Nはビデオ14−1と同期して表示される付加的なビデオに相当し、ビデオ14−jはビデオ14−1及びビデオ14−jと同期して表示される付加的なビデオに相当するものとする。また、伝送路100−1における伝送遅延が最も小さく、伝送路100−jにおける伝送遅延が最も大きいものとする。
伝送路100−1における伝送遅延が最も小さいので、ビデオ符号化データ11−1はビデオ符号化データ11−j及びビデオ符号化データ11−Nに比べて早い時刻(0(1))にデコーダ110−1によって受信される。デコーダ110−1は、ビデオ符号化データ11−1に含まれる時刻情報に基づいて、デコーダ110−1内部のクロックを制御する。デコーダ110−1は、クロックによって計時される時刻情報12−1を復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−1から時刻情報12−1を入力する。このとき、復号タイミング制御部120はデコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1を1倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、これを表示する。ここで、ビデオ14−1の表示速度は、デコーダ110−1の動作速度に依存するので1倍速である。
デコーダ110−1が全てのデコーダの中で最初に動作を開始しているので、復号タイミング制御部120はある時点(T1(1))で、デコーダ110−1を0倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。更に、ビデオ表示部130は、デコーダ110−1が動作開始後に停止しているので、ビデオ14−1を0倍速で表示する。
伝送路100−Nにおける伝送遅延が2番目に小さいので、ビデオ符号化データ11−Nはビデオ符号化データ11−jに比べて早い時刻(0(N))にデコーダ110−Nによって受信される。デコーダ110−Nは、ビデオ符号化データ11−Nに含まれる時刻情報に基づいて、デコーダ110−N内部のクロックを制御する。デコーダ110−Nは、クロックによって計時される時刻情報12−Nを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−Nから時刻情報12−Nを入力する。このとき、復号タイミング制御部120はデコーダ110−Nを1倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。
デコーダ110−Nは、復号タイミング制御情報13−Nを入力する。デコーダ110−Nは、復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−Nを1倍速でデコードすることによってビデオ14−Nを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−Nを入力する。但し、時刻情報12−Nが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−Nを表示しない(ビデオ14−Nの表示時刻に表示が完了したものとして扱い、ビデオ14−Nを破棄する)。
伝送路100−jにおける伝送遅延が最も大きいので、ビデオ符号化データ11−jは最も遅い時刻(0(j))にデコーダ110−jによって受信される。デコーダ110−jは、ビデオ符号化データ11−jに含まれる時刻情報に基づいて、デコーダ110−j内部のクロックを制御する。デコーダ110−jは、クロックによって計時される時刻情報12−jを復号タイミング制御部120へと出力する。
復号タイミング制御部120は、デコーダ110−jから時刻情報12−jを入力する。このとき、復号タイミング制御部120はデコーダ110−jを1倍速で動作させるための復号タイミング制御情報13−jをデコーダ110−jへと出力する。
デコーダ110−jは、復号タイミング制御情報13−jを入力する。デコーダ110−jは、復号タイミング制御情報13−jに基づいて、ビデオ符号化データ11−jを1倍速でデコードすることによってビデオ14−jを生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−jを入力する。但し、時刻情報12−jが時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−jを表示しない(ビデオ14−jの表示時刻に表示が完了したものとして扱い、ビデオ14−jを破棄する)。
前述の通り、デコーダ110−1は停止している。従って、デコーダ110−Nの動作後のある時刻(T1(N))に時刻情報12−Nが時刻情報12−1に追いつく。T1(N)は、伝送路100−1における伝送遅延及び伝送路100−Nにおける伝送遅延によって決まる。このとき、時刻情報12−jが時刻情報12−1に追いついていないので、復号タイミング制御部120はデコーダ110−Nを0倍速で動作させるための復号タイミング制御情報13−Nをデコーダ110−Nへと出力する。更に、ビデオ表示部130は、デコーダ110−1及びデコーダ110−Nが動作開始後に停止しているので、ビデオ14−1及びビデオ14−Nを0倍速で表示する。
前述の通り、デコーダ110−1及びデコーダ110−Nは停止している。従って、デコーダ110−jの動作後のある時刻(T1(j))に時刻情報12−jが時刻情報12−1及び時刻情報12−Nに追いつく。T1(j)は、伝送路100−1における伝送遅延及び伝送路100−jにおける伝送遅延によって決まる。このとき時刻情報12−1及び時刻情報12−Nは一致しているので、復号タイミング制御部120はデコーダ110−1及びデコーダ110−Nを1倍速で動作させるための復号タイミング制御情報13−1及び復号タイミング制御情報13−Nをデコーダ110−1及びデコーダ110−Nへと出力する。
デコーダ110−1及びデコーダ110−Nは、復号タイミング制御情報13−1及び復号タイミング制御情報13−Nを入力する。デコーダ110−1及びデコーダ110−Nは、復号タイミング制御情報13−1及び復号タイミング制御情報13−Nに基づいて、ビデオ符号化データ11−1及びビデオ符号化データ11−Nを1倍速でデコードすることによってビデオ14−1及びビデオ14−Nを生成し、これらをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1及びビデオ14−Nを入力する。このとき、デコーダ110−1、デコーダ110−j及びデコーダ110−Nは1倍速で動作しているので、ビデオ表示部130はビデオ14−1、ビデオ14−j及びビデオ14−Nを1倍速で表示する。
以上説明したように、第3の実施形態に係るビデオ表示装置は、複数の伝送路を通じてビデオ符号化データが伝送されるビデオ伝送方式において、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信すると、当該ビデオ符号化データを1倍速でデコード及び表示する。従って、このビデオ表示装置によれば、複数の伝送路のうちの最小の伝送遅延によってビデオの表示待ち時間が決まる。例えば、図7の例であれば、最も小さな伝送遅延(0(1))から所定の処理遅延を経たタイミングでビデオを表示することが可能であり、このタイミングは他の伝送遅延(0(j)及び0(N))に左右されない。即ち、このビデオ表示装置によれば、係るビデオ伝送方式において、ビデオの表示待ち時間を短縮化すること(即ち、ビデオの表示待ち時間を、伝送遅延の最も小さい伝送路を通じてビデオ符号化データを受信する場合と同程度にすること)が可能である。
また、このビデオ表示装置は、伝送遅延が最小でない伝送路を通じてビデオ符号化データを受信すると、当該ビデオ符号化データを1倍速でデコードする。そして、1倍速で動作中の第2のデコーダからの時刻情報が停止中の第1のデコーダからの時刻情報に追いつくと、このビデオ表示装置は第1のデコーダによってデコードされた第1のビデオに加えて第2のデコーダによってデコードされた第2のビデオを更に(例えば、静止画として)表示できる。故に、伝送遅延が最小でない伝送路を通じて受信されたビデオ(例えば、図7のビデオ14−N)についても早期の視聴が可能となる。
更に、このビデオ表示装置は、伝送遅延の最も小さい伝送路を通じて受信されたビデオ符号化データのデコード及び表示をある時点で停止させる。そして、このビデオ表示装置は、全てのデコーダからの時刻情報が一致してから、上記ビデオ符号化データのデコード及び表示を再開する。従って、このビデオ表示装置によれば、伝送遅延の最も大きい伝送路からビデオ符号化データを受信するデコーダは、他のデコーダと速やかに同期できる。即ち、早期に全部のビデオを表示することが可能となる。
(第4の実施形態)
第4の実施形態に係るビデオ表示装置は、第1乃至第3の実施形態に係るビデオ表示装置と比べて、デコーダの詳細において異なる。第4の実施形態に係るビデオ表示装置の動作は、第1乃至第3の実施形態に係るビデオ表示装置と同一または類似であってよい。
本実施形態に係るデコーダが図4に例示される。尚、図4において、包括的な説明を述べるために、「−1」、「−j」「−N」などの添え字が省略されている。デコーダ210は、分離部111と、STCカウンタ212と、画像バッファ113と、画像デコーダ214と、画像表示バッファ215とを備える。デコーダ210は、必要に応じて、オーディオバッファ116と、オーディオデコーダ217と、オーディオ出力バッファ218とを更に備えてもよい。以降の説明では、デコーダ210は、オーディオバッファ116と、オーディオデコーダ217と、オーディオ出力バッファ218とを備えているものとする。図4に示される分離部111、画像バッファ113及びオーディオバッファ116は、図3に示されたものと同一または類似である。
STCカウンタ212は、計時動作時には、クロックをカウントすることによって時刻情報12を得る。STCカウンタ212は、時刻情報12を、復号タイミング制御部(例えば、図1の復号タイミング制御部120)、画像デコーダ214、画像表示バッファ215、オーディオデコーダ217、ならびに、オーディオ出力バッファ218へと出力する。STCカウンタ212による計時動作は、分離部111からの時刻情報19によって制御される。例えば、STCカウンタ212が計時動作を停止している間に時刻情報19としてのPCRが最初に入力されると、当該PCRが初期時刻としてロードされると共にSTCカウンタ212は計時動作を開始する。更に、STCカウンタ212は、計時動作の開始後に入力された時刻情報19としてのPCRに基づいて時刻情報12を補正することもできる。
STCカウンタ212は、復号タイミング制御部(例えば、図1の復号タイミング制御部120)から復号タイミング制御情報13を入力する。STCカウンタ212の計時動作の速度は、復号タイミング制御情報13によって制御される。
MPEG−2 Systems規格によれば、STCカウンタ212の通常の動作周波数(即ち、時刻情報12がカウントアップされる周波数)は27MHzである。STCカウンタ212は、デコーダ210を例えば1/2倍速で動作させるために、STCカウンタ212の動作周波数を通常の半分である13.5MHzに変更してもよい。或いは、STCカウンタ212は、デコーダ210を例えば1/2倍速で動作させるために、時刻情報12を2クロック毎にカウントアップしてもよい。
画像デコーダ214は、画像バッファ113に保存された画像符号化データ20を必要に応じて読み出し、これをデコードすることによって画像22及び表示時刻情報を得る。具体的には、画像デコーダ214は、STCカウンタ212からの時刻情報12の示す時刻が復号時刻情報(DTS:Decoding Time Stamp)の示す時刻に達すると、当該DTSに対応する画像符号化データ20をデコードする。DTSは、デコード単位(例えば、フレーム、フィールドなど)に付随して符号化されていることもあれば、過去のデコード結果に基づいて推定されることもある。画像デコーダ214は、デコードされた画像22及び表示時刻情報を画像表示バッファ215へと出力する。
画像表示バッファ215は、画像デコーダ214から画像22及び表示時刻情報を入力し、これらを保存する。画像表示バッファ215は、STCカウンタ212からの時刻情報12の示す時刻が表示時刻情報の示す時刻に達すると、当該表示時刻情報に対応する画像22をビデオ表示部(例えば、図1のビデオ表示部130)へと出力する。画像表示バッファ215から出力された画像22は、ビデオ表示部によって表示されるか否かに関わらず、画像表示バッファ215から削除される。
オーディオデコーダ217は、オーディオバッファ116に保存されたオーディオ符号化データ24を必要に応じて読み出し、これをデコードすることによってオーディオ27及び出力時刻情報を得る。具体的には、オーディオデコーダ217は、STCカウンタ212からの時刻情報12の示す時刻がPTS(Presentation Time Stamp)の示す時刻に達すると、当該PTSに対応するオーディオ符号化データ24をデコードする。尚、MPEG−2 Systems規格によれば、オーディオに関してPTS=復号時刻情報(DTS)が成立する。PTSは、デコード単位(例えば、オーディオフレーム)に付随して符号化されていることもあれば、過去のデコード結果に基づいて推定されることもある。オーディオデコーダ217は、デコードされたオーディオ27及び出力時刻情報をオーディオ出力バッファ218へと出力する。
オーディオ出力バッファ218は、オーディオデコーダ217からオーディオ27及び出力時刻情報を入力し、これらを保存する。オーディオ出力バッファ218は、STCカウンタ212からの時刻情報12の示す時刻が出力時刻情報の示す時刻に達すると、当該出力時刻情報に対応するオーディオ27をビデオ表示部(例えば、図1のビデオ表示部130)へと出力する。オーディオ出力バッファ218から出力されたオーディオ27は、ビデオ表示部によって出力されるか否かに関わらず、オーディオ出力バッファ218から削除される。
ここで、画像バッファ113及びオーディオバッファ116の容量は、ビデオ符号化データ11と他のビデオ符号化データとの間の伝送遅延差及び符号化遅延差、ならびに、各伝送路における伝送遅延のジッターなどを考慮して定められることが好ましい。例えば、デコーダ210が1倍速未満の速度で動作する期間が長い(即ち、伝送遅延差が大きい)ほど、画像バッファ113及びオーディオバッファ116の容量が大きく設計されてもよい。
また、ジッターが考慮されたよりも大きくなると、画像バッファ113及びオーディオバッファ116は一時的にオーバーフローまたはアンダーフローするおそれがある。そこで、例えば、画像バッファ113及びオーディオバッファ116がアンダーフローするおそれがある場合には、ビデオを1倍速未満の速度で表示することでアンダーフローが予防されてもよい。他方、画像バッファ113及びオーディオバッファ116がオーバーフローするおそれがある場合には、ビデオを1倍速よりも大きな速度で表示することでオーバーフローが予防されてもよい。画像バッファ113及びオーディオバッファ116がアンダーフローまたはオーバーフローするおそれがあるか否かは、例えばこれらのバッファの占有量、当該占有量の変化などに基づいて判定できる。
概括すれば、図4のデコーダ210は、図3のデコーダ110と以下の点で異なる。
図3のデコーダ110において、画像デコーダ114及びオーディオデコーダ117の動作速度は時刻情報12によって直接的には制御されない。しかしながら、画像表示バッファ115及びオーディオ出力バッファ118から画像22及びオーディオ27が削除される速度は時刻情報12ならびに表示時刻情報(及び出力時刻情報)によって制御される。更に、画像表示バッファ115及びオーディオ出力バッファ118は占有量に基づいてデコード一時停止信号23及びデコード一時停止信号26を画像デコーダ114及びオーディオデコーダ117へと出力する。従って、画像デコーダ114及びオーディオデコーダ117の動作速度は時刻情報12よって間接的に制御されることになる。他方、図4のデコーダ210において、画像デコーダ214及びオーディオデコーダ217の動作速度は時刻情報12及び復号時刻情報によって制御される。
以上説明したように、第4の実施形態に係るビデオ表示装置において、画像デコーダ及びオーディオデコーダの動作速度は、STCカウンタからの時刻情報ならびに復号時刻情報によって制御される。従って、このビデオ表示装置によれば、ビデオ表示バッファ及びオーディオ出力バッファは、デコード一時停止信号を出力する機能を必要としない。また、このビデオ表示装置は、前述の第1乃至第3の実施形態と同一または類似の動作をすることで、これらの実施形態と同一または類似の効果を得ることができる。
尚、前述の第1乃至第4の実施形態において、ビデオ表示装置は全てのデコーダの時刻情報が同期してから全てのビデオを1倍速で表示している。しかしながら、一部の伝送路の品質が低い(例えば、伝送誤り率が非常に高い、伝送遅延が非常に大きいなど)場合には、全てのデコーダの時刻情報が同期するまでに長時間を要してビデオの視聴に支障をきたすおそれがある。そこで、ビデオ表示装置は、例えば伝送路の品質が閾値を下回る場合に当該伝送路からのビデオ符号化データを一時的に無視してもよい。即ち、ビデオ表示装置は、低品質の伝送路からビデオ符号化データを受信するデコーダを除く全てのデコーダの時刻情報が同期していればこれらのデコーダからのビデオを1倍速で表示してもよい。尚、このような動作後に、無視されていた伝送路の品質が改善して正常な受信が可能となれば、ビデオ表示装置はこの伝送路からビデオ符号化データを受信するデコーダを同期の対象として復帰させてもよい。
(第5の実施形態)
図8に例示されるように、第5の実施形態に係るビデオ表示装置は、2個のデコーダ110−1,110−2と、復号タイミング制御部320と、ビデオ表示部130と、制御情報解釈部340とを備える。図8のビデオ表示装置は、2個の異なる伝送路100−1,100−2を通じて伝送されるビデオ符号化データを同期してデコード及び表示できる。尚、図8の例では、伝送路の数は2個であるが、伝送路の数は3個以上であってもよい。
制御情報解釈部340は、ユーザ情報28及び表示制御情報29のうち少なくとも一方を入力する。制御情報解釈部340は、ユーザ情報28及び表示制御情報29のうち少なくとも一方を解釈することによって、ビデオ14−1及びビデオ14−2の表示状態に関する制御情報30を得る。制御情報解釈部340は、制御情報30を復号タイミング制御部320へと出力する。
ユーザ情報28は、ユーザからの操作情報であってもよいし、ユーザの属性情報であってもよい。例えば、ユーザからの操作情報は、ビデオ14−1及びビデオ14−2を同期して表示することの指示であってもよいし、ビデオ14−1及びビデオ14−2のいずれか一方の表示を終了することの指示であってもよい。
また、ユーザからの操作情報は、ビデオ14−1以外の複数のビデオ(サブコンテンツと呼ぶこともできる)からビデオ14−1に同期して表示されるサブコンテンツを選択する指示であってもよいし、表示しないサブコンテンツを選択する指示であってもよい。制御情報解釈部340は、係るサブコンテンツを選択する指示に相当するユーザ操作を受理するための情報(例えば、GUI(Graphical User Interface))をユーザに提示してもよい。
ビデオ表示装置は、いずれのサブコンテンツが同期表示のために選択されるかに関わらず全てのサブコンテンツを受信してもよいし、同期して表示されるサブコンテンツが選択される毎に当該サブコンテンツの伝送を図示されない送信装置に要求してもよい。これら複数のサブコンテンツは、同一の伝送路を通じて伝送されてもよいし、相異なる伝送路を通じて伝送されてもよい。複数のサブコンテンツをビデオ14−1に同期して表示する場合には、復号タイミング制御部320は、前述の第1乃至第3の実施形態において説明されたように、最も伝送遅延の大きな伝送路を基準に各デコーダの動作速度を調整する。最も伝送遅延の大きな伝送路を介して受信されるサブコンテンツがビデオ14−1に同期するまで、他のサブコンテンツは、破棄されてもよいし、ビデオ14−1に追いついた後に当該ビデオ14−1に同期して表示されてもよい。
ユーザの属性情報は、例えば、ユーザの年齢、性別、趣味、嗜好、過去の視聴履歴、過去の購買履歴などのユーザプロファイルを含んでもよい。また、ユーザの属性情報は、現在の視聴者の構成情報(例えば、人数、年齢構成、性別構成などの複数のユーザ間の関係を示す情報)を含んでもよい。制御情報解釈部340は、ユーザの属性情報に基づいて、ビデオ14−1以外の複数のサブコンテンツからビデオ14−1に同期して表示されるサブコンテンツを自動的に選択してもよいし、表示しないサブコンテンツを自動的に選択してもよい。
表示制御情報29は、コンテンツ(即ち、伝送路100−1及び伝送路100−2の少なくとも一方を通じて伝送されるビデオ符号化データ)に明示的または暗黙的に付随する制御情報である。例えば、表示制御情報29は、ビデオ14−2が、ビデオ14−1と同期して表示される時刻を示す情報を含むことができる。
復号タイミング制御部320は、制御情報解釈部340から制御情報30を入力する。復号タイミング制御部320は、制御情報30に従って、ビデオ14−1及びビデオ14−2を同期して表示させるようにデコーダ110−1及びデコーダ110−2を制御してもよいし、ビデオ14−1及びビデオ14−2のいずれか一方の表示を終了させるようにデコーダ110−1及びデコーダ110−2を制御してもよい。具体的には、復号タイミング制御部320は、デコーダ110−1及びデコーダ110−2から時刻情報12−1及び時刻情報12−2を入力し、当該時刻情報12−1及び時刻情報12−2に基づいて、デコーダ110−1及びデコーダ110−2を適切な速度(これは、制御情報30、伝送路100−1及び伝送路100−2の伝送遅延差、などによって決まる)で動作させるための復号タイミング制御情報13−1及び復号タイミング制御情報13−2をデコーダ110−1及びデコーダ110−2へと出力する。
例えば、ビデオ14−1が表示されていてビデオ14−2が表示されていない時にビデオ14−1及びビデオ14−2を同期して表示することを指示する制御情報30が入力されたものの時刻情報12−2が時刻情報12−1に比べて遅れている場合には、復号タイミング制御部320は、時刻情報12−1及び時刻情報12−2が同期するまでデコーダ110−1を1倍速未満の速度で動作させてもよい。
尚、ビデオ14−1が、例えば、シーンチェンジ、暗転、無音などの特定の状況に該当する場合に、当該ビデオ14−1の表示が一時的に停止されてもよい。これら特定の状況に該当するビデオ14−1はその表示期間の変化がユーザに知覚されにくいので、当該ビデオ14−1の表示を一時的に停止することにより、ユーザに与える違和感を抑制しつつビデオ14−1の表示遅延を大きくすることが可能となる。
また、復号タイミング制御部320がデコーダ110−1を1倍速未満の速度で動作させる場合に、この速度が一定である必要はない。例えば、デコーダ110−1の動作速度は、1倍速→0.9倍速→0.8倍速→0.9倍速→1倍速のように段階的に変化してもよい。デコーダ110−1の動作速度を段階的に変化させることにより、ユーザに与える違和感を抑制しつつビデオ14−1の表示遅延を大きくすることが可能となる。
ビデオ14−1及びビデオ14−2が同期して表示されている時にビデオ14−2の表示を終了することを指示する制御情報30が入力されると、復号タイミング制御部320は、デコーダ110−2の動作を停止させてもよいし、デコーダ110−2の動作を維持しつつビデオ14−2をビデオ表示部130に破棄させてもよい。伝送路100−2の伝送遅延が伝送路100−1の伝送遅延に比べて大きい場合に、ビデオ14−1が単独で表示されている時の表示遅延は、ビデオ14−1及びビデオ14−2が同期して表示されている時の表示遅延に比べて小さくすることが可能である。故に、復号タイミング制御部320は、ビデオ14−1の表示遅延を小さくするために、デコーダ110−1を1倍速よりも大きな速度で動作させてもよい。
尚、ビデオ14−1が、例えば、シーンチェンジ、暗転、無音などの特定の状況に該当する場合に、当該ビデオ14−1の表示がスキップされてもよい。これら特定の状況に該当するビデオ14−1はその表示期間の変化がユーザに知覚されにくいので、当該ビデオ14−1の表示をスキップすることにより、ユーザに与える違和感を抑制しつつビデオ14−1の表示遅延を小さくすることが可能となる。
また、復号タイミング制御部320がデコーダ110−1を1倍速よりも大きな速度で動作させる場合に、この速度が一定である必要はない。例えば、デコーダ110−1の動作速度は、1倍速→1.1倍速→1.2倍速→1.1倍速→1倍速のように段階的に変化してもよい。デコーダ110−1の動作速度を段階的に変化させることにより、ユーザに与える違和感を抑制しつつビデオ14−1の表示遅延を小さくすることが可能となる。
復号タイミング制御部320は、制御情報30と、ビデオ14−1及びビデオ14−2の現行の表示状態(これは、時刻情報12−1及び時刻情報12−2に基づいて判定可能である)とに基づいて、デコーダ110−1及びデコーダ110−2の動作状態を判定することができる。復号タイミング制御部320は、デコーダ110−1及びデコーダ110−2の動作状態を示すデコーダ動作情報15をビデオ表示部130へと出力する。
ビデオ表示部130は、デコーダ110−1及びデコーダ110−2からビデオ14−1及びビデオ14−2を入力し、復号タイミング制御部320からデコーダ動作情報15を入力する。ビデオ表示部130は、デコーダ動作情報15を通じてデコーダ110−1及びデコーダ110−2の動作状態を検知できる。ビデオ表示部130は、デコーダ110−1及びデコーダ110−2が共に1倍速で動作しており、かつ、ビデオ14−1及びビデオ14−2を同期して表示する必要がある場合には、以下に例示されるように動作できる。
例えば、ビデオ表示部130は、ビデオ14−1及びビデオ14−2に含まれる画像を組み合わせることによって生成される画像16を表示する。画像の組み合わせとは、オーバーレイであってもよいし、ブレンディングであってもよい。具体的には、ビデオ表示部130は、ビデオ14−1に含まれる画像(図13A)及びビデオ14−2に含まれる画像(図13B)をピクチャーインピクチャーで表示するための画像16(図14)を生成してもよい。図14の例によれば、ユーザは、ビデオ14−1と、当該ビデオ14−1とは異なるアングルまたは画角で撮影されたビデオ14−2とを同時に視聴することができる。
ビデオ表示部130は、ビデオ14−1に含まれる画像(図13A)に基づく画像16(図15A)と、ビデオ14−2に含まれる画像(図13B)に基づくサブ画像17(図15B)とを表示してもよい。サブ画像17は、マルチディスプレイのための画像であり、画像16が表示されるディスプレイ(例えば、TVなど)とは異なるサブディスプレイ(例えば、タブレット端末、スマートフォンなど)に表示される。
ビデオ表示部130は、ビデオ14−1及びビデオ14−2の一部または全部に含まれるオーディオに基づくオーディオ18を出力してもよい。ここで、ビデオ14−1及びビデオ14−2の一部に含まれるオーディオがサラウンドチャンネル数を拡張するために使用されてもよい。
ビデオ表示部130は、ビデオ14−1に含まれる画像(図16A)とビデオ14−2に含まれる画像(図16B)とを加算することによって1枚の画像16(図17)を生成してもよい。図17の例によれば、ビデオ14−1に含まれる画像をそのまま画像16として表示する場合に比べて、画像16の画質、解像度、色域、フレームレートなどを向上させることができる。尚、図16Aの画像及び図16Bの画像が解像度において異なる場合には、ビデオ表示部130は、これらの画素数を揃えてから画素単位で加算することによって1枚の画像16を生成してもよいし、これらの画素数を揃えることなく画素単位で加算することによって1枚の画像16を生成してもよい。
例えば、サッカーの試合中継では、限られた解像度の下で選手の表情などを視聴者に伝えるために当該選手にズームアップした画像が撮影されることがある。ビデオ14−2に含まれる画像の撮影範囲がビデオ14−1に含まれる画像の撮影範囲よりも広いならば、ビデオ表示部130は、これらを同期して表示することによって、ビデオ14−1に含まれる画像の画質、解像度、色域、フレームレートなどを損なうことなくビデオ14−2に含まれる画像と撮影範囲が同一の画像16を生成することができる。即ち、ユーザは、ビデオ14−1の内容に加えてビデオ14−1に写っていない周辺部分(例えば、サッカーの試合中継においてズームアップされた選手の周辺の様子)も視聴できる。尚、ビデオ14−2のうちビデオ14−1と撮影範囲の重複する領域については、差分情報に置き換えられてもよいし、空白であってもよい(この場合には、ビデオ14−1が当該領域にはめ込み合成されてもよい)。
図18に例示されるように、ビデオ14−1がCMを含む番組コンテンツである場合に、ビデオ14−2は当該CMの差し替え用のCMであってもよい。ビデオ表示部130が必要に応じてCMの表示期間に亘ってビデオ14−1及びビデオ14−2を同期して表示する(例えば、ビデオ14−1の代わりにビデオ14−2に含まれる画像に基づく画像16を表示する)ことにより、ユーザは所望のCMを選択視聴できる。
図8のビデオ表示装置の動作が、図9及び図10に例示される。これら図9及び図10の例では、ビデオ符号化データ10−1及びビデオ符号化データ10−2の伝送開始タイミングは同一であって、これらの表示タイミング(及び出力タイミング)も同一である。尚、ビデオ符号化データ10−1及びビデオ符号化データ10−2の表示タイミング(及び出力タイミング)は、異なっていてもよい。この場合には、例えばビデオ符号化データ間の表示タイミング(及び出力タイミング)のずれを示す付加情報が伝送されてもよい。
図9及び図10の例では、ビデオ14−1はベースとなるビデオに相当し、ビデオ14−2はビデオ14−1と同期して表示される付加的なビデオに相当するものとする。また、伝送路100−1における伝送遅延d1が、伝送路100−2における伝送遅延d2よりも小さいものとする。但し、本実施形態は、以降の説明を適宜読み替えることにより、伝送遅延d2が伝送遅延d1に比べて小さい場合にも適用可能である。
図9は、ビデオ14−1が表示されていてビデオ14−2が表示されていない時にビデオ14−1及びビデオ14−2を同期して表示することの指示に相当するユーザ情報28(或いは、表示制御情報29)を与えられた場合の図8のビデオ表示装置の動作を例示する。
ビデオ表示装置は、時刻t0に上記ユーザ情報28を与えられる。即ち、ビデオ表示装置は、時刻t0まで、ビデオ14−1を1倍速で表示するもののビデオ14−2を表示しない。このとき、ビデオ14−1の表示遅延は伝送遅延d1に依存する。
伝送遅延d2が伝送遅延d1に比べて大きいので、時刻t0では時刻情報12−2が時刻情報12−1に追いついていない。故に、時刻t0では、ビデオ表示装置はビデオ14−1及びビデオ14−2を同期して表示できない。従って、復号タイミング制御部320は、時刻情報12−2が時刻情報12−1に追いつくように、デコーダ110−1をp倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。ここで、pは1未満の値である。
例えば、復号タイミング制御部320は、時刻情報12−1及び時刻情報12−2に基づいて伝送遅延d1に対する伝送遅延d2の伝送遅延差(=d2−d1)を算出してもよい。図9の例では、伝送遅延差が正であるから、デコーダ110−1を1倍速未満の速度で動作させる必要がある。尚、伝送遅延差が負であれば、デコーダ110−1ではなくデコーダ110−2を1倍速未満の速度で動作させる必要がある。仮に、伝送遅延差が2秒でありp=0.833であるならば、ビデオ14−1は1秒あたり0.167秒遅く表示されるので、12秒後に時刻情報12−2が時刻情報12−1に追いつくことになる。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1をp倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、これを表示する。ここで、ビデオ14−1の表示速度は、デコーダ110−1の動作速度に依存するのでp倍速である。
伝送遅延d2が伝送遅延d1に比べて大きいので、ビデオ符号化データ11−2はビデオ符号化データ11−1に比べて遅い時刻にデコーダ110−2によって受信される。デコーダ110−2は、ビデオ符号化データ11−2に含まれる時刻情報に基づいて、デコーダ110−2内部のクロックを制御する。デコーダ110−2は、クロックによって計時される時刻情報12−2を復号タイミング制御部320へと出力する。
復号タイミング制御部320は、デコーダ110−2から時刻情報12−2を入力する。復号タイミング制御部320は、デコーダ110−2を1倍速で動作させるための復号タイミング制御情報13−2をデコーダ110−2へと出力する。
デコーダ110−2は、復号タイミング制御情報13−2を入力する。デコーダ110−2は、復号タイミング制御情報13−2に基づいて、ビデオ符号化データ11−2を1倍速でデコードすることによってビデオ14−2を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−2を入力する。但し、時刻情報12−2が時刻情報12−1に追いついていないので、ビデオ表示部130はビデオ14−2を表示しない(ビデオ14−2の表示時刻に表示が完了したものとして扱い、ビデオ14−2を破棄する)。
前述の通り、p<1である。従って、デコーダ110−2の動作後のある時刻(ts)に時刻情報12−2が時刻情報12−1に追いつく。tsは、p、伝送遅延d1、伝送遅延d2、ならびに、時刻t0によって決まる。このとき、復号タイミング制御部320は、デコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1を1倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力する。このとき、デコーダ110−1及びデコーダ110−2は1倍速で動作しているので、ビデオ表示部130はビデオ14−1及びビデオ14−2を1倍速で表示する。このとき、ビデオ14−1及びビデオ14−2の表示遅延は伝送遅延d2に依存する。
図10は、ビデオ14−1及びビデオ14−2が同期して表示されている時にビデオ14−2を表示しないことの指示に相当するユーザ情報28(或いは、表示制御情報29)を与えられた場合の図8のビデオ表示装置の動作を例示する。
ビデオ表示装置は、時刻teに上記ユーザ情報28を与えられる。即ち、ビデオ表示装置は、時刻teまで、ビデオ14−1及びビデオ14−2を同期して1倍速で表示する。このとき、ビデオ14−1及びビデオ14−2の表示遅延は伝送遅延d2に依存する。そして、単にデコーダ110−2の動作を停止(或いは、ビデオ14−2を破棄)するだけでは、ビデオ14−1の表示遅延は変化しない。即ち、ビデオ14−1の表示遅延は、ビデオ14−1が単独で表示される場合に比べて、伝送遅延差(=d2−d1)ぶん遅れている。
従って、復号タイミング制御部320は、ビデオ14−1の表示遅延を小さくするために、デコーダ110−1をr倍速で動作させるための復号タイミング制御情報をデコーダ110−1へと出力する。ここで、rは1より大きな値である。尚、表示遅延を小さくすることは、ビデオ14−1が即時性のコンテンツ(例えば、災害警報、生放送番組など)を含む場合に好適である。尚、ビデオ14−1の表示をスキップすることにより表示遅延を直ちに最小化することも可能であるが、ビデオ14−1の内容を考慮せずに表示をスキップすることはユーザに違和感を与えるおそれがある。
例えば、復号タイミング制御部320は、時刻情報12−1及び時刻情報12−2に基づいて伝送遅延d1に対する伝送遅延d2の伝送遅延差(=d2−d1)を算出してもよい。図10の例では、伝送遅延差が正であるから、デコーダ110−1を1倍速よりも大きな速度で動作させる必要がある。尚、伝送遅延差が負であれば、デコーダ110−1をそのまま1倍速で動作させればよい。仮に、伝送遅延差が2秒でありr=1.2であるならば、ビデオ14−1は1秒あたり0.2秒早く表示されるので、10秒後にビデオ14−1の表示遅延は最小化されることになる。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1をr倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、これを表示する。ここで、ビデオ14−1の表示速度は、デコーダ110−1の動作速度に依存するのでr倍速である。
前述のとおり、r>1である。従って、時刻teの後のある時刻(tr)にビデオ14−1の表示遅延が最小化される(即ち、当該表示遅延が伝送遅延d1に依存する大きさになる)。trは、r、伝送遅延d1、伝送遅延d2、ならびに、時刻teによって決まる。このとき、復号タイミング制御部320は、デコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
デコーダ110−1は、復号タイミング制御情報13−1を入力する。デコーダ110−1は、復号タイミング制御情報13−1に基づいて、ビデオ符号化データ11−1を1倍速でデコードすることによってビデオ14−1を生成し、これをビデオ表示部130へと出力する。ビデオ表示部130は、ビデオ14−1を入力し、当該ビデオ14−1を1倍速で表示する。このとき、ビデオ14−1の表示遅延は伝送遅延d1に依存する。
図9及び図10の例では、ビデオ14−1及びビデオ14−2の両方が図示された期間の全体に亘って表示可能である。しかしながら、例えば、ビデオ14−2の表示可能期間がビデオ14−1の表示可能期間に比べて制限されていてもよい。
具体的には、図11に示される表示制御情報29が制御情報解釈部340に与えられてもよい。図11の表示制御情報29は、ビデオ14−1に関して、ソースが放送波であること、チャンネル番号が3であること、サービス番号が517であること、自動表示コンテンツであること、表示開始時刻が1995年6月4日,12:00:00(UTC)であること、表示期間が無限(即ち、放送終了まで)であること、をそれぞれ示している。更に、図11の表示制御情報29は、ビデオ14−2に関して、ソースがインターネットであること、URIがrtsp://foo/bar.tsであること、ユーザからの操作情報に基づいて表示されるコンテンツであること、表示開始時刻が1995年6月4日,12:12:30(UTC)であること、表示終了時刻が1995年6月4日,12:17:30(UTC)であること、表示期間が5分であること、をそれぞれ示している。この表示制御情報29は、ビデオ符号化データ11−1及びビデオ符号化データ11−2の少なくとも一方に暗黙的または明示的に記述されていてもよい。
図12は、図11に示される表示制御情報29が与えられた場合の図8のビデオ表示装置の動作を例示する。図12の例では、伝送路100−1における伝送遅延d1が、伝送路100−2における伝送遅延d2よりも大きいものとする。また、伝送遅延d1に対する伝送遅延d2の伝送遅延差(=d2−d1)は2秒であるとする。復号タイミング制御部320は、係る伝送遅延差を、例えば、事前測定してもよいし、システム設定に基づいて検出してもよい。
ビデオ表示装置は、当初、ビデオ14−1を1倍速で表示する。但し、伝送遅延d2は伝送遅延d1に比べて大きいので、ビデオ14−2の表示開始時刻までに、ビデオ14−1の表示遅延に上記伝送遅延差ぶんの遅れが生じることが望ましい。故に、ビデオ14−2の表示開始時刻よりも前のある時刻に、復号タイミング制御部320は、デコーダ110−1をp倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。ここで、pは1未満の値である。
復号タイミング制御部320が、係る復号タイミング制御情報13−1をデコーダ110−1へと出力する時刻(即ち、デコーダ110−1がp倍速で動作する期間の開始位置)は、p、ビデオ14−2の表示開始時刻(図12の例では12:12:30)、ならびに、上記伝送遅延差(図12の例では2秒)によって決まる。例えば、p=0.833であるならば、12秒間でビデオ14−1の表示に用いるSTC値は2秒遅れることになる。故に、復号タイミング制御部320は、ビデオ14−2の表示開始時刻の12秒前(即ち、ビデオ14−1の表示に用いるSTC値が12:12:20である時)に、デコーダ110−1を0.833倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力すればよい。
図12の例では、ビデオ14−2の表示開始時刻である12:12:30に、時刻情報12−2が時刻情報12−1に追いつく。このとき、復号タイミング制御部320は、デコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
ビデオ14−2の表示終了時刻である12:17:30に、ビデオ14−2の表示が終了する。このとき、ビデオ14−1の表示遅延は、伝送遅延d1よりも大きな伝送遅延d2に依存しており、ビデオ14−1が単独で表示される場合に比べて伝送遅延差(=d2−d1)ぶん遅れている。係るビデオ14−1の表示遅延は、早期にかつシームレスに最小化されることが望ましい。故に、復号タイミング制御部320は、ビデオ14−1の表示遅延を小さくするために、デコーダ110−1をr倍速で動作させるための復号タイミング制御情報をデコーダ110−1へと出力する。ここで、rは1より大きな値である。
ビデオ14−1の表示遅延が最小化される時刻(即ち、デコーダ110−1がr倍速で動作する期間の終了位置)は、r、ビデオ14−2の表示終了時刻(図12の例では12:17:30)、ならびに、上記伝送遅延差(図12の例では2秒)によって決まる。例えば、r=1.2であるならば、10秒間でビデオ14−1の表示に用いるSTC値は2秒進むことになる。故に、ビデオ14−1の表示遅延は、ビデオ14−2の表示終了時刻から10秒後(即ち、ビデオ14−1の表示に用いるSTC値が12:17:42である時)に最小化される。このとき、復号タイミング制御部320は、デコーダ110−1を1倍速で動作させるための復号タイミング制御情報13−1をデコーダ110−1へと出力する。
以上説明したように、第5の実施形態に係るビデオ表示装置は、複数の伝送路を通じて伝送される複数のビデオ符号化データに基づくビデオの表示状態が切り替えられる場合に、係る表示状態の切り替えをシームレスに行う。例えば、ビデオ表示装置は、表示中のビデオに加えて別のビデオを同期して表示する場合に、伝送遅延が最大でない伝送路に対応するデコーダを1倍速未満で動作させることにより、表示中のビデオと別のビデオとをシームレスに同期させることができる。また、ビデオ表示装置は、表示中のビデオのうち一部のビデオの表示を終了する場合に、残部のビデオに対応するデコーダを必要に応じて1倍速よりも大きな速度で動作させることにより当該残部のビデオの表示遅延をシームレスに最小化させることができる。
上記各実施形態の処理は、汎用のコンピュータを基本ハードウェアとして用いることで実現可能である。上記各実施形態の処理を実現するプログラムは、コンピュータで読み取り可能な記憶媒体に格納して提供されてもよい。プログラムは、インストール可能な形式のファイルまたは実行可能な形式のファイルとして記憶媒体に記憶される。記憶媒体としては、磁気ディスク、光ディスク(CD−ROM、CD−R、DVD、Blu−ray(登録商標)等)、光磁気ディスク(MO等)、半導体メモリなどである。記憶媒体は、プログラムを記憶でき、かつ、コンピュータが読み取り可能であれば、何れであってもよい。また、上記各実施形態の処理を実現するプログラムを、インターネットなどのネットワークに接続されたコンピュータ(サーバ)上に格納し、ネットワーク経由でコンピュータ(クライアント)にダウンロードさせてもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10−1,10−2,10−j,10−N,11,11−1,11−2,11−j,11−N・・・ビデオ符号化データ
12,12−1,12−2,12−j,12−N・・・時刻情報
13,13−1,13−2,13−j,13−N・・・復号タイミング制御情報
14,14−1,14−2,14−j,14−N・・・ビデオ
15・・・デコーダ動作情報
16,22・・・画像
17・・・サブ画像
18,27・・・オーディオ
19・・・時刻情報
20・・・画像符号化データ
23,26・・・デコード一時停止信号
24・・・オーディオ符号化データ
28・・・ユーザ情報
29・・・表示制御情報
30・・・制御情報
100−1,100−2,100−j,100−N・・・伝送路
110,110−1,110−2,110−j,110−N,210・・・デコーダ
111・・・分離部
112,212・・・STCカウンタ
113・・・画像バッファ
114,214・・・画像デコーダ
115,215・・・画像表示バッファ
116・・・オーディオバッファ
117,217・・・オーディオデコーダ
118,218・・・オーディオ出力バッファ
120,320・・・復号タイミング制御部
130・・・ビデオ表示部
340・・・制御情報解釈部

Claims (18)

  1. 第1の伝送路を通じて第1のビデオ符号化データを受信し、当該第1のビデオ符号化データを第1の速度でデコードすることによって、第1のビデオを生成する第1のデコーダと、
    前記第1の伝送路とは異なる第2の伝送路を通じて第2のビデオ符号化データを受信し、当該第2のビデオ符号化データを第2の速度でデコードすることによって、第2のビデオを生成する第2のデコーダと、
    前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2のデコーダの第2の時刻情報が前記第1のデコーダの第1の時刻情報に追いつくまでに前記第1の速度が1倍速未満となる期間が生じるように前記第1の速度を制御する制御部と、
    前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2の時刻情報が前記第1の時刻情報に追いつくまで前記第1のビデオを前記第1の速度で表示する表示部と
    を具備する、ビデオ表示装置。
  2. 前記制御部は、前記第2のビデオ符号化データが前記第1のビデオ符号化データよりも遅く受信される場合に、前記第2の速度を1倍速に制御し、前記第2の時刻情報が前記第1の時刻情報に追いついてから前記第1の速度を1倍速に制御する、請求項1のビデオ表示装置。
  3. 前記表示部は、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2の時刻情報が前記第1の時刻情報に追いついてから前記第1のビデオ及び前記第2のビデオを前記第1の速度及び前記第2の速度のいずれか一方で表示する、請求項1のビデオ表示装置。
  4. 前記表示部は、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2の時刻情報が前記第1の時刻情報に追いついてから前記第1のビデオに含まれる第1の画像及び前記第2のビデオに含まれる第2の画像を組み合わせることによって生成される第3の画像を前記第1の速度及び前記第2の速度のいずれか一方で表示する、請求項1のビデオ表示装置。
  5. 前記表示部は、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2の時刻情報が前記第1の時刻情報に追いついてから前記第1のビデオに含まれる第1の画像を前記第1の速度及び前記第2の速度のいずれか一方で表示すると共に前記第2のビデオに含まれる第2の画像をサブ画像として前記第1の画像と同じ速度で表示する、請求項1のビデオ表示装置。
  6. 前記第1の伝送路はデジタル放送の伝送路であり、前記第2の伝送路はIP網である、請求項1のビデオ表示装置。
  7. 前記第1の伝送路及び前記第2の伝送路は、デジタル放送の伝送路であって物理レイヤにおいて異なる、請求項1のビデオ表示装置。
  8. 前記第1の伝送路及び前記第2の伝送路は、デジタル放送の伝送路であって物理レイヤにおいて共通し論理レイヤにおいて異なる、請求項1のビデオ表示装置。
  9. ユーザ情報及び表示制御情報の少なくとも一方を解釈することによって、前記第1のビデオ及び前記第2のビデオの表示状態に関する制御情報を得る解釈部を更に具備し、
    前記制御部は、前記制御情報と前記第1のビデオ及び前記第2のビデオの現行の表示状態とに基づいて前記第1の速度及び前記第2の速度を制御する、
    請求項1のビデオ表示装置。
  10. 前記制御部は、前記第1のビデオが表示されていて前記第2のビデオが表示されていない時に当該第1のビデオ及び当該第2のビデオを同期して表示することを指示する制御情報が入力され、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合には、前記第2のデコーダの第2の時刻情報が前記第1のデコーダの第1の時刻情報に追いつくまでに前記第1の速度が1倍速未満となる期間が生じるように前記第1の速度を制御する、請求項9のビデオ表示装置。
  11. 前記制御部は、前記第1の速度が1倍速未満となる期間において、前記第1のビデオが特定の状況に該当する場合に、当該第1のビデオの表示を一時的に停止させる、請求項10のビデオ表示装置。
  12. 前記制御部は、前記第1のビデオ及び前記第2のビデオが同期して表示されている時に当該第2のビデオの表示を終了することを指示する制御情報が入力され、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合には、前記第1の速度が1倍速より大きくなる期間が生じるように前記第1の速度を制御する、請求項9のビデオ表示装置。
  13. 前記制御部は、前記第1の速度が1倍速より大きくなる期間において、前記第1のビデオが特定の状況に該当する場合に、当該第1のビデオの表示をスキップさせる、請求項12のビデオ表示装置。
  14. 前記制御部は、前記第1のビデオ及び前記第2のビデオを含む複数のビデオを同期して表示することを指示する制御情報が入力されると、当該複数のビデオのうち伝送遅延の最も大きなビデオを基準に当該複数のビデオを同期して表示させる、請求項9のビデオ表示装置。
  15. 前記解釈部は、前記第1のビデオ及び前記第2のビデオを含む複数のビデオから、同期して表示されるビデオを選択する指示に相当するユーザ操作を受理するための情報をユーザに提示する、請求項9のビデオ表示装置。
  16. 前記ユーザ情報は、ユーザの属性情報を含み、
    前記解釈部は、前記ユーザの属性情報に基づいて、前記第1のビデオ及び前記第2のビデオを含む複数のビデオから、同期して表示されるビデオを自動的に選択する、
    請求項9のビデオ表示装置。
  17. 前記表示制御情報は、前記第2のビデオが前記第1のビデオと同期して表示される時刻を示す情報を含み、
    前記制御部は、前記第1のビデオ及び前記第2のビデオを同期して表示することを指示する制御情報が入力され、前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合には、前記第2のビデオの表示開始時刻の前に前記第1の速度が1倍速未満となる期間が生じるように前記第1の速度を制御し、
    前記第1の速度が1倍速未満となる期間の開始位置は、前記第2のビデオの表示開始時刻と、前記第1の伝送路と前記第2の伝送路との間の伝送遅延差と、当該期間における前記第1の速度とに基づいて、決定される、
    請求項9のビデオ表示装置。
  18. 第1の伝送路を通じて第1のビデオ符号化データを受信することと、
    第1のデコーダが前記第1のビデオ符号化データを第1の速度でデコードすることによって、第1のビデオを生成することと、
    前記第1の伝送路とは異なる第2の伝送路を通じて第2のビデオ符号化データを受信することと、
    第2のデコーダが前記第2のビデオ符号化データを第2の速度でデコードすることによって、第2のビデオを生成することと、
    前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2のデコーダの第2の時刻情報が前記第1のデコーダの第1の時刻情報に追いつくまでに前記第1の速度が1倍速未満となる期間が生じるように前記第1の速度を制御することと、
    前記第1のビデオ符号化データが前記第2のビデオ符号化データよりも早く受信される場合に、前記第2の時刻情報が前記第1の時刻情報に追いつくまで前記第1のビデオを前記第1の速度で表示することと
    を具備する、ビデオ表示方法。
JP2014527381A 2013-01-25 2013-10-24 ビデオ表示装置及びビデオ表示方法 Pending JPWO2014115389A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
PCT/JP2013/051565 WO2014115295A1 (ja) 2013-01-25 2013-01-25 ビデオ表示装置及びビデオ表示方法
JPPCT/JP2013/051565 2013-01-25
PCT/JP2013/078881 WO2014115389A1 (ja) 2013-01-25 2013-10-24 ビデオ表示装置及びビデオ表示方法

Publications (1)

Publication Number Publication Date
JPWO2014115389A1 true JPWO2014115389A1 (ja) 2017-01-26

Family

ID=51227110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014527381A Pending JPWO2014115389A1 (ja) 2013-01-25 2013-10-24 ビデオ表示装置及びビデオ表示方法

Country Status (3)

Country Link
US (1) US20150043885A1 (ja)
JP (1) JPWO2014115389A1 (ja)
WO (2) WO2014115295A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2515362B (en) * 2013-12-16 2015-12-09 Imagination Tech Ltd Decoding frames
EP3211904A4 (en) 2014-10-20 2018-04-25 Sony Corporation Receiving device, transmitting device, and data processing method
JP6695069B2 (ja) * 2016-05-31 2020-05-20 パナソニックIpマネジメント株式会社 電話装置
CN116233472B (zh) * 2023-05-08 2023-07-18 湖南马栏山视频先进技术研究院有限公司 一种音频视频同步的方法和云端处理系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157278A (ja) * 2004-11-26 2006-06-15 Mitsubishi Electric Corp 情報配信システム
JP2012080405A (ja) * 2010-10-04 2012-04-19 Oki Electric Ind Co Ltd 映像伝送システム及び映像同期方法
JP2012186746A (ja) * 2011-03-08 2012-09-27 Sony Corp 映像送信装置、映像送信装置の制御方法、映像受信装置および映像受信装置の制御方法
JP2012205075A (ja) * 2011-03-25 2012-10-22 Nippon Hoso Kyokai <Nhk> 同期制御装置及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5956332A (en) * 1994-12-09 1999-09-21 Nokia Telecommunications Oy High-speed data transmission in mobile communication networks
JPH11150727A (ja) * 1997-11-18 1999-06-02 Matsushita Electric Ind Co Ltd Mpegデコーダ装置
EP1868367B1 (en) * 2006-06-06 2015-12-09 Alcatel Lucent Fast video channel change

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157278A (ja) * 2004-11-26 2006-06-15 Mitsubishi Electric Corp 情報配信システム
JP2012080405A (ja) * 2010-10-04 2012-04-19 Oki Electric Ind Co Ltd 映像伝送システム及び映像同期方法
JP2012186746A (ja) * 2011-03-08 2012-09-27 Sony Corp 映像送信装置、映像送信装置の制御方法、映像受信装置および映像受信装置の制御方法
JP2012205075A (ja) * 2011-03-25 2012-10-22 Nippon Hoso Kyokai <Nhk> 同期制御装置及びプログラム

Also Published As

Publication number Publication date
WO2014115295A1 (ja) 2014-07-31
US20150043885A1 (en) 2015-02-12
WO2014115389A1 (ja) 2014-07-31

Similar Documents

Publication Publication Date Title
US10681397B2 (en) System and method for seamless switching through buffering
CN110278474B (zh) 接收方法、发送方法、接收装置及发送装置
US7382796B2 (en) System and method for seamless switching through buffering
US8949884B2 (en) Broadcast receiving apparatus, broadcast receiving method, and program
US20090109988A1 (en) Video Decoder with an Adjustable Video Clock
CN107018437B (zh) 用于快速信道改变的方法以及相应设备
EP2545708B1 (en) Method and system for inhibiting audio-video synchronization delay
WO2014115389A1 (ja) ビデオ表示装置及びビデオ表示方法
US20130089156A1 (en) Receiver and method at the receiver for enabling channel change with a single decoder
US20180288452A1 (en) Method of delivery audiovisual content and corresponding device
US10694240B2 (en) Method for decoding an audio/video stream and corresponding device
CN113132806B (zh) 一种播放终端及其节目播放方法
EP3506641A1 (en) Methods and techniques for reducing latency in changing channels in a digital video environment
JP2012222511A (ja) 動画像復号化装置及びデジタルテレビ受信装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150901