JP7176598B2 - 送信方法 - Google Patents

送信方法 Download PDF

Info

Publication number
JP7176598B2
JP7176598B2 JP2021127893A JP2021127893A JP7176598B2 JP 7176598 B2 JP7176598 B2 JP 7176598B2 JP 2021127893 A JP2021127893 A JP 2021127893A JP 2021127893 A JP2021127893 A JP 2021127893A JP 7176598 B2 JP7176598 B2 JP 7176598B2
Authority
JP
Japan
Prior art keywords
subtitle
stream
pes
video
time stamp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021127893A
Other languages
English (en)
Other versions
JP2021184626A (ja
Inventor
郁夫 塚越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JP2021184626A publication Critical patent/JP2021184626A/ja
Priority to JP2022179816A priority Critical patent/JP2023001309A/ja
Application granted granted Critical
Publication of JP7176598B2 publication Critical patent/JP7176598B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23605Creation or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/22Parsing or analysis of headers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4343Extraction or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348Demultiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4884Data services, e.g. news ticker for displaying subtitles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8543Content authoring using a description language, e.g. Multimedia and Hypermedia information coding Expert Group [MHEG], eXtensible Markup Language [XML]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Studio Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Description

本技術は、送信方法に関する。
従来、例えば、DVB(Digital Video Broadcasting)の放送などでは、サブタイトルの情報をビットマップデータで送信する運用が行われている。近時、サブタイトルの情報をテキストの文字コードで、つまりテキストベースで送信することが提案されている。この場合、受信側で解像度に応じたフォント展開がなされる。
また、サブタイトルの情報をテキストベースで送信する場合、テキスト情報にタイミング情報を持たせることが提案されている。このテキスト情報として、例えば、W3C((World Wide Web Consortium)でTTML(Timed Text Markup Language)が提唱されている(特許文献1参照)。
特開2012-169885号公報
本技術の目的は、受信側における変速再生モードでのサブタイトル表示処理の簡単化を図ることにある。
本技術の概念は、
ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームを生成するビデオエンコード部と、
ペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを生成するサブタイトルエンコード部と、
上記ビデオストリームと上記サブタイトルストリームを含む多重化ストリームを生成する多重化ストリーム生成部と、
上記多重化ストリームを送信する送信部を備え、
上記多重化ストリーム生成部は、
上記サブタイトルパケットを、ランダムアクセス位置に配置する
送信装置にある。
本技術において、ビデオエンコード部により、ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームが生成される。サブタイトルエンコード部により、ペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームが生成される。例えば、サブタイトル情報は、表示タイミング情報を持つ所定フォーマットのサブタイトルのテキスト情報である、ようにされてもよい。この場合、例えば、所定フォーマットのサブタイトルのテキスト情報は、TTMLあるいはこのTTMLの派生フォーマットである、ようにされてもよい。
多重化ストリーム生成部により、少なくともビデオストリームとサブタイトルストリームを含む多重化ストリームが生成される。この場合、サブタイトルパケットはランダムアクセス位置に配置される。例えば、ビデオパケットおよびサブタイトルパケットはPESパケットであり、多重化ストリームはMPEG2トランスポートストリームである、ようにされてもよい。送信部により、多重化ストリームが送信される。
このように本技術においては、ビデオストリームとサブタイトルストリームを多重化するに当たって、サブタイトルパケットをランダムアクセス位置に配置するものである。そのため、受信側では、多重化ストリームからランダムアクセス位置のビデオパケットを取り出す際にサブタイトルパケットを併せて取り出すことができ、変速再生モードでのサブタイトル表示処理の簡単化が可能となる。
なお、本技術において、例えば、サブタイトルエンコード部は、サブタイトルパケットのヘッダのタイムスタンプ挿入位置に、ランダムアクセス位置のビデオパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値のタイムスタンプを挿入する、ようにされてもよい。この場合、タイムスタンプが参照されて多重化ストリームにおけるパケット多重化が行われるとき、サブタイトルパケットはランダムアクセス位置に配置されるようになる。
また、本技術において、例えば、サブタイトルエンコード部は、サブタイトルパケットのヘッダまたはペイロードに、サブタイトルの表示時刻を示す独自タイムスタンプを挿入する、ようにされてもよい。この場合、受信側では、この独自タイムスタンプに基づいて、サブタイトルの表示タイミングを容易に制御可能となる。
また、本技術において、例えば、多重化ストリーム生成部は、多重化ストリームに、サブタイトルパケットに独自タイムスタンプの挿入があることを示す識別情報を挿入する、ようにされてもよい。この場合、受信側では、この識別情報に基づいて独自タイムスタンプの挿入があることを容易に認識可能となる。この場合、例えば、識別情報には挿入位置を示す情報が付加されている、ようにされてもよい。この場合、受信側では、この挿入位置を示す情報に基づいて、独自タイムスタンプを容易に取得可能となる。
また、本技術の他の概念は、
ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームとペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを含む多重化ストリームを受信する受信部を備え、
上記多重化ストリームにおいて、上記サブタイトルパケットは、ランダムアクセス位置に配置されており、
上記多重化ストリームから上記サブタイトルパケットを、上記ランダムアクセス位置のビデオパケットと共に取り出してサブタイトルの表示処理を行う処理部をさらに備える
受信装置にある。
本技術において、受信部により、ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームとペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを含む多重化ストリームが受信される。多重化ストリームにおいて、サブタイトルパケットは、ランダムアクセス位置に配置されている。処理部により、多重化ストリームからランダムアクセス位置のビデオパケットと共にサブタイトルパケットが取り出されてサブタイトルの表示処理が行われる。
このように本技術においては、多重化ストリームにおいてサブタイトルパケットはランダムアクセス位置に配置されており、この多重化ストリームからランダムアクセス位置のビデオパケットと共にサブタイトルパケットが取り出されてサブタイトルの表示処理が行われるものである。そのため、変速再生モードでのサブタイトル表示処理の簡単化が可能となる。
なお、本技術において、例えば、サブタイトルパケットのヘッダのタイムスタンプ挿入位置には、ランダムアクセス位置のビデオパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値の第1のタイムスタンプが挿入されており、サブタイトルパケットのヘッダまたはペイロードに、サブタイトルの表示時刻を示す第2のタイムスタンプが挿入されており、処理部は、通常再生モードでは、第2のタイムスタンプを参照してサブタイトルの表示処理を行う、ようにされてもよい。この場合、サブタイトルの表示タイミングを容易に制御可能となる。
この場合、例えば、多重化ストリームには、サブタイトルパケットに第2のタイムスタンプの挿入があることを示す識別情報が挿入されており、処理部は、この識別情報に基づいて、サブタイトルパケットから第2のタイムスタンプを抽出して用いる、ようにされてもよい。
本技術によれば、受信側における変速再生モードでのサブタイトル表示処理の簡単化を図ることができる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
実施の形態としての送受信システムの構成例を示すブロック図である。 放送送出システムのストリーム生成部の構成例を示すブロック図である。 TTML構造を説明するための図である。 TTML構造のヘッダ(head)に存在するメタデータ(metadata)、スタイリング(styling)、レイアウト(layout)の各要素の構造例を示す図である。 TTML構造のボディ(body)の構造例を示す図である。 制御部内のタイミング管理部の構成例を概略的に示す図である。 サブタイトル表示タイミング管理部の詳細構成を説明するための図である。 PESパケットの構成例を示す図である。 PESエクステンション“PES extension”の構成例(1/2)を示す図である。 PESエクステンション“PES extension”の構成例(2/2)を示す図である。 “PES packet data bytes”の領域に配置されるPESペイロード(PES_payload)の構成例を示す図である。 PESエクステンションおよびPESペイロードの構成例における新規要素の内容を示している。 サブタイトル・ラップ・デスクリプタの構造例およびその構造例における主要な情報の内容を示す図である。 トランスポートストリームTSの構成例を示す図である。 テレビ受信機の構成例を示す図である。 RAP(Random Access Point)位置で読み出されるサブタイトルPESパケットに対するデコードおよび出力の処理タイミングを概略的に示す図である。 従来の多重化に関して説明するための図である。 本技術の多重化に関して説明するための図である。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明を以下の順序で行う。
1.実施の形態
2.変形例
<1.実施の形態>
[送受信システムの構成例]
図1は、実施の形態としての送受信システム10の構成例を示している。この送受信システム10は、放送送出システム100とテレビ受信機200により構成されている。放送送出システム100は、多重化ストリームとしてのトランスポートストリームTSを、放送波に載せて送信する。トランスポートストリームTSは、ビデオストリームと、サブタイトルストリームとを有している。ビデオストリームは、ペイロードに画像データを持つビデオPESパケットにより構成されている。サブタイトルストリームは、ペイロードにサブタイトル(字幕)情報を持つサブタイトルPESパケットにより構成されている。
サブタイトルPESパケットのヘッダのタイムスタンプ挿入位置に、ランダムアクセス位置のビデオPESパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値のタイムスタンプが挿入される。また、サブタイトルPESパケットのヘッダあるいはペイロードに、サブタイトルの表示時刻を示す独自タイムスタンプが挿入される。
サブタイトルストリームが、ビデオストリームなどと多重化される際、サブタイトルPESパケットを含むTSパケット(以下、単にPESパケットとする)は、ランダムアクセス位置に配置される。この場合、例えば、上述したように、ヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプが参照されて、サブタイトルPESパケットは、ランダムアクセス位置、つまりランダムアクセス位置のビデオPESパケットの位置に近接した位置に配置される。
トランスポートストリームTSには、サブタイトルPESパケットに独自タイムスタンプの挿入があることを示す識別情報が挿入される。この識別情報は、例えば、プログラム・マップ・テーブルの配下に挿入される。上述したように、サブタイトルPESパケットには、そのヘッダあるいはペイロードに独自タイムスタンプが挿入される。この識別情報には、挿入位置を示す情報が付加される。
テレビ受信機200は、放送送出システム100から放送波で送られてくるトランスポートストリームTSを受信する。このトランスポートストリームTSは、上述したように、少なくともビデオストリームとサブタイトルストリームを有している。なお、トランスポートストリームTSはオーディオストリームを含む場合もある。ビデオストリームは、ペイロードに画像データを持つビデオPESパケットにより構成されている。サブタイトルストリームは、ペイロードにサブタイトル情報を持つサブタイトルPESパケットにより構成されている。そして、このトランスポートストリームTSの多重化において、サブタイトルPESパケットは、ランダムアクセス位置に配置されている。
テレビ受信機200は、トランスポートストリームTSからサブタイトルPESパケットを、ランダムアクセス位置のビデオPESパケットと共に取り出して、サブタイトル(字幕)の表示処理を行う。例えば、変速再生モードでは、トランスポートストリームTSのランダムアクセス位置から取り出されたサブタイトルPESパケットを直ちに処理してサブタイトルを表示する。
また、例えば、通常再生モードでは、トランスポートストリームTSのランダムアクセス位置から取り出されたサブタイトルPESパケットを、そのヘッダまたはペイロードに挿入されているサブタイトルの表示時刻を示す独自タイムスタンプに基づいて処理し、表示時刻にサブタイトルを表示する。この場合、テレビ受信機200は、トランスポートストリームTSに挿入されている識別情報に基づいてサブタイトルPESパケットから独自タイムスタンプを抽出して用いる。
[放送送出システムのストリーム生成部の構成例]
図2は、放送送出システム100のストリーム生成部110の構成例を示している。このストリーム生成部110は、制御部111と、ビデオエンコーダ112と、オーディオエンコーダ113と、テキストフォーマット変換部114と、サブタイトルエンコーダ115と、TSフォーマッタ(マルチプレクサ)116を有している。
制御部111は、例えば、CPU(Central Processing Unit)を備えた構成とされており、ストリーム生成部110の各部の動作を制御する。ビデオエンコーダ112は、画像データDVを入力し、この画像データDVに対して符号化を施し、ペイロードに符号化画像データを持つビデオPESパケットにより構成されるビデオストリーム(PESストリーム)を生成する。オーディオエンコーダ113は、音声データDAを入力し、この音声データDAに対して符号化を施し、符号化音声データを持つオーディオPESパケットにより構成されるオーディオストリーム(PESストリーム)を生成する。
テキストフォーマット変換部114は、サブタイトル情報としてのテキストデータ(文字コード)DTを入力し、表示タイミング情報を持つ所定フォーマットのサブタイトルのテキスト情報を得る。このテキスト情報として、例えば、TTMLあるいはTTMLの派生フォーマットが考えられるが、この実施の形態においてはTTMLであるとする。
図3は、TTML構造を示している。TTMLは、XMLベースで記載される。ヘッダ(head)には、メタデータ(metadata)、スタイリング(styling)、レイアウト(layout)の各要素が存在する。図4(a)は、メタデータ(TTM:TTML Metadata)の構造例を示している。このメタデータには、メタデータのタイトルの情報と、コピーライトの情報が含まれている。
図4(b)は、スタイリング(TTS:TTML Styling)の構造例を示している。このスタイリングには、識別子(id)の他に、カラー(color)、フォント(fontFamily)、サイズ(fontSize)、アラインメント(textAlign)などの情報が含まれている。図4(c)は、レイアウト(region:TTML layout)の構造例を示している。このレイアウトには、サブタイトルを配置するリージョンの識別子(id)の他に、範囲(extent)、オフセット(padding)、バックグラウンドカラー(backgroundColor)、アラインメント(displayAlign)などの情報が含まれている。
図5は、ボディ(body)の構造例を示している。図示の例では、サブタイトル1(subtitle 1)、サブタイトル2(subtitle 2)、サブタイトル3(subtitle 3)の3つのサブタイトルの情報が含まれている。サブタイトル毎に、表示開始タイミングと表示終了タイミングが記載されると共に、テキストデータが記載されている。例えば、サブタイトル1(subtitle 1)に関しては、表示開始タイミングが“0.76s”で、表示終了タイミングが“3.45s”であり、テキストデータが「It seems a paradox, dose it not,」とされている。
図2に戻って、サブタイトルエンコーダ115は、テキストフォーマット変換部114で得られるTTMLを種々のセグメントに変換し、ペイロードにそれらのセグメント(サブタイトル情報)を配置したサブタイトルPESパケットにより構成されるサブタイトルストリーム(PESストリーム)を生成する。
サブタイトルエンコーダ115は、制御部111の制御のもと、サブタイトルPESパケットのヘッダのタイムスタンプ挿入位置に、ランダムアクセス位置のビデオPESパケット、つまりRAP(Random Access Point)対象のビデオPESパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値のタイムスタンプ(第1のタイムスタンプ)を挿入する。
ここで、RAP対象のビデオPESパケットの先頭部分は、例えば、ペイロードにイントラピクチャ(Iピクチャ)の符号化画像データを持つビデオPESパケットの先頭部分であることを意味する。いわゆるRAP再生では、トランスポートストリームTSから当該RAP対象のビデオPESパケットに含まれるイントラピクチャの符号化画像データのみがデコードされて画像表示されていく。
また、サブタイトルエンコーダ115は、制御部111の制御のもと、サブタイトルPESパケットのヘッダあるいはペイロードに、サブタイトルの表示時刻(表示開始時刻、表示終了時刻)を示す独自タイムスタンプ(第2のタイムスタンプ)を挿入する。
図6は、制御部111内のタイミング管理部120の構成例を概略的に示している。このタイミング管理部120は、ビデオタイミング管理部121と、オーディオタイミング管理部122と、RAPタイミング管理部123と、サブタイトル表示タイミング管理部124を有している。
ビデオタイミング管理部121は、各ビデオPESパケットのタイムスタンプ挿入位置に挿入すべきタイムスタンプ(ビデオのアクセスユニットのタイムスタンプ)を管理する。ビデオエンコーダ112では、このビデオタイミング管理部121の管理情報に基づいて、各ビデオPESパケットのタイムスタンプ挿入位置にタイムスタンプを挿入する。
オーディオタイミング管理部122は、各オーディオPESパケットのタイムスタンプ挿入位置に挿入すべきタイムスタンプ(オーディオのアクセスユニットのタイムスタンプ)を管理する。オーディオエンコーダ113では、このオーディオタイミング管理部122の管理情報に基づいて、各オーディオPESパケットのタイムスタンプ挿入位置にタイムスタンプを挿入する。
RAPタイミング管理部123は、RAP対象のビデオPESパケットのタイムスタンプを管理すると共に、オーディオPESパケットのうち、RAP対象とするオーディオPESパケットが管理される。この場合、RAP対象のビデオPESパケットのタイムスタンプに近いタイムスタンプを持つオーディオPESパケットがRAP時の再生対象として扱われる。
このRAP対象とするオーディオPESパケットの管理情報に基づいて、TSフォーマッタ116では、後述するように、当該RAP対象とするオーディオPESパケットがランダムアクセス位置、つまりRAP対象のビデオPESパケットの位置に近接した位置に配置することが行われる。
サブタイトル表示タイミング管理部124は、サブタイトルPESパケットの第1のタイムスタンプ(ヘッダのタイムスタンプ挿入領域に挿入されるタイムスタンプ)および第2のタイムスタンプ(ヘッダまたはペイロードに挿入されるサブタイトルの表示時刻を示す独自タイムスタンプ)を管理する。サブタイトルエンコーダ115では、このサブタイトル表示タイミング管理部124の管理情報に基づいて、サブタイトルPESパケットへの第1のタイムスタンプおよび第2のタイムスタンプの挿入が行われる。
図7は、サブタイトル表示タイミング管理部124の詳細構成を示している。サブタイトル表示タイミング管理部124は、RAPタイミング管理部123からのRAPタイミング情報に基づいて、第1のタイムスタンプ(サブタイトルストリームのタイムスタンプ)を得る。また、サブタイトル表示タイミング管理部124は、TTMLボディに含まれる相対開始時刻“begin”および相対終了時刻“end”に対してタイムスタンプ精度換算を施し、第2のタイムスタンプ(表示開始タイムスタンプ、表示終了タイムスタンプ)を得る。
なお、図5に示すように、複数のリージョン(region)の表示タイミングが異なる場合には、最も早いタイミングのリージョンの相対開始時刻“begin”および相対終了時刻“end” 対してタイムスタンプ精度換算を施し、第2のタイムスタンプとしての表示開始タイムスタンプおよび表示終了タイムスタンプを得る。
この場合、受信側では、最も早いリージョンの表示制御に関しては、当該第2のタイムスタンプとしての表示開始タイムスタンプおよび表示終了タイムスタンプが用いられる。また、後続のリージョンの表示制御に関しては、TTMLボディで供給される最も早いリージョンの相対時刻との差に基づいてタイムスタンプ精度換算された表示タイムスタンプ(表示開始タイムスタンプ、表示終了タイムスタンプ)が生成されて用いられる。
「第2のタイムスタンプ(独自タイムスタンプ)の挿入位置」
ここで、第2のタイムスタンプ(独自タイムスタンプ)の挿入位置の具体例について説明する。図8は、PESパケットの構成例(Syntax)を示している。第1のタイムスタンプに関しては、矢印Pで示す、ヘッダのタイムスタンプ挿入領域である33ビット領域に挿入される。このタイムスタンプ挿入領域は、ヘッダを構成する“optional PES HEADER”の下の“optional fields”内に存在する。
第2のタイムスタンプに関しては、上述したように、ヘッダあるいはペイロードに挿入される。ヘッダに挿入する場合、例えば、矢印Qに示す、“PES extension fields data”の領域に挿入される。この“PES extension fields data”は、“PES extension”の下の“optional fields”内に存在する。なお、 “PES extension”は、ヘッダを構成する“optional PES HEADER”の下の“optional fields”内に存在する。一方、ペイロードに挿入する場合、矢印Rに示す、“PES packet data bytes”の領域に挿入される。
図9、図10は、PESエクステンション“PES extension”の構成例(Syntax)を示している。図11は、“PES packet data bytes”の領域に配置されるPESペイロード(PES_payload)の構成例(Syntax)を示している。図12は、各構成例における新規要素の内容(Semantics)を示している。
最初に、図9、図10に示すPESエクステンション(PES extension)の構成例について説明する。フラグ情報として、「PES_extension_negflag_new」のフラグ情報が新たに定義される。このフラグ情報は、PESヘッダの拡張領域(PES extension)に新定義のデータを配置することを示す。“0”は、PESヘッダの拡張領域に新定義のデータを配置することを示す。“1”は、PESヘッダの拡張領域に新定義のデータを配置しないことを示す。
「PES_extension_negflag_new」が“0”であるとき、「extension_type」の8ビットフィールドが存在する。このフィールドは、新定義のデータの種類を示す。“1”は、サブタイトルの表示開始・終了を表すタイムスタンプであることを示す。「extension_type」が“1”であるとき、「subtitle_start_time」の33ビットフィールドと、「subtitle_end_time」の33ビットフィールドが存在する。
「subtitle_start_time」の33ビットフィールドは、サブタイトル表示の開始時刻をシステムのクロック精度で表す値(表示開始タイムスタンプ)を示す。「subtitle_end_time」の33ビットフィールドは、サブタイトル表示の終了時刻をシステムのクロック精度で表す値(表示終了タイムスタンプ)を示す。
次に、図11に示すPESペイロード(PES_payload)の構成例について説明する。サブタイトルPESパケットは、プライベートPESパケットとして定義される。プライベートPESパケットの場合、“PES packet data bytes”を自由に定義できることから、その一部に表示開始・終了を表すタイムスタンプが挿入される。
「private_type」の8ビットフィールドは、プライベートPESパケットの種類を示す。“EC”は、タイムスタンプ付きのサブタイトルストリームであることを示す。「timestamp_insertion_flag」のフラグ情報は、当該パケットペイロードの最初にタイムスタンプが配置されることを示す。“1”は、タイムスタンプが配置されることを示す。“0”は、タイムスタンプが配置されないことを示す。「timestamp_insertion_flag」が“1”であるとき、「subtitle_start_time」の33ビットフィールドと、「subtitle_end_time」の33ビットフィールドが存在する。
図2に戻って、TSフォーマッタ116は、ビデオエンコーダ112で生成されたビデオストリーム、オーディオエンコーダ113で生成されたオーディオストリームおよびサブタイトルエンコーダ115で生成されたサブタイトルストリームを、トランスポートパケット化して多重し、多重化ストリームとしてのトランスポートストリームTSを得る。
このように各ストリームを多重化するとき、TSフォーマッタ116は、サブタイトルPESパケットを、第1のタイムスタンプ(ヘッダのタイムスタンプ挿入位置に挿入されているタイムスタンプ)に基づいて、ランダムアクセス位置、つまりRAP対象のビデオPESパケットの位置に近接した位置に配置する。また、このとき、TSフォーマッタ116は、RAP対象とするオーディオPESパケットの管理情報に基づいて、当該RAP対象とするオーディオPESパケットをランダムアクセス位置、つまりRAP対象のビデオPESパケットの位置に近接した位置に配置する。
また、TSフォーマッタ116は、トランスポートストリームTSに、サブタイトルPESパケットに、第2のタイムスタンプ(サブタイトルの表示時刻を示す独自タイムスタンプ)が挿入されていることを示す識別情報を挿入する。この実施の形態において、TSフォーマッタ116は、プログラム・マップ・テーブル(PMT:Program Map Table)の配下のサブタイトルストリームに対応したサブタイトル・エレメンタリストリーム・ループに、サブタイトル・ラップ・デスクリプタ(Subtitle_rap_descriptor)を挿入する。
図13(a)は、サブタイトル・ラップ・デスクリプタの構造例(Syntax)を示している。図13(b)は、その構造例における主要な情報の内容(Semantics)を示している。「descriptor_tag」の8ビットフィールドは、デスクリプタタイプを示し、ここでは、サブタイトル・ラップ・デスクリプタであることを示す。「descriptor_length」の8ビットフィールドは、デスクリプタの長さ(サイズ)を示し、デスクリプタの長さとして以降のバイト数を示す。
「subtitle_presentation_time_flag」のフラグ情報は、従来のタイムスタンプ(第1のタイムスタンプ)とは別のタイミング、主に遅延したタイミングでサブタイトル表示を行うかどうか、つまりサブタイトル独自の表示タイムスタンプの配置があるかどうかを示す。“1”は、遅延表示(サブタイトル独自の表示タイムスタンプの配置)を行うことを示す。“0”は、遅延表示(サブタイトル独自の表示タイムスタンプの配置)を行わないことを示す。
「subtitle_presentation_time_flag」が“1”であるとき、「time_insertion_type」の2ビットフィールドが存在する。このフィールドは、サブタイトル独自の表示タイムスタンプの挿入タイプ、つまり当該タイムスタンプがどこに挿入されているかを示す。“01”は、PESヘッダエクステンション(PES header extension)部に挿入することを示す。“10”は、PESプライベートストリームのペイロード(PES private stream payload)に挿入することを示す。
図14は、トランスポートストリームTSの構成例を示している。この構成例では、PID1で識別されるビデオストリームのPESパケットであるビデオPESパケット「Video PES」が存在する。また、この構成例では、PID2で識別されるオーディオストリームのPESパケットであるオーディオPESパケット「Audio PES」が存在する。また、この構成例では、PID3で識別されるサブタイトルストリームのPESパケットであるサブタイトルPESパケット「Subtitle PES」が存在する。
PESパケットは、PESヘッダ(PES header)とPESペイロード(PES payload)からなっている。ビデオPESパケットにおいて、PESヘッダにはDTS/PTSのタイムスタンプが挿入されており、PESペイロードにはビデオ符号化ストリーム(符号化画像データ)が挿入されている。また、オーディオPESパケットにおいて、PESヘッダにはPTSのタイムスタンプが挿入されており、PESペイロードにはオーディオ符号化ストリーム(符号化音声データ)が挿入されている。
また、サブタイトルPESパケットにおいて、PESヘッダにはPTSのタイムスタンプ(第1のタイムスタンプ)が挿入されており、PESペイロードにはサブタイトル符号化ストリーム(サブタイトル情報としての複数のサブタイトルセグメント)が挿入されている。また、PESヘッダまたはPESペイロードに、第2のタイムスタンプ(独自タイムスタンプ)としての、表示開始タイムスタンプ「subtitle_start_time」および表示終了タイムスタンプ「subtitle_end_time」が存在する。
また、トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(Program Map Table)が含まれている。このPSIは、トランスポートストリームTSに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。また、トランスポートストリームTSには、イベント単位の管理を行うSI(Serviced Information)としてのEIT(Event Information Table)が含まれている。このEITには、番組単位のメタデータが記載される。
PMTには、プログラム全体に関連する情報を記述するプログラム・デスクリプタ(Program Descriptor)が存在する。また、このPMTには、各エレメンタリストリームに関連した情報を持つエレメンタリストリーム・ループが存在する。この構成例では、ビデオエレメンタリストリーム・ループ(Video ES loop)、オーディオエレメンタリストリーム・ループ(Audio ES loop)、サブタイトルエレメンタリストリーム・ループ(Subtitle ES loop)が存在する。
各ループには、パケット識別子(PID)等の情報が配置されると共に、そのエレメンタリストリームに関連する情報を記述する記述子(デスクリプタ)も配置される。サブタイトルエレメンタリストリーム・ループには、デスクリプタの一つとして、上述したサブタイトル・ラップ・デスクリプタ(Subtitle_rap_descriptor)が配置される。
図2に示すストリーム生成部110の動作を簡単に説明する。画像データDVは、ビデオエンコーダ112に供給される。ビデオエンコーダ112では、この画像データDVに対して符号化が施され、ペイロードに符号化画像データを持つビデオPESパケットからなるビデオストリーム(PESストリーム)が生成される。このビデオストリームは、TSフォーマッタ116に供給される。
また、音声データDAは、オーディオエンコーダ113に供給される。オーディオエンコーダ113では、音声データDAに対して符号化が施され、符号化音声データを持つオーディオPESパケットからなるオーディオストリーム(PESストリーム)が生成される。このオーディオストリームは、TSフォーマッタ116に供給される。
また、サブタイトル情報としてのテキストデータ(文字コード)DTは、テキストフォーマット変換部114に供給される。このキストフォーマット変換部114では、表示タイミング情報を持つ所定フォーマットのサブタイトルのテキスト情報、ここではTTMLが得られる。このTTMLは、サブタイトルエンコーダ115に供給される。
サブタイトルエンコーダ115では、TTMLが種々のセグメントに変換され、ペイロードにそれらのセグメントを配置したサブタイトルPESパケットからなるサブタイトルストリームが生成される。このサブタイトルストリームは、TSフォーマッタ116に供給される。
サブタイトルエンコーダ115では、サブタイトルストリームの生成時に、制御部111の制御のもと、サブタイトルPESパケットのヘッダのタイムスタンプ挿入位置に、RAP対象のビデオPESパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値のタイムスタンプ(第1のタイムスタンプ)を挿入することが行われる。
また、サブタイトルエンコーダ115では、サブタイトルストリームの生成時に、制御部111の制御のもと、サブタイトルPESパケットのヘッダあるいはペイロードに、サブタイトルの表示時刻(表示開始時刻、表示終了時刻)を示す独自タイムスタンプ(第2のタイムスタンプ)を挿入することが行われる。
TSフォーマッタ116では、ビデオエンコーダ112で生成されたビデオストリーム、オーディオエンコーダ113で生成されたオーディオストリームおよびサブタイトルエンコーダ115で生成されたサブタイトルストリームが、トランスポートパケット化されて多重化され、多重化ストリームとしてのトランスポートストリームTSが生成される。
このように各ストリームを多重化されるとき、サブタイトルPESパケットは、制御部111の制御のもと、第1のタイムスタンプ(ヘッダのタイムスタンプ挿入位置に挿入されているタイムスタンプ)に基づいて、ランダムアクセス位置、つまりRAP対象のビデオPESパケットの位置に近接した位置に配置される。
また、このとき、制御部111の制御のもと、RAP対象とするオーディオPESパケットの管理情報に基づいて、当該RAP対象とするオーディオPESパケットがランダムアクセス位置、つまりRAP対象のビデオPESパケットの位置に近接した位置に配置される。
また、TSフォーマッタ116では、トランスポートストリームTSに、識別情報が挿入される。この識別情報は、サブタイトルPESパケットに第2のタイムスタンプ(サブタイトルの表示時刻を示す独自タイムスタンプ)の挿入があることを示すものである。すなわち、TSフォーマッタ116では、プログラム・マップ・テーブル(PMT:Program Map Table)の配下のサブタイトルストリームに対応したサブタイトル・エレメンタリストリーム・ループに、サブタイトル・ラップ・デスクリプタ(Subtitle_rap_descriptor)が配置される。
[テレビ受信機の構成例]
図15は、テレビ受信機200の構成例を示している。このテレビ受信機200は、受信部201と、TS解析部(デマルチプレクサ)202と、ビデオデコーダ203と、ビデオ重畳部204と、パネル駆動回路205と、表示パネル206を有している。また、このテレビ受信機200は、オーディオデコーダ207と、音声出力回路208と、スピーカ209と、サブタイトルデコーダ210を有している。また、このテレビ受信機200は、CPU221と、フラッシュROM222と、DRAM223と、内部バス224と、リモコン受信部225と、リモコン送信機226を有している。
CPU221は、テレビ受信機200の各部の動作を制御する。フラッシュROM222は、制御ソフトウェアの格納およびデータの保管を行う。DRAM223は、CPU221のワークエリアを構成する。CPU221は、フラッシュROM222から読み出したソフトウェアやデータをDRAM223上に展開してソフトウェアを起動させ、テレビ受信機200の各部を制御する。
リモコン受信部225は、リモコン送信機226から送信されたリモートコントロール信号(リモコンコード)を受信し、CPU221に供給する。CPU221は、このリモコンコードに基づいて、テレビ受信機200の各部を制御する。CPU221、フラッシュROM222およびDRAM223は、内部バス224に接続されている。
受信部201は、放送送出システム100から放送波に載せて送られてくるトランスポートストリームTSを受信する。このトランスポートストリームTSには、上述したように、ビデオストリーム、オーディオストリームおよびサブタイトルストリームが含まれている。TS解析部202は、トランスポートストリームTSからビデオ、オーディオ、サブタイトルの各ストリームのPESパケットを抽出する。
ここで、受信部201で受信されたトランスポートストリームTSは、蓄積媒体(バッファあるいはストレージ)201aに一旦蓄積され、再生モードに対応した部分が取り出されてTS解析部202に送られる。例えば、通常再生モードにあっては、蓄積された全てがTS解析部202に送られる。これに対して、変速再生モードにあっては、RAP位置(ランダムアクセス位置)の部分を含む倍速スピードに応じた間欠的な一部の部分がTS解析部202に送られる。特に、RAP再生モードにあっては、RAP位置(ランダムアクセス位置)の部分のみがTS解析部202に送られる。
また、TS解析部202は、トランスポートストリームTSに挿入されている種々の情報を抽出し、CPU221に送る。この情報には、サブタイトル・ラップ・デスクリプタ(Subtitle_rap_descriptor)の情報も含まれる。CPU221は、これにより、サブタイトルPESパケットに第2のタイムスタンプ(独自タイムスタンプ)の挿入があること、およびその挿入場所を容易に認識でき、サブタイトルデコーダ210の制御に効果的に利用できる。
オーディオデコーダ207は、TS解析部202で抽出されるオーディオPESパケットにデコード処理を施し、音声データを得る。音声出力回路208は、音声データに対して、D/A変換や増幅等の必要な処理を施し、スピーカ209に供給する。ビデオデコーダ203は、TS解析部202で抽出されるビデオPESパケットにデコード処理を施し、画像データを得る。
オーディオデコーダ207およびビデオデコーダ203における各PESパケットに対するデコードおよび出力の処理は、通常再生モードにおいてはヘッダに挿入されているタイムスタンプで制御されるが、変速再生モードにおいては当該タイムスタンプで制御されず、TS解析部202から供給された後に直ちに行われる。
サブタイトルデコーダ210は、TS解析部202で抽出されるサブタイトルPESパケットにデコード処理を施し、画像データに重畳すべき各リージョンのビットマップデータを得る。サブタイトルデコーダ210におけるサブタイトルPESパケットに対するデコードおよび出力の処理は、通常再生モードにおいてはヘッダまたはペイロードに挿入されている第2のタイムスタンプ(独自タイムスタンプ)で制御されるが、変速再生モードにおいては当該第2のタイムスタンプで制御されず、TS解析部202から供給された後に直ちに行われる。
図16は、例えば、RAP位置で読み出されるサブタイトルPESパケットに対するデコードおよび出力の処理タイミングを概略的に示している。通常再生モードの場合には、表示開始タイムスタンプで示される時刻までにデコードが完了し、当該時刻からデコード結果としてのビットマップデータの出力が開始され、表示終了タイムスタンプで示される時刻まで継続される。この場合、表示開始タイムスタンプで示される時刻から表示終了タイムスタンプで示される時刻までがサブタイトル表示期間となる。
これに対して、変速再生モードの場合には、蓄積媒体201aからの読み出し後に直ちにデコードが行われ、デコード結果としてのビットマップデータの出力が開始される。この出力継続時間が、サブタイトル表示期間となる。この出力継続時間は、変速再生の倍速スピードと、サブタイトル表示維持の機能に依存して決まる。
図15に戻って、ビデオ重畳部204は、ビデオデコーダ203で得られた画像データに、サブタイトルデコーダ210から得られる各リージョンのビットマップデータを重畳する。パネル駆動回路205は、ビデオ重畳部204で得られる表示用の画像データに基づいて、表示パネル206を駆動する。表示パネル206は、例えば、LCD(Liquid Crystal Display)、有機ELディスプレイ(organic electroluminescence display)などで構成されている。
図15に示すテレビ受信機200の動作を簡単に説明する。受信部201では、放送送出システム100から放送波に載せて送られてくるトランスポートストリームTSが受信される。このトランスポートストリームTSには、ビデオストリーム、オーディオストリームおよびサブタイトルストリームが含まれている。
このトランスポートストリームTSは、蓄積媒体201aを通じて、TS解析部202に供給される。この場合、再生モードに対応した部分が取り出されてTS解析部202に送られる。例えば、通常再生モードにあっては、蓄積された全てがTS解析部202に送られる。これに対して、変速再生モードにあっては、RAP位置(ランダムアクセス位置)の部分を含む倍速スピードに応じた間欠的な一部の部分がTS解析部202に送られる。特に、RAP再生モードにあっては、RAP位置(ランダムアクセス位置)の部分のみがTS解析部202に送られる。
TS解析部202で抽出されるビデオPESパケットは、ビデオデコーダ203に供給される。ビデオデコーダ203では、TS解析部202で抽出されるビデオPESパケットにデコード処理が施されて、画像データが得られる。各ビデオPESパケットに対するデコードおよび出力の処理は、通常再生モードにおいてはヘッダに挿入されているタイムスタンプで制御されるが、変速再生モードにおいては当該タイムスタンプで制御されず、TS解析部202から供給された後に直ちに行われる。この画像データは、ビデオ重畳部204に供給される。
また、TS解析部202で抽出されるサブタイトルストリーム(PESストリーム)は、サブタイトルデコーダ210に供給される。サブタイトルデコーダ210では、各リージョンのセグメントデータが処理され、画像データに重畳すべき各リージョンのビットマップデータが得られる。各サブタイトルPESパケットに対するデコードおよび出力の処理は、通常再生モードにおいてはヘッダまたはペイロードに挿入されている第2のタイムスタンプ(独自タイムスタンプ)で制御されるが、変速再生モードにおいては当該第2のタイムスタンプで制御されず、TS解析部202から供給された後に直ちに行われる(図16参照)。
サブタイトルデコーダ210から出力される各リージョンのビットマップデータは、ビデオ重畳部204に供給される。ビデオ重畳部204では、ビデオデコーダ203で得られた画像データに、サブタイトルデコーダ210から出力される各リージョンのビットマップデータが重畳される。
ビデオ重畳部204で得られる表示用の画像データは、パネル駆動回路205に供給される。パネル駆動回路205では、表示用のビデオデータに基づいて、表示パネル206を駆動することが行われる。これにより、表示パネル206には、サブタイトルの重畳された画像が表示される。この場合、通常再生モードでは通常速度の通常再生画像となり、変速再生モードでは倍速スピードに応じた変速再生画像となる。
また、TS解析部202で抽出されるオーディオPESパケットは、オーディオデコーダ207に供給される。オーディオデコーダ207では、オーディオPESパケットにデコード処理が施されて、音声データが得られる。各オーディオPESパケットに対するデコードおよび出力の処理は、通常再生モードにおいてはヘッダに挿入されているタイムスタンプで制御されるが、変速再生モードにおいては当該タイムスタンプで制御されず、TS解析部202から供給された後に直ちに行われる。
この音声データは、音声出力回路208に供給される。音声出力回路208では、音声データに対して、D/A変換や増幅等の必要な処理が行われる。そして、処理後の音声データはスピーカ209に供給される。これにより、スピーカ209からは表示パネル206の表示画像に対応した音声出力が得られる。
以上説明したように、図1に示す送受信システム10においては、送信側で多重化ストリームとしてのトランスポートストリームTSを生成するに当たって、サブタイトルPESパケットがランダムアクセス位置に配置されるものである。そのため、受信側では、多重化ストリームからランダムアクセス位置のビデオPESパケットを取り出す際にサブタイトルPESパケットを併せて取り出すことができ、変速再生モードでのサブタイトル表示処理が簡単となる。
例えば、図17は、従来の多重化に関して示している。図17(a)は、ビデオストリームを構成するビデオPESパケット列を示している。「V_TS00」、「V_TS10」、「V_TS20」、「V_TS30」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「V0」、「V10」、「V20」、「V30」、・・・は、ペイロードに配置された符号化画像データを示している。
図17(b)は、オーディオストリームを構成するオーディオPESパケット列を示している。「A_TS00」、「A_TS10」、「A_TS20」、「A_TS30」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「A0」、「A10」、「A20」、「A30」、・・・は、ペイロードに配置された符号化音声データを示している。
図17(c)は、サブタイトルストリームを構成するサブタイトルPESパケット列を示している。「S_TS15」、「S_TS19」、「S_TS35」、「A_TS39」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「S15」、「S19」、「S35」、「S39」、・・・は、ペイロードに配置されたサブタイトル情報を示している。サブタイトルPESパケットのヘッダには、ビデオPESパケットやオーディオPESパケットのヘッダに挿入されるタイムスタンプとは関係なく、タイムスタンプが挿入される。
図17(d)は、多重化ストリーム(トランスポートストリームTS)における各PESパケットの配置の一例を示している。多重化に当たっては、各PESパケットのヘッダに挿入されているタイムスタンプが参照されて、各PESパケットの配置が決定される。この場合、サブタイトルPESパケットは、RAP位置(ランダムアクセス位置)とは無関係に、表示期間の少し前の位置に配置される。
RAP再生では、例えば、図17(e)の再生方法1に示すように、RAP位置毎にある程度の長さでPESパケットが読み出されてデコード処理が行われて、画像表示や音声出力が行われる。この場合、RAP位置にサブタイトルPESパケットが必ずしも配置されていないので、サブタイトル表示はされない。
なお、このRAP再生でも、サブタイトル表示を行うためには、図17(f)の再生方法2に示すように、RAP位置の読み出しの他に、サブタイトルPESパケットの読み出しも行っていくことが考えられる。この場合には、RAP位置の読み出しのためのジャンプの他に、サブタイトルPESパケットを読み出すためのジャンプを繰り返す必要があり、再生処理が複雑となる。また、サブタイトルPESパケットの読み出しが行われるまで画像表示や音声出力を待つことにもなるので、画像表示や音声出力の遅延が発生する。
図18は、本技術の多重化に関して示している。18(a)は、ビデオストリームを構成するビデオPESパケット列を示している。「V_TS00」、「V_TS10」、「V_TS20」、「V_TS30」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「V0」、「V10」、「V20」、「V30」、・・・は、ペイロードに配置された符号化画像データを示している。
図18(b)は、オーディオストリームを構成するオーディオPESパケット列を示している。「A_TS00」、「A_TS10」、「A_TS20」、「A_TS30」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「A0」、「A10」、「A20」、「A30」、・・・は、ペイロードに配置された符号化画像データを示している。
図18(c)は、サブタイトルストリームを構成するサブタイトルPESパケット列を示している。「S_TS10」、「S_TS30」、・・・は、ヘッダに挿入されたタイムスタンプを示し、「S10」、「S130」、・・・は、ペイロードに配置されたサブタイトル情報を示している。サブタイトルPESパケットのヘッダには、RAP対象のビデオPESパケットのヘッダに挿入されるタイムスタンプと同じか、あるいは近傍の値のタイムスタンプ(第1のタイムスタンプ)が挿入される。
図18(d)は、多重化ストリーム(トランスポートストリームTS)における各PESパケットの配置の一例を示している。多重化に当たっては、各PESパケットのヘッダに挿入されているタイムスタンプが参照されて、各PESパケットの配置が決定される。この場合、サブタイトルPESパケットは、RAP対象のビデオPESパケットやオーディオPESパケットと同様に、RAP位置(ランダムアクセス位置)に配置される。
RAP再生では、例えば、図18(e)の再生方法3に示すように、RAP位置毎にある程度の長さでPESパケットが読み出されてデコード処理が行われる。この場合、ビデオPESパケットやオーディオPESパケットと共に、サブタイトルPESパケットも読み出されてデコード処理されることから、画像表示や音声出力と共に、サブタイトル表示も良好に行われる。
このように本技術のように多重化が行われることで、図17(f)に示す再生方法2のような、RAP位置の読み出しのためのジャンプの他に、サブタイトルPESパケットを読み出すためのジャンプを繰り返すということが必要なく、サブタイトル表示を可能とするための受信側における変速再生処理が簡単となる。
また、図1に示す送受信システム10においては、サブタイトルPESパケットのヘッダまたはペイロードにサブタイトルの表示時刻を示す第2のタイムスタンプ(独自タイムスタンプ)が挿入されるものである。そのため、受信側では、この独自タイムスタンプに基づいて、サブタイトルの表示タイミングを容易に制御可能となる。
また、図1に示す送受信システム10においては、トランスポートストリームTSに、サブタイトルPESパケットに独自タイムスタンプの挿入があることを示す識別情報が挿入されるものである。そのため、受信側では、この識別情報に基づいて独自タイムスタンプの挿入があることを容易に認識でき、独自タイムスタンプの抽出を効率よく行うことができる。
<2.変形例>
なお、上述実施の形態においては、表示タイミング情報を持つ所定フォーマットのサブタイトルのテキスト情報としてTTMLを用いる例を示した。しかし、本技術は、これに限定されず、TTMLと同等の情報を持つその他のタイムドテキスト情報を用いることも考えらえる。例えば、TTMLの派生フォーマットを用いてもよい。また、本技術は、サブタイトルのフォーマットとしては従来タイプのビットマップ方式も全く同様に適用できることは当然である。
また、上述実施の形態においては、放送送出システム100とテレビ受信機200とからなる送受信システム10を示したが、本技術を適用し得る送受信システムの構成は、これに限定されるものではない。例えば、テレビ受信機200の部分が、HDMI(High-Definition Multimedia Interface)などのデジタルインタフェースで接続されたセットトップボックスおよびモニタの構成などであってもよい。なお、「HDMI」は登録商標である。
また、本技術は、以下のような構成を取ることもできる。
(1)ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームを生成するビデオエンコード部と、
ペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを生成するサブタイトルエンコード部と、
上記ビデオストリームと上記サブタイトルストリームを含む多重化ストリームを生成する多重化ストリーム生成部と、
上記多重化ストリームを送信する送信部を備え、
上記多重化ストリーム生成部は、
上記サブタイトルパケットを、ランダムアクセス位置に配置する
送信装置。
(2)上記サブタイトルエンコード部は、
上記サブタイトルパケットのヘッダのタイムスタンプ挿入位置に、上記ランダムアクセス位置のビデオパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値のタイムスタンプを挿入する
前記(1)に記載の送信装置。
(3)上記サブタイトルエンコード部は、
上記サブタイトルパケットのヘッダまたはペイロードに、サブタイトルの表示時刻を示す独自タイムスタンプを挿入する
前記(2)に記載の送信装置。
(4)上記多重化ストリーム生成部は、
上記多重化ストリームに、上記サブタイトルパケットに上記独自タイムスタンプの挿入があることを示す識別情報を挿入する
前記(3)に記載の送信装置。
(5)上記識別情報には、挿入位置を示す情報が付加されている
前記(4)に記載の送信装置。
(6)上記サブタイトル情報は、表示タイミング情報を持つ所定フォーマットのサブタイトルのテキスト情報である
前記(1)から(5)のいずれかに記載の送信装置。
(7)上記所定フォーマットのサブタイトルのテキスト情報は、TTMLあるいは該TTMLの派生フォーマットである
前記(6)に記載の送信装置。
(8)上記ビデオパケットおよび上記サブタイトルパケットはPESパケットであり、
上記多重化ストリームはMPEG2トランスポートストリームである
前記(1)から(7)のいずれかに記載の送信装置。
(9)ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームを生成するビデオエンコードステップと、
ペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを生成するサブタイトルストリーム生成ステップと、
上記ビデオストリームと上記サブタイトルストリームを含む多重化ストリームを生成する多重化ストリーム生成ステップと、
送信部により、上記多重化ストリームを送信する送信ステップを有し、
上記多重化ストリーム生成ステップでは、
上記サブタイトルパケットを、ランダムアクセス位置に配置する
送信方法。
(10)ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームとペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを含む多重化ストリームを受信する受信部を備え、
上記多重化ストリームにおいて、上記サブタイトルパケットはランダムアクセス位置に配置されており、
上記多重化ストリームから上記サブタイトルパケットを、上記ランダムアクセス位置のビデオパケットと共に取り出してサブタイトルの表示処理を行う処理部をさらに備える
受信装置。
(11)上記サブタイトルパケットのヘッダのタイムスタンプ挿入位置には、上記ランダムアクセス位置のビデオパケットのヘッダのタイムスタンプ挿入位置に挿入されるタイムスタンプの値と同じか、あるいは近傍の値の第1のタイムスタンプが挿入されており、
上記サブタイトルパケットのヘッダまたはペイロードに、サブタイトルの表示時刻を示す第2のタイムスタンプが挿入されており、
上記処理部は、
通常再生モードでは、上記第2のタイムスタンプを参照してサブタイトルの表示処理を行う
前記(10)に記載の受信装置。
(12)上記多重化ストリームには、上記サブタイトルパケットに上記第2のタイムスタンプの挿入があることを示す識別情報が挿入されており、
上記処理部は、上記識別情報に基づいて、上記サブタイトルパケットから上記第2のタイムスタンプを抽出して用いる
前記(11)に記載の受信装置。
(13)受信部により、ペイロードに符号化画像データを持つビデオパケットにより構成されるビデオストリームとペイロードにサブタイトル情報を持つサブタイトルパケットにより構成されるサブタイトルストリームを含む多重化ストリームを受信する受信ステップを有し、
上記多重化ストリームにおいて、上記サブタイトルパケットはランダムアクセス位置に配置されており、
上記多重化ストリームから上記サブタイトルパケットを、上記ランダムアクセス位置のビデオパケットと共に取り出してサブタイトルの表示処理を行う処理ステップをさらに有する
受信方法。
本技術の主な特徴は、多重化ストリームとしてのトランスポートストリームTSを生成するに当たって、サブタイトルPESパケットをランダムアクセス位置に配置することで、受信側における変速再生モードでのサブタイトル表示処理の簡単化を図るようにしたことである(図18参照)。
10・・・送受信システム
100・・・放送送出システム
110・・・ストリーム生成部
111・・・制御部
112・・・ビデオエンコーダ
113・・・オーディオエンコーダ
114・・・テキストフォーマット変換部
115・・・サブタイトルエンコーダ
116・・・TSフォーマッタ(マルチプレクサ)
120・・・タイミング管理部
121・・・ビデオタイミング管理部
122・・・オーディオタイミング管理部
123・・・RAPタイミング管理部
124・・・サブタイトル表示タイミング管理部
200・・・テレビ受信機
201・・・受信部
201a・・・蓄積媒体
202・・・TS解析部
203・・・ビデオデコーダ
204・・・ビデオ重畳部
205・・・パネル駆動回路
206・・・表示パネル
207・・・オーディオデコーダ
208・・・音声出力回路
209・・・スピーカ
210・・・サブタイトルデコーダ
221・・・CPU

Claims (1)

  1. 号化画像データを持つビデオパケットサブタイトル情報を持つサブタイトルパケットを含む伝送ストリームを生成する伝送ストリーム生成ステップと、
    前記伝送ストリームを送信する送信ステップを有し、
    前記サブタイトル情報は、表示タイミング情報を持つTTMLあるいは該TTMLの派生フォーマットのサブタイトルテキスト情報であり、
    前記伝送ストリームにおいて、前記サブタイトルパケットはランダムアクセス位置に配置されている
    送信方法。
JP2021127893A 2015-02-20 2021-08-04 送信方法 Active JP7176598B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022179816A JP2023001309A (ja) 2015-02-20 2022-11-09 送信方法、送信装置および受信装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015031800 2015-02-20
JP2015031800 2015-02-20
JP2020110019A JP6927374B2 (ja) 2015-02-20 2020-06-25 受信装置および受信方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020110019A Division JP6927374B2 (ja) 2015-02-20 2020-06-25 受信装置および受信方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022179816A Division JP2023001309A (ja) 2015-02-20 2022-11-09 送信方法、送信装置および受信装置

Publications (2)

Publication Number Publication Date
JP2021184626A JP2021184626A (ja) 2021-12-02
JP7176598B2 true JP7176598B2 (ja) 2022-11-22

Family

ID=56689236

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2017500621A Active JP6729547B2 (ja) 2015-02-20 2016-02-09 送信装置、送信方法、受信装置および受信方法
JP2020110019A Active JP6927374B2 (ja) 2015-02-20 2020-06-25 受信装置および受信方法
JP2021127893A Active JP7176598B2 (ja) 2015-02-20 2021-08-04 送信方法
JP2022179816A Pending JP2023001309A (ja) 2015-02-20 2022-11-09 送信方法、送信装置および受信装置

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2017500621A Active JP6729547B2 (ja) 2015-02-20 2016-02-09 送信装置、送信方法、受信装置および受信方法
JP2020110019A Active JP6927374B2 (ja) 2015-02-20 2020-06-25 受信装置および受信方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022179816A Pending JP2023001309A (ja) 2015-02-20 2022-11-09 送信方法、送信装置および受信装置

Country Status (5)

Country Link
US (1) US10225589B2 (ja)
EP (1) EP3261353B1 (ja)
JP (4) JP6729547B2 (ja)
CN (1) CN107211170B (ja)
WO (1) WO2016132977A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3981819B1 (en) 2010-01-19 2024-02-28 Sirigen II Limited Novel reagents for directed biomarker signal amplification
WO2016167187A1 (ja) * 2015-04-13 2016-10-20 ソニー株式会社 送信装置、送信方法、再生装置および再生方法
CN108111896B (zh) * 2018-01-16 2020-05-05 北京三体云联科技有限公司 一种字幕同步方法及装置
CN114302215B (zh) * 2021-12-29 2023-09-29 北京奕斯伟计算技术股份有限公司 视频数据流解码系统、方法、电子设备和介质
EP4221169A1 (en) * 2022-01-31 2023-08-02 Koa Health B.V. Sucursal en España System and method for monitoring communication quality

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004120098A (ja) 2002-09-24 2004-04-15 Sony Corp 情報処理装置および方法、プログラム、並びに記録媒体
JP2007012218A (ja) 2005-07-01 2007-01-18 Sony Computer Entertainment Inc 再生装置、ビデオ復号装置および同期再生方法
JP2008193203A (ja) 2007-02-01 2008-08-21 Mitsubishi Electric Corp デジタル映像情報データ生成装置、デジタル映像情報記録装置、デジタル映像情報再生装置、及びデジタル映像情報データ生成方法
JP2012169885A (ja) 2011-02-15 2012-09-06 Sony Corp 表示制御方法、記録媒体、表示制御装置
WO2013088986A1 (ja) 2011-12-16 2013-06-20 ソニー株式会社 受信装置及びその制御方法、配信装置及び配信方法、プログラム、並びに配信システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004032607A (ja) * 2002-06-28 2004-01-29 Sanyo Electric Co Ltd ディジタル映像再生装置
JP4275611B2 (ja) * 2004-12-02 2009-06-10 ソニー株式会社 再生装置、再生方法および再生プログラム、記録媒体、ならびに、データ構造体
KR100782835B1 (ko) * 2005-01-29 2007-12-06 삼성전자주식회사 캡션 정보의 출력시점 및 출력 우선순위를 조절하는 방법및 그 장치
US8745687B2 (en) * 2005-02-15 2014-06-03 Sony Corporation Digital closed caption transport in standalone stream
US20070154176A1 (en) * 2006-01-04 2007-07-05 Elcock Albert F Navigating recorded video using captioning, dialogue and sound effects
RU2473980C2 (ru) 2007-11-01 2013-01-27 Панасоник Корпорэйшн Носитель записи, устройство воспроизведения, устройство записи, способ воспроизведения и способ записи
JP4992931B2 (ja) 2009-04-20 2012-08-08 ソニー株式会社 情報処理装置および方法、プログラム、並びに記録媒体
JPWO2013105401A1 (ja) * 2012-01-13 2015-05-11 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
KR101781887B1 (ko) * 2014-02-23 2017-09-26 엘지전자 주식회사 방송 신호 송수신 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004120098A (ja) 2002-09-24 2004-04-15 Sony Corp 情報処理装置および方法、プログラム、並びに記録媒体
JP2007012218A (ja) 2005-07-01 2007-01-18 Sony Computer Entertainment Inc 再生装置、ビデオ復号装置および同期再生方法
JP2008193203A (ja) 2007-02-01 2008-08-21 Mitsubishi Electric Corp デジタル映像情報データ生成装置、デジタル映像情報記録装置、デジタル映像情報再生装置、及びデジタル映像情報データ生成方法
JP2012169885A (ja) 2011-02-15 2012-09-06 Sony Corp 表示制御方法、記録媒体、表示制御装置
WO2013088986A1 (ja) 2011-12-16 2013-06-20 ソニー株式会社 受信装置及びその制御方法、配信装置及び配信方法、プログラム、並びに配信システム

Also Published As

Publication number Publication date
JP6927374B2 (ja) 2021-08-25
US20180007406A1 (en) 2018-01-04
EP3261353A1 (en) 2017-12-27
EP3261353B1 (en) 2021-03-31
JP2020174367A (ja) 2020-10-22
CN107211170A (zh) 2017-09-26
JP6729547B2 (ja) 2020-07-22
JP2023001309A (ja) 2023-01-04
CN107211170B (zh) 2020-07-10
JP2021184626A (ja) 2021-12-02
WO2016132977A1 (ja) 2016-08-25
JPWO2016132977A1 (ja) 2017-11-30
EP3261353A4 (en) 2018-07-18
US10225589B2 (en) 2019-03-05

Similar Documents

Publication Publication Date Title
JP7176598B2 (ja) 送信方法
JP6825558B2 (ja) 送信装置、送信方法、再生装置および再生方法
RU2701172C2 (ru) Передающее устройство, способ передачи, приемное устройство и способ приема
JP6760296B2 (ja) 送信装置、送信方法、再生装置および再生方法
US11470296B2 (en) Transmitter, transmission method, receiver, and reception method
WO2017126509A1 (ja) 送信装置、送信方法、受信装置および受信方法
EP3493548B1 (en) Transmission device, transmission method, reception device, and reception method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221024

R151 Written notification of patent or utility model registration

Ref document number: 7176598

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151