JPWO2018066385A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2018066385A1
JPWO2018066385A1 JP2018543841A JP2018543841A JPWO2018066385A1 JP WO2018066385 A1 JPWO2018066385 A1 JP WO2018066385A1 JP 2018543841 A JP2018543841 A JP 2018543841A JP 2018543841 A JP2018543841 A JP 2018543841A JP WO2018066385 A1 JPWO2018066385 A1 JP WO2018066385A1
Authority
JP
Japan
Prior art keywords
counter value
time
format
packet
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018543841A
Other languages
English (en)
Other versions
JP7034926B2 (ja
Inventor
道人 石井
道人 石井
幸一 内村
幸一 内村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Semiconductor Solutions Corp
Original Assignee
Sony Corp
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Semiconductor Solutions Corp filed Critical Sony Corp
Publication of JPWO2018066385A1 publication Critical patent/JPWO2018066385A1/ja
Application granted granted Critical
Publication of JP7034926B2 publication Critical patent/JP7034926B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04H—BROADCAST COMMUNICATION
    • H04H20/00—Arrangements for broadcast or for distribution combined with broadcast
    • H04H20/86—Arrangements characterised by the broadcast information itself
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04H—BROADCAST COMMUNICATION
    • H04H60/00—Arrangements for broadcast applications with a direct linking to broadcast information or broadcast space-time; Broadcast-related systems
    • H04H60/09—Arrangements for device control with a direct linkage to broadcast information or to broadcast space-time; Arrangements for control of broadcast-related services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/91—Television signal processing therefor
    • H04N5/92—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

本技術は、コンテンツのフォーマットを、時間軸が異なる第１のフォーマットから第２のフォーマットに変換することができるようにする情報処理装置、情報処理方法、およびプログラムに関する。本技術の情報処理装置は、ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信し、第１の多重化データに時刻情報として含まれる、第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換し、ビデオストリームを構成するビデオデータとオーディオストリームを構成するオーディオデータをそれぞれ第２のフォーマットのパケットに格納し、第２のカウンタ値を時刻情報として含む、第２のフォーマットの第２の多重化データを生成する。本技術は、PC、ハードディスクレコーダなどの録画機器などに適用することができる。

Description

本技術は、情報処理装置、情報処理方法、およびプログラムに関し、特に、コンテンツのフォーマットを、時間軸が異なる第１のフォーマットから第２のフォーマットに変換することができるようにした情報処理装置、情報処理方法、およびプログラムに関する。
次世代の放送規格におけるコンテンツの伝送は、従来のMPEG-2 TSではなく、MMT(MPEG Media Transport)で行われる。MMTにより、放送波の伝送路だけでなく、インターネットなどの通信の伝送路を用いたコンテンツの伝送が可能になる。
特開２０１６−１０３７４５号公報
MMTのコンテンツを受信し、記録する場合、MMTのコンテンツをそのまま記録することも考えられるが、MPEG-2 TSで記録することも検討されている。MPEG-2 TSで記録することにより、既に普及しているMPEG-2 TSの資産を活かすことが可能になる。
MMTのコンテンツをMPEG-2 TSのコンテンツに変換する技術が確立されていない。
本技術はこのような状況に鑑みてなされたものであり、コンテンツのフォーマットを、時間軸が異なる第１のフォーマットから第２のフォーマットに変換することができるようにするものである。
本技術の一側面の情報処理装置は、ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信する受信部と、前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換する変換部と、前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する多重化部とを備える。
前記第１のフォーマットはMMTであり、前記第２のフォーマットはMPEG-2 TSであるようにすることができる。
基準となる時刻を表す前記第１のカウンタ値を、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHz（ｎは２４以上の整数）とする３２＋ｎビットのカウンタ値とすることができる。また、基準となる時刻を表す前記第２のカウンタ値を、１秒以上の時刻を、精度を９０kHzとして３３ビットで表し、１秒以下の時刻を、精度を２７MHzとして９ビットで表す４２ビットのカウンタ値とすることができる。
前記多重化部には、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットに、基準となる時刻を表す前記第２のカウンタ値としてのPCRを含むTSパケットを付加し、前記第２の多重化データを生成させることができる。
提示時刻を表す前記第１のカウンタ値と復号時刻を表す前記第１のカウンタ値を、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHzとする３２＋ｎビットのカウンタ値とすることができる。また、提示時刻を表す前記第２のカウンタ値と復号時刻を表す前記第２のカウンタ値を、精度を９０kHzとして３３ビットで表すカウンタ値とすることができる。
前記多重化部には、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットの元になるPESパケットに、提示時刻を表す前記第２のカウンタ値としてのPTSと復号時刻を表す前記第２のカウンタ値としてのDTSとを付加させることができる。
前記多重化部には、MPUシーケンス番号に基づいて、同一のMPUに属する前記ビデオデータと前記オーディオデータを含むPESパケットを生成させることができる。
前記第２の多重化データとしてのTSを記録媒体に記録させる記録制御部をさらに設けることができる。
前記記録媒体を、Blu-ray（登録商標） Discとすることができる。
本技術の一側面においては、ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データが受信され、前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値が、第２のフォーマットで規定するビット数の第２のカウンタ値に変換される。また、前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータがそれぞれ前記第２のフォーマットのパケットに格納され、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データが生成される。
本技術によれば、コンテンツのフォーマットを、時間軸が異なる第１のフォーマットから第２のフォーマットに変換することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の一実施形態に係る情報処理装置によるフォーマット変換の例を示す図である。 カウンタ値の変換の例を示す図である。 MMTを用いる放送システムのプロトコルスタックを示す図である。 NTP形式の構成を示す図である。 NTP形式の時刻情報を含むIPパケットを格納するTLVパケットの配置を示す図である。 映像・音声信号からMMTPペイロードを構成する例を示す図である。 MMTPパケットの構成を示す図である。 payload_typeの値の意味を示す図である。 MMTP_payload()の構成を示す図である。 MMTP_payload()の構成を示す図である。 MMT-SIの構造を示す図である。 MMT-SIのメッセージの種類と機能を示す図である。 PAメッセージの構成を示す図である。 message_idの値の意味を示す図である。 MPTの構成を示す図である。 MPUタイムスタンプ記述子の構成を示す図である。 MPU拡張タイムスタンプ記述子の構成を示す図である。 MMTにおけるPTSとDTSの算出方法を示す図である。 TSパケットの構成を示す図である。 アダプテーションフィールドの構成を示す図である。 PESパケットの構成を示す図である。 情報処理装置の構成例を示すブロック図である。 図２２のMMT信号処理部と記録制御部の構成例を示すブロック図である。 MPEG-2 TSにおけるカウンタ値と時間の関係を示す図である。 MMTにおけるカウンタ値と時間の関係を示す図である。 MPEG-2 TSの３３bitカウンタの特性とMMTの３２＋ｎbitカウンタの特性を重ねて示す図である。 PCRの構成を示す図である。 情報処理装置の変換処理について説明するフローチャートである。 コンピュータの構成例を示すブロック図である。
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
１．フォーマット変換の例
２．MMTについて
３．MPEG-2 TSについて
４．情報処理装置の構成例
５．カウンタ値の変換について
６．情報処理装置の動作
７．変形例
＜１．フォーマット変換の例＞
図１は、本技術の一実施形態に係る情報処理装置によるフォーマット変換の例を示す図である。
情報処理装置１は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの記録媒体を内蔵した録画機器、テレビジョン受像機、パーソナルコンピュータ、セットトップボックスなどの装置である。情報処理装置１は、放送波の伝送路、またはインターネットなどの通信の伝送路を介して放送（配信）された、ビデオとオーディオを含むテレビジョン番組などのコンテンツを受信する。放送波の伝送路には、地上波放送、衛星放送の伝送路が含まれる。
放送波の伝送路、または通信の伝送路を介したコンテンツの伝送は、MMTで行われる。情報処理装置１は、ビデオストリームとオーディオストリームをMMTで多重化して得られた多重化データを受信する。
情報処理装置１は、ARIB STD-B60（「デジタル放送におけるMMTによるメディアトランスポート方式」）に準拠したMMTのコンテンツの受信に対応した装置である。また、情報処理装置１は、次世代放送推進フォーラムで規定されたNEXTVF TR-0004（「高度広帯域衛星デジタル放送 運用規定」）に準拠したコンテンツ伝送に対応した装置でもある。
情報処理装置１は、受信したMMTのコンテンツを再生し、コンテンツの映像と音声を、情報処理装置１に接続されたテレビジョン受像機（図示せぬ）などから出力させる機能を有する。
また、情報処理装置１は、受信したMMTのコンテンツを、MPEG-2 TSのコンテンツに変換する機能を有する。MPEG-2 TSは、ITU-H.222.0により規定される。
MMTからMPEG-2 TSへのフォーマットの変換時、情報処理装置１は、MMTP(MMT Protocol)パケットに格納されたビデオデータやオーディオデータを取得し、TSパケットに格納し直す。情報処理装置１は、SI(Service Information)などの制御情報を格納したTSパケットとともに、ビデオのTSパケットとオーディオのTSパケットを多重化することによってTS（トランスポートストリーム）を生成する。
フォーマットの変換時、情報処理装置１は、MMTのコンテンツに含まれる時刻情報を、MPEG-2 TSの時刻情報に変換する。MMTとMPEG-2 TSは、時間軸が異なるフォーマットである。時間軸が異なるとは、時刻を規定するカウンタ値のビット数と精度（周波数）のうちの少なくともいずれかが異なることを意味する。
MMTのコンテンツとMPEG-2 TSのコンテンツには、時刻情報として、動作の基準となる参照時刻を表すカウンタ値と、PTS(Presentation Time Stamp)、DTS(Decode Time Stamp)を表すカウンタ値が含まれる。
図２は、カウンタ値の変換の例を示す図である。
図２の左側に示すように、MMTにおいて、参照時刻は、NTP形式の時刻情報に含まれる。
詳細については後述するが、NTP形式においては、３２＋ｎbit／２ｎHzのカウンタ値で参照時刻が表される。ここで、３２＋ｎbit／２ｎHzは、１秒以上の時刻が、秒単位で、３２bitを用いて表され、１秒以下の時刻がｎbitを用いて表されることを示す。１秒以下の精度は２ｎHzである。
NEXTVF_TR-0004では、NTP形式の運用として、ｎが２４以上であることが規定されている。
MMTにおいて、PTSとDTSは、３２＋ｎbit／２ｎHzのカウンタ値で表される時刻から求められる。
一方、図２の右側に示すように、MPEG-2 TSにおいて、動作の基準となる参照時刻であるPCRは、４２bit／２７MHzのカウンタ値で表される。
また、MPEG-2 TSにおいて、PTSとDTSは、それぞれ、３３bit／９０kHzのカウンタ値で表される。
情報処理装置１は、３２＋ｎbit／２ｎHzのカウンタ値で表されるMMTの参照時刻を、４２bit／２７MHzのカウンタ値で表されるMPEG-2 TSのPCRに変換する。
また、情報処理装置１は、MMTにおけるPTSとDTSを、それぞれ、３３bit／９０kHzのカウンタ値で表されるMPEG-2 TSのPTSとDTSに変換する。
情報処理装置１は、このようにして変換したMPEG-2 TSの時刻情報を含むTSを生成する。
図１の説明に戻り、情報処理装置１は、MMTのコンテンツを変換することによって生成したMPEG-2 TSのコンテンツを、情報処理装置１に装着された記録媒体１１に記録する。記録媒体１１は、例えばBlu-ray（登録商標） Disc（以下、適宜、BDという）である。BDは、MPEG-2 TSのファイルを記録可能な記録媒体である。
情報処理装置１は、MMTで伝送されてきたコンテンツをBDに記録できることになる。BDの再生に対応した再生装置は、情報処理装置１によりBDに書き込まれたコンテンツを再生できることになる。
また、情報処理装置１は、MMTのコンテンツを変換することによって生成したMPEG-2 TSのコンテンツを、インターネットなどのネットワーク１２を介して送信する。MPEG-2 TSのコンテンツの再生に対応した再生装置は、情報処理装置１により生成されたコンテンツを再生できることになる。
このように、MMTのコンテンツをMPEG-2 TSのコンテンツに変換できるようにすることにより、MMTで提供されたコンテンツの処理を、MPEG-2 TSを処理可能な各種の装置が行うことが可能になる。すなわち、MPEG-2 TSの資産を活かすことが可能になる。
＜２．MMTについて＞
＜２−１．MMTのパケット構造＞
MMTについて説明する。ここでは、ARIB STD-B60の規定のうち、情報処理装置１の処理に関係のある部分について説明する。特に明示するもの以外は、基本的に、ARIB STD-B60の規定によるものである。
図３は、MMTを用いる放送システムのプロトコルスタックを示す図である。
番組の映像信号及び音声信号の符号はMFU(Media Fragment Unit)/MPU(Media Processing Unit)の伝送単位に区切られる。１つ以上のアクセスユニットのデータを含む単位であるMPUは、複数のMFUを含むようにして構成される。
MFUは、MMTPペイロードに配置され、MMTPヘッダが付加されることによってMMTPパケットが構成される。MMTPパケットはIPパケットを用いて伝送される。１つのMMTPパケットは１つのIPパケットで伝送される。
放送番組の構成などを示す制御情報であるMMT-SIについても、MMTの制御メッセージの形式として、MMTPペイロードに配置されてMMTPパケット化され、IPパケットで伝送される。
上述したNTP形式の時刻情報も、IPパケットを用いて伝送される。
図４は、NTP形式の構成を示す図である。
IETF RFC 5905 “Network Time Protocol Version 4: Protocol and Algorithms Specification”に規定するNTP形式のIPパケットが、協定世界時（Coordinated Universal Time, UTC）を提供するために用いられる。
NTPでは、1900年1月1日0時0分0秒からの積算秒数が使用される。NTP形式には、reference_timestamp（参照タイムスタンプ）が含まれる。
reference_timestampは、システム時刻が最後に補正された時刻をNTP長形式で示す。NTP長形式は、秒単位を示す３２bitのフィールドと、1秒以下を示す３２bitのフィールドとから構成される。
NEXTVF_TR-0004では、1秒以下の時刻を、ｎbit（ｎ：２４以上）を使用して示すことが規定される。ｎは３２以下となる。
NTPが示す時刻は、１秒以上の時刻を秒単位で表す３２bitと、１秒以下の時刻を表すｎbitを足し合わせた３２＋ｎbitカウンタのカウンタ値として表される。１秒以下の精度は２ｎHzとなる。
１秒以下の精度であるｎが、図４のprecision（精度）により示される。ｎは、システムクロックの精度（秒単位）のlog2を示す。
ARIB STD-B60では、MMTを用いる放送システムにおける送出システム及び受信機は以下の要件を満たす必要がある。
・送出システムは、NTPタイムスタンプに基づくクロックを保持すること。
・送出システムでは、上記クロックと映像、音声のエンコード処理を行うクロックが同期していること。
・受信機は、受信したNTP形式の時刻情報に基づくクロックを再生、保持すること。
・受信機では、上記クロックを保持するためのシステムクロックと映像・音声等のデコード処理を行うクロックが同期していること。
図５は、STD-B44における、NTP形式の時刻情報を含むIPパケットを格納するTLV(Type Length Value)パケットの配置を示す図である。
NTP形式の時刻情報を含むIPパケットも含めて、IPパケットは、TLVパケットにより伝送することがSTD-B323_1により規定されている。NTP形式の時刻情報を含むIPパケットを格納するTLVパケットは、TLVストリームIDごとに割り当てられたスロットのうち、最初のスロットの先頭に配置される。
NTP形式の時刻情報を含むIPパケットを格納するTLVパケットをこのように配置することにより、NTP形式の時刻情報を含むIPパケットの遅延変動を抑えることが可能になる。
情報処理装置１は、TLVストリームを構成するTLVパケットからIPパケットを抽出し、IPパケットに格納されているNTP形式の時刻情報、または、映像や音声のMMTPパケットを取得することになる。
図６は、映像・音声信号からMMTPペイロードを構成する例を示す図である。
映像信号や音声信号の処理では、MPUが処理の単位となる。図６の中段に破線でサンプルデータとして示すように、MPUは１つ以上のアクセスユニットを含み、映像や音声の復号処理をMPU単体で行うことができる単位となる。MPUの大きさは任意であり、任意の数のアクセスユニットを含むことができる。フレーム間予測を用いて符号化する映像信号では、MPUはGOP(Group of Picture)単位とする必要がある。
図６の中段に示すように、MPUは、MPU全体の構成に関する情報を含むMPUメタデータ、符号化したメディアデータの情報を含むムービーフラグメントメタデータ、符号化したメディアデータであるサンプルデータから構成される。１つのMPUは１つ以上のムービーフラグメントから構成できるため、ムービーフラグメントメタデータとサンプルデータは複数存在することがある。
MPUには、同一のアセットに属するMPUごとに同じシーケンス番号が付加される。アセットを識別するアセットIDとMPUのシーケンス番号を用いることで、各MPUを区別することが可能になる。
MFUは、MPUよりも小さな単位である。MFUは、MPUを構成するサンプルデータから取り出すことができる。MFUの構成方法として、図６の下向き矢印で示すようにNALユニット単位やアクセスユニット単位でMFUを構成する方法がある。メディアを意識してMFUを構成することで、パケットロスのような伝送品質の低下が発生したときの誤りの伝搬を抑えることができる。
映像コンポーネントや音声コンポーネントなどの提示時刻が指定されるメディアには、MPU単位で、提示時刻（上述した、MMTにおけるPTS）が示される。MPUの提示時刻は、UTCに基づき、共通の時間軸を用いて指定される。そのため、受信側の装置は、放送と通信の伝送路の違いや送信元の違いによらず、必要なメディアコンポーネントを同期して提示することができる。
このように、MMTにおける符号化信号を構成する要素には、MPU、MFU、MMTPパケット、MMTPペイロードがある。
なお、図６は、１つのMFUを１つのMMTPペイロードに格納した例を示すものである。１つのMMTPペイロードに複数のMFUが格納される場合もあるし、反対に、１つのMFUが複数のMMTPペイロードに格納される場合もある。
図７は、MMTPパケットの構成を示す図である。
MMTPパケットは、MMTPヘッダとMMTPペイロードから構成される。図７に示す記述のうち、先頭から、MMTP_payload()の前までの記述がMMTPヘッダを構成する。
MMTPヘッダに含まれるpayload_type（ペイロードタイプ）は、MMTPペイロードのデータタイプを示す。
図８は、payload_typeの値の意味を示す図である。
図８に示すように、payload_typeの値が0x00であることは、MMTPペイロードに、映像や音声などのMPUが含まれることを示す。
また、payload_typeの値が0x02であることは、MMTPペイロードに、制御メッセージが含まれることを示す。
図７の説明に戻り、MMTPヘッダに含まれるpacket_id（パケット識別子）は、MMTPペイロードのデータの種類を識別するための情報である。
NEXTVF_TR-0004では、MMTPペイロードにMPUが含まれる場合（payload_typeの値が0x00である場合）、後述するMMTパッケージテーブルに示される、アセットのpacket_idが記述されることが規定されている。
図９および図１０は、MMTP_payload()の構成を示す図である。
図９は、payload_typeの値が0x00である、すなわち当該MMTPペイロードにMPUが含まれる場合の記述を示す。一方、図１０は、payload_typeの値が0x02である、すなわち当該MMTPペイロードに制御メッセージが含まれる場合の記述を示す。
図９に示す記述のうち、fragment_type（フラグメントタイプ）は、MMTPペイロードに格納する情報のフラグメント種別を示す。
例えば、fragment_typeの値が０であることは、MMTPペイロードに、MPUメタデータ（図６）が含まれることを示す。fragment_typeの値が０である場合に記述される図９のMPU_metadata_byteが、MPUメタデータに相当する。
fragment_typeの値が１であることは、MMTPペイロードに、ムービーフラグメントメタデータが含まれることを示す。fragment_typeの値が１である場合に記述される図９のmovie_fragment_metadata_byteが、ムービーフラグメントメタデータに相当する。
fragment_typeの値が２であることは、MMTPペイロードに、MFUを構成する時間付きメディアデータのサンプルデータ（NALユニット、アクセスユニット）、サブサンプルデータ、あるいは時間なしメディアデータのアイテムが含まれることを示す。例えば、fragment_typeの値が２であり、timed_flagの値が１である場合に記述される図９のMFU_data_byteが、MFUを構成する時間付きメディアデータのサンプルデータに相当する。
また、図９に示す記述のうち、MPU_sequence_number（MPUシーケンス番号）は、当該MMTPペイロードがMPUメタデータ、ムービーフラグメントメタデータ、MFUを格納するものである場合、それらが属するMPUのシーケンス番号を示す。
図１０に示す記述のうち、payload_typeの値が0x02である場合に記述されるmessage_length（メッセージデータ長）は、このフィールドの直後に配置される１つの制御メッセージの大きさをバイト単位で示す。
message_byte（メッセージデータ）は、制御メッセージのデータバイトである。以下、適宜、制御メッセージを単にメッセージともいう。
＜２−２．MMTの制御メッセージ＞
ここで、MMTPペイロードに格納される制御メッセージについて説明する。
図１１は、制御情報であるMMT-SIの構造を示す図である。
MMTのパッケージの構成や放送サービスに関連する情報を示すMMT-SIは、図１１に示すように、テーブルや記述子を格納するメッセージ、特定の情報を示す要素や属性を持つテーブル、および、詳細な情報を示す記述子の３階層から構成される。
上述したように、メッセージは、MMTPペイロードに格納され、MMTPパケットを用いて伝送される。メッセージがMMTPペイロードを構成する際のpayload_typeの値は0x02である。複数のメッセージを１つのMMTPペイロードに格納することは行われず、１つのメッセージが１つのMMTPペイロードに格納される。
図１２は、MMT-SIのメッセージの種類と機能を示す図である。
図１２に示すように、メッセージには、主に、Package Access(PA)メッセージ、M2セクションメッセージ、CAメッセージ、M2短セクションメッセージ、データ伝送メッセージがある。例えばPAメッセージは、MMT-SIのエントリーポイントとなり、MMT-SIの各種のテーブルを伝送するために用いられる。
このようなメッセージの種類が、message_byteとしてMMTPペイロードに記述されるmessage_id（メッセージ識別子）により識別される。
図１３は、PAメッセージの構成を示す図である。
message_idは、図１４に示すように0x0000として設定される。
number_of_tables（テーブル数）は、このPAメッセージが格納するテーブルの数を示す。
table_id（テーブル識別）は、このPAメッセージが格納するテーブルの識別子を示す。
table（テーブル）は、このPAメッセージが格納するテーブルである。テーブルの１つであるMPT（MMTパッケージテーブル)が、PAメッセージのtable()に記述される。
このようなPAメッセージの記述が、message_byteとしてMMTPペイロード（図１０）に含まれる。
図１５は、MPTの構成を示す図である。
MPTは、アセットのリストやアセットのネットワーク上の位置などの、パッケージを構成する情報を与える。MPTには記述子が含まれる。
図１５に示す記述のうちのMPT_descriptors_length（MPT記述子長）は、MPT記述子領域の長さをバイト単位で示す。
MPT_descriptors_byte（MPT記述子領域）は、MPTの記述子を格納する領域である。MPT_descriptors_byteに格納される記述子には、例えば、MPUタイムスタンプ記述子（MPU_Timestamp_Descriptor()）、MPU拡張タイムスタンプ記述子（MPU_Extended_Timestamp_Descriptor()）がある。
MPUタイムスタンプ記述子は、MPUにおいて提示順序で最初のアクセスユニットの提示時刻を示す記述子である。また、MPU拡張タイムスタンプ記述子は、MPU内のアクセスユニットの復号時刻を提供する記述子である。
図１６は、MPUタイムスタンプ記述子の構成を示す図である。
MPUタイムスタンプ記述子のdescriptor_tagは、0x001として設定される。
mpu_sequence_number（MPUシーケンス番号）は、当該MPUタイムスタンプ記述子においてタイムスタンプを記述するMPUのシーケンス番号を示す。上述したように、各MPUには、同一のアセットに属するMPUごとに同じシーケンス番号が付加される。
mpu_presentation_time（MPU提示時刻）は、MPUの提示時刻をNTP形式で示す（３２＋ｎbit／２ｎHzのカウンタ値で示す）。
図１７は、MPU拡張タイムスタンプ記述子の構成を示す図である。
MPU拡張タイムスタンプ記述子のdescriptor_tagは、0x8026として設定される。
mpu_sequence_number（MPUシーケンス番号）は、当該MPU拡張タイムスタンプ記述子において復号時刻等を指定するアクセスユニットが含まれるMPUのシーケンス番号を示す。
mpu_decoding_time_offset（MPU復号時刻オフセット）は、MPUシーケンス番号により特定されるMPUにおいて、復号順で最初のアクセスユニットの復号時刻と、提示順で最初のアクセスユニットの提示時刻との差分の絶対値を、タイムスケールで示される時間単位で示す。
num_of_au（アクセスユニット数）は、当該MPU拡張タイムスタンプ記述子で復号時刻等を指定するアクセスユニットの数を示す。
dts_pts_offset（復号時刻・提示時刻オフセット）は、アクセスユニットの復号時刻から提示時刻までの時間を、タイムスケールで示される時間単位で示す。
pts_offset（PTSオフセット）は、同一MPU内における、提示順で直前のアクセスユニットと現在のアクセスユニットとの提示時刻の差分を、タイムスケールで示される時間単位で示す。
MPUタイムスタンプ記述子から、MPUの、提示順序で最初のアクセスユニットの提示時刻が特定される。また、MPU拡張タイムスタンプ記述子から、各アクセスユニットの復号時刻が特定される。
図１８は、MMTにおけるPTSとDTSの算出方法を示す図である。
図１８に示す各矩形は、あるMPUに含まれるGOPｎを構成するピクチャ（アクセスユニット）を示す。図１８の上段は、各アクセスユニットの復号順での並びを示し、下段は、各アクセスユニットの提示順での並びを示す。I/P/Bのアルファベットはピクチャタイプを示し、数字は提示順での各ピクチャの番号を示す。
MPUタイムスタンプ記述子のmpu_presentation_timeは、MPU内において提示順序で最初のアクセスユニットの提示時刻を示す。MPUタイムスタンプ記述子が示す提示時刻は、図１８の左下の上向き三角形が指す時刻である。
一方、MPU拡張タイムスタンプ記述子は、mpu_decoding_time_offsetにより、図１８の左側に破線矢印で示すように、MPU内において、復号順序で最初のアクセスユニットの復号時刻と、提示順序で最初のアクセスユニットの提示時刻との差分値を示す。
また、MPU拡張タイムスタンプ記述子は、各アクセスユニットの復号時刻と提示時刻の差分値を、タイムスケールを単位時間とする値でdts_pts_offestにより示す。さらに、MPU拡張タイムスタンプ記述子は、同一MPU内における、提示順序で直前のアクセスユニットの提示時刻と現在のアクセスユニットの提示時刻の差分値を、タイムスケールを単位時間とする値でpts_offsetにより示す。
これらの時刻や値を用いて、MPU内のｎ番目のアクセスユニットの復号時刻DTS(n)と提示時刻PTS(n)は、それぞれ下式（１）、式（２）により算出される。
Figure 2018066385
Figure 2018066385
このように、MPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子から、各アクセスユニットのPTSとDTSが特定される。３２＋ｎbit／２ｎHzのカウンタ値であるmpu_presentation_timeを用いて求められるから、MPUのDTSも、３２＋ｎbit／２ｎHzのカウンタ値で示される時刻といえる。
情報処理装置１においては、MMTPパケットの制御メッセージからMPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子がそれぞれ取得され、MPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子に基づいてPTSとDTSが求められる。PTSとDTSの算出は、他のMMTPパケットを用いて伝送されたMPUを構成する各アクセスユニットの復号開始前に行われる。
＜３．MPEG-2 TSについて＞
次に、MPEG-2 TSについて説明する。
図１９は、TSを構成するTSパケットの構成を示す図である。
１つのTSパケットは、４bytesのヘッダに対して、１８４bytesの、ペイロード、アダプテーションフィールド、または、その両方が付加されることによって構成される。ヘッダには、例えば、ペイロード中に含まれるデータの種類の識別情報であるPIDが含まれる。このようなTSパケットの構成については例えばISO/IEC 138180-1で規定される。
TSパケットのアダプテーションフィールドには、図２０において斜線を付して示すようにPCRが含まれる。図２０はアダプテーションフィールドの構成を示す図である。
MMTからMPEG-2 TSへの変換時、情報処理装置１においては、NTP形式の時刻情報により表されるMMTの参照時刻を変換して得られたPCRが、TSパケットのアダプテーションフィールドに設定される。
図２１は、PES(Packetized Elementary Stream)パケットの構成を示す図である。
MPEG-2 TSにおいては、ビデオとオーディオのストリームは所定の単位毎に分割され、PESパケットに格納される。１つのPESパケットが、複数のTSパケットに分割される。PESパケットにはヘッダが付加され、図２１に示すようにPTSとDTSが記述される。
MMTからMPEG-2 TSへの変換時、情報処理装置１においては、MMT-SIを解析することによって算出されたMMTのPTSとDTSを変換して得られたPTSとDTSがPESパケットに設定される。
＜４．情報処理装置の構成例＞
図２２は、情報処理装置１の構成例を示すブロック図である。
情報処理装置１は、受信部３１、MMT信号処理部３２、記録制御部３３、ドライブ３４、出力制御部３５、および通信部３６から構成される。
受信部３１は、図示せぬアンテナからの放送波信号を受信し、復調処理、誤り訂正処理などの各種の処理を施す。受信部３１は、各種の処理を施すことによって得られたTVLストリームをMMTのコンテンツとしてMMT信号処理部３２に出力する。
また、受信部３１は、コンテンツの伝送が通信の伝送路を介して行われる場合、通信部３６を制御してMMTのコンテンツを受信し、所定の処理を施すことによって得られたTVLストリームをMMT信号処理部３２に出力する。
MMT信号処理部３２は、MMTのコンテンツを再生し、コンテンツの映像と音声をテレビジョン受像機から出力させたり、MMTのコンテンツをMPEG-2 TSのコンテンツに変換したりする。
例えば、MMT信号処理部３２は、MMTのコンテンツを再生する場合、受信部３１から供給されたTLVストリームからビデオデータとオーディオデータを抽出し、デコードする。MMT信号処理部３２は、デコードして得られたコンテンツの映像と音声のデータを出力制御部３５に出力する。
また、MMT信号処理部３２は、MMTのコンテンツをMPEG-2 TSのコンテンツに変換する場合、受信部３１から供給されたTLVストリームから抽出したMMTPパケットに格納されているデータをTSパケットに格納し直すなどしてTSを生成する。MMT信号処理部３２は、MPEG-2 TSのコンテンツを記録媒体１１に記録する場合、生成したTSを記録制御部３３に出力し、ネットワーク１２を介して他の装置に送信する場合、生成したTSを通信部３６に出力する。
記録制御部３３は、ドライブ３４を制御し、MMT信号処理部３２により生成されたTSを、ドライブ３４に装着された記録媒体１１に記録させる。
出力制御部３５は、MMT信号処理部３２から供給された映像と音声のデータを情報処理装置１に接続された例えばテレビジョン受像機に供給し、ディスプレイとスピーカからそれぞれ出力させる。
通信部３６は、ネットワーク１２を介して各種の装置と通信を行う。例えば、通信部３６は、サーバからネットワーク１２を介して配信されたMMTのコンテンツを受信し、受信部３１に出力する。また、通信部３６は、MMT信号処理部３２により生成されたTSを、ネットワーク１２を介して他の装置に送信する。
図２３は、図２２のMMT信号処理部３２と記録制御部３３の構成例を示すブロック図である。
デマルチプレクサ５１は、受信部３１から供給されたTLVストリームを構成するTLVパケットからIPパケットを抽出し、IPパケットを用いて伝送されたMMTのデータのDEMUX処理を行う。
例えば、デマルチプレクサ５１は、TLVパケットを用いて伝送された、NTP形式の時刻情報を含むIPパケットを抽出し、比較部５２に出力する。図５を参照して説明したように、NTP形式の時刻情報を含むIPパケットは、TLVストリームを構成するスロットのうちの最初のスロットの先頭に配置される。
また、デマルチプレクサ５１は、IPパケットを用いて伝送されたMMTPパケットのうち、MMT-SIを格納するMMTPパケットをMMT-SI解析部５５に出力する。デマルチプレクサ５１は、MPUを構成するビデオデータ、オーディオデータを格納するMMTPパケットをMPU/MMTパケット解析部５８に出力する。MMTPペイロードに格納されるデータの種類については、MMTPパケットのpayload_typeにより識別される（図８）。
比較部５２は、デマルチプレクサ５１から供給されたIPパケットに格納されたNTP形式の時刻情報に含まれる参照時刻（３２＋ｎbitのカウンタ値）をNTP clock counter５３に出力し、カウンタ値の初期値として設定する。
また、比較部５２は、NTP clock counter５３から時刻情報と、デマルチプレクサ５１から供給されたNTP形式の時刻情報との誤差を表す信号をNTP clock counter５３に出力する。
NTP clock counter５３は、VCO(Voltage Controlled Oscillator)を有している。NTP clock counter５３は、VCOが生成する２ｎHzのクロック信号をカウントし、３２＋ｎbitのカウンタ値を表す２ｎHzのシステムクロック信号を出力する。NTP clock counter５３から出力されたシステムクロック信号は、比較部５２、clock変換部５４、および映像音声同期制御部５６に供給される。
clock変換部５４は、NTP clock counter５３から供給された２ｎHzのシステムクロック信号により表される３２＋ｎbitのカウンタ値を、MPEG-2 TSのPCRを示す４２bitのカウンタ値（２７MHz）に変換する。clock変換部５４による変換の詳細については後述する。clock変換部５４は、変換して得られた４２ビットのカウンタ値をPCRとしてTS化処理部６２に出力する。
MMT-SI解析部５５は、デマルチプレクサ５１から供給されたIPパケットに格納されたMMTPパケットからMMT-SIを取得し、解析する。例えば、MMT-SI解析部５５は、MMTPパケットに格納されたPAメッセージにより伝送されたMPTを取得し、MPTに記述されたMPUタイムスタンプ記述子（図１６）とMPU拡張タイムスタンプ記述子（図１７）を取得する。
また、MMT-SI解析部５５は、MPUタイムスタンプ記述子に基づいて各MPUのPTSを算出する（特定する）。MMT-SI解析部５５は、各MPUのPTSと、MPU拡張タイムスタンプ記述子の記述とを図１８を参照して説明したようにして用いて、各MPUを構成するアクセスユニットのDTSを算出する。
MMT-SI解析部５５は、算出したPTSとDTSを、MPUのシーケンス番号を示すmpu_sequence_numberとともに、映像音声同期制御部５６とPTS/DTS変換部５７に出力する。上述したように、MPUタイムスタンプ記述子に含まれるmpu_sequence_numberは、提示時刻を指定するMPUのシーケンス番号を示す（図１６）。また、MPU拡張タイムスタンプ記述子に含まれるmpu_sequence_numberは、復号時刻等を指定するアクセスユニットが含まれるMPUのシーケンス番号を示す（図１７）。
映像音声同期制御部５６は、NTP clock counter５３からのシステムクロック信号に従って動作し、MMT-SI解析部５５により算出されたPTSとDTSに基づいて、映像音声デコーダ６０によるデコードと出力のタイミングを制御する。映像音声同期制御部５６による映像音声デコーダ６０の制御は、MPU/MMTパケット解析部５８から供給されたMPUメタデータ、ムービーフラグメントメタデータなどのメタデータにも基づいて行われる。
PTS/DTS変換部５７は、MMT-SI解析部５５により算出されたPTSとDTSを表す３２＋ｎbitのカウンタ値を、それぞれ、MPEG-2 TSの３３bitのPTSとDTSを表すカウンタ値（９０kHz）に変換する。PTS/DTS変換部５７による変換の詳細については後述する。PTS/DTS変換部５７は、変換して得られたMPEG-2 TSのPTSとDTSをTS化処理部６２に出力する。
PTS/DTS変換部５７からは、変換して得られたMPEG-2 TSのPTSとDTSが関係するMPUのシーケンス番号を表すmpu_sequence_numberが出力される。また、PTS/DTS変換部５７においては、適宜、MPEG-2 TSに含める必要のあるSIがMMT-SIに基づいて生成され、TS化処理部６２に出力される。
MPU/MMTパケット解析部５８は、デマルチプレクサ５１から供給されたIPパケットに格納されたMMTPパケットを解析することによって、各MPUのデータを取得する。各MPUのデータであるMPUメタデータ、ムービーフラグメントメタデータ、およびMFUは、それらが属するMPUのシーケンス番号を示す情報であるMPU_sequence_number（図９）により特定される。
MPU/MMTパケット解析部５８は、MMTのコンテンツの再生時、MMTPペイロードから取得した各MPUのMPUメタデータとムービーフラグメントメタデータなどのメタデータを映像音声同期制御部５６に出力する。また、MPU/MMTパケット解析部５８は、MMTPペイロードから取得した、各MPUを構成するMFUのビデオデータとオーディオデータをデコーダバッファ５９に出力する。
一方、MPU/MMTパケット解析部５８は、MMTからMPEG-2 TSへフォーマットの変換時、MMTPペイロードから取得した、各MPUを構成するMFUのビデオデータ（VIDEO ES）とオーディオデータ（AUDIO ES）をMPU_sequence_numberとともにバッファ６１に出力する。
映像音声デコーダ６０は、映像音声同期制御部５６による制御に従って、デコーダバッファ５９に記録されたビデオデータとオーディオデータをデコードし、出力する。映像音声デコーダ６０から出力されたデータは出力制御部３５に供給され、コンテンツの映像と音声が出力される。
TS化処理部６２は、バッファ６１に記録されたビデオデータとオーディオデータのうち、MPU_sequence_numberとして同じ値が設定されたデータをまとめることによってPESを構成する。また、TS化処理部６２は、各PESに対して、PTS/DTS変換部５７から供給された、各PESに関連するPTSとDTSを付加し、PESパケットを生成する。各PTS/DTSをどのPESに付加するのかは、PTS/DTS変換部５７から供給されたmpu_sequence_numberに基づいて特定される。
TS化処理部６２は、生成したPESパケットのTSパケット化を行う。TS化処理部６２は、PESパケットのデータをペイロードに格納したTSパケットと、clock変換部５４により生成されたPCRをアダプテーションフィールドに含むTSパケットに基づいてTSを生成する。
Partial TSの生成時、TS化処理部６２は、ARIB STD-B14で規定される、PAT、PMT、DAT、SITなどのMPEG-2 TSのSIを、PTS/DTS変換部５７から供給された情報に基づいてTSに埋め込む。
PAT(Program Association Table)は、Partial TSに関連するPMTを伝送するTSパケットのパケット識別子を指定する情報である。PMT(Program Map Table)は、放送番組を構成する各符号化信号を伝送するTSパケットのパケット識別子を指定する情報である。PATとPMTは、100msに一回以上の周期で再送される。
DIT(Discontinuity Information Table)は、Partial TSで伝送される番組の番組配列情報が不連続かもしれない変化点を指示する情報である。SIT(Selection Information Table)は、Partial TSで伝送される番組に関する情報を指示する情報である。
TS化処理部６２は、以上のようなTS化処理を行うことによって得られたTSを記録制御部３３に出力する。
記録制御部３３は、T-STD８１、PLL８２、Arrival time clock counter８３、Source packetizer８４、およびWrite Buffer８５から構成される。なお、図２３に示す記録制御部３３の構成は、レコーディングプロセスを規定するための概念上のモデルである。記録制御部３３は、このレコーダモデルに従って、TSを構成するTSパケットにATS(Arrival_time_stamp)を付加し、ソースパケットの並びを生成する機能を有する。
MMT信号処理部３２から供給されたTSのi番目のバイトは、T-STD(Transport stream system target decoder)８１とSource packetizer８４に対して、時刻t(i)に入力される。
なお、T-STD８１はレコーダモデルにおける仮想的なデコーダである。T-STD８１に対応するデコーダが記録制御部３３に存在するわけではない。
PLL８２は、TSのPCRの値にロックされた２７MHzのクロックを発生する。
Arrival time clock counter８３は、PLL８２が出力する２７MHzの周波数のパルスをカウントするバイナリカウンタである。Arrival_time_clock(i)は、時刻t(i)におけるArrival time clock counter８３のカウンタ値である。
Source packetizer８４は、すべてのTSパケットにTP_extra_headerを付加し、ソースパケットを生成する。また、Source packetizer８４は、TSパケットにATSを付加する。
具体的には、Source packetizer８４は、Arrival time clock counter８３から供給されるArrival_time_clock(i)を基に、ソースパケットのTP_extra_headerにおけるATSの値を設定する。ATSは、TSパケットの第１バイト目がT-STD８１とSource packetizer８４の両方へ到着する時刻を表す。
Write Buffer８５は、Source packetizer８４により生成されたソースパケットを記録する。Write Buffer８５から出力された各ソースパケットは、ドライブ３４に供給され、記録媒体１１に記録される。
＜５．カウンタ値の変換について＞
＜５−１．PTS/DTS変換部５７のPTS/DTS変換＞
ここで、PTS/DTSを示すカウンタ値の変換について説明する。
図２４は、MPEG-2 TSにおけるカウンタ値と時間の関係を示す図である。
図２４に示すグラフの横軸は時刻を示し、縦軸はカウンタ値を示す。図２５、図２６においても同様である。
MPEG-2 TSのPTS/DTSは、それぞれPCRを基準として表される。PCRは４２bit（２７MHz）で表され、PTS/DTSは３３bit（９０kHz）で表される。PTS/DTSは３３bitで表されるから、時刻情報を表すための情報量としては３３bitで十分である。
９０kHzの精度で３３bitカウンタを動作させた場合、カウンタ値のラップアラウンド（wrap around）は、カウンタ値が２３３となる点Ｐ１の時刻で生じる。点Ｐ１の時刻は、下式（３）に示されるように、おおよそ２６．５hとして求められる。
Figure 2018066385
２回目のラップアラウンドは点Ｐ２の時刻で生じ、３回目のラップアラウンドは点Ｐ３の時刻で生じる。９０kHzの精度の３３bitカウンタのカウント値と、実時間との関係は、点Ｐ１，Ｐ２，Ｐ３の時刻でラップアラウンドが生じる、図２４に示されるものとなる。
なお、原点と点Ｐ１１を結ぶ直線は、PCRのbit数と同じ４２bitカウンタを９０kHzの精度で動作させた場合の実時間とカウンタ値の関係を示す。
図２５は、MMTにおけるカウンタ値と時間の関係を示す図である。
上述したように、MMTのPTS/DTSは、それぞれ、NTP形式により３２＋ｎbit（１秒以下の精度は２ｎHz）で表される。
２ｎHzの精度で３２＋ｎbitカウンタを動作させた場合、カウンタ値のラップアラウンドは、カウンタ値が２３２＋ｎとなる点Ｐ２１の時刻で生じる。点Ｐ２１の時刻は、下式（４）に示されるように、1193046hとして表される。
Figure 2018066385
２ｎHzの精度の３２＋ｎbitカウンタのカウンタ値と、実時間との関係は、点Ｐ２１の時刻でラップアラウンドが生じる、一点鎖線で示されるものとなる。
図２６は、MPEG-2 TSの３３bitカウンタの特性と、MMTの３２＋ｎbitカウンタの特性を重ねて示す図である。
MMTのPTS/DTSが所定の時刻である時刻Ｔを示す場合、それに対応するMPEG-2 TSのPTS/DTSは、時刻Ｔを表す３３bitカウンタのカウンタ値を、３２＋ｎbitカウンタのカウンタ値に基づいて求めることによって特定される。
具体的には、MPEG-2 TSのカウンタ値Ｘ’は、MMTのカウンタ値Ｘを元にして以下の手順で求められる。
・手順１
MPEG-2 TSでのラップアラウンドの時刻における、MMTのカウンタ値Ａを求める。
MMTのカウンタ値Ａは、実時間上で、２３３／９０kの時刻(≒２６．５h)に対応する値である。ｎ＝２４とすると、カウンタ値Ａは、下式（５）のように求められる。
Figure 2018066385
・手順２
MMTのカウンタ値Ｘが示す時刻と同じ時刻を示すMPEG-2 TSのカウンタ値Ｘ’は、MMTのカウンタ値Ｘが示す時刻が２６．５hよりも小さい場合、下式（６）のように求められる。
Figure 2018066385
一方、MMTのカウンタ値Ｘが示す時刻が２６．５hよりも大きい場合、MPEG-2 TSのカウンタ値Ｘ’は、剰余mod(Ｘ／Ａ)の値をMMTのカウンタ値Ｘとして用いて、下式（７）のように求められる。
Figure 2018066385
図２３のPTS/DTS変換部５７は、このように、MMTの３２＋ｎbitカウンタの特性における実時間とカウンタ値との比と、MPEG-2 TSの３３bitカウンタの特性における実時間とカウンタ値との比を用いて、カウンタ値の変換を行う。
例えばMMTのカウンタ値Ｘが示す時刻が２６．５hよりも小さい場合についてさらに説明すると、MMTの３２＋ｎbitカウンタの特性から下式（８）の関係が導かれ、MPEG-2 TSの３３bitカウンタの特性から下式（９）の関係が導かれる。
Figure 2018066385
Figure 2018066385
式（８）、式（９）のｔ１は、MMTのカウンタ値がＸ、MPEG-2 TSのカウンタ値がＸ’となる時刻である。
PTS/DTS変換部５７は、式（８）、式（９）にＸの値としてMMTのPTS/DTSの値を代入し、上式（６）と同様の計算により、カウンタ値Ｘ’を求めることになる。ｎが２４以外の値である場合であっても同様にしてカウンタ値の変換を行うことが可能である。
＜５−２．clock変換部５４のクロック変換＞
次に、参照時刻を表すカウンタ値の変換について説明する。
MMTにおいて、NTP形式の時刻情報に含まれる参照時刻は、３２＋ｎbitのカウンタ値として表される。
clock変換部５４は、３２＋ｎbitのカウンタ値を、図２６を参照して説明したようにして、９０kHzの精度の３３bitカウンタのカウンタ値として変換する。
また、clock変換部５４は、変換して得られた３３bitのカウンタ値のLSB側に、２７MHzの精度の９bitカウンタのカウンタ値を付加することによって、図２７に示すような構成の、２７MHzの精度の４２bitのカウンタ値を生成する。図２７において、右側がLSB側である。
２７MHzの精度の９bitカウンタは、自走のフリーランカウンタとして例えばclock変換部５４が有しているカウンタである。この９bitカウンタのカウンタ値は、０〜３００の範囲の値をとるように上限が設定される。
clock変換部５４は、このようにして生成した４２bitのカウンタ値を、PCRとしてTS化処理部６２に出力する。PCRは、３３bit(９０kHz counter ０〜(２３３−１)) ＋ ９bit(２７MHz counter ０〜３００)として表される。
＜６．情報処理装置の動作＞
次に、図２８のフローチャートを参照して、MMTのコンテンツをMPEG-2 TSのコンテンツに変換し、記録媒体１１に記録する情報処理装置１の一連の処理について説明する。
ステップＳ１において、受信部３１は、放送波の伝送路または通信の伝送路を介して供給されたMMTのコンテンツを取得する。受信部３１は、MMTのコンテンツのデータであるTVLストリームをMMT信号処理部３２に出力する。
ステップＳ２において、MMT信号処理部３２のデマルチプレクサ５１は、TLVストリームを構成するTLVパケットからIPパケットを抽出し、DEMUX処理を行う。すなわち、NTP形式の時刻情報を含むIPパケットは比較部５２に供給され、MMT-SIを格納するMMTPパケットはMMT-SI解析部５５に供給される。MPUを構成するビデオデータ、オーディオデータを格納するMMTPパケットはMPU/MMTパケット解析部５８に供給される。
ステップＳ３において、MPU/MMTパケット解析部５８は、各MPUを構成するMFUのビデオデータとオーディオデータをMMTPパケットから抽出する。抽出されたビデオデータとオーディオデータはMPU_sequence_numberとともにバッファ６１に出力され、記憶される。
ステップＳ４において、比較部５２は、NTP形式の時刻情報に含まれる参照時刻（３２＋ｎbitのカウンタ値）に基づいて、NTP clock counter５３の初期値を設定する。
ステップＳ５において、NTP clock counter５３は、３２＋ｎbitのカウンタ値を表すシステムクロック信号を出力する。
ステップＳ６において、clock変換部５４は、NTP clock counter５３から供給された２ｎHzのシステムクロック信号により表される３２＋ｎbitのカウンタ値を、MPEG-2 TSのPCRを示す４２bitのカウンタ値に変換する。変換して得られた４２ビットのカウンタ値はPCRとしてTS化処理部６２に供給される。
ステップＳ７において、MMT-SI解析部５５は、MMTPパケットに格納されているMMT-SIを解析することによってMPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子を取得し、各MPUのPTSと各MPUを構成するアクセスユニットのDTSを算出する。
ステップＳ８において、PTS/DTS変換部５７は、MMT-SI解析部５５により算出されたPTSとDTSを表す３２＋ｎbitのカウンタ値を、それぞれ、MPEG-2 TSの３３bitのPTSとDTSを表すカウンタ値に変換する。
ステップＳ９において、TS化処理部６２は、MPU_sequence_numberとして同じ値が設定されたビデオデータとオーディオデータを用いてPESを構成し、各PESに関連するPTSとDTSを付加することによってPESパケットを生成する。
ステップＳ１０において、TS化処理部６２は、PESパケットのTSパケット化を行う。
ステップＳ１１において、TS化処理部６２は、PESパケットのデータをペイロードに格納したTSパケットに対して、clock変換部５４により生成されたPCRをアダプテーションフィールドに含むTSパケットを挿入し、TSを生成する。適宜、MMT-SIに基づいて生成されたSIを格納するTSパケットもTSに挿入される。
ステップＳ１２において、記録制御部３３は、ドライブ３４を制御し、MMT信号処理部３２により生成されたTSを記録媒体１１に記録させる。
以上の処理により、時間軸が異なるMMTのコンテンツをMPEG-2 TSのコンテンツに変換し、BDなどの記録媒体に記録することができる。
＜７．変形例＞
＜７−１．逆変換について＞
以上においては、MMTのコンテンツをMPEG-2 TSのコンテンツに変換する場合について説明したが、MPEG-2 TSのコンテンツをMMTのコンテンツに変換することも可能である。
この場合、情報処理装置１は、変換対象とするMPEG-2 TSのコンテンツのTSを構成するTSパケットからビデオデータとオーディオデータを取得し、MMTPパケットに格納し直す。
また、情報処理装置１は、４２bitのカウンタ値として表されるPCRをTSパケットから抽出し、３２＋ｎbitのカウンタ値として表されるNTP形式の参照時刻に変換する。
さらに、情報処理装置１は、３３bitのカウンタ値として表されるMPEG-2 TSのPTS/DTS（９０kHz）をPESパケットから抽出し、３２＋ｎbitのカウンタ値として表されるMMTのPTS/DTSに変換する。
情報処理装置１は、ビデオデータとオーディオデータを格納するMMTPパケットと、MMTのPTS/DTSの算出に用いる記述子を伝送する制御メッセージを格納するMMTPパケットを生成する。また、情報処理装置１は、生成したそれらのMMTPパケットを格納するIPパケットとNTP形式の時刻情報を含むIPパケットを多重化することによって、TLVストリームを生成する。
ここで、PTS/DTSの逆変換、参照時刻の逆変換は以下のようにして行われる。
すなわち、MMTのカウンタ値Ｘは、MPEG-2 TSのカウンタ値Ｘ’を元にして以下の手順で求められる。
・手順１
MPEG-2 TSでのラップアラウンドの時刻における、MMTのカウンタ値Ａを求める。
MMTのカウンタ値Ａは、実時間上で、２３３/９０kの時刻(≒２６．５h)に対応する値である。ｎ＝２４とすると、カウンタ値Ａは、上式（５）のように求められる。
この手順１の処理は、MMTのコンテンツをMPEG-2 TSのコンテンツに変換する場合の処理と同様の処理である。
・手順２
MPEG-2 TSのカウンタ値Ｘ’が示す時刻と同じ時刻を示すMMTのカウンタ値Ｘは、MPEG-2 TSのカウンタ値Ｘ’が示す時刻が２６．５hよりも小さい場合、下式（１０）のように求められる。
Figure 2018066385
一方、MPEG-2 TSのカウンタ値Ｘ’が示す時刻が２６．５hよりも大きい場合、MMTのカウンタ値Ｘは、剰余mod(Ｘ’／Ａ)の値をMPEG-2 TSのカウンタ値Ｘ’として用いて、下式（１１）のように求められる。
Figure 2018066385
MPEG-2 TSのPTS/DTSは、このような逆変換処理によりMMTのPTS/DTSに変換される。また、図２７の構成を有するMPEG-2 TSのPCRは、そのMSB側の３３ビットのカウンタ値が、このような逆変換処理により３２＋ｎビットのカウンタ値に変換され、参照時刻として用いられる。
なお、この手順からでは、Ａ以下のカウンタ値にしか変換できないが、内部的なカウンタを用い、カウンタ値を適宜付加することによって、Ａ以上のカウンタ値に変換することも可能である。
＜７−２．その他の例＞
以上においては、MMTからMPEG-2 TSへの変換とMPEG-2 TSからMMTへの逆変換について説明したが、変換／逆変換の対象となるコンテンツのフォーマットはMMTとMPEG-2 TSに限られるものではない。上述した処理は、時間軸が異なる各種のフォーマットの変換／逆変換に用いることができる。
変換／逆変換の対象となるコンテンツが、ビデオデータとオーディオデータの両方を含むものであるものとしたが、いずれか一方のコンテンツのフォーマットの変換／逆変換に上述した処理を適用するようにしてもよい。また、ビデオデータとオーディオデータ以外の種類のデータのフォーマットの変換／逆変換に適用されるようにしてもよい。
・コンピュータの構成例
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図２９は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
CPU(Central Processing Unit)１００１、ROM(Read Only Memory)１００２、RAM(Random Access Memory)１００３は、バス１００４により相互に接続されている。
バス１００４には、さらに、入出力インタフェース１００５が接続される。入出力インタフェース１００５には、キーボード、マウスなどよりなる入力部１００６、ディスプレイ、スピーカなどよりなる出力部１００７が接続される。また、入出力インタフェース１００５には、ハードディスクや不揮発性のメモリなどよりなる記憶部１００８、ネットワークインタフェースなどよりなる通信部１００９、リムーバブルメディア１０１１を駆動するドライブ１０１０が接続される。
以上のように構成されるコンピュータでは、CPU１００１が、例えば、記憶部１００８に記憶されているプログラムを入出力インタフェース１００５及びバス１００４を介してRAM１００３にロードして実行することにより、上述した一連の処理が行われる。
CPU１００１が実行するプログラムは、例えばリムーバブルメディア１０１１に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部１００８にインストールされる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
・構成の組み合わせ例
本技術は、以下のような構成をとることもできる。
（１）
ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信する受信部と、
前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換する変換部と、
前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する多重化部と
を備える情報処理装置。
（２）
前記第１のフォーマットはMMTであり、
前記第２のフォーマットはMPEG-2 TSである
前記（１）に記載の情報処理装置。
（３）
基準となる時刻を表す前記第１のカウンタ値は、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHz（ｎは２４以上の整数）とする３２＋ｎビットのカウンタ値であり、
基準となる時刻を表す前記第２のカウンタ値は、１秒以上の時刻を、精度を９０kHzとして３３ビットで表し、１秒以下の時刻を、精度を２７MHzとして９ビットで表す４２ビットのカウンタ値である
前記（２）に記載の情報処理装置。
（４）
前記多重化部は、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットに、基準となる時刻を表す前記第２のカウンタ値としてのPCRを含むTSパケットを付加し、前記第２の多重化データを生成する
前記（３）に記載の情報処理装置。
（５）
提示時刻を表す前記第１のカウンタ値と復号時刻を表す前記第１のカウンタ値は、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHzとする３２＋ｎビットのカウンタ値であり、
提示時刻を表す前記第２のカウンタ値と復号時刻を表す前記第２のカウンタ値は、精度を９０kHzとして３３ビットで表すカウンタ値である
前記（３）または（４）に記載の情報処理装置。
（６）
前記多重化部は、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットの元になるPESパケットに、提示時刻を表す前記第２のカウンタ値としてのPTSと復号時刻を表す前記第２のカウンタ値としてのDTSとを付加する
前記（５）に記載の情報処理装置。
（７）
前記多重化部は、MPUシーケンス番号に基づいて、同一のMPUに属する前記ビデオデータと前記オーディオデータを含むPESパケットを生成する
前記（６）に記載の情報処理装置。
（８）
前記第２の多重化データとしてのTSを記録媒体に記録させる記録制御部をさらに備える
前記（２）乃至（７）のいずれかに記載の情報処理装置。
（９）
前記記録媒体は、Blu-ray（登録商標） Discである
前記（８）に記載の情報処理装置。
（１０）
ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信し、
前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換し、
前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する
ステップを含む情報処理方法。
（１１）
ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信し、
前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換し、
前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する
ステップを含む処理をコンピュータに実行させるプログラム。
１ 情報処理装置， １１ 記録媒体， ３２ MMT信号処理部， ３３ 記録制御部， ５１ デマルチプレクサ， ５２ 比較部， ５３ NTP clock counter， ５４ clock変換部， ５５ MMT-SI解析部， ５６ 映像音声同期制御部， ５７ PTS/DTS変換部， ５８ MPU/MMTパケット解析部， ５９ デコーダバッファ， ６０ 映像音声デコーダ， ６１ バッファ， ６２ TS化処理部

Claims (11)

  1. ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信する受信部と、
    前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換する変換部と、
    前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する多重化部と
    を備える情報処理装置。
  2. 前記第１のフォーマットはMMTであり、
    前記第２のフォーマットはMPEG-2 TSである
    請求項１に記載の情報処理装置。
  3. 基準となる時刻を表す前記第１のカウンタ値は、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHz（ｎは２４以上の整数）とする３２＋ｎビットのカウンタ値であり、
    基準となる時刻を表す前記第２のカウンタ値は、１秒以上の時刻を、精度を９０kHzとして３３ビットで表し、１秒以下の時刻を、精度を２７MHzとして９ビットで表す４２ビットのカウンタ値である
    請求項２に記載の情報処理装置。
  4. 前記多重化部は、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットに、基準となる時刻を表す前記第２のカウンタ値としてのPCRを含むTSパケットを付加し、前記第２の多重化データを生成する
    請求項３に記載の情報処理装置。
  5. 提示時刻を表す前記第１のカウンタ値と復号時刻を表す前記第１のカウンタ値は、１秒以上の秒単位の時刻を３２ビットで表し、１秒以下の精度を２ｎHzとする３２＋ｎビットのカウンタ値であり、
    提示時刻を表す前記第２のカウンタ値と復号時刻を表す前記第２のカウンタ値は、精度を９０kHzとして３３ビットで表すカウンタ値である
    請求項３に記載の情報処理装置。
  6. 前記多重化部は、前記ビデオデータを格納するTSパケットと前記オーディオデータを格納するTSパケットの元になるPESパケットに、提示時刻を表す前記第２のカウンタ値としてのPTSと復号時刻を表す前記第２のカウンタ値としてのDTSとを付加する
    請求項５に記載の情報処理装置。
  7. 前記多重化部は、MPUシーケンス番号に基づいて、同一のMPUに属する前記ビデオデータと前記オーディオデータを含むPESパケットを生成する
    請求項６に記載の情報処理装置。
  8. 前記第２の多重化データとしてのTSを記録媒体に記録させる記録制御部をさらに備える
    請求項２に記載の情報処理装置。
  9. 前記記録媒体は、Blu-ray（登録商標） Discである
    請求項８に記載の情報処理装置。
  10. ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信し、
    前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換し、
    前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する
    ステップを含む情報処理方法。
  11. ビデオストリームとオーディオストリームを含むデータを第１のフォーマットで多重化した第１の多重化データを受信し、
    前記第１の多重化データに時刻情報として含まれる、前記第１のフォーマットで規定するビット数の第１のカウンタ値を、第２のフォーマットで規定するビット数の第２のカウンタ値に変換し、
    前記ビデオストリームを構成するビデオデータと前記オーディオストリームを構成するオーディオデータをそれぞれ前記第２のフォーマットのパケットに格納し、前記第２のカウンタ値を時刻情報として含む、前記第２のフォーマットの第２の多重化データを生成する
    ステップを含む処理をコンピュータに実行させるプログラム。
JP2018543841A 2016-10-07 2017-09-22 情報処理装置、情報処理方法、およびプログラム Active JP7034926B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016198683 2016-10-07
JP2016198683 2016-10-07
PCT/JP2017/034241 WO2018066385A1 (ja) 2016-10-07 2017-09-22 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2018066385A1 true JPWO2018066385A1 (ja) 2019-07-25
JP7034926B2 JP7034926B2 (ja) 2022-03-14

Family

ID=61831007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018543841A Active JP7034926B2 (ja) 2016-10-07 2017-09-22 情報処理装置、情報処理方法、およびプログラム

Country Status (2)

Country Link
JP (1) JP7034926B2 (ja)
WO (1) WO2018066385A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016032236A (ja) * 2014-07-30 2016-03-07 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
WO2016125655A1 (ja) * 2015-02-03 2016-08-11 日立マクセル株式会社 放送受信装置、放送受信方法及びコンテンツ出力方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016032236A (ja) * 2014-07-30 2016-03-07 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
WO2016125655A1 (ja) * 2015-02-03 2016-08-11 日立マクセル株式会社 放送受信装置、放送受信方法及びコンテンツ出力方法

Also Published As

Publication number Publication date
WO2018066385A1 (ja) 2018-04-12
JP7034926B2 (ja) 2022-03-14

Similar Documents

Publication Publication Date Title
JP7260687B2 (ja) 送信方法および送信装置
JP5708876B1 (ja) 送信装置、送信方法、受信装置および受信方法
JP6302274B2 (ja) 送信装置及び受信装置
JP6737922B2 (ja) 送信方法、受信方法、送信装置および受信装置
US20150181003A1 (en) Method and apparatus for transmitting and receiving packets in hybrid transmission service of mmt
US10305617B2 (en) Transmission apparatus, transmission method, reception apparatus, and reception method
JP6617809B2 (ja) 復号装置、復号方法、および復号用プログラム
JP2007274607A (ja) デジタル信号処理装置及びデータストリーム処理方法
JP2018182677A (ja) 情報処理装置、情報処理方法、プログラム、および記録媒体製造方法
JP6957186B2 (ja) 情報処理装置、情報処理方法、プログラム、および記録媒体製造方法
US20240064359A1 (en) Transmitting method, receiving method, transmitting device, and receiving device
JP7034926B2 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2017199743A1 (ja) 情報処理装置、情報記録媒体、および情報処理方法、並びにプログラム
WO2016208417A1 (ja) データ処理装置、データ処理方法、並びに、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220302

R150 Certificate of patent or registration of utility model

Ref document number: 7034926

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150