JP3804099B2 - 映像素材供給装置及び方法、映像素材挿入装置及び方法 - Google Patents
映像素材供給装置及び方法、映像素材挿入装置及び方法 Download PDFInfo
- Publication number
- JP3804099B2 JP3804099B2 JP9159296A JP9159296A JP3804099B2 JP 3804099 B2 JP3804099 B2 JP 3804099B2 JP 9159296 A JP9159296 A JP 9159296A JP 9159296 A JP9159296 A JP 9159296A JP 3804099 B2 JP3804099 B2 JP 3804099B2
- Authority
- JP
- Japan
- Prior art keywords
- transport stream
- video
- information
- stream
- video material
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
【発明の属する技術分野】
本発明は、例えば放送番組等の映像素材を供給する映像素材供給装置及び方法、並びに供給された放送番組等の映像素材にコマーシャル映像等の映像素材を挿入する映像素材挿入装置及び方法に関するものである。
【0002】
【従来の技術】
近年は、動画像信号の圧縮符号化の手法として、いわゆるMPEG標準方式が提案されている。上記MPEG(Moving Picture Image Coding Experts Group)とは、蓄積用動画像符号化の検討組織であり、1988年に国際標準化機構(ISO)と国際電気標準会議(IEC)の傘下に設立された動画像圧縮技術の標準化を検討する専門家の作業部会の略称である。このグループが標準化した動画や音声などのデータ圧縮方式がMPEG方式と呼ばれている。
【0003】
上記MPEG標準は、その標準化作業上のフェーズ1の標準であるMPEG1とフェーズ2の標準であるMPEG2とがある。両者の違いを簡単に説明すると、MPEG1は主にCD−ROMなどの蓄積メディアのための標準であるが、MPEG2はMPEG1のアプリケーションも含む広い範囲のための標準となっている。
【0004】
ここで、上記MPEG2の出力ストリームには、2種類の方式があり、一つはプログラム・ストリーム(MPEG2−PS、PS:Program Stream)と呼ばれ、MPEG1と同様に蓄積メディア(strage media)を対象にした方式である。もう一つは、トランスポート・ストリーム(MPEG2−TS、TS:Transport Stream)と呼ばれ、伝送媒体(伝送メディア)を対象にした方式である。
【0005】
このMPEG2システムによれば、複数のプログラムを1本のストリーム(データ列)にできるため、テレビ放送などにも対応でき、プログラム編成の自由度が高く、種々のアプリケーションのための付加機能をもっている。これら機能を実現するためのものとしては、例えば、ランダム・アクセスを容易にするためのディレクトリ情報や、個別のストリーム毎の種別を表す種別情報などがある。
【0006】
上記MPEGシステムにおける符号化から復号までの流れは、以下のようになる。
【0007】
エンコーダにおける符号化の流れでは、先ず、ビデオ,オーディオなどの個別素材を、それぞれの連係を保ちながら個別に符号化する。次に、符号化された各個別のストリームをマルチプレクサ(Multiplexer:MUX、多重化器)でアプリケーションに合わせてストリームの伝送媒体(蓄積メディアやネットワークなど)のフォーマットに適合した多重化を行い、伝送または記録する。
【0008】
一方、受信デコーダにおける復号の流れでは、受信された多重ストリームは、デマルチプレクサ(DeMultiplexer:DMUX、分離器)でビデオ、オーディオなどの各個別のストリーム部分を分離してそれぞれ復号器に送る。次に、復号器では個別にストリームを復号して、その後出力装置(ビデオモニタやスピーカなど)に出力する。
【0009】
このように、MPEGシステムでは、複数の個別符号化ストリームを時分割多重して1本のストリームにすることと、送信側で意図したように受信側で各個別ストリームを同期復号再生することが行われる。
【0010】
上記MPEGシステムにおける上記時分割多重方式としては、パケットによる多重方式を用いている。上記パケットによる多重化とは、例えばビデオとオーディオ信号を多重化する場合、ビデオとオーディオ信号をそれぞれパケットと呼ばれる適当な長さのストリームに分割し、ヘッダなどの付加情報を付けて、適宜ビデオとオーディオのパケットを切り換えて時分割伝送する方式である。これらパケットには、ヘッダと呼ばれる先頭部分にビデオかオーディオかの属性を識別するための情報などが付加される。また、場合によっては最後尾に伝送上のビットエラーを検出するためのCRC(Cyclic Redundancy Code、巡回冗長符号)と呼ばれる符号を付加することもある。
【0011】
パケット長は、伝送媒体やアプリケーションに強く依存し、例えばATM(Asynchronous Trasfer Mode、非同期転送モード)のように短い(53バイトのパケット長、セルと呼ばれる)ものや、光ディスクシステムのように長い(4096バイトのパケット長など)ものなどがある。MPEGでは、種々の条件に適合するために、長さの上限を約216(64Kバイト)までとっており、フレキシビリティを持たせるために、各パケット毎に固定長でも可変長でもよいことになっている。さらに、可変伝送速度も許されており、断続的な伝送も可能となっている。ヘッダなどの固定的に必要な部分は、パケット長に依存しないため、短いパケットはオーバーヘッド(多重化のための追加データ)が大きく、伝送効率が低下するが、時分割多重の切り換え時間が短いために、多重に起因する遅延とバッファメモリ量が少なくて済むというメリットがある。
【0012】
MPEG1とMPEG2−PSでは、ビデオやオーディオのパケットの上位にパック・レイヤと呼ばれる階層があるが、通常は複数のパケットを束ねたパックと呼ばれる構成単位で取り扱われる。パック・ヘッダ部分には、後述する同期再生用の時間基準参照用の付加情報などがある。パックの主目的は、ストリームの途中から復号再生することを可能にすることにある。
【0013】
ここで、MPEGの同期方式においては、ビデオ、オーディオの各アクセス・ユニットと呼ばれる復号再生の単位毎(ビデオは1フレーム、オーディオは1オーディオ・フレーム)に、いつ復号再生すべきかを示すタイム・スタンプと呼ばれる情報が付加される。また、タイム・スタンプに対しては、SCR(System Clock Reference、システム時刻基準参照値)と呼ばれる情報によって時間基準が与えられている。
【0014】
タイム・スタンプとは、各アクセス・ユニット毎に付けられる復号再生処理の時刻管理のタグであり、2種類のタイム・スタンプがある。一つは、PTS(Presentation Time Stamp)と呼ばれる再生出力の時刻管理情報で、他方はDTS(Decoding Time Stamp)と呼ばれる復号の時刻管理情報である。これらのタイム・スタンプは、あるパケットの中にアクセス・ユニットの先頭がある場合には、パケット・ヘッダに付加する。ただし、パケットの中にアクセス・ユニットの先頭がない場合には、パケット・ヘッダにタイム・スタンプは付加しないこととする。また、パケットの中に2つ以上のアクセス・ユニットの先頭があっても、最初のアクセス・ユニットに対応するタイム・スタンプだけをパケット・ヘッダに付加する。
【0015】
上記PTSにおいては、MPEGシステムの基準復号器内部のSTC(System Time Clock、基本となる同期信号)がPTSに一致したときに、そのアクセス・ユニットを再生出力する。上記DTSにおいては、MPEGではIピクチャとPピクチャはBピクチャよりも先行して符号化ストリームに送出されるために、復号する順序と再生出力する順序が異なることに対応したものである。PTSとDTSが異なる場合には両方のタイム・スタンプをつけ、一致する場合にはPTSだけを付けることになっている。
【0016】
また、SCR(System Clock Reference、システム時刻基準参照値)、PCR(Program Clock Reference、プログラム時刻基準参照値)とは、ビデオとオーディオの復号器を含むMPEGシステム復号器において、時刻基準となるSTC(基本となる同期信号)の値を符号器側で意図した値にセット・校正するための情報である。これらSCR、PCRを利用するに際しては、単にその値だけでは不十分で、SCR,PCRの値を運んでいるストリーム中のバイトのタイミング(復号器への到着時刻)の精度が必要である。MPEG2ではSCR,PCRとも6バイト(実データは42ビット)で送られるが、復号器側ではその最終バイトの到着の瞬間に、STCはSCRまたはPCRの示す値をセットすることが求められている。上記STCと一体となったPLL(位相ロック・ループ)を構成すれば、復号器のシステム・クロックと完全に周波数が一致したSTCを復号器でもつことができる。このPLL機能は後述するMPEG2−TS(トランスポート・ストリーム)では復号器に義務付けられている。
【0017】
また、前述したように、MPEG2では、複数のプログラム(番組)の伝送を可能とするマルチプログラム対応機能を有しており、この機能は多数の個別の符号化ストリームをトランスポート・パケットと呼ばれる比較的短い伝送単位で時分割多重するものである。上記マルチプログラム対応は、MPEG2だけの機能である。
【0018】
当該MPEG2のストリームには、前述したように、PS(プログラム・ストリーム)と共に、トランスポート・ストリーム(TS)と呼ばれるマルチプログラム対応の多重・分離方式の2種類の方式がある。トランスポート・パケットのヘッダ部分には、パケット・データの内容識別情報があり、それによって目的とするプログラム再生に必要なパケットをDMUX(分離器)を通じて取り出して復号することになる。
【0019】
このトランスポート・パケットは、ATMとの接続性も考慮して、188バイト固定長の比較的短いパケットである。ATMのパケット長は実データ47バイト(ATMセルのペイロード(ユーザ情報)部分48バイトのうち1バイトは、シーケンスと同期用に使用する)で、一つのトランスポート・パケットを4つのATMパケット(セル)に乗せて伝送できるようになっている。上記トランスポート・ストリーム(TS)のプログラム・ストリーム(PS)との大きな違いは、複数のパケット(MPEG2ではPES(Packetized Elementary Stream)パケットと呼ぶ)をグループ化してパックを構成するプログラム・ストリーム(PS)の方式に対して、トランスポート・ストリーム(TS)方式では逆にパケットを再分割して複数のトランスポート・パケットに乗せて伝送することにある。したがって、トランスポート・ストリーム(TS)におけるPESパケットは、PS(及びMPEG1)におけるパックのような役割を果たすことになり、パック・ヘッダと同じような情報をPESパケットで伝送できるように拡張されている。
【0020】
また、マルチプログラム対応のトランスポート・ストリームでは、多数のビデオ、オーディオの個別のストリームを伝送するため、複数のプログラムの中からどのプログラムを選び、どのパケットを取り出してどのように復号すればよいか、などの情報が必要になる。これらのプログラム仕様情報を総称してPSI(Program Specific Information、プログラム仕様情報)と呼んでいる。PSIは、特定の識別コードをもったパケットや一次的なPSIで指し示されたパケットなどで伝送される。トランスポート・ストリーム(TS)の基準復号器の中にあるシステム用のバッファ・メモリとシステムの復号器は、このPSI処理のために設けられている。なお、このPSIについては、ISO/IEC13818−1の2.4.4のProgram Specific Informationに詳細が記述されている。
【0021】
次に、MPEG2−TSのデータ構造について以下に説明する。
【0022】
トランスポート・パケットのデータ構造は、複数プログラムを扱う目的からITU−T(旧CCITT)で標準化されているATMの方式と類似している。図6にはトランスポート・パケットのデータ構造を階層的に示し、各情報項目の意味と目的を以下に説明する。なお、図6のトランスポート・ストリーム・シンタクスは、ISO13818−1にて規定されているものであるため、ここでは簡単な説明に止める。
【0023】
図6の(A)に示すように、トランスポート・ストリームは188バイトの固定長トランスポート・パケットによって多重・分離されるものである。このトランスポート・パケットは、それぞれヘッダ部とペイロード部とからなる。
【0024】
上記トランスポート・パケットのヘッダ部はそれぞれ図6の(B)から図6の(D)に示すような構造となっている。
【0025】
図6の(B)に示すように、トランスポート・パケットは、同期バイト部、誤り表示(エラー・インジケータ)部、ユニット開始表示部、トランスポート・パケット・プライオリティ部、PID部、スクランブル制御部、アダプテーション・フィールド制御部、巡回カウンタ部、アダプテーション・フィールド部からなるヘッダを有する。
【0026】
上記同期バイト部には、復号器がトランスポート・パケットの先頭を検出するための8ビットの同期信号が配置される。誤り表示(エラー・インジケータ)部には、このパケット中のビット・エラーの有無を示す1ビットが配置され、ユニット開始表示部には、新たなPESパケットが当該トランスポート・パケットのペイロード(実効的なパケット・データ)から始まることを示す1ビットが配置される。トランスポート・パケット・プライオリティ(パケット優先度)部には、このパケットの重要度を示す1ビットが配置され、PID(Packet Identification、パケットの種別)部には、該当パケットの個別ストリームの属性を示す13ビットのストリーム識別情報が配置される。スクランブル制御部には、このパケットのペイロードのスクランブルの有無,種別を示す2ビットが配置され、アダプテーション・フィールド制御部には、このパケットでのアダプテーション・フィールドの有無及びペイロードの有無を示す2ビットが配置される。巡回カウンタ部には、同じPIDをもつパケットが途中で一部棄却されたかどうかを検出するための情報が配置され、4ビットの巡回カウンタ情報を連続性によって検出するようになされている。アダプテーション・フィールド部には、個別ストリームに関する付加情報やスタッフィング・バイト(無効データ・バイト)をオプションで入れることができる。このことから、個別ストリームの動的な状態変化の情報を伝送することができる。
【0027】
上記アダプテーション・フィールド部は、図6の(C)に示すように、アダプテーション・フィールド長部、不連続表示部、ランダム・アクセス表示部、ストリーム・プライオリティ(優先)・表示部、5フラグ、オプショナル・フィールド部、スタッフィング・バイト部からなる。
【0028】
上記アダプテーション・フィールド長部には、当該アダプテーション・フィールド部の長さを示す8ビットが配置され、不連続インジケータ(不連続表示)部には、次の同じPIDのパケットで、システム・クロックがリセットされ、新たな内容になることを示す1ビットが配置される。ランダム・アクセス表示部は、ビデオのシーケンス・ヘッダまたはオーディオのフレームの始まりを示し、ランダム・アクセスのエントリー・ポイントであることを示す1ビットが配置される。ストリーム・プライオリティ(優先)・表示部は、この個別ストリームの重要部分が、当該パケットのペイロードにあることを示す1ビットが配置される。例えばビデオの場合はイントラ符号化部分がこれに相当する。オプショナル・フィールド部は、図6の(D)に示すように、42ビットのPCR(Program Clock Reference)部、42ビットのOPCR(Original PCR)部、8ビットのスプライス・カウントダウン部、トランスポート・プライベート・データ長とデータ部、アダプテーション・フィールド拡張部とからなる。上記スプライス・カウントダウン部には、編集可能な点(スプライス・ポイント、SP:Splice Point)までの同一のPIDのトランスポート・パケットの数を示す8ビットが配置される。この機能によって、例えば伝送中継点でのコマーシャル挿入(ストリームの一部入れ替え)などが可能となる。スタッフィング・バイト部には、8×Mビットのスタッフィング・バイトを配置可能となっている。
【0029】
また、図6のオプショナル・フィールド部は、さらに図6の(E)に示すように、lwt_valid_flag(legal time window_valid_flag)部、ltw_offset(legal time window_offset)部、ピースワイズ・レート(piecewise rate)部、スプライス・タイプ部、DTS_next_au部からなる。スプライス・タイプ部には、MPEG2におけるMP@ML(Main Profile at Main Level)の仕様を示す4バイトが配置される。DTS_next_au部には、スプライス・ポイントに続く最初のアクセス・ユニットの復号時間を示す33ビットが配置される。
【0030】
また、トランスポート・ストリームの復号・再生では、複数プログラムの中から一つを選択し、次にそのプログラムの復号・再生のために必要な個別ストリームのトランスポート・パケットのPID(通常はビデオとオーディオのPIDなど、複数が必要)を知ることが要求される。次に、それら個別ストリームのパラメータ情報や連係情報を知る必要がある。したがって、このような多くのステップ動作のため、幾つかの付加テーブル情報(PSI)が必要となる。これらのPSIは、セクションとよばれるデータ構造によって伝送されることになる。
【0031】
このセクションにおいて、PID=0のパケットで伝送される特別な情報としては、プログラム・アソシエーション・テーブル(Program Association Table:PAT)がある。これは、各プログラム番号(16ビット)ごとにそのプログラム構成を記述しているテーブル(プログラム・マップ・テーブル、Program Map Table:PMT、一つのプログラムのディレクトリ・テーブル)を伝送しているトランスポート・パケットのPIDを指す。
【0032】
上記プログラム・マップ・テーブルは、プログラムの識別番号と、プログラムを構成するビデオ、オーディオなどの個別ストリームが伝送されているトランスポート・パケットのPIDのリストや付属情報を記述している。プログラム・アソシエーション・テーブルとプログラム・マップ・テーブルに分けて間接記述にした理由は、一つだけのテーブルで全てを記述するとテーブルが大きくなり過ぎて、テーブルを記憶しておくメモリが大きくなり、さらに、テーブルの後部に記述されているプログラムの情報アクセスに時間が長くかかるためである。
【0033】
なお、上記セクションには、コンディショナル(条件付)アクセス・テーブルがある。このテーブルは必ずしも必要ないが、復号・再生の制限を行うためにスクランブルをかけたストリームを、許可されたユーザが復号・再生するための付属テーブルである。
【0034】
【発明が解決しようとする課題】
ところで、上述したMPEG2のような動画像圧縮符号化方式は、例えば放送番組などの映像素材(以下、放送素材或いは本編素材と呼ぶ)を供給する放送局(以下、本局と呼ぶ)から、当該放送のネットワークを構成する各局(以下、ネットワーク構成局と呼ぶ)に対して上記放送素材を伝送する場合に、上記本局において当該放送素材を圧縮符号化する場合に使用することが考えられている。このように、本局からネットワーク構成局に対して送られる上記圧縮符号化された放送素材の符号化ストリームは、前記トランスポート・ストリーム(TS)となっている。
【0035】
上記本局から上記放送素材のトランスポート・ストリームを受けた上記ネットワーク構成局は、それぞれが例えばコマーシャル映像(以下、単にCMと呼ぶ)のような独自の素材を、上記放送素材のトランスポート・ストリームに挿入して再伝送または放送することになる。以下、上記放送素材に挿入される素材を挿入素材と呼ぶ。
【0036】
ここで、上記放送素材のトランスポート・ストリームに対して上記挿入素材を挿入することができる位置は、前記編集点(スプライス・ポイント(SP))として上記トランスポート・ストリームに設定されている。したがって、当該トランスポート・ストリームからスプライス・ポイントを見つけることで、挿入素材の挿入可能な位置を知ることができる。
【0037】
しかし、上述のように上記スプライス・ポイントによって上記挿入素材の挿入可能な位置を知ることはできるが、上記MPEG2においては上記スプライス・ポイントのアドレッシング機構については規定されていない。このように、MPEG2においては上記挿入素材を挿入可能なポイントと、上記挿入素材を有機的に関連付ける方法は未だ存在せず、また、挿入区間の長さも予め知ることはできず、さらに挿入区間の用途も判らない。なお、従来から可能なのは前記スプライス・カウントダウンによって上記スプライス・ポイント数をカウントすることだけである。したがって、例えばスプライス・ポイント付近でバースト的な伝送エラーが有ったとすると、当該スプライス・ポイントのカウントがそれ以降でずれて整合がとれなくなる。
【0038】
また、上記トランスポート・ストリームに、上記CM以外の例えばクローズド・キャプション(closed caption)用の挿入可能なポイントが用意されているとすると、例えばあるネットワーク構成局において上記クローズド・キャプションの再挿入を行わずにCMのみを挿入するような場合には、当該クローズド・キャプション用のポイントによって適切なポイントでCMを挿入することが不可能になる。
【0039】
さらに、あるネットワーク構成局において例えばあるCM区間では本局からのCMのトランスポート・ストリームをそのまま使うものとし、また、別のネットワーク構成局では本局からの別のCMのトランスポート・ストリームを使用したいような場合にも、従来のスプライス・ポイントをカウントするだけの制御では上記のことを実現するのは不可能である。
【0040】
またさらに、上記スプライス・ポイントをカウントする場合、あるスプライス・ポイントから次のスプライス・ポイントを見つければ、そのスプライス・ポイント間の長さを把握することはできるが、例えば同じ長さのCMが幾つか有ったとして、例えば1回目のCM区間はCM2つ分で、2回目のCM区間はCM1つ分というような制御をダイナミックに行うことはできない。
【0041】
その他、予め作りおいた複数のCMなどの挿入素材のトランスポート・ストリームは、それぞれ固有の前記PID(Packet Identification)を持つが、上記放送素材のトランスポート・ストリームに、このまま挿入したのでは、同一プログラムとして扱われない。したがって、別途PMT(Program Map Table)が必要になるが、この切り替わりのときの動作は受信デコーダ(Reciver Decoder)では規定がないので保証されない。
【0042】
なお、従来より、以下のことは公知である。
【0043】
タイムベース(time-base)の不連続点では前記PCR(Program Clock Reference)が使える。
【0044】
予めイン点とアウト点を決めずに、トランスポート・ストリーム上でパケット単位にスイッチングした場合、一般に符号化ビット・ストリームは不連続な接続になり、受信デコーダのVLD(Variable Length Decoding)でつじつまが合わなくなって、次のシーケンス・ヘッダ(sequence_header)が見つかるまでデコードがストップする。
【0045】
スプライス・ポイントでは、クローズド・キャプションである。したがって、予めイン点とアウト点を決めてGOP(Group Of Picture)の切れ目でスイッチングできた場合でも、クローズドGOPでなければ、繋ぎ目の画質が劣化する。
【0046】
トランスポート・ストリーム上で、プログラムのスプライスを行おうとするとき、スプライス・カンウトダウン=0(splise_count_down=0)でスプライス・ポイントを検出する。
【0047】
また、スプライスを行うためのツールとしては以下のものが用意されている。すなわち、
不連続表示(discontinuity_indicator)と、
スプライス・ポイント・フラグ(splicing_point_flag)と、
スプライス・カウントダウン(splice_countdown)と、
シームレス・スプライス・フラグ(seamless_splice_flag)と、
スプライス・タイプ(splice_type)と、
DTS_next_AUとが用意されている。
【0048】
これらツールの意味は前述同様であり、詳細についてはISO13818−1に記述されている。
【0049】
本発明は上述したことを考慮してなされたものであり、本局がリアルタイムで伝送するMPEG2方式で圧縮した後の放送素材のトランスポート・ストリームを受けた構成局において、それぞれ独自の挿入素材を容易に挿入可能とする映像素材供給装置及び方法、並びに映像素材挿入装置及び方法を提供することを目的とする。
【0050】
【課題を解決するための手段】
本発明に係る映像素材供給装置は、映像素材のトランスポート・ストリームを供給する映像素材供給装置において、上記映像素材の符号化ビット・ストリームを多重化して上記トランスポート・ストリームを生成するトランスポート・ストリーム生成手段と、上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を生成する挿入素材情報生成手段と、上記挿入素材情報生成手段により生成された上記挿入素材情報を、上記トランスポート・ストリーム生成手段により生成された上記トランスポート・ストリームに記述する挿入素材情報記述手段とを有することにより、上述の課題を解決する。
本発明に係る映像素材供給方法は、映像素材のトランスポート・ストリームを供給する映像素材供給方法において、上記映像素材の符号化ビット・ストリームを多重化して上記トランスポート・ストリームを生成するトランスポート・ストリーム生成工程と、上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を生成する挿入素材情報生成工程と、上記挿入素材情報生成工程により生成された上記挿入素材情報を、上記トランスポート・ストリーム生成工程により生成された上記トランスポート・ストリームに記述する挿入素材情報記述工程とを有することにより、上述の課題を解決する。
【0051】
また、本発明に係る映像素材挿入装置は、映像素材のトランスポート・ストリームに、上記映像素材に挿入する挿入素材のトランスポート・ストリームを挿入する映像素材挿入装置において、上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に上記挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を、上記映像素材のトランスポートストリームから取得する挿入素材情報取得手段と、上記挿入素材情報取得手段により取得された上記挿入素材情報に基づいて上記スプライス・ポイントの位置及び上記挿入素材の挿入区間長を解読し、上記挿入素材情報に基づいて選択された上記挿入素材のトランスポート・ストリームを、上記映像素材のトランスポート・ストリームの上記スプライス・ポイントの位置に挿入する素材挿入手段とを有することにより、上述の課題を解決する。
さらに、本発明に係る映像素材挿入方法は、映像素材のトランスポート・ストリームに、上記映像素材に挿入する挿入素材のトランスポート・ストリームを挿入する映像素材挿入方法において、上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に上記挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を、上記映像素材のトランスポート・ストリームから取得する挿入素材情報取得工程と、上記挿入素材情報取得工程により取得された上記挿入素材情報に基づいて上記スプライス・ポイントの位置及び上記挿入素材の挿入区間長を解読し、上記挿入素材情報生成手段に基づいて生成された上記挿入素材のトランスポート・ストリームを、上記映像素材のトランスポート・ストリームの上記スプライス・ポイントの位置に挿入する素材挿入工程とを有することにより、上述の課題を解決する。
【0052】
すなわち、本発明によれば、伝送形態のビット・ストリームに挿入点と挿入素材情報とを記述しておけば、この伝送形態のビット・ストリームに別の映像素材を挿入する際に、挿入可能な映像素材と挿入位置を知ることができることになる。
【0053】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
【0054】
本発明の一実施の形態の映像素材供給装置は、例えば前述したMPEG2のような動画像圧縮符号化方式にて放送番組等のプログラム・ソースを圧縮符号化し、この圧縮符号化により得られた放送素材の符号化ビット・ストリームに対して、挿入素材の属性、挿入素材の番号、挿入区間長などの挿入素材情報を記述して伝送するようにしている。
【0055】
すなわち、図1に示すように、本発明の映像素材供給装置の一構成例としての放送局(本局)10は、放送素材のプログラム・ソースを上記MPEG2方式にて圧縮符号化するビデオエンコーダ11と、上記ビデオエンコーダ11からの各個別の符号化ビット・ストリーム(エレメンタリ・ストリーム、Elementary Stream:ES)を伝送媒体としての例えばネットワークのフォーマットに適合させて多重化するプライマリMUX(マルチプレクサ)12とを有してなるものである。
【0056】
より具体的に説明すると、上記ビデオエンコーダ11は、上記符号化により得られる符号化ビット・ストリーム(ES)と、例えばユーザ等から予め与えられた素材挿入のためのイン点とアウト点の情報とに基づいて、前記スプライス・ポイント(SP:Splice Point)を決定し、このスプライス・ポイントをGOP(Group Of Picture)の切れ目とし、さらに、繋ぎ目の映像の品質を維持するために上記イン点とアウト点に対応するトランスポート・ストリームの先頭をクローズドGOPの先頭にすることを行う。すなわち前記PES(Packetized Elementary Stream)の先頭はトランスポート・ストリームの先頭であるので、GOPの先頭をPESのペイロード(Payload)の先頭にする。
【0057】
また、上記プライマリMUX12は、上記イン点とアウト点のスプライス・ポイント(SP)で前記PCR(Program Clock Reference)をのせる前記アダプテイション・フィールド(adptation_field)を確保し、素材挿入用のスプライス情報として挿入素材の属性、挿入素材の番号、挿入区間長などの挿入素材情報を生成し、当該挿入素材情報を上記放送素材のトランスポート・ストリームの前記PSI(Program Specific Information、プログラム仕様情報)に設けたデスクリプタ(descriptor)に記述し、セクション形式で付加するようにして、多重化を行う。当該プライマリMUX12での多重化により得られた上記挿入素材情報が記述されたトランスポート・ストリーム(TSM)は、当該本局10から伝送出力される。
【0058】
一方、本発明の一実施の形態の映像素材挿入装置は、予めCMなどの挿入素材が上記MPEG2にて圧縮符号化されたトランスポート・ストリームを用意しておき、例えば上記MPEG2のような動画像圧縮符号化方式にて圧縮符号化された放送素材のトランスポート・ストリームを受信すると、当該放送素材のトランスポート・ストリーム内に記述されている上記挿入素材の属性、挿入素材の番号、挿入区間長などの挿入素材情報を検出して解読し、上記解読した挿入素材情報に合うような上記挿入素材のトランスポート・ストリームを取り出し、当該取り出した挿入素材のトランスポート・ストリームを上記挿入素材情報に基づいて上記放送素材のトランスポート・ストリームに挿入して出力するようにしている。
【0059】
すなわち、図1に示すように、本発明の一構成例の映像素材挿入装置は、上記本局10から供給された放送素材のトランスポート・ストリーム(TSM)を受信して、この放送素材のトランスポート・ストリームに対して例えばCMなどの挿入素材を挿入して、再伝送(または再放送)する、各ネットワークの構成局20,30,40,50である。各ネットワーク構成局20,30,40,50は、それぞれが予めCMなどの複数の挿入素材を上記MPEG2にて圧縮符号化した複数のトランスポート・ストリームを格納する素材サーバ(或いはCMサーバ)と、当該素材サーバから取り出された挿入素材のトランスポート・ストリーム(TSC)を上記本局10から供給された放送素材のトランスポート・ストリーム(TSM)に挿入するインテリジェント・スイッチャとを有する。
【0060】
ここで、各ネットワーク構成局20,30,40,50は、それぞれ同じ構成を有するものであるため、例えばネットワーク構成局20を例に挙げて説明する。
【0061】
当該ネットワーク構成局20において、素材サーバ21には予めCMなどの複数の挿入素材を上記MPEG2にて圧縮符号化した複数のトランスポート・ストリーム(TSC)を格納している。この素材サーバ21は、インテリジェント・スイッチャ22からの要求に合わせて、挿入素材のトランスポート・ストリーム(TSC2)を出力する。
【0062】
インテリジェント・スイッチャ22は、上記本局10から供給された放送素材のトランスポート・ストリーム(TSM)を受信し、当該トランスポート・ストリーム(TSM)内の上記PSIを検出して上記挿入素材の属性、挿入素材の番号、挿入区間長などの挿入素材情報を解読する。また、このインテリジェント・スイッチャ22は、当該ネットワーク構成局20にて予めセットした挿入素材の送出表(例えばCM送出表)を保持しており、当該挿入素材の送出表と上記PSIを解読した結果とを照らし合わせて、素材サーバ21に対して該当する挿入素材の出力要求を出す。これにより、上記素材サーバ21からは、当該インテリジェント・スイッチャ22の要求に応じた挿入素材のトランスポート・ストリーム(TSC2)が取り出される。インテリジェント・スイッチャ22は、上記素材サーバ21から得た挿入素材のトランスポート・ストリーム(TSC2)を、上記放送素材のトランスポート・ストリーム(TSM)の挿入素材専用デスクリプタの入ったPSIを検出後に、前記スプライス・カンウトダウン(splice_countdown=0)で当該放送素材のトランスポート・ストリーム(TSM)に挿入する。なお、当該挿入を行うときには、挿入素材のトランスポート・ストリーム(TSC2)のPID(Packet Identification、パケットの種別)の差し換えを行い、このトランスポート・ストリーム(TSC2)を上記放送素材のトランスポート・ストリーム(TSM)に挿入するようにする。また、インテリジェント・スイッチャ22は、前記PTS(Presentation Time Stamp)との整合を取るため、前記PCR(Program Clock Reference)の更新を強制的に行うように前記不連続表示部(discontinuity_indicator)をセットすることも行う。
【0063】
上記インテリジェント・スイッチャ22の出力は、上記放送素材のトランスポート・ストリームに上記挿入素材のトランスポート・ストリームが挿入されたトランスポート・ストリーム(TSB2)として、外部に再伝送(または放送)される。上記ネットワーク構成局20から再伝送されたトランスポート・ストリーム(TSB2)は、その後例えば各家庭等に送られ、ここで受信デコーダによって受信されると共に復号され、例えばビデオモニタやスピーカなどに送られることになる。
【0064】
上述したように、本発明構成例の映像素材供給装置(本局10)においては、放送素材のトランスポート・ストリーム(TSM)のスプライス・ポイント(PS)と、上記挿入素材のトランスポート・ストリームとを有機的に結び付けるために、放送素材のトランスポート・ストリーム(TSM)のPSIに素材挿入用のデスクリプタを設け、ここに挿入素材の属性、挿入素材の番号、挿入区間長などの挿入素材情報を記述するようにしている。
【0065】
また、本発明構成例の映像素材挿入装置(ネットワーク構成局)においては、本局10からのトランスポート・ストリーム(TSM)のPSIを検出して解読し、上記挿入番号に合わせて要求のPIDのCMなどの挿入素材を素材サーバから引き出し、上記挿入素材のPIDの差し換えを施して、放送素材のトランスポート・ストリームへ挿入するようにしている。
【0066】
なお、本発明の内容はISO13818−1のシステムに適応されるものである。
【0067】
図2には、上述した図1の構成におけるトランスポート・ストリーム上での素材挿入の例を3つ示す。
【0068】
すなわち、図2の(A),(B),(C)に示すように、本局10から伝送されてくる放送素材のトランスポート・ストリーム(TSMA,TSMB,TSMC)には、それぞれ前記挿入素材情報がデスクリプタに記述されたPSIが配置されている。これら放送素材のトランスポート・ストリーム(TSMA,TSMB,TSMC)を受信したネットワーク構成局では、各トランスポート・ストリーム(TSMA,TSMB,TSMC)のPSIを検出して上記挿入素材情報を解読するようにしているため、素材サーバからの挿入素材のトランスポート・ストリーム(TSCA,TSCB,TSCC)を各トランスポート・ストリーム(TSMA,TSMB,TSMC)に挿入する際には当該挿入素材情報に基づいてスプライス・ポイント(SP)の位置や長さなどを知ることができ、したがって、当該スプライス・ポイント(SP)間に各挿入素材のトランスポート・ストリーム(TSCA,TSCB,TSCC)を良好に挿入可能となる。
【0069】
ところで、上述したように、本発明構成例では、素材挿入のために前記PSIを使用するようにしているが、当該PSIを使う方法としては、以下のような2つの方法が考えられる。
【0070】
上記PSIを使う方法の一つとして、上記PSIの前記プログラム・アソシエーション・テーブル(Program Association Table:PAT)で指定されたプログラム・マップ・PIDのプログラム・マップ・テーブル(Program Map Table:PMT)内のデスクリプタ(descriptor)として管理する方法が考えられる。図3には、C言語に準じて、トランスポート・ストリームのプログラム・マップ・セクション(TS_Program_Map_section)とデスクリプタ(descriptor)とを関数としたシンタクス(Syntax)を示す。すなわち、この図3によれば、TS_Program_Map_section関数として、主要なのもののみ抜き出すと、テーブルID(Table_id)やセクション・シンタクス・インジケータ(section_syntax_indicator)、セクション長(section_length)、プログラム番号(program_number)、バージョン番号(version_number)、カレント・ネクスト・インジケータ(current_next_indicator)、セクション番号(section_number)、最後尾セクション番号(last_section_number)、プログラム情報長(program_info_length)等が記述されている。なお、デスクリプタ(descriptor)については、ISO/IEC13818−1の2.6のProgram and program element descriptorに詳細が記述されている。
【0071】
また、PSIを使う方法の他の一つとして、ISO/IEC13818−1の2.6.1のTable2-40で示されているデスクリプタ・タグ(descriptor_tag)のなかのユーザ・プライベート(User privatw 64-255)を利用してデスクリプタを構成することもできる。例えば、前記素材挿入用のデスクリプタ(Program insertion descriptor)として、C言語に準じた図4に示すようなシンタクスを用いることができる。すなわちこの図4によれば、Program_insertion_descriptor関数として、デスクリプタ・タグ(descriptor_tag)やデスクリプタ長(descriptor_length)等が記述されている。
【0072】
さらに、ISO/IEC13818−1の2.4.4.4のTable_id assignments valuesのUser private 0x40-0xFEを用いて専用のセクタを構成して、独立にデスクリプタを管理する方法も可能である。例えば、素材挿入用のデスクリプタ(Program insertion descriptor)として、C言語に準じた図5に示すようなシンタクスを用いることができる。この図5によれば、Program_insertion_descriptor関数として、テーブルID(Table_id)やセクション・シンタクス・インジケータ(section_syntax_indicator)、セクション長(section_length)等が記述されている。
【0073】
上述したようなことから、本発明構成例においては、放送素材伝送の本局がリアルタイムで伝送するMPEG2方式による圧縮符号化後の伝送形態ストリーム(トランスポート・ストリーム)を受けた各ネットワーク構成局が、それぞれ独自のCM等の挿入素材を、当該放送素材のトランスポート・ストリームに挿入可能となる。すなわち、挿入ポイント(スプライス・ポイント)とCMなどの挿入素材間を有機的に結合するこが可能となり、CMなどの挿入素材送出のダイナミックなスケジューリングが可能になる。また、CM等の挿入素材をMPEG2方式のトランスポート・ストリームで共有することが可能となる。そして、挿入時間が予め対応付けられて判るため、挿入素材サーバ(或いはCMサーバ)から必要な挿入素材をトランスポート・ストリームで伝送し、CM等の挿入期間内でのCM素材の組み替えのスイッチングも可能になる。さらに、スプライス・ポイント付近でバースト的な伝送エラーが有ったとして、次のPSIを検出することによって、整合性を回復することも可能となる。またさらに、予め作りおいた複数のCMなどの挿入素材のトランスポート・ストリームは、それぞれ固有のPIDを持つが、挿入の際に当該PIDの差し換えを行い、挿入素材の本編化(放送素材化)を行うことができるので、別途PMTを必要としない。このようなことから、挿入後のストリームが供給された受信デコーダは正常に動作することが保証されることになる。
【0074】
【発明の効果】
本発明においては、伝送形態のビット・ストリームに挿入点と挿入素材情報とを記述しておくことにより、この伝送形態のビット・ストリームに別の映像素材を挿入する際に、挿入可能な映像素材と挿入位置を知ることができ、したがって、例えばテレビ放送局(本局)がリアルタイムで伝送するMPEG2方式で圧縮した後の放送素材のトランスポート・ストリームを受けたネットワーク構成局において、それぞれ独自の挿入素材を容易に挿入可能となる。
【図面の簡単な説明】
【図1】本発明の映像素材供給装置と映像素材挿入装置の一構成例のシステムを示すブロック回路図である。
【図2】放送素材のトランスポート・ストリームに挿入素材のトランスポート・ストリームを挿入する様子を説明するための図である。
【図3】トランスポート・ストリーム・プログラム・マップ・セクションとデスクリプタのシンタクスを示す図である。
【図4】素材挿入用のデスクリプタの一例のシンタクスを示す図である。
【図5】素材挿入用のデスクリプタの他の例のシンタクスを示す図である。
【図6】MPEG2のトランスポート・ストリームのデータ構造を示す図である。
【符号の説明】
10 本局、 11 ビデオエンコーダ、 12 プライマリMUX、 20,30,40,50 ネットワーク構成局、 21,31,41,51 素材サーバ、 22,32,42,52 インテリジェント・スイッチャ
Claims (7)
- 映像素材のトランスポート・ストリームを供給する映像素材供給装置において、
上記映像素材の符号化ビット・ストリームを多重化して上記トランスポート・ストリームを生成するトランスポート・ストリーム生成手段と、
上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を生成する挿入素材情報生成手段と、
上記挿入素材情報生成手段により生成された上記挿入素材情報を、上記トランスポート・ストリーム生成手段により生成された上記トランスポート・ストリームに記述する挿入素材情報記述手段と
を有することを特徴とする映像素材供給装置。 - 上記挿入素材情報は、上記挿入素材を識別する番号も含むことを特徴とする請求項1記載の映像素材供給装置。
- 上記挿入素材情報記述手段は、上記トランスポート・ストリームのプログラム仕様情報に設けたデスクリプタに記述することを特徴とする請求項1記載の映像素材供給装置。
- 映像素材のトランスポート・ストリームを供給する映像素材供給方法において、
上記映像素材の符号化ビット・ストリームを多重化して上記トランスポート・ストリームを生成するトランスポート・ストリーム生成工程と、
上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を生成する挿入素材情報生成工程と、
上記挿入素材情報生成工程により生成された上記挿入素材情報を、上記トランスポート・ストリーム生成工程により生成された上記トランスポート・ストリームに記述する挿入素材情報記述工程と
を有することを特徴とする映像素材供給方法。 - 映像素材のトランスポート・ストリームに、上記映像素材に挿入する挿入素材のトランスポート・ストリームを挿入する映像素材挿入装置において、
上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に上記挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を、上記映像素材のトランスポートストリームから取得する挿入素材情報取得手段と、
上記挿入素材情報取得手段により取得された上記挿入素材情報に基づいて上記スプライス・ポイントの位置及び上記挿入素材の挿入区間長を解読し、上記挿入素材情報に基づいて選択された上記挿入素材のトランスポート・ストリームを、上記映像素材のトランスポート・ストリームの上記スプライス・ポイントの位置に挿入する素材挿入手段と
を有することを特徴とする映像素材挿入装置。 - 上記素材挿入手段は、上記挿入素材のトランスポート・ストリームのパケット種別の差し換えを行うことにより、上記挿入素材のトランスポート・ストリームを、上記映像素材のトランスポート・ストリームの上記スプライス・ポイントの位置に挿入することを特徴とする請求項5記載の映像素材挿入装置。
- 映像素材のトランスポート・ストリームに、上記映像素材に挿入する挿入素材のトランスポート・ストリームを挿入する映像素材挿入方法において、
上記トランスポート・ストリームに設定されるスプライス・ポイントの位置に上記挿入素材のトランスポートストリームを挿入するための上記挿入素材の挿入区間長を含む挿入素材情報を、上記映像素材のトランスポート・ストリームから取得する挿入素材情報取得工程と、
上記挿入素材情報取得工程により取得された上記挿入素材情報に基づいて上記スプライス・ポイントの位置及び上記挿入素材の挿入区間長を解読し、上記挿入素材情報生成手段に基づいて生成された上記挿入素材のトランスポート・ストリームを、上記映像素材のトランスポート・ストリームの上記スプライス・ポイントの位置に挿入する素材挿入工程と
を有することを特徴とする映像素材挿入方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9159296A JP3804099B2 (ja) | 1996-04-12 | 1996-04-12 | 映像素材供給装置及び方法、映像素材挿入装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9159296A JP3804099B2 (ja) | 1996-04-12 | 1996-04-12 | 映像素材供給装置及び方法、映像素材挿入装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09284761A JPH09284761A (ja) | 1997-10-31 |
JP3804099B2 true JP3804099B2 (ja) | 2006-08-02 |
Family
ID=14030831
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP9159296A Expired - Fee Related JP3804099B2 (ja) | 1996-04-12 | 1996-04-12 | 映像素材供給装置及び方法、映像素材挿入装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3804099B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3315928B2 (ja) * | 1998-06-24 | 2002-08-19 | 株式会社次世代情報放送システム研究所 | 番組へのcm挿入方法、cm挿入装置、及び情報受信端末システム |
EP1266522B1 (en) * | 2000-03-31 | 2012-02-15 | OpenTV, Inc. | System and method for local meta data insertion |
JP2002203180A (ja) * | 2000-10-23 | 2002-07-19 | Matsushita Electric Ind Co Ltd | 制御情報出力装置および制御情報出力方法 |
TW548981B (en) * | 2001-03-19 | 2003-08-21 | Matsushita Electric Ind Co Ltd | Broadcasting distribution apparatus |
JP3715624B2 (ja) * | 2001-04-05 | 2005-11-09 | 松下電器産業株式会社 | データ放送番組ストリーム送出装置、データ放送番組ストリーム送出装置の制御方法及びプログラム並びに記録媒体 |
JP3696609B2 (ja) * | 2001-04-05 | 2005-09-21 | 松下電器産業株式会社 | データ放送番組ストリーム配信システム、第2データ放送番組ストリーム送出装置、データ放送番組ストリーム送出方法及びそのプログラム並びにそのプログラムを記録した記録媒体 |
JP4398238B2 (ja) * | 2003-12-12 | 2010-01-13 | 日本テレビ放送網株式会社 | データ放送のコンテンツ変更システム及びその方法と、プログラム |
JP4308178B2 (ja) * | 2005-09-02 | 2009-08-05 | リーダー電子株式会社 | 放送tsの一部を修正する装置 |
JP4932242B2 (ja) * | 2005-12-13 | 2012-05-16 | 三菱電機株式会社 | ストリーム切換装置及びストリーム切換方法 |
JP5227875B2 (ja) * | 2009-04-06 | 2013-07-03 | 株式会社日立製作所 | 動画像符号化装置 |
JP2012195821A (ja) * | 2011-03-17 | 2012-10-11 | Hitachi Kokusai Electric Inc | ビデオサーバシステムの制御方法 |
-
1996
- 1996-04-12 JP JP9159296A patent/JP3804099B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH09284761A (ja) | 1997-10-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4970688B2 (ja) | デジタルビデオ記録物を作成、再生する方法及び装置と、この方法を用いて作成されたデジタルビデオ記録物 | |
US6414998B1 (en) | Method and apparatus for inserting an image material | |
US8107505B2 (en) | Method and apparatus for generating information signal to be recorded | |
US6873629B2 (en) | Method and apparatus for converting data streams | |
US8244108B2 (en) | After-recording apparatus | |
JP3804099B2 (ja) | 映像素材供給装置及び方法、映像素材挿入装置及び方法 | |
JP3617177B2 (ja) | 映像素材供給装置及び方法 | |
JPH11205789A (ja) | Mpeg2トランスポートストリーム伝送レート変換装 置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051025 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060131 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060328 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060418 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060501 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100519 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100519 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110519 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120519 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130519 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |