JP3552945B2 - Mpeg2データのインサート編集方法及びシステム - Google Patents

Mpeg2データのインサート編集方法及びシステム Download PDF

Info

Publication number
JP3552945B2
JP3552945B2 JP9106199A JP9106199A JP3552945B2 JP 3552945 B2 JP3552945 B2 JP 3552945B2 JP 9106199 A JP9106199 A JP 9106199A JP 9106199 A JP9106199 A JP 9106199A JP 3552945 B2 JP3552945 B2 JP 3552945B2
Authority
JP
Japan
Prior art keywords
data
mpeg2
audio
audio data
editing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP9106199A
Other languages
English (en)
Other versions
JP2000287178A (ja
Inventor
泰之 木次
智之 森田
隆之 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Software Engineering Co Ltd
Original Assignee
Hitachi Software Engineering Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Software Engineering Co Ltd filed Critical Hitachi Software Engineering Co Ltd
Priority to JP9106199A priority Critical patent/JP3552945B2/ja
Publication of JP2000287178A publication Critical patent/JP2000287178A/ja
Application granted granted Critical
Publication of JP3552945B2 publication Critical patent/JP3552945B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、MPEG2データのインサート編集方法及びシステムに関し、特に、MPEG2データにおける音声データをリアルタイムに編集することができるインサート編集方法及びシステムに関する。
【0002】
【従来の技術】
動画を高度に圧縮して、ディジタル動画データとして扱うためには、MPEG(motion photographic coding experts groupe)規格のデータフォーマットが用いられる。このようなMPEGデータフォーマットを用いるディジタル動画データ(以下、MPEGデータと称する)に対する編集処理では、画像と音声の編集をそれぞれ個別に行い、最終的に画像と音声を組み合わせて、再び、MPEGデータとする。
【0003】
図1は、従来におけるMPEGデータの編集処理を行うインサート編集システムの構成の一例を示す図である。図1において、1はMPEG2−TSデータファイル、2は音声データ変換・抽出部、3は音声データファイル、4は映像データ編集処理部、5は音声データ編集処理部、6は映像データ出力部、7は音声データ出力部、8は同期処理部である。
【0004】
MPEGデータは、符号化され高度に圧縮された映像データと音声データとがそれぞれパケットデータとして混じり合って存在しているので、MPEG2データの編集処理を行うインサート編集システムでは、その映像データの編集処理と、音声データの編集処理がそれぞれ個別に行われる。図1に示すように、映像データの編集処理は、MPEG2−TSデータファイル1から取り出されたMPEGデータの映像データのパケットに対して、映像データ編集処理部4により行い、映像データ出力部6から、その編集した映像データリソースが取り出される。この場合、映像データ編集処理部4では、映像データのフレーム画像をモニタ画面等に表示して映像の編集を行う。
【0005】
音声データの編集処理については、まず、音声データ変換・抽出部2により、MPEG2−TSデータファイル1からMPEG2−TSデータの音声データ部分である音声データパケットを取り出し、それを他のデータ形式(WAVEデータ、PCMデータ)の音声データに変換して抽出し、音声データファイル3に格納する。そして、音声データファイル3から音声データを取りだし、音声データ編集処理部5により編集処理を行い、音声データ出力部7から、その編集した音声データリソースを取り出す。そして、映像に対して音声を合わせるため、同期処理部8の制御により映像データ出力部6と音声データ出力部7を制御し、編集結果を別々のリソースから同期を取りながら出力することにより、インサート編集を行う。
【0006】
つまり、この場合、1つのMPEG2−TSデータを、その映像データと音声データとで別々の編集処理(4,5)を施し、編集した結果を別々のデータリソース(6,7)として、同期(8)を取りながら出力することによりインサート編集を実現している。
【0007】
ところで、このようなインサート編集システムでは、映像データに対して音声データを追加するなどのインサート編集した編集結果は、映像出力と音声出力とが同期を取られて出力されるが、映像出力と音声出力とが別系統の信号となっているため、また、データとしてもデータ量の大きな映像データと音声データに戻っているため、これを1つのデータとしてまとめて、コンパクトなMPEG2−TSデータとして扱えるようにするには、編集結果の映像データと音声データをMPEGデータに再エンコードしなければならない。
【0008】
したがって、MPEG2−TSデータを扱うインサート編集システムでは、映像データ(映像リソース,映像出力)と音声データ(音声リソース,音声出力)を、MPEGデータにエンコードするエンコード処理部を設けている。
【0009】
図2は、従来のMPEG2データの編集処理を行うインサート編集システムの別の構成例を示す図である。図2において、10はMPEG2−TSデータファイル、11は音声データ変換・抽出部、12は音声データファイル、13は映像データ編集処理部、14は音声データ編集処理部、15は映像データ出力部、16は音声データ出力部、17は同期処理部、18はエンコード処理部、19は編集されたMPEG2−TSデータファイルである。
【0010】
図2に示すMPEG2データのインサート編集システムは、図1に示したインサート編集システムに対して、映像データ(映像リソース,映像出力)と音声データ(音声リソース,音声出力)を、MPEGデータにエンコードするエンコード処理部を設けた構成となっている。
【0011】
MPEG2データのインサート編集システムは、図2に示すように、MPEG2−TSデータファイル10から取り出されたMPEGデータに対して、映像データの編集処理を、映像データ編集処理部13により行い、同期処理部17の制御によって映像データ出力部15から編集した映像データリソースとして取り出す。また、音声データの編集処理では、音声データ変換・抽出部11により、MPEG2−TSデータファイル10からMPEG2−TSデータの音声データ部分を他のデータ形式(WAVEデータ、PCMデータ)の音声データに変換して抽出し、音声データファイル12に格納する。そして、音声データファイル12から音声データを取り出し、音声データ編集処理部14により編集処理を行い、同期処理部17の制御によって音声データ出力部16から、編集した音声データが音声データリソースとして取り出される。その際、映像に対して音声を合わせて出力するため、同期処理部17は、映像データ出力部15と音声データ出力部16を制御して、映像データと音声データとを同期を取りながら出力し、エンコード処理部18に入力する。エンコード処理部18は、同期して入力された映像データと音声データとをMPEG2データにエンコードして出力し、MPEG2−TSデータファイル19に格納する。
【0012】
【発明が解決しようとする課題】
このように、従来のインサート編集システムにおいては、映像データの編集処理と音声データの編集処理がそれぞれ別に行われ、また、映像データに対して音声データを追加するなどのインサート編集した編集結果は、映像出力と音声出力とが同期を取られて出力されるが、映像出力と音声出力とが別系統の信号となっているため、これを1つのデータとしてまとめて簡易に扱えるようにするには、映像データと音声データを合わせてMPEGデータに再びエンコードしなければならない。
【0013】
MPEGデータへのエンコード処理は映像データと音声データを高度に圧縮するため負荷が重く、多くの処理時間を必要とし、リアルタイムなインサート編集が行えないという問題があった。つまり、MPEGデータの映像データに対して音声データを付加するなどの簡単なインサート編集を行う場合であっても、編集結果の映像出力と音声出力とがそれぞれに別系統の信号となって出力され、これが1つのデータとしてまとめてMPEGデータにするには、再度のエンコード処理を行わなければならず、多くの処理時間を必要とし、リアルタイムなインサート編集が行えないという問題があった。
【0014】
したがって、本発明の目的は、MPEG2データの音声データをリアルタイムに編集することができるMPEG2データインサート編集方法及びシステムを提供することにある。
【0015】
【課題を解決するための手段】
上記のような目的を達成するため、本発明によるMPEG2データインサート編集方法は、MPEG2−TSデータの音声データを編集後に再エンコードの必要のない形式で抽出し、抽出した音声データのパケットデータをまとめて1フレームの単位で編集し、編集した音声データをパケットデータに分解し、分解したパケットデータをMPEG2−TSデータの音声データ部分の対応位置にマージし、MPEG2−TSデータとして同一リソースから出力することを特徴とする。また、本発明によるMPEG2データインサート編集システムのシステム構成としては、MPEG2−TSデータの音声データを編集後に再エンコードの必要のない形式で、例えば、MPEG1 Audio レイヤII−ESデータ形式で抽出する抽出手段と、抽出した音声データを編集する編集手段と、編集した音声データをMPEG2−TSデータの音声データ部分に上書きし、MPEG2−TSデータとして出力する出力手段とを備えたことを特徴とする。
【0016】
本発明によるMPEG2データのインサート編集システムでは、MPEG2のデータ形式を考慮して、MPEG2データにおける音声データ部分のパケットデータを取り出して編集し、処理負荷の多いMPEGデータへのエンコード処理を行うことなく、音声データ部分を編集したMPEG2データを出力する。これにより、リアルタイムでのインサート編集が可能となる。
【0017】
つまり、抽出手段が、MPEG2−TSデータの音声データをMPEG1 Audio レイヤII−ESデータ形式で抽出し、編集手段により、抽出した音声データを編集し、出力手段により、編集した音声データをMPEG2−TSデータの音声データ部分に上書きし、MPEG2−TSデータとして出力する。これにより、MPEG2データの音声データ部分をMPEGデータ形式で抽出し編集処理を施し、編集結果をその都度MPEG2データとして同一リソースから出力することができる。
【0018】
【発明の実施の形態】
以下、本発明を実施する場合の一形態について、図面を参照して具体的に説明する。本発明によるインサート編集システムで扱うデータは、MPEG2のデータ形式によるデータである。具体的に、MPEG2データ形式は、MPEG2−TSのGOP=1または2を前提としている。
【0019】
図3は、本発明の一実施例のMPEGデータの編集処理を行うインサート編集システムの構成を示す図である。図3において、20はMPEG2−TSデータファイル、21は音声データ抽出部、22は「MPEG1 Audio」の音声データファイル、23は映像データ編集処理部、24は音声データ編集処理部、25はマージ処理部、26は編集されたMPEG2−TSデータファイル、27は出力処理部である。
【0020】
編集されるMPEG2−TSデータは、図3に示すように、MPEG2−TSデータファイル20から取り出され、映像データ編集処理部23において、必要であれば、MPEGデータの映像データのフレーム画像に対して、映像データの編集処理を行う。この場合、例えば、映像データ編集処理部23では、映像データのフレーム画像をモニタ画面等に表示して映像データの編集を行う。
【0021】
音声データの編集処理は、音声データ抽出部21により、MPEG2−TSデータファイル1からMPEG2−TSデータの音声データ部分である音声データパケットを取り出す。ここでは、取り出した音声データは、他のデータ形式(WAVEデータ、PCMデータ)の音声データには変換しないので、取り出したMPEG2−TSデータの音声データ部分は、「MPEG1 Audio」音声データのパケットデータとなっている。そのパケットデータを順に並べて、例えば、ヘッダ部分を除き、「MPEG1 Audio」音声データとし、同期ワードによる区別される音声データの1フレーム部分を判定するため、音声データファイル22に格納する。後述するように、音声データの1フレームが復号可能な最小単位となっているため、同期ワードにより1フレームの音声データを判別して、音声データをフレーム単位で復号して、必要に応じて音声データの編集処理を行う。
【0022】
つまり、音声データの編集処理では、音声データ編集処理部24により、音声データファイル22から音声データを取り出し、同期ワードにより1フレーム単位の音声データを判別して、その音声データをフレーム単位で復号して、必要に応じて音声データの編集処理を行う。そして、音声データ編集処理部24では、再び、編集された音声データに対して符号化し、ヘッダ部分を付加し、「MPEG1 Audio」音声データのパケットデータとして、パケットデータに分解して、マージ処理部25により映像データ部分のパケットデータの対応位置に上書きしてマージする。これにより、そのままインサート編集されたMPEG2−TSデータとなる。編集されたMPEG2−TSデータは、編集結果を格納するMPEG2−TSデータファイル26に格納され、MPEG2−TSデータをデコードして再生する出力処理部27によって再生される。これにより、インサート編集された映像出力および音声出力が得られる。ここでのインサート編集処理では、多くの負荷のかかるMPEG2データへのエンコード処理は行っておらず、リアルタイム編集が可能となる。
【0023】
図4は、本発明の実施例に関係したMPEG2のデータ形式を説明する図である。図4を参照して説明する。前述したように、本発明で適用するMPEG2データ形式は、MPEG2−TSのGOP=1または2を前提とする。
【0024】
MPEG2−TSデータは、図4に示すように、映像データストリーム30および音声データストリーム31が、それぞれ188バイト単位のパケット(TSパケット)に分割され、更に多重化されている。映像データの1フレーム32は、複数個のTSパケットから構成されており、1フレームのデータ区切りは、必ずTSパケットの区切りと一致する。
【0025】
これに対し、音声データの1フレーム33のデータ区切りは、ほとんどの場合TSパケットの区切りとは一致しない。音声データの1フレーム33が復号可能な最小単位となっているが、これは同期ワードにより区別され、したがって、音声データの編集を行うには、同期ワードにより1フレームの音声データを判別して、音声データをフレーム単位で復号して、必要に応じて音声データの編集処理を行う。
【0026】
MPEG2−TSデータの映像データの1フレーム32のデータサイズは、ピクチャ(画像)のタイプ(Iピクチャ,Pピクチャ)によって大きく異なる(可変長)が、これに対して、音声データは、サンプリング周波数を高くして高品質にしてもデータの性質からデータ量がそれほど多くならず、音声データの1フレーム33のデータサイズは、固定長となっている。
【0027】
図5は、本発明によるMPEG2−TSデータのインサート編集方法を説明する図である。このMPEG2−TSデータのインサート編集方法によると、図5に示すように、MPEG2−TSデータを格納しているMPEG2ファイル40から、MPEG2−TSデータの音声データだけを抽出し、MPEG1 Audio レイヤII−ESファイル42に格納し、抽出した音声データに対して、必要に応じて復号化して音声信号として、他の音声リソースとマージするなどの編集処理を施し、映像の1フレームに対応した1フレーム分(約1/30秒)の音声データ43とする。この音声データをパケットデータとして分解し、MPEG2−TSデータにおける音声データのパケットデータに差し替えるマージ処理を行う。編集の結果は、その都度、MPEG2−TSデータとして同一リソースから出力する。ここでは、MPEG2−TSデータにおける音声データのパケットデータに差し替えるため、その映像データおよび音声データのパケットデータサイズが管理される。ここでは、映像をベースとした1フレーム単位のデータサイズを、データサイズ管理ファイル41を用いて管理する。ここで管理されているデータサイズを参照して、MPEG2−TSデータから、その音声データ部分のパケットのみを順次に差し替え、その都度、MPEG2−TSデータとして同一リソースから出力させる。
【0028】
すなわち、ここでのMPEG2データのインサート編集方法では、MPEG2−TSデータの音声データを抽出し、抽出した音声データのパケットデータをまとめて1フレームの単位で編集し、編集した音声データをパケットデータに分解し、このパケットデータをMPEG2−TSデータの音声データ部分の対応位置にマージし、MPEG2−TSデータとして同一リソースから出力するようにして、インサート編集を行う。この編集処理においても、MPEG2データを作成するエンコード処理は必要なく、リアルタイムにインサート編集が行える。
【0029】
図6は、本発明によるMPEG2−TSデータのインサート編集処理の処理フローを示すフローチャートである。図6を参照して説明する。
【0030】
ここでのインサート編集処理では、まず、編集するMPEG2データに対し、編集を行うため、再生指示が行われた部分の該当データを抽出する(ステップ51)。次に、映像データについては、映像をベースとした1フレーム単位のデータサイズを管理しているデータサイズ管理ファイル41を解析して、そのデータサイズを得る(ステップ52)。そして、MPEG2ファイル40から該当する1フレーム分のMPEG2−TSのデータを取得する(ステップ53)。
【0031】
次に、音声データついては、MPEG1 Audio レイヤII−ESファイル42から、該当する約1/30秒分(映像の1フレームに対応する)のMPEG1 Audio レイヤII−ESのデータを取得する(ステップ54)。そして、MPEG2ファイル40から取得したMPEG2−TSの音声パケットを、MPEG1 Audio レイヤII−ESファイル42から取得した音声パケットと入れ替えて、MPEG2データを再編成する(ステップ55)。続いて、再編成したMPEG2データを同一リソースから出力する(ステップ56)。
【0032】
【発明の効果】
以上、説明したように、本発明のMPEG2データインサート編集方法及びシステムによれば、MPEG2データの音声データ部分を抽出し編集処理を施し、編集結果をその都度、MPEG2データとして同一リソースから出力することで、音声データのインサート編集を実現する。これにより、MPEG2データのインサート編集をリアルタイムで行うことができる。
【図面の簡単な説明】
【図1】従来におけるMPEGデータの編集処理を行うインサート編集システムの構成の一例を示す図、
【図2】従来のMPEG2データの編集処理を行うインサート編集システムの別の構成例を示す図、
【図3】本発明の一実施例のMPEGデータの編集処理を行うインサート編集システムの構成を示す図、
【図4】本発明の実施例に関係したMPEG2のデータ形式を説明する図、
【図5】本発明によるMPEG2−TSデータのインサート編集方法を説明する図、
【図6】本発明によるMPEG2−TSデータのインサート編集処理の処理フローを示すフローチャートである。
【符号の説明】
1…MPEG2−TSデータファイル、
2…音声データ変換・抽出部、
3…音声データファイル、
4…映像データ編集処理部、
5…音声データ編集処理部、
6…映像データ出力部、
7…音声データ出力部、
8…同期処理部
10…MPEG2−TSデータファイル、
11…音声データ変換・抽出部、
12…音声データファイル、
13…映像データ編集処理部、
14…音声データ編集処理部、
15…映像データ出力部、
16…音声データ出力部、
17…同期処理部、
18…エンコード処理部、
19…編集されたMPEG2−TSデータファイル
20…MPEG2−TSデータファイル、
21…音声データ抽出部、
22…「MPEG1 Audio」の音声データファイル、
23…映像データ編集処理部、
24…音声データ編集処理部、
25…マージ処理部、
26…編集されたMPEG2−TSデータファイル、
27…出力処理部、
30…映像データストリーム、
31…音声データストリーム、
32…映像の1フレーム、
33…音声の1フレーム、
40…MPEG2−TSデータファイル、
41…データサイズ管理ファイル、
42…MPEG1 Audio レイヤII−ESファイル、
43…音声の1フレーム。

Claims (3)

  1. MPEG2−TSデータの音声データを編集後に再エンコードの必要のない形式で抽出し、
    抽出した音声データのパケットデータをまとめて1フレームの単位で編集し、
    編集した音声データをパケットデータに分解し、
    分解したパケットデータをMPEG2−TSデータの音声データ部分の対応位置にマージし、
    MPEG2−TSデータとして同一リソースから出力する
    ことを特徴とするMPEG2データのインサート編集方法。
  2. MPEG2−TSデータの音声データを編集後に再エンコードの必要のない形式で抽出する抽出手段と、
    抽出した音声データを編集する編集手段と、
    編集した音声データをMPEG2−TSデータの音声データ部分にマージして、MPEG2−TSデータとして出力する出力手段と
    を備えたことを特徴とするMPEG2データのインサート編集システム。
  3. 請求項2に記載のMPEG2データのインサート編集システムにおいて、
    前記抽出手段は、MPEG2−TSデータの音声データは、MPEG1 Audio レイヤII−ESデータ形式で抽出する
    ことを特徴とするMPEG2データのインサート編集システム。
JP9106199A 1999-03-31 1999-03-31 Mpeg2データのインサート編集方法及びシステム Expired - Lifetime JP3552945B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9106199A JP3552945B2 (ja) 1999-03-31 1999-03-31 Mpeg2データのインサート編集方法及びシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9106199A JP3552945B2 (ja) 1999-03-31 1999-03-31 Mpeg2データのインサート編集方法及びシステム

Publications (2)

Publication Number Publication Date
JP2000287178A JP2000287178A (ja) 2000-10-13
JP3552945B2 true JP3552945B2 (ja) 2004-08-11

Family

ID=14015999

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9106199A Expired - Lifetime JP3552945B2 (ja) 1999-03-31 1999-03-31 Mpeg2データのインサート編集方法及びシステム

Country Status (1)

Country Link
JP (1) JP3552945B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8532468B2 (en) 2005-03-18 2013-09-10 Fujitsu Limited Moving image data editing apparatus, moving image data reproducing apparatus, moving image data editing method, and moving image data reproducing method

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60143106D1 (de) 2000-07-17 2010-11-04 Fujifilm Corp Lichtemittierendes Element und Azolverbindung
CN105981397B (zh) * 2014-02-10 2020-06-16 杜比国际公司 将编码音频嵌入到传输流中以供用于完美拼接

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8532468B2 (en) 2005-03-18 2013-09-10 Fujitsu Limited Moving image data editing apparatus, moving image data reproducing apparatus, moving image data editing method, and moving image data reproducing method

Also Published As

Publication number Publication date
JP2000287178A (ja) 2000-10-13

Similar Documents

Publication Publication Date Title
US6339760B1 (en) Method and system for synchronization of decoded audio and video by adding dummy data to compressed audio data
KR100750520B1 (ko) 부호화 스트림 생성 장치 및 방법, 데이터 전송 시스템 및 방법, 편집 시스템 및 방법
CN1829333B (zh) 产生要记录的信息信号的方法
JP4450021B2 (ja) 記録再生装置、記録装置、再生装置、記録方法、再生方法およびコンピュータプログラム
JP2001036844A (ja) 画質確認装置、画質確認方法及びそのプログラムを記録した記録媒体
CN101150740B (zh) 回放方法和回放设备
JP2002501702A (ja) ビデオ及び音声信号処理
WO2020215454A1 (zh) 一种屏幕录制的方法、客户端和终端设备
US6754273B1 (en) Method for compressing an audio-visual signal
JP2002521882A (ja) 符号化データを分離多重する装置
JP3552945B2 (ja) Mpeg2データのインサート編集方法及びシステム
JPH1118051A (ja) Iフレーム抽出方法
JP2000078531A (ja) オ―ディオデ―タ編集方法、編集システム
US20050069289A1 (en) Transport stream recording/editing device and recording/editing method
US9113150B2 (en) System and method for recording collaborative information
CN109218849A (zh) 一种直播数据的处理方法、装置、设备和存储介质
JP2000278643A (ja) データ変換装置
KR100240331B1 (ko) 디코더 시스템의 비디오/오디오 동기화 장치
JP4154799B2 (ja) 圧縮動画像編集装置および記憶媒体
JP4764707B2 (ja) 番組単位分離装置、及び番組単位分離プログラム
JP3944845B2 (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JPH10174065A (ja) 画像音声多重化データ編集方法およびその装置
JP3749216B2 (ja) デジタル映像音声記録装置
JP4725675B2 (ja) 記録再生装置、記録装置、再生装置、記録方法、再生方法およびコンピュータプログラム
JPH08329605A (ja) デイジタルオーデイオ信号処理方法、デイジタルオーデイオ信号処理装置及び記録再生装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040427

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160514

Year of fee payment: 12

EXPY Cancellation because of completion of term