JP3730332B2 - マルチメディア多重化通信システム - Google Patents

マルチメディア多重化通信システム Download PDF

Info

Publication number
JP3730332B2
JP3730332B2 JP24563296A JP24563296A JP3730332B2 JP 3730332 B2 JP3730332 B2 JP 3730332B2 JP 24563296 A JP24563296 A JP 24563296A JP 24563296 A JP24563296 A JP 24563296A JP 3730332 B2 JP3730332 B2 JP 3730332B2
Authority
JP
Japan
Prior art keywords
media data
transmission
transmission path
image
designation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24563296A
Other languages
English (en)
Other versions
JPH1070621A (ja
Inventor
久貴 中嶋
英二 横川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Priority to JP24563296A priority Critical patent/JP3730332B2/ja
Publication of JPH1070621A publication Critical patent/JPH1070621A/ja
Application granted granted Critical
Publication of JP3730332B2 publication Critical patent/JP3730332B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Time-Division Multiplex Systems (AREA)
  • Communication Control (AREA)
  • Telephonic Communication Services (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、複数の伝送路によりマルチメディア通信を行うシステムに関し、特に、各メディアデータに当該メディアデータの伝送に用いる伝送路を指定することができるマルチメディア多重化通信システムに関する。
【0002】
【従来の技術】
テレビ会議システムやテレビ電話システムでは、例えば図6に示すように、画像、音声、文字といった複数種類のメディアデータを均等な割合で多重化してISDN回線伝送路50のBチャネル51(64Kbps)を介して伝送する。この場合、画像と音声と文字とをそれぞれ仮想的に64/3Kbpsの伝送帯域を持つ画像ストリーム用帯域52、音声ストリーム用帯域53、文字ストリーム用帯域54を介して伝送することと等価となる。
【0003】
【発明が解決しようとする課題】
しかしながら、上記のようなシステムでは、単一の伝送路を用いて複数のメディアデータを多重化して伝送するため、各メディアデータをそれぞれ別個の伝送路により伝送する場合に比して、各メディアデータ毎に割り当てられる伝送帯域が少なくなり、その結果、各メディアデータ毎の伝送量が制限されてしまう。このため、例えば動画像は一部のフレームを駒落しして伝送することになり、再生されるメディア情報の品質が低下してしまうという不具合があった。
【0004】
また、例えば画像と音声と文字とを伝送する際に画像については特に高品質で伝送を行いたいといった、伝送対象のメディアデータの内の或るメディアデータについては特に伝送品質を高レベルに保持したいという状況が生じることがある。しかしながら、単一の伝送路により伝送を行う従来のシステムでは、このような必要性を満たすことができず、また、マルチメディア通信における種々な状況に対応することができなかった。
【0005】
本発明は、このような従来の課題を解決するためになされたもので、複数種類のメディアデータを伝送するに際して、メディアデータの種類や量等に応じて、これらメディアデータを指定した組合せで多重化して単一の伝送路により伝送するか、或いは、それぞれの伝送路により伝送するかを指定することを可能ならしめ、これにより、伝送されるメディア情報の品質低下を防止することができるマルチメディア多重化通信システムを提供することを目的とする。
【0006】
また、本発明は更に、各メディアデータと当該メディアデータの伝送に用いる伝送路との割り当て関係を任意に変更することを可能にして、種々な使用状況に応じてシステム設定を変更することができるマルチメディア多重化通信システムを提供することを目的とする。
【0007】
【課題を解決するための手段】
上記目的を達成するため、本発明に係るマルチメディア多重化通信システムは、送信側装置に、入力手段と、指定手段と、多重化手段と、送信手段と、を備え、受信側装置に、管理手段と、受信手段と、分離手段と、出力手段と、を備えている。これらの手段により、例えば画像と音声と文字とを伝送対象とする場合には、送信側装置では、入力手段が画像と音声と文字とを入力し、指定手段が画像と文字とに同一のISDN回線を指定するとともに音声に電話回線を指定すると、多重化手段が画像と文字とを多重化して多重化ストリームを生成し、送信手段が生成された多重化ストリームをISDN回線を介して送信するとともに、音声を電話回線を介して送信する。
【0008】
受信側装置では、管理手段が送信側装置に対応して各メディアデータと伝送路との割り当て関係を管理し、受信手段が各伝送路を介して多重化ストリームと音声とを受信して、分離手段が、前記管理手段により管理された伝送路割り当て関係に従って、多重化ストリームを分離して元の画像と文字とを再構成する。そして、出力手段が分離再構成された画像と文字及び受信された音声とを再生出力する。従って、複数の伝送路により複数種類のメディアデータを伝送する際に、送信対象となるメディアデータの種類や量等に応じてこれら伝送路を使い分けることができる。
【0009】
また、本発明に係るマルチメディア多重化通信システムは、送信側装置に更に指定テーブルと変更手段とを備えていてもよく、この場合には、指定テーブルが各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係を規定し、指定手段は指定テーブルに規定された伝送路割り当て関係に従って各メディアデータに伝送路を割り当てる。また、変更手段が指定テーブルを任意に変更することを可能にして、種々な使用状況に応じてシステム設定を変更することができる。
【0010】
【発明の実施の形態】
本発明に係る一実施例を図面を参照して説明する。
図1には、本発明に係るマルチメディア多重化通信システムを構成する通信装置の一例を示してある。この通信装置1は送信側装置と受信側装置との機能を一体化して有しており、伝送路として用いられるISDN回線2及び、n本の電話回線T1〜Tnから成る電話回線網3とが接続されている。本発明に係るマルチメディア多重化通信システムは上記構成の通信装置1を複数備え、これら通信装置1をISDN回線2及び電話回線網3で互いに接続することにより構成されている。なお、本例では、これらの装置1により画像と音声と文字とを適宜多重化して伝送する。
【0011】
通信装置1には、画像を入出力する画像入出力装置10と、音声を入出力する音声入出力装置12と、文字を入出力する文字入出力装置14と、画像を符号化或いは復号化する画像CODEC11と、音声を符号化或いは復号化する音声CODEC13と、文字を符号化或いは復号化する文字CODEC15と、各メディアデータを多重化或いは分離する多重化・分離装置16と、データを送受信するとともに符号変換及び変復調等を行う送受信装置17と、これらの装置を統括制御する主制御装置18と、後述する指定テーブル20及び管理テーブル22を変更する変更装置19とが備えられている。
【0012】
画像入出力装置10は送信処理の際にビデオカメラ等によりアナログ画像を入力して、A/D変換、各種補正、画像サイズ変換等を施した後に、変換されたデジタル画像データを画像CODEC11へ出力する。また、受信処理の際に画像CODEC11から入力されたデジタル画像データをD/A変換、各種補正、画像サイズ変換等によりアナログ画像として液晶ディスプレイ等により表示出力する。ここで、送信処理の際にデジタル画像を入力する場合又は受信処理の際にデジタル画像を出力する場合には、上記A/D変換又はD/A変換を行う必要はない。
【0013】
画像CODEC11は送信処理の際に画像入出力手段10から入力されたデジタル画像データをモーションJPEG、H.261、MPEG等の圧縮方式により符号化して多重化・分離装置16へ出力する。また、受信処理の際に多重化・分離装置16から入力された圧縮画像データを送信処理において施された圧縮方式に対応した伸長方式により復号化して画像入出力装置10へ出力する。なお、上記符号化の方式については「最新MPEG教科書 藤原洋監修 アスキー社」に詳述されている。
【0014】
また、音声と文字についても、上記した画像の入出力及び符号化・復号化処理と同様に、音声入出力装置12がマイクやスピーカ等により音声を入出力し、文字入出力装置14がキーボードや液晶ディスプレイ等により文字を入出力し、音声CODEC13及び文字CODEC15がそれぞれ音声又は文字を符号化・復号化する。
【0015】
主制御装置18は、各種演算等の処理を行うCPUと、処理プログラムを格納したROMと、CPUによる各種処理やデータ格納領域として用いられるRAMとを有しており、これらROMやRAMには、送信処理の際に各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係を規定する指定テーブル20と、受信処理の際に各メディアデータと当該メディアデータの送信に用いた伝送路との割り当て関係を管理する管理テーブル22とが格納されている。
【0016】
ここで、指定テーブル20や管理テーブル22は、例えば図2に示すように、送信対象のメディアデータ(画像、音声、文字)及び伝送路(ISDN回線2、電話回線T1〜Tn)をそれぞれ縦と横に並べて、○印により各メディアデータと伝送路との割り当て関係を規定するテーブルである。なお、同図に示したテーブルでは、画像にISDN回線2を指定し、音声に電話回線T1を指定し、文字にISDN回線2を指定している。ここで、複数の通信装置1の間でデータの送受信を行う場合には、送信側の通信装置1に備えられた指定テーブル20の内容と、受信側の通信装置1に備えられた管理テーブル22の内容とは、対応付けられており、これによって、指定された伝送路を介して送信されたデータを受信側の装置1で受信することができる。
【0017】
また、指定テーブル20や管理テーブル22は、変更装置19に備えられたディスプレイ25上に表示され、キーボード等の入力手段24により書き換えることができる。そして、ディスプレイ25上でそれらのテーブルが書き換えられた場合には、変更装置19が各テーブルに対応した変更フラグを主制御装置18へ出力し、主制御装置18が変更フラグを検出すると、格納されている指定テーブル20又は管理テーブル22を変更内容に従って変更する。
【0018】
また、主制御装置18は、送信処理の際に指定テーブル20に従って各メディアデータに伝送路を指定する指定手段21と、受信処理の際に管理テーブル22に従って各メディアデータに伝送路を指定する管理手段23とを備えている。
【0019】
次に、多重化・分離装置16及び送受信装置17により行われるメディアデータの多重化及び送信処理を図3に示すフローチャートを用いて説明する。ここで、指定テーブル20は初期状態として図2に示したものであるとし、画像と文字とを多重化してISDN回線2を介して伝送し、音声を電話回線T1を介して伝送する。
【0020】
まず、多重化・分離装置16に画像と音声と文字とがそれぞれ画像CODEC11、音声CODEC13、文字CODEC15から入力される(ステップS1)。
次に、主制御装置18が変更装置19から指定テーブルの変更要求を示す変更フラグが入力されているかを確認し(ステップS2)、変更フラグが検出されなかった場合には、指定手段21が図2に示した内容の指定テーブル20を参照する(ステップS3)。
【0021】
次いで、指定手段21が指定テーブル20に従って画像と文字とに同一のISDN回線2を指定するとともに音声に電話回線T1を指定すると、画像と文字とについては多重化・分離装置16がそれぞれ適当なデータ量毎に分割して、それらを例えば均等な割合で多重化して多重化ストリームを生成し、生成した多重化ストリーム及び音声を送受信装置17へ出力する(ステップS4)。
【0022】
次いで、指定手段21による伝送路の指定に従って、図4に示すように、送受信装置17が多重化・分離装置16から入力された多重化ストリームをISDN回線2を介して送信するとともに、音声を電話回線T1を介して送信する(ステップS5)。同図では、画像と文字とはISDN回線2のBチャネル31(64Kbps)を介して、それぞれ仮想的に32Kbpsの伝送帯域を持つ画像ストリーム用帯域32及び文字ストリーム用帯域33により送信され、音声は電話回線T1(3、4Kbps)の音声ストリーム用帯域41により送信されている。
【0023】
以上のように、送信対象となる各メディアデータの種類や量等に応じて各メディアデータの伝送に用いる伝送路を指定することにより、伝送されるメディア情報の品質低下を防止することができる。
【0024】
一方、上記変更フラグ検出処理(ステップS2)において、指定テーブルの変更要求を示す変更フラグが主制御装置18により検出された場合には、主制御装置18が指定テーブルの変更内容に従って指定テーブル20を変更し(ステップS6)、指定手段21が変更後の指定テーブル20を参照する(ステップS3)。
【0025】
ここで、指定テーブル20の変更として、例えば画像については特に高品質で伝送したく、画像のみをISDN回線2を介して伝送したいという必要性に対応して、図5に示すように、文字には電話回線Tnを割り当てるように指定テーブル20を変更したとする。
【0026】
この結果、指定手段21が指定テーブル20に従って画像と音声と文字とにそれぞれ別個の伝送路を指定し、多重化・分離装置16がそれらのいずれをも多重化せずに送受信装置17へ出力する(ステップS4)。
そして、指定手段21による伝送路の指定に従って、送受信装置17が多重化・分離装置16から入力された画像と音声と文字とをそれぞれISDN回線2、電話回線T1、電話回線Tnを介して送信する(ステップS5)。
【0027】
以上のように、送信対象のメディアデータの内の或るメディアデータについては例えば特に高品質で伝送したいといった必要性がある場合には、この要求を満たすように各メディアデータに伝送路を指定してマルチメディア伝送を行うことができる。
【0028】
次に、送受信装置17及び多重化・分離装置16により行われるメディアデータの受信及び分離処理を、上記した多重化及び送信処理と同様に、図3に示したフローチャートを用いて説明する。本例では、初期の状態として、送信側装置から図2に示した指定テーブル20に従って送信された画像と音声と文字とを受信側装置において受信して分離処理を行う。このため、管理テーブル22には予め、指定テーブル20と同様に、図2に示した各メディアデータと伝送路との割り当て関係が規定されている。
【0029】
まず、送受信装置17が画像と文字との多重化ストリームをISDN回線2を介して受信するとともに、音声を電話回線T1を介して受信し、それらを多重化・分離装置16へ出力する(ステップS1)。
次に、主制御装置18が変更装置19から管理テーブルの変更要求を示す変更フラグが入力されているかを確認し(ステップS2)、変更フラグが検出されなかった場合には、管理手段23が図2に示した内容の管理テーブル22を参照する(ステップS3)。
【0030】
次いで、管理手段23が管理テーブル22に従って画像と文字とに同一のISDN回線2が指定されていることを判定するとともに音声に電話回線T1が指定されていることを判定すると、画像と文字とについては多重化・分離装置16が入力された多重化ストリームから元の画像と文字とを分離再構成し(ステップS4)、これら分離再構成された画像と文字とをそれぞれ画像CODEC11及び文字CODEC15へ出力するとともに、入力された音声を音声CODEC13へ出力する(ステップS5)。
【0031】
以上のように、受信側装置では、送信側装置から指定された伝送路を介して送信されてきた複数種類のメディアデータを受信して、多重化されているメディアデータについてはそれら各メディアデータを分離再構成することができる。
【0032】
一方、上記変更フラグ検出処理(ステップS2)において、管理テーブル22の変更要求を示す変更フラグが主制御装置18により検出された場合には、主制御装置18が管理テーブルの変更内容に従って管理テーブル22を変更し(ステップS6)、その後、変更された管理テーブル22に従って、ステップS3、S4、S5の処理が行われる。このように、受信側装置では、送信側装置に対応して各メディアデータと伝送路との割り当て関係を変更することができる。
【0033】
ここで、上記実施例では、画像として、ビデオカメラ等により動画像を入力したが、スチルカメラ等により静止画像を入力してもよい。
また、上記実施例では、画像、音声、文字の3種類のメディアデータを伝送したが、伝送対象とされるメディアデータの種類や数としては特に限定はなく、例えばファクシミリ等の任意のメディアが伝送対象とされてよく、また、同種類のメディアが2つ以上含まれていてもよい。
【0034】
また、上記実施例では、伝送路として、ISDN回線と電話回線を用いたが、用いられる伝送路の種類としては特に限定はなく、専用線やB−ISDN回線や無線等の任意の伝送路が用いられてよく、また、その数としても2つ以上であれば特に限定はなく、本例のように同種類の伝送路が複数用いられてもよい。
【0035】
また、本例のように2つのメディアデータを多重化して単一の伝送路により伝送するばかりでなく、3つ以上のメディアデータを多重化して単一の伝送路により伝送してもよい。
【0036】
また、上記実施例では、指定テーブルや管理テーブルの変更を、主制御装置が変更装置から入力された変更フラグを検出することにより行ったが、これらテーブルの変更は、変更装置により主制御装置に格納されている各テーブルを直接的に書き換えることにより行われてもよく、要は、指定テーブルや管理テーブルを任意に変更することができる装置構成であればよい。
【0037】
また、上記実施例では、管理手段が管理テーブルを管理することにより受信処理における各メディアデータと伝送路との割り当て関係を管理したが、この管理方法は任意であり、例えば送信処理において送信するデータに指定した伝送路の識別情報を付しておき、受信処理においてこの識別情報を管理手段が検出することにより各メディアデータと伝送路との割り当て関係を管理することもできる。
【0038】
また、上記実施例では、送信側装置と受信側装置とを通信装置として一体化した例を示したが、送信側装置と受信側装置とをそれぞれ別体の単一機能装置として構成することも可能である。
【0039】
また、画像等のデータ通信を行う場合には一般的に、伝送するデータ量を減少させるためにデータに圧縮伸長処理を施すことから、本例においてもデータの圧縮伸長処理を行ったが、この処理は必ずしも行われなくてもよい。
【0040】
また、本発明は、伝送中であっても送信対象のメディアデータのデータ量の変動に応じて各メディアデータに伝送路を指定することができるため、伝送中に或るメディアデータのデータ量が変動した場合であっても、そのデータ量変動に応じて各メディアデータに適当な伝送帯域が割り当てられるように伝送路を指定することもできる。
【0041】
【発明の効果】
以上説明したように、本発明に係るマルチメディア多重化通信システムによると、複数種類のメディアデータを伝送するに際して、メディアデータの種類や量等に応じて、これらメディアデータを指定した組合せで多重化して単一の伝送路により伝送するか、或いは、それぞれの伝送路により伝送するかを指定することができ、これにより、伝送されるメディア情報の品質低下を防止することができる。
また、本発明によると、各メディアデータと当該メディアデータの伝送に用いる伝送路との割り当て関係を任意に変更することができるため、マルチメディア通信における種々の状況に応じてシステム設定を変更することができる。
【図面の簡単な説明】
【図1】本発明の一実施例に係るマルチメディア多重化通信システムの構成図である。
【図2】本発明の一実施例に係る指定テーブルの概念図である。
【図3】マルチメディアデータの多重化・分離処理手順を示すフローチャートである。
【図4】本発明の一実施例に係る伝送路の概念図である。
【図5】本発明の一実施例に係る指定テーブルの概念図である。
【図6】従来のマルチメディア伝送システムの一例に係る伝送路の概念図である。
【符号の説明】
1・・通信装置、 2・・ISDN回線、 3・・電話回線網、
10・・画像入出力装置、 11・・画像CODEC、
12・・音声入出力装置、 13・・音声CODEC、
14・・文字入出力装置、 15・・文字CODEC、
16・・多重化・分離装置、 17・・送受信装置、
18・・主制御装置、 19・・変更装置、
20・・指定テーブル、 21・・指定手段、
22・・管理テーブル、 23・・管理手段、
24・・入力手段、 25・・テーブル表示手段、

Claims (2)

  1. 送信側装置により複数の伝送路を介して複数種類のメディアデータを送信し、受信側装置により受信したメディアデータを再生するマルチメディア多重化通信システムにおいて、
    送信側装置には、送信対象となる複数種類のメディアデータを入力する入力手段と、入力された各メディアデータの送信に用いる伝送路を指定する指定手段と、指定手段により1つの伝送路が複数のメディアデータに割り当てられたことに基づいて当該複数のメディアデータを多重化する多重化手段と、入力手段から入力されたメディアデータ及び多重化手段により多重化されたメディアデータを指定手段による指定に従った伝送路へ送信する送信手段と、を備え、
    受信側装置には、各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係を送信側装置に対応して管理する管理手段と、伝送路からメディアデータを受信する受信手段と、前記割り当て関係で1つの伝送路が複数メディアデータに割り当てられていることに基づいて受信手段により受信したデータを各メディア毎のデータに分離する分離手段と、受信手段により受信されたメディアデータ又は分離手段により分離された各メディアデータを再生成する出力手段と、
    を備えたことを特徴とするマルチメディア多重化通信システム。
  2. 請求項1に記載のマルチメディア多重化通信システムにおいいて、
    送信側装置は各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係を規定する指定テーブルと、指定テーブルに規定された各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係を変更する変更手段と、を更に備え、
    指定手段は指定テーブルに規定された各メディアデータと当該メディアデータの送信に用いる伝送路との割り当て関係に従って各メディアデータに伝送路を割り当てることを特徴とするマルチメディア多重化通信システム。
JP24563296A 1996-08-28 1996-08-28 マルチメディア多重化通信システム Expired - Fee Related JP3730332B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP24563296A JP3730332B2 (ja) 1996-08-28 1996-08-28 マルチメディア多重化通信システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24563296A JP3730332B2 (ja) 1996-08-28 1996-08-28 マルチメディア多重化通信システム

Publications (2)

Publication Number Publication Date
JPH1070621A JPH1070621A (ja) 1998-03-10
JP3730332B2 true JP3730332B2 (ja) 2006-01-05

Family

ID=17136557

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24563296A Expired - Fee Related JP3730332B2 (ja) 1996-08-28 1996-08-28 マルチメディア多重化通信システム

Country Status (1)

Country Link
JP (1) JP3730332B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100359890B1 (ko) * 2000-06-15 2002-11-04 주식회사 컴캐스트 분리수용방식에 의한 안정적 대역폭의 멀티미디어 데이터전송 방법 및 그시스템
JP4543934B2 (ja) * 2005-01-14 2010-09-15 パナソニック株式会社 通信装置、通信システム、及び通信方法
JP4507255B2 (ja) * 2005-04-21 2010-07-21 Kddi株式会社 コンテンツ伝送装置

Also Published As

Publication number Publication date
JPH1070621A (ja) 1998-03-10

Similar Documents

Publication Publication Date Title
US5550593A (en) Multiplex communication system using separated and multiplexed data
US5751694A (en) Methods and apparatus for synchronizing temporally related data streams
CA2205023C (en) Method and system for transmitting facsimile-coded data between communications terminals with multimedia capability
JPH06261017A (ja) マルチメディア通信装置
JP3730332B2 (ja) マルチメディア多重化通信システム
JP2002290973A (ja) マルチメディア通信装置
US5774173A (en) Video-telephone answering set that stores a single picture of video message information
JPH07288510A (ja) 映像音声伝送システム
JPH04129466A (ja) マルチメディア通信装置
KR100203271B1 (ko) 화상전화기의 오디오코덱 비트레이트 자동조절장치
JPH11177436A (ja) データ通信装置
JPH06216779A (ja) 通信装置
JP3176946B2 (ja) マルチメディア通信装置及びマルチメディア情報の通信方法
JPH01238238A (ja) 加入者線多重化チャネル方式
JPH07203071A (ja) マルチメディア通信装置
JPH05111017A (ja) テレビ電話機
JPH07245665A (ja) マルチメディア端末装置
JPH0715728A (ja) 符号化装置およびデータ伝送システム
JP3460353B2 (ja) 画像通信端末装置
JPH09107419A (ja) デジタルデータ通信装置およびデジタルデータ通信方法
JPH0965016A (ja) テレビ電話装置
JPH08130719A (ja) テレビ会議装置
JPH06350725A (ja) テレビ会議システム
JPH06225295A (ja) テレビ電話機
JPH05300503A (ja) 画像通信端末装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051006

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091014

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091014

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101014

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111014

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111014

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121014

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees