JP3719530B2 - 映像信号伝送方法及び映像信号伝送装置 - Google Patents

映像信号伝送方法及び映像信号伝送装置 Download PDF

Info

Publication number
JP3719530B2
JP3719530B2 JP10480095A JP10480095A JP3719530B2 JP 3719530 B2 JP3719530 B2 JP 3719530B2 JP 10480095 A JP10480095 A JP 10480095A JP 10480095 A JP10480095 A JP 10480095A JP 3719530 B2 JP3719530 B2 JP 3719530B2
Authority
JP
Japan
Prior art keywords
data
encoding
encoded
decoding
video signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP10480095A
Other languages
English (en)
Other versions
JPH08280010A (ja
Inventor
茂 吉野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP10480095A priority Critical patent/JP3719530B2/ja
Publication of JPH08280010A publication Critical patent/JPH08280010A/ja
Application granted granted Critical
Publication of JP3719530B2 publication Critical patent/JP3719530B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

【0001】
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術(図13及び図14)
発明が解決しようとする課題(図15)
課題を解決するための手段
作用
実施例
(1)第1実施例
(1−1)システム構成(図1)
(1−2)エンコーダの構成(図2)
(1−3)デコーダの構成(図3)
(1−4)処理
(1−4−1)レートコントロール(図4)
(1−4−2)ビツト量合せ(図4〜図6)
(1−4−3)デコーダバツフア量(図7)
(1−4−4)データストリームの連続(図8)
(1−5)第1実施例の動作
(1−6)第1実施例の効果
(2)第2実施例
(2−1)エンコーダの構成(図10)
(2−2)デコーダの構成(図11)
(2−3)処理
(2−4)第2実施例の動作(図12)
(2−5)第2実施例の効果
(3)他の実施例
発明の効果
【0002】
【産業上の利用分野】
本発明は映像信号伝送方法及びその装置に関し、例えばMPEG(Moving Picture Experts Group)規格に従つて符号化した映像信号を符号化時とは異なる任意の順番で伝送する場合に適用して好適なものである。
【0003】
【従来の技術】
近年、家庭用のビデオテープレコーダやビデオデイスクレコーダで映像を楽しむだけでなく、ユーザがAV(Audio Vidual: 音響・映像)サーバにアクセスすることにより、CATV(ケーブルテレビ)回線や通信回線を介して映像や音声のサービスを好きなときに受けられるビデオ・オン・デマンドが普及しつつある。
【0004】
このようなAVサーバシステムにおいては、デイジタル化した映像信号や音声信号の相関を利用して有意情報を効率的に符号化して記録情報量や伝送情報量を削減することにより、限られた容量の記録媒体や回線を効率良く利用するようになされている。このような映像信号や音声信号の符号化方法として例えばMPEG(Moving Picture Experts Group)規格が提案されている。
【0005】
ところで、MPEGの符号化映像データは、圧縮データであるため、全ての画像に対して同じ圧縮率で符号化すると元の映像信号の絵柄によつてデータの発生レートが異なる。しかし、このデータを回線で送る場合、一定レートとする必要がある。そのために、実際には図13に示すように、符号器の出力側にバツフアを設け(以下、これをエンコーダバツフアと呼ぶ)、このバツフアのデータの占有率に応じて常にバツフア内でデータが変遷するように、エンコーダでの圧縮率を制御することによりほぼ一定レートの符号化データを出力するようになされている(図13の太線の左側)。
【0006】
例えばエンコーダバツフアの占有率が高くなるとエンコーダでの圧縮率を高めて発生データ量を減らし、逆にバツフア占有率が低くなると圧縮率を低くして発生データ量を増やすという制御を行つている。
【0007】
符号化データは、図13の太線のレートでデコーダへ送られる。このときデコーダにはエンコーダ側と同サイズのバツフアが設けられており(以下、これをデコーダバツフアと呼ぶ)、このバツフアに所定量の符号化データを蓄積しながら復号処理を施す。ここでデコーダバツフアをオーバーフロー及びアンダーフローさせないようにデコードするには、デコーダバツフアをエンコーダバツフアと全く同じ状態で変遷させる必要がある(図13の太線の右側)。
【0008】
そのためデコーダ側では、符号化データの入力が始まつてから、図13におけるエンコーダバツフアでの符号化データの蓄積時間(VBV)と同じだけの時間だけ待つてから復号を開始する(以下、これをスタートアツプデイレイ(Start Up Delay)と呼ぶ)。すなわちスタートアツプデイレイとは、デコーダバツフアにデータが入りはじめてから復号を開始するまでの時間を言い、このため時間情報は符号化時に符号化データに書込まれるようになされている。
【0009】
しかしこれだけではエンコーダとデコーダとの動作クロツクが微妙に異なり、その影響でデコーダバツフアが破綻するおそれがある。これを回避するためには、デコーダをエンコーダと完全に一致するクロツクで動作させる必要がある。
このため、MPEGのシステムレイヤでは、図14に示すように、エンコード時に内部クロツクに基づくカウント値を使用したプログラム時刻基準参照値PCRあるいはシステム時刻基準参照値SCR、という時刻基準参照値を符号化データに付加してデコーダへ送つている。デコーダでは、これを参照することによりエンコーダのクロツクと同期したクロツクを生成して復号動作を行う。
【0010】
またエンコーダでは、符号化データに表示タイムスタンプPTSあるいはデコードタイムスタンプDTSを付加し、デコーダ側では、これを見て表示タイムスタンプPCRあるいはデコードタイムスタンプDTSによつて補正された時間情報と一致する時刻にビデオ及びオーデイオデータを復号する。
【0011】
すなわち図14に示すように、エンコーダ側では、ビデオエンコーダ1及びオーデイオエンコーダ2で形成した符号化ビデオデータD1及び符号化オーデイオデータD2をそれぞれビデオデータ処理回路3及びオーデイオデータ処理回路4に送出し、当該ビデオデータ処理回路3及びオーデイオデータ処理回路4において各符号化データにクロツクカウンタ5で生成した表示タイムスタンプPTS及びデコードタイムスタンプDTSを付加する。
【0012】
マルチプレクサ(MUX)6は、表示タイムスタンプPTS及びデコードタイムスタンプDTSが付加された符号化ビデオデータ及び符号化オーデイオデータに、クロツクカウンタ5で生成したシステム時刻基準参照値SCR及びプログラム時刻基準参照値PCRを付加することにより、伝送データD3を形成する。
【0013】
デコーダ側では、デマルチプレクサ(DEMUX)7により伝送データD3を、ビデオデータD4、オーデイオデータD5、システム時刻基準参照値SCR及びプログラム時刻基準参照値PCRに分離し、このうちビデオデータD4をデータ分離回路8に、オーデイオデータD5をデータ分離回路9に、システム時刻基準参照値SCR及びプログラム時刻基準参照値PCRをクロツクカウンタ10にそれぞれ送出する。
【0014】
データ分離回路8はビデオデータD4を符号化ビデオデータD6と表示タイムスタンプPTS及びデコードタイムスタンプDTSとに分離し、符号化ビデオデータD6をビデオデコーダ13に送出すると共に表示タイムスタンプPTS及びデコードタイムスタンプDTSを比較回路11に送出する。同様に、データ分離回路9はオーデイオデータD5を符号化オーデイオデータD7と表示タイムスタンプPTS及びデコードタイムスタンプDTSとに分離し、符号化オーデイオデータD7をオーデイオデコーダ14に送出すると共に表示タイムスタンプPTS及びデコードタイムスタンプDTSを比較回路12に送出する。
【0015】
各比較回路11及び12は、表示タイムスタンプPTS及びデコードタイムスタンプDTSと、クロツクカウンタ10によつてシステム時刻基準参照値SCR及びプログラム時刻基準参照値PCRに基づいて発生した時間情報D8とを比較し、ビデオデコーダ13及びオーデイオデコーダ14にそれぞれ制御信号D9及びD10を送出する。ビデオデコーダ13及びオーデイオデコーダ14はそれぞれ制御信号D9及びD10に基づくタイミングで符号化ビデオデータD6及び符号化オーデイオデータD7を復号することにより、復号ビデオデータD11及び復号オーデイオデータD12を形成する。
【0016】
かくして、MPEG規格では、エンコードに同期したタイミングでデコードを行うことができることによりデコードバツフアの破綻を防止し得るようになされていると共にビデオとオーデイオの同期をとることもできるようになされている。
【0017】
【発明が解決しようとする課題】
ところが、上述したようなデータ構造を持ちかつ別の時間に発生させた2つの符号化データストリームを、連続してデコーダに送つた場合を考えと、2つのデータストリームの接続面の前後では、時間情報も基準時間も違うため、不連続が生じる欠点がある。
【0018】
また符号化データストリームの始めと終わりで、デコーダバツフア内のデータ占有量が異なることにより、デコーダバツフアはオーバーフロー又はアンダーフローを起こし、そのため映像を数フレーム間、フリーズ又はブラツクバースト状態にせざるを得ず、連続的な復号再生ができない問題がある。
【0019】
例えば、図15のような場合、2つの符号化データストリームはそれぞれの発生データの占有量がデコーダバツフア内に収まつているが、発生データ量が目標レートよりも少ないため始めと終わりでバツフア内のデータ占有量が異なる(図15(A)及び(B))。このような2つのデータストリームを連続的に復号しようとすると、単独ではエンコーダバツフア内に収まつていたものが、連続するとオーバーフローしてしまうことが分かる(図15(C))。
【0020】
このように、表示タイムスタンプPTS及びデコードタイムスタンプDTS等の時間情報を用いた従来の方法では、符号化時とは異なる任意の順番で符号化データストリームをデコーダに送出した場合に、これらの符号化データストリームを連続して復号できない問題がある。このため例えばAVサーバシステムのようにユーザの要求に応じて符号化時と異なる順番で符号化データストリームをデコーダに送出する場合や、符号化したデータを編集してデコーダに送出する場合に、デコーダバツフアが破綻して符号化データストリームを連続して復号できない不都合が生じる。
【0021】
例えば放送局等で用いられるCM(コマーシヤル)を送出するシステムでは、複数のCMデータストリームを様々な組み合わせで送出している。このときCMのスポツトは一部でも欠けることは許されない。またニユース番組等でも、同じ素材を幾つかのスポツトで使用する場合が多いため、結果的には複数の素材を組み合わせて送出していることと同等である。
【0022】
従来これらの作業は、それぞれのスポツト毎に素材を一本化又は複数のVTR(ビデオテープレコーダ)とスイツチヤを使用して行つているが、それぞれ時間や人手を要すると共に設備が大規模となりメンテナンスの点でも煩雑な問題があつた。
【0023】
本発明は以上の点を考慮してなされたもので、符号化データストリームを任意の順番で伝送した場合でも、映像を途切らせることなく連続的に復号し得る映像信号伝送方法及び映像信号伝送装置を提案しようとするものである。
【0024】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、符号化レートRで符号化した符号化映像データにダミーデータを付加することにより、単位時間Tcm内のデータ長が一定でなる符号化映像ストリームを形成し、当該符号化映像ストリームを、符号化レートRよりも速い伝送レートR′=(R×Tcm+Bvbv)/Tcmで伝送し、伝送された符号化映像ストリームを、符号化側のバツフアの3倍の容量のバッファを有する復号手段により復号するようにする。
【0025】
また本発明においては、符号化レートRで符号化した映像信号及び音声信号を多重化してなる符号化データにダミーデータを付加することにより、単位時間Tcm内のデータ長が一定でなる符号化データストリームを形成し、当該符号化データストリームを、符号化レートRよりも速い伝送レートR′=(R×Tcm+Bvbv)/Tcmで伝送し、伝送された符号化データストリームを、符号化側のバツフアの3倍の容量のバッファを有する復号手段で復号するようにする。
【0026】
【作用】
ダミーデータが付加されることによりデータ長が一定とされた符号化映像ストリーム又は符号化データストリームが、符号化時のレートよりも速いレートで復号手段のバツフアに入力される。この結果、符号化映像ストリーム又は符号化データストリームを符号化時の順序と異なる任意の順序で復号手段に伝送した場合でも、復号手段のバツフアが破綻することなく連続的に符号化映像ストリーム又は符号化データストリームを復号することができる。
【0027】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0028】
(1)第1実施例
(1−1)システム構成
図1において、20は全体として本発明を適用するAVサーバシステムの構成を示し、ビデオテープレコーダ(VTR)21等でなるデータ供給源22から出力される映像音声データD20をエンコード部23のエンコーダ24に与える。エンコーダ24は映像音声データD20をMPEG2の規格に従つたフオーマツトで符号化することにより符号化データD21を形成し、当該符号化データD21をサーバ部25に送出する。
【0029】
サーバ部25は記録再生部26及びデコーダ部27により構成されており、符号化データD21を、記録再生部26によつて所定の記録媒体に一旦記録すると共にユーザからの要求信号S1に応じて符号化データD21を再生し、再生した符号化データD21をデコーダ部27によつて復号して例えばテレビジヨン受像機でなる端末28A1 〜28AN-1 又は28AN に送出するようになされている。
【0030】
記録再生部26はメデイア制御部29と複数のメデイアユニツト30A1 〜30A7 から構成されており、メデイア制御部29に入力した符号化データD21を何れかのメデイアユニツト30A1 〜30A6 又は30A7 によつてハードデイスク上に記録し、各端末28A1 〜28AN-1 又は28AN からの要求信号S1に応じてメデイアユニツト30A1 〜30A6 又は30A7 を駆動して要求に応じた符号化データを再生する。
【0031】
また各メデイアユニツト30A1 〜30A7 はそれぞれ複数のハードデイスク記録再生装置を内蔵している。このように記録再生部26はそれぞれ複数のハードデイスク記録再生装置を内蔵した複数のメデイアユニツト30A1 〜30A7 を有することにより、多数のユーザ(端末28A1 〜28AN )から同時刻に多数の要求があつた場合でも並列的に複数の符号化データを再生し得るようになされている。
【0032】
デコーダ部27は、端末28A1 〜28AN の数及び記録再生部26が同時刻に再生し得る符号化データの数に応じた個数のデコーダ31A1 〜31AM により構成されており、記録再生部26によつて再生された符号化データを復号して要求があつた端末28A1 〜28AN-1 又は28AN に復号データD22を送出する。
【0033】
なお、AVサーバシステム20においては、データ供給源22による映像音声データD20の送出動作、エンコーダ24の符号化動作及びメデイア制御部29によるメデイアユニツト30A1 〜307 の符号化データD21の記録再生動作をエンコード部23のコントロール部32から出力する制御信号S2及びS3によつて制御する。またコントロール部32はデータ供給源22及びエンコーダ24の動作状態を状態信号S4に基づいて監視すると共に、メデイア制御部29の動作状態を状態信号S5に基づいて監視するようになされている。
【0034】
(1−2)エンコーダの構成
ここでエンコーダ24は、図2に示すように構成されている。エンコーダ24は映像音声データD20のうち映像データD30をビデオエンコーダ部33のビデオ符号化回路34に入力し、ここで符号化ビデオデータD31を形成し、当該符号化ビデオデータD31をスイツチヤ35の端子A及びカウンタ36に与える。またビデオエンコーダ部33はスタツフイングデータ発生回路37で発生したスタツフイングデータD32をスイツチヤ34の端子Bに与える。
【0035】
カウンタ35は符号化ビデオデータD31のデータ量を測定し、所定の目標値に対するデータ量の不足分を算出する。カウンタ36はこの算出結果に応じてスイツチヤ35に切換制御信号S6を送出することにより、データ量の不足分に見合う期間だけスイツチヤ35の接続を端子B側に切り換える。このようにしてビデオエンコーダ部33は符号化ビデオデータD31の目標データ量に対する不足分だけスタツフイングデータD32を付加することにより、続くエンコーダバツフア38に常に単位時間内のデータ長が一定でなる符号化ビデオデータD33を送出するようになされている。
【0036】
エンコーダバツフア38は符号化ビデオデータD33を所定量だけ蓄積しながら一定のレートで出力する。因に、カウンタ36の目標データ量はコントロール部32からの指定信号(図示せず)によつて指定することができるようになされている。
【0037】
一方、映像音声データD20のうち音声データD34はオーデイオ符号化回路39に入力され、当該オーデイオ符号化回路39によつてMPEGの音声規格に従つて符号化された後、バツフア40を介してマルチプレクサ(MUX)41に与えられる。マルチプレクサ41は符号化ビデオデータD33と符号化オーデイオデータD35を多重化することにより符号化データD36を形成する。符号化データD31は図1について上述したサーバ部25の記録再生部26によつて記録媒体に記録される。
【0038】
このようにこの実施例のエンコーダ24においては、絵柄によつてデータ長が変化する符号化ビデオデータD31に対してダミーデータとしてスタツフイングデータD32を付加することにより、常に単位時間内のデータ長が一定でなる符号化ビデオデータD33を形成して出力するようになされている。
【0039】
(1−3)デコーダの構成
各デコーダ31A1 〜3AM はそれぞれ、図3に示すように構成されている。すなわちデコーダ31は記録再生部26により再生された再生符号化データD37をデマルチプレクサ(DEMUX)42によつて再生符号化ビデオデータD38及び再生符号化オーデイオデータD39に分流し、このうち再生符号化ビデオデータD38をデコーダバツフア43に所定量だけ蓄積しながらビデオ復号化回路44に送出すると共に再生符号化オーデイオデータD39をバツフア45に所定量だけ蓄積しながらオーデイオ復号化回路46に送出する。
【0040】
このとき記録再生部26は、記録媒体から符号化時よりも高速のレートR′で再生符号化データD37を読み出すようになされている。またデコーダバツフア43は後述する理由によりエンコーダバツフア38のほぼ3倍の容量を有するように構成されている。これにより符号化時の順番と異なる任意の順番に配列された符号化映像ストリームが入力された場合でも、デコーダバツフア43が破綻しないようになされている。
【0041】
またデコーダ31は、再生符号化ビデオデータD38をカウンタ47に与え、当該カウンタ47によつて再生符号化ビデオデータD38のデータ量をカウントすることにより、デコーダバツフア43内のデータ占有量を測定し、デコーダバツフア43内に一定量のデータが蓄積された時点で、カウンタ47からビデオ復号化回路44及びオーデイオ復号化回路46に開始制御信号S7を送出することで復号動作を開始させる。
【0042】
実際上、デコーダ31は最初の符号化映像ストリームに対してはこのようにデコーダバツフア43内に一定量のデータが蓄積されてからビデオ復号化回路44での復号動作を開始させると共に、1つ目以降の符号化映像ストリームは連続して復号するようになされている。なお実施例のデコーダ31はデコーダバツフア43にエンコーダバツフア38の容量に等しいデータが蓄積された時点で、最初の符号化映像ストリームの復号を開始するようになされている。
【0043】
ビデオ復号化回路44及びオーデイオ復号化回路46は、再生符号化ビデオデータD38及び再生符号化オーデイオデータD39に対して、上述したビデオ符号化回路34及びオーデイオ符号化回路39と逆の処理を施すことにより、復号ビデオデータD40及び復号オーデイオデータD41を形成し、これらを復号データD22として出力する。
【0044】
(1−4)処理
次に、上述したエンコーダ24及びデコーダ31によつて複数の符号化映像ストリームを連続的に復号するための原理及び構成について詳述する。
【0045】
(1−4−1)レートコントロール
ここで従来のMPEG規格によるエンコーダでは、符号化の際のレートコントロールを次のようにして行つている。図4に示すように、エンコーダ及びデコーダは、それぞれサイズが「Bvbv」のバツフア(以下、これを VBVバツフアと呼ぶ)を持ち、長い時間軸で見たときに、符号化及び復号化のレートが目標のレートRとなるように VBVバツフア内で制御されている。
【0046】
ところが、図に示すように、ある単位時間Tcm でデータを切り取つたときの発生データ量を見た場合、同じ単位時間内でも、図中の▲1▼、▲2▼、▲3▼の期間のそれぞれの発生データ量はDvbv▲1▼、Dvbv▲2▼、Dvbv▲3▼となり、発生するデータ量に差が生じる。
【0047】
このことによつて、任意の符号化映像ストリーム(ここで符号化映像ストリームとは、符号化ビデオデータを単位時間Tcm で切り取つたデータのまとまりを言う)を連続して復号する際に、次のような問題点が存在することが分かる。すなわち各符号化映像ストリームの先頭と終わりで、 VBVデイレイ(デコーダバツフアの蓄積量を時間で示したもの)は等しくはならない。そのため、符号化映像ストリームごとのトータルビツト量は一定(レート×時間)とはならない。さらに各符号化映像ストリームのスタートアツプデイレイ(符号化映像ストリームの先頭でのVBV デイレイのこと)は、不定である。
【0048】
(1−4−2)ビツト量合せ
発生するデータ量が、図4の各期間▲1▼、▲2▼、▲3▼によつて異なる現象は、それぞれの点での VBVデイレイが違うことによつて生じるものである。ここで各点のデイレイをそれぞれTvbv0 、……、Tvbv3 する。そしてTvbv0 =Tvbv1 とすると、期間▲1▼における曲線の平均の傾きは、目標レートRと等しくなり、そのときの発生データ量Dvbv▲1▼は正確に、次式
【数5】
Figure 0003719530
により求められる値となる。
【0049】
しかし期間▲2▼では、デイレイTvbv2 がデイレイTvbv1 に比べて小さいため、発生データ量Dvbv▲2▼は目標ビツト量よりも大きくなり、逆に期間▲3▼では、デイレイTvbv3 ≫デイレイTvbv2 の関係にあるので、発生データ量Dvbv▲3▼は目標ビツト量より小さくなる。
【0050】
このように変動する発生データ量Dvbvの最大値と最小値は次のように求められる。すなわち発生データ量Dvbvが最小となる場合は、図5(A)に示すように、デイレイTvbv0 が最小(0) で、デイレイTvbv1 が最大(Bvbv/R)となる場合で、そのときの発生ビツト量Dvbv(min) は、次式
【数6】
Figure 0003719530
となる。また発生データ量Dvbvが最大となる場合は、図5(B)に示すように、デイレイTvbv0 が最大(Bvbv/R)で、デイレイTvbv1 が最小(0) となる場合で、そのときの発生ビツト量Dvbv(max) は、次式
【数7】
Figure 0003719530
となる。これらのことから、発生ビツト量Dvbvは、次式
【数8】
Figure 0003719530
で表わされる範囲内で変動する。すなわち±Bvbvだけ変動することがわかる。
【0051】
このため実施例においては、図6に示すように、デコーダ側に、(4)式で表わされる最大ビツト量の符号化映像ストリームが連続して到来することを考慮し、そのときのデータを時間Tcm で送ることができる伝送レートR′を設定するようになされている。
【0052】
またこの実施例においては、図6に示すように、これより小さいサイズのデータには、エンコーダ24において、図中斜線で示すスタツフイングデータを付加することにより、データ長を一定にするようになされている。
【0053】
またこのときの伝送レートR′は、図6より次式
【数9】
Figure 0003719530
となるように選定されている。
【0054】
(1−4−3)デコーダバツフア量
ここで図7に、デコーダ31に伝送レートR′で1つの符号化映像ストリームを送る場合にデコーダバツフア43で必要なバツフア量を示す。上述のように期間Tcm の間に発生するデータ量は曲線W1のようなときに最大となり、曲線W2のようなときに最小となるので、デコーダバツフア43内でのデータの推移は斜線部内となる。
【0055】
デコーダバツフア43は、この変化を吸収するため、デコーダバツフア43の上限と下限を示す直線L1及びL2が斜線部にかからないように容量が設定してある。これによりデコーダバツフア43は、データのアンダーフロー及びオーバーフローを防ぐことができるようになされている。。
【0056】
実際上、このときに必要なデコーダバツフア43のバツフア量は、図7におけるBdecである。このデコーダバツフア量Bdecは以下の計算で求められる。すなわち図中Tb及びTeは、それぞれ次式
【数10】
Figure 0003719530
及び
【数11】
Figure 0003719530
であるので、これらを使つて図中Tdecは、次式
【数12】
Figure 0003719530
により求めることができる。従つてこれに必要なデコーダバツフア量Bdecは、次式
【数13】
Figure 0003719530
となり、デコーダバツフア43の容量を、エンコーダバツフア38の容量(Bvbv)の3倍とするば良いことが分かる。また実施例のデコーダ31においては、図7からも明らかなように、デコーダバツフア43にエンコーダバツフア38の容量に等しいデータ量Bvbvが入つてから復号を開始すれば良いことが分かる。
【0057】
(1−4−4)データストリームの連続
次に、符号化映像ストリームを連続してデコーダバツフア43に送つたときの動作について説明する。スタツフイングデータD32はデコーダバツフア43に入つてくるため、デコーダバツフア43内のデータ占有量は、図8のようになる。
【0058】
デコーダ31においては、デコーダバツフア43にBvbv分のデータがたまつてから復号を始めるため、復号開始点▲1▼′は直線L3上となる。また伝送レートR′に合わせるようにスタツフイングを行つているので、1つの符号化映像ストリームの復号終了点▲2▼′も直線L3上となる。因に、図8ではスタツフイングデータD32を斜線によつて表している。
【0059】
このように画像の絵柄に依らず、全ての符号化映像ストリームの始めと終わりは直線L3上となることにより、符号化映像ストリームを幾つ連続して復号したとしても、復号開始点及び終了点が直線L3上から外れることはない。このことは連続して符号化映像ストリームを復号しても、エンコーダバツフア43がオーバーフロー又はアンダーフローすることがないことを表している。
かくして、この実施例のデコーダ31によれば、符号化時の順序と異なる任意の順序で入力された符号化映像ストリームを、途切れることなる連続して復号することができる。
【0060】
(1−5)第1実施例の動作
以上の構成において、実施例のAVサーバシステム20においては、映像信号を符号化して符号化ビデオデータD31を形成した後、当該符号化ビデオデータD31にスタツフイングデータD32を付加することにより、データ長が一定(=R×Tcm+Bvbv)でなる符号化映像ストリームを形成する。
【0061】
このようにして形成された符号化映像ストリームは記録再生部26によるデータの読出し時に、符号化時のレートRよりも高いレートR′(=(R×Tcm+Bvbv)÷Tcm)とされ、この伝送レートR′でデコーダ31に入力される。
【0062】
デコーダ31はこの符号化映像ストリームをエンコーダバツフア38のほぼ3倍の容量を有するデコーダバツフア43に入力し、当該デコーダバツフア43にエンコーダバツフア38の容量に等しいデータが蓄積されてから復号を開始する。
【0063】
この結果例えば編集やユーザからの要求によつて、符号化の順番と異なる順番に並べ替えられた複数の符号化映像ストリームを入力した場合でも、デコーダバツフア43をオーバーフロー又はアンダーフローさせることなく、当該複数の符号化映像ストリームを途切れなく復号することができる。
【0064】
ここで符号化映像ストリームのみを伝送レートR′で送つた場合の映像信号の符号化レートRは、次式
【数14】
Figure 0003719530
となるので、これに実際の数値を当てはめると図9に示すようになる。但し、ここでは、オーデイオデータは一定レートであるので考慮していない。しかし、MPEGの音声データは固定レートであるため、符号化映像ストリームに音声データを多重化することにより容易に音声データも含んだシステムを構成できる。
【0065】
(1−6)第1実施例の効果
以上の構成によれば、符号化ビデオデータD31にスタツフイングデータD32を付加することにより、単位時間Tcm 内のデータ長が一定の符号化映像ストリームを形成し、当該符号化映像ストリームを符号化時のレートRよりも速いレートR′で伝送し、エンコーダバツフア38の3倍の容量を有するデコーダバツフア43に蓄積しながら復号するようにしたことにより、符号化した順番と異なる任意の順番で連続してデコーダ31に入力される符号化映像ストリームを途切れなく復号することができる。
【0066】
また以上の構成でなるAVサーバシステム20を放送局で用いれば、作業者は映像素材の組み合わせを設定するだけで、ランダムアクセス可能な記録再生部26から任意の組み合わせで途切れることなく連続的に映像素材を送出でき、この結果作業効率を上げることが可能となる。
【0067】
(2)第2実施例
(2−1)エンコーダの構成
図2との対応部分に同一符号を付して示す図10において、50は全体として第2実施例のエンコーダを示し、符号化ビデオデータD31及び符号化オーデイオデータD35を多重化してなるデータに対してパデイングデータを付加することより、単位時間内に伝送されるシステムレイヤのデータ長を一定にするようになされている。すなわち上述の第1実施例ではスタツフイングデータD32を付加することによりビデオレイヤのデータ長を一定としたのに対して、この実施例ではシステムレイヤのデータ長を一定とする。
【0068】
エンコーダ50はエンコーダバツフア38から出力される符号化ビデオデータD31とバツフア40から出力される符号化オーデイオデータD35をマルチプレクサ51によつて多重化することにより符号化データD50を形成し、当該符号化データD50をスイツチヤ52の端子Aに与えると共にカウンタ53に与える。またスイツチヤ52の端子Bには、パデイングデータ発生回路54によつて発生されたパデイングデータD51が与えられる。
【0069】
カウンタ53は符号化データD50のデータ量を測定し、所定の目標値に対するデータ量の不足分を算出する。カウンタ53はこの算出結果に応じてスイツチヤ52に切換制御信号S8を送出することにより、データ量の不足分に見合う期間だけスイツチヤ52の接続を端子B側に切り換える。このようにしてエンコーダ50は符号化データD50の目標データ量に対する不足分だけパデイングデータD51を付加することにより、続く記録再生部26に常に単位時間内のデータ長が一定でなる符号化データD52を送出するようになされている。
【0070】
(2−2)デコーダの構成
図3との対応部分に同一符号を付して示す図11において、60は全体として第2実施例のデコーダを示し、図10について上述したエンコーダ50によつて形成された符号化データD52を復号する。実際には、記録再生部26によつて記録媒体から符号化時によりも高速のレートR′かつ任意の順番で読み出された再生符号化データD60を復号するようになされている。
【0071】
デコーダ60は再生符号化符号化データD60をデマルチプレクサ61に入力し、当該デマルチプレクサ61において再生符号化データD61を再生符号化ビデオデータD38、再生符号化オーデイオデータD39及びパデイングデータD51に分流する。
【0072】
このときデマルチプレクサ61は再生符号化データD60の各パケツト毎に付加されているヘツダに基づいてスイツチヤ62に切換制御信号S9を送出し、デマルチプレクサ61が再生符号化ビデオデータD38を出力している期間の間スイツチヤ62を端子Aに接続し、再生符号化オーデイオデータD39を出力している期間の間スイツチヤ62を端子Bに接続し、パデイングデータD51を出力している期間の間スイツチヤ62を端子Cに接続する。この結果スイツチヤ62において、再生符号化データD60に付加されていたパデイングデータD51が除去される。
【0073】
再生符号化ビデオデータD38は一旦デコーダバツフア43に蓄えられた後、ビデオ復号化回路44に送出される。ここでデコーダバツフア43は第1実施例で上述したようにエンコーダバツフア38の3倍の容量で構成されており、これにより再生符号化ビデオデータD38のデコーダバツフア43でのオーバーフロー又はアンダーフローを回避できるようになされている。また再生符号化ビデオデータD38はカウンタ47に与えられる。カウンタ47は再生符号化ビデオデータD38のデータ量をカウントすることによりデコーダバツフア43内のデータ占有量を測定し、デコーダバツフア43にエンコーダバツフア38の容量に等しい量の再生符号化ビデオデータD38が蓄積された時点で、ビデオ復号化回路44に復号開始を指示する開始制御信号S7を送出する。
【0074】
再生符号化オーデイオデータD39はバツフア45に所定量だけ蓄えられながらオーデイオ復号化回路46に送出される。このときオーデイオ復号化回路46もカウンタ47から開始制御信号S7が与えられた時点から復号動作を開始する。因に、ビデオ復号化回路44及びオーデイオ復号化回路46は、2つ目以降の符号化データストリームについては連続して復号するようになされている。
【0075】
(2−3)処理
次に、記録再生部26から送出された再生符号化データD60(すなわち任意の順序でなる符号化データストリーム)を、デコーダ60によつて連続して復号したときの動作について説明する。
【0076】
パデイングデータD51はデコーダバツフア43に入つてこないためパデイングデータD51が伝送されてくる間は、図12に示すようにデコーダバツフア43への入力は期間Ts1の間休止することになる。
【0077】
このとき、休止期間Ts1はパデイングのデータ量Bs1をレートR′で送る時間なので、続くフアイルFile2の曲線は必ずL3′線上から始まる。同様に以降のフアイルFile2、File3、……の曲線も必ずL3″、L3″′、……線上から始まる。このことは、連続して符号化データストリームを復号してもデコーダバツフア43がオーバーフロー又はアンダーフローすることが無いことを示している。
【0078】
かくして、システムレイヤにパデイングデータD51を付加して各符号化データストリームのデータ長を一定としたことにより、任意の順番に並べ替えられたMPEGデータストリームを、途切れることなく復号することができる。
【0079】
(2−4)第2実施例の動作
以上の構成において、この実施例のAVサーバシステムにおいては、符号化ビデオデータD31及び符号化オーデイオデータD35を含むシステムレイヤにパデイングデータD51を付加することにより、単位時間内のデータ長がほぼ一定でなる符号化データストリーム(すなわち符号化データD52)を形成する。
【0080】
このようにして形成された符号化データストリームは記録再生部26によるデータ読出しの時に、符号化時のレートRより高いレートR′とされると共に任意の順番に配列されてデコーダ60に入力される。
【0081】
デコーダ60は先ずシステムレイヤからパデイングデータD51を除去した後、エンコーダバツフア38の3倍の容量を有するデコーダバツフア43に蓄積しながら復号する。このとき最初に到来する符号化データストリームについては、デコーダバツフア43にエンコーダバツフア38の容量と等しいデータが蓄積されてから復号を開始する。
【0082】
この結果例えば編集やユーザからの要求によつて、符号化の順番と異なる順番に並べ替えられた複数の符号化データストリームを入力した場合でも、デコーダバツフア43をオーバーフロー又はアンダーフローさせることなく、当該複数の符号化データストリームを途切れなく復号することができる。
【0083】
(2−5)第2実施例の効果
以上の構成によれば、符号化ビデオデータD31と符号化オーデイオデータD35を多重化したものにパデイングデータD51を付加することにより、単位時間Tcm 内のデータ長が一定の符号化データストリームを形成し、当該符号化データストリームを符号化時のレートRよりも速いレートR′で伝送し、エンコーダバツフア38の3倍の容量を有するデコーダバツフア43に蓄積しながら復号するようにしたことにより、符号化した順番と異なる任意の順番で連続してデコーダ60に入力される符号化データストリームを途切れなく復号することができる。
【0084】
(3)他の実施例
なお上述の実施例においては、本発明による画像信号伝送方法をAVサーバシステム20に適用した場合について述べたが、本発明はこれに限らず、符号化処理により得られた符号化映像ストリーム又は符号化データストリームを、符号化の順番と異なる任意の順番で復号手段に伝送するような画像信号伝送装置に広く適用できる。
【0085】
また上述の実施例においては、サーバ部での再生レートを記録レートよりも速くすることにより、デコーダに符号化時のレートRよりも速いレートR′の符号化データを入力するようにした場合について述べたが、本発明はこれに限らず、例えば複数のエンコーダで形成した複数の符号化データを多重化手段で多重化して1つのデコーダに伝送することによりデコーダに符号化時のレートRよりも速いレートR′の符号化データを伝送するようにしても良い。
【0086】
また上述の実施例においては、符号化映像ストリーム又は符号化データストリームを符号化時のレートよりも速いレートかつ任意の順番で伝送する伝送手段としてハードデイスク上にデータを記録し再生する記録再生部26を用いた場合について述べたが、本発明はこれに限らず、要は符号化映像ストリーム又は符号化データストリームを符号化時のレートよりも速いレートかつ任意の順番で伝送し得るものであれば良い。
【0087】
また上述の実施例においては、符号化デコーダを符号化時のレートRよりも高いレートR′(=(R×Tcm+Bvbv)÷Tcm)で伝送する場合について述べたが、本発明はこれに限らず、伝送レートR′が固定の場合には、符号化時のレートをこの伝送レートR′よりも低いレートR(=(R′×Tcm−Bvbv)÷Tcm)で行うようにすれば良い。
【0088】
【発明の効果】
上述のように本発明によれば、符号化映像データにダミーデータを付加することにより単位時間Tcm内のデータ長が一定でなる符号化映像ストリームを形成し、当該符号化映像ストリームを符号化時のレートRよりも速いレートR′=(R×Tcm+Bvbv)/Tcmで伝送し、当該符号化映像ストリームを、符号化側のバツフアの3倍の容量のバッファを有する復号手段で復号するようにしたことにより、符号化映像ストリームを任意の順番で復号した場合でも、映像が途切れることなく連続的に復号することができる。
【図面の簡単な説明】
【図1】本発明により映像信号伝送方法を適用したAVサーバシステムの構成を示すブロツク図である。
【図2】第1実施例によるエンコーダの構成を示すブロツク図である。
【図3】第1実施例によりデコーダの構成を示すブロツク図である。
【図4】MPEG規格によるエンコーダバツフア及びデコーダバツフアのレートコントロールの説明に供する略線図である。
【図5】MPEG規格によるエンコーダバツフア及びデコーダバツフアの発生データ量の変動の説明に供する略線図である。
【図6】スタツフイングデータ及び伝送レートR′を説明するため、期間Tcm 内の発生データ量の変動を示す略線図である。
【図7】デコーダバツフアで必要な容量の説明に供する略線図である。
【図8】第1実施例の動作の説明の供する略線図である。
【図9】実施例の映像信号伝送方法を用いた場合の数値例を示す図表である。
【図10】第2実施例によるエンコーダの構成を示すブロツク図である。
【図11】第2実施例によるデコーダの構成を示すブロツク図である。
【図12】第2実施例の動作の説明に供する略線図である。
【図13】MPEG規格によるバツフアの状態を示す略線図である。
【図14】従来の時間情報を用いた符号化及び復号処理を実現するエンコーダ及びデコーダの構成を示すブロツク図である。
【図15】従来のデコーダに連続しない符号化データを送出した場合のデコーダバツフアの状態を示す略線図である。
【符号の説明】
20……AVサーバシステム、22……データ供給源、23……エンコード部、24、50……エンコーダ、25……サーバ部、26……記録再生部、27……デコーダ部、31(31A1 〜31AM )、60……デコーダ、33……ビデオエンコーダ部、34……ビデオ符号化回路、37……スタツフイングデータ発生回路、38……エンコーダバツフア、41、51……マルチプレクサ、42、61……デマルチプレクサ、43……デコーダバツフア、44……ビデオ復号化回路、54……パデイングデータ発生回路、D20……映像音声データ、D21……符号化データ、D22……復号データ、D30……映像データ、D31、D33……符号化ビデオデータ、D32……スタツフイングデータ、D34……音声データ、D35……符号化オーデイオデータ、D36……符号化データ、D37……再生符号化データ、D38……再生符号化ビデオデータ、D39……再生符号化オーデイオデータ、S1……要求信号、S2、S3……制御信号、S4、S5……状態信号、S6、S7……切換制御信号。

Claims (10)

  1. 映像信号を符号化して伝送すると共に、伝送された符号化映像データを復号する映像信号伝送方法において、
    上記映像信号を符号化することにより符号化映像データを形成する符号化ステツプと、
    上記符号化映像データにダミーデータを付加することにより、単位時間内のデータ長が一定でなる符号化映像ストリームを形成するダミーデータ付加ステツプと、
    上記符号化ステツプによる符号化時のレートをR、上記単位時間をTcm 、符号化側のバツフアの容量をBvbvとしたとき、上記符号化映像ストリームを、次式で表わされるレートR′で、
    Figure 0003719530
    かつ任意の順番で伝送する伝送ステツプと、
    伝送される上記符号化映像ストリームを、符号化側のバツフアの3倍の容量のバツフアを有する復号手段を用いて復号する復号ステツプと
    を具えることを特徴とする映像信号伝送方法。
  2. 上記復号ステツプでは、上記復号化側のバツフアに符号化側のバツフアの容量に等しい量の上記符号化映像ストリームを蓄積した後、復号を開始する
    ことを特徴とする請求項1に記載の映像信号伝送方法。
  3. 映像信号及び音声信号を符号化して伝送すると共に、伝送された符号化データを復号する映像信号伝送方法において、
    上記映像信号及び音声信号をそれぞれ符号化する符号化ステツプと、
    符号化された映像信号と音声信号を多重化し、多重化されてなる符号化データにダミーデータを付加することにより、単位時間内のデータ長が一定でなる符号化データストリームを形成するダミーデータ付加ステツプと、
    上記符号化ステップによる符号化時のレートをR、上記単位時間をTcm 、符号化側のバツフアの容量をBvbvとしたとき、上記符号化データストリームを、次式で表わされるレートR′で、
    Figure 0003719530
    かつ任意の順番で伝送する伝送ステツプと、
    伝送される上記符号化データストリームから上記ダミーデータを除去する除去ステツプと、
    上記ダミーデータが除去された上記符号化データストリームを、符号化側のバツフアの3倍の容量の復号化側のバツフアを有する復号手段を用いて復号する復号ステツプと
    を具えることを特徴とする映像信号伝送方法。
  4. 上記復号ステツプでは、上記バツフアに符号化側のバツフアの容量に等しい量の上記符号化映像ストリームを蓄積した後、復号を開始する
    ことを特徴とする請求項に記載の映像信号伝送方法。
  5. 映像信号を符号化して伝送すると共に、伝送された符号化映像データを復号する映像信号伝送装置において、
    上記映像信号を符号化することにより符号化映像データを形成する符号化手段と、
    上記符号化映像データにダミーデータを付加することにより、単位時間内のデータ長が一定でなる符号化映像ストリームを形成するダミーデータ付加手段と、
    上記符号化手段による符号化時のレートをR、上記単位時間をTcm 、符号化側のバツフアの容量をBvbvとしたとき、上記符号化映像ストリームを、次式で表わされるレートR′で、
    Figure 0003719530
    かつ任意の順番で伝送する伝送手段と、
    上記符号化側のバツフアの3倍の容量の復号化側のバツフアを有し、上記ダミーデータが除去された上記符号化データストリームを当該バツフアに所定量だけ蓄積しながら復号する復号手段と
    を具えることを特徴とする映像信号伝送装置。
  6. 上記伝送手段は、上記符号化映像ストリームを記録し、指定された任意の順番で上記符号化映像ストリームを再生する記録再生手段でなる
    ことを特徴とする請求項に記載の映像信号伝送装置。
  7. 上記復号手段は、上記バツフアに符号化側のバツフアの容量に等しい量の上記符号化映像ストリームを蓄積した後、復号を開始する
    ことを特徴とする請求項に記載の映像信号伝送装置。
  8. 映像信号及び音声信号を符号化して伝送すると共に、伝送された符号化データを復号する映像信号伝送装置において、
    上記映像信号及び音声信号をそれぞれ符号化する符号化手段と、
    符号化された映像信号と音声信号を多重化する多重化手段と、
    多重化されてなる符号化データにダミーデータを付加することにより、単位時間内のデータストリームのデータ長が一定でなる符号化データストリームを形成するダミーデータ付加手段と、
    上記符号化手段による符号化時のレートをR、上記単位時間をTcm 、符号化側のバツフアの容量をBvbvとしたとき、上記符号化データストリームを、次式で表わされるレートR′で、
    Figure 0003719530
    かつ任意の順番で伝送する伝送手段と、
    上記符号化側のバツフアの3倍の容量の復号化側のバツフアを有し、ダミーデータが除去された上記符号化データストリームを当該バツフアに所定量だけ蓄積しながら復号する復号手段と
    を具えることを特徴とする映像信号伝送装置。
  9. 上記伝送手段は、上記符号化データストリームを記録し、指定された任意の順番で上記符号化データストリームを再生する記録再生手段でなる
    ことを特徴とする請求項に記載の映像信号伝送装置。
  10. 上記復号手段は、上記バツフアに符号化側のバツフアの容量に等しい量の上記符号化データストリームを蓄積した後、復号を開始する
    ことを特徴とする請求項に記載の映像信号伝送装置。
JP10480095A 1995-04-05 1995-04-05 映像信号伝送方法及び映像信号伝送装置 Expired - Fee Related JP3719530B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10480095A JP3719530B2 (ja) 1995-04-05 1995-04-05 映像信号伝送方法及び映像信号伝送装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10480095A JP3719530B2 (ja) 1995-04-05 1995-04-05 映像信号伝送方法及び映像信号伝送装置

Publications (2)

Publication Number Publication Date
JPH08280010A JPH08280010A (ja) 1996-10-22
JP3719530B2 true JP3719530B2 (ja) 2005-11-24

Family

ID=14390520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10480095A Expired - Fee Related JP3719530B2 (ja) 1995-04-05 1995-04-05 映像信号伝送方法及び映像信号伝送装置

Country Status (1)

Country Link
JP (1) JP3719530B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2251456C (en) 1997-10-31 2007-02-13 Sony Corporation An apparatus for storing and transmitting data
KR100606519B1 (ko) * 1998-11-13 2007-07-09 엘지전자 주식회사 디지털 데이터 스트림 기록방법 및 기록 스트림의 관리정보 생성 기록방법

Also Published As

Publication number Publication date
JPH08280010A (ja) 1996-10-22

Similar Documents

Publication Publication Date Title
US6327421B1 (en) Multiple speed fast forward/rewind compressed video delivery system
US5511054A (en) Apparatus and method for multiplexing encoded data signals and recording medium having multiplexed signals recorded thereon
US7412149B2 (en) Trick mode generation in video streaming
EP0627855B1 (en) Digital video signal recording
US5838876A (en) Frame-accurate edit and playback in digital stream recording
AU754879B2 (en) Processing coded video
US5887110A (en) Video data playback system using effective scheme for producing coded video data for fast playback mode
US5877812A (en) Method and apparatus for increasing channel utilization for digital video transmission
US6389218B2 (en) Method and apparatus for simultaneously producing compressed play and trick play bitstreams from a video frame sequence
US6292621B1 (en) Recording apparatus for newly recording a second encoded data train on a recording medium on which an encoded data train is recorded
US20060277581A1 (en) Local entity and a method for providing media streams
WO1997019562A9 (en) Method and apparatus for increasing channel utilization for digital video transmission
KR100676093B1 (ko) 비디오 데이터 기록 장치, 비디오 데이터 기록 방법,비디오 데이터 재생 장치, 비디오 데이터 재생 방법,비디오 데이터 기록 및 재생 장치, 및 비디오 데이터 기록및 재생 방법
WO2005062614A1 (ja) 映像データ処理方法および映像データ処理装置
JPH0832926A (ja) ディジタル記録再生装置
WO1995002947A1 (en) Image signal reproducing method and image signal reproducing apparatus
JPH1155626A (ja) テレビジョン信号符号化装置およびテレビジョン信号記録装置
US20030103765A1 (en) MPEG recording apparatus, recording medium and transmission method
JP3719530B2 (ja) 映像信号伝送方法及び映像信号伝送装置
JP3277971B2 (ja) データ多重化装置、データ多重化方法及びデータ記録媒体
KR20000076710A (ko) 데이터 전송 장치 및 방법, 기록 장치 및 기록 및 재생 장치
JP3102260B2 (ja) 動画像符号化装置
WO1994017634A1 (fr) Procede de codage de signal d'image, codeur de signal d'image, procede de decodage de signal d'image, decodeur de signal d'image et support d'enregristrement de signal d'image
KR100306930B1 (ko) 디지털 데이터전송장치 및 그 전송방법
JP4763589B2 (ja) 再生装置、および、その再生方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040820

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050325

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050819

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050901

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080916

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090916

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees