JPH09331524A - ディジタル信号符号化方法、編集方法、及び伝送方法 - Google Patents

ディジタル信号符号化方法、編集方法、及び伝送方法

Info

Publication number
JPH09331524A
JPH09331524A JP15253496A JP15253496A JPH09331524A JP H09331524 A JPH09331524 A JP H09331524A JP 15253496 A JP15253496 A JP 15253496A JP 15253496 A JP15253496 A JP 15253496A JP H09331524 A JPH09331524 A JP H09331524A
Authority
JP
Japan
Prior art keywords
buffer
bit stream
bitstream
time
digital signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP15253496A
Other languages
English (en)
Other versions
JP3668556B2 (ja
Inventor
Katsumi Tawara
勝己 田原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP15253496A priority Critical patent/JP3668556B2/ja
Priority to US08/896,511 priority patent/US6532242B1/en
Publication of JPH09331524A publication Critical patent/JPH09331524A/ja
Application granted granted Critical
Publication of JP3668556B2 publication Critical patent/JP3668556B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/647Control signaling between network components and server or clients; Network processes for video distribution between server and clients, e.g. controlling the quality of the video stream, by dropping packets, protecting content from unauthorised alteration within the network, monitoring of network load, bridging between two different networks, e.g. between IP and wireless
    • H04N21/64746Control signals issued by the network directed to the server or the client
    • H04N21/64761Control signals issued by the network directed to the server or the client directed to the server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23406Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving management of server-side video buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving MPEG packets from an IP network
    • H04N21/4382Demodulation or channel decoding, e.g. QPSK demodulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44016Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/637Control signals issued by the client directed to the server or network components
    • H04N21/6377Control signals issued by the client directed to the server or network components directed to server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server

Abstract

(57)【要約】 【課題】 複数のビデオのビットストリームを結合する
際に、デコーダバッファを破綻させずにシームレスな結
合を可能とする。 【解決手段】 符号化装置10からの第1のビットスト
リームの後に符号化装置20からの第2のビットストリ
ームを結合する場合に、符号化部12は、端子14から
の制御信号に応じて、第1のビットストリームの終端付
近で第2のビットストリームのスタートアップに必要な
デコーダバッファ量を確保するための制限を加えて符号
化し、符号化部22は、端子24からの制御信号に応じ
て、第2のビットストリームの先頭付近で第2のビット
ストリームのスタートアップに必要なデコーダバッファ
量を確保するための制限を加えて符号化する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、動画像信号及び音
響信号等を、例えば光磁気ディスクや磁気テープ等の記
録媒体に記録し、これを再生してディスプレイに表示し
たり、テレビ会議システム、テレビ電話システム、放送
用機器等、動画像信号及び音響信号等を伝送路を介して
送信側から受信側に伝送し、受信側において、これを受
信し、表示する場合等に用いて好適なディジタル信号符
号化方法、編集方法、及び伝送方法に関する。
【0002】
【従来の技術】近年において、例えば、画像信号や音響
信号を、所定の標準規格の圧縮方式を用いて圧縮してデ
ィジタルのビットストリームデータを生成し、必要に応
じてこれらを多重化して伝送することが行われる。
【0003】上記標準規格の具体例としては、MPEG
(Moving Picture Coding ExpertsGroup )規格を挙げ
ることができる。このMPEGとは、ISO/IEC
JTC1/SC29(International Organization for S
tandardization / International Electrotechnical Co
mmission, Joint Technical Committee 1 / Sub Commit
tee 29:国際標準化機構/国際電気標準会議 合同技術
委員会1/専門部会29)の蓄積用動画像符号化の検討
組織の略称であり、MPEG1標準としてISO11172が、
MPEG2標準としてISO13818がある。これらの国際標
準において、マルチメディア多重化の項目でISO11172-1
及びISO13818-1が、映像の項目でISO11172-2及びISO138
18-2が、また音声の項目でISO11172-3及びISO13818-3が
それぞれ標準化されている。
【0004】ここで、画像圧縮符号化規格としてのISO1
1172-2又はISO13818-2においては、画像信号を、画像
(フレーム又はフィールド)単位で、画像の時間および
空間方向の相関を利用して、圧縮符号化を行うものであ
る。
【0005】このような画像信号を圧縮符号化して、デ
ィジタルの符号化ビットストリームを生成し、記録媒体
あるいは伝送媒体などのメディアを介して、得られたビ
ットストリームを復号するために用いられる装置全体の
概略構成を、図5に示している。
【0006】この図5において、入力端子101に供給
された画像信号は、上述したいわゆるMPEG1(ISO1
1172-2)又はMPEG2(ISO13818-2)に対応した符号
化部102に送られて圧縮符号化される。この場合に、
各画像が圧縮の単位となるが、この圧縮符号化された画
像データの大きさは一定ではないので、出力段に送信バ
ッファ103を設けて、このバッファの占有量を符号化
装置にフィードバックさせることによって、送信バッフ
ァ103をオーバーフロー/アンダーフローさせないよ
うに画像の符号量を調整している。また、この符号量の
調節によって、送信バッファ103の出力段からは、安
定したビットレートでのビットストリームが出力され
る。
【0007】出力された符号化ビットストリームは、伝
送媒体や蓄積媒体等のメディア105を介して、復号側
に送られる。復号側では、符号化と全く逆の操作を行
う。すなわち、一定レートで送られてきたビットストリ
ームを受信バッファ106が受け取り、復号装置107
が受信バッファ106から符号化単位である符号化画像
データ(アクセスユニット:AU)単位で読み出しを行
う。従って、受信バッファ106からの読み出しは間欠
的になる。この読み出された画像データは、復号装置1
07によって元の画像データに復元され、出力端子10
8より取り出される。
【0008】次に、図6は、上記図5の復号側の受信バ
ッファ(デコーダバッファ)106の動作を説明するた
めの図である。この図6は、受信バッファ106に入力
された画像ビットストリームの占有率を図示したもので
ある。この受信バッファ106には、一定レートで画像
データが入力され、この一定レートの入力が右上がりの
直線で示されている。それぞれの画像データP1,P2,P
3,…は、基本的には、予め決められた各々の復号時刻t
1,t2,t3,…に、符号化単位(アクセスユニット単位:
AU単位)でバッファから引き抜かれる。このため、バ
ッファ占有量は、図6に示すように鋸歯状の軌跡を描く
ことになる。
【0009】このようなデコーダバッファをオーバーフ
ローやアンダーフローさせないように符号化する、とい
う内容が、上記規格ISO11172-2又はISO13818-2のAnnex
C に規定されるVBV(Video Buffer Verifier) の規
定である。この内容は、ビットストリームが上記MPE
Gの条件を満足していると認定されるための必要条件と
なる。
【0010】
【発明が解決しようとする課題】ところで、上述したよ
うなMPEG1(ISO11172-2)、MPEG2(ISO13818
-2)の規格に基づいて符号化された画像信号を複数扱う
場合に、別々の系で独立に符号化されたビットストリー
ムを結合することは、一般的に困難である。特に、結合
点において、連続して画像が静止(フリーズ)せずに結
合される、いわゆるシームレスな結合というのは、何ら
制限を加えないで生成したビットストリームでは殆ど不
可能である。
【0011】図7は、単純に2つのビットストリームを
結合した例を示している。この図7の例においては、時
間的に前の第1のビットストリームBS1 の表示終了の
直後に、次の第2のビットストリームBS2 の復号を開
始した場合を示している。一般にビットストリームの先
頭では、バッファにある程度のデータを蓄積してから復
号を開始するためのスタートアップディレイという待ち
時間が必要である。このため、結合点Jでは、このディ
レイの分、次の復号画像の復号/表示が遅れることにな
り、表示フレームが数フレーム分静止(フリーズ)する
という現象が生じる。従って、このような場合、いわゆ
るシームレスな再生が行えない。なお、この図7におい
て、図中の時点x1 でデータ供給が停止して、結合点J
で第1のビットストリームBS1 の最後のピクチャが引
き抜かれ、時点x2 でフレームをフリーズ(静止)して
ビットストリームを結合し、次の時点x3 で第2のビッ
トストリームBS2 の最初のピクチャが引き抜かれてい
る。
【0012】次に、図8は、上記図7と同様なビットス
トリームをシームレスに再生するために、上記スタート
アップディレイの分だけバッファへのデータ入力を前倒
しした例を示している。この図8の例では、シームレス
な再生を優先したため、時間的に後のビットストリーム
BS2 の先頭の画像の復号が、時間的に前のビットスト
リームBS1 の最後の画像の復号(図8中の結合点J)
から、1/FR分(ただし、FRはフレームレート)の
時間後(図8中の時点x2 に復号されるようになって
いる。この場合、ビットストリームBS1 の最後の画像
(結合点Jで引き抜かれるピクチャ)の復号より前(図
8中の時点x1 に、ビットストリームBS2 がバッフ
ァに入力されるために、ビットストリームBS1 の最後
の画像の復号時(結合点J)に、デコーダバッファの占
有量がオーバーフローを引き起こすことになる。
【0013】すなわち、従来の符号化方法で符号化され
た画像信号のビットストリームをシームレスに結合する
ことは、一般的にほぼ不可能であった。
【0014】本発明は、上述したような実情に鑑みてな
されたものであり、2つの画像信号のビットストリーム
を結合する場合に、デコーダバッファの占有量がオーバ
ーフローやアンダーフローすることなく、また静止画を
挟むことなくシームレスに結合が行えるようなディジタ
ル信号符号化方法、編集方法、及び伝送方法の提供を目
的とするものである。
【0015】
【課題を解決するための手段】上記の課題を解決するた
めに、本発明は、ディジタル信号のビットストリームを
符号化して出力する場合に、圧縮符号化された複数のビ
ットストリームを結合する場合の時間的に前となる第1
のビットストリームの終端付近のデコーダバッファ占有
量に対して、第1の所定の制限を設けて符号化すること
を特徴としている。
【0016】また、本発明は、圧縮符号化された複数の
ビットストリームを結合する場合の時間的に後となる第
2のビットストリームの先頭付近のデコーダバッファ占
有量に対して、第2の所定の制限を設けて符号化するこ
とを特徴とする。
【0017】ここで、上記第1、第2の制限は、結合さ
れる時間的に後の上記第2のビットストリームのスター
トアップに必要なデコーダバッファ量を確保するための
制限である。より具体的には、上記第1の所定の制限と
しては、結合される時間的に後の第2のビットストリー
ムのスタートアップに必要なバッファ量をα、符号化ビ
ットレートをRB 、上記第1のビットストリームの最後
の画像のバッファからの引き抜き時刻をTとするとき、
T−(α/RB )の時刻からバッファ占有量の制限が開
始され、この時刻をt=0とするときのバッファ占有量
をBO(t) とし、バッファの全容量をBFとするとき、
BO(t)=BF−RB×tとなるような制限を加えて上記
第1のビットストリームの終端付近を符号化する。ま
た、上記第2の所定の制限としては、結合される時間的
に後の第2のビットストリームの先頭の画像のバッファ
からの引き抜き時刻をT’とし、フレームレートをRF
とするとき、T’−1/RF の時刻におけるバッファ占
有量βが、上記第2のビットストリームのスタートアッ
プに必要なバッファ量αに対して、β<αとなるような
制限を加えて上記第2のビットストリームの先頭付近を
符号化する。
【0018】また、本発明は、制限を加えて符号化され
た上記第1のビットストリームと上記第2のビットスト
リームとを結合する際に、上記第1のビットストリーム
の最後に付加されているsequence_end_code (シーケン
スエンドコード)を削除し、上記バッファ量α、βに対
して、(α−β)及び削除された上記sequence_end_cod
e 分の充填ビットをビットストリームに加えて結合する
ことを特徴とする。
【0019】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照しながら説明する。
【0020】図1は、本発明の実施の形態を説明するた
めの図である。この図1に示す実施の形態においては、
入力端子11に供給された第1の画像信号を符号化装置
10で符号化して得られた第1のビットストリームの後
に、入力端子21に供給された第2の画像信号を符号化
装置20で符号化して得られた第2のビットストリーム
を結合する場合を想定している。
【0021】図1の符号化装置10の入力端子11に供
給された第1の画像信号は、上述したいわゆるMPEG
1(ISO11172-2)又はMPEG2(ISO13818-2)に対応
した符号化部12に送られて圧縮符号化され、第1のビ
ットストリームとして取り出される。この場合に、各画
像が圧縮の単位となるが、この圧縮符号化された画像デ
ータの大きさは一定ではないので、出力段に送信バッフ
ァ13を設けて、このバッファの占有量を符号化にフィ
ードバックさせることによって、送信バッファ13をオ
ーバーフロー/アンダーフローさせないように画像の符
号量を調整している。このとき、上記第1の画像信号を
符号化して得られる第1のビットストリームの終端付近
のデコーダバッファ占有量に対して制限を設けて符号化
しており、特に、第1のビットストリームの後に連結さ
れる第2のビットストリームのスタートアップに必要と
されるデコーダバッファ量を確保するための制限を、第
1のビットストリームの終端付近のバッファ占有量に対
して設けている。この制限については、端子14からの
制御信号に応じて施されるものであるが、その内容につ
いては図2を参照しながら後述する。
【0022】また、符号化装置20の入力端子21に供
給された第2の画像信号は、上述と同様にMPEG1
(ISO11172-2)又はMPEG2(ISO13818-2)に対応し
た符号化部22に送られて圧縮符号化され、第2のビッ
トストリームとされるが、出力段に送信バッファ23を
設けて、このバッファの占有量を符号化装置にフィード
バックさせることによって、送信バッファ23をオーバ
ーフロー/アンダーフローさせないように画像の符号量
を調整している。このとき、第2のビットストリームの
終端付近のバッファ占有量に対して制限を設けており、
特に、上記第2のビットストリームのスタートアップに
必要とされるバッファ量を確保するための制限を、第2
のビットストリームの終端付近のバッファ占有量に対し
て設けている。この制限については、端子24からの制
御信号に応じて施されるものであるが、その内容につい
ては図3を参照しながら後述する。
【0023】これらの符号化装置10からの第1のビッ
トストリーム及び符号化装置20からの第2のビットス
トリームは、ビットストリーム結合部30において第1
のビットストリームの後に第2のビットストリームの順
に結合され、出力端子36より取り出される。この結合
については、図4を参照しながら後述する。
【0024】すなわち、結合部30で結合する第1、第
2のビットストリームの時間的に前の第1のビットスト
リームの終端近傍でのバッファ占有量にある制限を設け
て符号化装置10で符号化しておき、なおかつ時間的に
後ろの第2のビットストリームの先頭部分でのバッファ
占有量にある制限を設けて符号化装置20で符号化して
おくことによって、上記MPEG1(ISO11172-2)又は
MPEG2(ISO13818-2)に規定されるVBV(Video
Buffer Verifier) の規定を守り、かつシームレスに、
すなわち画像の表示がフリーズ等を伴わず連続して行え
るように結合するわけである。
【0025】これは、結合点においてシームレスな結合
を行った場合、上述した従来例に説明したようなデコー
ダバッファのオーバーフローが起きる可能性があるた
め、シームレス結合に必要なスタートアップに必要とさ
れるバッファ量を予め見込んで、結合点の前後における
符号化制御を行うものである。
【0026】具体的には、結合点Jの前に位置する第1
のビットストリームBS1 の終わり付近のビットレート
を、図2に示すように制限する。ここで、予め決められ
た、連結される後ろの第2のビットストリームをシーム
レスに連結した場合のスタートアップに必要なバッファ
量をαとする。このバッファ量αは、現実の運用におい
て適当な値を設定する。符号化ビットレートをRB で表
し、バッファの全容量をBFとし、最後の画像のバッフ
ァからの引き抜き時刻をTとする。
【0027】この場合、結合点Jの時刻をTとすると、
バッファ占有量の制限としては、 T−(α/RB ) の時刻から開始され、この時刻をt=0として、時間が
進む方向を正とし、バッファの占有量はtの関数として
表されるため、これをBO(t) とすると、 BO(t)=BF−RB ×t となるような制限を加えて、結合よりも時間的に前のビ
ットストリームの終端近傍を符号化する。これが結合点
の前における第1のビットストリームBS1 への制限と
なる。図1においては、端子14からの制御信号が符号
化部12に与えられることにより、ビットストリームの
終端付近の符号化の際に、上述したような制限が加えら
れる。
【0028】同様に、結合点Jの後ろに位置する第2の
ビットストリームBS2 の先頭付近のビットレートを、
図3に示すように制限する。最初のフレームの表示時刻
の1/RF 前のバッファ占有量が上記αより小さいよう
に、スタートアップ時のビットレートを制限しておくわ
けである。すなわち、後ろの第2のビットストリームB
2 の先頭のピクチャのバッファからの引き抜き時刻を
T’とし、フレームレートをRF とした場合に、(T’
−1/RF )の時刻におけるバッファ占有量βが、予め
決められた第2のビットストリームBS2 をシームレス
に連結した場合のスタートアップに必要なバッファ量α
に対して、β<αとなるような制限を加えて、後ろの第
2のビットストリームBS2 の先頭部分を符号化する。
図1においては、端子24からの制御信号が符号化部2
2に与えられることにより、ビットストリームの先頭付
近の符号化の際に、上述したような制限が加えられる。
【0029】この図3中のVBV_dilayとは、上記MP
EG1(ISO11172-2)又はMPEG2(ISO13818-2)に
規定されるVBV(Video Buffer Verifier) の規定に
より、デコーダ側のバッファにおいて引き抜かれるピク
チャに対して必要とされるバッファ蓄積量を時間で示し
たものであり、デコーダにビットストリームが供給が開
始されてVBV_dilayの期間が経過した時刻(T’)
に、最初の表示単位のピクチャがバッファから引き抜か
れ、復号される。
【0030】以上の図2、図3と共に説明したような制
限が加えられて符号化された第1、第2のビットストリ
ームを、図1のビットストリーム結合部30に送って結
合する場合の具体例について、図4を参照しながら説明
する。
【0031】図4は、上述した条件に従ってエンコード
したものを結合した具体例を示している。この場合、前
の第1のビットストリームBS1 の最後の部分では、上
記αの分のバッファ占有量と、これを時間換算したα/
B の分のスタートアップディレイをマージンとして持
っているために、後ろの第2のビットストリームBS2
を結合しても、バッファのオーバーフローを引き起こす
ことはない。また、実際の結合では、前の第1のビット
ストリームBS1 の最後の部分のsequence_end_code
(シーケンスエンドコード)を削除し、削除されたsequ
ence_end_code と(α−β)の分については、ビット充
填(bit stuffing)を行うことで、整合性の保たれた結
合が可能となる。
【0032】すなわち、第1のビットストリームBS1
の最後のレートコントロールを、上記αを用いたオーバ
ーフローレベルBO(t) に抑え込むように第1の符号化
装置10で符号化し、第2のビットストリームBS2
先頭で、時刻(T’−1/RF )でのバッファ占有量β
が上記αより小さくなる(β<α)ように第2の符号化
装置20で符号化することにより、シームレスな結合を
行ってもバッファがオーバーフローしないことが保証さ
れ、αとβとの差分及び上記削除された第1のビットス
トリームBS1 び終端の部分のsequence_end_code につ
いては、無効データ(例えば0等)を充填することで、
MPEGのVBV(Video Buffer Verifier) の規定の
整合性を保ったままでビットストリームの結合を実現し
ている。
【0033】ここで、図1のビットストリーム結合部3
0においては、符号化装置10からの第1のビットスト
リームBS1 の最後の部分のsequence_end_code をデマ
ルチプレクサ31で検出してCPU35に送っており、
符号化装置20からの第2のビットストリームBS2
先頭の部分のsequence_start_code (シーケンススター
トコード)をデマルチプレクサ32で検出してCPU3
5に送っている。これらのデマルチプレクサ31、32
からの第1、第2のビットストリームBS1 、BS
2 は、切換スイッチ34の被選択端子a,bにそれぞれ
送られており、切換スイッチ34の第3の被選択端子c
には、ビット充填回路33からの充填用ビットが供給さ
れている。この切換スイッチ34は、CPU35からの
制御信号により切換制御されており、CPU35は、デ
マルチプレクサ31、32からの第1のビットストリー
ムBS1 の最後の部分のsequence_end_code や、第2の
ビットストリームBS2 の先頭の部分のsequence_start
_code に基づいて、切換スイッチ34を被選択端子aか
らcを介してbに順次切換接続することにより、第1の
ビットストリームBS1 の最後の部分のsequence_end_c
ode を削除すると共に、このsequence_end_code と上記
α−βの分を、ビット充填回路33からの充填ビット
(スタッフィングビット)STで補充して、第2のビッ
トストリームBS2に連結している。切換スイッチ34
からの出力ビットストリームは、出力端子36を介して
取り出される。
【0034】ところで、以上は符号化装置10から出力
された第1のビットストリームの後に符号化装置20か
ら出力された第2のビットストリームを連結した場合の
例であるが、符号化装置20から出力されたビットスト
リームの後に符号化装置10から出力されたビットスト
リームを結合する場合には、符号化装置20から出力さ
れるビットストリームの終端付近で上記バッファ量αに
基づくオーバーフローレベルBO(t) に抑え込むように
符号化装置20での符号化を制限し、符号化装置10か
ら出力されるビットストリームの先頭で、時刻(T’−
1/RF )での上記バッファ占有量βが上記αより小さ
くなる(β<α)ように符号化装置10での符号化を制
限すればよい。この場合には、ビットストリーム結合部
30は、デマルチプレクサ32が符号化装置20から出
力されたビットストリームの終端の部分のsequence_end
_code を検出してCPU35に送り、デマルチプレクサ
31が符号化装置10から出力されたビットストリーム
の先頭の部分のsequence_start_code を検出してCPU
35に送ることになる。これらの情報に基づいて、CP
U35は、切換スイッチ34の被選択端子bからcを経
てaの順に切換制御し、符号化装置20から出力された
ビットストリームの終端の部分のsequence_end_code を
削除して、ビット充填回路33からの充填ビットをこの
sequence_end_code と(α−β)の分だけ充填した後
に、符号化装置10から出力されたビットストリームを
連結して、出力端子36に送る。
【0035】また、符号化装置10から出力される1つ
のビットストリームについて、当該ビットストリームの
先頭部分に上記図3の制限を加えた符号化を施し、該ビ
ットストリームの終端部分に上記図2の制限を加えた符
号化を施すことにより、当該ビットストリームの前後に
それぞれ他のビットストリームを結合することができる
ようになる。
【0036】上述したような図1の構成が適用されるシ
ステムの具体例としては、例えば放送衛星等を介してメ
インの放送局とローカルの放送局とが結ばれて成るよう
な放送ネットワークを挙げることができる。この放送ネ
ットワークにおいて、メインの放送局からの番組を符号
化装置10で符号化して各ローカル局に提供し、各ロー
カル局では、それぞれの地域毎のローカルニュースやC
M等を符号化装置20で符号化したものを結合して出力
端子36より取り出し、それぞれの地域内に送出する。
このとき、メインの局からの放送番組のビットストリー
ムの終端部分については、バッファ占有量が上記図2と
共に説明したBO(t)=BF−RB t を越えない制限が
加えられた符号化が施されており、この後に結合される
ローカル局からの信号のビットストリームの先頭部分に
ついては、上記図3と共に説明したように、上記時刻
(T’−1/RF )でのバッファ占有量βが上記バッフ
ァ量αを越えない(β<α)ような制限が加えられた符
号化が施されており、これらが結合部30でビット充填
を含めてシームレスに結合されて得られたビットストリ
ームについては、デコード時にバッファの破綻がない、
すなわちバッファのオーバーフローやアンダーフローが
生じない。
【0037】以上説明したような実施の形態によれば、
画像信号を上記MPEG1(ISO11172-2)又はMPEG
2(ISO13818-2)を用いて圧縮符号化された2本のビデ
オのビットストリームを結合する場合に、上記VBV
(Video Buffer Verifier) の規定を守り、かつ画像の
表示がフリーズ(静止)などを伴わずに連続して行える
ようなシームレスに結合することがができる。
【0038】
【発明の効果】本発明によれば、複数のビットストリー
ムを結合する場合に、結合点の前の第1のビットストリ
ームの終端付近のデコーダバッファ占有量に対して、第
1の所定の制限を設けて符号化し、また、結合点の後の
第2のビットストリームの先頭付近のデコーダバッファ
占有量に対して、第2の所定の制限を設けて符号化して
いるため、シームレスな結合をバッファの破綻無く行う
ことができる。
【0039】ここで、第1、第2の制限は、第2のビッ
トストリームのスタートアップに必要なデコーダバッフ
ァ量を確保するための制限であり、このような制限を加
えて符号化された第1、第2のビットストリームを結合
することにより、MPEG1(ISO11172-2)又はMPE
G2(ISO13818-2)を用いて圧縮符号化された2本のビ
デオのビットストリームを、VBV(Video Buffer Ver
ifier) の規定を守り、かつ画像の表示がフリーズ(静
止)などを伴わずに連続してビットストリームの結合が
行える。
【図面の簡単な説明】
【図1】本発明の実施の形態を説明するための2系統の
符号化装置からのビットストリームを結合するシステム
の概略構成を示すブロック図である。
【図2】本発明の実施の形態における結合点の前の第1
のビットストリームの符号化の際の制限を説明するため
の図である。
【図3】本発明の実施の形態における結合点の後の第2
のビットストリームの符号化の際の制限を説明するため
の図である。
【図4】本発明の実施の形態における第1のビットスト
リームと第2のビットストリームとの結合を説明するた
めの図である。
【図5】画像信号符号化装置及び復号装置から成るシス
テムの概略構成を示すブロック図である。
【図6】受信バッファ(デコーダバッファ)のバッファ
占有量の変化を示す図である。
【図7】2つのビットストリームのフレームのフリーズ
(静止)を伴う結合の例を説明するための図である。
【図8】2つのビットストリームをシームレスに結合す
る場合の例を説明するための図である。
【符号の説明】
10,20 符号化装置、 12,22 符号化部、
13,23 送信バッファ、 30 ビットストリーム
結合部、 31,32 デマルチプレクサ、33 ビッ
ト充填回路、 34 切換スイッチ、 35 CPU

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 ディジタル信号のビットストリームを符
    号化するディジタル信号符号化方法において、 圧縮符号化された複数のビットストリームを結合する場
    合の時間的に前となる第1のビットストリームの終端付
    近でのバッファ占有量に対して、所定の制限を設けて符
    号化することを特徴とするディジタル信号符号化方法。
  2. 【請求項2】 上記所定の制限は、結合される時間的に
    後の第2のビットストリームのスタートアップに必要な
    バッファ量を確保するための制限であることを特徴とす
    る請求項1記載のディジタル信号符号化方法。
  3. 【請求項3】 上記所定の制限としては、結合される時
    間的に後の第2のビットストリームのスタートアップに
    必要なバッファ量をα、符号化ビットレートをRB 、上
    記第1のビットストリームの最後の画像のバッファから
    の引き抜き時刻をTとするとき、T−(α/RB )の時
    刻からバッファ占有量の制限が開始され、この時刻をt
    =0とするときのバッファ占有量をBO(t) とし、バッ
    ファの全容量をBFとするとき、BO(t)=BF−RB
    ×t となるような制限を加えて上記第1のビットスト
    リームの終端付近を符号化することを特徴とする請求項
    1記載のディジタル信号符号化方法。
  4. 【請求項4】 ディジタル信号のビットストリームを符
    号化するディジタル信号符号化方法において、 圧縮符号化された複数のビットストリームを結合する場
    合の時間的に後となる第2のビットストリームの先頭付
    近でのバッファ占有量に対して、所定の制限を設けて符
    号化することを特徴とするディジタル信号符号化方法。
  5. 【請求項5】 上記所定の制限は、結合される時間的に
    後の上記第2のビットストリームのスタートアップに必
    要なバッファ量を確保するための制限であることを特徴
    とする請求項4記載のディジタル信号符号化方法。
  6. 【請求項6】 上記所定の制限としては、結合される時
    間的に後の第2のビットストリームの先頭の画像のバッ
    ファからの引き抜き時刻をT’とし、フレームレートを
    F とするとき、T’−1/RF の時刻におけるバッフ
    ァ占有量βが、上記第2のビットストリームのスタート
    アップに必要なバッファ量αに対して、β<αとなるよ
    うな制限を加えて上記第2のビットストリームの先頭付
    近を符号化することを特徴とする請求項4記載のディジ
    タル信号符号化方法。
  7. 【請求項7】 複数のディジタル信号をそれぞれ圧縮符
    号化して得られた複数のビットストリームを結合して出
    力するディジタル信号編集方法において、 結合される時間的に前の第1のビットストリームの終端
    付近でのバッファ占有量に対して、所定の制限を設けて
    符号化し、 結合される時間的に後の第2のビットストリームの先頭
    付近でのバッファ占有量に対して、所定の制限を設けて
    符号化することを特徴とするディジタル信号編集方法。
  8. 【請求項8】 上記第1のビットストリームの終端付近
    でのバッファ占有量に対する所定の制限は、結合される
    時間的に後の上記第2のビットストリームのスタートア
    ップに必要なバッファ量を確保するための制限であり、 上記第2のビットストリームの先頭付近でのバッファ占
    有量に対する所定の制限は、結合される時間的に後の上
    記第2のビットストリームのスタートアップに必要なバ
    ッファ量を確保するための制限であることを特徴とする
    請求項7記載のディジタル信号編集方法。
  9. 【請求項9】 上記第1のビットストリームの終端付近
    でのバッファ占有量に対する所定の制限としては、結合
    される時間的に後の上記第2のビットストリームのスタ
    ートアップに必要なバッファ量をα、符号化ビットレー
    トをRB 、上記第1のビットストリームの最後の画像の
    バッファからの引き抜き時刻をTとするとき、T−(α
    /RB )の時刻からバッファ占有量の制限が開始され、
    この時刻をt=0とするときのバッファ占有量をBO
    (t) とし、バッファの全容量をBFとするとき、BO
    (t)=BF−RB ×t となるような制限を加えて上記第
    1のビットストリームの終端付近を符号化し、 上記第2のビットストリームの先頭付近でのバッファ占
    有量に対する所定の制限としては、結合される時間的に
    後の第2のビットストリームの先頭の画像のバッファか
    らの引き抜き時刻をT’とし、フレームレートをRF
    するとき、T’−1/RF の時刻におけるバッファ占有
    量βが、上記第2のビットストリームのスタートアップ
    に必要なバッファ量αに対して、β<αとなるような制
    限を加えて上記第2のビットストリームの先頭付近を符
    号化することを特徴とする請求項7記載のディジタル信
    号編集方法。
  10. 【請求項10】 上記制限を加えて符号化された上記第
    1のビットストリームと上記第2のビットストリームと
    を結合する際に、 上記第1のビットストリームの最後に付加されているse
    quence_end_code を削除し、 上記バッファ量α、βに対して、(α−β)及び削除さ
    れた上記sequence_end_code 分の充填ビットをビットス
    トリームに加えて結合することを特徴とする請求項7記
    載のディジタル信号編集方法。
  11. 【請求項11】 ディジタル信号のビットストリームを
    符号化して出力し伝送するディジタル信号伝送方法にお
    いて、 圧縮符号化された複数のビットストリームを結合するた
    めの1つのビットストリームの終端付近で、バッファ占
    有量に対して第1の所定の制限を設けて符号化するとと
    もに、該ビットストリームの先頭付近で、バッファ占有
    量に対して第2の所定の制限を設けて符号化することを
    特徴とするディジタル信号符号化方法。
  12. 【請求項12】 上記第1の所定の制限としては、結合
    される時間的に後の他のビットストリームのスタートア
    ップに必要なバッファ量をα、符号化ビットレートをR
    B 、現ビットストリームの最後の画像のバッファからの
    引き抜き時刻をTとするとき、T−(α/RB )の時刻
    からバッファ占有量の制限が開始され、この時刻をt=
    0とするときのバッファ占有量をBO(t) とし、バッフ
    ァの全容量をBFとするとき、BO(t)=BF−RB ×
    t となるような制限を加えて現ビットストリームの終
    端付近を符号化し、 上記第2の所定の制限としては、現ビットストリームの
    先頭の画像のバッファからの引き抜き時刻をT’とし、
    フレームレートをRF とするとき、T’−1/RF の時
    刻におけるバッファ占有量βが、当該ビットストリーム
    のスタートアップに必要なバッファ量αに対して、β<
    αとなるような制限を加えて当該ビットストリームの先
    頭付近を符号化することを特徴とする請求項11記載の
    ディジタル信号伝送方法。
JP15253496A 1996-06-13 1996-06-13 ディジタル信号符号化方法 Expired - Fee Related JP3668556B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP15253496A JP3668556B2 (ja) 1996-06-13 1996-06-13 ディジタル信号符号化方法
US08/896,511 US6532242B1 (en) 1996-06-13 1997-06-11 Method for encoding, editing and transmitting digital signals

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15253496A JP3668556B2 (ja) 1996-06-13 1996-06-13 ディジタル信号符号化方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2005069728A Division JP4371066B2 (ja) 2005-03-11 2005-03-11 編集装置及び編集方法

Publications (2)

Publication Number Publication Date
JPH09331524A true JPH09331524A (ja) 1997-12-22
JP3668556B2 JP3668556B2 (ja) 2005-07-06

Family

ID=15542551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15253496A Expired - Fee Related JP3668556B2 (ja) 1996-06-13 1996-06-13 ディジタル信号符号化方法

Country Status (2)

Country Link
US (1) US6532242B1 (ja)
JP (1) JP3668556B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006077621A1 (ja) * 2005-01-18 2006-07-27 Mitsubishi Denki Kabushiki Kaisha 多重化装置及び受信装置
US7280743B2 (en) 2001-11-09 2007-10-09 Kabushiki Kaisha Toshiba Data recording apparatus for recording stream data in which dummy data is inserted and data recording apparatus for recording end code in place of dummy code
US8311104B2 (en) 2005-08-22 2012-11-13 Sony Corporation Information processing apparatus and method, recording medium, and program
WO2015133325A1 (ja) * 2014-03-07 2015-09-11 ソニー株式会社 画像符号化装置および方法、並びに、画像処理装置および方法

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60139632D1 (de) * 2000-11-29 2009-10-01 British Telecomm Übertragen und empfangen von echtzeitdaten
US20050021830A1 (en) * 2001-09-21 2005-01-27 Eduardo Urzaiz Data communications method and system using buffer size to calculate transmission rate for congestion control
AU2002365821A1 (en) * 2001-11-30 2003-06-17 British Telecommunications Public Limited Company Data transmission
KR100475412B1 (ko) * 2002-03-11 2005-03-10 주식회사 럭스퍼트 상부 펌핑방식의 광소자
CN100471266C (zh) * 2002-03-27 2009-03-18 英国电讯有限公司 用于存储流式传输系统的数据源的方法
EP1359722A1 (en) * 2002-03-27 2003-11-05 BRITISH TELECOMMUNICATIONS public limited company Data streaming system and method
GB0306296D0 (en) * 2003-03-19 2003-04-23 British Telecomm Data transmission
JP2008136110A (ja) * 2006-11-29 2008-06-12 Sanyo Electric Co Ltd 映像信号処理回路
JP5152402B2 (ja) * 2009-02-27 2013-02-27 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69422960T2 (de) * 1993-12-01 2000-06-15 Matsushita Electric Ind Co Ltd Verfahren und Vorrichtung zum Editieren oder zur Mischung von komprimierten Bildern
US5534944A (en) * 1994-07-15 1996-07-09 Matsushita Electric Corporation Of America Method of splicing MPEG encoded video
GB9424436D0 (en) * 1994-12-02 1995-01-18 Philips Electronics Video editing buffer management
GB9424429D0 (en) * 1994-12-02 1995-01-18 Philips Electronics Uk Ltd Audio/video timing discrepancy management
US5859660A (en) * 1996-02-29 1999-01-12 Perkins; Michael G. Non-seamless splicing of audio-video transport streams

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7280743B2 (en) 2001-11-09 2007-10-09 Kabushiki Kaisha Toshiba Data recording apparatus for recording stream data in which dummy data is inserted and data recording apparatus for recording end code in place of dummy code
WO2006077621A1 (ja) * 2005-01-18 2006-07-27 Mitsubishi Denki Kabushiki Kaisha 多重化装置及び受信装置
US8369341B2 (en) 2005-01-18 2013-02-05 Mitsubishi Electric Corporation Multiplexing apparatus and receiving apparatus
US8311104B2 (en) 2005-08-22 2012-11-13 Sony Corporation Information processing apparatus and method, recording medium, and program
WO2015133325A1 (ja) * 2014-03-07 2015-09-11 ソニー株式会社 画像符号化装置および方法、並びに、画像処理装置および方法
KR20160130990A (ko) * 2014-03-07 2016-11-15 소니 주식회사 화상 부호화 장치 및 방법과 화상 처리 장치 및 방법
JPWO2015133325A1 (ja) * 2014-03-07 2017-04-06 ソニー株式会社 画像符号化装置および方法、並びに、画像処理装置および方法
US10375406B2 (en) 2014-03-07 2019-08-06 Sony Corporation Image encoding device and method, and image processing device and method for enabling bitstream concatenation
US10764594B2 (en) 2014-03-07 2020-09-01 Sony Corporation Image encoding device and method, and image processing device and method for enabling bitstream concatenation

Also Published As

Publication number Publication date
US6532242B1 (en) 2003-03-11
JP3668556B2 (ja) 2005-07-06

Similar Documents

Publication Publication Date Title
JP4232209B2 (ja) 圧縮画像データの編集装置及び圧縮画像データの編集方法
US7072571B2 (en) Data reproduction transmission apparatus and data reproduction transmission method
EP0913058B1 (en) Video signal compression
JPH11511605A (ja) ビットレートを低減された信号間のスイッチング方法
JP3668556B2 (ja) ディジタル信号符号化方法
US6483945B1 (en) Moving picture encoding method and apparatus
US6754239B2 (en) Multiplexing apparatus and method, transmitting apparatus and method, and recording medium
US7333711B2 (en) Data distribution apparatus and method, and data distribution system
US20090232223A1 (en) Moving Image Conversion Method, Moving Image Convesion Apparatus, Moving Image Conversion System, and Server Apparatus, and Program
US6940901B2 (en) Apparatus and method for information processing
US7403563B2 (en) Image decoding method and apparatus, and television receiver utilizing the same
US7269839B2 (en) Data distribution apparatus and method, and data distribution system
JPH10191331A (ja) 画像データの符号化方法及び装置
JP4371066B2 (ja) 編集装置及び編集方法
JPH11177921A (ja) ディジタルデータ編集方法、ディジタルデータ編集装置
JPH08163558A (ja) 画像復号装置
JP2000287172A (ja) 画像データ処理装置
JPH08191434A (ja) 動画/音声符号化データ多重化方法及び動画/音声符号化データ多重化装置
JP2002077827A (ja) データ配信装置及び方法、データ配信システム
JP3594017B2 (ja) ビットストリームの伝送方法及び伝送システム
KR100345312B1 (ko) 개방된 지오피 구조를 가지는 비디오 스트림의 끊어 잇기방법
Wells Transparent concatenation of MPEG compression
Reid An MPEG-2 digital decoder design: A practical approach with emphasis on elementary stream data flows
JPH11187395A (ja) 可変転送レート圧縮情報復号装置
JP2002112221A (ja) データ伝送方法及び装置、データ伝送システム、伝送媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040322

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041022

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20041117

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20050114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050411

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080415

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100415

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100415

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110415

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120415

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130415

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130415

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140415

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees