JPH11341436A - 編集方法および編集装置 - Google Patents
編集方法および編集装置Info
- Publication number
- JPH11341436A JPH11341436A JP14115198A JP14115198A JPH11341436A JP H11341436 A JPH11341436 A JP H11341436A JP 14115198 A JP14115198 A JP 14115198A JP 14115198 A JP14115198 A JP 14115198A JP H11341436 A JPH11341436 A JP H11341436A
- Authority
- JP
- Japan
- Prior art keywords
- editing
- picture
- point
- encoding
- encoded data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
し、また、再符号化による画質劣化を抑える。 【解決手段】 前のストリーム中のGOP1と、後のス
トリーム中のGOP2とを編集点でスイッチングする。
GOP1では、編集点がIピクチャ(I22)またはP
ピクチャ(P25、P28、P31、P34)の直後に
ないので、編集点の直後のP28以外の編集点以降のピ
クチャを破棄し、編集点以前のピクチャと編集点直後の
P28を出力する。P28を保存するので、編集後にお
いて、B26およびB27をP28を予測参照画像とし
て復号できる。GOP2の編集点以前のB0、B1、B
3およびB4を全て破棄し、編集点以前のI2およびP
5と編集点以降のピクチャを出力する。I2およびP5
を保存するので、P5をI2を予測参照画像として復号
し、復号されたP5を予測参照画像としてB6およびB
7を復号できる。
Description
ばMPEGで符号化された画像信号を編集するのに適用
される編集方法および編集装置に関する。
るMPEG(Moving Picture ExpertsGroup)が広く実用
化されつつある。MPEGのような圧縮符号化を利用す
ることによって、記録媒体を有効活用することができ
る。MPEGにより符号化された画像信号を編集する場
合、復号された画像信号と、外部からの画像信号をつな
げて、再びMPEGで符号化し、ストリームを記録媒体
に記録するような編集システムが構成できる。さらに、
他の記録媒体に記録されているビデオ信号をレコーダに
より記録するダビングの場合でも、他の記録媒体の再生
信号が復号され、再符号化される。
て、I、P、Bの3種類が存在する。Iピクチャ(Intra
-coded picture:イントラ符号化画像) は、符号化され
るときその画像1枚の中だけで閉じた情報を使用するも
のである。従って、復号時には、Iピクチャ自身の情報
のみで復号できる。Pピクチャ(Predictive-coded pict
ure :順方向予測符号化画像)は、予測画像(差分をと
る基準となる画像)として、時間的に前の既に復号され
たIピクチャまたはPピクチャを使用するものである。
動き補償された予測画像との差を符号化するか、差分を
取らずに符号化するか、効率の良い方をマクロブロック
単位で選択する。Bピクチャ(Bidirectionally predict
ive-coded picture :両方向予測符号化画像)は、予測
画像(差分をとる基準となる画像)として、時間的に前
の既に復号されたIピクチャまたはPピクチャ、時間的
に後ろの既に復号されたIピクチャまたはPピクチャ、
並びにこの両方から作られた補間画像の3種類を使用す
る。この3種類のそれぞれの動き補償後の差分の符号化
と、イントラ符号化の中で、最も効率の良いものをマク
ロブロック単位で選択する。
フレーム内符号化(Intra) マクロブロックと、過去から
未来を予測する順方向(Foward)フレーム間予測マクロブ
ロックと、未来から過去を予測する逆方向(Backward)フ
レーム間予測マクロブロックと、前後両方向から予測す
る両方向マクロブロックとがある。Iピクチャ内の全て
のマクロブロックは、フレーム内符号化マクロブロック
である。また、Pピクチャ内には、フレーム内符号化マ
クロブロックと順方向フレーム間予測マクロブロックと
が含まれる。Bピクチャ内には、上述した4種類の全て
のタイプのマクロブロックが含まれる。
を可能とするために、複数枚のピクチャのまとまりであ
るGOP(Group Of Picture)構造が規定されている。G
OPに関するMPEGの規則では、第1にビットストリ
ーム上で、GOPの最初がIピクチャであること、第2
に、原画像の順で、GOPの最後がIまたはPピクチャ
であることが規定されている。また、GOPとしては、
以前のGOPの最後のIまたはPピクチャからの予測を
必要とする構造も許容されている。以前のGOPの画像
を使用しないで復号できるGOPは、クローズドGOP
と称される。編集を重視する場合には、クローズドGO
Pの構造とされることが多い。
を用いてコーディングを行なっているので、MPEGビ
ットストリームを編集する時には、制約が発生する。す
なわち、GOPの切れ目と編集点を一致させれば、クロ
ーズドGOPであれば、特に問題が生じない。しかしな
がら、通常、一つのGOPの長さは、0.5秒程度のこ
とが多く、編集点としては、期間が長くなりすぎる。そ
こで、一般的には、フレーム(ピクチャ)単位の精度で
編集を行うことが好ましい。
点で切り換えられたストリームを考えると、フレーム単
位の場合では、どのような位相で二つのストリームが接
続されるかが分からない。編集点が含まれず、GOP構
造が完全に保存されているGOPの場合では、編集点処
理を行わないで、そのまま出力しても復号することがで
きる。
存されない場合に問題が生じる。編集点より時間的に前
のストリームでは、GOPの編集点から後のデータが破
棄される。また、時間的に後のストリームでは、編集点
から前のデータが破棄される。編集点をはさんで残った
二つのストリームを復号する場合には、これらの二つの
ストリームを新たなGOPとして扱う。従って、新たな
GOPに予測参照画像としてのIピクチャが含まれてい
ないと、そのGOPが復号不可能となってしまう。この
場合には、編集後のビットストリームの復号を可能とす
るために、ビットストリームをMPEG復号で一度ベー
スバンドに戻し、再度符号化を行なってビットストリー
ムを得る必要がある。
のピクチャタイプをIピクチャに変更し、このIピクチ
ャを基準としてピクチャタイプを規定するようにしてい
た。すなわち、編集前のGOPを復号し、先頭のピクチ
ャタイプをIピクチャとしてピクチャタイプを再度規定
して再符号化することによって、新たなGOPを形成し
ていた。
編集点の処理方法では、スイッチングを含め編集作業の
たびに、復号、符号化を繰り返すことになる。通常、ベ
ースバンド−ビットストリーム間の復号、符号化処理
は、大きな画質劣化を伴う。また、再符号化のために、
動きベクトルを求めるための演算が必要とされる問題が
あった。
のために、復号処理および再符号化処理を不要とし、そ
れによって、画質の劣化を防止でき、また、再符号化の
ために動きベクトルを求める演算を不要とできる編集方
法および編集装置を提供することにある。
した課題を達成するために、画像間予測符号化により符
号化された符号化データを編集する編集方法において、
第1および第2の符号化データを編集点で接続するよう
な編集を行う際に、編集点の前または後の不要な符号化
データを破棄すると共に、編集後の符号化データを復号
するのに必要とされる予測参照画像を保存し、編集のた
めに復号および再符号化を行わないことを特徴とする編
集方法である。
り符号化された符号化データを編集する編集方法におい
て、第1および第2の符号化データを編集点で接続する
ような編集を行う際に、編集点の前または後の不要な符
号化データを破棄すると共に、編集後の符号化データを
復号するのに必要とされる予測参照画像を保存し、編集
のために復号および再符号化を行わないようにした第1
の編集方法と、編集点付近の第1および第2の符号化デ
ータを復号し、再符号化するようにした第2の編集方法
とを組み合わせ、第1および第2の符号化データの一方
に第1の編集方法を適用し、その他方に第2の編集方法
を適用することを特徴とする編集方法である。
り符号化された符号化データを編集する編集装置におい
て、第1および第2の符号化データを編集点で接続する
ような編集を行う際に、編集点の前または後の不要な符
号化データを破棄すると共に、編集後の符号化データを
復号するのに必要とされる予測参照画像を出力し、予測
参照画像を保存し、編集のために復号および再符号化を
行わないことを特徴とする編集装置である。
ームでもって編集し、編集後のストリームを復号するの
に必要な予測参照画像を保存する。編集後のストリーム
を復号する時に、保存されている予測参照画像を使用す
る。保存した予測参照画像は、表示されない。
いて図面を参照して説明する。図1は、この発明の一実
施形態における編集点処理方法を示すフローチャートで
ある。最初のステップST1から編集点処理を開始す
る。次のステップST2では、編集により接続する2個
のビットストリームで、時間的に先になるストリームの
編集点(OUT点)を含むGOP(GOP1)の処理を
開始する。
編集点がIまたはPピクチャの直後にあるかどうかが決
定される。編集点がIまたはPピクチャの直後にある場
合には、ステップST4において、編集点以降のビット
ストリームを破棄し、ステップST5において、GOP
1以前の部分をそのまま出力する。すなわち、編集点よ
り前のストリームには、予測参照画像であるIまたはP
ピクチャが残るので、特別な処理をしないでも、編集処
理後のストリーム中のこの部分を復号することができ
る。
はPピクチャの直後にない場合には、ステップST6に
おいて、編集点の直後のIまたはPピクチャ以外の編集
点以降のピクチャを破棄する。次のステップST7にお
いて、編集点より前のピクチャと編集点直後のIまたは
Pピクチャを出力する。
り接続する二つのストリームの内で、時間的に後になる
ストリームの編集点(IN点)を含むGOP(GOP
2)の処理を開始する。ステップST9では、編集点以
前のBピクチャを全て破棄する。そして、ステップST
10では、編集点以前のIピクチャおよびPピクチャ
と、編集点以降のピクチャを出力し、編集点処理を終了
する(ステップST11)。編集点以前のIピクチャお
よびPピクチャは、表示しないが保存する必要のあるピ
クチャである。
してより具体的に説明する。図2は、時間的に前のスト
リームに含まれると共に、編集点が含まれるGOP1
と、時間的に後のストリームに含まれると共に、編集点
が含まれるGOP2とを編集点でスイッチングする例を
示している。何れのストリームのGOPも、ピクチャ数
N=15で、予測参照画像(IまたはPピクチャ)の現
れる周期M=3である。また、図2に示すピクチャの順
序は、再生画像の順序である。再生画像の順序は、原画
像および復号画像の順序と一致している。
編集点がIピクチャ(I22)またはPピクチャ(P2
5、P28、P31、P34)の直後にはないので、ス
テップST3を通って、ステップST6において、編集
点の直後のPピクチャP28以外の編集点以降のピクチ
ャを破棄する。そして、編集点以前のピクチャと編集点
直後のPピクチャP28を出力する(ステップST
7)。PピクチャP28を保存するのは、編集後のスト
リームに含まれるBピクチャB26およびB27をP2
8を予測参照画像として復号するためである。
4)の処理を開始する(ステップST8)。編集点以前
のBピクチャB0、B1、B3およびB4を全て破棄す
る(ステップST9)。そして、編集点以前のIピクチ
ャI2およびPピクチャP5と編集点以降のピクチャを
出力し(ステップST10)、編集点の処理を終了する
(ステップST11)。IピクチャI2およびPピクチ
ャP5を保存するのは、PピクチャP5をI2を予測参
照画像として復号し、復号されたP5を予測参照画像と
して編集後のストリームに含まれるBピクチャB6およ
びB7を復号するためである。
IまたはPピクチャは、編集後のストリームに含まれる
Bピクチャを復号するために必要なものであり、編集後
のストリームに対応する映像信号として表示されない。
保存するためには、記録媒体上の所定の領域に保存する
ピクチャをまとめて記録すれば良い。
ピクチャの直後に存在する時では、何らピクチャを保存
する必要がない。一方、編集点がIまたはPピクチャの
直後に存在しない時では、一つのIまたはPピクチャを
保存する必要がある。GOP2の場合では、編集点の位
置によって保存する必要があるピクチャの量が異なる。
編集点の位置がGOP2の後の方になると、保存するピ
クチャ数が徐々に増加し、最大で、P14以外の4枚の
ピクチャ(I2、P5、P8、P11)を保存する必要
が生じる。このように、一つの編集点について最大で5
個のピクチャを保存するために、例えば記録媒体上で冗
長度が増加する問題が生じる。さらに、GOP当たりの
データ発生量を一定に制御することができない。
行ってからGOP2の編集点処理を行うようにしている
が、その順序を逆としても良い。また、GOP1の編集
点処理とGOP2の編集信号処理とを並列に行うように
しても良い。
は、編集後のビットストリームを復号するのに必要な予
測参照画像(IまたはPピクチャ)を保存することによ
って、編集処理後の新たなGOPを形成するための復号
処理と、復号データの再符号化処理とを不要とできる。
従って、復号および再符号化によって生じる画質劣化を
防止することができ、また、再符号化のために動きベク
トルを演算する必要がない。
ために、若し、図2に示すような編集後のビットストリ
ームを復号し、再符号化すると仮定した場合の処理につ
いて図3を参照して説明する。MPEGエンコーダ内の
順序並び替え処理によって、編集後のビットストリーム
は、図3に示すように、IおよびPピクチャを先に符号
化し、次に、Bピクチャを符号化するような順序に並び
替えられる。
I22を予測参照画像として用い、順方向予測によって
PピクチャP25を符号化し、P25を予測参照画像と
して用い、順方向予測によってP28を符号化する。次
に、I22、P25、P28を予測参照画像として用い
て、BピクチャB20、B21、B23、B24、B2
6、B27をそれぞれ符号化する。BピクチャB23、
B24、B26、B27の各ピクチャの符号化は、順方
向動きベクトルFwおよび逆方向動きベクトルBkの両
者使用した両方向予測符号化である。B20およびB2
1の各ピクチャの符号化は、逆方向動きベクトルのみを
使用する。
いるI2を予測参照画像として用い、順方向予測によっ
て、P5を符号化し、P5を予測参照画像として用い、
順方向予測によって、P8を符号化する。そして、これ
らのI2、P5、P8を予測参照画像として用い、Bピ
クチャB6、B7、B9、B10、B12、B13を符
号化する。例えばBピクチャB6は、P5を予測参照画
像として用いる順方向予測と、P8を予測参照画像とし
て用いる逆方向予測とを組み合わせた両方向予測によっ
て符号化される。
前後のGOPは、クローズドGOPではないが、I2を
予測参照画像とするB26、B27への逆方向ベクトル
を使用しない。通常、編集点の前後では、画像の相関が
ないからである。また、クローズドGOPであるか否か
は、この発明による編集処理に対して影響を与えるもの
ではない。
説明する。第1の形態は、ランダムアクセス可能な記録
媒体例えば書き換え可能な光ディスク上に、既に記録さ
れている二つのストリームを接続して再生し、恰も記録
済のストリームを編集したかのようにする編集処理であ
る。保存すべきピクチャ以外には、二つのストリームを
接続したものを記録する必要はない。第2の形態は、記
録媒体に記録済のストリームを再生し、この再生ストリ
ームと外部からのストリームを接続する信号処理を行
い、二つのストリームを接続したストリームを記録媒体
に記録する編集処理である。第3の形態は、外部からの
二つのストリームを受け取り、二つのストリームを接続
したストリームを記録媒体に記録する編集処理である。
これらの編集処理において、編集点付近の処理に対して
上述したこの発明の一実施形態を適用することができ
る。
ビットストリームを記録すると共に、光ディスク20か
らMPEGビットストリームを再生するディスクレコー
ダの一例を示す。図4において、21で示す入力端子に
は、ディジタル映像信号が直接供給される。22で示す
入力端子には、アナログ映像信号が供給される。アナロ
グ映像信号は、撮像信号、アンテナで受信した放送映像
信号等である。アナログ映像信号は、A/D変換部23
によりディジタル映像信号へ変換される。入力端子21
からのディジタル映像信号およびA/D変換部23から
のディジタル映像信号の一方が入力選択スイッチ24に
よって選択される。選択されたディジタル映像信号がM
PEGエンコーダ25に供給される。
像信号に対してMPEGによる圧縮符号化を施す。MP
EGエンコーダ25の出力がスイッチ回路26の一方の
入力端子に供給される。スイッチ回路26の他方の入力
端子には、端子27からMPEGビットストリームが供
給される。MPEGエンコーダ25または外部からのビ
ットストリームは、バスを介して統合バッファメモリ2
8の記録系用バッファメモリ部28aに格納される。統
合バッファメモリ28は、システムコントロ−ラ37に
よって制御されるメモリ制御部29によりアドレスが指
定され、MPEGエンコーダ25は、動きベクトルを検
出する動き予測部、ピクチャ順序並び替え部、入力映像
信号とローカル復号映像信号間の予測誤差を形成する減
算部、減算出力をDCT変換するDCT部、DCT部の
出力を量子化する量子化部、量子化出力を可変長符号化
する可変長符号化部、一定レートで符号化データを出力
するバッファメモリとから構成される。ピクチャ順序並
び替え部は、ピクチャの順序を符号化処理に適したもの
に並び替える。つまり、IおよびPピクチャを先に符号
化し、その後、Bピクチャを符号化するのに適した順序
にピクチャを並び替える。ローカル復号部は、逆量子化
部、逆DCT部、加算部、フレームメモリおよび動き補
償部で構成される。動き補償部では、順方向予測、逆方
向予測、両方向予測が可能とされている。イントラ符号
化の場合では、減算部は、減算処理を行わず、単にデー
タが通過する。
れたビットストリームは、バス、デ−タ処理部30およ
び記録再生切り替えスイッチ31を介して光ディスクド
ライブに供給される。デ−タ処理部30は、記録信号処
理部30aと再生信号処理部30bからなる。記録信号
処理部30aは、エラー訂正符号化、ディジタル変調等
の処理を行い、再生信号処理部30bは、エラー訂正、
ディジタル変調の復調等の処理を行う。
記録用のレ−ザ光を照射して信号を記録すると共に、再
生用のレ−ザ光を照射して信号を再生するための光ヘッ
ド32と、光ディスク20を回転駆動するスピンドルモ
−タ33とを備えている。ヘッド32とスピンドルモ−
タ33は、ディスク/ヘッド制御部34により制御され
る。光ヘッド32によって、記録信号処理部30aの出
力信号が光ディスク20に記録される。光ディスク20
は、書き換え可能なもので、MO(光磁気)ディスク、
相変化型ディスク等を使用できる。
ドライブの制御をディスク/ヘッド制御部34を介して
行うと共に、光ディスクドライブの状態も管理してお
り、その情報をメモリ制御部29に伝え、統合バッファ
メモリ28からのデ−タの供給の制御を行う。
を介して統合バッファメモリ28の再生系用バッファメ
モリ部28bから供給される再生ビットストリームは、
スイッチ回路38に供給される。スイッチ回路38は、
再生ビットストリームをMPEGデコーダ39または端
子40に選択的に出力する。MPEGデコーダ39は、
再生ビットストリームを復号し、MPEGデコーダ39
からの復号映像信号は、D/A変換部41によりアナロ
グ映像信号に変換され、アナログ出力端子42に取り出
される。また、ディジタル復号映像信号が出力されるデ
ィジタル出力端子43が設けられている。
リ、可変長符号復号部、逆DCT部、逆量子化部、逆量
子化部の出力とローカル復号出力を加算する加算部、ピ
クチャ順序並び替え部並びにフレームメモリおよび動き
補償部からなるローカル復号部によって構成されてい
る。イントラ符号化の場合では、加算部での加算処理が
なされず、データが加算部を通過する。加算部からの復
号データがピクチャ順序並び替え部によって元の画像の
順序とされる。
ィスク/ヘッド制御部34によりサ−ボ、ヘッド移動等
が制御され、再生信号をデ−タ処理部30の再生信号処
理部30b、バスを介して再生系用バッファメモリ部2
8bに出力する。再生系用バッファメモリ部28bは、
再生信号の書き込みと読み出しのバランスを取りなが
ら、再生ビットストリームをスイッチ回路38に供給す
る。スイッチ回路38で選択されたビットストリーム
は、出力端子に40に取り出されるか、または、MPE
Gデコーダ39によって復号される。MPEGデコーダ
39からの復号映像信号は、D/A変換部41または出
力端子43に出力される。D/A変換部41は、ディジ
タル映像信号をアナログ映像信号に変換し、出力端子4
2に出力する。
系用と再生系用の記憶領域の割り当てを可変する統合バ
ッファメモリ28と、記録モードまたは再生モ−ドに応
じて統合バッファメモリ28の記憶領域割り当て処理が
システムコントロ−ラ37により制御される。すなわ
ち、記録系用バッファメモリ部28aと再生系用バッフ
ァメモリ部28bは、メモリ制御部29を介したシステ
ムコントロ−ラ37の制御により、そのエリアを可変と
する。例えば、記録時には、記録系用バッファメモリ部
28aは、統合バッファメモリ28の全てを占める。ま
た、再生時には、再生系用バッファメモリ部28bが全
てを占める。また、同時記録再生時には、半分ずつメモ
リ容量を確保するようにしてもよい。
の発明による編集点処理を行うことができる編集点処理
装置の一実施形態について、図5を参照して説明する。
51で示す入力端子には、ディスクレコーダから再生さ
れ、出力端子40に取り出されるMPEGビットストリ
ームが供給される。入力ストリームには、何らかの手段
により予め編集点(OUT点、IN点)が設定されてい
る。例えばビットストリーム中に編集点の位置を示す情
報が挿入されている。編集点の位置情報は、ビットスト
リームと同期するようにされたビットストリーム以外の
信号経路で伝送することも可能である。
2に供給される。編集点判定回路52は、編集点情報と
MPEGビットストリームに付随する符号化情報(ピク
チャタイプ)とからGOP1中で破棄するピクチャと保
存するピクチャとを決定し、ビットストリーム編集回路
53に対してピクチャの破棄/保存を制御するための制
御信号S10を出力する。
ーム編集回路53が接続される。ビットストリーム編集
回路53は、制御信号S10に応答して、保存すべきピ
クチャを除いて、ピクチャを破棄する。ビットストリー
ム編集回路53から出力端子54に対して保存すべきピ
クチャが取り出される。この出力ピクチャは、上述した
ディスクレコーダの入力端子27に供給され、記録処理
を受けて光ディスク20上の所定の領域に記録される。
編集形態によっては、このように保存すべきピクチャの
みを記録する場合に限らず、編集後のストリームの全体
を記録する場合がある。
内で、例えば第1の形態、すなわち、光ディスク上に、
既に記録されている二つのストリームを接続して再生
し、恰も記録済のストリームを編集したかのようにする
編集処理に適用される。この編集点処理の場合では、デ
ィスクレコーダが最初に光ディスク20から時間的に先
のストリーム(ST1と表記する)を再生し、ストリー
ムST1の編集点(OUT点)の近傍のストリームを編
集点処理装置の入力端子51に供給する。図1のフロー
チャートに示される編集点が含まれるGOP1の処理を
編集点判定回路52およびビットストリーム編集回路5
3が行う。それによって、保存すべきピクチャ(図2の
例では、P28)をビットストリーム編集回路53が出
力し、保存すべきピクチャを光ディスク20上の所定領
域に記録する。
トリーム(ST2と表記する)を光ディスク20から再
生し、ストリームST2の編集点(IN点)の近傍のス
トリームを編集点処理装置の入力端子51に供給する。
図1のフローチャートに示される編集点が含まれるGO
P2の処理を編集点処理装置が行う。それによって、保
存すべきピクチャ(図2の例では、I2およびP5)を
ビットストリーム編集回路53が出力し、保存すべきピ
クチャを光ディスク20上の所定領域に記録する。
リンク情報に基づいてストリームST1のOUT点ま
で、ピクチャP28、ピクチャI2、ピクチャP5、ス
トリームST2のIN点より後のストリームを順に再生
する。再生されたストリームがMPEGデコーダ39
(図4参照)に供給され、MPEGデコーダ39によっ
て復号される。保存すべきピクチャP28、I2、P5
をそれぞれ予測参照画像として、ストリーム中のBピク
チャを復号することができる。そして、復号された映像
信号中で、これらの保存すべきピクチャに対応するフレ
ームは、表示されない。一例として、MPEGデコーダ
39が出力する映像信号中から、保存すべきピクチャに
対応するフレームが出力されないように、システムコン
トローラ37によって制御される。
態は、編集点処理が復号処理および再符号化処理を含ま
ない。しかしながら、復号処理および再符号化処理を行
う編集点処理と組み合わせる複合編集点処理も可能であ
る。
処理の一例について、図6、図7および図8を参照して
説明する。図6および図7は、一連の処理を作図スペー
ス上の制約から二つのフローチャートに分割したもので
ある。最初のステップST31から編集点処理を開始す
る。次のステップST32では、編集により接続する2
個のビットストリームで、時間的に先になるストリーム
の編集点(OUT点)を含むGOP(GOP1)の処理
を開始する。GOP1より前のGOPに関しては、編集
点処理が不要である。
て、編集点がIピクチャよりも前にあるかどうかが決定
される。編集点がIピクチャよりも前でない、すなわ
ち、後ろであると決定されると、ステップST34にお
いて、編集点がIまたはPピクチャの直後にあるかどう
かが決定される。編集点がIまたはPピクチャの直後に
ある場合には、ステップST35において、編集点以降
のビットストリームを破棄し、ステップST36におい
て、GOP1の残りの部分をそのまま出力する。すなわ
ち、編集点より前のストリームには、予測参照画像であ
るIまたはPピクチャが残るので、特別な処理をしない
でも、編集処理後のストリーム中のこの部分を復号する
ことができる。
たはPピクチャの直後にない場合には、ステップST3
7において、GOP1を一旦復号して、ステップST3
8において編集点以降のピクチャを破棄し、ステップS
T39において、第1の再符号化処理を行う。第1の再
符号化処理は、IまたはPピクチャと編集点の間にある
BピクチャをIまたはPピクチャを予測参照画像として
順方向動きベクトルFwのみで再符号化する処理であ
る。
ーム内符号化マクロブロックと、過去から未来を予測す
る順方向フレーム間予測マクロブロックと、未来から過
去を予測する逆方向フレーム間予測マクロブロックと、
前後両方向から予測する両方向マクロブロックとが含ま
れる。従って、順方向動きベクトルFwのみで再符号化
する場合、順方向フレーム間予測マクロブロックおよび
両方向マクロブロックの場合では、復号時に使用した動
きベクトルFwを再利用できる。一方、逆方向フレーム
間予測マクロブロックについては、順方向動きベクトル
Fwを再計算する必要がある。
単位の動きベクトルに基づいて検出できる。動きベクト
ルがないものは、フレーム内符号化マクロブロックであ
り、順方向動きベクトルのみがあるマクロブロックは、
順方向フレーム間予測マクロブロックであり、逆方向動
きベクトルのみがあるマクロブロックは、逆方向フレー
ム間予測マクロブロックであり、両方向の動きベクトル
があるマクロブロックは、両方向マクロブロックであ
る。動きベクトル以外に、ストリーム中に挿入される情
報から直接的にマクロブロックタイプを検出することも
できる。
クチャより前にあると決定されると、編集点以降を破棄
した時に、Iピクチャが残らない。従って、GOP1を
一旦復号して、次に、編集点以降のピクチャを破棄し、
そして、再符号化する。この再符号化の処理は、GOP
1(GOP1が含まれるビットストリーム)がクローズ
ドGOPか否かによって影響を受ける。この点を考慮し
て、ステップST40においてGOP1がクローズドG
OPかどうかが決定される。ストリーム中のGOPヘッ
ダには、符号化時に設定されたクローズドGOPフラグ
が挿入されているので、このフラグからクローズドGO
Pかどうかを決定できる。フラグがクローズドGOPで
あることを示している時には、そのGOPの最初の複数
のBピクチャが以前のGOPに依存しない。
されると、ステップST41において、GOP1を一旦
復号して、ステップST42において編集点以降のピク
チャを破棄する。そして、ステップST43において、
第2の再符号化処理がなされる。第2の再符号化処理で
は、最初に現れるBピクチャをIピクチャとして再符号
化し、そのBピクチャ以外の他のBピクチャがある場合
には、そのBピクチャを予測参照画像(Iピクチャ)と
して、順方向動きベクトルFwのみを用いて他のBピク
チャを再符号化する。順方向動きベクトルFwは、復号
画像から求める。
は、ステップST40からステップST44に処理が移
る。ステップST44で、GOP1が復号され、編集点
以降が破棄される(ステップST45)。そして、ステ
ップST46において、第3の再符号化処理がなされ
る。つまり、クローズドGOPではないので、直前のG
OPの最後のPピクチャを予測参照画像として用い、順
方向動きベクトルFwのみでBピクチャを符号化する。
順方向動きベクトルFwとしては、復号に使用された順
方向動きベクトルを再利用できる。
て、編集により接続する二つのストリームの内で、時間
的に後になるストリームの編集点(IN点)を含むGO
P(GOP2)の処理を開始する。それ以外の後のGO
Pに関しては、特別な処理をしないでビットストリーム
のまま出力する。
て、編集点がIピクチャより前にあるかどうかが決定さ
れる。編集点がIピクチャよりも前でなく、すなわち、
後ろにあるならば、編集点より前のストリームを破棄し
た時に、Iピクチャが失われる。この点を考慮して、G
OP2を一旦復号し、次に、編集点以前を破棄し、そし
て、再符号化を行う。また、ステップST49では、G
OP1の場合と同様に、GOP2に関して、クローズド
GOPか否かが決定される。クローズドGOPか否か
は、再符号化の処理に影響を与える。
ステップST50においてGOP2が復号され、次に、
編集点以前が破棄され(ステップST51)、そして、
ステップST52において、第4の再符号化処理がなさ
れる。ステップST52の第4の再符号化処理では、最
初に現れるPピクチャをIピクチャとして再符号化す
る。そのPピクチャと編集点の間にBピクチャがある場
合は、そのPピクチャを予測参照画像として、逆方向予
測のみによって、すなわち、逆方向動きベクトルBkの
みで再符号化する。そのPピクチャより後は、編集作業
前と同じピクチャタイプの関係でもって再符号化を行
う。その結果、PピクチャをIピクチャに変更し、ステ
ップST50の復号時に使用した符号化情報、例えば動
きベクトルを用いて再符号化を行う。再符号化出力を出
力して編集点処理を終了する(ステップST59)。
OPでないと決定されると、ステップST53において
GOP2が復号され、次に、編集点以前が破棄され(ス
テップST54)、その次のステップST55におい
て、直後のGOPのIピクチャ以前を復号し、そして、
ステップST56において、第5の再符号化処理がなさ
れる。
は、第4の再符号化処理と同様に、最初のPピクチャを
Iピクチャとして再符号化し、以降のピクチャは編集前
と同じピクチャタイプで再符号化する。Bピクチャの再
符号化は、第4の再符号化処理と異なる。つまり、GO
P2の最後のPピクチャを直後のGOPのIピクチャか
ら、直後のIピクチャより前にあるBピクチャを再符号
化して出力する。このBピクチャの再符号化のために、
ステップST23、ST25の復号時に使用した順方向
動きベクトルおよび逆方向動きベクトルを使用できる。
再符号化出力を出力して編集点処理を終了する(ステッ
プST59)。
クチャより前にある場合には、ステップST57におい
て、編集点より前のビットストリームを破棄する。残り
のビットストリームにIピクチャが残る。そして、ステ
ップST58において、GOP2の残りのビットストリ
ームを出力し、編集点処理を終了する(ステップST5
9)。
て、図8を参照してより具体的に説明する。図8は、時
間的に前のストリームに含まれると共に、編集点が含ま
れるGOP1と、時間的に後のストリームに含まれると
共に、編集点が含まれるGOP2とを編集点でスイッチ
ングする例を示している。何れのストリームのGOP
も、ピクチャ数N=15で、予測参照画像(IまたはP
ピクチャ)の現れる周期M=3である。一例として、ク
ローズドGOPの場合について説明するが、クローズド
GOPでない場合でも、再符号化処理を除いてほぼ同様
の処理がなされる。また、図8に示すピクチャの順序
は、再生画像の順序である。再生画像の順序は、原画像
および復号画像の順序と一致する。
編集点がIピクチャ(I22)より後ろにあり、編集点
がIまたはPピクチャの直後にはないので、ステップS
T33、ステップST34を通って、ステップST37
において、GOP1が復号される。この復号に使用した
符号化情報を保存する。保存する必要がある符号化情報
は、ピクチャタイプ(この情報は、必ず必要)、動きベ
クトル、ピクチャ毎の量子化スケールである。
以降(PピクチャP28以降)が破棄されてから、ステ
ップST9の第1の再符号化処理がなされる。すなわ
ち、PピクチャP25の後のBピクチャB26およびB
27を順方向動きベクトルFwのみを使用して再符号化
する。順方向動きベクトルFwは、マクロブロックタイ
プによって、復号時に保存しているもの、または再計算
して求めたものが使用される。B26およびB27以外
のGOP1の残りの画像の再符号化は、ステップST7
における復号時に使用した符号化情報をそのまま使用し
て行う。
フレーム内符号化マクロブロックと、過去から未来を予
測する順方向フレーム間予測マクロブロックと、未来か
ら過去を予測する逆方向フレーム間予測マクロブロック
と、前後両方向から予測する両方向マクロブロックとが
含まれる。従って、順方向動きベクトルFwのみで再符
号化する場合、順方向フレーム間予測マクロブロックお
よび両方向マクロブロックの場合では、復号時に使用し
た動きベクトルFwを再利用できる。一方、逆方向フレ
ーム間予測マクロブロックについては、順方向動きベク
トルFwを再計算する必要がある。
4)の処理を開始する。編集点がIピクチャI2以前で
はないので、編集点以前を破棄した時には、I2が失わ
れてしまう。そこで、GOP2を復号して、編集点以前
(B0〜P5)を破棄する(ステップST48、ST4
9、ST50、ST51)。そして、ステップST52
の第4の再符号化処理がなされる。すなわち、最初のP
ピクチャP8をIピクチャとして、再符号化する。それ
以外のピクチャは、編集前と同じピクチャタイプで再符
号化する。P8の前にあるBピクチャB6およびB7
は、Iピクチャに変更されるP8を予測参照画像として
逆方向動きベクトルBkを求め、この逆方向動きベクト
ルBkのみによって再符号化する。
明したのと同様に、B6およびB7にそれぞれ含まれる
マクロブロックの内で、逆方向フレーム間予測マクロブ
ロックと、両方向マクロブロックとに関しては、復号時
に使用した動きベクトルBkを再利用できる。一方、順
方向フレーム間予測マクロブロックについては、逆方向
動きベクトルBkを再計算する必要がある。
集点処理は、編集点以降に最初に現れる参照画像の予測
方式をフレーム内符号化方式に変更する以外は、編集点
より時間的に前の第1のストリームと、編集点より時間
的に後の第2のストリームとに関して、編集後におい
て、予測参照画像の現れる周期を編集前のものと同一の
周期とするものである。そして、このような復号処理お
よび再符号化処理を行う編集点処理と、これらの処理を
行わないこの発明の一実施形態を組み合わせる方法とし
ては、例えば時間的に先に現れるストリーム(GOP
1)は、復号処理および再符号化処理を行わない方式で
処理し、時間的に後に現れるストリーム(GOP2)
は、復号処理および再符号化処理を行う方式で処理する
ものが可能である。
集点より後のピクチャ数が多い場合には、表示しないが
保存するピクチャ数が少なくて済むので、復号および再
符号化処理を行なわない方式で処理し、GOP2内の編
集点より後のピクチャ数が少ない合には、表示しないが
保存するピクチャ数が多くなるので、復号および再符号
化処理を行なう方式で処理する。このように、表示しな
いが、保存する必要のあるピクチャ数に適応して、編集
点処理方式を選択するようになされる。また、復号画像
の画質を考慮して編集点処理方式を選択するようにして
も良い。
MPEGストリームを編集し、編集点処理のために、符
号化データの復号、および再符号化を不要とできる。従
って、復号−再符号化による画質の劣化を防止すること
ができ、また、再符号化のために動きベクトルを求める
計算を不要とできる。
説明するためのフローチャートである。
説明するためのタイミングチャートである。
した再符号化処理を説明するためのタイミングチャート
である。
のブロック図である。
ブロック図である。
理方法を説明するためのフローチャートである。
理方法を説明するためのフローチャートである。
理方法を説明するためのタイミングチャートである。
ム編集回路
Claims (8)
- 【請求項1】 画像間予測符号化により符号化された符
号化データを編集する編集方法において、 第1および第2の符号化データを編集点で接続するよう
な編集を行う際に、上記編集点の前または後の不要な符
号化データを破棄すると共に、編集後の符号化データを
復号するのに必要とされる予測参照画像を保存し、編集
のために復号および再符号化を行わないことを特徴とす
る編集方法。 - 【請求項2】 画像間予測符号化により符号化された符
号化データを編集する編集方法において、 第1および第2の符号化データを編集点で接続するよう
な編集を行う際に、上記編集点の前または後の不要な符
号化データを破棄すると共に、編集後の符号化データを
復号するのに必要とされる予測参照画像を保存し、編集
のために復号および再符号化を行わないようにした第1
の編集方法と、 上記編集点付近の上記第1および第2の符号化データを
復号し、再符号化するようにした第2の編集方法とを組
み合わせ、 上記第1および第2の符号化データの一方に上記第1の
編集方法を適用し、その他方に上記第2の編集方法を適
用することを特徴とする編集方法。 - 【請求項3】 請求項1または2において、 画像間予測符号化がMPEG方式であり、 第1および第2の符号化データが第1および第2のGO
Pであり、 上記予測参照画像がIまたはPピクチャであることを特
徴とする編集方法。 - 【請求項4】 請求項1または2において、 記録媒体に記録されている第1および第2の符号化デー
タを接続するように、再生する形態でもって編集を行う
ことを特徴とする編集方法。 - 【請求項5】 請求項1または2において、 記録媒体に記録されている第1の符号化データと外部か
らの第2の符号化データとを接続する形態でもって、編
集を行うことを特徴とする編集方法。 - 【請求項6】 請求項1または2において、 外部から到来する第1および第2の符号化データを接続
する形態でもって、編集を行うことを特徴とする編集方
法。 - 【請求項7】 請求項2において、 上記第2の編集方法は、 上記編集点以降に最初に現れる参照画像の予測方式を画
像内符号化方式に変更する以外は、編集点より時間的に
前の第1の符号化データと、上記編集点より時間的に後
の第2の符号化データとに関して、編集後において、予
測参照画像の現れる周期を編集前のものと同一の周期と
するようにした編集方法であることを特徴とする編集方
法。 - 【請求項8】 画像間予測符号化により符号化された符
号化データを編集する編集装置において、 第1および第2の符号化データを編集点で接続するよう
な編集を行う際に、上記編集点の前または後の不要な符
号化データを破棄すると共に、編集後の符号化データを
復号するのに必要とされる予測参照画像を出力し、上記
予測参照画像を保存し、編集のために復号および再符号
化を行わないことを特徴とする編集装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP14115198A JP3879252B2 (ja) | 1998-05-22 | 1998-05-22 | 編集方法および編集装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP14115198A JP3879252B2 (ja) | 1998-05-22 | 1998-05-22 | 編集方法および編集装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11341436A true JPH11341436A (ja) | 1999-12-10 |
JP3879252B2 JP3879252B2 (ja) | 2007-02-07 |
Family
ID=15285334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP14115198A Expired - Fee Related JP3879252B2 (ja) | 1998-05-22 | 1998-05-22 | 編集方法および編集装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3879252B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004095836A1 (ja) * | 2003-04-23 | 2004-11-04 | Matsushita Electric Industrial Co. Ltd. | データ処理装置 |
WO2004112390A1 (ja) * | 2003-06-11 | 2004-12-23 | Sony Corporation | 情報処理装置および方法、記録媒体、並びにプログラム |
JP2009077454A (ja) * | 2001-10-17 | 2009-04-09 | Panasonic Corp | 動画像復号化方法、動画像復号化装置および記録媒体 |
US8416658B2 (en) | 2007-02-02 | 2013-04-09 | Sony Corporation | Recording apparatus and recording method for data and file system information |
JP2017530613A (ja) * | 2014-08-20 | 2017-10-12 | フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | ビデオ合成 |
-
1998
- 1998-05-22 JP JP14115198A patent/JP3879252B2/ja not_active Expired - Fee Related
Cited By (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4615622B2 (ja) * | 2001-10-17 | 2011-01-19 | パナソニック株式会社 | 動画像復号化方法および動画像復号化装置 |
US7526026B2 (en) | 2001-10-17 | 2009-04-28 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
JP4615623B2 (ja) * | 2001-10-17 | 2011-01-19 | パナソニック株式会社 | 動画像復号化方法および動画像復号化装置 |
JP4615624B2 (ja) * | 2001-10-17 | 2011-01-19 | パナソニック株式会社 | 受信装置 |
US7580459B2 (en) | 2001-10-17 | 2009-08-25 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
US7693217B2 (en) | 2001-10-17 | 2010-04-06 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
JP4560134B1 (ja) * | 2001-10-17 | 2010-10-13 | パナソニック株式会社 | 動画像復号化方法および動画像復号化装置 |
JP4560135B1 (ja) * | 2001-10-17 | 2010-10-13 | パナソニック株式会社 | 符号化復号化装置 |
JP2010246145A (ja) * | 2001-10-17 | 2010-10-28 | Panasonic Corp | 符号化復号化装置 |
JP2010246144A (ja) * | 2001-10-17 | 2010-10-28 | Panasonic Corp | 動画像復号化方法および動画像復号化装置 |
JP2010259094A (ja) * | 2001-10-17 | 2010-11-11 | Panasonic Corp | 受信装置 |
JP2010259093A (ja) * | 2001-10-17 | 2010-11-11 | Panasonic Corp | 動画像復号化方法および動画像復号化装置 |
JP4581035B1 (ja) * | 2001-10-17 | 2010-11-17 | パナソニック株式会社 | 符号化復号化装置 |
JP2011151835A (ja) * | 2001-10-17 | 2011-08-04 | Panasonic Corp | 受信装置および受信方法 |
JP2010273368A (ja) * | 2001-10-17 | 2010-12-02 | Panasonic Corp | 動画像復号化方法および動画像復号化装置 |
JP2010288315A (ja) * | 2001-10-17 | 2010-12-24 | Panasonic Corp | 記録媒体 |
JP2009077454A (ja) * | 2001-10-17 | 2009-04-09 | Panasonic Corp | 動画像復号化方法、動画像復号化装置および記録媒体 |
US10582216B2 (en) | 2001-10-17 | 2020-03-03 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
US10257537B2 (en) | 2001-10-17 | 2019-04-09 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
US9924195B2 (en) | 2001-10-17 | 2018-03-20 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
JP2010273369A (ja) * | 2001-10-17 | 2010-12-02 | Panasonic Corp | 符号化復号化装置 |
JP2011151834A (ja) * | 2001-10-17 | 2011-08-04 | Panasonic Corp | 受信装置および受信方法 |
JP2011151831A (ja) * | 2001-10-17 | 2011-08-04 | Panasonic Corp | 送信・受信システム |
US8064519B2 (en) | 2001-10-17 | 2011-11-22 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
JP2012065352A (ja) * | 2001-10-17 | 2012-03-29 | Panasonic Corp | 符号化復号化装置および記録媒体 |
US8170103B2 (en) | 2001-10-17 | 2012-05-01 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
US8179966B2 (en) | 2001-10-17 | 2012-05-15 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
US8391361B2 (en) | 2001-10-17 | 2013-03-05 | Panasonic Corporation | Moving picture coding method and moving picture decoding method |
US9900616B2 (en) | 2001-10-17 | 2018-02-20 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
JP2013211889A (ja) * | 2001-10-17 | 2013-10-10 | Panasonic Corp | 符号化データ配信方法および配信システム |
US8831100B2 (en) | 2001-10-17 | 2014-09-09 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
US9191669B2 (en) | 2001-10-17 | 2015-11-17 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
US9197894B2 (en) | 2001-10-17 | 2015-11-24 | Panasonic Intellectual Property Corporation Of America | Moving picture coding method and moving picture decoding method |
JP4615604B2 (ja) * | 2001-10-17 | 2011-01-19 | パナソニック株式会社 | 動画像復号化方法および動画像復号化装置 |
WO2004095836A1 (ja) * | 2003-04-23 | 2004-11-04 | Matsushita Electric Industrial Co. Ltd. | データ処理装置 |
WO2004112390A1 (ja) * | 2003-06-11 | 2004-12-23 | Sony Corporation | 情報処理装置および方法、記録媒体、並びにプログラム |
US8416658B2 (en) | 2007-02-02 | 2013-04-09 | Sony Corporation | Recording apparatus and recording method for data and file system information |
JP2017530613A (ja) * | 2014-08-20 | 2017-10-12 | フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | ビデオ合成 |
US10425652B2 (en) | 2014-08-20 | 2019-09-24 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Video composition |
Also Published As
Publication number | Publication date |
---|---|
JP3879252B2 (ja) | 2007-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3019912B2 (ja) | 画像データ編集装置 | |
JPH11341435A (ja) | 編集方法および編集装置 | |
US5991502A (en) | Optical recording device which calculates distances between I-frames and records I-frame addresses in a sector | |
JP4005691B2 (ja) | 動画像符号化方法および動画像符号化装置 | |
JP4337248B2 (ja) | 画像情報の伝送装置、伝送システムおよび伝送方法 | |
JP3496604B2 (ja) | 圧縮画像データ再生装置および圧縮画像データ再生方法 | |
JP3879252B2 (ja) | 編集方法および編集装置 | |
JP3356004B2 (ja) | 可変レート符号化装置及び方法 | |
JP3253530B2 (ja) | 動画像記録装置 | |
JPH11289541A (ja) | 動画像符号化方法、動画像符号化装置及び記録媒体 | |
JP3258673B2 (ja) | 動画像記録装置および動画像再生装置 | |
JP2000358219A (ja) | 記録装置 | |
JPH11275518A (ja) | 画像信号再生装置及び方法 | |
JP3922490B2 (ja) | 映像信号再符号化装置及びその方法並びに映像信号記録再符号化装置及びその方法 | |
JPH11252566A (ja) | 画像信号復号方法および復号装置、画像信号符号化方法および符号化装置、画像信号処理方法および処理システム | |
JP3248366B2 (ja) | データ再生方法およびデータ再生装置 | |
JPH0918830A (ja) | 映像編集装置 | |
JPH08140047A (ja) | 画像データ記録装置 | |
JP2000023099A (ja) | 映像信号記録再生装置、映像信号記録再生方法、映像信号再生装置、映像信号再生方法および記録媒体 | |
JP3657855B2 (ja) | 画像復号装置及び画像復号方法 | |
JP4284830B2 (ja) | 動画像編集復号化装置及びその方法 | |
JP2004048206A (ja) | 映像再生方法および映像再生装置 | |
JP3384563B2 (ja) | 光ディスク、再生装置および再生方法 | |
JP2010154502A (ja) | 画像編集装置および画像編集方法 | |
JPH0898142A (ja) | 画像再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050223 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050223 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060705 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060718 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060915 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061017 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061030 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091117 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101117 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111117 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |