JP2005020529A - Editing method and editing device - Google Patents
Editing method and editing device Download PDFInfo
- Publication number
- JP2005020529A JP2005020529A JP2003184489A JP2003184489A JP2005020529A JP 2005020529 A JP2005020529 A JP 2005020529A JP 2003184489 A JP2003184489 A JP 2003184489A JP 2003184489 A JP2003184489 A JP 2003184489A JP 2005020529 A JP2005020529 A JP 2005020529A
- Authority
- JP
- Japan
- Prior art keywords
- picture
- editing
- overwriting
- video
- overwrite
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Signal Processing For Digital Recording And Reproducing (AREA)
- Management Or Editing Of Information On Record Carriers (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
この発明は、編集方法及び編集装置に関し、特にMPEG規格のプログラムストリームの編集を行う編集方法及び編集装置に関する。
【0002】
【従来の技術】
近年、映像や音声等のデータを記録した光ディスクを再生する動画対応の光ディスク再生装置が各種開発されている。現在では更に、国際規格化したMPEG2(Moving Picture Experts Group 2)方式を使用するとともに、AC3オーディオ圧縮方式を採用したDVD規格が定められた。このDVD規格は、MPEG2システムレイヤに従って、動画圧縮方式にMPEG2方式をサポートし、音声圧縮方式にAC3オーディオ圧縮方式及びMPEGオーディオ圧縮方式をサポートしている。
【0003】
また、メディア自身の規格としては、DVD−ビデオのメディアであるDVD−ROMの規格に続き、DVD−RAMの規格(4.7GB)も完成し、DVD−RAMドライブもコンピュータ周辺機器として普及し始めている。
【0004】
さらに、現在ではDVD−RAMを利用し、リアルタイムでの情報記録再生が可能なシステムを実現するDVDビデオ規格、つまりDVD−VR(DVD−Video Recording)−DVDの規格も整備され、この規格を準拠する製品も市場に出ている。
【0005】
上記MPEG2方式で圧縮された映像データを含むデータ列、すなわちMPEGプログラムストリームの編集は、通常ビデオオブジェクトユニット(VOBU)単位で行われることが多い。
【0006】
即ち、DVD−VR規格にて記録済みのプログラムストリームに対して、ストリームの後部を削除するような編集や、ストリームの一部を取り出すような編集、DVD−VR規格データの一部を取り出してDVD−Video規格のデータへ変換するような編集は多くの場合、VOBU単位で行われる。これはVOBU単位の編集は、データの細かな修正が不要だからである(例えば、特許文献1参照)。
【0007】
【特許文献1】
特開2000−69413公報(第1−5項、図1,図2)
【0008】
【発明が解決しようとする課題】
上記のように、従来MPEGプログラムストリームの編集は、VOBU単位で行われることが多かった。
しかし、1つのVOBUは通常、表示時間にして約0.5秒であり、ユーザの意図した編集点と多少の誤差が生じてしまうことがある。即ち、ユーザが不要と考え、削除を希望した開始の点及び終了の点が、ちょうど、VOBU単位の区切りであれば不都合はないものの、VOBUの途中を削除したい場合は不都合が生じる。これはVOBU毎に編集を行えば、必要である部分の画像が削られてしまったり、逆に不要である部分の画像が残ってしまったりするからである。
【0009】
ここで、実際の使われ方を想定すると、必要である部分を削るよりは、多少ではあるものの不要な部分を残す編集方法を選択することが多いと考えられる。
しかし、このような不要な画像を残しておくことは、視覚で捕らえられる限り違和感を覚えてしまう。これは、通常、残してしまった部分は、番組と番組の間にあるCM(広告)等の映像であることが多く、これを編集後に再生した場合、たとえコンマ数秒の時間であっても、人間の視覚で捕らえられる限り、違和感を覚える部分となる。
【0010】
即ち、たとえコンマ数秒でも、上記不要な部分の前に再生されていた画像とは、全く異なる画像が再生されるため、逆にコンマ数秒である為に、完全に削除されていないと感じでしまう部分になってしまう。
【0011】
そこで、本発明では、ユーザが不要と考える部分を違和感を覚えない上書き用データに置き換え、上記コンマ数秒の違和感のあるCM等の画像を完全に無くし、違和感を覚えない連続した画像を再生する編集方法及び編集装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記目的を達成するために、本発明は、MPEGプログラムストリームとして記録された映像データの編集方法において、編集を開始する第1の編集点と、編集を終了する第2の編集点を入力するステップと、前記第1の編集点より前に存在し、かつ、前記第1の編集点の再生時間に最も近い再生時間を持つリファレンスピクチャーを上書き開始位置とするステップと、前記上書き開始位置と前記第1の編集点の間に存在するピクチャーの中で最先に再生されるピクチャーを上書き用ピクチャーとするステップと、前記上書き開始位置から前記第2の編集点が存在するVOBUまでの全ピクチャーを前記上書き用ピクチャーと同じ画像が再生される画像に置き換えるステップとを具備することを特徴とする。
【0013】
【発明の実施の形態】
以下、図面を参照しながら本発明の実施の形態について説明する。
図1は本発明の実施の形態に係る編集装置の構成を示すブロック図である。この編集装置1は、光ディスク10と、ハードディスクドライブ(HDD)20と、ディスクドライブ35と、データプロセッサ36と、エンコーダ部50と、デコーダ部60と、マイクロコンピュータブロック30とを主たる構成要素としている。
【0014】
次に、各要素の構成を説明する。
ディスクドライブ35は、ビデオファイルの情報記録媒体である光ディスク10を回転駆動し、この光ディスク10に対して情報の読み書きを実行する。
エンコーダ部50は光ディスク10の録画側を構成する。即ち、エンコーダ部50は、ADC(アナログデジタルコンバータ)52と、V(ビデオ)エンコーダと、A(オーディオ)エンコーダと、SP(副映像)エンコーダを含むエンコーダ郡53と、エンコーダ郡53からの各エンコーダの出力を所定のフォーマットにするフォーマッタ56と、バッファメモリ57とを備えている。
【0015】
ここで、ADC52には、A/V入力部42からの外部アナログビデオ信号+外部アナログオーディオ信号、あるいはTV(テレビジョン)チューナ44からのアナログTV信号+アナログ音声信号が入力される。
【0016】
マイクロコンピュータブロック30は、編集装置1の全体の動作を制御する。即ち、マイクロコンピュータブロック30は、MPU(マイクロプロセシングユニット)と、制御プログラム等が書き込まれたROMと、プログラム実行に必要なワークエリアを提供するためのRAMとを含んでいる。また、マイクロコンピュータブロック30はHDD20、ディスクドライブ35、データプロセッサ36、エンコーダ部50、デコーダ部60等と接続されている。
【0017】
そして、マイクロコンピュータブロック30のMPUは、そのROMに格納された制御プログラムに従い、RAMをワークエリアとして用いて、編集、欠陥場所検出、未記録領域検出、録画情報記録位置設定、UDF記録、AVアドレス設定等を実行する。
【0018】
データプロセッサ36は、マイクロコンピュータブロック30の制御に従って、エンコーダ部50のフォーマッタ56から出力されたDVD記録データを受信して、ディスクドライブ35やHDD20、一時記憶部37に供給する。また、光ディスク10から再生したDVD再生信号をディスクドライブ35から取り込みデコーダ部60へ出力したり、光ディスク10に記録された管理情報を書き替えたり、光ディスク10に記録されたデータの削除を行ったりする。
【0019】
デコーダ部60は、光ディスク10の再生側を構成する。即ち、デコーダ部60は、光ディスク10から読み出されたパック構造を持つ映像情報から各パックを分離して取り出すセパレータ62と、パック分離やその他の信号処理実行時に使用するメモリ63と、セパレータ62で分離された主映像データをデコードするVデコーダと、セパレータ62で分離された副映像データをデコードするSPデコーダと、セパレータ62で分離されたオーディオデータをデコードするAデコーダを含むデコーダ群64と、Vデコーダから得られる主映像データにSPデコーダから得られる副映像データを適宜合成し、主映像にメニュー、字幕その他の副映像を重ねて出力するビデオプロセッサ66を備えている。
【0020】
このビデオプロセッサ66からの合成された映像データ、ADC52からの外部アナログビデオ信号、およびビデオプロセッサ66から出力されたデータは、ビデオミクサー71に入力され、ここを介してDAC(D/Aコンバータ)74やI/F(インターフェース)73を介して外部へ出力される。
【0021】
ここで、デコーダ群64からのAデコーダの出力をデジタル出力する場合は、I/F(インターフェース)75を介して外部へ出力され、アナログ出力する場合は、セレクタ76を介してDAC(D/Aコンバータ)77でアナログ変換され外部に出力される。セレクタ76は、マイクロコンピュータブロック30からのセレクト信号により、TVチューナ44又はA/V入力部42からADC52を介して入力される信号と、デコーダ群64から入力されるAデコーダの出力信号の一方を選択して出力する。アナログオーディオ信号は、図示しない外部コンポーネント(2チャンネル〜6チャンネルのマルチチャンネルステレオ装置)に供給される。
【0022】
STC(System Time Counter)38はデータ記録モード、データ再生モードにおいて、記録や再生の基準となるタイムスタンプのデータを作成している。
【0023】
キー入力部11は、再生(PLAY)、停止(STOP)、録画(REC)、スキップ(Skip)、早送り(FF)、逆送り(Rew)、スロー(Slow)エンターキー等のボタンを有し、このボタンを押下することによりユーザは編集装置1を操作し、HDD20又は書き換え可能な光ディスク10に対して録画、再生及び録画された映像データを編集できる。
【0024】
また、マイクロコンピュータブロック30には表示部48が接続されており、ここで再生時間などを確認することが出来る。
図2は、図1に示した編集装置1に適用される光ディスク10の一例として、DVDのVRフォーマットのビデオ及びオーディオファイルのディレクトリ構造について示している。
【0025】
DVDでは、規格毎にディレクトリが存在し、DVD−VRでは、これらのディレクトリ名を、「DVD_RTAV」とし、同様に、DVD−Audioでは、「AUDIO_TS」、そして、DVD−Videoでは、「VIDEO_TS」としている。図2はDVD−VRのフォーマットであるから、「DVD_RTAV」を示している。
【0026】
図2において、記録データは各ディレクトリ内に存在する。また、DVDでは、データはファイルの形式で保存される。タイトルは、例えば映画の1本分に相当し、1枚のディスクにこのタイトルが複数記録可能である。
【0027】
ディレクトリ「DVD_RTAV」内には、ビデオマネジャー(VMG)ファイルとしてのVR_MANGR.IFO,ムービービデオファイルとしてのVR_MOVIE.VRO,スチルピクチャービデオファイルとしてのVR_STILL.VRO,スチルピクチャーオーディオビデオファイルとしてのVR_AUDIO.VRO,ビデオマネジャーのバックアップとしてのVR_MANGR.BUPの各ファイルが存在する。
【0028】
VR_MANGR.IFOファイルには、光ディスク10を管理する管理情報が記録されるもので、この管理情報は、プログラム,エントリーポイント,プレイリストなどを進行させるためのデータである。
【0029】
VR_MOVIE.VROファイルは、ムービービデオオブジェクト(ムービーVOB)を記録するためのいわゆるムービーAVファイルである。
VR_STILL.VROは、スチルピクチャーVOBを記録するためのスチルピクチャーAVファイルである。このVR_STILL.VROは、任意のサブピクチャーユニットを含むビデオパートで構成されるオリジナルVOBを記録するために用いられる。またこのとき、ビデオパートに関連したオーディオパートもオリジナルのスチルピクチャーVOBに含まる。
【0030】
VR_AUDIO.VROは、スチルピクチャーに対する付加オーディオストリームを記録するためのスチルピクチャー付加オーディオビデオファイルである。この付加オーディオパートは、アフターレコーディングにより記録されたオーディオストリームを示す。VR_AUDIO.VROに記録されたオーディオパートは、VR_STILL.VROに記録された幾つかのビデオパートとの組み合せで使用される。
【0031】
図3は、上記ムービービデオファイルとしてのVR_MOVIE.VRO及びスチルピクチャービデオファイルとしてのVR_STILL.VROのファイル構造を示している。
【0032】
ビデオファイルは階層構造であり、1つのファイルは複数のVOB(ビデオオブジェクト)で構成され、1つのVOBは複数のVOBU(ビデオオブジェクトユニット)で構成され、1つのVOBUは複数パックから構成される。複数のパックとしては、RDIパック,Vパック(ビデオパック),SPパック(副映像パック),Aパック(オーディオパック)が存在する。なお、SPパック(副映像パック),Aパック(オーディオパック)を含まない場合もある。
【0033】
Vパックは、ビデオデータがMPEG2方式で圧縮されたもので、パックヘッダ、パケットヘッダ、ビデオデータ部で構成される。Aパックは、オーディオデータが、例えばリニアPCM、あるいはMPEG、あるいはAC3などの方式で処理されたものであり、パックヘッダ、パケットヘッダ、オーディオデータ部で構成される。また、SPパックには、副映像データが記録される。
【0034】
パケットヘッダには、適宜、再生時刻を示すPTS(プレゼンテーションタイムスタンプ)や、デコード時刻を示すDTS(デコーディングタイムスタンプ)等のタイムスタンプが記述される。副映像のPTSについては、同じ再生時間帯の主映像データあるいはオーディオデータのPTSより任意に遅延させた時間を記述することができる。
【0035】
1つのビデオオブジェクトユニット(VOBU)の再生時間は、通常、ビデオオブジェクトユニット中に含まれる1以上の映像グループ(グループオブピクチャーGOP)で構成されるビデオデータの再生時間となる。通常、1GOPはMPEG2規格では約0.5秒であって、その間に15枚程度のフレーム画像を再生するように圧縮された映像データが格納される。
【0036】
図4は、グループオブピクチャーGOPを示す図である。MPEG2データストリームは、このグループオブピクチャーGOPの単位でエンコードが行われる。グループオブピクチャーGOP内には、図4に示すようにイントラ符号化画面(Iピクチャー)と、インター符号化画面(Pピクチャー、Bピクチャー)とが含まれる。
【0037】
上記Iピクチャーはそれ自体単独でデコードが可能であるのに対して、Pピクチャーは記録順で1つ前にあるリファレンスピクチャー(Iピクチャー、またはPピクチャー)のデコード結果を参照してデコードされ、また、Bピクチャーは記録順で1つ前及び2つ前にあるリファレンスピクチャー(Iピクチャー)のデコード結果を参照してデコードされる。
【0038】
図5(a)はピクチャーの構成と編集点を示す図である。例えば、図5(a)において、I2はIピクチャーであり、この図において3番目に再生されるピクチャーである。又、B0はBピクチャーであって、この図において最初に再生されるピクチャーである。図5(a)では矢印の元のピクチャーが矢印の先のピクチャーのデコード結果を参照してデコードされる。例えば、B0、B1,P5のピクチャーはI2ピクチャーのデコード結果を参照してデコードされる。また、B3、B4ピクチャーはP5ピクチャーとI2ピクチャーのデコード結果を参照してデコードされる。また、P8ピクチャーはP5ピクチャーのデコード結果を参照してデコードされる。また、B6、B7ピクチャーはP8ピクチャーとP5ピクチャーのデコード結果を参照してデコードされる。
【0039】
この参照関係のため、記録順と再生順は必ずしも一致するとは限らない。Bピクチャーが参照する2つ前のリファレンスピクチャーは、そのBピクチャーより再生順で前になるが、1つ前のリファレンスピクチャーはそのBピクチャーより再生順が後になる。
【0040】
リファレンスピクチャーへの参照は必ず記録順で前になるピクチャーへの参照となるので、記録済みのストリームの任意のピクチャー単位で後部を削除したとしても、残されたピクチャーの中でリファレンスピクチャーを失うようなピクチャーは発生しない。
【0041】
しかし、記録順が再生順とはならないため、再生において欠如するピクチャーが発生する可能性はある。例えば、図5(a)の編集点X0以降のピクチャーを削除し、別のストリームを編集点X0につなげた場合、この図で再生されるピクチャーはB0、B1、I2、B3、P5となる。従って、B4のピクチャーが再生されず、不自然な再生映像となる。
【0042】
以上を考慮すると、あるピクチャーより後ろのデータを削除したとしても、その前にある全てのピクチャーが再生順と記録順で影響を受けないようなピクチャーは、リファレンスピクチャー(Iピクチャー又はPピクチャー)の直前にあるピクチャーとなる。従って、本発明ではリファレンスピクチャーの直前までのピクチャーを残し、後のデータを編集する。つまり、この編集はリファレンスピクチャー単位(3フレーム単位)で行われる。
【0043】
一方、オーディオデータについては、アクセスユニット単位での編集が可能である。これは、アクセスユニット単位で再生順と記録順が必ず等しくなるからである。以下、オーディオデータについてもビデオデータに対応するデータで編集が行われるものとする。
【0044】
以下、本発明に係るVRフォーマットデータの編集方法について、図1乃至図7を用いて説明する。
図6は、本発明の実施の形態に係る編集方法を示すフローチャートである。また、図7はストリームデータの変換の前後を示す図である。
まず、ユーザによるキー入力部11からのREC(録画)キー入力に対応して、編集装置1において録画処理が行われる。即ち、マイクロコンピュータブロック30がエンコーダ部50,データプロセッサ36,ディスクドライブ35に指示を与えることにより処理が開始され、TVチューナ44からのアナログTV信号+アナログ音声信号若しくはA/V入力部42からの外部アナログビデオ信号+外部アナログオーディオ信号が直接又はADC52を介してエンコーダ群53に入力され、エンコードされる。その出力に基づきフォーマッタ56がVRフォーマットを生成し、その出力を受信したデータプロセッサ36がVRフォーマットでHDD20に記録する(ステップS0)。これにより、図7(a)に示すストリームがHDD20に記録される。
【0045】
次に、マイクロコンピュータブロック30は、キー入力部11を通じて、ユーザから上記HDD20に記録されたVRフォーマットのストリームに対する編集要求があったか否かをチェックする(ステップS1)。即ち、編集を開始するための編集点と、編集を終了するための編集点の入力があったかどうかをチェックする。
【0046】
ここで、ユーザによる編集指定は、例えば、HDD20から読み出した上記ストリームデータをデコーダ部60によりデコードし、音声データはDAC75、画像データはビデオミクサー71、DAC74を介して図示せぬ表示装置に出力させ、出力された映像を駒送りして1フレーム(画像)を選択することにより編集点の開始点と終了点の入力を行う。また、ユーザによってキー入力部11を操作して、編集装置1に対して直接、編集点が映像プログラム開始から36分24秒2というように編集開始時間と編集終了時間を入力して指定するものであっても良い。
【0047】
その結果、ユーザからの編集要求がなかった場合は(ステップS1のNo)、そのまま編集することなく、後述するステップS5に進む。一方、ユーザからの編集要求があった場合には(ステップS1のYes)、以下の処理を行う。
【0048】
まず、上書きを開始する位置を決定する(ステップS2)。即ち、図1に示した編集装置1のマイクロコンピュータブロック30は、ステップS1の編集要求時において入力された開始の編集点よりも前に存在し、かつ、最も近い再生時間を持つリファレンスピクチャー(Iピクチャー又はPピクチャー)を上書き開始位置として決定する(ステップS2)。
【0049】
ここで、上述した通り、この上書き開始位置以降を書き換えても、その前に存在するピクチャーにはなんら影響は出ず、連続した画像及び音声が再生できる。従って、編集対象位置は、このステップS2で決定された上書き開始位置以降となる。
【0050】
以上の動作を、図7を用いて説明する。図7(a)において、HDD20に記録されたストリームデータのVOBU_3にあるX0点からVOBU_5にあるX1点までが、例えばCM等の不要データであるとする。
【0051】
従って、図5(a)に示されているグループオブピクチャー(GOP)が図7(a)のVOBU_3であるとすると、上書き開始位置は開始の編集点X0よりも前に存在し、かつ、これに最も近い再生時間を持つリファレンスピクチャーであるP5となる。従って、P5から編集対象が始まり、図7(a)のVOBU_5の最後のフレームまでが編集対象のピクチャーとなる。
【0052】
尚、編集点が、時間で指定された場合でも同様に、編集装置1は指定された時間よりも前に存在し、かつその再生時間に最も近いリファレンスピクチャー(I又はPピクチャー)を、上書き開始位置として準備する。
【0053】
次に、マイクロコンピュータブロック30は、新たな画像として書き換える上書き用ピクチャーを決定する(ステップS3)。これは、上書き開始位置から編集点X0において、最初に再生される画像を上書きピクチャーとして決定する(オーディオの場合は、アクセスユニットを決定する)。
【0054】
即ち、図5で言えば、上書き用ピクチャーは、上書き開始位置であるP5のピクチャーから開始の編集点X0までの中で、最初に再生されるピクチャーであるB3と決定される。
【0055】
次に、マイクロコンピュータブロック30は、上記ステップS3で決定した上書き用ピクチャーを用いて、P5〜VOBU_5の最終フレームまでの置換えを実行する(ステップS4)。
【0056】
具体的には、図5(a)において、P5のピクチャーが上書き開始位置であり、B3が上書き用ピクチャーであるとすると、P5〜B7のピクチャーをB3のピクチャーが再生されるように画像を置き換える。
【0057】
ここで、P5のピクチャーは、I2のリファレンスピクチャーを参照してその差分がP5のピクチャーとして作成されているものである。従って、マイクロコンピュータブロック30によりI2とB3の画像データを比較し、その差分を新たなP’5として作成する。そして、P5の位置を新たなP’5のピクチャーに置き換える。このようにすることで、P’5は、その再生時には上書きピクチャーである元々のB3が再生されていた画像と同じ画像が再生されることとなる。
【0058】
同様に、B3のピクチャーはP5とI2のピクチャーを参照して再生されるものであるから、マイクロコンピュータブロック30は、これらの画像と上書きピクチャーであるB3との差分を計算し、新たなピクチャーB’3を作成して、これをB3の位置に置き換える。
【0059】
同様に、B4のピクチャーはP5とI2のピクチャーを参照して再生されるものであるから、これらを参照してB4と同じピクチャーが再生されるように新たなピクチャーB’4を作成して、これをB4の位置に置き換える。
【0060】
以下、リファレンスピクチャー単位(3フレーム単位)毎に上記方法と同じ方法を用いてピクチャーを置き換え、当該VOBUは、図5(b)のように書き換わることとなる。
【0061】
これをVOBU単位でみると、図7のようになる。図5(a)において、I2〜B7が図7(a)でいうVOBU_3であるとすると、図5(a)は、P5以降が元々のB3と同じ画像が再生されるようにP’5、B’3と次々上書き用ピクチャーに置き換えられ、図5(b)のようになる。従って、図7(a)の点X0(開始の編集点)から図7(b)のように上書き用ピクチャーで置き換えられ、最終的に、VOBU_5の最後の画像までB3と同様の画像が再生されるように画像が置き換えられることとなる。
【0062】
ここで、VOBU単位でデータを削除することは、従来の編集装置で行える作業である為、図7(a)において、始めに、VOBU_4を完全に削除することは可能であり、更にその後に本発明を利用すれば、結果として、図7(c)に示すように不要な部分を削除し、かつ番組と番組の間をBOBU_3にある上書き用ピクチャーと同じ画像が再生されるように置き換えられることとなる。
【0063】
上記手段をとることで、不要な部分は極力短くし、かつ、残った部分は上書き用データが存在するため、その部分を連続しても、番組と番組の間でも違和感を覚えることなく見ることが可能となる。
【0064】
次に、マイクロコンピュータブロック30は、キー入力部11を通じて、VRフォーマットからVideoフォーマットへの変換要求があったかどうかを確認する(ステップS5)。即ち、フォーマット変換の確定入力があったかどうかをチェックする。
【0065】
その結果、変換要求がない場合は(ステップS5のNo)、そのまま終了する。
一方、変換要求がある場合は(ステップS5のYes)、エンコーダ部50において、DVD−VRからDVD−Videoへのフォーマット変換が行われる(ステップS6)。そして、変換されたデータは、データプロセッサ36を介して、ディスクドライブ35を使用して光ディスク10へ記録される。尚、VRフォーマットからDVD−Videoフォーマットへの変換の詳細については、例えば特開2003−101927号公報に紹介されているので、その説明は省略する。
【0066】
以上のような編集装置、及び編集方法にすることで以下の効果がある。即ち、編集されたデータを再生する際、番組と番組の間にあったCM(広告)のような全く異なった画像をユーザがみることがなくなり、従来、コンマ数秒ではあるものの、その画像を見ることによる不完全な編集と感じていた部分を解消することが可能となる。
【0067】
尚、本発明の実施の形態の変形例として、上述した上書き用ピクチャーは、図5の例で示したB3のピクチャーに限られる必要はなく、B3の直前に再生される画像(即ち、ここではI2のピクチャー)であってもよい。また、CM等のように極端に画像が変わることを避けることが目的であるから、人間が視覚的に違和感を覚えない画像(例えば、黒や白の画像のように、単一の色の画像)を上書き用ピクチャーとして用いても良い。更に、録画したMPEGプログラムストリームの中からいくつかの上書き用ピクチャーの候補を表示装置に表示させ、その中から1つをユーザに任意に選択させ、これを上書き用ピクチャーとして用いても良い。
【0068】
【発明の効果】
本発明によれは、番組と番組の間の不要データの領域の上に上書き用ピクチャーを書き込むことにより、違和感のない連続した画像を再生することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態に係る編集装置の構成を示すブロック図。
【図2】DVDのVRフォーマットのビデオ及びオーディオファイルのディレクトリ構造を示す図。
【図3】ムービービデオファイル及びスチルピクチャービデオファイルのファイル構造を示す図。
【図4】GOPを説明するための図。
【図5】ピクチャーの構成と編集点を示す図。
【図6】本発明の実施の形態に係る編集方法を示すフローチャート。
【図7】ストリームデータの変換の前後を示す図。
【符号の説明】
1 編集装置
10 光ディスク
11 キー入力部
20 ハードディスクドライブ(HDD)
30 マイクロコンピュータブロック
35 ディスクドライブ
36 データプロセッサ
37 一時記憶部
38 STC
42 A/V入力部
44 TVチューナ
48 表示部
50 エンコーダ部
52 ADC
53 V,A,SPエンコーダ群
56 フォーマッタ
57 バッファメモリ
60 デコーダ部
62 セパレータ
63 メモリ
64 V,A,SPデコーダ群
66 ビデオ・プロセッサ
71 ビデオミクサー
73 I/F
74 DAC
75 I/F
76 セレクタ
77 DAC[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an editing method and an editing apparatus, and more particularly to an editing method and an editing apparatus for editing an MPEG standard program stream.
[0002]
[Prior art]
2. Description of the Related Art In recent years, various types of moving image-compatible optical disc playback apparatuses that play back optical discs that record data such as video and audio have been developed. At present, a DVD standard that uses the internationally standardized MPEG2 (Moving Picture Experts Group 2) system and an AC3 audio compression system has been defined. According to the MPEG2 system layer, the DVD standard supports the MPEG2 system as a moving picture compression system, and supports the AC3 audio compression system and the MPEG audio compression system as audio compression systems.
[0003]
In addition, as a standard of the media itself, a DVD-RAM standard (4.7 GB) has been completed following a DVD-ROM standard which is a DVD-video medium, and a DVD-RAM drive has begun to spread as a computer peripheral device. Yes.
[0004]
Furthermore, a DVD video standard that realizes a system capable of recording and reproducing information in real time using a DVD-RAM, that is, a DVD-VR (DVD-Video Recording) -DVD standard, has also been established and complies with this standard. Products to market are also on the market.
[0005]
Editing of a data string including video data compressed by the MPEG2 system, that is, an MPEG program stream is usually performed in units of video object units (VOBU).
[0006]
That is, for a program stream recorded in accordance with the DVD-VR standard, editing for deleting the rear part of the stream, editing for extracting a part of the stream, and extracting a part of the DVD-VR standard data to obtain a DVD -Editing such as conversion to video standard data is often performed in units of VOBUs. This is because editing in units of VOBU does not require detailed data correction (see, for example, Patent Document 1).
[0007]
[Patent Document 1]
JP 2000-69413 (Section 1-5, FIGS. 1 and 2)
[0008]
[Problems to be solved by the invention]
As described above, conventional MPEG program stream editing is often performed in units of VOBUs.
However, one VOBU usually has a display time of about 0.5 seconds, and there may be some errors from the editing point intended by the user. That is, there is no inconvenience when the start point and the end point that the user desires to delete are exactly delimited in units of VOBU, but inconvenience occurs when it is desired to delete the middle of the VOBU. This is because, if editing is performed for each VOBU, an image of a necessary part is deleted, or an image of an unnecessary part remains.
[0009]
Here, assuming an actual usage, it is considered that an edit method that leaves some unnecessary parts is selected rather than removing necessary parts.
However, leaving such an unnecessary image feels uncomfortable as long as it is captured visually. Usually, the part that has been left is often a video such as a CM (advertising) between programs, and when this is played after editing, even if it is a time of a few seconds of commas, As long as it is captured by human vision, it will be a part that feels uncomfortable.
[0010]
In other words, even if it is a few seconds of commas, an image that is completely different from the image that was played before the above unnecessary part is played back. On the contrary, since it is a few seconds of commas, it seems that it has not been completely deleted. It becomes a part.
[0011]
Therefore, in the present invention, the portion considered unnecessary by the user is replaced with overwriting data that does not feel uncomfortable, and the above-mentioned images such as CMs that feel uncomfortable for a few seconds are completely eliminated, and continuous images that do not feel uncomfortable are reproduced. It is an object to provide a method and an editing apparatus.
[0012]
[Means for Solving the Problems]
In order to achieve the above object, according to the present invention, in the editing method of video data recorded as an MPEG program stream, a step of inputting a first editing point for starting editing and a second editing point for ending editing. A reference picture that exists before the first edit point and has a reproduction time closest to the reproduction time of the first edit point is set as an overwrite start position, and the overwrite start position and the first edit point A step of making the picture to be reproduced first among pictures existing between one editing point as an overwriting picture, and all pictures from the overwriting start position to the VOBU where the second editing point exists And a step of replacing the same image as the overwriting picture with an image to be reproduced.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing a configuration of an editing apparatus according to an embodiment of the present invention. The
[0014]
Next, the configuration of each element will be described.
The disk drive 35 rotates and drives the
The encoder unit 50 constitutes the recording side of the
[0015]
Here, the ADC 52 receives an external analog video signal + external analog audio signal from the A / V input unit 42 or an analog TV signal + analog audio signal from the TV (television) tuner 44.
[0016]
The
[0017]
Then, the MPU of the
[0018]
The data processor 36 receives the DVD recording data output from the formatter 56 of the encoder unit 50 under the control of the
[0019]
The decoder unit 60 constitutes the playback side of the
[0020]
The synthesized video data from the
[0021]
Here, when the output of the A decoder from the
[0022]
An STC (System Time Counter) 38 creates time stamp data that serves as a reference for recording and reproduction in the data recording mode and the data reproduction mode.
[0023]
The
[0024]
Further, a
FIG. 2 shows a directory structure of video and audio files in the VR format of DVD as an example of the
[0025]
In DVD, a directory exists for each standard. In DVD-VR, the directory name is “DVD_RTAV”. Similarly, in DVD-Audio, “AUDIO_TS”, and in DVD-Video, “VIDEO_TS”. Yes. Since FIG. 2 is a DVD-VR format, “DVD_RTAV” is indicated.
[0026]
In FIG. 2, recording data exists in each directory. In the case of a DVD, data is stored in a file format. The title corresponds to, for example, one movie, and a plurality of titles can be recorded on one disc.
[0027]
In the directory “DVD_RTAV”, VR_MANGR.V as a video manager (VMG) file is stored. VR_MOVIE. As IFO, movie video file. VRO, VR_STILL. As a still picture video file. VRO, VR_AUDIO. As a still picture audio video file. VRO, VR_MANGR. As a backup for video manager. Each file of BUP exists.
[0028]
VR_MANGR. Management information for managing the
[0029]
VR_MOVIE. The VRO file is a so-called movie AV file for recording a movie video object (movie VOB).
VR_STILL. VRO is a still picture AV file for recording a still picture VOB. This VR_STILL. VRO is used to record an original VOB composed of a video part including an arbitrary sub-picture unit. At this time, the audio part related to the video part is also included in the original still picture VOB.
[0030]
VR_AUDIO. The VRO is a still picture-added audio video file for recording an additional audio stream for the still picture. This additional audio part indicates an audio stream recorded by after recording. VR_AUDIO. The audio part recorded in VRO is VR_STILL. Used in combination with several video parts recorded on VRO.
[0031]
FIG. 3 shows VR_MOVIE. As the movie video file. VR_STILL. As a VRO and still picture video file. The file structure of VRO is shown.
[0032]
A video file has a hierarchical structure, one file is composed of a plurality of VOBs (video objects), one VOB is composed of a plurality of VOBUs (video object units), and one VOBU is composed of a plurality of packs. As the plurality of packs, there are an RDI pack, a V pack (video pack), an SP pack (sub-picture pack), and an A pack (audio pack). In some cases, the SP pack (sub-picture pack) and the A pack (audio pack) are not included.
[0033]
The V pack is a video data compressed by the MPEG2 system, and includes a pack header, a packet header, and a video data portion. The A pack is obtained by processing audio data by a method such as linear PCM, MPEG, or AC3, and includes a pack header, a packet header, and an audio data portion. In addition, sub-picture data is recorded in the SP pack.
[0034]
In the packet header, time stamps such as PTS (Presentation Time Stamp) indicating playback time and DTS (Decoding Time Stamp) indicating decoding time are described as appropriate. For the sub-picture PTS, a time arbitrarily delayed from the PTS of the main picture data or audio data in the same reproduction time zone can be described.
[0035]
The playback time of one video object unit (VOBU) is normally the playback time of video data composed of one or more video groups (group of pictures GOP) included in the video object unit. Normally, 1 GOP is about 0.5 seconds in the MPEG2 standard, and video data compressed so as to reproduce about 15 frame images is stored.
[0036]
FIG. 4 is a diagram illustrating a group of picture GOP. The MPEG2 data stream is encoded in units of this group of picture GOP. The group of picture GOP includes an intra-coded screen (I picture) and an inter-coded screen (P picture, B picture) as shown in FIG.
[0037]
The I picture can be decoded by itself, whereas the P picture is decoded by referring to the decoding result of the reference picture (I picture or P picture) that is one before in the recording order, and , B picture is decoded with reference to the decoding result of the reference picture (I picture) which is one before and two before in the recording order.
[0038]
FIG. 5A is a diagram showing the structure of the picture and the editing points. For example, in FIG. 5A, I2 is an I picture, which is the third picture reproduced in this figure. B0 is a B picture, which is the first picture to be reproduced in this figure. In FIG. 5A, the original picture of the arrow is decoded with reference to the decoding result of the picture of the arrow destination. For example, B0, B1, and P5 pictures are decoded with reference to the decoding result of the I2 picture. The B3 and B4 pictures are decoded with reference to the decoding results of the P5 picture and the I2 picture. The P8 picture is decoded with reference to the decoding result of the P5 picture. The B6 and B7 pictures are decoded with reference to the decoding results of the P8 picture and the P5 picture.
[0039]
Due to this reference relationship, the recording order and the playback order do not necessarily match. The two previous reference pictures referenced by the B picture are in the playback order before the B picture, but the previous reference picture is in the playback order after the B picture.
[0040]
Since the reference to the reference picture is always the reference to the previous picture in the recording order, even if the rear part is deleted in any picture unit of the recorded stream, the reference picture is lost in the remaining pictures. No picture is generated.
[0041]
However, since the recording order is not the reproduction order, there is a possibility that a missing picture occurs in the reproduction. For example, when the picture after the edit point X0 in FIG. 5A is deleted and another stream is connected to the edit point X0, the pictures reproduced in this figure are B0, B1, I2, B3, and P5. Therefore, the B4 picture is not reproduced, resulting in an unnatural reproduction image.
[0042]
Considering the above, even if the data after a certain picture is deleted, the picture in which all the pictures before it are not affected by the playback order and the recording order is the reference picture (I picture or P picture). The picture just before. Therefore, in the present invention, the pictures up to immediately before the reference picture are left and the subsequent data is edited. That is, this editing is performed in reference picture units (3 frame units).
[0043]
On the other hand, audio data can be edited in units of access units. This is because the playback order and recording order are always the same for each access unit. Hereinafter, it is assumed that audio data is also edited with data corresponding to video data.
[0044]
The VR format data editing method according to the present invention will be described below with reference to FIGS.
FIG. 6 is a flowchart showing the editing method according to the embodiment of the present invention. FIG. 7 is a diagram showing before and after conversion of stream data.
First, recording processing is performed in the
[0045]
Next, the
[0046]
Here, the editing designation by the user is, for example, the above-described stream data read from the
[0047]
As a result, if there is no editing request from the user (No in step S1), the process proceeds to step S5 described later without editing. On the other hand, when there is an editing request from the user (Yes in step S1), the following processing is performed.
[0048]
First, a position for starting overwriting is determined (step S2). That is, the
[0049]
Here, as described above, even if rewriting after this overwriting start position is performed, there is no effect on the picture existing before that, and a continuous image and sound can be reproduced. Therefore, the edit target position is after the overwrite start position determined in step S2.
[0050]
The above operation will be described with reference to FIG. In FIG. 7A, it is assumed that the data from the point X0 in the VOBU_3 of the stream data recorded in the
[0051]
Therefore, if the group of picture (GOP) shown in FIG. 5A is VOBU_3 in FIG. 7A, the overwrite start position exists before the start editing point X0, and this P5 which is a reference picture having a reproduction time closest to. Therefore, the editing target starts from P5 and the picture to be edited is up to the last frame of VOBU_5 in FIG.
[0052]
Even when the editing point is designated by time, similarly, the
[0053]
Next, the
[0054]
That is, in FIG. 5, the overwriting picture is determined to be B3, which is the first picture to be reproduced from the P5 picture that is the overwriting start position to the starting editing point X0.
[0055]
Next, the
[0056]
Specifically, in FIG. 5A, if the P5 picture is the overwrite start position and B3 is the overwrite picture, the picture of P5 to B7 is replaced so that the B3 picture is reproduced. .
[0057]
Here, the P5 picture refers to the I2 reference picture and the difference is created as a P5 picture. Therefore, the
[0058]
Similarly, since the B3 picture is reproduced with reference to the P5 and I2 pictures, the
[0059]
Similarly, since the B4 picture is reproduced with reference to the P5 and I2 pictures, a new picture B′4 is created so that the same picture as B4 is reproduced with reference to these pictures. This is replaced with the position B4.
[0060]
Thereafter, the picture is replaced for each reference picture unit (3 frame units) using the same method as described above, and the VOBU is rewritten as shown in FIG. 5B.
[0061]
FIG. 7 shows this in units of VOBU. 5A, if I2 to B7 are VOBU_3 in FIG. 7A, FIG. 5A shows P′5, so that the same image as the original B3 is reproduced after P5. B'3 and the overwriting picture are successively replaced as shown in FIG. 5B. Accordingly, the point X0 (starting editing point) in FIG. 7A is replaced with the overwriting picture as shown in FIG. 7B, and finally the same image as B3 is reproduced until the last image of VOBU_5. Thus, the image is replaced.
[0062]
Here, since deleting data in units of VOBU is an operation that can be performed by a conventional editing apparatus, in FIG. 7 (a), it is possible to delete VOBU_4 completely first, and then to If the invention is used, as a result, unnecessary portions are deleted as shown in FIG. 7C, and the space between programs is replaced so that the same image as the overwriting picture in BOBU_3 is reproduced. It becomes.
[0063]
By taking the above measures, the unnecessary part is shortened as much as possible, and the remaining part has overwriting data, so even if that part is continued, you can watch it without feeling uncomfortable between programs Is possible.
[0064]
Next, the
[0065]
As a result, when there is no conversion request (No in step S5), the processing ends as it is.
On the other hand, if there is a conversion request (Yes in step S5), the encoder unit 50 performs format conversion from DVD-VR to DVD-Video (step S6). The converted data is recorded on the
[0066]
By using the editing apparatus and editing method as described above, the following effects can be obtained. In other words, when the edited data is played back, the user does not see a completely different image such as a CM (advertising) between the programs. Conventionally, although it is a few seconds of commas, It becomes possible to eliminate the part that was felt as incomplete editing.
[0067]
As a modification of the embodiment of the present invention, the overwriting picture described above is not necessarily limited to the B3 picture shown in the example of FIG. 5, but is an image reproduced immediately before B3 (ie, here. I2 picture). In addition, since the purpose is to prevent the image from changing extremely as in the case of a commercial or the like, an image in which a human does not feel uncomfortable visually (for example, a single color image such as a black or white image). ) May be used as an overwriting picture. Further, several overwrite picture candidates from the recorded MPEG program stream may be displayed on the display device, and one of them may be arbitrarily selected by the user and used as the overwrite picture.
[0068]
【The invention's effect】
According to the present invention, it is possible to reproduce a continuous image without a sense of incongruity by writing a picture for overwriting on an area of unnecessary data between programs.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of an editing apparatus according to an embodiment of the present invention.
FIG. 2 is a diagram showing a directory structure of video and audio files in a VR format of a DVD.
FIG. 3 is a diagram illustrating file structures of a movie video file and a still picture video file.
FIG. 4 is a diagram for explaining a GOP.
FIG. 5 is a diagram illustrating a picture configuration and editing points.
FIG. 6 is a flowchart showing an editing method according to the embodiment of the present invention.
FIG. 7 is a diagram showing before and after conversion of stream data.
[Explanation of symbols]
1 Editing device
10 Optical disc
11 Key input part
20 Hard disk drive (HDD)
30 Microcomputer block
35 disk drive
36 data processor
37 Temporary storage
38 STC
42 A / V input section
44 TV tuner
48 display
50 Encoder unit
52 ADC
53 V, A, SP encoder group
56 Formatter
57 Buffer memory
60 Decoder part
62 Separator
63 memory
64 V, A, SP decoder group
66 Video processor
71 Video Mixer
73 I / F
74 DAC
75 I / F
76 selector
77 DAC
Claims (5)
前記映像データの編集を開始する編集開始点と、編集を終了する編集終了点を受信するステップと、
前記編集開始点より前に存在し、かつ、前記編集開始点に最も近いリファレンスピクチャーを上書き開始位置とするステップと、
前記上書き開始位置と前記編集開始点の間に存在するピクチャーの中で最先に再生されるピクチャーを上書き用ピクチャーとするステップと、
前記上書き開始位置から前記編集終了点が存在するビデオオブジェクトユニットまでの全ピクチャーを前記上書き用ピクチャーと同じ画像が再生される画像に置き換えるステップとを
具備することを特徴とする編集方法。In a method for editing video data recorded as an MPEG program stream,
Receiving an editing start point for starting editing of the video data, and an editing end point for ending editing;
A reference picture that exists before the edit start point and is closest to the edit start point is set as an overwrite start position;
A picture to be reproduced first among pictures existing between the overwrite start position and the edit start point is used as an overwrite picture;
A step of replacing all the pictures from the overwriting start position to the video object unit where the editing end point exists with an image in which the same image as the overwriting picture is reproduced.
前記映像データの編集を開始する編集開始点と、編集を終了する編集終了点を入力する手段と、
前記編集開始点より前に存在し、かつ、前記編集開始点に最も近いリファレンスピクチャーを上書き開始位置と決定する上書き開始位置決定手段と、
前記上書き開始位置と前記編集開始点の間に存在するピクチャーの中で最先に再生されるピクチャーを上書き用ピクチャーとする上書き用ピクチャー決定手段と、
前記上書き開始位置から前記編集終了点が存在するデオオブジェクトユニットまでの全ピクチャーを前記上書き用ピクチャーと同じ画像が再生される画像に置き換える手段とを
備えたことを特徴とする編集装置。In an editing apparatus for editing video data recorded as an MPEG program stream,
Means for inputting an editing start point for starting editing of the video data, and an editing end point for ending editing;
Overwrite start position determining means for determining a reference picture that exists before the edit start point and is closest to the edit start point as an overwrite start position;
Overwriting picture determination means for setting a picture to be reproduced first among pictures existing between the overwriting start position and the editing start point as an overwriting picture;
An editing apparatus comprising: means for replacing all pictures from the overwriting start position to the video object unit where the editing end point exists with an image in which the same image as the overwriting picture is reproduced.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003184489A JP4127662B2 (en) | 2003-06-27 | 2003-06-27 | Editing method and editing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003184489A JP4127662B2 (en) | 2003-06-27 | 2003-06-27 | Editing method and editing apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005020529A true JP2005020529A (en) | 2005-01-20 |
JP4127662B2 JP4127662B2 (en) | 2008-07-30 |
Family
ID=34184248
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003184489A Expired - Fee Related JP4127662B2 (en) | 2003-06-27 | 2003-06-27 | Editing method and editing apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4127662B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101323472B1 (en) | 2006-08-10 | 2013-10-31 | 소니 주식회사 | Edition device, edition method, recording medium of edition program, and edition system |
-
2003
- 2003-06-27 JP JP2003184489A patent/JP4127662B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101323472B1 (en) | 2006-08-10 | 2013-10-31 | 소니 주식회사 | Edition device, edition method, recording medium of edition program, and edition system |
Also Published As
Publication number | Publication date |
---|---|
JP4127662B2 (en) | 2008-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4500480B2 (en) | Multimedia photo album | |
JP3631430B2 (en) | Recording / playback device with automatic chapter creation function | |
EP1330123A1 (en) | Recording/reproducing apparatus and method for programming recording of the recording/reproducing apparatus | |
JP3677205B2 (en) | Information recording apparatus for multiple recording surfaces and information recording method for multiple recording surfaces | |
JP2002152657A (en) | Device and method for performing video recording by automatically setting video recording rate | |
JP3569272B2 (en) | Recording device | |
EP1195766A2 (en) | Digital recording/reproducing apparatus | |
JP2004118986A (en) | Information recording device and method | |
JP3637275B2 (en) | Information immediate recording apparatus and information immediate recording method | |
JP3612274B2 (en) | Recording / playback device with playlist creation guide function | |
US7233735B2 (en) | Digital recording/reproducing apparatus with built-in storage medium | |
JP3607627B2 (en) | Information recording / reproducing apparatus and method with matching function of aspect ratio information | |
JP3609776B2 (en) | Editing apparatus and editing method | |
JP3607630B2 (en) | Video recording / reproducing method and apparatus for a plurality of recording media | |
JP2003109300A (en) | Method and apparatus for video recording and reproduction | |
JP2007325110A (en) | Imaging apparatus and control method of imaging apparatus | |
JP2004186718A (en) | Video data converter and video data converting method | |
JP4127662B2 (en) | Editing method and editing apparatus | |
JP4151465B2 (en) | Recording / reproducing apparatus and method | |
JP4015815B2 (en) | Information recording / reproducing method and apparatus with playlist editing function | |
JP4071750B2 (en) | Recording / playback device with playlist creation guide function | |
JP3607596B2 (en) | Recording / playback device with chapter creation guide function | |
JP3917610B2 (en) | Recording / playback device with chapter creation guide function | |
JP4247094B2 (en) | Information recording / reproducing apparatus and method | |
JP3981099B2 (en) | Recording rate automatic setting recording device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050415 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050606 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050808 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20050808 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20050808 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080205 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080407 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080507 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080509 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |