JP4290227B2 - ビデオ処理装置、デジタルビデオデータを処理する方法、ビデオ処理システム、ビデオクリップを処理する方法、およびビデオクリップを処理するための装置 - Google Patents
ビデオ処理装置、デジタルビデオデータを処理する方法、ビデオ処理システム、ビデオクリップを処理する方法、およびビデオクリップを処理するための装置 Download PDFInfo
- Publication number
- JP4290227B2 JP4290227B2 JP00047195A JP47195A JP4290227B2 JP 4290227 B2 JP4290227 B2 JP 4290227B2 JP 00047195 A JP00047195 A JP 00047195A JP 47195 A JP47195 A JP 47195A JP 4290227 B2 JP4290227 B2 JP 4290227B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- data
- storage device
- uncompressed
- video data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000012545 processing Methods 0.000 title claims description 50
- 238000000034 method Methods 0.000 title claims description 17
- 238000013144 data compression Methods 0.000 claims description 7
- 238000012546 transfer Methods 0.000 claims description 7
- 238000007906 compression Methods 0.000 description 23
- 230000006835 compression Effects 0.000 description 23
- 230000006837 decompression Effects 0.000 description 8
- 230000015556 catabolic process Effects 0.000 description 6
- 238000006731 degradation reaction Methods 0.000 description 6
- 230000002457 bidirectional effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 241001422033 Thestylus Species 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/99—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals involving fractal coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/001—Model-based coding, e.g. wire frame
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
- G11B27/031—Electronic editing of digitised analogue information signals, e.g. audio or video signals
- G11B27/034—Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/278—Subtitling
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B2220/00—Record carriers by type
- G11B2220/40—Combinations of multiple record carriers
- G11B2220/41—Flat as opposed to hierarchical combination, e.g. library of tapes or discs, CD changer, or groups of record carriers that together store one title
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Television Signal Processing For Recording (AREA)
- Image Processing (AREA)
Description
【発明の分野】
この発明はビデオ処理装置および方法に関する。
【0002】
【発明の背景】
デジタルビデオデータを処理するためのビデオ処理システムが知られている。そのようなシステムは一般に、数秒までのビデオを表わすビデオデータをストアするための1つまたは複数の大容量記憶装置を、ユーザによって制御可能な編集設備とともに備えており、この編集設備により、ストアされたビデオフレームは編集されたビデオクリップを作り上げるために、他のストアされたビデオフレームとの操作および/または結合のために選択されてもよい。
【0003】
発明者らは、その教示がここに引用例によって援用されている英国特許出願第9316626.2号で、発明者らが「ヘンリー(HENRY )」の商標で製造し販売しているビデオ処理システムを説明している。説明されるシステムは、1またはそれ以上のビデオクリップを表わすデータをストアするためのバルク記憶装置と、バルク記憶装置からの少なくとも1つのビデオクリップを表わすビデオデータをストアするためのビデオディスク記憶装置とを含む。ビデオ処理システムはさらに、発明者らによる英国特許出願第9205503.7号およびそれに対応する米国特許出願第08/030,823号に記載されたもののような画像プロセッサを含む。この教示はここに引用によって援用される。画像プロセッサはビデオディスク記憶装置からのビデオデータを編集して、やはりビデオディスク記憶装置にストアされる編集されたビデオクリップを表わすデータを作り上げるべく、ユーザの制御下で動作可能である。ビデオディスク記憶装置は、発明者らによる前述の英国特許出願第9205503.7号および対応する米国特許出願第08/030,823号に記載されている記憶装置に類似のものであってもよいし、発明者らによる英国特許出願第9226199.9号に記載される記憶装置に類似のものであってもよく、これらにおける教示はここに引用によって援用される。したがって、ビデオディスク記憶装置は、各々がビデオクリップを表わすデータをビデオレートにおいて伝えることのできる2つの双方向データ経路にインタフェースされたいくつかのディスク記憶装置を含んでもよい。ディスク記憶装置は併せてそのような装置にしては比較的記憶容量の大きい、典型的には20ギガバイト(GB)のビデオディスク記憶装置を提供し、したがって、ビデオディスク記憶装置は約15秒までのビデオを表わすデータを、画像プロセッサによって処理するためにストアすることができる。2つの双方向データ経路により、ビデオディスク記憶装置は2つのビデオクリップに対応するデータを各々ビデオレートで同時に出力する、および/または受取ることができる。
【0004】
上で論じたビデオディスク記憶装置によって提供される大きい容量および高いデータ転送レートは、冗長なビデオクリップのオンライン編集を行なうことを可能にする。つまり、最初のビデオと結果として得られる編集されたビデオとが放送可能な品質のものなので、編集されたビデオはさらなる処理を必要とすることなく符号化してブロードキャスト送信できる。
【0005】
前述の英国特許出願第9316626.3号はまた、「マイクロ・ヘンリー(MICRO HENRY )」の商標で製造され販売される第2のビデオ処理システムを説明している。説明される第2のシステムは、オフラインエディタとしてユーザの制御下で動作可能な画像プロセッサを含む。ヘンリー・ビデオ処理システムとは対照的に、マイクロ・ヘンリー・ビデオ処理システムは、合せて約4GBのデータをストアすることのできるいくつかのプラッタを含んではいるが、前述のビデオディスク記憶装置よりは著しく容量の小さいディスク記憶装置を備える。このディスク記憶装置は、圧縮/伸張回路を介してデータを受取ったり出力したりするように接続されており、この回路は発明者らによる英国特許出願第9312039.2号に記載された回路に類似のものであってもよい。圧縮/伸張回路は、入来するデータを、そのデータがディスク記憶装置へストアされる前に約20分の1まで圧縮する役割を果たす。約20分の1のファクタは、発生による損失によって受入れられないほどの画質の低下を招くことなく、ストアすべきデータの量を著しく低減するという点から通常許容され得るものである。データ圧縮を用いることにより、約60分のビデオを表わすデータを、4GBの記憶装置内にストアすることができる。
【0006】
マイクロ・ヘンリー画像プロセッサによって行なわれる処理および編集動作は、圧縮されていないビデオデータに対して実行されるものであって、したがって、データが画像プロセッサに出力される前に、ディスク記憶装置からの圧縮されたビデオデータを伸張することが必要である。また、プロセッサから出力される編集されたビデオデータは、記憶装置内にストアされる前に圧縮されなければならない。編集されたビデオデータにさらなる処理または編集が続いて行なわれるならば、このデータは処理に先立って再び伸張され、その後にもう一度圧縮されなければならない。圧縮および伸張のプロセスを数回にわたって行なえば、必然的にビデオ画像は幾分劣化することになる。現在、圧縮技術は大変良くなっているので、特にビデオデータに対して行なわれる圧縮および伸張の動作が1回か2回だけである場合にはこの劣化は通常素人目にはわからないほどである。マイクロ・ヘンリー・システムをオンライン編集設備として用いることは発明者らの意図するところではないが、実際にはコストを節約するために幾分画質が低下することを受入れるつもりのある編集者らによって、このシステムがそのように用いられているということは認識している。1回または2回の圧縮および伸張動作の結果として、画像中にほとんど見えないアーティファクトという形でわずかな画像の劣化があることは許容可能であろうが、劣化の度合はユーザが予測できない、したがって一般的に許容できない態様で変動し得る。
【0007】
画質の低下は画像中のノイズにもよっている。発明者らによる英国特許出願第9312039.2号に記載される圧縮技術では、各ビデオ画像フレームに固定ファイルサイズが割当てられ、各フレームが利用可能なファイルスペース内に収まるように、画質ファクタはフレームごとに選択される。たとえば、スポーツにおける賑やかな群衆シーンなどの、ごちゃごちゃした映像には、より多くの圧縮が必要であり、またこの画像が後に伸張されたとき、電子画像処理システムを用いて描かれたグラフィックなどよりすっきりしたまたは「明瞭な」映像が後で伸張された場合よりも、不要なアーティファクトがより多く見られる傾向がある。
【0008】
編集者が明瞭な映像とごちゃごちゃした映像とを組合せたいと願うのは珍しいことではない。たとえば、編集者はスポーツ番組中に群衆のシーンまたは他の背景の映像の上にタイトルや他の明瞭な前景グラフィックを重ね合せたいと思うかもしれない。圧縮の結果、ごちゃごちゃした背景映像の画質はデータを固定ファイルサイズ内に収めるために著しく低減させられることになる。伸張された背景データと明瞭な前景データとが組合せられた場合、結果として得られる複合映像データは、ごちゃごちゃしたもののままである。群衆シーンの方が複合画像のより大きい部分を構成するからである。複合映像の圧縮中、映像における前景のタイトルに対応する明瞭な領域は、映像におけるごちゃごちゃした背景に対応する領域と同じ度合の圧縮にさらされることになる。その結果、タイトルには他の場合で得られるであろうものよりも著しい劣化、およびより目につくアーティファクトが生じることとなってしまう。このタイトルは元来明瞭なものなので、劣化はより顕著に現われる。
【0009】
【発明の概要】
本発明の目的は、上で論じた問題点の少なくともいくらかを解決することである。
【0010】
したがってこの発明の1つの局面に従い、1またはそれ以上の初期ビデオフレームを表わす圧縮されていないデジタルビデオデータのソースと、デジタルビデオデータをフレームランダムアクセス基準でストアするための記憶装置と、ビデオデータを圧縮して圧縮されたビデオデータを生成し、記憶装置内にストアするための、および記憶装置からの圧縮されたデータを伸張して伸張されたデータを生成するための、データコンプレッサ/デコンプレッサと、圧縮されていないデータおよび伸張されたデータが記憶装置内に書込まれ、かつそこから読出されることを可能にするためにデータコンプレッサ/デコンプレッサをバイパスするバイパス経路とを含むビデオ処理装置が提供される。
【0011】
この発明の他の局面に従い、デジタルビデオデータを処理する方法が提供される。この方法は、1またはそれ以上の初期フレームを表わす圧縮されていないデジタルビデオデータを供給するステップと、第1の選択された処理ビデオフレームに関連の供給されたビデオデータを圧縮して圧縮されたビデオデータを生成するステップと、圧縮されたビデオデータをストアするステップと、ストアされ圧縮されたビデオデータを伸張して伸張されたビデオデータを生成するステップと、伸張されたビデオデータを処理して処理されたビデオデータを生成するステップと、処理されたビデオデータを圧縮せずにストアするステップとを含む。
【0012】
この発明のさらなる局面に従い、デジタルビデオデータのフレームのソースと、前記ソースから供給されたデータのフレームをストアするための、および前記ソースへそこからフレームを書込むための、ランダムアクセスディスク記憶手段と、前記記憶手段にストアされた複数個のビデオフレームを処理および表示のためにストアすることのできる表示記憶手段と、前記表示記憶手段と動作的に接続されて、前記表示記憶手段にストアされた複数個のフレームを表示することのできる表示モニタと、前記記憶手段から前記表示記憶装置にビデオフレームを供給し、かつ前記ソースから記憶手段に供給された各フレームがそこに圧縮された形式でストアされるべきか、圧縮されない形式でストアされるべきかを判断するための、手動制御下で動作可能な制御プロセッサ手段と、前記制御プロセッサ手段によって選択された前記ソースからのフレームを圧縮して、前記記憶手段内に圧縮された形式でストアするための、データコンプレッサおよびデコンプレッサと、複数個の圧縮されていないフレームを、もしくは圧縮された複数個のフレームを前記データコンプレッサおよびデコンプレッサ内で伸張してから、または1つの圧縮されたフレームを前記データコンプレッサおよびデコンプレッサ内で伸張してから、1つの圧縮されていないフレームと組合せるための画像プロセッサ手段と、組合せられたフレームの各々を前記記憶手段内に圧縮されない形式でストアするための手段とを含む、ビデオ処理システムが提供される。
【0013】
この発明における上述の、およびさらなる特徴は前掲の特許請求の範囲で特定的に述べられており、その利点とともに以下で添付の図面を参照して提示されるこの発明の例示的実施例の詳細な説明を考慮すればより明白になるであろう。
【0014】
【好ましい実施例の詳細な説明】
次に添付の図面を参照すると、ビデオソース2を含むビデオ処理システム1が示されており、このビデオソースはたとえばビデオテープレコーダであってもよく、1つ以上のビデオクリップを形成する1つ以上のビデオフレームを表わすデジタルデータを与える。したがって、ソース2はビデオクリップのライブラリとしての役割を果たし、編集中に使用するためにアーカイブに保管されたビデオクリップを取出すことができる手段となる。代替的には、このソースは、ビデオカメラ、レーザディスク、またはデジタルビデオデータを与えることができる他のいかなる装置であってもよい。ビデオクリップの各々を表わすビデオデータは、たとえばいわゆるD1規格に対応するフォーマットのような非圧縮デジタルコンポーネントフォーマットでソースから出力される。
【0015】
システム1は、少なくとも1つのビデオクリップに関するデータをそれを介してビデオレート(たとえば、規格CCIR601に従えばフルカラー映像に関して22Mバイト)で十分に転送することができるバンド幅を有するデータ経路4を介してソース2に接続されるバッファ3を含む。バッファ3はまた、表示記憶装置5および画像プロセッサ6に接続される。バッファ3は、ソースと表示記憶装置5と画像プロセッサとの間のインタフェースとなり、表示記憶装置5に接続されるモニタ7に表示するためにソース2から表示記憶装置5に入来ビデオクリップデータを転送するために用いられる。これにより、編集のためにクリップを選択している間にこのバッファを用いることによってソースからの入来ビデオクリップをモニタ7で前もって見ることができる。
【0016】
表示記憶装置5は、編集中にビデオのいくつかのフレームに関するデータをストアするための大型スクラッチパッド記憶装置を画像プロセッサ6に与える。本出願人の上述の英国特許出願番号第9205503.7号により詳細に記載されるように、画像プロセッサ6は、その中のフレームデータを処理してモニタの異なる部分に同時に表示するために、縮小されたそれぞれのフレームを生成する。画像プロセッサ6は、表示記憶装置5からビデオの1ピースをモニタ7のいくつかの異なる位置に同時に出力するのを制御するか、またはビデオのいくつかのピースをモニタの共通領域に出力することができる。したがって、システムのユーザがいくつかの異なる方法で操作したり変更したりすることによって、画像プロセッサ6およびディスプレイ記憶装置5はモニタ7にビデオクリップを与えることができる。画像プロセッサ6は、バッファ3を介して供給されたデータから縮小された画像を同時に生成するための2つの別々の処理ユニット(図示せず)を含む。
【0017】
バッファ3はまた、2本の双方向バス8および9を介してコンプレッサ/デコンプレッサ回路10に接続される。この回路10は、たとえば本出願人の英国特許出願番号第9312039.2号に記載される回路のようないかなる既知の適切な回路であってもよい。コンプレッサ/デコンプレッサ回路10は、ディスク記憶装置14に接続される。圧縮されたビデオデータは、データバス12を介してコンプレッサ/デコンプレッサ10とディスク記憶装置14との間で転送される。ディスク記憶装置14の容量は約4GBであり、これは、この記憶装置は約1時間のビデオを表わす圧縮されたビデオデータをフレームランダムアクセスベースでストアできる。すなわち、ディスク記憶装置14はフレームランダムアクセス記憶装置であり、したがって、いずれかのビデオフレームを規定するデータを、アクセス中に他のフレームに関するデータをシーケンシャルに調べる必要なくディスク記憶装置からランダムに選択することができる。ディスク記憶装置14は、編集のために選択されたビデオクリップを規定するソース2からのデータをストアするために用いられる。
【0018】
システム1は、バッファ3と、表示記憶装置5と、画像プロセッサ6とに接続される制御プロセッサ15をさらに含む。制御プロセッサ15は、編集中に画像プロセッサ6によってビデオデータに適用される変更および処理を制御する。制御プロセッサ15からの制御経路は、図中破線で示している。編集中、制御プロセッサ15は、表示のための、バッファ3から表示記憶装置5への、および表示記憶装置5からモニタ7へのビデオクリップデータの転送を制御する。さらに、制御プロセッサ15から送られ、表示および/または処理に必要とされるフレーム等を識別する制御データは、ディスク記憶装置14におよびディスク記憶装置14からビデオデータを転送する際に用いられる。
【0019】
制御プロセッサ15はまた、画像プロセッサ6が所望の動作を行ないかつビデオクリップの選択されたフレームに対してキーイング信号の発生、色の変更、テクスチャの変更、またはサイズ、位置および/もしくはスピンの変更等の空間的な影響を含む機能を果たすように画像プロセッサ6を制御する。これらの動作および影響は本質的に周知であり、ここでさらに説明する必要はない。
【0020】
ビデオクリップとそのビデオクリップ内のフレームとの選択および変更は、制御プロセッサ15によってアクセス可能なディレクトリ17において規定される多数の予め規定された機能のうちのいずれか1つを選択するために用いることができるユーザにより操作可能なスタイラス/タッチタブレット装置16によって制御される。選択可能な機能は、モニタ7の一部分に表示されるメニュー(図示せず)に示され、ユーザがスタイラス/タッチタブレット装置16を操作することによって選択することができる。
【0021】
グラフィック静止画像記憶装置19は表示記憶装置5およびバッファ3に直接接続され、編集中に、用いるために選択されたビデオ静止画像を表わすデジタルデータを生成する。ビデオ静止画像は、たとえば、背景、またはたとえば群衆の場面に重ねるためのグラフィックキャプションを示す映像等のいかなる形の画像であってもよい。明らかに、圧縮されていない形でディスク記憶装置にストアされたデータは伸張されるべきではないため、データがディスク記憶装置14から出力され画像プロセッサ6によって処理される際に圧縮されていないデータがデコンプレッサ回路10をバイパスできるようにするために、バッファ3とディスク記憶装置14との間にバイパス経路20が設けられる。制御プロセッサ15は、この制御プロセッサ内に含まれる編集メモリ(図示せず)から送られ、データのフレームが圧縮されていない形でストアされていることを示すデータに応答して自動的にバイパス経路20を選択する。バイパス経路20により、ソース2からの圧縮されていないデータがコンプレッサ回路10をバイパスしてディスク記憶装置14に圧縮されていない形でストアされることが可能となる。
【0022】
次に、例示的な編集動作を参照して、システム1のさらなる動作および用途を説明する。以下の説明では、圧縮された形で記憶装置にストアされるビデオデータを圧縮されたデータと呼び、最初に圧縮されずに記憶装置にストアされるかまたはそのまま用いられるビデオデータを圧縮されていないデータと呼び、記憶装置にストアされデコンプレッサ回路を介してその記憶装置から読出されるデータを伸張されたデータと呼ぶ。
【0023】
編集されるべき1つまたは複数のビデオクリップに関するビデオデータはビデオソース2からバッファ3に入力され、モニタ7に表示される。このとき、ユーザは、入来データをディスク記憶装置14にストアする前に圧縮するか否かを決定することができる。クリップが比較的短い場合または高画質の画像を維持することが重要である場合は、ユーザは、入来データを圧縮されていない形でディスク記憶装置14にストアすることを選択してもよい。この場合、入来データはバッファから経路20を介して出力され、ディスク記憶装置14にストアされる。しかしながら、入来ビデオデータはしばしばバッファ3から双方向経路8または9のうちの1つを介してコンプレッサ回路10に出力される。コンプレッサ10から出力された圧縮データは、バス12を介してディスク記憶装置14に伝送される。たとえばキャプションまたは他のグラフィックを表わす記憶装置19からのグラフィック静止画像データは、圧縮されていない形で表示記憶装置5に直接入力され、さらに、バッファ3および経路20を介して伝送され圧縮されていない形でディスク記憶装置14にストアされてもよい。したがって、ディスク記憶装置14は、種々の異なるビデオクリップや画像を表わすデータを圧縮された形および圧縮されていない形の両方で含むことになる。
【0024】
ビデオデータの編集は、ビデオデータが圧縮されていないまたは伸張された形である場合にのみ行なうことができる。ユーザは、スタイラス/タッチタブレット装置16を操作してモニタ上のカーソル(図示せず)を動かし、ディレクトリ17から選択するべき機能を選択することによって、編集するべきクリップを表わすビデオデータを選択する。圧縮されたデータを編集する場合、データはディスク記憶装置14からデータバス12を介して出力され、かつデコンプレッサ回路10に入力される。デコンプレッサ回路10からの伸張されたデータは、双方向データ経路8、9のうちの1つを介してバッファ3に入力される。圧縮されていないデータを編集する場合、このデータはディスク記憶装置14からバイパス経路20を介してバッファ3に出力される。その後、圧縮されていないまたは伸張されたデータはバッファ3から表示記憶装置に転送され、静止画像記憶装置19にある編集に必要とされるデータがディスク記憶装置14にまだないと仮定すると、そのデータとともに編集される。(たとえば均一な色の背景にタイトルを形成する静止グラフィックのみを含む出力フレームのシーケンスを作り出すという決定がなされていれば、データはディスク記憶装置14に既にストアされているかもしれない。)
以下の説明では、編集動作は前景キャプションを背景映像の上に重ねることによって行ない、この前景キャプションはグラフィック等の「明瞭な」画像であり、背景映像は群衆の場面等の「ごちゃごちゃした」映像であると仮定する。もちろん、他の編集動作およびより複雑な編集動作もシステム1を用いて行なうことができることが認識されるはずである。
【0025】
圧縮されていない前景キャプションを表わすデータは、グラフィック静止画像記憶装置19から読出されて表示記憶装置5に送られ、背景ビデオ映像を表わす圧縮されたデータは伸張され、その後表示記憶装置5に置かれる。その後、既知の編集クリップ作成法を用いて、ビデオフレームごとに、圧縮されていない前景キャプションを伸張された背景ビデオ映像と組合せる。一旦編集クリップがユーザの満足のいくように作成されると、そのクリップのフレームの各々を表わすデータは再びディスク記憶装置14に書込まれる。編集クリップのフレームは圧縮されていないデータおよび伸張されたデータをともに含み、データがディスク記憶装置14にストアされる前にコンプレッサ回路10によって圧縮されれば、上で議論した受入れ不可能なアーティファクトが編集クリップに導入され、それが前景キャプションにおいて非常に目立ってしまうであろう。したがって、システムは、編集クリップデータがバッファからバイパス経路20を介して出力され、圧縮されずに最初の圧縮されたビデオデータとともにディスク記憶装置14にストアされるように構成される。
【0026】
比較的長いクリップのわずかな部分にのみ編集を行なうことは異例なことではない。長いクリップを圧縮された形でディスク記憶装置14にストアし、さらにそのうちの短いセクションを編集してその編集された短いセクションを伸張された形でディスク記憶装置14にストアできることが都合よい。編集が終了すると、編集されていない部分をデコンプレッサ回路を介して出力しかつ編集された部分をバイパス経路20を介して出力することにより、ディスク記憶装置14からクリップ全体を読出すことができる。このようにすれば、クリップの各部分が一度しか圧縮、伸張されないため、クリップの長さ全体にわたって画質は一定である。さらに、電子画像処理システムを用いて描かれるグラフィック等の、目に見えるアーティファクトが発生しやすい領域は絶対に圧縮されず、したがってこれらの領域ではそのようなアーティファクトは生じない。これにより、システム1を用いる場合画質が非常に予測可能となる。所与のクリップに関してデータの圧縮を行なわないという決定は最初に行なうことができるが、データは2回以上は圧縮されないため、決定を行なう必要がない。したがって画質は非常に予測可能であり、記憶スペースと画質とのどちらを優先するかという決定を行なう必要はない。したがって、ユーザは、編集中にクリップに適用する処理の際のソース2からディスク記憶装置14への最初のデータ転送の際にそれ以前のことを知る必要はない。もちろん、システムをオフライン編集の目的にのみ用いており、最初からユーザの意図が制御プロセッサ15に含まれる編集メモリ(図示せず)にストアされた編集データを用い、その後オンライン設備を用いて編集を繰り返すことであれば、ユーザがシステムを無効にしかつ編集クリップを表わすデータを記憶装置にストアする前に圧縮させることによって記憶装置14において記憶スペースをセーブすることができる。
【0027】
上述の説明では、コンプレッサ/デコンプレッサ回路10におけるデータの圧縮および伸張は対称であり、たとえばいわゆるJPEG規格の最もよく使われる部分である離散コサイン変換コーディングの場合のようにリアルタイムで行なうことができる。しかしながら、ここに記載するシステムでは編集データをディスク記憶装置14に書込むのに必要な時間が短いため、このシステムではたとえばフラクタルベースの変換のような高画質非対称圧縮法を用いることができる。
【0028】
フラクタルベースの圧縮は複雑で低速であるため、現在利用できる技術では、リアルタイムでビデオ画像を圧縮するためにフラクタル圧縮法を用いることは不可能である。このため、今まで本出願人および高画質画像処理システムの他の製造業者はフラクタル圧縮法を用いなかった。対称的に、フラクタルベースの伸張は単純でかつ高速であるため、以下に説明するようにこのフラクタルベースの伸張をシステム1において有益に用いることができる。
【0029】
コンプレッサ10は、イテレイテッド・システムズ・インコーポレイテッド(Iterated Systems Inc. )製造のマルチボードコンプレッサ等のフラクタルコンプレッサをオフラインの態様で用いることによってシステムのユーザとのいかなる相互作用の情報なしでもフラクタル圧縮を行なうことができるように構成され得る。このコンプレッサは、リアルタイムの約1/10(すなわち、ビデオ速度の1/10)でビデオデータの5:1の圧縮を行なうことができる。これは、5分のビデオデータをビデオソース2からコンプレッサ10を介してディスク記憶装置14に転送すれば約50分かかるであろうということを意味する。このアプローチを採用すれば、受入れ不可能な遅延が生じることになるであろう。したがって、ユーザがビデオソース2から選択したビデオデータは、コンプレッサ10を介して入力される代わりに、まずバイパス経路20を介して圧縮されていない形でディスク記憶装置14に書込まれる。一旦ビデオデータがソース2から記憶装置14に転送されてしまうと(または、記憶装置が約5分のビデオデータで満たされると)、ディスク記憶装置14から一度にデータのフレームが読取られコンプレッサ10に送られ、ここでそのデータのフレームが圧縮される。データのフレームの各々が圧縮されるたびに、ディスク記憶装置14にある圧縮されていないデータが抹消され、その圧縮されていないデータの代わりに圧縮されたデータが記憶装置14に書込まれる。フラクタル圧縮が進むに従って、ディスク記憶装置14において利用可能な空きスペースの量が多くなる。したがって、たとえば10分後、約1分の圧縮されていないまたは伸張されたビデオデータのためのスペースが利用可能となる。
この記憶装置14における圧縮されていないデータの圧縮はオフラインのまま継続し、ディスク記憶装置14において十分な空きスペースが利用できるようになれば、編集を開始することができる。編集中、データのフレームは以前に説明したようにユーザによって選択される。選択されたフレームに関するデータはディスク記憶装置14から読出され、表示記憶装置5に送られ、画像プロセッサ6によって処理される。記憶装置14からのデータがコンプレッサ10によって圧縮されていなければ、伸張回路10をバイパスするためにこのデータは単に経路20を介して読出されるだけである。しかしながら、データが圧縮されていれば、このデータはデコンプレッサ10を介してディスク記憶装置14から読出される。上述のように、フラクタルベースの伸張は単純でかつ高速であるため、これを用いることにより、ビデオフレーム期間に対応する期間で、圧縮されたデータのフレームを記憶装置14から読出し、デコンプレッサ10によって伸張し、表示記憶装置5にストアすることが可能となる。言換えれば、圧縮されていないデータを記憶装置から読出しバイパス経路20を介して出力するのと同じ速度で、圧縮されたデータのフレームを記憶装置14から読出しそれを伸張して出力することができる。したがって、圧縮されたおよび圧縮されていないデータの両方に関してビデオレートでフレームランダムアクセスベースでフレームにアクセスすることが依然として可能である。
【0030】
データのフラクタル圧縮によってディスク記憶装置14において利用できるようになる空きスペースは、上述のように、画像プロセッサ6によって生成される編集データをストアするために用いられる。もちろん、制御プロセッサ15は、ビデオフレームの各々を表わすデータが1回しか圧縮されないようにディスク記憶装置14へのおよびディスク記憶装置14からのデータの転送を制御するように構成される。
【0031】
ディスク記憶装置14にあるソース2からのデータをすべて圧縮することにより、画像プロセッサ6によって作り出された編集フレームを表わすデータをストアするためのディスク記憶装置14において約4分の空きスペースが利用できるようになる。比較的長いクリップのわずかな部分しか編集を行なわないことがよくあるということを考慮すれば、4分の編集ビデオのためのスペースは、ほとんどの場合の編集において非常に適切であることが認識されるであろう。
【0032】
一旦編集が終ると、放送したりまたは必要に応じて別の場所でさらに処理するために必要に応じて、編集クリップを表わすデータはデコンプレッサ10またはバイパス経路20を介してディスク記憶装置14から読出される。
【0033】
以上のように本発明をその好ましい実施例を参照することにより説明したが、この実施例は例示的なものであって、前掲の特許請求の範囲およびその均等物において規定するような本発明の意図および範囲から外れることなく当業者によって種々の変形例および変更例がなされることが可能であることが理解されるはずである。
【図面の簡単な説明】
【図1】本発明のシステムの一実施例の概略ブロック図である。
【符号の説明】
2 ビデオソース
5 表示記憶装置
6 画像プロセッサ
7 モニタ
10 コンプレッサ/デコンプレッサ
14 ディスク記憶装置
15 制御プロセッサ
Claims (16)
- 1またはそれ以上の編集されるべきビデオフレームを表わす圧縮されていないデジタルビデオデータのソース(2)と、
圧縮されていないビデオデータをソース(2)から受取るためのバッファ(3)と、
デジタルビデオデータをストアするためのフレームランダムアクセス記憶装置(14)とを含み、記憶装置(14)は、バッファ(3)に接続され、そこから圧縮されていないデータを受取り、かつそこへ圧縮されていないデータを供給し、さらに、
圧縮されていないビデオデータをフレームごとに圧縮して圧縮されたビデオデータを生成するための、および圧縮されたビデオデータをフレームごとに伸張して伸張されたビデオデータを生成するための、データコンプレッサ/デコンプレッサ(10)を含み、コンプレッサ/デコンプレッサ(10)は、バッファ(3)および記憶装置(14)に接続され、バッファ(3)からのデータを圧縮して記憶装置(14)にストアし、かつ記憶装置(14)からの圧縮されたデータを伸長してバッファ(3)に供給し、さらに、
バッファ(3)と記憶装置(14)との間の圧縮されていない形式での転送のためのビデオデータと、バッファ(3)と記憶装置(14)との間のコンプレッサ/デコンプレッサ(10)を介する転送のためのビデオデータとを選択するようにバッファ(3)を制御する、制御プロセッサ(15)と、
制御プロセッサ(15)の制御下で記憶装置(14)から圧縮されていないビデオデータおよび伸長されたビデオデータを、バッファ(3)を介して受取り、ある1つのビデオフレームを表す圧縮されていないデータと別のビデオフレームを表す伸長されたデータとを組合わせることにより、処理されたビデオフレームを表す処理されたデータを生成する画像処理動作を行い、かつ、処理されたデータをバッファ(3)に供給して記憶装置(14)内に圧縮されていないデータとしてストアするための、ビデオプロセッサ(6)とを含む、ビデオ処理装置(1)。 - データコンプレッサ/デコンプレッサ(10)は、そこに入力されたビデオデータの対称的なリアルタイムのデータ圧縮を行なうよう構成される、請求項1に記載のビデオ処理装置(1)。
- データコンプレッサ/デコンプレッサ(10)は、そこに入力されるビデオデータのフラクタルデータ圧縮を行なうよう構成される、請求項1に記載のビデオ処理装置(1)。
- フラクタルデータ圧縮は、圧縮されていない形式で記憶装置(14)内に前にストアされていた選択されたデータに対しオフラインで行なわれる、請求項3に記載のビデオ処理装置(1)。
- ビデオプロセッサ(6)は、そこに入力されたビデオデータに対しユーザによって選択される処理動作を行ない、1またはそれ以上の処理されたビデオフレームを表わす処理されたビデオデータを生成するよう配置される、請求項1から4のいずれかに記載のビデオ処理装置。
- 1またはそれ以上の編集されるべきビデオ静止画像を表わすデジタルビデオデータを圧縮されない形式でビデオプロセッサ(6)またはバッファ(3)に入力するよう接続される、ビデオ静止画像ソース(19)をさらに含む、請求項1から5のいずれかに記載のビデオ処理装置。
- ビデオプロセッサ(6)は、バッファ(3)に接続され、そこに入力される選択されたビデオデータに対し前記画像処理動作を行なうための画像プロセッサを含む、請求項1から6のいずれかに記載のビデオ処理装置。
- ユーザがコマンドを制御プロセッサ(15)に入力することを可能にするためのユーザによって動作可能な入力手段(16)をさらに含む、請求項1から7のいずれかに記載のビデオ処理装置。
- ユーザによって動作可能な入力手段は、スタイラスおよびタッチタブレット装置(16)を含む、請求項8に記載のビデオ処理装置。
- ビデオプロセッサは、バッファ(3)に接続され、そこに入力される1またはそれ以上の選択されたビデオフレームを表わすデータをストアするための表示記憶装置(5)をさらに含み、画像プロセッサ(6)は表示記憶装置(5)に接続されてそこにストアされたデータに対し前記画像処理動作を行い、前記処理されたビデオデータを生成する、請求項7に記載のビデオ処理装置。
- 表示記憶装置(5)に接続され、表示記憶装置(5)内のデータから画像プロセッサ(6)によって導出された画像を表示するためのモニタ(7)をさらに含む、請求項10に記載のビデオ処理装置。
- 制御プロセッサ(15)に接続されており、ユーザによって選択可能な画像処理動作に関連のアルゴリズムおよびデータをストアするための、ディレクトリ(17)をさらに含む、請求項1から11のいずれかに記載のビデオ処理装置。
- 編集されるべきビデオフレームを表わす圧縮されていないデジタルビデオデータを供給するステップと、
いくつかの編集されるべきビデオフレームを表す供給されたデータを選択して圧縮された形式でストアするステップと、
前記いくつかの編集されるべきビデオフレームに関連する選択されたビデオデータをフレームごとに圧縮して、圧縮されたビデオデータを生成するステップと、
他の編集されるべきビデオフレームを表す供給されたデータを選択して圧縮されていない形式でストアするステップと、
圧縮された選択されたビデオデータおよび圧縮されていない選択されたビデオデータを記憶装置にストアするステップと、
圧縮されたストアされたビデオデータおよび圧縮されていないストアされたビデオデータを記憶装置から受取るステップと、
受取られた圧縮されたビデオデータを伸長して伸長されたビデオデータを生成するステップと、
ある1つのビデオフレームを表す前記圧縮されていないデータと別のビデオフレームを表す前記伸長されたデータとを組合わせることにより、伸長されたビデオデータおよび圧縮されていないビデオデータを処理して処理されたビデオフレームを表す処理されたビデオデータを生成するステップと、
処理されたビデオデータを圧縮されていないデータとして記憶装置にストアするステップとを含む、デジタルビデオデータを処理する方法。 - 前記圧縮されたデータを生成するために対称的なリアルタイムのデータ圧縮が行なわれる、請求項13に記載の方法。
- 前記圧縮されたデータを生成するために、フラクタルデータ圧縮が行なわれる、請求項13に記載の方法。
- フラクタルデータ圧縮は、前に供給された圧縮されていないデータに対しオフラインで行なわれる、請求項15に記載の方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB9400245A GB9400245D0 (en) | 1994-01-07 | 1994-01-07 | A video processing apparatus and method |
GB9404318:9 | 1994-03-04 | ||
GB9404318A GB2285720B (en) | 1994-01-07 | 1994-03-04 | A video processing apparatus and method |
GB9400245:8 | 1994-03-04 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07303236A JPH07303236A (ja) | 1995-11-14 |
JP4290227B2 true JP4290227B2 (ja) | 2009-07-01 |
Family
ID=26304137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP00047195A Expired - Lifetime JP4290227B2 (ja) | 1994-01-07 | 1995-01-06 | ビデオ処理装置、デジタルビデオデータを処理する方法、ビデオ処理システム、ビデオクリップを処理する方法、およびビデオクリップを処理するための装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US5727112A (ja) |
EP (1) | EP0662688B1 (ja) |
JP (1) | JP4290227B2 (ja) |
DE (1) | DE69520845T2 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3723981B2 (ja) * | 1994-08-12 | 2005-12-07 | ソニー株式会社 | 映像信号記録装置および映像信号編集装置 |
US5809245A (en) * | 1995-01-24 | 1998-09-15 | Kabushiki Kaisha Toshiba | Multimedia computer system |
US7092024B2 (en) * | 1995-09-21 | 2006-08-15 | Nikon Corporation | Electronic camera having pen input function |
US6154600A (en) * | 1996-08-06 | 2000-11-28 | Applied Magic, Inc. | Media editor for non-linear editing system |
US6065084A (en) * | 1996-12-31 | 2000-05-16 | Silicon Graphics, Inc. | Programmable packer and unpacker with ditherer |
US5973734A (en) | 1997-07-09 | 1999-10-26 | Flashpoint Technology, Inc. | Method and apparatus for correcting aspect ratio in a camera graphical user interface |
JPH11225292A (ja) * | 1998-02-04 | 1999-08-17 | Sony Corp | デジタル放送受信装置および受信方法 |
US6317141B1 (en) | 1998-12-31 | 2001-11-13 | Flashpoint Technology, Inc. | Method and apparatus for editing heterogeneous media objects in a digital imaging device |
JP4001814B2 (ja) * | 2000-10-12 | 2007-10-31 | 松下電器産業株式会社 | 音声/映像データ記録再生装置及び方法、ならびに音声/映像データ再生装置及び方法 |
US8504574B2 (en) * | 2004-10-28 | 2013-08-06 | Motorola Mobility Llc | Method and system for freshness indication of location data |
US7649949B2 (en) * | 2005-07-28 | 2010-01-19 | Sony Corporation | Multipurpose television module |
US20070073989A1 (en) * | 2005-08-31 | 2007-03-29 | Interdigital Technology Corporation | Method and apparatus for efficient data storage and management |
US9224145B1 (en) | 2006-08-30 | 2015-12-29 | Qurio Holdings, Inc. | Venue based digital rights using capture device with digital watermarking capability |
US8218887B2 (en) * | 2007-09-28 | 2012-07-10 | Abbyy Software, Ltd. | Enhanced method of multilayer compression of PDF (image) files using OCR systems |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3082393A (en) | 1960-05-27 | 1963-03-19 | Packard Bell Electronics Corp | Television tuner |
JPS5794836A (en) * | 1980-09-22 | 1982-06-12 | Xerox Corp | Method and apparatus for converting data stored into video band |
US4514818A (en) * | 1980-12-04 | 1985-04-30 | Quantel Limited | Video image creation system which simulates drafting tool |
US4949190A (en) * | 1988-11-25 | 1990-08-14 | Eastman Kodak Company | Collation of buffered multi-page documents |
US4963995A (en) * | 1988-12-27 | 1990-10-16 | Explore Technology, Inc. | Audio/video transceiver apparatus including compression means |
US5262877A (en) * | 1989-03-03 | 1993-11-16 | Fuji Photo Film Co., Ltd. | Image and voice editing system for allowing various images and voices to be reproduced as associated with each other |
GB8910380D0 (en) * | 1989-05-05 | 1989-06-21 | Quantel Ltd | Video processing |
JP2946335B2 (ja) * | 1989-07-10 | 1999-09-06 | コニカ株式会社 | 電子スチルカメラ |
US5218672A (en) * | 1990-01-19 | 1993-06-08 | Sony Corporation Of America | Offline editing system with user interface for controlling edit list generation |
US5440401A (en) * | 1990-09-14 | 1995-08-08 | Eastman Kodak Company | Image database incorporating low resolution index image data |
US5170263A (en) * | 1990-10-10 | 1992-12-08 | Fuji Xerox Co., Ltd. | Image processing system |
US5276531A (en) * | 1991-09-27 | 1994-01-04 | Apple Computer, Inc. | Method and apparatus for high definition imaging |
US5355450A (en) * | 1992-04-10 | 1994-10-11 | Avid Technology, Inc. | Media composer with adjustable source material compression |
US5383027A (en) * | 1992-02-27 | 1995-01-17 | Lifetouch National School Studios Inc. | Portrait printer system with digital image processing editing |
GB9204360D0 (en) * | 1992-02-28 | 1992-04-08 | Monro Donald M | Fractal coding of data |
GB2266037B (en) * | 1992-03-13 | 1996-02-14 | Quantel Ltd | An electronic video processing system |
EP0562845B1 (en) * | 1992-03-24 | 1999-02-03 | Kabushiki Kaisha Toshiba | Variable length code recording/playback apparatus for a video recorder |
JP2822362B2 (ja) * | 1992-03-24 | 1998-11-11 | 日本ビクター株式会社 | ディジタル映像信号の文字多重化方法 |
KR0135872B1 (ko) * | 1992-06-08 | 1998-05-15 | 강진구 | 디지탈 영상기록재생장치 및 그 방법 |
US5367341A (en) * | 1992-10-20 | 1994-11-22 | Canon Information Systems, Inc. | Digital video editor having lost video frame protection |
GB2274223B (en) * | 1992-12-07 | 1997-01-08 | Quantel Ltd | A video processing system |
-
1995
- 1995-01-06 US US08/369,468 patent/US5727112A/en not_active Expired - Fee Related
- 1995-01-06 EP EP95300060A patent/EP0662688B1/en not_active Expired - Lifetime
- 1995-01-06 JP JP00047195A patent/JP4290227B2/ja not_active Expired - Lifetime
- 1995-01-06 DE DE69520845T patent/DE69520845T2/de not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH07303236A (ja) | 1995-11-14 |
DE69520845T2 (de) | 2001-08-23 |
DE69520845D1 (de) | 2001-06-13 |
US5727112A (en) | 1998-03-10 |
EP0662688A1 (en) | 1995-07-12 |
EP0662688B1 (en) | 2001-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5649046A (en) | Video processing system with random access framestore for video editing | |
US6057832A (en) | Method and apparatus for video-on-demand with fast play capability | |
JP3715342B2 (ja) | オーディオ/ビデオ編集装置および方法 | |
JP4290227B2 (ja) | ビデオ処理装置、デジタルビデオデータを処理する方法、ビデオ処理システム、ビデオクリップを処理する方法、およびビデオクリップを処理するための装置 | |
EP0803873B1 (en) | Editing control apparatus and editing control method | |
JPH0846900A (ja) | データ記憶・検索装置および方法 | |
US6357047B1 (en) | Media pipeline with multichannel video processing and playback | |
US6445874B1 (en) | Video processing system | |
JP4045651B2 (ja) | 情報処理装置、情報処理方法及びプログラム記録媒体 | |
JPH07212705A (ja) | ノンリニア映像編集装置 | |
EP1111910B1 (en) | Media pipeline with multichannel video processing and playback | |
US6292219B1 (en) | Motion processing system using an effects-enhanced motion storage medium | |
GB2285720A (en) | A video processing apparatus and method | |
US20040136688A1 (en) | Video processing system | |
GB2274223A (en) | A video editing system | |
JP4772742B2 (ja) | 画像再生装置、画像再生方法及びプログラム記録媒体 | |
JP4186949B2 (ja) | 情報記録再生装置 | |
JP3746112B2 (ja) | 動画像編集方法および同方法を適用したシステム | |
JP5170205B2 (ja) | 情報記憶媒体、および動画音声記録再生装置 | |
JP4208022B2 (ja) | 情報編集装置、情報編集方法及びプログラム記録媒体 | |
JP4787206B2 (ja) | 情報記録装置及び情報記録方法 | |
JPH0795586A (ja) | 圧縮された動画像データの管理方法 | |
JP2002185924A (ja) | 動画像圧縮データ記録再生装置 | |
JPH07193780A (ja) | 磁気記録再生装置 | |
JP2000236497A (ja) | 記録装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040831 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20041129 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20041202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050223 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050713 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050727 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20050819 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090202 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090401 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120410 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120410 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130410 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130410 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140410 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |