JPH0622304A - シーンチェンジ検出装置 - Google Patents
シーンチェンジ検出装置Info
- Publication number
- JPH0622304A JPH0622304A JP35161592A JP35161592A JPH0622304A JP H0622304 A JPH0622304 A JP H0622304A JP 35161592 A JP35161592 A JP 35161592A JP 35161592 A JP35161592 A JP 35161592A JP H0622304 A JPH0622304 A JP H0622304A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- scene change
- coding
- unit
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/87—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/142—Detection of scene cut or scene change
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/179—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/147—Scene change detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
種々の特徴量を用いてシーンチェンジを自動的に検出で
きるシーンチェンジ検出装置を得る。 【構成】 1フレーム毎の予測誤差の累計値、符号化デ
ータのデータ量、またはフレーム内符号化(フレーム間
符号化)された画素数などの、動画像の符号化/復号化
に際して計算される特徴量を用いて、シーンチェンジが
行われるフレームを自動検出し、また、フレームモード
を示すデータと符号化モードの生起頻度を情報保持手段
に保持させ、時間的に連続する2フレーム分のフレーム
モードの比較結果と符号化モードの生起頻度の比較結果
が、所定の条件に合致した場合に検出信号を出力するよ
うにしたもの。
Description
成される動画像より、シーンの変化するフレームを自動
検出するシーンチェンジ検出装置に関するものである。
が適用される、予測符号化方式による動画像の符号化装
置および復号化装置の一例を示すブロック図である。図
において、1は直前の1フレーム分の画像データが格納
されているフレームメモリであり、2は入力される画像
信号とこのフレームメモリ1に格納されていた画像デー
タとの差分を算出する減算器である。3は減算器2の出
力を離散コサイン変換(以下、DCTという)するDC
T部、4はこのDCT部3で変換された信号を量子化す
る量子化部であり、5はこの量子化部4で量子化された
信号を符号化して通信路に送出するエントロピー符号化
部である。
に、前記DCT部3とは逆の逆離散コサイン変換(以
下、逆DCTという)を施す逆DCT部であり、7は前
記フレームメモリ1に格納されていた前フレームの画像
データにこの逆DCT部6で逆DCTされた信号を加算
して、再度フレームメモリ1に格納する加算器である。
動画像の符号化装置はこれら各部によって形成されてい
る。
た符号化データを復号するエントロピー復号化部であ
り、9はこのエントロピー復号化部8にて復号された信
号に対して逆DCTの処理を施す逆DCT部である。1
0は直前の1フレーム分の画像データが格納されている
フレームメモリであり、11は逆DCT部9で逆DCT
処理された画像信号とこのフレームメモリ10に格納さ
れていた画像データとを加算して画像信号を再生する加
算器である。動画像の復号化装置はこれら各部によって
形成されている。
化装置に入力された画像信号は減算器2において、フレ
ームメモリ1に蓄えられていた直前のフレームの画像デ
ータと同一位置の画素ごとに差分が計算される。この減
算器2による減算結果はDCT部3に送られ、適当な大
きさの2次元ブロック(通常は8×8画素程度のブロッ
ク)に分割された上で、各ブロックごとにDCTの処理
が施される。DCT部3の演算結果は量子化部4に送ら
れて有限個の代表値で近似されて量子化され、この量子
化部4より出力される前記代表値は、エントロピー符号
化部5と逆DCT部6に送られ、各々の処理が加えられ
る。
化部4より受けた代表値に、その生起頻度に応じた可変
長符号を割り当てて符号化し(一般に、生起頻度の高い
量子化出力ほど短い符号が割り当てられる)、符号化デ
ータを通信路に送出する。ここで、通信路とは仮想的な
ものであり、実際の通信路であったり、或いは、記憶媒
体であったりする。このことは、以下の説明においても
同様である。
力に対してDCT部3における操作とは逆の逆DCTが
施され、その結果が加算器7に送られる。加算器7では
この逆DCT部6の出力とフレームメモリ1に蓄えられ
た前フレームの画像データを同一位置にある画素ごとに
加算し、加算結果をフレームメモリ1に再格納する。1
フレーム分の処理が終了すると、フレームメモリ1には
現フレームの画像データが再構成され、次のフレームの
予測処理時に直前のフレームの画像データとして利用さ
れる。
り受け取った符号化データが、エントロピー符号化とい
う手法によって、データの出現確率に応じた可変長符号
に符号化されているものであるため(一般に、生起確率
の高いデータほど短い符号が割り当てられる)、まずエ
ントロピー復号化部8においてその復号を行う。この復
号結果はDCT処理により周波数領域に変換されたもの
であり、従って、逆DCT部9に送って時間領域のデー
タに変換する。逆DCT部9の出力は加算器11におい
てフレームメモリ10に蓄えられている直前フレームの
画像データと同一位置の画素ごとに加算される。この加
算結果は現フレームの画像信号として出力され、また、
フレームメモリ10に記憶されて次フレームの復号に利
用される。
値に割り当てられた固定長の番号ではなく、便宜上、代
表値そのものであると仮定しているが、この仮定は特に
一般性を損なうものではない。また、以下においても、
量子化部4の出力は代表値そのものであるとして説明を
行う。
より、動画像を計算機で自由に扱えることがマルチメデ
ィアの必須条件になりつつある。動画像は1秒当り数十
フレームの静止画像の連続として捉えることができる
が、さらに、大局的に眺めると、複数の連続するフレー
ムから構成されるシーンの連続と考えることもできる。
そして、計算機という情報処理装置で動画像を扱うこと
を考えると、前者のフレームの連続として捉えるより、
ある意味的にまとまりのあるシーンの連続として捉える
方が都合が良い。
みた場合、動画像の編集は、撮影された動画像を映像素
材として用い、これを適宜つなぎ合わせたりカットした
りすることにより、全体として編集者の意図する映像に
組み上げる作業である。この編集作業では、意味的にま
とまりのあるシーンが編集の基本単位になる場合が多
い。計算機を用いてこの動画像の編集を行う場合、従来
は熟練者がシーンの変化を識別すると共に、この識別結
果に基づいて編集作業を行うことが多かった。そして、
ここでは、計算機は単なるマンマシンインタフェースの
道具として編集環境を提供するだけであった。
広く社会に広がり、家庭にまで浸透することが予想され
る状況において、熟練者のみならず、素人が計算機を用
いて動画像の編集を行うことを考慮しておく必要があ
る。このとき、計算機が動画像をシーンの集まりとして
管理していることが望ましく、さらに、自動的に動画像
のシーンの変化点を認識し、その結果を計算機が利用で
きることが望ましいことは言うまでもない。そして、そ
のための要素技術の研究が各所で進められている。
(平成2年前期)全国大会の発表論文1Q−5(予稿集
第642〜643頁)“ビデオ作品の場面変わり自動検
出法”に示された、従来のシーンチェンジ検出装置のア
ルゴリズムを示すフローチャートである。図において、
ST1は画面の分割処理、ST2は色分布の計数処理、
ST3は相関度の計算処理、ST4は相関計数の計算処
理、ST5はしきい値との比較処理、ST6はシーンチ
ェンジ判定処理、ST7は非シーンチェンジ判定処理、
ST8は次フレームへの移行処理である。
プST1において動画像のフレームがn×n=n2 画面
に分割され、ステップST2で各分割画面ごとの色の分
布が計測される。次にステップST3で前フレームと現
フレームの対応する分割画面ごとに色の分布の相関度を
求める。この相関度としては様々なものを考えることが
できるが、ここでは次式のカイ2乗統計量xk 2(K=
1,2,・・・n2 )を用いる。
割画面における色iの分布、Yi は前フレームで対応す
る分割画面におけるiという色の分布を表わしている。
そしてステップST4において、次式により相関度の総
和を計算して相関係数rを求める。
あらかじめ設定されているしきい値とを比較し、その大
小関係に応じて現フレームがシーンチェンジであるか否
かをステップST6もしくはST7にて判断し、その
後、ステップST8にて次のフレームへ処理を移行させ
るようになっている。
検出装置は以上のように構成されているので、動画像の
フレームごとに色の分布を調べると共に、フレーム間で
の相関係数を求める、という複雑な処理を行わなければ
ならず、これらの処理を汎用的なプロセッサで実行した
場合、到底実時間処理は不可能であり、シーンチェンジ
の自動検出を実時間処理を実現するためには専用のハー
ドウェアが必要となり、また、今後計算機で動画像を扱
うことを考えると、動画像は当然ディジタル化され、し
かも、ディジタル動画像の膨大なデータ量を削減するた
め、動画像符号化技術によりデータ量を削減した後に、
計算機内部に取り込まれるものと予想されるが、その場
合にも、上記従来例の処理では動画像符号化/復号化と
は全く独立した処理であり、従って、動画像符号化ある
いは復号化に際して、動画像のフレーム間に渡って複雑
な処理が行われているにもかかわらず、その処理結果を
利用できず、動画像符号化前、あるいは復号後の画像信
号に対して上記の複雑な処理を実行しなければならない
という問題点があった。
ためになされたものであり、動画像の符号化あるいは復
号に際して計算される様々な特徴量を用いてシーンチェ
ンジを自動検出することが可能なシーンチェンジ検出装
置を得ることを目的とする。
係るシーンチェンジ検出装置は、フレーム間の相関を利
用した符号化の際のフレーム間の予測誤差に所定の演算
を施す演算部と、その演算出力を1フレームごとに累計
する計数部と、1フレームの符号化が終了するごとにそ
の計数値をしきい値と比較して、現フレームでのシーン
チェンジを判定する比較部を設けたものである。
チェンジ検出装置は、フレーム間の相関を利用した動画
像の符号化装置より出力される符号化データの、1フレ
ームごとのデータ量を計数する計数部と、1フレームの
符号化が終了するごとその計数値をしきい値と比較し
て、現フレームでのシーンチェンジを判定する比較部を
設けたものである。
チェンジ検出装置は、フレーム間の相関を利用した符号
化において、フレーム間の相関で予測不可能と判定され
た画素をフレーム内の相関を利用して符号化する際、予
測不可能、あるいは予測可能と判定された画素の数を1
フレームごとに計数する計数部と、1フレームの符号化
が終了するごとにその計数値をしきい値と比較して、現
フレームでのシーンチェンジを判定する比較部を設けた
ものである。
チェンジ検出装置は、フレーム間の相関を利用して符号
化された動画像の符号化データを復号する際の、フレー
ム間の予測誤差に所定の演算を施す演算部と、その演算
出力を1フレームごとに累計する計数部と、1フレーム
の復号が終了するごとにその計数値をしきい値と比較し
て、現フレームでのシーンチェンジを判定する比較部を
設けたものである。
チェンジ検出装置は、フレーム間の相関を利用して符号
化された動画像の符号化データを復号する復号化装置に
入力される符号化データの、1フレームごとのデータ量
を計数する計数部と、1フレームの復号が終了するごと
にその計数値をしきい値と比較して、現フレームでのシ
ーンチェンジを判定する比較部を設けたものである。
チェンジ検出装置は、フレーム間の相関で予測不可能と
判定された画素をフレーム内の相関を利用して符号化し
た符号化データを復号する際、予測不可能あるいは予測
可能と判定された画素の数を1フレームごとに計数する
計数部と、1フレームの復号が終了するごとにその計数
値をしきい値と比較して、現フレームでのシーンチェン
ジを判定する比較部を設けたものである。
チェンジ検出装置は、動画像の符号化データを取り込む
動画像符号化データ入力部と、取り込まれた動画像の符
号化データのデータ量を1フレームごとに計数する計数
部と、その計数値としきい値の比較結果に基づいて、当
該フレームでのシーンチェンジを判定する比較部を備え
たものである。
チェンジ検出装置は、符号化モードを適応的に切り換
え、フレーム間の相関にて予測不可能と判定された画素
をフレーム内の相関を利用して符号化した動画像の符号
化データより、その画素がいずれの符号化モードで符号
化されたかを抽出する多重分離部と、その符号化モード
を1フレームごとに計数して、フレーム間予測可能ある
いはフレーム間予測不可能と判定された画素の数を算出
する計数部と、その計数値を1フレームごとにしきい値
と比較して、当該フレームでのシーンチェンジを判定す
る比較部を備えたものである。
チェンジ検出装置は、複数に分割された動画像のフレー
ムの各領域を、第1〜第4の符号化モード中のいずれを
用いて符号化するかを決定する符号化モード決定手段の
出力より、フレーム内での各符号化モードの生起頻度を
計数する計数手段、前記動画像のフレームのフレームモ
ードが、第1〜第3のフレーム中のいずれかであるかを
示すフレームモード決定手段の出力と計数手段の計数結
果とを少なくとも時間的に連続する2フレーム分保持す
る情報保持手段、およびこの情報保持手段に保持されて
いる時間的に連続した2フレーム分のフレームモード、
および符号化モードの生起頻度をそれぞれ比較して、そ
れらの比較結果があらかじめ定められた条件に合致する
場合に検出信号を出力する検出信号出力手段を有するも
のである。
ンチェンジ検出装置は、動画像のフレームのフレームモ
ードを示すデータと、第1〜第4の符号化モードのいず
れが使用されているかを示すデータとを符号化データよ
り抽出する多重分離手段、この多重分離手段の出力より
フレーム内での各符号化モードの生起頻度を計数する計
数手段、フレームモードを示すデータと、計数手段の計
数結果とを少なくとも時間的に連続する2フレーム分保
持する情報保持手段、およびこの情報保持手段に保持さ
れている時間的に連続した2フレーム分のフレームモー
ド、および符号化モードの生起頻度をそれぞれ比較し
て、それらの比較結果があらかじめ定められた条件に合
致する場合に検出信号を出力する検出信号出力手段を有
するものである。
算部によるフレーム間の予測誤差に対する演算結果を1
フレーム分累計した計数部の計数値を、1フレームの符
号化が終了する度にしきい値と比較し、その大小関係に
基づいて現フレームがシーンチェンジであるか否かを判
定することにより、動画像の符号化に際して計算される
特徴量をシーンチェンジの自動検出にも利用可能とす
る。
手段は、計数部にて1フレーム分計数された当該符号化
装置より出力される符号化データのデータ量を、1フレ
ームの符号化が終了する度にしきい値と比較し、その大
小関係に基づいて現フレームがシーンチェンジであるか
否かを判定することにより、動画像の符号化に際して計
算される特徴量をシーンチェンジの自動検出にも利用可
能とする。
手段は、フレーム間の相関にて予測不可能と判定された
画素をフレーム内の相関を利用して符号化する際、計数
部にて1フレーム分計数された予測不可能(予測可能)
の画素の数を、1フレームの符号化が終了する度にしき
い値と比較し、その大小関係に基づいて現フレームがシ
ーンチェンジであるか否かを判定することにより、動画
像の符号化に際して計算される特徴量をシーンチェンジ
の自動検出にも利用可能とする。
手段は、復号されたフレーム間の予測誤差に対する演算
部の演算結果を1フレーム分累計した計数部の計数値
を、1フレームの復号が終了する度にしきい値と比較
し、その大小関係に基づいて現フレームがシーンチェン
ジであるか否かを判定することにより、動画像の復号に
際して計算される特徴量をシーンチェンジの自動検出に
も利用可能とする。
手段は、計数部にて1フレーム分計数された当該復号化
装置に入力される符号化データのデータ量を、1フレー
ムの復号が終了する度にしきい値と比較し、その大小関
係に基づいて現フレームがシーンチェンジであるか否か
を判定することにより、動画像の復号に際して計算され
る特徴量をシーンチェンジの自動検出にも利用可能とす
る。
手段は、フレーム間の相関にて予測不可能と判定された
画素をフレーム内の相関を利用して符号化した符号化デ
ータの復号に際して、計数部にて1フレーム分計数され
た予測不可能(予測可能)の画素の数を、1フレームの
復号が終了する度にしきい値と比較し、その大小関係に
基づいて現フレームがシーンチェンジであるか否かを判
定することにより、動画像の復号に際して計算される特
徴量をシーンチェンジの自動検出にも利用可能とする。
像符号化データ入力部は、複数のシーンから構成される
動画像の符号化データを取り込んで計数部に入力するこ
とにより、符号化装置や復号化装置の存在とは関係な
く、単に符号化データから必要な情報だけを抽出して解
析するだけでシーンチェンジの検出を可能とする。
分離部は、複数のシーンから構成される動画像の画像信
号をフレーム間の相関を利用して符号化する際に、フレ
ーム間符号化とフレーム内符号化とを適応的に切り換え
て、フレーム間の相関にて予測不可能と判定された画素
についてはフレーム内の相関を利用して符号化した動画
像の符号化データより、その画素がどちらの符号化モー
ドによって符号化されたかを抽出して計数部に入力する
ことにより、符号化装置もしくは復号化装置の存在とは
関係なく、単に符号化データから必要な情報だけを抽出
して解析するだけでシーンチェンジの検出を可能とす
る。
信号出力手段は、情報保持手段に保持された時間的に連
続する2フレーム分のフレームモードの比較を行うとと
もに、計数手段で計数されて情報保持手段に保持された
時間的に連続する2フレーム分の符号化モードの生起頻
度の比較を行い、それらの比較結果があらかじめ定めら
れた条件に合致した場合に検出信号を出力する。
重分離手段は、符号化データより抽出した、動画像のフ
レームのフレームモードを示すデータを情報保持手段
に、第1〜第4の符号化モードのいずれが使用されてい
るかを示すデータを、その生起頻度を計数している計数
手段に、それぞれ出力する。
明する。図1はこの請求項1に記載の発明の一実施例を
示すブロック図である。図において、1はフレームメモ
リ、2は減算器、3はDCT部、4は量子化部、5はエ
ントロピー符号化部、6は逆DCT部、7は加算器であ
り、図25に同一符号を付した従来のそれらと同一、あ
るいは相当部分であるため詳細な説明は省略する。
ーム間の予測誤差に対して所定の演算、例えばそれを二
乗する演算を施す演算部としての乗算器であり、13は
1フレームごとにこの乗算器12の出力を累計する計数
部である。14は1フレームの符号化が終了する都度、
この計数部13の計数値をしきい値と比較して、その大
小関係に基づいて現フレームがシーンチェンジであるか
否かを示すシーンチェンジ検出信号を発生する比較部で
ある。
された画像信号が符号化されて通信路に送出されるまで
は従来の場合と同様であるためその説明は省略する。画
像信号符号化の過程で逆DCT部6から出力されるフレ
ーム間の予測誤差の値xは乗算器12にも入力され、そ
こで次式で与えられる演算が施される。
信号のエネルギーに相当し、計数部13に送られて1フ
レーム分の累計が計数される。この計数部13の計数値
は比較部14に送られて、あらかじめ定められているし
きい値と1フレームごとに比較される。比較の結果、計
数部13の計数値がしきい値より大であれば、比較部1
4は現フレームがシーンチェンジである旨を示すシーン
チェンジ検出信号を出力する。
施例を示すブロック図であり、この実施例2は図1に示
した実施例1をより単純化したものである。即ち、図1
のように処理の複雑なDCTの処理を含まず、減算器2
で現フレームとフレームメモリ1に記憶されている直前
フレームの同一位置の画素どうしを減算した結果を直接
量子化部4で量子化し、量子化結果をエントロピー符号
化部5で符号化して通信路に送出している。この場合に
おいても、乗算器12、計数部13、比較部14による
シーンチェンジを検出する機構の動作は図1に示した実
施例1の場合と全く同じである。
のさらに他の実施例を示すブロック図である。この実施
例3では動画像の符号化の際のフレーム間予測として動
き補償予測を用いている。図において、15は入力され
た画像信号とフレームメモリ1に格納されている前フレ
ームの画像データとから動きベクトルを検出する動き検
出部であり、16はこの動き検出部15の検出した動き
ベクトルを用いてフレームメモリ1から読み出した前フ
レームの画像データの補償を行う動き補償部である。
動き補償予測は図1に示した実施例1のようなフレーム
間で同一位置にある画素どうしを減算するという単純な
フレーム間差分ではなく、被写体の動きを検出し、この
動きに応じてフレーム間差分をとる画素を可変にできる
方式である。即ち、動き検出部15は現フレームにおけ
る物体、あるいは適当な大きさのブロックがフレームメ
モリ1に記憶されている前フレームのどの位置に対応す
るかを求め、これを動きベクトルとして検出する。そし
て、動き補償部16ではこの動き検出部15で検出され
た動きベクトルを用いて予測に用いる前フレームの画素
を決定し、減算器2で現フレームの画像信号との差分を
とる。
る場合には動き検出部15より出力される動きベクトル
は0となり、実施例1の場合の単純なフレーム間差分と
一致する。このように、動き補償予測を用いたものは、
図1に示した実施例1のフレーム間差分を高度化したも
のと考えられるが、シーンチェンジの検出機構である乗
算器12、計数部13、および比較部14の動作は実施
例1の場合と全く同じである。
実施例1および3では乗算器12を逆DCT部6の出力
に接続したものを示したが、これは減算器2の出力、D
CT部3の出力、あるいは量子化部4の出力のいずれに
接続したとしてもよく、上記実施例と同様の効果を奏す
る。また、前記の実施例1および3では、フレーム間差
分をDCT処理する場合について示したが、これはDC
T処理に限定されるものではない。
実施例では、演算部として乗算器12を用いて式(3)
を計算するものを示したが、この演算としてはより一般
的な次式を用いてもよい。
ンチェンジを検出する機構は、フレーム間の相関を利用
する動画像符号化のアルゴリズムには全く依存しないこ
とは明らかである。
ンチェンジを検出する機構として、演算部としての乗算
器12、および計数部13、比較部14というハードウ
ェアを用いたが、これらは図4に示す請求項1の発明の
さらに他の実施例を示すブロック図のように、汎用的な
CPU17を用いたソフトウェア処理により実現するこ
とも可能である。この実施例では、フレームメモリ1、
減算器2、量子化部4、エントロピー符号化部5、加算
器7などで形成される動画像符号化部18がCPU17
のバス19上に接続され、CPU17からシーンチェン
ジ検出に必要なフレーム間の予測誤差を読み取れるよう
になっている。そして、CPU17はメモリ20に蓄え
られたプログラムに従って、シーンチェンジ検出機構で
ある演算部、計数部、および比較部を実現する。
例を示すブロック図で、図1の実施例に対応しており、
相当部分には図1と同一符号を付してその説明を省略す
る。図において、21はエントロピー符号化部5の出力
に接続され、当該動画像の符号化装置より通信路に出力
される符号化データのデータ量を1フレーム毎に計数
し、計数値を比較部14に出力する計数部である。
記計数部21が計数した、エントロピー符号化部5から
通信路に出力される符号化データの1フレーム分のデー
タ量を、あらかじめ定められたしきい値と比較し、計数
部21の計数値がしきい値より大であれば、現フレーム
がシーンチェンジである旨を示すシーンチェンジ検出信
号を出力する。
の他の実施例を示すブロック図である。この実施例8は
図2に示す実施例2に対応しており、動画像符号化部分
は図2とは全く同じ構成である。一方、シーンチェンジ
を検出する機構は図5に示した実施例7と全く同様に、
計数部21と比較部14とで構成されている。
のさらに他の実施例を示すブロック図である。この実施
例9は図3に示す実施例3に対応しており、動画像符号
化部分は図3とは全く同じ構成である。一方、シーンチ
ェンジを検出する機構は図5に示した実施例7と同一構
成である。
明のさらに他の実施例を示すブロック図である。この実
施例10はフレーム内符号化とフレーム間符号化とを適
応的に切り換える動画像の符号化装置に適用した場合の
ものである。図において、22はフレーム内符号化とフ
レーム間符号化のいずれを使用するかの判断を行う符号
化制御部であり、23,24はこの符号化制御部22の
制御によってフレーム内符号化とフレーム間符号化の切
り換えを行うスイッチである。25は入力される画像信
号とフレームメモリ1に格納されている前フレームの画
像データから現フレームを予測するフレーム間予測部で
ある。
22は、例えば8×8画素程度のブロック単位にフレー
ム内符号化とフレーム間符号化のどちらかを使用するか
を判断し、スイッチ23,24、量子化部4の特性、エ
ントロピー符号化部5で使用する符号を制御すると共
に、フレーム内符号化とフレーム間符号化のどちらを用
いて符号化されたかを示すフラグを生成して通信路に送
出する。図示の状態は、スイッチ23,24がフレーム
間符号化を選択した状態を示しており、フレーム内符号
化を選択する場合、各々のスイッチ23,24はそれぞ
れ図示とは逆方向に接続される。
符号化の場合は画像信号そのものであり、フレーム間符
号化の場合は予測誤差信号である。この信号はDCT部
3でDCT処理を受けた後、量子化部4にて量子化さ
れ、エントロピー符号化部5で符号化された後、通信路
に送出される。また、量子化部4における量子化の結果
は、逆DCT部6に送られて逆DCTの処理を受け、ス
イッチ24の出力と加算器7で加算され、フレームメモ
リ1に記録される。この加算結果は現フレームを復号し
た画像であり、次フレームの予測に用いられる。ここ
で、スイッチ24の出力は、フレーム内符号化の場合は
0であり、フレーム間符号化の場合はフレーム間予測信
号である。
1に記憶された前フレームの画像データから現フレーム
を予測する。この実施例では、図7の場合と同様の動き
補償予測が用いられており、動きベクトルが通信路に送
出される。なお、このフレーム間予測部25は必ずしも
動き補償予測である必要はなく、単なるフレーム間差分
をとるだけであっても構わず、その場合には動きベクト
ルの伝送の必要はない。一方、シーンチェンジを検出す
る機構(計数部21、および比較部14)は図5に示し
た実施例7の場合と全く同じ構成となっている。
ンチェンジを検出する機構として、計数部21および比
較部14というハードウェアを用いたものを示したが、
これらは図4に示すように、汎用的なCPUを用いたソ
フトウェア処理によって実現することも可能である。同
図では、動画像符号化部18がCPU17のバス19上
に接続され、CPU17からシーンチェンジ検出に必要
な符号化データ量を読み取れるようになっている。そし
て、CPU17はメモリ20に蓄えられたプログラムに
従って、シーンチェンジ検出機構である計数部、および
比較部を実現する。
に示した実施例では、減算器2の出力をDCT変換する
場合について説明したが、これはDCT変換にのみ限定
されるものではなく、さらにDCT変換に代表される直
交変換以外の方式、例えば予測符号化であっても構わな
い。
発明の一実施例を示すブロック図であり、シーンチェン
ジを検出する機構以外は図8と全く同一であるので、こ
こではシーンチェンジを検出する機構について説明す
る。図において、26は符号化制御部22の出力するフ
レーム内/フレーム間符号化識別フラグに基づいて、フ
レーム間の相関による予測が不可能な画素の数を計数
し、計数値を比較部14に送る計数部である。
26が、1フレームごとに符号化制御部22の出力であ
るフレーム内/フレーム間符号化識別フラグに基づいて
フレーム内符号化される画素の数を計数する。比較部1
4はあらかじめ定められたしきい値とこの計数部26の
計数値とを1フレームごとに比較し、前記計数値がしき
い値より大であれば現フレームがシーンチェンジである
旨を示すシーンチェンジ検出信号を出力する。
ては、フレーム間符号化として動き補償予測とDCTの
組合せ、フレーム内符号化としてDCTを用いたものを
示したが、これらの方式に限定されるものではなく、フ
レーム内符号化とフレーム間符号化とを適応的に切り換
える動画像符号化方式であれば、どのようなものにでも
適用可能である。
部26がフレーム内符号化されている画素の数を計数す
る場合について説明したが、これはフレーム間符号化さ
れている画素の数を計数部26で計数して、計数部26
の計数値がしきい値より小のときにシーンチェンジ信号
を出力するようにしてもよく、さらにフレーム内符号化
とフレーム間符号化のいずれを用いているかの判定が、
あるブロック単位(例えば、8×8画素)で行われてい
る場合には、計数部26でこのブロックの数を計数する
ようにしてもよい。
ンチェンジを検出する機構として計数部26、および比
較部14というハードウェアを用いたものを示したが、
これらは図4に示すように、汎用的なCPUを用いたソ
フトウェア処理により実現することも可能である。同図
では、動画像符号化部18がCPU17のバス19上に
接続され、CPU17からシーンチェンジ検出に必要な
フレーム内符号化される画素数を読み取れるようになっ
ている。そして、CPU17はメモリ20に蓄えられた
プログラムに従って、シーンチェンジ検出機構である計
数部、および比較部を実現する。
図について説明する。図10は請求項4に記載した発明
の一実施例を示すブロック図である。図において、8は
エントロピー復号化部、9は逆DCT部、10はフレー
ムメモリ、11は加算器であり、図25に同一符号を付
した従来のそれらと同一、あるいは相当部分であるため
詳細な説明は省略する。
れたフレーム間の予測誤差に対して所定の演算、例えば
それを二乗する演算を施す演算部としての乗算器であ
り、28は1フレームごとにこの乗算器27の出力を累
計する計数部である。29は1フレームの符号化が終了
する都度、この計数部28の計数値をしきい値と比較し
て、その大小関係に基づいて現フレームがシーンチェン
ジであるか否かを示すシーンチェンジ検出信号を発生す
る比較部である。
路より受けた符号化データを画像信号に復号するまでは
従来の場合と同様であるためその説明は省略する。画像
信号復号の過程で逆DCT部9から出力されるフレーム
間の予測誤差の値xは乗算器27にも入力され、そこで
次式で与えられる演算が施される。
号のエネルギーに相当し、計数部28に送られて1フレ
ーム分の累計が計数される。この計数部28の計数値は
比較部29に送られて、あらかじめ定められたしきい値
と1フレームごとに比較される。比較の結果、計数部2
8の計数値がしきい値より大であれば、比較部29は現
フレームがシーンチェンジである旨を示すシーンチェン
ジ検出信号を出力する。
発明の他の実施例を示すブロック図であり、この実施例
18は図10の実施例17をより単純化したものであ
る。即ち、符号化データとしてフレーム間差分を直接エ
ントロピー符号化したデータが伝送されてくるので、エ
ントロピー復号化部8で復号した後、加算器11におい
てフレームメモリ10に蓄えられている直前フレームの
画像データと同一位置の画素ごとに加算される。この加
算結果は現フレームの画像信号として出力する一方、フ
レームメモリ10に格納して次フレームの復号に利用す
る。なお、シーンチェンジを検出する機構(乗算器2
7、計数部28、および比較部29)は図10の実施例
17と同一である。
発明のさらに他の実施例を示すブロック図である。この
実施例19では動画像符号化におけるフレーム間予測と
して動き補償予測を用いて符号化されたデータを復号す
る動画像復号化装置の場合を示しており、図において、
30はその動き補償を行う動き補償部である。
同一位置にある画素どうしを減算するという単純なフレ
ーム間差分ではなく、被写体の動きを検出し、この動き
に応じてフレーム間差分をとる画素を可変にできる方式
である。即ち、現フレームにおける物体、あるいは適当
な大きさのブロックが前フレームのどの位置に対応する
かを求め、これを動きベクトルとして検出する。そし
て、前記動きベクトルを用いて予測に用いる前フレーム
の画素を決定し、現フレームとの差分をとる。例えば、
動きの全くないフレームが連続する場合には動きベクト
ルは0となり、単純なフレーム間差分と一致する。従っ
て、この方式では復号の際に符号化データに加えて動き
ベクトルが必要になる。
図10の場合と同じ経路、即ち、エントロピー復号化部
8、逆DCT部9、加算器11を経て画像信号に変換さ
れる。また、現フレームの復号結果はフレームメモリ1
0に記憶され、次フレームの復号に使用される。一方、
動き補償部30は符号化装置より通信路に送出された動
きベクトルを用いて、予測に用いる前フレームの画素を
決定し、フレームメモリ10からその画素値を取り出し
て加算器11に加える。このように、動き補償予測を用
いたものは、図10のフレーム間差分を高度化したもの
と考えられるが、シーンチェンジを検出する機構である
乗算器27、計数部28、および比較部29の動作は図
10の場合と全く同じである。
示した実施例では乗算器27が逆DCT部9の出力に接
続されたものを示したが、それを逆DCT部9の入力に
接続してもよく、上記実施例と同様の効果が得られる。
また、図10,図12に示した実施例では、フレーム間
差分に対してDCT処理を施す場合を説明したが、これ
はDCT処理に限定されるものではなく、さらに、DC
Tに代表される直交変換以外の方式、例えば予測符号化
であっても構わない。
した実施例では、演算部として乗算器27を用いて式
(5)を計算するものを示したが、この演算としてはよ
り一般的な次式を用いてもよい。
うに、このシーンチェンジを検出する機構は、フレーム
間の相関を利用する動画像符号化のアルゴリズムには全
く依存しないことは明らかである。
ーンチェンジを検出する機構として、演算部としての乗
算器27、および計数部28、比較部29というハード
ウェアを用いたが、これらは図13に示す請求項4の発
明のさらに他の実施例を示すブロック図のように、汎用
的なCPU31を用いたソフトウェア処理により実現す
ることも可能である。この実施例では、エントロピー復
号化部、逆DCT部9、フレームメモリ10、加算器1
1などで形成される動画像復号化部32がCPU31の
バス33上に接続され、CPU31からシーンチェンジ
検出に必要なフレーム間の予測誤差を読み取れるように
なっている。そして、CPU31はメモリ34に蓄えら
れたプログラムに従って、シーンチェンジ検出機構であ
る演算部、計数部、および比較部を実現する。
た発明の一実施例を示すブロック図で、図10の実施例
に対応しており、相当部分には図10と同一符号を付し
てその説明を省略する。図において、35はエントロピ
ー復号化部8の入力に接続され、当該動画像の復号化装
置に入力される符号化データのデータ量を1フレームご
とに計数し、計数値を比較部29に出力する計数部であ
る。
復号化部8の入力に接続された計数部35は、通信路か
らの符号化データの1フレームごとのデータ量を計数し
て比較部29に送る。比較部29はあらかじめ定められ
たしきい値とこの計数部35の計数値とを1フレームご
とに比較し、計数部35の計数値がしきい値より大であ
ればシーンチェンジ検出信号を出力する。
発明の他の実施例を示すブロック図である。この実施例
は図11に対応しており、動画像復号化部分は図11と
全く同じ構成である。一方、シーンチェンジを検出する
機構は図14に示した実施例と全く同様に、計数部35
と比較部29で構成されている。
発明のさらに他の実施例を示すブロック図である。この
実施例25は図12に対応しており、動画像復号化部分
は図12と全く同じ構成である。一方、シーンチェンジ
を検出する機構は図14と全く同じく、計数部35と比
較部29とで構成されている。
発明のさらに他の実施例を示すブロック図である。この
実施例26はフレーム内符号化とフレーム間符号化とを
適応的に切り換える動画像符号化装置を用いて符号化さ
れたデータを復号する動画像復号化装置に適用した場合
のものである。図において、36は通信路からのフレー
ム内/フレーム間符号化フラグによって、送られてきた
符号化データがフレーム内符号化によるものかフレーム
間符号化によるものかを判断する復号化制御部であり、
37はこの復号化制御部36によって切り換えが制御さ
れるスイッチである。
36は通信路を通して送られてくるフレーム内/フレー
ム間符号化識別フラグに応じて、例えば画像の8×8画
素程度のブロック単位にフレーム内符号化とフレーム間
符号化のどちらかが使用されているかを判断し、スイッ
チ37、およびエントロピー復号化部8で使用する符号
を制御する。図示の状態は、スイッチ37はフレーム間
符号化で符号化された符号化データを復号する状態にな
っており、フレーム内符号化で符号化された符号化デー
タを復号する場合、このスイッチ37は図示とは逆方向
に接続され、0を出力する。
トロピー復号化部8でまず復号された後、逆DCT部9
に送られて逆DCTの処理がなされ、加算器11でスイ
ッチ37の出力と加算される。この加算結果は現フレー
ムを復号した画像信号そのものであり、外部に出力され
るとともにフレームメモリ10に蓄積されて次フレーム
の復号に用いられる。また、この実施例では、フレーム
間符号化として動き補償予測を用いた符号化データを復
号することを想定しており、その動作は図12に示した
実施例の場合と同様である。ただし、このフレーム間予
測は動き補償予測に限定されるわけではない。一方、シ
ーンチェンジを検出する機構(計数部35、比較部2
9)は図14に示す実施例と同一の構成となっている。
ンチェンジを検出する機構として、計数部35および比
較部29というハードウェアを用いたものを示したが、
これらは図13に示すように、汎用的なCPUを用いた
ソフトウェア処理によって実現することも可能である。
同図では、動画像復号化部32がCPU31のバス33
上に接続され、CPU31からシーンチェンジ検出に必
要な1フレームごとの符号化データ量を読み取れるよう
になっている。そして、CPU31はメモリ34に蓄え
られたプログラムに従って、シーンチェンジ検出機構で
ある計数部、および比較部を実現する。
7に示した実施例では、動画像符号化側においてフレー
ム間差分に対してDCTの処理を施すことを想定してい
るが、これはDCT処理に限定するものではなく、さら
に、DCTに代表される直交変換以外の方式、例えば予
測符号化であっても構わない。
た発明の一実施例を示すブロック図であり、シーンチェ
ンジを検出する機構以外は図17と全く同一であるの
で、ここではシーンチェンジを検出する機構について説
明する。図において、38は復号化制御部36に入力さ
れるフレーム内/フレーム間符号化識別フラグに基づい
て、フレーム間の相関による予測が不可能な画素の数を
計数し、計数値を比較部29に送る計数部である。
38は、1フレームごとにフレーム内/フレーム間符号
化識別フラグに基づいてフレーム内符号化されている画
素の数を計数する。比較部29はあらかじめ定められた
しきい値とこの計数部38の計数値とを1フレームごと
に比較し、前記計数値がしきい値より大であればシーン
チェンジ検出信号を出力する。
ては、フレーム間符号化として動き補償予測とDCTの
組合せ、フレーム内符号化としてDCTを用いて符号化
されたデータを復号する場合について説明したが、これ
らの方式に限定されるものではなく、フレーム内符号化
とフレーム間符号化とを適応的に切り換える動画像符号
化方式で符号化されたデータであれば、どのようなもの
にでも適用可能である。
部38がフレーム内符号化されている画素の数を計数す
る場合について説明したが、これはフレーム間符号化さ
れている画素の数を計数部38で計数して、計数部38
の計数値がしきい値より小のときにシーンチェンジ検出
信号を出力するようにしてもよく、さらに、フレーム内
符号化とフレーム間符号化のいずれを用いているかの判
定が、あるブロック単位(例えば8×8画素)で行われ
ている場合には、計数部38でこのブロックの数を計数
するようにしてもよい。
ンチェンジを検出する機構として計数部38および比較
部29というハードウェアを用いたものを示したが、こ
れらは図13に示すように、汎用的なCPUを用いたソ
フトウェア処理により実現することも可能である。同図
では、動画像復号化部32がCPU31のバス33上に
接続され、CPU31からシーンチェンジ検出に必要な
フレーム内符号化される画素数を読み取れるようになっ
ている。そして、CPU31はメモリ34に蓄えられた
プログラムに従って、シーンチェンジ検出機構である計
数部、および比較部を実現する。
では、比較部は計数部の計数結果をしきい値と比較し、
計数部の計数値がしきい値より大であれば、そのフレー
ムをシーンチェンジであると判定するものを示したが、
比較部の処理をより複雑にすることにより、シーンチェ
ンジの検出をより正確に行うこともできる。例えば、風
景をカメラで撮影しており、カメラの撮影方向が左から
右へと動く場合を考えてみると、このとき、映像はフレ
ーム毎に変化しているため、計数部に計数される計数値
が連続するフレームにわたって大きくなり、従って、単
純なしきい値比較だけでは全フレームをシーンチェンジ
と判定してしまう可能性がある。ところが、実際には計
数部の計数値がしきい値を越える最初のフレームをシー
ンチェンジと判定することが望ましい。これに対して
は、連続するフレームにわたって計数値がしきい値を越
える場合には、最初のフレームだけをシーンチェンジと
判定する、という処理を追加することにより容易に対応
可能である。また、比較部のしきい値を計数部の計数結
果に応じて適応的に変化させることによっても対応可能
である。
図について説明する。図19は請求項7に記載した発明
の一実施例を示すブロック図である。図において、41
は複数のシーンから構成される動画像の符号化データが
格納されたディスクであり、42はこのディスク41か
ら動画像の符号化データを取り込む動画像符号化データ
入力部である。43はこの動画像符号化データ入力部4
2によって取り込まれた動画像の符号化データの1フレ
ームごとのデータ量を計数する計数部であり、44はこ
の計数部43の計数部をしきい値と比較して、その大小
関係に基づいて当該フレームがシーンチェンジであるか
否かを示す信号を発生する比較部である。45はこのシ
ステム全体の制御を行うCPUである。
には複数のシーンから構成される動画像の画像信号を符
号化した符号化データが蓄えられており、動画像符号化
データ入力部42がこのディスク41から順次、動画像
の符号化データを読み出してゆく。読み出された動画像
の符号化データは計数部43に送られて1フレームごと
にそのデータ量が計数され、計数結果が比較部44に出
力される。比較部44は受け取った計数値をしきい値と
比較して、計数値がしきい値より大きい場合には、その
フレームがシーンチェンジである旨を示すシーンチェン
ジ検出信号を出力する。そして、この比較部44より出
力されたシーンチェンジ検出信号はCPU45から読み
取れるように構成されている。
図について説明する。図20は請求項8に記載した発明
の一実施例を示すブロック図である。図において、45
は前記CPUであり、46はフレーム間の相関を利用し
て複数のシーンから成る動画像の画像信号を符号化する
際に、フレーム間の相関にて予測不可能と判定された画
素については、フレーム内の相関を利用して符号化する
というように、フレーム間符号化とフレーム内符号化と
を適応的に切り換えて符号化された動画像の符号化デー
タが格納されているディスクである。47はこのディス
ク46より取り込んだ動画像の符号化データより、その
画素の符号化にフレーム間符号化とフレーム内符号化の
いずれが適用されたかを示す符号化モードを抽出する多
重分離部であり、48はこの多重分離部47で抽出され
た符号化モードを1フレームごとに計数し、フレーム間
予測可能あるいはフレーム間予測不可能と判定された画
素の数を算出する計数部である。49はフレームごとに
計数部48で計数した計数値をしきい値と比較して、そ
の大小関係に基づいて当該フレームがシーンチェンジで
あるか否かを示す信号を発生する比較部である。
7はディスク41に蓄えられている動画像の符号化デー
タを順次読み出して、各画素の符号化にフレーム間符号
化とフレーム内符号化のいずれが適用されたかを示す符
号化モードを抽出する。抽出された符号化モードは計数
部48に送られ、計数部48は1フレームごとにそれを
計数して、フレーム間予測不可能と判定された画素の数
を算出する。その計数結果は比較部49に送られてしき
い値と比較され、計数値がしきい値より大きい場合、比
較部49はそのフレームがシーンチェンジである旨を示
すシーンチェンジ検出信号を出力する。そして、この比
較部49より出力されたシーンチェンジ検出信号はCP
U45から読み取れるように構成されている。
像符号化データ入力部42、計数部43,48、比較部
44,49は専用のハードウェア、あるいは汎用のCP
Uを用いたソフトウェアのいずれによっても実現可能で
ある。
図について説明する。図21は請求項9に記載した発明
の一実施例を示すブロック図である。図において、51
は複数フレーム分の画像信号が記憶されるフレームメモ
リ、52はこのフレームメモリ51から読み出された画
像信号とフレーム間予測信号との差分をとる減算器であ
り、53はその差分出力を直交変換の1つである離散コ
サイン変換(以下、DCTという)する変換器である。
54はDCTされた信号を量子化する量子化器、55は
量子化された信号の可変長符号化を行う可変長符号化器
であり、56は可変長符号化された信号を符号化モード
やフレームモードなどを示す他のデータと混合する多重
化器である。57は量子化器54より出力される信号を
逆量子化する逆量子化器、58は逆量子化された信号を
逆DCTする逆変換器であり、59はこの逆変換器58
より出力される信号にフレーム間予測信号を加算する加
算器、60はこの加算器59の出力する画像信号を記憶
するフレームメモリである。61はこのフレームメモリ
60よりフレーム間予測に用いるデータを読み出してフ
レーム間予測信号を生成するフレーム間予測器、62は
フレーム間予測に必要な動きベクトルを検出してフレー
ム間予測器61に与える動きベクトル検出器であり、6
3はフレーム間予測信号と接地(アース)とを切り換え
て減算器52に供給するスイッチ、64は同じくフレー
ム間予測信号と接地(アース)とを切り換えて加算器5
9に供給するスイッチである。
域に分割した領域毎の符号化モードを、現フレームの情
報を用いて符号化する第1の符号化モード、既に符号化
された時間的に過去に位置するフレームの情報を用いて
符号化する第2の符号化モード、既に符号化された時間
的に未来に位置するフレームの情報を用いて符号化する
第3の符号化モード、あるいは既に符号化された時間的
に過去に位置するフレームの情報と既に符号化された時
間的に未来に位置するフレームの情報とを用いて符号化
する第4の符号化モード中のいずれを用いるかの決定を
行う符号化モード決定手段である。66は動画像のフレ
ームのフレームモードが、前記第1の符号化モードだけ
を用いて符号化される第1のフレーム、第1の符号化モ
ードと第2の符号化モードのいずれかを用いて符号化さ
れる第2のフレーム、あるいは第1〜第4の符号化モー
ドのいずれかを用いて符号化される第3のフレーム中の
いずれであるかを決定するフレームモード決定手段であ
る。67は符号化モード決定手段65の出力からフレー
ム内での各符号化モードの生起頻度を計数する計数手段
であり、68はフレームモード決定手段66の出力と計
数手段67の計数結果とを少なくとも時間的に連続する
2フレーム分保持する情報保持手段である。69はこの
情報保持手段68に保持されている時間的に連続した2
フレーム分のフレームモードを比較するとともに、情報
保持手段68に保持されている時間的に連続した2フレ
ーム分の符号化モードの生起頻度の比較を行い、それら
の比較結果があらかじめ定められた条件に合致する場合
に検出信号を出力する検出信号出力手段である。
実施例36では、動画像符号化部分にはISOで標準化
が進められている蓄積メディア用動画像符号化方式であ
るMPEG(モーション・ピクチャー・エキスパーツ・
グループ;Motion Picture Experts Group)方式を用い
ることを想定している。そこで、まず図22を用いてこ
のMPEG方式の概念について説明する。図22におい
て、I,P,Bと記されているのはフレームモードであ
り、Iフレームはこの発明における第1のフレームに、
Pフレームは同じく第2のフレーム、Bフレームは第3
のフレームにそれぞれ相当している。符号化に当たっ
て、まずIフレーム20が独立に符号化され、次にIフ
レーム80を用いてPフレーム83が予測符号化され
る。その後、Iフレーム80とPフレーム83を用いて
Bフレーム81,82がこの順に予測符号化される。そ
れ以降、時間的に最も近くにあるIまたはPフレーム
(図22ではPフレーム86)を符号化し、次に時間的
に過去にさかのぼってBフレーム(図22ではBフレー
ム84,85)の符号化を行うという操作を繰り返す。
このようにMPEG方式の符号化では、符号化に際して
複数フレーム分のバッファが必要となる。例えば、Bフ
レーム81,82の符号化を終えるにはIフレーム80
とPフレーム83が必要となり、結局、フレーム80〜
83までを蓄積しておかねばならない。
明する。外部からの画像信号はフレームメモリ51に記
憶される。このときフレームメモリ51には前述のよう
に複数フレームが記憶されることになる。フレームメモ
リ51からは図22のMPEGアルゴリズム概要で説明
した順にフレームの内容が読み出され、減算器52でフ
レーム間予測信号であるスイッチ63の出力との差分が
とられる。次に減算器52出力は変換器53にて直交変
換の一つであるDCTが施され、そして、変換係数を係
数毎に割り当てられたビット配分に応じて量子化器54
で量子化される。量子化された変換係数は可変長符号化
器55で、その統計的性質に応じて出現確率の高いパタ
ーンに対してより短い符号を割り当てることにより、さ
らなるデータ圧縮を施された後、多重化器56で他のデ
ータ、例えばフレームモード、符号化モードなどを示す
データと混合され、符号化データとして出力される。
7、および逆変換器58によって、前記量子化器54、
および変換器53と逆の操作がそれぞれ施され、フレー
ム間予測信号を生成するために使われる。このとき、逆
変換器58の出力から得られる信号は変換器53の入力
信号に量子化誤差が加わったものとなる。逆変換器58
の出力は加算器59においてスイッチ64の出力信号と
加算され、フレームメモリ60に記憶される。ここで、
スイッチ64の出力信号はスイッチ63の出力と同一の
信号であり、従って、加算器59の出力はフレームメモ
リ51から読み出された信号に量子化誤差が加わったも
のとなる。
レームモードが、第1〜第3のフレームのいずれである
かを決定するフレームモード決定手段66と、第1〜第
4の符号化モードのいずれを用いるかを決定する符号化
モード決定手段65による制御と、動きベクトル検出器
62により与えられる動きベクトルとを受けて、フレー
ムメモリ60からフレーム間予測に用いるデータを読み
出し、フレーム間予測信号を生成してスイッチ63およ
び64に与える。ここで、符号化モード決定手段65は
可変長符号化器55から符号化データ量を受け、最も符
号化効率が良くなる符号化モードを決定している。ま
た、スイッチ63,64は符号化モード決定手段65と
フレームモード決定手段66の制御を受け、フレームモ
ードが第1のフレームの場合には、スイッチ63および
64は接点“a”側がオンになり、接地信号が各々のス
イッチ63,64から減算器52あるいは加算器59に
出力される。さらに、フレームモードが第2または第3
のフレームの場合、符号化モードが第1の符号化モード
であれば、スイッチ63および64は接点“a”側がオ
ンになって、接地信号が減算器52あるいは加算器59
に出力され、符号化モードが第1の符号化モード以外で
あれば、スイッチ63および64は接点“b”側がオン
になって、減算器52および加算器59にはフレーム間
予測器61の出力が各々のスイッチ63,64より出力
される。
チェンジを検出する機構について説明する。計数手段6
7は符号化モード決定手段65の出力を受けて、現在符
号化中のフレーム内で、第1,第2,第3,第4の符号
化モードがそれぞれ何回使用されるかをカウントする。
そして、情報保持手段68はフレームモード決定手段6
6の出力であるフレームモード、即ち、現在符号化中の
フレームが第1,第2,第3のフレームのいずれである
かを記憶するとともに、計数手段67の計数結果も記憶
する。さらに、情報保持手段68は少なくとも時間的に
連続する2フレームについて、前記フレームモードと、
符号化モードの計数結果を保持する。そして、検出信号
出力手段69は情報保持手段68より、時間的に連続す
るフレーム、即ち、注目フレームと注目フレームの1フ
レーム過去に位置するフレーム(以下それを前方フレー
ムと呼ぶ)について、前記フレームモードと、符号化モ
ードの計数結果を取り出し、以下の処理を行う。
化モードの使用回数をN1、第2の符号化モードの使用
回数をN2、第3の符号化モードの使用回数をN3、第
4の符号化モードの使用回数をN4、同様に前方フレー
ムについて、第1の符号化モードの使用回数をn1、第
2の符号化モードの使用回数をn2、第3の符号化モー
ドの使用回数をn3、第4の符号化モードの使用回数を
n4とする。このとき、検出信号出力手段69は注目フ
レームと前方フレームの種類に応じて、以下の条件を満
たすか否かを調べ、満たす場合に注目フレームがシーン
チェンジであるという検出信号を出力する。
で、前方フレームが第1または第2のフレームの場合、
検出信号を出力しない。MPEG方式では、図22から
分かるようにこの条件はほとんど発生しないと考えてよ
い。
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値zに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、前方フレームが注目フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
例であり、前方フレームが注目フレームの情報を用いて
予測される割合が少ないことを示すものであれば、以下
に例示するようなこれ以外の条件式を用いることも可能
である。
で、前方フレームが第1または第2のフレームの場合、
あらかじめ定められたしきい値yに対して次式が成立す
れば、注目フレームがシーンチェンジであるという検出
信号を出力する。ただし、MPEG方式では、図22か
ら分かるようにこの条件はほとんど発生しないと考えて
よい。この条件は、注目フレームが前方フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
一例であり、注目フレームが前方フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値xに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、前方フレームが注目フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
一例であり、前方フレームが注目フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
で、前方フレームが第1または第2のフレームの場合、
あらかじめ定められたしきい値wに対して次式が成立す
れば、注目フレームがシーンチェンジであるという検出
信号を出力する。この条件は、注目フレームが前方フレ
ームの情報を用いて予測される割合が少ないことを示す
ものである。
一例であり、注目フレームが前方フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値vに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、注目フレームが時間的に未来に位置
するフレームの情報を用いて予測され、前方フレームが
時間的に過去に位置するフレームの情報を用いて予測さ
れる割合が多いことを示すものである。
一例であり、注目フレームが時間的に未来に位置するフ
レームの情報を用いて予測され、前方フレームが時間的
に過去に位置するフレームの情報を用いて予測される割
合が多いことを示すものであれば、以下に例示するよう
なこれ以外の条件式を用いることも可能である。
く、取捨選択することが可能である。例えば、MPEG
方式ではほとんど発生しない条件1,条件3を用いない
ようにしても構わない。
する場合、1フレーム毎にシーンが変化していると考え
ることも可能であり、あるいはこれらのフレームをひと
まとまりのシーンと考えることも可能である。後者に対
しては、検出信号出力手段69に、上記条件を満たす最
初のフレームと上記条件が満たされなくなった最初のフ
レームに対してのみ検出信号を出力する機能を付加する
ことにより対処可能である。
を図に基づいて説明する。図23は請求項10に記載の
発明の一実施例を示すブロック図であり、この場合も動
画像符号化部分にMPEG方式を用いることを想定して
おり、図21と同一の部分には同一符号を付してその説
明を省略する。図において、70は多重化器56から出
力される符号化データより、動画像のフレームが第1〜
第3のフレームのいずれであるかのフレームモードを示
すデータと、使用されている符号化モードが第1〜第4
の符号化モードのいずれであるかを示すデータとを分
離,抽出して、それらを情報保持手段68あるいは計数
手段67に送る多重分離手段である。
より出力される符号化データは外部に送出される一方、
多重分離手段70にも入力される。多重分離手段70は
入力された符号化データよりフレームモードを示すデー
タと符号化モードを示すデータとを分離,抽出して、符
号化モードを示すデータを計数手段67に、またフレー
ムモードを示すデータを情報保持手段68にそれぞれ出
力する。そして、それ以降、計数手段67、情報保持手
段68、および検出信号出力手段69によって実施例3
4の場合と同様の手順でシーンチェンジの検出処理が実
行され、検出信号が出力される。
を図に基づいて説明する。図24は請求項10に記載の
発明の他の実施例を示すブロック図で、この場合の動画
像復号化部分はMPEG方式で符号化された動画像を復
号することを想定しており、図23と同一の部分には同
一の符号を付してその説明を省略する。図において、7
1は多重分離手段70によって符号化データよりフレー
ムモードを示すデータや符号化モードを示すデータと分
離された可変長符号化データを復号する可変長復号器で
ある。
された符号化データは多重分離手段70にて可変長符号
化データと、フレームモードを示すデータや符号化モー
ドを示すデータとに分離され、可変長符号化データは可
変長復号器71に送られて復号される。この可変長復号
器71による復号結果のうち、DCT係数は逆変換器5
8で逆DCTが施され、逆量子化器57を経て予測誤差
信号が復元される。そして、加算器59でスイッチ64
から与えられるフレーム間予測信号と加算され、画像信
号として外部に出力される。この加算器59の出力はフ
レームメモリ60にも記憶され、フレーム間予測信号を
生成するために利用される。
た動きベクトルはフレーム間予測器61に与えられる。
フレーム間予測器61はこの動きベクトルと、多重分離
手段70によって分離されたフレームモードを示すデー
タおよび符号化モードを示すデータに基づく制御を受け
て、フレームメモリ60からフレーム間予測に用いるデ
ータを読み出し、フレーム間予測信号を生成してスイッ
チ64に与える。また、スイッチ64は多重分離手段7
0よりフレームモードを示すデータと符号化モードを示
すデータに基づく制御を受けて、フレームモードが第1
のフレームの場合には接点“a”側がオンになって接地
信号を出力する。また、フレームモードが第2または第
3のフレームの場合、符号化モードが第1の符号化モー
ドであれば接点“a”側がオンになって接地信号がスイ
ッチ64から出力され、符号化モードが第1の符号化モ
ード以外であれば接点“b”側がオンになってフレーム
間予測器61の出力がスイッチ64から出力される。
構は実施例35と全く同じである。即ち、多重分離手段
70は、入力された符号化データよりフレームモードを
示すデータと符号化モードを示すデータとを分離,抽出
し、符号化モードを示すデータを計数手段67に、フレ
ームモードを示すデータを情報保持手段68に受け渡
す。そして、それ以降、計数手段67、情報保持手段6
8、および検出信号出力手段69によって実施例34の
場合と同様の手順でシーンチェンジの検出処理が実行さ
れ、検出信号が出力される。
7,実施例38は各々ハードウェア,ソフトウェアのい
ずれでも実現可能である。即ち、ハードウェアとして構
成する場合、計数手段67はカウンタ、情報保持手段6
8はラッチあるいはメモリ、検出信号出力手段69はコ
ンパレータと乗算器,加算器を組み合わせることにより
構成可能である。そして、このハードウェアと動画像符
号化,復号化を実行するハードウェアとの間でフレーム
モードと符号化モードとを受け渡すことにより、実施例
36,実施例37,実施例38を実現することができ
る。一方、ソフトウェアで実現する場合、計数手段6
7、情報保持手段68、検出信号出力手段69はCPU
と制御用メモリ、データメモリから成る汎用的な計算機
構で実現でき、これと動画像符号化,復号化を実行する
ハードウェアとの間でフレームモードと符号化モードと
を受け渡すことにより、実施例36,実施例37,実施
例38を実現することができる。
て、シーンチェンジを検出する機構である計数手段6
7、情報保持手段68、検出信号出力手段69の全てを
計算機の中でソフトウェア的に実現することも可能であ
る。この場合、実施例36,実施例37,実施例38は
特別なハードウェア無しに、計算機だけでも実現できる
ことは言うまでもない。
よれば、演算部と計数部によって1フレームごとの予測
誤差を累計し、比較部にて予測誤差の1フレームごとの
累計としきい値とを比較し、その大小関係に基づいてシ
ーンチェンジ検出信号を生成するように構成したので、
計算量やハードウェアを極端に増大させることなくシー
ンチェンジを検出することが可能なシーンチェンジ検出
装置が得られる効果がある。
数部によって1フレームごとの符号化データ量を計数
し、その計数値を比較部で1フレームごとにしきい値と
比較するように構成したので、シーンチェンジの検出に
要する付加的な計算量やハードウェアを少なくすること
ができる効果がある。
数部にて1フレームごとにフレーム内符号化(フレーム
間符号化)される画素数を計数し、計数値を比較部で1
フレームごとにしきい値と比較するように構成したの
で、シーンチェンジの検出に要する付加的な計算量やハ
ードウェアを少なくすることができる効果がある。
算部と計数部によって1フレームごとの予測誤差を累計
し、比較部にて予測誤差の1フレームごとの累計としき
い値とを比較し、その大小関係に基づいてシーンチェン
ジ検出信号を生成するように構成したので、計算量やハ
ードウェアを極端に増大させることなくシーンチェンジ
を検出することが可能な動画像の復号化装置が得られる
効果がある。
数部によって1フレームごとの符号化データ量を計数
し、その計数値を比較部で1フレームごとにしきい値と
比較するように構成したので、シーンチェンジの検出に
要する付加的な計算量やハードウェアを少なくすること
ができる効果がある。
数部によって1フレームごとにフレーム内符号化(フレ
ーム間符号化)される画素数を計数し、計数値を比較部
で1フレームごとにしきい値と比較するように構成した
ので、シーンチェンジの検出に要する付加的な計算量や
ハードウェアを少なくすることができる効果がある。
画像符号化データ入力部によって複数のシーンから構成
される動画像の符号化データを取り込み、それを計数部
に入力するように構成したので、符号化装置や復号化装
置の存在とは関係なく、単に符号化データから必要な情
報だけを抽出して解析するだけでシーンチェンジの検出
が可能となる効果がある。
画像の画像信号をフレーム間の相関を利用して符号化す
る際、符号化モードを適応的に切り換えてフレーム間の
相関にて予測不可能と判定された画素についてはフレー
ム内の相関を利用して符号化した動画像の符号化データ
より、多重分離部によってその画素がどちらの符号化モ
ードで符号化されたかを抽出し、計数部に入力するよう
に構成したので、符号化装置や復号化装置の存在とは関
係なく、単に符号化データから必要な情報だけを抽出し
て解析するだけでシーンチェンジの検出を可能とする。
数手段によりフレーム内での符号化モードの使用回数を
計数し、情報保持手段により少なくとも連続する2フレ
ーム分について、フレームモードと、計数手段の計数結
果を保持し、検出信号出力手段により情報保持手段に保
持された情報の内容があらかじめ設定された条件を満た
すか否かを調べて検出信号を出力するように構成したの
で、動画像の符号化に際して計算される各種特徴量を用
いてシーンチェンジを自動的に検出することが可能とな
り、シーンチェンジの検出に要する付加的な計算量やハ
ードウェアを少なくすることができる効果がある。
多重分離手段によって、符号化データからフレームモー
ドと符号化モードを示すデータを分離,抽出して、符号
化モードを示すデータを計数手段に、フレームモードを
示すデータを情報保持手段に送るように構成したので、
符号化の際の特徴量からシーンチェンジを自動的に検出
することが可能となり、シーンチェンジ検出のための付
加的な計算量やハードウェアを少なくできる効果があ
る。
ロック図である。
る。
る。
る。
る。
る。
すブロック図である。
る。
る。
る。
る。
る。
る。
る。
る。
を説明するための説明図である。
る。
る。
符号化装置および復号化装置の一例を示すブロック図で
ある。
ンチェンジ検出のアルゴリズムを示すフローチャートで
ある。
検出装置は以上のように構成されているので、動画像の
フレームごとに色の分布を調べると共に、フレーム間で
の相関係数を求める、という複雑な処理を行わなければ
ならず、これらの処理を汎用的なプロセッサで実行した
場合、到底実時間処理は不可能であり、シーンチェンジ
の自動検出を実時間処理を実現するためには専用のハー
ドウェアが必要となる。また、今後計算機で動画像を扱
うことを考えると、動画像は当然ディジタル化され、し
かも、ディジタル動画像の膨大なデータ量を削減するた
め、動画像符号化技術によりデータ量を削減した後に、
計算機内部に取り込まれるものと予想されるが、その場
合にも、上記従来例の処理では動画像符号化/復号化と
は全く独立した処理であり、従って、動画像符号化ある
いは復号化に際して、動画像のフレーム間に渡って複雑
な処理が行われているにもかかわらず、その処理結果を
利用できず、動画像符号化前、あるいは復号後の画像信
号に対して上記の複雑な処理を実行しなければならない
という問題点があった。
ためになされたものであり、動画像の符号化あるいは復
号化に際して計算される様々な特徴量を用いてシーンチ
ェンジを自動検出することが可能なシーンチェンジ検出
装置を得ることを目的とする。
チェンジ検出装置は、フレーム間の相関を利用した符号
化において、フレーム間の相関で予測不可能、あるいは
予測可能と判定された画素の数を1フレームごとに計数
する計数部と、1フレームの符号化が終了するごとにそ
の計数値をしきい値と比較して、現フレームでのシーン
チェンジを判定する比較部を設けたものである。
チェンジ検出装置は、フレーム間の相関を利用して符号
化された動画像の符号化データを復号する際、フレーム
間の相関により予測不可能あるいは予測可能と判定され
た画素の数を1フレームごとに計数する計数部と、1フ
レームの復号が終了するごとにその計数値をしきい値と
比較して、現フレームでのシーンチェンジを判定する比
較部を設けたものである。
チェンジ検出装置は、フレーム間の相関を利用して動画
像を符号化する際に、フレーム間符号化とフレーム内符
号化という符号化モードを適応的に切り換えて符号化し
た動画像の符号化データより、その画素がいずれの符号
化モードで符号化されたかを抽出する多重分離部と、そ
の符号化モードを1フレームごとに計数して、フレーム
間予測可能あるいはフレーム間予測不可能と判定された
画素の数を算出する計数部と、その計数値を1フレーム
ごとにしきい値と比較して、当該フレームでのシーンチ
ェンジを判定する比較部を備えたものである。
手段は、フレーム間の相関を利用して動画像を符号化す
る際に、計数部にて1フレーム分計数されたフレーム間
予測不可能(予測可能)の画素の数を、1フレームの符
号化が終了する度にしきい値と比較し、その大小関係に
基づいて現フレームがシーンチェンジであるか否かを判
定することにより、動画像の符号化に際して計算される
特徴量をシーンチェンジの自動検出にも利用可能とす
る。
手段は、フレーム間の相関を利用して符号化された動画
像の符号化データの復号に際して、計数部にて1フレー
ム分計数されたフレーム間予測不可能(予測可能)の画
素の数を、1フレームの復号が終了する度にしきい値と
比較し、その大小関係に基づいて現フレームがシーンチ
ェンジであるか否かを判定することにより、動画像の復
号に際して計算される特徴量をシーンチェンジの自動検
出にも利用可能とする。
分離部は、複数のシーンから構成される動画像の画像信
号をフレーム間の相関を利用して符号化する際に、フレ
ーム間符号化とフレーム内符号化という符号化モードを
適応的に切り換えて、フレーム間の相関にて予測不可能
と判定された画素についてはフレーム内の相関を利用し
て符号化した動画像の符号化データより、その画素がど
ちらの符号化モードによって符号化されたかを抽出して
計数部に入力することにより、符号化装置もしくは復号
化装置の存在とは関係なく、単に符号化データから必要
な情報だけを抽出して解析するだけでシーンチェンジの
検出を可能とする。
のさらに他の実施例を示すブロック図である。この実施
例3では動画像の符号化の際のフレーム間予測として動
き補償予測を用いている。図において、15は入力され
た画像信号とフレームメモリ1に格納されている前フレ
ームの画像データとから動きベクトルを検出する動き検
出部であり、16はこの動き検出部15の検出した動き
ベクトルを用いてフレームメモリ1から読み出すべき画
素を決定し、フレーム間予測信号を生成する動き補償部
である。
れたフレーム間の予測誤差に対して所定の演算、例えば
それを二乗する演算を施す演算部としての乗算器であ
り、28は1フレームごとにこの乗算器27の出力を累
計する計数部である。29は1フレームの復号化が終了
する都度、この計数部28の計数値をしきい値と比較し
て、その大小関係に基づいて現フレームがシーンチェン
ジであるか否かを示すシーンチェンジ検出信号を発生す
る比較部である。
ーンチェンジを検出する機構として、演算部としての乗
算器27、および計数部28、比較部29というハード
ウェアを用いたが、これらは図13に示す請求項4の発
明のさらに他の実施例を示すブロック図のように、汎用
的なCPU31を用いたソフトウェア処理により実現す
ることも可能である。この実施例では、エントロピー復
号化部8、逆DCT部9、フレームメモリ10、加算器
11などで形成される動画像復号化部32がCPU31
のバス33上に接続され、CPU31からシーンチェン
ジ検出に必要なフレーム間の予測誤差を読み取れるよう
になっている。そして、CPU31はメモリ34に蓄え
られたプログラムに従って、シーンチェンジ検出機構で
ある演算部、計数部、および比較部を実現する。
像符号化データ入力部42、多重分離部47、計数部4
3,48、比較部44,49は専用のハードウェア、あ
るいは汎用のCPUを用いたソフトウェアのいずれによ
っても実現可能である。
実施例36では、動画像符号化部分にはISOで標準化
が進められている蓄積メディア用動画像符号化方式であ
るMPEG(モーション・ピクチャー・イメージ・コー
ディング・エキスパーツ・グループ;Motion Picture I
mage Coding Experts Group )方式を用いることを想定
している。そこで、まず図22を用いてこのMPEG方
式の概念について説明する。図22において、I,P,
Bと記されているのはフレームモードであり、Iフレー
ムはこの発明における第1のフレームに、Pフレームは
同じく第2のフレーム、Bフレームは第3のフレームに
それぞれ相当している。符号化に当たって、まずIフレ
ーム80が独立に符号化され、次にIフレーム80を用
いてPフレーム83が予測符号化される。その後、Iフ
レーム80とPフレーム83を用いてBフレーム81,
82がこの順に予測符号化される。それ以降、時間的に
最も近くにあるIまたはPフレーム(図22ではPフレ
ーム86)を符号化し、次に時間的に過去にさかのぼっ
てBフレーム(図22ではBフレーム84,85)の符
号化を行うという操作を繰り返す。このようにMPEG
方式の符号化では、符号化に際して複数フレーム分のバ
ッファが必要となる。例えば、Bフレーム81,82の
符号化を終えるにはIフレーム80とPフレーム83が
必要となり、結局、フレーム80〜83までを蓄積して
おかねばならない。
より出力される符号化データは外部に送出される一方、
多重分離手段70にも入力される。多重分離手段70は
入力された符号化データよりフレームモードを示すデー
タと符号化モードを示すデータとを分離,抽出して、符
号化モードを示すデータを計数手段67に、またフレー
ムモードを示すデータを情報保持手段68にそれぞれ出
力する。そして、それ以降、計数手段67、情報保持手
段68、および検出信号出力手段69によって実施例3
6の場合と同様の手順でシーンチェンジの検出処理が実
行され、検出信号が出力される。
構は実施例37と全く同じである。即ち、多重分離手段
70は、入力された符号化データよりフレームモードを
示すデータと符号化モードを示すデータとを分離,抽出
し、符号化モードを示すデータを計数手段67に、フレ
ームモードを示すデータを情報保持手段68に受け渡
す。そして、それ以降、計数手段67、情報保持手段6
8、および検出信号出力手段69によって実施例36の
場合と同様の手順でシーンチェンジの検出処理が実行さ
れ、検出信号が出力される。
算部と計数部によって1フレームごとの予測誤差を累計
し、比較部にて予測誤差の1フレームごとの累計としき
い値とを比較し、その大小関係に基づいてシーンチェン
ジ検出信号を生成するように構成したので、シーンチェ
ンジの検出に要する付加的な計算量やハードウェアを少
なくすることができる効果がある。
画像の画像信号をフレーム間の相関を利用して符号化す
る際、フレーム内符号化とフレーム間符号化という2つ
の符号化モードを適応的に切り換えて符号化した動画像
の符号化データより、多重分離部によってその画素がど
ちらの符号化モードで符号化されたかを抽出し、計数部
に入力するように構成したので、符号化装置や復号化装
置の存在とは関係なく、単に符号化データから必要な情
報だけを抽出して解析するだけでシーンチェンジの検出
を可能とする。
Claims (10)
- 【請求項1】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化する符号
化装置にて、前記動画像よりシーンの変化するフレーム
を自動的に検出するためのシーンチェンジ検出装置にお
いて、前記フレーム間の予測誤差に対して所定の演算を
施す演算部と、1フレームごとに前記演算部の出力を累
計する計数部と、1フレームの符号化が終了する度に前
記計数部の計数値をしきい値と比較し、その比較結果に
基づいて現フレームがシーンチェンジであるか否かを示
す信号を発生する比較部とを備えたことを特徴とするシ
ーンチェンジ検出装置。 - 【請求項2】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化する符号
化装置にて、前記動画像よりシーンの変化するフレーム
を自動的に検出するためのシーンチェンジ検出装置にお
いて、当該動画像の符号化装置より出力される符号化デ
ータの1フレームごとのデータ量を計数する計数部と、
1フレームの符号化が終了する度に前記計数部の計数値
をしきい値と比較し、その比較結果に基づいて現フレー
ムがシーンチェンジであるか否かを示す信号を発生する
比較部とを備えたことを特徴とするシーンチェンジ検出
装置。 - 【請求項3】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化する際、
前記フレーム間の相関にて予測不可能と判定された画素
については、フレーム内の相関を利用して符号化する符
号化装置にて、前記動画像よりシーンの変化するフレー
ムを自動的に検出するためのシーンチェンジ検出装置に
おいて、1フレームごとに前記予測不可能、あるいは前
記予測可能と判定された画素の数を計数する計数部と、
1フレームの符号化が終了する度に前記計数部の計数値
をしきい値と比較し、その比較結果に基づいて現フレー
ムがシーンチェンジであるか否かを示す信号を発生する
比較部とを備えたことを特徴とするシーンチェンジ検出
装置。 - 【請求項4】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化した符号
化データを前記画像信号に復号する復号化装置にて、前
記動画像よりシーンの変化するフレームを自動的に検出
するためのシーンチェンジ検出装置において、復号され
た前記フレーム間の予測誤差に対して所定の演算を施す
演算部と、1フレームごとに前記演算部の出力を累計す
る計数部と、1フレームの復号が終了する度に前記計数
部の計数値をしきい値と比較し、その比較結果に基づい
て現フレームがシーンチェンジであるか否かを示す信号
を発生する比較部とを備えたことを特徴とするシーンチ
ェンジ検出装置。 - 【請求項5】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化した符号
化データを前記画像信号に復号する復号化装置にて、前
記動画像よりシーンの変化するフレームを自動的に検出
するためのシーンチェンジ検出装置において、当該動画
像の復号化装置に入力される符号化データの1フレーム
ごとのデータ量を計数する計数部と、1フレームの復号
が終了する度に前記計数部の計数値をしきい値と比較
し、その比較結果に基づいて現フレームがシーンチェン
ジであるか否かを示す信号を発生する比較部とを備えた
ことを特徴とするシーンチェンジ検出装置。 - 【請求項6】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化する際、
前記フレーム間の相関にて予測不可能と判定された画素
については、フレーム内の相関を利用して符号化した符
号化データを前記画像信号に復号する復号化装置にて、
前記動画像よりシーンの変化するフレームを自動的に検
出するためのシーンチェンジ検出装置において、1フレ
ームごとに前記予測不可能、あるいは前記予測可能と判
定された画素の数を計数する計数部と、1フレームの復
号が終了する度に前記計数部の計数値をしきい値と比較
し、その比較結果に基づいて現フレームがシーンチェン
ジであるか否かを示す信号を発生する比較部とを備えた
ことを特徴とするシーンチェンジ検出装置。 - 【請求項7】 複数のシーンから構成される動画像の符
号化データを取り込む動画像符号化データ入力部と、前
記動画像符号化データ入力部より取り込まれた前記動画
像の符号化データの1フレームごとのデータ量を計数す
る計数部と、前記計数部の計数値をしきい値と比較し、
その比較結果に基づいてそのフレームがシーンチェンジ
であるか否かを示す信号を発生する比較部とを備えたシ
ーンチェンジ検出装置。 - 【請求項8】 複数のシーンから構成される動画像の画
像信号を、フレーム間の相関を利用して符号化する際、
フレーム間符号化とフレーム内符号化とに適応的に切り
換えて、前記フレーム間の相関にて予測不可能と判定さ
れた画素についてはフレーム内の相関を利用して符号化
した動画像の符号化データより、前記画素が前記フレー
ム間符号化とフレーム内符号化のいずれによって符号化
されたかを示す符号化モードを抽出する多重分離部と、
1フレームごとに前記符号化モードを計数し、前記フレ
ーム間予測可能あるいはフレーム間予測不可能と判定さ
れた画素の数を算出する計数部と、1フレームごとに前
記計数部の計数値をしきい値と比較し、その比較結果に
基づいてそのフレームがシーンチェンジであるか否かを
示す信号を発生する比較部とを備えたシーンチェンジ検
出装置。 - 【請求項9】 動画像のフレームを複数の領域に分割し
た各領域毎の符号化モードとして、現フレームの情報を
用いて符号化する第1の符号化モード、既に符号化され
た時間的に過去に位置するフレームの情報を用いて符号
化する第2の符号化モード、既に符号化された時間的に
未来に位置するフレームの情報を用いて符号化する第3
の符号化モード、あるいは既に符号化された時間的に過
去に位置するフレームの情報と既に符号化された時間的
に未来に位置するフレームの情報とを用いて符号化する
第4の符号化モード中のいずれを用いるかを決定する符
号化モード決定手段の出力より、前記フレーム内での前
記各符号化モードの生起頻度を計数する計数手段と、前
記動画像のフレームのフレームモードが、前記第1の符
号化モードだけを用いて符号化される第1のフレーム、
前記第1の符号化モードと第2の符号化モードのいずれ
かを用いて符号化される第2のフレーム、あるいは第1
ないし第4の符号化モードのいずれかを用いて符号化さ
れる第3のフレーム中のいずれであるかを決定するフレ
ームモード決定手段の出力、および前記計数手段の計数
結果を少なくとも時間的に連続する2フレーム分保持す
る情報保持手段と、前記情報保持手段に保持されている
時間的に連続した2フレーム分のフレームモードを比較
するとともに、前記情報保持手段に保持されている時間
的に連続した2フレーム分の符号化モードの生起頻度を
比較し、それらの比較結果があらかじめ定められた条件
に合致する場合に検出信号を出力する検出信号出力手段
とを備えたシーンチェンジ検出装置。 - 【請求項10】 動画像のフレームを複数の領域に分割
し、各領域毎に、現フレームの情報を用いて符号化する
第1の符号化モードと、既に符号化された時間的に過去
に位置するフレームの情報を用いて符号化する第2の符
号化モードと、既に符号化された時間的に未来に位置す
るフレームの情報を用いて符号化する第3の符号化モー
ドと、既に符号化された時間的に過去に位置するフレー
ムの情報と既に符号化された時間的に未来に位置するフ
レームの情報とを用いて符号化する第4の符号化モード
とを適応的に切り換えることにより、前記動画像のフレ
ームを、前記第1の符号化モードだけを用いて符号化さ
れる第1のフレームと、前記第1の符号化モードと第2
の符号化モードのいずれかを用いて符号化される第2の
フレームと、第1ないし第4の符号化モードのいずれか
を用いて符号化される第3のフレームとに分けて符号化
した符号化データから、前記フレームが前記第1ないし
第3のフレームのいずれであるかのフレームモードを示
すデータ、および前記第1ないし第4の符号化モードの
いずれが使用されているかを示すデータとを抽出する多
重分離手段と、前記多重分離手段の出力より、前記フレ
ーム内での前記各符号化モードの生起頻度を計数する計
数手段と、前記フレームモードを示すデータと前記計数
手段の計数結果とを少なくとも時間的に連続する2フレ
ーム分保持する情報保持手段と、前記情報保持手段に保
持されている時間的に連続した2フレーム分のフレーム
モードを比較するとともに、前記情報保持手段に保持さ
れている時間的に連続した2フレーム分の符号化モード
の生起頻度を比較し、それらの比較結果があらかじめ定
められた条件に合致する場合に検出信号を出力する検出
信号出力手段とを備えたシーンチェンジ検出装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP35161592A JP3093499B2 (ja) | 1992-03-06 | 1992-12-09 | シーンチェンジ検出装置 |
US08/787,449 US5815217A (en) | 1992-03-06 | 1997-01-22 | Scene-change detector for a moving image composed of a plurality of frames |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP8304992 | 1992-03-06 | ||
JP14108992 | 1992-05-07 | ||
JP4-83049 | 1992-05-07 | ||
JP4-141089 | 1992-05-07 | ||
JP35161592A JP3093499B2 (ja) | 1992-03-06 | 1992-12-09 | シーンチェンジ検出装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11240073A Division JP2000078585A (ja) | 1992-03-06 | 1999-08-26 | シ―ンチェンジ検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0622304A true JPH0622304A (ja) | 1994-01-28 |
JP3093499B2 JP3093499B2 (ja) | 2000-10-03 |
Family
ID=27304109
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP35161592A Expired - Fee Related JP3093499B2 (ja) | 1992-03-06 | 1992-12-09 | シーンチェンジ検出装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US5815217A (ja) |
JP (1) | JP3093499B2 (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5521542A (en) * | 1994-09-09 | 1996-05-28 | Nec Corporation | Logarithmic amplifier circuit using triple-tail cells |
JPH09312829A (ja) * | 1996-05-24 | 1997-12-02 | Hitachi Denshi Ltd | 音声・動画像符号化データ検索方法及び検索装置 |
JPH09322119A (ja) * | 1996-05-30 | 1997-12-12 | Nippon Telegr & Teleph Corp <Ntt> | 符号化映像カット検出方法 |
US5911008A (en) * | 1996-04-30 | 1999-06-08 | Nippon Telegraph And Telephone Corporation | Scheme for detecting shot boundaries in compressed video data using inter-frame/inter-field prediction coding and intra-frame/intra-field coding |
US6192183B1 (en) | 1996-05-30 | 2001-02-20 | Nippon Telegraph And Telephone Corporation | Video editing scheme using icons directly obtained from coded video data |
US6885773B2 (en) | 2000-04-04 | 2005-04-26 | Pioneer Corporation | Method of detecting a fade change in image information based on intra-field dispersion values and intra-field DC levels |
US6937654B2 (en) | 2002-04-17 | 2005-08-30 | Mitsubishi Denki Kabushiki Kaisha | Moving picture coding control apparatus, and coding control database generating apparatus |
KR100546226B1 (ko) * | 1997-07-09 | 2006-04-28 | 소니 가부시끼 가이샤 | 정보검색장치및방법과전송매체 |
US7721356B2 (en) | 2005-01-28 | 2010-05-25 | Utax Co., Ltd. | Clothes with crotch part |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09322174A (ja) * | 1996-05-30 | 1997-12-12 | Hitachi Ltd | 動画データの再生方法 |
US6115420A (en) * | 1997-03-14 | 2000-09-05 | Microsoft Corporation | Digital video signal encoder and encoding method |
US6137844A (en) * | 1998-02-02 | 2000-10-24 | Oki Telecom, Inc. | Digital filter for noise and error removal in transmitted analog signals |
JP3738939B2 (ja) * | 1998-03-05 | 2006-01-25 | Kddi株式会社 | 動画像のカット点検出装置 |
JP4427827B2 (ja) * | 1998-07-15 | 2010-03-10 | ソニー株式会社 | データ処理方法、データ処理装置及び記録媒体 |
JP4171940B2 (ja) * | 1998-09-09 | 2008-10-29 | ソニー株式会社 | 送信装置、受信装置、送信方法及び受信方法 |
KR100618972B1 (ko) * | 1999-08-02 | 2006-09-01 | 삼성전자주식회사 | 가변장 코딩 방법 및 장치 |
JP3644320B2 (ja) * | 1999-09-17 | 2005-04-27 | 日本電気株式会社 | 制御コード読み込みシステム |
JP2001268575A (ja) | 2000-03-14 | 2001-09-28 | Pioneer Electronic Corp | 画像変化検出装置及び画像変化検出方法、画像符号化装置並びに画像変化検出用プログラムがコンピュータで読取可能に記録された情報記録媒体 |
JP2002077723A (ja) * | 2000-09-01 | 2002-03-15 | Minolta Co Ltd | 動画像処理装置、動画像処理方法および記録媒体 |
US7224892B2 (en) * | 2001-06-26 | 2007-05-29 | Canon Kabushiki Kaisha | Moving image recording apparatus and method, moving image reproducing apparatus, moving image recording and reproducing method, and programs and storage media |
US20030219232A1 (en) * | 2001-10-01 | 2003-11-27 | Shu Lin | System and method for identifying data on a storage medium |
US7116374B2 (en) * | 2003-08-26 | 2006-10-03 | Koplar Interactive Systems International, L.L.C. | Method and system for enhanced modulation of video signals |
JP4574983B2 (ja) * | 2003-11-04 | 2010-11-04 | オリンパス株式会社 | 画像表示装置、画像表示方法、及び画像表示プログラム |
US7664175B1 (en) * | 2004-06-16 | 2010-02-16 | Koplar Interactive Systems International, L.L.C. | Mark-based content modulation and detection |
US8296662B2 (en) * | 2007-02-05 | 2012-10-23 | Brother Kogyo Kabushiki Kaisha | Image display device |
US8798133B2 (en) * | 2007-11-29 | 2014-08-05 | Koplar Interactive Systems International L.L.C. | Dual channel encoding and detection |
US20150304571A1 (en) * | 2012-11-26 | 2015-10-22 | Golden Boy Technology & Innovation S.R.L. | Automated filming process for sport events |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB8603880D0 (en) * | 1986-02-17 | 1986-03-26 | Indep Broadcasting Authority | Hybrid interpolative predictive code |
US4698672A (en) * | 1986-10-27 | 1987-10-06 | Compression Labs, Inc. | Coding system for reducing redundancy |
US4885636A (en) * | 1987-06-22 | 1989-12-05 | Eastman Kodak Company | Block adaptive linear predictive coding with adaptive gain and bias |
US4942467A (en) * | 1988-12-05 | 1990-07-17 | General Electric Company | Predictor controlled encoder for digital transmission systems |
JPH02174388A (ja) * | 1988-12-26 | 1990-07-05 | Graphics Commun Technol:Kk | 画像符号化装置 |
JPH02174387A (ja) * | 1988-12-26 | 1990-07-05 | Graphics Commun Technol:Kk | 画像符号化装置 |
JP2675130B2 (ja) * | 1989-03-29 | 1997-11-12 | 株式会社日立製作所 | 画像データ転送再生方法および転送再生装置 |
FR2645383B1 (fr) * | 1989-03-31 | 1997-06-27 | Thomson Consumer Electronics | Procede et dispositif d'interpolation temporelle d'images, a compensation de mouvement corrigee |
WO1990016130A1 (en) * | 1989-06-19 | 1990-12-27 | Fujitsu Limited | Dynamic image encoder and dynamic image decoder |
US5028996A (en) * | 1989-06-26 | 1991-07-02 | Matsushita Electric Industrial Co., Ltd. | Picture coding method |
US5164828A (en) * | 1990-02-26 | 1992-11-17 | Sony Corporation | Video signal transmission and method and apparatus for coding video signal used in this |
US5150432A (en) * | 1990-03-26 | 1992-09-22 | Kabushiki Kaisha Toshiba | Apparatus for encoding/decoding video signals to improve quality of a specific region |
US5347309A (en) * | 1991-04-25 | 1994-09-13 | Matsushita Electric Industrial Co., Ltd. | Image coding method and apparatus |
US5151784A (en) * | 1991-04-30 | 1992-09-29 | At&T Bell Laboratories | Multiple frame motion estimation |
JPH04334188A (ja) * | 1991-05-08 | 1992-11-20 | Nec Corp | 動画像信号の符号化方式 |
JP3067275B2 (ja) * | 1991-05-23 | 2000-07-17 | 日本放送協会 | シーンチェンジ検出装置 |
JPH04354488A (ja) * | 1991-05-31 | 1992-12-08 | Toshiba Corp | 動画像符号化装置 |
US5227878A (en) * | 1991-11-15 | 1993-07-13 | At&T Bell Laboratories | Adaptive coding and decoding of frames and fields of video |
JPH05284369A (ja) * | 1992-03-31 | 1993-10-29 | Fujitsu Ltd | 画像データ符号化・復元方法及びその装置 |
JP3217789B2 (ja) * | 1992-11-17 | 2001-10-15 | 富士通株式会社 | ディジタル画像通信装置 |
US5497338A (en) * | 1993-04-09 | 1996-03-05 | Sharp Kabushiki Kaisha | Motion vector detecting circuit |
-
1992
- 1992-12-09 JP JP35161592A patent/JP3093499B2/ja not_active Expired - Fee Related
-
1997
- 1997-01-22 US US08/787,449 patent/US5815217A/en not_active Expired - Fee Related
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5521542A (en) * | 1994-09-09 | 1996-05-28 | Nec Corporation | Logarithmic amplifier circuit using triple-tail cells |
US5911008A (en) * | 1996-04-30 | 1999-06-08 | Nippon Telegraph And Telephone Corporation | Scheme for detecting shot boundaries in compressed video data using inter-frame/inter-field prediction coding and intra-frame/intra-field coding |
JPH09312829A (ja) * | 1996-05-24 | 1997-12-02 | Hitachi Denshi Ltd | 音声・動画像符号化データ検索方法及び検索装置 |
JPH09322119A (ja) * | 1996-05-30 | 1997-12-12 | Nippon Telegr & Teleph Corp <Ntt> | 符号化映像カット検出方法 |
US6192183B1 (en) | 1996-05-30 | 2001-02-20 | Nippon Telegraph And Telephone Corporation | Video editing scheme using icons directly obtained from coded video data |
KR100546226B1 (ko) * | 1997-07-09 | 2006-04-28 | 소니 가부시끼 가이샤 | 정보검색장치및방법과전송매체 |
US6885773B2 (en) | 2000-04-04 | 2005-04-26 | Pioneer Corporation | Method of detecting a fade change in image information based on intra-field dispersion values and intra-field DC levels |
US6937654B2 (en) | 2002-04-17 | 2005-08-30 | Mitsubishi Denki Kabushiki Kaisha | Moving picture coding control apparatus, and coding control database generating apparatus |
US7721356B2 (en) | 2005-01-28 | 2010-05-25 | Utax Co., Ltd. | Clothes with crotch part |
Also Published As
Publication number | Publication date |
---|---|
US5815217A (en) | 1998-09-29 |
JP3093499B2 (ja) | 2000-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPH0622304A (ja) | シーンチェンジ検出装置 | |
US7023914B2 (en) | Video encoding apparatus and method | |
US6434196B1 (en) | Method and apparatus for encoding video information | |
EP1563688B1 (en) | Method and apparatus for control of rate-distortion tradeoff by using lagrange multiplier and visual mask | |
US8761254B2 (en) | Image prediction encoding device, image prediction decoding device, image prediction encoding method, image prediction decoding method, image prediction encoding program, and image prediction decoding program | |
CN101978698B (zh) | 用于对图像进行编码和解码的方法及设备 | |
JP2004007379A (ja) | 動画像符号化方法及び動画像復号化方法 | |
WO2012095464A1 (en) | Video encoding and decoding with improved error resilience | |
KR20090095012A (ko) | 연속적인 움직임 추정을 이용한 영상 부호화, 복호화 방법및 장치 | |
US20120207219A1 (en) | Picture encoding apparatus, picture encoding method, and program | |
KR100944552B1 (ko) | 동화상 부호화 방법, 동화상 부호화 장치 및 데이터 기억매체 | |
JP2007060693A (ja) | 動画像符号化、復号化方法及び装置 | |
US7856054B1 (en) | Scene change identification during encoding of compressed video | |
EP1374595A2 (en) | Video coding method and device | |
US8126277B2 (en) | Image processing method, image processing apparatus and image pickup apparatus using the same | |
JP3188081B2 (ja) | 画像符号化方法および画像符号化装置 | |
JPH10191347A (ja) | 動き検出装置、動き検出方法、及び、記憶媒体 | |
JP2007124614A (ja) | 符号化方法 | |
JP2000078585A (ja) | シ―ンチェンジ検出装置 | |
JPH06113283A (ja) | 動き補償符号化装置 | |
JPH06105299A (ja) | 動画像圧縮装置 | |
JP2009153227A (ja) | 画像処理装置およびそれを用いた撮像装置 | |
Chen et al. | A complexity-scalable software-based MPEG-2 video encoder | |
KR20070029109A (ko) | 비디오 인코딩 방법 및 디바이스 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070728 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080728 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090728 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100728 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100728 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110728 Year of fee payment: 11 |
|
LAPS | Cancellation because of no payment of annual fees |