JPH1075451A - 映像データ圧縮装置およびその方法 - Google Patents

映像データ圧縮装置およびその方法

Info

Publication number
JPH1075451A
JPH1075451A JP22965096A JP22965096A JPH1075451A JP H1075451 A JPH1075451 A JP H1075451A JP 22965096 A JP22965096 A JP 22965096A JP 22965096 A JP22965096 A JP 22965096A JP H1075451 A JPH1075451 A JP H1075451A
Authority
JP
Japan
Prior art keywords
picture
data
video data
difficulty
compression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP22965096A
Other languages
English (en)
Other versions
JP3864461B2 (ja
Inventor
Kanji Mihara
寛司 三原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP22965096A priority Critical patent/JP3864461B2/ja
Priority to US08/918,813 priority patent/US5933532A/en
Priority to EP19970306674 priority patent/EP0827343B1/en
Priority to DE69739816T priority patent/DE69739816D1/de
Priority to KR19970044603A priority patent/KR19980019201A/ko
Publication of JPH1075451A publication Critical patent/JPH1075451A/ja
Application granted granted Critical
Publication of JP3864461B2 publication Critical patent/JP3864461B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/149Data rate or code amount at the encoder output by estimating the code amount by means of a model, e.g. mathematical model or statistical model
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer

Abstract

(57)【要約】 【課題】映像データの動きの大きさ、絵柄の複雑さに応
じて、量子化値を求めるために用いられる重み付け係数
p ,KB を最適化する。 【解決手段】エンコーダ26が、1ピクチャー分の圧縮
符号化を行うたびに、CG算出回路262は、量子化値
の平均値および圧縮映像データのデータ量から、MPE
G方式のTM5のグローバルコンプレクシティを算出す
る。目標データ量算出回路264は、最新の各ピクチャ
ータイプの実難度データDj により各ピクチャータイプ
の重み付け係数Kp ,KB を更新し、次のピクチャーの
目標データ量Tj を算出する。量子化インデックス生成
回路266は、算出された目標データ量Tj に対応する
量子化インデックス(量子化値)を算出し、量子化回路
168は、量子化インデックスに基づいて、DCT回路
166から入力される映像データを量子化する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、非圧縮映像データ
を圧縮符号化する映像データ圧縮装置およびその方法に
関する。
【0002】
【従来の技術および発明が解決しようとする課題】非圧
縮のディジタル映像データをMPEG(moving picture
experts group)等の方法により、Iピクチャー(intra c
oded picture) 、Bピクチャー(bi-directionaly predi
ctive coded picture)およびPピクチャー(predictive
coded picture)から構成されるGOP(group of pictur
es) 単位に圧縮符号化して光磁気ディスク(MOディス
ク;magneto-optical disc)等の記録媒体に記録する際
には、圧縮符号化後の圧縮映像データのデータ量(ビッ
ト量)を、伸長復号後の映像の品質を高く保ちつつ記録
媒体の記録容量以下、あるいは、通信回線の伝送容量以
下にする必要がある。
【0003】このために、まず、非圧縮映像データを予
備的に圧縮符号化して圧縮符号化後のデータ量を見積も
り(1パス目)、次に、見積もったデータ量に基づいて
圧縮率を調節し、圧縮符号化後のデータ量が記録媒体の
記録容量以下になるように圧縮符号化する(2パス目)
方法が採られる(以下、このような圧縮符号化方法を
「2パスエンコード」とも記す)。
【0004】しかしながら、2パスエンコードにより圧
縮符号化を行うと、同じ非圧縮映像データに対して同様
な圧縮符号化処理を2回施す必要があり、時間がかかっ
てしまう。また、1回の圧縮符号化処理で最終的な圧縮
映像データを算出することができないために、撮影した
映像データをそのまま実時間的(リアルタイム)に圧縮
符号化し、記録することができない。
【0005】本発明は上述した従来技術の問題点に鑑み
てなされたものであり、2パスエンコードによらずに、
所定のデータ量以下に音声・映像データを圧縮符号化す
ることができる映像データ圧縮装置およびその方法を提
供することを目的とする。また、本発明は、ほぼ実時間
的に映像データを圧縮符号化することができ、しかも、
伸長復号後に高品質な映像を得ることができる映像デー
タ圧縮装置およびその方法を提供することを目的とす
る。また、本発明は、2パスエンコードによらずに、圧
縮符号化後のデータ量を見積もって圧縮率を調節し、圧
縮符号化処理を行うことができる映像データ圧縮装置お
よびその方法を提供することを目的とする。
【0006】
【課題を解決するための手段】上記目的を達成するため
に、本発明に係る映像データ圧縮装置は、非圧縮映像デ
ータを、所定の圧縮方式により、複数の種類のピクチャ
ー(Iフレーム、PフレームおよびBフレーム)を所定
の順番で含むピクチャータイプシーケンスの圧縮映像デ
ータに圧縮する映像データ圧縮装置であって、前記ピク
チャータイプそれぞれの圧縮後のデータ量に対応し、前
記非圧縮映像データの難しさを示す難度データを算出す
る難度データ算出手段と、算出した前記ピクチャータイ
プそれぞれの難度データ、および、前記ピクチャータイ
プそれぞれの圧縮後のデータ量を重み付けする重み付け
係数に基づいて、前記ピクチャータイプそれぞれのピク
チャーの圧縮後のデータ量の目標値を算出する目標値算
出手段と、前記非圧縮映像データのピクチャータイプそ
れぞれのピクチャーを、所定の圧縮方法により、圧縮後
のデータ量が算出した前記ピクチャータイプの目標値に
なるように圧縮して前記圧縮映像データを生成する圧縮
手段と、生成した圧縮映像データのデータ量に基づい
て、前記ピクチャータイプそれぞれの重み付け係数を更
新する重み付け係数更新手段とを有する。
【0007】好適には、前記重み付け係数更新手段は、
少なくともPピクチャーの重み付け係数Kp およびBピ
クチャーの重み付け係数KB を、圧縮後のデータ量を多
くできる場合、および、非圧縮映像データの映像の動き
が大きい場合に、圧縮後のPピクチャーおよびBピクチ
ャーの圧縮後のデータ量が多くなる値とする。
【0008】好適には、前記重み付け係数更新手段は、
少なくともPピクチャーの重み付け係数Kp およびBピ
クチャーの重み付け係数KB それぞれを、所定数のピク
チャーごとに均等に配分したデータ量Gに対する所定数
の難度データDk の加算値ΣDk の比率x(x=ΣDk
/G)と、最新のIピクチャーの難度データに対する最
新のPピクチャーの難度データの比率(DI /Dp )、
および、Iピクチャーの難度データに対する最新のBピ
クチャーの難度データの比率(DI /DB )とに基づい
て算出し、更新する。
【0009】好適には、前記重み付け係数更新手段は、
PピクチャーおよびBピクチャーの重み付け係数Kp
B にそれぞれ上限値Lp ,LB を設け、算出した前記
重み付け係数Kp ,KB が前記上限値Lp ,LB を超え
る場合に、前記上限値Lp ,LB を超えた前記重み付け
係数Kp ,KB の値を前記上限値Lp ,LB とする。
【0010】好適には、前記目標値算出手段は、Iピク
チャー、PピクチャーおよびBピクチャーの目標値Tj
を、Pピクチャーの重み付け係数Kp 、Bピクチャーの
重み付け係数KB 、第j番目のピクチャーの難度データ
j 、最新のIピクチャーの難度データDI 、各ピクチ
ャーに均等に配分した場合のデータ量Rj 、所定数のP
ピクチャーの難度データを加算した加算値ΣDp 、およ
び、所定数のBピクチャーの難度データを加算した加算
値ΣDB に基づいて算出する。
【0011】好適には、前記目標値算出手段は、Iピク
チャーの第j番目のピクチャーの目標値Tj を第1の数
式〔Tj =Kp B j j /(Kp B I +KB Σ
p+Kp ΣDB )〕により算出し、Pピクチャーの第
j番目のピクチャーの目標値Tpjを第2の数式〔Tj
B B j /(Kp B I +KB ΣDp +Kp ΣD
B )〕により算出し、Bピクチャーの第j番目のピクチ
ャーの目標値Tj を第3の数式〔Tj =Kp B j
(Kp B I +KB ΣDp +Kp ΣDB )〕により算
出する。
【0012】本発明に係る映像データ圧縮装置は、例え
ば、MPEG方式等の圧縮符号化方式により、非圧縮映
像データを圧縮符号化し、複数の種類のピクチャー(I
フレーム、PフレームおよびBフレーム)を所定の順番
で含むピクチャータイプシーケンスの圧縮映像データを
生成する。
【0013】本発明に係る映像データ圧縮装置におい
て、難度データ算出手段は、例えば、所定の数値を所定
の関数(一次関数等)に代入することにより、DCT処
理後のピクチャーを固定の量子化値により量子化した場
合のデータ量として求められ、非圧縮映像データの各ピ
クチャーの絵柄の複雑さを示す難度データを、各ピクチ
ャータイプ(Iピクチャー、PピクチャーおよびBピク
チャー)別に近似的に算出する。なお、難度データの算
出のための上記所定の数値としては、例えば、Pピクチ
ャーおよびBピクチャーの生成時において、動きベクト
ルを生成する際の2つのピクチャー間の誤差成分の電力
パワーとして定義されるME残差、圧縮符号化後にIピ
クチャーとなるピクチャーの絵柄の複雑さを示すデータ
として新たに定義されたフラットネスおよびイントラA
C、あるいは、量子化処理の際の量子化値を求めるため
に用いられるグローバルコンプレクシティが用いられ
る。
【0014】目標値算出手段は、算出した各ピクチャー
タイプの難度データ(Dj :DI ,Dp ,DB )から、
各ピクチャータイプごとの圧縮符号化のデータ量の目標
値T j を算出する。具体的には、例えば、目標値算出手
段は、Pピクチャーの重み付け係数Kp 、Bピクチャー
の重み付け係数KB 、第j番目のピクチャーの難度デー
タDj 、最新のIピクチャーの難度データDI 、各ピク
チャーに均等に配分した場合のデータ量Rj 、所定数の
Pピクチャーの難度データを加算した加算値ΣDp 、お
よび、所定数のBピクチャーの難度データを加算した加
算値ΣDB の各数値を、第1の数式〔Tj =Kp B
j j /(Kp B I +KB ΣDp +Kp Σ
B )〕、第2の数式〔Tj =KB B j /(Kp
B I +KB ΣD p +Kp ΣDB )〕および第3の数式
〔Tj =Kp B j /(Kp B I +KB ΣDp
p ΣDB )〕にそれぞれ代入し、各ピクチャータイプ
の目標値T j それぞれを算出する。圧縮手段は、例え
ば、MPEG方式により圧縮後の各ピクチャータイプの
データ量がほぼ、目標値算出手段が算出した目標値Tj
となるように量子化値を制御して、非圧縮映像データの
ピクチャーそれぞれを圧縮符号化する。
【0015】重み付け係数更新手段は、圧縮手段が生成
した各ピクチャータイプのデータ量に基づいて、上記第
1の数式〜第3の数式における重み付け係数Kp ,KB
を更新し、圧縮映像データの品質が全体として向上する
ように、非圧縮映像データの絵柄の複雑さに応じた値に
最適化する。具体的には、重み付け係数更新手段は、例
えば、圧縮後のデータ量を多くできる場合、および、非
圧縮映像データの映像の動きが大きい場合には、圧縮後
のPピクチャーおよびBピクチャーの圧縮後のデータ量
を多くするために、重み付け係数Kp ,KB を小さな値
に制御するとともに、重み付け係数Kp ,KB にそれぞ
れ上限値Lp ,LB を設けることにより、これらの係数
が極端な値となることによる映像の品質低下を防止す
る。
【0016】また、本発明に係る映像データ圧縮方法
は、非圧縮映像データを、所定の圧縮方式により、複数
の種類のピクチャー(Iフレーム、PフレームおよびB
フレーム)を所定の順番で含むピクチャータイプシーケ
ンスの圧縮映像データに圧縮する映像データ圧縮方法で
あって、前記ピクチャータイプそれぞれの圧縮後のデー
タ量に対応し、前記非圧縮映像データの難しさを示す難
度データを算出し、算出した前記ピクチャータイプそれ
ぞれの難度データ、および、前記ピクチャータイプそれ
ぞれの圧縮後のデータ量を重み付けする重み付け係数に
基づいて、前記ピクチャータイプそれぞれのピクチャー
の圧縮後のデータ量の目標値を算出し、前記非圧縮映像
データのピクチャータイプそれぞれのピクチャーを、所
定の圧縮方法により、圧縮後のデータ量が算出した前記
ピクチャータイプの目標値になるように圧縮して前記圧
縮映像データを生成し、生成した圧縮映像データのデー
タ量に基づいて、前記ピクチャータイプそれぞれの重み
付け係数を更新する。
【0017】
【発明の実施の形態】第1実施形態 以下、本発明の第1の実施形態を説明する。MPEG方
式といった映像データの圧縮符号化方式により、高い周
波数成分が多い絵柄、あるいは、動きが多い絵柄といっ
た難度(difficulty)が高い映像データを圧縮符号化する
と、一般的に圧縮に伴う歪みが生じやすくなる。このた
め、難度が高い映像データは低い圧縮率で圧縮符号化す
る必要があり、難度が高いデータを圧縮符号化して得ら
れる圧縮映像データに対しては、難度が低い絵柄の映像
データの圧縮映像データに比べて、多くの目標データ量
を配分する必要がある。
【0018】このように、映像データの難度に対して適
応的に目標データ量を配分するためには、従来技術とし
て示した2パスエンコード方式が有効である。しかしな
がら、2パスエンコード方式は、実時間的な圧縮符号化
に不向きである。第1の実施形態として示す簡易2パス
エンコード方式は、かかる2パスエンコード方式の問題
点を解決するためになされたものであり、非圧縮映像デ
ータを予備的に圧縮符号化して得られる圧縮映像データ
の難度データから非圧縮映像データの難度を算出し、予
備的な圧縮符号化により算出した難度に基づいて、FI
FOメモリ等により所定の時間だけ遅延した非圧縮映像
データの圧縮率を適応的に制御することができる。
【0019】図1は、本発明に係る映像データ圧縮装置
1の構成を示す図である。図1に示すように、映像デー
タ圧縮装置1は、圧縮符号化部10およびホストコンピ
ュータ20から構成され、圧縮符号化部10は、エンコ
ーダ制御部12、動き検出器(motion estimator)14、
簡易2パス処理部16、第2のエンコーダ(encoder) 1
8から構成され、簡易2パス処理部16は、FIFOメ
モリ160および第1のエンコーダ162から構成され
る。映像データ圧縮装置1は、これらの構成部分によ
り、編集装置およびビデオテープレコーダ装置等の外部
機器(図示せず)から入力される非圧縮映像データVI
Nに対して、上述した簡易2パスエンコードを実現す
る。
【0020】映像データ圧縮装置1において、ホストコ
ンピュータ20は、映像データ圧縮装置1の各構成部分
の動作を制御する。また、ホストコンピュータ20は、
簡易2パス処理部16のエンコーダ162が非圧縮映像
データVINを予備的に圧縮符号化して生成した圧縮映
像データのデータ量、DCT処理後の映像データの直流
成分(DC成分)の値および交流成分(AC成分)の電
力値を制御信号C16を介して受け、受けたこれらの値
に基づいて圧縮映像データの絵柄の難度を算出する。さ
らに、ホストコンピュータ20は、算出した難度に基づ
いて、エンコーダ18が生成する圧縮映像データの目標
データ量Tj を制御信号C18を介してピクチャーごと
に割り当て、エンコーダ18の量子化回路166(図
3)に設定し、エンコーダ18の圧縮率をピクチャー単
位に適応的に制御する。
【0021】エンコーダ制御部12は、非圧縮映像デー
タVINのピクチャーの有無をホストコンピュータ20
に通知し、さらに、非圧縮映像データVINのピクチャ
ーごとに圧縮符号化のための前処理を行う。つまり、エ
ンコーダ制御部12は、入力された非圧縮映像データを
符号化順に並べ替え、ピクチャー・フィールド変換を行
い、非圧縮映像データVINが映画の映像データである
場合に3:2プルダウン処理(映画の24フレーム/秒
の映像データを、30フレーム/秒の映像データに変換
し、冗長性を圧縮符号化前に取り除く処理)等を行い、
映像データS12として簡易2パス処理部16のFIF
Oメモリ160およびエンコーダ162に対して出力す
る。動き検出器14は、非圧縮映像データの動きベクト
ルの検出を行し、エンコーダ制御部12およびエンコー
ダ162,18に対して出力する。
【0022】簡易2パス処理部16において、FIFO
メモリ160は、エンコーダ制御部12から入力された
映像データS12を、例えば、非圧縮映像データVIN
が、L(Lは整数)ピクチャー入力される時間だけ遅延
し、遅延映像データS16としてエンコーダ18に対し
て出力する。
【0023】図2は、図1に示した簡易2パス処理部1
6のエンコーダ162の構成を示す図である。エンコー
ダ162は、例えば、図2に示すように、加算回路16
4、DCT回路166、量子化回路(Q)168、可変
長符号化回路(VLC)170、逆量子化回路(IQ)
172、逆DCT(IDCT)回路174、加算回路1
76および動き補償回路178から構成される一般的な
映像データ用圧縮符号化器であって、入力される映像デ
ータS12をMPEG方式等により圧縮符号化し、圧縮
映像データのピクチャーごとのデータ量等をホストコン
ピュータ20に対して出力する。
【0024】加算回路164は、加算回路176の出力
データを映像データS12から減算し、DCT回路16
6に対して出力する。DCT回路166は、加算回路1
64から入力される映像データを、例えば、16画素×
16画素のマクロブロック単位に離散コサイン変換(D
CT)処理し、時間領域のデータから周波数領域のデー
タに変換して量子化回路168に対して出力する。ま
た、DCT回路166は、DCT後の映像データのDC
成分の値およびAC成分の電力値をホストコンピュータ
20に対して出力する。
【0025】量子化回路168は、DCT回路166か
ら入力された周波数領域のデータを、固定の量子化値Q
で量子化し、量子化データとして可変長符号化回路17
0および逆量子化回路172に対して出力する。可変長
符号化回路170は、量子化回路168から入力された
量子化データを可変長符号化し、可変長符号化の結果と
して得られた圧縮映像データのデータ量を、制御信号C
16を介してホストコンピュータ20に対して出力す
る。逆量子化回路172は、可変長符号化回路168か
ら入力された量子化データを逆量子化し、逆量子化デー
タとして逆DCT回路174に対して出力する。
【0026】逆DCT回路174は、逆量子化回路17
2から入力される逆量子化データに対して逆DCT処理
を行い、加算回路176に対して出力する。加算回路1
76は、動き補償回路178の出力データおよび逆DC
T回路174の出力データを加算し、加算回路164お
よび動き補償回路178に対して出力する。動き補償回
路178は、加算回路176の出力データに対して、動
き検出器14から入力される動きベクトルに基づいて動
き補償処理を行い、加算回路176に対して出力する。
【0027】図3は、図1に示したエンコーダ18の構
成を示す図である。図3に示すように、エンコーダ18
は、図2に示したエンコーダ162に、量子化制御回路
180を加えた構成になっている。エンコーダ18は、
これらの構成部分により、ホストコンピュータ20から
設定される目標データ量Tj に基づいて、FIFOメモ
リ160によりLピクチャー分遅延された遅延映像デー
タS16に対して動き補償処理、DCT処理、量子化処
理および可変長符号化処理を施して、MPEG方式等の
圧縮映像データVOUTを生成し、外部機器(図示せ
ず)に出力する。
【0028】エンコーダ18において、量子化制御回路
180は、可変長量子化回路170が出力する圧縮映像
データVOUTのデータ量を順次、監視し、遅延映像デ
ータS16の第j番目のピクチャーから最終的に生成さ
れる圧縮映像データのデータ量が、ホストコンピュータ
20から設定された目標データ量Tj に近づくように、
順次、量子化回路168に設定する量子化値Qj を調節
する。また、可変長量子化回路170は、圧縮映像デー
タVOUTを外部に出力する他に、遅延映像データS1
6を圧縮符号化して得られた圧縮映像データVOUTの
実際のデータ量Sj を制御信号C18を介してホストコ
ンピュータ20に対して出力する。
【0029】以下、第1の実施形態における映像データ
圧縮装置1の簡易2パスエンコード動作を説明する。図
4(A)〜(C)は、第1の実施形態における映像デー
タ圧縮装置1の簡易2パスエンコードの動作を示す図で
ある。エンコーダ制御部12は、映像データ圧縮装置1
に入力された非圧縮映像データVINに対して、エンコ
ーダ制御部12により符号化順にピクチャーを並べ替え
る等の前処理を行い、図4(A)に示すように映像デー
タS12としてFIFOメモリ160およびエンコーダ
162に対して出力する。なお、エンコーダ制御部12
によるピクチャーの順番並べ替えにより、図4等に示す
ピクチャーの符号化の順番と伸長復号後の表示の順番と
は異なる。
【0030】FIFOメモリ160は、入力された映像
データS12の各ピクチャーをLピクチャー分だけ遅延
し、エンコーダ18に対して出力する。エンコーダ16
2は、入力された映像データS12のピクチャーを予備
的に順次、圧縮符号化し、第j(jは整数)番目のピク
チャーを圧縮符号化して得られた圧縮符号化データのデ
ータ量、DCT処理後の映像データのDC成分の値、お
よび、AC成分の電力値をホストコンピュータ20に対
して出力する。
【0031】例えば、エンコーダ18に入力される遅延
映像データS16は、FIFOメモリ160によりLピ
クチャーだけ遅延されているので、図4(B)に示すよ
うに、エンコーダ18が、遅延映像データS16の第j
(jは整数)番目のピクチャー(図4(B)のピクチャ
ーa)を圧縮符号化している際には、エンコーダ162
は、映像データS12の第j番目のピクチャーからLピ
クチャー分先の第(j+L)番目のピクチャー(図4
(B)のピクチャーb)を圧縮符号化していることにな
る。従って、エンコーダ18が遅延映像データS16の
第j番目のピクチャーの圧縮符号化を開始する際には、
エンコーダ162は映像データS12の第j番目〜第
(j+L−1)番目のピクチャー(図4(B)の範囲
c)の圧縮符号化を完了しており、これらのピクチャー
の圧縮符号化後の実難度データDj ,D j+1 ,Dj+2
…,Dj+L-1 は、ホストコンピュータ20により既に算
出されている。
【0032】ホストコンピュータ20は、下に示す式1
により、エンコーダ18が遅延映像データS16の第j
番目のピクチャーを圧縮符号化して得られる圧縮映像デ
ータに割り当てる目標データ量Tj を算出し、算出した
目標データ量Tj を量子化制御回路180に設定する。
【0033】
【数1】
【0034】但し、式1において、Dj は映像データS
12の第j番目のピクチャーの実難度データであり、
R’j は、映像データS12,S16の第j番目〜第
(j+L−1)番目のピクチャーに割り当てることがで
きる目標データ量の平均であり、R’j の初期値(R’
1 )は、圧縮映像データの各ピクチャーに平均して割り
当て可能な目標データ量であり、下に示す式2で表さ
れ、エンコーダ18が圧縮映像データを1ピクチャー分
生成する度に、式3に示すように更新される。
【0035】
【数2】
【0036】
【数3】
【0037】なお、式3中の数値ビットレート(Bit rat
e)は、通信回線の伝送容量や、記録媒体の記録容量に基
づいて決められる1秒当たりのデータ量(ビット量)を
示し、ピクチャーレート(Picture rate)は、映像データ
に含まれる1秒当たりのピクチャーの数(30枚/秒
(NTSC),25枚/秒(PAL))を示し、数値F
j+L は、ピクチャータイプに応じて定められるピクチャ
ー当たりの平均データ量を示す。エンコーダ18のDC
T回路166は、入力される遅延映像データS16の第
j番目のピクチャーをDCT処理し、量子化回路168
に対して出力する。量子化回路168は、DCT回路1
66から入力された第j番目のピクチャーの周波数領域
のデータを、量子化制御回路180が目標データ量Tj
に基づいて調節する量子化値Qj により量子化し、量子
化データとして可変長符号化回路170に対して出力す
る。可変長符号化回路170は、量子化回路168から
入力された第j番目のピクチャーの量子化データを可変
長符号化して、ほぼ、目標データ量Tj に近いデータ量
の圧縮映像データVOUTを生成して出力する。
【0038】同様に、図4(B)に示すように、エンコ
ーダ18が、遅延映像データS16の第(j+1)番目
のピクチャー(図4(C)のピクチャーa’)を圧縮符
号化している際には、エンコーダ162は、映像データ
S12の第(j+1)番目〜第(j+L)番目のピクチ
ャー(図4(C)の範囲c’)の圧縮符号化を完了し、
これらのピクチャーの実難度データDj+1 ,Dj+2 ,D
j+3 ,・・・,Dj+Lは、ホストコンピュータ20によ
り既に算出されている。
【0039】ホストコンピュータ20は、式1により、
エンコーダ18が遅延映像データS16の第(j+1)
番目のピクチャーを圧縮符号化して得られる圧縮映像デ
ータに割り当てる目標データ量Tj+1 を算出し、エンコ
ーダ18の量子化制御回路180に設定する。
【0040】エンコーダ18は、ホストコンピュータ2
0から量子化制御回路180に設定された目量データ量
j に基づいて第(j+1)番目のピクチャーを圧縮符
号化し、目標データ量Tj+1 に近いデータ量の圧縮映像
データVOUTを生成して出力する。さらに以下、同様
に、映像データ圧縮装置1は、遅延映像データS16の
第k番目のピクチャーを、量子化値Qk (k=j+2,
j+3,…)をピクチャーごとに変更して順次、圧縮符
号化し、圧縮映像データVOUTとして出力する。
【0041】以上説明したように、第1の実施形態に示
した映像データ圧縮装置1によれば、短時間で非圧縮映
像データVINの絵柄の難度を算出し、算出した難度に
応じた圧縮率で適応的に非圧縮映像データVINを圧縮
符号化することができる。つまり、第1の実施形態に示
した映像データ圧縮装置1によれば、2パスエンコード
方式と異なり、ほぼ実時間的に、非圧縮映像データVI
Nの絵柄の難度に基づいて適応的に非圧縮映像データV
INを圧縮符号化をすることができ、実況放送といった
実時間性を要求される用途に応用可能である。なお、第
1の実施形態に示した他、本発明に係るデータ多重化装
置1は、エンコーダ162が圧縮符号化した圧縮映像デ
ータのデータ量を、そのまま難度データとして用い、ホ
ストコンピュータ20の処理の簡略化を図る等、種々の
構成を採ることができる。
【0042】第2実施形態 第1の実施形態に示した簡易2パスエンコード方式によ
れば、実時間かつ、絵柄の難度に応じた適応的な非圧縮
映像データに対する圧縮符号化処理が可能である。しか
しながら、第1の実施形態に示した簡易2パスエンコー
ド方式を用いた場合、実時間性が厳しく要求される場合
には、FIFOメモリ160の遅延時間を大きくするこ
とができず、真に適切な目標データ量Tj の算出が難し
く、圧縮映像データVOUTを伸長復号して得られる映
像の品質が低下してしまう可能性がある。
【0043】第2の実施形態においては、第1の実施形
態に示した映像データ圧縮装置1(図1)を用い、ホス
トコンピュータ20の処理内容を変更して、FIFOメ
モリ160の遅延時間を長くしなくても適切な目標デー
タ量Tj の値を得ることができるように、非圧縮映像デ
ータをLピクチャー分、予備的に圧縮符号化して得られ
た圧縮映像データの第j番目のピクチャー〜第(j+L
−1)番目のピクチャーの実難度データDj 〜Dj+L-1
から、圧縮映像データの第(j+L)番目のピクチャー
〜第(j+L+B)番目のピクチャー(Bは整数)の難
度データ(予測難度データ)Dj+L 〜Dj+L+B を算出
し、実際に得られた難度データDj 〜Dj+ L-1 (実難度
データ)および予測によって得られた難度データD’
j+L 〜D’j+ L+B に基づいて、第1の実施形態に示した
簡易2パスエンコード方式よりも適切な目標データ量T
j の値を得ることができる圧縮符号化方式(予測簡易2
パスエンコード方式)を説明する。
【0044】まず、第2の実施形態で説明する予測簡易
2パスエンコード方式を概念的に説明する。予測簡易2
パスエンコード方式は、徐々に絵柄が難しくなってゆ
く、つまり、徐々に圧縮符号化時のDCT処理後の高い
周波数成分が多くなり、動きが速くなってゆく非圧縮映
像データの絵柄は、さらに難しくなってゆき、逆に、徐
々に絵柄が難しくなくなって(簡単になって)ゆく非圧
縮映像データの絵柄は、さらに簡単になってゆくであろ
うと予測可能であることを前提する。
【0045】つまり、予測簡易2パスエンコード方式
は、ホストコンピュータ20が、この前提に基づいて、
さらに絵柄が難しくなってゆくと予測される場合には、
さらに絵柄が難しいピクチャーに備えて、その時点で圧
縮符号化しているピクチャーに割り当てる目標データ量
を節約し、逆に、さらに絵柄が簡単になってゆくと予測
される場合には、その時点で圧縮符号化しているピクチ
ャーに割り当てる目標データ量を増やすようにエンコー
ダ18に対する圧縮率の制御を行う。
【0046】さらに、予測簡易2パスエンコード方式の
概念的な説明を続ける。映像データは、一般的に、時間
方向および空間方向について相関性が高く、映像データ
の圧縮符号化は、これらの相関性に着目し、冗長性を除
くことにより行われる。時間方向について相関性が高い
ということは、現時点の非圧縮映像データのピクチャー
の難度とそれ以降の非圧縮映像データのピクチャーの難
度とが近いということを意味する。また、難度の増減の
傾向も、現時点までの難度の増減の傾向がそれ以降も続
くことが多い。
【0047】具体例を挙げると、カメラが静止状態から
ゆっくりとカメラを水平方向に回し初め、最後に一定の
回転速度で回転しながら、静止している物体を撮影する
場合の非圧縮映像データの絵柄を考える。最初はカメラ
が停止状態であるため、静止映像が撮影され、絵柄の難
度は低くなる。次に、カメラを回し始めて1〜2秒後に
一定の回転速度になると仮定すると、カメラを回し始め
て1〜2秒間は絵柄の難度は高くなる傾向を示す。この
状態を、映像データ圧縮装置1側から見ると、数GOP
分の圧縮映像データを生成する間、入力される非圧縮映
像データの絵柄の難度が高くなる傾向が続くことにな
る。
【0048】従って、この具体例に示したような場合に
は、非圧縮映像データの絵柄の難度が増大傾向を示した
場合に、それ以降の絵柄の難度が増大傾向を示すと予測
するのは妥当である。以下に説明する予測簡易2パスエ
ンコード方式は、このような難度および難度の増減傾向
の時間的相関性を積極的に利用して、圧縮映像データの
各ピクチャーに対して、第1の実施形態に示した簡易2
パスエンコード方式においてよりも適切な目標データ量
の割り当てを行おうとするものである。
【0049】以下、第2の実施形態における映像データ
圧縮装置1の予測簡易2パスエンコードの動作を説明す
る。図5(A)〜(C)は、第2の実施形態における映
像データ圧縮装置1の予測簡易2パスエンコードの動作
を示す図である。エンコーダ制御部12は、第1の実施
形態においてと同様に、映像データ圧縮装置1に入力さ
れた非圧縮映像データVINに対して、エンコーダ制御
部12により符号化順にピクチャーを並べ替える等の前
処理を行い、図5(A)に示すように映像データS12
としてFIFOメモリ160およびエンコーダ162に
対して出力する。
【0050】FIFOメモリ160は、第1の実施形態
においてと同様に、入力された映像データS12の各ピ
クチャーをLピクチャー分だけ遅延し、エンコーダ18
に対して出力する。エンコーダ162は、第1の実施形
態においてと同様に、入力された映像データS12のピ
クチャーを予備的に順次、圧縮符号化し、第j(jは整
数)番目のピクチャーを圧縮符号化して得られた圧縮符
号化データのデータ量、DCT処理後の映像データのD
C成分の値およびAC成分の電力値をホストコンピュー
タ20に対して出力する。ホストコンピュータ20は、
エンコーダ162から入力されたこれらの値に基づい
て、実難度データDj を順次、算出する。
【0051】例えば、エンコーダ18に入力される遅延
映像データS16は、FIFOメモリ160によりLピ
クチャーだけ遅延されているので、図5(B)に示すよ
うに、エンコーダ18が、遅延映像データS16の第j
番目のピクチャー(図5(B)のピクチャーa)を圧縮
符号化している際には、エンコーダ162は、第1の実
施形態においてと同様に、映像データS12の第j番目
のピクチャーからLピクチャー分先の第(j+L)番目
のピクチャー(図5(B)のピクチャーb)を圧縮符号
化していることになる。
【0052】従って、エンコーダ18が遅延映像データ
S16の第j番目のピクチャーの圧縮符号化を開始する
際には、エンコーダ162は映像データS12の第(j
−A)番目〜第(j+L−1)番目のピクチャー(図5
(B)の範囲c、但し、図5はA=0の場合を示す)の
圧縮符号化を完了し、これらのピクチャーの圧縮符号化
後のデータ量、および、DCT処理後の映像データのD
C成分の値およびAC成分の電力値をホストコンピュー
タ20に対して出力している。ホストコンピュータ20
は、エンコーダ162から入力されたこれらの値に基づ
いて、難度データ(実難度データ、図5(B)の範囲
d)Dj-A ,Dj-A+1 ,…,Dj ,Dj+1,Dj+2
…,Dj+L-1 の算出を既に終了している。なお、Aは整
数であり、正負を問わない。
【0053】ホストコンピュータ20は、実難度データ
j-A ,Dj-a+1 ,…,Dj ,Dj+ 1 ,Dj+2 ,…,D
j+L-1 に基づいて、映像データS12の第(j+L)番
目〜第(j+L+B)番目のピクチャーの圧縮符号化後
の難度データ(予測難度データ、図5(B)の範囲e)
D’j+L ,D’j+L+1 ,D’j+L+2 ,…,D’j+L+B
予測し、下に示す式4により、遅延映像データS16の
第j番目のピクチャーの圧縮符号化後の目標データ量T
j を算出する。従って、遅延映像データS16の第j番
目のピクチャーの圧縮符号化後の目標データ量Tj を算
出するために、実難度データと予測難度データとを含め
て、図5(B)の範囲cの(A+L+B+1)ピクチャ
ー分の難度データを用いることになる。なお、予測難度
データD j ’は、例えば、実難度データDj を直線近似
し、近似により得られた直線を外挿する等の方法により
算出されうる。
【0054】
【数4】
【0055】なお、式4の各記号は、式1の各記号に同
じである。エンコーダ18は、第1の実施形態と同様
に、ホストコンピュータ20により量子化制御回路18
0に設定された目標データ量Tj に基づいて、目標デー
タ量Tj に近いデータ量の圧縮映像データVOUTを生
成して出力する。さらに、ホストコンピュータ20は、
図5(B)に示した動作と同様に、遅延映像データS1
6の第(j+1)番目のピクチャー(図5(C)のピク
チャーa’)に対しても、映像データS12の第(j+
L+1)番目のピクチャー(図5(C)のピクチャー
b’)以前の図5(C)の範囲d’の実難度データD
j-A+1,Dj-A+2 ,…,Dj ,Dj+1 ,Dj+2 ,…,D
j+L 、および、図5(C)の範囲e’に示す予測難度デ
ータ、D’j+L+1 ,D’j+L+2 ,D’j+L+3 ,…,D’
j+L+B+1 、つまり、図5(C)の範囲c’に示す実難度
データと予測難度データとに基づいて、遅延映像データ
S16の第(j+1)番目のピクチャーの圧縮符号化後
の目標データ量Tj+1 を算出する。エンコーダ18は、
ホストコンピュータ20が算出した目量データ量Tj+1
に基づいて、遅延映像データS16の第(j+1)番目
のピクチャーを圧縮符号化し、目標データ量Tj+1 に近
いデータ量の圧縮符号化データVOUTを生成する。な
お、以上の映像データ圧縮装置1の予測簡易2パスエン
コード動作は、遅延映像データS16の第(j+1)番
目のピクチャーに対しても同様である。
【0056】以下、図6を参照して、第2の実施形態に
おける映像データ圧縮装置1の動作を整理して説明す
る。図6は、第2の実施形態における映像データ圧縮装
置1(図1)の動作を示すフローチャートである。図6
に示すように、ステップ102(S102)において、
ホストコンピュータ20は、式1等に用いられる数値
j,R’1 を、j=−(L−1),R’1 =(Bit rate
×(L+B))/Picture rate として初期化する。
【0057】ステップ104(S104)において、ホ
ストコンピュータ20は、数値jが0より大きいか否か
を判断する。数値jが0より大きい場合にはS106の
処理に進み、小さい場合にはS110の処理に進む。ス
テップ106(S106)において、エンコーダ162
は、映像データS12の第(j+L)番目のピクチャー
を圧縮符号化し、実難度データDj+L を生成する。
【0058】ステップ108(S108)において、ホ
ストコンピュータ20は数値jをインクリメントする
(j=j+1)。ステップ110(S110)におい
て、ホストコンピュータ20は、遅延映像データS16
に第j番目のピクチャーが存在するか否かを判断する。
第j番目のピクチャーが存在する場合にはS112の処
理に進み、存在しない場合には圧縮符号化処理を終了す
る。
【0059】ステップ112(S112)において、ホ
ストコンピュータ20は、数値jが数値Aよりも大きい
か否かを判断する。数値jが数値Aよりも大きい場合に
はS114の処理に進み、小さい場合にはS116の処
理に進む。ステップ114(S114)において、ホス
トコンピュータ20は、実難度データDj-A 〜Dj+L-1
に基づいて、予測難度データD’j+L 〜D’j+L+B を算
出する。ステップ116(S116)において、ホスト
コンピュータ20は実難度データD1 〜Dj+L-1 から、
予測難度データD’j+L 〜D’j+L+B を算出する。
【0060】ステップ118(S118)において、ホ
ストコンピュータ20は、式4を用いて目標データ量T
j を算出し、エンコーダ18の量子化制御回路180に
設定する。さらに、エンコーダ18は、量子化制御回路
180に設定された目標データ量Tj に基づいて遅延映
像データS16の第j番目のピクチャーを圧縮符号化
し、第j番目のピクチャーから実際に得られた圧縮映像
データのデータ量Sj をホストコンピュータ20に対し
て出力する。ステップ120(S120)において、ホ
ストコンピュータ20は、エンコーダ18からのデータ
量Sj を記憶し、さらに、映像データS12の第(j+
L)番目のピクチャーの実難度データDj+L を出力す
る。
【0061】ステップ122(S122)において、エ
ンコーダ18は、遅延映像データS16の第j番目を圧
縮符号化して得られた圧縮映像データVOUTを外部に
出力する。ステップ124(S124)において、ホス
トコンピュータ20は、ピクチャータイプに応じて、式
3中に用いられる数値Fj+L を算出する。ステップ12
6(S126)において、ホストコンピュータ20は、
式3に示した演算(R’j+1 =R’j −Sj +Fj+L
を行う。
【0062】以上説明したように、第2の実施形態に示
した映像データ圧縮装置1による予測簡易2パスエンコ
ードによれば、短時間で非圧縮映像データVINの絵柄
の難度を算出し、算出した難度に基づいて予測した難度
をさらに用いて適応的に非圧縮映像データVINを圧縮
符号化することができ、簡易2パスエンコード方式に比
べて、より適切な目標データ量を圧縮映像データの各ピ
クチャーに割り当てることが可能である。従って、予測
簡易2パスエンコード方式による圧縮映像データを伸長
復号した場合、簡易2パスエンコード方式による圧縮映
像データを伸長復号した場合に比べて、より高品質な映
像を得ることができる。
【0063】第3実施形態 以下、本発明の第3の実施形態として、編集処理によ
り、複数の非圧縮映像データ(以下、非圧縮映像データ
をシーンとも記す)を連続的に接続して1つの非圧縮映
像データ(編集映像データ)とし、この複数のシーンか
らなる編集映像データを、第1の実施形態に示した映像
データ圧縮装置1(図1)を用いた簡易2パスエンコー
ド方式により圧縮符号化する方法を説明する。
【0064】図7(A)〜(C)は、第2の実施形態に
おける予測簡易2パスエンコード方式、および、第3の
実施形態における改良予測簡易2パスエンコード方式に
よる、シーンチェンジの前後のピクチャーに対する圧縮
符号化を示す図である。第2の実施形態に示した予測簡
易2パスエンコード方式は、図7(A)に示すように入
力される映像データに含まれるピクチャー間の時間的な
相関性を利用し、圧縮映像データのピクチャーそれぞれ
のデータ量を予測する。しかしながら、図7(B)に示
すタイミングでシーンチェンジ(scene change)が生じた
場合、シーンチェンジの前後では、ピクチャー間に相関
性がないので、図7(C)に示すように、シーンチェン
ジの前の難度データに基づいてシーンチェンジの後のピ
クチャーに対する目標データ量Tj を算出することとな
り、第2の実施形態に示した予測簡易2パスエンコード
方式の効果を得ることができないばかりか、却って、伸
長復号後の映像の品質が悪化してしまう可能性がある。
【0065】つまり、具体例を挙げると、予測簡易2パ
スエンコード方式において、絵柄が簡単なシーンが入力
されている間にシーンチェンジが生じ、絵柄が難しいシ
ーンに代わった場合、ホストコンピュータ20は、シー
ンチェンジ後も、入力される編集映像データの難度デー
タの値を小さく予測するにも関わらず、実際には、絵柄
が難しいピクチャーが入力され、後のシーンの各ピクチ
ャーに割り当てるデータ量が不足してしまう。このよう
に、割り当てるデータ量が不足した場合、シーンチェン
ジ部分の圧縮映像データに著しい符号化歪みが生じ、伸
長復号して得られる映像の品質が著しく低下してしま
う。
【0066】第3の実施形態に示す予測簡易2パスエン
コード方式(改良予測簡易2パスエンコード方式)は、
かかる観点からなされたものであって、シーンチェンジ
の前後等において編集映像データの時間的な相関性が失
われた場合に、編集映像データの時間的な相関性が失わ
れた部分に生じる難度データの予測に基づくデータ量の
割り当てに起因する悪影響を除去し、さらに、シーンチ
ェンジ直後のピクチャーに割り当てる符号量を精度よく
予測し、効率的な圧縮符号化を行うことを目的とする。
【0067】この目的を達成するために、改良予測簡易
2パスエンコード方式は、第2の実施形態に示した映像
データ圧縮装置1(図1)を用いた予測簡易2パスエン
コード方式を改良し、シーンチェンジを検出し、圧縮映
像データのピクチャーに割り当てるデータ量の算出に用
いることができなくなったシーンチェンジ前の実難度デ
ータではなく、シーンチェンジ後に求めた実難度データ
を用いて、可能な限り正確に、その後の所定数のピクチ
ャーの難度を予測する。
【0068】まず、図8および図9を参照して、改良予
測簡易2パスエンコード方式を概念的に説明する。図8
(A)〜(C)は、エンコーダ制御部12(図1)によ
る編集映像データのピクチャーの順序の入れ替え処理、
および、ホストコンピュータ20によるピクチャーの種
類(ピクチャータイプ)の変更処理を示す図である。図
9は、編集映像データのシーンチェンジ部分付近の実難
度データの値の経時的な変化を例示する図である。な
お、図9において、Iピクチャー、Pピクチャーおよび
Bピクチャーは、編集映像データを圧縮符号化した後の
ピクチャータイプを示す。
【0069】編集映像データのシーンチェンジが圧縮符
号化後にPピクチャーとなるピクチャー(以下、「圧縮
符号化後にPピクチャーとなるピクチャー」等を、単に
「Pピクチャー」等とも記す)で生じると、エンコーダ
制御部12(図1)が、図8(A),(B)に示すよう
に編集映像データのピクチャーの順序を並び替えた映像
データS12からエンコーダ162およびホストコンピ
ュータ20が生成する実難度データDj の値は、例え
ば、図9に示すように変化する。つまり、シーンチェン
ジの直後、編集映像データの先頭のPピクチャーの実難
度データDj は、このピクチャーから生成される圧縮映
像データのPピクチャーが、前方のピクチャーを参照す
ることができないため増加し、Iピクチャーとほぼ、同
様の処理によって生成されることになる。従って、シー
ンの先頭のPピクチャーの実難度データDj の値は、例
えば、Iピクチャーの難度データDj と同程度の値にな
る。
【0070】従って、ホストコンピュータ20は、エン
コーダ162が生成する圧縮映像データのピクチャータ
イプシーケンスに基づいて、実難度データDj の値の経
時的な変化を監視し、例えば、Pピクチャーの実難度デ
ータDj の値が、直前のPピクチャーの実難度データD
j の1.5倍以上になった場合、直前のIピクチャーの
実難度データDj の0.7倍以上になった場合、あるい
は、第2の実施形態に示した予測簡易2パスエンコード
方式においてと同じ方法でホストコンピュータ20が予
測した値に比べ、実際の実難度データの値が1.5倍以
上になった場合に、そのPピクチャーに対応する編集映
像データのピクチャーでシーンチェンジが生じたと判断
することができる。
【0071】しかしながら、編集映像データのシーンチ
ェンジが圧縮符号化後にIピクチャーとなるピクチャー
で生じると、ホストコンピュータ20が生成する実難度
データDj の値はほとんど変化しないことがあり、逆
に、シーンチェンジ後の編集映像データの絵柄が単純な
場合等には、かえって、実難度データDj の値が減少す
る可能性がある。また、シーンチェンジ前の編集映像デ
ータの絵柄が複雑で、シーンチェンジ後の編集映像デー
タの絵柄が平坦である場合、あるいは、シーンチェンジ
前後の編集映像データに非常に動きが大きい場合等に
は、Pピクチャーの実難度データDj の値が顕著に増加
しない場合がある。しかしながら、事実上、シーンチェ
ンジの直後は後方のピクチャーのみしか参照できないの
で、シーンチェンジ直後のBピクチャーの実難度データ
j の値は、Pピクチャーの実難度データDj の値と同
程度にまで増大する。
【0072】従って、ホストコンピュータ20は、実難
度データDj の値の経時的な変化を監視し、例えば、B
ピクチャーの実難度データDj の値が、直前のBピクチ
ャーの実難度データDj の1.5倍以上になった場合、
あるいは、予測した値と比べ実際の実難度データDj
値が1.5倍以上になった場合に、そのBピクチャーの
直前のIピクチャーおよびPピクチャーに対応する編集
映像データのピクチャーでシーンチェンジが生じたと判
断することができる。なお、Pピクチャーの実難度デー
タDj の変化に基づいてシーンチェンジを検出する方
法、および、Bピクチャーの実難度データDj の変化に
基づいてシーンチェンジを検出する方法を併用すること
により、ホストコンピュータ20は、シーンチェンジの
検出を確実に行うことができる。
【0073】一方、シーンチェンジの発生により、編集
映像データのシーンチェンジ以前のピクチャーとシーン
チェンジ以降のピクチャーの相関性はなくなるので、第
2の実施形態に示した予測簡易2パスエンコード方式に
おけるシーンチェンジ以前の実難度データDj を用い
た、シーンチェンジ以降のピクチャーに対する予測難度
データD’j は意味を有さなくなる。しかしながら、編
集映像データのシーンチェンジ直後の数枚のピクチャー
は、それ以降のピクチャーと充分な相関性を有し、従っ
て、シーンチェンジ直後の数枚のピクチャーの実難度デ
ータDj に基づいて、それ以降の所定枚数のピクチャー
の難度データDj の値を予測することが可能である。
【0074】さらに、第2の実施形態に示した予測簡易
2パスエンコード方式においては、式4に示したように
目標データ量Tj を算出する。従って、目標データ量T
j を算出するためには、下に示す式5において定義され
る総和値Sumj を用いればよく、必ずしも個々の予測
難度データD’j を求める必要はない。
【0075】
【数5】
【0076】式5において定義した総和値Sumj を用
いると、式4は、下に示す式6に書き換えることができ
る。
【0077】
【数6】
【0078】つまり、ホストコンピュータ20は、個々
の予測難度データD’j ではなく、総和値Sumj を予
測することができさえすれば、目標データ量Tj を算出
することができる。
【0079】第3の実施形態における改良予測簡易2パ
スエンコード方式において、ホストコンピュータ20
は、シーンチェンジ直後に生成した実難度データDj
基づいて総和値Sumj を予測し、予測した総和値Su
j に基づいて、目標データ量Tj を精度よく算出す
る。続いて所定数の編集映像データのピクチャーが入力
される間、ホストコンピュータ20は、その後に生成し
た実難度データDj に基づいて、総和値Sumj の値を
順次、補正する。さらに、ホストコンピュータ20は、
シーンチェンジ以降、さらに所定数のピクチャーが入力
され、充分な数の実難度データDj を生成した後には、
第2の実施形態に示した予測簡易2パスエンコード方式
においてと同じ方法により、目標データ量Tj を生成す
る。
【0080】次に、第3の実施形態における映像データ
圧縮装置1(図1)の動作を説明する。なお、説明の簡
略化のために、第3の実施形態においても、図7に示し
たように、映像データ圧縮装置1は、第2の実施形態に
おいてと同じピクチャータイプシーケンス(N=15,
M=3;Nは1GOPに含まれるピクチャー数、MはP
ピクチャーの間のBピクチャー数)に編集映像データを
圧縮符号化し、第2の実施形態においてと同様に、15
個のピクチャーの実難度データDj から、次の15個の
ピクチャーの予測難度データD’j を生成する場合を例
に説明する。
【0081】エンコーダ制御部12は、第1の実施形態
および第2の実施形態においてと同様の処理を行い、例
えば、図8(A)に示したピクチャータイプシーケンス
で入力される非圧縮映像データのピクチャーの順番を、
図8(B)に示すように、エンコーダ162およびエン
コーダ18における圧縮符号化に適した順番、つまり、
Bピクチャーが直後のIピクチャーまたはPピクチャー
の後ろになる順番に入れ替えて、映像データS12とし
てエンコーダ162およびFIFOメモリ160に対し
て出力する。従って、例えば、図8(A)に示したよう
に、第1のシーンのデータと第2のシーンのデータとの
間のシーンチェンジがBピクチャーに圧縮符号化される
べきピクチャーであっても、エンコーダ162およびエ
ンコーダ18に入力される後ろのシーンの最初のピクチ
ャータイプは必ずPピクチャーまたはIピクチャーにな
る。FIFOメモリ160は、第1の実施形態および第
2の実施形態においてと同様に、例えば、入力される編
集映像データを15ピクチャー分、遅延してエンコーダ
18に対して出力する。
【0082】エンコーダ162は、第1の実施形態およ
び第2の実施形態においてと同様に、シーンチェンジの
有無にかかわらず、映像データS12をピクチャータイ
プシーケンスI,B,B,P,B,B,P,B,B,
P,B,B,P,B,B,P,B,Bで圧縮符号化し、
実難度データDj を生成してホストコンピュータ20に
対して出力する。エンコーダ162が生成する実難度デ
ータDj の値の経時的な変化は、例えば、図9に示した
ようになり、一般的に、シーンチェンジが発生した直後
の後ろのシーンの最初のPピクチャーの実難度データの
値は、他のPピクチャーの実難度データの値と比べて大
きくなる。
【0083】ホストコンピュータ20は、エンコーダ1
62から入力される実難度データの値の経時的な変化を
監視し、第3の実施形態において上述したように、実難
度データDj の値が、直前のPピクチャーの実難度デー
タDj-1 の、例えば1.5倍(実用的には1.4倍〜
1.8倍の間の値とすると好適)以上の値を示すPピク
チャーを検出する等の方法によりPピクチャーでシーン
チェンジが発生したことを判断する。シーンチェンジを
検出した場合、ホストコンピュータ20はさらに、図8
(C)に示したように、後ろのシーンの最初のPピクチ
ャーを前のシーンの最後のピクチャーを参照しないIピ
クチャーに変更し、前のシーンの最後のIピクチャーを
Pピクチャーに変更するように、エンコーダ18を制御
して編集映像データのシーンチェンジの前後の部分を圧
縮符号化する際のピクチャータイプシーケンスを変更さ
せる。
【0084】なお、シーンチェンジが生じてもIピクチ
ャー自体のデータ量には大きな変化は生じるとは限らな
い。しかし、ホストコンピュータ20は、第3の実施形
態において上述したように、Bピクチャーの実難度デー
タの値の経時的な変化を監視し、例えば、直前のBピク
チャーの実難度データの1.5倍の値の実難度データを
有するBピクチャーを検出する等の方法により、Iピク
チャーでシーンチェンジが生じたことを判断することが
できる。
【0085】図10は、ホストコンピュータ20が、編
集映像データにシーンチェンジが発生する場合に、実難
度データD1 〜D15に基づいて予測難度データD’16
D’ 30を算出する方法、および、編集映像データにシー
ンチェンジが発生しない場合の予測難度データD’16
D’30を算出する方法を示す図である。ホストコンピュ
ータ20は、編集映像データにシーンチェンジが発生し
ない場合には、エンコーダ162から得られたデータか
ら、図10中に○印で示す実難度データD1 〜D15を生
成し、生成した実難度データD1 〜D15に基づいて、図
10中に×印で示す予測難度データD’16〜D’30をピ
クチャーの種類(ピクチャータイプ)ごとに算出する。
【0086】つまり、編集映像データにシーンチェンジ
が発生しない場合には、ホストコンピュータ20は、B
ピクチャーの実難度データD2 ,D3 ,…,D13,D14
の値を、図10中の点線Aで直線近似して外挿し、Bピ
クチャーの予測難度データD’16,D’17,…,
D’29,D’30を生成し、Iピクチャーの実難度データ
4、および、必要に応じてこれ以前のIピクチャーの
実難度データDj の値を直線近似して外挿し、Iピクチ
ャーの予測難度データD’18を生成し、Pピクチャーの
実難度データD1 ,D7 ,…,D12、および、必要に応
じてこれ以前のPピクチャーの実難度データDj の値を
直線近似して外挿し、Pピクチャーの予測難度データ
D’15,D’21,…,D’27を生成する。さらに、ホス
トコンピュータ20は、これらの実難度データDj およ
び予測難度データD’j を用いて、第2の実施形態に示
した予測簡易2パス方式により目標データ量Tj を算出
する。
【0087】以下、ホストコンピュータ20が、Pピク
チャーで編集映像データのシーンチェンジを検出した場
合の処理内容を、段階に分けて説明する。第1段階 ホストコンピュータ20が、Pピクチャーでシーンチェ
ンジが発生したことを検出した場合、図10中に●で示
すPピクチャーの実難度データD15のみからでは、ピク
チャー間の動きの量等によって左右されるBピクチャー
およびPピクチャーの難度を予測することができない。
そこで、ホストコンピュータ20は、予め実験等により
求められたIピクチャー、PピクチャーおよびBピクチ
ャーの実難度データの値の比率(i:p:b)を用い
て、式5に定義した総和値Sumjを求める。
【0088】つまり、ホストコンピュータ20は、第
(j+1)番目(図10においてはj=1)のピクチャ
ーに対する目標データ量を算出するために、例えば、下
に示す予め求めたIピクチャー、PピクチャーおよびB
ピクチャーの実難度データの値の比率(i:p:b)を
用いた式7に、シーンチェンジが生じたPピクチャーの
実難度データDj+15を代入して、第(j+1)番目のピ
クチャーに対する目標データ量Tj+1 の算出に用いる総
和値Sumj+1 を予測し、さらに、予測した総和値Su
j+1 を式4に代入して、第(j+1)番目のピクチャ
ーに対する目標データ量Tj+1 を算出する。
【0089】
【数7】
【0090】式7においては、シーンチェンジが発生し
たPピクチャーの実難度データDj+ 15の値が、第3の実
施形態において上述したように、直後のIピクチャーの
実難度データDj+18と等しいことを前提とし、ホストコ
ンピュータ20が、予め求めた比率(i:p:b)、お
よび、1GOPに含まれるIピクチャー、Pピクチャー
およびBピクチャーの枚数を乗じた係数を、シーンチェ
ンジ後に最初に算出したPピクチャーの実難度データD
j+15に乗算し、さらに、所定の定数αを加算して総和値
Sumj+1 を算出することを意味している。
【0091】なお、式7においては、定数αは、実験等
により予め求められる所定の値をとり、図10中の第
(j+15)番目のPピクチャーの直後、つまり、シー
ンチェンジ直後の第(j+16)番目および第(j+1
7)番目のBピクチャーが、前方予測または後方予測の
みにより生成されるために、他のBピクチャーに比べて
データ量が多いことを見越したマージンとしての意味を
有する。
【0092】ホストコンピュータ20が、式7により求
めた総和値Sumj を用いて、第(j+15)番目〜第
(j+30)番目の難度データの直線予測を変更したと
仮定すると、予測難度データD’j+15〜D’j+30の値
は、シーンチェンジにより増加し、図10中に点線Bで
示した値になる。ただし、目標データ量Tj の算出のた
めには総和値Sumj の値のみを予測すればよく、ま
た、後述するように、定数αの値は、第(j+2)番目
のピクチャーに対する総和値Sumj+1 を算出する際に
補正されるので、ホストコンピュータ20は、シーンチ
ェンジが発生しない場合と異なり、シーンチェンジが発
生した場合、難度データの予測をピクチャーの種類(ピ
クチャータイプ)別に敢えて行わない。
【0093】第2段階 ホストコンピュータ20が、第(j+2)番目のピクチ
ャーに対する目標データ量Tj+2 を算出する際には、第
(j+16)番目のBピクチャーの実難度データDj+16
が算出されている。図10に示した例においては、第
(j+16)番目のBピクチャーは、後ろのシーンに属
するが、図8(A),(B)に示したように、エンコー
ダ制御部12がピクチャーの順序を入れ替えているた
め、第(j+16)番目のBピクチャーが、前のシーン
に属している可能性があり、また、前方予測または後方
予測のみにより生成されているため、ホストコンピュー
タ20は、第(j+16)番目のBピクチャーの実難度
データDj+16を、第(j+2)番目のピクチャーに対す
る目標データ量Tj+2 を算出する際の総和値Sumj+2
の予測に用いることはできない。
【0094】しかしながら、式7において、定数αとし
てマージンを考慮した2枚のBピクチャーの内の最初の
1枚のBピクチャーの実難度データDj+16の値を用い
て、式7の定数αを補正することは可能である。そこ
で、ホストコンピュータ20は、下に式8として示すよ
うに、式7の定数αを、実難度データDj+16に基づいて
補正して定数α’を算出し、さらに精度が高い総和値S
umj+2 を予測することができる。ホストコンピュータ
20は、予測した総和値Sumj+2 を式4に代入して、
第(j+2)番目のピクチャーに対する目標データ量T
j+2 を算出する。
【0095】
【数8】
【0096】第3段階 ホストコンピュータ20が、第(j+3)番目のピクチ
ャーに対する目標データ量Tj+3 を算出する際には、第
(j+17)番目のBピクチャーの実難度データDj+17
が算出されている。従って、式7において、定数αとし
てマージンを考慮した2枚のBピクチャーの両方、つま
り、図8(A)〜(C)に示したピクチャータイプシー
ケンスにおいて、IピクチャーおよびPピクチャーに挟
まれる1組のBピクチャー全ての実難度データDj+16
j+16の値が判明したので、下に式9として示すよう
に、式7の定数αあるいは式8の定数α’は不要にな
る。
【0097】
【数9】
【0098】第4段階 ホストコンピュータ20が、第(j+4)番目のピクチ
ャーに対する目標データ量Tj+3 を算出する際には、第
(j+18)番目のIピクチャーの実難度データDj+18
が算出されている。この段階で、図10に示した例にお
いては、シーンチェンジ以降の全ての種類(ピクチャー
タイプ)のピクチャーの実難度データD i の値が判明す
る。そこで、式7〜式9において用いられた予め求めら
れた比率(i:p:b)の値を、ホストコンピュータ2
0が実際に算出したIピクチャーの実難度データ
j+18、Pピクチャーの実難度データDj+15およびPピ
クチャーの実難度データDj+16(Dj+17)に置き換える
ことが可能になる。
【0099】このように、ホストコンピュータ20は、
予め求めた比率(i:p:b)を、実際の比率
〔Dj+18:Dj+15:Dj+16(Dj+17)〕に置換した式9
を用いて、さらに精度よく総和値Sumj+18を予測し、
式4に代入して第(j+4)番目のピクチャーに対する
目標データ量Tj+4 を算出する。
【0100】第5段階 第4段階と同様に、第(j+5)番目以降の数枚(例え
ば6〜9枚)のピクチャーに対する目標データ量Tj+3
を算出し、予測難度データD’i の算出に充分な数量の
実難度データDi が得られた後は、ホストコンピュータ
20は、シーンチェンジが発生しない場合と同様に、直
線近似により予測難度データD’i を算出し、算出した
予測難度データD’i を式4に代入して、目標データ量
i を算出する。
【0101】ホストコンピュータ20が、第3の実施形
態において上述したように、Iピクチャーの実難度デー
タDi の変化に基づいて、Iピクチャーでシーンチェン
ジが発生したと判断した場合、Pピクチャーでシーンチ
ェンジが発生したと判断した場合と同じ処理、つまり、
上述した第1段階〜第5段階の処理を行うことにより、
各ピクチャーに対する目標データ量Ti を算出すること
ができる。
【0102】一方、ホストコンピュータ20が、第3の
実施形態において上述したように、Bチャネルの実難度
データDi の値の変化に基づいて、Iピクチャーでシー
ンチェンジが発生したと判断した場合、ホストコンピュ
ータ20は、Pピクチャーでシーンチェンジが発生した
と判断した場合における第1段階または第2段階の処理
を行うことができない。従って、Bチャネルの実難度デ
ータDi の値の変化に基づいてIピクチャーでシーンチ
ェンジが発生したと判断した場合、ホストコンピュータ
20は、Pピクチャーでシーンチェンジが発生したと判
断した場合における第2段階または第3段階の処理を行
い、各ピクチャーに対する目標データ量Ti を算出す
る。
【0103】以上説明した総和値Sumi の予測および
目標データ量Ti の算出に係る処理の内容を、フローチ
ャートを参照して、さらに説明する。図11および図1
2は、第3の実施形態における改良予測簡易2パスエン
コード方式における総和値Sumi の予測および目標デ
ータ量Ti の算出に係る処理内容を示すフローチャート
図である。
【0104】なお、図11および図12において、デー
タSC_Flagは、過去15ピクチャー以内にシーン
チェンジが生じている場合にはシーンチェンジの位置を
示し、これ以外の場合には0に設定される。また、デー
タI_Flagの値は、図8(A)〜(C)に示したピ
クチャータイプシーケンスにおいて、Iピクチャーの直
後、3ピクチャーに対する処理が終了するまでは1とな
り、それ以外の場合には0になる。また、係数Ith
1,Ith2,Pth,Bthは、シーンチェンジの検
出の際に、それぞれIピクチャー、Pピクチャーおよび
Bピクチャーの値を判断するために用いる係数を示す。
【0105】図11に示すように、ステップ100(S
100)において、ホストコンピュータ20は、エンコ
ーダ162から所定のデータを得て、実難度データDi
を生成する。ステップ102(S102)において、ホ
ストコンピュータ20は、データSC_Flagの値が
0であるか否かを判断する。データSC_Flagの値
が0である場合にはS200(図12)の処理に進み、
0でない場合にはS104の処理に進む。
【0106】ステップ104(S104)において、ホ
ストコンピュータ20は、第i番目のピクチャーの種類
(ピクチャータイプ)を判断し、第i番目のピクチャー
がBピクチャー、Pピクチャー、Iピクチャーである場
合には、それぞれS106,S120,S128の処理
に進む。ステップ106(S106)において、ホスト
コンピュータ20は、データI_Flagの値が0であ
るか否かを判断する。データI_Flagの値が0であ
る場合にはS110の処理に進み、0でない場合にはS
108の処理に進む。ステップ108(S108)にお
いて、ホストコンピュータ20は、Bピクチャーの実難
度データDi が予測難度データD’i ×Bthより大き
いか否かを判断し、大きい場合にはS112の処理に進
み、小さい場合にはS110の処理に進む。
【0107】ステップ110(S110)において、ホ
ストコンピュータ20は、シーンチェンジが発生しない
場合と同じ処理を行って、予測難度データD’i を算出
する。ステップ112(S112)において、ホストコ
ンピュータ20は、データSC_Flagの値を1にす
る。ステップ114(S114)において、ホストコン
ピュータ20は、第i番目のピクチャーが、シーンチェ
ンジ後の1枚目のBピクチャーである場合には、式8に
より総和値Sumi を算出し、シーンチェンジ後の2枚
目のBピクチャーである場合には、式9により総和値S
umi を算出する。
【0108】ステップ116(S116)において、ホ
ストコンピュータ20は、予測した総和値Sumi また
は予測難度データD’i を式4に代入して、第i番目の
ピクチャーに対する目標データ量Ti (target bit) を
算出する。ステップ118(S118)において、ホス
トコンピュータ20は、データiをインクリメントす
る。
【0109】ステップ120(S120)において、ホ
ストコンピュータ20は、Pピクチャーの実難度データ
i が予測難度データD’i ×Pthより大きいか否か
を判断し、大きい場合にはS122の処理に進み、小さ
い場合にはS110の処理に進む。ステップ122(S
122)において、ホストコンピュータ20は、データ
SC_Flagにデータiを代入する。ステップ124
(S124)において、ホストコンピュータ20は、デ
ータI_Flagの値を0にする。ステップ126(S
126)において、ホストコンピュータ20は、式7を
用いて、総和値Sumi を予測する。
【0110】ステップ128(S220)において、ホ
ストコンピュータ20は、Iピクチャーの実難度データ
i が予測難度データD’i ×Ith1〜予測難度デー
タD’i ×Ith2の範囲外か否かを判断し、範囲外の
場合にはS130の処理に進み、範囲内の場合にはS1
10の処理に進む。ステップ130(S130)におい
て、ホストコンピュータ20は、データSC_Flag
にデータiを代入する。ステップ132(S132)に
おいて、ホストコンピュータ20は、データI_Fla
gの値を1にして、S126の処理に進む。
【0111】図12に示すように、ステップ200(S
200)において、ホストコンピュータ20は、データ
iからデータSC_Flagを減算した値が1,2,3
〜9,9以上である場合にそれぞれ、S202,S20
4,S206,S210の処理に進む。ステップ202
(S202)において、ホストコンピュータ20は、式
8により総和値Sumi を予測し、S116(図11)
の処理に進む。ステップ204(S204)において、
ホストコンピュータ20は、式9により総和値Sumi
を予測し、S116(図11)の処理に進む。
【0112】ステップ206(S206)において、ホ
ストコンピュータ20は、式9の於ける予め求めた比率
(i:p:b)を、算出した実難度データに置換する。
ステップ208(S208)において、ホストコンピュ
ータ20は、比率(i:p:b)を、算出した実難度デ
ータに置換した式9を用いて、総和値Sumiを予測す
る。
【0113】ステップ210(S210)において、ホ
ストコンピュータ20は、ピクチャー(i−SC_Fl
ag)枚分の実難度データを用いて、直線近似を行い、
総和値Sumi (予測難度データD’i )を算出する。
ステップ212(S212)において、ホストコンピュ
ータ20は、(i−SC_Flag)=15であるか否
かを判断する。(i−SC_Flag)=15である場
合にはS214の処理に進み、(i−SC_Flag)
=15でない場合にはS110(図11)の処理に進
む。
【0114】ホストコンピュータ20は、以上説明した
処理により生成した目標データ量T j を、エンコーダ1
8の量子化制御回路180に設定する。エンコーダ18
は、第1の実施形態および第2の実施形態においてと同
様に、ホストコンピュータ20から設定された目標デー
タ量Tj に基づいて、図8(C)に示すように、後ろの
シーンの最初のPピクチャーが、前のシーンの最後のピ
クチャーを参照しないように、Iピクチャーに変更し、
前のシーンの最後のIピクチャーをPピクチャーに変更
して圧縮符号化し、圧縮映像データVOUTとして出力
する。
【0115】以上、第3の実施形態に示した改良予測簡
易2パスエンコード方式によれば、シーンチェンジやカ
メラフラッシュ等を含む映像データにより多くのデータ
量を割り当てて圧縮符号化可能である上に、シーンチェ
ンジやカメラフラッシュの前後に発生する符号化歪みを
顕著に低減することができる。従って、第3の実施形態
に示した改良予測簡易2パスエンコード方式によって生
成した圧縮映像データを伸長復号して得られる映像の品
質を向上させることができる。
【0116】なお、第3の実施形態においては、N=1
5,M=3のピクチャーシーケンスに対する処理に適合
する式7〜式9を例示したが、式7〜式9を適切に変更
する(式7〜式9中の係数4,10をピクチャーシーケ
ンスに合わせて変更する)ことにより、他のピクチャー
シーケンスに対しても、改良予測簡易2パスエンコード
を適用することができる。
【0117】第4実施形態 以下、本発明の第4の実施形態として、第3の実施形態
に示した改良予測簡易2パスエンコード方式のシーンチ
ェンジ検出方法の変形例を説明する。まず、本発明の第
4の実施形態におけるシーンチェンジ検出方法の原理を
説明する。
【0118】映像データ圧縮装置1(図1)が、シーン
チェンジ付近の編集映像データから、第2の実施形態お
よび第3の実施形態にそれぞれ示した予測簡易2パスエ
ンコード方式および改良予測簡易2パスエンコード方式
において、映像データのピクチャー間の時間的相関性を
用いて生成される予測難度データDj ’は、実難度デー
タDj-1 以前の映像データの難度の変化の傾向をよく反
映しており、その実難度データDj との誤差は、シーン
チェンジがないかぎり非常に少なくなる。例えば、図1
0に示した場合においては、予測難度データD16’は、
15個の実難度データD1 〜D15に基づいて、これらの
1つ先のピクチャーの難度を予測した値であり、シーン
チェンジがない場合には、精度が非常に高いと期待でき
る。
【0119】図13は、シーンチェンジがPピクチャー
で生じた場合に、その前後における実難度データD
j (○印)と予測難度データD’j (×印)との関係
を、圧縮符号化の順に例示する図である。一方、図13
に示すように、シーンチェンジがPピクチャーで生じた
場合、シーンチェンジ直後のPピクチャーの実難度デー
タDj は、多くの場合、前方のピクチャーを参照した圧
縮符号化ができなくなるために、予測難度データDj
よりも大幅に大きな値となる。
【0120】逆に、シーンチェンジ部分のPピクチャー
の実難度データDj は、例えば、シーンチェンジ前の絵
柄に比べて、シーンチェンジ後の絵柄が平坦である場合
等には、予測難度データDj ’よりも大幅に小さな値と
なる場合もある。また、シーンチェンジ直後のBピクチ
ャーの実難度データDj の値は、後方のピクチャーのみ
を参照して圧縮符号化されるために、予測難度データD
j ’に比べて大幅に、例えばPピクチャー並みに大きく
なる。
【0121】図14は、シーンチェンジがIピクチャー
で生じた場合に、その前後における実難度データD
j (○印)と予測難度データD’j (×印)との関係
を、圧縮符号化の順に例示する図である。また、図14
に示すように、シーンチェンジが、第j(16)番目の
Iピクチャーで生じた場合、シーンチェンジ前後のIピ
クチャーには時間的相関関係がないので、シーンチェン
ジ直後のIピクチャーの予測難度データDj ’と実難度
データDj との間に誤差が生じる。
【0122】しかしながら、Iピクチャーは、元々、他
のピクチャーを参照せずに圧縮符号化されるので、Pピ
クチャーでシーンチェンジが生じた場合に比べて、予測
難度データDj ’と実難度データDj との差は少ない。
一方、シーンチェンジ直後のBピクチャーの実難度デー
タDj の値は、Pフレームでシーンチェンジが生じた場
合と同様に、予測難度データDj ’に比べて大幅に大き
くなる。
【0123】このように、PピクチャーおよびIピクチ
ャーの予測難度データDj ’と難度データDj の値に大
きな誤差が生じない場合であっても、Bピクチャー自体
の予測難度データDj ’と難度データDj の値に大きな
誤差が生じた場合には、その直前のIピクチャーまたは
Pピクチャーでシーンチェンジが生じたと判断すること
ができる。
【0124】第4の実施形態に示すシーンチェンジ検出
方法は、以上説明した実難度データDj と予測難度デー
タDj ’との関係を利用しており、第3の実施形態にそ
れぞれ示した改良簡易2パスエンコード方式において、
より正確にシーンチェンジの検出を可能とする。つま
り、第4の実施形態に示すシーンチェンジ検出方法は、
第3の実施形態に示した映像データ圧縮装置1を用いた
改良予測簡易2パスエンコード方式において、予測難度
データDj ’と実難度データDj との値を比較してシー
ンチェンジを正確に検出するようになっている。
【0125】具体的には、第4の実施形態におけるシー
ンチェンジの検出は、Iピクチャーの実難度データDjI
に対する予測難度データDjI’の比の値(DjI
jI’)、および、Pピクチャーの実難度データDjp
対する予測難度データDjp’の比の値(Djp/Djp’)
が、所定の閾値の範囲外にある場合〔ThI1<(Dj
j’)または(DjP/DjP’)<ThI2,Thp1
(DjP/DjP’)または(Dj/Dj ’)<Thp2。た
だし、ThI1>1>ThI2>0,Thp1>1>Thp2
0〕には、シーンチェンジの発生をそのピクチャーで検
出する。但し、通常、PピクチャーのPピクチャーの実
難度データDjpに対する予測難度データDjp’の比の値
(Djp/Djp’)が、加減値ThP2以下になることは殆
どない。
【0126】また、第4の実施形態におけるシーンチェ
ンジ検出方法は、IピクチャーおよびPピクチャーの実
難度データDjI,DjPに対する予測難度データDjI’,
jP’の比の値が、上記所定の閾値の範囲内である場合
であっても、Bピクチャーの実難度データDjBに対する
予測難度データDjB’の比の値(DjB/DjB’)が、所
定の範囲外にある場合に〔ThB <(DjB/DjB’)。
但し、ThB >1〕、シーンチェンジの発生を、そのB
ピクチャーの直前のIピクチャーまたはPピクチャーで
シーンチェンジが生じたと検出する。
【0127】次に、第4の実施形態における映像データ
圧縮装置1(図1)の動作を説明する。エンコーダ制御
部12は、第1の実施形態〜第3の実施形態においてと
同様に、非圧縮映像データのピクチャーを、例えば、図
8(A)に示した順番から図8(B)に示した順番に入
れ替える。FIFOメモリ160は、第1の実施形態〜
第3の実施形態においてと同様に、例えば、入力される
編集映像データを15ピクチャー分、遅延する。エンコ
ーダ162は、第1の実施形態〜第3の実施形態におい
てと同様に、シーンチェンジの有無にかかわらず、映像
データS12を圧縮符号化し、実難度データDj を生成
する。
【0128】ホストコンピュータ20は、エンコーダ1
62から入力される実難度データD j と予測難度データ
j ’とを比較し、第4の実施形態において上述したよ
うに、PピクチャーおよびIピクチャーの予測難度デー
タDj ’の実難度データDjに対する比の値、および、
Bピクチャーの予測難度データDj ’の実難度データD
j に対する比の値が、上記所定の範囲外となる位置でシ
ーンチェンジが発生したことを検出する。
【0129】シーンチェンジを検出した場合、ホストコ
ンピュータ20はさらに、第3の実施形態においてと同
様に、後ろのシーンの最初のPピクチャーを前のシーン
の最後のピクチャーを参照しないIピクチャーに変更し
(図8(C))、前のシーンの最後のIピクチャーをP
ピクチャーに変更するように、ピクチャータイプシーケ
ンスを変更させる。
【0130】ホストコンピュータ20は、第3の実施形
態においてと同様に、編集映像データにシーンチェンジ
が発生しない場合には、エンコーダ162から得られた
データから実難度データDj を生成し、予測難度データ
D’16〜D’30をピクチャータイプごとに算出する。ま
た、ホストコンピュータ20は、シーンチェンジが発生
した場合には、シーンチェンジ前後でピクチャーの相関
性がなくなるので、第3の実施形態においと同様に、シ
ーンチェンジ直後の所定数枚のピクチャーの実難度デー
タDj から、式6により、総和値Sumj (式5)を算
出し、算出した総和値Sumj に基づいて、目標データ
量Tj を算出する。エンコーダ12は、圧縮符号化後の
データ量が、ホストコンピュータ20が生成した目標デ
ータ量Tj が示す値に近くなるように遅延された非圧縮
映像データS16を圧縮符号化し、圧縮映像データVO
UTとして出力する。
【0131】以下、フローチャートを参照して、第4の
実施形態に示した映像データ圧縮装置1のホストコンピ
ュータ20によるシーンチェンジ検出処理の内容をさら
に説明する。図15は、第4の実施形態における映像デ
ータ圧縮装置1(図1)のホストコンピュータ20によ
るシーンチェンジ検出処理の内容を示すフローチャート
図である。
【0132】図15に示すように、ステップ300(S
300)において、ホストコンピュータ20は、第j番
目の実難度データDj を算出する。ステップ302(S
302)において、ホストコンピュータ20は、第j番
目のピクチャーがあるか否かを判断する。第j番目のピ
クチャーがある場合には、S304の処理に進み、ない
場合には処理を終了する。ステップ304(S304)
において、ホストコンピュータ20は、第j番目のピク
チャーのピクチャータイプを判断する。第j番目のピク
チャーのピクチャータイプがBピクチャー、Iピクチャ
ーまたはPピクチャーである場合、それぞれ、S30
6,S316,S320の処理に進む。
【0133】ステップ306(S306)において、ホ
ストコンピュータ20は、数値B_countをインク
リメントする。ステップ308(S308)において、
ホストコンピュータ20は、数値B_countの値が
1であるか否かを判断する。数値B_countの値が
1である場合には、S312の処理に進み、数値B_c
ountの値が1でない場合には、S310の処理に進
む。
【0134】ステップ310(S310)において、ホ
ストコンピュータ20は、シーンチェンジが発生しなか
ったと判断する。ステップ312(S312)におい
て、ホストコンピュータ20は、Bピクチャーから生成
した予測難度データDj ’と実難度データDj との比の
値を算出し、Dj >ThB ×Dj ’(DjB/DjB’>T
B )であるか否かを判断する。D j >ThB ×Dj
である場合、S310の処理に進み、Dj >ThB ×D
j ’でない場合、S314の処理に進む。ステップ31
4(S314)において、ホストコンピュータ20は、
直前のIピクチャーまたはPピクチャー〔第(j−1)
番目のピクチャー〕でシーンチェンジが発生したと判定
する。
【0135】ステップ316(S316)において、ホ
ストコンピュータ20は、数値B_countの値をゼ
ロクリアする。ステップ318(S318)において、
ホストコンピュータ20は、Pピクチャーから生成した
予測難度データDj ’と実難度データDj との比の値を
算出し、Dj >ThP1×Dj ’またはDj <ThP2×D
j ’であるか否かを判断する。Dj >ThP1×Dj ’ま
たはDj <ThP2×Dj ’である場合、S324の処理
に進み、Dj >ThP1×Dj ’またはDj <ThP2×D
j ’でない場合、S310の処理に進む。
【0136】ステップ320(S320)において、ホ
ストコンピュータ20は、ホストコンピュータ20は、
数値B_countの値をゼロクリアする。ステップ3
22(S322)において、ホストコンピュータ20
は、Iピクチャーから生成した予測難度データDj ’と
実難度データDj との比の値を算出し、Dj >ThI1×
j ’またはDj <ThI2×Dj ’であるか否かを判断
する。Dj >ThI1×Dj ’またはDj <ThI2×
j ’である場合、S324の処理に進み、Dj >Th
I1×Dj ’またはDj <ThI2×Dj ’でない場合、S
310の処理に進む。
【0137】ステップ324(S324)において、ホ
ストコンピュータ20は、第j番目のピクチャーでシー
ンチェンジが発生したとを判断する。ステップ326
(S326)において、ホストコンピュータ20は、実
難度データDj までを用いて、次の予測難度データD
j+1 を算出する。ステップ328(S328)におい
て、ホストコンピュータ20は、数値jをインクリメン
トする。
【0138】なお、第4の実施形態においては、予測難
度データDj ’の予測方法として、第3の実施形態に示
した直線近似を用いたが、予測難度データDj ’の予測
方法は、これに限らず、例えば、実難度データDj の差
分値に基づいて、実難度データDj の変化を予測するこ
とにより予測難度データDj ’を算出する方法を採って
もよい。また、第4の実施形態においては、シーンチェ
ンジを検出する際に、Bピクチャーの前のピクチャーが
IピクチャーであろうとPピクチャーであろうと、同じ
Bピクチャーの予測難度データDj ’と実難度データD
j との比較の際に、同じ閾値ThB を用いたが、前のピ
クチャーのピクチャータイプに応じて、閾値を変更して
もよい。
【0139】以上第4の実施形態において説明したシー
ンチェンジの検出方法によれば、第3の実施形態に示し
た実難度データDj の経時的な変化の監視によっては、
検出しにくかったIピクチャーでのシーンチェンジ、あ
るいは、シーンチェンジの前の絵柄が難しく、シーンチ
ェンジ後の絵柄が優しい場合のPピクチャーでのシーン
チェンジを、確実に検出することができる。従って、第
3の実施形態に示したシーンチェンジの検出方法を採用
する場合に比べて、圧縮符号化後の映像データの品質を
向上させることができる。
【0140】第5実施形態 以下、本発明の第5の実施形態を説明する。第1の実施
形態に示した簡易2パスエンコード方式、および、第2
の実施形態に示した予測簡易2パスエンコード方式は、
入力される非圧縮映像データに、ほぼ1GOP分(例え
ば、0.5秒)程度の遅延を与えるだけで圧縮符号化
し、適切なデータ量の圧縮映像データを生成することが
できる優れた方式である。
【0141】しかしながら、これらの方式は、エンコー
ダーを2つ必要とする。一般に、映像データを圧縮符号
化するエンコーダーは大規模のハードウェアを必要と
し、集積回路化しても非常に高価であり、しかも、サイ
ズが大きい。従って、これらの方式がエンコーダーを2
つ必要とすることは、これらの方式を実現する装置の低
コスト化、小型化および省電力化を妨げる。また、圧縮
符号化に要する時間遅延は、短ければ短いほど望ましい
が、実難度データDj および予測難度データDj’の算
出処理および予備的な圧縮符号化処理そのものが数ピク
チャー分の処理時間を要するので、これらの処理自体
が、時間遅延の短縮化を妨げる原因となる。
【0142】第5の実施形態は、かかる問題点を解決す
るためになされたものであって、1つのエンコーダを用
いるのみで、簡易2パスエンコード方式および予測簡易
2パスエンコード方式と同等に適切なデータ量の圧縮映
像データを生成することができ、しかも、処理に要する
時間遅延がより短い映像データ圧縮方式を提供すること
を目的とする。
【0143】図16は、第5の実施形態における本発明
に係る映像データ圧縮装置2の構成の概要を示す図であ
る。図17は、図16に示した映像データ圧縮装置2の
圧縮符号化部24の詳細な構成を示す図である。なお、
図16および図17において、映像データ圧縮装置2の
構成部分のうち、第1の実施形態および第2の実施形態
において説明した映像データ圧縮装置1(図1,図2)
の構成部分と同一のものには同一の符号を付して示して
ある。
【0144】図16に示すように、映像データ圧縮装置
2は、映像データ圧縮装置1(図1,図2)の圧縮符号
化部10を、圧縮符号化部10からエンコーダ162を
除いた圧縮符号化部24で置換し、エンコーダ制御部1
2をエンコーダ制御部22で置換し、バッファメモリ(b
uffer)182を付加した構成を採る。図17に示すよう
に、圧縮符号化部24は、映像並び替え回路220、走
査変換・マクロブロック化回路222および統計量算出
回路224から構成され、圧縮符号化部24の他の構成
部分は、圧縮符号化部10と同一の構成を採る。
【0145】エンコーダ制御部22は、エンコーダ制御
部12と同様に、非圧縮映像データVINのピクチャー
の有無をホストコンピュータ20に通知し、さらに、非
圧縮映像データVINのピクチャーごとに圧縮符号化の
ための前処理を行う。エンコーダ制御部22において、
映像並び替え回路220は、入力された非圧縮映像デー
タを符号化順に並べ替える。
【0146】走査変換・マクロブロック化回路222
は、ピクチャー・フィールド変換を行い、非圧縮映像デ
ータVINが映画の映像データである場合に3:2プル
ダウン処理等を行う。統計量算出回路224は、映像並
び替え回路220および走査変換・マクロブロック化回
路222により処理され、Iピクチャーに圧縮符号化さ
れるピクチャーからフラットネス(flatness)およびイン
トラAC(intra AC)等の統計量を算出する。
【0147】映像データ圧縮装置2は、これらの構成部
分により、非圧縮映像データの統計量(フラットネス,
イントラAC)および動き予測の予測誤差量(ME残
差)を非圧縮映像データVINの絵柄の難度の代わりに
用いて、映像データ圧縮装置1(図1,図2)と同様に
適応的に目標データ量Tj を算出して、高精度なフィー
ドフォワード制御を行うことにより、非圧縮映像データ
VINを適切なデータ量の圧縮映像データに圧縮符号化
する。なお、映像データ圧縮装置2においては、動き検
出器14およびエンコーダ制御部22の統計量算出回路
224により、予め検出された指標データに基づいて目
標データ量Tj が定めるられることから、以下、映像デ
ータ圧縮装置2における圧縮符号化方式を、フィード・
フォワード・レート・コントロール(FFRC; feed f
oward rate control)方式と呼ぶことにする。
【0148】なお、ME残差は、圧縮されるピクチャー
と、参照ピクチャーの映像データとの差分値の絶対値和
あるいは自乗値和として定義され、動き検出器14によ
り、圧縮後にPピクチャーおよびBピクチャーとなるピ
クチャーから算出され、映像の動きの速さおよび絵柄の
複雑さを表し、フラットネスと同様に、難度および圧縮
後のデータ量と相関性を有する。
【0149】Iピクチャーについては、他のピクチャー
の参照なしに圧縮符号化されるため、ME残差を求める
ことができず、ME残差に代わるパラメータとして、フ
ラットネスおよびイントラACを用いる。また、フラッ
トネスは、映像データ圧縮装置2を実現するために、映
像の空間的な平坦さを表す指標として新たに定義された
パラメータであって、映像の複雑さを指標し、映像の絵
柄の難しさ(難度)および圧縮後のデータ量と相関性を
有する。また、イントラACは、映像データ圧縮装置2
を実現するために、MPEG方式におけるDCT処理単
位のDCTブロックごとの映像データとの分散値の総和
として新たに定義したパラメータであって、フラットネ
スと同様に、映像の複雑さを指標し、映像の絵柄の難し
さおよび圧縮後のデータ量と相関性を有する。
【0150】以下、ME残差、フラットネスおよびイン
トラACについて説明する。第1の実施形態および第2
の実施形態において説明した簡易2パスエンコード方式
および予測簡易2パスエンコード方式において、実難度
データDj は映像の絵柄の難しさを示し、目標データ量
j は実難度データDj に基づいて算出される。
【0151】また、エンコーダ18が生成する圧縮映像
データのデータ量を、目標データ量Tj が示す値に近づ
けるために、量子化回路168(図2,図17)におい
て量子化値Qj の制御が行われる。従って、映像データ
を圧縮符号化せずに得られ、実難度データDj と同様に
映像データの絵柄の複雑さ(難しさ)を適切に示すパラ
メータを、エンコーダ18の量子化回路168における
量子化処理以前に得ることができれば、エンコーダ16
2(図1)を省略し、処理遅延時間の短縮するという目
的を達成することができる。ME残差、フラットネスお
よびイントラACは、実難度データDj と強い相関を有
するので、このような目的を達成するために適切であ
る。
【0152】ME残差と実難度データDj との関係 他のピクチャーを参照して圧縮符号化処理し、Pピクチ
ャーおよびBピクチャーを生成する際には、動き検出器
14は、圧縮対象となるピクチャー(入力ピクチャー)
と参照されるピクチャー(参照ピクチャー)との間の差
分値の絶対値和あるいは自乗値和が最小となるように動
きベクトルを求める。ME残差は、動きベクトルを求め
る際の2つのピクチャー間の誤差成分の電力パワーとし
て定義される。
【0153】図18は、映像データ圧縮装置1,2によ
り、Pピクチャーを生成する際のME残差と実難度デー
タDj との相関関係を示す図である。図19は、映像デ
ータ圧縮装置1,2により、Bピクチャーを生成する際
のME残差と実難度データDj との相関関係を示す図で
ある。なお、図18および図19は、CCIRにより規
格化された標準画像[cheer (cheer leaders), mobile
(mobile and calender), tennis (table tennis), diva
(diva with noise)] およびその他の画像(resort)を実
際にMPEG2方式により圧縮符号化した場合に得られ
るME残差と実難度データDj との関係を示すグラフで
あり、図18および図19において、グラフの縦軸(dif
ficulty)が実難度データDj を示し、横軸(me resid)が
ME残差を示す。図18および図19を参照して分かる
ように、ME残差は実難度データDj と非常に強い相関
関係を有する。従って、圧縮後にPピクチャーまたはB
ピクチャーとなるピクチャーの実難度データDj の代わ
りに、ME残差は、目標データ量Tj の生成に用いられ
得る。
【0154】フラットネスと実難度データDj との関係 図20は、フラットネスの計算方法を示す図である。フ
ラットネスは、まず、図20に示すように、MPEG方
式においてDCT処理の単位となるDCTブロックそれ
ぞれを、2画素×2画素の小ブロックに分割し、次に、
これらの小ブロック内の対角の画素のデータ(画素値)
の差分値を算出し、差分値を所定の閾値と比較し、さら
に、差分値が閾値よりも小さくなる小ブロック総数をピ
クチャーごとに求めることにより算出される。なお、フ
ラットネスの値は、映像の絵柄が空間的に複雑であるほ
ど小さくなり、平坦であれば大きくなる。
【0155】図21は、映像データ圧縮装置1,2によ
り、Iピクチャーを生成する際のフラットネスと実難度
データDj との相関関係を示す図である。なお、図21
は、図18および図19と同様に、CCIRにより規格
化された標準画像およびその他の画像を実際にMPEG
2方式により圧縮符号化した場合に得られるフラットネ
スと実難度データDj との関係を示すグラフであり、図
21において、グラフの縦軸(difficulty)が実難度デー
タDj を示し、横軸(flatness)がフラットネスを示す。
図21に示すように、フラットネスと実難度データDj
には、強い負の相関関係があり、実難度データDj は、
フラットネスを一次関数に代入する等の方法により近似
可能であることがわかる。
【0156】イントラACと実難度データDj との関係 イントラACは、DCTブロックごとに、DCTブロッ
ク内の画素それぞれの画素値と、DCTブロック内の画
素値の平均値との差分の絶対値の総和として算出され
る。つまり、イントラACは、下の式10により求める
ことができる。
【0157】
【数10】
【0158】図22は、映像データ圧縮装置1,2によ
り、Iピクチャーを生成する際のイントラACと実難度
データDj との相関関係を示す図である。なお、図22
は、図18および図19と同様に、CCIRにより規格
化された標準画像およびその他の画像を実際にMPEG
2方式により圧縮符号化した場合に得られるイントラA
Cと実難度データDj との関係を示すグラフであり、図
22において、グラフの縦軸(difficulty)が実難度デー
タDj を示し、横軸(intraAC)がイントラACを示す。
図22に示すように、イントラACと実難度データDj
との間には強い正の相関関係があり、実難度データDj
は、イントラACを一次関数に代入する等の方法により
近似可能であることがわかる。
【0159】Pピクチャーについては下に示す式11に
より、Bピクチャーについては下に示す式12により、
実難度データDj はME残差により近似される。また、
Iピクチャーについては、式11および式12と同様の
近似式により実難度データD j は、フラットネスおよび
イントラACまたはこれらのいずかにより近似される。
【0160】
【数11】
【0161】
【数12】
【0162】さらに、第1の実施形態に示した簡易2パ
スエンコード方式においては、これらの近似により得ら
れた実難度データDj を、式1または式4に代入するこ
とにより目標データ量Tj が算出される。あるいは、第
2の実施形態に示した予測簡易2パスエンコード方式に
おいては、これらの近似により得られた実難度データD
j から予測難度データDj ’が算出され、実難度データ
j および予測難度データDj ’を式4に代入すること
により目標データ量Tj が算出される。
【0163】以下、実難度データDj をME残差、フラ
ットネスおよびイントラACで近似し、簡易2パスエン
コード方式により非圧縮映像データを圧縮符号化する場
合を例に、映像データ圧縮装置2の動作を説明する。エ
ンコーダ制御部22において、映像並び替え回路220
は、非圧縮映像データVINを符号化順にピクチャーを
並べ替え、走査変換・マクロブロック化回路222は、
ピクチャー・フィールド変換等を行い、統計量算出回路
224は、Iピクチャーに圧縮符号化されるピクチャー
に対して、図20および式10に示した演算処理を行
い、フラットネスおよびイントラAC等の統計量を算出
する。
【0164】動き検出器14は、PピクチャーおよびB
ピクチャーに圧縮符号化されるピクチャーについて動き
ベクトルを生成し、さらに、ME残差を算出する。FI
FOメモリ160は、入力された映像データをLピクチ
ャー分だけ遅延する。
【0165】ホストコンピュータ20は、動き検出器1
4が生成したME残差に対して式11および式12に示
した演算処理を行って実難度データDj を近似し、式1
1および式12と同様な演算処理を行って、フラットネ
スおよびイントラACにより実難度データDj を近似す
る。さらに、ホストコンピュータ20は、近似した実難
度データDj を式1または式4に代入し、目標データ量
j を算出し、算出した目標データ量Tj をエンコーダ
18の量子化制御回路180に設定する。
【0166】エンコーダ18のDCT回路166は、遅
延した映像データの第j番目のピクチャーをDCT処理
する。量子化回路168は、DCT回路166から入力
された第j番目のピクチャーの周波数領域のデータを、
量子化制御回路180が目標データ量Tj に基づいて調
節する量子化値Qj により量子化する。可変長符号化回
路170は、量子化回路168から入力された第j番目
のピクチャーの量子化データを可変長符号化して、ほ
ぼ、目標データ量Tj に近いデータ量の圧縮映像データ
VOUTを生成して、バッファメモリ182を介して外
部に出力する。
【0167】なお、MPEGのTM5方式等において
は、マクロブロックの量子化値(MQUANT)を算出するため
に、下の式13に示すアクティビティ(activity)という
統計量が用いられる。アクティビティは、フラットネス
およびイントラACと同様に、実難度データDj と強い
相関関係を有するので、これらパラメータの代わりにア
クティビティを用いて、実難度データDj を近似し、圧
縮符号化を行うように映像データ圧縮装置2を構成して
もよい。
【0168】
【数13】
【0169】また、以上、第1の実施形態に示した簡易
2パスエンコードを行う場合を例に、映像データ圧縮装
置2の動作を説明したが、映像データ圧縮装置2は、予
測簡易2パスエンコードを行いうることはいうまでもな
い。また、第5の実施形態に示した映像データ圧縮装置
2に対しても、第1の実施形態および第2の実施形態に
示した映像データ圧縮装置1に対してと同様の変形が可
能である。
【0170】第6実施形態 以下、本発明の第6の実施形態を説明する。第5の実施
形態に示したFFRC方式においては、統計的に求めら
れた指標データ(統計量)、つまり、ME残差、フラッ
トネス、イントラACおよびアクティビティを、式11
および式12等の一次関数に代入して実難度データDj
を近似する。これらの指標データと難度データDj
は、図18、図19、図21および図22に示したよう
に、強い相関関係を有するが、映像データの絵柄によっ
ては、上記一次関数から若干の誤差が生じる。
【0171】第6の実施形態における映像データ圧縮装
置2の処理は、かかる問題点を解決するためになされた
ものであり、映像データの絵柄等に応じて、式11およ
び式12等に示した重み付け係数ap ,aB 等を、適応
的に刻一刻と調節して、第5の実施形態においてより高
い精度で実難度データDj を指標データで近似すること
ができ、より高い品質の圧縮映像データを生成すること
ができるように改良されている。
【0172】以下、第6の実施形態における映像データ
圧縮装置2の処理の概要を説明する。映像データ圧縮装
置2(図16)のエンコーダ18が、1ピクチャー分の
圧縮符号化を終了するたびに、ホストコンピュータ20
には、生成した圧縮映像データの1ピクチャー分のデー
タ量が判明し、さらに、圧縮符号化時の量子化値Qj
平均値、および、以下に説明するグローバルコンプレク
シティ(GC; global complexity) を算出することができ
る。グローバルコンプレクシティは、MPEGのTM5
において、圧縮映像データのデータ量と量子化値Qj
を乗算した値として、下の式14−1〜式14−3に示
すように定義され、映像の絵柄の複雑さを示す。
【0173】
【数14】
【0174】なお、式14−1〜式14−3において、
I ,SB ,Sp は、それぞれIピクチャー、Bピクチ
ャーおよびPピクチャーのデータ量を示し、QI
B ,Q p は、それぞれIピクチャー、Bピクチャーお
よびPピクチャーを生成する際の量子化値Qj の平均値
を示し、XI ,XB ,Xp は、それぞれIピクチャー、
BピクチャーおよびPピクチャーのグローバルコンプレ
クシティを示す。式14−1〜式14−3に示したグロ
ーバルコンプレクシティは、実難度データDj とは必ず
しも一致しないが、量子化値Qj の平均値が極端に大き
かったり小さかったりしない限り、実難度データDj
ほぼ一致する。
【0175】ここで、Iピクチャー、Pピクチャーおよ
びBピクチャーの指標データ、例えばイントラAC(他
のパラメータでも可)およびME残差と、グローバルコ
ンプレクシティとが比例関係にあるとすると、これらの
指標データとグローバルコンプレクシティとの比例係数
εI ,εP ,εB は、下の式15−1〜式15−3によ
り算出できる。
【0176】
【数15】
【0177】各ピクチャータイプの実難度データD
j は、式15−1〜式15−3により算出した比例係数
εI ,εP ,εB を用いて、下の式16−1〜式16−
3に示すように近似され、算出される。
【0178】
【数16】
【0179】ホストコンピュータ20が、式15−1〜
式15−3に示したように、比例係数εI ,εP ,εB
を、エンコーダ18がピクチャーを1枚圧縮符号化する
たびに算出して最適化し、式16−1〜式16−3によ
り各ピクチャータイプの実難度データDj の値を求める
ことにより、映像データの絵柄に関わらず、指標データ
により実難度データDj を、常に最適に近似することが
できる。
【0180】ホストコンピュータ20は、式15−1〜
式15−3および式16−1〜式16−3に示したよう
に近似された実難度データDj に対して、式1または式
4に示した演算処理を行って目標データ量Tj を算出す
る。なお、MPEGのTM5におけるように、実難度デ
ータDj に基づいて定める値に対して、意図的に、実際
に算出する目標データ量Tj の値を一定の比率で変更す
る場合には、下の式17−1〜式17−3により、目標
データ量Tj を算出することができる。
【0181】
【数17】
【0182】なお、式17−1〜式17−3全ての分母
において、DI,P,B は、エンコーダ18に入力される前
のFIFOメモリ160にバッファリングされているL
ピクチャー分の非圧縮映像データから生成された指標デ
ータにより近似された実難度データDj を示し、R
j は、第j番目のピクチャー以降のL枚のピクチャーに
割り当てることができるデータ量の平均値を示す。
【0183】以下、図23を参照して、第6の実施形態
における映像データ圧縮装置2の処理内容を説明する。
図23は、第6の実施形態における映像データ圧縮装置
2(図16,図17)の圧縮符号化処理の内容を、ピク
チャーの符号化順に示す図である。エンコーダ制御部2
2は、第5の実施形態においてと同様に、非圧縮映像デ
ータVINを符号化順にピクチャーを並べ替え、ピクチ
ャー・フィールド変換等を行い、Iピクチャーに圧縮符
号化される第(j+L)番目のピクチャーからフラット
ネスおよびイントラAC等の統計量を算出する(図23
a)。
【0184】動き検出器14は、第1の実施形態〜第5
の実施形態においてと同様に、PピクチャーおよびBピ
クチャーに圧縮符号化される第(j+L)番目のピクチ
ャーについて動きベクトルを生成し、さらに、ME残差
を算出する(図23a)。FIFOメモリ160は、第
1の実施形態〜第5の実施形態においてと同様に、入力
された映像データをLピクチャー分だけ遅延する。ホス
トコンピュータ20は、動き検出器14が生成したME
残差に対して式16−1および式16−2に示した演算
処理を行って実難度データDj を近似し、式16−3に
示した演算処理を行って、イントラAC等により実難度
データDjを近似する(図23b)。さらに、ホストコ
ンピュータ20は、近似した実難度データDj を式1あ
るいは式17−1〜式17−3に代入し、目標データ量
j を算出して、エンコーダ18の量子化制御回路18
0に設定する(図23c)。
【0185】エンコーダ18のDCT回路166は、第
1の実施形態〜第5の実施形態においてと同様に、遅延
した映像データの第j番目のピクチャーをDCT処理す
る。量子化回路168は、DCT回路166から入力さ
れた第j番目のピクチャーの周波数領域のデータを、量
子化制御回路180が目標データ量Tj に基づいて調節
する量子化値Qj により量子化するとともに、第j番目
のピクチャーの圧縮符号化に用いた量子化値Qj の平均
値を算出し、ホストコンピュータ20に対して出力す
る。可変長符号化回路170は、第1の実施形態〜第5
の実施形態においてと同様に、量子化回路168から入
力された第j番目のピクチャーの量子化データを可変長
符号化して、ほぼ、目標データ量Tj に近いデータ量の
圧縮映像データVOUTを生成し、バッファメモリ18
2を介して出力する。
【0186】エンコーダ18が、第j番目のピクチャー
の圧縮符号化を終了すると、ホストコンピュータ20
は、量子化制御回路180から入力される第j番目のピ
クチャーに対する量子化値Qj の平均値と、圧縮符号化
された第j番目のピクチャーのデータ量とに基づいて、
式14−1〜式14−3に示したようにグローバルコン
プレクシティを算出する(図23d)。さらに、ホスト
コンピュータ20は、算出したグローバルコンプレクシ
ティにより、式15−1〜式15−3に示したように比
例係数εI ,εP ,εB を更新する(図23e)。更新
された比例係数εI ,εP ,εB は、次のピクチャーの
圧縮符号化の際の変換式(式16−1〜式16−3)に
反映される。
【0187】図24を参照して、第6の実施形態におけ
るホストコンピュータ20の処理内容をさらに説明す
る。図24は、第6の実施形態における映像データ圧縮
装置2のホストコンピュータ20(図18)の処理内容
を示すフローチャート図である。図24に示すように、
ステップ300(S300)において、ホストコンピュ
ータ20は、第(j+L)番目のピクチャーのME残差
あるいはイントラAC等の指標データ(統計量)をエン
コーダ制御部22または動き検出器14から取り込む。
【0188】ステップ302(S302)において、ホ
ストコンピュータ20は、第(j+L)番目のピクチャ
ーがいずれのピクチャータイプに圧縮符号化されるかを
判断する。第(j+L)番目のピクチャーがIピクチャ
ーに圧縮符号化される場合にはS304の処理に進み、
Pピクチャーに圧縮符号化される場合にはS306の処
理に進み、Bピクチャーに圧縮符号化される場合にはS
308の処理に進む。
【0189】ステップ304(S304)、ステップ3
06(S306)およびステップ308(S308)そ
れぞれにおいて、ホストコンピュータ20は、式16−
1〜式16−3により実難度データDj を近似する。ス
テップ310(S310)において、ホストコンピュー
タ20は、近似した実難度データDj を用いて、式1あ
るいは式17−1〜式17−3により、目標データ量T
j を算出する。ステップ312(S312)において、
エンコーダ18は、第j番目のピクチャーを圧縮符号化
する。
【0190】ステップ314(S314)において、ホ
ストコンピュータ20は、エンコーダ18が圧縮した第
j番目のピクチャーのデータ量、および、量子化制御回
路180が量子化回路168に設定する量子化値Qj
平均値から、グローバルコンプレクシティXI ,XB
p 〔X(I,B,P)〕を算出する。
【0191】ステップ316(S316)において、ホ
ストコンピュータ20は、第j番目のピクチャーがいず
れのピクチャータイプに圧縮符号化されたかを判断す
る。第j番目のピクチャーがIピクチャーに圧縮符号化
された場合にはS318の処理に進み、Pピクチャーに
圧縮符号化された場合にはS320の処理に進み、Bピ
クチャーに圧縮符号化された場合にはS320の処理に
進む。ステップ318(S318)、ステップ320
(S320)およびステップ322(S322)それぞ
れにおいて、ホストコンピュータ20は、式15−1〜
式15−3により比例係数εI ,εP ,εB を更新す
る。ステップ324(S324)において、ホストコン
ピュータ20は、数値jをインクリメントする。
【0192】なお、第5の実施形態においてと同様に、
例えば、下の式18に示すように、実難度データD
j と、比例係数εI ,εP ,εB と指標データとの乗算
値との間にオフセット(δP )が存在する場合がある。
このような場合には、下の式19に示すように、グロー
バルコンプレクシティXI ,XB ,Xp からオフセット
値δI ,δB ,δP を減算した値を指標データで除算す
ることにより、比例係数ε I ,εP ,εB を算出するこ
とができる。
【0193】
【数18】
【0194】
【数19】
【0195】また、第6の実施形態に示した映像データ
圧縮装置2の動作についても、第5の実施形態等に示し
たものと同様な変形が可能である。以上述べたように、
第6の実施形態における映像データ圧縮装置2の動作に
よれば、第5の実施形態に示した映像データ圧縮装置2
の動作と同じ効果を得られる他、第5の実施形態におけ
るよりもさらに正確な目標データ量Tj が算出でき、こ
の結果、圧縮映像データの品質を向上させることができ
る。
【0196】第7実施形態 以下、本発明の第7の実施形態を説明する。MPEG方
式等のTM5(test model 5)の処理の第1段階(ステッ
プ1)においては、式14−1〜式14−3(第6の実
施形態)に示したグローバルコンプレクシティXI ,X
p ,XB 〔X(I,P,B)〕を用いて、圧縮後のピク
チャーそれぞれに割り当てる目標データ量Tj が算出さ
れる。
【0197】グローバルコンプレクシティXI ,Xp
B から目標データ量Tj を求める際には、式17−1
〜式17−3が用いられる。式17−1〜式17−3に
は、ピクチャーの種類(ピクチャータイプ)ごとに目標
データ量Tj に異なった重み付けを行うために、Kp
B という係数が導入されている。式17−1〜式17
−3を参照してわかるように、重み付け係数Kp ,KB
の値をそれぞれ大きくすればするほど、Iピクチャーの
目標データ量Tj と比較して、PピクチャおよびBピク
チャーの目標データ量Tj が少なくなる。
【0198】例えば、MPEG方式のTM5において
は、重み付け係数Kp ,KB は固定値であり、それぞれ
1.0,1.4(Kp =1.0,KB =1.4、デフォ
ルト値)である。つまり、MPEG方式のTM5におい
ては、Pピクチャーには、Iピクチャーのグローバルコ
ンプレクシティXI に対するPピクチャーのグローバル
コンプレクシティXp の比率の通りの目標データ量Tj
が与えられ、Bピクチャーには、Iピクチャーのグロー
バルコンプレクシティXI に対するBピクチャーのグロ
ーバルコンプレクシティXB の比率よりも意図的に小さ
い目標データ量T j が与えられる。
【0199】多くの場合、固定の重み付け係数Kp ,K
B を用いることにより、各ピクチャータイプに対して適
切な値の目標データ量Tj が算出される。しかしなが
ら、固定値の重み付け係数Kp ,KB は、圧縮語のデー
タレートの値、および、非圧縮映像データの絵柄によっ
ては、最適な値でなくなる可能性がある。
【0200】一方、「MPEG圧縮効率の理論解析とそ
の符号量制御への応用」(甲藤,太田、信学技報 IE95-
10, DSP95-10 (1995-04) p71〜p78 ;文献1)におい
て、非圧縮映像データの動きの大きさ、絵柄の複雑さに
応じて、重み付け係数Kp ,K B (式17−1〜式17
−3;第6の実施形態)を最適化することにより、圧縮
映像データの品質を改善することができる旨が報告され
ている。しかしながら、文献1には、圧縮映像データの
データレートおよび非圧縮映像データの動きに応じて重
み付け係数Kp ,KB を変更する方法は開示されいな
い。
【0201】また、実際には、圧縮映像データのデータ
レートを充分高い値にすることができる場合は、重み付
け係数Kp ,KB の値にデフォルト値を用いて目標デー
タ量Tj を求める場合に、圧縮映像データの品質が最良
になる。一方、圧縮映像データのデータレートを充分高
い値にすることができない場合は、重み付け係数Kp
B の値を非圧縮映像データの動きの大きさ、絵柄の複
雑さに応じて、重み付け係数Kp ,KB を最適化して目
標データ量Tj を求める方が、圧縮映像データの品質が
向上する。
【0202】具体的には、例えば、動きが大きくても絵
柄が簡単な映像データを圧縮符号化する際には、重み付
け係数Kp ,KB を変更するよりもデフォルト値とした
方が圧縮映像データの品質が結果として向上する。ま
た、動きが小さい映像データを圧縮符号化する場合は、
Iピクチャーに多くのデータ量を割り当てるような重み
付け係数Kp ,KB 、つまり、値が大きい重み付け係数
p ,KB を用いると圧縮映像データの品質が向上す
る。逆に、動きが大きい映像データを圧縮符号化する場
合は、PピクチャーおよびBピクチャーに多くのデータ
量を割り当てるような重み付け係数Kp ,KB 、つま
り、値が小さい重み付け係数Kp ,KB を用いると圧縮
映像データの品質が向上する。
【0203】第7の実施形態においては、映像データ圧
縮装置1,2(図1〜図3,図16,図17)を改良
し、これらと同様にFFRC方式により映像データを圧
縮する装置であって、ピクチャータイプごとの目標デー
タ量Tj を算出する際に用いられる重み付け係数Kp
B を、非圧縮映像データの動き・絵柄に応じて適応的
に変更・調節し、圧縮映像データの品質を改善した映像
データ圧縮装置3を説明する。
【0204】図25は、第7の実施形態における本発明
に係る映像データ圧縮装置3の構成を示す図である。図
26は、図25に示したエンコーダ26の構成を示す図
である。図25に示すように、映像データ圧縮装置3
は、映像データ圧縮装置2(図16,図17)のエンコ
ーダ18を、エンコーダ26で置換した構成を採る。な
お、図25および図26においては、映像データ圧縮装
置3の構成部分の内、図1〜図3に示した映像データ圧
縮装置1および図16,図17に示した映像データ圧縮
装置2の構成部分と同一のものには同一の符号を付して
ある。
【0205】また、図26に示すように、エンコーダ2
6は、量子化制御回路180の代わりに、グローバルコ
ンプレクシティ算出回路(GC算出回路)262、目標
データ量算出(Tj 算出)回路264および量子化イン
デックス生成回路266を含む量子化制御部260を有
し、ホストコンピュータ20によらずに、実難度データ
j またはグローバルコンプレクシティXI ,Xp ,X
B に基づいて目標データ量Tj を算出可能に構成されて
いる。映像データ圧縮装置3は、これらの構成部分によ
り、第5の実施形態および第6の実施形態において説明
したFFRC方式により非圧縮映像データを圧縮符号化
し、出力する。
【0206】以下、量子化制御部260の各構成部分の
動作を説明する。GC算出回路262は、可変長符号化
回路170から出力される圧縮映像データのデータ量S
I ,Sp ,SB と、量子化回路168が量子化に用いた
量子化値の平均値QI ,Qp ,QB とに基づいて、式1
4−1〜式14−3(第6実施形態)に示したように、
各ピクチャータイプのグローバルコンプレクシティ
I ,Xp ,XB を算出し、目標データ量算出回路26
4、量子化インデックス生成回路266、および、必要
に応じてホストコンピュータ20に対して出力する。
【0207】目標データ量算出回路264は、例えば、
MPEG方式のTM5の第1段階(ステップ1)と同様
に、GC算出回路262から入力されたグローバルコン
プレクシティXI ,Xp ,XB により各ピクチャータイ
プの実難度データDj を近似し、式17−1〜式17−
3(第6実施形態)に示したように、各ピクチャータイ
プのピクチャーそれぞれの目標データ量Tj を算出し、
量子化インデックス生成回路266に対して出力する。
【0208】具体例を挙げて上述したように、例えば、
動きが大きくても絵柄が簡単な映像データを圧縮符号化
する際には、重み付け係数Kp ,KB を変更するよりも
デフォルト値とし、符号化難度が高い(実難度データD
j の値が大きい)絵柄の映像データの内、動きが小さい
部分を圧縮符号化する際には重み付け係数Kp ,KB
値を大きくし、逆に、動きが大きい映像データを圧縮符
号化する際には、重み付け係数Kp ,KB の値を比較
的、小さくすることが望ましい。
【0209】式20、式21−1および式21−2を参
照して、目標データ量算出回路264における重み付け
係数Kp ,KB の更新処理の内容をさらに説明する。重
み付け係数Kp ,KB を、どの程度変更すべきかを判断
するために、下に示す圧縮映像データVOUTのデータ
レートに対する実難度データDj の比率xというパラメ
ータを導入する。
【0210】
【数20】
【0211】ただし、式20において、bitrate は、1
秒間当たりの発生データ量(データレート)であり、N
は1GOP当たりのピクチャーの枚数であり、picture
rateは1秒間あたりのピクチャーの枚数である。
【0212】また、非圧縮映像データの動きの大小は、
Iピクチャーの実難度データDI に対するPピクチャー
の実難度データDP の比率(DI /Dp )、および、I
ピクチャーの実難度データDI に対するBピクチャーの
実難度データDB の比率(D I /DB )により判断する
ことができる。従って、目標データ量算出回路264
は、例えば、最新のIピクチャーの実難度データDI
Pピクチャーの実難度データDp との比率(DI
p )に比例するようにPピクチャーの重み付け係数K
p を算出し、最新のIピクチャーの実難度データDI
Bピクチャーの実難度データDB との比率(DI
B )に比例するようにBピクチャーの重み付け係数K
B を算出する。
【0213】図27は、目標データ量算出回路264
(図26)が算出するPピクチャーおよびBピクチャー
の重み付け係数Kp ,KB を示す図である。しかしなが
ら、非圧縮映像データの絵柄の複雑さおよび動きの大き
さによっては、単純に重み付け係数Kp ,KB と比率
(DI /Dp ,DI /DB )とを比例させた場合、重み
付け係数Kp ,KB の値が極端に大きくなりすぎる場合
および小さくなりすぎる場合がある。従って、比率x
(式20)に所定の閾値δ1 ,δ 2 ,δ3 (δ1
δ2 ,δ3 )を設ける。
【0214】比率xが閾値δ1 よりも小さい場合には、
圧縮映像データVOUTのデータレートが充分に大き
い、あるいは、非圧縮映像データの絵柄が単純または動
きが小さいと判断できるので、重み付け係数Kp ,KB
の値が小さくなりすぎないように(但し、割り当てられ
るデータ量は多くなりすぎる)、デフォルト値を用い
る。一方、非圧縮映像データの絵柄が複雑であるにもか
かわらず、動きがごく少ない場合には、Iピクチャーの
実難度データDI の値は、PピクチャーおよびBピクチ
ャーの実難度データDP ,DB に比べて非常に大きくな
る。
【0215】これらの場合に対応するために、重み付け
係数Kp ,KB が必要以上に大きくなりすぎる(但し、
割り当てられるデータ量は少なくなりすぎる)ので、P
ピクチャーについて比率xに閾値δ3 、Bピクチャーに
ついて比率xに閾値δ2 を設け、比率xがこれらの閾値
δ3 ,δ2 を超える部分について、重み付け係数Kp
B を上限値Lp ,LB として制限する。なお、重み付
け係数Kp ,KB と比率xとの関係は、それぞれ閾値δ
1 〜閾値δ3 および閾値δ1 〜閾値δ2 の範囲内で、下
の式21−1および式21−2に示す通りとなる。
【0216】
【数21】
【0217】目標データ量算出回路264は、Pピクチ
ャーおよびBピクチャーの重み付け係数Kp ,KB を、
以上述べたように、それぞれ閾値δ1 〜閾値δ3 および
閾値δ1 〜閾値δ2 の範囲内で式21−1および式21
−2を用いて算出し、これらの範囲外ではデフォルト値
または上限値Lp ,LB (=DI /Dp ,DI /DB
に制限する。
【0218】量子化インデックス生成回路266は、例
えば、MPEG方式のTM5の第2段階および第3段階
(ステップ2,ステップ3)と同様に、目標データ量算
出回路264から入力された目標データ量Tj 、およ
び、GC算出回路262から入力されたグローバルコン
プレクシティXI ,Xp ,XB から量子化インデックス
を生成し、量子化回路168に対して出力する。
【0219】なお、量子化インデックスは、量子化回路
168において、量子化処理の単位となるマクロブロッ
クごとに変化する量子化値Qj の組み合わせを示すイン
デックスとして用いられるデータであって、量子化値Q
j と1対1に対応する。つまり、量子化インデックス生
成回路266から量子化インデックスを受けた量子化回
路168は、受けた量子化インデックスが示す量子化値
j の組み合わせに変換し、DCT回路166から入力
される映像データを量子化する。
【0220】以下、映像データ圧縮装置3(図25,図
26)の動作を説明する。動き検出器14は、第1の実
施形態〜第6の実施形態においてと同様に、動きベクト
ルの生成等を行う。エンコーダ制御部22は、第5の実
施形態および第6の実施形態においてと同様に、ピクチ
ャーの並び替え等の前処理を行う。FIFOメモリ16
0は、第1の実施形態〜第7の実施形態においてと同様
に、入力された映像データをLピクチャー分だけ遅延す
る。
【0221】エンコーダ26(図26)が、1ピクチャ
ー分の圧縮符号化を終了するたびに、量子化制御部26
0のGC算出回路262は、量子化インデックス生成回
路266の量子化インデックスから量子化値Qj の平均
値を算出し、量子化値Qj の平均値および圧縮映像デー
タのデータ量を、式14−1〜式14−3(第6実施形
態)に代入し、グローバルコンプレクシティXI
p ,XB を算出する。
【0222】目標データ量算出回路264は、圧縮映像
データの目標データ量算出回路264は、最も新しく生
成された各ピクチャータイプのピクチャーの実難度デー
タD j (DI ,DP ,DB )に基づいて、式20、式2
1−2および式21−2に示した処理を行い、各ピクチ
ャータイプの重み付け係数Kp ,KB を更新し、式17
−1〜式17−3(第6実施形態)に示したように、次
のピクチャーの目標データ量Tj を算出する。
【0223】量子化インデックス生成回路266は、算
出された目標データ量Tj およびグローバルコンプレク
シティXI ,Xp ,XB に基づいて、量子化インデック
スを算出し、エンコーダ26の量子化回路168に設定
する。DCT回路166は、第1の実施形態〜第6の実
施形態においてと同様に、次のピクチャーに対してDC
T処理を行う。
【0224】量子化回路168は、DCT処理された映
像データを、設定された量子化インデックスを量子化値
j に変換し、変化により得られた量子化値Qj により
量子化処理を行う。可変長符号化回路170は、第1の
実施形態〜第6の実施形態においてと同様に、可変長符
号化を行い、ほぼ、目標データ量Tj に近いデータ量の
圧縮映像データVOUTを生成し、バッファメモリ18
2を介して出力する。
【0225】なお、映像データ圧縮装置3の目標データ
量算出回路264を、実難度データDj の代わりに、G
C算出回路262から入力されるグローバルコンプレク
シティXI ,Xp ,XB を用いて重み付け係数Kp ,K
B の更新を行うように変形することができる。また、こ
のような場合、式21−1および式21−2において用
いられる比率(DI /Dp ,DI /DB )を、グローバ
ルコンプレクシティXI ,Xp ,XBを用いた(XI
p ,XI /XB )に置き換えることも可能である。
【0226】また、第7の実施形態においては、図27
に示したように、重み付け係数Kp,KB と比率xとの
所定の範囲内の関係を、一次関数(式21−1,式21
−2)で表したが、この範囲の重み付け係数Kp ,KB
と比率xの関係を表すためにより適切な関数があれば、
目標データ量算出回路264が、その関数を用いて重み
付け係数Kp ,KB を更新するように変形してもよい。
また、第7の実施形態として示した映像データ圧縮装置
3の処理の内容は、第1の実施形態〜第6の実施形態に
示した映像データ圧縮装置1,2(図1〜図3,図1
6,図17)にも応用可能である。
【0227】また、第7の実施形態に示した比率xの定
義式(式20)、および、重み付け係数Kp ,KB の算
出式(式21−1,式21−2)は例示であって、同様
な意味を有する他のパラメータを、他の数式により算出
するように目標データ量算出回路264の動作を変形す
ることも可能である。また、比率xと重み付け係数
p ,KB との関係を、予め実験等により求めておき、
これらの数値の関係を示すテーブルを作成し、比率xに
基づいてテーブルを参照することにより、重み付け係数
p ,KB を得るように目標データ量算出回路264の
処理内容を変形してもよい。
【0228】また、映像データ圧縮装置3において量子
化制御部260が行った処理を、映像データ圧縮装置
1,2においてホストコンピュータ20が行うことも可
能である。また、第7の実施形態に示した映像データ圧
縮装置3に対しては、第1の実施形態〜第6の実施形態
に示した変形が可能である。
【0229】第8実施形態 以下、本発明の第8の実施形態を説明する。ここまで
に、第5の実施形態および第6の実施形態として、指標
データ(統計量)、つまり、フラットネス、イントラA
C、アクティビティおよびME残差を用い、圧縮映像デ
ータの品質の向上と、圧縮符号化処理の実時間性とを両
立させるフィード・フォワード・レート・コントロール
(FFRC)方式を説明した。また、第3の実施形態お
よび第4の実施形態として、簡易2パスエンコード方式
または予測簡易2パスエンコード方式を改良して、編集
映像データを圧縮符号化するために好適な改良予測簡易
2パスエンコード方式を説明した。
【0230】第8の実施形態においては、これらの実施
形態に示したFFRC方式および改良予測簡易2パスエ
ンコード方式を組み合わせ、映像データ圧縮装置2(図
16,図17)を用い、これらの方式両方の特徴を兼ね
備え、実難度データDj を得るためのエンコーダが不要
で、しかも、編集映像データに含まれる映像データ(シ
ーン)の境界(シーンチェンジ)部分の圧縮映像データ
の品質が低下することがない映像データ圧縮方式(改良
FFRC方式)を説明する。
【0231】改良予測簡易2パスエンコード方式におい
ては、実難度データDj が時間的に大きく変化する部分
をシーンチェンジ部分として検出し、ピクチャータイプ
シーケンスを変更して圧縮符号化を行う。このようなシ
ーンチェンジの検出は、FFRC方式においても、実難
度データDj の代わりに指標データにより近似した実難
度データDj の経時的な変化を監視することにより可能
である。
【0232】しかしながら、シーンチェンジの有無を判
断するためには、シーンチェンジ部分の前後、1GOP
程度の範囲の指標データの時間的変化を監視する必要が
あり、映像データ圧縮装置2において、動き検出器14
が指標データを算出した後、かなりの時間が経過した後
にシーンチェンジ部分の検出が可能となり、実際には、
エンコーダ18における圧縮符号化処理の直前になっ
て、初めて、シーンチェンジ部分の検出が可能となる可
能性もある。従って、ホストコンピュータ20は、処理
時間を確保するために、指標データによる実難度データ
j の近似する処理(第5の実施形態において示した式
11,式12等、および、第6の実施形態において示し
た式16−1〜式16−3)を、シーンチェンジの検出
の前にほぼ終了している必要がある。
【0233】第8の実施形態における映像データ圧縮装
置2は、シーンチェンジの検出結果が確定していない状
態で、指標データあるいはグローバルコンプレクシティ
による実難度データDj の近似処理を仮に行い、仮に算
出した実難度データDj の内、シーンチェンジに伴う変
更を要する部分だけを、シーンチェンジの有無およびピ
クチャータイプシーケンスの変更の有無が確定した後に
補正し、目標データ量Tj を算出する処理を行う。
【0234】以下、N枚〔説明の簡略化のために、以
下、例えばN=L(LはFIFOメモリ160の遅延時
間に対応するピクチャー数)とする〕のピクチャーのM
E残差の算出を行う度に、このN枚のピクチャーに対す
るピクチャータイプシーケンスを最終的に決定する場合
を例として、第8の実施形態における映像データ圧縮装
置2の圧縮符号化処理の内容を説明する。なお、ピクチ
ャータイプシーケンスの決定に用いられるN枚のピクチ
ャーは、ピクチャータイプシーケンスの決定する処理の
処理単位であり、必ずしもエンコーダ18におけるピク
チャータイプシーケンスと一致していなくてもよく、ま
た、通常のGOPと異なり、先頭がIピクチャーでなく
ともよい。また、以下、このようなN枚のピクチャ一1
組を、レート・コントロールGOP(RGCOP;rate
control GOP )とも記す。
【0235】図28は、第8の実施形態における映像デ
ータ圧縮装置2(図16,図17)の圧縮符号化動作を
符号化順に示す図である。動き検出器14は、第1の実
施形態〜第7の実施形態においてと同様に、Pピクチャ
ーおよびBピクチャーに圧縮符号化される第(j+N)
番目のピクチャーについて動きベクトルを生成し、さら
に、ME残差を算出する(図23a)。エンコーダ制御
部22は、第5の実施形態〜第7の実施形態においてと
同様に、ピクチャーの並び替え等の前処理を行い、さら
に、フラットネス、イントラACおよびアクティビティ
等の指標データを算出する。FIFOメモリ160は、
第1の実施形態〜第7の実施形態においてと同様に、入
力された映像データをLピクチャー分だけ遅延する。
【0236】映像データ圧縮装置2(図16,図17)
の1ピクチャー分の圧縮符号化が終了するたびに、ホス
トコンピュータ20には、第5の実施形態〜第7の実施
形態においてと同様に、エンコーダ制御部22が算出し
たフラットネス、イントラACおよびアクティビティ、
および、動き検出器14が算出したME残差(統計量)
が入力される。ホストコンピュータ20は、これらの指
標データを記憶する(図28a)。さらに、ホストコン
ピュータ20は、シーンチェンジが発生しておらず、ピ
クチャーシーケンスに変更が生じないと仮定して、第6
の実施形態においてと同様に、最適化された比例係数ε
I ,εP ,εB (第6の実施形態に示した式14−1〜
式14−3)を用いて、式16−1〜式16−3によ
り、シーンチェンジがないと仮定した場合の実難度デー
タDj の値を近似し、予測する(図28b)。
【0237】具体的には、ホストコンピュータ20は、
第1のRGCOPのIピクチャーからN枚目のピクチャ
ーはIピクチャーに圧縮符号化され、Mの整数倍(n×
M)番目のピクチャーはPピクチャーに圧縮符号化さ
れ、これら以外のピクチャーはBピクチャーに圧縮符号
化されると仮定し、それぞれIピクチャー、Pピクチャ
ーおよびBピクチャーに圧縮符号化されるピクチャーか
ら生成された指標データ、および、比例係数εI
εP ,εB を、式16−1〜式16−3に代入して実難
度データDj を近似し、算出する。但し、Mは、エンコ
ーダ18におけるシーンチェンジがない場合のPピクチ
ャーの間隔を示す。
【0238】つまり、例えば、ホストコンピュータ20
は、前のRGCOP(第1のRGCOP;RGCOP#
1)のIピクチャーを基準としてピクチャーの枚数を計
数し、エンコーダ18が、第2のRGCOP(RGCO
P#2)の各ピクチャーをいずれのピクチャータイプに
圧縮符号化するかを仮定し、仮定したピクチャータイプ
に応じて、式16−1〜式16−3に示したように、指
標データにより実難度データDj の値を近似し、予測す
る。
【0239】なお、RGCOP内にシーンチェンジ部分
が存在する確率は、比較的、少ないと考えられるので、
ホストコンピュータ20は、予測した実難度データDj
に基づいて、ほとんどのRGCOPに対する目標データ
量Tj を算出することになる(図28f)。また、実難
度データDj は、式1(第1の実施形態)、式4(第2
の実施形態)または式17−1〜式17−3(第6の実
施形態)の分母の計算に用いられるのみであり、また、
後述するように、ホストコンピュータ20は、ピクチャ
ータイプシーケンスの変更の有無が確定した段階で補正
を行うので、常に、目標データ量Tj の値を正確に算出
することができる。
【0240】第2のRGCOP(RGCOP#2)の各
ピクチャーの実難度データDj の算出が終了すると、算
出した実難度データDj または指標データに対して、第
3の実施形態および第4の実施形態に示した方法を適用
することにより、ホストコンピュータ20は、第2のR
GCOPにおけるシーンチェンジを検出することができ
る。第2のRGCOPにおけるシーンチェンジの有無に
応じて、ホストコンピュータ20は、シーンチェンジの
有無に応じて、エンコーダ18を制御してピクチャータ
イプシーケンスの変更〔図8(C)〕を行う。このよう
なホストコンピュータ20の処理により、ピクチャータ
イプシーケンスの変更の有無が分かり、各ピクチャーを
いずれのピクチャータイプに圧縮符号化するかが確定す
る(図28c)。
【0241】ホストコンピュータ20は、ピクチャータ
イプシーケンスに変更がある場合には、記憶した指標デ
ータおよび変更後のピクチャータイプに基づいて、第2
のRGCOPについて実難度データDj の値を補正し
て、正しい実難度データDj を算出し(図28d)、さ
らに、式1、式4または式17−1〜式17−3を用い
て、各ピクチャータイプに応じた第(N+1)番目のピ
クチャーの目標データ量TN+1 (target bit)を算出し
(図28e)、エンコーダ18の量子化制御回路180
に設定する。
【0242】具体的には、図8(C)に示したように、
ホストコンピュータ20は、圧縮後にPピクチャーでは
なく、Iピクチャーになるように変更されたピクチャー
の指標データを、式16−1の代わりに式16−2に代
入し、逆に、圧縮後にIピクチャーではなく、Pピクチ
ャーになるように変更されたピクチャーの指標データ
を、式16−2の代わりに式16−1に代入して実難度
データDj の値を補正する。
【0243】エンコーダ18のDCT回路166は、第
1の実施形態〜第7の実施形態においてと同様に、DC
T処理を行う。量子化回路168は、DCT処理された
映像データを、量子化制御回路180が目標データ量T
j に基づいて調節する量子化値Qj により量子化し、量
子化値Qj の平均値を算出する。可変長符号化回路17
0は、第1の実施形態〜第7の実施形態においてと同様
に、変長符号化を行い、ほぼ、目標データ量Tj に近い
データ量の圧縮映像データVOUTを生成し、バッファ
メモリ182を介して出力する。
【0244】エンコーダ18が、第j番目のピクチャー
の圧縮符号化を終了すると、ホストコンピュータ20
は、量子化値Qj の平均値と、圧縮符号化された第j番
目のピクチャーのデータ量とに基づいて、式14−1〜
式14−3に示したようにグローバルコンプレクシティ
を算出する。さらに、ホストコンピュータ20は、算出
したグローバルコンプレクシティにより、式15−1〜
式15−3に示したように比例係数εI ,εP ,εB
更新し、最適化する。第6の実施形態においてと同様
に、更新された比例係数εI ,εP ,εB は、次のピク
チャーの圧縮符号化の際の変換式(式16−1〜式16
−3)に反映される。
【0245】図29を参照して、第8の実施形態におけ
るホストコンピュータ20の処理内容をさらに説明す
る。図29は、第8の実施形態における映像データ圧縮
装置2のホストコンピュータ20(図16)の処理内容
を示すフローチャート図である。なお、図7において
は、第6の実施形態に示したグローバルコンプレクシテ
ィの算出処理等は省略されている。
【0246】図29に示すように、第8の実施形態にお
けるホストコンピュータ20の処理は、第1段階(S4
00)および第2段階(S420)に分かれており、第
1段階においては、シーンチェンジがなく、ピクチャー
タイプシーケンスに変更がない仮定して実難度データD
j を予測する処理が行われ、第2段階においては、シー
ンチェンジが生じ、ピクチャータイプシーケンスが変更
された場合に、実難度データDj の値を補正する処理が
行われる。
【0247】第1段階(S400;S402〜S41
2)は、シーンチェンジがない場合の実難度データDj
を予測する処理であって、第1段階のステップ402
(S402)において、ホストコンピュータ20は、第
(j+L)番目のピクチャーのME残差あるいはイント
ラAC等の指標データ(統計量)をエンコーダ制御部2
2または動き検出器14から取り込み、記憶する。ステ
ップ404(S404)において、ホストコンピュータ
20は、第〔j+L(j+N)〕番目のピクチャーがB
ピクチャーに圧縮符号化されるか否かを判断する。第
(j+L)番目のピクチャーがBピクチャーに圧縮符号
化される場合にはS406の処理に進み、Bピクチャー
に圧縮符号化されない場合にはS408の処理に進む。
【0248】ステップ406(S406)において、ホ
ストコンピュータ20は、第(j+L)番目のピクチャ
ーがBピクチャーに圧縮符号化されると予測し、式16
−3により実難度データDj を近似し、算出する。ステ
ップ408(S408)において、ホストコンピュータ
20は、前のRGCOPにおいてIピクチャーに圧縮符
号化されるピクチャーから、現在のRGCOPの第(j
+L)番目のピクチャーまでの間のピクチャーの枚数
(間隔)が、N枚であるか否かを判断する。間隔がN枚
である場合には、S412の処理に進み、N枚でない場
合にはS410の処理に進む。
【0249】ステップ410(S410)において、ホ
ストコンピュータ20は、第(j+L)番目のピクチャ
ーがPピクチャーに圧縮符号化されると予測し、式16
−2により実難度データDj を近似し、算出する。ステ
ップ412(S412)において、ホストコンピュータ
20は、第(j+L)番目のピクチャーがIピクチャー
に圧縮符号化されると予測し、式16−1により実難度
データDj を近似し、算出する。
【0250】第2段階(S420;S422〜S43
4)は、第1段階で予測した実難度データDj を補正す
る処理であって、第2段階のステップ422(S42
2)において、ホストコンピュータ20は、新たなRG
COPが始まったか否かを判断し、始まらない場合には
S430の処理に進み、始まった場合にはS424の処
理に進む。ステップ424(S424)において、ホス
トコンピュータ20は、Iピクチャーの位置が変わるよ
うにピクチャータイプシーケンスが変更されたか否かを
判断し、Iピクチャーの位置が変わるようにピクチャー
タイプシーケンスが変更された場合にはS426の処理
に進み、変更されない場合にはS430の処理に進む。
【0251】ステップ426(S426)において、ホ
ストコンピュータ20は、新たにIピクチャーに圧縮符
号化されるピクチャーについて、式16−1により実難
度データDj を近似し、算出する。ステップ428(S
428)において、ホストコンピュータ20は、新たに
Pピクチャーに圧縮符号化されるピクチャーについて、
式16−2により実難度データDj を近似し、算出す
る。
【0252】ステップ430(S430)において、ホ
ストコンピュータ20は、式1、式4または式17−1
〜式17−3により、第j番目のピクチャーに対する目
標データ量Tj を算出し、エンコーダ18(図16,図
17)の量子化制御回路180に設定する。ステップ4
32(S432)において、エンコーダ18は、量子化
制御回路180に設定された目標データ量Tj に基づい
て第j番目のピクチャーを圧縮符号化する。ステップ4
34(S434)において、ホストコンピュータ20
は、数値jをインクリメントする。
【0253】なお、第8の実施形態においては、映像デ
ータ圧縮装置2のホストコンピュータ20は、シーンチ
ェンジがあった場合に、圧縮後のピクチャーが変更され
たピクチャーの実難度データDj のみを補正する処理を
行うが、処理時間に余裕があれば、ピクチャータイプシ
ーケンスが確定した後に、全てのピクチャーの実難度デ
ータDj を算出するように変形することができる。ま
た、第8の実施形態に示した映像データ圧縮装置2の動
作についても、第3の実施形態〜第7の実施形態に示し
たものと同様な変形が可能である。また、第1の実施形
態〜第7の実施形態においてそれぞれ説明した映像デー
タ圧縮装置1,2,3(図1〜図3,図16,図17,
図25,図26)の処理内容は、互いに矛盾を生じない
限り、組み合わせることが可能である。
【0254】以上述べたように、第8の実施形態におけ
る映像データ圧縮装置2の動作によれば、第5の実施形
態〜第7の実施形態に示した映像データ圧縮装置2の動
作と同じ効果を得られる他、これらの実施形態における
よりもさらに正確な目標データ量Tj が算出でき、しか
も、シーンチェンジ部分の圧縮映像データの品質が低下
しない。
【0255】
【発明の効果】以上説明したように、本発明に係る映像
データ圧縮装置およびその方法によれば、2パスエンコ
ードによらずに、所定のデータ量以下に音声・映像デー
タを圧縮符号化することができる。また、本発明に係る
映像データ圧縮装置およびその方法によれば、ほぼ実時
間的に映像データを圧縮符号化することができ、しか
も、伸長復号後に高品質な映像を得ることができる。ま
た、本発明に係る映像データ圧縮装置およびその方法に
よれば、2パスエンコードによらずに、圧縮符号化後の
データ量を見積もって圧縮率を調節し、圧縮符号化処理
を行うことができる。
【図面の簡単な説明】
【図1】本発明に係る映像データ圧縮装置の構成を示す
図である。
【図2】図1に示した簡易2パス処理部のエンコーダの
構成を示す図である。
【図3】図1に示したエンコーダの構成を示す図であ
る。
【図4】(A)〜(C)は、第1の実施形態における映
像データ圧縮装置の簡易2パスエンコードの動作を示す
図である。
【図5】(A)〜(C)は、第2の実施形態における映
像データ圧縮装置の予測簡易2パスエンコードの動作を
示す図である。
【図6】第2の実施形態における映像データ圧縮装置
(図1)の動作を示すフローチャートである。
【図7】(A)〜(C)は、第2の実施形態における予
測簡易2パスエンコード方式、および、第3の実施形態
における改良予測簡易2パスエンコード方式による、シ
ーンチェンジの前後のピクチャーに対する圧縮符号化を
示す図である。
【図8】(A)〜(C)は、エンコーダ制御部(図1)
による編集映像データのピクチャーの順序の入れ替え処
理、および、ホストコンピュータによるピクチャータイ
プの変更処理を示す図である。
【図9】編集映像データのシーンチェンジ部分付近の実
難度データの値の経時的な変化を例示する図である。
【図10】ホストコンピュータ(図1)が、編集映像デ
ータにシーンチェンジが発生する場合に、実難度データ
1 〜D15に基づいて予測難度データD’16〜D’30
算出する方法、および、編集映像データにシーンチェン
ジが発生しない場合の予測難度データD’16〜D’30
算出する方法を示す図である。
【図11】第3の実施形態における改良予測簡易2パス
エンコード方式における総和値Sumi の予測および目
標データ量Ti の算出に係る処理内容を示す第1のフロ
ーチャート図である。
【図12】第3の実施形態における改良予測簡易2パス
エンコード方式における総和値Sumi の予測および目
標データ量Ti の算出に係る処理内容を示す第2のフロ
ーチャート図である。
【図13】シーンチェンジがPピクチャーで生じた場合
に、その前後における実難度データDj (○印)と予測
難度データD’j (×印)との関係を、圧縮符号化の順
に例示する図である。
【図14】シーンチェンジがIピクチャーで生じた場合
に、その前後における実難度データDj (○印)と予測
難度データD’j (×印)との関係を、圧縮符号化の順
に例示する図である。
【図15】第4の実施形態における映像データ圧縮装置
(図1)のホストコンピュータによるシーンチェンジ検
出処理の内容を示すフローチャート図である。
【図16】第5の実施形態における本発明に係る映像デ
ータ圧縮装置の構成の概要を示す図である。
【図17】図16に示した映像データ圧縮装置の圧縮符
号化部の詳細な構成を示す図である。
【図18】図1および図16に示した映像データ圧縮装
置により、Pピクチャーを生成する際のME残差と実難
度データDj との相関関係を示す図である。
【図19】図1および図16に示した映像データ圧縮装
置により、Bピクチャーを生成する際のME残差と実難
度データDj との相関関係を示す図である。
【図20】フラットネスの計算方法を示す図である。
【図21】図1および図16に示した映像データ圧縮装
置により、Iピクチャーを生成する際のフラットネスと
実難度データDj との相関関係を示す図である。
【図22】図1および図16に映像データ圧縮装置によ
り、Iピクチャーを生成する際のイントラACと実難度
データDj との相関関係を示す図である。
【図23】第6の実施形態における映像データ圧縮装置
(図17)の圧縮符号化処理の内容を、ピクチャーの符
号化順に示す図である。
【図24】第6の実施形態における映像データ圧縮装置
のホストコンピュータ(図17)の処理内容を示すフロ
ーチャート図である。
【図25】第7の実施形態における本発明に係る映像デ
ータ圧縮装置の構成を示す図である。
【図26】図25に示したエンコーダの構成を示す図で
ある。
【図27】目標データ量算出回路(図26)が算出する
PピクチャーおよびBピクチャーの重み付け係数Kp
B を示す図である。
【図28】第8の実施形態における映像データ圧縮装置
(図17)の圧縮符号化動作を符号化順に示す図であ
る。
【図29】第8の実施形態における映像データ圧縮装置
のホストコンピュータ(図17)の処理内容を示すフロ
ーチャート図である。
【符号の説明】
1,2…映像データ圧縮装置、10,24…圧縮符号化
部、12,22…エンコーダ制御部、14…動き検出
器、16…簡易2パス処理部、160…FIFOメモ
リ、162,18,26…エンコーダ、260…量子化
制御部、262…GC算出回路、264…目標データ量
算出回路、266…量子化インデックス生成回路、16
4…加算回路、166…DCT回路、168…量子化回
路、170…可変長符号化回路、172…逆量子化回
路、174…逆DCT回路、176…加算回路、178
…動き補償回路、180…量子化制御回路、182…バ
ッファメモリ、20…ホストコンピュータ。

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】非圧縮映像データを、所定の圧縮方式によ
    り、複数の種類のピクチャー(Iフレーム、Pフレーム
    およびBフレーム)を所定の順番で含むピクチャータイ
    プシーケンスの圧縮映像データに圧縮する映像データ圧
    縮装置であって、 前記ピクチャータイプそれぞれの圧縮後のデータ量に対
    応し、前記非圧縮映像データの難しさを示す難度データ
    を算出する難度データ算出手段と、 算出した前記ピクチャータイプそれぞれの難度データ、
    および、前記ピクチャータイプそれぞれの圧縮後のデー
    タ量を重み付けする重み付け係数に基づいて、前記ピク
    チャータイプそれぞれのピクチャーの圧縮後のデータ量
    の目標値を算出する目標値算出手段と、 前記非圧縮映像データのピクチャータイプそれぞれのピ
    クチャーを、所定の圧縮方法により、圧縮後のデータ量
    が算出した前記ピクチャータイプの目標値になるように
    圧縮して前記圧縮映像データを生成する圧縮手段と、 生成した圧縮映像データのデータ量に基づいて、前記ピ
    クチャータイプそれぞれの重み付け係数を更新する重み
    付け係数更新手段とを有する映像データ圧縮装置。
  2. 【請求項2】前記重み付け係数更新手段は、少なくとも
    Pピクチャーの重み付け係数Kp およびBピクチャーの
    重み付け係数KB を、圧縮後のデータ量を多くできる場
    合、および、非圧縮映像データの映像の動きが大きい場
    合に、圧縮後のPピクチャーおよびBピクチャーの圧縮
    後のデータ量が多くなる値とする請求項1に記載の映像
    データ圧縮装置。
  3. 【請求項3】前記重み付け係数更新手段は、少なくとも
    Pピクチャーの重み付け係数Kp およびBピクチャーの
    重み付け係数KB それぞれを、所定数のピクチャーごと
    に均等に配分したデータ量Gに対する所定数の難度デー
    タDk の加算値ΣDk の比率x(x=ΣDk /G)と、
    最新のIピクチャーの難度データに対する最新のPピク
    チャーの難度データの比率(DI /Dp )、および、I
    ピクチャーの難度データに対する最新のBピクチャーの
    難度データの比率(DI /DB )とに基づいて算出し、
    更新する請求項2に記載の映像データ圧縮装置。
  4. 【請求項4】前記重み付け係数更新手段は、Pピクチャ
    ーおよびBピクチャーの重み付け係数Kp ,KB にそれ
    ぞれ上限値Lp ,LB を設け、算出した前記重み付け係
    数K p ,KB が前記上限値Lp ,LB を超える場合に、
    前記上限値Lp ,LB を超えた前記重み付け係数Kp
    B の値を前記上限値Lp ,LB とする請求項3に記載
    の映像データ圧縮装置。
  5. 【請求項5】前記目標値算出手段は、Iピクチャー、P
    ピクチャーおよびBピクチャーの目標値Tj を、Pピク
    チャーの重み付け係数Kp 、Bピクチャーの重み付け係
    数K B 、第j番目のピクチャーの難度データDj 、最新
    のIピクチャーの難度データDI 、各ピクチャーに均等
    に配分した場合のデータ量Rj 、所定数のPピクチャー
    の難度データを加算した加算値ΣDp 、および、所定数
    のBピクチャーの難度データを加算した加算値ΣDB
    基づいて算出する請求項1に記載の映像データ圧縮装
    置。
  6. 【請求項6】前記目標値算出手段は、 Iピクチャーの第j番目のピクチャーの目標値Tj を第
    1の数式〔Tj =KpB j j /(Kp B I
    B ΣDp +Kp ΣDB )〕により算出し、 Pピクチャーの第j番目のピクチャーの目標値Tpjを第
    2の数式〔Tj =KBB j /(Kp B I +KB
    ΣDp +Kp ΣDB )〕により算出し、 Bピクチャーの第j番目のピクチャーの目標値Tj を第
    3の数式〔Tj =KpB j /(Kp B I +KB
    ΣDp +Kp ΣDB )〕により算出する請求項5に記載
    の映像データ圧縮装置。
  7. 【請求項7】非圧縮映像データを、所定の圧縮方式によ
    り、複数の種類のピクチャー(Iフレーム、Pフレーム
    およびBフレーム)を所定の順番で含むピクチャータイ
    プシーケンスの圧縮映像データに圧縮する映像データ圧
    縮方法であって、 前記ピクチャータイプそれぞれの圧縮後のデータ量に対
    応し、前記非圧縮映像データの難しさを示す難度データ
    を算出し、 算出した前記ピクチャータイプそれぞれの難度データ、
    および、前記ピクチャータイプそれぞれの圧縮後のデー
    タ量を重み付けする重み付け係数に基づいて、前記ピク
    チャータイプそれぞれのピクチャーの圧縮後のデータ量
    の目標値を算出し、 前記非圧縮映像データのピクチャータイプそれぞれのピ
    クチャーを、所定の圧縮方法により、圧縮後のデータ量
    が算出した前記ピクチャータイプの目標値になるように
    圧縮して前記圧縮映像データを生成し、 生成した圧縮映像データのデータ量に基づいて、前記ピ
    クチャータイプそれぞれの重み付け係数を更新する映像
    データ圧縮方法。
  8. 【請求項8】少なくともPピクチャーの重み付け係数K
    p およびBピクチャーの重み付け係数KB を、圧縮後の
    データ量を多くできる場合、および、非圧縮映像データ
    の映像の動きが大きい場合に、圧縮後のPピクチャーお
    よびBピクチャーの圧縮後のデータ量が多くなる値とす
    る請求項7に記載の映像データ圧縮方法。
  9. 【請求項9】少なくともPピクチャーの重み付け係数K
    p およびBピクチャーの重み付け係数KB それぞれを、
    所定数のピクチャーごとに均等に配分したデータ量Gに
    対する所定数の難度データDk の加算値ΣDk の比率x
    (x=ΣDk /G)と、最新のIピクチャーの難度デー
    タに対する最新のPピクチャーの難度データの比率(D
    I /Dp )、および、Iピクチャーの難度データに対す
    る最新のBピクチャーの難度データの比率(DI
    B )とに基づいて算出し、更新する請求項8に記載の
    映像データ圧縮方法。
  10. 【請求項10】PピクチャーおよびBピクチャーの重み
    付け係数Kp ,KB にそれぞれ上限値Lp ,LB を設
    け、算出した前記重み付け係数Kp ,KB が前記上限値
    p ,L B を超える場合に、前記上限値Lp ,LB を超
    えた前記重み付け係数Kp ,KBの値を前記上限値
    p ,LB とする請求項9に記載の映像データ圧縮方
    法。
  11. 【請求項11】Iピクチャー、PピクチャーおよびBピ
    クチャーの目標値Tj を、Pピクチャーの重み付け係数
    p 、Bピクチャーの重み付け係数KB 、第j番目のピ
    クチャーの難度データDj 、最新のIピクチャーの難度
    データDI 、各ピクチャーに均等に配分した場合のデー
    タ量Rj 、所定数のPピクチャーの難度データを加算し
    た加算値ΣDp 、および、所定数のBピクチャーの難度
    データを加算した加算値ΣDB に基づいて算出する請求
    項7に記載の映像データ圧縮方法。
  12. 【請求項12】Iピクチャーの第j番目のピクチャーの
    目標値Tj を第1の数式〔Tj =KpB j j
    (Kp B I +KB ΣDp +Kp ΣDB )〕により算
    出し、 Pピクチャーの第j番目のピクチャーの目標値Tpjを第
    2の数式〔Tj =KBB j /(Kp B I +KB
    ΣDp +Kp ΣDB )〕により算出し、 Bピクチャーの第j番目のピクチャーの目標値Tj を第
    3の数式〔Tj =KpB j /(Kp B I +KB
    ΣDp +Kp ΣDB )〕により算出する請求項11に記
    載の映像データ圧縮方法。
JP22965096A 1996-08-30 1996-08-30 映像データ圧縮装置およびその方法 Expired - Fee Related JP3864461B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP22965096A JP3864461B2 (ja) 1996-08-30 1996-08-30 映像データ圧縮装置およびその方法
US08/918,813 US5933532A (en) 1996-08-30 1997-08-26 Video data compression apparatus and method of same
EP19970306674 EP0827343B1 (en) 1996-08-30 1997-08-29 Video data compression apparatus and method
DE69739816T DE69739816D1 (de) 1996-08-30 1997-08-29 Vorrichtung und Verfahren zur Videodatenkompression
KR19970044603A KR19980019201A (ja) 1996-08-30 1997-08-30

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP22965096A JP3864461B2 (ja) 1996-08-30 1996-08-30 映像データ圧縮装置およびその方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2005351360A Division JP2006148953A (ja) 2005-12-05 2005-12-05 映像データ圧縮装置およびその方法

Publications (2)

Publication Number Publication Date
JPH1075451A true JPH1075451A (ja) 1998-03-17
JP3864461B2 JP3864461B2 (ja) 2006-12-27

Family

ID=16895529

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22965096A Expired - Fee Related JP3864461B2 (ja) 1996-08-30 1996-08-30 映像データ圧縮装置およびその方法

Country Status (5)

Country Link
US (1) US5933532A (ja)
EP (1) EP0827343B1 (ja)
JP (1) JP3864461B2 (ja)
KR (1) KR19980019201A (ja)
DE (1) DE69739816D1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003102007A (ja) * 2001-09-25 2003-04-04 Canon Inc 信号処理装置
WO2006095501A1 (ja) * 2005-03-07 2006-09-14 Sony Corporation 符号化方法、符号化装置、符号化処理のプログラム及び符号化処理のプログラムを記録した記録媒体
JP2008004980A (ja) * 2006-06-20 2008-01-10 Fujitsu Ltd 符号化装置、符号化方法、プログラム記録媒体、プログラム、シーン変化検知装置、およびシーン変化検知方法
JP2010136047A (ja) * 2008-12-04 2010-06-17 Nippon Telegr & Teleph Corp <Ntt> 映像符号量制御方法,映像符号化装置,映像符号量制御プログラムおよびその記録媒体
JP2011055504A (ja) * 2009-09-02 2011-03-17 Sony Computer Entertainment Inc ビデオ符号化のためのピクチャレベルのレート制御
US8116577B2 (en) 2005-03-07 2012-02-14 Sony Corporation Encoding method, encoding device, encoding process program, and recording medium on which encoding process program is recorded
US10419760B2 (en) 2014-09-29 2019-09-17 Sony Interactive Entertainment Inc. Picture quality oriented rate control for low-latency streaming applications

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6337879B1 (en) * 1996-08-14 2002-01-08 Sony Corporation Video data compression apparatus and method of same
KR100610520B1 (ko) 1997-07-08 2006-08-09 소니 가부시끼 가이샤 비디오 데이터 부호화 장치, 비디오 데이터 부호화 방법, 비디오데이터 전송 장치 및 비디오 데이터 기록 매체
US7367042B1 (en) 2000-02-29 2008-04-29 Goldpocket Interactive, Inc. Method and apparatus for hyperlinking in a television broadcast
US7343617B1 (en) 2000-02-29 2008-03-11 Goldpocket Interactive, Inc. Method and apparatus for interaction with hyperlinks in a television broadcast
US7120924B1 (en) 2000-02-29 2006-10-10 Goldpocket Interactive, Inc. Method and apparatus for receiving a hyperlinked television broadcast
US20040202249A1 (en) * 2003-04-08 2004-10-14 Newsoft Technology Corporation Real-time MPEG video encoding method of maintaining synchronization between video and audio
US7388995B2 (en) * 2003-05-21 2008-06-17 Silicon Integrated Systems Corp. Quantization matrix adjusting method for avoiding underflow of data
US7391916B2 (en) * 2003-05-21 2008-06-24 Silicon Integrated Systems Corp. Quantization matrix adjusting method for quality improvement
US7373004B2 (en) * 2003-05-23 2008-05-13 Silicon Integrated Systems Corp. Apparatus for constant quality rate control in video compression and target bit allocator thereof
JP4629329B2 (ja) * 2003-11-28 2011-02-09 株式会社日立製作所 動き検出可能な映像信号切替装置
US7574055B2 (en) * 2004-09-07 2009-08-11 Lexmark International, Inc. Encoding documents using pixel classification-based preprocessing and JPEG encoding
JPWO2008044658A1 (ja) * 2006-10-10 2010-02-12 日本電信電話株式会社 イントラ予測符号化制御方法および装置、そのプログラム並びにプログラムを記録した記憶媒体
JP4569840B2 (ja) 2007-09-12 2010-10-27 ソニー株式会社 画像符号化装置、画像符号化方法
EP2187648A4 (en) * 2007-09-12 2012-07-11 Sony Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
US8238423B2 (en) * 2007-09-12 2012-08-07 Sony Corporation Image processing apparatus and method
WO2009035149A1 (ja) 2007-09-12 2009-03-19 Sony Corporation 画像処理装置及び画像処理方法
US7876968B2 (en) * 2007-10-15 2011-01-25 Himax Technologies Limited Apparatus of compressing image data and a method thereof
EP2265025B1 (en) * 2008-06-05 2018-08-29 Nippon Telegraph and Telephone Corporation Video encoding amount control method, video encoding amount control device, video encoding amount control program, and computer readable recording medium on which said program is recorded
CN101779468B (zh) 2008-06-27 2012-07-04 索尼公司 图像处理装置和图像处理方法
JPWO2009157580A1 (ja) * 2008-06-27 2011-12-15 ソニー株式会社 画像処理装置及び画像処理方法
WO2009157577A1 (ja) * 2008-06-27 2009-12-30 ソニー株式会社 画像処理装置及び画像処理方法
BRPI0904325A2 (pt) * 2008-06-27 2015-06-30 Sony Corp Dispositivo e método de processamento de imagem.
US8681858B2 (en) * 2009-12-23 2014-03-25 General Instrument Corporation Rate control for two-pass encoder
JP2011259248A (ja) * 2010-06-09 2011-12-22 Sony Corp 画像処理装置および方法、並びにプログラム
US20150172680A1 (en) * 2013-12-16 2015-06-18 Arris Enterprises, Inc. Producing an Output Need Parameter for an Encoder

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5170264A (en) * 1988-12-10 1992-12-08 Fuji Photo Film Co., Ltd. Compression coding device and expansion decoding device for a picture signal
CA2068751C (en) * 1991-05-24 1998-05-19 Tokumichi Murakami Image coding system
US5144424A (en) * 1991-10-15 1992-09-01 Thomson Consumer Electronics, Inc. Apparatus for video data quantization control
US5231484A (en) * 1991-11-08 1993-07-27 International Business Machines Corporation Motion video compression system with adaptive bit allocation and quantization
JP3265818B2 (ja) * 1994-04-14 2002-03-18 松下電器産業株式会社 動画符号化方法
KR0186142B1 (ko) * 1995-12-28 1999-05-01 구자홍 가변율 부호화기의 비트율 할당 방법 및 장치

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8208538B2 (en) 2001-09-25 2012-06-26 Canon Kabushiki Kaisha Signal processing apparatus
JP2003102007A (ja) * 2001-09-25 2003-04-04 Canon Inc 信号処理装置
WO2006095501A1 (ja) * 2005-03-07 2006-09-14 Sony Corporation 符号化方法、符号化装置、符号化処理のプログラム及び符号化処理のプログラムを記録した記録媒体
AU2006221586B2 (en) * 2005-03-07 2010-09-16 Sony Corporation Encoding method, encoding device, processing program for encoding, and recording medium having the processing program for encoding recorded therein
KR101244611B1 (ko) * 2005-03-07 2013-03-25 소니 주식회사 부호화 방법, 부호화 장치, 및 부호화 처리의 프로그램을 기록하는 기록 매체
US8116577B2 (en) 2005-03-07 2012-02-14 Sony Corporation Encoding method, encoding device, encoding process program, and recording medium on which encoding process program is recorded
JP2008004980A (ja) * 2006-06-20 2008-01-10 Fujitsu Ltd 符号化装置、符号化方法、プログラム記録媒体、プログラム、シーン変化検知装置、およびシーン変化検知方法
JP2010136047A (ja) * 2008-12-04 2010-06-17 Nippon Telegr & Teleph Corp <Ntt> 映像符号量制御方法,映像符号化装置,映像符号量制御プログラムおよびその記録媒体
JP2011055504A (ja) * 2009-09-02 2011-03-17 Sony Computer Entertainment Inc ビデオ符号化のためのピクチャレベルのレート制御
US8879623B2 (en) 2009-09-02 2014-11-04 Sony Computer Entertainment Inc. Picture-level rate control for video encoding a scene-change I picture
US10419760B2 (en) 2014-09-29 2019-09-17 Sony Interactive Entertainment Inc. Picture quality oriented rate control for low-latency streaming applications
US11006112B2 (en) 2014-09-29 2021-05-11 Sony Interactive Entertainment Inc. Picture quality oriented rate control for low-latency streaming applications
US11509896B2 (en) 2014-09-29 2022-11-22 Sony Interactive Entertainment Inc. Picture quality oriented rate control for low-latency streaming applications

Also Published As

Publication number Publication date
EP0827343B1 (en) 2010-03-24
JP3864461B2 (ja) 2006-12-27
US5933532A (en) 1999-08-03
EP0827343A2 (en) 1998-03-04
KR19980019201A (ja) 1998-06-05
EP0827343A3 (en) 2006-04-05
DE69739816D1 (de) 2010-05-06

Similar Documents

Publication Publication Date Title
JPH1075451A (ja) 映像データ圧縮装置およびその方法
KR100512389B1 (ko) 영상데이터의 압축장치 및 그 방법
KR100756596B1 (ko) 비디오 데이터 부호화 장치 및 비디오 데이터 부호화 방법
EP1372113B1 (en) Variable bit rate video encoding method and device
US7016407B2 (en) Pre-processing of bit rate allocation in a multi-channel video encoder
EP1711019B1 (en) Motion compensated temporal filtering for noise reduction pre-processing of digital video data
EP0797359B1 (en) Encoding and/or compressing video data
EP1086593B1 (en) Sequence adaptive bit allocation for pictures encoding
JP3960451B2 (ja) シーン特性検出型動画像符号化装置
EP1143737A2 (en) Image encoding apparatus and method, video camera, image recording apparatus, and image transmission apparatus
EP2041984A1 (en) Method and apparatus for adapting a default encoding of a digital video signal during a scene change period
KR20040076034A (ko) 동 영상의 가변 비트율 부호화 방법 및 장치
US6226326B1 (en) Coding device and coding method
US7274739B2 (en) Methods and apparatus for improving video quality in statistical multiplexing
JPH1075452A (ja) 映像データ圧縮装置およびその方法
JP3918208B2 (ja) 映像データ圧縮装置およびその方法
JP3765129B2 (ja) 符号化装置および符号化方法
JP2007053788A (ja) 映像データ圧縮装置およびその方法
JPH1066092A (ja) 映像データ圧縮装置およびその方法
JP3765130B2 (ja) 符号化装置および符号化方法
JP2006148953A (ja) 映像データ圧縮装置およびその方法
JPH1066084A (ja) 映像データ圧縮装置およびその方法
JPH09284772A (ja) 映像データ圧縮装置およびその方法
JPH1075444A (ja) 映像データ圧縮装置およびその方法
JPH11243539A (ja) 符号化装置および符号化方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060302

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060529

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060925

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091013

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101013

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101013

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111013

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111013

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121013

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121013

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131013

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees