JP2002010266A - 画像情報変換装置及び方法 - Google Patents

画像情報変換装置及び方法

Info

Publication number
JP2002010266A
JP2002010266A JP2000190056A JP2000190056A JP2002010266A JP 2002010266 A JP2002010266 A JP 2002010266A JP 2000190056 A JP2000190056 A JP 2000190056A JP 2000190056 A JP2000190056 A JP 2000190056A JP 2002010266 A JP2002010266 A JP 2002010266A
Authority
JP
Japan
Prior art keywords
image
information
coded
coded image
intra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000190056A
Other languages
English (en)
Other versions
JP4517465B2 (ja
Inventor
Kazufumi Sato
数史 佐藤
Takefumi Nagumo
武文 名雲
Kuniaki Takahashi
邦明 高橋
Teruhiko Suzuki
輝彦 鈴木
Yoichi Yagasaki
陽一 矢ケ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000190056A priority Critical patent/JP4517465B2/ja
Publication of JP2002010266A publication Critical patent/JP2002010266A/ja
Application granted granted Critical
Publication of JP4517465B2 publication Critical patent/JP4517465B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 シーンチェンジによる画質劣化を抑制する。 【解決手段】 跳び越し走査のMPEG2画像圧縮情報
(ビットストリーム)を順次走査のMPEG4画像圧縮
情報(ビットストリーム)に変換するものであって、入
力されたMPEG2画像圧縮情報(ビットストリーム)
の各フレームのコンプレキシティを算出するコンプレキ
シティ算出部24と、コンプレキシティを利用してシー
ンチェンジを検出するシーンチェンジ検出部25と、シ
ーンチェンジに応じてMPEG4画像圧縮情報(ビット
ストリーム)におけるGOV構造を変換するGOV構造
変換部26とを有する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像情報を変換す
る画像情報変換装置及び方法に関し、詳しくは、離散コ
サイン変換等の直交変換と動き補償によって圧縮された
MPEG等の画像情報(ビットストリーム)を衛星放
送、ケーブルTV、インターネット等のネットワークメ
ディアを介して受信する際に、若しくは光、磁気ディス
クのような記憶メディア上で処理する際に用いられる画
像情報を変換する画像情報変換装置及び方法に関する。
【0002】
【従来の技術】近年、画像情報をディジタルとして取り
扱い、効率の高い情報の伝送、蓄積を目的とし、画像情
報特有の冗長性を利用して、離散コサイン変換等の直交
変換と動き補償により圧縮するMPEGなどの画像情報
圧縮方式が提供されている。そして、このような画像情
報圧縮方法に準拠した装置は、放送局などの情報配信、
及び一般家庭における情報受信の双方において普及しつ
つある。
【0003】特に、MPEG2(ISO/IEC 13
818−2)は、飛び越し走査画像及び順次走査画像の
双方、並びに標準解像度画像及び高精細画像を網羅す
る、汎用画像符号化方式として定義されている。
【0004】すなわち、MPEG2符号化圧縮方式によ
れば、例えば、720×480画素を持つ標準解像度の
飛び越し走査画像に4〜8Mbpsの符号量(ビットレ
ート)を割り当て、1920×1088画素を持つ高解
像度の飛び越し走査画像に対して18〜22Mbpsの
符号量(ビットレート)を割り当てることにより、高い
圧縮率と良好な画質の実現が可能となる。
【0005】このようなことから、MPEG2は、プロ
フェッショナル用途及びコンシューマー用途の広範なア
プリケーションに今後とも用いられるものと予想され
る。しかし、MPEG2は、主として放送用に適合する
高画質符号化を対象としており、例えばMPEG1より
低い符号量(ビットレート)、つまりより高い圧縮率の
符号化方式には対応していなかった。
【0006】一方で、近年の携帯端末の普及により、今
後とも高い圧縮率の符号化方式のニーズは高まると思わ
れ、これに対応して、高い圧縮率を有するMPEG4符
号化方式の標準化が行われている。この画像符号化方式
に関しては、1998年12月にISO/IEC 14
496−2として国際標準の規格が承認された。
【0007】ところで、ディジタル放送用に一度符号化
されたMPEG2画像圧縮情報(ビットストリーム)
を、携帯端末上等で処理するのにより適した、より低い
符号量(ビットレート)の画像圧縮情報(ビットストリ
ーム)に変換したいというニーズがある。
【0008】かかる目的を達成するために、“Field-to
-Frame Transcoding with Spatialand Temporal Downsa
mpling”(Susie L Wee, John G. Apostolopoulos, and
Nick Feamster, ICIP 99、以下これを文献1と呼ぶ)
により、図8に示すような画像情報変換装置(トランス
コーダ)が提供されている。
【0009】この文献1において提供された画像情報変
換装置(トランスコーダ)は、図8に示すように、ピク
チャタイプ判別部1と、MPEG2画像情報復号化部
(I/Pピクチャ)2と、間引き部3と、MPEG4画
像情報符号化部(I/P−VOP)4と、動きベクトル
合成部5と、動きベクトル検出部6とから構成されてい
る。
【0010】この画像情報変換装置には、フレーム内で
符号化されたイントラ符号化画像(Iピクチャ;I)、
表示順序で順方向を参照して予測符号化された順方向予
測符号化画像(Pピクチャ;P)及び表示順序で順方向
及び逆方向を参照して予測符号化された双方向予測符号
化画像(Bピクチャ;B)から構成される飛び越し走査
のMPEG2画像圧縮情報(ビットストリーム)が入力
される。
【0011】このMPEG2画像圧縮情報(ビットスト
リーム)は、ピクチャタイプ判別部1において、I/P
ピクチャに関するものか、Bピクチャに関するものであ
るかを判別され、I/Pピクチャのみ後続のMPEG2
画像情報復号化部(I/Pピクチャ)2に出力され、B
ピクチャは破棄される。
【0012】MPEG2画像情報復号化部(I/Pピク
チャ)2における処理は通常のMPEG2画像情報復号
化装置と同様に、MPEG2画像圧縮情報(ビットスト
リーム)を画像信号に復号するものである。
【0013】MPEG2画像情報復号化部(I/Pピク
チャ)2の出力となる画素値は、間引き部3に入力され
る。間引き部3は、水平方向には1/2の間引き処理を
施し、垂直方向には、第一フィールド若しくは第二フィ
ールドのどちらか一方のデータのみを残し、もう一方を
廃棄する。このような間引きによって、入力となる画像
情報の1/4の大きさを持つ順次走査画像を生成する。
【0014】間引き部3によって生成された順次走査画
像はMPEG4画像情報符号化部(I/P−VOP)4
によってフレーム内で符号化されたI−VOP及び表示
順序で順方向を参照して予測符号化されたP−VOPに
符号化され、MPEG4画像圧縮情報(ビットストリー
ム)として出力される。尚、VOPはVideo object Pla
neを意味し、MPEG2におけるフレームに相当するも
のである。
【0015】その際、入力となるMPEG2画像圧縮情
報(ビットストリーム)中の動きベクトル情報は、動き
ベクトル合成部5において間引き後の画像情報に対する
動きベクトルにマッピングされ、動きベクトル検出部6
においては、動きベクトル合成部5において合成された
動きベクトル値を元に高精度の動きベクトルを検出す
る。
【0016】文献1は、入力となるMPEG2画像圧縮
情報(ビットストリーム)の1/2×1/2の大きさを
持つ順次走査画像のMPEG4画像圧縮情報(ビットス
トリーム)を生成する画像情報変換装置に関して記述し
ている。すなわち、例えば入力となるMPEG2画圧縮
情報(ビットストリーム)がNTSC(National Telev
ision System Committee)の規格に準拠したものであっ
た場合、出力となるMPEG4画像圧縮情報はSIFサ
イズ(352×240画素)ということになる。
【0017】ところで、図8に示した画像情報変換装置
においては、MPEG4画像情報符号化部(I/P−V
OP)4における符号量制御が、出力となるMPEG4
画像圧縮情報(ビットストリーム)における画質を決定
する大きな要因となる。ISO/IEC 14496−
2においては、符号量制御の方式に関しては特に規定さ
れておらず、各ベンダが、アプリケーションに応じて、
演算量及び出力画質の観点から最適と考えられる方式を
用いることが出来る。以下では、代表的な符号量制御方
式として、MPEG2 Test Model 5(IS
O/IEC JTC1/SC29/WG11 N040
0)で述べられている方式について述べる。
【0018】この符号量制御のフローを図9に示すフロ
ーを用いて説明する。最初のステップS11において、
画像情報符号化部(I/P−VOP)4は、目標符号量
(ターゲットビットレート)、及び、GOP(group o
f pictures)構成を入力変数として、各ピクチャヘのビ
ット配分を行う。ここで、GOPとは、ランダムアクセ
ス可能なピクチャの組である。
【0019】すなわち、ステップS11において、画像
情報符号化部(I/P−VOP)4は、GOP内の各ピ
クチャに対する割り当てビット量を、割り当て対象ピク
チャを含めGOP内でまだ復号化されていないピクチャ
に対して割り当てられるビット量(以下、これをRとす
る)を基に配分する。この配分をGOP内の符号化ピク
チャ順に繰り返す。その際、以下に述べる2つの仮定を
用いて各ピクチャヘの符号量割り当てを行う。
【0020】まず、第一に、各ピクチャを符号化する際
に用いる平均量子化スケールコードと発生符号量の積
は、画面が変化しない限り、ピクチャタイプ毎に一定値
となると仮定する。そこで、各ピクチャを符号化した
後、各ピクチャタイプ毎に、画面の複雑さを示す変数X
i,Xp,Xb(grobal complelxity measure)を次の式
(1)によって更新する。
【0021】
【数4】
【0022】ここでSi,Sp,Sbはピクチャ符号化時
の発生符号ビット量であり、Qi,Q p,Qbは、ピクチ
ャ符号化時の平均量子化スケールコードである。また、
初期値は、目標符号量(ターゲットビットレート)bi
t_rate[bits/sec]を用いて、式(2)
で示される値とする。
【0023】
【数5】
【0024】第二に、Iピクチャの量子化スケールコー
ドを基準としたP,Bピクチャの量子化スケールコード
の比率Kp,Kbが式(3)に定めた値となる場合に常に
全体の画質が最適化されると仮定する。
【0025】
【数6】
【0026】すなわち、Bピクチャの量子化スケールコ
ードは、I,Pピクチャの量子化スケールコードの常に
1.4倍としている。これは、BピクチャをI,Pピク
チャに比較して多少粗めに符号化することにより、Bピ
クチャで節約できる符号量をI,Pピクチャに加える
と、I,Pピクチャの画質が改善され、これを参照する
Bピクチャの画質も改善されることを想定している。
【0027】上記2つの仮定より、GOPの各ピクチャ
に対する割り当てビット量(Ti,Tp,Tb)は式
(4)に示す値とする。
【0028】
【数7】
【0029】ここでNp,NbはGOP内でまだ符号化さ
れていないP,Bピクチャの枚数である。
【0030】このようにして求めた割当符号量を基にし
て、各ピクチャをステップS11,S12に従って符号
化する毎に、GOP内の未符号化ピクチャに対して割り
当てられるビット量Rを式(5)で更新する。
【0031】
【数8】
【0032】また、GOPの最初のピクチャを符号化す
る際には、式(6)によりRを更新する。
【0033】
【数9】
【0034】NはGOP内のピクチャ数である。また、
シーケンスの最初でのRの初期値は0とする。
【0035】次に、ステップS12において、画像情報
符号化装置(I/P−VOP)4は、仮想バッファを用
いたレート制御を行う。すなわち、ステップS12にお
いて、画像情報符号化装置(I/P−VOP)4は、ス
テップS11で式(4)により求められた各ピクチャに
対する割当ビット量(Ti,Tp,Tb)と、実際の発生
符号量を一致させるため、各ピクチャ毎に独立に設定し
た3種類の仮想バッファの容量を基に、量子化スケール
コードを、マクロブロック単位のフィードバック制御で
求める。
【0036】まず、j番目のマクロブロック符号化に先
立ち、仮想バッファの占有量を式(7)によって求め
る。
【0037】
【数10】
【0038】ここで、d0 i,d0 p,d0 bは各仮想バッフ
ァの初期占有量、Bjはピクチャの先頭からj番目のマ
クロブロックまでの発生ビット量、MB_cntは1ピ
クチャ内のマクロブロック数である。各ピクチャ符号化
終了時の仮想バッファ占有量(dMB_cnt i,dMB_cnt p
MB_cnt b)は、それぞれ同一のピクチャタイプで、次
のピクチャに対する仮想バッファ占有量の初期値
(d0 i,d0 p,d0 b)として用いられる。
【0039】次に、j番目のマクロブロックに対する量
子化スケールコードを式(8)により計算する。
【0040】
【数11】
【0041】ここで、rはリアクションパラメーターと
呼ばれるフィードバックループの応答を制御する変数で
あり、式(9)により与えられる。
【0042】
【数12】
【0043】尚、符号化開始時における仮想バッファの
初期値は式(10)で与えられる。
【0044】
【数13】
【0045】最後に、ステップS13において、画像情
報符号化装置(I/P−VOP)4は、視覚特性を考慮
したマクロブロック毎の適応量子化を行う。すなわち、
ステップS13において、画像情報符号化部(I/P−
VOP)4は、ステップS12で求められた量子化スケ
ールコードを、視覚的に劣化の目立ちやすい平坦部でよ
り細かく量子化し、劣化の比較的目立ちにくい絵柄の複
雑な部分で粗く量子化するように、各マクロブロック毎
のアクティビティと呼ばれる変数によって変化させてい
る。
【0046】アクティビティは、原画の輝度信号画素値
を用い、フレーム離散コサイン変換モードにおける4個
のブロックと、フィールド離散コサイン変換モードにお
ける4個のブロックとの、合計8ブロックの画素値を用
いて式(11)で与えられる。
【0047】
【数14】
【0048】ここで、Pkは原画の輝度信号ブロック内
画素値である。式(11)において最小値を採るのは、
マクロブロック内の一部だけでも平坦部分のある場合に
は量子化を細かくするためである。
【0049】更に、式(12)によりその値が0.5〜
2の範囲を取る正規化アクティビティNactjを求め
る。
【0050】
【数15】
【0051】ここで、avg_actは、直前に符号化
したピクチャでのactjの平均値である。
【0052】視覚特性を考慮した量子化スケールコード
mquantjはステップS12で得られた量子化スケ
ールコードQjを基に式(13)で与えられる。
【0053】
【数16】
【0054】MPEG2 Test Model 5にお
いて定められた上記符号量制御方式には以下の制限のあ
ることが知られており、実際の制御を行う場合には、こ
れらの制限に対する対策が必要となる。すなわち、第一
の制限は、第一ステップS11はシーンチェンジに対応
出来ず、また、シーンチェンジ後には第三ステップS1
3で用いる媒介変数avg_actが間違った値となる
ということである。第二の制限は、MPEG2及びMP
EG4において規定されているVBV(VideoBuffer Ve
rifier)の拘束条件を満たす保証がないことである。
【0055】ところで、文献”MPEG圧縮効率の理論
解析とその符号量制御への応用”(信学技報、IE−9
5, DSP95−10, 1995年5月、以下これを
文献2と呼ぶ)でも述べられている通り、Test M
odel 5で定められている符号量制御方式は、MP
EG−2画像符号化装置において、必ずしも良好な画質
を与えるものではない。
【0056】この文献2では、特に、良好な画質を与え
るための、GOP内における各フレーム毎の最適な符号
量配分を与える手法として以下の方式を提案している。
すなわち、NI,NP,NBを、GOP内においてまだ符
号化されていないI,P,Bピクチャの枚数として、こ
れらに割り当てられる符号量をRI,RP,RBとする。
また、式(14)で与えられる固定レート条件の下に、
それぞれにおける量子化ステップサイズをQI,QP,Q
Bとし、mを、量子化ステップサイズと再生誤差分散を
関係付ける次数(すなわち、量子化ステップサイズをm
乗したものの平均値の最小化が再生誤差分散を最低にす
ると仮定する)とする。そして、式(15)を最小にす
ることを考える。
【0057】
【数17】
【0058】
【数18】
【0059】尚、それぞれのフレームにおける平均量子
化スケールQ、及び符号量Rは、Test Model
5でも用いられる媒体変数である各フレームのコンプレ
キシティXと、式(16)のように関係づけられる。
【0060】
【数19】
【0061】式(16)の関係も考慮しつつ、式(1
4)の拘束条件の元に式(15)を最小にするRI
P,RBを、ラグランジェの未定乗数法を用いて算出す
ると、最適なRI,RP,RBとして以下の式のような値
が求められる。
【0062】
【数20】
【0063】α=1として、式(17)と、MPEG2
Test Model 5で定められた符号量制御方式
における式(4)との関係は以下の通りであると言え
る。すなわち、式(17)は、符号量制御の媒介変数で
あるKp,Kbを、各フレームのコンプレキシティXI
P,XBに応じて、式(18)のように適応的に算出し
ていることに他ならない。
【0064】
【数21】
【0065】文献2では、1/(1+m)の値として、
0.6〜1.2程度に設定することで良好な画質が得ら
れることが示されている。
【0066】図8に示した画像情報変換装置内で、MP
EG4画像情報符号化装置(I/P−VOP)4におい
て、MPEG2 Test Model 5において定
められたのと同様な手法を用いて符号量制御を行った場
合、シーンチェンジ等に起因する、GOP内でのコンプ
レキシティの変化に対応することが不可能であるため、
安定した符号量制御が困難となり、画質劣化を引き起こ
すことが考えられる。MPEG2画像情報復号化部(I
/Pピクチャ)2において抽出される、入力となるMP
EG2画像圧縮情報(ビットストリーム)内の情報をM
PEG4画像圧縮情報符号化部(I/P−VOP)4に
おいて利用することでこの問題を回避することが可能で
あると期待される。
【0067】かかる問題を解決するため、本願出願人
は、先に図10に示すような画像情報変換装置を提案し
た。
【0068】この画像情報変換装置は、ピクチャタイプ
判別部7と、圧縮情報解析部8と、MPEG2画像情報
復号化部(I/Pピクチャ)9と、間引き部10と、M
PEG4画像情報符号化部(I/P−VOP)11と、
動きベクトル合成部12と、動きベクトル検出部13
と、情報バッファ14と、コンプレキシティ算出部15
とから構成される。
【0069】この画像情報変換装置は、圧縮情報解析部
8、情報バッファ14、コンプレキシティ算出部15及
びMPEG4画像情報符号化部(I/P−VOP)11
における符号量制御以外の動作原理については、図8に
示した画像情報変換装置と同様であるため、以下では、
圧縮情報解析部8、情報バッファ14、コンプレキシテ
ィ算出部15における動作原理及びMPEG4画像情報
符号化部(I/P−VOP)11における符号量制御に
ついて述べることにする。
【0070】圧縮情報解析部8において、復号処理に用
いられた量子化スケールのフレーム全体に渡る平均値
Q、及び、入力となるMPEG2画像圧縮情報(ビット
ストリーム)において、当該フレームに割り当てられた
総符号量(ビット数)Bは、情報バッファ14に格納さ
れる。
【0071】コンプレキシティ算出部15においては、
情報バッファ14に格納されたフレーム毎の情報Q及び
Bから、当該フレームに対するコンプレキシティXを式
(19)により算出する。
【0072】
【数22】
【0073】式(19)によって算出された、当該フレ
ームに対するコンプレキシティXは、1GOV(group
of VOPs)分バッファリングされた後、MPEG4画像
情報符号化部(I/P−VOP)11に符号量制御のた
めの媒介変数として伝送される。このため、1GOV分
の遅延が必要となる。この遅延は図示しない遅延バッフ
ァを用いて実現される。ここで、GOVとは、ランダム
アクセス可能なVOPの組である。
【0074】以下では、式(19)において算出され
た、GOV内の各フレームに対するコンプレキシティX
が、MPEG4画像情報符号化部(I/P−VOP)1
1においてどのように用いられるかについて述べる。
尚、以下では、ピクチャタイプ判別部7がこの画像情報
変換装置内に存在せず、フレームレートの変換を行わな
い場合をも考慮することにする。
【0075】式(18)によつて求められたKP,KB
意味するところは、I−VOPに対する理想的な平均量
子化スケールQi_idealに対するP−VOP/B−VO
Pに対する理想的な平均量子化スケールQp_ideal,Q
b_idealの比が、式(20)によって与えられるという
ことである。
【0076】
【数23】
【0077】MPEG2 Test Model 5にお
いては、式(18)のように適応的にKp,Kbを算出す
ることを行わず、式(3)に示したような固定値を用い
ている。
【0078】式(18)及び式(20)から、或るVO
P1と、或るVOP2に対するコンプレキシティをそれ
ぞれX1,X2とし、理想的な量子化スケールをQ
1_ideal,Q2_idealとすれば、式(21)のようにな
る。
【0079】
【数24】
【0080】或いはまた、MPEG2 Test Mod
el 5のように、式(3)に示した固定値を用いたい
場合には、式(21)に代えて、式(22)のようにす
れば良い。
【0081】
【数25】
【0082】今、GOV内の未符号化されたVOPに対
して割り当てられる総符号量(ビット数)をRとし、R
が、各VOPに対して、R1,R2,…Rnといったよう
に割り当てられる時、当該GOVに対する画質が最適化
されるものとする。ここでRとR1,R2,…Rnの間に
は式(23)のような関係式が成り立つ。
【0083】
【数26】
【0084】或るVOPkに対する平均量子化スケール
k、割当符号量Rk、コンプレキシティXkの間には式
(24)なる関係があることにも注意して、式(23)
を変形すれば式(25)が得られる。
【0085】
【数27】
【0086】
【数28】
【0087】式(25)において、K(X1,X2)に関
しては、式(21)に示した値を用いても、式(22)
に示した値を用いても良いが、前者の方が、画像に応じ
た、より最適な符号量配分を実現することが可能であ
る。その際、1/(1+m)の値を1.0と設定するこ
とで、指数演算を行うことが不要となり、高速な実行が
可能となる。また、1/(1+m)の値を1.0以外に
設定する場合にも、予めテーブルを持ち、これを参照し
て指数演算を行うことで高速な実行が可能となる。
【0088】式(25)における各VOPに対するコン
プレキシティXkはMPEG4画像符号化によるもので
あるが、MPEG2画像符号化による各フレームに対す
るコンプレキシティと、MPEG4画像符号化による各
フレームに対するコンプレキシティが等しいと仮定すれ
ば、コンプレキシティ算出部15に格納されたXkを用
いることで、式(25)によって当該VOPに対する目
標符号量を算出することが可能である。
【0089】この目標符号量の算出のフローを図11に
示す。最初のステップS21において、圧縮情報解析部
8は、MPEG2画像情報復号化部9における復号処理
に用いられるGOP内の各フレームに対する平均量子化
スケールQ,及び割当符号量(ビット数)Bを抽出す
る。
【0090】ステップS22において、コンプレキシテ
ィ算出部15は、平均量子化スケールQ及び割当符号量
(ビット数)Bの積で与えられるコンプレキシティXを
算出する。
【0091】ステップS23において、MPEG4画像
符号化部(I/P−VOP)11は、コンプレキシティ
Xに応じた目標符号量(ターゲットビット)を算出す
る。
【0092】MPEG2 Test Model 5で
は、GOP内におけるI,P,Bピクチャに対するコン
プレキシティXi,Xp,Xbは一定であると仮定してい
るが実際にはシーンチェンジをGOP内に含む場合や、
GOP内で背景が著しく変化する場合等ではこの仮定が
成り立たず、安定した符号量制御の妨げとなり、画質劣
化の要因ともなる。図10に示した画像情報変換装置に
おいては、そのような場合にも、入力となるMPEG2
画像圧縮情報(ビットストリーム)における、各フレー
ムに対するコンプレキシティに基づいた符号量制御を行
うため、画質劣化を引き起こすことなく、安定した符号
量制御を行うことが可能である。
【0093】
【発明が解決しようとする課題】ところで、CCIR
(Comite Consultantif Internationale des Radio Com
munications )テストシーケンスの一つである“Tab
le Tennis”をMPEG2符号化方式によっ
て、n=15;m=3の条件の元、4Mbps に圧縮
した画像圧縮情報(ビットストリーム)を、図10に示
した画像情報変換装置を用いて、n=5;m=1、60
0kbpsのMPEG4画像圧縮情報(ビットストリー
ム)に変換した時のpSNRを図12に示す。 pSN
Rは次の式(26)により計算される。
【0094】
【数29】
【0095】この式(26)において、MSEは、MP
EG4画像情報符号化装置(I/P−VOP)11の、
各フレームに対する入力信号と出力信号の平均2乗誤差
である。
【0096】図12において、第21フレーム及び第3
1フレームのP−VOPにはシーンチェンジが含まれ
る。図10に示した画像情報変換装置を用いることによ
り、これらのワレームには通常のP−VOPより多くの
符号量(ビット数)が割り当てられることになり、その
画質劣化を最小限に抑えることを可能としている。しか
しながら、これらのP−VOPにより多くの符号量(ビ
ット数)を割り当てるため、当該GOV内の他のI−V
OP及びP−VOPに対して割り当てられる符号量(ビ
ット数)が減少し、GOV全体の画質劣化が他のGOV
における画質劣化に比べて大きくなってしまうという問
題点を有する。
【0097】本発明は、上述の実情に鑑みて提案される
もので、シーンチェンジを含む場合にも画質劣化を抑制
するような画像情報変換装置及び方法を提供することを
目的とする。
【0098】
【課題を解決するための手段】上述の課題を解決するた
めに、本発明は、第1の圧縮符号化方式で圧縮された飛
び越し走査の入力画像圧縮情報を、第2の圧縮符号化方
式で圧縮された順次走査の出力画像圧縮情報に変換する
ものであって、上記入力画像圧縮情報及び上記出力画像
圧縮情報は複数の符号化画像からなる画像群を単位とし
て構成され、上記出力画像圧縮情報におけるシーンチェ
ンジを検出し、上記入力画像圧縮情報の各フレームのコ
ンプレキシティを検出し、上記コンプレキシティに基づ
いて上記出力画像圧縮情報に画像情報の符号量を配分す
る際に、上記シーンチェンジに応じて上記出力画像圧縮
情報における画像群の構造を変換するものである。
【0099】本発明は、飛び越し走査のMPEG2画像
圧縮情報(ビットストリーム)を入力画像圧縮情報と
し、順次操作のMPEG4画像圧縮情報(ビットストリ
ーム)を出力画像圧縮情報とする。ここで、MPEG2
画像圧縮情報(ビットストリーム)は符号化画像である
ピクチャ(picture)からなる画像群であるGOP(gro
up of pictures)から構成され、MPEG4画像圧縮情
報(ビットストリーム)は符号化画像であるVOP(vi
de object plain)からなる画像群であるGOV(group
of VOPs)から構成されている。そして、上記画像群の
符号化画像は、複数の画素から構成される画素ブロック
すなわちマクロブロックから構成されている。
【0100】すなわち、本発明は、飛び越し走査のMP
EG2画像圧縮情報(ビットストリーム)を入力とし、
ピクチャタイプ判別部、圧縮情報解析部、MPEG2画
像情報復号化部(I/Pピクチャ)、間引き部、MPE
G4画像情報符号化部(I/P−VOP)、動きベクト
ル合成部、動きベクトル検出部、情報バッファ、コンプ
レキシティ算出部、シーンチェンジ検出部、及びGOV
構造変換部を兼ね備え、入力となるMPEG2画像圧縮
情報(ビットストリーム)における各フレームに対する
コンプレキシティを元にしてMPEG4画像情報符号化
部で符号量制御を行う際、シーンチェンジが検出された
GOVに対しては、直後のGOVにおける最初のI−V
OPをP−VOPに変換することによりGOV構造の変
換を行うことで当該GOVにおける画質劣化を低減し、
各フレームに対する符号量割当が画像に対して最適化さ
れた状態で、順次走査のMPEG4画像圧縮情報(ビッ
トストリーム)を出力する手段を提供するものである。
【0101】上記構成において、ピクチャタイプ判別部
は、入力となるMPEG2画像圧縮情報(ビットストリ
ーム)内で、I/Pピクチャに関するものだけ残してB
ピクチャに関するものは廃棄する。圧縮情報解析部は、
2GOP分の遅延を実現し、また、入力となるMPEG
2画像圧縮情報(ビットストリーム)内で、各フレーム
に対して割り当てられた符号量(ビット数)及び各フレ
ームにおける平均量子化スケールを抽出する。MPEG
2画像情報復号化部(I/Pピクチャ)は、ピクチャタ
イプ判別部の出力となる、I/Pピクチャに関する圧縮
情報(ビットストリーム)を、水平方向垂直方向とも
に、8次の離散コサイン係数全てを用いた、若しくはそ
の低域成分のみを用いた復号処理を行う。間引き部は、
MPEG2画像情報復号化部(I/Pピクチャ)の出力
である画像情報の第一フィールド若しくは第二フイール
ドのみを取り出して順次走査画像への変換を行うと同時
に、所望の画枠サイズに変換するためのダウンサンプリ
ングを行う。MPEG4画像情報符号化部(I/P−V
OP)は、間引き部の出力となる画像情報をMPEG4
符号化方式により符号化する。動きベクトル合成部は、
MPEG2画像情報復号化部(I/Pピクチャ)で検出
された、入力となる画像圧縮情報(ビットストリーム)
内の動きベクトル値を元に、走査変換後の画像データに
対する動きベクトル値にマッピングを行う。動きベクト
ル検出部は、動きベクトル合成部から出力される動きベ
クトル値を元に、高精度の動きベクトル検出を行い、情
報パフファにおいては、圧縮情報解析部において抽出さ
れた、入力となるMPEG2画像圧縮情報(ビットスト
リーム)における各フレームに割り当てられた符号量
(ビット数)及び各フレームに対する平均量子化スケー
ルを格納する。コンプレキシティ算出部は、情報バッフ
ァに格納された、入力となる画像圧縮情報(ビットスト
リーム)における、各フレームに割り当てられた符号量
(ビット数)、及び各フレームに対する平均量子化スケ
ールから、各フレームに対するコンプレキシティを算出
し、MPEG4画像情報符号化部(I/P−VOP)
へ、符号量制御のための媒介変数として伝送する。シー
ンチェンジ検出部は、コンプレキシティ算出部に格納さ
れた、入力となるMPEG2画像圧縮情報(ビットスト
リーム)における各フレームに対するコンプレキシティ
からシーンチェンジが当該GOPに含まれているかどう
かの検出を行う。GOV構造変換部は、シーンチェンジ
検出部においてシーンチェンジが検出された場合、MP
EG4画像情報符号化部(I/P−VOP)において符
号化制御情報として与えられるGOV構造の変換を行っ
てその情報をMPEG4画像情報符号化部(I/P−V
OP)に伝送する。シーンチェンジ検出は、コンプレキ
シティ算出部に格納された情報ではなく、圧縮情報解析
部において抽出される、各フレームにおけるイントラマ
クロブロックの数等の情報を用いて行っても良い。ま
た、間引き部の後段にフレームバッファを兼ね備え、こ
こでシーンチェンジ検出を行っても良い。
【0102】
【発明の実施の形態】以下、本発明の実施の形態につい
て、図面を参照して説明する。
【0103】まず、本発明を適用した第1の実施の形態
として、画像情報変換装置を説明する。
【0104】この画像情報変換装置は、図1に示すよう
に、ピクチャタイプ判別部16と、圧縮情報解析部17
と、MPEG2画像情報復号化部(I/Pピクチャ)1
8と、間引き部19と、MPEG4画像情報符号化部
(I/P−VOP)20と、動きベクトル合成部21
と、動きベクトル検出部22と、情報バッファ23と、
コンプレキシティ算出部24と、シーンチェンジ検出部
25と、GOV構造変換部26とから構成されている。
【0105】なお、ピクチャタイプ判別部16を持た
ず、フレームレートの変換を行わない装置構成も考えら
れるが、以下では説明を簡単にするため、ピクチャタイ
プ判別部16を兼ね備えた装置構成について述べること
とする。
【0106】この画像情報変換装置には、フレーム内で
符号化されたイントラ符号化画像(Iピクチャ;I)、
表示順序で順方向を参照して予測符号化された順方向予
測符号化画像(Pピクチャ;P)及び表示順序で順方向
及び逆方向を参照して予測符号化された双方向予測符号
化画像(Bピクチャ;B)から構成される飛び越し走査
のMPEG2画像圧縮情報(ビットストリーム)が入力
される。
【0107】このMPEG2画像圧縮情報(ビットスト
リーム)は、ピクチャタイプ判別部16において、I/
Pピクチャに関するものか、Bピクチャに関するもので
あるかを判別され、I/Pピクチャのみ後続の圧縮情報
解析部17に出力され、Bピクチャは破棄される。
【0108】圧縮情報解析部17において、MPEG2
画像情報復号化装置(I/Pピクチャ)18における復
号処理に用いられる量子化スケールのフレーム全体に渡
る平均値Q、及び、入力となるMPEG2画像圧縮情報
(ビットストリーム)において、当該フレームに割り当
てられた総符号量(ビット数)Bは、情報バッファ23
に格納される。
【0109】MPEG2画像情報復号化部(I/Pピク
チャ)18における処理は通常のMPEG2画像情報復
号化装置と同様に、MPEG2画像圧縮情報(ビットス
トリーム)を画像信号に復号するものである。ここで、
Bピクチャに関するデータはピクチャタイプ判別部16
において廃棄されているので、MPEG2画像情報復号
化部(I/Pピクチャ)18は、I/Pピクチャのみを
復号化出来る機能を有すればよい。
【0110】MPEG2画像情報復号化部(I/Pピク
チャ)18の出力となる画素値は、間引き部19に入力
される。間引き部19は、水平方向には1/2の間引き
処理を施し、垂直方向には、第一フィールド若しくは第
二フィールドのどちらか一方のデータのみを残し、もう
一方を廃棄する。このような間引きによって、入力とな
る画像情報の1/4の大きさを持つ順次走査画像を生成
する。
【0111】ところで、間引き部19から出力された画
像をMPEG4画像情報符号化部(I/P−VOP)2
0において16×16画素で構成されるマクロブロック
単位で符号化するためには、水平方向、垂直方向とも
に、その画素数が16の倍数である必要が有る。間引き
部19においては、このための画素の補填若しくは廃棄
を、間引きと同時に行う。
【0112】例えば、入力となるMPEG2画像圧縮情
報(ビットストリーム)がNTSC(National Televis
ion System Committee)の規格に準拠したもの、つまり
720×480画素、30Hzの飛び越し走査画像であ
った場合、間引き後の画枠はSIF(360×240画
素)サイズということになる。この画像に対して、間引
き部19において、例えば水平方向の右端若しくは左端
の8ラインを廃棄して352×240画素とする。
【0113】なお、間引き部19における動作の変更を
行うことで、これ以外の画枠、例えば上記の例で、約1
/4×1/4の画枠であるQSIF(176×112画
素)サイズの画像に変換することも可能である。
【0114】更に、上述した文献1は、MPEG2画像
情報復号化部(I/Pピクチャ)18における処理とし
て、水平方向、垂直方向それぞれについて、入力となる
MPEG2画像圧縮情報(ビットストリーム)内の、8
次の離散コサイン変換係数すべてを用いた復号処理を行
う画像情報変換装置について述べられているが、図1に
示した装置に関してはその限りではなく、水平方向の
み、或いは水平方向、垂直方向ともに、8次の離散コサ
イン変換係数のうちの低域成分のみを用いた復号処理を
行い、画質劣化を最小限に抑えながら、復号処理に伴う
演算量とビデオメモリ容量を削減することが可能であ
る。
【0115】間引き部19によって生成された順次走査
画像はMPEG4画像情報符号化部(I/P−VOP)
20によってフレーム内で符号化されたI−VOP及び
表示順序で順方向を参照して予測符号化されたP−VO
Pに符号化され、MPEG4画像圧縮情報(ビットスト
リーム)として出力される。
【0116】尚、VOPはVideo object Planeを意味
し、MPEG2におけるフレームに相当するものであ
る。また、I−VOPはIピクチャに対応するイントラ
符号化VOP、P−VOPはPピクチャに対応する順方
向予測符号化VOP、B−VOPはBピクチャに対応す
る双方向予測符号化VOPである。
【0117】MPEG4画像情報符号化部(I/P−V
OP)20における符号化の際には、入力となるMPE
G2画像圧縮情報(ビットストリーム)中の動きベクト
ル情報は、動きベクトル合成部21において間引き後の
画像情報に対する動きベクトルにマッピングされ、動き
ベクトル検出部22においては、動きベクトル合成部2
1において合成された動きベクトル値を元に高精度の動
きベクトルを検出する。
【0118】また、MPEG4画像情報符号化部(I/
P−VOP)20は、コンプレキシティ算出部24から
コンプレキシティの近似値が与えられるので、この近似
値に基づいて各VOPに対する目標符号量(ターゲット
ビット)を算出し、この目標符号量(ターゲットビッ
ト)に応じて符号化する際に、GOV構造変換部26か
らのGOV構造に変換を行うことで、当該GOVにおい
て生じる画質劣化を低減し、符号量配分を最適化する。
【0119】シーンチェンジ検出部25においては、コ
ンプレキシティ算出部24に格納された、入力となるM
PEG2画像圧縮情報(ビットストリーム)における当
該GOP内の各フレームに対するコンプレキシティから
シーンチェンジが当該GOPに含まれているかどうかの
判断を行う。当該GOPに対するIピクチャ及びPピク
チャのコンプレキシティをそれぞれXi及びXp1
p2,…Xpnとすれば、予め定められた閾値X
thresholdに対し、次の式(27)が一つでも成り立つ
時、このGOPにはシーンチェンジが含まれていると判
断する。
【0120】
【数30】
【0121】図2に、シーンチェンジ検出装置25にお
いてシーンチェンジが検出された場合の、GOV構造変
換部26における動作原理の一例を示す。
【0122】図2の例では、入力となるMPEG2画像
圧縮情報(ビットストリーム)のGOP構造がn=1
5;m=3の場合を想定している。すなわち、図2のA
に示すように、入力MPEG2画像圧縮情報(ビットス
トリーム)は、I0,B0,B1,P0,B2,B3,P1
4,B5,P2,B6,B7,P3,B8,B9からなるGO
P0及びI1,B10,B11,P4,B12,B13,P5,B
14,B15,P6,B16,B 17,P7,B18、B19からなる
GOP1から構成されている。
【0123】この時、GOV構造変換前には、出力とな
るMPEG4画像圧縮情報(ビットストリーム)におけ
るGOV構造がn=5;m=1となる。すなわち、図2
のBに示すように、変換前の出力MPEG4画像圧縮情
報(ビットストリーム)は、I0,P0,P1,P2,P3
からなるGOP0及びI1,P4,P5,P6,P7からな
るGOP1から構成されている。
【0124】ここで、式(27)により、P1にシーン
チェンジが検出されたとする。この時、変換前のGOV
0にはシーンチェンジが含まれるとして、GOV1の先
頭に存在するI−VOPであるI1はP−VOPである
4へ変換され、GOV0及びGOV1は統合されて一
つのGOVとなる。すなわち、図2のCに示すように変
換後の出力MPEG4画像圧縮情報(ビットストリー
ム)は、I0,P0,P1,P2,P3,P4,P5,P6,P
7,P8からなるGOV0から構成されている。なお、図
2のCにおけるP4,P5,P6,…は、図2のBにおけ
るI1,P4,P5,…の位置に対応している。
【0125】図3に、シーンチェンジ検出部25及びG
OV構造変換部26における一連の動作フローを示す。
この動作を実現するためには、圧縮情報解析部17にお
いて2GOV分の遅延を実現する必要がある。
【0126】最初のステップS31において、シーンチ
ェンジ検出部25は、コンプレキシティ算出部24から
当該GOVにおける各フレームに対するコンプレキシテ
ィ情報を読み出す。
【0127】ステップS32において、シーンチェンジ
検出部25は、当該GOVにシーンチェンジが含まれる
かどうかを調べ、その結果に応じて処理の手順を分岐さ
せる。
【0128】すなわち、当該GOVにシーンチェンジが
含まれている場合にはステップS33に処理を進める
が、当該GOVにシーンチェンジが含まれていない場合
にはステップS34に処理を進める。
【0129】ステップS33において、GOV構造変換
部26は、シーンチェンジ検出部25で検出したシーン
チェンジに応じてGOV構造を変換する。
【0130】ステップS34においては、MPEG4画
像情報符号化部(I/P−VOP)20はMPEG4画
像圧縮情報(ビットストリーム)への符号化を行う。こ
こで、ステップS33でGOV構造を変換した場合に
は、これに応じた符号化を行う。
【0131】このような一連の処理により、たとえ入力
となるMPEG2画像圧縮情報(ビットストリーム)が
固定GOV構造であっても、出力となるMPEG4画像
圧縮情報(ビットストリーム)が可変となりうる。この
ことを、図4を用いて説明する。図4で、変換前の固定
GOV構造において、GOV1及びGOV6にシーンチ
ェンジのあることが、シーンチェンジ検出装置25によ
って検出されたとする。すなわち、図4のAにおいて、
変換前の固定GOV構造GOV1,GOPV2,GOV
3,GOV4,GOV5,GOV6,GOV7,GOV
8の内、シーンチェンジ検出部35によりGOV1及び
GOV6にシーンチェンジが検出されたものとする。
【0132】この場合、GOV1とGOV2、及びGO
V6とGOV7をそれぞれ統合することにより、図4の
Bに示すように、GOV0,GOV1,GOV2、GO
V3,GOV4,GOV5,GOV6のようなGOV構
造に変換される。変換後において、GOV1及びGOV
5は他のGOVに比べて2倍の長さを持つことになる。
すなわち、このMPEG4画像圧縮情報(ビットストリ
ーム)は可変GOV構造となる。
【0133】ここで、図4のBに示す変換後のGOV
2,GOV3,GOV4,GOV6は、図4のAに示す
変換前のGOV3,GOV4,GOV5,GOV8の位
置にそれぞれ対応している。
【0134】尚、I−VOPをP−VOPに変換するた
めには、当該フレームに対する動きベクトル情報が必要
となる。このため、当該フレームに対する動きベクトル
は全て0とするか、或いはまた、動きベクトル検出装置
22を用いて動きベクトルの検出を行っても良いが、前
後のP−VOPにおける動きベクトル情報を利用するこ
とも考えられる。また、式(25)に基づいて、当該V
OPに対する目標符号量(ターゲットビット)を算出す
るには、I−VOPからP−VOPに変換されたVOP
に対するコンプレキシティを推定する必要がある。この
ための処理の一例を図5に示す。図5には、I0,P0
1,P2,P3からなるGOV0及びI1,P4,P5,P
6,P7からなるGOV1が例示されている。
【0135】図5のAは、GOV内において、最後のP
−VOP以外のP−VOPでシーンチェンジが検出され
た場合の例である。すなわち、ここではGOVのP1
おいてシーンチェンジが検出されたものとする。この場
合のI1に対する動きベクトル情報としては、P3若しく
はP4で用いられた動きベクトル情報をそのまま用い
る、或いは、P3若しくはP4で用いられた動きベクトル
情報を元に動きベクトル検出装置22を用いて動きベク
トル情報の高精度化を行う。或いはまた、各マクロブロ
ックに対して、P3若しくはP4で用いられた動きベクト
ル情報を用いて予測を行った場合と、動きベクトルを0
として予測を行った場合とを比較して、符号化効率の高
い方を選択するといったことが考えられる。
【0136】コンプレキシティに関しては、直前のP−
VOPであるP3、若しくは直後のP−VOPであるP4
で用いられたコンプレキシティXp3若しくはXp4をその
まま使つても良い。或いは、次の式(28)で与えられ
る両者の平均値を用いても良い。
【0137】
【数31】
【0138】或いは、次の式(29)で与えられるシー
ンチェンジ後の全てのP−VOPに対する平均値を用い
ても良い。
【0139】
【数32】
【0140】元のI−VOPのコンプレキシティXi1
びXpk(k=2,…,7)から当該VOPに対するコン
プレキシティの推測値を算出しても良い。
【0141】図5のBは、GOV内において、最後のP
−VOPでシーンチェンジが検出された場合の例であ
る。すなわち、ここではGOV0のP3においてシーン
チェンジが検出されたものとする。この時、直前のP−
VOPであるP3における動きベクトル情報は、I1をP
−VOPに変換する場合の動きベクトル情報との相関が
低いと考えられる。そこで、直後のP−VOPであるP
4における動きベクトル情報をそのまま用いる。或い
は、P4で用いられた動きベクトル情報を元に動きベク
トル検出装置22を用いて動きベクトル情報の高精度化
を行う。或いはまた、各マクロブロックに対して、P4
で用いられた動きベクトル情報を用いて予測を行った場
合と、動きベクトルを0として予測を行った場合とを比
較して、符号化効率の高い方を選択するといったことが
考えられる。
【0142】コンプレキシティに関しても、P3におけ
るコンプレキシティXp3と、I1をP−VOPに変換し
た時のコンプレキシティXとの間の相関は低いと考えら
れる。そこで、P4におけるコンプレキシティXp4の値
をそのまま用いるか、或いは次の式(30)で与えられ
るシーンチェンジ後の全てのP−VOPに対する平均値
を用いる。
【0143】
【数33】
【0144】或いは、元のI−VOPのコンプレキシテ
ィXi1及びXpk(k=4,…,7)から当該VOPに対
するコンプレキシティの推測値を算出しても良い。
【0145】次に、本発明を適用した第2の実施の形態
の画像情報変換装置について、図6を参照して説明す
る。
【0146】この画像情報変換装置は、ピクチャタイプ
判別部27と、圧縮情報解析部28と、MPEG2画像
情報復号化部(I/Pピクチャ)29と、間引き部30
と、MPEG4画像情報符号化部(I/P−VOP)3
1と、動きベクトル合成部32と、動きベクトル検出部
33と、情報バッファ34と、コンプレキシティ算出部
35と、シーンチェンジ検出部36と、GOV構造変換
部37とから構成されている。
【0147】図6に示した画像情報変換装置と、図1に
示した画像情報変換装置の違いは、図1に示した画像情
報変換装置においては、コンプレキシティ算出装置34
において算出された、入力となる画像圧縮情報(ビット
ストリーム)における、各フレームに対するコンプレキ
シティを元にシーンチェンジ検出が行われるのに対し、
図6に示した画像圧縮情報解析装置においては、シーン
チェンジ検出部36は、圧縮情報解析装置28において
抽出される情報を元にシーンチェンジ検出を行う点にあ
る。例えば、圧縮情報解析装置28において、Pピクチ
ャ内のイントラマクロブロックの個数Nintraを算出
し、これが予め定められた閥値Nthresholdに対して、
次の式(31)で与えられる関係が成り立つ時、シーン
チェンジが検出されたとしてその後の処理を行う。
【0148】
【数34】
【0149】次に、本発明を適用した第3の実施の形態
の画像情報変換装置について、図7を参照して説明す
る。
【0150】この画像情報変換装置は、ピクチャタイプ
判別部38と、圧縮情報解析部39と、MPEG2画像
情報復号化部(I/Pピクチャ)40と、間引き部41
と、フレームバッファ42と、MPEG4画像情報符号
化部(I/P−VOP)43と、動きベクトル合成部4
4と、動きベクトル検出部45と、情報バッファ46
と、コンプレキシティ算出部47と、シーンチェンジ検
出部48と、GOV構造変換部49とから構成されてい
る。
【0151】図7に示した画像情報変換装置と、図1に
示した画像情報変換装置の違いは、図1に示した画像情
報変換装置においては、コンプレキシティ算出装置34
において算出された、入力となる画像圧縮情報(ビット
ストリーム)における、各フレームに対するコンプレキ
シティを元にシーンチェンジ検出が行われるのに対し、
図7に示した画像情報変換装置においては、シーンチェ
ンジ検出部48によりフレームバッファ42に格納され
た画像情報を元にシーンチェンジ検出が行われる。すな
わち、例えば、ベースバンドにおける1フレームの特徴
量(例えば画素の平均値、分散値等)αを算出し、1フ
レーム前の特微量であるαprev、及び予め定められた閥
値αthresholdに対して、式(32)で与えられる関係
が成り立つ時、シーンチェンジが検出されたとしてその
後の処理を行う。
【0152】
【数35】
【0153】以上、入力としてMPEG2画像圧縮情報
(ビットストリーム)を、出力としてMPEG4画像圧
縮情報(ビットストリーム)を対象としてきたが、入
力、出力ともこれに限らず、例えばMPEG−1やH.
263などの画像圧縮情報(ビットストリーム)でも良
い。
【0154】
【発明の効果】以上述べてきた様に、本発明は、飛び越
し走査のMPEG2画像圧縮情報(ビットストリーム)
を入力とし、入力となるMPEG2画像圧縮情報(ビッ
トストリーム)における各フレームに対するコンプレキ
シティを元にしてMPEG4画像情報符号化部で符号量
制御を行う際、シーンチェンジが検出されたGOVに対
しては、直後のGOVにおける最初のI−VOPをP−
VOPに変換することでGOV構造の変換を行うことで
当該GOVにおける画質劣化を低減し、各フレームに対
する符号量割当が画像に対して最適化された状態で順次
走査のMPEG4画像圧縮情報(ビットストリーム)に
変換して出力する手段を提供するものである。
【図面の簡単な説明】
【図1】第1の実施の形態の画像情報変換装置の構成を
示すブロック図である。
【図2】シーンチェンジ検出部及びGOV構造変換部に
おける動作原理を説明する図である。
【図3】シーンチェンジ検出部及びGOV構造変換部に
おける一連の動作を示すフローチャートである。
【図4】固定GOV構造から可変OPV構造の変換を示
す図である。
【図5】図6において、I−VOPをP―VOPに変換
する処理を示す図である。
【図6】第2の実施の形態の画像情報変換装置の構成を
示すブロック図である。
【図7】第3の実施の形態の画像情報変換装置の構成を
示すブロック図である。
【図8】従来の画像情報変換装置の構成を示すブロック
図である。
【図9】MPEG2 Test Mode1 5(IS
O/IEC JTC1/SC29/WG11 N040
0)で述べられている符号量制御方式の動作原理を示す
フローチャートである。
【図10】本願出願人が提案した画像情報変換装置の構
成を示す図である。
【図11】図10の画像情報変換装置における符号量制
御の動作を示すフローチャートである。
【図12】CCIRテストシーケンスの一つである“T
able Tennis”をMPEG2符号化方式によ
って、MPEG4画像圧縮情報(ビットストリーム)に
変換した時のpSNRを示した図である。
【符号の説明】
16 ピクチャタイプ判別部、17 圧縮情報解析部、
18 MPEG2画像情報復号化部(I/Pピクチ
ャ)、19 間引き部、20 MPEG4画像情報符号
化部(I/P−VOP)、21 動きベクトル合成部、
22 動きベクトル検出部、23 情報バッファ、24
コンプレキシティ算出部、25 シーンチェンジ検出
部、26 GOV構造変換部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 高橋 邦明 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 鈴木 輝彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 矢ケ崎 陽一 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 LA07 LB05 MA00 NN11 NN19 NN43 PP05 PP06 PP07 RC24 SS02 SS08 SS11 SS13 TA06 TA07 TA25 TA46 TA57 TB03 TC02 TC10 TC14 TC38 TD03 TD04 UA02 UA05 UA34 5C063 AB03 AB07 BA04 BA12 CA34 CA36 DA07

Claims (32)

    【特許請求の範囲】
  1. 【請求項1】 第1の圧縮符号化方式で圧縮された飛び
    越し走査の入力画像圧縮情報を、第2の圧縮符号化方式
    で圧縮された順次走査の出力画像圧縮情報に変換する画
    像情報変換装置において、 上記入力画像圧縮情報及び上記出力画像圧縮情報は複数
    の符号化画像からなる画像群を単位として構成され、 上記出力画像圧縮情報におけるシーンチェンジを検出す
    るシーンチェンジ検出手段と、 上記入力画像圧縮情報の各フレームのコンプレキシティ
    を検出するコンプレキシティ検出手段と、 上記コンプレキシティ検出手段で検出したコンプレキシ
    ティに基づいて上記出力画像圧縮情報に画像情報の符号
    量を配分する際に、上記シーンチェンジ検出手段で検出
    したシーンチェンジに応じて上記出力画像圧縮情報にお
    ける画像群の構造を変換する変換手段とを有することを
    特徴とする画像情報変換装置。
  2. 【請求項2】 上記入力画像圧縮情報及び上記出力画像
    圧縮情報の画像群は、フレーム内で符号化されたイント
    ラ符号化画像、表示順序で順方向を参照して符号化され
    た順方向予測符号化画像及び表示順序で順方向及び逆方
    向を参照して符号化された双方向予測符号化画像を含
    み、 上記入力画像圧縮情報の内、イントラ符号化画像及び順
    方向予測符号化画像を通過させるが、双方向予測符号化
    画像を破棄する判別手段を有することを特徴とする請求
    項1記載の画像情報変換装置。
  3. 【請求項3】 上記入力画像圧縮情報及び上記出力画像
    圧縮情報の画像群は、フレーム内で符号化されたイント
    ラ符号化画像、表示順序で順方向を参照して符号化され
    た順方向予測符号化画像及び表示順序で順方向及び逆方
    向を参照して符号化された双方向予測符号化画像を含
    み、 上記変換手段は、上記出力画像圧縮情報において、シー
    ンチェンジを含む画像群の直後の画像群の先頭のイント
    ラ符号化画像を順方向予測符号化画像に変換することを
    特徴とする請求項1記載の画像情報変換装置。
  4. 【請求項4】 上記変換手段は、上記出力画像圧縮情報
    の2画像群に相当する時間に亘って画像情報を遅延させ
    る遅延手段を有することを特徴とする請求項3記載の画
    像情報変換装置。
  5. 【請求項5】 上記シーンチェンジ検出手段は、上記コ
    ンプレキシティ検出手段で検出した上記入力画像圧縮情
    報の各フレームに対するコンプレキシティを利用してシ
    ーンチェンジを検出することを特徴とする請求項1記載
    の画像情報変換装置。
  6. 【請求項6】 上記シーンチェンジ検出手段は、次の式
    が成立すると順方向予測符号化画像におけるシーンチェ
    ンジを検出したと判断することを特徴とする請求項5記
    載の画像情報変換装置。 【数1】 ただし、順方向予測符号化画像に対するコンプレキシテ
    ィをXp、順方向予測符号化画像を含む画像群の先頭の
    イントラ符号化画像に対するコンプレキシティをX
    iと、予め設定された閾値をXthresholdとする。
  7. 【請求項7】 上記シーンチェンジ検出手段は、上記入
    力画像圧縮情報を復号する際に、この入力画像圧縮情報
    を解析して得られた情報に基づいてシーンチェンジを検
    出することを特徴とする請求項1記載の画像情報変換装
    置。
  8. 【請求項8】 上記シーンチェンジ検出手段は、次の式
    が成立すると順方向予測符号化画像におけるシーンチェ
    ンジを検出したと判断することを特徴とする請求項7記
    載の画像情報変換装置。 【数2】 ただし、上記出力画像圧縮情報の各画像を構成する画素
    ブロックについて、フレーム内で符号化された画素ブロ
    ックの枚数をNintraと、予め設定された閾値をX
    thresholdとする。
  9. 【請求項9】 1フレームの画像情報を格納するフレー
    ムバッファを有し、上記シーンチェンジ検出手段は、上
    記フレームバッファに格納された画像情報からシーンチ
    ェンジを検出することを特徴とする請求項1記載の画像
    情報変換装置。
  10. 【請求項10】 上記シーンチェンジ検出手段は、次の
    式が成立すると順方向予測符号化画像におけるシーンチ
    ェンジを検出したと判断することを特徴とする請求項9
    記載の画像情報変換装置。 【数3】 ただし、画像群に対する特徴量をαと、直前の画像群に
    対する特徴量をαprevと、予め設定された閾値をα
    thresholdとする。
  11. 【請求項11】 上記特徴量は、画素値の平均値又は分
    散値であることを特徴とする請求項10記載の画像情報
    変換装置。
  12. 【請求項12】 上記イントラ符号化画像を順方向予測
    符号化画像に変換する際の動きベクトル情報を検出する
    動きベクトル検出手段を有することを特徴とする請求項
    4記載の画像情報変換装置。
  13. 【請求項13】 上記イントラ符号化画像を順方向予測
    符号化画像に変換する際の動きベクトル情報を、全ての
    動きベクトルを0として予測することを特徴とする請求
    項4記載の画像情報変換装置。
  14. 【請求項14】 上記イントラ符号化画像を順方向予測
    符号化画像に変換する際の動きベクトル情報を、当該イ
    ントラ符号化画像の前後の順方向予測符号化画像におけ
    る動きベクトル情報を利用して求めることを特徴とする
    請求項4記載の画像情報変換装置。
  15. 【請求項15】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像におけるシーンチェンジが検
    出された際に、上記イントラ符号化画像の直前又は直後
    の順方向予測符号化画像における動きベクトル情報を、
    上記イントラ符号化画像を順方向予測符号化画像に変換
    する際の動きベクトル情報として用いることを特徴とす
    る請求項14記載の画像情報変換装置。
  16. 【請求項16】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像におけるシーンチェンジが検
    出された際に、上記イントラ符号化画像の直前又は直後
    の順方向予測符号化画像における動きベクトル情報に基
    づいて動きベクトル情報を求め、上記イントラ符号化画
    像を順方向予測符号化画像に変換する際の動きベクトル
    情報として用いることを特徴とする請求項14記載の画
    像情報変換装置。
  17. 【請求項17】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像におけるシーンチェンジが検
    出された際に、複数の画素で構成される各画素ブロック
    に対して、上記イントラ符号化画像の直前又は直後の順
    方向予測符号化画像における動きベクトル情報と、動き
    ベクトルを0とした場合のうち、符号化効率の良いもの
    を、上記イントラ符号化画像を順方向予測符号化画像に
    変換する際の動きベクトル情報として用いることを特徴
    とする請求項14記載の画像情報変換装置。
  18. 【請求項18】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像に
    おけるシーンチェンジが検出された際に、上記イントラ
    符号化画像の直後の順方向予測符号化画像における動き
    ベクトル情報を求め、上記イントラ符号化画像を順方向
    予測符号化画像に変換する際の動きベクトル情報として
    用いることを特徴とする請求項14記載の画像情報変換
    装置。
  19. 【請求項19】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像に
    おいてシーンチェンジが検出された際に、上記イントラ
    符号化画像の直後の順方向予測符号化画像における動き
    ベクトル情報に基づいて動きベクトル情報を求め、上記
    イントラ符号化画像を順方向予測符号化画像に変換する
    際の動きベクトル情報として用いることを特徴とする請
    求項14記載の画像情報変換装置。
  20. 【請求項20】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像に
    おけるシーンチェンジが検出された際に、複数の画素で
    構成される各画素ブロックに対して、上記イントラ符号
    化画像の直後の予測符号化画像における動きベクトル情
    報と、動きベクトルを0としたもののうち、符号化効率
    の良いものを、上記イントラ符号化画像を順方向予測符
    号化画像に変換する際の動きベクトル情報として用いる
    ことを特徴とする請求項14記載の画像情報変換装置。
  21. 【請求項21】 上記出力画像圧縮情報を構成する画像
    群において、イントラ符号化画像を順方向予測符号化画
    像に変換する際のコンプレキシティを、上記イントラ符
    号化画像の前後の順方向予測符号化画像におけるコンプ
    レキシティを利用して求めることを特徴とする請求項1
    4記載の画像情報変換装置。
  22. 【請求項22】 上記出力画像圧縮情報を構成する画像
    群において、変換後の画像群を構成する画像で、変換前
    に順方向予測符号化画像であった、シーンチェンジ後の
    全ての画像におけるコンプレキシティの平均値を、上記
    イントラ符号化画像を順方向予測符号化画像に変換する
    際のコンプレキシティとして用いることを特徴とする請
    求項21記載の画像情報変換装置。
  23. 【請求項23】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像におけるシーンチェンジが検
    出された際に、上記イントラ符号化画像の直前又は直後
    の順方向予測符号化画像におけるコンプレキシティを、
    上記イントラ符号化画像を順方向予測符号化画像に変換
    する際のコンプレキシティとして用いることを特徴とす
    る請求項21記載の画像情報変換装置。
  24. 【請求項24】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像においてシーンチェンジが検
    出された際に、上記イントラ符号化画像の直前及び直後
    の順方向予測符号化画像におけるコンプレキシティの平
    均値を、上記イントラ符号化画像を順方向予測符号化画
    像に変換する際のコンプレキシティとして用いることを
    特徴とする請求項21記載の画像情報変換装置。
  25. 【請求項25】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像においてシーンチェンジが検
    出された際に、上記イントラ符号化画像の変換前のコン
    プレキシティ、及び前後の順方向予測符号化画像におけ
    るコンプレキシティから推定された値を、上記イントラ
    符号化画像を順方向予測符号化画像に変換する際のコン
    プレキシティとして用いることを特徴とする請求項21
    記載の画像情報変換装置。
  26. 【請求項26】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像においてシーンチェンジが検
    出された際に、上記イントラ符号化画像の直後の順方向
    予測符号化画像におけるコンプレキシティを、上記イン
    トラ符号化画像を順方向予測符号化画像に変換する際の
    コンプレキシティとして用いることを特徴とする請求項
    21記載の画像情報装置。
  27. 【請求項27】 上記出力画像圧縮情報を構成する画像
    群において、上記シーンチェンジ検出手段によりイント
    ラ符号化画像の直前に位置する順方向予測符号化画像以
    外の順方向予測符号化画像においてシーンチェンジが検
    出された際に、上記イントラ符号化画像の変換前のコン
    プレキシティ、及び後続の順方向予測符号化画像におけ
    るコンプレキシティから推定された値を、上記イントラ
    符号化画像を順方向予測符号化画像に変換する際のコン
    プレキシティとして用いることを特徴とする請求項21
    記載の画像情報変換装置。
  28. 【請求項28】 第1の圧縮符号化方式で圧縮された飛
    び越し走査の入力画像圧縮情報を、第2の圧縮符号化方
    式で圧縮された順次走査の出力画像圧縮情報に変換する
    画像情報変換方法において、 上記入力画像圧縮情報及び上記出力画像圧縮情報は複数
    の符号化画像からなる画像群を単位として構成され、 上記出力画像圧縮情報におけるシーンチェンジを検出
    し、 上記入力画像圧縮情報の各フレームのコンプレキシティ
    を検出し、 上記コンプレキシティに基づいて上記出力画像圧縮情報
    に画像情報の符号量を配分する際に、上記シーンチェン
    ジに応じて上記出力画像圧縮情報における画像群の構造
    を変換することを特徴とする画像情報変換方法。
  29. 【請求項29】 上記入力画像圧縮情報及び上記出力画
    像圧縮情報の画像群は、フレーム内で符号化されたイン
    トラ符号化画像、表示順序で順方向を参照して符号化さ
    れた順方向予測符号化画像及び表示順序で順方向及び逆
    方向を参照して符号化された双方向予測符号化画像を含
    み、 上記入力画像圧縮情報の内、イントラ符号化画像及び順
    方向予測符号化画像を通過させるが、双方向予測符号化
    画像を破棄することを特徴とする請求項28記載の画像
    情報変換方法。
  30. 【請求項30】 上記入力画像圧縮情報及び上記出力画
    像圧縮情報の画像群は、フレーム内で符号化されたイン
    トラ符号化画像、表示順序で順方向を参照して符号化さ
    れた順方向予測符号化画像及び表示順序で順方向及び逆
    方向を参照して符号化された双方向予測符号化画像を含
    み、 上記出力画像圧縮情報において、シーンチェンジを含む
    画像群の直後の画像群の先頭のイントラ符号化画像を順
    方向予測符号化画像に変換することを特徴とする請求項
    28記載の画像情報変換方法。
  31. 【請求項31】 上記出力画像圧縮情報の2画像群に相
    当する時間に亘って画像情報を遅延させることを特徴と
    する請求項28記載の画像情報変換方法。
  32. 【請求項32】 上記入力画像圧縮情報の各フレームに
    対するコンプレキシティを利用してシーンチェンジを検
    出することを特徴とする請求項28記載の画像情報変換
    方法。
JP2000190056A 2000-06-23 2000-06-23 画像情報変換装置及び方法並びに符号化装置及び方法 Expired - Fee Related JP4517465B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000190056A JP4517465B2 (ja) 2000-06-23 2000-06-23 画像情報変換装置及び方法並びに符号化装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000190056A JP4517465B2 (ja) 2000-06-23 2000-06-23 画像情報変換装置及び方法並びに符号化装置及び方法

Publications (2)

Publication Number Publication Date
JP2002010266A true JP2002010266A (ja) 2002-01-11
JP4517465B2 JP4517465B2 (ja) 2010-08-04

Family

ID=18689588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000190056A Expired - Fee Related JP4517465B2 (ja) 2000-06-23 2000-06-23 画像情報変換装置及び方法並びに符号化装置及び方法

Country Status (1)

Country Link
JP (1) JP4517465B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250159A (ja) * 2002-02-22 2003-09-05 Fujitsu Ltd 動画像処理方法及び動画像処理装置
JP2011061287A (ja) * 2009-09-07 2011-03-24 Brother Industries Ltd 通信制御装置、通信制御方法、および通信制御プログラム
WO2016203539A1 (ja) * 2015-06-16 2016-12-22 三菱電機株式会社 画像符号化方式変換装置及び画像符号化方式変換方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0654315A (ja) * 1992-07-31 1994-02-25 Canon Inc 動画像符号化方法及び装置
JPH0870458A (ja) * 1994-08-29 1996-03-12 Sanyo Electric Co Ltd 符号量制御方法
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置
JPH1066092A (ja) * 1996-04-23 1998-03-06 Sony Corp 映像データ圧縮装置およびその方法
JP2000115786A (ja) * 1998-07-22 2000-04-21 Matsushita Electric Ind Co Ltd 符号化装置、記録装置および符号化方法
JP2000165887A (ja) * 1998-11-30 2000-06-16 Nippon Telegr & Teleph Corp <Ntt> 画像符号化データの再符号化方法およびそのプログラム記録媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0654315A (ja) * 1992-07-31 1994-02-25 Canon Inc 動画像符号化方法及び装置
JPH0870458A (ja) * 1994-08-29 1996-03-12 Sanyo Electric Co Ltd 符号量制御方法
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置
JPH1066092A (ja) * 1996-04-23 1998-03-06 Sony Corp 映像データ圧縮装置およびその方法
JP2000115786A (ja) * 1998-07-22 2000-04-21 Matsushita Electric Ind Co Ltd 符号化装置、記録装置および符号化方法
JP2000165887A (ja) * 1998-11-30 2000-06-16 Nippon Telegr & Teleph Corp <Ntt> 画像符号化データの再符号化方法およびそのプログラム記録媒体

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250159A (ja) * 2002-02-22 2003-09-05 Fujitsu Ltd 動画像処理方法及び動画像処理装置
JP2011061287A (ja) * 2009-09-07 2011-03-24 Brother Industries Ltd 通信制御装置、通信制御方法、および通信制御プログラム
WO2016203539A1 (ja) * 2015-06-16 2016-12-22 三菱電機株式会社 画像符号化方式変換装置及び画像符号化方式変換方法
JPWO2016203539A1 (ja) * 2015-06-16 2017-08-31 三菱電機株式会社 画像符号化方式変換装置及び画像符号化方式変換方法

Also Published As

Publication number Publication date
JP4517465B2 (ja) 2010-08-04

Similar Documents

Publication Publication Date Title
JP4517495B2 (ja) 画像情報変換装置及び画像情報変換方法並びに符号化装置及び符号化方法
US7170938B1 (en) Rate control method for video transcoding
US8374236B2 (en) Method and apparatus for improving the average image refresh rate in a compressed video bitstream
US6870886B2 (en) Method and apparatus for transcoding a digitally compressed high definition television bitstream to a standard definition television bitstream
US7421023B2 (en) Image information conversion apparatus and image information conversion method
EP1725042A1 (en) Fade frame generating for MPEG compressed video data
JPH07264580A (ja) 映像信号伝送方法並びに映像信号送信装置及び映像信号受信装置
US20030174775A1 (en) Encoding and decoding apparatus, method for monitoring images
JP2000236547A (ja) 画像情報変換装置及び画像情報変換方法
JP4517475B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4517453B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2002125227A (ja) 画像情報変換装置及び方法
US6040875A (en) Method to compensate for a fade in a digital video input sequence
JP4608801B2 (ja) 画像情報変換装置及び方法
JP4517465B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
KR100770873B1 (ko) 영상 부호화시 비트율 제어 방법 및 장치
JP4517468B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2001346214A (ja) 画像情報変換装置及び方法
US7012959B2 (en) Picture information conversion method and apparatus
JP2001339720A (ja) 画像情報変換装置及び方法
JP4505992B2 (ja) 画像情報変換装置及び方法
JP4507418B2 (ja) 画像情報変換装置及び画像情報変換方法
Zdepski et al. Overview of the Grand Alliance HDTV video compression system
JP2002232891A (ja) 画像情報変換装置及び方法
JP2001148855A (ja) 画像情報変換装置及び画像情報変換方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081202

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees