JP2001346207A - 画像情報変換装置及び方法 - Google Patents

画像情報変換装置及び方法

Info

Publication number
JP2001346207A
JP2001346207A JP2000160974A JP2000160974A JP2001346207A JP 2001346207 A JP2001346207 A JP 2001346207A JP 2000160974 A JP2000160974 A JP 2000160974A JP 2000160974 A JP2000160974 A JP 2000160974A JP 2001346207 A JP2001346207 A JP 2001346207A
Authority
JP
Japan
Prior art keywords
information
image
vop
complexity
compression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000160974A
Other languages
English (en)
Other versions
JP4517453B2 (ja
Inventor
Kazufumi Sato
数史 佐藤
Kuniaki Takahashi
邦明 高橋
Teruhiko Suzuki
輝彦 鈴木
Yoichi Yagasaki
陽一 矢ケ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000160974A priority Critical patent/JP4517453B2/ja
Publication of JP2001346207A publication Critical patent/JP2001346207A/ja
Application granted granted Critical
Publication of JP4517453B2 publication Critical patent/JP4517453B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 安定した符号量制御を行う。 【解決手段】 飛び越し走査のMPEG2画像圧縮情報
(ビットストリーム)を順次走査のMPEG4画像圧縮
情報(ビットストリーム)に変換するものであって、M
PEG2画像情報復号化部(ビットストリーム)8はM
PEG2画像圧縮情報(ビットストリーム)から情報を
抽出し、コンプレキシティ算出部15はコンプレキシテ
ィを算出し、MPEG4画像情報符号化部(I/P−V
OP)はコンプレキシティに基づいて算出した目標符号
量に応じて符号化を行う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像情報を変換す
る画像情報変換装置及び方法に関し、詳しくは、離散コ
サイン変換等の直交変換と動き補償によって圧縮された
MPEG等の画像情報(ビットストリーム)を衛星放
送、ケーブルTV、インターネット等のネットワークメ
ディアを介して受信する際に、若しくは光、磁気ディス
クのような記憶メディア上で処理する際に用いられる画
像情報を変換する画像情報変換装置及び方法に関する。
【0002】
【従来の技術】近年、画像情報をディジタルとして取り
扱い、効率の高い情報の伝送、蓄積を目的とし、画像情
報特有の冗長性を利用して、離散コサイン変換等の直交
変換と動き補償により圧縮するMPEGなどの画像情報
圧縮方式が提供されている。そして、このような画像情
報圧縮方法に準拠した装置は、放送局などの情報配信、
及び一般家庭における情報受信の双方において普及しつ
つある。
【0003】特に、MPEG2(ISO/IEC 13
818−2)は、飛び越し走査画像及び順次走査画像の
双方、並びに標準解像度画像及び高精細画像を網羅す
る、汎用画像符号化方式として定義されている。
【0004】すなわち、MPEG2符号化圧縮方式によ
れば、例えば、720×480画素を持つ標準解像度の
飛び越し走査画像に4〜8Mbpsの符号量(ビットレ
ート)を割り当て、1920×1088画素を持つ高解
像度の飛び越し走査画像に対して18〜22Mbpsの
符号量(ビットレート)を割り当てることにより、高い
圧縮率と良好な画質の実現が可能となる。
【0005】このようなことから、MPEG2は、プロ
フェッショナル用途及びコンシューマー用途の広範なア
プリケーションに今後とも用いられるものと予想され
る。しかし、MPEG2は、主として放送用に適合する
高画質符号化を対象としており、例えばMPEG1より
低い符号量(ビットレート)、つまりより高い圧縮率の
符号化方式には対応していなかった。
【0006】一方で、近年の携帯端末の普及により、今
後とも高い圧縮率の符号化方式のニーズは高まると思わ
れ、これに対応して、高い圧縮率を有するMPEG4符
号化方式の標準化が行われている。この画像符号化方式
に関しては、1998年12月にISO/IEC 14
496−2として国際標準の規格が承認された。
【0007】ところで、ディジタル放送用に一度符号化
されたMPEG2画像圧縮情報(ビットストリーム)
を、携帯端末上等で処理するのにより適した、より低い
符号量(ビットレート)の画像圧縮情報(ビットストリ
ーム)に変換したいというニーズがある。
【0008】かかる目的を達成するために、“Field-to
-Frame Transcoding with Spatialand Temporal Downsa
mpling”(Susie L Wee,John G.Apostolopoulos, and N
ickFeamster, ICIP 99、以下これを文献1と呼ぶ)にお
いて画像情報変換装置(トランスコーダ)が提供されて
いる。
【0009】この文献1において提供された画像情報変
換装置(トランスコーダ)は、図4に示すように、ピク
チャタイプ判別部1と、MPEG2画像情報復号化部
(I/Pピクチャ)2と、間引き部3と、MPEG4画
像情報符号化部(I/P−VOP)4と、動きベクトル
合成部5と、動きベクトル検出部6とから構成されてい
る。
【0010】この画像情報変換装置には、フレーム内で
符号化されたイントラ符号化画像(Iピクチャ;I)、
表示順序で順方向を参照して予測符号化された順方向予
測符号化画像(Pピクチャ;P)及び表示順序で順方向
及び逆方向を参照して予測符号化された双方向予測符号
化画像(Bピクチャ;B)から構成される飛び越し走査
のMPEG2画像圧縮情報(ビットストリーム)が入力
される。
【0011】このMPEG2画像圧縮情報(ビットスト
リーム)は、ピクチャタイプ判別部1において、I/P
ピクチャに関するものか、Bピクチャに関するものであ
るかを判別され、I/Pピクチャのみ後続のMPEG2
画像情報復号化部(I/Pピクチャ)2に出力され、B
ピクチャは破棄される。
【0012】MPEG2画像情報復号化部(I/Pピク
チャ)2における処理は通常のMPEG2画像情報復号
化装置と同様に、MPEG2画像圧縮情報(ビットスト
リーム)を画像信号に復号するものである。
【0013】MPEG2画像情報復号化部(I/Pピク
チャ)2の出力となる画素値は、間引き部3に入力され
る。間引き部3は、水平方向には1/2の間引き処理を
施し、垂直方向には、第一フィールド若しくは第二フィ
ールドのどちらか一方のデータのみを残し、もう一方を
廃棄する。このような間引きによって、入力となる画像
情報の1/4の大きさを持つ順次走査画像を生成する。
【0014】間引き部3によって生成された順次走査画
像はMPEG4画像情報符号化部(I/P−VOP)4
によってフレーム内で符号化されたI−VOP及び表示
順序で順方向を参照して予測符号化されたP−VOPに
符号化され、MPEG4画像圧縮情報(ビットストリー
ム)として出力される。尚、VOPはVideo object Pla
neを意味し、MPEG2におけるフレームに相当するも
のである。
【0015】その際、入力となるMPEG2画像圧縮情
報(ビットストリーム)中の動きベクトル情報は、動き
ベクトル合成部5において間引き後の画像情報に対する
動きベクトルにマッピングされ、動きベクトル検出部6
においては、動きベクトル合成部5において合成された
動きベクトル値を元に高精度の動きベクトルを検出す
る。
【0016】文献1は、入力となるMPEG2画像圧縮
情報(ビットストリーム)の1/2×1/2の大きさを
持つ順次走査画像のMPEG4画像圧縮情報(ビットス
トリーム)を生成する画像情報変換装置に関して記述し
ている。すなわち、例えば入力となるMPEG2画圧縮
情報(ビットストリーム)がNTSC(National Telev
ision System Committee)の規格に準拠したものであっ
た場合、出力となるMPEG4画像圧縮情報はSIFサ
イズ(352×240画素)ということになる。
【0017】ところで、図4に示した画像情報変換装置
においては、MPEG4画像情報符号化部(I/P−V
OP)4における符号量制御が、出力となるMPEG4
画像圧縮情報(ビットストリーム)における画質を決定
する大きな要因となる。ISO/IEC 14496−
2においては、符号量制御の方式に関しては特に規定さ
れておらず、各ベンダが、アプリケーションに応じて、
演算量及び出力画質の観点から最適と考えられる方式を
用いることが出来る。以下では、代表的な符号量制御方
式として、MPEG2 Test Model 5(IS
O/IEC JTC1/SC29/WG11 N040
0)で述べられている方式について述べる。
【0018】この符号量制御のフローを図5に示すフロ
ーを用いて説明する。最初のステップS11において、
画像情報符号化部(I/P−VOP)4は、目標符号量
(ターゲットビットレート)、及び、GOP(group o
f pictures)構成を入力変数として、各ピクチャヘのビ
ット配分を行う。ここで、GOPとは、ランダムアクセ
ス可能なピクチャの組である。
【0019】すなわち、ステップS11において、画像
情報符号化部(I/P−VOP)4は、GOP内の各ピ
クチャに対する割り当てビット量を、割り当て対象ピク
チャを含めGOP内でまだ復号化されていないピクチャ
に対して割り当てられるビット量(以下、これをRとす
る)を基に配分する。この配分をGOP内の符号化ピク
チャ順に繰り返す。その際、以下に述べる2つの仮定を
用いて各ピクチャヘの符号量割り当てを行う。
【0020】まず、第一に、各ピクチャを符号化する際
に用いる平均量子化スケールコードと発生符号量の積
は、画面が変化しない限り、ピクチャタイプ毎に一定値
となると仮定する。そこで、各ピクチャを符号化した
後、各ピクチャタイプ毎に、画面の複雑さを示す変数X
i,Xp,Xb(grobal complelxity measure)を次の式
(1)によって更新する。
【0021】
【数8】
【0022】ここでSi,Sp,Sbはピクチャ符号化時
の発生符号ビット量であり、Qi,Q p,Qbは、ピクチ
ャ符号化時の平均量子化スケールコードである。また、
初期値は、目標符号量(ターゲットビットレート)bi
t_rate[bits/sec]を用いて、式(2)
で示される値とする。
【0023】
【数9】
【0024】第二に、Iピクチャの量子化スケールコー
ドを基準としたP,Bピクチャの量子化スケールコード
の比率Kp,Kbが式(3)に定めた値となる場合に常に
全体の画質が最適化されると仮定する。
【0025】
【数10】
【0026】すなわち、Bピクチャの量子化スケールコ
ードは、I,Pピクチャの量子化スケールコードの常に
1.4倍としている。これは、BピクチャをI,Pピク
チャに比較して多少粗めに符号化することにより、Bピ
クチャで節約できる符号量をI,Pピクチャに加える
と、I,Pピクチャの画質が改善され、これを参照する
Bピクチャの画質も改善されることを想定している。
【0027】上記2つの仮定より、GOPの各ピクチャ
に対する割り当てビット量(Ti,Tp,Tb)は式
(4)に示す値とする。
【0028】
【数11】
【0029】ここでNp,NbはGOP内でまだ符号化さ
れていないP,Bピクチャの枚数である。
【0030】このようにして求めた割当符号量を基にし
て、各ピクチャをステップS11,S12に従って符号
化する毎に、GOP内の未符号化ピクチャに対して割り
当てられるビット量Rを式(5)で更新する。
【0031】
【数12】
【0032】また、GOPの最初のピクチャを符号化す
る際には、式(6)によりRを更新する。
【0033】
【数13】
【0034】NはGOP内のピクチャ数である。また、
シーケンスの最初でのRの初期値は0とする。
【0035】次に、ステップS12において、画像情報
符号化装置(I/P−VOP)4は、仮想バッファを用
いたレート制御を行う。すなわち、ステップS12にお
いて、画像情報符号化装置(I/P−VOP)4は、ス
テップS11で式(4)により求められた各ピクチャに
対する割当ビット量(Ti,Tp,Tb)と、実際の発生
符号量を一致させるため、各ピクチャ毎に独立に設定し
た3種類の仮想バッファの容量を基に、量子化スケール
コードを、マクロブロック単位のフィードバック制御で
求める。
【0036】まず、j番目のマクロブロック符号化に先
立ち、仮想バッファの占有量を式(7)によって求め
る。
【0037】
【数14】
【0038】ここで、d0 i,d0 p,d0 bは各仮想バッフ
ァの初期占有量、Bjはピクチャの先頭からj番目のマ
クロブロックまでの発生ビット量、MB_cntは1ピ
クチャ内のマクロブロック数である。各ピクチャ符号化
終了時の仮想バッファ占有量(dMB_cnt i,dMB_cnt p
MB_cnt b)は、それぞれ同一のピクチャタイプで、次
のピクチャに対する仮想バッファ占有量の初期値
(d0 i,d0 p,d0 b)として用いられる。
【0039】次に、j番目のマクロブロックに対する量
子化スケールコードを式(8)により計算する。
【0040】
【数15】
【0041】ここで、rはリアクションパラメーターと
呼ばれるフィードバックループの応答を制御する変数で
あり、式(9)により与えられる。
【0042】
【数16】
【0043】尚、符号化開始時における仮想バッファの
初期値は式(10)で与えられる。
【0044】
【数17】
【0045】最後に、ステップS13において、画像情
報符号化装置(I/P−VOP)4は、視覚特性を考慮
したマクロブロック毎の適応量子化を行う。すなわち、
ステップS13において、画像情報符号化部(I/P−
VOP)4は、ステップS12で求められた量子化スケ
ールコードを、視覚的に劣化の目立ちやすい平坦部でよ
り細かく量子化し、劣化の比較的目立ちにくい絵柄の複
雑な部分で粗く量子化するように、各マクロブロック毎
のアクティビティと呼ばれる変数によって変化させてい
る。
【0046】アクティビティは、原画の輝度信号画素値
を用い、フレーム離散コサイン変換モードにおける4個
のブロックと、フィールド離散コサイン変換モードにお
ける4個のブロックとの、合計8ブロックの画素値を用
いて式(11)で与えられる。
【0047】
【数18】
【0048】ここで、Pkは原画の輝度信号ブロック内
画素値である。式(11)において最小値を採るのは、
マクロブロック内の一部だけでも平坦部分のある場合に
は量子化を細かくするためである。
【0049】更に、式(12)によりその値が0.5〜
2の範囲を取る正規化アクティビティNactjを求め
る。
【0050】
【数19】
【0051】ここで、avg_actは、直前に符号化
したピクチャでのactjの平均値である。
【0052】視覚特性を考慮した量子化スケールコード
mquantjはステップS12で得られた量子化スケ
ールコードQjを基に式(13)で与えられる。
【0053】
【数20】
【0054】MPEG2 Test Model 5にお
いて定められた上記符号量制御方式には以下の制限のあ
ることが知られており、実際の制御を行う場合には、こ
れらの制限に対する対策が必要となる。すなわち、第一
の制限は、第一ステップS11はシーンチェンジに対応
出来ず、また、シーンチェンジ後には第三ステップS1
3で用いる媒介変数avg_actが間違った値となる
ということである。第二の制限は、MPEG2及びMP
EG4において規定されているVBV(VideoBuffer Ve
rifier)の拘束条件を満たす保証がないことである。
【0055】ところで、文献”MPEG圧縮効率の理論
解析とその符号量制御への応用”(信学技報、IE−9
5, DSP95−10, 1995年5月、以下これを
文献2と呼ぶ)でも述べられている通り、Test M
odel 5で定められている符号量制御方式は、MP
EG−2画像符号化装置において、必ずしも良好な画質
を与えるものではない。
【0056】この文献2では、特に、良好な画質を与え
るための、GOP内における各フレーム毎の最適な符号
量配分を与える手法として以下の方式を提案している。
すなわち、NI,NP,NBを、GOP内においてまだ符
号化されていないI,P,Bピクチャの枚数として、こ
れらに割り当てられる符号量をRI,RP,RBとする。
また、式(14)で与えられる固定レート条件の下に、
それぞれにおける量子化ステップサイズをQI,QP,Q
Bとし、mを、量子化ステップサイズと再生誤差分散を
関係付ける次数(すなわち、量子化ステップサイズをm
乗したものの平均値の最小化が再生誤差分散を最低にす
ると仮定する)とする。そして、式(15)を最小にす
ることを考える。
【0057】
【数21】
【0058】
【数22】
【0059】尚、それぞれのフレームにおける平均量子
化スケールQ、及び符号量Rは、Test Model
5でも用いられる媒体変数である各フレームのコンプレ
キシティXと、式(16)のように関係づけられる。
【0060】
【数23】
【0061】式(16)の関係も考慮しつつ、式(1
4)の拘束条件の元に式(15)を最小にするRI
P,RBを、ラグランジェの未定乗数法を用いて算出す
ると、最適なRI,RP,RBとして以下の式のような値
が求められる。
【0062】
【数24】
【0063】α=1として、式(17)と、MPEG2
Test Model 5で定められた符号量制御方式
における式(4)との関係は以下の通りであると言え
る。すなわち、式(17)は、符号量制御の媒介変数で
あるKp,Kbを、各フレームのコンプレキシティXI
P,XBに応じて、式(18)のように適応的に算出し
ていることに他ならない。
【0064】
【数25】
【0065】文献2では、1/(1+m)の値として、
0.6〜1.2程度に設定することで良好な画質が得ら
れることが示されている。
【0066】
【発明が解決しようとする課題】図4に示した画像情報
変換装置内で、MPEG4画像情報符号化装置(I/P
−VOP)4において、MPEG2 Test Mod
e1 5において定められたのと同様な手法を用いて符
号量制御を行った場合、シーンチェンジ等に起因する、
GOP内でのコンプレキシティの変化に対応することが
不可能であるため、安定した符号量制御が困難となり、
画質劣化を引き起こすことが考えられる。
【0067】本発明は、上述の実情に鑑みて提案される
ものであって、画像情報を変換する画像情報変換装置及
び方法において、シーンチェンジ等に起因する、GOP
内でのコンプレキシティの変化に対応し、安定した符号
量制御を行うような画像情報変換装置及び方法を提供す
ることを目的とする。
【0068】
【課題を解決するための手段】上述の課題を解決するた
めに、本発明にかかる画像情報変換装置は、第1の圧縮
符号化方式で圧縮された飛び越し走査の入力画像圧縮情
報を、第2の圧縮符号化方式で圧縮された順次走査の出
力画像圧縮情報に変換する画像情報変換装置において、
上記入力画像圧縮情報のフレームごとの情報を抽出する
抽出手段と、この抽出手段により抽出された情報に基づ
いて上記出力画像圧縮情報のフレームごとの目標符号量
を決定し、この目標符号量を用いて上記出力画像圧縮情
報への符号化を行う符号化手段とを有するものである。
【0069】本発明は、飛び越し走査のMPEG2画像
圧縮情報(ビットストリーム)を入力画像圧縮情報と
し、順次操作のMPEG4画像圧縮情報(ビットストリ
ーム)を出力画像圧縮情報とする。これらMPEG2画
像圧縮情報(ビットストリーム)及びMPEG4画像圧
縮情報は、複数の画素から構成される画素ブロックすな
わちマクロブロックから構成されている。
【0070】すなわち、本発明は、飛び越し走査のMP
EG2画像情報圧縮情報(ビットストリーム)を入力と
し、ピクチャタイプ判別部、MPEG2画像情報復号化
部(I/Pピクチャ)、間引き部、遅延バッファ、MP
EG4画像情報符号化部(I/P−VOP)、動きベク
トル合成部、動きベクトル検出部、情報バッファ、コン
プレキシティ算出部を兼ね備え、入力となるMPEG2
画像圧縮情報(ビットストリーム)における各フレーム
に対するコンプレキシティ情報を利用して、各フレーム
に対する符号量割当が画像に対して最適化された状態
で、順次走査のMPEG4画像圧縮情報(ビットストリ
ーム)を出力するものである。なお、遅延バッファを持
たず、圧縮情報解析部を兼ね備える装置構成も可能であ
る。
【0071】上記構成において、ピクチャタイプ判別部
は、入力となるMPEG2画像圧縮情報(ビットストリ
ーム)内で、I/Pピクチャに関するものだけ残してB
ピクチャに関するものは廃棄する。MPEG2画像情報
復号化部(I/Pピクチャ)は、ピクチャタイプ判別部
の出力となる、I/Pピクチャに関する圧縮情報(ビッ
トストリーム)を、水平方向垂直方向ともに、8次の離
散コサイン係数全てを用いた、若しくはその低域成分の
みを用いた復号処理を行う。間引き部は、MPEG2画
像情報復号化装置(I/Pピクチャ)の出力である画像
情報の第一フィールド若しくは第二ワイールドのみを取
り出して順次走査画像への変換を行うと同時に、所望の
画枠サイズに変換するためのダウンサンプリングを行
う。遅延バッファは、1GOV(Group of V
OP)分の遅延を実現するための画像情報の蓄積を行
う。MPEG4画像情報符号化部(I/P−VOP)
は、遅延バッファの出力となる画像情報をMPEG4符
号化方式により符号化する。動きベクトル合成部は、M
PEG2画像情報復号化部(I/Pピクチャ)で検出さ
れた、入力となる画像圧縮情報(ビットストリーム)内
の動きベクトル値を元に、走査変換後の画像データに対
する動きベクトル値にマッピングを行う。動きベクトル
検出部は、動きベクトル合成部から出力される動きベク
トル値を元に、高精度の動きベクトル検出を行う。情報
バッファにおいては、MPEG2画像情報復号化部(I
/Pピクチャ)において復号処理を行う際に得られる、
各フレームに割り当てられた符号量(ビット数)、及び
各フレームにおける平均量子化スケールを格納する。コ
ンプレキシティ算出部においては、情報バッファに格納
された、入力となる画像圧縮情報(ビットストリーム)
における、各フレームに割り当てられた符号量(ビット
数)、及び各フレームにおける平均量子化スケールか
ら、各フレームに対するコンプレキシティを算出し、M
PEG4画像情報符号化部(I/P−VOP)へ、符号
量制御のための媒介変数として伝送する。
【0072】
【発明の実施の形態】以下、図面を参照し、本発明の実
施の形態について、図面を参照して説明する。
【0073】まず、本発明の第1の実施の形態の画像情
報変換装置について説明する。
【0074】この画像情報変換装置は、図1に示すよう
に、ピクチャタイプ判別部7と、MPEG2画像情報復
号化部(I/Pピクチャ)8と、間引き部9と、遅延バ
ッファ10と、MPEG4画像情報符号化部(I/P−
VOP)11と、動きベクトル合成部12と、動きベク
トル検出部13と、情報バッファ14と、コンプレキシ
ティ算出部15とを有している。
【0075】この画像情報変換装置には、フレーム内で
符号化されたイントラ符号化画像(Iピクチャ;I)、
表示順序で順方向を参照して予測符号化された順方向予
測符号化画像(Pピクチャ;P)及び表示順序で順方向
及び逆方向を参照して予測符号化された双方向予測符号
化画像(Bピクチャ;B)から構成される飛び越し走査
のMPEG2画像圧縮情報(ビットストリーム)が入力
される。
【0076】このMPEG2画像圧縮情報(ビットスト
リーム)は、ピクチャタイプ判別部7において、I/P
ピクチャに関するものか、Bピクチャに関するものであ
るかを判別され、I/Pピクチャのみ後続のMPEG2
画像情報復号化部(I/Pピクチャ)8に出力され、B
ピクチャは破棄される。
【0077】MPEG2画像情報復号化部(I/Pピク
チャ)8は、MPEG2画像圧縮情報(ビットストリー
ム)を画像信号に復号する。ここで、Bピクチャに関す
るデータはピクチャタイプ判別部7において廃棄されて
いるので、MPEG2画像情報復号化部(I/Pピクチ
ャ)1は、I/Pピクチャのみを復号化出来る機能を有
すればよい。
【0078】また、MPEG2画像情報復号化装置(I
/Pピクチャ)8は、MPEG2画像圧縮情報(ビット
ストリーム)から抽出手段として情報を抽出し、復号処
理に用いられた量子化スケールのフレーム全体に渡る平
均値Q、及び、MPEG2画像圧縮情報(ビットストリ
ーム)において当該フレームに割り当てられた総符号量
(ビット数)Bを情報バッファ14に格納する。
【0079】MPEG2画像情報復号化部(I/Pピク
チャ)8の出力となる画素値は、間引き部9に入力され
る。間引き部9は、水平方向には1/2の間引き処理を
施し、垂直方向には、第一フィールド若しくは第二フィ
ールドのどちらか一方のデータのみを残し、もう一方を
廃棄する。このような間引きによって、入力となる画像
情報の1/4の大きさを持つ順次走査画像を生成する。
【0080】ところで、間引き部9から出力された画像
をMPEG4画像情報符号化部(I/P−VOP)11
において16×16画素で構成されるマクロブロック単
位で符号化するためには、水平方向、垂直方向ともに、
その画素数が16の倍数である必要が有る。間引き部9
においては、このための画素の補填若しくは廃棄を、間
引きと同時に行う。
【0081】例えば、入力となるMPEG2画像圧縮情
報(ビットストリーム)がNTSC(National Televis
ion System Committee)の規格に準拠したもの、つまり
720×480画素、30Hzの飛び越し走査画像であ
った場合、間引き後の画枠はSIF(360×240画
素)サイズということになる。この画像に対して、間引
き部3において、例えば水平方向の右端若しくは左端の
8ラインを廃棄して352×240画素とする。
【0082】なお、間引き部9における動作の変更を行
うことで、これ以外の画枠、例えば上記の例で、約1/
4×1/4の画枠であるQSIF(176×112画
素)サイズの画像に変換することも可能である。
【0083】更に、上述した文献1は、MPEG2画像
情報復号化部(I/Pピクチャ)8における処理とし
て、水平方向、垂直方向それぞれについて、入力となる
MPEG2画像圧縮情報(ビットストリーム)内の、8
次の離散コサイン変換係数すべてを用いた復号処理を行
う画像情報変換装置について述べられているが、図1に
示した装置に関してはその限りではなく、水平方向の
み、或いは水平方向、垂直方向ともに、8次の離散コサ
イン変換係数のうちの低域成分のみを用いた復号処理を
行い、画質劣化を最小限に抑えながら、復号処理に伴う
演算量とビデオメモリ容量を削減することが可能であ
る。
【0084】間引き部9によって生成された順次走査画
像は遅延バッファ10によって1フレーム遅延された
後、MPEG4画像情報符号化部(I/P−VOP)1
1によってフレーム内で符号化されたI−VOP及び表
示順序で順方向を参照して予測符号化されたP−VOP
に符号化され、MPEG4画像圧縮情報(ビットストリ
ーム)として出力される。
【0085】その際、入力となるMPEG2画像圧縮情
報(ビットストリーム)中の動きベクトル情報は、動き
ベクトル合成部12において間引き後の画像情報に対す
る動きベクトルにマッピングされ、動きベクトル検出部
13においては、動きベクトル合成部12において合成
された動きベクトル値を元に高精度の動きベクトルを検
出する。
【0086】尚、VOPはVideo Object Planeを意味
し、MPEG2におけるフレームに相当するものであ
る。また、I−VOPはIピクチャに対応するイントラ
符号化VOP、P−VOPはPピクチャに対応する順方
向予測符号化VOP、B−VOPはBピクチャに対応す
る双方向予測符号化VOPである。
【0087】この画像情報変換装置のコンプレキシテイ
算出部15においては、情報バッファ14に格納された
フレーム毎の情報Q及びBから、当該フレームに対する
コンプレキシティXを式(19)により算出する。
【0088】
【数26】
【0089】式(19)によって算出された、当該フレ
ームに対するコンプレキシティXは、1GOV分バッフ
ァリングされた後、MPEG4画像情報符号化部(I/
P−VOP)11に符号量制御のための媒介変数として
伝送される。このため、1GOV分の遅延が必要とな
る。この遅延は遅延バッファ10を用いて実現される。
【0090】以下では、式(19)において算出され
た、GOV内の各フレームに対するコンプレキシティX
が、MPEG4画像情報符号化部(I/P−VOP)1
1においてどのように用いられるかについて述べる。
尚、以下では、ピクチャタイプ判別部7が装置内に存在
せず、フレームレートの変換を行わない場合をも考慮す
ることにする。
【0091】式(18)によつて求められたKp,Kb
意味するところは、I−VOPに対する理想的な平均量
子化スケールQi_idealに対するP−VOP/B−VO
Pに対する理想的な平均量子化スケールQp_ideal,Q
b_idealの比が、式(20)によって与えられるという
ことである。
【0092】
【数27】
【0093】MPEG2 Test Mode1 5にお
いては、式(18)のように適応的にKp,Kbを算出す
ることを行わず、式(3)に示したような固定値を用い
ている。
【0094】式(18)及び式(20)から、或るVO
P1と、或るVOP2に対するコンプレキシテイをそれ
ぞれX1,X2とし、理想的な量子化スケールをQ
1_ideal,Q2_idealとすれば、式(21)となる。
【0095】
【数28】
【0096】或いはまた、MPEG2 Test Mo
de1 5のように、式(3)に示した固定値を用いた
い場合には、式(21)に代えて、式(22)とすれば
良い。
【0097】
【数29】
【0098】今、GOV内の未符号化されたVOPに対
して割り当てられる総符号量(ビット数)をRとし、R
が各VOPに対して、R1,R2,…Rnといったように
割り当てられる時、当該GOVに対する画質が最適化さ
れるものとする。ここでRとR1,R2,…Rnの間には
式(23)という関係式が成り立つ。
【0099】
【数30】
【0100】或るVOPkに対する平均量子化スケール
k、割当符号量Rk、コンプレキシテイXkの間には式
(24)なる関係があることにも注意して、式(23)
を変形すれば式(25)となる。
【0101】
【数31】
【0102】
【数32】
【0103】式(25)において、K(X1,X2)に関
しては、式(21)に示した値を用いても、式(22)
に示した値を用いても良いが、前者の方が、画像に応じ
た、より最適な符号量配分を実現することが可能であ
る。その際、1/(1+m)の値を1.0と設定するこ
とで、指数演算を行うことが不要となり、高速な実行が
可能となる。また、1/(1+m)の値を1.0以外に
設定する場合にも、予めテーブルを持ち、これを参照し
て指数演算を行うことで高速な実行が可能となる。
【0104】式(25)における各VOPに対するコン
プレキシティXkはMPEG4画像符号化によるもので
あるが、MPEG2画像符号化による各フレームに対す
るコンプレキシティと、MPEG4画像符号化による各
フレームに対するコンプレキシティが等しいと仮定すれ
ば、コンプレキシティ算出装置15に格納されたXk
用いることで、式(25)によって当該VOPに対する
目標符号量を算出することが可能である。
【0105】このように、式(25)を用いた当該VO
Pに対する目標量算出に至る一連の手順を、図2を参照
して説明する。
【0106】最初のステップS21においては、MPE
G2画像情報復号化装置(I/Pピクチャ)8は、入力
するMPEG2画像圧縮情報(ビットストリーム)につ
いて、GOP内の各フレームに対する平均量子化スケー
ルQ、及び割当符号量(ビット数)Bを抽出し、情報バ
ッファ14に格納する。
【0107】ステップS22においては、コンプレキシ
ティ算出装置15は、情報バッファ14に格納した平均
量子化スケールQ及び割当符号量(ビット数)Bから、
式(19)を用いてコンプレキシティXを算出する。
【0108】ステップS23においては、MPEG4画
像情報符号化部(I/P−VOP)11は、コンプレキ
シティに応じた目標符号量(ターゲットビット)を算出
する。
【0109】MPEG2 Test Model 5で
は、GOP内におけるI,P,Bピクチャに対するコン
プレキシティXi, Xp, Xbは一定であると仮定して
いるが、実際にはシーンチェンジをGOP内に含む場合
や、GOP内で背景が著しく変化する場合等ではこの仮
定が成り立たず、安定した符号量制御の妨げとなり、画
質劣化の要因ともなる。図1に示した画像情報変換装置
においては、そのような場合にも、入力となるMPEG
2画像圧縮情報(ビットストリーム)における、各フレ
ームに対するコンプレキシテイに基づいた符号量制御を
行うため、画質劣化を引き起こすことなく、安定した符
号量制御を行うことが可能である。
【0110】次に、本発明の第2の実施の形態となる画
像情報変換装置について説明する。
【0111】この画像情報変換装置は、図3に示すよう
に、ピクチャタイプ判別部16と、圧縮情報解析部17
と、MPEG2画像情報復号化部(I/Pピクチャ)1
8と、間引き部19と、MPEG4画像情報符号化部
(I/P−VOP)20と、動きベクトル合成部21
と、動きベクトル検出部22と、情報バッファ23と、
コンプレキシティ算出部24とを有している。
【0112】図1に示した画像情報変換装置と、図3に
示した画像情報変換装置の違いは、図1に示した画像情
報変換装置においては、遅延バッファ10を用いて1G
OV分の遅延を実現するのに対し、図3に示した画像情
報変換装置においては、遅延バッファを持たず、圧縮情
報解析装置17によって、入力となるMPEG2画像圧
縮情報(ビットストリーム)を1GOP分先読みし、各
フレームに対するコンプレキシティXを、MPEG4画
像符号化に先立って算出する点にある。
【0113】他の部分については、上述した第1の実施
の形態の画像情報変換装置と同様であるので、説明を省
略する。
【0114】上述の本実施の形態においては、MPEG
2画像情報復号化部(I/Pピクチャ)において抽出さ
れる、入力となるMPEG2画像圧縮情報(ビットスト
リーム)内の情報をMPEG4画像情報符号化部(I/
P−VOP)4において利用することにより、安定した
符号量制御を行うことを可能にしている。
【0115】以上、入力としてMPEG2画像圧縮情報
(ビットストリーム)を、出力としてMPEG4画像圧
縮情報(ビットストリーム)を対象としてきたが、入
力、出力ともこれに限らず、例えばMPEG−1やH.
263などの画像圧縮情報(ビットストリーム)でも良
い。
【0116】
【発明の効果】以上述べてきた様に、本発明は、飛び越
し走査のMPEG2画像圧縮情報(ビットストリーム)
を入力とし、入力となるMPEG2画像圧縮情報(ビッ
トストリーム)における各フレームに対するコンプレキ
シティ情報を利用して、各フレームに対する符号量割当
が画像に対して最適化された状態で、順次走査のMPE
G4画像圧縮情報(ビットストリーム)に変換して出力
する手段を提供するものである。
【0117】本発明は、ディーンチェンジ等に起因す
る、GOP内でのコンプレキシティの変化に対応し、安
定した符号量制御を行うことにより、画質を低減させる
ことがない。
【図面の簡単な説明】
【図1】第1の実施の形態の画像情報変換装置の構成を
示すブロック図である。
【図2】符号量制御の動作原理を示すフローチャートで
ある。
【図3】第2の実施の形態の画像情報変換装置の構成を
示すブロック図である。
【図4】従来の画像情報変換装置の構成を示すブロック
図である。
【図5】従来の符号量制御方式の動作原理を示すフロー
チャートである。
【符号の説明】
7 ピクチャタイプ判別部、8 MPEG2画像情報復
号化部(I/Pピクチャ)、9 間引き部、10 遅延
バッファ、11 MPEG4画像情報符号化部(I/P
−VOP)
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鈴木 輝彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 矢ケ崎 陽一 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 KK34 LA07 LB05 MA00 NN21 PP05 PP06 PP07 SS07 SS08 SS10 TA06 TA07 TA46 TB04 TC06 TC38 TD15 TD16 UA02 UA34 5C063 AA07 AB03 BA04 CA05 CA23 CA36 EB45

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 第1の圧縮符号化方式で圧縮された飛び
    越し走査の入力画像圧縮情報を、第2の圧縮符号化方式
    で圧縮された順次走査の出力画像圧縮情報に変換する画
    像情報変換装置において、 上記入力画像圧縮情報のフレームごとの情報を抽出する
    抽出手段と、 この抽出手段により抽出された情報に基づいて上記出力
    画像圧縮情報のフレームごとの目標符号量を決定し、こ
    の目標符号量を用いて上記出力画像圧縮情報への符号化
    を行う符号化手段とを有することを特徴とする画像情報
    変換装置。
  2. 【請求項2】 上記抽出手段は、次の式で与えられるコ
    ンプレキシティを上記入力画像圧縮情報のフレームごと
    の情報として抽出することを特徴とする請求項1記載の
    画像情報変換装置。 【数1】 ただし、上記入力画像圧縮情報の各フレームに対する平
    均量子化スケールをQ、割当ビット量をB、コンプレキ
    シティをXとする。
  3. 【請求項3】 上記第1の圧縮符号化方式はMPEG
    2、上記第2の圧縮符号化方式はMPEG4であり、上
    記出力画像圧縮情報の画像に相当するVOPの内の第1
    のVOP1の目標符号量を次の式により与えることを特
    徴とする請求項2記載の画像情報変換装置。 【数2】 ただし、VOP1,VOP2,…VOPnに対するコンプ
    レキシティをそれぞれX1,X2,…Xnと、コンプレキ
    シティXj(j=1,2,…n),Xk(k=1,2,…
    n)を変数とする関数をK(Xj,Xk)と、VOP1
    対する目標符号量をR1とする。
  4. 【請求項4】 上記関数を次の式により与えることを特
    徴とする請求項3記載の画像情報変換装置。 【数3】
  5. 【請求項5】 上記関数の指数1/(1+m)の値を
    0.6〜1.2の値にすることを特徴とする請求項4記
    載の画像情報変換装置。
  6. 【請求項6】 上記関数の指数1/(1+m)の値を
    1.0とすることを特徴とする請求項5記載の画像情報
    変換装置。
  7. 【請求項7】 上記関数の演算は、予め準備したテーブ
    ルを参照して行うことを特徴とする請求項4記載の画像
    情報変換装置。
  8. 【請求項8】 上記関数を次の式により与えることを特
    徴とする請求項3記載の画像情報変換装置。 【数4】
  9. 【請求項9】 上記第1の圧縮符号化方式はMPEG
    2、上記第2の圧縮符号化方式はMPEG4であり、上
    記出力画像圧縮情報の画像に相当するVOPから構成さ
    れる1GOV分の遅延バッファと、 上記抽出手段によって抽出されたコンプレキシティを1
    GOV分だけ蓄積する情報バッファとを有し、 上記符号化手段は、上記情報バッファから送られたコン
    プレキシティを用いて上記遅延バッファを介して送られ
    た画像情報を符号化することを特徴とする請求項2記載
    の画像情報変換装置。
  10. 【請求項10】 上記第1の圧縮符号化方式はMPEG
    2、上記第2の圧縮符号化方式はMPEG4であり、上
    記抽出手段は、上記入力画像圧縮情報の画像に相当する
    ピクチャから構成される1GOP分を予め解析して各フ
    レームに対するコンプレキシティを抽出し、 上記符号化手段は、上記コンプレキシティを用いて符号
    化を行うことを特徴とする請求項2記載の画像情報変換
    装置。
  11. 【請求項11】 上記入力画像圧縮情報を構成する、フ
    レーム内で符号化されたイントラ符号化画像、表示順序
    で順方向を参照して予測符号化された順方向予測符号化
    画像及び表示順序で順方向及び逆方向を参照して予測符
    号化された双方向予測符号化画像の種類を判別し、上記
    イントラ符号化画像及び上記順方向予測符号化画像は通
    過させるが上記双方向予測符号化画像を破棄してフレー
    ムレートを変換する変換手段を有することを特徴とする
    請求項1記載の画像情報変換装置。
  12. 【請求項12】 第1の圧縮符号化方式で圧縮された飛
    び越し走査の入力画像圧縮情報を、第2の圧縮符号化方
    式で圧縮された順次走査の出力画像圧縮情報に変換する
    画像情報変換方法において、 上記入力画像圧縮情報のフレームごとの情報を抽出する
    ステップと、 抽出された情報に基づいて上記出力画像圧縮情報のフレ
    ームごとの目標符号量を用いて符号化するステップとを
    有することを特徴とする画像情報変換方法。
  13. 【請求項13】 次の式で与えられるコンプレキシティ
    を上記入力画像圧縮情報のフレームごとの情報として抽
    出することを特徴とする請求項12記載の画像情報変換
    方法。 【数5】 ただし、上記入力画像圧縮情報の各フレームに対する平
    均量子化スケールをQ、割当ビット量をB、コンプレキ
    シティをXとする。
  14. 【請求項14】 上記第1の圧縮符号化方式はMPEG
    2、上記第2の符号化方式はMPEG4であり、上記出
    力画像圧縮情報の画像に相当するVOPの内の第1のV
    OP1の目標符号量を次の式により与えることを特徴と
    する請求項13記載の画像情報変換方法。 【数6】 ただし、VOP1,VOP2,…VOPnに対するコンプ
    レキシティをそれぞれX1,X2,…Xnと、コンプレキ
    シティXj(j=1,2,…n),Xk(k=1,2,…
    n)を変数とする関数をK(Xj,Xk)と、VOP1
    対する目標符号量をR1とする。
  15. 【請求項15】 上記関数を次の式により与えることを
    特徴とする請求項14記載の画像情報変換方法。 【数7】
JP2000160974A 2000-05-30 2000-05-30 画像情報変換装置及び方法並びに符号化装置及び方法 Expired - Fee Related JP4517453B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000160974A JP4517453B2 (ja) 2000-05-30 2000-05-30 画像情報変換装置及び方法並びに符号化装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000160974A JP4517453B2 (ja) 2000-05-30 2000-05-30 画像情報変換装置及び方法並びに符号化装置及び方法

Publications (2)

Publication Number Publication Date
JP2001346207A true JP2001346207A (ja) 2001-12-14
JP4517453B2 JP4517453B2 (ja) 2010-08-04

Family

ID=18665088

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000160974A Expired - Fee Related JP4517453B2 (ja) 2000-05-30 2000-05-30 画像情報変換装置及び方法並びに符号化装置及び方法

Country Status (1)

Country Link
JP (1) JP4517453B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007036463A (ja) * 2005-07-25 2007-02-08 Sony Corp 画像処理装置、画像処理方法およびプログラム
JP2012110039A (ja) * 2005-09-27 2012-06-07 Qualcomm Inc 時間領域境界とのデータアライメントに関する方法及び装置
US8625914B2 (en) 2013-02-04 2014-01-07 Sony Corporation Image processing system, image processing method and program
US8948260B2 (en) 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US9131164B2 (en) 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus
US9197912B2 (en) 2005-03-10 2015-11-24 Qualcomm Incorporated Content classification for multimedia processing

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9197912B2 (en) 2005-03-10 2015-11-24 Qualcomm Incorporated Content classification for multimedia processing
US8923637B2 (en) 2005-07-25 2014-12-30 Sony Corporation Image processing system, image processing method and program
US10681385B2 (en) 2005-07-25 2020-06-09 Velos Media, Llc Image processing system, image processing method and program
KR101241728B1 (ko) 2005-07-25 2013-03-11 소니 주식회사 화상 처리 장치, 화상 처리 방법 및 프로그램을 기록한 컴퓨터 판독가능 기록 매체
US8396307B2 (en) 2005-07-25 2013-03-12 Sony Corporation Image processing system, image processing method and program
US10271070B2 (en) 2005-07-25 2019-04-23 Velos Media, Llc Image processing system, image processing method and program
US9402077B2 (en) 2005-07-25 2016-07-26 Sony Corporation Image processing system, image processing method and program
JP2007036463A (ja) * 2005-07-25 2007-02-08 Sony Corp 画像処理装置、画像処理方法およびプログラム
US9113147B2 (en) 2005-09-27 2015-08-18 Qualcomm Incorporated Scalability techniques based on content information
US9071822B2 (en) 2005-09-27 2015-06-30 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US9088776B2 (en) 2005-09-27 2015-07-21 Qualcomm Incorporated Scalability techniques based on content information
US8879857B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Redundant data encoding methods and device
US8879635B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US8879856B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Content driven transcoder that orchestrates multimedia transcoding using content information
JP2012110039A (ja) * 2005-09-27 2012-06-07 Qualcomm Inc 時間領域境界とのデータアライメントに関する方法及び装置
US8948260B2 (en) 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US9131164B2 (en) 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus
US8625914B2 (en) 2013-02-04 2014-01-07 Sony Corporation Image processing system, image processing method and program

Also Published As

Publication number Publication date
JP4517453B2 (ja) 2010-08-04

Similar Documents

Publication Publication Date Title
JP4517495B2 (ja) 画像情報変換装置及び画像情報変換方法並びに符号化装置及び符号化方法
US7266148B2 (en) Video transcoding apparatus
US8175148B2 (en) Method and device for indicating quantizer parameters in a video coding system
US8374236B2 (en) Method and apparatus for improving the average image refresh rate in a compressed video bitstream
US6870886B2 (en) Method and apparatus for transcoding a digitally compressed high definition television bitstream to a standard definition television bitstream
EP1725042A1 (en) Fade frame generating for MPEG compressed video data
US6108027A (en) Progressive still frame mode
US20050190838A1 (en) Image information conversion apparatus and image information conversion method
JPH09182087A (ja) ディジタルビデオ信号を符号化する方法及び装置
JP2000236547A (ja) 画像情報変換装置及び画像情報変換方法
JP4517453B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
US6040875A (en) Method to compensate for a fade in a digital video input sequence
JP4517475B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2002125227A (ja) 画像情報変換装置及び方法
JP4608801B2 (ja) 画像情報変換装置及び方法
JP4517465B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2001346214A (ja) 画像情報変換装置及び方法
JP4517468B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
US7012959B2 (en) Picture information conversion method and apparatus
JP2004056616A (ja) 符号化信号復号装置、符号化信号復号方法および符号化信号復号プログラム
JP2001339720A (ja) 画像情報変換装置及び方法
JP4505992B2 (ja) 画像情報変換装置及び方法
JP2003087797A (ja) 画像情報変換装置及び方法、画像情報変換プログラム、並びに記録媒体
JP4507418B2 (ja) 画像情報変換装置及び画像情報変換方法
JP2002232891A (ja) 画像情報変換装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081202

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees