JPH10178645A - 動画像信号符号化方法及び装置、動画像信号伝送方法並びに信号記録媒体 - Google Patents

動画像信号符号化方法及び装置、動画像信号伝送方法並びに信号記録媒体

Info

Publication number
JPH10178645A
JPH10178645A JP33823696A JP33823696A JPH10178645A JP H10178645 A JPH10178645 A JP H10178645A JP 33823696 A JP33823696 A JP 33823696A JP 33823696 A JP33823696 A JP 33823696A JP H10178645 A JPH10178645 A JP H10178645A
Authority
JP
Japan
Prior art keywords
motion compensation
block
motion
residual
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP33823696A
Other languages
English (en)
Other versions
JP3633159B2 (ja
Inventor
Motoki Kato
元樹 加藤
Shinya Iki
信弥 伊木
Kazunori Yasuda
和徳 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP33823696A priority Critical patent/JP3633159B2/ja
Priority to US08/991,517 priority patent/US6040865A/en
Publication of JPH10178645A publication Critical patent/JPH10178645A/ja
Application granted granted Critical
Publication of JP3633159B2 publication Critical patent/JP3633159B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)
  • Details Of Television Systems (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 画像の平坦部で動き予測残差の小さい場合で
も、固定ノイズの発生を防止でき、画質を劣化させるこ
となく動きベクトルを(0,0)として符号化効率を向
上させ、主観画質を改善する。 【解決手段】 動き補償時のマクロブロックの動きベク
トル推定残差(MEerr)を算出する動きベクトル推定回路
4と、非動き補償時のマクロブロックの残差(NonMWerr)
を算出するNonMEerr算出回路5と、マクロブロ
ック毎の輝度平均値(DC)と平坦さを表す値(MAD)を算出
する特徴量算出回路6と、MEerrとNonMEer
rを比較して動き補償/非動き補償判定を行うMC/N
onMC判定回路8と、その判定結果に基づいて各マク
ロブロック毎に動き補償予測符号化を行う動画像符号化
回路9とを有し、判定回路8ではDCとMADとに基づ
いて動き補償/非動き補償判定での比較に用いる判定領
域区分を適応的に選択する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、例えば動画像信号
を光磁気ディスクや磁気テープなどの記録媒体に記録し
再生してディスプレイ装置などに表示したり、テレビ会
議システム,テレビ電話システムや放送用機器等のよう
に動画像信号を伝送路を介して送信側から受信側に伝送
する際に適用して好適な動画像信号符号化方式及び装
置、動画像信号伝送方法並びに信号記録媒体に関する。
【0002】
【従来の技術】従来より、動画像信号をディジタル化し
て記録し又は伝送する場合、当該動画像信号はデータ量
が膨大となるため、データを符号化(圧縮)している。
代表的な符号化方式としては、動き補償予測符号化があ
る。
【0003】動き補償予測の原理を図6に示す。
【0004】動き補償予測符号化は、画像信号の時間軸
方向の相関を利用する方法である。すなわち動き補償予
測符号化は、既に復号再生されている動き予測の参照画
像IRより現在の符号化対象画像IOの動きベクトルM
Vを推定し、復号再生されている画像信号を信号の動き
に合わせて移動させ、この動き情報(動きベクトルM
V)とその時の予測残差を伝送することにより、符号化
に必要な情報量を圧縮する方法である。
【0005】この動き補償予測符号化の代表的なものと
してはいわゆるMPEG(Moving Picture Expert Grou
p) がある。これは、ISO(国際標準化機構)とIE
C(国際電気標準会議)のJTC(Joint Technical Co
mmittee)1のSC(Sub Committee)29のWG(Work
ing Group)11においてまとめられた動画像符号化方
式の通称である。
【0006】MPEGでは、1画像(フレーム又はフイ
ールド)を16ライン×16画素で構成されるマクロブ
ロックと呼ばれるブロックに分割し、このマクロブロッ
ク単位で動き補償予測符号化を行う。動き補償予測符号
化には、大別してイントラ符号化及び非イントラ符号化
の2つの方法がある。イントラ符号化は自らのマクロブ
ロックの情報だけを使用する符号化方法であり、非イン
トラ符号化は自らのマクロブロックの情報と他の時刻に
現れる画像より得る情報との双方の情報を用いる符号化
方法である。
【0007】MPEGの動き補償予測符号化の非イント
ラ符号化では、現在の符号化対象画像のマクロブロック
に対応する動き予測参照画像のマクロブロックの動きベ
クトルを検出し、この動きベクトルに応じた予測画像と
入力画像との差(動き予測の残差信号)に対してDCT
(discrete cosine transform 、離散コサイン変換)を
施し、得られたDCT係数値を量子化することで圧縮を
行う。
【0008】ここで、MPEGでは、現在の符号化対象
画像のマクロブロックに対応する動き予測参照画像のマ
クロブロックの動きベクトルを検出する際に、動き予測
参照画像と現在の符号化対象画像との間でマクロブロッ
ク毎にパターンマッチングを行う。具体的には、式(1)
に示すように、現在の符号化対象画像のマクロブロック
の輝度信号Si,jと、任意の動きベクトル(mvx,mvy)
により参照される動き予測の参照画像のマクロブロック
の輝度信号Ri+mvx,j+mvyとの差の絶対値和Efを求
め、このEfの値を元に動きベクトルを検出する。
【0009】 Ef =Σ|Si,j−Ri+mvx,j+mvy| (i=0〜15, j=0〜15) (1) すなわちこのとき、上記Efの値が最小となる(mvx,mv
y)が求める動きベクトルとなる。
【0010】ここで、入力された画像が例えばノイズ等
の影響を受けている場合に、上記のようにして動きベク
トル検出を行うと、例えば画像の平坦な部分で動きベク
トルを誤検出してしまったり、実際には静止している部
分であるのに、上記検出された動きベクトルが(0,
0)にならないことなどがある。
【0011】すなわち、本来は上記式(1)のEfの値が最
小となるはずの前記輝度信号Si,jと輝度信号R
i+mvx,j+mvyのどちらか一方あるいは双方がノイズ等の
影響を受けているために、上記Efの値が最小にならな
いことがあり、結果として正しい動きベクトルが得られ
なくなることがある。
【0012】特に、画像が静止しており、本来ならば動
きベクトルが(0,0)であるはずのマクロブロックが
ノイズ等の影響を受けているような場合は、図7に示す
ように、マクロブロックに動きが無いにもかかわらず動
きベクトルが(0,0)とならないために、画質が劣化
する。なお、図7の例では、N個のフレームF0〜FN -1
のうち、フレームFiが参照予測画像IRであり、フレ
ームFi+jが現在の符号化対象画像IOとなっている場
合を示している。ここで、画像が静止しているのであれ
ば、現在の符号化対象画像IO内のマクロブロックMB
Oに対応する予測参照画像IRのマクロブロックとし
て、本来は動き(0,0)のマクロブロックMBRRが検
出されて動きベクトルMVRも(0,0)となるべきで
ある。これに対し、例えばノイズ等が存在することによ
ってパターンマッチングに誤りが発生し、間違ったマク
ロブロックMVREが検出されると、実際とは異なる(mv
x,mvy)の動きベクトルMVEが得られてしまうことが
起きる。このように、画像が静止しているのに、例えば
ノイズ等が存在することによって(0,0)の動きベク
トルMVRが得られずに、(mvx,mvy)の動きベクトル
MVEが得られてしまうと、画質が劣化してしまう。
【0013】このような問題を解決するために、マクロ
ブロックの動きベクトルを推定して動きを補償する処理
(motion compensation、以下、MCと呼ぶ)を行う際
に、マクロブロック毎の輝度値を用いた所定の判定を行
い、この判定結果に基づいて強制的に動きベクトルを
(0,0)にするような手法が用いられている。なお、
上記強制的に動きベクトルを(0,0)にする処理を、
以下、NonMCと呼ぶことにする。また、上記所定の
判定をMC/NonMC判定と呼ぶことにする。
【0014】このような所定の判定(MC/NonMC
判定)を行う方式としては、MPEGのいわゆるSM3
(Simulation Model 3)で用いられている方式があ
る。
【0015】以下に、図を用いてMPEGのSM3のM
C/NonMC判定方式及び動き補償予測符号化方式を
説明する。
【0016】図8には上記MC/NonMC判定を行う
動画像信号符号化装置の一例を示す。図8の動画像信号
符号化装置41は、動き補償予測とDCTとを組み合わ
せたハイブリッド符号化方法により構成されている。
【0017】図8において、端子42より入力した入力
動画像信号S41はスキャンコンバータ43に送出され
る。スキャンコンバータ43では、ラスタスキャンで入
力される画像信号をブロックフォーマットの信号に変換
する。すなわち、図9の(A)に示すように、ラスタス
キャンで入力される画像は、1ライン当りHドットのラ
インがVライン集められたフレームフォーマットのデー
タとされている。スキャンコンバータ43は、この1フ
レームの信号を16ラインを単位としてN個のスライス
に区分する。各スライスは、図9の(B)に示すよう
に、M個のマクロブロックに分割される。各マクロブロ
ックは、16×16個の画素(ドット)に対応する輝度
信号により構成されており、図9の(C)に示すよう
に、この輝度信号は8×8ドットを単位とするブロック
Y[1]からY[4]に区分される。また、この16×
16ドットの輝度信号には、8×8ドットの色差信号C
b[5]と、8×8ドットの色差信号信号Cr[6]が
対応付けされる。
【0018】上記スキャンコンバータ43によって上記
ブロックフォーマットの信号に変換された動画像信号S
42は、動きベクトル推定回路44、NonMEerr算
出回路45、及び動画像符号化回路48に送出される。
【0019】動きベクトル推定回路44では、順次入力
される動画像信号S42の各フレームのマクロブロック
毎に、参照画像記憶部46に記憶されている参照画像と
の間でパターンマッチングを行い(現在の符号化対象画
像と参照画像との間でマクロブロック毎のパターンマッ
チングを行う)、このパターンマッチングの結果に基づ
いて動きベクトルMVを検出し、同時に動き予測残差M
Eerrを算出してMC/NonMC判定回路47に出力
する。
【0020】ここで、現在の符号化対象画像のマクロブ
ロックの輝度値をSi,jとし、動き予測の参照画像の輝
度値をRi,jとするとき、上記動き予測残差MEerrは式
(2)を用いて求めることができる。
【0021】 MEerr = Σ|Si,j−Ri+mvx,j+mvy|/256 (i=0〜15, j=0〜15) (2) この動画像信号符号化装置41は、1フレーム内の全て
のマクロブロックの動きベクトル推定が終わったなら
ば、現在の動画像信号S42(すなわち1フレームの画
像データ)を参照画像記憶部46に記憶し、これを次に
入力されてくる画像の参照画像とする。
【0022】一方、NonMEerr算出回路45では、
順次入力される動画像信号S42の各フレームのマクロ
ブロック毎に、非動き補償時の残差NonMEerrを算
出する。すなわち、NonMEerr算出回路45では、
動画像信号S42としてフレーム毎に順次入力される現
在の符号化対象画像内の各マクロブロックと、参照画像
記憶部46に記憶されている参照画像のうちの動きベク
トル(0,0)のマクロブロックとの間の差分をそれぞ
れ求め、これら差分を上記マクロブロック毎に非動き補
償時の残差NonMEerrとして出力する。ここに、上
記非動き補償時の残差NonMEerrは式(3)のようにし
て求める。
【0023】 NonMEerr = Σ|Si,j−Ri,j|/256 (i=0〜15, j=0〜15) (3) このようにして得られた非動き補償時の残差NonME
errは、MC/NonMC判定回路47に送られる。
【0024】上述の動き予測残差MEerrと非動き補償
時の残差NonMEerrとが入力されたMC/NonM
C判定回路47では、例えば図10に示すような領域区
分を用いて動き予測残差MEerrと非動き補償時の残差
NonMEerrとの比較を行い、MC/NonMC判定
を行う。すなわち図10では、縦軸に非動き補償時の残
差NonMEerrを、横軸に動き予測残差MEerrをとっ
ており、MC/NonMC判定回路47では、図10の
図中点線で示すNonMEerr=MEerrの直線で比較領
域を分けてMC/NonMC判定を行うのではなく、図
中実線で示すような(0.1)から(0.5,1)を結ぶ
直線と、(0.5,1)から(1,1.5)を結ぶ直線と、
(1,1.5)から(1,2.5)を結ぶ直線と、(1,2.
5)から(1.5,3)を結ぶ直線と、(1.5,3)から
(2.7,3)を結ぶ直線と、NonMEerr=0.9ME
err+0.57の直線とからなる線で比較領域を分け、
上記動き予測残差MEerrと非動き補償時の残差Non
MEerrの値の比較において上記実線の左上側となった
ときにはMCと判定し、上記実線の右下側となったとき
にはNonMCと判定する。
【0025】上記MC/NonMC判定回路47におい
て、MCと判定した場合は入力された動きベクトルMV
(mvx,mvy)をそのまま出力し、NonMCと判定した
場合は入力された動きベクトルMV(mvx,mvy)を
(0,0)に変えて出力する。当該MC/NonMC判
定回路47から出力された動きベクトルMVは、そのフ
レームの動画像信号S42と共に動画像符号化回路(ハ
イブリッド符号化器)48に入力される。
【0026】次に、図11には、図8中の動画像符号化
回路(ハイブリッド符号化器)48の具体的な構成例を
示す。
【0027】この図11において、入力端子61には前
記MC/NonMC判定回路47から入力される動きベ
クトルMVが供給される。一方、入力端子50には、当
該動画像符号化回路48への入力動画像信号S60が供
給される。なお、上記入力動画像信号S60は、図8の
構成においてスキャンコンバータ43から供給される動
画像信号S42のことである。
【0028】また、当該動画像符号化回路48の動き補
償フレーム間/内予測回路57は、画像メモリを備え、
上記入力端子61からの動きベクトルMVに基づいて当
該画像メモリから読み出した予測画像信号S63を出力
する。
【0029】演算器51は、上記入力端子50からの入
力動画像信号S60(S42)を加算信号とし、上記動
き補償フレーム間/内予測回路57からの上記予測画像
信号S63を減算信号として加算処理を行うことによ
り、上記入力動画像信号S42と予測画像信号S63の
差分を計算し、当該差分を予測残差信号S61として出
力する。なお、入力動画像として、隣接フレーム間の相
関が無い例えばシーンチェンジ等の信号が供給されたと
きは、上記予測を行わず、したがって演算器51からは
入力動画像信号S60がそのまま取り出される(予測を
行わない原信号として出力される)。
【0030】次に、上記演算器51から出力された予測
残差信号S61(予測を行わない時は原信号)は、DC
T回路52に送られる。このDCT回路52では上記予
測残差信号S61に対して2次元DCTを施す。このD
CT回路52から出力されたDCT係数は、量子化回路
53にてスカラー量子化される。この量子化回路53の
量子化出力信号は、可変長符号化(VLC)回路58と
逆量子化回路54とに送られる。VLC回路58では、
上記量子化出力信号に対して例えばハフマン符号化を施
す。このVLC回路58の出力信号はバッファメモリ5
9に送られる。当該バッファメモリ59では、伝送路に
出力するビットレートを平滑化して出力端子60から出
力する。また、当該バッファメモリ59がオーバーフロ
ーしそうになった時には、そのことを量子化制御情報と
して量子化回路53にフィードバックする。このときの
量子化回路53では量子化ステップを大きくし、これに
より量子化回路53から出力される情報量が小さくな
り、上記バッファメモリ59ではオーバーフローの発生
が防止される。なお、図11の出力端子60は、図8の
出力端子49と対応している。
【0031】一方、逆量子化回路54では、量子化回路
53より供給される量子化ステップ情報q_stepに対応
して、上記量子化出力信号に逆量子化処理を施す。当該
逆量子化回路54の出力は、逆DCT回路55に入力さ
れ、ここで逆DCT処理されて復号された予測残差信号
S62が、演算器56へ入力される。
【0032】この演算器56にはまた、演算器51に供
給されている予測画像信号S63と同一の信号が供給さ
れている。演算器56は、上記予測残差信号S63に予
測画像信号S68を加算する。これにより、局所復号し
た画像信号が得られる。この画像信号は、受信側での出
力画像と同じ信号である。
【0033】MPEGのSM3では、以上のようにして
MC/NonMC判定を行い、動画像符号化を行う。こ
こで、NonMCの場合には、動きベクトルを伝送する
必要が無いため、図10に示したように、予測誤差信号
が0に近い領域や、動き予測残差MEerrと非動き補償
時の残差NonMEerrの値がほぼ等しいか動き予測残
差MEerrが小さい領域ではNonMCを選択すること
で、動きベクトル分の情報量を削減できる。
【0034】次に、動き補償予測符号化を行う際に、現
在の符号化対象画像と動き予測の参照画像との間でそれ
ぞれ対応するマクロブロックに動きは無いが、輝度値の
変化は大きいような画像が入力されることがある。この
ような画像としては、例えば段階的に輝度値を変化させ
るフェードインやフェードアウトなどの処理が施された
静止画像などが考えられる。なお、以下の説明では、当
該静止画像においてフェードインやフェードアウトなど
の処理が施されたものをフェード画像と呼ぶことにす
る。
【0035】当該フェード画像のような輝度値が変化す
る入力画像を前記式(1)を用いたパターンマッチングに
よって動き補償予測符号化した場合、現在の符号化対象
画像と動き予測の参照画像との間でそれぞれ対応するマ
クロブロックの輝度値が大きく変化しているために、本
来は動きベクトル(0,0)のマクロブロックであった
としても前記Efが最小になり難く、これにより動きベ
クトルを誤検出してしまい、結果として再生画像にブロ
ック歪みやモスキートノイズが目立つようになり、画質
劣化が生じることになる。
【0036】すなわち例えば前述のMPEGのSM3で
は、輝度値の差分の絶対値和のみで動きベクトルの検出
及びMC/NonMCの判定を行っているため、実際に
は動き予測の参照画像と現在の符号化対象画像との間で
それぞれ対応するマクロブロックに動きが無くても、こ
れらのマクロブロックの間で輝度値の変化が大きい場合
には動きベクトルが正しく(0,0)と検出されず、本
来の動きと異なるマクロブロックが参照画像のマクロブ
ロックとして検出される可能性があり、そのために符号
化効率が低下して主観画質が劣化してしまうことがあ
る。
【0037】このようなことから、本件出願人は、No
nMC時のマクロブロックの予測残差信号を求める際
に、輝度値の差分の絶対値和の代わりに、マクロブロッ
ク内の輝度値のAC成分(交流成分)の差分の絶対値和
を用いて動き補償時の輝度値の絶対値和と大きさを比較
して、MC/NonMC判定を行う方式(以下、ACM
Eと呼ぶことにする)を、既に特開平8−98187号
の公報おいて開示している。
【0038】図12には、上記ACMEを用いた動画像
信号符号化装置の一例を示す。なお、この図12中のA
CMEerr算出回路25とMC/NonMC判定回路2
7を除く、入力端子22,スキャンコンバータ23,動
きベクトル推定回路24、参照画像記憶部26,動画像
符号化回路28,出力端子29は、各々図8の入力端子
42,スキャンコンバータ43,動きベクトル推定回路
44、参照画像記憶部46,動画像符号化回路48,出
力端子49と対応しており、動作は全く同じであるた
め、説明を省略する。また、図12中の信号S22は、
前記図11の動画像符号化回路28における入力動画像
信号S60(図8の動画像信号S42)に対応してい
る。
【0039】この図12のACMEerr算出回路25に
おいて、上述の現在の符号化対象のマクロブロックと動
きベクトル(0,0)の参照画像のマクロブロックのA
C成分の差分の絶対値和をACMEerrとすると、当該
ACMEerrは例えば以下の様な式(4)で求めることがで
きる。
【0040】 ACMEerr = Σ|(Si,j−Sav)−(Ri,j−R0av)| (i=0〜15, j=0〜15) (4) ここに、式中のSavは現在の符号化対象画像のマクロブ
ロックの輝度値の平均、R0avは予測参照画像の動きベ
クトル(0,0)のマクロブロックの輝度値の平均で、
各々以下の式(5),式(6)で求める。
【0041】 Sav = Σ|Si,j|/256 (i=0〜15, j=0〜15) (5) R0av = Σ|Ri,j|/256 (i=0〜15, j=0〜15) (6) また、MC/NonMC判定回路27では、例えば図1
3に示すような領域区分を用いて判定を行う。すなわち
図13では縦軸に前記ACMEerrを、横軸に前記動き
予測残差MEerrをとっており、このMC/NonMC
判定回路27では、図中点線で示すACMEerr=MEe
rrの直線で比較領域を分けてMC/NonMC判定を行
うのではなく、図中実線で示すような(0.y1)から
(x1,y1)を結ぶ直線と、(x1,y1)から(x
2,y2)を結ぶ直線と、ACMEerr=MEerr+(x
2−y2)の直線とからなる線で比較領域を分け、上記
MEerrとACMEerrの値の比較において上記実線の左
上側となったときにはMCと判定し、上記実線の右下側
となったときにはNonMCと判定するようにしてい
る。なお、この図13においては、x1≧y1、x2>
y2である。MC/NonMC判定回路27は、この図
13に示す領域区分において、ACMEerrとMEerrが
共に0に近い領域では強制的にNonMCと判定し、A
CMEerrとMEerrの値が略々等しいか或いはACME
errがMEerrよりも大きい領域ではMCと判定する。
【0042】図12に示した動画像信号符号化装置21
においては、上述のような判定を行うことで、現在の符
号化対象画像と動き予測の参照画像との間のそれぞれ対
応するマクロブロックの輝度値の変化が大きく且つ動き
が無い前記フェード画像のような場合であっても、動き
ベクトルを正しく(0,0)として得ることが出来るよ
うになる。
【0043】
【発明が解決しようとする課題】ところで、入力画像の
平坦な部分において、前述したように現在の符号化対象
画像と動き予測の参照画像との間で前記式(2) 、式(3)
を用いて前記MEerrとNonMEerrとを算出したとき
に、各々小さい残差が得られた場合を考えてみる。
【0044】MPEGのSM3における前記MC/No
nMC判定では、これらの残差がマクロブロック間の微
妙な輝度値の変化によるものなのか、ノイズの影響によ
るものなのか、或いは画像中の物体の一部がマクロブロ
ックに含まれているためなのかを判断することができな
い。すなわち、現在の符号化対象画像と動き予測の参照
画像との間のそれぞれ対応するマクロブロックが共に平
坦で、動き予測残差も小さい場合に、MPEGのSM3
におけるMC/NonMC判定では、符号化対象のマク
ロブロックが画像の一部を含んだ動きのあるマクロブロ
ックなのか、或いはノイズを含んだ動きの無いマクロブ
ロックなのかの判別ができない。
【0045】このことを図14を用いて具体的に説明す
る。図14の(a)には、時間の経過と共に移動する物
体OBBの画像を含む1フレームの画像の一部を示して
いる。また、この図14の(a)に示すフレーム画像
は、上記物体OBBを含むマクロブロックを除いて、ほ
とんど輝度値に変化のない平坦なマクロブロック(輝度
値の変化が微妙にしかないマクロブロック)から構成さ
れているが、マクロブロックMBFnにはノイズnが存在
している。ただし、このノイズnを含んだマクロブロッ
クMBFnも、ほとんど輝度値に変化のない平坦なマクロ
ブロック(輝度値の変化が微妙にしかないマクロブロッ
ク)であるとする。
【0046】ここで、当該図14の(a)に示すフレー
ム画像の符号化を行う場合に、前述したMPEGのSM
3のMC/NonMC判定を用い、残差の小さい領域で
NonMCが選択されるようにすると、上記ノイズnを
含んだ動きの無いマクロブロックMBFnの動きベクトル
については値を(0,0)とすることはできるが、例え
ば上記物体OBBの画像の一部obBを含むマクロブロッ
クMBFIのように、ほとんど輝度値に変化のない平坦な
マクロブロック(輝度値の変化が微妙にしかないマクロ
ブロック)については、本来ならば動きのあるマクロブ
ロックとすべきものを、動きの無いマクロブロック(動
きベクトル(0,0)のマクロブロック)としてしまう
虞れがある。
【0047】すなわち、このように本来ならば動きのあ
るマクロブロックとすべきものを、動きの無いマクロブ
ロック(動きベクトル(0,0)のマクロブロック)と
してしまうと、当該図14の(a)のフレーム画像から
ある時間t経過後の再生画像には、図14の(b)に示
すように、上記マクロブロックMBFIに対応する位置
に、上記物体OBBの一部obBが固定されたノイズob
Aとして残ってしまうようになる。なお、図14の
(b)には、時間t経過後の物体OBAと共に、図中点
線で示すように時間t経過前に物体OBBが存在した位
置も示している。
【0048】このように、物体OBBの一部obBを固定
されたノイズobAとして残さないようにするために
は、MC/NonMC判定において例えば動き予測残差
の小さい領域でNonMCが選択され易くなるようにす
ればよいが、前述した従来のMC/NonMC方式の場
合、上記動き予測残差の小さい領域でNonMCを選択
され易くすることは未だ実現されていない。
【0049】また、従来のMC/NonMC方式の場
合、例えば前記マクロブロックMBFnのようにノイズn
の影響を受けた平坦で動きが無く且つ予測残差が小さい
マクロブロックでは、動きベクトルを誤検出してしま
い、符号化効率が悪くなる虞れがあるという問題もあ
る。
【0050】これらの問題は、前述した特開平8−98
187号の公報おいて開示した前記ACMEを用いるM
C/NonMC判定方式においても同様である。
【0051】そこで、本発明はこのような状況に鑑みて
なされたものであり、画像の平坦部で動き予測残差の小
さい場合でも、固定ノイズの発生を防止できると共に、
画質を劣化させることなく動きベクトルを(0,0)と
することで符号化効率を向上させ、主観画質を改善し得
る動画像信号符号化方法及び装置、動画像信号伝送方法
並びに信号記録媒体を提供することを目的とする。
【0052】
【課題を解決するための手段】本発明の動画像信号符号
化方法は、動画像信号を構成する画像を複数のブロック
に分割し、動き補償を行ったときのブロックの動きベク
トル推定残差の大きさと動き補償を行わないときのブロ
ックの残差の大きさとを比較して動き補償/非動き補償
判定を行い、この判定結果に基づいて各ブロック毎に動
き補償予測符号化を行うものであり、ブロック毎の輝度
の平均値と平坦さを表す値を算出し、このブロックの輝
度の平均値と平坦さを表す値とに基づいて、動き補償/
非動き補償判定での大きさ比較に用いる判定領域区分を
適応的に選択することにより、上述した課題を解決す
る。
【0053】また、本発明の動画像信号符号化装置は、
動画像信号を構成する画像を複数のブロックに分割する
ブロック分割手段と、動き補償を行ったときのブロック
の動きベクトル推定残差を算出する動きベクトル推定残
差算出手段と、動き補償を行わないときのブロックの残
差を算出するブロック残差算出手段と、ブロック毎の輝
度の平均値と平坦さを表す値を算出する特徴量算出手段
と、これら動きベクトル推定残差の大きさとブロックの
残差の大きさとをブロック毎に比較して動き補償/非動
き補償判定を行う動き補償/非動き補償判定手段と、こ
の判定結果に基づいて各ブロック毎に動き補償予測符号
化を行う動画像符号化手段とを有してなるものであり、
動き補償/非動き補償判定手段では、ブロックの輝度の
平均値と平坦さを表す値とに基づいて動き補償/非動き
補償判定での大きさ比較に用いる判定領域区分を適応的
に選択することにより、上述した課題を解決する。
【0054】さらに本発明の動画像信号伝送方法は、動
画像信号を構成する画像を複数のブロックに分割し、動
き補償を行ったときのブロックの動きベクトル推定残差
の大きさと動き補償を行わないときのブロックの残差の
大きさとを比較して動き補償/非動き補償判定を行い、
この判定結果に基づいて各ブロック毎に動き補償予測符
号化を行って符号化ビットストリームを生成し、その符
号化ビットストリームを伝送するものであり、ブロック
毎の輝度の平均値と平坦さを表す値を算出し、このブロ
ックの輝度の平均値と平坦さを表す値とに基づいて、動
き補償/非動き補償判定での大きさ比較に用いる判定領
域区分を適応的に選択することにより、上述した課題を
解決する。
【0055】ここで、本発明の動画像信号符号化方法及
び装置、本発明の動画像信号伝送方法においては、動き
補償を行わないときの上記ブロックの残差としてこのブ
ロックのAC成分の差分を算出する。また、ブロックの
輝度の平均値が低く平坦なときには、動き補償を行わな
い非動き補償の判定領域区分を広くするようにしてい
る。
【0056】またさらに、本発明の信号記録媒体は、動
画像信号を構成する画像を複数のブロックに分割し、動
き補償を行ったときのブロックの動きベクトル推定残差
の大きさと動き補償を行わないときのブロックの残差の
大きさとを比較して動き補償/非動き補償判定を行う際
に、ブロック毎の輝度の平均値と平坦さを表す値とに基
づいて動き補償/非動き補償判定での大きさ比較に用い
る判定領域区分を適応的に選択し、この判定結果に基づ
いて各ブロック毎に動き補償予測符号化を行って生成さ
れた符号化ビットストリームを記録してなるものであ
る。
【0057】すなわち本発明においては、動画像信号を
動き補償予測符号化する際に、入力画像のブロック(マ
クロブロック)の特徴量を用いて動き補償/非動き補償
の判定方式を適応的に切り替えることにより、動きが無
く、ノイズの影響を受けている画像や、輝度値が大きく
変化しているような画像、動きが無い全体に平坦で暗い
画像に対して、非動き補償のモードを効果的に用いるこ
とが可能となる。
【0058】
【発明の実施の形態】以下、本発明の好ましい実施の形
態について、図面を参照しながら詳細に説明する。
【0059】先ず、本発明実施例の具体的な内容の説明
に先立ち、本発明の原理について説明する。
【0060】これまでの検討の結果、現在の符号化対象
画像と動き補償予測の参照画像との間のそれぞれ対応す
るマクロブロックにおいて、共に輝度の平均値が低く平
坦であるときには、動きが無く、動き予測残差も小さく
なる場合が多いことがわかっている。また、このような
場合において、前記NonMCを用いることで例えば画
像の一部が固定されたノイズとなって残ったとしても、
人間はそれを検知し難いこともわかっている。
【0061】従って、このような場合には、MC/No
nMC判定において、前述した図10のような領域区分
を用いて、上記動き予測残差の小さい領域がNonMC
と判定され易くなるようにすれば、例え画像の一部が固
定されたノイズとなって残ったとしても人間はそれを検
知し難いため、主観的な画質を改善することが可能とな
る。
【0062】一方、現在の符号化対象画像と動き補償予
測の参照画像との間でそれぞれ対応するマクロブロック
において、共に輝度の平均値が高く平坦である場合に
は、前述のような画像の一部が固定されたノイズとなっ
て残っていると、人間はそれを検知し易いことがわかっ
ている。
【0063】従って、このような場合には、MC/No
nMC判定において、動き予測残差の小さい領域ではM
C/NonMC判定を行わずに通常の動き検出を行うよ
うにすれば、画像の一部が固定されたノイズとなって残
ってしまうことを無くすことができ、画質の劣化を防ぐ
ことが可能となる。
【0064】そこで、本発明では、動き補償予測符号化
のために動きベクトルを検出する際に、前記式(2)で得
られるMEerrの最小値と前記式(3)に示すNonMEer
rの値とを用い、所定の領域区分で各々の大きさを比較
することでMC/NonMC判定を行い、動きの無いマ
クロブロックの動きベクトルを正しく(0,0)と検出
しようとする方式において、現在の符号化対象画像のマ
クロブロックの少なくとも輝度の平均値と平坦さを表す
値とに基づいて、適応的にMC/NonMC判定のため
の領域区分を変化させることで、画像の一部が固定され
たノイズとなって残ることを無くして符号化効率を向上
させることを可能にすると共に、例え画像の一部が固定
されたノイズとなって残ったとしても主観的な画質を改
善できるようにしている。
【0065】すなわち本発明では、例えば入力画像のマ
クロブロックの輝度の平均値が低く平坦であり、動きが
無く、動き予測残差も小さくなる場合、MC/NonM
C判定において前記図10に示したような領域区分を用
いて、上記動き予測残差の小さい領域がNonMCとし
て選択され易くすることで、例え画像の一部が固定され
たノイズとなって残っても主観的な画質を改善可能にし
ている。
【0066】一方、本発明では、輝度の平均値が高く平
坦である場合、MC/NonMC判定において動き予測
残差の小さい領域ではMC/NonMC判定を行わずに
通常の動き検出を行うようにすることで、画像の一部が
固定されたノイズとなって残ってしまうことを無くし
て、画質の劣化を防ぐことを可能にしている。
【0067】さらに、動きベクトルを検出する時に、前
記式(2)の輝度値の差分の絶対値和と同時に、前記式(4)
の動きベクトル(0,0)のマクロブロックのAC成分
の差分の絶対値和を用いる方式(前記ACME)でも、
現在の符号化対象のマクロブロックの輝度の平均値と平
坦度とに基づいて、MC/NonMC判定を適応的に制
御することで、画像の一部が固定されたノイズとなって
残ることを無くして符号化効率を向上させることが可能
であると共に、例え画像の一部が固定されたノイズとな
って残ったとしても主観的な画質を改善できる。
【0068】すなわち、本発明にかかるMC/NonM
C判定の方式を、前述した特開平8−98187号の公
報にて開示されている前記ACMEを用いるMC/No
nMC判定方式と組み合わせるようにすれば、現在の符
号化対象画像と動き予測の参照画像のそれぞれ対応する
マクロブロックの間で動きが無く、輝度値の変化が大き
いような例えば前述したフェード画像に対しても、効果
的にMC/NonMC判定を行うことが可能となる。
【0069】ここで、フェード画像の平坦部や、画面全
体の輝度値が低く平坦で動きが少ない画像においては、
経験的に現在の符号化対象画像と動き予測の参照画像の
それぞれ対応するマクロブロックの間で、前記式(2)の
MEerrと前記式(4)のACMEerrが等しいか、前記式
(2)のMEerrよりも前記式(4)のACMEerrが僅かに大
きい場合が多い(ACMEerrがやや大きい領域に値が
集中する)ことがわかっている。このため、予測残差の
小さい領域の他にも、このような領域をNonMCとす
ることが望ましい。
【0070】したがって、本発明では、図1に示すよう
に、NonMCの領域を多くした領域区分を用いて、動
きベクトルを(0,0)として検出し易くしている。す
なわち図1では、縦軸に前記ACMEerrを、横軸に前
記動き予測残差MEerrをとっており、図中点線で示す
ACMEerr=MEerrの直線で比較領域を分けてMC/
NonMC判定を行うのではなく、図中実線で示すよう
な(0.y3)から(x3,y3)を結ぶ直線と、AC
MEerr=MEerr+(x3−y3)の直線とからなる線
で比較領域を分け、上記MEerrとACMEerrの値の比
較において上記実線の左上側となったときにはMCと判
定し、上記実線の右下側となったときにはNonMCと
判定するようにしている。この図1の領域区分を用いる
ことで、符号化効率を向上させて再生画像の主観的画質
を向上させることができる。
【0071】なお、上記以外の画像の場合には従来通り
の前記図13に示した領域区分を用いてMC/NonM
C判定を行う。
【0072】以上のように、本発明では、入力画像の平
坦部で予測残差が小さいような場合でも、主観画質を改
善し、符号化効率を向上させるようにしている。
【0073】次に、本発明実施例の具体的な内容の説明
を行う。
【0074】図2には、本発明の画像信号符号化方法及
び画像信号伝送方法が適用される画像信号符号化装置1
の第1の構成例を示す。本発明実施例では、動画像信号
符号化装置1は動き補償予測とDCTとを組み合わせた
ハイブリッド符号化を行う。
【0075】この図1において、端子2より入力した入
力動画像信号S1はスキャンコンバータ3に送出され
る。スキャンコンバータ3では、ラスタスキャンで入力
される画像信号をブロックフォーマットの信号に変換す
る。すなわち、前述した図9にて説明したように、当該
スキャンコンバータ3は、1ライン当りHドットのライ
ンがVライン集められたフレームフォーマットのデータ
とされている入力動画像信号S1の1フレームの信号
を、16ラインを単位としてN個のスライスに区分し、
各スライスをM個のマクロブロックに分割する。各マク
ロブロックは、前述同様に、16×16個の画素(ドッ
ト)に対応する輝度信号により構成されており、この輝
度信号は8×8ドットを単位とするブロックY[1]か
らY[4]に区分され、またこの16×16ドットの輝
度信号には、8×8ドットの色差信号Cb[5]と、8
×8ドットの色差信号信号Cr[6]が対応付けされて
いる。
【0076】上記スキャンコンバータ3によって上記ブ
ロックフォーマットの信号に変換された動画像信号S2
は、動きベクトル推定回路4、NonMEerr算出回路
5、特徴両算出回路6及び動画像符号化回路9に送出さ
れる。
【0077】動きベクトル推定回路4では、順次入力さ
れる動画像信号S2の各フレームのマクロブロック毎
に、参照画像記憶部7に記憶されている参照画像との間
でパターンマッチングを行い(現在の符号化対象画像と
参照画像との間でマクロブロック毎のパターンマッチン
グを行う)、このパターンマッチングの結果に基づいて
動きベクトルMVを検出し、同時に前記式(2)を用いて
動き予測残差MEerrを算出し、これら動きベクトルM
Vと動き予測残差MEerrをMC/NonMC判定回路
8に出力する。
【0078】この動画像信号符号化装置1は、1フレー
ム内の全てのマクロブロックの動きベクトル推定が終わ
ったならば、現在の動画像信号S2(すなわち1フレー
ムの画像データ)を参照画像記憶部7に記憶し、これを
次に入力されてくる画像の参照画像とする。
【0079】一方、NonMEerr算出回路5では、順
次入力される動画像信号S2の各フレームのマクロブロ
ック毎に、非動き補償時の残差NonMEerrを算出す
る。すなわち、NonMEerr算出回路5では、動画像
信号S2としてフレーム毎に順次入力される現在の符号
化対象画像内の各マクロブロックと、参照画像記憶部7
に記憶されている参照画像のうちの動きベクトル(0,
0)のマクロブロックとの間の差分をそれぞれ求め、こ
れら差分を上記マクロブロック毎に非動き補償時の残差
NonMEerrとして出力する。上記非動き補償時の残
差NonMEerrは前記式(3)を用いて求める。
【0080】このようにして得られた非動き補償時の残
差NonMEerrは、MC/NonMC判定回路8に送
られる。
【0081】また、特徴量算出回路6では、順次入力さ
れる動画像信号S2の各フレームのマクロブロック毎
に、それぞれマクロブロックの平均輝度値DCと平坦さ
を表す値MADとを算出する。ここで、マクロブロック
の平均輝度値DCとしては、例えば次式(7)に示すよう
に、マクロブロック内の輝度値Si,jの絶対値の和の平
均を求める。 DC = Σ|Si,j|/256 (i=0〜15, j=0〜15) (7) また、平坦さを表す値MADとしては、例えば次式(8)
に示すように、マクロブロック内の輝度値Si,jと平均
輝度値DCの差分の絶対値の和を求める。 MAD = Σ|Si,j−DC| (i=0〜15, j=0〜15) (8) このようにして算出したマクロブロックの平均輝度値D
Cと平坦さを表す値MADは、MC/NonMC判定回
路8に出力される。
【0082】上述した動きベクトル推定回路4からの動
きベクトルMV及び動き予測残差MEerrと、NonM
Eerr算出回路5からの非動き補償時の残差NonMEe
rrと、上記特徴両算出回路6からのマクロブロックの平
均輝度値DC及び平坦さを表す値MADとが入力された
MC/NonMC判定回路8では、これら供給された情
報に基づいて、前述の本発明の原理にて述べたように適
応的にMC/NonMC判定のための領域区分を変化さ
せて当該MC/NonMC判定を行う。
【0083】すなわち具体的に言うと、当該MC/No
nMC判定回路8では、入力されたマクロブロックの平
均輝度値DCと平坦さを表す値MADが、共に予め定め
た閾値よりも大きい場合には入力動画像信号S2に対し
てMC/NonMC判定を行い、逆に上記閾値以下であ
る場合にはNonMCを用いずMCのみとする判定処理
を行う。
【0084】ここで、図3のフローチャートを用いて、
当該MC/NonMC判定回路8における動作を説明す
る。
【0085】図3において、先ずステップST1では、
現在の符号化対象のフレーム内で各マクロブロックのM
C/NonMC判定を開始する。
【0086】ステップST2では、マクロブロックの平
均輝度値DCと平坦さを表す値MADが、DC>aで且
つMAD>bであるか否かの判定を行う。このステップ
ST2の判定において、DC>aで且つMAD>bであ
るならば、通常の動き予測補償を選択し、ステップST
3の処理に移る。一方、ステップST2の判定におい
て、DC>aで且つMAD>bでない場合には、前記図
10に示した領域区分を選択し、ステップST4の処理
に移る。ここで、例えばa=60であり、b=384で
ある。
【0087】上記ステップST3では、通常の動き補償
予測を行い、動きベクトルMVをそのまま出力して、ス
テップST7の処理に進む。なお、当該出力した動きベ
クトルMVは、そのマクロブロックの動画像信号S2と
共に動画像符号化回路9に入力される。
【0088】また、ステップST4では、前記図10の
領域区分に従ってMC/NonMC判定を行う。このス
テップST4において、前記動き予測残差MEerrと非
動き補償時の残差NonMEerrとの比較から、前記図
10のMCの領域にある場合はステップST5の処理に
進み、判定結果をMCとし、それ以外の場合はステップ
ST6に進み、判定結果をNonMCとする。なお、図
10において図中の実線上はMCの領域に含むものとす
る。
【0089】ステップST5では、入力された動きベク
トルMVをそのまま出力し、ステップST7の処理に進
む。また、ステップST6では、入力された動きベクト
ルMVを(0,0)に変えて出力し、ステップST7の
処理に進む。なお、これら出力した動きベクトルMV
は、そのマクロブロックの動画像信号S2と共に動画像
符号化回路9に入力される。
【0090】ステップST7では、現在のマクロブロッ
クがフレーム内の最後のマクロブロックであるか否かの
判定を行う。現在のマクロブロックがフレーム内の最後
のマクロブロックであると判定された場合はステップS
T9の処理に進み、そうでない場合はステップST2に
戻り、次のマクロブロックの処理を行う。
【0091】ステップST9では、現在の符号化対象画
像のフレーム内でのMC/NonMC判定を終え、次の
フレームを符号化対象画像として当該図3のフローチャ
ートの処理を行う。
【0092】以上のようにしてMC/NonMC判定回
路8ではMC/NonMC判定を行う。
【0093】動画像符号化回路9は、前述した図11と
同じ構成を有するものであり、前記図11にて説明した
のと同じ動作を行うので、ここではその説明を省略す
る。なお、この場合の図11の入力動画像信号S60
は、図2の構成においてスキャンコンバータ3から供給
される動画像信号S2のことであり、前記端子61には
図2のMC/NonMC判定回路8からの動きベクトル
MVが供給される。
【0094】次に、図4には、本発明の画像信号符号化
方法及び画像信号伝送方法が適用される画像信号符号化
装置11の第2の構成例を示す。
【0095】ここで、この図4に示す第2の構成例で
は、前記図2に示した第1の構成例のNonMEerr算
出回路5の代わりにACMEerr算出回路15を用いて
前記ACMEerrを算出してMC/NonMC判定を行
うようにしている。このようにすることで、例えばフェ
ード画像においても効果的なMC/NonMC判定を行
えるようになる。
【0096】なお、この図4中のACMEerr算出回路
15とMC/NonMC判定回路18を除く、入力端子
12,スキャンコンバータ13,動きベクトル推定回路
14,特徴量算出回路16,参照画像記憶部17,動画
像符号化回路19,出力端子20は、各々図2の入力端
子2,スキャンコンバータ3,動きベクトル推定回路
4,特徴量算出回路6,参照画像記憶部7,動画像符号
化回路9,出力端子10と対応しており、動作は全く同
じであるため、説明を省略する。また、図4中の信号S
12は、前記図2の動画像符号化回路9における入力動
画像信号S2に対応している。
【0097】この図4のACMEerr算出回路15にお
いては、前記式(4)、式(5)、式(6)を用いて、前記現在
の符号化対象のマクロブロックと動きベクトル(0,
0)の参照画像のマクロブロックのAC成分の差分の絶
対値和ACMEerrを求める。
【0098】MC/NonMC判定回路18では、入力
されたマクロブロックの平均輝度値DCと平坦さを表す
値MADより、入力動画像信号S12のMC/NonM
C判定に用いる領域区分を選択し、選択した領域区分と
入力された動き予測残差MEerrとACMEerrとから、
MC/NonMCの判定を行う。
【0099】以下、図5のフローチャートを用いて、図
4のMC/NonMC判定回路18における動作を説明
する。
【0100】この図5において、先ずステップST11
では、現在の符号化対象のフレーム内で各マクロブロッ
クのMC/NonMC判定を開始する。
【0101】ステップST12では、マクロブロックの
平均輝度値DCと平坦さを表す値MADが、DC>aで
且つMAD>bであるか否かの判定を行う。このステッ
プST12の判定において、DC>aで且つMAD>b
であるならば、前記図13の領域区分を選択し、ステッ
プST13の処理に移る。一方、ステップST12の判
定において、DC>aで且つMAD>bでない場合に
は、前記図1に示した領域区分を選択し、ステップST
16の処理に移る。ここで、例えばa=60であり、b
=384である。
【0102】ステップST13では前記図13の領域区
分に従ってMC/NonMC判定を行う。すなわち、当
該ステップST13においては、前記図13の領域区分
を用い、以下の式(9)〜式(11)の全てを満たす場合はM
Cと判定してステップST14の処理に進み、それ以外
の場合はNonMCと判定してステップST15の処理
に進む。
【0103】 ACMEerr > y1 (9) x2×ACMEerr > y2×MEerr (10) ACMEerr > MEerr +(x2−y2) (11) ステップST14では、入力された動きベクトルMVを
そのまま出力し、ステップST19の処理に進む。一
方、ステップST15では入力された動きベクトルMV
を(0,0)に変えて出力し、ステップST19の処理
に進む。これら出力した動きベクトルMVは、そのマク
ロブロックの動画像信号S12と共に動画像符号化回路
19に入力される。
【0104】また、ステップST16では、前記図1の
領域区分に従ってMC/NonMC判定を行う。すなわ
ち、当該ステップST16においては、前記図1の領域
区分を用い、以下の式(12),式(13)の全てを満たす場合
はMCと判定してステップST17の処理に進み、それ
以外の場合はNonMCと判定してステップST18の
処理に進む。
【0105】 ACMEerr > y3 (12) ACMEerr > MEerr +(x3−y3) (13) ステップST17では入力された動きベクトルMVをそ
のまま出力し、ステップST19の処理に進む。一方、
ステップST18では、入力された動きベクトルを
(0,0)に変えて出力し、ステップST19の処理に
進む。これら出力した動きベクトルMVは、そのマクロ
ブロックの動画像信号S12と共に動画像符号化回路1
9に入力される。
【0106】ステップST19では、現在のマクロブロ
ックがフレーム内の最後のマクロブロックであるか否か
の判定を行う。このステップST19において現在のマ
クロブロックがフレーム内の最後のマクロブロックであ
ると判定された場合は、ステップST20の処理に進
む。そうでない場合はステップST12に戻り、次のマ
クロブロックの処理を行う。
【0107】ステップST20では、現在の符号化対象
画像のフレーム内でのMC/NonMC判定を終え、次
のフレームを符号化対象画像として当該図5のフローチ
ャートの処理を行う。
【0108】以上のようにしてMC/NonMC判定回
路18ではMC/NonMC判定を行う。
【0109】図4の構成の動画像符号回路19は、前記
図1の動画像符号化装置9(すなわち図11の構成)と
全く同じ動作を行うので説明を省略する。なお、この場
合の前記図11の入力動画像信号S60は、図4の構成
においてスキャンコンバータ13から供給される動画像
信号S12のことであり、前記端子61には図4のMC
/NonMC判定回路18からの動きベクトルMVが供
給される。
【0110】以上のように、本発明実施例の動画像信号
符号化装置においては、動画像信号を所定の予測画像信
号を用いて動き補償予測符号化する際に、マクロブロッ
ク(所定映像単位)の画像信号より平均輝度値と平坦さ
を算出し、当該算出した輝度及び平坦さに応じて、マク
ロブロックの画像信号に動き補償予測を適用するか、動
きを補償しない予測を適用するかを判定し、現在の画像
を符号化している。
【0111】以上の構成によれば、予測を行う際に、M
C/NonMCの判定を行うことにより、符号化効率の
悪くなるような動き補償を行うことが少なくなる。ま
た、マクロブロック単位の画像信号の輝度の平均値と平
坦さを表す値によって、MC/NonMCの判定を適応
的に選択することにより、より効率の良いMC/Non
MCの判定を行うことが可能となる。したがって、これ
らの効果により動画像の符号化効率を向上させ、主観画
質を格段に向上させることができる。
【0112】なお、上述の第2の構成例においては、M
C/NonMCの判定のための指標として、AC成分を
用いる場合について説明したが、本発明はこれに限ら
ず、MC/NonMCの判定のための指標として色差値
などを用いてもよい。この場合は、図2或いは図4にお
いて、NonMEerr算出回路5やACMEerr算出回路
15に代えて、マクロブロック毎に色差値を算出する構
成が用いられる。この場合のMC/NonMC判定回路
は、図2或いは図4において、前記NonMEerrやA
CMEerrに代えて上記色差値を用いてMC/NonM
C判定を行う。
【0113】また、上述の第2の構成例においては、A
CMEerrを式(4)のようにして求めたが、本発明はこれ
に限らず、輝度値の偏差の差分などを用いて求めても良
い。
【0114】さらに、上述の第2の構成例においては、
MC/NonMC判定のための領域区分を2種類用意
し、マクロブロックの特徴量に応じて適応的にその中か
ら選択しているが、さらに多くの領域区分を用意して、
多段階で適応的に切り替えるようにしても良い。
【0115】これらにより動き補償/非動き補償の判定
の効率を更に向上させることも可能である。
【0116】次に、上述した第1、第2の構成例の動画
像信号符号化装置での符号化により得られた符号化ビッ
トストリーム(出力ビットストリーム)は、本発明に係
る信号記録媒体に記録されたり、伝送路を介して伝送さ
れることになる。
【0117】すなわち、前述した図2や図4の動画像符
号化回路9,19から出力された出力ビットストリーム
は、信号記録媒体の一例として光ディスク104に記録
されたり、伝送路に伝送されたりする。
【0118】前記図2及び図4において、上記出力ビッ
トストリームを光ディスク104に記録する場合、前記
出力端子10或いは20から出力された出力ビットスト
リーム及び量子化スケール等の後の復号化に必要な情報
からなるデータ列は、誤り訂正エンコーダ(ECCエン
コーダ)101によってエラーコレクションコードが付
加され、変調回路102に送られる。当該変調回路10
2では上記誤り訂正エンコーダ101の出力に対して、
所定の変調処理、例えばいわゆる8−14変調(EM
F:Eight to Fourteen Modulation)或いは8−16変
調等を施す。これらの変調処理は、ディジタル信号を光
ディスク104の伝送特性に合わせるために、上記エン
コーダされたデータ(8ビット)を14ビットや16ビ
ットに変換する変調方式である。この変調回路102の
出力は記録ヘッド103に送られ、当該記録ヘッド10
3にて光ディスク104に記録される。なお、図2及び
図4の例では、信号記録媒体として光ディスクを例に挙
げたが、ハードディスクやフレキシブルディスク等の磁
気ディスク媒体や、磁気テープ等のテープ状記録媒体、
ICカードや各種メモリ素子等の半導体記憶媒体等の記
録媒体であってもよい。また、光ディスクとしては、物
理的にピットを形成して記録がなされるディスクや、光
磁気ディスクの他に、相変化型光ディスクや有機色素型
光ディスク、紫外線レーザ光により記録がなされる光デ
ィスク、多層記録膜を有する光ディスク等の各種のディ
スクを用いることができる。
【0119】一方、伝送路に伝送する場合、上記データ
列は、誤り訂正エンコーダ111にてエラーコレクショ
ンコードが付加され、インターフェイス回路112及び
端子113を介して伝送路に出力される。なお、この伝
送路としては、通常のケーブルのみならず、電波或いは
光による送信も含まれる。
【0120】上述のようにして信号記録媒体に記録され
たデータ列、或いは伝送路を介して伝送されたデータ列
は、従来同様の復号装置(動画像信号復号装置)にて復
号再生されることになる。この場合、従来の動画像信号
符号化装置を用いて符号化したものを復号再生した場合
よりも良好な再生画像が得られることになる。
【0121】
【発明の効果】上述のように本発明においては、動画像
信号を動き補償予測符号化する際に、入力画像のブロッ
ク(マクロブロック)の特徴量を用いて動き補償/非動
き補償(MC/NonMC)の判定方式を適応的に切り
替えるようにし、また、動き予測参照画像からのマクロ
ブロックの予測残差と動きベクトル(0,0)のマクロ
ブロックのAC成分の差分を比較して、MC/NonM
Cの判定を行うようにすることにより、動きが無く、ノ
イズの影響を受けている画像や、輝度値が大きく変化し
ているような画像、動きが無い全体に平坦で暗い画像に
対して、動きベクトルを強制的に(0,0)とするモー
ドを効果的に用いることが可能となる。すなわち、本発
明によれば、画像の平坦部で動き予測残差の小さい場合
でも、固定ノイズの発生を防止できると共に、画質を劣
化させることなく動きベクトルを(0,0)とすること
で動画像信号の符号化効率を一段と向上させ、主観画質
を改善し得る。
【図面の簡単な説明】
【図1】本発明実施例におけるMC/NonMC判定の
領域区分を示す図である。
【図2】本発明実施例による動画像信号符号化装置の第
1の構成例を示すブロック回路図である。
【図3】本発明実施例の第1の構成例におけるMC/N
onMC判定の動作の説明に供するフローチャートであ
る。
【図4】本発明実施例による動画像信号符号化装置の第
2の構成を示すブロック回路図である。
【図5】本発明実施例の第2の構成例におけるMC/N
onMC判定の動作の説明に供するフローチャートであ
る。
【図6】動き補償の説明に供する図である。
【図7】動き補償と非動き補償の説明に供する図であ
る。
【図8】MPEGのSM3の動画像信号符号化装置の構
成例を示すブロック回路図である。
【図9】画像データの構造を示す図である。
【図10】MPEGのSM3におけるMC/NonMC
判定の領域区分を示す図である。
【図11】動画像信号符号化装置内の動画像符号化回路
の構成例を示すブロック回路図である。
【図12】AC成分の差分の絶対値和を用いてMC/N
onMC判定を行う動画像信号符号化装置の構成例を示
すブロック回路図である。
【図13】AC成分の差分の絶対値和を用いたMC/N
onMC判定の領域区分を示す図である。
【図14】NonMCの誤検出による画質劣化の説明に
供する図である。
【符号の説明】
1,11 動画像信号符号化装置、 2,12 入力端
子、 3,13 スキャンコンバータ、 4,14 動
きベクトル推定回路、 5 NonMCEerr算出回
路、 6,16 特徴量算出回路、 7,17 参照画
像記憶部、 8,18 MC/NonMC判定回路、
9,19 動画像符号化回路、 10,20 出力端
子、 15 ACMEerr算出回路
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成9年11月21日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0040
【補正方法】変更
【補正内容】
【0040】 ACMEerr = Σ|(Si,j−Sav)−(Ri,j−R0av)| (i=0〜15, j=0〜15) (4) ここに、式中のSは現在の符号化対象画像のマクロブロ
ックの輝度値の平均値、R0avは予測参照画像の動きベ
クトル(0,0)のマクロブロックの輝度値の平均値
で、各々以下の式(5),式(6)で求める。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0076
【補正方法】変更
【補正内容】
【0076】上記スキャンコンバータ3によって上記ブ
ロックフォーマットの信号に変換された動画像信号S2
は、動きベクトル推定回路4、NonMEerr算出回路
5、特徴量算出回路6及び動画像符号化回路9に送出さ
れる。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0118
【補正方法】変更
【補正内容】
【0118】前記図2及び図4において、上記出力ビッ
トストリームを光ディスク104に記録する場合、前記
出力端子10或いは20から出力された出力ビットスト
リーム及び量子化スケール等の後の復号化に必要な情報
からなるデータ列は、誤り訂正エンコーダ(ECCエン
コーダ)101によってエラーコレクションコードが付
加され、変調回路102に送られる。当該変調回路10
2では上記誤り訂正エンコーダ101の出力に対して、
所定の変調処理、例えばいわゆる8−14変調(EF
M:Eight to Fourteen Modulation)或いは8−16変
調等を施す。これらの変調処理は、ディジタル信号を光
ディスク104の伝送特性に合わせるために、上記エン
コーダされたデータ(8ビット)を14ビットや16ビ
ットに変換する変調方式である。この変調回路102の
出力は記録ヘッド103に送られ、当該記録ヘッド10
3にて光ディスク104に記録される。なお、図2及び
図4の例では、信号記録媒体として光ディスクを例に挙
げたが、ハードディスクやフレキシブルディスク等の磁
気ディスク媒体や、磁気テープ等のテープ状記録媒体、
ICカードや各種メモリ素子等の半導体記憶媒体等の記
録媒体であってもよい。また、光ディスクとしては、物
理的にピットを形成して記録がなされるディスクや、光
磁気ディスクの他に、相変化型光ディスクや有機色素型
光ディスク、紫外線レーザ光により記録がなされる光デ
ィスク、多層記録膜を有する光ディスク等の各種のディ
スクを用いることができる。
【手続補正4】
【補正対象書類名】図面
【補正対象項目名】図3
【補正方法】変更
【補正内容】
【図3】
【手続補正5】
【補正対象書類名】図面
【補正対象項目名】図5
【補正方法】変更
【補正内容】
【図5】
【手続補正6】
【補正対象書類名】図面
【補正対象項目名】図8
【補正方法】変更
【補正内容】
【図8】
【手続補正7】
【補正対象書類名】図面
【補正対象項目名】図12
【補正方法】変更
【補正内容】
【図12】

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 動画像信号を構成する画像を複数のブロ
    ックに分割し、動き補償を行ったときの上記ブロックの
    動きベクトル推定残差の大きさと動き補償を行わないと
    きの上記ブロックの残差の大きさとを比較して動き補償
    /非動き補償判定を行い、当該判定結果に基づいて各ブ
    ロック毎に動き補償予測符号化を行う動画像信号符号化
    方法において、 上記ブロック毎の輝度の平均値と平坦さを表す値を算出
    し、 上記ブロックの輝度の平均値と平坦さを表す値とに基づ
    いて、上記動き補償/非動き補償判定での大きさ比較に
    用いる判定領域区分を適応的に選択することを特徴とす
    る動画像信号符号化方法。
  2. 【請求項2】 上記動き補償を行わないときの上記ブロ
    ックの残差として当該ブロックのAC成分の差分を算出
    することを特徴とする請求項1記載の動画像信号符号化
    方法。
  3. 【請求項3】 上記ブロックの輝度の平均値が低く平坦
    なときには、動き補償を行わない非動き補償の上記判定
    領域区分を広くすることを特徴とする請求項1記載の動
    画像信号符号化方法。
  4. 【請求項4】 動画像信号を構成する画像を複数のブロ
    ックに分割するブロック分割手段と、 動き補償を行ったときの上記ブロックの動きベクトル推
    定残差を算出する動きベクトル推定残差算出手段と、 動き補償を行わないときの上記ブロックの残差を算出す
    るブロック残差算出手段と、 上記ブロック毎の輝度の平均値と平坦さを表す値を算出
    する特徴量算出手段と、 上記動き補償を行ったときのブロックの動きベクトル推
    定残差の大きさと上記動き補償を行わないときの上記ブ
    ロックの残差の大きさとを比較して動き補償/非動き補
    償判定を行う動き補償/非動き補償判定手段と、 上記動き補償/非動き補償判定手段の判定結果に基づい
    て、上記各ブロック毎に動き補償予測符号化を行う動画
    像符号化手段とを有してなり、 上記動き補償/非動き補償判定手段では、上記ブロック
    の輝度の平均値と平坦さを表す値とに基づいて、上記動
    き補償/非動き補償判定での大きさ比較に用いる判定領
    域区分を適応的に選択することを特徴とする動画像信号
    符号化装置。
  5. 【請求項5】 上記ブロック残差算出手段は、上記動き
    補償を行わないときの上記ブロックの残差として当該ブ
    ロックのAC成分の差分を算出することを特徴とする請
    求項4記載の動画像信号符号化装置。
  6. 【請求項6】 上記動き補償/非動き補償判定手段は、
    上記ブロックの輝度の平均値が低く平坦なときには動き
    補償を行わない非動き補償の上記判定領域区分を広くす
    ることを特徴とする請求項4記載の動画像信号符号化装
    置。
  7. 【請求項7】 動画像信号を構成する画像を複数のブロ
    ックに分割し、動き補償を行ったときの上記ブロックの
    動きベクトル推定残差の大きさと動き補償を行わないと
    きの上記ブロックの残差の大きさとを比較して動き補償
    /非動き補償判定を行い、当該判定結果に基づいて各ブ
    ロック毎に動き補償予測符号化を行って符号化ビットス
    トリームを生成し、当該符号化ビットストリームを伝送
    する動画像信号伝送方法において、 上記ブロック毎の輝度の平均値と平坦さを表す値を算出
    し、 上記ブロックの輝度の平均値と平坦さを表す値とに基づ
    いて、上記動き補償/非動き補償判定での大きさ比較に
    用いる判定領域区分を適応的に選択することを特徴とす
    る動画像信号伝送方法。
  8. 【請求項8】 上記動き補償を行わないときの上記ブロ
    ックの残差として当該ブロックのAC成分の差分を算出
    することを特徴とする請求項7記載の動画像信号伝送方
    法。
  9. 【請求項9】 上記ブロックの輝度の平均値が低く平坦
    なときには、動き補償を行わない非動き補償の上記判定
    領域区分を広くすることを特徴とする請求項7記載の動
    画像信号伝送方法。
  10. 【請求項10】 動画像信号を構成する画像を複数のブ
    ロックに分割し、動き補償を行ったときの上記ブロック
    の動きベクトル推定残差の大きさと動き補償を行わない
    ときの上記ブロックの残差の大きさとを比較して動き補
    償/非動き補償判定を行う際に、上記ブロック毎の輝度
    の平均値と平坦さを表す値とに基づいて上記動き補償/
    非動き補償判定での大きさ比較に用いる判定領域区分を
    適応的に選択し、当該動き補償/非動き補償判定の結果
    に基づいて上記各ブロック毎に動き補償予測符号化を行
    って生成された符号化ビットストリームを記録してなる
    ことを特徴とする信号記録媒体。
JP33823696A 1996-12-18 1996-12-18 動画像信号符号化方法及び装置、並びに動画像信号伝送方法 Expired - Fee Related JP3633159B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP33823696A JP3633159B2 (ja) 1996-12-18 1996-12-18 動画像信号符号化方法及び装置、並びに動画像信号伝送方法
US08/991,517 US6040865A (en) 1996-12-18 1997-12-16 Image signal coding method and apparatus, image signal transmission method, and signal recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33823696A JP3633159B2 (ja) 1996-12-18 1996-12-18 動画像信号符号化方法及び装置、並びに動画像信号伝送方法

Publications (2)

Publication Number Publication Date
JPH10178645A true JPH10178645A (ja) 1998-06-30
JP3633159B2 JP3633159B2 (ja) 2005-03-30

Family

ID=18316217

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33823696A Expired - Fee Related JP3633159B2 (ja) 1996-12-18 1996-12-18 動画像信号符号化方法及び装置、並びに動画像信号伝送方法

Country Status (2)

Country Link
US (1) US6040865A (ja)
JP (1) JP3633159B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6040865A (en) * 1996-12-18 2000-03-21 Sony Corporation Image signal coding method and apparatus, image signal transmission method, and signal recording medium
JP2009296104A (ja) * 2008-06-03 2009-12-17 Hitachi Kokusai Electric Inc 画像符号化装置
CN102223542A (zh) * 2010-04-14 2011-10-19 联发科技股份有限公司 译码单元的局部运动向量推导的方法与相应装置
JP2012010264A (ja) * 2010-06-28 2012-01-12 Sony Corp 符号化装置、電子機器、撮像装置、および撮像システム
JP2015122573A (ja) * 2013-12-20 2015-07-02 キヤノン株式会社 動き検出装置、動き検出方法及びプログラム

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000134631A (ja) * 1998-10-23 2000-05-12 Canon Inc 画像符号化装置、方法、画像復号化装置、方法及びコンピュータ読み取り可能な記憶媒体
EP1126729A1 (en) * 2000-02-18 2001-08-22 STMicroelectronics S.r.l. A process for estimating the noise level in sequences of images and a device therefor
KR100961760B1 (ko) * 2002-08-13 2010-06-07 퀄컴 인코포레이티드 이산코사인변환 계수를 참조하는 움직임 추정 방법 및 장치
JP3897684B2 (ja) * 2002-11-22 2007-03-28 キヤノン株式会社 画像記録方式
KR20050119422A (ko) * 2004-06-16 2005-12-21 삼성전자주식회사 움직임 보상에 기반한 입력 영상의 노이즈 예측 및 그장치와, 이를 사용한 노이즈 제거 및 동영상 부호화 방법,이를 수행하기 위한 프로그램이 기록된 기록 매체
CN100359953C (zh) * 2004-09-08 2008-01-02 华为技术有限公司 基于帧内编码的图像色度预测方法
JP4271115B2 (ja) * 2004-09-29 2009-06-03 株式会社東芝 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
JP4877449B2 (ja) 2004-11-04 2012-02-15 カシオ計算機株式会社 動画像符号化装置および動画像符号化処理プログラム
JP4764136B2 (ja) * 2005-10-31 2011-08-31 富士通セミコンダクター株式会社 動画像符号化装置、及びフェードシーン検出装置
JP4829019B2 (ja) * 2006-07-06 2011-11-30 株式会社東芝 通信端末装置
JP4885690B2 (ja) * 2006-11-28 2012-02-29 株式会社エヌ・ティ・ティ・ドコモ 画像調整量決定装置、画像調整量決定方法、画像調整量決定プログラムおよび画像処理装置
US8126277B2 (en) * 2007-02-28 2012-02-28 Sanyo Electric Co., Ltd. Image processing method, image processing apparatus and image pickup apparatus using the same
WO2009034486A2 (en) * 2007-09-10 2009-03-19 Nxp B.V. Method and apparatus for line-based motion estimation in video image data
CN102281434B (zh) * 2010-06-10 2013-11-06 中国移动通信集团公司 一种视频压缩方法及设备
JP6659162B2 (ja) * 2016-03-15 2020-03-04 キヤノン株式会社 撮像装置、撮像装置の制御方法及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5029000A (en) * 1988-12-23 1991-07-02 U.S. Philips Corp. High definition television system
US5068724A (en) * 1990-06-15 1991-11-26 General Instrument Corporation Adaptive motion compensation for digital television
US5506622A (en) * 1994-05-02 1996-04-09 Daewoo Electronics Co., Ltd. Block matching type motion vector determination using correlation between error signals
US5799110A (en) * 1995-11-09 1998-08-25 Utah State University Foundation Hierarchical adaptive multistage vector quantization
US5844612A (en) * 1995-11-09 1998-12-01 Utah State University Foundation Motion vector quantizing selection system
JP3633159B2 (ja) * 1996-12-18 2005-03-30 ソニー株式会社 動画像信号符号化方法及び装置、並びに動画像信号伝送方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6040865A (en) * 1996-12-18 2000-03-21 Sony Corporation Image signal coding method and apparatus, image signal transmission method, and signal recording medium
JP2009296104A (ja) * 2008-06-03 2009-12-17 Hitachi Kokusai Electric Inc 画像符号化装置
CN102223542A (zh) * 2010-04-14 2011-10-19 联发科技股份有限公司 译码单元的局部运动向量推导的方法与相应装置
CN105872558A (zh) * 2010-04-14 2016-08-17 联发科技股份有限公司 编码单元的局部运动向量推导的方法
JP2012010264A (ja) * 2010-06-28 2012-01-12 Sony Corp 符号化装置、電子機器、撮像装置、および撮像システム
US8938007B2 (en) 2010-06-28 2015-01-20 Sony Corporation Encoding apparatus, electronic device, imaging apparatus, and imaging system
JP2015122573A (ja) * 2013-12-20 2015-07-02 キヤノン株式会社 動き検出装置、動き検出方法及びプログラム

Also Published As

Publication number Publication date
JP3633159B2 (ja) 2005-03-30
US6040865A (en) 2000-03-21

Similar Documents

Publication Publication Date Title
JP3633159B2 (ja) 動画像信号符号化方法及び装置、並びに動画像信号伝送方法
JP2801559B2 (ja) 動き大小に適応する動き補償符号化方法及びその装置
US6603815B2 (en) Video data processing apparatus, video data encoding apparatus, and methods thereof
KR0168458B1 (ko) 움직임 보상을 갖는 프레임간 혼성 부호기에서의 왜곡을 감소시키는 장치 및 방법 그리고 그에 대한 부호화 시스템
US6360017B1 (en) Perceptual-based spatio-temporal segmentation for motion estimation
JP3063715B2 (ja) 画像圧縮装置
JP2001028756A (ja) コンテクストベースでフレーム内コーディングモードとフレーム間コーディングモードとの間の選択を行なうための方法および装置
EP0838953A2 (en) Image signal padding method for coding/decoding purposes
JPH1155672A (ja) 動画像符号化装置および動画像復号化装置および動画像符号化方法および動画像復号化方法
JPH08223577A (ja) 動画像符号化方法及び装置、並びに動画像復号方法及び装置
KR100415494B1 (ko) 화상인코딩방법및장치,기록장치,비디오신호인코딩장치,처리장치및방법,비디오데이터처리장치및방법
JPH0984025A (ja) デイジタル画像信号符号化装置及び方法、符号化画像信号復号装置及び方法
JP3982615B2 (ja) 符号化動画像データの方式変換装置
KR20030014677A (ko) 비디오 코딩 방법 및 대응하는 인코딩 장치
JP3240024B2 (ja) 画像処理方法
JP2000059792A (ja) 動画像信号の高能率符号化装置
US6556714B2 (en) Signal processing apparatus and method
JP3812808B2 (ja) スキップ領域検出型動画像符号化装置および記録媒体
JP3200199B2 (ja) 動画像圧縮符号化方法
JP3888533B2 (ja) 画像特徴に応じた画像符号化装置
JPH10108197A (ja) 画像符号化装置、画像符号化制御方法および画像符号化制御用プログラムを記録した媒体
JP2007060704A (ja) 動画像符号化方法、装置及びプログラム
JP4399794B2 (ja) 画像符号化装置及び画像符号化方法
JP3188081B2 (ja) 画像符号化方法および画像符号化装置
JPH0775095A (ja) レート制御回路

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100107

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees