JPH08149481A - 映像信号符号化・復号化装置及び符号化・復号化方法 - Google Patents

映像信号符号化・復号化装置及び符号化・復号化方法

Info

Publication number
JPH08149481A
JPH08149481A JP29129194A JP29129194A JPH08149481A JP H08149481 A JPH08149481 A JP H08149481A JP 29129194 A JP29129194 A JP 29129194A JP 29129194 A JP29129194 A JP 29129194A JP H08149481 A JPH08149481 A JP H08149481A
Authority
JP
Japan
Prior art keywords
motion vector
signal
motion
target area
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP29129194A
Other languages
English (en)
Other versions
JP3784086B2 (ja
Inventor
Tadashi Kasezawa
正 加瀬沢
Yoshiko Hatano
喜子 幡野
Takashi Shinohara
隆 篠原
Koji Okazaki
幸治 岡崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP29129194A priority Critical patent/JP3784086B2/ja
Publication of JPH08149481A publication Critical patent/JPH08149481A/ja
Application granted granted Critical
Publication of JP3784086B2 publication Critical patent/JP3784086B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】 探索領域を広げても符号化効率が劣化せず、
また、ハード/ソフトウェア規模を小規模のものとする
ことができる、映像信号符号化・復号化装置及び符号化
・復号化方法を得る。 【構成】 画像情報の大域的な動きを示す第1の動きベ
クトルを得る第1の動き検出手段10cと、局所的な動
きを示す第2の動きベクトルを得る第2の動き検出手段
18cの組み合わせによって、画像情報の符号化対象領
域の動き補償予測をするように構成することで、第1の
動きベクトルの符号量を小さくし、また、第2の動きベ
クトルの検出のための複数の探索領域を設けておく必要
がなくなる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、動き補償予測を用い
て映像信号の符号化・復号化を行う映像信号符号化・復
号化装置及び符号化・復号化方法に関するものである。
【0002】
【従来の技術】映像信号符号化・復号化装置における符
号化手段として、動き補償予測とDCT(離散コサイン
変換)を併用したものがよく使われている。以下に説明
する従来例もこれを用いたものである。
【0003】図11乃至図15は、例えば、ISO/IEC 13
818-2 Draft International Standardに示されたよう
な、従来の映像信号符号化装置及び該符号化装置により
符号化された映像信号を再生する復号化装置について説
明するための図である。ここに、図11は映像信号符号
化装置の概略構成を示すブロック図、図12は映像信号
復号化装置の概略構成を示すブロック図であり、また、
図13,図14は映像信号の符号化に際して行われる動
き補償予測の概念を示すための概念図、図15は符号化
のためのベクトルコードを示す図(なお、同図ではいく
つかの探索範囲におけるベクトルコードのみを示してい
る。)である。また、図16は後述する動きベクトルの
差分値とその出現確率との関係を示した図である。
【0004】一般に、動き補償予測とDCTを用いた符
号化では、1枚の画像情報を格子状の複数の小領域(以
下、符号化対象領域と呼ぶ。)に分割し、かかる小領域
毎に符号化を行う。この動き補償予測と呼ばれるもの
は、現在符号化しようとしている画像(以下、符号化対
象画像と呼ぶ。)の符号化対象領域に対して、過去に符
号化したいくつかの画像(以下、参照画像と呼ぶ。)に
おける最も類似し、かつ符号化対象領域と同じ大きさの
領域(以下、予測領域と呼ぶ。)を検出し、当該予測領
域と符号化対象領域との差信号のみを符号化して伝送す
るものである。
【0005】この際、どの領域が当該予測領域であるか
という情報も同時に復号化手段に伝送することが必要で
あるが、この情報を動きベクトルと呼び、インタレース
画像とノンインタレース画像とでは異なるが、本従来例
では、説明上、水平動きベクトルと垂直動きベクトルの
2つのベクトルによって構成されるものとする。この動
き補償予測を概念的に示したものが図14である。
【0006】一方、復号化手段では、伝送されてきた上
述の動きベクトルと再生された参照画像とから予測領域
を検出し、該予測領域の映像信号に伝送されてきた差信
号を加えるようにされており、ここに元の符号化対象領
域の信号を再生できる。
【0007】また、予測領域は、図13に示すように、
参照画像において符号化対象画像の符号化対象領域と同
じ水平/垂直位置を中心として水平方向に±h画素、垂
直方向に±vライン分拡張した領域(以下、探索領域と
呼ぶ。)内から選択される。一般に、動きの速い映像に
対して符号化効率を上げるためにはその探索領域を広げ
ることが必要である。そこで、従来の装置ではこの探索
領域の大きさを適宜選択可能にし得るように構成されて
いる。
【0008】では、従来の映像信号符号化装置の具体的
な構成について、図11に基づき説明する。図におい
て、1aは映像信号の入力端子、2aは符号化された映
像信号の出力端子、3aは減算手段、4aは情報圧縮の
ため映像信号を水平/垂直の空間周波数に変換するDC
T手段、5aは量子化手段、6aは逆量子化手段、7a
は周波数変換された映像信号を元の映像信号に再変換す
るIDCT(逆離散コサイン変換)手段、8aは加算手
段、9aはメモリ手段、12aはスイッチ(切替)手
段、13aは可変長符号化手段、14aは送信バッファ
手段、15aは符号量制御手段、18aは動き検出手段
である。
【0009】入力端子1aから入力された映像信号10
1は、動きベクトル生成のため、その一部が動き検出手
段18aに入力されるとともに、減算手段3aにおいて
予測領域の信号との差信号102とされる。この差信号
102は、DCT手段4aにおいて周波数変換され、さ
らに量子化手段5aによって量子化される。
【0010】そして、量子化された差信号104の一部
は逆量子化手段6a及び逆DCT手段7aを介して再変
換されて元の差信号とされ、加算手段8aで予測領域の
信号が加算されて元の映像信号となり、メモリ手段9a
に参照画像として蓄えられる。 一方、残りの差信号1
04は可変長符号化手段13aにおいて、動き検出手段
18aで生成された動きベクトル112とともに符号化
され、多重化される。ここで、可変長符号化とは、出現
確率の高いシンボルには短い符号語を、出現確率の低い
シンボルには長い符号語を割り当てる符号化手法の一つ
である。
【0011】そして、多重化信号114は送信バッファ
手段14aを経て、出力端子2aより伝送、あるいは、
図示せぬ記録媒体に記録されることになる。なお、符号
量制御手段15aは、送信バッファ手段14aにおける
メモリ残量等の信号を受けて、オーバーフローが発生し
ないよう、量子化手段5aの量子化ステップを適応的に
変化させている。
【0012】一方、メモリ手段9aに蓄えられた参照画
像はスイッチ手段12aの第1の端子に入力されるとと
もに、動き検出手段18aにも入力される。(スイッチ
手段12aの第2の端子には零信号が入力されてい
る。)
【0013】動き検出手段18aでは、入力された参照
画像108、及び、映像信号(符号化対象画像)101
から符号化対象画像の符号化対象領域毎に、上述したよ
うな動きベクトル112を検出する(図13,図14参
照)。検出された動きベクトル112は可変長符号化手
段13aに送出され、ここで隣接する符号化対象領域の
動きベクトルとの差分値が算出され、これを可変長符号
化したベクトルコードは、可変長符号化された差信号1
04に多重化される。
【0014】また、動き検出手段18aの出力110
は、スイッチ手段12aの切替信号としても用いられ、
かかる信号に基づき参照画像の映像信号は予測領域の信
号109に変換されて減算手段3a及び加算手段8aに
入力される。さらに、かかる信号110は可変長符号化
手段13aにおいて、差信号104と動きベクトルの符
号化切替信号としても用いられる。
【0015】次に、上述のごとく符号化された映像信号
を復号化する映像信号復号化装置の具体的構成につい
て、図12に基づき説明する。図において、1bは符号
化された映像信号の入力端子、2bは復号化された映像
信号の出力端子、14bは受信バッファ手段、13bは
可変長復号化手段、5bは逆量子化手段、4bはIDC
T手段、8bは加算手段、9bはメモリ手段、12bは
スイッチ手段である。
【0016】入力端子1bから入力された符号化映像信
号201は、受信バッファ手段14bを介して、可変長
復号化手段13bに入力される。可変長復号化手段13
bではこの符号化映像信号202を復号化し、動きベク
トル213と差信号203とに分離する。分離された差
信号203は逆量子化手段5bで逆量子化され、IDC
T手段4bで元の差信号205に変換される。さらに、
この差信号205は、加算手段8bにおいて予測領域の
信号208と加算されて元の符号化対象領域の信号20
6に戻され、その一部がメモリ手段9bに蓄えられると
ともに、元の符号化対象画像として出力端子2bから出
力される。
【0017】一方、メモリ手段9bは加算手段8bから
の符号化対象領域信号206と可変長復号化手段で復号
化された動きベクトル213とから予測領域の信号20
7を生成し、該予測領域信号207を可変長復号化手段
で生成した動き補償予測のための切替信号209に基づ
いて切り替えられるスイッチ手段12bを介して加算手
段8bに入力させるように構成されている。なお、スイ
ッチ手段12bの一端には零信号が入力されており、こ
の端子が選択されている場合には動き補償予測のなされ
ていない信号が8bより出力される。
【0018】
【発明が解決しようとする課題】従来の映像信号符号化
・復号化装置は以上のように構成されており、動きの速
い映像に対する符号化効率を上げるため、探索領域の大
きさを適宜設定することができるように構成されてい
た。
【0019】しかし、図16に示すように、探索領域の
大きさが異なると、それに伴って動きベクトルの差分値
の出現確率が異なってくる。このため、可変長符号化手
段13aにおいて動きベクトルのベクトルコードを作成
する際にはその探索領域の大きさに応じてベクトルコー
ドを異ならせることが必要となる。
【0020】そこで、従来の装置では、図15に示すよ
うに、motion code(ある定められた可変長コード)
と、motion residual(探索範囲に応じて符号長の定め
られたコード)の2つのコードを組み合わせることによ
ってベクトルコードを作成するように構成されており、
これらを組み合わせることで探索領域の大きさに応じた
異なるベクトルコードを作成していた。
【0021】ここで、動きベクトルの差分値は、図16
に示されるように、その探索領域の大きさにかかわら
ず、ベクトルの差分値の小さいものの出現確率が高いと
いう特徴を有している。しかし、従来のベクトルコード
ではこの点を全く考慮していなかったため、図15に示
すように、探索領域が大きくなるにしたがって、ベクト
ル差分値の小さい値を示すベクトルコードの符号長が長
くなるという特徴を持っている。
【0022】このことは、動きの速い映像に対して符号
化効率を上げるために探索領域を広げているのにもかか
わらず、広げたことによりベクトルコードの平均語長が
長くなってしまい、その結果、符号化効率が悪化し、画
質を劣化させてしまうという問題を生じさせていた。
【0023】また、従来の装置では、motion codeと、m
otion residualの2つのコードを組み合わせることによ
って探索領域の大きさに応じて異なるベクトルコードを
作成するようにしているため、あらゆる探索領域に対し
て最適なベクトルコードを得るために探索領域の大きさ
に対応した複数種類のベクトルコードを並列的に持つこ
とが必要となる。従って、ハードウェア/ソフトウェア
規模が必然的に大きくならざるを得ず、実用的ではない
という問題点もあった。
【0024】本発明は、以上述べたような従来装置の問
題点を解消するためになされたものであり、探索領域を
広げても、符号化効率が劣化しない、また、ハードウェ
ア/ソフトウェア規模を小規模のものとすることができ
る、映像信号符号化・復号化装置及び符号化・復号化方
法を得ることを目的としている。
【0025】
【課題を解決するための手段】本発明にかかる映像信号
符号化・復号化装置及び映像信号符号化・復号化方法
は、動き補償予測を用いて映像信号の符号化・復号化を
行うものにおいて、現在符号化しようとしている1枚の
画像情報を複数の領域に分割した上位符号化対象領域の
各領域毎に、その領域の時間的な動きを示す第1の動き
ベクトルを、過去に符号化した参照画像に対して検出
し、第1の動きベクトルが検出された前記上位符号化対
象領域を複数の領域に分割した符号化対象領域の各領域
毎に、その領域の時間的な動きを示す第2の動きベクト
ルを、前記第1の動きベクトルによって指定された位置
を中心とする前記参照画像の所定の探索領域内において
検出し、前記第1,第2の動きベクトルにより指定され
る前記参照画像の予測領域の信号と前記符号化対象領域
の信号との差信号を検出し、前記第1,第2の動きベク
トルと前記差信号とを可変長符号化して多重化した信号
を伝送するとともに、多重化された信号を受信して前記
第1,第2の動きベクトルと前記差信号とに分離して可
変長復号化し、可変長復号化された前記第1,第2の動
きベクトルに基づき、過去に再生した前記参照画像から
前記予測領域を検出して可変長復号化された前記差信号
に加算することで前記符号化対象領域の信号を検出し、
前記1枚の画像情報を再生するものである。
【0026】本発明にかかる映像信号符号化装置及び映
像信号符号化方法は、動き補償予測を用いて映像信号の
符号化を行うものにおいて、現在符号化しようとしてい
る1枚の画像情報を複数の領域に分割した上位符号化対
象領域の各領域毎に、その領域の時間的な動きを示す第
1の動きベクトルを、過去に符号化した参照画像に対し
て検出し、第1の動きベクトルが検出された前記上位符
号化対象領域を複数の領域に分割した符号化対象領域の
各領域毎に、その領域の時間的な動きを示す第2の動き
ベクトルを、前記第1の動きベクトルによって指定され
た位置を中心とする前記参照画像の所定の探索領域内に
おいて検出し、前記第1,第2の動きベクトルにより指
定される前記参照画像の予測領域の信号と前記符号化対
象領域の信号との差信号を検出し、前記第1,第2の動
きベクトルと前記差信号とを可変長符号化して多重化す
るものである。
【0027】本発明にかかる映像信号復号化装置及び映
像信号復号化方法は、動き補償予測を用いて符号化され
た映像信号の復号化を行うものであって、1枚の画像情
報を複数の領域に分割した上位符号化対象領域の各領域
毎に、その領域の過去に符号化した参照画像に対する時
間的な動きを示す第1の動きベクトルと、該第1の動き
ベクトルが検出された前記上位符号化対象領域をさらに
複数の領域に分割した符号化対象領域の各領域毎に、そ
の領域の前記第1の動きベクトルによって指定された位
置を中心とする前記参照画像の所定の探索領域内におけ
る時間的な動きを示す第2の動きベクトルと、前記第
1,第2の動きベクトルによって指定される前記参照画
像の予測領域の信号と前記符号化対象領域の信号との差
信号とを多重化した多重化信号の復号を行うものにおい
て、受信した多重化信号を前記第1,第2の動きベクト
ルと、前記差信号とに分離し可変長復号化し、可変長復
号化された前記第1,第2の動きベクトルに基づき、過
去に再生した前記参照画像から前記予測領域を検出し、
前記検出手段で検出した前記予測領域の信号と可変長復
号化された前記差信号とを加算することで前記符号化対
象領域の信号を検出し、前記1枚の画像情報を再生する
ものである。
【0028】また、本発明においては、第1の動きベク
トルが検出されなかった上位符号化対象領域における第
1の動きベクトルを、前記上位符号化対象領域が近接す
る未来の画像の上位符号化対象領域において検出された
第1の動きベクトルから、符号化装置と復号化装置との
間に定められた一定の規則に基づき作成するものであ
る。
【0029】また、本発明においては、第1の動きベク
トルが検出されなかった上位符号化対象領域における第
1の動きベクトルを、該上位符号化対象領域を含む画像
情報における他の上位符号化対象領域において検出され
た第1の動きベクトルによって代用するものである。
【0030】
【作用】本発明によれば、画像情報の大域的な動きを示
す第1の動きベクトルと局所的な動きを示す第2の動き
ベクトルとの組み合わせによって、画像情報の符号化対
象領域の動きベクトルを表すようにしているので、第1
の動きベクトルの符号量を小さくできるとともに、第2
の動きベクトルの検出のために複数の探索領域を設けて
おく必要がなくなる。
【0031】また、本発明によれば、第1の動きベクト
ルが検出されない場合にも、パンニング等、通常の画像
情報の特徴及び人間の視覚特性に基づいて、他の第1の
動きベクトルを用いて当該第1の動きベクトルの作成あ
るいは検出された第1の動きベクトルによる代用をさせ
ることができる。
【0032】
【実施例】
実施例1.以下、本発明の実施例について図に基づき説
明する。図1乃至図8は、本発明の第1の実施例にかか
る映像信号符号化装置及び該符号化装置により符号化さ
れた映像信号を再生する復号化装置について説明するた
めの図である。
【0033】ここに、図1は映像信号符号化装置の概略
構成を示すブロック図、図2は映像信号復号化装置の概
略構成を示すブロック図、図3は第1の動き検出手段の
構成の一例を示すブロック図である。また、図4は本実
施例における符号化対象領域と上位符号化対象領域の概
念を示す概念図、図5,図6は本実施例の映像信号の符
号化に際して行われる動き補償予測の概念を示すための
概念図、図7は符号化のためのベクトルコードを示す
図、図8は本実施例の第1の動きベクトルと画像との関
係を示す概念図である。
【0034】上述の図16で説明したように、通常の画
像における動きベクトルの差分値は、その探索領域の大
きさにかかわらず、ベクトル差分値の小さいものの出現
確率が非常に高い。これは、通常の画像の時間的な動き
は、カメラのパンニング等に代表されるように、あるま
とまった領域においては同じような動きをすることが多
いことを意味している。よって、動きの速い画像の場
合、その動きベクトル自体は大きな値をとるとしても、
動きベクトルの差分値については大部分は小さな値をと
ることになる。また、人間の視覚特性を考慮すると、こ
のパンニングのような、あるまとまった領域毎の速い動
きに対しては、人間の視覚特性は比較的良好であるのに
対し、逆に画面の局所的な速い動きに対しては、人間の
視覚特性は極度に劣化するという特徴がある。
【0035】本発明はかかる画像及び人間の視覚特性の
特徴を利用したものであり、本実施例においては、ま
ず、図4に示したような、上位符号化対象領域というも
のを定義する。これは、従来の符号化対象領域を複数集
めることで構成されるものである。そして、図5に示す
ように、この符号化対象画像を構成する全ての上位符号
化対象領域に対して、大域的な動きを示す第1の動きベ
クトルをそれぞれ検出する。その後、図6に示すよう
に、第1の動きベクトルの検出された上位符号化対象領
域に含まれた符号化対象領域の各々に対し、第1の動き
ベクトルにて指定された位置を中心とする所定の探索領
域内における第2の動きベクトルを検出し、これらの動
きベクトルを各々符号化するようにしている。
【0036】このような本実施例によれば、第1の動き
ベクトルは広い領域に対して検出されるため、全体の符
号量に対する第1の動きベクトルの符号量は非常に少な
いものとなる。また、第2の動きベクトルは既に第1の
動きベクトルにより広い領域の動きを検出しているた
め、動きの速い画像であっても、限られた範囲の中での
局所的な動き検出を行えば十分であり、予め適当な1つ
の探索領域を設定しておき、この探索領域内において第
2の動きベクトルを検出すればよい。従って、従来のよ
うに複数のベクトルコードを並列的に設ける必要はなく
なる。
【0037】では、本実施例の具体的な装置構成につい
て以下、説明する。図1は、このような本発明の第1の
実施例にかかる映像信号符号化装置の構成を示すブロッ
ク図である。図において、1cは映像信号の入力端子、
2cは符号化された映像信号の出力端子、3cは減算手
段、4cは情報圧縮のため映像信号を水平/垂直の空間
周波数に変換するDCT手段、5cは量子化手段、6c
は逆量子化手段、7cは周波数変換された映像信号を元
の映像信号に再変換するIDCT(逆離散コサイン変
換)手段、8cは加算手段、9cはメモリ手段、10c
は第1の動き検出手段、12cはスイッチ(切替)手
段、13cは可変長符号化手段、14cは送信バッファ
手段、15cは符号量制御手段、18cは第2の動き検
出手段である。
【0038】入力端子1cから入力された映像信号30
1は、その一部が第1の動き検出手段10c及び第2の
動き検出手段18cに入力されるとともに、減算手段3
c入力されて予測領域の信号309との差信号302と
される。この差信号302は、DCT手段4cにおいて
周波数変換され、さらに量子化手段5cによって量子化
される。
【0039】そして、量子化された差信号304の一部
は逆量子化手段6c及び逆DCT手段7cを介して再変
換されて元の差信号とされ、加算手段8cで予測領域の
信号309が加算されて元の映像信号となり、メモリ手
段9cに参照画像として蓄えられる。一方、残りの差信
号304は可変長符号化手段13cにおいて、第1の動
き検出手段10c及び第2の動き検出手段18cで生成
された第1,第2の動きベクトル312,313ととも
に符号化され、多重化される。
【0040】そして、多重化信号314は送信バッファ
手段14cを経て、出力端子2cより伝送、あるいは、
図示せぬ記録媒体に記録されることになる。なお、符号
量制御手段15cは、送信バッファ手段14cにおける
メモリ残量等の信号を受けて、オーバーフローが発生し
ないよう、量子化手段5cの量子化ステップを適応的に
変化させている。
【0041】一方、メモリ手段9cに蓄えられた参照画
像はスイッチ手段12cの第1の端子に入力されるとと
もに、第2の動き検出手段18cにも入力される。(ス
イッチ手段12cの第2の端子には零信号が入力されて
いる。)
【0042】第2の動き検出手段18cでは、入力され
た参照画像308、映像信号(符号化対象画像)301
及び第1の動き検出手段10cで生成された第1の動き
ベクトル313から符号化対象画像の符号化対象領域毎
に、上位符号化対象領域の第1の動きベクトルで指定さ
れる領域を中心とした所定の探索領域内において動き検
出されて第2の動きベクトルを検出する(図6参照)。
検出された第1の動きベクトル313及び第2の動きベ
クトル312は可変長符号化手段13cに送出され、こ
こでそれぞれ隣接する上位符号化対象領域及び符号化対
象領域における動きベクトルとの差分値が算出され、こ
れを図7に示すようなベクトルコードによりベクトルコ
ード化し、可変長符号化された差信号304に多重化さ
れる。
【0043】また、第2の動き検出手段18cの出力3
10は、スイッチ手段12cの切替信号としても用いら
れ、かかる信号に基づき参照画像の映像信号308は予
測領域の信号309に変換されて減算手段3c及び加算
手段8cに入力され、また、かかる信号310は可変長
符号化手段13cにおいて、差信号304と第1,第2
の動きベクトルとの符号化切替信号としても用いられ
る。
【0044】なお、図7に示すように、本実施例では第
1の動きベクトルのベクトルコードと、第2の動きベク
トルのベクトルコードとにより動きベクトルがコード化
される。また、本実施例では第1の動きベクトルのベク
トルコードとして8ビット固定長のコードを示したが、
これに限られるものではなく、他のビット長でも、可変
長コードでもよい。さらに、本実施例では第2の動きベ
クトルのベクトルコードとして従来例に示した基準探索
範囲におけるベクトルコードを示したが、これに限られ
るものではなく、他の探索範囲におけるベクトルコード
としてもよい。
【0045】次に、上述のごとく符号化された映像信号
を復号化する映像信号復号化装置について、図2に基づ
き説明する。図において、1dは符号化された映像信号
の入力端子、2dは復号化された映像信号の出力端子、
14dは受信バッファ手段、13dは可変長復号化手
段、5dは逆量子化手段、4dはIDCT手段、8dは
加算手段、9dはメモリ手段、12dはスイッチ手段、
17dは動きベクトル再生手段である。
【0046】入力端子1dから入力された符号化映像信
号401は、受信バッファ手段14dを介して、可変長
復号化手段13dに入力される。可変長復号化手段13
dではこの符号化映像信号402を復号化し、第1の動
きベクトル410と第2の動きベクトル411と差信号
403とに分離する。分離された差信号403は逆量子
化手段5dで逆量子化され、IDCT手段4dで元の差
信号405に変換される。さらに、この差信号405
は、加算手段8dにおいて予測領域の信号408と加算
されて元の符号化対象領域の信号406に戻され、その
一部がメモリ手段9dに蓄えられるとともに、元の符号
化対象画像として出力端子2dから出力される。
【0047】一方、メモリ手段9dは加算手段8dから
の符号化対象領域信号406と可変長復号化手段で復号
化され、動きベクトル再生手段17dでベクトル合成さ
れた動きベクトル412とから予測領域の信号407を
生成し、該予測領域信号407を可変長復号化手段で生
成した動き補償予測のための切替信号409に基づいて
切り替えられるスイッチ手段12dを介して加算手段8
dに入力させるように構成されている。なお、スイッチ
手段12dの一端には零信号が入力されており、この信
号端子が選択されている場合には動き補償予測のなされ
ていない再生信号が加算手段8dより出力されることに
なる。
【0048】次に、本実施例における第1の動きベクト
ルの検出方法について説明する。図3は、図1に示した
第1の動き検出手段10cの具体的構成の一例を示す図
である。図において、19cは低域通過フィルタ(LP
F)手段、20cはサブサンプリング手段、21cはメ
モリ手段、22cは代表ベクトル検出手段である。
【0049】第1の動き検出手段10cに入力された映
像信号301は、LPF手段19cを通過することによ
り高周波成分が除去されるとともに、サブサンプリング
手段20cによりハードウェア規模を縮小するためにサ
ブサンプリングされる。この際、サブサンプリングの前
処理としてLPF手段19cを施しているので、動き検
出に与える折り返し歪の影響を除去することができる。
サブサンプリングされた映像信号は、メモリ手段21c
において参照画像として蓄えられるとともに、代表ベク
トル検出手段22cに直接与えられる。代表ベクトル検
出手段22cでは、入力された映像信号から構成される
符号化対象画像の上位符号化対象領域とメモリ手段21
cからの参照画像を基に、図5で説明したように第1の
動きベクトルを検出する。
【0050】また、図8は本実施例における第1の動き
ベクトルと画像との関係を示す図である。図において、
縦線は各画像、横の短線は上位符号化対象領域の境界、
矢印は第1の動きベクトルを示している。同図からわか
るように、第1の動きベクトルはすべての上位符号化対
象領域に対して検出される。
【0051】実施例2.次に、本発明の第2の実施例を
説明する。図9は第1の動きベクトルと画像との間の第
1の関係を示す図である。
【0052】上述の実施例1では、符号化対象画像のす
べての上位符号化対象領域に対して第1の動きベクトル
が検出される場合について説明したが、第1の動きベク
トルは、その画像の動きの早さや上位符号化対象領域の
大きさの取り方によっては検出されない場合がある。
【0053】本実施例は、このような第1の動きベクト
ルが検出されない上位符号化対象領域における第1の動
きベクトルの作成方法に関するものであり、符号化装置
と復号化装置との間に定められた一定の規則に基づき、
他の上位符号化対象領域の第1の動きベクトルから当該
上位符号化対象領域の第1の動きベクトルを作成する。
【0054】図9は、ある画像間隔をおいて、第1の動
きベクトルが検出された場合である。 同図では、m枚
の画像毎に第1の動きベクトルが検出される。この際、
第1の動きベクトルが検出されなかった画像では、第1
の動きベクトルの検出された最も近接する未来の画像に
おける当該第1の動きベクトルから、以下のような方法
で第1の動きベクトルを作成する。
【0055】すなわち、第n画像及び第n+m画像の第
1の動きベクトルが検出されている時、第n+m画像に
おける第1の動きベクトルをvとすると、第n+y画像
では過去の画像に対する第1の動きベクトルvfと未来
の画像に対する第1の動きベクトルvbを以下のように
作成する。 vf={y/m}×v vb={(m−y)/m}×(−v)
【0056】なお、第1のベクトル作成方法としては、
基本的には符号化装置と復号化装置との間で共通の規則
に従って定められた方法であれば良く、上記式以外の方
法であっても良い。
【0057】実施例3.図10は本発明の第3の実施例
を示す図であり、第1の動きベクトルと画像との間の第
2の関係を示すものである。
【0058】本実施例は、上記実施例2とは異なり、符
号化対象画像のうち1つの上位符号化対象画像に対して
のみ第1の動きベクトルが検出された場合である。この
ような場合、本実施例では、他の上位符号化対象画像の
第1の動きベクトルとして、この検出された第1の動き
ベクトルを代用するようにしている。このようにしたと
しても、上述したように、通常の画像は、パンニング
等、画面全体を一つの塊として移動することが多いた
め、大きな問題とはならない。
【0059】なお、上述の実施例2及び実施例3におい
て、第1の動きベクトルが検出されない上位符号化対象
領域ではかかる第1の動きベクトルのベクトルコードを
第2の動きベクトルや差信号のベクトルコードに多重化
して伝送する必要のないことはいうまでもない。また、
上記各実施例においては、第1,第2の動きベクトルの
検出に際して1枚の画像すなわち、TVにおけるフレー
ム画像を単位としていたが、フィールド画像を単位に第
1,第2の動きベクトルを検出するようにしてもよい。
【0060】
【発明の効果】以上のように、本発明によれば、画像情
報の動きをその大域的な動きを示す第1の動きベクトル
と、局所的な動きを示す第2の動きベクトルとにより2
段階の動き補償予測を行うようにしているため、ハード
ウェア/ソフトウェア規模を小規模なものとしながら、
動きの早い画像にあっても符号化効率の高い映像信号符
号化・復号化装置及び符号化・復号化方法が得られると
いう効果がある。
【0061】また、本発明によれば、第1の動きベクト
ルが検出できない上位符号化対象領域があったとして
も、容易にこれに代わる第1の動きベクトルを得ること
ができ、また、本発明により得た第1の動きベクトル
は、パンニング等の画像情報の特徴及び人間の視覚特性
に基づいて得たものであるため、再生画質の劣化も僅か
なものに押さえた映像信号符号化・復号化装置及び符号
化・復号化方法が得られるという効果がある。
【図面の簡単な説明】
【図1】 本発明の映像信号符号化・復号化装置におけ
る符号化装置の概略構成を示すブロック図である。
【図2】 本発明の映像信号符号化・復号化装置におけ
る復号化装置の概略構成を示すブロック図である。
【図3】 本発明の映像信号符号化・復号化装置におけ
る第1の動き検出手段の構成を示すブロック図である。
【図4】 本発明の映像信号符号化・復号化装置におけ
る符号化対象領域及び上位符号化対象領域の概念を示す
概念図である。
【図5】 本発明の映像信号符号化・復号化装置におけ
る第1の動きベクトル検出の概念を示す概念図である。
【図6】 本発明の映像信号符号化・復号化装置におけ
る第2の動きベクトル検出の概念及び第1,第2の動き
ベクトルの関係を示す概念図である。
【図7】 本発明の映像信号符号化・復号化装置におけ
るベクトルコードを示す図である。
【図8】 本発明の映像信号符号化・復号化装置におけ
る第1の動きベクトルと各画像間の関係を示す図であ
る。
【図9】 本発明の映像信号符号化・復号化装置におい
て検出されなかった第1の動きベクトルを作成する方法
を示す図である。
【図10】 本発明の映像信号符号化・復号化装置にお
いて検出されなかった第1の動きベクトルを検出された
他の第1の動きベクトルで代用する方法を示す図であ
る。
【図11】 従来の映像信号符号化・復号化装置におけ
る符号化装置の概略構成を示すブロック図である。
【図12】 従来の映像信号符号化・復号化装置におけ
る復号化装置の概略構成を示すブロック図である。
【図13】 従来の映像信号符号化・復号化装置におい
て動きベクトルを検出するための探索領域の概念を示す
概念図である。
【図14】 従来の映像信号符号化・復号化装置におけ
る動きベクトル検出の概念を示す概念図である。
【図15】 従来の映像信号符号化・復号化装置におけ
るベクトルコードを示す図である。
【図16】 従来の映像信号符号化・復号化装置におけ
る動きベクトルの差分値とその出現確率との関係を示す
図である。
【符号の説明】
1a,1b,1c,1d:入力端子、2a,2b,2
c,2d:出力端子、3a,3c:減算手段、4a,4
c:DCT(離散コサイン変換)手段、4b:IDCT
(逆離散コサイン変換)手段、5a,5c:量子化手
段、5b,5d:逆量子化手段、6a,6c:逆量子化
手段、7a,7c:IDCT手段、8a,8b,8c,
8d:加算手段、9a,9b,9c,9d:メモリ手
段、10c:第1の動き検出手段、12a,12b,1
2c,12d:スイッチ(切替)手段、13a,13
c:可変長符号化手段、13b,13d:可変長復号化
手段、14a,14c:送信バッファ手段、14b,1
4d:受信バッファ手段、15a,15c:符号量制御
手段、17d:動きベクトル再生手段、18a,18
c:第2の動き検出手段、19c:低域通過フィルタ
(LPF)手段、20c:サブサンプリング手段、21
c:メモリ手段、22c:代表ベクトル検出手段
フロントページの続き (72)発明者 岡崎 幸治 京都府長岡京市馬場図所1番地 三菱電機 株式会社映像システム開発研究所内

Claims (14)

    【特許請求の範囲】
  1. 【請求項1】 動き補償予測を用いて映像信号の符号化
    ・復号化を行う映像信号符号化・復号化装置において、 現在符号化しようとしている1枚の画像情報を複数の領
    域に分割した上位符号化対象領域の各領域毎に、その領
    域の時間的な動きを示す第1の動きベクトルを、過去に
    符号化した参照画像に対して検出する第1の動き検出手
    段と、 第1の動きベクトルが検出された前記上位符号化対象領
    域を複数の領域に分割した符号化対象領域の各領域毎
    に、その領域の時間的な動きを示す第2の動きベクトル
    を、前記第1の動きベクトルによって指定された位置を
    中心とする前記参照画像の所定の探索領域内において検
    出する第2の動き検出手段と、 前記第1,第2の動きベクトルにより指定される前記参
    照画像の予測領域の信号と前記符号化対象領域の信号と
    の差信号を検出する減算手段と、 前記第1,第2の動きベクトルと前記差信号とを可変長
    符号化して多重化する可変長符号化手段と、 前記可変長符号化手段により多重化された信号を伝送す
    る伝送手段と、 多重化された信号を受信する受信手段と、 受信した多重化信号を前記第1,第2の動きベクトルと
    前記差信号とに分離して可変長復号化する可変長復号化
    手段と、 可変長復号化された前記第1,第2の動きベクトルに基
    づき、過去に再生した前記参照画像から前記予測領域を
    検出する検出手段と、 前記検出手段で検出した前記予測領域の信号と可変長復
    号化された前記差信号とを加算することで前記符号化対
    象領域の信号を検出し、前記1枚の画像情報を再生する
    加算手段とを備えたことを特徴とする映像信号符号化・
    復号化装置。
  2. 【請求項2】 第1の動きベクトルが検出されなかった
    上位符号化対象領域における第1の動きベクトルを、前
    記上位符号化対象領域が近接する未来の画像の上位符号
    化対象領域において検出された第1の動きベクトルか
    ら、符号化装置と復号化装置との間に定められた一定の
    規則に基づき作成することを特徴とする請求項1記載の
    映像信号符号化・復号化装置。
  3. 【請求項3】 第1の動きベクトルが検出されなかった
    上位符号化対象領域における第1の動きベクトルを、該
    上位符号化対象領域を含む画像情報における他の上位符
    号化対象領域において検出された第1の動きベクトルに
    よって代用するようにしたことを特徴とする請求項1記
    載の映像信号符号化・復号化装置。
  4. 【請求項4】 動き補償予測を用いて映像信号の符号化
    を行う映像信号符号化装置において、 現在符号化しようとしている1枚の画像情報を複数の領
    域に分割した上位符号化対象領域の各領域毎に、その領
    域の時間的な動きを示す第1の動きベクトルを、過去に
    符号化した参照画像に対して検出する第1の動き検出手
    段と、 第1の動きベクトルが検出された前記上位符号化対象領
    域を複数の領域に分割した符号化対象領域の各領域毎
    に、その領域の時間的な動きを示す第2の動きベクトル
    を、前記第1の動きベクトルによって指定された位置を
    中心とする前記参照画像の所定の探索領域内において検
    出する第2の動き検出手段と、 前記第1,第2の動きベクトルにより指定される前記参
    照画像の予測領域の信号と前記符号化対象領域の信号と
    の差信号を検出する減算手段と、 前記第1,第2の動きベクトルと前記差信号とを可変長
    符号化して多重化する可変長符号化手段とを備えたこと
    を特徴とする映像信号符号化装置。
  5. 【請求項5】 第1の動きベクトルが検出されなかった
    上位符号化対象領域における第1の動きベクトルを、前
    記上位符号化対象領域が近接する未来の画像の上位符号
    化対象領域において検出された第1の動きベクトルか
    ら、符号化装置と復号化装置との間に定められた一定の
    規則に基づき作成することを特徴とする請求項4記載の
    映像信号符号化装置。
  6. 【請求項6】 第1の動きベクトルが検出されなかった
    上位符号化対象領域における第1の動きベクトルを、該
    上位符号化対象領域を含む画像情報における他の上位符
    号化対象領域において検出された第1の動きベクトルに
    よって代用するようにしたことを特徴とする請求項4記
    載の映像信号符号化装置。
  7. 【請求項7】 動き補償予測を用いて符号化された映像
    信号の復号化を行うものであって、 1枚の画像情報を複数の領域に分割した上位符号化対象
    領域の各領域毎に、その領域の過去に符号化した参照画
    像に対する時間的な動きを示す第1の動きベクトルと、
    該第1の動きベクトルが検出された前記上位符号化対象
    領域をさらに複数の領域に分割した符号化対象領域の各
    領域毎に、その領域の前記第1の動きベクトルによって
    指定された位置を中心とする前記参照画像の所定の探索
    領域内における時間的な動きを示す第2の動きベクトル
    と、前記第1,第2の動きベクトルによって指定される
    前記参照画像の予測領域の信号と前記符号化対象領域の
    信号との差信号とを多重化した多重化信号の復号を行う
    映像信号復号化装置において、 前記多重化信号を受信する受信手段と、 受信した多重化信号を前記第1,第2の動きベクトル
    と、前記差信号とに分離し可変長復号化する可変長復号
    化手段と、 可変長復号化された前記第1,第2の動きベクトルに基
    づき、過去に再生した前記参照画像から前記予測領域を
    検出する検出手段と、 前記検出手段で検出した前記予測領域の信号と可変長復
    号化された前記差信号とを加算することで前記符号化対
    象領域の信号を検出し、前記1枚の画像情報を再生する
    加算手段とを備えたことを特徴とする映像信号復号化装
    置。
  8. 【請求項8】 現在符号化しようとしている1枚の画像
    情報を複数の領域に分割した上位符号化対象領域の時間
    的な動きを示す第1の動きベクトルを、過去に符号化し
    た参照画像に対して検出する工程、 前記上位符号化対象領域を複数の領域に分割した符号化
    対象領域の時間的な動きを示す第2の動きベクトルを、
    前記第1の動きベクトルによって指定された位置を中心
    とする前記参照画像の所定の探索領域内において検出す
    る工程、 前記第1.第2の動きベクトル、及び、該第1,第2の
    動きベクトルにより指定される前記参照画像の予測領域
    の信号と前記符号化対象領域の信号とを減算して得た差
    信号を可変長符号化して多重化する工程、 前記多重化信号を前記第1,第2の動きベクトルと前記
    差信号とに分離して可変長復号化する工程、 前記可変長復号化された前記第1,第2の動きベクトル
    に基づき、過去に再生した前記参照画像から前記予測領
    域の信号を検出し、該信号と可変長復号化された前記差
    信号とを加算することで前記符号化対象領域の信号を検
    出し、前記1枚の画像情報を再生する工程とを備えてな
    る映像信号符号化・復号化方法。
  9. 【請求項9】 第1の動きベクトルが検出されなかった
    上位符号化対象領域における第1の動きベクトルを、前
    記上位符号化対象領域が近接する未来の画像の上位符号
    化対象領域において検出された第1の動きベクトルか
    ら、符号化装置と復号化装置との間に定められた一定の
    規則に基づき作成する工程を備えてなる請求項8記載の
    映像信号符号化・復号化方法。
  10. 【請求項10】 第1の動きベクトルが検出されなかっ
    た上位符号化対象領域における第1の動きベクトルを、
    該上位符号化対象領域を含む画像情報における他の上位
    符号化対象領域において検出された第1の動きベクトル
    によって代用する工程を備えてなる請求項8記載の映像
    信号符号化・復号化方法。
  11. 【請求項11】 現在符号化しようとしている1枚の画
    像情報を複数の領域に分割した上位符号化対象領域の時
    間的な動きを示す第1の動きベクトルを、過去に符号化
    した参照画像に対して検出する工程、 前記上位符号化対象領域を複数の領域に分割した符号化
    対象領域の時間的な動きを示す第2の動きベクトルを、
    前記第1の動きベクトルによって指定された位置を中心
    とする前記参照画像の所定の探索領域内において検出す
    る工程、 前記第1,第2の動きベクトル、及び、該第1,第2の
    動きベクトルにより指定される前記参照画像の予測領域
    の信号と前記符号化対象領域の信号とを減算して得た差
    信号を可変長符号化して多重化する工程を備えてなる映
    像信号符号化方法。
  12. 【請求項12】 第1の動きベクトルが検出されなかっ
    た上位符号化対象領域における第1の動きベクトルを、
    前記上位符号化対象領域が近接する未来の画像の上位符
    号化対象領域において検出された第1の動きベクトルか
    ら、符号化装置と復号化装置との間に定められた一定の
    規則に基づき作成する工程を備えてなる請求項11記載
    の映像信号符号化方法。
  13. 【請求項13】 第1の動きベクトルが検出されなかっ
    た上位符号化対象領域における第1の動きベクトルを、
    該上位符号化対象領域を含む画像情報における他の上位
    符号化対象領域において検出された第1の動きベクトル
    によって代用する工程を備えてなる請求項11記載の映
    像信号符号化方法。
  14. 【請求項14】 1枚の画像情報を複数の領域に分割し
    た上位符号化対象領域の各領域毎に、その領域の過去に
    符号化した参照画像に対する時間的な動きを示す第1の
    動きベクトルと、該第1の動きベクトルが検出された前
    記上位符号化対象領域をさらに複数の領域に分割した符
    号化対象領域の各領域毎に、その領域の前記第1の動き
    ベクトルによって指定された位置を中心とする前記参照
    画像の所定の探索領域内における時間的な動きを示す第
    2の動きベクトルと、前記第1,第2の動きベクトルに
    よって指定される前記参照画像の予測領域の信号と前記
    符号化対象領域の信号との差信号とを多重化することで
    符号化された映像信号の復号を行う映像信号復号化方法
    であって、 符号化された前記映像信号を前記第1,第2の動きベク
    トルと、前記差信号とに分離し可変長復号化する工程、 可変長復号化された前記第1,第2の動きベクトルを基
    に、過去に再生した前記参照画像から前記予測領域の信
    号を検出し、該信号と可変長復号化された前記差信号と
    を加算することで前記符号化対象領域の信号を検出し、
    前記1枚の画像情報を再生する工程を備えてなる映像信
    号復号化方法。
JP29129194A 1994-11-25 1994-11-25 映像信号符号化・復号化装置及び符号化・復号化方法 Expired - Lifetime JP3784086B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29129194A JP3784086B2 (ja) 1994-11-25 1994-11-25 映像信号符号化・復号化装置及び符号化・復号化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29129194A JP3784086B2 (ja) 1994-11-25 1994-11-25 映像信号符号化・復号化装置及び符号化・復号化方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2003426272A Division JP3907623B2 (ja) 2003-12-24 2003-12-24 映像信号符号化・復号化装置及び符号化・復号化方法

Publications (2)

Publication Number Publication Date
JPH08149481A true JPH08149481A (ja) 1996-06-07
JP3784086B2 JP3784086B2 (ja) 2006-06-07

Family

ID=17766988

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29129194A Expired - Lifetime JP3784086B2 (ja) 1994-11-25 1994-11-25 映像信号符号化・復号化装置及び符号化・復号化方法

Country Status (1)

Country Link
JP (1) JP3784086B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11219436A (ja) * 1998-01-30 1999-08-10 Toshiba Corp 動きベクトル検出回路および動きベクトル検出方法
US6690729B2 (en) 1999-12-07 2004-02-10 Nec Electronics Corporation Motion vector search apparatus and method
WO2007057985A1 (ja) * 2005-11-21 2007-05-24 Sharp Kabushiki Kaisha 画像符号化装置および画像符号化方法
WO2007057986A1 (ja) * 2005-11-15 2007-05-24 Sharp Kabushiki Kaisha 動きベクトル算出装置および動きベクトル算出方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11219436A (ja) * 1998-01-30 1999-08-10 Toshiba Corp 動きベクトル検出回路および動きベクトル検出方法
US6690729B2 (en) 1999-12-07 2004-02-10 Nec Electronics Corporation Motion vector search apparatus and method
WO2007057986A1 (ja) * 2005-11-15 2007-05-24 Sharp Kabushiki Kaisha 動きベクトル算出装置および動きベクトル算出方法
JP2007142521A (ja) * 2005-11-15 2007-06-07 Sharp Corp 動きベクトル算出装置および動きベクトル算出方法
WO2007057985A1 (ja) * 2005-11-21 2007-05-24 Sharp Kabushiki Kaisha 画像符号化装置および画像符号化方法
JP2007142907A (ja) * 2005-11-21 2007-06-07 Sharp Corp 画像符号化装置および画像符号化方法
JP4606311B2 (ja) * 2005-11-21 2011-01-05 シャープ株式会社 画像符号化装置および画像符号化方法
US8300695B2 (en) 2005-11-21 2012-10-30 Sharp Kabushiki Kaisha Image encoding apparatus and image encoding method

Also Published As

Publication number Publication date
JP3784086B2 (ja) 2006-06-07

Similar Documents

Publication Publication Date Title
US5173773A (en) Moving picture signal progressive coding system
US5453799A (en) Unified motion estimation architecture
JP2744871B2 (ja) 画像信号符号化方法および画像信号符号化装置
JPH0686262A (ja) 画像符号化装置
EP0756803B1 (en) A transcoder
US5818534A (en) Video signal interframe predictive coding apparatus using motion detection
JPH08149481A (ja) 映像信号符号化・復号化装置及び符号化・復号化方法
JP2001016595A (ja) 動画像符号化装置および復号装置
JPH09275561A (ja) 映像圧縮装置及び映像圧縮方法
JP3164056B2 (ja) 動画像符号化復号化装置、動画像符号化復号化方法及び動画像符号記録媒体
JP2614212B2 (ja) 画像信号の符号化方法およびその装置
JP3907623B2 (ja) 映像信号符号化・復号化装置及び符号化・復号化方法
JP3063380B2 (ja) 高能率符号化装置
JPH05122686A (ja) 動画像予測符号化装置及びその復号化装置
JP3085289B2 (ja) 動画像符号化方法、及び、動画像符号化装置
JP3173508B2 (ja) 動画像復号化方法、及び、動画像復号化装置
JP2861380B2 (ja) 画像信号符号化装置およびその方法と、画像信号復号装置およびその方法
JPH06343167A (ja) 動画像圧縮回路
JPH08205142A (ja) ディジタルビデオ信号への符号化/復号化装置
JPH0216887A (ja) 画像符号化装置
JP3186406B2 (ja) 画像合成符号化方法及び画像合成装置
KR960039999A (ko) 초저속 전송을 위한 영상처리 시스템
JP2007110748A (ja) 動き補償予測方法、映像信号復号方法、映像信号復号化装置
JP3168723B2 (ja) 映像信号の符号化装置
JPH08205171A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20031028

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20040423

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060314

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100324

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100324

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110324

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110324

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120324

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130324

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130324

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140324

Year of fee payment: 8

EXPY Cancellation because of completion of term