JP2003219428A - 動画像符号化装置 - Google Patents

動画像符号化装置

Info

Publication number
JP2003219428A
JP2003219428A JP2002017294A JP2002017294A JP2003219428A JP 2003219428 A JP2003219428 A JP 2003219428A JP 2002017294 A JP2002017294 A JP 2002017294A JP 2002017294 A JP2002017294 A JP 2002017294A JP 2003219428 A JP2003219428 A JP 2003219428A
Authority
JP
Japan
Prior art keywords
motion
vector
distribution
motion vector
concentration range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002017294A
Other languages
English (en)
Other versions
JP3941921B2 (ja
Inventor
Kanji Sakate
寛治 坂手
Koichi Tanno
興一 丹野
Atsumichi Murakami
篤道 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2002017294A priority Critical patent/JP3941921B2/ja
Publication of JP2003219428A publication Critical patent/JP2003219428A/ja
Application granted granted Critical
Publication of JP3941921B2 publication Critical patent/JP3941921B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 高効率な動画像符号化装置を得る。 【解決手段】 動画像データにおける前フレームと現フ
レームとを比較して、動きベクトルを算出する動き補償
部6と、算出された動きベクトルを集計して、動きベク
トルの分布を計測するベクトル分布計測手段8と、動き
ベクトルの分布に基づいて、動きベクトルが集中するベ
クトル長の範囲を計測するベクトル集中範囲計測手段9
と、計測された上記範囲を用いて、動き補償部6による
動きベクトルの探索範囲を制御する探索範囲制御手段1
0と、計測された上記範囲を用いて、動き補償部6での
予測モードを制御する予測モード制御手段11と、計測
された上記範囲を用いて、動き補償部6での予測距離を
制御する予測距離制御手段12とを備えている。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は動画像符号化装置
に関し、特に、フレーム間予測に動き補償予測を用い
て、ディジタル化された画像データの符号化を行う画像
符号化装置に関するものである。
【0002】
【従来の技術】図8は例えば特開平6−292203号
公報に記載されている従来の動画像解析装置である。図
において、5は過去に符号化した画像データを格納する
フレームメモリ、6はフレームメモリ5から読み出した
画像データの動き補償を行う動き補償部、1は動き補償
部6で動き補償された画像データと新たに入力された次
フレームの画像データとの差分を算出する減算器、2は
減算器1の出力データを符号化する符号化部、3は符号
化したデータを復号する局所復号部、4は復号したデー
タに動き補償部6で生成した画像データを加算してフレ
ームメモリに格納する加算器、21は動き補償部6で算
出する動きベクトルを抽出する動きベクトル抽出手段、
22は抽出した動きベクトルの分布を計測する計測手
段、23は計測手段22が計測した動きベクトルの分布
を解析する動きベクトル解析手段である。
【0003】次に動作について説明する。フレームメモ
リ5には符号化部2および局所復号部3において過去に
符号化および復号した画像データが格納されている。動
き補償部6では、まず、フレームメモリ5に蓄積された
画像データと装置外部から入力された次フレームの画像
データとを比較し、両者の間の動きを動きベクトルとし
て算出する。動きベクトルは、例えば、この装置がMP
EG2の符号化方式に準拠したものである場合には、縦
横16画素のマクロブロックと呼ばれる単位で算出す
る。次に、算出した動きベクトルを用いてフレームメモ
リ5に蓄積された画像データを動き補償する。減算器1
では、動き補償部6で動き補償された画像データと新た
に入力された画像データとの差分を求める。符号化部2
では、減算器1から出力される差分データを符号化す
る。局所復号部3では、符号化部2で符号化したデータ
を復号する。加算器4において、局所復号部3で復号し
た画像データと、減算器1で減算した動き補償された画
像データを加算する。加算器4から出力される画像デー
タをフレームメモリ5に格納する。動きベクトル抽出手
段21では、動き補償部6で算出した動きベクトル抽出
する。計測手段22では、抽出した動きベクトルの分布
を計測する。動きベクトル解析手段23では、計測手段
22で計測した動きベクトルの分布を解析して、動物体
の存在、動物体の移動速度、動物体の個数、動物体の形
状や大きさなどを計測する。
【0004】
【発明が解決しようとする課題】従来の動画像解析装置
は、動画像符号化装置を含む構成になっているが、当該
動画像符号化装置においては、下記のような問題点があ
った。 (1)動きベクトルの探索範囲をユーザの操作によって
適当に絞っていたため、適切な範囲を設定することが出
来ず、効率が悪いという問題点があった。 (2)動きベクトルの分布の偏りの有無に合わせて予測
モードを切り換える等の工夫がなされていないため、効
率が悪いという問題点があった。 (3)画像データにおける動きの速度に合わせて予測距
離を切り換える等の工夫がなされていないため、効率が
悪いという問題点があった。
【0005】従来の装置においては、上記の理由によ
り、動画像符号化装置としての性能向上が図れず、ひい
ては、解析装置としても、解析の効率や解析結果の信頼
性がひくくなってしまっていた。
【0006】この発明はかかる問題点を解決するために
なされたものであり、動き補償処理の性能向上を実現
し、高効率な動画像符号化装置を得ることを目的とす
る。
【0007】
【課題を解決するための手段】この発明は、動き補償手
段により動きベクトルを算出し、この動きベクトルに基
づいて符号化を行う動画像符号化装置であって、算出さ
れた上記動きベクトルを集計して、動きベクトルの分布
を計測するベクトル分布計測手段と、上記ベクトル分布
計測手段により計測された上記動きベクトルの分布に基
づいて、上記分布中の動きベクトルが集中しているベク
トル集中範囲を計測するベクトル集中範囲計測手段と、
上記ベクトル集中範囲計測手段により計測された上記ベ
クトル集中範囲を用いて、上記動き補償手段による上記
動きベクトルの探索範囲を制御する探索範囲制御手段と
を備え、上記動き補償手段が、上記探索範囲制御手段に
より制御された上記探索範囲内で上記動きの探索を行っ
て、上記動きベクトルを算出する動画像符号化装置であ
る。
【0008】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、上記ベクト
ル集中範囲計測手段により計測された上記ベクトル集中
範囲を用いて、上記動き補償手段の予測モードの選択を
制御する予測モード制御手段とを備え、上記動き補償手
段が、上記予測モード制御手段により制御されて選択さ
れた上記予測モードで、上記動きベクトルの算出と上記
前フレームの動き補償を行う動画像符号化装置である。
【0009】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、計測された
上記ベクトル集中範囲を用いて、上記動きベクトルの分
布から動きベクトルの対象となる動きの速度を判定し、
当該速度に基づいて上記動き補償手段により比較される
上記前フレームと上記現フレームとの間の予測距離を制
御する予測距離制御手段とを備え、上記動き補償手段
が、上記予測距離制御手段により制御された上記予測距
離において、上記前フレームと上記現フレームの比較を
行い、上記動きベクトルの算出と上記前フレームの動き
補償を行う動画像符号化装置である。
【0010】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、上記ベクト
ル集中範囲計測手段により計測された上記ベクトル集中
範囲を用いて、上記動き補償手段による上記動きベクト
ルの探索範囲を制御する探索範囲制御手段と、上記ベク
トル集中範囲計測手段により計測された上記ベクトル集
中範囲を用いて、上記動き補償手段の予測モードの選択
を制御する予測モード制御手段と、計測された上記ベク
トル集中範囲を用いて、上記動きベクトルの分布から動
きベクトルの対象となる動きの速度を判定し、当該速度
に基づいて上記動き補償手段により比較される上記前フ
レームと上記現フレームとの間の予測距離を制御する予
測距離制御手段とのうちの少なくとも1つを備えている
動画像符号化装置である。
【0011】また、上記ベクトル集中範囲計測手段が、
動きベクトルの発生数に関する閾値を設定し、動きベク
トルがその閾値以上発生している範囲を上記ベクトル集
中範囲として計測する。
【0012】また、上記ベクトル集中範囲計測手段が、
上記閾値を可変とする。
【0013】また、上記動き補償手段とは別に、動きベ
クトルを算出して、上記ベクトル分布計測手段に出力す
る補助動き検出手段をさらに備え、上記ベクトル分布計
測手段が、上記補助動き検出手段により算出された上記
動きベクトルを集計して、動きベクトルの分布を計測す
る。
【0014】また、上記補助動き検出手段が、上記動き
補償手段の動きベクトル算出の処理と同一の処理により
動きベクトルを算出する。
【0015】また、上記補助動き検出手段が、動きベク
トルの算出を行うフレームを制限して動きベクトルの算
出を行い、上記ベクトル分布計測手段が、上記補助動き
検出手段により動きベクトルの算出が行われたフレーム
については、当該算出された動きベクトルによって動き
ベクトルの分布の計測を行うとともに、上記補助動き検
出手段により動きベクトルの算出が行われないフレーム
については、推定により動きベクトルの分布を生成す
る。
【0016】また、上記探索範囲制御手段が、レート歪
特性に基づいて上記探索範囲を決定する。
【0017】また、上記ベクトル集中範囲計測手段が、
上記動きベクトルの発生数に関する閾値を、レート歪特
性に基づいて設定する。
【0018】また、上記探索範囲制御手段が、動きベク
トルの符号長をR、符号化歪をD、変数をλとし、D+
λRが最小となるように上記探索範囲を決定する。
【0019】
【発明の実施の形態】実施の形態1.図1はこの発明の
動画像符号化装置の実施の形態1を示すブロック図であ
る。本実施の形態における動画像符号化装置は、例え
ば、カメラ等により撮像された動画像がA/D変換され
て得られた画像データか、もしくは、ディジタルカメラ
により撮像された画像データが外部から入力されて、1
画像データと次に入力された画像データとの間のフレー
ム間予測に動き補償予測を用いて、当該画像データの符
号化を行うためのものである。特に、伝送または磁気媒
体への記録のために圧縮符号化を行うために有効であ
る。
【0020】図1において、5は過去に符号化した画像
データ(すなわち、前フレーム)を格納しているフレー
ムメモリ、6はフレームメモリ5から読み出した前フレ
ームの画像データと新たに入力された次フレームの画像
データ(すなわち、現フレーム)とを比較して、前フレ
ームの画像データの動き補償を行う動き補償部、7は動
き補償された画像データを、新たに入力された次フレー
ムの画像データの符号化に利用するか否かを選択するス
イッチ、1は新たに入力された画像データとスイッチ7
の出力データとの差分を算出する減算器、2は減算器1
の出力データを直交変換および量子化してそれをスイッ
チ7の出力データと多重化し、動画像符号化データとし
て出力する符号化部、3は直交変換および量子化により
符号化された動画像符号化データを復号する局所復号
部、4は復号したデータにスイッチ7の出力データを加
算してフレームメモリ5に格納する加算器である。13
は動き補償部6よりも早い段階で動き予測を実行する補
助動き検出部、8は補助動き検出部13で算出した動き
ベクトルを集計し、動きベクトルの分布を計測するベク
トル分布計測手段、9はベクトル分布計測手段8で計測
した分布中の動きベクトルが集中する範囲を計測するベ
クトル集中範囲計測手段、10はベクトル集中範囲計測
手段9で計測した動きベクトルの集中範囲を参照して動
きベクトルの探索範囲を制御する探索範囲制御手段、1
1は前記動きベクトルの集中範囲を参照して動き補償の
予測モードを制御する予測モード制御手段、12は前記
動きベクトルの集中範囲を参照して動き補償の予測距離
を制御する予測距離制御手段である。
【0021】次に動作について説明する。フレームメモ
リ5には符号化部2および局所復号部3において過去に
符号化および復号した画像データを格納している。動き
補償部6では、まず、フレームメモリ5に蓄積された1
フレーム分の画像データと装置外部から入力された次フ
レームの画像データとを比較し、両者の間の動きを動き
ベクトルとして算出する。動きベクトルは、例えばこの
装置がMPEG2の符号化方式に準拠したものである場
合には、縦横16画素のマクロブロックと呼ばれる単位
で算出する。ここでいう動き補償予測は、フレーム間で
同一位置にある画素どうしを減算するという単純なフレ
ーム間差分ではなく、被写体の動きを検出し、この動き
に応じてフレーム間差分をとる画素を可変にできる方式
である。簡単に説明すれば、入力された画像データを縦
横16画素のマクロブロックに分割し、1つのマクロブ
ロックにつき、当該マクロブロックと最もよく一致する
マクロブロックをフレームメモリ5内に蓄積されている
前画像データからパターンマッチングにより選出し、当
該マクロブロック間の移動距離を動きベクトルとして算
出する。例えば、動きの全くないフレームが連続する場
合には、動きベクトルは0となる。
【0022】次に、算出した動きベクトルを用いてフレ
ームメモリ5に蓄積された画像データを動き補償する。
スイッチ7では、次フレームの符号化に、動き補償部6
で生成した動き補償された画像データを利用するか否か
を選択する。当該選択は、あらかじめ用意された選択プ
ログラムやユーザの指示によって行われるものとする。
選択プログラムは、例えば、動き補償された画像データ
と次フレームとの一致の度合を基準に選択する。動き補
償された画像データを利用する場合には、減算器1にお
いて入力画像データと動き補償された画像データの差分
が求められ、その差分のみを符号化部2に対して出力す
る。動き補償された画像データを利用しない場合には、
減算器1の出力は、外部から入力された画像データその
ものになる。なお、MPEG2では、動き補償された画
像データを利用するか否かをマクロブロック単位で選択
できる。
【0023】符号化部2では、減算器1からの出力デー
タを符号化する。局所復号部3では、符号化部2で符号
化したデータを復号する。加算器4では、局所復号部3
で復号した画像データとスイッチ7の出力データとを加
算する。加算器4から出力される画像データをフレーム
メモリ5に格納する。
【0024】補助動き検出部13では、動き補償部6よ
りも早い段階で動き予測をおこない、動きベクトルを算
出する。補助動き検出部13での動き予測の方法は動き
補償部6と同等であることが望ましい。ベクトル分布計
測手段8では、補助動き検出部13で算出した動きベク
トルをフレームやスライスなどの単位で集計し、動きベ
クトルの分布を計測する。ベクトル集中範囲計測手段9
では、ベクトル分布計測手段8で計測したベクトル分布
中でベクトルが集中する範囲を計測する。探索範囲制御
手段10では、計測したベクトル集中範囲を参照して動
き補償部6での動きベクトルの探索範囲を制御する。予
測モード制御手段11では、計測したベクトル集中範囲
を参照して動き補償部6での予測モードを制御する。な
お、予測モードにてついては後述する。予測距離制御手
段12では、計測したベクトル集中範囲を参照して動き
補償部6での予測距離を制御する。
【0025】図2に、前記ベクトル分布計測手段8で計
測する動きベクトルの分布の例1を示す。グラフの横軸
はベクトル長であり、縦軸はベクトル長ごとのベクトル
数である。この例では、動きベクトルの水平方向の成分
(図2(a))と垂直方向の成分(図2(b))を個別
に分布を求めているが、分布を求める方法はこの限りで
はない。図2について説明すれば、動きベクトル(x,
y)の水平方向への変位xと垂直方向の変位yが所定の
しきい値よりも大きい動きベクトルの発生頻度を計測し
て、水平方向と垂直方向とを別個に、2次元のヒストグ
ラムに示したものである。このような動きベクトルが発
生していれば、動物体が存在すると判定する。図3に、
ベクトル分布計測手段8で計測する動きベクトルの分布
の例2を示す。この例では2次元空間における分布を計
測している。すなわち、動きベクトル(x,y)の水平
方向への変位xと垂直方向の変位yが所定のしきい値よ
りも大きい動きベクトルの発生頻度を計測して3次元の
ヒストグラムに示したものである。ベクトル分布計測手
段8の出力は、図2または図3に示した形式でなくて
も、ベクトル長とベクトル長ごとのベクトル数の関係が
分かるようなものであればよい。
【0026】図2および図3の例を参照すれば、動きベ
クトルが最も集中している範囲は、水平成分および垂直
成分のベクトル長がともに0以上16未満の範囲であ
り、次が、水平成分が0以上16未満、垂直成分が16
以上32未満の範囲で、次が、水平成分が16以上32
未満、垂直成分が0以上16未満の範囲となっている。
なお、図2および図3の動きベクトルの分布において、
ベクトル長を0以上16未満、16以上32未満、32
以上64未満、64以上128未満、128以上256
未満の5つの区間に分割して分布を求めている。この区
間分けはMPEG2に規定された動きベクトルの範囲に
沿ったものであるが、必ずしもこのとおりである必要は
ない。
【0027】前記探索範囲制御手段10では、動きベク
トルの分布を参照して、動きベクトルの発生頻度の高い
所を選び出して、動き補償部6における動きベクトルの
探索範囲を制御する。符号化方式がMPEG2の場合に
は、動きベクトルの探索範囲の上限を小さくすることで
動きベクトルの符号長を短くすることができるため、動
きベクトルの分布に応じて、必要最小限の探索範囲とな
るように制御することで予測効率を上げることができ
る。
【0028】また、動き補償部6における動き探索に、
ブロックマッチングなどの方法を採用している場合に
は、実際の動きに一致しない乱雑な動きベクトルが算出
されることがあるが、前記探索範囲制御手段10によっ
て動きベクトルが集中する領域が探索範囲となるように
制御することで、ベクトルの乱雑性を抑制し、予測効率
を上げることができる。
【0029】前記予測モード制御手段11では、動きベ
クトルの分布を参照して動き補償部6における予測モー
ドを制御する。動き予測の効果が高いシーンでは、実際
の画像の動きにあわせて動きベクトルの分布に偏りが生
じる傾向があるが、動き予測が困難なシーンでは、方向
や長さがランダムな動きベクトル発生し、動きベクトル
の分布に偏りが見られなくなる。このようなシーンで
は、符号長がなるべく短くなるような予測モードを選択
する(すなわち、予測モードの選択候補が複数あるなか
で、相対的に符号長が短くなるほうを選択する。)こと
で符号化効率を上げることができる。予測モード制御手
段11で制御する予測モードは、予測方向や予測方法な
どである。この予測モードは、予め複数種類を用意して
おき、その中から1つを選択する。符号化方式がMPE
G2の場合、フィールドベクトルよりもフレームベクト
ルのほうが符号長が短く、また、両方向予測よりも片方
向予測のほうが符号長が短くなる傾向がある。
【0030】前記予測距離制御手段12では、動きベク
トルの分布を参照して、動きベクトルの対象となる動き
の速度を判定し、当該速度に基づいて、動き補償部6に
おける予測距離を制御する。例えば動きベクトルの分布
が長いベクトル長の区間に偏っている場合に、符号化対
象のシーンは動きの速いシーンであると判断することが
できる。このようなシーンでは、符号化画像と予測参照
画像との予測距離を縮めることで符号化効率を上げるこ
とができる。符号化方式がMPEG2の場合には、Pピ
クチャの挿入間隔を狭くすることで予測距離を短くする
ことができる。
【0031】図4に、前記ベクトル集中範囲計測手段9
において動きベクトルの集中範囲を特定するための処理
の流れの例を示す。ステップS1において変数L、H、
θの初期化を行う。Lは求める範囲の下限を表す変数、
Hは求める範囲の上限を表す変数である。ステップS1
の時点では、変数L、Hには、例えば、ベクトル分布中
の最もベクトル数が多い区間を設定しておく。また、θ
は求める範囲に含まれるべき最低限のベクトル数を指定
する閾値である。θにはベクトル分布中のベクトル総数
以下の適切な値を設定する。フレームやスライスに含ま
れる動きベクトル数は符号化のピクチャタイプなどによ
って変化するため、閾値θはフレームごとあるいはスラ
イスごとに適宜を変更することが望ましい。
【0032】次に、ステップS2においてベクトル長の
範囲が[L:H]であるベクトル数Nを求める。ステッ
プS3においてNとθの大小を比較する。ステップS3
の判定条件N≧θが成り立たない場合には、ステップS
4においてLの値を減少させるか、または、Hの値を増
加させて、処理ステップS2に戻る。判定条件が成り立
つ場合には、ステップS5において、範囲[L:H]を
ベクトル集中範囲として出力する。
【0033】図4に示した方法では、前記閾値θの値に
よって求められるベクトル集中範囲が変化する。θの値
が大きい場合には求められるベクトル集中範囲が広くな
るため、前記探索範囲を抑えることができない。θの値
が小さい場合には求められる探索範囲を狭く抑えること
ができるが、必要以上に狭くなると動き予測の性能に悪
影響を及ぼす。
【0034】探索範囲制御手段10が、探索範囲を決定
する方法として、例えばレート歪特性を用いて決定すれ
ば、符号長が短くなり、かつ符号化歪が小さくなる最適
化な探索範囲を決定することが可能である。また、ベク
トル集中範囲計測手段9が、動きベクトルの発生数に関
する閾値をレート歪特性を用いて設定するようにすれ
ば、符号化効率の良いベクトル集中範囲を設定すること
ができる。
【0035】図5に、上記閾値θを、ベクトル総数のR
1%、R2%、R3%の値にそれぞれ設定して、探索範
囲の制御をおこなったときのレート歪特性のグラフを示
す。図5において、50,51,52が、それぞれ、R
1%、R2%、R3%に対応している。この例ではθに
ベクトル総数のR2%の値を設定したとき(図5の符号
51)に、ビットレート、すなわち、単位時間あたりに
発生した符号長に対する符号化歪が最小になっており、
最も高い符号化効率を期待できる。通常、符号長をRと
し、符号化歪をDとし、符号化後に測定したD+λR
(λは変数)の値が最小となるθを選択することで、符
号化効率が高い探索範囲を決定することができる。
【0036】なお、ベクトル集中範囲を求める方法は図
4に示した方法に限定する必要はない。例えばベクトル
発生分布図のうち、ベクトル数が多い区間から優先的に
ベクトル集中範囲に加えていくような方法を用いてもよ
い。
【0037】以上のように、本実施の形態に係る動画像
符号化装置によれば、動き補償処理の性能を向上させる
ために、動きベクトルの分布から動きベクトルが集中す
るベクトル長の範囲を計測するベクトル集中範囲計測手
段9と、その計測結果を用いて動きベクトルの探索範囲
を制御する探索範囲制御手段10とを備えるので、符号
長の削減や動きベクトルの乱雑性の抑制が可能となり、
高い符号化効率を実現でき、高性能な動画像符号化装置
を得ることができる。
【0038】また、動きベクトルの分布からベクトルが
集中するベクトル長の範囲を計測するベクトル集中範囲
計測手段9と、その計測結果を用いて予測モードを制御
する予測モード制御手段11とを備えるので、動きベク
トルの乱雑性等を抑制し、高い符号化効率および高性能
を実現することができる。
【0039】また、動きベクトルの分布からベクトルが
集中するベクトル長の範囲を計測するベクトル集中範囲
計測手段9と、その計測結果を用いて予測距離を制御す
る予測距離制御手段12とを備えるので、高効率および
高性能な動き予測を実現できる。
【0040】なお、上記の説明においては、探索範囲制
御手段10、予測モード制御手段11および予測距離制
御手段12を全て設ける場合について説明したが、その
場合に限らず、これらのうち少なくとも1つ設けるよう
にしてもよく、その場合においても、動き補償処理の性
能向上を実現し、高効率な符号化を行うことができる。
【0041】また、前記ベクトル集中範囲計測手段9に
おいて、ベクトル数の閾値を設定し、その閾値以上のベ
クトル数を含むようなベクトル長の範囲を計測するの
で、簡単な方法でベクトル集中範囲を特定することがで
きる。
【0042】また、前記ベクトル集中範囲計測手段9に
おいて、前記閾値を可変としているので、適切なベクト
ル集中範囲を特定することができる。
【0043】また、前記動きのベクトル分布を得るため
に、動き補償部6とは別に動き検出を行う補助動き検出
手段13を備えているので、動きベクトルの分布を容易
に計測することができる。
【0044】また、前記補助動き検出手段13における
動き検出に、動き補償における動き検出と同等の方法を
用いるので、信頼性の高い動きベクトルの分布を計測す
ることができる。
【0045】また、前記探索範囲制御手段10におい
て、レート歪特性を用いて探索範囲を切り替えるこの
で、符号化効率の良い探索範囲を設定することができ
る。
【0046】また、前記ベクトル集中範囲計測手段9に
おいて、前記ベクトル数の閾値をレート歪特性を用いて
設定するので、符号化効率の良いベクトル集中範囲を設
定することができる。
【0047】また、符号長をR、符号化歪をD、変数をλ
とし、D+λRが最小となるように探索範囲を決定するの
で、符号化効率の良い探索範囲を設定することができ
る。
【0048】実施の形態2.図6はこの発明の動画像符
号化装置の実施の形態2を示すブロック図である。本実
施の形態は、図6に示すように、図1に示した実施の形
態1の動画像符号化装置から補助動き検出部13を削除
した構成になっている。実施の形態1における補助動き
検出部13の動作は動き補償部6が代行する。ベクトル
分布計測手段8は動き補償部6で算出した動きベクトル
の分布を計測する。
【0049】本実施の形態の場合、動き補償部6では補
助動き検出部13の代行処理のために、処理の負荷が増
大する。ただし、補助動き検出部13の代行処理は全て
のフレームで実行する必要はなく、代行処理の実行する
フレームを制限してもよい。代行処理を実行しないフレ
ームの動きベクトルの分布は、代行処理を実行したフレ
ームの動きベクトルの分布から推定することが可能であ
る。例えば、図7に示したように動き予測がおこなわれ
る場合、フレーム#2の前方向および後方向の動きベク
トルのベクトル長は、フレーム#3の動きベクトルの約
1/2であると予想できる。したがって、フレーム#3
の動きベクトルの分布からフレーム#2の動きベクトル
の分布は容易に推定できる。このように代行処理を実行
するフレームを制限し、推定によって求めたベクトル分
布を扱うことで処理の負荷を削減できる。
【0050】以上のように、本実施の形態においても、
上述の実施の形態1と同様の効果を得ることができる。
さらに、本実施の形態においては、実施の形態1で示し
た補助動き検出部13の処理を動き補償部6で代行する
ことにしたため、装置の構成を容易にすることができ
る。また、動き補償部6が代行することにより処理の負
荷が増大してしまうことを避けるために、代行処理を実
行するフレームを制限し、推定によって求めたベクトル
分布を扱うことで、処理の負荷を削減することができ
る。
【0051】
【発明の効果】この発明は、動き補償手段により動きベ
クトルを算出し、この動きベクトルに基づいて符号化を
行う動画像符号化装置であって、算出された上記動きベ
クトルを集計して、動きベクトルの分布を計測するベク
トル分布計測手段と、上記ベクトル分布計測手段により
計測された上記動きベクトルの分布に基づいて、上記分
布中の動きベクトルが集中しているベクトル集中範囲を
計測するベクトル集中範囲計測手段と、上記ベクトル集
中範囲計測手段により計測された上記ベクトル集中範囲
を用いて、上記動き補償手段による上記動きベクトルの
探索範囲を制御する探索範囲制御手段とを備え、上記動
き補償手段が、上記探索範囲制御手段により制御された
上記探索範囲内で上記動きの探索を行って、上記動きベ
クトルを算出する動画像符号化装置であるので、符号長
の削減や動きベクトルの乱雑性の抑制が可能となり、符
号化高い符号化効率をすることが実現できる。
【0052】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、上記ベクト
ル集中範囲計測手段により計測された上記ベクトル集中
範囲を用いて、上記動き補償手段の予測モードの選択を
制御する予測モード制御手段とを備え、上記動き補償手
段が、上記予測モード制御手段により制御されて選択さ
れた上記予測モードで、上記動きベクトルの算出と上記
前フレームの動き補償を行う動画像符号化装置であるの
で、動きベクトルの乱雑性等を抑制し、高い符号化効率
を実現することができる。
【0053】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、計測された
上記ベクトル集中範囲を用いて、上記動きベクトルの分
布から動きベクトルの対象となる動きの速度を判定し、
当該速度に基づいて上記動き補償手段により比較される
上記前フレームと上記現フレームとの間の予測距離を制
御する予測距離制御手段とを備え、上記動き補償手段
が、上記予測距離制御手段により制御された上記予測距
離において、上記前フレームと上記現フレームの比較を
行い、上記動きベクトルの算出と上記前フレームの動き
補償を行う動画像符号化装置であるので、効率の良い動
き予測を実現できる。
【0054】また、この発明は、動き補償手段により動
きベクトルを算出し、この動きベクトルに基づいて符号
化を行う動画像符号化装置であって、算出された上記動
きベクトルを集計して、動きベクトルの分布を計測する
ベクトル分布計測手段と、上記ベクトル分布計測手段に
より計測された上記動きベクトルの分布に基づいて、上
記分布中の動きベクトルが集中しているベクトル集中範
囲を計測するベクトル集中範囲計測手段と、上記ベクト
ル集中範囲計測手段により計測された上記ベクトル集中
範囲を用いて、上記動き補償手段による上記動きベクト
ルの探索範囲を制御する探索範囲制御手段と、上記ベク
トル集中範囲計測手段により計測された上記ベクトル集
中範囲を用いて、上記動き補償手段の予測モードの選択
を制御する予測モード制御手段と、計測された上記ベク
トル集中範囲を用いて、上記動きベクトルの分布から動
きベクトルの対象となる動きの速度を判定し、当該速度
に基づいて上記動き補償手段により比較される上記前フ
レームと上記現フレームとの間の予測距離を制御する予
測距離制御手段とのうちの少なくとも1つを備えている
動画像符号化装置であるので、高い符号化効率が実現で
きる。
【0055】また、上記ベクトル集中範囲計測手段が、
動きベクトルの発生数に関する閾値を設定し、動きベク
トルがその閾値以上発生している範囲を上記ベクトル集
中範囲として計測するので、簡単な方法でベクトル集中
範囲を特定することができる。
【0056】また、上記ベクトル集中範囲計測手段が、
上記閾値を可変とするので、適切なベクトル集中範囲を
特定することができる。
【0057】また、上記動き補償手段とは別に、動きベ
クトルを算出して、上記ベクトル分布計測手段に出力す
る補助動き検出手段をさらに備え、上記ベクトル分布計
測手段が、上記補助動き検出手段により算出された上記
動きベクトルを集計して、動きベクトルの分布を計測す
るので、動きベクトルの分布を容易に計測することがで
きる。
【0058】また、上記補助動き検出手段が、上記動き
補償手段の動きベクトル算出の処理と同一の処理により
動きベクトルを算出するので、信頼性の高い動きベクト
ルの分布を計測することができる。
【0059】また、上記補助動き検出手段が、動きベク
トルの算出を行うフレームを制限して動きベクトルの算
出を行い、上記ベクトル分布計測手段が、上記補助動き
検出手段により動きベクトルの算出が行われたフレーム
については、当該算出された動きベクトルによって動き
ベクトルの分布の計測を行うとともに、上記補助動き検
出手段により動きベクトルの算出が行われないフレーム
については、推定により動きベクトルの分布を生成する
ので、処理の負荷を軽減することができる。
【0060】また、上記探索範囲制御手段が、レート歪
特性に基づいて上記探索範囲を決定するので、符号化効
率の良い探索範囲を設定することができる。
【0061】また、上記ベクトル集中範囲計測手段が、
上記動きベクトルの発生数に関する閾値を、レート歪特
性に基づいて設定するので、符号化効率の良い探索範囲
を設定することができる。
【0062】また、上記探索範囲制御手段が、動きベク
トルの符号長をR、符号化歪をD、変数をλとし、D+
λRが最小となるように上記探索範囲を決定するので、
符号化効率の良い探索範囲を設定することができる。
【図面の簡単な説明】
【図1】 本発明の実施の形態1に係る動画像符号化装
置の構成を示すブロック図である。
【図2】 本発明の実施の形態1に係る動画像符号化装
置に設けられたベクトル分布計測手段で計測する動きベ
クトルの分布の一例を示した説明図である。
【図3】 本発明の実施の形態1に係る動画像符号化装
置に設けられたベクトル分布計測手段で計測する動きベ
クトルの分布の他の例を示した説明図である。
【図4】 本発明の実施の形態1に係る動画像符号化装
置に設けられたベクトル集中範囲計測手段における動き
ベクトルの集中範囲を特定するための処理の流れを示し
た流れ図である。
【図5】 本発明の実施の形態1に係る動画像符号化装
置に設けられたベクトル集中範囲計測手段における各閾
値でのレート歪特性を示した説明図である。
【図6】 本発明の実施の形態2に係る動画像符号化装
置の構成を示すブロック図である。
【図7】 本発明の実施の形態2に係る動画像符号化装
置において、動き予測がおこなわれる例を示した説明図
である。
【図8】 従来の画像解析装置の構成を示すブロック図
である。
【符号の説明】
1 減算器、2 符号化部、3 局所復号部、4 加算
器、5 フレームメモリ、6 動き補償部、7 スイッ
チ、8 ベクトル分布計測手段、9 ベクトル集中範囲
計測手段、10 探索範囲制御手段、11 予測モード制
御手段、12予測距離制御手段、13 補助動き検出
部、21 動きベクトル抽出手段、22計測手段、23
動きベクトル解析手段。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 村上 篤道 東京都千代田区丸の内二丁目2番3号 三 菱電機株式会社内 Fターム(参考) 5C059 KK19 MA00 MA23 MC11 NN00 NN03 PP06 PP07 SS14 TA63 TB04 TB06 TC12 TD07 TD10 TD11 UA02 UA33 5J064 AA02 BA04 BB02 BB03 BC01 BC08 BC29 BD01

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 動き補償手段により動きベクトルを算出
    し、この動きベクトルに基づいて符号化を行う動画像符
    号化装置であって、 算出された上記動きベクトルを集計して、動きベクトル
    の分布を計測するベクトル分布計測手段と、 上記ベクトル分布計測手段により計測された上記動きベ
    クトルの分布に基づいて、上記分布中の動きベクトルが
    集中しているベクトル集中範囲を計測するベクトル集中
    範囲計測手段と、 上記ベクトル集中範囲計測手段により計測された上記ベ
    クトル集中範囲を用いて、上記動き補償手段による上記
    動きベクトルの探索範囲を制御する探索範囲制御手段と
    を備え、 上記動き補償手段が、上記探索範囲制御手段により制御
    された上記探索範囲内で上記動きの探索を行って、上記
    動きベクトルを算出することを特徴とする動画像符号化
    装置。
  2. 【請求項2】 動き補償手段により動きベクトルを算出
    し、この動きベクトルに基づいて符号化を行う動画像符
    号化装置であって、 算出された上記動きベクトルを集計して、動きベクトル
    の分布を計測するベクトル分布計測手段と、 上記ベクトル分布計測手段により計測された上記動きベ
    クトルの分布に基づいて、上記分布中の動きベクトルが
    集中しているベクトル集中範囲を計測するベクトル集中
    範囲計測手段と、 上記ベクトル集中範囲計測手段により計測された上記ベ
    クトル集中範囲を用いて、上記動き補償手段の予測モー
    ドの選択を制御する予測モード制御手段とを備え、 上記動き補償手段が、上記予測モード制御手段により制
    御されて選択された上記予測モードで、上記動きベクト
    ルの算出と上記前フレームの動き補償を行うことを特徴
    とする動画像符号化装置。
  3. 【請求項3】 動き補償手段により動きベクトルを算出
    し、この動きベクトルに基づいて符号化を行う動画像符
    号化装置であって、 算出された上記動きベクトルを集計して、動きベクトル
    の分布を計測するベクトル分布計測手段と、 上記ベクトル分布計測手段により計測された上記動きベ
    クトルの分布に基づいて、上記分布中の動きベクトルが
    集中しているベクトル集中範囲を計測するベクトル集中
    範囲計測手段と、 計測された上記ベクトル集中範囲を用いて、上記動きベ
    クトルの分布から動きベクトルの対象となる動きの速度
    を判定し、当該速度に基づいて上記動き補償手段により
    比較される上記前フレームと上記現フレームとの間の予
    測距離を制御する予測距離制御手段とを備え、 上記動き補償手段が、上記予測距離制御手段により制御
    された上記予測距離において、上記前フレームと上記現
    フレームの比較を行い、上記動きベクトルの算出と上記
    前フレームの動き補償を行うことを特徴とする動画像符
    号化装置。
  4. 【請求項4】 動き補償手段により動きベクトルを算出
    し、この動きベクトルに基づいて符号化を行う動画像符
    号化装置であって、 算出された上記動きベクトルを集計して、動きベクトル
    の分布を計測するベクトル分布計測手段と、 上記ベクトル分布計測手段により計測された上記動きベ
    クトルの分布に基づいて、上記分布中の動きベクトルが
    集中しているベクトル集中範囲を計測するベクトル集中
    範囲計測手段と、 上記ベクトル集中範囲計測手段により計測された上記ベ
    クトル集中範囲を用いて、上記動き補償手段による上記
    動きベクトルの探索範囲を制御する探索範囲制御手段
    と、上記ベクトル集中範囲計測手段により計測された上
    記ベクトル集中範囲を用いて、上記動き補償手段の予測
    モードの選択を制御する予測モード制御手段と、計測さ
    れた上記ベクトル集中範囲を用いて、上記動きベクトル
    の分布から動きベクトルの対象となる動きの速度を判定
    し、当該速度に基づいて上記動き補償手段により比較さ
    れる上記前フレームと上記現フレームとの間の予測距離
    を制御する予測距離制御手段とのうちの少なくとも1つ
    を備えていることを特徴とする動画像符号化装置。
  5. 【請求項5】 上記ベクトル集中範囲計測手段が、 動きベクトルの発生数に関する閾値を設定し、動きベク
    トルがその閾値以上発生している範囲を上記ベクトル集
    中範囲として計測することを特徴とする請求項1ないし
    4のいずれかに記載の動画像符号化装置。
  6. 【請求項6】 上記ベクトル集中範囲計測手段が、 上記閾値を可変としたことを特徴とする請求項5に記載
    の動画像符号化装置。
  7. 【請求項7】 上記動き補償手段とは別に、動きベクト
    ルを算出して、上記ベクトル分布計測手段に出力する補
    助動き検出手段をさらに備え、 上記ベクトル分布計測手段が、上記補助動き検出手段に
    より算出された上記動きベクトルを集計して、動きベク
    トルの分布を計測することを特徴とする請求項1ないし
    6のいずれかに記載の動画像符号化装置。
  8. 【請求項8】 上記補助動き検出手段が、上記動き補償
    手段の動きベクトル算出の処理と同一の処理により動き
    ベクトルを算出することを特徴とする請求項7に記載の
    動画像符号化装置。
  9. 【請求項9】 上記補助動き検出手段が、動きベクトル
    の算出を行うフレームを制限して動きベクトルの算出を
    行い、 上記ベクトル分布計測手段が、 上記補助動き検出手段により動きベクトルの算出が行わ
    れたフレームについては、当該算出された動きベクトル
    によって動きベクトルの分布の計測を行うとともに、上
    記補助動き検出手段により動きベクトルの算出が行われ
    ないフレームについては、推定により動きベクトルの分
    布を生成することを特徴とする請求項1ないし8のいず
    れかに記載の動画像符号化装置。
  10. 【請求項10】 上記探索範囲制御手段が、レート歪特
    性に基づいて上記探索範囲を決定することを特徴とする
    請求項1または請求項4ないし9のいずれかに記載の動
    画像符号化装置。
  11. 【請求項11】 上記ベクトル集中範囲計測手段が、上
    記動きベクトルの発生数に関する閾値を、レート歪特性
    に基づいて設定することを特徴とする請求項5ないし1
    0のいずれかに記載の動画像符号化装置。
  12. 【請求項12】 上記探索範囲制御手段が、 動きベクトルの符号長をR、符号化歪をD、変数をλと
    し、D+λRが最小となるように上記探索範囲を決定す
    ることを特徴とする請求項10または11に記載の動画
    像符号化装置。
JP2002017294A 2002-01-25 2002-01-25 動画像符号化装置 Expired - Lifetime JP3941921B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002017294A JP3941921B2 (ja) 2002-01-25 2002-01-25 動画像符号化装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002017294A JP3941921B2 (ja) 2002-01-25 2002-01-25 動画像符号化装置

Publications (2)

Publication Number Publication Date
JP2003219428A true JP2003219428A (ja) 2003-07-31
JP3941921B2 JP3941921B2 (ja) 2007-07-11

Family

ID=27653041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002017294A Expired - Lifetime JP3941921B2 (ja) 2002-01-25 2002-01-25 動画像符号化装置

Country Status (1)

Country Link
JP (1) JP3941921B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008199457A (ja) * 2007-02-15 2008-08-28 Matsushita Electric Ind Co Ltd 動きベクトル検出装置および動きベクトル検出システム
JP2009533901A (ja) * 2006-04-07 2009-09-17 マイクロソフト コーポレーション 動き予測検索範囲及び拡張動きベクトルの範囲の動的選択
US9392278B2 (en) 2012-07-26 2016-07-12 Canon Kabushiki Kaisha Image encoding or decoding apparatus, system, method, and storage medium for encoding or decoding a plurality of images in parallel
JP2017118459A (ja) * 2015-12-25 2017-06-29 日本電信電話株式会社 映像符号化装置、映像符号化方法及び映像符号化プログラム
JP2017526268A (ja) * 2014-08-01 2017-09-07 エーティーアイ・テクノロジーズ・ユーエルシーAti Technologies Ulc ビデオ符号化のための適応検索ウィンドウの配置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009533901A (ja) * 2006-04-07 2009-09-17 マイクロソフト コーポレーション 動き予測検索範囲及び拡張動きベクトルの範囲の動的選択
US8494052B2 (en) 2006-04-07 2013-07-23 Microsoft Corporation Dynamic selection of motion estimation search ranges and extended motion vector ranges
JP2008199457A (ja) * 2007-02-15 2008-08-28 Matsushita Electric Ind Co Ltd 動きベクトル検出装置および動きベクトル検出システム
US9392278B2 (en) 2012-07-26 2016-07-12 Canon Kabushiki Kaisha Image encoding or decoding apparatus, system, method, and storage medium for encoding or decoding a plurality of images in parallel
JP2017526268A (ja) * 2014-08-01 2017-09-07 エーティーアイ・テクノロジーズ・ユーエルシーAti Technologies Ulc ビデオ符号化のための適応検索ウィンドウの配置
JP2017118459A (ja) * 2015-12-25 2017-06-29 日本電信電話株式会社 映像符号化装置、映像符号化方法及び映像符号化プログラム

Also Published As

Publication number Publication date
JP3941921B2 (ja) 2007-07-11

Similar Documents

Publication Publication Date Title
JP4662636B2 (ja) 動き推定とブロックマッチング・パターンの改良
JP5422168B2 (ja) 動画像符号化方法および動画像復号化方法
JP4198206B2 (ja) 動き依存予測を使用したビデオ情報の圧縮方法と装置
US20110228853A1 (en) Moving image encoding and decoding system
JP5310614B2 (ja) 動画像符号化装置、動画像符号化方法及び動画像復号装置ならびに動画像復号方法
JP2005191706A (ja) 動画像符号化方法及びその装置
JPH10304374A (ja) 動画像符号化装置
JP5216710B2 (ja) 復号化処理方法
KR100560843B1 (ko) 비디오 부호기에서 적응 움직임 벡터의 탐색 영역을결정하는 방법 및 장치
US20140233645A1 (en) Moving image encoding apparatus, method of controlling the same, and program
KR20130126698A (ko) 영상 부호화 장치, 영상 부호화 방법 및 영상 부호화 프로그램
JP3757088B2 (ja) 動画像符号化装置および方法
JP2009260421A (ja) 動画像処理システム、符号化装置、符号化方法、符号化プログラム、復号化装置、復号化方法および復号化プログラム
JP3941921B2 (ja) 動画像符号化装置
US20020168008A1 (en) Method and apparatus for coding moving pictures
JP5760950B2 (ja) 動画像再符号化装置、動画像再符号化方法及び動画像再符号化用コンピュータプログラム
JP2000032474A (ja) 動画像符号化装置
JP5442039B2 (ja) 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法
JP5788952B2 (ja) 動画像復号化方法
JP4561701B2 (ja) 動画像符号化装置
JP2009296328A (ja) 符号化ピクチャタイプ決定方法,装置,そのプログラムおよびその記録媒体
KR100847517B1 (ko) 움직임 추정장치, 방법 및 그 프로그램이 기록된 기록매체
JPH10191347A (ja) 動き検出装置、動き検出方法、及び、記憶媒体
JP5887020B1 (ja) 動画像復号化方法
JP5864022B2 (ja) 動画像復号化方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070328

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100413

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110413

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120413

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120413

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130413

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130413

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140413

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250