JP2003163837A - 映像生成装置 - Google Patents

映像生成装置

Info

Publication number
JP2003163837A
JP2003163837A JP2001362908A JP2001362908A JP2003163837A JP 2003163837 A JP2003163837 A JP 2003163837A JP 2001362908 A JP2001362908 A JP 2001362908A JP 2001362908 A JP2001362908 A JP 2001362908A JP 2003163837 A JP2003163837 A JP 2003163837A
Authority
JP
Japan
Prior art keywords
motion vector
video
image
area
relative motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001362908A
Other languages
English (en)
Other versions
JP4166463B2 (ja
Inventor
Nagahito Narita
長人 成田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2001362908A priority Critical patent/JP4166463B2/ja
Publication of JP2003163837A publication Critical patent/JP2003163837A/ja
Application granted granted Critical
Publication of JP4166463B2 publication Critical patent/JP4166463B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Studio Circuits (AREA)

Abstract

(57)【要約】 【課題】 従来のシステムでは、カメラを無人で運用で
きるという利点はあるものの、複数のカメラ(競技場全
体を撮影する1台の制御用カメラと複数の中継用カメ
ラ)が必要なうえ、中継用カメラはある位置に固定され
ると、競技中などでは容易に位置の変更ができないとい
う問題があった。 【解決手段】1つの多画素映像から複数の映像を切り出
し(1)、切り出した複数の映像それぞれについて、背
景以外の映像の動きベクトルの背景映像の動きベクトル
に対する正味の動きベクトルである相対動きベクトルを
算出し(3)、算出した相対動きベクトルの大きさが予
め定めたしきい値を越える領域を動き領域とし(4)、
動き領域に前記相対動きベクトルの大きさと分散とに依
存して決まる領域を付加してなる領域を設定し(5)、
上記切り出した映像から上記付加してなる領域の映像を
抽出することにより複数の映像を自動的に生成する
(6)ように構成した。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、放送局や番組制作
会社において、広画角で撮影した1つの多画素映像から
複数の放送用映像(勿論、録画用映像であってもよい)
を生成する映像生成装置に関する。
【0002】
【従来の技術】従来、1つの多画素映像から複数の放送
用映像を生成する技術は存在しなった。しかし、1台の
テレビカメラ(以下、単にカメラと言う)により撮影さ
れた映像内容によって、他の複数のカメラを自動制御し
たり、複数のカメラからの映像出力を本線用に切り替え
たりする技術は開発されている(例えば、井口ほか「ア
クティブカメラの協調によるスポーツ映像撮影システ
ム」、電子情報学会画像工学研究会技術研究報告、pp.3
7-44,2000年 7月を参照のこと)。この技術を利用する
ことにより、例えば、スポーツ番組でサッカーの中継に
おいて、1台の固定カメラで競技場全体を撮影し、撮影
された選手の動きに応じて別の中継用カメラを自動制御
(パン、チルト、ズーム、カメラ位置などの自動制御)
することができる。
【0003】
【発明が解決しようとする課題】上記の方法は、競技が
時々刻々進行するなかで、その時点で最適視点と考えら
れるそれぞれの場所で撮影した1つの映像を生成するた
めのカメラパラメータを決定し、これに基づいてカメラ
を制御するものであった。このようなシステムでは、カ
メラを無人で運用できるという利点はあるものの、複数
のカメラ(競技場全体を撮影する1台の制御用カメラと
複数の中継用カメラ)が必要なうえ、中継用カメラはあ
る位置に固定されると、競技中などでは容易に位置の変
更ができないという問題があった。
【0004】本発明の目的は、上述した従来の欠点を排
除し、広画角で撮影した1つの多画素映像から複数の映
像であって、しかも、それらがそれぞれ異なる視点で撮
影された多画素映像であるような映像を生成する映像生
成装置を提供することにある。
【0005】
【課題を解決するための手段】上記目的を達成するため
に、本発明映像生成装置は、広画角で撮影した1つの多
画素映像から複数の映像を生成する映像生成装置であっ
て、前記1つの多画素映像から複数の映像を切り出し、
該切り出した複数の映像それぞれについて、背景以外の
映像の動きベクトルの背景映像の動きベクトルに対する
正味の動きベクトルである相対動きベクトルを算出し、
該算出した相対動きベクトルの大きさが予め定めたしき
い値を越える領域を動き領域とし、該動き領域に前記相
対動きベクトルの大きさと分散とに依存して決まる領域
を付加してなる領域を設定し、前記切り出した映像から
前記付加してなる領域の映像を抽出することにより複数
の映像を自動的に生成するように構成したことを特徴と
するものである。
【0006】また、本発明映像生成装置は、広画角で撮
影した1つの多画素映像から複数の映像を切り出すため
に複数の切り出し窓を設定する切り出し窓設定手段と、
前記複数の切り出し窓のうちの1つの切り出し窓によっ
て切り出した映像について、背景以外の映像の動きベク
トルの背景映像の動きベクトルに対する正味の動きベク
トルである相対動きベクトルを算出する相対動きベクト
ル算出手段と、前記算出した相対動きベクトルの大きさ
が予め定めたしきい値を越える領域を動き領域として設
定する動き領域設定手段と、該設定した動き領域に前記
算出した相対動きベクトルの大きさと分散に依存して決
まる領域を付加してなる領域を画素数変換領域として設
定する画素数変換領域設定手段と、前記窓設定手段によ
って切り出した映像から前記設定した画素数変換領域の
映像を抽出する画素数変換領域抽出手段と、該抽出した
画素数変換領域の映像の画素数を伝送フォーマットにお
ける映像の画素数に変換する画素数変換手段とを具えて
構成したことを特徴とするものである。
【0007】また、本発明映像生成装置は、さらに、前
記切り出し窓ごとの前記画素数変換手段の出力の中から
所望の1出力を選択して出力する窓切り替え出力手段を
具えていることを特徴とするものである。
【0008】
【発明の実施の形態】以下に添付図面を参照し、発明の
実施の形態に基づいて本発明を詳細に説明する。図1
は、本発明による映像生成装置の一実施形態をブロック
図にて示している。図1 において、1 は切り出し窓設定
部、2−1,2−2,・・・,2−nは信号処理部、3
は相対動きベクトル算出部、4は動き領域設定部、5は
画素数変換領域設定部、6は画素数変換領域抽出部、7
は遅延回路、8は画素数変換部、および9は窓切り替え
出力部である。
【0009】動作につき説明する。図1 において、広画
角レンズを用いて撮影した入力映像信号は切り出し窓設
定部1に供給される。当該設定部において、切り出し窓
(図1においては、窓とのみ略記してある)1からnま
でのn個の切り出し窓で切り出された映像信号は、破線
ブロックにて示される信号処理部2−1,2−2,・・
・,2−nにそれぞれ供給される。
【0010】図2は、それぞれ右下がり斜線、横線、お
よび左下がり斜線で示される切り出し窓1,2,3によ
って入力映像(最外枠で示される)が切り出される例を
示している。本例は、図1 における切り出し窓nが3の
場合である。
【0011】上記において、切り出し窓の数と大きさは
予め放送内容に合わせて設定されるが、例えば、サッカ
ー中継の場合、入力映像は競技場全体を撮影した広画角
・多画素映像で、両軍エリアのゴール付近と中央付近の
3カ所をデフォルトでの切り出し窓とするのが好まし
い。実施にあたっては、入力装置から切り出し窓の窓数
と各窓の切り出し座標に関する情報を入力し、専用のイ
ンターフェース介してこれら情報を切り出し窓設定部1
に供給するようにする。
【0012】切り出し窓の窓数は、同じサッカー中継の
場合でも、競技の多くの場面を予想して4個以上とした
り、あるいは、番組制作中に別の場所に移動させたりす
ることもでき、これにより、1台のテレビカメラにより
撮影された映像内容によって、他の複数のカメラを自動
制御する従来の技術のように、複数のカメラが必要であ
ったり、競技中などでは容易にカメラ位置の変更ができ
ないという問題があったのが解消される。
【0013】以下に、信号処理部2−1,2−2,・・
・,2−n内における信号処理について説明する。な
お、信号処理部の構成は、皆同じであるので、信号処理
部2−1についてのみ構成を示し、説明する。信号処理
部2−1に供給された信号は、まず、2分岐されて相対
動きベクトル算出部3と遅延回路4に供給される。
【0014】相対動きベクトル算出部3においては、当
該算出部に供給された映像信号を背景映像と背景以外の
映像とに分離したうえで、背景以外の映像(例えば、選
手など注目している被写体映像)の動きベクトルの背景
映像の動きベクトルに対する正味の動きベクトルである
相対動きベクトルを、大きさ(平均値)と分散とからな
る量として算出する。
【0015】相対動きベクトルは、例えば、フレーム間
にブロックマッチング法を適用してk×k画素のマクロ
ブロック単位の動きベクトルを計算し、これと背景映像
の動きベクトルとの差分動きベクトルとして求められ
る。
【0016】また、背景映像の動きベクトルは、入力映
像を背景映像と背景以外の映像とに分離しなくても、カ
メラの動き情報やズーム情報等のメタデータを利用し、
鄭文涛等による論文、“A High-Precision Camera Ope
ration Parameter measurement System and Its Applic
ation to Image Motion Inferring " IEEE Transaction
s on Broadcasting ,Vol.47, No.1, pp.46-55 , March
2001に記載の方法によっても求めることができる。特
に、カメラが静止しているときは、背景映像の動きベク
トルがゼロであり、従って、動いている映像(背景以外
の映像)の動きそのものが差分動きベクトルとなる。
【0017】相対動きベクトル算出部3で算出された相
対動きベクトルは、動き領域設定部4と画素数変換領域
設定部5に供給される。動き領域設定部4では、そこで
予め定めたしきい値、例えば、動きベクトルの大きさが
2であるとした場合、これを越える大きさの相対動きベ
クトルとなっているマクロブロックが動いているものと
判定し、同時に、動き領域の水平方向および垂直方向の
最小値と最大値(それぞれ、座標(Xmin 、Xmax )お
よび(Y min 、Ymax ))を検出し、これら座標で囲ま
れる矩形の領域(以下、動き領域と言う)、例えば、図
3に横線で示す領域を設定する。設定された動き領域を
表す信号は、相対動きベクトルを表す信号とともに画素
数変換領域設定部5に供給される。
【0018】画素数変換領域設定部5には、上記動き領
域、相対動きベクトルをそれぞれ表す信号のほか、外部
からモニター画面のアスペクト比や伝送フォーマットに
おける映像画素数を表す目的の信号フォーマット情報
(図1参照)も供給され、切り出し窓1で切り出した映
像からさらに抽出して放送に使用するための映像にする
領域を設定する。そして、この領域の映像は、その画素
数を後に放送用映像の画素数に変換するので、以下で
は、画素数変換領域と言う。
【0019】いま、目的の信号フォーマットで与えられ
る上記アスペクト比をa:bとすると、それぞれ水平方
向および垂直方向の座標((X′min 、X′max )およ
び(Y′min 、Y′max ))で表される画素数変換領域
を、 X′min =Xmin −α X′max =Xmax +α Y′min =Ymin −β Y′max =Ymax +β で表す。
【0020】上記において、αおよびβの値は、動き領
域内での動きベクトルの大きさ(平均値)と分散とに依
存して定めることができる。まず、平均値Avei と分散
σi 2 (i=xまたはy)がそれぞれ予め設定した値A
vei0とσi0 2 (しきい値) よりも小さい(動きが小さ
く、かつ一様)場合には、 (Ymax −Ymin )/(Xmax −Xmin )≧b/aならば α=(Xmax −Xmin )×0.2 β=(b/2a)・(Xmax −Xmin +2α)−(1/2)・(Ymax −Ymi n ) また、(Ymax −Ymin )/(Xmax −Xmin )<b/aならば α=(a/2b)・(Ymax −Ymin +2β)−(1/2)・(Xmax −Xmi n ) β=(Ymax −Ymin )×0.2 このとき、動きの大きさは小さいので、注目している被
写体映像のサイズが比較的大きくなるようにα、βを小
さく(従って、図3に右下がり斜線で示すように画素数
変換領域は小さくなる)設定する。また、 しきい値の設
定は、 SIF サイズ (352 ×240 画素) の映像に対しては
Avei0=4,σi0 2=1 とする。
【0021】また、平均値Avei と分散σi 2 (i=x
またはy)がそれぞれ予め設定した値Avei0とσi0 2
りも大きい(動きが大きいか、または乱雑)場合には、 (Ymax −Ymin )/(Xmax −Xmin )≧b/aならば α=(Xmax −Xmin )×1.0 β=(b/2a)・(Xmax −Xmin +2α)−(1/2)・(Ymax −Ymi n ) また、(Ymax −Ymin )/(Xmax −Xmin )<b/aならば α=(a/2b)・(Ymax −Ymin +2β)−(1/2)・(Xmax −Xmi n ) β=(Ymax −Ymin )×1.0 このとき、動きの大きさは大きいので、注目している被
写体映像のサイズが比較的小さくなるようにα、βを大
きく(従って、図3に左下がり斜線で示すように画素数
変換領域は大きくなる)設定する。
【0022】以上のようにして画素数変換領域設定部5
で設定された画素数変換領域(図3参照)を表す信号
は、画素数変換領域抽出部6に供給される。この画素数
変換領域抽出部には、切り出し窓設定部1から切り出し
窓1によって切り出された映像信号も遅延回路7を介し
て供給され、供給された映像信号から上記画素数変換領
域設定部5において設定された画素数変換領域、すなわ
ち、水平方向および垂直方向の座標((X′min 、X′
max )および(Y′min 、Y′max ))で囲まれる画素
数変換領域に相当する領域の映像信号が抽出される。抽
出された映像信号は次段の画素数変換部8に供給され
る。なお、遅延回路7は、相対動きベクトル算出部3か
ら画素数変換領域設定部5までの信号処理に要した時間
を補償して、画素数変換領域抽出部6における映像信号
の抽出の同時性を確保するためのものである。
【0023】画素数変換部8においては、同変換部に供
給される目的の信号フォーマット情報を使用して、画素
数変換領域抽出部6の出力映像信号の画素数と放送用映
像信号の画素数(これは、目的の信号フォーマット情報
中の伝送フォーマットにおける映像画素数として与えら
れる)の比を算出し、この画素数比に従って画素数変換
領域抽出部6から出力された映像信号の画素数を放送用
映像信号の画素数に変換する。なお、画素数変換には、
例えば、従来周知のDD変換手法等を用いて変換するこ
とができる。
【0024】画素数変換部8によって画素数変換が行わ
れた映像信号は、切り出し窓設定部1の切り出し窓2乃
至窓nで切り出された映像信号がそれぞれ信号処理部2
−2,・・・,2−nにおいて処理されて得られた映像
信号とともに窓切り替え出力部9に供給され、それら映
像信号の中から1つの映像信号が選択されて放送や収録
に供される。
【0025】
【発明の効果】本発明によれば、広画角で撮影した1つ
の多画素映像から複数の映像であって、かつ、それぞれ
が異なる視点から撮影された多画素映像であるような映
像を自動的に生成することが可能となる。
【図面の簡単な説明】
【図1】 本発明による映像生成装置の一実施形態をブ
ロック図にて示している。
【図2】 それぞれ右下がり斜線、横線、および左下が
り斜線で示される3つの切り出し窓によって入力映像が
切り出される例を示している。
【図3】 それぞれ横線、右下がり斜線、および左下が
り斜線で示される領域によって、動き領域、および切り
出された映像の動きが小さい場合と大きい場合の画素数
変換領域を示している。
【符号の説明】
1 切り出し窓設定部 2−1,2−2,・・・,2−n 信号処理部 3 相対動きベクトル算出部 4 動き領域設定部 5 画素数変換領域設定部 6 画素数変換領域抽出部 7 遅延回路 8 画素数変換部 9 窓切り替え出力部

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 広画角で撮影した1つの多画素映像から
    複数の映像を生成する映像生成装置であって、前記1つ
    の多画素映像から複数の映像を切り出し、該切り出した
    複数の映像それぞれについて、背景以外の映像の動きベ
    クトルの背景映像の動きベクトルに対する正味の動きベ
    クトルである相対動きベクトルを算出し、該算出した相
    対動きベクトルの大きさが予め定めたしきい値を越える
    領域を動き領域とし、該動き領域に前記相対動きベクト
    ルの大きさと分散とに依存して決まる領域を付加してな
    る領域を設定し、前記切り出した映像から前記付加して
    なる領域の映像を抽出することにより複数の映像を自動
    的に生成するように構成したことを特徴とする映像生成
    装置。
  2. 【請求項2】 広画角で撮影した1つの多画素映像から
    複数の映像を切り出すために複数の切り出し窓を設定す
    る切り出し窓設定手段と、 前記複数の切り出し窓のうちの1つの切り出し窓によっ
    て切り出した映像について、背景以外の映像の動きベク
    トルの背景映像の動きベクトルに対する正味の動きベク
    トルである相対動きベクトルを算出する相対動きベクト
    ル算出手段と、前記算出した相対動きベクトルの大きさ
    が予め定めたしきい値を越える領域を動き領域として設
    定する動き領域設定手段と、 該設定した動き領域に前記算出した相対動きベクトルの
    大きさと分散に依存して決まる領域を付加してなる領域
    を画素数変換領域として設定する画素数変換領域設定手
    段と、 前記窓設定手段によって切り出した映像から前記設定し
    た画素数変換領域の映像を抽出する画素数変換領域抽出
    手段と、 該抽出した画素数変換領域の映像の画素数を伝送フォー
    マットにおける映像の画素数に変換する画素数変換手段
    とを具えて構成したことを特徴とする映像生成装置。
  3. 【請求項3】 請求項2記載の映像生成装置において、
    該装置はさらに、前記切り出し窓ごとの前記画素数変換
    手段の出力の中から所望の1出力を選択して出力する窓
    切り替え出力手段を具えていることを特徴とする映像生
    成装置。
JP2001362908A 2001-11-28 2001-11-28 映像生成装置 Expired - Fee Related JP4166463B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001362908A JP4166463B2 (ja) 2001-11-28 2001-11-28 映像生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001362908A JP4166463B2 (ja) 2001-11-28 2001-11-28 映像生成装置

Publications (2)

Publication Number Publication Date
JP2003163837A true JP2003163837A (ja) 2003-06-06
JP4166463B2 JP4166463B2 (ja) 2008-10-15

Family

ID=19173333

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001362908A Expired - Fee Related JP4166463B2 (ja) 2001-11-28 2001-11-28 映像生成装置

Country Status (1)

Country Link
JP (1) JP4166463B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007006111A (ja) * 2005-06-23 2007-01-11 Nippon Hoso Kyokai <Nhk> トリミング制御装置及びトリミング制御プログラム
JP2007166564A (ja) * 2005-12-17 2007-06-28 Plusmic:Kk 複数のカメラの連動トラッキングシステム
JP2009192949A (ja) * 2008-02-15 2009-08-27 Sony Corp 画像処理装置と画像処理方法および画像処理システム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007006111A (ja) * 2005-06-23 2007-01-11 Nippon Hoso Kyokai <Nhk> トリミング制御装置及びトリミング制御プログラム
JP4528212B2 (ja) * 2005-06-23 2010-08-18 日本放送協会 トリミング制御装置及びトリミング制御プログラム
JP2007166564A (ja) * 2005-12-17 2007-06-28 Plusmic:Kk 複数のカメラの連動トラッキングシステム
JP4528369B2 (ja) * 2005-12-17 2010-08-18 株式会社山口シネマ 複数のカメラの連動トラッキングシステム
JP2009192949A (ja) * 2008-02-15 2009-08-27 Sony Corp 画像処理装置と画像処理方法および画像処理システム
US8358363B2 (en) 2008-02-15 2013-01-22 Sony Corporation Video-processing apparatus, method and system

Also Published As

Publication number Publication date
JP4166463B2 (ja) 2008-10-15

Similar Documents

Publication Publication Date Title
EP3127321B1 (en) Method and system for automatic television production
US8564679B2 (en) Image processing apparatus, image processing method and program
CN101521747B (zh) 具有用于拍摄摇摄图像的摇摄模式的摄像装置
KR101603791B1 (ko) 파노라마의 생성 방법
JP4464360B2 (ja) 監視装置、監視方法、及びプログラム
JP5313127B2 (ja) 映像合成方法、映像合成システム
US20030128273A1 (en) Video processing apparatus, control method therefor, and storage medium
JP4794938B2 (ja) 監視システム、監視装置、監視方法、及びプログラム
CN113382177B (zh) 一种多视角环绕拍摄方法及系统
US10362266B2 (en) Video processing apparatus, video processing system, and video processing method
US20100157022A1 (en) Method and apparatus for implementing motion control camera effect based on synchronized multi-images
US20230328355A1 (en) Information processing apparatus, information processing method, and program
JP2004171490A (ja) 画像検出装置及び画像検出方法
KR100519929B1 (ko) 지피에스 시간에 동기된 카메라로 촬영된 파노라마영상처리 시스템 및 그 방법
US8269858B2 (en) Image pickup device, image pickup method, and integrated circuit
KR101603876B1 (ko) 파노라마의 생성 방법
JP2003163837A (ja) 映像生成装置
JP4018273B2 (ja) 映像処理装置及びその制御方法及び記憶媒体
JP2846854B2 (ja) カメラ自動追従方法およびその装置
US20230169720A1 (en) Information processing apparatus, information processing system, and storage medium
JP2003153213A (ja) 映像生成装置および受信装置
JP2004266669A (ja) 監視カメラ並びに撮像方法
JP7038935B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2004193661A (ja) 双方向コミュニケーションシステム,映像通信装置,および映像通信装置の撮影処理制御方法
KR20230149460A (ko) 감시 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070306

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080730

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120808

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120808

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130808

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140808

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees