JP2006121122A - ブロック歪み低減用ループフィルタ - Google Patents

ブロック歪み低減用ループフィルタ Download PDF

Info

Publication number
JP2006121122A
JP2006121122A JP2004278877A JP2004278877A JP2006121122A JP 2006121122 A JP2006121122 A JP 2006121122A JP 2004278877 A JP2004278877 A JP 2004278877A JP 2004278877 A JP2004278877 A JP 2004278877A JP 2006121122 A JP2006121122 A JP 2006121122A
Authority
JP
Japan
Prior art keywords
threshold value
compressed data
compressed
data amount
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004278877A
Other languages
English (en)
Other versions
JP4241559B2 (ja
Inventor
Wataru Katase
渉 片瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2004278877A priority Critical patent/JP4241559B2/ja
Publication of JP2006121122A publication Critical patent/JP2006121122A/ja
Application granted granted Critical
Publication of JP4241559B2 publication Critical patent/JP4241559B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】H.264/MPEG4−AVC規格に準拠して閾値参照テーブルの規模を最小限にしたブロック歪み低減ループフィルタを提供する。
【解決手段】圧縮画像の圧縮データ量に応じてノイズ低減値を有するテーブル3と、圧縮データ量を一定とした場合に、ノイズ中に含まれる周波数成分の中の所定閾値以下の周波数成分だけを取り出す周波数選択部1と、所定の圧縮率に基づいて、周波数選択部1で取り出された周波数成分を所定閾値以下にした際に生じる圧縮データ量に対する圧縮データ量の不足分の差がないように、テーブルの関数をシフトさせる圧縮データ量シフト部2と、シフトされたテーブルの関数を用いて、シフト量に応じて圧縮画像を入力画像に戻した際に発生するノイズを低減することを特徴とするループフィルタを提供するものである。
【選択図】 図1

Description

本発明は、画像信号を圧縮伸張する際の、MPEG−4に規定されるブロック歪み低減用ループフィルタに関するものである。
ISO(国際標準化機構)/IEC(国際電気標準会議)とITU(国際電気信号連合)−Tによって画像圧縮方式のビデオ圧縮に対するH.264/MPEG4−AVC規格が認可された。そして、このMPEG4の規格ではMPEG2に比較し高画質、高圧縮を行うために、符号化量が数十倍にも膨れ上がっているが、直交変換と動き補償予測を組み合わせたハイブリッド符号化、と言うアルゴリズム自体は同じであるが、高圧縮実現のために取り入れたのは、動き補償機能とフレーム内予測機能の2つである。この2つで符号化処理の大半を占める。
図5にH.264/MPEG4−AVC規格に基づく画像圧縮方式のエンコーダ10を示す。このエンコーダ10は動きベクトル検出11、動き補償12、重み付き予測13、画面内予測14、DCT15、量子化16、可変長符号化17、逆量子化18、逆DCT19、ループフィルタ20、フレームメモリ21及び符号化制御22等の構成により高圧縮化を行っている。
そして、MPEG4の規格では、ブロック歪みを低減させる目的のループフィルタ20が複合時に必要であることが定められている。
そしてこのループフィルタ20は、画像データV0に含まれる画像の符号化時に生じるブロック歪みを減少させた画像データV1を生成して、フレームメモリ21に送る。
図6に示すようにループフィルタ20は、デブロッキングフィルタ100、閾値生成部101、量子化値生成回路102、フィルタ強度生成回路103から構成される。
このデブロッキングフィルタ100は閾値tcoによりフィルタの処理内容を決定し、画像データV0を入力して画像の符号化時に生じるブロック歪みを減少させた画像データV1を出力する。
このデブロッキングフィルタ100に入力する閾値tcoは閾値生成部101に量子化値indexAとフィルタ強度BSにより図7に示す閾値参照テーブルT1,T2,T3,..,Tnから所定値を選択して閾値tc0とする。
量子化値indexAは図示されていない量子化データQ0を入力し、量子化値生成回路で量子化値indexAを生成し閾値生成部101に送る。
フィルタ強度BSはループフィルタ20内のフィルタ強度生成回路103において生成し閾値生成部101に送る。
次に、図7における閾値生成部101の動作を説明する。まず量子化値indexAを閾値参照テーブルT1,T2,T3,...,Tnにそれぞれ入力する。そして量子化値indexAの値に従って閾値参照テーブルT1,T2,T3,...,Tnに設定されている閾値tc01,tc02,tc03,...,tc0nをそれぞれ読み出してセレクタ7に入力する。そしてセレクタ7にはフィルタ強度BSが入力され、このフィルタ強度BSによって選択された閾値tc01,tc02,tc03のいずれかが閾値tc0として閾値生成部101からデブロッキングフィルタ100に送られる。
非特許文献1では、ループフィルタの構成方法についての規定が記載されている。この規定によれば、ループフィルタはプロック状の歪みエッジに対して、歪みエッジの両側の隣接画素値を平均化することで、歪みエッジを目立たなくさせる方法としている。この隣接画素値の平均化は、図7に示す閾値参照テーブルT1,T2,T3,...,Tnを用いて行うが、このままではテーブル数が多すぎるので、3つの閾値参照テーブルT1,T2,T3のみに限定し、閾値参照テーブルに記憶する閾値を次のように定めている。
閾値参照テーブルT1(BS1)
indexA 0 1 2 3 ... 45 46 47 48 49 50 51
tc01 0 0 0 0 ... 6 7 8 9 10 11 13
閾値参照テーブルT2(BS2)
indexA 0 1 2 3 ... 45 46 47 48 49 50 51
tc02 0 0 0 0 ... 8 10 11 12 13 15 17
閾値参照テーブルT3(BS3)
indexA 0 1 2 3 ... 45 46 47 48 49 50 51
tc03 0 0 0 0 ... 13 14 16 18 20 23 25
これらの閾値参照テーブルを用いてH.264/MPEG4−AVC規格による画像圧縮を行えばMPEG−2規格に基づく圧縮率の略4倍以上の性能が得られるから、実用面での使用が検討されている。
DRAFT ISO/IEC 14496−10:2002(E) (ITU−T Rec.H.264(2002 E)
しかしながら、上述した閾値参照テーブルT1,T2,T3をそのまま用いて画像の圧縮を行おうとすると、3つの閾値参照テーブルT1,T2,T3を全て同時に動作させなければならないため消費電力が多く、また、3つの閾値参照テーブルT1,T2,T3を全て保持することがエンコーダ10において、ハード化、ソフト化のいずれにもメモリ量の増加と処理速度低下を生じ問題点となっていた。
そこで本発明は、上記のような問題点を解消するためになされたもので、H.264/MPEG4−AVC規格に準拠しながら、閾値参照テーブルの規模を最小限にし、かつ省電力を行うことが出来る、ブロック歪み低減ループフィルタを提供することを目的とする。
上記目的を達成するための手段として、第1の発明によるブロック歪み低減用ループフィルタは、入力画像を符号化して所定の圧縮率で圧縮された圧縮画像を前記入力画像に戻す際に、前記入力画像に発生するブロックノイズを低減して前記圧縮画像を出力する動符号化装置に用いられるループフィルタにおいて、前記圧縮画像の圧縮データ量に応じて前記ノイズの周波数成分が単調増加する関数を有するテーブルと、前記圧縮データ量を一定とした場合に、前記テーブルに基づいて、前記ノイズ中に含まれる周波数成分の中の所定閾値以下の周波数成分だけを取り出す周波数選択部と、前記所定の圧縮率に基づいて、前記周波数選択部で取り出された前記周波数成分を所定閾値以下にした際に生じる前記一定とした圧縮データ量に対する前記圧縮データ量の不足分の差がないように、前記テーブルの関数をシフトさせる圧縮データ量シフト部と、を有し、前記圧縮データ量シフト部でシフトされた前記テーブルの関数を用いて、前記シフト量に応じて前記圧縮画像を前記入力画像に戻した際に発生するノイズを低減することを特徴とするループフィルタを提供するものである。
本発明によれば、H.264/MPEG4−AVC規格の規格に準拠した形で、ブロック歪み低減ループフィルタ(以下ループフィルタと略す)に必要な閾値参照テーブルの保持を最小限にすることが出来るので、回路構成やメモリの大幅な削減と高速化かつ低電力を図ることが出来る。
以下に本発明の実施形態に係る画像入力装置について図1〜図4を用いて説明する。
図1は本発明の実施形態における閾値参照テーブルの構成を示す図であり、(A)は閾値参照テーブルを1つとする構成を示す図であり、(B)は1つの閾値参照テーブルを複数の閾値参照テーブルとする際の回路構成を示す。図2はindexAの変換時の演算内容を示す図であり、(A)は基準となる閾値参照テーブルSDのテーブル内容を示す図であり、(B)は任意の閾値参照テーブルNのテーブル算出を示す図である。図3はH.264/MPEG4−AVC規格の規格に基づく閾値参照テーブルの構成を示す図であり、(A)は3つのテーブル全てを有する構成を示す図であり、(B)は(A)の閾値テーブルを1つ削減した構成を示す図である。図4は各テーブルの規格値と算出値の比較を示す図である。
図1に示すように、入力画像を符号化して所定の圧縮率で圧縮された圧縮画像を前記入力画像に戻す際に、入力画像に発生するブロックノイズを低減して圧縮画像を出力する動符号化装置に用いられるループフィルタにおいて、圧縮画像の圧縮データ量に応じてノイズの周波数成分が単調増加する関数を有するテーブル3(閾値参照テーブルSD3)と、圧縮データ量を一定とした場合に、テーブル3に基づいて、ノイズ中に含まれる周波数成分の中の所定閾値以下の周波数成分だけを取り出す周波数選択部1(定数選択部1)と、所定の圧縮率に基づいて、周波数選択部1で取り出された周波数成分を所定閾値以下にした際に生じる一定とした圧縮データ量に対する圧縮データ量の不足分の差がないように、テーブルの関数をシフトさせる圧縮データ量シフト部2(配列値生成部2)と、を有し、圧縮データ量シフト部でシフトされたテーブルの関数を用いて、シフト量に応じて圧縮画像を入力画像に戻した際に発生するノイズを低減することを特徴とするループフィルタを提供するものである。
そして、図1(A)に示すように本発明の実施形態に係る閾値生成部101は、定数選択1、index変換2、閾値参照テーブルSD3により構成され、図7に示す閾値生成部101の従来の複数の閾値参照テーブルを1つにする機能を有するものである。
すなわち、図1(B)に示すように量子化値indexAを、index変換2によりindexAx=(indexA−Tn)の演算により変換し、閾値参照テーブルSD3から閾値tc0を抽出する。
このTnはユーザによって選択されたフィルタ強度BSを定数選択1に加え、BS=1であれば定数T1、BS=2であれば定数T2,...,BS=nであれば定数Tnが選択されindex変換2に加えられる。(T1、T2、...、Tn:BSに基づく閾値のシフト量)
次に、図1(B)に示す定数例について説明する。
n=8とした場合8段階のフィルタ強度を次のように設定する。
BS=1:T1=8 ほとんど圧縮しない場合に用いる。
BS=2:T1=7 わずかに圧縮した場合に用いる。
BS=3:T1=6 MPEG4のテーブルAに相当し、低圧縮補正用とする。
BS=4:T1=5 低圧縮率で動きの速い場合に用いる。
BS=5:T1=4 MPEG4のテーブルBに準拠し、中圧縮補正用とする。
BS=6:T1=3 中圧縮率で動きの速い場合に用いる。
BS=7:T1=2 圧縮率が高く動きの遅い場合に用いる。
BS=8:T1=0 MPEG4のテーブルCに相当し最大圧縮時用とする。
このように定数T1を所定数設定すれば、テーブル数は1つで済み、しかも、圧縮時に発生するブロッキングエラーに応じた補正をテーブル数が多い場合と同様に最適に行うことが出来る。
index変換2ではindexAx=indexA−Tnの演算によりindexAxを得る。但しindexAx<0の場合はindexAx=0とする。
閾値参照テーブルSD3には標準のindexAに基づく閾値がテーブルとして設置される。例えば図2(A)に示すように、閾値tc0=f(indexA)とし、fはブロッキングフィルタ100で用いる最大値の閾値の関数とする。そしてindexAの値に基づいてtc0を算出し、その算出値を閾値参照テーブルSD3に格納する。
そして、図2(B)に示すようにフィルタ強度BSに基づく定数TnによりindexAx=indexA−Tnの演算を行い(indexAx<0の場合はindexAx=0)定数Tn分にindexAをシフトして閾値参照テーブルSD3から閾値tc0を抽出する。
このように量子化値indexAをindex変換1において(indexAx=indexA−Tn)の演算を行い、閾値参照テーブルSD3に量子化値indexAxを加えれば任意の閾値参照テーブルNの閾値を抽出することが出来るから、複数の閾値参照テーブルを閾値生成部101に所有することはなく、閾値参照テーブルSD3のみ有する閾値参照テーブルを大幅に削減した閾値生成部101を得ることが出来る。
例えば図3(A)に示すH.264/MPEG4−AVC規格により3つの閾値参照テーブルA,B,Cをフィルタ強度BSによって選択する閾値生成部101における閾値参照テーブルCに加えられるindexAを図4のMPEG−2規格に基づく図4(1)のテーブルAと図4(5)のテーブルCとからシフト量6(定数Tn=6)として、図3(B)に示されるindex変換2で(indexA2=indexA−6)の演算を行い、このindexA2をセレクタ9経由で閾値参照テーブルCに加えれば、indexA2に応じて図4の(2)に示す閾値が算出される。この図4の(2)に示す閾値は図4(1)のテーブルAと同じ値であることが分かる。
テーブルBをそのまま用いる場合は、index変換2の後にセレクタ9を設置し、フィルタ強度BSにより閾値参照テーブルAと閾値参照テーブルCの選択を行う。
このように図3(B)の構成とすれば、H.264/MPEG4−AVC規格における3つの閾値参照テーブルA,B,Cの中の閾値参照テーブルAを省略することが出来る。
また、図1において、H.264/MPEG4−AVC規格における3つの閾値参照テーブルA,B,Cよりシフト量をそれぞれBS=1:T1=6,BS=2:T2=4,BS=3:T3=0とし、閾値テーブルSD3=閾値テーブルCとして、H.264/MPEG4−AVC規格における3つの閾値参照テーブルA,B,Cのうち、閾値テーブルCから閾値参照テーブルA,Bを求めれば、閾値参照テーブルAは図4(2)、閾値参照テーブルBは図4(4)の閾値が算出できる。
これを規格値と比較すると図4(2)は一致し、図4(4)は±1の範囲に入っており、規格に準拠したものとみなすことが出来る。
従って図1(A)の構成とすればH.264/MPEG4−AVC規格に準拠した、閾値参照テーブルが1つの閾値生成部101を得ることが出来る。
以上述べてきたように、基準とする閾値参照テーブルを1つ有するのみで、任意の数の閾値参照テーブルの機能を有することが出来るから、ユーザによって選択されるフィルタ強度BSの設定数を細分化して閾値参照テーブルの設定数を増加しても、メモリ量の増加や処理速度の低下を生じることのない、よりきめの細かい処理の出来る高品質のブロック歪み低減ループフィルタを提供することが出来る。
本発明の実施形態における閾値参照テーブルの構成を示す図であり、(A)は閾値参照テーブルを1つとする構成を示す図であり、(B)は1つの閾値参照テーブルを複数の閾値参照テーブルとする際の回路構成を示す図である。 indexAの変換時の演算内容を示す図であり、(A)は基準となる閾値参照テーブルSDのテーブル内容を示す図であり、(B)は任意の閾値参照テーブルNのテーブル算出を示す図である。 H.264/MPEG4−AVC規格の規格に基づく閾値参照テーブルの構成を示す図であり、(A)は3つのテーブル全てを有する構成を示す図であり、(B)は(A)の閾値テーブルを1つ削減した構成を示す図である。 各テーブルの規格値と算出値の比較を示す図である。 MPEG4のエンコーダの構成を示す図である。 ループフィルタの構成を示す図である。 閾値参照テーブルの構成を示す図である。
符号の説明
1・・・定数選択、2・・・index変換、3・・・閾値参照テーブルSD、4・・・閾値参照テーブルB、6・・・閾値参照テーブルA、7・・・セレクタ、8・・・閾値参照テーブルC、9・・・セレクタ、10・・・エンコーダ、11・・・動きベクトル検出、12・・・動き補償、13・・・重み付き予測、14・・・画面内予測、15・・・DCT、16・・・量子化、17・・・可変長符号化、18・・・逆量子化、19・・・逆DCT、20・・・ループフィルタ、21・・・フレームメモリ、100・・・デブロッキングフィルタ、101・・・閾値生成部、102・・・量子化値生成回路、103・・・フィルタ強度生成回路


Claims (1)

  1. 入力画像を符号化して所定の圧縮率で圧縮された圧縮画像を前記入力画像に戻す際に、前記入力画像に発生するブロックノイズを低減して前記圧縮画像を出力する動符号化装置に用いられるループフィルタにおいて、
    前記圧縮画像の圧縮データ量に応じて前記ノイズの周波数成分が単調増加する関数を有するテーブルと、
    前記圧縮データ量を一定とした場合に、前記テーブルに基づいて、前記ノイズ中に含まれる周波数成分の中の所定閾値以下の周波数成分だけを取り出す周波数選択部と、
    前記所定の圧縮率に基づいて、前記周波数選択部で取り出された前記周波数成分を所定閾値以下にした際に生じる前記一定とした圧縮データ量に対する前記圧縮データ量の不足分の差がないように、前記テーブルの関数をシフトさせる圧縮データ量シフト部と、
    を有し、
    前記圧縮データ量シフト部でシフトされた前記テーブルの関数を用いて、前記シフト量に応じて前記圧縮画像を前記入力画像に戻した際に発生するノイズを低減することを特徴とするループフィルタ。

JP2004278877A 2004-09-21 2004-09-27 ブロック歪み低減用ループフィルタ Active JP4241559B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004278877A JP4241559B2 (ja) 2004-09-21 2004-09-27 ブロック歪み低減用ループフィルタ

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004274076 2004-09-21
JP2004278877A JP4241559B2 (ja) 2004-09-21 2004-09-27 ブロック歪み低減用ループフィルタ

Publications (2)

Publication Number Publication Date
JP2006121122A true JP2006121122A (ja) 2006-05-11
JP4241559B2 JP4241559B2 (ja) 2009-03-18

Family

ID=36538638

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004278877A Active JP4241559B2 (ja) 2004-09-21 2004-09-27 ブロック歪み低減用ループフィルタ

Country Status (1)

Country Link
JP (1) JP4241559B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014533027A (ja) * 2011-11-04 2014-12-08 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 改良型画像ブロック境界強度導出法を用いたデブロッキングフィルタリング処理

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014533027A (ja) * 2011-11-04 2014-12-08 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 改良型画像ブロック境界強度導出法を用いたデブロッキングフィルタリング処理
JP2017085651A (ja) * 2011-11-04 2017-05-18 サン パテント トラスト フィルタリング方法およびフィルタリング装置
JP2018033160A (ja) * 2011-11-04 2018-03-01 サン パテント トラスト 符号化方法、プログラムおよび符号化装置

Also Published As

Publication number Publication date
JP4241559B2 (ja) 2009-03-18

Similar Documents

Publication Publication Date Title
US8326064B2 (en) Image re-encoding method to decode image data which is orthogonally transformed per first block and encoded by a first encoding method
JP4820191B2 (ja) 動画像符号化装置及びプログラム
KR20110047697A (ko) 픽처 경계의 부호화 단위를 부호화, 복호화 하는 방법 및 장치
JP2007184871A (ja) 動画像復号装置及び動画像復号方法
KR20090095317A (ko) 영상 부호화 및 복호화 방법 및 장치
JP2009021907A (ja) 動画像符号化装置及び動画像符号化方法
RU2734616C1 (ru) Способ декодирования видео с предсказанием и устройство декодирования видео с предсказанием
JP2011166592A (ja) 画像符号化装置及び画像復号装置
JP2009135902A (ja) 符号化装置、符号化装置の制御方法及びコンピュータプログラム
JP2006067302A (ja) 画像符号化装置、画像符号化方法および画像符号化プログラム
JP2012028863A (ja) 動画像符号化装置
US8369423B2 (en) Method and device for coding
JP4241559B2 (ja) ブロック歪み低減用ループフィルタ
US10250874B2 (en) Method for coding sequence of digital images
JP2017073602A (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
JP5488168B2 (ja) 画像符号化装置
JP2018110313A (ja) 動画像符号化装置、動画像符号化方法、動画像符号化用コンピュータプログラム、動画像復号装置及び動画像復号方法ならびに動画像復号用コンピュータプログラム
TW202349944A (zh) 視頻編解碼系統中基於最可能模式列表構造的解碼器側模式推導的方法和裝置
KR20040066397A (ko) 디지털 영상압축 시스템 및 그 방법
WO2019187396A1 (ja) 画像復号装置、画像符号化装置、画像処理システム、画像復号方法及びプログラム
JP2006157084A (ja) 画像符号化装置、画像符号化方法、及びコンピュータプログラム
JP2016116175A (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
JP2021118525A (ja) 符号化装置、復号装置、及びプログラム
JP2006166103A (ja) 動画像符号化装置、その方法、そのプログラム、その記憶媒体
JP2011166357A (ja) 画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080808

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081031

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081222

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4241559

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130109

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130109

Year of fee payment: 4