JP4765726B2 - 画像処理装置および方法 - Google Patents

画像処理装置および方法 Download PDF

Info

Publication number
JP4765726B2
JP4765726B2 JP2006098970A JP2006098970A JP4765726B2 JP 4765726 B2 JP4765726 B2 JP 4765726B2 JP 2006098970 A JP2006098970 A JP 2006098970A JP 2006098970 A JP2006098970 A JP 2006098970A JP 4765726 B2 JP4765726 B2 JP 4765726B2
Authority
JP
Japan
Prior art keywords
image
conversion
points
obtaining
pixel position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006098970A
Other languages
English (en)
Other versions
JP2007272668A (ja
Inventor
雅道 大杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2006098970A priority Critical patent/JP4765726B2/ja
Publication of JP2007272668A publication Critical patent/JP2007272668A/ja
Application granted granted Critical
Publication of JP4765726B2 publication Critical patent/JP4765726B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置および方法に関し、特に、画像中における平面部分を推定する画像処理装置および方法に関する。
画像内における平面領域を検出・推定する技術として特許文献1に開示されている技術が知られている。この技術においては、複数台のカメラを用いて複数の視点から対象領域を含む画像を取得し、ステレオ復元によって画像内の各点の3次元座標を求め、それらの点群からランダムにサンプリングした点を使ってハフ変換を行うことにより、平面推定を行うものである。
特開2003−269937号公報
しかしながら、上記技術には、以下に掲げるような問題点がある。第一に位置関係が既知である複数のカメラが必要であり、ハード的な構成が複雑になる。第二にステレオ復元によって3次元座標を求めることが可能な点は、画像内の特徴的な点だけであり、復元結果が粗くなる。第三に、このようにして得られた結果に平面を当てはめても十分な精度が得られない。
そこで本発明は、単眼カメラで取得した画像列においても密な平面領域の検出を可能とした画像処理装置および方法を提供することを課題とする。
上記課題を解決するため、本発明にかかる画像処理装置は、(1)相対的な視点位置の異なる第1の画像と第2の画像を取得する画像取得手段と、(2)これら第1の画像と第2の画像上での特徴点の画素位置の対応関係を求める対応点検出手段と、(3)対応関係が検出できた特徴点のうち、同一平面上の少なくとも3点について第1の画像上の画素位置から第2の画像上の画素位置へと変換する変換行列を求める変換行列計算手段と、(4)求めた変換行列に基づいて第1の画像から画素位置変換によって新たな第3の画像を生成する画像変換手段と、(5)生成された第3の画像と第2の画像間で変換行列を求める際に使用した特徴点が形成する閉塞領域内の領域についての類似度を算出する類似度算出手段と、(6)求めた類似度に基づいてこの領域が変換行列計算手段で変換行列を求める際に用いた対応点のなす平面上の点であるか否かを判断する判断手段と、を備えていることを特徴とする。
一方、本発明にかかる画像処理方法は、(1)相対的な視点位置の異なる第1の画像と第2の画像を取得し、(2)第1の画像と第2の画像上の特徴点の画素位置の対応関係を求め、(3)対応関係が検出できた特徴点のうち、同一平面上の少なくとも3点について第1の画像上の画素位置から第2の画像上の画素位置へと変換する変換行列を求め、(4)求めた変換行列に基づいて第1の画像から画素位置変換によって新たな第3の画像を生成し、(5)生成された第3の画像と第2の画像間で変換行列を求める際に使用した特徴点が形成する閉塞領域内の領域についての類似度を算出し、(6)求めた類似度に基づいてこの領域が変換行列を求める際に用いた対応点のなす平面上の点であるか否かを判断する各工程を備えていることを特徴とする。
本発明によれば、異なる2画像間で特徴点を対応づける。その対応点から同一平面上に位置する少なくとも3点を抽出し、これら3点等を基準として、一方の画像上の画素位置から他方の画像上の画素位置へと変換を行う変換行列を求める。この変換行列により一方の画像上の各画素位置を変換すると、これらの3点等と同一の平面上に位置する画素は、他方の画像上の画素位置と同一位置に変換されるが、他の平面上に位置する画素は、これと異なる位置に変換される。したがって、これらの3点等と同一の平面上に位置する領域は、一方の画像からこの変換行列により変換された画像と、他方の画像とで同じ位置に位置することになり、この領域については、両方の画像は類似することになる。この関係を基にして、画面内の平面を判別できる。
変換行列を求める際に用いられる対応点は、画像内おける距離が所定値以下の点から選択されるとよい。画像内での距離離れているよりも近い点のほうが同一平面の端点である可能性が高いからである。
画像変換は、変換後の画素位置における輝度値を補間により求めて画像変換を行うと好ましい。処理対象となる画像においては、通常、タイル状に画素が並んだ構成をとる。この場合に、変換行列による変換後の画素位置と他方の画像の画素位置とは、画素の間隔より小さい距離でずれる可能性がある。このずれを補正し、画素位置を合わせるために輝度値を補間により求めるとよい。
類似度算出は、変換前後の画像上の同一座標周辺の輝度値の差を予め定めたしきい値と比較することによって行うとよい。つまり、輝度値の差が大きい場合には、類似していないと判断し、差が小さい場合に類似していると判断する。
ここで、類似度算出を行う領域は、変換行列を用いる際に用いた対応点の形成する閉塞領域内に限っている。この閉塞領域とは、対応点が3点の場合には、3点の形成する3角形内であり、4点の場合には、4点の形成する矩形である。5点以上の場合には、対応点により囲まれる多角形領域に対応する。対応点となる特徴点はエッジ抽出等により求められるため、通常、平面ないし曲面の端点を構成する場合が多いからである。
本発明によれば、複数の画像、例えば、連続的に取得した対象物との位置関係の異なる画像中から取得した少なくとも2つの画像間において、一方の画像から他方の画像へと特定の平面上の点(画素)の位置を変換する変換行列を求め、この変換行列によって一方の画像を変換した場合に、他方の画像と類似する領域を平面領域と判定するので、単眼カメラで取得した画像列においても平面領域を検出することができる。特に、これらの対応点の間に非平面(例えば、曲面)が存在する場合に、これを平面領域と誤判定するのを低減できる。
変換行列を求める際に用いる対応点画像内で近接させることで、平面である可能性の高い小領域ごとの検証が可能となる。また、画像変換の際に輝度値の補間を行うことで、比較する領域の画素位置を一致させることができ、類似判定が容易になる。
類似度算出を輝度値の差により行うと、判定基準が明確になる
対応点は面領域の端点を構成する点である可能性が高いので、対応点による閉塞領域内を対象に平面判定を行うことで、連続する複数の面を同時に判定対象とするのを予防できる。
最初に検出した領域が平面でなくとも、さらに領域を細分化して平面判定を行うことで、端部が不明瞭な平面についても平面判定が可能となる。
以下、添付図面を参照して本発明の好適な実施の形態について詳細に説明する。図1は、本発明にかかる画像処理装置の概略構成を示すブロック図である。この画像処理装置は、認識対象物を撮影した複数の画像が入力される画像入力手段1と、各々の画像中から特徴点を検出する特徴点検出手段2と、各画像間の特徴点の対応関係を検出する対応関係検出手段3と、選択した特徴点の一方の画像中での位置を他方の画像中での位置へと変換する変換行列計算手段4と、求めた変換行列に基づいた画像変換を行う画像変換手段5と、所定の画像間で所定の領域間の類似度を算出する類似度算出手段6と、算出した類似度から平面判定を行う判断手段7と、判断手段7の結果を基に必要であれば処理領域を指定しなおす処理領域指定手段8とを備えている。
画像入力手段1は、例えば、テレビカメラ等の動画を撮像して画像列として取り込む装置である。そのほかに、ビデオレコーダ等に保持されている動画データ中から画像列を取り込むビデオキャプチャー装置等や異なる視点からの動画または静止画を取り込む装置であれば、デジタルカメラ装置やイメージスキャナ等であってもよい。あるいはすでにコンピュータ等の記憶装置に格納されている画像を対象としてもよい。
特徴点検出手段2、対応関係検出手段3、変換行列計算手段4、画像変換手段5、類似度算出手段6、判断手段7、処理領域指定手段8は、いずれもCPU、ROM、RAM等によって構成される。これらの各手段は、独立した別々のハードウェアとして構成されていてもよいが、一部または全部のハードウェアを共有し、ソフトウェアにより個々の手段が実現されていてもよい。なお、この場合に、各手段を構成するソフトウェアは別個独立していてもよいが、その一部を共有してもよく、1つのソフトウェアの内部に複数の手段が組み込まれる構成であってもよい。
続いて、本実施形態の動作である本発明にかかる画像処理方法について図2のフローチャートを参照しつつ、具体的に説明する。まず、画像入力手段1に複数の画像が入力される(ステップS1)。ここでは、対象物に対する相対的な視点位置の異なる2画像を入力させた場合を例に説明する。入力された2画像は、図示していない一時記憶手段(例えば、RAM等のメモリや磁気ディスク等で構成される。)内に格納しておくとよい。
次に、特徴点検出手段2により、第1画像I中の特徴点候補を検出する(ステップS2)。具体的には、輝度・輝度パターンが特徴的な点を検出する手法を用いればよく、例えば、harrisオペレータ(C. Harris、M. Stephens著”A Combined Corner and Edge Detector,”Proc. Alvey Vision Conf.,pp.147〜151,1988年、参照)と呼ばれる手法を用いればよい。検出した特徴点の画像上の位置は、上述した一時記憶手段内に格納される。
対応関係検出手段3は、検出した特徴点の両画像中での対応関係をテンプレートマッチングにより求める(ステップS3)。具体的には、第1画像I中の特徴点に対応する第2画像T中での画素位置を算出する。式(1)により、第1画像Iの特徴点(x,y)と第2画像Tの位置(x,y)間の類似度を求め、類似度が良好な画素位置を対応位置と判定すればよい。なお、U、Vは、類似度を判定する範囲をそれぞれ水平、垂直方向で設定した集合を表すものである。
Figure 0004765726
特徴点の対応関係を検出したら、変換行列計算手段4は、対応関係が得られた特徴点のうち所定の3点を抽出する(ステップS4)。この3点は、同一直線上に位置している3点ではなく、画像内に映し出されている一平面上に位置すると予想される3点であり、例えば、画像内での距離が所定距離以内に近接している3点、または、3次元空間における距離が所定距離以内に近接している3点を選択する。その他の選択基準としては、(1)3点に囲まれる領域内に他の特徴点が存在しないか、存在しても所定個数以下である、(2)3点中の2点が同一輪郭線上に位置しており、他の1点は、この2点のうち1点と同一の他の輪郭線上に位置している、が挙げられる。
次に選択された3点の画素位置を変換する変換行列Hを求める。このHは、第1画像I上の特徴点の画素位置Pを(u,v)、第2画像T上の特徴点の画素位置P’を(u,v)とすると、式(2)を満たす。
Figure 0004765726
この関係を図3に示されるような3組の特徴点P−P’、P−P’、P−P’について満たす満たすHを最小自乗法等によって求める。
次に、画像変換プロセス(ステップS6〜S9)を実行する。まず、変換後の画像上で3点が形成する領域内の画素を抽出する。この抽出は、第2画像T上の特徴点の画素位置P’、P’、P’のうち、例えば、P’を原点とし、P’から残り2つの特徴点P’、P’へと向かうベクトルをt、sとすると、この3点に囲まれる領域(閉塞領域)内の点P’は、以下の(3)式を満たす。ここで、α+βは0〜1のスカラー値である。
Figure 0004765726
そこで(3)式を満たす画素位置、つまり、元画像内座標において座標値が整数をとる位置(図4に示されるような格子位置)を抽出すればよい。
次に求めたP’の画素位置に対応する変換前画像(第1画像)における画素位置Pを求める(ステップS7)。これは、(2)式で求めた変換行列Hの逆行列H−1を使うことで、(4)式により求めることができる。
Figure 0004765726
次に、画素位置Pに対応する輝度値を算出する(ステップS8)。ここで、Pの座標値は、P’と異なり、整数値(格子位置)をとるとは限らない。そこで、以下のような手法を用いる。第1は、座標値がともに整数値をとり、第1画素Iの対応位置に画素が存在する場合には、その画素の値を使い、その間に存在する場合には、最も近接している画素の輝度値を用いる手法、第2は、周囲の画素(4画素〜16画素)の座標値・輝度値を用いて内挿法により輝度値を算出する手法等がある。このように補間により輝度値を求める内挿法としては、バイリニア法やバイキュービック法等を用いることができる。こうして画素位置Pの輝度値を求めたら、その輝度値を変換後の画像の画素位置Pn’の輝度値とする(ステップS9)。これにより、変換後の画像T’が求まる。
次に、類似度算出手段6が他方の画像Tと変換後の画像T’の類似度を算出し、判段手段7が類似関係にあるか否かを判断する(ステップS10)。ここで、類似度を算出するのは、画像T’の画素位置P’に対応する領域である。類似度による評価手法としては、例えば、画像TとT’の対応位置の輝度値の差が所定値以内である場合に類似していると評価すればよい。なお、個々の輝度値の差の絶対値がいずれも所定値以内である場合に限ってもよいが、取得画像におけるノイズ等の影響を排除するため、所定値以内である画素が所定比率以上であること、最大差が所定値以下であること等により評価してもよい。さらには、輝度値の差の絶対値の積算値、累積二乗和、平均値、二乗平均等により評価してもよい。この積算や累積において、重みづけを行ってもよい。あるいは、当該画素と周囲の画素との輝度値の大小関係が変換後の画像T’と他方の画像Tとの間で同一の場合に類似していると判断する手法を用いてもよい。
このような基準によって類似していると判断した場合には、当該領域は平面であると判定し(ステップS11)、類似していないと判定した場合には非平面であると判定する(ステップS12)。判定終了後は、ステップS13へと移行して3点の組み合わせが終了したかどうかを判定し、未了の場合には、ステップS14へと移行して、次の3点を選択し、ステップS5へと戻ることで、全ての3点の組み合わせについて検証を行う。
変換行列Hは、第1の画像I上の選択した3点のなす平面上の点が第2の画像T上において占める位置へと変換するものである。したがって、変換行列Hにより第1の画像Iから変換された画像T’と第2の画像Tにおいて同一位置に位置している点は、当該平面上の点であると推定できる。本実施形態はこの関係を利用したものであり、当該3点に囲まれる領域の各画素について類似判定を行うことができるので、広い領域についても精度よく判定を行うことができる。
特に、変換行列を求めるには、両画像間で対象平面の見え方が異なれば足りるので、複数のカメラで取得した画像でなくともカメラまたは対象物が移動した場合の移動前、移動後の画像を用いてもよい。したがって、単眼カメラで取得した画像列(動画像)からも平面を判定することができる。
なお、特徴点の間隔が画像内や3次元空間において離れている場合に、選択した3点により囲まれる領域が1つの平面を含む複数の平面や曲面によって構成されている場合がありうる。このような場合には、当該領域全体は選択した3点のなす平面と同一の平面上には存在しないため、平面でないと判定されてしまう。そこで、処理領域指定手段8により、最初に選択した3点内の領域を細分化し、細分化した領域それぞれについて上述のステップS5〜S12の判定処理を行い、必要ならこれを繰り返すことで、多面で構成された領域から平面を判定することができる。細分化の手法としては、当該領域内で別の特徴点検出手法に基づいて特徴点を検出する手法や画像内で領域を等分することで、領域を分割する手法等を用いればよい。
以上の説明では、3点を選択する例を説明したが、4点以上を選択してもよい。4点以上を選択すれば、変換行列Hの精度は高まるが、3点の場合と異なり、当該4点が必ずしも同一平面上にあるとは限らないので、当該4点以上が同一面の端点である可能性が高いと予想される場合に用いることが好ましい。
本発明にかかる画像処理装置の概略構成を示すブロック図である。 本発明にかかる画像処理方法の具体的な動作処理を示すフローチャートである。 変換行列の算出を説明する図である。 画素の様子を示す図である。
符号の説明
1…画像入力手段、2…特徴点検出手段、3…対応関係検出手段、4…変換行列計算手段、5…画像変換手段、6…類似度算出手段、7…判断手段。

Claims (8)

  1. 相対的な視点位置の異なる第1の画像と第2の画像を取得する画像取得手段と、
    前記第1の画像と前記第2の画像上での特徴点の画素位置の対応関係を求める対応点検出手段と、
    対応関係が検出できた特徴点のうち、同一平面上の少なくとも3点について第1の画像上の画素位置から第2の画像上の画素位置へと変換する変換行列を求める変換行列計算手段と、
    求めた変換行列に基づいて第1の画像から画素位置変換によって新たな第3の画像を生成する画像変換手段と、
    生成された第3の画像と前記第2の画像間で前記変換行列を求める際に使用した特徴点が形成する閉塞領域内の領域についての類似度を算出する類似度算出手段と、
    求めた類似度に基づいて前記領域が変換行列計算手段で変換行列を求める際に用いた対応点のなす平面上の点であるか否かを判断する判断手段と、
    を備えていることを特徴とする画像処理装置。
  2. 前記変換行列計算手段で変換行列を求める際に用いられる対応点は、画像内おける距離が所定値以下の点から選択されることを特徴とする請求項1記載の画像処理装置。
  3. 画像変換手段は、変換後の画素位置における輝度値を補間により求めて画像変換を行うことを特徴とする請求項1記載の画像処理装置。
  4. 前記類似度算出手段は、変換前後の画像上の同一座標周辺の輝度値の差を予め定めたしきい値と比較することによって行うことを特徴とする請求項1記載の画像処理装置。
  5. 相対的な視点位置の異なる第1の画像と第2の画像を取得し、
    前記第1の画像と前記第2の画像上の特徴点の画素位置の対応関係を求め
    対応関係が検出できた特徴点のうち、同一平面上の少なくとも3点について第1の画像上の画素位置から第2の画像上の画素位置へと変換する変換行列を求め、
    求めた変換行列に基づいて第1の画像から画素位置変換によって新たな第3の画像を生成し、
    生成された第3の画像と第2の画像間で変換行列を求める際に使用した特徴点が形成する閉塞領域内の領域についての類似度を算出し、
    求めた類似度に基づいて前記領域が変換行列を求める際に用いた対応点のなす平面上の点であるか否かを判断する各工程を備えていることを特徴とする画像処理方法。
  6. 前記変換行列を求める際に用いられる対応点は、画像内おける距離が所定値以下の点から選択されることを特徴とする請求項記載の画像処理方法。
  7. 前記画像変換は、変換後の画素位置における輝度値を補間により求めて画像変換を行うことを特徴とする請求項記載の画像処理方法。
  8. 変換前後の画像上の同一座標周辺の輝度値の差を予め定めたしきい値と比較することによって類似度算出を行うことを特徴とする請求項記載の画像処理方法。
JP2006098970A 2006-03-31 2006-03-31 画像処理装置および方法 Expired - Fee Related JP4765726B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006098970A JP4765726B2 (ja) 2006-03-31 2006-03-31 画像処理装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006098970A JP4765726B2 (ja) 2006-03-31 2006-03-31 画像処理装置および方法

Publications (2)

Publication Number Publication Date
JP2007272668A JP2007272668A (ja) 2007-10-18
JP4765726B2 true JP4765726B2 (ja) 2011-09-07

Family

ID=38675395

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006098970A Expired - Fee Related JP4765726B2 (ja) 2006-03-31 2006-03-31 画像処理装置および方法

Country Status (1)

Country Link
JP (1) JP4765726B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5365969B2 (ja) * 2007-11-13 2013-12-11 富士ゼロックス株式会社 画像処理装置及びプログラム
CN116994457B (zh) * 2023-09-26 2023-12-29 深圳海星智驾科技有限公司 车辆防碰撞的检测方法、装置、计算机设备及存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3279610B2 (ja) * 1991-11-21 2002-04-30 マツダ株式会社 環境認識装置
JP2000293693A (ja) * 1999-03-31 2000-10-20 Toshiba Corp 障害物検出方法および装置
JP4256992B2 (ja) * 1999-09-09 2009-04-22 株式会社東芝 障害物検出装置
JP3759429B2 (ja) * 2001-05-23 2006-03-22 株式会社東芝 障害物検出装置及びその方法
JP3988574B2 (ja) * 2002-08-08 2007-10-10 日産自動車株式会社 画像処理装置
JP3868876B2 (ja) * 2002-09-25 2007-01-17 株式会社東芝 障害物検出装置及び方法
JP3906194B2 (ja) * 2002-11-29 2007-04-18 株式会社東芝 キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法
JP4344860B2 (ja) * 2004-01-30 2009-10-14 国立大学法人東京工業大学 ステレオ画像を用いた道路平面領域並びに障害物検出方法

Also Published As

Publication number Publication date
JP2007272668A (ja) 2007-10-18

Similar Documents

Publication Publication Date Title
JP5870273B2 (ja) 物体検出装置、物体検出方法及びプログラム
JP3944647B2 (ja) 物体計測装置、物体計測方法、およびプログラム
JP6125188B2 (ja) 映像処理方法及び装置
JP5404263B2 (ja) 視差算出方法、および視差算出装置
JP4521235B2 (ja) 撮影画像の変化抽出装置及び方法
JP6639523B2 (ja) 学習画像自動選別装置、学習画像自動選別方法および学習画像自動選別プログラム
KR101703515B1 (ko) 영상의 표적 추적 장치 및 방법
JP4631973B2 (ja) 画像処理装置、画像処理装置の制御方法、および画像処理装置の制御プログラム
JP4862816B2 (ja) 画像対応点探索装置ならびにそれを用いる測距装置および画像動き検出装置
JP6617150B2 (ja) 物体検出方法及び物体検出装置
KR101875532B1 (ko) 계층적 스테레오 매칭 장치 및 방법
JP2008035301A (ja) 移動体追跡装置
JP6494402B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP4765726B2 (ja) 画像処理装置および方法
US9936189B2 (en) Method for predicting stereoscopic depth and apparatus thereof
JP6057629B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP6006675B2 (ja) マーカ検出装置、マーカ検出方法、及びプログラム
JP4321251B2 (ja) 合成画像を生成・表示する装置及び方法
WO2020144760A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
Takaoka et al. Depth map super-resolution for cost-effective rgb-d camera
CN111630569A (zh) 双目匹配的方法、视觉成像装置及具有存储功能的装置
JP2006047252A (ja) 画像処理装置
WO2023182290A1 (ja) 視差情報生成装置、視差情報生成方法、および、視差情報生成プログラム
JP4775221B2 (ja) 画像処理装置、画像処理装置の制御方法、および画像処理装置の制御プログラム
JP2011013066A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110307

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110530

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140624

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees