JP4821653B2 - 画像処理装置及び画像処理プログラム - Google Patents

画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP4821653B2
JP4821653B2 JP2007049310A JP2007049310A JP4821653B2 JP 4821653 B2 JP4821653 B2 JP 4821653B2 JP 2007049310 A JP2007049310 A JP 2007049310A JP 2007049310 A JP2007049310 A JP 2007049310A JP 4821653 B2 JP4821653 B2 JP 4821653B2
Authority
JP
Japan
Prior art keywords
minimum
dissimilarity
coordinate
grid
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007049310A
Other languages
English (en)
Other versions
JP2008217053A (ja
Inventor
一憲 宋
俊一 木村
裕 越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2007049310A priority Critical patent/JP4821653B2/ja
Publication of JP2008217053A publication Critical patent/JP2008217053A/ja
Application granted granted Critical
Publication of JP4821653B2 publication Critical patent/JP4821653B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、画像処理装置及び画像処理プログラムに関する。
複数の画像同士で似たテクスチャーを重ね合わせるパノラマ画像の生成や、Super resolution技術を用いた画像の高解像度化、また動画像圧縮における動き補償処理のために、高速・高精度な画像の位置合わせ技術が必要不可欠である。
特に、位置合わせの精度をサブ画素の精度とし、かつ高速な処理が求められている。
例えば、特許文献1には、画像が撮像装置の特性やノイズなどの影響で変形を受けていても精度が低下しない、サブピクセル精度の位置合わせ手法を提供することを課題とし、フィッティング範囲設定手段において、入力画像の微分値の大きな画素の連なりをフィッティング範囲と設定し、関数フィッティング手段において、各フィッティング範囲に対し、単峰性の関数をフィッティングしエッジ位置をサブピクセル精度で求め、次に、ピクセル精度位置合わせ手段において位置合わせを行う。対応候補曲線生成手段において、ある一方の画像上のエッジ点に対して、他方の画像上の対応する複数のエッジ点を曲線で結び対応候補曲線とし、位置ずれ算出手段において、全ての対応候補曲線が交差する点、若しくは最も密集する点を求め、その座標を一方の画像からもう一方の画像に対するサブピクセル精度の変位とみなすことが開示されている。
また、これらに関連する技術として、例えば、特許文献2には、画像の位置合わせをサブピクセル精度で行う技術が記載されている。すなわち、N次元類似度を考慮することで、画像間対応パラメータを少ない計算量で安定かつ高速に高精度で同時に推定できるようにした、画像のサブピクセルマッチングにおける多パラメータ高精度同時推定方法及び多パラメータ高精度同時推定プログラムを提供することを課題とし、離散的な位置で得られた画像間のN次元類似度値が、ある1つのパラメータ軸に対して平行な直線上で最大又は最小となるサブサンプリング位置を求め、求められた前記サブサンプリング位置に最も近似するN次元超平面を各パラメータ軸毎に求め、求められた超平面の交点からサブサンプリンググリッド推定位置を求めることが開示されている。
特許第2897772号公報 再表2004−063991号公報
画像の高解像度化のためにサブ画素の高精度な位置合わせをしようとすると、1画素毎の相違度を算出するため膨大な処理時間がかかるのが問題となる。また階層的に探索する方式では、あらかじめ決められた階層数だけ相違度の算出と補間処理が必要となることで処理時間が増大し、階層数を少なくすると精度が悪くなるという問題があった。
本発明は、このような背景技術の状況のなかでなされたもので、より少ない階層数で位置合わせを行うことで、処理負荷を減少させてサブ画素での位置合わせをすることができるようにした画像処理装置及び画像処理プログラムを提供することを目的としている。
かかる目的を達成するための本発明の要旨とするところは、次の各項の発明に存する。
[1] 2枚の画像を入力する画像入力手段と、
前記画像入力手段によって入力された画像を対象として、レイヤ値に基づくグリッドの相違度から相違度最小座標を算出する相違度最小座標算出手段と、
レイヤ値が所望のレイヤ値であれば、前記相違度最小座標算出手段によって算出した相違度最小座標を出力させ、レイヤ値が所望のレイヤ値でなければ、任意の数に減らしたレイヤ値のグリッドから相違度最小座標を前記相違度最小座標算出手段に算出させる制御手段
を具備し、
前記レイヤ値は、前記画像内でグリッドとして抽出する画素間の幅をいい、
前記グリッドは、レイヤ値の画素分だけ互いに離れた画素とし、
前記相違度最小座標算出手段は、次の(1)、(2)又は(3)のいずれかによって、グリッドの相違度から相違点最小座標を算出する
(1)複数画素における相違度を通る曲線において、該曲線の相違度を最小化する画素の座標を相違点最小座標とする
(2)横線上で相違度を最小化する画素の座標を通る直線と縦線上で相違度を最小化する画素の座標を通る直線との交点を相違点最小座標とする
(3)グリッドの相違度を用いて形成される曲面を推定し、該曲面が示す相違度が最小となる座標を相違点最小座標とする
ことを特徴とする画像処理装置。
] 前記制御手段は、前記相違度最小座標算出手段によって算出された相違度最小座標を、レイヤ値を減少させ、該減少させたレイヤ値を用いて量子化する
ことを特徴とする[1]に記載の画像処理装置。
] 前記相違度最小座標算出手段は、グリッドの中心の相違度が最小となるグリッドにおいて相違度最小座標を算出する
ことを特徴とする[1]又は[2]のいずれか一項に記載の画像処理装置。
] 前記制御手段は、前記相違度最小座標算出手段によってグリッドの中心の相違度が最小となるグリッドを決定するために該グリッドを含みレイヤ値の2倍を辺の長さとする矩形領域であるレイヤ内で探索を行う
ことを特徴とする[3]に記載の画像処理装置。
] 前記制御手段が行うレイヤ内でのグリッドの探索は、レイヤ値の画素分だけ離れた画素の相違度のなかで、中心の画素の相違度が最小となる場合に終了する
ことを特徴とする[4]に記載の画像処理装置。
] 前記制御手段が行うレイヤ内でのグリッドの探索は、レイヤ値の画素分だけ離れた画素の相違度のなかで、中心の画素の相違度が最小でない場合、相違度が最小の座標を中心にレイヤ値の画素分だけ離れた画素であって、相違度を未算出である該レイヤ外にある画素の相違度を算出する
ことを特徴とする[4]に記載の画像処理装置。
] 前記制御手段は、前記相違度最小座標算出手段によって算出された相違度最小座標の位相で補間画像を生成し、
前記相違度最小座標算出手段は、前記制御手段によって生成された該補間画像と相違度最小座標からレイヤ値を減少させ、該減少させたレイヤ値でのグリッドの相違度を算出し、該レイヤの相違度最小座標を算出する
ことを特徴とする[1]に記載の画像処理装置。
] 画像処理システムを、
2枚の画像を入力する画像入力手段と、
前記画像入力手段によって入力された画像を対象として、レイヤ値に基づくグリッドの相違度から相違度最小座標を算出する相違度最小座標算出手段と、
レイヤ値が所望のレイヤ値であれば、前記相違度最小座標算出手段によって算出した相違度最小座標を出力させ、レイヤ値が所望のレイヤ値でなければ、任意の数に減らしたレイヤ値のグリッドから相違度最小座標を前記相違度最小座標算出手段に算出させる制御手段
として機能させ、
前記レイヤ値は、前記画像内でグリッドとして抽出する画素間の幅をいい、
前記グリッドは、レイヤ値の画素分だけ互いに離れた画素とし、
前記相違度最小座標算出手段は、次の(1)、(2)又は(3)のいずれかによって、グリッドの相違度から相違点最小座標を算出する
(1)複数画素における相違度を通る曲線において、該曲線の相違度を最小化する画素の座標を相違点最小座標とする
(2)横線上で相違度を最小化する画素の座標を通る直線と縦線上で相違度を最小化する画素の座標を通る直線との交点を相違点最小座標とする
(3)グリッドの相違度を用いて形成される曲面を推定し、該曲面が示す相違度が最小となる座標を相違点最小座標とする
ことを特徴とする画像処理プログラム。
本発明にかかる画像処理装置及び画像処理プログラムによれば、本構成を有していない場合に比較して、より少ない階層数で位置合わせを行うことで、処理負荷を減少させてサブ画素での位置合わせをすることができる。
<実施の形態における背景技術>
まず、実施の形態の理解を容易にするために、実施の形態における背景技術及びその背景技術を実現した場合の状況について説明する。
前述した特許文献1には、整数位置3点の相違度を用いて、3点を通る2次曲線を引いて、その2次曲線を最小化する位置を求める手法が記載されている。
つまり、サブ画素の精度で2画像間の位置合わせを行う方式として、画像間の位置と相違度の関係が下に凸の2次曲線となる性質(図18(B)参照)を利用し、この凸となる相違度最小座標を求めるために、周辺の相違度から近似的に推測して求める方式が提案されている。
しかし、凸となる相違度が最小となる周辺を特定するためには、画像間をずらしながら1画素単位に相違度を算出し、その相違度が最小となる位置を特定する必要がある。相違度は画像間の最小自乗誤差、絶対誤差、相関係数、などがあるが、ある位置での相違度を算出するために2画像についてラスタスキャンを行う必要がある。すなわち、全画素の走査順での相違度の算出が必要となる。
仮に、512画素×512画素の2画像の位置合わせを行う場合(図18(A)参照)、重なりが1画素から1画素単位にずらして相違度を算出するとなると、(511+512+511)×(511+512+511)=2,353,156回の膨大な2画像の画素間の計算が必要(図18(C)参照)となり、実用的ではない状況である。
また、特許文献2には、X軸に水平な複数の直線上で相違度が最小となる点を結ぶ直線を求め、Y軸に水平な複数の直線上で相違度が最小となる点を結ぶ直線を求め、2つの直線の交点を推定値とし、そのために25個の相違度値が必要となることが記載されている。
つまり、2画像間のサブ画素精度での位置合わせを高速に行うために、相違度計算の回数を簡略化する目的から階層的に行う方式が提案されている。
この方式では、ある階層で3×3の9画素で最小相違度の画素を中心に次の階層でより狭い範囲の最小相違度座標を求めていく。
したがって、あらかじめ決められたグリッド上でのみ相違度を算出するため、高精度にするためには階層数が多数になる。またサブ画素の階層では階層毎に補間画像を生成する。
仮に、0.1画素以下の精度で位置を合わせる場合、もれなく探索するためには0.5画素ステップで階層的に絞り込む必要がある。このため4画素から始めた場合、4画素から0.0625画素までの7段階の階層が必要となる(図19参照)。この間、9回+6段階×8回=57回の相違度の算出と3回の補間画像の生成処理が必要となり、処理時間は、依然として実用的ではない状況である。なお、図19は、階層の状況を示しており、白の四角が4画素の段階の階層であり、以下、白三角が2画素、黒丸が1画素、黒四角が0.5画素、黒三角が0.125画素、白丸が0.0625画素(なお、0.25画素は省略)を表している。
<基本アーキテクチャ>
2画像間の相違度(縦軸方向)と画像間の位置(横軸方向)をグラフにとると、下に凸となるグラフとなる(例えば、図18(B)参照、2次元になった場合は2次局面のグラフとなる)。この性質を利用し、図1(A)に示すS0からS8のように9点の相違度を通る2次曲面を推定し、相違度の最小座標を求めることができる。
この方式の9点をn画素幅で算出することで、精度が悪くても相違度最小座標の荒振るいをすることが可能となる。ここで、nはレイヤ値である。したがって、グリッドはレイヤ値だけ互いに離れた3×3の9画素となる。
求められた相違度最小座標に基づいて、さらにn−m画素幅の9点で相違度最小座標を算出することでさらに精度が高い座標が得られる(図1(B)参照)。
これらn,mは画像にあわせて最適な値を算出し、繰り返し数を設定することで、高い精度を維持しながら処理時間を低減することができる。
以下、相違度最小座標を求めるための座標をグリッドという。つまり、図1(A)に示した相違度最小座標を求めるS0〜S8の9座標がグリッドとなる。通常はグリッドの座標間を1画素とすることで、サブ画素の精度で相違度最小座標を算出する。またこのnをレイヤと呼ぶ。
<第1の実施の形態>
以下、図面に基づき本発明を実現するにあたっての好適な各種の実施の形態を説明する。
図2は、第1の実施の形態の概念的なモジュール構成図を示している。
なお、モジュールとは、一般的に論理的に分離可能なソフトウェア、ハードウェア等の部品を指す。したがって、本実施の形態におけるモジュールはプログラムにおけるモジュールのことだけでなく、ハードウェア構成におけるモジュールも指す。それゆえ、本実施の形態は、プログラム、システム及び方法の説明をも兼ねている。また、モジュールは機能にほぼ一対一に対応しているが、実装においては、1モジュールを1プログラムで構成してもよいし、複数モジュールを1プログラムで構成してもよく、逆に1モジュールを複数プログラムで構成してもよい。また、複数モジュールは1コンピュータによって実行されてもよいし、分散又は並列環境におけるコンピュータによって1モジュールが複数コンピュータで実行されてもよい。なお、1つのモジュールに他のモジュールが含まれていてもよい。また、以下、「接続」とは物理的な接続の他、論理的な接続(データの授受、指示等)を含む。
また、システムとは、複数のコンピュータ、ハードウェア、装置等がネットワーク等の通信手段で接続されて構成されるほか、1つのコンピュータ、ハードウェア、装置等によって実現される場合も含まれる。
第1の実施の形態は、レイヤ値の決定モジュール21、レイヤのグリッドの相違度算出モジュール22、相違度最小座標算出モジュール23、量子化モジュール24を有している。
レイヤ値の決定モジュール21は、図2に示すように、レイヤのグリッドの相違度算出モジュール22、量子化モジュール24と接続されており、あらかじめレイヤ情報としてのレイヤの初期値(n)と推移値(m)を決定する。それらをレイヤのグリッドの相違度算出モジュール22、量子化モジュール24へ渡す。ただし、レイヤ情報の値は固定的な値としてもよいし、動的で可変的な値としてもよい。
レイヤのグリッドの相違度算出モジュール22は、図2に示すように、レイヤ値の決定モジュール21、量子化モジュール24、相違度最小座標算出モジュール23と接続されており、2枚の画像を入力し、レイヤ値の決定モジュール21からレイヤ情報を受け取り、このレイヤ値及び画像データに基づいてレイヤのグリッドの相違度を算出する。その算出した相違度を相違度最小座標算出モジュール23へ渡す。なお、画像を入力するとは、具体的には、スキャナによって画像を入力すること、ファックスによって通信回線を介して外部機器から画像を入力すること、記憶媒体から画像を入力すること等がある。
相違度最小座標算出モジュール23は、図2に示すように、レイヤのグリッドの相違度算出モジュール22、量子化モジュール24と接続されており、レイヤのグリッドの相違度算出モジュール22によって算出されたグリッドの相違度に基づいてそのレイヤの相違度最小座標を算出する。そして、相違度最小座標を量子化モジュール24へ渡す。又は、量子化モジュール24による制御によって、相違度最小座標を画像合成する処理部へ渡す。相違度最小座標算出モジュール23による処理については、図5、図6、図7を用いて後述する。
量子化モジュール24は、図2に示すように、レイヤ値の決定モジュール21、レイヤのグリッドの相違度算出モジュール22、相違度最小座標算出モジュール23と接続されており、レイヤ値の決定モジュール21からレイヤ情報、相違度最小座標算出モジュール23によって算出された相違度最小座標を受け取り、座標値の量子化値をレイヤのグリッドの相違度算出モジュール22へ渡す。つまり、レイヤが目標レイヤ(例えば、レイヤ=1)でなければ、相違度最小座標算出モジュール23によって算出された相違度最小座標値を次のレイヤで量子化を行い、再びそのレイヤのグリッドの相違度を算出するレイヤのグリッドの相違度算出モジュール22へフォールバックする。目標レイヤで相違度最小座標値が算出されたら、その値を出力する。量子化モジュール24による処理については、図4を用いて後述する。
図3に示すフローチャートを用いて、第1の実施の形態による処理、働き(動作)を説明する。
ステップS302では、レイヤ値の決定モジュール21がレイヤ値(n)を決定する。つまり、変数nにレイヤ値を代入する。
ステップS304では、レイヤのグリッドの相違度算出モジュール22が、ステップS302又はステップS310で決定されたレイヤ(n)のグリッドを決定する。
ステップS306では、相違度最小座標算出モジュール23が、ステップS304で決定されたレイヤ(n)の相違度最小座標を算出する。
ステップS308では、量子化モジュール24が目標としているレイヤであるか否かを判断する。かかる判断において、目標レイヤとなっている場合はステップS314の処理へ進み、目標レイヤとはなっていない場合はステップS310の処理へ進み、ステップS304、ステップS306の処理を繰り返す。
ステップS310では、量子化モジュール24が次のレイヤを決定する。つまり、現在のレイヤ(n)から推移値(m、又はレイヤ値変更値)を減算し、次のレイヤ(n)とする。より具体的には、変数nに現在のレイヤ(n)−推移値(m)を代入する。
ステップS312では、量子化モジュール24がステップS310で決定されたレイヤ(n)で、相違度最小座標を量子化する。そして、ステップS304の処理へ戻る。
ステップS314では、目標レイヤに達しているので、量子化モジュール24は相違度最小座標算出モジュール23によって算出された相違度最小座標を、画像を合成等する処理部へ送出する。
図4を用いて、量子化モジュール24等による相違度最小座標の量子化処理についてより詳細に説明する。
例えば、レイヤn=3において算出された相違度最小座標を、レイヤn=1で量子化する手順を以下に説明する。推移値m=2とする。
レイヤn=3で求められたグリッド(図4に示す白丸)の9点の相違度を用いて算出した相違度最小座標(図4に示す黒丸)に対して、最も近いレイヤn=1のグリッド(図4に示す黒三角)を算出し、これを量子化座標としてレイヤのグリッドの相違度算出モジュール22へ送出する。
その後、次の処理によって、量子化された相違度最小座標(図4に示す黒三角)を中心にレイヤn=1の9点のグリッド(図4に示す白三角)の相違度に基づいて、相違度最小座標を算出する。
相違度最小座標算出モジュール23による処理である相違度が最小となる座標を算出する方法は、次に示すようないくつかの手法がある。
(1)手法1(特許文献1に記載されている技術)
図5に示すように整数位置の3点の値がわかっているとき、その3点を通る2次曲線を引いて、その2次曲線を最小化する位置(最適値)を求めるものである。
(2)手法2(特許文献2に記載されている技術)
ある横線上で相違度を最小化するxの値を求める。そして、複数の横線上でこのようなxの値を求める。この点(図6の白丸)を通る直線を引く。
さらに、ある縦線上で相違度を最小化するyの値を求める。そして、複数の縦線上でこのようなyの値を求める。この点(図6の黒丸)を通る直線を引く。
このように求めた2つの直線の交点を求める最適値とするものである。
(3)手法3
相違度が最小となる座標を求めるためのグリッドの9点をおおよそ通る2次曲面を推定し(図7の破線で示すのが推定2次曲面)、この曲面が最小となる(x,y)の値を求める。つまり、入力された画像を整数グリッド上で変換し、相違度を求める関数を近似する2次曲面の係数を算出し、算出された係数のサブ量子化精度での推定を行うものである。そして、近似の場合に各整数グリッド位置に関する重み付けを行い、その重み付けは、各整数グリッドを中心とするボロノイ分割領域の面積又は超体積であるようにしてもよい。
<第2の実施の形態>
図8〜図13を用いて、第2の実施の形態を説明する。
図9に示すようにS0からS8(S0は9点の中心に位置する)のグリッドのなかでS0が最小となるグリッドを最小グリッドと呼ぶ。この最小グリッドの相違度を用いて相違度最小座標を算出することは内挿になることから、より精度が高くなる。第2の実施の形態は、最小グリッドを求め、この最小グリッドを用いることでより精度が高くなる。
第2の実施の形態は、レイヤ値の決定モジュール81、レイヤの最小グリッドの相違度算出モジュール82、相違度最小座標算出モジュール83、量子化モジュール84を有している。
レイヤ値の決定モジュール81は、図8に示すように、レイヤの最小グリッドの相違度算出モジュール82、量子化モジュール84と接続されており、第1の実施の形態のレイヤ値の決定モジュール21と同様である。
レイヤの最小グリッドの相違度算出モジュール82は、図8に示すように、レイヤ値の決定モジュール81、量子化モジュール84、相違度最小座標算出モジュール83と接続されており、2枚の画像を入力し、レイヤ値の決定モジュール81からレイヤ情報を受け取り、このレイヤ値及び画像データに基づいてレイヤの最小グリッドが決定され、その最小グリッドの相違度を算出する。その算出した相違度を相違度最小座標算出モジュール83へ渡す。
相違度最小座標算出モジュール83は、図8に示すように、レイヤの最小グリッドの相違度算出モジュール82、量子化モジュール84と接続されており、第1の実施の形態の相違度最小座標算出モジュール23と同様である。ただし、レイヤの最小グリッドの相違度算出モジュール82によって算出された最小グリッドの相違度に基づいて相違度最小座標を算出する。
量子化モジュール84は、図8に示すように、レイヤ値の決定モジュール81、レイヤの最小グリッドの相違度算出モジュール82、相違度最小座標算出モジュール83と接続されており、第1の実施の形態の量子化モジュール24と同様である。ただし、対象となるグリッドは最小グリッドである。量子化モジュール84による処理については、図11を用いて後述する。
図10に示すフローチャートを用いて、第2の実施の形態による処理、働き(動作)を説明する。
ステップS1002では、レイヤ値の決定モジュール81がレイヤ値(n)を決定する。つまり、変数nにレイヤ値を代入する。
ステップS1004では、レイヤの最小グリッドの相違度算出モジュール82が、ステップS1002又はステップS1010で決定されたレイヤ(n)のグリッドから最小グリッドを探索し決定する。最小グリッドの探索については、図12,図13を用いて後述する。
ステップS1006では、相違度最小座標算出モジュール83が、ステップS1004で決定されたレイヤ(n)の相違度最小座標を算出する。
ステップS1008では、量子化モジュール84が目標としているレイヤであるか否かを判断する。かかる判断において、目標レイヤとなっている場合はステップS1014の処理へ進み、目標レイヤとはなっていない場合はステップS1010の処理へ進み、ステップS1004、ステップS1006の処理を繰り返す。
ステップS1010では、量子化モジュール84が次のレイヤを決定する。つまり、現在のレイヤ(n)から推移値(m)を減算し、次のレイヤ(n)とする。より具体的には、変数nに現在のレイヤ(n)−推移値(m)を代入する。
ステップS1012では、量子化モジュール84がステップS1010で決定されたレイヤ(n)で、相違度最小座標を量子化する。そして、ステップS1004の処理へ戻る。
ステップS1014では、目標レイヤに達しているので、量子化モジュール84は相違度最小座標算出モジュール83によって算出された相違度最小座標を、画像を合成等する処理部へ送出する。
図11を用いて、量子化モジュール84等による相違度最小座標の量子化処理についてより詳細に説明する。
例えば、レイヤn=3において算出された相違度最小座標を、レイヤn=1で量子化する手順を以下に説明する。推移値m=2とする。
レイヤn=3で求められた最小グリッド(図11に示す白丸)の9点の相違度を用いて算出した相違度最小座標(図11に示す黒丸)に対して、最も近いレイヤn=1のグリッド(図11に示す黒三角)を算出し、これを量子化座標としてレイヤの最小グリッドの相違度算出モジュール82へ送出する。
その後、次の処理によって、量子化された相違度最小座標(図11に示す黒三角)を中心にレイヤn=1の9点のグリッド(図11に示す白三角)が最小グリッドかどうかの判定を行う。そして、相違度最小座標を算出する。
あるレイヤにおける相違度の最小グリッドの探索手順について、図12に示すフローチャート、図13を用いて、より詳細に説明する。
ステップS1202では、レイヤの最小グリッドの相違度算出モジュール82が、初期のグリッドについての相違度を算出する。
以下、注目する9点のグリッドが図13に示す3つのケースのいずれであるかによって処理を異ならせる。
ステップS1204では、注目する9点のグリッドがケース1であるか否かを判断する。ケース1である場合は終了し(ステップS1212)、ケース1でない場合はステップS1206の処理へ進む。つまり、注目する9点のグリッド(最初は初期のグリッド)の相違度のなかで最も小さい値が9点の中心だった場合(図13(A)に示すケース1の灰色の丸)は、この9点のグリッドが最小グリッドになるため、終了する。つまり、レイヤ値の画素分だけ離れた画素の相違度のなかで、中心の画素の相違度が最小となる場合に終了する。
ステップS1206では、注目する9点のグリッドがケース2であるか否かを判断する。ケース2である場合はステップS1210の処理へ進み、ケース2でない場合はステップS1208の処理へ進む。つまり、ケース1でない場合、9点のグリッドのなかで中心の4近傍(図13(B)に示すケース2の灰色の丸)のうちの1点のグリッドの相違度が最小(例えば、図13(B)に示すケース2の太線の灰色の丸)であるか否か(ケース2であるか否か)を判断する。
ステップS1210では、ステップS1206でケース2であると判断されたので、そのケース2の相違度最小座標の外側を探索する。相違度最小の座標を中心にレイヤ値の画素分だけ離れた画素の相違度で未算出の相違度を算出する。つまり、この相違度最小座標を中心にした9点の相違度のうち、ステップS1202では算出されていないグリッド(図13(B)に示すケース2の3つの黒丸)の相違度を算出する。そして、ステップS1204の処理へ戻る。
ステップS1208では(ケース1でも2でもない場合)、ケース3の相違度最小座標の外側を探索する。相違度最小の座標を中心にレイヤ値の画素分だけ離れた画素の相違度で未算出の相違度を算出する。つまり、9点のグリッドのなかで中心に対して斜めの位置(図13(C)に示すケース3の灰色の丸)の1つが相違度最小だった場合(例えば、図13(C)に示すケース3の太線の灰色の丸)は、この相違度最小座標を中心にした9点の相違度のうち、ステップS1202では算出されていないグリッド(図13(C)に示すケース3の5つの黒丸)の相違度を算出する。そして、ステップS1204の処理へ戻る。
<第3の実施の形態>
図14〜図16を用いて、第3の実施の形態を説明する。
前述の実施の形態と異なるところは、次のレイヤで相違度最小座標の量子化を行わず、算出された相違度算出座標の位相で補間画像を生成して、その次のレイヤの相違度最小座標を求める点である。第3の実施の形態は、対象によるが他の実施の形態よりも処理負荷が少なくなる場合がある。
第3の実施の形態は、レイヤ値の決定モジュール141、レイヤのグリッドの相違度算出モジュール142、相違度最小座標算出モジュール143、補間画像作成モジュール144を有している。
レイヤ値の決定モジュール141は、図14に示すように、レイヤのグリッドの相違度算出モジュール142、補間画像作成モジュール144と接続されており、第1の実施の形態のレイヤ値の決定モジュール21と同様である。
レイヤのグリッドの相違度算出モジュール142は、図14に示すように、レイヤ値の決定モジュール141、補間画像作成モジュール144、相違度最小座標算出モジュール143と接続されており、第1の実施の形態のレイヤのグリッドの相違度算出モジュール22又は第2の実施の形態のレイヤの最小グリッドの相違度算出モジュール82と同様である。
相違度最小座標算出モジュール143は、図14に示すように、レイヤのグリッドの相違度算出モジュール142、補間画像作成モジュール144と接続されており、第1の実施の形態の相違度最小座標算出モジュール23と同様である。
補間画像作成モジュール144は、図14に示すように、レイヤ値の決定モジュール141、レイヤのグリッドの相違度算出モジュール142、相違度最小座標算出モジュール143と接続されており、相違度最小座標算出モジュール143によって算出された相違度最小座標を受け取り、座標値及び補間画像をレイヤのグリッドの相違度算出モジュール142へ渡す。つまり、レイヤが目標レイヤ(例えば、レイヤ=1)でなければ、相違度最小座標算出モジュール143によって算出された相違度最小座標値の位相に基づいて補間画像を生成し、相違度最小座標及び補間画像に基づいてレイヤのグリッドの相違度を算出するレイヤのグリッドの相違度算出モジュール142へフォールバックする。目標レイヤで相違度最小座標値が算出されたら、その値を出力する。補間画像作成モジュール144による補間画像の生成処理については、図16を用いて後述する。
図15に示すフローチャートを用いて、第3の実施の形態による処理、働き(動作)を説明する。
ステップS1502では、レイヤ値の決定モジュール141がレイヤ値(n)を決定する。つまり、変数nにレイヤ値を代入する。
ステップS1504では、レイヤのグリッドの相違度算出モジュール142が、ステップS1502又はステップS1510で決定されたレイヤ(n)のグリッドを決定する。
ステップS1506では、相違度最小座標算出モジュール143が、ステップS1504で決定されたレイヤ(n)の相違度最小座標を算出する。
ステップS1508では、補間画像作成モジュール144が目標としているレイヤであるか否かを判断する。かかる判断において、目標レイヤとなっている場合はステップS1514の処理へ進み、目標レイヤとはなっていない場合はステップS1510の処理へ進み、ステップS1504、ステップS1506の処理を繰り返す。
ステップS1510では、補間画像作成モジュール144が次のレイヤを決定する。つまり、現在のレイヤ(n)から推移値(m)を減算し、次のレイヤ(n)とする。より具体的には、変数nに現在のレイヤ(n)−推移値(m)を代入する。
ステップS1512では、補間画像作成モジュール144がステップS1510で決定されたレイヤ(n)で、相違度最小座標の位相で補間画像を生成する。そして、ステップS1504の処理へ戻る。
ステップS1514では、目標レイヤに達しているので、補間画像作成モジュール144は相違度最小座標算出モジュール143によって算出された相違度最小座標を、画像を合成等する処理部へ送出する。
図16を用いて、相違度最小座標の位相による補間画像の生成処理について説明する。
例えば、レイヤn=3における相違度最小座標の位相から補間画像を生成し、レイヤn=1のグリッドの相違度を算出する手順を以下に説明する。推移値m=2とする。
レイヤn=3で求められたグリッド(図16に示す白丸)の9点の相違度を用いて算出した相違度最小座標(図16に示す黒丸)に対して、この座標値を位相とする補間画像を生成する(図16の細い点線による格子を参照)。
その後、次の処理によって、レイヤn=1のグリッド(図16に示す三角)を用いて、このグリッドの相違度を算出する。
<実施の形態の具現>
以上の実施の形態によって、サブ画素単位の精度を維持したまま、高速に2画像間の位置合わせが可能となる。
例えば、512画素×512画素の2画像の位置合わせを行う場合、背景技術では2,353,156回の画素間の計算が必要だったが、例えばn=255、m=254(次のnを1、つまり2階層の例である)とすると画素間の計算は9点×2階層=18回となり、130,730倍の高速化が望めることになる。
実際は、nの初期値が大きいと次の階層の相違度最小座標の精度が落ち、最小グリッドの探索処理が増えることになる。このため、より精度を高めるために、n=4、m=3としても1階層目128×128点=16,384回(実際には探索処理が最小グリッドまで最短に到達するためもっと少ない)と、2階層目の9回との合計16,393回となり143倍以上の高速化となる。
また背景技術に示した階層化の方式と比較しても0.1画素の精度とすると、n=4から始めたとして、階層化方式は9回+6段階×8回=57回の算出及び3回の補間画像の生成が必要となり、特に補間画像の生成に処理時間がとられる。本実施の形態ではn=4,m=3として9回+9回=18回の算出のみで終わることになる。
また、前記のようにレイヤを制御することで、トレードオフとなる位置精度と処理時間のなかで最適な制御を行うことができるようになる。
また、以上の実施の形態において、画像の中心を初期のグリッドとして決定するようにしてもよい。また、画像内の最も画素値が多い画素の重心を初期のグリッドとして決定するようにしてもよい。このようにすることによって、階層を減らして、より早く収束させることができるようになる。
<ハードウェア構成例等>
図17を参照して、前述した実施の形態のハードウェア構成例について説明する。図17に示す構成は、例えばパーソナルコンピュータ(PC)などによって構成されるものであり、スキャナ等のデータ読み取り部1717と、プリンタなどのデータ出力部1718を備えたハードウェア構成例を示している。
CPU(Central Processing Unit)1701は、前述の実施の形態において説明した各種のモジュール、すなわち、レイヤのグリッドの相違度算出モジュール22、相違度最小座標算出モジュール23、量子化モジュール24等の各モジュールの実行シーケンスを記述したコンピュータ・プログラムにしたがって処理を実行する制御部である。
ROM(Read Only Memory)1702は、CPU1701が使用するプログラムや演算パラメータ等を格納する。RAM(Random Access Memory)1703は、CPU1701の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を格納する。これらはCPUバスなどから構成されるホストバス1704により相互に接続されている。
ホストバス1704は、ブリッジ1705を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス1706に接続されている。
キーボード1708、マウス等のポインティングデバイス1709は、操作者により操作される入力デバイスである。ディスプレイ1710は、液晶表示装置又はCRT(Cathode Ray Tube)などからなり、各種情報をテキストやイメージ情報として表示する。
HDD(Hard Disk Drive)1711は、ハードディスクを内蔵し、ハードディスクを駆動し、CPU1701によって実行するプログラムや情報を記録又は再生させる。ハードディスクは、入力された画像や合成された画像などが格納される。さらに、その他の各種のデータ処理プログラム等、各種コンピュータ・プログラムが格納される。
ドライブ1712は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体1713に記録されているデータ又はプログラムを読み出して、そのデータ又はプログラムを、インタフェース1707、外部バス1706、ブリッジ1705、及びホストバス1704を介して接続されているRAM1703に供給する。リムーバブル記録媒体1713も、ハードディスクと同様のデータ記録領域として利用可能である。
接続ポート1714は、外部接続機器1715を接続するポートであり、USB、IEEE1394等の接続部を持つ。接続ポート1714は、インタフェース1707、及び外部バス1706、ブリッジ1705、ホストバス1704等を介してCPU1701等に接続されている。通信部1716は、ネットワークに接続され、外部とのデータ通信処理を実行する。データ読み取り部1717は、例えばスキャナであり、ドキュメントの読み取り処理を実行する。データ出力部1718は、例えばプリンタであり、ドキュメントデータの出力処理を実行する。
なお、図17に示すハードウェア構成は、1つの構成例を示すものであり、本実施の形態は、図17に示す構成に限らず、本実施の形態において説明したモジュールを実行可能な構成であればよい。例えば、一部のモジュールを専用のハードウェア(例えば特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)等)で構成してもよく、一部のモジュールは外部のシステム内にあり通信回線で接続しているような形態でもよく、さらに図17に示すシステムが複数互いに通信回線によって接続されていて互いに協調動作するようにしてもよい。また、複写機、ファックス、スキャナ、プリンタ、複合機(多機能複写機とも呼ばれ、スキャナ、プリンタ、複写機、ファックス等の機能を有している)などに組み込まれていてもよい。
なお、説明したプログラムについては、記録媒体に格納して提供してもよく、また、そのプログラムを通信手段によって提供してもよい。その場合、例えば、前記説明したプログラムについて、「プログラムを記録したコンピュータ読み取り可能な記録媒体」の発明として捉えてもよい。
「プログラムを記録したコンピュータ読み取り可能な記録媒体」とは、プログラムのインストール、実行、プログラムの流通などのために用いられる、プログラムが記録されたコンピュータで読み取り可能な記録媒体をいう。
なお、記録媒体としては、例えば、デジタル・バーサタイル・ディスク(DVD)であって、DVDフォーラムで策定された規格である「DVD−R、DVD−RW、DVD−RAM等」、DVD+RWで策定された規格である「DVD+R、DVD+RW等」、コンパクトディスク(CD)であって、読出し専用メモリ(CD−ROM)、CDレコーダブル(CD−R)、CDリライタブル(CD−RW)等、光磁気ディスク(MO)、フレキシブルディスク(FD)、磁気テープ、ハードディスク、読出し専用メモリ(ROM)、電気的消去及び書換可能な読出し専用メモリ(EEPROM)、フラッシュ・メモリ、ランダム・アクセス・メモリ(RAM)等が含まれる。
そして、前記のプログラム又はその一部は、前記記録媒体に記録して保存や流通等させてもよい。また、通信によって、例えば、ローカル・エリア・ネットワーク(LAN)、メトロポリタン・エリア・ネットワーク(MAN)、ワイド・エリア・ネットワーク(WAN)、インターネット、イントラネット、エクストラネット等に用いられる有線ネットワーク、あるいは無線通信ネットワーク、さらにこれらの組合せ等の伝送媒体を用いて伝送させてもよく、また、搬送波に乗せて搬送させてもよい。
さらに、前記のプログラムは、他のプログラムの一部分であってもよく、あるいは別個のプログラムと共に記録媒体に記録されていてもよい。また、複数の記録媒体に分割して
記録されていてもよい。また、圧縮や暗号化など、復元可能であればどのような態様で記録されていてもよい。
本実施の形態の概念的な説明図である。 第1の実施の形態の構成例についての概念的なモジュール構成図である。 第1の実施の形態による処理例を示すフローチャートである。 第1の実施の形態による相違度最小座標の量子化についての概念的な説明図である。 相違度最小座標を算出する手法の1つを示す説明図である。 相違度最小座標を算出する手法の1つを示す説明図である。 相違度最小座標を算出する手法の1つを示す説明図である。 第2の実施の形態の構成例についての概念的なモジュール構成図である。 グリッドの一例を示す説明図である。 第2の実施の形態による処理例を示すフローチャートである。 第2の実施の形態による相違度最小座標の量子化についての概念的な説明図である。 第2の実施の形態による最小グリッドを探索する処理例を示すフローチャートである。 最小グリッドを探索する処理例の説明図である。 第3の実施の形態の構成例についての概念的なモジュール構成図である。 第3の実施の形態による処理例を示すフローチャートである。 第3の実施の形態による相違度最小座標の量子化についての概念的な説明図である。 実施の形態を実現するコンピュータのハードウェア構成例を示すブロック図である。 背景技術を示す説明図である。 背景技術を示す説明図である。
符号の説明
21…レイヤ値の決定モジュール
22…レイヤのグリッドの相違度算出モジュール
23…相違度最小座標算出モジュール
24…量子化モジュール
81…レイヤ値の決定モジュール
82…レイヤの最小グリッドの相違度算出モジュール
83…相違度最小座標算出モジュール
84…量子化モジュール
141…レイヤ値の決定モジュール
142…レイヤのグリッドの相違度算出モジュール
143…相違度最小座標算出モジュール
144…補間画像作成モジュール

Claims (8)

  1. 2枚の画像を入力する画像入力手段と、
    前記画像入力手段によって入力された画像を対象として、レイヤ値に基づくグリッドの相違度から相違度最小座標を算出する相違度最小座標算出手段と、
    レイヤ値が所望のレイヤ値であれば、前記相違度最小座標算出手段によって算出した相違度最小座標を出力させ、レイヤ値が所望のレイヤ値でなければ、任意の数に減らしたレイヤ値のグリッドから相違度最小座標を前記相違度最小座標算出手段に算出させる制御手段
    を具備し、
    前記レイヤ値は、前記画像内でグリッドとして抽出する画素間の幅をいい、
    前記グリッドは、レイヤ値の画素分だけ互いに離れた画素とし、
    前記相違度最小座標算出手段は、次の(1)、(2)又は(3)のいずれかによって、グリッドの相違度から相違点最小座標を算出する
    (1)複数画素における相違度を通る曲線において、該曲線の相違度を最小化する画素の座標を相違点最小座標とする
    (2)横線上で相違度を最小化する画素の座標を通る直線と縦線上で相違度を最小化する画素の座標を通る直線との交点を相違点最小座標とする
    (3)グリッドの相違度を用いて形成される曲面を推定し、該曲面が示す相違度が最小となる座標を相違点最小座標とする
    ことを特徴とする画像処理装置。
  2. 前記制御手段は、前記相違度最小座標算出手段によって算出された相違度最小座標を、レイヤ値を減少させ、該減少させたレイヤ値を用いて量子化する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記相違度最小座標算出手段は、グリッドの中心の相違度が最小となるグリッドにおいて相違度最小座標を算出する
    ことを特徴とする請求項1又は2のいずれか一項に記載の画像処理装置。
  4. 前記制御手段は、前記相違度最小座標算出手段によってグリッドの中心の相違度が最小となるグリッドを決定するために該グリッドを含みレイヤ値の2倍を辺の長さとする矩形領域であるレイヤ内で探索を行う
    ことを特徴とする請求項に記載の画像処理装置。
  5. 前記制御手段が行うレイヤ内でのグリッドの探索は、レイヤ値の画素分だけ離れた画素の相違度のなかで、中心の画素の相違度が最小となる場合に終了する
    ことを特徴とする請求項に記載の画像処理装置。
  6. 前記制御手段が行うレイヤ内でのグリッドの探索は、レイヤ値の画素分だけ離れた画素の相違度のなかで、中心の画素の相違度が最小でない場合、相違度が最小の座標を中心にレイヤ値の画素分だけ離れた画素であって、相違度を未算出である該レイヤ外にある画素の相違度を算出する
    ことを特徴とする請求項に記載の画像処理装置。
  7. 前記制御手段は、前記相違度最小座標算出手段によって算出された相違度最小座標の位相で補間画像を生成し、
    前記相違度最小座標算出手段は、前記制御手段によって生成された該補間画像と相違度最小座標からレイヤ値を減少させ、該減少させたレイヤ値でのグリッドの相違度を算出し、該レイヤの相違度最小座標を算出する
    ことを特徴とする請求項1に記載の画像処理装置。
  8. 画像処理システムを、
    2枚の画像を入力する画像入力手段と、
    前記画像入力手段によって入力された画像を対象として、レイヤ値に基づくグリッドの相違度から相違度最小座標を算出する相違度最小座標算出手段と、
    レイヤ値が所望のレイヤ値であれば、前記相違度最小座標算出手段によって算出した相違度最小座標を出力させ、レイヤ値が所望のレイヤ値でなければ、任意の数に減らしたレイヤ値のグリッドから相違度最小座標を前記相違度最小座標算出手段に算出させる制御手段
    として機能させ、
    前記レイヤ値は、前記画像内でグリッドとして抽出する画素間の幅をいい、
    前記グリッドは、レイヤ値の画素分だけ互いに離れた画素とし、
    前記相違度最小座標算出手段は、次の(1)、(2)又は(3)のいずれかによって、グリッドの相違度から相違点最小座標を算出する
    (1)複数画素における相違度を通る曲線において、該曲線の相違度を最小化する画素の座標を相違点最小座標とする
    (2)横線上で相違度を最小化する画素の座標を通る直線と縦線上で相違度を最小化する画素の座標を通る直線との交点を相違点最小座標とする
    (3)グリッドの相違度を用いて形成される曲面を推定し、該曲面が示す相違度が最小となる座標を相違点最小座標とする
    ことを特徴とする画像処理プログラム。
JP2007049310A 2007-02-28 2007-02-28 画像処理装置及び画像処理プログラム Expired - Fee Related JP4821653B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007049310A JP4821653B2 (ja) 2007-02-28 2007-02-28 画像処理装置及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007049310A JP4821653B2 (ja) 2007-02-28 2007-02-28 画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2008217053A JP2008217053A (ja) 2008-09-18
JP4821653B2 true JP4821653B2 (ja) 2011-11-24

Family

ID=39837074

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007049310A Expired - Fee Related JP4821653B2 (ja) 2007-02-28 2007-02-28 画像処理装置及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP4821653B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180103881A (ko) * 2016-01-16 2018-09-19 핑안 테크놀로지 (션젼) 컴퍼니 리미티드 테스트 방법, 시스템, 기기 및 판독 가능 저장매체

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5771500B2 (ja) * 2011-10-12 2015-09-02 日本電信電話株式会社 類似画像領域検出方法、装置及びプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3448868B2 (ja) * 1993-07-31 2003-09-22 ソニー株式会社 画像一致検出装置及び画像一致検出方法
JP2006293602A (ja) * 2005-04-08 2006-10-26 Konica Minolta Photo Imaging Inc 画像処理方法及び画像処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180103881A (ko) * 2016-01-16 2018-09-19 핑안 테크놀로지 (션젼) 컴퍼니 리미티드 테스트 방법, 시스템, 기기 및 판독 가능 저장매체
KR102167879B1 (ko) 2016-01-16 2020-10-21 핑안 테크놀로지 (션젼) 컴퍼니 리미티드 테스트 방법, 시스템, 기기 및 판독 가능 저장매체

Also Published As

Publication number Publication date
JP2008217053A (ja) 2008-09-18

Similar Documents

Publication Publication Date Title
JP4154661B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
US20090141120A1 (en) Method and apparatus for compensating data image reproduced from holographic system
KR20070080582A (ko) 화상 처리 장치 및 방법, 기록 매체, 및, 프로그램
CN1984227A (zh) 图像处理装置、方法、程序、存储介质和计算机数据信号
US20100211871A1 (en) Information processor, information processing method, and computer readable medium
US7885486B2 (en) Image processing system, method for processing image and computer readable medium
JP6075294B2 (ja) 画像処理システム及び画像処理方法
JP2004215266A (ja) 映像の再現品質の向上装置及びその方法
JP4821653B2 (ja) 画像処理装置及び画像処理プログラム
US8139895B2 (en) Image recognition device and image rotating method
JP4560023B2 (ja) 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
EP2666284B1 (en) Image processing device and pixel interpolation method
JP5316385B2 (ja) 画像処理装置及び画像処理プログラム
JP2008263465A (ja) 画像処理システム及び画像処理プログラム
US8493416B2 (en) Image processing apparatus, image processing method, and computer readable medium
JP4857975B2 (ja) 画像処理システムおよび画像処理プログラム
JP5742283B2 (ja) 画像処理装置及び画像処理プログラム
JP4568692B2 (ja) 画像補正システム、画像補正方法およびこの方法のプログラム
JP4867705B2 (ja) 画像処理装置及び画像処理プログラム
JP4821580B2 (ja) 画像処理システムおよび画像処理プログラム
JP4862509B2 (ja) 画像処理システムおよび画像処理プログラム
JP2012209639A (ja) 画像処理装置及び画像処理プログラム
JP2011142565A (ja) 情報処理装置及び情報処理プログラム
JP4507677B2 (ja) 画像処理方法および装置、並びにプログラム
WO2024048262A1 (ja) 情報処理装置および情報処理方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110621

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110809

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110822

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140916

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees