JP5282356B2 - 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム - Google Patents

分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム Download PDF

Info

Publication number
JP5282356B2
JP5282356B2 JP2006224948A JP2006224948A JP5282356B2 JP 5282356 B2 JP5282356 B2 JP 5282356B2 JP 2006224948 A JP2006224948 A JP 2006224948A JP 2006224948 A JP2006224948 A JP 2006224948A JP 5282356 B2 JP5282356 B2 JP 5282356B2
Authority
JP
Japan
Prior art keywords
spectral data
spectral
categories
category
classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006224948A
Other languages
English (en)
Other versions
JP2008051510A (ja
JP2008051510A5 (ja
Inventor
隆行 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Inc filed Critical Toppan Inc
Priority to JP2006224948A priority Critical patent/JP5282356B2/ja
Publication of JP2008051510A publication Critical patent/JP2008051510A/ja
Publication of JP2008051510A5 publication Critical patent/JP2008051510A5/ja
Application granted granted Critical
Publication of JP5282356B2 publication Critical patent/JP5282356B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、物体の分光反射率や照明光源の分光強度等の分光データを、それらが持つ分光的な特徴に基づき、必要かつ十分な数の範疇に分類する分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラムに関する。
物体の色特性は、その物体の分光反射率によって表される。一方、その物体をデジタルスチルカメラやデジタルビデオカメラ、またはデジタルスキャナ等の画像入力機器により撮影して得られる画像データは、被写体の分光反射率だけでなく、画像入力機器や画像入力時の光源の分光特性にも依存する。従って、物体自体の色特性を取得するためには、画像データから被写体の分光反射率を推定する必要があり、その方法としてはおおよそ以下のような状況であった。
先ず、可視光波長領域にわたり、透過波長帯の異なる複数の狭帯域フィルタを用いて順次撮影を行う分光画像撮影技術が広く知られている。この方法では、単色の画像入力機器を使用し、画像入力機器、または照明光源の前面に狭帯域フィルタを順次設置しながら撮影することにより、数十チャンネルの画像を取得し、そこから被写体の分光反射率の推定を行う。しかしながら、この方法では、狭帯域フィルタを用いるため画像入力機器に入射する光量が不足すること、あるいは、画像入力時に使用する照明光の光量を増やすと、光や熱が被写体に悪影響を及ぼす可能性があることが問題となっていた。
一方、分光反射率を基底ベクトル群の低次元線形和によって近似する低次元線形モデルを用いることにより、撮影チャンネル数を低減する方法がある(特許文献1、非特許文献1参照)。低次元線形モデルについては、後に詳細を述べる。この方法では、線形モデルの次数と等しいチャンネル数の画像データを取得することにより、画像データから基底ベクトル群の係数への線形変換を行い、分光反射率を推定することが可能である。分光反射率の低次元線形モデルに必要とされる次元数は、人間の肌等では3程度、より一般的には5〜8程度とされており、分光反射率を推定するためにはこれと同じチャンネル数の画像データを取得すればよい。そのため、フィルタの分光特性は必ずしも狭帯域でなくてもよく、前述の光量に関する問題は解決することができる。基底ベクトル群は、撮影対象となる被写体と同種の分光反射率特性組成を持つ複数の色について予め測定した分光反射率データをもとに、例えば主成分分析等の手法により導出されるのが一般的である。
分光反射率を高精度で推定するためには、被写体の分光反射率特性組成毎に異なる基底ベクトル群を用意する必要があるが、被写体の分類、及び使用すべき基底ベクトル群の選択にあたっては、明確な指標が示されていないという問題がある。例えば、ある物体については、着色方式が染料系か顔料系かの違いで基底ベクトル群を使い分けることによって十分な精度が得られるにも関わらず、着色剤の製造会社や媒体の種類等で基底ベクトル群を細分化してしまい、データの管理面で煩雑さが増すと同時に、利用者にとっては、どの基底ベクトル群を選択すれば良いか分かり難くなってしまうという課題や、逆に、着色方式によらず共通の基底ベクトル群を使用してしまったために十分な精度が得られなくなるという課題を抱えていた。またこれは、被写体の分光反射率推定だけでなく、同じく低次元線形モデルを使用した照明光源の分光強度推定等の分光データ処理においても共通する課題である。
特開2002−185803号公報 三宅洋一編、分光画像処理入門、東京大学出版会(2006)
本発明は前記従来の技術が持つ諸問題に鑑みなされたものであって、推定対象の範疇毎に基底ベクトル群を選択して処理を行う際、推定精度を低下させることなく、管理すべき基底ベクトル群の数を低減し、また、使用すべき基底ベクトル群の選択を容易にする、被写体に応じた基底ベクトルを好適に分類することを可能とする分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラムを提供することを目的とする。
本発明の分光データ分類方法は、物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類方法であって、一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出ステップと、複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出ステップと、範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類ステップと、を有し、前記分光データ特徴抽出ステップでは、前記特定の次数と同数の範疇からそれぞれ前記基底関数を算出し、前記範疇分類ステップでは、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする。
本発明の分光データ分類装置は、物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類装置であって、一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出手段と、複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出手段と、範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類手段と、を有し、前記分光データ特徴抽出手段は、前記特定の次数と同数の範疇からそれぞれ前記基底関数を算出し、前記範疇分類手段は、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする。
本発明の分光データ分類プログラムは、物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類装置のコンピュータに実行させるプログラムであって、一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出処理と、複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出処理と、範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類処理と、を有し、前記分光データ特徴抽出処理では、前記特定の次数と同数の範疇から前記基底関数を算出し、前記範疇一致度算出処理では、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする分光データ分類プログラム。


以上説明したように、本発明によれば、物体の分光反射率や照明光源の分光強度等の分光データを、その分光データを低次元線形モデルで表現するために必要となる基底ベクトルによって定義される部分空間に基づき、必要かつ十分な数の範疇に分類することができる。これによって、例えば、画像入力機器による撮影で得られた画像データから被写体の分光反射率を推定する場合や、あるいは撮影に使用した照明光源の分光強度を推定する場合のように、推定対象の範疇毎に基底ベクトル群を選択して処理を行う際、推定精度を低下させること無く、管理すべき基底ベクトル群の数を低減し、また、使用すべき基底ベクトル群の選択を容易にすることができる。
以下、本発明の実施の形態を、図面を参照しつつ詳細に説明する。
<1.低次元線形モデル>
先ず、分光データの低次元線形モデルについて説明する。計算の便宜上、分光データを離散データとして扱い、例えば、可視光域380nmから730nmの範囲において10nm間隔でサンプリングした場合、分光データrは式(1)の形で36次元ベクトルとして表現することができる。
Figure 0005282356
ただし、r、r、・・・、r36は、波長380nm、390nm、・・・、730nmにおける分光データの値である。また、Tは行列及びベクトルの転置を表す。この例では、分光データを表すために36次元が必要である。しかしながら、例えば分光データが実在する物体の分光反射率の場合、この次元数は冗長であり、実際には、rは36次元の波長空間中、3から8次元程度の部分空間内に存在することが知られている。従って、この次元数をnとすれば、分光データrは、式(2)の低次元線形モデルにより近似的に表すことができる。
Figure 0005282356
ただし、bは部分空間を規定する36次元の正規直交基底ベクトルのwは基底ベクトルbに対する重み係数である。なお、ここでの低次元とは、本来の分光データを表すための次元数36に対して、線形モデルに使用する次数nが十分小さいことを意味する。
式(2)における基底ベクトルbは、分光反射率データrと同じ範疇に属する複数の分光データから、主成分分析等の手法によって算出する。例えば、分光データrが印刷物のある一つの色の分光反射率を表す場合、bの算出には、その印刷物と同じ紙、同じインクで印刷された複数の色の分光反射率データを用いる。
式(2)による分光データの低次元近似を十分な精度で行うためには、基底ベクトルの算出に使用する複数の分光データが、近似対象となる分光データと同じ範疇に属することが重要となる。しかしながら、範疇を細分化しすぎると、膨大な数の基底ベクトル群が生じ、データ管理が煩雑なものとなってしまうと同時に、利用者にとっては、ある対象物に対してどの基底ベクトル群を選択すれば良いか分かり難いものとなってしまう。この問題を解決するためには、同一の基底ベクトル群を使用しても近似精度が損なわれない複数の範疇については、範疇を統合し、範疇を必要かつ十分な数に分類すればよい。以下に、その分類方法について詳細に説明する。
<2.分光データの分類>
次に、図1および図2を参照し、複数の異なる範疇に対して導出した低次元線形モデルの分類について説明する。図1は、本発明の実施の形態に係る分光データ分類装置の構成を示すブロック図である。図2は、本発明の実施の形態に係る分光データ分類装置の動作を示すフローチャートである。図1に示す分光データ分類装置、図2に示すフローチャートにおいては、簡単のため、2つの範疇を統合するか否かの判定方法を示しているが、分類する範疇の数が3以上の場合には、それぞれの範疇について他のいずれかの範疇と統合できるかどうかの判定を統合できる範疇が無くなるまで繰り返すことにより、範疇の分類を行うことができる。
本実施の形態の分光データ分類装置は、図1に示すように、複数の分光データ1、分光データ特徴抽出手段2、範疇一致度算出手段3および範疇分類手段4を備えている。
複数の分光データのうちの一方の分光データ1は範疇Aに属する分光データ、他方の分光データ1は範疇A’に属する分光データである。
分光データ特徴抽出手段2は、一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する。
範疇一致度算出手段3は、複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する。
範疇分類手段4は、範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する。
次に、図2に示すフローチャートを参照し動作について説明する。
ステップs1においては、主成分分析により、n個の基底ベクトルから成る基底ベクトル群を導出する。図2の例では、範疇Aに属する分光データから基底ベクトル群(v、v、・・・、v)を導出し、範疇A’に属する分光データから基底ベクトル群(v’、v’、・・・、v’)を導出している。
続くステップs2においては、基底ベクトル群(v、v、・・・、v)により規定される波長空間内の部分空間と、基底ベクトル群(v’、v’、・・・、v’)により規定される部分空間との一致度を、式(3)により算出する。
Figure 0005282356
式(3)において、aは二つの部分空間の一致度、θは二つの部分空間が成す角度である。ただし、θは0度以上、90度以下とする。一致度aは、二つの部分空間が完全に一致する場合に1、直交する場合に0となる。
ステップs3では、二つの部分空間の一致度の評価を行う。分光データの測定誤差等の影響で、一致度aが完全に0になることは稀である。そこで、ここでは一致度aの許容誤差をathresholdとし、一致度aがathreshold以上であるかどうかの判定を行う。なお、athresholdの値としては、求める低次元線形モデルの近似精度に応じて、0.95や0.98等の数値を適切に設定する。
一致度aがathreshold以上であれば、範疇Aに属する分光データと範疇A’に属する分光データは分光空間内でほぼ同一の部分空間内に存在し、従って同一の基底ベクトル群を使用することができるものと判断し、ステップs4において両範疇を統合して、ひとつの範疇とする。
産業上の利用の可能性
以上、本発明に係る分光データ分類装置の実施の形態について説明したが、その産業上の利用としては、例えばマルチバンド撮影による被写体分光反射率推定との組み合わせが可能である。
マルチバンド撮影では、被写体をデジタルスチルカメラで撮影する際に、4チャンネル以上の画像データを取得する。チャンネル数をmとしたとき、ある画素におけるカメラのセンサ応答値d、d、・・・、dは、式(4)で表される。
Figure 0005282356
ただし、f、f、・・・、fは各チャンネルのカメラの分光感度を示すベクトル、Eは対角成分に撮影時照明光源の分光強度を持つ対角行列、rは対象画素に結像された被写体の分光反射率を示すベクトルである。ここで、分光反射率を式(2)の低次元線形モデルで表すことにより、式(5)を得る。
Figure 0005282356
ただし、式(5)における行列Gは式(6)で表されるm行n列の行列である。
Figure 0005282356
ここで、カメラのチャンネル数mを、低次元線形モデルの次数nと一致させて撮影を行ったとすれば、行列Gは正方行列となるため、式(7)の変換が成り立つ。
Figure 0005282356
更に、式(2)の低次元線形モデルを用いて、撮影で得られたカメラのセンサ応答値d、d、・・・、dから、式(8)によって被写体の分光反射率rが算出できる。
Figure 0005282356
式(8)によって得られる分光反射率rの精度は、使用する基底ベクトルb、b、・・・、bに依存する。前述の通り、分光データの範疇を細分化しすぎると、ユーザが適切な基底ベクトル群を特定するのが非常に困難となるが、範疇を必要かつ十分な数に分類しておくことにより、精度の低下を起こすことなく、適切な基底ベクトル群を容易に選択することが可能となる。
本発明の実施の形態に係る分光データ分類装置の構成を示すブロック図である。 本発明の実施の形態に係る分光データ分類装置の動作を示すフローチャートである。
符号の説明
1……分光データ、2……分光データ特徴抽出手段、3……範疇一致度算出手段、4……範疇分類手段。

Claims (6)

  1. 物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類方法であって、
    一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出ステップと、
    複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出ステップと、
    範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類ステップと、を有し、
    前記分光データ特徴抽出ステップでは、前記特定の次数と同数の範疇からそれぞれ前記基底関数を算出し、
    前記範疇分類ステップでは、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする分光データ分類方法。
  2. 前記分光データ特徴抽出ステップは、分光データが印刷物の分光反射率である場合、前記印刷物と同等な紙、同等なインクで印刷された複数の色についての分光反射率データから、前記基底関数を算出することを特徴とする請求項1記載の分光データ分類方法。
  3. 物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類装置であって、
    一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出手段と、
    複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出手段と、
    範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類手段と、を有し、
    前記分光データ特徴抽出手段は、前記特定の次数と同数の範疇からそれぞれ前記基底関数を算出し、
    前記範疇分類手段は、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする分光データ分類装置。
  4. 前記分光データ特徴抽出手段は、分光データが印刷物の分光反射率である場合、前記印刷物と同等な紙、同等なインクで印刷された複数の色についての分光反射率データから、前記基底関数を算出することを特徴とする請求項3記載の分光データ分類装置。
  5. 物体の分光反射率や照明光源の分光強度等の分光データを特徴毎に分類する分光データ分類装置のコンピュータに実行させるプログラムであって、
    一つの範疇に含まれる複数の分光データから、分光データを特定の次元の線形結合で表現するための分光空間における基底関数をその範疇に含まれる分光データの特徴として算出する分光データ特徴抽出処理と、
    複数の範疇のそれぞれについて、分光空間内で基底関数によって決定される部分空間を算出し、それぞれの部分空間が成す角度に基づき、範疇間の一致度を算出する範疇一致度算出処理と、
    範疇間の一致度に基づき、複数の範疇を同一範疇に統合するか、または異なる範疇とするかを決定する範疇分類処理と、を有し、
    前記分光データ特徴抽出処理では、前記特定の次数と同数の範疇から前記基底関数を算出し、
    前記範疇分類処理では、範疇間の一致度が所定値以上の場合に複数の範疇を同一範疇に統合し、前記所定値は前記特定の次元の次数に基づいて決定することを特徴とする分光データ分類プログラム。
  6. 前記分光データ特徴抽出処理は、分光データが印刷物の分光反射率である場合、前記印刷物と同等な紙、同等なインクで印刷された複数の色についての分光反射率データから、前記基底関数を算出することを特徴とする請求項5記載の分光データ分類プログラム。
JP2006224948A 2006-08-22 2006-08-22 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム Expired - Fee Related JP5282356B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006224948A JP5282356B2 (ja) 2006-08-22 2006-08-22 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006224948A JP5282356B2 (ja) 2006-08-22 2006-08-22 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム

Publications (3)

Publication Number Publication Date
JP2008051510A JP2008051510A (ja) 2008-03-06
JP2008051510A5 JP2008051510A5 (ja) 2009-09-10
JP5282356B2 true JP5282356B2 (ja) 2013-09-04

Family

ID=39235729

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006224948A Expired - Fee Related JP5282356B2 (ja) 2006-08-22 2006-08-22 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム

Country Status (1)

Country Link
JP (1) JP5282356B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012122968A (ja) * 2010-12-10 2012-06-28 Canon Inc 情報処理装置、情報処理方法及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6870523B1 (en) * 2000-06-07 2005-03-22 Genoa Color Technologies Device, system and method for electronic true color display
JP2005069965A (ja) * 2003-08-27 2005-03-17 Pixart Technology:Kk 測色装置
JP2005258763A (ja) * 2004-03-11 2005-09-22 Ntt Data Corp 多変量データクラスタリング装置及びクラスタリングプログラム

Also Published As

Publication number Publication date
JP2008051510A (ja) 2008-03-06

Similar Documents

Publication Publication Date Title
CN108020519B (zh) 一种基于颜色恒常性的虚拟多光源光谱重建方法
US8705833B2 (en) Computer-aided staining of multispectral images
CN108520488B (zh) 一种重构光谱并进行复制的方法以及电子设备
JP5796348B2 (ja) 特徴量推定装置および特徴量推定方法、並びにコンピュータープログラム
US8810658B2 (en) Estimating a visible vector representation for pixels in an infrared image
US20160321823A1 (en) Measuring device, system and program
JP2012154711A (ja) 分光スペクトル推定装置および学習スペクトル生成方法
US20050231740A1 (en) Image input system, conversion matrix calculating method, and computer software product
JP5591090B2 (ja) 画像処理装置およびその方法
JP4798354B2 (ja) 分光反射率推定方法、分光反射率推定装置および分光反射率推定プログラム
JP4715288B2 (ja) 分光反射率候補算出方法、色変換方法、分光反射率候補算出装置、色変換装置、分光反射率候補算出プログラム、色変換プログラム
JP5282356B2 (ja) 分光データ分類方法、分光データ分類装置、並びに分光データ分類プログラム
JP4692190B2 (ja) 分光反射率推定方法、分光反射率推定装置、ならびに分光反射率推定プログラム
CN110926608A (zh) 一种基于光源筛选的光谱重建方法
WO2022070773A1 (ja) 画像解析方法、画像解析装置、プログラム、及び記録媒体
EP3993382A1 (en) Colour calibration of an imaging device
Xu et al. Filter selection based on light source for multispectral imaging
JP4378810B2 (ja) 測色変換係数算出方法と測色的撮像方法、および測色変換係数算出装置と測色的撮像装置、並びに測色変換プログラムを記録したコンピュータ読み取り可能な情報記録媒体
JPWO2022070773A5 (ja)
JP2012127700A (ja) 画像処理装置およびその方法
US20160006904A1 (en) Reference color selection device, color correction device, and reference color selection method
JP2001186540A (ja) 測色変換係数算出方法と測色画像変換方法、及び、測色変換係数算出装置と測色画像変換装置、並びに、測色変換係数算出プログラム又は測色的撮像プログラムを記録したコンピュータ読み取り可能な情報記録媒体
JP2011095110A (ja) 光源推定装置および光源推定方法
JP2006030014A (ja) 色推定システム及び色推定方法
JP3781927B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090722

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090724

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121002

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130430

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130513

LAPS Cancellation because of no payment of annual fees