JP2008042369A - ノイズ低減装置および方法 - Google Patents

ノイズ低減装置および方法 Download PDF

Info

Publication number
JP2008042369A
JP2008042369A JP2006211803A JP2006211803A JP2008042369A JP 2008042369 A JP2008042369 A JP 2008042369A JP 2006211803 A JP2006211803 A JP 2006211803A JP 2006211803 A JP2006211803 A JP 2006211803A JP 2008042369 A JP2008042369 A JP 2008042369A
Authority
JP
Japan
Prior art keywords
noise
color
amount
determined
main component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006211803A
Other languages
English (en)
Other versions
JP4579208B2 (ja
Inventor
Tetsuya Kuno
徹也 久野
Shotaro Moriya
正太郎 守谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2006211803A priority Critical patent/JP4579208B2/ja
Publication of JP2008042369A publication Critical patent/JP2008042369A/ja
Application granted granted Critical
Publication of JP4579208B2 publication Critical patent/JP4579208B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像の情報を失わず、高いノイズ除去効果が得られるノイズ低減装置および方法を提供する。
【解決手段】画像の色を判別する色判別手段(2)と、各色信号からノイズを分離するノイズ分離手段(3r、3g、3b)と、色判別手段(2)によって判別された結果およびノイズ量に応じてノイズの除去量を変えるノイズ除去量設定手段(4)と、設定された除去量だけノイズを除去するノイズ除去手段(5)とを具備している。
【選択図】図1

Description

この発明は、ノイズ低減装置および方法に関するものである。
ディジタルカメラなどに用いられるCCDセンサーまたはMOSセンサーなどのイメージセンサーは、高画素化、高感度化の一途をたどっている。そのために、ノイズの影響が問題となってきている。
従来の技術ではノイズを除去する場合、元画像の情報をなるべく損なわずに、ノイズを精度よく抽出して除去を行う試みがなされており、ノイズ除去の対象となる画像の箇所が画像のエッジ部分であるかノイズであるかを判別し、エッジ部分はノイズ除去を行わないようにしていた(例えば、特許文献1)。また、対象箇所の周辺画素との相関を判別し、水平垂直方向の相関に応じてノイズ除去の量を変え、画像のエッジに影響を与えないようにしていた(例えば、特許文献2)。
また、画像を周波数帯域ごとに分類し、それぞれの周波数帯域に応じてノイズの除去量を変えることで効率よくノイズを除去し、ノイズ以外の帯域にはなるべく画像に影響を与えないようにしていた(例えば、特許文献3)。
また、赤外除去波長を変えた複数の赤外カットフィルターを切り替えて高感度化と色再現性の両立を図ろうとする従来技術も提案されている(例えば特許文献2)。
特開2001−76134(第3図) 特開2001−189944(段落0036) 特開2006−50109(段落0035)
しかしながら、特許文献1および特許文献2に示される従来技術では、ノイズが多くなるとエッジを判別する誤差が大きくなるため、ノイズ除去の効果が十分でないか、または元画像に影響を与えてしまうという問題があった。
また、特許文献3に示される従来技術でも、ノイズはすべての周波数帯域にわたって存在している場合がほとんどであるため、十分なノイズ除去の効果が得られないという問題があった。
本発明は、
異なる複数の色信号を入力し、前記複数の色から対象とする画像の色の主成分を判別する色判別手段と、
前記複数の色信号ごとに設けられ、前記色信号からノイズを分離するノイズ分離手段と、
異なる複数の色信号のノイズを除去し、かつ除去するノイズ量を変えることができるノイズ除去手段と、
前記色判別手段によって判別された結果と前記ノイズ分離手段によって分離されたノイズ量とに応じて、前記ノイズ除去手段のノイズ除去量を定めるノイズ除去量設定手段とを具備し、
前記ノイズ除去量設定手段は、前記色判別手段で判別された色の主成分以外のノイズ量が大きいほど、前記ノイズ除去手段のノイズ除去量を大きくすることを特徴とするノイズ低減装置を提供する。
本発明によれば、画像の情報を失わず、高いノイズ除去効果が得られる。
実施の形態1.
図1はこの発明装置の実施の形態1によるノイズ低減装置の概略構成図である。図1において、複数の色信号が入力端子1より入力される。本実施の形態では複数の色信号をR信号、G信号、B信号の3種類とする。それぞれの色信号は色判別手段2に入力される。色判別手段2は、ノイズ除去を行おうとする画素位置またはその近辺画素において、信号の色の主成分は何であるかを判別する。
色判別手段2は入力された色信号の大小を比較する手段を有しており、その比較関係から、信号の色の主成分が何であるかを判別する。例えば、信号の大小関係がR>G>BでかつRとGの差が予め定めた基準値(閾値)k1以上である、即ちRがGに閾値k1を加えた値以上である(R≧G+k1である)ときは、その信号の主成分はRと判断する。また、RがGに閾値k1を加えた値よりも小さく(R<G+k1であり)かつGがBに予め定めた基準値(閾値)k2を加えた値以上である(G≧B+k2である)ときは、その信号の主成分はRとGと判断する。RがGに閾値k1を加えた値よりも小さく(R<G+k1であり)かつGがBに閾値k2を加えた値よりも小さい(G<B+k2である)ときは、その信号の主成分はR、G、Bのすべての色信号とする。
上記の比較手段によって、3つの色信号の主成分がある1つの色信号か、2つの色信号か、3つの色信号かを判別し、どの色信号が主成分かを判別する。なお、R>G>Bの関係は一例であり、主成分の組み合わせはR、G、B、RとG、RとB、GとB、RとGとBの7種類となる。
図2に色判別手段2の構成例を示す。まず、R、G、Bが第1の比較手段11に入力される。第1の比較手段11はR、G、Bにおいて、1番目に大きな信号M1、2番目に大きな信号M2、3番目に大きな信号M3を比較判別する。次に、1番目に大きな信号M1と2番目に大きな信号M2とを第2の比較手段12によって比較し、
その差が閾値k1以上であるか否かを判別する。さらに2番目に大きな信号M2と3番目に大きな信号M3とを第3の比較手段13によって比較し、その差が閾値k2以上であるか否かを判別する。第1の比較手段11と、第2の比較手段12と、第3の比較手段13の結果により主成分判別手段14は、ノイズを除去する対象とする位置の色の主成分を判別し、判別結果を示す信号Spを出力する。
一方、R信号(R)、G信号(G)、B信号(B)はそれぞれRノイズ分離手段3r、Gノイズ分離手段3g、Bノイズ分離手段3bに入力される。(以降、Rノイズ分離手段、Bノイズ分離手段、Gノイズ分離手段のことをまとめてノイズ分離手段と呼ぶこともある。)それぞれのノイズ分離手段3r、3g、3bは同じ構成であり、入力した信号からノイズを分離する。
図3にノイズ分離手段3r、3g、3bの構成の一例を示す。今、入力信号を信号Sとノイズ成分nの混合された信号S+nとする。信号S+nはそれぞれ異なる帯域が設けられたハイパスフィルターHPF1、HPF2、HPF3に入力される。ハイパスフィルターHPF1によって抜き取られた高周波成分は第1のクリッピング手段CLP1に、HPF2によって抜き取られた高周波成分は第2のクリッピング手段CLP2に、ハイパスフィルターHPF3によって抜き取られた高周波成分は第3のクリッピング手段CLP3に入力される。第1から第3のクリッピング手段CLP1〜CLP3は微小信号だけを通過させ、予め定めておいた値より大きな信号のときは0を出力する。これにより各帯域におけるノイズ成分を分離することが出来る。最後に合成手段21によって各帯域におけるノイズ成分を合成し、ノイズ成分nを出力する。
ノイズ除去量設定手段4は、色判別手段2によって判別された主成分を表す信号Spを入力する。また、ノイズ分離手段3r、3g、3bによって分離されたノイズ(図3において符号nで表されるノイズが、図1では、符号Rn、Gn、Bnで表されている。)を入力して、ノイズ除去手段4のノイズ除去量を定める。ノイズ除去量設定手段4はノイズ分離手段3r、3g、3bから入力されたノイズ量Rn、Gn、Bnが大きいか、小さいかを予め定めておいた基準値と比較して判別し、先に検出されている主成分の色の補色に対応する色のいずれかの色のノイズ量が大きいほど、ノイズ除去手段5によるノイズ除去量を大きくするように設定する。ここで、主成分がRであるときは、その補色はG及びBであり、主成分がGであるときはその補色はB及びRであり、主成分がBであるときはその補色はR及びGであり、主成分がR及びGであるときはその補色はBであり、主成分がG及びBであるときはその補色はRであり、主成分がB及びRであるときはその補色はGであると考える。
判別された主成分とノイズ量とノイズ除去量の関係は下記の表に示すようになる。
Figure 2008042369
なお、上記の表で、ノイズ量の「大」、「小」は基準値以上か基準値よりも小さいかを表す。また、ノイズ除去量を表す「大」、「小」は相対的な表現である。例えば、主成分がRである場合、Gノイズ量及びBノイズ量の少なくとも一方が「大」である場合には、双方が「小」である場合に比べて、ノイズ除去量が大きく、主成分がGである場合、Rノイズ量及びBノイズ量の少なくとも一方が「大」である場合には、双方が「小」である場合に比べて、ノイズ除去量が大きく、主成分がBである場合、Rノイズ量及びGノイズ量の少なくとも一方が「大」である場合には、双方が「小」である場合に比べて、ノイズ除去量が大きく、主成分がRおよびGである場合、Bノイズ量が「大」である場合には、「小」である場合に比べて、ノイズ除去量が大きく、主成分がRおよびBである場合、Gノイズ量が「大」である場合には、「小」である場合に比べて、ノイズ除去量が大きく、主成分がGおよびBである場合、Rノイズ量が「大」である場合には、「小」である場合に比べて、ノイズ除去量が大きいことを表し、表1において「大」と記載されたノイズ除去量は互いに略等しく、「小」と記載されたノイズ除去量は互いに略等しいことを表す。
また、ノイズ除去量設定手段4によるノイズ量の判断は、必ずしも定数との比較による大小の固定値判断である必要はなく、ノイズ量が大きくなるにつれてノイズ除去量も大きくなるように連続的に制御しても問題ない。
ノイズ除去手段5は、入力信号からノイズを除去する手段であり、その手法は本発明では特に問わないが、例えばLPFによる平均化処理であれば、ノイズ除去を対象とする画素を中心として、その周辺画素との加算平均を行う。加算平均を行う際に中心画素の重み付け比率を高くすると、ノイズの除去率は低くなり、単純平均を行うと(或いは重み付けの差を小さくすれば)ノイズの除去率は高くなる。また、加算平均を行う周辺画素の画素数を増やせばノイズの除去量は高くなり、減らせばノイズの除去量は低くなる。また、ノイズ除去手段5として他に非線形フィルタなどを用いる方法もあり、予め定めておいた閾値k3より小さい信号はすべてノイズとみなし出力信号を0にするクリッピング処理などが簡単な非線形フィルタの例として挙げられる。この場合、クリッピング量を定める閾値k3の値が小さければノイズの除去量は少なく、k3の値が大きくなるほどノイズの除去量は多くなる。またノイズ除去手段5としては他にも、図3に示したノイズ分離回路によって分離されたノイズnにある定数を乗じて入力信号から減算する方法であっても良い。この場合は、前記ある定数値が1に近くなればノイズ除去量は増え、0に近くなればノイズ除去量は減ることとなる。本発明においてノイズ除去手段5の方法はノイズの除去量を変えることが出来る手段であればいずれの手段においても効果を得ることが出来る。
また、上記ノイズの除去量の大小は固定の除去量であっても良いし、主成分の大小関係に応じて連続的な変化量であっても問題はない。
さらにまた、色判別は入力された色信号が特定の1画素について判定すれば、ノイズ除去を対象とする画素の色の主成分を判別することとなり、例えば個々の画素ごとに判定が異なることを避けるのであれば複数の画素(例えば水平垂直合わせて4画素)のR、G、Bの平均値を判断すれば近辺画素を含めて色の判別を行ったこととなる。
ここで本発明の原理について説明する。ノイズとは元来得られるべき原画に対して、元信号とは異なった信号が加わることを意味し、それにより、画像の品質を損なったり、元来あるべき信号が正しく認識できなかったりする信号である。予め定まった位置、または予め定められた周波数として加わったノイズは、その信号だけを検出して除去すればよいが、イメージセンサーの暗電流から生じるショットノイズや、回路から生じるアンプノイズは画像が伝送される帯域全般に発生することがほとんどであり、周波数上ではノイズか元信号かを区別することが困難である。そのため、人間の視覚特性を利用し効率よくノイズ除去を行うことが肝要である。
例えば、図4(A)〜(C)に示すように人間は、画像中、高い周波数領域に発生するノイズ(図4(A)中の符号Naで示す部分であり、図4(B)に拡大して示してある)より、低い周波数領域に発生するノイズ(図4(A)中の符号Nbで示す部分であり、図4(C)に拡大して示してある)の方が気になる。画像中高い周波数である画像のエッジなどではノイズ除去をほとんど行わず、エッジのない箇所のノイズ除去を多く行うのはこの特性を利用したものである。
一方、図5に示すようにノイズ自体も、高周波数のノイズ(図5(A))よりも低周波数のノイズ(図5(B))のほうが視覚特性上、気になる。よって、画像を周波数帯域ごとにわけ、低周波の画像領域のノイズ除去量を大きくすると画質の品位が比較的保たれやすい。
しかし、これら従来の技術はすべて元信号以外の信号誤差はノイズが加算したものとみなし、除去の対象としている。一方、ハードコピーやプリンターなどでは階調の少ない画像において見た目上の階調を増やす処理として元信号を配列しなおすディザ処理などがある。ディザ処理後の画像は対象とする画素位置における信号値が元来の真値とは異なるが、この場合は画像の品位を損なうのではなく逆に画像の品位を上げる処理となっている。このように画像の真値からの誤差がすべて画質の品位を損なうノイズとは限らず、必ずしも除去すべきものではないといえる。
カラー画像では、ノイズはノイズ信号の信号量そのものより、むしろ色ノイズなどに表されるように、元来の色と異なる色がノイズとして現れていることが画像の品位として問題となることが多い。例えば、赤の花にノイズが生じたとき、R信号が元信号から誤差を含んで表示されているよりも、赤の花の中に緑や青の信号がちらちらと現れるほうが視覚上品位のない画像と判断される。また、赤の花の画像においては信号の変調成分などの画像としての情報は当然ながら赤色の中に多く含まれている。よって、赤の花のR信号のノイズ量に応じてノイズの除去量は定めず、画質の品位を損なうBやGのノイズが赤の花の中に多く現れた場合は、その箇所のノイズ除去量を多くすることで、画像の品位の劣化を最小限に押さえ、かつ画質の品位を低下させるノイズを効率よく除去することが出来る。
図6は本発明によるノイズ除去の方法を示すフローチャートを示したものである。まず、R、G、B信号から信号の大小関係を判別する(Step1)。ここでは1番大きな信号をM1、2番目に大きな信号をM2、3番目に大きな信号をM3とする。次に、1番目に大きな信号M1と2番目に大きな信号M2との差が閾値k1以上であるかを判別し(Step2)、閾値k1以上である場合は信号の色の主成分をM1と判別する(Step3)。次に、1番目に大きな信号M1と2番目に大きな信号M2との差がk1より小さい場合は、2番目に大きな信号M2と3番目に大きな信号M3との差が閾値k2以上であるかを判別し(Step4)、閾値k2以上である場合は信号の色の主成分をM1とM2と判別する(Step5)。次に、2番目に大きな信号M2と3番目に大きな信号M3との差がk2より小さい場合は、信号の色の主成分をM1とM2とM3と判別する(Step6)。次に、各色信号から分離されたノイズ量から、どの色信号のノイズ量が大きいかを判別する(Step7)。上記判別された色の主成分と、ノイズ量の大きい色信号とから元信号のノイズ除去量を定める(Step8)。ここでは、判別された色の主成分の補色の色のノイズ量が大きいときには、ノイズの除去量を大きくし、補色の色のノイズ量が小さいときにはノイズの除去量を小さくするように定める。最後に、定められたそれぞれのノイズ除去量に応じてノイズを除去する(Step9)。
本実施の形態では複数の色信号をR、G、B信号の3種類の色信号として述べたが、カメラでは他にYe(イエロー)、Mg(マジェンタ)、Cy(シアン)、G(グリーン)の4種類の場合もある。この場合も同様に上記4種類の大小関係から色判別手段によって主成分の色の判別を行い、それぞれの色信号におけるノイズの除去量を定めれば同様の効果が得られることはいうまでもない。また、印刷系の機器ではYe(イエロー)、Mg(マジェンタ)、Cy(シアン)、K(ブラック)が信号処理における色信号として用いられるが、同様に色判別を行い、色信号に応じたノイズ除去量を設けることで同様の効果が得られることは言うまでもない。
ノイズ低減装置の構成図である。 色判別手段の構成図である。 ノイズ分離手段の構成図である。 (A)〜(C)は、ノイズに対する人間の視覚特性を説明する図である。 (A)及び(B)は、ノイズに対する人間の視覚特性を説明する図である。 ノイズ除去の方法を説明する図である。
符号の説明
1 入力端子、 2 色判別手段、 3r Rノイズ分離手段、 3g Gノイズ分離手段、 3b Bノイズ分離手段、 4 ノイズ除去量設定手段、 5 ノイズ除去手段。

Claims (6)

  1. 異なる複数の色信号を入力し、前記複数の色から対象とする画像の色の主成分を判別する色判別手段と、
    前記複数の色信号ごとに設けられ、前記色信号からノイズを分離するノイズ分離手段と、
    異なる複数の色信号のノイズを除去し、かつ除去するノイズ量を変えることができるノイズ除去手段と、
    前記色判別手段によって判別された結果と前記ノイズ分離手段によって分離されたノイズ量とに応じて、前記ノイズ除去手段のノイズ除去量を定めるノイズ除去量設定手段とを具備し、
    前記ノイズ除去量設定手段は、前記色判別手段で判別された色の主成分以外のノイズ量が大きいほど、前記ノイズ除去手段のノイズ除去量を大きくすることを特徴とするノイズ低減装置。
  2. 前記判別された色の主成分以外のノイズ量が所定の基準値以上であるときは、前記判別された色の主成分以外のノイズ量が該基準値よりも小さいときに比べて、前記ノイズ除去手段のノイズ除去量を大きくすることを特徴とする請求項1に記載のノイズ低減装置。
  3. 前記色判別手段は、複数の比較手段から構成されており、複数の色信号中、ある1つの色信号が他の色信号よりも大きくかつその差が予め定めた基準値以上であるときは、その1つの色が、対象とする画像の主成分と判断し、
    2つの色信号が他の色信号よりも大きくかつその差が予め定めた基準値以上であるときは、その2つの色が、対象とする画像の主成分と判断する
    ことを特徴とする請求項1に記載のノイズ低減装置。
  4. 異なる複数の色信号を入力し、前記複数の色から対象とする画像の色の主成分を判別し、
    前記複数の色信号ごとのノイズを分離し、
    前記色判別された色の主成分以外のノイズ量が大きいほど、前記色信号のノイズ除去量を大きくすることを特徴とするノイズ低減方法。
  5. 前記判別された色の主成分以外のノイズ量が所定の基準値以上であるときは、前記判別された色の主成分以外のノイズ量が該基準値よりも小さいときに比べて、前記ノイズ除去量を大きくすることを特徴とする請求項4に記載のノイズ低減方法。
  6. 前記色の主成分の判別に際し、
    複数の色信号中、ある1つの色信号が他の色信号よりも大きくかつその差が予め定めた基準値以上であるときは、その1つの色が、対象とする画像の主成分と判断し、
    2つの色信号が他の色信号よりも大きくかつその差が予め定めた基準値以上であるときは、その2つの色が、対象とする画像の主成分と判断する
    ことを特徴とする請求項4に記載のノイズ低減方法。
JP2006211803A 2006-08-03 2006-08-03 ノイズ低減装置および方法 Expired - Fee Related JP4579208B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006211803A JP4579208B2 (ja) 2006-08-03 2006-08-03 ノイズ低減装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006211803A JP4579208B2 (ja) 2006-08-03 2006-08-03 ノイズ低減装置および方法

Publications (2)

Publication Number Publication Date
JP2008042369A true JP2008042369A (ja) 2008-02-21
JP4579208B2 JP4579208B2 (ja) 2010-11-10

Family

ID=39176929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006211803A Expired - Fee Related JP4579208B2 (ja) 2006-08-03 2006-08-03 ノイズ低減装置および方法

Country Status (1)

Country Link
JP (1) JP4579208B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040235A (ja) * 2002-06-28 2004-02-05 Canon Inc 画像処理装置、及び画像処理方法
WO2005055588A1 (ja) * 2003-12-03 2005-06-16 Nikon Corporation ノイズ除去の強弱を画面内でコントロ−ルする画像処理装置、画像処理プログラム、画像処理方法、および電子カメラ

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040235A (ja) * 2002-06-28 2004-02-05 Canon Inc 画像処理装置、及び画像処理方法
WO2005055588A1 (ja) * 2003-12-03 2005-06-16 Nikon Corporation ノイズ除去の強弱を画面内でコントロ−ルする画像処理装置、画像処理プログラム、画像処理方法、および電子カメラ

Also Published As

Publication number Publication date
JP4579208B2 (ja) 2010-11-10

Similar Documents

Publication Publication Date Title
JP4411879B2 (ja) 信号処理装置、信号処理プログラム、および電子カメラ
EP1940180B1 (en) Image processing apparatus and image processing method
KR100786931B1 (ko) 화상 신호 처리 장치 및 화상 신호 처리 방법
KR100780242B1 (ko) 이미지의 어두운 영역에서의 노이즈 제거 방법 및 장치
US6473202B1 (en) Image processing apparatus
US8471933B2 (en) Image processing apparatus, image processing method and computer program
JP4571607B2 (ja) ノイズ低減装置および方法
KR100869134B1 (ko) 이미지 처리장치 및 방법
JP4579208B2 (ja) ノイズ低減装置および方法
JP2006148292A (ja) 画像処理装置
JP4571602B2 (ja) ノイズ低減装置および方法
JP4545766B2 (ja) 画像処理装置、画像形成装置、画像読取装置、画像処理プログラムおよび記録媒体
JP2000358166A (ja) 画像処理装置およびこれを搭載した画像読取装置と画像形成装置、並びに画像処理方法、および画像処理手順を記憶したコンピュータ読み取り可能な記憶媒体
JP4571605B2 (ja) ノイズ低減装置および方法
JP5682313B2 (ja) 画像処理装置及び画像処理方法
JP4200888B2 (ja) 色修正装置
JP4200887B2 (ja) 色変換装置
JP4740913B2 (ja) 画像処理装置、画像処理方法、画像形成装置およびプログラム、記録媒体
JP2003179779A (ja) ノイズリダクション装置および方法
JP3153221B2 (ja) カラー画像処理装置
KR20100079476A (ko) 이미지 신호 처리 장치, 이미지 신호 처리 장치의 휘도 노이즈 저감 방법 및 휘도 노이즈 저감 방법이 기록된 기록매체
US20150195501A1 (en) Method and apparatus for compensating for color imbalance in image data
JPH05130406A (ja) カラー画像処理装置
JP2003224718A (ja) 画像処理方法および画像処理装置
JP2002232704A (ja) 画像処理装置及び画像形成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100824

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100825

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees