JP4619082B2 - 画像判定装置 - Google Patents

画像判定装置 Download PDF

Info

Publication number
JP4619082B2
JP4619082B2 JP2004286397A JP2004286397A JP4619082B2 JP 4619082 B2 JP4619082 B2 JP 4619082B2 JP 2004286397 A JP2004286397 A JP 2004286397A JP 2004286397 A JP2004286397 A JP 2004286397A JP 4619082 B2 JP4619082 B2 JP 4619082B2
Authority
JP
Japan
Prior art keywords
change
luminance
image
shadow
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2004286397A
Other languages
English (en)
Other versions
JP2006099544A (ja
Inventor
佳 丸川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2004286397A priority Critical patent/JP4619082B2/ja
Publication of JP2006099544A publication Critical patent/JP2006099544A/ja
Application granted granted Critical
Publication of JP4619082B2 publication Critical patent/JP4619082B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は画像判定装置に関し、特に、光や影等の光量変化により生じたものを侵入者として誤検出する可能性の極めて少ない画像判定装置に関するものである。
従来、侵入者検出を目的とした画像センサとして、背景画像からの変化に基づいて侵入者を検出するものがある。この画像センサは、背景画像と入力画像とで各画素の輝度差分値を求め、輝度差分値が所定値以上である画素の集合を変化領域として抽出する。そして、変化領域の大きさや形状等が人体らしさを示す基準を満たすか否かによって侵入者を検出する。
ところで、画像センサで撮影した画像には、監視領域付近の環境変化(例えば、日照変化等)により、木等の影や監視領域外の物体の影が監視領域内に映り込むことがある。影により輝度差が生じると、画像センサはこれを変化領域として抽出する。そして、変化領域の大きさ、形状が基準を満たした場合には、侵入者を誤検出してしまうことになる。
この問題を解決する方法としては、抽出した変化領域が影であるか否かを判定する方法が考えられる。影の判定方法としては、影が発生した場合の輝度変化を予め設定しておき、抽出した変化領域の輝度変化と予め設定された影による輝度変化とを比較して、変化領域が影であるか否かを判定する方法が提案されている(特許文献1参照)。
特開2001−229389号公報
しかし、影による輝度変化(影の濃さ)は、環境変化(光の強さ)等、影の発生状況によって異なる。侵入者検出を目的とした画像センサにおいて、特に屋外を監視する場合には、日照等の周囲の光の強さが変化するため、生じる影による輝度変化も様々である。また、監視領域外を通過する移動物体(人、車、鳥等)による影が映り込むため、影による輝度変化の予測は困難である。
従って、従来の影の判定方法を画像センサに適用した場合、影の濃さが予め設定されたものと異なる場合には、変化領域を影と認識することができない。このように、従来の影の判定方法では、影を侵入者として誤検出してしまう場合がある。
本発明は、上記問題に鑑み、監視領域への影の映り込みによる侵入者の誤検出を防止することができる画像センサを提供することを目的とする。
本発明に係る画像判定装置は、入力画像から抽出した変化領域が光や影等の光量変化により生じたものであるか否かを判定する画像判定装置において、背景画像を記憶する背景画像記憶手段と、入力画像と背景画像とを比較して輝度差が生じている変化領域を抽出する変化領域抽出手段と、変化領域における各画素の入力画像と背景画像との輝度変化を算出し、かつ変化領域における各画素の輝度変化と該画素と隣接する画素の輝度変化との相違を算出する輝度変化相違算出手段と、隣接する画素との輝度変化の相違が小さい画素数に基づいて変化領域が光量変化により生じたものであるか否かを判定する非人体判定手段と、を備えることを特徴とする。
変化領域が光や影等の光量変化により生じたものである場合は、背景画像と入力画像とで撮影対象は変わらないため、変化領域における各画素の輝度変化は一様である。また、影等の輪郭部分は徐々に薄くなっていく特性があり、変化領域と背景との境界は明瞭ではない。よって、変化領域が影等である場合は変化領域が影等でない場合に比べて、隣接する画素同士の輝度変化の相違が小さくなる。
本発明は、上記物理現象を利用して、隣接する画素との輝度変化の相違が小さい画素数が多いほど、変化領域が光や影等の光量変化により生じたものである可能性が高いと判断する。これにより、影等の濃さを予め設定することなく変化領域が影等である場合を確実に検出することができるようになり、従来の方法と比して影等を侵入者として誤検出する可能性を極めて減少させることができる効果がある。
図1は、本発明の構成を表すブロック図である。
まず、同図を参照して、本発明の各構成要素について説明する。
撮像部11は、監視範囲を視野とする画像入力手段としてのカメラを表す。カメラには、NTSC型、高解像度型、可視光型、赤外光型等の様々な種類があるが、本発明においては種類を制限しない。
画像入力I/F12は、撮像部11にて取得された画像信号をCPU、DSP等のプロセッサにて処理できるようにデジタル化して、前記プロセッサで構成される信号処理部と記憶部に出力する。デジタル化された画像は、画像中の各画素について輝度値で表現される。
背景画像記憶領域13は、画像入力I/F12にてデジタル化された画像信号の内、変化領域が無いと判断された画像を選択し、背景画像として記憶する。前記背景画像は、日照変動等を考慮して適宜更新することとする。更新のアルゴリズムには、種々のものがあるが、本明細書においては、本発明に最適なアルゴリズムが選択されているものとして、中心となる処理を説明する。
変化領域抽出手段14は、画像入力I/F12から出力された入力画像I(x,y)と背景画像記憶領域13に記憶されている背景画像B(x,y)とを用いて、各画素における輝度差|B(x,y)−I(x,y)|を求める。そして、輝度差が所定以上である画素からノイズを除去し、変化領域CRを抽出する。
輝度比・変化率算出手段15は、変化領域CR内の各画素(x,y)に対し、入力画像I(x,y)と背景画像B(x,y)との輝度変化を求める。本実施例では、輝度変化として輝度比c(x,y)を次式にて求める。
c(x,y)=B(x,y)/I(x,y) …(1)
なお、式(1)の右辺の逆数を輝度比c(x,y)と定義しても良い。
更に、画素(x,y)の隣接画素(x+1,y)について、輝度変化の相違を求める。本実施例では、輝度変化の相違として輝度比c(x+1,y)とc(x,y)とから輝度比の変化率Lr(x,y)を次式にて求める。
Lr(x,y)=|(c(x+1,y)−c(x,y))/c(x,y)|
…(2)
なお、(x,y)の隣接画素を(x+1,y)として隣接画素の輝度比c(x+1,y)を用いて、式(2)により輝度比の変化率Lr(x,y)を計算したが、隣接画素を(x−1,y)、(x、y±1)、又は(x±1,y±1)(複号任意)等として輝度比の変化率Lr(x,y)を計算しても良い。
式(1)を用いて、式(2)を変形すると、
Lr(x,y)=|c(x+1,y)*c(x,y)-1−1|
=|B(x+1,y)/I(x+1,y)*I(x,y)/B(x,y)−1|
=|(I(x,y)*B(x+1,y))/(I(x+1,y)*B(x,y))−1|
…(3)
となる。
ここで、I(x+1,y)*B(x,y)=0の場合は、輝度比の変化率Lr(x,y)は後述の閾値Th1より大きな任意の値とする。
影判定手段16では、変化領域CRが影かそれ以外かを判定する。
まず、判定の原理について説明する。
変化領域CRが影である場合、変化領域CR内の画素(x,y)に関しては、背景画像B(x,y)と入力画像I(x,y)とでは、単に明るさが異なるだけで撮影対象そのものは変わらないため、撮影対象の反射率をR(x,y)として、
B(x,y)≒L1*R(x,y) …(4)
I(x,y)≒L2*R(x,y) …(5)
と表される。
ただし、L1、L2は、それぞれ、変化領域CRに影が無いときとあるときの変化領域CRを照らす光源の強度の総和であり、厳密には(x,y)の関数であるが、ここでは近似的に定数と考える。
式(4)、(5)から式(6)が成り立ち、入力画像I(x,y)と背景画像B(x,y)との輝度比は、近似的に光源の強度で表すことができる。
B(x,y)/I(x,y)≒L1/L2 …(6)
従って、変化領域CRが影である場合、式(1)より式(7)が成り立つ。
c(x,y)≒k(kは定数) …(7)
つまり、輝度比c(x,y)は、撮影対象の反射率R(x,y)にも画素(x,y)にも依存しない定数と近似することができる。
従って、この場合、式(2)より、隣接画素との輝度比の変化率Lr(x,y)は、
Lr(x,y)≒0 …(8)
と非常に小さい値になる。
一方、変化領域CRが影以外(例えば人)である場合、変化領域CR内にテクスチャが少ないときには隣接画素間で輝度比c(x,y)の変化が小さくなる傾向があるため、やはり変化率Lr(x,y)は小さい値を取る。
しかし、変化領域CRが影以外の場合は、背景と撮影対象が異なり、反射率R(x,y)が異なるため、輝度比c(x,y)の値が大きくなる。
よって、変化領域CRの輪郭部分に注目すると、変化領域CR内の画素については輝度比c(x,y)が大きいのに対し、変化領域CRの周囲の画素は輝度比c(x,y)が非常に小さいため、変化率Lr(x,y)は変化領域CRが影である場合に比して大きい値を取る。
変化領域CRが影以外である場合、変化領域CR内にテクスチャが少なくないときには、変化領域CRの内部においても輝度比の変化率Lr(x,y)が比較的大きい値を取ることは言うまでもないことである。
従って、概略的に述べると、変化領域CR内で輝度比の変化率Lr(x,y)が小さい値を取る画素の個数が多いときに変化領域CRを影であると判定すればよいことになる。
そのために、まず、所定の閾値Th1に対して、次式からNth1を求める。
Nth1=||{(x,y)|Lr(x,y)≦Th1}|| …(9)
ただし、||A||は、集合Aの要素の個数を表す。
{(x,y)|Lr(x,y)≦Th1}は、変化領域CR内で輝度比の変化率Lr(x,y)がTh1以下の値を取る画素の集合であり、Nth1は、その要素の個数である。
すなわち、Nth1が大きい値のときに変化領域CRを影であると判定すればよい。
以上の原理に従って、変化領域CRを構成する画素数に対して、輝度比の変化率Lr(x,y)が小さい画素数の大きさによって変化領域CRが影であるか否かを判定する。ここでは、変化領域CRに含まれる全画素数をNallとして、所定の閾値Th2に対して、条件
Nth1/Nall≧Th2 …(10)
が満たされる場合に限って、変化領域CRは影であると判定する。
つまり、変化領域CRの全画素中に、輝度比の変化率Lr(x,y)が小さい画素が所定の閾値以上含まれるか否かにより判定する。
また、式(10)の代わりに、所定の閾値Th2’に対して、条件
Nall−Nth1≦Th2’ …(11)
を用いても良い。
上式の両辺をNall(>0)で割り、式(11)を変形すると、
(11)

1−Nth1/Nall≦Th2’/Nall

Nth1/Nall≧1−Th2’/Nall …(11)’
となるので、条件式(11)は、条件式(10)と同様に、隣接する画素との輝度変化の相違が小さい画素数Nth1が、変化領域CRを構成する画素数Nallに占める割合が大きいことを判定する式である。
これとは別に、変化領域CRの輪郭部分を正確に把握できる場合には、輪郭部分をあらためて変化領域CRと考えて、新たな変化領域CRの画素のみに着目して、新たな変化領域CRが影の輪郭であるかどうかを判定することができる。
この場合、その新たな変化領域CR内で輝度比の変化率は次式に従って求める。
Lr(x,y)=|(c(x+Δx,y+Δy)−c(x,y))/c(x,y)|
…(2)’
ただし、(x+Δx,y+Δy)は新たな変化領域CR内の画素(x,y)に隣接する画素である。
Lr(x,y)からのNth1の算出方法は、先の場合と同様である(式(9)参照)。
そして、この場合、新たな変化領域CRの画素数をNoutとして、所定の閾値Th2’’に対して、条件
Nth1/Nout≧Th2’’ …(12)
が成立するときに限って、新たな変化領域CRが影の輪郭であると判定する。
つまり、輪郭部分の画素に対して、輝度比の変化率Lr(x,y)が小さい画素数が所定の割合以上であるか否かを判定する。
この条件を用いる場合、輪郭部分のみを用いて判定するため、新たな変化領域CR内部の輝度変化の影響を受けにくく、影の特性を最大限に利用できるという利点がある。
以上のような影の判定条件に加え、式(10)〜(12)の内二つ以上の論理積をもって、変化領域CRが影であると判定する条件にすることもできる。
出力部17は、影判定手段16にて判定された結果、すなわち抽出された領域が影によるものか、そうでないのかの情報を侵入判定・警報通報部18に渡す。
侵入判定・警報通報部18は、出力部17から出力された情報に基づき、変化領域CRが影でない場合には、他の付加的情報も併用して変化領域CRが侵入者によるものであるかどうかを判定する。変化領域CRが侵入者によるものであると判定された場合には、警報を通報し、後続の各種処理を行う。
図2は、本発明のフロー図である。
同図に従って、本発明の動作を示す。
まず、撮像部11より入力画像(現在の画像)を取得する(S21)。
図3は得られた入力画像I(x,y)の例である。
以下では、屋内において視野外に何らかの物体があり、その影が延びて視野の床に映り込んでいる状態(図3参照)を例に挙げ説明する。
次に、変化領域抽出手段14にて背景差分により入力画像中に存在する変化領域CRを抽出する(S22)。
図4(a)は背景画像記憶領域13に記憶されている背景画像B(x,y)の例、図4(b)は差分結果の例である。
図3、4に示したように、入力画像I(x,y)と背景画像B(x,y)とを用いて背景差分すると、これらの画像で変化のない部分が消去されて、変化領域CRが抽出される(図4(b)参照)。
次に、輝度比及び変化率算出手段15にて変化領域CR内の対応する画素について入力画像I(x,y)と背景画像B(x,y)との輝度比c(x,y)=B(x,y)/I(x,y)を求める。(S23)。
図5は、輝度比c(x,y)の計算を模式的に表す図である。
引き続き、輝度比及び変化率算出手段15にて(x,y)に隣接する画素(x+1,y)における輝度比c(x+1,y)を計算し、輝度比の変化率Lr(x,y)=|(c(x+1,y)−c(x,y))/c(x,y)|を求める(S24)。このとき、式(3)
Lr(x,y)
=|(I(x,y)*B(x+1,y))/(I(x+1,y)*B(x,y))−1|
を用いても良い。
図6は、輝度比の変化率Lr(x,y)の計算を模式的に表す図である。
式(3)から、同図に示した隣接する画素における4個の輝度値から輝度比の変化率Lr(x,y)が求まることが理解される。
次に、影判定手段16にて式(9)のNth1を求める。すなわち、変化領域CR内部において、輝度比の変化率Lr(x,y)が閾値Th1以下の画素の個数を計数し、その結果をNth1とする(S25)。
引き続き、影判定手段16にてNth1/Nallを求め、閾値Th2と比較する。すなわち、輝度比の変化率Lr(x,y)が閾値Th1以下である画素数Nth1の変化領域CR内の全画素数Nallに占める割合を計算し(S26)、閾値Th2と比較する(S27)。
更に、影判定手段16にて、Nth1/Nall≧Th2である場合に変化領域CRは影であると判断し(S28)、Nth1/Nall<Th2である場合に変化領域CRは影でないと判断し(S29)、判断結果を出力部17に渡す。
最後に、侵入判定・警報通報部18は、出力部17から出力された情報に基づき、S29で変化領域CRが影でないと判断された場合には、輝度比の変化率Lr(x,y)以外の付加的情報を用いた他の判定基準に基づいて、変化領域CRが侵入者によるものか否かの判定を行い、侵入者によるものである場合には警報を発する(S30)。
前記付加的情報としては、「変化領域の大きさ、形状」、「輝度情報」、「移動情報」等が考えられる。
「変化領域の大きさ、形状」は、変化領域CRが人らしい大きさや縦横比を持つか否かを判定するための情報である。
「輝度情報」は、例えば侵入者がテクスチャのある服を着ている場合もあることを考慮して、求められた変化領域CRの輝度分散等である。
「移動情報」は、例えば、変化領域CRが人間として現実的な速度で移動しているか否かを判定するための情報である。
上述の説明においては、S26、S27の処理は式(10)に基づいた判断を実行するものとしたが、これらの処理を式(11)あるいは式(12)に基づいた判断を実行するように変更することも可能である。
また、これらの処理を式(10)〜(12)の内二つ以上の論理積に基づいた判断を実行するように変更することも可能である。
以上説明したように、本発明によれば、入力画像と背景画像との輝度比を計算することにより、変化領域が影である場合に輝度比が近似的に撮影対象の反射率に依存しない値として求まる。それにより、変化領域が影である場合には変化領域が影でない場合に比べて、隣接画素同士の輝度比の変化率が小さい値を取る。このことを用いて、隣接する画素との輝度比の変化率が小さい画素数が変化領域の画素数に占める割合が大きい場合に、変化領域が影であると判定する。これにより、影の濃さを予め設定することなく変化領域が影である場合を確実に検出することができるようになり、従来の方法に比して影を侵入者として誤検出する可能性を極めて減少させることができる効果がある。
なお、以上の説明においては、変化領域が影であるか否かを判定しているものとしたが、局所的な光領域に対しても同様の効果が期待できる。つまり、影の判定のみならず、人ではない何らかの光学的要因による光量変化であるか否かの判定が可能である。
本発明の構成を示すブロック図である。 本発明のフロー図である。 得られた入力画像の例である。 背景画像と差分結果である。 輝度比の計算を模式的に示す図である。 輝度比の変化率の計算を模式的に示す図である。
符号の説明
11 撮像部
12 画像入力I/F
13 背景画像記憶領域
14 変化領域抽出手段
15 輝度比・変化率算出手段
16 判定手段
17 出力部
18 侵入判定・警報通報部

Claims (6)

  1. 入力画像から抽出した変化領域が光または影による光量変化により生じたものであるか否かを判定する画像判定装置において、
    背景画像を記憶する背景画像記憶手段と、
    前記入力画像と前記背景画像とを比較して輝度差が生じている変化領域を抽出する変化領域抽出手段と、
    前記変化領域及びその周囲における各画素の前記入力画像と前記背景画像との輝度変化を算出し、かつ前記変化領域における各画素の前記輝度変化と該画素と隣接する画素の前記輝度変化との相違を算出する輝度変化相違算出手段と、
    前記隣接する画素との前記輝度変化の相違が小さい画素数に基づいて前記変化領域が光量変化により生じたものであるか否かを判定する非人体判定手段と、
    を備えることを特徴とする画像判定装置。
  2. 前記変化領域が光量変化により生じたものでないと判定された場合には、他の判定基準に基づいて前記変化領域が侵入者によるものか否かを判定し、前記変化領域が侵入者によるものである場合に警報を発する侵入判定手段を更に備えることを特徴とする請求項1に記載の画像判定装置。
  3. 前記輝度変化とは、前記入力画像と前記背景画像との輝度比である請求項1又は2に記載の画像判定装置。
  4. 前記輝度変化の相違とは、前記各画素の前記輝度比に対して、当該輝度比と前記隣接する画素の前記輝度比との差が占める割合である請求項3に記載の画像判定装置。
  5. 前記非人体判定手段は、前記隣接する画素との前記輝度変化の相違が小さい画素数が前記変化領域を構成する画素数に占める割合が大きい場合に、変化領域が光量変化により生じたものであると判定する請求項1乃至4のいずれか一項に記載の画像判定装置。
  6. 前記輝度変化相違算出手段は、前記変化領域の輪郭部分の画素を抽出して前記輪郭部分をあらためて変化領域とし、抽出された各画素について前記輝度変化及び前記輝度変化の相違を算出する請求項1乃至5のいずれか一項に記載の画像判定装置。
JP2004286397A 2004-09-30 2004-09-30 画像判定装置 Active JP4619082B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004286397A JP4619082B2 (ja) 2004-09-30 2004-09-30 画像判定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004286397A JP4619082B2 (ja) 2004-09-30 2004-09-30 画像判定装置

Publications (2)

Publication Number Publication Date
JP2006099544A JP2006099544A (ja) 2006-04-13
JP4619082B2 true JP4619082B2 (ja) 2011-01-26

Family

ID=36239272

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004286397A Active JP4619082B2 (ja) 2004-09-30 2004-09-30 画像判定装置

Country Status (1)

Country Link
JP (1) JP4619082B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4990030B2 (ja) * 2007-05-30 2012-08-01 セコム株式会社 移動物体検知装置
JP5060264B2 (ja) * 2007-12-07 2012-10-31 グローリー株式会社 人物検出装置
JP6124739B2 (ja) * 2013-08-29 2017-05-10 セコム株式会社 画像センサ
JP6093270B2 (ja) * 2013-08-29 2017-03-08 セコム株式会社 画像センサ
JP6495691B2 (ja) * 2015-03-11 2019-04-03 株式会社東芝 動体検出装置、動体検出方法及びコンピュータプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05151356A (ja) * 1991-11-28 1993-06-18 Matsushita Electric Ind Co Ltd 動体抽出装置
JP2001243475A (ja) * 2000-02-25 2001-09-07 Secom Co Ltd 画像センサ

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05151356A (ja) * 1991-11-28 1993-06-18 Matsushita Electric Ind Co Ltd 動体抽出装置
JP2001243475A (ja) * 2000-02-25 2001-09-07 Secom Co Ltd 画像センサ

Also Published As

Publication number Publication date
JP2006099544A (ja) 2006-04-13

Similar Documents

Publication Publication Date Title
CN106878668B (zh) 对物体的移动检测
US10713798B2 (en) Low-complexity motion detection based on image edges
US8538063B2 (en) System and method for ensuring the performance of a video-based fire detection system
US10255683B1 (en) Discontinuity detection in video data
US20170337431A1 (en) Image processing apparatus and method and monitoring system
US9818277B1 (en) Systems and methods for smoke detection
JP2007300531A (ja) 物体検出装置
JP6652051B2 (ja) 検出システム、検出方法及びプログラム
US11301974B2 (en) Image processing apparatus, image processing method, image capturing apparatus, and storage medium
TWI493510B (zh) 跌倒偵測方法
KR20210094493A (ko) 이미지에서 군중 속에 있는 사람들을 구별
JP4865328B2 (ja) 画像センサ
JP4619082B2 (ja) 画像判定装置
US10748019B2 (en) Image processing method and electronic apparatus for foreground image extraction
WO2013132711A1 (ja) 物体検知装置、物体検知方法及びプログラム
JP2015158796A (ja) 物体検出装置
JP4740755B2 (ja) 画像を用いた監視装置
JP4641902B2 (ja) 画像センサ
JP6399122B2 (ja) 顔検出装置およびその制御方法
JP3625442B2 (ja) 物体検出方法及び物体検出装置並びに物体検出プログラム
JP4925942B2 (ja) 画像センサ
JP6124739B2 (ja) 画像センサ
JP4565738B2 (ja) 画像センサ
JP7262412B2 (ja) 画像処理装置及び画像処理プログラム
JP2007249743A (ja) 移動物体の識別方法、移動物体の識別装置、及び移動物体の識別処理を実行させるプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070829

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4619082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250