JP5518359B2 - 煙検出装置 - Google Patents

煙検出装置 Download PDF

Info

Publication number
JP5518359B2
JP5518359B2 JP2009086277A JP2009086277A JP5518359B2 JP 5518359 B2 JP5518359 B2 JP 5518359B2 JP 2009086277 A JP2009086277 A JP 2009086277A JP 2009086277 A JP2009086277 A JP 2009086277A JP 5518359 B2 JP5518359 B2 JP 5518359B2
Authority
JP
Japan
Prior art keywords
smoke
image
luminance
value
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009086277A
Other languages
English (en)
Other versions
JP2010238032A (ja
Inventor
貴俊 山岸
主久 中野
賢治 寺田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nohmi Bosai Ltd
University of Tokushima
Original Assignee
Nohmi Bosai Ltd
University of Tokushima
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nohmi Bosai Ltd, University of Tokushima filed Critical Nohmi Bosai Ltd
Priority to JP2009086277A priority Critical patent/JP5518359B2/ja
Publication of JP2010238032A publication Critical patent/JP2010238032A/ja
Application granted granted Critical
Publication of JP5518359B2 publication Critical patent/JP5518359B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Fire-Detection Mechanisms (AREA)
  • Image Analysis (AREA)

Description

本発明は、監視カメラにより撮像された画像に対して画像処理を施すことにより、煙の発生を検出する煙検出装置に関し、特に、緩慢に拡散する煙(緩慢拡散煙)の検出に適した煙検出装置に関する。
火災発生時の初期消火、あるいは火災事故における逃げ遅れの防止の観点から、火災あるいは煙の早期発見が非常に重要となっている。そこで、煙検出装置の分野においては、監視カメラにより撮像された画像に対して画像処理を施すことで、煙の早期発見を行うことが研究されている。
その一例として、トンネル内などにカメラを設置し、カメラにより撮像された画像に対して画像処理を施すことで、煙を検出する従来の煙検出装置がある。煙を検出するための画像処理では、一般的に、基準となる画像(基準画像)をあらかじめ記憶しておき、最新の撮像画像と基準画像との差分画像を演算し、変化の生じた領域を抽出することで、煙を検出している。(例えば、特許文献1参照)。
また、日照などの影響により基準画像が時間的に変化することに対応するために、基準画像を定期的に更新することが行われている。
このように、カメラにより撮像された画像に対して画像処理を施して煙検出を行うことで、次の2点のメリットが得られる。
1)監視カメラの画像を目視確認することで、遠隔地において煙検出状況の把握が可能となる。
2)すでに設置されている監視カメラを流用することが可能であり、効率的な設備を構築できる。
特許第3909665号公報
しかしながら、従来技術には次のような課題がある。
従来技術においては、煙を検出するために、フレーム差分画像あるいは背景画像からの輝度差が所定の閾値を超えた画素領域を抽出していた。しかしながら、例えば、周囲の照明条件の変化などの影響により、撮像された画像に変化が生じてしまう場合には、煙が発生していない部分を煙として誤検出してしまうという問題がある。
また、検出対象である煙自体は、色味が少なく背景色によっては、撮像された画像における輝度変化(輝度差)が少ない場合があり、単純に差分画像を求めるだけでは、その輝度差の閾値設定が難しく、高感度な煙検出を行うことができない場合がある。
本発明は、上述のような課題を解決するためになされたものであり、緩慢拡散煙を検出対象とした際に、外乱の影響を抑えた上で、高感度に緩慢拡散煙の検出を行うことのできる煙検出装置を得ることを目的とする。
本発明に係る煙検出装置は、監視カメラにより撮像された画像に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、監視カメラにより時系列で撮像された複数の画像および基準画像を記憶する画像メモリと、撮像された画像をあらかじめ分割した複数のエリアの中から、煙が発生する候補領域として過去一定期間分の輝度ヒストグラムの算出結果から特定された煙検出エリアにおいて、監視カメラにより撮像された最新の画像の輝度値と、基準画像の輝度値との差分が、基準画像内の煙検出エリア内に含まれる画素の輝度値の平均値の高低に応じた所定の差分しきい値以上である画素を計数し、計数した画素が所定許容値を超えた場合に煙が発生した可能性が高いと判断して第1の判断結果を生成するとともに、煙が発生する候補領域として過去一定期間分の輝度ヒストグラムの算出結果から特定された煙検出エリアにおいて、監視カメラにより撮像された最新の画像と基準画像との間で、エッジ強度の平均値の差分を第1変化量、標準偏差の差分を第2変化量として所定サイクルごとに算出し、煙発生を判断するための期間をNサイクル(Nは1以上の整数)としたときに、第1変化量が第1所定範囲内である状態がNサイクル間継続する場合、または第2変化量が第2所定範囲内である状態がNサイクル間継続する場合に煙が発生した可能性が高いと判断して第2の判断結果を生成し、第1の判断結果および第2の判断結果の少なくともいずれか1つにおいて煙が発生した可能性が高いと判断することで、煙検出エリアにおいて煙が発生した可能性が高いと判断する煙発生検出部とを備えるものである。
本発明に係る煙検出装置によれば、基準画像との差分の画素数、あるいはエッジ強度といった緩慢拡散煙に適した煙特徴量の算出結果を用いることにより、緩慢拡散煙を検出対象とした際に、外乱の影響を抑えた上で、高感度に緩慢拡散煙の検出を行うことのできる煙検出装置を得ることができる。
本発明の実施の形態1における煙検出装置の構成図である。 本発明の実施の形態1における輝度ヒストグラム作成手段で作成された輝度ヒストグラムの一例を示す図である。 本発明の実施の形態1における1画面内の領域分割と1領域内のマッピング結果との関係を示した説明図である。 本発明の実施の形態1における煙検出エリア選択部により特定された候補領域を示す図である。 本発明の実施の形態1における煙特徴量算出手段で実施される相関値に基づく煙検出方法の説明図である。 本発明の実施の形態1における煙特徴量算出手段31で実施されるエッジ強度の平均濃淡度と標準偏差の値に基づく煙判定に関する説明図である。 本発明の実施の形態1におけるマッピング手段により出力されるマッピング結果を示す図である。 本発明の実施の形態1における煙検出装置の全体処理の流れを示すフローチャートである。
以下、本発明の煙検出装置の好適な実施の形態につき図面を用いて説明する。
実施の形態1.
図1は、本発明の実施の形態1における煙検出装置の構成図である。本実施の形態1における煙検出装置は、画像メモリ10、煙検出エリア選択部20、および煙発生検出部30を備えている。画像メモリ10は、カメラ1により撮像された画像を、過去一定期間分、時系列データとして記憶できるように、複数フレーム分の画像メモリとして構成されている。
煙検出エリア選択部20は、輝度ヒストグラム作成手段21、輝度変化判定手段22、および検出候補領域特定手段23で構成される。そして、煙検出エリア選択部20は、画像メモリ10に記憶された、カメラ1により撮像された過去一定期間分の画像に基づいて、煙検出を行うべきエリアを煙検出候補領域として特定する機能を有している。
また、煙発生検出部30は、煙特徴量算出手段31、マッピング手段32、および煙判定手段33で構成される。そして、煙発生検出部30は、煙検出エリア選択部20で特定された煙検出候補領域について、煙の発生を検出するための特徴量を算出し、算出結果に基づいて煙が発生しているか否かを判断する機能を有している。緩慢拡散、特に薄い緩慢拡散煙の特徴量としては、例えば、基準画像と緩慢拡散煙発生後の画像との輝度分布の相関値が低下はするがある所定範囲内に収まる、あるいは、緩慢拡散煙発生後の画像ではエッジ強度が低下するなどの特徴があるので、これらに基づいて煙の特徴量を算出する。
このような構成を備えることにより、本実施の形態1の煙検出装置は、特定された煙検出候補領域に対して、煙の有無を検出するための画像処理を施すことで、効率のよい高感度な煙検出を実現することができる。特に、緩慢拡散煙の検出に適した画像処理機能を有している。
本実施の形態1では、撮像された画像のすべてに対して煙検出を行うのではなく、撮像された画像のうち、画像を複数のブロックに分割した分割領域である煙検出候補領域に対してのみ煙検出を行う点を特徴としている。そこで、まず始めに、この特徴を実現する煙検出エリア選択部20の機能について、説明する。
ステップ1:輝度ヒストグラム作成手段21の機能
輝度ヒストグラム作成手段21は、撮像された画像内に侵入物あるいは煙などの変化の発生があるか否かの判断を、所定の画素ごとに、過去一定期間内の輝度のヒストグラムを算出することにより行う。
ここで、侵入物とは、一時的に画像内を通過する通行人等に相当する。また、輝度のヒストグラムとは、対象となる画素が、過去一定期間の時系列データ内でどのような輝度値の分布を有していたかを示す頻度分布に相当する。
図2は、本発明の実施の形態1における輝度ヒストグラム作成手段21で作成された輝度ヒストグラムの一例を示す図である。侵入物が発生せず、かつ煙の発生もない状態を仮定すると、ある画素において、過去一定期間内の複数の画像における輝度値の発生頻度を集計すると、一定期間何も変化が起こらないことから、図2(a)に示すように、狭い範囲の輝度に集中して分布し、その狭い範囲の発生頻度が高い値を示す結果となる。
ここで、発生頻度とは、図2の縦軸の「存在回数」のことであり、言い換えれば、一定期間に撮像された画像の数を最大値として、それら画像において、位置座標が同じである特定の画素が同じ輝度値をとった回数である。このヒストグラムは、各画素が過去にどのような輝度値であったかを示す分布であり、何も侵入物がない状態ならば、存在した輝度は狭い範囲で分布し、その存在回数は高い値を維持し続ける。
一方、侵入物が発生するか、あるいは煙が発生した状態を仮定すると、ある画素において、過去一定期間内の複数の画像における輝度値の発生頻度を集計すると、一定期間の間、侵入物等によって画像に変化が生じることから、図2(b)に示すように、図2(a)における狭い範囲の輝度以外のところに、これまでの分布とは異なる輝度値が出現し始めるが、新たに出現した輝度は、当然、存在回数は少ない。すなわち、侵入物の発生後あるいは煙の発生後の画像からは、高くて狭い輝度分布のほかに、異なる分布として検出された輝度が得られることとなる。または、存在回数が高くないヒストグラムしか得られない。
そして、この新たに出現した異なる分布を示す輝度の発生頻度は、過去一定期間内の複数の画像のうち、侵入物あるいは煙の発生後の画像の枚数が少ない場合には、図2(a)における発生前の狭い範囲の輝度の発生頻度よりも少ない結果となる。
また、侵入物などの変化発生前の輝度分布と発生後の輝度分布の輝度差がわずかである場合では、輝度変化の検出によって変化領域を抽出することは難しいが、にも、過去一定期間内の複数の画像に基づく画素ごとの輝度ヒストグラムを求めることにより、輝度の変化が小さいものでも、その変化が判別しやすく、侵入物の発生、あるいは煙の発生を高精度に識別することが可能となる。
さらに、輝度ヒストグラム作成手段21は、輝度ヒストグラムを作成する際に、得られた輝度をある幅を持たせてカウントする(例えば、輝度100なら、前後の輝度である99,101を含めた3つの輝度(輝度値99,100,101)としてカウントする)ことにより、ヒストグラムの算出にかかわる演算が少なくて済み、また、ノイズの影響を緩和した結果を得ることができる。また、輝度ヒストグラムを得た後に、平滑処理を施すことによっても、ノイズの影響を緩和した結果を得ることができる。
なお、輝度ヒストグラムの作成にあたっては、一画素ごとにヒストグラムを作成してもよいが、ヒストグラムを隣り合う画素同士で共有するようにしてもよい。例えば、縦横2つ合計4つの画素を一まとめにしたり、または、縦横3つの合計9つの画素を一まとめにして、輝度ヒストグラムを作成するようにしてもよく、画素をまとめるほど、演算に関わる処理時間を短くできる。好ましくは、4つの画素を一まとめにすることで、この場合だと、処理時間も短く、かつ侵入物検出の精度も低下しない。
ステップ2:輝度変化判定手段22の機能
輝度変化判定手段22は、輝度ヒストグラム作成手段21により所定の画素ごとに個別に算出(生成)された輝度ヒストグラムに基づいて、侵入物あるいは煙の発生により新たに生じた輝度値の存在の有無を検出する。例えば、輝度変化判定手段22は、図2(b)に示すように、(発生前の)輝度分布に対して、頻度の少ない輝度値の画素が所定数発生した場合には、その画素の部分において、侵入物あるいは煙が発生した可能性が高いと判断できる。
輝度変化判定手段22は、所定の画素ごとに、上述の判断を個別に行い、その結果を画面に対応したマップとして出力する。例えば、1画面の画素がp×q(ただし、p、qは、2以上の整数)とした場合に、輝度変化判定手段22は、侵入物あるいは煙の発生した可能性が高い画素を「1」に、それ以外の画素を「0」に設定し、p×qの各画素をマッピング又は二値化して、マッピング画像(二値化画像)を得ることができる。なお、得られたヒストグラムと比較して、現在の画像の該当する画素の輝度値が所定の存在回数に満たない輝度値である場合に、その画素は侵入物があると判断するようにしてもよい。
ステップ3:検出候補領域特定手段23の機能
輝度変化判定手段22によりマッピングされた1画面分のデータは、あらかじめ決められた複数のエリアに分割されている。そして、検出候補領域特定手段23は、「1」と「0」でマッピングされた、あらかじめ分割されたエリアごとに、「1」である画素の比率が所定値以上あるかないかを判断する。
図3は、本発明の実施の形態1における1画面内の領域分割と1領域内のマッピング結果との関係を示した説明図である。図3(a)は、1画面内にあらかじめ設定されている複数の分割領域を示している。図3(a)に示すように、画面は、縦横マトリクス状に複数個の矩形領域で分割されている。そして、扉の前には、侵入物としての人間が存在しており、右側の窓ガラスの下には煙が存在している。また、図3(b)は、それぞれの領域が、画素単位に分割されており、輝度変化判定手段22によりマッピングされた状態を示している。このように一つの領域は、複数の画素で構成されたものである。
図3(b)中で、画素が黒く塗りつぶされている部分は、侵入物あるいは煙の発生した可能性が高い画素として「1」にマッピングされた画素を意味している。従って、検出候補領域特定手段23は、図3(b)に示したようなマッピング結果に基づいて、それぞれの分割領域ごとに、「1」である画素(すなわち、黒く塗りつぶされた画素)の比率が所定値以上あるかないかを判断することとなる。
なお、緩慢拡散煙の検出を高精度に行うために、検出候補領域特定手段23は、図3(b)に示されたマッピング結果に対して、以下のような前処理1〜3を、さらに行うことができる。
[前処理1]孤立画素の除去
緩慢拡散煙は、ある領域に渡って広く発生するため、侵入物あるいは煙の発生した可能性が高い画素として「1」にマッピングされた画素が孤立して存在することは考えにくい。そこで、「1」にマッピングされた画素が、孤立画素(すなわち、「1」にマッピングされた画素に対して、上下、左右、斜めで隣接する計8画素がすべて「0」にマッピングされている状態の画素)である場合には、マッピング結果を「1」から「0」に変更する。
[前処理2]輝度値の基準画像に対する差分量チェック
緩慢拡散煙が発生した領域では、基準画像で得られていた輝度値が所定量以上低下することが考えられる。そこで、「1」にマッピングされた画素について、最新の画像と基準画像との輝度値の差分を求め、その差分量の絶対値が所定値以上であるものは「1」のままとし、その差分量の絶対値が所定値未満であるものは「1」から「0」に変更する。ただし、基準画像自体の輝度が、緩慢拡散煙の輝度と同程度と考えられる領域は、この差分量チェックには適さないため、差分量チェックを実行しないようにマスク処理することが考えられる。
[前処理3]エッジ強度チェック
緩慢拡散煙が発生した領域では、煙の影響で画像がぼやけることから、エッジ強度が低下することが考えられる。そこで、「1」にマッピングされた画素を含む近傍領域におけるエッジ強度を算出し、エッジ強度が所定値以下であれば、「1」のままとし、エッジ強度が所定値を超える場合には、煙の影響ではないと判断し、「1」から「0」に変更する。
このような前処理は、任意の組み合わせを用いることができる。例えば、前処理1〜3のいずれか1つでも「1」から「0」に変更する結果が出た場合には、この変更を実施することができる。あるいは、特定の組合せにより、その組合せで共通して「1」から「0」に変更する結果が出た場合に、この変更を実施することもできる。さらに、取り込む画像の領域ごとに、前処理の組合せをあらかじめ設定しておくことも可能である。
次に、検出候補領域特定手段23は、一つの領域の大きさに対して「1」である画素の比率が所定値以上である領域を、煙検出を詳細に行うべき候補領域として特定する。一方、検出候補領域特定手段23は、「1」である画素の比率が所定値未満である領域を、後段の煙検出を行わない領域として特定する。または、「0」である画素の比率が所定値以上である領域を、後段の煙検出を行わない領域として特定する。
図4は、本発明の実施の形態1における煙検出エリア選択部20により特定された候補領域を示す図である。ここで黒く塗りつぶされた部分が、煙検出エリア選択部20によって選択された領域であり、前述の「1」の画素を含んだ比率が大きい領域である。この図4は、図3(a)の状態と対応しており、侵入物が存在して扉の前と、窓ガラスの下に、候補領域としての黒く塗りつぶされた領域が複数存在している。
画像には複数の領域が存在するが、このような、検出候補領域特定手段23によって特定された候補領域だけに関して、その領域で煙が発生しているかどうかを画像処理で算出すればよいので、全体の演算量を減らすことが可能となる。このような一連の処理により、煙検出エリア選択部20は、あらかじめ分割された複数のエリアの中から、後段の煙発生検出部30で詳細な煙検出を行うべき候補領域を、過去一定期間分の輝度ヒストグラムの算出結果から、高精度に特定することができる。
この結果、外乱の影響を抑えた上で、画像の中から侵入物や煙のある領域だけを抽出して効率よく高感度に煙検出を行うことができる。つまり、ある領域において、煙などが発生すれば、その領域における画素のほとんどは、ヒストグラムにおいて異なる分布が生じて「1」になり、領域における「1」となった画素の比率が高く候補領域として抽出される。しかし、照明などの一時的な変化では、輝度ヒストグラムにおいて、異なる分布は生じにくいことから、「1」となる画素は少なく、外乱による影響では、候補領域とはなりにくい。さらに、上述したような前処理を施すことで、緩慢拡散煙の抽出に適した候補領域の選定が可能となる。
次に、煙発生検出部30の機能について説明する。この煙発生検出部30は、煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域に対して、煙に関する特徴量を抽出することで、煙発生の有無を判断することができる。
ステップ1:煙特徴量算出手段31の機能について
特徴量の抽出方法の代表的なものとしては、次の7つを挙げることができる。煙検出を詳細に行うべき候補領域に対して、以下の方法を適用して特徴量を求めることで、煙特徴量算出手段31は、その領域内において煙が発生した可能性が高いか否かを判断できる。なお、以下の煙特徴量の算出は、特に、流れを伴う比較的遅い煙を検出するのに適した手法である。その中でも、抽出方法5〜7は、緩慢拡散煙であって、光を透過するような薄い煙に適した手法であり、図面を用いて詳細に説明することとする。
[抽出方法1:画素の輝度分散に基づく煙検出]
煙特徴量算出手段31は、煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域ごとに、各領域内の画素の輝度分散を算出する。輝度分散を算出するにあたって、煙特徴量算出手段31は、必ずしも領域内のすべての画素を用いる必要はない。煙特徴量算出手段31は、輝度変化判定手段22により、侵入物あるいは煙の発生した可能性が高い画素として「1」にマッピングされた画素のみを対象に、輝度分散を算出してもよい。
また、煙特徴量算出手段31は、輝度分散を算出する画像としては、基本的には、最新の撮像画像を用いる。しかしながら、過去にさかのぼって、複数毎の撮像画像を用いることもできる。
そして、煙特徴量算出手段31は、算出した輝度分散、あるいは、輝度分散から得られる標準偏差が、所定の範囲内にあるか否かを判定し、所定の範囲内にある場合に、煙が発生した可能性が高いと判断することができる。
[抽出方法2:画素の平均輝度の時間分散に基づく煙検出]
煙特徴量算出手段31は、煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域ごとに、各領域内の画素の平均輝度を算出する。平均輝度を算出するにあたって、煙特徴量算出手段31は、必ずしも領域内のすべての画素を用いる必要はない。煙特徴量算出手段31は、輝度変化判定手段22により、侵入物あるいは煙の発生した可能性が高い画素として「1」にマッピングされた画素のみを対象に、平均輝度を算出してもよい。
次に、煙特徴量算出手段31は、過去にさかのぼって一定の期間にわたる複数枚の撮像画像の同一領域における平均輝度を算出し、それぞれの対象領域ごとに、平均輝度の時系列データを生成する。そして、煙特徴量算出手段31は、生成した平均輝度の時系列データの輝度分散を算出する。
そして、煙特徴量算出手段31は、平均輝度の時系列データに基づいて算出した輝度分散、あるいは、その輝度分散から得られる標準偏差が、所定の範囲内にあるか否かを判定し、所定の範囲内にある場合に、煙が発生した可能性が高いと判断することができる。
[抽出方法3:画素の平均輝度の低周波強度に基づく煙検出]
煙特徴量算出手段31は、上述した抽出方法2と同様にして、それぞれの対象領域ごとに、平均輝度の時系列データを生成する。そして、煙特徴量算出手段31は、生成した平均輝度の時系列データをフーリエ変換し、パワースペクトルを算出する。
次に、煙特徴量算出手段31は、平均輝度の時系列データに基づいて算出したパワースペクトルの中から所定の低周波数成分を抜き取り、そのモードとなる強度を算出し、その強度が所定の値以下である場合に、煙が発生した可能性が高いと判断することができる。
[抽出方法4:基準画像との差分平均に基づく煙検出]
煙特徴量算出手段31は、煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域ごとに、その候補領域内の各画素と、あらかじめ画像メモリ10に記憶しておいた基準画像の対応する画素との輝度差分値を求める。さらに、煙特徴量算出手段31は、候補領域ごとにおける輝度差分値の平均値を求め、その平均値が所定の値より大きい場合、あるいは所定の範囲内にある場合に、煙が発生した可能性が高いと判断することができる。
[抽出方法5:基準画像との相関値に基づく煙検出]
煙特徴量算出手段31は、煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域ごとに、その候補領域内の各画素と、あらかじめ画像メモリ10に記憶しておいた基準画像の対応する画素との輝度値同士の相関値を求める。さらに、煙特徴量算出手段31は、候補領域ごとにおける相関値を、煙に関する特徴量として求め、その相関値の値が所定の範囲内にある場合に、煙が発生した可能性が高いと判断することができる。
図5は、本発明の実施の形態1における煙特徴量算出手段31で実施される相関値に基づく煙検出方法の説明図である。図5(a)は基準画像、図5(b)は煙が発生していない際に撮像された最新の画像、図5(c)は人間が侵入した際に撮像された最新の画像、そして図5(d)は煙が発生した際に撮像された最新の画像をそれぞれ示している。それぞれの図において、図の窓ガラスの左下側の四角で囲まれた部分が、1つの候補領域に相当する。
撮像した最新の画像として図5(b)の画像(煙が発生していない状態の画像)が得られた場合には、図5(a)の基準画像との候補領域での相関値を計算すると、両画像は似通っているため、高い値を示すこととなる。また、例えば、照明の変化があったと仮定すると、その際の図5(b)の画像は、全体的な輝度が上下するものの、領域内にある模様自体は変化しないので、相関値には大きな影響を与えず、高い値が得られることとなる。
一方、撮像した最新の画像として図5(c)の画像(候補領域内に人間が存在する画像)が得られた場合には、相関値が大きく乱され、低い値になる。
これに対して、撮像した最新の画像として図5(d)の画像(煙が発生した状態の画像)が得られた場合には、図5(a)の基準画像との候補領域での相関値を計算すると、煙の影響により両画像の相関値は、煙が発生していないときの相関値よりも低い値を示すが、人間が存在するときの相関値よりも高い値を示す。これは、煙の場合は人間と比較すると透過性があり、背景の画像の情報が残っているためである。従って、算出した相関値が、あらかじめ決められた範囲内の相関値に収まっている場合には、その候補領域で煙が発生した可能性が高いと判断することができる。
なお、相関値を算出するにあたって、煙特徴量算出手段31は、必ずしも候補領域内のすべての画素を用いる必要はない。煙特徴量算出手段31は、輝度変化判定手段22により、侵入物あるいは煙の発生した可能性が高い画素として「1」にマッピングされた画素のみを対象に、相関値を算出してもよい。
[抽出方法6:エッジ強度の値に基づく煙検出]
候補領域内で煙が発生した場合には、その煙の影響で、画像内のエッジ強度の平均濃淡度と標準偏差が徐々に減少することが考えられる。一方、候補領域内に移動物が侵入した場合には、画像内のエッジ強度の平均濃淡度と標準偏差が急激に変化することが考えられる。そこで、このエッジ強度の平均濃淡度と標準偏差の値に基づいて、候補領域で煙が発生した可能性が高いか否かを判断することができる。なお、この抽出方法6で用いるエッジ強度とは、例えば、周知技術であるsobelフィルタを用いて画素ごとに算出することができる値のことである。
図6は、本発明の実施の形態1における煙特徴量算出手段31で実施されるエッジ強度の平均濃淡度と標準偏差の値に基づく煙判定に関する説明図である。図6(a)は、煙が発生していない正常な状態として、あらかじめ画像メモリ10に記憶しておいた基準画像である。これに対して、図6(b)は、侵入物として煙が発生した際に撮像された最新の画像である。それぞれの図において、四角で囲まれた部分が、1つの候補領域に相当する。
煙特徴量算出手段31は、図6(a)あるいは図6(b)に示したように、基準画像のエッジ強度と最新の画像のエッジ強度とを算出する。なお、候補領域内でのエッジ強度の評価指標として、煙特徴量算出手段31は、候補領域内で求められたエッジ強度の平均値(平均濃淡度)およびその標準偏差を用いることができる。
ここで、画像を逐次取り込むタイミングである1フレームを約33msとし、1サイクルを128フレーム分の画像を取り込む間隔とし、例えば1サイクル(約4.2s)ごとに最新の画像を更新していく場合を考える。この場合、煙特徴量算出手段31は、1サイクルごとに、最新画像におけるエッジ強度の平均濃淡度と標準偏差を算出する。図6(a)(b)のそれぞれ右側には、候補領域におけるエッジ強度が模式的に示されている。このように、緩慢拡散煙が発生した場合には、エッジ強度の平均濃淡度と標準偏差が徐々に減少することとなる。
そこで、煙特徴量算出手段31は、1サイクルごとに算出される最新画像の平均濃淡度および標準偏差と、あらかじめ算出された基準画像の平均濃淡度および標準偏差とのそれぞれの変化量(差分)を算出する。なおエッジの変化量については、現画像と基準画像との差としたが、エッジの変化率を使用してもよい。
そして、煙特徴量算出手段31は、1サイクルごとに、それぞれの変化量がともに所定の煙判定範囲内に入っているかどうかを判断する。煙特徴量算出手段31は、煙発生を判断するための期間をNサイクル(Nは1以上の整数)としたときに、算出した変化量が所定範囲内である状態がNサイクル間継続する場合に煙が発生した可能性が高いと判断する。
なお、煙特徴量算出手段31は、1サイクルごとに、それぞれの変化量がともに所定の煙判定範囲内に入っている場合に、判定値をカウントアップし、所定の煙判定範囲外である場合には、判定値をカウントダウンして判定値を演算することで、煙の判定を行うようにしてもよい。具体的には、判定値の初期値をゼロとし、カウントアップする場合には+1とし、カウントダウンする場合にはゼロを下限値として−1することが考えられる。
このように1サイクル毎にカウントをすることで、継続してエッジの変化量があるかどうかを判断することができる。煙の場合には、後述するように、人間の場合と違って、継続してエッジの変化があることから、煙と人間とを識別して検出することが可能となる。
最終的に、煙特徴量算出手段31は、1サイクルごとに更新される判定値が、煙判定用のしきい値(例えば10カウント)に到達した場合には、緩慢拡散煙が発生している可能性が高いと判断する。なお、上述の説明では、平均濃淡度と標準偏差の両方の変化状態を見て判定値のカウントをアップダウンさせていたが、それぞれの変化状態に応じて別個のカウンターを用いることもできる。この場合には、いずれか一方のカウント値が煙判定用のしきい値に到達した場合に緩慢拡散煙が発生している可能性が高いと判断することができ、さらに、煙判定用のしきい値自体も別個に持つことができる。
ここで、エッジを利用して特徴量を求めることについて言及する。緩慢煙、特に濃い緩慢拡散煙では、移動物体内部のエッジが微弱であるため、エッジ強度が弱くなるが、人物は移動物体内部のエッジが比較的強い場合が多い。また、やや薄い煙では、半透明のため背景のエッジを弱めるという特徴を持つが、人物部分は背景よりもエッジが強くなることが多い。さらに時間的にみると、緩慢煙の場合は、天井付近に停滞するという特性から連続的なエッジの強度の減少が起こるが、人物の場合は変動するため連続的なエッジの強度の減少が起こりにくい。以上のことからサイクル毎に、そのエッジ強度の平均値等を演算し、基準画像のそれとを比較することで、人間と煙との識別が可能となる。
[抽出方法7:差分画素数に基づく煙検出]
候補領域内で煙が発生した場合には、その煙の影響で、画像内の輝度値が基準画像と比較して徐々に変化することが考えられる。そこで、煙特徴量算出手段31は、候補領域内の各画素について、基準画像と最新画像との輝度値の差分を算出し、算出した差分値が所定の差分しきい値以上である画素を計数する。
なお、所定の差分しきい値としては、全候補領域について一律である必要はなく、各候補領域における基準画像のコントラストの平均に応じて、可変設定することも考えられる。具体的には、候補領域内のコントラストが低い場合には、煙発生によるコントラストの変化は少ないと考えられるため、所定の差分しきい値をコントラストの平均に応じて低い値として設定する。一方、候補領域内のコントラストが高い場合には、煙発生によるコントラストの変化は大きいと考えられるため、所定の差分しきい値をコントラストの平均に応じて高い値として設定する。この結果、候補領域の画像の特性に応じた適切なしきい値設定が可能となり、1画面内の煙検出精度を安定化させることができる。
最終的に、煙特徴量算出手段31は、候補領域内で計数された所定の差分しきい値以上である画素数が、許容値を超えている場合には、緩慢拡散煙が発生している可能性が高いと判断する。なお、この判断に当たっては、このような状態が所定の複数フレーム間に渡って継続した場合に緩慢拡散煙が発生している可能性が高いと判断してもよい。何故なら、監視画像内に移動する人間が現れた場合には、差分しきい値以上の画素が一時は生じるが、継続して、その画素数が許容値を超える場合はほとんどないからである。
なお、この差分画素数の検出を設けることで、照明の変化を誤検出することを防止できる。照明の変化の場合には、一時的な(一瞬だけの)変化であり、変化が継続するということはない。つまり、一旦は、差分しきい値以上の画素数がカウントされるが、数サイクルにわたって、画素数をカウントすると、所定しきい値以上の画素数はほとんどなくなる。これに対して、煙の場合には、継続して画素数をカウントすると所定時間にわたって、所定しきい値以上の画素数がカウントされることから、これをもって、煙と照明とを識別して検出することができる。
また、上述の説明では、128フレーム分に相当する1サイクルごとに演算、判定処理を行っているが、例えば、1サイクル内を分割し、32フレームごとに演算、判定処理を実行することも可能である。
ステップ2:マッピング手段32の機能について
マッピング手段32は、煙特徴量算出手段31による7種類の抽出方法1〜7による抽出結果に基づいて、煙判定を詳細に行うべき候補領域ごとのマッピングを行う。例えば、マッピング手段32は、7種類の抽出方法1〜7のいずれか1つ以上の方法で煙が発生した可能性が高いと判断された領域を「1」に、それ以外の領域を「0」に設定することができる。
また、別のマッピング方法として、マッピング手段32は、2種類以上の複数の抽出方法により煙が発生した可能性が高いと判断された領域を「1」に、それ以外の領域を「0」に設定することができる。あるいは、7種類の抽出方法1〜7の特定の組合せにより、その組合せで共通して煙が発生した可能性が高いと判断された領域を「1」に、それ以外の領域を「0」に設定することができる。特に、緩慢拡散煙を検出するに当たっては、その検出に適した抽出方法5〜7の結果を重視してマッピングすることが考えられる。
図7は、本発明の実施の形態1におけるマッピング手段32により出力されるマッピング結果を示す図である。先の図4で示した候補領域に対して煙に関する特徴量を算出することで、この図7に示したように、候補領域の中から煙が発生した可能性が高い領域を選別することができる。この図7では、扉部分の候補領域(図4参照)は、画像内を通過する通行人等の侵入物の存在によって抽出された領域であって、煙が発生した可能性が低いと判断され、窓の下の3つの候補領域(図4参照)のうちの3つの領域が、煙が発生した可能性が高いと判断された場合を示している。
ステップ3:煙判定手段33の機能
マッピング手段32によりマッピングされた1画面分の各領域のデータに基づいて、煙判定手段33は、「1」としてマッピングされた(候補)領域が、ある所定の領域数にまたがって、所定期間継続して検出されるか否かを判断する。例えば、煙判定手段33は、縦方向あるいは横方向にn(nは2以上の整数)以上の領域がマッピング手段32により「1」としてマッピングされ、かつ過去から現在にかけて順次撮像された時系列の画面にm(mは2以上の整数)回以上連続して、その連結領域が検出された場合に、煙が発生していると最終的に判断することができる。
次に、図1の構成を備えた本発明の煙検出装置の全体処理の流れを、フローチャートに基づいて説明する。図8は、本発明の実施の形態1における煙検出装置の全体処理の流れを示すフローチャートである。
まず、ステップS801において、輝度ヒストグラム作成手段21は、画像メモリ10内に記憶された複数の時系列の画像データに基づいて、所定の画素ごとに輝度ヒストグラムを生成する(図2(a)(b)参照)。次に、ステップS802において、輝度変化判定手段22は、生成された輝度ヒストグラムに基づいて、侵入物あるいは煙の発生により新たに生じた輝度値の存在の有無を検出し、侵入物あるいは煙の発生した可能性が高い画素をマッピング出力する(図3(b)参照)。
次に、ステップS803において、検出候補領域特定手段23は、あらかじめ分割されたエリアごとに、侵入物あるいは煙の発生した可能性が高いとしてマッピングされた画素の比率が、所定値以上あるかないかを判断し、煙検出を行うべき候補領域を特定する(図4参照)。なお、このステップS803において、上述したような前処理1〜3を行うことも可能である。
以上のステップS801〜S803は、煙検出エリア選択部20による一連の処理である。このように、煙検出エリア選択部20により特定された煙検出を行うべき候補領域に対してのみ、ステップS804以降で、煙発生検出部30による煙検出処理が行われることとなる。このため、画像全体を処理する場合に比べ、演算量を減らすことができる。
ステップS804において、煙特徴量算出手段31は、煙検出を行うべき候補領域として特定されたエリアのみ、上述した抽出方法1〜7を用いて、煙に関する特徴量を算出する。次に、ステップS805において、抽出方法1〜6の結果に基づいて、マッピング手段32は、煙が発生した可能性が高い領域をマッピング出力する(図7参照)。
次に、ステップS806において、煙判定手段33は、マッピング手段32による分割領域のマッピング結果の時間的分布、空間的分布に基づいて、最終的に煙が発生したエリアを特定する。
このような一連の処理を行うことにより、煙発生検出部30は、過去一定期間分の輝度ヒストグラムの算出結果から煙検出エリア選択部20により特定された煙検出を詳細に行うべき候補領域に対してのみ、煙に関する特徴量を抽出することで、効率よく煙発生の有無を判断することができる。この結果、外乱の影響を抑えた上で、高感度に煙検出を行うことができる。また、特に煙特徴量抽出手段31として、7つの抽出方法を組み合わせることで、人間などの誤報源となりうるものを排除して、画像から煙だけを検出することが可能となる。
以上のように、実施の形態1によれば、時系列で取り込まれた複数の画像から、所定の画素ごとに、過去一定期間内の輝度のヒストグラムを算出する構成を備えている。この結果、侵入物あるいは煙の発生により新たに生じた輝度値の存在の有無を、容易に検出することができ、外乱の影響を抑えた上で、高感度に煙検出を行うことのできる煙検出装置を得ることができる。
特に、発生前の輝度分布と発生後の輝度分布の輝度差がわずかである場合にも、過去一定期間内の複数の画像に基づく画素ごとに輝度のヒストグラムを求めているため、新たに生じた輝度値の存在を高精度に識別できる。
さらに、新たに生じた輝度値の存在が検出された候補領域にしぼって、煙検出を行うことにより、計算負荷を軽減した上で、誤検出を防止した高精度の煙検出を行うことができる。
さらに、煙検出を行うための特徴量として、複数の特徴量を求め、複数の特徴量に基づく個別の判断結果の特定の組合せにより、その候補領域において煙が発生した可能性が高いか否かを判断することができ、さらなる検出精度の向上を図ることができる。また、煙に関する特徴量の算出に当たって、上述した抽出方法1〜3は、抽出方法4〜7と異なり、基準画像をあらかじめ記憶しておく必要がない。従って、抽出方法4〜7を用いずに特徴量を求める場合には、基準画像が不要となるメリットも得られる。
さらに、煙が特定の領域に広がる特性を利用して、煙が発生した可能性が高いとしてマッピングされた領域が、ある所定の領域数にまたがって、所定期間継続して検出された場合に煙が発生したと判定する煙判定手段を備えている。この結果、誤検出を抑制し、安定した高精度の煙検出を実現できる。特に、抽出方法5〜7を用いることで、緩慢拡散煙を高精度に検出することができる。
本発明は、以上のように構成されるので、過去の複数枚の画像から輝度のヒストグラムを算出し、確率の小さい輝度を侵入物として検出するので、輝度差の少ない煙でも高感度に領域抽出をすることができ、また、照明変化などの影響も吸収することができる。また、画素毎にヒストグラムを計算することは、記憶量、計算量ともに膨大であるため、隣接する画素間でヒストグラムを共有させることによって、計算量を減少させた。
なお、本発明では、輝度ヒストグラム作成手段や輝度変化判定手段により、画像内から煙候補領域を抽出するようにしたが、例えば、画像をマトリクス状に複数の小さな検出領域に分割した後、各検出領域のコントラストを演算し、コントラストの値が低下した領域を煙候補領域と判定するようにしてもよい。この場合には、この領域のコントラストの低下を検出する手段が、煙検出エリア選択部の構成手段となる。
本発明では、一枚の画像を縦7*横10の領域に分割して、各領域での煙の特徴量を演算するようにしたが、より領域を細かく分割して、各領域を重なりあわせるようにしてもよい。例えば、一つの領域の大きさ自体は、図3の領域と同じにして、画面における領域の設定の仕方を以下のように変える。つまり、隣り合う領域同士が縦方向も横方向も、それぞれ領域が1/2ずつ重なりをもつように領域を設定する。つまり、図3における一つの領域が、実質的には、9つの領域によって、カバーされることになり、一つの画像をより細かく領域設定することができ、煙検出の精度をより高めることが可能となる。
このような領域分割をすることによって、領域のつなぎ目の検出が不安定にならないようにすることができる。なお、この場合には、最終の煙の有無の判定は、図3の領域の1/4の大きさのマス目が、どれだけマッピングされたかにより煙判定を行うようにすればよい。
1 カメラ、10 画像メモリ、20 煙検出エリア選択部、21 輝度ヒストグラム作成手段、22 輝度変化判定手段、23 検出候補領域特定手段、30 煙発生検出部、31 煙特徴量算出手段、32 マッピング手段、33 煙判定手段。

Claims (1)

  1. 監視カメラにより撮像された画像に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、
    前記監視カメラにより時系列で撮像された複数の画像および基準画像を記憶する画像メモリと、
    前記撮像された画像をあらかじめ分割した複数のエリアの中から、煙が発生する候補領域として過去一定期間分の輝度ヒストグラムの算出結果から特定された煙検出エリアにおいて、前記監視カメラにより撮像された最新の画像の輝度値と、前記基準画像の輝度値との差分が、前記基準画像内の煙検出エリア内に含まれる画素の輝度値の平均値の高低に応じた所定の差分しきい値以上である画素を計数し、計数した前記画素が所定許容値を超えた場合に煙が発生した可能性が高いと判断して第1の判断結果を生成するとともに、煙が発生する候補領域として過去一定期間分の輝度ヒストグラムの算出結果から特定された煙検出エリアにおいて、前記監視カメラにより撮像された最新の画像と前記基準画像との間で、エッジ強度の平均値の差分を第1変化量、標準偏差の差分を第2変化量として所定サイクルごとに算出し、煙発生を判断するための期間をNサイクル(Nは1以上の整数)としたときに、前記第1変化量が第1所定範囲内である状態が前記Nサイクル間継続する場合、または前記第2変化量が第2所定範囲内である状態が前記Nサイクル間継続する場合に煙が発生した可能性が高いと判断して第2の判断結果を生成し、前記第1の判断結果および前記第2の判断結果の少なくともいずれか1つにおいて煙が発生した可能性が高いと判断することで、前記煙検出エリアにおいて煙が発生した可能性が高いと判断する煙発生検出部と
    を備えることを特徴とする煙検出装置。
JP2009086277A 2009-03-31 2009-03-31 煙検出装置 Active JP5518359B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009086277A JP5518359B2 (ja) 2009-03-31 2009-03-31 煙検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009086277A JP5518359B2 (ja) 2009-03-31 2009-03-31 煙検出装置

Publications (2)

Publication Number Publication Date
JP2010238032A JP2010238032A (ja) 2010-10-21
JP5518359B2 true JP5518359B2 (ja) 2014-06-11

Family

ID=43092279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009086277A Active JP5518359B2 (ja) 2009-03-31 2009-03-31 煙検出装置

Country Status (1)

Country Link
JP (1) JP5518359B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118698A (ja) * 2010-11-30 2012-06-21 Fuji Heavy Ind Ltd 画像処理装置
JP2013217915A (ja) * 2012-03-12 2013-10-24 Hitachi High-Tech Science Corp 蛍光x線分析装置及び蛍光x線分析方法
JP2013206328A (ja) * 2012-03-29 2013-10-07 Fuji Heavy Ind Ltd 物体検出装置
JP5792671B2 (ja) * 2012-03-30 2015-10-14 Jx日鉱日石エネルギー株式会社 異常検知方法及び異常検知装置
JP5902990B2 (ja) * 2012-04-13 2016-04-13 日立建機株式会社 自走式産業機械の画像処理装置
JP5648712B2 (ja) * 2012-07-27 2015-01-07 株式会社リコー 付着物検出装置、移動体機器制御システム、及びプログラム
JP6095049B2 (ja) * 2012-11-21 2017-03-15 能美防災株式会社 煙検出装置
JP5971761B2 (ja) * 2013-03-26 2016-08-17 能美防災株式会社 煙検出装置および煙検出方法
JP6096589B2 (ja) * 2013-05-22 2017-03-15 ホーチキ株式会社 火災検知装置及び火災検知方法
JP6139977B2 (ja) * 2013-05-22 2017-05-31 ホーチキ株式会社 火災検知装置及び火災検知方法
JP6139982B2 (ja) * 2013-05-24 2017-05-31 ホーチキ株式会社 火災検知装置及び火災検知方法
CN103456123B (zh) * 2013-09-03 2016-08-17 中国科学技术大学 一种基于流动和扩散特征的视频烟气探测方法
JP6378483B2 (ja) * 2013-12-27 2018-08-22 株式会社メガチップス 検出装置、検出対象物の検出方法及び制御プログラム
JP6457729B2 (ja) * 2014-04-01 2019-01-23 能美防災株式会社 層流煙検出装置および層流煙検出方法
JP6457727B2 (ja) * 2014-04-01 2019-01-23 能美防災株式会社 層流煙検出装置および層流煙検出方法
JP6457728B2 (ja) * 2014-04-01 2019-01-23 能美防災株式会社 層流煙検出装置および層流煙検出方法
JP6412345B2 (ja) * 2014-06-12 2018-10-24 株式会社Subaru 車外環境認識装置
JP6322128B2 (ja) * 2014-12-03 2018-05-09 能美防災株式会社 煙検出装置および煙検出方法
WO2016143754A1 (ja) * 2015-03-09 2016-09-15 コニカミノルタ株式会社 ガス漏れ位置推定装置、ガス漏れ位置推定システム、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム
JP6852436B2 (ja) * 2017-02-09 2021-03-31 富士通株式会社 画像処理プログラム、画像処理方法及び画像処理装置
JP6317490B2 (ja) * 2017-02-16 2018-04-25 ホーチキ株式会社 火災検知装置及び火災検知方法
JP2017168117A (ja) * 2017-04-28 2017-09-21 ホーチキ株式会社 火災検知装置及び火災検知方法
US11710228B2 (en) * 2021-03-05 2023-07-25 Applied Materials, Inc. Detecting an excursion of a CMP component using time-based sequence of images and machine learning
CN116824166B (zh) * 2023-08-29 2024-03-08 南方电网数字电网研究院股份有限公司 输电线路烟雾识别方法、装置、计算机设备和存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3759280B2 (ja) * 1997-04-15 2006-03-22 富士通株式会社 道路監視用事象検知装置
JP4926602B2 (ja) * 2006-08-17 2012-05-09 能美防災株式会社 煙検出装置

Also Published As

Publication number Publication date
JP2010238032A (ja) 2010-10-21

Similar Documents

Publication Publication Date Title
JP5518359B2 (ja) 煙検出装置
JP4653207B2 (ja) 煙検出装置
US8208723B2 (en) Smoke detecting apparatus
JP4729610B2 (ja) 煙検出装置
US5937092A (en) Rejection of light intrusion false alarms in a video security system
US6104831A (en) Method for rejection of flickering lights in an imaging system
JP6322128B2 (ja) 煙検出装置および煙検出方法
JP6372854B2 (ja) 煙検出装置および煙検出方法
JP5286113B2 (ja) 煙検出装置
JP6386352B2 (ja) 煙検出装置
JP4926602B2 (ja) 煙検出装置
JP6617015B2 (ja) 炎検出装置および炎検出方法
JP2003051076A (ja) 侵入監視装置
WO2012081969A1 (en) A system and method to detect intrusion event
JP2011215804A (ja) 煙検出装置
JP5302926B2 (ja) 煙検出装置
JP6593791B2 (ja) 炎検出装置および炎検出方法
JP6664689B2 (ja) 炎検出装置
JP6081786B2 (ja) 煙検出装置
JP5215707B2 (ja) 煙検出装置
JP6322127B2 (ja) 煙検出装置および煙検出方法
JP2009010594A (ja) 画像センサ
Liu et al. Fire detection in radiant energy domain for video surveillance
JP2015197788A (ja) 層流煙検出装置および層流煙検出方法
JP3490196B2 (ja) 画像処理装置及びその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110929

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20111111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140402

R150 Certificate of patent or registration of utility model

Ref document number: 5518359

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250