JP5988716B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP5988716B2 JP5988716B2 JP2012131898A JP2012131898A JP5988716B2 JP 5988716 B2 JP5988716 B2 JP 5988716B2 JP 2012131898 A JP2012131898 A JP 2012131898A JP 2012131898 A JP2012131898 A JP 2012131898A JP 5988716 B2 JP5988716 B2 JP 5988716B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- unit
- correlation
- feature
- feature quantity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
画像処理による自動監視システムも、様々なアルゴリズムによる手法が提供されてきているが、屋外の道路固有の問題によって性能が確保しきれていない。
例えば、従来より存在する突発事象発見アルゴリズムの一つに、車両をパターンマッチングで追従し、そのベクトル(移動方向、移動速度)より突発事象の発生を類推するシステムがある。
これは、車両の移動方向が許容範囲より外れれば「車両の迷走」と判断し、落下物を回避する行動だったのではないかと類推し、また、車両の移動速度が許容範囲を上回れば「車両の速度超過」と判断すると言ったものである。
図9において、ビデオ入力部100は、映像信号を入力する。
A/D変換部200は、ビデオ入力部100から入力される映像を量子化する。
画像蓄積部300は、A/D変換部200から所定の周期にて入力される画像の2フレーム前の画像を蓄積し、画像蓄積部400は、1フレーム前の画像を蓄積する。
差分部500は、2フレーム前の画像と1フレーム前の画像を比較し、差分を抽出する。
テンプレート作成部600は、差分部500にて抽出された差分により、対象車両のテンプレート画像を作成する。
パターンマッチング部700は、テンプレート作成部600にて作成されたテンプレート画像により、対象車両を検索する。
ベクトル算出部800は、パターンマッチング部700の検索結果により、対象車両の移動方向と移動速度を算出する。
突発事象判断部900は、ベクトル算出部800にて算出された情報により、突発事象の発生を類推し、突発事象が発生したと判断した場合に、警報出力1000する。
図11は図9の画像蓄積部400に蓄積される画像例であり、矢印部分が対象車両である。図10より若干新しい画像であり、該当車両が前進している。
図12は現画像であり、矢印部分が対象車両である。図11より更に新しい画像であり、該当車両が更に前進している。
図9において、外部から画像処理装置に与えられた映像信号は、ビデオ入力部100にて受け取り、A/D変換部200に送られる。
A/D変換部200では、受け取ったビデオ信号を後の処理のためにデジタルデータに変換する。1画素当たり8ビットの多値データに変換するのが一般的である。
画像蓄積部300では、2フレーム前に入力された画像データを蓄積し、後の処理に備える。
画像蓄積部400では、1フレーム前に入力された画像データを蓄積し、後の処理に備える。
その画像は、例えば、図10および図11の様なものである。
また、現画像を図12に示す。
対象車両が、図10、図11、図12と徐々に前進しているのが見れる。
差分画像の一般的作成方法は、全画素において輝度差の絶対値を算出し、それを差分画像とする方法である。
車両の存在する場所は、存在しない場所より大きな差分値が得られる。
図10と図11の差分画像例を、図13に示す。
記憶した座標を元に、画像蓄積部300,400の画像を参照し、実際の該当座標の画像を切り出す。
切り出された画像が、テンプレート画像となる。
外接矩形の例、テンプレート画像の例を、図14、図15に示す。
一般に、この作業は「テンプレートマッチング」とよばれ、現画像に対してテンプレート画像と一致する画像部分を、総当たりで検索する作業である。
検索の際は、テンプレート画像の縮尺も変更してマッチングを行うと、発見精度が高まる。
図16は、現画像に図15のテンプレート画像を総当たりで検索し、発見した様子の例を示す。
突発事象判断部900では、ベクトル算出部800での算出結果が予め指示されている「速度の許容範囲」と「方向の許容範囲」を超過するか否かを判断し、超過した場合は警報出力1000する。
なお、下記特許文献1は、公知の速度検出方法として「テンプレートマッチング」に言及している。
また、下記特許文献2は、「テンプレートマッチング」の使用による速度検出に言及している。
しかし、屋外でのテンプレートマッチングには、様々な精度劣化の要因が存在する。
例えば、図17では、夜間の道路状況を示している。
夜間は、照度が不足し、カメラは、シャッタースピードを遅く、絞りも開く。
その結果、高速で移動する車両は、輪郭が崩れて撮影される。
併せて、ヘッドライトやテールランプといった昼間に存在しなかった障害物が現れる。
その結果、差分部500にて差分画像を作成する際、明確な車両形状が切り出されない。
逆に、車両ではないはずの「ヘッドライトが照らす路面」や「テールランプの軌跡」が不要に切り出されて、誤ったテンプレート画像が作成される。
その結果、テンプレートマッチングの精度は、著しく劣化し、夜間の突発事象判断の精度は、著しく劣化する。
渋滞が続き、車両がカメラから見て重なって撮像されている。
その結果、対象車両は全体が見えず、逆に差分部500では、数珠繋ぎになった一連の車両列が、差分画像として切り出される。
これら車両列が不要に切り出されて、誤ったテンプレート画像が作成される。
その結果、テンプレートマッチングの精度は、著しく劣化し、渋滞時の突発事象判断の精度は、著しく劣化する。
夕陽が低い位置より路面を照らし、車両の影が長く伸びている。
その結果、影は常に車両に連結して移動し、差分部500では、車両のみならず、そこより伸びた影も車両と同様に、差分画像として切り出される。
これら影が車両に付随して不要に切り出されて、誤ったテンプレート画像が作成される。
その結果、テンプレートマッチングの精度は、著しく劣化し、夕方の突発事象判断の精度は、著しく劣化する。
図1は本発明の実施の形態1による画像処理装置の突発事象判断アルゴリズムを示す構成図である。
図1において、ビデオ入力部1は、映像信号を入力する。
A/D変換部2は、ビデオ入力部1から入力される映像を量子化する。
画像蓄積部3は、A/D変換部2から所定の周期にて入力される画像の、例えば、1フレーム前の画像を記憶する。
画像蓄積部4は、同様に、例えば、現画像を記憶する。
差分部5は、1フレーム前の画像と現画像を比較し、差分画像を抽出する。
時系列特徴量学習記憶部6aは、ブロック単位特徴量算出部6にて、10回/秒のペースで算出される特徴量を、1時間単位で1週間24時間分、ヒストグラム化することにより集計し、時間毎および曜日毎にブロック単位の特徴量の一般的な発生状況を学習して記憶する。
時系列特徴量相関学習記憶部7aは、ブロック単位特徴量相関算出部7にて、10回/秒のペースで算出される隣接ブロック間の特徴量の相関関係の強さを、1時間単位で1週間24時間分、ヒストグラム化することにより集計し、時間毎および曜日毎に隣接ブロック間の特徴量の相関関係の一般的な発生状況を学習して記憶する。
特徴量相関比較部9は、ブロック単位特徴量相関算出部7により算出された現画像の隣接ブロック間の特徴量の相関関係の強さと、時系列特徴量相関学習記憶部7aにより記憶された現画像に該当する同一時間および同一曜日における同一の隣接ブロック間の特徴量の相関関係の一般的な発生状況(学習記憶データ)との比較に応じて、突発事象の発生を判断し、警報出力10する。
外部から画像処理装置に与えられた映像信号は、ビデオ入力部1にて受け取り、A/D変換部2に送られる。
A/D変換部2では、受け取ったビデオ信号を後の処理のためにデジタルデータに変換する。
1画素当たり8ビットの多値データに変換するのが一般的である。
画像蓄積部3では、入力された画像を蓄積し、後の処理に備える。例として、ここでは、1フレーム前の画像を蓄積するものとする。
その1フレーム前の画像は、例えば、図2の様なものである。
画像蓄積部4では、入力された現画像を蓄積し、後の処理に備える。
その現画像は、例えば、図3の様なものである。
差分画像の一般的作成方法は、全画素において輝度差の絶対値を算出し、それを差分画像とする方法である。
車両の存在する場所は、存在しない場所より大きな差分値が得られる。
図4に、図2と図3の差分画像例を示す。
図5にブロック分割例を示す。
道路監視の場合は、道路を等面積で分割するのが望ましいが、必須ではない。
更に、そのブロック毎に、差分部5より入力される差分画像を重ね、差分のあるブロックを特定する。
図6では、2つの車両の差分画像が見えるが、図5の現画像に該当するのは、手前の車両であるため、手前の車両を囲むブロックを該当ブロックとする(ブロックU,V,X,Y)。
なお、該当ブロックは、手前の車両だけではなく、奥手の車両も加えても良く、更に、差分画像が含まれる全てのブロックを対象にしても良い。
(1)面積 一定量の差分が確認された画素数をカウントする。
(2)輝度 画像蓄積部にある画像で、(1)に該当する画素の平均輝度を求める。
(3)色 画像蓄積部にある画像で、(1)に該当する画素の平均RGB値を求める。
(4)エッジ量 画像蓄積部にある画像で、(1)に該当する画素のみでエッジ抽出を行い、一定強度を有するエッジ画素数をカウントする。
ここで、エッジ量について、もう少し詳しく説明する。
(1)に該当する画素を対象に、隣接する画素間の輝度差をエッジ強度とする。
例えば、輝度50と輝度150の画素間では、輝度差が100なので、エッジ強度も100とする。
このエッジ強度を、例えば、閾値80で2値化し、“1”となった部分をエッジとする。
よって、エッジ強度100は、2値化後“1”となる。
この作業をエッジ抽出とする。
エッジ量は、抽出されたエッジの総量をカウントすることにより得られる。
なお、(1),(4)は、遠近補正を行い、数字が直接比較できるように正規化することが望ましい。
ここでは、以上の処理を、例として、10回/秒行う。
ヒストグラムは、各ブロック毎に全特徴量数だけ用意され、かつ1週間24時間分存在する。
図7に、ブロックXの月曜16時台の特徴量「面積」のヒストグラム例を示す。
図7における、横軸が画素数、縦軸が発生頻度である。
10回/秒のペースで算出される特徴量「面積」を画素数に見たてて、ヒストグラムの横軸である画素数の該当箇所に投票する。
1時間の間に(10×60×60=)36000回投票される。
よって、ヒストグラムの縦軸である発生頻度を全て合計すると、36000になる。
同様に「面積」「輝度」「色」「エッジ量」のヒストグラムを作成後、更に、これらヒストグラムより、下記二次的な特徴量も算出する。
a)最多面積 路肩に該当するブロックでは小さい
b)発生頻度 ブロック内の通過車両数に比例
(2)輝度に対する二次的な特徴量例
a)最多輝度 夜間は高輝度に偏る
b)発生頻度 ブロック内の通過車両数に比例
c)分散値 夜間であれば照明の有無に逆比例
(3)色に対する二次的な特徴量例
a)最多色 夜間は赤か白に偏る、日中で影が有れば黒が突出してくる
b)発生頻度 ブロック内の通過車両数に比例
c)分散値 夜間は分散が減る
(4)エッジ量に対する二次的な特徴量例
a)縦エッジ横エッジ比 夜間は1に近づく
以上の「特徴量」「二次的特徴量」を1時間単位でヒストグラム化して記憶する。
更に、1週間に1時間、このヒストグラムが新たなデータで更新される。
季節的要因も、ここで平均化される。
まず、平面的相関を見る。以下のような例。
該当ブロックUに対して、その周辺8ブロック間で、特に相関が認められるブロックと特徴量は以下。
(1)ブロックU,V 面積/輝度/色 相関関係「中」
(2)ブロックU,X 面積/輝度/色 相関関係「強」
該当ブロックXに対して、1処理サイクル前の周辺8ブロック間で特に相関が認められるブロックと特徴量は以下。
(1)1処理サイクル前のブロックU、現サイクルのブロックX 面積/輝度/色 相関関係「強」
相関関係の強度は、3〜5段階で示すのが有効であるが、特に制限はない。
また、上記では、平面的相関は、該当ブロックの周囲ブロック(8ブロック)で見たが、これは必須ではない。
時間的相関は、1処理サイクル前の周囲ブロック(8ブロック)で見たが、これも必須ではない。
画像処理装置の演算力に合わせて、範囲は拡大縮小しても良い。
データは、1週間24時間分用意され、全ての特徴量相関関係強度に対し、各個に集計される。
ここで、重要なのは、時系列特徴量学習記憶部6aが曜日別、時間別に特徴量を集計するので、時系列特徴量学習記憶部6aから出される学習記憶データが、環境変化に自動的に対応する点である。
しかし、図17にて、時系列特徴量学習記憶部6aから出される該当ブロックの学習記憶データでは、特徴量「色」がオレンジ、特徴量「面積」が100画素程度のテールランプの特徴量が蓄積されている。
これを利用すると、特徴量比較部8では、車両のテールランプの動きを元に、正常な動きの判断が可能となる。
逆に、このテールランプの特徴量に反する動きが有れば、それが突発事象の発生と判断できる。
例えば、特徴量「色」が白、特徴量「面積」が500画素の面積の移動が抽出されたら、逆行した車両が迷走している恐れがある。
これにより、警報出力10することができる。
しかし、図18にて、時系列特徴量学習記憶部6aから出される該当ブロックの学習記憶データでは、特徴量「面積」が1000画素、特徴量「エッジ量」が縦エッジ「大」の、混雑した車両が連結している場合の特徴量が蓄積されている。
これを利用すると、特徴量比較部8では、車両の混雑・連結発生を元に、正常な動きの判断が可能となる。
逆に、混雑・連結の特徴量に反する動きが有れば、それが突発事象の発生と判断できる。
例えば、特徴量「面積」が10画素、特徴量「エッジ量」が縦エッジ「小」の特徴量が抽出されたら、事故車両が道をふさいで、局部的に通行不可エリアができた恐れがある。
これにより、警報出力10することができる。
しかし、図19にて、時系列特徴量学習記憶部6aから出される該当ブロックの学習記憶データでは、特徴量「面積」が500画素の一般的車両通行時の特徴を示す。
それは、特徴量をブロック単位で比較するため、他のブロックに存在しているであろう影の有無は別判定となり、該当ブロックには影響しないためである(後述の相関情報には影響がある)。
これを利用すると、特徴量比較部8では、正常な動きの判断が可能となる。
ここでも、重要なのは、時系列特徴量相関学習記憶部7aが曜日別、時間別に隣接ブロック間の特徴量の相関関係の強さを集計するので、時系列特徴量相関学習記憶部7aから出される学習記憶データが、環境変化に自動的に対応する点である。
したがって、図18にて、時系列特徴量相関学習記憶部7aから出される該当ブロックの学習記憶データでは、ブロックをまたいで強い相関が現れ、これを利用すると、特徴量相関比較部9では、車両の影の発生を元に、正常な動きの判断が可能となる。
また、時間的相関では、速度が極端に異なる車両が存在する場合、学習記憶データで強い相関があった場所が、逆に相関が弱まる。
その場合は、速度超過車両、もしくは停止車両がいる可能性があり、これにより、警報出力10することができる。
なお、その結果、画像処理装置の設置時の現地調整は不要となる。
なお、特徴量比較部8、特徴量相関比較部9は、それぞれの個別の比較結果から突発事象の発生の判断を行ったが、特徴量比較部8の比較結果と特徴量相関比較部9の比較結果との協同により、突発事象の発生の判断を行っても良く、より精度良く行うことができる。
図8は本発明の実施の形態2による画像処理装置の突発事象判断アルゴリズムを示す構成図である。
図8において、時系列特徴量学習記憶部6bは、警報出力10のフィードバック11に応じて、ブロック単位特徴量算出部6により算出されたブロック単位の特徴量のうちの、突発事象が発生したブロック単位の特徴量を集計から外すものである。
また、時系列特徴量相関学習記憶部7bは、警報出力10のフィードバック11に応じて、ブロック単位特徴量相関算出部7により算出された隣接ブロック間の特徴量の相関関係の強さのうちの、突発事象が発生した隣接ブロック間の特徴量の相関関係の強さを集計から外すものである。
その他の構成については、図1と同様である。
警報出力10された場合に、時系列特徴量学習記憶部6bおよび時系列特徴量相関学習記憶部7bにフィードバック11される。
時系列特徴量学習記憶部6bは、警報出力10のフィードバック11に応じて、ブロック単位特徴量算出部6により算出され、突発事象が発生したブロック単位の特徴量をヒストグラムの集計から外す。
また、時系列特徴量相関学習記憶部7bは、警報出力10のフィードバック11に応じて、ブロック単位特徴量相関算出部7により算出され、突発事象が発生した隣接ブロック間の特徴量の相関関係の強さをヒストグラムの集計から外す。
また、時系列特徴量相関学習記憶部7bが、突発事象が発生した隣接ブロック間の特徴量の相関関係の強さを集計から外すようにしたので、過った学習を回避し、継続的に正しい学習を続けることができるため、長期的運用の際の信頼度を向上させることができる。
Claims (6)
- 所定の周期にて入力される画像のフレーム毎の差分画像を抽出する差分手段と、
入力される上記画像を複数のブロックに分割すると共に、上記差分手段により抽出された差分画像が生じたブロックを特定し、該特定したブロック単位の特徴量を算出するブロック単位特徴量算出手段と、
上記ブロック単位特徴量算出手段により算出されたブロック単位の特徴量を時間帯毎に集計し、時間帯毎にブロック単位の特徴量の一般的な発生状況を学習して記憶する時系列特徴量学習記憶手段と、
上記ブロック単位特徴量算出手段により算出されたブロック単位の特徴量と、上記時系列特徴量学習記憶手段により記憶された該当する時間帯における同一のブロック単位の特徴量の一般的な発生状況との比較に応じて突発事象の発生を判断する特徴量比較手段と、
上記ブロック単位特徴量算出手段により算出されたブロック単位の特徴量に基づいて、特徴量が算出されたブロックと隣接ブロックとのブロック単位の特徴量の比較に応じて隣接ブロック間の特徴量の相関関係の強さを算出するブロック単位特徴量相関算出手段と、
上記ブロック単位特徴量相関算出手段により算出された隣接ブロック間の特徴量の相関関係の強さを時間帯毎に集計し、時間帯毎に隣接ブロック間の特徴量の相関関係の一般的な発生状況を学習して記憶する時系列特徴量相関学習記憶手段と、
上記ブロック単位特徴量相関算出手段により算出された隣接ブロック間の特徴量の相関関係の強さと、上記時系列特徴量相関学習記憶手段により記憶された該当する時間帯における同一の隣接ブロック間の特徴量の相関関係の一般的な発生状況との比較に応じて突発事象の発生を判断する特徴量相関比較手段と
を備えた画像処理装置。 - 上記時系列特徴量学習記憶手段は、
突発事象が発生した場合に、該突発事象が発生したブロック単位の特徴量を集計から外すことを特徴とする請求項1記載の画像処理装置。 - 上記時系列特徴量相関学習記憶手段は、
突発事象が発生した場合に、該突発事象が発生した隣接ブロック間の特徴量の相関関係の強さを集計から外すことを特徴とする請求項1記載の画像処理装置。 - 上記ブロック単位特徴量算出手段は、
特徴量として、面積、輝度、色、およびエッジ量のうちの少なくとも一つを算出することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像処理装置。 - 上記時系列特徴量学習記憶手段は、
ブロック単位の特徴量を1時間単位で1週間24時間分、ヒストグラム化することにより集計することを特徴とする請求項1から請求項4のうちのいずれか1項記載の画像処理装置。 - 上記ブロック単位特徴量相関算出手段は、
上記ブロック単位特徴量算出手段により今回算出されたブロックの特徴量と、前回算出された隣接ブロックとのブロック単位の特徴量との比較に応じて隣接ブロック間の特徴量の相関関係の強さを算出することを特徴とする請求項1記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012131898A JP5988716B2 (ja) | 2012-06-11 | 2012-06-11 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012131898A JP5988716B2 (ja) | 2012-06-11 | 2012-06-11 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013257630A JP2013257630A (ja) | 2013-12-26 |
JP5988716B2 true JP5988716B2 (ja) | 2016-09-07 |
Family
ID=49954047
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012131898A Expired - Fee Related JP5988716B2 (ja) | 2012-06-11 | 2012-06-11 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5988716B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6329417B2 (ja) * | 2014-03-31 | 2018-05-23 | 株式会社Subaru | 車外環境認識装置 |
JP2016024651A (ja) * | 2014-07-22 | 2016-02-08 | 沖電気工業株式会社 | 状態判定システム、状態判定方法及びプログラム |
DE102019208216A1 (de) * | 2019-06-05 | 2020-12-10 | Conti Temic Microelectronic Gmbh | Detektion, 3D-Rekonstruktion und Nachverfolgung von mehreren relativ zueinander bewegten starren Objekten |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007209008A (ja) * | 2003-10-21 | 2007-08-16 | Matsushita Electric Ind Co Ltd | 監視装置 |
JP4209826B2 (ja) * | 2004-09-29 | 2009-01-14 | 三菱電機株式会社 | 交通流監視装置 |
-
2012
- 2012-06-11 JP JP2012131898A patent/JP5988716B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2013257630A (ja) | 2013-12-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11700457B2 (en) | Flicker mitigation via image signal processing | |
CN107730481B (zh) | 一种交通信号灯图像处理方法及交通信号灯图像处理装置 | |
US20170091566A1 (en) | Vehicle exterior environment recognition apparatus | |
CN107507142B (zh) | 信号灯图像处理方法 | |
US8204305B2 (en) | Daytime and nighttime image recognizing method and apparatus | |
US10037473B2 (en) | Vehicle exterior environment recognition apparatus | |
US20150278615A1 (en) | Vehicle exterior environment recognition device | |
KR101432440B1 (ko) | 화재 연기 감지 방법 및 장치 | |
US10121083B2 (en) | Vehicle exterior environment recognition apparatus | |
CN105812674A (zh) | 一种信号灯的颜色修正方法、监控方法及装置 | |
JP6420650B2 (ja) | 車外環境認識装置 | |
US20200151912A1 (en) | Vehicle surroundings recognition apparatus | |
Hsu et al. | Real-time traffic parameter extraction using entropy | |
CN104156727A (zh) | 一种基于单目视觉的灯光倒影检测的方法 | |
JP5988716B2 (ja) | 画像処理装置 | |
KR101026778B1 (ko) | 차량 영상 검지 장치 | |
JP2015207211A (ja) | 車両検出装置、およびシステム、ならびにプログラム | |
JP2018107665A (ja) | 撮像装置、汚れ検知システム、及び、汚れ検知方法 | |
US8818093B2 (en) | Method and device for analyzing an image of an image recording device for a vehicle | |
JP2018526922A (ja) | グレア検出方法及び装置 | |
CN105740841B (zh) | 一种车辆检测模式的确定方法和装置 | |
JP2017097497A (ja) | 車外環境認識装置 | |
CN110020575B (zh) | 车辆检测装置及方法、电子设备 | |
US20240212196A1 (en) | Methods and devices for setting a threshold in an object detection system | |
KR101564394B1 (ko) | 입력영상의 주간 및 야간 인식 방법 및 그 기록 매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150515 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160421 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160426 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160621 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160712 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160809 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5988716 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |