JP6091079B2 - 制御装置、制御方法及びプログラム - Google Patents

制御装置、制御方法及びプログラム Download PDF

Info

Publication number
JP6091079B2
JP6091079B2 JP2012101584A JP2012101584A JP6091079B2 JP 6091079 B2 JP6091079 B2 JP 6091079B2 JP 2012101584 A JP2012101584 A JP 2012101584A JP 2012101584 A JP2012101584 A JP 2012101584A JP 6091079 B2 JP6091079 B2 JP 6091079B2
Authority
JP
Japan
Prior art keywords
event
camera
control device
control
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012101584A
Other languages
English (en)
Other versions
JP2013229810A (ja
JP2013229810A5 (ja
Inventor
正夫 赤石
正夫 赤石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012101584A priority Critical patent/JP6091079B2/ja
Priority to US13/865,761 priority patent/US8965171B2/en
Publication of JP2013229810A publication Critical patent/JP2013229810A/ja
Publication of JP2013229810A5 publication Critical patent/JP2013229810A5/ja
Application granted granted Critical
Publication of JP6091079B2 publication Critical patent/JP6091079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、制御装置、制御方法及びプログラムに関するものである。
従来、映像監視システムにおいて動体を検知して録画を行う際、画像認識後に検知イベントを発生させ録画を開始するため、動体が画角内に侵入した時点の画像は録画されない。そのため、動体が画角内に侵入した時点の画像を録画するためには、イベント発生前の画像を記憶媒体に蓄積しておく必要があった。
イベント発生前の画像を蓄積しておくために、例えば、特許文献1では、イベント発生前の映像を一時蓄積データベースに蓄積しておく。そして、蓄積しておいた映像とイベント発生後のライブ映像とを連続したストリームにして監視端末に配信する技術が開示されている。
特開2007−251646号公報
しかしながら、前述の特許文献1に開示された従来技術では、録画を行うイベント発生前の映像の長さが不明であるため、イベント発生前の動体検知開始時の映像が録画されているかどうかが不明である問題点があった。
本発明は前述の問題点に鑑み、イベント前の画像を録画する時間の設定をせずに、イベント発生前の動体検知開始時の映像を録画できるようにすることを目的とする。
本発明の制御装置は、カメラによって撮像された映像を解析して、前記映像に含まれる物体が所定の状態となってから所定の経過時間が経つと、イベントを発生させるイベント発生手段と、前記イベント発生手段によってイベントが発生されると、蓄積手段に前記カメラによって撮像された映像を蓄積させる制御手段とを有し、前記制御手段は、前記イベント発生手段によって発生したイベントに対して設定された前記経過時間に応じて、前記カメラによって撮像され一時的に記憶された映像のうち、発生したイベントに対して設定された前記経過時間に対応する映像を蓄積するよう、前記蓄積手段への映像の蓄積を制御することを特徴とする。
本発明によれば、イベント発生前の映像を録画する時間の設定が不要になり操作の簡略化が可能になる。
また、イベント種別毎に好適な録画時間を自動で設定することができるので、監視対象の動作をもれなく録画することが可能である。
第1の実施形態を示し、映像監視システムの構成例を示す図である。 ネットワークカメラの構成例を示すブロック図である。 制御装置として機能するクライアントの構成例を示すブロック図である。 ネットワークカメラの制御処理手順の例を示すフローチャートである。 制御装置で実行される制御処理手順の例を示すフローチャートである。 第2の実施形態を示し、バッファの増分算出例を示すフローチャートである。
以下に、本発明の実施形態の詳細について説明する。
(第1の実施形態)
図1は、本実施形態の映像監視システムの構成例を示す図である。図1に示すように、本実施形態の映像監視システムは、ネットワークカメラ100と、クライアント120〜122と、ネットワークカメラ100とクライアント120〜122とを接続するネットワーク150とにより構成されている。クライアント120〜122にはカメラ制御用の通信プロトコルを使用してネットワークカメラ100の制御を行うプログラムが含まれる。本実施形態の映像監視システムは、録画制御装置であるネットワークワークカメラ100で撮影した画像を利用して画像認識処理を行う。
図2に、第1の実施形態におけるネットワークカメラ100の全体構成を表すブロック図を示す。なお、図2では、ネットワークカメラ100を、カメラ部とサーバ部を一体として構成した例を説明するが、本発明は、カメラ部とサーバ部を別体としても構成してもよい。このように別体として構成した形態では、本発明を、画像を録画する録画制御装置であるサーバとして実現してもよい。
図2において、201はレンズ部、202はCCD、203は信号処理部、204は画像解析部、205は符号化部、206は通信処理部である。
以下に、ネットワークカメラ100で撮影された映像データをネットワーク150へ配信するまでの処理を説明する。
レンズ部201から取り込まれた光学映像は、CCD202でRGBデジタルデータに変換された後、信号処理部203へ送られる。信号処理部203では、RGBデジタルデータをYCbCr4:2:0フォーマットまたはYCbCr4:2:2フォーマットのデジタルデータに変換する処理、要求された送信映像の画像サイズへの変換処理、各種フィルター処理などを行い、撮影データを生成する。
生成された撮影データは、画像解析部204に送られると同時に符号化部205へも送られ、画像データをH.264フォーマット、またはJPEGフォーマットへ符号化圧縮する処理を実行する。符号化部205で生成されたH.264の動画ストリームデータまたは各JPEG静止画データは、通信処理部206によりTCP/IP、HTTPあるいはRTPなどのネットワークプロトコルに従って、ネットワーク150を経由して各クライアントに配信される。本実施形態においては、クライアント120〜122へデータを配信する。
画像解析部204では、撮影された画像データを解析して目的とする画像中に被写体や指定条件の画像パターンが含まれているかどうかを検出する処理を行う。信号処理部203、画像解析部204、符号化部205、通信処理部206の各処理ブロックは後述のCPU211と接続されている。
207はカメラ制御部で、モーター駆動部208、レンズ駆動部210と接続されている。カメラ制御部207は、後述のCPU211からの指示に従ってカメラのパン、チルト、ローテーション動作のための制御信号や、ズームやAF(オートフォーカス)動作のための制御信号を出力する。
モーター駆動部208は、モーター駆動回路などを備えており、カメラ制御部207からの制御信号に従ってパン、チルト、ローテーションモーター209を駆動する。ローテーションモーターの回転によってカメラの撮影方向を変えることが可能となる。
210はレンズ駆動部であり、ズーム、AFなどの各制御を行うためのモーターとモーター駆動回路を備えていて、カメラ制御部207からの制御信号に従って制御される。
211はCPU(中央演算処理装置)であり、後述のROM212に格納されている制御プログラムコードを実行することで、装置全体の動作が制御される。CPU211にはROM(リードオンリーメモリ)212、RAM(ランダムアクセスメモリ)213、フラッシュメモリ214が接続されている。
また、CPU211は信号処理部203、画像解析部204、符号化部205、通信処理部206とも接続されており、CPU211は各モジュールに対して動作の開始・停止、動作条件の設定、動作結果の取得などを実行することで各モジュールの制御を行う。CPU211の動作については、後述のフローチャートにより詳細に説明する。
ROM212には、CPU211がアプリケーション処理など本装置の制御を行うためのプログラムコードやデータが格納されている。
RAM213は、CPU211がROM212のプログラムを実行する際に、データの書き込み、読み出しを行うメモリである。このRAM213には、CPU211が装置制御におけるプログラム実行に使用するワークエリア、一時退避エリアなどが備えている。
次に、図3に、第1の実施形態における制御装置として設けられているクライアント120〜122の全体構成を示す。
クライアント120〜122には、キーボード301、マウス302、ディスプレイ303、CPU304、ROM305、RAM306、ネットワークI/F307が、内部バス310を介して相互に接続されている。
キーボード301、及びマウス302には指示を与える一般的な入力装置が接続される。
ディスプレイ303には、表示を行う一般的な出力装置が用いられる。
図4では、録画制御装置であるネットワークカメラ100において、図2に示されるCPU211が実行するソフトウエアの制御を、フローチャートを用いて詳細に説明する。
S400において、動体検知設定の受信処理が行われる。つまり、制御装置であるクライアント120〜122から動体検知設定が送信されると、動体検知設定受信処理が通信処理部206で行われる。S400において、受信される動体検知設定は、動体検知の検知種別と検知指定時間である。
本実施形態における検知種別は、物体が置かれてから一定時間物体の存在が継続すること、物体が持ち去られてから一定時間物体の存在が継続していないこと、画面の大部分の変化が一定時間継続すること、などを含む。
S401において、S400で受信した動体検知設定に検知指定時間が有るか否かを判定し、指定されている場合はS403において動体検知設定に従い検知指定時間を設定する。指定されていない場合はS402において動体検知設定で指定された検知種別によって推奨される検知時間設定をROM212から取得して設定する。
S404において、S402またはS403で設定した検知時間だけ映像を蓄積して一時的に記憶しておくバッファをフラッシュメモリ214に確保する。これにより、経過時間の間に撮像された画像が録画可能なサイズとすることができる。クライアント120〜122から送信された動体検知設定に検知時間の増分が指定されていた場合は、フラッシュメモリ214に確保するバッファのサイズに増分を加算したものをバッファのサイズとする。
S405において、CCD202で撮像された画像を符号化部205経由で受信し、RAM213に保存する。
S406においては、S405で受信した画像がフラッシュメモリ214内のバッファに録画する空き容量の有無を判定する。バッファ容量がある場合はS408に進む。バッファ容量がない場合、S407においてバッファ内に録画されている一番古い画像から順に、S405で受信した画像を保存できる容量が確保できるまで削除する。その後、S408に進む。
S408においては、フラッシュメモリ214に確保したバッファに、S405で受信した画像データを録画する。これにより、発生したイベントの経過時間に対応する画像を録画することができる。
S409においては、画像解析部204で解析した結果により、動体検知のイベント発生の有無を判定する。イベント発生がない場合は再びS400の動体検知設定の受信処理を行う。動体の変化を検知してから所定の経過時間後にイベント発生が有った場合はS410において、発生したイベントが設定されている複数の検知種別の中で最長のものかどうかを判定する。
発生したイベントが最長のものであった場合は、S411において、フラッシュメモリ214内のバッファに録画された全ての画像データをクライアント120〜122に配信する。S410の判定の結果、発生したイベントが最長のものでなかった場合は、S412において、フラッシュメモリ214内のバッファに録画された後ろの検知時間数分の画像データをクライアント120〜122に配信する。以上により、S402またはS403で設定した検知時間だけ映像をフラッシュメモリ214内のバッファに録画し、録画した画像データをクライアント120〜122に配信する。
図5は、制御装置であるクライアント120〜122において、図3に示されるCPU304が実行するソフトウエアの制御を示すフローチャートである。以下、図5のフローチャートを用いて詳細に説明する。
キーボード301またはマウス302からの入力により動体検知設定画面の表示が要求されると、S500において、動体検知設定画面が表示される。
S501において、キーボード301またはマウス302の入力から動体検知設定が入力されるとRAM306に記憶する。
S502において、動体検知設定コマンドを作成し、S503において作成した動体検知設定コマンドをネットワークカメラ100に送信する。
S504において、ネットワークカメラ100からの応答を待ち、NG応答または応答が無かった場合はS505においてディスプレイ303にネットワークカメラ100に動体検知設定できなかった旨のエラーメッセージを表示する。また、OK応答であった場合はS506においてディスプレイ303にネットワークカメラ100に動体検知設定できた旨の設定OKメッセージを表示する。
(第2の実施形態)
以下、図6のフローチャートを参照して、本発明の第2の実施形態による、イベント発生前の録画バッファの増分の算出方法について説明する。
S600においては、CCD202で撮像された画像を受信する。
S601では、画像解析部204において検出された検知対象物体の位置を測定する。
S602では、S600で受信した画像の画角の端からS601で測定した物体の位置までの長さを測定し、画面端から物体までの距離測定をする。
S603においては、S602で測定した画角の端から物体までの長さを、人間が歩く平均的な速度で除算して算出した時間を検知時間の増分とする。人間が歩く平均的な速度は、画像解析部204において検出された全ての人物の移動速度の平均から算出する。これにより、検知時間の増分は、人間が歩く平均的な速度で移動する所要時間とすることができる。ここで、人間が歩く平均的な速度は、カメラを起動した後からカメラが検出した全ての人物の歩行速度を測定し、その平均値から導く。
S604においては、検知時間の増分を検知時間に加算し、フラッシュメモリ214に確保したバッファの容量を拡張する。
これにより、検知イベントが発生する前の任意の時間を録画バッファの増分として、クライアントから録画時間を設定することが可能となる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、前述した実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種のコンピュータ読み取り可能な記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
201 レンズ、202 CCD、203 信号処理部、204 画像解析部、205 符号化部、206 通信処理部、211 CPU、212 ROM、213 RAM、214 フラッシュメモリ

Claims (13)

  1. カメラによって撮像された映像を解析して、前記映像に含まれる物体が所定の状態となってから所定の経過時間が経つと、イベントを発生させるイベント発生手段と、
    前記イベント発生手段によってイベントが発生されると、蓄積手段に前記カメラによって撮像された映像を蓄積させる制御手段と
    を有し、
    前記制御手段は、前記イベント発生手段によって発生したイベントに対して設定された前記経過時間に応じて、前記カメラによって撮像され一時的に記憶された映像のうち、発生したイベントに対して設定された前記経過時間に対応する映像を蓄積するよう、前記蓄積手段への映像の蓄積を制御することを特徴とする制御装置。
  2. 前記制御手段は、前記イベント発生手段によって発生したイベントの種別に応じて、蓄積手段への映像の蓄積を制御することを特徴とする請求項1に記載の制御装置。
  3. 前記イベントは、物体が置かれてから一定時間物体の存在が継続することを検知する置き去り検知を含むことを特徴とする請求項1又は2に記載の制御装置。
  4. 前記イベントは、物体が持ち去られてから一定時間物体の存在が継続していないことを検知する持ち去り検知を含むことを特徴とする請求項1〜3のいずれか1項に記載の制御装置。
  5. 前記イベントは、画面の大部分の変化が一定時間継続することを検知するいたずら検知を含むことを特徴とする請求項1〜4のいずれか1項に記載の制御装置。
  6. 前記カメラによって撮像された映像を一時的に記憶しておくバッファ手段を備え、
    記バッファ手段のサイズは、発生したイベントに対して設定された経過時間の間に撮像された映像が録画可能なサイズであることを特徴とする請求項1〜5のいずれか1項に記載の制御装置。
  7. 複数の種別のイベントが発生した場合、前記複数の種別のイベントの前記経過時間のうち最長の前記経過時間を前記バッファ手段の容量とすることを特徴とする請求項6に記載の制御装置。
  8. 前記制御手段は、前記一時的に記憶された映像のうち、発生したイベントに対して設定された前記経過時間に対応する映像のみを前記蓄積手段に蓄積するよう制御することを特徴とする請求項1〜7のいずれか1項に記載の制御装置。
  9. 任意の時間をバッファの増分としてクライアントから設定可であることを特徴とする請求項6に記載の制御装置。
  10. 前記バッファ手段の容量を、検知対象物体と画角の端までの最長の長さを人間が歩く平均的な速度で移動する所要時間に基づいて増加させる手段を有することを特徴とする請求項に記載の制御装置。
  11. 人間が歩く平均的な速度、カメラを起動した後にカメラが検出した人物の歩行速度を測定し、その平均値から導く手段を有することを特徴とする請求項10に記載の制御装置。
  12. カメラによって撮像された映像を解析して、前記映像に含まれる物体が所定の状態となってから所定の経過時間が経つと、イベントを発生させるイベント発生工程と、
    前記イベント発生工程においてイベントが発生されると、蓄積手段に前記カメラによって撮像された映像を蓄積させる制御工程と
    を有し、
    前記制御工程において、前記イベント発生工程によって発生したイベントに対して設定された前記経過時間に応じて、前記カメラによって撮像され一時的に記憶された映像のうち、発生したイベントに対して設定された前記経過時間に対応する映像を蓄積するよう、前記蓄積手段への映像の蓄積を制御することを特徴とする制御方法。
  13. 請求項1〜11のいずれか1項に記載の制御装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
JP2012101584A 2012-04-26 2012-04-26 制御装置、制御方法及びプログラム Active JP6091079B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012101584A JP6091079B2 (ja) 2012-04-26 2012-04-26 制御装置、制御方法及びプログラム
US13/865,761 US8965171B2 (en) 2012-04-26 2013-04-18 Recording control apparatus, recording control method, storage medium storing recording control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012101584A JP6091079B2 (ja) 2012-04-26 2012-04-26 制御装置、制御方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2013229810A JP2013229810A (ja) 2013-11-07
JP2013229810A5 JP2013229810A5 (ja) 2015-06-11
JP6091079B2 true JP6091079B2 (ja) 2017-03-08

Family

ID=49477361

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012101584A Active JP6091079B2 (ja) 2012-04-26 2012-04-26 制御装置、制御方法及びプログラム

Country Status (2)

Country Link
US (1) US8965171B2 (ja)
JP (1) JP6091079B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104902229A (zh) * 2015-05-19 2015-09-09 吴晗 视频监控方法、系统及摄像监控系统

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4343670B2 (ja) * 2003-12-12 2009-10-14 株式会社日立国際電気 映像保存システムおよび映像保存方法
KR20070079389A (ko) * 2006-02-02 2007-08-07 삼성전자주식회사 방송수신장치 및 그 제어방법
JP4767729B2 (ja) * 2006-03-16 2011-09-07 三菱電機株式会社 監視システムおよび映像蓄積配信装置
JP2009122946A (ja) * 2007-11-14 2009-06-04 Fujitsu Ten Ltd 情報記憶装置
JP5128362B2 (ja) * 2008-05-01 2013-01-23 株式会社タイテック 監視システム
TW201026062A (en) * 2008-12-26 2010-07-01 Altek Corp A portable image capturing apparatus with auto monitoring and the auto monitoring method and system thereof
JP5047203B2 (ja) * 2009-02-10 2012-10-10 パナソニック株式会社 監視カメラシステム、映像記録装置及び映像記録方法
JP5393236B2 (ja) * 2009-04-23 2014-01-22 キヤノン株式会社 再生装置及び再生方法
JP5570176B2 (ja) * 2009-10-19 2014-08-13 キヤノン株式会社 画像処理システム及び情報処理方法
US8718440B2 (en) * 2010-03-22 2014-05-06 Streaming Networks, Inc. Decentralized symmetric network of autonomous digital video recorders and its method of use
JP5582881B2 (ja) * 2010-06-14 2014-09-03 キヤノン株式会社 画像解析装置及び画像解析方法

Also Published As

Publication number Publication date
US20130287362A1 (en) 2013-10-31
JP2013229810A (ja) 2013-11-07
US8965171B2 (en) 2015-02-24

Similar Documents

Publication Publication Date Title
CN106781168B (zh) 监视系统
JP4140591B2 (ja) 撮像システム及び撮像方法
JP4942185B2 (ja) 撮像装置及び雲台制御方法並びにプログラム及び記憶媒体
WO2008136007A2 (en) Acquiring regions of interest at a high frame rate
JP6808358B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN108391147B (zh) 显示控制装置和显示控制方法
JP2014222825A (ja) 映像処理装置および映像処理方法
KR20150088201A (ko) 촬상 장치, 촬상 제어 방법 및 프로그램
KR20100138168A (ko) 영상감시 시스템 및 그 시스템의 영상감시방법
JP2013143655A (ja) 現場状況把握システム及び現場画像提供方法
JP6091079B2 (ja) 制御装置、制御方法及びプログラム
EP2541356B1 (en) Processing monitoring data in a monitoring system
KR20110051308A (ko) 얼굴 이미지 촬영 장치 및 방법
JP6808398B2 (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP2020005111A (ja) 情報処理装置、制御方法及びプログラム
JP2008131572A (ja) 監視カメラ装置および監視カメラの撮影方法
JP4333255B2 (ja) 監視装置
CN100373924C (zh) 一种外置摄像头获取静态图像的方法
JP2016174259A (ja) 撮像システム
JP6833337B2 (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2013115566A (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP5893417B2 (ja) 解析装置、制御方法、およびプログラム
JP2025183470A (ja) 情報処理装置及び情報処理方法
KR100891793B1 (ko) 디지털 카메라의 이미지 처리 방법
JP2003274392A (ja) カメラ装置および画像記録システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170207

R151 Written notification of patent or utility model registration

Ref document number: 6091079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151