JP2016001439A - 情報処理装置および報知システム - Google Patents

情報処理装置および報知システム Download PDF

Info

Publication number
JP2016001439A
JP2016001439A JP2014121713A JP2014121713A JP2016001439A JP 2016001439 A JP2016001439 A JP 2016001439A JP 2014121713 A JP2014121713 A JP 2014121713A JP 2014121713 A JP2014121713 A JP 2014121713A JP 2016001439 A JP2016001439 A JP 2016001439A
Authority
JP
Japan
Prior art keywords
road
unit
notification
person
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014121713A
Other languages
English (en)
Other versions
JP6255309B2 (ja
Inventor
高橋 伸幸
Nobuyuki Takahashi
伸幸 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2014121713A priority Critical patent/JP6255309B2/ja
Publication of JP2016001439A publication Critical patent/JP2016001439A/ja
Application granted granted Critical
Publication of JP6255309B2 publication Critical patent/JP6255309B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】交通規則に違反した通行者がいることを報知することができる情報処理装置および報知システムを提供する。【解決手段】情報処理装置は、受信手段と、第1検出手段と、第1判定手段と、第2判定手段と、出力手段と、を備える。受信手段は、道路上の所定領域を撮像する撮像部から、撮像された画像を順次受信する。第1検出手段は、受信手段が受信した画像から、移動中の人物を検出する。第1判定手段は、第1検出手段により検出された人物の移動方法が、軽車両か否かを判定する。第2判定手段は、第1判定手段により軽車両と判定された場合、当該軽車両の走行状態が道路上において遵守すべき交通規則に適合するか否かを判定する。出力手段は、第2判定手段が非適合と判定した場合に、道路上に設けられた報知装置を用いて報知を行うための情報を出力する。【選択図】図2

Description

本発明の実施形態は、情報処理装置および報知システムに関する。
近年、都市部を中心に、自転車等の軽車両との接触事故が問題になっている。係る問題については、軽車両の走行方向を交通規則として定める等することで対応が行われている。しかしながら、上記の交通規則が遵守されているとは言い難く、自転車との接触事故が依然として多い状況にある。特に見通しの悪い交差点などでは接触事故を起こすケースが多くあり、係る事故を防止するための技術が要求されている。
本発明が解決しようとする課題は、交通規則に違反した通行者を道路上から検出し、報知を行うことが可能な情報処理装置および報知システムを提供することである。
実施形態の情報処理装置は、受信手段と、第1検出手段と、第1判定手段と、第2判定手段と、出力手段と、を備える。前記受信手段は、道路上の所定領域を撮像する撮像部から、前記撮像された画像を順次受信する。前記第1検出手段は、前記受信手段が受信した画像から、移動中の人物を検出する。前記第1判定手段は、前記第1検出手段により検出された人物の移動方法が、軽車両か否かを判定する。前記第2判定手段は、前記第1判定手段により軽車両と判定された場合、当該軽車両の走行状態が前記道路上において遵守すべき交通規則に適合するか否かを判定する。前記出力手段は、前記第2判定手段が非適合と判定した場合に、前記道路上に設けられた報知装置を用いて報知を行うための情報を出力する。
図1は、実施形態に係る報知システムの構成を概略的に示した説明図である。 図2は、報知システムを交差点に設置した場合の一例を示す説明図である。 図3は、サーバ装置の要部構成を示すブロック図である。 図4は、監視カメラの要部構成を示すブロック図である。 図5は、スピーカーの要部構成を示すブロック図である。 図6は、電子掲示板の要部構成を示すブロック図である。 図7は、報知システムの機能構成を示すブロック図である。 図8は、顔の特徴点が検出された状態を示す説明図である。 図9は、人体の特徴点が検出された状態を示す説明図である。 図10は、顔領域の変化を示す説明図である。 図11は、歩行時の特徴点の変位を示した説明図である。 図12は、駆け足時の特徴点の変位を示した説明図である。 図13は、自転車で走行している人物の特徴点の変位を示した説明図である。 図14は、検出処理の流れを示すフローチャートである。 図15は、報知処理の流れを示すフローチャートである。
以下、添付図面を参照して実施形態の情報処理装置及び報知システムを詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。
図1は、実施形態に係る報知システム1の構成を概略的に示した説明図である。図1に示すように報知システム1は、サーバ装置10と、違反者用の監視カメラ20aと、報知対象者用の監視カメラ20bと、スピーカー30と、電子掲示板40とを備える。ここで、サーバ装置10と、違反者用の監視カメラ20aと、報知対象者用の監視カメラ20bと、スピーカー30と、電子掲示板40とは、LAN(Local Area Network)50で接続される。LAN50は、有線であってもよいし、無線であってもよい。また、LAN50は、各種公衆網であってもよい。
サーバ装置10は、違反者用の監視カメラ20aから送信された画像から交通規則に違反している人物を検出する。そして、報知対象者用の監視カメラ20bから送信された画像に報知対象者が含まれていると判定した場合に、サーバ装置10は、スピーカー30や、電子掲示板40に報知するための情報を送信する。
違反者用の監視カメラ20aと、報知対象者用の監視カメラ20bとは、機能や構成は同一であるが、用途が異なる。違反者用の監視カメラ20aは、交通規則に違反している人物を検出するために、道路上の所定領域を撮像するカメラである。報知対象者用の監視カメラ20bは、交通規則に違反している人物がいることを知らせる人物を検出するために、道路上の所定領域を撮像するカメラである。
スピーカー30は、サーバ装置10の制御の下、音声により報知を行う。電子掲示板40は、サーバ装置10の制御の下、表示により報知を行う。なお、図1の報知システム1では、サーバ装置10と、監視カメラ20a、20bと、スピーカー30と、電子掲示板40とをそれぞれ1台ずつ記載したが複数台であってもよい。
次に、報知システム1の設置例について説明する。図2は、報知システム1を交差点Kに設置した場合の一例を示す説明図である。図2に示す交差点Kは、道路R1と、道路R2とが交差している。
道路R1は、路側帯R11と、車道R12と、車道R13と、路側帯R14とを備える。路側帯R11は、人や、自転車などの軽車両が通行する道路である。また、路側帯R11を走行する場合に、軽車両は、矢印B方向に向かって走ることが交通規則により定められている。車道R12は、矢印B方向に向かって走行する自動車が通行する道路である。車道R13は、矢印D方向に向かって走行する自動車が通行する道路である。路側帯R14は、人や、自転車などの軽車両が通行する道路である。また、路側帯R14を走行する場合に、軽車両は、矢印D方向に向かって走ることが交通規則により定められている。
道路R2は、路側帯R21と、車道R22と、車道R23と、路側帯R24とを備える。路側帯R21は、人や、自転車などの軽車両が通行する道路である。また、路側帯R21を走行する場合に、軽車両は、矢印A方向に向かって走ることが交通規則により定められている。車道R22は、矢印A方向に向かって走行する自動車が通行する道路である。車道R23は、矢印C方向に向かって走行する自動車が通行する道路である。路側帯R24は、人や、自転車などの軽車両が通行する道路である。また、路側帯R24を走行する場合に、軽車両は、矢印C方向に向かって走ることが交通規則により定められている。
また、交差点Kの四隅には、見通しを遮る建築物の塀等の遮蔽物60がある。そのため、例えば道路R1を通行する歩行者や、自転車や自動車の運転手は、道路R2を通行する通行者が、いつ交差点から出てくるかが分からない。よって、交通規則が遵守されていることを前提に道路R1を通行する通行者は、道路R2の交通規則に違反した通行者と出会い頭に衝突するおそれがある。
そこで、本実施形態の報知システム1では、道路R2の路側帯R21、R24に交通規則に違反している人物を検出する監視カメラ20aを設置する。監視カメラ20aは、路側帯R21、R24の所定領域を撮像する。サーバ装置10は、監視カメラ20aが撮像した画像から通行者を検出する。一方、道路R1には、違反者がいることを伝える人物を検出する監視カメラ20bを設置する。監視カメラ20bは、車道R12、R13の所定領域を撮像する。
そして、監視カメラ20aにより検出された通行者が交通規則に違反しており、道路R1の車道R12、R13に設置された監視カメラ20bが報知対象者を検出した場合に、サーバ装置10は、スピーカー30や、電子掲示板40を介して報知する。
監視カメラ20aは、交差点Kの手前に定められた撮像方向に向けて設置することで、道路上の所定領域を撮像する。監視カメラ20aは、路側帯R21、R24上の所定領域を撮像するように設置されている。ここで、監視カメラ20aは、道路R2の矢印A方向と矢印C方向とを背中合わせに撮像する。図2の例では、8つの監視カメラ20aを、道路R1(交差点K)を間に挟んだ路側帯R21、R24上の所定の対称位置に設けた例を示している。これにより、監視カメラ20aは、路側帯R21、R24を通行する通行者を撮像する。なお、監視カメラ20aは、車道R22、R23上の所定領域を撮像するように設置してもよい。
監視カメラ20bは、電子掲示板40などの報知装置の手前に、定められた撮像方向に向けて設置することで、道路上の所定領域を撮像する。図2の例では、監視カメラ20bは、道路R1の車道R12、R13に、矢印B方向と矢印D方向とに向けて設置される。これにより、監視カメラ20bは、車道R12、R13を通行する報知対象者を自動車のフロントガラス越しに撮像する。なお、監視カメラ20bは、路側帯R11、R14上の所定領域を撮像するように設置してもよい。
また、交差点Kは、音声により報知を行うための一対のスピーカー30を備える。スピーカー30は、交差点Kの近傍において、道路R2の矢印A方向及び矢印C方向に向けて設置される。これにより、スピーカー30は、道路R2を通行する人に対し、音声により報知することができる。
さらに、交差点Kは、画像や文字の表示により報知を行う一対の電子掲示板40を備える。電子掲示板40の表示面は、道路R1の矢印D方向及び矢印B方向に向けて設置される。これにより、電子掲示板40は、道路R1を通行する人や車両に対し、文字や画像により報知することができる。
なお、監視カメラ20a、20b、スピーカー30及び電子掲示板40は、交差点K上に設置された信号機や道路標識等を支持するためのアームに取り付ける形態としてもよい。また、スピーカー30は、道路R1の矢印D方向や、矢印B方向に向けて設置されてもよい。また、電子掲示板40の表示画面は、道路R2の矢印A方向や、矢印C方向に向けて設置されてもよい。
次に、実施形態の報知システム1が有する各部について説明する。
まず、サーバ装置10の要部構成を説明する。図3は、サーバ装置10の要部構成を示すブロック図である。サーバ装置10は、報知システム1を制御する情報処理装置である。図3に示すように、サーバ装置10は、CPU(Central Processing Unit)11と、メモリ12と、記憶部13と、ネットワークインターフェース14と、表示部15と、入力部16と、時計部17とを備える。
CPU11は、サーバ装置10の全体を制御する。メモリ12は、データを一時的に記憶する。記憶部13は、CPU11からの命令で読み書きが可能であり、プログラムやデータ等を記憶する。また、記憶部13は、顔検知プログラムP1と、動作検知プログラムP2と、歩行動作情報13aと、駆け足動作情報13bと、自転車動作情報13cとを記憶する。
顔検知プログラムP1は、監視カメラ20a、20bが撮像した画像から顔を検知するプログラムである。動作検知プログラムP2は、監視カメラ20a、20bが撮像した画像に含まれている人物の移動方法を検知するプログラムである。歩行動作情報13aは、歩行している人物の動作の特徴点が記憶された情報である。駆け足動作情報13bは、駆け足をしている人物の動作の特徴点が記憶された情報である。自転車動作情報13cは、自転車で走行している人物の動作の特徴点が記憶された情報である。
ネットワークインターフェース14は、LAN50に接続される。なお、LAN50は、各種公衆網であってもよい。表示部15は、各種情報を表示するディスプレイなどである。入力部16は、キーボードやマウスなどの入力装置から入力された情報を制御する。または、入力部16は、表示部15に積層されたタッチパネル入力された情報を制御する。時計部17は、時間を計時する。
次に、監視カメラ20a、20bについて説明する。図4は、監視カメラ20a、20bの要部構成を示すブロック図である。監視カメラ20aと、監視カメラ20bとは、用途は異なるが、機能及び構成は同一である。監視カメラ20a、20bは、監視カメラ20a、20bが設置された道路上の所定領域を撮像する撮像装置である。図4に示すように、監視カメラ20a、20bは、CPU21と、メモリ22と、記憶部23と、ネットワークインターフェース24と、カラー画像センサ25と、距離画像センサ26と、時計部27とを備える。
CPU21は、監視カメラ20a、20bの全体を制御する。メモリ22は、データを一時的に記憶する。記憶部23は、CPU21からの命令で読み書きが可能であり、プログラムやデータ等を記憶する。ネットワークインターフェース24は、LAN50に接続される。時計部27は、時間を計時する。
カラー画像センサ25は、監視カメラ20a、20bの撮像範囲内に存在する人物や物体等の被写体を撮像し、カラー画像情報を収集する。例えば、カラー画像センサ25は、被写体表面で反射される光を受光素子で検知し、可視光を電気信号に変換する。そして、カラー画像センサ25は、その電気信号をデジタルデータに変換することにより、撮像範囲に対応する1フレームのカラー画像情報を生成する。この1フレーム分のカラー画像情報には、例えば、撮像時刻情報と、この1フレームに含まれる各画素にRGB(Red Green Blue)値が対応付けられた色情報と、この1フレームに含まれる各画素に輝度値が対応付けられた輝度情報と、が含まれる。
カラー画像センサ25は、次々に検知される可視光から連続する複数フレームのカラー画像情報を生成することで動画として撮像する。なお、カラー画像センサ25によって生成されるカラー画像情報は、各画素のRGB値をビットマップに配置したカラー画像として出力されても良い。また、カラー画像センサ25は、受光素子として、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)を有する。
距離画像センサ26は、監視カメラ20a、20bの撮像範囲内に存在する人物や物体等の被写体を撮像し、距離画像情報を収集する。例えば、距離画像センサ26は、赤外線を周囲に照射し、照射波が被写体表面で反射された反射波を受光素子で検知する。そして、距離画像センサ26は、照射波とその反射波との位相差や、照射から検知までの時間に基づいて、被写体と距離画像センサ26との距離を求め、撮像範囲に対応する1フレームの距離画像情報を生成する。この1フレーム分の距離画像情報には、例えば、撮像時刻情報と、画素ごとに被写体と距離画像センサ26との距離を示す情報とが含まれる。
距離画像センサ26は、次々に検知される反射波から連続する複数フレームの距離画像情報を生成することで動画として撮像する。なお、距離画像センサ26によって生成される距離画像情報は、各画素の距離に応じた色の濃淡をビットマップに配置した距離画像として出力されても良い。また、距離画像センサ26は、受光素子として、例えば、CMOSやCCDを有する。この受光素子は、カラー画像センサ25で用いられる受光素子と共用されても良い。また、距離画像センサ26によって算出される距離の単位は、例えば、メートル[m]である。
次に、スピーカー30について説明する。図5は、スピーカー30の要部構成を示すブロック図である。スピーカー30は、音声により報知する報知装置である。図5に示すように、スピーカー30は、CPU31と、メモリ32と、記憶部33と、ネットワークインターフェース34と、音響発生部35とを備える。
CPU31は、スピーカー30の全体を制御する。メモリ32は、データを一時的に記憶する。記憶部33は、CPU31からの命令で読み書きが可能であり、プログラムやデータ等を記憶する。ネットワークインターフェース34は、LAN50に接続される。音響発生部35は、音響出力デバイスである。音響発生部35は、CPU31によって制御された電圧の印加を受けて音響を発する。
次に、電子掲示板40について説明する。図6は、電子掲示板40の要部構成を示すブロック図である。電子掲示板40は、画面により報知する報知装置である。図6に示すように、電子掲示板40は、CPU41と、メモリ42と、記憶部43と、ネットワークインターフェース44と、表示部45とを備える。
CPU41は、電子掲示板40の全体を制御する。メモリ42は、データを一時的に記憶する。記憶部43は、CPU41からの命令で読み書きが可能であり、プログラムやデータ等を記憶する。ネットワークインターフェース44は、LAN50に接続される。表示部45は、発光ダイオードや、電球などを用いて情報を発信するための掲示板である。表示部45は、液晶などを使用したディスプレイであってもよい。
次に、実施形態にかかる報知システム1が有する特徴的な機能について説明する。図7は、報知システム1の機能構成を示すブロック図である。
監視カメラ20a、20bのCPU21は、メモリ22や記憶部23に記憶された制御プログラムに従って動作することで、撮像制御部211と、送信部212として機能する。
撮像制御部211は、監視カメラ20a、20bのカラー画像センサ25と距離画像センサ26とを制御して、監視カメラ20a、20bが設置された道路上の所定領域の画像を連続して撮像することで動画を撮像する。動画には、カラー画像センサ25が撮像したカラー画像情報と、距離画像センサ26が検出した距離画像情報と、時計部27が計時した撮像時刻情報とが含まれる。
送信部212は、撮像制御部211が撮像したカラー画像情報と、距離画像情報とが含まれる動画をサーバ装置10に順次送信する。この時、送信部212は、1フレームごとに動画を送信してもよいし、複数フレームごとに動画を送信してもよい。
サーバ装置10のCPU11は、メモリ12や記憶部13に記憶された制御プログラムに従って動作することで、受信部111と、顔認識部112と、顔特徴点検出部113と、姿勢特徴点検出部114と、姿勢動作情報生成部115と、移動検出部116と、移動方法判定部117と、規則判定部118と、報知制御部119と、送信部120として機能する。
受信部111は、監視カメラ20a、20bから送信されたカラー画像情報と、距離画像情報と、撮像時刻情報とが含まれる動画を順次受信する。
顔認識部112は、受信部111が受信した動画から、動画に含まれる人物の顔を検出する。すなわち、顔認識部112は、受信した動画から顔が認識できた場合に、人物を検出したと判定する。具体的には、顔認識部112は、受信した動画の輝度情報を利用して顔の領域を示す座標を求める。なお、顔領域を求める方法は、どのような方法を用いてもよい。また、検出する顔領域の形状は、任意の形状で良いし、顔の向きや大きさの検出結果によって顔領域の形状を異ならせても良い。
ところで、監視カメラ20a、20bなどで撮像された映像データの場合、検出された同一人物の顔が複数のフレームにわたって連続して映っていることが想定される。このため、これらを同一人物として対応付けできるように人物の顔の追跡処理を行う必要がある。この追跡処理の実現手法としては、オプティカルフローを用いて検出した顔が、次のフレームでどの位置に存在するかを推定し、対応付ける手法等を利用することで実現可能である。この追跡処理は、同一人物として対応付けられた顔領域が顔認識部112により検出されず、追跡終了の判定が行われるまで継続される。
顔特徴点検出部113は、追跡処理により複数のフレーム画像にわたって検出された顔領域から、フレーム画像ごとに目、鼻、口などの顔の特徴点を検出する顔特徴点検出処理を行う。すなわち、顔特徴点検出部113は、顔認識部112が検出した顔領域から特徴点を検出する。なお、設定等によって検出すべき顔の特徴点は任意に変更することができる。また、顔特徴点検出部113における顔の特徴点の検出方法は、どのような方法を用いてもよい。
ここで、図8は、顔の特徴点が検出された状態を示す説明図である。特徴点として検出された箇所は、図8に示すようにアスタリスクで表現している。特徴点は、図8に示すように、片方の眉に2箇所と、片方の目に3箇所と、眉間に1箇所と、鼻に6箇所と、口に5箇所との合計22箇所が検出されている。
姿勢特徴点検出部114は、顔認識部112が認識した人物の動作の特徴点を検出する。人体は、関節を動かすことで、様々な動作を取る。そこで、姿勢特徴点検出部114は、人体の関節を動作の特徴点として検出する。姿勢特徴点検出部114は、距離画像情報から顔認識部112が認識した人物の形状を抽出する。そして、姿勢特徴点検出部114は、距離画像情報にて示された人物の形状と、人体パターンとを比較することにより関節を検出する。
ここで、図9は、人体の特徴点が検出された状態を示す説明図である。人体の特徴点は、図9に示すように、白色の丸マークにて表現している。すなわち、図9は、頭部、首、肩、肘、手、腰、膝、足首、足が動作の特徴点として検出されたことを示している。
図7に戻り、姿勢動作情報生成部115は、人物の動作を示した姿勢動作情報を生成する。この姿勢動作情報は、例えば、人物の動作を複数の姿勢の連続として捉えることにより生成される。さらに詳しくは、姿勢動作情報生成部115は、姿勢特徴点検出部114が検出した人物の関節の座標の変位を示す姿勢動作情報を生成する。
移動検出部116は、人物が移動していることを検出する。また、移動検出部116は、人物の移動速度を算出する。例えば、監視カメラ20a、20bが交差点K(図2参照)に設置されている場合、人物が交差点Kに近づくと、顔認識部112が検出する顔領域が大きくなる。ここで、図10は、顔領域の変化を示す説明図である。図10は、左側の顔から右側の顔となることによって人物が監視カメラ20a、20bに近づいていることを示している。図10に示すように右側の顔の顔面積は、左側の顔の顔面積より拡大している。移動検出部116は、単位時間当たりの顔面積の変化量から人物の速度を算出する。そして、移動検出部116は、人物の顔が向けられている方向が移動方向であると判定する。
なお、移動検出部116は、顔画像以外の情報から人物の速度を算出してもよい。例えば、距離画像センサ26は、被写体である人物までの距離が示された距離画像情報を収集する。そのため、移動検出部116は、距離画像情報から単位時間当たりの移動距離を算出することができるため、動画に含まれる人物の速度を算出することができる。
移動方法判定部117は、顔認識部112が認識した人物の移動方法を検出する。さらに詳しくは、移動方法判定部117は、顔認識部112が検出した人物が歩行、駆け足又は自転車の何れの移動方法で通行しているかを判定する。
まず、歩行の判定処理について説明する。移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報が、記憶部13に記憶された歩行動作情報13aと一致した場合に歩行をしていると判定する。歩行動作情報13aは、歩行している場合の姿勢の特徴点の変位を示した情報を有する。
図11は、歩行時の特徴点の変位を示した説明図である。なお、図11は、説明のために側面図にて表現している。歩行時において、腰は、上下方向には、ほとんど変位しない。一方、膝は、上下方向に、わずかに移動する。
さらに詳しくは、歩行に伴う屈伸運動において、膝は、膝が曲げられた最も高い最上位置と、膝が伸ばされ最も低い最下位置とを交互に行き来することになる。また、膝が歩行における最上位置に移動したとしても、駆け足や、自転車の場合と比べて、膝は、低い位置にある。すなわち、歩行において膝は、最上位置と最下位置との差が所定の範囲内で、最上位置と最下位置とを繰り返し移動する。よって、歩行時の動作情報である歩行動作情報13aには、腰が上下方向に移動せずに、膝の最上位置と最下位置との差が所定の範囲内で、最上位置と最下位置とを繰り返し移動することを示す情報を備える。
このため、移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報と、記憶部13に記憶された歩行動作情報13aとを比較することにより、歩行であるか否かを判定することができる。なお、歩行動作情報13aには、足の動きが含められていてもよい。具体的には、例えば、歩行における歩幅が、身長に対して所定の割合の範囲内である場合に、歩行であると判定するなどである。さらには、歩行動作情報13aには、人物の移動速度が所定の速度より速いことを条件に加えてもよい。
次に、駆け足の判定処理について説明する。移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報が、記憶部13に記憶された駆け足動作情報13bと一致した場合に駆け足をしていると判定する。駆け足動作情報13bは、駆け足している場合の姿勢の特徴点の変位を示した情報を有する。
ここで、図12は、駆け足時の特徴点の変位を示した説明図である。なお、図12は、説明のために側面図にて表現している。歩行と同様に駆け足においても、腰は、上下方向には、ほとんど変位しない。一方、膝は、上下方向に移動する。
さらに詳しくは、駆け足に伴う屈伸運動においても、膝は、膝が曲げられた最も高い最上位置と、膝が伸ばされ最も低い最下位置とを交互に行き来することになる。また、膝が駆け足における最上位置に移動したとしても、自転車の場合と比べて、膝は、低い位置にある。そして、歩行の場合と比べて、膝は、高い位置にある。すなわち、駆け足において膝は、最上位置と最下位置との差が、歩行よりも大きく、所定の範囲より小さい範囲内で、最上位置と最下位置とを繰り返し移動する。よって、駆け足時の動作情報である駆け足動作情報13bには、腰が上下方向に移動せずに、膝の最上位置と最下位置との差が、歩行よりも大きく、所定の範囲より小さい範囲内で、最上位置と最下位置とを繰り返し移動することを示す情報を備える。
このため、移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報と、記憶部13に記憶された駆け足動作情報13bとを比較することにより、駆け足であるか否かを判定することができる。なお、駆け足動作情報13bには、足の動きが含められていてもよい。具体的には、例えば、駆け足における歩幅が、身長に対して所定の割合以上である場合に、駆け足であると判定するなどである。さらには、駆け足動作情報13bには、人物の移動速度が所定の速度より速いことを条件に加えてもよい。
次に、自転車の判定処理について説明する。移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報が、記憶部13に記憶された自転車動作情報13cと一致した場合に自転車で走行をしていると判定する。自転車動作情報13cは、自転車で走行している場合の姿勢の特徴点の変位を示した情報を有する。
ここで、図13は、自転車で走行している人物の特徴点の変位を示した説明図である。なお、図13は、説明のために側面図にて表現している。自転車で走行した場合において、腰は、上下方向には、ほとんど変位しない。一方、膝は、上下方向に大きく移動する。
さらに詳しくは、ペダルを漕ぐ動作に伴う屈伸運動において、膝は、膝が曲げられた最も高い最上位置と、膝が伸ばされ最も低い最下位置とを交互に行き来することになる。すなわち、ペダルを漕ぐ動作において膝は、最上位置と最下位置との差が所定の範囲以上で、最上位置と最下位置とを繰り返し移動する。よって、自転車走行時の動作情報である自転車動作情報13cには、腰が上下方向に移動せずに、膝の最上位置と最下位置との差が所定の範囲以上で、最上位置と最下位置とを繰り返し移動することを示す情報を備える。
このため、移動方法判定部117は、姿勢動作情報生成部115が生成した姿勢動作情報と、記憶部13に記憶された自転車動作情報13cとを比較することにより、自転車で走行しているか否かを判定することができる。なお、自転車動作情報13cには、人物の移動速度が所定の速度より速いことを条件に加えてもよい。
規則判定部118は、移動方法判定部117により判定された移動方法が、遵守すべき交通規則に適合しているか否かを判定する。図2を用いて説明すると、例えば、自転車などの軽車両は道路R1,R2の左側を通行することが交通規則に定められている場合において、自転車が路側帯R21を矢印C方向に向かって走ることは交通規則に違反するものである。このような、自転車が交通規則で禁止された進行方向に進んでいる場合に、規則判定部118は、非適合であると判定する。一方、自転車が交通規則で定められた進行方向に進んでいる場合に、規則判定部118は、交通規則に適合すると判定する。
ここで、規則判定部118は、顔認識部112を通行者の進行方向を検出する手段としても用いる。さらに詳しくは、自転車で走行している通行者は、前方を確認しながら運転する。すなわち、通行者の進行方向は、通行者の顔が向けられている方向が進行方向である。よって、規則判定部118は、顔認識部112が通行者の顔を認識した場合に、通行者の顔が向けられている方向、すなわち、監視カメラ20aに向かう方向が進行方向であると判定する。
図2において、監視カメラ20aは、道路R2の矢印A方向と、矢印C方向とのそれぞれの方向に向けて設置される。よって、道路R2の矢印A方向に向けられた監視カメラ20aで撮像された画像から顔認識部112が顔を認識できた場合に通行者は、道路R2を矢印C方向に向かって進んでいることがわかる。一方、道路R2の矢印C方向に向けられた監視カメラ20aで撮像された画像から顔認識部112が顔を認識できた場合には通行者は、道路R2を矢印A方向に向かって進んでいることがわかる。そして、姿勢動作情報生成部115は、顔認識された通行者の動作情報を生成する。すなわち、姿勢動作情報生成部115で生成された姿勢動作情報を用いて移動方法判定部117が移動方法の判定を行った場合には、通行者は、判定された移動方法で監視カメラ20aに向かって進んでいることになる。
よって、規則判定部118は、移動方法判定部117により判定された移動方法で、監視カメラ20aに向かって進むことが、交通規則を遵守しているか否かを判定することができる。
報知制御部119は、スピーカー30や電子掲示板40を用いて報知を行う機能部である。具体的には、報知制御部119は、移動検出部116が算出した人物の移動速度から交差点に差し掛かるまでの時間を算出することで報知する時機を制御する。これにより、報知制御部119は、交通規則に違反している人物が交差点に差し掛かった時に、報知することができる。
また、報知制御部119は、顔面積の大きさを用いて監視カメラ20a、20bから人物までの距離、すなわち、監視カメラ20a、20bが設置された交差点から人物までの距離を算出する。そして、報知制御部119は、算出された速度と、算出された距離とから交差点に差し掛かる時機を算出する。なお、監視カメラ20a、20bが設置された交差点から人物までの距離は、距離画像センサ26が収集した距離画像情報から算出してもよい。
また、報知制御部119は、報知する対象者がいることを報知の条件に加えてもよい。報知対象者がいることを条件に加える場合には、報知制御部119は、顔認識部112を報知する対象者がいるか否かを判定する手段としても用いる。
図2を用いて説明すると、監視カメラ20bは、道路R1の車道に設置され、車道R12、R13を撮像する。サーバ装置10の受信部111は、撮像された画像を受信する。そして、監視カメラ20bによって撮像された動画から、自動車のフロントガラス越しに人物の顔を認識した場合に顔認識部112は、報知対象者がいると判定する。そして、報知制御部119は、報知対象者がいる場合に報知情報を出力する。これにより、報知対象者がいない場合には、無駄な報知を防止することができる。
送信部120は、報知制御部119の制御に従い、所定の報知情報をスピーカー30や、電子掲示板40に送信する。ここで、報知情報とは、スピーカー30を介して報知される音声情報や、電子掲示板40を介して報知される文字情報や画像情報などである。報知情報の内容は、例えば、「交通規則を遵守しましょう」などの違反した人物に対して注意するものなどである。または、報知情報の内容は、「交通規則に違反している通行者が交差点にいます」などの周囲の人に注意喚起する内容などであってもよい。または、報知情報の内容は、「右側から交差点に進入する自転車がいます」などの具体的な内容であってもよい。
図7に戻り、スピーカー30のCPU31は、メモリ32や記憶部33に記憶された制御プログラムに従って動作することで、受信部311と、音声制御部312として機能する。
受信部311は、サーバ装置10から報知情報を受信する。音声制御部312は、受信部311が受信した報知情報を、音響発生部35を介して音声により報知する。
電子掲示板40のCPU41は、メモリ42や記憶部43に記憶された制御プログラムに従って動作することで、受信部411と、表示制御部412として機能する。
受信部411は、サーバ装置10から報知情報を受信する。表示制御部412は、受信部411が受信した報知情報を、表示部45を介して画面により報知する。
次に、上述した実施形態にかかるサーバ装置10のCPU11及び監視カメラ20aのCPU21が制御プログラムに従って実行する検出処理について説明する。ここで、検出処理は、交通規則に違反している人物を検出する処理である。
図14は、実施形態にかかるサーバ装置10のCPU11及び監視カメラ20aのCPU21が制御プログラムに従って実行する検出処理の流れを示すフローチャートである。
まず、監視カメラ20aのCPU21(撮像制御部211)は、監視カメラ20aの撮像範囲内に存在する被写体の動画を撮像する(ステップS1)。動画には、前述したようにカラー画像情報と、距離画像情報と、撮像時刻情報と、が含まれる。
次いで、監視カメラ20aのCPU21(送信部212)は、サーバ装置10にカラー画像情報と距離画像情報と撮像時刻情報とが含まれる動画を順次送信し(ステップS2)、ステップS1に戻り、停止が入力されるまで繰り返す。
次いで、サーバ装置10のCPU11(受信部111)は、監視カメラ20aからカラー画像情報と距離画像情報と撮像時刻情報とが含まれる動画を順次受信する(ステップS3)。
次いで、サーバ装置10のCPU11(顔認識部112)は、受信した動画から顔認識できるか否かを判定する(ステップS4)。受信した動画から顔認識できない場合に(ステップS4;No)、サーバ装置10のCPU11(顔認識部112)は、受信した動画には、人物は含まれていないとしてステップS3に戻り、再度動画を受信する。
一方、受信した動画から顔認識できた場合に(ステップS4;Yes)、サーバ装置10のCPU11(顔認識部112)は、受信した動画には、認識された顔の人物を認識する(ステップS5)。これにより、サーバ装置10のCPU11(顔認識部112)は、複数のフレームにわたって連続して映っていても、同一人物として対応付ける。
次いで、サーバ装置10のCPU11(顔特徴点検出部113)は、顔を認識した人物の顔の特徴点を検出する(ステップS6)。次いで、サーバ装置10のCPU11(姿勢特徴点検出部114)は、顔が認識された人物の関節を動作の特徴点として検出する(ステップS7)。
次いで、サーバ装置10のCPU11(姿勢動作情報生成部115)は、人物の動作を示した姿勢動作情報を生成する(ステップS8)。
次いで、サーバ装置10のCPU11(移動方法判定部117)は、生成された姿勢動作情報から、人物が何れの移動方法により通行しているかを判定する(ステップS9)。さらに詳しくは、サーバ装置10のCPU11(移動方法判定部117)は、生成された姿勢動作情報と、記憶部13に記憶された歩行動作情報13a、駆け足動作情報13b及び自転車動作情報13cと比較して何れの移動方法で通行しているかを判定する。
生成された姿勢動作情報から移動方法が検出されない場合に(ステップS9;No)、サーバ装置10のCPU11(移動方法判定部117)は、ステップS3に戻る。
一方、生成された姿勢動作情報から移動方法が検出された場合に(ステップS9;Yes)、サーバ装置10のCPU11(規則判定部118)は、検出された移動方法による通行が、遵守すべき交通規則に適合するものであるか否かを判定する(ステップS10)。
検出された移動方法による通行が交通規則を遵守するものである場合に(ステップS10;No)、サーバ装置10のCPU11(規則判定部118)は、ステップS3に戻る。
一方、検出された移動方法による通行が交通規則に非適合であると判定した場合に(ステップS10;Yes)、サーバ装置10のCPU11(規則判定部118)は、通行者が交通規則に違反していると判定し(ステップS11)、ステップS3に戻る。
以上のように、サーバ装置10のCPU11は、検出処理の停止が入力されるまで繰り返す。
次に、上述した実施形態にかかるサーバ装置10のCPU11、スピーカー30のCPU31及び電子掲示板40のCPU41が制御プログラムに従って実行する報知処理について説明する。ここで、報知処理では、交通規則に違反している通行者がいることを報知する処理である。
図15は、実施形態にかかるサーバ装置10のCPU11、スピーカー30のCPU31及び電子掲示板40のCPU41が制御プログラムに従って実行する報知処理の流れを示すフローチャートである。
まず、サーバ装置10のCPU11(報知制御部119)は、上述の検出処理において交通規則に違反していると判定された場合に、報知時機を算出する(ステップS21)。
次いで、サーバ装置10のCPU11(移動検出部116)は、交通規則に違反していると判定された人物が、交通規則に違反した移動方法での通行を継続しているか否かを判定する(ステップS22)。
交通規則に違反した移動方法での通行を継続していない場合に(ステップS22;No)、サーバ装置10のCPU11(移動検出部116)は、報知する必要がないとしてステップS21に戻る。
一方、交通規則に違反した移動方法での通行を継続している場合に(ステップS22;Yes)、サーバ装置10のCPU11(報知制御部119)は、報知時機となったか否かを判定する(ステップS23)。報知時機となっていない場合に(ステップS23;No)、サーバ装置10のCPU11(報知制御部119)は、ステップS22に戻る。
一方、報知時機となった場合に(ステップS23;Yes)、サーバ装置10のCPU11(報知制御部119)は、報知対象者がいるか否かを判定する(ステップS24)。ここで、報知対象者とは、交通規則に違反した通行者がいることを報知する対象者のことである。図2の場合を例に説明すると、報知対象者とは、道路R2に交通規則に違反した通行者がいることを報知する道路R1を通行する通行者のことである。サーバ装置10の顔認識部112が、道路R1に設置された監視カメラ20bの画像から顔を認識できた場合に、サーバ装置10のCPU11(報知制御部119)は、報知対象者がいると判定する。
報知対象者がいない場合に(ステップS24;No)、サーバ装置10のCPU11(報知制御部119)は、報知する必要がないとしてステップS21に戻る。一方、報知対象者がいる場合に(ステップS24;Yes)、サーバ装置10のCPU11(送信部120)は、報知を行うための情報をスピーカー30及び電子掲示板40に送信し(ステップS25)、ステップS21に戻る。
次いで、スピーカー30のCPU31(受信部311)及び電子掲示板40のCPU41(受信部411)は、それぞれ報知情報を受信する(ステップS26)。
次いで、スピーカー30のCPU31(音声制御部312)及び電子掲示板40のCPU41(表示制御部412)は、それぞれ報知する(ステップS27)。さらに詳しくは、スピーカー30のCPU31(音声制御部312)は、音響発生部35を介して音声により報知する。また、電子掲示板40のCPU41(表示制御部412)は、表示部45を介して画面により報知する。
以上のように、本実施形態の報知システム1によれば、監視カメラ20aは、カラー画像センサ25と距離画像センサ26とによって撮像された動画をサーバ装置10に送信する。動画を受信したサーバ装置10は、動画に含まれるカラー画像情報と距離画像情報とから、動画に含まれる人物を検出する。そして、サーバ装置10は、検出した人物の姿勢動作情報を生成し、記憶部13に記憶された歩行動作情報13a、駆け足動作情報13b及び自転車動作情報13cと比較することで移動方法を検出する。次いで、サーバ装置10は、検出した移動方法が交通規則を遵守しているか否かを判定する。そして、移動方法が交通規則に違反している場合に、サーバ装置10は、報知情報をスピーカー30及び電子掲示板40に送信する。よって、サーバ装置10は、交通規則に違反した通行者がいることを報知することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
なお、上記実施形態では、違反者用の監視カメラ20aと、報知対象者用の監視カメラ20bとは、用途は異なるが、機能及び構成は同一であると説明したが、機能及び構成は異なっていてもよい。例えば、報知対象者用の監視カメラ20bは、報知対象者がいるか否かを判定する動画の撮像に用いられる。報知対象者がいるか否かを判定する顔認識部112は、動画に含まれるカラー画像情報を基に判定する。よって、距離画像センサ26は、備えられていなくてもよい。
また、上記実施形態の各装置で実行されるプログラムは、各装置が備える記憶媒体(ROM又は記憶部)に予め組み込んで提供するものとするが、これに限らず、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。さらに、記憶媒体は、コンピュータ或いは組み込みシステムと独立した媒体に限らず、LANやインターネット等により伝達されたプログラムをダウンロードして記憶又は一時記憶した記憶媒体も含まれる。
また、上記実施形態の各装置で実行されるプログラムをインターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよく、インターネット等のネットワーク経由で提供又は配布するように構成してもよい。
1 報知システム
10 サーバ装置
11 CPU
20a、20b 監視カメラ
30 スピーカー
40 電子掲示板
111 受信部
112 顔認識部
113 顔特徴点検出部
114 姿勢特徴点検出部
115 姿勢動作情報生成部
116 移動検出部
117 移動方法判定部
118 規則判定部
119 報知制御部
120 送信部
特開2013−065119号公報

Claims (6)

  1. 道路上の所定領域を撮像する撮像部から、前記撮像された画像を順次受信する受信手段と、
    前記受信手段が受信した画像から、移動中の人物を検出する第1検出手段と、
    前記第1検出手段により検出された人物の移動方法が、軽車両か否かを判定する第1判定手段と、
    前記第1判定手段により軽車両と判定された場合、当該軽車両の走行状態が前記道路上において遵守すべき交通規則に適合するか否かを判定する第2判定手段と、
    前記第2判定手段が非適合と判定した場合に、前記道路上に設けられた報知装置を用いて報知を行うための情報を出力する出力手段と、
    を備える情報処理装置。
  2. 前記第1判定手段により軽車両と判定された場合、当該軽車両の進行方向を検出する第2検出手段を更に備え、
    前記第2判定手段は、前記第2検出手段で検出された前記軽車両の進行方向が、前記交通規則で禁止されている場合に非適合と判定する、
    請求項1に記載の情報処理装置。
  3. 前記第2検出手段は、前記第1検出手段が検出した人物の顔の向きに基づいて、前記進行方向を検出する請求項2に記載の情報処理装置。
  4. 前記第1判定手段は、前記人物の膝の動作から自転車であるか否かを判定する請求項1ないし3の何れか一項に記載の情報処理装置。
  5. 前記道路上に設けられた報知装置により報知する対象者がいるか否かを判定する第3判定手段を更に備え、
    前記出力手段は、前記第3判定手段が対象者がいると判定した場合に報知を行うための情報を出力する請求項1ないし3の何れか一項に記載の情報処理装置。
  6. 撮像装置と、情報処理装置と、報知装置と、を備えた報知システムであって、
    前記撮像装置は、道路上の所定領域を撮像する撮像部を備え、
    前記情報処理装置は、前記撮像装置から、前記撮像された画像を順次受信する受信手段と、
    前記受信手段が受信した画像から、移動中の人物を検出する第1検出手段と、
    前記第1検出手段により検出された人物の移動方法が、軽車両か否かを判定する第1判定手段と、
    前記第1判定手段により軽車両と判定された場合、当該軽車両の走行状態が前記道路上において遵守すべき交通規則に適合するか否かを判定する第2判定手段と、
    前記第2判定手段が非適合と判定した場合に、前記道路上に設けられた報知装置を用いて報知を行うための情報を出力する出力手段と、を備え、
    前記報知装置は、前記道路上に設けられ、前記情報処理装置から出力された情報を用いて報知する報知システム。
JP2014121713A 2014-06-12 2014-06-12 情報処理装置および報知システム Expired - Fee Related JP6255309B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014121713A JP6255309B2 (ja) 2014-06-12 2014-06-12 情報処理装置および報知システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014121713A JP6255309B2 (ja) 2014-06-12 2014-06-12 情報処理装置および報知システム

Publications (2)

Publication Number Publication Date
JP2016001439A true JP2016001439A (ja) 2016-01-07
JP6255309B2 JP6255309B2 (ja) 2017-12-27

Family

ID=55076997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014121713A Expired - Fee Related JP6255309B2 (ja) 2014-06-12 2014-06-12 情報処理装置および報知システム

Country Status (1)

Country Link
JP (1) JP6255309B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019082376A1 (ja) * 2017-10-27 2019-05-02 株式会社アシックス 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10283807A (ja) * 1997-04-10 1998-10-23 Kictec:Kk 横断歩道照明装置
JP2000097963A (ja) * 1998-09-21 2000-04-07 Mitsubishi Electric Corp 移動体の識別装置
JP2013504098A (ja) * 2009-09-03 2013-02-04 本田技研工業株式会社 車両周辺監視装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10283807A (ja) * 1997-04-10 1998-10-23 Kictec:Kk 横断歩道照明装置
JP2000097963A (ja) * 1998-09-21 2000-04-07 Mitsubishi Electric Corp 移動体の識別装置
JP2013504098A (ja) * 2009-09-03 2013-02-04 本田技研工業株式会社 車両周辺監視装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019082376A1 (ja) * 2017-10-27 2019-05-02 株式会社アシックス 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム
JPWO2019082376A1 (ja) * 2017-10-27 2020-04-23 株式会社アシックス 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム
CN111263953A (zh) * 2017-10-27 2020-06-09 株式会社爱世克私 动作状态评估系统、动作状态评估装置、动作状态评估服务器、动作状态评估方法以及动作状态评估程序
CN111263953B (zh) * 2017-10-27 2024-03-01 株式会社爱世克私 动作状态评估系统及其装置、服务器、方法以及存储介质

Also Published As

Publication number Publication date
JP6255309B2 (ja) 2017-12-27

Similar Documents

Publication Publication Date Title
US11557150B2 (en) Gesture control for communication with an autonomous vehicle on the basis of a simple 2D camera
US10387733B2 (en) Processing apparatus, processing system, and processing method
AU2015262344B2 (en) Processing apparatus, processing system, processing program, and processing method
JP4173901B2 (ja) 車両周辺監視装置
Reisman et al. Crowd detection in video sequences
JP4173902B2 (ja) 車両周辺監視装置
WO2013058128A1 (ja) 車両周辺監視装置
JP4528283B2 (ja) 車両周辺監視装置
JP2007241740A (ja) 車両周辺監視装置
JP2007293627A (ja) 車両の周辺監視装置、車両、車両の周辺監視方法、および車両の周辺監視用プログラム
JP4609076B2 (ja) 移動物体検出装置及び移動物体検出方法
WO2012066751A1 (ja) 車両の周辺監視装置
TW201724052A (zh) 車輛監控系統及其方法
KR102130966B1 (ko) 교통상황 정보 제공 장치 및 방법
KR20190090221A (ko) 지능형 안전 장치
JP6822571B2 (ja) 端末装置、危険予測方法、プログラム
JP2005332071A (ja) 視覚障害者追跡システム及び視覚障害者検出方法
JP6255309B2 (ja) 情報処理装置および報知システム
JP2015228131A (ja) 情報処理装置および報知システム
JP5794379B2 (ja) 立体物検出装置及び立体物検出方法
JP3837572B2 (ja) 視覚障害者用画像認識装置、その方法及びプログラム
JP5383246B2 (ja) 車両の周辺監視装置
JP2006185433A (ja) 車両周辺監視装置
KR102597023B1 (ko) 어린이 보호를 위한 바닥신호등 시스템 및 이의 동작방법
JP2012073823A (ja) 歩行者検出装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20160201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160714

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171204

R150 Certificate of patent or registration of utility model

Ref document number: 6255309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees