JP2016122300A - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2016122300A JP2016122300A JP2014261315A JP2014261315A JP2016122300A JP 2016122300 A JP2016122300 A JP 2016122300A JP 2014261315 A JP2014261315 A JP 2014261315A JP 2014261315 A JP2014261315 A JP 2014261315A JP 2016122300 A JP2016122300 A JP 2016122300A
- Authority
- JP
- Japan
- Prior art keywords
- image
- user
- information
- feature information
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
Abstract
Description
特定人物の画像特徴情報を取得する第2特徴取得手段と、
前記撮像装置により撮像された画像を取得する画像取得手段と、
前記第1特徴取得手段により取得された前記ユーザの画像特徴情報を用いて、前記画像取得手段により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出手段と、
前記画像取得手段により取得された画像内における、前記第1検出手段により検出された未確認人物の画像特徴情報と、前記第2特徴取得手段により取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する第2検出手段と、を有する。
特定人物の画像特徴情報を取得し、
前記撮像装置により撮像された画像を取得し、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、ことを含む。
このコンピュータプログラムは、コンピュータにより実行されたとき、コンピュータに、画像処理装置上で、その画像処理方法を実施させるコンピュータプログラムコードを含む。
本発明の第1の実施の形態に係る画像処理装置、画像処理方法、およびプログラムについて、以下説明する。
図1は、本発明の実施の形態に係る画像処理システム1の構成の一例を示すブロック図である。
本発明において、画像処理システム1は、画像処理装置100と、撮像装置5と、を備える。
なお、以下の各図において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。
画像処理装置100は、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得部102と、特定人物の画像特徴情報を取得する第2特徴取得部104と、撮像装置5により撮像された画像を取得する画像取得部106と、第1特徴取得部102により取得されたユーザの画像特徴情報を用いて、画像取得部106により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出部108と、画像取得部106により取得された画像内における、第1検出部108により検出された未確認人物の画像特徴情報と、第2特徴取得部104により取得された特定人物の画像特徴情報とを照合して、特定人物の存在を検出する第2検出部110を備える。
コンピュータ60は、CPU(Central Processing Unit)62、メモリ64、メモリ64にロードされた図2の構成要素を実現するプログラム80、そのプログラム80を格納するハードディスクなどのストレージ66、ネットワーク接続用インタフェース(通信I/F70)を備える。メモリ64、ストレージ66、I/O68、および通信I/F70は、バス69を介して互いに接続され、CPU62により各要素とともにコンピュータ60全体が制御される。コンピュータ60は、たとえば、キーボードやマウス等の入力装置72やディスプレイなどの表示装置74やプリンタ等の出力装置(不図示)と接続されてもよい。
図4(a)の第1特徴情報データベース112には、ユーザ毎に、少なくともユーザIDと画像特徴情報が対応付けて格納される。図4(b)の第2特徴情報データベース114には、特定人物毎に、少なくとも特定ユーザIDと画像特徴情報が対応付けて格納される。
第1特徴情報データベース112および第2特徴情報データベース114は、画像処理装置100に含まれる記憶装置であってもよいし、外部の記憶装置であってもよく、ネットワークを介して画像処理装置100に接続される記憶装置であってもよい。
第1特徴取得部102は、携帯端末3から送信される携帯端末3またはユーザの識別情報に基づいて、第1特徴情報データベース112(図4)から対応する画像特徴情報を取得する。
画像取得部106は、撮像装置5により撮像された画像を取得する。撮像装置5により撮像される画像は、複数フレームからなる映像であり、画像取得部106が取得する画像とは、個々のフレーム画像を指す。画像取得部106は、撮像装置5により撮像された画像から得られる静止画像を取得してもよい。
画像内の人の形象の認識手法については、公知の技術を用いることができ、詳細な説明は省略する。
(a1)第1検出部108が、認識された全ての形象の各々から特徴情報を抽出し、抽出された各特徴情報と対象ユーザの画像特徴情報とをそれぞれ照合する。そして、第1検出部108は、照合結果により対象ユーザではないと判断された形象があった場合、対象ユーザ以外の未確認人物の存在を検出する。たとえば、図5(b)に示すように、複数の対象ユーザの画像特徴情報が取得されており、画像P1内の人物f2と人物f3については各々対象ユーザの形象と判断された場合、それ以外の人物f1と人物f4が未確認人物として検出される。
(a2)認識された形象の中で、対象ユーザの形象が検出されるまで、第1検出部108は、各形象から特徴情報をそれぞれ抽出する。第1検出部108は、そのようにして得られた各特徴情報と対象ユーザの画像特徴情報とをそれぞれ照合する。この例では、第1検出部108は、全ての形象から特徴情報を抽出するわけではなく、各形象について都度、または順に抽出および照合を実行し、照合すべき対象ユーザの特徴情報と合致する形象(類似度が所定値以上等)がすべて見つかった段階で、残りの形象についての照合は行わない。
なお、照合判定に類似度の閾値判定を用いない方法も考えられ、照合対象の形象の中から類似度が最も高いものを選択する等の方法も考えられる。
図6は、本実施形態の画像処理装置100の動作の一例を示すフローチャートである。
本発明の実施の形態に係る画像処理方法は、画像処理装置100の画像処理方法であり、画像処理装置100を実現するコンピュータ60により実行される画像処理方法である。
本実施形態の画像処理方法は、画像処理装置100が、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得し(ステップS101)、特定人物の画像特徴情報を取得し(ステップS109)、撮像装置5により撮像された画像を取得し(ステップS103)、取得されたユーザの画像特徴情報を用いて、取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し(ステップS105)、取得された画像内における、検出された未確認人物の画像特徴情報と、取得された特定人物の画像特徴情報とを照合して(ステップS111)、特定人物の存在を検出する(ステップS113)、ことを含む。
以下、図6および図7を用いて、画像処理装置100の動作について説明する。
ステップS103で、画像取得部106により画像の各フレーム(001〜009)が順次取得される。一方、ステップS101で、第1特徴取得部102により、対象ユーザの画像特徴情報が取得される。たとえば、フレーム001が撮像された時に、対象ユーザ(U1)の画像特徴情報が取得されたとする。
(b1)撮像装置5との所定位置関係に相当する範囲(以後、対象エリアとも呼ぶ)に対象ユーザが入ってきたこと、または存在することを検知する、または、検知された時刻を記録する。
(b2)検知された時、または、記録された時刻に撮像装置5で撮像された画像フレームを対象ユーザの画像特徴情報との照合対象フレームとする。または、検知された時点、または記録された時刻を含む所定期間、撮像装置5で撮像された複数の画像フレームを対象ユーザの画像特徴情報との照合対象フレームとする。所定期間は、基準時刻の前後にまたがってもよいし、基準時刻を期間の開始または終了時刻としてもよい。
このように、撮像された画像内から対象ユーザを確実に検出することができるように、対象エリアと、対象ユーザの検出可能位置の関係、検出情報の検出手段等を考慮して、タイミングの合わせ方を決めればよい。
また、フレーム005が撮像された時には、取得されたユーザ画像特徴情報はなく、かつ、第1特徴取得部102により取得された対象ユーザの画像特徴情報もないので、ステップS105の照合処理はバイパスされる。
このように、本実施形態の画像処理装置100によれば、対象ユーザの画像特徴情報に基づいて画像内の人物を未確認人物に絞り込み、未確認人物を照合対象として特定人物を探すので、撮像画像から高精度に検出することができる。
上記第1実施形態の具体例1として、ビーコンを利用したユーザ情報の取得方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
図8は、本実施形態の画像処理システムの構成例を示す図である。
本実施形態の画像処理システムは、図1の画像処理システム1の構成に加え、さらに、ビーコン装置7を備える。ビーコン装置7は、画像処理装置120に有線または無線、あるいは、これらの組み合わせにより接続される。あるいは、ビーコン装置7は、ネットワーク(不図示)を介して画像処理装置120に接続されてもよい。
携帯端末3は、検知信号受信部42と、情報送信部44と、を含む。
ビーコン装置7は、検知信号送信部132を含む。
たとえば、検知信号受信部42が検知信号を受信すると、情報送信部44は、検知信号内の所定の位置に、ユーザの識別情報(ユーザID)を書き込み、それを応答情報として画像処理装置120に送信してもよい。さらに、応答情報に、ユーザの画像特徴情報を含めて返信してもよい。この構成については後述する。
画像処理装置120は、図2の上記実施形態の画像処理装置100と同様な第1特徴取得部102、第2特徴取得部104、画像取得部106、および第2検出部110を備えるとともに、さらに、応答情報受信部122を備える。また、本実施形態の画像処理装置120において、上記実施形態の画像処理装置100の第1検出部108に替えて、第1検出部124を備えてもよい。
応答情報受信部122により受信されたユーザの識別情報に基づいて、第1特徴取得部102は、第1特徴情報データベース112を参照し、当該ユーザの画像特徴情報を取得することができる。
応答情報受信部122は、携帯端末3から、識別情報とともに距離情報を受信する。
第1検出部124は、応答情報受信部122により受信された距離情報に基づいて、画像取得部106により取得された画像の中で、第1特徴取得部102により取得されたユーザの画像特徴情報と照合させる画像を特定する。
第1検知信号には、さらに、第1無線通信装置(ビーコン装置7)の発信元IDを含んでもよい。
画像処理装置120は、ユーザIDを元に、当該ユーザの画像特徴情報を取得するが、携帯端末3からユーザIDの替わりに携帯端末3のユーザの画像特徴情報が送信されてもよい。さらに、携帯端末3から送信される情報は、検知信号の発信元の識別情報(発信元ID)を含んでもよい。
たとえば、図10に示すように、出入口E1からユーザUaが進入した時、距離情報から、ユーザUaが境界A3〜境界A2の間の通信エリアに存在することが分かる。さらに、ユーザUaが矢印の方向に移動して、境界A2〜境界A1の間の通信エリアに進入した時、携帯端末3が受信する検知信号に含まれる距離情報が変わる。
第1検出部124は、応答情報受信部122により受信された距離情報に基づいて、携帯端末3が境界A2〜境界A1の間の通信エリアに存在することを判別できる。このように、第1検出部124は、携帯端末3から送信される距離情報に基づいて、撮像装置5と所定位置関係にある携帯端末3を判別できる。
ユーザから応答情報(距離情報)を受信した場合に、移動方向を判別し、たとえば、撮像装置5に背を向ける方向にユーザが進んですることが分かれば、撮像装置5はユーザの顔が撮像画像に写っていないと判断し、その時の撮像画像内での当該ユーザの顔画像の検索を行わないなどの処理を行ってもよい。また、入場時に一度確認できれば、その後はサーチ対象から除外されるのが好ましいので、移動方向が反対方向の場合には、サーチ対象から除外してもよい。
図12は、本実施形態の画像処理システムの動作の一例を示すフローチャートである。
本実施形態の画像処理システムにおいて、ビーコン装置7の検知信号送信部132が、定期的にまたは間欠的に、検知信号(p1、p2、およびp3)を送信する(ステップS121)。たとえば、図10に示すように、ユーザUaは、出入口E1から建屋に入って来たとき、検知信号(p3)の通信エリア(A3)内に進入することになる。そこで、ユーザUaの携帯端末3の検知信号受信部42が検知信号(p3)を受信する(ステップS123)。携帯端末3の情報送信部44が、検知信号(p3)に呼応して応答情報を返信する(ステップS124)。
本実施形態では、携帯端末3の情報送信部44が送信する応答情報には、ユーザIDおよび距離情報が含まれる。たとえば、情報送信部44は、受信した検知信号(p3)の所定位置にユーザIDを書き込んで応答情報として送信する。
上記第1実施形態の別の具体例として、さらに、第2のビーコンを利用した、ユーザが存在する位置の特定方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
本実施形態の画像処理装置140は、図2の上記実施形態の画像処理装置100と同様な第1特徴取得部102、第2特徴取得部104、画像取得部106、第1検出部108、および第2検出部110を備えるとともに、さらに、応答情報受信部142と、方向特定部144と、を備える。
方向特定部144は、応答情報受信部142により受信された、第1検知信号に対する応答情報および第2検知信号に対する応答情報を用いて、撮像装置5に対する携帯端末3の方向を特定する。
本実施形態の画像処理システムは、上記実施形態の画像処理装置120で説明した構成に、さらに、第2検知信号を送信する第2のビーコン装置を含む。図15の例では、2つのビーコン装置7aと7bを備えている。図15の例では、3つのビーコン装置7a、7b、および7cを備えている。さらに、図15の例では、ビーコン装置7a、7b、7cでユーザが検知された場合に、それぞれ撮像装置5(カメラ5a、5b、5c)が撮影を開始または撮像画像のサーチ対象画像として記録して保存してもよい。
ビーコン装置7bと7cは、図9の上記実施形態のビーコン装置7と同様な構成を有し、検知信号を、所定の通信エリアに対して、定期的にまたは間欠的に送信する点では同様である。ビーコン装置7と異なる点は、検知信号送信部132が、破線A11、破線A12または破線A21で示される通信エリア内に存在する携帯端末3が応答するように、検知信号を送信することである。
本実施形態では、出入口E2から風除室を通って入って来たユーザUbまたはユーザUaを検知し、他のユーザと区別することができる。あるいは、図15の例では、出入口E3から建屋の外に出ようとしているユーザUcを検知し、他のユーザと区別することができる。
画像処理装置140において、応答情報受信部142が、携帯端末3から送信された応答情報を受信し、応答情報からユーザIDを取得する。応答情報には、ユーザIDの他、ビーコン装置7の識別情報や距離情報が含まれてもよい。
たとえば、通信エリア(A3)は、ビーコン装置7aの周囲に全体にわたって存在する。しかし、撮像装置5の画角が図14のように出入口E1の方向に向いている場合には、ユーザが撮像装置5の画角の方向から撮像装置5に向かって進んできている時に撮像された画像に、ユーザが写る可能性が高い。そこで、本実施形態では、ビーコン装置7aとは別に、ビーコン装置7bを設け、通信エリアA3内の出入口E1の方向に存在するユーザを検出する。
さらに、図15の例では、ビーコン装置7bの通信エリアA11内、または、ビーコン装置7cの通信エリアA21内にユーザUcが進入した場合、カメラ5cが動作し、通信エリアA21内に存在するユーザUcを含む画像を撮像する。
上記第1実施形態のさらなる別の具体例として、GPS(Global Positioning System)を利用した、ユーザ位置の特定方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
第1特徴取得部102は、ユーザ特定部により特定されるユーザの画像特徴情報を取得する。
この構成によれば、携帯端末3のGPS機能部を用いてその位置情報を取得できるので、ユーザが来店時等にアプリケーションを起動する必要がないので、ユーザのアプリケーションの起動し忘れによって本システムの利用ができなくなることがなくなる。ユーザは特に意識せずに、本システムを利用することができる。
次に、本発明の第2の実施の形態に係る画像処理システムについて、以下説明する。
図20は、本発明の実施の形態に係る画像処理システムの動作の一例を示すフローチャートである。
本実施形態の画像処理装置200は、上記実施形態の画像処理装置100とは、画像処理装置200が、対象ユーザの画像特徴情報を保持せず、第1特徴取得部102がユーザの携帯端末3から送信される画像特徴情報を都度取得する構成を有する点で相違する。
なお、本実施形態の構成は、上記各実施形態、およびその各例の構成の少なくともいずれか1つと組み合わせることもできる。
この構成によれば、ユーザが顔画像の特徴情報を事前にシステムに登録することに抵抗があるような場合にも、本システムのデータベースにユーザの顔画像の特徴情報を保持しないので、本システムの利用を促すことが可能になる。
まず、携帯端末3において、画像情報取得部(不図示)が、撮像部32を用いてユーザは顔写真を撮像する(ステップS201)。そして、画像情報取得部が、撮像された画像から画像特徴情報を抽出し、内部ストレージ16に保存する(ステップS203)。ここまでの手順は、たとえば、携帯端末3から所定のウェブサイトにアクセスし、ウェブサイト上に提示される手順に従い、ユーザが携帯端末3を操作することで実行されてもよい。あるいは、登録用のアプリケーションをダウンロードし、アプリケーションを実行することで、ユーザに写真撮影させるガイダンスを実行し、撮像された画像から自動的に画像特徴情報を抽出して保存する処理を行ってもよい。
なお、これらの処理は、後述する実施例で、サーバに登録する画像特徴情報の元になるユーザの顔画像をユーザに撮影させる処理でも同様である。
そして、画像処理装置200では、携帯端末3から応答情報を受信した時(ステップS125のYES)、携帯端末3から受信した情報から、ユーザの画像特徴情報を取得する(ステップS129)。
以降の処理は、上記実施形態で説明したのと同じであるので、詳細な説明は省略する。
たとえば、第1特徴情報データベース112および第2特徴情報データベース114に格納されている画像特徴情報について、特徴量によるソート、または、サーチ対象ユーザの属性に基づく絞り込みなどの処理を行うこともできる。
ステップS203において、データベース内の複数の特定人物の中から、どの順番で照合を行うか、データベース内の特徴情報の特徴量をソートし、画像内で抽出された画像特徴情報と近似の特徴量を有する画像特徴情報から順に取得してもよい。
さらに、ステップS203において、照合を行う際に、画像内の未確認人物の性別または年代等の属性を判別し、データベースを性別または年代でフィルタをかけてもよい。
具体的には、第2検出部110は、第1検出部108により未確認人物の存在が検出された場合、未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、判別された属性と同じ属性を有する、第2特徴情報データベース114の特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする。
検知信号による携帯端末3の位置の特定方法において、上記実施形態では、ビーコン装置7が検知信号を携帯端末3に送信し、検知信号を受信した携帯端末3が画像処理装置に情報を送信する構成について説明した。他の実施形態として、携帯端末3が検知信号を送信し、検知信号を受信したビーコン装置7が画像処理装置に情報を送信する構成、または、検知信号を受信した携帯端末3がビーコン装置7に情報を送信し、ビーコン装置7から画像処理装置に情報を転送する構成も考えられる。
携帯端末3は、定期的にまたは間欠的に、自端末からの距離が所定の距離以内に位置するビーコン装置7に向けて、無線通信で検知信号を送信する検知信号送信部(不図示)を有する。検知信号には、携帯端末3の識別情報またはユーザの画像特徴情報が含まれてもよい。
すなわち、画像処理装置は、予め対象ユーザとして、要人とその警護にあたる人物の画像特徴情報を登録し、撮像画像内で、対象ユーザを検索対象から除外し、絞り込まれた未確認人物内で不審者の検出を行うことができる。
あるいは、オリンピック村等では、選手や関係者を予め対象ユーザとして画像特徴情報を登録しておき、撮像画像内で、対象ユーザを検索対象から除外し、絞り込まれた未確認人物内で不審者の検出を行うことができる。
このように、本発明の画像処理装置は、様々なシーンに適用できる。
以下、本発明の画像処理システムの実施例について説明する。
本実施例では、ユーザが利用する店舗に予め会員登録を行い、会員登録されたユーザについては、ブラックリストとの照合から除外する。ユーザは、会員登録することで、店舗からインセンティブを取得できる構成としてまよい。本実施例の画像処理装置は、上記実施形態の画像処理装置120と同様な構成を備えるとともに、さらに、ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信して格納するユーザ情報データベース(不図示)と、当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する付与部(不図示)と、を備えるサーバ300を例として説明する。
図18に示すように、スマートフォン10は、CPU12と、メモリ14と、内部ストレージ16と、通信部18と、操作部22と、操作受付部24と、表示部26と、表示制御部28と、を備える。なお、図10において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。また、スマートフォン10では、操作部22の一部と、表示部26が一体となったタッチパネル30を備えてもよい。さらに、スマートフォン10は、撮像部32と、GPS機能部34と、を備えてもよい。なお、本実施例では、スマートフォン10が撮像部32を備える構成としているが、これに限定されるものではない。スマートフォン10に接続される外部のカメラで撮像してもよいし、あるいは、他のカメラで撮像された画像を入手してもよい。
まず、スマートフォン10において、サーバ300に会員登録を行うために、所定のウェブサイトにアクセスし、情報入力を行うためのフォームを表示する。または、本システムを利用するためのアプリケーションをダウンロードしてインストールし、情報入力を行うためのフォームを表示する。
そして、サーバ300では、スマートフォン10から送信された画像データと登録情報を受信すると(ステップS413)、画像データから画像特徴情報を抽出する(ステップS415)。抽出された画像特徴情報を、ユーザIDと関連付けて第1特徴情報データベース112に登録する(ステップS417)。このとき、スマートフォン10から送信された会員登録用の登録情報は、ユーザIDが付与され、ユーザIDと関連付けてユーザ情報データベースに登録される。
本実施例では、サーバ300が、スマートフォン10から送信された画像データから画像特徴情報を抽出する構成としたが、他の例では、スマートフォン10側で、画像データから画像特徴情報を抽出してその画像特徴情報をサーバ300に送信してもよい。
スマートフォン10が、ビーコン装置7からの検知信号を受信し、応答情報をサーバ300に送信する処理は、図12の上記実施形態のフローチャートと同様である。そして、サーバ300の応答情報受信部122が、スマートフォン10から応答情報を受信すると(ステップS131)、ユーザIDと距離情報を取得する(ステップS133)。そして、サーバ300が、ユーザにインセンティブを付与する(ステップS421)。
たとえば、応答情報を送信してきたユーザのスマートフォン10に、クーポンを発行して送信し、スマートフォン10に受信させて、スマートフォン10の表示部26に表示させてもよい(ステップS423)。あるいは、ユーザに、応答情報を送信した見返りとして、ポイントを付与し、当該ユーザのユーザ情報データベースに、ポイント履歴情報として記録してもよい。
なお、本発明において利用者に関する情報を取得、利用する場合は、これを適法に行うものとする。
1. 画像処理装置が、
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得し、
特定人物の画像特徴情報を取得し、
前記撮像装置により撮像された画像を取得し、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、
画像処理方法。
2. 前記画像処理装置が、
前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信し、
受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する、
1.に記載の画像処理方法。
3. 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
前記画像処理装置が、
前記携帯端末から、前記識別情報とともに前記距離情報を受信し、
受信された前記距離情報に基づいて、取得された前記画像の中で、取得された前記ユーザの画像特徴情報と照合させる画像を特定する、
2.に記載の画像処理方法。
4. 前記画像処理装置が、
前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信し、
受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する、
2.または3.に記載の画像処理方法。
5. 前記画像処理装置が、
前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定し、
特定される前記ユーザの画像特徴情報を取得する、
1.から4.いずれか一つに記載の画像処理方法。
6. 前記画像処理装置が、
前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する、
1.から5.いずれか一つに記載の画像処理方法。
7. 前記画像処理装置が、
特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートし、
前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得し、
前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する、
1.から6.のいずれか一つに記載の画像処理方法。
8. 前記画像処理装置が、
前記未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、
特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする、
1.から7.いずれか一つに記載の画像処理方法。
9. 前記画像処理装置が、
前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信してデータ変数に格納し、
当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する、
1.から8.いずれか一つに記載の画像処理方法。
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する手順、
特定人物の画像特徴情報を取得する手順、
前記撮像装置により撮像された画像を取得する手順、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する手順、
取得された前記画像内における、検出された前記未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する手順、を実行させるためのプログラム。
11. 前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信する手順、
受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する手順、
をコンピュータに実行させるための、10.に記載のプログラム。
12. 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
前記携帯端末から、前記識別情報とともに前記距離情報を受信する手順、
受信された前記距離情報に基づいて、取得された前記画像の中で、取得された前記ユーザの画像特徴情報と照合させる画像を特定する手順、
をコンピュータに実行させるための、11.に記載のプログラム。
13. 前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信する手順、
受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する手順、
をコンピュータに実行させるための、11.または12.に記載のプログラム。
14. 前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定する手順、
特定される前記ユーザの画像特徴情報を取得する手順、
をコンピュータに実行させるための、10.から13.いずれか一つに記載のプログラム。
15. 前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する手順、
をコンピュータに実行させるための、10.から14.いずれか一つに記載のプログラム。
16. 特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートする手順、
前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得する手順、
前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する手順、
をコンピュータに実行させるための、10.から15.のいずれか一つに記載のプログラム。
17. 前記未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別する手順、
特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする手順、
をコンピュータに実行させるための、10.から16.いずれか一つに記載のプログラム。
18. 前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信してデータベースに格納する手順、
当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する手順、
をコンピュータに実行させるための、10.から17.いずれか一つに記載のプログラム。
3 携帯端末
3 本変形態様
5 撮像装置
5a、5b、5c カメラ
7、7a、7b、7c ビーコン装置
10 スマートフォン
12 CPU
14 メモリ
16 内部ストレージ
18 通信部
22 操作部
24 操作受付部
26 表示部
28 表示制御部
30 タッチパネル
32 撮像部
34 GPS機能部
42 検知信号受信部
44 情報送信部
50 プログラム
60 コンピュータ
62 CPU
64 メモリ
66 ストレージ
68 I/O
69 バス
70 通信I/F
72 入力装置
74 表示装置
76 ネットワーク
80 プログラム
100 画像処理装置
102 第1特徴取得部
104 第2特徴取得部
106 画像取得部
108 第1検出部
110 第2検出部
112 第1特徴情報データベース
114 第2特徴情報データベース
120 画像処理装置
122 応答情報受信部
124 第1検出部
132 検知信号送信部
140 画像処理装置
142 応答情報受信部
144 方向特定部
200 画像処理装置
300 サーバ
Claims (11)
- ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得手段と、
特定人物の画像特徴情報を取得する第2特徴取得手段と、
前記撮像装置により撮像された画像を取得する画像取得手段と、
前記第1特徴取得手段により取得された前記ユーザの画像特徴情報を用いて、前記画像取得手段により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出手段と、
前記画像取得手段により取得された画像内における、前記第1検出手段により検出された未確認人物の画像特徴情報と、前記第2特徴取得手段により取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する第2検出手段と、
を備える画像処理装置。 - 前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信する応答情報受信手段
をさらに備え、
前記第1特徴取得手段は、前記応答情報受信手段により受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する、
請求項1に記載の画像処理装置。 - 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
前記応答情報受信手段は、前記携帯端末から、前記識別情報とともに前記距離情報を受信し、
前記第1検出手段は、前記応答情報受信手段により受信された前記距離情報に基づいて、前記画像取得手段により取得された前記画像の中で、前記第1特徴取得手段により取得された前記ユーザの画像特徴情報と照合させる画像を特定する、
請求項2に記載の画像処理装置。 - 前記応答情報受信手段は、前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信し、
前記画像処理装置は、さらに、
前記応答情報受信手段により受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する方向特定手段と、を備える、
請求項2または3に記載の画像処理装置。 - 前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定するユーザ特定手段をさらに備え、
前記第1特徴取得手段は、前記ユーザ特定手段により特定される前記ユーザの画像特徴情報を取得する、
請求項1から4いずれか一項に記載の画像処理装置。 - 前記第1特徴取得手段は、前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する、
請求項1から5いずれか一項に記載の画像処理装置。 - 前記第2特徴取得手段は、
特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートし、
前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得し、
前記第2検出手段が、
前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する、
請求項1から6のいずれか一項に記載の画像処理装置。 - 前記第2検出手段は、前記第1検出手段により未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、
特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする、
請求項1から7いずれか一項に記載の画像処理装置。 - 前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信して格納するデータベースと、
当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する付与手段と、
を備える、
請求項1から8いずれか一項に記載の画像処理装置。 - 画像処理装置が、
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得し、
特定人物の画像特徴情報を取得し、
前記撮像装置により撮像された画像を取得し、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、
画像処理方法。 - コンピュータに、
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する手順、
特定人物の画像特徴情報を取得する手順、
前記撮像装置により撮像された画像を取得する手順、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する手順、
取得された前記画像内における、検出された前記未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する手順、を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014261315A JP6645655B2 (ja) | 2014-12-24 | 2014-12-24 | 画像処理装置、画像処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014261315A JP6645655B2 (ja) | 2014-12-24 | 2014-12-24 | 画像処理装置、画像処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016122300A true JP2016122300A (ja) | 2016-07-07 |
JP6645655B2 JP6645655B2 (ja) | 2020-02-14 |
Family
ID=56329035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014261315A Active JP6645655B2 (ja) | 2014-12-24 | 2014-12-24 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6645655B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018061114A (ja) * | 2016-10-04 | 2018-04-12 | 日本電信電話株式会社 | 監視装置および監視方法 |
JP2018081402A (ja) * | 2016-11-15 | 2018-05-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP2019079511A (ja) * | 2017-10-11 | 2019-05-23 | スキーデータ・アクチエンゲゼルシャフトSkidata Ag | アクセス制御システムを用いてアクセス許可を確認する方法 |
JP2019186800A (ja) * | 2018-04-12 | 2019-10-24 | Kddi株式会社 | 情報端末装置、プログラム及び方法 |
JP2020155061A (ja) * | 2019-03-22 | 2020-09-24 | 株式会社サイバーエージェント | 個人識別システム、個人識別装置、個人識別方法及びコンピュータプログラム |
US11429985B2 (en) | 2017-03-21 | 2022-08-30 | Kabushiki Kaisha Toshiba | Information processing device calculating statistical information |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000090264A (ja) * | 1998-09-11 | 2000-03-31 | Omron Corp | 生体照合方法およびその装置 |
JP2004013871A (ja) * | 2002-06-12 | 2004-01-15 | Creer:Kk | 防犯システム |
JP2004213097A (ja) * | 2002-12-26 | 2004-07-29 | Casio Comput Co Ltd | 画像照合装置、画像照合方法、画像照合プログラム |
JP2005234947A (ja) * | 2004-02-20 | 2005-09-02 | Omron Corp | 人数計数装置 |
JP2006127240A (ja) * | 2004-10-29 | 2006-05-18 | Secom Co Ltd | 不審者検出システム及び不審者検出プログラム |
JP2006146413A (ja) * | 2004-11-17 | 2006-06-08 | Mitsubishi Electric Corp | 対象追従装置 |
JP2006268577A (ja) * | 2005-03-24 | 2006-10-05 | Fuji Xerox Co Ltd | 認証装置、認証システムおよび画像形成装置 |
JP2006318313A (ja) * | 2005-05-13 | 2006-11-24 | Omron Corp | 撮影制御装置、撮影制御方法、制御プログラム、制御プログラムを記録した記録媒体、撮影制御システム、および情報処理システム |
JP2007058523A (ja) * | 2005-08-24 | 2007-03-08 | Fujitsu Ltd | 警備システム |
JP2007093595A (ja) * | 2005-09-01 | 2007-04-12 | Matsushita Electric Ind Co Ltd | 送受信システム,外部発信受信装置,および送受信方法 |
JP2008197895A (ja) * | 2007-02-13 | 2008-08-28 | Toshiba Tec Corp | Pos端末および生体認証装置 |
JP2008198189A (ja) * | 2007-01-12 | 2008-08-28 | Internatl Business Mach Corp <Ibm> | 有害動作を表すモニター対象ユーザの動作を監視ユーザに警告するための方法、システム、およびプログラム |
JP2010204028A (ja) * | 2009-03-05 | 2010-09-16 | Oki Electric Ind Co Ltd | 管理サーバ、位置推定用設備システム及び位置推定システム |
JP2010250680A (ja) * | 2009-04-17 | 2010-11-04 | Adachi Shokai:Kk | 在宅判定システム、在宅判定装置及び在宅判定方法 |
JP2011047270A (ja) * | 2010-09-24 | 2011-03-10 | Oki Electric Industry Co Ltd | ゲート装置、管理装置 |
JP2011060058A (ja) * | 2009-09-11 | 2011-03-24 | Hitachi Kokusai Electric Inc | 撮影装置および監視システム |
JP2011128684A (ja) * | 2009-12-15 | 2011-06-30 | Yahoo Japan Corp | 情報処理装置、情報処理方法、情報処理システムおよび情報処理プログラム |
JP2013054593A (ja) * | 2011-09-05 | 2013-03-21 | Toshiba Tec Corp | 情報処理装置及びプログラム |
JP2013223137A (ja) * | 2012-04-17 | 2013-10-28 | Konica Minolta Inc | 情報処理装置、プログラム |
-
2014
- 2014-12-24 JP JP2014261315A patent/JP6645655B2/ja active Active
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000090264A (ja) * | 1998-09-11 | 2000-03-31 | Omron Corp | 生体照合方法およびその装置 |
JP2004013871A (ja) * | 2002-06-12 | 2004-01-15 | Creer:Kk | 防犯システム |
JP2004213097A (ja) * | 2002-12-26 | 2004-07-29 | Casio Comput Co Ltd | 画像照合装置、画像照合方法、画像照合プログラム |
JP2005234947A (ja) * | 2004-02-20 | 2005-09-02 | Omron Corp | 人数計数装置 |
JP2006127240A (ja) * | 2004-10-29 | 2006-05-18 | Secom Co Ltd | 不審者検出システム及び不審者検出プログラム |
JP2006146413A (ja) * | 2004-11-17 | 2006-06-08 | Mitsubishi Electric Corp | 対象追従装置 |
JP2006268577A (ja) * | 2005-03-24 | 2006-10-05 | Fuji Xerox Co Ltd | 認証装置、認証システムおよび画像形成装置 |
JP2006318313A (ja) * | 2005-05-13 | 2006-11-24 | Omron Corp | 撮影制御装置、撮影制御方法、制御プログラム、制御プログラムを記録した記録媒体、撮影制御システム、および情報処理システム |
JP2007058523A (ja) * | 2005-08-24 | 2007-03-08 | Fujitsu Ltd | 警備システム |
JP2007093595A (ja) * | 2005-09-01 | 2007-04-12 | Matsushita Electric Ind Co Ltd | 送受信システム,外部発信受信装置,および送受信方法 |
JP2008198189A (ja) * | 2007-01-12 | 2008-08-28 | Internatl Business Mach Corp <Ibm> | 有害動作を表すモニター対象ユーザの動作を監視ユーザに警告するための方法、システム、およびプログラム |
JP2008197895A (ja) * | 2007-02-13 | 2008-08-28 | Toshiba Tec Corp | Pos端末および生体認証装置 |
JP2010204028A (ja) * | 2009-03-05 | 2010-09-16 | Oki Electric Ind Co Ltd | 管理サーバ、位置推定用設備システム及び位置推定システム |
JP2010250680A (ja) * | 2009-04-17 | 2010-11-04 | Adachi Shokai:Kk | 在宅判定システム、在宅判定装置及び在宅判定方法 |
JP2011060058A (ja) * | 2009-09-11 | 2011-03-24 | Hitachi Kokusai Electric Inc | 撮影装置および監視システム |
JP2011128684A (ja) * | 2009-12-15 | 2011-06-30 | Yahoo Japan Corp | 情報処理装置、情報処理方法、情報処理システムおよび情報処理プログラム |
JP2011047270A (ja) * | 2010-09-24 | 2011-03-10 | Oki Electric Industry Co Ltd | ゲート装置、管理装置 |
JP2013054593A (ja) * | 2011-09-05 | 2013-03-21 | Toshiba Tec Corp | 情報処理装置及びプログラム |
JP2013223137A (ja) * | 2012-04-17 | 2013-10-28 | Konica Minolta Inc | 情報処理装置、プログラム |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018061114A (ja) * | 2016-10-04 | 2018-04-12 | 日本電信電話株式会社 | 監視装置および監視方法 |
JP2018081402A (ja) * | 2016-11-15 | 2018-05-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US11429985B2 (en) | 2017-03-21 | 2022-08-30 | Kabushiki Kaisha Toshiba | Information processing device calculating statistical information |
JP2019079511A (ja) * | 2017-10-11 | 2019-05-23 | スキーデータ・アクチエンゲゼルシャフトSkidata Ag | アクセス制御システムを用いてアクセス許可を確認する方法 |
JP2019186800A (ja) * | 2018-04-12 | 2019-10-24 | Kddi株式会社 | 情報端末装置、プログラム及び方法 |
JP6993282B2 (ja) | 2018-04-12 | 2022-01-13 | Kddi株式会社 | 情報端末装置、プログラム及び方法 |
JP2020155061A (ja) * | 2019-03-22 | 2020-09-24 | 株式会社サイバーエージェント | 個人識別システム、個人識別装置、個人識別方法及びコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6645655B2 (ja) | 2020-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6645655B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN110008903B (zh) | 人脸识别方法、装置、系统、存储介质和人脸支付方法 | |
JP2022082561A (ja) | 解析サーバ、監視システム、監視方法及びプログラム | |
JP6885682B2 (ja) | 監視システム、管理装置、及び監視方法 | |
CN109829381A (zh) | 一种犬只识别管理方法、装置、系统及存储介质 | |
CN101496074A (zh) | 可疑行为探测设备和方法以及程序和记录介质 | |
JP2008040781A (ja) | 被写体照合装置および被写体照合方法 | |
JP2024015359A (ja) | 人物検出システム | |
JP7196932B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP7484985B2 (ja) | 認証システム、認証方法、及び、プログラム | |
TWI745891B (zh) | 認證系統、認證終端、使用者終端、認證方法、及程式產品 | |
JP2017059060A (ja) | 生体照合システム、生体照合方法、生体照合装置及び制御プログラム | |
US10810450B2 (en) | Methods and systems for improved biometric identification | |
US9965612B2 (en) | Method and system for visual authentication | |
CN110765851A (zh) | 一种注册方法及装置、设备 | |
JP2022059626A (ja) | チケット発券システム、検札装置、およびプログラム | |
Mun et al. | Design for visitor authentication based on face recognition technology using CCTV | |
CN112183167A (zh) | 考勤方法、认证方法、活体检测方法、装置及设备 | |
JP7020567B2 (ja) | 情報処理システム、情報処理装置、情報処理方法、およびプログラム | |
US10559142B2 (en) | Information processing system | |
JP5730000B2 (ja) | 顔照合システム、顔照合装置及び顔照合方法 | |
CN104205013A (zh) | 信息处理装置、信息处理方法以及程序 | |
JP7298729B2 (ja) | 情報処理システム、情報処理装置、情報処理方法、およびプログラム | |
JP7095876B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7248348B2 (ja) | 顔認証装置、顔認証方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181009 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190201 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190716 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191002 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20191010 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191227 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6645655 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |