JP2016122300A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2016122300A
JP2016122300A JP2014261315A JP2014261315A JP2016122300A JP 2016122300 A JP2016122300 A JP 2016122300A JP 2014261315 A JP2014261315 A JP 2014261315A JP 2014261315 A JP2014261315 A JP 2014261315A JP 2016122300 A JP2016122300 A JP 2016122300A
Authority
JP
Japan
Prior art keywords
image
user
information
feature information
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014261315A
Other languages
English (en)
Other versions
JP6645655B2 (ja
Inventor
一秀 梅田
Kazuhide Umeda
一秀 梅田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solution Innovators Ltd
Original Assignee
NEC Solution Innovators Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Solution Innovators Ltd filed Critical NEC Solution Innovators Ltd
Priority to JP2014261315A priority Critical patent/JP6645655B2/ja
Publication of JP2016122300A publication Critical patent/JP2016122300A/ja
Application granted granted Critical
Publication of JP6645655B2 publication Critical patent/JP6645655B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)

Abstract

【課題】撮像画像から特定人物の存在を高精度に検出する画像処理装置、画像処理方法、およびプログラムを提供する。【解決手段】画像処理装置は、ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得部と、特定人物の画像特徴情報を取得する第2特徴取得部と、撮像装置により撮像された画像を取得する画像取得部と、第1特徴取得部により取得されたユーザの画像特徴情報を用いて、画像取得部により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出部と、画像取得部により取得された画像内における、第1検出部により検出された未確認人物の画像特徴情報と、第2特徴取得部により取得された特定人物の画像特徴情報とを照合して、特定人物の存在を検出する第2検出部を備える。【選択図】図2

Description

本発明は、画像処理装置、画像処理方法、およびプログラムに関し、特に、撮像画像を処理する画像処理装置、画像処理方法、およびプログラムに関する。
近年、カメラで撮像された画像から、特定人物を見つける技術は格段に向上し、防犯システムや顔認証による入退管理システム等、様々な分野やシチュエーションで利用されている。
監視対象以外の人物のプライバシーを保護できる監視システムの一例が特許文献1に記載されている。特許文献1に記載の監視システムは、通学路に設置されたカメラで撮影された画像をネットワークを経由して伝送し、保護者が端末で画像表示して閲覧する遠隔監視システムとして構成されている。監視対象の児童の顔特徴量が予め顔特徴量データベースに登録されている。無線ICタグを所持している監視対象の児童がICタグ信号受信装置に近づくと、ICタグ信号受信装置が無線ICタグ信号を受信し、カメラに撮影開始信号を送信する。カメラが所定の撮影範囲を撮影して画像データを生成する。この撮影画像には撮影対象の児童以外の他に、多数の人物が撮影されている。そこで、領域識別部によって識別された児童の顔領域以外の顔領域をマスキングし、監視対象外の人物が特定できないようなマスク画像を生成する。このマスク画像と識別情報を対応付けて保持し、外部から閲覧できるように公開する。
特開2008−17093号公報
上記文献記載の監視システムでは、撮像画像内に写っている全ての人物を候補にして、その候補の中から監視対象の一人の児童を見付け出さなければならない。よって、撮像画像内に写る人物の数が増加する程、検出精度が低下することになる。
本発明は上記事情に鑑みてなされたものであり、その目的とするところは、撮像画像から特定人物の存在を高精度に検出する画像処理装置、画像処理方法、およびプログラムを提供することにある。
本発明の各側面では、上述した課題を解決するために、それぞれ以下の構成を採用する。
第一の側面は、画像処理装置に関する。第一の側面に係る画像処理装置は、ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得手段と、
特定人物の画像特徴情報を取得する第2特徴取得手段と、
前記撮像装置により撮像された画像を取得する画像取得手段と、
前記第1特徴取得手段により取得された前記ユーザの画像特徴情報を用いて、前記画像取得手段により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出手段と、
前記画像取得手段により取得された画像内における、前記第1検出手段により検出された未確認人物の画像特徴情報と、前記第2特徴取得手段により取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する第2検出手段と、を有する。
第二の側面は、少なくとも1つのコンピュータにより実行される画像処理方法に関する。第二の側面に係る画像処理方法は、画像処理装置が、ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得し、
特定人物の画像特徴情報を取得し、
前記撮像装置により撮像された画像を取得し、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、ことを含む。
なお、本発明の他の側面としては、上記第二の側面の方法を少なくとも1つのコンピュータに実行させるプログラムであってもよいし、このようなプログラムを記録したコンピュータが読み取り可能な記録媒体であってもよい。この記録媒体は、非一時的な有形の媒体を含む。
このコンピュータプログラムは、コンピュータにより実行されたとき、コンピュータに、画像処理装置上で、その画像処理方法を実施させるコンピュータプログラムコードを含む。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
また、本発明の各種の構成要素は、必ずしも個々に独立した存在である必要はなく、複数の構成要素が一個の部材として形成されていること、一つの構成要素が複数の部材で形成されていること、ある構成要素が他の構成要素の一部であること、ある構成要素の一部と他の構成要素の一部とが重複していること、等でもよい。
また、本発明の方法およびコンピュータプログラムには複数の手順を順番に記載してあるが、その記載の順番は複数の手順を実行する順番を限定するものではない。このため、本発明の方法およびコンピュータプログラムを実施するときには、その複数の手順の順番は内容的に支障のない範囲で変更することができる。
さらに、本発明の方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生すること、ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複していること、等でもよい。
上記各側面によれば、撮像画像から特定人物の存在を高精度に検出する画像処理装置、画像処理方法、およびプログラムを提供することができる。
本発明の実施の形態に係る画像処理システムの構成の一例を示すブロック図である。 本発明の実施の形態に係る画像処理装置の論理的な構成を示す機能ブロック図である。 本実施形態の画像処理装置を実現するコンピュータのハードウェア構成を示すブロック図である。 本実施形態の画像処理装置の照合に使用する画像特徴情報を格納するデータベースの構造の一例を示す図である。 本実施形態の画像処理装置の画像認識処理を説明するための図である。 本実施形態の画像処理装置の動作の一例を示すフローチャートである。 本発明の実施の形態に係る画像処理装置の動作を説明するための図である。 本実施形態の画像処理システムの構成例を示す図である。 本実施形態の画像処理システムのビーコン装置と、ビーコン装置から発信されるビーコン信号に応答する携帯端末の論理的な構成を示す機能ブロック図である。 本実施形態の画像処理システムにおける携帯端末の検知方法を説明するための図である。 本実施形態の画像処理装置の論理的な構成を示す機能ブロック図である。 本実施形態の画像処理システムの動作の一例を示すフローチャートである。 本実施形態の画像処理装置の論理的な構成を示す機能ブロック図である。 本実施形態の画像処理システムの動作を説明するための図である。 本実施形態の画像処理システムの動作を説明するための図である。 本実施形態の画像処理装置を含む画像処理システムの動作の一例を示すフローチャートである。 本実施例の画像処理システムをユーザが利用するために、ユーザの画像特徴情報を登録する手順の一例を示すフローチャートである。 本実施例の携帯端末として使用される、スマートフォンのハードウェア構成を示すブロック図である。 本実施例の画像処理システムにおいて、ユーザ認識時の処理の手順の一例を示すフローチャートである。
以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
(第1の実施の形態)
本発明の第1の実施の形態に係る画像処理装置、画像処理方法、およびプログラムについて、以下説明する。
図1は、本発明の実施の形態に係る画像処理システム1の構成の一例を示すブロック図である。
本発明において、画像処理システム1は、画像処理装置100と、撮像装置5と、を備える。
なお、以下の各図において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。
本実施形態では、撮像装置5は、たとえば、店舗等に設置される防犯カメラ等であるが、これに限定されない。撮像装置5は、その画角内に存在している人物U1、U2、・・・、Un(nは自然数)(人物が一人もいない場合もある)を撮像する。撮像装置5は画像処理装置100に接続され、撮像装置5で撮像された画像が逐次画像処理装置100に送信される。なお、撮像装置5と画像処理装置100間の接続は、有線、無線、およびこれらの組み合わせのいずれでもよく、また、ネットワークを介して接続されてもよく、特に限定されない。画像処理装置100に接続される撮像装置5は、1台とは限らず、複数台であってもよい。また、撮像装置5と画像処理装置100との間に、撮像装置5で撮像された画像を一旦格納する記録媒体(不図示)が介在してもよく、記録媒体から画像処理装置100が画像を取得する構成でもよい。
本実施形態において、ユーザの携帯端末3は、画像処理装置100と通信することができる。通信手段および通信経路は特に限定されないが、例として、インターネット等のネットワークを介して有線、無線、およびこれらの組み合わせのいずれかで接続可能である。あるいは、所謂Wi−Fi(登録商標)のアクセスポイントを経由してLAN等のネットワークを介して接続されてもよい。
本発明では、撮像装置5により撮像される画像内に存在する複数の人物のうち、身元が確認されている人物を対象から外し、それ以外の人物を未確認人物としてサーチ対象とする。たとえば、万引き常習犯等の特定人物を、絞り込まれたサーチ対象の中から探すので、画像内に存在する全ての人物をサーチ対象とする場合と比較して、検出精度を向上できる。
図2は、本発明の実施の形態に係る画像処理装置100の論理的な構成を示す機能ブロック図である。
画像処理装置100は、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得部102と、特定人物の画像特徴情報を取得する第2特徴取得部104と、撮像装置5により撮像された画像を取得する画像取得部106と、第1特徴取得部102により取得されたユーザの画像特徴情報を用いて、画像取得部106により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出部108と、画像取得部106により取得された画像内における、第1検出部108により検出された未確認人物の画像特徴情報と、第2特徴取得部104により取得された特定人物の画像特徴情報とを照合して、特定人物の存在を検出する第2検出部110を備える。
本発明の画像処理装置100は、たとえば、サーバコンピュータ、パーソナルコンピュータ、または、ワークステーション等のコンピュータであるが、これに限定されない。また、複数台のコンピュータで処理を分担して画像処理装置100を実現してもよい。
図3は、本実施形態の画像処理装置100を実現するコンピュータ60のハードウェア構成を示すブロック図である。
コンピュータ60は、CPU(Central Processing Unit)62、メモリ64、メモリ64にロードされた図2の構成要素を実現するプログラム80、そのプログラム80を格納するハードディスクなどのストレージ66、ネットワーク接続用インタフェース(通信I/F70)を備える。メモリ64、ストレージ66、I/O68、および通信I/F70は、バス69を介して互いに接続され、CPU62により各要素とともにコンピュータ60全体が制御される。コンピュータ60は、たとえば、キーボードやマウス等の入力装置72やディスプレイなどの表示装置74やプリンタ等の出力装置(不図示)と接続されてもよい。
図2の本実施形態の画像処理装置100の各構成要素は、図3のコンピュータ60のハードウェアとソフトウェアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。以下説明する各実施形態の画像処理装置を示す機能ブロック図は、ハードウェア単位の構成ではなく、論理的な機能単位のブロックを示している。
図3のコンピュータ60のCPU62が、ストレージ66に記憶されるプログラム80をメモリ64に読み出して実行することにより、画像処理装置100の図2の各ユニットの各機能を実現することができる。
本実施形態のコンピュータプログラム80は、画像処理装置100を実現させるためのコンピュータ60に、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得する手順、特定人物の画像特徴情報を取得する手順、撮像装置5により撮像された画像を取得する手順、取得されたユーザの画像特徴情報を用いて、取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する手順、取得された画像内における、検出された未確認人物の画像特徴情報と、取得された特定人物の画像特徴情報とを照合して、特定人物の存在を検出する手順、を実行させるように記述されている。
本実施形態のコンピュータプログラム80は、コンピュータ60で読み取り可能な記録媒体に記録されてもよい。記録媒体は特に限定されず、様々な形態のものが考えられる。また、プログラム80は、記録媒体からコンピュータ60のメモリ64にロードされてもよいし、ネットワーク76を通じてコンピュータ60にダウンロードされ、メモリ64にロードされてもよい。
コンピュータプログラム80を記録する記録媒体は、非一時的な有形のコンピュータ60が使用可能な媒体を含み、その媒体に、コンピュータ60が読み取り可能なプログラムコードが埋め込まれる。コンピュータプログラム80が、コンピュータ60上で実行されたとき、コンピュータ60に、画像処理装置100を実現する以下の画像処理方法を実行させる。
本実施形態において、ユーザの携帯端末3は、たとえば、スマートフォン、タブレット端末、携帯電話機、PHS(Personal Handyphone System)、PDA(Personal Digital Assistants)、ゲーム機などを含み、ユーザが携帯して持ち歩くことができ、ユーザの情報を送信する機能を有する端末であれば、特に限定されない。ユーザの情報を送信する機能については、後述する。
本実施形態において、携帯端末3のユーザとは、身元が確認されている人物であって、画像内の人物の中でサーチ対象から除外される人物である。以後、本明細書では、携帯端末3のユーザを「対象ユーザ」とも呼ぶ。たとえば、対象ユーザは、本システムを利用する、予め会員登録されたユーザである。対象ユーザはその身元が確認されているため、対象ユーザの携帯端末3から送信される情報に基づいて、その対象ユーザの画像特徴情報を取得することができる。また、特定人物とは、本システムで予め登録された検出対象人物であり、たとえば、万引き常習犯等のような犯罪者、所謂、ブラックリストに記載される人物である。
本実施形態において、ユーザ(人物U1等)の携帯端末3から送信される情報とは、第1特徴取得部102による対象ユーザの画像特徴情報の取得を可能とする情報であれば、どのような情報であってもよい。その情報は、たとえば、ユーザの携帯端末3の識別情報、ユーザに付与された識別情報、または、ユーザの顔画像、指紋、声紋、虹彩等の生体データに基づくユーザ認証に使用される情報、あるいは、これらの組み合わせであってもよい。また、その情報自体が、対象ユーザの画像特徴情報であってもよい。これらの情報は、ユーザの携帯端末3において、たとえば、スマートフォン10の内部ストレージ、メモリ、または外部ストレージ等に、予め格納されていているものとする。外部ストレージとは、携帯端末3に取り付けられている記録メディア、あるいは、クラウドサーバ等、ネットワークを介して携帯端末3がアクセス可能な外部記憶装置であってもよい。ただし、外部記憶装置の場合には、ユーザの個人情報に関わる情報については、外部または他者から閲覧できない形態で格納されているものとする。
撮像装置5との所定位置関係に存在するユーザとは、撮像装置5の画角内に存在するまたは存在することになる可能性の高いユーザである。ただし、処理速度等を考慮すると、当該ユーザは、撮像装置5の画角内に存在し、撮像画像に写っている人物であることが望ましい。さらに、画角内に存在するユーザのうち、撮像装置5と所定距離範囲内に存在するユーザであってもよい。
ユーザの画像特徴情報とは、画像内の人物の中からユーザを認識することができる画像の特徴情報である。本実施形態では、ユーザの画像特徴情報は、ユーザの顔画像から抽出された特徴情報であり、顔画像そのものに比較して情報量が小さい。顔画像の特徴情報の抽出方法および画像特徴情報を用いたユーザ認証方法は、公知の技術を用いることができ、詳細な説明は省略する。
また、第1特徴取得部102が、ユーザの画像特徴情報を取得する方法は、ユーザの携帯端末3から送信される情報(識別情報)に基づいて、ユーザの画像特徴情報が予め登録されている第1特徴情報データベース112から取得する方法が考えられる。また、第1特徴取得部102は、ユーザの携帯端末3から送信される画像特徴情報を受信してもよい。この方法については後述する。
図4は、本実施形態の画像処理装置100の照合に使用する画像特徴情報を格納するデータベースの構造の一例を示す図である。
図4(a)の第1特徴情報データベース112には、ユーザ毎に、少なくともユーザIDと画像特徴情報が対応付けて格納される。図4(b)の第2特徴情報データベース114には、特定人物毎に、少なくとも特定ユーザIDと画像特徴情報が対応付けて格納される。
第1特徴情報データベース112および第2特徴情報データベース114は、画像処理装置100に含まれる記憶装置であってもよいし、外部の記憶装置であってもよく、ネットワークを介して画像処理装置100に接続される記憶装置であってもよい。
図2の各構成要素について以下に詳細を説明する。
第1特徴取得部102は、携帯端末3から送信される携帯端末3またはユーザの識別情報に基づいて、第1特徴情報データベース112(図4)から対応する画像特徴情報を取得する。
第2特徴取得部104は、特定人物の画像特徴情報を予め格納する第2特徴情報データベース114(図4)から特定人物の画像特徴情報を取得する。
画像取得部106は、撮像装置5により撮像された画像を取得する。撮像装置5により撮像される画像は、複数フレームからなる映像であり、画像取得部106が取得する画像とは、個々のフレーム画像を指す。画像取得部106は、撮像装置5により撮像された画像から得られる静止画像を取得してもよい。
第1検出部108は、まず、画像取得部106により取得された各画像Pn(nは自然数)(フレーム画像)内において、人の形象を認識する。図5(a)に示すように、画像P1では、4人の人物(f1、f2、f3、f4)が認識されたとする。
画像内の人の形象の認識手法については、公知の技術を用いることができ、詳細な説明は省略する。
第1検出部108における、その後の手順については、以下の2通りの方法が例示されるが、これらに限定されない。
(a1)第1検出部108が、認識された全ての形象の各々から特徴情報を抽出し、抽出された各特徴情報と対象ユーザの画像特徴情報とをそれぞれ照合する。そして、第1検出部108は、照合結果により対象ユーザではないと判断された形象があった場合、対象ユーザ以外の未確認人物の存在を検出する。たとえば、図5(b)に示すように、複数の対象ユーザの画像特徴情報が取得されており、画像P1内の人物f2と人物f3については各々対象ユーザの形象と判断された場合、それ以外の人物f1と人物f4が未確認人物として検出される。
(a2)認識された形象の中で、対象ユーザの形象が検出されるまで、第1検出部108は、各形象から特徴情報をそれぞれ抽出する。第1検出部108は、そのようにして得られた各特徴情報と対象ユーザの画像特徴情報とをそれぞれ照合する。この例では、第1検出部108は、全ての形象から特徴情報を抽出するわけではなく、各形象について都度、または順に抽出および照合を実行し、照合すべき対象ユーザの特徴情報と合致する形象(類似度が所定値以上等)がすべて見つかった段階で、残りの形象についての照合は行わない。
なお、照合判定に類似度の閾値判定を用いない方法も考えられ、照合対象の形象の中から類似度が最も高いものを選択する等の方法も考えられる。
第1検出部108により、未確認人物の存在が確認された場合、その結果を記録し、時刻情報とともに記録してもよい。記録される結果情報は、未確認人物の存在の有無、未確認人物の画像特徴情報、未確認人物の画像領域の情報、および画像データの少なくともいずれか1つを含む。
第2検出部110は、画像取得部106により取得された画像P1(図5(a))内における、第1検出部108により検出された未確認人物の画像特徴情報(図5(a)の領域f1および領域f4)と、第2特徴取得部104により取得された特定人物の画像特徴情報とを照合して、特定人物の存在を検出する。このように、第2検出部110は、第1検出部108により未確認人物の存在が検出された場合に、絞り込まれた画像エリアまたは画像特徴情報に対して、第2特徴取得部104により取得された画像特徴情報と照合することにより、特定人物の存在を検出する。
第1検出部108との照合方法で異なる点は、照合対象となる領域が、第1検出部108により認識された対象ユーザの領域を除いた、限定された領域が対象となる点であり、それ以外は同じである。第1検出部108と同様、画像内の人の形象の認識手法については、公知の技術を用いることができ、詳細な説明は省略する。
第2検出部110は、たとえば、第1検出部108が各画像で認識された人の形象のうち(たとえば、図5(a)の人物f1、f2、f3、f4)、第1特徴取得部102により取得された画像特徴情報を用いて特定された対象ユーザを除外して、絞り込まれた形象の領域(たとえば、図5(b)のf1とf4の領域)、または、その領域の画像特徴情報に対して、第2特徴取得部104により取得された特定人物の画像特徴情報と照合を行う。
第1検出部108および第2検出部110の各検出で類度閾値を用いる場合には、異なる類似度閾値が用いられてもよい。たとえば、第1検出部108における対象ユーザ検出で用いられる類似度閾値よりも、第2検出部110における特定ユーザ検出で用いられる類似度閾値の方が低く設定されてもよい。その理由は、最終的に検出したいのは特定ユーザであるからであり、特定ユーザが誤って対象ユーザと認識されることを防ぐことができるからである。
このように構成された本実施形態の画像処理装置100の画像処理方法について、以下説明する。
図6は、本実施形態の画像処理装置100の動作の一例を示すフローチャートである。
本発明の実施の形態に係る画像処理方法は、画像処理装置100の画像処理方法であり、画像処理装置100を実現するコンピュータ60により実行される画像処理方法である。
本実施形態の画像処理方法は、画像処理装置100が、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得し(ステップS101)、特定人物の画像特徴情報を取得し(ステップS109)、撮像装置5により撮像された画像を取得し(ステップS103)、取得されたユーザの画像特徴情報を用いて、取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し(ステップS105)、取得された画像内における、検出された未確認人物の画像特徴情報と、取得された特定人物の画像特徴情報とを照合して(ステップS111)、特定人物の存在を検出する(ステップS113)、ことを含む。
上記ステップS101、ステップS103、およびステップS109は、他のステップとは非同期に実行することができ、図6に示すフローチャートの順序でなくてもよい。ステップS103の撮像装置5により撮像された画像の取得は、所定期間(所定時間)、常時実行されているものとする。また、ステップS103で撮像装置5により撮像された画像(映像)を時刻情報とともに記憶装置に保存し、さらに、ステップS101で取得された対象ユーザの画像特徴情報も時刻情報とともに記録し、別の機会に、時刻情報に基づいて、ステップS105の照合処理行うこともできる。
より詳細には、まず、第1特徴取得部102が、ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在するユーザの画像特徴情報を取得する(ステップS101)。そして、画像取得部106が、撮像装置5により撮像された画像を取得する(ステップS103)。たとえば、図5(a)に示すような画像P1を取得したとする。次いで、第1検出部108が、取得されたユーザの画像特徴情報を用いて、取得された画像P1内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する(ステップS105)。ここでは、画像P1において、人物f1〜f4が認識され、そのうち、第1検出部108により未確認人物として、人物f1とf4が検出されたとする。言い換えれば、人物f2とf3は、対象ユーザとして特定されたものとする。
そして、画像P1内に未確認人物が存在している場合(ステップS107のYES)、第2特徴取得部104が、特定人物の画像特徴情報を取得する(ステップS109)。そして、第2検出部110が、取得された画像内における、検出された未確認人物の画像特徴情報と、取得された特定人物の画像特徴情報とを照合して(ステップS111)、特定人物の存在を検出する(ステップS113)。
ステップS109で第2特徴情報データベース114の特定人物の画像特徴情報を取得する毎に、各画像内の限定された照合対象範囲内の全ての人物の領域または画像特徴情報について、ステップS111で照合を行う。ステップS109〜ステップS113は、すべての特定人物の画像特徴情報について、画像内のすべての未確認人物の領域の画像特徴情報との照合が終わるまで、繰り返し実行される。
ステップS111において、図5(b)の画像P2の破線で示した、対象ユーザf2とf3の画像領域に相当する領域Rf2とRf3を除いた画像領域、または、対象ユーザとして特定された人物f2とf3の領域以外の、未確認人物f1とf4の領域、または当該各領域の画像特徴情報を照合対象とする。このように、本実施形態では、第2検出部110による特定ユーザの検出時には、画像内の人物を絞り込んだ、限定された画像エリアまたは画像特徴情報を元に照合を行うため、検出候補の数を可能な限り制限することができ、ひいては、特定人物の検出精度を向上させることができる。
また、ステップS113で、特定人物が検出された場合には、画像処理装置100の通知部(不図示)が、アラーム出力を行い、警備員等に通報することができる。また、検出情報は、時刻情報および撮像画像情報とともに、記録部(不図示)に記録されてもよい。
図7は、本発明の実施の形態に係る画像処理装置100の動作を説明するための図である。
以下、図6および図7を用いて、画像処理装置100の動作について説明する。
ステップS103で、画像取得部106により画像の各フレーム(001〜009)が順次取得される。一方、ステップS101で、第1特徴取得部102により、対象ユーザの画像特徴情報が取得される。たとえば、フレーム001が撮像された時に、対象ユーザ(U1)の画像特徴情報が取得されたとする。
ステップS105で、第1検出部108により、まず、フレーム001内の人物の形象(たとえば、顔)が検出される。ここでは、2人の顔が検出されたとする。検出された人物(F1、F2)の形象の各々について、ステップS101で取得された対象ユーザ(U1)の画像特徴情報との照合が行われる。ここでは、検出された2人の人物(F1、F2)のうち、人物(F1)の画像特徴情報が対象ユーザ(U1)の画像特徴情報と一致したものとする。そして、第1検出部108により、対象ユーザ(U1)以外で、顔検出された人物(F2)を、未確認人物として検出する。
ここで、画像特徴情報が取得された対象ユーザが、撮像されたフレーム内に存在していることが望ましい。撮像された画像内から対象ユーザを確実に検出することで、特定人物の検出候補となる未確認人物の数を制限することができ、特定人物の検出精度を上げることができるからである。
画像の撮像のタイミングと、対象ユーザが画像内に存在している時刻を合わせるために、第1検出部108は、以下に例示される処理を行ってもよい。
(b1)撮像装置5との所定位置関係に相当する範囲(以後、対象エリアとも呼ぶ)に対象ユーザが入ってきたこと、または存在することを検知する、または、検知された時刻を記録する。
(b2)検知された時、または、記録された時刻に撮像装置5で撮像された画像フレームを対象ユーザの画像特徴情報との照合対象フレームとする。または、検知された時点、または記録された時刻を含む所定期間、撮像装置5で撮像された複数の画像フレームを対象ユーザの画像特徴情報との照合対象フレームとする。所定期間は、基準時刻の前後にまたがってもよいし、基準時刻を期間の開始または終了時刻としてもよい。
このように、撮像された画像内から対象ユーザを確実に検出することができるように、対象エリアと、対象ユーザの検出可能位置の関係、検出情報の検出手段等を考慮して、タイミングの合わせ方を決めればよい。
さらに、フレーム002が撮像された時には、取得されたユーザの画像特徴情報がないので、第1検出部108は、ステップS105で顔検出された人物(F3)を、未確認人物として検出する。
また、フレーム005が撮像された時には、取得されたユーザ画像特徴情報はなく、かつ、第1特徴取得部102により取得された対象ユーザの画像特徴情報もないので、ステップS105の照合処理はバイパスされる。
また、フレーム007が撮像された時に、ステップS101で対象ユーザ(U3)の画像特徴情報は取得されたが、第1検出部108によるフレーム007内の顔検出で、人物の形象が検出されなかった場合、照合処理はバイパスされる。このときステップS101で取得された対象ユーザ(U3)の画像特徴情報については、時刻情報とともに記録しておいてもよい。あるいは、フレーム007の前後フレーム(複数フレームでもよい)内で、顔検出された人物(F4、F5)の特徴情報と照合してもよい。
このようにして、第1検出部108により検出された未確認人物(たとえば、F2、F3、F5等)を、第2検出部110がブラックリストに含まれる特定人物と照合し、特定人物を探すことができる。
なお、図7において、フレーム番号は、説明のために付してあるものであり、映像を構成する画像フレームの全てを示しているものではない。たとえば、フレーム001とフレーム002の間には、さらに複数のフレームが存在しているが、図示していない。実際には、フレーム1で検出された人物F1とF2は、撮像装置5の画角内に存在している間、撮像された画像内に写っている。なお、本実施形態において、一度、認識された人物の形象は、人物が所定時間以上、顔を後ろや上下に向けて写らない状態にならない限り、人物が移動していても、追跡して認識を継続できるものとする。すなわち、一度認識された人物(対象ユーザ)の形象は、継続するフレーム内で認識処理を行わずに追跡できるので、画像内の特定人物の検出候補から、認識処理を行わずに、排除できる。なお、この人物の形象の認識処理は、既存の画像認識技術のオブジェクトトラッキング技術を用いて行うことができ、詳細な説明は省略する。
以上説明したように、本発明の実施の形態の画像処理装置100において、第1特徴取得部102により、対象ユーザの携帯端末3から送信される情報に基づいて、撮像装置5と所定位置関係に存在する対象ユーザの画像特徴情報が取得され、第2特徴取得部104により、特定人物の画像特徴情報が取得される。そして、取得された対象ユーザの画像特徴情報を用いて、撮像装置5により撮像された画像内における、その画像特徴情報に対応する対象ユーザ以外の未確認人物の存在が、第1検出部108により、検出される。そして、第2検出部110により、当該画像内における、検出された未確認人物の画像特徴情報と、特定人物の画像特徴情報とを照合して、特定人物の存在が検出される。
このように、本実施形態の画像処理装置100によれば、対象ユーザの画像特徴情報に基づいて画像内の人物を未確認人物に絞り込み、未確認人物を照合対象として特定人物を探すので、撮像画像から高精度に検出することができる。
(第1実施形態の具体例1)
上記第1実施形態の具体例1として、ビーコンを利用したユーザ情報の取得方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
図8は、本実施形態の画像処理システムの構成例を示す図である。
本実施形態の画像処理システムは、図1の画像処理システム1の構成に加え、さらに、ビーコン装置7を備える。ビーコン装置7は、画像処理装置120に有線または無線、あるいは、これらの組み合わせにより接続される。あるいは、ビーコン装置7は、ネットワーク(不図示)を介して画像処理装置120に接続されてもよい。
ビーコン装置7の設置位置は、送出する検知信号を受信した携帯端末3を画像処理システムが検知することができるその携帯端末3の位置と撮像装置5の撮像範囲との位置関係により決められる。たとえば、図8に示されるように、ビーコン装置7は、撮像装置5の近傍に設置される。ただし、ビーコン装置7の設置場所は、撮像装置5の近傍である必要はない。撮像装置5から所定距離離れた位置にビーコン装置7が設置されていてもよい。たとえば、ビーコン装置7から送出された検知信号が携帯端末3で受信されてからその携帯端末3が撮像装置5の撮像範囲に移動するまでの時間が当該所定距離で推測できればよい。
図9は、本実施形態の画像処理システムのビーコン装置7と、ビーコン装置7から発信されるビーコン信号に応答する携帯端末3の論理的な構成を示す機能ブロック図である。
携帯端末3は、検知信号受信部42と、情報送信部44と、を含む。
ビーコン装置7は、検知信号送信部132を含む。
図9の携帯端末3およびビーコン装置7は、CPU、メモリ、メモリにロードされた図9の携帯端末3およびビーコン装置7の構成要素を実現するプログラム、そのプログラムを格納する内部ストレージなどの記憶ユニット、および通信用インタフェースを備えるコンピュータ(不図示)またはコンピュータに組み込まれるユニット(不図示)であってもよい。図9のビーコン装置7の各構成要素は、コンピュータのハードウェアとソフトウェアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
ビーコン装置7において、検知信号送信部132は、定期的にまたは間欠的に、自装置からの距離が所定の距離以内に位置する携帯端末3に、無線通信で検知信号を送信する。検知信号には、ビーコン装置7の識別情報と、検知信号が届く送信距離の距離情報が含まれてもよい。
たとえば、検知信号送信部132は、通信距離が所定の距離以内である所定の無線通信規格を用いて、自装置から所定の距離以内の通信エリア内に、定期的に、または間欠的に検知信号を送信する。そして、当該通信エリア内に位置する携帯端末3は、当該検知信号を受信することとなる。無線通信規格は、ブルートゥース規格や無線LAN(Local Area Network)規格等が挙げられるがこれらに限定されない。ビーコン装置7は、たとえば、いわゆるビーコン端末や無線LANアクセスポイントであってもよいが、これらに限定されない。検知信号としては、ブルートゥース規格や無線LAN規格のビーコンを利用することができる。
検知信号送信部132は、検知信号の送信距離を、第1のレベルから第n(nは2以上の整数、かつ、nが大きいほど距離が大きい)のレベルの間で制御可能である。たとえば、検知信号送信部132は、第1から第3の3つのレベルの間で送信距離を制御可能であってもよい。図10に示すように、3つの通信エリアは、破線A1、A2、A3で各境界が示されている。通信エリアの境界A1より内側(以後、通信エリアA1とも呼ぶ)が第1のレベルの送信距離に対応し、通信エリアの境界A2より内側(以後、通信エリアA2とも呼ぶ)が第2のレベルの送信距離に対応し、通信エリアの境界A3より内側(以後、通信エリアA3とも呼ぶ)が第3のレベルの送信距離に対応する。
そして、検知信号送信部132は、送信する検知信号に、送信距離を示す距離情報を含めて送信する。すなわち、ビーコン装置7は、第pのレベル(pは1以上n以下の整数)の送信距離で検知信号を送信する場合、当該検知信号の中に、第pのレベルの送信距離で検知信号を送信したことを示す距離情報を含めて送信する。
なお、検知信号送信部132による送信距離の制御は、同じ無線通信規格で送信距離を調整することで実現してもよいし、または、ビーコン装置7が、通信距離が互いに異なる複数の無線通信規格で検知信号を送信可能であり、各規格で検知信号を送信することで実現してもよい。
一方、携帯端末3の検知信号受信部42および情報送信部44は、ビーコン装置7と同じ規格で無線通信が可能であるものとする。そして、検知信号受信部42は、距離情報が含まれている検知信号をビーコン装置7から受信する。
情報送信部44は、検知信号受信部42による検知信号の受信に呼応して、ユーザの識別情報(ユーザID)を含む応答情報を画像処理装置120に送信する。応答情報には、検知信号に距離情報を含んで送信してもよい。また、後述するように、複数のビーコン装置7から検知信号を受信する場合には、検出信号に含まれる発信元IDも応答情報に含めてもよい。
たとえば、検知信号受信部42が検知信号を受信すると、情報送信部44は、検知信号内の所定の位置に、ユーザの識別情報(ユーザID)を書き込み、それを応答情報として画像処理装置120に送信してもよい。さらに、応答情報に、ユーザの画像特徴情報を含めて返信してもよい。この構成については後述する。
画像処理装置120は、携帯端末3の情報送信部44と同じ規格で無線通信が可能であるものとする。あるいは、携帯端末3が携帯通信網経由でインターネット等のネットワークに接続し、ネットワーク経由で画像処理装置120に応答情報を送信してもよい。
なお、通信エリア(図10に示す境界A3よりビーコン装置7側のエリア)内に携帯端末3がいる間、検知信号受信部42は、ビーコン装置7から定期的にまたは間欠的に送信される検知信号を受信し続けることとなる。情報送信部44は、検知信号受信部42が検知信号を受信すると、その都度、応答情報を画像処理装置120に送信してもよい。または、検知信号受信部42は、ビーコン装置7から所定の時間よりも短い時間間隔で連続的に同じ送信距離を示す距離情報を含む検知信号を受信した場合、2回目以降の受信時には応答情報を送信しないように構成してもよい。この場合、携帯端末3は、ビーコン装置7からの検知信号の受信が所定時間以上途絶えると、その旨を示す情報(ユーザの識別情報を含む)を画像処理装置120に送信してもよい。これは、携帯端末3が通信エリア外に出て行ったことを意味する。
図11は、本実施形態の画像処理装置120の論理的な構成を示す機能ブロック図である。
画像処理装置120は、図2の上記実施形態の画像処理装置100と同様な第1特徴取得部102、第2特徴取得部104、画像取得部106、および第2検出部110を備えるとともに、さらに、応答情報受信部122を備える。また、本実施形態の画像処理装置120において、上記実施形態の画像処理装置100の第1検出部108に替えて、第1検出部124を備えてもよい。
本実施形態の画像処理装置120において、応答情報受信部122は、発信元からの距離情報を含む第1検知信号を受信した携帯端末3から送信された情報を受信する。
応答情報受信部122が取得する情報は、たとえば、ユーザの識別情報(ユーザID)が含まれる。
応答情報受信部122により受信されたユーザの識別情報に基づいて、第1特徴取得部102は、第1特徴情報データベース112を参照し、当該ユーザの画像特徴情報を取得することができる。
さらに、本実施形態の画像処理装置120において、第1検知信号には、第1無線通信装置(ビーコン装置7)からの距離情報が含まれる。
応答情報受信部122は、携帯端末3から、識別情報とともに距離情報を受信する。
第1検出部124は、応答情報受信部122により受信された距離情報に基づいて、画像取得部106により取得された画像の中で、第1特徴取得部102により取得されたユーザの画像特徴情報と照合させる画像を特定する。
第1検知信号には、さらに、第1無線通信装置(ビーコン装置7)の発信元IDを含んでもよい。
詳細には、応答情報受信部122が受信する情報は、携帯端末3が受信した検知信号に含まれる距離情報と、携帯端末3のユーザを識別するユーザIDを含む。
画像処理装置120は、ユーザIDを元に、当該ユーザの画像特徴情報を取得するが、携帯端末3からユーザIDの替わりに携帯端末3のユーザの画像特徴情報が送信されてもよい。さらに、携帯端末3から送信される情報は、検知信号の発信元の識別情報(発信元ID)を含んでもよい。
第1検出部124は、応答情報受信部122により受信された距離情報に基づいて、携帯端末3が、撮像装置5の所定位置関係にあるか否かを判定する。
たとえば、図10に示すように、出入口E1からユーザUaが進入した時、距離情報から、ユーザUaが境界A3〜境界A2の間の通信エリアに存在することが分かる。さらに、ユーザUaが矢印の方向に移動して、境界A2〜境界A1の間の通信エリアに進入した時、携帯端末3が受信する検知信号に含まれる距離情報が変わる。
第1検出部124は、応答情報受信部122により受信された距離情報に基づいて、携帯端末3が境界A2〜境界A1の間の通信エリアに存在することを判別できる。このように、第1検出部124は、携帯端末3から送信される距離情報に基づいて、撮像装置5と所定位置関係にある携帯端末3を判別できる。
なお、第1検出部124は、携帯端末3から送信される距離情報に基づいて、経過時間毎の携帯端末3の距離情報の変化から、ユーザの移動方向を判別してもよい。移動方向が、出入口E1から撮像装置5に向かっている場合には、撮像装置5にユーザの顔は写るが、反対方向の場合、ユーザは撮像装置5に背を向けている可能性が高く、撮像装置5にユーザの顔は写らない可能性がある。
ユーザから応答情報(距離情報)を受信した場合に、移動方向を判別し、たとえば、撮像装置5に背を向ける方向にユーザが進んですることが分かれば、撮像装置5はユーザの顔が撮像画像に写っていないと判断し、その時の撮像画像内での当該ユーザの顔画像の検索を行わないなどの処理を行ってもよい。また、入場時に一度確認できれば、その後はサーチ対象から除外されるのが好ましいので、移動方向が反対方向の場合には、サーチ対象から除外してもよい。
このように構成された本実施形態の画像処理システムの動作について、以下説明する。
図12は、本実施形態の画像処理システムの動作の一例を示すフローチャートである。
本実施形態の画像処理システムにおいて、ビーコン装置7の検知信号送信部132が、定期的にまたは間欠的に、検知信号(p1、p2、およびp3)を送信する(ステップS121)。たとえば、図10に示すように、ユーザUaは、出入口E1から建屋に入って来たとき、検知信号(p3)の通信エリア(A3)内に進入することになる。そこで、ユーザUaの携帯端末3の検知信号受信部42が検知信号(p3)を受信する(ステップS123)。携帯端末3の情報送信部44が、検知信号(p3)に呼応して応答情報を返信する(ステップS124)。
本実施形態では、携帯端末3の情報送信部44が送信する応答情報には、ユーザIDおよび距離情報が含まれる。たとえば、情報送信部44は、受信した検知信号(p3)の所定位置にユーザIDを書き込んで応答情報として送信する。
画像処理装置120の応答情報受信部122が応答情報を受信すると(ステップS131のYES)、ユーザIDと距離情報を取得する(ステップS133)。第1検出部124が、受信した距離情報に基づいて、携帯端末3が撮像装置5と所定位置関係にあるか否かを判定する(ステップS135)。所定位置関係にある場合(ステップS135のYES)、ステップS137に進む。所定位置関係にない場合(ステップS135のNO)、ステップS131に戻る。
ステップS137では、第1特徴取得部102が、取得したユーザIDに基づいて、ユーザの画像特徴情報を取得する。ここでは、第1特徴取得部102は、第1特徴情報データベース112にアクセスし、ステップS133で取得したユーザIDに対応する画像特徴情報を取得する。取得された画像特徴情報を用いて撮像画像の中からユーザの画像を検索し、撮像画像から除外する処理へと進む。ステップS137の後の手順は、図6の上記実施形態の画像処理装置100のフローチャートのステップS103以降の手順と同様であるので説明は省略する。
本実施形態では、たとえば、ユーザが通信エリア(A2)に存在する時、すなわち、携帯端末3が撮像装置5と所定位置関係にある時、撮像装置5の画角内にユーザが存在するので、撮像装置5が撮像した画像の中から、当該ユーザを検索するものとする。また、さらに、通信エリア(A1)にユーザが進んだ場合は、撮像装置5の画角からユーザが外れているので、すなわち、携帯端末3が撮像装置5と所定位置関係にないので、当該ユーザは検索対象から除外してもよい。
すなわち、ユーザUaが通信エリア(A3またはA1)に存在する場合は、ステップS135はNOとなり、ステップS131に戻り、ユーザUaの検索は行わない。ユーザUaが通信エリア(A2)に存在する場合は、ステップS135はYESとなり、ステップS137に進み、ユーザUaの画像特徴情報を取得し、撮像画像内でユーザUaの検索が行われることとなる。
なお、本実施形態では、携帯端末3から送信される応答情報に距離情報が含まれている例を説明したが、距離情報は必ずしも含まれなくてもよい。この場合、ビーコン装置7は、撮像装置5と所定位置関係にあるユーザの携帯端末3が受信できる範囲に検知信号を送信すればよい。また、撮像装置5と所定位置関係にあるユーザの携帯端末3が受信できる範囲に検知信号を送信できる位置にビーコン装置7を設置すればよい。画像処理装置120は、少なくとも携帯端末3から送信された応答情報に含まれるユーザIDを取得し、ユーザIDに基づいて、当該ユーザの画像特徴情報を取得できる構成を有していればよい。すなわち、図12のフローチャートのステップS133で、応答情報受信部122が、携帯端末3からユーザIDを取得し、ステップS137で、第1特徴取得部102が取得したユーザIDに対応するユーザの画像特徴情報を取得する。このケースでは、図12のフローチャートのステップS135は不要である。
以上説明したように、本実施形態の画像処理装置120において、応答情報受信部122により、撮像装置5と所定位置関係に存在する携帯端末3を検知する第1検知信号に呼応して携帯端末から送信された識別情報が受信される。そして、第1検出部124により、応答情報受信部122により受信された識別情報に基づいて、第1特徴情報データベース112を参照して、対象ユーザの画像特徴情報が取得される。
このようにして、本実施形態の画像処理装置120によれば、たとえば、ビーコン装置7から送信されたビーコンに呼応して、携帯端末3がユーザIDを画像処理装置120に送信するので、ユーザ識別情報に基づいて、対象ユーザの画像特徴情報を取得して、撮像画像内から対象ユーザを検索することができる。結果として、対象ユーザを撮像画像が除外し、未確認人物の中から特定人物を検索できることとなる。
(第1実施形態の具体例2)
上記第1実施形態の別の具体例として、さらに、第2のビーコンを利用した、ユーザが存在する位置の特定方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
図13は、本実施形態の画像処理装置140の論理的な構成を示す機能ブロック図である。
本実施形態の画像処理装置140は、図2の上記実施形態の画像処理装置100と同様な第1特徴取得部102、第2特徴取得部104、画像取得部106、第1検出部108、および第2検出部110を備えるとともに、さらに、応答情報受信部142と、方向特定部144と、を備える。
本実施形態において、応答情報受信部142は、第1無線通信装置とは異なる第2無線通信装置から送出された第2検知信号を更に受信した携帯端末3から送信された情報をさらに受信する。
方向特定部144は、応答情報受信部142により受信された、第1検知信号に対する応答情報および第2検知信号に対する応答情報を用いて、撮像装置5に対する携帯端末3の方向を特定する。
図14および図15は、本実施形態の画像処理システムの動作を説明するための図である。
本実施形態の画像処理システムは、上記実施形態の画像処理装置120で説明した構成に、さらに、第2検知信号を送信する第2のビーコン装置を含む。図15の例では、2つのビーコン装置7aと7bを備えている。図15の例では、3つのビーコン装置7a、7b、および7cを備えている。さらに、図15の例では、ビーコン装置7a、7b、7cでユーザが検知された場合に、それぞれ撮像装置5(カメラ5a、5b、5c)が撮影を開始または撮像画像のサーチ対象画像として記録して保存してもよい。
ビーコン装置7aは、図9の上記実施形態のビーコン装置7と同様な構成を有する。
ビーコン装置7bと7cは、図9の上記実施形態のビーコン装置7と同様な構成を有し、検知信号を、所定の通信エリアに対して、定期的にまたは間欠的に送信する点では同様である。ビーコン装置7と異なる点は、検知信号送信部132が、破線A11、破線A12または破線A21で示される通信エリア内に存在する携帯端末3が応答するように、検知信号を送信することである。
図14の例では、出入口E1の外側に屋外に通じる風除室の出入口E2がさらにあり、図15の例では、さらに別の出入口E3があるとする。なお、出入口E2および風除室は必ずしもなくてもよい。
本実施形態では、出入口E2から風除室を通って入って来たユーザUbまたはユーザUaを検知し、他のユーザと区別することができる。あるいは、図15の例では、出入口E3から建屋の外に出ようとしているユーザUcを検知し、他のユーザと区別することができる。
具体的には、図14のユーザUaが、出入口E2から建屋内に入り、さらに出入口E1を入ったとき、ユーザUaの携帯端末3の検知信号受信部42は、ビーコン装置7aとビーコン装置7bのそれぞれの検知信号送信部132から送信された検知信号を受信する。携帯端末3は、それぞれの検知信号に呼応してユーザIDを含む応答情報を画像処理装置140にそれぞれ送信する。
画像処理装置140において、応答情報受信部142が、携帯端末3から送信された応答情報を受信し、応答情報からユーザIDを取得する。応答情報には、ユーザIDの他、ビーコン装置7の識別情報や距離情報が含まれてもよい。
画像処理装置140では、第1特徴取得部102は、取得したユーザIDと、ビーコン装置の識別情報と、時刻情報とをメモリ64に一時的に記憶する。ここでは、ユーザUaの携帯端末3からは、ビーコン装置7aとビーコン装置7bのそれぞれから排除された検知信号に呼応した応答情報が送信されている。この2つの応答情報に基づいて、ユーザUaが、通信エリアA3と、通信エリアA11が重なるエリア(特定範囲)に存在していることが特定される。
たとえば、ユーザUaが出入口E2に入った時は、ビーコン装置7bから発信された検知信号(p1)にのみユーザUaの携帯端末3は応答し、ビーコン装置7aから発信された検知信号(p1、p2、p3のすべて)を受信できないので、応答しない。そして、ユーザUaが、出入口E1に差し掛かると、ユーザUaの携帯端末3は、ビーコン装置7aから発信された検知信号(p3)にも応答するようになる。さらに、ユーザUaが出入口E1から店舗内に進入していくと、ビーコン装置7bから発信された検知信号(p2)とビーコン装置7aから発信された検知信号(p3)に応答するようになる。そして、さらに、ユーザUaが進み、撮像装置5に近づくと、ビーコン装置7bから発信された検知信号(p2)とビーコン装置7aから発信された検知信号(p2)に応答する。
本実施形態では、画像処理装置140の方向特定部144は、このように2つの検知信号に対する応答情報を時刻情報とともに保持し、2つの応答情報の組み合わせの変化に基づいて、撮像装置5に対する携帯端末3の移動方向を特定することができる。
たとえば、通信エリア(A3)は、ビーコン装置7aの周囲に全体にわたって存在する。しかし、撮像装置5の画角が図14のように出入口E1の方向に向いている場合には、ユーザが撮像装置5の画角の方向から撮像装置5に向かって進んできている時に撮像された画像に、ユーザが写る可能性が高い。そこで、本実施形態では、ビーコン装置7aとは別に、ビーコン装置7bを設け、通信エリアA3内の出入口E1の方向に存在するユーザを検出する。
このようにして、特定範囲内に存在する携帯端末3のユーザが特定された後、図14の例では、さらにユーザUaが建物内部に進んでビーコン装置7aの通信エリア内の境界A2内に入ったときに、さらに、携帯端末3はビーコン装置7aの検知信号(p2)とビーコン装置7bの検知信号(p2)に対する応答情報を送信する。そして、画像処理装置140の第1特徴取得部102は、送信された情報に基づいて、撮像装置5により撮像された画像内で、応答した携帯端末3のユーザUaの情報を取得し、対応する画像特徴情報を取得する。
たとえば、応答情報受信部122は、ユーザUaの携帯端末3から応答情報を受信し、ユーザIDを取得し、ユーザIDを一時的に記憶する。そして、さらに、ユーザUaが建屋の奥に進み、ビーコン装置7aの通信エリア内の境界A2内に入ったときに、携帯端末3からの応答に呼応してユーザIDを取得する。先に取得したユーザIDと今回取得したユーザIDが同じであることから、ユーザUaが通信エリアA2に移動して来たと判別して、当該ユーザUaを検索対象とする。そして、第1特徴取得部102が当該ユーザUaのユーザIDに対応する画像特徴情報を第1特徴情報データベース112から取得する。そして、第1検出部108が、撮像装置5により撮像された画像に対して、人物の形象を認識し、画像内で認識された人物の形象の領域毎に、取得したユーザIDに対応する画像特徴情報との照合処理を行ってもよい。
なお、特定範囲に存在する携帯端末3のユーザが特定された時の画像処理システムの動作は、これらに限定されない。たとえば、特定範囲に存在する携帯端末3のユーザが特定されるまでは、撮像装置5の動作を停止または画像の解像度を低くしたり、毎秒のフレーム数を少なくしたりしてもよい。
さらに、図15の例では、ビーコン装置7bの通信エリアA11内、または、ビーコン装置7cの通信エリアA21内にユーザUcが進入した場合、カメラ5cが動作し、通信エリアA21内に存在するユーザUcを含む画像を撮像する。
このようにして、本実施形態の画像処理装置140は、撮像装置5と所定位置関係にある携帯端末3を画像の存在タイミングを合わせて特定することができ、特定された携帯端末3のユーザを、撮像装置5で存在された画像の中から、検索することができる。
(第1実施形態の具体例3)
上記第1実施形態のさらなる別の具体例として、GPS(Global Positioning System)を利用した、ユーザ位置の特定方法について説明する。
なお、本実施形態の構成は、他の実施形態、および他の実施形態の各例の構成の少なくともいずれか1つと組み合わせることもできる。
たとえば、上記具体例1の画像処理装置120がユーザ情報をビーコンを利用して取得する構成では、携帯端末3側で、ビーコンに応答するための本発明のアプリケーションを起動していなければならない。しかし、本具体例3の構成では、携帯端末3側で本発明のアプリケーションを起動しなくてもよい。なお、携帯端末3において、GPS機能部の使用を許可する設定は事前に行われているものとする。また、上記具体例1の構成と、本具体例3の構成の両方を備えていれば、状況に応じて利用する構成を切り替えることができる。これにより、携帯端末3側で本発明のアプリケーションが起動されている場合と、起動されていない場合のいずれの場合でも、本発明の画像処理装置を実現することができる。
本実施形態において、画像処理装置は、携帯端末3のGPS機能部を用いて取得したユーザの携帯端末3の位置情報に基づいて、撮像装置5と所定位置関係に存在する携帯端末3のユーザを特定するユーザ特定部(不図示)をさらに備える。
第1特徴取得部102は、ユーザ特定部により特定されるユーザの画像特徴情報を取得する。
この構成においては、店舗内等、所定の場所における、ユーザの位置情報の取得を承諾する取り決めを予めユーザと取り交わしておくものとする。あるいは、位置情報を取得する度に、ユーザに確認するメッセージを提示し、承認を得てから取得するものとする。後者の場合は、店舗内でユーザから一度許可を得た後は、ユーザが店舗外に出たことが検知されるか、または、所定時間経過するまでは、確認処理は行わないようにしてもよい。
この構成によれば、携帯端末3のGPS機能部を用いてその位置情報を取得できるので、ユーザが来店時等にアプリケーションを起動する必要がないので、ユーザのアプリケーションの起動し忘れによって本システムの利用ができなくなることがなくなる。ユーザは特に意識せずに、本システムを利用することができる。
(第2の実施の形態)
次に、本発明の第2の実施の形態に係る画像処理システムについて、以下説明する。
図20は、本発明の実施の形態に係る画像処理システムの動作の一例を示すフローチャートである。
本実施形態の画像処理装置200は、上記実施形態の画像処理装置100とは、画像処理装置200が、対象ユーザの画像特徴情報を保持せず、第1特徴取得部102がユーザの携帯端末3から送信される画像特徴情報を都度取得する構成を有する点で相違する。
なお、本実施形態の構成は、上記各実施形態、およびその各例の構成の少なくともいずれか1つと組み合わせることもできる。
本実施形態の画像処理装置200において、第1特徴取得部102は、携帯端末3が予め保持しているユーザの画像特徴情報を、撮像装置5と所定位置関係に存在する携帯端末3から取得する。
この構成によれば、ユーザが顔画像の特徴情報を事前にシステムに登録することに抵抗があるような場合にも、本システムのデータベースにユーザの顔画像の特徴情報を保持しないので、本システムの利用を促すことが可能になる。
図16は、本実施形態の画像処理装置200を含む画像処理システムの動作の一例を示すフローチャートである。
まず、携帯端末3において、画像情報取得部(不図示)が、撮像部32を用いてユーザは顔写真を撮像する(ステップS201)。そして、画像情報取得部が、撮像された画像から画像特徴情報を抽出し、内部ストレージ16に保存する(ステップS203)。ここまでの手順は、たとえば、携帯端末3から所定のウェブサイトにアクセスし、ウェブサイト上に提示される手順に従い、ユーザが携帯端末3を操作することで実行されてもよい。あるいは、登録用のアプリケーションをダウンロードし、アプリケーションを実行することで、ユーザに写真撮影させるガイダンスを実行し、撮像された画像から自動的に画像特徴情報を抽出して保存する処理を行ってもよい。
なお、これらの処理は、後述する実施例で、サーバに登録する画像特徴情報の元になるユーザの顔画像をユーザに撮影させる処理でも同様である。
画像特徴情報を抽出する画像は、ユーザを正確に認識できる特徴量が抽出されるように、撮影条件(露出、焦点合わせ)や解像度等が適切に設定されるのが好ましい。そのため、予めユーザが撮像した画像を使用するよりも、本システムのガイダンスに従って、登録用に撮像させて得られた画像を用いるのが好ましい。なお、別途撮像した画像を画像特徴情報の抽出に用いることは排除されない。
そして、上記実施形態と同様に、ビーコン装置7から検知信号を受信した時(ステップS121)、画像処理装置200に応答情報を送信する(ステップS205)。本実施形態では、画像処理装置200には、応答情報として、ステップS203で保存した画像特徴情報が送信される。
そして、画像処理装置200では、携帯端末3から応答情報を受信した時(ステップS125のYES)、携帯端末3から受信した情報から、ユーザの画像特徴情報を取得する(ステップS129)。
以降の処理は、上記実施形態で説明したのと同じであるので、詳細な説明は省略する。
このように、本実施形態の画像処理装置200によれば、携帯端末3側で、ユーザの画像特徴情報が保持され、検知信号に呼応して、都度、携帯端末3から画像処理装置200に画像特徴情報が送信されるので、画像処理装置200側にはユーザの画像特徴情報を保持しないで済む。したがって、この構成によれば、個人の画像データをシステムに登録することに抵抗があるユーザでも、本システムを利用することが可能になる。
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
たとえば、第1特徴情報データベース112および第2特徴情報データベース114に格納されている画像特徴情報について、特徴量によるソート、または、サーチ対象ユーザの属性に基づく絞り込みなどの処理を行うこともできる。
<特徴量による画像特徴情報のソート>
ステップS203において、データベース内の複数の特定人物の中から、どの順番で照合を行うか、データベース内の特徴情報の特徴量をソートし、画像内で抽出された画像特徴情報と近似の特徴量を有する画像特徴情報から順に取得してもよい。
たとえば、第2特徴取得部104は、特定人物の画像特徴情報を予め格納する第2特徴情報データベース114の画像特徴情報を特徴量でソートし、各画像内で限定された画像エリアまたは画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、第2特徴情報データベース114から取得し、第2検出部110が、各画像内の限定された画像エリアまたは画像特徴情報について照合する。
この構成によれば、類似する特徴量を有する特定ユーザとの照合を優先的に行うことができるので、画像内に特定ユーザが存在していた場合に、迅速に見つけることができる可能性が高くなり、効率よく照合処理を行うことができる。また、通常よりも類似度の設定をより低く設定し、特定人物が検出される確率を上げることができる。
<サーチ対象ユーザの属性に基づく絞り込み>
さらに、ステップS203において、照合を行う際に、画像内の未確認人物の性別または年代等の属性を判別し、データベースを性別または年代でフィルタをかけてもよい。
具体的には、第2検出部110は、第1検出部108により未確認人物の存在が検出された場合、未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、判別された属性と同じ属性を有する、第2特徴情報データベース114の特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする。
この構成によれば、未確認人物の存在が検出された場合に、性別または年代が特定できる場合には、候補となる特定人物を絞り込んだ上で検索することができるので、効率よく照合処理を行うことができる。また、通常よりも類似度の設定をより低く設定し、特定人物が検出される確率を上げることができる。
<携帯端末3の情報送信方法の変形態様>
検知信号による携帯端末3の位置の特定方法において、上記実施形態では、ビーコン装置7が検知信号を携帯端末3に送信し、検知信号を受信した携帯端末3が画像処理装置に情報を送信する構成について説明した。他の実施形態として、携帯端末3が検知信号を送信し、検知信号を受信したビーコン装置7が画像処理装置に情報を送信する構成、または、検知信号を受信した携帯端末3がビーコン装置7に情報を送信し、ビーコン装置7から画像処理装置に情報を転送する構成も考えられる。
たとえば、ビーコン装置7は、撮像装置5と所定の位置関係に存在する携帯端末3から発信された検出情報を受信する構成としてもよい。
携帯端末3は、定期的にまたは間欠的に、自端末からの距離が所定の距離以内に位置するビーコン装置7に向けて、無線通信で検知信号を送信する検知信号送信部(不図示)を有する。検知信号には、携帯端末3の識別情報またはユーザの画像特徴情報が含まれてもよい。
そして、ビーコン装置7は、携帯端末3から検知信号を受信する検知信号受信部(不図示)と、受信した検知信号から携帯端末3の識別情報またはユーザの画像特徴情報を取得する情報取得部(不図示)と、を備える。
この構成によれば、ユーザが店舗を利用する際、本発明の携帯端末3を実現するプログラム50を起動し、検知信号を送信することで、ビーコン装置7はユーザの入店を検知することができる。ビーコン装置7の情報取得部がユーザの情報を取得し、画像処理装置にその情報を転送する。その後の処理は、上記実施形態の処理と同様である。
また、上記実施形態では、店舗にユーザが来店した場合を例に説明したが、本システムは、その他の敷地内や建物内にも適用できる。たとえば、遊園地、テーマパーク、公園、スタジアム、駅構内、サービスエリア、駐車上、公共施設、病院、ビル、マンション、住宅、道路等、監視カメラなどで撮像されているエリアであれば、特に限定されない。
本発明の画像処理システムは、たとえば、要人の警護や、オリンピック村等の所定施設内での不審者の検出にも適用できる。
すなわち、画像処理装置は、予め対象ユーザとして、要人とその警護にあたる人物の画像特徴情報を登録し、撮像画像内で、対象ユーザを検索対象から除外し、絞り込まれた未確認人物内で不審者の検出を行うことができる。
あるいは、オリンピック村等では、選手や関係者を予め対象ユーザとして画像特徴情報を登録しておき、撮像画像内で、対象ユーザを検索対象から除外し、絞り込まれた未確認人物内で不審者の検出を行うことができる。
このように、本発明の画像処理装置は、様々なシーンに適用できる。
(会員登録したユーザをブラックリスト照合から除外)
以下、本発明の画像処理システムの実施例について説明する。
本実施例では、ユーザが利用する店舗に予め会員登録を行い、会員登録されたユーザについては、ブラックリストとの照合から除外する。ユーザは、会員登録することで、店舗からインセンティブを取得できる構成としてまよい。本実施例の画像処理装置は、上記実施形態の画像処理装置120と同様な構成を備えるとともに、さらに、ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信して格納するユーザ情報データベース(不図示)と、当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する付与部(不図示)と、を備えるサーバ300を例として説明する。
図18は、本実施例の携帯端末3として使用される、スマートフォン10のハードウェア構成を示すブロック図である。
図18に示すように、スマートフォン10は、CPU12と、メモリ14と、内部ストレージ16と、通信部18と、操作部22と、操作受付部24と、表示部26と、表示制御部28と、を備える。なお、図10において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。また、スマートフォン10では、操作部22の一部と、表示部26が一体となったタッチパネル30を備えてもよい。さらに、スマートフォン10は、撮像部32と、GPS機能部34と、を備えてもよい。なお、本実施例では、スマートフォン10が撮像部32を備える構成としているが、これに限定されるものではない。スマートフォン10に接続される外部のカメラで撮像してもよいし、あるいは、他のカメラで撮像された画像を入手してもよい。
図17は、本実施例の画像処理システムをユーザが利用するために、ユーザの画像特徴情報を登録する手順の一例を示すフローチャートである。
まず、スマートフォン10において、サーバ300に会員登録を行うために、所定のウェブサイトにアクセスし、情報入力を行うためのフォームを表示する。または、本システムを利用するためのアプリケーションをダウンロードしてインストールし、情報入力を行うためのフォームを表示する。
そして、スマートフォン10の撮像部32を用いて、顔画像を撮像し(ステップS401)、フォームに入力された登録情報を受け付け(ステップS403)、ステップS401で撮像された画像データと、入力された登録情報をサーバ300に送信する(ステップS405)。これらの会員登録情報の入力および送信操作は、一般的な手順で行うことができる。
ステップS401における顔画像の撮影時には、ユーザの顔認証に使用できる画像が撮像できるように、撮像部32の設定を自動的に調整したり、ガイダンスを出力し、ユーザの顔の向きや撮影範囲等の指示をユーザに行ったりするように、アプリケーションまたはウェブサイトが構成されるのが好ましい。
また、事前にサーバ300では、ブラックリストを受け付け、第2特徴情報データベース114に登録しているものとする(ステップS411)。
そして、サーバ300では、スマートフォン10から送信された画像データと登録情報を受信すると(ステップS413)、画像データから画像特徴情報を抽出する(ステップS415)。抽出された画像特徴情報を、ユーザIDと関連付けて第1特徴情報データベース112に登録する(ステップS417)。このとき、スマートフォン10から送信された会員登録用の登録情報は、ユーザIDが付与され、ユーザIDと関連付けてユーザ情報データベースに登録される。
本実施例では、サーバ300が、スマートフォン10から送信された画像データから画像特徴情報を抽出する構成としたが、他の例では、スマートフォン10側で、画像データから画像特徴情報を抽出してその画像特徴情報をサーバ300に送信してもよい。
図19は、本実施例の画像処理システムにおいて、ユーザ認識時の処理の手順の一例を示すフローチャートである。
スマートフォン10が、ビーコン装置7からの検知信号を受信し、応答情報をサーバ300に送信する処理は、図12の上記実施形態のフローチャートと同様である。そして、サーバ300の応答情報受信部122が、スマートフォン10から応答情報を受信すると(ステップS131)、ユーザIDと距離情報を取得する(ステップS133)。そして、サーバ300が、ユーザにインセンティブを付与する(ステップS421)。
ユーザに付与されるインセンティブは様々考えられるが、クーポン発行、お得情報提供、ポイント加算などが例示される。
たとえば、応答情報を送信してきたユーザのスマートフォン10に、クーポンを発行して送信し、スマートフォン10に受信させて、スマートフォン10の表示部26に表示させてもよい(ステップS423)。あるいは、ユーザに、応答情報を送信した見返りとして、ポイントを付与し、当該ユーザのユーザ情報データベースに、ポイント履歴情報として記録してもよい。
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
なお、本発明において利用者に関する情報を取得、利用する場合は、これを適法に行うものとする。
以下、参考形態の例を付記する。
1. 画像処理装置が、
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得し、
特定人物の画像特徴情報を取得し、
前記撮像装置により撮像された画像を取得し、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、
画像処理方法。
2. 前記画像処理装置が、
前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信し、
受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する、
1.に記載の画像処理方法。
3. 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
前記画像処理装置が、
前記携帯端末から、前記識別情報とともに前記距離情報を受信し、
受信された前記距離情報に基づいて、取得された前記画像の中で、取得された前記ユーザの画像特徴情報と照合させる画像を特定する、
2.に記載の画像処理方法。
4. 前記画像処理装置が、
前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信し、
受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する、
2.または3.に記載の画像処理方法。
5. 前記画像処理装置が、
前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定し、
特定される前記ユーザの画像特徴情報を取得する、
1.から4.いずれか一つに記載の画像処理方法。
6. 前記画像処理装置が、
前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する、
1.から5.いずれか一つに記載の画像処理方法。
7. 前記画像処理装置が、
特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートし、
前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得し、
前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する、
1.から6.のいずれか一つに記載の画像処理方法。
8. 前記画像処理装置が、
前記未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、
特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする、
1.から7.いずれか一つに記載の画像処理方法。
9. 前記画像処理装置が、
前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信してデータ変数に格納し、
当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する、
1.から8.いずれか一つに記載の画像処理方法。
10. コンピュータに、
ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する手順、
特定人物の画像特徴情報を取得する手順、
前記撮像装置により撮像された画像を取得する手順、
取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する手順、
取得された前記画像内における、検出された前記未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する手順、を実行させるためのプログラム。
11. 前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信する手順、
受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する手順、
をコンピュータに実行させるための、10.に記載のプログラム。
12. 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
前記携帯端末から、前記識別情報とともに前記距離情報を受信する手順、
受信された前記距離情報に基づいて、取得された前記画像の中で、取得された前記ユーザの画像特徴情報と照合させる画像を特定する手順、
をコンピュータに実行させるための、11.に記載のプログラム。
13. 前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信する手順、
受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する手順、
をコンピュータに実行させるための、11.または12.に記載のプログラム。
14. 前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定する手順、
特定される前記ユーザの画像特徴情報を取得する手順、
をコンピュータに実行させるための、10.から13.いずれか一つに記載のプログラム。
15. 前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する手順、
をコンピュータに実行させるための、10.から14.いずれか一つに記載のプログラム。
16. 特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートする手順、
前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得する手順、
前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する手順、
をコンピュータに実行させるための、10.から15.のいずれか一つに記載のプログラム。
17. 前記未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別する手順、
特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする手順、
をコンピュータに実行させるための、10.から16.いずれか一つに記載のプログラム。
18. 前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信してデータベースに格納する手順、
当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する手順、
をコンピュータに実行させるための、10.から17.いずれか一つに記載のプログラム。
1 画像処理システム
3 携帯端末
3 本変形態様
5 撮像装置
5a、5b、5c カメラ
7、7a、7b、7c ビーコン装置
10 スマートフォン
12 CPU
14 メモリ
16 内部ストレージ
18 通信部
22 操作部
24 操作受付部
26 表示部
28 表示制御部
30 タッチパネル
32 撮像部
34 GPS機能部
42 検知信号受信部
44 情報送信部
50 プログラム
60 コンピュータ
62 CPU
64 メモリ
66 ストレージ
68 I/O
69 バス
70 通信I/F
72 入力装置
74 表示装置
76 ネットワーク
80 プログラム
100 画像処理装置
102 第1特徴取得部
104 第2特徴取得部
106 画像取得部
108 第1検出部
110 第2検出部
112 第1特徴情報データベース
114 第2特徴情報データベース
120 画像処理装置
122 応答情報受信部
124 第1検出部
132 検知信号送信部
140 画像処理装置
142 応答情報受信部
144 方向特定部
200 画像処理装置
300 サーバ

Claims (11)

  1. ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する第1特徴取得手段と、
    特定人物の画像特徴情報を取得する第2特徴取得手段と、
    前記撮像装置により撮像された画像を取得する画像取得手段と、
    前記第1特徴取得手段により取得された前記ユーザの画像特徴情報を用いて、前記画像取得手段により取得された画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する第1検出手段と、
    前記画像取得手段により取得された画像内における、前記第1検出手段により検出された未確認人物の画像特徴情報と、前記第2特徴取得手段により取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する第2検出手段と、
    を備える画像処理装置。
  2. 前記撮像装置と所定距離に配置された第1無線通信装置から送出された第1検知信号を受信した携帯端末から送信された識別情報を受信する応答情報受信手段
    をさらに備え、
    前記第1特徴取得手段は、前記応答情報受信手段により受信された前記識別情報に基づいて、前記携帯端末のユーザの画像特徴情報を取得する、
    請求項1に記載の画像処理装置。
  3. 前記第1検知信号には、前記第1無線通信装置からの距離情報が含まれ、
    前記応答情報受信手段は、前記携帯端末から、前記識別情報とともに前記距離情報を受信し、
    前記第1検出手段は、前記応答情報受信手段により受信された前記距離情報に基づいて、前記画像取得手段により取得された前記画像の中で、前記第1特徴取得手段により取得された前記ユーザの画像特徴情報と照合させる画像を特定する、
    請求項2に記載の画像処理装置。
  4. 前記応答情報受信手段は、前記第1無線通信装置とは第2無線通信装置から送出された第2検知信号をさらに受信した前記携帯端末から送信された情報を受信し、
    前記画像処理装置は、さらに、
    前記応答情報受信手段により受信された、前記第1検知信号に対する応答情報および前記第2検知信号に対する応答情報を用いて、前記撮像装置に対する前記携帯端末の方向を特定する方向特定手段と、を備える、
    請求項2または3に記載の画像処理装置。
  5. 前記携帯端末のGPS(Global Positioning System)機能を用いて取得した前記ユーザの前記携帯端末の位置情報に基づいて、前記撮像装置と所定位置関係に存在する携帯端末のユーザを特定するユーザ特定手段をさらに備え、
    前記第1特徴取得手段は、前記ユーザ特定手段により特定される前記ユーザの画像特徴情報を取得する、
    請求項1から4いずれか一項に記載の画像処理装置。
  6. 前記第1特徴取得手段は、前記携帯端末が予め保持している前記ユーザの画像特徴情報を、前記撮像装置と所定位置関係に存在する携帯端末から取得する、
    請求項1から5いずれか一項に記載の画像処理装置。
  7. 前記第2特徴取得手段は、
    特定人物の画像特徴情報を予め格納する格納部の画像特徴情報を特徴量でソートし、
    前記各画像内で限定された画像エリアまたは前記画像特徴情報の特徴量と近似の特徴量を有する画像特徴情報から順に、前記格納部から取得し、
    前記第2検出手段が、
    前記各画像内の限定された前記画像エリアまたは前記画像特徴情報について照合する、
    請求項1から6のいずれか一項に記載の画像処理装置。
  8. 前記第2検出手段は、前記第1検出手段により未確認人物の存在が検出された場合、前記未確認人物の、性別、および年代の少なくともいずれかの属性を判別し、
    特定人物の画像特徴情報を予め格納する格納部の中から、判別された属性と同じ属性を有する、前記特定人物の画像特徴情報を抽出し、抽出された画像特徴情報を照合対象とする、
    請求項1から7いずれか一項に記載の画像処理装置。
  9. 前記ユーザの識別情報と、前記ユーザの画像特徴情報を、前記ユーザの携帯端末から受信して格納するデータベースと、
    当該ユーザの携帯端末に対し、前記撮像装置と所定位置関係に存在することが確認された場合に、インセンティブを付与する付与手段と、
    を備える、
    請求項1から8いずれか一項に記載の画像処理装置。
  10. 画像処理装置が、
    ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得し、
    特定人物の画像特徴情報を取得し、
    前記撮像装置により撮像された画像を取得し、
    取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出し、
    取得された前記画像内における、検出された未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する、
    画像処理方法。
  11. コンピュータに、
    ユーザの携帯端末から送信される情報に基づいて、撮像装置と所定位置関係に存在するユーザの画像特徴情報を取得する手順、
    特定人物の画像特徴情報を取得する手順、
    前記撮像装置により撮像された画像を取得する手順、
    取得された前記ユーザの画像特徴情報を用いて、取得された前記画像内における、その画像特徴情報に対応するユーザ以外の未確認人物の存在を検出する手順、
    取得された前記画像内における、検出された前記未確認人物の画像特徴情報と、取得された前記特定人物の画像特徴情報とを照合して、前記特定人物の存在を検出する手順、を実行させるためのプログラム。
JP2014261315A 2014-12-24 2014-12-24 画像処理装置、画像処理方法、およびプログラム Active JP6645655B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014261315A JP6645655B2 (ja) 2014-12-24 2014-12-24 画像処理装置、画像処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014261315A JP6645655B2 (ja) 2014-12-24 2014-12-24 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2016122300A true JP2016122300A (ja) 2016-07-07
JP6645655B2 JP6645655B2 (ja) 2020-02-14

Family

ID=56329035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014261315A Active JP6645655B2 (ja) 2014-12-24 2014-12-24 画像処理装置、画像処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP6645655B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018061114A (ja) * 2016-10-04 2018-04-12 日本電信電話株式会社 監視装置および監視方法
JP2018081402A (ja) * 2016-11-15 2018-05-24 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2019079511A (ja) * 2017-10-11 2019-05-23 スキーデータ・アクチエンゲゼルシャフトSkidata Ag アクセス制御システムを用いてアクセス許可を確認する方法
JP2019186800A (ja) * 2018-04-12 2019-10-24 Kddi株式会社 情報端末装置、プログラム及び方法
JP2020155061A (ja) * 2019-03-22 2020-09-24 株式会社サイバーエージェント 個人識別システム、個人識別装置、個人識別方法及びコンピュータプログラム
US11429985B2 (en) 2017-03-21 2022-08-30 Kabushiki Kaisha Toshiba Information processing device calculating statistical information

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090264A (ja) * 1998-09-11 2000-03-31 Omron Corp 生体照合方法およびその装置
JP2004013871A (ja) * 2002-06-12 2004-01-15 Creer:Kk 防犯システム
JP2004213097A (ja) * 2002-12-26 2004-07-29 Casio Comput Co Ltd 画像照合装置、画像照合方法、画像照合プログラム
JP2005234947A (ja) * 2004-02-20 2005-09-02 Omron Corp 人数計数装置
JP2006127240A (ja) * 2004-10-29 2006-05-18 Secom Co Ltd 不審者検出システム及び不審者検出プログラム
JP2006146413A (ja) * 2004-11-17 2006-06-08 Mitsubishi Electric Corp 対象追従装置
JP2006268577A (ja) * 2005-03-24 2006-10-05 Fuji Xerox Co Ltd 認証装置、認証システムおよび画像形成装置
JP2006318313A (ja) * 2005-05-13 2006-11-24 Omron Corp 撮影制御装置、撮影制御方法、制御プログラム、制御プログラムを記録した記録媒体、撮影制御システム、および情報処理システム
JP2007058523A (ja) * 2005-08-24 2007-03-08 Fujitsu Ltd 警備システム
JP2007093595A (ja) * 2005-09-01 2007-04-12 Matsushita Electric Ind Co Ltd 送受信システム,外部発信受信装置,および送受信方法
JP2008197895A (ja) * 2007-02-13 2008-08-28 Toshiba Tec Corp Pos端末および生体認証装置
JP2008198189A (ja) * 2007-01-12 2008-08-28 Internatl Business Mach Corp <Ibm> 有害動作を表すモニター対象ユーザの動作を監視ユーザに警告するための方法、システム、およびプログラム
JP2010204028A (ja) * 2009-03-05 2010-09-16 Oki Electric Ind Co Ltd 管理サーバ、位置推定用設備システム及び位置推定システム
JP2010250680A (ja) * 2009-04-17 2010-11-04 Adachi Shokai:Kk 在宅判定システム、在宅判定装置及び在宅判定方法
JP2011047270A (ja) * 2010-09-24 2011-03-10 Oki Electric Industry Co Ltd ゲート装置、管理装置
JP2011060058A (ja) * 2009-09-11 2011-03-24 Hitachi Kokusai Electric Inc 撮影装置および監視システム
JP2011128684A (ja) * 2009-12-15 2011-06-30 Yahoo Japan Corp 情報処理装置、情報処理方法、情報処理システムおよび情報処理プログラム
JP2013054593A (ja) * 2011-09-05 2013-03-21 Toshiba Tec Corp 情報処理装置及びプログラム
JP2013223137A (ja) * 2012-04-17 2013-10-28 Konica Minolta Inc 情報処理装置、プログラム

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090264A (ja) * 1998-09-11 2000-03-31 Omron Corp 生体照合方法およびその装置
JP2004013871A (ja) * 2002-06-12 2004-01-15 Creer:Kk 防犯システム
JP2004213097A (ja) * 2002-12-26 2004-07-29 Casio Comput Co Ltd 画像照合装置、画像照合方法、画像照合プログラム
JP2005234947A (ja) * 2004-02-20 2005-09-02 Omron Corp 人数計数装置
JP2006127240A (ja) * 2004-10-29 2006-05-18 Secom Co Ltd 不審者検出システム及び不審者検出プログラム
JP2006146413A (ja) * 2004-11-17 2006-06-08 Mitsubishi Electric Corp 対象追従装置
JP2006268577A (ja) * 2005-03-24 2006-10-05 Fuji Xerox Co Ltd 認証装置、認証システムおよび画像形成装置
JP2006318313A (ja) * 2005-05-13 2006-11-24 Omron Corp 撮影制御装置、撮影制御方法、制御プログラム、制御プログラムを記録した記録媒体、撮影制御システム、および情報処理システム
JP2007058523A (ja) * 2005-08-24 2007-03-08 Fujitsu Ltd 警備システム
JP2007093595A (ja) * 2005-09-01 2007-04-12 Matsushita Electric Ind Co Ltd 送受信システム,外部発信受信装置,および送受信方法
JP2008198189A (ja) * 2007-01-12 2008-08-28 Internatl Business Mach Corp <Ibm> 有害動作を表すモニター対象ユーザの動作を監視ユーザに警告するための方法、システム、およびプログラム
JP2008197895A (ja) * 2007-02-13 2008-08-28 Toshiba Tec Corp Pos端末および生体認証装置
JP2010204028A (ja) * 2009-03-05 2010-09-16 Oki Electric Ind Co Ltd 管理サーバ、位置推定用設備システム及び位置推定システム
JP2010250680A (ja) * 2009-04-17 2010-11-04 Adachi Shokai:Kk 在宅判定システム、在宅判定装置及び在宅判定方法
JP2011060058A (ja) * 2009-09-11 2011-03-24 Hitachi Kokusai Electric Inc 撮影装置および監視システム
JP2011128684A (ja) * 2009-12-15 2011-06-30 Yahoo Japan Corp 情報処理装置、情報処理方法、情報処理システムおよび情報処理プログラム
JP2011047270A (ja) * 2010-09-24 2011-03-10 Oki Electric Industry Co Ltd ゲート装置、管理装置
JP2013054593A (ja) * 2011-09-05 2013-03-21 Toshiba Tec Corp 情報処理装置及びプログラム
JP2013223137A (ja) * 2012-04-17 2013-10-28 Konica Minolta Inc 情報処理装置、プログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018061114A (ja) * 2016-10-04 2018-04-12 日本電信電話株式会社 監視装置および監視方法
JP2018081402A (ja) * 2016-11-15 2018-05-24 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US11429985B2 (en) 2017-03-21 2022-08-30 Kabushiki Kaisha Toshiba Information processing device calculating statistical information
JP2019079511A (ja) * 2017-10-11 2019-05-23 スキーデータ・アクチエンゲゼルシャフトSkidata Ag アクセス制御システムを用いてアクセス許可を確認する方法
JP2019186800A (ja) * 2018-04-12 2019-10-24 Kddi株式会社 情報端末装置、プログラム及び方法
JP6993282B2 (ja) 2018-04-12 2022-01-13 Kddi株式会社 情報端末装置、プログラム及び方法
JP2020155061A (ja) * 2019-03-22 2020-09-24 株式会社サイバーエージェント 個人識別システム、個人識別装置、個人識別方法及びコンピュータプログラム

Also Published As

Publication number Publication date
JP6645655B2 (ja) 2020-02-14

Similar Documents

Publication Publication Date Title
JP6645655B2 (ja) 画像処理装置、画像処理方法、およびプログラム
CN110008903B (zh) 人脸识别方法、装置、系统、存储介质和人脸支付方法
JP2022082561A (ja) 解析サーバ、監視システム、監視方法及びプログラム
JP6885682B2 (ja) 監視システム、管理装置、及び監視方法
CN109829381A (zh) 一种犬只识别管理方法、装置、系统及存储介质
CN101496074A (zh) 可疑行为探测设备和方法以及程序和记录介质
JP2008040781A (ja) 被写体照合装置および被写体照合方法
JP2024015359A (ja) 人物検出システム
JP7196932B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7484985B2 (ja) 認証システム、認証方法、及び、プログラム
TWI745891B (zh) 認證系統、認證終端、使用者終端、認證方法、及程式產品
JP2017059060A (ja) 生体照合システム、生体照合方法、生体照合装置及び制御プログラム
US10810450B2 (en) Methods and systems for improved biometric identification
US9965612B2 (en) Method and system for visual authentication
CN110765851A (zh) 一种注册方法及装置、设备
JP2022059626A (ja) チケット発券システム、検札装置、およびプログラム
Mun et al. Design for visitor authentication based on face recognition technology using CCTV
CN112183167A (zh) 考勤方法、认证方法、活体检测方法、装置及设备
JP7020567B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
US10559142B2 (en) Information processing system
JP5730000B2 (ja) 顔照合システム、顔照合装置及び顔照合方法
CN104205013A (zh) 信息处理装置、信息处理方法以及程序
JP7298729B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP7095876B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP7248348B2 (ja) 顔認証装置、顔認証方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190201

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191002

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191227

R150 Certificate of patent or registration of utility model

Ref document number: 6645655

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150