JP2015002506A - セキュリティシステム - Google Patents

セキュリティシステム Download PDF

Info

Publication number
JP2015002506A
JP2015002506A JP2013127325A JP2013127325A JP2015002506A JP 2015002506 A JP2015002506 A JP 2015002506A JP 2013127325 A JP2013127325 A JP 2013127325A JP 2013127325 A JP2013127325 A JP 2013127325A JP 2015002506 A JP2015002506 A JP 2015002506A
Authority
JP
Japan
Prior art keywords
information
event
server
image
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013127325A
Other languages
English (en)
Inventor
学 岩崎
Manabu Iwasaki
学 岩崎
山口 剛
Takeshi Yamaguchi
山口  剛
山口 敏範
Toshinori Yamaguchi
敏範 山口
幸子 藤本
Sachiko Fujimoto
幸子 藤本
剛 片方
Takeshi Katagata
剛 片方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2013127325A priority Critical patent/JP2015002506A/ja
Publication of JP2015002506A publication Critical patent/JP2015002506A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】防犯装置がセキュリティに関するイベントを検出した際に、そのイベントに関して、遠隔の地に居る複数の使用者間で情報端末を用いてリアルタイムコミュニケーションを図ること。【解決手段】セキュリティに関するイベントを検出し、前記イベントおよび前記イベントに対応したイベント情報を出力する防犯装置60と、複数の情報端末13と、前記防犯装置60から前記イベントおよびイベント情報を受信して、前記イベントを前記複数の情報端末に通知し、前記イベント情報を蓄積し、更に前記複数の情報端末にテキスト情報を用いたチャットサービスを提供するサーバ22と、を備え、前記複数の情報端末13は、前記サーバ22から通知された前記イベントに基づいて前記サーバ22から取得した前記イベント情報と、前記チャットサービスによってやりとりされた前記イベント情報に関連する前記テキスト情報とを、時系列に表示する。【選択図】図1

Description

本発明は、防犯や監視に利用されるセキュリティシステムに関するものである。
年々日本人のセキュリティ意識が向上しており、例えば自宅への来訪者をドアホン装置のカメラ付き玄関子機で撮影し、在宅中の家人は撮影された画像をドアホン親機のモニタで確認した上で、音声によって来訪者と応対するようにした防犯装置が一般化している。また、他の防犯装置として、自宅周辺を監視するセキュリティカメラや、窓が開かれたことを検出する窓センサ等が知られており、近年では、このような防犯装置を設置する家屋が増加している。
一方、家人が外出中に来訪者があった場合に、カメラ付き玄関子機やセキュリティカメラで撮像・記録された画像および音声を携帯電話に送信し、携帯電話の使用者は送信された画像を確認して来訪者と通話し、玄関の電子ロックを開錠する等外出先から自宅の電子機器を操作可能に構成する技術が開示されている(特許文献1)。
また、ドアホン装置の呼出しボタンの押下に応じてドアホン装置がSIPサーバに対して呼び出しのための接続要求を送信すると、SIPサーバは登録された携帯端末の位置情報を用いて接続要求を送信し、応答が得られるとドアホン装置で取得した映像を携帯端末へ送信すると共に双方向の通話を開始する技術が開示されている(特許文献2)。
特開2004−194111号公報 特開2009−225221号公報
しかしながら、特許文献1、特許文献2に開示された技術では、あくまでも家人が来訪者に一対一で応対することを前提としており、来訪者を撮影した画像情報や防犯装置が反応した事象に関して、互いに遠隔の地に居る複数の者(例えば家族等)との間でコミュニケーションを行って来訪者への対応を検討するような状況は想定されていなかった。
つまり従来技術では、携帯電話等の使用者は、呼出しボタンを押下した来訪者と通話を行うことはできても、他の場所にいる家族とコミュニケーションを図った上で対応を図りたいと考えたような場合は、来訪者との会話を一旦中断して、家族等に別途電話を用いた通話やメールを送信するといった煩雑な過程を要していた。
本発明は、このような従来技術の課題を解決するべく案出されたものであり、その主な目的は、防犯装置がセキュリティに関するイベントを検出した際に、そのイベントに関して、互いに遠隔の地に居る複数の使用者間で情報端末を用いてリアルタイムコミュニケーションを図ることが可能なセキュリティシステムを提供することにある。
本発明のセキュリティシステムは、予め定められたセキュリティに関するイベントを検出し、前記イベントおよび前記イベントに対応したイベント情報を出力する防犯装置と、個々の使用者がそれぞれ使用する複数の情報端末と、前記防犯装置から前記イベントおよびイベント情報を受信して、前記イベントを前記複数の情報端末に通知し、前記イベント情報を蓄積し、更に前記複数の情報端末にテキスト情報を用いたチャットサービスを提供するサーバと、を備え、前記複数の情報端末は、前記サーバから通知された前記イベントに基づいて前記サーバから取得した前記イベント情報と、前記チャットサービスによってやりとりされた前記イベント情報に関連する前記テキスト情報とを、時系列に配置して表示するようにしたものである。
本発明によれば、上述の構成によって、防犯装置がセキュリティに関するイベントを検出した際に、そのイベントに関して、互いに遠隔の地に居る複数の使用者間で情報端末を用いてリアルタイムコミュニケーションを図り、イベントに適切に対応することが可能となる。
第1実施形態のセキュリティシステムの全体構成図 ドアホン装置の構成を示すブロック構成図 サーバの構成を示すブロック構成図 情報端末の構成を示すブロック構成図 ドアホン装置とサーバと複数の情報端末との間で行われる情報の送受信の過程を示すシーケンス図 (a)〜(d)は、複数の情報端末の端末表示部に表示される第1の表示様式を示す説明図 (a)、(b)は、複数の情報端末の端末表示部に表示される第2の表示様式を示す説明図 複数の情報端末の端末表示部に表示される第3の表示様式を示す説明図 検索処理を実行する際に、サーバと情報端末との間で行われる情報の送受信の過程を示すシーケンス図 不審者登録処理、家族登録処理を実行する際に、ドアホン装置とサーバと情報端末との間で行われる情報の送受信の過程を示すシーケンス図 第2実施形態のドアホン装置の構成を示すブロック図 第2実施形態において、ドアホン装置とサーバと複数の情報端末との間で行われる情報の送受信の過程を示すシーケンス図 第2実施形態において、複数の情報端末の端末表示部に表示される内容を示す説明図
前記課題を解決するためになされた本発明は、予め定められたセキュリティに関するイベントを検出し、前記イベントおよび前記イベントに対応したイベント情報を出力する防犯装置と、個々の使用者がそれぞれ使用する複数の情報端末と、前記防犯装置から前記イベントおよびイベント情報を受信して、前記イベントを前記複数の情報端末に通知し、前記イベント情報を蓄積し、更に前記複数の情報端末にテキスト情報を用いたチャットサービスを提供するサーバと、を備え、前記複数の情報端末は、前記サーバから通知された前記イベントに基づいて前記サーバから取得した前記イベント情報と、前記チャットサービスによってやりとりされた前記イベント情報に関連する前記テキスト情報とを、時系列に配置して表示するようにしたものである。
これによって、防犯装置がセキュリティに関するイベントを検出した際に、そのイベントに関して、互いに遠隔の地に居る複数の使用者間で情報端末を用いてリアルタイムコミュニケーションを図り、イベントに適切に対応することが可能となる。
また、本発明は、前記イベント情報は、時刻情報を含むようにしたものである。
これによって、防犯装置が画像情報を出力する構成を備えない場合であっても、複数の情報端末においてイベント情報が時系列に配列されて表示され、使用者はイベント情報に含まれるテキスト情報に関連するチャットを行うことが可能となる。
また、本発明は、前記イベント情報は、画像情報を更に含むようにしたものである。
これによって、防犯装置が画像情報を出力する構成を備える場合は、複数の情報端末においてイベント情報が時系列に配列させて表示され、使用者はイベント情報に含まれる画像情報に関連するチャットを行うことが可能となる。
また、本発明は、前記サーバは、更に前記防犯装置に対してチャットサービスを提供し、前記防犯装置は、前記イベントが発生した後、前記イベント情報に関連するテキスト情報を前記チャットサービスによって送受信するようにしたものである。
これによって、防犯装置がチャットに直接参加することで、情報端末におけるユーザインタフェースが簡略化され、使用者はイベント情報に対する措置を迅速に行うことが可能となる。
また、本発明は、前記防犯装置は、前記チャットサービスによって受信したテキスト情報を音声情報に変換する音声処理部と、前記音声情報を再生するスピーカとを備えるようにしたものである。
これによって、情報端末と防犯装置との間でチャットが行われて、チャットによって情報端末から防犯装置に送信されたテキスト情報を、防犯装置において音声として再生することで、情報端末の使用者と来訪者との間で実質的に会話を行うことが可能となる。
また、本発明は、前記防犯装置は、更に音声情報を入力するマイクロフォンを備え、前記音声処理部は、前記マイクロフォンに入力された音声情報を前記テキスト情報に変換し、前記防犯装置は、前記チャットサービスによって、前記テキスト情報を前記複数の情報端末に送信するようにしたものである。
これによって、防犯装置で記録された音声情報はテキスト情報に変換され、防犯装置は音声情報から変換されたテキスト情報をチャットによって情報端末に送信する。情報端末ではこれをタイムラインに表示することで、情報端末の使用者と来訪者との間で実質的に会話を行うことが可能となる。
また、本発明は、前記情報端末は、使用者の指示に基づいて特定のイベント情報を指定する指定手段を備え、前記サーバは、画像処理部を備え、前記情報端末は、前記サーバに前記指定手段による指定内容を送信し、前記画像処理部は、前記指定内容に基づいて前記サーバに過去に蓄積された過去画像に対して前記特定のイベント情報の被写体が含まれるか否かを検査し、前記被写体が撮影された前記過去画像および前記過去画像に関連する情報を抽出し、前記サーバは、前記被写体が撮影された前記過去画像が存在する場合、前記複数の情報端末の少なくとも一つに対して、前記抽出の結果を通知するようにしたものである。
これによって、情報端末の使用者は、特定のイベント情報(画像情報)を指定し、過去にサーバに蓄積された画像情報から、特定の画像情報に含まれる被写体と類似する被写体が撮影された画像情報を検索、抽出することが可能となる。
また、本発明は、前記情報端末は、使用者の指示に基づいて特定のイベント情報を指定する指定手段を備え、前記サーバは、画像処理部を備え、前記情報端末は、前記サーバに前記指定手段による指定内容を送信し、前記画像処理部は、前記特定のイベント情報が指定された後に、前記防犯装置から送信された最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似するか否かを検査し、前記サーバは、前記最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似する場合、前記複数の情報端末の少なくとも一つに対して、前記検査の結果を通知するようにしたものである。
これによって、情報端末の使用者は、指定した特定のイベント情報(画像情報)の被写体と、防犯装置で新たに撮影されたイベント情報(画像情報)に含まれる被写体とが類似する場合に通知を受け、新たなイベント情報に関連したチャットを行うことが可能となる。
また、本発明は、前記画像処理部は、前記最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似すると判定した回数を計数および記憶し、この計数結果が所定の回数を越えた場合、前記サーバは、前記複数の情報端末の少なくとも一つに対して警報を通知するようにしたものである。
これによって、情報端末の使用者は、特定のイベント情報(画像情報)として不審者を指定しておくと、防犯装置で新たに撮影されたイベント情報(画像情報)に不審者が含まれる場合に警報を受け、この警報に関連したチャットを行うことが可能となる。
また、本発明は、前記サーバは画像処理部を備え、前記画像処理部は、前記イベント情報が得られる毎に前記イベント情報の被写体の特徴量を抽出して過去に取得した前記特徴量との比較を行い、前記比較の結果に基づいて、前記被写体の出現頻度が予め定めた範囲を超える場合、前記サーバは、前記複数の情報端末の少なくとも一つに対して警報を通知するようにしたものである。
これによって、情報端末の使用者は、不審者を指定することなく、防犯装置によって頻繁に撮影された被写体がある場合に警報を受け、この警報に関連したチャットを行うことが可能となる。
(第1実施形態)
以下、本発明の第1実施形態について図面を参照しながら説明する。図1は、第1実施形態のセキュリティシステム1の全体構成図である。図1に示すように、セキュリティシステム1において、宅/敷地内2にはドアホン装置3と、窓センサ6と、セキュリティカメラ7(以降、ドアホン装置3、窓センサ6およびセキュリティカメラ7をまとめて「防犯装置60」と呼称することがある)と、ルータ8と、第1情報端末TM1とが設けられている。ドアホン装置3は、玄関子機4と親機5とで構成される。
また、屋外20にはインターネット21に接続されたサーバ22と、基地局25を介してインターネット21に接続された第2情報端末TM2と第3情報端末TM3とが設けられている(以降の説明において、第1情報端末TM1、第2情報端末TM2および第3情報端末TM3を区別しない場合は「情報端末13」と呼称する)。情報端末13は可搬性を備え、ここでは個々の使用者がそれぞれ使用するスマートフォンやタブレット端末等が相当する。なお、以下の説明で「使用者」とは原則的に情報端末13の使用者を意味するが、この「使用者」は、ドアホン装置3等の操作も行う者であるとする。
ドアホン装置3には窓センサ6が接続されている。窓センサ6も防犯装置60の1つであり、窓に取り付けた磁石の磁力を窓枠に取り付けた磁気センサ(図示せず)で検出し、窓が開いたことに反応して親機5に通報を行う。なお、この通報はDECT(Digital Enhanced Cordless Telecommunications)規格を用いて無線で行われる。
使用者は、在宅時において玄関子機4で撮影された来訪者の画像を親機5で確認し、音声によって来訪者に応答する。ドアホン装置3は宅内ネットワーク15を介してルータ8に接続されており、使用者は同様にルータ8にWi−Fi(Wireless Fidelity)によって接続された第1情報端末TM1を用いて来訪者と応対することが可能である。
また、ルータ8には宅内ネットワーク15を介してセキュリティカメラ7が接続されている。セキュリティカメラ7も防犯装置60の1つであり、焦電センサで構成される人感センサ(図示せず)等が搭載され、人感センサによって被写体を検出すると画像を撮影し音声を記録する。使用者は、セキュリティカメラ7で撮影された画像を、第1情報端末TM1を用いて閲覧することができる。
ルータ8はインターネット21を介してサーバ22に接続されている。ドアホン装置3が出力するディジタル画像データとしての画像情報、およびディジタル音声データとしての音声情報、ドアホン装置3を経由して送信される窓センサ6が反応した旨のフラグ情報、更にセキュリティカメラ7が出力する画像情報(音声情報が含まれてもよい)はサーバ22に記憶される。なお、後述するように、サーバ22はチャットサーバ処理部22b(図3参照)を備え、複数の情報端末13にテキスト情報(テキストデータ)を用いたチャットサービスを提供する。なお、以降の説明で、単に「ネットワーク」と言うときは、上述した宅内ネットワーク15およびインターネット21の双方を含むものとする。
情報端末13は、基地局25を介してサーバ22にアクセスして、上述した画像情報、音声情報、テキスト情報を取得する。なお、基地局25と第2情報端末TM2、第3情報端末TM3との間は、3G(3rd Generation)等、高速なデータ通信が可能な無線通信システムによって接続される。
図2は、ドアホン装置3の構成を示すブロック構成図である。以降、図2に図1を併用して、ドアホン装置3の構成を詳細に説明する。
図2に示すように、ドアホン装置3の玄関子機4は、CCD(Charge Coupled Device)等のイメージセンサを備えるカメラ4aと、子機マイクロフォン4bと、子機スピーカ4cと、呼出しボタン4dと、CPU(Central Processing Unit)、ワークメモリ、プログラムメモリ等で構成されて玄関子機4の動作全般を制御する子機制御部4eとで構成される。子機制御部4eは親機5に対して呼出しボタン4dが押下された旨、および画像情報を送信し、親機5との間で音声情報を送受信する。
また、親機5は、液晶パネル等で構成される親機表示部5aと、親機スピーカ5bと、親機マイクロフォン5cと、親機記憶部5dと、親機制御部5eと、親機画像処理部5fと、親機音声処理部5gと、親機通信処理部5hと、親機5の機能についての指示を入力する親機入力部5jとを備える。
この構成において、親機記憶部5dは、不揮発性メモリで構成され撮影された画像情報等を一時的に記憶する。親機制御部5eは、CPU(Central Processing Unit)、ワークメモリ、プログラムメモリ等で構成され親機5の動作全般を制御する。親機制御部5eは、子機制御部4eに対してコマンドを発行して玄関子機4を管理下におき、玄関子機4から画像情報を受信し、玄関子機4との間で音声情報を送受信する。親機画像処理部5fは、DSP(Digital Signal Processor)等で構成されカメラ4aから出力された画像にデモザイキング処理や色調整等の表示用の画像処理を実行する。また、親機画像処理部5fは、玄関子機4から送信された画像情報をMJPEG(Motion JPEG)形式に符号化する。
親機音声処理部5gは、DSP等で構成され玄関子機4が出力する音声情報に対してノイズ除去やエコーキャンセルを行う。親機通信処理部5hは、親機5からインターネット21へのアクセス及びその逆のアクセスの制御を行う。具体的には、親機5とサーバ22との間で、ネットワークを介した双方向のアクセスを制御して、カメラ4aで撮影された画像情報および子機マイクロフォン4bで記録された音声情報をサーバ22に送信し、他方、サーバ22を経由して複数の情報端末13からコマンド等を受信する。
なお、第1情報端末TM1がWi−Fi接続されている場合(図1参照)、第1情報端末TM1は、ID(一般にはIPアドレス)を指定することでドアホン装置3にアクセスし、呼出しボタン4dの押下に基づいて撮影された画像情報を参照することができる。また、第1情報端末TM1は、セキュリティカメラ7にアクセスして人感センサが反応した場合等に撮影された画像情報や、ドアホン装置3にアクセスして窓センサ6が反応した際の時刻情報等を参照することができる。
玄関子機4は、来訪者によって呼出しボタン4dが押下されたことを検出すると、呼出しボタン4dが押下された旨を親機5に通知する。これを受けて親機5は、親機スピーカ5bを用いて呼出し音を再生する。そして、玄関子機4は、カメラ4aで来訪者の撮影を開始し画像情報を親機5に送信するとともに、子機マイクロフォン4bを用いて音声の記録を開始し音声情報を親機5に送信する。このときの画像情報の撮影および音声情報の記録は、呼出しボタン4dの押下を検出した後、所定期間にわたって行われる。
親機画像処理部5fにおいてMJPEG形式に変換された画像情報は、ファイルとして親機記憶部5dに一時的に保存される。なお、親機5の親機制御部5eは時計機能を備えており、親機制御部5eは、来訪者の撮影を開始した年月日および時刻を時刻情報として抽出する。
なお、以降、この呼出しボタン4dが押下された事象、または当該事象が発生した事実を「イベント」と呼称し、「イベントを検出した」や「イベントが発生した」のように表記する。なお、「イベント」には、上述したセキュリティカメラ7の人感センサによって被写体が検出されたことや、窓センサ6によって窓の開放が検出されたことが含まれる。また、イベントの発生をトリガとして撮影された画像情報を「イベント画像51」と呼称する(具体的には、図6等を参照)。また、後述するように「イベント画像51」はイベント情報に含まれる。
ここで使用者が在宅中の場合、親機5は、親機入力部5jに入力された指示に従って、来訪者を撮影したイベント画像51に対して上述した画像処理を行って親機表示部5aに表示する。親機5は、更に親機マイクロフォン5cと親機スピーカ5bとを駆動するとともに、玄関子機4に対してコマンドを発行し、子機マイクロフォン4bと子機スピーカ4cとを駆動して、使用者と来訪者との間で双方向の通話処理を実行する。
一方、使用者は予め親機入力部5jを操作して、親機5を留守モードにしておくことができる。留守モードが指定された場合、来訪者が呼出しボタン4dを押下すると親機5は上述した呼出し音の再生は行うが、親機表示部5aにイベント画像51は表示されない。この際、玄関子機4が撮影したイベント画像51は、一時的に親機記憶部5dに記憶される。
親機通信処理部5hは、上述したイベントが発生する毎に、イベントとイベント画像51と時刻情報と機器情報(即ち、イベントを検出した主体に関する情報。ここではドアホン装置3を示す情報)と音声情報とをネットワークを介してサーバ22に送信する。この際、少なくともイベントとイベント画像51と時刻情報と機器情報とは互いに関連付けられて送信される。具体的には、送信単位であるパケットのヘッダに関連付けを明示する同一のフラグを付与すること等によってこれらの関連付けが図られる。
図3は、サーバ22の構成を示すブロック構成図である。図3に示すように、サーバ22は、Webサーバ処理部22aと、チャットサーバ処理部22bと、サーバ記憶部22cと、サーバ制御部22dと、サーバ画像処理部(画像処理部)22eとで構成される。
Webサーバ処理部22aは、サーバ22からインターネット21へのアクセスおよびその逆のアクセスの制御を行い、ネットワークを介してサーバ22と接続されたドアホン装置3や複数の情報端末13との間で、双方向のアクセスを制御する。具体的には、Webサーバ処理部22aは、ドアホン装置3の親機5から送信されたイベントおよびイベント画像51等を受信し、予め送信先IDが登録されている複数の情報端末13にイベントを送信する。チャットサーバ処理部22bは、各使用者にチャットルームを提供し、チャットルームに接続している複数の情報端末13の間で使用者同士のメッセージを交換させる。即ち、サーバ22は複数の情報端末13に対してチャットサービスを提供する。
サーバ記憶部22cは、大容量のRAID(Redundant Arrays of Inexpensive Disks)で構成され、ドアホン装置3から受信したイベントとイベント画像51と時刻情報と機器情報とを長期にわたって蓄積する(もちろん、上述した音声情報を蓄積してもよい)。サーバ22はイベントとイベント画像51と時刻情報と機器情報とをファイルとして取り扱い、このファイルを蓄積する。その際にこれらのファイル名の統一が図られる。また、後述するように、サーバ記憶部22cは、複数の情報端末13で生成されたチャットの内容であるテキスト情報を、それが生成された時刻情報とともに蓄積する。
なお、以降の説明を簡単にするために、サーバ記憶部22cには予めドアホン装置3、複数の情報端末13の送信元IDが登録されているものとする(第2実施形態も同じ)。ドアホン装置3や複数の情報端末13は、公知のTCPセッションを確立することでサーバ22にアクセスする。より具体的には、親機5(親機通信処理部5h)および情報端末13はサーバ22に対してHTTP(Hypertext Transfer Protocol)を利用して接続(ログイン処理)を実行する。なお、サーバ22が複数の情報端末13およびドアホン装置3へイベント等を送信する際に用いる送信先IDも予めサーバ22に登録されているものとする。即ち、ドアホン装置3および複数の情報端末13はサーバ22との間で相互にパケット化したデータを送受信することが可能である。
サーバ制御部22dは、CPU(Central Processing Unit)、ワークメモリ、プログラムメモリ等で構成されてサーバ22の動作全般を制御する。サーバ画像処理部22eは、後述するように画像認識機能を備え、サーバ記憶部22cに過去に蓄積されたイベント画像51を検索して、ドアホン装置3または複数の情報端末13から受信した特定の被写体を含む画像を抽出する。なお、サーバ画像処理部22eはハードウェア資源をサーバ制御部22dと共用してもよいし、画像処理用途に特化したアクセラレータ等で構成してもよい。
図4は、情報端末13の構成を示すブロック構成図である。第1情報端末TM1と第2情報端末TM2と第3情報端末TM3とは同様の構成を備えている。
図4に示すように、情報端末13は、液晶パネル等で構成される端末表示部13aと、端末スピーカ13bと、端末入力部13cと、端末記憶部13dと、CPU、ワークメモリ、プログラムメモリ等で構成されて情報端末13の動作全般を制御する端末制御部13eと、端末通信処理部13iと、チャットクライアント処理部13hとを備える。
端末入力部13cは、端末表示部13aに対して重畳配置されたいわゆるタッチパネルで構成されており、使用者は端末入力部13cにタッチして、情報端末13において必要なアプリケーションソフトを起動させる等の操作を行う。また、各情報端末13がチャットサービスを利用する際に、使用者は端末入力部13cを操作してチャットの内容であるテキスト情報を入力する。
チャットクライアント処理部13hは、チャットサービスを情報端末13が利用する際に、サーバ22への接続要求(対話開始要求)を送信する。接続が成功すると、チャットに参加する情報端末13のチャットクライアント処理部13hは、送信元IDをメッセージとしてサーバ22に送信し、次にチャットの内容であるメッセージ、即ちテキスト情報を作成しサーバ22に送信する。このメッセージは、サーバ22に送信先IDが登録されたすべての情報端末13に折り返し転送される。
端末通信処理部13iは、情報端末13からインターネット21へのアクセス及びその逆のアクセスの制御を行い、情報端末13とサーバ22との間で、ネットワークを介した双方向のアクセスを制御する。情報端末13はサーバ22に対してHTTP(Hypertext Transfer Protocol)を利用して接続(ログイン処理)を実行する。上述したように、ドアホン装置3が出力したイベント画像51と時刻情報と機器情報とは、イベントに関連付けられてサーバ22のサーバ記憶部22cに蓄積されており、情報端末13は、サーバ22から送信されたイベントを解析してイベント画像51等のファイル名を得る。情報端末13は、サーバ22に接続した後に、このファイル名を用いてサーバ22に蓄積されているイベント画像51と時刻情報と機器情報とを読み込む。
端末記憶部13dは、不揮発性メモリで構成され、サーバ22から送信されたイベントおよびサーバ22に接続して得たイベント画像51と時刻情報と機器情報とを記憶する。また、端末記憶部13dには使用者が利用するアプリケーションソフトが格納されている。
端末制御部13eは、Webブラウザ機能を備えるアプリケーションソフトの実行を制御する。使用者が情報端末13の電源を投入すると端末記憶部13dに格納されたアプリケーションソフトが起動し、情報端末13上に常駐する。アプリケーションソフトは、サーバ22からイベントを受信すると端末通信処理部13iを制御してサーバ22に接続し、イベント画像51と時刻情報と機器情報とを取得する。そして、チャットクライアント処理部13hを制御して、サーバ22が提供するチャットサービスに参加する。更にアプリケーションソフトは、ポップアップ画面を生成して、イベント画像51、時刻情報、機器情報およびチャットを構成するテキスト情報を端末表示部13aに併せて表示する。
図5は、ドアホン装置3とサーバ22と複数の情報端末13との間で行われる情報の送受信の過程を示すシーケンス図である。なお、以降の説明では、説明を簡単にするために、複数の情報端末13のうち、第1情報端末TM1と第3情報端末TM3との間でチャットが行われる際のシーケンスを例示するが、チャットの性質上、チャットに参加する情報端末13の数は制限されず、予めサーバ22に登録されたIDを有する2台以上の情報端末13がチャットに参加することができる(図10、図12についても同じ)。
以降、ドアホン装置3とサーバ22と複数の情報端末13との間で行われる情報の送受信の過程について、図5に図1〜図4を併用して説明する。まず、来訪者によって呼出しボタン4dが押下されると、ドアホン装置3はこれをイベントとして検出し、サーバ22に対して接続を行う(ST0501)。接続に成功すると、ドアホン装置3はサーバ22に対してイベントを送信し(ST0502)、更にイベント画像51とメッセージM1とを送信する(ST0503)。メッセージM1には、イベントの送信元である機器(ここではドアホン装置3)を明示する機器情報と、上述した時刻情報とが含まれる。防犯装置60のうちドアホン装置3またはセキュリティカメラ7(図1参照)のようにイベント画像51を出力するものにおいては、イベント画像51と時刻情報と機器情報とがイベント情報を構成する。なお、ドアホン装置3からサーバ22に送信されるイベント画像51はMJPEG形式の動画である。また、ST0503では音声情報を併せて送信してもよい。
サーバ22は受信したイベント、イベント画像51、メッセージM1をそれぞれファイルとしてサーバ記憶部22cに蓄積する(ST0504)。この際、各ファイルにはサフィックス(拡張子)を除いて同一のファイル名が付与される。
次に、サーバ22は、イベントを複数の情報端末13のそれぞれに送信する(ST0505〜ST0507)。イベントを受信した第1情報端末TM1は、サーバ22への接続を行い(ST0508)、接続に成功すると、イベントに対応したイベント情報を指定してサーバ22に送信要求を行う。送信要求を受信したサーバ22は、第1情報端末TM1にイベント画像51とメッセージM1とを送信する(ST0509)。第1情報端末TM1は、受信したイベント画像51およびメッセージM1(いずれもファイルとされている)をイベントとともに端末記憶部13dに保存する。なお、ST0509が実行される時点で、サーバ22から第1情報端末TM1に送信されるイベント画像51は、静止画とされている。即ち、送信時間を短縮する目的で、サーバ22はドアホン装置3から受信したMJPEG形式の動画のうち、最も初期に撮影されたフレームの画像情報(ドアホン装置3において呼出しボタン4dが押下された時点の静止画像情報)を送信する。もちろん動画全体を送信してもよい。
同様に、第3情報端末TM3もサーバ22に対して接続を行い(ST0510)、サーバ22からイベント画像51およびメッセージM1を受信して端末記憶部13dに保存する(ST0511)。
上述したアプリケーションソフトによって、メッセージM1はテキスト情報に変換されて表示様式が調整される。イベント画像51とメッセージM1とを受信した時点で第1情報端末TM1および第3情報端末TM3の端末表示部13aには、イベント画像51(静止画)と、メッセージM1に含まれる時刻情報および機器情報に基づく「15時20分 ドアホンが反応しました」のようなイベントの内容を示すテキスト(文字列)と、使用者がチャットのテキスト情報を入力するためのテキストボックス50(図6参照)がポップアップ画面内に表示される。
その後、第1情報端末TM1の使用者は、表示されたテキストボックス50にテキストを書き込み、アプリケーションソフトが提供するGUI(Graphical User Interface)としての送信ボタンを押下する。この操作によって、第1情報端末TM1からサーバ22への対話開始要求が送信され(ST0512)、サーバ22にチャットの内容としてメッセージM2が送信される(ST0513)。このようにして第1情報端末TM1は、サーバ22が提供するチャットサービスに参加する。サーバ22は、メッセージM2を受信するとメッセージM2に時刻情報を付与してメッセージM2をファイル化し、サーバ記憶部22cに蓄積する(ST5014)。なお、メッセージのファイル化に際して、ファイル名としてイベントやイベント画像51と共通する名称、および個々のメッセージを識別する連番が付与される。
第3情報端末TM3からもサーバ22に対して同様に対話開始要求が送信される(ST0515)。なお、第1実施形態では、第1情報端末TM1が対話開始要求を行って(ST0512)メッセージM2を送信した(ST0513)後に、第3情報端末TM3が対話開始要求をすることとしているが、実際は第1情報端末TM1と第3情報端末TM3とは対等であって、対話開始要求はどちらが先であってもよく、また、ST0513でメッセージM2がサーバ22に送信される前にST0505の対話開始要求が行われてもよい。
第3情報端末TM3の対話開始要求を受信したサーバ22は、サーバ記憶部22cに蓄積されている第1情報端末TM1によるメッセージM2を第3情報端末TM3に送信する(ST0516)。その後、第3情報端末TM3には使用者によってテキスト情報が入力され、同様にしてメッセージM3がサーバ22に送信され(ST0517)、蓄積される(ST0518)。この際にサーバ22で実行される処理はST5014で説明したものと同等である。そしてサーバ22は、第3情報端末TM3から受信したメッセージM3を第1情報端末TM1に折り返し送信する(ST0519)。その後、第1情報端末TM1の使用者と第3情報端末TM3の使用者との間で、それぞれの端末表示部13aに表示されたイベント情報(イベント画像51、時刻情報、機器情報)を参照しながらチャットが継続される。
このように、個々の使用者がそれぞれ使用する複数の情報端末13には、ドアホン装置3で検出されたイベントに基づいて、イベントの内容を示すテキストとイベント画像51とが表示され、更に、イベント情報に関連するチャットを行うためのテキストボックス50が表示されるため、使用者は、他の使用者に対してメーラや電話機能を起動する必要もなく、スムーズにリアルタイムコミュニケーションを図ることができる。
第1実施形態では、第1情報端末TM1は宅/敷地内2にあるとして説明したが、第1情報端末TM1は屋外20にあってもよい。なお、図5では、第1情報端末TM1は、サーバ22にアクセスしてイベント画像51等を取得するようにしているが、図1に示すように第1情報端末TM1が宅/敷地内2にあって、ルータ8を介してインターネット21に接続されているような場合は、第1情報端末TM1は、ルータ8を介して親機5から直接的にイベントやイベント画像51等を取得してもよい。
上述したアプリケーションソフトが提供するGUIを用いて、情報端末13の使用者はドアホン装置3を外部から制御することができる。例えば、第1情報端末TM1の使用者は、ドアホン装置3にコマンドを発行する。このコマンドは上述したイベントと実質的に同一の手順を用いて、まず、第1情報端末TM1からサーバ22に送信され(ST0520)、その後、サーバ22からドアホン装置3へと転送される(ST0521)。
コマンドを受信したドアホン装置3は、コマンドを解析し(ST0522)、コマンドに対応した処理を実行する。これによって、使用者はドアホン装置3から警告音を発生させることや、ドアホン装置3に設けられた図示しない照明を発光させることができる。
なお、第1実施形態は、防犯装置60としてドアホン装置3を例示して、ドアホン装置3によって検出されたイベントに基づいて、複数の情報端末13においてイベント画像51を参照してチャットが行われる態様ついて説明したが、防犯装置60としてネットワークに接続されたセキュリティカメラ7(図1参照)を用いてもよい。
この場合、セキュリティカメラ7はネットワーク接続が可能ないわゆるWebカメラであって人感センサ等が設けられる。セキュリティカメラ7は、人感センサで被写体を発見した場合にイベントを検出する。そして撮影を開始してイベント画像51を取得する。このようにセキュリティカメラ7から出力されるイベントおよびイベント画像51に基づいて、チャットが行われるようにしてもよい。防犯装置60がセキュリティカメラ7で構成される場合は、ドアホン装置3と同様に、イベント情報はイベント画像51と時刻情報と機器情報とで構成される。
また、防犯装置60の1つである窓センサ6の反応に基づいてチャットが行われるようにしてもよい。窓センサ6はドアホン装置3の親機5とDECTで接続されており、ドアホン装置3は、窓センサ6が窓が開かれた状態を検出した場合に、これをイベントとして検出する。ただし、窓センサ6は撮像機能を持たないため、イベント画像51は送信されず、上述した時刻情報と機器情報とを含むメッセージM1のみが送信される。即ち、防犯装置60が窓センサ6である場合は、イベント情報は時刻情報と機器情報とで構成される。
図6(a)〜(d)は、複数の情報端末13の端末表示部13aに表示される第1の表示様式を示す説明図である。第1実施形態では、複数の情報端末13は、サーバ22から通知されたイベントに基づいてサーバ22から取得したイベント情報と、チャットサービスによってやりとりされたイベント情報に関連するテキスト情報とを、時系列に配置して表示する。図6(a)〜(d)では、複数の情報端末13の間で母親である甲とその子供である乙とがチャットを行っている状況を示している。そして、図6の全体は、この態様で複数の情報端末13のそれぞれの端末表示部13aに時系列(タイムライン)に配置された様式で表示される。
図6(a)では、ドアホン装置3からイベントが送信された状況を示している。上述したようにメッセージM1にはイベント情報の一部である時刻情報と機器情報とが含まれており、複数の情報端末13の端末表示部13aには、これらに基づいて、「15時20分 ドアホンが反応しました」のようにテキストが表示される。そして、イベントに対応するイベント画像51(静止画)が併せて表示される。使用者である甲と乙とは、端末表示部13aに表示されたテキストボックス50にテキストを書き込むことで、チャットを行うことができる。
図6(b)も、図6(a)と同様にイベントはドアホン装置3から送信されている。図6(b)に示すイベントは図6(a)よりも遅い時刻に発生しており、端末表示部13aにおいて、図6(b)は図6(a)の下段に表示される。
図6(c)は、セキュリティカメラ7(図1参照)が検出したイベントに基づいて、チャットが行われる状況を示している。セキュリティカメラ7が送信するイベント情報もイベント画像51と時刻情報と機器情報とを含み、複数の情報端末13の端末表示部13aには、機器情報と時刻情報とに基づいて、「16時30分 セキュリティカメラが反応しました」のようにテキストが表示される。
図6(d)は、窓センサ6(図1参照)が検出したイベントに基づいて、チャットが行われる状況を示している。窓センサ6が反応した場合、窓センサ6が接続されたドアホン装置3からイベント画像51は送信されない。ただし、メッセージM1にはイベント情報として時刻情報と機器情報とが含まれることから、複数の情報端末13の端末表示部13aには、これらに基づいて、「18時00分 窓センサが反応しました」のようにテキストが表示される。図6(d)では、イベント画像51は表示されないものの、使用者は窓センサ6で検出されたイベントに関連したチャットを行うことができる。
図6(a)〜(d)では、端末表示部13aに時刻のみを表示しているが、年月日を併せて表示してもよい。なお、図6全体における時系列の配置は、時刻情報の前後(即ちイベントの発生順)を優先し、その次にチャットによってテキスト情報が生成された時刻を優先する。つまりイベント画像51の配置は図6(a)〜(c)の順で単純に時系列、即ち図6(d)を加えてイベントが発生した順序となっているが、図6を全体としてみたときにチャットが行われたテキストボックス50の配置はそうではない。例えば図6(b)に示す乙が入力したテキスト情報は17時15分に生成されているが、図6(c)に示す甲が入力したテキスト情報はこれより早い16時31分に生成されている。即ち、チャットによって生成されるテキスト情報は、イベント情報に紐付けられた上で時系列に配列される。
なお、図6(a)〜(d)に示すイベント画像51のいずれかを使用者が指定すると、端末表示部13aの表示は個別イベント様式(図8参照)に変化し、使用者は動画像を再生することができる(後述する)。
図7(a)、(b)は、複数の情報端末13の端末表示部13aに表示される第2の表示様式を示す説明図、図8は、複数の情報端末13の端末表示部13aに表示される第3の表示様式を示す説明図である。これらの表示は上述したアプリケーションソフトによって実行される。
図7(a)は、防犯装置60の反応履歴をひと月単位にまとめて、イベント画像51をカレンダー様式で表示したものである。カレンダー様式においてもイベント画像51は時系列に表示される。ただし、この際のイベント画像51は1日単位に、その日に撮影されたイベント画像51のうち最先のもののみが表示されている。
使用者が端末入力部13cを操作して、カレンダー様式で表示されているイベント画像51のうち1つを選択すると、表示は図7(b)のタイムライン様式に変化し、選択された特定の日に、防犯装置60によって検出されたイベントについてのメッセージM1の内容(即ち、時刻情報機および機器情報)とイベント画像51とが時系列に表示される。なお、タイムライン様式においては、図6に示すようにテキストボックス50を表示してもよい。
タイムライン様式において、使用者が特定のイベント画像51を選択すると、表示は図8に示す個別イベント様式に変化する。そして、端末表示部13aの動画フィールド13jには、イベント画像51を構成するMJPEG形式の動画が再生される。この再生と同時に音声情報を再生してもよい。なお、情報端末13にイベント発生時点の静止画像のみが送信されている場合は、情報端末13はサーバ22に接続し、イベントに対応した動画像(イベント画像51の全体)および必要に応じて音声情報を受信すればよい。
個別イベント様式においては、使用者はビデオ再生アイコン53を用いてイベント画像51を繰り返し再生することができる。また、個別イベント様式では、防犯機能アイコン52が表示される。使用者は、防犯機能アイコン52によって指示を入力することで、検索、不審者登録、家族登録、自動監視、警告設定、警告発信等の各処理を行う。具体的には、情報端末13の使用者は、動画フィールド13jに静止状態のイベント画像51を表示させて不審者登録、家族登録、自動監視、検索の各アイコンにタッチすると、動画フィールド13jに表示されたイベント画像51はサーバ22に送信されて、サーバ22のサーバ画像処理部22eにおいて指示された処理が実行される。
図9は、検索処理を実行する際にサーバ22と情報端末13との間で行われる情報の送受信の過程を示すシーケンス図である。なお、図9ではサーバ22に対して第1情報端末TM1によって検索処理の実行指示がなされた例を示している。以降、図9に図3、図4、図8を併用して検索処理が実行される過程について説明する。
第1情報端末TM1の使用者が検索の指示を行うと、第1情報端末TM1はサーバ22に接続を行う(ST0901)。接続に成功すると、第1情報端末TM1はサーバ22に、動画フィールド13jに静止画として表示されている画像情報(以降、「特定のイベント画像51」と呼称する)およびコマンド(ここでは、検索処理に対応したコマンド)を送信する(ST0902)。特定のイベント画像51とコマンドとを受信したサーバ22は、サーバ画像処理部22e(図3参照)によって特定のイベント画像51に含まれる被写体から特徴量を抽出する(ここで利用する特徴量については後述する)。なお、第1情報端末TM1は特定のイベント画像51の代わりに動画フィールド13jに表示されているイベント画像51のファイル名を送信してもよい。この場合、サーバ22は送信されたファイル名に基づいて特定のイベント画像51をサーバ記憶部22cから抽出する。なお、特定のイベント画像51は、ドアホン装置3で撮影された画像情報に限定されない。即ち、使用者は情報端末13に備えられたカメラ(図示せず)で撮影された画像情報を特定のイベント画像51の代わりに用いてもよい。この場合、使用者は端末入力部13cを用いて利用する画像情報を指定する。
サーバ画像処理部22eは、防犯装置60から最新のイベント画像51を取得する毎に、イベント画像51(静止画)から被写体および特徴量を抽出し、サーバ記憶部22cにイベント画像51(動画)と関連付けて蓄積している。検索処理において、サーバ画像処理部22eは第1情報端末TM1から受信した特定のイベント画像51に基づく特徴量と、過去に蓄積しておいたイベント画像51の特徴量とを比較して、過去に蓄積しておいたイベント画像51のうち類似すると判断したものを抽出し、その抽出結果を蓄積する(ST0903)。この抽出結果には、イベント画像51と時刻情報と機器情報(即ち、イベント情報)が含まれる。なお、特徴量を抽出する対象となる画像情報は、上述したMJPEG形式ファイルの全体であってもよいが、1つのファイルの複数フレームに検索対象となっている被写体が含まれている場合は、MJPEG形式ファイルのうち被写体を最初に検出した1つのフレームを抽出してもよく、特定のイベント画像51に対する類似度(後述する)が最も高いフレームを抽出してもよい。
そしてサーバ22は、抽出したイベント情報を第1情報端末TM1に送信する(ST0904)。これを受信した第1情報端末TM1は、これを検索結果として表示する。即ち、図8に示すようにイベント画像51と時刻情報と機器情報とを時系列に表示する。ここで、使用者が時系列に表示されたイベント画像51のいずれかを選択すると、動画フィールド13jには、選択されたイベント画像51に対応した動画が再生される。即ち、使用者は、サーバ記憶部22cに蓄積された過去の画像情報を動画として再生することができる。なお、検索結果の表示において、検索対象である被写体が撮影されたイベントの回数を併せて表示してもよい。
以降、サーバ画像処理部22eで実行される特徴量の抽出、および類似するイベント画像51を抽出する過程について説明する。サーバ画像処理部22eでは、まず送信された特定のイベント画像51から顔を検出する。顔検出の一般的な手法として、統計的学習に基づくパターン認識技術を用いることができる。この技術では、識別器のパラメータはあらかじめ与えた学習用サンプルを元に決定される。識別器として、例えばニューラルネットワークや、サポートベクターマシン、ベイズ推定等を用いた手法を利用することができる。
顔検出を行った後、サーバ画像処理部22eは、所定の顔枠内に顔画像が収まるように画像サイズの正規化処理を実行する。この手法として、例えば、検出された顔枠に対して目の検出を行い、目の位置を元にして顔画像にアフィン変換を行い、顔を正規化する手法、あるいは、検出された顔枠に対してAAM(Active Shape Model)を適用し、顔枠にアフィン変換を行い、サイズを正規化する手法等を利用することができる。
顔画像のサイズを正規化した後、サーバ画像処理部22eは顔画像の特徴量を抽出する。第1実施形態では、特徴量としてGabor特徴量、あるいはLBP(Local Binary Pattern)を用いている。Gabor特徴量はsin/cos関数をガウス関数で局在化したGaborフィルタによって抽出される。また、LBP特徴量とは、注目画素とその周囲8画素との輝度値の比較を行って得たビット列を特徴量としたものである。そしてこれらの特徴量は一般に多次元の特徴量ベクトルを構成する。このように抽出した特徴量ベクトルを用いて、サーバ画像処理部22eは第1情報端末TM1から受信した特定のイベント画像51に基づく特徴量と、過去に蓄積しておいたイベント画像51の特徴量との比較を実行し、類似度が高いイベント画像51が抽出される。この際、双方の特徴量ベクトル同士のユークリッド距離を計算した値が類似度となり、サーバ画像処理部22eはユークリッド距離が所定の値よりも小さい場合に双方の画像情報に含まれる被写体が類似すると判断する。
図10は、不審者登録処理、家族登録処理を実行する際に、ドアホン装置3とサーバ22と情報端末13との間で行われる情報の送受信の過程を示すシーケンス図である。なお、図10には、これらの登録処理が行われた後に、不審者等を検出する過程についても含まれている。なお、以下、主に不審者登録処理とこれに基づく不審者の検出処理の過程を、図10に図1、図3、図4を併用して説明する。また、不審者登録は第1情報端末TM1で行うものとして説明するが、もちろん、どの情報端末13で行われてもよい。
第1情報端末TM1の使用者が不審者登録処理を指示すると、第1情報端末TM1はサーバ22に接続を行い(ST1001)、接続に成功すると、第1情報端末TM1はサーバ22に、不審者として登録する特定のイベント画像51およびコマンド(ここでは、不審者登録処理に対応したコマンド)を送信する(ST1002)。上述したように、ここでも特定のイベント画像51に代えて対応するファイル名や他に指定した画像情報を送信してもよい。特定のイベント画像51とコマンドとを受信したサーバ22は、特定のイベント画像51を蓄積するとともに、コマンドに対応して、サーバ画像処理部22eで上述した画像処理を実行して特定のイベント画像51に含まれる不審者の特徴量を抽出する(ST1003)。
その後、ドアホン装置3がイベントを検出すると、ドアホン装置3は、サーバ22に接続し(ST1004)、イベントを送信し(ST1005)、次いでイベント画像51、メッセージM1、必要に応じて音声情報を送信する(ST1006)。サーバ22は、これらを受信してサーバ記憶部22cに蓄積するとともに、ドアホン装置3から受信した最新のイベント画像51に含まれる被写体の特徴量を抽出する(ST1007)。
次に、サーバ22は、イベントを複数の情報端末13のそれぞれに送信する(ST1006〜ST1008)。そして、サーバ画像処理部22eは、第1情報端末TM1から取得した特定のイベント画像51に含まれる被写体の特徴量と、ドアホン装置3から取得した最新のイベント画像51に含まれる被写体の特徴量とを照合し(ST1009)、両被写体の特徴量が類似するか否かを判定して(ST1010)、類似すると判断した場合(ST1010でyes)は、複数の情報端末13に対して警報を送信する(ST1011〜ST1013)。
警報を受信した各情報端末13は、ST1006〜ST1008で送信されたイベントに基づいてサーバ22にアクセスして(ST1014、ST1016)、イベント画像51とメッセージM1とを受信する(ST1015、ST1017)。そして、サーバ22が提供するチャットサービスを利用して、相互にチャットを行って(ST1018〜ST1025)、適切な対応についてリアルタイムにコミュニケーションを図る。なお、情報端末13の要求に対してサーバ22がイベント画像51等を送信する過程や、チャットに際してドアホン装置3とサーバ22と複数の情報端末13とで行われるやりとり(ST1014〜ST1025)は、図5を用いて説明したST5008〜と同様であるので、詳細な説明は省略する。
このように使用者が不審者登録を行った場合は、各情報端末13にはイベント画像51と併せて使用者にとってより重大な情報である警報が提供されるため、使用者はより適切にリスク対応を図ることが可能となる。不審者登録に基づいて行われるチャットの例を図6(c)に示す。図6(c)では、イベント画像51の被写体が不審者と判断され、タイムラインには時刻情報、機器情報と併せて「警報」である旨が明示される。なお、図6(c)に示す表示に対して、使用者がイベント画像51を選択すると、情報端末13の端末表示部13aには、図8の個別イベント様式の画像が表示される。
図10に示すシーケンス図では、情報端末13で不審者登録を設定(特定のイベント画像51を指定)した後に、ドアホン装置3から送信された最新のイベント画像51に不審者が撮影されていると判断した場合、サーバ22は直ちに警報を出力するようにしているが、サーバ画像処理部22eにおいて、最新のイベント画像51が得られる毎にイベント画像51に不審者が含まれるか否かを検査し、イベントを単位として不審者が検出された回数を計数し(即ち、MJPEG形式ファイルの個々のフレーム単位では不審者の検出回数を計数しない)、これが所定の回数を越えた場合にサーバ22から警報を送信するようにしてもよい。
以上、不審者登録の内容および不審者登録を行った場合の処理について説明したが、家族登録(図8参照)を行った場合も、これと同様に行えばよい。即ち、情報端末13から家族(例えば子供)が撮影された特定のイベント画像51(またはこれに代替する画像情報)をサーバ22にコマンド(家族登録)とともに送信しておく。サーバ22はドアホン装置3から送信された最新のイベント画像51および特定のイベント画像51の被写体から特徴量を抽出して比較し、類似度が高い場合は家族と判断して、情報端末13に通知を行う(ST1011〜ST1013)。家族登録に基づいて行われるチャットの例を図6(a)に示す。図6(a)では、ドアホン装置3から送信されたイベント画像51の被写体と乙(即ち、特定のイベント画像51の被写体)とが同一人物であると判断されている。これによって例えば家族等が帰宅したことを、外出先から容易に確認することができ、家族間のコミュニケーションを図ることができる。なお、家族登録を行った際の通知は、チャットを行うよう予め設定されている全ての情報端末13に送信する必要はなく、サーバ22にチャットを行う対象とは別に通知を行う情報端末13を登録しておくようにしてもよい。
次に、自動監視機能について説明する。使用者は、防犯機能アイコン52(図8参照)を用いて自動監視を指定することができる。上述したように、サーバ画像処理部22eは、防犯装置60から最新のイベント画像51を取得する毎に、イベント画像51(静止画)から被写体および特徴量を抽出し、サーバ記憶部22cにイベント画像51(動画)と関連付けて記憶している。
従って、サーバ画像処理部22eは、防犯装置60から次に最新のイベント画像51を取得した際に、このイベント画像51を特定のイベント画像51として取り扱って、過去にサーバ記憶部22cに蓄積されたイベント画像51との間で特徴量を比較することができる。そして、比較結果に基づいて双方の被写体が類似すると判断した場合、上述のようにイベントを単位として同一被写体が検出された回数を計数し、これが所定の回数を越えた場合、サーバ22は複数の情報端末13に警報を送信する。情報端末13は警報を受けた後に最新のイベント画像51を受信する(図10、ST1014〜ST1017を参照)。この場合も使用者は、イベント画像51に基づいて相互にチャットを行ってリアルタイムコミュニケーションを図り、警報に対する措置を迅速に検討することができる。
このように自動監視機能を用いれば、使用者は不審者登録を行うことなく、自宅を頻繁に訪れる来訪者を把握することができる。また、使用者は、自動監視機能によって警報を受信した際に、最新のイベント画像51を用いて上述した検索処理を実行することも可能である。なお、自動監視機能においては、上述した家族登録を行った際に送信した特定のイベント画像51の被写体(即ち、ここでは家族である甲や乙)と類似する画像情報については比較対象から除外される。
以降、警告設定について説明する。使用者が図8の防犯機能アイコン52を操作して警告設定を指定すると、上述した「警報」を受信した際における情報端末13の動作を選択することができる。即ち、使用者は「警報」に対して、情報端末13の呼出し音やバイブレーションのパターンを変更することや、端末表示部13aの画面の色を変更することができる。これによって、使用者は「警告」が発生したことを直感的(聴覚的、視覚的)に知ることができる。
以降、警告発信について説明する。使用者が図8の防犯機能アイコン52を操作して警告発信を指定すると、動画フィールド13jに表示されているイベント画像51についてのイベント検出元の防犯装置60に対して、所定の警告を行うよう指示することができる。即ち、情報端末13によって防犯装置60が遠隔操作される。この場合、情報端末13は、サーバ22に接続して所定のコマンドを送信する(図9のST0901、ST0902を参照)。このコマンドに応答して、例えばドアホン装置3であれば、親機スピーカ5bや子機スピーカ4cから警報音等を再生する。
(第2実施形態)
図11は、第2実施形態のドアホン装置3の構成を示すブロック図である。第1実施形態では、防犯装置60の1つであるドアホン装置3は、呼出しボタン4dの押下によってイベントを検出し、サーバ22にイベント情報(イベント画像51、時刻情報)を送信するに留まっていたが、第2実施形態では、ドアホン装置3は複数の情報端末13との間でチャットを行うように構成されている。
図11に示すように、第2実施形態のドアホン装置3は、第1実施形態の構成要素に加えて親機チャットクライアント処理部5iを更に備える。サーバ22が提供するチャットサービスを親機5が利用する際に、親機チャットクライアント処理部5iはサーバ22への対話開始要求を送信する。接続が成功すると、親機チャットクライアント処理部5iは、送信元IDをメッセージとしてサーバ22に送信し、次にチャットの内容であるメッセージ、即ちテキスト情報を作成しサーバ22に送信する。このメッセージは、サーバ22に送信先として登録されたすべての情報端末13に折り返し転送される。また、親機チャットクライアント処理部5iは、逆に、複数の情報端末13から送信されたチャットのメッセージを受信する。即ち、第2実施形態のセキュリティシステムでは、サーバ22は防犯装置60に対してチャットサービスを提供する。
また、第2実施形態において、親機音声処理部(音声処理部)5gは、基底周波数、音色、雑音レベルなどのパラメータを調整して波形を作り、人工的な音声を出力するいわゆるフォルマント合成処理(音声合成処理)を実行する。この音声合成処理によって、テキスト情報が音声情報に変換される。また親機音声処理部5gは、例えば隠れマルコフモデルを利用した音声認識処理を実行する。音声認識処理によって、来訪者の音声がテキスト情報に変換される。
図12は、第2実施形態において、ドアホン装置3とサーバ22と複数の情報端末13との間で行われる情報の送受信の過程を示すシーケンス図である。以降、図12に、図1、図3、図4を併用して説明する。ドアホン装置3は、来訪者による呼出しボタン4dの押下をイベントとして検出し、サーバ22に対して接続を行う(ST1201)。接続に成功すると、ドアホン装置3はサーバ22に対してイベントを送信し(ST1202)、更にイベント画像51と必要に応じて音声情報とを送信する(ST1203)。サーバ22は受信したイベント、イベント画像51をファイルとしてサーバ記憶部22cに蓄積する(ST1204)。
次に、ドアホン装置3はサーバ22に対して対話開始要求を送信し(ST1205)、チャットの内容としてメッセージM1(テキスト情報)を送信する(ST1206)。これによってドアホン装置3は、サーバ22によって提供されるチャットサービスに参加する。メッセージM1には上述した機器情報と時刻情報とに基づいて、複数の情報端末13に表示されるべきチャットメッセージとしてのテキスト情報が含まれる。サーバ22は受信したメッセージM1をサーバ記憶部22cに記憶する(ST1207)。
次に、サーバ22は、イベントを複数の情報端末13のそれぞれに送信する(ST1208〜ST1210)。イベントを受信した情報端末13は、それぞれサーバ22への接続を行い(ST1211、ST1213)、イベントに対応したイベント画像51とメッセージM1とを受信する(ST1212、ST1214)。各情報端末13は、イベントとともに受信したイベント画像51を端末記憶部13dに保存する。
情報端末13上で動作するアプリケーションソフトによって、メッセージM1を構成するテキスト情報は、第1情報端末TM1および第3情報端末TM3の端末表示部13aにイベント画像51と併せて表示される。
その後、第1実施形態で説明したのと同様に第1情報端末TM1および第3情報端末TM3の間でチャットが行われるが(ST1215〜ST1221)、第2実施形態では、チャットの際に生成されたテキスト情報はドアホン装置3にも送信される(ST1219、ST1224)。
図12は、第2実施形態において、複数の情報端末13の端末表示部13aに表示される内容を示す説明図である。図12において、甲は母親、乙はその子供を想定し、丙はドアホン装置3である。以降、図12を併用して説明を続ける。情報端末13の端末表示部13aには、図12に示すように、来訪者がイベント画像51として表示されており、このイベント画像51に関連したチャットが行われている。
イベントが発生すると、上述したように、情報端末13はドアホン装置3から送信されたイベント画像51とともに、チャットの内容であるテキスト情報を取得し、タイムラインの最上部のテキストボックス50には、メッセージM1の内容、即ち機器情報と時刻情報とが「ドアホンが反応しました」○○時○○分のように表示される。メッセージM1に対して、甲と乙とがテキストボックス50にテキストを書き込んでチャットを行い、その後、甲が第1情報端末TM1に「音,どなたですか」のメッセージM100を書き込むと、メッセージM100はサーバ22に送信されて(ST1222)蓄積される(ST1223)。サーバ22が提供するチャットサービスによって、メッセージM100は第3情報端末TM3およびドアホン装置3にも送信される(ST1224)。
このメッセージM100の先頭部分(ここでは「音,」)は、予めドアホン装置3に登録されており、ドアホン装置3はチャットによって受信したテキスト情報の先頭に「音,」を検出すると、デリミタ","の直前部分がコマンドであると認識する。ここでは、「音」はデリミタより後ろのテキスト情報を音声情報への変換対象であることを意味する。このように、情報端末13の使用者は、チャットサービスを利用してドアホン装置3に指示を与えることができる。
このコマンドに基づき、ドアホン装置3では解析が実行され(ST1225)、親機音声処理部5gはテキスト情報である「どなたですか」を音声情報に変換する。そして、音声情報はアナログ信号に変換されて子機スピーカ4cから再生される。なお、音声の再生を行った後、ドアホン装置3は実行したコマンドに関連して予め登録しておいた「音声を再生しました」のようなテキスト情報を出力して、情報端末13との間でチャット(コマンド実行の報告)を行うことができる。なお、子機スピーカ4cから再生される音声等については、予めドアホン装置3に音声情報を記録しておき、情報端末13から送信したコマンドに基づいて、これを再生するようにしてもよい。
子機スピーカ4cから再生された音声に来訪者が応対した場合、来訪者の音声は子機マイクロフォン4bを介してドアホン装置3に取り込まれる。玄関子機4の子機制御部4eによってディジタル化された音声情報は親機音声処理部5gに送られる。親機音声処理部5gでは、上述した音声認識機能によって音声情報をテキスト情報に変換する。このテキスト情報はチャットにおけるメッセージM101として、ドアホン装置3から第1情報端末TM1および第3情報端末TM3に送信される(ST1227、ST1228)。
このように、ドアホン装置3がチャットに直接参加することで、情報端末13におけるユーザインタフェースが簡略化され、使用者はイベントの発生に対する措置を迅速に実行することが可能となる。更に、ドアホン装置3が音声合成と音声認識機能を備えることで、使用者と来訪者との間で実質的に会話を行うことが可能となる。更に、これらの会話は、テキスト情報に基づいてなされることから、情報端末13の使用者が音声による会話が困難な状況に置かれていても、容易に行うことができる。
以上、本発明に係るセキュリティシステムについて特定の実施形態に基づいて詳細に説明したが、これらの実施形態はあくまでも例示であって、本発明はこれらの実施形態によって限定されるものではない。例えば、各実施形態では防犯装置60としてドアホン装置3、窓センサ6、セキュリティカメラ7を例示し、主にドアホン装置3について説明したが、本発明はこれに限定されず、例えば施錠装置に応用することが可能である。また防犯装置60は宅内に設置されることを要せず、自家用車等に設けられたものであってもよい。
また、上述した各実施形態では「防犯」に主眼をおいて説明したが、「何らかの異常な事象や状態」をイベントとして検出する検出装置を含むシステムについては、本発明をそのまま応用することが可能である。例えば、工場の製造ラインに設置された工程監視用のカメラがライン上を搬送される仕掛品に異常を検出したような場合や、入院患者の状態をモニタする機器が患者の容体について異常値を検出したような場合についても、本発明を応用することができる。即ち、情報端末13の使用者は検出装置で検出されたイベントおよびイベント情報に基づき、イベントに関係する者との間で、煩雑な手間を要することなくリアルタイムコミュニケーションを図ることが可能となる。なお、上述した実施形態に示した各構成要素は必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
本発明に係るセキュリティシステムは、防犯装置がセキュリティに関するイベントを検出した際に、そのイベントに関して、互いに遠隔の地に居る複数の使用者間で情報端末を用いてリアルタイムコミュニケーションを図り、イベントに適切に対応することが可能であることから、検出したイベントを送信可能な防犯装置を備えるセキュリティシステムに好適に適用することが可能である。
1 セキュリティシステム
3 ドアホン装置
4 玄関子機
4d 呼出しボタン
5 親機
5g 親機音声処理部(音声処理部)
5h 親機通信処理部
5i 親機チャットクライアント処理部
6 窓センサ
7 セキュリティカメラ
13 情報端末
13a 端末表示部
13c 端末入力部
13h チャットクライアント処理部
13i 端末通信処理部
21 インターネット
22 サーバ
22a Webサーバ処理部
22b チャットサーバ処理部
22e サーバ画像処理部(画像処理部)
50 テキストボックス
51 イベント画像
52 防犯機能アイコン
60 防犯装置
TM1 第1情報端末
TM2 第2情報端末
TM3 第3情報端末

Claims (10)

  1. 予め定められたセキュリティに関するイベントを検出し、前記イベントおよび前記イベントに対応したイベント情報を出力する防犯装置と、
    個々の使用者がそれぞれ使用する複数の情報端末と、
    前記防犯装置から前記イベントおよびイベント情報を受信して、前記イベントを前記複数の情報端末に通知し、前記イベント情報を蓄積し、更に前記複数の情報端末にテキスト情報を用いたチャットサービスを提供するサーバと、を備え、
    前記複数の情報端末は、前記サーバから通知された前記イベントに基づいて前記サーバから取得した前記イベント情報と、前記チャットサービスによってやりとりされた前記イベント情報に関連する前記テキスト情報とを、時系列に配置して表示することを特徴とするセキュリティシステム。
  2. 前記イベント情報は、時刻情報を含むことを特徴とする請求項1に記載のセキュリティシステム。
  3. 前記イベント情報は、画像情報を更に含むことを特徴とする請求項2に記載のセキュリティシステム。
  4. 前記サーバは、更に前記防犯装置に対してチャットサービスを提供し、
    前記防犯装置は、前記イベントが発生した後、前記イベント情報に関連するテキスト情報を前記チャットサービスによって送受信することを特徴とする請求項1ないし請求項3のいずれか1項に記載のセキュリティシステム。
  5. 前記防犯装置は、前記チャットサービスによって受信したテキスト情報を音声情報に変換する音声処理部と、前記音声情報を再生するスピーカとを備えることを特徴とする請求項4に記載のセキュリティシステム。
  6. 前記防犯装置は、更に音声情報を入力するマイクロフォンを備え、
    前記音声処理部は、前記マイクロフォンに入力された音声情報を前記テキスト情報に変換し、
    前記防犯装置は、前記チャットサービスによって、前記テキスト情報を前記複数の情報端末に送信することを特徴とする請求項5に記載のセキュリティシステム。
  7. 前記情報端末は、使用者の指示に基づいて特定のイベント情報を指定する指定手段を備え、
    前記サーバは、画像処理部を備え、
    前記情報端末は、前記サーバに前記指定手段による指定内容を送信し、
    前記画像処理部は、前記指定内容に基づいて前記サーバに過去に蓄積された過去画像に対して前記特定のイベント情報の被写体が含まれるか否かを検査し、前記被写体が撮影された前記過去画像および前記過去画像に関連する情報を抽出し、
    前記サーバは、前記被写体が撮影された前記過去画像が存在する場合、前記複数の情報端末の少なくとも一つに対して、前記抽出の結果を通知することを特徴とする請求項3に記載のセキュリティシステム。
  8. 前記情報端末は、使用者の指示に基づいて特定のイベント情報を指定する指定手段を備え、
    前記サーバは、画像処理部を備え、
    前記情報端末は、前記サーバに前記指定手段による指定内容を送信し、
    前記画像処理部は、前記特定のイベント情報が指定された後に、前記防犯装置から送信された最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似するか否かを検査し、
    前記サーバは、前記最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似する場合、前記複数の情報端末の少なくとも一つに対して、前記検査の結果を通知することを特徴とする請求項3に記載のセキュリティシステム。
  9. 前記画像処理部は、前記最新のイベント情報の被写体と前記特定のイベント情報の被写体とが類似すると判定した回数を計数および記憶し、この計数結果が所定の回数を越えた場合、前記サーバは、前記複数の情報端末の少なくとも一つに対して警報を通知することを特徴とする請求項8に記載のセキュリティシステム。
  10. 前記サーバは、画像処理部を備え、
    前記画像処理部は、前記イベント情報が得られる毎に前記イベント情報の被写体の特徴量を抽出して、過去に取得した前記特徴量との比較を行い、前記比較の結果に基づいて、前記被写体の出現頻度が予め定めた範囲を超える場合、前記サーバは、前記複数の情報端末の少なくとも一つに対して、警報を通知することを特徴とする請求項3に記載のセキュリティシステム。
JP2013127325A 2013-06-18 2013-06-18 セキュリティシステム Pending JP2015002506A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013127325A JP2015002506A (ja) 2013-06-18 2013-06-18 セキュリティシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013127325A JP2015002506A (ja) 2013-06-18 2013-06-18 セキュリティシステム

Publications (1)

Publication Number Publication Date
JP2015002506A true JP2015002506A (ja) 2015-01-05

Family

ID=52296767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013127325A Pending JP2015002506A (ja) 2013-06-18 2013-06-18 セキュリティシステム

Country Status (1)

Country Link
JP (1) JP2015002506A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016143018A1 (ja) * 2015-03-09 2016-09-15 中国電力株式会社 イベント情報提供装置、イベント情報提供システム、プログラム、イベント情報提供システム
JP2016170566A (ja) * 2015-03-12 2016-09-23 日本光電工業株式会社 管理装置、遠隔健康管理システム、及びプログラム
JP2016197822A (ja) * 2015-04-03 2016-11-24 シャープ株式会社 来客通知装置、来客通知装置の制御方法、端末装置、インターホン親機、制御プログラム、および来客通知システム
JP2018074357A (ja) * 2016-10-28 2018-05-10 孝 中井 端末管理サーバを用いた周辺状況通知システム
JP2019087845A (ja) * 2017-11-06 2019-06-06 パナソニックIpマネジメント株式会社 室内親機、ドアホンシステム、および、通信方法
JP2020024760A (ja) * 2018-10-30 2020-02-13 ディライテッド株式会社 受付システム、受付プログラム及び受付方法
JP2020135545A (ja) * 2019-02-21 2020-08-31 アイホン株式会社 来訪者対応システム
WO2021025074A1 (ja) * 2019-08-05 2021-02-11 株式会社Bonx グループ通話システム、グループ通話方法及びプログラム
RU2765616C1 (ru) * 2021-02-08 2022-02-01 Общество с ограниченной ответственностью "Спутник" Способ автоматического выявления неисправностей систем контроля и управления доступом

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016143018A1 (ja) * 2015-03-09 2016-09-15 中国電力株式会社 イベント情報提供装置、イベント情報提供システム、プログラム、イベント情報提供システム
JPWO2016143018A1 (ja) * 2015-03-09 2017-04-27 中国電力株式会社 イベント情報提供システム
JP2016170566A (ja) * 2015-03-12 2016-09-23 日本光電工業株式会社 管理装置、遠隔健康管理システム、及びプログラム
JP2016197822A (ja) * 2015-04-03 2016-11-24 シャープ株式会社 来客通知装置、来客通知装置の制御方法、端末装置、インターホン親機、制御プログラム、および来客通知システム
JP2018074357A (ja) * 2016-10-28 2018-05-10 孝 中井 端末管理サーバを用いた周辺状況通知システム
JP2019087845A (ja) * 2017-11-06 2019-06-06 パナソニックIpマネジメント株式会社 室内親機、ドアホンシステム、および、通信方法
JP2020024760A (ja) * 2018-10-30 2020-02-13 ディライテッド株式会社 受付システム、受付プログラム及び受付方法
JP2020135545A (ja) * 2019-02-21 2020-08-31 アイホン株式会社 来訪者対応システム
JP7297462B2 (ja) 2019-02-21 2023-06-26 アイホン株式会社 来訪者対応システム
WO2021025074A1 (ja) * 2019-08-05 2021-02-11 株式会社Bonx グループ通話システム、グループ通話方法及びプログラム
JP6842227B1 (ja) * 2019-08-05 2021-03-17 株式会社Bonx グループ通話システム、グループ通話方法及びプログラム
RU2765616C1 (ru) * 2021-02-08 2022-02-01 Общество с ограниченной ответственностью "Спутник" Способ автоматического выявления неисправностей систем контроля и управления доступом

Similar Documents

Publication Publication Date Title
JP2015002506A (ja) セキュリティシステム
US8417090B2 (en) System and method for management of surveillance devices and surveillance footage
US11475745B2 (en) Self-contained security system including voice and video calls via the internet
US10540884B1 (en) Systems and methods for operating remote presence security
JP2004013871A (ja) 防犯システム
WO2015196583A1 (zh) 一种进行双向实况共享与智能监控的终端及方法
JP5636205B2 (ja) 画像記録制御装置及び監視システム
JP2010074458A (ja) インターホンシステム
KR20150041939A (ko) 실시간 이벤트 감지를 통한 도어 감시시스템 및 그 방법
US11509695B1 (en) Management of controlled-environment facility resident image and/or background during video visitation
JP5530272B2 (ja) インターホンシステム
JP2009024426A (ja) 電気錠システム
JP2019193124A (ja) インターホンシステム、処理方法及びプログラム
JP2004056370A (ja) インターフォンシステムおよび情報提供方法
WO2004032085A1 (ja) 監視システム及び中継装置
JP2018018457A (ja) 監視カメラ、見守り監視システム及び見守り監視方法
JP2007114940A (ja) 訪問者通知・警告システム,方法,携帯端末およびプログラム
JP2006115374A (ja) 遠隔見守りシステム
JP6230875B2 (ja) インターホンシステム
KR20010069630A (ko) 인터넷망을 기반으로 한 방범 및 방문자대화시스템 및 그방법
JP2019196638A (ja) 集合住宅用エントランスドア解錠システム及び該システムの使用方法
JP6145305B2 (ja) インターホンシステム
KR20100069763A (ko) 네트워크 카메라 감시 시스템
KR101159951B1 (ko) 인터폰 장치
JP2008289084A (ja) 監視システムおよび監視装置