JP4531112B2 - 情報選別方法、そのシステム、監視装置及びデータ集積装置 - Google Patents

情報選別方法、そのシステム、監視装置及びデータ集積装置 Download PDF

Info

Publication number
JP4531112B2
JP4531112B2 JP2009504968A JP2009504968A JP4531112B2 JP 4531112 B2 JP4531112 B2 JP 4531112B2 JP 2009504968 A JP2009504968 A JP 2009504968A JP 2009504968 A JP2009504968 A JP 2009504968A JP 4531112 B2 JP4531112 B2 JP 4531112B2
Authority
JP
Japan
Prior art keywords
data
application
pattern library
information
monitoring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009504968A
Other languages
English (en)
Other versions
JPWO2008114368A1 (ja
Inventor
新也 山村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2008114368A1 publication Critical patent/JPWO2008114368A1/ja
Application granted granted Critical
Publication of JP4531112B2 publication Critical patent/JP4531112B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/16Actuation by interference with mechanical vibrations in air or other fluid
    • G08B13/1654Actuation by interference with mechanical vibrations in air or other fluid using passive vibration detection systems
    • G08B13/1672Actuation by interference with mechanical vibrations in air or other fluid using passive vibration detection systems using sonic detecting means, e.g. a microphone operating in the audio frequency range
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q2209/00Arrangements in telecontrol or telemetry systems
    • H04Q2209/50Arrangements in telecontrol or telemetry systems using a mobile data collecting device, e.g. walk by or drive by

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、マイクやカメラなどの機器が収集する音や映像といった1つの情報源に複数の情報が含まれる情報源から、特定の音や、映像の対象物を抽出するアプリケーションが、アプリケーション固有のデータ収集装置を設置することなく、汎用的なデータ収集装置を利用し、アプリケーションの用途に応じて、様々な対象物の指定とデータ収集を可能する技術に関する。
マイクやカメラといった機器の情報を利用して、音の発生や、画像の差分を契機とすることで、セキュリティサービスを行うシステムが近年になって実用化されてきている。又、音声認識や、食堂の光学スキャンを利用した自動清算機等、識別対象を識別するデータを特定の装置に設定して対象物を識別することは、既に広く行われている。
例えば、下記特許文献1では、信頼性が高く経済的な監視を可能とする被監視場所の監視方法が開示されている。
この特許文献1の被監視場所の監視方法は、各々が光感知センサーを有し、被監視場所を監視するための複数の監視モジュールと、オペレータを具備する遠隔監視ステーションとを含む監視システムによって被監視場所を監視するための方法であって、監視モジュールに関連する被監視場所の画像を各々の監視モジュールで記録するステップと、各々の監視モジュール内で記録された画像内の基準画像と異なる領域を抽出するステップと、各々の監視モジュール内でその領域からオブジェクトを抽出するステップと、各々の監視モジュール内で、オブジェクトが人間警報オブジェクトの場合に、そのオブジェクトに関連するタイプ、大きさ、形状そして/または動き履歴のような特徴に基づいて、オブジェクトを分類するステップと、そのオブジェクトが人間警報オブジェクトと分類された場合に、その領域を表すデータを様式化された方法で監視ステーションに送信するステップと、前記送信されたデータを監視ステーション内で再生し、同じものをオペレータに表示して人間警報オブジェクトの認証を行うステップとを含むものである。
特表2003−518679号公報
一方、人の声や、食器等の単純な画像の形では認識できない、集音マイクが拾う雑多な音が混じった環境音や、映像カメラが捉えた様々なモノが映った映像から、アプリケーションがアプリケーションに必要な固有の情報を抽出するためには、高度な情報抽出技術を必要とする。このような機能を備えた監視装置は、強力な計算能力を必要とするため高価なものとなる。
これは、例えばセキュリティサービスで、侵入の時に発生するガラスやドアの破壊音や、監視カメラで撮影した画像から人間を自動検知するようにシステムを構成する場合問題となる。ビル管理等では、フロアやテナントごとに機器を設置する必要があり、監視装置が高価であれば、人件費を削るために自動化する意義が薄れる。
環境音、環境映像から特定の対象物を特定するサービスは、何の音であるか、何を監視したいのかを明確にし、それを識別するようにシステムを構成する。図11は、このように構成したシステムの例である。このシステムでは、監視装置とアプリケーションが動作する計算機は、USB、RS−232Cといった通信手段或いは、LANや無線を利用したIPネットワークを介して接続されている。図11のように異なる対象物を特定する2つのアプリケーションがあった場合、監視装置はそのアプリケーション固有に調整されているので、2つのアプリケーションは、それぞれ別のシステムでデータを収集することになる。このようなシステム構成では、アプリケーションを追加するごとに、同じ場所に何台もの監視装置が並ぶことになる。これはコストがかかるし、非効率でもある。
監視対象となりうるものは、サービスの用途により様々であり、光センサー、温度センサーのような単純なセンサーと異なり、このタイプの監視装置は、対象物を抽出するために、細かな調整を行う必要があり、サービスを開始した後で、対象物の追加や、サンプリング条件を変更したくなる状況は十分予測できる。
なお、前記特許文献1の被監視場所の監視方法によっても、監視モジュールが特有な動作をするように構成されているため、前記いずれの課題も解決することができない。
いろいろな情報が混じった環境情報から固有の音や映像を識別するサービスでは、従来のようなハードウェアコーディングされた監視装置を利用するのは、上記のような理由で効率的ではない、又、このようなサービスでは、サービスの性格上、サンプリングデータと、対象物の名称を関連付けるで、サービスの利便性を向上させることができる。この関連付けにより、アプリケーションは、例えば、アラームA、電話の着信音といった対象物を容易に指定することができ、対象物の検索や、新たな対象物の登録も可能になる。
そこで、本発明は前記課題を解決することのできる情報選別方法、そのシステム、監視装置及びデータ集積装置を提供することを目的とする。
本発明は、音や映像の連続的なストリームデータを収集する監視装置と、監視装置が収集するデータを集積し、アプリケーションに指定された対象物の抽出を行うデータ集積装置から構成されるシステム構成、及びアプリケーションが対象物の名称といった検索用メタデータと対象物のサンプリングデータを関連付け、データ集積装置に登録、検索、通知依頼を行う方法である。
(1)検出通知
本発明に係る情報選別方法は、センサー機器を用いて環境情報を収集する監視装置と、複数の監視装置と通信インタフェースで接続され、監視装置が送信する環境情報から所望の対象物を抽出するデータ集積装置とで構成されるシステムにおいて、アプリケーションが所望の対象物を指定し、通知を受ける情報選別方法であって、前記監視装置で収集された環境情報から対象物を特定するためのデータであるパターンライブラリが前記データ集積装置に登録され、前記データ集積装置が、アプリケーションからパターンライブラリの指定を受け、その指定及び当該指定を行ったアプリケーションをアプリケーション管理データとして登録し、前記監視装置が収集した環境情報をデータ集積装置に送信し、前記データ集積装置が、前記監視装置で収集された環境情報からアプリケーションにより指定されているパターンライブラリを用いて対象物を検出した場合に、当該対象物を検出するために用いたパターンライブラリを指定したアプリケーションに前記アプリケーション管理データを用いて通知する検出通知ステップとを含むものである。
このように本発明においては、監視装置がセンサー機器から環境情報を収集し、アプリケーションに必要な固有の情報を抽出するための高度な情報抽出技術を行わずにデータ集積装置に送信し、当該データ集積装置がアプリケーションに指定されている対象物を特定するためのデータを用いて複数の監視装置から送信された環境情報から対象物を抽出しているので、高価な監視装置を用いず、アプリケーション毎の監視装置も不要となり、全体として安価な情報選別を実現することができるという効果を奏する。また、データ集積装置に登録されている対象物を特定するためのデータの指定を変更することで、検出する対象物を変更することができる。
センサー機器は、画像を電気信号に変換するイメージセンサー、音を電気信号に変換するマイクロフォン、光センサー、感圧センサー、磁気センサー、化学センサー、バイオセンサーなどのセンサーを含む機器であり、例えば、マイク、カメラである。
環境情報は、センサー機器から収集される情報であり、一つの情報源から得られる複数の情報からなる。環境情報は、具体的に、センサー機器がマイクであれば音データであり、センサー機器がカメラであれば映像データである。そして、音データ及び/又は映像データの環境情報を本発明であれば汎用的に取り扱うことができる。
アプリケーションは、コンピュータにアプリケーションプログラムがロードされて構築される装置である。
(2)パターンライブラリの検索
本発明に係る情報選別方法は必要に応じて、前記パターンライブラリは、パターンライブラリを検索するための検索用メタデータも含み、前記データ集積装置は、登録されているパターンライブラリを前記アプリケーションから受け付けた検索用メタデータで検索する検索ステップを含むものである。
このように本発明によれば、パターンライブラリには対象物の検索用メタデータが含まれ、アプリケーションから受け付けた検索用メタデータで検索するので、アプリケーションが指定しようとするパターンライブラリを検索することができるという効果を有する。
検索用メタデータは、情報の意味を規定する情報であり、例えば、前記対象物の名称である。
(3)対象物を特定するためのデータの登録
本発明に係る情報選別方法は必要に応じて、前記アプリケーションが、前記データ集積装置に新たなパターンライブラリを登録する登録ステップを含むものである。
このように本発明においては、データ集積装置に登録されているパターンライブラリをアプリケーションが指定するのではなく、登録されていないパターンライブラリを新たに登録することもできる。
(4)アプリケーションによる詳細解析
本発明に係る情報選別方法は必要に応じて、前記検出通知ステップでのデータ集積装置からアプリケーションへの通知には当該通知に係る環境情報を収集した監視装置を識別するための監視装置識別情報が含まれ、前記アプリケーションは、当該検出通知ステップでのデータ集積装置からの通知に含まれる監視装置識別情報を用いて該当する監視装置と直接通信し、環境情報を収集して詳細解析する詳細解析ステップを含むものである。
このように本発明においては、データ集積装置ではなくアプリケーションがデータ集積装置が検出通知することになった検出された対象物を収集した監視装置から直接的に環境情報を収集して詳細解析するので、監視装置からの環境情報から前記データ集積装置が抽出した対象物が、アプリケーションが所望する対象物と異なる場合が、例えば、対象物が類似する場合に生じたときに、アプリケーションで所望する対象物の検出を正確に把握することができるという効果を有する。
本発明に係る情報選別方法は必要に応じて、前記詳細解析ステップは、アプリケーションが、監視装置が制御するセンサー機器を直接制御して環境情報を収集するものである。
このように本発明においては、アプリケーションがセンサー機器を直接制御して環境情報を収集しているので、より正確に所望する対象物の検出を把握することができるという効果を有する。
後説する実施形態では、アプリケーションが監視装置に直接サンプリングの指示を行う構成を示している。勿論、サンプリング以外の指示であってもよい。
以上説示した発明は情報選別方法と把握したが、所謂当業者であれば明らかであるように、情報選別システム及び当該情報選別システムを構成する構成要素(監視装置、データ集積装置、アプリケーション)として把握することもできる。
(5)システム
本発明に係る情報選別システムは、センサー機器を接続し、当該センサー機器から環境情報を収集する監視装置と、複数の当該監視装置と通信インタフェースで接続され、当該監視装置が送信する環境情報から所望の対象物を抽出するデータ集積装置と、所望の対象物を指定して通知を受けるアプリケーションとで構成される情報選別システムであって、前記アプリケーションは、前記データ集積装置に対して所望の対象物の通知依頼を行うために所望の対象物を特定するためのデータであるパターンライブラリを指定し、前記データ集積装置は、所望の対象物を特定可能なように、対象物毎に対象物を検索するための検索用メタデータ、データを特定するための処理ロジック、当該処理ロジックに関わるパラメータと、当該処理ロジックとパラメータで処理された基準データとを関連付けて前記パターンライブラリとして記録したパターンライブラリデータベースを有し、前記監視装置から送信されてきた環境情報を前記パターンライブラリデータベースの処理ロジックで処理して当該パターンライブラリの基準データと比較し、一致した場合に前記アプリケーションに通知するものである。
本発明に係る情報選別システムは必要に応じて、前記アプリケーションが、指定した対象物の検索用メタデータを指定し、前記データ集積装置は、当該アプリケーションが指定した検索用メタデータで前記パターンライブラリデータベースを検索し、検索結果をアプリケーションに送信するものである。
本発明に係る情報選別システムは必要に応じて、前記アプリケーションの要求に応じてデータ集積装置が前記アプリケーションで指定された検索用メタデータでパターンライブラリデータベースの検索を行った場合に、検索用メタデータ及び基準データを検索結果としてアプリケーションに送信するものである。
このように本発明においては、検索結果に基準データも含まれており、アプリケーションで基準データを確認することができる。
本発明に係る情報選別システムは必要に応じて、前記アプリケーションが、前記データ集積装置に対して検索用メタデータ、対象物特定のための処理ロジック、処理ロジックに関わるパラメータを提示し、前記アプリケーションが、ユーザからの監視装置を指定した入力を受け付け、当該監視装置にテストサンプリングの開始を指示し、当該テストサンプリングの開始を指示された監視装置が環境情報を収集して前記データ集積装置に送信し、当該データ集積装置が受信した環境情報を前記提示された処理ロジックとパラメータで処理して基準データにし、提示された検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータ及び基準データをパターンライブラリとしてパターンライブラリデータベースに登録するものである。
このように本発明においては、検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータを前記アプリケーションが前記データ集積装置に送信し、指定された監視装置がセンサー機器からの環境情報を収集し、収集した環境情報がデータ集積装置に送信されて処理ロジック及び処理ロジックに関わるパラメータを使用して基準データとし、前記検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータ及び基準データをパターンライブラリとしてパターンライブラリデータベースに登録するので、センサー機器の実環境に合致した基準データを得ることができるという効果を有する。
本発明に係る情報選別システムは必要に応じて、前記データ集積装置が、対象物を特定するためにパターンライブラリの基準データとサンプリングデータとの比較時に比較結果のあいまいさを許容する閾値データを使用し、アプリケーションがパターンライブラリに前記閾値データを含めて記録するものである。
このように本発明においては、データ集積装置の基準データとサンプリングデータの比較時に使用する閾値データをアプリケーションが対象物を特定するためのデータの指定毎に指定可能であるので、対象物の性質に合致した正確な比較を指定することができるという効果を有する。
本発明に係る情報選別システムは必要に応じて、前記アプリケーションは、前記データ集積装置に対して所望の対象物の通知依頼や所望の対象物を特定するためのパターンライブラリの登録を行った際に、当該データ集積装置からデータ集積装置が保持しているパターンライブラリの通知を受け、当該アプリケーションが前記監視装置から直接環境情報を取得し、取得した環境情報を通知されたパターンライブラリの処理ロジックと処理ロジックに関わるパラメータで処理してサンプリングデータとし、通知されたパターンライブラリの基準データと比較するものである。
このように本発明においては、アプリケーションは、データ集積装置からパターンライブラリの通知を受け、前記監視装置から環境情報を直接的に取得し、前記データ集積装置からのパターンライブラリを用いて基準データとサンプリングデータを比較するので、アプリケーションにおいても基準データとサンプリングデータの比較処理を実行することができるという効果を有する。
(6)監視装置
本発明に係る監視装置は、センサー機器を制御し、音及び/又は映像データを収集する情報収集部と、当該環境情報にフィルタ処理を行うフィルタと、当該フィルタ処理後の環境情報を一定時間バッファリングするデータバッファと、当該データバッファからイベントを生成するイベント生成部と、前記センサー機器の制御を行うためのアプリケーションインタフェースを有するセンサー制御部と、所望の対象物を指定して通知を受けるアプリケーション及び当該アプリケーションが指定した特定の対象物を環境情報から抽出するデータ集積装置と通信を行うための通信制御部とを有し、前記情報収集部がセンサー機器か収集した環境情報に前記フィルタを適用して前記データバッファに格納し、前記イベント生成部がサンプリングデータを周期的にイベントデータとして前記データ集積装置に送信するものである。
本発明に係る監視装置は必要に応じて、前記外部のアプリケーションに対して、制御インタフェースを提供するアプリ連携部を有し、当該アプリ連携部を介して前記アプリケーションからの要請により当該アプリケーションに前記データバッファに格納されている情報の通知を行うものである。
本発明に係る監視装置は必要に応じて、前記アプリケーションからの指示により前記センサー機器の制御を変更するものである。
(7)データ集積装置
本発明に係るデータ集積装置は、センサー機器を用いて環境情報を収集する監視装置及び所望の対象物を指定して通知を受けるアプリケーションと通信を行うための通信制御部と、前記アプリケーションからの対象物を特定するためのデータであるパターンライブラリの検索、パターンライブラリの新たな登録の依頼を処理するアプリケーション管理部と、所望の対象物を指定したアプリケーションに通知するための情報を記録するアプリケーション管理データと、前記監視装置から送信されてくる環境情報をバッファリングするデータバッファと、対象物を特定するための検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータ及び基準データを格納するパターンライブラリと、周期的に前記データバッファから環境情報を取り出し、取り出した環境情報に処理ロジックを適用してサンプリングデータとし、当該パターンライブラリの基準データと比較するスケジューラを有し、前記アプリケーションからのパターンライブラリの指定に従って、前記監視装置から送信される環境情報のサンプリングデータとパターンライブラリの基準データを比較し、一致した場合当該パターンライブラリを指定したアプリケーションに前記アプリケーション管理データに記録した情報を用いて通知するものである。
(8)アプリケーション
本発明に係るアプリケーションは、センサー機器を用いて環境情報を収集する監視装置及びサンプリングデータとするための処理ロジック及び基準データを含むパターンライブラリを用いて当該監視装置が収集した環境情報をサンプリングデータとし、前記パターンライブラリの基準データと比較することで環境情報から所望の対象物を抽出するデータ集積装置のアプリケーションインタフェースと通信を行うための通信制御部と、前記アプリーションインタフェースを起動するためのGUI画面を生成し、前記データ集積装置から前記サンプリングデータの一致通知があった場合に、所定のアクションを実行するアプケーションロジックと、前記監視装置から直接環境情報を収集し、前記データ集積装置から取得したパターンライブラリを用いて直接収集した環境情報をサンプリングデータと するデータ分析部とを有するものである。
これら前記の発明の概要は、本発明に必須となる特徴を列挙したものではなく、これら複数の特徴のサブコンビネーションも発明となり得る。
発明の効果
このように構成することにより、アプリケーションは、アプリケーション固有の監視装置を設けることなく、汎用的な監視装置を用いて、音や映像といった雑多な情報の中から特定の対象物を特定することができるようになる。更にアプリケーションが対象物を自由に指定して登録できるように構成することで、サービスの利便性が増す。
本発明の実施形態に係る情報選別システムのシステム構成図である。 本発明の実施形態に係る情報選別システムの機能ブロック図である。 本発明の実施形態に係る監視装置データバッファの一構成例である。 本発明の実施形態に係るデータ集積装置のデータバッファの一構成例である。 本発明の実施形態に係るデータ集積装置のアプリケーション管理データの一構成例であ る。 本発明の実施形態に係るパターンライブラリの一構成例である。 本発明の実施形態に係る登録済みパターンを利用する場合の処理シーケンスである。 本発明の実施形態に係る新パターンを登録する場合の処理シーケンスである。 本発明の実施形態に係る検出通知の処理シーケンスである。 本発明の実施形態に係る音データ詳細解析の処理シーケンスである。 既存のシステムを説明するための図である。
符号の説明
1 監視装置
1−1 情報収集部
1−2 フィルタ
1−3 センサー制御部
1−4 イベント生成部
1−5 通信制御部
1−6 データバッファ
1−7 アプリ連携部
2 データ集積装置
2−1 通信制御部
2−2 アプリケーション管理部
2−3 データ分析部
2−4 データバッファ
2−5 アプリケーション管理データ
2−6 パターンライブラリ
2−7 スケジューラ
3 アプリケーション
3−1 通信制御部
3−2 データ分析部
3−3 アプリケーションロジック
3−4 パターンライブラリ
本発明のシステム構成を図1に示す。本発明のシステムは、監視装置(1)、データ集積装置(2)、アプリケーション(3)から構成される。監視装置(1)とデータ集積装置(2)は、USB、RS−232Cといった通信手段或いは、LANや無線を利用したIPネットワークを介して接続される。アプリケーション(3)は、一実施例としてはPC等の計算機上で動作するプログラムとして構成され、アプリケーション(3)が動作する計算機と、監視装置(1)、データ集積装置(2)は、LANや無線を利用したIPネットワークを介して接続される。
本発明の機能ブロック図を図2に示す。
[1.システム構成]
[1.1 監視装置]
監視装置(1)は、集音用のマイク、映像撮影用のカメラ等のセンサー機器を有し、音や映像のアナログデータを、デジタルデータに変換し、データ集積装置(2)、あるいはアプリケーション(3)に送信する装置である。
監視装置(1)は、情報収集部(1−1)、フィルタ(1−2)、センサー制御部(1−3)、イベント生成部(1−4)、通信制御部(1−5)、データバッファ(1−6)、アプリ連携部(1−7)から構成される。
情報収集部(1−1)は、マイク、カメラ、センサーといった機器と各種規格の通信ケーブル、あるいは無線インタフェースで接続され、機器が収集したアナログデータをデジタルデータに変換するA/D変換を行う、又、センサー制御部(1−3)からの指示に従って、マイクやカメラの感度や焦点を調整するためのコマンドを、通信インタフェースを介して機器に送信する。
フィルタ(1−2)は、デジタル変換されたデータの中から、監視装置(1)の周囲の環境音の除去や、プライバシーに配慮して、人間の声や姿といった情報をあいまいにするために用いられる。例えば、音であればデジタルサンプリングした音を、さらにスペクトルに分解し、人間の声に相当する周波数のスペクトルを除去し、環境雑音と思われるスペクトルを除去する。映像であれば、人と認識される領域のデータにモザイク処理等を行う。又、送信データの削減のために、無音と判断されるサンプリングデータを除去するように構成することもできる。
センサー制御部(1−3)は、アプリケーション(3)やデータ集積装置(2)に対して、監視装置(1)に接続されたマイク、カメラ、センサー等を制御するためのアプリケーションインタフェース(API)を有する。
イベント生成部(1−4)は、データバッファ(1−6)に格納されたサンプリングデータからイベントメッセージを生成し、一定周期でデータ集積装置(2)へ送信する。
通信制御部(1−5)は、データ集積装置(2)とのインタフェース(USB、RS-232C、LAN、無線LAN等)を介して、定められたプロトコルでイベントメッセージの送信を行う。又、通信制御部(1−5)は、アプリ連携部(1−7)が公開するAPIのアプリケーション(3)からのリモート起動を受け付ける。
データバッファ(1−6)は、情報収集部(1−1)がサンプリングし、フィルタ(1−2)によりフィルタリングされたサンプリングデータを格納する。図3に監視装置のデータバッファの一構成例を示す。各サンプリングデータは、データを識別するためのデータ識別番号と、サンプリング時刻を示すタイムスタンプ、前記のサンプリングデータで構成される。データバッファ(1−6)に格納されるデータは、一定時間、データバッファ(1−6)に格納された後、削除される。これは、一般に音や画像の識別処理は、時系列に沿って、データの開始位置や、画像の差分が求められるため、過去のサンプリングデータが対象物の特定のために必要になる場合があるからである。
アプリ連携部(1−7)は、アプリケーション(3)からの、テストサンプリングの開始指示、データ参照指示、機器の制御指示を受け付けるためのAPIを公開し、アプリケーション(3)の指示に従って、監視装置(1)内のデータから情報を抽出、機能ブロックに制御を渡す。
[1.2 データ集積装置]
データ集積装置(2)は、監視装置(1)が周期的に送信してくるサンプリングデータのイベントを受信し、予めデータ集積装置(2)に記録されている基準データとの比較を行い、一致した場合に、その通知を所望するアプリケーション(3)に、通知メッセージを送信する装置である。又、アプリケーション(3)からのサンプリングデータの検索用メタデータによる検索や、サンプリングデータの登録、通知依頼も受け付ける。
データ集積装置(2)は、通信制御部(2−1)、アプリケーション管理部(2−2)、データ分析部(2−3)、データバッファ(2−4)、アプリケーション管理データ(2−5)、パターンライブラリ(2−6)、スケジューラ(2−7)から構成される。
通信制御部(2−1)は、監視装置(1)からのイベントを受信し、受信したイベントをデータバッファ(2−4)に格納する。又、アプリケーション管理部(2−2)が提供する基準データの検索用メタデータによる検索、基準データの登録、通知依頼のためのAPIをアプリケーション(3)がリモートで制御できるように機能を提供する。これは、例えば、JMS(Java(登録商標)メッセージサービス)、SOAP(Simple Object Access Protocol)等 の通信手順を用いて実現される。
アプリケーション管理部(2−2)は、アプリケーション(3)に対して、基準データの検索、基準データの登録、通知依頼のAPIを提供し、アプリケーション(3)の指示に従い、データ集積装置(2)内のデータへのアクセス、機能ブロックの制御を行う。
データ分析部(2−3)は、スケジューラ(2−7)あるいはアプリケーション管理部(2−2)が提示した、データ処理ロジック、データ処理ロジックに必要なパラメータを元に、データバッファ(2−4)からデータを取り出し、データを処理ロジックに従って加工する。なお、音や画像のパターンマッチング方式は、統計的手法を用いた様々な手法があるが、これらの手法に関しては、本発明の主旨ではないため説明しない。パターンマッチングの具体的な手法としては、フーリエ変換、ウェーブレット変換、特異値分解などが良く用いられる。
データバッファ(2−4)は、監視装置(1)からイベントで送信されたサンプリングデータを格納するバッファである。図4にデータバッファの一構成例を示す。サンプリングデータは、監視装置(1)毎に、データバッファ(2−4)に格納される。データバッファ(2−4)の構成は監視装置(1)と同じであるが、データ集積装置(2)も時系列を考慮したサンプリングデータの比較が可能なように一定時間のデータがデータバッファ(2−4)内にバッファリングされる。
アプリケーション管理データ(2−5)は、サンプリングデータと基準データが一致した場合、通知を所望するアプリケーション(3)に通知メッセージを送信するための情報を格納するデータである。図5にアプリケーション管理データの一構成例を示す。アプリケーション管理データ(2−5)は、登録番号、アプリケーション識別、基準データ番号、閾値データから構成される。登録番号は、監視装置(1)、データ集積装置(2)、アプリケーション(3)の間で、整合性をとる為の識別情報として利用される。アプリケーション識別は、サンプリングデータが一致した場合に、通知メッセージを送信するためのインタフェースを示す。一般的には、リモートインタフェースの名前やメッセージ受信キューの名前である。基準データ番号は、アプリケーションが所望した対象物の基準データを示す番号である。閾値データはサンプリングとの比較時に、あいまいさを許容するための情報である。音や映像といった情報は、周囲の環境に影響されやすいため、厳密な比較困難である、そのため、サービス履行を確実にするためには、識別粒度をある程度あいまいにする必要がある。
パターンライブラリ(2−6)は、音や映像データから特定の対象物を特定するために比較のテンプレートとして利用される情報である。図6にパターンライブラリ(2−6)の一構成例を示す。パターンライブラリ(2−6)は、データを索引するためのデータ番号、対象物の名称等、人間が対象物を特定するための検索用メタ情報、対象物を指定した処理ロジックで処理した結果である基準データ、対象物を特定するために処理を行うロジックで利用されるパラメータ情報を格納するサンプリング条件から構成される。
スケジューラ(2−7)は、周期的にアプリケーション管理データ(2−5)から、アプリケーションが所望している対象物の情報を抽出し、パターンライブラリ(2−6)から対象物の特定に必要な処理ロジックと、処理パラメータでデータ分析部(2−3)にデータの処理を依頼し、データ分析部(2−3)で処理されたデータを、基準データと比較し、一致した場合は、アプリケーション(3)に一致通知を行う。
[1.3 アプリケーション]
アプリケーション(3)は、特定の音や画像で識別される対象物を発見した場合に何らかのアクションを行う主体である。例えば、セキュリティサービスでは、侵入者を見つけた場合にオペレータに警告するサービスを提供する。
アプリケーション(3)は、通信制御部(3−1)、データ分析部(3−2)、アプリケーションロジック(3−3)、パターンライブラリ(3−4)から構成される。
通信制御部(3−1)は、監視装置(1)やデータ集積装置(2)が提供するアプリケーションインタフェースをリモートで制御するための機能を提供する。
データ分析部(3−2)は、データ集積装置(2)で解析しきれないデータを、監視装置(1)から直接データを収集し、詳細な分析を行う。
アプリケーションロジック(3−3)は、データ集積装置(2)から、指定した対象物を発見した通知を受けた場合に、どのような動作を行うかを記載した手順を実行する部分である。これには、監視装置(1)を制御して、更に対象の特定を実行する手順や、データ監視装置(1)とやりとりを行うためにオペレータに提供するGUIの提供機能も含まれる。
パターンライブラリ(3−4)は、図6で説明したものと同様である。
[2.動作]
本発明の一実施例として、様々な機器が発生するアラーム音を自動的に捉える例で、本発明の動作を説明する。
[2.1 音データの検索]
機器のアラーム音は、機器により微妙に異なるため、まずは捉えたいアラーム音が、データ集積装置(2)に登録されているかを確認する必要がある。ここでは、大容量のファイルプログラムの転送や、時間のかかるバッチ処理をPCが作業を終了した時にアラーム音で通知してくれるのをモニターして、離れた場所にいる作業者に通知するサービスを例として説明する。
対象物を指定する方法としては、データ集積装置(2)に既に登録されているデータパターンを用いる場合と、自分で新たに登録する方法とがあるが、まずは、登録済みのパターンを利用する場合について述べる。
図7は、登録済みパターンを利用する場合の処理シーケンスである。
アプリケーション(3)のアプリケーションロジック(3−3)は、パターン検出用のグラフィックユーザインタフェース(GUI)を作業者に提供する。このGUIは、例えば、対象物の名称を指定するボックスを提示し(図7(a)参照)、入力されると、データ集積装置(2)の検索用APIを、通信制御部(3−1)を介してリモートで起動するように構成する。ここで、例えば作業者が「アラーム」という単語を登録すると、通信制御部(3−1)は、「アラーム」という検索キー情報を含んだ、パターン検出要求メッセージを送信(8−1)する。
データ集積装置(2)の通信制御部(2−1)は、パターン検出要求メッセージ(8−1)を受信すると、アプリケーション管理部(2−2)の基準データ分析メソッドを起動する。アプリケーション管理部(2−2)は、基準データ分析メソッドが起動されると、パターンライブラリ(2−6)の検索用メタデータを検索し、「アラーム」という用語が含まれた文字列を検索する。この例では、検索用メタデータとして対象物の名称を含む文字列と、対象物の視聴用サンプル音が含まれているとする。検索の結果、「PCアラームA」、「PCアラームB」が見つかったとする。
アプリケーション管理部(2−2)は、基準データ分析メソッドの応答として、それぞれのサンプルのデータ番号、名称、視聴用サンプル音を返す。通信制御部(2−1)は、基準データ分析メソッドの応答を、検出結果応答メッセージ(8−2)としてアプリケーション(3)の通信制御部(3−1)に通信する。
アプリケーション(3)の通信制御部(3−1)は、検出結果をアプリケーションロジック(3−3)に渡す。アプリケーションロジック(3−3)は検索結果として、例えば、「PCアラームA」と「PCアラームB」の文字列を表示し、視聴用サンプリング音を再生するためのボタンをGUIとして表示する(図7(b)参照)。
作業者は、再生ボタンを押下して、どちらが目的の音であるかを確認する。ここでは、「PCアラームA」が目的の音であるとする。アプリケーションロジック(3−3)は、例えば、先のGUI画面に登録用ボタンを設けることで作業者が登録を可能にする。作業者は「PCアラームA」の登録ボタンを押下することで、参照登録を行う。通信制御部(3−1)は、自身のアプリケーションの通知先インタフェースの識別情報であるアプリケーション識別と、作業者が選択した基準データ番号を含んだ、参照登録メッセージ(8−3)を送信する。
データ集積装置(2)の通信制御部(2−1)は、参照登録メッセージ(8−3)を受信すると、アプリケーション管理部(2−2)の参照登録メソッドを起動する。アプリケーション管理部(2−2)は、参照登録メソッドが起動されると、アプリケーション管理データ(2−5)に、メソッドの入力情報である、アプリケーション識別と基準データ番号を登録する。登録が完了すると、アプリケーション管理部(2−2)は、パターンライブラリ(2−6)からアプリケーション(3)が指定した対象物のサンプリング条件を抽出し、抽出したサンプリング条件と、アプリケーション管理データ(2−5)に登録時に付与した参照用のデータ番号を参照登録メソッドの完了結果として通信制御部(2−1)に通知する。通信制御部(2−1)は、アプリケーション(3)の通信制御部(3−1)へ応答メッセージ、サンプリング条件を含めて返す。
アプリケーション(3)の通信制御部(3−1)は、アプリケーションロジック(3−3)に応答を返し、アプリケーションロジック(3−3)は登録完了をGUI画面に表示する(図7(c)参照)。
作業者は、登録完了後、実際にシステムが対象の音を検知するかテストすることができる。アプリケーション(3)のアプリケーションロジック(3−3)は、テストサンプリングのGUI画面を提示する。この画面には、登録済みの対象物と、対象物の抽出ロジックに関係する閾値パラメータが表示される。画面に表示する情報は、先の登録シーケンスの結果として、データ集積装置(2)から通知されたサンプリング条件を参照して作成する。
アプリケーションロジック(3−3)はテストサンプリング画面が起動されると、データ集積装置(2)からの一致通知メッセージの受信を監視する。検出通知シーケンスの詳細は後述する。作業者は、近くの監視装置(1)の前で実際にPCのアラーム音を発生させ、アプリケーション(3)に通知されるか確認する。通知されない場合、テストサンプリングのGUI画面から閾値パラメータの変更を行う(図7(d)参照)。
アプリケーションロジック(3−3)は、通信制御部(3−1)を介して、閾値調整メッセージ(8−4)をデータ集積装置(2)に送信する。閾値調整メッセージ(8−4)には、登録完了時に通知された登録番号と、閾値データが含まれる。
データ集積装置(2)の通信制御部(2−1)は、閾値調整メッセージ(8−4)を受信すると、アプリケーション管理部(2−2)の閾値調整メソッドを起動する。アプリケーション管理部(2−2)は、閾値調整メソッドが起動されると、入力パラメータの登録番号で、アプリケーション管理データ(2−5)を索引し、該当データの閾値データを入力された閾値データで更新する。閾値の修正が完了すると、アプリケーション管理部(2−2)は閾値調整メソッドを終了し、通信制御部(2−1)は、アプリケーション(3)に通信制御部(3−1)を介して調整終了を通知する。
以後、作業者は、アプリケーションに通知されるまで、テストサンプリングを行い、閾値調整を行う。
[2.2 音データの登録]
図8は、新たにパターンを登録する場合の処理シーケンスである。
前記の音データ検索の結果(8−2シーケンス完了後)、作業者が求めている音が「PCアラームA」でも「PCアラームB」でもない別のアラーム音であった場合、作業者は、新たな音データをデータ集積装置(2)に登録することができる。
アプリケーション(3)のアプリケーションロジック(3−3)は、パターン登録用のGUIを作業者に提供する。このGUI画面は、例えば、対象物の名称を指定するボックスと、データ集積装置(2)が適用することが可能な抽出ロジックの一覧を表示し、適用したい抽出ロジックと抽出ロジックに必要な調整パラメータを指定可能なように構成する(図8(a)参照)。作業者は、GUIから登録データを入力する。ここでは、作業者は「PCアラームC」という名称でデータ登録を行うとする。入力が完了すると、アプリケーションロジック(3−3)は、通信制御部(3−1)を介して、登録情報を含んだ、パターン登録要求メッセージ(9−1)を送信する。
データ集積装置(2)の通信制御部(2−1)は、パターン登録要求メッセージ(9−1)を受信すると、アプリケーション管理部(2−2)のパターン登録メソッドを起動する。アプリケーション管理部(2−2)は、パターン登録メソッドが起動されると、データ識別用のデータ番号を付与し、パターンライブラリ(2−6)に、データ番号、検索用メタデータとしての「PCアラームC」という文字列データ、サンプリング条件として、処理ロジックとそれに必要なパラメータを登録する。
アプリケーション管理部(2−2)は、パターン登録要求メソッドの応答として、付与したデータ番号を返す。通信制御部(2−1)は、パターン登録要求メソッドの応答を、登録応答メッセージとしてアプリケーション(3)の通信制御部(3−1)に返す。
アプリケーション(3)の通信制御部(3−1)は、登録結果をアプリケーションロジック(3−3)に渡す。アプリケーションロジック(3−3)は、作業者が「PCアラームC」の音の登録に用いる監視装置(1)に対して、通信制御部(3−1)を介してテストサンプリング開始メッセージ(9−3)を送信する。テストサンプリング開始メッセージ(9−3)には、データ集積装置(2)に付与されたデータ番号が含まれる。監視装置(1)の指定は、例えば、監視装置(1)に装置番号を示すラベルを付与し、アプリケーション(3)が提供するGUI上で作業者が装置番号を指定することで行われる(図8(b)参照)。
監視装置(1)の通信制御部(1−5)は、アプリケーション(3)の通信制御部(3−1)よりサンプリング開始メッセージ(9−3)を受信すると、アプリ連携部(1−7)を起動する。
アプリ連携部(1−7)は、サンプリング開始要求を受けると、通常のデータ収集を一時中止し、サンプリングする音の発生を待つ。サンプリングの開始条件、サンプリング長は、予めデータ集積装置(2)と調整した基準値を用いる。作業者がPCのアラーム音を発生させると、アプリ連携部(1−7)は情報収集部(1−1)を介して、前記の条件に基づき音データを収集する。音データは後述するように通常のイベントデータと同じようにデジタルサンプリングとフィルタ処理が適用される。又、視聴用の基準データとして一般的なPCで再生可能なコーディックのデータ収集も行う。なお、作業者がPCのアラーム音を発生させるためには、直接該当PCを操作する他、遠隔で操作して発生させることもできる。
アプリ連携部(1−7)はデータのサンプリングが完了すると、サンプル登録メッセージ(9−4)を生成し、通信制御部(1−5)を介して、データ集積装置(2)に通知する。サンプル登録メッセージ(9−4)には、アプリケーション(1)から通知されたデータ番号、サンプリングした音のデジタルデータ、視聴用の基準データが含まれる。
データ集積装置(2)は、通信制御部(2−1)を介して、サンプル登録メッセージ(9−3)を受信すると、アプリケーション管理部(2−2)の基準データ登録メソッドを起動する。アプリケーション管理部(2−2)は、基準データ登録メソッドが起動されると、パターンライブラリ(2−6)をデータ番号で索引し、データエントリに含まれるサンプリング条件を入力として、サンプル登録メッセージ(9−4)に含まれるサンプリングした音のデジタルデータと共にデータ分析部(2−3)を起動する。
データ分析部(2−3)は、指定された処理ロジックと指定されたパラメータでサンプリングした音のデジタルデータの加工を行い、比較用のデータを作成し、アプリケーション管理部(2−2)にデータ分析完了を通知する。
アプリケーション管理部(2−2)は、データ分析が完了すると、データ分析部(2−3)が作成した比較用データを基準データとしてパターンライブラリ(2−6)の該当データに登録する。又、視聴用の基準データを検索用メタデータとして登録する。アプリケーション管理部(2−2)は、基準データの登録が完了すると、通信制御部(2−1)を介して、監視装置(1)に対して、サンプル登録完了メッセージ(9−5)を送信する。
監視装置(1)は、通信制御部(2−1)を介して、サンプル登録完了メッセージ(9−5)を受信すると、アプリ連携部(1−7)を起動する。アプリ連携部(1−7)は、情報収集部(1−1)にデータ収集再開を指示し、テストサンプリング終了メッセージ(9−6)を作成して、通信制御部(1−5)を介して、アプリケーション(3)に通知する。
アプリケーション(3)は、通信制御部(3−1)を介して、テストサンプリング終了メッセージ(9−6)を受信すると、アプリケーションロジック(3−3)を起動し、GUI画面にパターン登録完了を表示する(図8(c)参照)。
[2.3 検出通知]
図9は、監視装置(1)が音を拾い、アプリケーション(3)に通知するまでの処理シーケンスである。
作業者は、「PCアラームC」をデータ収集装置に登録を完了し、PC上でバッチ作業を開始し、別の部屋で休憩を取っているとする。PCはバッチ作業を完了すると、作業完了のアラーム音を発生する。PCの近くに設置してある監視装置(1)はマイクでこの音を拾い、情報収集部(1−1)にアナログデータとして通知される。情報収集部(1−1)は、データ集積装置(2)との間で調整された基準値に従い、アナログ/デジタルの変換を行う。
デジタル化されたデータはフィルタ(1−2)で余分な情報が除去される。フィルタ(1−2)が適用されたデータは、データの識別番号とデジタルサンプリングされた時刻を記録したタイムスタンプが付与されデータバッファ(1−6)に記録される。データバッファ(1−6)は、例えば1分間分のサンプリングデータが格納なようにバッファ長が設定され、バッファ長を越える場合は、タイムスタンプが最も古いものが更新されるように構成されている。
イベント生成部(1−4)は、データ集積装置(2)との間で予め調整された周期間隔で起動され、データバッファ(2−4)に前周期から蓄積されているサンプリングデータを索引し、音イベントメッセージ(10−1)を生成する。音イベントメッセージ(10−1)に含まれるのは、監視装置(1)の識別番号、データ識別番号、タイムスタンプ、サンプリングデータである。イベント生成部(1−4)は、通信制御部(1−5)を介して、データ集積装置(2)に音イベントメッセージを送信する。
データ集積装置(2)の通信制御部(2−1)は、音イベントメッセージ(10−1)を監視装置(1)から受信すると、音イベントメッセージ(10−1)に含まれる監視装置識別で索引されるデータバッファ(2−4)のエントリに、音イベントメッセージ(10−1)に含まれるデータ識別番号、タイムスタンプ、サンプリングデータを記録する。データ集積装置(2)のデータバッファ(2−4)も、監視装置(1)のデータバッファ(1−6)と同様に構成される。
スケジューラ(2−7)は、予め定められた周期で起動し、アプリケーション管理データ(2−5)を索引する。アプリケーションが通知を所望している基準データ番号について、パターンライブラリ(2−6)から、基準データと、サンプリング条件を抽出する。
スケジューラ(2−7)は、サンプリング条件とサンプリング開始時刻とを指定し、データ分析部(2−3)に処理を依頼する。
データ分析部(2−3)は、データバッファ(2−4)から指定されたサンプリング開始時刻以降のタイムスタンプが記録されたサンプリングデータを抽出し、サンプリング条件で指定された処理ロジックを、サンプリング条件で指定されたパラメータを用いてサンプリングデータの処理を行う。データの処理が終了するとデータ分析部(2−3)は、処理済みのデータをスケジューラ(2−7)に通知する。
スケジューラ(2−7)は、基準データと処理済みのデータを比較し、一致するかどうかを検証する、この時に閾値データで指定された分の差分は許容し一致と見なす。一致した場合は、アプリケーション管理データ(2−5)に登録されているアプリケーションの識別に対して、一致通知メッセージ(10−2)を作成し、通信制御部(2−1)を介してアプリケーション(3)に通知する。
アプリケーション(3)は、通信制御部(3−1)を介して、一致通知メッセージ(10−2)を受信すると、アプリケーションロジック(3−3)を起動する。
アプリケーションロジック(3−3)は、一致通知メッセージ(10−2)を受けて、何らかのサービスを提供する。この実施例では、例えば、アプリケーションロジック(3−3)は、作業者の携帯電話に作業完了通知をメールするように構成され、別の部屋で休憩している作業者へ作業完了を知らせることができる。
[2.4 音データ詳細解析]
図10は、アプリケーション(3)が監視装置(1)と直接通信を行い、音データの詳細分析を行う場合の処理シーケンスである。
前記までの実施例で、作業者は「PCアラームC」を登録したが、「PCアラームC」と「PCアラームB」はアラームパターンが類似しており、閾値をゆるく設定した結果「PCアラームC」と「PCアラームB」のデータ集積分析装置の誤認率が大きくなるようなことが考えられる。この場合、閾値を厳密にすると、「PCアラームC」を捉えそこなう可能性が高くなる。このように、類似の音源や、音源の周囲の状況で誤認がおきるような状況では、データ集積分析装置(2)に設定する閾値はゆるく設定しておき、アプリケーション(3)が直接監視装置(1)と通信してアプリケーション(3)が詳細な解析を行うことで「PCアラームB」と「PCアラームC」の切り分けを行うようなことが考えられる。
アプリケーション(3)のアプリケーションロジック(3−3)は、図9で示すシーケンスで一致通知メッセージ(10−2)を受信すると、監視装置(1)にデータ参照メッセージ(11−1)を送信するように構成する。データ参照メッセージ(11−1)は通信制御部(3−1)を介して監視装置(1)に送信される。データ参照メッセージ(11−1)には、一致通知メッセージ(10−2)で通知されたデータ番号と、データの取得の範囲(データ番号の基準データを基準に、その前にサンプリングしたデータと、その後にサンプリングしたデータの範囲)が含まれる。
監視装置(1)は、通信制御部(1−5)経由でアプリケーション(3)からデータ参照メッセージ(11−1)を受信すると、アプリ連携部(1−7)を起動する。
アプリ連携部(1−7)は、データ参照メッセージ(11−1)で指定されたデータ番号と取得範囲に従って、データバッファ(1−6)からサンプリングデータを取り出し、データ参照メッセージ(11−1)の応答メッセージであるデータ参照応答メッセージ(11−2)にサンプリングデータを設定して、通信制御部(1−5)を介して、アプリケーション(3)に送信する。
アプリケーション(3)は、通信制御部(1−3)を介してデータ参照応答メッセージ(11−2)を受信すると、アプリケーションロジック(3−3)を起動する。
アプリケーションロジック(3−3)は、データ参照応答メッセージ(11−2)で通知されたサンプリングデータを、パターンライブラリ(3−4)に設定されたサンプリング条件と共に、データ分析部(3−2)に渡す。
データ分析部(3−2)は、サンプリング条件に従い、サンプリングデータを処理する。処理が終了するとデータ分析部(3−2)は、アプリケーションロジック(3−3)に終了したサンプリングデータを渡す。
アプリケーションロジック(3−3)は、パターンライブラリ(3−4)に登録された基準データとの比較を、閾値を少なく設定することで比較を行う。この実施例の場合では、「PCアラームB」と「PCアラームC」の両方のパターンマッチングを行い、より一致率の高いほうをその音源の種類として特定するようなことも行う。
尚、パターンライブラリ(3−4)に登録するデータは、図7、図8で説明した参照登録、新パターン登録のシーケンスの中で、データ集積装置(2)から送信される登録完了メッセージで、データ集積装置(2)が持つパターンデータの情報を送信するように構成することで、アプリケーションが個別に基準データのテンプレートを作成しなくても済むように構成できる。
音源を特定できない別の理由としては、監視装置(1)の情報収集に関わるパラメータが適切でない場合もある、例えば音源を特定する場合には、マイクの感度が低いことなどが原因となるかもしれない。この場合、マイクの感度を上げることで、音源の特定が可能になる。このようなケースに対応するために、監視装置(1)でバッファリングしているデータだけでは十分な解析ができない場合、アプリケーション(3)は、監視装置(1)に直接サンプリングの指示を行うように構成できる。
アプリケーション(3)は、直接サンプリングを行う必要がある場合、オペレータにGUI画面でそのような動作を実行可能にする機能を提示するか、アプリケーションロジック(3−3)のサービス実行手順の一部として実行するように構成する。
いずれの場合も、アプリケーション(3)のアプリケーションロジック(3−3)は直接サンプリング指示メッセージ(11−3)を生成し、通信制御部(3−1)を介して監視装置(1)に送信する。直接サンプリング指示メッセージ(11−3)には、センサー制御部(1−3)が公開するAPIに関するパラメータが含まれる(例えば、マイク感度)。
監視装置(1)は、通信制御部(1−5)経由でアプリケーション(3)から直接サンプリング指示メッセージ(11−3)を受信すると、アプリ連携部(1−7)を起動する 。
アプリ連携部(1−7)は、直接サンプリング指示メッセージ(11−3)で指定されたパラメータで、センサー制御部(1−3)のAPIを通じて、接続機器の制御を行。
以上の前記実施形態により本発明を説明したが、本発明の技術的範囲は実施形態に記載の範囲には限定されず、これら各実施形態に多様な変更又は改良を加えることが可能である。そして、かような変更又は改良を加えた実施の形態も本発明の技術的範囲に含まれる。このことは、特許請求の範囲及び課題を解決する手段からも明らかなことである。

Claims (16)

  1. センサー機器を用いて環境情報を収集する監視装置と、複数の監視装置と通信インタフェースで接続され、監視装置が送信する環境情報から所望の対象物を抽出するデータ集積装置とで構成されるシステムにおいて、アプリケーションが所望の対象物を指定し、通知を受ける情報選別方法であって、
    前記監視装置で収集された環境情報から対象物を特定するためのデータであるパターンライブラリが前記データ集積装置に登録され、
    前記データ集積装置が、アプリケーションからパターンライブラリの指定を受け、その指定及び当該指定を行ったアプリケーションをアプリケーション管理データとして登録し 、
    前記監視装置が収集した環境情報をデータ集積装置に送信し、
    前記データ集積装置が、前記監視装置で収集された環境情報からアプリケーションにより指定されているパターンライブラリを用いて対象物を検出した場合に、当該対象物を検出するために用いたパターンライブラリを指定したアプリケーションに前記アプリケーション管理データを用いて通知する検出通知ステップとを含む情報選別方法。
  2. 前記パターンライブラリは、パターンライブラリを検索するための検索用メタデータも含み、
    前記データ集積装置は、登録されているパターンライブラリを前記アプリケーションから受け付けた検索用メタデータで検索する検索ステップを含む
    前記請求項1に記載の情報選別方法。
  3. 前記アプリケーションが、前記データ集積装置に新たなパターンライブラリを登録する登録ステップを含む
    前記請求項1または2に記載の情報選別方法。
  4. 前記検出通知ステップでのデータ集積装置からアプリケーションへの通知には当該通知に係る環境情報を収集した監視装置を識別するための監視装置識別情報が含まれ、
    前記アプリケーションは、当該検出通知ステップでのデータ集積装置からの通知に含まれる監視装置識別情報を用いて該当する監視装置と直接通信し、環境情報を収集して詳細解析する詳細解析ステップを含む
    前記請求項1ないし3のいずれかに記載の情報選別方法。
  5. 前記詳細解析ステップは、アプリケーションが、監視装置が制御するセンサー機器を直接制御して環境情報を収集する
    前記請求項4に記載の情報選別方法。
  6. センサー機器を接続し、当該センサー機器から環境情報を収集する監視装置と、複数の当該監視装置と通信インタフェースで接続され、当該監視装置が送信する環境情報から所望の対象物を抽出するデータ集積装置と、所望の対象物を指定して通知を受けるアプリケーションとで構成される情報選別システムであって、
    前記アプリケーションは、前記データ集積装置に対して所望の対象物の通知依頼を行うために所望の対象物を特定するためのデータであるパターンライブラリを指定し、
    前記データ集積装置は、所望の対象物を特定可能なように、対象物毎に対象物を検索するための検索用メタデータ、データを特定するための処理ロジック、当該処理ロジックに関わるパラメータと、当該処理ロジックとパラメータで処理された基準データとを関連付けて前記パターンライブラリとして記録したパターンライブラリデータベースを有し、
    前記監視装置から送信されてきた環境情報を前記パターンライブラリデータベースの処理ロジックで処理して当該パターンライブラリの基準データと比較し、一致した場合に前記アプリケーションに通知する情報選別システム。
  7. 前記アプリケーションが、指定した対象物の検索用メタデータを指定し、
    前記データ集積装置は、当該アプリケーションが指定した検索用メタデータで前記パターンライブラリデータベースを検索し、検索結果をアプリケーションに送信する
    前記請求項6に記載の情報選別システム。
  8. 前記アプリケーションの要求に応じてデータ集積装置が前記アプリケーションで指定された検索用メタデータでパターンライブラリデータベースの検索を行った場合に、検索用メタデータ及び基準データを検索結果としてアプリケーションに送信する
    前記請求項7に記載の情報選別システム。
  9. 前記アプリケーションが、前記データ集積装置に対して検索用メタデータ、対象物特定のための処理ロジック、処理ロジックに関わるパラメータを提示し、
    前記アプリケーションが、ユーザからの監視装置を指定した入力を受け付け、当該監視装置にテストサンプリングの開始を指示し、
    当該テストサンプリングの開始を指示された監視装置が環境情報を収集して前記データ集積装置に送信し、
    当該データ集積装置が受信した環境情報を前記提示された処理ロジックとパラメータで処理して基準データにし、提示された検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータ及び基準データをパターンライブラリとしてパターンライブラリデータベースに登録する
    前記請求項6ないし8のいずれかに記載の情報選別システム。
  10. 前記データ集積装置が、対象物を特定するためにパターンライブラリの基準データとサンプリングデータとの比較時に比較結果のあいまいさを許容する閾値データを使用し、
    アプリケーションがパターンライブラリに前記閾値データを含めて記録する
    前記請求項6ないし9のいずれかに記載の情報選別システム。
  11. 前記アプリケーションは、前記データ集積装置に対して所望の対象物の通知依頼や所望の対象物を特定するためのパターンライブラリの登録を行った際に、当該データ集積装置からデータ集積装置が保持しているパターンライブラリの通知を受け、
    当該アプリケーションが前記監視装置から直接環境情報を取得し、取得した環境情報を通知されたパターンライブラリの処理ロジックと処理ロジックに関わるパラメータで処理してサンプリングデータとし、通知されたパターンライブラリの基準データと比較する
    前記請求項6ないし10のいずれかに記載の情報選別システム。
  12. センサー機器を制御し、音及び/又は映像データを収集する情報収集部と、
    当該環境情報にフィルタ処理を行うフィルタと、
    当該フィルタ処理後の環境情報を一定時間バッファリングするデータバッファと、
    当該データバッファからイベントを生成するイベント生成部と、
    前記センサー機器の制御を行うためのアプリケーションインタフェースを有するセンサー制御部と、
    所望の対象物を指定して通知を受けるアプリケーション及び当該アプリケーションが指定した特定の対象物を環境情報から抽出するデータ集積装置と通信を行うための通信制御部とを有し、
    前記情報収集部がセンサー機器から収集した環境情報に前記フィルタを適用して前記データバッファに格納し、
    前記イベント生成部がサンプリングデータを周期的にイベントデータとして前記データ集積装置に送信する監視装置。
  13. 前記外部のアプリケーションに対して、制御インタフェースを提供するアプリ連携部を有し、
    当該アプリ連携部を介して前記アプリケーションからの要請により当該アプリケーションに前記データバッファに格納されている情報の通知を行う
    前記請求項12に記載の監視装置。
  14. 前記アプリケーションからの指示により前記センサー機器の制御を変更する
    前記請求項12または13に記載の監視装置。
  15. センサー機器を用いて環境情報を収集する監視装置及び所望の対象物を指定して通知を受けるアプリケーションと通信を行うための通信制御部と、
    前記アプリケーションからの対象物を特定するためのデータであるパターンライブラリの検索、パターンライブラリの新たな登録の依頼を処理するアプリケーション管理部と、 所望の対象物を指定したアプリケーションに通知するための情報を記録するアプリケーション管理データと、
    前記監視装置から送信されてくる環境情報をバッファリングするデータバッファと、
    対象物を特定するための検索用メタデータ、処理ロジック、処理ロジックに関わるパラメータ及び基準データを格納するパターンライブラリと、
    周期的に前記データバッファから環境情報を取り出し、取り出した環境情報に処理ロジックを適用してサンプリングデータとし、当該パターンライブラリの基準データと比較するスケジューラを有し、
    前記アプリケーションからのパターンライブラリの指定に従って、前記監視装置から送信される環境情報のサンプリングデータとパターンライブラリの基準データを比較し、一致した場合当該パターンライブラリを指定したアプリケーションに前記アプリケーション管理データに記録した情報を用いて通知するデータ集積装置。
  16. センサー機器を用いて環境情報を収集する監視装置及びサンプリングデータとするための処理ロジック及び基準データを含むパターンライブラリを用いて当該監視装置が収集した環境情報をサンプリングデータとし、前記パターンライブラリの基準データと比較することで環境情報から所望の対象物を抽出するデータ集積装置のアプリケーションインタフェースと通信を行うための通信制御部と、
    前記アプリケーションインタフェースを起動するためのGUI画面を生成し、前記データ集積装置から前記サンプリングデータの一致通知があった場合に、所定のアクションを実行するアプリケーションロジックと、
    前記監視装置から直接環境情報を収集し、前記データ集積装置から取得したパターンライブラリを用いて直接収集した環境情報をサンプリングデータとするデータ分析部とを有するアプリケーション。
JP2009504968A 2007-03-16 2007-03-16 情報選別方法、そのシステム、監視装置及びデータ集積装置 Expired - Fee Related JP4531112B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2007/055449 WO2008114368A1 (ja) 2007-03-16 2007-03-16 情報選別方法、そのシステム、監視装置及びデータ集積装置

Publications (2)

Publication Number Publication Date
JPWO2008114368A1 JPWO2008114368A1 (ja) 2010-06-24
JP4531112B2 true JP4531112B2 (ja) 2010-08-25

Family

ID=39765490

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009504968A Expired - Fee Related JP4531112B2 (ja) 2007-03-16 2007-03-16 情報選別方法、そのシステム、監視装置及びデータ集積装置

Country Status (3)

Country Link
US (1) US20090309728A1 (ja)
JP (1) JP4531112B2 (ja)
WO (1) WO2008114368A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101475571B1 (ko) * 2012-11-28 2014-12-22 엘에스산전 주식회사 감시 제어 장치에서 데이터 처리를 위한 장치 및 방법

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2466242B (en) * 2008-12-15 2013-01-02 Audio Analytic Ltd Sound identification systems
US8276159B2 (en) * 2009-09-23 2012-09-25 Microsoft Corporation Message communication of sensor and other data
CN103123690B (zh) * 2011-11-21 2017-02-22 中兴通讯股份有限公司 信息采集装置和方法以及身份识别系统和方法
US9710708B1 (en) * 2014-03-24 2017-07-18 Vecna Technologies, Inc. Method and apparatus for autonomously recognizing at least one object in an image
US9602589B1 (en) * 2014-08-07 2017-03-21 Google Inc. Systems and methods for determining room types for regions of a map
CN104536966B (zh) * 2014-11-28 2018-01-12 广州华多网络科技有限公司 数据上传方法、数据接收方法、客户端及服务器
SE542151C2 (en) 2017-06-13 2020-03-03 Minut Ab Methods and devices for obtaining an event designation based on audio data and non-audio data
CN112086106B (zh) * 2020-08-11 2024-03-22 北京声智科技有限公司 测试场景对齐方法、装置、介质和设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0688373A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 下水処理施設群管理システム
JP2002181618A (ja) * 2000-12-18 2002-06-26 Hitachi Ltd 漁場監視装置
JP2002279540A (ja) * 2001-03-16 2002-09-27 Victor Co Of Japan Ltd 画像監視システム及びネットワークを用いた画像監視システム
JP2003187248A (ja) * 2001-12-21 2003-07-04 Mitsubishi Electric Corp 画像処理システムおよび画像処理装置
JP2005134941A (ja) * 2003-10-28 2005-05-26 Matsushita Electric Works Ltd 緊急車両の走行支援システム
JP2006148357A (ja) * 2004-11-17 2006-06-08 Yamaha Corp 位置検出システム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2800531B2 (ja) * 1992-02-28 1998-09-21 三菱電機株式会社 車両用障害物検出装置
DE69322306T2 (de) * 1992-04-24 1999-04-29 Hitachi, Ltd., Tokio/Tokyo Gegenstandserkennungssystem mittels Bildverarbeitung
US5565870A (en) * 1993-06-28 1996-10-15 Nissan Motor Co., Ltd. Radar apparatus with determination of presence of target reflections
JP3369368B2 (ja) * 1995-10-11 2003-01-20 富士通株式会社 画像処理装置
US6970236B1 (en) * 2002-08-19 2005-11-29 Jds Uniphase Corporation Methods and systems for verification of interference devices
JP2006033793A (ja) * 2004-06-14 2006-02-02 Victor Co Of Japan Ltd 追尾映像再生装置
KR100806860B1 (ko) * 2005-05-13 2008-02-22 삼성전자주식회사 Ranging 시스템 및 그 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0688373A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 下水処理施設群管理システム
JP2002181618A (ja) * 2000-12-18 2002-06-26 Hitachi Ltd 漁場監視装置
JP2002279540A (ja) * 2001-03-16 2002-09-27 Victor Co Of Japan Ltd 画像監視システム及びネットワークを用いた画像監視システム
JP2003187248A (ja) * 2001-12-21 2003-07-04 Mitsubishi Electric Corp 画像処理システムおよび画像処理装置
JP2005134941A (ja) * 2003-10-28 2005-05-26 Matsushita Electric Works Ltd 緊急車両の走行支援システム
JP2006148357A (ja) * 2004-11-17 2006-06-08 Yamaha Corp 位置検出システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101475571B1 (ko) * 2012-11-28 2014-12-22 엘에스산전 주식회사 감시 제어 장치에서 데이터 처리를 위한 장치 및 방법

Also Published As

Publication number Publication date
WO2008114368A1 (ja) 2008-09-25
JPWO2008114368A1 (ja) 2010-06-24
US20090309728A1 (en) 2009-12-17

Similar Documents

Publication Publication Date Title
JP4531112B2 (ja) 情報選別方法、そのシステム、監視装置及びデータ集積装置
EP3591648B1 (en) Information processing apparatus, information processing method, and program
JP6135880B2 (ja) 音声処理方法、音声処理システム、及び記憶媒体
US10866950B2 (en) Method and system for modifying a search request corresponding to a person, object, or entity (POE) of interest
CN105278380B (zh) 智能设备的控制方法和装置
WO2012142797A1 (zh) 一种视频监控系统及方法
CN109492073A (zh) 日志搜索方法、日志搜索装置和计算机可读存储介质
CN105869230A (zh) 视频数据的管理方法、装置、终端及服务器
EP2060062A1 (en) Usn middleware apparatus and method for generating information based on data from heterogeneous sensor networks and information service providing system using the same
KR20030029265A (ko) 원격 제어 관리 시스템
WO2021167374A1 (ko) 영상 검색 장치 및 이를 포함하는 네트워크 감시 카메라 시스템
WO2021029653A1 (ko) 박쥐의 전시 관람 시스템 및 그 방법
US11521626B2 (en) Device, system and method for identifying a scene based on an ordered sequence of sounds captured in an environment
CN105898219A (zh) 对象监控方法及装置
JP7027601B2 (ja) ロボット制御装置、ロボット制御方法及びロボット
CN109905423A (zh) 一种智能管理系统
CN112567400A (zh) 信息处理装置、信息处理方法和作业评估系统
KR20120054971A (ko) 네트워크 카메라 및 이를 이용한 대상 추적 방법
WO2017069502A1 (ko) 디스플레이 장치, 그의 통합 리모컨 설정 방법 및 시스템
JP6806148B2 (ja) 作業時間分析システム、作業時間分析プログラム、及び作業時間分析方法
WO2021172943A1 (ko) 영상 검색 장치 및 이를 포함하는 네트워크 감시 카메라 시스템
WO2021186692A1 (ja) Ai制御装置、ai制御装置に接続されるサーバー装置、及びai制御方法
JP2013225248A (ja) 音識別システム、音識別装置、音識別方法およびプログラム
CN114202738A (zh) 基于边缘计算和人工智能的电网监拍方法、装置及设备
KR101529286B1 (ko) 네트워크 카메라 감시 시스템

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100608

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130618

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees