JP6203424B2 - 映像音声記録装置および監視システム - Google Patents
映像音声記録装置および監視システム Download PDFInfo
- Publication number
- JP6203424B2 JP6203424B2 JP2016556420A JP2016556420A JP6203424B2 JP 6203424 B2 JP6203424 B2 JP 6203424B2 JP 2016556420 A JP2016556420 A JP 2016556420A JP 2016556420 A JP2016556420 A JP 2016556420A JP 6203424 B2 JP6203424 B2 JP 6203424B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- recording
- search
- metadata
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/915—Television signal processing therefor for field- or frame-skip recording or reproducing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Television Signal Processing For Recording (AREA)
Description
また、近年においてはクラウドサービスを提供するにあたり、映像データや音声データなどの膨大なデータの中から所望のデータの検索を、効率よく行わなくてはいけないという課題がある。
また、映像・音声データを記録する過程において、事前に判別条件として登録していたパラメータに基づく解析結果をメタデータとして映像データとともに蓄積または他のサーバにて管理を行い、検索効率の改善を行う監視システムが開示されている(例えば、特許文献2・特許文献3参照)。
また、映像データや音声データの効率的な検索のために、上位の階層レベルで全体の概略に関する検索情報を設定し、下位になる程、詳細な検索情報を設定する技術、および、検索情報の種別ごとにまとめる技術が開示されている(例えば、特許文献4参照)。
また、メタデータを利用した画像の抽出方法について、メタデータの属性情報からユーザの利用傾向などを加味した検索結果の表示をする技術が開示されている(例えば、特許文献5)。
実施の形態1.
ここで実施の形態1にて解決する課題について再度説明する。
特許文献1に開示されているような技術では、時刻情報やアラームの発生情報等から映像・音声データを再生するのに階層型にデータ管理ができるが、事前に登録していない情報を検索しようとすると、メタデータのような情報がないため、アラーム等のイベント有無以外の多値データを抽出出来ないことに加え、古いデータを削除するため、映像・音声データの再解析も不可能であるという課題があった。
また、特許文献2,3に開示されているような監視システムにおいては、映像・音声データの記録とともに検索用のパラメータをメタデータとして管理し、ユーザが必要とされるデータについて記録時に独自のアルゴリズムを用いて判別して、映像・音声データを抽出しているが、管理しているメタデータは固定された区分別の判別結果のみであるため、ユーザが抽出条件のパラメータを変更しようとすると、映像・音声データを再度データ解析しなくてはいけないという課題があった。また、特許文献2,3に開示されているような監視システムにおいては、不要なデータを削除はしないものの、階層構造等でデータ管理を行うような工夫はないため、検索が非効率となるという課題があった。
特に、特許文献4については、検索情報の種別ごと、すなわち、メタデータの識別単位ごとにまとめたデータを管理し、検索情報の種別ごとに検索場所が特定できるようにしているが、全ての階層における検索情報の種別についてまとめた情報を持つ必要があるため、データ量が大きくなり、必ずしも検索効率があがるとはいえないという課題があった。
図1に示すように、映像・音声監視システムは、カメラ1と、映像・音声記録装置2と、映像・音声制御装置3と、アラーム通知装置4とが同一ネットワーク上に構成されたシステムである。
なお、図1では、カメラ1は3台としているが、これに限らず、1台以上であればよい。また、図1では、映像・音声記録装置2と、映像・音声制御装置3はそれぞれ1台としているが、これに限らず、1台以上であればよい。また、図1では、アラーム通知装置4は1台としているが、アラーム通知装置4を備えない構成としてもよいし、2台以上備えるものとしてもよい。
ここで、図2は、カメラ1の構成を説明する図である。
カメラ1は、映像データ作成部13のメタデータ作成部132において、映像に関するメタデータ(1)を作成する。メタデータ作成部132は、顔検出部1321と、動きベクトル検出部1322と、物体検出部1323と、天候検出部1324と、特徴量検出部1325と備え、各検出部1321〜1325において、撮像データから予め決められた、顔、動きベクトル、物体、天候などに関する特徴を検出し、メタデータ(1)を作成する。
映像符号化処理部131は、撮像された映像データの符号化処理を行う。
映像処理部11は、映像符号化処理部131で符号化された映像データと、メタデータ作成部132で作成された映像に関するメタデータ(1)とを、ネットワークに配信する。
また、カメラ1は、音声データ作成部14のメタデータ作成部142において、音声に関するメタデータを作成する。メタデータ作成部142は、音声特徴量検出部1421を備え、音声特徴量検出部1421において、撮像データから予め決められた音声に関する特徴を検出し、音声に関するメタデータ(1)を作成する。
音声符号化処理部141は、撮像データ中の音声データの符号化処理を行う。
音声処理部12は、音声符号化処理部141で符号化された音声データと、メタデータ作成部142で作成された音声に関するメタデータ(1)とを、ネットワークに配信する。
また、映像・音声制御装置3は、ユーザから、入力部(図示を省略する)を介して映像・音声データの検索要求を受け付け、映像・音声記録装置2に、記録された映像・音声データの検索要求を行い、映像・音声記録装置2から受信した検索結果を表示部(図示を省略する)に表示する。また、映像・音声制御装置3では、映像・音声記録装置2に記録するメタデータの設定を行うこともできる。なお、ユーザから入力される映像・音声データの検索要求とは、具体的には、当該映像・音声データに関するメタデータの識別単位と、メタデータの値に基づくものである。
図3に示すように、映像・音声記録装置2は、データ検索制御部21と、データ記録制御部22と、記録部23とを備える。
データ検索制御部21は、要求制御部211と、データ検索部212と、データ配信部213とを備え、要求制御部211は、映像・音声制御装置3からの映像・音声データの検索要求を受け付ける。映像・音声データの検索要求とは、メタデータの種類と、メタデータの値を送信することで行われ、要求制御部211は、当該メタデータの種類とメタデータの値とを受信する。
データ検索部212は、要求制御部211が受け付けたメタデータの識別単位と、メタデータの値とに基づき、記録部23に記録している検索用記録データの検索を行い、検索要求に応じた映像・音声データの抽出を行う。また、データ配信部213は、データ検索部212が抽出した映像・音声データの配信を行う。データ配信部213は、抽出した映像・音声データを一覧表示するサムネイル画像や時刻情報、メタ情報などの表示用データを作成するようにすることもできる。
データ記録制御部22は、作成した検索用記録データを記録部23に記録させる。
以下、メタデータ(1)とメタデータ(2)を総称してメタデータという。
なお、ここでは、記録部23は、映像・音声記録装置2が備えるものとしたが、これに限らず、映像・音声記録装置2の外部に備えるものとしてもよい。
検索用記録データは、図4に示すような、多層的な木構造で作成され、各層でグループ化され管理されている。
ここでは、一例として、図4に示すように、検索用記録データは3層(Layer1〜3)の木構造で作成され、最下層のLayer1には16のグループがあり、Layer2には、Layer1の4グループをそれぞれ管理するグループが4つあり、最上層のLayer3は、Layer2の4グループを管理するものとしている。
Layer2=16/4=4(Layer2は4個のグループがある)
Layer3=4/4=1(Layer3は1個のグループがある)
なお、階層の深さ(Layer)の数の上限については特に設けず、データ量に応じて増減させることができるものとする。
まず、Layer1、すなわち、最下層の各グループのデータ構造について説明する。
図7は、Layer1のグループのデータ構造を説明する図である。
図7に示すように、Layer1のグループは、グループ管理テーブル(グループID、開始時刻、終了時刻、前グループID、後グループID、メタ情報用管理テーブル#1〜#k、映像・音声データ管理テーブル)と、記録データ#1〜nとから構成される。
記録データは、カメラ1等から受け付けるデータ(映像・音声データ、メタデータ)であり、時刻Tnごとに記録できるデータの最小単位である。この記録データは記録デバイス(記録部23)への書き込み単位として定めたX byte以内の複数の記録データ(#1〜n)を1つのグループとしてまとめて管理される。
この記録データのまとまりに、グループ管理テーブルを付加したデータのまとまりを、Layer1のグループと呼ぶ。
記録データは、時刻Tnごとに記録でき、図8に示すように、記録時刻Tnと、メタ情報と、記録用映像・音声データとから構成される。
図9は、メタ情報の構成を説明する図であり、図10は、記録用映像・音声データの構成を説明する図である。
図9に示すように、メタ情報は、メタデータと検索情報とから構成される。なお、メタデータは、一つもしくは複数のパラメータで構成されている。
図11に示すように、メタ情報用管理テーブル内には、メタデータ識別単位と、メタ情報記録位置を示す記録開始時刻・終了時刻と、判別パラメータにより一次抽出された抽出データ開始・終了時刻と、記録開始・終了アドレスまたはIDと、抽出データ開始アドレスまたはIDとが格納されている。なお、判別パラメータによる一次抽出とは、検索用記録データを作成する際に、メタデータが判別パラメータ(閾値)により定められた条件を満たすかどうかを判定し、条件を満たす場合に、当該条件を満たす記録データの情報を有するメタ情報用管理テーブルを作成することを言うが、詳細については後述する。
映像・音声データ管理テーブルは、グループ内の記録データの開始と終了の情報を管理するためのものであり、開始・終了時刻と、開始・終了アドレスまたはIDとが格納されている。なお、データ位置が一意になることが確立していれば、時刻か、アドレスまたはIDのうちどちらか一方で管理するようにしても構わない。
図13は、Layer2,3のグループのデータ構造を説明する図である。
図13において、図7を用いて説明したものと同様のデータ構造については、重複した説明を省略する。
図7で説明したLayer1のグループのデータ構造と、図13に示すLayer(n)のグループのデータ構造との差異は、Layer1が記録データとしてメタ情報と記録用映像・音声データを格納していたのに対し、Layer(n)は、下位LayerのグループIDを管理することが相違するのみである。Layer(n)のデータは、グループ管理テーブルとLayer n−1のグループIDとから構成され、グループ管理テーブルは、配下のLayer n−1のグループ管理テーブルをまとめて管理するための情報を有している。
映像・音声記録装置2は、カメラ1が配信した映像・音声データ、メタデータ(1)と、アラーム通知装置4が配信したメタデータ(2)とから、検索用記録データを作成し、常時記録、または、アラーム等の記録イベントがあった場合に記録するデータ記録制御の機能と、映像・音声制御装置3からの映像・音声データの検索要求に基づき、記録している検索用記録データの検索を行い、検索の結果抽出した映像・音声データを配信するデータ検索制御の機能を持つものであるが、まず、データ記録制御の機能から説明する。なお、データ記録制御は、映像・音声記録装置2のデータ記録制御部22が行う。
図14は、この発明の実施の形態1に係る映像・音声記録装置2のデータ記録制御部22によるデータ記録制御の動作を説明する図である。
データ記録制御部22は、まず、最下層、すなわち、Layer1のデータの編集を行い(ステップST141)、ステップST141において編集したLayer1のデータを管理する上位層のLayer(n)のデータの編集を行う(ステップST142)ことで、記録部23で記録する検索用記録データの作成を行っていく。なお、上位層のデータは、Layer1のグループを記録部23に書き込むタイミングでLayer2→Layer3・・・と更新される。すなわち、Layer1のグループを記録部23に書き込むタイミングでステップST142の処理に進む。以下、ステップST141,ステップST142の処理について詳細に説明する。
データ受信部221は、カメラ1、または、アラーム通知装置4から、ネットワークを介して映像・音声データおよびメタデータを受信し、メタデータと映像・音声データとを分離する(ステップST151)。カメラ1またはアラーム通知装置4からの映像・音声データ、メタデータは、IPパケット単位に分割して配信される。データ受信部221は、IPパケット単位の映像・音声データ、メタデータを受信し、結合して1フレーム(または1GOP)分の映像データ、音声データ、メタデータを作成した上で、映像・音声データとメタ情報とに振り分ける。
なお、分離されたメタデータは、この後の処理で、記録データ(図8参照)のメタ情報に格納されるメタデータ(図9参照)として編集され、映像・音声データは、この後の処理で、記録データの記録用映像・音声データに格納される映像・音声データ(図10参照)として編集される。
また、カメラ1とアラーム通知装置4とから、メタデータが送信されていない場合は、データ受信部221がカメラ1、または、アラーム通知装置4から受信した映像データと音声データとに基づいて、メタデータ生成部222が、メタデータを作成するようにすることもできる。あるいは、カメラ1とアラーム通知装置4とから、メタデータが送信された場合も、カメラ1とアラーム通知装置4とから送信されたメタデータに加えて、メタデータ生成部222が、カメラ1、または、アラーム通知装置4から受信した映像データと音声データとに基づいて、メタデータを作成するようにすることもできる。
図16は、図15のステップST152の動作を詳細に説明するフローチャートである。以下、図15のステップST152の動作について、図16に沿って説明する。
データ記録処理部223は、映像・音声記録装置2の記憶バッファにおけるLayer1の同一グループのバッファ内のデータに、カメラ1またはアラーム通知装置4から受信した(図15のステップST151参照)受信データに基づき作成された記録データを加算したデータ量が、同一グループの記憶容量の上限を超えているかどうかを判定する(ステップST1601)。
映像・音声記録装置2では、受信データに基づき作成された記録データが同一グループの記録データとして収録可能である間は、記録バッファに、記録データを溜め込み、記録バッファ上のデータが、記録データの上限を超えるため収録できないと判断すると、それまでに出来上がったグループのデータ、すなわち、これ以上記録データを収録できない、グループ管理データと記録データ#1〜#nのデータ(図7参照)のまとまりをHDD等の記録媒体である記録部23に書き込む。
そこで、このステップST1601においては、図15のステップST151で受信した受信データに基づき作成された記録データが、記録バッファ内の同一グループの記録データとしてまだ記録できるかどうかを判定する。
データ記録処理部223は、記録データの記録用映像・音声データに格納している前方向記録時刻Tn−1(図10参照)に、内部的に保持している、前回カメラ1またはアラーム通知装置4からデータを受信した受信時刻を編集する(ステップST1604)。なお、Layer1の最初のグループの最初の記録データを記録する際は、前回の受信データが存在しないので、前方向記録時刻Tn−1には何も編集しない。
データ記録処理部223は、記録バッファで編集した前回受信分までの受信データのグループ管理テーブルと記録データ#1〜nとを、グループ単位で記録部23に書き込む(ステップST1612)。
そして、図19へ進む。
図19では、上位層、すなわち、Layer2以上の層のグループ管理テーブルの編集を行うが、詳細については後述する。
図15のステップST152で、記録データの編集が終わると、次に、データ記録処理部223は、グループ管理テーブルのグループ関連項目(開始時刻、終了時刻、前グループID)と、映像・音声データ管理テーブルの編集を行う(ステップST153)。なお、グループ関連項目のグループIDは、初期化処理において機器をデータフォーマットする際にユニークに割り付けられるためここでは編集しない。また、後グループIDについては、グループ内の全ての記録データが編集されたとき、すなわち、これ以上同一グループ内に記録データが編集できないとして次のグループへ移った際に編集するので(図16のステップST1611参照)、ここでは編集しない。
データ記録処理部223は、グループ管理テーブル(図7参照)の終了時刻に、図15のステップST151でカメラ1またはアラーム通知装置4から受信データを受信した受信時刻を編集する(ステップST1701)。
データ記録処理部223は、映像・音声データ管理テーブルの終了アドレスまたはID(図12参照)に、現在のアドレスまたはIDを編集する(ステップST1703)。
ステップST1704において、グループ管理テーブルの開始時刻が設定されている場合(ステップST1704の“YES”の場合)、以降の処理はスキップし、図17の処理を終える。
データ記録処理部223は、映像・音声データ管理テーブルの開始アドレスまたはIDに現在のアドレスまたはIDを編集する(ステップST1706)。
データ記録処理部223は、グループ管理テーブルの前グループID(図7参照)に、内部保持している前グループのグループIDを編集し(ステップST1708)、メタ情報用管理テーブル編集の処理(図15のステップST154)へと進む。なお、Layer1の最初のグループを記録する際は、前グループが存在しないので、前グループIDには何も編集しない。
図15のステップST153で、グループ管理テーブルのグループ関連項目(開始時刻、終了時刻、前グループID)と、映像・音声データ管理テーブルの編集が終わると、データ記録処理部223は、グループ管理テーブルのメタ情報用管理テーブルの編集を行う(ステップST154)。
なお、図18の処理は、図15のステップST151でカメラ1またはアラーム通知装置4から受信した受信データに対して、メタ情報用管理テーブル#1〜#kの数だけ繰り返される。すなわち、予め設定された、メタデータの識別単位ごとに判別パラメータ(閾値)に基づく判定を行い、メタデータに関する情報を編集していく。なお、メタ情報用管理テーブル#1〜#kのメタデータ識別単位には、メタデータの識別単位(例えば、顔識別結果や音声認識結果)が設定されており、これによって、検索対象となる識別単位を識別することができ、当該メタ情報用管理テーブルによって関連付けられた記録データのメタ情報に格納されているメタデータを特定することができる。
また、判別パラメータの設定は、GUI(Graphical User Interface)もしくは外部の設定ファイルにて行うなど、適宜設定可能とする。また、判別パラメータ(閾値)については、記録途中において追加および値の変更を行ってもよいものとする。
データ記録処理部223は、メタ情報用管理テーブルの記録終了アドレスまたはID(図11参照)に、現在のアドレスまたはIDを編集する(ステップST1802)。
ステップST1803において、記録開始時刻が設定されている場合(ステップST1803の“YES”の場合)、ステップST1806へ進む。
データ記録処理部223は、メタ情報用管理テーブルの記録開始アドレスまたはIDに、現在のアドレスまたはIDを編集する(ステップST1805)。
ここで、メタデータと判別パラメータの例を以下に示す。
例えば、メタデータが「動きベクトル」である場合、判別パラメータは「動きベクトルの大きさ」、「閾値=3」というように設定できる。また、メタデータが「動きベクトル」である場合、判別パラメータを「動きベクトルの向き」、「閾値=右」と設定することもできる。
また、例えば、メタデータが「顔識別結果(値としては顔の数)」である場合、判別パラメータは「顔の数」、「閾値=3」、あるいは「顔の数=50」というように設定できる。
また、メタデータが「音の大きさ」である場合、判別パラメータは「音の大きさ」、「閾値=2」と設定できる。
また、メタデータが「POS情報」である場合、判別パラメータは「POS情報の有無」、「閾値=有」と設定できる。
また、メタデータが「POS情報中の購入金額」である場合、判別パラメータは「購入金額」、「閾値=1000」と設定できる。
また、メタデータが「音認識結果」である場合、判別パラメータは「言語」、「閾値=日本語」と設定できる。
一方大きい部屋の混雑している画像の抽出であれば、例えば判別パラメータは「顔の数=50」とすれば、後の検索の際の設定される検索条件の閾値が「50」以上であれば、判別パラメータを効果的に用いた検索が可能となる。
メタデータだけでなく、この判別パラメータを設定し、判別パラメータを満たしているデータの管理をメタ情報用管理テーブルで実施することが本実施の形態の特徴の一つである。先行技術とは、この判別パラメータを持つ点において異なり、この特徴にて、より効率的な検索が可能となる。
データ記録処理部223は、該当のメタ情報用管理テーブルの抽出データ終了アドレスまたはIDに、現在のアドレスまたはIDを編集する(ステップST1809)。
データ記録処理部223は、該当のメタ情報用管理テーブルの抽出データ開始アドレスまたはIDが設定されているかどうかを判定する(ステップST1810)。
ステップST1810において、抽出開始アドレスまたはIDが設定されていない場合(ステップST1810の“NO”の場合)、データ記録処理部223は、該当のメタ情報用管理テーブルの抽出データ開始時刻に、図15のステップST151でカメラ1またはアラーム通知装置4から受信データを受信した受信時刻を編集する(ステップST1811)。
データ記録処理部223は、該当のメタ情報用管理テーブルの抽出データ開始アドレスまたはIDに、現在のアドレスまたはIDを編集し(ステップST1812)、ステップST1801に戻って次の識別単位のメタ情報用管理テーブルの編集を行う。
また、ステップST1810において、抽出開始アドレスまたはIDが設定されている場合(ステップST1810の“YES”の場合)は、ステップST1811,1812の処理をスキップし、ステップST1801に戻って次の識別単位のメタ情報用管理テーブルの編集を行う。
ステップST154において、メタ情報用管理テーブルが編集されると、ステップST151に戻り、カメラ1またはアラーム通知装置4から新たにデータを受信し、受信したデータに基づき、グループ管理テーブルおよび記録データの編集を行う。
以上の処理を繰り返し、同一グループ内にこれ以上記録データが記録できなくなると(図16のステップST1601,1610〜1612参照)、データ記録処理部223は、上位層、すなわち、Layer2以上の層のグループ管理テーブルの編集を行う。
すなわち、図14のステップST141の処理を終え、ステップST142の処理へと移る。
なお、Layer2以上のグループのレイアウトは、図13で説明したとおりである。
図19の処理は、Layer(n)、つまり、Layer2から最上位のLayerの編集を終えるまで、繰り返される。
データ記録処理部223は、Layer(n)の映像・音声データ管理テーブルの編集を行う(ステップST191)。
データ記録処理部223は、Layer(n)のグループIDを算出する(ステップST2001)。なお、Layer(n)のグループIDは、初期化処理で機器をデータフォーマットする際にユニークに割り付けられており、Layer(n)のグループがいくつ存在するか、各Layerの1ノードで下位ノードをいくつ管理しているかは予め割り振りされているので、編集を終了した1つ下の下位のLayerのグループIDから、Layer(n)のグループIDを特定することができる。
また、図19のフローでは記載を省略しているが、データ記録処理部223は、Layer(n)のLayer(n−1)グループ#1〜#mには、編集を終了した1つ下の下位のLayerのグループIDを順次編集する。
ステップST2006において、Layer(n)の上記映像・音声データ管理テーブルの開始アドレスまたはIDが設定されていなかった場合(ステップST2006の“NO”の場合)、データ記録処理部223は、Layer(n)の現在編集対象となっているグループにおける映像・音声データ管理テーブルの開始時刻(図12参照)に、図15のステップST151でカメラ1またはアラーム通知装置4から受信データを受信した受信時刻を編集する(ステップST2007)。例えば、Layer2の編集を行っていたとすると、このときの受信時刻は、Layer1において、グループが変わる直前、すなわち、図16のステップST1612においてグループ単位で記録部23に書き込んだグループの、最初の記録データを受信したときの受信時刻である。
ステップST2006において、Layer(n)の現在編集対象となっているグループにおける映像・音声データ管理テーブルの開始アドレスまたはIDが設定されていた場合(ステップST2006の“YES”の場合)、ステップST2007〜ステップST2010の処理をスキップする。
図19のステップST191で、グループ管理テーブルのグループ関連項目(開始時刻、終了時刻、前グループID)と、映像・音声データ管理テーブルの編集が終わると、データ記録処理部223は、グループ管理テーブルのメタ情報用管理テーブルの編集を行う(ステップST192)。
図21の処理は、一つ下の階層のグループのデータに対して、メタ情報用管理テーブル#1〜kの数だけ繰り返される。すなわち、予め設定された、メタデータの識別単位ごとにメタデータに関する情報を編集していく。
データ記録処理部223は、上記グループ管理テーブルのメタ情報用管理テーブルの記録開始アドレスまたはIDが設定されているかどうかを判定する(ステップST2105)。
ステップST192において、上位層のメタ情報用管理テーブルの編集が終わると、データ記録処理部223は、Layer(n)のグループが終了したかどうかを判定する(ステップST193)。すなわち、Layer(n)に収録できる一つ下層のLayerのグループに関する情報の編集が終わったかどうか、つまり、これ以上同一グループへの編集ができなくなったかどうかを判定する。なお、各Layerの1ノードで下位ノードをいくつ管理しているかは予め割り振りされているので、Layer(n)が、いくつのLayer(n−1)のグループのデータを編集したかによって、データ記録処理部223は、これ以上同一グループへの編集ができなくなったかどうかを判断することができる。
ステップST193において、グループが終了していないと判断した場合(ステップST193の“NO”の場合)、ステップST194の処理はスキップされる。
ユーザが、映像・音声制御装置3からGUIを介して映像再生やデータ抽出の検索条件を入力すると、すなわち、ユーザが、映像・音声制御装置3から映像・音声データの検索要求を行うと、要求制御部211は、ユーザが入力した検索条件を受け付ける(ステップST2201)。なお、映像・音声データの検索要求は、具体的には、ユーザが、映像・音声制御装置3からメタデータの識別単位とメタデータの値とを検索条件として入力することで行われる。
検索条件の入力は、ユーザによって映像・音声制御装置3から入力されることに限らず、映像・音声記録装置2に内蔵している映像・音声制御部(図示を省略する)のGUIを介して入力するものであってもよい。
ステップST2202において、要求制御部211が受け付けた識別単位のメタデータの値が、検索用記録データの作成において判別パラメータ(閾値)により定められた条件を満たすと判断した値であった場合(ステップST2202の“YES”の場合)、データ検索部212は、最上位のLayerから順にグループ管理テーブルの、該当のメタデータ識別単位のメタ情報用管理テーブルの抽出データ開始アドレスまたはIDを参照し、データ検索の開始位置と終了位置を特定する(ステップST2203)。なお、ここで、データ検索の開始位置と終了位置とは、データ検索の開始グループと終了グループのことであり、データ検索の対象となる、すなわち、判別パラメータを満たしているメタデータが格納されている最下位層の最初のグループと最後のグループのことをいう。
なお、ステップST2206〜ステップST2208の処理は、従来どおりの全メタデータの条件探索である。あるいは、一次抽出対象データ、すなわち検索用記録データの作成において、判別パラメータ(閾値)により定められた条件を満たすと判断した記録データを除いた記録データを検索してもよい。
図23は、判別パラメータ(閾値)により定められた条件の一つを「顔があること」として作成した、管理領域が3層構造となっている検索用記録データの一例を説明する図である。
ここでは、映像・音声記録装置2は、カメラ1、または、アラーム通知装置4から映像・音声データとメタデータとを受信し、図23に示すように、3層構造(Layer1〜3)となっている検索用記録データを記録部23に記録しており、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件を、顔があること、すなわち、顔が1以上であることとして一次抽出対象データの判定を行ったものとし、ユーザからの「顔があること」という検索条件を受け付けて、検索用記録データから、顔のある(顔が1個以上)データを検索するものとして以下説明する。
なお、図23は、3層構造を説明するものであり、それぞれのデータ内容の詳細については図示を省略し、簡略化して示している。
続いて、データ検索部212は、まず、開始位置であるLayer1のID5の、判断条件「顔」に関するメタ情報用管理テーブルを参照すると、図24の内容から、抽出データ開始時刻,抽出データ終了時刻がともにT54となっており、記録時刻T54の記録データに顔関連のデータがあることがわかる。そこで、記録時刻T54の記録データの記録用映像・音声データを抽出する。
データ検索部212は、記録時刻T54の記録データから、検索条件が「閾値満」となっている、顔の数が1のメタデータに対応づけられた映像・音声データ(顔あり(1人)映像データ)を抽出する。なお、ここでは、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件と、ユーザからの検索条件が、ともに「顔があること」であるので、検索条件が「閾値満」となっていれば、検索条件に合致するメタデータであると判断できる。
記録時刻T63まで参照すると、データ検索の終了位置なので、ここで検索を終了する。(ステップST2204〜ステップST2205)
つまり、ここでは、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件を、顔があること、すなわち、顔が1以上であることとして一次抽出対象データの判定を行ったので、顔の数が1以上という検索条件であれば、記録データのメタ情報に格納された検索情報が「閾値満」となっているメタデータが全て検索条件に該当するものとなり、当該メタデータに関連付けられた映像・音声データを抽出したが、例えば、同じように、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件を、顔があることとして一次抽出対象データの判定を行った検索用記録データから、検索条件を、顔の数が5以上であることとして、映像・音声データの検索を行った場合は、記録データのメタ情報に格納されている検索情報が「閾値満」となっているメタデータを参照し、当該メタデータに含まれる顔の数を抽出して、検索条件(顔の数が5以上)に該当するメタデータであるかどうかを判断し、検索条件に該当するメタデータであった場合、当該メタデータに対応付けられた映像・音声データが、検索条件に合致する映像・音声データであると特定し、当該特定した映像・音声データを抽出することができる。
このように、検索条件の詳細なケースを想定しても、顔のない領域を読み飛ばし、顔情報のある位置で条件に合うものを検索することが可能となり、効率的な検索が行える。
実施の形態1においては、図26に示すようなデータ検索を行っていた。すなわち、例えば、Layer(n)において、データ抽出開始IDがLayer(n−1)のID1、データ抽出終了IDがLayer(n−1)のID3と示されているような場合、Layer(n−1)のID2には判定パラメータ(閾値)を超えるメタデータがない場合であっても、ID1、ID2、ID3の順番で検索を行うため、ID2についても不要な検索が行われていた。
そこで、この実施の形態2では、判定パラメータ(閾値)を超えるメタデータが前後方向のどの位置の記録データに存在するかを示す情報を付与したデータ構成とし、不必要なデータについては、一切アクセスしないことによって、さらに効率的な検索を可能とする実施の形態について説明する。
実施の形態1と実施の形態2では、記録部23に記録する検索用記録データの構造が異なる。具体的には、実施の形態1では、記録データのメタ情報には、図9で示したように、メタデータと検索情報とが格納されていたのに対し、実施の形態2では、記録データのメタ情報には、図27に示すように、メタデータと、検索情報と、抽出データ前方向記録時刻と、抽出データ後方向記録時刻とが格納される点が異なる。その他の検索用記録データの構造については、実施の形態1において説明したものと同様であるため、重複した説明を省略する。
まず、データ記録制御部22によるデータ記録制御の動作について説明する。
図28は、実施の形態2に係る映像・音声記録装置2のデータ記録制御部22によるメタ情報用管理テーブル編集の動作を説明するフローチャートである。
この実施の形態2では、実施の形態1で図18を用いて説明したメタ情報用管理テーブルの編集の動作が、図28に変わる点が異なるのみで、その他の動作については、実施の形態1で説明した動作と同様であるため、重複した説明を省略する。
図28のステップST2801〜ステップST2807、ステップST2811〜ステップST2815は、それぞれ、図18のステップST1801〜ステップST1807、ステップST1808〜ステップST1812と同様であるため重複した説明を省略する。
この実施の形態2では、図28のステップST2808〜ステップST2810の処理が追加になっている点が異なるのみである。
図29は、この発明の実施の形態2の映像・音声記録装置2のデータ検索制御部21におけるデータ検索制御の動作を説明するフローチャートである。
図29のステップST2901〜ステップST2909の処理は、実施の形態1で説明した図22のステップST2201〜ステップST2209の処理と同様の処理である。
ここでも、実施の形態1同様、検索用記録データは、一例として、図23のように、判別パラメータの一つを「顔があること」として作成した、管理領域が3層構造となっているものとして説明する。
映像・音声記録装置2は、カメラ1、または、アラーム通知装置4から映像・音声データとメタデータとを受信し、図23に示すように3層構造(Layer1〜3)となっている検索用記録データを記録部23に記録しており、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件を、顔があること、すなわち、顔が1以上であることとして一次抽出対象データの判定を行ったものとし、ユーザからの「顔があること」という検索条件を受け付けて、検索用記録データから、顔のある(顔が1個以上)データを検索するものとして以下説明する。なお、ここでも、「顔があること」という検索条件は、メタデータの識別単位「判断条件「顔」」と対応付けられているものとする。
続いて、データ検索部212は、まず、開始位置であるLayer1のID4の、判断条件「顔」に関するメタ情報用管理テーブルを参照すると、図30の内容から、抽出データ開始時刻,抽出データ終了時刻がともにT44となっており、記録時刻T44の記録データに顔関連のデータがあることがわかる。そこで、記録時刻T44の記録データの記録用映像・音声データを抽出する。
データ検索部212は、記録時刻T44の記録データから、検索条件が「閾値満」となっている、顔の数が1のメタデータに対応づけられた映像・音声データ(顔あり(1人)映像データ)を抽出する。なお、ここでは、検索用記録データ作成時に、識別単位が「判断条件「顔」」であるメタデータの判別パラメータ(閾値)により定められた条件と、ユーザからの検索条件が、ともに「顔があること」であるので、検索条件が「閾値満」となっていれば、検索条件に合致するメタデータであると判断できる。
その後、同様に、データ検索部212は、記録時刻T61の判断条件「顔」のメタデータに対応するデータ抽出後方向記録時刻を参照し、次に参照すべき記録データは、記録時刻T63の記録データであることを特定し、記録時刻T63の記録データを参照し、記録用映像・音声データを抽出する。
すなわち、顔が検出されなかった記録時刻T62の記録データについてはスキップする。
記録時刻T63まで参照すると、検索の終了位置なので、ここで検索を終了する。(ステップST2904〜ステップST2905)
また、実施の形態1における映像・記録装置2の制御に用いられる各部は、ソフトウェアに基づくCPUを用いたプログラム処理によって実行される。
Claims (7)
- 撮像データとメタデータとに基づき、複数の階層からなる階層構造で管理する検索用記録データを作成し、入力された検索要求に基づき、前記検索用記録データから、前記検索要求に応じた前記撮像データを抽出する映像音声記録装置であって、
前記撮像データと前記メタデータとを受信するデータ受信部と、
前記データ受信部が受信した前記撮像データと前記メタデータとに基づき、前記階層構造の最下位層においては、前記メタデータと前記メタデータが閾値により定められた条件を満たすかどうかに関する検索情報と前記メタデータに対応する前記撮像データとを含む記録データと、前記記録データを前記メタデータの識別単位ごとに管理するための情報を有する第1の管理テーブルとをグループ化して格納し、前記最下位層より上位の層においては、前記第1の管理テーブルの情報を連携し、前記上位の層が管理する下位のグループについて、前記メタデータが前記閾値により定められた条件を満たす記録データが格納される範囲を特定するための情報を有する第2の管理テーブルをグループ化して格納する前記検索用記録データの作成を行うデータ記録処理部
とを備えた映像音声記録装置。 - 撮像データとメタデータとに基づき、複数の階層からなる階層構造で管理する検索用記録データを作成し、入力された検索要求に基づき、前記検索用記録データから、前記検索要求に応じた前記撮像データを抽出する映像音声記録装置であって、
前記撮像データと前記メタデータとを受信するデータ受信部と、
前記データ受信部が受信した前記撮像データと前記メタデータとに基づき、前記階層構造の最下位層において、前記メタデータと前記撮像データとを含む記録データを記録媒体の読み書きデータサイズ単位にグループ化して格納するデータ記録処理部
とを備えた映像音声記録装置。 - 前記データ記録処理部は、
前記検索用記録データにおける前記グループをセクタ単位とする
ことを特徴とする請求項1記載の映像音声記録装置。 - 前記検索要求の入力を受け付ける要求制御部と、
前記要求制御部が受け付けた前記検索要求に基づく検索条件が前記閾値により定められた条件を満たす場合、前記検索用記録データの最上位層から順に前記第2の管理テーブルを参照して、前記検索用記録データの前記最下位層における、撮像データ検索の開始グループと終了グループとを特定し、前記開始グループの前記第1の管理テーブルが有する前記記録データから前記終了グループの前記第1の管理テーブルが有する前記記録データまで前記検索情報を参照し、前記検索情報に対応する前記メタデータを参照して、前記検索条件を満たす前記メタデータに対応する前記撮像データを抽出するデータ検索部と、
前記データ検索部が抽出した前記撮像データを配信するデータ配信部
とをさらに備えた請求項1から請求項3のうちのいずれか1項記載の映像音声記録装置。 - 前記データ記録処理部は、
前記最下位層において、前記識別単位ごとに前記メタデータが前記閾値により定められた条件を満たした他の記録データを特定するための情報をさらに含む前記記録データと前記第1の管理テーブルとをグループ化して格納する前記検索用記録データの作成を行い、
前記データ検索部は、
前記最下位層における、撮像データ検索の開始グループと終了グループとを特定すると、前記開始グループの前記第1の管理テーブルが有する前記記録データから前記終了グループの前記第1の管理テーブルが有する前記記録データまで、前記メタデータが前記閾値により定められた条件を満たした他の記録データを特定するための情報に基づき、次に参照する記録データを特定し、当該特定した記録データの前記検索情報を参照し、前記検索情報に対応する前記メタデータを参照して、前記検索条件を満たす前記メタデータに対応する前記撮像データを抽出する
ことを特徴とする請求項4記載の映像音声記録装置。 - 撮像データとメタデータとを配信するカメラと、映像音声記録装置に対して検索要求を送信し、前記映像音声記録装置から受信した前記撮像データを表示する映像音声制御装置と、前記カメラから配信される撮像データとメタデータとに基づき、複数の階層構造で管理する検索用記録データを作成し、前記映像音声制御装置から入力された前記検索要求に応じた前記撮像データの抽出を行う前記映像音声記録装置とを備えた監視システムであって、
前記映像音声記録装置は、
前記撮像データと前記メタデータとを受信するデータ受信部と、
前記データ受信部が受信した前記撮像データと前記メタデータとに基づき、前記階層構造の最下位層においては、前記メタデータと前記メタデータが閾値により定められた条件を満たすかどうかに関する検索情報と前記メタデータに対応する前記撮像データとを含む記録データと、前記記録データを前記メタデータの識別単位ごとに管理するための情報を有する第1の管理テーブルとをグループ化して格納し、前記最下位層より上位の層においては、前記第1の管理テーブルの情報を連携し、前記上位の層が管理する下位のグループについて、前記メタデータが前記閾値により定められた条件を満たす記録データが格納される範囲を特定するための情報を有する第2の管理テーブルをグループ化して格納する前記検索用記録データの作成を行うデータ記録処理部
とを備えたことを特徴とする監視システム。 - 撮像データとメタデータとを配信するカメラと、映像音声記録装置に対して検索要求を送信し、前記映像音声記録装置から受信した前記撮像データを表示する映像音声制御装置と、前記カメラから配信される撮像データとメタデータとに基づき、複数の階層構造で管理する検索用記録データを作成し、前記映像音声制御装置から入力された前記検索要求に応じた前記撮像データの抽出を行う前記映像音声記録装置とを備えた監視システムであって、
前記映像音声記録装置は、
前記撮像データと前記メタデータとを受信するデータ受信部と、
前記データ受信部が受信した前記撮像データと前記メタデータとに基づき、前記階層構造の最下位層においては、前記メタデータと前記撮像データとを含む記録データをセクタ単位にグループ化して格納するデータ記録処理部
とを備えたことを特徴とする監視システム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014220552 | 2014-10-29 | ||
| JP2014220552 | 2014-10-29 | ||
| PCT/JP2015/075220 WO2016067749A1 (ja) | 2014-10-29 | 2015-09-04 | 映像音声記録装置および監視システム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2016067749A1 JPWO2016067749A1 (ja) | 2017-04-27 |
| JP6203424B2 true JP6203424B2 (ja) | 2017-09-27 |
Family
ID=55857095
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016556420A Active JP6203424B2 (ja) | 2014-10-29 | 2015-09-04 | 映像音声記録装置および監視システム |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP6203424B2 (ja) |
| WO (1) | WO2016067749A1 (ja) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108632568B (zh) * | 2017-03-17 | 2021-09-17 | 北京京东尚科信息技术有限公司 | 回看监控视频的方法、装置、电子设备和可读存储介质 |
| US20200242155A1 (en) * | 2017-10-16 | 2020-07-30 | Nec Corporation | Search apparatus, search method, and non-transitory storage medium |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2011142026A1 (ja) * | 2010-05-14 | 2011-11-17 | 株式会社日立製作所 | 時系列データ管理装置、システム、方法、およびプログラム |
| US20140047210A1 (en) * | 2012-08-08 | 2014-02-13 | Lsi Corporation | Trim mechanism using multi-level mapping in a solid-state media |
| JP6116168B2 (ja) * | 2012-09-14 | 2017-04-19 | キヤノン株式会社 | 情報処理装置およびその方法 |
-
2015
- 2015-09-04 JP JP2016556420A patent/JP6203424B2/ja active Active
- 2015-09-04 WO PCT/JP2015/075220 patent/WO2016067749A1/ja not_active Ceased
Also Published As
| Publication number | Publication date |
|---|---|
| WO2016067749A1 (ja) | 2016-05-06 |
| JPWO2016067749A1 (ja) | 2017-04-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Truong et al. | Video abstraction: A systematic review and classification | |
| CN103348690B (zh) | 一种视频处理的方法及装置 | |
| JP6116168B2 (ja) | 情報処理装置およびその方法 | |
| JP4737228B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
| JP4690303B2 (ja) | シリーズコンテンツの視聴ポイントに基づいてコンテンツを再生させる装置およびその方法 | |
| US20200192866A1 (en) | Connecting storyboard system to editorial system | |
| JP2003511801A (ja) | 効率的な概観及びブラウジングのためのビデオ要約記述構造と、ビデオ要約記述データ生成の方法及びシステム | |
| US20170084309A1 (en) | Video file creation device and video file creation method | |
| JP7600988B2 (ja) | ファイル処理装置、ファイル処理方法、及び、プログラム | |
| JP6203424B2 (ja) | 映像音声記録装置および監視システム | |
| JP4333808B2 (ja) | 映像の検索方法および装置 | |
| JP6234146B2 (ja) | 記録制御装置、記録制御方法、及び、プログラム | |
| CN101356807B (zh) | 信息处理设备、信息处理方法 | |
| CN102930875B (zh) | 一种实时同步录音录像的方法 | |
| JP5762145B2 (ja) | 再生システム及びその処理方法及びプログラム | |
| JP5135733B2 (ja) | 情報記録装置及び情報記録方法、並びにコンピュータ・プログラム | |
| WO2014103374A1 (ja) | 情報管理装置、サーバ及び制御方法 | |
| JP2007020195A (ja) | 映像の検索方法および装置 | |
| JP4169049B2 (ja) | 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム | |
| US8837903B2 (en) | Method and apparatus for generating movie-in-short of contents | |
| CN101093705B (zh) | 信息处理装置和方法 | |
| JP4670809B2 (ja) | 記録装置、記録方法および記録プログラム | |
| JP2001283570A (ja) | メディアコンテンツ管理装置、メディアコンテンツ制御装置、メディアコンテンツ管理システム及び記録媒体 | |
| KR102422450B1 (ko) | 미디어 데이터와 센싱 데이터의 관리 방법 | |
| JP4334545B2 (ja) | 記憶装置およびコンピュータ読取り可能な記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161019 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170530 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170713 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170801 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170829 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6203424 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |