JP2012008683A - メタデータ付与装置、映像検索装置、方法およびプログラム - Google Patents
メタデータ付与装置、映像検索装置、方法およびプログラム Download PDFInfo
- Publication number
- JP2012008683A JP2012008683A JP2010142433A JP2010142433A JP2012008683A JP 2012008683 A JP2012008683 A JP 2012008683A JP 2010142433 A JP2010142433 A JP 2010142433A JP 2010142433 A JP2010142433 A JP 2010142433A JP 2012008683 A JP2012008683 A JP 2012008683A
- Authority
- JP
- Japan
- Prior art keywords
- event
- metadata
- sensor data
- video
- search key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
【解決手段】メタデータ付与装置1は、カメラ2によって撮影された被写体の映像を取得する映像取得部10と、撮影時に被写体に装着されたセンサノード3によって計測されたセンサデータを取得するセンサデータ取得部12と、被写体に関する事象を表す事象記述子と、センサデータを用いた式で表現した当該事象の物理量表現との対応関係を予め記憶する事象記述子辞書17と、センサデータ取得部12が取得したセンサデータに該当する物理量表現を持つ事象が事象記述子辞書17に登録されている場合に、この事象を表す事象記述子をメタデータとし、映像取得部10が取得した映像にメタデータを付与するメタデータ付与部16とを備える。
【選択図】 図2
Description
また、音声を用いる方法では、特定の場面(例えばスポーツ中継など)でしか映像を判別することができないという問題点があった。人手でメタデータを付与する方式は、人手がかかりすぎるため、現実的ではない。
また、本発明は、被写体の動作に基づいた映像検索を実現することができる映像検索装置、方法およびプログラムを提供することを目的とする。
また、本発明のプログラムは、メタデータ付与方法または映像検索方法の各ステップをコンピュータに実行させることを特徴とするものである。
図1にセンサデータと映像との関係を示す。図1における100〜103は、後述するセンサノードが装着された物体を人が下に落とす様子を撮影した一連の映像を示している。図1の104は、この一連の動きに対してセンサノードから出力されるセンサデータを示している。このセンサデータを解析した結果、映像を撮影した区間で起きた事象が判定され、この事象を表す言葉(例えば「fall-vertically」)がメタデータとして得られる。
次に、映像とセンサデータ(波形)から、センサデータを言語化したメタデータを抽出して、メタデータを映像に付与するメタデータ付与装置について詳細に説明する。図2は本発明の実施の形態に係るメタデータ付与装置の構成を示すブロック図である。メタデータ付与装置1は、映像取得部10と、蓄積信号記憶部11と、センサデータ取得部12と、蓄積センサデータ記憶部13と、事象区間検出部14と、データ補正部15と、メタデータ付与部16と、事象記述子辞書17と、メタデータ付蓄積信号記憶部18とを有する。
図4を参照して、事象記述子辞書17について詳細に説明する。図4は事象記述子辞書17の具体例を示す説明図である。
ここでは、英語の電子シソーラス体系WordNet(例えば文献「C.Fellbaut,WordNet:an electronic lexical database,MIT Press,1998」参照)を利用して、「運動」に関係する動詞「move,reach,pass,exit,touch,enter」と、「スカラー物理量」に関係する動詞「rise,drop,increase,keep,remain」とを種として、シソーラスの関係にあるリンクを次々に辿っていき、物理現象と対応付けできる述語をすべて集める。
P1:do not care (tO≦t<t1),
P2:|v|>0 (t1≦t≦t2),
P3:do not care (t2<t≦t3).
という物理量表現17Cとが関連付けられている。ここで、物理量表現17Cのうち、時間制約式部17Eにおけるt0,t1,t2,t3は実数値を取る時刻を表わすパラメータであり、時刻t1が当該事象の発生時刻に相当し、時刻t2が当該事象の終了時刻に相当する。
図4(A)の例では、時刻t1から時刻t2の事象発生中区間における条件として、対象物oの速度ベクトルvの大きさ|v|が0より大きいという条件、すなわち対象物oが移動していることが物理式部17Dで規定されていることになる。
D(x,r1)=0 (t0≦t<t1),
|v|>0 & D(x,r2)>0 (t1≦t≦t2),
D(x,r2)=0 (t2<t≦t3).
という物理量表現17Cとが関連付けられている。ここで、物理量表現17Cのうち、xは対象物oの3次元座標であり、D(r1,r2)は、r1とr2のユークリッド距離を表わし、vは対象物oの速度ベクトルを表わす。この場合、対象物oは時刻t1以前の区間において領域region1にあり、時刻t1から動きが始まって時刻t2で領域region2に到達し、時刻t2より後の区間ではregion2にあることを表現している。&は論理積を示す。
do not care (tO≦t<t1),
(v/|v|)・(g/|g|)=1 & a=9 (t1≦t≦t2),
do not care (t2<t≦t3).
という物理量表現17Cとが関連付けられている。ここで、物理量表現17Cのうち、gは重力定数ベクトル、「・」は内積、aは対象物oの加速度を表わす。この場合、対象物oは時刻t1から時刻t2の区間において加速度gで鉛直下に向かって動いていることを表している。このようにして、各述語17Aを代表する事象記述子17Bの各々についての物理量表現17Cを策定し、事象記述子辞書17に保存しておく。図5は、事象記述子と物理量表現の具体例を示す説明図である。
do not care (tO≦t<t1);0<t1-t0,
(v/|v|)・(g/|g|)=1 & a=g (t1≦t≦t2);200msec≦t2-t1<800msec,
do not care (t2<t≦t3);0<t3-t2.
という物理量表現とが関連付けられて事象記述子辞書17に登録されているとする。ここで、データ補正部15によって補正された、事象区間内のセンサデータに、200msecから800msec未満の経過時間で加速度gで鉛直下に向かって動いたことを示すセンサデータが含まれている場合、図5に示した物理量表現に該当するので、メタデータ付与部16は、「fall-vertically(o)」という事象記述子で表現される事象、すなわち「落ちる」という言葉で表現される事象が事象区間内で起きたと判定する。
以上で、メタデータ付与装置1の処理が終了する。
次に、メタデータ付与装置1で生成されたメタデータ付蓄積信号を用いて、映像検索を行う映像検索装置について説明する。図6は本発明の実施の形態に係る映像検索装置の構成を示すブロック図である。映像検索装置5は、メタデータ付蓄積信号記憶部50と、映像取得部51と、センサデータ取得部52と、検索鍵入力部53と、鍵種別判定部54と、メタデータ抽出部55と、事象記述子辞書56と、蓄積信号検索部57と、出力部58とを有する。
検索鍵入力部53には、映像検索装置5の使用者によって検索鍵が入力される(図7ステップS200)。検索鍵としては、(1)人や物体の検索したい動きを言葉で表現したもの、(2)人や物体の検索したい動きを映像とセンサデータとの組で表現したもの、が考えられる。
以上で、映像検索装置5の処理が終了する。
また、本実施の形態では、メタデータ付与装置1と映像検索装置5とを別々の装置としているが、メタデータ付与装置1と映像検索装置5とを一体の装置としてもよい。
Claims (5)
- カメラによって撮影された被写体の映像を取得する映像取得手段と、
前記撮影時に被写体に装着されたセンサによって計測されたセンサデータを取得するセンサデータ取得手段と、
被写体に関する事象を表す事象記述子と、センサデータを用いた式で表現した当該事象の物理量表現との対応関係を予め記憶する事象記述子辞書と、
前記センサデータ取得手段が取得したセンサデータに該当する物理量表現を持つ事象が前記事象記述子辞書に登録されている場合に、この事象を表す事象記述子をメタデータとし、前記映像取得手段が取得した映像に前記メタデータを付与するメタデータ付与手段とを備えることを特徴とするメタデータ付与装置。 - 被写体に起きた事象を表すメタデータが付与された映像を予め記憶する記憶手段と、
検索したい事象をキーワードもしくはセンサデータで表現した検索鍵を入力とし、この検索鍵の種別を判定する鍵種別判定手段と、
被写体に関する事象を表す事象記述子と、センサデータを用いた式で表現した当該事象の物理量表現との対応関係を予め記憶する事象記述子辞書と、
前記検索鍵が事象をセンサデータで表現した検索鍵であって、このセンサデータに該当する物理量表現を持つ事象が前記事象記述子辞書に登録されている場合に、この事象を表す事象記述子をメタデータとして抽出するメタデータ抽出手段と、
前記検索鍵が事象をキーワードで表現した検索鍵であって、当該検索鍵が前記事象記述子辞書に登録されている事象記述子以外のキーワードである場合には、当該検索鍵に対応する事象記述子を入力メタデータとし、当該検索鍵が前記事象記述子辞書に登録されている事象記述子である場合には、当該事象記述子を入力メタデータとし、前記検索鍵が事象をセンサデータで表現した検索鍵である場合には、前記メタデータ抽出手段が抽出したメタデータを入力メタデータとし、入力メタデータと一致するメタデータが付与された映像を、前記記憶手段に記憶された映像の中から検索する検索手段とを備えることを特徴とする映像検索装置。 - カメラによって撮影された被写体の映像を取得する映像取得ステップと、
前記撮影時に被写体に装着されたセンサによって計測されたセンサデータを取得するセンサデータ取得ステップと、
被写体に関する事象を表す事象記述子とセンサデータを用いた式で表現した当該事象の物理量表現との対応関係を予め記憶する事象記述子辞書に、前記センサデータ取得ステップで取得したセンサデータに該当する物理量表現を持つ事象が登録されている場合に、この事象を表す事象記述子をメタデータとし、前記映像取得ステップで取得した映像に前記メタデータを付与するメタデータ付与ステップとを備えることを特徴とするメタデータ付与方法。 - 検索したい事象をキーワードもしくはセンサデータで表現した検索鍵を入力とし、この検索鍵の種別を判定する鍵種別判定ステップと、
前記検索鍵が事象をセンサデータで表現した検索鍵であって、被写体に関する事象を表す事象記述子とセンサデータを用いた式で表現した当該事象の物理量表現との対応関係を予め記憶する事象記述子辞書に、前記検索鍵のセンサデータに該当する物理量表現を持つ事象が登録されている場合に、この事象を表す事象記述子をメタデータとして抽出するメタデータ抽出ステップと、
前記検索鍵が事象をキーワードで表現した検索鍵であって、当該検索鍵が前記事象記述子辞書に登録されている事象記述子以外のキーワードである場合には、当該検索鍵に対応する事象記述子を入力メタデータとし、当該検索鍵が前記事象記述子辞書に登録されている事象記述子である場合には、当該事象記述子を入力メタデータとし、前記検索鍵が事象をセンサデータで表現した検索鍵である場合には、前記メタデータ抽出ステップで抽出したメタデータを入力メタデータとし、入力メタデータと一致するメタデータが付与された映像を、記憶手段に記憶されたメタデータ付映像の中から検索する検索ステップとを備えることを特徴とする映像検索方法。 - 請求項3または4に記載の各ステップをコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010142433A JP5437928B2 (ja) | 2010-06-23 | 2010-06-23 | メタデータ付与装置、映像検索装置、方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010142433A JP5437928B2 (ja) | 2010-06-23 | 2010-06-23 | メタデータ付与装置、映像検索装置、方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012008683A true JP2012008683A (ja) | 2012-01-12 |
JP5437928B2 JP5437928B2 (ja) | 2014-03-12 |
Family
ID=45539176
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010142433A Active JP5437928B2 (ja) | 2010-06-23 | 2010-06-23 | メタデータ付与装置、映像検索装置、方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5437928B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5445722B1 (ja) * | 2012-09-12 | 2014-03-19 | オムロン株式会社 | データフロー制御指令発生装置およびセンサ管理装置 |
JP5662549B1 (ja) * | 2013-12-18 | 2015-01-28 | 佑太 国安 | 記憶再生装置 |
WO2016134031A1 (en) * | 2015-02-17 | 2016-08-25 | Alpinereplay, Inc | Systems and methods to control camera operations |
US9497407B2 (en) | 2012-06-11 | 2016-11-15 | Alpinereplay, Inc. | Automatic selection of video from active cameras |
US9566021B2 (en) | 2012-09-12 | 2017-02-14 | Alpinereplay, Inc. | Systems and methods for synchronized display of athletic maneuvers |
US10008237B2 (en) | 2012-09-12 | 2018-06-26 | Alpinereplay, Inc | Systems and methods for creating and enhancing videos |
US10408857B2 (en) | 2012-09-12 | 2019-09-10 | Alpinereplay, Inc. | Use of gyro sensors for identifying athletic maneuvers |
US10548514B2 (en) | 2013-03-07 | 2020-02-04 | Alpinereplay, Inc. | Systems and methods for identifying and characterizing athletic maneuvers |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002007432A (ja) * | 2000-06-23 | 2002-01-11 | Ntt Docomo Inc | 情報検索システム |
JP2006121264A (ja) * | 2004-10-20 | 2006-05-11 | Fuji Xerox Co Ltd | 動画像処理装置、動画像処理方法およびプログラム |
JP2007213350A (ja) * | 2006-02-09 | 2007-08-23 | Fuji Xerox Co Ltd | 情報像処理装置及び情報像処理方法。 |
JP2007304692A (ja) * | 2006-05-09 | 2007-11-22 | Nippon Telegr & Teleph Corp <Ntt> | 事象検索装置、方法、およびプログラム |
-
2010
- 2010-06-23 JP JP2010142433A patent/JP5437928B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002007432A (ja) * | 2000-06-23 | 2002-01-11 | Ntt Docomo Inc | 情報検索システム |
JP2006121264A (ja) * | 2004-10-20 | 2006-05-11 | Fuji Xerox Co Ltd | 動画像処理装置、動画像処理方法およびプログラム |
JP2007213350A (ja) * | 2006-02-09 | 2007-08-23 | Fuji Xerox Co Ltd | 情報像処理装置及び情報像処理方法。 |
JP2007304692A (ja) * | 2006-05-09 | 2007-11-22 | Nippon Telegr & Teleph Corp <Ntt> | 事象検索装置、方法、およびプログラム |
Non-Patent Citations (4)
Title |
---|
CSNG200900242022; 岡留 剛、外3名: 'センサネットワーク環境における実世界イベント検索システム' マルチメディア,分散,協調とモバイル(DICOMO)シンポジウム論文集 1997年〜2006年版 V 第2006巻,第6号, 20090407, p.85-88, 社団法人情報処理学会 * |
CSNG200900445010; 亀井 剛次、外6名: '実世界イベント理解に向けた語彙集合の構築と評価' 情報処理学会研究報告 平成21年度(1) [CD-ROM] , 20090713, p.1-8, 社団法人情報処理学会 * |
JPN6013044321; 亀井 剛次、外6名: '実世界イベント理解に向けた語彙集合の構築と評価' 情報処理学会研究報告 平成21年度(1) [CD-ROM] , 20090713, p.1-8, 社団法人情報処理学会 * |
JPN6013044322; 岡留 剛、外3名: 'センサネットワーク環境における実世界イベント検索システム' マルチメディア,分散,協調とモバイル(DICOMO)シンポジウム論文集 1997年〜2006年版 V 第2006巻,第6号, 20090407, p.85-88, 社団法人情報処理学会 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9497407B2 (en) | 2012-06-11 | 2016-11-15 | Alpinereplay, Inc. | Automatic selection of video from active cameras |
US10419715B2 (en) | 2012-06-11 | 2019-09-17 | Alpinereplay, Inc. | Automatic selection of video from active cameras |
JP5445722B1 (ja) * | 2012-09-12 | 2014-03-19 | オムロン株式会社 | データフロー制御指令発生装置およびセンサ管理装置 |
US9566021B2 (en) | 2012-09-12 | 2017-02-14 | Alpinereplay, Inc. | Systems and methods for synchronized display of athletic maneuvers |
US10008237B2 (en) | 2012-09-12 | 2018-06-26 | Alpinereplay, Inc | Systems and methods for creating and enhancing videos |
US10408857B2 (en) | 2012-09-12 | 2019-09-10 | Alpinereplay, Inc. | Use of gyro sensors for identifying athletic maneuvers |
US10213137B2 (en) | 2013-03-07 | 2019-02-26 | Alpinereplay, Inc. | Systems and methods for synchronized display of athletic maneuvers |
US10548514B2 (en) | 2013-03-07 | 2020-02-04 | Alpinereplay, Inc. | Systems and methods for identifying and characterizing athletic maneuvers |
JP5662549B1 (ja) * | 2013-12-18 | 2015-01-28 | 佑太 国安 | 記憶再生装置 |
WO2016134031A1 (en) * | 2015-02-17 | 2016-08-25 | Alpinereplay, Inc | Systems and methods to control camera operations |
US10212325B2 (en) | 2015-02-17 | 2019-02-19 | Alpinereplay, Inc. | Systems and methods to control camera operations |
US11553126B2 (en) | 2015-02-17 | 2023-01-10 | Alpinereplay, Inc. | Systems and methods to control camera operations |
Also Published As
Publication number | Publication date |
---|---|
JP5437928B2 (ja) | 2014-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5437928B2 (ja) | メタデータ付与装置、映像検索装置、方法およびプログラム | |
Krishna et al. | Dense-captioning events in videos | |
CN107220232B (zh) | 基于人工智能的关键词提取方法及装置、设备与可读介质 | |
JP6284643B2 (ja) | 非構造化テキストにおける特徴の曖昧性除去方法 | |
Kawaguchi et al. | Hasc challenge: gathering large scale human activity corpus for the real-world activity understandings | |
JP6487944B2 (ja) | 自然言語画像検索 | |
US7492367B2 (en) | Apparatus, system and method for interpreting and reproducing physical motion | |
JP5389273B1 (ja) | 文脈解析装置および文脈解析方法 | |
WO2016093982A1 (en) | Augmentation of stop-motion content | |
US20090066641A1 (en) | Methods and Systems for Interpretation and Processing of Data Streams | |
EP3064133B1 (en) | Specifying apparatus and specifying method | |
CN110245564A (zh) | 一种行人检测方法、系统及终端设备 | |
JP6745127B2 (ja) | 情報処理システム、サーバ、端末装置、情報処理方法及びプログラム | |
JP6860084B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN106537387A (zh) | 检索/存储与事件相关联的图像 | |
JP7014230B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
Barrett et al. | Saying what you're looking for: Linguistics meets video search | |
US9690797B2 (en) | Digital information analysis system, digital information analysis method, and digital information analysis program | |
US10656172B2 (en) | Motion detecting device and detecting method for repetitive motion | |
Gandhi et al. | Gethr-net: A generalized temporally hybrid recurrent neural network for multimodal information fusion | |
JP4813964B2 (ja) | 事象検索装置、方法、およびプログラム | |
Nguyen-Dinh et al. | Supporting one-time point annotations for gesture recognition | |
Cheng et al. | A language-based approach to indexing heterogeneous multimedia lifelog | |
US11531811B2 (en) | Method and system for extracting keywords from text | |
CN111597310B (zh) | 一种敏感内容检测方法、装置、设备、介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20111025 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20111025 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121023 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130830 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130917 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131212 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5437928 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |