JP4606278B2 - 映像構造化方法及び装置及びプログラム - Google Patents
映像構造化方法及び装置及びプログラム Download PDFInfo
- Publication number
- JP4606278B2 JP4606278B2 JP2005259457A JP2005259457A JP4606278B2 JP 4606278 B2 JP4606278 B2 JP 4606278B2 JP 2005259457 A JP2005259457 A JP 2005259457A JP 2005259457 A JP2005259457 A JP 2005259457A JP 4606278 B2 JP4606278 B2 JP 4606278B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- motion vector
- segment type
- segment
- storage means
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Description
分析対象である映像を読み込んで、一時的に記憶手段に格納する映像読込ステップ(ステップ100)と、
記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出ステップ(ステップ101)と、
入力された映像のフレーム画像を内部領域と外部領域とに分割し、分割された2つの領域毎に、動きベクトルから動きを表す特徴量それぞれにN個ずつ算出し、内部領域のN個の特徴量と外部領域のN個の特徴量を合せた2N個の特徴量を各フレーム画像毎に得る特徴量算出ステップ(ステップ102)と、
2N個の特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別ステップ(ステップ103)と、
フレーム単位のセグメント種別に基づいて、入力映像を分割し(ステップ104)、分割された映像及びセグメント情報を記憶手段に格納する(ステップ105)映像分割ステップと、を行う。
分析対象である映像を読み込んで、一時的に記憶手段に格納する映像読込ステップと、
記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出ステップと、
算出された動きベクトルからセグメント種別を判定する特徴量を算出する特徴量算出ステップと、
特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別ステップと、
予め定めたフレーム数からなる最小区間に映像コンテンツを時系列順に区切り、最小区間に含まれるフレームのセグメント種別の多数決によって、当該最小区間のサブショット種別を判定し、最小区間のサブショット種別に基づいて、入力映像を分割し、分割された映像及びセグメント情報を記憶手段に格納する映像分割ステップと、を行う。
特徴量算出ステップ(ステップ102)において、
特徴量として、動きベクトルの大きさと方向の、平均、分散(標準偏差)、平均の変化量、分散(標準偏差)の変化量の、いずれか一つ以上組み合わせて利用し、識別する。
読み込まれた映像データを一時的に保持する映像一時記憶手段2と、
分割された映像及びセグメント情報を記憶する映像・セグメント情報記憶手段7と、
分析対象である映像を読み込んで、一時的に映像一時記憶手段2に格納する映像読込手段1と、
映像一時記憶手段2から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出手段3と、
入力された映像のフレーム画像を内部領域と外部領域とに分割し、分割された2つの領域毎に、動きベクトルから動きを表す特徴量それぞれにN個ずつ算出し、内部領域のN個の特徴量と外部領域のN個の特徴量を合せた2N個の特徴量を各フレーム画像毎に得る特徴量算出手段4と、
2N個の特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別手段5と、
フレーム単位のセグメント種別に基づいて、入力映像を分割し、分割された映像及びセグメント情報を映像・セグメント情報記憶手段7に格納する映像分割手段6と、を有する。
読み込まれた映像データを一時的に保持する映像一時記憶手段と、
分割された映像及びセグメント情報を記憶する映像・セグメント情報記憶手段と、
分析対象である映像を読み込んで、一時的に映像一時記憶手段に格納する映像読込手段と、
映像一時記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出手段と、
算出された動きベクトルからセグメント種別を判定する特徴量を算出する特徴量算出手段と、
特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別手段と、
予め定めたフレーム数からなる最小区間に映像コンテンツを時系列順に区切り、最小区間に含まれるフレームのセグメント種別の多数決によって、当該最小区間のサブショット種別を判定し、最小区間のサブショット種別に基づいて、入力映像を分割し、分割された映像及びセグメント情報を映像・セグメント情報記憶手段に格納する映像分割手段と、
を有する。
特徴量として、動きベクトルの大きさと方向の、平均、分散(標準偏差)、平均の変化量、分散(標準偏差)の変化量の、いずれか一つ以上組み合わせて利用し、識別する手段を含む。
請求項4乃至6のいずれか1項に記載の映像構造化装置として機能させるプログラムである。
(例)注目オブジェクトを単に撮影している場合、また動きだすことを待っている場合等;
ω1:カメラワーク無し、動物体有り;
(例)注目オブジェクトがフレーム内で動いている場合等;
ω2:カメラワーク有り、動物体無し;
(例)風景や、建物やその場の雰囲気を撮影するため、パンやチルトをする場合等;
ω3:カメラワーク有り、動物体無し;
(例)注目オブジェクトの動きに合わせてカメラを動かしている場合等;
ω4:カメラワーク有り、動物体有り(フォロー無し)
(例)風景や、建物やその場の雰囲気を撮影するため、パンやチルトをする場合に、フォローしていない動物体が含まれている場合等;
ω5:ズーム区間;
(例)注目オブジェクトがあり、そのオブジェクトにズーム・インする場合、その場全体をフレームに収めるためズームアウトする場合等;
ズームの場合は、その行為自体に大きな撮影者の意図が含まれるため、動物体の有無で細かく分類していない。
(但し、i=1,2,…,N−1,j=1,2,…,M)
算出された動きベクトルVijと、動きベクトルの開始点Pijを出力する。それぞれi=1,2,…,N−1、j=1,2,…,Mとし、iとjはVijとPijの間で対応付いているものとする。最終的に、動きベクトル算出部3内のメモリにVijとPijを出力する。
・動きベクトルの大きさの平均、
・動きベクトルの大きさの標準偏差、
・動きベクトルの方向の標準偏差、
・動きベクトルの方向の平均の変化量
の4つを採用する。
Vik=(vxik,vyik) (i=1,2,…,N−1, k=1,2,…K)
式(1)
であるとする。
2 映像一時記憶手段、映像一時格納部
3 動きベクトル算出手段、動きベクトル算出部
4 特徴量算出手段、特徴量算出部
5 セグメント種別識別手段、サブショット種別識別部
6 映像分割手段、映像分割部
7 映像・セグメント情報記憶手段、映像・セグメント情報格納部
8 学習データ格納部
Claims (7)
- カメラワークと映像内の動物体の有無に基づいたセグメント種別を定義しておき、当該セグメント種別によって映像コンテンツをセグメントに分割する映像構造化方法であって、
分析対象である映像を読み込んで、一時的に記憶手段に格納する映像読込ステップと、
前記記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出ステップと、
入力された前記映像のフレーム画像を内部領域と外部領域とに分割し、分割された2つの領域毎に、前記動きベクトルから動きを表す特徴量それぞれにN個ずつ算出し、内部領域のN個の特徴量と外部領域のN個の特徴量を合せた2N個の特徴量を各フレーム画像毎に得る特徴量算出ステップと、
前記2N個の特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別ステップと、
フレーム単位のセグメント種別に基づいて、前記入力映像を分割し、分割された映像及びセグメント情報を記憶手段に格納する映像分割ステップと、
を行うことを特徴とする映像構造化方法。 - カメラワークと映像内の動物体の有無に基づいたセグメント種別を定義しておき、当該セグメント種別によって映像コンテンツをセグメントに分割する映像構造化方法であって、
分析対象である映像を読み込んで、一時的に記憶手段に格納する映像読込ステップと、
前記記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出ステップと、
算出された前記動きベクトルからセグメント種別を判定する特徴量を算出する特徴量算出ステップと、
前記特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別ステップと、
予め定めたフレーム数からなる最小区間に前記映像コンテンツを時系列順に区切り、最小区間に含まれるフレームのセグメント種別の多数決によって、当該最小区間のサブショット種別を判定し、前記最小区間のサブショット種別に基づいて、前記入力映像を分割し、分割された映像及びセグメント情報を記憶手段に格納する映像分割ステップと、
を行うことを特徴とする映像構造化方法。 - 前記特徴量算出ステップにおいて、
前記特徴量として、前記動きベクトルの大きさと方向の、平均、分散(標準偏差)、平均の変化量、分散(標準偏差)の変化量の、いずれか一つ以上組み合わせて利用し、識別する、
請求項1または2の映像構造化方法。 - カメラワークと映像内の動物体の有無に基づいたセグメント種別を定義しておき、当該セグメント種別によって映像コンテンツをセグメントに分割する映像構造化装置であって、
読み込まれた映像データを一時的に保持する映像一時記憶手段と、
分割された映像及びセグメント情報を記憶する映像・セグメント情報記憶手段と、
分析対象である映像を読み込んで、一時的に前記映像一時記憶手段に格納する映像読込手段と、
前記映像一時記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出手段と、
入力された前記映像のフレーム画像を内部領域と外部領域とに分割し、分割された2つの領域毎に、前記動きベクトルから動きを表す特徴量それぞれにN個ずつ算出し、内部領域のN個の特徴量と外部領域のN個の特徴量を合せた2N個の特徴量を各フレーム画像毎に得る特徴量算出手段と、
前記2N個の特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別手段と、
フレーム単位のセグメント種別に基づいて、前記入力映像を分割し、分割された映像及びセグメント情報を前記映像・セグメント情報記憶手段に格納する映像分割手段と、
を有することを特徴とする映像構造化装置。 - カメラワークと映像内の動物体の有無に基づいたセグメント種別を定義しておき、当該セグメント種別によって映像コンテンツをセグメントに分割する映像構造化装置であって、
読み込まれた映像データを一時的に保持する映像一時記憶手段と、
分割された映像及びセグメント情報を記憶する映像・セグメント情報記憶手段と、
分析対象である映像を読み込んで、一時的に前記映像一時記憶手段に格納する映像読込手段と、
前記映像一時記憶手段から入力映像を読み出して、該入力映像のフレーム間の動きベクトルを算出する動きベクトル算出手段と、
算出された前記動きベクトルからセグメント種別を判定する特徴量を算出する特徴量算出手段と、
前記特徴量を用いてフレーム単位のセグメント種別を識別するセグメント種別識別手段と、
予め定めたフレーム数からなる最小区間に前記映像コンテンツを時系列順に区切り、最小区間に含まれるフレームのセグメント種別の多数決によって、当該最小区間のサブショット種別を判定し、前記最小区間のサブショット種別に基づいて、前記入力映像を分割し、分割された映像及びセグメント情報を前記映像・セグメント情報記憶手段に格納する映像分割手段と、
を有することを特徴とする映像構造化装置。 - 前記特徴量算出手段は、
前記特徴量として、前記動きベクトルの大きさと方向の、平均、分散(標準偏差)、平均の変化量、分散(標準偏差)の変化量の、いずれか一つ以上組み合わせて利用し、識別する手段を含む、
請求項4または5の映像構造化装置。 - コンピュータを、
請求項4乃至6のいずれか1項に記載の映像構造化装置として機能させることを特徴とする映像構造化プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005259457A JP4606278B2 (ja) | 2005-09-07 | 2005-09-07 | 映像構造化方法及び装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005259457A JP4606278B2 (ja) | 2005-09-07 | 2005-09-07 | 映像構造化方法及び装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007072789A JP2007072789A (ja) | 2007-03-22 |
JP4606278B2 true JP4606278B2 (ja) | 2011-01-05 |
Family
ID=37934172
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005259457A Expired - Fee Related JP4606278B2 (ja) | 2005-09-07 | 2005-09-07 | 映像構造化方法及び装置及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4606278B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200401808A1 (en) * | 2018-07-18 | 2020-12-24 | Tencent Technology (Shenzhen) Company Ltd | Method and device for identifying key time point of video, computer apparatus and storage medium |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5181325B2 (ja) * | 2007-08-08 | 2013-04-10 | 国立大学法人電気通信大学 | カット部検出システム及びショット検出システム並びにシーン検出システム、カット部検出方法 |
JP5256803B2 (ja) | 2008-03-19 | 2013-08-07 | 株式会社メガチップス | トランスコーダ |
JP5039976B2 (ja) * | 2008-03-24 | 2012-10-03 | 株式会社メガチップス | トランスコーダ |
JP2012227645A (ja) * | 2011-04-18 | 2012-11-15 | Nikon Corp | 画像処理プログラム、画像処理方法、画像処理装置、撮像装置 |
JP7461189B2 (ja) | 2020-03-24 | 2024-04-03 | 東芝テック株式会社 | 処理装置、処理方法及びコンピュータプログラム |
CN113301385B (zh) * | 2021-05-21 | 2023-02-28 | 北京大米科技有限公司 | 视频数据处理方法、装置、电子设备和可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09161072A (ja) * | 1995-12-13 | 1997-06-20 | Tsushin Hoso Kiko | 映像信号の構造情報を抽出する映像処理装置 |
JP2677312B2 (ja) * | 1991-03-11 | 1997-11-17 | 工業技術院長 | カメラワーク検出方法 |
JPH11224266A (ja) * | 1997-11-10 | 1999-08-17 | Nippon Telegr & Teleph Corp <Ntt> | 電子映像文書作成利用方法及びプログラム格納媒体 |
JP3131560B2 (ja) * | 1996-02-26 | 2001-02-05 | 沖電気工業株式会社 | 動画像処理システムにおける動画像情報検出装置 |
JP2002305683A (ja) * | 2001-04-04 | 2002-10-18 | Olympus Optical Co Ltd | 撮像装置および撮像プログラムを記録した記録媒体 |
JP2004128550A (ja) * | 2002-09-30 | 2004-04-22 | Kddi R & D Laboratories Inc | 動画像データのシーン分類装置 |
-
2005
- 2005-09-07 JP JP2005259457A patent/JP4606278B2/ja not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2677312B2 (ja) * | 1991-03-11 | 1997-11-17 | 工業技術院長 | カメラワーク検出方法 |
JPH09161072A (ja) * | 1995-12-13 | 1997-06-20 | Tsushin Hoso Kiko | 映像信号の構造情報を抽出する映像処理装置 |
JP3131560B2 (ja) * | 1996-02-26 | 2001-02-05 | 沖電気工業株式会社 | 動画像処理システムにおける動画像情報検出装置 |
JPH11224266A (ja) * | 1997-11-10 | 1999-08-17 | Nippon Telegr & Teleph Corp <Ntt> | 電子映像文書作成利用方法及びプログラム格納媒体 |
JP2002305683A (ja) * | 2001-04-04 | 2002-10-18 | Olympus Optical Co Ltd | 撮像装置および撮像プログラムを記録した記録媒体 |
JP2004128550A (ja) * | 2002-09-30 | 2004-04-22 | Kddi R & D Laboratories Inc | 動画像データのシーン分類装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200401808A1 (en) * | 2018-07-18 | 2020-12-24 | Tencent Technology (Shenzhen) Company Ltd | Method and device for identifying key time point of video, computer apparatus and storage medium |
US11803749B2 (en) * | 2018-07-18 | 2023-10-31 | Tencent Technology (Shenzhen) Company Ltd | Method and device for identifying key time point of video, computer apparatus and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP2007072789A (ja) | 2007-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10706892B2 (en) | Method and apparatus for finding and using video portions that are relevant to adjacent still images | |
Lai et al. | Semantic-driven generation of hyperlapse from 360 degree video | |
US10062412B2 (en) | Hierarchical segmentation and quality measurement for video editing | |
Su et al. | Pano2vid: Automatic cinematography for watching 360 videos | |
Arev et al. | Automatic editing of footage from multiple social cameras | |
JP6694829B2 (ja) | ルールに基づくビデオ重要度解析 | |
AU2009243442B2 (en) | Detection of abnormal behaviour in video objects | |
US8594488B1 (en) | Methods and systems for video retargeting using motion saliency | |
JP4973188B2 (ja) | 映像分類装置、映像分類プログラム、映像検索装置、および映像検索プログラム | |
JP4606278B2 (ja) | 映像構造化方法及び装置及びプログラム | |
US9159362B2 (en) | Method and system for detecting and recognizing social interactions in a video | |
Abdollahian et al. | Camera motion-based analysis of user generated video | |
EP1542153A1 (en) | Object detection | |
US10657657B2 (en) | Method, system and apparatus for detecting a change in angular position of a camera | |
JP2010009425A (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
Hasan et al. | CAMHID: Camera motion histogram descriptor and its application to cinematographic shot classification | |
JP2012105205A (ja) | キーフレーム抽出装置、キーフレーム抽出プログラム、キーフレーム抽出方法、撮像装置、およびサーバ装置 | |
Cricri et al. | Multimodal extraction of events and of information about the recording activity in user generated videos | |
WO1999005865A1 (en) | Content-based video access | |
Choudhary et al. | Real time video summarization on mobile platform | |
CN114598810A (zh) | 全景视频的自动剪辑方法、全景相机、计算机程序产品及可读存储介质 | |
Apostolidis et al. | A motion-driven approach for fine-grained temporal segmentation of user-generated videos | |
Helm et al. | HISTORIAN: A Large-Scale Historical Film Dataset with Cinematographic Annotation | |
AU2016277643A1 (en) | Using face detection metadata to select video segments | |
US20190108402A1 (en) | Method, system and apparatus for selecting frames of a video sequence |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070817 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100713 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100720 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100910 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101005 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101005 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131015 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |