JP2009246829A - 動画像シーン分割装置および動画像シーン分割方法 - Google Patents
動画像シーン分割装置および動画像シーン分割方法 Download PDFInfo
- Publication number
- JP2009246829A JP2009246829A JP2008093239A JP2008093239A JP2009246829A JP 2009246829 A JP2009246829 A JP 2009246829A JP 2008093239 A JP2008093239 A JP 2008093239A JP 2008093239 A JP2008093239 A JP 2008093239A JP 2009246829 A JP2009246829 A JP 2009246829A
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- scene
- clusters
- cluster
- still images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Abstract
【解決手段】動画像分割部5は、映像データから抽出された静止画像の映像特徴量に基づいて該静止画像を複数の上位クラスタのいずれかに分類し、該静止画像の時系列に従って上位クラスタを下位クラスタに分割し、該静止画像の時系列に従って下位クラスタを統合し、シーン分割数分のクラスタを生成する。
【選択図】図1
Description
従来技術2では、コンシューマ生成動画像を対象として動画像データ間の類似度を判定することはできるが、要約コンテンツに適用する点が考慮されていない。また、従来技術2によって分類した各クラスタは、時間情報を考慮せず、色配置特徴量のみに基づいてクラスタリングされたものであるため、各クラスタ内には、元の動画像データでは時間的に離散している静止画像が混在する。このため、それぞれのクラスタを元の動画像データの内容に合致した1つのシーンとみなすには不十分である。さらに、要約用コンテンツ生成用として各クラスタから一体どの静止画像を抽出すればよいのかの判断も難しい。
図1は、本発明の一実施形態に係る動画像シーン分割装置1の概略構成を示すブロック図である。図1において、映像入力部3は、動画像データベース(動画像DB)2から、動画像シーン分割処理の対象となる映像データ(以下、元動画像データと称する)を読み出す。映像解析部4は、元動画像データから、映像の特徴を表す映像特徴量を抽出し、解析する。動画像分割部5は、映像解析部4による解析結果に基づいて元動画像データをシーンに分割する。
・元動画像データから抽出した静止画像(以下、要約用静止画と称する)を利用する。
・要約コンテンツの視聴時間は短く、データサイズは小さい。つまり、要約用静止画の枚数は少ない方がよい。
・要約用静止画は、時間的に離散している箇所から抽出する。つまり、要約コンテンツは、元動画像データのある区間から抜き出した連続した静止画像ではなく、元動画像データを分割したシーンから抽出した静止画像のみを利用する。
・元動画像データの内容に応じて、要約用静止画数、又は、シーン分割数を変動させる。
・要約コンテンツを視聴するだけで元動画像データの内容をある程度理解できるようにするため、元動画像データの内容をよく表している箇所、注目すべき箇所が要約用静止画に含まれるようにする。
(β×ω)/(α/θ)=1/R
但し、Rは定数である。
例えば、R=6、θ=30、ω=2とすると、αとβの関係は次式で表される。
β/α=1/360
この関係式から、元動画像データの全フレーム数αに対して要約用静止画数β(シーン分割数)が算出される。
d(Ci,Cj)=E(Ci∪Cj)−E(Ci)−E(Cj)
但し、E(Ci)はクラスタCiの全ての所属データとクラスタCiのクラスタ代表ベクトルとの距離の二乗の総和である。
[静止画像選択方法の実施例1]
シーン内の中央位置にある静止画像を要約用静止画として抽出する。
[静止画像選択方法の実施例2]
シーン内で、人物の顔が映っている静止画像を要約用静止画として抽出する。このとき、複数の静止画像が候補となる場合には最も顔らしい静止画像を抽出する。
[静止画像選択方法の実施例3]
シーン内の静止画像群に対して代表となる静止画像を要約用静止画として抽出する。例えば、シーン内の全ての静止画像の特徴量ベクトルについての平均ベクトルを求め、該平均ベクトルに最も近い特徴量ベクトルを有する静止画像を抽出する。
(1)コンシューマ生成動画像から意味的に価値のあるシーンに分割できる。
(2)分割されたシーンに含まれる静止画像を抽出するなどにより、コンシューマ生成動画像に対する要約コンテンツを生成することができる。この結果、コンシューマ生成動画像を大量に蓄積した動画像共有システムにおいて、コンシューマ生成動画像そのものを再生することなく、要約コンテンツを再生するだけで、該コンシューマ生成動画像の内容を理解できることができ、コンシューマ生成動画像の効率的な検索の実現に寄与することができる。
(3)元動画像データに対して、少数の静止画像を利用したデータサイズの小さい要約コンテンツを生成することができるので、携帯電話機など、通信速度の遅い通信機器であっても、要約コンテンツを高速にダウンロードして視聴することができる。
また、上記周辺機器については、動画像シーン分割装置1に直接接続するものであってもよく、あるいは通信回線を介して接続するようにしてもよい。
Claims (13)
- 映像データから静止画像を抽出する静止画抽出手段と、
静止画像から映像特徴量を抽出する静止画特徴量抽出手段と、
前記映像データのシーン分割数を決定するシーン分割数決定手段と、
前記映像データから抽出された静止画像の映像特徴量に基づいて、該静止画像を複数の上位クラスタのいずれかに分類する特徴量クラスタリング手段と、
前記映像データから抽出された静止画像の時系列に従って、前記上位クラスタを下位クラスタに分割する時系列情報クラスタリング手段と、
前記映像データから抽出された静止画像の時系列に従って前記下位クラスタを統合し、前記シーン分割数分のクラスタを生成するクラスタ統合手段と、
を備えたことを特徴とする動画像シーン分割装置。 - 前記特徴量クラスタリング手段は、
前記映像データから抽出された静止画像の映像特徴量に基づいて、該静止画像をクラスタに分類する手段と、
該クラスタの特徴を表す代表ベクトルを生成する手段と、
前記代表ベクトルに基づいてクラスタ間の類似度を算出する手段と、
該類似度の高いクラスタ同士を統合する手段と、
を有することを特徴とする請求項1に記載の動画像シーン分割装置。 - 前記時系列情報クラスタリング手段は、上位クラスタ内の静止画像群に対して、時系列順で隣接している静止画像同士を同じ下位クラスタに含めることを特徴とする請求項1又は請求項2に記載の動画像シーン分割装置。
- 前記クラスタ統合手段は、
下位クラスタの特徴を表す代表ベクトルを生成する手段と、
該代表ベクトルに基づいて下位クラスタ間の類似度を算出する手段と、
類似度の高い下位クラスタ同士を統合する手段と、
を有することを特徴とする請求項1から請求項3のいずれか1項に記載の動画像シーン分割装置。 - 前記クラスタ統合手段は、元々同じ上位クラスタに属していた2つの下位クラスタに挟まれている下位クラスタが存在する場合、それら3つの下位クラスタを同じクラスタに統合することを特徴とする請求項1から請求項4のいずれか1項に記載の動画像シーン分割装置。
- 前記クラスタ統合手段は、前記隣接する3つの下位クラスタ内の全ての静止画像の総数に対して、それら隣接する3つの下位クラスタの中で異なる上位クラスタに属していた下位クラスタ内の静止画像数の割合が一定値以下である場合にのみ、前記3つの下位クラスタの統合を行なうことを特徴とする請求項5に記載の動画像シーン分割装置。
- 前記類似度は前記代表ベクトル間の距離に基づいて求められ、該距離が近いものほど類似度が高いと判定することを特徴とする請求項2又は請求項4に記載の動画像シーン分割装置。
- 前記シーン分割数は、前記映像データ内の静止画像の総数に対する割合で規定されることを特徴とする請求項1から請求項7のいずれか1項に記載の動画像シーン分割装置。
- 前記下位クラスタ同士を統合する際、静止画像の映像特徴量に応じてシーン分割数を変更する手段を設けたことを特徴とする請求項1から請求項7のいずれか1項に記載の動画像シーン分割装置。
- 時系列的に連続する静止画間の映像特徴量の変化量を求め、その変化量が一定量より大きい場合にシーン分割数を増加させることを特徴とする請求項9に記載の動画像シーン分割装置。
- 時系列的に連続する静止画間の映像特徴量の変化量を求め、その変化量が一定量より小さい場合にシーン分割数を減少させることを特徴とする請求項9又は請求項10に記載の動画像シーン分割装置。
- 前記映像特徴量は色配置特徴量であることを特徴とする請求項1から請求項11のいずれか1項に記載の動画像シーン分割装置。
- 映像データを複数のシーンに分割する動画像シーン分割方法であって、
映像データから静止画像を抽出する静止画抽出ステップと、
静止画像から映像特徴量を抽出する静止画特徴量抽出ステップと、
前記映像データのシーン分割数を決定するシーン分割数決定ステップと、
前記映像データから抽出された静止画像の映像特徴量に基づいて、該静止画像を複数の上位クラスタのいずれかに分類する特徴量クラスタリングステップと、
前記映像データから抽出された静止画像の時系列に従って、前記上位クラスタを下位クラスタに分割する時系列情報クラスタリングステップと、
前記映像データから抽出された静止画像の時系列に従って前記下位クラスタを統合し、前記シーン分割数分のクラスタを生成するクラスタ統合ステップと、
を含むことを特徴とする動画像シーン分割方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008093239A JP4949307B2 (ja) | 2008-03-31 | 2008-03-31 | 動画像シーン分割装置および動画像シーン分割方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008093239A JP4949307B2 (ja) | 2008-03-31 | 2008-03-31 | 動画像シーン分割装置および動画像シーン分割方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009246829A true JP2009246829A (ja) | 2009-10-22 |
JP4949307B2 JP4949307B2 (ja) | 2012-06-06 |
Family
ID=41308237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008093239A Expired - Fee Related JP4949307B2 (ja) | 2008-03-31 | 2008-03-31 | 動画像シーン分割装置および動画像シーン分割方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4949307B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114187556A (zh) * | 2021-12-14 | 2022-03-15 | 养哇(南京)科技有限公司 | 一种基于画面特征的高清视频智能分割方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06251147A (ja) * | 1993-02-23 | 1994-09-09 | Nippon Telegr & Teleph Corp <Ntt> | 映像特徴処理方法 |
JP2004254065A (ja) * | 2003-02-20 | 2004-09-09 | Nippon Telegr & Teleph Corp <Ntt> | 動画像中の代表画像抽出装置,動画像中の代表画像抽出方法,動画像中の代表画像抽出プログラムおよび動画像中の代表画像抽出プログラムの記録媒体 |
-
2008
- 2008-03-31 JP JP2008093239A patent/JP4949307B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06251147A (ja) * | 1993-02-23 | 1994-09-09 | Nippon Telegr & Teleph Corp <Ntt> | 映像特徴処理方法 |
JP2004254065A (ja) * | 2003-02-20 | 2004-09-09 | Nippon Telegr & Teleph Corp <Ntt> | 動画像中の代表画像抽出装置,動画像中の代表画像抽出方法,動画像中の代表画像抽出プログラムおよび動画像中の代表画像抽出プログラムの記録媒体 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114187556A (zh) * | 2021-12-14 | 2022-03-15 | 养哇(南京)科技有限公司 | 一种基于画面特征的高清视频智能分割方法 |
CN114187556B (zh) * | 2021-12-14 | 2023-12-15 | 华策影视(北京)有限公司 | 一种基于画面特征的高清视频智能分割方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4949307B2 (ja) | 2012-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6964021B2 (en) | Method and apparatus for skimming video data | |
US8750681B2 (en) | Electronic apparatus, content recommendation method, and program therefor | |
US7826709B2 (en) | Metadata editing apparatus, metadata reproduction apparatus, metadata delivery apparatus, metadata search apparatus, metadata re-generation condition setting apparatus, metadata delivery method and hint information description method | |
US9271035B2 (en) | Detecting key roles and their relationships from video | |
US8316301B2 (en) | Apparatus, medium, and method segmenting video sequences based on topic | |
US8068678B2 (en) | Electronic apparatus and image processing method | |
WO2007020897A1 (ja) | 映像シーン分類装置および映像シーン分類方法 | |
Takahashi et al. | Video summarization for large sports video archives | |
CN103200463A (zh) | 一种视频摘要生成方法和装置 | |
JP2008148077A (ja) | 動画再生装置 | |
Furini et al. | VISTO: visual storyboard for web video browsing | |
JP5116017B2 (ja) | 動画検索方法およびシステム | |
KR101536930B1 (ko) | 동영상을 요약하는 방법 및 동영상 요약기, 그리고 이를 이용한 동영상 만화 정보 서비스 방법 | |
KR100436828B1 (ko) | 주문형 동영상 요약 서비스 시스템 | |
JP2008086030A (ja) | ヒント情報記述方法 | |
Tsao et al. | Thumbnail image selection for VOD services | |
KR20050033075A (ko) | 비디오 이미지들의 시퀀스에서 콘텐트 속성을 검출하는 유닛 및 방법 | |
JP4949307B2 (ja) | 動画像シーン分割装置および動画像シーン分割方法 | |
Lie et al. | News video summarization based on spatial and motion feature analysis | |
JP4652389B2 (ja) | メタデータ処理方法 | |
Dimitrova et al. | Selective video content analysis and filtering | |
JP2009251838A (ja) | 画像検索装置 | |
Yang et al. | Improved quality keyframe selection method for hd video | |
Barbieri | Automatic summarization of narrative video | |
Lu | Content analysis and summarization for video documents |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100716 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20100720 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110830 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20111026 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111026 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120207 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120307 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150316 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4949307 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |