JP4378988B2 - コンテンツ生成システム - Google Patents
コンテンツ生成システム Download PDFInfo
- Publication number
- JP4378988B2 JP4378988B2 JP2003097578A JP2003097578A JP4378988B2 JP 4378988 B2 JP4378988 B2 JP 4378988B2 JP 2003097578 A JP2003097578 A JP 2003097578A JP 2003097578 A JP2003097578 A JP 2003097578A JP 4378988 B2 JP4378988 B2 JP 4378988B2
- Authority
- JP
- Japan
- Prior art keywords
- content
- frame
- video
- frame image
- reproduction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Description
【発明の属する技術分野】
本発明は、動画コンテンツに対して、意味のある画像であるキーフレーム画像を重要度の高い順に求めるランキング計算の方式、システムに関する。
【0002】
【従来の技術】
近年、高速ネットワークの整備が進み、CATVインターネットやDSLサービスを利用して大量の動画コンテンツを閲覧することが可能になってきている。今後、配信されるコンテンツはさらに多くなると考えられるが、視聴者が視聴する時間は限られており、あまり増えることはない。そこで、多くのコンテンツの中から、視聴者の嗜好にあった動画コンテンツを効率よく選択できるように、動画コンテンツから意味のあるフレーム画像(以下、キーフレーム画像と呼ぶ)を自動検出し、要約コンテンツを生成する技術が研究されている。
【0003】
キーフレーム画像を自動検出し、要約コンテンツを生成する技術の一つとして、視聴者が要約コンテンツの詳細レベルを指定し、詳細レベルが高ければ、多くのキーフレーム画像で構成される要約コンテンツを、詳細レベルが低ければ、少ないキーフレーム画像で構成される要約コンテンツを生成する技術がある(例えば、非特許文献1等参照)。この技術では、図7に示すように、複数のフレーム画像62から構成される動画コンテキスト61において、各フレーム画像に対して、重要度を示すランクを計算する。例えば、動画コンテキスト61に含まれるフレーム画像62が3000フレームある場合、ランクとして1から3000の値が各フレーム画像の重要度を計算して割り振られる。そして、指定された詳細レベルによって、取り出すフレーム画像の数を決定し、ランクの高い順からフレーム画像をとりだす。この技術を使うことにより、例えば、2時間の映画を、視聴者の要求に応じて、5分版や20分版など自由に縮小して提供することができる。視聴者がリアルタイムに要約コンテンツの詳細レベルを変更できるようにするためには、動画コンテンツから前もって、重要度(ランク)の高い順に並んだフレーム画像の列を求める必要がある(以下、この処理をランキング計算と呼ぶ)。一般にフレーム画像はフレーム番号を使用して管理されるので(例えば、特許文献1等参照)、ランキング計算の結果は図8のように、ランクの高い順にフレーム番号が並んだテーブルとなる。そして、視聴者が指定した詳細レベルに従って、ランキング結果の上位からフレーム番号を複数個選択し、フレーム番号の小さい順に(過去から未来へ)並べ替えた後、各々のフレーム画像をデコードするのに必要な画像情報を動画コンテンツから取り出す。そして、必要なら各々のフレーム画像のデコード処理をおこない、それらをまとめて要約コンテンツを生成する。例えば、視聴者が5分版の詳細レベルで毎秒30フレームの動画コンテンツを指定した場合には、ランキング結果の上位9000フレーム分(毎秒30フレーム*60秒*5分)を取得し、並び替えをおこなって、要約コンテンツを生成する。最終的に、要約コンテンツはモニタ画面に出力されたり、ハードディスクへ保存されたり、ネットワークに配信されたりする。
【0004】
【非特許文献1】
Daniel DeMenthon, Vikrant Kobla, David Doermann,“Video Summarization byCurve Simplification”,Proceedings of the sixth ACM international conference on Multimedia 1998, Bristol, United Kingdom, pp.211−218, 1998
【特許文献1】
特開平11−259061号公報
【0005】
【発明が解決しようとする課題】
動画コンテンツが映像だけでなく音声や字幕情報なども含んでいる場合、動画コンテンツをMPEG−2システムで規定されているトランスポートストリームやプログラムストリーム等のように、映像、音声、字幕情報などを1本のストリームにする場合と、映像、音声、字幕情報などを別々のストリームにして管理する場合が考えられる。いずれの場合も、要約コンテンツに音声、字幕情報を付加するために、ランキング計算によって求めたキーフレーム画像の時刻と同一の時刻の音声、字幕情報をストリームから取得する必要がある。仮に、音声や字幕などの情報の各フレームが動画コンテキストのどの位置に格納されているかを図9で示すような構成のテーブルで管理していたとしても、映像、音声、字幕情報のフレームレートは全く異なるので、フレーム画像のフレーム番号と音声、字幕情報のフレーム番号が同一でも、再生する時刻は同一とならない。つまり、ランキング結果をフレーム番号で管理すると、フレーム画像と同一時刻の音声、字幕情報を取得することは難しく、お互いの同期をとることは困難となる。
【0006】
また、ネットワークを使った監視カメラシステムなどのように、複数の遠隔地で録画された動画コンテンツを1箇所に転送するようなシステムで、録画された映像の要約コンテンツも同時に転送する場合、動画コンテンツのフレームレートが同一でないと、各々の動画コンテンツのフレーム番号が同一でも、再生する時刻は同一とならない。その結果、お互いのフレーム番号を使用しても、それぞれの映像の同期をとることは困難となる。
【0007】
本発明は、要約コンテンツを生成するために、ランキング計算によって検出されたキーフレーム映像と、音声、字幕情報との間の同期や、複数の要約コンテンツの同期をとることを可能にする手段を提供する。
【0008】
【課題を解決するための手段】
上記課題は、動画コンテンツから、意味のある画像であるキーフレーム画像を重要度の高い順に求めるランキング計算方式であって、動画コンテンツを受け取り、重要度の高いキーフレーム画像の順に、各キーフレーム画像の再生出力の時刻管理情報が並んだ列を出力することによって、解決される。
【0009】
【発明の実施の形態】
図1は、本発明のランキング計算方式である。
【0010】
ランキング計算手段1は記憶装置から動画コンテンツ2を取得し、重要度の高いフレーム画像順に配列された、フレーム画像の再生時刻の配列を記憶装置に出力する。配列の構成例として、図2に示す構成のテーブルが挙げられる。
【0011】
図3は、本発明のランキング計算方式を使用した、映像と音声等の情報との同期をとることが可能なランキング計算システムの一実施例である。
【0012】
ランキング計算手段11は動画コンテンツ12から、すべてのフレーム画像を取得し、ランキング計算を実行して各フレーム画像のランクを算出する。そして、図2で示すような、重要度の高いフレーム画像順に並んだフレーム画像の再生時刻のテーブル13を出力する。要約コンテンツ再生手段15は再生時刻のテーブル13を読み込み、視聴者が指定した詳細レベルにしたがって、上位のランクから複数のフレーム画像の再生時刻を取得し、小さい順に並び替えを行う。そして、小さい順に再生時刻に対応する映像、音声等の情報を動画コンテンツ12から取得し、再生した結果を選択手段16に出力する。また、コンテンツ再生手段14は動画コンテンツ12を取得し、すべてのフレームの再生を行い、選択手段16に出力する。選択手段16は視聴者の要求にしたがい、動画コンテンツか要約コンテンツのいずれかを選択し、表示装置17に出力する。
【0013】
上位ランクで選択されたフレーム画像の再生時刻を基に、映像、音声等の情報を取得するので、容易に同時刻のフレームを動画コンテンツから取り出すことができ、映像、音声等の同期が可能となる。
【0014】
次に、図4のフローチャートを用いて、本実施例の動作について説明する。
【0015】
まず初めに、動画コンテンツから順にフレーム画像をとりだし、ランキング計算を実行して、表2のテーブルを出力する(ステップ21)。次に、視聴者からの詳細レベルから取得するフレーム画像のフレーム数を計算する(ステップ22)。上位のランクから再生時刻を取得するため、現在対象としているランクとして1を設定する(ステップ23)。現在対象としているランクがフレーム数以下かどうかを判定し(ステップ24)、フレーム数以下なら、テーブルから再生時刻を取得する(ステップ25)。そして、対象としているランクの値に1を加算し(ステップ26)、再度ステップ24を実行する。もし、フレーム数分の再生時刻の取得を完了したら、それらの再生時刻を小さい順に並び替え(ステップ27)、その順に、再生時刻のデコードに必要な画像、音声、字幕の情報を動画コンテンツから取得する(ステップ28)。最後に、画像、音声、字幕の同期をとりながら、再生して出力するか、ディスクへ保存するか、または、ネットワークに配信する。
【0016】
図5は、本発明のランキング計算方式を使用した、複数の要約コンテンツの同期をとることが可能なランキング計算システムの一実施例である。
【0017】
ランキング計算システムは、複数の配信サーバ30、閲覧装置36とネットワーク35で構成され、配信サーバ30は、ランキング計算手段31、コンテンツ圧縮手段32、動画コンテンツ33、ランクと再生時刻のテーブル34で構成される。配信サーバ30内では、コンテンツ圧縮手段32が外部から入力された原画像に対して、MPEG−2やMPEG−4,JPEG−2000などの形式に圧縮し、動画コンテンツ33を生成する。ランキング計算手段31は動画コンテンツ33を読み込んで、各フレーム画像のランクを計算し、ランクと再生時刻のテーブル34を図2のような形式で出力する。閲覧装置36は、複数の動画コンテンツ37、複数のランクと再生時刻のテーブル38、フレーム選択手段39、コンテンツ再生手段40、コンテンツ統合手段41、表示装置42で構成される。閲覧装置36では、ネットワーク35を介して、各配信サーバから動画コンテンツ37、ランクと再生時刻のテーブル38を取得する。フレーム選択手段39は、視聴者からの詳細レベルにしたがって、各々のテーブル38から、必要なフレーム画像の再生時刻を算出し、その時刻の再生に必要なフレーム画像を複数の動画コンテンツ37からそれぞれ取り出す。コンテンツ再生手段40は、フレーム選択手段39から複数のフレーム画像を取得し、コンテンツ圧縮手段32でMPEG−2やMPEG−4,JPEG−2000などに圧縮された形式を復元する処理を行う。コンテンツ統合手段41は、コンテンツ再生手段40で復元された複数の要約コンテンツに対して、視聴者の要求にしたがって、複数の要約コンテンツを1つの画面に統合するか、1つの要約コンテンツを選択して1つの画面にして、表示装置42により画面出力する。
【0018】
フレーム番号ではなく再生時刻を基にフレーム画像を選択するので、各動画コンテンツのフレームレートが異なっても、同時刻のフレーム画像を取得することが可能であり、容易に要約コンテンツの同期をとることができる。
【0019】
図6は、本発明のランキング計算方式で使用する関数インタフェースの一実施例である。
【0020】
関数の引数はフレーム画像の格納先51と、ランキング計算結果であるランク順に並んだ各フレーム画像の再生時刻の格納先52で構成される。
【0021】
【発明の効果】
本発明により、動画コンテンツが映像だけでなく音声や字幕なども含んでいる場合においても、ランキング計算によって求めたキーフレーム画像に対応する音声や字幕を取得し、キーフレーム画像と、音声、字幕間の同期をとるのが容易となる。
【0022】
また、複数の地点で別々に生成された動画コンテンツを1箇所に集約する場合で、各々の動画コンテンツのフレームレートが異なった場合においても、キーフレーム画像のフレーム番号ではお互いのキーフレーム画像の同期をとることができる。
【図面の簡単な説明】
【図1】本発明のランキング計算方式の構成を示す図である。
【図2】本発明のビデオフレームのランクと再生時刻のテーブルの構成を示す図である。
【図3】本発明の映像と音声等、他の情報との同期をとることが可能なランキング計算システムの構成を示す図である。
【図4】本発明の映像と音声、字幕情報との同期をとることが可能なランキング計算処理のフローチャートを示す図である。
【図5】本発明のネットワークを介して複数のランキング計算結果を使用して、一つの要約コンテンツを生成するランキング計算システムの構成を示す図である。
【図6】本発明のビデオフレームのランクと再生時刻のテーブルを取得するプログラムのインタフェースを示す図である。
【図7】動画コンテンツのフレームとランクの関係を示す図である。
【図8】ビデオフレームのランクとフレーム番号のテーブルの構成を示す図である。
【図9】ビデオフレームのフレーム番号と格納先のテーブルの構成を示す図である。
【符号の説明】
1…ランキング計算手段、2…動画コンテンツ、3…ビデオフレームのランクと再生時刻のテーブル、11…ランキング計算手段、12…動画コンテンツ、13…ビデオフレームのランクと再生時刻のテーブル、14…コンテンツ再生手段、15…要約コンテンツ再生手段、16…選択手段、17…表示装置、30…配信サーバ、31…ランキング計算手段、32…コンテンツ圧縮手段、33…動画コンテンツ、34…ビデオフレームのランクと再生時刻のテーブル、35…ネットワーク、36…閲覧装置、37…動画コンテンツ、38…ビデオフレームのランクと再生時刻のテーブル、39…フレーム選択手段、40…コンテンツ再生手段、41…コンテンツ統合手段、42…表示装置、51…ビデオフレームの格納先、52…再生時刻の配列へのポインタ、61…動画コンテンツ、62…フレーム画像。
Claims (1)
- 複数フレームの映像情報と、音声情報で代表される付加情報とを含む動画コンテンツの各フレーム画像について重要度を示すランクを計算して割り振るランキング計算手段と、所望の詳細レベルに応じた数のフレーム画像を抽出して要約コンテンツを生成する要約コンテンツ生成手段とを有するコンテンツ生成システムであって、
前記ランキング計算手段は、各フレーム画像に割り振ったランクから、重要度の高いフレーム画像の順に各フレーム画像の全フレーム再生時の再生時刻情報を配列したテーブルを出力し、
前記要約コンテンツ生成手段は、前記テーブルの上位から前記所望の詳細レベルに応じた数のフレーム画像の再生時刻情報を取得して再生時刻の小さい順に並び替えを行い、並び替えた再生時刻情報を基に前記動画コンテンツから上位ランクのフレーム画像、及び対応する付加情報を取得して要約コンテンツを生成することを特徴とするコンテンツ生成システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003097578A JP4378988B2 (ja) | 2003-04-01 | 2003-04-01 | コンテンツ生成システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003097578A JP4378988B2 (ja) | 2003-04-01 | 2003-04-01 | コンテンツ生成システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004304676A JP2004304676A (ja) | 2004-10-28 |
JP4378988B2 true JP4378988B2 (ja) | 2009-12-09 |
Family
ID=33409323
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003097578A Expired - Fee Related JP4378988B2 (ja) | 2003-04-01 | 2003-04-01 | コンテンツ生成システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4378988B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007150975A (ja) * | 2005-11-30 | 2007-06-14 | Toshiba Corp | 映像記録再生装置及び映像記録再生方法 |
KR102542788B1 (ko) | 2018-01-08 | 2023-06-14 | 삼성전자주식회사 | 전자장치, 그 제어방법 및 컴퓨터프로그램제품 |
US11475669B2 (en) * | 2020-07-30 | 2022-10-18 | Ncr Corporation | Image/video analysis with activity signatures |
-
2003
- 2003-04-01 JP JP2003097578A patent/JP4378988B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004304676A (ja) | 2004-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11468917B2 (en) | Providing enhanced content | |
KR100904098B1 (ko) | 다수의 비디오 스트림의 리스팅 및 네비게이팅 방법, 장치및 시스템 | |
JP4606738B2 (ja) | マルチメディア信号処理システム | |
KR101115701B1 (ko) | 음성 인식 기술을 이용하여 생성된 메타데이터로 영상 콘텐츠에 주석을 달기 위한 방법 및 장치 | |
US11627381B2 (en) | Video assets having associated graphical descriptor data | |
US20100169906A1 (en) | User-Annotated Video Markup | |
US20030095790A1 (en) | Methods and apparatus for generating navigation information on the fly | |
JP2004531184A (ja) | デジタル情報の効率的な伝送および再生 | |
TW200414763A (en) | Apparatus for receiving a digital information signal | |
EP2640084A2 (en) | Video distribution system, apparatus, method and medium for distributing time shifted content starting from a selected chapter | |
JP3756748B2 (ja) | 画像送信装置および画像伝送方法 | |
JP2009225116A (ja) | ネットワーク伝送機能を備えた映像記録装置 | |
JP4378988B2 (ja) | コンテンツ生成システム | |
WO2014103374A1 (ja) | 情報管理装置、サーバ及び制御方法 | |
KR101603976B1 (ko) | 동영상 파일 결합 방법 및 그 장치 | |
TW201519641A (zh) | 資料處理裝置、資料處理方法、程式、記錄媒體及資料處理系統 | |
lén Fernández et al. | Browsing sport content through an interactive h. 264 streaming session | |
JP3896371B2 (ja) | 映像蓄積装置及び映像再生装置 | |
US20090307725A1 (en) | Method for providing contents information in vod service and vod system implemented with the same | |
JP2005130262A (ja) | 画像閲覧装置及び閲覧方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060328 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20060420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090310 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090508 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090602 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090825 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090907 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121002 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121002 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131002 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |