JP4285287B2 - 画像処理装置、画像処理方法およびそのプログラム、記録媒体 - Google Patents

画像処理装置、画像処理方法およびそのプログラム、記録媒体 Download PDF

Info

Publication number
JP4285287B2
JP4285287B2 JP2004075671A JP2004075671A JP4285287B2 JP 4285287 B2 JP4285287 B2 JP 4285287B2 JP 2004075671 A JP2004075671 A JP 2004075671A JP 2004075671 A JP2004075671 A JP 2004075671A JP 4285287 B2 JP4285287 B2 JP 4285287B2
Authority
JP
Japan
Prior art keywords
scene
scenes
image processing
switching effect
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004075671A
Other languages
English (en)
Other versions
JP2005268991A (ja
Inventor
健治 松坂
順一郎 篠▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004075671A priority Critical patent/JP4285287B2/ja
Priority to US11/084,857 priority patent/US7630021B2/en
Publication of JP2005268991A publication Critical patent/JP2005268991A/ja
Application granted granted Critical
Publication of JP4285287B2 publication Critical patent/JP4285287B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/038Cross-faders therefor
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2508Magnetic discs
    • G11B2220/2516Hard disks

Description

本発明は、動画像から抽出した複数のシーンを繋ぎ合わせる画像処理装置、画像処理方法およびコンピュータプログラム、記録媒体に関する。
従来から、長時間の動画像の内容を短時間で把握したいというニーズがある。こうしたニーズに対応するため、動画像から代表シーン(画像)を複数抽出し、この代表画像を繋ぎ合わせて、いわゆるダイジェスト動画(要約)を生成する様々な方法が用いられている。例えば、下記特許文献1には、DVDに収録された動画像の内容について、その動画像の画像、音、字幕などの状態が変化する位置を検出し、検出された位置の情報に基づいて、動画像から幾つかの代表画像を抽出して要約を生成する技術が開示されている。
特開平10−232884号公報
こうした技術を用いて、自動的に代表シーンを繋ぎ合わせたダイジェスト動画は、短時間に編集された動画像であり、かつ、動画像の内容が把握できるものとされている。
しかしながら、こうしたダイジェスト動画は、各シーンの繋ぎ合せに何ら配慮がされておらず、見づらいものであるという問題があった。これは、動画像の内容とは無関係に各シーンを単に繋ぎ合わせて編集し、シーンの切り替わり(シーンチェンジ)に効果的な処理を施していないことが一因であった。このため、各シーンを効果的に繋ぎ合わせるように、ユーザがシーンの前後を確認してシーンチェンジの効果を設定しなければならず、煩雑な操作が必要となっていた。また、見栄えを向上するために、シーンチェンジの部分に効果的な処理を施した新たな画像を単に追加する場合、ダイジェスト動画全体の再生時間を延ばすこととなる。特に、ダイジェスト動画の再生時間を決められた時間内に納める必要がある場合、新たな画像を追加することが困難となっていた。
本発明は、こうした問題を解決し、自動的に効果的なシーンチェンジを設定して各シーンを繋ぎ合わせる画像処理装置、画像処理方法の提供を目的とする。
本発明の第1の画像処理装置は、上記課題の少なくとも一部を解決するため、以下の手法を採った。すなわち、動画像から抽出した複数のシーンを繋ぎ合わせる画像処理装置であって、前記複数のシーンの特徴を示すシーン情報を抽出するシーン情報抽出手段と、前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶する切替効果記憶手段と、前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択する切替効果選択手段と、前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力する出力手段とを備え、前記シーン情報抽出手段は、繋ぎ合わせる前後のシーンのうち、時系列順で前のシーンの終わりから時系列的に、該前のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量、および時系列順で後のシーンの初めから時系列的に、該後のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量のうち、少なくとも一方を含んだ情報を、前記シーン情報として抽出することを要旨としている。
また、本発明の第1の画像処理方法は、
前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶し、
前記複数のシーン各々の特徴を示すシーン情報を、繋ぎ合わせる前後のシーンのうち、時系列順で前のシーンの終わりから時系列的に、該前のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量、および時系列順で後のシーンの初めから時系列的に、該後のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量のうち、少なくとも一方を含んだ情報として抽出し、
前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択し、
前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力すること
を要旨としている。
第1の画像処理装置および画像処理方法によれば、予め記憶した複数の種類の切替効果の中から、シーン情報に基づいて、シーンの切替えに用いる切替効果を選択し、その切替効果を用いてシーンを繋ぎ合わせる。したがって、シーンの特徴を考慮したシーンの切替えの切替効果を選択することができ、シーンの繋ぎ合わせを自動的に実行することができる。こうして出力された画像は、シーンの内容を考慮しているため、シーンの切替りが見づらいものとなることはない。
上記の構成を有する画像処理装置におけるシーン情報には、シーンの輝度変化、パン、チルトやズームなどカメラワークに関するデータ、こうしたデータを予め画像に付加したメタデータなど種々のものを用いることができるが、特に、一のシーンを構成する複数のフレーム画像間において動きのある物体として判断される動体の動きを記述する状態量を用いることができる。
かかる画像処理装置によれば、一のシーンの特徴を、そのシーンを構成する複数のフレーム画像間の動体の状態量によって認識する。一般的に、動画像の一シーンに動体が存在する場合、その動体がそのシーンの要部であることが多い。一のシーンのシーン情報を、面積変化、位置変化などの動体の動きを記述する状態量で代表することで、シーンの特徴を容易に認識することができ、繋ぎ合わせるシーンの特徴を考慮した処理を実行することができる。
上記の構成を有する画像処理装置のシーン情報抽出手段は、繋ぎ合わせる2つのシーンのうち、時系列順で前のシーンの終わりから順に、および/または、時系列順で後のシーンの初めから順に、それぞれ所定枚数のフレーム画像を抽出するフレーム抽出手段を備えるものとしても良い。
かかる画像処理装置によれば、繋ぎ合わせる2つのシーンの終わり、および/または、初めから、所定枚数のフレーム画像を抽出する。この抽出したフレーム画像に基づいて、そのシーンのシーン情報を抽出する。つまり、シーン全体の情報量を必要とせず、繋ぎ合わせる部分のみのフレーム画像の情報を用いてシーン情報を抽出することができる。
上記の構成を有する画像処理装置のシーン情報抽出手段は、前記抽出されたフレーム画像間のずれ量を検出し、該ずれ量を補正することで前記動体を判定し、該動体の状態量を算出する特徴量算出手段を備えるものとしても良い。
かかる画像処理装置によれば、予め繋ぎ合わせるシーンにシーン情報が付加されていなくても、シーンの一部のフレーム画像間における演算で、動体の情報を認識することができる。したがって、種々の動画像に対応し、効果的なシーンの繋ぎ合わせを実行することができる。
上記の構成を有する画像処理装置のシーン情報には、前記シーン毎の再生時間を含み、前記フレーム抽出手段は、前記シーンの再生時間に応じた枚数のフレーム画像を抽出する手段であるものとしても良い。
かかる画像処理装置によれば、シーンの再生時間が長い場合には、多数枚のフレーム画像を抽出し、再生時間が短い場合に、少数枚のフレーム画像を抽出する。つまり、適切な量のフレーム画像に基づいてシーン情報を抽出することができ、効率的な処理をすることができる。
上記の構成を有する画像処理装置の記憶した複数の種類の切替効果は、少なくともカット、スライド、ワイプ、フェードのいずれかであるとしても良い。こうした切替効果を用いることで、効果的なシーンの繋ぎ合わせをすることができる。
上記の構成を有する画像処理装置のシーン情報には、前記シーンの再生時間を含み、前記切替効果選択手段は、前記再生時間が所定時間より短いシーンの場合には、前記切替効果としてカットを選択するものとしても良い。
かかる画像処理装置によれば、もともと再生時間が所定時間よりも短いシーンについては、所定の切替効果としてカットを選択する。つまり、繋ぎ合わせるシーンの終わり、および/または、初めのフレーム画像に処理を加えず、そのままシーンを繋ぎ合わせる。こうすることで、例えば、アクションシーンなどの頻繁に変わるシーンを効果的に繋ぎ合わせることができる。
上記の構成を有する画像処理装置の切替効果選択手段は、前記シーン情報から繋ぎ合わせる2つのシーンの関係を類型し、該類に応じた前記切替効果を選択する手段であるものとしても良い。
かかる画像処理装置によれば、一のシーンの特徴のみならず、繋ぎ合わせる他のシーンの特徴も加味して切替効果を決定する。こうした2つのシーンの関係を類型し、類毎に切替効果を設定しておくことで、使用する切替効果を容易に選定することができる。
上記の構成を有する画像処理装置の出力手段は、繋ぎ合わせる2つのシーンの一端を重ね合わせて出力する手段とすることができる。
かかる画像処理装置によれば、繋ぎ合わせる2つのシーンの一端を重ね合わせて一つの動画像を出力するため、出力した動画像の全体の再生時間を短くすることがきる。例えば、シーン1の終わりの部分の所定枚数のフレーム画像とシーン2の初めの部分の所定枚数のフレーム画像とから、切替効果を考慮して新たに合成フレーム画像を生成し、シーン1とシーン2とを重ね合わせる部分に合成フレーム画像を使用する。こうして2つのシーンを繋ぎ合わせることで、シーンの切替に配慮しつつ、生成した動画像の全体の再生時間を短くすることがきる。
上記の構成を有する画像処理装置のシーン情報には、前記動体の状態量として該動体の移動速度を含み、前記出力手段は、前記移動速度に基づいて、前記所定の切替効果の変化する速度を調整してシーンを繋ぎ合わせて出力するものとしても良い。
かかる画像処理装置によれば、動体の動きを中心として切替効果の変化する速度を調整する。したがって、動体を長く表示しながら徐々にシーンを切り替えるなどの動体を優先して表示する切替効果を施すことができる。
上記の構成を有する画像処理装置のシーン情報抽出手段は、前記繋ぎ合わせる複数のシーンのうち、時系列順で最初のシーンの前、および/または、時系列順で最後のシーンの後に、擬似的なシーンを追加する手段を備え、前記擬似的なシーンと前記最初のシーン、および/または、前記最後のシーンとを、所定の切替効果を用いて繋ぎ合わせるものとしても良い。
かかる画像処理装置によれば、複数のシーンを繋ぎ合わせた結果として生成される動画像の初めの部分、および/または、終わりの部分に所定の切替効果を追加することができ、出力した動画像を更に効果的なものとすることができる。
本発明は、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体としても実装することができる。
以下、本発明の実施の形態について、実施例に基づき以下の順序で説明する。
A.第1実施例:
A1.画像処理装置の構成:
A2.画像処理:
A3.シーン特徴量算出処理:
A4.グループ決定処理:
A5.シーン切替設定処理:
B.第2実施例:
C.変形例:
A.第1実施例:
A1.画像処理装置の構成:
図1は、本発明の第1実施例としての画像処理システム100を示す説明図である。図示するように、この画像処理システム100は、所定の動画像を記憶し、再生するHDDレコーダ10、HDDレコーダ10と接続され動画像を映し出すTVモニタ20等から構成されている。
HDDレコーダ10は、記憶した動画像を編集する様々な機能を有している。例えば、動画像の中のシーンの切り替わりを自動で検出し、シーンごとに代表となるフレーム画像のインデックス(サムネイル)を作成するインデックス機能や、シーンごとに動画像の一部を切り出し、これらを繋ぎ合わせてダイジェスト動画を作成するダイジェスト機能である。こうしたシーンの切り替わりの自動検出は、シーン(動画像)を構成する複数のフレーム画像の色調や輝度などの変化を検出することで行なわれている。つまり、このHDDレコーダ10は、一つの動画像に対して、ダイジェスト動画を生成するための複数のシーンを有している。
このHDDレコーダ10は、動画像およびユーザ操作の入出力を制御するI/F回路部12、I/F回路部12を介して動画像を記憶するハードディスク14、HDDレコーダ10の各種機能を制御するCPU15,ROM16,RAM17等から構成されており、入力した動画像をデジタルデータとして記憶している。
I/F回路部12は、TVモニタ20および操作パネル18と接続しており、操作パネル18を介したユーザの要求に応じて、TVモニタ20で受信した動画像を入力する。I/F回路部12は、受信した動画像がアナログデータである場合には、デジタルデータに変換している。なお、操作パネル18には、赤外線の受光部が設けてあり、外部からのリモコン19操作によりHDDレコーダ10を操作することができる。
このHDDレコーダ10は、図示しないパーソナルコンピュータに接続する端子が設けられており、ハードディスク14に記憶した動画像をパーソナルコンピュータに取り込むことができる。なお、HDDレコーダ10は、予めハードディスク14に記憶した動画像を記憶媒体に出力するDVD−Rドライブを装着するものとしても良い。
ハードディスク14は、動画像を記憶する大容量の記憶領域と、HDDレコーダ10の各種機能を実行するプログラムを記憶した記憶領域とを備えている。後者の記憶領域には、上述の動画像の編集機能のプログラムと共に、複数のシーンを効果的に繋ぎ合わせるための画像処理のプログラム(以下、画像処理プログラムと呼ぶ)が記憶されている。
この画像処理プログラムは、主に、繋ぎ合わせる2つのシーンの特徴であるシーン情報を抽出する機能、シーンの切替えに用いる複数の種類の切替効果を予め記憶する機能、シーン情報から繋ぎ合わせに用いる切替効果を選択する機能、選択された切替効果を用いてシーンを繋ぎ合わせる機能を実行するものである。つまり、この画像処理プログラムを備えたHDDレコーダ10は、特許請求の範囲の「シーン情報抽出手段」,「切替効果記憶手段」,「切替効果選択手段」,「出力手段」を備えた画像処理装置となる。
こうした構成の画像処理システム100において、ユーザが操作パネル18を用いて、ハードディスク14に記憶された所定のダイジェスト動画の編集操作をすると、CPU15は、ROM16,RAM17と協働して画像処理プログラムを実行する。なお、画像処理の実行後のダイジェスト動画は、ハードディスク14に記憶され、必要に応じてTVモニタ20の画面上に再生される。
この画像処理の一連の概念図を、図2に示した。図示するように、この画像処理では、2つのシーンを繋ぎ合わせる際に、シーンの切替効果を選択し、その切替効果を用いたシーンの切り替え(シーンチェンジ)を実行している。例えば、ハードディスク14内のシーン1とシーン2とを繋ぎ合わせる場合には、シーン1の終わりから時系列に所定枚数のフレーム画像を抽出し、シーン2の初めから時系列に所定枚数のフレーム画像を抽出する。抽出した複数のフレーム画像からシーン1のシーン情報としての特徴量Aとシーン2の特徴量Bとを抽出し、両特徴量A,Bからシーン1とシーン2との関係をグループに分類する。分類されたグループに対応して、予め記憶した切替効果の中から切替効果1を選択する。例えば、切替効果1はワイプ、切替効果2はスライドといった画像効果を選択する。選択された切替効果を用いて、2つのシーンを繋ぎ合わせる。こうして繋ぎ合わせるシーンの内容(特徴量)を考慮したシーンチェンジを実行する。なお、シーンの特徴量および切替効果については、後に詳しく説明する。
図2に示した概念図では、シーン1,シーン2,シーン3のシーンチェンジには、それぞれのシーンの繋ぎ合わせ部分を重ね合わせるオーバラップを用いている。具体的には、シーン1とシーン2との繋ぎ合わせ部分は時間α1に相当する再生時間分、シーン2とシーン3との繋ぎ合わせ部分は時間α2に相当する再生時間分、それぞれオーバラップしている。こうして生成された動画像の総再生時間は、単に各シーンを繋ぎ合わせたものよりもオーバラップの時間(α1+α2)だけ短縮したものとなる。以下に、この画像処理の詳細を説明する。
A2.画像処理:
図3は、動画像から抽出した複数のシーンを繋ぎ合せる第1実施例の画像処理のフローチャートである。上述のハード構成を有する画像処理システム100において、ユーザがHDDレコーダ10の操作パネル18を操作すると、CPU15はハードディスク14内の画像処理プログラムを読み出し、TVモニタ20上に編集操作の操作画面を表示する。この操作画面には、例えば、HDDレコーダ10のハードディスク14内に記憶した動画像のタイトル一覧が表示されており、ユーザが操作パネル18を用いて編集する動画像のタイトルを選択することで、CPU15は画像処理を実行する。
画像処理が開始すると、CPU15は、選択された動画像の複数のシーンのうち、時系列順である2つのシーン(シーンn,シーンn+1)を読み出す(ステップS300)。
CPU15は、読み出されたシーンnとシーンn+1とについて、それぞれのシーンの特徴を示す特徴量を算出する処理を行なう(ステップS310)。一般に、一のシーンの有する情報(シーン情報)には、画像の輝度変化、色調変化、パン,チルトなどのカメラワーク、被写体の動き、シーンの再生時間など様々な情報がある。こうした情報は、シーンを構成する複数のフレーム画像を精査することで取得できる。本実施例では、種々のシーン情報のうち、「被写体の動き」に相当するフレーム画像間で動きのある部分(これを動体と呼ぶ)に関する情報を用いている。つまり、一のシーンを構成するフレーム画像から動体を判断し、その動体のフレーム画像毎の位置の変化や面積の変化などの状態変化をシーンの特徴量として抽出している。以下、「シーンの特徴量」とは、フレーム画像の動体に関する情報を示し、「シーン情報」とは、「シーンの特徴量」も含んだ種々の情報を示すものとする。なお、このシーンの特徴量を抽出するシーン特徴量算出処理については、後述する。
ステップS310において、シーン毎に抽出した特徴量に基づいて、シーンnとシーンn+1との組み合わせの属するグループを決定する(ステップS320)。本実施例では、シーンnとシーンn+1とのそれぞれに、動体が存在するか否かによって、繋ぎ合せるシーンを大きく4つのグループ(グループ1からグループ4)に分類する。例えば、シーンnに動体が存在し、シーンn+1には動体が存在しない場合には、グループ1に属するものとしている。このグループ決定処理によって、繋ぎ合わせる2つのシーンの関係に応じた切替効果を選択することができる。なお、グループ決定処理の詳細については、後述する。
ステップS320で決定したグループに基づいて、シーンの繋ぎ合わせに用いる切替効果を選択し、その切替効果の詳細を設定する。(ステップS330)。シーンの切替えの際に用いる切替効果には、例えば、カット,スライド,ワイプ,フェード,ディゾルブ,スパイラル,ズームなどのいわゆる画像効果(トランジション)や、2つのシーンをオーバラップさせる処理、そのまま接続する処理、2つのシーンを拡大、縮小する処理、同時に表示する処理など種々のものがある。本実施例では、主に、シーンの切替効果としてトランジションを設定しているが、例えばトランジションの一つである「スライド」にも、スライドする方向、速度など詳細に設定する必要がある。ステップS330では、こうしたトランジションの詳細設定を実行している。
例えば、上記のグループ1に属する場合であれば、シーンnからシーンn+1へのシーンチェンジに「スライド」を利用する。「スライド」は、例えば、シーンnの動体の動きに合わせて徐々にシーンn+1がフレーム画像内に入り込み、最終的にはシーンn+1に切り替わる画像効果である。このシーンnからシーンn+1への移行期間内(つまり、「スライド」効果の実行期間内)は、2つのシーンがオーバラップしている状態となる。
こうして決定した画像効果を用いて、2つのシーンを繋ぎ合せる処理を行なう(ステップS340)。具体的には、図4に示すように、シーンnとシーンn+1との各フレーム画像を「スライド」効果を用いつつ、重ね合わせて合成フレーム画像を生成する。図4に示す一例では、4枚の合成フレーム画像を生成し、シーンnの終わりから4枚のフレーム画像とシーンn+1の初めから4枚のフレーム画像とに替えて、合成フレーム画像を挿入してシーンを繋ぎ合わせる。
以上の処理を経て、シーンを繋ぎ合わせた動画像は、ハードディスク14に出力され(ステップS350)、記憶される。この一連の処理は、他に繋ぎ合わせるシーンがある場合には、繰り返し実行される。他方、繋ぎ合わせるシーンがない場合には、出力された動画像は、ハードディスク14内に記憶されると共に、TVモニタ20の画面上に再生される。
A3.シーン特徴量算出処理:
図5は、シーンを構成するフレーム画像からシーンの特徴量を算出するシーン特徴量算出処理のフローチャートである。この処理が開始されるとCPU15は、繋ぎ合わせるシーンnとシーンn+1とについて、両シーンの再生時間を入力する(ステップS500)。本実施例では、HDDレコーダ10が有する複数のシーンには、それぞれの再生時間の情報が付加されている。
続いて、シーン毎の再生時間から、抽出するフレーム画像の枚数mを決定する(ステップS510)。この抽出枚数mは、シーンnとシーンn+1とのうち、再生時間の短い方を基準とし、その基準となるシーンが単独で再生される所定の時間を確保するように決定される。例えば、図6に示すように、シーン1とシーン2とを繋ぎ合わせる場合には、両シーンのうち、再生時間が短い(T1>T2)シーン2の再生時間T2の2割に相当するフレーム画像の枚数を抽出枚数mとして決定する。続いて、シーン2とシーン3とを繋ぎ合わせる場合には、再生時間の短い(T3>T2)シーン2の再生時間の2割に相当する枚数を抽出する。こうして、シーンの再生時間が短い方を基準とすることで、各シーン共に、単独の再生時間を全体の再生時間の6割程度確保するように抽出枚数mを決定している。
なお、単独再生時間の割合は、6割に限るものではなく、ユーザが入力する初期設定の値としても良い。また、例えば、再生時間が数分を超えるような長いシーン同士を繋ぎ合わせる場合には、予め設定した枚数を抽出するものとしても良い。この場合、例えば両シーンの再生時間がそれぞれ3分以上であれば、20秒に相当するフレーム画像枚数を設定するものとすれば良い。さらに、再生時間が3〜4分の範囲内であれば、20秒相当のフレーム画像枚数、4〜5分であれば、25秒相当のフレーム画像枚数を設定するなど、再生時間によって場合を分けて予め抽出枚数を設定するものとしても良い。
図5に戻り、こうして決定した枚数mのフレーム画像を、それぞれのシーンから抽出する(ステップS520)。具体的には、時系列順で先であるシーンnについてはシーンの終わりから遡って、また、時系列順で後であるシーンn+1についてはシーンの初めから順に、それぞれm枚のフレーム画像を抽出している。
続いて、抽出した各シーンm枚のフレーム画像について、フレーム画像間の動き検出処理を実行する(ステップS530)。この動き検出処理は、抽出したm枚のフレーム画像のうち、時系列で最初のフレーム画像とそれに連続する次のフレーム画像とを比較して、動体を判定し、時系列にその動体の状態の変化を追跡する処理である。
具体的には、図7に示すように、シーンnから抽出した複数のフレーム画像(f1〜fe)から、時系列順にフレーム画像f1とフレーム画像f2とを抽出する。抽出した両フレーム画像について、周知の勾配法を用いて、フレーム画像間の並進ずれ量(u,v)、回転ずれ量δを算出する。この算出したずれ量(u,v,δ)を基に、フレーム画像f2をフレーム画像f1に重ね合わせる補正をする。この補正は、2つのフレーム画像間の位置ずれを補正するものとなる。補正後の両フレーム画像をそれぞれ所定の数のブロックに分割し、両フレーム画像の対応するブロック同士で、同様にずれ量(ub,vb,δb)を算出する。ここで算出したブロック間のずれ量は、両フレーム画像間の位置ずれを除いたものであり、画像内の「動き」を表わす。つまり、CPU15は、ブロック間のずれ量がある閾値を超えたものを、動体と判断している。同様にして、フレーム画像f2とフレーム画像f3について「動き」の検出処理を実行し、フレーム画像毎(時系列順)に、動体の面積および重心位置を算出する。
図5に示すステップS530の処理をシーンn+1についても実行し、シーンn,シーンn+1のそれぞれについて、動体の有無、面積および重心位置の変化をシーンの特徴量として設定し(ステップS540)、NEXTに抜ける。
なお、動体の面積、重心位置等を求める方法は、これに限るものではない。例えば、動体が既知である場合には、予めテンプレートを用意し、フレーム画像毎にパターンマッチングを行なうことで動体の変化を検出するものとしても良い。また、一のフレーム画像についてパターンマッチングを実行して輝度、色相頻度の特徴量を検出し、その特徴量をヒストグラムにして、それを追跡に用いるものとしても良い。さらには、シーン情報として、撮影時に予め動体の動きを記憶したメタデータ等を用いるものとすれば、こうした演算を行なうことなくシーンの特長量を設定することができる。
A4.グループ決定処理:
図8は、繋ぎ合わせる2つのシーンの関係を類型化するグループ決定処理のフローチャートである。前述の通り、ここでは、2つのシーンの特徴量である動体に着目し、グループ分けを行なう。
まず、CPU15は、シーンnに動体があるか否かを判定する(ステップS800)。このステップで、シーンnに動体が存在すると判断した場合には、次にシーンn+1に動体があるか否かを判定する(ステップS810)。
ステップS810にて、シーンn+1に動体が存在すると判断した場合には、その2つのシーンの関係は「グループ3」に属すると設定し、シーンn+1に動体が存在しないと判断した場合には、「グループ1」に属すると設定し、NEXTに抜けて処理を終了する。
他方、ステップS800にて、シーンnに動体が存在しないと判断した場合には、次にシーンn+1に動体があるか否かを判定する(ステップS820)。
ステップS820にて、シーンn+1に動体が存在すると判断した場合には、その2つのシーンの関係は「グループ2」に属すると設定し、シーンn+1に動体が存在しないと判断した場合には、「グループ4」に属すると設定し、NEXTに抜けて処理を終了する。
つまり、シーンnにのみ動体が存在するグループを「グループ1」、シーンn+1にのみ動体が存在するグループを「グループ2」、2つのシーンに動体が存在するグループを「グループ3」、いずれのシーンにも動体が存在しないグループを「グループ4」として分類する。こうして大きく4つに分けたグループ毎に、後述する画像効果のパターンを設定し、2つのシーンをオーバラップして繋ぎ合わせる。
A5.シーン切替設定処理:
シーンの切り替えに用いる画像効果には、前述の通り「カット」、「フェード」、「スライド」、「ワイプ」などの公知のトランジションがあり、更には、その動きによって、「ワイプイン」、「ワイプアウト」など様々な種類がある。図9は、こうした画像効果(トランジション)の一例である。図9(a)に示すように、例えば「スライドイン」についても、その方向によって、複数の種類が存在する。また、図9(b)に示すように、「ワイプ」についても、その形状によって、円ワイプ、ボックスワイプ、スプリットワイプなどの複数の種類が存在する。
第1実施例では、図9(a)に示した6種類の「スライド(イン・アウト)」と、図9(b)に示した円形の「ワイプ(イン・アウト)」と、一のシーンを徐々に縮小してゆく効果である「縮小」とを用意し、分類されたグループ毎にトランジションを設定している。具体的には、「グループ1」の場合にはシーンn+1に「スライドイン」若しくはシーンnに「ワイプイン」を用い、「グループ2」の場合にはシーンnに「スライドアウト」若しくはシーンn+1に「ワイプアウト」を用い、「グループ3」の場合にはシーンnの「縮小」を用い、「グループ4」の場合にはシーンnに「スライドアウト」を用いている。
図10は、繋ぎ合わせる2つのシーンの関係が「グループ1」に属する一例である。図示するように、シーンnにのみ動体(この例では人物)が存在し、シーンn+1の「スライドイン」またはシーンnの「ワイプイン」を採用する。図10(a)に示すように、その動体がフレーム画像内の左端から右端へフレームアウトしてシーンが終了する場合には、シーンn+1の左からの「スライドイン」を使用し、図10(b)に示すように、動体がフレームアウトせず、フレーム画像内で遠のいてシーンが終了する場合には、シーンnの「ワイプイン」を使用する。
こうしたトランジションの変化の詳細は、動体の動きに応じて設定している。例えば、図10(a)では、シーンnの特徴量として動体の重心位置の変化から求めた速度Vに基づいて、シーンn+1の「スライドイン」の方向、速度を設定している。つまり、「スライドイン」の方向を動体の移動方向に対応して設定し、「スライドイン」の境界線Lによって動体が消されないように、動体を優先した速度を設定している。また、図10(b)では、ほとんど変化しない動体の重心位置を基準として、シーンnの「ワイプイン」の中心を設定している。勿論、必ずしも、動体の速度と等速で変化させる必要はないし、予め設定した速度、位置で変化させるものとしても良い。
なお、「グループ1」の中での「スライドイン」、「ワイプイン」の選択は、例えば、シーンnの最後のフレーム画像feに動体が存在するか否かを判定することで使い分けても良いし、シーンの特徴量から判断するものとしても良い。シーンの特徴量を用いる場合には、動体の速度Vが所定値βよりも大きいか否かで判断することができる。速度Vが所定値βよりも大きい場合には「スライドイン」を選択し、速度Vが所定値β以下である場合には「ワイプイン」を選択するものとすれば良い。
また、上述の「ワイプイン」を特殊な態様で用いることもできる。図11は、「ボックスワイプ」を用いた一例であり、「ワイプ」の中心が動体の移動と共に変化する「変形ボックストランジション」を設定している。このトランジションは、シーンnの動体の速度Vが所定値βよりも大きく、かつ、動体の面積変化ΔSが所定値γよりも大きい場合に、採用するものとすれば良い。
さらには、シーンの特徴量として肌色領域を検出し、動体のうち、肌色領域を中心に「ワイプイン」を用いても良い。特に動体が人物である場合に、シーンの切り替わりの直前まで人物の顔などを表示することができる。
以上の「グループ1」の場合と同様に、繋ぎ合わせる2つのシーンの関係が「グループ2」に属する場合は、「スライド」、「ワイプ」を中心としたトランジションを設定している。ただし、「グループ1」とは異なり、「グループ2」はシーンn+1にのみ動体が存在する。したがって、これから始まるシーンn+1の動体を優先的に表示するため、シーンnの「スライドアウト」、シーンn+1の「ワイプアウト」を用いている。なお、トランジションの変化(例えば速度など)は、上述の「グループ1」の場合と同様に設定している。
図12は、繋ぎ合わせる2つのシーンの関係が「グループ3」に属する一例である。図12(a)はシーンnの動体の様子を、図12(b)はシーンn+1の動体の様子を、それぞれ示している。「グループ3」は、シーンnとシーンn+1との両方に動体(ここでは人物)が存在する場合であり、シーンnの「縮小」を設定する。
本実施例での「縮小」は、フレーム画像のアスペクト比を固定したまま、一定の時間比率でシーンnのフレーム画像を徐々に縮小して行く画像効果である。図12(c)は、この「縮小」を用いた一例を示している。図示するように、シーンnからシーンn+1への切り替わりの際に、徐々にシーンnのフレーム画像が縮小して行く。縮小したシーンnを表示する位置は、シーンn+1の動体の移動方向を考慮して、重なり合う面積の少ない位置を検出している。こうして両シーンともに表示することで、動体を優先して表示することができる。
なお、「グループ3」の場合においても、「グループ1」、「グループ2」と同様に、「スライド」、「ワイプ」を中心としたトランジションを設定するものとしても良い。この場合、シーンnとシーンn+1とのシーンの再生時間やシーンの特徴量を考慮する。例えば、シーンの特徴量のうち、動体の面積を比較して、動体の表示面積が大きいシーンを優先するトランジションを設定する。つまり、シーンnの動体の表示面積がシーンn+1のそれに比べて大きい場合には、シーンnにのみ動体がある(つまり「グループ1」に属する)と判断して、「グループ1」と同様な処理により、トランジションを設定するものとすれば良い。勿論、どちらかのシーンを優先して表示するように予め設定するものとしても良い。
また、シーンnとシーンn+1とのアスペクト比を変更し、同時に2画面を表示するように設定しても良い。さらには、シーンnの動体以外の部分(背景部分)からシーンn+1の動体を表示するように設定しても良い。
シーンの特徴量としての動体に注目し、各トランジションを設定する上記の各グループとは異なり、「グループ4」では、両シーンに動体が存在しない。本実施例では、こうしたシーンの繋ぎ合わせにはシーンnの「スライドアウト」を設定しているが、様々なトランジションを設定することができる。例えば、「ワイプ」,「スライド」の他、「フェード」,「ディゾルブ」,「スパイラル」,「ズーム」などを用いても良い。また、こうしたトランジションをランダムに設定するものとしても良いし、ユーザの好みに応じて予め設定するものとしても良い。
以上、本発明の第1実施例の画像処理装置によれば、繋ぎ合わせるシーン毎に抽出したフレーム画像から、そのシーン情報として動体の状態量を検出する。検出した動体の状態量に基づきシーンの内容を考慮した画像効果を設定し、2つのシーンを重ね合わせて接続する。つまり、シーンの繋ぎ合わせ部分に動体が存在する場合には、動体を優先的に表示する画像効果を自動的に選択する。したがって、繋ぎ合わされた動画像は、効果的なシーンチェンジをするものとなる。さらに、2つのシーンを、所定の時間、繋ぎ合わせる部分で重ね合わせるため、全体の再生時間を短縮することができる。このことは、特に短時間で動画像の内容を把握することを目的とするダイジェスト動画には有効である。
B.第2実施例:
次に、本発明の第2実施例の画像処理システムについて説明する。第2実施例の画像処理装置は、第1実施例と同様、画像処理プログラムを備えたHDDレコーダである。この第2実施例のHDDレコーダは、第1実施例とは、画像処理プログラムのみが異なる。したがって、ハード構成は、第1実施例の画像処理システム100と同一の符号を用いることとして説明を省略し、画像処理の内容について説明する。
図13は、動画像の所定のシーンを繋ぎ合わせる第2実施例の画像処理のフローチャートである。第2実施例の画像処理は、第1実施例の画像処理に加えて、シーンが急激に切り替わるカットチェンジを選択するステップを加えている。その他のステップは、図3に示した第1実施例の画像処理のステップと同様である。なお、同一内容のステップについては、図3と同じ符号を付す。
ユーザの操作パネル18の操作により画像処理が開始すると、CPU15は、繋ぎ合わせる2つのシーン(シーンn,シーンn+1)と共に、2つのシーンの再生時間(Tn,Tn+1)を取得する(ステップS900)。
続いて、2つのシーンの再生時間が所定時間T0よりも大きいか否かを判断する(ステップS915)。ここでは、各シーンをオーバラップして繋ぎ合わせるか、カットチェンジにて繋ぎ合せるかの判断をしている。
ステップS915にて、両シーンの再生時間が所定時間T0よりも長いと判断した場合(Yesの場合)には、第1実施例と同様、シーンの特徴量算出処理(ステップS310),グループ決定処理(ステップS320),シーン切替設定処理(ステップS330)を経て、シーンの特徴量としての動体の動きに対応したトランジションを設定する。設定したトランジションを用い、両シーンを所定時間オーバラップさせて動画像を生成し(ステップS340)、ハードディスク14に出力する(ステップS350)。この一連の処理は、他に繋ぎ合わせるシーンがある場合には繰り返し実行され、繋ぎ合わせるシーンがない場合には終了する。
他方、少なくとも一つのシーンの再生時間が所定時間T0よりも短いと判断した場合(Noの場合)には、シーンの特徴量を加味したトランジションを設定することなく、シーンを繋ぎ合わせ(ステップS340)、ハードディスク14に出力する(ステップS350)。つまり、シーンの再生時間が短い場合には、シーンnとシーンn+1とを単に繋ぎ合わせ、シーンが急激に変化するカットチェンジを用いる。
第1実施例では、オーバラップを用いて動画像を生成して全体の再生時間を短縮したが、第2実施例では、シーン情報としてシーンの再生時間に着目し、もともと再生時間が短いシーンについてはカットチェンジを用いて動画像を生成し、特に再生時間の短縮は行なわない。こうすることで、複雑な処理を実行する必要がない。また、もともと再生時間が短いシーンに対して、オーバラップを用いることで更に再生時間を短くしてしまい、シーンの切り替わりが見づらいものとなるのを防ぐことができる。カットチェンジを用いた動画像は、例えば、映画、ドラマの予告やアクションシーンの連続などのように、強い印象を与える動画像を生成することができる。
C.変形例:
本発明の画像処理にて設定するトランジションは、シーンnとシーンn+1との繋ぎ合わせの部分に施す効果であるが、これを繋ぎ合わせて生成される動画像の初めと終わりに施すものとしても良い。具体的には、図14に示すように、シーン1,シーン2,シーン3を繋ぎ合わせる場合に、シーン1よりも時系列順で前と、シーン3よりも時系列順で後ろに、それぞれ擬似的なシーン(ダミーシーン)を設ける。
このダミーシーンには、シーンの特徴量として動体は存在しない旨の内容が予め設定してある。ダミーシーンとシーン1との関係は、上述の「グループ2」または「グループ4」に該当し、ダミーシーンの「スライドアウト」またはシーン1の「ワイプアウト」により動画像が開始するように設定することができる。他方、シーン3とダミーシーンとの関係は、上述の「グループ1」または「グループ4」に該当し、ダミーシーンの「スライドイン」またはシーン3の「ワイプイン」,「スライドアウト」により動画像が終了するように設定することができる。いずれも、シーンの特徴量を考慮したシーンチェンジを設定することができる。
また、ダミーシーンにダイジェスト動画のタイトル等を付加するものとしても良い。例えば、本発明の画像処理を実行するHDDレコーダ10内の動画像を選択する際に、タイトル表示や日時等の動画像の情報を取得して、これを画像としてダミーシーンに付加すれば良い。
以上、本発明の実施の形態について説明したが、本発明はこうした実施の形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内において様々な形態で実施し得ることはもちろんであり、例えば以下のような変形も可能である。
本実施例では、画像処理装置としてのHDDレコーダ10を用いて説明したが、この一連の画像処理プログラムをパーソナルコンピュータに実装(インストール)するものとしても良い。この場合、TV放送などの動画像は、ビデオレコーダを介してパーソナルコンピュータに取り込むものとしても良いし、パーソナルコンピュータに直接取り込むものとしても良い。また、動画像の輝度変化や色調変化などから複数のシーンを生成する既存の手法を用いた機能をパーソナルコンピュータに装備することで、例えば、デジタルビデオカメラからの動画像を容易に編集することができる。特に、ダイジェスト動画を生成する素材がデジタルビデオカメラで撮影した動画像であるような場合には、撮影日時などもシーンを生成する(シーンを認識する)情報として使用することができる。
本実施例では、シーンの再生時間が所定時間より長い場合にはシーンの内容を考慮したトランジションを設定し、オーバラップを用いているが、各シーンの始まりと終わりにトランジッションを設定し、オーバラップを用いずに各シーンを単に繋ぎ合わせるものとしても良い。例えば、シーンの始まりは、動体が存在する場合には、動体を中心とした「ワイプアウト」を設定し、シーンの終わりは、動体が存在する場合には、動体を中心とした「ワイプイン」を設定する。こうしてトランジションを加えて編集した各シーンを繋ぎ合わせて動画像を生成する。こうすることで、シーンの内容を考慮したトランジションを設定することができる。
また、本実施例の画像処理を用いて、シーンチェンジの箇所に生成した合成フレーム画像をサムネイル表示して、動画像の内容を表わすインデックスとして使用することもできる。
さらに、本実施例の手法は画像処理のみならず、繋ぎ合わせるシーンの音声の繋ぎ方にも応用できる。例えば、シーンnとシーンn+1を繋ぎ合わせる場合には、それぞれのシーンの動体の面積比に応じて、音声の「フェードアウト」、「フェードイン」を施すものとすれば良い。
本実施例では、繋ぎ合わせるシーン毎にシーン情報を抽出したが、シーン情報の抽出は全てのシーンに対して行なう必要はない。例えば、繋ぎ合わせる2つのシーンのうち、時系列順で前のシーンのシーン情報を常に抽出するものとしても良いし、時系列順で後のシーンのシーン情報を常に抽出するものとしても良い。例えば、時系列順で前のシーンの終わりからシーン情報を抽出する場合であって、シーンの終わりに動体が存在する場合であれば、その動体を中心としたワイプ等の画像効果を設定することができる。また、シーンの繋ぎ目の全てに、画像効果を設定する必要もない。例えば、1つおきの繋ぎ目に対して、画像効果を設定するものとしても良い。
本発明の第1実施例としての画像処理システムを示す説明図である。 第1実施例の画像処理の概念図である。 第1実施例の画像処理のフローチャートである。 第1実施例の合成フレーム画像の説明図である。 シーン特徴量算出処理のフローチャートである。 フレーム画像の抽出枚数の説明図である。 動体の検出処理の説明図である。 グループ決定処理のフローチャートである。 画像効果(トランジション)の一例である。 2つのシーンの関係が「グループ1」に属する一例である。 「ボックスワイプ」を用いた一例である。 2つのシーンの関係が「グループ3」に属する一例である。 第2実施例の画像処理のフローチャートである。 擬似的なシーンの説明図である。
符号の説明
10...HDDレコーダ
12...I/F回路部
14...ハードディスク
15...CPU
16...ROM
17...RAM
18...操作パネル
19...リモコン
20...TVモニタ
100...画像処理システム

Claims (12)

  1. 動画像から抽出した複数のシーンを繋ぎ合わせる画像処理装置であって、
    前記複数のシーンの特徴を示すシーン情報を抽出するシーン情報抽出手段と、
    前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶する切替効果記憶手段と、
    前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択する切替効果選択手段と、
    前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力する出力手段と
    を備え、
    前記シーン情報抽出手段は、繋ぎ合わせる前後のシーンのうち、
    時系列順で前のシーンの終わりから時系列的に、該前のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量、および
    時系列順で後のシーンの初めから時系列的に、該後のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量
    のうち、少なくとも一方を含んだ情報を、前記シーン情報として抽出する画像処理装置。
  2. 動画像から抽出した複数のシーンを繋ぎ合わせる画像処理装置であって、
    前記複数のシーンのシーン毎の再生時間の情報を含み、各シーンの特徴を示すシーン情報を抽出するシーン情報抽出手段と、
    前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶する切替効果記憶手段と、
    前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択する切替効果選択手段と、
    前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力する出力手段と
    を備え、
    前記シーン情報は、少なくとも、一のシーンを構成する複数のフレーム画像間において動きのある物体として判断される動体の動きを記述する状態量を含んだ情報であり、
    前記シーン情報抽出手段は、繋ぎ合わせる2つのシーンのうち、時系列順で前のシーンの終わりから順に、および/または、時系列順で後のシーンの初めから順に、前記シーンの再生時間に応じた枚数のフレーム画像をそれぞれ抽出するフレーム抽出手段を備える
    画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    前記シーン情報抽出手段は、前記抽出されたフレーム画像間のずれ量を検出し、該ずれ量を補正することで前記動体を判定し、該動体の状態量を算出する特徴量算出手段を備えた画像処理装置。
  4. 請求項1ないし請求項3のいずれかに記載の画像処理装置であって、
    前記記憶した複数の種類の切替効果は、少なくともカット、スライド、ワイプ、フェードのいずれかである画像処理装置。
  5. 請求項4に記載の画像処理装置であって、
    前記シーン情報には、前記シーンの再生時間を含み、
    前記切替効果選択手段は、前記再生時間が所定時間より短いシーンの場合には、前記切替効果としてカットを選択する画像処理装置。
  6. 請求項1ないし請求項5のいずれかに記載の画像処理装置であって、
    前記切替効果選択手段は、前記シーン情報から繋ぎ合わせる2つのシーンの関係を類型し、該類に応じた前記切替効果を選択する手段である画像処理装置。
  7. 請求項1ないし請求項6のいずれかに記載の画像処理装置であって、
    前記出力手段は、繋ぎ合わせる2つのシーンの一端を重ね合わせて出力する手段である画像処理装置。
  8. 請求項7に記載の画像処理装置であって、
    前記シーン情報には、前記動体の状態量として該動体の移動速度を含み、
    前記出力手段は、前記移動速度に基づいて、前記所定の切替効果の変化する速度を調整してシーンを繋ぎ合わせて出力する画像処理装置。
  9. 請求項1ないし請求項8のいずれかに記載の画像処理装置であって、
    前記シーン情報抽出手段は、前記繋ぎ合わせる複数のシーンのうち、時系列順で最初のシーンの前、および/または、時系列順で最後のシーンの後に、擬似的なシーンを追加する手段を備え、
    前記擬似的なシーンと前記最初のシーン、および/または、前記最後のシーンとを、所定の切替効果を用いて繋ぎ合わせる画像処理装置。
  10. 動画像から抽出した複数のシーンを繋ぎ合わせる画像処理方法であって、
    前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶し、
    前記複数のシーン各々の特徴を示すシーン情報を、繋ぎ合わせる前後のシーンのうち、時系列順で前のシーンの終わりから時系列的に、該前のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量、および時系列順で後のシーンの初めから時系列的に、該後のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量のうち、少なくとも一方を含んだ情報として抽出し、
    前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択し、
    前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力する
    画像処理方法。
  11. 動画像から抽出した複数のシーンを繋ぎ合わせる画像処理装置を制御するコンピュータプログラムであって、
    前記シーンを繋ぎ合わせる際に、該シーンの切替えに用いる複数の種類の切替効果を予め記憶する機能と、
    前記複数のシーン各々の特徴を示すシーン情報を、繋ぎ合わせる前後のシーンのうち、時系列順で前のシーンの終わりから時系列的に、該前のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量、および時系列順で後のシーンの初めから時系列的に、該後のシーンの一部を構成する複数枚のフレーム画像から、該複数のフレーム画像間において動きのある部分に基づいて判断される動体の動きを記述する状態量のうち、少なくとも一方を含んだ情報として抽出する機能と、
    前記抽出したシーン情報に基づいて、前記記憶した切替効果から所定の切替効果を選択する機能と、
    前記選択された所定の切替効果を用いて、前記シーンを繋ぎ合わせて出力する機能と
    をコンピュータに実現させるコンピュータプログラム。
  12. 請求項11に記載のコンピュータプログラムをコンピュータに読み取り可能に記録した記録媒体。
JP2004075671A 2004-03-17 2004-03-17 画像処理装置、画像処理方法およびそのプログラム、記録媒体 Expired - Fee Related JP4285287B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004075671A JP4285287B2 (ja) 2004-03-17 2004-03-17 画像処理装置、画像処理方法およびそのプログラム、記録媒体
US11/084,857 US7630021B2 (en) 2004-03-17 2005-03-17 Image processing device and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004075671A JP4285287B2 (ja) 2004-03-17 2004-03-17 画像処理装置、画像処理方法およびそのプログラム、記録媒体

Publications (2)

Publication Number Publication Date
JP2005268991A JP2005268991A (ja) 2005-09-29
JP4285287B2 true JP4285287B2 (ja) 2009-06-24

Family

ID=35093098

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004075671A Expired - Fee Related JP4285287B2 (ja) 2004-03-17 2004-03-17 画像処理装置、画像処理方法およびそのプログラム、記録媒体

Country Status (2)

Country Link
US (1) US7630021B2 (ja)
JP (1) JP4285287B2 (ja)

Families Citing this family (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2889323B1 (fr) * 2005-07-29 2008-12-12 Realeyes3D Sa Procede pour le controle d'une interface a l'aide d'une camera equipant un terminal de communication
KR100679049B1 (ko) * 2005-09-21 2007-02-05 삼성전자주식회사 인물 및 장소정보를 제공하는 썸네일에 의한 사진탐색 방법및 그 장치
JP4820136B2 (ja) * 2005-09-22 2011-11-24 パナソニック株式会社 映像音声記録装置及び映像音声記録方法
KR100736076B1 (ko) 2005-10-24 2007-07-06 삼성전자주식회사 화면 캡처 기능을 제공하는 휴대용 장치 및 그 방법
US8032840B2 (en) * 2006-01-10 2011-10-04 Nokia Corporation Apparatus, method and computer program product for generating a thumbnail representation of a video sequence
EP1998554A4 (en) * 2006-03-23 2009-11-25 Panasonic Corp CONTENT IMAGING APPARATUS
JP4839952B2 (ja) * 2006-05-01 2011-12-21 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2008011940A (ja) 2006-07-03 2008-01-24 Sony Computer Entertainment Inc ゲーム制御プログラム、ゲーム制御方法、及びゲーム装置
US8166415B2 (en) * 2006-08-04 2012-04-24 Apple Inc. User interface for backup management
US8370853B2 (en) 2006-08-04 2013-02-05 Apple Inc. Event notification management
US7856424B2 (en) 2006-08-04 2010-12-21 Apple Inc. User interface for backup management
US7809688B2 (en) 2006-08-04 2010-10-05 Apple Inc. Managing backup of content
US7809687B2 (en) 2006-08-04 2010-10-05 Apple Inc. Searching a backup archive
US7860839B2 (en) 2006-08-04 2010-12-28 Apple Inc. Application-based backup-restore of electronic information
US20080030797A1 (en) * 2006-08-04 2008-02-07 Eric Circlaeys Automated Content Capture and Processing
US8311988B2 (en) 2006-08-04 2012-11-13 Apple Inc. Consistent back up of electronic information
US7853567B2 (en) 2006-08-04 2010-12-14 Apple Inc. Conflict resolution in recovery of electronic data
US9009115B2 (en) 2006-08-04 2015-04-14 Apple Inc. Restoring electronic information
US7853566B2 (en) 2006-08-04 2010-12-14 Apple Inc. Navigation of electronic backups
JP4838777B2 (ja) * 2006-08-14 2011-12-14 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、プログラム及び記憶媒体
US20080066107A1 (en) 2006-09-12 2008-03-13 Google Inc. Using Viewing Signals in Targeted Video Advertising
JP4795212B2 (ja) * 2006-12-05 2011-10-19 キヤノン株式会社 録画装置、端末装置及び処理方法
US20080165388A1 (en) * 2007-01-04 2008-07-10 Bertrand Serlet Automatic Content Creation and Processing
US7853969B2 (en) * 2007-04-03 2010-12-14 Google Inc. Log processing to determine impression values using reliable durations
US20080249834A1 (en) * 2007-04-03 2008-10-09 Google Inc. Adjusting for Uncertainty in Advertisement Impression Data
JP5579595B2 (ja) * 2007-04-03 2014-08-27 グーグル・インコーポレーテッド 予想データの測定データとの照合
US20080276266A1 (en) * 2007-04-18 2008-11-06 Google Inc. Characterizing content for identification of advertising
US8667532B2 (en) 2007-04-18 2014-03-04 Google Inc. Content recognition for targeting video advertisements
US8307004B2 (en) 2007-06-08 2012-11-06 Apple Inc. Manipulating electronic backups
US8468136B2 (en) 2007-06-08 2013-06-18 Apple Inc. Efficient data backup
US20080307017A1 (en) 2007-06-08 2008-12-11 Apple Inc. Searching and Restoring of Backups
US8099392B2 (en) 2007-06-08 2012-01-17 Apple Inc. Electronic backup of applications
US8429425B2 (en) 2007-06-08 2013-04-23 Apple Inc. Electronic backup and restoration of encrypted data
US8725965B2 (en) 2007-06-08 2014-05-13 Apple Inc. System setup for electronic backup
US8745523B2 (en) 2007-06-08 2014-06-03 Apple Inc. Deletion in electronic backups
US8010900B2 (en) 2007-06-08 2011-08-30 Apple Inc. User interface for electronic backup
CN101682761B (zh) * 2007-06-14 2013-03-20 汤姆森许可贸易公司 进行时间最优化编码的系统和方法
US8433611B2 (en) 2007-06-27 2013-04-30 Google Inc. Selection of advertisements for placement with content
US8127254B2 (en) 2007-06-29 2012-02-28 Nokia Corporation Unlocking a touch screen device
US9064024B2 (en) 2007-08-21 2015-06-23 Google Inc. Bundle generation
US9824372B1 (en) 2008-02-11 2017-11-21 Google Llc Associating advertisements with videos
US20100037149A1 (en) * 2008-08-05 2010-02-11 Google Inc. Annotating Media Content Items
US8811771B2 (en) * 2008-08-22 2014-08-19 Adobe Systems Incorporated Content aware slideshows
US8255949B1 (en) 2009-01-07 2012-08-28 Google Inc. Television program targeting for advertising
JP2010187372A (ja) * 2009-01-16 2010-08-26 Panasonic Corp 表示制御装置および撮像装置
WO2010116715A1 (ja) * 2009-04-07 2010-10-14 パナソニック株式会社 画像撮影装置、画像撮影方法、プログラム、及び集積回路
US20100293330A1 (en) * 2009-05-14 2010-11-18 Microsoft Corporation Displaying transition images during a slide transition
US9152708B1 (en) 2009-12-14 2015-10-06 Google Inc. Target-video specific co-watched video clusters
US20110197220A1 (en) * 2010-02-09 2011-08-11 Google Inc. Customized television advertising
US9235575B1 (en) * 2010-03-08 2016-01-12 Hewlett-Packard Development Company, L.P. Systems and methods using a slideshow generator
WO2011155161A1 (ja) * 2010-06-11 2011-12-15 パナソニック株式会社 画像処理装置および画像処理方法
EP2428957B1 (en) 2010-09-10 2018-02-21 Nero Ag Time stamp creation and evaluation in media effect template
US20120151348A1 (en) * 2010-12-11 2012-06-14 Microsoft Corporation Using Cinematographic Techniques for Conveying and Interacting with Plan Sagas
JP2012138804A (ja) * 2010-12-27 2012-07-19 Sony Corp 画像処理装置、画像処理方法及びプログラム
US8984029B2 (en) 2011-01-14 2015-03-17 Apple Inc. File system management
US8943026B2 (en) 2011-01-14 2015-01-27 Apple Inc. Visual representation of a local backup
US8914724B2 (en) * 2011-04-06 2014-12-16 Savant Systems, Llc Method and apparatus for creating and modifying graphical schedules
US9830049B2 (en) * 2011-12-12 2017-11-28 Nokia Technologies Oy Apparatus and method for providing a visual transition between screens
JP5968069B2 (ja) * 2012-05-16 2016-08-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
US9098512B2 (en) * 2012-09-28 2015-08-04 Blackberry Limited Method and device for generating a presentation
KR102057937B1 (ko) * 2012-12-06 2019-12-23 삼성전자주식회사 디스플레이 장치 및 그 이미지 표시 방법
KR101537665B1 (ko) * 2013-02-26 2015-07-20 주식회사 알티캐스트 콘텐츠 재생 방법 및 장치
US10691309B2 (en) * 2013-03-27 2020-06-23 Broadsign Serv, Llc Media element transition electronic device, method and application
WO2015042901A1 (en) * 2013-09-29 2015-04-02 Microsoft Technology Licensing, Llc Media presentation effects
US9507791B2 (en) * 2014-06-12 2016-11-29 Google Inc. Storage system user interface with floating file collection
CN105227811A (zh) * 2014-06-30 2016-01-06 卡西欧计算机株式会社 图像生成装置以及图像生成方法
JP2016031439A (ja) * 2014-07-28 2016-03-07 ソニー株式会社 情報処理装置及び情報処理方法、コンピューター・プログラム、並びに画像表示システム
CN108335292B (zh) * 2015-08-13 2021-07-30 海信集团有限公司 一种场景切换中插入图片的方法
US10019415B1 (en) * 2015-08-28 2018-07-10 Animoto Inc. System and method for consistent cross-platform text layout
US10592750B1 (en) * 2015-12-21 2020-03-17 Amazon Technlogies, Inc. Video rule engine
US9866887B2 (en) * 2016-03-08 2018-01-09 Flipboard, Inc. Auto video preview within a digital magazine
US20170316806A1 (en) * 2016-05-02 2017-11-02 Facebook, Inc. Systems and methods for presenting content
EP3388885A1 (en) * 2017-04-11 2018-10-17 Leica Instruments (Singapore) Pte. Ltd. Multiple band pass liquid crystal tunable filter
KR102405166B1 (ko) * 2017-04-26 2022-06-07 구글 엘엘씨 미디어 콘텐트 항목들과 조합된 틈새광고들을 포함하는 미디어 콘텐트 플레이리스트들을 발생
CN109672776B (zh) * 2017-10-16 2021-07-09 华为技术有限公司 显示动态图像的方法及终端
JP6360271B1 (ja) * 2018-04-06 2018-07-18 株式会社Medi Plus 医療動画処理システム
US10657379B2 (en) * 2018-06-19 2020-05-19 Vimeo, Inc. Method and system for using semantic-segmentation for automatically generating effects and transitions in video productions
KR102118988B1 (ko) * 2018-11-22 2020-06-04 한국항공대학교산학협력단 영역 중심의 비디오 요약 장치 및 방법
CN112565882A (zh) 2019-09-26 2021-03-26 北京字节跳动网络技术有限公司 视频生成方法、装置、电子设备和计算机可读介质
CN112822541B (zh) * 2019-11-18 2022-05-20 北京字节跳动网络技术有限公司 视频生成方法、装置、电子设备和计算机可读介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8628813D0 (en) * 1986-12-02 1987-01-07 British Broadcasting Corp Video display system
JPH10232884A (ja) 1996-11-29 1998-09-02 Media Rinku Syst:Kk 映像ソフトウェア処理方法及び映像ソフトウェア処理装置
JP4045651B2 (ja) * 1997-11-19 2008-02-13 ソニー株式会社 情報処理装置、情報処理方法及びプログラム記録媒体
JP2000268540A (ja) 1999-03-15 2000-09-29 Ricoh Microelectronics Co Ltd 映像編集システム
JP4227241B2 (ja) * 1999-04-13 2009-02-18 キヤノン株式会社 画像処理装置及び方法
JP2000333071A (ja) * 1999-05-18 2000-11-30 Sony Corp 画像処理装置および方法、並びに媒体
JP2002084505A (ja) 2000-09-07 2002-03-22 Nippon Telegr & Teleph Corp <Ntt> 映像閲覧時間短縮装置及び方法
JP3848144B2 (ja) 2001-12-04 2006-11-22 日本電信電話株式会社 映像短縮再生装置、映像短縮再生方法、この方法のプログラムおよびこのプログラムを記録した記録媒体
JP4066162B2 (ja) * 2002-09-27 2008-03-26 富士フイルム株式会社 画像編集装置、画像編集プログラム並びに画像編集方法
JP4036328B2 (ja) * 2002-09-30 2008-01-23 株式会社Kddi研究所 動画像データのシーン分類装置

Also Published As

Publication number Publication date
US7630021B2 (en) 2009-12-08
JP2005268991A (ja) 2005-09-29
US20080019610A1 (en) 2008-01-24

Similar Documents

Publication Publication Date Title
JP4285287B2 (ja) 画像処理装置、画像処理方法およびそのプログラム、記録媒体
JP4297010B2 (ja) 情報処理装置および情報処理方法、並びに、プログラム
JP4241709B2 (ja) 画像処理装置
JP4760438B2 (ja) 画像再生装置および画像再生プログラム
US9986218B2 (en) Electronic apparatus, method of changing a moving image data section, and program
US8364027B2 (en) Image reproduction apparatus and method
US20080002949A1 (en) Recording system and recording method
EP2160892B1 (en) Method and system for facilitating creation of content
US20090021592A1 (en) Display control apparatus, display control method, and program therefor
KR100530086B1 (ko) 동영상의 자동편집장치와 그 방법 및 동영상자동편집방법이 저장된 기록매체
US20100027959A1 (en) Image processing program, image processing device and image processing method
US8750685B2 (en) Image processing apparatus
JP4835368B2 (ja) 情報記録装置
US6272279B1 (en) Editing method of moving images, editing apparatus and storage medium storing its editing method program
JP4767900B2 (ja) 画像再生装置、画像再生プログラム、記録媒体、画像再生方法
JP2007184869A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2006060652A (ja) デジタルスチルカメラ
JP2008167256A (ja) 情報処理装置および方法、並びにプログラム
JP4973935B2 (ja) 情報処理装置、情報処理方法、プログラム、および記録媒体
JP2008304905A (ja) 画質調整装置、画質調整方法及びプログラム
JP2005182931A (ja) 情報記録再生装置及び情報記録再生方法
JP2007200409A (ja) 撮像装置、記録装置及び記録方法
US20080008441A1 (en) Recording and reproducing apparatus having video editing function
JP2011078139A (ja) 画像再生装置、音楽加工プログラム、および画像再生プログラム
JPH1051734A (ja) 動画像編集装置および動画像編集方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090303

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090316

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120403

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120403

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130403

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130403

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140403

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees