以下、図面を参照して本発明の実施の形態について説明する。
図1は、本発明の第1実施形態における電子カメラの回路システム構成を示すブロック図である。本発明は、動画像を記録再生可能な機能が搭載された電子スチルカメラ、ビデオカメラ、カメラ付携帯電話、カメラ付情報通信端末等の携帯型の電子カメラに適用することが可能である。
第1実施形態における電子カメラは、静止画像の他に動画像を撮影することができ、撮影記録後の動画像データに対するトリミングやカット編集、特殊効果の付加など各種の編集を施した動画像の再生を、内蔵の低速CPUや小容量メモリを用いて実行できるようにする動画像の編集再生機能が設けられている。
電子カメラは、携帯カメラ本体部2及びズーム撮像部4により構成される。ズーム撮像部4は、携帯カメラ本体部2に対して例えば回動可能となるようにコネクタ部6により結合されている。ズーム撮像部4を回動可能とすることで、携帯カメラ本体部2の状態を維持したまま、ズーム撮像部4による撮影方向を任意に設定することができる。
携帯カメラ本体部2は、充電/PC転送用クレードル部7に装着可能となっている。携帯カメラ本体部2は、充電/PC転送用クレードル部7を介して、電力の供給を受けて充電することができる。また、携帯カメラ本体部2は、充電/PC転送用クレードル部7を介して、パーソナルコンピュータ等の他の情報機器と接続することができ、他の情報機器との間で静止画像や動画像などの各種データの送受信、あるいはプログラムなどの受信が可能である。
充電/PC転送用クレードル部7は、携帯カメラ本体部2に対して電力を供給すると共に、携帯カメラ本体部2と他の情報機器との間の各種データなどの送受信を仲介する。充電/PC転送用クレードル部7は、ACアダプタ部8と接続されてDC(直流)入力する。
ACアダプタ部8は、AC電源に接続され、AC電源をDC出力に変換して充電/PC転送用クレードル部7に供給する。
まず、携帯カメラ本体部2の構成の詳細について説明する。
携帯カメラ本体部2には、カメラ全体を制御する制御回路10が設けられている。制御回路10は、CPUと、後述する各種処理を実現するためのプログラムや各動作モード時に画面に表示する画像データ等を固定的に記憶したROM、及びワークメモリとして使用されるRAM等により構成される。第1実施形態の電子カメラは、ズーム撮像部4により撮像された動画像のデータを符号化して記録すると共に、動画像に対する編集操作を受付て再生制御情報(後述するプレイリスト)を作成し、動画再生時に再生制御情報を参照しながら符号化されたデータをもとに再生出力することができる。
制御回路10は、入力回路12を通じて各種入力デバイスから入力される指示に応じて、各種機能の制御や設定等を実行する。入力回路12は、例えば静止画撮影半押し/シャッタボタン13、動画撮影開始/停止ボタン14、その他の操作入力部15等からの入力を制御回路10に通知する。操作入力部15には、例えば、電源のオンオフを切り替えるための電源ON/OFFスイッチ、動作モード(例えば撮影モード(動画像、静止画像)、再生モード、編集モード等)を切り替えるためのモードスイッチ、ズーム操作をするためのズーム操作レバー、メニューを表示させるためのメニューキー、上下左右方向の指示を入力するためのカーソルキー、選択実行を指示するためのセットキー、表示画面の切り替えや選択対象の変更を指示するためのディスプレイボタン等が含まれる。
制御回路10は、コネクタ部6を介してズーム撮像部4に設けられた制御部70(後述する)を制御することにより画像(静止画像、動画像)の撮影を実行する。
制御回路10には、表示メモリ17、表示駆動部18、画像バッファメモリ20、画像信号処理部22、圧縮符号化/復号部24、編集/再生制御部26、静止画像/動画像/音声データメモリ28、プレイリストメモリ30、音声復号化部31、外部メモリインタフェース36、音声符号化部40、電源制御部44、電源制御部44、外部I/Oインタフェース48などが接続される。
表示メモリ17は、ズーム撮像部4により撮影された画像の画像データ、あるいは各種メニューの画像データなど、表示部19において表示させる画像のデータが記録される。
表示駆動部18は、表示メモリ17に記録された画像データをもとに表示部19に画像を表示させる。例えば撮影モードでは、ズーム撮像部4により撮影された画像が表示メモリ17においてスルー表示され、電子カメラのファインダとして機能する。表示部19は、例えば液晶ディスプレイなどにより構成されている。電子カメラが携帯型に構成されている場合、筐体サイズの制限などから比較的、表示画面のサイズが小さくなっている。
画像バッファメモリ20は、ズーム撮像部4(A/D回路76)から入力される画像データを一時記憶する。
画像信号処理部22は、画像バッファメモリ20に記録されたズーム撮像部4からの画像データに対して画像処理を施すもので、圧縮符号化/復号部24によってデータ圧縮等の処理を施して静止画像/動画像/音声データメモリ28(あるいは外部メモリインタフェース36を介して外部メモリ37)に撮影画像として記録する。
圧縮符号化/復号部24は、ズーム撮像部4から入力される画像データ(動画像、静止画像)に対する符号化処理、及び符号化されたデータの復号処理を実行する。第1実施形態では、MPEG(Moving Picture Experts Group)方式により画像の符号化/復号を実行するものとして説明する。
編集/再生制御部26は、第1実施形態における電子カメラの特徴的な機能を実現するもので、ズーム撮像部4を通じて撮影された動画像に対する編集操作に応じて、動画像データを編集後の動画像データに変換して記録しないで(符号化された動画像の元データを残したまま)、所定単位毎(例えば時間毎、シーン毎、GOP毎、チャプタ毎)に再生順序変更や遷移画面効果などを表す再生制御情報をプレイリストとして生成編集してプレイリストメモリ30に記録する。編集/再生制御部26は、動画像データを再生する際には、プレイリストメモリ30に記録したプレイリストの再生制御情報を参照しながら、符号化された動画像データに対して編集や特殊処理を施した動画像データを生成して出力させる。
静止画像/動画像/音声データメモリ28は、静止画像データ、動画像データ、音声データが各データファイルとして記録される。動画像データについては、符号化されてMPEGファイルとして記録される。また圧縮符号化/復号部24により符号化された画像データ(静止画像データ、動画像データ)と音声符号化部40により符号化された音声データとが多重化された多重符号化データのファイルとして記録される。
プレイリストメモリ30は、編集/再生制御部26によって作成される再生制御情報を含むプレイリストが記録される。プレイリストの詳細については後述する(図20、図21、図22、図23)。
音声復号化部31は、符号化された音声データを復号化する。音声復号化部31により復号化された音声データは、A/D変換部32により音声信号に変換され、増幅部33により増幅されてスピーカ34から音声出力される。
外部メモリインタフェース36は、図示せぬスロットに装着される外部メモリ37とのインタフェースであり、制御回路10の制御のもとで、外部メモリ37に対する各種データの記録あるいは読み出しを実行する。
音声符号化部40は、A/D変換部部41から出力される音声データを符号化する。A/D変換部部41は、マイク43から入力され、増幅部42により増幅された音声信号を入力して、A/D変換して音声データを出力する。
電源制御部44は、携帯カメラ本体部2の電源制御を行うもので、電池46から各部に対して電力を供給し、またコネクタ50を介して接続される充電/PC転送用クレードル部7から電力供給を受けて電池46を充電する。
外部I/Oインタフェース48は、コネクタ50を介して接続される外部機器、例えば充電/PC転送用クレードル部7とのインタフェースであり、制御回路10の制御のもとで、外部機器との間のデータ入出力等を制御する。
コネクタ50は、充電/PC転送用クレードル部7に設けられたコネクタ92と接続されるインタフェースであり、携帯カメラ本体部2が充電/PC転送用クレードル部7に設けられるホルダに載置されることで、電源ライン、データライン、制御ラインなどを接続する。
次に、ズーム撮像部4の詳細な構成について説明する。
ズーム撮像部4では、複数のレンズからなるレンズ光学系52、絞り53、ハーフミラー54、シャッタ55を通じて受光される被写体の光がCCD(Charge Coupled Device)等の撮像素子60に導入され光電変換される。レンズ光学系52は、レンズ駆動部58により焦点制御のためにレンズ位置が変更され、レンズ駆動部59によりズーム制御のために位置が変更される。測光/測距センサ62は、レンズ光学系52aを介して入力される光をもとにして測光/測距を行う。
ズーム撮像部4は、携帯カメラ本体部2の制御回路10のもとで動作する制御部70によって撮影動作を制御する。制御部70には、焦点制御部71、ズーム制御部72、絞り制御部73、シャッタ制御部74、CDS/AGC75、A/D回路76、タイミング制御駆動部77、露出制御部78、測距制御部79、フラッシュ制御部80を有している。
焦点制御部71は、レンズ駆動部58を通じてレンズ位置を駆動制御することで焦点調整をする。
ズーム制御部72は、レンズ駆動部59を通じてレンズ位置を駆動制御することでズーム調整をする。
絞り制御部73は、レンズ光学系52に設けられた絞り53を制御する。
シャッタ制御部74は、シャッタ55を開閉駆動を制御するもので、携帯カメラ本体部2の静止画撮影半押し/シャッタボタン13あるいは動画撮影開始/停止ボタン14の操作に応じて制御回路10からの指示に応じてシャッタ55を開放して、レンズ光学系52を通じて入力される光を撮像素子60に導入する。
タイミング制御駆動部77は、撮像素子60に対する走査駆動制御を実行し、撮像素子60によって光電変換された信号を、CDS/AGC75、A/D回路76を通じてデジタルデータ化して制御回路10に出力させる。
露出制御部78及び測距制御部79は、レンズ光学系52(レンズ光学系52a)、ハーフミラー54を介して入力される光をもとにした測光/測距センサ62による測光、測距に応じた測距制御、露出制御をそれぞれ実行する。
フラッシュ制御部80は、制御回路10の制御により、静止画撮影半押し/シャッタボタン13に対するシャッタ操作に応じて、フラッシュ駆動部82によりフラッシュ83を閃光駆動させる。フラッシュ駆動部82は、ストロボ駆動が設定されている場合に、電源制御部44を介して電池46からの電力を図示せぬフラッシュ用大容量コンデンサに充電させた上でフラッシュ83を閃光駆動する。
また、測光/測距センサ62により測光して露出条件や絞りの開閉量や、シャッタ速度、ホワイトバランスや撮像感度などを自動調整したり、PSD(Position Sensitive Detector)センサなど測距センサにより被写体との距離に合わせてレンズ位置を自動的に駆動制御するオートフォーカス機構や、多焦点のズームレンズ駆動機構を実現することができる。
次に、充電/PC転送用クレードル部7の詳細な構成について説明する。
充電/PC転送用クレードル部7には、全体を制御する制御回路90が設けられており、携帯カメラ本体部2(コネクタ50)とコネクタ92を介して接続される。
制御回路90には、充電制御部94、電源/充電/転送インジケータ96、無線LANインタフェース(I/F)98、LAN通信インタフェース(I/F)104、USB通信インタフェース(I/F)106が接続されている。
充電制御部94は、ACアダプタ部8からの電力を、コネクタ92を介して携帯カメラ本体部2に供給して、携帯カメラ本体部2の電池46を充電するための制御を行う。
電源/充電/転送インジケータ96は、充電/PC転送用クレードル部7の動作状態をユーザに通知するためのインジケータであり、電源との接続の有無、携帯カメラ本体部2への電力供給(充電)の有無、外部の情報機器との間のデータ転送の有無などを点灯あるいは点滅によって通知する。
無線LANI/F98は、符号/復号部99、変調/復調部100、及び送信/受信部101を介して、外部の情報機器との間における無線通信を制御するためのインタフェースである。
LAN通信I/F104は、LANコネクタ110を介して、ケーブルにより接続される他の情報機器との間の通信を制御するインタフェースである。
USB通信I/F106は、USBコネクタ108を介して、ケーブルにより接続される他の情報機器との間の通信を制御するインタフェースである。
制御回路90は、携帯カメラ本体部2の制御回路10からの要求に応じて、無線LANI/F98、LAN通信I/F104、あるいはUSB通信I/F106を介して接続される他の情報機器、例えばパーソナルコンピュータ(PC)、プリンタ機器、他の電子カメラとの間で、画像データの転送などの通信を実行することができる。
ACアダプタ部8は、安定化回路120、平滑回路122、整流回路124、ヒューズ126が設けられている。ACアダプタ部8は、AC電源を、安定化回路120、平滑回路122、及び整流回路124によってDC出力に変換し、DC入力コネクタ112を介して充電/PC転送用クレードル部7(充電制御部94)に供給する。
次に、第1実施形態における動画像(静止画像、音声等を含む)に対する編集操作に応じて再生制御情報(プレイリスト)を作成する再生編集制御部130、及び再生制御情報を参照して動画像を再生出力する復号再生制御部140の各機能について説明する。
第1実施形態の電子カメラは、撮影した動画像に対する編集については、動画像データを編集して編集後の動画像に置き換えて記録する代りに、MPEG等で符号化して圧縮記録した動画像の元データを残したまま、所定単位毎(例えばGOP単位毎、時間毎、シーン毎)の再生順序の変更(ジャンプ)やスキップ、シーン切替わり時の遷移画面効果(トランジションエフェクト)など、編集内容を表す再生制御情報を再生制御用プログラム(プレイリスト)として設定して記録する。
また、動画像データを再生出力する際には、プレイリストを呼び出して、その再生制御情報を参照しながら、再生順序を自動的に切替えたり、特殊処理を付加した動画像を生成して再生出力する。
図2は、再生編集制御部130の機能構成を示すブロック図、図3は、復号再生制御部140の機能構成を示すブロック図である。再生編集制御部130と復号再生制御部140は、制御回路10、圧縮符号化/復号部24、及び編集/再生制御部26によって実現される。メモリ媒体/通信路136,142は、静止画像/動画像/音声データメモリ28とプレイリストメモリ30、さらには例えば外部I/Oインタフェース48を介して接続される通信路(外部機器)に相当する。
図2に示すように、再生編集制御部130は、再生方法編集部130a、多重分離復号部130b、各種復号部130c、フレーム内画像復号部130d、縮小インデックス画像作成部130e、音声インデックス作成部130f、プレイリスト作成部130g、及びシーン切替識別部130hが設けられている。
再生方法編集部130aは、符号化された動画像データ(MPEGファイル132)に対するユーザからの編集操作を入力し、この編集操作に応じて、動画像への編集内容を表す再生制御情報を含むプレイリストを編集する。例えば、再生編集制御部130は、編集モードの画面中に、インデックス画像作成部130eにより編集対象とする単位(例えばGOP)毎のインデックス画像(例えばIピクチャ)の列と共に、例えばスキップ、ジャンプ、ワイプ、ディゾルブ、フェードイン、フェードアウト、タイトルの付加、BGM、アフレコ音、効果音付加などの編集アイコンを表示させる。再生方法編集部130aは、編集モードの画面中において、ユーザにより編集対象とするインデックス画像と編集アイコンとを選択させることで編集操作を入力する。ユーザは、動画像に対する編集操作として、インデックス画像と編集アイコンとを選択するだけで良いため、例えば楽譜に音符や伴奏をつけるような感覚で、プレイリストを自動生成させることができる。
多重分離復号部130bは、MPEGファイル132の多重符号化されたデータ(多重符号化データ)から、符号化された動画像データと音声データとを分離する。
各種復号部130cは、動画像の編集用に用意された画像・音声ファイル134の符号化された画像データあるいは音声データを復号する。編集用の音声ファイルには、例えばBGM、アフレコ音、効果音などの動画像に付加して再生するための音声データが含まれる。
フレーム内画像復号部130dは、多重分離復号部130bあるいは各種復号部130cにより分離された画像データに対し、フレーム内復号して画像データを生成する。
縮小インデックス画像作成部130eは、フレーム内画像復号部130dにより生成された画像データをもとに、編集処理の単位毎、例えばGOP単位毎、シーン単位毎、所定の時間単位毎、ユーザが設定したチャプタ毎などのインデックス画像を生成し、編集モードの表示部19において一覧表示させる。インデックス画像作成部130eは、シーン単位毎のインデックス画像を表示する場合、インデックス画像作成部130eにより識別される動画像中のシーンの切替位置に応じて、インデックス画像を作成する。なお、再生編集制御部130は、編集モードの画面中に、編集対象とする単位毎にインデックス画像作成部130eにより生成されるインデックス画像を表示させるだけでなく、動画像データを復号しながら生成した縮小動画像のクリップを表示させるようにしても良い。
音声インデックス作成部130fは、各種復号部130cにより復号された音声データをもとに、編集処理の単位毎の音声インデックスを作成して、表示部19において一覧表示させる。
プレイリスト作成部130gは、再生方法編集部130aにより編集された動画像に対する編集内容を表す再生制御情報を含むプレイリストを作成して、プレイリストファイル136bとしてプレイリストメモリ30に記録する。なお、プレイリストは、例えば表形式のデータファイル、あるいは編集コードと該当GOP等の対応付けが識別できるものなら、XML(Extensible Markup Language)形式など簡易なプログラム、CSV(Comma Separated Value:コンマ区切り)ファイルやテキストファイルなどでも構わない。プレイリストの詳細な構成例については後述する。
シーン切替識別部130hは、例えばフレーム内画像復号部130dによって復号される画像(例えばIピクチャ)をもとにした画像間の相関度、あるいは動画像撮影時にユーザから入力された指示に応じて動画像と関連付けて記録されたデータに応じてシーンの区切り位置を識別する。
なお、再生編集制御部130による再生方法の編集処理では、動画像に対する編集操作に応じてプレイリストファイル136bを作成するが、動画像データ自体には編集を施さないため、MPEGファイル136aと追加画像・音声ファイル136cは元データのままである。
次に、復号再生制御部140は、図3に示すように、再生順序制御部140a、フレーム間復号部140b、フレーム内復号部140c、特殊効果合成部140d、フレーム内復号部140e、フレーム間復号部140f、効果音合成部140g、及び音声復号部140hが設けられている。
再生順序制御部140aは、再生編集制御部130によって作成されたプレイリストファイル142a(136b)を参照して、MPEGファイル142bの動画像データ、追加画像ファイル142cの画像データ、及び追加音声ファイル142dの音声データの再生順序を制御する。再生順序制御部140aは、フレーム間復号部140b,140f及びフレーム内復号部140c,140eによる復号、フレーム内復号部140eによる特殊効果の合成(画像生成)、効果音合成部140gと音声復号部140hによる音声の生成の順番を制御する。
フレーム間復号部140b,140fは、符号化された動画像データに対して、フレーム間復号により画像データを生成する。
フレーム内復号部140c,140eは、符号化された動画像データに対して、フレーム内復号により画像データを生成する。
特殊効果合成部140dは、プレイリストにおいて設定された、動画像に対して付加する特殊効果の画像を、例えばフレーム内復号部140c,140eのそれぞれにより復号された2枚の画像(例えば遷移元画像、遷移先画像)を用いて合成する。ここでは、例えば特殊効果に応じて、複数枚の画像からなる遷移画面の連続画像を合成する。
効果音合成部140gは、プレイリストに設定された動画像に付加する効果音を、追加音声ファイル142dの音声データをもとに合成する。
音声復号部140hは、プレイリストに設定された動画像に付加する音声(BGM、アフレコ音など)を、追加音声ファイル142dの音声データをもとに合成する。
再生出力制御部140kは、プレイリストファイル142aのプレイリスト(再生制御情報)に応じて、フレーム間復号部140b,140fにより復号された画像、フレーム内復号部140c,140eにより復号された画像、特殊効果合成部140dにより合成された画像、効果音合成部140gにより合成される音声、及び音声復号部140hにより復号された音声を出力することで、プレイリストが表す編集が施された動画像(画像、音声)を出力させる。
次に、再生編集制御部130による再生編集と復号再生制御部140による再生出力の制御、及び圧縮符号化/復号部24の詳細な構成について、図4を参照しながら説明する。
図1に示す圧縮符号化/復号部24は、図4に示すように、MPEG符号器(エンコーダ)24aとMPEG復号器(デコーダ)24bを含んで構成される。なお、MPEG符号器24aとMPEG復号器24bは、既存のMPEG方式を用いた符号器/復号器であり、詳細な構成についての説明を省略する。
MPEG符号器24aは、ズーム撮像部4により撮影された動画像のデータについて符号化して画像符号化データを生成する。MPEG符号器24aは、音声符号化部40により出力される、動画像の撮影時にマイク43から入力された音声についての音声符号化データを画像符号化データと多重化して、多重符号化データ(符号化された動画像データ)として出力する。
再生編集制御部130は、図2に示す構成により、符号化された動画像データ(MPEGファイル)に対して逆多重化復号し(多重分離復号部130b)、例えばGOP単位のフレーム画像内復号により得られる画像(Iピクチャ)をもとにインデックス画像を作成して、編集モードの画面に表示出力させる。再生編集制御部130は、ユーザから編集モードの画面中で指定される入力操作、すなわちインデックス画像に対する再生順番の指定と編集アイコンの選択に応じてプレイリストを編集し、プレイリストファイル136b(142a)として記録する。
復号再生制御部140の再生順序制御部140aは、再生編集制御部130により生成されるプレイリスト(プレイリストファイル136b,142a)を参照して、MPEG復号器24bにより、所定単位毎の符号化された動画像データ(音声データを含む)を復号する順序を制御する。また、MPEG復号器24bによるフレーム内復号により生成されるIピクチャ画像171をもとに、特殊効果の編集に応じた遷移画像(連続画像)を特殊効果合成部140dにより合成させる。再生出力制御部140kは、MPEG復号器24bにより復号された画像、合成された特殊効果を表す連続画像、及び音声を、プレイリストに設定され再生制御情報に応じて出力させる(ビデオ再生出力、音声再生出力)。
次に、圧縮符号化/復号部24による符号化により生成されるMPEG動画像データの階層構造と符号/復号フレーム順序の概略について説明する。
図5には、MPEG動画像データの階層構造を示している。
図5に示すように、MPEG動画像データは、シーケンス層、GOP(Group Of Pictures)層、ピクチャ層、スライス層、マクロブロック層、ブロック層の6層の階層構造からなっている。
図5(A)に示すシーケンス層は、一連の同じ属性をもつ画面グループからなり、GOP層を含んでいる。GOP層は、ランダムアクセスの単位となる画面グループの最小単位である。ピクチャ層は1枚の画面に共通な属性(例えば画面符号化モード(I,P,Bのピクチャタイプ))、スライス層は、1枚の画面を任意の長さに分割した小画面に共通の情報、マクロブロック層は、スライス層をさらに分割した画素ブロックに共通の情報、ブロック層は、変数係数そのものを表している。
図6には、符号化/復号化時のフレーム画像の順序を示している。
MPEGでは、画像の3つのタイプ、Iピクチャ(Intra符号化画像)、Pピクチャ(Predictive符号化画像)、Bピクチャ(Bidirectionally predictive符号化画像)が規定されている。
Iピクチャは、GOPの独立性を保つために設けられ、その情報だけからフレーム内符号化された画面であり、フレーム間予測を使わずに生成される。Pピクチャは、IピクチャまたはPピクチャからの予測を行うことによって生成される画面であり、フレーム内予測画面と順方向フレーム間予測画面とを含んでいる。Bピクチャは、双方向予測によって生成される画面であり、フレーム内予測符号化、順方向と逆方向のフレーム間予測符号化により生成される。
図6(a)に示すように、元画像(入力画像)が入力される場合、Bピクチャをスキップして次のI,Pピクチャを先に符号化し、その後に、間にあるBピクチャを符号化するため、符号化画像(記録媒体内)では、図6(b)に示すようBピクチャがIピクチャとPピクチャとの間に挿入される。
図6(b)に示す符号化画像を復号化(出力)する場合、Bピクチャについては直ちに復号して表示し、I,Pピクチャについては復号した後に、間に入るBピクチャを復号化して表示した後に表示する。
第1実施形態の電子カメラでは、動画像に対する編集操作を入力する際、例えばGOP単位でフレーム内復号してIピクチャをインデックス画像として、編集モードの画面中に表示させる。編集操作の入力は、インデックス画像に対する指定により行われるため、動画像データを符号化したままでGOP単位での編集(プレイリストの作成)を容易かつ迅速にすることができる。
次に、第1実施形態における電子カメラの動作について説明する。
図7は、電子カメラの全体の制御の流れを説明するためのフローチャートである。
まず、操作入力部15のモードスイッチが撮影モードに切り替えられると、制御回路10は、入力回路12を通じて動作モードの切り替えが指示され、これにより撮影モードに移行する(ステップA1、Yes)。撮影モードに入ると、制御回路10は、撮影条件の設定を行ない(ステップA2)、測距制御部79を制御して測光/測距センサ62により測光処理を実行し(ステップA3)、またズーム制御部72を制御してズーム処理を実行し(ステップA4)、さらに焦点制御部71を制御してオートフォーカス処理を実行する(ステップA5)。
制御回路10は、ズーム撮像部4により撮影される画像を表示部19においてスルー表示して、ファインダとして機能させる(ステップA6)。
ここで、静止画撮影半押し/シャッタボタン13に対する操作によって静止画像の撮影実行が指示されると(ステップA7)、制御回路10は、測光処理を実行させ(ステップA8)、ズーム撮像部4により撮影条件と測光値に従って静止画像を撮影させる(ステップA9)。制御回路10は、ズーム撮像部4により撮像された静止画像のデータを、画像バッファメモリ20に一時記録し、圧縮符号化/復号部24により符号化して静止画像/動画像/音声データメモリ28あるいは、外部メモリインタフェース36を通じて外部メモリ37に記録する(ステップA10)。また、制御回路10は、撮像された静止画像データを表示メモリ17に記憶させ、表示駆動部18により表示部19において表示させる(ステップA11)。
一方、動画撮影開始/停止ボタン14に対する操作によって動画像の撮影の実行が指示されると(ステップA14、Yes)、制御回路10は、測光処理を実行させ(ステップA15)、ズーム撮像部4により撮影条件と測光値に従い動画像を撮影させる(ステップA16)。制御回路10は、ズーム撮像部4により撮影される動画像データを画像バッファメモリ20に順次記録していき、圧縮符号化/復号部24により符号化して静止画像/動画像/音声データメモリ28あるいは、外部メモリインタフェース36を通じて外部メモリ37に記録する(ステップA17)。
図8(a)には、動画像を撮影する動画撮影モードにおける表示部19に表示される画面の一例を示している。
ここで、その他のキー操作があった場合には、制御回路10は、入力されたキー操作に応じた表示処理等を実行する(ステップA12,A13)。
ところで、操作入力部15のモードスイッチの操作により再生モードに切り替えられると、制御回路10は、編集/再生制御部26を起動して再生モードに移行する(ステップA22、Yes)。
再生モードに移行すると、制御回路10は、例えば図8(b)に示すように、1ファイル毎に動画像を再生する再生モードの表示画面を表示する。ここで、例えばズーム操作レバーを(W)側にする操作により、インデックス表示の実行が指示されると(ステップA23。Yes)、制御回路10は、静止画像/動画像/音声データメモリ28に記録されている画像データをもとにインデックス画像を生成し、インデックス画像の一覧を表示部19において表示させる(ステップA24)。
図8(c)には、インデックス表示した再生モードの表示画面の一例を示している。インデックス画像の一覧では、例えばカーソルキーの操作によって、再生対象とする動画像を任意に指定することができる。また、インデックス画像の一覧表示では、例えばズーム操作レバーを(T)側にする操作により、図8(b)に示す1ファイル毎に動画像を再生する再生モードの表示画面を表示させることができる。
なお、図8(b)に示す再生モードの画面では、チャプタ登録用のボタンが設けられており、例えばカーソルキーの下方向キーの操作により、動画像に対してチャプタを設定することができる。制御回路10は、ユーザからのチャプタ指定に応じて、動画像データと関連付けてチャプタに関するデータを記録しておく。
制御回路10は、操作入力部15のメニューキーに対する操作によってメニュー表示が要求されると、例えば図9(a)(b)に示すようなメニューを表示部19に表示させる。
例えば、図9(a)に示すような再生に関係する複数の項目が設けられた再生メニュー、図9(b)に示す動画編集に関係する複数の項目が設けられた編集メニュー、各種設定に関係する設定メニュー(図示せず)が用意されている。制御回路10は、例えばカーソルキーの左右キーの操作に応じてメニュー表示を切り替える。また、制御回路10は、各メニューにおいて、上下キーの操作に応じて、選択対象とするメニュー項目を切り替える。
再生メニューでは、動画像あるいは静止画像の再生などの実行を指示することができる。例えば、図9(a)に示すように、「プレイリスト再生」の項目を選択することで、後述する動画像のプレイリストに応じた編集を施しながらの動画再生の実行を指示することができる。また、編集メニューでは、図9(b)に示すように、「プレイリスト編集・エフェクト」の項目を選択することで、後述する動画像に対する編集(プレイリストの作成)の実行を指示することができる。
再生モード(図8(b)に示す1ファイル毎)において通常の動画再生が指示されると(ステップA23,A25、A26(No))、制御回路10は、静止画像/動画像/音声データメモリ28に記録された複数の動画像データから、インデックス画像の一覧表示から再生対象として選択された動画像データを読み出して、圧縮符号化/復号部24により復号し(ステップA28)、この復号された動画像データを表示メモリ17に記憶させて表示部19により再生表示させる(ステップA29)。制御回路10は、再生対象とする動画像データの全てについて処理が完了するまで再生出力を継続する(ステップA30)。
また、再生メニューからプレイリストによる再生が指示されると(ステップA26、Yes)、制御回路10は、編集/再生制御部26及び圧縮符号化/復号部24により、プレイリストメモリ30に記憶されたプレイリストを用いた再生処理を実行させる(ステップA27)。プレイリストによる再生処理の詳細については後述する(図28参照)。
なお、再生メニューなどから静止画の再生が指示されると(ステップA31、Yes)、制御回路10は、静止画像/動画像/音声データメモリ28に記録された複数の静止画像から再生対象として選択された静止画像データを読み出して圧縮符号化/復号部24により復号し(ステップA32)、この復号した画像データを表示メモリ17に記録することで表示部19において表示させる(ステップA33)。
一方、操作入力部15のモードスイッチの操作、あるいは編集メニューから編集モードの実行が指示されると(ステップA18、Yes)、制御回路10は、通常の動画像あるいは静止画像に対する編集を実行する編集処理、あるいは編集操作入力に応じてプレイリストを作成する再生方法の編集処理を実行するための編集モードに移行する(ステップA19)。なお、再生方法の編集処理の詳細については後述する(図10参照)。
なお、その他のキー操作があった場合には、制御回路10は、入力されたキー操作に応じた表示処理等を実行する(ステップA20,A21)。
次に、図7のステップA19に示す再生方法の編集処理(プレイリストの作成)について、図10に示すフローチャートを参照しながら説明する(図2に示す再生編集制御部130参照)。
第1実施形態における再生方法の編集処理では、動画像に対する編集や特殊効果などの再生方法の設定(プレでリストの編集)を、例えばGOP単位でフレーム内復号したIピクチャからインデックス画像を作成して一覧表示し(あるいは動画像データを復号しながら生成した縮小動画像のクリップでも良い)、この一覧画面上でインデックス画像に対してカーソルキー等で再生順序を指定することができる。また、例えば、インデックス画像の列の下に、スキップや、ジャンプ、ワイプ、ディゾルブ、フェードイン、フェードアウト、タイトル、BGM、アフレコ音、効果音付加などの複数の編集アイコンを設け、カーソルキーで編集アイコンを選択することで、インデックス画像に対応する所定単位の動画像に対する編集内容を入力することができる。ユーザにより編集対象とするインデックス画像と編集アイコンとを選択させることで編集操作を入力し、この操作内容をプレイリストとして編集して記録する。
まず、ユーザからの指定に応じて、静止画像/動画像/音声データメモリ28に記録された複数の動画像データ(MPEGファイル132)から編集対象とする動画像データを選択する(ステップB1)。
再生編集制御部130は、多重分離復号部130bにより分離された動画像データについて圧縮符号化/復号部24により復号し、所定単位毎のインデックス画像を生成して、編集モード用の画面として表示部19において一覧表示させる(ステップB2)。ここでは、所定単位のインデックス画像として、例えば時間毎、シーン毎、GOP毎のインデックス画像をそれぞれ生成して一覧表示できるものとする。
図11(a)(b)には、編集モードの表示画面においてインデックス画像の一覧が表示されている例を示している。インデックス画像の一覧画面では、「時間毎」、「シーン毎」、「GOP毎」のそれぞれに対応するタグが設けられており、例えばディスプレイボタンによりタグの選択状態に切り替え、カーソルキーの上下キーにより任意にタグを選択することができる。なお、ユーザが再生モードや編集モードで設定したチャプタ毎の先頭画像をインデックス画像として一覧表示するようにしても良い(図示せず)。
図11(a)は、「時間毎」のタグが指定された場合のインデックス画像の一覧表示例を示している。「時間毎」のインデックス画像の一覧表示では、例えば5分毎の先頭画像からインデックス画像(あるいはクリップ動画像)を生成して一覧表示する。また、タイムライン(時間軸目盛)を表示して動画像全体の長さと表すと共に、現在、インデックス画像の一覧表示の対象となっている動画像の範囲を表している。一覧表示画面では、上下左右のカーソルキーにより、インデックス画像を一覧表示させる範囲を切り替え、またセットキーにより選択対象とするインデックス画像(例えば、左上の位置にあるインデックス画像)に対応する範囲の動画像を再生させることができる。また、インデックス画像単位での再生順序の変更と特殊効果の付加による編集の実行する指定するための「編集」の項目が設けられている。例えば、ディスプレイボタンに対する操作によって、編集操作の実行を指示することができる。
図11(b)は、「GOP毎」のタグが指定された場合のインデックス画像の一覧表示例を示している。「GOP毎」のインデックス画像の一覧表示では、例えば符号化された動画像データのGOP単位毎の先頭画像からインデックス画像(あるいはクリップ動画像)を生成して一覧表示する。なお、その他は、図11(a)と同じであるので説明を省略する。
なお、図示していないが、「シーン毎」のタグが指定された場合には、編集対象とする動画像データからシーンの切り替え位置を自動で識別し(図2、シーン切替識別部130h)、この識別したシーン毎の先頭画像をもとにインデックス画像を生成して一覧表示する。動画像データからシーンの切り替え位置を識別するシーン識別処理の詳細については後述する(図17、図18)。
また、インデックス画像が一覧表示されている状態で、例えばディスプレイボタンの操作により編集操作の実行が指示された場合には、インデックス画像単位で再生順序を設定するための編集モード画面が表示される。
図11(c)には、再生順序の設定中の画面の一例を示している。図11(c)に示すように、画面上部には再生順が指定されたインデックス画像を表示するための再生順序エリアが設けられ、画面下部にはインデックス画像を表示する撮影画像エリアが設けられている。
この画面では、例えば左右方向のカーソルキーの操作により、一覧表示されるインデックス画像を変更させることができ、さらにセットキーによって再生対象とするインデックス画像(例えば左端にあるインデックス画像)を指定することができる。セットキーの操作により再生対象として選択されたインデックス画像は、画面上部の再生順序エリアに表示される。従って、複数のインデックス画像から再生順序に従って、順次、インデックス画像を選択していくことにより、所定単位での再生順序を指定することがてきる。また、再生対象として選択しないことで、カット(削除)することもできる。
また、図11(c)に示す再生順序の設定中の画面において、例えば上下方向のカーソルキーの操作により、特殊効果を付加するための編集モード画面が表示される。
図12(a)には、特殊効果の付加の設定中の画面の一例を示している。図12(a)に示すように、画面上部には再生順が指定されたインデックス画像を表示するための再生順序エリアが設けられ、画面下部には編集(特殊効果)内容を表す編集アイコンを表示する編集アイコンエリアが設けられている。
編集アイコンエリアには、「トランジション」「デジタルエフェクト」「効果音」のタグが設けられており、例えば左右方向のカーソルキーの操作によって任意のタグを選択することができる。
例えば、「トランジション」のタグが選択された場合には、図12(a)に示すように、遷移画面効果を施す編集を付加するための複数の編集アイコンを表示させる。また、「デジタルエフェクト」のタグが選択された場合には、図12(b)に示すように、デジタルエフェクトを施す編集を付加するための複数の編集アイコンを表示させる。
なお、図12(a)(b)に示す編集アイコンが表示された編集モード画面では、キー操作などによって、再生順序エリアにおいて設定されたインデックス画像から、編集アイコンを付加する対象とするものを任意に指定することができるものとする。
遷移画面効果(トランジションエフェクト)による編集は、例えば図13(a)に示すように、2つのインデックス画像のそれぞれに対応する動画像、クリップ#1,#2がある場合に、遷移元のクリップ#1に対応するインデックス画像に対してトランジションの編集アイコンを付加することで、クリップ#1の最後のGOPのIピクチャを復号した画像Aと、遷移後のクリップ#2の最初のGOPのIピクチャを復号した画像Bとから、画像の遷移を表現する各種の画面効果による連続画像を合成して、図13(b)に示すようにクリップ#1,#2の間に合成する。
図14には、トランジションエフェクトに関係する編集アイコン(図14(a)〜(h))と、それぞれに対応する画面遷移の例を示している。例えば、画面Aを拭き取るように画面Bに切り変わるワイプ(図14(a))、画面Aと画面Bとがオーバーラップして溶け込むように変わるディゾルブ(図14(b))など単純なものから、画面Aのドアを開けると画面Bに遷移するドア・オープン(図14(d))、画面Aのページをめくって画面Bに変わるページ・ピール(図14(e))、立方体が回転しながら画面が切り替わるキューブ・スピン(図14(f))など画像の縮小や変形モディファイ処理を要する複雑な遷移画面効果を施すものまで用意されている。
また、デジタルエフェクトによる編集は、例えば図15(a)に示すように、インデックス画像に対応する動画像、例えばクリップ#1がある場合に、クリップ#1に対応するインデックス画像に対してデジタルエフェクトの編集アイコンを付加することで、図15(b)に示すよう、該当するクリップ#1に対して編集アイコンが示すデジタルエフェクトを施す。
図16には、デジタルエフェクトに関係する編集アイコン(図16(a)〜(l))と、それぞれに対応するデジタル効果の例を示している。例えば、セピア、モノクローム、モザイク、ズーム・イン/アウト、ネガ、回転、ミラー(鏡像)、スリム/ストレッチ、フレーム/マーク、はめ込み合成、ストロボムービー、スチル(静止画再生)などの各種のデジタルエフェクトを施すものが用意されている。
なお、図示していないが、「効果音」のタグが選択された場合には、効果音、あるいはBGMを表す複数の編集アイコン(例えば図12(b)に示す音符記号を用いている)を表示させる。
図12(a)(b)に示すように、編集アイコンエリアにおいて編集アイコンが選択されると、再生順序エリアに設定されたインデックス画像の下部に、選択された編集アイコンが付加される。これにより、編集操作の内容を視認できるようになっている。
以上のようにして、編集モード画面を通じて、インデックス画像に対する再生順序の編集と、再生対象として選択されたインデックス画像に対する編集アイコンの付加による編集操作入力が行われる(ステップB3、B4、B5)。ここでの編集操作入力は、インデックス画像の指定と編集アイコンの選択だけで良いため、広い表示画面を必要とせず、またキーやボタンなどを用いた簡単な操作のみで実行可能である。
こうして、編集操作入力が行われると、再生編集制御部130(再生方法編集部130a)は、インデックス画像に付加された編集アイコンに応じて、編集再生用プレイリストを仮作成する(ステップB6)。
ここで、編集結果のプレビュー表示の実行が指示された場合(ステップB7、Yes)、仮プレイリストを動画像の再生に参照するプレイリストとして指定し(ステップB8)、このプレイリストを用いた動画像の再生処理を実行する(ステップB9)。なお、プレイリストによる再生処理の詳細については後述する。
以下、同様にして、インデックス画像の一覧表示から任意にインデックス画像を選択し、また編集アイコンを付加する編集操作をすることで、それぞれの編集操作に応じた仮プレイリストが作成される。
こうして、編集操作入力が行われた後、編集終了の指示が入力されると(ステップB10、Yes)、再生編集制御部130は、編集結果をプレイリストとして記録するか否かを、例えば表示部19にメッセージを表示するなどしてユーザに問い合わせる(ステップB11)。ここで、プレイリストとしての記録が指示された場合、仮プレイリストが示す編集結果をもとに、編集再生用プレイリストを本作成してプレイリストメモリ30に記録する(ステップB12)。
以上の編集操作によってプレイリストが生成され、プレイリストメモリ30に記録される。
ここで、前述したインデックス画像の一覧表示の際に、シーン毎のインデックス画像を生成するために実行されるシーンの識別処理について説明する(図2、フレーム内画像復号部130d、シーン切替識別部130h)。図17と図18は、それぞれシーンの識別処理(第1、第2)を説明するためのフローチャートである。第1実施形態の電子カメラでは、図17または図18のフローチャートに示すシーンの識別処理の何れかが用いられるものとする。
まず、図17に示す第1のシーン識別処理について説明する。
まず、編集対象とする動画像データの最初のGOPを読み込み(ステップC1)、GOP内のIピクチャをフレーム内復号し、前回メモリに一時記憶する(ステップC2)。
次のGOPを読み込み、GOP内のIピクチャをフレーム内復号し、今回メモリに一時記憶する(ステップC3)。
そして、今回メモリに記憶したIピクチャと前回メモリに記憶したIピクチャについて、空間パターン情報を用いた相関度Rを算出する(ステップC4)。例えば、相関度は、統計処理等で一般に用いる相関係数や、共分散と標準偏差等を用いて算出することができる。
例えば、ピアソンの積率相関係数(R)は、m×nの画像やパターンでは、次式、R=(画像fと画像tの共分散)/{(画像fの標準偏差)・(画像tの標準偏差)}によって計算できる。
すなわち、積率相関係数(R)は、以下の式(1)によって算出する。
ただし、f[x,y]は、入力画像f(前回メモリ)のx,y座標の濃度値、t[x,y]は、参照画像t(今回メモリ)のx,y座標の濃度値、fAVは入力画像fの濃度値の平均値、tAVは参照画像tの濃度値の平均値である。
相関度Rが所定値以上の場合は(ステップC5、Yes)、前のGOPと連続するシーンと見なし、相関度が所定値より低い場合は(ステップC5、No)、GOPを新しいシーンヘの切り替り位置として識別する。そして、新しいシーンと識別されたGOPで始まる画像に、新しいシーンNo.を割り当てて記憶する(ステップC6)。
次のGOPの処理のために、今回メモリ内容を前回メモリに移し(書き換え)(ステップC7)、最後のGOPまでの処理が終了する、あるいはシーケンスコード(SEC)を検出するまで、前述したように、各GOPを対象としてシーンに識別を行う(ステップC8)。
次に、図18に示す第2のシーン識別処理について説明する。
第1のシーン識別処理では、フレーム内復号したIピクチャの画像データの空間パターン情報をもとにシーンの切り替え位置を識別しているが、第2のシーン識別処理では、Iピクチャの輝度または色差のDCT係数のDC(直流)成分をもとにシーンの切り替え位置を識別する。
まず、編集対象とする動画像データの最初のGOPを読み込み(ステップC11)、GOP内のIピクチャの(輝度または色差データの)DCT係数のDC成分を前回メモリに一時記憶する(ステップC12)。
次のGOPを読み込み、GOP内のIピクチャの(輝度または色差データの)DCT係数のDC成分を今回メモリに一時記憶する(ステップC13)。
そして、今回メモリに記憶したDC成分と前回メモリに記憶したDC成分の相関度R、すなわち輝度情報(Y)または色差情報(Cr、Cb)のDCT係数のDC(直流)成分を用いた相関度Rを算出する(ステップC14)。例えば、相関度は、統計処理等で一般に用いる相関係数や、共分散と標準偏差等を用いて算出することができる。
例えば、ピアソンの積率相関係数(R)は、m×nの画像やパターンでは、次式、R=(DC成分aとDC成分bの共分散)/{(DC成分aの標準偏差)・(DC成分bの標準偏差)}によって計算できる。
すなわち、積率相関係数(R)は、前述した式(1)によって算出する。
ただし、f[x,y]は、入力画像f(前回メモリ)のx,y座標のDC成分、t[x,y]は、参照画像t(今回メモリ)のx,y座標のDC成分、fAVは入力画像fのDC成分の平均値、tAVは参照画像tのDC成分の平均値である。
相関度Rが所定値以上の場合は(ステップC15、Yes)、前のGOPと連続するシーンと見なし、相関度が所定値より低い場合は(ステップC15、No)、GOPを新しいシーンヘの切り替り位置として識別する。そして、新しいシーンと識別されたGOPで始まる画像に、新しいシーンNo.を割り当てて記憶する(ステップC16)。
次のGOPの処理のために、今回メモリ内容を前回メモリに移し(書き換え)(ステップC17)、最後のGOPまでの処理が終了する、あるいはシーケンスコード(SEC)を検出するまで、前述したように、各GOPを対象としてシーンに識別を行う(ステップC18)。
なお、図17及び図18のフローチャートに示すシーンの識別処理では、GOP間のIピクチャの相関度をもとにして、シーンの切り替え位置を識別しているが、その他の方法によってシーン切り替え位置を識別するようにしても良い。
例えば、動画像の撮影時に入力される操作に応じて、シーンの区切り位置を示すデータを動画像データと関連付けて記録しておく。例えば、撮影開始/停止スイッチの操作イベント(少なくとも何れか一方)を、タイムコードやGOPに対応付けて動画像データと共に記録しておく。
そして、撮影開始操作が記録された時刻やGOPから、撮影停止操作が記録された時刻やGOPまでを、一つのシーンとして識別してインデックス画像を生成する。
なお、撮影開始/停止スイッチの操作だけでなく、撮影動作中にその他の入力操作、例えばユーザから意図的な切り替え位置を指示する入力操作を受け付け、この入力操作に応じて動画像データと関連付けて切り替え位置を示すデータを記録するようにしても良い。この場合、切り替え位置を示すデータをもとに動画像を区分し、それぞれの区分に対応するインデックス画像(例えば先頭画像)を生成すれば良い。
次に、前述した編集モードにおける編集操作入力に応じた再生方法の編集処理(プレイリストの作成)について説明する。
図19には、動画像に対する編集の一例を示している。図19(a)は必要なパートだけをつなぐトリミング編集、図19(b)は複数クリップの再生順序を変更するカット編集、図19(c)はオープニングやエンディングの画像にタイトルの文字や画像を合成するタイトル編集(効果音やBGMの付加を含む)の例をそれぞれ示している。
図20には、トリミング編集(図19(a))におけるプレイリスト作成/再生制御の例を示している。なお、以下の説明では、編集モードのインデックス画像の一覧位置画面において、GOP単位のインデックス画像に対して入力操作が行われるものとする。
トリミング編集では、編集モードの入力操作画面(図11,12)において、再生対象とするパートに対応するインデックス画像のみが、先頭方向から再生順に順次選択される。図20(a)では、パート1に該当するGOP5〜10が、それぞれに対応するインデックス画像の選択により指定される。同様にして、パート2に該当するGOP13〜21、パート3に対応するGOP27〜32が指定される。
再生編集制御部130(再生方法編集部130a)は、インデックス画像(GOP)を選択する編集操作に応じて、再生制御情報を編集してプレイリストに記録する。
図20(b)には、図20(a)に示す入力操作に応じて作成されるプレイリストの具体例を示している。図20(b)に示すように、プレイリストは、再生制御情報として、「編集コード」「該当元GOP(アウト)」「タイムコード」「該当先GOP(イン)」「タイムコード」についてのデータがそれぞれ対応付けて記録される。
例えば「編集コード」にはスタートコード(「start」)が設定され、先頭のGOP5が「該当先GOP」として記録される。また、GOP5の動画像先頭からの時間を示す「タイムコード」が記録される。また、「編集コード」として、再生しないGOPを読み飛ばすことを示すジャンプコード(「Jump1」「Jump2」)が設定され、それぞれジャンプ元のGOP(GOP10,GOP21)が「該当元GOP」として設定され、ジャンプ先のGOP(GOP13,GOP27)が「該当先GOP」として設定される(それぞれのGOPのタイムコードも設定される)。
図20(b)に示すプレイリストが生成された場合、後述するプレイリストによる再生処理では、図20(c)に示すように、「編集コード」にスタートコード「start」が設定されているGOP5から再生が開始される。そして、GOP5〜10まで再生された後、ジャンプコード「Jump1」に従ってGOP9からGOP13にジャンプして、その間のGOPをカットし、同様にして、パート2に該当するGOP13〜20を再生出力した後、ジャンプコード「Jump2」に従ってGOP20からGOP27にジャンプして、その間のGOPをカットするように再生出力される。すなわち、プレイリストを参照した再生出力によって、再生対象として選択されたパートに該当するGOPのみが再生出力され、不要な部分がカットされた、トリミング編集された動画像を再生することができる。
図21には、カット編集(図19(b))におけるプレイリスト作成/再生制御の例を示している(GOP単位のインデックス画像に対して入力操作が行われるものとする)。
カット編集では、編集モードの入力操作画面(図11,12)において、再生対象とするパートに対応するインデックス画像が再生順に任意に選択される。図21(a)では、クリップ#3に該当するGOP27〜32が、それぞれに対応するインデックス画像の選択により指定される。次に、クリップ#2に該当するGOP13〜21、クリップ#1に対応するGOP5〜10の順番で、それぞれ同様にして指定される。
再生編集制御部130(再生方法編集部130a)は、インデックス画像(GOP)を選択する編集操作に応じて、再生制御情報を編集してプレイリストに記録する。
図21(b1)には、図21(a)に示す入力操作に応じて作成されるプレイリストの具体例を示している。図21(b1)に示すように、プレイリストは、再生制御情報として、「再生順序」「該当先GOP」「タイムコード」「先頭先からの換算タイム」「該当元GOP」「タイムコード」などについてのデータがそれぞれ対応付けて記録される。
例えば「再生順序」にはカットインコード「Cut In 0」が設定され、クリップ#3の先頭のGOP27が「該当先GOP」として記録される。また、GOP27の動画像先頭からの時間を示すタイムコードと、当該GOPを再生出力するまでの「先頭からの換算タイム」(当初は0)が記録される。また、「該当元GOP」には、次のクリップへのジャンプ元となるGOP32(クリップ#3の最終GOP)が設定される。クリップ#2については、「該当先GOP」としてGOP13が設定され、「該当元GOP」としてクリップ#2の最終GOP21が設定される(図示せず)。また、クリップ#3の再生時間(各GOPのタイムコードの合計)をGOP27に対応する「先頭からの換算タイム」に加算し、この求めた時間をカットインコード「Cut In 1」に対応する「先頭からの換算タイム」として設定する。同様にして、#1についても、「再生順序」「該当先GOP」「タイムコード」「先頭先からの換算タイム」「該当元GOP」「タイムコード」を設定する。
なお、図21(b1)に示す形式のプレイリストではなく、図21(b2)に示すような形式、すなわちトリミング編集で説明した図20(b)に準じた形式としても良い。図21(b2)では、図20(b)の形式に、それぞれの「編集コード」に対応する「先頭からの換算タイム」のデータが付加されている。
図20(b1)に示すように、プレイリストが生成された場合、後述するプレイリストによる再生処理では、「再生順序」にカットインコード「Cut In 0」が設定されているGOP27から再生を開始して、「該当元GOP」のGOP32まで再生する。次に、カットインコード「Cut In 1」が設定されているGOP13から再生を開始して「該当元GOP」のGOP21まで再生し、同様にして、カットインコード「Cut In 2」が設定されているGOP5から再生を開始して「該当元GOP」に設定されているGOP10まで再生する。こうして、カット編集された編集操作に応じた再生出力を、プレイリストを参照しながら実行できるようにする。
図22には、タイトル編集におけるプレイリスト作成/再生制御の例を示している。
タイトル編集では、任意のインデックス画像に対してタイトルを表す画像(及び音声)が付加される。図22(a)では、パート2、パート1、パート3の順番で再生出力されるようにカット編集がされている。カット編集の詳細な説明については省略する(図21参照)。さらに、最初のパート2のGOP61〜75に対して、タイトル1とBGM1を合成する編集が付加され、パート2の最終GOP77にワイプアウトが付加されている。また、パート1の先頭GOP5にはワイプイン、最終GOP56にはフェードアウト56が付加されている。また、パート3の先頭GOP81にはフェードイン、GOP82〜100に対してタイトル2を合成する編集が付加されている。
再生編集制御部130(再生方法編集部130a)は、インデックス画像(GOP)を選択する編集操作(編集の付加)に応じて、再生制御情報を編集してプレイリストに記録する。
図22(b)には、図22(a)に示す編集の付加に応じて作成されるプレイリストの具体例を示している。図22(b)に示すように、プレイリストは、再生制御情報として、「編集コード」「該当元GOP(アウト)」「タイムコード」「先頭からの換算タイム」「該当先GOP(イン)」「タイムコード」「ファイル」についてのデータがそれぞれ対応付けて記録される。
なお、図20(b)、図21(b2)と共通する部分については説明を省略する。「編集コード」にはGOPに対して付加された編集の内容を表すコード、例えばタイトルコード「Title 1」「Title 2」、BGMコード「BGM 1」、ワイプコード「Wipe 1」、フェードコード「Fade 1」などが設定されている。また、タイトルコード、BGMコードに対応して、画像あるいは音声などのファイル名(「プリセットA」「音声ファイルB」「ファイルC」など)が「ファイル」として設定される。
図22(b)に示すプレイリストが生成された場合、後述するプレイリストによる再生処理では、図22(c)に示すように、「編集コード」にスタートコード「start」が設定されているGOP60から再生が開始される。そして、タイトルコードとBGMコードが設定されているGOP61〜75に対して、「プリセットA」(画像)のファイルのデータを用いてタイトル1を合成し、また「音声ファイルB」(音声)のファイルのデータを用いてBGM1を再生して、GOP77まで再生出力する。パート2の最終GOP77からパート1の先頭GOP5は、ワイプ1により画面を遷移させ、GOP5〜56まで再生出力する。パート1の最終GOP56と、パート3の先頭GOP81は、フェード1により画面を遷移させ、GOP82〜100に対して、「ファイルC」のファイルのデータを用いてタイトル2を合成し、GOP101まで再生出力する。すなわち、編集モードにおいて、インデックス画像に対して付加された編集アイコンに応じた編集を付加して動画像を再生することができる。
また、図23には、トランジションエフェクトなど遷移画面効果を挿入する場合のプレイリスト作成/再生制御の例を示している。
遷移画面効果を挿入する場合、図22においても説明したように、任意のインデックス画像に対して、編集内容を表す編集アイコンが付加される。図23(a)では、クリップ#1の最終GOP21にワイプが付加された場合を示している。この場合、GOP21にはワイプアウト、クリップ#2の先頭GOP25にワイプインが付加される。
図23(b)に示すように、プレイリストには、ワイプを示す編集コード「Wipe 1」に対応して、「該当元GOP」としてGOP22、「該当先GOP」としてGOP15が記録される。その他の詳細については、図20〜22の説明に代えて省略する。
図23(b)に示すプレイリストが生成された場合、後述するプレイリストによる再生処理では、図23(c)に示すように、「該当元GOP」のGOP22のIピクチャを抽出して復号し(遷移元画像A)、また「該当先GOP」のGOP15のIピクチャを抽出して復号する(遷移先画像)。そして、遷移元画像Aと遷移先画像Bを用いて、特殊効果(ここではワイプ)を表す連続画像を合成する。
そして、図23(d)に示すように、クリップ#1からクリップ#2の間に画面効果の遷移画像が挿入されて出力される。なお、遷移画像の合成の詳細については後述する(図25〜図27)。
次に、図7のステップA27、図10のステップB9に示すプレイリストによる再生処理について、図24に示すフローチャートを参照しながら説明する(図3に示す復号再生制御部140参照)。
まず、再生順序制御部140a(圧縮符号化/復号部24)は、再生対象とする動画像に対応するプレイリストファイル142aをプレイリストメモリ30(メモリ媒体/通信路142)から読み出す(ステップD1)。
再生順序制御部140aは、スタートが設定されたGOPから順に圧縮符号化/復号部24(フレーム間復号部140b,140f、フレーム内復号部140c,140e)により復号して再生させる(ステップD2)。
ここで、プレイリストにトランジションエフェクト/タイトル等の編集が設定されている場合(ステップD3、Yes)、フレーム内復号部140c,140eにより遷移前後のGOPのIピクチャ画像(遷移元画像、遷移先画像)を圧縮符号化/復号部24により復号して生成し(ステップD5)、この遷移前後のIピクチャより画面効果の連続画像を合成する(ステップD5)。なお、具体的な画面効果の連続画像の合成については後述する(図25、図26、図27)。
そして、再生出力制御部140kは、合成されたトランジションエフェクト等の連続画像を再生表示させる(ステップD6)。
再生順序制御部140aは、プレイリストに記録された遷移先の先頭GOP(該当先GOP)に移り、同様にして順に復号再生させる(ステップD7)。
また、プレイリストにデジタルエフェクトの編集が設定されている場合(ステップD13、Yes)、該当GOPのIピクチャまたは続く画像を復号し(ステップC14)、該当Iピクチャまたは続く画像にズームイン、モノクロ化、セピアカラー、モザイク等、該当特殊効果を加える(ステップD15)。
そして、再生出力制御部140kは、デジタルエフェクト処理された連続画像を再生表示させる(ステップD16)。
また、プレイリストにジャンプまたはカットの編集が設定されている場合(ステップD17、Yes)、ジャンプ元の最後GOPからジャンプ先の先頭GOPに移り、順に復号再生する(ステップD18)。
また、何れの編集も付加がされていない場合(ステップD17、No)、プレイリストに設定された再生順序に従い、順に復号再生する(ステップD19)。
なお、プレイリストに効果音/BGMを付加する設定がされている場合(ステップD8)、該当効果音または音楽等の音声ファイル(追加音声ファイル142d)を静止画像/動画像/音声データメモリ28から読み込み(ステップD9)、該当画像を復号再生させると共に、該当音声ファイルを効果音合成部140gまたは音声復号部140hにより復号再生させる(ステップD10)。
ここで、プレイリストの最後まで再生処理が完了していなければ(ステップD11、No)、前述と同様にして、プレイリストに記録された再生制御情報に従って復号生成を実行する。
プレイリストの最後まで再生処理が完了すると(ステップD12、Yes)、再生編集処理を終了して、元の処理に戻る。
次に、図24のステップC5に示すトランジションエフェクト画面の合成処理の具体例について、ドアオープン/クローズの編集が設定されている場合を例にして説明する。
ドアオープン/クローズのトランジションエフェクト画面では、図25に示すように、ドアオープンの状態からドアクローズの状態、あるいはその逆に画像を順次遷移させていく。図26には、トランジションエフェクト画面が合成される様子を説明するための図、図27には、遷移画面の合成処理を説明するためのフローチャートを示している。
まず、遷移前のクリップ#1の最後のGOPのIピクチャをフレーム内復号して、A画像(遷移元画像)として記録する(ステップD51)(図26(a))。
また、遷移後のクリップ#2の最初のGOPのIピクチャをフレーム内復号して、B画像(遷移先画像)として記録する(ステップD52)(図26(b))。
次に、ドアオープン効果など、遷移効果の切出しマスクの所定枚数kの連続画像M1〜Mkを作成する(ステップD53)(図26(c))。
次に、画像Aを変形処理(画像変換等)し、マスク画像M1〜Mkのマスク部分の形状に合わせて貼り付ける。あるいは、マスク部分と重なった部分のみを残し、重なっていない部分を切り抜く(ステップD54)(図26(d))。
画像Bを所定枚数kだけコピーし、各画像Bをマスク画像M1〜Mnと重ね、重なった部分を切り抜き、残りの部分を残す処理をする(ステップD55)(図26(e))。すなわち、マスク画像M1〜Mkの各マスク部分データを全て0、残りを全て1とし、B画像と各マスク画像とをAND処理する。
次に、マスク処理して切り抜いた各A画像と対応するB画像とを結合(OR)し、所定枚数の連続画像を作成する(ステップD56)(図26(f))。
以上の処理によって、トランジションエフェクト画面の合成をすることができる。
このようにして、第1実施形態の電子カメラでは、ズーム撮像部4を通じて撮影された動画像に対して編集を施す場合に、動画像データを編集後の動画像データに変換して記録する代りに、MPEG圧縮動画像の元データを残したまま、クリップやシーン毎に再生順序変更や遷移画面効果などを表す再生制御情報をプレイリストとして編集して記録することができる。そして、動画像を再生出力する際には、プレイリストの再生制御情報を参照しながら編集や特殊処理を施した動画像を生成して再生出力するようにしたので、例えば次のような効果を得ることができる。
(1)プレイリストの編集情報を変更するだけで、色々な編集を何度でも施すことができる。従って、記録した動画像データ自体に変更や加工をしないので、何度編集しても画質が劣化しない。
(2)複雑な復号や再符号化、ストリームの連続性やバッファ量の制御等が不要なので、構成が簡単で処理量が少なく、小型携帯型に構成された電子カメラ等の低速CPUや処理回路でも、再生しながら特殊効果等を簡単に生成して再生出力できる。
(3)プレイリストを新たに別ファイルとして記録するだけなので、メモリの所要量も少なく、メモリ容量が少ない携帯型の電子カメラ等でも実現できる。
(4)編集操作は、従来のようにタイムライン上にクリップ画像をドラッグ&ドロップしたり、画像トラックと画像トラックの間のトラックに画面効果のオブジェクト等を並べたりする代りに、インデックス画像を再生順に選択し、また画面効果やタイトルや効果音付加等を表す編集アイコンを選択してインデックス画像に付加する操作だけで良い。このため、表示サイズが小さい(多数のトラックなどを設けた編集画面を同時表示できない)表示部19や、限られたボタンやキーによる簡易な操作入力部15でも容易に編集操作入力が可能でありハードウェアの制限により操作性を損なうことがない。
なお、前述した第1実施形態では、再生制御情報をプレイリストとして編集して記録し、動画像を再生する場合には、プレイリストの再生制御情報を参照しながら、編集や特殊処理を施した動画像を生成して再生するようにしたが、プレイリストの再生制御情報を参照して、編集を施した後の動画像データを新規の動画像データとして追加記録できるようにしても良い。あるいは、再生編集(プレイリストの作成)だけでなく、前述した編集操作入力によって、例えばGOP単位で簡易に動画像データに対して編集処理(編集記録)を行う編集機能や編集モードを設けても良い。また、再生編集とするか、さらに編集記録とするかをユーザからの指定入力によって選択できるようにしでもよい。
なお、遷移画面効果やタイトルや効果音、BGMなどの付加の編集例を示したが、その他の遷移画面効果や音声効果、あるいは遷移画面以外の画像の変形やモデファイ、デフォルメ加工や、画像の色相や彩度、明度などを変化させたり、白黒画像やモザイク画像、解像度や階調度を変えた画像など、その他のデジタルエフェクトを付加したり、その他の楽器音や擬音、声音等を合成して付加できるようにしてもよい。
また、タイムライン上での編集操作は小型機器では難しいが、一覧性や時系列順序は分かりやすいので、編集前後の一覧表示として、タイムラインや時間軸上のインデックス画像表示等を合せて表示できるようにしてもよい。
次に、本発明の第2実施形態について説明する。
第1実施形態では、動画像に対するユーザよって入力される編集操作に対して、動画像データについて実際の編集処理を施さずプレイリストを作成編集するとしているが、第2実施形態では、編集操作に対して、動画像データ自体に対して実際に編集処理を施して記録する。
なお、第2実施形態における電子カメラの構成及び基本的な動作について第1実施形態と同じであるものとして詳細な説明を省略する。
以下、第2実施形態における動画像データの編集処理について、図28に示すフローチャートを参照しながら説明する。
まず、ユーザからの指定に応じて、静止画像/動画像/音声データメモリ28に記録された複数の動画像データ(MPEGファイル132)から編集対象とする動画像データを選択する(ステップE1)。
再生編集制御部130は、多重分離復号部130bにより分離された動画像データについて圧縮符号化/復号部24により復号し、所定単位毎のインデックス画像を生成して、編集モード用の画面として表示部19において一覧表示させる(ステップE2)。ここでは、所定単位のインデックス画像として、例えば時間毎、シーン毎、GOP毎のインデックス画像をそれぞれ生成して一覧表示できるものとする。
ここでは、第1実施形態と同様にして、インデックス画像が一覧表示された編集モード画面を通じて、インデックス画像に対する再生順序の編集と、再生対象として選択されたインデックス画像に対する編集アイコンの付加による編集操作入力が行われる(ステップE3、E4、E5)。ここでの編集操作入力は、インデックス画像の指定と編集アイコンの選択だけで良いため、広い表示画面を必要とせず、またキーやボタンなどを用いた簡単な操作のみで実行可能である。
こうして、編集操作入力が行われると、再生編集制御部130(再生方法編集部130a)は、インデックス画像に付加された編集アイコンに応じて、編集再生用プレイリストを仮作成する(ステップE6)。
ここで、編集結果のプレビュー表示の実行が指示された場合(ステップE7、Yes)、仮プレイリストを動画像の再生に参照するプレイリストとして指定し(ステップE8)、このプレイリストを用いた動画像の再生処理を実行する(ステップE9)。なお、プレイリストによる再生処理の詳細については後述する。
以下、同様にして、インデックス画像の一覧表示から任意にインデックス画像を選択し、また編集アイコンを付加する編集操作をすることで、それぞれの編集操作に応じた仮プレイリストが作成される。
こうして、編集操作入力が行われた後、編集終了の指示が入力されると(ステップE10、Yes)、再生編集制御部130は、編集結果をプレイリストとして記録するか否かを、例えば表示部19にメッセージを表示するなどしてユーザに問い合わせる(ステップE11)。ここで、プレイリストとしての記録が指示された場合、仮プレイリストが示す編集結果をもとに、編集再生用プレイリストを本作成してプレイリストメモリ30に記録する(ステップE12)。
プレイリストの編集終了後には、編集後の動画像データを記録する設定がされているかを判別する(ステップE13、Yes)。例えば、プレイリストの作成編集の後に、「編集後のデータを記録するか?」といった、ユーザに対して確認するためのメッセージを表示する。このメッセージに対して実行を指示する応答があった場合に編集後の動画像データを記録する設定がされていると判別する。あるいは、作成編集モードとは別に、編集記録モードを設け、この編集記録モードが設定されている場合に、プレイリスト記録だけでなく、編集後の動画像データ自体も記録するものと判別する。
編集後の動画像データの記録をする場合、該当プレイリストを読出し(ステップE14)、スタートが設定されたシーンのGOPから順に動画像データを読出し、圧縮符号化されたデータのまま複製コピーを作成して、GOP単位で結合して新たな動画像データを作成する(ステップE15)。
ここで、対象とするGOPにジャンプやスキップ(カット)の編集が付加されている場合(ステップE24、Yes)、ジャンプ先の先頭GOPに移って、そこからまた順にGOP単位で圧縮符号化されたデータを結合していく(ステップE25)。
また、遷移画面効果のトランジションエフェクトやタイトル画面などを付加する編集が付加されている場合には(ステップE16、Yes)、遷移前と遷移後の各GOPのIピクチャをフレーム内復号して(ステップE17)、遷移前後のIピクチャの静止画像A,B(遷移もと画像、遷移先画像)から該当する画面遷移など特殊効果用の連続画像を合成して作成し(ステップE18)、合成した遷移効果の連続画像を新たな単数または複数のGOPの動画像データとして、前後の隣接GOPとともに符号化して結合する(ステップE19)。そして、遷移先の先頭切らせに移り、GOP単位で結合する(ステップE20)
この場合、隣接GOP間でバッファ量(VBV_delay値など)や符号量のバランスなどを調整するために、特殊効果用に合成した連続画像を新たなGOPとして作成し、また、符号化する場合には、バッファ量(VBV_delay値)を所定値に再設定するとともに、前後のGOPの動画像データを一旦復号して、遷移前のGOPと、合成した画面効果部分のGOPと、遷移後のGOPとの複数GOPをまとめて再符号化して、符号量が過不足やアンバランスをふせぐ(ステップE21)。
ここで、プレイリストの最後、またはエンドが設定されたプレイリストに到達したならば、そこまで結合した動画像データを元の動画像データとは別の新たな動画像データとして記録し、編集を終了する(ステップE23)。
第2実施形態では、ジャンプやスキップ(カット)など再生順序の変更をGOP単位で行うので、殆どの編集の部分では、図29(a)に示すように、圧縮符号化されたデータのままGOP単位で切り貼りすればよい。
また、図29(b)に示すように、圧縮符号化データのままフレーム単位で編集することもできるが、編集点前後でのGOPの修正作業、例えばカット点がPピクチャフレームの場合、前のIピクチャのDCT成分に動き補償を施したものに、カット点のPピクチャのDCT成分を加え、新たなIピクチャとするなどの修正が必要となる。GOP単位では、このような修正作業を行う必要がなく、簡単な構成と処理で圧縮データのまま編集処理が実現できる。
また、トランジションエフェクトやタイトル合成等特殊効果などの部分では、図30に示すように、第1実施形態と同様にして、遷移前後のGOP単位でフレーム内復号したIピクチャを元に合成した遷移画面を生成し、編集記録のためには、前後のGOPとともに再符号化して新たなGOPを作成する必要があるが、復号や再符号化の処理は少ないので、編集記録を行っても、符号量や復号したベースバンド動画像を記録するためのメモリ所要量が少なくても済む。その部分で時間が多少かかっても、編集中なので使用上の不都合は少ない。
また、撮影して記録した元の動画像データはそのまま変更せず、新たな動画像データを新規に作成するので、何度編集しても、元の動画像の画質が劣化することはない。また、第1実施形態のように、再生制御方法を設定したプレイリストだけの作成に比べ、編集の処理やメモリ所要量は若干増えるが、第1実施形態と違い、再生時には編集後の動画像データをそのまま再生するだけでよくなるので再生時の制御が不要で簡単になる。
このようにして、第2実施形態では、編集単位をGOP単位として、殆どの編集では圧縮符号化データでの編集で行えるようにし、また、遷移画面効果などの特殊効果の編集もGOP単位の簡易方式ながら行えるようにしたので、従来例に比べて編集処理を単純化でき、かつ、圧縮記録後の動画像データでも編集できる機能を、例えば小型の電子カメラに搭載された低速CPUや画像データ処理回路でも十分実現できるようなる。
なお、前述した図28のフローチャートの処理では、ユーザからの入力操作に対してプレイリストを作成編集するとしているが、プレイリストを作成しないで動画像データに対して編集を施して、編集済みの動画像データを記録しておくようにしても良い。
なお、第2実施形態では、ユーザからの入力操作に対して動画像データに対して編集処理を施して記録するものとしてるが、第1実施形態と同様にしてプレイリストを作成し、このプレイリストに設定された編集内容(再生制御情報)に応じて編集処理を実行するようにしても良い。
また、前述した各実施形態では、携帯カメラ本体部2及びズーム撮像部4によって撮影された動画像を対象にして説明しているが、例えば充電/PC転送用クレードル部7を介して、USB、LAN、あるいは無線通信などにより他のパーソナルコンピュータなどの情報機器から受信された動画像データに対して同様の処理を実行して、動画像データに対して符号化して記録するとともにプレイリストを作成し、携帯カメラ本体部2において再生できるようにしても良い。また、他の情報機器から符号化された動画像データと共に、この動画像データに対するプレイリストのデータを受信し、携帯カメラ本体部2において、プレイリストをもとに動画像を再生出力することもできる。
また、上記実施の形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組み合わせにより種々の発明が抽出され得る。例えば、実施の形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
また、前述した各実施形態において記載した処理は、コンピュータに実行させることのできるプログラムとして、例えば磁気ディスク(フレキシブルディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリなどの記録媒体に書き込んで各種装置に提供することができる。また、通信媒体により伝送して各種装置に提供することも可能である。電子カメラに搭載されるコンピュータの機能は、記録媒体に記録されたプログラムを読み込み、または通信媒体を介してプログラムを受信し、このプログラムによって動作が制御されることにより、上述した処理を実行する。
2…携帯カメラ本体部、4…ズーム撮像部、6…コネクタ部、7…充電/PC転送用クレードル部、10…制御回路、12…入力回路、13…静止画撮影半押し/シャッタボタン、14…動画撮影開始/停止ボタン、15…操作入力部、17…表示メモリ、18…表示駆動部、19…表示部、20…画像バッファメモリ、22…画像信号処理部、24…圧縮符号化/復号部、26…編集/再生制御部、28…静止画像/動画像/音声データメモリ、30…プレイリストメモリ、31…音声復号化部、32…A/D変換部、33…増幅部、34…スピーカ、36…外部メモリインタフェース、37…外部メモリ、40…音声符号化部、41…A/D変換部部、42…増幅部、43…マイク、44…電源制御部、46…電池、48…外部I/Oインタフェース、50,92…コネクタ、52…レンズ光学系、53…絞り、54…ハーフミラー、55…シャッタ、58,59…レンズ駆動部、60…撮像素子、62…測光/測距センサ、70…制御部、71…焦点制御部、72…ズーム制御部、73…絞り制御部、74…シャッタ制御部、75…CDS/AGC、76…A/D回路、77…タイミング制御駆動部、78…露出制御部、79…測距制御部、80…フラッシュ制御部、82…フラッシュ駆動部、83…フラッシュ、90…制御回路、94…充電制御部、96…電源/充電/転送インジケータ、97…操作部、98…無線LANI/F、99…符号/復号部、100…変調/復調部、101…送信/受信部、104…LAN通信I/F、106…USB通信I/F、108…USBコネクタ、110…LANコネクタ、120…安定化回路、122…平滑回路、124…整流回路、126…ヒューズ、130…再生編集制御部、130a…再生方法編集部、130b…多重分離復号部、130c…各種復号部、130d…フレーム内画像復号部、130e…インデックス画像作成部、130f…音声インデックス再生部、130g…プレイリスト作成部、130h…シーン切替識別部、132,136a,142b…MPEGファイル、134…画像・音声ファイル、136,142…メモリ媒体/通信路、136b,142a…プレイリストファイル、136c…追加画像・音声ファイル、140a…再生順序制御部、140b…フレーム間復号部、140c…フレーム内復号部、140d…特殊効果合成部、140e…フレーム内復号部、140f…フレーム間復号部、140g…効果音合成部、140h…音声復号部、140k…再生出力制御部、142c…追加画像ファイル、142d…追加音声ファイル。