以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の一側面の第1の画像処理装置(例えば、図18の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図18の特徴量抽出部41)と、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図18の設定情報決定部46)と、前記設定手段により設定された前記設定情報を編集する編集手段(例えば、図18の滑らか終了制御部201)と、前記画像の特徴量に対応付けて前記編集手段により編集された前記設定情報をデータ記録媒体に記録する記録手段(例えば、図18の蓄積ブロック43)とを備える。
本発明の一側面の第2の画像処理装置(例えば、図37の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図37の特徴量抽出部41)と、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図37の設定情報決定部46)と、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録する記録手段(例えば、図37の蓄積ブロック43)と、前記記録手段により前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段(例えば、図37のトリガー部503)とを備える。
本発明の一側面の第3の画像処理装置(例えば、図19の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図19の特徴量抽出部41)と、前記画像に対する処理を指定するための操作をする操作手段(例えば、図19の操作情報認識部45)と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図19の設定情報決定部153)と、前記操作情報を編集する編集手段(例えば、図19の滑らか終了制御部211)と、前記画像の特徴量に対応付けて前記編集手段により編集された前記操作情報をデータ記録媒体に記録する記録手段例えば、図19の蓄積ブロック151)とを備える。
本発明の一側面の第4の画像処理装置(例えば、図38の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図38の特徴量抽出部41)と、前記画像に対する処理を指定するための操作をする操作手段例えば、図38の操作情報認識部45)と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図38の設定情報決定部153)と、前記画像の特徴量に対応付けて前記操作情報をデータ記録媒体に記録する記録手段(例えば、図38の蓄積ブロック121)と、前記記録手段により前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段(例えば、図38のトリガー部513)とを備える。
以下に、本発明の実施の形態について図面を参照して説明する。
まず、図3、図4を参照して、本発明を適用した画像処理装置の概念について説明する。本発明を適用した画像処理装置は、予め記録された画像に対して、使用者により指示された処理を施し表示する。このとき、画像処理装置は、画像の特徴量を抽出して、特徴量に対応付けて処理内容の情報を蓄積させる。さらに、画像処理装置は、予め記録された画像を再生するとき、この蓄積された処理内容の情報を読み出して、画像に処理を施し表示する。
より具体的には、画像処理装置2の動作は、大きく分けて記録モードと再生モードとの2つのモードからなる。
記録モードでは、図3で示されるように、画像処理装置2は、例えば、DVD(Digital Versatile Disc)などの動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を表示部3に表示させる。この状態で、リモートコントローラなどが使用者などにより操作されることにより、所望とする画像への処理として、例えば、ズーム、パン、チルトなどが指示されると、画像処理装置2は、操作内容に対応する設定情報を生成すると供に、設定情報に対応付けられた処理を画像に施して表示部3に表示させる。さらに、画像処理装置2は、画像より特徴量を抽出し、抽出した特徴量に対応付けて設定情報を操作履歴格納部4に蓄積させる。
次に、再生モードでは、図4で示されるように、画像処理装置2は、動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を読み出すと供に、特徴量を抽出する。このとき、画像処理装置2は、操作履歴格納部4に特徴量に対応付けられて記録されている設定情報を、記録メディア1から読み出した画像の特徴量に同期して読み出すと供に、読み出した設定情報に基づいて、画像に処理を施し、表示部3に表示させる。
以上のような動作により、画像処理装置2は、予め記録された画像に対する処理内容のみを蓄積して、処理結果である画像を記録することなく、処理結果である画像を繰り返し再生できるようにすることができる。結果として、予め記録された画像に対して、様々な画像処理を加えると言った加工処理を繰り返すことが可能となる。
以下、図3、図4を参照して説明した画像処理装置2について詳細を説明する。
図5は、図3、図4の画像処理装置2に対応する画像処理装置13の一実施の形態の構成を示した図である。
画像再生部12は、図3、図4の記録メディア1に対応する記録メディア11に予め所定の形式でエンコードされた状態で記録された画像をデコードし、順次画像として特徴量抽出部41および遅延部48に供給する。
特徴量抽出部41は、画像再生部12より順次供給されてくる画像の特徴量を抽出して、同期検出部42、および蓄積ブロック43の特徴量設定情報記録部61に供給する。なお、特徴量抽出部41の構成については、図7を参照して詳細を後述する。
リモートコントローラ14は、キーやボタンなどから構成され、図3、図4で示されるように使用者が所望とする画像に対する処理の内容を指示するとき操作され、使用者の操作に応じて操作信号を発生すると供に、発生した操作信号に応じて赤外線などからなる発光パターンを生成し、画像処理装置13の受光部44に発光する。
受光部44は、リモートコントローラ14の発光パターンに基づいて、リモートコントローラ14の操作信号に変換し、操作情報認識部45に供給する。操作情報認識部45は、受光部44より供給されてくる操作信号に基づいて、使用者が所望とする画像への処理に対応付けられている操作情報を認識し、認識結果である操作信号を設定情報決定部46に供給する。
設定情報決定部46は、操作情報認識部45より供給されてくる操作情報に基づいて、後述する反映部49に対して画像への処理内容を指示するための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。
蓄積ブロック43の特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量と、設定情報決定部46より供給されてくる設定情報とを対応付けて特徴量設定情報蓄積部62(図3、図4の操作履歴格納部4に対応するもの)に蓄積させる。
同期検出部42は、特徴量設定情報蓄積部62に蓄積されている特徴量(後述する検索位置特徴量)のうち、特徴量抽出部41より供給されてくる画像再生部12により再生されている画像の特徴量(後述する再生位置特徴量)を検索し、同一の特徴量が検出されたとき、画像の同期位置として検出結果を特徴量設定情報読出部63に供給する。なお、同期検出部42の構成については、図9を参照して詳細を後述する。
特徴量設定情報読出部63は、同期検出部42より同期位置として検出された特徴量(検索位置特徴量)を取得すると、その特徴量に対応付けられて、特徴量設定情報蓄積部62に記憶されている設定情報を読み出し、選択部47に供給する。選択部47は、設定情報決定部46より設定情報が供給されてきた場合、仮に、同一のタイミングで特徴量設定情報読出部63より設定情報が供給されることがあっても、設定情報決定部46からの設定情報を反映部49に供給する。また、選択部47は、設定情報決定部46より設定情報の供給がなく、特徴量設定情報読出部63より設定情報が供給された場合、特徴量設定情報読出部63より供給された設定情報を反映部49に供給する。さらに、いずれからも設定情報が供給されてこない場合、選択部47は、設定情報を反映部49に供給しない。
遅延部48は、特徴量抽出部41、同期検出部42、蓄積ブロック43、および、選択部47の処理における遅延時間だけ、画像再生部12より供給されてくる画像を一時的に記憶し、反映部49に出力する。反映部49は、選択部47より設定情報が供給されてくる場合、遅延部48より供給されてくる画像に対する処理を反映して、表示部15に表示する。また、反映部49は、選択部47より設定情報が供給されてこない場合、遅延部より供給されてくる画像を、そのまま表示部15に表示させる。
図6は、画像処理装置13の他の実施の形態の構成を示す図である。図6に示した画像処理装置13は、操作情報を設定情報の代わりに、特徴量に対応付けて記録するようにした場合の構成例を示している。なお、図6において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、遅延部48、および反映部49については、図5の画像処理装置13と同様である。図6の画像処理装置13において、図5の画像処理装置13と異なるのは、蓄積ブロック43、設定情報決定部46、および選択部47に代えて蓄積ブロック151、設定情報決定部153、および選択部152が設けられている点である。
蓄積ブロック151は、操作情報認識部45より供給されてくる操作情報を特徴量に対応付けて蓄積すると供に、蓄積された操作情報を再生中の画像の特徴量に対応付けて読み出し、選択部152に供給する。
蓄積ブロック151の特徴量操作情報記録部161は、特徴量抽出部41より供給されてくる特徴量と、操作情報認識部45より供給されてくる操作情報とを対応付けて特徴量操作情報蓄積部162に蓄積させる。
特徴量操作情報読出部163は、同期検出部42より同期位置として検出された特徴量、すなわち、検索位置特徴量を取得すると、その特徴量に対応付けられて記憶されている操作情報を読み出し選択部152に供給する。選択部152は、操作情報認識部45より操作情報が供給されてきた場合、仮に、特徴量操作情報読出部163より操作情報が供給されてきても、操作情報認識部45より供給されてきた操作情報を設定情報決定部153に供給する。また、選択部152は、操作情報認識部45より操作情報の供給がなく、特徴量操作情報読出部163より操作情報が供給された場合、特徴量操作情報読出部163より供給された操作情報を設定情報決定部153に供給する。さらに、いずれからも操作情報が供給されてこない場合、選択部152は、操作情報を設定情報決定部153に供給しない。
設定情報決定部153は、選択部152より供給されてくる操作情報に基づいて、反映部49に対する画像への処理内容を指示するための設定情報を決定し、反映部49に供給する。
図5に示した画像処理装置13と図6に示した画像処理装置13において、特徴量抽出部41と同期検出部42は、それぞれ同一のものを用いることができる。ここで、特徴量抽出部41と同期検出部42について説明を加える。
まず図7を参照して、特徴量抽出部41の詳細な構成について説明する。
DFF(D型フリップフロップ)81は、直前の入力信号を記憶して、図示せぬクロック信号発生器からのクロック信号(clk)が入力されるタイミングで加算器82に出力する。また、DFF81は、入力信号が画像の信号のうち画像データ領域外のものであるとき、リセット信号が入力され入力信号が消去されて出力される。すなわち、画像信号は、図8で示されるように同期データ領域と画像データ領域から構成されているため、図中の水平方向のサンプルと垂直方向のラインの丸印の原点であるフレーム開始点Sから順次入力されてくる位置の情報に応じて、画像データ領域外の同期データの場合、リセット信号が入力され、同期データを構成する信号が、加算器82に出力されない。つまり、DFF81は、画像を構成する入力信号のうち、画像データ領域のデータのみをクロック信号に同期して加算器82に供給する。
加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号とを加算してDFF83に出力する。より詳細には、加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号との加算結果のうち、下位8ビットを抽出してDFF83に供給する。
DFF83は、加算器82より供給されてくる信号を図示せぬクロック発生器より発生されるクロック信号(clk)が入力されるタイミングで加算器82および出力部84に供給する。また、DFF83は、フレーム開始点(図中の水平方向のサンプルと垂直方向のラインの丸印の原点)Sの信号が入力される際、リセット信号が入力され入力信号が消去されて出力される。すなわち、DFF83は、画像を構成する入力信号のうち、画像データ領域のデータのみが加算器82により累積的に加算された値を出力部84に供給する。
出力部84は、1フレーム(または、1フィールド)の値がDFF83より供給されてきたとき、その値をフレーム(または、そのフィールド)分の画像の特徴量として出力する。すなわち、出力部84は、画像データ領域のデータのみが加算器82により累積的に加算された値の下位8ビットをそのフレーム(または、そのフィールド)の特徴量として出力する。なお、特徴量は、画像を1フレーム単位で識別できる情報であればよいので、画像データ領域のデータのみ(画素値のみ)が累積的に加算された値の下位8ビットに限るものではなく、例えば、画像データ領域の中央近傍の所定領域内の画素値のみの加算結果をそのまま使用してもよい。
次に、図9を参照して、同期検出部42の詳細な構成について説明する。
特徴量バッファ101−1乃至101−3は、供給されてきた特徴量を一時的に記憶すると供に、それまでに記憶していた特徴量を再生位置特徴量生成部102および後段の特徴量バッファ101−2,101−3に順次出力する。なお、特徴量バッファ101−3は、後段の特徴量バッファ101が存在しないため、再生位置特徴量生成部102にのみ出力する。再生位置特徴量生成部102は、特徴量バッファ101−1乃至101−3より供給されてくる最新の特徴量を含めた過去3フレーム分の特徴量を順次取得し、これを纏めて再生位置情報(再生位置特徴量)として生成し、比較部103に出力する。すなわち、再生位置特徴量生成部102は、再生位置を特定するための特徴量として最新のフレームから3フレーム前までの合計4個の特徴量を使用して、再生位置特徴量を生成する。
検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量を連続する4個ずつを順次読み出し、検索位置特徴量として比較部103および検出部105に供給する。比較部103は、再生位置特徴量生成部102より供給されてくる再生位置特徴量と、検索位置特徴量読出部104より順次供給されてくる検索位置特徴量とを比較する。比較部103は、再生位置特徴量と一致する検索位置特徴量を検索した場合、同期が検出されたとみなし、検出結果として同期が検出されたことを検出部105に通知する。検出部105は、比較部103より同期が検出されたとみなされたタイミングで、検索位置特徴量読出部104より供給されてきた検索位置特徴量を同期検出結果として出力する。
次に、図5、図6に示した画像処理装置13の動作について、図10乃至図14のフローチャートを参照して説明する。図5に示した画像処理装置13と図6に示した画像処理装置13は、基本的に同様の動作であるので、図10乃至図14のフローチャートを参照した説明では、図5に示した画像処理装置13の動作を例に挙げて説明する。
画像処理装置13は、入力された画像を処理するが、その処理対象となる画像は、例えば、記録メディア11に記録されている画像である。例えば、画像再生部12(図5)が記録メディア11に記録されている画像を読み出し、遅延部48は、供給されてきた画像を1フレーム分一時的に遅延させるために記憶する。なお、以降においては、画像を1フレーム単位で処理するものとして説明を進めるが、当然のことながら、画像は、1フレーム単位に限らず、例えば、1フィールド単位で処理するようにしても良い。
ステップS11において、特徴量抽出部41は、特徴量抽出処理を実行し、画像再生部12より供給されてきた1フレーム分の画像の特徴量を抽出する。すなわち、遅延部48が、新たな画像を1フレーム分遅延させるために一時的に記憶するとき、同様に、1フレーム分の画像が特徴量抽出部41にも供給されているため、同一のタイミングで、同一の画像が、一方では遅延のため一時的に記憶され、他方では特徴量が抽出される。
図11のフローチャートを参照し、ステップS11において特徴量抽出部41により実行される特徴量抽出処理について説明する。
ステップS31において、DFF83は、フレーム開始点S(図8)によりリセットされる。
ステップS32において、未処理の画素が選択され、ステップS33において、画像データ領域外であるか否かが判定される。より詳細には、例えば、ラスタスキャン順に1フレーム分の画像より未処理の画素が順次読み出され、画像データ領域外であるか否かが判定される。
図8で示されるように、最初の画素(フレーム開始点Sの画素)の場合、同期データに含まれるため画像データ領域外であるので、ステップS35において、DFF81はリセットされ、0を画素値として出力する。一方、ラスタスキャン順に処理対象となる画素が選択され、例えば、画像データ領域内である場合、ステップS34において、DFF81は、クロック信号の発生タイミングで画素値を加算器82に供給する。
ステップS36において、加算器82は、入力された画素値と、DFF83より供給されてくる信号とを加算してDFF83に供給する。ステップS37において、DFF83は、クロック信号の発生タイミングで加算器82より供給されてきた加算結果の下位8ビットを加算器82に戻す。このとき、DFF83は、加算結果を出力部84にも供給するが、出力部84は、加算結果を出力しない。
ステップS38において、未処理の画素があるか否かが判定され、未処理の画素がある場合、その処理は、ステップS32に戻る。すなわち、1フレーム分の画素が全て処理されるまで、ステップS32乃至S38の処理が繰り返される。そして、1フレーム分の画素の全てが処理されたと判定された場合、ステップS39において、出力部84は、DFF83より供給されてくる加算結果、すなわち、画像データ領域に属する画素値の累積加算結果の下位8ビットを1フレームの画像の特徴量として出力する。
以上の処理により、1フレーム分の画像信号より画像データ領域の全ての画素値の累積加算結果の下位8ビットが、そのフレームの特徴量として抽出されることになる。
ここで、図10のフローチャートの説明に戻る。
ステップS11において特徴量抽出部41により特徴量抽出処理が実行されると、ステップS12において、記録中フラグが立っているか否かが判断される。記録中フラグとは、操作情報や設定情報(設定値)を記録するための処理が実行されているときに立てられるフラグである。
記録中フラグが立っているか否かの判断は、特徴量設定情報記録部61が判断する。ステップS12において、記録中フラグが立っていると判断された場合、ステップS16に処理が進められ、記録中フラグは立っていないと判断された場合、ステップS13に処理が進められる。
ステップS13において、同期に係わる処理が実行される。ここで、図12のフローチャートを参照して、同期に係わる処理について説明する。同期に係わる処理としては、同期の検出に係わる処理(同期検出処理)と、同期検出処理結果に依存する設定値の設定に係わる処理とに分けられる。ステップS51が同期検出処理であり、ステップS52乃至S56が設定値の設定に係わる処理である。
ステップS51において同期検出部42(図9)において実行される同期検出処理につて、図13のフローチャートを参照して説明する。同期検出部42は、ステップS51における同期検出処理を実行することにより、再生中の画像の特徴量と、画像に処理を施すための設定情報が対応付けられている特徴量との同期を検出する。
ステップS71において、同期検出部42の再生位置特徴量生成部102は、特徴量抽出部41より特徴量が供給されてきたか否かを判定し、供給されてくるまでその処理を繰り返す。例えば、ステップS3の特徴量抽出処理により特徴量が抽出されて、特徴量抽出部41より今現在再生中の画像の特徴量が供給されてきた場合、その処理は、ステップS72に進む。
ステップS72において、検索位置特徴量読出部104は、検索位置の特徴量をカウントするためのカウンタiを0に初期化する。
ステップS73において、再生位置特徴量生成部102は、供給されてきた特徴量を取得すると供に、特徴量バッファ101−1乃至101−3にそれまで記憶していた特徴量を取得する。すなわち、特徴量バッファ101−1は、新たに特徴量が供給されてくると、それまでに記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−2に供給する。
同様に、特徴量バッファ101−2は、供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−3に供給する。さらに、特徴量バッファ101−3は、特徴量バッファ101−2より供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102に供給する。結果として、再生位置特徴量生成部102には、最新のフレームの特徴量と、特徴量バッファ101−1乃至101−3にそれぞれ記憶されていた過去3フレーム分の特徴量が供給されてくることになる。そこで、再生位置特徴量生成部102は、再生中のフレームを含めた4フレーム分の特徴量を再生位置特徴量として比較部103に供給する。
ステップS74において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量を検索位置特徴量として読み出し比較部103および検出部105に供給する。
ステップS75において、比較部103は、再生位置特徴量生成部102より供給されてきた再生中のフレームを含む過去3フレーム分の合計4個の特徴量からなる再生位置特徴量と、検索位置特徴量読出部104より供給されてきた、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量からなる検索位置特徴量とを比較する。
ステップS76において、比較部103は、比較結果に基づいて一致しているか否かを判定する。ステップS76において、例えば、一致しないと判定された場合、ステップS78において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている全ての特徴量について、再生位置特徴量と比較したか否かを判定する。例えば、ステップS78において、全ての特徴量と比較していないと判定された場合、ステップS79において、検索位置特徴量読出部104は、カウンタiを1インクリメントし、その処理は、ステップS74に戻る。すなわち、この処理により、再生位置特徴量と、検索位置特徴量が一致せず、かつ、蓄積されている全ての特徴量と比較されるまで、ステップS74乃至S76,S78,S79の処理が繰り返され、順次1フレーム間隔でずれながら、連続する4フレーム分の特徴量からなる検索位置特徴量と、再生位置特徴量との比較が繰り返される。
すなわち、検索位置特徴量とは、例えば、図15の右上部で示されるように、特徴量抽出部41より順次蓄積されている特徴量のうち、今の場合、連続する4個の特徴量の塊である。なお、図15においては、図中の縦長の長方形状のマスは、1フレーム分の特徴量を示しており、斜線部のG1,G2は同一の連続する特徴量が配置されていることを示している。また、再生位置特徴量とは、図15の右下部で示されているように、特徴量抽出部41より供給されてくる再生中の特徴量を含めた連続する4フレーム分の特徴量の塊である。
例えば、図15で示されるように再生位置特徴量G2で示されるような場合、検索位置特徴量G0と比較する場合、同一ではないので、同期位置としては検出されない。さらに、蓄積されている全ての特徴量との比較がされていないので、カウンタiが1インクリメントされて、検索位置特徴量G0’と再生位置特徴量G2とが比較される。このように、検索位置特徴量が図中の右方向に1フレーム間隔でずれながら、再生位置特徴量G2との比較が繰り返される。
ステップS76において、例えば、再生位置特徴量G2と検索位置特徴量G1とが比較されるような場合、検索位置特徴量G1が再生位置特徴量G2と同一の構成となっているため、一致したと判定され、ステップS77において、比較部103は、一致したことを検出部105に通知する。検出部105は、この通知に基づいて、今現在検索位置特徴量読出部104より供給されている検索位置特徴量の先頭位置、すなわち、先頭位置からi番目の特徴量を同期位置情報として特徴量設定情報読出部63に供給する。
一方、ステップS78において、蓄積されている全ての検索位置特徴量との比較が終了したと判定された場合、ステップS80において、検出部105は、再生位置特徴量と一致する検索位置特徴量が存在せず、同期しないことを出力する。
以上の処理により、特徴量設定情報蓄積部62に蓄積されている特徴量と、再生中の画像の特徴量とを同期させることが可能となる。すなわち、同期検出部42は、再生中のフレームの特徴量のみを、特徴量設定情報蓄積部62に蓄積されている特徴量と比較することで、偶然に特徴量が一致してしまうことで、間違った位置で同期が検出される可能性を低減させるために、現在再生されているフレームの特徴量のみではなく、再生されているフレームを含む過去3フレーム分の4フレームで比較することにより正確に同期検出を実施している。また、このように特徴量を使用することにより、各フレーム単位でのタイムコードの代わりに特徴量を設定することが可能となり、タイムコードを使用することなく、フレーム単位での同期検出を行うことが可能となる。
図12の同期に係わる処理のフローチャートの説明に戻り、ステップS51において、同期検出処理が実行されると、ステップS52において、特徴量設定情報読出部63は、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。例えば、図13のフローチャートのステップS77の処理により同期位置情報が供給されてきた場合、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されていることになるので、その処理は、ステップS53に進む。
ステップS53において、特徴量設定情報読出部63は、同期した特徴量に対応付けられた設定情報が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。すなわち、特徴量は、設定情報がない状態でも特徴量設定情報蓄積部62に蓄積することが可能であるので、この処理により、特徴量に対応付けられた設定情報の有無が判定される。
ステップS53において、例えば、特徴量に対応付けられた設定情報が蓄積されていないと判定された場合、ステップS54において、標準値が設定値に設定される。標準値とは、何の操作もされていないときに設定される値であり、基準となる値である。
ステップS54において、標準値が設定値として設定されると、ステップS55において、設定された設定値を、画像に反映させるための処理が実行される。このように、標準値が設定値(設定情報)に設定されるときには、特徴量設定情報読出部63は、選択部47に対して設定情報を供給しない状況である。この処理により、選択部47は、設定情報決定部46および特徴量設定情報読出部63のいずれからも設定情報の供給がない状態となるため、反映部49に対して処理を指定する設定情報が供給されないことになる。結果として、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
一方、ステップS53において、例えば、特徴量に対応付けられた設定情報が蓄積されていると判定された場合、ステップS56において、蓄積されていると判断されている設定情報、すなわち設定値が読み出される。
このように、設定値が読み出されたときも、その設定値を画像に反映させるための処理がステップS55において行われる。すなわち、このような場合、特徴量設定情報読出部63は、特徴量設定情報蓄積部62より、同期位置情報の特徴量に対応付けて蓄積されている設定情報を読み出し選択部47に供給する。そして、今の場合、選択部47には、設定情報決定部46からは設定情報がなく、特徴量設定情報読出部63から設定情報が供給されるため、特徴量設定情報読出部63からの設定情報が反映部49に供給され、その設定情報に基づいて遅延部48に蓄積されていた1フレーム分の画像に処理が反映されて、表示部15に表示される。
このように、同期が行われたときには、設定値が反映された画像を、使用者側に提供するための処理が実行される。
ここで、図10のフローチャートに説明を戻す。
ステップS13において、上記したような同期に係わる処理が実行されると、ステップS14において、操作情報認識部45は、リモートコントローラ14が使用者により操作されて、画像の処理が指示されたか否かを判定する。例えば、表示部15に表示されている画像を見ながら、使用者が、2倍のズーム処理を指示した場合、リモートコントローラ14の発光パターンが受光部44により受光され、受光部44より受光した発光パターンに基づいた信号が、操作情報認識部45に供給されることにより、操作情報認識部45は、操作がなされたと判定し、その処理は、ステップS15に進む。
ステップS15において、記録中フラグが立てられる。ステップS15に処理が来るときには、ステップS12において、記録中フラグは立っていないと判断されており、また、ステップS14において、使用者による操作がされたと判断されたときであるので、操作情報や設定情報の記録を開始する必要がある。そこで、ステップS15において、記録中フラグが立てられる。
ステップS15において、記録中フラグが立てられると、ステップS16に処理が進められ、操作時の処理が実行される。ステップS16には、ステップS12において、記録中フラグが立っていると判断されたときにも来る。すなわち、ステップS16の処理は、記録中フラグが立っているときに行われる処理である。よって、ステップS12において、記録中フラグは立っていないと判断され、ステップS14において、使用者により操作はされていないと判断されたときには、操作情報や設定情報を記録する必要がないため、ステップS16の処理は実行されない。
ステップS16において実行される操作時の処理について、図14のフローチャートを参照して説明する。ステップS91において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果を設定情報決定部46に供給する。
ステップS92において、記録が終了したか否かが判断される。ステップS91において取得された操作情報が、記録の終了を示すものである場合がある。換言すれば、使用者による操作が終了され、使用者が終了ボタンを操作することにより生成された信号が、受光部44により受信されると、操作情報として、記録の終了(操作の終了)が指示されたと認識される。
ステップS92において、記録は終了していないと判断された場合、ステップS93に処理が進められる。すなわち、継続して記録が行われている(継続して操作が行われている)と判断された場合、ステップS93において、設定内容を設定値に反映するための処理が実行される。
設定情報決定部46は、ステップS93において、操作情報に基づいて、反映部49に対して画像に処理を施すための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。すなわち、例えば2倍のズーム処理を画像に施すことが指示された場合、反映部49に対して2倍のズーム処理を施す指示を出すための設定情報が決定されて、特徴量設定情報記録部61および選択部47に供給される。
ステップS94において、特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量を特徴量設定情報蓄積部62に記録させると共に、その特徴量に対応付けて、設定情報決定部46より供給されてくる設定情報を、特徴量設定情報蓄積部62に記録させることで、特徴量と設定情報とを蓄積させる。より詳細には、図16で示されるように、特徴量C1を所定のアドレスAに記録させた場合、そのm倍のアドレス、すなわち、アドレスm×Aに、特徴量C1に対応付けられた設定情報E1を記憶させる。なお、図16においては、特徴量設定情報蓄積部62の内部における特徴量と設定情報とが記憶されるアドレスの配置が示されている。
以降、特徴量設定情報記録部61は、同様にして、特徴量C2をアドレスBに記憶させるとき、対応する設定情報E2をm×Bに記憶させ、さらに、特徴量C3をアドレスCに記憶させるとき、対応する設定情報E3をm×Cに記憶させる。このように特徴量に対応付けて設定情報を記憶させることにより、特徴量が決まれば、特徴量のアドレスから設定情報のアドレスが特定できるので、設定情報蓄積部62内における特徴量毎の設定情報の検索をスムーズにすることが可能となる。なお、特徴量および設定情報は、同一の処理が連続して指定されている期間について連続して記録される。すなわち、例えば、図16における特徴量C1乃至C3は、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の特徴量が連続的に記録されている。また、同様にして、設定情報についても、例えば、図16における設定情報E1乃至E3は、特徴量C1乃至C3に対応付けられたアドレスから、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の設定情報が連続的に記録されている。
ステップS95において、選択部47は、設定情報決定部46より設定情報が供給されてきているので、設定情報決定部46より供給されてきた設定情報を反映部49に供給する。反映部49は、遅延部48に記憶されている画像に対して、選択部47より供給されてきた設定情報に基づいて、処理を加えて、使用者からの指示内容に応じた処理を反映させて表示部15に表示させる。
一方、ステップS92において、記録が終了したと判断された場合、ステップS96に処理が進められる。ステップS96において、標準値が設定値に設定される。そして、ステップS97において、設定された設定値を反映するための処理が実行される。すなわちこの場合、設定値が標準値であるので、特徴量設定情報読出部63は、選択部47に対して設定情報を供給しない状況である。この処理により、選択部47は、設定情報決定部46および特徴量設定情報読出部63のいずれからも設定情報の供給がない状態となるため、反映部49に対して処理を指定する設定情報が供給されないことになる。結果として、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
ステップS98において、記録中フラグが下げられる。記録中フラグが下げられることにより、設定の記録が終了される。
このように、使用者によりリモートコントローラ14が操作されて、画像に対して処理を施す指示が出され続けている限り、ステップS91乃至S95の処理が繰り返されて、特徴量と共に、特徴量に対応付けられて、処理内容に伴った設定情報が特徴量設定情報蓄積部62に蓄積されていく。このステップS91乃至S95が繰り返される動作状態が、図1、図2を参照して説明した記録モードに対応する動作である。
図10のフローチャートの説明に戻る。ステップS16において、操作時の処理が終了されると、画像処理は終了される。上記したように、図10に示したフローチャートの処理は、入力されるフレーム毎に行われる。よって、新たなフレームが入力されると、そのフレームに対して、図10に示したフローチャートの処理が実行される。よって、上記したように、使用者によりリモートコントローラ14が操作されて、画像に対して処理を施す指示が出され続けている限り、特徴量と共に、特徴量に対応付けられて、処理内容に伴った設定情報が特徴量設定情報蓄積部62に蓄積される。
[滑らか終了機能]
図5または図6に示した画像処理装置13において、上記したような処理が行われることにより、記録メディア11に記録されている画像(映像)に対して編集を複数回加え、記録することができ、また、記録メディア11に記録されている編集が複数回加えられている画像(映像)を再生することができる。
しかしながら、例えば、図1や図2を参照して説明したように、記録の終了時点で、編集の内容により設定値が急激に変化するような場合があるが、そのような場合には、例えば、急にズーム率が変化するなどの再生が行われることになり、使用者にみづらい映像が提供される可能性がある。そこで、設定値が急激に変化するようなことがないような記録を行う画像処理装置13について説明する。以下の説明においては、設定値が急激に変化しないようにするための制御を行う機能を、滑らか終了機能と記述する。
ここで、滑らか終了機能について、図17A乃至図17Cを参照して説明を加える。図17Aは、1回目の操作とその操作で記録される設定値との関係を示し、図17Bは、2回目の操作とその操作で記録される設定値との関係を示し、図17Cは、2回目の操作の結果、記録される設定値を示している。また、図17Aと図17Bに示した枠内の図において、各枠内の1段目は、設定値を示し、2段目は、操作結果を示す。なお、図17A乃至図17Cの記載は、図2A乃至図2Cの記載と合わせてあり、従来の記録の仕方と、滑らか終了機能による記録の仕方との違い分かるように記載してある。
1回目の操作は、リモートコントローラ14から、図17Aの2段目に示すような操作信号が出された場合、図17Aの1段目に示すような設定値の記録が行われる。設定値は、リモートコントローラ14での操作量を積分した値とされる。また、図17Aや図17Bにおいて、プラス操作とは、例えば、画像の拡大を指示する操作であり、マイナス操作とは、画像の縮小を指示する操作である。
例えば、操作開始時点T1から時点T11まではプラスの操作が行われたため(2段目参照)、その値が積分された値が設定値として記録されるため、記録される設定値は、徐々に値が大きくなるようなグラフとなる(1段目参照)。その後、時点T11から時点T12までは、マイナス操作が行われたため、その設定値は、徐々に小さくなるようなグラフとなる。時点T12の後もプラス操作とマイナス操作が行われ、その操作に応じた設定値が記録される。
そして、時点T14に、コントローラの操作終了ボタン(記録終了の機能を有するボタン)が操作されると、設定値の記録も終了されるが、設定値が標準値にすぐに戻されるのではなく、時点T2まで、徐々に設定値が小さくなるように滑らか終了機能により制御され、記録される。このように操作が行われ、徐々に標準値に設定値が戻されるように制御された結果、図17Aの1段目に示したような設定値が記録される。
なお、標準値とは、設定値の基準となる値であり、標準値を含む設定情報を、適宜、標準とされる設定情報と記載する。
次に、図17Bの2段目に示したように、1回目の操作が行われたコンテンツに対して、時点T3から時点T21までプラス操作が行われ、時点T21から時点T4まで、マイナス操作が行われた場合、時点T3から時点T4までの間に記録される設定値は、図17Bの1段目に示したようになる。
2回目の操作の場合、1回目の操作の時点T3のときに記録されていた設定値から、操作量に応じた設定値が順次積分された値が加算される。また、時点T4において、操作が終了されると、1回目の操作の時点T4のときに記録されていた設定値(設定値Aとする)まで、設定値が戻されるが、設置値Aに戻される際、滑らか終了機能により、時点T4から時点T22の間で徐々に設定値Aに戻される。
このような修正が行われると、図17Bの1段目に実線で示したような設定値が記憶されることになる(実線で示した設定値に記録が修正されることになる)。すなわち、2回目の操作が行われた結果、設定値として記録される波形は、図17Cに示したような波形となる。
図2Cと図17Cを参照するに、図2Cにおいて、時点T4や時点T2において、急激に設定値が変化しているのに対し、図17Cにおいては、時点T4から時点T22、時点T14から時点T2まで徐々に設定値が変化していることがわかる。
このように、滑らか終了機能によれば、修正が終了された後、徐々に設定値が変更され、設定値が急激に変化することがないように制御される。
図18は、図5に示した画像処理装置13に、滑らか終了機能を追加した構成例を示し、図19は、図6に示した画像処理装置13に、滑らか終了機能を追加した構成例を示している。
図18において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図18に示した画像処理装置13は、滑らか機能に関する処理を実行する滑らか終了制御部201を、図5に示した画像処理装置13に追加した構成とされている。
滑らか終了制御部201は、設定情報決定部46と設定情報の授受を行う。また、滑らか終了制御部201からの情報は、特徴量設定情報記録部61と選択部47にそれぞれ供給される。
入力操作を設定情報決定部46で設定情報に変換した結果は、滑らか終了制御部201に入力される。入力操作が終了を指示するとき以外のときには、滑らか終了制御部201 は、設定情報決定部46からの入力をそのまま出力するが、入力操作が終了を指示するときには、特徴量設定情報蓄積部62に蓄積されている一連の入力操作の最後の値と、特徴量設定情報蓄積部62からの出力を補間した設定情報を生成する。その生成された設定情報は、選択部47を介して反映部49に供給され、反映部49により映像出力に反映されると共に、特徴量設定情報記録部61に入力されて特徴量設定情報蓄積部62に記録される。
また、滑らか終了制御部201は、特徴量設定情報蓄積部62から出力される設定情報が切替わるとき、例えば、図17A乃至Cを参照して説明したように、2回目の操作が終了し、1回目の操作により設定値に設定情報が戻されるようなときにも、その記録されている設定情報同士を滑らかにつなぐ処理を行う。
図19において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図19に示した画像処理装置13は、滑らか機能に関する処理を実行する滑らか終了制御部211を、図6に示した画像処理装置13に追加した構成とされている。滑らか終了制御部211は、設定情報決定部153と設定情報を授受する構成とされている。
滑らか終了制御部211は、設定情報決定部153による設定情報が不連続になるときに、設定情報を補間して、設定値が滑らかに変化するように制御する。
次に、図18、図19に示した画像処理装置13の動作について、図20乃至図23のフローチャートを参照して説明する。図18に示した画像処理装置13と図19に示した画像処理装置13は、基本的に同様の動作であるので、図20乃至図23のフローチャートを参照した説明では、図18に示した画像処理装置13の動作を例に挙げて説明する。
図20を参照して図18に示した画像処理装置13が行う画像処理について説明するが、基本的に、図5に示した画像処理装置13と同様な処理の流れであり、図10に示したフローチャートの処理に基づき行われる。すなわち、ステップS201乃至S206の各ステップにおける処理は、図10に示したフローチャートのステップS11乃至S16と基本的に同様に行われる。よってここでは、その詳細な説明は既にしたので省略し、異なる処理を含むステップに関して説明を加える。
ステップS201において、特徴量抽出部41において特徴量抽出処理が行われるが、この特徴量抽出処理は、図11に示したフローチャートに基づき行われる。
ステップS202において、記録中フラグが立っているか否かが判断され、記録中フラグは立っていないと判断された場合、ステップS203に処理が進められる。ステップS203において、同期に係わる処理が実行される。ステップS203における同期に係わる処理について図21のフローチャートを参照して説明する。
図21のフローチャートの処理は、図12のフローチャートの処理と基本的に同様であるが、ステップS235における処理が追加された流れとされている点が異なる。すなわち、ステップS234において、標準値が設定値に設定された後、または、ステップS237において、特徴量設定情報蓄積部62に蓄積されている設定情報(設定値)が読み出された後、ステップS235において、滑らか終了処理が実行され、ステップS236において、滑らか終了処理が施された設定値を反映するための処理が実行される。
ステップS235において実行される滑らか終了処理について、図22のフローチャートを参照して説明する。図22のフローチャートの処理は、滑らか終了制御部201で行われる。ステップS251において、滑らか終了フラグが立っているか否かが判断される。滑らか終了フラグとは、滑らか終了機能を実行すべきとき、すなわち、この場合、使用者から編集の終了が指示されたときに立たされるフラグである。
ステップS251において、滑らか終了フラグは立っていないと判断された場合、滑らか終了処理を実行する必要はないので、滑らか終了処理は終了される。
一方、ステップS251において、滑らか終了フラグが立っていると判断された場合、ステップS252に処理が進められる。ステップS252において、前フレームの設定値と新しい設定値の間の値が、設定値として設定される。前フレームの設定値とは、この処理が実行されているフレームに対して、前の時点で、図20の処理が実行されたフレームであり、特徴量が特徴量設定情報蓄積部62に蓄積されているフレームである。また、新しい設定値とは、現在の処理対象とされているフレームのことであり、そのフレームの設定値は、ステップS234またはステップS237(図21)で設定された値である。
ステップS252における処理は、前のフレームの設定値と現在のフレームの設定値との間の数値に設定され、例えば、前のフレームの設定値の方が現在のフレームの設定値よりも大きい値の場合、前のフレームの設定値から所定の値を減算した値が設定値とされる。また例えば、前のフレームの設定値の方が現在のフレームの設定値よりも小さい値の場合、前のフレームの設定値に所定の値を加算した値が設定値とされる。このように、前のフレームの設定値に所定の値を加算または減算することにより、現フレームの設定値が設定される。
ステップS253において、前フレームの設定値と現フレームの設定値が一致したか否かが判断される。なお、前フレームの設定値と現フレームの設定値が、完全に一致するか否かではなく、前フレームの設定値と現フレームの設定値との差分が、所定の範囲内であるか否かが判断されるようにしても良い。
ステップS253において、前フレームの設定値と現フレームの設定値は一致していないと判断された場合、ステップS254の処理はスキップされ、処理対象とされているフレームに対する滑らか終了処理は終了される。一方、ステップS253において、前フレームの設定値と現フレームの設定値が一致していると判断された場合、ステップS254において、滑らか終了フラグが下げられる。
滑らか終了フラグが立っている間は、ステップS252の処理がフレーム毎に実行されるため、フレーム毎に徐々に値が、前の操作のときに記録された設定値に近づいていくため、急激に設定値が変化するようなことを防ぐことが可能となる。このことを、図24を参照して説明する。
フレームF1のとき操作が終了され、そのときに設定されたフレームF1の設定値が設定値R1である場合、次のフレームF2では、従来では、フレームF2の設定値として記録されていた設定値R12に設定値が戻されることになる。しかしながら、滑らか終了処理(特に、ステップS252)の処理により、フレームF2の設定値は、設定値R1と設定値R12との間にある設定値R2と設定される。この設定値R2は、設定値R1より所定の値だけ、減算された値である。
フレームF3の設定値は、設定値R2から所定の値だけ減算された値である設定値R3が設定される。同じようにしてフレームF4の設定値は、設定値R4と設定され、フレームF5の設定値は、設定値R5と設定される。
フレームF5の設定値として設定された設定値R5と記録されていた設定値R15の差分は、所定の範囲内になったため、次のフレームF6の設定値R6は、フレームF6の設定値として記録されていた設定値R16にされる。このように、徐々に設定値が記録されていた値(前の操作で設定された値)に近づけられるため、急激に設定値が変化するようなことを防ぐことが可能となる。
図21のフローチャートの説明に戻り、ステップS235において、上記したような滑ら終了処理が実行されると、ステップS236において、設定値を反映する処理が実行される。このようにして、同期に係わる処理が終了されると、ステップS204(図20)に処理が進められる。
ステップS204において、使用者により操作(編集)されたか否かが判断され、操作されたと判断された場合、ステップS205において、記録中フラグが立てられる。そして、ステップS206において、操作時の処理が実行される。ステップS206において実行される操作時の処理について、図23のフローチャートを参照して説明する。
図23のステップS271乃至S278の処理は、図14のステップS91乃至S98の処理と同様であるので、その説明は省略する。ステップS279において、滑らか終了フラグが立てられる。ステップS279に処理が進められるのは、ステップS272において、記録が終了されたと判断されたときである。また、記録が終了されたと判断されるのは、使用者により操作終了ボタンなどの操作の終了を指示するためのボタンが操作されたときである。
使用者により操作の終了(編集の終了)が指示された場合、上記したように、従来なら、既に記録されている設定値に戻されるが、そのようにすると、設定値が急激に変化することがあり、急激に画像が変化することがある。そのようなことを防ぐために、滑らか終了処理が実行されるとして説明した。そして、滑らか終了処理は、滑らか終了フラグが立てられているときに行われる。よって、使用者により操作の終了が指示されたときには、ステップS279の処理として、滑らか終了フラグが立てられる。
滑らか終了フラグが立てられることにより、上記したように、ステップS251(図22)の処理で滑らか終了フラグが立っていると判断され、ステップS252,S253の処理が実行され、徐々に設定値が既に記録されていた設定値に近づくような処理が実行される。
このように、滑らか終了処理が実行されることにより、複数回の編集などにより、設定値が急激に変化してしまい、画像に急激な変化が現れるようなことを防ぐことが可能となる。
[操作の自動終了機能について]
次に、操作の自動終了機能について説明する。なお“操作の自動終了”の“自動”とは、使用者の手を煩わすことなく、換言すれば、使用者が操作(編集)の終了を指示しなくても、終了に関する処理が実行されることを意味する。
図25A乃至Cを参照し、操作の自動終了機能について説明する。図25Aは、1回目の操作とその操作で記録される設定値との関係を示し、図25Bは、2回目の操作とその操作で記録される設定値との関係を示し、図25Cは、2回目の操作の結果、記録される設定値を示している。また、図25Aと図25Bに示した枠内の図において、各枠内の1段目は、設定値を示し、2段目は、操作結果を示す。
1回目の操作において、時点T1から時点T2までのコンテンツに対して操作が加えられた場合、時点T1から時点T2までの設定値が記録される。時点T1から時点T11まではプラス操作が行われ、時点T11から時点T12まではマイナス操作が行われ、時点T12から時点T13まではプラス操作が行われ、時点T13から時点T14まではマイナス操作が行われた結果、図25Aの上段に示したような設定値が記録される。
そして、時点T14から時点T2まで、使用者からの操作がなかった場合、すなわち、無操作期間が時点T14から時点T2まであり、その無操作期間が所定の時間以上である場合、使用者の終了の指示によらず、設定値が標準値に徐々に戻される。
1回目の操作で、このような設定値が記録された後、図25Bに示すような2回目の操作が行われた場合、図25Cに示したような設定値が記録される。すなわち、2回目の操作として、図25Bの下段に示したように、時点T3から時点T21までプラス操作が行われ、時点T21から時点T4までマイナス操作が行われ、その後、操作が行われなかった。そして、時点T4から時点T22までの無操作期間が所定の時間以上である場合、使用者の終了の指示によらず、記録されていた設定値に徐々に戻される処理が実行される。
このように、使用者の終了の指示がないときであっても、使用者からの操作が、所定の期間だけなかった場合、設定値が徐々に設定すべき値に戻される。
このように、操作の自動終了機能によれば、修正が終了されたと判断されるとき、使用者の指示がなくても、徐々に設定値が変更され、設定値が急激に変化することがないように制御される。
図26は、図5に示した画像処理装置13に、操作の自動終了機能を追加した構成例を示し、図27は、図6に示した画像処理装置13に、操作の自動機能を追加した構成例を示している。
図26において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図26に示した画像処理装置13は、操作の自動終了機能に関する処理を実行する操作自動終了制御部301を、図5に示した画像処理装置13に追加した構成とされている。
操作自動終了制御部301は、設定情報決定部46、蓄積ブロック43、および、選択部47と、それぞれデータの授受を行える構成とされる。
図27において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図27に示した画像処理装置13は、操作の自動終了機能に関する処理を実行する操作自動終了制御部311を、図6に示した画像処理装置13に追加した構成とされている。
操作自動終了制御部311は、蓄積ブロック151、および、選択部152と、それぞれデータの授受を行える構成とされる。
次に、図26に示した画像処理装置13が行う画像処理について、図28乃至図30のフローチャートを参照して説明する。
ステップS301において、特徴量抽出処理が行われる。このステップS301において実行される特徴量抽出処理は、図11のフローチャートに基づく処理であり、図11のフローチャートを参照した説明は既にしたので、ここではその説明を省略する。
ステップS302において、同期に係わる処理が実行される。このステップS302において実行される同期に係わる処理について、図29のフローチャートを参照して説明する。ステップS321乃至S325の処理は、図12のフローチャートのステップS51乃至S54,S56の処理と同様であるので、その説明は省略する。すなわちこの場合、設定を反映するという処理が同期に係わる処理に含まれない処理の流れとされている。
同期が行われた後、設定値が反映される前に、図28のフローチャートの捨てPPPS303に処理が進められ、ステップS303において、記録中フラグが立っているか否かが判断される。上述した、例えば、滑らか終了機能に関する説明で参照した図20のフローチャートを、再度参照するに、ステップS202において、記録中フラグが立っているか否かが判断され、ステップS203において同期に係わる処理が実行された。
図28に示したフローチャートの処理の流れと、既に説明した図20のフローチャートの処理の流れを比較すると、記録中フラグが立っているか否か、換言すれば、設定値の記録が行われている状態であるか否かを判断する処理と、同期に係わる処理との順が入れ換えられた処理の流れとされている点が異なる。
このように、同期に係わる処理を記録中フラグが立っているか否かを判断する前に行うことで、換言すれば、記録中フラグが立っているか否かにかかわらず、同期に係わる処理を実行することで、記録を行わずに再生を行った場合の設定値を取得することが可能となる。
ステップS303において、記録中フラグは立っていないと判断された場合、ステップS304に処理が進められ、読み込んだ設定値を反映するための処理が実行される。この場合、記録中フラグが立っていなくても、同期に係わる処理がステップS302において実行されているため、ステップS324またはステップS325(図29)において設定値が設定されている。その設定されている設定値を画像に反映するための処理が実行される。
そして、ステップS305において、使用者による操作がされたか否かが判断され、操作がされたと判断された場合、ステップS306において、記録中フラグが立てられ、ステップS307において、操作時の処理が実行される。図30のフローチャートを参照してステップS307における操作時の処理について説明する。
ステップS341において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果として設定情報決定部46に供給する。ステップS342において、ステップS341において取得された操作情報が、記録の終了を示すコマンドであるか否かが判断される。
ステップS342において、操作情報は、記録終了コマンドではないと判断された場合、ステップS343に処理が進められ、記録終了コマンドであると判断された場合、ステップS347に処理が進められる。
ステップS343において、自動終了条件が満たされているか否かが判断される。自動終了条件とは、例えば、図25A乃至図25Cを参照して説明したように、使用者からの操作がなかった期間(無操作期間)が、所定の期間以上になったという条件である。このような条件が設定されている場合、操作自動終了制御部301(図26)は、設定情報決定部46から供給される設定値が、同一である時間を計測し、その計測時間が無操作期間に設定されている時間以上になったか否かを判断(同一の設定情報が所定の時間だけ継続しているか否かを判断)することにより、自動終了条件を満たしているか否かを判断する。
また、使用者の操作中にその操作に対応する設定値と記録されている設定値との差が所定の範囲内のときなどを条件としても良い。このような条件が設定されている場合、操作自動終了制御部301(図26)は、設定情報決定部46から供給される設定値と、特徴量設定情報蓄積部62から読み出される設定値との差分が所定の範囲内のとき、自動終了条件を満たしていると判断する。
勿論、複数の自動終了条件を設定し、設定された複数の条件の全てや、複数の条件のうちの幾つかの条件が満たされたときに、自動終了条件が満たされたと判断されるようにしても良い。
操作自動終了制御部311(図27)も基本的に同様に自動終了条件が満たされたか否かを判断するが、その判断は、操作情報認識部45から供給される使用者からの操作情報と、特徴量操作情報蓄積部162に蓄積されている操作情報が用いられて行われる。
このようにして、ステップS343において、自動終了条件が満たされたと判断された場合、ステップS347に処理が進められ、自動終了条件は満たされていないと判断された場合、ステップS344に処理が進められる。
すなわちこの場合、使用者により記録の終了が指示された場合、または自動終了条件が満たされた場合は、ステップS347に処理が進められ、同一の処理が行われることになる。よって、使用者が終了の指示をしなくても、終了の指示をした場合と同様の処理が行われることになり、使用者の手を煩わすことなく、操作の終了を行うことが可能となる。
ステップS344乃至S349の各処理は、図14のフローチャートのステップS93乃至S98と同様の処理なので、その説明は省略する。
このようにして、自動的に、処理が終了される。
なお、設定値は、1つの設定値だけでなく、複数の設定値が関連して1つの状態を表すことがあるが、複数の設定値が関連するような場合、関連している全ての設定値が既存の操作履歴、または標準値に近づいたときのみ、自動終了条件が満たされたと判断されるようにする。例えば、ズームの場合、ズーム率、ズーム中心の水平座標、垂直座標の3つのパラメータが全て既存の操作履歴の設定値または標準値に近づいたときのみ、自動終了条件が満たされたと判断される。
[加算編集機能ついて]
ところで、編集としては、さまざまな編集がある。例えば、ズームに関する編集や手振れ補正に関する編集など、編集の目的が異なれば、編集対象も異なる。このように、さまざまな編集があるので、例えば、1回目の編集では手振れ補正に関する編集を行い、2回目の編集ではズームに関する編集を行うといった状況も考えられる。
このように、1回目の編集と2回目の編集とで編集目的が異なるような場合、問題が発生する可能性がある。問題点について、図31A、図31Bと図32A、図32Bを参照して説明する。図31A、図31Bは、従来の記録方式により問題が発生する場合を説明するための図であり、図32A、図32Bは、従来の記録方式で発生する可能性のある問題を解決するための記録方式(本実施の形態)について説明するための図である。
図31Aには、1回目の操作、例えば、手振れ補正に関する操作により記録された設定値の変化を示している。このような設定値が記録されているコンテンツに対して、図31Bの上段に示したような操作、例えば、使用者の好みのズームポイントにさらにズームするような操作が行われると、その操作による設定値に、1回目の操作で記録された設定値が、上書きされる。すなわち、図31Bの下段の点線で示した設定値が、実線で示した設定値に上書きされる。
このように、設定値が上書きされるということは、基の設定値がキャンセルされてしまうことを意味する。この場合、1回目の手振れ補正に関する操作の結果は、2回目のズームに関する操作の結果により、キャンセルされてしまうことになる。
そこで、以下に説明する本実施の形態においては、図32A、図32Bに示すように設定値が設定され、記録されるようにする。図32Aは、図31Aと同じく1回目の操作、例えば、手ぶれ補正に関する操作により記録された設定値を示している。図32Bは、2回目の操作と、その2回目の操作による設定値を示している。
図32Bの上段は、図31Bの上段と同じく、2回目の操作、例えば、使用者の好みのズームポイントにさらにズームするような操作が行われた場合の操作情報を示している。図32Bの下段は、以下に説明する加算編集機能による処理が実行された結果記録される設定値を示している。
図32Bの下段に示したように、加算編集機能により、1回目の設定値に2回目の操作に対応する設定値が加算された値が、新たな設定値として記録される。図32Bの下段の点線で示した1回目の操作による設定値に、2回目の操作の設定値が加算されることにより、図32Bの下段の実線で示した設定値が、記録される。
このように、前回の設定値に次の設定値を加算することに、前回の設定値がキャンセルされるようなことがなく、前回の操作による効果を継続させることが可能となる。
このような加算編集機能を有する画像処理装置13の構成について説明する。図33は、図5に示した画像処理装置13に、加算編集機能を追加した構成例を示し、図34は、図6に示した画像処理装置13に、加算編集機能を追加した構成例を示している。
図33において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図33に示した画像処理装置13は、加算編集機能に関する処理を実行する設定値加算部401を、図5に示した画像処理装置13に追加した構成とされている。
設定値加算部401は、設定情報決定部46により決定された、その時点での設定値と、既に記録されている設定値とを加算し、新たな設定値を生成する。設定値加算部401により生成された設定値は、特徴量設定情報蓄積部62に蓄積されるとともに、選択部47にも供給される。
図34において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図34に示した画像処理装置13は、図6に示した画像処理装置13と比較すると、加算編集機能に関する処理を設定情報決定部411が行う構成とされ、選択部152が削除された構成とされている。
設定情報決定部411は、操作情報認識部45により認識された、その時点での操作情報と、既に記録されている操作情報とを加算し、新たな操作情報を生成する。設定情報決定部411により生成され設定情報は、特徴量操作情報蓄積部162に蓄積されるとともに、反映部49にも供給される。
次に、図33、図34に示した画像処理装置13の動作について、図35のフローチャートを参照して説明する。図33に示した画像処理装置13と図34に示した画像処理装置13は、基本的に同様の動作であるので、図35のフローチャートを参照した説明では、図13示した画像処理装置13の動作を例に挙げて説明する。
図33に示した画像処理装置13が行う画像処理は、図10に示したフローチャートに基づき行われる。図10に示したフローチャートの処理については既に説明したので、異なる処理を含む処理だけ説明を加える。
異なる処理を含むステップは、ステップS16の操作時の処理である。図35を参照し、操作時の処理について説明する。ステップS411において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果として設定情報決定部46に供給する。ステップS412において、ステップS411において取得された操作情報が、記録の終了を示すコマンドであるか否かが判断される。
ステップS412において、操作情報は、記録終了コマンドではないと判断された場合、ステップS413に処理が進められ、記録終了コマンドであると判断された場合、ステップS416に処理が進められる。
ステップS413において、読み込まれた設定値に、使用者による操作に対応する設定値が加算される。特徴設定情報読出部63は、特徴量設定情報蓄積部62に蓄積されている設定値を読み出し、設定値加算部401に供給する。設定情報決定部46は、操作情報認識部45から供給される操作情報に基づく設定値を生成し、設定値加算部401に供給する。
このような処理が行われることにより、設定値加算部401には、特徴量設定情報蓄積部62に蓄積されていた設定値と、使用者の操作による新たな設定値が供給される。設定値加算部401は、供給された2つの設定値を加算し、新たな設定値を生成する。このようにして生成された設定値は、ステップS14において、同期情報と共に特徴量設定情報蓄積部62に書き込まれる。
また、設定値加算部401からの設定値は、選択部47にも供給され、選択部47を介して反映部49にも供給される。ステップS415において、反映部49は、供給された設定値を画像に反映するための処理を実行する。
一方、ステップS412において、使用者からの指示内容は、記録終了コマンドであると判断された場合、ステップS416において、読み込まれた設定値を設定値として設定する。すなわち、この場合、特徴量設定情報蓄積部62に蓄積されている設定値が読み出され、処理対象とされているフレームの設定値とされる。設定された設定値を画像に反映する処理が、ステップS417において行われる。
そして、ステップS418において、記録中フラグが下げられることにより、設定値の記録の処理が終了される。
このような処理は、基本的に、図14のフローチャートを参照して説明した操作時の処理と同様であるが、ステップS413において設定される設定値が、既に記録されている設定値に加算される点が異なる。このように、使用者による操作に対応した新たな設定値が、既存の設定値に加算されることにより生成された設定値を記録するようにすることで、既存の設定値による画像への効果がキャンセルされることなく、新たな効果を追加することが可能となる。
[範囲指定(先指定)記録について]
次に、設定値を記録するコンテンツの範囲を予め設定し、その設定された範囲内で行われた操作に対応する設定値が記録される場合について説明する。または、コンテンツに対して操作が行われ、その操作に対応する設定値が記録された後、実際に設定値を記録する範囲を設定する場合について説明する。まず、図36A乃至図36Cを参照して、設定値を記録する範囲の設定と、その設定された範囲内における設定値の記録について説明する。
図36Aに示したように、1回目の操作として使用者により、記録を開始する開始点T1が設定され、記録を終了する終了点T2が設定される。
図36Bの下段に示したような操作が、2回目の操作として行われたことにより、図36Bの上段に示したような設定値が記録される。すなわち、この場合、時点T11から時点T1(開始点T1)までは、プラスの操作が行われ、時点T1から時点T12まではマイナスの操作が行われ、時点T12から時点T13まではプラスの操作が行われ、時点T13から時点T2(終了点T2)まではマイナスの操作がされた場合、図36Bの上段に示したような設定値が記録される。ただし、この記録は、一時的な記録であり、最終的に記録される設定値ではない。
最終的に記録される設定値は、図36Cに示したようになる。すなわち、時点T11から開始点T1までの間の設定値は、記録されず、開始点T1から終了点T2までの間の設定値のみが記録される。
図36A乃至図36Cを参照して説明したのは、操作を行う前に範囲が設定される場合である。操作が行われた後、範囲が設定される場合、図36Bに示した操作が1回目の操作として行われ、その後、図36Aに示した操作が2回目の操作として行われる。
このように、設定された範囲内の設定値のみが記録されることにより、以下のような利点がある。すなわち、従来の設定の記録方式では、図1や図2を参照して説明したように、操作開始点から記録が開始されてしまうため、記録の先頭の設定値は標準値に設定されてしまい、その後の操作にかかわらず、標準値から連続的に変化される設定値しか設定できなかった。しかしながら、本実施の形態のように、開始点を設定することにより、図36Cに示したように、記録の開始時点の設定値を標準値以外に設定することが可能となり、その標準値ではない設定値から、連続的に設定値を変化させることができるようになる。
また、従来の記録方式では、設定値の記録を終了させる際、使用者は、操作しながら記録を終了させる機能を有する終了ボタンを操作する必要があったため、使用者が記録を終了させたい位置で操作を止めるのが難しかった。しかしながら、本実施の形態のように、終了点を設定することにより、使用者は所望の終了ポイントを、操作しながら終了ボタンを操作するといったことなく設定できるようになり、確実に所望の終了点を設定することが可能となる。
このような記録範囲の設定を行う画像処理装置13の構成について説明する。まず、操作の前に記録の範囲を設定する画像処理装置13について説明を加える。
図37は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図38は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図37において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図37に示した画像処理装置13は、記録範囲指定機能に関する処理を実行する範囲指定部501、範囲記録部502、および、トリガー部503を、図5に示した画像処理装置13に追加した構成とされている。
範囲指定部501は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。
範囲記録部502は、範囲指定部501により指定された開始点と終了点の、それぞれの同期用特徴量を、蓄積ブロック43の特徴量設定情報蓄積部62から読み出し、記録する。トリガー部503は、範囲記録部502に記録されている同期用特徴量と、特徴量設定情報蓄積部62に蓄積されている同期用特徴量を比較し、蓄積ブロック43に対して、同期用特徴量や設定情報の記録の開始と終了を指示する。
図38において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図38に示した画像処理装置13は、図6に示した画像処理装置13と比較すると、記録範囲指定機能に関する処理を実行する範囲指定部511、範囲記録部512、および、トリガー部513を、図6に示した画像処理装置13に追加した構成とされている。
図38に示した画像処理装置13の構成では、操作情報認識部45からの操作情報は、直接、範囲指定部511に入力されるように構成されている。範囲指定部511は、入力された操作情報を解析し、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。
範囲記録部512は、範囲指定部511により指定された開始点と終了点の、それぞれの同期用特徴量を、蓄積ブロック151の特徴量操作情報蓄積部162から読み出し、記録する。トリガー部513は、範囲記録部512に記録されている同期用特徴量と、特徴量操作情報蓄積部162に蓄積されている同期用特徴量を比較し、蓄積ブロック151に対して、同期用特徴量や操作情報の記録の開始と終了を指示する。
次に、図37、図38に示した画像処理装置13の動作について、図39乃至図42のフローチャートを参照して説明する。図37に示した画像処理装置13と図38に示した画像処理装置13は、基本的に同様の動作であるので、図39乃至図42のフローチャートを参照した説明では、図37に示した画像処理装置13の動作を例に挙げて説明する。
図39のフローチャートを参照し、設定値を記録する範囲を指定する際の処理を説明する。
ステップS501において、特徴量抽出処理が実行される。このステップS501における特徴量抽出処理は、既に説明した図11のフローチャートの処理の流れに基づいて行われるため、ここでは説明を省略する。
ステップS502において、開始点が指定されたか否かが判断される。範囲指定部501は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、開始点を指定する操作であったか否かを判断する。開始点は、動画像を構成するフレームのうちの、使用者が指示したフレーム(またはフィールド)である。よって、ステップS502における処理は、設定値の記録を開始するフレームが指示されたか否かが判断される処理である。
ステップS502において、開始点が指示されたと判断された場合、ステップS503に処理が進められ、開始点の特徴量が記録される。範囲指定部501は、開始点が指示されたと判断した場合、その時点でのフレームから抽出された特徴量(同期用特徴量)(ステップS501において抽出された特徴量)を、範囲記録部502に記録させる。範囲記録部502に開始点の特徴量が記録されると、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
一方、ステップS502において、開始点は指定されていないと判断された場合、ステップS504に処理が進められ、終了点が指定されたか否かが判断される。範囲指定部501は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、終了点を指定する操作であったか否かを判断する。終了点も、開始点と同様に、所定のフレームまたはフィールドである。
ステップS504において、終了が指定されたと判断された場合、ステップS505において、終了点の特徴量が記録される。範囲指定部501は、終了点が指示されたと判断した場合、その時点でのフレームから抽出された特徴量(同期用特徴量)(ステップS501において抽出された特徴量)を、範囲記録部502に記録させる。範囲記録部502に終了点の特徴量が記録されると、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
一方、ステップS504において、終了点は指定されていないと判断された場合、ステップS506に処理が進められる。ステップS506において、範囲指定の設定が終了されたか否かが判断される。ステップS506において、範囲指定の設定は終了されていないと判断された場合、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
なお、ステップS506において、設定が終了されたか否かの判断は、使用者による設定終了の指示があったか否かが判断されることにより行われるようにしても良いし、終了点の指定が行われた時点で、設定の終了も指示されたと判断されるようにしても良い。また、コンテンツの最後のフレームまで処理が行われたときには、その最後のフレームが終了点として指定されるようにし、設定が終了されたと判断されるようにしても良い。
一方、ステップS506において、記録範囲の設定は終了されたと判断された場合、ステップS507に処理が進められる。ステップS507において、開始点と終了点が指定済であるか否かが判断される。この判断は、範囲記録部502に、開始点の特徴量と終了点の特徴量が記録されているか否かを確認することにより行われる。
ステップS507において、開始点と終了点は指定済では無いと判断された場合、ステップS501に処理が戻され、次のフレームに対して同様の処理が繰り返される。なおこの場合、ステップS506において、設定は終了されたと判断されたときであるので、基本的には、開始点と終了点は指定済である。しかしながら、例えば、使用者の操作ミスなどにより、終了点が指定されていないのに、設定が終了されたと判断されるときがあることを想定し、そのようなときには、そのようなことを使用者に認識させるための、例えば、“終了点の指定がされていません”といったようなメッセージが、使用者に提示されるような処理が行われるようにしても良い。
このようにして、設定情報を記録する範囲の設定が行われる。次に、記録範囲の設定が終了された後に、その範囲内で設定値が記録されるようにするための処理について、図40のフローチャートを参照して説明する。
ステップS521において、特徴量抽出処理が実行される。このステップS521における特徴量抽出処理は、既に説明した図11のフローチャートの処理の流れに基づいて行われるため、ここでは説明を省略する。
ステップS522において、トリガー処理が行われる。ステップS522において実行されるトリガー処理について、図41のフローチャートを参照して説明する。トリガー処理は、トリガー部503により行われる。
ステップS541において、トリガー部503は、開始点であるか否かを判断する。トリガー部503は、範囲記録部502に記録されている開始点の特徴量と、その時点で処理されているフレームの特徴量を比較し、一致すれば、開始点であると判断する。ステップS541において、開始点であると判断された場合、ステップS542に処理が進められる。ステップS542において、設定値の記録を指示するための記録中フラグが立てられる。この記録中フラグが立ててられている間は、特徴量設定情報蓄積部62に、特徴量や設定値が記録(蓄積)される。記録中フラグが立てられると、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
一方、ステップS543において、開始点ではないと判断された場合、ステップS543に処理が進められ、終了点であるか否かが判断される。ステップS543における終了点であるか否かの判断も、開始点であるか否かの判断と同様に行われる。ステップS543において、終了点であると判断されると、ステップS544に処理が進められる。ステップS544において、設定値の記録を指示するために立てられていた記録中フラグが下げられる。この記録中フラグが下げられることにより、特徴量設定情報蓄積部62への設定値の記録(蓄積)が終了される。記録中フラグが下げられると、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
一方、ステップS543において、終了点ではないと判断された場合、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
このように、トリガー部503は、開始点と指定されたフレームから、設定値の記録を開始するように、蓄積ブロック43に指示を出し、終了点と指定されたフレームで、設定値の記録が終了されるように、蓄積ブロック43に指示を出す。
図40のフローチャートの説明に戻り、ステップS523において、操作時の処理が実行される。図42のフローチャートを参照し、ステップS523において実行される操作時の処理について説明する。
ステップS561において、操作情報が取得される。ステップS562において、取得された操作情報が設定値に反映される。ステップS563において、記録中フラグが立っているか否かが判断される。記録中フラグが立っているときは、設定値の記録が行われるため、ステップS563において、記録中フラグが立っていると判断された場合、ステップS564に処理が進められ、設定値と同期情報が特徴量設定情報蓄積部62に書き込まれる。
特徴量設定情報蓄積部62に設定値と同期情報が書き込まれるとともに、ステップS565において、画像への設定値の反映の処理が行われる。
一方、ステップS563において、記録中フラグは立っていないと判断された場合、ステップS564の処理はスキップされ、ステップS565に処理が進められる。ステップS565において、設定値が反映される。ステップS563からステップS565に処理が進められたときには、設定値の記録は行われないが、画像への設定値の反映は行われる。
このように、予め設定された開始点から終了点まで、設定値などが記録される。
この実施の形態においては、操作の前に記録範囲を設定する場合を例に挙げて説明したが、操作の後に記録範囲を設定することも可能であり、そのような場合について次に説明する。
[範囲指定(後指定)記録について]
図43は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図44は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図43において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図43に示した画像処理装置13は、記録範囲指定機能に関する処理を実行する範囲指定部601、トリガー部602、一時蓄積ブロック603、および同期検出部604を、図5に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック603は、特徴量設定情報記録部611、特徴量設定情報蓄積部612、および特徴量設定情報読出部613を備える構成とされている。すなわち、一時蓄積ブロック603は、蓄積ブロック43と同様の構成とされている。この場合、一旦操作が行われ、設定値(同期情報)が記録された後、記録範囲が指定されるため、一時的に設定情報を記録しておく必要があり、その記録を、一時蓄積ブロック603が行う。
範囲指定部601は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。トリガー部602は、範囲指定部601により指定された開始点、または、終了点に応じて、蓄積ブロック43に対して、同期用特徴量の記録の開始と終了を指示する。
一時蓄積ブロック603の各部は、蓄積ブロック43と同様の構成とされ、記録の範囲を指定される前に行われた設定値や同期情報の記録に係わる処理を実行する。また、同期検出部604は、同期検出部42と同様に、同期を検出し、その同期に関する情報を特徴量設定情報読出部613に供給し、特徴量設定情報蓄積部612から同期するのに必要な設定情報の供給をうける。
図44において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図44に示した画像処理装置13は、図6に示した画像処理装置13に、記録範囲指定機能に関する処理を実行する範囲指定部641、トリガー部642、一時蓄積ブロック643、および同期検出部644を追加した構成とされている。
また、一時蓄積ブロック643は、特徴量操作情報記録部651、特徴量操作情報蓄積部652、および特徴量操作情報読出部653を備える構成とされている。すなわち、一時蓄積ブロック643は、蓄積ブロック151と同様の構成とされている。この場合、一旦操作が行われ、操作情報が記録された後、記録範囲が指定されるため、一時的に操作情報を記録しておく必要があり、その記録を、一時蓄積ブロック643が行う。
範囲指定部641は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、操作情報の記録を終了する終了点との指定(設定)に係わる処理を実行する。トリガー部642は、範囲指定部641により指定された開始点、または、終了点に応じて、蓄積ブロック151に対して、同期用操作情報の記録の開始と終了を指示する。
一時蓄積ブロック643の各部は、蓄積部録151と同様の構成とされ、記録の範囲を指定される前に行われた操作情報の記録に係わる処理を実行する。また、同期検出部644は、同期検出部42と同様に、同期を検出し、その検出された同期に関する情報を特徴量操作情報読出部653に供給し、同期を検出するために特徴量操作情報蓄積部652から操作情報の供給をうける。
次に、図43、図44に示した画像処理装置13の動作について、図45のフローチャートを参照して説明する。図43に示した画像処理装置13と図44に示した画像処理装置13は、基本的に同様の動作であるので、図45のフローチャートを参照した説明では、図43に示した画像処理装置13の動作を例に挙げて説明する。
図45のフローチャートを参照し、設定情報(設定値)を記録する範囲を指定する際の処理に説明する。この場合、記録の範囲が設定される前の時点で、使用者による編集が終了されており、設定情報が一時蓄積ブロック603に記録されている状態である。設定情報の記録は、上記した他の実施の形態と同様に行うことが可能である。例えば、設定情報は、図10のフローチャートを参照して説明した処理の流れに基づいて記録される。ここでは、設定情報の記録については既に説明したので、その説明は省略し、設定情報が記録された後に行われる、記録の範囲の指定に係わる処理について、図45のフローチャートを参照して説明する。
ステップS601において、特徴量抽出処理が実行される。使用者は、記録する範囲を設定するために、操作を加えたコンテンツを再度再生する。再生されたコンテンツ(フレーム)から特徴量が、特徴量抽出部41により抽出され、同期検出部604に供給される。ステップS601において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した場合と同様であるので、その説明は省略する。
ステップS602において、同期検出部604は、同期に係わる処理を実行する。このステップS602において実行される同期に係わる処理は、図12のフローチャートを参照して説明した場合と同様に行われるので、その説明は省略する。ただし、同期検出部604は、特徴量抽出部41により抽出された特徴量と、特徴量設定情報蓄積部612に蓄積されている特徴量を比較することにより同期を検出する。
ステップS603において、使用者が記録開始の操作をしたか否かが判断される。範囲指定部601は、操作情報認識部45からの操作情報を解析し、記録の開始を指示する操作であるか否かを判断する。ステップS603において、記録の開始を指示する操作であると判断された場合、ステップS604に処理が進められ、記録中フラグが立てられる。
記録中フラグが立てられている間は、後述するように、特徴量設定情報蓄積部612に蓄積されている設定値などの設定情報が、蓄積ブロック43に供給され、特徴量設定情報蓄積部62に蓄積される。換言すれば、使用者の操作が行われたことにより、一時蓄積ブロック603に蓄積されていた設定情報が、蓄積ブロック43にコピーされる。
ステップS604において記録中フラグが立てられるか、または、ステップS603において、記録開始の操作はされていないと判断された場合、ステップS605に処理が進められる。
ステップS605において、記録中フラグは立っているか否かが判断される。ステップS605において、記録中フラグが立っていると判断された場合、ステップS606に処理が進められ、記録中フラグは立っていないと判断された場合、ステップS601に処理が戻され、それ以降の処理が繰り返される。
ステップS606において、使用者が記録終了の操作をしたか否かが判断される。範囲指定部601は、記録開始の指示がされたか否かを判断するときと同様に、操作情報認識部45からの操作情報を解析し、記録の終了を指示する操作であるか否かを判断する。ステップS606において、記録の終了を指示する操作ではないと判断された場合、ステップS607に処理が進められる。
ステップS607において、設定情報が書き込まれる。この書き込みは、上記したように、一時蓄積ブロック603の特徴量設定情報蓄積部612に、一時的に蓄積された設定情報が読み出され、蓄積ブロック43の特徴量設定情報蓄積部62にコピーされることにより行われる。ステップS607における処理が終了されると、ステップS601に処理が戻され、それ以降の処理が繰り返される。
一方、ステップS606において、記録終了の操作がされたと判断された場合、ステップS608に処理が進められ、立てられていた記録中フラグが下げられる。記録中フラグが下げられることにより、設定情報などの記録(コピー)が終了される。
このように、操作(編集)が行われたコンテンツのうち、編集を残す部分、すなわち、設定情報を記録する範囲を指定することが可能となる。
このように、設定情報などを記録する範囲を指定することで、記録の開始時には、設定値を標準値以外にも設定することができ、より効果的な自由度の高い編集を行うことが可能となる。また、記録の終了時も、使用者は記録を終了させるための操作を、編集のための操作と同時に行わなくても良いため、より的確に、終了させたいポイント(フレーム)で終了させることが可能となる。
[シーンチェンジ検出による記録について]
次に、コンテンツの内容の変化、すなわち、シーンの変化を検出し、シーンに変化があったときに、設定情報などが記録される場合について説明する。まず、図46A乃至Cを参照して、シーンチェンジの検出と検出されたときの設定値の記録について説明する。
図46Aに示したように、シーンチェンジ検出部(図47、図48に記載)により、検出点T1乃至T4が、シーンチェンジがあった時点として検出されたとする。シーンチェンジとは、例えば、本編からコマーシャルに入ったときとか、本編中であっても夜の場面から昼の場面に切り替わったときとか、シーン(場面)が大幅に変わったときであり、コンテンツの切れ目である。
図46Bの下段に示したように、時点T11から時点T13までプラスの操作がされ、時点T13から時点T14までマイナスの操作がされ、時点T14から時点T15までプラスの操作がされ、時点T15から時点T16までマイナスの操作がされたとき、設定値としては、図46Bの上段に示したようになる。
設定情報などの記録を指示するための記録開始ボタンが、時点T12で操作されると、その時点T12以降から記録が開始される。しかしながら、シーンチェンジがあったときに、記録が行われるという制御がされるように設定されている場合、時点T12で記録開始ボタンが操作されても、実際の記録は、時点T12の後にシーンチェンジが検出された時点T2から開始される。よって、実施に記録されるのは、図46Cに示したように、時点T2から時点T3までの間の設定値である。
このように、シーンチェンジを検出し、検出されたシーンチェンジ間で設定情報が記録されることにより、以下のような利点がある。すなわち、従来の設定の記録方式では、図1や図2を参照して説明したように、操作開始点から記録が開始されてしまうため、記録の先頭の設定値は標準値に設定されてしまい、その後の操作にかかわらず、標準値から連続的に変化される設定値しか設定できなかった。しかしながら、本実施の形態のように、開始点を設定することにより、図46Cに示したように、記録の開始時点の設定値を標準値以外に設定することが可能となり、その標準値ではない設定値から、連続的に設定値を変化させることができるようになる。
また、従来の記録方式では、設定値の記録を終了させる際、使用者は、操作しながら記録を終了させる機能を有する終了ボタンを操作する必要があったため、使用者が記録を終了させたい位置で操作を止めるのが難しかった。しかしながら、本実施の形態のように、終了点を設定することにより、使用者は所望の終了ポイントを、操作しながら終了ボタンを操作するといったことなく設定できるようになり、確実に所望の終了点を設定することが可能となる。
さらに、シーンチェンジがあったときから次のシーンチェンジまでの間、換言すれば、1シーンの間で、設定情報などを記録するようにすれば、シーン内では連続的に設定値を変化させることができ、異なるシーン間では不連続に設定値を変化させることが、使用者の特別な操作を必要とせずに行うことが可能となる。すなわち使用者は、シーン毎に、所望の操作を、シーンの切り替わりを気にせずに(シーンの切り替わりを指示するといったような操作を行うことなく)、簡便に行うことができる。
このようなシーンチェンジを検出し、その検出されたシーンチェンジ内で設定情報の記録を行う画像処理装置13の構成について説明する。
図47は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図48は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図47において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図47に示した画像処理装置13は、開始操作入力部701、シーンチェンジ検出部702、およびトリガー部703を、図5に示した画像処理装置13に追加した構成とされている。
開始操作入力部701は、操作情報認識部45からの操作情報を解析し、使用者から設定情報の記録の開始が指示されたか否かを判断し、記録の開始が指示されたと判断されたとき、トリガー部703を準備状態にする。
シーンチェンジ検出部702は、画像再生部12から供給される画像を解析し、シーンチェンジを検出し、その結果を、トリガー部703に供給する。トリガー部703は、開始操作入力部701により準備状態にされているときに、シーンチェンジ検出部702からシーンチェンジを検出したとの結果が供給されると、蓄積ブロック43に対して、設定情報の蓄積を開始するように指示を出すか、または、蓄積を終了するように指示を出す。
図48において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図48に示した画像処理装置13は、開始操作入力部711、シーンチェンジ検出部712、およびトリガー部713を、図6に示した画像処理装置13に追加した構成とされている。
開始操作入力部711は、操作情報認識部45からの操作情報を解析し、使用者から操作情報の記録の開始が指示されたか否かを判断し、記録の開始が指示されたと判断されたとき、トリガー部713を準備状態にする。
シーンチェンジ検出部712は、画像再生部12から供給される画像を解析し、シーンチェンジを検出し、その結果を、トリガー部713に供給する。トリガー部713は、開始操作入力部711により準備状態にされているときに、シーンチェンジ検出部712からシーンチェンジを検出したとの結果が供給されると、蓄積ブロック151に対して、操作情報の蓄積を開始するように指示を出すか、または蓄積を終了するように指示を出す。
次に、図47、図48に示した画像処理装置13の動作について、図49,50のフローチャートを参照して説明する。図47に示した画像処理装置13と図48に示した画像処理装置13は、基本的に同様の動作であるので、図49,50のフローチャートを参照した説明では、図47に示した画像処理装置13の動作を例に挙げて説明する。
図49のフローチャートを参照し、シーンチェンジを検出し、シーンチェンジに応じて記録を開始または終了する画像処理装置13の動作について説明する。図49に示したフローチャートの処理は、基本的に図40のフローチャートと同様の流れであるが、ステップS702において、ステップS522で実行されていたトリガー処理の代わりにシーンチェンジに係わる処理が実行される点が異なる。
先に説明したステップS522で実行されるトリガー処理は、記録を開始する開始点と記録を終了する終了点が使用者により指示されており、その開始点と終了点をトリガーとして、設定情報などの記録が制御される処理であったが、ステップS702で実行されるシーンチェンジに係わる処理は、トリガー処理における開始点と終了点が、シーンチェンジの検出された時点であり、シーンチェンジが検出された時点をトリガーとして、設定情報などの記録が制御される処理である。よって、ステップS702以外の処理は、図40のフローチャートを参照して説明した場合と同様に行われるので、同様に行われる処理に関する説明は省略する。
ステップS702において実行されるシーンチェンジに係わる処理について図50のフローチャートを参照して説明する。ステップS731において、記録開始の指示があったか否かが判断される。記録開始の指示とは、図46Bを参照して、時点T12で出される指示として説明したように、使用者が、指示した後のシーンチェンジがあった時点から設定情報などの記録を開始することを所望したときに出される指示である。この記録開始の指示は、例えば、リモートコントローラ14の所定のボタンが操作されることにより行われる。
開始操作入力部701は、操作情報認識部45からの操作情報を解析し、記録の開始を指示する操作であるか否かを判断する。ステップS731において、記録の開始を指示する操作であると判断された場合、ステップS732に処理が進められ、シーンチェンジ検出フラグが立てられる。このシーンチェンジ検出フラグが立てられている間は、シーンチェンジ検出部702によりシーンチェンジが検出される。
ステップS732において、シーンチェンジ検出フラグが立てられると、ステップS733に処理が進められる。ステップS733への処理には、ステップS731において、記録開始の指示はないと判断されたときにも来る。ステップS733において、シーンチェンジ検出フラグが立っているか否かが判断される。
ステップS733において、シーンチェンジ検出フラグが立っていると判断された場合、ステップS734に処理が進められる。ステップS734において、シーンチェンジがあったか否かが判断される。シーンチェンジ検出部702は、シーンチェンジ検出フラグが立っているときには、画像再生部12から供給される画像データを用いて、シーンチェンジがあったか否かを判断する。
ステップS734において、シーンチェンジはないと判断された場合、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。
一方、ステップS734において、シーンチェンジがあったと判断された場合、ステップS735に処理が進められ、記録中フラグが立っているか否かが判断される。ステップS735において、記録中フラグは立っていないと判断された場合、ステップS736に処理が進められ、記録中フラグが立てられる。そして、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。記録中フラグが立てられたことにより、使用者による操作(編集)による設定情報などの記録が開始される状態とされる。
一方、ステップS735において、記録中フラグは立っていると判断された場合、ステップS737に処理が進められ、記録中フラグが下げられる。この場合、記録中フラグが立っているということは、使用者により記録の開始が指示された後、シーンチェンジがあり(1度目のシーンチェンジがあり)、記録が開始されている状態であるので、2度目のシーンチェンジが検出されたときには、記録を終了させるために、立てられている記録中フラグが下げられる。
このように記録中フラグが制御されることにより、1度目のシーンチェンジのときに記録が開始され、2度目のシーンチェンジのときに記録が終了されるように制御される。
ステップS738において、シーンチェンジ検出フラグが下げられる。そして、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。
このように、シーンチェンジ検出フラグが制御されることにより、使用者が記録開始の指示をした後の時点での1シーンにおける設定情報の記録を行うことが可能となる。
このように、設定情報などの記録を、シーンチェンジを検出することにより制御することで、記録の開始時には、設定値を標準値以外にも設定することができ、より効果的な自由度の高い編集を行うことが可能となる。また、記録の終了時も、使用者は記録を終了させるための操作を、編集のための操作と同時に行わなくても良いため、シーンの変わり目というコンテンツの切れ目で、的確に終了させることが可能となる。
[キーポイントの指定による記録について]
次に、キーポイントという概念を導入した編集について説明を加える。キーポイントとは、使用者が編集の前または後で設定されるポイントであり、その設定されたキーポイントの間で、滑らかに設定値が変化するように制御するためのポイントである。まず、図50A乃至Cを参照して、キーポイントの設定と設定されたキーポイント間での設定値の記録について説明する。
図51Aに示すように、1回目の操作において、時点T1からコンテンツに対して操作が加えられた場合、時点T1から設定値が記録される。設定値が記録される前または記録された後(図51A,Bでは、後の場合を例に挙げて図示してある)の時点で、図51Bに示したようなキーポイントが指定される。
キーポイントとしては、時点T1より後の時点である時点T2、時点T4、および時点T5の3つのポイントが指定される。このように、キーポイントが指定された場合、1回目の操作にかかわらず、図51Cに示したように、指定されたキーポイント間で、滑らかに設定値が変化するように設定値が補間され、記憶される。
時点T1から時点T2(キーポイント)までは、徐々に設定値が大きくなるように補間され、記憶される。また時点T2から時点T4までのキーポイント間も、徐々に設定値が大きくなるように補間され、記憶される。図51Aの上段を参照するに、時点T1より時点T4の方が、大きな設定値が記録されていたため、図51Cに示したように、時点T1から時点T4までの設定値としては、徐々に設定値が上昇するような設定値が記録される。
キーポイントとして設定された時点T4から時点T5までは、図51Aを参照するに、時点T4より時点T5の方が、小さな設定値が記録されていたため、図51Cに示したように、時点T4から時点T5までの設定値としては、徐々に設定値が減少するような設定値が記録される。
このように、キーポイントが設定され、その設定されたキーポイント間で、設定値が徐々に変化するような設定値が、既に記録されているまたは後で記録されるキーポイントの時点での設定値に基づいて再設定され、記憶される。このような処理が行われることで、滑らかに変化する設定値を記録させることが可能となる。
このような設定されたキーポイント間で滑らかに設定値が変化する設定情報の記録を行う画像処理装置13の構成について説明する。
図52は、図5に示した画像処理装置13に、キーポイントによる記録範囲指定機能を追加した構成例を示し、図53は、図6に示した画像処理装置13に、キーポイントによる記録範囲指定機能を追加した構成例を示している。
図52において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図52に示した画像処理装置13は、キーポイントに関する処理を実行するキーポイント指定部801、キーポイント蓄積部802、設定情報補間部803、一時蓄積ブロック804、および同期検出部805を、図5に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック804は、特徴量設定情報記録部811、特徴量設定情報蓄積部812、および特徴量設定情報読出部813を備える構成とされている。すなわち、一時蓄積ブロック804は、蓄積ブロック43と同様の構成とされている。この場合、キーポイントが設定された後、操作が行われ、その後、キーポイント間の設定情報が補間されるため、操作が行われたときの設定値(同期情報)が一時的に記録された後、設定情報の補間の処理を行うために、一時的に設定情報を記録しておく必要があり、その記録を、一時蓄積ブロック804が行う構成とされている。
キーポイント指定部801は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、キーポイントの指定(設定)に係わる処理を実行する。キーポイント蓄積部802は、キーポイント指定部801により指定されたキーポイントを蓄積する。設定情報補間部803は、キーポイント蓄積部802に蓄積されたキーポイントと、一時蓄積ブロック804に蓄積された設定情報を参照し、キーポイント間の設定情報を補間する。
一時蓄積ブロック804の各部は、蓄積ブロック43と同様の構成とされ、設定情報を補間する際に必要とされるキーポイン時の設定情報などを一時的に蓄積する。また、同期検出部805は、同期検出部42と同様に、同期を検出する。
図53において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図53に示した画像処理装置13は、キーポイントに関する処理を実行するキーポイント指定部841、キーポイント蓄積部842、操作情報補間部843、一時蓄積ブロック844、および同期検出部845を、図6に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック844は、特徴量操作情報記録部851、特徴量操作情報蓄積部852、および特徴量操作情報読出部853を備える構成とされている。すなわち、一時蓄積ブロック844は、蓄積ブロック151と同様の構成とされている。この場合、キーポイントが設定された後、操作が行われ、その後、キーポイント間の操作情報が補間されるため、操作が行われたときの同期情報などが一時的に記録しておく必要があり、その記録を、一時蓄積ブロック844が行う構成とされている。
キーポイント指定部841は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、キーポイントの指定(設定)に係わる処理を実行する。キーポイント蓄積部842は、キーポイント指定部841により指定されたキーポイントを蓄積する。操作情報補間部843は、キーポイント蓄積部842に蓄積されたキーポイントと、一時蓄積ブロック844に蓄積された操作情報を参照し、キーポイント間の操作情報を補間する。
一時蓄積ブロック844の各部は、蓄積ブロック151と同様の構成とされ、操作情報を補間する際に必要とされるキーポイント時の操作情報などを一時的に蓄積する。また、同期検出部845は、同期検出部42と同様に、同期を検出する。
次に、図52、図53に示した画像処理装置13の動作について、図54,55のフローチャートを参照して説明する。図52に示した画像処理装置13と図53に示した画像処理装置13は、基本的に同様の動作であるので、図54,55のフローチャートを参照した説明では、図52に示した画像処理装置13の動作を例に挙げて説明する。
この場合、キーポイントが設定された後の時点で、使用者により操作がされ、設定値が記録されるので、まず、図54のフローチャートを参照し、キーポイントの設定と記録に関する処理について説明する。
ステップS801において、画像再生部12から入力される映像(フレーム)に対して、特徴量抽出処理が行われる。ステップS801において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS801の処理において抽出された特徴量は、ステップS802において、特徴量設定情報蓄積部812に記録される。
ステップS803において、キーポイントが指定されたか否かが判断される。キーポイント指定部801は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、キーポイントを指定する操作であったか否かを判断する。キーポイントは、動画像を構成するフレームのうちの、使用者が指示したフレームに設定される。
ステップS803において、キーポイントが指示されたと判断された場合、ステップS804において、キーポイントが設定されたときの画像から抽出された特徴量が記録される。キーポイント指定部801は、キーポイントが指示されたと判断した場合、その時点での画像から抽出された特徴量(同期用特徴量)(ステップS801において抽出された特徴量)を、キーポイントと関連付けて、キーポイント蓄積部802に蓄積させる。なお、この際、特徴量自体は、一時蓄積ブロック804にも蓄積される。
キーポイントと関連付けられてキーポイント時の特徴量が記録されると、ステップS805に処理が進められる。ステップS805への処理は、ステップS803において、キーポイントは指定されていないと判断されたときにもくる。
ステップS805において、キーポイントの設定が終了されたか否かが判断される。ステップS805において、キーポイントの設定は終了されていないと判断された場合、ステップS801に処理が戻され、次のフレームに対して、同様の処理が繰り返される。一方、ステップS805において、キーポイント設定の終了が指示されたと判断された場合、キーポイント記録の処理は終了される。
なお、ステップS805において、キーポイントの設定が終了されたか否かの判断は、使用者による設定終了の指示があったか否かが判断されることにより行われるようにしても良いし、コンテンツの最後のフレームまで処理が行われたときには、設定が終了されたと判断されるようにしても良い。
このようにして、キーポイントが指示された後に、そのキーポイント間で設定値が滑らかに変化するように設定値の記録が制御される際の処理について、図55のフローチャートを参照して説明する。
ステップS821において、特徴量抽出処理が実行される。ステップS821において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS822において、同期検出処理が実行される。ステップS822において実行される同期検出処理は、図13のフローチャートを参照して説明した同期検出処理と同様に行われるので、その説明は省略する。
ステップS823において、キーポイントであるか否かが判断される。キーポイント蓄積部802に蓄積されているキーポイント(キーポイントが指示されたときの同期用の特徴量)が参照され、ステップS823における判断が行われる。ステップS823において、キーポイントであると判断された場合、ステップS824に処理が進められる。
ステップS824において、設定値が記録される。この設定値は、一時蓄積ブロック804に、キーポイントと関連付けられて記録される。後の処理(ステップS829の処理)において、このキーポイントに関連付けられた設定値を基準として、設定値の補間が行われるため、ステップS824において、設定値がキーポイントと関連付けられて一時蓄積ブロック804に記憶される。
ステップS824の処理が終了されると、または、ステップS823において、キーポイントではないと判断された場合、ステップS825に処理が進められる。ステップS8245において、操作情報が取得され、ステップS826において、取得された操作内容が設定値に反映される。
ステップS828において、記録が終了されたか否かが判断される。ステップS828において、記録は終了していないと判断された場合、ステップS821に処理が戻され、それ以降の処理が繰り返される。一方、ステップS827において、記録が終了されたと判断された場合、ステップS828に処理が進められる。
すなわち、ステップS821乃至S827の処理が繰り返されることにより、設定された複数のキーポイントにおける設定値が記録され、そのような設定値の記録が終了されたと判断されると、ステップS828以降の処理が行われる。
ステップS828において、設定値の補間が行われる。設定情報補間部803は、一時蓄積ブロック804に蓄積されている設定値のうち、キーポイントと関連付けられている設定値を読み出す。設定情報補間部803は、時間的に隣り合う2つのキーポイントを読み出し(必要に応じ、キーポイント蓄積部802に蓄積されているキーポイントの特徴量を参照し)、時間的に隣り合う2つのキーポイント間の設定情報を補間することにより、設定情報の補間を行う。
例えば、図51Cを参照して説明したように、キーポイントして設定された時点T2のときの設定情報と、時点T2の次の時点でキーポイントが設定された時点T3のときの設定情報が用いられ、時点T2と時点T3との間の設定情報が補間される。
補間の仕方は、どのような方法を適用しても良い。例えば、2つのキーポイントの設定値を直線で結ぶような補間、多項式近似、スプライン、ベジエなどの滑らかな曲線を生成する関数を用いて2点を曲線で結ぶような補間などが適用されて、設定情報の補間が行われる。
また、例えば、隣り合うキーポイントの間隔が長い場合(所定の閾値を越えるような間隔である場合)、キーポイントの設定情報のみでなく、キーポイントの間の設定情報も用いて、キーポイント間の設定情報が補間されるようにしても良い。図52や図53に示したように、画像処理装置13は、一時蓄積ブロック804(844)を有する構成とされているので、この一時蓄積ブロック804(844)に蓄積されている設定情報を用いて、キーポイント以外の設定情報を取得することが可能である。
また、キーポイントの間隔により、用いる関数を変えるなどしても良い。
このようにして、ステップS828における処理で補間された設定情報は、ステップS829において、蓄積ブロック43に供給され、記録される。
このように、キーポイントを設定し、設定されたキーポイント間で、滑らかに設定情報が変化するように、設定情報が補間(生成)されることにより、また、補間された設定情報が記録されることにより、使用者は、簡便な操作だけで、滑らかに変化する操作履歴を作成することが可能となる。
次に、キーポイントが使用者の操作の後に設定される場合について説明する。このような場合、使用者により、まず、映像に対して編集が加えられ、編集の後に、キーポイントが設定され、キーポイントが設定された後に、設定情報の補間が行われる。
このように編集の後にキーポイントが記録される場合であっても、画像処理装置13の構成は、図52や図53に示した構成と同様に構成することが可能である。すなわち、編集時の設定情報(操作情報)は、一時蓄積ブロック804(844)に蓄積される。一時蓄積ブロック804(844)に蓄積が終了された後に、キーポイント蓄積部802(842)にキーポイントが蓄積される。キーポイント蓄積部802(842)へのキーポイントの蓄積が終了された後に、設定情報補間部803(操作情報補間部843)により、設定情報(操作情報)の補間が行われ、蓄積ブロック43(151)に、設定情報(操作情報)が蓄積される。
よって、画像処理装置13は、キーポイントを編集の後に設定する場合であっても、キーポイントを編集の前に設定する場合と同様の構成とすることができる。
次に、図52、図53に示した画像処理装置13の動作について説明する。図52に示した画像処理装置13と図53に示した画像処理装置13は、基本的に同様の動作であるので、図52に示した画像処理装置13の動作を例に挙げて説明する。
上記したように、キーポイントが設定される前の時点で、編集(操作)が行われ、一時蓄積ブロック804には設定情報が蓄積される。この一時蓄積ブロック804に設定情報が蓄積されるまでの、画像処理装置13の動作は、図10のフローチャートの処理と同様に行われるため、ここでは、その説明を省略する。
一時蓄積ブロック804に設定情報が蓄積された後の時点で行われるキーポイントの設定に関わる処理について、図56のフローチャートを参照して説明する。
ステップS901において、特徴量抽出処理が実行される。ステップS901において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS902において、同期検出処理が実行される。ステップS902において実行される同期検出処理は、図13のフローチャートを参照して説明した同期検出処理と同様に行われるので、その説明は省略する。
ステップS903において、同期したか否かが判断される。ステップS903において、同期したと判断された場合、ステップS904に処理が進められる。ステップS904において、一時蓄積ブロック804に蓄積されている設定情報が反映され、その設定情報が反映された画像が、使用者に提供される。
ステップS905において、キーポイントが指定されたか否かが判断される。この判断は、キーポイント指定部801において、図54のステップS803の処理と同様に判断される。
ステップS905において、キーポイントが指定されたと判断された場合、ステップS906に処理が進められる。ステップS906において、設定値が記録される。このステップS906の処理は、図55のステップS824の処理と同様に行われる。すなわち、指定されたキーポイントのときの設定情報が、キーポイントと関連付けられて一時蓄積ブロック804に記録される(この場合、一時蓄積ブロック804に蓄積されている設定情報が、キーポイントと関連付けられることにより、更新される)。
ステップS903において同期していないと判断された場合、ステップS905において、キーポイントの指定はされていないと判断された場合、またはステップS906における処理が終了した場合、ステップS907に処理が進められる。ステップS907において、記録が終了されたか否かが判断される。
ステップS907において、記録は終了されていないと判断された場合、ステップS901に処理が戻され、それ以降の処理が繰り返される。一方、ステップS907において、記録が終了されたと判断された場合、ステップS908に処理が進められる。
記録が終了されたと判断されるのは、使用者により指示されたとき、一時蓄積ブロック804に蓄積されている設定情報がなくなったときなどである。
ステップS908において、設定情報の補間が行われ、ステップS909において、補間された設定情報の記録が行われる。このステップS908とステップS909の処理は、図55のステップS828とステップS829の処理と同様に行われるため、その説明は省略する。
このように、キーポイントを、編集の後に設定されるようにしたとしても、編集の前に設定される場合と同様に、キーポイント間で設定情報を滑らかに変化させることが可能となる。よって、使用者に、急激に変化してしまうような画像を提供するようなことを発生しないようにすることが可能となる。
上述した実施の形態においては、使用者による編集(操作)が行われたときに、設定値が急激に変化するようなことがないように制御される例を挙げて説明したが、本発明は、このような例に限定されるわけではない。
このように、本発明によれば、自由度の高い記録を行うことが可能となる。また、その記録は、急激に画像が変化するような視聴者にとって目障りな変化が起こらないようにすることが可能となる。
[記録媒体について]
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
図57は、画像処理装置13の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU1001は、パーソナルコンピュータの全体の動作を制御する。また、CPU1001は、バス1004および入出力インタフェース1005を介してユーザからキーボードやマウスなどからなる入力部1006から指令が入力されると、それに対応してROM(Read Only Memory)1002に格納されているプログラムを実行する。あるいはまた、CPU1001は、ドライブ1010に接続された磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリを含むリムーバルディスク1021から読み出され、記憶部1008にインストールされたプログラムを、RAM(Random Access Memory)1003にロードして実行する。これにより、上述したの画像処理装置13の機能が、ソフトウェアにより実現されている。さらに、CPU1001は、通信部1009を制御して、外部と通信し、データの授受を実行する。
プログラムが記録されている記録媒体は、図57に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリを含むリムーバルメディア1021などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM1002や、記憶部1008に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
11 記録メディア, 12 画像再生部, 13 画像処理装置, 14 リモートコントローラ, 15 表示部, 41 特徴量抽出部, 42 同期検出部, 43 蓄積ブロック, 44 受光部, 45 操作情報認識部, 46 設定情報決定部, 47 選択部, 48 遅延部, 49 反映部, 61 特徴量設定情報記録部, 62 特徴量設定情報蓄積部, 63 特徴量設定情報読出部, 151 蓄積ブロック, 152 選択部, 153 設定情報決定部, 161 特徴量操作情報記録部, 162 特徴量操作情報蓄積部, 163 特徴量操作情報読出部, 201 滑らか終了制御部, 211 滑らか終了制御部, 301 操作自動終了制御部, 311 操作自動終了制御部, 401 設定値加算部, 411 設定情報決定部, 501 範囲指定部, 502 範囲記録部, 503 トリガー部, 511 範囲指定部, 512 範囲記録部, 513 トリガー部, 601 範囲指定部, 602 トリガー部, 603 一時蓄積ブロック, 611 特徴量設定情報記録部, 612 特徴量設定情報蓄積部, 613 特徴量設定情報読出部, 641 範囲指定部, 642 トリガー部, 643 一時蓄積ブロック, 644 同期検出部, 651 特徴量設定情報記録部, 652 特徴量設定情報蓄積部, 653 特徴量設定情報読出部, 701 開始操作入力部, 702 シーンチェンジ検出部, 703 トリガー部, 711 開始操作入力部, 712 シーンチェンジ検出部, 713 トリガー部, 801 キーポイント指定部, 802 キーポイント蓄積部, 803 設定情報補間部, 804 一時蓄積ブロック, 805 同期検出部, 811 特徴量設定情報記憶部, 812 特徴量設定情報蓄積部, 813 特徴量設定情報読出部, 841 キーポイント指定部, 842 キーポイント蓄積部, 843 設定情報補間部, 844 一時蓄積ブロック, 845 同期検出部, 851 特徴量設定情報記憶部, 852 特徴量設定情報蓄積部, 853 特徴量設定情報読出部