以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、発明の実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書に記載されている発明をサポートする実施の形態が本明細書に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明の全てを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
即ち、本発明の一側面の画像処理装置は、画像より特徴量を抽出する特徴量抽出手段(例えば、図3の特徴量抽出部41)と、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図3の設定情報決定部46)と、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体(例えば、図3の特徴量設定情報蓄積部62)に記録する記録手段(例えば、図3の特徴量設定情報記録部61)とを含む。
前記特徴量抽出手段(例えば、図3の特徴量抽出部41)には、前記画像を構成する所定領域の画素の画素値の加算値を特徴量として抽出させるようにすることができる。
前記画像に対する処理を指定する操作をする操作手段(例えば、図13のリモートコントローラ14)をさらに含ませるようにすることができ、前記設定手段(例えば、図13の設定情報決定部46)には、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定させるようにすることができ、前記記録手段(例えば、図13の特徴量設定情報記録部161)には、前記画像の特徴量に対応付けて前記操作内容を前記データ記録媒体(例えば、図13の特徴量設定情報蓄積部162)に記録させるようにすることができる。
前記操作手段による前記画像に対する処理を指定する操作内容が、前記画像に対する直前の処理との相対的な処理を指定するものである場合、前記記録手段(例えば、図15の特徴量設定情報記録部191)には、前記画像の特徴量に対応付けて前記操作内容および前記直前の処理による設定情報と前記データ記録媒体(例えば、図15の特徴量設定情報蓄積部192)に記録させるようにすることができる。
前記記録手段(例えば、図3の特徴量設定情報記録部61)には、前記データ記録媒体上の第1のアドレスに前記画像の特徴量を記録し、前記設定情報を、前記第1のアドレスと対応付けられた第2のアドレスに記録させるようにすることができる。
前記記録手段(例えば、図18の特徴量設定情報記録部211)には、前記画像の特徴量と前記設定情報とが対応付けられたテーブルを前記データ記録媒体(例えば、図18の特徴量設定情報テーブル蓄積部212)に記録させるようにすることができる。
本発明の第1の側面の方法およびプログラムは、画像より特徴量を抽出する特徴量抽出ステップ(例えば、図7のフローチャートにおけるステップS3の処理)と、前記画像に対して処理を加えるための設定情報を設定する設定ステップ(例えば、図7のフローチャートにおけるステップS5の処理)と、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録する記録ステップ(例えば、図7のフローチャートにおけるステップS6の処理)とを含む。
本発明の第2の側面のデータ記録媒体(例えば、図3の特徴量設定情報蓄積部62)は、画像の特徴量に対応付けて、画像に対して処理を加えるための設定情報が記録されたデータ構造を含む。
本発明の第3の側面の画像処理装置は、再生位置の画像より再生位置の特徴量を再生位置特徴量として抽出する再生位置特徴量抽出手段(例えば、図3の特徴量抽出部41)と、前記画像の特徴量に対応付けられて、前記画像に対して処理を加えるための設定情報が記録されたデータ記録媒体の特徴量と、前記再生位置特徴量とを同期させる同期手段(例えば、図3の同期検出部42)と、前記同期手段により前記データ記録媒体の特徴量と、前記再生位置特徴量とが同期した場合、前記データ記録媒体より、同期した前記再生位置特徴量に対応付けて記録されている設定情報を読み出す読出手段(例えば、図3の特徴量設定情報読出部63)と、前記読出手段により読み出された設定情報に基づいて、前記再生位置の画像に対して処理を反映させる反映手段(例えば、図3の反映部49)とを含む。
前記同期手段には、前記画像の特徴量に対応付けられて、前記画像に対して処理を加えるための設定情報が記録されたデータ記録媒体より、前記特徴量を検索位置特徴量として順次抽出する検索位置特徴量抽出手段(例えば、図6の検索位置特徴量読出部104)と、前記再生位置特徴量と前記検索位置特徴量とを順次比較する比較手段(例えば、図6の比較部103)とを含ませるようにすることができ、前記比較結果が一致した場合、前記画像の特徴量に対応付けられて、前記画像に対して処理を加えるための設定情報が記録されたデータ記録媒体の特徴量と、前記再生位置特徴量とが同期したものとみなすようにさせることができる。
本発明の第3の側面の画像処理方法及びプログラムは、再生位置の画像より再生位置の特徴量を再生位置特徴量として抽出する再生位置特徴量抽出ステップ(例えば、図7のフローチャートにおけるステップS3の処理)と、前記画像の特徴量に対応付けられて、前記画像に対して処理を加えるための設定情報が記録されたデータ記録媒体の特徴量と、前記再生位置特徴量とを同期させる同期ステップ(例えば、図7のフローチャートにおけるステップS9の処理)と、前記同期ステップの処理により前記データ記録媒体の特徴量と、前記再生位置特徴量とが同期した場合、前記データ記録媒体より、同期した前記再生位置特徴量に対応付けて記録されている設定情報を読み出す読出ステップ(例えば、図7のフローチャートにおけるステップS13の処理)と、前記読出ステップの処理により読み出された設定情報に基づいて、前記再生位置の画像に対して処理を反映させる反映ステップ(例えば、図7のフローチャートにおけるステップS7の処理)とを含む。
まず、図1,図2を参照して、本発明を適用した画像処理装置の概念について説明する。本発明を適用した画像処理装置は、予め記録された画像に対して、使用者により指示された処理を施し表示する。このとき、画像処理装置は、画像の特徴量を抽出して、特徴量に対応付けて処理内容の情報を蓄積させる。さらに、画像処理装置は、予め記録された画像を再生するとき、この蓄積された処理内容の情報を読み出して、画像に処理を施し表示する。
より具体的には、画像処理装置2の動作は、大きく分けて記録モードと再生モードとの2つのモードからなる。
記録モードでは、図1で示されるように、画像処理装置2は、例えば、DVD(Digital Versatile Disc)などの動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を表示部3に表示させる。この状態で、リモートコントローラなどが使用者などにより操作されることにより、所望とする画像への処理として、例えば、ズーム、パン、チルトなどが指示されると、画像処理装置2は、操作内容に対応する設定情報を生成すると供に、設定情報に対応付けられた処理を画像に施して表示部3に表示させる。さらに、画像処理装置2は、画像より特徴量を抽出し、抽出した特徴量に対応付けて設定情報を操作履歴格納部4に蓄積させる。
次に、再生モードでは、図2で示されるように、画像処理装置2は、動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を読み出すと供に、特徴量を抽出する。このとき、画像処理装置2は、操作履歴格納部4に特徴量に対応付けられて記録されている設定情報を、記録メディア1から読み出した画像の特徴量に同期して読み出すと供に、読み出した設定情報に基づいて、画像に処理を施し、表示部3に表示させる。
以上のような動作により、画像処理装置2は、予め記録された画像に対する処理内容のみを蓄積して、処理結果である画像を記録することなく、処理結果である画像を繰り返し再生できるようにすることができる。結果として、Copy Onceなどの複製回数に制限があるような予め記録された画像に対して、様々な画像処理を加えると言った加工処理を繰り返すことが可能となる。
以下、図1,図2を参照して説明した画像処理装置2について詳細を説明する。
図3は、図1,図2の画像処理装置2に対応する画像処理装置13の一実施の形態の構成を示した図である。
画像再生部12は、図1,図2の記録メディア1に対応する記録メディア11に予め所定の形式でエンコードされた状態で記録された画像をデコードし、順次画像として特徴量抽出部41および遅延部48に供給する。
特徴量抽出部41は、画像再生部12より順次供給されてくる画像の特徴量を抽出して、同期検出部42、および蓄積ブロック43の特徴量設定情報記録部61に供給する。尚、特徴量抽出部41の構成については、図4を参照して詳細を後述する。
リモートコントローラ14は、キーやボタンなどから構成され、図1,図2で示されるように使用者が所望とする画像に対する処理の内容を指示するとき操作され、使用者の操作に応じて操作信号を発生すると供に、発生した操作信号に応じて赤外線などからなる発光パターンを生成し、画像処理装置13の受光部44に発光する。
受光部44は、リモートコントローラ14の発光パターンに基づいて、リモートコントローラ14の操作信号に変換し、操作情報認識部45に供給する。操作情報認識部45は、受光部44より供給されてくる操作信号に基づいて、使用者が所望とする画像への処理に対応付けられている操作情報を認識し、認識結果である操作信号を設定情報決定部46に供給する。尚、蓄積ブロック43は、リモートコントローラ14からの操作情報に基づいて、オンまたはオフを制御することも可能であり、このため、操作情報認識部45において、蓄積ブロック43のオンまたはオフが制御される操作情報が認識された場合、操作情報認識部45は、蓄積ブロック43の動作をオンまたはオフに制御する。
設定情報決定部46は、操作情報認識部45より供給されてくる操作情報に基づいて、後述する反映部49に対して画像への処理内容を指示するための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。
蓄積ブロック43の特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量と、設定情報決定部46より供給されてくる設定情報とを対応付けて特徴量設定情報蓄積部62(図1,図2の操作履歴格納部4に対応するもの)に蓄積させる。
同期検出部42は、特徴量設定情報蓄積部62に蓄積されている特徴量(後述する検索位置特徴量)のうち、特徴量抽出部41より供給されてくる画像再生部12により再生されている画像の特徴量(後述する再生位置特徴量)を検索し、同一の特徴量が検出されたとき、画像の同期位置として検出結果を特徴量設定情報読出部63に供給する。尚、同期検出部42の構成については、図6を参照して詳細を後述する。
特徴量設定情報読出部63は、同期検出部42より同期位置として検出された特徴量(検索位置特徴量)を取得すると、その特徴量に対応付けられて、特徴量設定情報蓄積部62に記憶されている設定情報を読み出し、選択部47に供給する。選択部47は、設定情報決定部46より設定情報が供給されてきた場合、仮に、同一のタイミングで特徴量設定情報読出部63より設定情報が供給されることがあっても、設定情報決定部46からの設定情報を反映部49に供給する。また、選択部47は、設定情報決定部46より設定情報の供給がなく、特徴量設定情報読出部63より設定情報が供給された場合、特徴量設定情報読出部63より供給された設定情報を反映部49に供給する。さらに、いずれからも設定情報が供給されてこない場合、選択部47は、設定情報を反映部49に供給しない。
遅延部48は、特徴量抽出部41、同期検出部42、蓄積ブロック43、および、選択部47の処理における遅延時間だけ、画像再生部12より供給されてくる画像を一時的に記憶し、反映部49に出力する。反映部49は、選択部47より設定情報が供給されてくる場合、遅延部48より供給されてくる画像に対する処理を反映して、表示部15に表示する。また、反映部49は、選択部47より設定情報が供給されてこない場合、遅延部より供給されてくる画像を、そのまま表示部15に表示させる。
次に、図4を参照して、特徴量抽出部41の詳細な構成について説明する。
DFF(D型フリップフロップ)81は、直前の入力信号を記憶して、図示せぬクロック信号発生器からのクロック信号(clk)が入力されるタイミングで加算器82に出力する。また、DFF81は、入力信号が画像の信号のうち画像データ領域外のものであるとき、リセット信号が入力され入力信号が消去されて出力される。すなわち、画像信号は、図5で示されるように同期データ領域と画像データ領域から構成されているため、図中の水平方向のサンプルと垂直方向のラインの丸印の原点であるフレーム開始点Sから順次入力されてくる位置の情報に応じて、画像データ領域外の同期データの場合、リセット信号が入力され、同期データを構成する信号が、加算器82に出力されない。つまり、DFF81は、画像を構成する入力信号のうち、画像データ領域のデータのみをクロック信号に同期して加算器82に供給する。
加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号とを加算してDFF83に出力する。より詳細には、加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号との加算結果のうち、下位8ビットを抽出してDFF83に供給する。
DFF83は、加算器82より供給されてくる信号を図示せぬクロック発生器より発生されるクロック信号(clk)が入力されるタイミングで加算器82および出力部84に供給する。また、DFF83は、フレーム開始点(図中の水平方向のサンプルと垂直方向のラインの丸印の原点)Sの信号が入力される際、リセット信号が入力され入力信号が消去されて出力される。すなわち、DFF83は、画像を構成する入力信号のうち、画像データ領域のデータのみが加算器82により累積的に加算された値を出力部84に供給する。
出力部84は、1フレーム(または、1フィールド)の値がDFF83より供給されてきたとき、その値をフレーム(または、そのフィールド)分の画像の特徴量として出力する。すなわち、出力部84は、画像データ領域のデータのみが加算器82により累積的に加算された値の下位8ビットをそのフレーム(または、そのフィールド)の特徴量として出力する。尚、特徴量は、画像を1フレーム単位で識別できる情報であればよいので、画像データ領域のデータのみ(画素値のみ)が累積的に加算された値の下位8ビットに限るものではなく、例えば、画像データ領域の中央近傍の所定領域内の画素値のみの加算結果をそのまま使用してもよい。
次に、図6を参照して、同期検出部42の詳細な構成について説明する。
特徴量バッファ101−1乃至101−3は、供給されてきた特徴量を一時的に記憶すると供に、それまでに記憶していた特徴量を再生位置特徴量生成部102および後段の特徴量バッファ101−2,101−3に順次出力する。尚、特徴量バッファ101−3は、後段の特徴量バッファ101が存在しないため、再生位置特徴量生成部102にのみ出力する。再生位置特徴量生成部102は、特徴量バッファ101−1乃至101−3より供給されてくる最新の特徴量を含めた過去3フレーム分の特徴量を順次取得し、これを纏めて再生位置情報(再生位置特徴量)として生成し、比較部103に出力する。すなわち、再生位置特徴量生成部102は、再生位置を特定するための特徴量として最新のフレームから3フレーム前までの合計4個の特徴量を使用して、再生位置特徴量を生成する。
検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量を連続する4個ずつを順次読み出し、検索位置特徴量として比較部103および検出部105に供給する。比較部103は、再生位置特徴量生成部102より供給されてくる再生位置特徴量と、検索位置特徴量読出部104より順次供給されてくる検索位置特徴量とを比較する。比較部103は、再生位置特徴量と一致する検索位置特徴量を検索した場合、同期が検出されたとみなし、検出結果として同期が検出されたことを検出部105に通知する。検出部105は、比較部103より同期が検出されたとみなされたタイミングで、検索位置特徴量読出部104より供給されてきた検索位置特徴量を同期検出結果として出力する。
次に、図7のフローチャートを参照して、図3の画像処理装置13による画像処理について説明する。尚、以降の説明においては、蓄積ブロック43は、オンの状態に制御されていることが前提である。
ステップS1において、遅延部48は新しい画像が画像再生部12より供給されてきたか否かを判定し、新たな画像が供給されてくるまで、その処理を繰り返す。
例えば、画像再生部12が記録メディア11に記録されている画像を読み出し、遅延部48が、新たな画像が供給されてきたと判定した場合、ステップS2において、遅延部48は、供給されてきた画像を1フレーム分一時的に遅延させるために記憶する。尚、以降においては、画像を1フレーム単位で処理するものとして説明を進めるが、当然のことながら、画像は、1フレーム単位に限らず、例えば、1フィールド単位で処理するようにしても良い。
ステップS3において、特徴量抽出部41は、特徴量抽出処理を実行し、画像再生部12より供給されてきた1フレーム分の画像の特徴量を抽出する。すなわち、遅延部48が、新たな画像を1フレーム分遅延させるために一時的に記憶するとき、同様に、1フレーム分の画像が特徴量抽出部41にも供給されているため、同一のタイミングで、同一の画像が、一方では遅延のため一時的に記憶され、他方では特徴量が抽出される。
ここで、図8のフローチャートを参照して、特徴量抽出処理について説明する。
ステップS21において、DFF83は、フレーム開始点S(図5)によりリセットされる。
ステップS22において、未処理の画素が選択され、ステップS23において、画像データ領域外であるか否かが判定される。より詳細には、例えば、ラスタスキャン順に1フレーム分の画像より未処理の画素が順次読み出され、画像データ領域外であるか否かが判定される。
図5で示されるように、最初の画素(フレーム開始点Sの画素)の場合、同期データに含まれるため画像データ領域外であるので、ステップS25において、DFF81はリセットされ、0を画素値として出力する。一方、ラスタスキャン順に処理対象となる画素が選択され、例えば、画像データ領域内である場合、ステップS24において、DFF81は、クロック信号の発生タイミングで画素値を加算器82に供給する。
ステップS26において、加算器82は、入力された画素値と、DFF83より供給されてくる信号とを加算してDFF83に供給する。
ステップS27において、DFF83は、クロック信号の発生タイミングで加算器82より供給されてきた加算結果の下位8ビットを加算器82に戻す。このとき、DFF83は、加算結果を出力部84にも供給するが、出力部84は、加算結果を出力しない。
ステップS28において、未処理の画素があるか否かが判定され、未処理の画素がある場合、その処理は、ステップS22に戻る。すなわち、1フレーム分の画素が全て処理されるまで、ステップS22乃至S28の処理が繰り返される。そして、1フレーム分の画素の全てが処理されたと判定された場合、ステップS29において、出力部84は、DFF83より供給されてくる加算結果、すなわち、画像データ領域に属する画素値の累積加算結果の下位8ビットを1フレームの画像の特徴量として出力する。
以上の処理により、1フレーム分の画像信号より画像データ領域の全ての画素値の累積加算結果の下位8ビットが、そのフレームの特徴量として抽出されることになる。
ここで、図7のフローチャートの説明に戻る。
ステップS4において、操作情報認識部45は、リモートコントローラ14が使用者により操作されて、画像の処理が指示されたか否かを判定する。例えば、表示部15に表示されている画像を見ながら、使用者が、2倍のズーム処理を指示した場合、リモートコントローラ14の発光パターンが受光部44により受光され、受光部44より受光した発光パターンに基づいた信号が、操作情報認識部45に供給されることにより、操作情報認識部45は、操作がなされたと判定し、その処理は、ステップS5に進む。
ステップS5において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果として設定情報決定部46に供給する。設定情報決定部46は、操作情報に基づいて、反映部49に対しての画像に処理を施すための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。すなわち、今の場合、2倍のズーム処理を画像に施すことが指示されているので、反映部49に対して2倍のズーム処理を施す指示を出すための設定情報が決定されて、特徴量設定情報記録部61および選択部47に供給される。
ステップS6において、特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量を特徴量設定情報蓄積部62に記録させると共に、その特徴量に対応付けて、設定情報決定部46より供給されてくる設定情報を、特徴量設定情報蓄積部62に記録させることで、特徴量と設定情報とを蓄積させる。より詳細には、図9で示されるように、特徴量C1を所定のアドレスAに記録させた場合、そのm倍のアドレス、すなわち、アドレスm×Aに、特徴量C1に対応付けられた設定情報E1を記憶させる。尚、図9においては、特徴量設定情報蓄積部62の内部における特徴量と設定情報とが記憶されるアドレスの配置が示されている。
以降、特徴量設定情報記録部61は、同様にして、特徴量C2をアドレスBに記憶させるとき、対応する設定情報E2をm×Bに記憶させ、さらに、特徴量C3をアドレスCに記憶させるとき、対応する設定情報E3をm×Cに記憶させる。このように特徴量に対応付けて設定情報を記憶させることにより、特徴量が決まれば、特徴量のアドレスから設定情報のアドレスが特定できるので、設定情報蓄積部62内における特徴量毎の設定情報の検索をスムーズにすることが可能となる。尚、特徴量および設定情報は、同一の処理が連続して指定されている期間について連続して記録される。すなわち、例えば、図9における特徴量C1乃至C3は、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の特徴量が連続的に記録されている。また、同様にして、設定情報についても、例えば、図9における設定情報E1乃至E3は、特徴量C1乃至C3に対応付けられたアドレスから、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の設定情報が連続的に記録されている。
ステップS7において、選択部47は、設定情報決定部46より設定情報が供給されてきているので、設定情報決定部46より供給されてきた設定情報を反映部49に供給する。反映部49は、遅延部48に記憶されている画像に対して、選択部47より供給されてきた設定情報に基づいて、処理を加えて、使用者からの指示内容に応じた処理を反映させて表示部15に表示させる。
ステップS8において、操作情報認識部45は、動作の終了が指示されたか否かを判定し、終了が指示されたと判定された場合、処理を終了する。一方、動作の終了が指示されていないと判定された場合、処理は、ステップS1に戻る。
すなわち、使用者によりリモートコントローラ14が操作されて、画像に対して処理を施す指示が出され続けている限り、ステップS1乃至S8の処理が繰り返されて、特徴量と共に、特徴量に対応付けられて、処理内容に伴った設定情報が特徴量設定情報蓄積部62に蓄積されていく。このステップS1乃至S8が繰り返される動作状態が、図1,図2を参照して説明した記録モードに対応する動作である。
一方、ステップS4において、操作されていないと判定された場合、その処理は、ステップS9に進み、同期検出部42は、同期検出処理を実行して、再生中の画像の特徴量と、画像に処理を施すための設定情報が対応付けられている特徴量との同期を検出する。
ここで、図10のフローチャートを参照して、同期検出処理について説明する。
ステップS41において、同期検出部42の再生位置特徴量生成部102は、特徴量抽出部41より特徴量が供給されてきたか否かを判定し、供給されてくるまでその処理を繰り返す。例えば、ステップS3の特徴量抽出処理により特徴量が抽出されて、特徴量抽出部41より今現在再生中の画像の特徴量が供給されてきた場合、その処理は、ステップS42に進む。
ステップS42において、検索位置特徴量読出部104は、検索位置の特徴量をカウントするためのカウンタiを0に初期化する。
ステップS43において、再生位置特徴量生成部102は、供給されてきた特徴量を取得すると供に、特徴量バッファ101−1乃至101−3にそれまで記憶していた特徴量を取得する。すなわち、特徴量バッファ101−1は、新たに特徴量が供給されてくると、それまでに記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−2に供給する。同様に、特徴量バッファ101−2は、供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−3に供給する。さらに、特徴量バッファ101−3は、特徴量バッファ101−2より供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102に供給する。結果として、再生位置特徴量生成部102には、最新のフレームの特徴量と、特徴量バッファ101−1乃至101−3にそれぞれ記憶されていた過去3フレーム分の特徴量が供給されてくることになる。そこで、再生位置特徴量生成部102は、再生中のフレームを含めた4フレーム分の特徴量を再生位置特徴量として比較部103に供給する。
ステップS44において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量を検索位置特徴量として読み出し比較部103および検出部105に供給する。
ステップS45において、比較部103は、再生位置特徴量生成部102より供給されてきた再生中のフレームを含む過去3フレーム分の合計4個の特徴量からなる再生位置特徴量と、検索位置特徴量読出部104より供給されてきた、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量からなる検索位置特徴量とを比較する。
ステップS46において、比較部103は、比較結果に基づいて一致しているか否かを判定する。ステップS46において、例えば、一致しないと判定された場合、ステップS48において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている全ての特徴量について、再生位置特徴量と比較したか否かを判定する。例えば、ステップS48において、全ての特徴量と比較していないと判定された場合、ステップS49において、検索位置特徴量読出部104は、カウンタiを1インクリメントし、その処理は、ステップS44に戻る。すなわち、この処理により、再生位置特徴量と、検索位置特徴量が一致せず、かつ、蓄積されている全ての特徴量と比較されるまで、ステップS44乃至S46,S48,S49の処理が繰り返され、順次1フレーム間隔でずれながら、連続する4フレーム分の特徴量からなる検索位置特徴量と、再生位置特徴量との比較が繰り返される。
すなわち、検索位置特徴量とは、例えば、図11の右上部で示されるように、特徴量抽出部41より順次蓄積されている特徴量のうち、今の場合、連続する4個の特徴量の塊である。尚、図11においては、図中の縦長の長方形状のマスは、1フレーム分の特徴量を示しており、斜線部のG1,G2は同一の連続する特徴量が配置されていることを示している。また、再生位置特徴量とは、図11の右下部で示されているように、特徴量抽出部41より供給されてくる再生中の特徴量を含めた連続する4フレーム分の特徴量の塊である。
例えば、図11で示されるように再生位置特徴量G2で示されるような場合、検索位置特徴量G0と比較する場合、同一ではないので、同期位置としては検出されない。さらに、蓄積されている全ての特徴量との比較がされていないので、カウンタiが1インクリメントされて、検索位置特徴量G0’と再生位置特徴量G2とが比較される。このように、検索位置特徴量が図中の右方向に1フレーム間隔でずれながら、再生位置特徴量G2との比較が繰り返される。
ステップS46において、例えば、再生位置特徴量G2と検索位置特徴量G1とが比較されるような場合、検索位置特徴量G1が再生位置特徴量G2と同一の構成となっているため、一致したと判定され、ステップS47において、比較部103は、一致したことを検出部105に通知する。検出部105は、この通知に基づいて、今現在検索位置特徴量読出部104より供給されている検索位置特徴量の先頭位置、すなわち、先頭位置からi番目の特徴量を同期位置情報として特徴量設定情報読出部63に供給する。
一方、ステップS48において、蓄積されている全ての検索位置特徴量との比較が終了したと判定された場合、ステップS50において、検出部105は、再生位置特徴量と一致する検索位置特徴量が存在せず、同期しないことを出力する。
以上の処理により、特徴量設定情報蓄積部62に蓄積されている特徴量と、再生中の画像の特徴量とを同期させることが可能となる。すなわち、同期検出部42は、再生中のフレームの特徴量のみを、特徴量設定情報蓄積部62に蓄積されている特徴量と比較することで、偶然に特徴量が一致してしまうことで、間違った位置で同期が検出される可能性を低減させるために、現在再生されているフレームの特徴量のみではなく、再生されているフレームを含む過去3フレーム分の4フレームで比較することにより正確に同期検出を実施している。また、このように特徴量を使用することにより、各フレーム単位でのタイムコードの代わりに特徴量を設定することが可能となり、タイムコードを使用することなく、フレーム単位での同期検出を行うことが可能となる。
ここで、図7のフローチャートの説明に戻る。
ステップS10において、特徴量設定情報読出部63は、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。例えば、図10のフローチャートのステップS47の処理により同期位置情報が供給されてきた場合、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されていることになるので、その処理は、ステップS11に進む。
ステップS11において、特徴量設定情報読出部63は、同期した特徴量に対応付けられた設定情報が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。すなわち、特徴量は、設定情報がない状態でも特徴量設定情報蓄積部62に蓄積することが可能であるので、この処理により、特徴量に対応付けられた設定情報の有無が判定される。
ステップS11において、例えば、特徴量に対応付けられた設定情報が蓄積されていないと判定された場合、ステップS12において、特徴量設定情報読出部63は、選択部47に対して設定情報を供給しない。この処理により、選択部47は、設定情報決定部46および特徴量設定情報読出部63のいずれからも設定情報の供給がない状態となるため、反映部49に対して処理を指定する設定情報が供給されないことになる。結果として、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
一方、ステップS11において、例えば、特徴量に対応付けられた設定情報が蓄積されていると判定された場合、ステップS13において、特徴量設定情報読出部63は、特徴量設定情報蓄積部62より、同期位置情報の特徴量に対応付けて蓄積されている設定情報を読み出し選択部47に供給し、その処理は、ステップS7に進む。すなわち、今の場合、選択部47には、設定情報決定部46からは設定情報がなく、特徴量設定情報読出部63から設定情報が供給されるため、特徴量設定情報読出部63からの設定情報が反映部49に供給され、その設定情報に基づいて遅延部48に蓄積されていた1フレーム分の画像に処理が反映されて、表示部15に表示される。
尚、ステップS1乃至S4、ステップS9乃至S13、およびステップS7,S8の処理が、図1,図2を参照して説明した再生モードに対応する処理である。
以上の処理により、例えば、図12で示されるような処理が可能となる。すなわち、時刻t0乃至t1で示されるビデオからなる画像が記録メディア11に予め記録されている場合、時刻t0より後のタイミングである時刻t11で再生を開始し、さらに後の時刻t101乃至t102において、使用者によりリモートコントローラ14が操作されて、画像への処理が指示されると、同一のタイミングで特徴量と共に、特徴量に対応付けられて設定情報が、特徴量設定情報蓄積部62に蓄積される。
また、時刻t12において、早送りが開始され、時刻t21乃至t22において再び再生が開始された後、時刻t31まで早送りされ、時刻t31において再生が開始されたとき、時刻t111乃至t112において、使用者によりリモートコントローラ14が操作されて、画像への処理が指示されると、同一のタイミングで特徴量と共に、特徴量に対応付けられて設定情報が、特徴量設定情報蓄積部62に蓄積される。
さらに、時刻t32まで再生された後、時刻t121まで巻き戻しされ、再生が開始される。時刻t131乃至t132において、使用者によりリモートコントローラ14が操作されて、画像への処理が指示されると、同一のタイミングで特徴量と共に、特徴量に対応付けられて設定情報が、特徴量設定情報蓄積部62に蓄積されていく。
その後、先頭位置に近い時刻t151まで巻き戻され、時刻t152までリモートコントローラ14が操作されること無くビデオが再生されると、リモートコントローラ14で画像への処理を指示する操作がなされた時刻t101乃至t102、時刻t131乃至t132、および時刻t111乃至t112のタイミングで再生位置特徴量に基づいて、同期位置情報が生成され、同期位置情報の特徴量に対応付けて蓄積されている設定情報が読み出されることにより、画像に設定情報に基づいた処理が反映される。
尚、図12においては、最上段にはビデオ1本分のスケールが時刻t0乃至t1であることが示されている。また、第2段目には、1順目の再生手順として、時刻t11乃至t12,t21乃至t22,t31乃至t32において、通常の再生が実施され、時刻t12乃至t21、およびt22乃至31において早送り再生が実施されたことが示されている。
第3段目には、1順目の再生中における、リモートコントローラ14の操作タイミングが示されており、第4段目には、1順目の再生中における、設定情報が記録されるタイミングが示されている。第3段目、第4段目においては、時刻t101乃至t102および時刻t111乃至t112においてリモートコントローラ14が操作され、同一のタイミングでリモートコントローラ14の操作に対応する設定情報が記録されていることが示されている。尚、設定情報が記録されるとき、設定情報に対応する処理が施されることになるので、リモートコントローラ14が操作されている同一のタイミングで、使用者が所望とする処理が画像に反映された状態で表示される。
第5段目には、1順目の再生手順が終了した後、巻き戻し操作により時刻t121まで巻き戻した後の2順目の再生手順が示されており、時刻t121乃至t122において通常の再生が実施されていることが示されている。
第6段目には、2順目の再生中における、リモートコントローラ14の操作タイミングが示されており、第7段目には、2順目の再生中における、設定情報が記録されるタイミングが示されている。第6段目、第7段目においては、時刻t131乃至t132においてリモートコントローラ14が操作され、同一のタイミングでリモートコントローラ14の操作に対応する設定情報が記録されていることが示されている。尚、設定情報が記録されるとき、設定情報に対応する処理が施されることになるので、リモートコントローラ14が操作されている同一のタイミングで、使用者が所望とする処理が画像に反映された状態で表示される。
第8段目には、2順目の再生手順が終了したのち、巻き戻し操作により時刻t151まで巻き戻した後の3順目の再生手順が示されており、時刻t151乃至t152において通常の再生が実施されていることが示されている。
第9段目には、3順目の再生中における、同期検出部42による同期処理が実行されるタイミングが示されており、第10段目(最下段)には、3順目の再生中における、設定情報が再生される(設定情報が画像に反映される)タイミングが示されている。すなわち、第9段目、第10段目においては、3順目の再生中に、1順目および2順目の再生中にリモートコントローラ14が操作されることによって記録された設定情報に基づいて、同一のタイミングである時刻t101乃至t102,t111乃至t112および時刻t131乃至t132においてリモートコントローラ14が操作されることによって記録された設定情報が、読み出されて画像に反映されることが示されている。
尚、図12中の点線より上部の処理が図1,図2における記録モードであり、点線より下部の処理が再生モードの処理である。
以上の処理により、使用者がリモートコントローラ14を操作して、予め記録されている画像を再生する際、再生されている画像に施す処理を指示すると、指示を受けた画像の特徴量に対応付けて、処理内容を示す設定情報が蓄積される。また、特徴量に対応付けて設定情報が記録されることにより、予め記録されている画像を再生する際、再生している画像の特徴量により、フレーム単位のタイムコードのように特徴量を使用することで、蓄積されている特徴量との同期を取ることが可能となり、同期した特徴量に対応付けられた設定情報により、再生している画像に処理が反映される。
結果として、タイムコードなどを用いることなく、蓄積された設定情報に基づいた編集処理を画像に反映させることが可能となる。また、記録されるのは特徴量と設定情報のみであり、予め記録されている画像が一切記録されることが無いため、例えば、Copy Onceなどの制限が設けられている画像であっても、編集処理を施した状態で繰り返し再生させることが可能となる。
特徴量は、以上においては、1フレーム分の画像信号中の画像データ領域の画素値の積算値を用いる例について説明してきたが、それ以外の特徴量であってもよく、例えば、動きベクトル(全画面動きとローカル動き)、特定の波形パターンがどれだけ出現するかを示す値、縮小画像における画素値の積算値、画像の特定部分の画素値の積算値、これらを複数フレーム分用いた値、または、これらの複数の特徴量の組み合わせなどであってもよい。
また、設定情報については、ズーム倍率を例にして説明してきたが、それ以外の情報であってもよく、例えば、ズーム位置(中心位置)、もしくはズーム位置とズーム倍率との組み合わせなどのズームパラメータ、明るさ、コントラスト、ガンマ補正、DRC(Digital Reality Creation)パレット値(解像度設定値、およびノイズ設定値)などの画質設定パラメータ、または、音量、音声切替(使用言語の切り替え)などの音声パラメータなどを用いるようにしてもよい。
以上の例においては、リモートコントローラ14が操作されると、操作内容に応じた設定情報が、画像の特徴量に対応付けられて蓄積されていく例について説明してきたが、操作内容を示す操作情報を記録するようにしても良い。
図13は、操作情報を設定情報の代わりに、特徴量に対応付けて記録するようにした画像処理装置13の構成例を示している。尚、図13において、図3と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、遅延部48、および反映部49については、図3の画像処理装置13と同様である。図13の画像処理装置13において、図3の画像処理装置13と異なるのは、蓄積ブロック43、設定情報決定部46、および選択部47に代えて蓄積ブロック151、設定情報決定部153、および選択部152が設けられている点である。
蓄積ブロック151は、操作情報認識部45より供給されてくる操作情報を特徴量に対応付けて蓄積すると供に、蓄積された操作情報を再生中の画像の特徴量に対応付けて読み出し、選択部152に供給する。
蓄積ブロック151の特徴量操作情報記録部161は、特徴量抽出部41より供給されてくる特徴量と、操作情報認識部45より供給されてくる操作情報とを対応付けて特徴量操作情報蓄積部162に蓄積させる。
特徴量操作情報読出部163は、同期検出部42より同期位置として検出された特徴量、すなわち、検索位置特徴量を取得すると、その特徴量に対応付けられて記憶されている操作情報を読み出し選択部152に供給する。選択部152は、操作情報認識部45より操作情報が供給されてきた場合、仮に、特徴量操作情報読出部163より操作情報が供給されてきても、操作情報認識部45より供給されてきた操作情報を設定情報決定部153に供給する。また、選択部152は、操作情報認識部45より操作情報の供給がなく、特徴量操作情報読出部163より操作情報が供給された場合、特徴量操作情報読出部163より供給された操作情報を設定情報決定部153に供給する。さらに、いずれからも操作情報が供給されてこない場合、選択部152は、操作情報を設定情報決定部153に供給しない。
設定情報決定部153は、選択部152より供給されてくる操作情報に基づいて、反映部49に対する画像への処理内容を指示するための設定情報を決定し、反映部49に供給する。
次に、図14のフローチャートを参照して図13の画像処理装置13による画像処理について説明する。尚、図14のフローチャートにおけるステップS71乃至S74,S78乃至S80,S82の処理については、図7のフローチャートにおけるステップS1乃至S4,S8乃至10,S12の処理と同様であるので、その説明は省略する。
遅延部48が、画像再生部12より供給されてくる画像を記憶し、特徴量抽出部41により特徴量が抽出され、さらに、リモートコントローラ14が操作されると、ステップS75において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果である操作情報を、特徴量操作情報記録部161に供給する。特徴量操作情報記録部161は、特徴量抽出部41より供給されてくる特徴量を特徴量操作情報蓄積部162に蓄積させると共に、特徴量に対応付けて、操作情報認識部45より供給されてくる操作情報を、特徴量操作情報蓄積部162に蓄積させる。より詳細には、上述した設定情報と同様に、図9で示されるように、特徴量C1を所定のアドレスAに記録させた場合、そのm倍のアドレス、すなわち、アドレスm×Aに、特徴量C1に対応付けられた設定情報E1と同様に操作情報を記憶させる。
ステップS76において、選択部152は、操作情報認識部45より操作情報が供給されてきているので、操作情報認識部45より供給されてきた操作情報を設定情報決定部153に供給する。設定情報決定部153は、供給された操作情報に基づいて、設定情報を決定し、反映部49に供給する。
ステップS77において、反映部49は、遅延部48に記憶されている画像に対して、設定情報決定部153より供給されてきた設定情報に基づいて、処理を加えて、使用者からの指示内容に応じた処理を反映させて表示部15に表示させる。
一方、ステップS74において、操作がされていないと判定された場合、ステップS79において、同期検出処理が実行される。さらに、ステップS80において、同期する特徴量が蓄積されていると判定された場合、ステップS81において、特徴量設定情報読出部163は、同期した特徴量に対応付けられた操作情報が特徴量操作情報蓄積部162に蓄積されているか否かを判定する。すなわち、特徴量は、操作情報がない状態でも特徴量操作情報蓄積部162に蓄積することが可能であるので、この処理により、特徴量に対応付けられた操作情報の有無が判定される。
ステップS81において、例えば、特徴量に対応付けられた操作情報がないと判定された場合、ステップS82において、特徴量設操作報読出部163は、選択部152に対して設定情報を供給しない。この処理により、選択部152は、操作情報認識部45および特徴量操作情報読出部163のいずれからも操作情報の供給がない状態となるため、設定情報決定部153に対して設定情報を決定するための操作情報が供給されないことになる。結果として、反映部49に対しては、処理を指定する設定情報が供給されないことになので、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
一方、ステップS81において、例えば、特徴量に対応付けられた操作情報があると判定された場合、ステップS83において、特徴量操作情報読出部163は、特徴量操作情報蓄積部162より、同期位置情報の特徴量に対応付けて蓄積されている操作情報を読み出し、選択部152に供給し、その処理は、ステップS76に進む。
以上によれば、リモートコントローラ14の操作内容を示す操作情報を、画像の特徴量に対応付けて記録させるようにすることで、タイムコードなどを用いることなく、蓄積された設定情報に基づいた編集処理を画像に反映させることが可能となる。
尚、以上の例においては、操作情報が設定情報に対して一対一に対応する絶対値である場合について説明してきた。すなわち、操作情報が2倍ズームの場合、設定情報も2倍ズームであり、さらに、倍率を変更する場合、操作情報が3倍ズームの場合、設定情報も3倍ズームとなるように、操作情報と設定情報とが一対一に対応する例について説明してきた。しかしながら、操作情報が、現状の設定情報に対しての相対値を指定するような場合、直前の設定情報が必要となる。すなわち、現状の設定情報が2倍ズームであって、操作情報が2倍ズームであるとき、操作情報により設定情報は、4倍ズーム(=2倍ズーム×2倍ズーム)に設定される。従って、さらに、操作情報により2倍ズームが指定されると、設定情報は8倍ズーム(=4倍ズーム×2倍ズーム)に設定される。このように操作情報が、相対値を指定するような場合、操作情報と設定情報とは、一対一に対応しないので、新たな設定情報を設定するには、操作情報に加えて直前の設定情報が必要となる。そこで、リモートコントローラ14が操作されて操作情報が供給されるとき、特徴量に対応付けて、操作情報と直前の設定情報とを蓄積させるようにしても良い。
図15は、リモートコントローラ14が操作されて操作情報が供給されるとき、特徴量に対応付けて、相対値からなる操作情報と直前の設定情報とを蓄積させるようにした画像処理装置13の構成例を示している。尚、図15の画像処理装置13において、図13の画像処理装置と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、遅延部48、および反映部49については、図13の画像処理装置13と同様である。図15の画像処理装置13において、図13の画像処理装置13と異なるのは、蓄積ブロック151、選択部152、および設定情報決定部153に代えて蓄積ブロック181、選択部182、および設定情報決定部183が設けられており、設定情報決定部183より供給される設定情報が、直前の設定情報として蓄積ブロック181に供給されている点である。
蓄積ブロック181は、操作情報認識部45より供給されてくる操作情報を特徴量に対応付けて蓄積する。この際、蓄積ブロック181は、特徴量に対応付けて直前の設定情報も蓄積する。さらに、蓄積ブロック181は、特徴量に対応付けて蓄積されている操作情報と直前の設定情報を再生中の画像の特徴量に対応付けて読み出し、選択部152に供給する。
蓄積ブロック181の特徴量操作情報記録部191は、操作情報認識部45より供給されてくる操作情報および設定情報決定部183のメモリ183aに格納されている直前の設定情報を、特徴量抽出部41より供給されてくる特徴量に対応付けて特徴量操作情報蓄積部192に蓄積させる。
特徴量操作情報読出部193は、同期検出部42より同期位置として検出された特徴量(検索位置特徴量)を取得すると、その特徴量に対応付けられて記憶されている操作情報および直前の設定情報を読み出し選択部182に供給する。選択部182は、操作情報認識部45より操作情報が供給されてきた場合、その操作情報を設定情報決定部183に供給する。また、選択部182は、操作情報認識部45より操作情報の供給がなく、特徴量操作情報読出部193より操作情報および直前の設定情報が供給された場合、特徴量操作情報読出部193より供給された操作情報および直前の設定情報を設定情報決定部183に供給する。さらに、いずれからも設定情報が供給されてこない場合、選択部182は、操作情報を設定情報決定部183に供給しない。
設定情報決定部183は、選択部182から操作情報のみが供給されてくる場合、すなわち、操作情報認識部45より直接操作情報が供給されたものが選択部182より供給されてきた場合、メモリ183aに記憶されている直前の設定情報と、供給されてきた操作情報とに基づいて、次の設定情報を決定し、反映部49に供給すると供に、メモリ183aの直前の設定情報を新たな次の設定情報で更新する。
また、設定情報決定部183は、選択部182から操作情報および直前の設定情報が供給されてくる場合、すなわち、特徴量操作情報読出部193より特徴量に対応付けられて特徴量操作情報蓄積部192に蓄積されていた操作情報および直前の設定情報が供給されてくる場合、操作情報および直前の設定情報に基づいて、画像への処理内容を指示するための設定情報を決定し、反映部49に供給すると供に、メモリ183aの直前の設定情報を新たな次の設定情報で更新する。
次に、図16のフローチャートを参照して、図15の画像処理装置13による画像処理について説明する。尚、図16のフローチャートにおけるステップS91乃至S94,S98乃至S100,S102の処理については、図14のフローチャートにおけるステップS71乃至S74,S78乃至80,S82の処理と同様であるので、その説明は省略する。
遅延部48が、画像再生部12より供給されてくる画像を記憶し、特徴量抽出部41により特徴量が抽出され、さらに、リモートコントローラ14が操作されると、ステップS95において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果である操作情報を、特徴量操作情報記録部191に供給する。特徴量操作情報記録部191は、特徴量抽出部41より供給されてくる特徴量に対応付けて、操作情報認識部45より供給されてくる操作情報および設定情報決定部183のメモリ183aに記憶されている直前の設定情報を、特徴量操作情報蓄積部192に蓄積させる。より詳細には、上述した設定情報と同様に、図9で示されるように、特徴量C1を所定のアドレスAに記録させた場合、そのm倍のアドレス、すなわち、アドレスm×Aに、特徴量C1に対応付けられた設定情報E1と同様に操作情報を記憶させ、さらに、アドレスAのn倍のアドレス、すなわち、アドレスn×Aに直前の設定情報を記憶させる。
ステップS96において、選択部182は、操作情報認識部45より操作情報が供給されてきているので、この例においては、選択部182からは操作情報のみが供給されてきているので、設定情報決定部183は、メモリ183aに記憶されている直前の設定情報と、供給された操作情報に基づいて、次の設定情報を決定し、反映部49に供給する。
ステップS97において、反映部49は、遅延部48に記憶されている画像に対して、選択部47より供給されてきた設定情報に基づいて、処理を加えて、使用者からの指示内容に応じた処理を反映させて表示部15に表示させる。
一方、ステップS94において、操作がされていないと判定された場合、ステップS99において、同期検出処理が実行される。さらに、ステップS100において、同期する特徴量が蓄積されていると判定された場合、ステップS101において、特徴量設定情報読出部193は、同期した特徴量に対応付けられた操作情報および直前の設定情報が特徴量操作情報蓄積部162に蓄積されているか否かを判定する。すなわち、特徴量は、操作情報および直前の設定情報がない状態でも特徴量操作情報蓄積部162に蓄積することが可能であるので、この処理により、特徴量に対応付けられた操作情報および直前の設定情報の有無が判定される。
ステップS101において、例えば、特徴量に対応付けられた操作情報および直前の設定情報がないと判定された場合、ステップS102において、特徴量設操作報読出部193は、選択部182に対して設定情報および直前の設定情報を供給しない。この処理により、選択部182は、操作情報認識部45および特徴量操作情報読出部193のいずれからも操作情報、または、操作情報および直前の設定情報の供給がない状態となるため、設定情報決定部183に対して設定情報を決定するための操作情報、または、操作情報および直前の設定情報が供給されないことになる。結果として、反映部49に対しては、処理を指定する設定情報が供給されないことになので、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
一方、ステップS101において、例えば、特徴量に対応付けられた操作情報および設定情報があると判定された場合、ステップS103において、特徴量操作情報読出部193は、特徴量操作情報蓄積部192より、同期位置情報の特徴量に対応付けて蓄積されている操作情報および直前の設定情報を読み出し、選択部47に供給し、その処理は、ステップS96に進む。
以上の処理により、図17で示されるように、時刻t171乃至t172において画像再生部12により記録メディア11に記録されているビデオ(画像)が再生され、その間に、時刻t181乃至182において、リモートコントローラ14が操作されて、画像に対して所定の処理を施すような指示があった場合、同様のタイミングで、特徴量が蓄積され、さらに、特徴量に対応付けられて、操作情報および直前の設定情報記録される。結果として、リモートコントローラ14の操作内容を示す操作情報が、直前の設定情報に対する相対値であっても、設定情報を決定する際、操作情報および直前の設定情報が特徴量に対応付けられて蓄積される。また、リモートコントローラ14が操作されること無く、記録場ディア11に記録された画像を再生すると、特徴量に対応付けられて蓄積されている操作情報および直前の設定情報から決定される設定情報により再生される画像に処理を反映させることが可能となる。
以上によれば、リモートコントローラ14の操作内容を示す操作情報が、直前の設定情報に対する相対値であっても、リモートコントローラ14の操作情報が供給されると、画像の特徴量に対応付けて記録させるようにすることで、タイムコードなどを用いることなく、蓄積された設定情報に基づいた編集処理を画像に反映させることが可能となる。
以上においては、特徴量に対応付けて設定情報、操作情報、または、操作情報および直前の設定情報をアドレスに対応付けて蓄積させる例について説明してきた。しかしながら、設定情報、操作情報、または、操作情報および直前の設定情報が、特徴量に対応付けて管理できれば良いため、メモリ上のアドレスによる管理以外の方法であってもよく、例えば、テーブルとして管理するようにしても良い。
図18は、特徴量に対応付けて設定情報をテーブルで管理するようにした画像処理装置13である。尚、図18の画像処理装置13においては、図3における画像処理装置13と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、設定情報決定部46、選択部47、遅延部48、および反映部49については、図3の画像処理装置13と同様である。図18の画像処理装置13において、図3の画像処理装置13と異なるのは、蓄積ブロック43に代えて蓄積ブロック201が設けられている点である。
蓄積ブロック201の特徴量設定情報記録部211は、特徴量抽出部41より供給されてくる特徴量と、設定情報決定部46より供給されてくる設定情報とを対応付けて特徴量設定情報テーブル蓄積部212に蓄積させる。
特徴量設定情報読出部213は、同期検出部42より同期位置として検出された特徴量(検索位置特徴量)を取得すると、その特徴量に対応付けられて、特徴量設定情報テーブル蓄積部212に記憶されている設定情報を読み出し、選択部47に供給する。
次に、図19のフローチャートを参照して、図18の画像処理装置13による画像処理について説明する。尚、図19のフローチャートにおけるステップS111乃至S115、ステップS117乃至S119、およびステップS122,S123の処理は、図7のフローチャートにおけるステップS1乃至S5、ステップS7乃至S9、およびステップS12,13の処理と同様の処理であるので、その説明は省略する。
ステップS116において、特徴量設定情報記録部211は、特徴量抽出部41より供給されてくる特徴量を特徴量設定情報テーブル蓄積部212に蓄積させ、さらに、特徴量に対応付けて、設定情報決定部46より供給されてくる設定情報を、特徴量設定情報テーブル蓄積部212に蓄積させる。
すなわち、特徴量設定情報テーブル蓄積部212とは、例えば、図20で示されるようなテーブルである。図20においては、図中左側の欄に特徴量が記録され、右側の欄に設定情報が記録されており、上から特徴量「00011100」では、設定情報として「2倍ズーム」が記録されており、同様にして、特徴量「00011101」では、設定情報として「3倍ズーム」が、特徴量「00011010」では、設定情報として「4倍ズーム」が、特徴量「01011101」では、設定情報として「5倍ズーム」が、特徴量「00110100」では、設定情報として「6倍ズーム」が、特徴量「00110110」では、設定情報として「7倍ズーム」が、特徴量「10011010」では、設定情報として「8倍ズーム」が、特徴量「01011101」では、設定情報として「9倍ズーム」が、特徴量「00100100」では、設定情報なしが、特徴量「00110110」では、設定情報なしが、特徴量「10011010」では、設定情報として「7倍ズーム」が、特徴量「01011101」では、設定情報として「6倍ズーム」が、それぞれ記録されている。
ステップS120において、特徴量設定情報読出部213は、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報テーブル蓄積部212に蓄積されているか否かを判定する。
また、ステップS121において、特徴量設定情報読出部213は、同期した特徴量に対応付けられた設定情報が特徴量設定情報テーブル蓄積部212に蓄積されているか否かを判定する。
以上によれば、特徴量に対応付けて設定情報を蓄積させるテーブルを用いるようにしても、タイムコードなどを用いることなく、蓄積された設定情報に基づいた編集処理を画像に反映させることが可能となる。尚、特徴量に対応付けられた、操作情報、または、操作情報および直前の設定情報のテーブルを用いるようにしても良いことはいうまでもない。
さらに、上述したように特徴量は、設定情報、操作情報、または、操作情報および直前の設定情報に対応付けない状態でも記録することが可能である。しかしながら、以上においては、リモートコントローラ14が操作されたときに、設定情報、操作情報、または、操作情報および直前の設定情報を記録する際に記録される例について説明してきたが、それ以外のタイミングで記録するようにしてもよい。
図21は、リモートコントローラ14により画像への処理を指示する前に、フォーマットすることで、記録メディア11に記録されている画像の全てを先に蓄積させるようにした画像処理装置13の構成例を示している。尚、図21において、図3と同一の構成については、同一の符号を付しており、その説明は省略するものとする。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、設定情報決定部46、選択部47、遅延部48、および反映部49については、図3の画像処理装置13と同様である。図21の画像処理装置13において、図3の画像処理装置13と異なるのは、蓄積ブロック43に代えて蓄積ブロック231が設けられている点である。
蓄積ブロック231の特徴量設定情報記録部241は、基本的に、特徴量設定情報記録部61と同様の機能を備えているが、さらに、操作情報認識部45よりフォーマットが指示されると、画像再生部12により再生される記録メディア11に記録された画像の全ての特徴量を、特徴量設定情報蓄積部242に蓄積させる。
次に、図22のフローチャートを参照して、図21の画像処理装置13によるフォーマット処理について説明する。
ステップS131において、特徴量抽出部41は、新しい画像が画像再生部12より供給されてきたか否かを判定し、新たな画像が供給されてくるまで、その処理を繰り返す。そして、ステップS131において、新しい画像が供給されてくると、ステップS132において、特徴量抽出部41は、特徴量抽出処理を実行して特徴量を抽出し、特徴量設定情報記録部241に供給する。尚、特徴量抽出処理については、図8のフローチャートを参照した処理と同様であるので、その説明は省略する。
ステップS133において、特徴量設定情報記録部241は、供給されてくる特徴量を特徴量設定情報蓄積部242に蓄積させる。
ステップS134において、特徴量設定情報記録部241は、終了が指示されたか否かを判定し、終了が指示されていない場合、その処理は、ステップS131に戻る。すなわち、終了が指示されるまで、ステップS131乃至S134の処理が繰り返され、終了が指示されると、フォーマットの処理が終了する。
以上の処理により、図23で示されるように、例えば、ビデオ(画像)が時刻t201乃至t202までの場合、その先頭位置から再生が開始されると、先頭位置から終了位置までの特徴量が蓄積される。結果として、設定情報、操作情報、または、操作情報および直前の設定情報を記録する際、新たに特徴量を記録する必要がなくなる。
尚、図23において、最上段にビデオの画像の時刻が示されており、第2段目には、再生されるタイミングが示されており、第3段目には、特徴量が記録されるタイミングが示されている。
また、以上においては、処理の最初にビデオ(画像)全体の特徴量を取得する例について説明してきたが、リモートコントローラ14が操作されずに記録メディア11に記録されている画像が画像再生部12により再生されている間に、部分毎に特徴量のみを記録するようにしてもよい。
図24は、リモートコントローラが操作されずに記録メディアに記録されている画像が再生されている間に、部分毎に特徴量のみを記録するようにした画像処理装置13の構成例を示している。尚、図21において、図3と同一の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、設定情報決定部46、選択部47、遅延部48、および反映部49については、図3の画像処理装置13と同様である。図21の画像処理装置13において、図3の画像処理装置13と異なるのは、蓄積ブロック43に代えて蓄積ブロック251が設けられている点である。
蓄積ブロック251の特徴量設定情報記録部261は、基本的に、特徴量設定情報記録部61と同様の機能を備えているが、さらに、操作情報認識部45より操作情報が供給されていない状態で、かつ、画像再生部12により再生される記録メディア11に記録された画像が再生されていて、かつ、同期検出部42からの同期検出結果である、検索位置特徴量が存在しないとき、すなわち、特徴量が記録されていない状態のとき、画像の特徴量を特徴量設定情報蓄積部262に蓄積させる。
次に、図25のフローチャートを参照して、図24の画像処理装置13における画像処理について説明する。尚、図25のフローチャートにおけるステップS151乃至S163の処理は、図7のフローチャートにおけるステップS1乃至S13の処理と同様であるのでその説明は省略するものとする。
すなわち、ステップS160において、同期する特徴量が蓄積されていないと判定された場合、ステップS163において、特徴量設定情報記録部261は、特徴量抽出部41より供給されてくる特徴量のみを特徴量設定情報蓄積部262に蓄積させる。
以上の処理により、例えば、図26で示されるように、ビデオ(画像)が時刻t251乃至t252で記録されており、時刻t261乃至t262において、再生され、リモートコントローラ14が操作されて処理が指示されていない状態であれば、そのタイミングで特徴量が記録される。その後、時刻t262乃至t271において早送り操作され、時刻t271乃至t272において再生され、リモートコントローラ14が操作されて処理が指示されていない状態であれば、再び、そのタイミングで特徴量が記録される。さらに、その後、時刻t272乃至t281において早送り操作され、時刻t281乃至t282において再生され、リモートコントローラ14が操作されて処理が指示されていない状態であれば、やはり、そのタイミングで特徴量が記録される。
そして、その後、時刻t282より時刻t292まで巻き戻されると、時刻t292乃至262は、既に特徴量が記録されているので、記録されていない時刻t262乃至t271において、リモートコントローラ14が操作されて処理が指示されていない状態であれば、特徴量が記録され、再び、時刻t271乃至t292においては記録されているので、特徴量の記録が停止される。図26で示されるようなタイミングで再生が繰り返されることにより、時刻t261乃至t272、および時刻t281乃至282の特徴量が記録されることになる。
結果として、通常の再生がされている間、リモートコントローラ14による画像の処理を指示する操作がなされていないタイミングで、部分毎に徐々に特徴量のみが蓄積されていくことになるので、使用者に、フォーマット処理のような操作を意識させることなく、特徴量を蓄積させることが可能となる。
以上のごとく、本発明の第1の側面の画像処理装置および方法、並びにプログラムによれば、画像より特徴量を抽出し、前記画像に対して処理を加えるための設定情報を設定し、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録するようにした。
また、本発明の第2の側面のデータ記録媒体によれば、画像の特徴量に対応付けて、画像に対して処理を加えるための設定情報を記録したデータ構造を含むようにした。
さらに、本発明の第3の側面の画像処理装置および方法、並びにプログラムによれば、再生位置の画像より再生位置の特徴量を再生位置特徴量として抽出し、前記画像の特徴量に対応付けて、前記画像に対して処理を加えるための設定情報が記録されたデータ記録媒体の特徴量と、前記再生位置特徴量とを同期させ、前記データ記録媒体の特徴量と、前記再生位置特徴量とが同期した場合、前記データ記録媒体より、同期した前記再生位置特徴量に対応付けて記録されている設定情報を読み出し、読み出した設定情報に基づいて、前記再生位置の画像に対して処理を反映するようにした。
結果として、本発明の第1の側面によれば、画像を処理するための設定情報を、画像の特徴量に対応付けて記録することが可能となる。
また、本発明の第2の側面によれば、画像の処理結果を記録することなく、画像を処理するための設定情報を、画像の特徴量に対応付けて記録することが可能となる。
本発明の第3の側面によれば、画像の特徴量に対応付けて、画像を処理するための設定情報を読み出し、設定情報に基づいて、画像への処理を反映させることが可能となる。
いずれにおいても、フレーム単位で特徴量を抽出するようにし、特徴量をタイムコードのように利用することで、オリジナルの画像データに処理を加えることなく、画像を再生させる度に、画像に対して正確に所定の処理を加えて再現することが可能となる。また、複製できない画像データであっても、再生させる度に、同一の処理を加えて繰り返し再生することが可能となる。
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
図27は、図3,図13,図15,図18,図21,図24の画像処理装置13の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU1001は、パーソナルコンピュータの全体の動作を制御する。また、CPU1001は、バス1004および入出力インタフェース1005を介してユーザからキーボードやマウスなどからなる入力部1006から指令が入力されると、それに対応してROM(Read Only Memory)1002に格納されているプログラムを実行する。あるいはまた、CPU1001は、ドライブ1010に接続された磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリを含むリムーバルディスク1021から読み出され、記憶部1008にインストールされたプログラムを、RAM(Random Access Memory)1003にロードして実行する。これにより、上述した図3,図13,図15,図18,図21,図24の画像処理装置13の機能が、ソフトウェアにより実現されている。さらに、CPU1001は、通信部1009を制御して、外部と通信し、データの授受を実行する。
プログラムが記録されている記録媒体は、図27に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリを含むリムーバルメディア1021などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM1002や、記憶部1008に含まれるハードディスクなどで構成される。
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
11 記録メディア, 12 画像再生部, 13 画像処理装置, 14 リモートコントローラ, 15 表示部, 41 特徴量抽出部, 42 同期検出部, 43 蓄積ブロック, 44 受光部, 45 操作情報認識部, 46 設定情報決定部, 547 選択部, 48 遅延部, 49 反映部, 61 特徴量設定情報記録部, 62 特徴量設定情報蓄積部, 63 特徴量設定情報読出部