JP2007306313A - 画像処理装置および方法、記録媒体、並びにプログラム - Google Patents

画像処理装置および方法、記録媒体、並びにプログラム Download PDF

Info

Publication number
JP2007306313A
JP2007306313A JP2006132713A JP2006132713A JP2007306313A JP 2007306313 A JP2007306313 A JP 2007306313A JP 2006132713 A JP2006132713 A JP 2006132713A JP 2006132713 A JP2006132713 A JP 2006132713A JP 2007306313 A JP2007306313 A JP 2007306313A
Authority
JP
Japan
Prior art keywords
setting
image
recording
setting information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006132713A
Other languages
English (en)
Other versions
JP4826333B2 (ja
JP2007306313A5 (ja
Inventor
Hiroshi Hiraizumi
啓 平泉
Tetsujiro Kondo
哲二郎 近藤
Kazutaka Ando
一隆 安藤
Yasushi Noide
泰史 野出
Michimasa Obana
通雅 尾花
Masanori Machimura
昌紀 町村
Masahito Akao
雅人 赤尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006132713A priority Critical patent/JP4826333B2/ja
Priority to US11/800,803 priority patent/US8073274B2/en
Priority to KR1020070044461A priority patent/KR101410611B1/ko
Priority to CN2007101029083A priority patent/CN101071599B/zh
Priority to EP07108067A priority patent/EP1855487A2/en
Publication of JP2007306313A publication Critical patent/JP2007306313A/ja
Publication of JP2007306313A5 publication Critical patent/JP2007306313A5/ja
Application granted granted Critical
Publication of JP4826333B2 publication Critical patent/JP4826333B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Abstract

【課題】画像が急激に変化するようなことがないようにするために、画像の編集に係わる値が急激に変化することがないようにする。
【解決手段】設定情報決定部46は、操作情報認識部45からの操作情報を設定情報に変換し、蓄積ブロック43に供給する。使用者により操作の終了が指示されると、設定情報決定部46からの設定情報は、滑らか終了制御部201により、基準値まで徐々に変化するような設定情報に変換され、蓄積ブロック43に供給され、蓄積される。設定情報は、特徴量抽出部41により、入力された画像から抽出された特徴量とともに蓄積される。本発明は、映像を編集するビデオカメラなどに適用できる。
【選択図】図18

Description

本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、画像に加える処理と、画像の特徴量とを対応付けて記憶させることで、画像を再生させるたびに、所定の処理を加えた画像を再現できるようにした画像処理装置および方法、記録媒体、並びにプログラムに関する。
画像を手軽に処理するための技術が普及しつつある。
従来、ビデオカメラなどで撮像された画像を編集するには、オリジナルの画像データを再生させながら、各種の処理を加える操作を実行し、処理結果となる画像を別の記録媒体に記録させるといったリニア編集が主流であった。
また、上述のようなリニア編集の場合、オリジナルの画像データがCOPY ONCEの場合、一度VTR(Video Tape Recorder)に記録したものを再生し、さらに編集した映像については記録できないという問題があった。
そこで、画像を編集させるための処理を指示する操作を記憶させる方法が提案されている(特許文献1参照)。
ここで、図1と図2を参照し、従来の方法の記録、修正の概要について説明する。図1において横軸は、記録するコンテンツのタイムコードを表す「時間」を表している。図1の縦軸は、記録、再生される設定値を表している。ここで設定値とは、例えば、ズームにおけるズーム率、ズーム中心の座標、画像設定パラメータ(明るさ、コントラスト、ピクチャーなど) などである。
図1における1段目は、所定のコンテンツの再生される部分を斜線で示している。斜線で示した部分が編集対象とされることを示し、図1に示した例では、コンテンツの同じ部分を3回以上再生して、そのコンテンツに同期した操作の記録と再生を行った場合を示している。
図1の2段目は、1回目の操作による設定値の記録を表している。1回目の設定値は、図1に示したように、操作が開始されると記録が開始され、操作が終了されると記録も終了される。記録の開始時点T1は、すなわち記録の先頭部分は、かならず標準状態から開始される。また、操作終了時点T2には操作終了ボタンが操作されることにより操作が終了され、それにともない、記録も終了されるため、図1の2段目に示すように非連続的に標準状態に戻る記録になることが多い。
図1の3段目は、2回目の操作による設定値の記録を表している。2回目の操作においては、コンテンツの処理対象(操作開始時点T1から操作終了時点T2までのコンテンツ)とされている部分の内、修正開始時点T3から修正が開始され、修正終了時点T4において修正が終了したことが示されている。すなわち、2回目の操作では、1回目の操作と同一のコンテンツの箇所が再生されながら、修正開始時点T3から修正終了時点T4までの箇所が、1回目の操作とは異なる操作がされたことを、図1の3段目の図では示している。
図1の3段目の図において、点線で示した線は、1回目の操作時に記録された設定値の線である。
使用者は、1回目の操作を行った後(1回目の操作の記録が行われた後)、2回目の操作を行う前に、コンテンツ自体を操作開始時点T1まで「巻き戻す」ための操作を行う必要がある。2回目の操作の記録の後、再度「巻き戻し」て、再生した場合、図1の4段目に示したような形で設定値が再生される。2回目以降の記録時には、記録内容が上書きされるため、特に上書きの終了時に編集データが不連続になりやすい。
図2A乃至図2Cに、実際の操作の様子をより詳細に示す。図2Aは、1回目の操作とその操作で記録される設定値との関係を示し、図2Bは、2回目の操作とその操作で記録される設定値との関係を示し、図2Cは、2回目の操作の結果、記録される設定値を示している。また、図2Aと図2Bに示した枠内の図において、各枠内の1段目は、設定値を示し、2段目は、操作結果を示す。
1回目の操作は、使用者からの操作入力を受け付けるコントローラから、図2Aの2段目に示すような操作信号が出された場合、図2Aの1段目に示すような設定値の記録が行われる。設定値は、コントローラでの操作量を積分した値とされる。また、図2Aや図2Bにおいて、プラス操作とは、例えば、画像の拡大を指示する操作であり、マイナス操作とは、画像の縮小を指示する操作である。
例えば、操作開始時点T1から時点T11まではプラスの操作が行われたため(2段目参照)、その値が積分された値が設定値として記録されるため、記録される設定値は、徐々に値が大きくなるようなグラフとなる(1段目参照)。その後、時点T11から時点T12までは、マイナス操作が行われたため、その設定値は、徐々に小さくなるようなグラフとなる。時点T12の後もプラス操作とマイナス操作が行われ、その操作に応じた設定値が記録される。
そして、時点T2に、コントローラの操作終了ボタン(記録終了の機能を有するボタン)が操作されると、設定値の記録も終了される。記録が終了されると、設定値は、標準値に戻される。このような操作が行われた結果、図2Aの1段目に示したような設定値が記録される。
次に、図2Bの2段目に示したように、1回目の操作が行われたコンテンツに対して、時点T3から時点T21までプラス操作が行われ、時点T21から時点T4まで、マイナス操作が行われた場合、時点T3から時点T4までの間に記録される設定値は、図2Bの1段目に示したようになる。
2回目の操作の場合、1回目の操作の時点T3のときに記録されていた設定値から、操作量に応じた設定値が順次積分された値が加算される。また、時点T4において、操作が終了されると、1回目の操作の時点T4のときに記録されていた設定値まで、設定値が戻される。
このような修正が行われると、図2Bの1段目に実線で示したような設定値が記憶されることになる(実線で示した設定値に記録が修正されることになる)。すなわち、2回目の操作が行われた結果、設定として記録される波形は、図2Cに示したような波形となる。
特開2003−202944号公報
図2Cに示した波形を参照するに、時点T4において、設定値が急激に小さくなり、時点T2においても、設定値が急激に小さくなっていることがわかる。このような設定値の急激な変化は、例えば、設定値が画像の拡大や縮小に係わる値であった場合、急激に画像が大きくなったり小さくなったりすることを示している。このような急激な画像の変化は、使用者に見づらい画像(映像)を提供してしまうことを意味する。
また、図2Cに示した波形が示すように、設定値の記録の先頭部分はかならず標準値から開始され、設定値の記録の終了部分は、標準値で終了される。このようなことは、記録の開始時と終了時は、記録開始、終了のポイントを自由に設定しにくく、非連続的に標準状態に戻されることがあることを示しており、上記したような急激な画像の変化が起こりやすいことを示している。
また、複数回(図2A乃至図2Cを参照して説明した例では2回)の編集が行われる場合、2回目以降の編集による設定値の記録は、前回の記録に上書きされるため、その上書きの終了時(上記した例では、時点T4)には、設定値のデータが不連続になりやすく、上記したようなことが発生しやすい状況である。
すなわち、従来の記録方式では、操作がそのまま記録されるため、設定値が滑らかに変化するような記録が行われずに、画像が急激に変化してしまうようなことを防ぐことができなかった。
また、操作履歴の上書きは、例えば、手振れ補正機能など、自動で(使用者の手を煩わせずに)記録された履歴に対して、手動で編集を加えたいときなどに手振れ補正後のデータに対しての編集ができない自動操作を記録するときも、自動操作のステータスと連携しないという記録方式であった。
本発明は、このような状況に鑑みてなされたものであり、急激な画像の変化などを防ぐことができるようにするものである。
本発明の一側面の第1の画像処理装置は、画像より特徴量を抽出する特徴量抽出手段と、前記画像に対して処理を加えるための設定情報を設定する設定手段と、前記設定手段により設定された前記設定情報を編集する編集手段と、前記画像の特徴量に対応付けて前記編集手段により編集された前記設定情報をデータ記録媒体に記録する記録手段とを備える。
前記編集手段は、前記設定手段による設定が終了されるとき、前記設定手段により設定された前記第1の設定情報から、設定情報の標準とされている第2の設定情報まで徐々に変化するように、前記第1の設定情報から前記第2の設定情報の間の設定情報を編集するようにすることができる。
前記編集手段は、前記設定手段による設定が終了されるとき、その時点で前記設定手段により設定された第1の設定情報から、前記第1の設定情報が設定された画像より後の時点の画像の設定情報であり、前記データ記録媒体に記録されている第2の設定情報に、徐々に変化するように、前記第1の設定情報から前記第2の設定情報の間の設定情報を編集するようにすることができる。
前記編集手段は、前記第1の設定情報から所定の値を減算または加算した第3の設定情報を、前記第1の設定情報に対応する画像の次の時点における画像の設定情報とし、前記第3の設定情報が前記第2の設定情報と所定の範囲内の設定情報ではないとき、前記第3の設定情報からさらに前記所定の値を減算または加算した第3の設定情報をさらに次の時点における画像の設定情報とし、前記第3の設定情報が前記第2の設定情報と所定の範囲内の設定情報になったとき、前記第3の設定情報を前記第2の設定情報とするようにすることができる。
前記編集手段は、前記設定手段により設定された前記設定情報と、その設定情報が設定された画像と同一の画像で設定され、前記データ記録媒体に記録されている前記設定情報を加算するようにすることができる。
前記編集手段による編集の対象となる期間の開始または終了を指定するキーポイントを設定するキーポイント設定手段をさらに備え、前記編集手段は、前記キーポイント設定手段により設定された前記キーポイントのうち、隣接するキーポイント間で、一方のキーポイントの設定情報から他方のキーポイントの設定情報に徐々に変化するように編集するようにすることができる。
前記キーポイント設定手段は、前記記録手段による記録が行われる前の時点で前記キーポイントを設定するか、または、前記記録手段による記録が行われた後の時点で前記キーポイントを設定するようにすることができる。
本発明の一側面の第1の画像処理方法は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップとを含む。
本発明の一側面の第1の記録媒体は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップとを含む処理をコンピュータに実行させるプログラムを記録している。
本発明の一側面の第1のプログラムは、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップとを含む処理をコンピュータに実行させる。
本発明の一側面の第1の画像処理装置および方法、並びにプログラムにおいては、画像より特徴量が抽出され、画像に対して処理を加えるための設定情報が設定され、設定された設定情報が編集され、画像の特徴量に対応付けて編集された設定情報がデータ記録媒体に記録される。
本発明の一側面の第2の画像処理装置は、画像より特徴量を抽出する特徴量抽出手段と、前記画像に対して処理を加えるための設定情報を設定する設定手段と、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録する記録手段と、前記記録手段により前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段とを備える。
前記制御手段は、前記設定手段により設定される前記設定情報が連続して同一である場合、前記設定手段により設定される前記設定情報が前記データ記録媒体に記録されている対応する設定情報に近似する場合、または、前記設定手段により設定される前記設定情報が設定情報の標準とされている設定情報に近似する場合、前記記録手段により前記設定情報を前記データ記録媒体に記録しないと判断するようにすることができる。
前記記録手段による記録を開始させる開始点と、終了させる終了点を指定する指定手段をさらに備え、前記制御手段は、前記指定手段により指定された開始点から、前記記録手段により前記設定情報を前記データ記録媒体に記録すると判断し、前記指定手段により指定された終了点から、前記記録手段により前記設定情報を前記データ記録媒体に記録しないと判断するようにすることができる。
前記指定手段は、前記記録手段による記録が行われる前の時点で前記開始点と前記終了点を指定するようにすることができる。
前記記録手段は、一時的に、前記データ記録媒体に前記設定情報を記録し、前記指定手段は、前記記録手段による記録が行われた後、前記開始点と前記終了点を指定し、前記制御手段は、一時的に前記データ記録媒体に記録された前記設定情報を、前記開始点から前記データ記録媒体に記録し直し、前記終了点で前記データ記録媒体の記録のし直しを終了するようにすることができる。
シーンチェンジを検出する検出手段をさらに備え、前記制御手段は、前記検出手段によりシーンチェンジが検出された場合、前記記録手段により前記設定情報が前記データ記録媒体に記録されていないときには記録を開始させると判断し、前記記録手段により前記設定情報が前記データ記録媒体に記録されているときには記録を終了させると判断するようにすることができる。
本発明の一側面の第2の画像処理方法は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む。
本発明の一側面の第2の記録媒体は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む処理をコンピュータに実行させるプログラムを記録している。
本発明の一側面の第2のプログラムは、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む処理をコンピュータに実行させる。
本発明の一側面の第2の画像処理装置および方法、並びにプログラムにおいては、画像より特徴量が抽出され、画像に対して処理を加えるための設定情報が設定され、画像の特徴量に対応付けて設定情報がデータ記録媒体に記録され、設定情報がデータ記録媒体に記録するか否かが判断され、その判断に基づく記録の制御が行われる。
本発明の一側面の第3の画像処理装置は、画像より特徴量を抽出する特徴量抽出手段と、前記画像に対する処理を指定するための操作をする操作手段と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段と、前記操作情報を編集する編集手段と、前記画像の特徴量に対応付けて前記編集手段により編集された前記操作情報をデータ記録媒体に記録する記録手段を備える。
前記編集手段は、前記操作手段による操作が終了されるとき、その時点での第1の操作情報から、操作情報の標準とされている第2の操作情報まで徐々に変化するように、前記第1の操作情報から前記第2の操作情報の間の操作情報を編集するようにすることができる。
前記編集手段は、前記操作手段による操作が終了されるとき、その時点での第1の操作情報から、後の時点の操作情報であり、前記データ記録媒体に記録されている第2の操作情報に、徐々に変化するように、前記第1の操作情報から前記第2の操作情報の間の操作情報を編集するようにすることができる。
前記編集手段は、前記第1の操作情報から所定の値を減算または加算した第3の操作情報を、前記第1の操作情報に対応する画像の次の時点における画像の操作情報とし、前記第3の操作情報が前記第2の操作情報と所定の範囲内の操作情報ではないとき、前記第3の操作情報からさらに前記所定の値を減算または加算した第3の操作情報をさらに次の時点における画像の操作情報とし、前記第3の操作情報が前記第2の操作情報と所定の範囲内の操作情報になったとき、前記第3の操作情報を前記第2の操作情報とするようにすることができる。
前記編集手段は、前記操作情報と、その操作情報が取得されたときの画像と同一の画像から取得され、前記データ記録媒体に記録されている前記操作情報を加算するようにすることができる。
前記編集手段による編集の対象となる期間の開始または終了を指定するキーポイントを設定するキーポイント設定手段をさらに備え、前記編集手段は、前記キーポイント設定手段により設定された前記キーポイントのうち、隣接するキーポイント間で、一方のキーポイントの操作情報から他方のキーポイントの操作情報に徐々に変化するように編集するようにすることができる。
前記キーポイント設定手段は、前記記録手段による記録が行われる前の時点で前記キーポイントを設定するか、または、前記記録手段による記録が行われた後の時点で前記キーポイントを設定するようにすることができる。
本発明の一側面の第3の画像処理方法は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップとを含む。
本発明の一側面の第3の記録媒体は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップとを含む処理をコンピュータに実行させるプログラムを記録している。
本発明の一側面の第3のプログラムは、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を編集する編集ステップと、前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップとを含む処理をコンピュータに実行させる。
本発明の一側面の第3の画像処理装置および方法、並びにプログラムにおいては、画像より特徴量が抽出され、画像に対する処理を指定するための操作が行われ、その操作内容により、画像に対して処理を加えるための設定情報が設定され、操作情報が編集され、画像の特徴量に対応付けて編集された操作情報がデータ記録媒体に記録される。
本発明の一側面の第4の画像処理装置は、画像より特徴量を抽出する特徴量抽出手段と、前記画像に対する処理を指定するための操作をする操作手段と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段と、前記画像の特徴量に対応付けて前記操作情報をデータ記録媒体に記録する記録手段と、前記記録手段により前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段とを備える。
前記制御手段は、前記操作手段からの信号が取得されない期間が一定時間以上であると判断された場合、前記操作情報が前記データ記録媒体に記録されている対応する操作情報に近似する場合、または、前記操作情報が操作情報の標準とされている操作情報に近似する場合、前記記録手段により前記操作情報を前記データ記録媒体に記録しないと判断するようにすることができる。
前記記録手段による記録を開始させる開始点と、終了させる終了点を指定する指定手段をさらに備え、前記制御手段は、前記指定手段により指定された開始点から、前記記録手段により前記操作情報を前記データ記録媒体に記録すると判断し、前記指定手段により指定された終了点から、前記記録手段により前記操作情報を前記データ記録媒体に記録しないと判断するようにすることができる。
前記指定手段は、前記記録手段による記録が行われる前の時点で前記開始点と前記終了点を指定するようにすることができる。
前記記録手段は、一時的に、前記データ記録媒体に前記操作情報を記録し、前記指定手段は、前記記録手段による記録が行われた後、前記開始点と前記終了点を指定し、前記制御手段は、一時的に前記データ記録媒体に記録された前記操作情報を、前記開始点から前記データ記録媒体に記録し直し、前記終了点で前記データ記録媒体の記録のし直しを終了するようにすることができる。
シーンチェンジを検出する検出手段をさらに備え、前記制御手段は、前記検出手段によりシーンチェンジが検出された場合、前記記録手段により前記操作情報が前記データ記録媒体に記録されていないときには記録を開始させると判断し、前記記録手段により前記操作情報が前記データ記録媒体に記録されているときには記録を終了させると判断するようにすることができる。
本発明の一側面の第4の画像処理方法は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む。
本発明の一側面の第4の記録媒体は、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む処理をコンピュータに実行させるプログラムを記録している。
本発明の一側面の第4のプログラムは、画像より特徴量を抽出する特徴量抽出ステップと、前記画像に対する処理を指定するための操作をする操作ステップと、前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップとを含む処理をコンピュータに実行させる。
本発明の一側面の第4の画像処理装置および方法、並びにプログラムにおいては、画像より特徴量が抽出され、画像に対する処理を指定するための操作が行われ、その操作の操作内容により、画像に対して処理を加えるための設定情報が設定され、画像の特徴量に対応付けて操作情報がデータ記録媒体に記録され、操作情報をデータ記録媒体に記録するか否かの判断が行われ、その判断に基づき記録が制御される。
本発明の一側面によれば、画像に効果を与える設定値が急激に変化するようなことがないように制御することが可能となる。また、そのような制御された設定を記録することが可能となる。
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の一側面の第1の画像処理装置(例えば、図18の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図18の特徴量抽出部41)と、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図18の設定情報決定部46)と、前記設定手段により設定された前記設定情報を編集する編集手段(例えば、図18の滑らか終了制御部201)と、前記画像の特徴量に対応付けて前記編集手段により編集された前記設定情報をデータ記録媒体に記録する記録手段(例えば、図18の蓄積ブロック43)とを備える。
本発明の一側面の第2の画像処理装置(例えば、図37の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図37の特徴量抽出部41)と、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図37の設定情報決定部46)と、前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録する記録手段(例えば、図37の蓄積ブロック43)と、前記記録手段により前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段(例えば、図37のトリガー部503)とを備える。
本発明の一側面の第3の画像処理装置(例えば、図19の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図19の特徴量抽出部41)と、前記画像に対する処理を指定するための操作をする操作手段(例えば、図19の操作情報認識部45)と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図19の設定情報決定部153)と、前記操作情報を編集する編集手段(例えば、図19の滑らか終了制御部211)と、前記画像の特徴量に対応付けて前記編集手段により編集された前記操作情報をデータ記録媒体に記録する記録手段例えば、図19の蓄積ブロック151)とを備える。
本発明の一側面の第4の画像処理装置(例えば、図38の画像処理装置13)は、画像より特徴量を抽出する特徴量抽出手段(例えば、図38の特徴量抽出部41)と、前記画像に対する処理を指定するための操作をする操作手段例えば、図38の操作情報認識部45)と、前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段(例えば、図38の設定情報決定部153)と、前記画像の特徴量に対応付けて前記操作情報をデータ記録媒体に記録する記録手段(例えば、図38の蓄積ブロック121)と、前記記録手段により前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段(例えば、図38のトリガー部513)とを備える。
以下に、本発明の実施の形態について図面を参照して説明する。
まず、図3、図4を参照して、本発明を適用した画像処理装置の概念について説明する。本発明を適用した画像処理装置は、予め記録された画像に対して、使用者により指示された処理を施し表示する。このとき、画像処理装置は、画像の特徴量を抽出して、特徴量に対応付けて処理内容の情報を蓄積させる。さらに、画像処理装置は、予め記録された画像を再生するとき、この蓄積された処理内容の情報を読み出して、画像に処理を施し表示する。
より具体的には、画像処理装置2の動作は、大きく分けて記録モードと再生モードとの2つのモードからなる。
記録モードでは、図3で示されるように、画像処理装置2は、例えば、DVD(Digital Versatile Disc)などの動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を表示部3に表示させる。この状態で、リモートコントローラなどが使用者などにより操作されることにより、所望とする画像への処理として、例えば、ズーム、パン、チルトなどが指示されると、画像処理装置2は、操作内容に対応する設定情報を生成すると供に、設定情報に対応付けられた処理を画像に施して表示部3に表示させる。さらに、画像処理装置2は、画像より特徴量を抽出し、抽出した特徴量に対応付けて設定情報を操作履歴格納部4に蓄積させる。
次に、再生モードでは、図4で示されるように、画像処理装置2は、動画像を含むコンテンツが予め記録されている記録メディア1からDVDプレーヤなどにより再生される画像を読み出すと供に、特徴量を抽出する。このとき、画像処理装置2は、操作履歴格納部4に特徴量に対応付けられて記録されている設定情報を、記録メディア1から読み出した画像の特徴量に同期して読み出すと供に、読み出した設定情報に基づいて、画像に処理を施し、表示部3に表示させる。
以上のような動作により、画像処理装置2は、予め記録された画像に対する処理内容のみを蓄積して、処理結果である画像を記録することなく、処理結果である画像を繰り返し再生できるようにすることができる。結果として、予め記録された画像に対して、様々な画像処理を加えると言った加工処理を繰り返すことが可能となる。
以下、図3、図4を参照して説明した画像処理装置2について詳細を説明する。
図5は、図3、図4の画像処理装置2に対応する画像処理装置13の一実施の形態の構成を示した図である。
画像再生部12は、図3、図4の記録メディア1に対応する記録メディア11に予め所定の形式でエンコードされた状態で記録された画像をデコードし、順次画像として特徴量抽出部41および遅延部48に供給する。
特徴量抽出部41は、画像再生部12より順次供給されてくる画像の特徴量を抽出して、同期検出部42、および蓄積ブロック43の特徴量設定情報記録部61に供給する。なお、特徴量抽出部41の構成については、図7を参照して詳細を後述する。
リモートコントローラ14は、キーやボタンなどから構成され、図3、図4で示されるように使用者が所望とする画像に対する処理の内容を指示するとき操作され、使用者の操作に応じて操作信号を発生すると供に、発生した操作信号に応じて赤外線などからなる発光パターンを生成し、画像処理装置13の受光部44に発光する。
受光部44は、リモートコントローラ14の発光パターンに基づいて、リモートコントローラ14の操作信号に変換し、操作情報認識部45に供給する。操作情報認識部45は、受光部44より供給されてくる操作信号に基づいて、使用者が所望とする画像への処理に対応付けられている操作情報を認識し、認識結果である操作信号を設定情報決定部46に供給する。
設定情報決定部46は、操作情報認識部45より供給されてくる操作情報に基づいて、後述する反映部49に対して画像への処理内容を指示するための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。
蓄積ブロック43の特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量と、設定情報決定部46より供給されてくる設定情報とを対応付けて特徴量設定情報蓄積部62(図3、図4の操作履歴格納部4に対応するもの)に蓄積させる。
同期検出部42は、特徴量設定情報蓄積部62に蓄積されている特徴量(後述する検索位置特徴量)のうち、特徴量抽出部41より供給されてくる画像再生部12により再生されている画像の特徴量(後述する再生位置特徴量)を検索し、同一の特徴量が検出されたとき、画像の同期位置として検出結果を特徴量設定情報読出部63に供給する。なお、同期検出部42の構成については、図9を参照して詳細を後述する。
特徴量設定情報読出部63は、同期検出部42より同期位置として検出された特徴量(検索位置特徴量)を取得すると、その特徴量に対応付けられて、特徴量設定情報蓄積部62に記憶されている設定情報を読み出し、選択部47に供給する。選択部47は、設定情報決定部46より設定情報が供給されてきた場合、仮に、同一のタイミングで特徴量設定情報読出部63より設定情報が供給されることがあっても、設定情報決定部46からの設定情報を反映部49に供給する。また、選択部47は、設定情報決定部46より設定情報の供給がなく、特徴量設定情報読出部63より設定情報が供給された場合、特徴量設定情報読出部63より供給された設定情報を反映部49に供給する。さらに、いずれからも設定情報が供給されてこない場合、選択部47は、設定情報を反映部49に供給しない。
遅延部48は、特徴量抽出部41、同期検出部42、蓄積ブロック43、および、選択部47の処理における遅延時間だけ、画像再生部12より供給されてくる画像を一時的に記憶し、反映部49に出力する。反映部49は、選択部47より設定情報が供給されてくる場合、遅延部48より供給されてくる画像に対する処理を反映して、表示部15に表示する。また、反映部49は、選択部47より設定情報が供給されてこない場合、遅延部より供給されてくる画像を、そのまま表示部15に表示させる。
図6は、画像処理装置13の他の実施の形態の構成を示す図である。図6に示した画像処理装置13は、操作情報を設定情報の代わりに、特徴量に対応付けて記録するようにした場合の構成例を示している。なお、図6において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。
すなわち、特徴量抽出部41、同期検出部42、受光部44、操作情報認識部45、遅延部48、および反映部49については、図5の画像処理装置13と同様である。図6の画像処理装置13において、図5の画像処理装置13と異なるのは、蓄積ブロック43、設定情報決定部46、および選択部47に代えて蓄積ブロック151、設定情報決定部153、および選択部152が設けられている点である。
蓄積ブロック151は、操作情報認識部45より供給されてくる操作情報を特徴量に対応付けて蓄積すると供に、蓄積された操作情報を再生中の画像の特徴量に対応付けて読み出し、選択部152に供給する。
蓄積ブロック151の特徴量操作情報記録部161は、特徴量抽出部41より供給されてくる特徴量と、操作情報認識部45より供給されてくる操作情報とを対応付けて特徴量操作情報蓄積部162に蓄積させる。
特徴量操作情報読出部163は、同期検出部42より同期位置として検出された特徴量、すなわち、検索位置特徴量を取得すると、その特徴量に対応付けられて記憶されている操作情報を読み出し選択部152に供給する。選択部152は、操作情報認識部45より操作情報が供給されてきた場合、仮に、特徴量操作情報読出部163より操作情報が供給されてきても、操作情報認識部45より供給されてきた操作情報を設定情報決定部153に供給する。また、選択部152は、操作情報認識部45より操作情報の供給がなく、特徴量操作情報読出部163より操作情報が供給された場合、特徴量操作情報読出部163より供給された操作情報を設定情報決定部153に供給する。さらに、いずれからも操作情報が供給されてこない場合、選択部152は、操作情報を設定情報決定部153に供給しない。
設定情報決定部153は、選択部152より供給されてくる操作情報に基づいて、反映部49に対する画像への処理内容を指示するための設定情報を決定し、反映部49に供給する。
図5に示した画像処理装置13と図6に示した画像処理装置13において、特徴量抽出部41と同期検出部42は、それぞれ同一のものを用いることができる。ここで、特徴量抽出部41と同期検出部42について説明を加える。
まず図7を参照して、特徴量抽出部41の詳細な構成について説明する。
DFF(D型フリップフロップ)81は、直前の入力信号を記憶して、図示せぬクロック信号発生器からのクロック信号(clk)が入力されるタイミングで加算器82に出力する。また、DFF81は、入力信号が画像の信号のうち画像データ領域外のものであるとき、リセット信号が入力され入力信号が消去されて出力される。すなわち、画像信号は、図8で示されるように同期データ領域と画像データ領域から構成されているため、図中の水平方向のサンプルと垂直方向のラインの丸印の原点であるフレーム開始点Sから順次入力されてくる位置の情報に応じて、画像データ領域外の同期データの場合、リセット信号が入力され、同期データを構成する信号が、加算器82に出力されない。つまり、DFF81は、画像を構成する入力信号のうち、画像データ領域のデータのみをクロック信号に同期して加算器82に供給する。
加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号とを加算してDFF83に出力する。より詳細には、加算器82は、DFF81より供給されてくる信号と、DFF83より供給されてくる信号との加算結果のうち、下位8ビットを抽出してDFF83に供給する。
DFF83は、加算器82より供給されてくる信号を図示せぬクロック発生器より発生されるクロック信号(clk)が入力されるタイミングで加算器82および出力部84に供給する。また、DFF83は、フレーム開始点(図中の水平方向のサンプルと垂直方向のラインの丸印の原点)Sの信号が入力される際、リセット信号が入力され入力信号が消去されて出力される。すなわち、DFF83は、画像を構成する入力信号のうち、画像データ領域のデータのみが加算器82により累積的に加算された値を出力部84に供給する。
出力部84は、1フレーム(または、1フィールド)の値がDFF83より供給されてきたとき、その値をフレーム(または、そのフィールド)分の画像の特徴量として出力する。すなわち、出力部84は、画像データ領域のデータのみが加算器82により累積的に加算された値の下位8ビットをそのフレーム(または、そのフィールド)の特徴量として出力する。なお、特徴量は、画像を1フレーム単位で識別できる情報であればよいので、画像データ領域のデータのみ(画素値のみ)が累積的に加算された値の下位8ビットに限るものではなく、例えば、画像データ領域の中央近傍の所定領域内の画素値のみの加算結果をそのまま使用してもよい。
次に、図9を参照して、同期検出部42の詳細な構成について説明する。
特徴量バッファ101−1乃至101−3は、供給されてきた特徴量を一時的に記憶すると供に、それまでに記憶していた特徴量を再生位置特徴量生成部102および後段の特徴量バッファ101−2,101−3に順次出力する。なお、特徴量バッファ101−3は、後段の特徴量バッファ101が存在しないため、再生位置特徴量生成部102にのみ出力する。再生位置特徴量生成部102は、特徴量バッファ101−1乃至101−3より供給されてくる最新の特徴量を含めた過去3フレーム分の特徴量を順次取得し、これを纏めて再生位置情報(再生位置特徴量)として生成し、比較部103に出力する。すなわち、再生位置特徴量生成部102は、再生位置を特定するための特徴量として最新のフレームから3フレーム前までの合計4個の特徴量を使用して、再生位置特徴量を生成する。
検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量を連続する4個ずつを順次読み出し、検索位置特徴量として比較部103および検出部105に供給する。比較部103は、再生位置特徴量生成部102より供給されてくる再生位置特徴量と、検索位置特徴量読出部104より順次供給されてくる検索位置特徴量とを比較する。比較部103は、再生位置特徴量と一致する検索位置特徴量を検索した場合、同期が検出されたとみなし、検出結果として同期が検出されたことを検出部105に通知する。検出部105は、比較部103より同期が検出されたとみなされたタイミングで、検索位置特徴量読出部104より供給されてきた検索位置特徴量を同期検出結果として出力する。
次に、図5、図6に示した画像処理装置13の動作について、図10乃至図14のフローチャートを参照して説明する。図5に示した画像処理装置13と図6に示した画像処理装置13は、基本的に同様の動作であるので、図10乃至図14のフローチャートを参照した説明では、図5に示した画像処理装置13の動作を例に挙げて説明する。
画像処理装置13は、入力された画像を処理するが、その処理対象となる画像は、例えば、記録メディア11に記録されている画像である。例えば、画像再生部12(図5)が記録メディア11に記録されている画像を読み出し、遅延部48は、供給されてきた画像を1フレーム分一時的に遅延させるために記憶する。なお、以降においては、画像を1フレーム単位で処理するものとして説明を進めるが、当然のことながら、画像は、1フレーム単位に限らず、例えば、1フィールド単位で処理するようにしても良い。
ステップS11において、特徴量抽出部41は、特徴量抽出処理を実行し、画像再生部12より供給されてきた1フレーム分の画像の特徴量を抽出する。すなわち、遅延部48が、新たな画像を1フレーム分遅延させるために一時的に記憶するとき、同様に、1フレーム分の画像が特徴量抽出部41にも供給されているため、同一のタイミングで、同一の画像が、一方では遅延のため一時的に記憶され、他方では特徴量が抽出される。
図11のフローチャートを参照し、ステップS11において特徴量抽出部41により実行される特徴量抽出処理について説明する。
ステップS31において、DFF83は、フレーム開始点S(図8)によりリセットされる。
ステップS32において、未処理の画素が選択され、ステップS33において、画像データ領域外であるか否かが判定される。より詳細には、例えば、ラスタスキャン順に1フレーム分の画像より未処理の画素が順次読み出され、画像データ領域外であるか否かが判定される。
図8で示されるように、最初の画素(フレーム開始点Sの画素)の場合、同期データに含まれるため画像データ領域外であるので、ステップS35において、DFF81はリセットされ、0を画素値として出力する。一方、ラスタスキャン順に処理対象となる画素が選択され、例えば、画像データ領域内である場合、ステップS34において、DFF81は、クロック信号の発生タイミングで画素値を加算器82に供給する。
ステップS36において、加算器82は、入力された画素値と、DFF83より供給されてくる信号とを加算してDFF83に供給する。ステップS37において、DFF83は、クロック信号の発生タイミングで加算器82より供給されてきた加算結果の下位8ビットを加算器82に戻す。このとき、DFF83は、加算結果を出力部84にも供給するが、出力部84は、加算結果を出力しない。
ステップS38において、未処理の画素があるか否かが判定され、未処理の画素がある場合、その処理は、ステップS32に戻る。すなわち、1フレーム分の画素が全て処理されるまで、ステップS32乃至S38の処理が繰り返される。そして、1フレーム分の画素の全てが処理されたと判定された場合、ステップS39において、出力部84は、DFF83より供給されてくる加算結果、すなわち、画像データ領域に属する画素値の累積加算結果の下位8ビットを1フレームの画像の特徴量として出力する。
以上の処理により、1フレーム分の画像信号より画像データ領域の全ての画素値の累積加算結果の下位8ビットが、そのフレームの特徴量として抽出されることになる。
ここで、図10のフローチャートの説明に戻る。
ステップS11において特徴量抽出部41により特徴量抽出処理が実行されると、ステップS12において、記録中フラグが立っているか否かが判断される。記録中フラグとは、操作情報や設定情報(設定値)を記録するための処理が実行されているときに立てられるフラグである。
記録中フラグが立っているか否かの判断は、特徴量設定情報記録部61が判断する。ステップS12において、記録中フラグが立っていると判断された場合、ステップS16に処理が進められ、記録中フラグは立っていないと判断された場合、ステップS13に処理が進められる。
ステップS13において、同期に係わる処理が実行される。ここで、図12のフローチャートを参照して、同期に係わる処理について説明する。同期に係わる処理としては、同期の検出に係わる処理(同期検出処理)と、同期検出処理結果に依存する設定値の設定に係わる処理とに分けられる。ステップS51が同期検出処理であり、ステップS52乃至S56が設定値の設定に係わる処理である。
ステップS51において同期検出部42(図9)において実行される同期検出処理につて、図13のフローチャートを参照して説明する。同期検出部42は、ステップS51における同期検出処理を実行することにより、再生中の画像の特徴量と、画像に処理を施すための設定情報が対応付けられている特徴量との同期を検出する。
ステップS71において、同期検出部42の再生位置特徴量生成部102は、特徴量抽出部41より特徴量が供給されてきたか否かを判定し、供給されてくるまでその処理を繰り返す。例えば、ステップS3の特徴量抽出処理により特徴量が抽出されて、特徴量抽出部41より今現在再生中の画像の特徴量が供給されてきた場合、その処理は、ステップS72に進む。
ステップS72において、検索位置特徴量読出部104は、検索位置の特徴量をカウントするためのカウンタiを0に初期化する。
ステップS73において、再生位置特徴量生成部102は、供給されてきた特徴量を取得すると供に、特徴量バッファ101−1乃至101−3にそれまで記憶していた特徴量を取得する。すなわち、特徴量バッファ101−1は、新たに特徴量が供給されてくると、それまでに記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−2に供給する。
同様に、特徴量バッファ101−2は、供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102および特徴量バッファ101−3に供給する。さらに、特徴量バッファ101−3は、特徴量バッファ101−2より供給されてきた特徴量を記憶すると供に、それまで記憶していた特徴量を、再生位置特徴量生成部102に供給する。結果として、再生位置特徴量生成部102には、最新のフレームの特徴量と、特徴量バッファ101−1乃至101−3にそれぞれ記憶されていた過去3フレーム分の特徴量が供給されてくることになる。そこで、再生位置特徴量生成部102は、再生中のフレームを含めた4フレーム分の特徴量を再生位置特徴量として比較部103に供給する。
ステップS74において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量を検索位置特徴量として読み出し比較部103および検出部105に供給する。
ステップS75において、比較部103は、再生位置特徴量生成部102より供給されてきた再生中のフレームを含む過去3フレーム分の合計4個の特徴量からなる再生位置特徴量と、検索位置特徴量読出部104より供給されてきた、特徴量設定情報蓄積部62に蓄積されている特徴量の先頭位置からi番目より連続する4フレームの特徴量からなる検索位置特徴量とを比較する。
ステップS76において、比較部103は、比較結果に基づいて一致しているか否かを判定する。ステップS76において、例えば、一致しないと判定された場合、ステップS78において、検索位置特徴量読出部104は、特徴量設定情報蓄積部62に蓄積されている全ての特徴量について、再生位置特徴量と比較したか否かを判定する。例えば、ステップS78において、全ての特徴量と比較していないと判定された場合、ステップS79において、検索位置特徴量読出部104は、カウンタiを1インクリメントし、その処理は、ステップS74に戻る。すなわち、この処理により、再生位置特徴量と、検索位置特徴量が一致せず、かつ、蓄積されている全ての特徴量と比較されるまで、ステップS74乃至S76,S78,S79の処理が繰り返され、順次1フレーム間隔でずれながら、連続する4フレーム分の特徴量からなる検索位置特徴量と、再生位置特徴量との比較が繰り返される。
すなわち、検索位置特徴量とは、例えば、図15の右上部で示されるように、特徴量抽出部41より順次蓄積されている特徴量のうち、今の場合、連続する4個の特徴量の塊である。なお、図15においては、図中の縦長の長方形状のマスは、1フレーム分の特徴量を示しており、斜線部のG1,G2は同一の連続する特徴量が配置されていることを示している。また、再生位置特徴量とは、図15の右下部で示されているように、特徴量抽出部41より供給されてくる再生中の特徴量を含めた連続する4フレーム分の特徴量の塊である。
例えば、図15で示されるように再生位置特徴量G2で示されるような場合、検索位置特徴量G0と比較する場合、同一ではないので、同期位置としては検出されない。さらに、蓄積されている全ての特徴量との比較がされていないので、カウンタiが1インクリメントされて、検索位置特徴量G0’と再生位置特徴量G2とが比較される。このように、検索位置特徴量が図中の右方向に1フレーム間隔でずれながら、再生位置特徴量G2との比較が繰り返される。
ステップS76において、例えば、再生位置特徴量G2と検索位置特徴量G1とが比較されるような場合、検索位置特徴量G1が再生位置特徴量G2と同一の構成となっているため、一致したと判定され、ステップS77において、比較部103は、一致したことを検出部105に通知する。検出部105は、この通知に基づいて、今現在検索位置特徴量読出部104より供給されている検索位置特徴量の先頭位置、すなわち、先頭位置からi番目の特徴量を同期位置情報として特徴量設定情報読出部63に供給する。
一方、ステップS78において、蓄積されている全ての検索位置特徴量との比較が終了したと判定された場合、ステップS80において、検出部105は、再生位置特徴量と一致する検索位置特徴量が存在せず、同期しないことを出力する。
以上の処理により、特徴量設定情報蓄積部62に蓄積されている特徴量と、再生中の画像の特徴量とを同期させることが可能となる。すなわち、同期検出部42は、再生中のフレームの特徴量のみを、特徴量設定情報蓄積部62に蓄積されている特徴量と比較することで、偶然に特徴量が一致してしまうことで、間違った位置で同期が検出される可能性を低減させるために、現在再生されているフレームの特徴量のみではなく、再生されているフレームを含む過去3フレーム分の4フレームで比較することにより正確に同期検出を実施している。また、このように特徴量を使用することにより、各フレーム単位でのタイムコードの代わりに特徴量を設定することが可能となり、タイムコードを使用することなく、フレーム単位での同期検出を行うことが可能となる。
図12の同期に係わる処理のフローチャートの説明に戻り、ステップS51において、同期検出処理が実行されると、ステップS52において、特徴量設定情報読出部63は、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。例えば、図13のフローチャートのステップS77の処理により同期位置情報が供給されてきた場合、再生中のフレームの再生位置特徴量と、一致する特徴量が特徴量設定情報蓄積部62に蓄積されていることになるので、その処理は、ステップS53に進む。
ステップS53において、特徴量設定情報読出部63は、同期した特徴量に対応付けられた設定情報が特徴量設定情報蓄積部62に蓄積されているか否かを判定する。すなわち、特徴量は、設定情報がない状態でも特徴量設定情報蓄積部62に蓄積することが可能であるので、この処理により、特徴量に対応付けられた設定情報の有無が判定される。
ステップS53において、例えば、特徴量に対応付けられた設定情報が蓄積されていないと判定された場合、ステップS54において、標準値が設定値に設定される。標準値とは、何の操作もされていないときに設定される値であり、基準となる値である。
ステップS54において、標準値が設定値として設定されると、ステップS55において、設定された設定値を、画像に反映させるための処理が実行される。このように、標準値が設定値(設定情報)に設定されるときには、特徴量設定情報読出部63は、選択部47に対して設定情報を供給しない状況である。この処理により、選択部47は、設定情報決定部46および特徴量設定情報読出部63のいずれからも設定情報の供給がない状態となるため、反映部49に対して処理を指定する設定情報が供給されないことになる。結果として、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
一方、ステップS53において、例えば、特徴量に対応付けられた設定情報が蓄積されていると判定された場合、ステップS56において、蓄積されていると判断されている設定情報、すなわち設定値が読み出される。
このように、設定値が読み出されたときも、その設定値を画像に反映させるための処理がステップS55において行われる。すなわち、このような場合、特徴量設定情報読出部63は、特徴量設定情報蓄積部62より、同期位置情報の特徴量に対応付けて蓄積されている設定情報を読み出し選択部47に供給する。そして、今の場合、選択部47には、設定情報決定部46からは設定情報がなく、特徴量設定情報読出部63から設定情報が供給されるため、特徴量設定情報読出部63からの設定情報が反映部49に供給され、その設定情報に基づいて遅延部48に蓄積されていた1フレーム分の画像に処理が反映されて、表示部15に表示される。
このように、同期が行われたときには、設定値が反映された画像を、使用者側に提供するための処理が実行される。
ここで、図10のフローチャートに説明を戻す。
ステップS13において、上記したような同期に係わる処理が実行されると、ステップS14において、操作情報認識部45は、リモートコントローラ14が使用者により操作されて、画像の処理が指示されたか否かを判定する。例えば、表示部15に表示されている画像を見ながら、使用者が、2倍のズーム処理を指示した場合、リモートコントローラ14の発光パターンが受光部44により受光され、受光部44より受光した発光パターンに基づいた信号が、操作情報認識部45に供給されることにより、操作情報認識部45は、操作がなされたと判定し、その処理は、ステップS15に進む。
ステップS15において、記録中フラグが立てられる。ステップS15に処理が来るときには、ステップS12において、記録中フラグは立っていないと判断されており、また、ステップS14において、使用者による操作がされたと判断されたときであるので、操作情報や設定情報の記録を開始する必要がある。そこで、ステップS15において、記録中フラグが立てられる。
ステップS15において、記録中フラグが立てられると、ステップS16に処理が進められ、操作時の処理が実行される。ステップS16には、ステップS12において、記録中フラグが立っていると判断されたときにも来る。すなわち、ステップS16の処理は、記録中フラグが立っているときに行われる処理である。よって、ステップS12において、記録中フラグは立っていないと判断され、ステップS14において、使用者により操作はされていないと判断されたときには、操作情報や設定情報を記録する必要がないため、ステップS16の処理は実行されない。
ステップS16において実行される操作時の処理について、図14のフローチャートを参照して説明する。ステップS91において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果を設定情報決定部46に供給する。
ステップS92において、記録が終了したか否かが判断される。ステップS91において取得された操作情報が、記録の終了を示すものである場合がある。換言すれば、使用者による操作が終了され、使用者が終了ボタンを操作することにより生成された信号が、受光部44により受信されると、操作情報として、記録の終了(操作の終了)が指示されたと認識される。
ステップS92において、記録は終了していないと判断された場合、ステップS93に処理が進められる。すなわち、継続して記録が行われている(継続して操作が行われている)と判断された場合、ステップS93において、設定内容を設定値に反映するための処理が実行される。
設定情報決定部46は、ステップS93において、操作情報に基づいて、反映部49に対して画像に処理を施すための設定情報を決定し、特徴量設定情報記録部61および選択部47に供給する。すなわち、例えば2倍のズーム処理を画像に施すことが指示された場合、反映部49に対して2倍のズーム処理を施す指示を出すための設定情報が決定されて、特徴量設定情報記録部61および選択部47に供給される。
ステップS94において、特徴量設定情報記録部61は、特徴量抽出部41より供給されてくる特徴量を特徴量設定情報蓄積部62に記録させると共に、その特徴量に対応付けて、設定情報決定部46より供給されてくる設定情報を、特徴量設定情報蓄積部62に記録させることで、特徴量と設定情報とを蓄積させる。より詳細には、図16で示されるように、特徴量C1を所定のアドレスAに記録させた場合、そのm倍のアドレス、すなわち、アドレスm×Aに、特徴量C1に対応付けられた設定情報E1を記憶させる。なお、図16においては、特徴量設定情報蓄積部62の内部における特徴量と設定情報とが記憶されるアドレスの配置が示されている。
以降、特徴量設定情報記録部61は、同様にして、特徴量C2をアドレスBに記憶させるとき、対応する設定情報E2をm×Bに記憶させ、さらに、特徴量C3をアドレスCに記憶させるとき、対応する設定情報E3をm×Cに記憶させる。このように特徴量に対応付けて設定情報を記憶させることにより、特徴量が決まれば、特徴量のアドレスから設定情報のアドレスが特定できるので、設定情報蓄積部62内における特徴量毎の設定情報の検索をスムーズにすることが可能となる。なお、特徴量および設定情報は、同一の処理が連続して指定されている期間について連続して記録される。すなわち、例えば、図16における特徴量C1乃至C3は、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の特徴量が連続的に記録されている。また、同様にして、設定情報についても、例えば、図16における設定情報E1乃至E3は、特徴量C1乃至C3に対応付けられたアドレスから、いずれも1フレーム分の特徴量に限るものではなく、連続して処理が指定されている期間のフレーム数の設定情報が連続的に記録されている。
ステップS95において、選択部47は、設定情報決定部46より設定情報が供給されてきているので、設定情報決定部46より供給されてきた設定情報を反映部49に供給する。反映部49は、遅延部48に記憶されている画像に対して、選択部47より供給されてきた設定情報に基づいて、処理を加えて、使用者からの指示内容に応じた処理を反映させて表示部15に表示させる。
一方、ステップS92において、記録が終了したと判断された場合、ステップS96に処理が進められる。ステップS96において、標準値が設定値に設定される。そして、ステップS97において、設定された設定値を反映するための処理が実行される。すなわちこの場合、設定値が標準値であるので、特徴量設定情報読出部63は、選択部47に対して設定情報を供給しない状況である。この処理により、選択部47は、設定情報決定部46および特徴量設定情報読出部63のいずれからも設定情報の供給がない状態となるため、反映部49に対して処理を指定する設定情報が供給されないことになる。結果として、反映部49は、遅延部48に一時的に記憶された1フレーム分の画像を、そのままの状態で表示部15に表示させる。
ステップS98において、記録中フラグが下げられる。記録中フラグが下げられることにより、設定の記録が終了される。
このように、使用者によりリモートコントローラ14が操作されて、画像に対して処理を施す指示が出され続けている限り、ステップS91乃至S95の処理が繰り返されて、特徴量と共に、特徴量に対応付けられて、処理内容に伴った設定情報が特徴量設定情報蓄積部62に蓄積されていく。このステップS91乃至S95が繰り返される動作状態が、図1、図2を参照して説明した記録モードに対応する動作である。
図10のフローチャートの説明に戻る。ステップS16において、操作時の処理が終了されると、画像処理は終了される。上記したように、図10に示したフローチャートの処理は、入力されるフレーム毎に行われる。よって、新たなフレームが入力されると、そのフレームに対して、図10に示したフローチャートの処理が実行される。よって、上記したように、使用者によりリモートコントローラ14が操作されて、画像に対して処理を施す指示が出され続けている限り、特徴量と共に、特徴量に対応付けられて、処理内容に伴った設定情報が特徴量設定情報蓄積部62に蓄積される。
[滑らか終了機能]
図5または図6に示した画像処理装置13において、上記したような処理が行われることにより、記録メディア11に記録されている画像(映像)に対して編集を複数回加え、記録することができ、また、記録メディア11に記録されている編集が複数回加えられている画像(映像)を再生することができる。
しかしながら、例えば、図1や図2を参照して説明したように、記録の終了時点で、編集の内容により設定値が急激に変化するような場合があるが、そのような場合には、例えば、急にズーム率が変化するなどの再生が行われることになり、使用者にみづらい映像が提供される可能性がある。そこで、設定値が急激に変化するようなことがないような記録を行う画像処理装置13について説明する。以下の説明においては、設定値が急激に変化しないようにするための制御を行う機能を、滑らか終了機能と記述する。
ここで、滑らか終了機能について、図17A乃至図17Cを参照して説明を加える。図17Aは、1回目の操作とその操作で記録される設定値との関係を示し、図17Bは、2回目の操作とその操作で記録される設定値との関係を示し、図17Cは、2回目の操作の結果、記録される設定値を示している。また、図17Aと図17Bに示した枠内の図において、各枠内の1段目は、設定値を示し、2段目は、操作結果を示す。なお、図17A乃至図17Cの記載は、図2A乃至図2Cの記載と合わせてあり、従来の記録の仕方と、滑らか終了機能による記録の仕方との違い分かるように記載してある。
1回目の操作は、リモートコントローラ14から、図17Aの2段目に示すような操作信号が出された場合、図17Aの1段目に示すような設定値の記録が行われる。設定値は、リモートコントローラ14での操作量を積分した値とされる。また、図17Aや図17Bにおいて、プラス操作とは、例えば、画像の拡大を指示する操作であり、マイナス操作とは、画像の縮小を指示する操作である。
例えば、操作開始時点T1から時点T11まではプラスの操作が行われたため(2段目参照)、その値が積分された値が設定値として記録されるため、記録される設定値は、徐々に値が大きくなるようなグラフとなる(1段目参照)。その後、時点T11から時点T12までは、マイナス操作が行われたため、その設定値は、徐々に小さくなるようなグラフとなる。時点T12の後もプラス操作とマイナス操作が行われ、その操作に応じた設定値が記録される。
そして、時点T14に、コントローラの操作終了ボタン(記録終了の機能を有するボタン)が操作されると、設定値の記録も終了されるが、設定値が標準値にすぐに戻されるのではなく、時点T2まで、徐々に設定値が小さくなるように滑らか終了機能により制御され、記録される。このように操作が行われ、徐々に標準値に設定値が戻されるように制御された結果、図17Aの1段目に示したような設定値が記録される。
なお、標準値とは、設定値の基準となる値であり、標準値を含む設定情報を、適宜、標準とされる設定情報と記載する。
次に、図17Bの2段目に示したように、1回目の操作が行われたコンテンツに対して、時点T3から時点T21までプラス操作が行われ、時点T21から時点T4まで、マイナス操作が行われた場合、時点T3から時点T4までの間に記録される設定値は、図17Bの1段目に示したようになる。
2回目の操作の場合、1回目の操作の時点T3のときに記録されていた設定値から、操作量に応じた設定値が順次積分された値が加算される。また、時点T4において、操作が終了されると、1回目の操作の時点T4のときに記録されていた設定値(設定値Aとする)まで、設定値が戻されるが、設置値Aに戻される際、滑らか終了機能により、時点T4から時点T22の間で徐々に設定値Aに戻される。
このような修正が行われると、図17Bの1段目に実線で示したような設定値が記憶されることになる(実線で示した設定値に記録が修正されることになる)。すなわち、2回目の操作が行われた結果、設定値として記録される波形は、図17Cに示したような波形となる。
図2Cと図17Cを参照するに、図2Cにおいて、時点T4や時点T2において、急激に設定値が変化しているのに対し、図17Cにおいては、時点T4から時点T22、時点T14から時点T2まで徐々に設定値が変化していることがわかる。
このように、滑らか終了機能によれば、修正が終了された後、徐々に設定値が変更され、設定値が急激に変化することがないように制御される。
図18は、図5に示した画像処理装置13に、滑らか終了機能を追加した構成例を示し、図19は、図6に示した画像処理装置13に、滑らか終了機能を追加した構成例を示している。
図18において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図18に示した画像処理装置13は、滑らか機能に関する処理を実行する滑らか終了制御部201を、図5に示した画像処理装置13に追加した構成とされている。
滑らか終了制御部201は、設定情報決定部46と設定情報の授受を行う。また、滑らか終了制御部201からの情報は、特徴量設定情報記録部61と選択部47にそれぞれ供給される。
入力操作を設定情報決定部46で設定情報に変換した結果は、滑らか終了制御部201に入力される。入力操作が終了を指示するとき以外のときには、滑らか終了制御部201 は、設定情報決定部46からの入力をそのまま出力するが、入力操作が終了を指示するときには、特徴量設定情報蓄積部62に蓄積されている一連の入力操作の最後の値と、特徴量設定情報蓄積部62からの出力を補間した設定情報を生成する。その生成された設定情報は、選択部47を介して反映部49に供給され、反映部49により映像出力に反映されると共に、特徴量設定情報記録部61に入力されて特徴量設定情報蓄積部62に記録される。
また、滑らか終了制御部201は、特徴量設定情報蓄積部62から出力される設定情報が切替わるとき、例えば、図17A乃至Cを参照して説明したように、2回目の操作が終了し、1回目の操作により設定値に設定情報が戻されるようなときにも、その記録されている設定情報同士を滑らかにつなぐ処理を行う。
図19において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図19に示した画像処理装置13は、滑らか機能に関する処理を実行する滑らか終了制御部211を、図6に示した画像処理装置13に追加した構成とされている。滑らか終了制御部211は、設定情報決定部153と設定情報を授受する構成とされている。
滑らか終了制御部211は、設定情報決定部153による設定情報が不連続になるときに、設定情報を補間して、設定値が滑らかに変化するように制御する。
次に、図18、図19に示した画像処理装置13の動作について、図20乃至図23のフローチャートを参照して説明する。図18に示した画像処理装置13と図19に示した画像処理装置13は、基本的に同様の動作であるので、図20乃至図23のフローチャートを参照した説明では、図18に示した画像処理装置13の動作を例に挙げて説明する。
図20を参照して図18に示した画像処理装置13が行う画像処理について説明するが、基本的に、図5に示した画像処理装置13と同様な処理の流れであり、図10に示したフローチャートの処理に基づき行われる。すなわち、ステップS201乃至S206の各ステップにおける処理は、図10に示したフローチャートのステップS11乃至S16と基本的に同様に行われる。よってここでは、その詳細な説明は既にしたので省略し、異なる処理を含むステップに関して説明を加える。
ステップS201において、特徴量抽出部41において特徴量抽出処理が行われるが、この特徴量抽出処理は、図11に示したフローチャートに基づき行われる。
ステップS202において、記録中フラグが立っているか否かが判断され、記録中フラグは立っていないと判断された場合、ステップS203に処理が進められる。ステップS203において、同期に係わる処理が実行される。ステップS203における同期に係わる処理について図21のフローチャートを参照して説明する。
図21のフローチャートの処理は、図12のフローチャートの処理と基本的に同様であるが、ステップS235における処理が追加された流れとされている点が異なる。すなわち、ステップS234において、標準値が設定値に設定された後、または、ステップS237において、特徴量設定情報蓄積部62に蓄積されている設定情報(設定値)が読み出された後、ステップS235において、滑らか終了処理が実行され、ステップS236において、滑らか終了処理が施された設定値を反映するための処理が実行される。
ステップS235において実行される滑らか終了処理について、図22のフローチャートを参照して説明する。図22のフローチャートの処理は、滑らか終了制御部201で行われる。ステップS251において、滑らか終了フラグが立っているか否かが判断される。滑らか終了フラグとは、滑らか終了機能を実行すべきとき、すなわち、この場合、使用者から編集の終了が指示されたときに立たされるフラグである。
ステップS251において、滑らか終了フラグは立っていないと判断された場合、滑らか終了処理を実行する必要はないので、滑らか終了処理は終了される。
一方、ステップS251において、滑らか終了フラグが立っていると判断された場合、ステップS252に処理が進められる。ステップS252において、前フレームの設定値と新しい設定値の間の値が、設定値として設定される。前フレームの設定値とは、この処理が実行されているフレームに対して、前の時点で、図20の処理が実行されたフレームであり、特徴量が特徴量設定情報蓄積部62に蓄積されているフレームである。また、新しい設定値とは、現在の処理対象とされているフレームのことであり、そのフレームの設定値は、ステップS234またはステップS237(図21)で設定された値である。
ステップS252における処理は、前のフレームの設定値と現在のフレームの設定値との間の数値に設定され、例えば、前のフレームの設定値の方が現在のフレームの設定値よりも大きい値の場合、前のフレームの設定値から所定の値を減算した値が設定値とされる。また例えば、前のフレームの設定値の方が現在のフレームの設定値よりも小さい値の場合、前のフレームの設定値に所定の値を加算した値が設定値とされる。このように、前のフレームの設定値に所定の値を加算または減算することにより、現フレームの設定値が設定される。
ステップS253において、前フレームの設定値と現フレームの設定値が一致したか否かが判断される。なお、前フレームの設定値と現フレームの設定値が、完全に一致するか否かではなく、前フレームの設定値と現フレームの設定値との差分が、所定の範囲内であるか否かが判断されるようにしても良い。
ステップS253において、前フレームの設定値と現フレームの設定値は一致していないと判断された場合、ステップS254の処理はスキップされ、処理対象とされているフレームに対する滑らか終了処理は終了される。一方、ステップS253において、前フレームの設定値と現フレームの設定値が一致していると判断された場合、ステップS254において、滑らか終了フラグが下げられる。
滑らか終了フラグが立っている間は、ステップS252の処理がフレーム毎に実行されるため、フレーム毎に徐々に値が、前の操作のときに記録された設定値に近づいていくため、急激に設定値が変化するようなことを防ぐことが可能となる。このことを、図24を参照して説明する。
フレームF1のとき操作が終了され、そのときに設定されたフレームF1の設定値が設定値R1である場合、次のフレームF2では、従来では、フレームF2の設定値として記録されていた設定値R12に設定値が戻されることになる。しかしながら、滑らか終了処理(特に、ステップS252)の処理により、フレームF2の設定値は、設定値R1と設定値R12との間にある設定値R2と設定される。この設定値R2は、設定値R1より所定の値だけ、減算された値である。
フレームF3の設定値は、設定値R2から所定の値だけ減算された値である設定値R3が設定される。同じようにしてフレームF4の設定値は、設定値R4と設定され、フレームF5の設定値は、設定値R5と設定される。
フレームF5の設定値として設定された設定値R5と記録されていた設定値R15の差分は、所定の範囲内になったため、次のフレームF6の設定値R6は、フレームF6の設定値として記録されていた設定値R16にされる。このように、徐々に設定値が記録されていた値(前の操作で設定された値)に近づけられるため、急激に設定値が変化するようなことを防ぐことが可能となる。
図21のフローチャートの説明に戻り、ステップS235において、上記したような滑ら終了処理が実行されると、ステップS236において、設定値を反映する処理が実行される。このようにして、同期に係わる処理が終了されると、ステップS204(図20)に処理が進められる。
ステップS204において、使用者により操作(編集)されたか否かが判断され、操作されたと判断された場合、ステップS205において、記録中フラグが立てられる。そして、ステップS206において、操作時の処理が実行される。ステップS206において実行される操作時の処理について、図23のフローチャートを参照して説明する。
図23のステップS271乃至S278の処理は、図14のステップS91乃至S98の処理と同様であるので、その説明は省略する。ステップS279において、滑らか終了フラグが立てられる。ステップS279に処理が進められるのは、ステップS272において、記録が終了されたと判断されたときである。また、記録が終了されたと判断されるのは、使用者により操作終了ボタンなどの操作の終了を指示するためのボタンが操作されたときである。
使用者により操作の終了(編集の終了)が指示された場合、上記したように、従来なら、既に記録されている設定値に戻されるが、そのようにすると、設定値が急激に変化することがあり、急激に画像が変化することがある。そのようなことを防ぐために、滑らか終了処理が実行されるとして説明した。そして、滑らか終了処理は、滑らか終了フラグが立てられているときに行われる。よって、使用者により操作の終了が指示されたときには、ステップS279の処理として、滑らか終了フラグが立てられる。
滑らか終了フラグが立てられることにより、上記したように、ステップS251(図22)の処理で滑らか終了フラグが立っていると判断され、ステップS252,S253の処理が実行され、徐々に設定値が既に記録されていた設定値に近づくような処理が実行される。
このように、滑らか終了処理が実行されることにより、複数回の編集などにより、設定値が急激に変化してしまい、画像に急激な変化が現れるようなことを防ぐことが可能となる。
[操作の自動終了機能について]
次に、操作の自動終了機能について説明する。なお“操作の自動終了”の“自動”とは、使用者の手を煩わすことなく、換言すれば、使用者が操作(編集)の終了を指示しなくても、終了に関する処理が実行されることを意味する。
図25A乃至Cを参照し、操作の自動終了機能について説明する。図25Aは、1回目の操作とその操作で記録される設定値との関係を示し、図25Bは、2回目の操作とその操作で記録される設定値との関係を示し、図25Cは、2回目の操作の結果、記録される設定値を示している。また、図25Aと図25Bに示した枠内の図において、各枠内の1段目は、設定値を示し、2段目は、操作結果を示す。
1回目の操作において、時点T1から時点T2までのコンテンツに対して操作が加えられた場合、時点T1から時点T2までの設定値が記録される。時点T1から時点T11まではプラス操作が行われ、時点T11から時点T12まではマイナス操作が行われ、時点T12から時点T13まではプラス操作が行われ、時点T13から時点T14まではマイナス操作が行われた結果、図25Aの上段に示したような設定値が記録される。
そして、時点T14から時点T2まで、使用者からの操作がなかった場合、すなわち、無操作期間が時点T14から時点T2まであり、その無操作期間が所定の時間以上である場合、使用者の終了の指示によらず、設定値が標準値に徐々に戻される。
1回目の操作で、このような設定値が記録された後、図25Bに示すような2回目の操作が行われた場合、図25Cに示したような設定値が記録される。すなわち、2回目の操作として、図25Bの下段に示したように、時点T3から時点T21までプラス操作が行われ、時点T21から時点T4までマイナス操作が行われ、その後、操作が行われなかった。そして、時点T4から時点T22までの無操作期間が所定の時間以上である場合、使用者の終了の指示によらず、記録されていた設定値に徐々に戻される処理が実行される。
このように、使用者の終了の指示がないときであっても、使用者からの操作が、所定の期間だけなかった場合、設定値が徐々に設定すべき値に戻される。
このように、操作の自動終了機能によれば、修正が終了されたと判断されるとき、使用者の指示がなくても、徐々に設定値が変更され、設定値が急激に変化することがないように制御される。
図26は、図5に示した画像処理装置13に、操作の自動終了機能を追加した構成例を示し、図27は、図6に示した画像処理装置13に、操作の自動機能を追加した構成例を示している。
図26において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図26に示した画像処理装置13は、操作の自動終了機能に関する処理を実行する操作自動終了制御部301を、図5に示した画像処理装置13に追加した構成とされている。
操作自動終了制御部301は、設定情報決定部46、蓄積ブロック43、および、選択部47と、それぞれデータの授受を行える構成とされる。
図27において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図27に示した画像処理装置13は、操作の自動終了機能に関する処理を実行する操作自動終了制御部311を、図6に示した画像処理装置13に追加した構成とされている。
操作自動終了制御部311は、蓄積ブロック151、および、選択部152と、それぞれデータの授受を行える構成とされる。
次に、図26に示した画像処理装置13が行う画像処理について、図28乃至図30のフローチャートを参照して説明する。
ステップS301において、特徴量抽出処理が行われる。このステップS301において実行される特徴量抽出処理は、図11のフローチャートに基づく処理であり、図11のフローチャートを参照した説明は既にしたので、ここではその説明を省略する。
ステップS302において、同期に係わる処理が実行される。このステップS302において実行される同期に係わる処理について、図29のフローチャートを参照して説明する。ステップS321乃至S325の処理は、図12のフローチャートのステップS51乃至S54,S56の処理と同様であるので、その説明は省略する。すなわちこの場合、設定を反映するという処理が同期に係わる処理に含まれない処理の流れとされている。
同期が行われた後、設定値が反映される前に、図28のフローチャートの捨てPPPS303に処理が進められ、ステップS303において、記録中フラグが立っているか否かが判断される。上述した、例えば、滑らか終了機能に関する説明で参照した図20のフローチャートを、再度参照するに、ステップS202において、記録中フラグが立っているか否かが判断され、ステップS203において同期に係わる処理が実行された。
図28に示したフローチャートの処理の流れと、既に説明した図20のフローチャートの処理の流れを比較すると、記録中フラグが立っているか否か、換言すれば、設定値の記録が行われている状態であるか否かを判断する処理と、同期に係わる処理との順が入れ換えられた処理の流れとされている点が異なる。
このように、同期に係わる処理を記録中フラグが立っているか否かを判断する前に行うことで、換言すれば、記録中フラグが立っているか否かにかかわらず、同期に係わる処理を実行することで、記録を行わずに再生を行った場合の設定値を取得することが可能となる。
ステップS303において、記録中フラグは立っていないと判断された場合、ステップS304に処理が進められ、読み込んだ設定値を反映するための処理が実行される。この場合、記録中フラグが立っていなくても、同期に係わる処理がステップS302において実行されているため、ステップS324またはステップS325(図29)において設定値が設定されている。その設定されている設定値を画像に反映するための処理が実行される。
そして、ステップS305において、使用者による操作がされたか否かが判断され、操作がされたと判断された場合、ステップS306において、記録中フラグが立てられ、ステップS307において、操作時の処理が実行される。図30のフローチャートを参照してステップS307における操作時の処理について説明する。
ステップS341において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果として設定情報決定部46に供給する。ステップS342において、ステップS341において取得された操作情報が、記録の終了を示すコマンドであるか否かが判断される。
ステップS342において、操作情報は、記録終了コマンドではないと判断された場合、ステップS343に処理が進められ、記録終了コマンドであると判断された場合、ステップS347に処理が進められる。
ステップS343において、自動終了条件が満たされているか否かが判断される。自動終了条件とは、例えば、図25A乃至図25Cを参照して説明したように、使用者からの操作がなかった期間(無操作期間)が、所定の期間以上になったという条件である。このような条件が設定されている場合、操作自動終了制御部301(図26)は、設定情報決定部46から供給される設定値が、同一である時間を計測し、その計測時間が無操作期間に設定されている時間以上になったか否かを判断(同一の設定情報が所定の時間だけ継続しているか否かを判断)することにより、自動終了条件を満たしているか否かを判断する。
また、使用者の操作中にその操作に対応する設定値と記録されている設定値との差が所定の範囲内のときなどを条件としても良い。このような条件が設定されている場合、操作自動終了制御部301(図26)は、設定情報決定部46から供給される設定値と、特徴量設定情報蓄積部62から読み出される設定値との差分が所定の範囲内のとき、自動終了条件を満たしていると判断する。
勿論、複数の自動終了条件を設定し、設定された複数の条件の全てや、複数の条件のうちの幾つかの条件が満たされたときに、自動終了条件が満たされたと判断されるようにしても良い。
操作自動終了制御部311(図27)も基本的に同様に自動終了条件が満たされたか否かを判断するが、その判断は、操作情報認識部45から供給される使用者からの操作情報と、特徴量操作情報蓄積部162に蓄積されている操作情報が用いられて行われる。
このようにして、ステップS343において、自動終了条件が満たされたと判断された場合、ステップS347に処理が進められ、自動終了条件は満たされていないと判断された場合、ステップS344に処理が進められる。
すなわちこの場合、使用者により記録の終了が指示された場合、または自動終了条件が満たされた場合は、ステップS347に処理が進められ、同一の処理が行われることになる。よって、使用者が終了の指示をしなくても、終了の指示をした場合と同様の処理が行われることになり、使用者の手を煩わすことなく、操作の終了を行うことが可能となる。
ステップS344乃至S349の各処理は、図14のフローチャートのステップS93乃至S98と同様の処理なので、その説明は省略する。
このようにして、自動的に、処理が終了される。
なお、設定値は、1つの設定値だけでなく、複数の設定値が関連して1つの状態を表すことがあるが、複数の設定値が関連するような場合、関連している全ての設定値が既存の操作履歴、または標準値に近づいたときのみ、自動終了条件が満たされたと判断されるようにする。例えば、ズームの場合、ズーム率、ズーム中心の水平座標、垂直座標の3つのパラメータが全て既存の操作履歴の設定値または標準値に近づいたときのみ、自動終了条件が満たされたと判断される。
[加算編集機能ついて]
ところで、編集としては、さまざまな編集がある。例えば、ズームに関する編集や手振れ補正に関する編集など、編集の目的が異なれば、編集対象も異なる。このように、さまざまな編集があるので、例えば、1回目の編集では手振れ補正に関する編集を行い、2回目の編集ではズームに関する編集を行うといった状況も考えられる。
このように、1回目の編集と2回目の編集とで編集目的が異なるような場合、問題が発生する可能性がある。問題点について、図31A、図31Bと図32A、図32Bを参照して説明する。図31A、図31Bは、従来の記録方式により問題が発生する場合を説明するための図であり、図32A、図32Bは、従来の記録方式で発生する可能性のある問題を解決するための記録方式(本実施の形態)について説明するための図である。
図31Aには、1回目の操作、例えば、手振れ補正に関する操作により記録された設定値の変化を示している。このような設定値が記録されているコンテンツに対して、図31Bの上段に示したような操作、例えば、使用者の好みのズームポイントにさらにズームするような操作が行われると、その操作による設定値に、1回目の操作で記録された設定値が、上書きされる。すなわち、図31Bの下段の点線で示した設定値が、実線で示した設定値に上書きされる。
このように、設定値が上書きされるということは、基の設定値がキャンセルされてしまうことを意味する。この場合、1回目の手振れ補正に関する操作の結果は、2回目のズームに関する操作の結果により、キャンセルされてしまうことになる。
そこで、以下に説明する本実施の形態においては、図32A、図32Bに示すように設定値が設定され、記録されるようにする。図32Aは、図31Aと同じく1回目の操作、例えば、手ぶれ補正に関する操作により記録された設定値を示している。図32Bは、2回目の操作と、その2回目の操作による設定値を示している。
図32Bの上段は、図31Bの上段と同じく、2回目の操作、例えば、使用者の好みのズームポイントにさらにズームするような操作が行われた場合の操作情報を示している。図32Bの下段は、以下に説明する加算編集機能による処理が実行された結果記録される設定値を示している。
図32Bの下段に示したように、加算編集機能により、1回目の設定値に2回目の操作に対応する設定値が加算された値が、新たな設定値として記録される。図32Bの下段の点線で示した1回目の操作による設定値に、2回目の操作の設定値が加算されることにより、図32Bの下段の実線で示した設定値が、記録される。
このように、前回の設定値に次の設定値を加算することに、前回の設定値がキャンセルされるようなことがなく、前回の操作による効果を継続させることが可能となる。
このような加算編集機能を有する画像処理装置13の構成について説明する。図33は、図5に示した画像処理装置13に、加算編集機能を追加した構成例を示し、図34は、図6に示した画像処理装置13に、加算編集機能を追加した構成例を示している。
図33において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図33に示した画像処理装置13は、加算編集機能に関する処理を実行する設定値加算部401を、図5に示した画像処理装置13に追加した構成とされている。
設定値加算部401は、設定情報決定部46により決定された、その時点での設定値と、既に記録されている設定値とを加算し、新たな設定値を生成する。設定値加算部401により生成された設定値は、特徴量設定情報蓄積部62に蓄積されるとともに、選択部47にも供給される。
図34において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図34に示した画像処理装置13は、図6に示した画像処理装置13と比較すると、加算編集機能に関する処理を設定情報決定部411が行う構成とされ、選択部152が削除された構成とされている。
設定情報決定部411は、操作情報認識部45により認識された、その時点での操作情報と、既に記録されている操作情報とを加算し、新たな操作情報を生成する。設定情報決定部411により生成され設定情報は、特徴量操作情報蓄積部162に蓄積されるとともに、反映部49にも供給される。
次に、図33、図34に示した画像処理装置13の動作について、図35のフローチャートを参照して説明する。図33に示した画像処理装置13と図34に示した画像処理装置13は、基本的に同様の動作であるので、図35のフローチャートを参照した説明では、図13示した画像処理装置13の動作を例に挙げて説明する。
図33に示した画像処理装置13が行う画像処理は、図10に示したフローチャートに基づき行われる。図10に示したフローチャートの処理については既に説明したので、異なる処理を含む処理だけ説明を加える。
異なる処理を含むステップは、ステップS16の操作時の処理である。図35を参照し、操作時の処理について説明する。ステップS411において、操作情報認識部45は、受光部44より供給された信号に基づいて、操作情報を認識し、認識結果として設定情報決定部46に供給する。ステップS412において、ステップS411において取得された操作情報が、記録の終了を示すコマンドであるか否かが判断される。
ステップS412において、操作情報は、記録終了コマンドではないと判断された場合、ステップS413に処理が進められ、記録終了コマンドであると判断された場合、ステップS416に処理が進められる。
ステップS413において、読み込まれた設定値に、使用者による操作に対応する設定値が加算される。特徴設定情報読出部63は、特徴量設定情報蓄積部62に蓄積されている設定値を読み出し、設定値加算部401に供給する。設定情報決定部46は、操作情報認識部45から供給される操作情報に基づく設定値を生成し、設定値加算部401に供給する。
このような処理が行われることにより、設定値加算部401には、特徴量設定情報蓄積部62に蓄積されていた設定値と、使用者の操作による新たな設定値が供給される。設定値加算部401は、供給された2つの設定値を加算し、新たな設定値を生成する。このようにして生成された設定値は、ステップS14において、同期情報と共に特徴量設定情報蓄積部62に書き込まれる。
また、設定値加算部401からの設定値は、選択部47にも供給され、選択部47を介して反映部49にも供給される。ステップS415において、反映部49は、供給された設定値を画像に反映するための処理を実行する。
一方、ステップS412において、使用者からの指示内容は、記録終了コマンドであると判断された場合、ステップS416において、読み込まれた設定値を設定値として設定する。すなわち、この場合、特徴量設定情報蓄積部62に蓄積されている設定値が読み出され、処理対象とされているフレームの設定値とされる。設定された設定値を画像に反映する処理が、ステップS417において行われる。
そして、ステップS418において、記録中フラグが下げられることにより、設定値の記録の処理が終了される。
このような処理は、基本的に、図14のフローチャートを参照して説明した操作時の処理と同様であるが、ステップS413において設定される設定値が、既に記録されている設定値に加算される点が異なる。このように、使用者による操作に対応した新たな設定値が、既存の設定値に加算されることにより生成された設定値を記録するようにすることで、既存の設定値による画像への効果がキャンセルされることなく、新たな効果を追加することが可能となる。
[範囲指定(先指定)記録について]
次に、設定値を記録するコンテンツの範囲を予め設定し、その設定された範囲内で行われた操作に対応する設定値が記録される場合について説明する。または、コンテンツに対して操作が行われ、その操作に対応する設定値が記録された後、実際に設定値を記録する範囲を設定する場合について説明する。まず、図36A乃至図36Cを参照して、設定値を記録する範囲の設定と、その設定された範囲内における設定値の記録について説明する。
図36Aに示したように、1回目の操作として使用者により、記録を開始する開始点T1が設定され、記録を終了する終了点T2が設定される。
図36Bの下段に示したような操作が、2回目の操作として行われたことにより、図36Bの上段に示したような設定値が記録される。すなわち、この場合、時点T11から時点T1(開始点T1)までは、プラスの操作が行われ、時点T1から時点T12まではマイナスの操作が行われ、時点T12から時点T13まではプラスの操作が行われ、時点T13から時点T2(終了点T2)まではマイナスの操作がされた場合、図36Bの上段に示したような設定値が記録される。ただし、この記録は、一時的な記録であり、最終的に記録される設定値ではない。
最終的に記録される設定値は、図36Cに示したようになる。すなわち、時点T11から開始点T1までの間の設定値は、記録されず、開始点T1から終了点T2までの間の設定値のみが記録される。
図36A乃至図36Cを参照して説明したのは、操作を行う前に範囲が設定される場合である。操作が行われた後、範囲が設定される場合、図36Bに示した操作が1回目の操作として行われ、その後、図36Aに示した操作が2回目の操作として行われる。
このように、設定された範囲内の設定値のみが記録されることにより、以下のような利点がある。すなわち、従来の設定の記録方式では、図1や図2を参照して説明したように、操作開始点から記録が開始されてしまうため、記録の先頭の設定値は標準値に設定されてしまい、その後の操作にかかわらず、標準値から連続的に変化される設定値しか設定できなかった。しかしながら、本実施の形態のように、開始点を設定することにより、図36Cに示したように、記録の開始時点の設定値を標準値以外に設定することが可能となり、その標準値ではない設定値から、連続的に設定値を変化させることができるようになる。
また、従来の記録方式では、設定値の記録を終了させる際、使用者は、操作しながら記録を終了させる機能を有する終了ボタンを操作する必要があったため、使用者が記録を終了させたい位置で操作を止めるのが難しかった。しかしながら、本実施の形態のように、終了点を設定することにより、使用者は所望の終了ポイントを、操作しながら終了ボタンを操作するといったことなく設定できるようになり、確実に所望の終了点を設定することが可能となる。
このような記録範囲の設定を行う画像処理装置13の構成について説明する。まず、操作の前に記録の範囲を設定する画像処理装置13について説明を加える。
図37は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図38は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図37において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図37に示した画像処理装置13は、記録範囲指定機能に関する処理を実行する範囲指定部501、範囲記録部502、および、トリガー部503を、図5に示した画像処理装置13に追加した構成とされている。
範囲指定部501は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。
範囲記録部502は、範囲指定部501により指定された開始点と終了点の、それぞれの同期用特徴量を、蓄積ブロック43の特徴量設定情報蓄積部62から読み出し、記録する。トリガー部503は、範囲記録部502に記録されている同期用特徴量と、特徴量設定情報蓄積部62に蓄積されている同期用特徴量を比較し、蓄積ブロック43に対して、同期用特徴量や設定情報の記録の開始と終了を指示する。
図38において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図38に示した画像処理装置13は、図6に示した画像処理装置13と比較すると、記録範囲指定機能に関する処理を実行する範囲指定部511、範囲記録部512、および、トリガー部513を、図6に示した画像処理装置13に追加した構成とされている。
図38に示した画像処理装置13の構成では、操作情報認識部45からの操作情報は、直接、範囲指定部511に入力されるように構成されている。範囲指定部511は、入力された操作情報を解析し、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。
範囲記録部512は、範囲指定部511により指定された開始点と終了点の、それぞれの同期用特徴量を、蓄積ブロック151の特徴量操作情報蓄積部162から読み出し、記録する。トリガー部513は、範囲記録部512に記録されている同期用特徴量と、特徴量操作情報蓄積部162に蓄積されている同期用特徴量を比較し、蓄積ブロック151に対して、同期用特徴量や操作情報の記録の開始と終了を指示する。
次に、図37、図38に示した画像処理装置13の動作について、図39乃至図42のフローチャートを参照して説明する。図37に示した画像処理装置13と図38に示した画像処理装置13は、基本的に同様の動作であるので、図39乃至図42のフローチャートを参照した説明では、図37に示した画像処理装置13の動作を例に挙げて説明する。
図39のフローチャートを参照し、設定値を記録する範囲を指定する際の処理を説明する。
ステップS501において、特徴量抽出処理が実行される。このステップS501における特徴量抽出処理は、既に説明した図11のフローチャートの処理の流れに基づいて行われるため、ここでは説明を省略する。
ステップS502において、開始点が指定されたか否かが判断される。範囲指定部501は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、開始点を指定する操作であったか否かを判断する。開始点は、動画像を構成するフレームのうちの、使用者が指示したフレーム(またはフィールド)である。よって、ステップS502における処理は、設定値の記録を開始するフレームが指示されたか否かが判断される処理である。
ステップS502において、開始点が指示されたと判断された場合、ステップS503に処理が進められ、開始点の特徴量が記録される。範囲指定部501は、開始点が指示されたと判断した場合、その時点でのフレームから抽出された特徴量(同期用特徴量)(ステップS501において抽出された特徴量)を、範囲記録部502に記録させる。範囲記録部502に開始点の特徴量が記録されると、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
一方、ステップS502において、開始点は指定されていないと判断された場合、ステップS504に処理が進められ、終了点が指定されたか否かが判断される。範囲指定部501は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、終了点を指定する操作であったか否かを判断する。終了点も、開始点と同様に、所定のフレームまたはフィールドである。
ステップS504において、終了が指定されたと判断された場合、ステップS505において、終了点の特徴量が記録される。範囲指定部501は、終了点が指示されたと判断した場合、その時点でのフレームから抽出された特徴量(同期用特徴量)(ステップS501において抽出された特徴量)を、範囲記録部502に記録させる。範囲記録部502に終了点の特徴量が記録されると、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
一方、ステップS504において、終了点は指定されていないと判断された場合、ステップS506に処理が進められる。ステップS506において、範囲指定の設定が終了されたか否かが判断される。ステップS506において、範囲指定の設定は終了されていないと判断された場合、ステップS501に処理が戻され、次のフレームに対して、同様の処理が繰り返される。
なお、ステップS506において、設定が終了されたか否かの判断は、使用者による設定終了の指示があったか否かが判断されることにより行われるようにしても良いし、終了点の指定が行われた時点で、設定の終了も指示されたと判断されるようにしても良い。また、コンテンツの最後のフレームまで処理が行われたときには、その最後のフレームが終了点として指定されるようにし、設定が終了されたと判断されるようにしても良い。
一方、ステップS506において、記録範囲の設定は終了されたと判断された場合、ステップS507に処理が進められる。ステップS507において、開始点と終了点が指定済であるか否かが判断される。この判断は、範囲記録部502に、開始点の特徴量と終了点の特徴量が記録されているか否かを確認することにより行われる。
ステップS507において、開始点と終了点は指定済では無いと判断された場合、ステップS501に処理が戻され、次のフレームに対して同様の処理が繰り返される。なおこの場合、ステップS506において、設定は終了されたと判断されたときであるので、基本的には、開始点と終了点は指定済である。しかしながら、例えば、使用者の操作ミスなどにより、終了点が指定されていないのに、設定が終了されたと判断されるときがあることを想定し、そのようなときには、そのようなことを使用者に認識させるための、例えば、“終了点の指定がされていません”といったようなメッセージが、使用者に提示されるような処理が行われるようにしても良い。
このようにして、設定情報を記録する範囲の設定が行われる。次に、記録範囲の設定が終了された後に、その範囲内で設定値が記録されるようにするための処理について、図40のフローチャートを参照して説明する。
ステップS521において、特徴量抽出処理が実行される。このステップS521における特徴量抽出処理は、既に説明した図11のフローチャートの処理の流れに基づいて行われるため、ここでは説明を省略する。
ステップS522において、トリガー処理が行われる。ステップS522において実行されるトリガー処理について、図41のフローチャートを参照して説明する。トリガー処理は、トリガー部503により行われる。
ステップS541において、トリガー部503は、開始点であるか否かを判断する。トリガー部503は、範囲記録部502に記録されている開始点の特徴量と、その時点で処理されているフレームの特徴量を比較し、一致すれば、開始点であると判断する。ステップS541において、開始点であると判断された場合、ステップS542に処理が進められる。ステップS542において、設定値の記録を指示するための記録中フラグが立てられる。この記録中フラグが立ててられている間は、特徴量設定情報蓄積部62に、特徴量や設定値が記録(蓄積)される。記録中フラグが立てられると、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
一方、ステップS543において、開始点ではないと判断された場合、ステップS543に処理が進められ、終了点であるか否かが判断される。ステップS543における終了点であるか否かの判断も、開始点であるか否かの判断と同様に行われる。ステップS543において、終了点であると判断されると、ステップS544に処理が進められる。ステップS544において、設定値の記録を指示するために立てられていた記録中フラグが下げられる。この記録中フラグが下げられることにより、特徴量設定情報蓄積部62への設定値の記録(蓄積)が終了される。記録中フラグが下げられると、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
一方、ステップS543において、終了点ではないと判断された場合、トリガー処理は終了され、ステップS523(図40)に処理が進められる。
このように、トリガー部503は、開始点と指定されたフレームから、設定値の記録を開始するように、蓄積ブロック43に指示を出し、終了点と指定されたフレームで、設定値の記録が終了されるように、蓄積ブロック43に指示を出す。
図40のフローチャートの説明に戻り、ステップS523において、操作時の処理が実行される。図42のフローチャートを参照し、ステップS523において実行される操作時の処理について説明する。
ステップS561において、操作情報が取得される。ステップS562において、取得された操作情報が設定値に反映される。ステップS563において、記録中フラグが立っているか否かが判断される。記録中フラグが立っているときは、設定値の記録が行われるため、ステップS563において、記録中フラグが立っていると判断された場合、ステップS564に処理が進められ、設定値と同期情報が特徴量設定情報蓄積部62に書き込まれる。
特徴量設定情報蓄積部62に設定値と同期情報が書き込まれるとともに、ステップS565において、画像への設定値の反映の処理が行われる。
一方、ステップS563において、記録中フラグは立っていないと判断された場合、ステップS564の処理はスキップされ、ステップS565に処理が進められる。ステップS565において、設定値が反映される。ステップS563からステップS565に処理が進められたときには、設定値の記録は行われないが、画像への設定値の反映は行われる。
このように、予め設定された開始点から終了点まで、設定値などが記録される。
この実施の形態においては、操作の前に記録範囲を設定する場合を例に挙げて説明したが、操作の後に記録範囲を設定することも可能であり、そのような場合について次に説明する。
[範囲指定(後指定)記録について]
図43は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図44は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図43において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図43に示した画像処理装置13は、記録範囲指定機能に関する処理を実行する範囲指定部601、トリガー部602、一時蓄積ブロック603、および同期検出部604を、図5に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック603は、特徴量設定情報記録部611、特徴量設定情報蓄積部612、および特徴量設定情報読出部613を備える構成とされている。すなわち、一時蓄積ブロック603は、蓄積ブロック43と同様の構成とされている。この場合、一旦操作が行われ、設定値(同期情報)が記録された後、記録範囲が指定されるため、一時的に設定情報を記録しておく必要があり、その記録を、一時蓄積ブロック603が行う。
範囲指定部601は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、設定値の記録を終了する終了点との指定(設定)に係わる処理を実行する。トリガー部602は、範囲指定部601により指定された開始点、または、終了点に応じて、蓄積ブロック43に対して、同期用特徴量の記録の開始と終了を指示する。
一時蓄積ブロック603の各部は、蓄積ブロック43と同様の構成とされ、記録の範囲を指定される前に行われた設定値や同期情報の記録に係わる処理を実行する。また、同期検出部604は、同期検出部42と同様に、同期を検出し、その同期に関する情報を特徴量設定情報読出部613に供給し、特徴量設定情報蓄積部612から同期するのに必要な設定情報の供給をうける。
図44において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図44に示した画像処理装置13は、図6に示した画像処理装置13に、記録範囲指定機能に関する処理を実行する範囲指定部641、トリガー部642、一時蓄積ブロック643、および同期検出部644を追加した構成とされている。
また、一時蓄積ブロック643は、特徴量操作情報記録部651、特徴量操作情報蓄積部652、および特徴量操作情報読出部653を備える構成とされている。すなわち、一時蓄積ブロック643は、蓄積ブロック151と同様の構成とされている。この場合、一旦操作が行われ、操作情報が記録された後、記録範囲が指定されるため、一時的に操作情報を記録しておく必要があり、その記録を、一時蓄積ブロック643が行う。
範囲指定部641は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、設定値の記録を開始する開始点と、操作情報の記録を終了する終了点との指定(設定)に係わる処理を実行する。トリガー部642は、範囲指定部641により指定された開始点、または、終了点に応じて、蓄積ブロック151に対して、同期用操作情報の記録の開始と終了を指示する。
一時蓄積ブロック643の各部は、蓄積部録151と同様の構成とされ、記録の範囲を指定される前に行われた操作情報の記録に係わる処理を実行する。また、同期検出部644は、同期検出部42と同様に、同期を検出し、その検出された同期に関する情報を特徴量操作情報読出部653に供給し、同期を検出するために特徴量操作情報蓄積部652から操作情報の供給をうける。
次に、図43、図44に示した画像処理装置13の動作について、図45のフローチャートを参照して説明する。図43に示した画像処理装置13と図44に示した画像処理装置13は、基本的に同様の動作であるので、図45のフローチャートを参照した説明では、図43に示した画像処理装置13の動作を例に挙げて説明する。
図45のフローチャートを参照し、設定情報(設定値)を記録する範囲を指定する際の処理に説明する。この場合、記録の範囲が設定される前の時点で、使用者による編集が終了されており、設定情報が一時蓄積ブロック603に記録されている状態である。設定情報の記録は、上記した他の実施の形態と同様に行うことが可能である。例えば、設定情報は、図10のフローチャートを参照して説明した処理の流れに基づいて記録される。ここでは、設定情報の記録については既に説明したので、その説明は省略し、設定情報が記録された後に行われる、記録の範囲の指定に係わる処理について、図45のフローチャートを参照して説明する。
ステップS601において、特徴量抽出処理が実行される。使用者は、記録する範囲を設定するために、操作を加えたコンテンツを再度再生する。再生されたコンテンツ(フレーム)から特徴量が、特徴量抽出部41により抽出され、同期検出部604に供給される。ステップS601において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した場合と同様であるので、その説明は省略する。
ステップS602において、同期検出部604は、同期に係わる処理を実行する。このステップS602において実行される同期に係わる処理は、図12のフローチャートを参照して説明した場合と同様に行われるので、その説明は省略する。ただし、同期検出部604は、特徴量抽出部41により抽出された特徴量と、特徴量設定情報蓄積部612に蓄積されている特徴量を比較することにより同期を検出する。
ステップS603において、使用者が記録開始の操作をしたか否かが判断される。範囲指定部601は、操作情報認識部45からの操作情報を解析し、記録の開始を指示する操作であるか否かを判断する。ステップS603において、記録の開始を指示する操作であると判断された場合、ステップS604に処理が進められ、記録中フラグが立てられる。
記録中フラグが立てられている間は、後述するように、特徴量設定情報蓄積部612に蓄積されている設定値などの設定情報が、蓄積ブロック43に供給され、特徴量設定情報蓄積部62に蓄積される。換言すれば、使用者の操作が行われたことにより、一時蓄積ブロック603に蓄積されていた設定情報が、蓄積ブロック43にコピーされる。
ステップS604において記録中フラグが立てられるか、または、ステップS603において、記録開始の操作はされていないと判断された場合、ステップS605に処理が進められる。
ステップS605において、記録中フラグは立っているか否かが判断される。ステップS605において、記録中フラグが立っていると判断された場合、ステップS606に処理が進められ、記録中フラグは立っていないと判断された場合、ステップS601に処理が戻され、それ以降の処理が繰り返される。
ステップS606において、使用者が記録終了の操作をしたか否かが判断される。範囲指定部601は、記録開始の指示がされたか否かを判断するときと同様に、操作情報認識部45からの操作情報を解析し、記録の終了を指示する操作であるか否かを判断する。ステップS606において、記録の終了を指示する操作ではないと判断された場合、ステップS607に処理が進められる。
ステップS607において、設定情報が書き込まれる。この書き込みは、上記したように、一時蓄積ブロック603の特徴量設定情報蓄積部612に、一時的に蓄積された設定情報が読み出され、蓄積ブロック43の特徴量設定情報蓄積部62にコピーされることにより行われる。ステップS607における処理が終了されると、ステップS601に処理が戻され、それ以降の処理が繰り返される。
一方、ステップS606において、記録終了の操作がされたと判断された場合、ステップS608に処理が進められ、立てられていた記録中フラグが下げられる。記録中フラグが下げられることにより、設定情報などの記録(コピー)が終了される。
このように、操作(編集)が行われたコンテンツのうち、編集を残す部分、すなわち、設定情報を記録する範囲を指定することが可能となる。
このように、設定情報などを記録する範囲を指定することで、記録の開始時には、設定値を標準値以外にも設定することができ、より効果的な自由度の高い編集を行うことが可能となる。また、記録の終了時も、使用者は記録を終了させるための操作を、編集のための操作と同時に行わなくても良いため、より的確に、終了させたいポイント(フレーム)で終了させることが可能となる。
[シーンチェンジ検出による記録について]
次に、コンテンツの内容の変化、すなわち、シーンの変化を検出し、シーンに変化があったときに、設定情報などが記録される場合について説明する。まず、図46A乃至Cを参照して、シーンチェンジの検出と検出されたときの設定値の記録について説明する。
図46Aに示したように、シーンチェンジ検出部(図47、図48に記載)により、検出点T1乃至T4が、シーンチェンジがあった時点として検出されたとする。シーンチェンジとは、例えば、本編からコマーシャルに入ったときとか、本編中であっても夜の場面から昼の場面に切り替わったときとか、シーン(場面)が大幅に変わったときであり、コンテンツの切れ目である。
図46Bの下段に示したように、時点T11から時点T13までプラスの操作がされ、時点T13から時点T14までマイナスの操作がされ、時点T14から時点T15までプラスの操作がされ、時点T15から時点T16までマイナスの操作がされたとき、設定値としては、図46Bの上段に示したようになる。
設定情報などの記録を指示するための記録開始ボタンが、時点T12で操作されると、その時点T12以降から記録が開始される。しかしながら、シーンチェンジがあったときに、記録が行われるという制御がされるように設定されている場合、時点T12で記録開始ボタンが操作されても、実際の記録は、時点T12の後にシーンチェンジが検出された時点T2から開始される。よって、実施に記録されるのは、図46Cに示したように、時点T2から時点T3までの間の設定値である。
このように、シーンチェンジを検出し、検出されたシーンチェンジ間で設定情報が記録されることにより、以下のような利点がある。すなわち、従来の設定の記録方式では、図1や図2を参照して説明したように、操作開始点から記録が開始されてしまうため、記録の先頭の設定値は標準値に設定されてしまい、その後の操作にかかわらず、標準値から連続的に変化される設定値しか設定できなかった。しかしながら、本実施の形態のように、開始点を設定することにより、図46Cに示したように、記録の開始時点の設定値を標準値以外に設定することが可能となり、その標準値ではない設定値から、連続的に設定値を変化させることができるようになる。
また、従来の記録方式では、設定値の記録を終了させる際、使用者は、操作しながら記録を終了させる機能を有する終了ボタンを操作する必要があったため、使用者が記録を終了させたい位置で操作を止めるのが難しかった。しかしながら、本実施の形態のように、終了点を設定することにより、使用者は所望の終了ポイントを、操作しながら終了ボタンを操作するといったことなく設定できるようになり、確実に所望の終了点を設定することが可能となる。
さらに、シーンチェンジがあったときから次のシーンチェンジまでの間、換言すれば、1シーンの間で、設定情報などを記録するようにすれば、シーン内では連続的に設定値を変化させることができ、異なるシーン間では不連続に設定値を変化させることが、使用者の特別な操作を必要とせずに行うことが可能となる。すなわち使用者は、シーン毎に、所望の操作を、シーンの切り替わりを気にせずに(シーンの切り替わりを指示するといったような操作を行うことなく)、簡便に行うことができる。
このようなシーンチェンジを検出し、その検出されたシーンチェンジ内で設定情報の記録を行う画像処理装置13の構成について説明する。
図47は、図5に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示し、図48は、図6に示した画像処理装置13に、記録範囲指定機能を追加した構成例を示している。
図47において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図47に示した画像処理装置13は、開始操作入力部701、シーンチェンジ検出部702、およびトリガー部703を、図5に示した画像処理装置13に追加した構成とされている。
開始操作入力部701は、操作情報認識部45からの操作情報を解析し、使用者から設定情報の記録の開始が指示されたか否かを判断し、記録の開始が指示されたと判断されたとき、トリガー部703を準備状態にする。
シーンチェンジ検出部702は、画像再生部12から供給される画像を解析し、シーンチェンジを検出し、その結果を、トリガー部703に供給する。トリガー部703は、開始操作入力部701により準備状態にされているときに、シーンチェンジ検出部702からシーンチェンジを検出したとの結果が供給されると、蓄積ブロック43に対して、設定情報の蓄積を開始するように指示を出すか、または、蓄積を終了するように指示を出す。
図48において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図48に示した画像処理装置13は、開始操作入力部711、シーンチェンジ検出部712、およびトリガー部713を、図6に示した画像処理装置13に追加した構成とされている。
開始操作入力部711は、操作情報認識部45からの操作情報を解析し、使用者から操作情報の記録の開始が指示されたか否かを判断し、記録の開始が指示されたと判断されたとき、トリガー部713を準備状態にする。
シーンチェンジ検出部712は、画像再生部12から供給される画像を解析し、シーンチェンジを検出し、その結果を、トリガー部713に供給する。トリガー部713は、開始操作入力部711により準備状態にされているときに、シーンチェンジ検出部712からシーンチェンジを検出したとの結果が供給されると、蓄積ブロック151に対して、操作情報の蓄積を開始するように指示を出すか、または蓄積を終了するように指示を出す。
次に、図47、図48に示した画像処理装置13の動作について、図49,50のフローチャートを参照して説明する。図47に示した画像処理装置13と図48に示した画像処理装置13は、基本的に同様の動作であるので、図49,50のフローチャートを参照した説明では、図47に示した画像処理装置13の動作を例に挙げて説明する。
図49のフローチャートを参照し、シーンチェンジを検出し、シーンチェンジに応じて記録を開始または終了する画像処理装置13の動作について説明する。図49に示したフローチャートの処理は、基本的に図40のフローチャートと同様の流れであるが、ステップS702において、ステップS522で実行されていたトリガー処理の代わりにシーンチェンジに係わる処理が実行される点が異なる。
先に説明したステップS522で実行されるトリガー処理は、記録を開始する開始点と記録を終了する終了点が使用者により指示されており、その開始点と終了点をトリガーとして、設定情報などの記録が制御される処理であったが、ステップS702で実行されるシーンチェンジに係わる処理は、トリガー処理における開始点と終了点が、シーンチェンジの検出された時点であり、シーンチェンジが検出された時点をトリガーとして、設定情報などの記録が制御される処理である。よって、ステップS702以外の処理は、図40のフローチャートを参照して説明した場合と同様に行われるので、同様に行われる処理に関する説明は省略する。
ステップS702において実行されるシーンチェンジに係わる処理について図50のフローチャートを参照して説明する。ステップS731において、記録開始の指示があったか否かが判断される。記録開始の指示とは、図46Bを参照して、時点T12で出される指示として説明したように、使用者が、指示した後のシーンチェンジがあった時点から設定情報などの記録を開始することを所望したときに出される指示である。この記録開始の指示は、例えば、リモートコントローラ14の所定のボタンが操作されることにより行われる。
開始操作入力部701は、操作情報認識部45からの操作情報を解析し、記録の開始を指示する操作であるか否かを判断する。ステップS731において、記録の開始を指示する操作であると判断された場合、ステップS732に処理が進められ、シーンチェンジ検出フラグが立てられる。このシーンチェンジ検出フラグが立てられている間は、シーンチェンジ検出部702によりシーンチェンジが検出される。
ステップS732において、シーンチェンジ検出フラグが立てられると、ステップS733に処理が進められる。ステップS733への処理には、ステップS731において、記録開始の指示はないと判断されたときにも来る。ステップS733において、シーンチェンジ検出フラグが立っているか否かが判断される。
ステップS733において、シーンチェンジ検出フラグが立っていると判断された場合、ステップS734に処理が進められる。ステップS734において、シーンチェンジがあったか否かが判断される。シーンチェンジ検出部702は、シーンチェンジ検出フラグが立っているときには、画像再生部12から供給される画像データを用いて、シーンチェンジがあったか否かを判断する。
ステップS734において、シーンチェンジはないと判断された場合、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。
一方、ステップS734において、シーンチェンジがあったと判断された場合、ステップS735に処理が進められ、記録中フラグが立っているか否かが判断される。ステップS735において、記録中フラグは立っていないと判断された場合、ステップS736に処理が進められ、記録中フラグが立てられる。そして、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。記録中フラグが立てられたことにより、使用者による操作(編集)による設定情報などの記録が開始される状態とされる。
一方、ステップS735において、記録中フラグは立っていると判断された場合、ステップS737に処理が進められ、記録中フラグが下げられる。この場合、記録中フラグが立っているということは、使用者により記録の開始が指示された後、シーンチェンジがあり(1度目のシーンチェンジがあり)、記録が開始されている状態であるので、2度目のシーンチェンジが検出されたときには、記録を終了させるために、立てられている記録中フラグが下げられる。
このように記録中フラグが制御されることにより、1度目のシーンチェンジのときに記録が開始され、2度目のシーンチェンジのときに記録が終了されるように制御される。
ステップS738において、シーンチェンジ検出フラグが下げられる。そして、シーンチェンジに係わる処理が終了され、ステップS703(図49)に処理が進められ、それ以降の処理が実行される。
このように、シーンチェンジ検出フラグが制御されることにより、使用者が記録開始の指示をした後の時点での1シーンにおける設定情報の記録を行うことが可能となる。
このように、設定情報などの記録を、シーンチェンジを検出することにより制御することで、記録の開始時には、設定値を標準値以外にも設定することができ、より効果的な自由度の高い編集を行うことが可能となる。また、記録の終了時も、使用者は記録を終了させるための操作を、編集のための操作と同時に行わなくても良いため、シーンの変わり目というコンテンツの切れ目で、的確に終了させることが可能となる。
[キーポイントの指定による記録について]
次に、キーポイントという概念を導入した編集について説明を加える。キーポイントとは、使用者が編集の前または後で設定されるポイントであり、その設定されたキーポイントの間で、滑らかに設定値が変化するように制御するためのポイントである。まず、図50A乃至Cを参照して、キーポイントの設定と設定されたキーポイント間での設定値の記録について説明する。
図51Aに示すように、1回目の操作において、時点T1からコンテンツに対して操作が加えられた場合、時点T1から設定値が記録される。設定値が記録される前または記録された後(図51A,Bでは、後の場合を例に挙げて図示してある)の時点で、図51Bに示したようなキーポイントが指定される。
キーポイントとしては、時点T1より後の時点である時点T2、時点T4、および時点T5の3つのポイントが指定される。このように、キーポイントが指定された場合、1回目の操作にかかわらず、図51Cに示したように、指定されたキーポイント間で、滑らかに設定値が変化するように設定値が補間され、記憶される。
時点T1から時点T2(キーポイント)までは、徐々に設定値が大きくなるように補間され、記憶される。また時点T2から時点T4までのキーポイント間も、徐々に設定値が大きくなるように補間され、記憶される。図51Aの上段を参照するに、時点T1より時点T4の方が、大きな設定値が記録されていたため、図51Cに示したように、時点T1から時点T4までの設定値としては、徐々に設定値が上昇するような設定値が記録される。
キーポイントとして設定された時点T4から時点T5までは、図51Aを参照するに、時点T4より時点T5の方が、小さな設定値が記録されていたため、図51Cに示したように、時点T4から時点T5までの設定値としては、徐々に設定値が減少するような設定値が記録される。
このように、キーポイントが設定され、その設定されたキーポイント間で、設定値が徐々に変化するような設定値が、既に記録されているまたは後で記録されるキーポイントの時点での設定値に基づいて再設定され、記憶される。このような処理が行われることで、滑らかに変化する設定値を記録させることが可能となる。
このような設定されたキーポイント間で滑らかに設定値が変化する設定情報の記録を行う画像処理装置13の構成について説明する。
図52は、図5に示した画像処理装置13に、キーポイントによる記録範囲指定機能を追加した構成例を示し、図53は、図6に示した画像処理装置13に、キーポイントによる記録範囲指定機能を追加した構成例を示している。
図52において、図5と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図52に示した画像処理装置13は、キーポイントに関する処理を実行するキーポイント指定部801、キーポイント蓄積部802、設定情報補間部803、一時蓄積ブロック804、および同期検出部805を、図5に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック804は、特徴量設定情報記録部811、特徴量設定情報蓄積部812、および特徴量設定情報読出部813を備える構成とされている。すなわち、一時蓄積ブロック804は、蓄積ブロック43と同様の構成とされている。この場合、キーポイントが設定された後、操作が行われ、その後、キーポイント間の設定情報が補間されるため、操作が行われたときの設定値(同期情報)が一時的に記録された後、設定情報の補間の処理を行うために、一時的に設定情報を記録しておく必要があり、その記録を、一時蓄積ブロック804が行う構成とされている。
キーポイント指定部801は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、キーポイントの指定(設定)に係わる処理を実行する。キーポイント蓄積部802は、キーポイント指定部801により指定されたキーポイントを蓄積する。設定情報補間部803は、キーポイント蓄積部802に蓄積されたキーポイントと、一時蓄積ブロック804に蓄積された設定情報を参照し、キーポイント間の設定情報を補間する。
一時蓄積ブロック804の各部は、蓄積ブロック43と同様の構成とされ、設定情報を補間する際に必要とされるキーポイン時の設定情報などを一時的に蓄積する。また、同期検出部805は、同期検出部42と同様に、同期を検出する。
図53において、図6と同一の構成については、同一の符号を付しており、その説明は適宜省略する。図53に示した画像処理装置13は、キーポイントに関する処理を実行するキーポイント指定部841、キーポイント蓄積部842、操作情報補間部843、一時蓄積ブロック844、および同期検出部845を、図6に示した画像処理装置13に追加した構成とされている。
また、一時蓄積ブロック844は、特徴量操作情報記録部851、特徴量操作情報蓄積部852、および特徴量操作情報読出部853を備える構成とされている。すなわち、一時蓄積ブロック844は、蓄積ブロック151と同様の構成とされている。この場合、キーポイントが設定された後、操作が行われ、その後、キーポイント間の操作情報が補間されるため、操作が行われたときの同期情報などが一時的に記録しておく必要があり、その記録を、一時蓄積ブロック844が行う構成とされている。
キーポイント指定部841は、操作情報認識部45からの操作情報に基づき、すなわち、使用者の指示に基づき、キーポイントの指定(設定)に係わる処理を実行する。キーポイント蓄積部842は、キーポイント指定部841により指定されたキーポイントを蓄積する。操作情報補間部843は、キーポイント蓄積部842に蓄積されたキーポイントと、一時蓄積ブロック844に蓄積された操作情報を参照し、キーポイント間の操作情報を補間する。
一時蓄積ブロック844の各部は、蓄積ブロック151と同様の構成とされ、操作情報を補間する際に必要とされるキーポイント時の操作情報などを一時的に蓄積する。また、同期検出部845は、同期検出部42と同様に、同期を検出する。
次に、図52、図53に示した画像処理装置13の動作について、図54,55のフローチャートを参照して説明する。図52に示した画像処理装置13と図53に示した画像処理装置13は、基本的に同様の動作であるので、図54,55のフローチャートを参照した説明では、図52に示した画像処理装置13の動作を例に挙げて説明する。
この場合、キーポイントが設定された後の時点で、使用者により操作がされ、設定値が記録されるので、まず、図54のフローチャートを参照し、キーポイントの設定と記録に関する処理について説明する。
ステップS801において、画像再生部12から入力される映像(フレーム)に対して、特徴量抽出処理が行われる。ステップS801において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS801の処理において抽出された特徴量は、ステップS802において、特徴量設定情報蓄積部812に記録される。
ステップS803において、キーポイントが指定されたか否かが判断される。キーポイント指定部801は、操作情報認識部45により認識された操作情報を解析し、使用者の操作は、キーポイントを指定する操作であったか否かを判断する。キーポイントは、動画像を構成するフレームのうちの、使用者が指示したフレームに設定される。
ステップS803において、キーポイントが指示されたと判断された場合、ステップS804において、キーポイントが設定されたときの画像から抽出された特徴量が記録される。キーポイント指定部801は、キーポイントが指示されたと判断した場合、その時点での画像から抽出された特徴量(同期用特徴量)(ステップS801において抽出された特徴量)を、キーポイントと関連付けて、キーポイント蓄積部802に蓄積させる。なお、この際、特徴量自体は、一時蓄積ブロック804にも蓄積される。
キーポイントと関連付けられてキーポイント時の特徴量が記録されると、ステップS805に処理が進められる。ステップS805への処理は、ステップS803において、キーポイントは指定されていないと判断されたときにもくる。
ステップS805において、キーポイントの設定が終了されたか否かが判断される。ステップS805において、キーポイントの設定は終了されていないと判断された場合、ステップS801に処理が戻され、次のフレームに対して、同様の処理が繰り返される。一方、ステップS805において、キーポイント設定の終了が指示されたと判断された場合、キーポイント記録の処理は終了される。
なお、ステップS805において、キーポイントの設定が終了されたか否かの判断は、使用者による設定終了の指示があったか否かが判断されることにより行われるようにしても良いし、コンテンツの最後のフレームまで処理が行われたときには、設定が終了されたと判断されるようにしても良い。
このようにして、キーポイントが指示された後に、そのキーポイント間で設定値が滑らかに変化するように設定値の記録が制御される際の処理について、図55のフローチャートを参照して説明する。
ステップS821において、特徴量抽出処理が実行される。ステップS821において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS822において、同期検出処理が実行される。ステップS822において実行される同期検出処理は、図13のフローチャートを参照して説明した同期検出処理と同様に行われるので、その説明は省略する。
ステップS823において、キーポイントであるか否かが判断される。キーポイント蓄積部802に蓄積されているキーポイント(キーポイントが指示されたときの同期用の特徴量)が参照され、ステップS823における判断が行われる。ステップS823において、キーポイントであると判断された場合、ステップS824に処理が進められる。
ステップS824において、設定値が記録される。この設定値は、一時蓄積ブロック804に、キーポイントと関連付けられて記録される。後の処理(ステップS829の処理)において、このキーポイントに関連付けられた設定値を基準として、設定値の補間が行われるため、ステップS824において、設定値がキーポイントと関連付けられて一時蓄積ブロック804に記憶される。
ステップS824の処理が終了されると、または、ステップS823において、キーポイントではないと判断された場合、ステップS825に処理が進められる。ステップS8245において、操作情報が取得され、ステップS826において、取得された操作内容が設定値に反映される。
ステップS828において、記録が終了されたか否かが判断される。ステップS828において、記録は終了していないと判断された場合、ステップS821に処理が戻され、それ以降の処理が繰り返される。一方、ステップS827において、記録が終了されたと判断された場合、ステップS828に処理が進められる。
すなわち、ステップS821乃至S827の処理が繰り返されることにより、設定された複数のキーポイントにおける設定値が記録され、そのような設定値の記録が終了されたと判断されると、ステップS828以降の処理が行われる。
ステップS828において、設定値の補間が行われる。設定情報補間部803は、一時蓄積ブロック804に蓄積されている設定値のうち、キーポイントと関連付けられている設定値を読み出す。設定情報補間部803は、時間的に隣り合う2つのキーポイントを読み出し(必要に応じ、キーポイント蓄積部802に蓄積されているキーポイントの特徴量を参照し)、時間的に隣り合う2つのキーポイント間の設定情報を補間することにより、設定情報の補間を行う。
例えば、図51Cを参照して説明したように、キーポイントして設定された時点T2のときの設定情報と、時点T2の次の時点でキーポイントが設定された時点T3のときの設定情報が用いられ、時点T2と時点T3との間の設定情報が補間される。
補間の仕方は、どのような方法を適用しても良い。例えば、2つのキーポイントの設定値を直線で結ぶような補間、多項式近似、スプライン、ベジエなどの滑らかな曲線を生成する関数を用いて2点を曲線で結ぶような補間などが適用されて、設定情報の補間が行われる。
また、例えば、隣り合うキーポイントの間隔が長い場合(所定の閾値を越えるような間隔である場合)、キーポイントの設定情報のみでなく、キーポイントの間の設定情報も用いて、キーポイント間の設定情報が補間されるようにしても良い。図52や図53に示したように、画像処理装置13は、一時蓄積ブロック804(844)を有する構成とされているので、この一時蓄積ブロック804(844)に蓄積されている設定情報を用いて、キーポイント以外の設定情報を取得することが可能である。
また、キーポイントの間隔により、用いる関数を変えるなどしても良い。
このようにして、ステップS828における処理で補間された設定情報は、ステップS829において、蓄積ブロック43に供給され、記録される。
このように、キーポイントを設定し、設定されたキーポイント間で、滑らかに設定情報が変化するように、設定情報が補間(生成)されることにより、また、補間された設定情報が記録されることにより、使用者は、簡便な操作だけで、滑らかに変化する操作履歴を作成することが可能となる。
次に、キーポイントが使用者の操作の後に設定される場合について説明する。このような場合、使用者により、まず、映像に対して編集が加えられ、編集の後に、キーポイントが設定され、キーポイントが設定された後に、設定情報の補間が行われる。
このように編集の後にキーポイントが記録される場合であっても、画像処理装置13の構成は、図52や図53に示した構成と同様に構成することが可能である。すなわち、編集時の設定情報(操作情報)は、一時蓄積ブロック804(844)に蓄積される。一時蓄積ブロック804(844)に蓄積が終了された後に、キーポイント蓄積部802(842)にキーポイントが蓄積される。キーポイント蓄積部802(842)へのキーポイントの蓄積が終了された後に、設定情報補間部803(操作情報補間部843)により、設定情報(操作情報)の補間が行われ、蓄積ブロック43(151)に、設定情報(操作情報)が蓄積される。
よって、画像処理装置13は、キーポイントを編集の後に設定する場合であっても、キーポイントを編集の前に設定する場合と同様の構成とすることができる。
次に、図52、図53に示した画像処理装置13の動作について説明する。図52に示した画像処理装置13と図53に示した画像処理装置13は、基本的に同様の動作であるので、図52に示した画像処理装置13の動作を例に挙げて説明する。
上記したように、キーポイントが設定される前の時点で、編集(操作)が行われ、一時蓄積ブロック804には設定情報が蓄積される。この一時蓄積ブロック804に設定情報が蓄積されるまでの、画像処理装置13の動作は、図10のフローチャートの処理と同様に行われるため、ここでは、その説明を省略する。
一時蓄積ブロック804に設定情報が蓄積された後の時点で行われるキーポイントの設定に関わる処理について、図56のフローチャートを参照して説明する。
ステップS901において、特徴量抽出処理が実行される。ステップS901において実行される特徴量抽出処理は、図11のフローチャートを参照して説明した特徴量抽出処理と同様に行われるため、その説明は省略する。ステップS902において、同期検出処理が実行される。ステップS902において実行される同期検出処理は、図13のフローチャートを参照して説明した同期検出処理と同様に行われるので、その説明は省略する。
ステップS903において、同期したか否かが判断される。ステップS903において、同期したと判断された場合、ステップS904に処理が進められる。ステップS904において、一時蓄積ブロック804に蓄積されている設定情報が反映され、その設定情報が反映された画像が、使用者に提供される。
ステップS905において、キーポイントが指定されたか否かが判断される。この判断は、キーポイント指定部801において、図54のステップS803の処理と同様に判断される。
ステップS905において、キーポイントが指定されたと判断された場合、ステップS906に処理が進められる。ステップS906において、設定値が記録される。このステップS906の処理は、図55のステップS824の処理と同様に行われる。すなわち、指定されたキーポイントのときの設定情報が、キーポイントと関連付けられて一時蓄積ブロック804に記録される(この場合、一時蓄積ブロック804に蓄積されている設定情報が、キーポイントと関連付けられることにより、更新される)。
ステップS903において同期していないと判断された場合、ステップS905において、キーポイントの指定はされていないと判断された場合、またはステップS906における処理が終了した場合、ステップS907に処理が進められる。ステップS907において、記録が終了されたか否かが判断される。
ステップS907において、記録は終了されていないと判断された場合、ステップS901に処理が戻され、それ以降の処理が繰り返される。一方、ステップS907において、記録が終了されたと判断された場合、ステップS908に処理が進められる。
記録が終了されたと判断されるのは、使用者により指示されたとき、一時蓄積ブロック804に蓄積されている設定情報がなくなったときなどである。
ステップS908において、設定情報の補間が行われ、ステップS909において、補間された設定情報の記録が行われる。このステップS908とステップS909の処理は、図55のステップS828とステップS829の処理と同様に行われるため、その説明は省略する。
このように、キーポイントを、編集の後に設定されるようにしたとしても、編集の前に設定される場合と同様に、キーポイント間で設定情報を滑らかに変化させることが可能となる。よって、使用者に、急激に変化してしまうような画像を提供するようなことを発生しないようにすることが可能となる。
上述した実施の形態においては、使用者による編集(操作)が行われたときに、設定値が急激に変化するようなことがないように制御される例を挙げて説明したが、本発明は、このような例に限定されるわけではない。
このように、本発明によれば、自由度の高い記録を行うことが可能となる。また、その記録は、急激に画像が変化するような視聴者にとって目障りな変化が起こらないようにすることが可能となる。
[記録媒体について]
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
図57は、画像処理装置13の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU1001は、パーソナルコンピュータの全体の動作を制御する。また、CPU1001は、バス1004および入出力インタフェース1005を介してユーザからキーボードやマウスなどからなる入力部1006から指令が入力されると、それに対応してROM(Read Only Memory)1002に格納されているプログラムを実行する。あるいはまた、CPU1001は、ドライブ1010に接続された磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリを含むリムーバルディスク1021から読み出され、記憶部1008にインストールされたプログラムを、RAM(Random Access Memory)1003にロードして実行する。これにより、上述したの画像処理装置13の機能が、ソフトウェアにより実現されている。さらに、CPU1001は、通信部1009を制御して、外部と通信し、データの授受を実行する。
プログラムが記録されている記録媒体は、図57に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリを含むリムーバルメディア1021などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM1002や、記憶部1008に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
従来の編集に関する設定値の変化について説明する図である。 従来の編集に関する設定値の変化について説明する図である。 本発明の画像処理装置の概念を説明するための図である。 本発明の画像処理装置の概念を説明するための図である。 本発明を適用した画像処理装置の一実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 特徴量抽出部の構成例を示すブロック図である。 画像信号の構成例を説明する図である。 同期検出部の構成例を示すブロック図である。 画像処理装置による画像処理を説明するフローチャートである。 特徴量抽出処理を説明するフローチャートである。 同期に係わる処理を説明するフローチャートである。 同期検出処理を説明するフローチャートである。 操作時の処理を説明するフローチャートである。 同期検出処理を説明する図である。 特徴量抽出処理を説明する図である。 滑らか終了に関する設定値の変化について説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理を説明するフローチャートである。 同期に係わる処理を説明するフローチャートである。 滑らか終了処理を説明するフローチャートである。 操作時の処理を説明するフローチャートである。 滑らか終了について説明する図である。 操作自動終了に関する設定値の変化について説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理を説明するフローチャートである。 同期に係わる処理を説明するフローチャートである。 操作時の処理を説明するフローチャートである。 加算処理について説明する図である。 加算処理について説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 操作時の処理を説明するフローチャートである。 範囲指定について説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 範囲指定の処理について説明するフローチャートである。 画像処理について説明するフローチャートである。 トリガー処理について説明するフローチャートである。 操作時の処理を説明するフローチャートである。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 範囲指定の処理について説明するフローチャートである。 シーンチェンジ検出について説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理について説明するフローチャートである。 シーンチェンジに係わる処理について説明するフローチャートである。 キーポイントについて説明する図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 画像処理装置の他の実施の形態の構成を示すブロック図である。 キーポイント記録処理について説明するフローチャートである。 画像処理について説明するフローチャートである。 キーポイント記録処理について説明するフローチャートである。 媒体について説明する図である。
符号の説明
11 記録メディア, 12 画像再生部, 13 画像処理装置, 14 リモートコントローラ, 15 表示部, 41 特徴量抽出部, 42 同期検出部, 43 蓄積ブロック, 44 受光部, 45 操作情報認識部, 46 設定情報決定部, 47 選択部, 48 遅延部, 49 反映部, 61 特徴量設定情報記録部, 62 特徴量設定情報蓄積部, 63 特徴量設定情報読出部, 151 蓄積ブロック, 152 選択部, 153 設定情報決定部, 161 特徴量操作情報記録部, 162 特徴量操作情報蓄積部, 163 特徴量操作情報読出部, 201 滑らか終了制御部, 211 滑らか終了制御部, 301 操作自動終了制御部, 311 操作自動終了制御部, 401 設定値加算部, 411 設定情報決定部, 501 範囲指定部, 502 範囲記録部, 503 トリガー部, 511 範囲指定部, 512 範囲記録部, 513 トリガー部, 601 範囲指定部, 602 トリガー部, 603 一時蓄積ブロック, 611 特徴量設定情報記録部, 612 特徴量設定情報蓄積部, 613 特徴量設定情報読出部, 641 範囲指定部, 642 トリガー部, 643 一時蓄積ブロック, 644 同期検出部, 651 特徴量設定情報記録部, 652 特徴量設定情報蓄積部, 653 特徴量設定情報読出部, 701 開始操作入力部, 702 シーンチェンジ検出部, 703 トリガー部, 711 開始操作入力部, 712 シーンチェンジ検出部, 713 トリガー部, 801 キーポイント指定部, 802 キーポイント蓄積部, 803 設定情報補間部, 804 一時蓄積ブロック, 805 同期検出部, 811 特徴量設定情報記憶部, 812 特徴量設定情報蓄積部, 813 特徴量設定情報読出部, 841 キーポイント指定部, 842 キーポイント蓄積部, 843 設定情報補間部, 844 一時蓄積ブロック, 845 同期検出部, 851 特徴量設定情報記憶部, 852 特徴量設定情報蓄積部, 853 特徴量設定情報読出部

Claims (38)

  1. 画像より特徴量を抽出する特徴量抽出手段と、
    前記画像に対して処理を加えるための設定情報を設定する設定手段と、
    前記設定手段により設定された前記設定情報を編集する編集手段と、
    前記画像の特徴量に対応付けて前記編集手段により編集された前記設定情報をデータ記録媒体に記録する記録手段と
    を備える画像処理装置。
  2. 前記編集手段は、前記設定手段による設定が終了されるとき、前記設定手段により設定された前記第1の設定情報から、設定情報の標準とされている第2の設定情報まで徐々に変化するように、前記第1の設定情報から前記第2の設定情報の間の設定情報を編集する
    請求項1に記載の画像処理装置。
  3. 前記編集手段は、前記設定手段による設定が終了されるとき、その時点で前記設定手段により設定された第1の設定情報から、前記第1の設定情報が設定された画像より後の時点の画像の設定情報であり、前記データ記録媒体に記録されている第2の設定情報に、徐々に変化するように、前記第1の設定情報から前記第2の設定情報の間の設定情報を編集する
    請求項1に記載の画像処理装置。
  4. 前記編集手段は、前記第1の設定情報から所定の値を減算または加算した第3の設定情報を、前記第1の設定情報に対応する画像の次の時点における画像の設定情報とし、
    前記第3の設定情報が前記第2の設定情報と所定の範囲内の設定情報ではないとき、前記第3の設定情報からさらに前記所定の値を減算または加算した第3の設定情報をさらに次の時点における画像の設定情報とし、
    前記第3の設定情報が前記第2の設定情報と所定の範囲内の設定情報になったとき、前記第3の設定情報を前記第2の設定情報とする
    請求項3に記載の画像処理装置。
  5. 前記編集手段は、前記設定手段により設定された前記設定情報と、その設定情報が設定された画像と同一の画像で設定され、前記データ記録媒体に記録されている前記設定情報を加算する
    請求項1に記載の画像処理装置。
  6. 前記編集手段による編集の対象となる期間の開始または終了を指定するキーポイントを設定するキーポイント設定手段をさらに備え、
    前記編集手段は、前記キーポイント設定手段により設定された前記キーポイントのうち、隣接するキーポイント間で、一方のキーポイントの設定情報から他方のキーポイントの設定情報に徐々に変化するように編集する
    請求項1に記載の画像処理装置。
  7. 前記キーポイント設定手段は、前記記録手段による記録が行われる前の時点で前記キーポイントを設定するか、または、前記記録手段による記録が行われた後の時点で前記キーポイントを設定する
    請求項6に記載の画像処理装置。
  8. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む画像処理方法。
  9. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラムを記録している記録媒体。
  10. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記設定ステップの処理で設定された前記設定情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理で編集された前記設定情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
  11. 画像より特徴量を抽出する特徴量抽出手段と、
    前記画像に対して処理を加えるための設定情報を設定する設定手段と、
    前記画像の特徴量に対応付けて前記設定情報をデータ記録媒体に記録する記録手段と、
    前記記録手段により前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段と
    を備える画像処理装置。
  12. 前記制御手段は、前記設定手段により設定される前記設定情報が連続して同一である場合、前記設定手段により設定される前記設定情報が前記データ記録媒体に記録されている対応する設定情報に近似する場合、または、前記設定手段により設定される前記設定情報が設定情報の標準とされている設定情報に近似する場合、前記記録手段により前記設定情報を前記データ記録媒体に記録しないと判断する
    請求項11に記載の画像処理装置。
  13. 前記記録手段による記録を開始させる開始点と、終了させる終了点を指定する指定手段をさらに備え、
    前記制御手段は、前記指定手段により指定された開始点から、前記記録手段により前記設定情報を前記データ記録媒体に記録すると判断し、前記指定手段により指定された終了点から、前記記録手段により前記設定情報を前記データ記録媒体に記録しないと判断する
    請求項11に記載の画像処理装置。
  14. 前記指定手段は、前記記録手段による記録が行われる前の時点で前記開始点と前記終了点を指定する
    請求項13に記載の画像処理装置。
  15. 前記記録手段は、一時的に、前記データ記録媒体に前記設定情報を記録し、
    前記指定手段は、前記記録手段による記録が行われた後、前記開始点と前記終了点を指定し、
    前記制御手段は、一時的に前記データ記録媒体に記録された前記設定情報を、前記開始点から前記データ記録媒体に記録し直し、前記終了点で前記データ記録媒体の記録のし直しを終了する
    請求項13に記載の画像処理装置。
  16. シーンチェンジを検出する検出手段をさらに備え、
    前記制御手段は、前記検出手段によりシーンチェンジが検出された場合、前記記録手段により前記設定情報が前記データ記録媒体に記録されていないときには記録を開始させると判断し、前記記録手段により前記設定情報が前記データ記録媒体に記録されているときには記録を終了させると判断する
    請求項15に記載の画像処理装置。
  17. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む画像処理方法。
  18. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラムを記録している記録媒体。
  19. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記画像の特徴量に対応付けた前記設定情報のデータ記録媒体への記録を制御する際、前記設定情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
  20. 画像より特徴量を抽出する特徴量抽出手段と、
    前記画像に対する処理を指定するための操作をする操作手段と、
    前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段と、
    前記操作情報を編集する編集手段と、
    前記画像の特徴量に対応付けて前記編集手段により編集された前記操作情報をデータ記録媒体に記録する記録手段と
    を備える画像処理装置。
  21. 前記編集手段は、前記操作手段による操作が終了されるとき、その時点での第1の操作情報から、操作情報の標準とされている第2の操作情報まで徐々に変化するように、前記第1の操作情報から前記第2の操作情報の間の操作情報を編集する
    請求項20に記載の画像処理装置。
  22. 前記編集手段は、前記操作手段による操作が終了されるとき、その時点での第1の操作情報から、後の時点の操作情報であり、前記データ記録媒体に記録されている第2の操作情報に、徐々に変化するように、前記第1の操作情報から前記第2の操作情報の間の操作情報を編集する
    請求項20に記載の画像処理装置。
  23. 前記編集手段は、前記第1の操作情報から所定の値を減算または加算した第3の操作情報を、前記第1の操作情報に対応する画像の次の時点における画像の操作情報とし、
    前記第3の操作情報が前記第2の操作情報と所定の範囲内の操作情報ではないとき、前記第3の操作情報からさらに前記所定の値を減算または加算した第3の操作情報をさらに次の時点における画像の操作情報とし、
    前記第3の操作情報が前記第2の操作情報と所定の範囲内の操作情報になったとき、前記第3の操作情報を前記第2の操作情報とする
    請求項22に記載の画像処理装置。
  24. 前記編集手段は、前記操作情報と、その操作情報が取得されたときの画像と同一の画像から取得され、前記データ記録媒体に記録されている前記操作情報を加算する
    請求項20に記載の画像処理装置。
  25. 前記編集手段による編集の対象となる期間の開始または終了を指定するキーポイントを設定するキーポイント設定手段をさらに備え、
    前記編集手段は、前記キーポイント設定手段により設定された前記キーポイントのうち、隣接するキーポイント間で、一方のキーポイントの操作情報から他方のキーポイントの操作情報に徐々に変化するように編集する
    請求項20に記載の画像処理装置。
  26. 前記キーポイント設定手段は、前記記録手段による記録が行われる前の時点で前記キーポイントを設定するか、または、前記記録手段による記録が行われた後の時点で前記キーポイントを設定する
    請求項25に記載の画像処理装置。
  27. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む画像処理方法。
  28. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラムを記録している記録媒体。
  29. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの処理での操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を編集する編集ステップと、
    前記画像の特徴量に対応付けて前記編集ステップの処理により編集された前記操作情報のデータ記録媒体への記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
  30. 画像より特徴量を抽出する特徴量抽出手段と、
    前記画像に対する処理を指定するための操作をする操作手段と、
    前記操作手段の操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定手段と、
    前記画像の特徴量に対応付けて前記操作情報をデータ記録媒体に記録する記録手段と、
    前記記録手段により前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき前記記録手段による記録を制御する制御手段と
    を備える画像処理装置。
  31. 前記制御手段は、前記操作手段からの信号が取得されない期間が一定時間以上であると判断された場合、前記操作情報が前記データ記録媒体に記録されている対応する操作情報に近似する場合、または、前記操作情報が操作情報の標準とされている操作情報に近似する場合、前記記録手段により前記操作情報を前記データ記録媒体に記録しないと判断する
    請求項30に記載の画像処理装置。
  32. 前記記録手段による記録を開始させる開始点と、終了させる終了点を指定する指定手段をさらに備え、
    前記制御手段は、前記指定手段により指定された開始点から、前記記録手段により前記操作情報を前記データ記録媒体に記録すると判断し、前記指定手段により指定された終了点から、前記記録手段により前記操作情報を前記データ記録媒体に記録しないと判断する
    請求項30に記載の画像処理装置。
  33. 前記指定手段は、前記記録手段による記録が行われる前の時点で前記開始点と前記終了点を指定する
    請求項32に記載の画像処理装置。
  34. 前記記録手段は、一時的に、前記データ記録媒体に前記操作情報を記録し、
    前記指定手段は、前記記録手段による記録が行われた後、前記開始点と前記終了点を指定し、
    前記制御手段は、一時的に前記データ記録媒体に記録された前記操作情報を、前記開始点から前記データ記録媒体に記録し直し、前記終了点で前記データ記録媒体の記録のし直しを終了する
    請求項32に記載の画像処理装置。
  35. シーンチェンジを検出する検出手段をさらに備え、
    前記制御手段は、前記検出手段によりシーンチェンジが検出された場合、前記記録手段により前記操作情報が前記データ記録媒体に記録されていないときには記録を開始させると判断し、前記記録手段により前記操作情報が前記データ記録媒体に記録されているときには記録を終了させると判断する
    請求項34に記載の画像処理装置。
  36. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む画像処理方法。
  37. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラムを記録している記録媒体。
  38. 画像より特徴量を抽出する特徴量抽出ステップと、
    前記画像に対する処理を指定するための操作をする操作ステップと、
    前記操作ステップの操作内容により、前記画像に対して処理を加えるための設定情報を設定する設定ステップと、
    前記操作情報を前記データ記録媒体に記録するか否かを判断し、その判断に基づき記録を制御する記録制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
JP2006132713A 2006-05-11 2006-05-11 画像処理装置および方法、並びにプログラム Expired - Fee Related JP4826333B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006132713A JP4826333B2 (ja) 2006-05-11 2006-05-11 画像処理装置および方法、並びにプログラム
US11/800,803 US8073274B2 (en) 2006-05-11 2007-05-07 Image processing apparatus, image processing method, storage medium, and program
KR1020070044461A KR101410611B1 (ko) 2006-05-11 2007-05-08 화상 처리 장치 및 방법, 기록 매체 및 프로그램
CN2007101029083A CN101071599B (zh) 2006-05-11 2007-05-11 图像处理设备、图像处理方法
EP07108067A EP1855487A2 (en) 2006-05-11 2007-05-11 Image processing apparatus, image processing method, storage medium, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006132713A JP4826333B2 (ja) 2006-05-11 2006-05-11 画像処理装置および方法、並びにプログラム

Publications (3)

Publication Number Publication Date
JP2007306313A true JP2007306313A (ja) 2007-11-22
JP2007306313A5 JP2007306313A5 (ja) 2009-06-25
JP4826333B2 JP4826333B2 (ja) 2011-11-30

Family

ID=38434208

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006132713A Expired - Fee Related JP4826333B2 (ja) 2006-05-11 2006-05-11 画像処理装置および方法、並びにプログラム

Country Status (5)

Country Link
US (1) US8073274B2 (ja)
EP (1) EP1855487A2 (ja)
JP (1) JP4826333B2 (ja)
KR (1) KR101410611B1 (ja)
CN (1) CN101071599B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4991506B2 (ja) * 2007-12-07 2012-08-01 キヤノン株式会社 画像編集装置及び画像編集方法
JP2010057017A (ja) * 2008-08-29 2010-03-11 Konica Minolta Business Technologies Inc 画像処理装置および画像処理方法
US9141859B2 (en) 2008-11-17 2015-09-22 Liveclips Llc Method and system for segmenting and transmitting on-demand live-action video in real-time
US9141860B2 (en) * 2008-11-17 2015-09-22 Liveclips Llc Method and system for segmenting and transmitting on-demand live-action video in real-time
KR101643602B1 (ko) * 2009-06-24 2016-07-29 삼성전자주식회사 구도 가이드 방법 및 장치, 및 디지털 촬영 장치
US9367745B2 (en) 2012-04-24 2016-06-14 Liveclips Llc System for annotating media content for automatic content understanding
US20130283143A1 (en) 2012-04-24 2013-10-24 Eric David Petajan System for Annotating Media Content for Automatic Content Understanding
CN103531216A (zh) * 2012-07-04 2014-01-22 瀚宇彩晶股份有限公司 影音播放装置以及方法
JP2014075680A (ja) * 2012-10-03 2014-04-24 Sony Corp 画像処理装置、画像処理方法およびプログラム
CN103945134B (zh) * 2014-05-16 2017-08-01 深圳市东方拓宇科技有限公司 一种照片的拍摄和查看方法及其终端
CN109615309B (zh) * 2018-09-25 2022-11-01 创新先进技术有限公司 一种数据录制方法及装置、一种计算设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006109005A (ja) * 2004-10-04 2006-04-20 Canon Inc 画像出力装置および撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5099322A (en) * 1990-02-27 1992-03-24 Texas Instruments Incorporated Scene change detection system and method
US5404316A (en) * 1992-08-03 1995-04-04 Spectra Group Ltd., Inc. Desktop digital video processing system
JP4227241B2 (ja) * 1999-04-13 2009-02-18 キヤノン株式会社 画像処理装置及び方法
US6424789B1 (en) * 1999-08-17 2002-07-23 Koninklijke Philips Electronics N.V. System and method for performing fast forward and slow motion speed changes in a video stream based on video content
WO2001015459A1 (en) * 1999-08-24 2001-03-01 Fujitsu Limited Time-varying image processor, its method, and recorded medium
US7020381B1 (en) * 1999-11-05 2006-03-28 Matsushita Electric Industrial Co., Ltd. Video editing apparatus and editing method for combining a plurality of image data to generate a series of edited motion video image data
GB2374748A (en) * 2001-04-20 2002-10-23 Discreet Logic Inc Image data editing for transitions between sequences
JP2003202944A (ja) 2001-10-31 2003-07-18 Matsushita Electric Ind Co Ltd 動作指示装置
US20040240562A1 (en) * 2003-05-28 2004-12-02 Microsoft Corporation Process and system for identifying a position in video using content-based video timelines
US7725828B1 (en) * 2003-10-15 2010-05-25 Apple Inc. Application of speed effects to a video presentation

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006109005A (ja) * 2004-10-04 2006-04-20 Canon Inc 画像出力装置および撮像装置

Also Published As

Publication number Publication date
US20080019594A1 (en) 2008-01-24
JP4826333B2 (ja) 2011-11-30
KR20070109867A (ko) 2007-11-15
US8073274B2 (en) 2011-12-06
CN101071599B (zh) 2012-09-26
KR101410611B1 (ko) 2014-06-20
CN101071599A (zh) 2007-11-14
EP1855487A2 (en) 2007-11-14

Similar Documents

Publication Publication Date Title
JP4826333B2 (ja) 画像処理装置および方法、並びにプログラム
JP4670683B2 (ja) 画像処理装置および方法、データ記録媒体、プログラム記録媒体、並びにプログラム
US8036470B2 (en) Image processing apparatus, image processing method, and program
JP4735388B2 (ja) 再生装置および方法、並びにプログラム
JP4720544B2 (ja) 画像処理装置および方法、プログラム記録媒体、並びにプログラム
US8401302B2 (en) Image processing apparatus, image processing method, and program
JP4297073B2 (ja) 画像生成装置、これらの装置の処理方法およびその方法をコンピュータに実行させるプログラム
JP2007096675A (ja) 情報記録再生装置
JP4973935B2 (ja) 情報処理装置、情報処理方法、プログラム、および記録媒体
US7974514B2 (en) Image data processing device and image data processing method
JP2008294938A (ja) コンテンツ記録再生装置及びサムネイル作成方法
JP2006128880A (ja) Ieee1394シリアルバスに接続されるdvdレコーダ、及びieee1394シリアルバスに接続されるディジタル録画装置
JP2012156879A (ja) 記録装置及び再生装置
JP4332811B2 (ja) 撮像装置、携帯電話装置、および画像データ再生方法
JP2007243259A (ja) 画像処理装置および方法、プログラム記録媒体、並びにプログラム
JP2009130406A (ja) 映像記録装置
JP2007109338A (ja) 映像記録装置及びその制御方法
JP2009064503A (ja) 記録制御装置及び記録制御方法、プログラム、記憶媒体
JP2006253803A (ja) 情報記録装置
JP2007195214A (ja) 再生装置および画像データ再生方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090511

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110113

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110816

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110829

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140922

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4826333

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140922

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees