JPWO2017029849A1 - 画像処理方法、画像処理装置、プログラム - Google Patents

画像処理方法、画像処理装置、プログラム Download PDF

Info

Publication number
JPWO2017029849A1
JPWO2017029849A1 JP2017535262A JP2017535262A JPWO2017029849A1 JP WO2017029849 A1 JPWO2017029849 A1 JP WO2017029849A1 JP 2017535262 A JP2017535262 A JP 2017535262A JP 2017535262 A JP2017535262 A JP 2017535262A JP WO2017029849 A1 JPWO2017029849 A1 JP WO2017029849A1
Authority
JP
Japan
Prior art keywords
range
additional information
time
editing
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017535262A
Other languages
English (en)
Other versions
JP6844541B2 (ja
Inventor
林 直樹
直樹 林
慎太郎 梶原
慎太郎 梶原
嘉隆 中村
嘉隆 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017029849A1 publication Critical patent/JPWO2017029849A1/ja
Application granted granted Critical
Publication of JP6844541B2 publication Critical patent/JP6844541B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)

Abstract

付加情報に基づく動画データ編集の使用性及び編集効率の向上を図る。このため、まず動画データの時間軸に対応して付加された付加情報を認識する。そして付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、動画データの編集範囲を設定する。つまり付加データに応じて編集範囲とする部分を設定する。

Description

本技術は画像処理方法、画像処理装置、プログラムに関し、特に動画データに対する編集処理についての技術分野に関する。
特開2011−030159
ビデオカメラ等を用いた動画撮像が一般化しており、ユーザが所有する動画データの量も増えている。このような状況下で一般ユーザが動画データを編集する手段も、例えばパーソナルコンピュータ用のアプリケーションプログラム等で提供されており、動画編集という作業も一般化している。
例えば上記特許文献1には動画編集についての技術が開示されている。
動画編集が一般ユーザにとってより容易に楽しめるようにするためには、編集のための操作の簡易性や、操作のわかりやすさが必要である。さらにある程度の自動的な処理により、ユーザが望むような編集結果を提供又は提案できるようなものが望ましい。
そこで本技術は、付加データを利用した効率の良い編集処理をユーザに提供できるようにするとともに、編集範囲が適切に設定されるようにする手法を提案することを目的とする。
本技術に係る画像処理方法は、動画データの時間軸に対応して付加された付加情報を認識し、前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する画像処理方法である。
即ち少なくとも2種類の付加情報(第1,第2付加情報)に応じて編集範囲を設定する。
上記した画像処理方法においては、前記付加情報が前記第1付加情報である場合は、その第1付加情報が指定する特定時点に基づき編集範囲を設定し、前記付加情報が前記第2付加情報である場合は、その第2付加情報が指定する特定の時間範囲の始点と終点に基づき編集範囲を設定する。
第1付加情報は特定時点を示すため、その特定時点を編集範囲設定の基準とする。第2付加情報は特定の時間範囲を示すため、その時間範囲の始点と終点を編集範囲設定の基準とする。
上記した画像処理方法においては、前記第1付加情報に応じて、その特定時点の第1設定時間前の時点から該特定時点の第2設定時間後までの範囲を編集範囲と設定し、前記第2付加情報に応じて、その時間範囲の始点の第3設定時間前の時点から該時間範囲の終点の第4設定時間後までの範囲を編集範囲とする。
2種類の付加情報(第1,第2付加情報)に応じた編集範囲として、上記の第1設定時間、第2設定時間、第3設定時間、第4設定時間を用いる。なお第1設定時間、第2設定時間、第3設定時間、第4設定時間は、それぞれが同じ時間長でもよいし異なる時間長でもよい。
上記した画像処理方法においては、設定した編集範囲を、動画データからの切り出し範囲とする。
即ち、設定した編集範囲を、元の動画データを編集した編集動画データとして使用するようにする。
上記した画像処理方法においては、前記動画データについて設定した編集範囲を提示する表示を実行させる表示制御を行う。
例えば動画データの開始から終了までをバー形式等で表示する中で、編集範囲を提示する表示を行う。
上記した画像処理方法においては、前記第1付加情報によって指定される前記動画データ上の特定時点を提示する表示制御を行う。
例えば動画データを示すバー形式上で第1付加情報を示すマーク等を表示する。
上記した画像処理方法においては、前記第2付加情報が指定する前記動画データ上の特定の時間範囲を、代表時点を示すことで提示する表示制御を行う。
例えば動画データを示すバー形式上で第2付加情報を示すマーク等を表示する。
上記した画像処理方法においては、設定した編集範囲の情報に基づいて、動画再生表示を実行させる表示制御を行う。
即ち動画データについて1又は複数の編集範囲が設定された状態において、その編集範囲を切り出して再生表示させる。例えば複数の編集範囲を順番に切り出して連続して動画再生させる。
上記した画像処理方法においては、設定した編集範囲について、操作に応じて設定変更する編集操作対応処理を行う。
即ち動画データについて設定された編集範囲について、ユーザが操作により任意に設定変更できるようにする。例えば編集範囲の始点(in点)、終点(out点)の変更、或る編集範囲の削除、編集範囲の追加等をユーザ操作により可能とする。
上記した画像処理方法においては、設定した編集範囲の画像再生態様を操作に応じて変更する編集操作対応処理を行う。
動画データについて設定された編集範囲は、通常再生、例えば1倍速の通常表示の動画として編集動画に加えられる。この編集範囲の動画について、変速再生や画像エフェクト等の処理をユーザ操作で加えることができるようにする。
上記した画像処理方法においては、前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別を指定することに応じて、指定した種別の付加情報に対応する編集範囲に、所定の画像再生態様を設定する編集操作対応処理を行う。
即ち付加情報の種別を指定することで、その付加情報に対応する部分について共通に画像再生態様を設定する。例えば特定の付加情報に対応する編集範囲については、全てスロー再生とするなどの指定が行われるようにする。
上記した画像処理方法においては、前記動画データの編集範囲を設定する際には、前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別に応じて、前記第1設定時間、前記第2設定時間、前記第3設定時間、前記第4設定時間のいずれかを可変設定する。
即ち付加情報の種別に応じて編集範囲を決める設定時間を変更する。
上記した画像処理方法においては、前記付加情報の種別として、動画撮像時のユーザ操作に応じて付加される付加情報の場合に、前記第1設定時間、又は前記第3設定時間のいずれかを、通常設定時間長より長い時間長に設定する。
ユーザ操作に応じて設定される付加情報は、通常、指定する時間位置が遅れる。そこでそのような付加情報の場合は、時間長を長めにする。
上記した画像処理方法においては、設定された編集範囲の情報に基づいて、編集動画データを生成して出力する出力処理を行う。
動画データについて1又は複数の編集範囲が設定された状態において、或いはさらにその編集範囲が変更された状態において、例えば編集範囲を切り出してつなげて編集動画データを生成する。
上記した画像処理方法においては、前記出力処理では、前記編集動画データを記憶媒体に記憶させる出力処理を行う。
或いは上記した画像処理方法においては、前記出力処理では、前記編集動画データを外部機器に送信する出力処理を行う。
即ち編集動画データを記憶媒体に記憶する状態で保存したり、編集動画データを外部機器に送信する。送信の場合、送信先は例えば特定の記録機器、情報処理端末、クラウドサーバなどである。
本技術に係る画像処理装置は、動画データの時間軸に対応して付加された付加情報を認識する認識部と、前記認識部が認識した付加情報が、動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する編集処理部とを備える。
これにより上述の画像処理方法を実行できる装置を構成する。
本技術に係るプログラムは、動画データの時間軸に対応して付加された付加情報を認識するステップと、認識した前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定するステップとを情報処理装置に実行させるプログラムである。
これにより情報処理装置において上述の画像処理方法を実行できるようにする。
本技術によれば、特定時点を示す第1付加情報と、特定時間範囲を示す第2付加情報のそれぞれに応じて自動的に編集範囲を設定できるため、ユーザの編集作業の簡易性を実現しつつ、付加情報に応じた適切な編集範囲設定が実現される。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の実施の形態の画像処理装置のブロック図である。 実施の形態の画像処理装置を実現するハードウエア構成のブロック図である。 実施の形態の編集画面の説明図である。 実施の形態の編集画面の編集範囲表示状態の説明図である。 実施の形態で設定及び提示する編集範囲の説明図である。 実施の形態で設定及び提示する編集範囲の説明図である。 実施の形態のマーカー表示設定ウインドウの説明図である。 実施の形態のマーカー追加削除ウインドウの説明図である。 実施の形態の動画編集処理のフローチャートである。 実施の形態の動画編集処理のフローチャートである。 実施の形態の編集範囲設定処理のフローチャートである。 実施の形態の編集範囲設定処理のフローチャートである。 実施の形態の編集動画作成処理のフローチャートである。 実施の形態の再生関連操作対応処理のフローチャートである。
以下、実施の形態を次の順序で説明する。
<1.画像処理装置の構成>
<2.メタデータ>
<3.編集画面例>
<4.処理例>
<5.プログラム及び記憶媒体>
<6.まとめ及び変形例>
<1.画像処理装置の構成>
実施の形態の画像処理装置1の構成について図1を用いて説明する。画像処理装置1は、例えばパーソナルコンピュータや携帯端末(例えばスマートフォン、タブレット端末)等の情報処理装置においてソフトウエアにより実現される。或いは画像処理装置1は、ビデオカメラ等の撮像装置、画像記録装置、画像再生装置、画像表示装置等の機器に内蔵される場合もある。また画像処理装置1は画像編集装置として実現される場合もある。
実施の形態の画像処理装置1は、対象認識部2,編集処理部3,出力処理部4としての機能を有する。
また画像処理装置1に対して情報のやりとりを行う周辺部位として、記憶部10,通信部11,入力部12,表示部13,音声出力部14等がある。
なお、記憶部10,通信部11,入力部12,表示部13,音声出力部14は、それぞれ単体の機器として構成されても良いが、上述の情報処理装置、撮像装置、画像記録装置等の装置内の構成部位とされていてもよい。
さらにこれらの記憶部10,通信部11,入力部12,表示部13,音声出力部14の全部又は一部と、画像処理装置1は、同一の機器内に一体的に設けられていても良いし、別体機器とされて有線又は無線通信で接続されるものでもよい。
まず周辺部位について説明する。
記憶部10は動画データを記憶する記憶領域である。例えばD−RAM(Dynamic Random Access Memory)、S−RAM(Static Random Access Memory)、フラッシュメモリ等の半導体メモリとして形成されていてもよいし、HDD(Hard Disk Drive)、メモリカードドライブ、光ディスク等に対するディスクドライブなどでもよい。
この記憶部10には、例えばユーザがビデオカメラ等の撮像装置で撮像した動画データや、他の機器から転送した動画データ等が記憶されている。さらに記憶部10は、画像編集装置1で編集した動画データの記憶にも用いられる。
通信部11は、例えばインターネット等の公衆ネットワーク通信や専用回線通信、或いは近距離無線通信、有線通信等により外部機器と通信を行う。例えば画像編集装置1で編集した動画データを外部機器やネットワークサーバ等に送信する。また通信部11は、外部機器やネットワークサーバ等から受信した動画データを記憶部10に記憶させることもできる。
入力部12は、画像処理装置1に対するユーザの操作情報の入力部である。具体的な態様としてはキーボード、マウス、タッチパネル、ジェスチャ検知装置、操作キー、ダイアル等とされる。
表示部13は、画像処理装置1による編集作業用の画像や再生動画等を表示する。例えば液晶パネル、有機EL(Electroluminescence)パネル等の表示デバイスにより構成される。
音声出力部14は、例えば増幅部、スピーカ部等を有し、例えば画像処理装置1での動画再生の際に動画に付随する音声を出力する。
画像処理装置1はこれらの周辺部位と連携して、ユーザに動画編集機能を提供する。
画像処理装置1の対象認識部2は、処理対象とする動画データを特定するとともに、該動画データの時間軸に対応して付加された付加情報(メタデータ)を認識する。具体的には、記憶部10に記憶されている動画データの1つをユーザ操作に応じて特定する。
動画データには、撮像時や、撮像後の解析時などにおいて各種のメタデータが付与される。対象認識部2は、ここでは特に動画内の場面に応じて付与されたメタデータを認識するものとする。
メタデータとしては各種のデータがあるが、本実施の形態で対象とするメタデータとは、動画データの時間軸上で、例えば人物が含まれている場面、歓声が上がった場面、笑顔を検出した場面、ユーザ操作による場面などをマーキングするメタデータである。つまり動画データの時間軸上において、特定のシーンであることを示すメタデータ(例えば後述の各種マーカー)を対象とする。
なお本実施の形態で述べるメタデータとしては、動画の時間軸における特定時点を指定するデータ(第1付加情報)と、動画の時間軸における特定の時間範囲を指定するデータ(第2付加情報)がある。
編集処理部3は、対象認識部2が対象とする動画データについて各種の編集のための処理を行う。例えばユーザへの動画の提示、メタデータの位置を示すマーカー提示、編集範囲の設定、編集のための操作環境の提供、編集動画データの生成等の処理を行う。
このため編集処理部3は、メタデータに応じた編集範囲設定処理、ユーザインターフェースとしての表示処理、ユーザの編集操作に応じた編集操作対応処理、編集結果の編集動画データを生成する編集動画生成処理等を行う。これらの処理を含む画像処理装置1の処理の具体例は後述する。
出力処理部4は、編集処理部3が生成した編集動画データを出力する処理を行う。例えば記憶部10に対して出力して記憶させる。或いは通信部11に出力して、通信部11から外部装置に送信させる。
なお、図1では画像処理装置1として以上の対象認識部2,編集処理部3,出力処理部4を有するものとしたが、少なくとも上述の第1付加情報、第2付加情報としてのメタデータを認識する対象認識部2と、第1付加情報か第2付加情報かに応じて動画データの編集範囲を設定する編集範囲設定処理を少なくとも行う編集処理部3のみが設けられれば良い。
このような画像処理装置1を実現する機器の例としてのコンピュータ装置70の例を図2に示す。
図2において、コンピュータ装置70のCPU(Central Processing Unit)71は、ROM(Read Only Memory)72に記憶されているプログラム、または記憶部78からRAM(Random Access Memory)73にロードされたプログラムに従って各種の処理を実行する。RAM73にはまた、CPU71が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU71、ROM72、およびRAM73は、バス74を介して相互に接続されている。このバス74にはまた、入出力インターフェース75も接続されている。
入出力インターフェース75には、キーボード、マウスなどよりなる入力部76、液晶パネル或いは有機ELパネルなどよりなるディスプレイ、並びにスピーカなどよりなる出力部77、HDDなどより構成される記憶部78、モデムなどより構成される通信部79が接続されている。通信部79は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インターフェース75にはまた、必要に応じてメディアドライブ80が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア81が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部78にインストールされる。
このようなコンピュータ装置70の場合、上述した画像処理装置1はCPU71で起動されるソフトウエアにより実現される。そのソフトウエアを構成するプログラムは、ネットワークからダウンロードされたり、リムーバブルメディア81から読み出されたりしてコンピュータ装置70にインストールされる。或いはそのプログラムが記憶部78としてのHDD等に予め記憶されていてもよい。
そしてCPU71において当該プログラムが起動されて画像処理装置1としての機能が実現され、動画データに関する編集処理を行うことができるようにされる。
<2.メタデータ>
メタデータとして動画データに付加される情報について説明する。上述のように本実施の形態でいうメタデータ(第1付加情報、第2付加情報)は、動画データの時間軸上で或る場面を指し示す機能を有する。具体的な種類として次のようなものがある。
まず特定時点を指定する第1付加情報の例を挙げる。
・静止画記録マーカー
動画撮像中の静止画記録の時点を示すデータである。近年の撮像装置(ビデオカメラ等)では、ユーザが、動画記録中に静止画記録操作をできるようにしたものがある。このような動画記録中に静止画記録を指示した場面は、ユーザが重要と認識している場面と想定される。そこで撮像装置において、動画撮像中にユーザが静止画記録操作を行った時点(タイムコード)に対応させて静止画記録マーカーを付与するようにしている。
・顔検出マーカー
動画データ内で顔検出をしたタイムコードに対して付与されるマーカーである。動画撮像中又は撮像後の画像解析において顔検出が行われ、顔が存在するフレームのタイムコードに対応して顔検出マーカーが設定される。例えば画像解析機能を備えた撮像装置や再生装置等により設定される。
・スマイル検出マーカー
動画データ内で笑顔検出をしたタイムコードに対して付与されるマーカーである。動画撮像中又は撮像後の画像解析において笑顔検出が行われ、笑顔が存在するフレームのタイムコードに対応して笑顔検出マーカーが設定される。例えば画像解析機能を備えた撮像装置や再生装置等により設定される。
・ハイライトマーカー
動画撮像中のユーザのハイライト操作の時点を示すマーカーである。近年の撮像装置(ビデオカメラ等)では、ユーザが、動画記録中に重要な場面においてハイライト操作を行うことができるようにしたものがある。つまりユーザが重要と思った場面を、後の再生や編集の際に直ぐに指定できるようにマーカーを付す操作である。例えば撮像装置において、動画撮像中にユーザがこのハイライト操作を行った時点(タイムコード)に対応させてハイライトマーカーを付与するようにしている。
続いて特定の時間範囲を指定する第2付加情報の例を挙げる。
・歓声マーカー
・笑い声マーカー
・拍手マーカー
通常、動画撮像中は音声集音/記録も行っているが、入力音声を解析することで、例えば歓声が上がった期間、笑い声が上がった期間、拍手が行われている期間等を判定することができる。音声解析機能を有する撮像装置や再生装置等は、これらに該当する期間を検出し、歓声マーカー、笑い声マーカー、拍手マーカー等を動画データに付加することができる。
・ズームマーカー
撮像装置にはズーム機能が備えられていることが多い。ユーザがズーム操作を行う期間は、ユーザにとって重要な場面である可能性が高い。そこで撮像装置は、動画撮像記録中にズーム操作が行われた期間に対して、ズームマーカーを設定する。
・モーションパターンマーカー
例えば人のジャンプ動作、ターン動作、テニスや野球やゴルフ等のスイング動作など、特定のモーションパターンに対して付加されるマーカーである。例えばジャンプマーカーとしてジャンプをしている期間を指定する。これらのマーカーは、画像解析によっても可能であるが、例えば外部機器との連携により、より多様な動作に対するマーカーを設定することも可能である。例えばテニスラケットにセンサを装着し、センサの情報を取得することで、フォアハンドストローク、フォアハンドボレー、バックハンドストローク、バックハンドボレー等を判別し、これらに対応するマーカーを付加することも可能である。
以上、第1付加情報、第2付加情報となるマーカー(メタデータ)の具体例を挙げたが、もちろんこれらは一例に過ぎず、他にも具体例は各種考えられる。また後述の処理で、列挙したマーカーの全てを用いる必要はなく、一部のマーカーのみが用いられるものでもよい。
動画データに対するマーカー(メタデータ)の記録手法としては次のような例がある。
・動画撮像中に、撮像装置で検出し、撮像装置で記録する
動画撮像中に記録する場合として、撮像装置において検出した情報に基づいて、撮像装置において動画データに付加するように記録する。
・動画撮像中に、撮像装置以外で検出し、撮像装置で記録
撮像装置で動画撮像中に、例えば外部センサや外部機器において被写体の特定の動作等を検出し、その検出情報を撮像装置に送信する。撮像装置は検出情報に基づいてマーカーを設定し、動画データに対応させたメタデータとして記憶する。
・動画撮像中に、撮像装置以外で検出し、撮像装置以外の機器で記録
撮像装置で動画撮像中に、例えば外部センサや外部機器において被写体の特定の動作等を検出し、その検出情報を撮像装置以外の機器に送信する。例えばスマートホン等、ユーザが撮像装置とともに所持する機器に検出情報を送信する。スマートホン等の機器は検出情報に基づいてマーカーを設定する。さらに撮像装置からの情報も取得し、撮像中の動画データのタイムコードと同期したメタデータとしてマーカーを記録しておく。
・動画撮像中に、撮像装置以外で検出し、ネットワーク上で記録
撮像装置で動画撮像中に、例えば外部センサや外部機器において被写体の特定の動作等を検出し、その検出情報をネットワーク送信し、クラウドで記録する。クラウドサーバ側では撮像中の動画データのタイムコードと同期したメタデータとしてマーカーを記録しておく。
・撮像後に、編集デバイスで記録
撮像後において画像/音声解析機能を有する機器で動画データ解析や音声データ解析を行って、マーカーの対象となる特定の時点や期間を検出する。そしてそのタイムコードに対応させてマーカーを設定し、メタデータとして記録する。
或いは、解析機能がない機器であっても、ユーザが手動で動画内の場面を確認し、或る時点又はある期間を指定する操作を行うことに応じてマーカーをメタデータとして記録する。
<3.編集画面例>
続いて実施の形態の画像処理装置1によってユーザに提供される編集画面について説明する。
図3は例えば図1の表示部13に表示される編集画面20の一例を示している。
編集画面20には、各種の編集機能を読み出すメニューを示したメニューエリア21や、実際の動画内容を表示するビデオエリア22が用意されている。
例えばユーザが記憶部10に記憶された動画データを編集対象として指定する操作を行うことに応じて、この図3のような編集画面において、ビデオエリア22において当該動画の映像が再生されたり、あるいは再生停止状態で表示されたりする。
編集画面20には再生関連操作部23として、例えば再生ボタン、戻しボタン、早戻しボタン、早送りボタン、進みボタン等が表示されている。ユーザはこれらの操作子を操作(例えばクリック/タッチ等)することにより、指定した動画をビデオエリア22において任意に再生させることや、所望のシーンに移動させることなどができる。
また音量操作部24として、ミュートボタンや音量バー等が表示される。ユーザはこれらの操作子の操作により、再生時の音声出力のオン/オフや、音量調整を指示することができる。
また画面モード操作部26により、ディスプレイに対する編集画面20の全画面モード、縮小画面モードなどが選択できるようにされている。
動画バー25は、バーの全体を対象の動画データの尺(時間長)とした場合において、現在ビデオエリア22で表示されているシーンの位置を動画ポインタ25aにより提示する。この例では、編集対象の動画データが4分44秒の長さであることに応じて、動画バー25の全体が0分0秒から4分44秒を表現するものとされている。
編集画面20内には、編集範囲提示エリア30が設けられている。
編集範囲提示エリア30内には、マーカーバー31、編集範囲バー32が上下に並んで表示されている。このマーカーバー31、編集範囲バー32の全長も、動画バー25と同じく、バー全体の長さが対象の動画データの時間長(例えばこの場合4分44秒)として表現される。
マーカーバー31上にはマーカー画像33が表示される。即ち、実際に動画データに付加されている各種のメタデータ(顔検出マーカー、ハイライトマーカー、歓声マーカー等)が、時間軸上のどの位置に付加されているかがわかるように、各マーカーの種別に対応した画像で提示される。
従ってユーザはマーカーバー31上のマーカー画像33により、当該動画データにおいて、どのあたりにどのようなマーカーが付加されているか、或いは、どのような種類のマーカーが付加されているか、さらにはマーカーの数などを、大まかに把握することができる。
図3では表示されてないが、編集範囲バー32には後述するようにマーカーに応じた編集範囲が表示される。編集範囲とは編集対象となる動画の範囲である。具体的には、編集範囲とは編集動画データとして採用する動画部分であり、例えば設定された複数の編集範囲がつながれて編集動画データが生成される。その意味で、編集範囲とは、元の動画データから切り出す範囲という意味となる。
編集画面20には、マーカー表示設定ボタン41、編集範囲設定ボタン42、キャンセルボタン43が表示され、ユーザが操作可能とされる。
マーカー表示設定ボタン41は、マーカーバー31上に表示するマーカー画像33を選択する操作子である。
編集範囲設定ボタン42は、マーカーに応じた編集範囲の設定を指示する操作子で、キャンセルボタン43は、その操作(操作に応じた編集範囲設定)をキャンセルする操作子である。
編集画面20にはイン点提示部44,アウト点提示部45が設けられ、イン点、アウト点の各タイムコードが表示される。例えば、或る編集範囲を指定した場合に、その編集範囲のイン点,アウト点が提示される。
図3の表示画面は、切り出しタブ46上の画像例とされる。これはマーカーに応じた編集範囲設定を行うためのタブである。
これ以外に、変速タブ47、くり返しタブ48、文字タブ49等が用意される。図示は省略するが、変速タブ47を選択した際には、或る編集範囲についての変速再生(スローや高速再生)の指定操作や、画像エフェクト等を指示する操作を行う画面が表示される。
くり返しタブ48を選択した際には、或る編集範囲についてのリピート再生やそのリピート回数等の指定操作を行う画面が表示される。
文字タブ49を選択した際には、或る編集範囲について付加する、例えば重畳表示させるテキストの入力操作を行う画面が表示される。
編集画面20における以上のタブ領域外には、編集データ保存ボタン50,編集動画作成ボタン51が用意されている。
編集データ保存ボタン50は、ユーザが編集データを記憶させるための操作子である。編集データとは、例えば設定された編集範囲、各編集範囲について設定された変速、リピート等の再生態様の情報、テキスト情報、変更後の編集範囲の情報、マーカーの選択情報などである。つまりマーカーに応じて設定された編集範囲や、それに対するユーザの操作により設定又は変更された編集作業の情報であって、現時点の編集動画データの作成の元になる情報である。
編集動画作成ボタン51は、その時点の編集データに基づいて、編集動画データを生成し、出力することを指示する操作子である。
編集動画作成ボタン51が操作されることに応じて、画像処理装置1はその時点の編集データに基づいて、編集範囲のつなぎ合わせや各編集範囲のエフェクト付加、変速、リピート、文字重畳などを行って、編集動画データとしての例えばストリームデータを生成する。そしてその編集動画データを記憶部10に記憶させたり、通信部11から外部機器に送信させる。
以上のような図3の編集画面20の状態において、編集範囲設定ボタン42が操作されることで、全部又は一部のマーカーに応じて編集範囲が自動設定され、その設定された編集範囲が提示される図4のような表示状態となる。
図4においては、編集範囲バー32に、各マーカー33に対応して設定された編集範囲を示す範囲画像35が表示される。図では編集範囲バー32上の斜線部として範囲画像35を示しているが、実際には色が異なる部分などとして表示されればよい。各範囲画像35の表示態様(例えば色や図柄等)は共通でも良いが、対応するマーカー33の種別に応じて区別される表示態様としてもよい。
ここでマーカーに応じた編集範囲の設定とその提示について説明する。
上述のようにマーカーとしては、第1付加情報としての各種のマーカーと、第2付加情報としての各種のマーカーがある。
本実施の形態では、マーカーが動画の時間軸における特定時点を指定する第1付加情報か、或いは動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、そのマーカーに対応する編集範囲を設定する。
具体的には、第1付加情報のマーカーは特定時点を示すため、その特定時点を編集範囲設定の基準とする。第2付加情報のマーカーは特定の時間範囲を示すため、その時間範囲の始点と終点を編集範囲設定の基準とする。
さらにいえば、マーカーが第1付加情報である場合、その特定時点の第1設定時間前の時点から該特定時点の第2設定時間後までの範囲を編集範囲と設定する。
マーカーが第2付加情報である場合、その時間範囲の始点の第3設定時間前の時点から該時間範囲の終点の第4設定時間後までの範囲を編集範囲とする。
ここで、第1設定時間、第2設定時間、第3設定時間、第4設定時間は、それぞれが同じ時間長でもよいし異なる時間長でもよい。まず、第1〜第4設定時間は全て2秒であるとして編集範囲設定の例を説明する。
図5Aはマーカーバー31と編集範囲バー32の各一部を示しているが、マーカーバー31におけるマーカー画像33Aは、第1付加情報となる例えば顔検出マーカーに対応する画像であるとする。その顔検出マーカーは、動画データにおけるタイムコード「0:01:00:00」(0時間1分0秒0フレーム)をマーキングしている情報であるとする。
なお、タイムコードは通常、時:分:秒:フレームとされるが、実際の画面等では、煩雑をさけるため、フレームは省略していることが多い。例えば図3,図4の編集画面20ではフレームは省略した表示とされている例としている。
また、図5、図6に示すタイムコードは実際に表示されるものではなく、説明のために表記しているものである。但し実際に表示されるものとしてもかまわない。
上記の顔検出マーカーに対応して、マーカー画像33Aは、マーカーバー31におけるタイムコード「0:01:00:00」の位置に表示される。
なおマーカー画像33(33A等)自体のユーザの認識性を高めるようにするため、マーカー画像33はある程度の面積を持つ画像としている。このため図5Aのように、マーカー画像33Aの一辺(左辺)が「0:01:00:00」の位置となるように表示している。但しこれは一例で、例えば右辺がタイムコードに対応する位置となるようにしてもよいし、左右方向の中央がタイムコードに対応する位置となるようにしてもよい。
マーカー画像33(33A等)を、単にタイムコードに対応したライン等とせずに、面積のある画像とし、マーカーの種別毎に異なる画像とすることで、ユーザにとってどのようなマーカーが付されているかをより認識しやすくしている。
マーカーに対して、編集範囲が上述のように設定される。この図5Aの場合、第1設定時間=第2設定時間=2秒とすると、編集範囲はタイムコード「0:00:58:00」〜「0:01:02:00」の範囲と設定される。
そしてこのように設定された編集範囲を示すように、図示のように編集範囲バー32上の「0:00:58:00」〜「0:01:02:00」の部分に範囲画像35が表示される。これによってユーザは、或る顔検出マーカー(マーカー画像33A)に対応して設定された編集範囲、例えば元の動画データからの切り出し範囲を認識できる。
次に、図5Bの上段及び中段はマーカーバー31と編集範囲バー32の各一部を示しているが、マーカーバー31におけるマーカー画像33Bは、第2付加情報となる例えば歓声マーカーに対応する画像であるとする。その歓声検出マーカーは、動画データにおけるタイムコード「0:03:20:00」〜「0:03:30:00」の期間をマーキングしている情報であるとする。
この歓声マーカーに対応して、マーカー画像33Bは、マーカーバー31におけるタイムコード「0:03:20:00」の位置、即ち始点を代表時点として、この始点にマーカー画像33Bの左辺が対応するように表示される。もちろんこれは一例であり、例えば当該期間の終点を代表時点として、終点にマーカー画像33Bの右辺が対応するような表示も考えられる。また当該期間の中央を代表時点として、そのタイムコード位置にマーカー画像33Bの左右方向の中央が一致するような表示も好適である。
そしてこのマーカーに対して、編集範囲が上述のように設定される。この図5Bの場合、第3設定時間=第4設定時間=2秒とすると、編集範囲はタイムコード「0:03:18:00」〜「0:03:32:00」の範囲と設定される。
そしてこのように設定された編集範囲を示すように、図示のように編集範囲バー32上の「0:03:18:00」〜「0:03:32:00」の部分に範囲画像35が表示される。これによってユーザは、或る歓声マーカー(マーカー画像33B)に対応して設定された編集範囲、例えば元の動画データからの切り出し範囲を認識できる。
なお、図5Bの下段は、マーカー画像33Bの他の表示例として、マーカー画像33B’を示している。この例は、マーカー画像33Bの左右方向の範囲を、編集範囲と一致させた例である。これにより、第2付加情報としてのマーカー画像33Bとそれに対応する編集範囲がわかりやすいものとなる。但しこのような表示では、マーカーバー31上が煩雑になり、ユーザの認識性が低下する懸念もあるため、それを考慮する場合は図5Bの上段のような表示が望ましい。
図6Aは、時間軸上に近い位置に第1付加情報としてのマーカーが複数存在した場合を示している。例えば3つの顔検出マーカーがそれぞれ「0:02:30:00」「0:02:33:00」「0:02:35:00」を指定しているとする。
これに応じてマーカーバー31上では顔検出マーカーを示すマーカー画像33Aが3つ重なるように表示される。
第1設定時間=第2設定時間=2秒とすると、これらの顔検出マーカーについての編集範囲は、それぞれ「0:02:28:00」〜「0:02:32:00」、「0:02:31:00」〜「0:02:35:00」、「0:02:33:00」〜「0:02:37:00」となり、それぞれ前後が重複する。そこで編集範囲バー32では、これらをまとめて「0:02:28:00」〜「0:02:37:00」を編集範囲として範囲画像35を表示している。
ところで、例えば第1設定時間、第2設定時間、第3設定時間、第4設定時間はマーカーの種別によらずに固定的であってもよいし、マーカーの種別によって変更してもよい。
例えば図6Bには、ハイライトマーカーに応じたマーカー画像33Cと、それに応じた編集範囲を示す範囲画像35を例示している。このハイライトマーカーは「0:04:40:00」を示す情報であるとする。
例えば上記図5Aのように第1設定時間=第2設定時間=2秒とするが、特定のマーカーについては第1設定時間を変更する例である。ここではハイライトマーカーの場合は、第1設定時間=4秒に変更する。このため「0:04:36:00」〜「0:04:42:00」が編集範囲となり、図示のように表示される。
例えばこの例のように、編集範囲の設定に用いる第1〜第4設定時間の全部又は一部は、マーカー種別に応じて異なる値が適用されるようにしてもよい。
第1設定時間、第2設定時間、第3設定時間、第4設定時間についてまとめると、これらの具体例は多様に考えられる。
まず上述のように第1設定時間=第2設定時間=第3設定時間=第4設定時間として、マーカー種別に限らず、この設定時間を用いて編集範囲を設定する例がある。
第1設定時間≠第2設定時間≠第3設定時間≠第4設定時間としてマーカー種別に限らず固定的に用いても良い。例えば第1設定時間=3秒、第2設定時間=2秒、第3設定時間=2.5秒、第4設定時間=1.5秒などである。
第1設定時間=第3設定時間=x秒、第2設定時間=第4設定時間=y秒としてもよい。
第1設定時間=第3設定時間=第4設定時間=x秒、第2設定時間=y秒としてもよい。
第1設定時間=第2設定時間=第4設定時間=x秒、第3設定時間=y秒としてもよい。
第2設定時間=第3設定時間=第4設定時間=x秒、第1設定時間=y秒としてもよい。
またマーカー種別に応じて変更する場合には、特定のマーカー種別の場合に、第1設定時間、第2設定時間、第3設定時間、第4設定時間の全部を変更してもよいし、一部を変更してもよい。
また第1付加情報としてのマーカー種別毎に、それぞれ固有の第1設定時間、第2設定時間を決め、また第2付加情報としてのマーカー種別毎に第3設定時間、第4設定時間を決めることも考えられる。
次に、図4に戻って編集範囲についての任意編集について説明する。
図4では、マーカーバー31及び編集範囲バー32上に渡って、エディットポインタ34が表示されている例を示している。
エディットポインタ34は、特定のタイムコードを示すもので、ユーザが操作によりエディットポインタ34を任意の位置に移動させることで、その位置(又は対応する編集範囲)を編集操作の対象とすることができるものである。
例えばユーザが、エディットポインタ34を或る範囲画像35やマーカー画像33に合わせる操作を行った場合、画像処理装置1はそのエディットポインタ34で指定された編集範囲又はマーカーが編集操作の対象と認識して必要な処理を行う。例えば該当の編集範囲のイン点、アウト点をイン点提示部44,アウト点提示部45で表示したり、ビデオエリア22にそのタイムコードの画像を表示させたりする。さらにその後のユーザ操作に対応する処理を行う。例えば或る編集範囲がエディットポインタ34で指定された状態で、エディットポインタ34が移動された場合、画像処理装置1は編集範囲の変更と認識して編集処理を行う。
例えばユーザにとっては、エディットポインタ34を或る範囲画像35の端部に合わせたうえで、左右に移動させる操作を行うことで、上記のように設定された編集範囲の始点又は終点を変更して、編集範囲を伸長又は短縮できる。
またユーザは、エディットポインタ34で指定した編集範囲について、変速指定やリピート指定、エフェクト指定、文字入力等の操作を行うこともできる。
またユーザは、エディットポインタ34で指定したマーカーの削除、エディットポインタ34で指定した位置へのマーカーの追加等も行うことができる。
つまりエディットポインタ34は、ユーザが任意に編集操作を行いたい場合の、マーカー画像33の指定、範囲画像35の指定、任意のタイムコード位置の指定などに用いられる。
続いてマーカーの表示設定について説明する。
ユーザは、マーカーバー31に表示されるマーカーの種別を選択できる。例えばユーザがマーカー表示設定ボタン41を操作した場合、画像処理装置1は図7に示す表示設定ウインドウ61を表示させる。表示設定ウインドウ61には、マーカー選択エリア62、ビデオ提示部64、閉じるボタン63等が設けられている。
マーカー選択エリア62には、処理対象の動画データに付加されているマーカー種別が一覧で示され、それぞれにチェックボックスが設けられている。ユーザはマーカー選択エリア62を見ることで、現在処理対象の動画データに付加されているマーカーの種別を知ることができる。
そしてユーザは、マーカー種別に対応して表示されているチェックボックスを利用して、マーカーバー31に表示させたいマーカーの種別を選択する。図示のように顔検出マーカー、歓声マーカーがチェックされる状態では、図4のように、顔検出マーカーと歓声マーカーに対応するマーカー画像33が表示されることになる。マーカーバー31上にマーカー画像33が表示されるということは、その種別のマーカーについて編集範囲の設定や任意編集が可能となるということである。
例えばユーザが、運動会等の動画データについて、人物が含まれているシーンと歓声が上がったシーンをまとめたダイジェスト動画として編集動画データを作成したい場合、このように顔検出マーカーと歓声マーカーを選択してマーカーバー31に表示されるようにし、かつこれらについて編集範囲が設定され、編集範囲バー32に範囲画像35が表示されるようにすれば良い。
また元々動画データに付加されていなかったマーカーの追加や、マーカーの削除も可能とされる。
ユーザがマーカーの追加又は削除のための所定の操作を行った場合、画像処理装置1は図8のようなウインドウ60を表示させる。このウインドウ60には、マーカーバー31W、マーカー一覧部52、選択マーカー提示部53、追加ボタン54、削除ボタン55等が表示される。
マーカーバー31Wには、現在編集画面20のマーカーバー31に表示されているマーカー画像33Aや、追加されたマーカー画像33Cが表示される。
例えばユーザは、エディットポインタ34をマーカーバー31W上で任意の位置に配置する。そしてマーカー一覧部52から任意のマーカーを選択する。その操作に応じて画像処理装置1は、選択マーカー提示部53に選択中のマーカー(この例ではハイライトマーカー)を示し、マーカーバー31W上のエディットポインタ34の位置に選択中のハイライトマーカーのマーカー画像33Cを表示する。
ユーザが追加ボタン54を操作した場合、画像処理装置1は、この状態、つまりエディットポインタ34で示されるタイムコード位置にハイライトマーカーが追加された状態とし、図4等の編集画面20に戻る。その際にはマーカーバー31にハイライトマーカーのマーカー画像33Cが追加された状態となる。
例えばこのようにユーザは任意のタイムコード位置を指定して、任意のマーカーを追加することができる。
逆に、既に付加されているマーカー(マーカー画像33)をエディットポインタ34で指定して、削除ボタン55を操作することで、そのマーカーを削除することもできる。なお、ここでいう「削除」とは、元の動画データから該当するメタデータとしてのマーカーを削除してしまうという処理でも良いし、単に編集範囲の設定対象から外す、という意味での削除でもよい。
以上のような編集画面20を用いて、ユーザは、対象の動画データについて各種編集作業を行うことができる。この編集作業は次のような点がユーザに利便性を与える。
・対象の動画データに付加されていたマーカーがタイムコードに合わせてマーカー画像33により表示されるため、ユーザはマーカーの位置や種類を認識できる。
・マーカーに対応して編集範囲が自動設定される。この場合、第1付加情報か第2付加情報かに応じて、それぞれ適切な範囲が編集範囲として設定される。
・編集範囲設定の元となるマーカーの種別は、ユーザが任意に選択できる。
・編集範囲設定の元となるマーカーとして特定種別のマーカーをユーザが任意に追加/削除できる。
・マーカーに対応して設定された各編集範囲の始点・終点はユーザが任意に変更できる。
・各編集範囲について、ユーザが任意に再生態様の指定やエフェクト設定、文字設定等を行うことができる。
・再生操作により、編集作業中の編集範囲を再生させたり、各編集範囲をつなげた編集動画を確認することができる。
・編集作業後に、編集データを保存することができ、編集動画作成/出力を指示できる。
<4.処理例>
以上のような編集画面20を表示させユーザに編集作業環境を提供する画像処理装置1の処理例を説明する。例えば画像処理装置1は図1の対象認識部2,編集処理部3,出力処理部4としての機能により以下説明する処理を実行する。具体的には画像処理装置1は図2のような情報処理装置であり、編集用のプログラムが起動されることで以下の処理を実行する。
図9,図10は画像処理装置1が実行する処理例を示している。
画像処理装置1は図9のステップS101で処理対象の動画を決定する。即ちユーザの操作に従って、記憶部10に記憶された動画データの1つを編集処理の対象の動画データとして決定する。
ステップS102で画像処理装置1は、処理対象として決定した動画データを記憶部10から読み込むとともに、当該動画データに付加されているメタデータ(マーカー)の取得を行う。
ステップS103で画像処理装置1は編集画面20の表示を開始する。即ち対象の動画データをビデオエリア22表示させる状態とし、またマーカーバー31に当該動画データに付加されていたマーカーに対応するマーカー画像33を表示させる。例えば図3の状態の表示を、表示部13において実行させる。マーカー画像33の表示は図5に説明したような表示態様とする。
なお、初期状態でマーカー画像33を表示させるマーカーの種別は、予め固定的に設定していても良いし、ユーザ設定によるものとしてもよい。或いは、その動画データに付加されていた全マーカーについてマーカー画像33を表示させるものとしてもよい。さらには、図7で説明したユーザの選択操作が行われるまで、マーカー画像33を表示させないものとしてもよい。
編集画面20の表示を開始した後は、画像処理装置1はユーザ操作を監視し、検知した操作に応じた処理を行う。図9及び図10では、検知するユーザ操作として、タイムコード位置指定操作(S104)、編集範囲設定操作(S105)、編集データ保存操作(S106)、編集動画作成操作(S107)、再生関連操作(S108)、マーカー表示設定操作(S109)、マーカーの追加/削除操作(S110)、変速設定操作(S111)、くり返し設定操作(S112)、文字入力操作(S113)、マーカー指定編集操作(S114)、マーカー種別指定編集操作(S115)を挙げている。これら以外にも監視するユーザ操作はあるが、それらは「他の操作」(S116)としている。
画像処理装置1はこれらのステップS104〜S116の監視処理を、ステップS117で画像編集処理の終了と判断されるまで繰り返す。
ユーザのタイムコード位置指定操作を検知した場合、画像処理装置1はステップS104からS121に進む。タイムコード位置指定操作とは、エディットポインタ34を或るタイムコード上に配置する操作である。
この操作に応じて画像処理装置1はステップS121で、エディットポインタ34の画面上の位置を、操作により指定された位置に変更する処理を行う。
ユーザの編集範囲設定操作を検知した場合、画像処理装置1はステップS105からS130に進んで、編集範囲設定処理を行う。編集範囲設定操作とは例えば編集画面20における編集範囲設定ボタン42の操作である。この操作に応じて画像処理装置1は、マーカーバー31にマーカー画像33が表示されている全部又は一部のマーカーに対応して編集範囲の設定を行う。
例えば画像処理装置1は、編集範囲設定ボタン42が操作されることに応じて、マーカー画像33が表示されているマーカー全部について、自動的に編集範囲設定を行う。
又は画像処理装置1は、編集範囲設定ボタン42が操作されることに応じて、その時点でエディットポインタ34等により指定されているマーカー画像33のマーカーについて編集範囲設定を行うようにしてもよい。
又は画像処理装置1は、編集範囲設定ボタン42が操作されることに応じて、その時点でエディットポインタ34等により指定されているマーカー画像33のマーカーと、同一種類のマーカー全部について編集範囲設定を行うようにしてもよい。例えば顔検出マーカーの1つがエディットポインタ34で指定されていた場合、全ての顔検出マーカーについてそれぞれ編集範囲設定を行う。
これらいずれの場合も、1つのマーカーに対応する編集範囲設定処理としては、図11A、図11B、図12のような例が考えられる。
マーカー全部について編集範囲設定を行うなど、複数のマーカーを編集範囲設定処理の対象とする場合は、以下の図11A、図11B、図12のような処理を、対象とする各マーカーに対してくり返し行えば良い。
まず図11Aの例を説明する。図11Aは第1設定時間=第2設定時間=第3設定時間=第4設定時間=2秒とした例である。
ステップS131で画像処理装置1は、対象のマーカーが時間範囲を指定するマーカーか否か、つまり第2付加情報か否かを判断する。つまり処理対象のマーカーの種別を確認し、種別が顔検出マーカー、静止画記録マーカー、ハイライトマーカー等であれば第1付加情報と判断し、一方、歓声マーカー、拍手マーカー、モーションパターンマーカー等であれば時間範囲を指定する第2付加情報と判断する。
対象のマーカーが第1付加情報である場合は、画像処理装置1はステップS132で、そのマーカーが指定する時点(タイムコード)における前2秒(第1設定時間)から、後2秒(第2設定時間)までを編集範囲に設定する。
対象のマーカーが第2付加情報である場合は、画像処理装置1はステップS133で、そのマーカーが指定する時間範囲の始点となるタイムコードの前2秒(第3設定時間)から、終点となるタイムコードの後2秒(第4設定時間)までの範囲を編集範囲に設定する。
そして画像処理装置1はステップS134で、設定した編集範囲を範囲画像35によりユーザに提示するように制御する。
図11Bは、第1設定時間=2.5秒、第2設定時間=2秒、第3設定時間=1.5秒、第4設定時間=1.8秒とした例である。
画像処理装置1はステップS131で図11Aと同様に対象のマーカーの種別を判断する。
対象のマーカーが第1付加情報である場合は、画像処理装置1はステップS132Aで、そのマーカーが指定する時点(タイムコード)における前2.5秒(第1設定時間)から、後2秒(第2設定時間)までを編集範囲に設定する。
対象のマーカーが第2付加情報である場合は、画像処理装置1はステップS133Aで、そのマーカーが指定する時間範囲の始点となるタイムコードの前1.5秒(第3設定時間)から、終点となるタイムコードの後1.8秒(第4設定時間)までの範囲を編集範囲に設定する。
そして画像処理装置1はステップS134で、設定した編集範囲を範囲画像35によりユーザに提示するように制御する。
図12の例は、第1、第3設定時間をマーカー種別に応じて変更する例である。通常は第1設定時間=第2設定時間=第3設定時間=第4設定時間=2秒とするが、特定のマーカーについて、第1設定時間=第3設定時間=4秒に変更する例である。
画像処理装置1はステップS131で図11Aと同様に対象のマーカーの種別を判断する。
対象のマーカーが第1付加情報である場合は、画像処理装置1はステップS135で、そのマーカーが、操作起因のマーカーであるか否かを判断する。操作起因のマーカーとは、動画撮像中に行われたユーザの操作に応じて、その操作タイミングの箇所に対応づけられたマーカーである。具体的には例えばハイライトマーカーや静止画記録マーカーである。
操作起因のマーカーでなければ、画像処理装置1はステップS132Bに進み、そのマーカーが指定する時点(タイムコード)における前2秒(第1設定時間)から、後2秒(第2設定時間)までを編集範囲に設定する。
操作起因のマーカーであったら、画像処理装置1はステップS132Cに進み、そのマーカーが指定する時点(タイムコード)における前4秒(変更した第1設定時間)から、後2秒(第2設定時間)までを編集範囲に設定する。
対象のマーカーが第2付加情報である場合は、画像処理装置1はステップS136で、そのマーカーが、操作起因のマーカー(例えばズームマーカー)であるか否かを判断する。
操作起因のマーカーでなければ、画像処理装置1はステップS133Bに進み、そのマーカーが指定する時間範囲の始点となるタイムコードの前2秒(第3設定時間)から、終点となるタイムコードの後2秒(第4設定時間)までの範囲を編集範囲に設定する。
操作起因のマーカーであったら、画像処理装置1はステップS133Cに進み、そのマーカーが指定する時間範囲の始点となるタイムコードの前4秒(変更した第3設定時間)から、終点となるタイムコードの後2秒(第4設定時間)までの範囲を編集範囲に設定する。
そして画像処理装置1はステップS134で、設定した編集範囲を範囲画像35によりユーザに表示するように制御する。
このように、操作起因のマーカーについては、時間的に過去の方向に、編集範囲に含める範囲を長くするようにしている。これはユーザの操作に応じた時点もしくは期間の場合、操作タイミングが、最適なシーンに対して遅れる傾向があることを考慮したものである。
例えばユーザが、重要と思ってハイライト操作や静止画記録操作を行った時点とは、被写体として重要なシーンが開始された後であることが多い。そこで、多少、通常より過去方向に長めに編集範囲に加えるようにすることで、重要なシーンを好適な範囲で切り出せるようにするものである。
なお、このような事情を考慮して設定時間を変更する場合は、単にマーカーの種別だけではなく、マーカーの記録属性も判別するとなおよい。例えばハイライトマーカー等は、撮像時ではなく、その後の再生時や編集時にユーザの操作に応じて付加することも可能である。再生時や編集時は、ユーザは、例えばハイライトシーンの始点を正確に確認してマーカー付加の操作を行うことができる。従って、過去方向に長めに編集範囲を設定すると、編集範囲の始点が前になりすぎることも生ずる。そこで、ステップS135やS136では、操作起因のマーカーであって、かつそのマーカーが撮像時に記録されたものであるか否かを判断し、その場合にステップS132C又はS133Cに進むようにするとよい。
図9に戻って、ユーザの編集データ保存操作を検知した場合、画像処理装置1はステップS106からS140に進んで、編集データ保存処理を行う。
編集データ保存操作とは例えば編集画面20における編集データ保存ボタン50の操作である。この操作に応じて画像処理装置1は、その時点の編集データ(編集範囲、マーカー選択状態、変速設定等の編集作業にかかるデータ)を、例えば記憶部10に保存する処理を行う。
編集データを保存しておくことにより、ユーザは後の時点で保存した編集データを読み出して、現在の作業状態を回復することができる。
ユーザの編集動画作成操作を検知した場合、画像処理装置1はステップS107からS150に進んで、編集動画作成処理を行う。編集動画作成操作とは例えば編集画面20における編集動画作成ボタン51の操作である。
ステップS150の処理例を図13に示す。
ステップS151で画像処理装置1は編集データを確定する。即ちその時点の編集データが、編集動画作成のための最終的な作業データであるとする。
ステップS152で画像処理装置1は編集データに基づいて、各編集範囲を順に切り出して繋げ、編集結果としての動画データを生成する。この場合、各編集範囲についての変速再生設定、リピート設定、エフェクト設定、文字入力等があれば、それらを反映させた動画データを生成する。
そしてステップS153で編集動画データを出力する。例えば記憶部10に編集動画データを記憶させる。或いは通信部11により外部機器に編集動画データを送信する。
図9に戻って、ユーザの再生関連操作を検知した場合、画像処理装置1はステップS108からS160に進んで、再生関連操作対応処理を行う。再生関連操作とは再生関連操作部23や音量操作部24の操作のことである。
このステップS160の処理例を図14に示す。
画像処理装置1は、ステップS161〜S165でユーザの操作内容を確認する。ユーザが再生ボタンを操作した場合、画像処理装置1はステップS161からS170に進み、まず停止ボタンを表示させる制御を行う。例えば図4のような再生ボタンを、再生中は停止ボタンに変更して表示する。
次にステップS171で画像処理装置1は、現在、エディットポインタ34により或るマーカー(マーカーに応じた編集範囲)が指定されているか否かを判断する。
マーカー指定中であれば、ステップS172に進み、画像処理装置1はその指定中のマーカーの編集範囲の動画再生を実行する。この場合、指定中の1つの編集範囲を1回再生させて再生を終了させてもよいし、その編集範囲をくり返し再生させてもよい。
また、当該編集範囲の再生が完了しても、その終点からの元の動画をそのまま継続して再生していってもよい。
特定のマーカーが指定されていなければ、ステップS173に進み、画像処理装置1は先頭のマーカーの編集範囲から、各編集範囲を順に繋げた動画再生を実行する。即ち編集範囲として切り出された部分を繋げた動画の再生を行う。従ってユーザは編集動画データのイメージを確認することができる。
最後の編集範囲の再生までが終了したら、再生を終了させてもよいし、再び先頭の編集範囲からの再生をくり返してもよい。
なお、ステップS172,S173において、再生中の編集範囲について、変速再生や画像エフェクト等が設定されていれば、それらを反映した再生を行っても良いし、逆に設定されていても、それらの設定を反映させない通常再生のみが行われるようにしてもよい。
またエディットポインタ34が特にマーカーが存在しないタイムコードを指定していた場合、編集範囲に関係なく、その指定されたタイムコードから元の動画を再生して行くことも考えられる。
ユーザが停止ボタンを操作した場合、画像処理装置1はステップS162からS180に進み、再生ボタン表示制御を行う。即ち再生中に停止ボタンとしていた表示を図4のような再生ボタンの表示に切り替える。そしてステップS181で再生動作を停止させる。
なお、ここでは停止操作の検知の場合として示したが、ユーザの操作によらずに再生が終点位置まで進行した場合も、ステップS180,S181が行われればよい。
ユーザがジャンプ操作に係るボタン、即ち戻しボタンか進みボタンを操作した場合、画像処理装置1はステップS163からS182に進み、再生箇所のジャンプ処理を行う。つまり最初箇所を変更する処理を行う。
なお、再生中でなければ、操作を無効としてもよいし、或いはビデオエリア22に表示する箇所(停止中の画像の位置)をジャンプさせてもよい。
ユーザが変速操作に係るボタン、即ち早戻しボタンか早送りボタンを操作した場合、画像処理装置1はステップS164からS183に進み、変速再生処理を行う。つまり現在の再生位置からの早送り又は早戻し再生を行う。
なお、再生中でなければ、操作を無効としてもよいし、或いはビデオエリア22に表示する箇所(停止中の画像の位置)を進ませたり戻したりしてもよい。
ユーザが音量に係る操作を行った場合、画像処理装置1はステップS165からS184に進み、操作に応じた音量設定の変更、ミュート/ミュート解除等の処理を行う。
以上の再生関連操作に応じた処理により、ユーザは編集作業の過程の動画、ビデオエリア22の動画表示で確認することができる。特に各編集範囲を連続して再生することで編集後の動画のイメージを確認することに好適である。
ユーザのマーカー表示設定操作を検知した場合、画像処理装置1は図10のステップS109からS200に進んで、選択マーカーの提示又は提示解除の処理を行う。
マーカー表示設定操作とは、編集画面20のマーカー表示設定ボタン41の操作である。
この操作に応じて画像処理装置1は図7で説明した表示設定ウインドウ61を表示させる。そしてユーザの表示するマーカーの選択操作に応じて、表示させるマーカーを決定する処理を行う。そして表示するものとして決定したマーカーをマーカーバー31に表示させる処理を行う。既に表示されていたが、ユーザがマーカー選択エリア62でのチェックを外したマーカーについては提示解除とし、マーカーバー31で表示させないようにする。
ユーザによるマーカーの追加/削除操作を検知した場合、画像処理装置1は図10のステップS110からS210に進んで、指定位置でのマーカーの追加、又は指定されたマーカーの削除を行う。
マーカーの追加/削除操作に応じて画像処理装置1は図8で説明したウインドウ60を表示させ、上述のように、これに対するユーザ操作に応じた追加又は削除設定を行うことになる。
ユーザの変速設定操作を検知した場合、画像処理装置1は図10のステップS111からS220に進んで、指定された編集範囲についての変速再生設定を行う。
これは、例えば変速タブ47により表示される画面上で、特定の編集範囲についてユーザ操作に応じて変速再生設定を行う処理である。ユーザは例えば指定した編集範囲について、通常の1倍速に対して2倍速、4倍速、1/2倍速、1/3倍速などを指定できる。画像処理装置1はこのような設定を作業中の編集データに反映させていく。
ユーザのくり返し設定操作を検知した場合、画像処理装置1はステップS112からS230に進んで、指定された編集範囲についてのリピート再生設定を行う。
これは、例えばくり返しタブ48により表示される画面上で、特定の編集範囲についてユーザ操作に応じてリピート再生設定を行う処理である。ユーザは例えば指定した編集範囲について、1回、2回、3回等のリピート回数を指定できる。画像処理装置1はこのような設定を作業中の編集データに反映させていく。
ユーザの文字入力操作を検知した場合、画像処理装置1はステップS113からS240に進んで、指定された編集範囲についての文字設定を行う。
これは例えば文字タブ49により表示される画面上で、特定の編集範囲についてユーザが文字入力を行うことに応じて、動画に重畳する文字の設定を行う処理である。ユーザは例えば指定した編集範囲のシーンに任意に文字を入力できる。画像処理装置1はこのような文字設定を作業中の編集データに反映させていく。
ユーザのマーカー指定編集操作を検知した場合、画像処理装置1はステップS114からS250に進んで、指定されたマーカーついての編集範囲の設定変更処理を行う。
例えばユーザは、或るマーカーについての編集範囲の始点又は終点をエディットポインタ34で指定した上で、エディットポインタ34を移動させる操作を行うことができる。これがマーカー指定編集操作となる。この場合画像処理装置1は、編集範囲の始点又は終点を、ユーザ操作によって移動されたタイムコード位置に変更する処理を行う。
従って、ユーザは任意の編集範囲を、任意に変更できることになる。
ユーザのマーカー種別指定編集操作を検知した場合、画像処理装置1はステップS115からS260に進んで、指定されたマーカー種別についての編集範囲や再生態様の設定処理を行う。
例えばユーザは、或るマーカー種別を指定した上で、そのマーカーについて編集範囲の始点や終点を変更したり、画像エフェクトを加えたり、リピートさせたりする編集設定を指示する操作を行うことができる。画像処理装置1はそのような操作に応じて、特定種別のマーカーについて、一括して指定された編集設定を加える処理を行い、それを作業中の編集データに反映させていく。
例えばユーザがテニスラケットのスイングを示すモーションパターンマーカーを指定した上で、2回のリピート再生を指示し、かつ2回目のリピート再生について1/2倍速再生を指定する。画像処理装置1はこのような設定を、同じモーションパターンマーカーの全てについての編集範囲に関する設定として、編集データに加える。これによって編集動画上では、スイングのシーンとなる度に、通常動画の直後にスロー動画が加えられたものとなる。
また、例えばユーザが笑顔検出マーカーを指定して、編集範囲の始点を過去方向に1秒変更する操作を行った場合、画像処理装置1は、全ての笑顔検出マーカーに係る編集範囲の始点を過去方向に1秒変更し、その変更後の状態を編集範囲バー32に表示するとともに、作業中の編集データに反映させる。
これらは例示であるが、具体例はさらに多様に考えられる。
以上の操作以外の他の操作を検知した場合は、画像処理装置1はステップS116からS270に進み、操作に応じた処理を行う。
ステップS117で画像編集処理の終了と判断した場合は、画像処理装置1はステップS280で編集画面20の表示を終了させる。
以上図9〜図14の処理として画像処理装置1はユーザに動画データの編集環境を提供することができる。
この処理は一例であり、他の処理例も各種考えられる。
例えばステップS103の段階で、ユーザ操作を待たずに、表示するマーカーに対応して最初の編集範囲設定も行い、いきなり図4のような編集範囲バー32上に範囲画像35を表示する状態としてもよい。
編集画面20における表示内容、操作子等はもちろん他にも考えられる。
<5.プログラム及び記憶媒体>
ここまで画像処理装置1及び画像処理装置において実行される画像処理方法の実施の形態を説明してきたが、上述した編集環境提供のための処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。
実施の形態のプログラムは、上述の実施の形態で示した処理を、例えばCPU(Central Processing Unit)、DSP(Digital Signal Processor)等の演算処理装置に実行させるプログラムである。
即ち実施の形態のプログラムは、動画データの時間軸に対応して付加された付加情報を認識するステップ(S102)と、認識した付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、動画データの編集範囲を設定するステップ(S130)とを情報処理装置に実行させるプログラムである。
このようなプログラムにより、上述した自動静止画記憶の制御を行う画像処理装置を、図2のコンピュータ装置70等の情報処理装置を用いて実現できる。
このようなプログラムはコンピュータ装置70等の情報処理装置に内蔵されている記録媒体としてのHDDや、CPUを有するマイクロコンピュータ内のROM等に予め記録しておくことができる。
あるいはまた、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、MO(Magnet optical)ディスク、DVD(Digital Versatile Disc)、ブルーレイディスク(Blu-ray Disc(登録商標))、磁気ディスク、半導体メモリ、メモリカードなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
またこのようなプログラムによれば、実施の形態の画像処理装置の広範な提供に適している。例えばパーソナルコンピュータ、携帯型情報処理装置、携帯電話機、ゲーム機器、ビデオ機器等にプログラムをダウンロードすることで、当該パーソナルコンピュータ等を、本開示の画像処理装置とすることができる。
<6.まとめ及び変形例>
以上の実施の形態では、次のような効果が得られる。
実施の形態の画像処理装置1で実行する画像処理方法は、動画データの時間軸に対応して付加された付加情報(マーカー)を認識し、付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、動画データの編集範囲を設定している(図11,図12参照)。
このため特定時点を示す第1付加情報と、特定時間範囲を示す第2付加情報のそれぞれに応じて自動的に適切な編集範囲を設定できる。
特に、マーカーが第1付加情報である場合は、その第1付加情報が指定する特定時点に基づき編集範囲を設定し、第2付加情報である場合は、その第2付加情報が指定する特定の時間範囲の始点と終点に基づき編集範囲を設定する。
これにより第1、第2付加情報の特定内容に応じた編集範囲設定が可能となる。
より具体的には、第1付加情報のマーカーに応じて、その特定時点の第1設定時間前の時点から該特定時点の第2設定時間後までの範囲を編集範囲と設定し、第2付加情報のマーカーに応じて、その時間範囲の始点の第3設定時間前の時点から該時間範囲の終点の第4設定時間後までの範囲を編集範囲とする。
このような第1設定時間、第2設定時間、第3設定時間、第4設定時間の設定により、第1、第2付加情報のそれぞれに応じて、適切な時間範囲を自動的に編集範囲として設定できる。
特に、第1付加情報の場合、指定したタイムコードの前後である程度の期間を編集範囲とできる。これにより、マーカーで指定されるタイムコードを中心としたある程度の期間のシーンを編集範囲とできる。動画の場合、編集範囲はある程度の期間のシーンとすることが重要であるため、このような編集範囲の設定は非常に有用である。
また第1設定時間や第3設定時間により、マーカー指定時点より前の時点が編集範囲に含まれることも好適である。動画における前の時点からのつながりが編集範囲の動画のみで表現できるようになりやすいからである。
また第2設定時間や第4設定時間により、マーカー指定時点より後の時点が編集範囲に含まれることも好適である。動画中の重要なシーンの直後のつながりが編集範囲の動画のみで表現できるようになりやすいためである。
また、第1乃至第4設定時間としての時間設定により、第1,第2付加情報に応じた編集範囲長を的確にコントロールできる。従って、ユーザが第1乃至第4設定時間を選択できるようにすることも好適である。
また実施の形態では、設定した編集範囲を、動画データからの切り出し範囲としている。即ち、設定した編集範囲を、元の動画データを編集した編集動画データとして使用する。第1、第2付加情報に応じた編集範囲を切り出すことで、容易に適切な編集動画データを生成できる。即ち各編集範囲は各種のマーカーによって示されたタイムコードを含むシーンとなっており、ある程度重要なシーンであるためである。
その意味では、編集範囲は、ユーザが選択したマーカー種別について設定されるものであることが望ましい。例えばユーザが、笑顔のシーンを集めた編集動画を作成したと思った場合、笑顔検出マーカーをマーカーバー31に表示させるように選択し(S200)、それについて編集範囲設定(S130)を実行させ、設定された編集範囲に基づいて編集動画作成を実行させれば(S150)よいものとなるためである。
なお第1,第2付加情報に応じて設定された編集範囲は必ずしも編集動画データ用に切り出す範囲でなくても良い。編集範囲は、例えば特殊効果を付加する範囲、変速再生を行う範囲などとしてもよい。
実施の形態では、動画データについて設定した編集範囲を提示する表示を実行させる表示制御を行う(S134)。即ち編集範囲は、編集範囲バー32における範囲画像35として表示される。
これにより自動設定された編集範囲をユーザに認識させることができる。
実施の形態では、第1付加情報によって指定される動画データ上の特定時点を提示する表示制御を行う。即ち画像処理装置1はマーカーバー31のマーカー画像33の表示制御を行う。
これにより第1付加情報で指定される特定時点をユーザが認識できる。
また編集範囲の設定後において、ユーザが各編集範囲の内容や動画時間軸上の位置を確認しやすくし、その後の任意編集をしやすいものとできる。
実施の形態では、第2付加情報が指定する動画データ上の特定の時間範囲を、代表時点を示すことで提示する表示制御も行う。
即ち画像処理装置1はマーカーバー31のマーカー画像33の表示制御を行う。またこのとき第2付加情報としてのマーカーに対応しては図5B上段のように編集範囲全体ではなく、或る代表のタイムコードに合わせた表示としている。
これにより第2付加情報で指定される特定の時間範囲をユーザが認識できる。特に代表時点で示す、つまり時間範囲として示さないようにすることで、表示が煩雑にならないようにすることができる。
また編集範囲の設定後において、ユーザが各編集範囲の内容や動画時間軸上の位置を確認しやすくし、その後の任意編集をしやすいものとする。
実施の形態では、設定した編集範囲の情報に基づいて、動画再生表示を実行させる表示制御を行う(S160)。
即ち動画データについて1又は複数の編集範囲が設定された状態において、その編集範囲を切り出して再生表示させる。例えば複数の編集範囲を順番に切り出して連続して動画再生させる。
この動画再生により、編集範囲設定によって生成される編集動画の状態をユーザが実際に確認できる。ユーザは編集動画を確認し、必要に応じてさらなる編集等を行うことができる。
実施の形態では、設定した編集範囲について、操作に応じて設定変更する編集操作対応処理を行う(S250,S210)。
即ち動画データについて設定された編集範囲について、ユーザが操作により任意に設定変更できるようにする。例えば編集範囲の始点(in点)、終点(out点)の変更、或る編集範囲の削除、編集範囲の追加等をユーザ操作により可能とする。
これにより、付加情報に基づいて設定された編集範囲を、さらにユーザ意思(操作)に応じて変更していくことができる。
実施の形態では、設定した編集範囲の画像再生態様を操作に応じて変更する編集操作対応処理を行う(S220、S230、S240)。
動画データについて設定された編集範囲は、通常再生、例えば1倍速の通常表示の動画として編集動画に加えられる。この編集範囲の動画について、変速再生や画像エフェクト、リピート、文字重畳等の処理をユーザ操作で加えることができるようにしている。
つまり設定された編集範囲に基づいて生成される編集動画を、さらにユーザの意思による再生態様の編集を行うことができ、高度な編集も可能となる。
実施の形態では、第1付加情報又は第2付加情報となる付加情報としての複数種類のマーカー種別を指定することに応じて、指定した種別のマーカーに対応する編集範囲に、所定の画像再生態様を設定する編集操作対応処理(S260)を行う。
即ちマーカー種別を指定することで、その種別のマーカーに対応する編集範囲について共通に画像再生態様を設定することができる。例えば特定の付加情報に対応する編集範囲については、全てスロー再生とするなどの指定が可能である。
従ってマーカー種別毎に編集内容を指定できるため、編集操作を効率化、容易化でき、しかも特定のシーン内容に応じた画像効果等を設定できる。
実施の形態では、動画データの編集範囲を設定する際には、マーカーの種別に応じて、第1設定時間、第2設定時間、第3設定時間、第4設定時間のいずれかを可変設定する(図12)。
これによりマーカー種別毎に適切な編集範囲を設定できる。例えばシーン内容毎の付加情報、ユーザ操作による付加情報、笑顔検出による付加情報などに会わせて、前後の時間長を変更することで、シーンに応じた編集範囲設定が行われるようにする。
特に、操作起因のマーカー、つまり動画撮像時のユーザ操作に応じて付加されるマーカーの場合に、第1設定時間又は第3設定時間のいずれかを、通常設定時間長より長い時間長に設定している。
ユーザ操作に応じて設定される付加情報は、通常、指定する時間位置が遅れる。そこでそのような付加情報の場合は、時間長を長めにする。これにより編集範囲の開始時点を前の時点にし、適切な動画内容の編集範囲とすることができる。
実施の形態では、設定された編集範囲の情報に基づいて、編集動画データを生成して出力する出力処理を行う(S150、図13)。
動画データについて1又は複数の編集範囲が設定された状態において、或いはさらにその編集範囲が変更された状態において、例えば編集範囲を切り出してつなげて編集動画データを生成する。生成される編集動画データは、付加情報に基づいた編集範囲を基礎とする編集動画となり、ユーザにとって適切な編集動画内容を簡易な処理で提供できるものとなる。
また、この出力処理では、編集動画データを記憶媒体に記憶させたり、外部機器に送信する。これにより編集データの保存や転送がユーザにとって容易となる。
実施の形態の画像処理装置1は、民生機器や放送その他の業務用機器において広く適用できる。例えば動画撮像機能を備えたカメラ機器、携帯端末機器、携帯電話機、監視カメラ機器、定点カメラ機器、ドライブレコーダ等の車載用カメラ機器、走行環境判定のためのカメラ機器、医療機器、電子内視鏡等に内蔵したり、これらの機器とシステム化することも好適である。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
なお本技術は以下のような構成も採ることができる。
(1)動画データの時間軸に対応して付加された付加情報を認識し、
前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する
画像処理方法。
(2)前記付加情報が前記第1付加情報である場合は、その第1付加情報が指定する特定時点に基づき編集範囲を設定し、
前記付加情報が前記第2付加情報である場合は、その第2付加情報が指定する特定の時間範囲の始点と終点に基づき編集範囲を設定する、
上記(1)に記載の画像処理方法。
(3)前記第1付加情報に応じて、その特定時点の第1設定時間前の時点から該特定時点の第2設定時間後までの範囲を編集範囲と設定し、
前記第2付加情報に応じて、その時間範囲の始点の第3設定時間前の時点から該時間範囲の終点の第4設定時間後までの範囲を編集範囲とする
上記(1)又は(2)に記載の画像処理方法。
(4)設定した編集範囲を、動画データからの切り出し範囲とする
上記(1)乃至(3)のいずれかに記載の画像処理方法。
(5)前記動画データについて設定した編集範囲を提示する表示を実行させる表示制御を行う、
上記(1)乃至(4)のいずれかに記載の画像処理方法。
(6)前記第1付加情報によって指定される前記動画データ上の特定時点を提示する表示制御を行う
上記(1)乃至(5)のいずれかに記載の画像処理方法。
(7)前記第2付加情報が指定する前記動画データ上の特定の時間範囲を、代表時点を示すことで提示する表示制御を行う
上記(1)乃至(6)のいずれかに記載の画像処理方法。
(8)設定した編集範囲の情報に基づいて、動画再生表示を実行させる表示制御を行う
上記(1)乃至(7)のいずれかに記載の画像処理方法。
(9)設定した編集範囲について、操作に応じて設定変更する編集操作対応処理を行う
上記(1)乃至(8)のいずれかに記載の画像処理方法。
(10)設定した編集範囲の画像再生態様を操作に応じて変更する編集操作対応処理を行う
上記(1)乃至(9)のいずれかに記載の画像処理方法。
(11)前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別を指定することに応じて、指定した種別の付加情報に対応する編集範囲に、所定の画像再生態様を設定する編集操作対応処理を行う
上記(1)乃至(10)のいずれかに記載の画像処理方法。
(12)前記動画データの編集範囲を設定する際には、前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別に応じて、前記第1設定時間、前記第2設定時間、前記第3設定時間、前記第4設定時間のいずれかを可変設定する
上記(3)に記載の画像処理方法。
(13)前記付加情報の種別として、動画撮像時のユーザ操作に応じて付加される付加情報の場合に、前記第1設定時間、又は前記第3設定時間のいずれかを、通常設定時間長より長い時間長に設定する
上記(12)に記載の画像処理方法。
(14)設定された編集範囲の情報に基づいて、編集動画データを生成して出力する出力処理を行う
上記(1)乃至(13)のいずれかに記載の画像処理方法。
(15)前記出力処理では、前記編集動画データを記憶媒体に記憶させる出力処理を行う
上記(14)に記載の画像処理方法。
(16)前記出力処理では、前記編集動画データを外部機器に送信する出力処理を行う
上記(14)又は(15)に記載の画像処理方法。
(17)動画データの時間軸に対応して付加された付加情報を認識する認識部と、
前記認識部が認識した付加情報が、動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する編集処理部と、を備えた
画像処理装置。
(18)動画データの時間軸に対応して付加された付加情報を認識するステップと、
認識した前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定するステップと、
を情報処理装置に実行させるプログラム。
1…画像処理装置、2…対象認識部、3…編集処理部、4…出力処理部、10…記憶部、11…通信部、12…入力部、13…表示部、14…音声出力部

Claims (18)

  1. 動画データの時間軸に対応して付加された付加情報を認識し、
    前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する
    画像処理方法。
  2. 前記付加情報が前記第1付加情報である場合は、その第1付加情報が指定する特定時点に基づき編集範囲を設定し、
    前記付加情報が前記第2付加情報である場合は、その第2付加情報が指定する特定の時間範囲の始点と終点に基づき編集範囲を設定する、
    請求項1に記載の画像処理方法。
  3. 前記第1付加情報に応じて、その特定時点の第1設定時間前の時点から該特定時点の第2設定時間後までの範囲を編集範囲と設定し、
    前記第2付加情報に応じて、その時間範囲の始点の第3設定時間前の時点から該時間範囲の終点の第4設定時間後までの範囲を編集範囲とする
    請求項2に記載の画像処理方法。
  4. 設定した編集範囲を、動画データからの切り出し範囲とする
    請求項1に記載の画像処理方法。
  5. 前記動画データについて設定した編集範囲を提示する表示を実行させる表示制御を行う、
    請求項1に記載の画像処理方法。
  6. 前記第1付加情報によって指定される前記動画データ上の特定時点を提示する表示制御を行う
    請求項1に記載の画像処理方法。
  7. 前記第2付加情報が指定する前記動画データ上の特定の時間範囲を、代表時点を示すことで提示する表示制御を行う
    請求項1に記載の画像処理方法。
  8. 設定した編集範囲の情報に基づいて、動画再生表示を実行させる表示制御を行う
    請求項1に記載の画像処理方法。
  9. 設定した編集範囲について、操作に応じて設定変更する編集操作対応処理を行う
    請求項1に記載の画像処理方法。
  10. 設定した編集範囲の画像再生態様を操作に応じて変更する編集操作対応処理を行う
    請求項1に記載の画像処理方法。
  11. 前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別を指定することに応じて、指定した種別の付加情報に対応する編集範囲に、所定の画像再生態様を設定する編集操作対応処理を行う
    請求項1に記載の画像処理方法。
  12. 前記動画データの編集範囲を設定する際には、前記第1付加情報又は前記第2付加情報となる付加情報としての複数種類の付加情報の種別に応じて、前記第1設定時間、前記第2設定時間、前記第3設定時間、前記第4設定時間のいずれかを可変設定する
    請求項3に記載の画像処理方法。
  13. 前記付加情報の種別として、動画撮像時のユーザ操作に応じて付加される付加情報の場合に、前記第1設定時間、又は前記第3設定時間のいずれかを、通常設定時間長より長い時間長に設定する
    請求項12に記載の画像処理方法。
  14. 設定された編集範囲の情報に基づいて、編集動画データを生成して出力する出力処理を行う
    請求項1に記載の画像処理方法。
  15. 前記出力処理では、前記編集動画データを記憶媒体に記憶させる出力処理を行う
    請求項14に記載の画像処理方法。
  16. 前記出力処理では、前記編集動画データを外部機器に送信する出力処理を行う
    請求項14に記載の画像処理方法。
  17. 動画データの時間軸に対応して付加された付加情報を認識する認識部と、
    前記認識部が認識した付加情報が、動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定する編集処理部と、を備えた
    画像処理装置。
  18. 動画データの時間軸に対応して付加された付加情報を認識するステップと、
    認識した前記付加情報が動画の時間軸における特定時点を指定する第1付加情報か、動画の時間軸における特定の時間範囲を指定する第2付加情報かに応じて、前記動画データの編集範囲を設定するステップと、
    を情報処理装置に実行させるプログラム。
JP2017535262A 2015-08-20 2016-05-23 画像処理方法、画像処理装置、プログラム Active JP6844541B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015162581 2015-08-20
JP2015162581 2015-08-20
PCT/JP2016/065155 WO2017029849A1 (ja) 2015-08-20 2016-05-23 画像処理方法、画像処理装置、プログラム

Publications (2)

Publication Number Publication Date
JPWO2017029849A1 true JPWO2017029849A1 (ja) 2018-06-07
JP6844541B2 JP6844541B2 (ja) 2021-03-17

Family

ID=58051731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017535262A Active JP6844541B2 (ja) 2015-08-20 2016-05-23 画像処理方法、画像処理装置、プログラム

Country Status (6)

Country Link
US (1) US10607653B2 (ja)
EP (1) EP3340613B1 (ja)
JP (1) JP6844541B2 (ja)
KR (1) KR102478500B1 (ja)
CN (1) CN107925741B (ja)
WO (1) WO2017029849A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180331842A1 (en) * 2017-05-15 2018-11-15 Microsoft Technology Licensing, Llc Generating a transcript to capture activity of a conference session
US10600420B2 (en) 2017-05-15 2020-03-24 Microsoft Technology Licensing, Llc Associating a speaker with reactions in a conference session
JP6956380B2 (ja) 2017-11-09 2021-11-02 パナソニックIpマネジメント株式会社 情報処理装置
EP3770768A4 (en) * 2018-03-22 2021-01-27 Fujifilm Corporation RECORDING DEVICE, READING DEVICE, RECORDING METHOD, RECORDING PROGRAM, READING METHOD, READING PROGRAM AND MAGNETIC TAPE
JP2020144407A (ja) * 2019-03-04 2020-09-10 コニカミノルタ株式会社 画像形成装置
CN112348748A (zh) * 2019-08-09 2021-02-09 北京字节跳动网络技术有限公司 图像特效处理方法、装置、电子设备和计算机可读存储介质
CN110992993B (zh) * 2019-12-17 2022-12-09 Oppo广东移动通信有限公司 视频编辑方法、视频编辑装置、终端和可读存储介质
CN114866805A (zh) * 2022-04-25 2022-08-05 阿里巴巴(中国)有限公司 视频处理方法、设备及存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998036566A1 (fr) * 1997-02-14 1998-08-20 Sony Corporation Procede et systeme d'edition, enregistreur d'image, dispositif d'edition et support d'enregistrement
JP4328989B2 (ja) * 1999-11-24 2009-09-09 ソニー株式会社 再生装置、再生方法、並びに記録媒体
JP4194272B2 (ja) * 2001-12-28 2008-12-10 キヤノン株式会社 動画像管理装置及び方法
JP4580148B2 (ja) * 2003-03-14 2010-11-10 ソニー株式会社 情報処理装置,メタデータ表示方法
EP1494237A1 (en) * 2003-07-01 2005-01-05 Deutsche Thomson-Brandt Gmbh Method and apparatus for editing a data stream
JP2006033507A (ja) * 2004-07-16 2006-02-02 Sony Corp 遠隔編集システム、主編集装置、遠隔編集装置、編集方法、編集プログラム、及び記憶媒体
JP4379409B2 (ja) * 2005-11-08 2009-12-09 ソニー株式会社 撮像装置、および情報処理方法、並びにコンピュータ・プログラム
JP4445555B2 (ja) * 2008-02-06 2010-04-07 株式会社東芝 コンテンツ編集装置
JP5552769B2 (ja) 2009-07-29 2014-07-16 ソニー株式会社 画像編集装置、画像編集方法及びプログラム
JP2011033870A (ja) * 2009-08-03 2011-02-17 Sony Corp 画像処理装置、画像処理方法およびプログラム
JP2011155329A (ja) * 2010-01-26 2011-08-11 Nippon Telegr & Teleph Corp <Ntt> 映像コンテンツ編集装置,映像コンテンツ編集方法および映像コンテンツ編集プログラム
JP6150320B2 (ja) * 2011-12-27 2017-06-21 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2013239796A (ja) * 2012-05-11 2013-11-28 Canon Inc 画像処理装置
JP2017107408A (ja) 2015-12-10 2017-06-15 日本電気株式会社 ファイル転送システム、転送制御装置、転送元装置、転送先装置及び転送制御方法
US20210311910A1 (en) * 2018-10-17 2021-10-07 Tinderbox Media Limited Media production system and method

Also Published As

Publication number Publication date
EP3340613B1 (en) 2024-06-26
US10607653B2 (en) 2020-03-31
EP3340613A4 (en) 2019-04-24
CN107925741A (zh) 2018-04-17
US20180190325A1 (en) 2018-07-05
CN107925741B (zh) 2021-03-16
EP3340613A1 (en) 2018-06-27
KR102478500B1 (ko) 2022-12-15
JP6844541B2 (ja) 2021-03-17
WO2017029849A1 (ja) 2017-02-23
KR20180043264A (ko) 2018-04-27

Similar Documents

Publication Publication Date Title
WO2017029849A1 (ja) 画像処理方法、画像処理装置、プログラム
WO2020015333A1 (zh) 视频拍摄方法、装置、终端设备及存储介质
US9361010B2 (en) Imaging device, image processing method, and program thereof
JP5326555B2 (ja) 情報処理装置、動画像切り出し方法および動画像切り出しプログラム
JP2011009846A (ja) 画像処理装置、画像処理方法及びプログラム
JP5701017B2 (ja) 動画再生装置、動画再生方法、コンピュータプログラム、記憶媒体
KR20160024002A (ko) 비쥬얼 사운드 이미지를 제공하는 방법 및 이를 구현하는 전자 장치
KR20120068078A (ko) 영상 처리 장치 및 그의 영상 데이터와 오디오 데이터의 연결 방법
AU2014200042B2 (en) Method and apparatus for controlling contents in electronic device
US10972811B2 (en) Image processing device and image processing method
JP2017027144A (ja) 情報処理装置及びプログラム
US10381042B2 (en) Method and system for generating multimedia clip
JP5831567B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7342087B2 (ja) 映像作成プログラム
JP6632360B2 (ja) 情報処理装置
JP2018074337A (ja) 動画処理装置、動画処理方法およびプログラム
JP5578262B2 (ja) 情報処理装置、情報処理方法、撮像装置、及び情報処理システム
CN113261302B (zh) 电子装置
JP7150590B2 (ja) 電子機器
JP4673916B2 (ja) 情報処理装置、情報処理方法及び情報処理用プログラム
JP2015002417A (ja) 撮影装置およびその制御方法
KR20160058001A (ko) 멀티미디어 클립을 생성하는 방법 및 시스템
KR20140089136A (ko) 카메라를 구비하는 장치의 동영상 처리장치 및 방법
JP2017102588A (ja) 画像処理装置および画像処理装置の制御方法
JP2006164415A (ja) 未視聴部分をもとにした情報再生表示装置とその方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190416

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210208

R151 Written notification of patent or utility model registration

Ref document number: 6844541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151