以下、本発明の実施形態について説明する。
図1は、本実施の形態の編集システム10の概略図である。
編集システム10は、編集装置12、撮影装置14、表示装置16、及び操作部18を備える。これらの編集装置12、撮影装置14、表示装置16、及び操作部18は、ネットワーク等の無線または有線の通信部を介して通信可能に接続される。
通信部には、例えば、短距離無線技術、移動通信システムによる無線通信網、及びインターネット等を用いる。短距離無線技術は、Bluetooth(登録商標)等が挙げられる。移動通信システムによる無線通信網には、3G(3rd Generation)や、WiMAX(Worldwide Interoperability for Microwave Access)等が挙げられる。
編集装置12は、素材の編集処理を実行するコンピュータである。編集対象の素材には、全天球パノラマ動画像、静止画像、及び音声等が挙げられる。編集処理については詳細を後述する。
撮影装置14は、全天球パノラマ動画像を取得する撮影装置である。全天球パノラマ動画像とは、全天球の範囲の撮影によって得られるパノラマ動画像である。パノラマ動画像とは、画角が最終出力する表示装置のアスペクト比より広い動画像である。
なお、編集装置12における編集対象の素材は、全天球パノラマ動画像を少なくとも含めばよい。
表示装置16は、画像を表示する一般的な表示装置である。例えば、液晶ディスプレイや、有機ELディスプレイなどである。本実施の形態では、表示装置16は、後述するメイン編集画面等を表示する。メイン編集画面は、全天球パノラマ動画像の編集を行うときに表示装置16に表示される画面である。ユーザは、メイン編集画面に表示された各種画面を介して、編集指示を行う(詳細後述)。
操作部18は、ユーザから各種操作指示を受け付ける機能を有するものである。図1に示す例では、操作部18は、キーボード18A、マウス18B、UI部18Cを備える。
UI部18Cは、ユーザからの操作入力を受け付けると共に各種画像を表示するタッチパネル機能を備えた装置である。UI部18Cには、例えば、スマートフォン、タブレット端末、ノート型パソコン、デスクトップ型パソコン、またはPDA(Personal Data Assistance)等のコンピュータを用いる。UI部18Cと、編集装置12とは、図1では有線で接続されているようになされているが、無線接続であっても良い。特に、無線接続の場合には、インターネット上に編集装置12を置き、ネットワーク越しに、UI部18Cが編集装置12を操作し、編集がなされても良い。
本実施の形態では、UI部18Cとして、スマートフォンまたはタブレット端末を用いる場合を説明するが、タッチパネル機能を備えた構成であればよい。
なお、編集システム10は、キーボード18A、マウス18B、UI部18C以外の他の種類の操作部を備えた構成であってもよいし、更に複数の撮影装置14を備えた構成であってもよい。
次に、図2を用いて、撮影装置14の外観を説明する。図2は、撮影装置14の外観模式図である。なお、図2(A)は撮影装置14の側面図である。図2(B)は、撮影装置14の、図2(A)とは反対側の側面図である。図2(C)は、撮影装置14の平面図である。
図2(A)に示すように、撮影装置14は、例えば、人間が片手で持つことができる大きさである。なお、撮影装置14の大きさは、このような大きさに限られない。撮影装置14は、パノラマ動画像を得る撮影装置である。パノラマ動画像とは、画角が最終出力時のアスペクト比より広い動画像である。本実施の形態では、撮影装置14は、パノラマ動画像を得える。また、編集装置12は、この撮影装置14が得たパノラマ動画像を編集対象として得る。なお、本実施の形態では、撮影装置14は、パノラマ動画像として全天球パノラマ動画像を得る場合を説明する。全天球パノラマ動画像とは、4πラジアンの立体角内の像を得て、全天球の範囲の撮影によって得られるパノラマ動画像である。
図2に示すように、撮影装置14の上部には、正面側(一方の面側)にレンズ20A及び背面側(他方の面側)にレンズ20Bが設けられている。この各々の180度以上の画角を有する広角レンズを介して、像が導かれ、各々の撮像素子に像が形成される。なお、撮像素子としては、CCDや、CMOS等が挙げられる。また、図2(B)に示されるように、撮影装置14の正面側には、シャッターボタン等の操作部14Cが設けられている。
次に、図3を用いて、撮影装置14の使用状況の一例を説明する。図3は、撮影装置14の使用状況の一例を示す図である。撮影装置14は、図3に示すように、ユーザが手に持ってユーザの周りの被写体を撮影するために用いられる。この場合、レンズ20A及びレンズ20Bから導かれた像を各々の撮像素子によって、ユーザの周りの被写体が撮像され、2つの半球画像が得られ、4πラジアンの立体角内の像が得られる。
次に、図4を用いて、撮影装置14で撮影された画像を説明する。図4は、撮影装置14で撮影された画像の説明図である。図4(A)はレンズ20Aで撮影された半球画像(前側)、図4(B)はレンズ20Bで撮影された半球画像(後側)、図4(C)はメルカトル図法により表された画像(以下、「メルカトル画像」という)を示した図である。
図4(A)に示すように、レンズ20Aは広角レンズの一つである魚眼レンズであるため、このレンズ20Aによって得られた画像は、湾曲した半球画像(前側)となる。また、図4(B)に示されているように、レンズ20Bは広角レンズの一つである魚眼レンズであるため、このレンズ20Bによって得られた画像は、湾曲した半球画像(後側)となる。そして、半球画像(前側)と、半球画像(後側)とは、撮影装置14によって合成され、図4(C)に示される、メルカトル画像が作成される。図5は、撮影装置14で合成されたメルカトル画像の他の例を示す模式図である。このように、1つのメルカトル画像が連続して生成されることにより、メルカトル動画像となる。
図1へ戻り、撮影装置14で得られたメルカトル動画像は、編集装置12と接続されると、撮影装置14から編集装置12へ送信される。なお、本実施の形態では、撮影装置14は、メルカトル動画像を、編集装置12へ送信する。この他に、この実施形態では、撮像装置14でメルカトル画像を合成するが、編集装置12は、撮像装置14から2つ半球画像を受信し、メルカトル画像を合成しても良い。このメルカトル画像が連続して連なると全天球パノラマ動画像となる。
編集装置12では、メルカトル動画像を、全天球パノラマ動画像として、撮影装置14から取得する。図6は、全天球パノラマ動画像の一例を示す模式図である。なお、編集装置12における編集対象の素材は、パノラマ動画像を少なくとも含めばよく、他の素材についても編集対象としてもよい。なお、全天球パノラマ動画像に対しても、好適な編集が可能である。
本実施の形態では、編集装置12は、全天球パノラマ動画像の編集処理を実行する(詳細後述)。
なお、編集装置12では、取得したメルカトル画像を、OpenGL(Open Graphics Library)を利用することで、全天球パノラマ動画像として表示装置16や後述するUI部18C等へ表示する。
次に、撮影装置14のハードウェア構成を説明する。
図7は、撮影装置14のハードウェア構成を示す模式図である。撮影装置14は、カメラ本体に設けられた鏡胴ユニット20を備える。鏡胴ユニット20は、図7に示すように、レンズ(光学系)20A、20Bと撮像素子14A、14Bとを有する。
撮像素子14A、14Bは、カメラ本体に設けられたプロセッサ22内にあるCPU37からの制御指令により、制御される。ROM43Cには、CPU37が解読可能なコードで記述された制御プログラムや制御のための各種のパラメータが格納されている。撮影装置14の電源スイッチ43E(操作部14C)の操作によって該撮影装置14の電源がオン状態になると、前記プログラムはメインメモリにロードされる。
プロセッサ22内のCPU37は、メインメモリに読み込まれたプログラムに従って装置各部の動作を制御するとともに、制御に必要なデータ等をRAM43Aと、プロセッサ22内にあるLocal SRAMと、に一時的に保存する。なお、ROM43Cに書き換え可能なフラッシュROMを使用することで、制御プログラムや制御するためのパラメータを変更することが可能となり、機能のバージョンアップが容易に行える。
撮像素子14A、14Bは、光学画像を光電変換するための固体撮像素子であり、例えば、CMOS等を用いる。プロセッサ22内の信号処理部23A、23Bは、撮像素子14A、14Bから入力されたデータにホワイトバランス設定やガンマ設定を行う。
プロセッサ22は、画像データをフィルタリング処理によって輝度データ・色差データへの変換を行う信号処理部23A、23Bと、前述した装置各部の動作を制御するCPU37と、前述した制御に必要なデータ等を、一時的に保存するLocal SRAMと、パソコンなどの外部機器とUSB通信を行うUSB通信部36と、Wi−Fi43Hおよびパソコンなどの外部機器とシリアル通信を行うシリアル通信部(SDIO SPI)41と、JPEG圧縮・伸張を行うJPEG圧縮伸長部30と、H.264動画圧縮・伸張を行うH.264圧縮伸長部31と、画像データのサイズを補間処理により拡大/縮小するリサイズ部29と、撮影された画像データを記録するメモリカード等の制御を行うメモリカード制御部35とを有する。
また、プロセッサ22は、MEMC25と、DMAC26A〜26Fと、ARB MEMC27と、Image Processing Block28と、Power Ctrl32と、Image Data Transfer33と、SDRAMC34と、Peripheral38と、Bridge39と、を有する。
プロセッサ22に接続されたRAM43Aは、プロセッサ22で画像データに前述した各種処理を施す際に、画像データを一時的に保存する。SDRAM21は、信号処理部23A、23Bもしくは補正部24による歪曲補正及び合成の処理を施す際に、画像データを一時的に保存する。保存される画像データは、例えば、プロセッサ22に取り込まれ、信号処理部23A、23Bでホワイトバランス設定およびガンマ設定が行われた状態の「RAW−RGB画像データ」、信号処理部23A、23Bで輝度データ・色差データ変換が行われた状態の「YUV画像データ」、およびJPEG圧縮伸長部30でJPEG圧縮された「JPEG画像データ」などである。
メモリカード制御部35に接続されたスロットル43Bは、撮影装置14にメモリカードを着脱可能に装着するためのスロットルである。プロセッサ22に接続された内蔵メモリは、スロットル43Bにメモリカードが装着されていない場合でも、撮影した画像データを記憶できるようにするためのメモリである。
LCDドライバ(LCDIO)42は、LCDモニタ43Iを駆動するドライブ回路であり、各種状態情報を、LCDモニタ43Iに表示するための信号に変換する機能を有する。USB通信部36は、USBコネクタ43Dを介してパソコンなどの外部機器とUSB接続を行う。
音声記録再生部(Audio)40は、ユーザが音声信号を入力するマイク(Mic)43Fから入力された音声信号を増幅するマイクAMPと、増幅された音声信号を記録する音声記録回路と、記録された音声信号をスピーカー(SP)43Gから出力できる信号に変換する音声再生回路と、変換された音声信号を増幅し、スピーカーを駆動するためのオーディオAMPとを含む。
次に、撮影装置14において、半球画像(前側)と半球画像(後側)から、メルカトル動画像としての全天球パノラマ動画像を作成する処理を説明する。
図8は、撮影装置14が全天球パノラマ動画像を作成する処理の流れを示す模式図である。
撮影装置14のプロセッサ22(図7参照)では、下記処理を実行することで、撮影によって得られた半球画像から全天球パノラマ動画像を作成する。具体的には、プロセッサ22は、オプティカルブラック(OB)補正処理、欠陥画素補正処理、Linear補正処理、Shading補正処理、領域分割平均処理、ホワイトバランス(WB)処理、ガンマ(γ)補正処理、ベイヤー補間処理、YUV変換処理、YCFLT(エッジ強調)処理、及び色補正処理を実行する。
オプティカルブラック(OB)補正処理は、オプティカルブラック領域の出力信号を黒の基準レベルとして、有効画素領域の出力信号をクランプ補正する処理である。欠陥画素補正処理は、撮像素子14A、14Bに含まれる欠陥画素の画素値を補正する処理である。Linear補正処理は、RGB別にリニア補正を施す処理である。Shading補正処理は、予め用意された補正係数(固定値)を有効画素領域の出力信号に乗じることによって、有効画素領域のシェーディング(陰影)の歪みを補正する処理である。
領域分割平均処理は、得られた画像を分割し、平均輝度を算出する処理である。算出した平均輝度は、AE処理に使用する。ホワイトバランス(WB)処理は、公知の白色補正処理であり、各画素におけるRとBのゲインを変更することで補正を行う処理である。
ガンマ(γ)補正処理は、公知のガンマ補正処理である。CMOSではベイヤー配列と呼ばれる配列で、1画素にRED、GREEN、BLUEのいずれか1色のカラーフィルタが貼付されており、RAWデータは1画素に1色の情報しかない。しかし、RAWデータから画像として見るためには、1画素にRED、GREEN、BLUEの3色の情報が必要である。ベイヤー補間処理では、足りない2色を補うために周辺の画素から補間する補間処理を行う。
RAWデータの段階では、RED、GREEN、BLUEの3色によるRGBデータ形式であるが、YUV変換では輝度信号Yと色差信号UVのYUVデータ形式に変換を行う。ディジタルカメラ等で一般的に用いられるファイル形式のJPEG画像では、YUVデータから画像が作成される。このため、YUV変換処理では、RGBデータをYUVデータに変換する。
YCFLT(エッジ強調)処理は、画像の輝度(Y)信号からエッジ部分を抽出するエッジ抽出フィルタ処理と、エッジ抽出フィルタにより抽出されたエッジに対してゲインを掛けるゲイン乗算処理と、エッジ抽出と並行して画像のノイズを除去するLPF(ローパスフィルタ)処理と、ゲイン乗算後のエッジ抽出データとLPF処理後の画像データを加算するデータ加算処理と、を含む。
色補正処理は、彩度設定、色相設定、部分的な色相変更設定、色抑圧設定などある。彩度設定は色の濃さを決定するパラメータ設定であり、UV色空間を示すものであるが、例えば、第2象限でREDの色に対して原点からREDのドットまでのベクトルの長さが長い程、色の濃さは濃くなる。
撮影装置14では、取得した半球画像(前側)と半球画像(後側)に上記画像処理を行うと共に合成することで、メルカトル画像が生成され、連続的に撮影されたメルカトル画像が連なるとメルカトル動画像としての全天球パノラマ動画像となる。
次に、編集装置12のハードウェア構成を説明する。
図9は、編集装置12のハードウェア構成の説明図である。
図9に示すように、編集装置12は、編集装置12全体の動作を制御するCPU300、IPL等のCPU300の駆動に用いられるプログラムを記憶したROM320、CPU300のワークエリアとして使用されるRAM340、編集装置12用のプログラム等の各種データを記憶するHD76、CPU300の制御にしたがってHD76に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)360を備える。
また、編集装置12は、各種画像を表示する表示装置16と通信するためのI/F400、撮影装置14と通信するための通信部420、キーボード18Aと通信するためのI/F440、マウス18Bと通信するためのI/F460、UI部18Cを通信するためのI/F480、及び、上記各構成要素を電気的に接続するバスライン500を備える。
ここで、従来の画像編集方法の概要を説明する。
図10は、従来の編集装置における動画像の編集方法を用いて、全天球パノラマ動画像を編集すると想定した場合の模式図である。図10(A)に示す全天球パノラマ動画像を編集する場合、従来では、全天球パノラマ動画像に含まれる様々な領域を抽出して表示部に表示することが出来なかった。例えば、図10(B)に示すように、全天球パノラマ動画像の一部の領域のみを表示部に表示していた。
このため、従来では、効率的な編集を行うことができなかった。すなわち、ユーザは、編集対象の全天球パノラマ動画像の中から編集したい領域を容易に検索したり、見つけ出したりすることが困難であるとともに、編集対象の領域について所望の編集指示を行うことも困難であった。
一方、本実施の形態の編集装置12では、全天球パノラマ動画像について、全天球パノラマ動画像から抽出した指定領域の編集画面を配置したテンプレート(詳細後述)を、表示装置16へ表示する。
以下、本実施の形態の編集装置12について詳細に説明する。
図11は、編集装置12の機能的構成を示す模式図である。図11に示すように、編集装置12は、制御部52と、UI部18C等の操作部18と、HD(ハードディスク)76と、を備える。制御部52は、撮影装置14、表示装置16、UI部18C等の操作部18、及びHD76に電気的に接続されている。
制御部52は、編集装置12の全体を制御し、上述したCPU300、ROM320、RAM340等を含むコンピュータである。
制御部52は、接続部54、取込部56、表示制御部58、取得部60、判別部62、作成部64、受付部66、編集部68、トリミング部70、記憶制御部72、及び書出部74を備える。
接続部54は、撮影装置14との接続を確立する。接続部54は、例えば、編集装置12に撮影装置14が有線または無線により接続された状態で、撮影装置14との間で予め定めた通信プロトコルに従って接続確立のための通信制御を行う。これによって、接続部54は、撮影装置14との接続を確立する。
取込部56は、撮影装置14から全天球パノラマ動画像を取り込む。また、取込部56は、撮影装置14以外の他の記憶媒体等から全天球パノラマ動画像を取り込んでもよい。また、取込部56は、撮影装置14や各種記憶媒体等から、全天球パノラマ動画像以外の他の素材についても取り込んでもよい。表示制御部58は、メイン編集画面や、各種素材等を表示装置16やUI部18Cに表示する制御を行う。
取得部60は、ユーザによるUI部18C(操作部18)の操作指示を取得する。操作指示は、指定領域(詳細後述)を示す指定領域情報、配置情報(詳細後述)、等の各種指示情報を含む。判別部62は、編集対象の画像が全天球パノラマ動画像であるか否かを判別する。作成部64は、テンプレートを作成する(詳細後述)。受付部66は、操作部18から編集指示や合成指示などの各種指示を受け付ける。受付部66は、第1受付部66Aおよび第2受付部66Bを含む。第1受付部66Aは、編集指示を受け付ける。編集指示は、ユーザによる操作部18の操作指示によって入力される。第2受付部66Bは、編集した編集画面を合成する合成指示を受け付ける。編集部68は、編集指示および合成指示に基づいて、指示された編集処理や合成処理を実行する。
トリミング部70は、編集対象の全天球パノラマ動画像について、公知の方法によりトリミング処理を行う。書出部74は、全天球パノラマ動画像等の画像の書出処理を実行する。
図12は、メイン編集画面80の一例を示す模式図である。
メイン編集画面80は、上述したように、編集装置12において全天球パノラマ動画像等の画像の編集処理を実行するときに、表示装置16に表示する編集用の表示画面(ウィンドウ)である。編集装置12では、ユーザによる操作部18の操作指示によって、編集処理の実行を示す情報が入力されると、編集処理を実行するための編集プログラムを実行し、メイン編集画面80を表示装置16へ表示する。
メイン編集画面80は、タイムライン領域80A、ビューワ領域80B、エディタ領域80C、合成動画領域80Dを含む。
タイムライン領域80Aは、編集可能な素材を時系列に配置して表示する領域である。図13は、タイムライン領域80Aを示す模式図である。
タイムライン領域80Aにおける各素材の配置位置は、ユーザによる操作部18の操作指示によって調整される。図12及び図13に示す例では、タイムライン領域80Aには、複数の全天球パノラマ動画像(801A、802A、803A)が配置されている場合を示した。ユーザによる操作部18の操作指示によって、タイムライン領域80Aに配置された複数の全天球パノラマ動画像(801A、802A、803A)の内の1つが選択指示される。これによって、選択指示された全天球パノラマ動画像が編集対象として選択された状態となる。
なお、図12及び図13は、全天球パノラマ動画像803Aが、編集対象として選択指示された状態を示している。
ユーザによる操作部18の操作指示によって、全天球パノラマ動画像(801A、802A、803A)の内の1つが選択指示されると、操作部18から編集装置12へ、選択指示された全天球パノラマ動画像を識別する識別情報等を含む選択情報が出力される。編集装置12では、操作部18から受け付けた選択情報に含まれる識別情報によって特定される全天球パノラマ動画像を、編集対象として特定する。
図12に戻り、ビューワ領域80Bは、テンプレート81の表示領域であると共に、テンプレート81に関する指示を受け付ける領域である。テンプレート81に関する指示は、テンプレート81の作成に必要な各種情報を含む。
テンプレート81は、編集対象の全天球パノラマ動画像における、編集対象の複数の指定領域の各々の編集画面を配置した表示画面である。指定領域は、ユーザによる操作部18の操作指示によって設定される。同じフレームにおける複数の指定領域は、全天球パノラマ動画像のフレームにおける、位置、大きさ、範囲の少なくとも1つが異なるように設定されている。
具体的には、テンプレート81に関する指示は、全天球パノラマ動画像のフレームにおける、指定領域の位置、大きさ、範囲を示す指定領域情報、および、これらの指定領域の編集画面の表示時の形態および配置(レイアウト)を示す配置情報などを含む。配置は、各テンプレート81における配置位置を示す。
作成部64(図11参照)は、ユーザによる操作部18の操作指示によって指示された指定領域を、編集対象の全天球パノラマ動画像から抽出する。そして、抽出した抽出画面を表示時の形態に応じて歪補正等の補正を行った編集画面を、配置情報に示される位置に配置することで、テンプレート81を作成する。
なお、各テンプレート81に対応する指定領域には、予め設定されたものを用いてもよい。
本実施の形態では、編集装置12の作成部64は、指定領域の位置、大きさ、範囲や、指定領域の数や、同一テンプレート81内における編集画面のレイアウト等の異なる、複数種類のテンプレート81を作成し、ビューワ領域80Bに表示する。
図14は、編集対象の全天球パノラマ動画像と、この全天球パノラマ動画像のフレームにおける複数の指定領域を編集するための複数の編集画面を配置したテンプレート81と、の一例を示す模式図である。なお、これらの複数の指定領域は、上述したように、全天球パノラマ動画像における、位置、大きさ、範囲の少なくとも1つが互いに異なる。
この指定領域の指定方法について、具体的に説明する。例えば、ユーザによる操作部18の操作指示によって、編集対象の全天球パノラマ動画像として全天球パノラマ動画像801Aが選択されたとする(図14(A)参照)。そして、ユーザによる操作部18の操作指示によって、全天球パノラマ動画像801Aにおける編集対象の複数の指定領域が入力されると、操作部18から編集装置12へ、これらの複数の指定領域に関する指定領域情報が出力される。
編集装置12の作成部64では、操作部18から受け付けた指定領域情報によって特定される各指定領域を、編集対象の全天球パノラマ動画像801Aから抽出する。そして、作成部64は、抽出した抽出画像を、配置情報に示される表示形態(表示時の形状や大きさ)に応じて歪補正等の補正を行う。そして、補正後の抽出画像を、これらの指定領域の編集画面として、配置情報に応じた位置に配置する。これによって、作成部64は、テンプレート81を作成する。なお、各テンプレート81に配置する編集画面のレイアウトなどを示す配置情報には、予め定めた値を用いてもよいし、ユーザによる操作部18の操作指示によって適宜変更可能としてもよい。
図14(A)では、例えば、全天球パノラマ動画像801Aにおける、円状の指定領域A〜指定領域Dが、ユーザによる操作部18の操作指示によって選択された状態を示している。なお、操作部18の操作指示によって、これらの指定領域の数や、指定領域の位置、指定領域の大きさ、指定領域の範囲、及び指定領域の形状は、任意の値及び形状に変更可能である。
例えば、各指定領域は、矩形状であってもよい。なお、各指定領域(指定領域A〜指定領域D)の形状や大きさが、テンプレート81における表示時の編集画面の形状や大きさとは異なる場合には、作成部64では、上述のように歪補正を行う必要がある。この場合、編集装置12は、撮影装置14から歪補正パラメータを全天球パノラマ動画像と共に予め受信するようにし、受信した歪補正パラメータを用いて歪補正処理を行えばよい。
図14(B)は、図14(A)に示す全天球パノラマ動画像から指定領域A〜指定領域Dを抽出した抽出画像を、表示時の表示形態に応じて矩形状に歪補正することで得られた編集画面a〜編集画面dを、該配置情報によって示される表示位置及び表示範囲に配置したテンプレート811(テンプレート81)の一例である。
図15は、編集対象の全天球パノラマ動画像と、全天球パノラマ動画像における指定領域の編集画面を配置したテンプレート81と、の一例を示す模式図である。
なお、隣接する指定領域の重なる(オーバーラップする)領域が多いほど、全天球パノラマ動画像から抽出した抽出画像に対する歪補正は少なくてすむ。このため、各指定領域は、出来るだけ広い範囲で、且つ隣接する指定領域間における重なる領域が多くなるように指定されることが好ましい。
このため、このような条件を満たす指定領域を、編集装置12側において予め設定して記憶しておくことが好ましい。
例えば、図15(A)は、全天球パノラマ動画像802Aについて、円状の指定領域A〜指定領域Dが、編集対象の指定領域として選択された状態を示している。図15(A)に示すように、各指定領域は、互いに重複する領域が多くなるように、図14(A)に示す例に比べてより広い範囲で設定されている。
図15(B)は、図15(A)に示す全天球パノラマ動画像から指定領域A〜指定領域Dを抽出し、抽出した核抽出画像を矩形状に歪補正することで得られた編集画面a〜編集画面dを、予め定めた表示位置及び表示範囲に配置したテンプレート813(テンプレート81)の一例である。
また、図15(C)は、全天球パノラマ動画像803Aについて、円状の指定領域A〜指定領域Cが、編集対象の指定領域として予め選択された状態を示している。図15(C)に示すように、各指定領域は、互いに重複する領域が多くなるように、図14(A)に示す例に比べてより広い範囲で3つ設定されている。
図15(D)は、図15(C)に示す全天球パノラマ動画像から指定領域A〜指定領域Cを抽出し、抽出した抽出画像を矩形状に歪補正することで得られた編集画面a〜編集画面cを、予め定めた表示位置及び表示範囲に配置したテンプレート812(テンプレート81)の一例である。
また、図15(E)は、全天球パノラマ動画像803Aにおける、円状の指定領域A〜指定領域Dが、編集対象の指定領域として予め選択された状態を示している。図15(E)に示すように、各指定領域は、互いに重複する領域が多くなるように、図14(A)に示す例に比べてより広い範囲で4つ設定されている。
図15(F)は、図15(E)に示す全天球パノラマ動画像から指定領域A〜指定領域Dを抽出し、抽出した抽出画像を矩形状に歪補正することで得られた編集画面a〜編集画面dを、予め定めた表示位置及び表示範囲に配置したテンプレート815(テンプレート81)の一例である。
図15に示すように、指定領域としてより広い範囲が指定されることが、テンプレート81に表示したときの編集画面の歪量は少なくなることから好ましい。
本実施の形態では、編集装置12は、図15(B)、図15(D)、図15(F)に示すようなテンプレート81(テンプレート813、テンプレート812、テンプレート815)を作成するための複数の指定領域の位置、大きさ、範囲等を示す指定領域情報と、各指定領域の編集画面の配置を示す配置情報と、をテンプレート81毎にHD76等に記憶しているものとする。
そして、編集装置12の作成部64では、指定領域情報および配置情報をテンプレート81毎に読取り、編集対象として指示された全天球パノラマ動画像から対応する指定領域を抽出してテンプレート81を作成する。
また、編集装置12では、図14に示すように、ユーザによる操作部18の操作指示によって入力された指定領域の位置、範囲、大きさ、形状、数等を示す指定領域情報に基づいて、編集対象として指示された全天球パノラマ動画像から指定領域を抽出し、テンプレート81(テンプレート811)を作成する。
図12に戻り、作成部64が作成したテンプレート81は、表示制御部58によって、メイン編集画面80のビューワ領域80Bに表示される。
図16は、ビューワ領域80Bに表示されたテンプレート81の一覧を示す模式図である。
図16に示す例では、複数のテンプレート81の一覧がビューワ領域80Bに表示されている。ユーザは、操作部18の操作指示によって、新たなテンプレート81の設定に用いる指定領域情報および配置情報や、全天球パノラマ動画像の編集時に用いるテンプレート81の選択等の指示入力を、ビューワ領域80Bを介して行う。
図16に示す例では、全天球パノラマ動画像の編集時に用いるテンプレート81として、1つのテンプレート815が選択された状態を示している。
図12に戻り、エディタ領域80Cは、編集対象の全天球パノラマ動画像の編集を行うときに、ユーザが参照及び操作指示する領域である。表示制御部58は、編集対象として指示された全天球パノラマ動画像から作成部64で作成された1または複数のテンプレート81の一覧をエディタ領域80Cに表示する。
ユーザは、表示された各テンプレート81に示される編集画面のうち、所望の編集画面を選択し、各種編集指示を実行する。編集部68は、ユーザによる操作部18の操作指示によって入力された編集指示に基づいて、全天球パノラマ動画像における、選択された編集画面に対応する指定領域について編集処理を実行する。
図17は、編集時にエディタ領域80Cに表示される画像の一例を示す模式図である。
図17に示すように、エディタ領域80Cには、テンプレート81の一覧を表示するための領域87と、編集中の画像を表示する領域84と、各種設定を行うための項目を示した選択欄85と、が設けられている。
テンプレート81の一覧を表示するための領域87には、作成部64で作成された複数のテンプレート81(図17に示す例では、テンプレート814、テンプレート812)が表示される。これらの表示制御は、表示制御部58が実行する。
図17に示す例では、ユーザによる操作部18の操作指示によって、領域87に表示された複数のテンプレート81の内、テンプレート812が選択された状態を示している。この場合、領域84には、テンプレート812が表示される。なお、領域87に表示された複数のテンプレート81の各々に示される編集画面の内の1または複数が、ユーザによる操作部18の操作指示によって編集対象として選択された場合には、選択された編集画面が領域84に表示され、編集可能な状態となる。
選択欄85には、各編集画面に対する編集項目の一覧が表示される。本実施の形態では、選択欄85には、「ターゲット追尾」、「座標固定」、「コメント画面」、「エフェクト機能」、「終了時間」等が表示される。なお、選択欄85に表示する編集項目は、これらの項目に限られない。
「ターゲット追尾」とは、指定領域に含まれる移動体を追尾する機能を示す。移動体は、時間の経過に応じて移動する物体を示し、例えば、人、車等である。操作部18の操作指示によって、編集対象の編集画面が選択された状態で、「ターゲット追尾」が選択されると、該編集画面の指定領域には、ターゲット追尾機能が付与される。
図18は、「ターゲット追尾」の説明図である。図18に示すように、編集対象の全天球パノラマ動画像を三次元の立体球CSと仮定する。そして、この全天球パノラマ動画像を該立体球CSの中心から仮想撮影装置Pにより撮影したとする。「ターゲット追尾」は、立体球CSの全天球パノラマ動画像における、仮想撮影装置Pの視点Sを移動体の移動に応じて動かす(例えば、図18中、矢印X1、矢印X2等参照)イメージである。
一方、「ターゲット追尾」機能を設定しない場合、仮想撮影装置Pの視点Sを固定したイメージとなる。すなわち、「ターゲット追尾」機能を設定しない場合、視点Sを固定した状態で対応する指定領域の画像を全天球パノラマ動画像から抽出して編集画面として表示するイメージとなる。
図17に戻り、「座標固定」は、仮想撮影装置Pの視点Sを固定とする機能を示す。「コメント画面」は、テキストデータ等の各種コメント情報を入力する機能を示す。「エフェクト機能」は、編集対象の編集画面にエフェクト機能を付加するときにユーザによって指定される項目である。「終了時間」は、ある切り取られた時間軸での表示を指示するときにユーザによって選択される項目である。
ユーザは、メイン編集画面80のエディタ領域80Cを参照しながら、操作部18によって編集対象の編集画面をテンプレート81から選択した状態で、編集情報を入力する。編集情報は、選択された編集画面の指定領域に対して行う編集内容を示す情報である。この編集内容は、選択欄85に表示された各編集項目の選択などによって入力される。
具体的には、例えば、ユーザは、領域87に表示されたテンプレート81を選択して、領域84へマッピングする。そして、マッピングしたテンプレート81を構成する編集画面の各々について、選択欄85に示される各編集項目に応じた編集情報を入力することができる。また、ユーザは、領域87に表示されたテンプレート81に含まれる編集画面の内、所望の編集画面を選択して領域84内にマッピングした上で、選択欄85に示される各種編集情報の入力を行うこともできる。
編集部68(図11参照)は、操作部18から入力された編集情報を用いて、選択されている編集画面の編集を行う。すなわち、編集部68は、編集情報にエフェクトの設定情報が含まれる場合には、該設定情報に応じたエフェクト処理を、編集中の編集画面に対応する指定領域について行う。
図19、図20、図21は、エディタ領域80Cを介して編集された編集後の動画像のイメージ図である。
具体的には、図19に示す画像91は、図14及び図15に示す各テンプレート81(テンプレート811〜テンプレート815)に示される各編集画面から、ユーザによる操作部18の操作指示によって任意の編集画面が選択されて領域84にマッピングされると共に、マッピングされた各編集画面について入力された編集情報を反映させたものである。
また、図19に示す画像91は、固定動画像と追尾動画像とを組み合わせた編集後の動画像のイメージを示したものである。
図19に示す画像91では、1または複数のテンプレート81から選択された編集画面91Aについては「座標固定」(すなわちターゲット追尾無)が設定され、編集画像91B及び編集画像91Cについては「ターゲット追尾」が設定された状態を示す。
図20に示す動画像93は、図14及び図15に示す各テンプレート81(テンプレート811〜テンプレート815)に示される各編集画面から、ユーザによる操作部18の操作指示によって任意の編集画面が選択されて領域84にマッピングされると共に、マッピングされた各編集画面について入力された編集情報を反映させたものである。図20に示す動画像92は、編集情報として、コメントの追加を指示された動画像のイメージを示したものである。
詳細には、図20に示す動画像92では、1または複数のテンプレート81から任意の編集画面が選択され、編集画面92Aについては「座標固定」(すなわちターゲット追尾無)が設定され、編集画面92Bについては「ターゲット追尾」が設定された状態を示す。また、ユーザによる操作部18の操作指示によって、コメント92D、及びコメント92Cも追加されている。
図21に示す動画像92は、図14及び図15に示す各テンプレート81(テンプレート811〜テンプレート815)に示される編集画面から、ユーザによる操作部18の操作指示によって任意の編集画面が選択されて領域84にマッピングされると共に、マッピングされた各編集画面について入力された編集情報を反映させたものである。また、図21に示す動画像93は、ターゲット追尾の設定された編集画像のみを組み合わせたイメージを示したものである。
詳細には、図21に示す動画像93では、1または複数のテンプレート81から任意の編集画面が選択され、編集画面93A及び編集画面93Bの双方について、「ターゲット追尾」が設定された状態を示す。
これらの、編集後の編集画面を合成した動画像(動画像91〜動画像93)は、ユーザによる操作部18を介して指示されたマッピング等の合成指示に応じた編集部68の合成処理によって作成される。
図12に戻り、合成動画領域80Dは、エディタ領域80Cを介して編集された編集後の動画像を表示する領域である。
図22は、合成動画領域80Dの一例を示す模式図である。図22に示すように合成動画領域80Dには、編集後の動画像であって、ユーザによる操作部18の操作指示によって合成位置に配置された編集後の動画像と、現在編集中の動画像を示す枠画像94Aと、が表示されている。ユーザは、操作部18の操作指示によって、編集した動画像を合成動画領域80Dにおける任意の位置へ貼り付ける指示を行う。これによって、編集後の動画像の合成時の配置位置が入力される。
編集装置12では、合成動画領域80Dに配置された編集後の各動画像を、合成動画領域80Dに配置された配置位置の順に合成する。
次に、編集装置12で実行する編集処理の手順を説明する。
図23は、編集装置12で実行する編集処理の手順を示すフローチャートである。
まず、編集装置12の取得部60が、編集プログラムの実行指示を操作部18から受け付ける。制御部52では、ROM320等に予め記憶されている編集プログラムを実行することで、図23に示す手順を実行する。また、制御部52が編集プログラムを実行すると、表示制御部58は、メイン編集画面80を表示装置16に表示する制御を行う。
まず、接続部54が撮影装置14との接続確立を行う(ステップS200)。ステップS200の処理によって、編集装置12は、撮影装置14と信号授受可能な状態となる。
次に、制御部52では、ステップS202〜ステップS206の処理を、操作部18から指示された素材数分繰り返す。
具体的には、取込部56が、ユーザによる操作部18の操作指示によって取込対象として指示された素材としての全天球パノラマ動画像をキャプチャ、すなわち取り込む(ステップS202)。
次に、表示制御部58が、ステップS202でキャプチャされた全天球パノラマ動画像の内、ユーザによる操作部18の操作指示によって指示された素材を、メイン編集画面80におけるタイムライン領域80Aに配置する(ステップS204)。
次に、取込部56が、その他素材のインポートを実行する(ステップS206)。ステップS206では、ユーザによる操作部18の操作指示によって指示されたその他の素材を、インポートする。表示制御部58は、インポートされた素材を、タイムライン領域80Aに配置する。
次に、取得部60が、タイムライン領域80Aに表示された複数の素材の内の何れかの選択指示を操作部18から受け付けたか否かを判断する(ステップS208)。
ステップS208では、肯定判断(ステップS208:Yes)するまで否定判断(ステップS208:No)を繰り返す。ステップS208で肯定判断すると(ステップS208:Yes)、ステップS210へ進む。
ステップS210では、ステップS208で選択されたタイムラインが全天球パノラマ動画像であるか否かを判断する(ステップS210)。
ステップS210で否定判断すると(ステップ210:No)、後述するステップS228へ進む。ステップS210で肯定判断すると(ステップS210:Yes)、ステップS212へ進む。
ステップS212では、作成部64が、HD76に格納されている、テンプレート81毎の指定領域情報および配置情報を読取る(ステップS212)。
そして、作成部64は、テンプレート81を作成する(ステップS214)。詳細には、作成部64は、ステップS208で編集対象として指示された全天球パノラマ動画像から、ステップS212で読取った指定領域情報によって特定される指定領域を抽出する。そして、抽出した抽出画像を表示時の形状や大きさに応じて歪補正等を行った上で、配置情報に基づいて、これらの指定領域を編集するための編集画面として配置することで、テンプレート81を作成する。
なお、作成部64は、ステップS212の処理において、ユーザによる操作部18の操作指示によって入力された指定領域情報や配置情報を受け付け、受け付けた指定領域情報および配置情報を用いて、テンプレート81を作成してもよい。
次に、表示制御部58は、作成部64で作成されたテンプレート81をメイン編集画面80へ表示する(ステップS216)。
次に、受付部66は、操作部18から編集対象の編集画像の表示されたテンプレート81の選択を操作部18から受け付けたか否かを判断する(ステップS218)。ステップS218では、肯定判断(ステップS218:Yes)するまで否定判断(ステップS218:No)を繰り返す。
ステップS218で肯定判断(ステップS218:Yes)すると、ステップS220へ進む。
ステップS220では、受付部66(第1受付部66A)が、テンプレート81に表示された編集画面の編集指示を受け付けたか否かを判断する(ステップS220)。ステップS220では、肯定判断(ステップS220:Yes)するまで否定判断(ステップS220:No)を繰り返す。ステップS220で肯定判断(ステップS220:Yes)すると、ステップS222へ進む。
ステップS222では、編集部68が、ステップS220で受け付けた編集指示に応じた編集処理を実行する(ステップS222)。具体的には、編集部68は、編集指示に含まれるエフェクト機能、追尾機能等の各種設定に応じた処理を、編集対象の全天球パノラマ動画像における、指示された編画画面に対応する指定領域について実行する。これによって、編集画面に対応する指定領域の動画像を編集する。
なお、上記ステップS220において、受付部66(第2受付部66B)が、編集後の編集画面に対応する指定領域のマッピングやコメント入力等により、複数の編集画面やコメント画像等を合成する合成指示がなされた場合、編集部68は、ステップS222において、編集画面の合成を行う。これによって、例えば、図19〜図21に示す動画像91〜動画像93が作成される。
次に、表示制御部58が、編集処理後の動画像を表示装置16へ表示する制御をおこなう(ステップS224)。
次に、制御部52は、編集終了指示を操作部18から受け付けたか否かを判断する(ステップS226)。ステップS226で否定判断すると(ステップS226:No)、ステップS218へ戻る。一方、ステップS226で肯定判断すると(ステップS226:Yes)、ステップS228へ進む。
ステップS228では、取得部60が、操作部18からのトリミング指示に従い、公知のトリミング処理(時間の編集処理)を実行する(ステップS228)。
次に、制御部52は、編集処理を終了するか否かを判断する(ステップS230)。ステップS230の判断は、取得部60が、操作部18から編集処理の終了を示す信号を受けたか否かを判別することで、判断可能である。
ステップS230で否定判断すると(ステップS230:No)、上記ステップS208へ進む。ステップS230で肯定判断すると(ステップS230:Yes)、ステップS232へ進む。
ステップS232では、取得部60が、操作部18から書出指示を受け付けた否かを判断する。ステップS232で否定判断すると(ステップS232:No)、本ルーチンを終了する。一方、ステップS232で肯定判断すると(ステップS232:Yes)、ステップS234へ進む。
ステップS234では、書出部74が、編集された全天球パノラマ動画像などの素材を合成した合成画像を、予め定めたファイル形式またはユーザによる操作指示によって指示されたファイル形式に変換することで、ビデオファイルを生成する(ステップS234)。そして、本ルーチンを終了する。
以上説明したように、本実施の形態の編集装置12では、全天球パノラマ動画像について、全天球パノラマ動画像から抽出した指定領域の編集画面を配置したテンプレートを、表示装置16へ表示する。
このため、ユーザは、テンプレートに示される編集画面のうち、編集対象の編集画面を選択して編集指示を行うことで、全天球パノラマ動画像における編集対象とする所望の領域を容易に特定し、容易に編集指示を行うことができる。
従って、本実施の形態の編集装置12では、全天球パノラマ動画像を編集する場合であっても、効率良く編集可能な画面を提供することができる。
また、編集装置12は、テンプレート81における指定領域を示す指定領域情報や、これらの指定領域の配置情報を、ユーザから操作部18を介して受け付ける。そして、受け付けた指定領域情報や配置情報に応じたテンプレート81を作成する。
このように、編集装置12では、ユーザ所望の指定領域の設定や、編集画面の配置情報を反映させたテンプレート81を作成し、表示装置16へ表示する。このため、編集装置12では、ユーザがさらに効率よく全天球パノラマ動画像を編集可能な画面を提供することができる。
また、本実施の形態の編集装置12では、テンプレート81に含まれる各編集画面に対する編集項目の一覧を表示する。ユーザは、メイン編集画面80のエディタ領域80Cを参照しながら、操作部18によって編集対象の編集画面をテンプレート81から選択した状態で、編集情報を入力する。編集情報は、選択された編集画面の指定領域に対して行う編集内容を示す情報である。この編集内容は、選択欄85に表示された各編集項目の選択などによって入力される。
このように、編集装置12では、各編集画面に対応する指定領域について、「ターゲット追尾」、「座標固定」、「コメント画面」、「エフェクト機能」、「終了時間」等の各種編集項目を容易に設定可能に提供することができる。
すなわち、ユーザは、編集対象の全天球パノラマ動画像について、膨大な画像情報の中から、所望の領域を編集画面を介して選択し、各編集画面について所望の編集処理を行うための項目を設定することができる。
従って、本実施の形態の編集装置12では、全天球パノラマ動画像を編集する場合であっても、効率良く編集可能な画面を提供することができる。
なお、本実施の形態における、編集装置12は、CPUなどの制御装置と、ROMやRAMなどの記憶装置と、HDD、CDドライブ装置などの外部記憶装置と、入力装置と、を備えており、通常のコンピュータを利用したハードウェア構成となっている。
編集装置12で実行される、上記編集処理を実行するための編集プログラムは、NV−RAMやROMやその他の不揮発性記憶媒体に予め組み込まれて提供される。また、編集装置12で実行される、上記編集処理を実行するための編集プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録し提供することも可能である。
また、編集装置12で実行される、上記編集処理を実行するための編集プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供または配布するように構成してもよい。
また、編集装置12で実行される、上記編集処理を実行するための編集プログラムを、ROM等に予め組み込んで提供するように構成してもよい。
また、編集装置12で実行される上記編集処理を実行するためのプログラムは、上述した各部を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体から該編集プログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、上記各部が主記憶装置上に生成されるようになっている。
以上、発明を実施するための諸実施の形態について説明を行ったが、本発明は、上述した実施の形態に限定されるものではない。本発明の主旨を損なわない範囲で変更することが可能である。