JP6456171B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

Description

本発明は、情報処理装置、情報処理方法及びプログラムに関する。

近年、映像技術の発展と共に、映像に付随する音響にも目を向けた技術開発が加速している。例えば特許文献１では、監視カメラにおいて音響信号から音源を分離し、映像信号上に画角内外の音源の位置や軌跡を表示できるようにしている。
また、音源と、音源に対応する画像を結び付けるような方法も検討されている。特許文献２では、話者認識と顔認識を組み合わせることで、画角外と判定された人物の顔画像データを映像信号上に表示している。また、特許文献３では、音源の音データと画像データを関連付けて再生する方法が述べられている。

特開２０１０−２３２８８８号公報 特開２０１０−１３４５０７号公報 特開２００８−１９７６５０号公報

カムコーダ等によって映像信号と同時に音響信号を取得した際、音響信号に音源分離を施すことによって、音響信号に含まれる音源ごとに音源方向や分離信号を得ることが可能である。但し各分離信号はモノラル信号となるため、ユーザが例えばヘッドフォンで音を聴く場合に、各分離音源の分離信号がそれぞれの音源方向から聴こえるようにするためには、モノラル信号のバイノーラル化を行う必要がある。即ち、モノラル信号である分離信号ごとに、各音源方向に対応する左右各耳の頭部伝達関数（以下、ＨＲＴＦ：Ｈｅａｄ−Ｒｅｌａｔｅｄ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）を畳み込み、それらを合成することでバイノーラル信号を生成する。これをレンダリング音響信号として映像信号と同期して再生することで、視聴しているユーザは映像信号上の各音源の方向から音が聞こえてくるような立体音響効果により、高い臨場感を得ることができる。
レンダリング音響信号は、音源分離で得られた各分離信号の音源方向をそのまま再現したものである。そこで、各音源方向の時間的な履歴に対応する音源軌跡について、立体音響効果をより強調するためには、音源軌跡に編集を加えることが考えられる。ここで、映像信号取得時の画角という方向に関する情報が、画面表示される映像信号の四辺の平面座標と対応していることを考える。すると、各分離音源の音源方向を映像信号の平面座標系で表して音源位置とし、画面上の映像信号に対応付けて音源位置を表示することが可能であると分かる。これより、音源位置の時間的な履歴である音源軌跡を画面上の映像信号に合成表示し、更にユーザの操作を受け付けるグラフィカルユーザインターフェース（以下、ＧＵＩ）を設ければ、映像信号上で音源軌跡を編集するシステムが構築できる。また、このような編集のシステムによれば、画面上の音源位置を指定することで編集対象とする分離音源を選択し、ユーザの感覚に合わせて音量を制御することで、強調、抑制、ミュートといった音響処理を行うことも可能である。
以上のようなシステムにおいては、音源が映像に映る画角内の場合と、映像に映らない画角外の場合とを分けて考えることが望ましい。しかしながら、従来技術には以下に示すような課題があった。

一般に、編集を行うための編集画面で表示される画像は、映像信号を構成する映像フレームのうち、編集対象時刻を示すタイムカーソルが置かれた単一の映像フレームである。普通、音源の音量制御や音源軌跡の編集を行う際は、その音源が何であるか分かっている必要がある。しかし、表示されている映像フレームにおいて、音源が画角外で、映っていない場合は瞬時には分からない。これを知るためには、対応する分離信号を聴いて音で判断する、タイムカーソルを動かして音源が画角内に入る映像フレームを探索する、といった別の操作が必要となる。このように、表示中の映像フレームで音源が画角外の場合、音源が何か確認する別の操作に時間を要するため、編集の効率が落ちるという課題がある。
特許文献１では、音源が画角外の場合に映像信号の縁辺にマーク表示することで表現していたが、マークから音源が何であるかは分からない。特許文献２では、話者認識されたが顔認識されなかった人物を画角外と判定して、その人物の顔画像データを映像信号の例えば端に表示する。よって、画角外の音源（話者）が何（誰）であるか視覚的に瞬時に分かる可能性はあるが、人物の顔画像データと声データを予めデータベースに登録しておく必要があった。特許文献３では、音源分離で得られた音源方向と、顔認識された画像データに対応する方向との一致を見て、例えば音源（話者）の音データ（話の内容）と画像データ（話者の表情）を関連付けて再生する。しかしながら、音源が画角外で画像データが得られないような場合については触れられていない。
本発明は、表示中の映像フレームで音源が画角外の場合であっても、効率的な編集を可能とすることを目的とする。

そこで、本発明の情報処理装置は、撮像手段による撮像に基づいて生成された画像を取得する画像取得手段と、前記撮像手段による撮像と共に行われる収音手段による収音に基づく音響信号に対応する音源であって、前記画像取得手段により取得される第１画像に含まれない音源の、位置及び方向の少なくとも何れかを特定する特定手段と、前記画像取得手段により取得される前記第１画像を表示部に表示させると共に、前記第１画像に係る撮像時点とは異なる時点における前記撮像手段による撮像に基づく第２画像であって前記音源の少なくとも一部を含む前記第２画像を、前記表示部内の表示位置であって前記特定手段により特定された前記音源の位置及び方向の少なくとも何れかに応じた表示位置に表示させる表示制御手段とを有することを特徴とする。

本発明によれば、表示中の映像フレームで音源が画角外の場合であっても、効率的な編集を可能とすることができる。

信号処理装置のシステムコントローラのハードウェア構成の一例を示す図である。 情報処理の一例を示すフローチャートである。 音源位置の算出を説明するための図（その１）である。 音源位置の算出を説明するための図（その２）である。 音源位置の算出を説明するための図（その３）である。 参照画像の取得を説明するための図である。 参照画像の選択を説明するための図である。 画角外音源の画像表示に係る情報処理の一例を示すフローチャートである。

以下、本発明の実施形態について図面に基づいて説明する。

＜実施形態１＞
図１（ａ）及び（ｂ）は、信号処理装置のシステムコントローラ１００のハードウェア構成の一例を示す図である。
図１の（ａ）は、システムコントローラ１００の各構成をハードウェアとして実装した場合の例である。図１の（ｂ）は、システム制御部１０１、信号解析処理部１０３、表示生成部１３２、音響信号生成部１４１等を信号処理装置のシステムコントローラ１００にソフトウェア構成として実装した場合のシステムコントローラ１００のハードウェア構成の例である。
まず、図１（ａ）について説明する。
システムコントローラ１００は、全構成要素の統御を行うシステム制御部１０１、各種データを記憶しておく記憶部１０２、信号の解析処理を行う信号解析処理部１０３を備える。
また、システムコントローラ１００は、撮像系の機能を実現する要素としては、撮像部１１１、映像信号入力部１１２を備える。撮像部１１１は、入射する光に光電変換を施してアナログ映像信号を生成する。映像信号入力部１１２は、撮像部１１１からのアナログ映像信号にＡＤ変換とゲイン調整を施して、設定された映像フレームレートに対応する周期でデジタル映像信号を生成する。

また、システムコントローラ１００は、収音系の機能を実現する要素としては、収音部１２１、音響信号入力部１２２を備える。本実施形態において収音部１２１は、立方体頂点となる位置関係にマイク素子を配置した、８ｃｈマルチマイクで構成されるものとする。ここで、各マイク素子の配置位置を記述するためのマルチマイク座標系は、原点を撮像系における画角の起点に取り、１つの軸を撮像部１１１の光軸と一致させ、残りの２軸を撮像系で捉える映像信号の水平方向と垂直方向に対応するように取る。本実施形態においては、立方体の中心がマルチマイク座標系の原点となるよう８ｃｈマルチマイクを構成する。音響信号入力部１２２は、収音部１２１の各マイク素子からのアナログ音響信号に増幅及びＡＤ変換を施して、設定された音響サンプリングレートに対応する周期でデジタル音響信号である８ｃｈマルチマイク信号を生成する。なお、マイク素子の数は必ずしも８個である必要はなく、複数あればよい。また、配置も任意でよい。
ユーザの操作を受け付けたり、ユーザに操作メニューや映像信号等を提示したりするための要素としては、システムコントローラ１００は、入出力ＧＵＩ部１３１、表示生成部１３２を備える。本実施形態において、入出力ＧＵＩ部１３１は、タッチパネルで構成されるものとする。
また、システムコントローラ１００は、音響再生系の機能を実現する要素としては、音響信号生成部１４１、音響信号出力部１４２、音響信号再生部１４３を備える。本実施形態において、音響信号再生部１４３は、ヘッドフォンで構成されるものとする。
なお、煩雑になるため主要な結線しか示していないが、図１の信号処理装置を構成する各ブロックはバスを介して結ばれているものとする。

次に、図１（ｂ）について説明する。
図１（ｂ）のシステムコントローラ１００は、図１（ａ）のシステム制御部１０１、信号解析処理部１０３、表示生成部１３２、音響信号生成部１４１の代わりに、ＣＰＵ１５０、ＲＡＭ１５１、ＲＯＭ１５２をハードウェア構成として含む。図１（ｂ）において、ＣＰＵ１５０がＲＯＭ１５２等に記憶されているプログラムをＲＡＭ１５１に読み出し、実行する。このことによって、図１（ｂ）においては、図１（ａ）のシステム制御部１０１、信号解析処理部１０３、表示生成部１３２、音響信号生成部１４１と同様の機能がソフトウェアとして実現される。なお、図１（ｂ）では、記憶部１０２と共に、ＲＡＭ１５１やＲＯＭ１５２を含む構成を示したが、これらは１つの記憶部であってもよい。以下では、説明の簡略化のため、システムコントローラ１００は、図１（ｂ）の構成を有するものとして説明を行う。

以下、図２のフローチャートに沿って、本実施形態の情報処理の流れを詳細に説明する。図２のフローチャートの処理は、ＣＰＵ１５０がＲＯＭ１５２又は記憶部１０２等に記憶されているプログラムをＲＡＭ１５１に読み出し実行することによって実現される。
はじめに、Ｓ２０１において、ＣＰＵ１５０は、撮影を行い、映像信号及び映像信号と時間的に同期した音響信号を取得する。
撮影モードとなっている入出力ＧＵＩ部１３１の画面上には、撮像系が捉えている映像信号がリアルタイムに映し出されている。このとき、ユーザがズーム倍率を示す画面上のスライダバーのつまみを動かす。このことで、ズーム倍率を示す値がモニタリングしているＣＰＵ１５０に伝えられる。したがって撮像系は、前記ズーム倍率を示す値に基づき指定されたズーム倍率に応じて画角を広げたり狭めたりすることに対応する処理を行う。デジタルズームの場合、映像信号入力部１１２で、光学ズームの場合、撮像部１１１で処理を行うが、後者の場合は画角の起点の移動を伴う。そのため、収音部１２１は、マルチマイクの立方体中心が常に画角の起点と一致するような機構を備えていると好適である。又は、収音部１２１は、マルチマイク座標系を原点が常に画角の起点と一致するよう立方体中心から平行移動させていき、その座標系で各マイク素子の配置位置を逐次記述する。
ユーザは、撮影を開始したいシチュエーションになった場合、入出力ＧＵＩ部１３１上に表示されているメニューから、「撮影開始」をタッチして選択する。選択されたメニューの情報はコマンドとしてＣＰＵ１５０に送信される。そして、ＣＰＵ１５０は、撮影中であることを示す表示を生成して、入出力ＧＵＩ部１３１の画面上に映像信号と合成して表示する。
同時に、撮像系で捉えている映像信号及び、収音系で捉えている音響信号の記憶部１０２への記録が開始される。このとき、映像信号に付随するデータとして、撮像系のズーム倍率及び対応する画角の履歴も記憶部１０２に記録される。また、音響信号に付随するデータとして、収音部１２１の各マイク素子の配置位置データも記憶部１０２に記録される。なお、撮影においてパンニングといった装置全体の動きを伴う場合は、装置運動検知センサによって装置運動データの履歴を取得し、併せて記録しておくことが望ましい。
ユーザは、入出力ＧＵＩ部１３１上に表示されているメニューから、「撮影終了」をタッチして選択することで撮影を終了させる。

Ｓ２０２ではＣＰＵ１５０が、Ｓ２０１で取得した音響信号に音源分離を施し、音響信号に含まれる音源ごとに音源方向や分離信号を得る。
入出力ＧＵＩ部１３１において撮影モードからデータモードに切り替えられると、Ｓ２０１で取得された映像信号、音響信号、及び付随するデータが、一回の撮影ごとにまとめられて映像音響データファイルとして表示される。ユーザがこの中から対象とする映像音響データファイルを選択すると、「音源プロパティ取得」のメニューが表示される。ユーザがメニューを選択することで映像音響データファイルの音響信号の音源分離が行われる。
本実施形態においては、音源分離の前段として音源定位が行われるものとし、音響信号である８ｃｈマルチマイク信号及び、対応する各マイク素子の配置位置データが用いられ、音源定位・分離が行われる。
音源定位・分離は公知技術であるため詳述はしないが、音源定位については例えば、部分空間法に分類されるＭＵＳＩＣ法が用いられる。これにより、マルチマイクの立方体中心を原点とするマルチマイク座標系において、各音源の方位角と仰角とを音源方向として検出することが可能となる。このとき、音波の伝搬モデルを平面波モデルではなく球面波モデルとすれば、音源方向に加えて音源距離を取得することもできる。
また、音源分離については例えば、音源定位で得た音源方向といった情報を幾何学的拘束条件として用いる、幾何学的音源分離を利用することができる。これによって、音源定位された各音源に対応する分離信号を得ることができる。
本実施形態においては、音源分離の過程で得られる音源ごとの音源方向や分離信号を総称して、各分離音源の音源プロパティと呼ぶものとする。
なお、音源定位・分離にはビームフォーマや、独立成分分析に基づくブラインド音源分離といった他の手法を用いてもよい。
本実施形態において、ＣＰＵ１５０は、音源定位・分離を、設定された音響サンプリングレートで取得された各ｃｈマイク信号を、設定された時間フレーム長に対応するサンプル数ずつシフトしながら用いることで行うものとする。即ち、各分離音源について時間フレームごとに、音源方向及び時間フレーム長分の分離信号が得られる。ここで、ＣＰＵ１５０は、時間フレーム長を映像フレームレートに対応する周期に合わせることで、映像信号を構成する映像フレームに対応させて、各分離音源の音源方向を得ることができる。

なお、音源が発する音に無音区間があると、そこで音源定位が途切れるため分離信号も途切れ、再び有音区間となったときに新たに音源定位・分離が開始されるということがある。このように、無音区間を挟んで２組の音源プロパティが得られるような場合、同一の音源に由来する音源プロパティは、内部的に同じ音源ＩＤを割り当ててまとめておいた方が、後のステップの音源プロパティ編集において都合がよい。
２組の音源プロパティが同一の音源に由来するものか判定し、音源プロパティの紐付けを行う方法として、いくつかの方法が考えられる。例えば、ＣＰＵ１５０は、音源プロパティのうち音源方向に着目し、２つの音源方向履歴を間の無音区間についてそれぞれ外挿して、２つの外挿曲線が概ね一致していれば同一の音源に由来すると判定する。これは、音源の動きの連続性を見ていることに相当する。又は、ＣＰＵ１５０は、音源プロパティのうち分離信号に着目し、２つの分離信号の特徴量を比較することで判定する。もちろん、ＣＰＵ１５０は、これらの方法の複合によって判定してもよい。このように、ＣＰＵ１５０が同一の音源に由来すると判定される音源プロパティをまとめることで、分離音源の数を抑えると共に、各分離音源に対応する音源プロパティの時間フレーム数をなるべく多くすることができる。
以上のようにして取得された分離音源ごとの音源プロパティは、元となる映像音響データファイルに統合されて記憶部１０２に保存される。

Ｓ２０３ではＣＰＵ１５０が、Ｓ２０２で取得された分離音源ごとの音源方向や分離信号について、編集を開始するための表示を行う。
Ｓ２０２で音源プロパティの取得を行った映像音響データファイルは、選択時に「音源プロパティ編集」のメニューが表示されるようになる。そのため、ユーザがこれを選択することで図４（ａ）に示すような音源プロパティの編集ウィンドウ４００が立ち上がる。
編集ウィンドウ４００内の映像トラック４２０には、映像音響データファイルの映像信号のサムネイルが表示される。例えば、システムコントローラ１００は、映像信号を構成する映像フレームから、設定された数の映像フレームごとに代表となる映像フレームを選択し、その縮小画像をサムネイルとして映像トラック４２０上に配置する。
分離信号トラック４３０には、映像音響データファイルに統合された音源プロパティの分離信号の波形が描画される。この例の場合、音源プロパティにおいて別々と見なされた分離音源の数は５であるため、分離信号４３１〜４３５の５つの波形が描画される。このとき、ＣＰＵ１５０は、各分離信号が得られた時間フレームに対応させて波形を表示するため、必ずしもトラックの先頭からではなく横方向にシフトさせて表示する。また、無音区間を挟む２組の音源プロパティを紐付けしたような場合は、分離信号の１つのトラックにこま切れの複数の波形が並ぶことになる。

映像トラック４２０と分離信号トラック４３０とは、信号を時系列に概観するための表示部分なので、秒数といった実際の時間と対応させるために共通のタイムスケールを表示してもよい。
編集ウィンドウ４００内の映像表示領域４１０には、映像音響データファイルの映像信号を構成する映像フレームのうち、タイムカーソル４０１がある位置に対応する映像フレーム４１１が表示される。なお、映像トラック４２０でタイムカーソル４０１がある映像サムネイル４２１は、映像フレーム４１１或いは近傍の映像フレームから生成されたものである。
ここで、各映像フレームにおいて音源プロパティを有する分離音源が存在する場合、ＣＰＵ１５０は、映像表示領域４１０上での音源位置を算出し、同領域上に合成して表示するようにする。このとき、音源プロパティの音源方向と、映像表示領域４１０上の座標とを対応付ける処理が必要となるため、その考え方について図３を用いて説明する。

映像フレーム４１１に対応する時間フレームにおいて、一つの分離音源が存在する場合を考え、そのときの音源方向の方位角を図３Ａのようにθｓとする。また、映像フレーム４１１を撮像した時点の水平画角を２θｖとする。一方、映像表示領域４１０における映像フレーム４１１の水平画素数を２Ｗｖとする。また、図３Ａのように水平座標軸Ｘを取り、分離音源の音源位置の水平座標をＸｓとする。
まず、水平画角２θｖが映像表示領域４１０上の映像フレーム４１１の左右端に対応することから、距離Ｆを用いて次の関係が得られる。
ｔａｎ（θｖ）＝Ｗｖ／Ｆ 式（１）
また、分離音源の音源方向の方位角θｓが、映像表示領域４１０における音源位置の水平座標Ｘｓに対応するとして、次の関係を得る。
ｔａｎ（θｓ）＝Ｘｓ／Ｆ 式（２）
式（１）、式（２）よりＦを消去することで、Ｘｓの算出式が次のように得られる。
Ｘｓ＝Ｗｖ×（ｔａｎ（θｓ）／ｔａｎ（θｖ）） 式（３）

図３Ｂは、映像フレーム４１１の水平画角２θｖ＝８０°、垂直画角２φｖ＝６０°、水平画素数２Ｗｖ＝２０００、垂直画素数２Ｈｖ＝１０００とした場合の例である。音源方向の方位角θｓ及び仰角φｓに対応する音源位置の水平座標Ｘｓ及び垂直座標Ｙｓを、θｓ及びφｓが±７０°の範囲で１０°ごとに示している。なお、各線分の長さは映像フレーム４１１に合わせている。また、垂直方向の算出式は水平方向の式（３）と同様に得られる。
Ｙｓ＝Ｈｖ×（ｔａｎ（φｓ）／ｔａｎ（φｖ）） 式（４）
θｓ＝±θｖ＝±４０°に対応するＸｓ＝±Ｗｖ＝±１０００と、φｓ＝±φｖ＝±３０°に対応するＹｓ＝±Ｈｖ＝±５００で作られる図３Ｂの四角形が、映像フレーム４１１の境界に相当する。この境界内に映像フレーム４１１を表示すると、例えば音源方向の方位角θｓ＝３０°、仰角φｓ＝２０°の分離音源は、式（３）及び式（４）によって算出される音源位置（Ｘｓ、Ｙｓ）に従って、図３Ｂの丸３０１の位置に表示される。
式（３）及び式（４）において分母は画角で決まる定数となるが、分子のタンジェントの性質から、音源方向の絶対値が大きいほど、又は映像フレーム４１１の境界に近づくほど、図３Ｂにおけるグリッドが粗くなることが分かる。ここで、音響信号から取得した音源プロパティの特長として、映像信号の画角外となる発音源の情報も得られているというものがある。しかし図３Ｂからも分かるように、画角外の音源の位置を式（３）、式（４）に従って算出すると、タンジェントの性質から座標の絶対値が非常に大きくなり、映像表示領域４１０で画角外を示す領域が支配的になってしまう。また、タンジェントは±９０°で発散するため、音源方向の方位角が±９０°となる真横から後方の範囲、仰角が±９０°となる真上と真下については、式（３）、式（４）に基づいて音源位置を算出することはできない。

以上のことを考慮すると、画角外の音源の映像表示領域４１０における音源位置（Ｘｓ、Ｙｓ）は、式（３）、式（４）とは別の式によって算出することが望ましい。例えば、ＣＰＵ１５０は、映像表示領域４１０の境界と映像フレーム４１１との間の画角外領域４１２に関して、水平方向については方位角当たり、垂直方向については仰角当たりの面積が一定となるよう、以下の式（５）、式（６）のように算出する。
Ｘｓ＝ｓｇｎ（θｓ）×（Ｗｖ＋（Ｗｍ−Ｗｖ）×（｜θｓ｜−θｖ）／（θｍ−θｖ）） 式（５）
Ｙｓ＝ｓｇｎ（φｓ）×（Ｈｖ＋（Ｈｍ−Ｈｖ）×（｜φｓ｜−φｖ）／（φｍ−φｖ）） 式（６）
式（５）は音源方向の方位角が｜θｓ｜＞θｖである場合に、式（６）は仰角が｜φｓ｜＞φｖである場合に用いるものとする。ここで、θｍ＝１８０°、φｍ＝９０°、ｓｇｎは符号関数である。また、映像表示領域４１０の水平画素数を２Ｗｍ（≧２Ｗｖ）、垂直画素数を２Ｈｍ（≧２Ｈｖ）としている。

図３Ｃは、２Ｗｍ＝４０００、２Ｈｍ＝２０００とした場合の例である。音源方向の方位角θｓ及び仰角φｓに対応する音源位置の水平座標Ｘｓ及び垂直座標Ｙｓを、θｓが±１８０°、φｓが±９０°の範囲で１０°ごとに示している。ここで、ＣＰＵ１５０は、画角内の音源の音源位置（Ｘｓ、Ｙｓ）を図３Ｂと同じく式（３）、式（４）を用いて算出し、画角外の音源位置を式（５）、式（６）を用いて算出している。例えば方位角がθ＝９０°の真横方向で、仰角がφ＝−６０°の斜め下方の分離音源は、図中の三角形３０２の位置に表示される。また、ほぼ真後ろ方向の分離音源は、図３Ｃのひし形３０３の位置に表示される。
なお、式（５）、式（６）では、画角外領域４１２を方位角及び仰角に関して均等に配分していることになる。ここで、図３Ｃで表されるように画角内外の音源位置を算出する場合、水平方向に一定角速度を持つ移動音源が画角内から画角外に捌けたとすると、画角外となった途端に音源位置の移動速度が急激に遅くなると感じられる可能性がある。このため、画角境界における音源位置の移動速度の連続性の観点から、画角外の方位角及び仰角について、画角境界に近いほど画角外領域４１２の配分を大きくするようにしてもよい。これは、図３Ｃの画角内のグリッドとは逆に、音源方向の絶対値が大きいほど画角外のグリッドは細かくすることに対応する。
図４（ａ）の映像表示領域４１０の水平軸と垂直軸とにおいて、画角外に対応する部分の目盛りは、図３Ｃと同様に画角外の方位角と仰角について例えば１０°ごとに、水平座標と垂直座標を示した例である。
以上の考え方により、音源プロパティの音源方向から映像表示領域４１０上での音源位置を算出することができる。本実施形態においては、音源位置も音源プロパティとして扱われ、元となる映像音響データファイルに統合されて記憶部１０２に保存される。

以下、分離音源の音源位置の表示について説明する。
まず、タイムカーソル４０１がある時間フレームにおいて、分離信号４３１に対応する音源位置が、図４（ａ）の音源位置４４１である。この場合、音源方向が画角内であったため映像フレーム４１１上に合成され、その近傍の画像より音源は人の声であることが分かる。同様に、分離信号４３２に対応するのが音源位置４４２であり、その近傍の画像から音源は犬の鳴き声であることが分かる。分離信号４３３は、タイムカーソル４０１がある時間フレームでは存在しないため、対応する音源方向の情報も無く、ＣＰＵ１５０は、音源位置を表示することはできない。分離信号４３４、４３５に対応するのがそれぞれ音源位置４４４、４４５である。しかし、共に音源方向が画角外であったため、ＣＰＵ１５０は、映像フレーム４１１上に合成することはできない。そのため、ユーザは音源が何であるか視覚的には分からない。
タイムカーソル４０１が置かれた映像フレーム４１１で音源が画角外の場合、音源が何か確認するには別の操作を必要とするため、次のステップの編集における効率が低下する。ここで、表示中の映像フレーム４１１では画角外の音源も、音源が移動音源である場合や、静止音源でも撮影においてパンニングといった装置全体の動きを伴っていた場合、別の映像フレームでは画角内となり映像に映っている可能性がある。
そこで本実施形態のＣＰＵ１５０は、映像フレーム４１１において、対象とする音源が画角外の場合に、例えば、その音源の軌跡情報に基づいて、その音源が画角内に位置する時間的に異なる映像フレーム（本実施形態では、参照フレームと呼ぶ）を探索して選択する。そして、ＣＰＵ１５０は、参照フレームから音源を表す音源位置近傍の画像（本実施形態では、参照画像と呼ぶ）を取得し、映像フレーム４１１と共に映像表示領域４１０上での音源位置に表示する。

以下、参照フレームの選択方法について説明する。
はじめに、参照フレームを探索する対象となる時間フレームについて述べる。例えば音源位置４４４の示す音源が何であるか知りたい場合、対応する分離信号４３４が得られていて、分離信号トラック４３０において描画されている範囲の時間フレームが対象となる。
参照フレームを選択する方法には、以下に例示するようにいくつかの方法がある。何れの場合も図４（ｂ）に示すように、探索中の映像フレームにおいて音源が画角内で音源位置４１４が映像信号上となり、参照画像４１５を取得可能なことが参照フレーム４１３の必要条件となる。
（方法１）
ＣＰＵ１５０が対象となる時間フレーム範囲を時間的に最も早い方から探索していき、前記必要条件を満たした設定された数（例えば１）の映像フレームを参照フレームとする。参照フレームを選択した時点でＣＰＵ１５０は探索を終えてよい。
（方法２）
ＣＰＵ１５０が対象となる時間フレーム範囲をタイムカーソル４０１と最も近い方から探索していき、前記必要条件を満たした設定された数の映像フレームを参照フレームとする。参照フレームを選択した時点でＣＰＵ１５０は探索を終えてよい。この方法は、タイムカーソル４０１のある映像フレーム４１１と時間的に最も近い映像フレームから取得した参照画像の方が、映像フレーム４１１の時点における音源の様子に近いであろうという考えによる。

（方法３）
ＣＰＵ１５０が対象となる時間フレーム範囲を全探索し、前記必要条件を満たした上で、探索中の映像フレームにおける音源の音源位置が、映像フレームの中心に最も近い方から設定された数の映像フレームを参照フレームとする。この方法は、音源位置が映像中心に近いときの映像フレームから取得した参照画像の方が、音源の様子をよく表しているであろうという考えによる。
映像フレーム中心からの遠さを表す指標ｄは、探索中の映像フレームにおける音源位置（Ｘｓ、Ｙｓ）と映像フレーム境界との位置関係を考慮し、例えば次のように定義する。
ｄ＝ｍａｘ（｜Ｘｓ｜／Ｗｖ，｜Ｙｓ｜／Ｈｖ） 式（７）
ここで、ｍａｘはカンマで区切られた２つの引数の最大値を返す関数とする。
式（７）より、音源位置が映像フレームの境界上であればｄ＝１、音源方向が画角内で音源位置が映像フレームの内側であればｄ＜１、音源方向が画角外で音源位置が映像フレームの外側であればｄ＞１となる。また、音源位置が水平又は垂直方向のどちらか一方でも映像フレームの境界に近ければ、ｄは１に近い値となるため、映像フレームの中心からそれなりに離れていると見なされる。以上のような性質を持つｄを用いることで、音源のｄが小さい方から設定された数のフレームを参照フレームとすることができる。

（方法４）
音源プロパティとして音源距離が得られている場合、ＣＰＵ１５０が対象となる時間フレーム範囲を全探索し、前記必要条件を満たした上で、探索中の映像フレームにおける音源の音源距離が小さい方から設定された数の映像フレームを参照フレームとする。この方法は、音源距離が小さい映像フレームから取得した参照画像の方が、音源が大きく映っていて好適であろうという考えによる。
なお、方法３、４において参照フレームと確定するための閾値を設ければ、ＣＰＵ１５０は、必ずしも対象となる時間フレーム範囲の全探索を行わなくても、参照フレームを確定した時点で探索を終えることができる。方法３では、映像フレーム中心からの遠さを表す指標ｄが閾値以下となった場合、方法４では、前記必要条件を満たした上で音源距離が閾値以下となった場合に、ＣＰＵ１５０は、それぞれ参照フレームであると確定すればよい。

続いて、参照画像の取得方法について説明する。参照フレームから参照画像を取得する方法にもいくつかの方法がある。
例えば簡単には、ＣＰＵ１５０は、参照フレームにおける音源の音源位置を中心として、参照フレームから設定された大きさで範囲選択した部分を参照画像とする。このとき、音源プロパティとして音源距離が得られていれば、音源距離が小さいほど音源が大きく映っていると考えて、ＣＰＵ１５０は、大きく範囲選択するようにしてもよい。また、ＣＰＵ１５０は、参照フレームにおける音源の音源位置の近傍で、顔認識等の画像認識処理を適用し、得られた画像オブジェクトを参照画像としてもよい。
なお、参照フレームから取得する参照画像において、音源が見切れることを防止するため、ＣＰＵ１５０は、音源位置が画角境界に近い映像フレームは参照フレームとはしないようにしてもよい。より具体的には、例えば、ＣＰＵ１５０は、式（７）で定義した映像フレーム中心からの遠さを表す指標ｄを利用して、ｄ＜０．９を参照フレームの必要条件にすればよい。
なお、ＣＰＵ１５０は、編集ウィンドウ４００のメニューから、上述した参照フレームの選択方法や参照画像の取得方法を選択できるようにしてもよい。
以上のような方法によって、ＣＰＵ１５０は、図４（ｂ）に示すような参照フレーム４１３を選択し、参照画像４１５を取得することができる。そして、ＣＰＵ１５０は、図４（ｂ）の参照画像４１５を、図４（ａ）の音源位置４４４を中心とする参照画像４１５の枠内に表示する。このことで、ユーザは、音源は飛んでいる鳥の鳴き声であることが分かる。
このように本実施形態では、撮影中に音源が一度でも画角内に入っていれば、事前にデータベースに登録しておくことなく、音源が画角外の映像フレーム４１１において、音源を表す参照画像を表示することができる。

なお、図４（ａ）の例では音源位置４４５の示す音源も画角外であるが、参照画像は表示されていない。これは、音源が撮影中ずっと画角外であり、参照フレーム及び参照画像が得られなかったことを意味する。
なお、参照画像４１５はその基準点とする図４（ｂ）の音源位置４１４を、図４（ａ）に示すように映像表示領域４１０上での音源位置４４４に合わせるよう表示するのが最も自然である。
但し、ＣＰＵ１５０は、画角外の音源位置が映像表示領域４１０の境界に近い場合でも、参照画像が欠けることなく表示できるように、参照画像の基準点を映像表示領域４１０上での音源位置より内側にシフトした点へ合わせるようにしてもよい。また、参照画像は画角外領域４１２と映像フレーム４１１とにまたがって表示されてもよい。特に、画角外領域４１２を設けず映像フレーム４１１を映像表示領域４１０の全面に表示する場合（Ｗｍ＝Ｗｖ、Ｈｍ＝Ｈｖ）は、画角外音源の音源位置は映像表示領域４１０の境界上となり、参照画像は映像フレーム４１１内に表示されることになる。
なお、音源位置４４４に対応する参照フレーム４１３の時間フレームを示す個別のタイムカーソルとして、図４（ａ）に示すような参照カーソル４０２を分離信号４３４上に表示すれば、どの時点の映像フレームが参照されているか分かる。このとき、映像フレーム４１１における画角外の音源が複数で、それぞれに参照フレーム及び参照画像が得られていれば、分離信号トラック４３０の各分離信号上に、それぞれの参照カーソルが個別に表示されることになる。

ところで、参照フレームの選択において、方法２以外はタイムカーソル４０１の位置には依らないため、各音源に対応する参照フレームから参照画像を初めて取得した際に、記憶部１０２に保持しておけば参照画像を取得し直す必要はない。方法２の場合は次のステップの編集において、タイムカーソル４０１を動かすたびに参照フレームを探索して選択する必要がある。
また、ＣＰＵ１５０は、後のステップの再生と同時に、本ステップの画角外音源の参照画像表示を行うこともできる。即ち、ＣＰＵ１５０は、再生と共に移動して行くタイムカーソル４０１が指す映像フレームを逐次探索し、方法１の場合は、映像フレームを参照フレームとして参照画像を初めて取得できたときに、記憶部１０２に保持しておく。このようにすれば、再取得の必要はない。方法１以外の場合、ＣＰＵ１５０は、映像フレームを参照フレームとして参照画像が取得できる度に、その時点で各方法の条件に最も合った参照フレームか判定して、そうであれば記憶部１０２に保持する参照画像を逐次更新して行く。

次に、参照フレームの選択において、設定された数を複数とした場合について説明する。
はじめに、設定された数に上限を設けなければ、音源が画角内となった全ての映像フレームが参照フレームになり得る。このとき、ＣＰＵ１５０は、次のステップの編集において、例えば分離信号トラック４３０の各分離信号上で、それぞれの音源が画角内で参照フレームとなる時間フレームを視覚的にわかり易く範囲表示しておく。これにより、各画角外音源の参照カーソルの位置を、前記範囲内でユーザがドラッグして参照フレームを変更することで、ＣＰＵ１５０は任意の参照フレームにおける参照画像を表示することができる。これは例えば、図５（ａ）のように飛んでいる鳥の音源定位がブレることで、結果として枠内のような参照画像となった場合に、参照フレームを変更することで、図４（ｂ）のように鳥であることが分かる参照画像４１５を得るために役立つ。
また、参照フレームが複数の場合に、ＣＰＵ１５０は、対応する複数の参照画像をパターン認識等により分類してグループ化することで、以下のような処理をすることができる。
例えば、ＣＰＵ１５０は、本ステップで自動的に表示する参照画像は、数が一番多い前記グループの代表画像又は平均画像とする。このような参照画像は、音源の様子を代表して表していると考えられる。
また、次のステップの編集において、ＣＰＵ１５０は、前記グループをユーザが選択可能なようにしてもよい。更に、ＣＰＵ１５０は、画角外の音源だけでなく、画角内の音源についても参照画像を選択可能としてもよい。例えば、図５（ｂ）のように、画角内でも障害物の後ろで視認性がよくなかった音源の枠内画像について、ユーザは図５（ｂ）の左右のキーをタッチして前記グループを切り替えるよう指示する。この指示に応じて、例えば、ＣＰＵ１５０は、音源が障害物から離れているときの参照画像のグループから、図５（ｃ）ように音源である犬の全身が映った参照画像を取得して、代わりに表示することができる。

以上詳述した、画角外音源の画像表示に係る、代表的な処理をフローチャートにまとめると図６のようになる。即ち、表示中の映像フレーム４１１において存在する各音源に対して、図６のフローチャートの処理を適用する。図６のフローチャートの処理は、ＣＰＵ１５０がＲＯＭ１５２又は記憶部１０２等に記憶されているプログラムをＲＡＭ１５１に読み出し実行することによって実現される。
はじめにＳ６０１で、ＣＰＵ１５０は、表示中の映像フレーム４１１において音源が画角外であるか判定する。ＣＰＵ１５０は、判定結果が偽、即ち音源が画角内であれば、Ｓ６０２に進んで映像フレーム４１１上に音源位置を表示する。
一方、ＣＰＵ１５０は、判定結果が真、即ち音源が画角外であれば、別の映像フレームから参照フレームを探索する。まずＳ６０３で、ＣＰＵ１５０は、最初に探索する映像フレームを決定する。ＣＰＵ１５０は、方法に応じて、最初に探索する映像フレームを、探索対象となる時間フレーム範囲内で、時間的に最も早い映像フレームとしてもよいし、タイムカーソル４０１と最も近い映像フレームとしてもよい。
次にＳ６０４で、ＣＰＵ１５０は、探索中の映像フレームにおいて音源が画角内であるか判定する。ＣＰＵ１５０は、判定結果が偽、即ち探索中の映像フレームでも音源が画角外であれば、Ｓ６０５に進む。
Ｓ６０５では、ＣＰＵ１５０は、探索対象となる時間フレーム範囲の全映像フレームについて探索を終えたか判定し、未探索の映像フレームがあればＳ６０６を経てＳ６０４に戻る。
Ｓ６０６では、ＣＰＵ１５０は、次に探索する映像フレームを決定する。ＣＰＵ１５０は、方法に応じて、次に探索する映像フレームを、未探索の映像フレームの中で、時間的に最も早い映像フレームとしてもよいし、タイムカーソル４０１と最も近い映像フレームとしてもよい。

一方、ＣＰＵ１５０は、Ｓ６０４で判定結果が真、即ち探索中の映像フレームにおいて音源が画角内となれば、Ｓ６０７に進んで探索中の映像フレームを参照フレームとして選択することができる。
続いてＳ６０８では、ＣＰＵ１５０は、Ｓ６０７で選択した参照フレームから参照画像を取得する。ＣＰＵ１５０は、方法に応じて、参照フレームにおける画角内の音源位置を中心として、参照フレームから設定された大きさで範囲選択してもよいし、画像認識によって範囲選択してもよい。
次にＳ６０９で、ＣＰＵ１５０は、Ｓ６０８で取得した参照画像を映像フレーム４１１外の画角外領域４１２に表示する。即ち、ＣＰＵ１５０は、参照画像の中心を映像フレーム４１１における画角外の音源位置に合わせるように表示する。
最後にＳ６１０では、ＣＰＵ１５０は、画角外領域４１２に表示した参照画像の上に、映像フレーム４１１における画角外の音源位置を表示する。
なお、音源が画角内となる映像フレームを見つけられないまま、探索対象となる全映像フレームの探索を終えてしまった場合は、ＣＰＵ１５０は、Ｓ６０５からＳ６１０に進む。即ち、ＣＰＵ１５０は、画角外音源の参照画像の表示を行うことはできないため、位置表示のみ行う。

なお、ＣＰＵ１５０は、図４（ａ）において各音源位置を一定の大きさの円で表示している。しかし、ＣＰＵ１５０は、三角や四角、音符やスピーカといった任意の図形や記号、或いは文字や数字を表示してもよいし、映像表示領域４１０内の輝度等を部分的に変えることで表現してもよい。また、ＣＰＵ１５０は、対応する分離信号の音量に応じて大きさや色を変えたり、周波数特性や他の特徴量によって表示を変化させたりしてもよい。更に、ＣＰＵ１５０は、映像フレーム４１１に顔認識等の画像認識技術を適用することで、例えば人や動物の映っている大きさに応じた枠で、画角内の各音源を囲んで表示してもよい。
なお、ＣＰＵ１５０は、分離信号トラック４３０において、分離信号ごとに波形やトラック枠の色を割り当てて描画しておけば、対応する各音源位置をその色で表示することで対応関係が明確になる。又は、ＣＰＵ１５０は、音源ＩＤを示す数字や文字を各分離信号のトラックの先頭に表示すると共に、対応する各音源位置の表示に用いてもよい。

次に、映像フレーム４１１の時間フレームにおける音源位置だけでなく、他の時間フレームにおける音源方向について、映像フレーム４１１を表示している映像表示領域４１０上での音源位置を算出し、併せて表示することを説明する。
一例として、ＣＰＵ１５０は、タイムカーソル４０１がある時間フレームから設定された数のフレームずつ時間的に遡って行き、それらの各時間フレームにおける音源方向から映像表示領域４１０上での音源位置を算出して表示する。これにより、例えば図４（ａ）に示すように音源位置４４４の過去の音源位置が、同様の表示によって音源位置４４４の近くに表示される。
このとき、ＣＰＵ１５０が過去の１フレームごとの音源位置を音源位置４４４と同じように円で表すと、場合によっては円が密集して表示が見辛くなる。そこで、ＣＰＵ１５０は、映像フレーム４１１の時間フレームと同様の表示は、例えば１０フレームといった設定された数のフレームごとに行う。また、例えば、ＣＰＵ１５０は、時間的に過去の音源位置ほど色を暗くするようにする。このようにすると、直感的にわかり易い表示となる。

一方で、ＣＰＵ１５０は、１フレームごとの音源位置を点で表し、それらを滑らかに結んで時間の進行方向を表す矢印を付ける。このようにすれば、図４（ａ）に示すように音源位置の時間的な軌跡を表す矢印曲線が得られる。本実施形態においては、これを音源軌跡と呼ぶ。音源軌跡上に設定された数のフレームごとに描画される円の間隔から、音源の移動速度の変化を視覚的に捉えることもできる。
なお、音源軌跡を描く対象とする時間フレームは、映像フレーム４１１の時間フレームより前のフレームだけでなく、時間的に後のフレームであってもよい。また、対象とする時間の範囲は一定でもよいし、タイムカーソル４０１がある時間フレームの分離信号が、途切れずつながっている範囲の全時間フレームを対象としてもよい。
また、ＣＰＵ１５０は、代表的な音源位置の円等による表示についても、必ずしも設定された数のフレームごとのような等時間間隔でなくてもよく、映像表示領域４１０上での音源位置に一定の変化が生じた時間フレームで描画するようにしてもよい。これにより、例えば静止している音源は、次のステップの編集において代表となる一つの音源位置により扱うことができる。
なお、音源軌跡の各時間フレームと映像フレーム４１１との時間フレームの間に、パンニング等の装置全体の動きを伴っていた場合、ＣＰＵ１５０は、以下のような処理を実行する。即ち、ＣＰＵ１５０は、映像フレーム４１１と共に表示した際の位置関係が適切となるよう、装置運動データの履歴を基に各音源位置の修正を行う。例えば、撮像系から見て右から左に移動している発音源を、パンニングしながら常に映像信号の中心に捉えていた場合、装置本体と共にマルチマイクも動くため音源方向は常に真正面として検出される。しかしこれでは、タイムカーソル４０１を置いた映像フレームにおいて、音源軌跡は動きのない重なった一点として表示されてしまう。そこで、ＣＰＵ１５０は、装置運動データの履歴を基に各時間フレームの音源位置を修正することで、前記映像フレームにおいて発音源が右から左に移動するような音源軌跡を得ることができる。
なお、ＣＰＵ１５０は、Ｓ２０２の音源分離とＳ２０３の表示とを、音源分離のパラメータを調整しながら繰り返し試行してもよい。

図２の説明に戻る。
Ｓ２０４では、ＣＰＵ１５０は、Ｓ２０３で表示した分離信号や音源軌跡についてユーザからの編集操作等に応じて、編集を行う。本ステップの編集結果は、元となる映像音響データファイルに統合されて記憶部１０２に逐次保存される。
まず、分離信号に関する編集について説明する。
映像表示領域４１０上で、例えば音源位置４４１をタッチすると人の声の音源を選択した状態となり、同時に対応する分離信号４３１の全体を編集するための小ウィンドウが傍に表示される。ユーザはこの小ウィンドウにおいて、音量のスライダバーのつまみを動かすことで音量を調整したり、イコライザを選択して適用したり、反射・残響を付加したりする等、分離信号４３１の全体に対して編集操作を行うことができる。
画角外音源の画像表示によれば、音源位置４４４の示す音源は画角外でも鳥の鳴き声であると一目瞭然に分かるため、音量制御等の編集判断を素早く行うことができる。また、画角外でも画像表示されない音源位置４４５の示す音源についても、撮影中ずっと画角外であったことは分かるため、不要音と予想してミュートする等、編集操作の効率化につながる。
なお、編集ウィンドウ４００のメニューから、ミキサウィンドウを選択して表示することにより、同ウィンドウ上で分離信号４３１〜４３５の音量バランスを調整することもできる。
音源位置４４１をタッチして人の声の音源が選択されると、分離信号４３１のトラックの枠が強調される等、ユーザにとって編集対象が明確な状態となる。ここで、分離信号４３１の全体ではなく部分に対して編集を行いたい場合は、まず分離信号４３１のトラック上で始点となる点をタッチし、そのままドラッグして終点となる点で離す。これにより、分離信号４３１の始点と終点とで挟まれる部分を編集する小ウィンドウが傍に表示される。ユーザはこの小ウィンドウにおいて、フェードインやフェードアウトといった音量の時間変化を設定したり、イコライザや反射・残響を設定したりする等、分離信号４３１の選択部分に対して編集を行うことができる。

次に、音源軌跡に関する編集について説明する。
映像表示領域４１０において、例えば、ユーザが音源位置４４４を終点とする音源軌跡上を素早く２回タッチすると、ＣＰＵ１５０は、鳥の声の音源軌跡を選択した状態とする。これにより、ユーザは編集操作を行うことができるようになる。即ち、ユーザは音源軌跡を構成する音源位置の履歴のうち、円表示されている音源位置を代表点としてドラッグにより動かせるようになる。音源軌跡の代表点を動かすことで音源軌跡の曲線が変形され、それによって音源軌跡を構成する各音源位置が更新される。
画角外音源の画像表示によれば、音源位置４４４の示す音源は画角外でも飛んでいる鳥であると一目瞭然に分かるため、音源軌跡の編集判断を迅速に行うことができる。
なお、音源軌跡を選択した状態になると、ＣＰＵ１５０は、対応する分離信号の音源軌跡に当たる部分を編集する小ウィンドウを傍に表示する。ユーザはこの小ウィンドウにおいて、上述した分離信号の選択部分に対する編集と同様に、分離信号の音源軌跡に当たる部分に対して編集を行うことができる。
また、本ステップの分離信号や音源軌跡の編集において、ユーザはタイムカーソル４０１をドラッグすることで任意の場所に置くよう指示することができる。タイムカーソル４０１が指す時間フレームが変わると、それに応じて映像フレーム４１１や、音源位置・軌跡といった映像表示領域４１０の表示内容も更新される。画角外音源の画像表示においては、方法によって参照フレームも選択し直される場合があり、それに応じて参照画像や参照カーソルの表示も更新される。
なお、本ステップで編集した音源軌跡の各音源位置は、映像フレーム４１１と共に表示した際の音源位置ではなく、各音源位置の時間フレームに対応する各映像フレームと共に表示する際の音源位置で保存される。このため、撮像系のズーム倍率の変更やパンニング等の装置全体の動きを伴う場合は、ＣＰＵ１５０は、それらの履歴データを基に前記前者の音源位置を前記後者の音源位置に対応付ける。

なお、本ステップにおける映像信号上での音源位置の編集は、再生時に用いる音源方向の編集を間接的に行っているといえる。
ここで、図４（ａ）のように映像表示領域４１０の平面座標系で音源位置を編集する方法の他に、方位角及び仰角をパラメータとする球座標系で音源方向を直接編集する方法がある。その場合、ＣＰＵ１５０は、方位角と仰角でメッシュを切った３次元の球を映像表示領域４１０に表示し、映像フレーム４１１をその画角に対応する球面上の領域に、方位角と仰角で表される音源方向を持った音源を球面上の一点に表示する。
映像表示領域４１０において、ユーザは球の表示角度を任意に変えることができる。また、音源プロパティとして音源方向に加えて音源距離を得られている場合は、音源を球の半径方向に動かすことで音源距離の編集を行うこともできる。
方位角及び仰角をパラメータとする球座標系では、映像フレーム４１１は歪曲して球面上の領域に表示されるが、音源方向の編集に関しては現実の三次元空間との対応がわかり易くなる。ユーザは編集ウィンドウ４００のメニューにおいて、編集で用いる編集座標系の選択を行うことができる。又は、映像表示領域４１０の平面座標系で音源軌跡が選択された場合、ＣＰＵ１５０が自動的に球座標系に切り替えるようにしてもよい。

Ｓ２０５では、ＣＰＵ１５０がＳ２０４で編集した分離信号や音源軌跡を基にレンダリングを行い、再生用のレンダリング音響信号を生成する。
まず、ＣＰＵ１５０は、各映像フレームにおける編集後の音源位置を、再び音源方向の表現に戻す。
編集後の音源位置（Ｘｓ、Ｙｓ）が、映像表示領域４１０において映像フレームの境界内である、つまり各映像フレームの水平画角２θｖ及び垂直画角２φｖの範囲に収まる場合は、以下のようになる。即ち、式（３）と式（４）とをそれぞれθｓとφｓについて解き、再生用の音源方向であることを表すために方位角θｓｐ及び仰角φｓｐと表記すれば、次の式（８）と式（９）とが得られる。
θｓｐ＝ａｒｃｔａｎ（Ｘｓ×ｔａｎ（θｖ）／Ｗｖ） 式（８）
φｓｐ＝ａｒｃｔａｎ（Ｙｓ×ｔａｎ（φｖ）／Ｈｖ） 式（９）
また編集後の音源位置が、映像表示領域４１０において映像フレームの境界外である、つまり各映像フレームの画角範囲から外れる場合は、以下のようになる。即ち、式（５）と式（６）とをそれぞれθｓとφｓとについて解き、θｓｐ及びφｓｐと表記すれば、次の式（１０）と式（１１）とが得られる。
θｓｐ＝ｓｇｎ（Ｘｓ）×（θｖ＋（θｍ−θｖ）×（｜Ｘｓ｜−ｗｖ）／（Ｗｍ−ｗｖ）） 式（１０）
φｓｐ＝ｓｇｎ（Ｙｓ）×（φｖ＋（φｍ−φｖ）×（｜Ｙｓ｜−Ｈｖ）／（Ｈｍ−Ｈｖ）） 式（１１）

以上のように、各映像フレームにおける編集後の音源位置から再生用の音源方向を算出できるため、これを基に分離信号のバイノーラル化を行う。より具体的には、ＣＰＵ１５０は、時間フレームごとに、再生用の音源方向に対応する左右各耳のＨＲＴＦを分離信号に畳み込んで行き、バイノーラル信号となる再生用のレンダリング音響信号を生成する。なお、標準的なＨＲＴＦデータは記憶部１０２が有しているものとする。また、ＣＰＵ１５０は、音源プロパティとして音源距離が得られている場合は、編集後の音源距離に対応する遅延をＨＲＴＦに加えたり、距離減衰によるスペクトル変化を加味したりしてもよい。
ここで、Ｓ２０４で述べた編集用の各小ウィンドウには、再生／停止ボタンが付いているものとする。再生ボタンがタッチされると、ＣＰＵ１５０は、編集中の音源のレンダリング音響信号を生成する。そして、音響信号出力部１４２は、生成されたレンダリング音響信号をＤＡ変換及び増幅する。そして、音響信号再生部１４３は、レンダリング音響信号の再生を行う。このとき同期して、対応する映像フレームも映像表示領域４１０で表示再生される。
なお、ＣＰＵ１５０は、各映像フレームにおいて存在する音源の音源方向に応じて、映像表示領域４１０の表示を動的に変化させてもよい。例えば、ＣＰＵ１５０は、画角内の音源しか存在しないときは、映像フレームを映像表示領域４１０の全面に大きく表示する。また、ＣＰＵ１５０は、画角外に音源が存在するときは、全音源方向の最大絶対値が大きいほど画角外領域４１２を増やし、映像フレームは小さく表示する。このような映像信号の拡縮は、例えば監視カメラにおいて画角外で音が発生した場合に、その映像を捉えるようテレ側からワイド側まで（焦点距離の一番大きい方から一番小さい方）に遷移するイメージに近い。

また、ＣＰＵ１５０は、編集ウィンドウ４００のメニューから、プレーヤウィンドウが選択されるとプレーヤウィンドウを表示する。プレーヤウィンドウの再生ボタンがタッチされると、全音源即ち分離信号トラック４３０の全ての分離信号についてバイノーラル化が行われ、それらを合成したレンダリング音響信号が生成及び再生される。このとき、例えば特定の分離信号のトラックを一定時間タッチされることで、ＣＰＵ１５０は、アクティブな状態と非アクティブな状態とを切り替え可能としてもよい。また、非アクティブな状態の場合、ＣＰＵ１５０は、バイノーラル化を無効にしてレンダリング音響信号に含まれないようにしてもよい。
レンダリング音響信号を生成するためのレンダリング方式をバイノーラルレンダリングとしていた。ここで、音響信号再生部１４３がヘッドフォンではなく、ステレオ２ｃｈやサラウンド５．１ｃｈといったスピーカである場合は、レンダリング方式をトランスオーラルレンダリングとする方が好適である。より具体的には、各スピーカからユーザの左右各耳までの伝達関数を測定するモードを設け、バイノーラル信号がそのまま左右各耳において再現されるように、クロストークキャンセルの機能を含むトランスオーラルフィルタを構成して適用する。この他にも音源方向を用いるレンダリング方式として、ステレオパンニングに基づくステレオレンダリングや、サラウンドパンニングに基づくサラウンドレンダリング等が利用可能である。
ユーザは編集ウィンドウ４００のメニューにおいて、音響信号再生部１４３の構成やユーザの好みに応じて、レンダリング方式を選択することができる。
Ｓ２０４の編集とＳ２０５のレンダリングとは、ユーザが結果に満足するまで繰り返し行われる。

編集終了後、ＣＰＵ１５０は、映像音響データファイルとはまた別に、映像信号とレンダリング音響信号とを併せて一般に再生可能な形式でファイル出力し、記憶部１０２に保存してもよい。ここで、記憶部１０２は着脱可能であってもよいし、システムコントローラ１００において記憶部１０２と相互に結ばれたデータ入出力部から、外部にファイルを転送できるようにしてもよい。
なお、ＣＰＵ１５０は、Ｓ２０１の撮影と同時に、Ｓ２０２の音源方向の取得と、Ｓ２０３で詳述した音源位置・軌跡の表示とを行うようにしてもよい。これにより、ユーザは音源の位置や軌跡を視覚的に確認しながら撮影を行うことができる。この場合、撮像系が捉えている映像信号を映し出す入出力ＧＵＩ部１３１の全面を、映像表示領域４１０として用いることになる。このとき、Ｓ２０５で述べたように、ＣＰＵ１５０は、映像表示領域４１０の表示を動的に変化させてもよい。

なお、Ｓ２０１における映像信号や音響信号の取得、Ｓ２０２における音源方向や分離信号の取得、Ｓ２０３における音源位置の算出は、必ずしも信号処理装置で行わなくても、信号処理装置と通信可能な情報処理装置等で行ってもよい。例えば、情報処理装置は、映像信号をコンピュータグラフィックスで作成したり、映像信号に合わせた効果音として、分離信号に対応する音源信号や、その音源位置・軌跡を作成したりしてもよい。その場合、システムコントローラ１００のデータ入出力部が、作成データを外部の情報処理装置から取得することになる。また、ＨＲＴＦやＢＧＭのように、ユーザごとに適するものを選んだ方が好適なデータについても、信号処理装置は、データ入出力部を通じて例えば外部ネットワーク上のデータベースから取得するようにしてもよい。
以上説明した本実施形態によれば、表示中の映像フレームで音源が画角外の場合に、音源が画角内にある参照フレームから参照画像を取得して表示することで、音源が何か一目瞭然となるため効率的な編集を行うことができる。

＜その他の実施形態＞
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。

以上、上述した各実施形態によれば、表示中の映像フレームで音源が画角外の場合であっても、効率的な編集を可能とすることができる。

１００ システムコントローラ
１５０ ＣＰＵ

Claims (17)

1. 撮像手段による撮像に基づいて生成された画像を取得する画像取得手段と、
   前記撮像手段による撮像と共に行われる収音手段による収音に基づく音響信号に対応する音源であって、前記画像取得手段により取得される第１画像に含まれない音源の、位置及び方向の少なくとも何れかを特定する特定手段と、
   前記画像取得手段により取得される前記第１画像を表示部に表示させると共に、前記第１画像に係る撮像時点とは異なる時点における前記撮像手段による撮像に基づく第２画像であって前記音源の少なくとも一部を含む前記第２画像を、前記表示部内の表示位置であって前記特定手段により特定された前記音源の位置及び方向の少なくとも何れかに応じた表示位置に表示させる表示制御手段と
   を有することを特徴とする情報処理装置。
2. 前記特定手段は、前記収音手段による収音に基づく音響信号を用いて、前記音源の位置及び方向の少なくとも何れかを特定することを特徴とする請求項１に記載の情報処理装置。
3. 前記表示制御手段は、前記表示部内の表示位置であって前記第１画像が表示される領域の外の表示位置に前記第２画像を表示させることを特徴とする請求項１又は２に記載の情報処理装置。
4. 前記表示制御手段は、前記第２画像を前記第１画像に重畳させて前記表示部に表示させることを特徴とする請求項１又は２に記載の情報処理装置。
5. 前記表示制御手段は、前記第１画像と前記第２画像の表示と共に、前記音源の位置を示す情報を表示させることを特徴とする請求項１乃至４の何れか１項に記載の情報処理装置。
6. 前記表示制御手段は、前記第１画像と前記第２画像の表示と共に、前記音源の位置の軌跡を示す情報を表示させることを特徴とする請求項１乃至５の何れか１項に記載の情報処理装置。
7. 前記画像取得手段により取得される動画を構成する複数のフレームであって前記第１画像に対応する第１フレームを含む複数のフレームから、前記音源の少なくとも一部の画像を含む第２フレームを選択する選択手段を更に有し、
   前記表示制御手段は、前記第１画像の表示と共に、前記選択手段により選択される前記第２フレームに基づく画像を前記第２画像として前記表示部に表示させることを特徴とする請求項１に記載の情報処理装置。
8. 前記選択手段は、前記動画を構成する複数のフレームから、前記音源の画像が中心から所定の範囲内に含まれるフレームを前記第２フレームとして選択することを特徴とする請求項７に記載の情報処理装置。
9. 前記選択手段は、前記動画を構成する複数のフレームに前記音源の画像を含むフレームが複数含まれる場合に、前記音源の画像を含む複数のフレームそれぞれに対応する撮像時点に基づいて前記第２フレームを選択することを特徴とする請求項７又は８に記載の情報処理装置。
10. 前記選択手段は、前記動画を構成する複数のフレームに前記音源の画像を含むフレームが複数含まれる場合に、前記音源の画像を含む複数のフレームそれぞれに対応する撮像時点と前記第１フレームに対応する撮像時点とに基づいて前記第２フレームを選択することを特徴とする請求項７乃至９の何れか１項に記載の情報処理装置。
11. 前記選択手段は、前記動画を構成する複数のフレームに前記音源の画像を含むフレームが複数含まれる場合に、前記音源の画像を含む複数のフレームそれぞれにおける前記音源の位置に基づいて前記第２フレームを選択することを特徴とする請求項７乃至１０の何れか１項に記載の情報処理装置。
12. 前記選択手段は、前記動画を構成する複数のフレームに前記音源の画像を含むフレームが複数含まれる場合に、前記音源の画像を含む複数のフレームのうちユーザによる指定に応じたフレームを前記第２フレームとして選択することを特徴とする請求項７乃至１１の何れか１項に記載の情報処理装置。
13. 撮像手段による撮像対象領域の撮像に基づいて生成された画像を取得する画像取得手段と、
    前記撮像手段による撮像と共に行われる収音手段による収音に基づく音響信号に対応する音源であって、前記画像取得手段により取得される第１画像に含まれない音源の、位置及び方向の少なくとも何れかを特定する特定手段と、
    前記画像取得手段により取得される前記第１画像を表示部内の第１表示領域に表示させ、且つ、前記特定手段により特定される前記音源の位置及び方向の少なくとも何れかに応じた前記表示部内の表示位置であって前記第１表示領域の外側に位置する第２表示領域内の表示位置に、前記音源を表す第２画像を表示させる表示制御手段と
    を有することを特徴とする情報処理装置。
14. 前記音源の位置に基づいて前記第２表示領域の大きさを決定する決定手段を更に有し、
    前記表示制御手段は、前記決定手段により決定される大きさの前記第２表示領域内に前記第２画像を表示させることを特徴とする請求項１３に記載の情報処理装置。
15. 撮像手段による撮像に基づいて生成された画像を取得する画像取得工程と、
    前記撮像手段による撮像と共に行われる収音手段による収音に基づく音響信号に対応する音源であって、前記画像取得工程において取得される第１画像に含まれない音源の、位置及び方向の少なくとも何れかを特定する特定工程と、
    前記画像取得工程において取得される前記第１画像を表示部に表示させると共に、前記第１画像に係る撮像時点とは異なる時点における前記撮像手段による撮像に基づく第２画像であって前記音源の少なくとも一部を含む前記第２画像を、前記表示部内の表示位置であって前記特定工程において特定された前記音源の位置及び方向の少なくとも何れかに応じた表示位置に表示させる表示制御工程と
    を含むことを特徴とする情報処理方法。
16. 撮像手段による撮像対象領域の撮像に基づいて生成された画像を取得する画像取得工程と、
    前記撮像手段による撮像と共に行われる収音手段による収音に基づく音響信号に対応する音源であって、前記画像取得工程により取得される第１画像に含まれない音源、の位置及び方向の少なくとも何れかを特定する特定工程と、
    前記画像取得工程により取得される前記第１画像を表示部内の第１表示領域に表示させ、且つ、前記特定工程により特定される前記音源の位置及び方向の少なくとも何れかに応じた前記表示部内の表示位置であって前記第１表示領域の外側に位置する第２表示領域内の表示位置に、前記音源を表す第２画像を表示させる表示制御工程と
    を含むことを特徴とする情報処理方法。
17. コンピュータを、請求項１乃至１４の何れか１項に記載の情報処理装置の各手段として機能させるためのプログラム。

Images