以下、図面を参照して、本技術を適用した実施の形態について説明する。
〈第1の実施の形態〉
〈リマッピングについて〉
本技術は、オーディオオブジェクトのオーディオ信号と、そのオーディオオブジェクトの位置を示すオブジェクト位置情報などのメタデータとを取得してオーディオ再生を行う場合に、適切なリマッピングを行うことができるようにするものである。なお、以下では、オーディオオブジェクトを単にオブジェクトとも称することとする。
例えばコンテンツを再生する場合、コンテンツ再生側には、動画像と、その動画像に付随する音声とからなるコンテンツを再生するためのビットストリームが入力される。このビットストリームは、例えば動画像を再生するためのビデオ信号と、各オブジェクトの音声を再生するためのオーディオ信号と、各オブジェクトのメタデータや、基準となるリファレンススクリーンの位置および大きさを示すリファレンススクリーン情報などの各種の情報とを多重化して得られたものとなっている。また、メタデータには、少なくとも再生空間におけるオブジェクトの位置を示すオブジェクト位置情報が含まれている。
さらに、コンテンツ再生側に対しては、実際にコンテンツの再生に用いるスクリーンである再生スクリーン(表示画面)の再生空間における位置および大きさを示す再生スクリーン情報が与えられる。そして、コンテンツ再生時には、リファレンススクリーン情報と再生スクリーン情報とに基づいて、オブジェクト位置情報により示されるオブジェクトの位置のリマッピングが行われる。
具体的には、例えば図1に示すようにオブジェクト位置のリマッピングが行われる。
矢印A11に示すように、再生空間の原点Oの位置にいる仮想的なユーザU11を囲むように6個のオブジェクトOBJ1乃至オブジェクトOBJ6が配置されているとする。ここで、オブジェクトOBJ1乃至オブジェクトOBJ6は、メタデータに含まれるオブジェクト位置情報により示される再生空間上の位置に配置されている。
また、基準となるスクリーンとしてリファレンススクリーンRSC11がリファレンススクリーン情報により定義されており、この例ではリファレンススクリーンRSC11は、ユーザU11の正面方向に位置している。なお、ユーザU11はリファレンススクリーンRSC11のある方向、つまり正面方向を向いているとする。
これらのオブジェクトOBJ1乃至オブジェクトOBJ6や、リファレンススクリーンRSC11の配置位置は、矢印A11に示す図における図中、上から下方向に見ると、矢印A12に示す配置となっている。
この例では、特にオブジェクトOBJ1とオブジェクトOBJ2がリファレンススクリーンRSC11内に位置している。また、ユーザU11から見てオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とが水平方向において左右対称に配置されている。
したがって、仮にリファレンススクリーンRSC11でコンテンツを構成する動画像を再生する場合には、リファレンススクリーンRSC11上には6つのオブジェクトのうち、オブジェクトOBJ1とオブジェクトOBJ2のみが表示されることになる。
いま、矢印A12に示す図において、ユーザU11から見て正面方向、つまり図中、上方向をx軸の正の方向とし、ユーザU11から見て右方向をy軸の正の方向とし、ユーザU11から見て真上方向、つまり図中、手前側の方向をz軸の正の方向とする。
また、原点Oを原点とし、これらのx軸、y軸、およびz軸からなる3次元座標系をxyz座標系とする。さらに、原点Oを中心とし、原点Oからの所定の距離r(以下、半径rとも称する)を半径とする単位球面上に各オブジェクトやリファレンススクリーンRSC11が配置されているとする。ここで、例えば半径rは1などとされる。
このような場合に、オブジェクト位置情報やリファレンススクリーン情報により示される位置は、xy平面におけるx軸とのなす角度である水平方向角度Azimuth、およびxz平面におけるx軸とのなす角度である垂直方向角度Elevationにより表されるとする。なお、より詳細には、垂直方向角度Elevationは、オブジェクト等の対象となる位置および原点Oを結ぶ直線とxy平面とのなす角度である。また、再生スクリーン情報により示される位置も、水平方向角度Azimuth、および垂直方向角度Elevationにより表されるとする。
ここで、水平方向角度Azimuthは、x軸の正の方向が水平方向角度Azimuth=0°とされ、矢印A12に示す図において時計回りの方向が水平方向角度Azimuthの負の方向とされ、反時計回りの方向が水平方向角度Azimuthの正の方向とされている。また、-180°≦Azimuth≦180°である。
したがって、例えばy軸の正の方向が水平方向角度Azimuth=-90°となり、x軸の負の方向が水平方向角度Azimuth=-180°=180°となる。
垂直方向角度Elevationは、x軸の方向、つまりxy平面の位置が垂直方向角度Elevation=0°とされ、xy平面からz軸の正の方向へと向かう回転方向が垂直方向角度Elevationの正の方向とされ、z軸の負の方向へと向かう回転方向が垂直方向角度Elevationの負の方向とされる。また、-90°≦Elevation≦90°である。
したがって、例えばz軸の正の方向が垂直方向角度Elevation=90°となり、z軸の負の方向が垂直方向角度Elevation=-90°となる。
さらに、以下ではx軸の正の方向側における単位球とx軸との交点位置を、再生空間における基準位置と称することとする。つまり、基準位置は水平方向角度Azimuth=0°、垂直方向角度Elevation=0°、および半径r=1となる位置であり、再生空間に位置するユーザU11の真正面の方向の位置である。
このようにオブジェクト位置情報、リファレンススクリーン情報、および再生スクリーン情報が、水平方向角度Azimuthおよび垂直方向角度Elevationにより記述されるものとする。この場合、これらのオブジェクト位置情報、リファレンススクリーン情報、および再生スクリーン情報に基づいてリマッピングが行われると、例えば矢印A13および矢印A14に示すように再生空間における各オブジェクトの配置位置が変更される。
この例では、オブジェクトOBJ1乃至オブジェクトOBJ6が、実際に再生に用いられる再生スクリーンPSC11に合わせて再配置されている。
すなわち、再生スクリーンPSC11上には、リファレンススクリーンRSC11上に位置していたオブジェクトOBJ1とオブジェクトOBJ2が、リファレンススクリーンRSC11上における場合と同じ位置関係で配置されている。
なお、この例では、リファレンススクリーンRSC11および再生スクリーンPSC11の中心位置は、ともに基準位置に位置している。
また、各オブジェクトは、リマッピング前と相対的に略同じ位置関係で配置されており、ユーザU11から見てオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とが水平方向において左右対称に配置されている。
このようなリマッピングによれば、リファレンススクリーンRSC11に合わせて配置されていた各オブジェクトを、実際に再生に用いる再生スクリーンPSC11に合わせた位置に再配置することができる。その結果、例えばコンテンツ再生時において、再生スクリーンPSC11上に表示されたオブジェクトの方向から、そのオブジェクトの音声が聞こえてくるようにすることができる。また、再生スクリーンPSC11上に表示されていないオブジェクトについても、適切な方向からそのオブジェクトの音声が聞こえてくるようにすることができる。これにより、適切なオーディオ再生を実現することができる。
ここで、一般的なScreen-Related Object Element Remapping技術により行われるリマッピングについて、図1に示した6つのオブジェクトを例としてさらに詳細に説明する。
例えばリファレンススクリーンRSC11のリファレンススクリーン情報、オブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報、および再生スクリーンPSC11の再生スクリーン情報として図2に示す情報が与えられたとする。
図2では、矢印Q11により示される部分には、リファレンススクリーン情報およびオブジェクト位置情報が示されており、矢印Q12により示される部分には再生スクリーン情報が示されている。また、各情報の図中、右側の欄には、水平方向角度Azimuthまたは垂直方向角度Elevationの数値が記載されている。
この例では、リファレンススクリーン情報は、リファレンススクリーンRSC11の位置および大きさ、つまりリファレンススクリーンRSC11の上下左右の端の位置を示す情報となっている。
具体的には、リファレンススクリーン情報の欄における文字「Azimuth左端」および「Azimuth右端」は、それぞれリファレンススクリーンRSC11の図1中、左側の端および右側の端の位置を示しており、それらの位置を示す水平方向角度Azimuthは「29.0」および「-29.0」とされている。以下では、リファレンススクリーンRSC11の図1中、左側の端および右側の端を、リファレンススクリーンRSC11の左端および右端とも称することとする。
また、リファレンススクリーン情報の欄における文字「Elevation上端」および「Elevation下端」は、それぞれリファレンススクリーンRSC11の図1中、上側の端および下側の端の位置を示しており、それらの位置を示す垂直方向角度Elevationは「17.5」および「-17.5」とされている。以下では、リファレンススクリーンRSC11の図1中、上側の端および下側の端を、リファレンススクリーンRSC11の上端および下端とも称することとする。
また、矢印Q11により示す部分にはオブジェクトOBJ1乃至オブジェクトOBJ6の各オブジェクトのオブジェクト位置情報が示されている。具体的には、「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれの位置が記されている。
例えば文字「OBJ1」が記されたオブジェクトOBJ1の欄では、文字「Azimuth」および「Elevation」は、それぞれオブジェクトOBJ1の水平方向および垂直方向の位置を示しており、それらの位置を示す水平方向角度Azimuthおよび垂直方向角度Elevationは、それぞれ「20.0」および「10.0」とされている。
さらに、矢印Q12により示す部分には再生スクリーン情報が示されている。
この例では、再生スクリーン情報は、再生スクリーンPSC11の位置および大きさ、つまり再生スクリーンPSC11の上下左右の端の位置を示す情報となっている。
具体的には、再生スクリーン情報の欄における文字「Azimuth左端」および「Azimuth右端」は、それぞれ再生スクリーンPSC11の図1中、左側の端および右側の端の位置を示しており、それらの位置を示す水平方向角度Azimuthは「14.5」および「-14.5」とされている。以下では、再生スクリーンPSC11の図1中、左側の端および右側の端を、再生スクリーンPSC11の左端および右端とも称することとする。
また、再生スクリーン情報の欄における文字「Elevation上端」および「Elevation下端」は、それぞれ再生スクリーンPSC11の図1中、上側の端および下側の端の位置を示しており、それらの位置を示す垂直方向角度Elevationは「8.5」および「-8.5」とされている。以下では、再生スクリーンPSC11の図1中、上側の端および下側の端を、再生スクリーンPSC11の上端および下端とも称することとする。
矢印Q12に示す再生スクリーン情報から、再生スクリーンPSC11は、リファレンススクリーンRSC11の略半分の大きさのスクリーン(表示画面)であることが分かる。
このようなリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられると、一般的なScreen-Related Object Element Remapping技術では、次式(1)および式(2)の計算が行われ、リマッピング後の各オブジェクトの位置が算出される。
なお、式(1)において、φはオブジェクトのリマッピング前の水平方向位置、つまりオブジェクト位置情報に含まれる水平方向角度Azimuthを示しており、φ’はオブジェクトのリマッピング後の水平方向位置を示す水平方向角度Azimuthを示している。
また、式(1)においてφleft nominalおよびφright nominalは、リファレンススクリーンRSC11の左端および右端の水平方向位置を示す水平方向角度Azimuthを示しており、φleft reproおよびφright reproは、再生スクリーンPSC11の左端および右端の水平方向位置を示す水平方向角度Azimuthを示している。
式(2)において、θはオブジェクトのリマッピング前の垂直方向位置、つまりオブジェクト位置情報に含まれる垂直方向角度Elevationを示しており、θ’はオブジェクトのリマッピング後の垂直方向位置を示す垂直方向角度Elevationを示している。
また、式(2)においてθtop nominalおよびθbottom nominalは、リファレンススクリーンRSC11の上端および下端の垂直方向位置を示す垂直方向角度Elevationを示しており、θtop reproおよびθbottom reproは、再生スクリーンPSC11の上端および下端の垂直方向位置を示す垂直方向角度Elevationを示している。
上記の式(1)により、オブジェクトのリマッピング後の水平方向位置を示す水平方向角度Azimuthが算出され、式(2)により、オブジェクトのリマッピング後の垂直方向位置を示す垂直方向角度Elevationが算出される。
式(1)および式(2)の計算によるリマッピングでは、リファレンススクリーンRSC11内のオブジェクトは、それらのオブジェクトの位置関係が維持されたまま、丁度それらのオブジェクトが再生スクリーンPSC11内に収まるようにリマッピングされる。また、リファレンススクリーンRSC11外のオブジェクトは、リファレンススクリーンRSC11と再生スクリーンPSC11の端の位置関係に応じてリマッピングされる。
例えば式(1)の計算では、図3に示すように水平方向位置がリマッピングされる。なお、図3において、横軸はオブジェクトのリマッピング前の水平方向角度φを示しており、縦軸はオブジェクトのリマッピング後の水平方向角度φ’を示している。
この例では、水平方向角度φright nominalの位置が水平方向角度φright reproの位置へとリマッピングされる。また、水平方向角度φleft nominalの位置が水平方向角度φleft reproの位置へとリマッピングされ、それらの水平方向角度φright nominalの位置と、水平方向角度φleft nominalの位置の間にある位置は線形にリマッピングされる。
水平方向角度φ=-180°の位置は、リマッピング後も水平方向角度φ’=-180°の位置のままとされ、水平方向角度φ=-180°の位置と、水平方向角度φright nominalの位置の間の位置は線形にリマッピングされる。
同様に、水平方向角度φ=180°の位置は、リマッピング後も水平方向角度φ’=180°の位置のままとされ、水平方向角度φleft nominalの位置と水平方向角度φ=180°の位置の間の位置は線形にリマッピングされる。
したがって、図2に示したリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報に基づいて式(1)および式(2)の計算を行うと、リマッピング後の各オブジェクトの位置として、図4に示す位置が得られる。換言すれば、リマッピングにより、図4に示すオブジェクト位置情報が得られる。
図4では、オブジェクトOBJ1乃至オブジェクトOBJ6のリマッピング後のオブジェクト位置情報が示されている。具体的には、「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれの位置が記されている。
例えば文字「OBJ1」が記されたオブジェクトOBJ1の欄では、文字「Azimuth」および「Elevation」は、それぞれリマッピング後のオブジェクトOBJ1の水平方向および垂直方向の位置を示しており、それらの位置を示す水平方向角度Azimuthおよび垂直方向角度Elevationは、それぞれ「10.0」および「4.9」とされている。
このオブジェクトOBJ1の水平方向角度Azimuth「10.0」および垂直方向角度Elevation「4.9」が、それぞれリマッピング後のオブジェクトOBJ1の水平方向角度φ’および垂直方向角度θ’を示している。
図4に示される各オブジェクトの位置から分かるように、リマッピング後においてもユーザU11から見てオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とは水平方向において左右対称に配置されていることが分かる。つまり、適切にリマッピングが行われていることが分かる。
ところで、一般的なScreen-Related Object Element Remapping技術では、リファレンススクリーンRSC11はユーザU11の正面に位置していること、つまりリファレンススクリーンRSC11の中心位置は基準位置にあることが前提となっている。換言すれば、リファレンススクリーンRSC11の中心位置が基準位置以外の位置にあることは想定されていない。
そのため、リファレンススクリーンRSC11の中心位置が基準位置以外の位置にある場合には、通常通りリマッピングを行うと、リファレンススクリーンRSC11外のオブジェクトの位置関係に歪みが生じてしまう。
具体的には、例えば図5に示すリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合に、式(1)および式(2)の計算によりリマッピングを行うと、リマッピング後の各オブジェクトのオブジェクト位置情報は図6に示すようになる。なお、図5および図6は、図2および図4に対応しており、図5および図6において図2や図4と同様の部分については適宜説明を省略する。
図5では、矢印Q21により示す部分には、リファレンススクリーンRSC11のリファレンススクリーン情報、およびオブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報が示されている。
この例では、リファレンススクリーン情報により示されるリファレンススクリーンRSC11の位置は、図2の例で示した位置を、水平方向角度Azimuthの正の方向に30°だけ回転させた位置となっている。つまり、図2の例では、リファレンススクリーンRSC11の中心位置が基準位置であったのに対して、図5に示す例では、リファレンススクリーンRSC11の中心位置が水平方向角度Azimuth=30°および垂直方向角度Elevation=0°の位置となっている。
同様に、図5に示す例では、オブジェクト位置情報により示される各オブジェクトの位置も、図2の例で示した同じオブジェクトの位置を、水平方向角度Azimuthの正の方向に30°だけ回転させた位置となっている。
したがって、図2に示した例と図5に示す例では、ともにリファレンススクリーンRSC11および各オブジェクトの相対的な位置関係は同じとなっている。
また、矢印Q22により示す部分には再生スクリーン情報が示されており、この再生スクリーン情報は、図2に示した再生スクリーン情報と同じとなっている。
このようなリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報に基づくリマッピングにより、図6に示すオブジェクト位置情報が得られるが、このオブジェクト位置情報からオブジェクトの位置関係が非対称となっていることが分かる。
なお、図6では「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれの位置が記されている。
リマッピング前においては、原点OとリファレンススクリーンRSC11の中心位置とを結ぶ線分に対してオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とは水平方向において左右対称に配置されている。
一方で図6に示す例では、リファレンススクリーンRSC11内に配置されていたオブジェクトOBJ1とオブジェクトOBJ2については、水平方向角度Azimuthから、リマッピング後においてもそれらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して水平方向において左右対称であることが分かる。
しかし、リファレンススクリーンRSC11外に配置されているオブジェクトOBJ3とオブジェクトOBJ4、およびオブジェクトOBJ5とオブジェクトOBJ6については、それらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して水平方向において左右対称でなくなっていることが分かる。つまり、リマッピング後のオブジェクトの位置が適切な位置とはなっておらず、オブジェクトの位置関係が歪んでしまっていることが分かる。
この例におけるリマッピング前とリマッピング後の各オブジェクトの位置関係を模式図で示すと、図7に示すようになる。なお、図7において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図7では、矢印A21および矢印A22により示す部分に、リファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。これに対して、矢印A23および矢印A24により示す部分に、再生スクリーンPSC11とリマッピング後のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。
リマッピングにおいては、再生スクリーンPSC11から見た各オブジェクトの位置関係が、リファレンススクリーンRSC11から見たリマッピング前の各オブジェクトの位置関係と略同じ位置関係となるように各オブジェクトがリマッピングされることが期待される。
この例では、リマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6の相対的な位置関係は、図1に示した例と同じであり、再生スクリーンPSC11の位置も図1に示した例と同じ位置にある。したがって、リマッピング後のオブジェクトOBJ1乃至オブジェクトOBJ6の位置は、図1に示したそれらのオブジェクトと同じ位置に再配置されることが期待される。
しかし、図7から分かるようにリマッピング前にリファレンススクリーンRSC11外に位置していたオブジェクトOBJ3乃至オブジェクトOBJ6については、リマッピング前とリマッピング後とで相対的な位置関係が大きく変化している。特に、オブジェクトOBJ5とオブジェクトOBJ6については、オブジェクト位置が大きくずれている。
そのため、リマッピングにより得られたオブジェクト位置情報に基づいて、各オブジェクトのオーディオ信号のレンダリングを行うと、再生スクリーンPSC11外のオブジェクトについては、音声再生時に本来オブジェクトがあるべき位置とは異なる位置に音像が定位してしまうことになる。
そこで、本技術では、オブジェクト位置情報とリファレンススクリーン情報を適切に補正することで、リファレンススクリーンRSC11の中心位置が基準位置とは異なる場合であっても適切なリマッピングを行うことができるようにした。
〈情報処理装置の構成例〉
図8は、本技術を適用した情報処理装置の一実施の形態の構成例を示す図である。
図8に示す情報処理装置11は、オフセット角算出部21、位置情報補正部22、およびオブジェクトリマッピング部23を有している。
この情報処理装置11には、外部からリファレンススクリーン情報、各オブジェクトのオブジェクト位置情報、および再生スクリーン情報が供給される。
ここでは、例えばリファレンススクリーン情報は、リファレンススクリーンRSC11の左端および右端の各位置を示す水平方向角度のそれぞれと、リファレンススクリーンRSC11の上端および下端の各位置を示す垂直方向角度のそれぞれとからなるものとする。リファレンススクリーン情報は、ユーザU11の正面方向にある基準位置を基準としたリファレンススクリーンRSC11の位置および大きさを示す情報となっている。
同様に、再生スクリーン情報は、再生スクリーンPSC11の左端および右端の各位置を示す水平方向角度のそれぞれと、再生スクリーンPSC11の上端および下端の各位置を示す垂直方向角度のそれぞれとからなるものとする。この再生スクリーン情報も基準位置を基準とした再生スクリーンPSC11の位置および大きさを示す情報となっている。
また、各オブジェクトのオブジェクト位置情報は、オブジェクトの位置を示す水平方向角度と垂直方向角度とからなるものとする。オブジェクト位置情報は、ユーザU11の正面方向にある基準位置を基準としたオブジェクトの位置を示す情報である。
オフセット角算出部21は、供給されたリファレンススクリーン情報に基づいて、再生空間にいるユーザU11の正面方向、つまり原点Oから基準位置へと向かう方向と、原点OからリファレンススクリーンRSC11の中心位置へと向かう方向とのなす水平方向の角度をオフセット角として算出し、位置情報補正部22に供給する。
リファレンススクリーンRSC11のオフセット角は、水平方向角度Azimuth方向における、基準位置からのリファレンススクリーンRSC11の中心位置のずれ量を示す水平方向角度Azimuthである。すなわち、オフセット角は、ユーザU11の正面方向にある基準位置からのリファレンススクリーンRSC11のオフセット量を示す情報である。なお、ここではオフセット量を示す情報の例として、水平方向角度であるオフセット角について説明したが、オフセット量を示す情報は、その他どのような情報とされてもよい。
位置情報補正部22は、オフセット角算出部21から供給されたオフセット角に基づいて、外部から供給されたリファレンススクリーン情報およびオブジェクト位置情報を補正し、その結果得られた補正リファレンススクリーン情報および補正オブジェクト位置情報を、オブジェクトリマッピング部23に供給する。
オブジェクトリマッピング部23は、外部から供給された再生スクリーン情報と、位置情報補正部22から供給された補正リファレンススクリーン情報および補正オブジェクト位置情報とに基づいて、オブジェクト位置情報、つまりオブジェクト位置のリマッピングを行い、その結果得られたオブジェクト位置情報を出力する。
〈各部の処理について〉
ここで、情報処理装置11を構成する各部の処理について、より具体的に説明する。
まず、オフセット角算出部21は、供給されたリファレンススクリーン情報に基づいて、例えば次式(3)を計算することで、オフセット角φoffset_valueを算出する。
なお、式(3)において、φleft nominalおよびφright nominalは、リファレンススクリーンRSC11の左端の位置および右端の位置の水平方向角度Azimuthを示している。これらのφleft nominalおよびφright nominalはリファレンススクリーン情報に含まれる情報である。
また、位置情報補正部22では、オフセット角φoffset_valueに基づいて、リファレンススクリーンRSC11の中心位置が基準位置となるように、リファレンススクリーン情報が補正される。すなわち、次式(4)および式(5)の計算により、補正リファレンススクリーン情報が算出される。
なお、式(4)において、φleft nominalはリファレンススクリーンRSC11の左端の位置の水平方向角度Azimuthを示しており、φoffset_left nominalは水平方向角度φleft nominalのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φoffset_left nominalは、補正後のリファレンススクリーンRSC11の左端の位置の水平方向角度Azimuthを示している。
また、式(5)において、φright nominalはリファレンススクリーンRSC11の右端の位置の水平方向角度Azimuthを示しており、φoffset_right nominalは、水平方向角度φright nominalのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φoffset_right nominalは、補正後のリファレンススクリーンRSC11の右端の位置の水平方向角度Azimuthを示している。
したがって、式(4)の計算により、リファレンススクリーン情報に含まれる水平方向角度φleft nominalが補正され、式(5)の計算により、リファレンススクリーン情報に含まれる水平方向角度φright nominalが補正されることになる。
リファレンススクリーン情報の補正時には、これらの水平方向角度φleft nominalおよび水平方向角度φright nominalのみが補正され、リファレンススクリーンRSC11の上端および下端の各位置を示す垂直方向角度の補正は行われない。
このような補正リファレンススクリーン情報を算出する処理は、オフセット角φoffset_valueの分だけ、つまり基準位置に対するリファレンススクリーンRSC11の中心位置のずれの分だけリファレンススクリーンRSC11を回転させる処理である。これにより、リファレンススクリーンRSC11の中心位置が基準位置となるようにリファレンススクリーン情報が補正される。
さらに位置情報補正部22では、オフセット角φoffset_valueに基づいて、リファレンススクリーンRSC11の位置の補正(移動)、つまりリファレンススクリーン情報の補正に合わせて、各オブジェクトの位置も補正(移動)されるように、オブジェクト位置情報が補正される。すなわち、次式(6)の計算により、補正オブジェクト位置情報が算出される。
なお、式(6)において、φはオブジェクト位置情報に含まれるオブジェクトの水平方向角度Azimuthを示しており、φoffsetは水平方向角度φのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φoffsetは、補正後のオブジェクト位置の水平方向角度Azimuthを示している。
したがって、式(6)の計算により、オブジェクト位置情報に含まれる水平方向角度φが補正されることになる。オブジェクト位置情報の補正時には、水平方向角度φのみが補正され、オブジェクトの垂直方向位置を示す垂直方向角度の補正は行われない。
このような補正オブジェクト位置情報を算出する処理は、オフセット角φoffset_valueの分だけオブジェクトの位置を回転させる処理である。
これにより、リファレンススクリーンRSC11の位置に合わせて各オブジェクトの位置が補正される。より詳細には、リファレンススクリーンRSC11の中心位置の補正に合わせて各オブジェクトの位置も補正される。そのため、リファレンススクリーン情報およびオブジェクト位置情報の補正の前後において、リファレンススクリーンRSC11に対する各オブジェクトの相対的な位置は変化しない。
以上のようにして補正リファレンススクリーン情報および補正オブジェクト位置情報が得られると、オブジェクトリマッピング部23においてリマッピングが行われる。すなわち、再生スクリーンPSC11の位置に合わせて各オブジェクトの位置がリマッピングされる。
この時点でリファレンススクリーンRSC11と各オブジェクトの位置関係を示す補正リファレンススクリーン情報と補正オブジェクト位置情報は、基準位置をリファレンススクリーンRSC11の中心位置としたときの位置関係を示す情報となっている。
したがって、補正リファレンススクリーン情報および補正オブジェクト位置情報を用いれば、上述した一般的なScreen-Related Object Element Remapping技術における場合と同様の計算によりオブジェクト位置のリマッピングを行ってもオブジェクト位置の歪みは生じない。つまり、適切なリマッピングを実現することができる。
具体的には、オブジェクトリマッピング部23は、補正リファレンススクリーン情報、再生スクリーン情報、および補正オブジェクト位置情報に基づいて次式(7)を計算することで、リマッピング後のオブジェクト位置情報を算出する。
なお、式(7)において、φ’はオブジェクトのリマッピング後の水平方向位置を示す水平方向角度Azimuthを示しており、φoffsetはオブジェクトのリマッピング前の水平方向位置、つまり補正オブジェクト位置情報に含まれる水平方向角度Azimuthを示している。
また、式(7)においてφoffset_left nominalおよびφoffset_right nominalは、補正されたリファレンススクリーンRSC11の左端および右端の水平方向位置を示す水平方向角度Azimuthを示している。すなわち、φoffset_left nominalおよびφoffset_right nominalは、補正リファレンススクリーン情報に含まれる、リファレンススクリーンRSC11の左端および右端の水平方向角度Azimuthを示している。
さらに、式(7)においてφleft reproおよびφright reproは、再生スクリーンPSC11の左端および右端の水平方向位置を示す水平方向角度Azimuthを示している。
また、より詳細には、リマッピングされたオブジェクトのオブジェクト位置情報を求めるにあたっては、オブジェクトリマッピング部23は、補正リファレンススクリーン情報、再生スクリーン情報、および補正オブジェクト位置情報に基づいて上述した式(2)の計算も行う。これにより、リマッピング後のオブジェクト位置情報に含まれる、リマッピングされたオブジェクトの垂直方向位置を示す垂直方向角度θ’が得られる。
以上のような処理を行うことで、情報処理装置11では適切なリマッピングを行うことができる。
具体的には、例えば図5に示したリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合に、情報処理装置11でリマッピングが行われると、リマッピング後のオブジェクト位置情報として図9に示すオブジェクト位置情報が得られる。
なお、図9では、「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれのリマッピングされたオブジェクト位置情報、すなわち各オブジェクトのリマッピング後の位置の水平方向角度Azimuthおよび垂直方向角度Elevationが示されている。
例えば文字「OBJ1」が記されたオブジェクトOBJ1の欄では、文字「Azimuth」および「Elevation」は、それぞれリマッピング後のオブジェクトOBJ1の水平方向および垂直方向の位置を示しており、それらの位置を示す水平方向角度Azimuthおよび垂直方向角度Elevationは、それぞれ「10.0」および「4.9」とされている。これらの水平方向角度Azimuth「10.0」および垂直方向角度Elevation「4.9」は、式(7)により算出された水平方向角度φ’、および式(2)により算出された垂直方向角度θ’である。
図9に示す例では、全てのオブジェクトOBJ1乃至オブジェクトOBJ6の相対的な位置関係が、リマッピング前とリマッピング後とで略同じとなっている。
すなわち、リファレンススクリーンRSC11内に配置されていたオブジェクトOBJ1とオブジェクトOBJ2については、リマッピング後においてもそれらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称であることが分かる。
また、リファレンススクリーンRSC11外に配置されているオブジェクトOBJ3とオブジェクトOBJ4、およびオブジェクトOBJ5とオブジェクトOBJ6についても、それらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称となっていることが分かる。つまり、リマッピング後の全てのオブジェクトの位置が適切な位置となっていることが分かる。
この例におけるリマッピング前とリマッピング後の各オブジェクトの位置関係を模式図で示すと、図10に示すようになる。なお、図10において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図10では、矢印A31および矢印A32により示される部分に、リファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。より詳細には、リファレンススクリーンRSC11は補正前のリファレンススクリーン情報により示される位置に配置されたものであり、オブジェクトOBJ1乃至オブジェクトOBJ6は、補正前のオブジェクト位置情報により示される位置に配置されたものである。
これに対して、矢印A33および矢印A34により示される部分に、再生スクリーンPSC11とリマッピング後のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。
この例では、矢印A31および矢印A32に示されるリファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6の位置は、図7に示した例と同じ配置となっている。
また、矢印A33および矢印A34に示される部分では、リマッピング後のオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とが、原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称であることが分かる。つまり、リマッピング前後において、スクリーンの中心位置から見た各オブジェクトの位置関係が略同じであり、適切にリマッピングが行われていることが分かる。
〈リマッピング処理の説明〉
次に、図11のフローチャートを参照して、情報処理装置11により行われるリマッピング処理について説明する。
ステップS11においてオフセット角算出部21は、供給されたリファレンススクリーン情報に基づいてオフセット角φoffset_valueを算出し、位置情報補正部22に供給する。
具体的には、オフセット角算出部21は式(3)を計算することで、オフセット角φoffset_valueを算出する。
ステップS12において位置情報補正部22は、オフセット角算出部21から供給されたオフセット角φoffset_valueに基づいて、外部から供給されたリファレンススクリーン情報およびオブジェクト位置情報を補正する。
例えば位置情報補正部22は、オフセット角φoffset_valueとリファレンススクリーン情報から式(4)および式(5)の計算を行うことでリファレンススクリーン情報を補正し、その結果得られた補正リファレンススクリーン情報をオブジェクトリマッピング部23に供給する。
また、位置情報補正部22は、オフセット角φoffset_valueとオブジェクト位置情報から式(6)の計算を行うことでオブジェクト位置情報を補正し、その結果得られた補正オブジェクト位置情報をオブジェクトリマッピング部23に供給する。
ステップS13においてオブジェクトリマッピング部23は、外部から供給された再生スクリーン情報と、位置情報補正部22から供給された補正リファレンススクリーン情報および補正オブジェクト位置情報とに基づいて、オブジェクト位置のリマッピングを行う。
例えばオブジェクトリマッピング部23は、補正リファレンススクリーン情報、再生スクリーン情報、および補正オブジェクト位置情報に基づいて式(2)および式(7)を計算することで、リマッピングされたオブジェクトの位置を示すオブジェクト位置情報を算出する。そして、オブジェクトリマッピング部23は、このようにして得られたオブジェクト位置情報を後段に出力し、リマッピング処理は終了する。
以上のようにして、情報処理装置11はリファレンススクリーン情報およびオブジェクト位置情報を補正してからリマッピングを行う。このようにすることで、リファレンススクリーンRSC11の配置位置によらず、適切なリマッピングを行うことができる。
〈第1の実施の形態の変形例1〉
〈リマッピングについて〉
ところで、ISO/IEC 23008-3 “3D Audio”規格のように、リファレンススクリーンRSC11の左端の水平方向角度φleft nominalや右端の水平方向角度φright nominal、オブジェクトの水平方向角度φの各角度の値域が-180°以上、180°以下と規定されていることもある。
そのような場合、補正リファレンススクリーン情報および補正オブジェクト位置情報の算出時に、水平方向角度が予め定められた値域内の値、つまり-180°以上、180°以下の値となるように、適宜補正を行う必要がある。
また、水平方向角度φleft nominalや水平方向角度φright nominal、水平方向角度φの各角度の値域が-180°以上、180°以下と規定されている場合、リファレンススクリーンRSC11が上述したユーザU11の背面方向、つまりユーザU11から見てx軸の負の方向に配置されているときには、水平方向角度φleft nominal<水平方向角度φright nominalとなることがある。そのような場合、オフセット角φoffset_valueの算出時に、適宜、適切な補正値で補正を行う必要がある。
なお、以下では、特に断りがない場合、リファレンススクリーンRSC11がユーザU11の背面方向に位置しているというときには、水平方向角度φleft nominal<水平方向角度φright nominalとなっている状態であるものとする。
水平方向角度φleft nominalや水平方向角度φright nominal、水平方向角度φの各角度の値域が-180°以上、180°以下の範囲の値域となるように予め定められている場合には、以下のようにリマッピングを行うようにすればよい。
なお、以下では、具体的に図12に示すリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合を例として説明を続ける。また、図12は図2に対応しており、図12において図2と同様の部分については適宜説明を省略する。
図12では、矢印Q31により示す部分には、リファレンススクリーンRSC11のリファレンススクリーン情報、およびオブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報が示されている。
この例では、リファレンススクリーン情報により示されるリファレンススクリーンRSC11の位置は、図2の例で示した位置を、水平方向角度Azimuthの方向に180°だけ回転させた位置となっている。つまり、図2の例では、リファレンススクリーンRSC11の中心位置が基準位置であったのに対して、図12に示す例では、リファレンススクリーンRSC11の中心位置が水平方向角度Azimuth=180°および垂直方向角度Elevation=0°の位置となっている。
同様に、図12に示す例では、オブジェクト位置情報により示される各オブジェクトの位置も、図2の例で示した同じオブジェクトの位置を、水平方向角度Azimuthの方向に180°だけ回転させた位置となっている。
したがって、図2に示した例と図12に示す例では、ともにリファレンススクリーンRSC11および各オブジェクトの相対的な位置関係は同じとなっている。
また、矢印Q32により示す部分には再生スクリーン情報が示されており、この再生スクリーン情報は、図2に示した再生スクリーン情報と同じとなっている。
このようなリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられ得る場合、オフセット角算出部21では上述した式(3)に代えて次式(8)によりオフセット角φoffset_valueを算出すればよい。
なお、式(8)において、φleft nominalおよびφright nominalは、リファレンススクリーンRSC11の左端の位置および右端の位置の水平方向角度Azimuthを示している。
式(8)では、水平方向角度φleft nominal<水平方向角度φright nominalである場合、つまりリファレンススクリーンRSC11が背面方向にある場合には、式(3)により求まる角度に補正値として180°が加算され、最終的なオフセット角φoffset_valueとされる。
これは、リファレンススクリーンRSC11が背面方向にある場合、式(3)によりオフセット角φoffset_valueを算出すると、リファレンススクリーンRSC11が正面方向にあるときと同じ角度がオフセット角φoffset_valueとして得られてしまうので、補正値として180°を加算してオフセット角を正しく補正する必要があるためである。
また、式(8)では、水平方向角度φleft nominal<水平方向角度φright nominalでない場合、つまりリファレンススクリーンRSC11が背面方向にないときには、上述した式(3)と同様にしてオフセット角φoffset_valueが算出される。
式(8)によりオフセット角φoffset_valueが算出されると、位置情報補正部22では、式(4)および式(5)に代えて、次式(9)および式(10)により補正リファレンススクリーン情報が算出されるようにすればよい。同様に、位置情報補正部22において、式(6)に代えて式(11)により補正オブジェクト位置情報が算出されるようにすればよい。
なお、式(9)乃至式(11)において、φoffset_valueはオフセット角φoffset_valueを示している。また、式(9)において、φleft nominalはリファレンススクリーンRSC11の左端の位置の水平方向角度Azimuthを示しており、φoffset_left nominalは水平方向角度φleft nominalのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。
式(10)において、φright nominalはリファレンススクリーンRSC11の右端の位置の水平方向角度Azimuthを示しており、φoffset_right nominalは水平方向角度φright nominalのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。
さらに式(11)において、φはオブジェクト位置情報に含まれるオブジェクトの水平方向位置の水平方向角度Azimuthを示しており、φoffsetは水平方向角度φのオフセット角φoffset_valueによる補正後の水平方向角度Azimuthを示している。
例えば式(9)では、φleft nominal<φoffset_value-180°である場合、すなわちφleft nominal-φoffset_value<-180°である場合、上述した式(4)により求まる水平方向角度に360°が加算され、最終的な水平方向角度φoffset_left nominalとされている。
このような状況では、式(4)により水平方向角度φoffset_left nominalを求めると、本来、-180°以上108°以下となるべき水平方向角度φoffset_left nominalの値が-180°未満となってしまう。そこで、式(9)の計算では、φleft nominal<φoffset_value-180°である場合には、式(4)により求まる水平方向角度に360°が補正値として加算されて水平方向角度φoffset_left nominalが正しく補正される。
また、式(9)では、φoffset_value-180°≦φleft nominal≦φoffset_value+180°である場合、すなわち-180°≦φleft nominal-φoffset_value≦180°である場合には、式(4)と同様の計算が行われる。さらに式(9)では、φoffset_value+180°<φleft nominalである場合、すなわちφleft nominal-φoffset_value>180°である場合には、水平方向角度φoffset_left nominalの値が180°より大きくなってしまうので、φleft nominal<φoffset_value-180°である場合と同様に、-360°が補正値として加算されて水平方向角度φoffset_left nominalが正しく補正される。
さらに、式(9)だけでなく式(10)や式(11)においても、式(9)における場合と同様に、必要に応じて補正が行われる。
このように、リファレンススクリーン情報やオブジェクト位置情報の補正時に、φleft nominal-φoffset_valueなど、各情報のオフセット角φoffset_valueによる補正後の水平方向角度に応じて、つまり必要に応じて360°や-360°を補正値として加算することは、リファレンススクリーンRSC11やオブジェクトの位置の補正時における補正値を調整する処理であるということができる。
以上のようにして補正リファレンススクリーン情報および補正オブジェクト位置情報が算出されると、オブジェクトリマッピング部23では、式(2)および式(7)により、リマッピング後のオブジェクト位置情報が算出される。
例えば図12に示したリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合に、以上において説明したリマッピングが行われると、リマッピング後のオブジェクト位置情報として図13に示すオブジェクト位置情報が得られる。
なお、図13では、「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれのリマッピングされたオブジェクト位置情報、すなわち各オブジェクトのリマッピング後の位置の水平方向角度Azimuthおよび垂直方向角度Elevationが示されている。
例えば文字「OBJ1」が記されたオブジェクトOBJ1の欄では、文字「Azimuth」および「Elevation」は、それぞれリマッピング後のオブジェクトOBJ1の水平方向および垂直方向の位置を示しており、それらの位置を示す水平方向角度Azimuthおよび垂直方向角度Elevationは、それぞれ「10.0」および「4.9」とされている。これらの水平方向角度Azimuth「10.0」および垂直方向角度Elevation「4.9」は、式(7)により算出された水平方向角度φ’、および式(2)により算出された垂直方向角度θ’である。
図13に示す例では、全てのオブジェクトOBJ1乃至オブジェクトOBJ6の相対的な位置関係が、リマッピング前とリマッピング後とで略同じとなっている。
すなわち、オブジェクトOBJ1とオブジェクトOBJ2、オブジェクトOBJ3とオブジェクトOBJ4、およびオブジェクトOBJ5とオブジェクトOBJ6は、リマッピング後においてもそれらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称となっていることが分かる。
この例におけるリマッピング前とリマッピング後の各オブジェクトの位置関係を模式図で示すと、図14に示すようになる。なお、図14において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図14では、矢印A41および矢印A42により示される部分に、リファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。より詳細には、リファレンススクリーンRSC11は補正前のリファレンススクリーン情報により示される位置に配置されたものであり、オブジェクトOBJ1乃至オブジェクトOBJ6は、補正前のオブジェクト位置情報により示される位置に配置されたものである。
これに対して、矢印A43および矢印A44により示される部分に、再生スクリーンPSC11とリマッピング後のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。
この例では、矢印A41および矢印A42に示されるリファレンススクリーンRSC11の位置は、ユーザU11の背面方向に位置している。
また、矢印A43および矢印A44に示される部分では、リマッピング後のオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とが、原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称であることが分かる。つまり、リマッピング前後において、スクリーンの中心位置から見た各オブジェクトの位置関係が略同じであり、適切にリマッピングが行われていることが分かる。
以上のように水平方向角度φleft nominalや水平方向角度φright nominal、水平方向角度φの各角度の値域が-180°以上180°以下と規定されている場合には、図11を参照して説明したリマッピング処理のステップS11では、オフセット角算出部21は式(8)を計算することでオフセット角φoffset_valueを算出する。
また、ステップS12では、位置情報補正部22は、式(9)および式(10)の計算を行うことでリファレンススクリーン情報を補正し、式(11)の計算を行うことでオブジェクト位置情報を補正する。そしてステップS13では、オブジェクトリマッピング部23は、式(2)および式(7)を計算することで、リマッピングされたオブジェクトの位置を示すオブジェクト位置情報を算出する。
このように情報処理装置11によれば、水平方向角度φleft nominalや水平方向角度φright nominal、水平方向角度φの各角度の値域が-180°以上、180°以下と規定されている場合においても、適切なリマッピングを行うことができる。
〈第1の実施の形態の変形例2〉
〈リマッピングについて〉
なお、以上においては具体的な例として、再生スクリーンPSC11の中心位置が基準位置である例について説明したが、再生スクリーンPSC11の中心位置が基準位置にない場合にも、以下のように再生スクリーンのオフセット角を用いた補正を加えることで、適切なリマッピングを行うことができる。
なお、以下では、具体的に図15に示すリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合を例として説明を続ける。また、図15は図5に対応しており、図15において図5における場合と同様の部分については、適宜説明を省略する。
図15では、矢印Q41により示す部分には、リファレンススクリーンRSC11のリファレンススクリーン情報、およびオブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報が示されており、このリファレンススクリーン情報、およびオブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報は、図5に示したリファレンススクリーン情報、およびオブジェクトOBJ1乃至オブジェクトOBJ6のオブジェクト位置情報と同じとなっている。
また、矢印Q42により示す部分には再生スクリーン情報が示されている。
この例では、再生スクリーン情報により示される再生スクリーンPSC11の位置は、図2の例で示した位置を、水平方向角度Azimuthの方向に180°だけ回転させた位置となっている。つまり、図2の例では、再生スクリーンPSC11の中心位置が基準位置であったのに対して、図15に示す例では、再生スクリーンPSC11の中心位置が水平方向角度Azimuth=180°および垂直方向角度Elevation=0°の位置となっている。
このようなリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられ得る場合、オフセット角算出部21においてオフセット角φoffset_valueと共に、例えば次式(12)を計算することで、再生スクリーンオフセット角φrepro_offset_valueが算出される。
なお、式(12)においてφleft reproおよびφright reproは、再生スクリーンPSC11の左端の位置および右端の位置の水平方向角度Azimuthを示している。これらのφleft reproとφright reproは再生スクリーン情報に含まれる情報である。
また、位置情報補正部22において、上述のリファレンススクリーン情報の補正とオブジェクト位置情報の補正に加えて、再生スクリーンオフセット角φrepro_offset_valueに基づいて、再生スクリーンPSC11の中心位置が基準位置となるように、再生スクリーン情報が補正される。すなわち、次式(13)および式(14)の計算により、補正再生スクリーン情報が算出される。
なお、式(13)において、φleft reproは再生スクリーンPSC11の左端の位置の水平方向角度Azimuthを示しており、φoffset_left reproは水平方向角度φleft reproの再生スクリーンオフセット角φrepro_offset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φoffset_left reproは、補正後の再生スクリーンPSC11の左端の位置の水平方向角度Azimuthを示している。
また、式(14)において、φright reproは再生スクリーンPSC11の右端の位置の水平方向角度Azimuthを示しており、φoffset_right reproは水平方向角度φright reproの再生スクリーンオフセット角φrepro_offset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φoffset_right reproは、補正後の再生スクリーンPSC11の右端の位置の水平方向角度Azimuthを示している。
したがって、式(13)の計算により、再生スクリーン情報に含まれる水平方向角度φleft reproが補正され、式(14)の計算により、再生スクリーン情報に含まれる水平方向角度φright reproが補正されることになる。
このような補正再生スクリーン情報を算出する処理は、再生スクリーンオフセット角φrepro_offset_valueの分だけ、つまり基準位置に対する再生スクリーンPSC11の中心位置のずれの分だけ再生スクリーンPSC11を回転させる処理である。これにより、再生スクリーンPSC11の中心位置が基準位置となるように再生スクリーン情報が補正される。
なお、以下では、中心位置が基準位置となるように位置が補正された再生スクリーンPSC11を、特に補正再生スクリーンPSC11’とも称することとする。
以上のように、補正リファレンススクリーン情報および補正オブジェクト位置情報に加えて、補正再生スクリーン情報が得られると、オブジェクトリマッピング部23においてリマッピングが行われる。すなわち、補正再生スクリーンPSC11’の位置に合せて各オブジェクトの位置がリマッピングされる。
具体的には、オブジェクトリマッピング部23は、補正リファレンススクリーン情報、補正再生スクリーン情報、および補正オブジェクト位置情報に基づいて次式(15)を計算することで、リマッピング後のオブジェクト位置情報を算出する。
なお、式(15)において、φ’はオブジェクトのリマッピング後の水平方向位置を示す水平方向角度Azimuthを示しており、φoffsetはオブジェクトのリマッピング前の水平方向位置、つまり補正オブジェクト位置情報に含まれる水平方向角度Azimuthを示している。
また、式(15)において、φoffset_left nominalおよびφoffset_right nominalは、補正されたリファレンススクリーンRSC11の左端および右端の水平方向位置を示す水平方向角度Azimuthを示している。すなわち、φoffset_left nominalおよびφoffset_right nominalは、補正リファレンススクリーン情報に含まれる、リファレンススクリーンRSC11の左端および右端の水平方向角度Azimuthを示している。
そして、式(15)において、φoffset_left reproおよびφoffset_right reproは、補正再生スクリーンPSC11’の左端および右端の水平方向位置を示す水平方向角度Azimuthを示している。
ここで得られたリマッピング後のオブジェクト位置情報は、補正再生スクリーンPSC11’に対するものとなっている。すなわち、再生スクリーンPSC11の中心位置を基準位置とした場合のオブジェクト位置情報となる。しかし、実際には再生スクリーンPSC11は再生スクリーン情報に含まれるφleft reproおよびφright reproで示される位置にあり、再生スクリーンオフセット角φrepro_offset_valueだけ回転している。そこで、次式(16)の計算が行われて、リマッピング後のオブジェクト位置情報が、実際の再生スクリーンPSC11に対するものに補正される。
なお、式(16)において、φ’は補正再生スクリーンPSC11’に対して算出されたオブジェクトのリマッピング後のオブジェクト位置情報に含まれる水平方向角度Azimuthを示しており、φ’’は水平方向角度φ’の再生スクリーンオフセット角φrepro_offset_valueによる補正後の水平方向角度Azimuthを示している。すなわち、φ’’は、補正後のリマッピング後のオブジェクト位置情報に含まれる水平方向角度Azimuthを示している。
これにより、リマッピング後のオブジェクト位置が再生スクリーンPSC11の位置に合せて補正される。
例えば図15に示したリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報が与えられた場合に、以上において説明したリマッピングが行われると、リマッピング後のオブジェクト位置情報として図16に示すオブジェクト位置情報が得られる。
なお、図16では、「OBJ1」乃至「OBJ6」のそれぞれの欄には、オブジェクトOBJ1乃至オブジェクトOBJ6のそれぞれのリマッピングされたオブジェクト位置情報、すなわち各オブジェクトのリマッピング後の位置の水平方向角度Azimuthおよび垂直方向角度Elevationが示されている。
例えば文字「OBJ1」が記されたオブジェクトOBJ1の欄では、文字「Azimuth」および「Elevation」は、それぞれリマッピング後のオブジェクトOBJ1の水平方向および垂直方向の位置を示しており、それらの位置を示す水平方向角度Azimuthおよび垂直方向角度Elevationは、それぞれ「-170.0」および「4.9」とされている。これらの水平方向角度Azimuth「-170.0」および垂直方向角度Elevation「4.9」は、式(16)により算出された水平方向角度φ’’、および式(2)により算出された垂直方向角度θ’である。
図16に示す例では、全てのオブジェクトOBJ1乃至オブジェクトOBJ6の相対的な位置関係が、リマッピング前とリマッピング後とで略同じとなっている。
すなわち、オブジェクトOBJ1とオブジェクトOBJ2、オブジェクトOBJ3とオブジェクトOBJ4、およびオブジェクトOBJ5とオブジェクトOBJ6は、リマッピング後においてもそれらのオブジェクトが原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称となっていることが分かる。
この例におけるリマッピング前とリマッピング後の各オブジェクトの位置関係を模式図で示すと、図17に示すようになる。なお、図17において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図17では、矢印A51および矢印A52により示される部分に、リファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。より詳細には、リファレンススクリーンRSC11は補正前のリファレンススクリーン情報により示される位置に配置されたものであり、オブジェクトOBJ1乃至オブジェクトOBJ6は、補正前のオブジェクト位置情報により示される位置に配置されたものである。
これに対して、矢印A53および矢印A54により示される部分に、再生スクリーンPSC11とリマッピング後のオブジェクトOBJ1乃至オブジェクトOBJ6が示されている。
この例では、矢印A51および矢印A52に示されるリファレンススクリーンRSC11とリマッピング前のオブジェクトOBJ1乃至オブジェクトOBJ6の位置は、図7に示した例と同じ配置となっている。
また、矢印A53および矢印A54に示される部分では、リマッピング後のオブジェクトOBJ1、オブジェクトOBJ3、およびオブジェクトOBJ5と、オブジェクトOBJ2、オブジェクトOBJ4、およびオブジェクトOBJ6とが、原点Oと再生スクリーンPSC11の中心位置とを結ぶ線分に対して、水平方向において左右対称であることが分かる。つまり、リマッピング前後において、スクリーンの中心位置から見た各オブジェクトの位置関係が略同じであり、適切にリマッピングが行われていることが分かる。
〈情報処理装置の構成例〉
以上のような処理が行われる場合、情報処理装置11は、例えば図18に示すような構成とされる。なお、図18において図8における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図18に示す情報処理装置11は、オフセット角算出部21、位置情報補正部22、およびオブジェクトリマッピング部23を有している。
この例では、再生スクリーン情報がオフセット角算出部21および位置情報補正部22に供給される。
オフセット角算出部21は、オフセット角φoffset_valueを算出する他、供給された再生スクリーン情報に基づいて、再生空間にいるユーザU11の正面方向、つまり原点Oから基準位置へと向かう方向と、原点Oから再生スクリーンPSC11の中心位置へと向かう方向とのなす水平方向の角度を再生スクリーンオフセット角φrepro_offset_valueとして算出する。オフセット角算出部21から位置情報補正部22へは、これらのオフセット角φoffset_valueおよび再生スクリーンオフセット角φrepro_offset_valueが供給される。
再生スクリーンオフセット角φrepro_offset_valueは、水平方向角度Azimuth方向における、基準位置からの再生スクリーンPSC11の中心位置のずれ量を示す水平方向角度Azimuthである。すなわち、再生スクリーンオフセット角φrepro_offset_valueは、ユーザU11の正面方向にある基準位置からの再生スクリーンPSC11のオフセット量を示す情報である。なお、再生スクリーンPSC11のオフセット量を示す情報は、再生スクリーンオフセット角φrepro_offset_valueに限らず、どのような情報であってもよい。
位置情報補正部22は、補正により補正リファレンススクリーン情報および補正オブジェクト位置情報を求める他、補正再生スクリーン情報も求め、補正リファレンススクリーン情報、補正オブジェクト位置情報、補正再生スクリーン情報、および再生スクリーンオフセット角φrepro_offset_valueをオブジェクトリマッピング部23に供給する。
すなわち、位置情報補正部22は、オフセット角算出部21から供給された再生スクリーンオフセット角φrepro_offset_valueに基づいて、外部から供給された再生スクリーン情報を補正し、補正再生スクリーン情報を得る。
オブジェクトリマッピング部23は、位置情報補正部22から供給された補正リファレンススクリーン情報、補正オブジェクト位置情報、補正再生スクリーン情報、および再生スクリーンオフセット角φrepro_offset_valueに基づいて、オブジェクト位置情報、つまりオブジェクト位置のリマッピングを行い、その結果得られたオブジェクト位置情報を出力する。
〈リマッピング処理の説明〉
次に、図19のフローチャートを参照して、図18に示した情報処理装置11により行われるリマッピング処理について説明する。
ステップS41においてオフセット角算出部21は、供給されたリファレンススクリーン情報および再生スクリーン情報に基づいてオフセット角φoffset_valueおよび再生スクリーンオフセット角φrepro_offset_valueを算出し、位置情報補正部22に供給する。
具体的には、オフセット角算出部21は式(3)を計算することで、オフセット角φoffset_valueを算出する。また、オフセット角算出部21は式(12)を計算することで、再生スクリーンオフセット角φrepro_offset_valueを算出する。
ステップS42において位置情報補正部22は、オフセット角算出部21から供給されたオフセット角φoffset_valueおよび再生スクリーンオフセット角φrepro_offset_valueに基づいて、外部から供給されたリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報を補正する。
例えば位置情報補正部22は、図11のステップS12の処理と同様の処理を行ってリファレンススクリーン情報およびオブジェクト位置情報を補正し、補正リファレンススクリーン情報および補正オブジェクト位置情報を得る。
また、例えば位置情報補正部22は、再生スクリーンオフセット角φrepro_offset_valueに基づいて式(13)および式(14)の計算を行うことで再生スクリーン情報を補正し、補正再生スクリーン情報を得る。
位置情報補正部22は、このようにして得られた補正リファレンススクリーン情報、補正オブジェクト位置情報、および補正再生スクリーン情報と、再生スクリーンオフセット角φrepro_offset_valueとをオブジェクトリマッピング部23に供給する。
ステップS43においてオブジェクトリマッピング部23は、位置情報補正部22から供給された補正リファレンススクリーン情報、補正オブジェクト位置情報、補正再生スクリーン情報、および再生スクリーンオフセット角φrepro_offset_valueに基づいて、オブジェクト位置のリマッピングを行う。
例えばオブジェクトリマッピング部23は、式(2)、式(15)、および式(16)を計算することで、リマッピングされたオブジェクトの位置を示すオブジェクト位置情報を算出する。そして、オブジェクトリマッピング部23は、このようにして得られたオブジェクト位置情報を後段に出力し、リマッピング処理は終了する。
以上のようにして、情報処理装置11はリファレンススクリーン情報、オブジェクト位置情報、および再生スクリーン情報を補正してからリマッピングを行った後、再生スクリーン情報の補正分だけオブジェクト位置情報を補正する。このようにすることで、リファレンススクリーンRSC11や再生スクリーンPSC11の配置位置によらず、適切なリマッピングを行うことができる。
なお、第1の実施の形態と第1の実施の形態の変形例1では、水平方向角度についてオフセット角を算出し、そのオフセット角に基づいてリファレンススクリーン情報およびオブジェクト位置情報の各情報の水平方向角度を補正する例について説明した。しかし、水平方向角度だけでなく、垂直方向角度についても同様の処理を行って、リファレンススクリーン情報およびオブジェクト位置情報の各情報の垂直方向角度を補正するようにしてもよい。
そのような場合には、水平方向角度と同様にして垂直方向角度についてもオフセット角が算出され、算出されたオフセット角に基づいて、リファレンススクリーン情報およびオブジェクト位置情報の垂直方向角度が補正された後、リマッピングが行われる。
また、第1の実施の形態の変形例2においても同様にして、リファレンススクリーン情報やオブジェクト位置情報、再生スクリーン情報の各情報の垂直方向角度を補正するようにしてもよい。さらに第1の実施の形態の変形例2と第1の実施の形態の変形例1とを組み合わせるようにしてもよい。
さらに、以上においてはリファレンススクリーンRSC11に合わせてリファレンススクリーン情報およびオブジェクト位置情報を補正した後、その補正により得られた補正リファレンススクリーン情報および補正オブジェクト位置情報を用いてリマッピング後のオブジェクトの位置を示すオブジェクト位置情報を算出すると説明した。しかし、リファレンススクリーンRSC11に合わせてオブジェクト位置情報、つまりオブジェクトの位置のみを補正するようにしてもよい。
そのような場合、オフセット角が算出された後、そのオフセット角に基づいてオブジェクト位置情報が補正され、補正オブジェクト位置情報とされる。そして、その後、補正オブジェクト位置情報と、リファレンススクリーン情報と、再生スクリーン情報とに基づいて、オブジェクト位置のリマッピングが行われる。すなわち、リマッピング後のオブジェクトの位置を示すオブジェクト位置情報が算出される。
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図20は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、入力部506、出力部507、記録部508、通信部509、及びドライブ510が接続されている。
入力部506は、キーボード、マウス、マイクロホン、撮像素子などよりなる。出力部507は、ディスプレイ、スピーカなどよりなる。記録部508は、ハードディスクや不揮発性のメモリなどよりなる。通信部509は、ネットワークインターフェースなどよりなる。ドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブル記録媒体511を駆動する。
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505及びバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU501)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体511に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブル記録媒体511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、本技術は、以下の構成とすることも可能である。
(1)
ユーザの正面方向の基準位置からのリファレンススクリーンの位置のオフセット量を算出するオフセット算出部と、
前記オフセット量に基づいて、前記基準位置を基準としたオーディオオブジェクトの位置を、前記リファレンススクリーンの位置に合わせて補正する位置補正部と、
補正された前記オーディオオブジェクトの位置に基づいて、再生スクリーンの位置に合わせて前記オーディオオブジェクトの位置をリマッピングするリマッピング部と
を備える情報処理装置。
(2)
前記オフセット算出部は、前記リファレンススクリーンが前記ユーザの背面方向に位置する場合、所定の補正値で前記オフセット量を補正する
(1)に記載の情報処理装置。
(3)
前記位置補正部は、前記オーディオオブジェクトの位置を示す情報の値域が所定範囲の値域となるように定められている場合、前記オーディオオブジェクトの位置の補正時の補正値を調整する
(1)または(2)に記載の情報処理装置。
(4)
前記位置補正部は、前記オフセット量に基づいて、前記リファレンススクリーンの位置を補正し、
前記リマッピング部は、補正された前記リファレンススクリーンの位置、および補正された前記オーディオオブジェクトの位置に基づいて、前記オーディオオブジェクトの位置をリマッピングする
(1)乃至(3)の何れか一項に記載の情報処理装置。
(5)
ユーザの正面方向の基準位置からのリファレンススクリーンの位置のオフセット量を算出し、
前記オフセット量に基づいて、前記基準位置を基準としたオーディオオブジェクトの位置を、前記リファレンススクリーンの位置に合わせて補正し、
補正された前記オーディオオブジェクトの位置に基づいて、再生スクリーンの位置に合わせて前記オーディオオブジェクトの位置をリマッピングする
ステップを含む情報処理方法。
(6)
ユーザの正面方向の基準位置からのリファレンススクリーンの位置のオフセット量を算出し、
前記オフセット量に基づいて、前記基準位置を基準としたオーディオオブジェクトの位置を、前記リファレンススクリーンの位置に合わせて補正し、
補正された前記オーディオオブジェクトの位置に基づいて、再生スクリーンの位置に合わせて前記オーディオオブジェクトの位置をリマッピングする
ステップを含む処理をコンピュータに実行させるプログラム。