JP2023083539A - 情報処理装置および方法、並びにプログラム - Google Patents

情報処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP2023083539A
JP2023083539A JP2023070935A JP2023070935A JP2023083539A JP 2023083539 A JP2023083539 A JP 2023083539A JP 2023070935 A JP2023070935 A JP 2023070935A JP 2023070935 A JP2023070935 A JP 2023070935A JP 2023083539 A JP2023083539 A JP 2023083539A
Authority
JP
Japan
Prior art keywords
space
information
position information
child
parent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2023070935A
Other languages
English (en)
Other versions
JP7497767B2 (ja
Inventor
光行 畠中
Mitsuyuki Hatanaka
徹 知念
Toru Chinen
実 辻
Minoru Tsuji
弘幸 本間
Hiroyuki Honma
優樹 山本
Yuki Yamamoto
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Publication of JP2023083539A publication Critical patent/JP2023083539A/ja
Application granted granted Critical
Publication of JP7497767B2 publication Critical patent/JP7497767B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032Quantisation or dequantisation of spectral components
    • G10L19/035Scalar quantisation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/167Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Mathematical Physics (AREA)
  • Quality & Reliability (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】符号量を削減することができるようにする。【解決手段】情報処理装置は、親空間内に含まれる子空間の親空間内における位置と大きさに関する空間情報と、子空間に含まれるオブジェクトの子空間内における位置を示す子空間内位置情報とを取得する取得部と、空間情報および子空間内位置情報に基づいて、親空間内におけるオブジェクトの位置を示す親空間内位置情報を算出する算出部とを備える。本技術は信号処理装置に適用することができる。【選択図】図2

Description

本技術は、情報処理装置および方法、並びにプログラムに関し、特に、符号量を削減することができるようにした情報処理装置および方法、並びにプログラムに関する。
従来の固定視点向け3D Audioとして規格化されたMPEG(Moving Picture Experts Group)-H符号化規格は、受聴者の位置を原点とし、その周りの空間内をオーディオオブジェクトが移動するという考え方に基づいている(例えば、非特許文献1参照)。
これに対して、受聴者が空間上を自由に移動することができる、つまり受聴者の視点位置(受聴位置)を自由に移動させることができる自由視点に関する技術も提案されている。
ISO/IEC 23008-3 Information technology - High efficiency coding and media delivery in heterogeneous environments - Part 3: 3D audio
例えば自由視点向けオーディオ再生において、空間内に存在する各々のオブジェクトの位置を伝送する場合、全てのオブジェクトが含まれる空間全体に対する位置情報の符号化が行われている。すなわち、空間全体を含む座標系におけるオブジェクトの位置情報が符号化される。
しかし、空間全体におけるオブジェクトの存在箇所には偏りがあり、オブジェクトが空間内の特定の領域に集中していることもある。そのような場合、空間全体に対してオブジェクトの位置情報の正規化および符号化を行うと、実際にはオブジェクトが存在しない領域までを表現するための情報量(符号量)が必要となり、結果として伝送符号量が多くなってしまう。
本技術は、このような状況に鑑みてなされたものであり、符号量を削減することができるようにするものである。
本技術の一側面の情報処理装置は、親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得する取得部と、前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報を算出する算出部とを備える。
本技術の一側面の情報処理方法またはプログラムは、親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得し、前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報を算出するステップを含む。
本技術の一側面においては、親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とが取得され、前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報が算出される。
本技術の一側面によれば、符号量を削減することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載された何れかの効果であってもよい。
親空間と子空間について説明する図である。 親空間と子空間の座標系について説明する図である。 量子化について説明する図である。 分割インデックスと分割数の例を示す図である。 子空間内位置情報の量子化例を示す図である。 使用ビット数の差について説明する図である。 エンコーダの構成例を示す図である。 符号化処理を説明するフローチャートである。 デコーダの構成例を示す図である。 復号処理を説明するフローチャートである。 ヘッダ情報の例を示す図である。 子空間情報の例を示す図である。 初回量子化位置情報送信要求の例を示す図である。 初回量子化位置情報の例を示す図である。 追加ビット情報送信要求の例を示す図である。 追加ビット情報の例を示す図である。 コンテンツ再生システムの構成例を示す図である。 絶対座標位置情報エンコーダの構成例を示す図である。 サーバの構成例を示す図である。 クライアントの構成例を示す図である。 符号化処理およびファイル保存処理を説明するフローチャートである。 位置情報取得処理および位置情報送信処理を説明するフローチャートである。 追加ビット情報取得処理および追加ビット情報送信処理を説明するフローチャートである。 子空間の例を示す図である。 子空間の例を示す図である。 ヘッダ情報の例を示す図である。 子空間情報の例を示す図である。 フレームのスキップについて説明する図である。 初回量子化位置情報送信要求の例を示す図である。 初回量子化位置情報の例を示す図である。 位置情報取得処理および位置情報送信処理を説明するフローチャートである。 コンピュータの構成例を示す図である。
以下、図面を参照して、本技術を適用した実施の形態について説明する。
〈第1の実施の形態〉
〈本技術について〉
本技術は、所定の空間内に存在するオブジェクトの位置情報を、その空間よりも小さい子空間内の位置情報に変換し、変換後の位置情報を量子化することで符号量を削減することができるようにするものである。
特に、本技術は、以下の特徴T(1)乃至特徴T(4)を有している。
特徴T(1)
全体空間(親空間)から符号化対象となるオブジェクトの存在範囲を包含するスケーリングされた空間(子空間)を形成する
特徴T(2)
親空間から子空間へのスケーリング変換を行ってから符号化および復号を行い、復号された子空間のオブジェクトの位置情報に対して子空間から親空間への逆スケーリング変換を行い、親空間上に復元する
特徴T(3)
複数の異なる空間を子空間として配置し、受聴者が所望の子空間を選択的に受信、再生する
特徴T(4)
復号側は伝送されたスキップフレーム情報と補間情報をもとに現在の再生位置からスキップフレーム先の一つ手前のフレームまで補間されたオブジェクトの位置情報を生成する
なお、本技術において符号化対象となるオブジェクトの位置情報は、オーディオオブジェクトの位置を示す位置情報に限らず、画像上や仮想的な空間内のビデオオブジェクトの位置を示す位置情報など、どのようなものであってもよい。以下では、オーディオオブジェクトの位置情報を符号化および復号する例について説明を行う。
それでは、以下、本技術についてより詳細に説明する。
まず、図1の矢印Q11に示すような3次元絶対座標系の全体空間である親空間PA11内に局所的に集中したオブジェクト群の領域がある場合について考える。なお、図1において各円はオブジェクト(オーディオオブジェクト)を表している。
ここでは親空間PA11は絶対座標により表される空間であり、親空間PA11内の位置は絶対座標により表される。換言すれば、親空間PA11は絶対座標系の座標空間である。なお、親空間は、例えば極座標系などの絶対座標系とは異なる他の座標系の座標空間であってもよいが、以下では親空間が絶対座標系の座標空間である場合を例として説明を続ける。
例えば親空間PA11内にあるオブジェクトの位置を表現する場合、親空間PA11内にある3次元絶対座標系の原点Oから見たオブジェクトの位置を3次元の絶対座標で表すのが一般的である。
これに対して本技術では、符号化側の装置、すなわちエンコーダは親空間PA11内におけるオブジェクトの分布状況を検知し、その検知結果に応じて局所的に集中したオブジェクト群を包囲する小空間を子空間とする。この例では、例えば矢印Q12に示すように複数のオブジェクトが含まれる、スケーリングされた小空間が子空間CA11とされている。
ここでは親空間PA11内に含まれている子空間CA11は絶対座標により表される空間であり、本技術では子空間CA11内の位置を絶対座標により表すこととする。換言すれば、子空間CA11は絶対座標系の座標空間である。なお、子空間は、例えば極座標系などの絶対座標系とは異なる他の座標系の座標空間であってもよいが、以下では子空間が絶対座標系の座標空間である場合を例として説明を続ける。
本技術では、親空間PA11内のオブジェクトの位置を親空間PA11の絶対座標系の座標で表現するのではなく、親空間PA11内における子空間CA11の位置と大きさに関する子空間情報と、子空間CA11の絶対座標系におけるオブジェクトの位置の座標とで表現する。
ここで、図2を参照して親空間PA11の座標系と子空間CA11の座標系について説明する。なお、図2において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
例えば図2では矢印Q21に示すように、親空間PA11はMPEG-Hで扱われている立方体の中心を原点Oとし、x軸、y軸、およびz軸の合計3つの軸からなる絶対座標系の座標空間である。
親空間PA11では各軸方向の位置を表現するのには、原点Oから端までの間の位置を表現するための0から1までの正規化値と、正負の符号情報とが必要になる。つまり、x軸方向、y軸方向、およびz軸方向の各方向の位置を示すx座標、y座標、およびz座標は、それぞれ-1から1までの値となる。
以下では、原点Oを基準とした親空間PA11の絶対座標系をxyz座標系とも称し、xyz座標系における位置を示す座標を(x,y,z)と記すこととする。
また、親空間PA11では、例えばx座標が0である位置から、x座標が1である位置までの実際の長さ(距離)が、後述する親空間PA11の絶対距離absoluteDistanceとなる。例えば絶対距離absoluteDistanceはメートルを単位として記述される。
これに対して、矢印Q22に示すように子空間CA11の絶対座標系の座標表現では、位置情報の符号化を容易にするという観点から正負の符号は用いられないようにされている。
ここでは子空間CA11は立方体または直方体の形状とされている。また、子空間CA11の絶対座標系は、親空間PA11の位置(-1,-1,-1)に相当する子空間CA11の頂点を原点O’とし、各辺は0から1までの正規化値を用いたものとされている。
すなわち、子空間CA11は、子空間CA11の図中、左下の頂点を原点O’とし、X軸、Y軸、およびZ軸の合計3つの軸からなる絶対座標系の座標空間である。
以下では、原点O’を基準とした子空間CA11の絶対座標系をXYZ座標系とも称し、XYZ座標系における位置を示す座標を(X,Y,Z)と記すこととする。特に、ここではX,Y,Zの座標値は、0から1までの間の値となる。
なお、ここではXYZ座標系の各軸方向の座標値は0以上の値となる場合について説明するが、各軸方向の座標値が負の値もとり得るようにしてもよい。また、子空間CA11の形状は立方体や直方体に限らず、どのような形状であってもよい。
図2に示す例では、親空間PA11内における子空間CA11の原点O’の位置を示すxyz座標系の座標は(x0,y0,z0)となっており、子空間CA11の原点O’の対角頂点の位置を示すxyz座標系の座標は(x1,y1,z1)となっている。
なお、以下ではxyz座標系におけるオブジェクトの位置、つまり親空間内におけるオブジェクトの位置を示す情報を親空間内位置情報とも称する。また、以下、XYZ座標系におけるオブジェクトの位置、つまり子空間内におけるオブジェクトの位置を示す情報を子空間内位置情報とも称する。
ところで、例えばオブジェクトの位置を示す位置情報を符号化する場合、入力されるオブジェクトの位置を示す情報は、親空間内における位置を示す親空間内位置情報となっている。そこで、本技術では、親空間から子空間、すなわち親空間内位置情報から子空間内位置情報への座標変換(スケーリング変換)が行われる。
いま、親空間内にあるi番目の子空間を示すインデックスをiとし、親空間内位置情報である座標(x,y,z)を、i番目の子空間の子空間内位置情報である座標(X,Y,Z)へと座標変換することとすると、その変換式は次式(1)に示すようになる。
Figure 2023083539000002
但し、式(1)において0≦X≦1,0≦Y≦1,0≦Z≦1である。また、式(1)におけるa_x[i]、b_x[i]、a_y[i]、b_y[i]、a_z[i]、およびb_z[i]はi番目の子空間のスケーリング変換係数であり、次式(2)に示される。
Figure 2023083539000003
なお、式(2)においてx0[i]、y0[i]、およびz0[i]はi番目の子空間の原点O’の位置を示すxyz座標系のx座標、y座標、およびz座標を示しており、上述した(x0,y0,z0)に対応する。また、x1[i]、y1[i]、およびz1[i]は、i番目の子空間の原点O’に対する対角頂点の位置を示すxyz座標系のx座標、y座標、およびz座標を示しており、上述した(x1,y1,z1)に対応する。
したがって、ここでは座標変換として座標系の軸ごとに1次関数を用いた関数変換が行われている。そして、その1次関数のパラメータとして各軸についての1次関数の傾きa_x[i]、a_y[i]、およびa_z[i]と、1次関数の切片b_x[i]、b_y[i]、およびb_z[i]とが用いられている。
例えば本技術では、これらの合計6個のパラメータが、親空間内における子空間の位置と大きさに関する子空間情報として用いられるようにすることができる。これらの1次関数のパラメータは、子空間の原点O’の座標(x0,y0,z0)、および対角頂点の座標(x1,y1,z1)から得られるものであるので、実質的に親空間内における子空間の位置と大きさを示す情報であるということができる。
なお、ビットストリームから親空間内における子空間の位置を示す情報を直接取得したい場合には、子空間情報として式(2)に示した1次関数のパラメータに代えて、親空間内における子空間の原点O’の座標(x0,y0,z0)と、その原点O’に対する子空間の対角頂点の座標(x1,y1,z1)を子空間情報としてそのまま伝送してもよい。
但し、子空間の基準となる頂点である原点O’の座標(x0,y0,z0)と対角頂点の座標(x1,y1,z1)を子空間情報として伝送する場合と比較して、1次関数のパラメータを子空間情報として伝送する方が、復号側における演算量は少なくて済む。
また、オブジェクト群が親空間内の複数個所に存在する場合には1つの親空間に対して複数の子空間を形成するようにしてもよい。
このように符号化対象のオブジェクトが存在する範囲に限定した子空間に合わせて、オブジェクトの位置情報を正規化することは、既存のオーディオ符号化のスペクトルの大きさに合わせたスケールファクタの適用と似た関係となる。
子空間の位置や大きさ、形状の決定はエンコーダに委ねられるが、子空間は対象となるオブジェクトが全て含まれ、かつ最も空間の容積が小さいものとなることが望ましい。
以上の座標変換により子空間内位置情報である座標(X,Y,Z)が得られると、その子空間内位置情報が所定の量子化精度で量子化されて量子化位置情報とされる。
量子化処理では、例えば図3に示すように子空間の一辺、つまり1つの軸方向の辺が0から1に正規化され、一辺に対する2のべき乗の分割された領域の中央値が量子化後の値とされる。なお、図3では説明を簡単にするため、子空間がX軸方向とY軸方向の2次元であるものとされている。
例えば子空間の各軸方向の範囲、つまり各軸の座標の範囲は0から1までであるが、この範囲を図中、右側に示すように2n(但し0≦n)個に分割し、分割後の各範囲の中央値が量子化後の値としてとりうる代表値とされる。
以下では、各軸方向の範囲を2n個に分割するときのn(指数部)の値を特に分割インデックスと称することとする。この分割インデックスは、2のべき乗で各軸方向の範囲を何分割するかを示すものである。
例えば図3に示す例では、分割インデックスの値が0である場合には、各軸方向の範囲が0個に分割される、つまり実質的には分割されないため、子空間内位置情報である座標(X,Y,Z)は(0.5,0.5,0.5)とされる。
また、例えば分割インデックスの値が1である場合には、各軸方向の範囲が2個に分割されるため、子空間内位置情報の各軸の座標は、0.25または0.75の何れかの値とされる。なお、図3では、くさび印の位置が量子化後の代表値を表している。
このように量子化を行う場合、2のべき乗値、つまり分割インデックスにより定まる分割数が多いほど、量子化精度が高くなる。
ここで、図4に分割インデックスが0から10である場合における、その分割インデックスに対応する各軸方向の範囲の分割数を示す。図4では、例えば分割インデックスの値が0である場合には分割数は0であり、分割インデックスの値が10である場合には分割数は512となっている。
次に、子空間内位置情報を最も高精度に量子化するための分割インデックス、つまり最も小さい量子化ステップ幅で量子化するための分割インデックスは、次式(3)に示すようになる。但し、ここでは受聴者からオブジェクトまでの最小距離MinDist以下は量子化しないルールが適用されているものとする。最小距離MinDistは、受聴者からオブジェクトまでの距離としてとり得る最小の距離であり、最小距離MinDistは、例えば受聴者の頭部の大きさが考慮されて、受聴者とオブジェクトとが重ならないように定められる。
Figure 2023083539000004
なお、式(3)においてmax_exp_index_X、max_exp_index_Y、max_exp_index_Zは、それぞれ最も高い精度で量子化するためのX軸(X方向)、Y軸(Y方向)、およびZ軸(Z方向)の分割インデックス(以下、最高精度分割インデックスとも称する)を示している。また、式(3)においてINT()は、引数の整数部を出力するINT関数を示しており、「^」はべき乗を示している。
さらに、式(3)において、absoluteDistanceX、absoluteDistanceY、およびabsoluteDistanceZは、子空間のX軸方向、Y軸方向、およびZ軸方向の各方向の辺の実際の距離(絶対距離)を示しており、これらの絶対距離は例えばメートル(m)を単位とするものである。同様に、受聴者からのオブジェクトまでの最小距離MinDistも例えばメートル(m)を単位とするものであり、この最小距離MinDistは一般的なユーザの頭の大きさなどの予め定められた値とされる。
式(3)により最高精度分割インデックスが求まると、子空間のXYZ座標系の各軸に対する量子化ステップ幅が以下の式(4)により求まる。
Figure 2023083539000005
なお、式(4)においてstep_encX、step_encY、およびstep_encZは、XYZ座標系のX軸、Y軸、およびZ軸に対する量子化ステップ幅を示しており、「^」はべき乗を示している。
さらに、このようにして求めた量子化ステップ幅を用いて次式(5)を計算することで、子空間内のオブジェクトの子空間内位置情報(X,Y,Z)を最も高い精度で量子化して得られる量子化位置情報のX座標、Y座標、およびZ座標であるQpx_high[i]、Qpy_high[i]、およびQpz_high[i]が求まる。なお、式(5)においてiは子空間を示すインデックスである。
Figure 2023083539000006
なお、以下では、子空間内位置情報を量子化して得られた量子化位置情報のうち、特に最高精度分割インデックスに基づいて量子化することで得られた量子化位置情報を最高精度量子化位置情報とも称することとする。
また、ここでは最も高い量子化精度における各軸方向の領域の分割数の決定方法について受聴者からオブジェクトまでの最小距離MinDistを基準として用いたが、他の基準を用いてもよい。
さらに、最高精度分割インデックスは子空間の絶対距離が小さい場合など、分割数を多く必要としない場合があるため、空間の絶対距離に応じて上限の分割インデックスを定めて分割数を制限すれば不要なビット数を削減することができる。
その他、子空間内位置情報の量子化値、つまり量子化位置情報の値は、2のべき乗の分割数での除算を行うことで得られたものとなっている。そのため、最高精度量子化位置情報のMSB(Most Significant Bit)側、つまり最上位ビット側から必要なビット数を取り出すことで、任意の量子化精度の量子化位置情報を得ることができる。
すなわち、例えば子空間内位置情報の所定の軸の座標値「0.2」を各量子化精度、つまり各分割数で量子化した場合における量子化位置情報を図5に示す。
図5において文字「分割インデックス」、「1象限の1辺の分割数」、「量子化ステップ幅」は、上述した分割インデックス、1つの軸方向の範囲の分割数、および量子化時の量子化ステップ幅を示している。
また「量子化値」、「ビット表記」、および「伝送bit数」は量子化位置情報(整数値)の1つの軸方向の座標値、量子化位置情報の1つの軸方向の座標値のビット表記、および量子化位置情報の1つの軸方向の座標値のビット数を示している。さらに「デコード値」および「真値との誤差」は、量子化位置情報を復号して得られる子空間内位置情報の1つの軸方向の座標値、および復号後の子空間内位置情報の1つの軸方向の座標値と、量子化前の子空間内位置情報の1つの軸方向の座標値との誤差を示している。
ここでは、例えば最高精度分割インデックスが「11」であるとすると、その最高精度分割インデックスで量子化を行ったときの量子化値のビット表記は「00110011001」となる。
また、例えば最高精度分割インデックスよりも少ない分割数、つまりより量子化精度が低い分割インデックス「10」で量子化を行ったときの量子化値のビット表記は「0011001100」となる。
したがって、最高精度量子化位置情報の量子化値「00110011001」の最上位ビット側から、分割インデックス「10」により示されるビット数(10ビット)分だけビットを抽出すると、その分割インデックス「10」に対応する量子化値「0011001100」が得られることが分かる。
すなわち、最高精度量子化位置情報の最上位ビット側から分割インデックスに対応するビット数分だけ最高精度量子化位置情報のビットを抽出することで、任意の分割インデックス、つまり任意の量子化精度の量子化位置情報を得ることができる。
以上のように子空間の決定、親空間内位置情報の子空間内位置情報への座標変換、および子空間内位置情報の量子化を行う処理が親空間内位置情報の符号化処理として行われる。
次に、量子化位置情報の復号について説明する。量子化位置情報の逆量子化と、その逆量子化により得られた子空間内位置情報の親空間内位置情報への逆変換が復号処理として行われる。
例えば量子化位置情報のX座標、Y座標、およびZ座標をQpx_dec、Qpy_dec、およびQpz_decとし、X座標、Y座標、およびZ座標の分割インデックスをexp_index_fin_X、exp_index_fin_Y、およびexp_index_fin_Zとする。特に子空間を示すインデックスをiとして、その子空間についての分割インデックスexp_index_fin_X、exp_index_fin_Y、およびexp_index_fin_Zを、分割インデックスexp_index_fin_X[i]、exp_index_fin_Y[i]、およびexp_index_fin_Z[i]と記すこととする。
また、量子化位置情報を逆量子化して得られる子空間内位置情報(以下、特に復号子空間内位置情報とも称する)のX座標、Y座標、およびZ座標をXdec、Ydec、およびZdecとする。
この場合、逆量子化では次式(6)の計算が行われて復号子空間内位置情報が求められる。なお、式(6)においてiはオブジェクトが属す子空間を示すインデックスであり、「^」はべき乗を示している。
Figure 2023083539000007
続いて、このようにして得られた復号子空間内位置情報の座標(Xdec,Ydec,Zdec)に対して、次式(7)に示す逆スケーリング変換を行うと、もとの親空間内位置情報の座標(xdec,ydec,zdec)を得ることができる。この式(7)の計算は、上述した式(1)の逆変換である。なお、式(7)においてiはオブジェクトが属す子空間を示すインデックスである。
Figure 2023083539000008
また、式(7)においてa’_x[i]、b’_x[i]、a’_y[i]、b’_y[i]、a’_z[i]、およびb’_z[i]はi番目の子空間から親空間への逆スケーリング変換係数であり、子空間情報としてのa_x[i]、b_x[i]、a_y[i]、b_y[i]、a_z[i]、およびb_z[i]を用いて次式(8)により表される。
Figure 2023083539000009
以上の復号処理により、親空間内でのオブジェクトの位置を示す親空間内位置情報として座標(xdec,ydec,zdec)が得られる。なお、以下、復号処理により得られた親空間内位置情報を、適宜、復号親空間内位置情報とも称することとする。
本技術のように親空間内位置情報を子空間内位置情報に変換してから量子化を行うことで、親空間内位置情報をそのまま量子化する場合と比較して、量子化位置情報の符号量を少なくすることができる。換言すれば、オブジェクトの位置情報の伝送符号量を削減することができる。
具体的には、例えば図6に示すように親空間PA11内の一部の領域に複数のオブジェクトが集中して存在しており、子空間CA11を形成してオブジェクトの位置情報を符号化することを考える。なお、図6において図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図6に示す例では、各円は1つのオブジェクトを表しており、立方体である親空間PA11の一辺の長さは128mとなっている。この親空間PA11に対して、親空間PA11内に含まれる立方体の子空間CA11が形成されており、子空間CA11の一辺の長さは10mとなっている。
このような場合、例えば親空間内位置情報の真値に対して位置の精度を0.2m以下とするために必要な座標系の1軸あたりの符号化ビット数は、親空間PA11で9ビット、子空間CA11で5ビットとなる。つまり、座標空間の一辺が128mであれば9ビット、座標空間の一辺が10mであれば5ビットが必要となる。
したがって、各座標空間の座標は3つの軸があるので、例えば親空間内位置情報をそのまま量子化する場合には量子化位置情報のビット数として27ビット必要となるのに対して、子空間内位置情報を量子化する場合には、同じ精度の情報を得るのに量子化位置情報のビット数として15ビットで済むことになる。このように1つのオブジェクトで12ビット削減することができる。
但し、子空間内位置情報を量子化する場合には、その子空間CA11の位置と大きさに関する子空間情報が必要となるが、子空間情報は、例えば1次関数のパラメータが1つで32ビットであるとすると合計で32×6=192ビットとなる。また、時間方向において子空間の位置や大きさが変化しない場合には、フレームごとに子空間情報を伝送する必要がない。
このように子空間CA11内に含まれるオブジェクトの数が多くなるほど削減できるビット数は大きくなるので、オブジェクト数が多い場合には、親空間内位置情報をそのまま量子化するよりも子空間内位置情報を量子化した方が少ない符号量(ビット数)でオブジェクトの位置情報を伝送することができる。
〈エンコーダの構成例〉
続いて、以上において説明した本技術のより具体的な実施の形態について説明する。
図7は、本技術を適用したエンコーダの一実施の形態の構成例を示す図である。
図7に示すエンコーダ11は、取得部21、符号化部22、および通信部23を有している。
取得部21は、外部の装置等から符号化対象となるオブジェクトの数を示すオブジェクト数、親空間の絶対距離absoluteDistance、および各オブジェクトの親空間内位置情報を取得して符号化部22に供給する。
符号化部22は、取得部21から供給されたオブジェクト数や、親空間の絶対距離absoluteDistance、オブジェクトの親空間内位置情報に基づいて、各オブジェクトの親空間内位置情報を符号化し、その結果得られた符号化データを通信部23に供給する。
符号化部22は、子空間決定部31、変換部32、および量子化部33を有している。
子空間決定部31は、各オブジェクトの親空間内位置情報に基づいて子空間を決定する。変換部32は、子空間決定部31による子空間の決定結果に基づいて、各オブジェクトの親空間内位置情報を子空間内位置情報に変換する。量子化部33は、子空間内位置情報を量子化する。
通信部23は、符号化部22から供給された符号化データを送信する。
〈エンコーダによる符号化処理の説明〉
次に、エンコーダ11の動作について説明する。すなわち、以下、図8のフローチャートを参照して、エンコーダ11による符号化処理について説明する。
ステップS11において、取得部21はオブジェクト数、親空間の絶対距離absoluteDistance、および各オブジェクトの親空間内位置情報を取得して符号化部22に供給する。
ステップS12において子空間決定部31は、取得部21から供給された各オブジェクトの親空間内位置情報に基づいて子空間を決定する。
例えばステップS12では、親空間内に存在する全てのオブジェクトを含み、かつ最も容積が小さくなる立方体の領域(空間)が子空間とされる。なお、例えば複数のオブジェクト群間の距離が所定の距離以上離れている場合などにおいては、複数のオブジェクト群ごとに子空間が決定されるようにしてもよい。
ステップS13において変換部32は、取得部21から供給された各オブジェクトの親空間内位置情報を子空間内位置情報に変換する。
例えばステップS13では、上述した式(1)の計算が行われて座標変換により子空間内位置情報が算出される。なお、式(1)の計算に用いられる1次関数のパラメータは、子空間の決定結果、すなわち親空間内における子空間の原点O’の座標と、その原点O’に対する子空間の対角頂点の座標とから式(2)により得ることができる。
ステップS14において量子化部33は、分割インデックスを決定する。
例えばステップS14では、予め定められた最小距離MinDistと、子空間の決定結果および絶対距離absoluteDistanceから求まる絶対距離absoluteDistanceX、absoluteDistanceY、およびabsoluteDistanceZとに基づいて上述した式(3)の計算が行われ、最高精度分割インデックスが求められる。
そして最高精度分割インデックスに基づいて、必要な量子化精度に対応する分割インデックスが決定される。ここでは、最高精度分割インデックスが、そのまま量子化に用いる分割インデックスとされてもよいし、最高精度分割インデックスよりも小さい値の分割インデックスが量子化に用いる分割インデックスとされてもよい。
なお、分割インデックスは、各オブジェクトについて子空間のXYZ座標系の軸ごとに決定されるようにすることができる。
ステップS15において量子化部33は、ステップS14で決定した分割インデックスに基づいて、上述した式(4)と同様の計算を行うことにより量子化ステップ幅を求める。
ステップS16において量子化部33は、ステップS13で得られた各オブジェクトの子空間内位置情報を量子化する。
例えばステップS16では、ステップS15で求められた量子化ステップ幅が用いられて上述した式(5)と同様の計算が行われ、親空間内位置情報の各軸の座標の量子化が行われる。すなわち各軸の座標成分ごとに量子化が行われる。これにより、各オブジェクトの量子化位置情報が得られる。
以上のステップS12乃至ステップS16の処理が親空間内位置情報を符号化する処理として行われる。なお、ここでは全てのオブジェクトの親空間内位置情報が子空間内位置情報に変換されて量子化されると説明したが、一部の親空間内位置情報のみが子空間内位置情報に変換されて量子化され、残りの一部の親空間内位置情報はそのまま量子化されるようにしてもよい。そのような場合、例えば他の全てのオブジェクトとの間の距離が所定の距離以上であり、近くに他のオブジェクトが存在しないオブジェクトについては、親空間内位置情報がそのまま量子化されるようにしてもよい。
ステップS17において符号化部22は、ステップS16で得られた量子化位置情報、ステップS11で取得されたオブジェクト数と絶対距離absoluteDistance、ステップS12における子空間の決定結果から得られる子空間情報と各オブジェクトが属す子空間を示す情報(以下、オブジェクト所属情報とも称する)、およびステップS14で決定された分割インデックスを含む符号化データを生成する。
符号化部22は、得られた符号化データを通信部23に供給する。
ステップS18において通信部23は、符号化部22から供給された符号化データを送信し、符号化処理は終了する。
以上のようにしてエンコーダ11は、親空間内位置情報を座標変換により子空間内位置情報へと変換するとともに、子空間内位置情報を量子化し、符号化データを生成する。このようにすることで、親空間内位置情報をそのまま符号化(量子化)する場合と比較して量子化位置情報の符号量を削減することができる。
〈デコーダの構成例〉
また、エンコーダ11から出力された符号化データは、直接、または他の装置や記録媒体を介してデコーダに供給され、復号される。
ここで、エンコーダ11により出力された符号化データを復号するデコーダについて説明する。図9は本技術を適用したデコーダの一実施の形態の構成例を示すものである。
図9に示すデコーダ61は、取得部71、復号部72、および出力部73を有している。
取得部71は、エンコーダ11により送信された符号化データを受信したり、他の装置から符号化データを取得したり、記録媒体から符号化データを読み出したりすることで符号化データを取得し、復号部72に供給する。
復号部72は、取得部71から供給された符号化データをアンパッキングするとともに、符号化データから抽出された量子化位置情報を復号し、各オブジェクトの親空間内位置情報を得る。復号部72は逆量子化部81および変換部82を有している。
逆量子化部81は、各オブジェクトの量子化位置情報を逆量子化し、子空間内位置情報を算出する。変換部82は、符号化データから抽出された子空間情報を用いて子空間内位置情報を親空間内位置情報に変換する。さらに変換部82は、親空間内位置情報に符号化データから抽出された絶対距離absoluteDistanceを乗算することで、親空間内における、正規化されていない絶対的なオブジェクトの位置を算出し、その結果得られた位置情報を出力部73に供給する。
このような逆量子化部81と変換部82を有する復号部72は、空間情報と、量子化された子空間内位置情報である量子化位置情報とに基づいて、親空間内におけるオブジェクトの位置を示す親空間内位置情報を算出する算出部として機能する。
出力部73は、復号部72から供給された親空間内におけるオブジェクトの位置を示す位置情報を後段に出力する。
〈デコーダによる復号処理の説明〉
次にデコーダ61の動作について説明する。すなわち、以下、図10のフローチャートを参照してデコーダ61による復号処理について説明する。
ステップS41において取得部71は符号化データを取得して復号部72に供給する。復号部72は、取得部71から供給された符号化データをアンパッキングし、各オブジェクトの量子化位置情報、オブジェクト数、絶対距離absoluteDistance、子空間情報、オブジェクト所属情報、および分割インデックスを抽出する。
ステップS42において逆量子化部81は、各オブジェクトの量子化位置情報について、量子化位置情報と分割インデックスとに基づいて上述した式(6)を計算することで、量子化位置情報を逆量子化する。これにより、子空間内位置情報(復号子空間内位置情報)が得られる。
ステップS43において変換部82は、各オブジェクトについて、ステップS42で得られた子空間内位置情報と、子空間情報とに基づいて逆スケーリング変換を行い、子空間内位置情報を親空間内位置情報に変換する。
例えばステップS43では上述した式(8)により子空間情報としての1次関数のパラメータから逆スケーリング変換係数が求められ、さらに逆スケーリング変換係数と、復号子空間内位置情報とに基づいて式(7)の計算が行われ、復号親空間内位置情報が算出される。
変換部82は、このようにして各オブジェクトの復号親空間内位置情報が得られると、それらの復号親空間内位置情報に絶対距離absoluteDistanceを乗算することで、親空間内におけるオブジェクトの位置を示す位置情報を求め、出力部73に供給する。
このとき、変換部82は、必要に応じてオブジェクト数やオブジェクト所属情報も出力部73に供給し、出力部73は変換部82から供給されたオブジェクトの位置情報やオブジェクト数、オブジェクト所属情報を後段に出力する。
以上のステップS42およびステップS43の処理が、量子化位置情報を復号して親空間内位置情報を得る処理となる。このようにしてオブジェクトの位置情報が出力されると、復号処理は終了する。
以上のようにしてデコーダ61は量子化位置情報を逆量子化し、その結果得られた子空間内位置情報を親空間内位置情報へと変換する。このようにすることで、親空間内位置情報がそのまま符号化(量子化)される場合と比較して、オブジェクトの位置を示す情報の符号量を削減することができる。
〈第2の実施の形態〉
〈コンテンツの配信について〉
ところで、本技術は少なくともオーディオオブジェクトのオーディオデータを含む自由視点のコンテンツの配置にも利用することができる。この場合、例えばサーバからクライアントに対して、コンテンツとしてのオーディオデータと、コンテンツの補助情報としてのオーディオオブジェクト(オブジェクト)の位置情報とが送信される。
このようにサーバからクライアントに対してコンテンツの補助情報として、オブジェクトの位置を示す量子化位置情報が送信される場合、サーバは量子化位置情報として、上述の最高精度量子化位置情報を予め保持しておくようにすることができる。
そうすればクライアント側、すなわち受聴者側の条件等に応じて、サーバが最高精度量子化位置情報から任意の量子化精度の量子化位置情報を生成し、クライアントへと供給することが可能となる。
例えば通信速度の制限がない場合には、サーバが最も量子化精度の高い最高精度量子化位置情報をそのままクライアントに送信することもできる。これに対して、例えば通信速度等に制限がある場合には、何らかの条件に応じて最高精度よりも低い量子化精度の量子化位置情報をクライアントに送信することで、量子化位置情報の伝送ビットレートを下げることができる。
ここでいう条件としては、例えば親空間における受聴者からオブジェクトまでの実際の距離や伝送路の帯域状況などに基づくものとすることができる。
具体的には、例えば人間の聴覚では水平方向については、正面のオブジェクトに対して左右の一定範囲内の角度であれば正面角度と同じ角度と認識されるという知見があり、この角度は知覚限界角度と呼ばれている。
そのため、受聴者から見てオブジェクトのある位置において知覚限界角度に対応する水平方向の距離よりも量子化ステップ幅が小さいという条件が満たされていれば、どのような量子化精度の量子化位置情報を取得しても、その量子化位置情報から得られるオブジェクトの位置に音を定位させた場合に受聴者が音像位置のずれを感じることはない。換言すれば、知覚限界角度による許容誤差以下の量子ステップ幅の量子化位置情報であれば、受聴者に音像位置のずれを感じさせることはない。
そこで、例えば受聴者からオブジェクトまでの実際の距離と、知覚限界角度とに基づいて、知覚限界角度に対応する水平方向の距離を超えない最大の量子化ステップ幅で量子化された量子化位置情報が選択されるようにすれば、受聴者に音像位置のずれを感じさせることなく量子化位置情報の符号量を削減し、伝送ビットレートを低減させることができる。
また、例えば量子化位置情報を伝送する伝送路の帯域状態に応じた量子化精度の量子化位置情報が取得されるようにしてもよい。この場合、例えば伝送路の伝送帯域に余裕があるときには最高精度量子化位置情報を取得するようにし、伝送路の伝送帯域が狭いときには、その伝送帯域幅に対して定まる、より低い量子化精度の量子化位置情報を取得するようにすればよい。
また、サーバからクライアントには、オーディオデータのフレームごとなどに、オブジェクト数や絶対距離absoluteDistance等のクライアントでの復号などに必要となる情報を伝送する必要がある。
そこでサーバからクライアントに対して、例えば図11に示すヘッダ情報を伝送することで、オブジェクト数や絶対距離absoluteDistance等の必要な情報を伝送すればよい。
図11に示す例では、ヘッダ情報には、文字「absoluteDistance」により示される親空間の大きさを示す絶対距離absoluteDistance、文字「ChildAreaInfo()」により示される子空間情報、文字「nobjs」により示される親空間内にあるオブジェクトのオブジェクト数が含まれている。
また、ヘッダ情報には、オブジェクト数の数だけ、つまり各オブジェクトについて、オブジェクトが属す子空間を示すインデックスがオブジェクト所属情報として格納されている。ここでは文字「ChildAreaIndexForObj[i]」がi番目のオブジェクトのオブジェクト所属情報を示している。
さらに、ヘッダ情報に含まれている子空間情報「ChildAreaInfo()」部分のフォーマットは、例えば図12に示すようになる。
図12に示す例では、子空間情報には、文字「numOfChildArea」により示される、親空間内に含まれている子空間の数を示す子空間数が含まれている。
また、子空間情報には、子空間数の数だけ、各軸方向の最高精度分割インデックスと1次関数のパラメータが格納されている。
すなわち、文字「max_exp_index_X[i]」、「max_exp_index_Y[i]」、および「max_exp_index_Z[i]」は、それぞれi番目の子空間についてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の最高精度分割インデックスを示している。
また、文字「a_x[i]」、「a_y[i]」、および「a_z[i]」は、それぞれi番目の子空間についてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の1次関数の傾きを示すパラメータである。さらに文字「b_x[i]」、「b_y[i]」、および「b_z[i]」は、それぞれi番目の子空間についてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の1次関数の切片を示すパラメータである。これらの1次関数の傾きと切片が上述した式(2)に示したスケーリング変換係数である。
なお、ヘッダ情報はクライアントに対してフレームごとに送信してもよいし、子空間の数や位置、大きさに変化が生じた場合に送信するようにしてもよい。その他、一定のフレーム間隔でヘッダ情報が送信されるようにしてもよい。
また、自身の属している子空間の外にオブジェクトが移動した場合には、そのオブジェクトが既存の他の子空間や新規の子空間に属すように、オブジェクト所属情報を更新すればよい。この場合、更新後のオブジェクト所属情報が含まれるヘッダ情報がサーバからクライアントへと送信される。
さらに、上述したようにサーバに最高精度量子化位置情報が保持されているようにすれば、クライアントはサーバから任意の量子化精度の量子化位置情報を取得することが可能である。
例えばクライアントが所定の量子化精度の量子化位置情報を取得した後でも、既に取得した量子化位置情報よりも高い量子化精度の量子化位置情報を得ることが可能である。
具体的には、まずクライアントが最初にサーバから取得する量子化位置情報を初回量子化位置情報と称することとする。
なお、初回量子化位置情報は、ヘッダ情報に含まれている最高精度分割インデックスに対応する最高精度以下の量子化精度の量子化位置情報である。したがって、初回量子化位置情報として最高精度量子化位置情報を取得することも可能である。
クライアントは、例えば図13に示すビットストリームフォーマットの初回量子化位置情報送信要求をサーバに送信することで、サーバから初回量子化位置情報を取得する。
図13に示す例では、初回量子化位置情報送信要求には、オブジェクトごとに、各軸方向について、送信を要求する量子化精度に対応する分割インデックスが格納されている。
すなわち、文字「exp_index_initial_x[i]」、「exp_index_initial_y[i]」、および「exp_index_initial_z[i]」は、それぞれi番目のオブジェクトについてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の分割インデックスを示している。
このような初回量子化位置情報送信要求を受信したサーバは、オブジェクトごとに、各軸方向について初回量子化位置情報送信要求に含まれる分割インデックスに対応する量子化精度の量子化位置情報を初回量子化位置情報としてクライアントに送信する。
例えば図5に示した例において、初回量子化位置情報送信要求に含まれる分割インデックスが「3」である場合には、その分割インデックス「3」に対応する量子化位置情報「001」が初回量子化位置情報としてクライアントに送信される。
具体的にはサーバからクライアントには、例えば図14に示すビットストリームフォーマットで初回量子化位置情報が送信される。
図14に示す例では、ビットストリームにはオブジェクトごとに、各軸方向について初回量子化位置情報が格納されている。
ここでは、文字「Xpos_initial[i]」、「Ypos_initial[i]」、および「Zpos_initial[i]」は、それぞれi番目のオブジェクトについてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の初回量子化位置情報、より詳細には初回量子化位置情報を構成する各軸方向の成分の座標値を示している。
クライアントでは、このようにして初回量子化位置情報を取得した後、さらにその初回量子化位置情報よりも量子化精度が高い量子化位置情報を得たい場合には、その量子化位置情報と、初回量子化位置情報との差分情報である追加ビット情報を取得する。
クライアントでは、初回量子化位置情報の下位ビット側に追加ビット情報を付加することで、その初回量子化位置情報よりも量子化精度の高い量子化位置情報が得られる。
具体的には、例えば図5に示した例で、初回量子化位置情報として分割インデックス「3」に対応する量子化位置情報「001」を取得したが、最終的に分割インデックス「5」に対応する量子化位置情報「00110」を得たいとする。
この場合、クライアントは、初回量子化位置情報「001」と、最終的に得たい量子化位置情報「00110」との差分情報である「10」を追加ビット情報として取得する。そして、クライアントは、既に取得した初回量子化位置情報「001」の下位ビット側に新たに取得した追加ビット情報「10」を付加することで、最終的に得たい量子化精度の量子化位置情報「00110」を得ることができる。
このようにクライアントがサーバから追加ビット情報を取得する場合、クライアントは伝送帯域の状況等に応じて追加ビット情報を取得するときの要求モードを選択する。そして、クライアントは、選択した要求モードに応じたフォーマットで、追加ビット情報の送信を要求する旨の追加ビット情報送信要求をサーバに送信する。
ここでは、例えば図15に示す追加ビット情報送信要求がサーバに送信される。
図15に示す例では、追加ビット情報送信要求には、文字「request_mode」により示される要求モードを示す情報が含まれている。例えば要求モードには、共通モード、子空間共通モード、および個別モードの3つがある。
共通モードとは、軸方向ごとに追加で取得する追加ビット情報のビット数が全オブジェクトで同じとなるように、全オブジェクトの各軸方向について追加ビット情報を要求するモードである。例えば共通モードでは軸方向ごとに追加するビット数、つまり追加で高める量子化精度を選択することができる。
また、子空間共通モードとは同じ子空間に属す全オブジェクトで、軸方向ごとに追加で取得する追加ビット情報のビット数が同じとなるように、所望の1または複数の子空間について、子空間に属す全オブジェクトの各軸方向について追加ビット情報を要求するモードである。例えば子空間共通モードでも軸方向ごとに追加するビット数を選択することができる。なお、子空間共通モードでは追加ビット情報を要求する子空間と、追加ビット情報を要求しない子空間とがある。
さらに、個別モードとは、オブジェクトごとに個別に追加ビット情報を要求するモードである。個別モードでは、オブジェクトごとに追加ビット情報を要求するか否かを選択することができ、また各オブジェクトについて、軸方向ごとに所望の量子化精度の量子化位置情報が得られるように追加ビット情報を要求することができる。
図15では、例えば文字「request_mode」により示される要求モードが共通モードを示している場合、文字「case 0」の部分に示されるように、追加ビット情報送信要求には文字「addbit_x」、「addbit_y」、および「addbit_z」により示される、X軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット数を示す情報が格納される。
例えば追加ビット数を示す情報が3ビットを示す情報であれば、追加ビット情報として初回量子化位置情報に付加される3ビット分の追加ビット情報が送信されてくる。
また、文字「request_mode」により示される要求モードが子空間共通モードを示している場合、文字「case 1」の部分に示されるように、追加ビット情報送信要求には文字「num_of_addprec_childArea」により示される、追加ビット情報を要求する子空間の数を示す情報が格納されている。
この場合、さらに追加ビット情報送信要求には文字「addprec_childArea_index[i]」により示される、追加ビット情報を要求する子空間を示すインデックスと、その子空間での各軸方向の追加ビット数を示す「addbit_x[i]」、「addbit_y[i]」、および「addbit_z[i]」とが、追加ビット情報を要求する子空間の数だけ格納されている。特に、ここでは文字「addbit_x[i]」、「addbit_y[i]」、および「addbit_z[i]」のそれぞれは、X軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット数を示す情報となっている。
さらに、文字「request_mode」により示される要求モードが個別モードを示している場合、文字「case 2」の部分に示されるように、追加ビット情報送信要求には文字「num_of_addprec_objects」により示される、追加ビット情報を要求するオブジェクトの数を示す情報が格納されている。
この場合、さらに追加ビット情報送信要求には文字「addprec_ object_index[i]」により示される、追加ビット情報を要求するオブジェクトを示すインデックスと、そのオブジェクトの各軸方向の追加ビット数を示す「addbit_x[i]」、「addbit_y[i]」、および「addbit_z[i]」とが、追加ビット情報を要求するオブジェクトの数だけ格納されている。特に、ここでは文字「addbit_x[i]」、「addbit_y[i]」、および「addbit_z[i]」のそれぞれは、X軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット数を示す情報となっている。
このような図15に示す追加ビット情報送信要求を受信すると、サーバは、例えば図16に示すビットストリームフォーマットで追加ビット情報をクライアントに送信する。
図16に示す例では、要求モードが共通モードである場合、文字「case 0」の部分に示されるように、ビットストリームには文字「Xpos_add[i]」、「Ypos_add[i]」、および「Zpos_add[i]」により示されるi番目のオブジェクトについてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット情報が格納される。
また、要求モードが子空間共通モードである場合、文字「case 1」の部分に示されるように、ビットストリームには追加ビット情報が要求された子空間ごとに、その子空間に属す各オブジェクトの追加ビット情報が格納される。具体的には、文字「Xpos_add[j]」、「Ypos_add[j]」、および「Zpos_add[j]」により示される子空間内のj番目のオブジェクトについてのX軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット情報が格納されている。
さらに要求モードが個別モードである場合、文字「case 2」の部分に示されるように、ビットストリームには追加ビット情報が要求されたオブジェクトごとに、そのオブジェクトの追加ビット情報が格納される。具体的には、文字「Xpos_add[addprec_object_index[i]]」、「Ypos_add[addprec_object_index[i]]」、および「Zpos_add[addprec_object_index[i]]」により示される、オブジェクトのX軸方向、Y軸方向、およびZ軸方向の各軸方向の追加ビット情報が格納されている。
このように追加ビット情報を取得できるようにすることで、最初から最高精度量子化位置情報を取得するよりも少ない伝送量で、十分な量子化精度の量子化位置情報を得ることができるようになる。
〈コンテンツ再生システムの構成例〉
次に、以上において説明したように、クライアントがサーバからコンテンツや量子化位置情報を取得してコンテンツの再生を行うコンテンツ再生システムについて説明する。
そのようなコンテンツ再生システムは、例えば図17に示すように構成される。
図17に示すコンテンツ再生システムは絶対座標位置情報エンコーダ111、サーバ112、受聴者位置取得装置113、クライアント114、およびMPEG-Hレンダラ115を有している。このコンテンツ再生システムでは、クライアント114において、受聴者U12から見たオブジェクトの位置を示す極座標表現の極座標位置情報が算出される。
すなわち、コンテンツの配信側ではユーザU11が親空間内における各オブジェクトの位置を示す親空間内位置情報などを絶対座標位置情報エンコーダ111に入力する。
この親空間内位置情報は、上述したように3次元の絶対座標系(直交座標系)、すなわちxyz座標系の座標により表される絶対座標情報である。
絶対座標位置情報エンコーダ111は、ユーザU11により入力された親空間内位置情報を符号化し、その結果得られた符号化データファイルをサーバ112へと送信する。
サーバ112は記録部121を有する情報処理装置であり、絶対座標位置情報エンコーダ111から受信した符号化データファイルを記録部121に記録する。ここで、符号化データファイルには、各オブジェクトの最高精度量子化位置情報が含まれている。
サーバ112は、記録部121に記録している最高精度量子化位置情報から初回量子化位置情報や追加ビット情報を生成してクライアント114に送信する。
クライアント114側では、受聴者位置取得装置113により、親空間内における受聴者U12の位置を示す受聴者位置情報が取得され、クライアント114に供給される。この受聴者位置取得装置113は、例えばGPS(Global Positioning System)やジャイロセンサなどの測距デバイス、親空間としてのバーチャル空間内の受聴者U12の仮想的な位置情報を取得する入力装置等から構成される。
クライアント114は、絶対座標位置情報デコーダ131および座標変換部132を有する情報処理装置であり、サーバ112から初回量子化位置情報や追加ビット情報を取得する。
絶対座標位置情報デコーダ131は、サーバ112から取得された初回量子化位置情報や、初回量子化位置情報と追加ビット情報から得られた量子化位置情報を復号する。
座標変換部132は、量子化位置情報の復号により得られた、親空間内におけるオブジェクトの位置を示す情報を、親空間内における受聴者U12から見たオブジェクトの相対的な位置を示す極座標に変換し、極座標位置情報とする。
座標変換部132は、各オブジェクトの極座標位置情報をMPEG-Hレンダラ115に供給し、MPEG-Hレンダラ115は、供給された極座標位置情報と、サーバ112から取得した各オブジェクトのオーディオデータとに基づいてレンダリングを行う。
そして、MPEG-Hレンダラ115は、レンダリングにより得られた、親空間内の各位置にオブジェクトの音像が定位する再生オーディオデータをスピーカ等の再生系へと出力し、音声を再生させる。なお、MPEG-Hレンダラ115は、MPEG-Hで規格化された極座標系のレンダラである。
以上のようなコンテンツ再生システムでは、サーバ112とクライアント114との間で授受されるオブジェクトの位置を示す情報が、絶対座標である量子化位置情報とされている。したがって、親空間内における受聴者U12の位置を考慮する必要はなく、移動するオブジェクトについてのみ量子化位置情報をクライアント114に伝送すればよいという利点がある。
〈絶対座標位置情報エンコーダの構成例〉
次に、図17に示した絶対座標位置情報エンコーダ111、サーバ112、およびクライアント114のより詳細な構成例について説明する。
まず、絶対座標位置情報エンコーダ111の構成例について説明する。
絶対座標位置情報エンコーダ111は、例えば図18に示すように構成される。
図18に示す絶対座標位置情報エンコーダ111は取得部161、符号化部162、および通信部163を有している。
取得部161は、外部の装置等から符号化対象となるオブジェクトのオブジェクト数、親空間の絶対距離absoluteDistance、および各オブジェクトの親空間内位置情報を取得して符号化部162に供給する。
符号化部162は、取得部161から供給されたオブジェクト数や、親空間の絶対距離absoluteDistance、オブジェクトの親空間内位置情報に基づいて、各オブジェクトの親空間内位置情報を符号化し、その結果得られた符号化データファイルを通信部163に供給する。
符号化部162は、子空間決定部171、変換部172、および量子化部173を有している。なお、これらの子空間決定部171乃至量子化部173は、図7に示した子空間決定部31乃至量子化部33に対応し、同じ動作を行うので、その説明は省略する。
通信部163は、符号化部162から供給された符号化データファイルを送信する。
〈サーバの構成例〉
また、サーバ112は、例えば図19に示すように構成される。なお、図19において図17における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図19に示すサーバ112は通信部201、制御部202、および記録部121を有している。
通信部201は、制御部202から供給された各種の情報をクライアント114に送信したり、絶対座標位置情報エンコーダ111やクライアント114から送信されてきた各種の情報を受信して制御部202に供給したりする。
制御部202は、サーバ112全体の動作を制御する。制御部202は通信制御部211および送信情報生成部212を有している。
通信制御部211は、通信部201を制御することで、通信部201による絶対座標位置情報エンコーダ111やクライアント114との通信を制御する。送信情報生成部212は、必要に応じて記録部121に記録されている符号化データファイル等の情報を用いて、クライアント114に送信する各種の情報を生成する。
〈クライアントの構成例〉
また、クライアント114は、例えば図20に示すように構成される。なお、図20において図17における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図20に示すクライアント114は、通信部241、制御部242、および出力部243を有している。
通信部241は、制御部242から供給された各種の情報をサーバ112に送信したり、サーバ112から送信されてきた各種の情報を受信して制御部242に供給したりする。
制御部242は、クライアント114全体の動作を制御する。制御部242は通信制御部251、絶対座標位置情報デコーダ131、および座標変換部132を有している。
通信制御部251は、通信部241を制御することで、通信部241によるサーバ112との通信を制御する。例えば通信制御部251は、通信部241を制御して、サーバ112から初回量子化位置情報や追加ビット情報を取得する取得部として機能する。
絶対座標位置情報デコーダ131は、量子化位置情報や追加ビット情報に基づいて親空間内におけるオブジェクトの絶対的な位置を示す親空間内位置情報を算出することで、符号化された親空間内位置情報の復号(デコード)を行う算出部として機能する。
出力部243は、座標変換部132による座標変換により得られた各オブジェクトの極座標位置情報をMPEG-Hレンダラ115に出力する。
〈符号化処理およびファイル保存処理の説明〉
次に、コンテンツ再生システムにおいて行われる具体的な処理について説明する。
まず、図21のフローチャートを参照して、絶対座標位置情報エンコーダ111による符号化処理、およびサーバ112によるファイル保存処理について説明する。
絶対座標位置情報エンコーダ111により符号化処理が開始されると、ステップS71において取得部161は、ユーザU11により入力されたオブジェクト数、親空間の絶対距離absoluteDistance、および各オブジェクトの親空間内位置情報を取得して符号化部162に供給する。
ステップS72において子空間決定部171は、取得部161から供給された各オブジェクトの親空間内位置情報に基づいて子空間を決定する。ステップS72では、図8のステップS12と同様の処理が行われて子空間が決定される。
ステップS73において変換部172は、取得部161から供給された各オブジェクトの親空間内位置情報を子空間内位置情報に変換する。ステップS73では、図8のステップS13と同様の処理が行われる。
ステップS74において量子化部173は、最高精度分割インデックスを決定する。
例えばステップS74では、予め定められた最小距離MinDistと、子空間の決定結果および絶対距離absoluteDistanceから求まる絶対距離absoluteDistanceX、absoluteDistanceY、およびabsoluteDistanceZとに基づいて上述した式(3)の計算が行われ、最高精度分割インデックスが求められる。
ステップS75において量子化部173は、ステップS74で決定した最高精度分割インデックスに基づいて、上述した式(4)の計算を行うことにより量子化ステップ幅を求める。
ステップS76において量子化部173は、ステップS73で得られた各オブジェクトの子空間内位置情報を量子化する。
例えばステップS76では、ステップS75で求められた量子化ステップ幅が用いられて上述した式(5)の計算が行われ、親空間内位置情報の各軸方向の座標の量子化が行われ、各オブジェクトの最高精度量子化位置情報が得られる。
以上のステップS72乃至ステップS76の処理により、親空間内位置情報が符号化されたことになる。
ステップS77において符号化部162は、最高精度量子化位置情報、ステップS71で取得されたオブジェクト数と絶対距離absoluteDistance、およびステップS72における子空間の決定結果から得られる子空間情報とオブジェクト所属情報を含む符号化データファイルを生成し、通信部163に供給する。
ここでは、例えば子空間情報には、親空間内に含まれる子空間の数を示す情報、各子空間での最高精度分割インデックス、および各子空間についての座標変換のための1次関数のパラメータが含まれている。
ステップS78において通信部163は、符号化部162から供給された符号化データファイルを、無線または有線の通信等によりサーバ112に送信し、符号化処理は終了する。
なお、後述するように符号化データファイルがサーバ112で正しく保存されると、その旨の保存完了通知がサーバ112から送信されてくるので、絶対座標位置情報エンコーダ111は送信されてきた保存完了通知を受信して、適宜、表示させる。
また、符号化データファイルが送信されると、サーバ112では、ファイル保存処理が開始される。
すなわち、ステップS101においてサーバ112の通信部201は、絶対座標位置情報エンコーダ111から送信されてきた符号化データファイルを通信制御部211の制御に従って受信し、制御部202に供給する。
ステップS102において制御部202は、通信部201から供給された符号化データファイルを記録部121に供給し、保存させる。これにより、記録部121に最高精度量子化位置情報等が保存(記録)された状態となる。
その後、通信制御部211は、通信部201を制御して、符号化データファイルを正しく保存できた旨の保存完了通知を絶対座標位置情報エンコーダ111に送信し、ファイル保存処理は終了する。
以上のようにして絶対座標位置情報エンコーダ111は、親空間内位置情報を座標変換により子空間内位置情報へと変換するとともに、子空間内位置情報を量子化し、符号化データファイルを生成する。このようにすることで、親空間内位置情報をそのまま符号化(量子化)する場合と比較して量子化位置情報の符号量を削減することができる。
また、サーバ112は、絶対座標位置情報エンコーダ111から送信されてきた符号化データファイルを受信して保存する。これにより、クライアント114の要求に応じて最高精度量子化位置情報から任意の量子化精度の量子化位置情報を生成し、クライアント114に伝送することが可能となる。
その結果、クライアント114において各オブジェクトの極座標位置情報を求めるようにしてサーバ112や絶対座標位置情報エンコーダ111といったコンテンツの配信側の処理負荷を低減させるとともに、情報の伝送量を削減することができる。
〈位置情報取得処理および位置情報送信処理の説明〉
サーバ112に符号化データファイルが保存されると、クライアント114はサーバ112からコンテンツについての各オブジェクトの量子化位置情報の供給を受けることができるようになる。
以下、クライアント114がサーバ112から初回量子化位置情報を取得するときに行われる処理について説明する。すなわち、以下、図22のフローチャートを参照して、クライアント114による位置情報取得処理、およびサーバ112による位置情報送信処理について説明する。
クライアント114により位置情報取得処理が開始されると、ステップS131において、通信部241は、通信制御部251の制御に従ってヘッダ情報送信要求をサーバ112に送信する。
ヘッダ情報送信要求が送信されると、サーバ112では位置情報送信処理が開始される。すなわち、ステップS161において通信部201は、クライアント114から送信されてきたヘッダ情報送信要求を通信制御部211の制御に従って受信し、制御部202に供給する。
すると、送信情報生成部212は、記録部121に記録されている符号化データファイルを参照して、絶対距離absoluteDistanceや子空間情報、オブジェクト数、オブジェクト所属情報が含まれるヘッダ情報を生成する。これにより、例えば図11に示したヘッダ情報が生成される。
送信情報生成部212がヘッダ情報を生成すると、通信制御部211は、生成されたヘッダ情報を通信部201に供給する。
ステップS162において通信部201は、通信制御部211の制御に従って、通信制御部211から供給されたヘッダ情報をクライアント114に送信する。
するとクライアント114では、ステップS132において通信部241は、サーバ112から送信されてきたヘッダ情報を通信制御部251の制御に従って受信し、制御部242に供給する。
このようにしてヘッダ情報が得られると、制御部242は、サーバ112との間の伝送帯域の状況や、ヘッダ情報に含まれているオブジェクト数や最高精度分割インデックス等に基づいて、初回量子化位置情報の量子化精度、つまり分割インデックスを決定する。
そして制御部242は、決定した量子化精度に基づいて、初回量子化位置情報の送信を要求する初回量子化位置情報送信要求を生成し、通信部241に供給する。例えば、ここでは図13に示した初回量子化位置情報送信要求が生成される。
ステップS133において、通信部241は、通信制御部251の制御に従って、制御部242から供給された初回量子化位置情報送信要求をサーバ112に送信する。
すると、サーバ112では、ステップS163において通信部201は、通信制御部211の制御に従って、クライアント114から送信されてきた初回量子化位置情報送信要求を受信して制御部202に供給する。
ステップS164において、送信情報生成部212は、通信部201から供給された初回量子化位置情報送信要求に応じて、記録部121に記録されている符号化データファイルを参照して、初回量子化位置情報を生成する。
例えば図5の例において、初回量子化位置情報送信要求により要求された分割インデックスが「9」である場合、送信情報生成部212は、符号化データファイルに含まれている最高精度量子化位置情報の上位9ビットを抽出して初回量子化位置情報とする。
図5の例では、最高精度量子化位置情報の所定の軸方向の座標値「00110011001」から分割インデックス「9」と同じビット数、すなわち9ビットだけ最上位ビット側から抽出して得られる「001100110」が初回量子化位置情報の所定の軸方向の座標値とされる。
なお、初回量子化位置情報送信要求により最高精度分割インデックスが要求された場合には、最高精度量子化位置情報がそのまま初回量子化位置情報とされる。
送信情報生成部212は、オブジェクごとに初回量子化位置情報を生成すると、それらの初回量子化位置情報を図14に示したフォーマットでビットストリームに格納し、通信制御部211は生成されたビットストリームを通信部201に供給する。
ステップS165において、通信部201は、通信制御部211から供給されたビットストリーム、すなわち各オブジェクトの初回量子化位置情報を通信制御部211の制御に従ってクライアント114に送信し、位置情報送信処理は終了する。
サーバ112により初回量子化位置情報が送信されると、クライアント114では、ステップS134の処理が行われる。
ステップS134において、通信部241は、サーバ112から送信されてきた初回量子化位置情報を通信制御部251の制御に従って受信し、制御部242に供給する。すなわち、通信制御部251は初回量子化位置情報を取得する。
ステップS135において絶対座標位置情報デコーダ131は、各オブジェクトの初回量子化位置情報について、初回量子化位置情報と、初回量子化位置情報送信要求に格納した分割インデックスとに基づいて上述した式(6)と同様の計算を行うことで、初回量子化位置情報を逆量子化する。これにより、復号子空間内位置情報が得られる。
ステップS136において絶対座標位置情報デコーダ131は、各オブジェクトについて得られた子空間内位置情報を親空間内位置情報に変換する。
すなわち、絶対座標位置情報デコーダ131は、ステップS135で得られた復号子空間内位置情報と、ヘッダ情報に含まれている子空間情報とに基づいて上述した式(7)および式(8)の計算を行うことで逆スケーリング変換を行う。これにより、復号子空間内位置情報が復号親空間内位置情報に変換される。
さらに絶対座標位置情報デコーダ131は、得られた復号親空間内位置情報に対して、ヘッダ情報内に含まれている絶対距離absoluteDistanceを乗算することで、親空間内におけるオブジェクトの位置を示す位置情報を求める。そして、オブジェクトの位置を示す位置情報が求められると、位置情報取得処理は終了する。
絶対座標位置情報デコーダ131は、以上のステップS135およびステップS136の処理をオブジェクトごとに復号の処理として行う。
以上のようにしてクライアント114は、適切な量子化精度の量子化位置情報を初回量子化位置情報として取得し、復号する。また、サーバ112は、クライアント114の要求に応じて初回量子化位置情報を生成し、クライアント114に送信する。
このようにすることで、親空間内位置情報がそのまま符号化(量子化)される場合と比較して、オブジェクトの位置を示す情報の符号量を削減することができる。
〈追加ビット情報取得処理および追加ビット情報送信処理の説明〉
ところで、図22を参照して説明した位置情報取得処理が行われると、各オブジェクトについて親空間内におけるオブジェクトの位置を示す位置情報(以下、オブジェクト位置情報とも称する)が得られることになる。
例えば初回量子化位置情報として最高精度量子化位置情報を取得した場合には、最も高い精度のオブジェクト位置情報が得られるが、そうではない場合にはオブジェクト位置情報の精度が十分でないこともある。
さらに、比較的低い量子化精度の初回量子化位置情報を取得したが、伝送帯域に余裕が生じたり、コンテンツの再生時刻までに余裕が生じたりして、より高い量子化精度の量子化位置情報を得るための追加ビット情報を取得したいこともある。
そこで、クライアント114は、オブジェクト位置情報が得られると、必要に応じてサーバ112から追加ビット情報を取得する。以下、そのような場合にクライアント114およびサーバ112により行われる処理について説明する。
すなわち、以下、図23のフローチャートを参照して、クライアント114による追加ビット情報取得処理、およびサーバ112による追加ビット情報送信処理について説明する。なお、これらの処理は初回量子化位置情報として最高精度量子化位置情報が取得された場合には行われない。
クライアント114において追加ビット情報取得処理が開始されると、ステップS191において絶対座標位置情報デコーダ131は、各オブジェクトについて、受聴者U12からオブジェクトまでの距離を算出する。
具体的には、受聴者位置取得装置113から供給された受聴者位置情報と、図22のステップS136の処理で得られたオブジェクト位置情報とに基づいて、親空間内における受聴者U12からオブジェクトまでのユークリッド距離が算出される。
ステップS192において、絶対座標位置情報デコーダ131は、追加ビット情報を取得するオブジェクトを特定する。
例えば親空間内のオブジェクトの量子化位置情報として、初回量子化位置情報、つまり復号親空間内位置情報が十分な精度のものであるか否かは、受聴者U12から、オブジェクト位置情報により示される位置までの距離によって特定可能である。
そこで、絶対座標位置情報デコーダ131は、受聴者U12からオブジェクトまでの距離と知覚限界角度とから量子ステップ幅の許容誤差を求め、その許容誤差と、初回量子化位置情報の分割インデックスにより求まる量子化ステップ幅とを比較する。そして絶対座標位置情報デコーダ131は、その比較結果に基づいて初回量子化位置情報の量子化精度が十分でないオブジェクト、つまり追加ビット情報を取得するオブジェクトを特定する。
また、例えば絶対座標位置情報デコーダ131は、サーバ112との間の伝送路の帯域状況、現時点からコンテンツの再生時刻までの時間、初回量子化位置情報の量子化精度などに基づいて、追加ビット情報を取得するオブジェクトを特定する。
さらに絶対座標位置情報デコーダ131は、追加ビット情報を取得するオブジェクトについて、要求する追加ビット情報のビット数、つまり要求する量子化精度を決定する。
なお、追加ビット情報を取得するか否かや、要求する追加ビット情報のビット数は、各オブジェクトについてXYZ座標系の各軸方向ごとに定めることが可能である。
ステップS193において絶対座標位置情報デコーダ131は、ステップS192の特定結果に基づいて要求モードを選択する。
ここでは、例えば伝送帯域の状況や、追加ビット情報を取得するオブジェクトの個数、追加ビット情報を取得する複数のオブジェクトの位置関係などに基づいて、適切な要求モードが選択される。
ステップS194において絶対座標位置情報デコーダ131は、ステップS192の特定結果と、ステップS193の要求モードの選択結果とに基づいて追加ビット情報送信要求を生成する。これにより、例えば図15に示した追加ビット情報送信要求が生成される。
通信制御部251は、このようにして生成された追加ビット情報送信要求を通信部241に供給し、サーバ112へと送信させる。
ステップS195において通信部241は、通信制御部251の制御に従って、制御部242から供給された追加ビット情報送信要求をサーバ112に送信する。
追加ビット情報送信要求が送信されると、サーバ112では、追加ビット情報送信処理が開始される。
すなわち、ステップS221において通信部201は、クライアント114から送信されてきた追加ビット情報送信要求を通信制御部211の制御に従って受信し、制御部202に供給する。
ステップS222において、送信情報生成部212は、通信部201から供給された追加ビット情報送信要求に応じて、送信が要求されたオブジェクトの追加ビット情報を生成する。
例えば送信情報生成部212は、記録部121に記録されている符号化データファイルの最高精度量子化位置情報における初回量子化位置情報の量子化精度(分割インデックス)により定まる位置から、追加ビット情報送信要求により指定された追加ビット数分のビットを抽出することで追加ビット情報を生成する。このような追加ビット情報の生成はビットシフトにより実現することができる。
送信情報生成部212は、必要なオブジェクトについて追加ビット情報を生成すると、それらの追加ビット情報を図16に示したフォーマットで追加ビットストリームに格納し、通信制御部211は生成された追加ビットストリームを通信部201に供給する。
ステップS223において通信部201は、通信制御部211の制御に従って、通信制御部211から供給された追加ビット情報が含まれる追加ビットストリームをクライアント114に送信し、追加ビット情報送信処理は終了する。
また、追加ビットストリームが送信されると、クライアント114ではステップS196の処理が行われる。
ステップS196において、通信部241は通信制御部251の制御に従って、サーバ112から送信されてきた追加ビットストリームを受信して制御部242に供給する。すなわち、通信制御部251は、追加ビット情報が含まれる追加ビットストリームを取得する。
ステップS197において絶対座標位置情報デコーダ131は、追加ビット情報の送信を要求したオブジェクトについて、初回量子化位置情報の下位ビット側に追加ビット情報を付加することで量子化位置情報を生成する。
ステップS198において絶対座標位置情報デコーダ131は、ステップS197の処理で得られた量子化位置情報を逆量子化する。
そして、ステップS199において絶対座標位置情報デコーダ131は、ステップS198の逆量子化により得られた子空間内位置情報を親空間内位置情報に変換する。
なお、ステップS198およびステップS199では、図22のステップS135およびステップS136と同様の処理が行われる。
また、ステップS199では、絶対座標位置情報デコーダ131は、得られた復号親空間内位置情報に対して絶対距離absoluteDistanceを乗算することで、オブジェクト位置情報を求める。
以上のステップS197乃至ステップS199の処理は、追加ビット情報を取得したオブジェクトについてのみ行われる。
また、このようにして得られたオブジェクト位置情報について、十分な量子化精度のオブジェクト位置情報(親空間内位置情報)が得られるまで、上述したステップS191乃至ステップS199の処理が繰り返し行われるようにしてもよい。
ステップS200において座標変換部132は、オブジェクトごとに、オブジェクト位置情報と、受聴者位置取得装置113から供給された受聴者位置情報とに基づいて、親空間内における受聴者U12から見たオブジェクトの位置を示す極座標位置情報を算出する。
そして、座標変換部132は、得られた極座標位置情報を出力部243に供給し、出力部243は、それらの極座標位置情報をMPEG-Hレンダラ115に出力する。出力部243が全オブジェクトの極座標位置情報をMPEG-Hレンダラ115に出力すると、追加ビット情報取得処理は終了する。
追加ビット情報取得処理が終了するとMPEG-Hレンダラ115ではレンダリングが行われる。すなわち、MPEG-Hレンダラ115は、サーバ112等から取得した各オブジェクトのオーディオデータと、出力部243から供給された極座標位置情報とに基づいてレンダリングを行い、親空間内の各位置にオブジェクトの音像が定位する再生オーディオデータを生成し、スピーカ等の再生系へと出力する。
以上のようにしてクライアント114は、必要に応じて追加ビット情報を取得し、最終的なオブジェクト位置情報を求める。また、サーバ112は、クライアント114の要求に応じて追加ビット情報を生成し、送信する。
このようにすることで、クライアント114では、最初から最高精度量子化位置情報をサーバ112から取得するよりも少ない情報伝送量で、十分な精度の親空間内位置情報を得ることができる。
しかも、必要となる量子化精度を求める処理や極座標位置情報を算出する処理は、全てクライアント114で行われるので、サーバ112や絶対座標位置情報エンコーダ111といったコンテンツ配信側の処理負荷を低減させることができる。
〈第2の実施の形態の変形例1〉
〈子空間の配置について〉
ところで、以上においては親空間内に1または複数の子空間を形成することで、効率的に親空間内位置情報を符号化する例について説明した。
しかし、例えば図24に示すように、もともとは異なる2つの親空間のそれぞれに含まれている子空間のそれぞれを、仮想的な1つの親空間内に配置するようにしてもよい。
図24に示す例では、子空間CA31と子空間CA32は、もともと互いに異なる親空間内に含まれるものであったが、ここでは仮想的な1つの親空間内にそれらの子空間CA31と子空間CA32が配置されている。
このようにすることで、例えば受聴者U12が自身の好みに応じて子空間CA31と子空間CA32のうちの何れか一方のみを選択することもできる。この場合、サーバ112は受聴者U12の選択に応じて、子空間CA31と子空間CA32のうちの受聴者U12に選択された方の子空間内にあるオブジェクトのオーディオデータと、それらのオブジェクトの量子化位置情報とをクライアント114に伝送する。
これにより、クライアント114側では、受聴者U12により選択された子空間についてのみオーディオデータの再生を行うことができる。
なお、このような例において、例えば子空間CA31と子空間CA32とが互いに異なる残響特性を有する空間とされてもよい。すなわち、子空間CA31と子空間CA32とに対して互いに異なる残響特性を付与するようにしてもよい。また、子空間CA31内と子空間CA32内とで全く同じオブジェクトが同じ位置関係で存在しているようにしてもよい。
そうすれば、受聴者U12は子空間を選択するだけで、異なる残響特性が付加されたオーディオデータを再生することができるので、同じオブジェクトの配置でも異なる空間にいるかのような体験をすることができる。また、受聴者U12は、子空間CA31と子空間CA32といった複数の全く異なる空間を往来しているかのような体験ができる。さらに、1つの親空間内に複数の子空間を形成する場合、楽器のオブジェクトや歓声のオブジェクトといった各オブジェクトの属性ごとに子空間を形成するようにしてもよい。この場合、互いに異なる子空間のそれぞれに含まれているオブジェクトのそれぞれは互いに異なる属性を有することになる。
その他、例えば図25に示すように複数の子空間が互いに重なるようになっていてもよい。この例では、子空間CA41と子空間CA42とが1つの親空間内に形成されているが、子空間CA42全体が子空間CA41内に含まれている。
つまり、子空間CA42内に存在するオブジェクトは、その子空間CA42に属すだけでなく同時に子空間CA41にも属していることになる。
このような場合においても受聴者U12が子空間CA41と子空間CA42のうちの何れか一方を選択できるようにし、その選択された子空間内のオブジェクトのオーディオデータが再生されるようにすることができる。
そのような場合、例えば親空間に関するコンテンツを再生するときに、どの子空間を選択するかによって再生されるオブジェクトが変化するようにすることができる。
例えばコンサートのコンテンツを再生するものとし、子空間CA42内にのみ存在するオブジェクトは楽器のオブジェクトであり、子空間CA41内に存在するが、子空間CA42内には存在しないオブジェクトは歓声のオブジェクトであるとする。
この場合、受聴者U12が子空間CA41を選択すれば、楽器と歓声の両方の音が再生され、受聴者U12が子空間CA42を選択すれば、楽器の音のみが再生されるようになる。すなわち、楽器だけの空間と、楽器だけでなく歓声まで含まれた空間とを自在に切り替えることができる。
図25に示した例のように1つのオブジェクトが複数の子空間に属すことができる場合、上述したヘッダ情報は、例えば図26に示すようになる。
図26に示す例では、ヘッダ情報には図11に示した例の場合に加えて、新たに文字「numOfAttChildArea」により示されるi番目のオブジェクトが属する子空間の数を示す情報がオブジェクトごとに格納されている。そして、オブジェクトが属する子空間の数を示す情報「numOfAttChildArea」に続いて、その情報により示される数だけ、オブジェクト所属情報「ChildAreaIndexForObj[i]」が格納されている。
なお、複数の子空間に重複して属すオブジェクトの子空間内位置情報の量子化は、例えばChildAreaIndexForObj[0]で指定された子空間など、そのオブジェクトが属す子空間のうちの何れかの子空間について行われるようにすればよい。また、同じオブジェクトが複数の子空間に属す場合には、そのオブジェクトについて、どの子空間の子空間内位置情報が量子化されるかを予め定めておけばよい。
すなわち、オブジェクトが属す複数の子空間のうちの1つの子空間についての子空間内位置情報のみが量子化されて伝送され、残りの子空間についての量子化位置情報は伝送されない。クライアント114側では、あるオブジェクトの1つの子空間についての子空間内位置情報から、同じオブジェクトの他の子空間についての子空間内位置情報を求めるようにすればよい。
また、図26に示すヘッダ情報内の子空間情報「ChildAreaInfo()」部分のフォーマットは、例えば図27に示すようになる。なお、図27に示す子空間情報のフォーマットは、図12に示したものと同じであるので、その説明は省略する。
〈第2の実施の形態の変形例2〉
〈スキップフレームについて〉
また、自由視点オーディオでは、サーバ112とクライアント114との間で相互に通信が行われ、これにより量子化位置情報等の情報がやり取りされる。
しかし、サーバ112とクライアント114との間のネットワーク、つまり伝送路の輻輳状況によっては遅延が発生し、オーディオデータの再生時刻までに量子化位置情報などの再生に必要な情報をクライアント114が取得できない可能性もある。
そこで、例えば図28に示すように伝送遅延が大きくなった場合には、クライアント114からサーバ112に対してスキップするフレーム数を伝達するようにしてもよい。
この場合、サーバ112はクライアント114により指定されたスキップフレーム数分、時間的に先のオブジェクトの量子化位置情報と、現在の再生時刻からスキップフレームの時刻までの補間情報を伝送する。
例えば図28の矢印Q61に示すように、フレーム1においてはXYZ座標系における位置(X1,Y1,Z1)にあったオブジェクトが、7フレーム後のフレーム8ではXYZ座標系における位置(X2,Y2,Z2)に移動しているようなコンテンツを再生するものとする。
このとき、矢印Q62にしめすようにフレーム1およびフレーム2までは量子化位置情報を遅延なく送受信できたが、この時点においてクライアント114によって、伝送路の帯域が狭く遅延が発生する可能性が高いと判定されたとする。
すると、クライアント114は、サーバ112に対して、フレーム3の初回量子化位置情報の送信を要求するのではなく、代わりにフレーム8を指定する要求スキップフレーム数と補間処理に用いる補間情報の送信を要求する。
ここで要求スキップフレーム数は、量子化位置情報の送信をスキップするフレームの数を示す情報である。ここでは、例えば要求スキップフレーム数「5」がサーバ112に対して送信されるので、サーバ112は送信が完了したフレーム2の後の5フレーム分をスキップし、その次のフレーム8について量子化位置情報と補間情報を送信する。
これにより、クライアント114側ではフレーム8の量子化位置情報に対する復号処理により親空間内位置情報を得ることができる。また、クライアント114ではフレーム2の親空間内位置情報とフレーム8の親空間内位置情報、および補間情報に基づいて、フレーム3乃至フレーム7における親空間内位置情報を補間処理により求めることができる。
このような補間処理を行うことで、位置(X1,Y1,Z1)から位置(X2,Y2,Z2)へと移動するオブジェクトの任意のタイミング(フレーム)における位置を求めることができる。
このようにクライアント114がサーバ112に対して要求スキップフレーム数を送信する場合、クライアント114により送信される初回量子化位置情報送信要求は、例えば図29に示すようになる。
図29に示す例では、初回量子化位置情報送信要求には、図13に示したi番目のオブジェクトの各軸方向の分割インデックス「exp_index_initial_x[i]」、「exp_index_initial_y[i]」、および「exp_index_initial_z[i]」に加えて、さらに文字「SkipFrameRequest」により示される要求スキップフレーム数が含まれている。
また、図29に示した初回量子化位置情報送信要求を受信したサーバ112は、例えば図30に示すビットストリームフォーマットで初回量子化位置情報を送信する。
図30に示す例では、ビットストリームには図14に示した初回量子化位置情報「Xpos_initial[i]」、「Ypos_initial[i]」、および「Zpos_initial[i]」に加えて、さらに文字「InterpolMode[i]」により示される補間情報が含まれている。
特に、ここでは補間情報InterpolMode[i]は、i番目のオブジェクトについて、1次補間を行うか、または2次補間を行うかを示す情報となっている。但し、クライアント114から図29ではなく図13に示した初回量子化位置情報送信要求が受信された場合には、補間情報InterpolMode[i]はビットストリームに格納されない。
例えばオブジェクトが等速度運動に相当する動きをしている場合には1次補間が行われるようにされ、オブジェクトが等加速度運動に相当する動きをしている場合には2次補間が行われるようにすればよい。
なお、ここでは1次補間と2次補間の何れかが選択的に行われる例について説明するが、それ以外の補間手法が用いられても勿論よい。また、補間情報として補間処理に用いる係数が格納されるようにしてもよいし、補間処理に用いる係数自体はクライアント114が予め保持しているようにしてもよい。
さらに、図30に示す例でビットストリームに格納されている初回量子化位置情報は、要求スキップフレーム数分だけスキップした先のフレームのものとなっている。
〈位置情報取得処理および位置情報送信処理の説明〉
ここで、クライアント114が伝送路での遅延等により図29に示した初回量子化位置情報送信要求を送信する場合に行われる処理について説明する。
すなわち、以下、図31のフローチャートを参照して、クライアント114による位置情報取得処理、およびサーバ112による位置情報送信処理について説明する。
なお、制御部242は、例えばサーバ112とクライアント114との間の伝送路の帯域状況、つまりネットワークのトラフィックや、コンテンツの再生時のタイムスタンプ、つまりコンテンツの再生状況に基づいて、量子化位置情報についてのフレームのスキップを行うかや、何フレーム分スキップするかを決定する。
クライアント114により位置情報取得処理が開始されると、ステップS251において、通信部241は、通信制御部251の制御に従って、制御部242から供給された初回量子化位置情報送信要求をサーバ112に送信する。
すなわち、制御部242は、ネットワークのトラフィックやコンテンツの再生状況等に基づいて、図29に示した初回量子化位置情報送信要求を生成し、通信部241に供給する。この初回量子化位置情報送信要求には、要求スキップフレーム数が含まれている。
すると、サーバ112では、ステップS291において通信部201は、通信制御部211の制御に従って、クライアント114から送信されてきた初回量子化位置情報送信要求を受信して制御部202に供給する。
ステップS292において、送信情報生成部212は、通信部201から供給された初回量子化位置情報送信要求に応じて、記録部121に記録されている符号化データファイルを参照して、初回量子化位置情報を生成する。
この場合、例えば図30に示すビットストリームフォーマットで、スキップ後の最初のフレームの初回量子化位置情報と補間情報が含まれるビットストリームが生成される。通信制御部211は、このようにして生成されたビットストリームを通信部201に供給する。このとき、送信情報生成部212は、スキップ前後のフレームやスキップされるフレームにおける量子化位置情報、つまりオブジェクトの位置からオブジェクトの動きを特定し、その特定結果に応じた補間情報がビットストリームに含まれるようにする。
ステップS293において、通信部201は、通信制御部211から供給されたビットストリーム、すなわち各オブジェクトの初回量子化位置情報を通信制御部211の制御に従ってクライアント114に送信し、位置情報送信処理は終了する。
サーバ112により初回量子化位置情報が送信されると、ステップS252において、通信部241は、サーバ112から送信されてきた初回量子化位置情報を通信制御部251の制御に従って受信し、制御部242に供給する。
初回量子化位置情報が取得されると、その後、ステップS253およびステップS254の処理が行われるが、これらの処理は図22のステップS135およびステップS136の処理と同様であるので、その説明は省略する。但し、ここではスキップ後の最初のフレームについて処理が行われ、そのフレームの復号親空間内位置情報が求められる。
ステップS255において、絶対座標位置情報デコーダ131は、ステップS254において得られたスキップ後のフレームの復号親空間内位置情報と、その直前に得られたスキップ前のフレームの復号親空間内位置情報とに基づいて、ステップS252で初回量子化位置情報とともに受信した補間情報により示される補間処理を行う。
すなわち、例えば絶対座標位置情報デコーダ131は、補間情報により示される処理、つまり1次補間または2次補間を行うことで、スキップされた各フレームの復号親空間内位置情報を生成する。
さらに絶対座標位置情報デコーダ131は、以上の処理で得られた、スキップされたフレームと、スキップ後の最初のフレームについて、各フレームの復号親空間内位置情報に絶対距離absoluteDistanceを乗算することで、各フレームにおけるオブジェクト位置情報を求める。このようにしてオブジェクト位置情報が求められると、位置情報取得処理は終了する。
以上のようにしてクライアント114は、いくつかのフレームをスキップするときには、要求スキップフレーム数が含まれる初回量子化位置情報送信要求を送信し、スキップ後のフレームの親空間内位置情報を求めるとともに、補間処理によりスキップしたフレームの親空間内位置情報を求める。また、サーバ112は、要求スキップフレーム数に応じて初回量子化位置情報と補間情報をクライアント114に送信する。
このようにすることで、伝送路で遅延が生じる場合であっても、コンテンツの再生に遅延が生じてしまうことを抑制することができる。
以上のように本技術によれば、親空間内でオブジェクトの存在位置に偏りがある場合には子空間を用いてオブジェクトの位置を示す情報を伝送することで、少ない伝送量で必要精度を維持したまま、オブジェクトの位置を示す情報を伝送することができる。
また、第2の実施の形態の変形例1のように、2以上の全く異なる空間をそれぞれ子空間として扱い、1つの親空間内でそれらの子空間を管理することにより、受聴者は必要な子空間のみを復号することで全く異なる複数の空間の往来体験が可能となる。
さらに第2の実施の形態の変形例2のように、伝送路が混み合って再生時刻までに必要なビットストリームが届かない場合でも、先読みと補間によりスムーズにオブジェクトの移動再生が可能となる。
〈コンピュータの構成例〉
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図32は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、入力部506、出力部507、記録部508、通信部509、及びドライブ510が接続されている。
入力部506は、キーボード、マウス、マイクロフォン、撮像素子などよりなる。出力部507は、ディスプレイ、スピーカなどよりなる。記録部508は、ハードディスクや不揮発性のメモリなどよりなる。通信部509は、ネットワークインターフェースなどよりなる。ドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブル記録媒体511を駆動する。
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505及びバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU501)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体511に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブル記録媒体511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、本技術は、以下の構成とすることも可能である。
(1)
親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得する取得部と、
前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オブジェクトの位置を示す親空間内位置情報を算出する算出部と
を備える情報処理装置。
(2)
前記親空間は絶対座標により表される
(1)に記載の情報処理装置。
(3)
前記空間情報は、座標変換のための変換係数である
(1)または(2)に記載の情報処理装置。
(4)
前記変換係数は1次関数のパラメータである
(3)に記載の情報処理装置。
(5)
前記空間情報は、前記親空間内における前記子空間の基準となる頂点の位置を示す情報、および前記親空間内における前記子空間の前記頂点に対する対角頂点の位置を示す情報である
(1)または(2)に記載の情報処理装置。
(6)
前記子空間は絶対座標により表される
(1)乃至(5)の何れか一項に記載の情報処理装置。
(7)
前記親空間内には複数の前記子空間が含まれている
(1)乃至(6)の何れか一項に記載の情報処理装置。
(8)
前記複数の前記子空間のそれぞれに含まれている前記オブジェクトのそれぞれは、互いに属性が異なる
(7)に記載の情報処理装置。
(9)
複数の前記子空間が互いに重なっている
(7)に記載の情報処理装置。
(10)
前記複数の前記子空間は互いに異なる残響特性を有している
(7)に記載の情報処理装置。
(11)
前記子空間には複数の前記オブジェクトが含まれている
(1)乃至(10)の何れか一項に記載の情報処理装置。
(12)
1つの前記オブジェクトが複数の前記子空間内に含まれている
(1)乃至(11)の何れか一項に記載の情報処理装置。
(13)
前記取得部は、取得した前記子空間内位置情報よりも精度が高い前記子空間内位置情報を得るための追加位置情報をさらに取得し、
前記算出部は、取得した前記子空間内位置情報および前記追加位置情報に基づいて得られる、より精度が高い前記子空間内位置情報と、前記空間情報とに基づいて親空間内位置情報を算出する
(1)乃至(12)の何れか一項に記載の情報処理装置。
(14)
前記オブジェクトはオーディオオブジェクトである
(1)乃至(13)の何れか一項に記載の情報処理装置。
(15)
情報処理装置が、
親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得し、
前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オブジェクトの位置を示す親空間内位置情報を算出する
情報処理方法。
(16)
親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得し、
前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オブジェクトの位置を示す親空間内位置情報を算出する
ステップを含む処理をコンピュータに実行させるプログラム。
11 エンコーダ, 21 取得部, 22 符号化部, 23 通信部, 31 子空間決定部, 32 変換部, 33 量子化部, 61 デコーダ, 71 取得部, 72 復号部, 73 出力部, 81 逆量子化部, 82 変換部

Claims (15)

  1. 親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得する取得部と、
    前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報を算出する算出部と
    を備える情報処理装置。
  2. 前記親空間は絶対座標により表される
    請求項1に記載の情報処理装置。
  3. 前記空間情報は、座標変換のための変換係数である
    請求項1に記載の情報処理装置。
  4. 前記変換係数は1次関数のパラメータである
    請求項3に記載の情報処理装置。
  5. 前記空間情報は、前記親空間内における前記子空間の基準となる頂点の位置を示す情報、および前記親空間内における前記子空間の前記頂点に対する対角頂点の位置を示す情報である
    請求項1に記載の情報処理装置。
  6. 前記子空間は絶対座標により表される
    請求項1に記載の情報処理装置。
  7. 前記親空間内には複数の前記子空間が含まれている
    請求項1に記載の情報処理装置。
  8. 前記複数の前記子空間のそれぞれに含まれている前記オーディオオブジェクトのそれぞれは、互いに属性が異なる
    請求項7に記載の情報処理装置。
  9. 複数の前記子空間が互いに重なっている
    請求項7に記載の情報処理装置。
  10. 前記複数の前記子空間は互いに異なる残響特性を有している
    請求項7に記載の情報処理装置。
  11. 前記子空間には複数の前記オーディオオブジェクトが含まれている
    請求項1に記載の情報処理装置。
  12. 1つの前記オーディオオブジェクトが複数の前記子空間内に含まれている
    請求項1に記載の情報処理装置。
  13. 前記取得部は、取得した前記子空間内位置情報よりも精度が高い前記子空間内位置情報を得るための追加位置情報をさらに取得し、
    前記算出部は、取得した前記子空間内位置情報および前記追加位置情報に基づいて得られる、より精度が高い前記子空間内位置情報と、前記空間情報とに基づいて親空間内位置情報を算出する
    請求項1に記載の情報処理装置。
  14. 情報処理装置が、
    親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得し、
    前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報を算出する
    情報処理方法。
  15. 親空間内に含まれる子空間の前記親空間内における位置と大きさに関する空間情報と、前記子空間に含まれるオーディオオブジェクトの前記子空間内における位置を示す子空間内位置情報とを取得し、
    前記空間情報および前記子空間内位置情報に基づいて、前記親空間内における前記オーディオオブジェクトの位置を示す親空間内位置情報を算出する
    ステップを含む処理をコンピュータに実行させるプログラム。
JP2023070935A 2018-07-04 2023-04-24 情報処理装置および方法、並びにプログラム Active JP7497767B2 (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2018127547 2018-07-04
JP2018127547 2018-07-04
JP2018132490 2018-07-12
JP2018132490 2018-07-12
PCT/JP2019/024441 WO2020008890A1 (ja) 2018-07-04 2019-06-20 情報処理装置および方法、並びにプログラム
JP2020528787A JP7276337B2 (ja) 2018-07-04 2019-06-20 情報処理装置および方法、並びにプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020528787A Division JP7276337B2 (ja) 2018-07-04 2019-06-20 情報処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2023083539A true JP2023083539A (ja) 2023-06-15
JP7497767B2 JP7497767B2 (ja) 2024-06-11

Family

ID=

Also Published As

Publication number Publication date
US20240013795A1 (en) 2024-01-11
JP7276337B2 (ja) 2023-05-18
SG11202012259RA (en) 2021-01-28
EP3819902A1 (en) 2021-05-12
EP3819902A4 (en) 2021-11-10
WO2020008890A1 (ja) 2020-01-09
US11790925B2 (en) 2023-10-17
JPWO2020008890A1 (ja) 2021-08-02
US20210272576A1 (en) 2021-09-02
BR112020026728A2 (pt) 2021-03-23
KR20210030279A (ko) 2021-03-17
CN112352278A (zh) 2021-02-09

Similar Documents

Publication Publication Date Title
JP7226436B2 (ja) 情報処理装置および方法、並びにプログラム
RU2699406C2 (ru) Устройство обработки информации и способ обработки информации
JP2010529500A (ja) オーディオ信号処理方法及び装置
US11429340B2 (en) Audio capture and rendering for extended reality experiences
US20240013795A1 (en) Information processing device and method, and program
KR20200075826A (ko) 신호 처리 장치 및 방법, 그리고 프로그램
WO2019142665A1 (ja) 情報処理装置および方法
JP7497767B2 (ja) 情報処理装置および方法、並びにプログラム
CN100553374C (zh) 处理具有扩展空间性的声源的三维音频场景的方法
RU2763391C2 (ru) Устройство, способ и постоянный считываемый компьютером носитель для обработки сигналов
KR20210071972A (ko) 신호 처리 장치 및 방법, 그리고 프로그램
WO2021140951A1 (ja) 情報処理装置および方法、並びにプログラム
US11902768B2 (en) Associated spatial audio playback
KR20200139670A (ko) 오디오 객체의 객체 위치를 변환시키기 위한 장치, 오디오 스트림 제공기, 오디오 콘텐츠 생성 시스템, 오디오 재생 장치, 방법 및 컴퓨터 프로그램
EP4167600A2 (en) A method and apparatus for low complexity low bitrate 6dof hoa rendering
US20240129681A1 (en) Scaling audio sources in extended reality systems
US20240007818A1 (en) Information processing device and method, and program
WO2022234698A1 (ja) 情報処理装置および方法、並びにプログラム
WO2022262750A1 (zh) 音频渲染系统、方法和电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230511

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240430