本願は、符号化及び復号化技術の分野に、特に、点群(point cloud)符号化方法、点群復号化方法、符号器、及び復号器に関係がある。
3Dセンサ(例えば、3Dスキャナ)技術の絶え間のない発展とともに、点群データ収集はより使いやすく、収集された点群データはより大きい規模を有する。従って、いかにして点群データを有効に符号化及び復号するかは、解決されるべき緊急課題になっている。
本願の実施形態は、点群符号化及び復号化性能を改善するのを助けるように、点群符号化方法、点群復号化方法、符号器、及び復号器を提供する。
第1の態様に従って、本願の実施形態は、符号化されるべき点群の境界ボックス(Bounding Box)サイズの記述情報及び符号化されるべき点群における符号化されるべきパッチ(patch)の法線(Normal)軸を取得することであり、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線(Tangent)軸及び符号化されるべきパッチの従接線(Bi-tangent)軸を決定するために使用される、ことと、シンタックス要素をビットストリームに符号化することであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、こととを含む点群符号化方法を提供する。一例で、方法は、符号器によって実行されてよい。符号化されるべき点群は、符号化されるべき点群のいずれかのフレームであってよく、符号化されるべきパッチは、符号化されるべき点群におけるいずれかのパッチであってよい。
点群の境界ボックスは、点群を囲む最小のキューボイドを指す。
点群の境界ボックスサイズは、点群の境界ボックスの辺サイズ、点群の境界ボックスの3次元空間サイズ、又は点群の境界ボックスのジオメトリック空間サイズとも呼ばれることがあり、基準座標軸(例えば、世界座標系)における3つの座標軸上の点群の境界ボックスの辺のサイズを使用することによって表されてよい。
点群の境界ボックスサイズの記述情報は、点群の境界ボックスサイズを記述するために使用される情報である。例えば、点群の境界ボックスサイズの記述情報は、点群の境界ボックスの辺サイズ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などを含んでよい。
任意に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報、点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、点群の境界ボックスの辺サイズ間のサイズ関係のインデックス、などを含んでよい。点群の境界ボックスサイズの記述情報を示すために使用される情報が点群の境界ボックスのサイズ情報である場合に、相応して、点群の境界ボックスサイズの記述情報は、点群の境界ボックスの辺サイズ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などであってよいことが留意されるべきである。すなわち、符号器側又は復号器側にかかわらず、点群の辺サイズ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などは、点群の境界ボックスのサイズ情報に基づいて取得され得る。
点群の境界ボックスサイズの記述情報が点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報又は点群の境界ボックスの辺サイズ間のサイズ関係のインデックスを含んでよい。
点群の境界ボックスサイズの記述情報が点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報又は点群の境界ボックスの最も長い辺が位置する座標軸を含んでよい。
符号化されるべきパッチの法線軸のインデックスは、パッチレベル(又はパッチ粒度と呼ばれる)に基づく情報である。符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、フレームレベル(又はフレーム粒度と呼ばれる)に基づく情報である。上記2つの情報をビットストリームに符号化する手順は、本願のこの実施形態で制限されず、異なるレベルでのシンタックス要素が別々にビットストリームに符号化されてよい。例えば、フレームレベル(例えば、点群レベル)に基づく情報はビットストリームに符号化され、そして、パッチレベルに基づく情報はビットストリームに符号化される。すなわち、2つの情報が、異なる時点でビットストリームに符号化され得る。
点群の境界ボックスサイズの記述情報は、点群における大部分のパッチの姿勢を間接的に反映するために、3次元空間における点群の姿勢を反映してよい。一例で、3次元空間における点群の姿勢は、点群が3次元空間において水平又は垂直であるかどうかに関する情報によって表されてよい。例えば、図6(a)に示される点群は垂直であり、図8(a)に示される点群は水平である。これに基づいて、図6(a)に示される点群における大部分のパッチは垂直であり、図8(a)に示される点群における大部分のパッチは水平である、と見なされ得る。その上、同じ姿勢にあるパッチが異なる2次元座標系へマッピングされる場合に、投影された像の姿勢は異なる(図11に図示)。従って、点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて点群における符号化されるべきパッチの接線軸及び従接線軸を決定することは、パッチを2次元平面上に投影することによって得られる投影像の姿勢を調整するのを助け、それにより、パッチの投影像は、点群の占有マップにおいて密に配置される、すなわち、点群の占有マップに存在する空きピクセルは比較的に少数である。これは、点群の占有マップに基づいて決定されるデプスマップ及びテクスチャマップに対して実行されるピクチャ/ビデオベース符号化を容易にする。すなわち、点群符号化性能は、点群復号化性能を改善するのを助けるように、改善され得る。例えば、パッチの接線軸及び従接線軸が、本願のこの実施形態で提供される方法に基づいて決定される場合に、図8(b)における長方形ボックス内の投影像の姿勢は、垂直にセットされ得る。このようにして、符号器が、点群の占有マップを生成するようパッキングを実行する場合に、投影像は垂直であることができ、それにより、点群におけるパッチの投影像は、点群の占有マップにおいて密に配置され得る。
可能な設計で、方法は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを更に含んでよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、マッピング関係テーブルを探索することによって、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを含んでよく、マッピング関係テーブルは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係を含む。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定することであり、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む、ことと、パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定することであり、決定された対象接線モードに含まれる接線軸が符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が符号化されるべきパッチの前記従接線軸である、こととを含んでよい。例えば、マッピング関係は、予め定義され、例えば、プロトコルに従って予め定義されてよく、具体的、例として、制限なしに、1つ以上のテーブルに格納されてよい。この場合に、この可能な設計は、テーブル探索を通じて実施されてよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定することを含んでよく、決定された対象接線軸は、符号化されるべきパッチの接線軸であり、決定された対象従接線軸は、符号化されるべきパッチの従接線軸である。例えば、マッピング関係は、予め定義され、例えば、プロトコルに従って予め定義されてよく、具体的に、例として、制限なしに、1つ以上のテーブルに格納されてよい。この場合に、この可能な設計は、テーブル探索を通じて実施されてよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり(この場合に、符号化されるべきパッチの法線軸及び従接線軸の両方に垂直である座標軸は、符号化されるべきパッチの接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの接線軸である(これは、解決法A1と標記される)。代替的に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり(この場合に、符号化されるべきパッチの法線軸及び接線軸の両方に垂直である座標軸は、符号化されるべきパッチの従接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの従接線軸である(これは、解決法A2と標記される)。これは、符号化されるべき点群における全てのパッチを2次元平面上に投影することによって得られる投影像のほとんどが同じ方向において分布していることを確かにするのを助け、それにより、それらのパッチをパッキングすることによって生成される符号化されるべき点群の占有マップは、比較的に小さいサイズを有し(すなわち、パッチは、より密に配置される)、それによって、ビットストリーム伝送のビットオーバーヘッドを低減する。投影像が同じ方向において分布していることは、投影像を囲む最も小さい長方形の長辺(すなわち、幅及び高さにおいて長い方の辺)が同じ方向において分布していることを意味する。例えば、最も小さい長方形の各辺は、3次元空間において基準座標系(例えば、世界座標系)の1つの座標軸と平行である。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり(この場合に、符号化されるべきパッチの法線軸及び従接線軸の両方に垂直である座標軸は、符号化されるべきパッチの接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの従接線軸であり、他方は、符号化されるべきパッチの接線軸である(これは、解決法B1と標記される)。代替的に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり(この場合に、符号化されるべきパッチの法線軸及び接線軸の両方に垂直である座標軸は、符号化されるべきパッチの従接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの接線軸であり、他方は、符号化されるべきパッチの従接線軸である(これは、解決法B2と標記される)。これは、符号化されるべき点群における全てのパッチを2次元平面上に投影することによって得られる投影像のほとんどが同じ方向において分布していることを確かにするのを助け、それにより、それらのパッチをパッキングすることによって生成される符号化されるべき点群の占有マップは、比較的に小さいサイズを有し、それによって、ビットストリーム伝送のビットオーバーヘッドを低減する。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、投影規則に従って、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを含んでよく、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。例えば、投影規則は、水平投影又は垂直投影を示してよい。
例えば、2次元平面は、パッチの接線軸及びパッチの従接線軸が位置する面である。ここでのパッチは、一般化されたパッチであり、符号化されるべきパッチを含む。一例で、2次元平面の水平軸は、パッチの接線軸であり、垂直軸は、パッチの従接線軸である。任意に、2次元平面の水平軸は、パッチの従接線軸であり、垂直軸は、パッチの接線軸である。記載の簡単のために、別なふうに示されない限りは、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、本願の実施形態の具体的な実施で記載されている全ての技術的解決法において説明のために使用される。
例えば、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、符号化されるべきパッチを3次元座標系から2次元座標系へ投影するために使用される。
可能な設計で、符号化されるべき点群を投影するための投影規則は、デフォルトの投影規則、又は前もってセットされた投影規則(又は予め意定義された投影規則と呼ばれ、例えば、符号器側と復号器側との間のプロトコルに従って予め定義されてよい)であってよい。代替的に、符号化されるべき点群を投影するための投影規則は、パースすることによりビットストリームから取得されたシンタックス要素によって示される投影規則であってよい。
可能な設計で、シンタックス要素は、投影規則を示すために使用される情報を更に含んでよい。投影規則を示すために使用される情報は、フレームレベルに基づく情報である。
可能な設計で、方法は、レート歪みコスト基準に従って、符号化されるべき点群を投影するための投影規則を決定することを更に含んでよい。具体的に、“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸と”の間の対応するマッピング関係は、候補投影規則の夫々に基づいて選択され、それにより、符号化されるべきパッチの接線軸及び従接線軸は、マッピング関係に基づいて予め定義され、それから、符号化されるべき点群のビットストリーム伝送のビットオーバーヘッドは、予め定義される。その後に、最も低い伝送ビットオーバーヘッドに対応する候補投影規則(又は前もってセットされたオーバーヘッド以下の伝送ビットオーバーヘッドに対応する候補投影規則)が、符号化されるべき点群を投影するための投影規則として選択される。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含むことが考えられる。この場合に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A1であってよい。代替的に、投影規則が水平投影を示すならば、具体的な解決法は、上記の解決法A2であってよい。この可能な設計で、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、説明のために使用される。
代替的に、2次元平面の水平軸がパッチの従接線軸であり、垂直軸がパッチの接線軸である場合に、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A2であってよい。代替的に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A1であってよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含むことが考えられる。この場合に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B1であってよい。代替的に、投影規則が水平投影を示すならば、具体的な解決法は、上記の解決法B2であってよい。この可能な設計で、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、説明のために使用される。
代替的に、2次元平面の水平軸がパッチの従接線軸であり、垂直軸がパッチの接線軸である場合に、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B2であってよい。代替的に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B1であってよい。
第2の態様に従って、本願の実施形態は、シンタックス要素を取得するようビットストリームをパースすることであり、シンタックス要素は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含む、ことと、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することと、復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ(geometry)情報を再構成することであり、1つ以上のパッチは復号されるべきパッチを含む、こととを含む群復号化方法を提供する。点群のジオメトリ情報は、3次元空間における点群内の点(例えば、点群内の各点)の座標を指す。
可能な設計、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群の境界ボックスのサイズ情報、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスを含む。
復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含んでよい。
例えば、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を取得することを更に含んでよい。それから、任意に、以下で提供される可能な設計に従って、復号されるべきパッチの接線軸及び従接線軸が決定され得る。
例えば、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を取得してよい。それから、任意に、以下で提供される可能な設計に従って、復号されるべきパッチの接線軸及び従接線軸が決定され得る。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定することであり、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む、ことと、パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定することであり、決定された対象接線モードに含まれる接線軸が復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が復号されるべきパッチの従接線軸である、こととを含んでよい。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定することを含んでよく、決定された対象接線軸は、復号されるべきパッチの接線軸であり、決定された対象従接線軸は、復号されるべきパッチの従接線軸である。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの接線軸である(これは、解決法C1と標記される)。代替的に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの従接線軸である(これは、解決法C2と標記される)。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの従接線軸であり、他方は、復号されるべきパッチの接線軸である(これは、解決法D1と標記される)。代替的に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの接線軸であり、他方は、復号されるべきパッチの従接線軸である(これは、解決法D2と標記される)。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、投影規則(以下、復号されるべき点群を投影するための投影規則と呼ばれる)に従って、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することを含んでよく、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。例えば、投影規則は、水平投影又は垂直投影を示してよい。
可能な設計で、復号されるべき点群を投影するための投影規則は、前もってセットされる。
可能な設計で、シンタックスは、復号されるべき点群を投影するための投影規則を示すために使用される情報を更に含み、相応して、投影規則は、パースすることによりビットストリームから取得されたシンタックス要素によって示される投影規則である。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む。投影規則が垂直投影を示す場合に、具体的な解決法は、上記の解決法C1であってよい。代替的に、投影規則が水平投影を示す場合に、具体的な解決法は、上記の解決法C2であってよい。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む。投影規則が垂直投影を示す場合に、具体的な解決法は、上記の解決法D1であってよい。代替的に、投影規則が水平投影を示す場合に、具体的な解決法は、上記の解決法D2であってよい。
第2の態様及び第2の態様の可能な設計のうちのいずれか1つで提供される技術的解決法は、第1の態様又は第1の態様で提供される対応する点群符号化方法に対応する。従って、達成され得る有利な効果及び関連する内容の説明については、上記の記載を参照されたい。
第3の態様に従って、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチパッチの法線軸を取得することであり、符号化されるべき点群グループは、点群の少なくとも2つのフレームを含み、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される、ことと、シンタックス要素をビットストリームに符号化することであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、こととを含む点群符号化方法を提供する。この技術的解決法と第1の態様の技術的解決法との間の相違は、この技術的解決法では点群符号化が点群グループに対して行われる点にある。従って、第1の態様で提供される技術的解決法に従って達成され得る有利な効果に加えて、符号化複雑性は更に低減可能であり、ビットストリーム伝送のビットオーバーヘッドは更に低減可能である。
可能な設計で、方法は、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを更に含む。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を取得することは、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスサイズを使用すること、又は符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報を使用することを含んでよい。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報に関する情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は符号化されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係を含んでよい。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの中で最も出現頻度が高いサイズ情報を含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は符号化されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係であってよいことが理解され得る。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックスを含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸であってよいことが理解され得る。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺サイズ間のサイズ関係のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺サイズ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係であってよいことが理解され得る。
任意に、第1の態様で提供されるいずれかの可能な設計におけるフレームレベルに基づく情報を、フレームのグループ(group of frames,GOF)レベルに基づく情報で置き換えることによって得られる全ての可能な設計は、第3の態様に適用可能である。例えば、第1の態様で提供されるいずれかの可能な設計における“点群の境界ボックス”は。“点群グループの境界ボックス”で置き換えられる。例えば、第1の態様で提供される可能な設計における“符号化されるべき点群を投影するための投影規則”は、“符号化されるべき点群グループを投影するための投影規則”で置き換えられる。詳細は、1つずつここで記載されない。
第4の態様に従って、本願の実施形態は、シンタックス要素を取得するようビットストリームをパースすることであり、シンタックス要素は、復号されるべき点群グループにおける復号されるべきパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、点群グループは、点群の少なくとも2つのフレームを含む、ことと、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することと、復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成することであり、1つ以上のパッチは復号されるべきパッチを含む、こととを含む点群符号化方法を提供する。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報は、復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は復号されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係を含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの中で最も出現頻度が高いサイズ情報を含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックスを含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺サイズ間のサイズ関係のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺サイズ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。
任意に、第2の態様で提供されるいずれかの可能な設計におけるフレームレベルに基づく情報をGOFレベルに基づく情報で置き換えることによって得られる全ての可能な設計は、第4の態様に適用可能である。例えば、第2の態様で提供されるいずれかの可能な設計における“点群の境界ボックス”は、“点群グループの境界ボックス”で置き換えられる。例えば、第2の態様で提供される可能な設計における“復号されるべき点群を投影するための投影規則”は、“復号されるべき点群グループを投影するための投影規則”で置き換えられる。詳細は、1つずつここで記載されない。
第4の態様及び第4の態様の可能な設計のうちのいずれか1つで提供される技術的解決法は、第3の態様又は第3の態様で提供される対応する点群符号化方法に対応する。従って、達成され得る有利な効果及び関連する内容の説明については、第3の態様を参照されたい。
第5の態様に従って、本願の実施形態は、パッチの接線軸及び従接線軸を決定する方法を提供する。方法は、処理されるべき点群の境界ボックスサイズの記述情報及び処理されるべき点群における処理されるべきパッチの法線軸を取得することと、処理されるべき点群の境界ボックスサイズの記述情報及び処理されるべきパッチの法線軸に基づいて、処理されるべきパッチの接線軸及び処理されるべきパッチの従接線軸を決定することとを含む。
一例で、方法は、符号器によって実行されてよい。この場合に、処理されるべき点群は、具体的に、符号化されるべき点群であり、処理されるべきパッチは、具体的に、符号化されるべきパッチである。この場合に、第5の態様で提供される技術的解決法における関連する用語及び関連するステップの具体的な実施の説明については、第1の態様におけるいずれかの可能な設計を参照されたい。
一例で、方法は、復号器によって実行されてよい。この場合に、処理されるべき点群は、具体的に、復号されるべき点群で有り、処理されるべきパッチは、具体的に、復号されるべきパッチである。この場合に、第5の態様で提供される技術的解決法における関連する用語及び関連するステップの具体的な実施の説明の説明については、第2の態様におけるいずれかの可能な設計を参照されたい。
第6の態様に従って、本願の実施形態は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得するよう構成されるパッチ情報生成モジュールであり、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される、パッチ情報生成モジュールと、シンタックス要素をビットストリームに符号化するよう構成される補助情報符号化モジュールであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、補助情報符号化モジュールとを含む符号器を提供する。
代替的に、第6の態様における“符号化されるべき点群の境界ボックスサイズの記述情報”は、“符号化されるべき点群グループの境界ボックスサイズの記述情報”で置き換えられてよく、点群グループは、点群の少なくとも2つのフレームを含む。
第7の態様に従って、本願の実施形態は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをパースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される補助情報復号化モジュールと、復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ情報を再構成するよう構成される点群ジオメトリ情報再構成モジュールであり、1つ以上のパッチは、復号されるべきパッチを含む、点群ジオメトリ情報再構成モジュールとを含む復号器を提供する。
代替的に、第7の態様における“復号されるべき点群の境界ボックスサイズの記述情報”は、“復号されるべき点群グループの境界ボックスサイズの記述情報”で置き換えられてよく、点群グループは、点群の少なくとも2つのフレームを含む。
第8の態様に従って、本願の実施形態は、点群データ符号化デバイスを提供する。デバイスは、メモリ及び符号器を含んでよい。
メモリは、点群データを記憶するよう構成され、点群データは、点群の1つ以上のフレームを含む。
符号器は、識別子をビットストリームに符号化するよう構成される。識別子は、点群の1つ以上のフレームの中の符号化されるべき点群におけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、フレームレベルに基づく情報である)の接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、符号化されるべき点群におけるパッチを第1の態様で提供される点群符号化方法に従って符号化すべきかどうかを示すために使用される。識別子が、符号化されるべき点群における符号化されるべきパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、符号器は、第1の態様で提供されるいずれかの点群符号化方法に従って、符号化を実行する。
代替的に、第8の態様における点群データは、1つ以上の点群グループを含み、各点群グループは、点群の1つ以上のフレームを含む。符号器は、識別子をビットストリームに符号化するよう構成される。識別子は、1つ以上の点群グループ内の符号化されるべき点群グループにおけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、GOFレベルに基づく情報である)の接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、符号化されるべき点群グループにおけるパッチを第3の態様で提供される点群符号化方法に従って符号化すべきかどうかを示すために使用される。識別子が、符号化されるべき点群グループにおける符号化されるべきパッチの接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、符号器は、第3の態様で提供されるいずれかの点群符号化方法に従って、符号化を実行する。
第9の態様に従って、本願の実施形態は、点群データ復号化デバイスを提供する。デバイスは、メモリ及び復号器を含んでよい。
メモリは、ビットストリームの形で点群データを記憶するよう構成され、点群データは、点群の1つ以上のフレームを含む。
復号器は、識別子を取得するようビットストリームを復号するよう構成される。識別子は、点群の1つ以上のフレームの中の復号されるべき点群におけるパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、復号されるべき点群におけるパッチを第2の態様で提供される点群復号化方法に従って復号すべきかどうかを示すために使用される。識別子が、復号されるべき点群における復号されるべきパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、復号器は、第2の態様で提供されるいずれかの点群復号化方法に従って、復号化を実行する。
代替的に、第9の態様における点群データは、1つ以上の点群グループを含み、各点群グループは、点群の1つ以上のフレームを含む。復号器は、識別子をビットストリームに符号化するよう構成される。識別子は、1つ以上の点群グループ内の復号されるべき点群グループにおけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、GOFレベルに基づく情報である)の接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、復号されるべき点群グループにおけるパッチを第3の態様で提供される点群復号化方法に従って復号すべきかどうかを示すために使用される。識別子が、復号されるべき点群グループにおける復号されるべきパッチの接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、復号器は、第4の態様で提供されるいずれかの点群復号化方法に従って、復号化を実行する。
第10の態様に従って、本願の実施形態は、互いに結合されている不揮発性メモリ及びプロセッサを含む符号化デバイスを提供し、プロセッサは、メモリに記憶されているプログラムを呼び出して、第1の態様又は第3の態様のいずれかの方法の一部又は全てのステップを実行する。
第11の態様に従って、本願の実施形態は、互いに結合されている不揮発性メモリ及びプロセッサを含む復号化デバイスを提供し、プロセッサは、メモリに記憶されているプログラムを呼び出して、第2の態様又は第4の態様のいずれかの方法の一部又は全てのステップを実行する。
第12の態様に従って、本願の実施形態は、パッチの接線軸及び従接線軸を決定する装置を提供する。装置は、第5の態様で提供されるいずれかの方法を実行するよう構成されてよい。一例で、装置は、チップであってよい。可能な設計で、装置は、第5の態様で提供される方法に従って機能モジュールに分割されてよい。例えば、各機能モジュールは、各対応する機能に基づいて分割により取得されてよく、あるいは、2つ以上の機能は、1つの処理モジュールに一体化されてよい。可能な設計で、装置はメモリ及びプロセッサを含んでよく、メモリは、プログラムコードを記憶するよう構成され、プログラムコードがプロセッサによって実行される場合に、第5の態様で提供されるいずれかの方法は実行される。
第13の態様に従って、本願の実施形態は、符号器、復号器、又はパッチの接線軸及び従接線軸を決定する装置の機能を実装するよう構成された処理装置を提供する。処理装置は、プロセッサ及びインターフェースを含む。処理装置は、チップであってよい。プロセッサは、ハードウェア又はソフトウェアによって実施されてよい。ハードウェアによって実施される場合に、プロセッサは、ロジック回路、集積回路、などであってよい。ソフトウェアによって実施される場合に、プロセッサは、汎用プロセッサであってよい。メモリに記憶されているソフトウェアコードを読み出すことによって実施される場合に、メモリは、プロセッサに組み込まれてよく、あるいは、プロセッサの外に独立して存在してもよい。
第14の態様に従って、本願の実施形態は、コンピュータ可読記憶媒体を提供する。コンピュータ可読記憶媒体は、プログラムコードを記憶し、プログラムコードは、第1の態様から第5の態様におけるいずれかの方法の一部又は全てのステップを実行するために使用される命令を含む。
第15の態様に従って、本願の実施形態は、コンピュータプログラム製品を提供する。コンピュータプログラム製品がコンピュータで実行される場合に、コンピュータは、第1の態様から第5の態様におけるいずれかの方法の一部又は全てのステップを実行することを可能にされる。
第2乃至第15の態様は、本願の第1の態様における技術的解決法と一致するか、あるいは、本願の第1の態様における技術的解決法に対応することが理解されるべきである。従って、それらの態様及び対応する可能な設計の有利な効果は同様であり、詳細は再び記載されない。
本願の実施形態に適用可能な点群コーディングシステムの例のブロック図である。
本願の実施形態に適用可能な符号器の例の略ブロック図である。
本願の実施形態に適用可能なビットストリームの例の略構造図である。
本願の実施形態に適用可能な復号器の例の略ブロック図である。
TMC2に適用可能なパッチ生成プロセスの概略図である。
(a)から(c)は、本願の実施形態に適用可能なパッチの例の概略図である。
(a)及び(b)は、先行技術における3次元空間から2次元平面へのパッチの投影の概略図である。
(a)及び(b)は、先行技術における点群の占有マップの概略図である。
本願の実施形態に従う点群符号化方法の略フローチャートである。
本願の実施形態に従う、世界座標系における点群の境界ボックスの位置の概略図である。
(a)から(c)は、本願の実施形態に従う3次元空間から2次元平面へのパッチの投影の概略図である。
本願の実施形態に従う点群復号化方法の略フローチャートである。
本願の実施形態に従う他の点群符号化方法の略フローチャートである。
本願の実施形態に従う他の点群復号化方法の略フローチャートである。
本願の実施形態に従う符号器の略ブロック図である。
本願の実施形態に従う復号器の略ブロック図である。
本願の実施形態に適用可能な符号化デバイス又は復号化デバイスの略ブロック図である。
本願の説明中、「/」は、別なふうに特定されない限りは、「又は」を意味する。例えば、A/Bは、A又はBを表し得る。本明細書において、「及び/又は」は、関連するオブジェクトを記載する単なる関連付け関係を示し、3つの関係が存在する可能性があることを表す。例えば、A及び/又はBは、次の3つの場合:Aのみが存在する、A及びBの両方が存在する、及びBのみが存在する、を表し得る。「複数の〜」は、「2つ以上」を意味する。加えて、本願の実施形態における技術的解決法を明りょうに記載するために、「第1」及び「第2」などの語は、基本的に同じ機能及び目的を有している同じアイテム又は類似したアイテムを区別するために、本願の実施形態に使用される。当業者であれば、「第1」及び「第2」などの語には、数量又は実行順序を限定する意図はなく、「第1」及び「第2」などの語は、決定的な違いを示すものではない、と理解し得る。加えて、本願の説明中、「上」、「下」、「左」、「右」、「前」、及び「後ろ」などの記載は全て、添付の図面を例として使用することによってもたらされる。
本願の説明中、説明は、3次元空間の座標系が世界座標系(又は物理座標系と呼ばれる)として使用され、世界座標系の3つの座標軸が夫々x軸、y軸、及びz軸であり、3つの座標軸と3つの座標軸のインデックスとの間の対応が表1に示されるところの例を使用することによって、提供される。x軸は、水平方向における座標軸であり、y軸は、垂直方向における座標軸であり、z軸は、x軸及びy軸が位置する面に垂直な座標軸である。このことは、ここで一律に記載され、以下で再び記載されない。
図1は、本願の実施形態に適用可能な点群コーディングシステム1の例のブロック図である。本願で、「点群コーディング」又は「コーディング」との語は、一般に、点群符号化又は点群復号化を指し得る。点群コーディングシステム1の符号器100は、本願で提供されるいずれかの点群符号化方法に従って、符号化されるべき点群を符号化してよい。点群コーディングシステム1の復号器200は、本願で提供されるいずれかの点群復号化方法に従って、復号されるべき点群を復号してよい。具体的に、点群符号化方法及び点群復号化方法は両方とも、点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、点群(又は点群グループ)の境界ボックスサイズの記述情報及びパッチの法線軸に基づいて決定することを含んでよい。これに基づき、点群(又は点群グループ)の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間の対応は、点群符号化及び復号化性能を改善するのを助けるように、適切にセットされる。この解決法における関連する項目及び有利な効果の分析については、下記を参照されたい。
図1に示されるように、点群コーディングシステム1は、発信元装置10及びあて先装置20を含む。発信元装置10は、符号化された点群データを生成する。従って、発信元装置10は、点群符号化装置と呼ばれ得る。あて先装置20は、発信元装置10によって生成された符号化された点群データを復号してよい。従って、あて先装置20は、点群復号化装置と呼ばれ得る。発信元装置10、あて先装置20、又は発信元装置10及びあて先装置20の両方の様々な実施解決法は、1つ以上のプロセッサと、1つ以上のプロセッサへ結合されているメモリとを含んでよい。メモリは、制限なしに、ランダム・アクセス・メモリ(random access memory,RAM)、リード・オンリー・メモリ(read-only memory,ROM)、電気的消去可能なプログラム可能リード・オンリー・メモリ(electrically erasable programmable read-only memory,EEPROM)、フラッシュメモリ、又は本明細書で記載されるように、コンピュータによってアクセスされ得る命令若しくはデータ構造の形で所望のプログラムコードを記憶するために使用され得るあらゆる他の媒体を含んでよい。
発信元装置10及びあて先装置20は、デスクトップコンピュータ、モバイルコンピューティング装置、ノートブック(例えば、ラップトップ)コンピュータ、タブレットコンピュータ、セットトップボックス、“スマート”フォンなどの携帯電話機、テレビ受像機、カメラ、ディスプレイ装置、デジタルメディアプレイヤー、ビデオゲーム機、車載コンピュータ、又は同様の装置を含む様々な装置を含んでよい。
あて先装置20は、符号化された点群データを発信元装置10からリンク30を介して受信してよい。リンク30は、符号化された点群データを発信元装置10からあて先装置20へ移動することができる1つ以上の媒体又は装置を含んでよい。一例で、リンク30は、符号化された点群データをあて先装置20へ実時間で直接に送ることを発信元装置10に可能にする1つ以上の通信媒体を含んでよい。この例で、発信元装置10は、通信標準規格(例えば、無線通信プロトコル)に従って、符号化された点群データを変調してよく、そして、変調された点群データをあて先装置20へ送信してよい。1つ以上の通信媒体は、無線及び/又は有線通信媒体、例えば、無線周波数(radio frequency,RF)スペクトル又は1つ以上の物理伝送線路を含んでよい。1つ以上の通信媒体は、パケットベースのネットワークの部分を構成してよく、パケットベースのネットワークは、例えば、ローカル・エリア・ネットワーク、ワイド・エリア・ネットワーク、又はグローバル・ネットワーク(例えば、インターネット)である。1つ以上の通信媒体は、ルータ、スイッチ、基地局、又は発信元装置10からあて先装置20への通信を助ける他のデバイスを含んでよい。
他の例で、符号化されたデータは、出力インターフェース140を通じて記憶装置40へ出力されてもよい。同様に、符号化された点群データは、入力インターフェース240によって記憶装置40からアクセスされてもよい。記憶装置40は、複数の分散されたデータ記憶媒体又はローカルでアクセスされるデータ記憶媒体、例えば、ハードドライブ、ブルーレイディスク、デジタル・バーサタイル・ディスク(digital versatile disc,DVD)、コンパクト・ディスク・リード・オンリー・メモリ(compact disc read-only memory,CD−ROM)、フラッシュメモリ、揮発性若しくは不揮発性メモリ、又は符号化された点群データを記憶するよう構成されたあらゆる他の適切なデジタル記憶媒体のうちのいずれか1つを含んでよい。
他の例で、記憶装置40は、発信元装置10によって生成された符号化された点群データを記憶することができるファイルサーバ又は他の中間記憶装置に対応してよい。あて先装置20は、ストリーミング伝送又は記憶装置40からのダウンロードを通じて、記憶されている点群データにアクセスしてよい。ファイルサーバは、符号化された点群データを記憶し、符号化された点群データをあて先装置20へ送信することができる如何なるタイプのサーバであってもよい。例となるファイルサーバは、ネットワークサーバ(例えば、ウェブサイトに使用される)、ファイル転送プロトコル(file transfer protocol,FTP)サーバ、ネットワーク・アタッチド・ストレージ(network attached storage,NAS)装置、又はローカル・ディスク・ドライブを含む。あて先装置20は、如何なる標準のデータ接続(インターネット接続を含む)によっても、符号化された点群データにアクセスしてよい。標準のデータ接続は、ファイルサーバに記憶されている符号化された点群データにアクセスするのに適している無線チャネル(例えば、Wi−Fi接続)、有線接続(例えば、デジタル加入者回線(digital subscriber line,DSL)若しくはケーブルモデム)、又はそれらの組み合わせを含んでよい。記憶装置40からの符号化された点群データの伝送は、ストリーミング伝送、ダウンロード伝送、又はそれらの組み合わせであってよい。
図1に記載される点群コーディングシステム1は、一例にすぎず、本願の技術は、点群符号化装置と点群復号化装置との間の如何なるデータ通信も必ずしも含まない点群コーディング(例えば、点群符号化又は点群復号化)装置に適用可能である。他の例で、データは、ローカルメモリから読み出されるか、ストリーミング方式においてネットワーク上で伝送されるか、など。点群符号化装置は、データを符号化し、データをメモリに記憶してよく、かつ/あるいは、点群復号化装置は、メモリからデータを読み出し、データを復号してよい。多くの例では、単にデータを符号化し、データをメモリに格納し、かつ/あるいは、メモリからデータを読み出し、データを復号するだけであって、互いに通信しない装置が、符号化及び復号化を実行する。
図1の例では、発信元装置10は、データソース120、符号器100、及び出力インターフェース140を含む。いくつかの例で、出力インターフェース140は、変調器/復調器(モデム)及び/又は送信器を含んでよい(又は送信器と呼ばれる)。データソース120は、点群捕捉装置(例えば、カメラ)、前に捕捉された点群データを含む点群アーカイブ、点群コンテンツプロバイダから点群データを受信するよう構成された点群フィードインインターフェース、及び/又は点群データを生成するよう構成されたコンピュータグラフィクスシステム、あるいは、点群データのこれらのソースの組み合わせを含んでよい。
符号器100は、データソース120からの点群データを符号化してよい。いくつかの例で、発信元装置10は、符号化された点群データをあて先装置20へ出力インターフェース140を通じて直接送信する。他の例では、符号化された点群データは、代替的に、記憶装置40に記憶されてよく、それにより、あて先装置20は、その後に、復号化及び/又は再生のために、符号化された点群データにアクセスする。
図1の例では、あて先装置20は、入力インターフェース240、復号器200、及びディスプレイ装置220を含む。いくつかの例で、入力インターフェース240は、受信器及び/又はモデムを含む。入力インターフェース240は、リンク30を介して及び/又は記憶装置40から、符号化された点群データを受け取ってよい。ディスプレイ装置220は、あて先装置20と一体化されてよく、あるいは、あて先装置20の外に配置されてよい。通常は、ディスプレイ装置220は、復号された点群データを表示する。複数のタイプのディスプレイ装置220、例えば、液晶ディスプレイ(liquid crystal display,LCD)、プラズマディスプレイ、有機発光ダイオード(organic light-emitting diode,OLED)ディスプレイ、又は他のタイプのディスプレイ装置が存在してよい。
図1に図示されていないが、いくつかの態様で、符号器100及び復号器200は、夫々、オーディオ符号器及びオーディオ復号器と一体化されてよく、結合されたデータストリーム又は個別のデータストリーム内のオーディオ及びビデオの符号化を処理するように、適切なマルチプレクサ−デマルチプレクサ(multiplexer-demultiplexer,MUX−DEMUX)ユニット又は他のハードウェア及びソフトウェアを含んでよい。いくつかの例で、必要に応じて、MUX−DEMUXユニットが、ITU H.223マルチプレクサプロトコル又は、ユーザ・データグラム・プロトコル(user datagram protocol,UDP)などの他のプロトコルに準拠することができる。
符号器100及び復号器200は夫々、例えば、複数の回路、すなわち、1つ以上のマイクロプロセッサ、デジタル信号プロセッサ(digital signal processing,DSP)、特定用途向け集積回路(application-specific integrated circuit,ASIC)、フィールド・プログラマブル・ゲート・アレイ(field-programmable gate array,FPGA)、ディスクリート・ロジック、ハードウェア、又はそれらの任意の組み合わせ、のうちのいずれか1つとして実施されてよい。本願が部分的にソフトウェアにより実施される場合に、装置は、適切な不揮発性コンピュータ可読記憶媒体において、ソフトウェアに使用される命令を記憶してよく、ハードウェアで命令を実行して本願の技術を実施するために1つ以上のプロセッサを使用してよい。上記の内容(ハードウェア、ソフトウェア、ハードウェアとソフトウェアとの組み合わせ、などを含む)のいずれか1つが、1つ以上のプロセッサと見なされてよい。符号器100及び復号器200は夫々、1つ以上の符号器又は復号器に含まれてよく、符号器又は復号器は、対応する装置において複合型符号器/復号器(コーデック)の部分として組み込まれてよい。
本願において、符号器100は、一般に、何らかの情報を、例えば復号器200へ、「送信」又は「送出」する他の装置と称されることがある。「送信」又は「送出」との語は、一般に、圧縮された点群データを復号するために使用されるシンタックス要素及び/又は他のデータの伝送を指し得る。伝送は、実時間で又はほぼ実時間で起こり得る。代替的に、通信は、ある期間の後に起こり得る。例えば、通信は、符号化されたビットストリーム内のシンタックス要素が符号化中にコンピュータ可読記憶媒体に記憶されるときに起こってよく、復号化装置は、次いで、シンタックス要素が媒体に記憶された後にいつでもシンタックス要素を取り出してよい。
一例で、符号器100は、現在の点群(又は点群グループ)に関するシンタックス要素をビットストリームに符号化するよう構成されてよい。シンタックス要素は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を示すために使用される情報を含んでよい。情報は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用される識別子(すなわち、復号器200が、本願で提供される方法を使用することによって、現在の点群(又は点群グループ)についてパッチの接線軸及び従接線軸を決定するかどうかを示すために使用される識別子)を含んでよい。符号器100及び復号器200のデータ処理プロセスは、同じ(又は相応して同じ)である。従って、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すると示すために識別子が使用される場合に、現在の点群(又は点群グループ)に関するシンタックス要素をビットストリームに符号化するときに、符号器100は、ビットストリームを復号器200へ送信してよく、そして、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定してよい。
一例で、復号器200は、現在の点群(又は点群グループ)に関するシンタックス要素を取得するように、ビットストリームをパースするよう構成されてよい。シンタックス要素は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される識別子を含んでよい。この場合に、復号器200は、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定してよい。
実際の実施中に、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定することは、符号器100及び復号器200によって予め定義(例えば、プロトコルに従って予め定義)されてよい。この場合に、符号器100によって復号器200へ送信されたシンタックス要素(具体的に、ピクチャフィルタリングデータを指す)は、上記の識別子を含まなくてもよい。
図2は、本願の実施形態に適用可能な符号器100の例の略ブロック図である。MPEG(Moving Picture Expert Group)点群圧縮(Point Cloud Compression,PCC)符号化フレームワークが、図2において説明のために例として使用される。図2の例では、符号器100は、パッチ情報生成モジュール101、パッキングモジュール102、デプスマップ生成モジュール103、テクスチャマップ生成モジュール104、ピクチャパディングモジュール105、ピクチャベース又はビデオベース符号化モジュール106、占有マップ符号化モジュール107、補助情報符号化モジュール108、マルチプレキシングモジュール109、などを含んでよい。
パッチ情報生成モジュール101は、方法を使用することによって、点群のフレームを複数のパッチにセグメント化し、生成されたパッチの関連情報などを取得するよう構成される。パッチは、点群の1つのフレーム内のいくつかの点を含む組である。通常は、1つ連結領域が1つのパッチに対応する。パッチの関連情報は、制限なしに、次の情報、すなわち、点群をセグメント化することによって取得されるパッチの数、3次元空間における各パッチの位置情報、各パッチの接線軸のインデックス、各パッチの従接線軸のインデックス、各パッチの法線軸のインデックス、各パッチを2次元平面上に投影することによって生成されるデプスマップ、各パッチのデプスマップのサイズ(例えば、デプスマップの長さ及び高さ)、各パッチの占有マップ、など、のうちの少なくとも1つを含んでよい。関連情報のいくつか、例えば、点群をセグメント化することによって取得されるパッチの数、各パッチの法線軸のインデックス、各パッチのデプスマップのサイズ、及び点群における各パッチの位置情報は、補助情報として使用され、符号化(すなわち、圧縮符号化)のために補助情報符号化モジュール108へ送られてよい。各パッチの占有マップは、パッキングのためにパッキングモジュール102へ送られてよい。具体的に、点群のパッチは、特定の順序で配置される(例えば、パッチの占有マップの長さ/高さの降順(又は昇順)で配置される)。次いで、パッチの占有マップは、点群の占有マップを得るように、配置されたパッチの順序で点群の占有マップのための利用可能な空間に逐次置かれる。更に、点群の占有マップにおける各パッチの具体的な位置情報、各パッチのデプスマップ、などは、デプスマップ生成モジュール103へ送られてよい。
点群の占有マップを取得した後、パッキングモジュール102は、点群の占有マップを符号化のために占有マップ符号化モジュール107へ送ってよく、そして、点群の占有マップを使用することによってデプスマップ生成モジュール103及びテクスチャマップ生成モジュール104を別々に導いてよい。デプスマップ生成モジュール103は、点群の占有マップと、点群の各パッチの占有マップ及びデプスマップとに基づいて、点群のデプスマップを生成し、生成されたデプスマップをピクチャパディングモジュール105へ送るよう構成され、それにより、ピクチャパディングモジュール105は、パディングされたデプスマップを取得するように、受け取られたデプスマップに空きピクセルをパディングする。ビデオ符号化は、パディングされたデプスマップに対して行われ、ビデオ復号化は、点群の復号されたデプスマップを取得するよう行われ、再構成された点群のジオメトリ情報は、復号されたデプスマップ、点群の占有マップ、及び各パッチの補助情報を使用することによって取得される。点群のテクスチャ情報及び再構成された点群のジオメトリ情報は、再構成された点群のテクスチャ情報を取得するために、再構成された点群を彩色するようカラーリングモジュールへ送られる。テクスチャマップ生成モジュール104は、点群の占有マップ、再構成された点群のテクスチャ情報、及び点群の各パッチの占有マップに基づいて点群のテクスチャマップを生成し、生成されたテクスチャマップをピクチャパディングモジュール105へ送るよう構成され、それにより、ピクチャパディングモジュール105は、パディングされたテクスチャマップを取得するように、受け取られたテクスチャマップに空きピクセルをパディングする。任意に、テクスチャマップ生成モジュール104は、代替的に、再構成された点群のジオメトリ情報に対してフィルタリングモジュール110によって実行されたフィルタリングを通じて取得された情報に基づいて、点群のテクスチャマップを生成してもよい。
パディングされたデプスマップ及びパディングされたテクスチャマップは、ピクチャベース又はビデオベースの符号化を実行するように、ピクチャパディングモジュール105によってピクチャベース又はビデオベース符号化モジュール106へ送られる。
最後に、ピクチャベース又はビデオベース符号化モジュール106、占有マップ符号化モジュール107、及び補助情報符号化モジュール108は、符号化結果(すなわち、ビットストリーム)をマルチプレキシングモジュール109へ送り、マルチプレキシングモジュール109は、1つのビットストリームを形成するよう連結を実行し、ビットストリームは出力インターフェース140へ送られてよい。
図2に示される符号器100は、一例にすぎないことが理解され得る。具体的な実施では、符号器100は、図2に示されるものよりも多い又は少ないモジュールを含んでよい。これは、本願のこの実施形態で制限されない。
補助情報符号化モジュール108は、パッチレベルに基づく情報(例えば、パッチの法線軸のインデックス)及びフレームレベルに基づく情報(例えば、点群に含まれるパッチの数)をビットストリームに符号化し得ることが上記の説明から分かる。一例で、符号器100は、点群グループに基づいて符号化を実行してよく、このとき、各点群グループは、点群の少なくとも2つのフレームを含んでよい。この場合に、補助情報符号化モジュール108は更に、GOFレベルに基づく情報(例えば、点群グループに含まれる点群のフレームの数)をビットストリームに符号化してよい。図3は、本願の実施形態に適用可能なビットストリームの例の略構造図である。
図3に示されるビットストリームは、ビットストリームにおいてメタデータ情報(シンタックス要素とも呼ばれ得る)を記述するために使用される部分1101を含み、部分1101は、具体的に、下記のフィールドを含んでよい。
フィールド1102は、GOF内のフレームヘッドのメタデータ情報であり、GOFレベルに基づく情報を記述するために使用され、例えば、GOFの識別子情報、GOFに含まれる点群のフレームの数、及びGOFにおける点群の全フレームの共通情報(例えば、点群グループの境界ボックスサイズの記述情報を示すために使用される下記の情報)を含んでよい。
フィールド1103は、GOF内の点群の第1フレームのメタデータ情報であり、点群の第1フレームに関するフレームレベルに基づく情報を記述するために使用され、例えば、点群の第1フレームに含まれるパッチの数、全てのパッチの占有マップの分解能、点群の占有マップ内の各最小ユニットに含まれ得るパッチの最大数、及び点群の第1フレーム内の全パッチの共通情報(例えば、点群の境界ボックスサイズの記述情報を示すために使用される下記の情報)を含んでよい。
フィールド1104は、GOF内の点群の第1フレームのパッチのメタデータ情報であり、点群の第1フレームに関するパッチレベルに基づく情報を記述するために使用され、具体的に、点群の第1フレーム内の第1パッチのメタデータ情報、・・・、i番目のパッチのメタデータ情報、・・・、I番目のパッチのメタデータ情報を順に含んでよく、このとき、1≦i≦Iであり、i及びIは両方とも整数であり、Iは、点群の第1フレームに含まれるパッチの数である。パッチのメタデータ情報は、パッチの法線軸のインデックスなどを含んでよい。
フィールド1105は、GOF内の点群のj番目のフレームのメタデータ情報であり、点群のj番目のフレームに関するフレームレベルに基づく情報を記述するために使用され、ここで、1<j≦Jであり、j及びJは両方とも整数であり、Jは、GOFに含まれる点群のフレームの数である。
フィールド1106は、GOF内の点群のj番目のフレームのパッチのメタデータ情報であり、点群のj番目のフレームに関するパッチレベルに基づく情報を記述するために使用される。
図4は、本願の実施形態に適用可能な復号器200の例の略ブロック図である。MPEG PCC復号化フレームワークが、図4において説明のための例として使用される。図4の例では、復号器200は、デマルチプレクシングモジュール201、ピクチャベース又はビデオベース復号化モジュール202、占有マップ復号化モジュール203、補助情報復号化モジュール204、点群ジオメトリ情報再構成モジュール205、フィルタリングモジュール206、及び点群テクスチャ情報再構成モジュール207を含んでよい。
デマルチプレクシングモジュール201は、対応する復号化モジュールへ入力ビットストリーム(すなわち、連結ビットストリーム)を送るよう構成される。具体的に、デマルチプレクシングモジュール201は、符号化されたテクスチャマップを含むビットストリームと、符号化されたデプスマップを含むビットストリームとをピクチャベース又はビデオベース復号化モジュール202へ送り、符号化された占有マップを含むビットストリームを占有マップ復号化モジュール203へ送り、符号化された補助情報を含むビットストリームを補助情報復号化モジュール204へ送る。
ピクチャベース又はビデオベース復号化モジュール202は、受信された符号化されたテクスチャマップ及び受信された符号化されたデプスマップを復号し、復号化により得られたテクスチャマップ情報を点群テクスチャ情報再構成モジュール207へ送り、復号化により得られたデプスマップ情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。、占有マップ復号化モジュール203は、符号化された占有マップを含む受信されたビットストリームを復号し、復号化により得られた占有マップ情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。補助情報復号化モジュール204は、受信された符号化された補助情報を復号し、復号化により得られた、補助情報を示す情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。
点群ジオメトリ情報再構成モジュール205は、受信された占有マップ情報及び受信された補助情報に基づいて点群ジオメトリ情報を再構成するよう構成される。フィルタリングモジュール206によってフィルタリングされた後、再構成された点群のジオメトリ情報は、点群テクスチャ情報再構成モジュール207へ送られる。点群テクスチャ情報再構成モジュール207は、再構成された点群を取得するように、点群テクスチャ情報を再構成するよう構成される。
図4に示される復号器200は、一例にすぎないことが理解され得る。具体的な実施では、復号器200は、図4に示されるものよりも多い又は少ないモジュールを含んでよい。これは、本願のこの実施形態で制限されない。
本願の実施形態で提供される技術的解決法の理解を容易にするために、下記は、例を用いることによって、パッチ情報生成モジュール101のパッチ生成プロセスと、パッチ情報生成モジュール101によって得られるパッチ関連情報とについて記載する。
図5は、TMC2(Test Model Category 2)に適用可能なパッチ生成プロセスの概略図である。詳細は、KDツリー(K-dimension tree)が最初に点群に基づいて構成され、点群の各点の隣接点がKDツリーに基づいて決定され、各点の法線方向ベクトル(すなわち、法線ベクトル)がその点の隣接点に基づいて取得される、ことを含んでよい。次いで、粗セグメントテーションが、各点の法線方向ベクトル及び予め定義された投影面に基づいて点群に対して実行される(すなわち、各点の投影面が決定される)。予め定義された投影面の1タイプは、点群の境界ボックスの6つの面である。粗セグメントテーション法は、各点の法線方向ベクトルと6つの面の法線方向ベクトルとの間の夾角を別々に計算し、最小の夾角に対応する面をその点の投影面として選択することを含んでよい。その後に、密セグメンテーションが、粗セグメントテーションにより得られた各点の投影面に対して行われる。具体的に、粗セグメントテーション結果は、各点の隣接点の投影面を使用することによって反復更新により調整される。点群の各点の投影面は、密セグメンテーション結果に基づいて決定される。最後に、連結領域は、パッチを生成するように、各投影面に基づいて検出される。例えば、連結領域内の全サンプリング点を含む組がパッチである。
図6(a)から図6(c)は、本願の実施形態に適用可能なパッチの例の概略図である。図6(a)は、点群の1つのフレームを表す。図6(b)は、図6(a)に基づいて生成されたパッチを表す。図6(b)の各連結領域内の点を含む組がパッチである。
上述されたように、パッチ情報生成モジュール101は、点群に基づいて生成されたパッチの関連情報を更に取得してよい。関連情報は、各パッチの接線軸のインデックス、各パッチの従接線軸のインデックス、各パッチの法線軸のインデックス、などを含んでよい。
パッチの接線軸は、パッチの接線が位置する座標軸である。パッチの従接線軸は、パッチの従接線が位置する座標軸である。パッチの従接線は、パッチの接線軸に垂直である。パッチの法線軸は、パッチの法線が位置する座標軸である。パッチの法線軸は、パッチの接線軸及び従接線軸が位置する2次元平面(すなわち、パッチの投影面)に垂直である。続く処理を簡単にするために、“パッチの接線軸、従接線軸、及び法線軸の夫々が世界座標系における座標軸の1つである”ところの例が、本願の実施形態において説明のために使用される。これは、2次元平面へのパッチの投影中の座標系変換の複雑性を低減することができる。確かに、本願はそれに限られない。実際の実施では、“パッチの法線軸、接線軸、及び従接線軸”を含む3次元座標系は、代替的に、世界座標系(又は他の基準座標系)に対して行列変換を実行することによって取得されてもよい。
MPEG PCC符号化フレームワークでは、パッチの接線軸及び従接線軸は、通常は、次の方法、すなわち、最初にパッチの法線軸のインデックスを決定し、次いで、パッチの接線軸及びパッチの従接線軸を取得するよう表2を探索すること、従って、決定される。表2中の座標軸のインデックスは、表1に基づいて取得される。
表2を参照すると、パッチの法線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1であることが分かる。具体的に言えば、パッチの法線軸がx軸である場合に、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されるものと同様であり、これ以上例は挙げられない。
図7(a)及び図7(b)は、3次元空間から2次元平面へのパッチの投影の概略図である。図7で、座標の原点はOと表されている。図7(a)に示される文字Aは3次元空間におけるパッチであり、パッチの法線軸はz軸である、と仮定される。更に、2次元平面上で、パッチの接線軸は水平軸(すなわち、U軸)であり、パッチの従接線軸は垂直軸(すなわち、V軸)である、と仮定される。この場合に、パッチの接線軸はx軸であり、パッチの従接線軸はy軸であることが表2から分かる。すなわち、パッチがマッピングされる2次元平面上で、U軸はx軸であり、V軸はy軸である。これに基づいて、パッチが2次元平面上に投影された後、図7(b)に示される投影像が取得され得る。
各パッチの接線軸及び従接線軸を決定した後、パッチ情報生成モジュール101は、パッチを2次元平面上に投影することによって得られた投影像を更に取得してよい。投影像の各点の座標値は、“パッチの接線軸及び従接線軸”を使用することによって決定された座標系に基づく。次いで、パッキングモジュール102は、点群の占有マップを取得するように、2次元平面上の全パッチの投影像(すなわち、本明細書で記載されるパッチの占有マップ)をパッキングしてよい。
図8(a)及び図8(b)は、点群の占有マップの概略図である。パッチ情報生成モジュール101は、図8(a)に示される点群からパッチを生成し、各パッチの占有マップを取得するように、表2に基づいて各パッチの接線軸及び従接線軸を取得してよい。これに基づいて、パッチの占有マップをパッキングした後、パッキングモジュール102は、図8(b)に示される点群の占有マップを取得し得る。点群の占有マップにおいて、比較的に高い高さ(すなわち、y軸が位置する辺)を有するいくつかのパッチは、垂直方向に配置され、比較的に高い高さを有するいくつかのパッチは、垂直方向に配置される(例えば、長方形ボックス内のパッチ)。これは、図8(b)において空きピクセルが位置している領域のような、点群の占有マップにおける大量の空き空間をもたらす。更に、これは、点群の比較的に大きいサイズの占有マップをもたらし、続くビデオ圧縮符号化にとって好ましくない。
更に、図6(a)から図6(c)に示されるように、各パッチの接線軸及び従接線軸が表2に基づいて取得される場合に、図6(c)に示される占有マップは、図6(b)に示されるパッチに基づいて取得され得る。
下記は、本願の実施形態で提供される点群符号化方法及び点群復号化方法について記載する。
図9は、本願の実施形態に従う点群符号化方法の略フローチャートである。例えば、図1に示される点群符号化システムを参照して、本願の各ステップは、点群符号化システムの発信元装置10によって実行されてよく、より具体的には、発信元装置10の符号器100によって実行されてよい。図9に示される方法は、次のステップを含んでよい。
S101:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得する。符号化されるべき点群は、符号化されるべき点群のいずれかのフレームであってよい。符号化されるべきパッチは、符号化されるべき点群におけるいずれかのパッチであってよい。
点群の境界ボックスは、点群を囲む最小のキューボイドを指す。説明を簡単にするため、本願のこの実施形態では、点群の境界ボックスの各辺は、世界座標系のx軸、y軸、又はz軸などの座標軸に平行又は垂直である。図10は、本願の実施形態に従う、世界座標系における点群の境界ボックスの位置の概略図である。
点群の境界ボックスサイズは、点群の境界ボックスの辺サイズ、点群の境界ボックスの3次元空間サイズ、又は点群の境界ボックスの幾何空間サイズとも呼ばれ得る。例えば、Bx、By、及びBzは、点群の境界ボックスサイズを表すために使用されてよい。Bxは、x軸上の(又はx軸に平行な)点群の境界ボックスの辺のサイズを指し、Byは、y軸上の(又はy軸に平行な)点群の境界ボックスの辺のサイズを指し、Bzは、z軸上の(又はz軸に平行な)点群の境界ボックスの辺のサイズを指す。例えば、符号化されるべきパッチが、符号化されるべき点群におけるi番目の点であり、i=0,1,・・・又はN−1であり、Nが、符号化されるべき点群における点の数である、と仮定される。この場合に、符号化されるべき点群の境界ボックスサイズを取得する方法は、Bx=max{p[i].x}−min{p[i].x}、By={p[i].y}−min{p[i].y}、及びBz={p[i].z}−min{p[i].z}であってよい。xは、x軸上のp[i]の座標値であり、yは、y軸上のp[i]の座標値であり、zは、z軸上のp[i]の座標値である。
点群の境界ボックスサイズの記述情報は、点群の境界ボックスサイズを記述するために使用される情報であり、具体的には、点群の境界ボックスサイズのサイズ関係(すなわち、Bx、By、及びBzの間のサイズ関係)、点群の境界ボックスの最も長い辺が位置する座標軸(例えば、x軸、y軸、又はz軸)、などを含んでよい。具体的な実施中に、点群の境界ボックスサイズの記述情報が具体的に、点群の境界ボックスサイズのサイズ関係又は点群の境界ボックスの最も長い辺が位置する座標軸であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい。確かに、本願はそれに限られない。例えば、点群の境界ボックスサイズの記述情報は、代替的に、指示情報をビットストリームに符号化することによって符号器によって復号器に示されてよい。指示情報は、フレームレベルに基づく情報であることが理解され得る。
通常は、Bx、By、及びBzの中の最大値に対応する辺が、点群の境界ボックスの最も長い辺であり、最小値に対応する辺が、点群の境界ボックスの最も短い辺であり、最大値と最小値との間の値に対応する辺が、点群の境界ボックスの2番目に長い辺である、ことが留意されるべきである。更に、Bx、By、及びBzの中に最大値が2つある場合には、2つの値のうちのどちらか一方が、点群の境界ボックスの最も長い辺として使用されてよく、他方が2番目に長い辺として使用される。例えば、Bx=By>Bzである場合に、Bxが最も長い辺であり、Byが2番目に長い辺であるか、あるいは、Byが最も長い辺であり、Bzが2番目に長い辺である。Bx、By、及びBzが等しい場合には、3つのうちのいずれか1つが、最も長い辺として使用されてよく、残り2つのうちのどちらか一方が、2番目に長い辺として使用され、他方が、最も短い辺として使用される。
符号化されるべきパッチの法線軸をいかにして取得するかは、本願のこの実施形態で制限されない。例えば、先行技術が参照されてよい。本願のこの実施形態では、符号化されるべきパッチの法線軸が世界座標系のx軸、y軸、及びz軸のうちの1つである例が、説明のために使用される。
符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。例えば、任意に、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、次のステップS102を実行することによって決定されてよい。
S102:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
任意に、符号器は、例えば、プロトコルに従って、点群の境界ボックスサイズの複数のタイプの記述情報(又は複数のタイプの記述情報のインデックス)と、パッチの複数のタイプの法線軸(又は複数のタイプの法線軸のインデックス)と、パッチの複数のタイプの接線軸(又は複数のタイプの接線軸のインデックス)と、パッチの複数のタイプの従接線軸(又は複数のタイプの従接線軸のインデックス)との間のマッピング関係を予め定義してよい。次いで、符号化されるべき点群の境界ボックスサイズの記述情報(又は記述情報のインデックス)及び符号化されるべきパッチの法線軸(又は符号化されるべきパッチの法線軸のインデックス)を取得した後、符号器は、上記のマッピング関係に基づいて、符号化されるべきパッチの接線軸(又は符号化されるべきパッチの接線軸のインデックス)及び符号化されるべきパッチの従接線軸(又は符号化されるべきパッチの従接線軸のインデックス)を取得する。
マッピング関係の具体的な表現形式は、本願のこの実施形態で制限されない。例えば、マッピング関係は、表、数式、又は条件に基づく論理決定(例えば、if else演算若しくはスイッチ演算)の形で表現されてよい。マッピング関係が具体的に表として表現される例が、以下では主に、説明のために使用される。これに基づいて、S102を実行する場合に、符号器は、表を探索することによって、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を取得してよい。上記のマッピング関係は具体的に、1つ以上の表で表現されることが理解され得る。これは、本願のこの実施形態で制限されない。説明を簡単にするために、本願のこの実施形態では、それらの表が具体的に1つの表で表現される例が、説明のために使用される。このことは、ここで一律に記載され、以下で再び記載されない。
点群の境界ボックスサイズの記述情報が点群の境界ボックスサイズのサイズ関係を含む場合に、点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックスは、表3に示され得る。
Bx≧By≧Bzは、全部で4つの場合、すなわち、Bx>By>Bz、Bx=By>Bz、Bz>By=Bz、及びBx=By=Bz、を含んでよい。表3では、“Bx=By>Bz、Bx>By=Bz、及びBx=By=Bz”が夫々、“Bx>By>Bz”とインデックス0を共有する例が、説明のために使用される、と考えられてよい。代替的に、“Bx=By>Bz”及び“By>Bx>Bz”は、インデックス“2”を共有してよい。この場合に、インデックス“2”に対応するサイズ関係は、“By≧Bx>Bz”で置き換えられてよい。代替的に、“Bx>By=Bz”及び“Bx>Bz>By”は、インデックス“1”を共有してよい。この場合に、インデックス“1”に対応するサイズ関係は、“Bx>Bz≧By”で置き換えられてよい。代替的に、“Bx=By=Bz”は、表3におけるいずれかのサイズ関係とインデックスを共有してよい。例えば、“Bx=By=Bz”及び“Bz>By>Bx”がインデックス“5”を共有する場合に、インデックス“5”に対応するサイズ関係は、“Bz≧By≧Bz”で置き換えられてよい。他の例は、1つずつ挙げられない。
By>Bz≧Bxは、全部で2つの場合、すなわち、By>Bz>Bx及びBy>Bz=Bx、を含んでよい。表3では、“By>Bz=Bx”及び“By>Bz>Bx”が夫々、インデックス3を共有する例が、説明のために使用される、と考えられてよい。代替的に、“By>Bz=Bx”及び“By>Bx>Bz”は、インデックス“2”を共有してよい。この場合に、インデックス“2”に対応するサイズ関係は、“By>Bz≧Bx”で置き換えられてよい。
Bz≧Bx>Byは、Bz>Bx>By及びBz=Bx>Byを含んでよい。表3では、“Bz=Bx>By”及び“Bz>Bx>By”がインデックス“4”を共有する例が、説明のために使用される、と考えられてよい。代替的に、“Bz=Bx>By”及び“Bx>Bz>By”は、インデックス“1”を共有してよい。この場合に、インデックス“1”に対応するサイズ関係は、“Bx≧Bz>By”で置き換えられてよい。
上述されているいずれの代替の解決法も、“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を示すために使用される新しい表を形成するように表3と組み合わされてよい、ことが留意されるべきである。更に、原理上、不一致がなければ、上記の代替の解決法のうちのいずれか2つが、“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を示すために使用される新しい表を形成するように表3と組み合わされてよい。更に、表3で提供される各サイズ関係のインデックスは、一例にすぎず、本願のこの実施形態において、点群の境界ボックスサイズのサイズ関係のインデックスに対する制限を構成しない。下記の全ての具体例は、表3の“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を例として使用することによって記載される。このことは、ここで一律に記載され、以下で再び記載されない。
S103:シンタックス要素をビットストリームに符号化し、このとき、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの前記従接線軸を示すために使用される。すなわち、本願のこの実施形態は、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報と、符号化されるべきパッチの法線軸のインデックスとを使用することによって、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を暗黙的に示す技術的解決法をサポートする。
一例で、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、フレームレベルに基づく情報である。従って、図3に示されるビットストリーム構造を参照して、符号化されるべき点群が、GOF内の点群の第1フレームである場合に、S103で、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、ビットストリームにおいてフィールド1103に符号化されてよい。これに基づいて、符号化されるべきパッチの法線軸のインデックスは、ビットストリームに置いてフィールド1104に符号化されてよい。
符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報及び符号化されるべきパッチの法線軸のインデックスは、異なるレベルの情報である(一方は、フレームレベルに基づく情報であり、他方は、パッチレベルに基づく情報である)から、2つの情報は、異なる時点でビットストリームに符号化され得る、ことが理解され得る。確かに、本願はそれに限られない。
例えば、図2に示される符号器を参照して、S101及びS102は、具体的に、符号器においてパッチ情報生成モジュール101によって実行されてよい。S103は、符号器において補助情報符号化モジュール108によって実行されてよい。
S102及びS103を実行する順序は、本願のこの実施形態で制限されない。例えば、S102は、S103の前に実行されてよく、あるいは、S103は、S102の前に実行されてよく、あるいは、S102及びS103は、同時に実行されてよい。
任意に、S102が実行された後かつS103が実行される前に、方法は、符号化されるべきパッチの接線軸及び従接線軸に基づいて、符号化されるべきパッチを3次元座標系から2次元座標系へ投影することを更に含んでもよい。符号器によって実行されるべき続くステップについては、図2に示される符号器の上記の説明を参照されたいが、これは制限されない。
本願の有利な効果の説明については、上記の概要を参照されたい。詳細は、ここで再び記載されない。
任意に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、具体的に、次の解決法1又は解決法2であってよい。解決法1又は解決法2が具体的に使用されるべきであるかどうかは、予め定義され(例えば、プロトコルに従って予め定義され)てよく、あるいは、指示情報をビットストリームに符号化することによって符号器によって復号器に通知されてよい。指示情報の具体的な内容は、本願のこの実施形態で制限されない。例えば、指示情報は、解決法1又は解決法2の識別子情報であってよく、あるいは、次の方法3ではマッピング規則であってよい。確かに、本願の実施形態は、それらに限られない。
任意に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、具体的に、次の解決法3又は解決法4であってよい。解決法3又は解決法4が具体的に使用されるべきであるかどうかは、予め定義され(例えば、プロトコルに従って予め定義され)てよく、あるいは、指示情報をビットストリームに符号化することによって符号器によって復号器に通知されてよい。指示情報の具体的な内容は、本願のこの実施形態で制限されない。例えば、指示情報は、解決法3又は解決法4の識別子情報であってよく、あるいは、次の方法3ではマッピング規則であってよい。確かに、本願の実施形態は、それらに限られない。
解決法1:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの従接線軸である。この場合に、パッチの法線軸及びパッチの従接線軸の両方に垂直な座標軸が、パッチの接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸が、パッチの従接線軸であり、点群の境界ボックスの最も短い辺が位置する座標軸が、パッチの接線軸である。
解決法1に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表4に示され得る。
例えば、表4を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが0である場合に、パッチの法線軸のインデックスが0であるならば、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1であること分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bx≧By≧Bxの場合に、パッチの法線軸がx軸であるならば、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。
他の例として、表4を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが4である場合に、パッチの法線軸のインデックスが1であるならば、パッチの接線軸のインデックスは0であり、パッチの従接線軸は2であることが分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bz≧Bx>Byの場合に、パッチの法線軸がy軸であるならば、パッチの接線軸はx軸であり、パッチの従接線軸はz軸である。
他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
解決法2:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの接線軸である。この場合に、パッチの法線軸及びパッチの接線軸の両方に垂直な座標軸が、パッチの従接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸が、パッチの接線軸であり、点群の境界ボックスの最も短い辺が位置する座標軸が、パッチの従接線軸である。
解決法2に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表5に示され得る。
例えば、表5を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが0である場合に、パッチの法線軸のインデックスが0であるならば、パッチの接線軸のインデックスは1であり、パッチの従接線軸のインデックスは2であること分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bx≧By≧Bxの場合に、パッチの法線軸がx軸であるならば、パッチの接線軸はy軸であり、パッチの従接線軸はz軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
解決法3:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの従接線軸である。この場合に、パッチの法線軸及びパッチの従接線軸の両方に垂直な座標軸が、パッチの接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸及び点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方が、パッチの従接線軸であり、他方が、パッチの接線軸である。具体的に、パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの従接線軸であってよく、点群の境界ボックスの最も短い辺は、パッチの接線軸であり、あるいは、点群の境界ボックスの最も短い辺は、パッチの従接線軸であってよく、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの接線軸である。
解決法3に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表6に示され得る。
例えば、表6を参照すると、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスが0である場合に、パッチの法線軸のインデックスが2であるならば、パッチの接線軸のインデックスは1であり、パッチの従接線軸のインデックスは0であること分かる。表1を参照して、この例は、具体的に、次の通りであることが分かる。点群の境界ボックスの最も長い辺が位置する座標軸がx軸である場合に、パッチの法線軸がz軸であるならば、パッチの接線軸はy軸であり、パッチの従接線軸はx軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
表6は、単に、解決法3に基づいて提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”の例を示している。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がx軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、z軸は、パッチの接線軸であり、y軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がy軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、z軸は、パッチの接線軸であり、x軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がz軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、y軸は、パッチの接線軸であり、x軸は、パッチの従接線軸である。
具体的な実施中に、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、パッチの法線軸のインデックスと、パッチの接線軸のインデックスと、パッチの従接線軸のインデックスとの間のマッピング関係が表6又は、表6の代替の解決法に対応するそれらのインデックス間のマッピング関係を含む新しい表であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい、ことが留意されるべきである。
解決法4:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの接線軸である。この場合に、パッチの法線軸及びパッチの接線軸の両方に垂直な座標軸が、パッチの従接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸及び点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方が、パッチの従接線軸であり、他方が、パッチの接線軸である。具体的に、パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの接線軸であってよく、点群の境界ボックスの最も短い辺は、パッチの従接線軸であり、あるいは、点群の境界ボックスの最も短い辺は、パッチの接線軸であってよく、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの従接線軸である。
解決法4に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表7に示され得る。
例えば、表7を参照すると、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスが0である場合に、パッチの法線軸のインデックスが2であるならば、パッチの接線軸のインデックスは0であり、パッチの従接線軸のインデックスは1であること分かる。表1を参照して、この例は、具体的に、次の通りであることが分かる。点群の境界ボックスの最も長い辺が位置する座標軸がx軸である場合に、パッチの法線軸がz軸であるならば、パッチの接線軸はx軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
表7は、単に、解決法4に基づいて提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”の例を示している。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がx軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、y軸は、パッチの接線軸であり、z軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がy軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、x軸は、パッチの接線軸であり、z軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がz軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、x軸は、パッチの接線軸であり、y軸は、パッチの従接線軸である。
具体的な実施中に、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、パッチの法線軸のインデックスと、パッチの接線軸のインデックスと、パッチの従接線軸のインデックスとの間のマッピング関係が表7又は、表7の代替の解決法に対応するそれらのインデックス間のマッピング関係を含む新しい表であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい、ことが留意されるべきである。
任意に、S102は、次の方法のうちの1つで実施されてよい。
方法1:S102は、次のステップS102−Aを含んでよい。
S102−A:点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定し、このとき、決定された対象接線軸が、符号化されるべきパッチの接線軸であり、決定された対象従接線軸が、符号化されるべきパッチの従接線軸である。
方法1は、次のステップS102−Bで置き換えられてよい。
S102−B:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報のインデックス及び符号化されるべきパッチの法線軸のインデックスの両方に対応する対象接線軸のインデックス及び対象従接線軸のインデックスを決定する。対象接線軸の決定されたインデックスは、符号化されるべきパッチの接線軸のインデックスであり、対象従接線軸の決定されたインデックスは、符号化されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、マッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、マッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、点群の境界ボックスサイズの記述情報の各タイプのインデックスは、“接線軸のインデックス及び従接線軸のインデックス”の3つの組み合わせに対応し、“接線軸のインデックス及び従接線軸のインデックス”の各組み合わせは、1つの法線軸のインデックスに対応する。例えば、表4を参照すると、符号化されるべき境界ボックスサイズの記述情報のインデックスが0であり、パッチの接線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1である。具体的に言えば、符号化されるべき境界ボックスサイズの記述情報がBx≧By≧Bzであり、パッチの接線軸がx軸である場合に、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法2:S102は、次のステップS102−C1及びS102−C2を含んでよい。
S102−C1:点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む。
S102−C2:パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸が、符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、符号化されるべきパッチの従接線軸である。
点群の境界ボックスサイズの記述情報は、接線モードセットと一対一の対応にあってよい。ここでの点群は、一般化された点群である。パッチの複数のタイプの法線軸は、対象接線モードセット内の複数の接線モードと一対一の対応にあってよい。ここでのパッチは、一般化されたパッチである。パッチの法線軸はx軸、y軸、又はz軸であってよいから、パッチの法線軸には3つのタイプが存在し得る。すなわち、各接線モードセットは、3つの接線モードを含み得る。
方法2は、次のステップS102−D1及びS102−D2で置き換えられてよい。
S102−D1:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸のインデックス及び1つの従接線軸のインデックスを含む。
S102−D2:パッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードのインデックスとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸のインデックスに対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸のインデックスが、符号化されるべきパッチの接線軸のインデックスであり、決定された対象接線モードに含まれる従接線軸のインデックスが、符号化されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報の複数のタイプのインデックスと複数の接線モードセットとの間のマッピング関係、及びパッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードのインデックスとの間のマッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、それら2つのマッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、表の最後の2つの列の各行に含まれている“パッチの接線軸のインデックス及びパッチの従接線軸のインデックス”の組み合わせは、1つの接線モードを表す。各接線モードは、1つの法線軸のインデックスに対応する。点群の境界ボックスサイズの記述情報の各タイプのインデックスに対応する3つの接線モードは、記述情報に対応する接線モードセットを表す。
例えば、表4を参照すると、符号化されるべき境界ボックスサイズの記述情報のインデックスが0である場合に、符号化されるべき境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットは、次の接線モード、すなわち、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モード、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス0”を含む接線モード、及び“パッチの接線軸のインデックス1及びパッチの従接線軸のインデックス0”を含む接線モード、を含む。この場合に、符号化されるパッチの法線軸のインデックスが0である場合に、符号化されるべきパッチに対応する接線モードは、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モードである。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法3:S102は、次のステップS102−Eを含んでよい。
S102−E:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、投影規則(又は符号化されるべき点群を投影するための投影規則と称される)に従って、符号化されるべきパッチの接線軸及び符号化されるべきパッチの前記従接線軸を決定し、このとき、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。2次元平面は、符号化されるべきパッチの接線軸及び従接線軸が位置する面である。
方法3で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する具体的な実施については、方法1又は方法2を参照されたい、ことが理解され得る。
任意に、投影規則は、垂直投影又は水平投影を含んでよい。垂直投影は、点群におけるほとんどのパッチが2次元平面上に投影される場合に投影像が垂直に分布しているという規則を指す。水平投影は、点群におけるほとんどのパッチが2次元平面上に投影される場合に投影像が水平に分布しているという規則を指す。具体的な実施中に、符号器は、符号化されるべきピクチャを投影するための投影規則が水平投影又は垂直投影を示すかどうかを決定する前に、ここでの“ほとんどのパッチ”の具体的な数を最初に決定する必要がなくてよい、ことが理解され得る。例えば、符号化されるべき点群を投影するための投影規則は、予め定義され、例えば、プロトコルに従って予め定義されてよい。他の例として、符号化されるべきピクチャを投影するための投影規則は、レート歪みコスト基準に従って取得されてよい。確かに、本願はそれに限られない。例えば、符号化されるべき点群を投影するための投影規則は、レート歪みコスト基準に従って、候補投影規則セットから決定される。候補投影規則セットは、少なくとも2つの前もってセットされた規則を含んでよく、例えば、水平投影及び垂直投影を含んでよい。
任意に、符号化されるべきピクチャを投影するための投影規則が予め定義されていない場合に、符号化されるべきピクチャを投影するための投影規則を取得した後に、符号器は、投影規則を復号器に通知するように、投影規則を示すために使用される情報をビットストリームに符号化してよい。投影規則を示すために使用される情報は、フレームレベルに基づく情報である、ことが理解され得る。従って、図3を参照して、符号化されるべき点群がGOF内の点群の第1フレームである場合に、投影規則を示すために使用される情報は、ビットストリームにおいてフィールド1103に符号化されてよい。
図11(a)から図11(c)は、本願の実施形態に従う、3次元空間から2次元平面へのパッチの投影の概略図である。図11で、座標の原点は、Oと表される。図11(a)の文字Aは3次元空間におけるパッチであり、パッチの法線軸はz軸である、と仮定される。更に、2次元平面上で、パッチの接線方向は水平軸(すなわち、U軸)であり、パッチの従接線軸は垂直軸(すなわち、V軸)である、と仮定される。この場合に、パッチの接線軸がx軸であり、パッチの従接線軸がy軸である場合に、すなわち、U軸がx軸であり、V軸がy軸である場合に、図11(a)に示されるパッチが2次元平面上に投影された後、図11(b)に示される投影像が取得される。パッチの接線軸がy軸であり、パッチの従接線軸がx軸である場合に、すなわち、U軸がy軸であり、V軸がx軸である場合に、図11(a)に示されるパッチが2次元平面上に投影された後、図11(c)に示される投影像が取得される。図11(b)に示される投影像は垂直に分布しており、図11(c)に示される投影像は水平に分布している、ことが理解され得る。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、符号化されるべき点群を投影するための投影規則が垂直投影を示すならば、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法1であってよい。この場合に、符号器は、表4を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。符号化されるべき点群を投影するための投影規則が水平投影を示す場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法2であってよい。この場合に、符号器は、表5を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべき点群を投影するための投影規則が垂直投影を示すならば、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法3であってよい。この場合に、符号器は、表6を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。符号化されるべき点群を投影するための投影規則が水平投影を示す場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法4であってよい。この場合に、符号器は、表7を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。
投影規則が垂直投影及び水平投影を含む例が、先に説明のために使用されている。更に、投影規則は、他の投影規則を含んでもよい。この場合に、符号器は、各投影規則と“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”との対応を(例えば、プロトコルに従って)予め定義してよい。従って、符号化されるべき点群を投影するための具体的な投影規則が決定された後に、符号化されるべきパッチの接線軸及び従接線軸を決定するために使用される“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”は、取得され得る。
下記は、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報の具体的な実施について説明する。例えば、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、次の情報1から7のうちのいずれか1つを含んでよい。
情報1は、符号化されるべき点群の境界ボックスのサイズ情報である。符号化されるべき点群の境界ボックスのサイズ情報は、符号化されるべき点群の境界ボックスサイズBx、By、及びBzを含んでよい。例えば、Bx=10センチメートル(cm)、By=8cm、及びBz=5cmである場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、Bx=10cm、By=8cm、及びBz=5cmを含んでよい。
情報2は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスである。例えば、Bx=10cm、By=8cm、及びBz=5cmである場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの最も長い辺(すなわち、Bx)が位置する座標軸(すなわち、x軸)のインデックス“0”を含んでよい。
情報3は、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスである。例えば、Bx=10cm、By=8cm、及びBz=5cmである場合に、表2を参照すると、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係(すなわち、Bx>By>Bz)のインデックス“0”を含んでよい、ことが分かる。
情報4は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスとである。
情報5は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
情報6は、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
情報7は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、上記の情報1及び情報3から情報7のうちのいずれか1つを使用することによって実施されてよい。復号器は、情報1及び情報4から情報7のうちいずれか1つを使用することによって、Bx、By、及びBzの間のサイズ関係を取得してよく、あるいは、表2を参照して情報3を使用することによって、Bx、By、及びBzの間のサイズ関係を取得してよい、ことが理解され得る。
符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、上記の情報1又は情報2を使用することによって実施されてよい。
具体的な実施中に、上記の情報1から7のうちのどの1つが、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に含まれるかは、予め定義(例えば、プロトコルに従って予め定義)されてよい、ことが理解され得る。確かに、本願はそれに限られない。例えば、上記の方法4が、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報として使用されることが予め合意されている場合に、任意の実施は、ビットストリームがフィールド1及びフィールド2を含み、フィールド1が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスを示すために使用され、フィールド2が、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスを示すために使用される、ことであってよい。更に、ビットストリームにおける2つのフィールドの位置及び各フィールドによって占有されるビットの数は、符号器及び復号器によって予め合意される。この場合に、Bx=10cm、By=8cm、及びBz=5cmであるならば、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの最も長い辺(すなわち、Bx)が位置する座標軸のインデックス0を運ぶフィールド1と、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックス1を運ぶフィールド2とを含む。方法5から方法7の具体例は、ここで記載されているものと同様であり、ここで1つずつ挙げられない。
図12は、本願の実施形態に従う点群復号化方法の略フローチャートである。点群符号化方法は、点群復号化方法に対応している。従って、この実施形態における関連する内容の説明については、点群符号化方法の上記の実施形態を参照されたい。例えば、図1の点群コーディングシステムを参照して、この実施形態は、具体的に、点群コーディングシステムのあて先装置20によって実行されてよく、より具体的には、あて先装置20の復号器200によって実行されてよい。図12に示される方法は、次のステップを含んでよい。
S201:シンタックス要素を取得するようビットストリームをパースする。シンタックス要素は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含む。
復号されるべき点群は、符号器が上記の符号化されるべき点群を符号化した後に符号器によって復号器へ送信された点群であってよい。図3を参照すると、復号されるべき点群がGOF内の点群の第1フレームである場合に、S201は、具体的に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報を取得するようにフィールド1102をパースすることと、復号されるべきパッチパッチの法線軸のインデックスを取得するようにフィールド1103をパースすることとを含んでよい。復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報がフレームレベルに基づく情報であり、復号されるべきパッチの法線軸のインデックスがパッチレベルに基づく情報である場合に、復号器は、2つの情報を異なる時点でパースしてよい。
復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸、などを含んでよい。具体的な実施中に、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含むかどうかは、予め定義(例えば、プロトコルに従って予め定義)されてよく、あるいは、ビットストリームで運ばれた指示情報をパースすることによって決定されてよい。指示情報は、フレームレベルに基づく情報である、ことが理解され得る。
任意に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、次の情報のうちの1つを含んでよい。情報8は、復号されるべき点群の境界ボックスのサイズ情報である。情報9は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスである。情報10は、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスである。情報11は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスとである。情報12は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。情報13は、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。情報14は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
具体的に、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、情報8及び情報10から情報14のうちのいずれか1つを含んでよい。復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、情報8及び情報9のどちらか一方を含んでよい。
任意に、復号器は、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用され、予め定義(例えば、プロトコルに従って予め定義)されているビットストリーム内のプリセットフィールド(例えば、フィールド1102)で運ばれる特定の情報に基づいて、復号されるべき点群の境界ボックスサイズの記述情報(又は記述情報のインデックス)を決定してよい。
S202:パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定する。
任意に、復号器は、例えば、プロトコルに従って、点群の境界ボックスサイズの複数のタイプの記述情報(又は複数のタイプの記述情報のインデックス)と、パッチの複数のタイプの法線軸(又は複数のタイプの法線軸のインデックス)と、パッチの複数のタイプの接線軸(又は複数のタイプの接線軸のインデックス)と、パッチの複数のタイプの従接線軸(又は複数のタイプの従接線軸のインデックス)との間のマッピング関係を予め定義してよい。次いで、復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、ビットストリームをパースすることによって取得された後、復号されるべきパッチの接線軸(又は復号されるべきパッチの接線軸のインデックス)及び復号されるべきパッチの従接線軸(又は復号されるべきパッチの従接線軸のインデックス)は、マッピング関係に従って取得される。
復号器が、表の形でマッピング関係を予め定義する場合に(確かに、本願はこれに限られない)、表は、表4から表7のうちのいずれか1つに示されるマッピング関係であってよい。これに基づいて、復号器は、表を探索することによって、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を取得してよい。
S203:復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ情報を再構成し、このとき、1つ以上のパッチは、復号されるべきパッチを含む。
点群復号化方法は、先に提供された点群符号化方法に対応している。従って、点群復号化方法に従って達成され得る有利な効果については、点群符号化方法に従って達成され得る有利な効果の上記の分析を参照されたい。詳細はここで再び記載されない。
任意に、S202は、次の方法のうちの1つで実施されてよい。
方法1:S202は、次のステップS202−Aを含んでよい。
S202−A:点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定し、このとき、決定された対象接線軸が、復号されるべきパッチの接線軸であり、決定された対象従接線軸が、復号されるべきパッチの従接線軸である。
方法1は、次のステップS202−Bで置き換えられてよい。
S202−B:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報のインデックス及び復号されるべきパッチの法線軸のインデックスの両方に対応する対象接線軸のインデックス及び対象従接線軸のインデックスを決定する。対象接線軸の決定されたインデックスは、復号されるべきパッチの接線軸のインデックスであり、対象従接線軸の決定されたインデックスは、復号されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、マッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、マッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、点群の境界ボックスサイズの記述情報の各タイプのインデックスは、“接線軸のインデックス及び従接線軸のインデックス”の3つの組み合わせに対応し、“接線軸のインデックス及び従接線軸のインデックス”の各組み合わせは、1つの法線軸のインデックスに対応する。例えば、表4を参照すると、復号されるべき境界ボックスサイズの記述情報のインデックスが0であり、パッチの接線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1である。具体的に言えば、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法2:S202は、次のステップS202−C1及びS202−C2を含んでよい。
S202−C1:点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む。
S202−C2:パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸が、復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、復号されるべきパッチの従接線軸である。
方法2は、次のステップS202−D1及びS202−D2で置き換えられてよい。
S202−D1:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは、1つの接線軸のインデックス及び1つの従接線軸のインデックスを含む。
S202−D2:パッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸のインデックスに対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸のインデックスは、復号されるべきパッチの接線軸でのインデックスあり、決定された対象接線モードに含まれる従接線軸のインデックスは、復号されるべきパッチの従接線軸のインデックスである。
点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係、及びパッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードとの間のマッピング関係の具体的な実施及び関連する記載については、上記の説明を参照されたい。
例えば、表4を参照すると、復号されるべき境界ボックスサイズの記述情報のインデックスが0である場合に、復号されるべき境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットは、次の接線モード、すなわち、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モード、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス0”を含む接線モード、及び“パッチの接線軸のインデックス1及びパッチの従接線軸のインデックス0”を含む接線モード、を含む。この場合に、復号されるパッチの法線軸のインデックスが0である場合に、復号されるべきパッチに対応する接線モードは、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モードである。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法3:S202は、次のステップS202−Eを含んでよい。
S202−E:復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸に基づいて、投影規則(又は復号されるべき点群を投影するための投影規則と称される)に従って、復号されるべきパッチの接線軸及び復号されるべきパッチの前記従接線軸を決定し、このとき、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。2次元平面は、復号されるべきパッチの接線軸及び従接線軸が位置する面である。
任意に、投影規則は、垂直投影又は水平投影を含んでよい。
一例で、復号されるべき点群を投影するための投影規則は、予め定義され、例えば、プロトコルに従って予め定義されてよい。
一例で、復号されるべき点群を投影するための投影規則は、ビットストリームをパースすることによって復号器によって取得されてよい。ビットストリームをパースすることによって取得されたシンタックス要素は、復号されるべき点群を投影するための投影規則を示すために使用される情報を含む。復号されるべき点群を投影するための投影規則を示すために使用される情報は、フレームレベルに基づく情報である。復号されるべき点群を投影するための投影規則を示すために使用される情報の具体的なタイプは、本願のこの実施形態で制限されない。例えば、情報は、投影規則のインデックスであってよい。例えば、投影規則が垂直投影を示す場合に、投影規則のインデックスは0であってよい。投影規則が水平投影を示す場合に、投影規則のインデックスは1であってよい。確かに、本願はこれに限られない。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、復号されるべき点群を投影するための投影規則が垂直投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法1であってよい。この場合に、復号器は、表4を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。復号されるべき点群を投影するための投影規則が水平投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法2であってよい。この場合に、復号器は、表5を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群を投影するための投影規則が垂直投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法3であってよい。この場合に、復号器は、表6を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。復号されるべき点群を投影するための投影規則が水平投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法4であってよい。この場合に、復号器は、表7を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスを含む場合、又は復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスを含む場合に、任意に、S102は、以下で提供される方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい、ことが理解され得る。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を取得することを更に含んでよい、ことが理解され得る。次いで、任意に、S102は、以下で提供される方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を取得することを更に含んでよい。次いで、任意に、S102は、以下で提供される方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい。
図13は、本願の実施形態に従う他の点群符号化方法の略フローチャートである。この実施形態における関連する内容の説明については、上記の説明を参照されたい。図13に示される方法は、次のステップを含んでよい。
S301:符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチパッチの法線軸を取得し、このとき、符号化されるべき点群グループ(すなわち、GOF)は、点群の少なくとも2つのフレームを含む。符号化されるべき点群グループは、符号化要件を有している如何なる点群グループであってもよい。
特定の点群を点群グループとして使用する具体的な実施は、本願のこの実施形態で制限されない。例えば、先行技術が参照されてよい。例えば、点群の32個の連続フレームが、点群グループとして使用されてよい。
点群グループの境界ボックスサイズの記述情報は、点群グループの境界ボックスの辺サイズ間のサイズ関係、点群グループの境界ボックスの最も長い軸が位置する座標軸、などを含んでよい。
任意に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の点群の1つのフレーム(例えば、点群の第1フレーム)の境界ボックスサイズの記述情報であってよい。
任意に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報に関する統計値を収集することによって、取得されてよい。例えば、点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報が、点群グループの境界ボックスサイズの記述情報として使用されてよい。詳細は次の通りである。
点群グループの境界ボックスサイズの記述情報が、点群グループの境界ボックスの辺サイズ間のサイズ関係を含む場合に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスの辺サイズ間のサイズ関係の中で最も出現頻度が高いサイズ関係であってよい。例えば、表2を参照すると、各点群の境界ボックスの辺サイズ間のサイズ関係は、表2に示される6つのとり得る場合のうちの1つであってよい。点群グループ内の各点群の境界ボックスの辺サイズ間のサイズ関係に対して統計値を収集することによって、Bx≧By≧Bzが6つのとり得る場合の中で最も高い出現頻度を有していることが知られる場合に、Bx≧By≧Bzは、符号化されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係として使用される。
点群グループの境界ボックスサイズの記述情報が、点群グループの境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸であってよい。例えば、各点群の境界ボックスの最も長い辺が位置する座標軸は、x軸、y軸、及びz軸のうちの1つであってよい。点群グループ内の各点群の境界ボックスの最も長い辺が位置する座標軸に関して統計値を収集することによって、x軸が最も高い出現頻度を有していることが知られる場合に、x軸は、符号化されるべき点群グループの境界ボックスサイズの記述情報として使用される。
符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。例えば、任意に、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、次のステップS302を実行することによって決定されてよい。
S302:符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
この実施形態で、符号化されるべき点群グループ内の点群の全てのフレームにおける全ての符号化されるべきパッチについて、符号器は、同じタイプの記述情報を使用して、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
例えば、図9に示される点群符号化方法におけるS102の方法1(若しくは方法1の代替解決法)又は方法2(若しくは方法2の代替解決法)での“点群の境界ボックスサイズの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられた後に得られる解決法は、この実施形態におけるS303の具体的な実施として使用されてよい。詳細はここで記載されない。
例えば、図9に示される点群符号化方法におけるS102の方法3での“点群の境界ボックスサイズの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられ、“符号化されるべき点群を投影するための投影規則”が“符号化されるべき点群グループを投影するための投影規則”で置き換えられた後に得られる解決法は、この実施形態におけるS303の具体的な実施として使用されてよい。詳細はここで記載されない。符号化されるべき点群グループを投影するための投影規則は、GOFレベルに基づく情報である、ことが理解され得る。従って、符号化されるべき点群グループを投影するための投影規則を示すために使用される情報がビットストリームに符号化されるべきである場合に、図3に示されるビットストリーム構造を参照して、符号器は、情報をフィールド1102に符号化してよい。
例えば、上記の解決法1から解決法4での“点群の境界ボックスの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられた後に得られるマッピング関係は、この実施形態における“点群グループの境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”として使用されてよい。
S303:シンタックス要素をビットストリームに符号化し、このとき、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。
符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、GOFレベルに基づく情報である。従って、情報がビットストリームに符号化されるべきである場合に、図3に示されるビットストリーム構造を参照して、符号器は、情報をフィールド1102に符号化してよい。
任意に、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、次の:符号化されるべき点群グループの境界ボックスのサイズ情報;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係のインデックス;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス;又は符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス、のうちの1つを含んでよい。符号化されるべき点群グループの境界ボックスのサイズ情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報であってよく、あるいは、符号化されるべき点群グループ内の一部又は全ての点群グループの境界ボックスのサイズ情報の中で最も出現頻度が高いサイズ情報であってよい。符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックスを決定する他の方法の原理は、ここで記載されているものと同様であり、ここで再び記載されない。
S302及びS303を実行する順序は、本願のこの実施形態で制限されない。例えば、S302は、S303の前に実行されてよく、あるいは、S303は、S302の前に実行されてよく、あるいは、S302及びS303は、同時に実行されてよい。
任意に、S102が実行された後かつS103が実行される前に、方法は、符号化されるべきパッチの接線軸及び従接線軸に基づいて、符号化されるべきパッチを3次元座標系から2次元座標系へ投影することを更に含んでもよい。符号器によって実行されるべき続くステップについては、図2に示される符号器の上記の説明を参照されたいが、これは制限されない。
この実施形態で提供される点群符号化方法の有利な効果については、先に提供された点群符号化方法の有利な効果を参照されたい。更に、符号化は、本願では、点群グループに基づいて実行されるので、点群に基づいて符号化を実行する技術的解決法におけるものと比べて、符号化複雑性は低減され得、ビットストリーム伝送のビットオーバーヘッドは低減され得る。
図14は、本願の実施形態に従う点群復号化方法の略フローチャートである。この実施形態における関連する内容の説明については、上記の説明を参照されたい。図14に示される方法は、次のステップを含んでよい。
S401:シンタックス要素を取得するようビットストリームをパースし、このとき、シンタックス要素は、復号されるべき点群グループにおける復号されるべきパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、点群グループは、点群の少なくとも2つのフレームを含む。
S402:パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定する。
S403:復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成し、このとき、1つ以上のパッチは、復号されるべきパッチを含む。
任意に、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループの境界ボックスのサイズ情報、復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、復号されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係のインデックス、などを含む。
この実施形態における関連する内容の説明、関連するステップの具体的な実施、などについては、上記の説明を直接参照されたい、ことが留意されるべきである。代替的に、説明及び実施は、先に提供された方法に従って推測により取得され得る。詳細はここで記載されない。
この実施形態で提供される点群復号化方法は、図13に示される点群符号化方法に対応している。従って、点群復号化方法に従って達成され得る有利な効果については、上記の説明を参照されたい。詳細はここで再び記載されない。
本願の実施形態においてパッチの接線軸及び従接線軸を決定する方法は、先に提供された点群符号化方法及び点群復号化方法の実施形態に含まれる、ことが留意されるべきである。従って、別個の実施形態は提供されない。
上記は、主として、方法の観点から、本願の実施形態で提供される解決法について記載している。上記の機能を実施するために、符号器及び復号器は夫々、各機能を実行するための対応するハードウェア構造及び/又はソフトウェアモジュールを含む。当業者であれば、本明細書で開示されている実施形態で記載されているユニット及びアルゴリズムステップの例と組み合わせて、本願は、ハードウェア、又はハードウェアとコンピュータソフトウェアとの組み合わせによって、実施され得る、と容易に気付くはずである。機能がハードウェア又は、コンピュータソフトウェアによって駆動されるハードウェアによって実行されるかどうかは、技術的解決法の特定の適用及び設計制約に依存する。当業者であれば、各特定の用途ごとに、記載されている機能を実施するために、異なる方法を使用し得るが、実施は本願の範囲を超える、と考えられるべきではない。
本願の実施形態で、符号器及び復号器は、上記の方法の例に基づいて機能モジュールに分割されてよい。例えば、各機能モジュールは、各対応する機能に基づく分割により取得されてよく、あるいは、2つ以上の機能は、1つの処理モジュールに一体化されてよい。一体化されたモジュールは、ハードウェアの形で実施されてよく、あるいは、ソフトウェア機能モジュールの形で実施されてよい。本願の実施形態で、モジュールへの分割は例であり、論理的な機能分割にすぎない、ことが留意されるべきである。実際の実施中に、他の分割様態も存在してよい。
図15は、本願の実施形態に従う符号器150の略ブロック図である。符号器150は、パッチ情報生成モジュール1501と、補助情報符号化モジュール1502とを含んでよい。一例で、パッチ情報生成モジュール1501は、図2のパッチ情報生成モジュール101に対応してよく、補助情報符号化モジュール1502は、図2の補助情報符号化モジュール108に対応してよい。確かに、本願はこれに限られない。
下記は、点群に基づいて符号器150によって符号化を実行する実行可能な実施について記載する。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得するよう構成される。符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。補助情報符号化モジュール1502は、シンタックス要素をビットストリームに符号化するよう構成され、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図9のS101及び/又は他のステップを実行するよう構成されてよく、補助情報符号化モジュール1502は、本願の実施形態で記載される図9のS103及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう更に構成されてよい。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図9のS102及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスのサイズ情報、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスを含む。
実行可能な実施において、パッチ情報生成モジュール1502は、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含み、
パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定し、決定された対象接線モードに含まれる接線軸が、符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、符号化されるべきパッチの従接線軸である、よう特に構成される。
実行可能な実施において、パッチ情報生成モジュール1502は、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定するよう特に構成され、このとき、決定された対象接線軸が、符号化されるべきパッチの接線軸であり、決定された対象従接線軸が、符号化されるべきパッチの従接線軸である。
実行可能な実施において、パッチ情報生成モジュール1502は、符号化されるべき点群を投影するための投影規則に従って、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう特に構成され、このとき、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。
実行可能な実施において、パッチ情報生成モジュール1502は、レート歪みコスト基準に従って、符号化されるべき点群を投影するための投影規則を決定するよう更に構成されてよい。任意に、シンタックス要素は、符号化されるべき点群を投影するための投影規則を示すために使用される情報を更に含む。
実行可能な実施において、符号化されるべき点群を投影するための投影規則は、前もってセットされる。
実行可能な実施において、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの従接線軸である。
投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸が位置する面である。
実行可能な実施において、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの従接線軸であり、他方は、符号化されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの接線軸であり、他方は、符号化されるべきパッチの従接線軸である。
投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸が位置する面である。
下記は、点群グループに基づいて符号器150によって符号化を実行する実行可能な実施について記載する。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチパッチの法線軸を取得するよう構成されるモジュールであり、符号化されるべき点群グループが点群の少なくとも2つのフレームを含み、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう構成される。補助情報符号化モジュール1502は、シンタックス要素をビットストリームに符号化するよう構成され、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図13のS301及びS302並びに/又は他のステップを実行するよう構成されてよく、補助情報符号化モジュール1502は、本願の実施形態で記載される図13のS303及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスサイズを使用するか、あるいは、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報を使用するよう特に構成されてよい。
実行可能な実施において、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの中で最も出現頻度が高いサイズ情報、又は符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックス、又は符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺サイズ間のサイズ関係のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺サイズ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。
任意に、符号器150が点群に基づいて符号化を実行するいずれかの実行可能な実施におけるフレームレベルに基づく情報が、GOFレベルに基づく情報で置き換えられた後に得られる全ての技術的解決法は、符号化が点群グループに基づいて実行される解決法に適用可能である。
図16は、本願の実施形態に従う復号器160の略ブロック図である。復号器160は、補助情報復号化モジュール1601と、点群ジオメトリ情報再構成モジュール1602とを含んでよい。一例で、補助情報復号化モジュール1601は、図4の補助情報復号化モジュール204に対応してよく、点群ジオメトリ情報再構成モジュール1602は、図4の点群ジオメトリ情報再構成モジュール204に対応してよい。確かに、本願はこれに限られない。
下記は、点群に基づいて点群復号器160によって復号化を実行する実行可能な実施について記載する。
実行可能な実施において、補助情報復号化モジュール1601は、点群の少なくとも2つのフレームを含む復号されるべき点群グループにおける復号されるべきパッチパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをシンタックス要素シンタックス要素パースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される。点群ジオメトリ情報再構成モジュール1602は、復号されるべき点群グループ内のある復号されるべき点群のジオメトリ情報を、その復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、再構成するよう構成され、1つ以上のパッチは、復号されるべきパッチを含む。例えば、補助情報復号化モジュール1601は、本願の実施形態で記載される図12のS201及びS202並びに/又は他のステップを実行するよう構成されてよい。点群ジオメトリ情報再構成モジュール1602は、本願の実施形態で記載される図12のS203及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群の境界ボックスのサイズ情報、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係のインデックスを含んでよい。
実行可能な実施において、補助情報復号化モジュール1601は、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含み、
パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定し、決定された対象接線モードに含まれる接線軸が、復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、復号されるべきパッチの従接線軸である、よう特に構成されてよい。
実行可能な実施において、補助情報復号化モジュール1601は、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定するよう特に構成され、このとき、決定された対象接線軸が、復号されるべきパッチの接線軸であり、決定された対象従接線軸が、復号されるべきパッチの従接線軸である。
実行可能な実施において、補助情報復号化モジュール1601は、復号されるべき点群を投影するための投影規則に従って、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう特に構成され、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。
実行可能な実施において、投影規則は、前もってセットされる。
実行可能な実施において、シンタックス要素は、投影規則を示すために使用される情報を更に含む。
実行可能な実施において、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺サイズ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの従接線軸である。
投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸が位置する面である。
実行可能な実施において、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの従接線軸であり、他方は、復号されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの接線軸であり、他方は、復号されるべきパッチの従接線軸である。
投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸が位置する面である。
下記は、点群グループに基づいて復号器150によって復号化を実行する実行可能な実施について記載する。
実行可能な実施において、補助情報復号化モジュール1601は、点群の少なくとも2つのフレームを含む復号されるべき点群グループにおける復号されるべきパッチパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをパースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される。点群ジオメトリ情報再構成モジュール1602は、復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成するよう構成され、このとき、1つ以上のパッチは、復号されるべきパッチを含む。例えば、補助情報復号化モジュール1601は、本願の実施形態で記載される図14のS401及びS402並びに/又は他のステップを実行するよう構成されてよい。点群ジオメトリ情報再構成モジュール1602は、本願の実施形態で記載される図14のS403及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループの境界ボックスのサイズ情報、又は復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群グループの境界ボックスの辺サイズ間のサイズ関係のインデックスを含んでよい。
実行可能な実施において、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの中で最も出現頻度が高いサイズ情報、又は復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックス、又は復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺サイズ間のサイズ関係のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺サイズ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含む。
本願の実施形態における符号器/復号器のモジュールは、本願の対応する点群符号化/復号化方法に含まれている様々な実行ステップを実施するための機能本体、すなわち、本願の対応する点群符号化/復号化方法におけるステップ並びにそれらのステップの拡張及び変形を完全に実施することができる機能本体である、ことが理解され得る。詳細については、上記の説明を参照されたい。簡潔さのために、詳細は、本明細書で記載されない。
図17は、本願の実施形態に従う符号化デバイス又は復号化デバイス(簡潔にコーディングデバイス1700又は点群コーディングデバイス1700と称される)の実施の略ブロック図である。コーディングデバイス1700は、プロセッサ1710と、メモリ1730と、バスシステム1750とを含んでよい。プロセッサ1710は、バスシステム1750を通じてメモリ1730へ接続されている。メモリ1730は、命令を記憶するよう構成される。プロセッサ1710は、メモリに記憶されている命令を実行して、本願で記載されている様々な点群符号化又は復号化方法を実行するよう構成される。繰り返しを避けるために、詳細はここで再び記載されない。
本願のこの実施形態で、プロセッサ1710は、中央演算処理装置(central processing unit,CPU)であってよく、あるいは、プロセッサ1710は、他の汎用プロセッサ、DSP、ASIC、FPGA、他のプログラム可能なロジックデバイス、ディスクリートゲート、トランジスタロジックデバイス、ディスクリートハードウェア部品、などであってよい。汎用プロセッサは、マイクロプロセッサであってよく、あるいは、プロセッサは、如何なる従来のプロセッサなどであってもよい。
メモリ1730は、ROMデバイス又はRAMデバイスを含んでよい。如何なる他の適切なタイプの記憶デバイスも、代替的に、メモリ1730として使用されてよい。メモリ1730は、バス1750を通じてプロセッサ1710によってアクセスされるコード及びデータ1731を含んでよい。メモリ1730は、オペレーティングシステム1733及びアプリケーション1735を更に含んでよい。アプリケーション1735は、本願で記載されている点群符号化又は復号化方法を実行することをプロセッサ1710に可能にする少なくとも1つのプログラムを含む。例えば、アプリケーション1735は、アプリケーション1からNを含み、更には、本願で記載されている点群符号化又は復号化方法を実行するための点群符号化又は復号化アプリケーション(簡潔に点群コーディングアプリケーションと称される)を含んでよい。
バスシステム1750は、データバスに加えて、電力バス、制御バス、ステータス信号バス、などを更に含んでよい。なお、明りょうな記載のために、図では、様々なタイプのバスが、バスシステム1750として標記されている。
任意に、コーディングデバイス1700は、1つ以上の出力デバイス、例えば、ディスプレイ1770を更に含んでよい。一例で、ディスプレイ1770は、動作上タッチ入力を検知することができるタッチユニットとディスプレイとを組み合わせるタッチディスプレイであってよい。ディスプレイ1770は、バス1750を通じてプロセッサ1710へ接続されてよい。
当業者であれば、本明細書で開示及び記載されている様々な、実例となる論理ブロック、モジュール、及びアルゴリズムステップの例を参照して記載される機能は、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組み合わせによって実施され得ると理解することができる。ソフトウェアによって実施される場合に、実例となる論理ブロック、モジュール、及びステップを参照して記載されている機能は、1つ以上の命令又はコードとしてコンピュータ可読媒体で記憶又は伝送され、ハードウェアベースの処理ユニットによって実行されてよい。コンピュータ可読媒体は、データ記憶媒体などの有形な媒体に対応するコンピュータ可読記憶媒体、又は1つの場所から他へ(例えば、通信プロトコルに従って)コンピュータプログラムの転送を助ける如何なる媒体も含む通信媒体を含んでよい。このようにして、コンピュータ可読媒体は、一般に、(1)非一時的な有形なコンピュータ可読記憶媒体、又は(2)信号若しくは搬送波などの通信媒体に対応してよい。データ記憶媒体は、本願で記載されている技術を実施するための命令、コード、及び/又はデータ構造を取り出すよう1つ以上のコンピュータ又は1つ以上のプロセッサによってアクセスされ得る如何なる使用可能な媒体であってもよい。コンピュータプログラム製品は、コンピュータ可読媒体を含んでよい。
例として、制限なしに、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD−EOM若しくは他のコンパクトディスク型記憶装置、磁気ディスク記憶装置若しくは他の磁気記憶装置、フラッシュメモリ、又は命令若しくはデータ構造の形で所望のプログラムコードを記憶するために使用可能であって、コンピュータによってアクセスが可能なあらゆる他の媒体を含んでよい。更に、如何なる接続も、コンピュータ可読媒体と適切に呼ばれる。例えば、命令がウェブサイト、サーバ、又は他の遠隔ソースから同軸ケーブル、光ファイバ、ツイステッドペア、デジタル加入者回線(DSL)、又は赤外線、電波、若しくはマイクロ波などの無線技術を通じて伝送される場合に、同軸ケーブル、光ファイバ、ツイステッドペア、DSL、又は赤外線、電波、若しくはマイクロ波などの無線技術は、媒体の定義に含まれる。なお、コンピュータ可読記憶媒体及びデータ記憶媒体は、接続、搬送波、信号、又は他の一時的な媒体を含まず、実際には、非一時的な有形な記憶媒体を意味する、ことが理解されるべきである。ここで使用されているdisk及びdiscは、コンパクトディスク(CD)、レーザーディスク、光ディスク、DVD、及びブルーレイディスクを含み、diskは、通常は、磁気的にデータを再生し、一方、discは、レーザーで光学的にデータを再生する。上記のアイテムの組み合わせも、コンピュータ可読媒体の範囲に含まれるべきである。
命令は、1つ以上のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、又は他の同等の集積若しくはディスクリート・ロジック回路などの1つ以上のプロセッサによって実行されてよい。従って、本明細書で使用されている「プロセッサ」との語は、本明細書で記載されている技術を実施するのに適した上記の構造又はあらゆる他の構造のいずれかであってよい。更に、いくつかの態様で、本明細書で記載されている実例となる論理ブロック、モジュール、及びステップを参照して記載されている機能は、符号化及び復号化のために構成されている専用のハードウェア及び/又はソフトウェアモジュール内で提供されてよく、あるいは、複合型コーデックに組み込まれてよい。更に、技術は、1つ以上の回路又はロジック素子において完全に実施されてよい。一例で、符号器100及び復号器200における様々な説明的論理ブロック、ユニット、及びモジュールは、対応する回路デバイス又は論理素子として理解され得る。
本願の技術は、無線ハンドセット、集積回路(IC)、又はICの組(例えば、チップセット)を含む様々な装置又はデバイスで実施されてよい。様々なコンポーネント、モジュール、又はユニットは、開示されている技術を実行するよう構成されている装置の機能的側面を強調するように本願で記載されているが、異なるハードウェアユニットによって必ずしも実施されない。実際には、上述されたように、様々なユニットは、適切なソフトウェア及び/又はファームウェアと組み合わせてコーデックハードウェアにまとめられてよく、あるいは、相互運用可能なハードウェアユニット(上述された1つ以上のプロセッサを含む)によって提供されてよい。
上記の説明は、本願の具体的な実施の例にすぎず、本願の保護範囲を制限する意図はない。本願で開示されている技術的範囲内で当業者によって容易に考え出される様々な変形又は置換は、本願の保護範囲内にあるべきである。従って、本願の保護範囲は、特許請求の範囲の保護範囲に従うべきである。
本願は、2018年6月30日付けで「POINT CLOUD ENCODING METHOD, POINT CLOUD DECODING METHOD, ENCODER, AND DECODER」と題されて中国国家知識産権局に出願された中国特許出願第201810706459.1号の優先権を主張する。なお、先の中国出願は、その全文を参照により本願に援用される。
本願は、符号化及び復号化技術の分野に、特に、点群(point cloud)符号化方法、点群復号化方法、符号器、及び復号器に関係がある。
3Dセンサ(例えば、3Dスキャナ)技術の絶え間のない発展とともに、点群データ収集はより使いやすく、収集された点群データはより大きい規模を有する。従って、いかにして点群データを有効に符号化及び復号するかは、解決されるべき緊急課題になっている。
本願の実施形態は、点群符号化及び復号化性能を改善するのを助けるように、点群符号化方法、点群復号化方法、符号器、及び復号器を提供する。
第1の態様に従って、本願の実施形態は、符号化されるべき点群の境界ボックス(Bounding Box)サイズの記述情報及び符号化されるべき点群における符号化されるべきパッチ(patch)の法線(Normal)軸を取得することであり、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線(Tangent)軸及び符号化されるべきパッチの従接線(Bi-tangent)軸を決定するために使用される、ことと、シンタックス要素をビットストリームに符号化することであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、こととを含む点群符号化方法を提供する。一例で、方法は、符号器によって実行されてよい。符号化されるべき点群は、符号化されるべき点群のいずれかのフレームであってよく、符号化されるべきパッチは、符号化されるべき点群におけるいずれかのパッチであってよい。
点群の境界ボックスは、点群を囲む最小のキューボイドを指す。
点群の境界ボックスサイズは、点群の境界ボックスの辺長さ、点群の境界ボックスの3次元空間サイズ、又は点群の境界ボックスのジオメトリック空間サイズとも呼ばれることがあり、基準座標系(例えば、世界座標系)における3つの座標軸上の点群の境界ボックスの辺の長さを使用することによって表されてよい。
点群の境界ボックスサイズの記述情報は、点群の境界ボックスサイズを記述するために使用される情報である。例えば、点群の境界ボックスサイズの記述情報は、点群の境界ボックスの辺長さ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などを含んでよい。
任意に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報、点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、点群の境界ボックスの辺長さ間のサイズ関係のインデックス、などを含んでよい。点群の境界ボックスサイズの記述情報を示すために使用される情報が点群の境界ボックスのサイズ情報である場合に、相応して、点群の境界ボックスサイズの記述情報は、点群の境界ボックスの辺長さ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などであってよいことが留意されるべきである。すなわち、符号器側又は復号器側にかかわらず、点群の辺長さ間のサイズ関係、点群の境界ボックスの最も長い辺が位置する座標軸、などは、点群の境界ボックスのサイズ情報に基づいて取得され得る。
点群の境界ボックスサイズの記述情報が点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報又は点群の境界ボックスの辺長さ間のサイズ関係のインデックスを含んでよい。
点群の境界ボックスサイズの記述情報が点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群の境界ボックスサイズの記述情報を示すために使用される情報は、点群の境界ボックスのサイズ情報又は点群の境界ボックスの最も長い辺が位置する座標軸を含んでよい。
符号化されるべきパッチの法線軸のインデックスは、パッチレベル(又はパッチ粒度と呼ばれる)に基づく情報である。符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、フレームレベル(又はフレーム粒度と呼ばれる)に基づく情報である。上記2つの情報をビットストリームに符号化する手順は、本願のこの実施形態で制限されず、異なるレベルでのシンタックス要素が別々にビットストリームに符号化されてよい。例えば、フレームレベル(例えば、点群レベル)に基づく情報はビットストリームに符号化され、そして、パッチレベルに基づく情報はビットストリームに符号化される。すなわち、2つの情報が、異なる時点でビットストリームに符号化され得る。
点群の境界ボックスサイズの記述情報は、点群における大部分のパッチの姿勢を間接的に反映するために、3次元空間における点群の姿勢を反映してよい。一例で、3次元空間における点群の姿勢は、点群が3次元空間において水平又は垂直であるかどうかに関する情報によって表されてよい。例えば、図6(a)に示される点群は垂直であり、図8(a)に示される点群は水平である。これに基づいて、図6(a)に示される点群における大部分のパッチは垂直であり、図8(a)に示される点群における大部分のパッチは水平である、と見なされ得る。その上、同じ姿勢にあるパッチが異なる2次元座標系へマッピングされる場合に、投影された像の姿勢は異なる(図11に図示)。従って、点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて点群における符号化されるべきパッチの接線軸及び従接線軸を決定することは、パッチを2次元平面上に投影することによって得られる投影像の姿勢を調整するのを助け、それにより、パッチの投影像は、点群の占有マップにおいて密に配置される、すなわち、点群の占有マップに存在する空きピクセルは比較的に少数である。これは、点群の占有マップに基づいて決定されるデプスマップ及びテクスチャマップに対して実行されるピクチャ/ビデオベース符号化を容易にする。すなわち、点群符号化性能は、点群復号化性能を改善するのを助けるように、改善され得る。例えば、パッチの接線軸及び従接線軸が、本願のこの実施形態で提供される方法に従って決定される場合に、図8(b)における長方形ボックス内の投影像の姿勢は、垂直にセットされ得る。このようにして、符号器が、点群の占有マップを生成するようパッキングを実行する場合に、投影像は垂直であることができ、それにより、点群におけるパッチの投影像は、点群の占有マップにおいて密に配置され得る。
可能な設計で、方法は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを更に含んでよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、マッピング関係テーブルを探索することによって、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを含んでよく、マッピング関係テーブルは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係を含む。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定することであり、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む、ことと、パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定することであり、決定された対象接線モードに含まれる接線軸が符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が符号化されるべきパッチの前記従接線軸である、こととを含んでよい。例えば、マッピング関係は、予め定義され、例えば、プロトコルに従って予め定義されてよく、具体的、例として、制限なしに、1つ以上のテーブルに格納されてよい。この場合に、この可能な設計は、テーブル探索を通じて実施されてよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定することを含んでよく、決定された対象接線軸は、符号化されるべきパッチの接線軸であり、決定された対象従接線軸は、符号化されるべきパッチの従接線軸である。例えば、マッピング関係は、予め定義され、例えば、プロトコルに従って予め定義されてよく、具体的に、例として、制限なしに、1つ以上のテーブルに格納されてよい。この場合に、この可能な設計は、テーブル探索を通じて実施されてよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり(この場合に、符号化されるべきパッチの法線軸及び従接線軸の両方に垂直である座標軸は、符号化されるべきパッチの接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの接線軸である(これは、解決法A1と標記される)。代替的に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり(この場合に、符号化されるべきパッチの法線軸及び接線軸の両方に垂直である座標軸は、符号化されるべきパッチの従接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの従接線軸である(これは、解決法A2と標記される)。これは、符号化されるべき点群における全てのパッチを2次元平面上に投影することによって得られる投影像のほとんどが同じ方向において分布していることを確かにするのを助け、それにより、それらのパッチをパッキングすることによって生成される符号化されるべき点群の占有マップは、比較的に小さいサイズを有し(すなわち、パッチは、より密に配置される)、それによって、ビットストリーム伝送のビットオーバーヘッドを低減する。投影像が同じ方向において分布していることは、投影像を囲む最も小さい長方形の長辺(すなわち、幅及び高さにおいて長い方の辺)が同じ方向において分布していることを意味する。例えば、それらの最も小さい長方形の長辺は、3次元空間において基準座標系(例えば、世界座標系)の1つの座標軸と平行である。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり(この場合に、符号化されるべきパッチの法線軸及び従接線軸の両方に垂直である座標軸は、符号化されるべきパッチの接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの従接線軸であり、他方は、符号化されるべきパッチの接線軸である(これは、解決法B1と標記される)。代替的に、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり(この場合に、符号化されるべきパッチの法線軸及び接線軸の両方に垂直である座標軸は、符号化されるべきパッチの従接線軸である)、あるいは、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの接線軸であり、他方は、符号化されるべきパッチの従接線軸である(これは、解決法B2と標記される)。これは、符号化されるべき点群における全てのパッチを2次元平面上に投影することによって得られる投影像のほとんどが同じ方向において分布していることを確かにするのを助け、それにより、それらのパッチをパッキングすることによって生成される符号化されるべき点群の占有マップは、比較的に小さいサイズを有し、それによって、ビットストリーム伝送のビットオーバーヘッドを低減する。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することは、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、投影規則に従って、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを含んでよく、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。例えば、投影規則は、水平投影又は垂直投影を示してよい。
例えば、2次元平面は、パッチの接線軸及びパッチの従接線軸が位置する面である。ここでのパッチは、一般化されたパッチであり、符号化されるべきパッチを含む。一例で、2次元平面の水平軸は、パッチの接線軸であり、垂直軸は、パッチの従接線軸である。任意に、2次元平面の水平軸は、パッチの従接線軸であり、垂直軸は、パッチの接線軸である。記載の簡単のために、別なふうに示されない限りは、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、本願の実施形態の具体的な実施で記載されている全ての技術的解決法において説明のために使用される。
例えば、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、符号化されるべきパッチを3次元座標系から2次元座標系へ投影するために使用される。
可能な設計で、符号化されるべき点群を投影するための投影規則は、デフォルトの投影規則、又は前もってセットされた投影規則(又は予め意定義された投影規則と呼ばれ、例えば、符号器側と復号器側との間のプロトコルに従って予め定義されてよい)であってよい。代替的に、符号化されるべき点群を投影するための投影規則は、パースすることによりビットストリームから取得されたシンタックス要素によって示される投影規則であってよい。
可能な設計で、シンタックス要素は、投影規則を示すために使用される情報を更に含んでよい。投影規則を示すために使用される情報は、フレームレベルに基づく情報である。
可能な設計で、方法は、レート歪みコスト基準に従って、符号化されるべき点群を投影するための投影規則を決定することを更に含んでよい。具体的に、“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸と”の間の対応するマッピング関係は、候補投影規則の夫々に基づいて選択され、それにより、符号化されるべきパッチの接線軸及び従接線軸は、マッピング関係に基づいて予め定義され、それから、符号化されるべき点群のビットストリーム伝送のビットオーバーヘッドは、予め定義される。その後に、最も低い伝送ビットオーバーヘッドに対応する候補投影規則(又は前もってセットされたオーバーヘッド以下の伝送ビットオーバーヘッドに対応する候補投影規則)が、符号化されるべき点群を投影するための投影規則として選択される。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含むことが考えられる。この場合に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A1であってよい。代替的に、投影規則が水平投影を示すならば、具体的な解決法は、上記の解決法A2であってよい。この可能な設計で、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、説明のために使用される。
代替的に、2次元平面の水平軸がパッチの従接線軸であり、垂直軸がパッチの接線軸である場合に、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A2であってよい。代替的に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法A1であってよい。
可能な設計で、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含むことが考えられる。この場合に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B1であってよい。代替的に、投影規則が水平投影を示すならば、具体的な解決法は、上記の解決法B2であってよい。この可能な設計で、“2次元平面の水平軸がパッチの接線軸であり、垂直軸がパッチの従接線軸である”例が、説明のために使用される。
代替的に、2次元平面の水平軸がパッチの従接線軸であり、垂直軸がパッチの接線軸である場合に、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B2であってよい。代替的に、投影規則が垂直投影を示すならば、具体的な解決法は、上記の解決法B1であってよい。
第2の態様に従って、本願の実施形態は、シンタックス要素を取得するようビットストリームをパースすることであり、シンタックス要素は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含む、ことと、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することと、復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ(geometry)情報を再構成することであり、1つ以上のパッチは復号されるべきパッチを含む、こととを含む群復号化方法を提供する。点群のジオメトリ情報は、3次元空間における点群内の点(例えば、点群内の各点)の座標を指す。
可能な設計、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群の境界ボックスのサイズ情報、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスを含む。
復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含んでよい。
例えば、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を取得することを更に含んでよい。それから、任意に、以下で提供される可能な設計に従って、復号されるべきパッチの接線軸及び従接線軸が決定され得る。
例えば、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を取得してよい。それから、任意に、以下で提供される可能な設計に従って、復号されるべきパッチの接線軸及び従接線軸が決定され得る。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定することであり、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む、ことと、パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定することであり、決定された対象接線モードに含まれる接線軸が復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が復号されるべきパッチの従接線軸である、こととを含んでよい。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定することを含んでよく、決定された対象接線軸は、復号されるべきパッチの接線軸であり、決定された対象従接線軸は、復号されるべきパッチの従接線軸である。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの接線軸である(これは、解決法C1と標記される)。代替的に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの従接線軸である(これは、解決法C2と標記される)。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの従接線軸であり、他方は、復号されるべきパッチの接線軸である(これは、解決法D1と標記される)。代替的に、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なるとき、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、あるいは、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じであるとき、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの接線軸であり、他方は、復号されるべきパッチの従接線軸である(これは、解決法D2と標記される)。
可能な設計で、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することは、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、投影規則(以下、復号されるべき点群を投影するための投影規則と呼ばれる)に従って、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することを含んでよく、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。例えば、投影規則は、水平投影又は垂直投影を示してよい。
可能な設計で、復号されるべき点群を投影するための投影規則は、前もってセットされる。
可能な設計で、シンタックスは、復号されるべき点群を投影するための投影規則を示すために使用される情報を更に含み、相応して、投影規則は、パースすることによりビットストリームから取得されたシンタックス要素によって示される投影規則である。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む。投影規則が垂直投影を示す場合に、具体的な解決法は、上記の解決法C1であってよい。代替的に、投影規則が水平投影を示す場合に、具体的な解決法は、上記の解決法C2であってよい。
可能な設計で、復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む。投影規則が垂直投影を示す場合に、具体的な解決法は、上記の解決法D1であってよい。代替的に、投影規則が水平投影を示す場合に、具体的な解決法は、上記の解決法D2であってよい。
第2の態様及び第2の態様の可能な設計のうちのいずれか1つで提供される技術的解決法は、第1の態様又は第1の態様で提供される対応する点群符号化方法に対応する。従って、達成され得る有利な効果及び関連する内容の説明については、上記の記載を参照されたい。
第3の態様に従って、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチの法線軸を取得することであり、符号化されるべき点群グループは、点群の少なくとも2つのフレームを含み、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される、ことと、シンタックス要素をビットストリームに符号化することであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、こととを含む点群符号化方法を提供する。この技術的解決法と第1の態様の技術的解決法との間の相違は、この技術的解決法では点群符号化が点群グループに対して行われる点にある。従って、第1の態様で提供される技術的解決法に従って達成され得る有利な効果に加えて、符号化複雑性は更に低減可能であり、ビットストリーム伝送のビットオーバーヘッドは更に低減可能である。
可能な設計で、方法は、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定することを更に含む。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を取得することは、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスサイズを使用すること、又は符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報を使用することを含んでよい。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は符号化されるべき点群グループの境界ボックスの辺長さ間のサイズ関係を含んでよい。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの中で最も出現頻度が高いサイズ情報を含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は符号化されるべき点群グループの境界ボックスの辺長さ間のサイズ関係であってよいことが理解され得る。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックスを含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸であってよいことが理解され得る。
可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺長さ間のサイズ関係のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺長さ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。この可能な設計で、符号化されるべき点群グループの境界ボックスサイズの記述情報は、符号化されるべき点群グループの境界ボックスの辺長さ間のサイズ関係であってよいことが理解され得る。
任意に、第1の態様で提供されるいずれかの可能な設計におけるフレームレベルに基づく情報を、フレームのグループ(group of frames,GOF)レベルに基づく情報で置き換えることによって得られる全ての可能な設計は、第3の態様に適用可能である。例えば、第1の態様で提供されるいずれかの可能な設計における“点群の境界ボックス”は。“点群グループの境界ボックス”で置き換えられる。例えば、第1の態様で提供される可能な設計における“符号化されるべき点群を投影するための投影規則”は、“符号化されるべき点群グループを投影するための投影規則”で置き換えられる。詳細は、1つずつここで記載されない。
第4の態様に従って、本願の実施形態は、シンタックス要素を取得するようビットストリームをパースすることであり、シンタックス要素は、復号されるべき点群グループにおける復号されるべきパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、点群グループは、点群の少なくとも2つのフレームを含む、ことと、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定することと、復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成することであり、1つ以上のパッチは復号されるべきパッチを含む、こととを含む点群復号化方法を提供する。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報は、復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸、又は復号されるべき点群グループの境界ボックスの辺長さ間のサイズ関係を含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの中で最も出現頻度が高いサイズ情報を含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックスを含んでよい。
可能な設計で、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺長さ間のサイズ関係のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺長さ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。
任意に、第2の態様で提供されるいずれかの可能な設計におけるフレームレベルに基づく情報をGOFレベルに基づく情報で置き換えることによって得られる全ての可能な設計は、第4の態様に適用可能である。例えば、第2の態様で提供されるいずれかの可能な設計における“点群の境界ボックス”は、“点群グループの境界ボックス”で置き換えられる。例えば、第2の態様で提供される可能な設計における“復号されるべき点群を投影するための投影規則”は、“復号されるべき点群グループを投影するための投影規則”で置き換えられる。詳細は、1つずつここで記載されない。
第4の態様及び第4の態様の可能な設計のうちのいずれか1つで提供される技術的解決法は、第3の態様又は第3の態様で提供される対応する点群符号化方法に対応する。従って、達成され得る有利な効果及び関連する内容の説明については、第3の態様を参照されたい。
第5の態様に従って、本願の実施形態は、パッチの接線軸及び従接線軸を決定する方法を提供する。方法は、処理されるべき点群の境界ボックスサイズの記述情報及び処理されるべき点群における処理されるべきパッチの法線軸を取得することと、処理されるべき点群の境界ボックスサイズの記述情報及び処理されるべきパッチの法線軸に基づいて、処理されるべきパッチの接線軸及び処理されるべきパッチの従接線軸を決定することとを含む。
一例で、方法は、符号器によって実行されてよい。この場合に、処理されるべき点群は、具体的に、符号化されるべき点群であり、処理されるべきパッチは、具体的に、符号化されるべきパッチである。この場合に、第5の態様で提供される技術的解決法における関連する用語及び関連するステップの具体的な実施の説明については、第1の態様におけるいずれかの可能な設計を参照されたい。
一例で、方法は、復号器によって実行されてよい。この場合に、処理されるべき点群は、具体的に、復号されるべき点群で有り、処理されるべきパッチは、具体的に、復号されるべきパッチである。この場合に、第5の態様で提供される技術的解決法における関連する用語及び関連するステップの具体的な実施の説明の説明については、第2の態様におけるいずれかの可能な設計を参照されたい。
第6の態様に従って、本願の実施形態は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得するよう構成されるパッチ情報生成モジュールであり、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される、パッチ情報生成モジュールと、シンタックス要素をビットストリームに符号化するよう構成される補助情報符号化モジュールであり、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される、補助情報符号化モジュールとを含む符号器を提供する。
代替的に、第6の態様における“符号化されるべき点群の境界ボックスサイズの記述情報”は、“符号化されるべき点群グループの境界ボックスサイズの記述情報”で置き換えられてよく、点群グループは、点群の少なくとも2つのフレームを含む。
第7の態様に従って、本願の実施形態は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをパースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される補助情報復号化モジュールと、復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ情報を再構成するよう構成される点群ジオメトリ情報再構成モジュールであり、1つ以上のパッチは、復号されるべきパッチを含む、点群ジオメトリ情報再構成モジュールとを含む復号器を提供する。
代替的に、第7の態様における“復号されるべき点群の境界ボックスサイズの記述情報”は、“復号されるべき点群グループの境界ボックスサイズの記述情報”で置き換えられてよく、点群グループは、点群の少なくとも2つのフレームを含む。
第8の態様に従って、本願の実施形態は、点群データ符号化デバイスを提供する。デバイスは、メモリ及び符号器を含んでよい。
メモリは、点群データを記憶するよう構成され、点群データは、点群の1つ以上のフレームを含む。
符号器は、識別子をビットストリームに符号化するよう構成される。識別子は、点群の1つ以上のフレームの中の符号化されるべき点群におけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、フレームレベルに基づく情報である)の接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、符号化されるべき点群におけるパッチを第1の態様で提供される点群符号化方法に従って符号化すべきかどうかを示すために使用される。識別子が、符号化されるべき点群における符号化されるべきパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、符号器は、第1の態様で提供されるいずれかの点群符号化方法に従って、符号化を実行する。
代替的に、第8の態様における点群データは、1つ以上の点群グループを含み、各点群グループは、点群の1つ以上のフレームを含む。符号器は、識別子をビットストリームに符号化するよう構成される。識別子は、1つ以上の点群グループ内の符号化されるべき点群グループにおけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、GOFレベルに基づく情報である)の接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、符号化されるべき点群グループにおけるパッチを第3の態様で提供される点群符号化方法に従って符号化すべきかどうかを示すために使用される。識別子が、符号化されるべき点群グループにおける符号化されるべきパッチの接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、符号器は、第3の態様で提供されるいずれかの点群符号化方法に従って、符号化を実行する。
第9の態様に従って、本願の実施形態は、点群データ復号化デバイスを提供する。デバイスは、メモリ及び復号器を含んでよい。
メモリは、ビットストリームの形で点群データを記憶するよう構成され、点群データは、点群の1つ以上のフレームを含む。
復号器は、識別子を取得するようビットストリームを復号するよう構成される。識別子は、点群の1つ以上のフレームの中の復号されるべき点群におけるパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、復号されるべき点群におけるパッチを第2の態様で提供される点群復号化方法に従って復号すべきかどうかを示すために使用される。識別子が、復号されるべき点群における復号されるべきパッチの接線軸及び従接線軸を点群の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、復号器は、第2の態様で提供されるいずれかの点群復号化方法に従って、復号化を実行する。
代替的に、第9の態様における点群データは、1つ以上の点群グループを含み、各点群グループは、点群の1つ以上のフレームを含む。復号器は、識別子を取得するようにビットストリームを復号するよう構成される。識別子は、1つ以上の点群グループ内の復号されるべき点群グループにおけるパッチ(パッチは、一般化されたパッチであってよく、この場合に、識別子は、GOFレベルに基づく情報である)の接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用され、すなわち、復号されるべき点群グループにおけるパッチを第4の態様で提供される点群復号化方法に従って復号すべきかどうかを示すために使用される。識別子が、復号されるべき点群グループにおける復号されるべきパッチの接線軸及び従接線軸を点群グループの境界ボックスサイズの記述情報に基づいて決定すると示すために使用される場合に、復号器は、第4の態様で提供されるいずれかの点群復号化方法に従って、復号化を実行する。
第10の態様に従って、本願の実施形態は、互いに結合されている不揮発性メモリ及びプロセッサを含む符号化デバイスを提供し、プロセッサは、メモリに記憶されているプログラムを呼び出して、第1の態様又は第3の態様のいずれかの方法の一部又は全てのステップを実行する。
第11の態様に従って、本願の実施形態は、互いに結合されている不揮発性メモリ及びプロセッサを含む復号化デバイスを提供し、プロセッサは、メモリに記憶されているプログラムを呼び出して、第2の態様又は第4の態様のいずれかの方法の一部又は全てのステップを実行する。
第12の態様に従って、本願の実施形態は、パッチの接線軸及び従接線軸を決定する装置を提供する。装置は、第5の態様で提供されるいずれかの方法を実行するよう構成されてよい。一例で、装置は、チップであってよい。可能な設計で、装置は、第5の態様で提供される方法に従って機能モジュールに分割されてよい。例えば、各機能モジュールは、各対応する機能に基づいて分割により取得されてよく、あるいは、2つ以上の機能は、1つの処理モジュールに一体化されてよい。可能な設計で、装置はメモリ及びプロセッサを含んでよく、メモリは、プログラムコードを記憶するよう構成され、プログラムコードがプロセッサによって実行される場合に、第5の態様で提供されるいずれかの方法は実行される。
第13の態様に従って、本願の実施形態は、符号器、復号器、又はパッチの接線軸及び従接線軸を決定する装置の機能を実装するよう構成された処理装置を提供する。処理装置は、プロセッサ及びインターフェースを含む。処理装置は、チップであってよい。プロセッサは、ハードウェア又はソフトウェアによって実施されてよい。ハードウェアによって実施される場合に、プロセッサは、ロジック回路、集積回路、などであってよい。ソフトウェアによって実施される場合に、プロセッサは、汎用プロセッサであってよい。メモリに記憶されているソフトウェアコードを読み出すことによって実施される場合に、メモリは、プロセッサに組み込まれてよく、あるいは、プロセッサの外に独立して存在してもよい。
第14の態様に従って、本願の実施形態は、コンピュータ可読記憶媒体を提供する。コンピュータ可読記憶媒体は、プログラムコードを記憶し、プログラムコードは、第1の態様から第5の態様におけるいずれかの方法の一部又は全てのステップを実行するために使用される命令を含む。
第15の態様に従って、本願の実施形態は、コンピュータプログラム製品を提供する。コンピュータプログラム製品がコンピュータで実行される場合に、コンピュータは、第1の態様から第5の態様におけるいずれかの方法の一部又は全てのステップを実行することを可能にされる。
第2乃至第15の態様は、本願の第1の態様における技術的解決法と一致するか、あるいは、本願の第1の態様における技術的解決法に対応することが理解されるべきである。従って、それらの態様及び対応する可能な設計の有利な効果は同様であり、詳細は再び記載されない。
本願の実施形態に適用可能な点群コーディングシステムの例のブロック図である。
本願の実施形態に適用可能な符号器の例の略ブロック図である。
本願の実施形態に適用可能なビットストリームの例の略構造図である。
本願の実施形態に適用可能な復号器の例の略ブロック図である。
TMC2に適用可能なパッチ生成プロセスの概略図である。
(a)から(c)は、本願の実施形態に適用可能なパッチの例の概略図である。
(a)及び(b)は、先行技術における3次元空間から2次元平面へのパッチの投影の概略図である。
(a)及び(b)は、先行技術における点群の占有マップの概略図である。
本願の実施形態に従う点群符号化方法の略フローチャートである。
本願の実施形態に従う、世界座標系における点群の境界ボックスの位置の概略図である。
(a)から(c)は、本願の実施形態に従う3次元空間から2次元平面へのパッチの投影の概略図である。
本願の実施形態に従う点群復号化方法の略フローチャートである。
本願の実施形態に従う他の点群符号化方法の略フローチャートである。
本願の実施形態に従う他の点群復号化方法の略フローチャートである。
本願の実施形態に従う符号器の略ブロック図である。
本願の実施形態に従う復号器の略ブロック図である。
本願の実施形態に適用可能な符号化デバイス又は復号化デバイスの略ブロック図である。
本願の説明中、「/」は、別なふうに特定されない限りは、「又は」を意味する。例えば、A/Bは、A又はBを表し得る。本明細書において、「及び/又は」は、関連するオブジェクトを記載する単なる関連付け関係を示し、3つの関係が存在する可能性があることを表す。例えば、A及び/又はBは、次の3つの場合:Aのみが存在する、A及びBの両方が存在する、及びBのみが存在する、を表し得る。「複数の〜」は、「2つ以上」を意味する。加えて、本願の実施形態における技術的解決法を明りょうに記載するために、「第1」及び「第2」などの語は、基本的に同じ機能及び目的を有している同じアイテム又は類似したアイテムを区別するために、本願の実施形態に使用される。当業者であれば、「第1」及び「第2」などの語には、数量又は実行順序を限定する意図はなく、「第1」及び「第2」などの語は、決定的な違いを示すものではない、と理解し得る。加えて、本願の説明中、「上」、「下」、「左」、「右」、「前」、及び「後ろ」などの記載は全て、添付の図面を例として使用することによってもたらされる。
本願の説明中、説明は、3次元空間の座標系が世界座標系(又は物理座標系と呼ばれる)として使用され、世界座標系の3つの座標軸が夫々x軸、y軸、及びz軸であり、3つの座標軸と3つの座標軸のインデックスとの間の対応が表1に示されるところの例を使用することによって、提供される。x軸は、水平方向における座標軸であり、y軸は、垂直方向における座標軸であり、z軸は、x軸及びy軸が位置する面に垂直な座標軸である。このことは、ここで一律に記載され、以下で再び記載されない。
図1は、本願の実施形態に適用可能な点群コーディングシステム1の例のブロック図である。本願で、「点群コーディング」又は「コーディング」との語は、一般に、点群符号化又は点群復号化を指し得る。点群コーディングシステム1の符号器100は、本願で提供されるいずれかの点群符号化方法に従って、符号化されるべき点群を符号化してよい。点群コーディングシステム1の復号器200は、本願で提供されるいずれかの点群復号化方法に従って、復号されるべき点群を復号してよい。具体的に、点群符号化方法及び点群復号化方法は両方とも、点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、点群(又は点群グループ)の境界ボックスサイズの記述情報及びパッチの法線軸に基づいて決定することを含んでよい。これに基づき、点群(又は点群グループ)の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間の対応は、点群符号化及び復号化性能を改善するのを助けるように、適切にセットされる。この解決法における関連する項目及び有利な効果の分析については、下記を参照されたい。
図1に示されるように、点群コーディングシステム1は、発信元装置10及びあて先装置20を含む。発信元装置10は、符号化された点群データを生成する。従って、発信元装置10は、点群符号化装置と呼ばれ得る。あて先装置20は、発信元装置10によって生成された符号化された点群データを復号してよい。従って、あて先装置20は、点群復号化装置と呼ばれ得る。発信元装置10、あて先装置20、又は発信元装置10及びあて先装置20の両方の様々な実施解決法は、1つ以上のプロセッサと、1つ以上のプロセッサへ結合されているメモリとを含んでよい。メモリは、制限なしに、ランダム・アクセス・メモリ(random access memory,RAM)、リード・オンリー・メモリ(read-only memory,ROM)、電気的消去可能なプログラム可能リード・オンリー・メモリ(electrically erasable programmable read-only memory,EEPROM)、フラッシュメモリ、又は本明細書で記載されるように、コンピュータによってアクセスされ得る命令若しくはデータ構造の形で所望のプログラムコードを記憶するために使用され得るあらゆる他の媒体を含んでよい。
発信元装置10及びあて先装置20は、デスクトップコンピュータ、モバイルコンピューティング装置、ノートブック(例えば、ラップトップ)コンピュータ、タブレットコンピュータ、セットトップボックス、“スマート”フォンなどの携帯電話機、テレビ受像機、カメラ、ディスプレイ装置、デジタルメディアプレイヤー、ビデオゲーム機、車載コンピュータ、又は同様の装置を含む様々な装置を含んでよい。
あて先装置20は、符号化された点群データを発信元装置10からリンク30を介して受信してよい。リンク30は、符号化された点群データを発信元装置10からあて先装置20へ移動することができる1つ以上の媒体又は装置を含んでよい。一例で、リンク30は、符号化された点群データをあて先装置20へ実時間で直接に送ることを発信元装置10に可能にする1つ以上の通信媒体を含んでよい。この例で、発信元装置10は、通信標準規格(例えば、無線通信プロトコル)に従って、符号化された点群データを変調してよく、そして、変調された点群データをあて先装置20へ送信してよい。1つ以上の通信媒体は、無線及び/又は有線通信媒体、例えば、無線周波数(radio frequency,RF)スペクトル又は1つ以上の物理伝送線路を含んでよい。1つ以上の通信媒体は、パケットベースのネットワークの部分を構成してよく、パケットベースのネットワークは、例えば、ローカル・エリア・ネットワーク、ワイド・エリア・ネットワーク、又はグローバル・ネットワーク(例えば、インターネット)である。1つ以上の通信媒体は、ルータ、スイッチ、基地局、又は発信元装置10からあて先装置20への通信を助ける他のデバイスを含んでよい。
他の例で、符号化されたデータは、出力インターフェース140を通じて記憶装置40へ出力されてもよい。同様に、符号化された点群データは、入力インターフェース240によって記憶装置40からアクセスされてもよい。記憶装置40は、複数の分散されたデータ記憶媒体又はローカルでアクセスされるデータ記憶媒体、例えば、ハードドライブ、ブルーレイディスク、デジタル・バーサタイル・ディスク(digital versatile disc,DVD)、コンパクト・ディスク・リード・オンリー・メモリ(compact disc read-only memory,CD−ROM)、フラッシュメモリ、揮発性若しくは不揮発性メモリ、又は符号化された点群データを記憶するよう構成されたあらゆる他の適切なデジタル記憶媒体のうちのいずれか1つを含んでよい。
他の例で、記憶装置40は、発信元装置10によって生成された符号化された点群データを記憶することができるファイルサーバ又は他の中間記憶装置に対応してよい。あて先装置20は、ストリーミング伝送又は記憶装置40からのダウンロードを通じて、記憶されている点群データにアクセスしてよい。ファイルサーバは、符号化された点群データを記憶し、符号化された点群データをあて先装置20へ送信することができる如何なるタイプのサーバであってもよい。例となるファイルサーバは、ネットワークサーバ(例えば、ウェブサイトに使用される)、ファイル転送プロトコル(file transfer protocol,FTP)サーバ、ネットワーク・アタッチド・ストレージ(network attached storage,NAS)装置、又はローカル・ディスク・ドライブを含む。あて先装置20は、如何なる標準のデータ接続(インターネット接続を含む)によっても、符号化された点群データにアクセスしてよい。標準のデータ接続は、ファイルサーバに記憶されている符号化された点群データにアクセスするのに適している無線チャネル(例えば、Wi−Fi接続)、有線接続(例えば、デジタル加入者回線(digital subscriber line,DSL)若しくはケーブルモデム)、又はそれらの組み合わせを含んでよい。記憶装置40からの符号化された点群データの伝送は、ストリーミング伝送、ダウンロード伝送、又はそれらの組み合わせであってよい。
図1に記載される点群コーディングシステム1は、一例にすぎず、本願の技術は、点群符号化装置と点群復号化装置との間の如何なるデータ通信も必ずしも含まない点群コーディング(例えば、点群符号化又は点群復号化)装置に適用可能である。他の例で、データは、ローカルメモリから読み出されるか、ストリーミング方式においてネットワーク上で伝送されるか、など。点群符号化装置は、データを符号化し、データをメモリに記憶してよく、かつ/あるいは、点群復号化装置は、メモリからデータを読み出し、データを復号してよい。多くの例では、単にデータを符号化し、データをメモリに格納し、かつ/あるいは、メモリからデータを読み出し、データを復号するだけであって、互いに通信しない装置が、符号化及び復号化を実行する。
図1の例では、発信元装置10は、データソース120、符号器100、及び出力インターフェース140を含む。いくつかの例で、出力インターフェース140は、変調器/復調器(モデム)及び/又は送信器を含んでよい。データソース120は、点群捕捉装置(例えば、カメラ)、前に捕捉された点群データを含む点群アーカイブ、点群コンテンツプロバイダから点群データを受信するよう構成された点群フィードインインターフェース、及び/又は点群データを生成するよう構成されたコンピュータグラフィクスシステム、あるいは、点群データのこれらのソースの組み合わせを含んでよい。
符号器100は、データソース120からの点群データを符号化してよい。いくつかの例で、発信元装置10は、符号化された点群データをあて先装置20へ出力インターフェース140を通じて直接送信する。他の例では、符号化された点群データは、代替的に、記憶装置40に記憶されてよく、それにより、あて先装置20は、その後に、復号化及び/又は再生のために、符号化された点群データにアクセスする。
図1の例では、あて先装置20は、入力インターフェース240、復号器200、及びディスプレイ装置220を含む。いくつかの例で、入力インターフェース240は、受信器及び/又はモデムを含む。入力インターフェース240は、リンク30を介して及び/又は記憶装置40から、符号化された点群データを受け取ってよい。ディスプレイ装置220は、あて先装置20と一体化されてよく、あるいは、あて先装置20の外に配置されてよい。通常は、ディスプレイ装置220は、復号された点群データを表示する。複数のタイプのディスプレイ装置220、例えば、液晶ディスプレイ(liquid crystal display,LCD)、プラズマディスプレイ、有機発光ダイオード(organic light-emitting diode,OLED)ディスプレイ、又は他のタイプのディスプレイ装置が存在してよい。
図1に図示されていないが、いくつかの態様で、符号器100及び復号器200は、夫々、オーディオ符号器及びオーディオ復号器と一体化されてよく、結合されたデータストリーム又は個別のデータストリーム内のオーディオ及びビデオの符号化を処理するように、適切なマルチプレクサ−デマルチプレクサ(multiplexer-demultiplexer,MUX−DEMUX)ユニット又は他のハードウェア及びソフトウェアを含んでよい。いくつかの例で、必要に応じて、MUX−DEMUXユニットが、ITU H.223マルチプレクサプロトコル又は、ユーザ・データグラム・プロトコル(user datagram protocol,UDP)などの他のプロトコルに準拠することができる。
符号器100及び復号器200は夫々、例えば、複数の回路、すなわち、1つ以上のマイクロプロセッサ、デジタル信号プロセッサ(digital signal processor,DSP)、特定用途向け集積回路(application-specific integrated circuit,ASIC)、フィールド・プログラマブル・ゲート・アレイ(field-programmable gate array,FPGA)、ディスクリート・ロジック、ハードウェア、又はそれらの任意の組み合わせ、のうちのいずれか1つとして実施されてよい。本願が部分的にソフトウェアにより実施される場合に、装置は、適切な不揮発性コンピュータ可読記憶媒体において、ソフトウェアに使用される命令を記憶してよく、ハードウェアで命令を実行して本願の技術を実施するために1つ以上のプロセッサを使用してよい。上記の内容(ハードウェア、ソフトウェア、ハードウェアとソフトウェアとの組み合わせ、などを含む)のいずれか1つが、1つ以上のプロセッサと見なされてよい。符号器100及び復号器200は夫々、1つ以上の符号器又は復号器に含まれてよく、符号器又は復号器は、対応する装置において複合型符号器/復号器(コーデック)の部分として組み込まれてよい。
本願において、符号器100は、一般に、何らかの情報を、例えば復号器200へ、「送信」又は「送出」する他の装置と称されることがある。「送信」又は「送出」との語は、一般に、圧縮された点群データを復号するために使用されるシンタックス要素及び/又は他のデータの伝送を指し得る。伝送は、実時間で又はほぼ実時間で起こり得る。代替的に、通信は、ある期間の後に起こり得る。例えば、通信は、符号化されたビットストリーム内のシンタックス要素が符号化中にコンピュータ可読記憶媒体に記憶されるときに起こってよく、復号化装置は、次いで、シンタックス要素が媒体に記憶された後にいつでもシンタックス要素を取り出してよい。
一例で、符号器100は、現在の点群(又は点群グループ)に関するシンタックス要素をビットストリームに符号化するよう構成されてよい。シンタックス要素は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を示すために使用される情報を含んでよい。情報は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すべきかどうかを示すために使用される識別子(すなわち、復号器200が、本願で提供される方法を使用することによって、現在の点群(又は点群グループ)についてパッチの接線軸及び従接線軸を決定するかどうかを示すために使用される識別子)を含んでよい。符号器100及び復号器200のデータ処理プロセスは、同じ(又は相応して同じ)である。従って、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すると示すために識別子が使用される場合に、現在の点群(又は点群グループ)に関するシンタックス要素をビットストリームに符号化するときに、符号器100は、ビットストリームを復号器200へ送信してよく、そして、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定してよい。
一例で、復号器200は、現在の点群(又は点群グループ)に関するシンタックス要素を取得するように、ビットストリームをパースするよう構成されてよい。シンタックス要素は、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて決定すると示すために使用される識別子を含んでよい。この場合に、復号器200は、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて、現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定してよい。
実際の実施中に、現在の点群(又は点群グループ)の境界ボックスサイズの記述情報に基づいて現在の点群(又は点群グループ)におけるパッチの接線軸及び従接線軸を決定することは、符号器100及び復号器200によって予め定義(例えば、プロトコルに従って予め定義)されてよい。この場合に、符号器100によって復号器200へ送信されたシンタックス要素(具体的に、ピクチャフィルタリングデータを指す)は、上記の識別子を含まなくてもよい。
図2は、本願の実施形態に適用可能な符号器100の例の略ブロック図である。MPEG(Moving Picture Expert Group)点群圧縮(Point Cloud Compression,PCC)符号化フレームワークが、図2において説明のために例として使用される。図2の例では、符号器100は、パッチ情報生成モジュール101、パッキングモジュール102、デプスマップ生成モジュール103、テクスチャマップ生成モジュール104、ピクチャパディングモジュール105、ピクチャベース又はビデオベース符号化モジュール106、占有マップ符号化モジュール107、補助情報符号化モジュール108、マルチプレキシングモジュール109、などを含んでよい。
パッチ情報生成モジュール101は、方法を使用することによって、点群のフレームを複数のパッチにセグメント化し、生成されたパッチの関連情報などを取得するよう構成される。パッチは、点群の1つのフレーム内のいくつかの点を含む組である。通常は、1つ連結領域が1つのパッチに対応する。パッチの関連情報は、制限なしに、次の情報、すなわち、点群をセグメント化することによって取得されるパッチの数、3次元空間における各パッチの位置情報、各パッチの接線軸のインデックス、各パッチの従接線軸のインデックス、各パッチの法線軸のインデックス、各パッチを2次元平面上に投影することによって生成されるデプスマップ、各パッチのデプスマップのサイズ(例えば、デプスマップの長さ及び高さ)、各パッチの占有マップ、など、のうちの少なくとも1つを含んでよい。関連情報のいくつか、例えば、点群をセグメント化することによって取得されるパッチの数、各パッチの法線軸のインデックス、各パッチのデプスマップのサイズ、及び点群における各パッチの位置情報は、補助情報として使用され、符号化(すなわち、圧縮符号化)のために補助情報符号化モジュール108へ送られてよい。各パッチの占有マップは、パッキングのためにパッキングモジュール102へ送られてよい。具体的に、点群のパッチは、特定の順序で配置される(例えば、パッチの占有マップの長さ/高さの降順(又は昇順)で配置される)。次いで、パッチの占有マップは、点群の占有マップを得るように、配置されたパッチの順序で点群の占有マップのための利用可能な空間に逐次置かれる。更に、点群の占有マップにおける各パッチの具体的な位置情報、各パッチのデプスマップ、などは、デプスマップ生成モジュール103へ送られてよい。
点群の占有マップを取得した後、パッキングモジュール102は、点群の占有マップを符号化のために占有マップ符号化モジュール107へ送ってよく、そして、点群の占有マップを使用することによってデプスマップ生成モジュール103及びテクスチャマップ生成モジュール104を別々に導いてよい。デプスマップ生成モジュール103は、点群の占有マップと、点群の各パッチの占有マップ及びデプスマップとに基づいて、点群のデプスマップを生成し、生成されたデプスマップをピクチャパディングモジュール105へ送るよう構成され、それにより、ピクチャパディングモジュール105は、パディングされたデプスマップを取得するように、受け取られたデプスマップに空きピクセルをパディングする。ビデオ符号化は、パディングされたデプスマップに対して行われ、ビデオ復号化は、点群の復号されたデプスマップを取得するよう行われ、再構成された点群のジオメトリ情報は、復号されたデプスマップ、点群の占有マップ、及び各パッチの補助情報を使用することによって取得される。点群のテクスチャ情報及び再構成された点群のジオメトリ情報は、再構成された点群のテクスチャ情報を取得するために、再構成された点群を彩色するようカラーリングモジュールへ送られる。テクスチャマップ生成モジュール104は、点群の占有マップ、再構成された点群のテクスチャ情報、及び点群の各パッチの占有マップに基づいて点群のテクスチャマップを生成し、生成されたテクスチャマップをピクチャパディングモジュール105へ送るよう構成され、それにより、ピクチャパディングモジュール105は、パディングされたテクスチャマップを取得するように、受け取られたテクスチャマップに空きピクセルをパディングする。任意に、テクスチャマップ生成モジュール104は、代替的に、再構成された点群のジオメトリ情報に対してフィルタリングモジュール110によって実行されたフィルタリングを通じて取得された情報に基づいて、点群のテクスチャマップを生成してもよい。
パディングされたデプスマップ及びパディングされたテクスチャマップは、ピクチャベース又はビデオベースの符号化を実行するように、ピクチャパディングモジュール105によってピクチャベース又はビデオベース符号化モジュール106へ送られる。
最後に、ピクチャベース又はビデオベース符号化モジュール106、占有マップ符号化モジュール107、及び補助情報符号化モジュール108は、符号化結果(すなわち、ビットストリーム)をマルチプレキシングモジュール109へ送り、マルチプレキシングモジュール109は、1つのビットストリームを形成するよう連結を実行し、ビットストリームは出力インターフェース140へ送られてよい。
図2に示される符号器100は、一例にすぎないことが理解され得る。具体的な実施では、符号器100は、図2に示されるものよりも多い又は少ないモジュールを含んでよい。これは、本願のこの実施形態で制限されない。
補助情報符号化モジュール108は、パッチレベルに基づく情報(例えば、パッチの法線軸のインデックス)及びフレームレベルに基づく情報(例えば、点群に含まれるパッチの数)をビットストリームに符号化し得ることが上記の説明から分かる。一例で、符号器100は、点群グループに基づいて符号化を実行してよく、このとき、各点群グループは、点群の少なくとも2つのフレームを含んでよい。この場合に、補助情報符号化モジュール108は更に、GOFレベルに基づく情報(例えば、点群グループに含まれる点群のフレームの数)をビットストリームに符号化してよい。図3は、本願の実施形態に適用可能なビットストリームの例の略構造図である。
図3に示されるビットストリームは、ビットストリームにおいてメタデータ情報(シンタックス要素とも呼ばれ得る)を記述するために使用される部分1101を含み、部分1101は、具体的に、下記のフィールドを含んでよい。
フィールド1102は、GOF内のフレームヘッドのメタデータ情報であり、GOFレベルに基づく情報を記述するために使用され、例えば、GOFの識別子情報、GOFに含まれる点群のフレームの数、及びGOFにおける点群の全フレームの共通情報(例えば、点群グループの境界ボックスサイズの記述情報を示すために使用される下記の情報)を含んでよい。
フィールド1103は、GOF内の点群の第1フレームのメタデータ情報であり、点群の第1フレームに関するフレームレベルに基づく情報を記述するために使用され、例えば、点群の第1フレームに含まれるパッチの数、全てのパッチの占有マップの分解能、点群の占有マップ内の各最小ユニットに含まれ得るパッチの最大数、及び点群の第1フレーム内の全パッチの共通情報(例えば、点群の境界ボックスサイズの記述情報を示すために使用される下記の情報)を含んでよい。
フィールド1104は、GOF内の点群の第1フレームのパッチのメタデータ情報であり、点群の第1フレームに関するパッチレベルに基づく情報を記述するために使用され、具体的に、点群の第1フレーム内の第1パッチのメタデータ情報、・・・、i番目のパッチのメタデータ情報、・・・、I番目のパッチのメタデータ情報を順に含んでよく、このとき、1≦i≦Iであり、i及びIは両方とも整数であり、Iは、点群の第1フレームに含まれるパッチの数である。パッチのメタデータ情報は、パッチの法線軸のインデックスなどを含んでよい。
フィールド1105は、GOF内の点群のj番目のフレームのメタデータ情報であり、点群のj番目のフレームに関するフレームレベルに基づく情報を記述するために使用され、ここで、1<j≦Jであり、j及びJは両方とも整数であり、Jは、GOFに含まれる点群のフレームの数である。
フィールド1106は、GOF内の点群のj番目のフレームのパッチのメタデータ情報であり、点群のj番目のフレームに関するパッチレベルに基づく情報を記述するために使用される。
図4は、本願の実施形態に適用可能な復号器200の例の略ブロック図である。MPEG PCC復号化フレームワークが、図4において説明のための例として使用される。図4の例では、復号器200は、デマルチプレクシングモジュール201、ピクチャベース又はビデオベース復号化モジュール202、占有マップ復号化モジュール203、補助情報復号化モジュール204、点群ジオメトリ情報再構成モジュール205、フィルタリングモジュール206、及び点群テクスチャ情報再構成モジュール207を含んでよい。
デマルチプレクシングモジュール201は、対応する復号化モジュールへ入力ビットストリーム(すなわち、連結ビットストリーム)を送るよう構成される。具体的に、デマルチプレクシングモジュール201は、符号化されたテクスチャマップを含むビットストリームと、符号化されたデプスマップを含むビットストリームとをピクチャベース又はビデオベース復号化モジュール202へ送り、符号化された占有マップを含むビットストリームを占有マップ復号化モジュール203へ送り、符号化された補助情報を含むビットストリームを補助情報復号化モジュール204へ送る。
ピクチャベース又はビデオベース復号化モジュール202は、受信された符号化されたテクスチャマップ及び受信された符号化されたデプスマップを復号し、復号化により得られたテクスチャマップ情報を点群テクスチャ情報再構成モジュール207へ送り、復号化により得られたデプスマップ情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。、占有マップ復号化モジュール203は、符号化された占有マップを含む受信されたビットストリームを復号し、復号化により得られた占有マップ情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。補助情報復号化モジュール204は、受信された符号化された補助情報を復号し、復号化により得られた、補助情報を示す情報を点群ジオメトリ情報再構成モジュール205へ送るよう構成される。
点群ジオメトリ情報再構成モジュール205は、受信された占有マップ情報及び受信された補助情報に基づいて点群ジオメトリ情報を再構成するよう構成される。フィルタリングモジュール206によってフィルタリングされた後、再構成された点群のジオメトリ情報は、点群テクスチャ情報再構成モジュール207へ送られる。点群テクスチャ情報再構成モジュール207は、再構成された点群を取得するように、点群テクスチャ情報を再構成するよう構成される。
図4に示される復号器200は、一例にすぎないことが理解され得る。具体的な実施では、復号器200は、図4に示されるものよりも多い又は少ないモジュールを含んでよい。これは、本願のこの実施形態で制限されない。
本願の実施形態で提供される技術的解決法の理解を容易にするために、下記は、例を用いることによって、パッチ情報生成モジュール101のパッチ生成プロセスと、パッチ情報生成モジュール101によって得られるパッチ関連情報とについて記載する。
図5は、TMC2(Test Model Category 2)に適用可能なパッチ生成プロセスの概略図である。詳細は、KDツリー(K-dimension tree)が最初に点群に基づいて構成され、点群の各点の隣接点がKDツリーに基づいて決定され、各点の法線方向ベクトル(すなわち、法線ベクトル)がその点の隣接点に基づいて取得される、ことを含んでよい。次いで、粗セグメントテーションが、各点の法線方向ベクトル及び予め定義された投影面に基づいて点群に対して実行される(すなわち、各点の投影面が決定される)。予め定義された投影面の1タイプは、点群の境界ボックスの6つの面である。粗セグメントテーション法は、各点の法線方向ベクトルと6つの面の法線方向ベクトルとの間の夾角を別々に計算し、最小の夾角に対応する面をその点の投影面として選択することを含んでよい。その後に、密セグメンテーションが、粗セグメントテーションにより得られた各点の投影面に対して行われる。具体的に、粗セグメントテーション結果は、各点の隣接点の投影面を使用することによって反復更新により調整される。点群の各点の投影面は、密セグメンテーション結果に基づいて決定される。最後に、連結領域は、パッチを生成するように、各投影面に基づいて検出される。例えば、連結領域内の全サンプリング点を含む組がパッチである。
図6(a)から図6(c)は、本願の実施形態に適用可能なパッチの例の概略図である。図6(a)は、点群の1つのフレームを表す。図6(b)は、図6(a)に基づいて生成されたパッチを表す。図6(b)の各連結領域内の点を含む組がパッチである。
上述されたように、パッチ情報生成モジュール101は、点群に基づいて生成されたパッチの関連情報を更に取得してよい。関連情報は、各パッチの接線軸のインデックス、各パッチの従接線軸のインデックス、各パッチの法線軸のインデックス、などを含んでよい。
パッチの接線軸は、パッチの接線が位置する座標軸である。パッチの従接線軸は、パッチの従接線が位置する座標軸である。パッチの従接線は、パッチの接線軸に垂直である。パッチの法線軸は、パッチの法線が位置する座標軸である。パッチの法線軸は、パッチの接線軸及び従接線軸が位置する2次元平面(すなわち、パッチの投影面)に垂直である。続く処理を簡単にするために、“パッチの接線軸、従接線軸、及び法線軸の夫々が世界座標系における座標軸の1つである”ところの例が、本願の実施形態において説明のために使用される。これは、2次元平面へのパッチの投影中の座標系変換の複雑性を低減することができる。確かに、本願はそれに限られない。実際の実施では、“パッチの法線軸、接線軸、及び従接線軸”を含む3次元座標系は、代替的に、世界座標系(又は他の基準座標系)に対して行列変換を実行することによって取得されてもよい。
MPEG PCC符号化フレームワークでは、パッチの接線軸及び従接線軸は、通常は、次の方法、すなわち、最初にパッチの法線軸のインデックスを決定し、次いで、パッチの接線軸及びパッチの従接線軸を取得するよう表2を探索すること、従って、決定される。表2中の座標軸のインデックスは、表1に基づいて取得される。
表2を参照すると、パッチの法線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1であることが分かる。具体的に言えば、パッチの法線軸がx軸である場合に、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されるものと同様であり、これ以上例は挙げられない。
図7(a)及び図7(b)は、3次元空間から2次元平面へのパッチの投影の概略図である。図7で、座標の原点はOと表されている。図7(a)に示される文字Aは3次元空間におけるパッチであり、パッチの法線軸はz軸である、と仮定される。更に、2次元平面上で、パッチの接線軸は水平軸(すなわち、U軸)であり、パッチの従接線軸は垂直軸(すなわち、V軸)である、と仮定される。この場合に、パッチの接線軸はx軸であり、パッチの従接線軸はy軸であることが表2から分かる。すなわち、パッチがマッピングされる2次元平面上で、U軸はx軸であり、V軸はy軸である。これに基づいて、パッチが2次元平面上に投影された後、図7(b)に示される投影像が取得され得る。
各パッチの接線軸及び従接線軸を決定した後、パッチ情報生成モジュール101は、パッチを2次元平面上に投影することによって得られた投影像を更に取得してよい。投影像の各点の座標値は、“パッチの接線軸及び従接線軸”を使用することによって決定された座標系に基づく。次いで、パッキングモジュール102は、点群の占有マップを取得するように、2次元平面上の全パッチの投影像(すなわち、本明細書で記載されるパッチの占有マップ)をパッキングしてよい。
図8(a)及び図8(b)は、点群の占有マップの概略図である。パッチ情報生成モジュール101は、図8(a)に示される点群からパッチを生成し、各パッチの占有マップを取得するように、表2に基づいて各パッチの接線軸及び従接線軸を取得してよい。これに基づいて、パッチの占有マップをパッキングした後、パッキングモジュール102は、図8(b)に示される点群の占有マップを取得し得る。点群の占有マップにおいて、比較的に高い高さ(すなわち、y軸が位置する辺)を有するいくつかのパッチは、垂直方向に配置され、比較的に高い高さを有するいくつかのパッチは、垂直方向に配置される(例えば、長方形ボックス内のパッチ)。これは、図8(b)において空きピクセルが位置している領域のような、点群の占有マップにおける大量の空き空間をもたらす。更に、これは、点群の比較的に大きいサイズの占有マップをもたらし、続くビデオ圧縮符号化にとって好ましくない。
更に、図6(a)から図6(c)に示されるように、各パッチの接線軸及び従接線軸が表2に基づいて取得される場合に、図6(c)に示される占有マップは、図6(b)に示されるパッチに基づいて取得され得る。
下記は、本願の実施形態で提供される点群符号化方法及び点群復号化方法について記載する。
図9は、本願の実施形態に従う点群符号化方法の略フローチャートである。例えば、図1に示される点群符号化システムを参照して、本願の各ステップは、点群符号化システムの発信元装置10によって実行されてよく、より具体的には、発信元装置10の符号器100によって実行されてよい。図9に示される方法は、次のステップを含んでよい。
S101:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得する。符号化されるべき点群は、符号化されるべき点群のいずれかのフレームであってよい。符号化されるべきパッチは、符号化されるべき点群におけるいずれかのパッチであってよい。
点群の境界ボックスは、点群を囲む最小のキューボイドを指す。説明を簡単にするため、本願のこの実施形態では、点群の境界ボックスの各辺は、世界座標系のx軸、y軸、又はz軸などの座標軸に平行又は垂直である。図10は、本願の実施形態に従う、世界座標系における点群の境界ボックスの位置の概略図である。
点群の境界ボックスサイズは、点群の境界ボックスの辺長さ、点群の境界ボックスの3次元空間サイズ、又は点群の境界ボックスの幾何空間サイズとも呼ばれ得る。例えば、Bx、By、及びBzは、点群の境界ボックスサイズを表すために使用されてよい。Bxは、x軸上の(又はx軸に平行な)点群の境界ボックスの辺のサイズを指し、Byは、y軸上の(又はy軸に平行な)点群の境界ボックスの辺のサイズを指し、Bzは、z軸上の(又はz軸に平行な)点群の境界ボックスの辺のサイズを指す。例えば、符号化されるべきパッチが、符号化されるべき点群におけるi番目の点であり、i=0,1,・・・又はN−1であり、Nが、符号化されるべき点群における点の数である、と仮定される。この場合に、符号化されるべき点群の境界ボックスサイズを取得する方法は、Bx=max{p[i].x}−min{p[i].x}、By={p[i].y}−min{p[i].y}、及びBz={p[i].z}−min{p[i].z}であってよい。xは、x軸上のp[i]の座標値であり、yは、y軸上のp[i]の座標値であり、zは、z軸上のp[i]の座標値である。
点群の境界ボックスサイズの記述情報は、点群の境界ボックスサイズを記述するために使用される情報であり、具体的には、点群の境界ボックスサイズのサイズ関係(すなわち、Bx、By、及びBzの間のサイズ関係)、点群の境界ボックスの最も長い辺が位置する座標軸(例えば、x軸、y軸、又はz軸)、などを含んでよい。具体的な実施中に、点群の境界ボックスサイズの記述情報が具体的に、点群の境界ボックスサイズのサイズ関係又は点群の境界ボックスの最も長い辺が位置する座標軸であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい。確かに、本願はそれに限られない。例えば、点群の境界ボックスサイズの記述情報は、代替的に、指示情報をビットストリームに符号化することによって符号器によって復号器に示されてよい。指示情報は、フレームレベルに基づく情報であることが理解され得る。
通常は、Bx、By、及びBzの中の最大値に対応する辺が、点群の境界ボックスの最も長い辺であり、最小値に対応する辺が、点群の境界ボックスの最も短い辺であり、最大値と最小値との間の値に対応する辺が、点群の境界ボックスの2番目に長い辺である、ことが留意されるべきである。更に、Bx、By、及びBzの中に最大値が2つある場合には、2つの値のうちのどちらか一方が、点群の境界ボックスの最も長い辺として使用されてよく、他方が2番目に長い辺として使用される。例えば、Bx=By>Bzである場合に、Bxが最も長い辺であり、Byが2番目に長い辺であるか、あるいは、Byが最も長い辺であり、Bzが2番目に長い辺である。Bx、By、及びBzが等しい場合には、3つのうちのいずれか1つが、最も長い辺として使用されてよく、残り2つのうちのどちらか一方が、2番目に長い辺として使用され、他方が、最も短い辺として使用される。
符号化されるべきパッチの法線軸をいかにして取得するかは、本願のこの実施形態で制限されない。例えば、先行技術が参照されてよい。本願のこの実施形態では、符号化されるべきパッチの法線軸が世界座標系のx軸、y軸、及びz軸のうちの1つである例が、説明のために使用される。
符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。例えば、任意に、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、次のステップS102を実行することによって決定されてよい。
S102:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
任意に、符号器は、例えば、プロトコルに従って、点群の境界ボックスサイズの複数のタイプの記述情報(又は複数のタイプの記述情報のインデックス)と、パッチの複数のタイプの法線軸(又は複数のタイプの法線軸のインデックス)と、パッチの複数のタイプの接線軸(又は複数のタイプの接線軸のインデックス)と、パッチの複数のタイプの従接線軸(又は複数のタイプの従接線軸のインデックス)との間のマッピング関係を予め定義してよい。次いで、符号化されるべき点群の境界ボックスサイズの記述情報(又は記述情報のインデックス)及び符号化されるべきパッチの法線軸(又は符号化されるべきパッチの法線軸のインデックス)を取得した後、符号器は、上記のマッピング関係に基づいて、符号化されるべきパッチの接線軸(又は符号化されるべきパッチの接線軸のインデックス)及び符号化されるべきパッチの従接線軸(又は符号化されるべきパッチの従接線軸のインデックス)を取得する。
マッピング関係の具体的な表現形式は、本願のこの実施形態で制限されない。例えば、マッピング関係は、表、数式、又は条件に基づく論理決定(例えば、if else演算若しくはスイッチ演算)の形で表現されてよい。マッピング関係が具体的に表の形で表現される例が、以下では主に、説明のために使用される。これに基づいて、S102を実行する場合に、符号器は、表を探索することによって、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を取得してよい。上記のマッピング関係は具体的に、1つ以上の表で表現されることが理解され得る。これは、本願のこの実施形態で制限されない。説明を簡単にするために、本願のこの実施形態では、それらの表が具体的に1つの表で表現される例が、説明のために使用される。このことは、ここで一律に記載され、以下で再び記載されない。
点群の境界ボックスサイズの記述情報が点群の境界ボックスサイズのサイズ関係を含む場合に、点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックスは、表3に示され得る。
Bx≧By≧Bzは、全部で4つの場合、すなわち、Bx>By>Bz、Bx=By>Bz、Bz>By=Bz、及びBx=By=Bz、を含んでよい。表3では、“Bx=By>Bz、Bx>By=Bz、及びBx=By=Bz”が夫々、“Bx>By>Bz”とインデックス0を共有する例が、説明のために使用される、と考えられてよい。代替的に、“Bx=By>Bz”及び“By>Bx>Bz”は、インデックス“2”を共有してよい。この場合に、インデックス“2”に対応するサイズ関係は、“By≧Bx>Bz”で置き換えられてよい。代替的に、“Bx>By=Bz”及び“Bx>Bz>By”は、インデックス“1”を共有してよい。この場合に、インデックス“1”に対応するサイズ関係は、“Bx>Bz≧By”で置き換えられてよい。代替的に、“Bx=By=Bz”は、表3におけるいずれかのサイズ関係とインデックスを共有してよい。例えば、“Bx=By=Bz”及び“Bz>By>Bx”がインデックス“5”を共有する場合に、インデックス“5”に対応するサイズ関係は、“Bz≧By≧Bz”で置き換えられてよい。他の例は、1つずつ挙げられない。
By>Bz≧Bxは、全部で2つの場合、すなわち、By>Bz>Bx及びBy>Bz=Bx、を含んでよい。表3では、“By>Bz=Bx”及び“By>Bz>Bx”が夫々、インデックス3を共有する例が、説明のために使用される、と考えられてよい。代替的に、“By>Bz=Bx”及び“By>Bx>Bz”は、インデックス“2”を共有してよい。この場合に、インデックス“2”に対応するサイズ関係は、“By>Bz≧Bx”で置き換えられてよい。
Bz≧Bx>Byは、Bz>Bx>By及びBz=Bx>Byを含んでよい。表3では、“Bz=Bx>By”及び“Bz>Bx>By”がインデックス“4”を共有する例が、説明のために使用される、と考えられてよい。代替的に、“Bz=Bx>By”及び“Bx>Bz>By”は、インデックス“1”を共有してよい。この場合に、インデックス“1”に対応するサイズ関係は、“Bx≧Bz>By”で置き換えられてよい。
上述されているいずれの代替の解決法も、“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を示すために使用される新しい表を形成するように表3と組み合わされてよい、ことが留意されるべきである。更に、原理上、不一致がなければ、上記の代替の解決法のうちのいずれか2つが、“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を示すために使用される新しい表を形成するように表3と組み合わされてよい。更に、表3で提供される各サイズ関係のインデックスは、一例にすぎず、本願のこの実施形態において、点群の境界ボックスサイズのサイズ関係のインデックスに対する制限を構成しない。下記の全ての具体例は、表3の“点群の境界ボックスサイズのとり得る記述情報及びとり得る記述情報のインデックス”を例として使用することによって記載される。このことは、ここで一律に記載され、以下で再び記載されない。
S103:シンタックス要素をビットストリームに符号化し、このとき、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの前記従接線軸を示すために使用される。すなわち、本願のこの実施形態は、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報と、符号化されるべきパッチの法線軸のインデックスとを使用することによって、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を暗黙的に示す技術的解決法をサポートする。
一例で、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、フレームレベルに基づく情報である。従って、図3に示されるビットストリーム構造を参照して、符号化されるべき点群が、GOF内の点群の第1フレームである場合に、S103で、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、ビットストリームにおいてフィールド1103に符号化されてよい。これに基づいて、符号化されるべきパッチの法線軸のインデックスは、ビットストリームに置いてフィールド1104に符号化されてよい。
符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報及び符号化されるべきパッチの法線軸のインデックスは、異なるレベルの情報である(一方は、フレームレベルに基づく情報であり、他方は、パッチレベルに基づく情報である)から、2つの情報は、異なる時点でビットストリームに符号化され得る、ことが理解され得る。確かに、本願はそれに限られない。
例えば、図2に示される符号器を参照して、S101及びS102は、具体的に、符号器においてパッチ情報生成モジュール101によって実行されてよい。S103は、符号器において補助情報符号化モジュール108によって実行されてよい。
S102及びS103を実行する順序は、本願のこの実施形態で制限されない。例えば、S102は、S103の前に実行されてよく、あるいは、S103は、S102の前に実行されてよく、あるいは、S102及びS103は、同時に実行されてよい。
任意に、S102が実行された後かつS103が実行される前に、方法は、符号化されるべきパッチの接線軸及び従接線軸に基づいて、符号化されるべきパッチを3次元座標系から2次元座標系へ投影することを更に含んでもよい。符号器によって実行されるべき続くステップについては、図2に示される符号器の上記の説明を参照されたいが、これは制限されない。
本願の有利な効果の説明については、上記の概要を参照されたい。詳細は、ここで再び記載されない。
任意に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、具体的に、次の解決法1又は解決法2であってよい。解決法1又は解決法2が具体的に使用されるべきであるかどうかは、予め定義され(例えば、プロトコルに従って予め定義され)てよく、あるいは、指示情報をビットストリームに符号化することによって符号器によって復号器に通知されてよい。指示情報の具体的な内容は、本願のこの実施形態で制限されない。例えば、指示情報は、解決法1又は解決法2の識別子情報であってよく、あるいは、次の方法3ではマッピング規則であってよい。確かに、本願の実施形態は、それらに限られない。
任意に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、具体的に、次の解決法3又は解決法4であってよい。解決法3又は解決法4が具体的に使用されるべきであるかどうかは、予め定義され(例えば、プロトコルに従って予め定義され)てよく、あるいは、指示情報をビットストリームに符号化することによって符号器によって復号器に通知されてよい。指示情報の具体的な内容は、本願のこの実施形態で制限されない。例えば、指示情報は、解決法3又は解決法4の識別子情報であってよく、あるいは、次の方法3ではマッピング規則であってよい。確かに、本願の実施形態は、それらに限られない。
解決法1:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの従接線軸である。この場合に、パッチの法線軸及びパッチの従接線軸の両方に垂直な座標軸が、パッチの接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸が、パッチの従接線軸であり、点群の境界ボックスの最も短い辺が位置する座標軸が、パッチの接線軸である。
解決法1に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表4に示され得る。
例えば、表4を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが0である場合に、パッチの法線軸のインデックスが0であるならば、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1であること分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bx≧By≧Bxの場合に、パッチの法線軸がx軸であるならば、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。
他の例として、表4を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが4である場合に、パッチの法線軸のインデックスが1であるならば、パッチの接線軸のインデックスは0であり、パッチの従接線軸のインデックスは2であることが分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bz≧Bx>Byの場合に、パッチの法線軸がy軸であるならば、パッチの接線軸はx軸であり、パッチの従接線軸はz軸である。
他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
解決法2:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの接線軸である。この場合に、パッチの法線軸及びパッチの接線軸の両方に垂直な座標軸が、パッチの従接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸が、パッチの接線軸であり、点群の境界ボックスの最も短い辺が位置する座標軸が、パッチの従接線軸である。
解決法2に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表5に示され得る。
例えば、表5を参照すると、点群の境界ボックスサイズのサイズ関係のインデックスが0である場合に、パッチの法線軸のインデックスが0であるならば、パッチの接線軸のインデックスは1であり、パッチの従接線軸のインデックスは2であること分かる。表1及び表3を参照して、この例は、具体的に、次の通りであることが分かる。Bx≧By≧Bxの場合に、パッチの法線軸がx軸であるならば、パッチの接線軸はy軸であり、パッチの従接線軸はz軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
解決法3:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの従接線軸である。この場合に、パッチの法線軸及びパッチの従接線軸の両方に垂直な座標軸が、パッチの接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸及び点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方が、パッチの従接線軸であり、他方が、パッチの接線軸である。具体的に、パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの従接線軸であってよく、点群の境界ボックスの最も短い辺は、パッチの接線軸であり、あるいは、点群の境界ボックスの最も短い辺は、パッチの従接線軸であってよく、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの接線軸である。
解決法3に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表6に示され得る。
例えば、表6を参照すると、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスが0である場合に、パッチの法線軸のインデックスが2であるならば、パッチの接線軸のインデックスは1であり、パッチの従接線軸のインデックスは0であること分かる。表1を参照して、この例は、具体的に、次の通りであることが分かる。点群の境界ボックスの最も長い辺が位置する座標軸がx軸である場合に、パッチの法線軸がz軸であるならば、パッチの接線軸はy軸であり、パッチの従接線軸はx軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
表6は、単に、解決法3に基づいて提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”の例を示している。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がx軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、z軸は、パッチの接線軸であり、y軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がy軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、z軸は、パッチの接線軸であり、x軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がz軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、y軸は、パッチの接線軸であり、x軸は、パッチの従接線軸である。
具体的な実施中に、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、パッチの法線軸のインデックスと、パッチの接線軸のインデックスと、パッチの従接線軸のインデックスとの間のマッピング関係が表6又は、表6の代替の解決法に対応するそれらのインデックス間のマッピング関係を含む新しい表であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい、ことが留意されるべきである。
解決法4:
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、点群の境界ボックスの最も長い辺が位置する座標軸は、パッチの接線軸である。この場合に、パッチの法線軸及びパッチの接線軸の両方に垂直な座標軸が、パッチの従接線軸である。
パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸及び点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方が、パッチの従接線軸であり、他方が、パッチの接線軸である。具体的に、パッチの法線軸が、そのパッチを含む点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの接線軸であってよく、点群の境界ボックスの最も短い辺は、パッチの従接線軸であり、あるいは、点群の境界ボックスの最も短い辺は、パッチの接線軸であってよく、点群の境界ボックスの2番目に長い辺が位置する座標軸は、パッチの従接線軸である。
解決法4に基づいて、本願のこの実施形態で提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”は、表7に示され得る。
例えば、表7を参照すると、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスが0である場合に、パッチの法線軸のインデックスが2であるならば、パッチの接線軸のインデックスは0であり、パッチの従接線軸のインデックスは1であること分かる。表1を参照して、この例は、具体的に、次の通りであることが分かる。点群の境界ボックスの最も長い辺が位置する座標軸がx軸である場合に、パッチの法線軸がz軸であるならば、パッチの接線軸はx軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
表7は、単に、解決法4に基づいて提供される“点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係”の例を示している。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がx軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、y軸は、パッチの接線軸であり、z軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がy軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、x軸は、パッチの接線軸であり、z軸は、パッチの従接線軸である。代替的に、点群の境界ボックスの最も長い辺が位置する座標軸がz軸であり、点群の境界ボックスの最も長い辺が位置する座標軸がパッチの法線軸と同じである場合に、x軸は、パッチの接線軸であり、y軸は、パッチの従接線軸である。
具体的な実施中に、点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、パッチの法線軸のインデックスと、パッチの接線軸のインデックスと、パッチの従接線軸のインデックスとの間のマッピング関係が表7又は、表7の代替の解決法に対応するそれらのインデックス間のマッピング関係を含む新しい表であるかどうかは、予め定義され、例えば、プロトコルに従って予め定義されてよい、ことが留意されるべきである。
任意に、S102は、次の方法のうちの1つで実施されてよい。
方法1:S102は、次のステップS102−Aを含んでよい。
S102−A:点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定し、このとき、決定された対象接線軸が、符号化されるべきパッチの接線軸であり、決定された対象従接線軸が、符号化されるべきパッチの従接線軸である。
方法1は、次のステップS102−Bで置き換えられてよい。
S102−B:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報のインデックス及び符号化されるべきパッチの法線軸のインデックスの両方に対応する対象接線軸のインデックス及び対象従接線軸のインデックスを決定する。対象接線軸の決定されたインデックスは、符号化されるべきパッチの接線軸のインデックスであり、対象従接線軸の決定されたインデックスは、符号化されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、マッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、マッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、点群の境界ボックスサイズの記述情報の各タイプのインデックスは、“接線軸のインデックス及び従接線軸のインデックス”の3つの組み合わせに対応し、“接線軸のインデックス及び従接線軸のインデックス”の各組み合わせは、1つの法線軸のインデックスに対応する。例えば、表4を参照すると、符号化されるべき点群の境界ボックスサイズの記述情報のインデックスが0であり、パッチの法線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1である。具体的に言えば、符号化されるべき点群の境界ボックスサイズの記述情報がBx≧By≧Bzであり、パッチの法線軸がx軸である場合に、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法2:S102は、次のステップS102−C1及びS102−C2を含んでよい。
S102−C1:点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む。
S102−C2:パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸が、符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、符号化されるべきパッチの従接線軸である。
点群の境界ボックスサイズの記述情報は、接線モードセットと一対一の対応にあってよい。ここでの点群は、一般化された点群である。パッチの複数のタイプの法線軸は、対象接線モードセット内の複数の接線モードと一対一の対応にあってよい。ここでのパッチは、一般化されたパッチである。パッチの法線軸はx軸、y軸、又はz軸であってよいから、パッチの法線軸には3つのタイプが存在し得る。すなわち、各接線モードセットは、3つの接線モードを含み得る。
方法2は、次のステップS102−D1及びS102−D2で置き換えられてよい。
S102−D1:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸のインデックス及び1つの従接線軸のインデックスを含む。
S102−D2:パッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードのインデックスとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸のインデックスに対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸のインデックスが、符号化されるべきパッチの接線軸のインデックスであり、決定された対象接線モードに含まれる従接線軸のインデックスが、符号化されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、点群の境界ボックスサイズの記述情報の複数のタイプのインデックスと複数の接線モードセットとの間のマッピング関係、及びパッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードのインデックスとの間のマッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、それら2つのマッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、表の最後の2つの列の各行に含まれている“パッチの接線軸のインデックス及びパッチの従接線軸のインデックス”の組み合わせは、1つの接線モードを表す。各接線モードは、1つの法線軸のインデックスに対応する。点群の境界ボックスサイズの記述情報の各タイプのインデックスに対応する3つの接線モードは、記述情報に対応する接線モードセットを表す。
例えば、表4を参照すると、符号化されるべき点群の境界ボックスサイズの記述情報のインデックスが0である場合に、符号化されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットは、次の接線モード、すなわち、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モード、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス0”を含む接線モード、及び“パッチの接線軸のインデックス1及びパッチの従接線軸のインデックス0”を含む接線モード、を含む。この場合に、符号化されるパッチの法線軸のインデックスが0である場合に、符号化されるべきパッチに対応する接線モードは、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モードである。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法3:S102は、次のステップS102−Eを含んでよい。
S102−E:符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、投影規則(又は符号化されるべき点群を投影するための投影規則と称される)に従って、符号化されるべきパッチの接線軸及び符号化されるべきパッチの前記従接線軸を決定し、このとき、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。2次元平面は、符号化されるべきパッチの接線軸及び従接線軸が位置する面である。
方法3で、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する具体的な実施については、方法1又は方法2を参照されたい、ことが理解され得る。
任意に、投影規則は、垂直投影又は水平投影を含んでよい。垂直投影は、点群におけるほとんどのパッチが2次元平面上に投影される場合に投影像が垂直に分布しているという規則を指す。水平投影は、点群におけるほとんどのパッチが2次元平面上に投影される場合に投影像が水平に分布しているという規則を指す。具体的な実施中に、符号器は、符号化されるべき点群を投影するための投影規則が水平投影又は垂直投影を示すかどうかを決定する前に、ここでの“ほとんどのパッチ”の具体的な数を最初に決定する必要がなくてよい、ことが理解され得る。例えば、符号化されるべき点群を投影するための投影規則は、予め定義され、例えば、プロトコルに従って予め定義されてよい。他の例として、符号化されるべき点群を投影するための投影規則は、レート歪みコスト基準に従って取得されてよい。確かに、本願はそれに限られない。例えば、符号化されるべき点群を投影するための投影規則は、レート歪みコスト基準に従って、候補投影規則セットから決定される。候補投影規則セットは、少なくとも2つの前もってセットされた規則を含んでよく、例えば、水平投影及び垂直投影を含んでよい。
任意に、符号化されるべき点群を投影するための投影規則が予め定義されていない場合に、符号化されるべき点群を投影するための投影規則を取得した後に、符号器は、投影規則を復号器に通知するように、投影規則を示すために使用される情報をビットストリームに符号化してよい。投影規則を示すために使用される情報は、フレームレベルに基づく情報である、ことが理解され得る。従って、図3を参照して、符号化されるべき点群がGOF内の点群の第1フレームである場合に、投影規則を示すために使用される情報は、ビットストリームにおいてフィールド1103に符号化されてよい。
図11(a)から図11(c)は、本願の実施形態に従う、3次元空間から2次元平面へのパッチの投影の概略図である。図11で、座標の原点は、Oと表される。図11(a)の文字Aは3次元空間におけるパッチであり、パッチの法線軸はz軸である、と仮定される。更に、2次元平面上で、パッチの接線方向は水平軸(すなわち、U軸)であり、パッチの従接線軸は垂直軸(すなわち、V軸)である、と仮定される。この場合に、パッチの接線軸がx軸であり、パッチの従接線軸がy軸である場合に、すなわち、U軸がx軸であり、V軸がy軸である場合に、図11(a)に示されるパッチが2次元平面上に投影された後、図11(b)に示される投影像が取得される。パッチの接線軸がy軸であり、パッチの従接線軸がx軸である場合に、すなわち、U軸がy軸であり、V軸がx軸である場合に、図11(a)に示されるパッチが2次元平面上に投影された後、図11(c)に示される投影像が取得される。図11(b)に示される投影像は垂直に分布しており、図11(c)に示される投影像は水平に分布している、ことが理解され得る。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、符号化されるべき点群を投影するための投影規則が垂直投影を示すならば、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法1であってよい。この場合に、符号器は、表4を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。符号化されるべき点群を投影するための投影規則が水平投影を示す場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法2であってよい。この場合に、符号器は、表5を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべき点群を投影するための投影規則が垂直投影を示すならば、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法3であってよい。この場合に、符号器は、表6を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。符号化されるべき点群を投影するための投影規則が水平投影を示す場合に、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法4であってよい。この場合に、符号器は、表7を探索することによって、符号化されるべきパッチの接線軸及び従接線軸を取得してよい。
投影規則が垂直投影及び水平投影を含む例が、先に説明のために使用されている。更に、投影規則は、他の投影規則を含んでもよい。この場合に、符号器は、各投影規則と“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”との対応を(例えば、プロトコルに従って)予め定義してよい。従って、符号化されるべき点群を投影するための具体的な投影規則が決定された後に、符号化されるべきパッチの接線軸及び従接線軸を決定するために使用される“点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”は、取得され得る。
下記は、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報の具体的な実施について説明する。例えば、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、次の情報1から7のうちのいずれか1つを含んでよい。
情報1は、符号化されるべき点群の境界ボックスのサイズ情報である。符号化されるべき点群の境界ボックスのサイズ情報は、符号化されるべき点群の境界ボックスサイズBx、By、及びBzを含んでよい。例えば、Bx=10センチメートル(cm)、By=8cm、及びBz=5cmである場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、Bx=10cm、By=8cm、及びBz=5cmを含んでよい。
情報2は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスである。例えば、Bx=10cm、By=8cm、及びBz=5cmである場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの最も長い辺(すなわち、Bx)が位置する座標軸(すなわち、x軸)のインデックス“0”を含んでよい。
情報3は、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスである。例えば、Bx=10cm、By=8cm、及びBz=5cmである場合に、表2を参照すると、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係(すなわち、Bx>By>Bz)のインデックス“0”を含んでよい、ことが分かる。
情報4は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスとである。
情報5は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
情報6は、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
情報7は、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、上記の情報1及び情報3から情報7のうちのいずれか1つを使用することによって実施されてよい。復号器は、情報1及び情報4から情報7のうちいずれか1つを使用することによって、Bx、By、及びBzの間のサイズ関係を取得してよく、あるいは、表2を参照して情報3を使用することによって、Bx、By、及びBzの間のサイズ関係を取得してよい、ことが理解され得る。
符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、上記の情報1又は情報2を使用することによって実施されてよい。
具体的な実施中に、上記の情報1から7のうちのどの1つが、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に含まれるかは、予め定義(例えば、プロトコルに従って予め定義)されてよい、ことが理解され得る。確かに、本願はそれに限られない。例えば、上記の情報4が、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報として使用されることが予め合意されている場合に、任意の実施は、ビットストリームがフィールド1及びフィールド2を含み、フィールド1が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスを示すために使用され、フィールド2が、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスを示すために使用される、ことであってよい。更に、ビットストリームにおける2つのフィールドの位置及び各フィールドによって占有されるビットの数は、符号器及び復号器によって予め合意される。この場合に、Bx=10cm、By=8cm、及びBz=5cmであるならば、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスの最も長い辺(すなわち、Bx)が位置する座標軸のインデックス0を運ぶフィールド1と、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックス1を運ぶフィールド2とを含む。情報5から情報7の具体例は、ここで記載されているものと同様であり、ここで1つずつ挙げられない。
図12は、本願の実施形態に従う点群復号化方法の略フローチャートである。点群符号化方法は、点群復号化方法に対応している。従って、この実施形態における関連する内容の説明については、点群符号化方法の上記の実施形態を参照されたい。例えば、図1の点群コーディングシステムを参照して、この実施形態は、具体的に、点群コーディングシステムのあて先装置20によって実行されてよく、より具体的には、あて先装置20の復号器200によって実行されてよい。図12に示される方法は、次のステップを含んでよい。
S201:シンタックス要素を取得するようビットストリームをパースする。シンタックス要素は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含む。
復号されるべき点群は、符号器が上記の符号化されるべき点群を符号化した後に符号器によって復号器へ送信された点群であってよい。図3を参照すると、復号されるべき点群がGOF内の点群の第1フレームである場合に、S201は、具体的に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報を取得するようにフィールド1102をパースすることと、復号されるべきパッチの法線軸のインデックスを取得するようにフィールド1103をパースすることとを含んでよい。復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報がフレームレベルに基づく情報であり、復号されるべきパッチの法線軸のインデックスがパッチレベルに基づく情報である場合に、復号器は、2つの情報を異なる時点でパースしてよい。
復号されるべき点群の境界ボックスサイズの記述情報は、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸、などを含んでよい。具体的な実施中に、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含むかどうかは、予め定義(例えば、プロトコルに従って予め定義)されてよく、あるいは、ビットストリームで運ばれた指示情報をパースすることによって決定されてよい。指示情報は、フレームレベルに基づく情報である、ことが理解され得る。
任意に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、次の情報のうちの1つを含んでよい。情報8は、復号されるべき点群の境界ボックスのサイズ情報である。情報9は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスである。情報10は、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスである。情報11は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスとである。情報12は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。情報13は、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。情報14は、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸のインデックスと、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のインデックスとである。
具体的に、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、情報8及び情報10から情報14のうちのいずれか1つを含んでよい。復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、情報8及び情報9のどちらか一方を含んでよい。
任意に、復号器は、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用され、予め定義(例えば、プロトコルに従って予め定義)されているビットストリーム内のプリセットフィールド(例えば、フィールド1102)で運ばれる特定の情報に基づいて、復号されるべき点群の境界ボックスサイズの記述情報(又は記述情報のインデックス)を決定してよい。
S202:パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定する。
任意に、復号器は、例えば、プロトコルに従って、点群の境界ボックスサイズの複数のタイプの記述情報(又は複数のタイプの記述情報のインデックス)と、パッチの複数のタイプの法線軸(又は複数のタイプの法線軸のインデックス)と、パッチの複数のタイプの接線軸(又は複数のタイプの接線軸のインデックス)と、パッチの複数のタイプの従接線軸(又は複数のタイプの従接線軸のインデックス)との間のマッピング関係を予め定義してよい。次いで、復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、ビットストリームをパースすることによって取得された後、復号されるべきパッチの接線軸(又は復号されるべきパッチの接線軸のインデックス)及び復号されるべきパッチの従接線軸(又は復号されるべきパッチの従接線軸のインデックス)は、マッピング関係に従って取得される。
復号器が、表の形でマッピング関係を予め定義する場合に(確かに、本願はこれに限られない)、表は、表4から表7のうちのいずれか1つに示されるマッピング関係であってよい。これに基づいて、復号器は、表を探索することによって、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を取得してよい。
S203:復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群のジオメトリ情報を再構成し、このとき、1つ以上のパッチは、復号されるべきパッチを含む。
点群復号化方法は、先に提供された点群符号化方法に対応している。従って、点群復号化方法に従って達成され得る有利な効果については、点群符号化方法に従って達成され得る有利な効果の上記の分析を参照されたい。詳細はここで再び記載されない。
任意に、S202は、次の方法のうちの1つで実施されてよい。
方法1:S202は、次のステップS202−Aを含んでよい。
S202−A:点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定し、このとき、決定された対象接線軸が、復号されるべきパッチの接線軸であり、決定された対象従接線軸が、復号されるべきパッチの従接線軸である。
方法1は、次のステップS202−Bで置き換えられてよい。
S202−B:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと、パッチの複数のタイプの法線軸のインデックスと、パッチの複数のタイプの接線軸のインデックスと、パッチの複数のタイプの従接線軸のインデックスとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報のインデックス及び復号されるべきパッチの法線軸のインデックスの両方に対応する対象接線軸のインデックス及び対象従接線軸のインデックスを決定する。対象接線軸の決定されたインデックスは、復号されるべきパッチの接線軸のインデックスであり、対象従接線軸の決定されたインデックスは、復号されるべきパッチの従接線軸のインデックスである。
具体的に、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、マッピング関係は、表4又は表5に示され得る。点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、マッピング関係は、表6又は表7に示され得る。
一例で、表4から表7のうちのいずれか1つを参照すると、点群の境界ボックスサイズの記述情報の各タイプのインデックスは、“接線軸のインデックス及び従接線軸のインデックス”の3つの組み合わせに対応し、“接線軸のインデックス及び従接線軸のインデックス”の各組み合わせは、1つの法線軸のインデックスに対応する。例えば、表4を参照すると、復号されるべき点群の境界ボックスサイズの記述情報のインデックスが0であり、パッチの法線軸のインデックスが0である場合に、パッチの接線軸のインデックスは2であり、パッチの従接線軸のインデックスは1である。具体的に言えば、パッチの接線軸はz軸であり、パッチの従接線軸はy軸である。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法2:S202は、次のステップS202−C1及びS202−C2を含んでよい。
S202−C1:点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含む。
S202−C2:パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸が、復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、復号されるべきパッチの従接線軸である。
方法2は、次のステップS202−D1及びS202−D2で置き換えられてよい。
S202−D1:点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットを決定し、このとき、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは、1つの接線軸のインデックス及び1つの従接線軸のインデックスを含む。
S202−D2:パッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸のインデックスに対応する対象接線モードを決定し、このとき、決定された対象接線モードに含まれる接線軸のインデックスは、復号されるべきパッチの接線軸でのインデックスあり、決定された対象接線モードに含まれる従接線軸のインデックスは、復号されるべきパッチの従接線軸のインデックスである。
点群の境界ボックスサイズの複数のタイプの記述情報のインデックスと複数の接線モードセットとの間のマッピング関係、及びパッチの複数のタイプの法線軸のインデックスと対象接線モードセット内の複数の接線モードとの間のマッピング関係の具体的な実施及び関連する記載については、上記の説明を参照されたい。
例えば、表4を参照すると、復号されるべき点群の境界ボックスサイズの記述情報のインデックスが0である場合に、復号されるべき点群の境界ボックスサイズの記述情報のインデックスに対応する対象接線モードセットは、次の接線モード、すなわち、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モード、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス0”を含む接線モード、及び“パッチの接線軸のインデックス1及びパッチの従接線軸のインデックス0”を含む接線モード、を含む。この場合に、復号されるパッチの法線軸のインデックスが0である場合に、復号されるべきパッチに対応する接線モードは、“パッチの接線軸のインデックス2及びパッチの従接線軸のインデックス1”を含む接線モードである。他の例の原理は、ここで記載されているものと同様であり、これ以上の例は挙げられない。
方法3:S202は、次のステップS202−Eを含んでよい。
S202−E:復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸に基づいて、投影規則(又は復号されるべき点群を投影するための投影規則と称される)に従って、復号されるべきパッチの接線軸及び復号されるべきパッチの前記従接線軸を決定し、このとき、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。2次元平面は、復号されるべきパッチの接線軸及び従接線軸が位置する面である。
任意に、投影規則は、垂直投影又は水平投影を含んでよい。
一例で、復号されるべき点群を投影するための投影規則は、予め定義され、例えば、プロトコルに従って予め定義されてよい。
一例で、復号されるべき点群を投影するための投影規則は、ビットストリームをパースすることによって復号器によって取得されてよい。ビットストリームをパースすることによって取得されたシンタックス要素は、復号されるべき点群を投影するための投影規則を示すために使用される情報を含む。復号されるべき点群を投影するための投影規則を示すために使用される情報は、フレームレベルに基づく情報である。復号されるべき点群を投影するための投影規則を示すために使用される情報の具体的なタイプは、本願のこの実施形態で制限されない。例えば、情報は、投影規則のインデックスであってよい。例えば、投影規則が垂直投影を示す場合に、投影規則のインデックスは0であってよい。投影規則が水平投影を示す場合に、投影規則のインデックスは1であってよい。確かに、本願はこれに限られない。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、復号されるべき点群を投影するための投影規則が垂直投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法1であってよい。この場合に、復号器は、表4を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。復号されるべき点群を投影するための投影規則が水平投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法2であってよい。この場合に、復号器は、表5を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。
一例で、点群の境界ボックスサイズの記述情報が、点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群を投影するための投影規則が垂直投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法3であってよい。この場合に、復号器は、表6を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。復号されるべき点群を投影するための投影規則が水平投影を示すとき、点群の境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係は、上記の解決法4であってよい。この場合に、復号器は、表7を探索することによって、復号されるべきパッチの接線軸及び従接線軸を取得してよい。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスを含む場合、又は復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックスを含む場合に、任意に、S202は、先に提供された方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい、ことが理解され得る。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を取得することを更に含んでよい、ことが理解され得る。次いで、任意に、S202は、先に提供された方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい。
復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含む場合に、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報が、復号されるべき点群の境界ボックスのサイズ情報を含むならば、方法は、復号されるべき点群の境界ボックスのサイズ情報に基づいて、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を取得することを更に含んでよい。次いで、任意に、S202は、先に提供された方法1から方法3のうちのいずれか1つ又は当該方法の代替の方法を使用することによって実施されてよい。
図13は、本願の実施形態に従う他の点群符号化方法の略フローチャートである。この実施形態における関連する内容の説明については、上記の説明を参照されたい。図13に示される方法は、次のステップを含んでよい。
S301:符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチの法線軸を取得し、このとき、符号化されるべき点群グループ(すなわち、GOF)は、点群の少なくとも2つのフレームを含む。符号化されるべき点群グループは、符号化要件を有している如何なる点群グループであってもよい。
特定の点群を点群グループとして使用する具体的な実施は、本願のこの実施形態で制限されない。例えば、先行技術が参照されてよい。例えば、点群の32個の連続フレームが、点群グループとして使用されてよい。
点群グループの境界ボックスサイズの記述情報は、点群グループの境界ボックスの辺長さ間のサイズ関係、点群グループの境界ボックスの最も長い辺が位置する座標軸、などを含んでよい。
任意に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の点群の1つのフレーム(例えば、点群の第1フレーム)の境界ボックスサイズの記述情報であってよい。
任意に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報に関する統計値を収集することによって、取得されてよい。例えば、点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報が、点群グループの境界ボックスサイズの記述情報として使用されてよい。詳細は次の通りである。
点群グループの境界ボックスサイズの記述情報が、点群グループの境界ボックスの辺長さ間のサイズ関係を含む場合に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスの辺長さ間のサイズ関係の中で最も出現頻度が高いサイズ関係であってよい。例えば、表2を参照すると、各点群の境界ボックスの辺長さ間のサイズ関係は、表2に示される6つのとり得る場合のうちの1つであってよい。点群グループ内の各点群の境界ボックスの辺長さ間のサイズ関係に対して統計値を収集することによって、Bx≧By≧Bzが6つのとり得る場合の中で最も高い出現頻度を有していることが知られる場合に、Bx≧By≧Bzは、符号化されるべき点群グループの境界ボックスの辺長さ間のサイズ関係として使用される。
点群グループの境界ボックスサイズの記述情報が、点群グループの境界ボックスの最も長い辺が位置する座標軸を含む場合に、点群グループの境界ボックスサイズの記述情報は、点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸であってよい。例えば、各点群の境界ボックスの最も長い辺が位置する座標軸は、x軸、y軸、及びz軸のうちの1つであってよい。点群グループ内の各点群の境界ボックスの最も長い辺が位置する座標軸に関して統計値を収集することによって、x軸が最も高い出現頻度を有していることが知られる場合に、x軸は、符号化されるべき点群グループの境界ボックスサイズの記述情報として使用される。
符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。例えば、任意に、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸は、次のステップS302を実行することによって決定されてよい。
S302:符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
この実施形態で、符号化されるべき点群グループ内の点群の全てのフレームにおける全ての符号化されるべきパッチについて、符号器は、同じタイプの記述情報を使用して、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定する。
例えば、図9に示される点群符号化方法におけるS102の方法1(若しくは方法1の代替解決法)又は方法2(若しくは方法2の代替解決法)での“点群の境界ボックスサイズの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられた後に得られる解決法は、この実施形態におけるS303の具体的な実施として使用されてよい。詳細はここで記載されない。
例えば、図9に示される点群符号化方法におけるS102の方法3での“点群の境界ボックスサイズの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられ、“符号化されるべき点群を投影するための投影規則”が“符号化されるべき点群グループを投影するための投影規則”で置き換えられた後に得られる解決法は、この実施形態におけるS303の具体的な実施として使用されてよい。詳細はここで記載されない。符号化されるべき点群グループを投影するための投影規則は、GOFレベルに基づく情報である、ことが理解され得る。従って、符号化されるべき点群グループを投影するための投影規則を示すために使用される情報がビットストリームに符号化されるべきである場合に、図3に示されるビットストリーム構造を参照して、符号器は、情報をフィールド1102に符号化してよい。
例えば、上記の解決法1から解決法4での“点群の境界ボックスサイズの記述情報”が“点群グループの境界ボックスサイズの記述情報”で置き換えられた後に得られるマッピング関係は、この実施形態における“点群グループの境界ボックスサイズの記述情報と、パッチの法線軸と、パッチの接線軸と、パッチの従接線軸との間のマッピング関係”として使用されてよい。
S303:シンタックス要素をビットストリームに符号化し、このとき、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。
符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、GOFレベルに基づく情報である。従って、情報がビットストリームに符号化されるべきである場合に、図3に示されるビットストリーム構造を参照して、符号器は、情報をフィールド1102に符号化してよい。
任意に、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、次の:符号化されるべき点群グループの境界ボックスのサイズ情報;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの辺長さ間のサイズ関係のインデックス;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス;符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス;又は符号化されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックス、のうちの1つを含んでよい。符号化されるべき点群グループの境界ボックスのサイズ情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報であってよく、あるいは、符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスのサイズ情報の中で最も出現頻度が高いサイズ情報であってよい。符号化されるべき点群グループの境界ボックスの2番目に長い辺が位置する座標軸のインデックス及び符号化されるべき点群グループの境界ボックスの最も短い辺が位置する座標軸のインデックスを決定する他の方法の原理は、ここで記載されているものと同様であり、ここで再び記載されない。
S302及びS303を実行する順序は、本願のこの実施形態で制限されない。例えば、S302は、S303の前に実行されてよく、あるいは、S303は、S302の前に実行されてよく、あるいは、S302及びS303は、同時に実行されてよい。
任意に、S302が実行された後かつS303が実行される前に、方法は、符号化されるべきパッチの接線軸及び従接線軸に基づいて、符号化されるべきパッチを3次元座標系から2次元座標系へ投影することを更に含んでもよい。符号器によって実行されるべき続くステップについては、図2に示される符号器の上記の説明を参照されたいが、これは制限されない。
この実施形態で提供される点群符号化方法の有利な効果については、先に提供された点群符号化方法の有利な効果を参照されたい。更に、符号化は、本願では、点群グループに基づいて実行されるので、点群に基づいて符号化を実行する技術的解決法におけるものと比べて、符号化複雑性は低減され得、ビットストリーム伝送のビットオーバーヘッドは低減され得る。
図14は、本願の実施形態に従う点群復号化方法の略フローチャートである。この実施形態における関連する内容の説明については、上記の説明を参照されたい。図14に示される方法は、次のステップを含んでよい。
S401:シンタックス要素を取得するようビットストリームをパースし、このとき、シンタックス要素は、復号されるべき点群グループにおける復号されるべきパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、点群グループは、点群の少なくとも2つのフレームを含む。
S402:パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定する。
S403:復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成し、このとき、1つ以上のパッチは、復号されるべきパッチを含む。
任意に、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループの境界ボックスのサイズ情報、復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、復号されるべき点群グループの境界ボックスの辺長さ間のサイズ関係のインデックス、などを含む。
この実施形態における関連する内容の説明、関連するステップの具体的な実施、などについては、上記の説明を直接参照されたい、ことが留意されるべきである。代替的に、説明及び実施は、先に提供された方法に従って推測により取得され得る。詳細はここで記載されない。
この実施形態で提供される点群復号化方法は、図13に示される点群符号化方法に対応している。従って、点群復号化方法に従って達成され得る有利な効果については、上記の説明を参照されたい。詳細はここで再び記載されない。
本願の実施形態においてパッチの接線軸及び従接線軸を決定する方法は、先に提供された点群符号化方法及び点群復号化方法の実施形態に含まれる、ことが留意されるべきである。従って、別個の実施形態は提供されない。
上記は、主として、方法の観点から、本願の実施形態で提供される解決法について記載している。上記の機能を実施するために、符号器及び復号器は夫々、各機能を実行するための対応するハードウェア構造及び/又はソフトウェアモジュールを含む。当業者であれば、本明細書で開示されている実施形態で記載されているユニット及びアルゴリズムステップの例と組み合わせて、本願は、ハードウェア、又はハードウェアとコンピュータソフトウェアとの組み合わせによって、実施され得る、と容易に気付くはずである。機能がハードウェア又は、コンピュータソフトウェアによって駆動されるハードウェアによって実行されるかどうかは、技術的解決法の特定の適用及び設計制約に依存する。当業者であれば、各特定の用途ごとに、記載されている機能を実施するために、異なる方法を使用し得るが、実施は本願の範囲を超える、と考えられるべきではない。
本願の実施形態で、符号器及び復号器は、上記の方法の例に基づいて機能モジュールに分割されてよい。例えば、各機能モジュールは、各対応する機能に基づく分割により取得されてよく、あるいは、2つ以上の機能は、1つの処理モジュールに一体化されてよい。一体化されたモジュールは、ハードウェアの形で実施されてよく、あるいは、ソフトウェア機能モジュールの形で実施されてよい。本願の実施形態で、モジュールへの分割は例であり、論理的な機能分割にすぎない、ことが留意されるべきである。実際の実施中に、他の分割様態も存在してよい。
図15は、本願の実施形態に従う符号器150の略ブロック図である。符号器150は、パッチ情報生成モジュール1501と、補助情報符号化モジュール1502とを含んでよい。一例で、パッチ情報生成モジュール1501は、図2のパッチ情報生成モジュール101に対応してよく、補助情報符号化モジュール1502は、図2の補助情報符号化モジュール108に対応してよい。確かに、本願はこれに限られない。
下記は、点群に基づいて符号器150によって符号化を実行する実行可能な実施について記載する。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべき点群における符号化されるべきパッチの法線軸を取得するよう構成される。符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するために使用される。補助情報符号化モジュール1502は、シンタックス要素をビットストリームに符号化するよう構成され、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図9のS101及び/又は他のステップを実行するよう構成されてよく、補助情報符号化モジュール1502は、本願の実施形態で記載される図9のS103及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう更に構成されてよい。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図9のS102及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、符号化されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群の境界ボックスのサイズ情報、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスを含む。
実行可能な実施において、パッチ情報生成モジュール1501は、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含み、
パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、符号化されるべきパッチの法線軸に対応する対象接線モードを決定し、決定された対象接線モードに含まれる接線軸が、符号化されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、符号化されるべきパッチの従接線軸である、よう特に構成される。
実行可能な実施において、パッチ情報生成モジュール1501は、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定するよう特に構成され、このとき、決定された対象接線軸が、符号化されるべきパッチの接線軸であり、決定された対象従接線軸が、符号化されるべきパッチの従接線軸である。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群を投影するための投影規則に従って、符号化されるべき点群の境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう特に構成され、このとき、投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。
実行可能な実施において、パッチ情報生成モジュール1501は、レート歪みコスト基準に従って、符号化されるべき点群を投影するための投影規則を決定するよう更に構成されてよい。任意に、シンタックス要素は、符号化されるべき点群を投影するための投影規則を示すために使用される情報を更に含む。
実行可能な実施において、符号化されるべき点群を投影するための投影規則は、前もってセットされる。
実行可能な実施において、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、符号化されるべきパッチの従接線軸である。
投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸が位置する面である。
実行可能な実施において、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの従接線軸であり、他方は、符号化されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、符号化されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、符号化されるべき点群の境界ボックスサイズの記述情報が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、符号化されるべきパッチの法線軸が、符号化されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、符号化されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び符号化されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、符号化されるべきパッチの接線軸であり、他方は、符号化されるべきパッチの従接線軸である。
投影規則は、符号化されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸が位置する面である。
下記は、点群グループに基づいて符号器150によって符号化を実行する実行可能な実施について記載する。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべき点群グループにおける符号化されるべきパッチの法線軸を取得するよう構成されるモジュールであり、符号化されるべき点群グループが点群の少なくとも2つのフレームを含み、符号化されるべき点群グループの境界ボックスサイズの記述情報及び符号化されるべきパッチの法線軸に基づいて、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を決定するよう構成される。補助情報符号化モジュール1502は、シンタックス要素をビットストリームに符号化するよう構成され、シンタックス要素は、符号化されるべきパッチの法線軸のインデックスと、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含み、シンタックス要素は、符号化されるべきパッチの接線軸及び符号化されるべきパッチの従接線軸を示すために使用される。例えば、パッチ情報生成モジュール1501は、本願の実施形態で記載される図13のS301及びS302並びに/又は他のステップを実行するよう構成されてよく、補助情報符号化モジュール1502は、本願の実施形態で記載される図13のS303及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、パッチ情報生成モジュール1501は、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスサイズを使用するか、あるいは、符号化されるべき点群グループの境界ボックスサイズの記述情報として、符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの記述情報の中で最も出現頻度が高い記述情報を使用するよう特に構成されてよい。
実行可能な実施において、符号化されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの中で最も出現頻度が高いサイズ情報、又は符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックス、又は符号化されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺長さ間のサイズ関係のインデックス、若しくは符号化されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺長さ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含んでよい。
任意に、符号器150が点群に基づいて符号化を実行するいずれかの実行可能な実施におけるフレームレベルに基づく情報が、GOFレベルに基づく情報で置き換えられた後に得られる全ての技術的解決法は、符号化が点群グループに基づいて実行される解決法に適用可能である。
図16は、本願の実施形態に従う復号器160の略ブロック図である。復号器160は、補助情報復号化モジュール1601と、点群ジオメトリ情報再構成モジュール1602とを含んでよい。一例で、補助情報復号化モジュール1601は、図4の補助情報復号化モジュール204に対応してよく、点群ジオメトリ情報再構成モジュール1602は、図4の点群ジオメトリ情報再構成モジュール205に対応してよい。確かに、本願はこれに限られない。
下記は、点群に基づいて点群復号器160によって復号化を実行する実行可能な実施について記載する。
実行可能な実施において、補助情報復号化モジュール1601は、復号されるべき点群における復号されるべきパッチの法線軸のインデックスと、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをパースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される。点群ジオメトリ情報再構成モジュール1602は、復号されるべき点群のジオメトリ情報を、その復号されるべき点群における1つ以上のパッチの接線軸及び従接線軸に基づいて、再構成するよう構成され、1つ以上のパッチは、復号されるべきパッチを含む。例えば、補助情報復号化モジュール1601は、本願の実施形態で記載される図12のS201及びS202並びに/又は他のステップを実行するよう構成されてよい。点群ジオメトリ情報再構成モジュール1602は、本願の実施形態で記載される図12のS203及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、復号されるべき点群の境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群の境界ボックスのサイズ情報、又は復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群の境界ボックスの辺長さ間のサイズ関係のインデックスを含んでよい。
実行可能な実施において、補助情報復号化モジュール1601は、点群の境界ボックスサイズの複数のタイプの記述情報と複数の接線モードセットとの間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報に対応する対象接線モードセットを決定し、各接線モードセットは少なくとも2つの接線モードを含み、各接線モードは1つの接線軸及び1つの従接線軸を含み、
パッチの複数のタイプの法線軸と対象接線モードセット内の複数の接線モードとの間のマッピング関係に基づいて、復号されるべきパッチの法線軸に対応する対象接線モードを決定し、決定された対象接線モードに含まれる接線軸が、復号されるべきパッチの接線軸であり、決定された対象接線モードに含まれる従接線軸が、復号されるべきパッチの従接線軸である、よう特に構成されてよい。
実行可能な実施において、補助情報復号化モジュール1601は、点群の境界ボックスサイズの複数のタイプの記述情報と、パッチの複数のタイプの法線軸と、パッチの複数のタイプの接線軸と、パッチの複数のタイプの従接線軸との間のマッピング関係に基づいて、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸の両方に対応する対象接線軸及び対象従接線軸を決定するよう特に構成され、このとき、決定された対象接線軸が、復号されるべきパッチの接線軸であり、決定された対象従接線軸が、復号されるべきパッチの従接線軸である。
実行可能な実施において、補助情報復号化モジュール1601は、復号されるべき点群を投影するための投影規則に従って、復号されるべき点群の境界ボックスサイズの記述情報及び復号されるべきパッチの法線軸に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう特に構成され、投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照する。
実行可能な実施において、投影規則は、前もってセットされる。
実行可能な実施において、シンタックス要素は、投影規則を示すために使用される情報を更に含む。
実行可能な実施において、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの辺長さ間のサイズ関係を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸は、復号されるべきパッチの従接線軸である。
投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸が位置する面である。
実行可能な実施において、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの従接線軸であり、かつ、投影規則が垂直投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの従接線軸であり、他方は、復号されるべきパッチの接線軸である。
代替的に、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸とは異なる場合に、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸は、復号されるべきパッチの接線軸であり、かつ、投影規則が水平投影を示し、復号されるべき点群の境界ボックスサイズの記述情報が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸を含み、復号されるべきパッチの法線軸が、復号されるべき点群の境界ボックスの最も長い辺が位置する座標軸と同じである場合に、復号されるべき点群の境界ボックスの2番目に長い辺が位置する座標軸及び復号されるべき点群の境界ボックスの最も短い辺が位置する座標軸のうちの一方は、復号されるべきパッチの接線軸であり、他方は、復号されるべきパッチの従接線軸である。
投影規則は、復号されるべき点群におけるパッチを2次元平面上に投影することによって得られる投影像の2次元平面上の分布を参照し、2次元平面は、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸が位置する面である。
下記は、点群グループに基づいて復号器160によって復号化を実行する実行可能な実施について記載する。
実行可能な実施において、補助情報復号化モジュール1601は、点群の少なくとも2つのフレームを含む復号されるべき点群グループにおける復号されるべきパッチの法線軸のインデックスと、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報とを含むシンタックス要素を取得するようビットストリームをパースし、パースすることにより取得される復号されるべきパッチの法線軸のインデックス及び復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報に基づいて、復号されるべきパッチの接線軸及び復号されるべきパッチの従接線軸を決定するよう構成される。点群ジオメトリ情報再構成モジュール1602は、復号されるべき点群グループにおける1つ以上のパッチの接線軸及び従接線軸に基づいて、復号されるべき点群グループ内の復号されるべき点群のジオメトリ情報を再構成するよう構成され、このとき、1つ以上のパッチは、復号されるべきパッチを含む。例えば、補助情報復号化モジュール1601は、本願の実施形態で記載される図14のS401及びS402並びに/又は他のステップを実行するよう構成されてよい。点群ジオメトリ情報再構成モジュール1602は、本願の実施形態で記載される図14のS403及び/又は他のステップを実行するよう構成されてよい。
実行可能な実施において、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループの境界ボックスのサイズ情報、又は復号されるべき点群グループの境界ボックスの最も長い辺が位置する座標軸のインデックス、又は復号されるべき点群グループの境界ボックスの辺長さ間のサイズ関係のインデックスを含んでよい。
実行可能な実施において、復号されるべき点群グループの境界ボックスサイズの記述情報を示すために使用される情報は、復号されるべき点群グループ内の点群の1つのフレームの境界ボックスのサイズ情報、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスサイズの中で最も出現頻度が高いサイズ情報、又は復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの最も長い辺が位置する座標軸のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの最も長い辺が位置する座標軸の中で最も出現頻度が高い座標軸のインデックス、又は復号されるべき点群グループ内の点群の1つのフレームの境界ボックスの辺長さ間のサイズ関係のインデックス、若しくは復号されるべき点群グループ内の一部又は全ての点群の境界ボックスの辺長さ間のサイズ関係の中で最も出現頻度が高いサイズ関係のインデックスを含む。
本願の実施形態における符号器/復号器のモジュールは、本願の対応する点群符号化/復号化方法に含まれている様々な実行ステップを実施するための機能本体、すなわち、本願の対応する点群符号化/復号化方法におけるステップ並びにそれらのステップの拡張及び変形を完全に実施することができる機能本体である、ことが理解され得る。詳細については、上記の説明を参照されたい。簡潔さのために、詳細は、本明細書で記載されない。
図17は、本願の実施形態に従う符号化デバイス又は復号化デバイス(簡潔にコーディングデバイス1700又は点群コーディングデバイス1700と称される)の実施の略ブロック図である。コーディングデバイス1700は、プロセッサ1710と、メモリ1730と、バスシステム1750とを含んでよい。プロセッサ1710は、バスシステム1750を通じてメモリ1730へ接続されている。メモリ1730は、命令を記憶するよう構成される。プロセッサ1710は、メモリに記憶されている命令を実行して、本願で記載されている様々な点群符号化又は復号化方法を実行するよう構成される。繰り返しを避けるために、詳細はここで再び記載されない。
本願のこの実施形態で、プロセッサ1710は、中央演算処理装置(central processing unit,CPU)であってよく、あるいは、プロセッサ1710は、他の汎用プロセッサ、DSP、ASIC、FPGA、他のプログラム可能なロジックデバイス、ディスクリートゲート、トランジスタロジックデバイス、ディスクリートハードウェア部品、などであってよい。汎用プロセッサは、マイクロプロセッサであってよく、あるいは、プロセッサは、如何なる従来のプロセッサなどであってもよい。
メモリ1730は、ROMデバイス又はRAMデバイスを含んでよい。如何なる他の適切なタイプの記憶デバイスも、代替的に、メモリ1730として使用されてよい。メモリ1730は、バス1750を通じてプロセッサ1710によってアクセスされるコード及びデータ1731を含んでよい。メモリ1730は、オペレーティングシステム1733及びアプリケーション1735を更に含んでよい。アプリケーション1735は、本願で記載されている点群符号化又は復号化方法を実行することをプロセッサ1710に可能にする少なくとも1つのプログラムを含む。例えば、アプリケーション1735は、アプリケーション1からNを含み、更には、本願で記載されている点群符号化又は復号化方法を実行するための点群符号化又は復号化アプリケーション(簡潔に点群コーディングアプリケーションと称される)を含んでよい。
バスシステム1750は、データバスに加えて、電力バス、制御バス、ステータス信号バス、などを更に含んでよい。なお、明りょうな記載のために、図では、様々なタイプのバスが、バスシステム1750として標記されている。
任意に、コーディングデバイス1700は、1つ以上の出力デバイス、例えば、ディスプレイ1770を更に含んでよい。一例で、ディスプレイ1770は、動作上タッチ入力を検知することができるタッチユニットとディスプレイとを組み合わせるタッチディスプレイであってよい。ディスプレイ1770は、バス1750を通じてプロセッサ1710へ接続されてよい。
当業者であれば、本明細書で開示及び記載されている様々な、実例となる論理ブロック、モジュール、及びアルゴリズムステップの例を参照して記載される機能は、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組み合わせによって実施され得ると理解することができる。ソフトウェアによって実施される場合に、実例となる論理ブロック、モジュール、及びステップを参照して記載されている機能は、1つ以上の命令又はコードとしてコンピュータ可読媒体で記憶又は伝送され、ハードウェアベースの処理ユニットによって実行されてよい。コンピュータ可読媒体は、データ記憶媒体などの有形な媒体に対応するコンピュータ可読記憶媒体、又は1つの場所から他へ(例えば、通信プロトコルに従って)コンピュータプログラムの転送を助ける如何なる媒体も含む通信媒体を含んでよい。このようにして、コンピュータ可読媒体は、一般に、(1)非一時的な有形なコンピュータ可読記憶媒体、又は(2)信号若しくは搬送波などの通信媒体に対応してよい。データ記憶媒体は、本願で記載されている技術を実施するための命令、コード、及び/又はデータ構造を取り出すよう1つ以上のコンピュータ又は1つ以上のプロセッサによってアクセスされ得る如何なる使用可能な媒体であってもよい。コンピュータプログラム製品は、コンピュータ可読媒体を含んでよい。
例として、制限なしに、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD−EOM若しくは他のコンパクトディスク型記憶装置、磁気ディスク記憶装置若しくは他の磁気記憶装置、フラッシュメモリ、又は命令若しくはデータ構造の形で所望のプログラムコードを記憶するために使用可能であって、コンピュータによってアクセスが可能なあらゆる他の媒体を含んでよい。更に、如何なる接続も、コンピュータ可読媒体と適切に呼ばれる。例えば、命令がウェブサイト、サーバ、又は他の遠隔ソースから同軸ケーブル、光ファイバ、ツイステッドペア、デジタル加入者回線(DSL)、又は赤外線、電波、若しくはマイクロ波などの無線技術を通じて伝送される場合に、同軸ケーブル、光ファイバ、ツイステッドペア、DSL、又は赤外線、電波、若しくはマイクロ波などの無線技術は、媒体の定義に含まれる。なお、コンピュータ可読記憶媒体及びデータ記憶媒体は、接続、搬送波、信号、又は他の一時的な媒体を含まず、実際には、非一時的な有形な記憶媒体を意味する、ことが理解されるべきである。ここで使用されているdisk及びdiscは、コンパクトディスク(CD)、レーザーディスク、光ディスク、DVD、及びブルーレイディスクを含み、diskは、通常は、磁気的にデータを再生し、一方、discは、レーザーで光学的にデータを再生する。上記のアイテムの組み合わせも、コンピュータ可読媒体の範囲に含まれるべきである。
命令は、1つ以上のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、又は他の同等の集積若しくはディスクリート・ロジック回路などの1つ以上のプロセッサによって実行されてよい。従って、本明細書で使用されている「プロセッサ」との語は、本明細書で記載されている技術を実施するのに適した上記の構造又はあらゆる他の構造のいずれかであってよい。更に、いくつかの態様で、本明細書で記載されている実例となる論理ブロック、モジュール、及びステップを参照して記載されている機能は、符号化及び復号化のために構成されている専用のハードウェア及び/又はソフトウェアモジュール内で提供されてよく、あるいは、複合型コーデックに組み込まれてよい。更に、技術は、1つ以上の回路又はロジック素子において完全に実施されてよい。一例で、符号器100及び復号器200における様々な説明的論理ブロック、ユニット、及びモジュールは、対応する回路デバイス又は論理素子として理解され得る。
本願の技術は、無線ハンドセット、集積回路(IC)、又はICの組(例えば、チップセット)を含む様々な装置又はデバイスで実施されてよい。様々なコンポーネント、モジュール、又はユニットは、開示されている技術を実行するよう構成されている装置の機能的側面を強調するように本願で記載されているが、異なるハードウェアユニットによって必ずしも実施されない。実際には、上述されたように、様々なユニットは、適切なソフトウェア及び/又はファームウェアと組み合わせてコーデックハードウェアにまとめられてよく、あるいは、相互運用可能なハードウェアユニット(上述された1つ以上のプロセッサを含む)によって提供されてよい。
上記の説明は、本願の具体的な実施の例にすぎず、本願の保護範囲を制限する意図はない。本願で開示されている技術的範囲内で当業者によって容易に考え出される様々な変形又は置換は、本願の保護範囲内にあるべきである。従って、本願の保護範囲は、特許請求の範囲の保護範囲に従うべきである。