WO2021010134A1 - 情報処理装置および方法 - Google Patents

情報処理装置および方法 Download PDF

Info

Publication number
WO2021010134A1
WO2021010134A1 PCT/JP2020/025168 JP2020025168W WO2021010134A1 WO 2021010134 A1 WO2021010134 A1 WO 2021010134A1 JP 2020025168 W JP2020025168 W JP 2020025168W WO 2021010134 A1 WO2021010134 A1 WO 2021010134A1
Authority
WO
WIPO (PCT)
Prior art keywords
sub
attribute information
unit
information
attribute
Prior art date
Application number
PCT/JP2020/025168
Other languages
English (en)
French (fr)
Inventor
智 隈
央二 中神
幸司 矢野
弘幸 安田
加藤 毅
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to CN202080049528.1A priority Critical patent/CN114097242A/zh
Priority to KR1020217041289A priority patent/KR20220034045A/ko
Priority to US17/624,990 priority patent/US20220286679A1/en
Priority to EP20841647.9A priority patent/EP3985614A4/en
Priority to JP2021532756A priority patent/JPWO2021010134A1/ja
Publication of WO2021010134A1 publication Critical patent/WO2021010134A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/004Predictors, e.g. intraframe, interframe coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Definitions

  • the present disclosure relates to an information processing device and a method, and more particularly to an information processing device and a method capable of suppressing a decrease in coding efficiency.
  • Non-Patent Document 1 a method for encoding 3D data representing a three-dimensional structure such as a point cloud has been considered (see, for example, Non-Patent Document 1).
  • the point cloud data is composed of geometry data (also referred to as position information) and attribute data (also referred to as attribute information) of each point. Therefore, the point cloud is encoded for each of its geometry data and attribute data.
  • Various methods have been proposed as methods for encoding attribute data. For example, it has been proposed to use a technique called Lifting (see, for example, Non-Patent Document 2).
  • a method has been proposed in which attribute data can be decoded in a scalable manner (see, for example, Non-Patent Document 3).
  • a method capable of referencing the decoded attribute data in LoD has also been considered (see, for example, Non-Patent Document 4).
  • the decoded attribute data that can be referred to is decoded in the Morton order. It is limited to those that are located before the target attribute data. That is, the decoded attribute data may be limited to the attribute data of the points located in the direction deviated from the point of the attribute data to be decoded in the three-dimensional space. Therefore, the prediction accuracy of the prediction of the attribute data to be processed by referring to the decoded attribute data may be reduced, and the coding efficiency may be reduced.
  • This disclosure has been made in view of such a situation, and makes it possible to suppress a decrease in coding efficiency.
  • the information processing device on one aspect of the present technology has a layering unit that stratifies the attribute information of the point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute information between the hierarchies.
  • An information processing device including a sub-layered unit that sub-layers the attribute information in the layer and generates a reference relationship of the attribute information between the sub-layers in the layer of the attribute information generated by the layered unit. ..
  • the information processing method of one aspect of the present technology hierarchizes the attribute information of the point cloud that expresses a three-dimensional shaped object as a set of points, generates a reference relationship of the attribute information between the hierarchies, and generates the attribute.
  • it is an information processing method that sub-hierarchizes the attribute information in the hierarchy and generates a reference relationship of the attribute information between the sub hierarchies.
  • the information processing device on the other aspect of the present technology has a layering unit that stratifies the attribute information of the point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute information between the hierarchies.
  • the sub-layering unit that sub-layers the attribute information of the layer and generates a reference relationship of the attribute information between the sub layers
  • the layering unit A reverse layer that reverses the attribute information based on the reference relationship of the attribute information between the generated layers and the reference relationship of the attribute information between the sub-layers generated by the sub-layering unit. It is an information processing device provided with a conversion unit.
  • the information processing method of the other aspect of the present technology hierarchizes the attribute information of the point cloud that expresses a three-dimensional shaped object as a set of points, generates a reference relationship of the attribute information between the hierarchies, and is generated.
  • the attribute information hierarchy the attribute information in the hierarchy is sub-hierarchized, the reference relationship of the attribute information between the sub-hierarchies is generated, the reference relationship of the attribute information between the generated hierarchies, and the generated reference relationship.
  • This is an information processing method in which the attribute information is reversely layered based on the reference relationship of the attribute information between the sub-layers.
  • the attribute information of the point cloud that expresses a three-dimensional object as a set of points is hierarchized, and the reference relationship of the attribute information between the hierarchies is generated.
  • the attribute information of that hierarchy is sub-hierarchized, and the reference relationship of the attribute information between the sub-hierarchies is generated.
  • the attribute information of the point cloud that expresses the object of the three-dimensional shape as a set of points is layered, and the reference relationship of the attribute information between the layers is generated.
  • the attribute information of the hierarchy is sub-hierarchized, the reference relationship of the attribute information between the sub-hierarchies is generated, the reference relationship of the attribute information between the generated hierarchies, and The attribute information is reverse-layered based on the reference relationship of the attribute information between the generated sub-hierarchies.
  • Non-Patent Document 1 (above)
  • Non-Patent Document 2 (above)
  • Non-Patent Document 3 (above)
  • Non-Patent Document 4 (above)
  • ⁇ Point cloud> Conventionally, a point cloud that represents a three-dimensional structure based on the position information and attribute information of a point cloud, and a mesh that is composed of vertices, edges, and faces and defines a three-dimensional shape using polygonal representation. ) Etc. existed.
  • a three-dimensional structure (three-dimensional object) is expressed as a set of a large number of points (point cloud). That is, the point cloud data (also referred to as point cloud data) is composed of geometry data (also referred to as position information) and attribute data (also referred to as attribute information) of each point in this point cloud. Attribute data can contain arbitrary information. For example, color information, reflectance information, normal information, and the like may be included in the attribute data. Therefore, the data structure is relatively simple, and an arbitrary three-dimensional structure can be expressed with sufficient accuracy by using a sufficiently large number of points.
  • a voxel is a three-dimensional area for quantizing geometry data (position information).
  • the three-dimensional area containing the point cloud is divided into small three-dimensional areas called voxels, and each voxel indicates whether or not the points are included. By doing so, the position of each point is quantized in voxel units. Therefore, by converting the point cloud data into such voxel data (also referred to as voxel data), the increase in the amount of information is suppressed (typically, the amount of information is reduced). Can be done.
  • Octree is a tree-structured version of voxel data.
  • the value of each bit of the lowest node of this Octree indicates the presence or absence of a point for each voxel. For example, a value "1" indicates a voxel containing points, and a value "0" indicates a voxel containing no points.
  • one node corresponds to eight voxels. That is, each node of the Octtree is composed of 8 bits of data, and the 8 bits indicate the presence or absence of points of 8 voxels.
  • the upper node of the Octtree indicates the presence or absence of a point in the area where the eight voxels corresponding to the lower node belonging to the node are combined into one. That is, the upper node is generated by collecting the voxel information of the lower node. If a node having a value of "0", that is, all eight corresponding voxels do not contain points, that node is deleted.
  • Octree can indicate the presence or absence of voxel points at each resolution.
  • the position information can be decoded from the highest resolution (top layer) to a desired layer (resolution), and the point cloud data of that resolution can be restored. That is, it is possible to easily decode at an arbitrary resolution without decoding unnecessary layer (resolution) information. In other words, voxel (resolution) scalability can be achieved.
  • the voxel in the region where the point does not exist can be reduced in resolution, so that further increase in the amount of information can be suppressed (typically, the amount of information). Can be reduced).
  • attribute data attribute data
  • RAHT Restriction Adaptive Hierarchical Transform
  • Lifting a transformation called Lifting as described in Non-Patent Document 2
  • the attribute data of each point is encoded as a difference value from the predicted value derived by using the attribute data of other points.
  • each point is hierarchized, and the difference value is derived according to the hierarchical structure.
  • each point is classified into a predicted point and a reference point, and the predicted value of the attribute data of the predicted point is derived using the attribute data of the reference point, and the attribute data of the predicted point and the attribute data of the predicted point.
  • the difference value from the predicted value is derived.
  • this hierarchical structure is generated independently of the geometric data hierarchical structure (for example, Octree), and basically does not correspond to the geometric data hierarchical structure.
  • the method to which Lifting described in Non-Patent Document 2 is applied does not correspond to the scalable decoding of the resolution.
  • the layering described in Non-Patent Document 3 corresponds to the scalable decoding of the resolution.
  • the attribute data is layered so as to match the hierarchical structure of the Octtree of the geometry data. That is, when a point exists in the area corresponding to the voxel of the geometry data (when the attribute data corresponding to the point exists), the point also exists in the voxel one layer higher than the voxel (corresponding to the point). Select the reference point and the prediction point so that the attribute data to be used exists. That is, the attribute information is hierarchized according to the Octtree hierarchical structure of the geometry data.
  • ⁇ Reference relationships in the hierarchy> a reference relationship of attribute information is generated between layers. That is, it is possible to predict the attribute information of the layer to be processed by referring to the attribute information of the other layers.
  • the attribute information in the layer to be processed can also be referred to if it has been decoded.
  • the layered attribute data (Attribute Lod) 1 shown in A of FIG. 1 is obtained by classifying and layering the attribute data 2 for each point as shown in B of FIG.
  • the vertical direction indicates a hierarchy (LoD (Level Of Detail)), and each circle indicates attribute data 2 for each point.
  • B of FIG. 1 only one circle is designated, but all the circles shown in B of FIG. 1 are attribute data 2 for each point.
  • Decryption is performed one layer at a time from the upper layer. Therefore, when the attribute data 2A of a certain point is decoded, the attribute data 2 for each point in the upper layer indicated by the white circle has already been decoded, so that they can be referred to.
  • the attribute data 2 for each point is arranged in the Morton Order and decoded in that order.
  • the attribute data 2 for each point in each layer is arranged in Morton order.
  • the horizontal direction from left to right corresponds to the Morton order.
  • the attribute data 2A of a certain point when the attribute data 2A of a certain point is decoded, the attribute data 2B for each point located on the left side of it has been decoded and can be referred to.
  • the attribute data 2 for each point is scanned for each three-dimensional subregion that divides the three-dimensional space. Therefore, the directionality (bias) of the three-dimensional space position occurs in the processing order.
  • each point of the point cloud data exists in the three-dimensional area 3 of FIG.
  • the decoded point-by-point attribute data 2B is located before the attribute data 2A of a certain point in the Morton order. Therefore, in the three-dimensional region 3 of FIG. 2, the decoded attribute data 2B for each point shown in B of FIG. 1 exists in the partial region 3B located in a predetermined direction with respect to the attribute data 2A of a certain point. To do. That is, when the position of the attribute data 2A of a certain point is used as a reference, the relative position (direction) of the attribute data 2B for each decoded point is biased.
  • such a bias occurs in the reference direction at the time of prediction, and the bias may reduce the prediction accuracy and the coding efficiency.
  • ⁇ Sub-layering> Therefore, for example, as described in "Method 1" at the top of the table shown in FIG. 3, in the layering of attribute data (attribute information), a sub-layer (Sub LoD) is further included in the layer (LoD). To generate attribute data reference relationships between its subhierarchies (that is, generate attribute data reference relationships within the hierarchy (LoD)).
  • the attribute data (attribute information) of the point cloud that expresses a three-dimensional object as a set of points is generated as a reference relationship of the attribute data between the layers, and further, in the generated attribute data layer.
  • the attribute data of that hierarchy is sub-hierarchized, and the reference relationship of the attribute data between the sub-hierarchies is generated.
  • a layering unit that stratifies the attribute data (attribute information) of a point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute data between the hierarchies, and a layering unit thereof.
  • the attribute data of the layer is sub-layered, and a sub-layering unit for generating the reference relationship of the attribute data between the sub-layers is provided.
  • the method of layering the attribute data in this case is arbitrary. For example, Lifting that does not support decoding of the scalable described in Non-Patent Document 2 may be used. Further, for example, a layering technique corresponding to the scalable decoding described in Non-Patent Document 3 may be applied. Of course, methods other than these may be used.
  • the sub-hierarchical method is arbitrary. For example, as described in "Method 1-1" in the second row from the top of the table shown in FIG. 3, a part of the attribute data for each point in the hierarchy is sampled (selected) to form a sub-layer. The process may be repeated recursively. That is, a sub-layer may be generated by sampling a part from the node group of the layer (LoD) to be processed in the hierarchical structure of the attribute data.
  • the attribute data of the processing target hierarchy is arranged in Morton order, and a part of the attribute data is arranged in Morton order.
  • Sub-hierarchies may be generated by sampling at intervals.
  • the attribute data for each point of the layer to be sub-layered is arranged in Morton order. Then, the attribute data for each of the aligned points is sampled at equal intervals.
  • LodUniformQuant is a syntax element that indicates the sampling interval.
  • LodUniformQuant 4 indicates that one out of every four columns of attribute data for each point arranged in Morton order is sampled. That is, when one attribute data is sampled, then a fourth attribute data is sampled from there in Morton order.
  • the attribute data 12 for each point indicated by a circle is arranged in Morton order, and one in four (attribute data 12 for each point indicated by a gray circle) is sampled from there. Will be done. That is, as shown in B of FIG. 4, the lowest sub-layer (Sub LoD) composed of the attribute data 12 for each point indicated by the unsampled white circle is generated.
  • Sub LoD lowest sub-layer
  • attribute data 12 for each point indicated by a black circle is sampled from the column of attribute data 12 for each sampled point. That is, as shown in C of FIG. 4, the second lowest sub-layer (Sub LoD) consisting of the attribute data 12 for each point indicated by the gray circles that have not been sampled is generated.
  • Sub LoD the second lowest sub-layer
  • attribute data 12 for each point indicated by a diagonal circle is similarly sampled. That is, as shown in D of FIG. 4, the third sub-layer from the lowest to the attribute data 12 for each point indicated by the unsampled black circle is generated.
  • the highest sub-layer consisting of the sampled attribute data 12 for each point is also generated (D in FIG. 4).
  • sampling is performed from the entire column of attribute data 12 for each point to generate a sub-layer, so that the positions of those points are less biased in the three-dimensional space. That is, as compared with the method described in Non-Patent Document 4, it is possible to suppress the bias of the reference direction of the attribute data. Therefore, it is possible to suppress the reduction of the prediction accuracy and the reduction of the coding efficiency.
  • the attribute data 12 for each point is arranged in the Morton order, it is possible to refer to the attribute data relatively close to each other in the three-dimensional space. Therefore, it is possible to suppress a decrease in prediction accuracy and a decrease in coding efficiency as compared with the case where attribute data is randomly selected.
  • FIG. 5 shows how the attribute data 12 for each point in a certain hierarchy is arranged in the order of decoding.
  • the attribute data 12A of a certain point is to be decoded
  • the attribute data 12 for each point in the range indicated by the double-headed arrow 12B that is, for each point located on the left side of the attribute data 12A of a certain point.
  • the attribute data 12 has been decoded and can be referred to.
  • the attribute data is sampled at equal intervals when the sub-layer is generated, but the present invention is not limited to this, and the attribute data may be sampled at non-equal intervals. That is, as described in "Method 1-1-2" in the fourth column from the top of the table shown in FIG. 3, the attribute data of the processing target hierarchy is arranged in Morton order, and a part of it is not. Sub-hierarchies may be generated by sampling at equal intervals.
  • the sampling interval may be changed for each sub-layer.
  • the sampling interval can be set according to the resolution, and for example, the reduction in image quality and the reduction in coding efficiency can be suppressed.
  • ⁇ Weight value> Note that such sub-hierarchy may be reflected in the weight value of the attribute data.
  • the attribute data for each point is weighted based on the reference relationship (for example, reference distance, number of references, etc.) between hierarchies (LoDs).
  • the reference relationship between the sub-layers (for example, reference distance, number of references, etc.) may be reflected in the weight value. That is, as described in "Method 1-2" in the fifth row from the top of the table shown in FIG. 3, the weight value is derived using the reference relationship between the sub layers (Sub LoD). Good.
  • the attribute data is hierarchized (LoD) using Lifting described in Non-Patent Document 2
  • a weight value is set for each attribute data based on the reference relationship.
  • the attribute data layered by the method in which the weight value is set is sub-layered as described above
  • the weight value set in each attribute data is set to the reference relationship between the sub-layers.
  • the weight value of each attribute data is derived using the reference relationship between the layers and the sub-layers constructed as shown by the arrows in FIG. By doing so, it is possible to reflect the reference relationship between the sub-layers in the weight values between the layers generated by the method that does not support scalable decoding.
  • each attribute data is fixed for each layer (LoD).
  • Weight values weight values for each layer
  • the weight value for each hierarchy reflects the reference relationship between the sub-hierarchies. That is, the weight value of each attribute data is derived by updating the weight value for each layer by using the reference relationship between the sub-layers as shown by the arrow in A in FIG. 7.
  • a coefficient ⁇ is set according to the number of references between sub-layers, and as shown in B of FIG. 7, the coefficient ⁇ is multiplied by the weight value w 1 for each layer to obtain a weight value w for each layer. You may want to update 1 .
  • the weight value w 2 of another layer may be updated so as to correspond to the update of the weight value w 1 .
  • the weight value w 1 when the weight value w 1 is multiplied by the coefficient ⁇ , (1- ⁇ ) may be multiplied by the weight value w 2 .
  • control information regarding such sub-hierarchy of attribute data may be signaled.
  • This control content may be anything.
  • control information indicating whether or not sub-layering of attribute data is permitted may be signaled (transmitted from the encoding side to the decoding side).
  • the control information indicating whether or not this sub-hierarchy is permitted is flag information (for example, sub_lod_enable_flag) indicating whether or not sub-hierarchy can be performed in the target data unit. For example, when this sub_lod_enable_flag is true (for example, "1"), it indicates that sub-hierarchy can be performed. Further, when sub_lod_enable_flag is false (for example, "0"), it indicates that sub-hierarchy cannot be performed.
  • the decoding side may consider the sub_lod_enable_flag to be false. On the contrary, if this sub_lod_enable_flag is not signaled (transmitted), the decoding side may consider that the sub_lod_enable_flag is true.
  • sub_lod_enable_flag If sub_lod_enable_flag is false, sub-hierarchy is not allowed, so signaling of other control information related to sub-hierarchy for that data unit can be omitted. Therefore, the reduction in coding efficiency can be suppressed.
  • parsing of other control information regarding sub-hierarchy for the data unit can be omitted. That is, on the decoding side, only the data unit whose sub_lod_enable_flag is true may be parsed for other control information related to sub-hierarchy. Therefore, it is possible to suppress an increase in the load of the decoding process.
  • control information indicating whether or not this sub-hierarchy is permitted can be said to be the control information indicating the presence or absence of signaling of other control information related to the sub-hierarchy for the data unit. Further, the control information indicating whether or not the sub-hierarchy is permitted can be said to be the control information indicating whether or not the sub-hierarchy is prohibited.
  • the control information indicating whether or not this sub-hierarchy is permitted can be targeted to any data unit, and may be signaled for each arbitrary data unit.
  • one attribute data may be set as a target data unit, and sub_lod_enable_flag may be signaled for each attribute data.
  • a plurality of sub_lod_enable_flags may be collectively transmitted for each data unit (for example, for each sequence) higher than the attribute data.
  • control information for controlling the sampling interval (or sampling cycle) during sub-layering may be signaled.
  • sub_lod_distance 0 indicates that sub-hierarchy is not performed (sub-hierarchy (Sub LoD)) is not formed. That is, sub_lod_distance can be said to be control information indicating whether or not to perform sub-hierarchy.
  • sub_lod_distance 0 on the decoding side.
  • sampling intervals may be non-equal intervals.
  • a plurality of sub_lod_distances may be signaled to the same data unit, and a plurality of intervals (cycles) may be assigned.
  • the sampling interval may be represented by a function, a table identification number, or the like.
  • the control information that controls the sampling interval at the time of this sub-hierarchy can be targeted to any data unit, and may be signaled for each arbitrary data unit.
  • the hierarchy of attribute data (LoD) may be set as the target data unit, and sub_lod_distance may be signaled for each hierarchy of attribute data.
  • control information (for example, sub_lod_mode) indicating a sampling method at the time of sub-layering may be signaled.
  • sub_lod_mode 0 indicates that sampling is performed at equal intervals at the same intervals in all sub hierarchies. That is, in this case, sampling is performed at one type of interval in all sub-layers.
  • sub_lod_mode 1 indicates that the sampling interval is pattern 1 (non-equal intervals).
  • sub_lod_mode 2 indicates that the sampling interval is pattern 2 (non-equal interval) different from pattern 1.
  • the sampling interval can be changed according to the depth of the sub-layer (SubLod). Further, for example, the sampling interval can be changed in the sub-layer. That is, in the above-mentioned pattern 1 and pattern 2, patterns of sampling intervals of all sub-layers are shown. How to take the distance of the pattern can be overridden with a header or the like.
  • control information regarding sub-hierarchy is not limited to the above example. Moreover, a plurality of control information may be applied. For example, both sub_lod_distance and sub_lod_mode may be applied. Also, for example, sub_lod_enable_flag may be applied with sub_lod_distance and / or sub_lod_mode.
  • the sub-layer (SubLoD) is set in the same manner as in the case of "Method 1" described above. It may be generated and reversely hierarchized by using the reference relationship between the generated sub-hierarchies.
  • the attribute data (attribute information) of the point cloud that expresses a three-dimensional object as a set of points is hierarchized, the reference relationship of the attribute data between the hierarchies is generated, and the attribute data is subhierarchized within the hierarchy. Generates the reference relationship of the attribute data between the sub-hierarchies, and reverses the attribute data based on the reference relationship of the attribute data between the generated hierarchies and the reference relationship of the attribute data between the generated sub-hierarchies. You may try to do it.
  • a layering unit that stratifies the attribute data (attribute information) of a point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute data between the hierarchies, and a layering unit thereof.
  • the sub-layered part that sub-layers the attribute data in the layer generated by the layered part and generates the reference relationship of the attribute data between the sub-layers, and the attribute data between the layers generated by the layered part.
  • It may be provided with a reverse layering unit that reversely layers the attribute data based on the reference relationship and the reference relationship of the attribute data between the sub-layers generated by the sub-layering unit.
  • Method 1-1-1 in the third row from the top of the table shown in FIG. 3 may be applied. That is, the attribute data of the processing target layer may be arranged in Morton order, and a part of the attribute data may be sampled at equal intervals to generate a sub-layer.
  • the attribute data of the processing target layer may be arranged in Morton order, and a part of the attribute data may be sampled at non-equal intervals to generate a sub-layer.
  • a sub-hierarchy may be generated based on the control information related to the sub-hierarchy of the attribute data, and the sub-hierarchy may be reversed using the reference relationship between the generated sub-hierarchies.
  • the attribute data may be sub-hierarchized based on the control information (for example, sub_lod_enable_flag) indicating whether or not the above-mentioned sub-hierarchy of the attribute data is permitted.
  • control information for example, sub_lod_enable_flag
  • the attribute data may be sub-layered based on the control information (for example, sub_lod_distance) indicating the sampling interval of the attribute data described above.
  • control information for example, sub_lod_distance
  • the attribute data may be sub-layered based on the control information (for example, sub_lod_mode) indicating the method of sampling the attribute data described above.
  • control information for example, sub_lod_mode
  • attribute data may be sub-hierarchized based on control information other than these. Further, the attribute data may be sub-hierarchized based on a plurality of control information.
  • the sub-layered attribute data can be reverse-layered more accurately. Therefore, it is possible to suppress the bias in the prediction direction and suppress the reduction of the coding efficiency.
  • FIG. 8 is a block diagram showing an example of a configuration of a coding device, which is an aspect of an information processing device to which the present technology is applied.
  • the coding device 100 shown in FIG. 8 is a device that encodes a point cloud (3D data).
  • the coding device 100 includes ⁇ 1.
  • the point cloud is encoded by applying the above-mentioned technology in Generating Sub LoD>.
  • FIG. 8 shows the main things such as the processing unit and the data flow, and not all of them are shown in FIG. That is, in the coding apparatus 100, there may be a processing unit that is not shown as a block in FIG. 8, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the coding device 100 includes a position information coding unit 101, a position information decoding unit 102, a point cloud generation unit 103, an attribute information coding unit 104, and a bitstream generation unit 105.
  • the position information coding unit 101 encodes the geometry data (position information) of the point cloud (3D data) input to the coding device 100.
  • This coding method is arbitrary as long as it supports scalable decoding.
  • the position information coding unit 101 stratifies the geometry data to generate an Octree, and encodes the Octree. Further, for example, processing such as filtering or quantization for noise suppression (denoise) may be performed.
  • the position information coding unit 101 supplies the coded data of the generated geometry data to the position information decoding unit 102 and the bit stream generation unit 105.
  • the position information decoding unit 102 acquires the coded data of the geometry data supplied from the position information coding unit 101, and decodes the coded data.
  • This decoding method is arbitrary as long as it corresponds to the coding by the position information coding unit 101. For example, processing such as filtering for denoise and dequantization may be performed.
  • the position information decoding unit 102 supplies the generated geometry data (decoding result) to the point cloud generation unit 103.
  • the point cloud generation unit 103 acquires the attribute data (attribute information) of the point cloud input to the coding device 100 and the geometry data (decoding result) supplied from the position information decoding unit 102.
  • the point cloud generation unit 103 performs a process (recolor process) of matching the attribute data with the geometry data (decoding result).
  • the point cloud generation unit 103 supplies the attribute data corresponding to the geometry data (decoding result) to the attribute information coding unit 104.
  • the attribute information coding unit 104 acquires the geometry data (decoding result) and the attribute data supplied from the point cloud generation unit 103.
  • the attribute information coding unit 104 encodes the attribute data using the geometry data (decoding result) and generates the coded data of the attribute data.
  • the attribute information coding unit 104 has ⁇ 1. Apply the above-mentioned technology in Sub LoD generation> to encode the attribute data. For example, the attribute information coding unit 104 further generates a sub-layer (SubLoD) in the layer (LoD) in the layering of the attribute data (attribute information), and generates a reference relationship of the attribute data between the sub-layers. To do. The attribute information coding unit 104 supplies the coded data of the generated attribute data to the bitstream generation unit 105.
  • SubLoD sub-layer
  • the attribute information coding unit 104 supplies the coded data of the generated attribute data to the bitstream generation unit 105.
  • the bitstream generation unit 105 acquires the coded data of the geometry data supplied from the position information coding unit 101. Further, the bitstream generation unit 105 acquires the coded data of the attribute data supplied from the attribute information coding unit 104. The bitstream generation unit 105 generates a bitstream including these coded data. The bitstream generation unit 105 outputs the generated bitstream to the outside of the encoding device 100.
  • the coding apparatus 100 generates a sub-layer within the hierarchy, generates a reference relationship of attribute data between the sub-layers, and encodes the attribute data using the reference relationship. It can be carried out.
  • the reference relationship of the attribute data in the hierarchy can be generated so as to suppress the bias in the prediction direction, and the reduction in the coding efficiency can be suppressed.
  • each of these processing units position information coding unit 101 to bitstream generation unit 105) of the coding device 100 has an arbitrary configuration.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit has, for example, a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and the like, and the above-mentioned processing is realized by executing a program using them. You may do so.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • FIG. 9 is a block diagram showing a main configuration example of the attribute information coding unit 104 (FIG. 8). Note that FIG. 9 shows the main things such as the processing unit and the data flow, and not all of them are shown in FIG. That is, in the attribute information coding unit 104, there may be a processing unit that is not shown as a block in FIG. 9, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the attribute information coding unit 104 includes a layering processing unit 111, a quantization unit 112, and a coding unit 113.
  • the layering processing unit 111 performs processing related to layering of attribute data. For example, the layering processing unit 111 acquires attribute data and geometry data (decoding result) supplied from the point cloud generation unit 103. The layering processing unit 111 uses the geometry data to layer the attribute data. At that time, the layering processing unit 111 has ⁇ 1. Hierarchy is performed by applying the above-mentioned technology in Sub LoD generation>. For example, in the layering of attribute data (attribute information), the layering processing unit 111 further generates a sub-layer (SubLoD) in the layer (LoD), and generates a reference relationship of the attribute data between the sub-layers. .. The layered processing unit 111 supplies the layered attribute data (difference value) to the quantization unit 112.
  • SubLoD sub-layer
  • the layered processing unit 111 supplies the layered attribute data (difference value) to the quantization unit 112.
  • the layering processing unit 111 can also generate control information regarding sub-layering. In that case, the layering processing unit 111 also supplies the generated control information to the quantization unit 112 together with the attribute data (difference value).
  • the quantization unit 112 acquires the attribute data supplied from the layering processing unit 111 (if the control information is generated in the layering processing unit 111, the control information is also obtained). The quantization unit 112 quantizes the attribute data. This quantization method is arbitrary. The quantized unit 112 supplies the quantized attribute data (and control information) to the coding unit 113.
  • the coding unit 113 acquires the quantized attribute data (and control information) supplied from the quantizing unit 112.
  • the coding unit 113 encodes the attribute data and generates the coded data of the attribute data.
  • This coding method is arbitrary. Further, when the control information regarding the sub-layering is supplied, the coding unit 113 includes the control information in the generated coded data. In other words, the coding unit 113 generates coded data of attribute data including control information regarding sub-hierarchy.
  • the coding unit 113 supplies the generated coded data to the bitstream generation unit 105.
  • the attribute information coding unit 104 By performing the layering as described above, the attribute information coding unit 104 generates a sub-layer within the layer, generates a reference relationship of attribute data between the sub-layers, and uses the reference relationship to generate attribute data. Can be encoded. As a result, the reference relationship of the attribute data in the hierarchy can be generated so as to suppress the bias in the prediction direction, and the reduction in the coding efficiency can be suppressed.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit may have, for example, a CPU, ROM, RAM, etc., and execute a program using them to realize the above-mentioned processing.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • FIG. 10 is a block diagram showing a main configuration example of the layered processing unit 111 (FIG. 9). It should be noted that FIG. 10 shows the main things such as the processing unit and the data flow, and not all of them are shown in FIG. That is, in the layered processing unit 111, there may be a processing unit that is not shown as a block in FIG. 10, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the layering processing unit 111 includes a control unit 121, a layering processing unit 122, a SubLoD generation unit 123, an inversion unit 124, and a weighting unit 125.
  • the control unit 121 performs processing related to the control of layering and sub-layering. For example, the control unit 121 acquires attribute data and geometry data (decoding result) supplied from the point cloud generation unit 103. The control unit 121 supplies the acquired attribute data and geometry data (decoding result) to the layering processing unit 122.
  • control unit 121 controls the layering processing unit 122 and the SubLoD generation unit 123 to execute layering and sub-layering.
  • the control unit 121 has ⁇ 1.
  • Sub LoD> the above-mentioned technology is applied to perform layering and sub-layering.
  • the control unit 121 causes the desired hierarchy to be sub-hierarchized. That is, the control unit 121 can make some hierarchies perform sub-hierarchies, or make all hierarchies perform sub-hierarchies.
  • the control unit 121 can also generate control information regarding the sub-hierarchy of the attribute data.
  • the control unit 121 has ⁇ 1.
  • Various syntax elements for example, sub_lod_enable_flag, sub_lod_distance, sub_lod_mode, etc.
  • the control unit 121 supplies the control information generated in this way to the quantization unit 112 and transmits the control information to the decoding side.
  • the layering processing unit 122 performs processing related to layering of attribute data. For example, the layering processing unit 122 acquires attribute data and geometry data (decoding result) supplied from the control unit 121.
  • the layering processing unit 122 stratifies the acquired attribute data using the acquired geometry data according to the control of the control unit 121.
  • This layering method is arbitrary. For example, it may be a method that does not support scalable decoding such as Lifting described in Non-Patent Document 2, or a method that supports scalable decoding as described in Non-Patent Document 3.
  • the layered processing unit 122 supplies the layered attribute data and geometry data to the SubLoD generation unit 123.
  • Sub LoD generation unit 123 performs processing related to sub-hierarchy. For example, the SubLoD generation unit 123 acquires the layered attribute data and geometry data supplied from the layered processing unit 122.
  • the Sub LoD generation unit 123 generates a sub hierarchy in the attribute data hierarchy according to the control of the control unit 121.
  • the SubLoD generation unit 123 uses the geometry data to perform such sub-hierarchy. That is, the SubLoD generator 123 has ⁇ 1.
  • the reference relationship of the attribute data in the hierarchy (LoD) is generated as in "Method 1" at the top of the table shown in FIG. 3 described above.
  • the SubLoD generation unit 123 can generate the reference relationship of the attribute data in the hierarchy so as to suppress the bias in the prediction direction, and can suppress the reduction of the coding efficiency. ..
  • the SubLoD generation unit 123 samples (selects) a part of the attribute data for each point in the hierarchy as in "Method 1-1" in the second row from the top of the table shown in FIG.
  • the process of making a sub-layer may be repeated recursively.
  • SubLoD generation unit 123 arranges the attribute data of the processing target hierarchy in the Morton order as shown in "Method 1-1-1" in the third row from the top of the table shown in FIG.
  • a sub-layer may be generated by sampling a part of the above at equal intervals.
  • SubLoD generation unit 123 arranges the attribute data of the processing target hierarchy in the Morton order as shown in "Method 1-1-2" in the fourth row from the top of the table shown in FIG.
  • a sub-layer may be generated by sampling a part of the above at non-equal intervals.
  • the Sub LoD generation unit 123 can omit the sub-hierarchy. That is, the SubLoD generation unit 123 can perform sub-hierarchy only for the hierarchy permitted by the control unit 121.
  • the Sub LoD generation unit 123 supplies the sub-hierarchical attribute data to the inversion unit 124 according to the control of the control unit 121 in this way.
  • the reversing unit 124 performs processing related to reversing the hierarchy. For example, the inversion unit 124 acquires the attribute data supplied from the Sub LoD generation unit 123. In this attribute data, the information of each layer is layered in the order of generation.
  • the inversion unit 124 inverts the hierarchy of the attribute data. For example, the inversion unit 124 sets the layer number (the highest layer is 0, the value is incremented by 1 each time the upper layer is lowered by 1 and the lowest layer is the maximum value) for each layer of attribute data in the reverse order of its generation. A number to identify the hierarchy). That is, by assigning this layer number to the data of each layer, each layer is generated in the order from the lowest layer to the highest layer.
  • the inversion unit 124 supplies the attribute data in which the hierarchy is inverted to the weighting unit 125.
  • the weighting unit 125 performs processing related to weighting. For example, the weighting unit 125 acquires the attribute data supplied from the inversion unit 124. The weighting unit 125 derives the weight value of the acquired attribute data. The method of deriving the weight value is arbitrary.
  • the weighting unit 125 is ⁇ 1.
  • the weight value is derived using the reference relationship between the sub hierarchies (Sub LoD) as shown in "Method 1-2" in the fifth row from the top of the table shown in FIG. You may.
  • the weighting unit 125 sets the weight value set for each attribute data in the layering between the sub-layers. You may reflect the reference relation of the attribute data of. That is, the weighting unit 125 may derive the weight value according to both the reference relationship of the attribute data between the layers and the reference relationship of the attribute data between the sub-layers.
  • the weighting unit 125 is the sixth from the top of the table shown in FIG.
  • the reference relationship of the attribute data between the sub-layers may be reflected in the weight value for each layer generated in the layering as in "Method 1-2-1" in the column of.
  • the weighting unit 125 may omit this weighting.
  • the weighting unit 125 predicts the attribute data of each point using the reference relationship between the weight value derived as described above and the attribute data, and derives the predicted value. Further, the weighting unit 125 derives a difference value between the attribute data of each point and the predicted value thereof.
  • the weighting unit 125 supplies the derived attribute data (difference value) to the quantization unit 112 (FIG. 9). Further, the weighting unit 125 may supply the derived weight value as control information to the quantization unit 112 and transmit it to the decoding side.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit may have, for example, a CPU, ROM, RAM, etc., and execute a program using them to realize the above-mentioned processing.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • the coding device 100 encodes the data in the point cloud by executing the coding process. An example of the flow of this coding process will be described with reference to the flowchart of FIG.
  • the position information coding unit 101 of the coding device 100 encodes the input point cloud geometry data (position information) in step S101 to generate the coded data of the geometry data. To do.
  • step S102 the position information decoding unit 102 decodes the coded data of the geometry data generated in step S101 and generates the position information.
  • step S103 the point cloud generation unit 103 performs recolor processing using the input point cloud attribute data (attribute information) and the geometry data (decoding result) generated in step S102, and obtains the attribute data. Corresponds to geometry data.
  • step S104 the attribute information coding unit 104 encodes the attribute data recolored in step S103 by executing the attribute information coding process, and generates the coded data of the attribute data.
  • the attribute information coding unit 104 has ⁇ 1.
  • Sub LoD generation> is processed by applying the above-mentioned technology. The details of the attribute information coding process will be described later.
  • step S105 the bitstream generation unit 105 generates and outputs a bitstream including the coded data of the geometry data generated in step S101 and the coded data of the attribute data generated in step S104.
  • step S105 When the process of step S105 is completed, the coding process is completed.
  • the coding apparatus 100 can generate a reference relationship of the attribute data in the hierarchy so as to suppress the bias in the prediction direction, and suppresses the reduction of the coding efficiency. can do.
  • the layering processing unit 111 of the attribute information coding unit 104 stratifies the attribute data by executing the layering process in step S111, and the difference between the attribute data at each point. Derived the value. At that time, the layering processing unit 111 has ⁇ 1. Hierarchy is performed by applying the above-mentioned technology in Sub LoD generation>. The details of the layering process will be described later.
  • step S112 the quantization unit 112 quantizes each difference value derived in step S111.
  • step S113 the coding unit 113 encodes the difference value quantized in step S112 and generates the coded data of the attribute data.
  • the coding unit 113 generates the coded data of the attribute data including the control information.
  • step S113 When the process of step S113 is completed, the attribute information coding process is completed, and the process returns to FIG.
  • the attribute information coding unit 104 can generate a reference relationship of the attribute data in the hierarchy so as to suppress the bias in the prediction direction, and the coding efficiency is reduced. Can be suppressed.
  • control unit 121 of the layering processing unit 111 targets the attribute data of all points in step S121, and steps S122 to step S122 to generate the first layer (LoD). Each process of S126 is performed.
  • this first layer (the first layer to be generated) becomes the lowest layer in the layered attribute data by the process of step S127 described later. That is, it can be said that the control unit 121 sets the processing target LoD to the lowest layer.
  • step S122 the layering processing unit 122 sets a reference point from the points to be processed.
  • the reference point is a point to which the attribute data is referred to when predicting the attribute data of the prediction point.
  • the prediction point is a point at which attribute data is predicted in this hierarchy. That is, it can be said that the layered processing unit 122 sets each point to be processed as either a prediction point or a reference point.
  • step S123 the control unit 121 determines whether or not to generate a sub-layer (SubLoD) in this layer.
  • the control unit 121 determines whether or not to sub-layer this layer based on arbitrary information such as settings by a user or an application. If it is determined that sub-hierarchy is to be performed, the process proceeds to step S124.
  • step S124 the SubLoD generation unit 123 uses the geometry data to generate a sub-layer in the layer to be processed. That is, the SubLoD generator 123 has ⁇ 1.
  • Sub LoD generation> the reference relationship of the attribute data in the hierarchy (LoD) is generated as in "Method 1" at the top of the table shown in FIG. 3 described above.
  • the SubLoD generator 123 may apply "Method 1-1" in the second row from the top of the table shown in FIG. 3, or "Method 1" in the third row from the top of the table. "-1-1" may be applied, or "Method 1-1-2" in the fourth column from the top of the same table may be applied.
  • the SubLoD generation unit 123 may apply another method.
  • step S125 When the sub-layer is generated, the process proceeds to step S125.
  • step S123 when it is determined that the layer to be processed is not sub-hierarchized, the process of step S124 is skipped and the process proceeds to step S125.
  • step S125 the control unit 121 targets the attribute data of the reference point selected in step S122 as a processing target, and causes each processing of steps S122 to S126 to be performed in order to generate the next layer (LoD). ..
  • next layer to be newly processed becomes one layer higher than the layer that was the processing target immediately before in the layered attribute data by the processing of step S127 described later. That is, it can be said that the control unit 121 updates the processing target LoD to the next higher layer.
  • step S126 the control unit 121 determines whether or not all the points have been processed. By repeating the above process, all points are set as prediction points (the last one point may not be predicted). That is, the control unit 121 determines whether or not all layers have been generated. If there is a point that has not yet been selected as the prediction point and it is determined that the hierarchy has not been completed, the process returns to step S122.
  • each process of steps S122 to S126 is executed for the next layer that is newly targeted for processing in step S125. That is, the point set as the reference point last time is set as either the prediction point or the reference point. By doing so, each process of steps S122 to S126 is recursively repeated with respect to the point set as the reference point, each layer and each sub-layer are generated, and between layers and sub-layers. A reference relationship is generated.
  • step S126 By repeatedly executing each process of steps S122 to S126, all layers (and all sub-layers) are generated, and if it is determined in step S126 that all points have been processed, the process proceeds to step S127. ..
  • step S127 the inversion unit 124 inverts the hierarchy of the generated attribute data, and assigns a hierarchy number to each hierarchy in the reverse direction of the generation order.
  • step S128 the weighting unit 125 derives a weight value for the attribute data of each point. At that time, the weighting unit 125 derives a weight value that reflects the reference relationship between the sub-layers.
  • the weighting unit 125 predicts the attribute data for each point by using the reference relationship between the derived weight value and the attribute data, and derives the difference value between the attribute data and the predicted value.
  • step S129 the control unit 121 generates control information related to the sub-layering of attribute data and transmits it to the decoding side.
  • step S129 When the process of step S129 is completed, the layering process is completed, and the process returns to FIG.
  • the layering processing unit 111 can generate the reference relationship of the attribute data in the hierarchy so as to suppress the bias in the prediction direction. Therefore, the coding device 100 can suppress the reduction of the coding efficiency.
  • FIG. 14 is a block diagram showing an example of a configuration of a decoding device, which is an aspect of an information processing device to which the present technology is applied.
  • the decoding device 200 shown in FIG. 14 is a device that decodes the coded data of the point cloud (3D data).
  • the decoding device 200 has ⁇ 1.
  • “Generation of Sub LoD>” the above-mentioned technology is applied to decode the coded data of the point cloud.
  • FIG. 14 shows the main things such as the processing unit and the data flow, and not all of them are shown in FIG. That is, in the decoding device 200, there may be a processing unit that is not shown as a block in FIG. 14, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the decoding device 200 includes a decoding target LoD depth setting unit 201, a coded data extraction unit 202, a position information decoding unit 203, an attribute information decoding unit 204, and a point cloud generation unit 205.
  • the decoding target LoD depth setting unit 201 performs processing related to setting the depth of the layer (LoD) to be decoded. For example, the decoding target LoD depth setting unit 201 sets to what level the coded data of the point cloud held in the coded data extraction unit 202 is decoded. The method of setting the layer depth to be decoded is arbitrary.
  • the decoding target LoD depth setting unit 201 may be set based on an instruction regarding the layer depth from the outside such as a user or an application. Further, the decoding target LoD depth setting unit 201 may obtain and set the layer depth to be decoded based on arbitrary information such as an output image.
  • the layer to be decoded by the decoding target LoD depth setting unit 201 based on the viewpoint position, direction, angle of view, viewpoint movement (movement, pan, tilt, zoom), etc. of the two-dimensional image generated from the point cloud. You may want to set the depth.
  • the decoding target LoD depth setting unit 201 can set the hierarchy depth for the entire point cloud, can set the hierarchy depth for each object, and set the hierarchy depth for each partial area in the object. You can also do it.
  • the layer depth can be set for each data unit other than these examples.
  • the coded data extraction unit 202 acquires and holds a bit stream input to the decoding device 200.
  • the coded data extraction unit 202 holds the coded data of the geometry data (position information) and the attribute data (attribute information) from the highest level to the hierarchy specified by the decoding target LoD depth setting unit 201. Extract from the stream.
  • the coded data extraction unit 202 supplies the coded data of the extracted geometry data to the position information decoding unit 203.
  • the coded data extraction unit 202 supplies the coded data of the extracted attribute data to the attribute information decoding unit 204.
  • the position information decoding unit 203 acquires the coded data of the geometry data supplied from the coded data extraction unit 202.
  • the position information decoding unit 203 decodes the coded data of the geometry data and generates the geometry data (decoding result).
  • This decoding method is arbitrary as long as it is the same method as in the case of the position information decoding unit 102 of the coding device 100.
  • the position information decoding unit 203 supplies the generated geometry data (decoding result) to the attribute information decoding unit 204 and the point cloud generation unit 205.
  • the attribute information decoding unit 204 acquires the coded data of the attribute data supplied from the coded data extraction unit 202.
  • the attribute information decoding unit 204 acquires the geometry data (decoding result) supplied from the position information decoding unit 203.
  • the attribute information decoding unit 204 uses the position information (decoding result) to ⁇ 1.
  • Sub LoD generation> the coded data of the attribute data is decoded by the method to which the present technology is applied, and the attribute data (decoding result) is generated.
  • the attribute information decoding unit 204 supplies the generated attribute data (decoding result) to the point cloud generation unit 205.
  • the point cloud generation unit 205 acquires the geometry data (decoding result) supplied from the position information decoding unit 203.
  • the point cloud generation unit 205 acquires the attribute data (decoding result) supplied from the attribute information decoding unit 204.
  • the point cloud generation unit 205 generates a point cloud (decoding result) using the geometry data (decoding result) and attribute data (decoding result).
  • the point cloud generation unit 205 outputs the generated point cloud (decoding result) data to the outside of the decoding device 200.
  • the decoding device 200 can apply a plurality of layering methods to perform reverse layering, so that the layered attribute data can be correctly applied by applying the plurality of layering methods. It can be reversed. That is, the coded data encoded by applying such a plurality of layering methods can be correctly decoded. Thereby, the reduction of the coding efficiency can be suppressed.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit may have, for example, a CPU, ROM, RAM, etc., and execute a program using them to realize the above-mentioned processing.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • FIG. 15 is a block diagram showing a main configuration example of the attribute information decoding unit 204 (FIG. 14). Note that FIG. 15 shows the main things such as the processing unit and the flow of data, and not all of them are shown in FIG. That is, in the attribute information decoding unit 204, there may be a processing unit that is not shown as a block in FIG. 15, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the attribute information decoding unit 204 has a decoding unit 211, an inverse quantization unit 212, and an inverse layering processing unit 213.
  • the decoding unit 211 performs processing related to decoding of the coded data of the attribute data. For example, the decoding unit 211 acquires the encoded data of the attribute data supplied to the attribute information decoding unit 204.
  • the decoding unit 211 decodes the encoded data of the attribute data and generates the attribute data (decoding result).
  • This decoding method is arbitrary as long as it corresponds to the coding method by the coding unit 113 (FIG. 9) of the coding device 100.
  • the generated attribute data (decoding result) corresponds to the attribute data before encoding, and is a difference value between the attribute data and the predicted value as described in the first embodiment, and is quantized. ing.
  • the decoding unit 211 supplies the generated attribute data (decoding result) to the inverse quantization unit 212.
  • the decoding unit 211 also supplies the control information to the inverse quantization unit 212.
  • the dequantization unit 212 performs processing related to dequantization of attribute data. For example, the inverse quantization unit 212 acquires the attribute data (decoding result) supplied from the decoding unit 211. When the control information is supplied from the decoding unit 211, the inverse quantization unit 212 also acquires the control information.
  • the dequantization unit 212 dequantizes the attribute data (decoding result).
  • the inverse quantization unit 212 performs this inverse quantization by a method corresponding to the quantization by the quantization unit 112 (FIG. 9) of the coding apparatus 100.
  • the dequantization unit 212 supplies the dequantized attribute data to the de-layering processing unit 213.
  • the dequantization unit 212 also supplies the control information to the dehierarchy processing unit 213.
  • the de-layering processing unit 213 acquires the dequantized attribute data supplied from the dequantization unit 212. As mentioned above, this attribute data is a difference value. Further, the reverse hierarchy processing unit 213 acquires the geometry data (decoding result) supplied from the position information decoding unit 203. The reverse hierarchy processing unit 213 uses the geometry data to perform reverse hierarchy on the acquired attribute data (difference value). This reverse layering is the reverse processing of layering by the layering processing unit 111 (FIG. 9) of the coding apparatus 100.
  • the reverse hierarchy processing unit 213 is described in ⁇ 1.
  • the above-mentioned technology is applied to perform reverse hierarchy.
  • the reverse layering processing unit 213 generates a sub-layer (SubLoD) in the attribute data layer, generates a reference relationship of the attribute data between the sub-layers, and predicts the attribute data using the reference relationship.
  • the reverse layering processing unit 213 supplies the reverse layered attribute data as a decoding result to the point cloud generation unit 205 (FIG. 14).
  • the attribute information decoding unit 204 can correctly reverse the layered / sub-layered attribute data by applying the above-mentioned "method 1" or the like. Therefore, the attribute information decoding unit 204 can suppress the reduction of the coding efficiency.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit may have, for example, a CPU, ROM, RAM, etc., and execute a program using them to realize the above-mentioned processing.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • FIG. 16 is a block diagram showing a main configuration example of the reverse hierarchy processing unit 213 (FIG. 15). Note that FIG. 16 shows the main things such as the processing unit and the data flow, and not all of them are shown in FIG. That is, in the reverse hierarchy processing unit 213, there may be a processing unit that is not shown as a block in FIG. 16, or there may be a processing or data flow that is not shown as an arrow or the like in FIG.
  • the dehierarchy processing unit 213 has a control unit 221, a layered processing unit 222, a SubLoD generation unit 223, an inversion unit 224, and a dehierarchy processing unit 225.
  • Control unit 221 performs processing related to hierarchy control. For example, the control unit 221 acquires the dequantized attribute data supplied from the dequantized unit 212 (FIG. 15). The control unit 221 also acquires the geometry data (decoding result) supplied from the position information decoding unit 203. The control unit 221 supplies the acquired attribute data and geometry data to the layering processing unit 222. Further, when the control information is supplied from the inverse quantization unit 212, the control unit 221 also acquires the control information and supplies the control information to the layering processing unit 222.
  • control unit 221 controls the layering processing unit 222 and the SubLoD generation unit 223 to execute layering and sub-layering of the attribute data, and is the same as the layer and sub-layer generated at the time of encoding.
  • the control unit 221 has ⁇ 1.
  • “Generation of Sub LoD>” the above-mentioned technology is applied to perform layering and sub-layering.
  • the control unit 221 causes the desired hierarchy to be sub-hierarchized. That is, the control unit 221 can cause some layers to be sub-hierarchized, or all layers to be sub-layered.
  • control unit 221 causes the sub-hierarchy to be performed based on the control information regarding the sub-hierarchy of the attribute data as in "Method 2-2" in the tenth column from the top of the table shown in FIG. You may do so.
  • control unit 221 may cause the attribute data to be sub-layered based on the control information (for example, sub_lod_enable_flag) indicating whether or not the sub-layering of the attribute data is permitted.
  • control information for example, sub_lod_enable_flag
  • control unit 221 may be made to perform sub-layering (sampling) of the attribute data based on the control information (for example, sub_lod_distance) indicating the sampling interval of the attribute data.
  • control information for example, sub_lod_distance
  • control unit 221 may be made to perform sub-layering (sampling) of the attribute data based on the control information (for example, sub_lod_mode) indicating the method of sampling the attribute data.
  • control information for example, sub_lod_mode
  • control unit 221 can more easily perform the same sub-layering as the coding side.
  • the layering processing unit 222 performs processing related to layering of attribute data. For example, the layering processing unit 222 acquires attribute data and geometry data (decoding result) supplied from the control unit 221.
  • the layering processing unit 222 stratifies the acquired attribute data using the acquired geometry data according to the control of the control unit 221.
  • the method of layering may be the same as the layering by the layering processing unit 122. That is, the layering processing unit 222 stratifies the attribute data into a structure similar to that generated by the layering processing unit 122. In other words, the hierarchical structure of the attribute data generated by the hierarchical processing unit 122 is reproduced.
  • the layered processing unit 222 supplies the layered attribute data and geometry data to the SubLoD generation unit 223.
  • Sub LoD generation unit 223 performs processing related to sub-hierarchy. For example, the SubLoD generation unit 223 acquires the layered attribute data and geometry data supplied from the layered processing unit 222.
  • the Sub LoD generation unit 223 generates a sub hierarchy (Sub LoD) in the attribute data hierarchy according to the control of the control unit 221.
  • the Sub LoD generation unit 223 uses the geometry data to perform such sub-hierarchy.
  • SubLoD generator 223 is ⁇ 1.
  • a sub hierarchy (Sub LoD) of attribute data in the hierarchy (LoD) is generated as shown in "Method 2-1" in the ninth column from the top of the table shown in FIG. , Generates a reference relationship between its subhierarchies.
  • the SubLoD generation unit 223 can generate the reference relationship of the attribute data in the hierarchy so as to suppress the bias in the prediction direction, and can suppress the reduction of the coding efficiency. ..
  • the SubLoD generation unit 223 performs this sub-layering by the same method as the sub-layering by the SubLoD generation unit 123. That is, the SubLoD generation unit 223 generates a sub-layer having the same structure as that generated by the SubLoD generation unit 123. In other words, the structure of the sub-layer of the attribute data generated by the Sub LoD generation unit 123 is reproduced.
  • the SubLoD generator 223 samples (selects) a part of the attribute data for each point in the hierarchy as shown in "Method 1-1" in the second row from the top of the table shown in FIG.
  • the process of making a sub-layer may be repeated recursively.
  • SubLoD generation unit 223 arranges the attribute data of the processing target hierarchy in the Morton order as shown in "Method 1-1-1" in the third row from the top of the table shown in FIG.
  • a sub-layer may be generated by sampling a part of the above at equal intervals.
  • SubLoD generation unit 223 arranges the attribute data of the processing target hierarchy in the Morton order as shown in "Method 1-1-2" in the fourth row from the top of the table shown in FIG.
  • a sub-layer may be generated by sampling a part of the above at non-equal intervals.
  • the Sub LoD generation unit 223 can omit the sub-hierarchy. That is, the SubLoD generation unit 223 can perform sub-layering only for the hierarchy permitted by the control unit 221.
  • the Sub LoD generation unit 223 supplies the sub-hierarchical attribute data to the inversion unit 224 according to the control of the control unit 221 in this way.
  • the reversing unit 224 performs processing related to reversing the hierarchy. For example, the inversion unit 224 acquires the attribute data supplied from the Sub LoD generation unit 223.
  • the inversion unit 224 inverts the hierarchy of the attribute data as in the case of the inversion unit 124. For example, in the inversion unit 224, for each layer of attribute data, the layer number (the value is incremented by 1 each time the uppermost layer is 0 and the uppermost layer is lowered by 1 layer, and the lowest layer is the maximum value) in the reverse order of the generation order. A number to identify the hierarchy).
  • the inversion unit 224 supplies the attribute data in which the hierarchy is inverted to the inversion processing unit 225.
  • the reverse layering processing unit 225 performs processing related to the reverse layering.
  • the reverse hierarchy processing unit 225 acquires the attribute data supplied from the inversion unit 224.
  • This attribute data is composed of a difference value between the attribute data and its predicted value, and has a hierarchical structure generated (reproduced) by the layering processing unit 222 and a sub-layer generated (reproduced) by the Sub LoD generation unit 223. Has a structure.
  • the reverse layering processing unit 225 reversely layers the acquired attribute data and generates (restores) the attribute data of each point.
  • the reverse hierarchy processing unit 225 predicts the attribute data of each point, and derives (restores) the attribute data of each point from the difference value using the derived predicted value.
  • the reverse layering processing unit 225 determines the reference relationship between the layers and sub-layers reproduced as described above, as in "Method 2" in the eighth row from the top of the table shown in FIG. Use to predict attribute data (derive the predicted value of attribute data).
  • the reverse layer processing unit 225 is used for each point in the order from the highest layer to the lowest layer (in the hierarchy, for each sub-layer in the order from the highest sub-layer to the lowest sub-layer). Derivation of the predicted value of the attribute data of.
  • the dehierarchy processing unit 225 derives the attribute data of the point by adding the derived predicted value to the difference value corresponding to the point. In this way, the reverse hierarchy processing unit 225 generates (restores) the attribute data of each point.
  • the reverse layering processing unit 225 supplies the attribute data (decoding result) generated (restored) by the reverse layering as described above to the point cloud generation unit 205 (FIG. 14).
  • the reverse hierarchy processing unit 225 can correctly reverse the layered / sub-layered attribute data by applying the above-mentioned "method 1" or the like. .. Therefore, the decoding device 200 can suppress the reduction of the coding efficiency.
  • each processing unit may be configured by a logic circuit that realizes the above-mentioned processing.
  • each processing unit may have, for example, a CPU, ROM, RAM, etc., and execute a program using them to realize the above-mentioned processing.
  • each processing unit may have both configurations, and a part of the above-mentioned processing may be realized by a logic circuit, and the other may be realized by executing a program.
  • the configurations of the respective processing units may be independent of each other. For example, some processing units realize a part of the above-mentioned processing by a logic circuit, and some other processing units execute a program.
  • the above-mentioned processing may be realized by the other processing unit by both the logic circuit and the execution of the program.
  • the decoding device 200 decodes the coded data of the point cloud by executing the decoding process.
  • An example of the flow of the decoding process will be described with reference to the flowchart of FIG.
  • the decoding target LoD depth setting unit 201 of the decoding device 200 sets the LoD depth to be decoded (that is, the range of the layer to be decoded) in step S201.
  • step S202 the coded data extraction unit 202 acquires and holds a bit stream, and of geometry data (position information) and attribute data (attribute information) from the top layer to the LoD depth layer set in step S201. Extract the coded data.
  • the hierarchy of the extracted geometry data and the hierarchy of the attribute data may or may not match each other.
  • step S203 the position information decoding unit 203 decodes the coded data of the geometry data extracted in step S202 and generates the geometry data (decoding result).
  • step S204 the attribute information decoding unit 204 decodes the coded data of the attribute data extracted in step S202 and generates the attribute data (decoding result). At that time, the attribute information decoding unit 204 has ⁇ 1. Sub LoD generation> is processed by applying the above-mentioned technology. The details of the attribute information decoding process will be described later.
  • step S205 the point cloud generation unit 205 generates point cloud data (decoding result) using the geometry data (decoding result) generated in step S203 and the attribute data (decoding result) generated in step S204. And output.
  • step S205 When the process of step S205 is completed, the decryption process is completed.
  • the decoding device 200 can correctly reverse-layer the layered / sub-layered attribute data by applying the above-mentioned "method 1" or the like. Therefore, the decoding device 200 can suppress the reduction of the coding efficiency.
  • the decoding unit 211 of the attribute information decoding unit 204 decodes the encoded data of the attribute data in step S211 and generates the attribute data (decoding result).
  • This attribute data (decoding result) is quantized as described above.
  • step S212 the dequantization unit 212 dequantizes the attribute data (decoding result) generated in step S211 by executing the dequantization process.
  • This inverse quantized attribute data is a difference value.
  • step S213 the de-layering processing unit 213 reverse-layers the dequantized attribute data in step S212 by executing the de-layering process, and derives the attribute data of each point.
  • the reverse hierarchy processing unit 213 is described in ⁇ 1.
  • the above-mentioned technology is applied to perform reverse hierarchy. The details of the reverse layering process will be described later.
  • step S213 When the process of step S213 is completed, the attribute information decoding process is completed, and the process returns to FIG.
  • the attribute information decoding unit 204 can correctly reverse-layer the layered / sub-layered attribute data by applying the above-mentioned "method 1" or the like. Therefore, the decoding device 200 can suppress the reduction of the coding efficiency.
  • control unit 221 of the reverse layering process unit 213 processes the attribute data (difference value) of all points in step S221 as in the case of step S121 (FIG. 13).
  • attribute data difference value
  • each process of step S222 to step S226 is performed in order to generate the first hierarchy (LoD).
  • this first layer (the first layer to be generated) becomes the lowest layer in the layered attribute data by the process of step S227 described later. That is, it can be said that the control unit 221 sets the processing target LoD to the lowest layer.
  • step S222 the layering processing unit 222 sets a reference point from the points to be processed, as in the case of step S122 (FIG. 13). That is, it can be said that the layered processing unit 222 sets each point to be processed as either a prediction point or a reference point.
  • step S223 the control unit 221 determines whether or not to generate a sub-layer (SubLoD) in this layer, as in the case of step S123 (FIG. 13).
  • the control unit 221 can make this determination based on arbitrary information or the like. For example, the control unit 221 determines whether or not to sub-layer this layer based on the control information transmitted from the coding side. If it is determined that sub-hierarchy is to be performed, the process proceeds to step S224.
  • step S224 the SubLoD generation unit 223 uses the geometry data to generate a sub-layer in the layer to be processed, as in the case of step S124 (FIG. 13). That is, the SubLoD generation unit 223 has ⁇ 1.
  • a sub hierarchy (Sub LoD) of attribute data in the hierarchy (LoD) is generated as shown in "Method 2-1" in the ninth column from the top of the table shown in FIG. , Generates a reference relationship between its subhierarchies.
  • the SubLoD generation unit 223 performs this sub-layering in step S224 by the same method as the sub-layering performed in step S124. That is, the SubLoD generation unit 223 generates a sub-layer having the same structure as that generated in step S124. In other words, the structure of the sub-layer of the attribute data generated in step S124 is reproduced.
  • the SubLoD generator 223 may apply "Method 1-1" in the second row from the top of the table shown in FIG. 3, or “Method 1" in the third row from the top of the table. "-1-1” may be applied, or “Method 1-1-2" in the fourth column from the top of the same table may be applied. Of course, the SubLoD generation unit 223 may apply another method.
  • step S223 if it is determined that the layer to be processed is not sub-hierarchized, the process of step S224 is skipped and the process proceeds to step S225.
  • step S225 the control unit 221 processes the attribute data of the reference point selected in step S222 as in the case of step S125 (FIG. 13), and in order to generate the next layer (LoD), step S222. To each process of step S226 is performed.
  • next layer to be newly processed becomes one layer higher than the layer that was the processing target immediately before in the layered attribute data by the processing of step S227 described later. That is, it can be said that the control unit 221 updates the processing target LoD to the next higher layer.
  • step S226 the control unit 221 determines whether or not all the points have been processed, as in the case of step S126 (FIG. 13). By repeating the above process, all points are set as prediction points (the last one point may not be predicted). That is, the control unit 221 determines whether or not all the layers have been generated. If there is a point that has not yet been selected as the prediction point and it is determined that the hierarchy has not been completed, the process returns to step S222.
  • each process of steps S222 to S226 is executed for the next layer that is newly targeted for processing in step S225. That is, the point set as the reference point last time is set as either the prediction point or the reference point. By doing so, each process of step S222 to step S226 is recursively repeated with respect to the point set as the reference point, each layer and each sub-layer are generated, and between layers and sub-layers. A reference relationship is generated (reproduced).
  • step S226 By repeatedly executing each process of steps S222 to S226, all layers (and all sub-layers) are generated (reproduced), and if it is determined in step S226 that all points have been processed, the process is step. Proceed to S227.
  • step S227 the inversion unit 224 inverts the layer of the generated attribute data as in the case of step S127 (FIG. 13), and assigns a layer number to each layer in the reverse direction of the generation order.
  • attribute data is generated which is composed of the difference value between the attribute data and the predicted value and has the hierarchical structure generated (reproduced) in step S222 and the sub-hierarchy structure generated (reproduced) in step S224. (Reproduced).
  • step S228, the reverse hierarchy processing unit 225 reversely ranks the generated attribute data and generates (restores) the attribute data of each point.
  • the reverse hierarchy processing unit 225 predicts the attribute data of each point, and derives (restores) the attribute data of each point from the difference value using the derived predicted value.
  • the reverse layering processing unit 225 determines the reference relationship between the layers and sub-layers reproduced as described above, as in "Method 2" in the eighth row from the top of the table shown in FIG. Use to predict attribute data (derive the predicted value of attribute data).
  • the reverse layer processing unit 225 is used for each point in the order from the highest layer to the lowest layer (in the hierarchy, for each sub-layer in the order from the highest sub-layer to the lowest sub-layer). Derivation of the predicted value of the attribute data of.
  • the dehierarchy processing unit 225 derives the attribute data of the point by adding the derived predicted value to the difference value corresponding to the point. In this way, the reverse hierarchy processing unit 225 generates (restores) the attribute data of each point.
  • the reverse hierarchy processing unit 213 can correctly reverse the layered / sub-layered attribute data by applying the above-mentioned "method 1" or the like. .. Therefore, the decoding device 200 can suppress the reduction of the coding efficiency.
  • Lifting has been described as an example as a method for layering / reversing attribute information, but this technique can be applied to any technique for layering attribute information. That is, the method of layering / reversing the attribute information may be other than Lifting.
  • the series of processes described above can be executed by hardware or by software.
  • the programs constituting the software are installed on the computer.
  • the computer includes a computer embedded in dedicated hardware, a general-purpose personal computer capable of executing various functions by installing various programs, and the like.
  • FIG. 20 is a block diagram showing a configuration example of computer hardware that executes the above-mentioned series of processes programmatically.
  • the CPU Central Processing Unit
  • ROM Read Only Memory
  • RAM Random Access Memory
  • the input / output interface 910 is also connected to the bus 904.
  • An input unit 911, an output unit 912, a storage unit 913, a communication unit 914, and a drive 915 are connected to the input / output interface 910.
  • the input unit 911 includes, for example, a keyboard, a mouse, a microphone, a touch panel, an input terminal, and the like.
  • the output unit 912 includes, for example, a display, a speaker, an output terminal, and the like.
  • the storage unit 913 includes, for example, a hard disk, a RAM disk, a non-volatile memory, or the like.
  • the communication unit 914 includes, for example, a network interface.
  • the drive 915 drives a removable medium 921 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory.
  • the CPU 901 loads the program stored in the storage unit 913 into the RAM 903 via the input / output interface 910 and the bus 904 and executes the above-described series. Is processed.
  • the RAM 903 also appropriately stores data and the like necessary for the CPU 901 to execute various processes.
  • the program executed by the computer can be recorded and applied to the removable media 921 as a package media or the like, for example.
  • the program can be installed in the storage unit 913 via the input / output interface 910 by mounting the removable media 921 in the drive 915.
  • This program can also be provided via wired or wireless transmission media such as local area networks, the Internet, and digital satellite broadcasting. In that case, the program can be received by the communication unit 914 and installed in the storage unit 913.
  • this program can be installed in advance in ROM 902 or storage unit 913.
  • the coding device 100 and the decoding device 200 have been described as application examples of the present technology, but the present technology can be applied to any configuration.
  • this technology is a transmitter or receiver (for example, a television receiver or mobile phone) for satellite broadcasting, cable broadcasting such as cable TV, distribution on the Internet, and distribution to terminals by cellular communication, or It can be applied to various electronic devices such as devices (for example, hard disk recorders and cameras) that record images on media such as optical disks, magnetic disks, and flash memories, and reproduce images from these storage media.
  • devices for example, hard disk recorders and cameras
  • a processor as a system LSI (Large Scale Integration) or the like (for example, a video processor), a module using a plurality of processors (for example, a video module), a unit using a plurality of modules (for example, a video unit)
  • a processor as a system LSI (Large Scale Integration) or the like (for example, a video processor), a module using a plurality of processors (for example, a video module), a unit using a plurality of modules (for example, a video unit)
  • a processor as a system LSI (Large Scale Integration) or the like (for example, a video processor), a module using a plurality of processors (for example, a video module), a unit using a plurality of modules (for example, a video unit)
  • a set for example, a video set
  • this technology can be applied to a network system composed of a plurality of devices.
  • the present technology may be implemented as cloud computing that is shared and jointly processed by a plurality of devices via a network.
  • this technology is implemented in a cloud service that provides services related to images (moving images) to arbitrary terminals such as computers, AV (AudioVisual) devices, portable information processing terminals, and IoT (Internet of Things) devices. You may try to do it.
  • the system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether all the components are in the same housing. Therefore, a plurality of devices housed in separate housings and connected via a network, and a device in which a plurality of modules are housed in one housing are both systems. ..
  • Systems, devices, processing units, etc. to which this technology is applied can be used in any field such as transportation, medical care, crime prevention, agriculture, livestock industry, mining, beauty, factories, home appliances, weather, nature monitoring, etc. .. The use is also arbitrary.
  • the "flag” is information for identifying a plurality of states, and is not only information used for identifying two states of true (1) or false (0), but also three or more states. It also contains information that can identify the state. Therefore, the value that this "flag” can take may be, for example, 2 values of 1/0 or 3 or more values. That is, the number of bits constituting this "flag” is arbitrary, and may be 1 bit or a plurality of bits.
  • the identification information (including the flag) is assumed to include not only the identification information in the bit stream but also the difference information of the identification information with respect to a certain reference information in the bit stream. In, the "flag” and “identification information” include not only the information but also the difference information with respect to the reference information.
  • various information (metadata, etc.) regarding the coded data may be transmitted or recorded in any form as long as it is associated with the coded data.
  • the term "associate" means, for example, to make the other data available (linkable) when processing one data. That is, the data associated with each other may be combined as one data or may be individual data.
  • the information associated with the coded data (image) may be transmitted on a transmission path different from the coded data (image).
  • the information associated with the coded data (image) may be recorded on a recording medium (or another recording area of the same recording medium) different from the coded data (image). Good.
  • this "association" may be a part of the data, not the entire data. For example, an image and information corresponding to the image may be associated with each other in an arbitrary unit such as a plurality of frames, one frame, or a part within the frame.
  • the embodiment of the present technology is not limited to the above-described embodiment, and various changes can be made without departing from the gist of the present technology.
  • the configuration described as one device (or processing unit) may be divided and configured as a plurality of devices (or processing units).
  • the configurations described above as a plurality of devices (or processing units) may be collectively configured as one device (or processing unit).
  • a configuration other than the above may be added to the configuration of each device (or each processing unit).
  • a part of the configuration of one device (or processing unit) may be included in the configuration of another device (or other processing unit). ..
  • the above-mentioned program may be executed in any device.
  • the device may have necessary functions (functional blocks, etc.) so that necessary information can be obtained.
  • each step of one flowchart may be executed by one device, or may be shared and executed by a plurality of devices.
  • the plurality of processes may be executed by one device, or may be shared and executed by a plurality of devices.
  • a plurality of processes included in one step can be executed as processes of a plurality of steps.
  • the processes described as a plurality of steps can be collectively executed as one step.
  • the processing of the steps for writing the program may be executed in chronological order in the order described in the present specification, and may be executed in parallel or in calls. It may be executed individually at the required timing such as when it is broken. That is, as long as there is no contradiction, the processing of each step may be executed in an order different from the above-mentioned order. Further, the processing of the step for writing this program may be executed in parallel with the processing of another program, or may be executed in combination with the processing of another program.
  • a plurality of technologies related to this technology can be independently implemented independently as long as there is no contradiction.
  • any plurality of the present technologies can be used in combination.
  • some or all of the techniques described in any of the embodiments may be combined with some or all of the techniques described in other embodiments. It is also possible to carry out a part or all of any of the above-mentioned techniques in combination with other techniques not described above.
  • the present technology can also have the following configurations.
  • a layering unit that stratifies the attribute information of the point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute information between the hierarchies.
  • An information processing device including a sub-layered unit that sub-layers the attribute information in the layer and generates a reference relationship of the attribute information between the sub-layers in the layer of the attribute information generated by the layered unit.
  • the information processing apparatus arranges the attribute information of the processing target layer in Morton order and samples the attribute information at non-equal intervals to sub-layer the attribute information. .. (4) Weighting for deriving the weight value for each attribute information by updating the weight value for each layer according to the reference relationship of the attribute information between the sub-layers generated by the sub-layering unit.
  • the information processing apparatus according to any one of (1) to (3), further comprising a unit.
  • the attribute is based on the reference relationship of the attribute information between the layers generated by the layering unit and the reference relationship of the attribute information between the sub layers generated by the sub-layering unit.
  • the information processing apparatus according to any one of (1) to (3), further comprising a weighting unit for deriving a weight value for each information.
  • (6) The information processing apparatus according to any one of (1) to (5), further comprising a coding unit that encodes the attribute information and generates coded data of the attribute information.
  • (7) Further provided with a generation unit for generating control information related to the sub-layering of the attribute information.
  • the information processing apparatus according to (6), wherein the coding unit generates the coded data including the control information generated by the generation unit.
  • the generation unit generates control information indicating whether or not sub-layering of the attribute information is permitted.
  • the information processing apparatus according to (7) or (8), wherein the generation unit generates control information indicating a sampling interval of the attribute information by the sub-layering unit.
  • the information processing apparatus according to any one of (7) to (9), wherein the generation unit generates control information indicating a method of sampling the attribute information by the sub-layering unit.
  • (11) The attribute information of the point cloud that expresses a three-dimensional object as a set of points is hierarchized, and a reference relationship of the attribute information between the hierarchies is generated. An information processing method in which the attribute information in the hierarchy is sub-hierarchized in the generated hierarchy of the attribute information, and a reference relationship of the attribute information between the sub-hierarchies is generated.
  • a layering unit that stratifies the attribute information of the point cloud that expresses a three-dimensional object as a set of points and generates a reference relationship of the attribute information between the hierarchies.
  • the sub-layering unit that sub-layers the attribute information of the layer and generates a reference relationship of the attribute information between the sub-layers.
  • the attribute information is reversed based on the reference relationship of the attribute information between the layers generated by the layering unit and the reference relationship of the attribute information between the sub layers generated by the sub-layering unit.
  • the information processing apparatus (13) The information processing apparatus according to (12), wherein the sub-layering unit arranges the attribute information of the processing target layer in Morton order and samples the attribute information at equal intervals to sub-layer the attribute information. (14) The information processing apparatus according to (12), wherein the sub-layering unit arranges the attribute information of the processing target layer in Morton order and samples the attribute information at non-equal intervals to sub-layer the attribute information. .. (15) The information processing apparatus according to any one of (12) to (14), further comprising a decoding unit that decodes the coded data of the attribute information and restores the attribute information. (16) The decoding unit decodes the coded data and restores the control information related to the sub-layering of the attribute information.
  • the information processing apparatus wherein the sub-layering unit sub-hierarchizes the attribute information based on the control information restored by the decoding unit.
  • the sub-layering unit sub-layers the attribute information based on control information indicating whether or not sub-layering of the attribute information restored by the decoding unit is permitted (16).
  • the information processing device described in. (18) The sub-layered unit according to (16) or (17), which sub-layers the attribute information based on the control information indicating the sampling interval of the attribute information restored by the decoding unit.
  • the attribute information of the point cloud that expresses a three-dimensional object as a set of points is hierarchized, and the reference relationship of the attribute information between the hierarchies is generated.
  • the attribute information of the hierarchy is sub-hierarchized, and a reference relationship of the attribute information between the sub-hierarchies is generated.
  • An information processing method in which the attribute information is reverse-layered based on the generated reference relationship of the attribute information between the layers and the reference relationship of the attribute information between the generated sub-layers.
  • 100 coding device 101 position information coding unit, 102 position information decoding unit, 103 point cloud generation unit, 104 attribute information coding unit, 105 bitstream generation unit, 111 layering processing unit, 112 quantization unit, 113 code Conversion unit, 121 control unit, 122 layering processing unit, 123 Sub LoD generation unit, 124 inversion unit, 125 weighting unit, 200 decoding device, 201 decoding target LOD depth setting unit, 202 coded data extraction unit, 203 position information decoding Unit, 204 Attribute information decoding unit, 205 Point cloud generation unit, 211 Decoding unit, 212 Inverse quantization unit, 213 Inverse layering processing unit, 221 Control unit, 222 Layering processing unit, 223 Sub LoD generation unit, 224 Inversion unit , 225 Reverse layer processing unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本開示は、符号化効率の低減を抑制することができるようにする情報処理装置および方法に関する。 3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、その階層間の属性情報の参照関係を生成し、その生成された属性情報の階層において、その階層の属性情報をサブ階層化し、そのサブ階層間の属性情報の参照関係を生成する。本開示は、例えば、情報処理装置、画像処理装置、符号化装置、復号装置、電子機器、情報処理方法、またはプログラム等に適用することができる。

Description

情報処理装置および方法
 本開示は、情報処理装置および方法に関し、特に、符号化効率の低減を抑制することができるようにした情報処理装置および方法に関する。
 従来、例えばポイントクラウド(Point cloud)のような3次元構造を表す3Dデータの符号化方法が考えられた(例えば非特許文献1参照)。ポイントクラウドのデータは、各ポイントのジオメトリデータ(位置情報とも称する)およびアトリビュートデータ(属性情報とも称する)により構成される。したがってポイントクラウドの符号化は、そのジオメトリデータとアトリビュートデータとのそれぞれについて行われる。アトリビュートデータの符号化方法として様々な方法が提案されている。例えば、Liftingという技術を用いて行うことが提案された(例えば非特許文献2参照)。また、アトリビュートデータをスケーラブルに復号することができるようにする方法も提案された(例えば、非特許文献3参照)。また、Liftingではないが、LoD内において復号済みのアトリビュートデータを参照することができる方法も考えられた(例えば、非特許文献4参照)。
R. Mekuria, Student Member IEEE, K. Blom, P. Cesar., Member, IEEE, "Design, Implementation and Evaluation of a Point Cloud Codec for Tele-Immersive Video",tcsvt_paper_submitted_february.pdf Khaled Mammou, Alexis Tourapis, Jungsun Kim, Fabrice Robinet, Valery Valentin, Yeping Su, "Lifting Scheme for Lossy Attribute Encoding in TMC1", ISO/IEC JTC1/SC29/WG11 MPEG2018/m42640, April 2018, San Diego, US Ohji Nakagami, Satoru Kuma, "[G-PCC] Spatial scalability support for G-PCC", ISO/IEC JTC1/SC29/WG11 MPEG2019/m47352, March 2019, Geneva, CH Toshiyasu Sugio, "[G-PCC] Reference structure modification on attribute predicting transform in TMC13", ISO/IEC JTC1/SC29/WG11 MPEG2018/ m46107, January 2019, Marrakech, MA
 しかしながら、非特許文献4に記載の手法の場合、アトリビュートデータはLoD内においてモートン順序(Morton Order)で整列されて符号化されるので、参照可能な復号済みのアトリビュートデータは、そのモートン順序において復号対象のアトリビュートデータよりも前に位置するものに限定される。つまり、その復号済みのアトリビュートデータは、3次元空間において復号対象のアトリビュートデータのポイントからみて偏った方向に位置するポイントのアトリビュートデータに限定されるおそれがあった。そのため、その復号済みのアトリビュートデータを参照して行われる処理対象のアトリビュートデータの予測の予測精度が低減し、符号化効率が低減するおそれがあった。
 本開示は、このような状況に鑑みてなされたものであり、符号化効率の低減を抑制することができるようにするものである。
 本技術の一側面の情報処理装置は、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部とを備える情報処理装置である。
 本技術の一側面の情報処理方法は、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成する情報処理方法である。
 本技術の他の側面の情報処理装置は、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部と、前記階層化部により生成された前記階層間の前記属性情報の参照関係、および、前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する逆階層化部とを備える情報処理装置である。
 本技術の他の側面の情報処理方法は、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成し、生成された前記階層間の前記属性情報の参照関係、および、生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する情報処理方法である。
 本技術の一側面の情報処理装置および方法においては、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報が階層化され、その階層間の属性情報の参照関係が生成され、その生成された属性情報の階層において、その階層の属性情報がサブ階層化され、そのサブ階層間の属性情報の参照関係が生成される。
 本技術の他の側面の情報処理装置および方法においては、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報が階層化され、その階層間の属性情報の参照関係が生成され、その生成された属性情報の階層において、その階層の属性情報がサブ階層化され、そのサブ階層間の属性情報の参照関係が生成され、その生成された階層間の属性情報の参照関係、および、その生成されたサブ階層間の属性情報の参照関係に基づいて、その属性情報が逆階層化される。
従来の属性情報の参照関係の例を説明する図である。 階層内のモートン順序に従った参照関係の例を説明する図である。 アトリビュートデータの階層化手法・逆階層化手法について説明する図である。 Sub LoDの生成の様子の例を説明する図である。 Sub LoDの生成の様子の例を説明する図である。 参照関係の様子の例を説明する図である。 参照関係の様子の例を説明する図である。 符号化装置の主な構成例を示すブロック図である。 属性情報符号化部の主な構成例を示すブロック図である。 階層化処理部の主な構成例を示すブロック図である。 符号化処理の流れの例を説明するフローチャートである。 属性情報符号化処理の流れの例を説明するフローチャートである。 階層化処理の流れの例を説明するフローチャートである。 復号装置の主な構成例を示すブロック図である。 属性情報復号部の主な構成例を示すブロック図である。 逆階層化処理部の主な構成例を示すブロック図である。 復号処理の流れの例を説明するフローチャートである。 属性情報復号処理の流れの例を説明するフローチャートである。 逆階層化処理の流れの例を説明するフローチャートである。 コンピュータの主な構成例を示すブロック図である。
 以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
 1.Sub LoDの生成
 2.第1の実施の形態(符号化装置)
 3.第2の実施の形態(復号装置)
 4.付記
 <1.Sub LoDの生成>
  <技術内容・技術用語をサポートする文献等>
 本技術で開示される範囲は、実施の形態に記載されている内容だけではなく、出願当時において公知となっている以下の非特許文献に記載されている内容も含まれる。
 非特許文献1:(上述)
 非特許文献2:(上述)
 非特許文献3:(上述)
 非特許文献4:(上述)
 つまり、上述の非特許文献に記載されている内容もサポート要件を判断する際の根拠となる。
  <ポイントクラウド>
 従来、点群の位置情報や属性情報等により3次元構造を表すポイントクラウド(Point cloud)や、頂点、エッジ、面で構成され、多角形表現を使用して3次元形状を定義するメッシュ(Mesh)等の3Dデータが存在した。
 例えばポイントクラウドの場合、立体構造物(3次元形状のオブジェクト)を多数の点の集合(点群)として表現する。つまり、ポイントクラウドのデータ(ポイントクラウドデータとも称する)は、この点群の各点のジオメトリデータ(位置情報とも称する)やアトリビュートデータ(属性情報とも称する)により構成される。アトリビュートデータは任意の情報を含むことができる。例えば、色情報、反射率情報、法線情報等がアトリビュートデータに含まれるようにしてもよい。したがってデータ構造が比較的単純であるとともに、十分に多くの点を用いることにより任意の立体構造物を十分な精度で表現することができる。
  <ボクセルを用いた位置情報の量子化>
 このようなポイントクラウドデータはそのデータ量が比較的大きいので、符号化等によるデータ量を圧縮するために、ボクセル(Voxel)を用いた符号化方法が考えられた。ボクセルは、ジオメトリデータ(位置情報)を量子化するための3次元領域である。
 つまり、ポイントクラウドを内包する3次元領域をボクセルと称する小さな3次元領域に分割し、そのボクセル毎に、ポイントを内包するか否かを示すようにする。このようにすることにより、各ポイントの位置はボクセル単位に量子化される。したがって、ポイントクラウド(Point cloud)データをこのようなボクセルのデータ(ボクセル(Voxel)データとも称する)に変換することにより、情報量の増大を抑制する(典型的には情報量を削減する)ことができる。
  <Octree>
 さらに、ジオメトリデータについて、このようなボクセル(Voxel)データを用いてOctreeを構築することが考えられた。Octreeは、ボクセルデータを木構造化したものである。このOctreeの最下位のノードの各ビットの値が、各ボクセルのポイントの有無を示す。例えば、値「1」がポイントを内包するボクセルを示し、値「0」がポイントを内包しないボクセルを示す。Octreeでは、1ノードが8つのボクセルに対応する。つまり、Octreeの各ノードは、8ビットのデータにより構成され、その8ビットが8つのボクセルのポイントの有無を示す。
 そして、Octreeの上位のノードは、そのノードに属する下位ノードに対応する8つのボクセルを1つにまとめた領域のポイントの有無を示す。つまり、下位ノードのボクセルの情報をまとめることにより上位ノードが生成される。なお、値が「0」のノード、すなわち、対応する8つのボクセルが全てポイントを内包しない場合、そのノードは削除される。
 このようにすることにより、値が「0」でないノードからなる木構造(Octree)が構築される。つまり、Octreeは、各解像度のボクセルのポイントの有無を示すことができる。Octree化して符号化することにより、位置情報は、最高解像度(最上位層)から所望の階層(解像度)まで復号することにより、その解像度のポイントクラウドデータを復元することができる。つまり、不要な階層(解像度)の情報を復号せずに、容易に任意の解像度で復号することができる。換言するに、ボクセル(解像度)のスケーラビリティを実現することができる。
 また、上述のように値が「0」のノードを省略することにより、ポイントが存在しない領域のボクセルを低解像度化することができるので、さらなる情報量の増大の抑制(典型的には情報量の削減)を行うことができる。
  <Lifting>
 これに対してアトリビュートデータ(属性情報)を符号化する際は、符号化による劣化を含めジオメトリデータ(位置情報)を既知であるものとして、ポイント間の位置関係を利用して符号化が行われる。このようなアトリビュートデータの符号化方法として、RAHT(Region Adaptive Hierarchical Transform)や、非特許文献2に記載のようなLiftingと称する変換を用いる方法が考えられた。これらの技術を適用することにより、ジオメトリデータのOctreeのように、アトリビュートデータを階層化することもできる。
 例えば非特許文献2に記載のLiftingの場合、各ポイントのアトリビュートデータは、他のポイントのアトリビュートデータを用いて導出される予測値との差分値として符号化される。その際、各ポイントが階層化され、差分値はその階層構造に従って導出される。
 つまり、ポイント毎のアトリビュートデータについて、各ポイントが予測ポイントと参照ポイントとに分類され、その参照ポイントのアトリビュートデータを用いて予測ポイントのアトリビュートデータの予測値が導出され、その予測ポイントのアトリビュートデータと予測値との差分値が導出される。このような処理を、参照ポイントに対して再帰的に繰り返すことにより、各ポイントのアトリビュートデータが階層化される。
 ただし、この階層構造は、ジオメトリデータの階層構造(例えばOctree)とは独立に生成されたものであり、基本的に、ジオメトリデータの階層構造とは対応しない。ポイントクラウドデータを復元するためには、ジオメトリデータとアトリビュートデータとを対応させる必要があり、そのためには、ジオメトリデータおよびアトリビュートデータを最高解像度(すなわち最下位層)まで復号する必要があった。つまり、非特許文献2に記載のLiftingを適用した手法は、解像度のスケーラブルな復号に対応していない。
  <スケーラブルな復号に対応した階層化>
 これに対して非特許文献3に記載の階層化は、解像度のスケーラブルな復号に対応している。非特許文献3に記載の手法の場合、ジオメトリデータのOctreeの階層構造に一致するようにアトリビュートデータの階層化を行う。つまり、ジオメトリデータのボクセルに相当する領域内にポイントが存在する場合(そのポイントに対応するアトリビュートデータが存在する場合)、そのボクセルの1階層上位のボクセルにおいてもポイントが存在する(そのポイントに対応するアトリビュートデータが存在する)ように、参照ポイントと予測ポイントの選択を行う。つまり、ジオメトリデータのOctreeの階層構造に従って属性情報が階層化される。
 アトリビュートデータの階層構造をジオメトリデータの階層構造と対応付けることにより、最下層まで復号しなくても、容易に所望の解像度のポイントクラウドデータを復元することができる。このように、非特許文献3に記載の技術を適用した手法は、解像度のスケーラブルな復号に対応する。
  <階層内の参照関係>
 上述の手法では、階層間において属性情報の参照関係が生成される。つまり、他の階層の属性情報を参照して、処理対象の階層の属性情報の予測を行うことができる。
 これに対して非特許文献4に記載の手法の場合、処理対象の階層内の属性情報も復号済みであれば参照することができる。例えば、図1のAに示される階層化されたアトリビュートデータ(Attribute Lod)1は、図1のBに示されるように、ポイント毎のアトリビュートデータ2が分類されて階層化されたものである。図1のBにおいて、縦方向が階層(LoD(Level Of Detail))を示しており、各丸がポイント毎のアトリビュートデータ2を示している。図1のBにおいては、1つの丸にのみ符号を付しているが、図1のBに示される丸は全てポイント毎のアトリビュートデータ2である。
 復号は上位の階層から1階層ずつ順次行われる。したがって、あるポイントのアトリビュートデータ2Aを復号する場合、白丸で示される上位の階層のポイント毎のアトリビュートデータ2は復号済みであるので、それらを参照することができる。
 また、階層内においては、ポイント毎のアトリビュートデータ2は、モートン順序(Morton Order)に整列され、その順に復号される。図1のBにおいて、各階層のポイント毎のアトリビュートデータ2は、モートン順序に整列されている。図中、横方向の左から右に向かう向きがモートン順序に対応する。
 つまり、あるポイントのアトリビュートデータ2Aを復号する場合、それより左側に位置するポイント毎のアトリビュートデータ2Bが復号済みであり、参照可能である。
 モートン順序で整列することにより、ポイント毎のアトリビュートデータ2は、3次元空間を分割した3次元の部分領域毎に走査される。そのため、処理順に、3次元空間位置の方向性(偏り)が生じる。
 例えば、ポイントクラウドデータの各ポイントが図2の3次元領域3内に存在するとする。上述のように、図1のBにおいて、復号済みのポイント毎のアトリビュートデータ2Bは、モートン順序において、あるポイントのアトリビュートデータ2Aよりも前に位置する。したがって、図2の3次元領域3において、図1のBに示される復号済みのポイント毎のアトリビュートデータ2Bは、あるポイントのアトリビュートデータ2Aからみて、所定の方向に位置する部分領域3B内に存在する。つまり、あるポイントのアトリビュートデータ2Aの位置を基準とした場合の、復号済みのポイント毎のアトリビュートデータ2Bの相対位置(方向)に偏りが生じる。
 モートン順序に従って処理を行うことにより、予測の際の参照方向にこのような偏りが生じ、その偏りにより予測精度が低減し、符号化効率が低減するおそれがあった。
  <サブ階層化>
 そこで、例えば図3に示される表の一番上の段の「方法1」に記載のように、アトリビュートデータ(属性情報)の階層化において、階層(LoD)内にさらにサブ階層(Sub LoD)を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成する(つまり階層(LoD)内におけるアトリビュートデータの参照関係を生成する)ようにする。
 例えば、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドのアトリビュートデータ(属性情報)を、その階層間のアトリビュートデータの参照関係を生成し、さらに、その生成されたアトリビュートデータの階層において、その階層のアトリビュートデータをサブ階層化して、そのサブ階層間のアトリビュートデータの参照関係を生成する。
 例えば、情報処理装置において、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドのアトリビュートデータ(属性情報)を階層化し、その階層間のアトリビュートデータの参照関係を生成する階層化部と、その階層化部により生成されたアトリビュートデータの階層において、その階層のアトリビュートデータをサブ階層化し、そのサブ階層間のアトリビュートデータの参照関係を生成するサブ階層化部とを備えるようにする。
 このようにすることにより、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
 なお、この場合のアトリビュートデータの階層化の手法は任意である。例えば、非特許文献2に記載のスケーラブルの復号に非対応なLiftingを用いてもよい。また、例えば、非特許文献3に記載のスケーラブルの復号に対応した階層化技術を適用してもよい。もちろん、これら以外の手法であってもよい。
 また、サブ階層化の手法も任意である。例えば、図3に示される表の上から2番目の段の「方法1-1」に記載のように、階層内のポイント毎のアトリビュートデータの一部をサンプリング(選択)してサブ階層とする処理を、再帰的に繰り返すようにしてもよい。つまり、アトリビュートデータの階層構造における処理対象の階層(LoD)のノード群から一部をサンプリングすることによりサブ階層を生成するようにしてもよい。
 例えば、図3に示される表の上から3番目の段の「方法1-1-1」に記載のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を等間隔にサンプリングすることにより、サブ階層を生成するようにしてもよい。
 例えば、図1のBの場合と同様に、階層化されたアトリビュートデータについて、サブ階層化を行う階層のポイント毎のアトリビュートデータをモートン順序に整列する。そして、その整列されたポイント毎のアトリビュートデータを、等間隔にサンプリングする。図4は、3つおき、すなわち、4つに1つをサンプリングする例を示す(LodUniformQuant = 4)。LodUniformQuantは、サンプリング間隔を示すシンタクス要素である。LodUniformQuant = 4は、モートン順序に整列されたポイント毎のアトリビュートデータの列の中から4つ毎に1つをサンプリングすることを示す。つまり、1つのアトリビュートデータがサンプリングされると、次に、そこからモートン順序において4つ目のアトリビュートデータがサンプリングされる。
 図4のAにおいて、丸形で示されるポイント毎のアトリビュートデータ12は、モートン順序に整列されており、そこから4つに1つ(グレーの丸で示されるポイント毎のアトリビュートデータ12)がサンプリングされる。つまり、図4のBに示されるように、サンプリングされなかった白丸で示されるポイント毎のアトリビュートデータ12からなる最下位のサブ階層(Sub LoD)が生成される。
 そのサンプリングされたポイント毎のアトリビュートデータ12の列の中から、同様に、4つに1つ(黒丸で示されるポイント毎のアトリビュートデータ12)がサンプリングされる。つまり、図4のCに示されるように、サンプリングされなかったグレーの丸で示されるポイント毎のアトリビュートデータ12からなる最下位から2番目のサブ階層(Sub LoD)が生成される。
 そのサンプリングされたポイント毎のアトリビュートデータ12の列の中から、同様に、4つに1つ(斜線模様の丸で示されるポイント毎のアトリビュートデータ12)がサンプリングされる。つまり、図4のDに示されるように、サンプリングされなかった黒丸で示されるポイント毎のアトリビュートデータ12からなる最下位から3番目のサブ階層が生成される。
 なお、この場合、1つのポイント毎のアトリビュートデータ12がサンプリングされるので、そのサンプリングされたポイント毎のアトリビュートデータ12からなる最上位のサブ階層も生成される(図4のD)。
 そして、このようなサブ階層間においても参照関係を生成する。つまり、より上位のサブ階層のアトリビュートデータから先に復号されるようにし、上位のサブ階層のアトリビュートデータを参照可能とする。
 この場合、ポイント毎のアトリビュートデータ12の列の全体からサンプリングが行われて、サブ階層が生成されているので、それらのポイントの3次元空間における位置の偏りが少ない。つまり、非特許文献4に記載の方法に比べて、アトリビュートデータの参照方向の偏りを抑制することができる。したがって、予測精度の低減を抑制し、符号化効率の低減を抑制することができる。
 また、この場合もポイント毎のアトリビュートデータ12はモートン順序に整列されているので、3次元空間において比較的近傍のアトリビュートデータを参照することができる。したがって、アトリビュートデータをランダムに選択する場合よりも、予測精度の低減を抑制し、符号化効率の低減を抑制することができる。
 なお、上位のサブ階層のアトリビュートデータだけでなく、処理対象のアトリビュートデータと同一のサブ階層内の復号済みのアトリビュートデータも参照可能としてもよい。
 図5は、ある階層のポイント毎のアトリビュートデータ12を復号される順に整列した様子を示している。この場合、あるポイントのアトリビュートデータ12Aが復号対象であるとすると、両矢印12Bに示される範囲にあるポイント毎のアトリビュートデータ12(すなわち、あるポイントのアトリビュートデータ12Aよりも左側に位置するポイント毎のアトリビュートデータ12)が、復号済みであり、参照可能である。このようにすることにより、参照ポイントの候補数が増大するので、予測精度の低減を抑制し、符号化効率の低減を抑制することができる。
 以上においては、サブ階層を生成する際に、アトリビュートデータが等間隔にサンプリングされるように説明したが、これに限らず、非等間隔にサンプリングされるようにしてもよい。つまり、図3に示される表の上から4番目の段の「方法1-1-2」に記載のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を非等間隔にサンプリングすることにより、サブ階層を生成するようにしてもよい。
 例えば、サブ階層内のアトリビュートデータをサンプリングする際の間隔を非等間隔に(つまり間隔を揃えないように)してもよい。例えば、3つおきと2つおきを交互に繰り返す(LodUniformQuant = 2or3)ようにしてもよい。
 また、例えば、サブ階層毎にサンプリング間隔を変えるようにしてもよい。例えば、最下位のサブ階層は、2つおきにサンプリングし(LodUniformQuant = 2)、それより上位のサブ階層は、4つおきにサンプリングする(LodUniformQuant = 4)ようにしてもよい。つまり、サブ階層の深さに応じてサンプリング間隔を変えるようにしてもよい。
 このようにすることにより、例えば解像度に応じてサンプリング間隔を設定することができ、例えば、画質の低減を抑制したり、符号化効率の低減を抑制したりすることができる。
  <重み値>
 なお、このようなサブ階層化をアトリビュートデータの重み値に反映させるようにしてもよい。従来の方法の場合、ポイント毎のアトリビュートデータは、階層(LoD)間の参照関係(例えば、参照の距離、参照数等)に基づいて重み付けが行われる。上述のようにサブ階層化を行う場合、そのサブ階層間の参照関係(例えば、参照の距離、参照数等)も重み値に反映させるようにしてもよい。つまり、図3に示される表の上から5番目の段の「方法1-2」に記載のように、サブ階層(Sub LoD)間の参照関係を用いて重み値を導出するようにしてもよい。
 例えば、非特許文献2に記載のLiftingを用いてアトリビュートデータの階層化(LoD化)が行われた場合、その参照関係に基づいて、アトリビュートデータ毎に重み値が設定される。このように重み値が設定される手法により階層化されたアトリビュートデータを上述のようにサブ階層化する場合も同様にして、各アトリビュートデータに設定された重み値に、サブ階層間の参照関係を反映させる。つまり、各アトリビュートデータの重み値が、図6において矢印で示されるように構築される階層間およびサブ階層間の参照関係を用いて導出されるようにする。このようにすることにより、スケーラブルの復号に非対応な手法により生成された階層間の重み値に、サブ階層間の参照関係を反映させることができる。
 なお、例えば、非特許文献3に記載のスケーラブルの復号に対応した手法を用いてアトリビュートデータの階層化(LoD化)が行われた場合、各アトリビュートデータには、階層(LoD)毎に固定の重み値(階層毎の重み値)が割り当てられる。このように重み値が設定される手法により階層化されたアトリビュートデータを上述のようにサブ階層化する場合は、図3に示される表の上から6番目の段の「方法1-2-1」に記載のように、その階層毎の重み値に、サブ階層間の参照関係を反映させる。つまり、図7のAにおいて矢印で示されるようなサブ階層間の参照関係を用いて、階層毎の重み値を更新することにより、各アトリビュートデータの重み値が導出されるようにする。
 例えば、サブ階層間の参照数に応じて係数αを設定し、図7のBに示されるように、その係数αを階層毎の重み値w1に乗算することにより、階層毎の重み値w1を更新するようにしてもよい。
 また、ある階層の重み値w1を更新する場合、その重み値w1の更新に対応させるように他の階層の重み値w2を更新するようにしてもよい。例えば、図7のCに示されるように、重み値w1に係数αを乗算する場合、(1-α)を重み値w2に乗算するようにしてもよい。
 このようにすることにより、スケーラブルの復号に非対応な手法により生成された階層間の重み値に、サブ階層間の参照関係を反映させることができる。したがって、符号化効率の低減をより抑制することができる。
  <制御情報のシグナリング>
 図3に示される表の上から7番目の段の「方法1-3」に記載のように、このようなアトリビュートデータのサブ階層化に関する制御情報をシグナリングするようにしてもよい。この制御内容はどのようなものであってもよい。
   <sub_lod_enable_flag>
 例えば、アトリビュートデータのサブ階層化が許可されているか否かを示す制御情報をシグナリングする(符号化側から復号側に伝送する)ようにしてもよい。このサブ階層化が許可されているか否かを示す制御情報は、対象となるデータ単位においてサブ階層化を行うことができるか否かを示すフラグ情報(例えば、sub_lod_enable_flag)である。例えば、このsub_lod_enable_flagが真(例えば「1」)の場合、サブ階層化を行うことができることを示す。また、sub_lod_enable_flagが偽(例えば「0」)の場合、サブ階層化を行うことができないことを示す。
 このsub_lod_enable_flagがシグナリングされない(伝送されない)場合、復号側においてsub_lod_enable_flagが偽であるものとみなされるようにしてもよい。逆に、このsub_lod_enable_flagがシグナリングされない(伝送されない)場合、復号側においてsub_lod_enable_flagが真であるものとみなされるようにしてもよい。
 sub_lod_enable_flagが偽の場合、サブ階層化が許可されていないので、そのデータ単位についてのサブ階層化に関するその他の制御情報のシグナリングは省略することができる。したがって符号化効率の低減を抑制することができる。換言するに、復号側において、そのデータ単位についてのサブ階層化に関するその他の制御情報のパースを省略することができる。つまり、復号側においては、sub_lod_enable_flagが真のデータ単位のみ、サブ階層化に関するその他の制御情報のパースを行えば良い。したがって、復号処理の負荷の増大を抑制することができる。
 以上のように、このサブ階層化が許可されているか否かを示す制御情報は、そのデータ単位についてのサブ階層化に関するその他の制御情報のシグナリングの有無を示す制御情報とも言える。また、このサブ階層化が許可されているか否かを示す制御情報は、サブ階層化が禁止されているか否かを示す制御情報とも言える。
 このサブ階層化が許可されているか否かを示す制御情報は、任意のデータ単位を対象とすることができ、任意のデータ単位毎にシグナリングするようにしてもよい。例えば、アトリビュートデータ1つを対象のデータ単位とし、アトリビュートデータ毎にsub_lod_enable_flagをシグナリングするようにしてもよい。また、例えば、複数のsub_lod_enable_flagをアトリビュートデータよりも上位のデータ単位毎(例えばシーケンス毎)にまとめて伝送するようにしてもよい。
   <sub_lod_distance>
 例えば、サブ階層化の際のサンプリングの間隔(またはサンプリング周期)を制御する制御情報をシグナリングするようにしてもよい。このサンプリングの間隔を制御する制御情報は、対象となるデータ単位においてサブ階層化を行う場合に、どういう間隔でサンプリングするかを示す情報(例えば、sub_lod_distance)である。例えば、sub_lod_distance = 2の場合、サンプリング周期が2、すなわち、2つに1つのノードがサンプリングされる(1つおきにサンプリングされる)ことを示す。つまり、sub_lod_distance > 2の場合、そのsub_lod_distanceで示される間隔で等間隔にサンプリングが行われ、サブ階層が生成される。
 なお、sub_lod_distance = 0は、サブ階層化が行われない(サブ階層(Sub LoD))が形成されないことを示す。つまり、sub_lod_distanceは、サブ階層化を行うか否かを示す制御情報とも言える。
 また、このsub_lod_distanceがシグナリングされない(伝送されない)場合、復号側においてsub_lod_distance = 0であるものとみなされるようにしてもよい。
 さらに、サンプリングの間隔は非等間隔であってもよい。例えば、互いに同一のデータ単位に対して、sub_lod_distanceを複数シグナリングし、複数の間隔(周期)を割り当てることができるようにしてもよい。例えば、sub_lod_distanceの値が「2」と「3」に設定され、2→3→2→3のように、それらの間隔が順次採用されるようにして、非等間隔を実現するようにしてもよい。また、サンプリング間隔を関数やテーブルの識別番号等により表すようにしてもよい。
 このサブ階層化の際のサンプリングの間隔を制御する制御情報は、任意のデータ単位を対象とすることができ、任意のデータ単位毎にシグナリングするようにしてもよい。例えば、アトリビュートデータの階層(LoD)を対象のデータ単位とし、アトリビュートデータの1階層毎にsub_lod_distanceをシグナリングするようにしてもよい。
   <sub_lod_mode>
 例えば、サブ階層化の際のサンプリングの方法を示す制御情報(例えば、sub_lod_mode)をシグナリングするようにしてもよい。
 例えば、sub_lod_mode = 0は、全サブ階層においてサンプリングが互いに同一の間隔で等間隔に行われることを示す。つまり、この場合、全サブ階層において1種類の間隔でサンプリングが行われる。
 また、sub_lod_mode = 1は、サンプリングの間隔がパターン1(非等間隔)であることを示す。同様に、sub_lod_mode = 2は、サンプリングの間隔がパターン1とは異なるパターン2(非等間隔)であることを示す。
 サンプリングを非等間隔とすることで、例えばサブ階層(SubLod)の深さに応じてサンプリング間隔を変えることができる。また、例えばサブ階層内においてサンプリング間隔を変えることもできる。つまり、上述のパターン1およびパターン2では、全サブ階層のサンプリング間隔のパターンが示される。パターンの距離の取り方は、ヘッダなどでオーバライドすることができる。
   <その他>
 なお、サブ階層化に関する制御情報は、上述の例に限定されない。また、複数の制御情報を適用してもよい。例えば、sub_lod_distanceとsub_lod_modeの両方を適用してもよい。また、例えば、sub_lod_enable_flagを、sub_lod_distance若しくはsub_lod_mode、またはその両方とともに適用してもよい。
  <逆階層化>
 以上のように階層化・サブ階層化されたアトリビュートデータは、図3に示される表の上から8番目の段の「方法2」に記載のように、サブ階層(Sub LoD)間の参照関係を利用して逆階層化するようにしてもよい。
 また、例えば、図3に示される表の上から9番目の段の「方法2-1」に記載のように、上述の「方法1」の場合と同様にして、サブ階層(Sub LoD)を生成し、その生成したサブ階層間の参照関係を用いて逆階層化するようにしてもよい。
 例えば、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドのアトリビュートデータ(属性情報)を階層化し、その階層間のアトリビュートデータの参照関係を生成し、階層内においてアトリビュートデータをサブ階層化し、そのサブ階層間のアトリビュートデータの参照関係を生成し、生成された階層間のアトリビュートデータの参照関係、および、生成されたサブ階層間のアトリビュートデータの参照関係に基づいて、アトリビュートデータを逆階層化するようにしてもよい。
 例えば、情報処理装置において、3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドのアトリビュートデータ(属性情報)を階層化し、その階層間のアトリビュートデータの参照関係を生成する階層化部と、その階層化部により生成された階層内においてアトリビュートデータをサブ階層化し、そのサブ階層間のアトリビュートデータの参照関係を生成するサブ階層化部と、その階層化部により生成された階層間のアトリビュートデータの参照関係、および、そのサブ階層化部により生成されたサブ階層間のアトリビュートデータの参照関係に基づいて、アトリビュートデータを逆階層化する逆階層化部とを備えるようにしてもよい。
 このようにすることにより、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、符号化効率の低減を抑制することができる。
 そのサブ階層化において、例えば、図3に示される表の上から3番目の段の「方法1-1-1」を適用するようにしてもよい。つまり、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を等間隔にサンプリングすることにより、サブ階層を生成するようにしてもよい。
 また、そのサブ階層化において、例えば、図3に示される表の上から4番目の段の「方法1-1-2」を適用するようにしてもよい。つまり、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を非等間隔にサンプリングすることにより、サブ階層を生成するようにしてもよい。
 また、そのサブ階層化において、例えば、図3に示される表の上から10番目の段の「方法2-2」に記載のように、上述の「方法1-3」のようにシグナリングされたアトリビュートデータのサブ階層化に関する制御情報に基づいてサブ階層(Sub LoD)を生成し、その生成したサブ階層間の参照関係を用いて逆階層化するようにしてもよい。
 例えば、上述したアトリビュートデータのサブ階層化が許可されているか否かを示す制御情報(例えば、sub_lod_enable_flag)に基づいて、アトリビュートデータをサブ階層化するようにしてもよい。
 また、例えば、上述したアトリビュートデータのサンプリングの間隔を示す制御情報(例えば、sub_lod_distance)に基づいて、アトリビュートデータをサブ階層化するようにしてもよい。
 さらに、例えば、上述したアトリビュートデータのサンプリングの方法を示す制御情報(例えば、sub_lod_mode)に基づいて、アトリビュートデータをサブ階層化するようにしてもよい。
 もちろん、これら以外の制御情報に基づいてアトリビュートデータをサブ階層化するようにしてもよい。また、複数の制御情報に基づいてアトリビュートデータをサブ階層化するようにしてもよい。
 以上のように逆階層化を行うことにより、サブ階層化されたアトリビュートデータをより正確に逆階層化することができる。したがって、予測の方向の偏りを抑制することができ、符号化効率の低減を抑制することができる。
 <2.第1の実施の形態>
  <符号化装置>
 次に、<1.Sub LoDの生成>において上述した本技術を適用する装置について説明する。図8は、本技術を適用した情報処理装置の一態様である符号化装置の構成の一例を示すブロック図である。図8に示される符号化装置100は、ポイントクラウド(3Dデータ)を符号化する装置である。符号化装置100は、<1.Sub LoDの生成>において上述した本技術を適用してポイントクラウドを符号化する。
 なお、図8においては、処理部やデータの流れ等の主なものを示しており、図8に示されるものが全てとは限らない。つまり、符号化装置100において、図8においてブロックとして示されていない処理部が存在したり、図8において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図8に示されるように符号化装置100は、位置情報符号化部101、位置情報復号部102、ポイントクラウド生成部103、属性情報符号化部104、およびビットストリーム生成部105を有する。
 位置情報符号化部101は、符号化装置100に入力されたポイントクラウド(3Dデータ)のジオメトリデータ(位置情報)を符号化する。この符号化方法は、スケーラブルな復号に対応した方法であれば任意である。例えば位置情報符号化部101は、ジオメトリデータを階層化してOctreeを生成し、そのOctreeを符号化する。また、例えば、ノイズ抑制(デノイズ)のためのフィルタリングや量子化等の処理が行われるようにしてもよい。位置情報符号化部101は、生成したジオメトリデータの符号化データを位置情報復号部102およびビットストリーム生成部105に供給する。
 位置情報復号部102は、位置情報符号化部101から供給されるジオメトリデータの符号化データを取得し、その符号化データを復号する。この復号方法は、位置情報符号化部101による符号化に対応する方法であれば任意である。例えば、デノイズのためのフィルタリングや逆量子化等の処理が行われるようにしてもよい。位置情報復号部102は、生成したジオメトリデータ(復号結果)をポイントクラウド生成部103に供給する。
 ポイントクラウド生成部103は、符号化装置100に入力されるポイントクラウドのアトリビュートデータ(属性情報)と、位置情報復号部102から供給されるジオメトリデータ(復号結果)を取得する。ポイントクラウド生成部103は、アトリビュートデータをジオメトリデータ(復号結果)に合わせる処理(リカラー処理)を行う。ポイントクラウド生成部103は、ジオメトリデータ(復号結果)に対応させたアトリビュートデータを属性情報符号化部104に供給する。
 属性情報符号化部104は、ポイントクラウド生成部103から供給されるジオメトリデータ(復号結果)およびアトリビュートデータを取得する。属性情報符号化部104は、そのジオメトリデータ(復号結果)を用いて、アトリビュートデータを符号化し、アトリビュートデータの符号化データを生成する。
 その際、属性情報符号化部104は、<1.Sub LoDの生成>において上述した本技術を適用し、アトリビュートデータを符号化する。例えば、属性情報符号化部104は、アトリビュートデータ(属性情報)の階層化において、階層(LoD)内にさらにサブ階層(Sub LoD)を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成する。属性情報符号化部104は、生成したアトリビュートデータの符号化データをビットストリーム生成部105に供給する。
 ビットストリーム生成部105は、位置情報符号化部101から供給されるジオメトリデータの符号化データを取得する。また、ビットストリーム生成部105は、属性情報符号化部104から供給されるアトリビュートデータの符号化データを取得する。ビットストリーム生成部105は、これらの符号化データを含むビットストリームを生成する。ビットストリーム生成部105は、生成したビットストリームを符号化装置100の外部に出力する。
 このような構成とすることにより、符号化装置100は、階層内においてサブ階層を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成し、その参照関係を用いてアトリビュートデータの符号化を行うことができる。これにより、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
 なお、符号化装置100のこれらの処理部(位置情報符号化部101乃至ビットストリーム生成部105)は、それぞれ、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <属性情報符号化部>
 図9は、属性情報符号化部104(図8)の主な構成例を示すブロック図である。なお、図9においては、処理部やデータの流れ等の主なものを示しており、図9に示されるものが全てとは限らない。つまり、属性情報符号化部104において、図9においてブロックとして示されていない処理部が存在したり、図9において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図8に示されるよう属性情報符号化部104は、階層化処理部111、量子化部112、および符号化部113を有する。
 階層化処理部111は、アトリビュートデータの階層化に関する処理を行う。例えば、階層化処理部111は、ポイントクラウド生成部103から供給されるアトリビュートデータやジオメトリデータ(復号結果)を取得する。階層化処理部111は、そのジオメトリデータを用いてアトリビュートデータを階層化する。その際、階層化処理部111は、<1.Sub LoDの生成>において上述した本技術を適用して階層化を行う。例えば、階層化処理部111は、アトリビュートデータ(属性情報)の階層化において、階層(LoD)内にさらにサブ階層(Sub LoD)を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成する。階層化処理部111は、階層化したアトリビュートデータ(差分値)を量子化部112に供給する。
 その際、階層化処理部111は、サブ階層化に関する制御情報も生成することができる。その場合、階層化処理部111は、その生成した制御情報も、アトリビュートデータ(差分値)とともに量子化部112に供給する。
 量子化部112は、階層化処理部111から供給されるアトリビュートデータ(階層化処理部111において制御情報が生成される場合はその制御情報も)を取得する。量子化部112は、そのアトリビュートデータを量子化する。この量子化の方法は任意である。量子化部112は、その量子化されたアトリビュートデータ(および制御情報)を、符号化部113に供給する。
 符号化部113は、量子化部112から供給される、量子化されたアトリビュートデータ(および制御情報)を取得する。符号化部113は、そのアトリビュートデータを符号化し、アトリビュートデータの符号化データを生成する。この符号化方法は任意である。また、サブ階層化に関する制御情報が供給される場合、符号化部113は、生成した符号化データに、その制御情報を含める。換言するに、符号化部113は、サブ階層化に関する制御情報を含むアトリビュートデータの符号化データを生成する。符号化部113は、生成した符号化データをビットストリーム生成部105に供給する。
 以上のように階層化を行うことにより、属性情報符号化部104は、階層内においてサブ階層を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成し、その参照関係を用いてアトリビュートデータの符号化を行うことができる。これにより、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
 なお、これらの処理部(階層化処理部111乃至符号化部113)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <階層化処理部>
 図10は、階層化処理部111(図9)の主な構成例を示すブロック図である。なお、図10においては、処理部やデータの流れ等の主なものを示しており、図10に示されるものが全てとは限らない。つまり、階層化処理部111において、図10においてブロックとして示されていない処理部が存在したり、図10において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図10に示されるよう階層化処理部111は、制御部121、階層化処理部122、Sub LoD生成部123、反転部124、および重み付け部125を有する。
 制御部121は、階層化およびサブ階層化の制御に関する処理を行う。例えば、制御部121は、ポイントクラウド生成部103から供給されるアトリビュートデータやジオメトリデータ(復号結果)を取得する。制御部121は、取得したアトリビュートデータやジオメトリデータ(復号結果)を階層化処理部122に供給する。
 また、制御部121は、階層化処理部122やSub LoD生成部123を制御し、階層化やサブ階層化を実行させる。例えば、制御部121は、<1.Sub LoD>において上述した本技術を適用して階層化やサブ階層化を行わせる。例えば、制御部121は、所望の階層についてサブ階層化を行わせる。つまり、制御部121は、一部の階層についてサブ階層化を行わせたり、全ての階層についてサブ階層を行わせたりすることができる。
 また、制御部121は、そのアトリビュートデータのサブ階層化に関する制御情報を生成することもできる。例えば、制御部121は、<1.Sub LoDの生成>において上述した各種のシンタクス要素(例えば、sub_lod_enable_flag、sub_lod_distance、sub_lod_mode等)を制御情報として生成することができる。制御部121は、このように生成した制御情報を量子化部112に供給し、復号側に伝送させる。
 階層化処理部122は、アトリビュートデータの階層化に関する処理を行う。例えば、階層化処理部122は、制御部121から供給されるアトリビュートデータやジオメトリデータ(復号結果)を取得する。
 階層化処理部122は、制御部121の制御に従って、取得したアトリビュートデータを、取得したジオメトリデータを用いて階層化する。この階層化の手法は任意である。例えば、非特許文献2に記載のLiftingのようなスケーラブルな復号に非対応な手法であってもよいし、非特許文献3に記載のようなスケーラブルの復号に対応した手法であってもよい。階層化処理部122は、階層化されたアトリビュートデータやジオメトリデータをSub LoD生成部123に供給する。
 Sub LoD生成部123は、サブ階層化に関する処理を行う。例えば、Sub LoD生成部123は、階層化処理部122から供給される、階層化されたアトリビュートデータやジオメトリデータを取得する。
 Sub LoD生成部123は、制御部121の制御に従って、アトリビュートデータの階層内にサブ階層を生成する。Sub LoD生成部123は、ジオメトリデータを用いて、このようなサブ階層化を行う。つまり、Sub LoD生成部123は、<1.Sub LoDの生成>において上述した図3に示される表の一番上の段の「方法1」のように、階層(LoD)内におけるアトリビュートデータの参照関係を生成する。
 このようにすることにより、Sub LoD生成部123は、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
 なお、この生成方法は任意である。例えば、Sub LoD生成部123は、図3に示される表の上から2番目の段の「方法1-1」のように、階層内のポイント毎のアトリビュートデータの一部をサンプリング(選択)してサブ階層とする処理を、再帰的に繰り返してもよい。
 また、Sub LoD生成部123は、図3に示される表の上から3番目の段の「方法1-1-1」のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を等間隔にサンプリングすることにより、サブ階層を生成してもよい。
 また、Sub LoD生成部123は、図3に示される表の上から4番目の段の「方法1-1-2」のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を非等間隔にサンプリングすることにより、サブ階層を生成してもよい。
 もちろん、これら以外の方法であってもよい。なお、制御部121によりサブ階層化が許可されない場合、Sub LoD生成部123は、サブ階層化を省略することができる。つまり、Sub LoD生成部123は、制御部121により許可された階層に対してのみサブ階層化を行うことができる。
 Sub LoD生成部123は、このように制御部121の制御に従ってサブ階層化されたアトリビュートデータを反転部124に供給する。
 反転部124は、階層の反転に関する処理を行う。例えば、反転部124は、Sub LoD生成部123から供給されるアトリビュートデータを取得する。このアトリビュートデータは、各階層の情報が、その生成順に階層化されている。
 反転部124は、そのアトリビュートデータの階層を反転させる。例えば、反転部124は、アトリビュートデータの各階層に対して、その生成順と逆順に階層番号(最上位層が0、1階層下がる毎に値が1ずつインクリメントされ、最下位層が最大値となる階層を識別するための番号)を付す。つまり、各階層のデータにこの階層番号が付されることにより、各階層は、最下位層から最上位層に向かう順に生成されたことになる。
 反転部124は、階層を反転させたアトリビュートデータを重み付け部125に供給する。
 重み付け部125は、重み付けに関する処理を行う。例えば、重み付け部125は、反転部124から供給されるアトリビュートデータを取得する。重み付け部125は、取得したアトリビュートデータの重み値を導出する。なお、この重み値の導出方法は任意である。
 例えば、重み付け部125は、<1.Sub LoDの生成>において上述した図3に示される表の上から5番目の段の「方法1-2」のように、サブ階層(Sub LoD)間の参照関係を用いて重み値を導出してもよい。
 また、非特許文献2に記載のLiftingを用いてアトリビュートデータの階層化(LoD化)が行われた場合、重み付け部125は、階層化において各アトリビュートデータに設定された重み値に、サブ階層間のアトリビュートデータの参照関係を反映させてもよい。つまり、重み付け部125は、階層間のアトリビュートデータの参照関係とサブ階層間のアトリビュートデータの参照関係の両方に応じて重み値を導出してもよい。
 また、非特許文献3に記載のスケーラブルの復号に対応した手法を用いてアトリビュートデータの階層化(LoD化)が行われた場合、重み付け部125は、図3に示される表の上から6番目の段の「方法1-2-1」のように、階層化において生成された階層毎の重み値に、サブ階層間のアトリビュートデータの参照関係を反映させてもよい。
 もちろん、これら以外の方法であってもよい。なお、重み付け部125は、この重み付けを省略することもできる。
 重み付け部125は、以上のように導出した重み値とアトリビュートデータの参照関係を用いて各ポイントのアトリビュートデータの予測を行い、予測値を導出する。また、重み付け部125は、各ポイントのアトリビュートデータと、その予測値との差分値を導出する。
 重み付け部125は、導出したアトリビュートデータ(差分値)を量子化部112(図9)に供給する。また、重み付け部125は、導出した重み値を制御情報として量子化部112に供給し、復号側に伝送させるようにしてもよい。
 なお、これらの処理部(制御部121乃至重み付け部125)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <符号化処理の流れ>
 次に、この符号化装置100により実行される処理について説明する。符号化装置100は、符号化処理を実行することによりポイントクラウドのデータを符号化する。この符号化処理の流れの例を、図11のフローチャートを参照して説明する。
 符号化処理が開始されると、符号化装置100の位置情報符号化部101は、ステップS101において、入力されたポイントクラウドのジオメトリデータ(位置情報)を符号化し、ジオメトリデータの符号化データを生成する。
 ステップS102において、位置情報復号部102は、ステップS101において生成されたジオメトリデータの符号化データを復号し、位置情報を生成する。
 ステップS103において、ポイントクラウド生成部103は、入力されたポイントクラウドのアトリビュートデータ(属性情報)と、ステップS102において生成されたジオメトリデータ(復号結果)とを用いて、リカラー処理を行い、アトリビュートデータをジオメトリデータに対応させる。
 ステップS104において、属性情報符号化部104は、属性情報符号化処理を実行することにより、ステップS103においてリカラー処理されたアトリビュートデータを符号化し、アトリビュートデータの符号化データを生成する。その際、属性情報符号化部104は、<1.Sub LoDの生成>において上述した本技術を適用して処理を行う。属性情報符号化処理の詳細については後述する。
 ステップS105において、ビットストリーム生成部105は、ステップS101において生成されたジオメトリデータの符号化データと、ステップS104において生成されたアトリビュートデータの符号化データとを含むビットストリームを生成し、出力する。
 ステップS105の処理が終了すると符号化処理が終了する。
 このように各ステップの処理を行うことにより、符号化装置100は、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
  <属性情報符号化処理の流れ>
 次に、図11のステップS104において実行される属性情報符号化処理の流れの例を、図12のフローチャートを参照して説明する。
 属性情報符号化処理が開始されると、属性情報符号化部104の階層化処理部111は、ステップS111において、階層化処理を実行することによりアトリビュートデータを階層化し、各ポイントのアトリビュートデータの差分値を導出する。その際、階層化処理部111は、<1.Sub LoDの生成>において上述した本技術を適用して階層化を行う。階層化処理の詳細については後述する。
 ステップS112において、量子化部112は、ステップS111において導出された各差分値を量子化する。
 ステップS113において、符号化部113は、ステップS112において量子化された差分値を符号化し、アトリビュートデータの符号化データを生成する。ステップS111の階層化処理において制御情報が生成される場合、符号化部113は、その制御情報も含むアトリビュートデータの符号化データを生成する。
 ステップS113の処理が終了すると属性情報符号化処理が終了し、処理は図11に戻る。
 このように各ステップの処理を行うことにより、属性情報符号化部104は、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
  <階層化処理の流れ>
 次に、図13のフローチャートを参照して、図12のステップS111において実行される階層化処理の流れの例を説明する。
 階層化処理が開始されると、階層化処理部111の制御部121は、ステップS121において、全てのポイントのアトリビュートデータを処理対象とし、最初の階層(LoD)を生成するためにステップS122乃至ステップS126の各処理が行われるようにする。
 なお、この最初の階層(1番目に生成される階層)は、後述するステップS127の処理により、階層化されたアトリビュートデータにおける最下位層となる。つまり、制御部121は、処理対象LoDを最下位層に設定するとも言える。
 ステップS122において、階層化処理部122は、処理対象のポイントの中から参照ポイントを設定する。参照ポイントは、予測ポイントのアトリビュートデータの予測の際にアトリビュートデータを参照されるポイントである。予測ポイントは、この階層においてアトリビュートデータの予測が行われるポイントである。つまり、階層化処理部122は、処理対象の各ポイントを予測ポイントと参照ポイントのいずれかに設定するとも言える。
 ステップS123において、制御部121は、この階層において、サブ階層(Sub LoD)を生成するか否かを判定する。制御部121は、例えば、ユーザやアプリケーションによる設定等、任意の情報に基づいて、この階層をサブ階層化するか否かを判定する。サブ階層化を行うと判定された場合、処理はステップS124に進む。
 ステップS124において、Sub LoD生成部123は、ジオメトリデータを用いて、処理対象の階層内にサブ階層を生成する。つまり、Sub LoD生成部123は、<1.Sub LoDの生成>において上述した図3に示される表の一番上の段の「方法1」のように、階層(LoD)内におけるアトリビュートデータの参照関係を生成する。
 なお、この生成方法は任意である。例えば、Sub LoD生成部123は、図3に示される表の上から2番目の段の「方法1-1」を適用してもよいし、同表の上から3番目の段の「方法1-1-1」を適用してもよいし、同表の上から4番目の段の「方法1-1-2」を適用してもよい。もちろん、Sub LoD生成部123は、その他の方法を適用してもよい。
 サブ階層が生成されると、処理はステップS125に進む。
 また、ステップS123において、処理対象の階層についてサブ階層化を行わないと判定された場合、ステップS124の処理はスキップされ、処理はステップS125に進む。
 ステップS125において、制御部121は、ステップS122において選択された参照ポイントのアトリビュートデータを処理対象とし、次の階層(LoD)を生成するためにステップS122乃至ステップS126の各処理が行われるようにする。
 なお、新たに処理対象にされた次の階層は、後述するステップS127の処理により、階層化されたアトリビュートデータにおいて、その直前の処理対象であった階層の1つ上位の階層となる。つまり、制御部121は、処理対象LoDを1つ上位の階層に更新するとも言える。
 ステップS126において、制御部121は、全てのポイントを処理したか否かを判定する。上述の処理が繰り返されることにより、全てのポイントが予測ポイントに設定される(最後の1ポイントは予測を行わない場合もあり得る)。つまり、制御部121は、全階層が生成されたか否かを判定する。まだ予測ポイントに選択されていないポイントが存在し、階層化が完了していないと判定された場合、処理はステップS122に戻る。
 つまり、ステップS125において新たな処理対象とされた次の階層について、ステップS122乃至ステップS126の各処理が実行される。つまり、前回参照ポイントに設定されたポイントが予測ポイントと参照ポイントのいずれかに設定される。このようにすることにより、ステップS122乃至ステップS126の各処理が、参照ポイントに設定されたポイントに対して再帰的に繰り返され、各階層および各サブ階層が生成され、階層間およびサブ階層間の参照関係が生成される。
 ステップS122乃至ステップS126の各処理が繰り返し実行されることにより、全階層(および全サブ階層)が生成され、ステップS126において、全てのポイントが処理されたと判定された場合、処理はステップS127に進む。
 ステップS127において、反転部124は、生成されたアトリビュートデータの階層を反転し、各階層に、生成順と逆向きに階層番号を付す。
 ステップS128において、重み付け部125は、各ポイントのアトリビュートデータについて重み値を導出する。その際、重み付け部125は、サブ階層間の参照関係を反映した重み値を導出する。
 また、重み付け部125は、導出した重み値とアトリビュートデータの参照関係を用いて、各ポイントについて、アトリビュートデータの予測を行い、そのアトリビュートデータと予測値との差分値を導出する。
 ステップS129において、制御部121は、アトリビュートデータのサブ階層化に関する制御情報を生成し、それを復号側に伝送させる。
 ステップS129の処理が終了すると階層化処理が終了し、処理は図12に戻る。
 このように各ステップの処理を行うことにより、階層化処理部111は、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができる。したがって、符号化装置100は、符号化効率の低減を抑制することができる。
 <3.第2の実施の形態>
  <復号装置>
 次に、<1.Sub LoDの生成>において上述した本技術を適用する装置の他の例について説明する。図14は、本技術を適用した情報処理装置の一態様である復号装置の構成の一例を示すブロック図である。図14に示される復号装置200は、ポイントクラウド(3Dデータ)の符号化データを復号する装置である。復号装置200は、<1.Sub LoDの生成>において上述した本技術を適用してポイントクラウドの符号化データを復号する。
 なお、図14においては、処理部やデータの流れ等の主なものを示しており、図14に示されるものが全てとは限らない。つまり、復号装置200において、図14においてブロックとして示されていない処理部が存在したり、図14において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図14に示されるように復号装置200は、復号対象LoD深度設定部201、符号化データ抽出部202、位置情報復号部203、属性情報復号部204、およびポイントクラウド生成部205を有する。
 復号対象LoD深度設定部201は、復号対象とする階層(LoD)の深度の設定に関する処理を行う。例えば、復号対象LoD深度設定部201は、符号化データ抽出部202に保持されているポイントクラウドの符号化データについて、どの階層まで復号するかを設定する。この復号対象とする階層深度設定の方法は任意である。
 例えば、復号対象LoD深度設定部201が、ユーザやアプリケーション等の外部からの階層深度に関する指示に基づいて設定するようにしてもよい。また、復号対象LoD深度設定部201が、出力画像等、任意の情報に基づいて復号対象とする階層深度を求め、設定するようにしてもよい。
 例えば、復号対象LoD深度設定部201が、ポイントクラウドから生成する2次元画像の視点位置、方向、画角、視点の動き(移動、パン、チルト、ズーム)等に基づいて、復号対象とする階層深度を設定するようにしてもよい。
 なお、この復号対象とする階層深度設定のデータ単位は任意である。例えば、復号対象LoD深度設定部201は、ポイントクラウド全体について階層深度を設定することもできるし、オブジェクト毎に階層深度を設定することもできるし、オブジェクト内の部分領域毎に階層深度を設定することもできる。もちろん、これらの例以外のデータ単位で階層深度を設定することもできる。
 符号化データ抽出部202は、復号装置200に入力されるビットストリームを取得し、保持する。符号化データ抽出部202は、最上位から復号対象LoD深度設定部201により指定された階層までのジオメトリデータ(位置情報)およびアトリビュートデータ(属性情報)の符号化データを、その保持しているビットストリームから抽出する。符号化データ抽出部202は、抽出したジオメトリデータの符号化データを位置情報復号部203に供給する。符号化データ抽出部202は、抽出したアトリビュートデータの符号化データを属性情報復号部204に供給する。
 位置情報復号部203は、符号化データ抽出部202から供給されるジオメトリデータの符号化データを取得する。位置情報復号部203は、そのジオメトリデータの符号化データを復号し、ジオメトリデータ(復号結果)を生成する。この復号方法は、符号化装置100の位置情報復号部102の場合と同様の方法であれば任意である。位置情報復号部203は、生成したジオメトリデータ(復号結果)を、属性情報復号部204およびポイントクラウド生成部205に供給する。
 属性情報復号部204は、符号化データ抽出部202から供給されるアトリビュートデータの符号化データを取得する。属性情報復号部204は、位置情報復号部203から供給されるジオメトリデータ(復号結果)を取得する。属性情報復号部204は、その位置情報(復号結果)を用いて、<1.Sub LoDの生成>において上述した本技術を適用した方法によりアトリビュートデータの符号化データを復号し、アトリビュートデータ(復号結果)を生成する。属性情報復号部204は、生成したアトリビュートデータ(復号結果)をポイントクラウド生成部205に供給する。
 ポイントクラウド生成部205は、位置情報復号部203から供給されるジオメトリデータ(復号結果)を取得する。ポイントクラウド生成部205は、属性情報復号部204から供給されるアトリビュートデータ(復号結果)を取得する。ポイントクラウド生成部205は、そのジオメトリデータ(復号結果)およびアトリビュートデータ(復号結果)を用いて、ポイントクラウド(復号結果)を生成する。ポイントクラウド生成部205は、生成したポイントクラウド(復号結果)のデータを復号装置200の外部に出力する。
 このような構成とすることにより、復号装置200は、複数の階層化手法を適用して逆階層化を行うことができるので、複数の階層化手法を適用して階層化されたアトリビュートデータを正しく逆階層化することができる。つまり、そのような複数の階層化手法が適用されて符号化された符号化データを正しく復号することができる。これにより、符号化効率の低減を抑制することができる。
 なお、これらの処理部(復号対象LoD深度設定部201乃至ポイントクラウド生成部205)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <属性情報復号部>
 図15は、属性情報復号部204(図14)の主な構成例を示すブロック図である。なお、図15においては、処理部やデータの流れ等の主なものを示しており、図15に示されるものが全てとは限らない。つまり、属性情報復号部204において、図15においてブロックとして示されていない処理部が存在したり、図15において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図15に示されるよう属性情報復号部204は、復号部211、逆量子化部212、および逆階層化処理部213を有する。
 復号部211は、アトリビュートデータの符号化データの復号に関する処理を行う。例えば、復号部211は、属性情報復号部204に供給されるアトリビュートデータの符号化データを取得する。
 復号部211は、そのアトリビュートデータの符号化データを復号し、アトリビュートデータ(復号結果)を生成する。この復号方法は、符号化装置100の符号化部113(図9)による符号化方法に対応する方法であれば任意である。また、生成したアトリビュートデータ(復号結果)は、符号化前のアトリビュートデータに対応し、第1の実施の形態において説明したように、アトリビュートデータとその予測値との差分値であり、量子化されている。復号部211は、生成したアトリビュートデータ(復号結果)を逆量子化部212に供給する。
 なお、アトリビュートデータの符号化データに重み値に関する制御情報やアトリビュートデータの階層化に関する制御情報が含まれている場合、復号部211は、その制御情報も逆量子化部212に供給する。
 逆量子化部212は、アトリビュートデータの逆量子化に関する処理を行う。例えば、逆量子化部212は、復号部211から供給されるアトリビュートデータ(復号結果)を取得する。復号部211から制御情報が供給される場合、逆量子化部212は、その制御情報も取得する。
 逆量子化部212は、そのアトリビュートデータ(復号結果)を逆量子化する。逆量子化部212は、符号化装置100の量子化部112(図9)による量子化に対応する方法でこの逆量子化を行う。逆量子化部212は、逆量子化したアトリビュートデータを逆階層化処理部213に供給する。また、復号部211から制御情報を取得した場合、逆量子化部212は、その制御情報も逆階層化処理部213に供給する。
 逆階層化処理部213は、逆量子化部212から供給される、逆量子化されたアトリビュートデータを取得する。上述のようにこのアトリビュートデータは差分値である。また、逆階層化処理部213は、位置情報復号部203から供給されるジオメトリデータ(復号結果)を取得する。逆階層化処理部213は、そのジオメトリデータを用いて、取得したアトリビュートデータ(差分値)に対して逆階層化を行う。この逆階層化は、符号化装置100の階層化処理部111(図9)による階層化の逆処理である。
 その際、逆階層化処理部213は、<1.Sub LoDの生成>において上述した本技術を適用して逆階層化を行う。例えば、逆階層化処理部213は、アトリビュートデータの階層内においてサブ階層(Sub LoD)を生成し、そのサブ階層間のアトリビュートデータの参照関係を生成し、その参照関係を用いてアトリビュートデータの予測を行い、逆階層化を行う。逆階層化処理部213は、逆階層化したアトリビュートデータを復号結果としてポイントクラウド生成部205(図14)に供給する。
 以上のように逆階層化を行うことにより、属性情報復号部204は、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、属性情報復号部204は、符号化効率の低減を抑制することができる。
 なお、これらの処理部(復号部211乃至逆階層化処理部213)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <逆階層化処理部>
 図16は、逆階層化処理部213(図15)の主な構成例を示すブロック図である。なお、図16においては、処理部やデータの流れ等の主なものを示しており、図16に示されるものが全てとは限らない。つまり、逆階層化処理部213において、図16においてブロックとして示されていない処理部が存在したり、図16において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
 図16に示されるよう逆階層化処理部213は、制御部221、階層化処理部222、Sub LoD生成部223、反転部224、および逆階層化処理部225を有する。
 制御部221は、階層化の制御に関する処理を行う。例えば、制御部221は、逆量子化部212(図15)から供給される、逆量子化されたアトリビュートデータを取得する。また、制御部221は、位置情報復号部203から供給されるジオメトリデータ(復号結果)も取得する。制御部221は、取得したアトリビュートデータやジオメトリデータを階層化処理部222に供給する。さらに、逆量子化部212から制御情報が供給される場合、制御部221は、その制御情報も取得し、階層化処理部222に供給する。
 また、制御部221は、階層化処理部222やSub LoD生成部223を制御し、アトリビュートデータについて、階層化やサブ階層化を実行させ、符号化の際に生成された階層やサブ階層と同様の構造の階層やサブ階層を生成させる。例えば、制御部221は、<1.Sub LoDの生成>において上述した本技術を適用して階層化やサブ階層化を行わせる。例えば、制御部221は、所望の階層についてサブ階層化を行わせる。つまり、制御部221は、一部の階層についてサブ階層化を行わせたり、全ての階層についてサブ階層を行わせたりすることができる。
 例えば、制御部221は、図3に示される表の上から10番目の段の「方法2-2」のように、アトリビュートデータのサブ階層化に関する制御情報に基づいて、サブ階層化を行わせるようにしてもよい。
 例えば、制御部221が、アトリビュートデータのサブ階層化が許可されているか否かを示す制御情報(例えば、sub_lod_enable_flag)に基づいて、アトリビュートデータのサブ階層化を行わせるようにしてもよい。
 また、制御部221が、アトリビュートデータのサンプリングの間隔を示す制御情報(例えば、sub_lod_distance)に基づいて、アトリビュートデータのサブ階層化(サンプリング)を行わせるようにしてもよい。
 さらに、制御部221が、アトリビュートデータのサンプリングの方法を示す制御情報(例えば、sub_lod_mode)に基づいて、アトリビュートデータのサブ階層化(サンプリング)を行わせるようにしてもよい。
 このような符号化側から伝送された制御情報を用いることにより、制御部221は、より容易に符号化側と同様のサブ階層化を行わせることができる。
 階層化処理部222は、アトリビュートデータの階層化に関する処理を行う。例えば、階層化処理部222は、制御部221から供給されるアトリビュートデータやジオメトリデータ(復号結果)を取得する。
 階層化処理部222は、制御部221の制御に従って、取得したアトリビュートデータを、取得したジオメトリデータを用いて階層化する。この階層化の手法は、階層化処理部122による階層化と同様のものであればよい。つまり、階層化処理部222は、アトリビュートデータを、階層化処理部122が生成したのと同様の構造に階層化する。換言するに、階層化処理部122が生成したアトリビュートデータの階層構造が再現される。階層化処理部222は、階層化されたアトリビュートデータやジオメトリデータをSub LoD生成部223に供給する。
 Sub LoD生成部223は、サブ階層化に関する処理を行う。例えば、Sub LoD生成部223は、階層化処理部222から供給される、階層化されたアトリビュートデータやジオメトリデータを取得する。
 Sub LoD生成部223は、制御部221の制御に従って、アトリビュートデータの階層内にサブ階層(Sub LoD)を生成する。Sub LoD生成部223は、ジオメトリデータを用いて、このようなサブ階層化を行う。
 つまり、Sub LoD生成部223は、<1.Sub LoDの生成>において上述した図3に示される表の上から9番目の段の「方法2-1」のように、階層(LoD)内におけるアトリビュートデータのサブ階層(Sub LoD)を生成し、そのサブ階層間の参照関係を生成する。
 このようにすることにより、Sub LoD生成部223は、予測の方向の偏りを抑制するように階層内のアトリビュートデータの参照関係を生成することができ、符号化効率の低減を抑制することができる。
 Sub LoD生成部223は、Sub LoD生成部123によるサブ階層化と同様の手法により、このサブ階層化を行う。つまり、Sub LoD生成部223は、Sub LoD生成部123が生成したのと同様の構造のサブ階層を生成する。換言するに、Sub LoD生成部123が生成したアトリビュートデータのサブ階層の構造が再現される。
 例えば、Sub LoD生成部223は、図3に示される表の上から2番目の段の「方法1-1」のように、階層内のポイント毎のアトリビュートデータの一部をサンプリング(選択)してサブ階層とする処理を、再帰的に繰り返してもよい。
 また、Sub LoD生成部223は、図3に示される表の上から3番目の段の「方法1-1-1」のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を等間隔にサンプリングすることにより、サブ階層を生成してもよい。
 また、Sub LoD生成部223は、図3に示される表の上から4番目の段の「方法1-1-2」のように、処理対象階層のアトリビュートデータをモートン順序に整列し、その内の一部を非等間隔にサンプリングすることにより、サブ階層を生成してもよい。
 もちろん、これら以外の方法であってもよい。なお、制御部221によりサブ階層化が許可されない場合、Sub LoD生成部223は、サブ階層化を省略することができる。つまり、Sub LoD生成部223は、制御部221により許可された階層に対してのみサブ階層化を行うことができる。
 Sub LoD生成部223は、このように制御部221の制御に従ってサブ階層化されたアトリビュートデータを反転部224に供給する。
 反転部224は、階層の反転に関する処理を行う。例えば、反転部224は、Sub LoD生成部223から供給されるアトリビュートデータを取得する。
 反転部224は、反転部124の場合と同様に、そのアトリビュートデータの階層を反転させる。例えば、反転部224は、アトリビュートデータの各階層に対して、その生成順と逆順に階層番号(最上位層が0、1階層下がる毎に値が1ずつインクリメントされ、最下位層が最大値となる階層を識別するための番号)を付す。
 反転部224は、階層を反転させたアトリビュートデータを逆階層化処理部225に供給する。
 逆階層化処理部225は、逆階層化に関する処理を行う。例えば、逆階層化処理部225は、反転部224から供給されるアトリビュートデータを取得する。このアトリビュートデータは、アトリビュートデータとその予測値との差分値により構成され、階層化処理部222により生成(再現)された階層構造と、Sub LoD生成部223により生成(再現)されたサブ階層の構造とを有する。逆階層化処理部225は、この取得したアトリビュートデータを逆階層化し、各ポイントのアトリビュートデータを生成(復元)する。
 つまり、逆階層化処理部225は、各ポイントのアトリビュートデータの予測を行い、導出した予測値を用いて差分値から各ポイントのアトリビュートデータを導出する(復元する)。その際、逆階層化処理部225は、図3に示される表の上から8番目の段の「方法2」のように、上述のように再現された階層間やサブ階層間の参照関係を用いてアトリビュートデータの予測を行う(アトリビュートデータの予測値を導出する)。
 例えば、逆階層化処理部225は、最上位階層から最下位層に向かう順に階層毎に(階層内においては最上位のサブ階層から最下位のサブ階層に向かう順にサブ階層毎に)、各ポイントのアトリビュートデータの予測値を導出する。
 そして、逆階層化処理部225は、導出した予測値をそのポイントに対応する差分値に加算することにより、そのポイントのアトリビュートデータを導出する。このようにして逆階層化処理部225は、各ポイントのアトリビュートデータを生成(復元)する。
 逆階層化処理部225は、以上のような逆階層化により生成(復元)したアトリビュートデータ(復号結果)を、ポイントクラウド生成部205(図14)に供給する。
 以上のように逆階層化を行うことにより、逆階層化処理部225は、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、復号装置200は、符号化効率の低減を抑制することができる。
 なお、これらの処理部(制御部221乃至逆階層化処理部225)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
  <復号処理の流れ>
 次に、この復号装置200により実行される処理について説明する。復号装置200は、復号処理を実行することによりポイントクラウドの符号化データを復号する。この復号処理の流れの例を、図17のフローチャートを参照して説明する。
 復号処理が開始されると、復号装置200の復号対象LoD深度設定部201は、ステップS201において、復号するLoD深度(つまり復号対象とする階層の範囲)を設定する。
 ステップS202において、符号化データ抽出部202は、ビットストリームを取得して保持し、最上位層からステップS201において設定されLoD深度の階層までのジオメトリデータ(位置情報)およびアトリビュートデータ(属性情報)の符号化データを抽出する。抽出されるジオメトリデータの階層とアトリビュートデータの階層(階層数)は、互いに一致していてもよいし、一致していなくてもよい。
 ステップS203において、位置情報復号部203は、ステップS202において抽出されたジオメトリデータの符号化データを復号し、ジオメトリデータ(復号結果)を生成する。
 ステップS204において、属性情報復号部204は、ステップS202において抽出されたアトリビュートデータの符号化データを復号し、アトリビュートデータ(復号結果)を生成する。その際、属性情報復号部204は、<1.Sub LoDの生成>において上述した本技術を適用して処理を行う。属性情報復号処理の詳細については後述する。
 ステップS205において、ポイントクラウド生成部205は、ステップS203において生成されたジオメトリデータ(復号結果)と、ステップS204において生成されたアトリビュートデータ(復号結果)とを用いてポイントクラウドデータ(復号結果)を生成し、出力する。
 ステップS205の処理が終了すると、復号処理が終了する。
 このように各ステップの処理を行うことにより、復号装置200は、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、復号装置200は、符号化効率の低減を抑制することができる。
  <属性情報復号処理の流れ>
 次に、図17のステップS204において実行される属性情報復号処理の流れの例を、図18のフローチャートを参照して説明する。
 属性情報復号処理が開始されると、属性情報復号部204の復号部211は、ステップS211において、アトリビュートデータの符号化データを復号し、アトリビュートデータ(復号結果)を生成する。このアトリビュートデータ(復号結果)は上述のように量子化されている。
 ステップS212において、逆量子化部212は、逆量子化処理を実行することにより、ステップS211において生成されたアトリビュートデータ(復号結果)を逆量子化する。この逆量子化されたアトリビュートデータは差分値である。
 ステップS213において、逆階層化処理部213は、逆階層化処理を実行することにより、ステップS212において逆量子化されたアトリビュートデータを逆階層化し、各ポイントのアトリビュートデータを導出する。その際、逆階層化処理部213は、<1.Sub LoDの生成>において上述した本技術を適用して逆階層化を行う。逆階層化処理の詳細については後述する。
 ステップS213の処理が終了すると属性情報復号処理が終了し、処理は図17に戻る。
 このように各ステップの処理を行うことにより、属性情報復号部204は、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、復号装置200は、符号化効率の低減を抑制することができる。
  <逆階層化処理の流れ>
 次に、図18のステップS213において実行される逆階層化処理の流れの例を、図19のフローチャートを参照して説明する。
 逆階層化処理が開始されると、逆階層化処理部213の制御部221は、ステップS221において、ステップS121(図13)の場合と同様に、全てのポイントのアトリビュートデータ(差分値)を処理対象とし、最初の階層(LoD)を生成するためにステップS222乃至ステップS226の各処理が行われるようにする。
 なお、この最初の階層(1番目に生成される階層)は、後述するステップS227の処理により、階層化されたアトリビュートデータにおける最下位層となる。つまり、制御部221は、処理対象LoDを最下位層に設定するとも言える。
 ステップS222において、階層化処理部222は、ステップS122(図13)の場合と同様に、処理対象のポイントの中から参照ポイントを設定する。つまり、階層化処理部222は、処理対象の各ポイントを予測ポイントと参照ポイントのいずれかに設定するとも言える。
 ステップS223において、制御部221は、ステップS123(図13)の場合と同様に、この階層においてサブ階層(Sub LoD)を生成するか否かを判定する。制御部221は、任意の情報等に基づいて、この判定を行うことができる。例えば、制御部221は、符号化側から伝送された制御情報等に基づいて、この階層をサブ階層化するか否かを判定する。サブ階層化を行うと判定された場合、処理はステップS224に進む。
 ステップS224において、Sub LoD生成部223は、ステップS124(図13)の場合と同様に、ジオメトリデータを用いて、処理対象の階層内にサブ階層を生成する。つまり、Sub LoD生成部223は、<1.Sub LoDの生成>において上述した図3に示される表の上から9番目の段の「方法2-1」のように、階層(LoD)内におけるアトリビュートデータのサブ階層(Sub LoD)を生成し、そのサブ階層間の参照関係を生成する。
 つまり、Sub LoD生成部223は、このステップS224において、ステップS124において行われたサブ階層化と同様の手法により、このサブ階層化を行う。つまり、Sub LoD生成部223は、ステップS124において生成されたものと同様の構造のサブ階層を生成する。換言するに、ステップS124において生成されたアトリビュートデータのサブ階層の構造が再現される。
 例えば、Sub LoD生成部223は、図3に示される表の上から2番目の段の「方法1-1」を適用してもよいし、同表の上から3番目の段の「方法1-1-1」を適用してもよいし、同表の上から4番目の段の「方法1-1-2」を適用してもよい。もちろん、Sub LoD生成部223は、その他の方法を適用してもよい。
 サブ階層が生成されると、処理はステップS225に進む。
 また、ステップS223において、処理対象の階層についてサブ階層化を行わないと判定された場合、ステップS224の処理はスキップされ、処理はステップS225に進む。
 ステップS225において、制御部221は、ステップS125(図13)の場合と同様に、ステップS222において選択された参照ポイントのアトリビュートデータを処理対象とし、次の階層(LoD)を生成するためにステップS222乃至ステップS226の各処理が行われるようにする。
 なお、新たに処理対象にされた次の階層は、後述するステップS227の処理により、階層化されたアトリビュートデータにおいて、その直前の処理対象であった階層の1つ上位の階層となる。つまり、制御部221は、処理対象LoDを1つ上位の階層に更新するとも言える。
 ステップS226において、制御部221は、ステップS126(図13)の場合と同様に、全てのポイントを処理したか否かを判定する。上述の処理が繰り返されることにより、全てのポイントが予測ポイントに設定される(最後の1ポイントは予測を行わない場合もあり得る)。つまり、制御部221は、全階層が生成されたか否かを判定する。まだ予測ポイントに選択されていないポイントが存在し、階層化が完了していないと判定された場合、処理はステップS222に戻る。
 つまり、ステップS225において新たな処理対象とされた次の階層について、ステップS222乃至ステップS226の各処理が実行される。つまり、前回参照ポイントに設定されたポイントが予測ポイントと参照ポイントのいずれかに設定される。このようにすることにより、ステップS222乃至ステップS226の各処理が、参照ポイントに設定されたポイントに対して再帰的に繰り返され、各階層および各サブ階層が生成され、階層間およびサブ階層間の参照関係が生成(再現)される。
 ステップS222乃至ステップS226の各処理が繰り返し実行されることにより、全階層(および全サブ階層)が生成(再現)され、ステップS226において、全てのポイントが処理されたと判定された場合、処理はステップS227に進む。
 ステップS227において、反転部224は、ステップS127(図13)の場合と同様に、生成されたアトリビュートデータの階層を反転し、各階層に、生成順と逆向きに階層番号を付す。これにより、アトリビュートデータとその予測値との差分値により構成され、ステップS222において生成(再現)された階層構造と、ステップS224において生成(再現)されたサブ階層の構造とを有するアトリビュートデータが生成(再現)される。
 ステップS228において、逆階層化処理部225は、この生成されたアトリビュートデータを逆階層化し、各ポイントのアトリビュートデータを生成(復元)する。
 つまり、逆階層化処理部225は、各ポイントのアトリビュートデータの予測を行い、導出した予測値を用いて差分値から各ポイントのアトリビュートデータを導出する(復元する)。その際、逆階層化処理部225は、図3に示される表の上から8番目の段の「方法2」のように、上述のように再現された階層間やサブ階層間の参照関係を用いてアトリビュートデータの予測を行う(アトリビュートデータの予測値を導出する)。
 例えば、逆階層化処理部225は、最上位階層から最下位層に向かう順に階層毎に(階層内においては最上位のサブ階層から最下位のサブ階層に向かう順にサブ階層毎に)、各ポイントのアトリビュートデータの予測値を導出する。
 そして、逆階層化処理部225は、導出した予測値をそのポイントに対応する差分値に加算することにより、そのポイントのアトリビュートデータを導出する。このようにして逆階層化処理部225は、各ポイントのアトリビュートデータを生成(復元)する。
 全てのポイントのアトリビュートデータを生成(復元)し、逆階層化が完了すると、逆階層化処理が終了し、処理は、図18に戻る。
 このように各ステップの処理を行うことにより、逆階層化処理部213は、上述の「方法1」等を適用して階層化・サブ階層化されたアトリビュートデータを正しく逆階層化することができる。したがって、復号装置200は、符号化効率の低減を抑制することができる。
 <4.付記>
  <階層化・逆階層化方法>
 以上においては、属性情報の階層化・逆階層化方法としてLiftingを例に説明したが、本技術は、属性情報を階層化する任意の技術に適用することができる。つまり、属性情報の階層化・逆階層化の方法は、Lifting以外であってもよい。
  <コンピュータ>
 上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。
 図20は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
 図20に示されるコンピュータ900において、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903は、バス904を介して相互に接続されている。
 バス904にはまた、入出力インタフェース910も接続されている。入出力インタフェース910には、入力部911、出力部912、記憶部913、通信部914、およびドライブ915が接続されている。
 入力部911は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部912は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部913は、例えば、ハードディスク、RAMディスク、不揮発性のメモリなどよりなる。通信部914は、例えば、ネットワークインタフェースよりなる。ドライブ915は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア921を駆動する。
 以上のように構成されるコンピュータでは、CPU901が、例えば、記憶部913に記憶されているプログラムを、入出力インタフェース910およびバス904を介して、RAM903にロードして実行することにより、上述した一連の処理が行われる。RAM903にはまた、CPU901が各種の処理を実行する上において必要なデータなども適宜記憶される。
 コンピュータが実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア921に記録して適用することができる。その場合、プログラムは、リムーバブルメディア921をドライブ915に装着することにより、入出力インタフェース910を介して、記憶部913にインストールすることができる。
 また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部914で受信し、記憶部913にインストールすることができる。
 その他、このプログラムは、ROM902や記憶部913に、あらかじめインストールしておくこともできる。
  <本技術の適用対象>
 以上においては、ポイントクラウドデータの符号化・復号に本技術を適用する場合について説明したが、本技術は、これらの例に限らず、任意の規格の3Dデータの符号化・復号に対して適用することができる。つまり、上述した本技術と矛盾しない限り、符号化・復号方式等の各種処理、並びに、3Dデータやメタデータ等の各種データの仕様は任意である。また、本技術と矛盾しない限り、上述した一部の処理や仕様を省略してもよい。
 また、以上においては、本技術の適用例として符号化装置100および復号装置200について説明したが、本技術は、任意の構成に適用することができる。
 例えば、本技術は、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、およびセルラー通信による端末への配信などにおける送信機や受信機(例えばテレビジョン受像機や携帯電話機)、または、光ディスク、磁気ディスクおよびフラッシュメモリなどの媒体に画像を記録したり、これら記憶媒体から画像を再生したりする装置(例えばハードディスクレコーダやカメラ)などの、様々な電子機器に適用され得る。
 また、例えば、本技術は、システムLSI(Large Scale Integration)等としてのプロセッサ(例えばビデオプロセッサ)、複数のプロセッサ等を用いるモジュール(例えばビデオモジュール)、複数のモジュール等を用いるユニット(例えばビデオユニット)、または、ユニットにさらにその他の機能を付加したセット(例えばビデオセット)等、装置の一部の構成として実施することもできる。
 また、例えば、本技術は、複数の装置により構成されるネットワークシステムにも適用することもできる。例えば、本技術を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングとして実施するようにしてもよい。例えば、コンピュータ、AV(Audio Visual)機器、携帯型情報処理端末、IoT(Internet of Things)デバイス等の任意の端末に対して、画像(動画像)に関するサービスを提供するクラウドサービスにおいて本技術を実施するようにしてもよい。
 なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、および、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
  <本技術を適用可能な分野・用途>
 本技術を適用したシステム、装置、処理部等は、例えば、交通、医療、防犯、農業、畜産業、鉱業、美容、工場、家電、気象、自然監視等、任意の分野に利用することができる。また、その用途も任意である。
  <その他>
 なお、本明細書において「フラグ」とは、複数の状態を識別するための情報であり、真(1)または偽(0)の2状態を識別する際に用いる情報だけでなく、3以上の状態を識別することが可能な情報も含まれる。したがって、この「フラグ」が取り得る値は、例えば1/0の2値であってもよいし、3値以上であってもよい。すなわち、この「フラグ」を構成するbit数は任意であり、1bitでも複数bitでもよい。また、識別情報(フラグも含む)は、その識別情報をビットストリームに含める形だけでなく、ある基準となる情報に対する識別情報の差分情報をビットストリームに含める形も想定されるため、本明細書においては、「フラグ」や「識別情報」は、その情報だけではなく、基準となる情報に対する差分情報も包含する。
 また、符号化データ(ビットストリーム)に関する各種情報(メタデータ等)は、符号化データに関連付けられていれば、どのような形態で伝送または記録されるようにしてもよい。ここで、「関連付ける」という用語は、例えば、一方のデータを処理する際に他方のデータを利用し得る(リンクさせ得る)ようにすることを意味する。つまり、互いに関連付けられたデータは、1つのデータとしてまとめられてもよいし、それぞれ個別のデータとしてもよい。例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の伝送路上で伝送されるようにしてもよい。また、例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の記録媒体(または同一の記録媒体の別の記録エリア)に記録されるようにしてもよい。なお、この「関連付け」は、データ全体でなく、データの一部であってもよい。例えば、画像とその画像に対応する情報とが、複数フレーム、1フレーム、またはフレーム内の一部分などの任意の単位で互いに関連付けられるようにしてもよい。
 なお、本明細書において、「合成する」、「多重化する」、「付加する」、「一体化する」、「含める」、「格納する」、「入れ込む」、「差し込む」、「挿入する」等の用語は、例えば符号化データとメタデータとを1つのデータにまとめるといった、複数の物を1つにまとめることを意味し、上述の「関連付ける」の1つの方法を意味する。
 また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
 例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
 また、例えば、上述したプログラムは、任意の装置において実行されるようにしてもよい。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
 また、例えば、1つのフローチャートの各ステップを、1つの装置が実行するようにしてもよいし、複数の装置が分担して実行するようにしてもよい。さらに、1つのステップに複数の処理が含まれる場合、その複数の処理を、1つの装置が実行するようにしてもよいし、複数の装置が分担して実行するようにしてもよい。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
 また、例えば、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
 また、例えば、本技術に関する複数の技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
 なお、本技術は以下のような構成も取ることができる。
 (1) 3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、
 前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部と
 を備える情報処理装置。
 (2) 前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
 (1)に記載の情報処理装置。
 (3) 前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、非等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
 (1)に記載の情報処理装置。
 (4) 前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に応じて、前記階層毎の重み値を更新することにより、前記属性情報毎の重み値を導出する重み付け部
 をさらに備える(1)乃至(3)のいずれかに記載の情報処理装置。
 (5) 前記階層化部により生成された前記階層間の前記属性情報の参照関係、および、前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に応じて、前記属性情報毎の重み値を導出する重み付け部
 をさらに備える(1)乃至(3)のいずれかに記載の情報処理装置。
 (6) 前記属性情報を符号化し、前記属性情報の符号化データを生成する符号化部
 をさらに備える(1)乃至(5)のいずれかに記載の情報処理装置。
 (7) 前記属性情報のサブ階層化に関する制御情報を生成する生成部をさらに備え、
 前記符号化部は、前記生成部により生成された前記制御情報を含む前記符号化データを生成する
 (6)に記載の情報処理装置。
 (8) 前記生成部は、前記属性情報のサブ階層化が許可されているか否かを示す制御情報を生成する
 (7)に記載の情報処理装置。
 (9) 前記生成部は、前記サブ階層化部による前記属性情報のサンプリングの間隔を示す制御情報を生成する
 (7)または(8)に記載の情報処理装置。
 (10) 前記生成部は、前記サブ階層化部による前記属性情報のサンプリングの方法を示す制御情報を生成する
 (7)乃至(9)のいずれかに記載の情報処理装置。
 (11) 3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、
 生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成する
 情報処理方法。
 (12) 3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、
 前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部と、
 前記階層化部により生成された前記階層間の前記属性情報の参照関係、および、前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する逆階層化部と
 を備える情報処理装置。
 (13) 前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
 (12)に記載の情報処理装置。
 (14) 前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、非等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
 (12)に記載の情報処理装置。
 (15) 前記属性情報の符号化データを復号し、前記属性情報を復元する復号部
 をさらに備える(12)乃至(14)のいずれかに記載の情報処理装置。
 (16) 前記復号部は、前記符号化データを復号して、前記属性情報のサブ階層化に関する制御情報を復元し、
 前記サブ階層化部は、前記復号部により復元された前記制御情報に基づいて、前記属性情報をサブ階層化する
 (15)に記載の情報処理装置。
 (17) 前記サブ階層化部は、前記復号部により復元された前記属性情報のサブ階層化が許可されているか否かを示す制御情報に基づいて、前記属性情報をサブ階層化する
 (16)に記載の情報処理装置。
 (18) 前記サブ階層化部は、前記復号部により復元された前記属性情報のサンプリングの間隔を示す制御情報に基づいて、前記属性情報をサブ階層化する
 (16)または(17)に記載の情報処理装置。
 (19) 前記サブ階層化部は、前記復号部により復元された前記属性情報のサンプリングの方法を示す制御情報に基づいて、前記属性情報をサブ階層化する
 (16)乃至(18)のいずれかに記載の情報処理装置。
 (20) 3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、
 生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成し、
 生成された前記階層間の前記属性情報の参照関係、および、生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する
 情報処理方法。
 100 符号化装置, 101 位置情報符号化部, 102 位置情報復号部, 103 ポイントクラウド生成部, 104 属性情報符号化部, 105 ビットストリーム生成部, 111 階層化処理部, 112 量子化部, 113 符号化部, 121 制御部, 122 階層化処理部, 123 Sub LoD生成部, 124 反転部, 125 重み付け部, 200 復号装置, 201 復号対象LOD深度設定部, 202 符号化データ抽出部, 203 位置情報復号部, 204 属性情報復号部, 205 ポイントクラウド生成部, 211 復号部, 212 逆量子化部, 213 逆階層化処理部, 221 制御部, 222 階層化処理部, 223 Sub LoD生成部, 224 反転部, 225 逆階層化処理部

Claims (20)

  1.  3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、
     前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部と
     を備える情報処理装置。
  2.  前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
     請求項1に記載の情報処理装置。
  3.  前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、非等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
     請求項1に記載の情報処理装置。
  4.  前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に応じて、前記階層毎の重み値を更新することにより、前記属性情報毎の重み値を導出する重み付け部
     をさらに備える請求項1に記載の情報処理装置。
  5.  前記階層化部により生成された前記階層間の前記属性情報の参照関係、および、前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に応じて、前記属性情報毎の重み値を導出する重み付け部
     をさらに備える請求項1に記載の情報処理装置。
  6.  前記属性情報を符号化し、前記属性情報の符号化データを生成する符号化部
     をさらに備える請求項1に記載の情報処理装置。
  7.  前記属性情報のサブ階層化に関する制御情報を生成する生成部をさらに備え、
     前記符号化部は、前記生成部により生成された前記制御情報を含む前記符号化データを生成する
     請求項6に記載の情報処理装置。
  8.  前記生成部は、前記属性情報のサブ階層化が許可されているか否かを示す制御情報を生成する
     請求項7に記載の情報処理装置。
  9.  前記生成部は、前記サブ階層化部による前記属性情報のサンプリングの間隔を示す制御情報を生成する
     請求項7に記載の情報処理装置。
  10.  前記生成部は、前記サブ階層化部による前記属性情報のサンプリングの方法を示す制御情報を生成する
     請求項7に記載の情報処理装置。
  11.  3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、
     生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成する
     情報処理方法。
  12.  3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成する階層化部と、
     前記階層化部により生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成するサブ階層化部と、
     前記階層化部により生成された前記階層間の前記属性情報の参照関係、および、前記サブ階層化部により生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する逆階層化部と
     を備える情報処理装置。
  13.  前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
     請求項12に記載の情報処理装置。
  14.  前記サブ階層化部は、処理対象階層の前記属性情報をモートン順序に整列し、非等間隔にサンプリングすることにより、前記属性情報をサブ階層化する
     請求項12に記載の情報処理装置。
  15.  前記属性情報の符号化データを復号し、前記属性情報を復元する復号部
     をさらに備える請求項12に記載の情報処理装置。
  16.  前記復号部は、前記符号化データを復号して、前記属性情報のサブ階層化に関する制御情報を復元し、
     前記サブ階層化部は、前記復号部により復元された前記制御情報に基づいて、前記属性情報をサブ階層化する
     請求項15に記載の情報処理装置。
  17.  前記サブ階層化部は、前記復号部により復元された前記属性情報のサブ階層化が許可されているか否かを示す制御情報に基づいて、前記属性情報をサブ階層化する
     請求項16に記載の情報処理装置。
  18.  前記サブ階層化部は、前記復号部により復元された前記属性情報のサンプリングの間隔を示す制御情報に基づいて、前記属性情報をサブ階層化する
     請求項16に記載の情報処理装置。
  19.  前記サブ階層化部は、前記復号部により復元された前記属性情報のサンプリングの方法を示す制御情報に基づいて、前記属性情報をサブ階層化する
     請求項16に記載の情報処理装置。
  20.  3次元形状のオブジェクトをポイントの集合として表現するポイントクラウドの属性情報を階層化し、階層間の前記属性情報の参照関係を生成し、
     生成された前記属性情報の階層において、前記階層の前記属性情報をサブ階層化し、サブ階層間の前記属性情報の参照関係を生成し、
     生成された前記階層間の前記属性情報の参照関係、および、生成された前記サブ階層間の前記属性情報の参照関係に基づいて、前記属性情報を逆階層化する
     情報処理方法。
PCT/JP2020/025168 2019-07-12 2020-06-26 情報処理装置および方法 WO2021010134A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202080049528.1A CN114097242A (zh) 2019-07-12 2020-06-26 信息处理装置和方法
KR1020217041289A KR20220034045A (ko) 2019-07-12 2020-06-26 정보 처리 장치 및 방법
US17/624,990 US20220286679A1 (en) 2019-07-12 2020-06-26 Information processing device and method
EP20841647.9A EP3985614A4 (en) 2019-07-12 2020-06-26 INFORMATION PROCESSING DEVICE AND METHOD
JP2021532756A JPWO2021010134A1 (ja) 2019-07-12 2020-06-26

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019129875 2019-07-12
JP2019-129875 2019-07-12

Publications (1)

Publication Number Publication Date
WO2021010134A1 true WO2021010134A1 (ja) 2021-01-21

Family

ID=74209824

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/025168 WO2021010134A1 (ja) 2019-07-12 2020-06-26 情報処理装置および方法

Country Status (6)

Country Link
US (1) US20220286679A1 (ja)
EP (1) EP3985614A4 (ja)
JP (1) JPWO2021010134A1 (ja)
KR (1) KR20220034045A (ja)
CN (1) CN114097242A (ja)
WO (1) WO2021010134A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023039507A1 (en) * 2021-09-09 2023-03-16 Apple Inc. Encoding and decoding visual content including polygonal meshes

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104115A1 (ja) * 2015-12-14 2017-06-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
WO2019103009A1 (ja) * 2017-11-22 2019-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10911787B2 (en) * 2018-07-10 2021-02-02 Apple Inc. Hierarchical point cloud compression
US20220159312A1 (en) * 2019-03-20 2022-05-19 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
CN114073092A (zh) * 2019-06-28 2022-02-18 Lg电子株式会社 用于处理点云数据的设备和方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104115A1 (ja) * 2015-12-14 2017-06-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
WO2019103009A1 (ja) * 2017-11-22 2019-05-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
KHALED MAMMOUALEXIS TOURAPISJUNGSUN KIMFABRICE ROBINETVALERY VALENTINYEPING SU: "Lifting Scheme for Lossy Attribute Encoding in TMCl", ISO/IEC JTC1/SC29/WG11 MPEG2018/M42640, April 2018 (2018-04-01)
NISHIO, KOJI ET AL.: "1G-2 A method of information transformation for point sampled models", PROCEEDINGS OF THE 69TH NATIONAL CONVENTION OF IPSJ. INTERFACE, COMPUTER AND HUMAN SOCIETY; MARCH, 6-8, 2007, vol. 69, 6 March 2007 (2007-03-06) - 8 March 2007 (2007-03-08), pages 4 - 4-42, XP009532473 *
OHJI NAKAGAMISATORU KUMA: "G-PCC] Spatial scalability support for G-PCC", ISO/IEC JTC1/SC29/WG11 MPEG2019/M47352, March 2019 (2019-03-01)
R. MEKURIAK. BLOMP. CESAR., DESIGN, IMPLEMENTATION AND EVALUATION OF A POINT CLOUD CODEC FOR TELE-IMMERSIVE VIDEO
See also references of EP3985614A4
TOSHIYASU SUGIO: "G-PCC] Reference structure modification on attribute predicting transform in TMC 13", ISO/IEC JTC 1/SC29/WG11 MPEG2018/M46107, January 2019 (2019-01-01)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023039507A1 (en) * 2021-09-09 2023-03-16 Apple Inc. Encoding and decoding visual content including polygonal meshes

Also Published As

Publication number Publication date
KR20220034045A (ko) 2022-03-17
CN114097242A (zh) 2022-02-25
EP3985614A4 (en) 2022-09-21
JPWO2021010134A1 (ja) 2021-01-21
US20220286679A1 (en) 2022-09-08
EP3985614A1 (en) 2022-04-20

Similar Documents

Publication Publication Date Title
US11282239B2 (en) Device and method of transmitting point cloud data, device and method of processing point cloud data
WO2019198523A1 (ja) 画像処理装置および方法
JP7480775B2 (ja) 情報処理装置および方法
US11328440B2 (en) Point cloud data transmission apparatus, point cloud data transmission method, point cloud data reception apparatus, and point cloud data reception method
US11483363B2 (en) Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US11902348B2 (en) Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
CN113795870B (zh) 一种对点云属性编解码的方法、装置及存储介质
WO2021140930A1 (ja) 情報処理装置および方法
WO2021010200A1 (ja) 情報処理装置および方法
WO2021010134A1 (ja) 情報処理装置および方法
WO2020262019A1 (ja) 情報処理装置および方法
KR20210070282A (ko) 화상 처리 장치 및 방법
WO2021002214A1 (ja) 情報処理装置および方法
WO2022145214A1 (ja) 情報処理装置および方法
JP2022047546A (ja) 情報処理装置および方法
US20230154052A1 (en) Point cloud data transmission device, point cloud data transmission method, point cloud data reception device and point cloud data reception method
US20220327744A1 (en) Apparatus and method for processing point cloud data
WO2019198520A1 (ja) 情報処理装置および方法
WO2021140928A1 (ja) 情報処理装置および方法
WO2020262020A1 (ja) 情報処理装置および方法
WO2021261237A1 (ja) 情報処理装置および方法
US20240179347A1 (en) Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
EP4325853A1 (en) Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US20230412837A1 (en) Point cloud data transmission method, point cloud data transmission device, point cloud data reception method, and point cloud data reception device

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20841647

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021532756

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2020841647

Country of ref document: EP

Effective date: 20220113