WO2018083999A1 - 表示方法及び表示装置 - Google Patents

表示方法及び表示装置 Download PDF

Info

Publication number
WO2018083999A1
WO2018083999A1 PCT/JP2017/037929 JP2017037929W WO2018083999A1 WO 2018083999 A1 WO2018083999 A1 WO 2018083999A1 JP 2017037929 W JP2017037929 W JP 2017037929W WO 2018083999 A1 WO2018083999 A1 WO 2018083999A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
dimensional
dimensional data
information
vehicle
Prior art date
Application number
PCT/JP2017/037929
Other languages
English (en)
French (fr)
Inventor
達也 小山
西　孝啓
敏康 杉尾
遠間　正真
哲史 吉川
徹 松延
Original Assignee
パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to EP20197098.5A priority Critical patent/EP3778305B1/en
Application filed by パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ filed Critical パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ
Priority to EP22161381.3A priority patent/EP4035943B1/en
Priority to EP23184033.1A priority patent/EP4253153A3/en
Priority to CN202110191126.1A priority patent/CN113008263B/zh
Priority to JP2018548624A priority patent/JP7061964B2/ja
Priority to CN201780065479.9A priority patent/CN109906608B/zh
Priority to EP17868462.7A priority patent/EP3536556B1/en
Publication of WO2018083999A1 publication Critical patent/WO2018083999A1/ja
Priority to US16/391,884 priority patent/US10719984B2/en
Priority to US16/860,741 priority patent/US11238648B2/en
Priority to US17/554,482 priority patent/US11748947B2/en
Priority to JP2022068672A priority patent/JP7311670B2/ja
Priority to US18/220,429 priority patent/US20230351688A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05—Geographic models
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3635—Guidance using 3D or perspective road maps
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic

Definitions

  • the present disclosure relates to a display method and a display device.
  • the three-dimensional data is acquired by various methods such as a distance sensor such as a range finder, a stereo camera, or a combination of a plurality of monocular cameras.
  • a point cloud that represents the shape of a three-dimensional structure by a point group in a three-dimensional space.
  • the position and color of the point cloud are stored.
  • Point clouds are expected to become the mainstream representation method of 3D data, but point clouds have a very large amount of data. Therefore, in the storage or transmission of three-dimensional data, it is essential to compress the amount of data by encoding as in the case of two-dimensional moving images (for example, MPEG-4 AVC or HEVC standardized by MPEG). Become.
  • point cloud compression is partially supported by a public library (Point Cloud Library) that performs point cloud related processing.
  • a public library Point Cloud Library
  • Patent Document 1 a technique for searching for and displaying facilities located around the vehicle using three-dimensional map data is known (for example, see Patent Document 1).
  • Such a display device that displays information based on three-dimensional data is desired to be able to display appropriate information according to the situation.
  • This disclosure is intended to provide a display method or a display device capable of displaying appropriate information.
  • a display method is a display method in a display device that operates in cooperation with a moving object, and is information indicating a surrounding situation of the moving object, and is generated using two-dimensional data. Deciding to determine which one of the surrounding information and the second surrounding information generated using three-dimensional data is to be displayed based on the driving situation of the moving body And a display step for displaying the first peripheral information or the second peripheral information determined to be displayed.
  • the present disclosure can provide a display method or a display device that can display appropriate information.
  • FIG. 1 is a diagram showing a configuration of encoded three-dimensional data according to the first embodiment.
  • FIG. 2 is a diagram illustrating an example of a prediction structure between SPCs belonging to the lowest layer of the GOS according to the first embodiment.
  • FIG. 3 is a diagram illustrating an example of a prediction structure between layers according to the first embodiment.
  • FIG. 4 is a diagram illustrating an example of the coding order of GOS according to the first embodiment.
  • FIG. 5 is a diagram illustrating an example of the coding order of GOS according to the first embodiment.
  • FIG. 6 is a block diagram of the three-dimensional data encoding apparatus according to the first embodiment.
  • FIG. 7 is a flowchart of the encoding process according to the first embodiment.
  • FIG. 8 is a block diagram of the three-dimensional data decoding apparatus according to the first embodiment.
  • FIG. 9 is a flowchart of the decoding process according to the first embodiment.
  • FIG. 10 is a diagram illustrating an example of meta information according to the first embodiment.
  • FIG. 11 is a diagram illustrating a configuration example of the SWLD according to the second embodiment.
  • FIG. 12 is a diagram illustrating an operation example of the server and the client according to the second embodiment.
  • FIG. 13 is a diagram illustrating an operation example of the server and the client according to the second embodiment.
  • FIG. 14 is a diagram illustrating an operation example of the server and the client according to the second embodiment.
  • FIG. 15 is a diagram illustrating an operation example of the server and the client according to the second embodiment.
  • FIG. 15 is a diagram illustrating an operation example of the server and the client according to the second embodiment.
  • FIG. 16 is a block diagram of a three-dimensional data encoding apparatus according to Embodiment 2.
  • FIG. 17 is a flowchart of the encoding process according to the second embodiment.
  • FIG. 18 is a block diagram of the 3D data decoding apparatus according to the second embodiment.
  • FIG. 19 is a flowchart of the decoding process according to the second embodiment.
  • FIG. 20 is a diagram illustrating a configuration example of the WLD according to the second embodiment.
  • FIG. 21 is a diagram illustrating an example of a WLD octree structure according to the second embodiment.
  • FIG. 22 is a diagram illustrating a configuration example of the SWLD according to the second embodiment.
  • FIG. 23 is a diagram illustrating an example of an octree structure of SWLD according to the second embodiment.
  • FIG. 24 is a schematic diagram illustrating a state of transmission / reception of three-dimensional data between vehicles according to the third embodiment.
  • FIG. 25 is a diagram illustrating an example of three-dimensional data transmitted between vehicles according to the third embodiment.
  • FIG. 26 is a block diagram of the three-dimensional data creation device according to the third embodiment.
  • FIG. 27 is a flowchart of three-dimensional data creation processing according to the third embodiment.
  • FIG. 28 is a block diagram of the three-dimensional data transmission apparatus according to the third embodiment.
  • FIG. 29 is a flowchart of the three-dimensional data transmission process according to the third embodiment.
  • FIG. 30 is a block diagram of the three-dimensional data creation apparatus according to the third embodiment.
  • FIG. 31 is a flowchart of the three-dimensional data creation process according to the third embodiment.
  • FIG. 32 is a block diagram of the three-dimensional data transmission apparatus according to the third embodiment.
  • FIG. 33 is a flowchart of the three-dimensional data transmission process according to the third embodiment.
  • FIG. 34 is a block diagram of the three-dimensional information processing apparatus according to the fourth embodiment.
  • FIG. 35 is a flowchart of the three-dimensional information processing method according to the fourth embodiment.
  • FIG. 36 is a flowchart of the three-dimensional information processing method according to the fourth embodiment.
  • FIG. 37 is a diagram for explaining the three-dimensional data transmission process according to the fifth embodiment.
  • FIG. 38 is a block diagram of the three-dimensional data creation device according to the fifth embodiment.
  • FIG. 39 is a flowchart of the three-dimensional data creation method according to the fifth embodiment.
  • FIG. 40 is a flowchart of the three-dimensional data creation method according to the fifth embodiment.
  • FIG. 41 is a flowchart of the display method according to the sixth embodiment.
  • FIG. 42 is a diagram illustrating an example of the surrounding environment that can be seen through the windshield according to the sixth embodiment.
  • FIG. 43 is a diagram illustrating a display example of the head-up display according to the sixth embodiment.
  • FIG. 44 is a diagram illustrating a display example of the head-up display after adjustment according to the sixth embodiment.
  • This disclosure describes a three-dimensional data encoding method, a three-dimensional data decoding method, a three-dimensional data encoding device, or a three-dimensional data decoding device that can provide a random access function in encoded three-dimensional data.
  • a three-dimensional data encoding method is a three-dimensional data encoding method for encoding three-dimensional data, wherein the three-dimensional data is a random access unit, each of which includes three-dimensional coordinates.
  • the three-dimensional data encoding method can provide a random access function in the encoded three-dimensional data.
  • the three-dimensional data encoding method includes a generation step of generating first information indicating the plurality of first processing units and three-dimensional coordinates associated with each of the plurality of first processing units.
  • the encoded data may include the first information.
  • the first information may further indicate at least one of an object, a time, and a data storage destination associated with each of the plurality of first processing units.
  • the first processing unit may be further divided into a plurality of second processing units, and in the encoding step, each of the plurality of second processing units may be encoded.
  • the second processing unit to be processed included in the first processing unit to be processed is encoded with reference to another second processing unit included in the first processing unit to be processed. May be.
  • a type of the second processing unit to be processed a first type that does not refer to another second processing unit, a second type that refers to another second processing unit, and others
  • One of the third types referring to the two second processing units may be selected, and the second processing unit to be processed may be encoded according to the selected type.
  • the frequency of selecting the first type may be changed according to the number or density of objects included in the three-dimensional data.
  • the size of the first processing unit may be determined according to the number or density of objects or dynamic objects included in the three-dimensional data.
  • the first processing unit is spatially divided in a predetermined direction, and includes a plurality of layers each including one or more second processing units.
  • the second processing unit is The encoding may be performed with reference to the second processing unit included in the same layer as the second processing unit or a layer lower than the second processing unit.
  • the second processing unit including only static objects and the second processing unit including only dynamic objects may be assigned to different first processing units.
  • a plurality of dynamic objects may be individually encoded, and encoded data of the plurality of dynamic objects may be associated with a second processing unit including only static objects.
  • the second processing unit may be further divided into a plurality of third processing units, and in the encoding step, each of the plurality of third processing units may be encoded.
  • the third processing unit may include one or more voxels that are minimum units with which position information is associated.
  • the second processing unit may include a feature point group derived from information obtained by a sensor.
  • the encoded data may include information indicating the encoding order of the plurality of first processing units.
  • the encoded data may include information indicating the sizes of the plurality of first processing units.
  • the plurality of first processing units may be encoded in parallel.
  • a 3D data decoding method is a 3D data decoding method for decoding 3D data, which is a random access unit, each of which is associated with a 3D coordinate.
  • a decoding step of generating three-dimensional data of the first processing unit by decoding each encoded data of one processing unit is included.
  • the three-dimensional data decoding method can provide a random access function in the encoded three-dimensional data.
  • the three-dimensional data encoding device is a three-dimensional data encoding device that encodes three-dimensional data, and the three-dimensional data is a random access unit, each of which is tertiary A dividing unit that divides the first processing unit associated with the original coordinates and an encoding unit that generates encoded data by encoding each of the plurality of first processing units may be included.
  • the three-dimensional data encoding apparatus can provide a random access function in the encoded three-dimensional data.
  • a 3D data decoding apparatus is a 3D data decoding apparatus that decodes 3D data, is a random access unit, and is associated with 3D coordinates.
  • a decoding unit that generates the three-dimensional data of the first processing unit by decoding each of the encoded data of one processing unit may be included.
  • the three-dimensional data decoding apparatus can provide a random access function in the encoded three-dimensional data.
  • the present disclosure enables the quantization and prediction of the space by the configuration in which the space is divided and encoded, and is effective even when random access is not necessarily performed.
  • a 3D data encoding method includes an extraction step of extracting second 3D data having a feature amount equal to or greater than a threshold value from first 3D data, and encoding the second 3D data. And a first encoding step for generating first encoded three-dimensional data.
  • the three-dimensional data encoding method generates first encoded three-dimensional data obtained by encoding data having a feature amount equal to or greater than a threshold value.
  • the data amount of the encoded three-dimensional data can be reduced as compared with the case where the first three-dimensional data is encoded as it is. Therefore, the 3D data encoding method can reduce the amount of data to be transmitted.
  • the three-dimensional data encoding method may further include a second encoding step of generating second encoded three-dimensional data by encoding the first three-dimensional data.
  • the three-dimensional data encoding method can selectively transmit the first encoded three-dimensional data and the second encoded three-dimensional data, for example, depending on the intended use.
  • the second 3D data may be encoded by a first encoding method
  • the first 3D data may be encoded by a second encoding method different from the first encoding method
  • the 3D data encoding method can use an encoding method suitable for each of the first 3D data and the second 3D data.
  • inter prediction may be given priority among intra prediction and inter prediction over the second encoding method.
  • the 3D data encoding method can increase the priority of inter prediction with respect to the second 3D data in which the correlation between adjacent data tends to be low.
  • the three-dimensional position representation method may be different between the first encoding method and the second encoding method.
  • the three-dimensional data encoding method can use a more suitable three-dimensional position expression method for three-dimensional data having different numbers of data.
  • At least one of the first encoded three-dimensional data and the second encoded three-dimensional data is encoded three-dimensional data obtained by encoding the first three-dimensional data with the encoded three-dimensional data.
  • An identifier may be included that indicates whether the data is data or encoded 3D data obtained by encoding a part of the first 3D data.
  • the decoding apparatus can easily determine whether the acquired encoded 3D data is the first encoded 3D data or the second encoded 3D data.
  • the second 3D data may be encoded so that a data amount of the first encoded 3D data is smaller than a data amount of the second encoded 3D data.
  • the three-dimensional data encoding method can make the data amount of the first encoded three-dimensional data smaller than the data amount of the second encoded three-dimensional data.
  • data corresponding to an object having a predetermined attribute may be further extracted as the second 3D data from the first 3D data.
  • the three-dimensional data encoding method can generate first encoded three-dimensional data including data necessary for the decoding device.
  • the three-dimensional data encoding method may further include a transmission step of transmitting one of the first encoded three-dimensional data and the second encoded three-dimensional data to the client according to a state of the client. Good.
  • the three-dimensional data encoding method can transmit appropriate data according to the state of the client.
  • the state of the client may include the communication status of the client or the moving speed of the client.
  • the three-dimensional data encoding method may further include a transmission step of transmitting one of the first encoded three-dimensional data and the second encoded three-dimensional data to the client in response to a request from the client. Good.
  • the three-dimensional data encoding method can transmit appropriate data in response to a client request.
  • the 3D data decoding method includes the first encoding obtained by encoding the second 3D data whose feature amount extracted from the first 3D data is greater than or equal to the threshold value.
  • the first decoding step for decoding three-dimensional data by the first decoding method and the second encoded three-dimensional data obtained by encoding the first three-dimensional data are different from the first decoding method.
  • a second decoding step for decoding by the second decoding method is different from the first decoding method.
  • the first encoded 3D data and the second encoded 3D data obtained by encoding data having a feature amount equal to or greater than a threshold value are used in accordance with, for example, the usage. Can be received selectively.
  • the said three-dimensional data decoding method can reduce the data amount to transmit.
  • the three-dimensional data decoding method can use a decoding method suitable for each of the first three-dimensional data and the second three-dimensional data.
  • inter prediction may be prioritized among intra prediction and inter prediction over the second decoding method.
  • the 3D data decoding method can increase the priority of inter prediction with respect to the second 3D data in which the correlation between adjacent data tends to be low.
  • the three-dimensional position representation method may be different between the first decoding method and the second decoding method.
  • the three-dimensional data decoding method can use a more suitable three-dimensional position expression method for three-dimensional data having different numbers of data.
  • At least one of the first encoded three-dimensional data and the second encoded three-dimensional data is encoded three-dimensional data obtained by encoding the first three-dimensional data with the encoded three-dimensional data. Including an identifier indicating whether it is data or encoded three-dimensional data obtained by encoding a part of the first three-dimensional data, and referring to the identifier, the first code
  • the encoded three-dimensional data and the second encoded three-dimensional data may be identified.
  • the three-dimensional data decoding method can easily determine whether the acquired encoded three-dimensional data is the first encoded three-dimensional data or the second encoded three-dimensional data.
  • the three-dimensional data decoding method further includes a notification step of notifying the server of a client state, and the first encoded three-dimensional data and the second encoded data transmitted from the server according to the client state.
  • the 3D data decoding method can receive appropriate data according to the state of the client.
  • the state of the client may include the communication status of the client or the moving speed of the client.
  • the three-dimensional data decoding method further includes a requesting step for requesting one of the first encoded three-dimensional data and the second encoded three-dimensional data from the server, and transmitting from the server in response to the request.
  • the three-dimensional data decoding method can receive appropriate data according to the application.
  • a 3D data encoding device includes an extraction unit that extracts second 3D data having a feature amount equal to or greater than a threshold value from first 3D data, and encodes the second 3D data. And a first encoding unit that generates first encoded three-dimensional data.
  • the three-dimensional data encoding device generates first encoded three-dimensional data obtained by encoding data having a feature amount equal to or greater than a threshold value.
  • the amount of data can be reduced as compared with the case where the first three-dimensional data is encoded as it is. Therefore, the 3D data encoding apparatus can reduce the amount of data to be transmitted.
  • the three-dimensional data decoding device provides the first encoding obtained by encoding the second three-dimensional data whose feature amount extracted from the first three-dimensional data is greater than or equal to the threshold value.
  • the first decoding unit for decoding three-dimensional data by the first decoding method and the second encoded three-dimensional data obtained by encoding the first three-dimensional data are different from the first decoding method.
  • a second decoding unit for decoding by the second decoding method is different from the first decoding method.
  • the three-dimensional data decoding apparatus performs, for example, the first encoded three-dimensional data and the second encoded three-dimensional data obtained by encoding the data having the feature amount equal to or more than the threshold according to the usage application. Can be received selectively.
  • the three-dimensional data decoding apparatus can reduce the amount of data to be transmitted.
  • the 3D data decoding apparatus can use decoding methods suitable for the first 3D data and the second 3D data, respectively.
  • a 3D data creation method includes a creation step of creating first 3D data from information detected by a sensor, and encoded 3D data obtained by encoding the second 3D data.
  • a synthesis step of creating third 3D data includes a creation step of creating first 3D data from information detected by a sensor, and encoded 3D data obtained by encoding the second 3D data.
  • the 3D data creation method can create detailed third 3D data using the created first 3D data and the received second 3D data.
  • the synthesizing step the first three-dimensional data and the second three-dimensional data are synthesized, whereby the third three-dimensional data having a higher density than the first three-dimensional data and the second three-dimensional data is obtained. You may create it.
  • the second 3D data may be 3D data generated by extracting data having a feature amount equal to or greater than a threshold value from the 4th 3D data.
  • the 3D data creation method can reduce the amount of transmitted 3D data.
  • the three-dimensional data creation method further includes a search step of searching for a transmission device that is a transmission source of the encoded three-dimensional data.
  • the encoded three-dimensional data is extracted from the searched transmission device. Data may be received.
  • the 3D data creation method can specify, for example, a transmission device that possesses the necessary 3D data by searching.
  • the three-dimensional data creation method further includes a determination step of determining a request range that is a range of a three-dimensional space for requesting three-dimensional data, and a transmission step of transmitting information indicating the request range to the transmission device.
  • the second 3D data may include 3D data of the required range.
  • the 3D data creation method can receive necessary 3D data and reduce the amount of transmitted 3D data.
  • a spatial range including an occlusion area that cannot be detected by the sensor may be determined as the required range.
  • the three-dimensional data transmission method includes a creation step of creating fifth 3D data from information detected by a sensor, and extraction of a part of the fifth 3D data, An extraction step for creating data; an encoding step for generating encoded three-dimensional data by encoding the sixth three-dimensional data; and a transmitting step for transmitting the encoded three-dimensional data.
  • the three-dimensional data transmission method can transmit the three-dimensional data created by itself to other devices, and can reduce the amount of transmitted three-dimensional data.
  • seventh 3D data is created from information detected by the sensor, and the fifth 3D data is created by extracting data having a feature amount equal to or greater than a threshold value from the seventh 3D data. May be.
  • the 3D data transmission method can reduce the amount of transmitted 3D data.
  • the three-dimensional data transmission method further includes a reception step of receiving information indicating a request range, which is a range of a three-dimensional space for requesting three-dimensional data, from the reception device, and in the extraction step, the fifth step.
  • the sixth 3D data may be created by extracting 3D data of the required range from the 3D data, and the encoded 3D data may be transmitted to the receiving device in the transmitting step.
  • the 3D data transmission method can reduce the amount of transmitted 3D data.
  • a 3D data creation device includes a creation unit that creates first 3D data from information detected by a sensor, and encoded 3D data obtained by encoding the second 3D data. Receiving the receiving unit; decoding the received encoded three-dimensional data to obtain the second three-dimensional data; and combining the first three-dimensional data and the second three-dimensional data. And a synthesis unit for creating the third three-dimensional data.
  • the 3D data creation device can create detailed third 3D data using the created first 3D data and the received second 3D data.
  • the three-dimensional data transmission device includes a creation unit that creates fifth 3D data from information detected by a sensor, and a sixth part by extracting a part of the fifth 3D data.
  • An extraction unit that generates three-dimensional data; an encoding unit that generates encoded three-dimensional data by encoding the sixth three-dimensional data; and a transmission unit that transmits the encoded three-dimensional data.
  • the 3D data transmitting apparatus can transmit the 3D data created by itself to another apparatus and can reduce the amount of transmitted 3D data.
  • a 3D information processing method includes an acquisition step of acquiring map data including first 3D position information via a communication path, and a second 3D from information detected by a sensor.
  • a generation step for generating position information, and an abnormality determination process for the first three-dimensional position information or the second three-dimensional position information, so that the first three-dimensional position information or the second three-dimensional position information is performed.
  • a determination step for determining whether or not the three-dimensional position information is abnormal, and when it is determined that the first three-dimensional position information or the second three-dimensional position information is abnormal, a coping operation for the abnormality And a control step for performing control necessary for performing the coping operation.
  • the three-dimensional information processing method can detect an abnormality in the first three-dimensional position information or the second three-dimensional position information and perform a coping operation.
  • the first three-dimensional position information is encoded in units of subspaces having three-dimensional coordinate information, each of which is an aggregate of one or more subspaces, each of which can be independently decoded Random access units may be included.
  • the three-dimensional information processing method can reduce the data amount of the first three-dimensional position information to be acquired.
  • the first three-dimensional position information may be data in which a feature point whose three-dimensional feature value is equal to or greater than a predetermined threshold is encoded.
  • the three-dimensional information processing method can reduce the data amount of the first three-dimensional position information to be acquired.
  • the determination step it is determined whether or not the first three-dimensional position information can be acquired through the communication path, and when the first three-dimensional position information cannot be acquired through the communication path, The first three-dimensional position information may be determined to be abnormal.
  • the three-dimensional information processing method can perform an appropriate coping operation when the first three-dimensional position information cannot be acquired according to the communication status or the like.
  • the three-dimensional information processing method further includes a self-position estimation step of performing self-position estimation of a mobile body having the sensor using the first three-dimensional position information and the second three-dimensional position information.
  • a self-position estimation step of performing self-position estimation of a mobile body having the sensor using the first three-dimensional position information and the second three-dimensional position information.
  • the determination step it is predicted whether the mobile body enters an area where the communication state is bad.
  • the operation control step if the mobile body is predicted to enter an area where the communication state is bad, the mobile body The mobile body may acquire the first three-dimensional information before entering the area.
  • the three-dimensional information processing method can acquire the first three-dimensional position information in advance when there is a possibility that the first three-dimensional position information cannot be acquired.
  • the third three-dimensional position information in a narrower range than the first three-dimensional position information is acquired in the communication path. You may get through.
  • the three-dimensional information processing method can reduce the data amount of the data acquired through the communication path, it is possible to acquire the three-dimensional position information even when the communication situation is bad.
  • the three-dimensional information processing method further includes a self-position estimation step of performing self-position estimation of a mobile body having the sensor using the first three-dimensional position information and the second three-dimensional position information.
  • a self-position estimation step of performing self-position estimation of a mobile body having the sensor using the first three-dimensional position information and the second three-dimensional position information.
  • map data including two-dimensional position information is obtained via the communication path, and the two-dimensional position information is obtained.
  • the second three-dimensional position information may be used to perform self-position estimation of the moving body having the sensor.
  • the three-dimensional information processing method can reduce the data amount of the data acquired through the communication path, it is possible to acquire the three-dimensional position information even when the communication situation is bad.
  • the three-dimensional information processing method further includes an automatic driving step of automatically driving the moving body using the result of the self-position estimation, and the determination step further includes a moving environment based on the moving environment of the moving body. Further, it may be determined whether or not to automatically operate the moving body using the result of the self-position estimation of the moving body using the two-dimensional position information and the second three-dimensional position information.
  • the three-dimensional information processing method can determine whether or not to continue automatic driving according to the moving environment of the moving body.
  • the three-dimensional information processing method further includes an automatic driving step of automatically driving the moving body using the result of the self-position estimation, and the operation control step is based on a moving environment of the moving body,
  • the automatic operation mode may be switched.
  • the three-dimensional information processing method can set an appropriate automatic driving mode according to the moving environment of the moving body.
  • the determination step it is determined whether or not the data of the first three-dimensional position information is complete. If the data of the first three-dimensional position information is not complete, the first three-dimensional position information May be determined to be abnormal.
  • the three-dimensional information processing method can perform an appropriate coping operation when the first three-dimensional position information is damaged, for example.
  • the determination step it is determined whether the generation accuracy of the data of the second 3D position information is greater than or equal to a reference value, and the generation accuracy of the data of the second 3D position information is greater than or equal to the reference value. Otherwise, it may be determined that the second three-dimensional position information is abnormal.
  • the three-dimensional information processing method can perform an appropriate coping operation when the accuracy of the second three-dimensional position information is low.
  • the fourth three-dimensional position information is generated from information detected by an alternative sensor different from the sensor. May be.
  • the three-dimensional information processing method can acquire the three-dimensional position information using the alternative sensor, for example, when the sensor is out of order.
  • the three-dimensional information processing method further includes a self-position estimation step of performing self-position estimation of a moving body having the sensor using the first three-dimensional position information and the second three-dimensional position information. And an automatic operation step of automatically operating the moving body using the result of the self-position estimation, and in the operation control step, the generation accuracy of the data of the second three-dimensional position information is not higher than the reference value In this case, the automatic operation mode may be switched.
  • the three-dimensional information processing method can perform an appropriate coping operation when the accuracy of the second three-dimensional position information is low.
  • the operation of the sensor when the generation accuracy of the data of the second three-dimensional position information is not equal to or higher than the reference value, the operation of the sensor may be corrected.
  • the three-dimensional information processing method can improve the accuracy of the second three-dimensional position information.
  • the three-dimensional information processing apparatus includes an acquisition unit that acquires map data including first three-dimensional position information via a communication path, and a second three-dimensional information from information detected by a sensor.
  • a generation unit that generates position information and an abnormality determination process on the first three-dimensional position information or the second three-dimensional position information, so that the first three-dimensional position information or the second three-dimensional position information
  • a determination unit that determines whether or not the three-dimensional position information is abnormal, and when it is determined that the first three-dimensional position information or the second three-dimensional position information is abnormal, a coping operation for the abnormality
  • an operation control unit that performs control necessary for performing the coping operation.
  • the three-dimensional information processing apparatus can detect an abnormality in the first three-dimensional position information or the second three-dimensional position information and perform a coping operation.
  • a 3D data creation method is a 3D data creation method in a moving object including a sensor and a communication unit that transmits and receives 3D data to and from the outside, and is detected by the sensor.
  • the 3D data creation method can generate 3D data in a range that cannot be detected by a moving object. That is, the three-dimensional data creation method can generate detailed three-dimensional data. In addition, the three-dimensional data creation method can transmit three-dimensional data in a range that cannot be detected by other moving bodies to the other moving bodies.
  • the three-dimensional data creation step and the transmission step are repeatedly performed, and the third three-dimensional data is located at a predetermined distance ahead of the moving body in the moving direction from the current position of the moving body. It may be three-dimensional data of a small space of a predetermined size.
  • the predetermined distance may change according to the moving speed of the moving body.
  • the 3D data creation method can set an appropriate small space according to the moving speed of the moving body, and can transmit the 3D data of the small space to another moving body or the like.
  • the predetermined size may change according to the moving speed of the moving body.
  • the 3D data creation method can set an appropriate small space according to the moving speed of the moving body, and can transmit the 3D data of the small space to another moving body or the like.
  • the three-dimensional data creation method further determines whether there is a change in the second three-dimensional data in the small space corresponding to the transmitted third three-dimensional data.
  • the fourth 3D data that is at least a part of the second 3D data may be transmitted to the outside.
  • the three-dimensional data creation method can transmit the fourth three-dimensional data of the changed space to another moving body or the like.
  • the fourth 3D data may be transmitted with priority over the third 3D data.
  • the 3D data creation method preferentially transmits the 4th 3D data of the space in which the change has occurred to other moving bodies, etc. Judgment based on can be made quickly.
  • the fourth 3D data may be transmitted before the transmission of the third 3D data.
  • the fourth 3D data may indicate a difference between the second 3D data in the small space corresponding to the transmitted 3D data and the second 3D data after the change. Good.
  • the 3D data creation method can reduce the data amount of the transmitted 3D data.
  • the third 3D data when there is no difference between the third 3D data in the small space and the first 3D data in the small space, the third 3D data may not be transmitted.
  • the transmitting step when there is no difference between the third three-dimensional data in the small space and the first three-dimensional data in the small space, the third three-dimensional data in the small space, and the small space Information indicating that there is no difference between the first three-dimensional data of the space may be transmitted to the outside.
  • the information detected by the sensor may be three-dimensional data.
  • a three-dimensional data creation device is a three-dimensional data creation device mounted on a moving body, and includes a sensor, a receiving unit that receives first three-dimensional data from the outside, and the sensor A creation unit that creates second 3D data based on the information detected in step 1 and the first 3D data, and third 3D data that is part of the second 3D data is transmitted to the outside. Including a transmitter.
  • the three-dimensional data creation device can generate three-dimensional data in a range that cannot be detected by the moving body. That is, the three-dimensional data creation device can generate detailed three-dimensional data.
  • the three-dimensional data creation apparatus can transmit three-dimensional data in a range that cannot be detected by other moving bodies to the other moving bodies.
  • a display method is a display method in a display device that operates in cooperation with a moving body, and is information indicating a surrounding situation of the moving body, and is generated using two-dimensional data.
  • the first peripheral information and information indicating the surrounding situation of the moving body, and which of the second surrounding information generated using the three-dimensional data is to be displayed is determined based on the driving situation of the moving body.
  • the display method either the first peripheral information generated using the two-dimensional data or the second peripheral information generated using the three-dimensional data based on the driving state of the moving object is displayed.
  • the display method displays the second peripheral information with a large amount of information when detailed information is required, and displays the first peripheral information with a small amount of data and processing amount otherwise. indicate.
  • the display method can display appropriate information according to the situation, and can reduce the communication data amount, the processing amount, and the like.
  • the driving status is whether the moving body is moving autonomously or manually
  • the determining step displays the first peripheral information when the moving body is moving autonomously. Then, it may be determined, and when the moving body is in manual operation, it may be determined to display the second peripheral information.
  • the driving situation may be an area where the moving body is located.
  • the three-dimensional data may be data obtained by extracting a point group having a feature amount equal to or greater than a threshold value from the three-dimensional point group data.
  • the amount of communication data or the amount of data to be saved can be reduced.
  • the three-dimensional data may be data having a mesh structure generated from three-dimensional point cloud data.
  • the amount of communication data or the amount of data to be saved can be reduced.
  • the three-dimensional data is obtained by extracting from the three-dimensional point cloud data a point cloud that has a feature amount equal to or greater than a threshold and is necessary for self-position estimation, driving assistance, or automatic driving. It may be data.
  • the amount of communication data or the amount of data to be saved can be reduced.
  • the three-dimensional data may be three-dimensional point cloud data.
  • the accuracy of the second peripheral information can be improved.
  • the second peripheral information is displayed on a head-up display, and the display method further includes the second peripheral information according to a posture, a body shape, or an eye position of a user who rides on the moving body.
  • the display position may be adjusted.
  • information can be displayed at an appropriate position according to the user's posture, body shape, or eye position.
  • a display device is a display device that operates in cooperation with a moving body, and is a video that shows a surrounding situation of the moving body, and is generated using two-dimensional data.
  • a determination unit that determines which of the peripheral information and the second peripheral information generated using three-dimensional data is to be displayed based on the driving condition of the moving object, which is an image showing the peripheral condition of the moving object.
  • the display device displays either the first peripheral information generated using the two-dimensional data or the second peripheral information generated using the three-dimensional data based on the driving state of the moving object. You can switch the display. For example, the display device displays the second peripheral information with a large amount of information when detailed information is required, and displays the first peripheral information with a small amount of data and processing amount otherwise. indicate. Accordingly, the display device can display appropriate information according to the situation, and can reduce the communication data amount, the processing amount, and the like.
  • FIG. 1 is a diagram showing a configuration of encoded three-dimensional data according to the present embodiment.
  • the three-dimensional space is divided into spaces (SPC) corresponding to pictures in coding of moving images, and three-dimensional data is coded in units of spaces.
  • the space is further divided into volumes (VLM) corresponding to macroblocks or the like in video encoding, and prediction and conversion are performed in units of VLM.
  • the volume includes a plurality of voxels (VXL) that are minimum units with which position coordinates are associated.
  • prediction is similar to the prediction performed in a two-dimensional image, refers to other processing units, generates predicted three-dimensional data similar to the processing unit to be processed, and generates the predicted three-dimensional data and the processing target.
  • the difference from the processing unit is encoded.
  • This prediction includes not only spatial prediction that refers to other prediction units at the same time but also temporal prediction that refers to prediction units at different times.
  • a three-dimensional data encoding device (hereinafter also referred to as an encoding device) encodes a three-dimensional space represented by point cloud data such as a point cloud
  • a point cloud is selected according to the voxel size. Or a plurality of points included in a voxel are collectively encoded. If the voxel is subdivided, the three-dimensional shape of the point cloud can be expressed with high accuracy, and if the voxel size is increased, the three-dimensional shape of the point cloud can be roughly expressed.
  • the three-dimensional data is a point cloud
  • the three-dimensional data is not limited to the point cloud, and may be three-dimensional data in an arbitrary format.
  • hierarchical voxels may be used.
  • n-th layer it may be indicated in order whether or not the sample points are present in the n-1 and lower layers (lower layers of the n-th layer). For example, when decoding only the n-th layer, if there is a sample point in the (n ⁇ 1) th or lower layer, it can be decoded assuming that the sample point exists at the center of the voxel in the n-th layer.
  • the encoding apparatus acquires point cloud data using a distance sensor, a stereo camera, a monocular camera, a gyroscope, an inertial sensor, or the like.
  • Spaces can be decoded independently, such as intra-space (I-SPC), predictive space (P-SPC) that can only be unidirectionally referenced, and bi-directional references. Classified into any one of at least three prediction structures including a large bi-directional space (B-SPC).
  • the space has two types of time information, a decoding time and a display time.
  • GOS Group Of Space
  • WLD world
  • the space area occupied by the world is associated with the absolute position on the earth by GPS or latitude and longitude information. This position information is stored as meta information.
  • the meta information may be included in the encoded data or may be transmitted separately from the encoded data.
  • all SPCs may be adjacent three-dimensionally, or there may be SPCs that are not three-dimensionally adjacent to other SPCs.
  • processing such as encoding, decoding, or referring to three-dimensional data included in a processing unit such as GOS, SPC, or VLM is also simply referred to as encoding, decoding, or referencing the processing unit.
  • the three-dimensional data included in the processing unit includes at least one set of a spatial position such as three-dimensional coordinates and a characteristic value such as color information.
  • a plurality of SPCs in the same GOS or a plurality of VLMs in the same SPC occupy different spaces, but have the same time information (decoding time and display time).
  • the first SPC in the decoding order in GOS is I-SPC.
  • GOS There are two types of GOS: closed GOS and open GOS.
  • the closed GOS is a GOS that can decode all SPCs in the GOS when decoding is started from the head I-SPC.
  • the open GOS some SPCs whose display time is earlier than the first I-SPC in the GOS refer to different GOS, and decoding cannot be performed only by the GOS.
  • WLD may be decoded from the reverse direction to the encoding order, and reverse reproduction is difficult if there is a dependency between GOS. Therefore, in such a case, a closed GOS is basically used.
  • GOS has a layer structure in the height direction, and encoding or decoding is performed in order from the SPC of the lower layer.
  • FIG. 2 is a diagram showing an example of a prediction structure between SPCs belonging to the lowest layer of GOS.
  • FIG. 3 is a diagram illustrating an example of a prediction structure between layers.
  • I-SPCs there are one or more I-SPCs in GOS.
  • objects such as humans, animals, cars, bicycles, traffic lights, and buildings that are landmarks in the three-dimensional space, but it is particularly effective to encode an object having a small size as I-SPC.
  • a three-dimensional data decoding device (hereinafter also referred to as a decoding device) decodes only the I-SPC in the GOS when decoding the GOS with a low throughput or high speed.
  • the encoding device may switch the encoding interval or appearance frequency of the I-SPC according to the density of the objects in the WLD.
  • the encoding device or the decoding device encodes or decodes a plurality of layers in order from the lower layer (layer 1). Thereby, for example, the priority of data near the ground with a larger amount of information can be increased for an autonomous vehicle or the like.
  • encoded data used in a drone or the like may be encoded or decoded in order from the SPC of the upper layer in the height direction in the GOS.
  • the encoding device or decoding device may encode or decode a plurality of layers so that the decoding device can roughly grasp GOS and gradually increase the resolution.
  • the encoding device or the decoding device may encode or decode in the order of layers 3, 8, 1, 9.
  • static objects or scenes such as buildings or roads
  • dynamic objects such as cars or humans
  • Object detection is performed separately by extracting feature points from point cloud data or camera images such as a stereo camera.
  • the first method is a method of encoding without distinguishing between static objects and dynamic objects.
  • the second method is a method of discriminating between static objects and dynamic objects based on identification information.
  • GOS is used as the identification unit.
  • the GOS including the SPC configuring the static object and the GOS including the SPC configuring the dynamic object are distinguished by the identification information stored in the encoded data or separately from the encoded data.
  • SPC may be used as an identification unit.
  • the SPC that includes the VLM that configures the static object and the SPC that includes the VLM that configures the dynamic object are distinguished by the identification information.
  • VLM or VXL may be used as the identification unit.
  • a VLM or VXL including a static object and a VLM or VXL including a dynamic object are distinguished by the identification information.
  • the encoding device may encode the dynamic object as one or more VLMs or SPCs, and may encode the VLM or SPC including the static object and the SPC including the dynamic object as different GOSs. Also, when the GOS size is variable according to the size of the dynamic object, the encoding apparatus separately stores the GOS size as meta information.
  • the encoding device may encode the static object and the dynamic object independently of each other and superimpose the dynamic object on the world composed of the static objects.
  • the dynamic object is composed of one or more SPCs, and each SPC is associated with one or more SPCs constituting a static object on which the SPC is superimposed.
  • a dynamic object may be represented by one or more VLMs or VXLs instead of SPCs.
  • the encoding device may encode the static object and the dynamic object as different streams.
  • the encoding device may generate a GOS including one or more SPCs that constitute a dynamic object. Further, the encoding apparatus may set the GOS (GOS_M) including the dynamic object and the GOS of the static object corresponding to the GOS_M space area to the same size (occupy the same space area). Thereby, a superimposition process can be performed per GOS.
  • GOS including one or more SPCs that constitute a dynamic object.
  • the encoding apparatus may set the GOS (GOS_M) including the dynamic object and the GOS of the static object corresponding to the GOS_M space area to the same size (occupy the same space area). Thereby, a superimposition process can be performed per GOS.
  • the P-SPC or B-SPC constituting the dynamic object may refer to the SPC included in a different encoded GOS.
  • the reference across the GOS is effective from the viewpoint of the compression rate.
  • the first method and the second method may be switched according to the use of the encoded data. For example, when using encoded 3D data as a map, it is desirable to be able to separate dynamic objects, and therefore the encoding apparatus uses the second method. On the other hand, the encoding apparatus uses the first method when it is not necessary to separate dynamic objects when encoding three-dimensional data of events such as concerts or sports.
  • the GOS or SPC decoding time and display time can be stored in the encoded data or as meta information. Moreover, all the time information of static objects may be the same. At this time, the actual decoding time and display time may be determined by the decoding device. Alternatively, a different value may be given as the decoding time for each GOS or SPC, and the same value may be given as the display time. Furthermore, like a decoder model in moving picture coding such as HEVC's HRD (Hypothetical Reference Decoder), the decoder has a buffer of a predetermined size and can be decoded without failure if a bit stream is read at a predetermined bit rate according to the decoding time. You may introduce a model that guarantees
  • the coordinates of the three-dimensional space in the world are expressed by three coordinate axes (x axis, y axis, z axis) orthogonal to each other.
  • encoding can be performed so that spatially adjacent GOSs are continuous in the encoded data.
  • GOS in the xz plane is continuously encoded.
  • the value of the y-axis is updated after encoding of all GOSs in a certain xz plane is completed. That is, as encoding progresses, the world extends in the y-axis direction.
  • the GOS index number is set in the encoding order.
  • the three-dimensional space of the world is associated with GPS or geographical absolute coordinates such as latitude and longitude in one-to-one correspondence.
  • the three-dimensional space may be expressed by a relative position from a preset reference position.
  • the x-axis, y-axis, and z-axis directions in the three-dimensional space are expressed as direction vectors determined based on latitude and longitude, and the direction vectors are stored as meta information together with the encoded data.
  • the GOS size is fixed, and the encoding device stores the size as meta information. Further, the size of the GOS may be switched depending on, for example, whether it is an urban area or whether it is indoor or outdoor. That is, the size of the GOS may be switched according to the amount or nature of the object that is valuable as information. Alternatively, the encoding device may adaptively switch the GOS size or the I-SPC interval in the GOS in accordance with the object density or the like in the same world. For example, the higher the object density, the smaller the size of the GOS and the shorter the I-SPC interval in the GOS.
  • the density of objects is high, so that the GOS is subdivided in order to realize random access with fine granularity.
  • the seventh to tenth GOS exist on the back side of the third to sixth GOS, respectively.
  • FIG. 6 is a block diagram of 3D data encoding apparatus 100 according to the present embodiment.
  • FIG. 7 is a flowchart showing an operation example of the three-dimensional data encoding apparatus 100.
  • the three-dimensional data encoding device 100 shown in FIG. 6 generates encoded three-dimensional data 112 by encoding the three-dimensional data 111.
  • the three-dimensional data encoding apparatus 100 includes an acquisition unit 101, an encoding region determination unit 102, a division unit 103, and an encoding unit 104.
  • the acquisition unit 101 first acquires three-dimensional data 111 that is point cloud data (S101).
  • the coding area determination unit 102 determines a coding target area among the spatial areas corresponding to the acquired point cloud data (S102). For example, the coding area determination unit 102 determines a space area around the position as a coding target area according to the position of the user or the vehicle.
  • the dividing unit 103 divides the point cloud data included in the encoding target area into each processing unit.
  • the processing unit is the above-described GOS, SPC, or the like.
  • this encoding target area corresponds to the above-described world, for example.
  • the dividing unit 103 divides the point cloud data into processing units based on a preset GOS size or the presence or size of a dynamic object (S103). Further, the dividing unit 103 determines the start position of the SPC that is the head in the encoding order in each GOS.
  • the encoding unit 104 generates encoded three-dimensional data 112 by sequentially encoding a plurality of SPCs in each GOS (S104).
  • the three-dimensional data encoding device 100 generates the encoded three-dimensional data 112 by encoding the three-dimensional data 111.
  • the 3D data encoding apparatus 100 divides 3D data into first processing units (GOS) each of which is a random access unit and is associated with 3D coordinates.
  • the processing unit (GOS) is divided into a plurality of second processing units (SPC), and the second processing unit (SPC) is divided into a plurality of third processing units (VLM).
  • the third processing unit (VLM) includes one or more voxels (VXL) that are minimum units with which position information is associated.
  • the three-dimensional data encoding device 100 generates encoded three-dimensional data 112 by encoding each of the plurality of first processing units (GOS). Specifically, the three-dimensional data encoding device 100 encodes each of the plurality of second processing units (SPC) in each first processing unit (GOS). In addition, the 3D data encoding apparatus 100 encodes each of the plurality of third processing units (VLM) in each second processing unit (SPC).
  • GOS first processing unit
  • VLM third processing units
  • the 3D data encoding apparatus 100 has the second processing unit to be processed included in the first processing unit (GOS) to be processed.
  • SPC is encoded with reference to another second processing unit (SPC) included in the first processing unit (GOS) to be processed. That is, the 3D data encoding apparatus 100 does not refer to the second processing unit (SPC) included in the first processing unit (GOS) different from the first processing unit (GOS) to be processed.
  • the processing target second processing unit (SPC) included in the processing target first processing unit (GOS) is set as the processing target first processing unit (GOS).
  • the 3D data encoding apparatus 100 uses the first type (I-SPC) that does not refer to another second processing unit (SPC) as the type of the second processing unit (SPC) to be processed, Select either the second type (P-SPC) that refers to the second processing unit (SPC) or the third type that refers to the other two second processing units (SPC), and process according to the selected type
  • the target second processing unit (SPC) is encoded.
  • FIG. 8 is a block diagram of a block of 3D data decoding apparatus 200 according to the present embodiment.
  • FIG. 9 is a flowchart showing an operation example of the three-dimensional data decoding apparatus 200.
  • the 3D data decoding apparatus 200 shown in FIG. 8 generates decoded 3D data 212 by decoding the encoded 3D data 211.
  • the encoded three-dimensional data 211 is, for example, the encoded three-dimensional data 112 generated by the three-dimensional data encoding device 100.
  • the three-dimensional data decoding apparatus 200 includes an acquisition unit 201, a decoding start GOS determination unit 202, a decoding SPC determination unit 203, and a decoding unit 204.
  • the acquisition unit 201 acquires the encoded three-dimensional data 211 (S201).
  • the decoding start GOS determination unit 202 determines a GOS to be decoded (S202). Specifically, the decoding start GOS determination unit 202 refers to the meta information stored in the encoded 3D data 211 or separately from the encoded 3D data, and the spatial position, object, or The GOS including the SPC corresponding to the time is determined as the GOS to be decrypted.
  • the decoding SPC determination unit 203 determines the type (I, P, B) of SPC to be decoded in the GOS (S203). For example, the decoding SPC determination unit 203 determines whether (1) only I-SPC is decoded, (2) I-SPC and P-SPC are decoded, or (3) all types are decoded. Note that this step may not be performed if the type of SPC to be decoded has been determined in advance, such as decoding all SPCs.
  • the decoding unit 204 acquires an address position where the head SPC in the decoding order (same as the coding order) in the GOS starts in the encoded three-dimensional data 211, and the code of the first SPC from the address position.
  • the data is acquired, and each SPC is sequentially decoded from the head SPC (S204).
  • the address position is stored in meta information or the like.
  • the three-dimensional data decoding apparatus 200 decodes the decoded three-dimensional data 212. Specifically, the three-dimensional data decoding apparatus 200 decodes each of the encoded three-dimensional data 211 of the first processing unit (GOS) that is a random access unit and each is associated with a three-dimensional coordinate. Thus, the decoded three-dimensional data 212 of the first processing unit (GOS) is generated. More specifically, the three-dimensional data decoding apparatus 200 decodes each of the plurality of second processing units (SPC) in each first processing unit (GOS). The three-dimensional data decoding apparatus 200 decodes each of the plurality of third processing units (VLM) in each second processing unit (SPC).
  • SPC second processing units
  • VLM third processing units
  • This meta information is generated by the three-dimensional data encoding apparatus 100 and is included in the encoded three-dimensional data 112 (211).
  • FIG. 10 is a diagram illustrating an example of a table included in the meta information. Note that not all the tables shown in FIG. 10 need be used, and at least one table may be used.
  • the address may be an address in a logical format or a physical address of an HDD or a memory.
  • Information specifying a file segment may be used instead of an address.
  • a file segment is a unit obtained by segmenting one or more GOSs.
  • a plurality of GOSs to which the object belongs may be indicated in the object-GOS table. If the plurality of GOSs are closed GOS, the encoding device and the decoding device can perform encoding or decoding in parallel. On the other hand, if the plurality of GOSs are open GOS, the compression efficiency can be further improved by referring to the plurality of GOSs.
  • the 3D data encoding apparatus 100 extracts a feature point specific to an object from a 3D point cloud or the like at the time of world encoding, detects an object based on the feature point, and detects the detected object as a random access point. Can be set as
  • the three-dimensional data encoding apparatus 100 includes the first information indicating the plurality of first processing units (GOS) and the three-dimensional coordinates associated with each of the plurality of first processing units (GOS). Is generated. Also, the encoded three-dimensional data 112 (211) includes this first information. The first information further indicates at least one of the object, the time, and the data storage destination associated with each of the plurality of first processing units (GOS).
  • the three-dimensional data decoding apparatus 200 acquires the first information from the encoded three-dimensional data 211, and uses the first information to encode the first processing unit corresponding to the specified three-dimensional coordinate, object, or time.
  • the original data 211 is specified, and the encoded three-dimensional data 211 is decoded.
  • the three-dimensional data encoding apparatus 100 may generate and store the following meta information. Further, the three-dimensional data decoding apparatus 200 may use this meta information at the time of decoding.
  • a profile may be defined according to the application, and information indicating the profile may be included in the meta information. For example, profiles for urban areas, suburbs, or flying objects are defined, and the maximum or minimum size of the world, SPC, or VLM is defined in each profile. For example, in a city area, detailed information is required more than in a suburb area, so the minimum size of the VLM is set smaller.
  • the meta information may include a tag value indicating the type of object.
  • This tag value is associated with the VLM, SPC, or GOS constituting the object. For example, the tag value “0” indicates “person”, the tag value “1” indicates “car”, the tag value “2” indicates “traffic light”, and the like. Also good.
  • a tag value indicating a size or a property such as a dynamic object or a static object may be used.
  • the meta information may include information indicating the range of the space area occupied by the world.
  • the meta information may store the SPC or VXL size as header information common to a plurality of SPCs such as the entire encoded data stream or SPC in GOS.
  • the meta information may include identification information such as a distance sensor or a camera used for generating the point cloud, or information indicating the position accuracy of the point cloud in the point cloud.
  • the meta information may include information indicating whether the world is composed of only static objects or includes dynamic objects.
  • the encoding device or decoding device may encode or decode two or more different SPCs or GOSs in parallel.
  • the GOS to be encoded or decoded in parallel can be determined based on meta information indicating the spatial position of the GOS.
  • the encoding device or the decoding device uses GPS, route information, zoom magnification, etc. You may encode or decode GOS or SPC included in the space specified based on it.
  • the decoding device may perform decoding in order from a space close to the self-position or the travel route.
  • the encoding device or the decoding device may encode or decode a space far from its own position or travel route with a lower priority than a close space.
  • lowering the priority means lowering the processing order, lowering the resolution (processing by thinning out), or lowering the image quality (increasing encoding efficiency, for example, increasing the quantization step).
  • the decoding device may decode only the lower layer when decoding the encoded data that is hierarchically encoded in the space.
  • the decoding device may decode preferentially from the lower hierarchy according to the zoom magnification or use of the map.
  • the encoding device or the decoding device encodes with a resolution reduced except for an area within a specific height from the road surface (an area for recognition). Or decoding may be performed.
  • the encoding device may individually encode the point clouds representing the indoor and outdoor space shapes. For example, by separating GOS (indoor GOS) representing the room and GOS (outdoor GOS) representing the room, the decoding device selects the GOS to be decoded according to the viewpoint position when using the encoded data. it can.
  • the encoding device may encode the indoor GOS and the outdoor GOS having close coordinates so as to be adjacent in the encoded stream.
  • the encoding apparatus associates both identifiers, and stores information indicating the identifiers associated with each other in the encoded stream or meta information stored separately.
  • the decoding apparatus can identify the indoor GOS and the outdoor GOS whose coordinates are close by referring to the information in the meta information.
  • the encoding device may switch the size of GOS or SPC between the indoor GOS and the outdoor GOS. For example, the encoding apparatus sets the size of GOS smaller in the room than in the outdoor. Further, the encoding device may change the accuracy when extracting feature points from the point cloud, the accuracy of object detection, or the like between the indoor GOS and the outdoor GOS.
  • the encoding device may add information for the decoding device to display the dynamic object separately from the static object to the encoded data.
  • the decoding apparatus can display a dynamic object and a red frame or explanatory characters together.
  • the decoding device may display only a red frame or explanatory characters instead of the dynamic object.
  • the decoding device may display a finer object type. For example, a red frame may be used for a car and a yellow frame may be used for a human.
  • the encoding device or the decoding device encodes the dynamic object and the static object as different SPC or GOS according to the appearance frequency of the dynamic object or the ratio of the static object to the dynamic object. Or you may decide whether to decode. For example, when the appearance frequency or ratio of a dynamic object exceeds a threshold, SPC or GOS in which a dynamic object and a static object are mixed is allowed, and the appearance frequency or ratio of a dynamic object does not exceed the threshold Does not allow SPC or GOS in which dynamic objects and static objects are mixed.
  • the encoding device When detecting a dynamic object from the two-dimensional image information of the camera instead of the point cloud, the encoding device separately acquires information for identifying the detection result (such as a frame or a character) and the object position, Such information may be encoded as part of the three-dimensional encoded data. In this case, the decoding device superimposes and displays auxiliary information (frame or character) indicating the dynamic object on the decoding result of the static object.
  • auxiliary information frame or character
  • the encoding device may change the density of VXL or VLM in the SPC according to the complexity of the shape of the static object. For example, the encoding device densely sets VXL or VLM when the shape of the static object is complicated. Further, the encoding apparatus may determine a quantization step or the like when quantizing the spatial position or color information according to the density of VXL or VLM. For example, the encoding apparatus sets the quantization step to be smaller as VXL or VLM is denser.
  • the encoding device or decoding device performs space encoding or decoding in units of space having coordinate information.
  • the encoding device and the decoding device perform encoding or decoding in units of volume in the space.
  • the volume includes a voxel that is a minimum unit with which position information is associated.
  • the encoding device and the decoding device associate arbitrary elements using a table in which each element of spatial information including coordinates, objects, time, and the like is associated with a GOP, or a table in which elements are associated with each other. Encoding or decoding.
  • the decoding apparatus determines coordinates using the value of the selected element, specifies a volume, voxel, or space from the coordinates, and decodes the space including the volume or voxel or the specified space.
  • the encoding device determines a volume, voxel, or space that can be selected by the element by feature point extraction or object recognition, and encodes it as a randomly accessible volume, voxel, or space.
  • a space refers to an I-SPC that can be encoded or decoded by the space alone, a P-SPC that is encoded or decoded with reference to any one processed space, and any two processed spaces. Are classified into three types of B-SPC encoded or decoded.
  • One or more volumes correspond to static objects or dynamic objects.
  • a space including a static object and a space including a dynamic object are encoded or decoded as different GOS. That is, the SPC including the static object and the SPC including the dynamic object are assigned to different GOSs.
  • a dynamic object is encoded or decoded for each object, and is associated with one or more spaces including static objects. That is, the plurality of dynamic objects are individually encoded, and the obtained encoded data of the plurality of dynamic objects is associated with the SPC including the static object.
  • the encoding device and the decoding device increase the priority of I-SPC in GOS and perform encoding or decoding.
  • the encoding apparatus performs encoding so that degradation of I-SPC is reduced (so that original three-dimensional data is reproduced more faithfully after decoding).
  • the decoding device decodes only I-SPC, for example.
  • the encoding device may perform encoding by changing the frequency of using I-SPC according to the density or number (quantity) of objects in the world. That is, the encoding device changes the frequency of selecting the I-SPC according to the number or density of objects included in the three-dimensional data. For example, the encoding device increases the frequency of using the I space as the objects in the world are denser.
  • the encoding apparatus sets random access points in units of GOS, and stores information indicating the space area corresponding to GOS in the header information.
  • the encoding device uses, for example, a default value as the GOS space size.
  • the encoding device may change the size of the GOS according to the number (amount) or density of objects or dynamic objects. For example, the encoding device reduces the GOS space size as the number of objects or dynamic objects increases.
  • the space or volume includes a feature point group derived using information obtained by a sensor such as a depth sensor, gyroscope, or camera.
  • the coordinates of the feature point are set at the center position of the voxel. Further, high accuracy of position information can be realized by subdividing voxels.
  • the feature point group is derived using a plurality of pictures.
  • the plurality of pictures have at least two types of time information: actual time information and the same time information (for example, encoding time used for rate control) in the plurality of pictures associated with the space.
  • encoding or decoding is performed in units of GOS including one or more spaces.
  • the encoding device and the decoding device refer to the space in the processed GOS and predict the P space or B space in the processing target GOS.
  • the encoding device and the decoding device do not refer to different GOS, and use the processed space in the processing target GOS to predict the P space or B space in the processing target GOS.
  • the encoding device and the decoding device transmit or receive the encoded stream in units of world including one or more GOSs.
  • GOS has a layer structure in at least one direction in the world, and the encoding device and the decoding device perform encoding or decoding from a lower layer.
  • a randomly accessible GOS belongs to the lowest layer.
  • GOS belonging to an upper layer refers to GOS belonging to the same layer or lower. That is, GOS includes a plurality of layers that are spatially divided in a predetermined direction and each include one or more SPCs.
  • the encoding device and the decoding device encode or decode each SPC with reference to the SPC included in the same layer as the SPC or a layer lower than the SPC.
  • the encoding device and the decoding device continuously encode or decode GOS within a world unit including a plurality of GOSs.
  • the encoding device and the decoding device write or read information indicating the order (direction) of encoding or decoding as metadata. That is, the encoded data includes information indicating the encoding order of a plurality of GOSs.
  • the encoding device and the decoding device encode or decode two or more different spaces or GOS in parallel.
  • the encoding device and the decoding device encode or decode space or GOS space information (coordinates, size, etc.).
  • the encoding device and the decoding device encode or decode a space or GOS included in a specific space that is specified based on external information related to its position or / and region size, such as GPS, route information, or magnification. .
  • the encoding device or decoding device encodes or decodes a space far from its own position with a lower priority than a close space.
  • the encoding apparatus sets a certain direction of the world according to the magnification or application, and encodes GOS having a layer structure in the direction. Further, the decoding apparatus preferentially decodes GOS having a layer structure in one direction of the world set according to the magnification or use from the lower layer.
  • the encoding device changes the feature point included in the space, the accuracy of object recognition, or the size of the space area between the room and the room.
  • the encoding device and the decoding device encode or decode the indoor GOS and the outdoor GOS whose coordinates are close to each other in the world, and encode or decode these identifiers in association with each other.
  • a three-dimensional data encoding method and a three-dimensional data encoding device for providing a function of transmitting and receiving only necessary information according to applications in encoded data of a three-dimensional point cloud, and A three-dimensional decoding method and a three-dimensional data device for decoding encoded data will be described.
  • FIG. 11 is a diagram illustrating a configuration example of a sparse world and a world.
  • SWLD includes FGOS, which is a GOS composed of FVXL, FSPC, which is an SPC composed of FVXL, and FVLM, which is a VLM composed of FVXL.
  • FGOS which is a GOS composed of FVXL
  • FSPC which is an SPC composed of FVXL
  • FVLM which is a VLM composed of FVXL.
  • the data structure and prediction structure of FGOS, FSPS, and FVLM may be the same as those of GOS, SPS, and VLM.
  • the feature amount is a feature amount that expresses VXL three-dimensional position information or visible light information of the VXL position, and is a feature amount that is often detected particularly at corners and edges of a three-dimensional object.
  • this feature quantity is a three-dimensional feature quantity or visible light feature quantity as described below, but any other feature quantity that represents VXL position, luminance, color information, or the like can be used. It does n’t matter.
  • a SHOT feature value Signature of Histograms of Orientations
  • a PFH feature value Point Feature History
  • a PPF feature value Point Pair Feature
  • the SHOT feature value is obtained by dividing the periphery of the VXL, calculating the inner product of the reference point and the normal vector of the divided area, and generating a histogram.
  • This SHOT feature amount has a feature that the number of dimensions is high and the feature expression power is high.
  • the PFH feature value is obtained by selecting a large number of two-point sets in the vicinity of the VXL, calculating a normal vector from the two points, and forming a histogram. Since this PFH feature amount is a histogram feature, it has a feature that it has robustness against a certain amount of disturbance and has a high feature expression power.
  • the PPF feature value is a feature value calculated using a normal vector or the like for each two VXL points. Since all VXL is used for this PPF feature quantity, it has robustness against occlusion.
  • SIFT Scale-Invariant Feature Transform
  • SURF Speeded Up Robust Features
  • HOG Histogram of Orient
  • SWLD is generated by calculating the feature amount from each VXL of WLD and extracting FVXL.
  • the SWLD may be updated every time the WLD is updated, or may be updated periodically after a certain period of time regardless of the update timing of the WLD.
  • SWLD may be generated for each feature amount. For example, separate SWLDs may be generated for each feature quantity, such as SWLD1 based on SHOT feature quantity and SWLD2 based on SIFT feature quantity, and the SWLD may be used properly according to the application. Further, the calculated feature amount of each FVXL may be held in each FVXL as feature amount information.
  • SWLD Sparse World
  • WDL and SWLD are held in the server as map information, and the network bandwidth and transfer time can be suppressed by switching the map information to be transmitted to WLD or SWLD according to the request from the client. . Specific examples will be shown below.
  • FIG. 12 and 13 are diagrams showing examples of using SWLD and WLD.
  • the client 1 when the client 1 which is an in-vehicle device needs map information for the purpose of self-position determination, the client 1 sends a request for acquiring map data for self-position estimation to the server (S301).
  • the server transmits the SWLD to the client 1 in response to the acquisition request (S302).
  • the client 1 performs self-position determination using the received SWLD (S303).
  • the client 1 acquires VXL information around the client 1 by various methods such as a distance sensor such as a range finder, a stereo camera, or a combination of a plurality of monocular cameras, and self-assembling from the obtained VXL information and SWLD.
  • the self-position information includes the three-dimensional position information and orientation of the client 1.
  • the client 2 which is an in-vehicle device needs map information for the purpose of drawing a map such as a three-dimensional map
  • the client 2 sends a request for obtaining map data for map drawing to the server (S311). ).
  • the server transmits a WLD to the client 2 in response to the acquisition request (S312).
  • the client 2 performs map drawing using the received WLD (S313).
  • the client 2 creates a rendering image using, for example, an image captured by itself with a visible light camera or the like and a WLD acquired from the server, and draws the created image on a screen such as a car navigation system.
  • the server sends SWLD to the client for applications that mainly require the feature amount of each VXL such as self-position estimation, and WLD is used when detailed VXL information is required such as map drawing. Send to client. Thereby, it becomes possible to transmit / receive map data efficiently.
  • the client may determine whether SWLD or WLD is necessary, and may request the server to send SWLD or WLD. Further, the server may determine whether to transmit SWLD or WLD according to the situation of the client or the network.
  • SWLD sparse world
  • WLD world
  • FIG. 14 is a diagram showing an operation example in this case.
  • a low-speed network with a limited network bandwidth such as in LTE (Long Term Evolution) environment
  • the client accesses the server via the low-speed network (S321), and maps from the server.
  • SWLD is acquired as information (S322).
  • a high-speed network with sufficient network bandwidth such as in a Wi-Fi (registered trademark) environment
  • the client accesses the server via the high-speed network (S323), and acquires the WLD from the server. (S324).
  • the client can acquire suitable map information according to the network bandwidth of the client.
  • the client receives the SWLD via LTE outdoors, and acquires the WLD via Wi-Fi (registered trademark) when entering a facility or the like indoors. As a result, the client can acquire more detailed map information indoors.
  • Wi-Fi registered trademark
  • the client may request WLD or SWLD from the server according to the network bandwidth used by the client.
  • the client may transmit information indicating the network bandwidth used by the client to the server, and the server may transmit data (WLD or SWLD) suitable for the client according to the information.
  • the server may determine the network bandwidth of the client and transmit data (WLD or SWLD) suitable for the client.
  • FIG. 15 is a diagram illustrating an operation example in this case.
  • the client when the client is moving at high speed (S331), the client receives SWLD from the server (S332).
  • the client receives the WLD from the server (S334).
  • the client can acquire map information matching the speed while suppressing the network bandwidth.
  • the client can update rough map information at an appropriate speed by receiving a SWLD with a small amount of data while traveling on an expressway.
  • the client can acquire more detailed map information by receiving the WLD while traveling on a general road.
  • the client may request WLD or SWLD from the server according to its moving speed.
  • the client may transmit information indicating its own moving speed to the server, and the server may transmit data (WLD or SWLD) suitable for the client according to the information.
  • the server may determine the moving speed of the client and transmit data (WLD or SWLD) suitable for the client.
  • the client may first acquire the SWLD from the server, and may acquire the WLD of an important area in the SWLD. For example, when acquiring map data, the client first acquires rough map information by SWLD, narrows down areas where many features such as buildings, signs, or people appear, and then narrows down the WLD of the narrowed area. Get it later. Thereby, the client can acquire detailed information on a necessary area while suppressing the amount of data received from the server.
  • the server may create a separate SWLD for each object from the WLD, and the client may receive each according to the application. Thereby, a network band can be suppressed.
  • the server recognizes a person or a car in advance from the WLD, and creates a human SWLD and a car SWLD.
  • the client receives a person's SWLD if he wants to obtain information on people around him, and receives a car's SWLD if he wants to obtain car information.
  • SWLD types may be distinguished by information (flag or type) added to a header or the like.
  • FIG. 16 is a block diagram of 3D data encoding apparatus 400 according to the present embodiment.
  • FIG. 17 is a flowchart of three-dimensional data encoding processing by the three-dimensional data encoding device 400.
  • the 16 generates encoded 3D data 413 and 414, which are encoded streams, by encoding the input 3D data 411.
  • the encoded 3D data 413 is encoded 3D data corresponding to WLD
  • the encoded 3D data 414 is encoded 3D data corresponding to SWLD.
  • the three-dimensional data encoding apparatus 400 includes an acquisition unit 401, an encoding region determination unit 402, a SWLD extraction unit 403, a WLD encoding unit 404, and a SWLD encoding unit 405.
  • the acquisition unit 401 acquires input three-dimensional data 411 that is point cloud data in a three-dimensional space (S401).
  • the coding area determination unit 402 determines a space area to be coded based on the space area where the point cloud data exists (S402).
  • the SWLD extraction unit 403 defines a space area to be encoded as WLD, and calculates a feature amount from each VXL included in the WLD. Then, the SWLD extraction unit 403 extracts VXL whose feature amount is equal to or greater than a predetermined threshold, defines the extracted VXL as FVXL, and adds the FVXL to the SWLD, thereby generating extracted three-dimensional data 412. (S403). That is, extracted 3D data 412 having a feature amount equal to or greater than a threshold is extracted from the input 3D data 411.
  • the WLD encoding unit 404 generates encoded three-dimensional data 413 corresponding to WLD by encoding the input three-dimensional data 411 corresponding to WLD (S404). At this time, the WLD encoding unit 404 adds information for distinguishing that the encoded three-dimensional data 413 is a stream including WLD to the header of the encoded three-dimensional data 413.
  • the SWLD encoding unit 405 generates encoded three-dimensional data 414 corresponding to SWLD by encoding the extracted three-dimensional data 412 corresponding to SWLD (S405). At this time, the SWLD encoding unit 405 adds information for distinguishing that the encoded three-dimensional data 414 is a stream including SWLD to the header of the encoded three-dimensional data 414.
  • processing order of the process of generating the encoded three-dimensional data 413 and the process of generating the encoded three-dimensional data 414 may be reverse to the above. Also, some or all of these processes may be performed in parallel.
  • a parameter “world_type” is defined.
  • a specific flag may be included in one of the encoded three-dimensional data 413 and 414. For example, a flag including that the stream includes SWLD may be assigned to the encoded three-dimensional data 414. In this case, the decoding apparatus can determine whether the stream includes WLD or SWLD depending on the presence or absence of a flag.
  • the encoding method used when the WLD encoding unit 404 encodes WLD may be different from the encoding method used when the SWLD encoding unit 405 encodes SWLD.
  • inter prediction may be prioritized among intra prediction and inter prediction over the encoding method used for WLD.
  • the encoding method used for SWLD and the encoding method used for WLD may differ in the three-dimensional position representation method.
  • the three-dimensional position of SVXL may be represented by three-dimensional coordinates
  • WLD the three-dimensional position may be represented by an octree that will be described later, and vice versa.
  • the SWLD encoding unit 405 performs encoding so that the data size of the encoded three-dimensional data 414 of SWLD is smaller than the data size of the encoded three-dimensional data 413 of WLD.
  • SWLD may have a lower correlation between data than WLD.
  • the encoding efficiency decreases, and the data size of the encoded three-dimensional data 414 may become larger than the data size of the encoded three-dimensional data 413 of WLD. Therefore, when the data size of the obtained encoded three-dimensional data 414 is larger than the data size of the encoded three-dimensional data 413 of the WLD, the SWLD encoding unit 405 performs re-encoding to thereby obtain the data size.
  • the encoded three-dimensional data 414 with reduced is regenerated.
  • the SWLD extraction unit 403 regenerates the extracted three-dimensional data 412 in which the number of feature points to be extracted is reduced, and the SWLD encoding unit 405 encodes the extracted three-dimensional data 412.
  • the degree of quantization in the SWLD encoding unit 405 may be made coarser.
  • the degree of quantization can be roughened by rounding the data in the lowest layer.
  • the SWLD encoding unit 405 does not generate the SWLD encoded three-dimensional data 414. May be.
  • the encoded 3D data 413 of WLD may be copied to the encoded 3D data 414 of SWLD. That is, the WLD encoded three-dimensional data 413 may be used as it is as the SWLD encoded three-dimensional data 414.
  • FIG. 18 is a block diagram of 3D data decoding apparatus 500 according to the present embodiment.
  • FIG. 19 is a flowchart of the 3D data decoding process performed by the 3D data decoding apparatus 500.
  • the three-dimensional data decoding apparatus 500 shown in FIG. 18 generates decoded three-dimensional data 512 or 513 by decoding the encoded three-dimensional data 511.
  • the encoded 3D data 511 is, for example, the encoded 3D data 413 or 414 generated by the 3D data encoding device 400.
  • the 3D data decoding apparatus 500 includes an acquisition unit 501, a header analysis unit 502, a WLD decoding unit 503, and a SWLD decoding unit 504.
  • the acquisition unit 501 acquires encoded three-dimensional data 511 (S501).
  • the header analysis unit 502 analyzes the header of the encoded three-dimensional data 511 and determines whether the encoded three-dimensional data 511 is a stream including WLD or a stream including SWLD (S502). For example, the determination is performed with reference to the above-described parameter of type_type.
  • the WLD decoding unit 503 When the encoded 3D data 511 is a stream including WLD (Yes in S503), the WLD decoding unit 503 generates the decoded 3D data 512 of WLD by decoding the encoded 3D data 511 (S504). . On the other hand, when the encoded three-dimensional data 511 is a stream including SWLD (No in S503), the SWLD decoding unit 504 generates the decoded three-dimensional data 513 of SWLD by decoding the encoded three-dimensional data 511 ( S505).
  • the decoding method used when the WLD decoding unit 503 decodes WLD may be different from the decoding method used when the SWLD decoding unit 504 decodes SWLD.
  • inter prediction may be prioritized among intra prediction and inter prediction over the decoding method used for WLD.
  • the three-dimensional position representation method may be different between the decoding method used for SWLD and the decoding method used for WLD.
  • the three-dimensional position of SVXL may be represented by three-dimensional coordinates
  • WLD the three-dimensional position may be represented by an octree that will be described later, and vice versa.
  • FIG. 20 is a diagram illustrating an example of VXL of WLD.
  • FIG. 21 is a diagram showing an octree structure of the WLD shown in FIG. In the example shown in FIG. 20, there are three VXLs 1 to 3 that are VXLs including point clouds (hereinafter referred to as effective VXLs).
  • the octree structure is composed of nodes and leaves. Each node has a maximum of 8 nodes or leaves. Each leaf has VXL information. Of the leaves shown in FIG. 21, leaves 1, 2, and 3 represent VXL1, VXL2, and VXL3 shown in FIG. 20, respectively.
  • each node and leaf corresponds to a three-dimensional position.
  • Node 1 corresponds to the entire block shown in FIG.
  • the block corresponding to the node 1 is divided into eight blocks. Among the eight blocks, a block including the valid VXL is set as a node, and the other blocks are set as leaves.
  • the block corresponding to the node is further divided into eight nodes or leaves, and this process is repeated for the hierarchy of the tree structure. In addition, all the lowermost blocks are set to leaves.
  • FIG. 22 is a diagram showing an example of SWLD generated from the WLD shown in FIG. VXL1 and VXL2 shown in FIG. 20 are determined as FVXL1 and FVXL2 as a result of feature amount extraction, and are added to SWLD.
  • VXL3 is not determined as FVXL and is not included in SWLD.
  • FIG. 23 is a diagram illustrating the octree structure of the SWLD illustrated in FIG. In the octree structure shown in FIG. 23, leaf 3 corresponding to VXL3 shown in FIG. 21 is deleted. As a result, the node 3 shown in FIG. 21 does not have a valid VXL and is changed to a leaf.
  • the number of leaves of SWLD is smaller than the number of leaves of WLD, and the encoded three-dimensional data of SWLD is also smaller than the encoded three-dimensional data of WLD.
  • a client such as an in-vehicle device receives SWLD from a server when performing self-position estimation, performs self-position estimation using SWLD, and performs obstacle detection when performing distance detection such as a range finder, stereo.
  • Obstacle detection may be performed based on surrounding three-dimensional information acquired by using various methods such as a camera or a combination of a plurality of monocular cameras.
  • SWLD hardly includes VXL data in a flat region. Therefore, the server may hold a sub-sample world (subWLD) obtained by sub-sampled WLD and send SWLD and subWLD to the client for detection of a static obstacle. Thereby, it is possible to perform self-position estimation and obstacle detection on the client side while suppressing the network bandwidth.
  • subWLD sub-sample world
  • the server may generate a mesh from WLD and hold it in advance as a mesh world (MWLD). For example, the client receives MWLD if it needs coarse 3D rendering and receives WLD if it needs detailed 3D rendering. Thereby, a network band can be suppressed.
  • MWLD mesh world
  • the server may calculate the FVXL by a different method. For example, the server determines that VXL, VLM, SPS, or GOS constituting a signal or an intersection is necessary for self-position estimation, driving assistance, automatic driving, etc., and includes it in SWLD as FVXL, FVLM, FSPS, FGOS It doesn't matter if you do. Further, the above determination may be made manually. In addition, you may add FVXL etc. which were obtained by the said method to FVXL etc. which were set based on the feature-value. That is, the SWLD extraction unit 403 may further extract data corresponding to an object having a predetermined attribute from the input three-dimensional data 411 as the extracted three-dimensional data 412.
  • the server may separately hold FVXL necessary for self-position estimation such as signals or intersections, driving assistance, or automatic driving as an upper layer of SWLD (for example, lane world).
  • the server may add an attribute to the VXL in the WLD for each random access unit or every predetermined unit.
  • the attribute includes, for example, information indicating whether it is necessary or unnecessary for self-position estimation, or information indicating whether it is important as traffic information such as a signal or an intersection. Further, the attribute may include a correspondence relationship with a Feature (an intersection or a road) in the lane information (GDF: Geographic Data Files, etc.).
  • the following method may be used as a WLD or SWLD update method.
  • Update information indicating changes in people, construction, or row of trees (for trucks) is uploaded to the server as point clouds or metadata. Based on the upload, the server updates the WLD, and then updates the SWLD using the updated WLD.
  • the client may send the 3D information generated by itself to the server together with the update notification. Good.
  • the server updates SWLD using WLD. If the SWLD is not updated, the server determines that the WLD itself is old.
  • information for distinguishing between WLD and SWLD is added as header information of the encoded stream. For example, when there are multiple types of worlds such as a mesh world or a lane world, they are distinguished. Information may be added to the header information. In addition, when there are a large number of SWLDs having different feature amounts, information for distinguishing each may be added to the header information.
  • SWLD is composed of FVXL, it may include VXL that is not determined to be FVXL.
  • the SWLD may include an adjacent VXL used when calculating the feature amount of the FVXL. Accordingly, even when the feature amount information is not added to each FVXL of the SWLD, the client can calculate the feature amount of the FVXL when receiving the SWLD.
  • SWLD may include information for distinguishing whether each VXL is FVXL or VXL.
  • the three-dimensional data encoding device 400 extracts the extracted three-dimensional data 412 (second three-dimensional data) whose feature amount is equal to or greater than the threshold from the input three-dimensional data 411 (first three-dimensional data), and extracts the extracted three-dimensional data 412 (second three-dimensional data).
  • Encoded three-dimensional data 414 (first encoded three-dimensional data) is generated by encoding the three-dimensional data 412.
  • the three-dimensional data encoding device 400 generates encoded three-dimensional data 414 in which data having a feature amount equal to or greater than a threshold value is encoded. Thereby, the amount of data can be reduced as compared with the case where the input three-dimensional data 411 is encoded as it is. Therefore, the three-dimensional data encoding device 400 can reduce the amount of data to be transmitted.
  • the three-dimensional data encoding device 400 further generates encoded three-dimensional data 413 (second encoded three-dimensional data) by encoding the input three-dimensional data 411.
  • the three-dimensional data encoding device 400 can selectively transmit the encoded three-dimensional data 413 and the encoded three-dimensional data 414, for example, according to the usage.
  • the extracted three-dimensional data 412 is encoded by the first encoding method
  • the input three-dimensional data 411 is encoded by a second encoding method different from the first encoding method.
  • the 3D data encoding apparatus 400 can use encoding methods suitable for the input 3D data 411 and the extracted 3D data 412 respectively.
  • inter prediction has priority over intra prediction and inter prediction over the second encoding method.
  • the three-dimensional data encoding apparatus 400 can raise the priority of inter prediction with respect to the extracted three-dimensional data 412 in which the correlation between adjacent data tends to be low.
  • the first encoding method and the second encoding method differ in the three-dimensional position representation method.
  • a three-dimensional position is expressed by an octree
  • a three-dimensional position is expressed by a three-dimensional coordinate.
  • the three-dimensional data encoding device 400 can use a more suitable three-dimensional position representation method for three-dimensional data having different numbers of data (number of VXL or SVXL).
  • At least one of the encoded three-dimensional data 413 and 414 is the encoded three-dimensional data obtained by encoding the input three-dimensional data 411 or the input three-dimensional data 411.
  • the identifier which shows whether it is the encoding three-dimensional data obtained by encoding a part of is included. That is, the identifier indicates whether the encoded three-dimensional data is the WLD encoded three-dimensional data 413 or the SWLD encoded three-dimensional data 414.
  • the decoding apparatus can easily determine whether the acquired encoded 3D data is the encoded 3D data 413 or the encoded 3D data 414.
  • the three-dimensional data encoding device 400 encodes the extracted three-dimensional data 412 so that the data amount of the encoded three-dimensional data 414 is smaller than the data amount of the encoded three-dimensional data 413.
  • the three-dimensional data encoding device 400 can make the data amount of the encoded three-dimensional data 414 smaller than the data amount of the encoded three-dimensional data 413.
  • the three-dimensional data encoding device 400 further extracts data corresponding to an object having a predetermined attribute from the input three-dimensional data 411 as the extracted three-dimensional data 412.
  • an object having a predetermined attribute is an object necessary for self-position estimation, driving assistance, automatic driving, or the like, such as a signal or an intersection.
  • the three-dimensional data encoding device 400 can generate encoded three-dimensional data 414 including data necessary for the decoding device.
  • the three-dimensional data encoding device 400 (server) further transmits one of the encoded three-dimensional data 413 and 414 to the client according to the state of the client.
  • the three-dimensional data encoding device 400 can transmit appropriate data according to the state of the client.
  • the client status includes the communication status (for example, network bandwidth) of the client or the moving speed of the client.
  • the three-dimensional data encoding apparatus 400 further transmits one of the encoded three-dimensional data 413 and 414 to the client in response to a request from the client.
  • the three-dimensional data encoding device 400 can transmit appropriate data in response to a client request.
  • the 3D data decoding apparatus 500 decodes the encoded 3D data 413 or 414 generated by the 3D data encoding apparatus 400.
  • the three-dimensional data decoding apparatus 500 performs first decoding on the encoded three-dimensional data 414 obtained by encoding the extracted three-dimensional data 412 whose feature amount extracted from the input three-dimensional data 411 is equal to or greater than a threshold value. Decrypt by method. In addition, the three-dimensional data decoding apparatus 500 decodes the encoded three-dimensional data 413 obtained by encoding the input three-dimensional data 411 by a second decoding method different from the first decoding method.
  • the three-dimensional data decoding apparatus 500 selects the encoded three-dimensional data 414 obtained by encoding the data whose feature amount is equal to or greater than the threshold, and the encoded three-dimensional data 413, for example, according to the usage application. Can be received automatically. Thereby, the three-dimensional data decoding apparatus 500 can reduce the amount of data to be transmitted. Further, the three-dimensional data decoding apparatus 500 can use a decoding method suitable for each of the input three-dimensional data 411 and the extracted three-dimensional data 412.
  • inter prediction has priority over intra prediction and inter prediction over the second decoding method.
  • the three-dimensional data decoding apparatus 500 can raise the priority of inter prediction with respect to the extracted three-dimensional data in which the correlation between adjacent data tends to be low.
  • the first decoding method and the second decoding method differ in the three-dimensional position representation method.
  • the three-dimensional position is expressed by an octree
  • the three-dimensional position is expressed by a three-dimensional coordinate.
  • the three-dimensional data decoding apparatus 500 can use a more suitable three-dimensional position expression method for three-dimensional data having different numbers of data (number of VXL or SVXL).
  • At least one of the encoded three-dimensional data 413 and 414 is the encoded three-dimensional data obtained by encoding the input three-dimensional data 411 or the input three-dimensional data 411.
  • the identifier which shows whether it is the encoding three-dimensional data obtained by encoding a part of is included.
  • the three-dimensional data decoding apparatus 500 refers to the identifier to identify the encoded three-dimensional data 413 and 414.
  • the 3D data decoding apparatus 500 can easily determine whether the acquired encoded 3D data is the encoded 3D data 413 or the encoded 3D data 414.
  • the 3D data decoding apparatus 500 further notifies the server of the state of the client (3D data decoding apparatus 500).
  • the three-dimensional data decoding apparatus 500 receives one of the encoded three-dimensional data 413 and 414 transmitted from the server according to the state of the client.
  • the 3D data decoding apparatus 500 can receive appropriate data according to the state of the client.
  • the client status includes the communication status (for example, network bandwidth) of the client or the moving speed of the client.
  • the three-dimensional data decoding apparatus 500 further requests one of the encoded three-dimensional data 413 and 414 from the server, and in response to the request, one of the encoded three-dimensional data 413 and 414 transmitted from the server. Receive.
  • the three-dimensional data decoding apparatus 500 can receive appropriate data according to the application.
  • FIG. 24 is a schematic diagram showing how the three-dimensional data 607 is transmitted / received between the host vehicle 600 and the surrounding vehicle 601.
  • a sensor such as a range finder, a stereo camera, or a combination of a plurality of monocular cameras mounted on the host vehicle 600
  • the sensor of the host vehicle 600 is detected by an obstacle such as the surrounding vehicle 601.
  • An area that is within the detection range 602 but cannot create 3D data (hereinafter referred to as an occlusion area 604) occurs.
  • the accuracy of autonomous operation increases as the space for acquiring the three-dimensional data increases, but the sensor detection range of the host vehicle 600 is limited.
  • the sensor detection range 602 of the host vehicle 600 includes an area 603 from which three-dimensional data can be acquired and an occlusion area 604.
  • the range in which the host vehicle 600 wants to acquire three-dimensional data includes the sensor detection range 602 of the host vehicle 600 and other areas.
  • the sensor detection range 605 of the surrounding vehicle 601 includes an occlusion area 604 and an area 606 that is not included in the sensor detection range 602 of the host vehicle 600.
  • the surrounding vehicle 601 transmits information detected by the surrounding vehicle 601 to the own vehicle 600.
  • the host vehicle 600 acquires three-dimensional data 607 in the occlusion region 604 and the region 606 other than the sensor detection range 602 of the host vehicle 600 by acquiring information detected by a surrounding vehicle 601 such as a preceding vehicle. Is possible.
  • the own vehicle 600 complements the three-dimensional data of the occlusion area 604 and the area 606 outside the sensor detection range using the information acquired by the surrounding vehicle 601.
  • the use of the three-dimensional data in the autonomous operation of the vehicle or robot is self-position estimation, detection of the surrounding situation, or both.
  • three-dimensional data generated by the host vehicle 600 based on the sensor information of the host vehicle 600 is used for the self-position estimation.
  • three-dimensional data acquired from the surrounding vehicle 601 is also used.
  • the surrounding vehicle 601 that transmits the three-dimensional data 607 to the host vehicle 600 may be determined according to the state of the host vehicle 600. For example, the surrounding vehicle 601 is a forward vehicle when the host vehicle 600 goes straight, an oncoming vehicle when the host vehicle 600 turns right, and a rear vehicle when the host vehicle 600 moves backward. In addition, the driver of the host vehicle 600 may directly specify the surrounding vehicle 601 that transmits the three-dimensional data 607 to the host vehicle 600.
  • the host vehicle 600 may search for a surrounding vehicle 601 that owns the three-dimensional data of the area that cannot be acquired by the host vehicle 600 included in the space in which the three-dimensional data 607 is to be acquired.
  • the area that cannot be acquired by the host vehicle 600 includes the occlusion area 604 or the area 606 outside the sensor detection range 602.
  • the host vehicle 600 may specify the occlusion area 604 based on the sensor information of the host vehicle 600. For example, the host vehicle 600 identifies an area included in the sensor detection range 602 of the host vehicle 600 where three-dimensional data cannot be created as the occlusion area 604.
  • FIG. 25 is a diagram showing an example of transmitted three-dimensional data in this case.
  • the three-dimensional data 607 transmitted from the preceding vehicle is, for example, a point cloud sparse world (SWLD). That is, the preceding vehicle creates three-dimensional WLD data (point cloud) from the information detected by the sensor of the preceding vehicle, and extracts the data whose feature amount is equal to or greater than the threshold value from the three-dimensional WLD data. Create 3D data (point cloud). The preceding vehicle then transmits the created SWLD three-dimensional data to the host vehicle 600.
  • SWLD point cloud sparse world
  • the own vehicle 600 receives the SWLD, and merges the received SWLD with the point cloud created by the own vehicle 600.
  • the transmitted SWLD has information on absolute coordinates (the position of the SWLD in the coordinate system of the three-dimensional map).
  • the host vehicle 600 can realize the merge process by overwriting the point cloud generated by the host vehicle 600 based on the absolute coordinates.
  • the SWLD transmitted from the surrounding vehicle 601 is the SWLD of the area 606 outside the sensor detection range 602 of the own vehicle 600 and within the sensor detection range 605 of the surrounding vehicle 601, or the SWLD of the occlusion area 604 for the own vehicle 600, or Both of them may be used. Further, the SWLD to be transmitted may be a SWLD of an area used by the surrounding vehicle 601 for detecting the surrounding situation among the above SWLDs.
  • the surrounding vehicle 601 may change the density of the transmitted point cloud according to the communicable time based on the speed difference between the host vehicle 600 and the surrounding vehicle 601. For example, when the speed difference is large and the communicable time is short, the surrounding vehicle 601 can reduce the point cloud density (data amount) by extracting a three-dimensional point having a large feature amount from the SWLD. Good.
  • the detection of the surrounding situation is to determine the presence / absence of people, vehicles, road construction equipment, etc., to identify the type, and to detect the position, moving direction, moving speed, etc. .
  • the host vehicle 600 may acquire braking information of the surrounding vehicle 601 instead of or in addition to the 3D data 607 generated by the surrounding vehicle 601.
  • the braking information of the surrounding vehicle 601 is information indicating, for example, that the accelerator or brake of the surrounding vehicle 601 has been stepped on or the degree thereof.
  • the three-dimensional space is subdivided into random access units in consideration of low-latency communication between vehicles.
  • a three-dimensional map or the like which is map data downloaded from a server, has a three-dimensional space divided into larger random access units than in the case of inter-vehicle communication.
  • each vehicle Since the importance of the front increases during high-speed driving, each vehicle creates a SWLD with a narrow viewing angle in fine random access units during high-speed driving.
  • the preceding vehicle may reduce the transmission amount by removing the point cloud in that area. Good.
  • FIG. 26 is a block diagram of the three-dimensional data creation device 620 according to the present embodiment.
  • the three-dimensional data creation device 620 is included in the host vehicle 600 described above, and synthesizes the received second three-dimensional data 635 with the first three-dimensional data 632 created by the three-dimensional data creation device 620. Further, the denser third three-dimensional data 636 is created.
  • the three-dimensional data creation device 620 includes a three-dimensional data creation unit 621, a request range determination unit 622, a search unit 623, a reception unit 624, a decoding unit 625, and a synthesis unit 626.
  • FIG. 27 is a flowchart showing the operation of the three-dimensional data creation device 620.
  • the three-dimensional data creation unit 621 creates first three-dimensional data 632 using sensor information 631 detected by a sensor included in the host vehicle 600 (S621).
  • the request range determination unit 622 determines a request range that is a three-dimensional space range in which data is insufficient in the generated first three-dimensional data 632 (S622).
  • the search unit 623 searches for the surrounding vehicle 601 that owns the three-dimensional data of the requested range, and transmits the requested range information 633 indicating the requested range to the surrounding vehicle 601 specified by the search (S623).
  • the receiving unit 624 receives encoded three-dimensional data 634 that is an encoded stream of the requested range from the surrounding vehicle 601 (S624).
  • the search part 623 may issue a request indiscriminately with respect to all the vehicles existing in the specific range, and may receive the encoded three-dimensional data 634 from a partner who has responded.
  • the search unit 623 may send a request to an object such as a traffic light or a sign, not limited to a vehicle, and receive the encoded three-dimensional data 634 from the object.
  • the decoding unit 625 acquires the second 3D data 635 by decoding the received encoded 3D data 634 (S625).
  • the synthesizing unit 626 synthesizes the first three-dimensional data 632 and the second three-dimensional data 635 to create denser third three-dimensional data 636 (S626).
  • FIG. 28 is a block diagram of the three-dimensional data transmission device 640.
  • the three-dimensional data transmission device 640 includes, for example, the fifth three-dimensional data 652 included in the surrounding vehicle 601 described above and created by the surrounding vehicle 601 into sixth three-dimensional data 654 requested by the own vehicle 600, and the sixth The encoded three-dimensional data 634 is generated by encoding the three-dimensional data 654, and the encoded three-dimensional data 634 is transmitted to the host vehicle 600.
  • the three-dimensional data transmission device 640 includes a three-dimensional data creation unit 641, a reception unit 642, an extraction unit 643, an encoding unit 644, and a transmission unit 645.
  • FIG. 29 is a flowchart showing the operation of the three-dimensional data transmission device 640.
  • the three-dimensional data creation unit 641 creates the fifth three-dimensional data 652 using the sensor information 651 detected by the sensors included in the surrounding vehicle 601 (S641).
  • the receiving unit 642 receives the request range information 633 transmitted from the host vehicle 600 (S642).
  • the extraction unit 643 extracts the three-dimensional data of the required range indicated by the required range information 633 from the fifth three-dimensional data 652, thereby processing the fifth three-dimensional data 652 into the sixth three-dimensional data 654. (S643).
  • the encoding unit 644 generates encoded three-dimensional data 634 that is an encoded stream by encoding the sixth three-dimensional data 654 (S644).
  • the transmission unit 645 transmits the encoded three-dimensional data 634 to the host vehicle 600 (S645).
  • each vehicle includes the three-dimensional data generation device 620 and the three-dimensional data. You may have a function with the transmitter 640. FIG.
  • FIG. 30 is a block diagram showing the configuration of the three-dimensional data creation device 620A in this case. 30, in addition to the configuration of the three-dimensional data creation device 620 shown in FIG. 26, the three-dimensional data creation device 620A further includes a detection area determination unit 627, a surrounding state detection unit 628, and an autonomous operation control unit 629. Prepare.
  • the three-dimensional data creation device 620A is included in the host vehicle 600.
  • FIG. 31 is a flowchart of the surrounding state detection processing of the host vehicle 600 by the three-dimensional data creation device 620A.
  • the three-dimensional data creation unit 621 creates first three-dimensional data 632 that is a point cloud using the sensor information 631 of the detection range of the host vehicle 600 detected by a sensor included in the host vehicle 600 (S661). Note that the three-dimensional data creation device 620A may further perform self-position estimation using the sensor information 631.
  • the detection area determination unit 627 determines a detection target range that is a spatial area in which the surrounding situation is to be detected (S662). For example, the detection area determination unit 627 calculates an area necessary for detecting the surrounding situation for safely performing the autonomous operation according to the situation of the autonomous operation (automatic driving) such as the traveling direction and speed of the host vehicle 600, The area is determined as a detection target range.
  • the required range determination unit 622 determines the occlusion area 604 and a spatial area that is outside the detection range of the sensor of the vehicle 600 but is necessary for detecting the surrounding situation as the required range (S663).
  • the search unit 623 searches for surrounding vehicles that have information on the requested range. For example, the search unit 623 may inquire of the surrounding vehicle whether the information regarding the requested range is owned, or based on the position of the requested range and the surrounding vehicle, whether the surrounding vehicle has information about the requested range. May be judged. Next, the search unit 623 transmits a request signal 637 for requesting transmission of three-dimensional data to the surrounding vehicle 601 specified by the search. Then, after receiving the permission signal transmitted from the surrounding vehicle 601 indicating that the request signal 637 is received, the search unit 623 transmits the request range information 633 indicating the requested range to the surrounding vehicle 601 (S665). .
  • the receiving unit 624 detects a transmission notification of the transmission data 638 that is information related to the requested range, and receives the transmission data 638 (S666).
  • the 3D data creation device 620A sends a request indiscriminately to all vehicles existing in a specific range without searching for a partner to which the request is sent, and receives a response if it has information about the required range.
  • Transmission data 638 may be received from the other party.
  • the search unit 623 may send a request to an object such as a traffic light or a sign, not limited to a vehicle, and receive transmission data 638 from the object.
  • the transmission data 638 includes at least one of the encoded three-dimensional data 634 generated by the surrounding vehicle 601 and encoded with the three-dimensional data of the requested range, and the surrounding condition detection result 639 of the requested range.
  • the surrounding situation detection result 639 indicates the position, moving direction, moving speed, and the like of the person and vehicle detected by the surrounding vehicle 601.
  • the transmission data 638 may include information indicating the position and movement of the surrounding vehicle 601.
  • the transmission data 638 may include braking information of the surrounding vehicle 601.
  • the decoding unit 625 acquires the SWLD second 3D data 635 by decoding the encoded 3D data 634. (S668). That is, the second three-dimensional data 635 is three-dimensional data (SWLD) generated by extracting data having a feature amount equal to or greater than a threshold value from the fourth three-dimensional data (WLD).
  • SWLD three-dimensional data
  • the synthesizing unit 626 generates the third 3D data 636 by synthesizing the first 3D data 632 and the second 3D data 635 (S669).
  • the surrounding state detection unit 628 detects the surrounding state of the host vehicle 600 using the third three-dimensional data 636 that is a point cloud in the space area necessary for the surrounding state detection (S670).
  • the surrounding situation detection unit 628 uses the surrounding situation detection result 639 in addition to the third three-dimensional data 636 to Detect the surrounding situation.
  • the received transmission data 638 includes braking information of the surrounding vehicle 601
  • the surrounding state detection unit 628 uses the braking information in addition to the third three-dimensional data 636 to Detect the situation.
  • the autonomous operation control unit 629 controls the autonomous operation (automatic driving) of the host vehicle 600 based on the surrounding state detection result by the surrounding state detection unit 628 (S671).
  • the surrounding state detection result may be presented to the driver through a UI (user interface) or the like.
  • step S663 if the required range does not exist in step S663 (No in S664), that is, if the information of all the spatial areas necessary for the surrounding situation detection can be created based on the sensor information 631, the surrounding situation detecting unit 628 Then, the surrounding state of the host vehicle 600 is detected using the first three-dimensional data 632 which is a point cloud in the spatial region necessary for detecting the surrounding state (S672). Then, the autonomous operation control unit 629 controls the autonomous operation (automatic driving) of the host vehicle 600 based on the surrounding state detection result by the surrounding state detection unit 628 (S671).
  • the received transmission data 638 does not include the encoded three-dimensional data 634 (No in S667), that is, when the transmission data 638 includes only the surrounding situation detection result 639 or the braking information of the surrounding vehicle 601.
  • the surrounding state detection unit 628 detects the surrounding state of the host vehicle 600 using the first three-dimensional data 632 and the surrounding state detection result 639 or the braking information (S673).
  • the autonomous operation control unit 629 controls the autonomous operation (automatic driving) of the host vehicle 600 based on the surrounding state detection result by the surrounding state detection unit 628 (S671).
  • FIG. 32 is a block diagram of the three-dimensional data transmission device 640A.
  • the 32 is further provided with a transmission permission / inhibition determination unit 646 in addition to the configuration of the three-dimensional data transmission device 640 illustrated in FIG. Also, the three-dimensional data transmission device 640A is included in the surrounding vehicle 601.
  • FIG. 33 is a flowchart showing an operation example of the three-dimensional data transmission apparatus 640A.
  • the three-dimensional data creation unit 641 creates the fifth three-dimensional data 652 using the sensor information 651 detected by the sensors included in the surrounding vehicle 601 (S681).
  • the receiving unit 642 receives a request signal 637 for requesting a transmission request for three-dimensional data from the host vehicle 600 (S682).
  • the transmission permission / inhibition determination unit 646 determines whether or not to respond to the request indicated by the request signal 637 (S683). For example, the transmission permission / inhibition determination unit 646 determines whether or not to accept the request based on the contents set in advance by the user.
  • the receiving unit 642 may first receive the other party's request such as a request range, and the transmission permission determination unit 646 may determine whether to respond to the request according to the content.
  • the transmission permission / inhibition determination unit 646 determines to respond to the request when possessing the three-dimensional data of the requested range, and determines not to accept the request when not possessing the three-dimensional data of the requested range. May be.
  • the three-dimensional data transmission device 640A transmits a permission signal to the host vehicle 600, and the reception unit 642 receives request range information 633 indicating the request range (S684).
  • the extraction unit 643 cuts out the point cloud in the requested range from the fifth 3D data 652 that is a point cloud, and creates transmission data 638 including the sixth 3D data 654 that is the SWLD of the cut out point cloud ( S685).
  • the three-dimensional data transmission device 640A creates the seventh three-dimensional data (WLD) from the sensor information 651, and extracts the data whose feature amount is equal to or greater than the threshold value from the seventh three-dimensional data (WLD), thereby obtaining the fifth tertiary.
  • Original data 652 SWLD
  • the three-dimensional data creation unit 641 may create SWLD three-dimensional data in advance, and the extraction unit 643 may extract the SWLD three-dimensional data in the required range from the SWLD three-dimensional data, or the extraction unit 643 However, the SWLD three-dimensional data of the required range may be generated from the three-dimensional data of the WLD of the required range.
  • the transmission data 638 may include the surrounding state detection result 639 of the requested range by the surrounding vehicle 601 and the braking information of the surrounding vehicle 601.
  • the transmission data 638 may not include the sixth three-dimensional data 654, and may include only at least one of the surrounding state detection result 639 of the requested range by the surrounding vehicle 601 and the braking information of the surrounding vehicle 601.
  • the encoding unit 644 When the transmission data 638 includes the sixth 3D data 654 (Yes in S686), the encoding unit 644 generates the encoded 3D data 634 by encoding the sixth 3D data 654 (S687).
  • the transmission part 645 transmits the transmission data 638 containing the encoding three-dimensional data 634 to the own vehicle 600 (S688).
  • the transmission unit 645 transmits at least the surrounding state detection result 639 of the requested range by the surrounding vehicle 601 and the braking information of the surrounding vehicle 601.
  • the transmission data 638 including one is transmitted to the host vehicle 600 (S688).
  • the information transmitted from the surrounding vehicle 601 may not be the three-dimensional data created by the surrounding vehicle or the surrounding situation detection result, but may be accurate feature point information of the surrounding vehicle 601 itself.
  • the host vehicle 600 corrects the feature point information of the preceding vehicle in the point cloud acquired by the host vehicle 600 using the feature point information of the surrounding vehicle 601. Thereby, the own vehicle 600 can improve the matching accuracy at the time of self-position estimation.
  • the feature point information of the preceding vehicle is, for example, three-dimensional point information including color information and coordinate information.
  • the sensor of the own vehicle 600 is a laser sensor or a stereo camera, the feature point information of the preceding vehicle can be used without depending on the type.
  • the host vehicle 600 may use a point cloud of SWLD not only at the time of transmission but also when calculating the accuracy at the time of self-position estimation.
  • the sensor of the host vehicle 600 is an imaging device such as a stereo camera
  • a two-dimensional point is detected on an image captured by the host vehicle 600 with the camera, and the self-position is estimated using the two-dimensional point.
  • the host vehicle 600 creates a point cloud of surrounding objects at the same time as its own position.
  • the host vehicle 600 re-projects the three-dimensional SWLD point on the two-dimensional image, and evaluates the accuracy of the self-position estimation based on the error between the detection point and the re-projection point on the two-dimensional image.
  • the host vehicle 600 uses the created point cloud SWLD and the SWLD of the three-dimensional map to calculate the position of the host vehicle 600 based on the error calculated by the Iterative Closest Point. Evaluate the accuracy of the estimation.
  • the own vehicle 600 may acquire a three-dimensional map from the surrounding vehicle 601.
  • distant information that cannot be obtained from vehicles around the host vehicle 600 may be obtained by inter-vehicle communication.
  • the host vehicle 600 may be acquired by passing communication from an oncoming vehicle or information on a traffic accident immediately after the occurrence of several hundred meters or several kilometers ahead, or a relay system that sequentially transmits information to surrounding vehicles.
  • the data format of the transmitted data is transmitted as meta information of the upper layer of the dynamic 3D map.
  • the detection result of the surrounding situation and the information detected by the own vehicle 600 may be presented to the user through the user interface.
  • presentation of such information is realized by superimposition on a car navigation screen or a front window.
  • a vehicle that does not support automatic driving and has cruise control may find a surrounding vehicle that is traveling in the automatic driving mode and track the surrounding vehicle.
  • the own vehicle 600 may switch the operation mode from the automatic driving mode to the tracking mode of the surrounding vehicle when the self-position estimation is impossible due to the reason that the three-dimensional map cannot be acquired or there are too many occlusion areas. Good.
  • the vehicle to be tracked may be equipped with a user interface that warns the user that the vehicle is being tracked and allows the user to specify whether to allow tracking. At that time, a mechanism may be provided in which an advertisement is displayed on the vehicle to be tracked and an incentive is paid to the tracked vehicle.
  • the information to be transmitted is based on SWLD which is three-dimensional data, but may be information according to the request setting set in the own vehicle 600 or the public setting of the preceding vehicle.
  • the transmitted information may be a WLD that is a dense point cloud, a detection result of a surrounding situation by a preceding vehicle, or braking information of the preceding vehicle.
  • the host vehicle 600 may receive the WLD, visualize the three-dimensional data of the WLD, and present the visualized three-dimensional data to the driver using the GUI. At this time, the host vehicle 600 may present the information by color-coding the information so that the user can distinguish between the point cloud created by the host vehicle 600 and the received point cloud.
  • the host vehicle 600 presents the information detected by the host vehicle 600 and the detection result of the surrounding vehicle 601 to the driver through the GUI, the user can distinguish between the information detected by the host vehicle 600 and the received detection result.
  • the information may be presented by color coding.
  • the three-dimensional data creation unit 621 creates the first three-dimensional data 632 from the sensor information 631 detected by the sensor.
  • the receiving unit 624 receives encoded 3D data 634 obtained by encoding the second 3D data 635.
  • the decoding unit 625 acquires the second 3D data 635 by decoding the received encoded 3D data 634.
  • the synthesizer 626 synthesizes the first three-dimensional data 632 and the second three-dimensional data 635 to create third three-dimensional data 636.
  • the three-dimensional data creation device 620 can create detailed third three-dimensional data 636 using the created first three-dimensional data 632 and the received second three-dimensional data 635.
  • the synthesis unit 626 synthesizes the first 3D data 632 and the second 3D data 635, so that the third 3D data 636 having a higher density than the first 3D data 632 and the second 3D data 635.
  • the second 3D data 635 (for example, SWLD) is 3D data generated by extracting data having a feature amount equal to or greater than a threshold value from the 4th 3D data (for example, WLD).
  • the three-dimensional data creation device 620 can reduce the amount of transmitted three-dimensional data.
  • the three-dimensional data creation device 620 further includes a search unit 623 that searches for a transmission device that is a transmission source of the encoded three-dimensional data 634.
  • the receiving unit 624 receives the encoded three-dimensional data 634 from the searched transmission device.
  • the three-dimensional data creation device 620 can specify, for example, a transmission device possessing necessary three-dimensional data by searching.
  • the three-dimensional data creation device further includes a request range determination unit 622 that determines a request range that is a range of a three-dimensional space for requesting three-dimensional data.
  • Search unit 623 transmits request range information 633 indicating the request range to the transmission device.
  • the second 3D data 635 includes 3D data of the required range.
  • the three-dimensional data creation device 620 can receive necessary three-dimensional data and can reduce the amount of transmitted three-dimensional data.
  • the required range determination unit 622 determines a spatial range including the occlusion area 604 that cannot be detected by the sensor as the required range.
  • the three-dimensional data creation unit 641 creates the fifth three-dimensional data 652 from the sensor information 651 detected by the sensor.
  • the extraction unit 643 creates sixth 3D data 654 by extracting a part of the fifth 3D data 652.
  • the encoding unit 644 generates encoded three-dimensional data 634 by encoding the sixth three-dimensional data 654.
  • the transmission unit 645 transmits the encoded three-dimensional data 634.
  • the three-dimensional data transmission device 640 can transmit the three-dimensional data created by itself to other devices and can reduce the amount of transmitted three-dimensional data.
  • the three-dimensional data creation unit 641 creates seventh three-dimensional data (for example, WLD) from the sensor information 651 detected by the sensor, and extracts data whose feature amount is equal to or greater than the threshold value from the seventh three-dimensional data.
  • 7 three-dimensional data for example, WLD
  • 3-dimensional data 652 for example, SWLD
  • the three-dimensional data transmission device 640 can reduce the amount of transmitted three-dimensional data.
  • the three-dimensional data transmission device 640 further includes a reception unit 642 that receives request range information 633 indicating a request range that is a range of a three-dimensional space for requesting three-dimensional data from the reception device.
  • the extraction unit 643 creates the sixth three-dimensional data 654 by extracting the three-dimensional data in the required range from the fifth three-dimensional data 652.
  • the transmission unit 645 transmits the encoded three-dimensional data 634 to the reception device.
  • the three-dimensional data transmission device 640 can reduce the amount of transmitted three-dimensional data.
  • 3D data of the vehicle acquired by a sensor such as a range finder (LiDAR) mounted on the vehicle or a stereo camera.
  • a sensor such as a range finder (LiDAR) mounted on the vehicle or a stereo camera.
  • LiDAR range finder
  • 3D maps change not only in 3D point clouds, but also in 2D map data such as road and intersection shape information, or in real time such as traffic jams and accidents, such as HD maps proposed by HERE Information may be included.
  • a three-dimensional map is composed of a plurality of layers such as three-dimensional data, two-dimensional data, and metadata that changes in real time, and the apparatus can acquire or reference only necessary data.
  • the point cloud data may be the above-described SWLD, or may include point cloud data that is not a feature point.
  • transmission / reception of point cloud data is performed based on one or a plurality of random access units.
  • the following method can be used as a matching method between the 3D map and the vehicle detection 3D data.
  • the apparatus compares the shape of the point cloud in each point cloud, and determines that the parts with high similarity between feature points are at the same position.
  • the apparatus performs matching by comparing the feature points constituting the SWLD and the three-dimensional feature points extracted from the own vehicle detection three-dimensional data.
  • FIG. 34 is a block diagram illustrating a configuration example of the three-dimensional information processing apparatus 700 according to the present embodiment.
  • FIG. 35 is a flowchart of a three-dimensional information processing method performed by the three-dimensional information processing apparatus 700.
  • the 3D information processing apparatus 700 is mounted on an animal body such as an automobile, for example. As shown in FIG. 34, the three-dimensional information processing apparatus 700 includes a three-dimensional map acquisition unit 701, a vehicle detection data acquisition unit 702, an abnormal case determination unit 703, a coping operation determination unit 704, and an operation control unit 705. With.
  • the three-dimensional information processing apparatus 700 is not shown for detecting a structure or moving object around the vehicle such as a camera that acquires a two-dimensional image, or a one-dimensional data sensor using ultrasonic waves or laser. A two-dimensional or one-dimensional sensor may be provided.
  • the three-dimensional information processing apparatus 700 may include a communication unit (not shown) for acquiring a three-dimensional map by a mobile communication network such as 4G or 5G, or vehicle-to-vehicle communication or road-to-vehicle communication. .
  • the three-dimensional map acquisition unit 701 acquires a three-dimensional map 711 in the vicinity of the travel route (S701).
  • the three-dimensional map acquisition unit 701 acquires the three-dimensional map 711 through a mobile communication network, vehicle-to-vehicle communication, or road-to-vehicle communication.
  • the vehicle detection data acquisition unit 702 acquires the vehicle detection three-dimensional data 712 based on the sensor information (S702). For example, the own vehicle detection data acquisition unit 702 generates the own vehicle detection three-dimensional data 712 based on sensor information acquired by a sensor included in the own vehicle.
  • the abnormal case determination unit 703 detects an abnormal case by performing a predetermined check on at least one of the acquired three-dimensional map 711 and own vehicle detection three-dimensional data 712 (S703). That is, the abnormal case determination unit 703 determines whether at least one of the acquired three-dimensional map 711 and own vehicle detection three-dimensional data 712 is abnormal.
  • step S703 If an abnormal case is detected in step S703 (Yes in S704), the coping operation determination unit 704 determines a coping operation for the abnormal case (S705). Next, the operation control unit 705 controls the operation of each processing unit, such as the three-dimensional map acquisition unit 701, which is necessary for performing the coping operation (S706).
  • step S703 if no abnormal case is detected in step S703 (No in S704), the 3D information processing apparatus 700 ends the process.
  • the three-dimensional information processing apparatus 700 performs self-position estimation of the vehicle having the three-dimensional information processing apparatus 700 using the three-dimensional map 711 and the own vehicle detection three-dimensional data 712. Next, the three-dimensional information processing apparatus 700 automatically drives the vehicle using the result of self-position estimation.
  • the three-dimensional information processing apparatus 700 acquires map data (three-dimensional map 711) including the first three-dimensional position information via the communication path.
  • the first three-dimensional position information is encoded in units of subspaces having three-dimensional coordinate information, each of which is an aggregate of one or more subspaces, each of which can be decoded independently. Includes access units.
  • the first three-dimensional position information is data (SWLD) in which feature points whose three-dimensional feature amounts are equal to or greater than a predetermined threshold are encoded.
  • the three-dimensional information processing apparatus 700 generates second three-dimensional position information (own vehicle detection three-dimensional data 712) from information detected by the sensor. Next, the three-dimensional information processing apparatus 700 performs the abnormality determination process on the first three-dimensional position information or the second three-dimensional position information, so that the first three-dimensional position information or the second three-dimensional position information is processed. It is determined whether or not the three-dimensional position information is abnormal.
  • the three-dimensional information processing apparatus 700 determines a countermeasure operation for the abnormality. Next, the three-dimensional information processing apparatus 700 performs control necessary for performing the countermeasure operation.
  • the three-dimensional information processing apparatus 700 can detect an abnormality in the first three-dimensional position information or the second three-dimensional position information and perform a coping operation.
  • the self-position estimation requires the 3D map 711, but if the vehicle has not previously acquired the 3D map 711 corresponding to the route to the destination, the vehicle needs to acquire the 3D map 711 by communication. There is. However, the vehicle may not be able to acquire the three-dimensional map 711 on the traveling route due to congestion of the communication path or deterioration of the radio wave reception state.
  • the abnormal case determination unit 703 confirms whether or not the 3D map 711 has been acquired in all sections on the route to the destination or in a section within a predetermined range from the current position. It is determined as abnormal case 1. That is, the abnormal case determination unit 703 determines whether the three-dimensional map 711 (first three-dimensional position information) can be acquired via the communication path, and when the three-dimensional map 711 cannot be acquired via the communication path, It is determined that the three-dimensional map 711 is abnormal.
  • the coping operation determination unit 704 selects one of the two types of coping operations: (1) continue self-position estimation and (2) stop self-position estimation. To do.
  • the vehicle determines a place where the communication path can be used within the range where the three-dimensional map 711 has been acquired, moves to that place, and acquires the three-dimensional map 711.
  • the vehicle may acquire all the three-dimensional maps 711 up to the destination, or the three-dimensional map 711 for each random access unit within the upper limit size that can be held in the recording unit such as the memory of the own vehicle or the HDD. May be obtained.
  • the vehicle when the vehicle acquires the communication state on the route separately and can predict that the communication state on the route is poor, the vehicle can reach the three-dimensional map of the relevant section before reaching the section where the communication state is bad. 711 may be acquired in advance, or the three-dimensional map 711 having the maximum possible range may be acquired. That is, the three-dimensional information processing apparatus 700 predicts whether the vehicle enters an area where the communication state is bad. When it is predicted that the vehicle enters an area where the communication state is poor, the 3D information processing apparatus 700 acquires the 3D map 711 before the vehicle enters the area.
  • the vehicle may identify a random access unit constituting the minimum three-dimensional map 711 necessary for self-position estimation on the route, which is narrower than normal, and may receive the identified random access unit. Good. That is, when the 3D information processing apparatus 700 cannot acquire the 3D map 711 (first 3D position information) via the communication path, the third 3D position in a narrower range than the first 3D position information. Information may be acquired via a communication path.
  • the vehicle when the vehicle cannot access the distribution server of the three-dimensional map 711, the vehicle has already acquired the three-dimensional map 711 on the route to the destination, such as another vehicle traveling around the own vehicle, and You may acquire the three-dimensional map 711 from the mobile body which can communicate with the own vehicle.
  • the vehicle notifies the driver that functions such as automatic driving based on self-position estimation cannot be continued, and shifts the operation mode to a manual mode in which the driver operates.
  • self-position estimation when self-position estimation is performed, automatic operation is performed although there is a difference in level according to the degree of human intervention.
  • the result of self-position estimation can also be used as navigation or the like when a person drives. Therefore, the result of self-position estimation does not necessarily have to be used for automatic driving.
  • the vehicle can be separated by Wi-Fi (registered trademark) or millimeter wave communication between roads and vehicles, or communication between vehicles. It may be confirmed whether or not the three-dimensional map 711 can be acquired via the communication path, and the communication path to be used may be switched to a communication path that can acquire the three-dimensional map 711.
  • Wi-Fi registered trademark
  • millimeter wave communication between roads and vehicles, or communication between vehicles.
  • the vehicle may acquire the two-dimensional map and continue the automatic driving using the two-dimensional map and the own vehicle detection three-dimensional data 712. That is, when the three-dimensional information processing apparatus 700 cannot acquire the three-dimensional map 711 via the communication path, the three-dimensional information processing apparatus 700 acquires map data (two-dimensional map) including the two-dimensional position information via the communication path. And self-vehicle detection three-dimensional data 712 may be used to estimate the position of the vehicle.
  • the vehicle uses a two-dimensional map and own-vehicle detection three-dimensional data 712 for self-position estimation, and own-vehicle detection three-dimensional data for detection of surrounding vehicles, pedestrians, and obstacles. 712 is used.
  • the map data such as the HD map includes a three-dimensional map 711 including a three-dimensional point cloud, a two-dimensional map data (two-dimensional map), and a road shape or intersection from the two-dimensional map data.
  • a simple version of map data extracted from characteristic information such as, and metadata representing real-time information such as traffic jams, accidents, or construction can be included.
  • the map data has a layer structure in which three-dimensional data (three-dimensional map 711), two-dimensional data (two-dimensional map), and metadata are arranged in order from the lower layer.
  • the data size of 2D data is smaller than that of 3D data. Therefore, the vehicle may be able to acquire a two-dimensional map even if the communication state is bad. Or the vehicle can acquire a two-dimensional map of a wide range collectively in the section with a good communication state. Therefore, the vehicle may receive a layer including a two-dimensional map without receiving the three-dimensional map 711 when it is difficult to obtain the three-dimensional map 711 because the state of the communication path is poor. Since the metadata has a small data size, for example, the vehicle always receives the metadata regardless of the communication state.
  • the first method is a method of matching two-dimensional features. Specifically, the vehicle extracts a two-dimensional feature value from the own vehicle detection three-dimensional data 712, and performs matching between the extracted two-dimensional feature value and the two-dimensional map.
  • the vehicle projects its own vehicle detection three-dimensional data 712 on the same plane as the two-dimensional map, and matches the obtained two-dimensional data with the two-dimensional map. Matching is performed using a two-dimensional image feature amount extracted from both.
  • the three-dimensional map 711 may store a two-dimensional feature amount in the same plane as the two-dimensional map together with the three-dimensional feature amount at the feature point in the three-dimensional space. Good. For example, identification information is given to a two-dimensional feature amount.
  • the two-dimensional feature value is stored in a layer different from the three-dimensional data and the two-dimensional map, and the vehicle acquires two-dimensional feature value data together with the two-dimensional map.
  • the vehicle will detect its own three-dimensional data.
  • a feature amount is extracted from the data of a plurality of heights in 712.
  • information indicating the correspondence between the feature points in the two-dimensional map and the feature points in the three-dimensional map 711 may be stored as meta information of the map data.
  • the second method is a method for matching three-dimensional feature values. Specifically, the vehicle acquires a three-dimensional feature value corresponding to the feature point in the two-dimensional map, and matches the acquired three-dimensional feature value with the three-dimensional feature value of the own vehicle detection three-dimensional data 712.
  • 3D feature values corresponding to feature points in the 2D map are stored in the map data.
  • the vehicle acquires the three-dimensional feature amount together when acquiring the two-dimensional map.
  • the three-dimensional map 711 includes SWLD, by adding information for identifying the feature points corresponding to the feature points of the two-dimensional map among the feature points in the SWLD, the vehicle is based on the identification information. It is possible to determine the three-dimensional feature value to be acquired together with the two-dimensional map. In this case, since it is sufficient to represent a two-dimensional position, the amount of data can be reduced compared to the case of representing a three-dimensional position.
  • the vehicle may determine whether or not the automatic driving can be continued even when the estimation accuracy is reduced, and may continue the automatic driving only when it is determined that the driving can be continued.
  • Whether automatic driving can be continued depends on whether the road on which the vehicle is traveling is an urban area, or a road where there are few other vehicles or pedestrians such as highways, road width or road congestion (density of vehicles or pedestrians) ) And other driving environments. Furthermore, a marker for recognizing with a sensor such as a camera can be arranged on the site, town, or building of the office. In these specific areas, since the marker can be recognized with high accuracy by the two-dimensional sensor, for example, by including the marker position information in the two-dimensional map, self-position estimation can be performed with high accuracy.
  • the vehicle can determine whether the vehicle exists in the specific area.
  • the vehicle determines to continue the automatic driving when the vehicle exists in the specific area.
  • the vehicle may determine whether or not to continue the automatic driving based on the accuracy of self-position estimation when using the two-dimensional map or the traveling environment of the vehicle.
  • the three-dimensional information processing apparatus 700 uses the result of the self-position estimation of the vehicle using the two-dimensional map and the own-vehicle detection three-dimensional data 712 based on the traveling environment of the vehicle (moving environment of the moving body). It is determined whether or not to perform automatic driving of the existing vehicle.
  • the vehicle may switch the level (mode) of automatic driving according to the accuracy of self-position estimation or the traveling environment of the vehicle, not whether or not the automatic driving can be continued.
  • Switching the level (mode) of automatic driving here refers to, for example, limiting the speed, increasing the amount of driver's operation (decreasing the automatic driving level), obtaining driving information of the car running ahead Switching to a mode for driving automatically, obtaining driving information of a car having the same destination set, and switching to a mode for automatic driving using it.
  • the map may include information indicating a recommended level of automatic driving when self-position estimation is performed using a two-dimensional map associated with the position information.
  • the recommended level may be metadata that dynamically changes according to traffic volume or the like.
  • the vehicle can determine the level only by acquiring information in the map without sequentially determining the level according to the surrounding environment or the like.
  • operation of each vehicle can be kept constant because a several vehicle refers to the same map.
  • the recommended level is not a recommendation, and may be a level at which compliance is essential.
  • the vehicle may switch the level of automatic driving according to the presence or absence of the driver (whether it is manned or unmanned). For example, if the vehicle is manned, the level of automatic driving is lowered, and if the vehicle is unmanned, the vehicle stops. The vehicle determines the position where it can be safely stopped by recognizing nearby passers-by, vehicles and traffic signs. Alternatively, the map may include position information indicating a position where the vehicle can be safely stopped, and the vehicle may determine a position where the vehicle can be safely stopped with reference to the position information.
  • the abnormal case determination unit 703 cannot (1) acquire a 3D map 711 in some or all sections on the route to the destination because the distribution server or the like serving as an access destination does not exist, or (2) Whether or not a part or all of the acquired three-dimensional map 711 is damaged is checked. If it is applied, it is determined as an abnormal case 2. That is, the abnormal case determination unit 703 determines whether or not the data of the three-dimensional map 711 is complete, and determines that the three-dimensional map 711 is abnormal when the data of the three-dimensional map 711 is not complete.
  • the vehicle sets a route that does not pass through a section where the three-dimensional map 711 does not exist.
  • a section where the three-dimensional map 711 does not exist is selected. Set the route to include.
  • the vehicle notifies the driver that the driving mode is switched in the section, and switches the driving mode to the manual mode.
  • the vehicle identifies a damaged part in the three-dimensional map 711, requests data on the damaged part through communication, acquires data on the damaged part, and updates the three-dimensional map 711 using the acquired data.
  • the vehicle may specify the damaged part by position information such as absolute coordinates or relative coordinates in the three-dimensional map 711, or may specify the index by a random access unit index number constituting the damaged part. .
  • the vehicle replaces the random access unit including the damaged part with the acquired random access unit.
  • the abnormal case determination unit 703 confirms whether the generation error of the own vehicle detection three-dimensional data 712 is within an allowable range, and determines that the abnormal case 3 is not within the allowable range. That is, the abnormal case determination unit 703 determines whether the data generation accuracy of the own vehicle detection three-dimensional data 712 is equal to or higher than the reference value, and the data generation accuracy of the own vehicle detection three-dimensional data 712 is not higher than the reference value. In this case, it is determined that the own vehicle detection three-dimensional data 712 is abnormal.
  • the following method can be used as a method for confirming whether the generation error of the own vehicle detection three-dimensional data 712 is within an allowable range.
  • the spatial resolution of the vehicle detection 3D data 712 during normal operation is based on the resolution in the depth direction and scan direction of the vehicle's 3D sensor such as a range finder or a stereo camera, or the density of points that can be generated. It is determined in advance.
  • the vehicle acquires the spatial resolution of the three-dimensional map 711 from meta information included in the three-dimensional map 711.
  • the vehicle estimates the reference value of the matching error when matching the own vehicle detection three-dimensional data 712 and the three-dimensional map 711 based on the three-dimensional feature amount using the spatial resolution of both.
  • Matching errors include 3D feature value errors for each feature point, statistics such as the average value of 3D feature value errors between multiple feature points, or spatial distance errors between multiple feature points. Etc. can be used. The allowable range of deviation from the reference value is set in advance.
  • the vehicle is determined as an abnormal case 3.
  • the vehicle uses the test pattern having a known three-dimensional shape for accuracy check to acquire the own vehicle detection three-dimensional data 712 for the test pattern before the start of traveling or the like, and whether the shape error is within an allowable range. It may be determined whether or not it is an abnormal case 3.
  • the vehicle makes the above determination every time before starting to travel.
  • the vehicle acquires the time series change of the matching error by performing the above determination at a constant time interval or the like during traveling.
  • the vehicle may determine the abnormal case 3 even if the error is within the allowable range.
  • the vehicle if the vehicle can be predicted to be abnormal based on time-series changes, the vehicle notifies the user that it is predicted to be abnormal, such as displaying a message prompting inspection or repair. May be.
  • the vehicle may determine an abnormality based on a temporary factor such as bad weather and an abnormality based on a sensor failure based on a time-series change, and notify only the abnormality based on the sensor failure to the user.
  • the vehicle When the vehicle is determined to be abnormal case 3, the vehicle (1) activates the emergency substitute sensor (rescue mode), (2) switches the operation mode, and (3) corrects the operation of the three-dimensional sensor.
  • the three types of coping operations are selectively performed.
  • the vehicle activates an emergency alternative sensor that is different from the three-dimensional sensor used during normal operation. That is, the three-dimensional information processing apparatus 700, when the generation accuracy of the own vehicle detection three-dimensional data 712 is not equal to or higher than the reference value, determines the own vehicle detection three-dimensional data 712 ( 4th three-dimensional position information) is generated.
  • the vehicle acquires the own vehicle detection three-dimensional data 712 by using a plurality of cameras or LiDAR together, the vehicle has a direction in which the matching error of the own vehicle detection three-dimensional data 712 exceeds the allowable range. Based on the above, the malfunctioning sensor is identified. The vehicle then activates an alternative sensor corresponding to the malfunctioning sensor.
  • the alternative sensor may be a three-dimensional sensor, a camera that can acquire a two-dimensional image, or a one-dimensional sensor such as an ultrasonic wave. If the alternative sensor is a sensor other than a three-dimensional sensor, the accuracy of self-position estimation may be reduced or self-position estimation may not be possible, so the vehicle may change the automatic driving mode according to the type of the alternative sensor. You may switch.
  • the vehicle continues the automatic operation mode when the alternative sensor is a three-dimensional sensor. Further, when the alternative sensor is a two-dimensional sensor, the vehicle changes the operation mode from a fully automatic operation to a semi-automatic operation mode on the premise of human operation. In addition, when the alternative sensor is a one-dimensional sensor, the vehicle switches the operation mode to a manual mode in which automatic braking control is not performed.
  • the vehicle may switch the automatic driving mode based on the driving environment. For example, in the case where the alternative sensor is a two-dimensional sensor, the vehicle continues the fully automatic operation mode when traveling on a highway, and switches the operation mode to a semi-automatic operation mode when traveling on an urban area.
  • the vehicle may continue self-position estimation if a sufficient number of feature points can be acquired with only a normally operating sensor. However, since detection with respect to a specific direction becomes impossible, the vehicle switches the operation mode to a semi-automatic operation or a manual mode.
  • the vehicle switches the operation mode from the automatic operation mode to the manual mode.
  • the vehicle may be stopped by continuing automatic driving to a place where it can be safely stopped such as a road shoulder.
  • the vehicle may switch the operation mode to the manual mode after stopping.
  • the three-dimensional information processing apparatus 700 switches the automatic driving mode when the generation accuracy of the own vehicle detection three-dimensional data 712 is not equal to or higher than the reference value.
  • the vehicle identifies a malfunctioning three-dimensional sensor based on the direction in which a matching error occurs and calibrates the identified sensor. Specifically, when a plurality of LiDARs or cameras are used as sensors, a part of the three-dimensional space reconstructed by each sensor overlaps. In other words, the overlap portion data is acquired by a plurality of sensors. The normal sensor and the malfunctioning sensor differ in the three-dimensional point cloud data acquired for the overlap portion. Therefore, the vehicle performs LiDAR origin correction or operation at a predetermined location such as camera exposure or focus so that a malfunctioning sensor can acquire three-dimensional point cloud data equivalent to a normal sensor. Adjust.
  • the vehicle will continue the previous driving mode. On the other hand, if the matching accuracy is not within the allowable range even after the adjustment, the vehicle performs (1) a countermeasure operation for operating the emergency substitute sensor or (2) a countermeasure operation for switching the operation mode.
  • the three-dimensional information processing apparatus 700 corrects the operation of the sensor when the generation accuracy of the vehicle detection three-dimensional data 712 is not equal to or higher than the reference value.
  • the following describes how to select the countermeasure action.
  • the coping operation may be selected by a user such as a driver, or the vehicle may be automatically selected without the user.
  • the vehicle may switch control depending on whether the driver is on board. For example, when the driver is on board, the vehicle gives priority to switching to the manual mode. On the other hand, when the driver does not ride, the vehicle gives priority to the mode in which the vehicle moves to a safe place and stops.
  • Information indicating the stop location may be included in the 3D map 711 as meta information.
  • the vehicle may issue a stop location answer request to a service that manages the operation information of the automatic driver, and obtain information indicating the stop location.
  • the vehicle operation mode may be shifted to a mode in which the operator manages the operation of the vehicle via the communication path.
  • an abnormality in the self-position estimation function in a vehicle traveling in the fully automatic operation mode is highly dangerous. Therefore, the vehicle notifies the occurrence of the abnormality to the service that manages the operation information via the communication path when the abnormal case is detected or when the detected abnormality cannot be corrected.
  • the service may notify a vehicle or the like traveling around the vehicle of the presence of an abnormality-occurring vehicle or instruct to make a nearby stop place.
  • the vehicle may reduce the traveling speed as compared with the normal time when an abnormal case is detected.
  • the vehicle is an autonomous driving vehicle that provides dispatch services such as taxis, and an abnormal case occurs in the vehicle, the vehicle contacts the operation management center and stops at a safe place.
  • dispatch service alternative vehicles are dispatched.
  • a user of the dispatch service may drive the vehicle.
  • discounting of charges or provision of privilege points may be used in combination.
  • FIG. 36 is a flowchart of the self-position estimation process in this case.
  • the vehicle acquires a three-dimensional map 711 in the vicinity of the travel route (S711).
  • the vehicle acquires host vehicle detection three-dimensional data 712 based on the sensor information (S712).
  • the vehicle determines whether or not the three-dimensional map 711 is necessary for self-position estimation (S713). Specifically, the vehicle determines whether or not the three-dimensional map 711 is necessary based on the accuracy of self-position estimation when using the two-dimensional map and the traveling environment. For example, a method similar to the method for dealing with the abnormal case 1 described above is used.
  • the vehicle acquires a two-dimensional map (S715). At this time, the vehicle may also acquire additional information as described in the countermeasure method for the abnormal case 1.
  • the vehicle may generate a two-dimensional map from the three-dimensional map 711. For example, the vehicle may generate a two-dimensional map by cutting out an arbitrary plane from the three-dimensional map 711.
  • the vehicle performs self-position estimation using the own vehicle detection three-dimensional data 712 and the two-dimensional map (S716).
  • the self-position estimation method using the two-dimensional map is the same as the method described in, for example, the countermeasure method for the abnormal case 1 described above.
  • the vehicle acquires the three-dimensional map 711 (S717).
  • the vehicle performs self-position estimation using the own vehicle detection three-dimensional data 712 and the three-dimensional map 711 (S718).
  • the vehicle may switch between using the two-dimensional map as a basis or using the three-dimensional map 711 as a basis in accordance with the speed corresponding to the communication device of the host vehicle or the state of the communication path.
  • the communication speed required when traveling while receiving the three-dimensional map 711 is preset, and the vehicle uses the two-dimensional map as a basis when the communication speed during traveling is equal to or less than a set value. If the communication speed is larger than the setting, the three-dimensional map 711 may be used as a basis.
  • the vehicle may use the two-dimensional map as a basis without determining whether to adopt the two-dimensional map or the three-dimensional map.
  • FIG. 37 is a diagram illustrating an example of the target space of the three-dimensional data transmitted to the succeeding vehicle or the like.
  • the vehicle 801 receives three-dimensional data such as a point cloud (point cloud) included in a rectangular parallelepiped space 802 having a width W, a height H, and a depth D at a distance L from the vehicle 801 in front of the vehicle 801, for a time ⁇ t. At intervals, it is sent to a traffic monitoring cloud or road vehicles that monitor road conditions.
  • a point cloud point cloud
  • the vehicle 801 may change the three-dimensional data of the space in which the change has occurred. Also send.
  • FIG. 37 shows an example in which the shape of the space 802 is a rectangular parallelepiped, but the space 802 may include a space on the front road that is a blind spot from the following vehicle, and may not necessarily be a rectangular parallelepiped. .
  • the distance L is set to a distance at which the following vehicle that has received the three-dimensional data can safely stop.
  • the width W is set to a value that is at least larger than the width of the lane in which the vehicle 801 is traveling. More preferably, the width W is set to a size that includes adjacent spaces such as left and right lanes or roadside belts.
  • D c ⁇ V + d (c and d are constants).
  • FIG. 38 is a block diagram illustrating a configuration example of the three-dimensional data creation device 810 according to the present embodiment.
  • the three-dimensional data creation device 810 is mounted on the vehicle 801, for example.
  • the three-dimensional data creation device 810 transmits / receives three-dimensional data to / from an external traffic monitoring cloud, a preceding vehicle or a following vehicle, and creates and accumulates three-dimensional data.
  • the three-dimensional data creation device 810 includes a data reception unit 811, a communication unit 812, a reception control unit 813, a format conversion unit 814, a plurality of sensors 815, a three-dimensional data creation unit 816, and a three-dimensional data synthesis unit. 817, a three-dimensional data storage unit 818, a communication unit 819, a transmission control unit 820, a format conversion unit 821, and a data transmission unit 822.
  • the data receiving unit 811 receives the three-dimensional data 831 from the traffic monitoring cloud or the preceding vehicle.
  • the three-dimensional data 831 includes, for example, information such as a point cloud, visible light video, depth information, sensor position information, or speed information including an area that cannot be detected by the sensor 815 of the host vehicle.
  • the communication unit 812 communicates with the traffic monitoring cloud or the preceding vehicle, and transmits a data transmission request or the like to the traffic monitoring cloud or the preceding vehicle.
  • the reception control unit 813 exchanges information such as a compatible format with the communication destination via the communication unit 812, and establishes communication with the communication destination.
  • the format conversion unit 814 generates three-dimensional data 832 by performing format conversion or the like on the three-dimensional data 831 received by the data reception unit 811. Further, the format conversion unit 814 performs expansion or decoding processing when the three-dimensional data 831 is compressed or encoded.
  • the plurality of sensors 815 is a sensor group that acquires information outside the vehicle 801, such as a LIDAR, a visible light camera, or an infrared camera, and generates sensor information 833.
  • the sensor information 833 is three-dimensional data such as a point cloud (point cloud data) when the sensor 815 is a laser sensor such as LIDAR. Note that the sensor 815 may not be plural.
  • the 3D data creation unit 816 generates 3D data 834 from the sensor information 833.
  • the three-dimensional data 834 includes information such as a point cloud, visible light video, depth information, sensor position information, or speed information, for example.
  • the three-dimensional data composition unit 817 synthesizes the three-dimensional data 832 created by the traffic monitoring cloud or the preceding vehicle with the three-dimensional data 834 created based on the sensor information 833 of the own vehicle.
  • the three-dimensional data 835 including the space ahead of the preceding vehicle that cannot be detected by the sensor 815 is constructed.
  • the three-dimensional data storage unit 818 stores the generated three-dimensional data 835 and the like.
  • the communication unit 819 communicates with the traffic monitoring cloud or the following vehicle, and transmits a data transmission request or the like to the traffic monitoring cloud or the following vehicle.
  • the transmission control unit 820 exchanges information such as a compatible format with the communication destination via the communication unit 819, and establishes communication with the communication destination.
  • the transmission control unit 820 uses the 3D data construction information of the 3D data 832 generated by the 3D data synthesis unit 817 and the data transmission request from the communication destination in the space of the transmission target 3D data. A certain transmission area is determined.
  • the transmission control unit 820 determines a transmission area including a space ahead of the host vehicle that cannot be detected by the sensor of the subsequent vehicle, in response to a data transmission request from the traffic monitoring cloud or the subsequent vehicle. In addition, the transmission control unit 820 determines a transmission area by determining whether or not a space that can be transmitted or a transmitted space is updated based on the three-dimensional data construction information. For example, the transmission control unit 820 determines an area specified by the data transmission request and an area where the corresponding three-dimensional data 835 exists as the transmission area. Then, the transmission control unit 820 notifies the format conversion unit 821 of the format and transmission area corresponding to the communication destination.
  • the format conversion unit 821 converts the three-dimensional data 836 in the transmission area out of the three-dimensional data 835 stored in the three-dimensional data storage unit 818 to convert the three-dimensional data 837 into a format supported by the reception side. Generate. Note that the format conversion unit 821 may reduce the data amount by compressing or encoding the three-dimensional data 837.
  • the data transmission unit 822 transmits the three-dimensional data 837 to the traffic monitoring cloud or the following vehicle.
  • the three-dimensional data 837 includes, for example, information such as a point cloud ahead of the host vehicle, a visible light image, depth information, or sensor position information including an area that becomes a blind spot of the following vehicle.
  • format conversion or the like is performed in the format conversion units 814 and 821
  • format conversion may not be performed.
  • the three-dimensional data creation device 810 obtains from the outside three-dimensional data 831 in a region that cannot be detected by the sensor 815 of the host vehicle, and sensor information 833 detected by the three-dimensional data 831 and the sensor 815 of the host vehicle.
  • the three-dimensional data 835 is generated by combining the three-dimensional data 834 based on the above. Accordingly, the three-dimensional data creation device 810 can generate three-dimensional data in a range that cannot be detected by the sensor 815 of the host vehicle.
  • the three-dimensional data creation device 810 generates three-dimensional data including the space ahead of the host vehicle that cannot be detected by the sensor of the following vehicle in response to a data transmission request from the traffic monitoring cloud or the following vehicle. It can be transmitted to vehicles.
  • FIG. 39 is a flowchart illustrating an example of a procedure for transmitting the three-dimensional data to the traffic monitoring cloud or the following vehicle by the three-dimensional data creation device 810.
  • the three-dimensional data creation device 810 generates and updates the three-dimensional data 835 of the space including the space 802 on the road ahead of the host vehicle 801 (S801). Specifically, the three-dimensional data creation device 810 combines the three-dimensional data 831 created by the traffic monitoring cloud or the preceding vehicle with the three-dimensional data 834 created based on the sensor information 833 of the host vehicle 801. Then, the three-dimensional data 835 including the space ahead of the preceding vehicle that cannot be detected by the sensor 815 of the own vehicle is constructed.
  • the three-dimensional data creation device 810 determines whether the three-dimensional data 835 included in the transmitted space has changed (S802).
  • the three-dimensional data creation device 810 changes.
  • the three-dimensional data including the generated three-dimensional data 835 is transmitted to the traffic monitoring cloud or the following vehicle (S803).
  • the three-dimensional data creation device 810 may transmit the three-dimensional data of the space in which the change has occurred in accordance with the transmission timing of the three-dimensional data transmitted at a predetermined interval, but immediately after detecting the change. May be. That is, the three-dimensional data creation device 810 may transmit the three-dimensional data of the space in which the change has occurred with priority over the three-dimensional data transmitted at a predetermined interval.
  • the three-dimensional data creation device 810 may transmit all of the three-dimensional data in the space in which the change has occurred as the three-dimensional data in the space in which the change has occurred, or the difference (for example, appearance or disappearance) of the three-dimensional data.
  • 3D point information or 3D point displacement information may be transmitted.
  • the three-dimensional data creation device 810 may transmit metadata related to the danger avoidance operation of the host vehicle such as a sudden braking warning to the succeeding vehicle prior to the three-dimensional data of the space where the change has occurred. According to this, the following vehicle can recognize early braking of the preceding vehicle and the like, and can start danger avoiding operation such as deceleration earlier.
  • the three-dimensional data creation device 810 When there is no change in the three-dimensional data 835 included in the transmitted space (No in S802), or after step S803, the three-dimensional data creation device 810 has a predetermined distance L in front of the host vehicle 801.
  • the three-dimensional data included in the shape space is transmitted to the traffic monitoring cloud or the following vehicle (S804).
  • steps S801 to S804 are repeatedly performed at predetermined time intervals.
  • the 3D data creation device 810 may not transmit the 3D data 837 in the space 802 if there is no difference between the 3D data 835 in the current transmission target space 802 and the 3D map. .
  • FIG. 40 is a flowchart showing the operation of the three-dimensional data creation device 810 in this case.
  • the three-dimensional data creation device 810 generates and updates the three-dimensional data 835 of the space including the space 802 on the road ahead of the host vehicle 801 (S811).
  • the three-dimensional data creation device 810 determines whether the generated three-dimensional data 835 in the space 802 has an update from the three-dimensional map (S812). That is, the three-dimensional data creation device 810 determines whether there is a difference between the generated three-dimensional data 835 in the space 802 and the three-dimensional map.
  • the three-dimensional map is three-dimensional map information managed by an infrastructure device such as a traffic monitoring cloud. For example, this 3D map is acquired as 3D data 831.
  • the three-dimensional data creation device 810 transmits the three-dimensional data included in the space 802 to the traffic monitoring cloud or the following vehicle, similarly to the above (S813).
  • the three-dimensional data creation device 810 does not transmit the three-dimensional data included in the space 802 to the traffic monitoring cloud and the following vehicle (S814).
  • the three-dimensional data creation device 810 may perform control so that the three-dimensional data of the space 802 is not transmitted by setting the volume of the space 802 to zero. Further, the three-dimensional data creation device 810 may transmit information indicating that the space 802 is not updated to the traffic monitoring cloud or the following vehicle.
  • the three-dimensional data creation device 810 is mounted on the vehicle.
  • the three-dimensional data creation device 810 is not limited to the vehicle, and may be mounted on an arbitrary moving body.
  • the three-dimensional data generation device 810 includes a sensor 815 and a communication unit (such as the data reception unit 811 or the data transmission unit 822) that transmits / receives three-dimensional data to / from the outside. Mounted on.
  • the three-dimensional data creation device 810 is configured to generate three-dimensional data 835 (second three-dimensional data) based on the sensor information 833 detected by the sensor 815 and the three-dimensional data 831 (first three-dimensional data) received by the data receiving unit 811. Data).
  • the three-dimensional data creation device 810 transmits three-dimensional data 837 that is a part of the three-dimensional data 835 to the outside.
  • the three-dimensional data creation device 810 can generate three-dimensional data in a range that cannot be detected by the host vehicle.
  • the three-dimensional data creation device 810 can transmit three-dimensional data in a range that cannot be detected by other vehicles to the other vehicles.
  • the three-dimensional data creation device 810 repeatedly creates the three-dimensional data 835 and transmits the three-dimensional data 837 at predetermined intervals.
  • the three-dimensional data 837 is three-dimensional data of a small space 802 of a predetermined size located at a predetermined distance L ahead of the vehicle 801 in the moving direction from the current position of the vehicle 801.
  • the predetermined distance L changes according to the moving speed V of the vehicle 801. For example, the greater the moving speed V, the longer the predetermined distance L.
  • the vehicle 801 can set an appropriate small space 802 according to the moving speed V of the vehicle 801, and can transmit the three-dimensional data 837 of the small space 802 to the following vehicle or the like.
  • the predetermined size changes according to the moving speed V of the vehicle 801.
  • the predetermined size increases as the moving speed V increases.
  • the depth D which is the length of the small space 802 in the moving direction of the vehicle.
  • the vehicle 801 can set an appropriate small space 802 according to the moving speed V of the vehicle 801, and can transmit the three-dimensional data 837 of the small space 802 to the following vehicle or the like.
  • the three-dimensional data creation device 810 determines whether there is a change in the three-dimensional data 835 in the small space 802 corresponding to the transmitted three-dimensional data 837. When the three-dimensional data creation device 810 determines that there is a change, the three-dimensional data creation device 810 transmits three-dimensional data 837 (fourth three-dimensional data), which is at least a part of the three-dimensional data 835 having the change, to an external succeeding vehicle or the like.
  • the vehicle 801 can transmit the three-dimensional data 837 of the changed space to the succeeding vehicle or the like.
  • the three-dimensional data creation device 810 gives priority to the changed three-dimensional data 837 (fourth three-dimensional data) over the normal three-dimensional data 837 (third three-dimensional data) that is periodically transmitted.
  • the three-dimensional data creation device 810 has the three-dimensional data 837 (fourth three-dimensional data) changed before the transmission of the regular three-dimensional data 837 (third three-dimensional data) to be transmitted periodically. Data). That is, the three-dimensional data creation device 810 transmits the changed three-dimensional data 837 (fourth three-dimensional data) irregularly without waiting for the transmission of the normal three-dimensional data 837 that is periodically transmitted. .
  • the vehicle 801 can preferentially transmit the three-dimensional data 837 of the changed space to the following vehicle or the like, the subsequent vehicle or the like can quickly make a determination based on the three-dimensional data.
  • the changed three-dimensional data 837 (fourth three-dimensional data) is a difference between the three-dimensional data 835 in the small space 802 corresponding to the transmitted three-dimensional data 837 and the three-dimensional data 835 after the change. Show. Thereby, the data amount of the transmitted three-dimensional data 837 can be reduced.
  • the three-dimensional data creation device 810 does not transmit the three-dimensional data 837 in the small space 802. Furthermore, the three-dimensional data creation device 810 may transmit information indicating that there is no difference between the three-dimensional data 837 in the small space 802 and the three-dimensional data 831 in the small space 802 to the outside.
  • a mobile object such as a car or a robot is a two-dimensional image obtained from a sensor mounted on a three-dimensional map obtained by communication with a server or another vehicle or a vehicle for autonomous driving of a car or autonomous movement of a robot. Utilize three-dimensional car detection data. Of these data, the data that the user wants to view or store is considered to vary depending on the situation. Hereinafter, a display device that switches display according to the situation will be described.
  • FIG. 41 is a flowchart showing an outline of a display method by the display device.
  • the display device is mounted on a moving body such as a car or a robot.
  • a moving body such as a car or a robot.
  • the moving body is a vehicle (automobile) will be described.
  • the display device determines whether to display two-dimensional peripheral information or three-dimensional peripheral information according to the driving situation of the vehicle (S901).
  • the two-dimensional peripheral information corresponds to the first peripheral information in the claims
  • the three-dimensional peripheral information corresponds to the second peripheral information in the claims.
  • the peripheral information is information indicating the periphery of the moving body, and is, for example, an image of a predetermined direction viewed from the vehicle or a map around the vehicle.
  • 2D peripheral information is information generated using 2D data.
  • the two-dimensional data is two-dimensional map information or video.
  • the two-dimensional surrounding information is a map around the vehicle obtained from the two-dimensional map, or an image obtained by a camera mounted on the vehicle.
  • the two-dimensional peripheral information does not include, for example, three-dimensional information. That is, when the two-dimensional peripheral information is a map around the vehicle, the map does not include height information. Further, when the two-dimensional peripheral information is a video obtained by a camera, the video does not include information in the depth direction.
  • the 3D peripheral information is information generated using 3D data.
  • the three-dimensional data is, for example, a three-dimensional map.
  • the three-dimensional data may be information indicating a three-dimensional position or a three-dimensional shape of an object around the vehicle, acquired from another vehicle or server, or detected by the host vehicle.
  • the three-dimensional peripheral information is a two-dimensional or three-dimensional image or map around the vehicle generated using a three-dimensional map.
  • the three-dimensional peripheral information includes, for example, three-dimensional information.
  • the three-dimensional peripheral information may be information obtained by superimposing information indicating these distances or pedestrians on an image obtained from a sensor mounted on a vehicle. Further, the three-dimensional peripheral information may be information in which height information is superimposed on a two-dimensional map.
  • 3D data may be displayed in 3D, or a 2D image or 2D map obtained from the 3D data may be displayed on a 2D display or the like.
  • step S901 If it is determined in step S901 that the three-dimensional peripheral information is to be displayed (Yes in S902), the display device displays the three-dimensional peripheral information (S903). On the other hand, when it is determined in step S901 that the two-dimensional peripheral information is displayed (No in S902), the display device displays the two-dimensional peripheral information (S904). As described above, the display device displays the three-dimensional peripheral information or the two-dimensional peripheral information determined to be displayed in step S901.
  • the display device switches the peripheral information to be displayed depending on whether the vehicle is driven automatically or manually. Specifically, during automatic driving, since the driver does not need to know detailed road information about the surrounding area in detail, the display device displays two-dimensional peripheral information (for example, a two-dimensional map). On the other hand, during manual driving, three-dimensional peripheral information (for example, a three-dimensional map) is displayed so that the details of the surrounding road information can be understood for safe driving.
  • two-dimensional peripheral information for example, a two-dimensional map
  • three-dimensional peripheral information for example, a three-dimensional map
  • the display device displays information that affects the driving operation (for example, SWLD used for self-position estimation, Lanes, road signs, and surrounding situation detection results may be displayed.
  • the display device may display these information in addition to the two-dimensional map.
  • the peripheral information displayed during the automatic operation and the manual operation is merely an example, and the display device may display the three-dimensional peripheral information during the automatic operation and display the two-dimensional peripheral information during the manual operation. Further, the display device may display the metadata or the surrounding state detection result in addition to the two-dimensional or three-dimensional map or video in at least one of the automatic operation and the manual operation, or the two-dimensional or tertiary Metadata or surrounding situation detection results may be displayed instead of the original map or video.
  • the metadata is information indicating a three-dimensional position or a three-dimensional shape of an object acquired from a server or another vehicle.
  • the surrounding situation detection result is information indicating the three-dimensional position or the three-dimensional shape of the object detected by the host vehicle.
  • the display device switches the peripheral information to be displayed according to the driving environment.
  • the display device switches the peripheral information to be displayed according to the brightness of the outside world.
  • the display device displays a two-dimensional image obtained by a camera mounted on the host vehicle or three-dimensional periphery information created using the two-dimensional image.
  • the display device is dark and difficult to view the 2D image obtained from the camera mounted on the vehicle, so the 3D surrounding information created using a rider or millimeter wave radar is not displayed. indicate.
  • the display device may switch the peripheral information to be displayed depending on the driving area where the current host vehicle exists. For example, the display device displays three-dimensional peripheral information so that information on surrounding buildings and the like can be provided to the user in tourist spots, city centers, or near destinations. On the other hand, the display device displays two-dimensional peripheral information because there are many cases where detailed information about the periphery is not necessary in a mountainous area or a suburb.
  • the display device may switch the peripheral information to be displayed based on the weather condition. For example, the display device displays three-dimensional peripheral information created by using a camera or a rider in fine weather. On the other hand, in the case of rain or heavy fog, the three-dimensional peripheral information generated by the millimeter wave radar is displayed because the three-dimensional peripheral information by the camera or the rider is likely to contain noise.
  • the switching of these displays may be performed automatically by the system or manually by the user.
  • the three-dimensional peripheral information includes dense point group data generated based on WLD, mesh data generated based on MWLD, sparse data generated based on SWLD, and lane data generated based on lane world. Any one or more of two-dimensional map data including three-dimensional shape information of roads and intersections, and metadata including three-dimensional position or three-dimensional shape information that changes in real time or own vehicle detection results Generated from data.
  • WLD is three-dimensional point cloud data
  • SWLD is data obtained by extracting a point cloud having a feature amount equal to or greater than a threshold value from WLD.
  • MWLD is data having a mesh structure generated from WLD.
  • the lane world is data obtained by extracting a point group necessary for self-position estimation, driving assistance, automatic driving, or the like from the WLD and having a feature amount equal to or greater than a threshold value.
  • MWLD and SWLD have a smaller amount of data than WLD. Therefore, the amount of communication data and the amount of processing can be appropriately reduced by using WLD when more detailed data is required and using MWLD or SWLD otherwise.
  • the lane world has a smaller amount of data than SWLD. Therefore, the communication data amount and the processing amount can be further reduced by using the lane world.
  • the display device uses the type of data (WLD, SWLD, etc.) used to generate the three-dimensional peripheral information based on the above conditions. May be switched. That is, in the above description, in the case of displaying the three-dimensional peripheral information, the display device displays the three-dimensional peripheral information generated from the first data (for example, WLD or SWLD) having a larger data amount, and the two-dimensional peripheral information. May be displayed instead of the two-dimensional peripheral information, the three-dimensional peripheral information generated from the second data (for example, SWLD or lane world) having a smaller data amount than the first data.
  • the first data for example, WLD or SWLD
  • the display device displays the three-dimensional peripheral information generated from the second data (for example, SWLD or lane world) having a smaller data amount than the first data.
  • the display device displays the two-dimensional peripheral information or the three-dimensional peripheral information on, for example, a two-dimensional display, a head-up display, or a head-mounted display mounted on the host vehicle.
  • the display device may transfer and display the two-dimensional peripheral information or the three-dimensional peripheral information on a mobile terminal such as a smartphone by wireless communication.
  • the display device is not limited to the one mounted on the moving body, and may be any device that operates in cooperation with the moving body. For example, when a user who has a display device such as a smartphone boarded the mobile body, or when driving the mobile body, information on the mobile body such as the position of the mobile body based on the self-position estimation of the mobile body is displayed on the display device. The information is displayed or the information is displayed on the display device together with the peripheral information.
  • the display device may render the three-dimensional map and display it as two-dimensional data, or may display it as three-dimensional data using a three-dimensional display or a three-dimensional hologram. .
  • a mobile object such as a car or a robot is a three-dimensional map obtained by communication with a server or another vehicle for autonomous driving of a car or autonomous movement of a robot, and a two-dimensional image obtained from a sensor mounted on the own car, Alternatively, the vehicle detection 3D data is utilized. Of these data, the data that the user wants to view or store is considered to vary depending on the situation. Below, the data storage method according to the situation will be described.
  • the storage device is mounted on a moving body such as a car or a robot.
  • a moving body such as a car or a robot.
  • the moving body is a vehicle (automobile)
  • the storage device may be included in the display device described above.
  • the storage device determines whether to store the three-dimensional map based on the region.
  • the storage medium of the own vehicle by storing the three-dimensional map in the storage medium of the own vehicle, automatic driving can be performed without communication with the server in the stored space.
  • the storage capacity is limited, only limited data can be stored. Therefore, the storage device limits the area to be stored as shown below.
  • the storage device preferentially stores a three-dimensional map of a frequently passing area such as a commute route or the vicinity of a home. As a result, it is not necessary to acquire frequently used area data each time, and the amount of communication data can be effectively reduced.
  • preferentially storing means storing data having a higher priority within a predetermined storage capacity. For example, when new data cannot be stored in the storage capacity, data having a lower priority than the new data is deleted.
  • the storage device preferentially stores a three-dimensional map of an area where the communication environment is bad. Therefore, since it is not necessary to acquire data by communication in an area where the communication environment is bad, it is possible to suppress the occurrence of a case where a three-dimensional map cannot be acquired due to communication failure.
  • the storage device preferentially stores a three-dimensional map of an area with a lot of traffic. Thereby, it is possible to preferentially save a three-dimensional map of an area where accidents frequently occur. Therefore, in such an area, a three-dimensional map cannot be acquired due to poor communication, and it is possible to suppress a decrease in the accuracy of automatic driving or driving assistance.
  • the storage device preferentially stores a three-dimensional map of an area with low traffic.
  • the automatic driving mode for automatically following the preceding vehicle cannot be used.
  • the accuracy of automatic driving or driving support in such a region can be improved by preferentially storing a three-dimensional map of a region with a small amount of traffic.
  • the area where these three-dimensional maps are preferentially stored may be automatically determined by the system, or may be designated by the user.
  • the storage device may delete a three-dimensional map that has passed a predetermined period after being stored, or may update it to the latest data. This prevents old map data from being used.
  • the storage device compares the old map with the new map to detect the difference area, which is a spatial area with a difference, and the old map has the difference area data of the new map. Only the data in the changed area may be updated by adding or removing the data in the difference area from the old map.
  • the stored three-dimensional map is used for automatic operation. Therefore, the amount of communication data can be reduced by using SWLD as the three-dimensional map.
  • the three-dimensional map is not limited to SWLD but may be other types of data such as WLD.
  • the storage device stores a three-dimensional map based on the event.
  • the storage device stores a special event encountered during traveling as a three-dimensional map. As a result, the user can view the details of the event later.
  • An example of an event saved as a three-dimensional map is shown below. Note that the storage device may store the three-dimensional peripheral information generated from the three-dimensional map.
  • the storage device stores a three-dimensional map before and after a collision accident or when a danger is detected.
  • the storage device stores a three-dimensional map of a characteristic scene such as a beautiful scenery, a crowded place, or a sightseeing spot.
  • These events to be stored may be automatically determined by the system, or may be designated in advance by the user. For example, machine learning may be used as a method for determining these events.
  • the stored 3D map is used for viewing. Therefore, by using WLD as this three-dimensional map, a high-quality video can be provided.
  • the three-dimensional map is not limited to WLD, but may be other types of data such as SWLD.
  • the display device controls display according to the user.
  • the display device displays the surrounding situation detection result obtained by inter-vehicle communication superimposed on the map, the surrounding vehicle is represented by a wire frame, or the surrounding vehicle is rendered with transparency, etc. Make the sensing object in the back of the vehicle visible.
  • the display device may display an image of a viewpoint from the sky so that the own vehicle, the surrounding vehicle, and the surrounding state detection result can be seen from a bird's-eye view.
  • FIG. 43 is a diagram illustrating a display example of the head-up display when the position is shifted.
  • the display device In order to correct such a deviation, the display device detects the posture, body shape, or eye position of the user using sensor information mounted on the in-vehicle camera or the seat. The display device adjusts the position where information is superimposed according to the detected posture, body shape, or eye position of the user.
  • FIG. 44 is a diagram illustrating a display example of the head-up display after adjustment.
  • the display device may show a safe place on a map at the time of a disaster and present it to the user.
  • the vehicle may inform the user that the disaster is going to a safe place and perform automatic driving up to the safe place.
  • the vehicle is set for an area where the altitude is high so that it is not involved in a tsunami when an earthquake occurs.
  • the vehicle may acquire road information that has become difficult to pass due to the earthquake through communication with the server, and may perform processing according to the disaster content such as taking a route that avoids the road.
  • the automatic operation may include a plurality of modes such as a movement mode and a drive mode.
  • the vehicle determines the route to the destination in consideration of fast arrival time, low tolls, short mileage, low energy consumption, etc., and performs automatic driving according to the determined route. Do.
  • the vehicle In the drive mode, the vehicle automatically determines a route so as to reach the destination at the time specified by the user. For example, when the user sets the destination and arrival time, the vehicle goes around the surrounding sightseeing spots, determines a route that can reach the destination at the set time, and performs automatic driving according to the determined route.
  • the present disclosure is not limited to this embodiment.
  • each processing unit included in the three-dimensional data creation device or the display device according to the above embodiment is typically realized as an LSI which is an integrated circuit. These may be individually made into one chip, or may be made into one chip so as to include a part or all of them.
  • circuits are not limited to LSI, and may be realized by a dedicated circuit or a general-purpose processor.
  • An FPGA Field Programmable Gate Array
  • reconfigurable processor that can reconfigure the connection and setting of circuit cells inside the LSI may be used.
  • each component may be configured by dedicated hardware or may be realized by executing a software program suitable for each component.
  • Each component may be realized by a program execution unit such as a CPU or a processor reading and executing a software program recorded on a recording medium such as a hard disk or a semiconductor memory.
  • the present disclosure may be realized as a three-dimensional data creation method or display method executed by a three-dimensional data creation device or a display device.
  • division of functional blocks in the block diagram is an example, and a plurality of functional blocks can be realized as one functional block, a single functional block can be divided into a plurality of functions, or some functions can be transferred to other functional blocks. May be.
  • functions of a plurality of functional blocks having similar functions may be processed in parallel or time-division by a single hardware or software.
  • the three-dimensional data creation device and the display device according to one or more aspects have been described based on the embodiment, but the present disclosure is not limited to this embodiment. Unless it deviates from the gist of the present disclosure, various modifications conceived by those skilled in the art have been made in this embodiment, and forms constructed by combining components in different embodiments are also within the scope of one or more aspects. May be included.
  • This disclosure can be applied to display devices.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Geometry (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Traffic Control Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Navigation (AREA)

Abstract

表示方法は、移動体と連携し、動作する表示装置における表示方法であって、前記移動体の周辺状況を示す映像であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す映像であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定ステップ（Ｓ９０１）と、表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示ステップ（Ｓ９０３及びＳ９０４）とを含む。

Description

表示方法及び表示装置
　本開示は、表示方法及び表示装置に関する。
　自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。
　三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ－４　ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。
　また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ　Ｃｌｏｕｄ　Ｌｉｂｒａｒｙ）などによって一部サポートされている。
　また、三次元の地図データを用いて、車両周辺に位置する施設を検索し、表示する技術が知られている（例えば、特許文献１参照）。
国際公開第２０１４／０２０６６３号
　このような三次元データに基づく情報を表示する表示装置では、状況に応じた適切な情報を表示できることが望まれている。
　本開示は、適切な情報を表示できる表示方法又は表示装置を提供することを目的とする。
　本開示の一態様に係る表示方法は、移動体と連携し、動作する表示装置における表示方法であって、前記移動体の周辺状況を示す情報であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す情報であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定ステップと、表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示ステップとを含む。
　なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
　本開示は、適切な情報を表示できる表示方法又は表示装置を提供できる。
図１は、実施の形態１に係る符号化三次元データの構成を示す図である。 図２は、実施の形態１に係るＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。 図３は、実施の形態１に係るレイヤ間の予測構造の一例を示す図である。 図４は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。 図５は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。 図６は、実施の形態１に係る三次元データ符号化装置のブロック図である。 図７は、実施の形態１に係る符号化処理のフローチャートである。 図８は、実施の形態１に係る三次元データ復号装置のブロック図である。 図９は、実施の形態１に係る復号処理のフローチャートである。 図１０は、実施の形態１に係るメタ情報の一例を示す図である。 図１１は、実施の形態２に係るＳＷＬＤの構成例を示す図である。 図１２は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１３は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１４は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１５は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１６は、実施の形態２に係る三次元データ符号化装置のブロック図である。 図１７は、実施の形態２に係る符号化処理のフローチャートである。 図１８は、実施の形態２に係る三次元データ復号装置のブロック図である。 図１９は、実施の形態２に係る復号処理のフローチャートである。 図２０は、実施の形態２に係るＷＬＤの構成例を示す図である。 図２１は、実施の形態２に係るＷＬＤの８分木構造の例を示す図である。 図２２は、実施の形態２に係るＳＷＬＤの構成例を示す図である。 図２３は、実施の形態２に係るＳＷＬＤの８分木構造の例を示す図である。 図２４は、実施の形態３に係る車両間の三次元データの送受信の様子を示す模式図である。 図２５は、実施の形態３に係る車両間で伝送される三次元データの一例を示す図である。 図２６は、実施の形態３に係る三次元データ作成装置のブロック図である。 図２７は、実施の形態３に係る三次元データ作成処理のフローチャートである。 図２８は、実施の形態３に係る三次元データ送信装置のブロック図である。 図２９は、実施の形態３に係る三次元データ送信処理のフローチャートである。 図３０は、実施の形態３に係る三次元データ作成装置のブロック図である。 図３１は、実施の形態３に係る三次元データ作成処理のフローチャートである。 図３２は、実施の形態３に係る三次元データ送信装置のブロック図である。 図３３は、実施の形態３に係る三次元データ送信処理のフローチャートである。 図３４は、実施の形態４に係る三次元情報処理装置のブロック図である。 図３５は、実施の形態４に係る三次元情報処理方法のフローチャートである。 図３６は、実施の形態４に係る三次元情報処理方法のフローチャートである。 図３７は、実施の形態５に係る三次元データの送信処理を説明するための図である。 図３８は、実施の形態５に係る三次元データ作成装置のブロック図である。 図３９は、実施の形態５に係る三次元データ作成方法のフローチャートである。 図４０は、実施の形態５に係る三次元データ作成方法のフローチャートである。 図４１は、実施の形態６に係る表示方法のフローチャートである。 図４２は、実施の形態６に係るフロントガラス越しに見える周辺環境の例を示す図である。 図４３は、実施の形態６に係るヘッドアップディスプレイの表示例を示す図である。 図４４は、実施の形態６に係る調整後のヘッドアップディスプレイの表示例を示す図である。
　ポイントクラウド等の符号化データを実際の装置又はサービスにおいて使用する際には、所望の空間位置又はオブジェクトなどに対するランダムアクセスが必須となるが、これまで、三次元の符号化データにおけるランダムアクセスは機能として存在せず、そのための符号化方法も存在しなかった。
　本開示では、符号化三次元データにおいてランダムアクセス機能を提供できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置又は三次元データ復号装置について説明する。
　本開示の一態様に係る三次元データ符号化方法は、三次元データを符号化する三次元データ符号化方法であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割ステップと、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化ステップとを含む。
　これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
　例えば、前記三次元データ符号化方法は、前記複数の第１処理単位と、前記複数の第１処理単位の各々に対応付けられている三次元座標とを示す第１情報を生成する生成ステップを含み、前記符号化データは、前記第１情報を含んでもよい。
　例えば、前記第１情報は、さらに、前記複数の第１処理単位の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示してもよい。
　例えば、前記分割ステップでは、さらに、前記第１処理単位を複数の第２処理単位に分割し、前記符号化ステップでは、前記複数の第２処理単位の各々を符号化してもよい。
　例えば、前記符号化ステップでは、処理対象の第１処理単位に含まれる処理対象の第２処理単位を、前記処理対象の第１処理単位に含まれる他の第２処理単位を参照して符号化してもよい。
　これによれば、他の第２処理単位を参照することで符号化効率を向上できる。
　例えば、前記符号化ステップでは、前記処理対象の第２処理単位のタイプとして、他の第２処理単位を参照しない第１タイプ、他の一つの第２処理単位を参照する第２タイプ、及び他の二つの第２処理単位を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い前記処理対象の第２処理単位を符号化してもよい。
　例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクトの数又は粗密さに応じて、前記第１タイプを選択する頻度を変更してもよい。
　これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
　例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクト又は動的オブジェクトの数又は粗密さに応じて、前記第１処理単位のサイズを決定してもよい。
　これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
　例えば、前記第１処理単位は、予め定められた方向に空間分割され、各々が１以上の前記第２処理単位を含む複数のレイヤを含み、前記符号化ステップでは、前記第２処理単位を、当該第２処理単位と同一レイヤ又は当該第２処理単位より下層のレイヤに含まれる前記第２処理単位を参照して符号化してもよい。
　これによれば、例えば、システムにおいて重要なレイヤのランダムアクセス性を向上できるとともに、符号化効率の低下を抑制できる。
　例えば、前記分割ステップでは、静的オブジェクトのみを含む第２処理単位と、動的オブジェクトのみを含む第２処理単位とを異なる第１処理単位に割り当ててもよい。
　これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
　例えば、前記符号化ステップでは、複数の動的オブジェクトを個別に符号化し、前記複数の動的オブジェクトの符号化データは、静的オブジェクトのみを含む第２処理単位に対応付けられてもよい。
　これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
　例えば、前記分割ステップでは、さらに、前記第２処理単位を複数の第３処理単位に分割し、前記符号化ステップでは、前記複数の第３処理単位の各々を符号化してもよい。
　例えば、前記第３処理単位は、位置情報が対応付けられる最小単位である１以上のボクセルを含んでもよい。
　例えば、前記第２処理単位は、センサで得られた情報から導出された特徴点群を含んでもよい。
　例えば、前記符号化データは、前記複数の第１処理単位の符号化順を示す情報を含んでもよい。
　例えば、前記符号化データは、前記複数の第１処理単位のサイズを示す情報を含んでもよい。
　例えば、前記符号化ステップでは、前記複数の第１処理単位を並列に符号化してもよい。
　また、本開示の一態様に係る三次元データ復号方法は、三次元データを復号する三次元データ復号方法であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号ステップを含む。
　これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
　また、本開示の一態様に係る三次元データ符号化装置は、三次元データを符号化する三次元データ符号化装置であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割部と、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化部とを含んでもよい。
　これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
　また、本開示の一態様に係る三次元データ復号装置は、三次元データを復号する三次元データ復号装置であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号部を含んでもよい。
　これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
　なお、本開示は空間を分割して符号化する構成により、空間の量子化、予測等を可能とし、必ずしもランダムアクセスを行わない場合であっても有効である。
　また、本開示の一態様に係る三次元データ符号化方法は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップと、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップとを含む。
　これによれば、当該三次元データ符号化方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べて符号化三次元データのデータ量を削減できる。よって、当該三次元データ符号化方法は、伝送するデータ量を削減できる。
　例えば、前記三次元データ符号化方法は、さらに、前記第１三次元データを符号化することで第２符号化三次元データを生成する第２符号化ステップを含んでもよい。
　これによれば、当該三次元データ符号化方法は、例えば、使用用途等に応じて、第１符号化三次元データと第２符号化三次元データとを選択的に伝送できる。
　例えば、前記第２三次元データは、第１符号化方法により符号化され、前記第１三次元データは、前記第１符号化方法とは異なる第２符号化方法により符号化されてもよい。
　これによれば、当該三次元データ符号化方法は、第１三次元データと第２三次元データとにそれぞれ適した符号化方法を用いることができる。
　例えば、前記第１符号化方法では、前記第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
　これによれば、当該三次元データ符号化方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
　例えば、前記第１符号化方法と前記第２符号化方法とでは、三次元位置の表現手法が異なってもよい。
　これによれば、当該三次元データ符号化方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
　例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含んでもよい。
　これによれば、復号装置は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
　例えば、前記第１符号化ステップでは、前記第１符号化三次元データのデータ量が前記第２符号化三次元データのデータ量より小さくなるように前記第２三次元データを符号化してもよい。
　これによれば、当該三次元データ符号化方法は、第１符号化三次元データのデータ量を第２符号化三次元データのデータ量より小さくできる。
　例えば、前記抽出ステップでは、さらに、前記第１三次元データから予め定められた属性を有する物体に対応するデータを前記第２三次元データとして抽出してもよい。
　これによれば、当該三次元データ符号化方法は、復号装置で必要となるデータを含む第１符号化三次元データを生成できる。
　例えば、前記三次元データ符号化方法は、さらに、クライアントの状態に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
　これによれば、当該三次元データ符号化方法は、クライアントの状態に応じて適切なデータを送信できる。
　例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
　例えば、前記三次元データ符号化方法は、さらに、クライアントの要求に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
　これによれば、当該三次元データ符号化方法は、クライアントの要求に応じて適切なデータを送信できる。
　また、本開示の一態様に係る三次元データ復号方法は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号ステップと、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号ステップとを含む。
　これによれば、当該三次元データ復号方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号方法は、伝送するデータ量を削減できる。さらに、当該三次元データ復号方法は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
　例えば、前記第１復号方法では、前記第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
　これによれば、当該三次元データ復号方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
　例えば、前記第１復号方法と前記第２復号方法とでは、三次元位置の表現手法が異なってもよい。
　これによれば、当該三次元データ復号方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
　例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含み、前記識別子を参照して、前記第１符号化三次元データ及び前記第２符号化三次元データを識別してもよい。
　これによれば、当該三次元データ復号方法は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
　例えば、前記三次元データ復号方法は、さらに、クライアントの状態をサーバに通知する通知ステップと、前記クライアントの状態に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップとを含んでもよい。
　これによれば、当該三次元データ復号方法は、クライアントの状態に応じて適切なデータを受信できる。
　例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
　例えば、前記三次元データ復号方法は、さらに、前記第１符号化三次元データ及び前記第２符号化三次元データの一方をサーバに要求する要求ステップと、前記要求に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップを含んでもよい。
　これによれば、当該三次元データ復号方法は、用途に応じた適切なデータを受信できる。
　また、本開示の一態様に係る三次元データ符号化装置は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出部と、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化部とを備える。
　これによれば、当該三次元データ符号化装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べてデータ量を削減できる。よって、当該三次元データ符号化装置は、伝送するデータ量を削減できる。
　また、本開示の一態様に係る三次元データ復号装置は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号部と、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号部とを備える。
　これによれば、当該三次元データ復号装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号装置は、伝送するデータ量を削減できる。さらに、当該三次元データ復号装置は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
　また、本開示の一態様に係る三次元データ作成方法は、センサで検知した情報から第１三次元データを作成する作成ステップと、第２三次元データが符号化された符号化三次元データを受信する受信ステップと、受信した前記符号化三次元データを復号することで前記第２三次元データを取得する復号ステップと、前記第１三次元データと前記第２三次元データとを合成することで第３三次元データを作成する合成ステップとを含む。
　これによれば、当該三次元データ作成方法は、作成した第１三次元データと、受信した第２三次元データとを用いて、詳細な第３三次元データを作成できる。
　例えば、前記合成ステップでは、前記第１三次元データと前記第２三次元データを合成することで、前記第１三次元データ及び前記第２三次元データよりも密度が高い第３三次元データを作成してもよい。
　例えば、前記第２三次元データは、第４三次元データから特徴量が閾値以上のデータが抽出されることで生成された三次元データであってもよい。
　これによれば、当該三次元データ作成方法は、伝送される三次元データのデータ量を削減できる。
　例えば、前記三次元データ作成方法は、さらに、前記符号化三次元データの送信元である送信装置を探索する探索ステップを含み、前記受信ステップでは、探索された前記送信装置から前記符号化三次元データを受信してもよい。
　これによれば、当該三次元データ作成方法は、例えば、必要な三次元データを所有する送信装置を探索により特定できる。
　例えば、前記三次元データ作成方法は、さらに、三次元データを要求する三次元空間の範囲である要求範囲を決定する決定ステップと、前記要求範囲を示す情報を前記送信装置に送信する送信ステップとを含み、前記第２三次元データは、前記要求範囲の三次元データを含んでもよい。
　これによれば、当該三次元データ作成方法は、必要な三次元データを受信できるとともに、伝送される三次元データのデータ量を削減できる。
　例えば、前記決定ステップでは、前記センサで検知できないオクルージョン領域を含む空間範囲を前記要求範囲に決定してもよい。
　本開示の一態様に係る三次元データ送信方法は、センサで検知した情報から第５三次元データを作成する作成ステップと、前記第５三次元データの一部を抽出することで第６三次元データを作成する抽出ステップと、前記第６三次元データを符号化することで符号化三次元データを生成する符号化ステップと、前記符号化三次元データを送信する送信ステップとを含む。
　これによれば、当該三次元データ送信方法は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
　例えば、前記作成ステップでは、前記センサで検知した情報から第７三次元データを作成し、前記第７三次元データから特徴量が閾値以上のデータを抽出することで前記第５三次元データを作成してもよい。
　これによれば、当該三次元データ送信方法は、伝送される三次元データのデータ量を削減できる。
　例えば、前記三次元データ送信方法は、さらに、受信装置から、三次元データを要求する三次元空間の範囲である要求範囲を示す情報を受信する受信ステップを含み、前記抽出ステップでは、前記第５三次元データから、前記要求範囲の三次元データを抽出することで前記第６三次元データを作成し、前記送信ステップでは、前記受信装置に前記符号化三次元データを送信してもよい。
　これによれば、当該三次元データ送信方法は、伝送される三次元データのデータ量を削減できる。
　また、本開示の一態様に係る三次元データ作成装置は、センサで検知した情報から第１三次元データを作成する作成部と、第２三次元データが符号化された符号化三次元データを受信する受信部と、受信した前記符号化三次元データを復号することで前記第２三次元データを取得する復号部と、前記第１三次元データと前記第２三次元データとを合成することで第３三次元データを作成する合成部とを含む。
　これによれば、当該三次元データ作成装置は、作成した第１三次元データと、受信した第２三次元データとを用いて、詳細な第３三次元データを作成できる。
　また、本開示の一態様に係る三次元データ送信装置は、センサで検知した情報から第５三次元データを作成する作成部と、前記第５三次元データの一部を抽出することで第６三次元データを作成する抽出部と、前記第６三次元データを符号化することで符号化三次元データを生成する符号化部と、前記符号化三次元データを送信する送信部とを含む。
　これによれば、当該三次元データ送信装置は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
　また、本開示の一態様に係る三次元情報処理方法は、第１の三次元位置情報を含むマップデータを通信路を介して取得する取得ステップと、センサで検知した情報から第２の三次元位置情報を生成する生成ステップと、前記第１の三次元位置情報又は前記第２の三次元位置情報に対して異常判定処理を実施することで、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する判定ステップと、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する決定ステップと、前記対処動作の実施に必要となる制御を実施する動作制御ステップとを含む。
　これによれば、当該三次元情報処理方法は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
　例えば、前記第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含んでもよい。
　これによれば、当該三次元情報処理方法は、取得する第１の三次元位置情報のデータ量を削減できる。
　例えば、前記第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータであってもよい。
　これによれば、当該三次元情報処理方法は、取得する第１の三次元位置情報のデータ量を削減できる。
　例えば、前記判定ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できるかどうかを判定し、前記第１の三次元位置情報を前記通信路を介して取得できない場合、前記第１の三次元位置情報が異常であると判定してもよい。
　これによれば、当該三次元情報処理方法は、通信状況等に応じて、第１の三次元位置情報を取得できない場合に適切な対処動作を行える。
　例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップを含み、前記判定ステップでは、前記移動体が通信状態が悪い領域に進入するかを予測し、前記動作制御ステップでは、前記移動体が通信状態が悪い領域に進入すると予測された場合、前記移動体が当該領域に侵入するまえに、前記移動体は前記第１の三次元情報を取得してもよい。
　これによれば、当該三次元情報処理方法は、第１の三次元位置情報を取得できなくなる可能性がある場合に、予め第１の三次元位置情報を取得できる。
　例えば、前記動作制御ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できない場合、前記第１の三次元位置情報より狭い範囲の第３の三次元位置情報を前記通信路を介して取得してもよい。
　これによれば、当該三次元情報処理方法は、通信路を介して取得するデータのデータ量を削減できるので、通信状況が悪い場合でも、三次元位置情報を取得できる。
　例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップを含み、前記動作制御ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できない場合、二次元位置情報を含むマップデータを前記通信路を介して取得し、前記二次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行ってもよい。
　これによれば、当該三次元情報処理方法は、通信路を介して取得するデータのデータ量を削減できるので、通信状況が悪い場合でも、三次元位置情報を取得できる。
　例えば、前記三次元情報処理方法は、さらに、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップを含み、前記判定ステップでは、さらに、前記移動体の移動環境に基づき、前記二次元位置情報と前記第２の三次元位置情報とを用いた前記移動体の前記自己位置推定の結果を用いた前記移動体の自動運転を行うか否かを判定してもよい。
　これによれば、当該三次元情報処理方法は、移動体の移動環境に応じて、自動運転を継続するか否かを判定できる。
　例えば、前記三次元情報処理方法は、さらに、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップを含み、前記動作制御ステップでは、前記移動体の移動環境に基づき、前記自動運転のモードを切り替えてもよい。
　これによれば、当該三次元情報処理方法は、移動体の移動環境に応じて、適切な自動運転のモードを設定できる。
　例えば、前記判定ステップでは、前記第１の三次元位置情報のデータが完全であるかどうかを判定し、前記第１の三次元位置情報のデータが完全でない場合、前記第１の三次元位置情報が異常であると判定してもよい。
　これによれば、当該三次元情報処理方法は、例えば、第１の三次元位置情報が破損している場合等において、適切な対処動作を行える。
　例えば、前記判定ステップでは、前記第２の三次元位置情報のデータの生成精度が基準値以上であるかどうかを判定し、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記第２の三次元位置情報が異常であると判定してもよい。
　これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、適切な対処動作を行える。
　例えば、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記センサとは異なる代替センサで検知した情報から第４の三次元位置情報を生成してもよい。
　これによれば、当該三次元情報処理方法は、例えば、センサが故障している場合等において、代替センサを用いて三次元位置情報を取得できる。
　例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップと、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップとを含み、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記自動運転のモードを切り替えてもよい。
　これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、適切な対処動作を行える。
　例えば、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記センサの動作補正を行ってもよい。
　これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、第２の三次元位置情報を精度を上げることができる。
　また、本開示の一態様に係る三次元情報処理装置は、第１の三次元位置情報を含むマップデータを通信路を介して取得する取得部と、センサで検知した情報から第２の三次元位置情報を生成する生成部と、前記第１の三次元位置情報又は前記第２の三次元位置情報に対して異常判定処理を実施することで、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する判定部と、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する決定部と、前記対処動作の実施に必要となる制御を実施する動作制御部とを備える。
　これによれば、当該三次元情報処理装置は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
　また、本開示の一態様に係る三次元データ作成方法は、センサと、三次元データを外部と送受信する通信部とを備える移動体における三次元データ作成方法であって、前記センサで検知された情報と、前記通信部が受信した第１三次元データとに基づいて第２三次元データを作成する三次元データ作成ステップと、前記第２三次元データの一部である第３三次元データを外部に送信する送信ステップとを含む。
　これによれば、当該三次元データ作成方法は、移動体で検知できない範囲の三次元データを生成できる。つまり、当該三次元データ作成方法は、詳細な三次元データを生成できる。また、当該三次元データ作成方法は、他の移動体等が検知できない範囲の三次元データを、当該他の移動体等に送信できる。
　例えば、前記三次元データ作成ステップと、前記送信ステップとは、繰り返し行われ、前記第３三次元データは、現在の前記移動体の位置から、前記移動体の移動方向前方の所定距離に位置する所定サイズの小空間の三次元データであってもよい。
　これによれば、送信される第３三次元データのデータ量を削減できる。
　例えば、前記所定距離は、前記移動体の移動速度に応じて変化してもよい。
　これによれば、当該三次元データ作成方法は、移動体の移動速度に応じた適切な小空間を設定し、当該小空間の三次元データを他の移動体等に送信できる。
　例えば、前記所定サイズは、前記移動体の移動速度に応じて変化してもよい。
　これによれば、当該三次元データ作成方法は、移動体の移動速度に応じた適切な小空間を設定し、当該小空間の三次元データを他の移動体等に送信できる。
　例えば、前記三次元データ作成方法は、さらに、送信済みの前記第３三次元データに対応する前記小空間の前記第２三次元データに変化があるかを判定し、変化がある場合、変化がある当該第２三次元データの少なくとも一部である第４三次元データを外部に送信してもよい。
　これによれば、当該三次元データ作成方法は、変化があった空間の第４三次元データを他の移動体等に送信できる。
　例えば、前記第４三次元データを、前記第３三次元データよりも優先して送信してもよい。
　これによれば、当該三次元データ作成方法は、変化があった空間の第４三次元データを他の移動体等に優先的に送信するので、他の移動体等は、例えば、三次元データに基づく判断等を迅速に行える。
　例えば、前記変化がある場合、前記第３三次元データの送信よりも前に前記第４三次元データを送信してもよい。
　例えば、前記第４三次元データは、前記送信済みの第３三次元データに対応する前記小空間の前記第２三次元データと、変化後の当該第２三次元データとの差分を示してもよい。
　これによれば、当該三次元データ作成方法は、送信される三次元データのデータ量を削減できる。
　例えば、前記送信ステップでは、前記小空間の前記第３三次元データと、前記小空間の前記第１三次元データとに差がない場合、当該第３三次元データを送信しなくてもよい。
　これによれば、送信される第３三次元データのデータ量を削減できる。
　例えば、前記送信ステップでは、前記小空間の前記第３三次元データと、前記小空間の前記第１三次元データとに差がない場合、前記小空間の前記第３三次元データと、前記小空間の前記第１三次元データとに差がないことを示す情報を前記外部に送信してもよい。
　例えば、前記センサで検知された前記情報は、三次元データであってもよい。
　また、本開示の一態様に係る三次元データ作成装置は、移動体に搭載される三次元データ作成装置であって、センサと、外部から第１三次元データを受信する受信部と、前記センサで検知された情報と、前記第１三次元データとに基づいて第２三次元データを作成する作成部と、前記第２三次元データの一部である第３三次元データを外部に送信する送信部とを含む。
　これによれば、当該三次元データ作成装置は、移動体で検知できない範囲の三次元データを生成できる。つまり、当該三次元データ作成装置は、詳細な三次元データを生成できる。また、当該三次元データ作成装置は、他の移動体等が検知できない範囲の三次元データを、当該他の移動体等に送信できる。
　また、本開示の一態様に係る表示方法は、移動体と連携し、動作する表示装置における表示方法であって、前記移動体の周辺状況を示す情報であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す情報であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定ステップと、表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示ステップとを含む。
　これによれば、当該表示方法は、移動体の運転状況に基づき、二次元データを用いて生成された第１周辺情報と、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを切り替えることができる。例えば、当該表示方法は、詳細な情報が必要とされる場合には、情報量が多い第２周辺情報を表示し、そうでない場合には、データ量及び処理量等が少ない第１周辺情報を表示する。これにより、当該表示方法は、状況に応じた適切な情報を表示できるとともに、通信データ量及び処理量等を削減できる。
　例えば、前記運転状況は、前記移動体が自律移動中であるか、手動運転中であるかであり、前記決定ステップでは、前記移動体が自律移動中である場合、前記第１周辺情報を表示すると決定し、前記移動体が手動運転中である場合、前記第２周辺情報を表示すると決定してもよい。
　これによれば、手動運転時には詳細な情報を表示できるとともに、自動運手時の処理量等を低減できる。
　例えば、前記運転状況は、前記移動体が位置する領域であってもよい。
　これによれば、移動体の位置に応じて、適切な情報を表示できる。
　例えば、前記三次元データは、三次元の点群データから、特徴量が閾値以上である点群が抽出されることで得られたデータであってもよい。
　これによれば、通信データ量、又は保存しておくデータ量を削減できる。
　例えば、前記三次元データは、三次元の点群データから生成されたメッシュ構造を有するデータであってもよい。
　これによれば、通信データ量、又は保存しておくデータ量を削減できる。
　例えば、前記三次元データは、三次元の点群データから、特徴量が閾値以上であり、かつ、自己位置推定、運転アシスト、又は自動運転に必要な点群が抽出されることで得られたデータであってもよい。
　これによれば、通信データ量、又は保存しておくデータ量を削減できる。
　例えば、前記三次元データは、三次元の点群データであってもよい。
　これによれば、第２周辺情報の精度を向上できる。
　例えば、前記表示ステップでは、ヘッドアップディスプレイに前記第２周辺情報を表示し、前記表示方法は、さらに、前記移動体に搭乗するユーザの姿勢、体型又は目の位置に応じて前記第２周辺情報の表示位置を調整してもよい。
　これによれば、ユーザの姿勢、体型又は目の位置に応じて、適切な位置に情報を表示できる。
　また、本開示の一態様に係る表示装置は、移動体と連携し、動作する表示装置であって、前記移動体の周辺状況を示す映像であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す映像であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定部と、表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示部とを含む。
　これによれば、当該表示装置は、移動体の運転状況に基づき、二次元データを用いて生成された第１周辺情報と、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを切り替えることができる。例えば、当該表示装置は、詳細な情報が必要とされる場合には、情報量が多い第２周辺情報を表示し、そうでない場合には、データ量及び処理量等が少ない第１周辺情報を表示する。これにより、当該表示装置は、状況に応じた適切な情報を表示できるとともに、通信データ量及び処理量等を削減できる。
　なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
　以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
　（実施の形態１）
　まず、本実施の形態に係る符号化三次元データ（以下、符号化データとも記す）のデータ構造について説明する。図１は、本実施の形態に係る符号化三次元データの構成を示す図である。
　本実施の形態では、三次元空間は、動画像の符号化におけるピクチャに相当するスペース（ＳＰＣ）に分割され、スペースを単位として三次元データが符号化される。スペースは、さらに、動画像符号化におけるマクロブロックなどに相当するボリューム（ＶＬＭ）に分割され、ＶＬＭを単位として予測及び変換が行われる。ボリュームは、位置座標が対応付けられる最小単位である複数のボクセル（ＶＸＬ）を含む。なお、予測とは、二次元画像で行われる予測と同様に、他の処理単位を参照し、処理対象の処理単位と類似する予測三次元データを生成し、当該予測三次元データと処理対象の処理単位との差分を符号化することである。また、この予測は、同一時刻の他の予測単位を参照する空間予測のみならず、異なる時刻の予測単位を参照する時間予測を含む。
　例えば、三次元データ符号化装置（以下、符号化装置とも記す）は、ポイントクラウドなどの点群データにより表現される三次元空間を符号化する際には、ボクセルのサイズに応じて、点群の各点、又は、ボクセル内に含まれる複数点をまとめて符号化する。ボクセルを細分化すれば点群の三次元形状を高精度に表現でき、ボクセルのサイズを大きくすれば点群の三次元形状をおおまかに表現できる。
　なお、以下では、三次元データがポイントクラウドである場合を例に説明を行うが、三次元データはポイントクラウドに限定されず、任意の形式の三次元データでよい。
　また、階層構造のボクセルを用いてもよい。この場合、ｎ次の階層では、ｎ－１次以下の階層（ｎ次の階層の下層）にサンプル点が存在するかどうかを順に示してもよい。例えば、ｎ次の階層のみを復号する際において、ｎ－１次以下の階層にサンプル点が存在する場合は、ｎ次階層のボクセルの中心にサンプル点が存在するとみなして復号できる。
　また、符号化装置は、点群データを、距離センサ、ステレオカメラ、単眼カメラ、ジャイロ、又は慣性センサなどを用いて取得する。
　スペースは、動画像の符号化と同様に、単独で復号可能なイントラ・スペース（Ｉ－ＳＰＣ）、単方向の参照のみ可能なプレディクティブ・スペース（Ｐ－ＳＰＣ）、及び、双方向の参照が可能なバイディレクショナル・スペース（Ｂ－ＳＰＣ）を含む少なくとも３つの予測構造のいずれかに分類される。また、スペースは復号時刻と表示時刻との２種類の時刻情報を有する。
　また、図１に示すように、複数のスペースを含む処理単位として、ランダムアクセス単位であるＧＯＳ（Ｇｒｏｕｐ　Ｏｆ　Ｓｐａｃｅ）が存在する。さらに、複数のＧＯＳを含む処理単位としてワールド（ＷＬＤ）が存在する。
　ワールドが占める空間領域は、ＧＰＳ又は緯度及び経度情報などにより、地球上の絶対位置と対応付けられる。この位置情報はメタ情報として格納される。なお、メタ情報は、符号化データに含まれてもよいし、符号化データとは別に伝送されてもよい。
　また、ＧＯＳ内では、全てのＳＰＣが三次元的に隣接してもよいし、他のＳＰＣと三次元的に隣接しないＳＰＣが存在してもよい。
　なお、以下では、ＧＯＳ、ＳＰＣ又はＶＬＭ等の処理単位に含まれる三次元データに対する、符号化、復号又は参照等の処理を、単に、処理単位を符号化、復号又は参照する等とも記す。また、処理単位に含まれる三次元データは、例えば、三次元座標等の空間位置と、色情報等の特性値との少なくとも一つの組を含む。
　次に、ＧＯＳにおけるＳＰＣの予測構造について説明する。同一ＧＯＳ内の複数のＳＰＣ、又は、同一ＳＰＣ内の複数のＶＬＭは、互いに異なる空間を占めるが、同じ時刻情報（復号時刻及び表示時刻）を持つ。
　また、ＧＯＳ内で復号順で先頭となるＳＰＣはＩ－ＳＰＣである。また、ＧＯＳにはクローズドＧＯＳとオープンＧＯＳとの２種類が存在する。クローズドＧＯＳは、先頭Ｉ－ＳＰＣから復号開始する際に、ＧＯＳ内の全てのＳＰＣを復号できるＧＯＳである。オープンＧＯＳでは、ＧＯＳ内で先頭Ｉ－ＳＰＣよりも表示時刻が前となる一部のＳＰＣは異なるＧＯＳを参照しており、当該ＧＯＳのみで復号を行うことができない。
　なお、地図情報などの符号化データでは、ＷＬＤを符号化順とは逆方向から復号することがあり、ＧＯＳ間に依存性があると逆方向再生が困難である。よって、このような場合には、基本的にはクローズドＧＯＳが用いられる。
　また、ＧＯＳは、高さ方向にレイヤ構造を有し、下のレイヤのＳＰＣから順に符号化又は復号が行われる。
　図２はＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。図３はレイヤ間の予測構造の一例を示す図である。
　ＧＯＳ内には１つ以上のＩ－ＳＰＣが存在する。三次元空間内には、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などのオブジェクトが存在するが、特にサイズが小さいオブジェクトはＩ－ＳＰＣとして符号化すると有効である。例えば、三次元データ復号装置（以下、復号装置とも記す）は、ＧＯＳを低処理量又は高速に復号する際には、ＧＯＳ内のＩ－ＳＰＣのみを復号する。
　また、符号化装置は、ＷＬＤ内のオブジェクトの粗密さに応じてＩ－ＳＰＣの符号化間隔又は出現頻度を切替えてもよい。
　また、図３に示す構成において、符号化装置又は復号装置は、複数のレイヤを下層（レイヤ１）から順に符号化又は復号する。これにより、例えば自動走行車などにとってより情報量の多い地面付近のデータの優先度を上げることができる。
　なお、ドローンなどで用いられる符号化データでは、ＧＯＳ内において高さ方向で上のレイヤのＳＰＣから順に符号化又は復号してもよい。
　また、符号化装置又は復号装置は、復号装置が荒くＧＯＳを把握でき、徐々に解像度を上げるようにできるように、複数のレイヤを符号化又は復号してもよい。例えば、符号化装置又は復号装置は、レイヤ３、８、１、９…の順に符号化又は復号してもよい。
　次に、静的オブジェクト及び動的オブジェクトの扱い方について説明する。
　三次元空間には、建物又は道路など静的なオブジェクト又はシーン（以降、まとめて静的オブジェクトと呼ぶ）と、車又はヒトなどの動的なオブジェクト（以降、動的オブジェクトと呼ぶ）とが存在する。オブジェクトの検出は、ポイントクラウドのデータ、又は、ステレオカメラなどのカメラ映像などから特徴点を抽出するなどして、別途行われる。ここでは、動的オブジェクトの符号化方法の例について説明する。
　第１方法は、静的オブジェクトと動的オブジェクトとを区別せずに符号化する方法である。第２方法は、静的オブジェクトと動的オブジェクトとを識別情報により区別する方法である。
　例えば、ＧＯＳが識別単位として用いられる。この場合、静的オブジェクトを構成するＳＰＣを含むＧＯＳと、動的オブジェクトを構成するＳＰＣを含むＧＯＳとが、符号化データ内、又は符号化データとは別途格納される識別情報により区別される。
　または、ＳＰＣが識別単位として用いられてもよい。この場合、静的オブジェクトを構成するＶＬＭを含むＳＰＣと、動的オブジェクトを構成するＶＬＭを含むＳＰＣとが、上記識別情報により区別される。
　または、ＶＬＭ或いはＶＸＬが識別単位として用いられてもよい。この場合、静的オブジェクトを含むＶＬＭ又はＶＸＬと、動的オブジェクトを含むＶＬＭ又はＶＸＬとが上記識別情報により区別される。
　また、符号化装置は、動的オブジェクトを１以上のＶＬＭ又はＳＰＣとして符号化し、静的オブジェクトを含むＶＬＭ又はＳＰＣと、動的オブジェクトを含むＳＰＣとを、互いに異なるＧＯＳとして符号化してもよい。また、符号化装置は、動的オブジェクトのサイズに応じてＧＯＳのサイズが可変となる場合には、ＧＯＳのサイズをメタ情報として別途格納する。
　また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに独立に符号化し、静的オブジェクトから構成されるワールドに対して、動的オブジェクトを重畳してもよい。このとき、動的オブジェクトは１以上のＳＰＣから構成され、各ＳＰＣは、当該ＳＰＣが重畳される静的オブジェクトを構成する１以上のＳＰＣに対応付けられる。なお、動的オブジェクトをＳＰＣではなく、１以上のＶＬＭ又はＶＸＬにより表現してもよい。
　また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに異なるストリームとして符号化してもよい。
　また、符号化装置は、動的オブジェクトを構成する１以上のＳＰＣを含むＧＯＳを生成してもよい。さらに、符号化装置は、動的オブジェクトを含むＧＯＳ（ＧＯＳ＿Ｍ）と、ＧＯＳ＿Ｍの空間領域に対応する静的オブジェクトのＧＯＳとを同一サイズ（同一の空間領域を占める）に設定してもよい。これにより、ＧＯＳ単位で重畳処理を行うことができる。
　動的オブジェクトを構成するＰ－ＳＰＣ又はＢ－ＳＰＣは、符号化済みの異なるＧＯＳに含まれるＳＰＣを参照してもよい。動的オブジェクトの位置が時間的に変化し、同一の動的オブジェクトが異なる時刻のＧＯＳとして符号化されるケースでは、ＧＯＳを跨いだ参照が圧縮率の観点から有効となる。
　また、符号化データの用途に応じて、上記の第１方法と第２方法とを切替えてもよい。例えば、符号化三次元データを地図として用いる場合は、動的オブジェクトを分離できることが望ましいため、符号化装置は、第２方法を用いる。一方、符号化装置は、コンサート又はスポーツなどのイベントの三次元データを符号化する場合に、動的オブジェクトを分離する必要がなければ、第１方法を用いる。
　また、ＧＯＳ又はＳＰＣの復号時刻と表示時刻とは符号化データ内、又はメタ情報として格納できる。また、静的オブジェクトの時刻情報は全て同一としてもよい。このとき、実際の復号時刻と表示時刻は、復号装置が決定するものとしてもよい。あるいは、復号時刻として、ＧＯＳ、あるいは、ＳＰＣ毎に異なる値が付与され、表示時刻として全て同一の値が付与されてもよい。さらに、ＨＥＶＣのＨＲＤ（Ｈｙｐｏｔｈｅｔｉｃａｌ　Ｒｅｆｅｒｅｎｃｅ　Ｄｅｃｏｄｅｒ）など動画像符号化におけるデコーダモデルのように、デコーダが所定のサイズのバッファを有し、復号時刻に従って所定のビットレートでビットストリームを読み込めば破綻なく復号できることを保証するモデルを導入してもよい。
　次に、ワールド内におけるＧＯＳの配置について説明する。ワールドにおける三次元空間の座標は、互いに直交する３本の座標軸（ｘ軸、ｙ軸、ｚ軸）により表現される。ＧＯＳの符号化順に所定のルールを設けることで、空間的に隣接するＧＯＳが符号化データ内で連続するように符号化を行える。例えば、図４に示す例では、ｘｚ平面内のＧＯＳを連続的に符号化する。あるｘｚ平面内の全てのＧＯＳの符号化終了後にｙ軸の値を更新する。すなわち、符号化が進むにつれて、ワールドはｙ軸方向に伸びていく。また、ＧＯＳのインデックス番号は符号化順に設定される。
　ここで、ワールドの三次元空間は、ＧＰＳ、或いは緯度及び経度などの地理的な絶対座標と１対１に対応付けておく。或いは、予め設定した基準位置からの相対位置により三次元空間が表現されてもよい。三次元空間のｘ軸、ｙ軸、ｚ軸の方向は、緯度及び経度などに基づいて決定される方向ベクトルとして表現され、当該方向ベクトルはメタ情報として符号化データと共に格納される。
　また、ＧＯＳのサイズは固定とし、符号化装置は、当該サイズをメタ情報として格納する。また、ＧＯＳのサイズは、例えば、都市部か否か、又は、室内か外かなどに応じて切替えられてもよい。つまり、ＧＯＳのサイズは、情報としての価値があるオブジェクトの量又は性質に応じて切替えられてもよい。あるいは、符号化装置は、同一ワールド内において、オブジェクトの密度などに応じて、ＧＯＳのサイズ、又は、ＧＯＳ内のＩ－ＳＰＣの間隔を適応的に切替えてもよい。例えば、符号化装置は、オブジェクトの密度が高いほど、ＧＯＳのサイズを小さくし、ＧＯＳ内のＩ－ＳＰＣの間隔を短くする。
　図５の例では、３番目から１０番目のＧＯＳの領域では、オブジェクトの密度が高いため、細かい粒度でのランダムアクセスを実現するために、ＧＯＳが細分化されている。なお、７番目から１０番目のＧＯＳは、それぞれ、３番目から６番目のＧＯＳの裏側に存在する。
　次に、本実施の形態に係る三次元データ符号化装置の構成及び動作の流れを説明する。図６は、本実施の形態に係る三次元データ符号化装置１００のブロック図である。図７は、三次元データ符号化装置１００の動作例を示すフローチャートである。
　図６に示す三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。この三次元データ符号化装置１００は、取得部１０１と、符号化領域決定部１０２と、分割部１０３と、符号化部１０４とを備える。
　図７に示すように、まず、取得部１０１は、点群データである三次元データ１１１を取得する（Ｓ１０１）。
　次に、符号化領域決定部１０２は、取得した点群データに対応する空間領域のうち、符号化対象の領域を決定する（Ｓ１０２）。例えば、符号化領域決定部１０２は、ユーザ又は車両の位置に応じて、当該位置の周辺の空間領域を符号化対象の領域に決定する。
　次に、分割部１０３は、符号化対象の領域に含まれる点群データを、各処理単位に分割する。ここで処理単位とは、上述したＧＯＳ及びＳＰＣ等である。また、この符号化対象の領域は、例えば、上述したワールドに対応する。具体的には、分割部１０３は、予め設定したＧＯＳのサイズ、又は、動的オブジェクトの有無或いはサイズに基づいて、点群データを処理単位に分割する（Ｓ１０３）。また、分割部１０３は、各ＧＯＳにおいて符号化順で先頭となるＳＰＣの開始位置を決定する。
　次に、符号化部１０４は、各ＧＯＳ内の複数のＳＰＣを順次符号化することで符号化三次元データ１１２を生成する（Ｓ１０４）。
　なお、ここでは、符号化対象の領域をＧＯＳ及びＳＰＣに分割した後に、各ＧＯＳを符号化する例を示したが、処理の手順は上記に限らない。例えば、一つのＧＯＳの構成を決定した後にそのＧＯＳを符号化し、その後、次のＧＯＳの構成を決定する等の手順を用いてもよい。
　このように、三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）に分割し、第１処理単位（ＧＯＳ）を複数の第２処理単位（ＳＰＣ）に分割し、第２処理単位（ＳＰＣ）を複数の第３処理単位（ＶＬＭ）に分割する。また、第３処理単位（ＶＬＭ）は、位置情報が対応付けられる最小単位である１以上のボクセル（ＶＸＬ）を含む。
　次に、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）の各々を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を符号化する。また、三次元データ符号化装置１００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を符号化する。
　例えば、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）がクローズドＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）を参照して符号化する。つまり、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照しない。
　一方、処理対象の第１処理単位（ＧＯＳ）がオープンＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）、又は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照して符号化する。
　また、三次元データ符号化装置１００は、処理対象の第２処理単位（ＳＰＣ）のタイプとして、他の第２処理単位（ＳＰＣ）を参照しない第１タイプ（Ｉ－ＳＰＣ）、他の一つの第２処理単位（ＳＰＣ）を参照する第２タイプ（Ｐ－ＳＰＣ）、及び他の二つの第２処理単位（ＳＰＣ）を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い処理対象の第２処理単位（ＳＰＣ）を符号化する。
　次に、本実施の形態に係る三次元データ復号装置の構成及び動作の流れを説明する。図８は、本実施の形態に係る三次元データ復号装置２００のブロックのブロック図である。図９は、三次元データ復号装置２００の動作例を示すフローチャートである。
　図８に示す三次元データ復号装置２００は、符号化三次元データ２１１を復号することで復号三次元データ２１２を生成する。ここで、符号化三次元データ２１１は、例えば、三次元データ符号化装置１００で生成された符号化三次元データ１１２である。この三次元データ復号装置２００は、取得部２０１と、復号開始ＧＯＳ決定部２０２と、復号ＳＰＣ決定部２０３と、復号部２０４とを備える。
　まず、取得部２０１は、符号化三次元データ２１１を取得する（Ｓ２０１）。次に、復号開始ＧＯＳ決定部２０２は、復号対象のＧＯＳに決定する（Ｓ２０２）。具体的には、復号開始ＧＯＳ決定部２０２は、符号化三次元データ２１１内、又は符号化三次元データとは別に格納されたメタ情報を参照して、復号を開始する空間位置、オブジェクト、又は、時刻に対応するＳＰＣを含むＧＯＳを復号対象のＧＯＳに決定する。
　次に、復号ＳＰＣ決定部２０３は、ＧＯＳ内で復号するＳＰＣのタイプ（Ｉ、Ｐ、Ｂ）を決定する（Ｓ２０３）。例えば、復号ＳＰＣ決定部２０３は、（１）Ｉ－ＳＰＣのみを復号するか、（２）Ｉ－ＳＰＣ及びＰ－ＳＰＣを復号するか、（３）全てのタイプを復号するかを決定する。なお、全てのＳＰＣを復号するなど、予め復号するＳＰＣのタイプが決定している場合は、本ステップは行われなくてもよい。
　次に、復号部２０４は、ＧＯＳ内で復号順（符号化順と同一）で先頭となるＳＰＣが符号化三次元データ２１１内で開始するアドレス位置を取得し、当該アドレス位置から先頭ＳＰＣの符号化データを取得し、当該先頭ＳＰＣから順に各ＳＰＣを順次復号する（Ｓ２０４）。なお、上記アドレス位置は、メタ情報等に格納されている。
　このように、三次元データ復号装置２００は、復号三次元データ２１２を復号する。具体的には、三次元データ復号装置２００は、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）の符号化三次元データ２１１の各々を復号することで第１処理単位（ＧＯＳ）の復号三次元データ２１２を生成する。より具体的には、三次元データ復号装置２００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を復号する。また、三次元データ復号装置２００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を復号する。
　以下、ランダムアクセス用のメタ情報について説明する。このメタ情報は、三次元データ符号化装置１００で生成され、符号化三次元データ１１２（２１１）に含まれる。
　従来の二次元の動画像におけるランダムアクセスでは、指定した時刻の近傍となるランダムアクセス単位の先頭フレームから復号を開始していた。一方、ワールドにおいては、時刻に加えて、空間（座標又はオブジェクトなど）に対するランダムアクセスが想定される。
　そこで、少なくとも座標、オブジェクト、及び時刻の３つの要素へのランダムアクセスを実現するために、各要素とＧＯＳのインデックス番号とを対応付けるテーブルを用意する。さらに、ＧＯＳのインデックス番号とＧＯＳの先頭となるＩ－ＳＰＣのアドレスを対応付ける。図１０は、メタ情報に含まれるテーブルの一例を示す図である。なお、図１０に示す全てのテーブルが用いられる必要はなく、少なくとも一つのテーブルが用いられればよい。
　以下、一例として、座標を起点とするランダムアクセスについて説明する。座標（ｘ２、ｙ２、ｚ２）にアクセスする際には、まず、座標－ＧＯＳテーブルを参照して、座標が（ｘ２、ｙ２、ｚ２）である地点は２番目のＧＯＳに含まれることが分かる。次に、ＧＯＳアドレステーブルを参照し、２番目のＧＯＳにおける先頭のＩ－ＳＰＣのアドレスがａｄｄｒ（２）であることが分かるため、復号部２０４は、このアドレスからデータを取得して復号を開始する。
　なお、アドレスは、論理フォーマットにおけるアドレスであっても、ＨＤＤ又はメモリの物理アドレスであってもよい。また、アドレスの代わりにファイルセグメントを特定する情報が用いられてもよい。例えば、ファイルセグメントは、１つ以上のＧＯＳなどをセグメント化した単位である。
　また、オブジェクトが複数のＧＯＳに跨る場合には、オブジェクト－ＧＯＳテーブルにおいて、オブジェクトが属するＧＯＳを複数示してもよい。当該複数のＧＯＳがクローズドＧＯＳであれば、符号化装置及び復号装置は、並列に符号化又は復号を行うことができる。一方、当該複数のＧＯＳがオープンＧＯＳであれば、複数のＧＯＳが互いに参照しあうことでより圧縮効率を高めることができる。
　オブジェクトの例としては、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などがある。例えば、三次元データ符号化装置１００は、ワールドの符号化時に三次元のポイントクラウドなどからオブジェクトに特有の特徴点を抽出し、当該特徴点に基づきオブジェクトを検出し、検出したオブジェクトをランダムアクセスポイントとして設定できる。
　このように、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）と、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている三次元座標とを示す第１情報を生成する。また、符号化三次元データ１１２（２１１）は、この第１情報を含む。また、第１情報は、さらに、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示す。
　三次元データ復号装置２００は、符号化三次元データ２１１から第１情報を取得し、第１情報を用いて、指定された三次元座標、オブジェクト又は時刻に対応する第１処理単位の符号化三次元データ２１１を特定し、当該符号化三次元データ２１１を復号する。
　以下、その他のメタ情報の例について説明する。ランダムアクセス用のメタ情報の他に、三次元データ符号化装置１００は、以下のようなメタ情報を生成及び格納してもよい。また、三次元データ復号装置２００は、このメタ情報を復号時に利用してもよい。
　三次元データを地図情報として用いる場合などには、用途に応じてプロファイルが規定され、当該プロファイルを示す情報がメタ情報に含まれてもよい。例えば、市街地或いは郊外向け、又は、飛行物体向けのプロファイルが規定され、それぞれにおいてワールド、ＳＰＣ又はＶＬＭの最大又は最小サイズなどが定義される。例えば、市街地向けでは、郊外向けよりも詳細な情報が必要なため、ＶＬＭの最小サイズが小さく設定される。
　メタ情報は、オブジェクトの種類を示すタグ値を含んでもよい。このタグ値はオブジェクトを構成するＶＬＭ、ＳＰＣ、又はＧＯＳと対応付けられる。例えば、タグ値「０」は「人」を示し、タグ値「１」は「車」を示し、タグ値「２」は「信号機」を示す、などオブジェクトの種類ごとにタグ値が設定されてもよい。または、オブジェクトの種類が判定しにくい又は判定する必要がない場合はサイズ、又は、動的オブジェクトか静的オブジェクトかなどの性質を示すタグ値が用いられてもよい。
　また、メタ情報は、ワールドが占める空間領域の範囲を示す情報を含んでもよい。
　また、メタ情報は、符号化データのストリーム全体、又は、ＧＯＳ内のＳＰＣなど、複数のＳＰＣに共通のヘッダ情報として、ＳＰＣ又はＶＸＬのサイズを格納してもよい。
　また、メタ情報は、ポイントクラウドの生成に用いた距離センサ或いはカメラなどの識別情報、又は、ポイントクラウド内の点群の位置精度を示す情報を含んでもよい。
　また、メタ情報は、ワールドが静的オブジェクトのみから構成されるか、動的オブジェクトを含むかを示す情報を含んでもよい。
　以下、本実施の形態の変形例について説明する。
　符号化装置又は復号装置は、互いに異なる２以上のＳＰＣ又はＧＯＳを並列で符号化又は復号してもよい。並列で符号化又は復号するＧＯＳは、ＧＯＳの空間位置を示すメタ情報などに基づいて決定できる。
　三次元データを車又は飛行物体などが移動する際の空間地図として用いる、又はこのような空間地図を生成するケースなどでは、符号化装置又は復号装置は、ＧＰＳ、経路情報、又はズーム倍率などに基づいて特定される空間に含まれるＧＯＳ又はＳＰＣを符号化又は復号してもよい。
　また、復号装置は、自己位置又は走行経路に近い空間から順に復号を行ってもよい。符号化装置又は復号装置は、自己位置又は走行経路から遠い空間を、近い空間に比べて優先度を落として符号化又は復号してもよい。ここで、優先度を落とすとは、処理順を下げる、解像度を下げる（間引いて処理する）、又は、画質を下げる（符号化効率を上げる。例えば、量子化ステップを大きくする。）等である。
　また、復号装置は、空間内で階層的に符号化されている符号化データを復号する際は、低階層のみを復号してもよい。
　また、復号装置は、地図のズーム倍率又は用途に応じて、低階層から優先的に復号してもよい。
　また、車又はロボットの自律走行時に行う自己位置推定又は物体認識などの用途では、符号化装置又は復号装置は、路面から特定高さ以内の領域（認識を行う領域）以外は解像度を落として符号化又は復号を行ってもよい。
　また、符号化装置は、室内と室外との空間形状を表現するポイントクラウドをそれぞれ個別に符号化してもよい。例えば、室内を表現するＧＯＳ（室内ＧＯＳ）と室外を表現するＧＯＳ（室外ＧＯＳ）とを分けることで、復号装置は、符号化データを利用する際に、視点位置に応じて復号するＧＯＳを選択できる。
　また、符号化装置は、座標が近い室内ＧＯＳと室外ＧＯＳとを、符号化ストリーム内で隣接するように符号化してもよい。例えば、符号化装置は、両者の識別子を対応付け、符号化ストリーム内、又は別途格納されるメタ情報内に対応付けた識別子を示す情報を格納する。これにより、復号装置は、メタ情報内の情報を参照して、座標が近い室内ＧＯＳと室外ＧＯＳとを識別できる。
　また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ＧＯＳ又はＳＰＣのサイズを切替えてもよい。例えば、符号化装置は、室内では室外に比べてＧＯＳのサイズを小さく設定する。また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ポイントクラウドから特徴点を抽出する際の精度、又はオブジェクト検出の精度などを変更してもよい。
　また、符号化装置は、復号装置が動的オブジェクトを静的オブジェクトと区別して表示するための情報を符号化データに付加してもよい。これにより、復号装置は、動的オブジェクトと赤枠又は説明用の文字などとを合わせて表示できる。なお、復号装置は、動的オブジェクトの代わりに赤枠又は説明用の文字のみを表示してもよい。また、復号装置は、より細かいオブジェクト種別を表示してもよい。例えば、車には赤枠が用いられ、ヒトには黄色枠が用いられてもよい。
　また、符号化装置又は復号装置は、動的オブジェクトの出現頻度、又は、静的オブジェクトと動的オブジェクトとの割合などに応じて、動的オブジェクトと静的オブジェクトとを異なるＳＰＣ又はＧＯＳとして符号化又は復号するかどうかを決定してもよい。例えば、動的オブジェクトの出現頻度又は割合が閾値を超える場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容され、動的オブジェクトの出現頻度又は割合が閾値を超えない場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容されない。
　動的オブジェクトをポイントクラウドではなく、カメラの二次元画像情報から検出する際には、符号化装置は、検出結果を識別するための情報（枠又は文字など）とオブジェクト位置とを別途取得し、これらの情報を三次元の符号化データの一部として符号化してもよい。この場合、復号装置は、静的オブジェクトの復号結果に対して、動的オブジェクトを示す補助情報（枠又は文字）を重畳して表示する。
　また、符号化装置は、静的オブジェクトの形状の複雑さなどに応じて、ＳＰＣにおけるＶＸＬ又はＶＬＭの粗密さを変更してもよい。例えば、符号化装置は、静的オブジェクトの形状が複雑なぼど、ＶＸＬ又はＶＬＭを密に設定する。さらに、符号化装置は、空間位置又は色情報を量子化する際の量子化ステップなどをＶＸＬ又はＶＬＭの粗密さに応じて決定してもよい。例えば、符号化装置は、ＶＸＬ又はＶＬＭが密なほど量子化ステップを小さく設定する。
　以上のように、本実施の形態に係る符号化装置又は復号装置は、座標情報を有するスペース単位で空間の符号化又は復号を行う。
　また、符号化装置及び復号装置は、スペース内において、ボリューム単位で符号化又は復号を行う。ボリュームは、位置情報が対応付けられる最小単位であるボクセルを含む。
　また、符号化装置及び復号装置は、座標、オブジェクト、及び時間等を含む空間情報の各要素とＧＯＰとを対応付けたテーブル、又は各要素間を対応付けたテーブルにより任意の要素間を対応付けて符号化又は復号を行う。また、復号装置は、選択された要素の値を用いて座標を判定し、座標からボリューム、ボクセル又はスペースを特定し、当該ボリューム又はボクセルを含むスペース、又は特定されたスペースを復号する。
　また、符号化装置は、特徴点抽出又はオブジェクト認識により、要素により選択可能なボリューム、ボクセル又はスペースを判定し、ランダムアクセス可能なボリューム、ボクセル又はスペースとして符号化する。
　スペースは、当該スペース単体で符号化又は復号可能なＩ－ＳＰＣと、任意の１つの処理済みスペースを参照して符号化又は復号されるＰ－ＳＰＣと、任意の二つの処理済みスペースを参照して符号化又は復号されるＢ－ＳＰＣとの３種類のタイプに分類される。
　１以上のボリュームが、静的オブジェクト又は動的なオブジェクトに対応する。静的オブジェクトを含むスペースと動的オブジェクトを含むスペースとは互いに異なるＧＯＳとして符号化又は復号される。つまり、静的オブジェクトを含むＳＰＣと、動的オブジェクトを含むＳＰＣとが異なるＧＯＳに割り当てられる。
　動的オブジェクトはオブジェクトごとに符号化又は復号され、静的オブジェクトを含む１以上のスペースに対応付けられる。つまり、複数の動的オブジェクトは個別に符号化され、得られた複数の動的オブジェクトの符号化データは、静的オブジェクトを含むＳＰＣに対応付けられる。
　符号化装置及び復号装置は、ＧＯＳ内のＩ－ＳＰＣの優先度を上げて、符号化又は復号を行う。例えば、符号化装置は、Ｉ－ＳＰＣの劣化が少なくなるように（復号後に元の三次元データがより忠実に再現されるように）符号化を行う。また、復号装置は、例えば、Ｉ－ＳＰＣのみを復号する。
　符号化装置は、ワールド内のオブジェクトの疎密さ又は数（量）に応じてＩ－ＳＰＣを用いる頻度を変えて符号化を行ってもよい。つまり、符号化装置は、三次元データに含まれるオブジェクトの数又は粗密さに応じて、Ｉ－ＳＰＣを選択する頻度を変更する。例えば、符号化装置は、ワールド内のオブジェクトが密であるほどＩスペースを用いる頻度を上げる。
　また、符号化装置は、ランダムアクセスポイントをＧＯＳ単位で設定し、ＧＯＳに対応する空間領域を示す情報をヘッダ情報に格納する。
　符号化装置は、ＧＯＳの空間サイズとして、例えば、デフォルト値を使用する。なお、符号化装置は、オブジェクト又は動的オブジェクトの数（量）又は粗密さに応じてＧＯＳのサイズを変更してもよい。例えば、符号化装置は、オブジェクト或いは動的オブジェクトが密なぼど、又は数が多いほど、ＧＯＳの空間サイズを小さくする。
　また、スペース又はボリュームは、デプスセンサ、ジャイロ、又はカメラ等のセンサで得られた情報を用いて導出された特徴点群を含む。特徴点の座標はボクセルの中心位置に設定される。また、ボクセルの細分化により位置情報の高精度化を実現できる。
　特徴点群は、複数のピクチャを用いて導出される。複数のピクチャは、実際の時刻情報と、スペースに対応付けられた複数のピクチャで同一の時刻情報（例えば、レート制御等に用いられる符号化時刻）との少なくとも２種類の時刻情報を有する。
　また、１以上のスペースを含むＧＯＳ単位で符号化又は復号が行われる。
　符号化装置及び復号装置は、処理済みのＧＯＳ内のスペースを参照して、処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
　または、符号化装置及び復号装置は、異なるＧＯＳを参照せず、処理対象のＧＯＳ内の処理済スペースを用いて処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
　また、符号化装置及び復号装置は、１以上のＧＯＳを含むワールド単位で符号化ストリームを送信又は受信する。
　また、ＧＯＳは少なくともワールド内で１方向にレイヤ構造を持ち、符号化装置及び復号装置は、下位レイヤから符号化又は復号を行う。例えば、ランダムアクセス可能なＧＯＳは最下位レイヤに属する。上位レイヤに属するＧＯＳは同一レイヤ以下に属するＧＯＳを参照する。つまり、ＧＯＳは、予め定められた方向に空間分割され、各々が１以上のＳＰＣを含む複数のレイヤを含む。符号化装置及び復号装置は、各ＳＰＣを、当該ＳＰＣと同一レイヤ又は当該ＳＰＣより下層のレイヤに含まれるＳＰＣを参照して符号化又は復号する。
　また、符号化装置及び復号装置は、複数のＧＯＳを含むワールド単位内で、連続してＧＯＳを符号化又は復号する。符号化装置及び復号装置は、符号化又は復号の順序（方向）を示す情報をメタデータとして書き込む又は読み出す。つまり、符号化データは、複数のＧＯＳの符号化順を示す情報を含む。
　また、符号化装置及び復号装置は、互いに異なる２以上のスペース又はＧＯＳを並列で符号化又は復号する。
　また、符号化装置及び復号装置は、スペース又はＧＯＳの空間情報（座標、サイズ等）を符号化又は復号する。
　また、符号化装置及び復号装置は、ＧＰＳ、経路情報、又は倍率など、自己の位置又は／及び領域サイズに関する外部情報に基づいて特定される特定空間に含まれるスペース又はＧＯＳを符号化又は復号する。
　符号化装置又は復号装置は、自己の位置から遠い空間は、近い空間に比べて優先度を落として符号化又は復号する。
　符号化装置は、倍率又は用途に応じて、ワールドのある１方向を設定し、当該方向にレイヤ構造を持つＧＯＳを符号化する。また、復号装置は、倍率又は用途に応じて設定されたワールドのある１方向にレイヤ構造を持つＧＯＳを、下位レイヤから優先的に復号する。
　符号化装置は、室内と室外とでスペースに含まれる特徴点抽出、オブジェクト認識の精度、又は空間領域サイズなどを変化させる。ただし、符号化装置及び復号装置は、座標が近い室内ＧＯＳと室外ＧＯＳとをワールド内で隣接して符号化又は復号し、これらの識別子も対応付けて符号化又は復号する。
　（実施の形態２）
　ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
　本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報のみを送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元復号方法及び三次元データ装置について説明する。
　特徴量を一定以上持つボクセル（ＶＸＬ）を特徴ボクセル（ＦＶＸＬ）と定義し、ＦＶＸＬで構成されるワールド（ＷＬＤ）をスパースワールド（ＳＷＬＤ）と定義する。図１１は、スパースワールド及びワールドの構成例を示す図である。ＳＷＬＤには、ＦＶＸＬで構成されるＧＯＳであるＦＧＯＳと、ＦＶＸＬで構成されるＳＰＣであるＦＳＰＣと、ＦＶＸＬで構成されるＶＬＭであるＦＶＬＭと含まれる。ＦＧＯＳ、ＦＳＰＳ及びＦＶＬＭのデータ構造及び予測構造はＧＯＳ、ＳＰＳ及びＶＬＭと同様であっても構わない。
　特徴量とは、ＶＸＬの三次元位置情報、又はＶＸＬ位置の可視光情報を表現する特徴量であり、特に立体物のコーナー及びエッジ等で多く検出される特徴量である。具体的には、この特徴量は、下記のような三次元特徴量又は可視光の特徴量であるが、その他、ＶＸＬの位置、輝度、又は色情報などを表す特徴量であれば、どのようなものでも構わない。
　三次元特徴量として、ＳＨＯＴ特徴量（Ｓｉｇｎａｔｕｒｅ　ｏｆ　Ｈｉｓｔｏｇｒａｍｓ　ｏｆ　ＯｒｉｅｎＴａｔｉｏｎｓ）、ＰＦＨ特徴量（Ｐｏｉｎｔ　Ｆｅａｔｕｒｅ　Ｈｉｓｔｏｇｒａｍｓ）、又はＰＰＦ特徴量（Ｐｏｉｎｔ　Ｐａｉｒ　Ｆｅａｔｕｒｅ）が用いられる。
　ＳＨＯＴ特徴量は、ＶＸＬ周辺を分割し、基準点と分割された領域の法線ベクトルとの内積を計算してヒストグラム化することで得られる。このＳＨＯＴ特徴量は、次元数が高く、特徴表現力が高いという特徴を有する。
　ＰＦＨ特徴量は、ＶＸＬ近傍の多数の２点組を選択し、その２点から法線ベクトル等を算出してヒストグラム化することで得られる。このＰＦＨ特徴量は、ヒストグラム特徴なので、多少の外乱に対してロバスト性を有し、特徴表現力も高いという特徴を有する。
　ＰＰＦ特徴量は、２点のＶＸＬ毎に法線ベクトル等を用いて算出される特徴量である。このＰＰＦ特徴量には、全ＶＸＬが使われるため、オクルージョンに対してロバスト性を有する。
　また、可視光の特徴量として、画像の輝度勾配情報等の情報を用いたＳＩＦＴ（Ｓｃａｌｅ－Ｉｎｖａｒｉａｎｔ　Ｆｅａｔｕｒｅ　Ｔｒａｎｓｆｏｒｍ）、ＳＵＲＦ（Ｓｐｅｅｄｅｄ　Ｕｐ　Ｒｏｂｕｓｔ　Ｆｅａｔｕｒｅｓ）、又はＨＯＧ（Ｈｉｓｔｏｇｒａｍ　ｏｆ　Ｏｒｉｅｎｔｅｄ　Ｇｒａｄｉｅｎｔｓ）等を用いることができる。
　ＳＷＬＤは、ＷＬＤの各ＶＸＬから上記特徴量を算出し、ＦＶＸＬを抽出することで生成される。ここで、ＳＷＬＤはＷＬＤが更新される度に更新しても構わないし、ＷＬＤの更新タイミングに関わらず、一定時間経過後に定期的に更新するようにしても構わない。
　ＳＷＬＤは特徴量毎に生成しても構わない。例えば、ＳＨＯＴ特徴量に基づくＳＷＬＤ１とＳＩＦＴ特徴量に基づくＳＷＬＤ２とのように、特徴量毎に別々のＳＷＬＤが生成され、用途に応じてＳＷＬＤを使い分けるようにしても構わない。また、算出した各ＦＶＸＬの特徴量を特徴量情報として各ＦＶＸＬに保持するようにしても構わない。
　次に、スパースワールド（ＳＷＬＤ）の利用方法について説明する。ＳＷＬＤは特徴ボクセル（ＦＶＸＬ）のみを含むため、全てのＶＸＬを含むＷＬＤと比べて一般的にデータサイズが小さい。
　特徴量を利用して何らかの目的を果たすアプリケーションにおいては、ＷＬＤの代わりにＳＷＬＤの情報を利用することで、ハードディスクからの読み出し時間、並びにネットワーク転送時の帯域及び転送時間を抑制することができる。例えば、地図情報として、ＷＤＬとＳＷＬＤとをサーバに保持しておき、クライアントからの要望に応じて、送信する地図情報をＷＬＤ又はＳＷＬＤに切り替えることにより、ネットワーク帯域及び転送時間を抑制することができる。以下、具体的な例を示す。
　図１２及び図１３は、ＳＷＬＤ及びＷＬＤの利用例を示す図である。図１２に示すように、車載装置であるクライアント１が自己位置判定用途として地図情報を必要な場合は、クライアント１はサーバに自己位置推定用の地図データの取得要望を送る（Ｓ３０１）。サーバは、当該取得要望に応じてＳＷＬＤをクライアント１に送信する（Ｓ３０２）。クライアント１は、受信したＳＷＬＤを用いて自己位置判定を行う（Ｓ３０３）。この際、クライアント１はレンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法でクライアント１の周辺のＶＸＬ情報を取得し、得られたＶＸＬ情報とＳＷＬＤとから自己位置情報を推定する。ここで自己位置情報は、クライアント１の三次元位置情報及び向き等を含む。
　図１３に示すように、車載装置であるクライアント２が三次元地図等の地図描画の用途として地図情報が必要な場合は、クライアント２はサーバに地図描画用の地図データの取得要望を送る（Ｓ３１１）。サーバは、当該取得要望に応じてＷＬＤをクライアント２に送信する（Ｓ３１２）。クライアント２は、受信したＷＬＤを用いて地図描画を行う（Ｓ３１３）。この際、クライアント２は、例えば、自己が可視光カメラ等で撮影した画像と、サーバから取得したＷＬＤとを用いてレンダリング画像を作成し、作成した画像をカーナビ等の画面に描画する。
　上記のように、サーバは、自己位置推定のような各ＶＸＬの特徴量を主に必要とする用途ではＳＷＬＤをクライアントに送信し、地図描画のように詳細なＶＸＬ情報が必要な場合はＷＬＤをクライアントに送信する。これにより、地図データを効率よく送受信することが可能となる。
　なお、クライアントは、自分でＳＷＬＤとＷＬＤのどちらが必要かを判断し、サーバへＳＷＬＤ又はＷＬＤの送信を要求しても構わない。また、サーバは、クライアント又はネットワークの状況に合わせて、ＳＷＬＤかＷＬＤのどちらを送信すべきかを判断しても構わない。
　次に、スパースワールド（ＳＷＬＤ）とワールド（ＷＬＤ）との送受信を切り替える方法を説明する。
　ネットワーク帯域に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１４は、この場合の動作例を示す図である。例えば、ＬＴＥ（Ｌｏｎｇ　Ｔｅｒｍ　Ｅｖｏｌｕｔｉｏｎ）環境下等の使用できるネットワーク帯域が限られている低速ネットワークが用いられている場合には、クライアントは、低速ネットワーク経由でサーバにアクセスし（Ｓ３２１）、サーバから地図情報としてＳＷＬＤを取得する（Ｓ３２２）。一方、Ｗｉ‐Ｆｉ（登録商標）環境下等のネットワーク帯域に余裕がある高速ネットワークが用いられている場合には、クライアントは、高速ネットワーク経由でサーバにアクセスし（Ｓ３２３）、サーバからＷＬＤを取得する（Ｓ３２４）。これにより、クライアントは、当該クライアントのネットワーク帯域に応じて適切な地図情報を取得することができる。
　具体的には、クライアントは、屋外ではＬＴＥ経由でＳＷＬＤを受信し、施設等の屋内に入った場合はＷｉ‐Ｆｉ（登録商標）経由でＷＬＤを取得する。これにより、クライアントは、屋内のより詳細な地図情報を取得することが可能となる。
　このように、クライアントは、自身が用いるネットワークの帯域に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身が用いるネットワークの帯域を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントのネットワーク帯域を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
　また、移動速度に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１５は、この場合の動作例を示す図である。例えば、クライアントが高速移動をしている場合は（Ｓ３３１）、クライアントはＳＷＬＤをサーバから受信する（Ｓ３３２）。一方、クライアントが低速移動をしている場合は（Ｓ３３３）、クライアントはＷＬＤをサーバから受信する（Ｓ３３４）。これにより、クライアントは、ネットワーク帯域を抑制しながら、速度に合った地図情報を取得することができる。具体的には、クライアントは、高速道路を走行中にはデータ量の少ないＳＷＬＤを受信することにより、大まかな地図情報を適切な速度で更新することができる。一方、クライアントは、一般道路を走行中にはＷＬＤを受信することにより、より詳細な地図情報を取得することが可能となる。
　このように、クライアントは、自身の移動速度に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身の移動速度を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントの移動速度を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
　また、クライアントは、最初にＳＷＬＤをサーバより取得し、その中で重要な領域のＷＬＤを取得しても構わない。例えば、クライアントは、地図データを取得する際に、最初に大まかな地図情報をＳＷＬＤで取得し、そこから建物、標識、又は人物等の特徴が多く出現する領域を絞り込み、絞り込んだ領域のＷＬＤを後から取得する。これにより、クライアントは、サーバからの受信データ量を抑制しつつ、必要な領域の詳細な情報を取得することが可能となる。
　また、サーバは、ＷＬＤから物体毎に別々のＳＷＬＤを作成し、クライアントは、用途に合わせて、それぞれを受信してもよい。これにより、ネットワーク帯域を抑制できる。例えば、サーバは、ＷＬＤから予め人又は車を認識し、人のＳＷＬＤと車のＳＷＬＤを作成する。クライアントは、周囲の人の情報を取得したい場合には人のＳＷＬＤを、車の情報を取得したい場合には車のＳＷＬＤを受信する。また、このようなＳＷＬＤの種類はヘッダ等に付加された情報（フラグ又はタイプ等）によって区別するようにしても構わない。
　次に、本実施の形態に係る三次元データ符号化装置（例えばサーバ）の構成及び動作の流れを説明する。図１６は、本実施の形態に係る三次元データ符号化装置４００のブロック図である。図１７は、三次元データ符号化装置４００による三次元データ符号化処理のフローチャートである。
　図１６に示す三次元データ符号化装置４００は、入力三次元データ４１１を符号化することで符号化ストリームである符号化三次元データ４１３及び４１４を生成する。ここで、符号化三次元データ４１３はＷＬＤに対応する符号化三次元データであり、符号化三次元データ４１４はＳＷＬＤに対応する符号化三次元データである。この三次元データ符号化装置４００は、取得部４０１と、符号化領域決定部４０２と、ＳＷＬＤ抽出部４０３と、ＷＬＤ符号化部４０４と、ＳＷＬＤ符号化部４０５とを備える。
　図１７に示すように、まず、取得部４０１は、三次元空間内の点群データである入力三次元データ４１１を取得する（Ｓ４０１）。
　次に、符号化領域決定部４０２は、点群データが存在する空間領域に基づいて、符号化対象の空間領域を決定する（Ｓ４０２）。
　次に、ＳＷＬＤ抽出部４０３は、符号化対象の空間領域をＷＬＤと定義し、ＷＬＤに含まれる各ＶＸＬから特徴量を算出する。そして、ＳＷＬＤ抽出部４０３は、特徴量が予め定められた閾値以上のＶＸＬを抽出し、抽出したＶＸＬをＦＶＸＬと定義し、当該ＦＶＸＬをＳＷＬＤへ追加することで、抽出三次元データ４１２を生成する（Ｓ４０３）。つまり、入力三次元データ４１１から特徴量が閾値以上の抽出三次元データ４１２が抽出される。
　次に、ＷＬＤ符号化部４０４は、ＷＬＤに対応する入力三次元データ４１１を符号化することでＷＬＤに対応する符号化三次元データ４１３を生成する（Ｓ４０４）。このとき、ＷＬＤ符号化部４０４は、符号化三次元データ４１３のヘッダに、当該符号化三次元データ４１３がＷＬＤを含むストリームであることを区別するための情報を付加する。
　また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤに対応する抽出三次元データ４１２を符号化することでＳＷＬＤに対応する符号化三次元データ４１４を生成する（Ｓ４０５）。このとき、ＳＷＬＤ符号化部４０５は、符号化三次元データ４１４のヘッダに、当該符号化三次元データ４１４がＳＷＬＤを含むストリームであることを区別するための情報を付加する。
　なお、符号化三次元データ４１３を生成する処理と、符号化三次元データ４１４を生成する処理との処理順は上記と逆でもよい。また、これらの処理の一部又は全てが並列に行われてもよい。
　符号化三次元データ４１３及び４１４のヘッダに付与される情報として、例えば、「ｗｏｒｌｄ＿ｔｙｐｅ」というパラメータが定義される。ｗｏｒｌｄ＿ｔｙｐｅ＝０の場合はストリームがＷＬＤを含むことを表し、ｗｏｒｌｄ＿ｔｙｐｅ＝１の場合はストリームがＳＷＬＤを含むことを表す。更にその他の多数の種別を定義する場合には、ｗｏｒｌｄ＿ｔｙｐｅ＝２のように割り当てる数値を増やすようにしても構わない。また、符号化三次元データ４１３及び４１４の一方に特定のフラグが含まれてもよい。例えば、符号化三次元データ４１４に、当該ストリームがＳＷＬＤを含むことを含むフラグが付与されてもよい。この場合、復号装置は、フラグの有無によりＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別できる。
　また、ＷＬＤ符号化部４０４がＷＬＤを符号化する際に使用する符号化方法と、ＳＷＬＤ符号化部４０５がＳＷＬＤを符号化する際に使用する符号化方法とは異なってもよい。
　例えば、ＳＷＬＤではデータが間引かされているため、ＷＬＤに比べ、周辺のデータとの相関が低くなる可能性がある。よって、ＳＷＬＤに用いられる符号化方法では、ＷＬＤに用いられる符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
　また、ＳＷＬＤに用いられる符号化方法とＷＬＤに用いられる符号化方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
　また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより小さくなるように符号化を行う。例えば、上述したようにＳＷＬＤは、ＷＬＤに比べ、データ間の相関が低くなる可能性がある。これにより、符号化効率が下がり、符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより大きくなる可能性がある。よって、ＳＷＬＤ符号化部４０５は、得られた符号化三次元データ４１４のデータサイズが、ＷＬＤの符号化三次元データ４１３のデータサイズより大きい場合には、再符号化を行うことで、データサイズを低減した符号化三次元データ４１４を再生成する。
　例えば、ＳＷＬＤ抽出部４０３は、抽出する特徴点の数を減らした抽出三次元データ４１２を再生成し、ＳＷＬＤ符号化部４０５は、当該抽出三次元データ４１２を符号化する。または、ＳＷＬＤ符号化部４０５における量子化の程度をより粗くしてもよい。例えば、後述する８分木構造において、最下層のデータを丸め込むことで、量子化の程度を粗くすることができる。
　また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズをＷＬＤの符号化三次元データ４１３のデータサイズより小さくできない場合は、ＳＷＬＤの符号化三次元データ４１４を生成しなくてもよい。または、ＷＬＤの符号化三次元データ４１３がＳＷＬＤの符号化三次元データ４１４にコピーされてもよい。つまり、ＳＷＬＤの符号化三次元データ４１４としてＷＬＤの符号化三次元データ４１３がそのまま用いられてもよい。
　次に、本実施の形態に係る三次元データ復号装置（例えばクライアント）の構成及び動作の流れを説明する。図１８は、本実施の形態に係る三次元データ復号装置５００のブロック図である。図１９は、三次元データ復号装置５００による三次元データ復号処理のフローチャートである。
　図１８に示す三次元データ復号装置５００は、符号化三次元データ５１１を復号することで復号三次元データ５１２又は５１３を生成する。ここで、符号化三次元データ５１１は、例えば、三次元データ符号化装置４００で生成された符号化三次元データ４１３又は４１４である。
　この三次元データ復号装置５００は、取得部５０１と、ヘッダ解析部５０２と、ＷＬＤ復号部５０３と、ＳＷＬＤ復号部５０４とを備える。
　図１９に示すように、まず、取得部５０１は、符号化三次元データ５１１を取得する（Ｓ５０１）。次に、ヘッダ解析部５０２は、符号化三次元データ５１１のヘッダを解析し、符号化三次元データ５１１がＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別する（Ｓ５０２）。例えば、上述したｗｏｒｌｄ＿ｔｙｐｅのパラメータが参照され、判別が行われる。
　符号化三次元データ５１１がＷＬＤを含むストリームである場合（Ｓ５０３でＹｅｓ）、ＷＬＤ復号部５０３は、符号化三次元データ５１１を復号することでＷＬＤの復号三次元データ５１２を生成する（Ｓ５０４）。一方、符号化三次元データ５１１がＳＷＬＤを含むストリームである場合（Ｓ５０３でＮｏ）、ＳＷＬＤ復号部５０４は、符号化三次元データ５１１を復号することでＳＷＬＤの復号三次元データ５１３を生成する（Ｓ５０５）。
　また、符号化装置と同様に、ＷＬＤ復号部５０３がＷＬＤを復号する際に使用する復号方法と、ＳＷＬＤ復号部５０４がＳＷＬＤを復号する際に使用する復号方法とは異なってもよい。例えば、ＳＷＬＤに用いられる復号方法では、ＷＬＤに用いられる復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
　また、ＳＷＬＤに用いられる復号方法とＷＬＤに用いられる復号方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
　次に、三次元位置の表現手法である８分木表現について説明する。三次元データに含まれるＶＸＬデータは８分木構造に変換された後、符号化される。図２０は、ＷＬＤのＶＸＬの一例を示す図である。図２１は、図２０に示すＷＬＤの８分木構造を示す図である。図２０に示す例では、点群を含むＶＸＬ（以下、有効ＶＸＬ）である３つＶＸＬ１～３が存在する。図２１に示すように、８分木構造はノードとリーフで構成される。各ノードは最大で８つのノードまたはリーフを持つ。各リーフはＶＸＬ情報を持つ。ここで、図２１に示すリーフのうち、リーフ１、２、３はそれぞれ図２０に示すＶＸＬ１、ＶＸＬ２、ＶＸＬ３を表す。
　具体的には、各ノード及びリーフは三次元位置に対応する。ノード１は、図２０に示す全体のブロックに対応する。ノード１に対応するブロックは８つのブロックに分割され、８つのブロックのうち、有効ＶＸＬを含むブロックがノードに設定され、それ以外のブロックはリーフに設定される。ノードに対応するブロックは、さらに８つのノードまたはリーフに分割され、この処理が木構造の階層分繰り返される。また、最下層のブロックは、全てリーフに設定される。
　また、図２２は、図２０に示すＷＬＤから生成したＳＷＬＤの例を示す図である。図２０に示すＶＸＬ１及びＶＸＬ２は特徴量抽出の結果、ＦＶＸＬ１及びＦＶＸＬ２と判定され、ＳＷＬＤに加えられている。一方で、ＶＸＬ３はＦＶＸＬと判定されず、ＳＷＬＤに含まれていない。図２３は、図２２に示すＳＷＬＤの８分木構造を示す図である。図２３に示す８分木構造では、図２１に示す、ＶＸＬ３に相当するリーフ３が削除されている。これにより、図２１に示すノード３が有効ＶＸＬを持たなくなり、リーフに変更されている。このように一般的にＳＷＬＤのリーフ数はＷＬＤのリーフ数より少なくなり、ＳＷＬＤの符号化三次元データもＷＬＤの符号化三次元データより小さくなる。
　以下、本実施の形態の変形例について説明する。
　例えば、車載装置等のクライアントは、自己位置推定を行う場合に、ＳＷＬＤをサーバから受信し、ＳＷＬＤを用いて自己位置推定を行い、障害物検知を行う場合は、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法を用いて自分で取得した周辺の三次元情報に基づいて障害物検知を実施してもよい。
　また、一般的にＳＷＬＤには平坦領域のＶＸＬデータが含まれにくい。そのため、サーバは、静的な障害物の検知用に、ＷＬＤをサブサンプルしたサブサンプルワールド（ｓｕｂＷＬＤ）を保持し、ＳＷＬＤとｓｕｂＷＬＤをクライアントに送信してもよい。これにより、ネットワーク帯域を抑制しつつ、クライアント側で自己位置推定及び障害物検知を行うことができる。
　また、クライアントが三次元地図データを高速に描画する際には、地図情報がメッシュ構造である方が便利な場合がある。そこで、サーバは、ＷＬＤからメッシュを生成し、メッシュワールド（ＭＷＬＤ）として予め保持してもよい。例えばクライアントは、粗い三次元描画を必要としている場合にはＭＷＬＤを受信し、詳細な三次元描画を必要としている場合にはＷＬＤを受信する。これにより、ネットワーク帯域を抑制することができる。
　また、サーバは、各ＶＸＬのうち、特徴量が閾値以上であるＶＸＬをＦＶＸＬに設定したが、異なる方法にてＦＶＸＬを算出しても構わない。例えば、サーバは、信号又は交差点などを構成するＶＸＬ、ＶＬＭ、ＳＰＳ、又はＧＯＳを、自己位置推定、運転アシスト、又は自動運転等に必要と判断し、ＦＶＸＬ、ＦＶＬＭ、ＦＳＰＳ、ＦＧＯＳとしてＳＷＬＤに含めるようにしても構わない。また、上記判断は手動で行われてもよい。なお、特徴量に基づき設定されたＦＶＸＬ等に、上記方法で得られたＦＶＸＬ等を加えてもよい。つまり、ＳＷＬＤ抽出部４０３は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出してもよい。
　また、それらの用途に必要な旨を特徴量とは別にラベリングするようにしても構わない。また、サーバは、ＳＷＬＤの上位レイヤ（例えばレーンワールド）として、信号又は交差点などの自己位置推定、運転アシスト、又は自動運転等に必要なＦＶＸＬを別途保持してもよい。
　また、サーバは、ＷＬＤ内のＶＸＬにもランダムアクセス単位又は所定の単位毎に属性を付加してもよい。属性は、例えば、自己位置推定に必要或いは不要かを示す情報、又は、信号或いは交差点などの交通情報として重要かどうかなどを示す情報を含む。また、属性は、レーン情報（ＧＤＦ：Ｇｅｏｇｒａｐｈｉｃ　Ｄａｔａ　Ｆｉｌｅｓなど）におけるＦｅａｔｕｒｅ（交差点又は道路など）との対応関係を含んでもよい。
　また、ＷＬＤ又はＳＷＬＤの更新方法として下記のような方法を用いても構わない。
　人、工事、又は並木（トラック向け）の変化などを示す更新情報が点群又はメタデータとしてサーバにアップロードされる。サーバは、当該アップロードに基づき、ＷＬＤを更新し、その後、更新したＷＬＤを用いてＳＷＬＤを更新する。
　また、クライアントは、自己位置推定時に自身で生成した三次元情報とサーバから受信した三次元情報との不整合を検知した場合、自身で生成した三次元情報を更新通知とともにサーバに送信してもよい。この場合、サーバは、ＷＬＤを用いてＳＷＬＤを更新する。ＳＷＬＤが更新されない場合、サーバは、ＷＬＤ自体が古いと判断する。
　また、符号化ストリームのヘッダ情報として、ＷＬＤかＳＷＬＤかを区別する情報が付加されるとしたが、例えば、メッシュワールド又はレーンワールド等、多種類のワールドが存在する場合には、それらを区別する情報がヘッダ情報に付加されても構わない。また、特徴量が異なるＳＷＬＤが多数存在する場合には、それぞれを区別する情報がヘッダ情報に付加されても構わない。
　また、ＳＷＬＤは、ＦＶＸＬで構成されるとしたが、ＦＶＸＬと判定されなかったＶＸＬを含んでもよい。例えば、ＳＷＬＤは、ＦＶＸＬの特徴量を算出する際に使用する隣接ＶＸＬを含んでもよい。これにより、ＳＷＬＤの各ＦＶＸＬに特徴量情報が付加されない場合でも、クライアントは、ＳＷＬＤを受信した際にＦＶＸＬの特徴量を算出することができる。なお、その際には、ＳＷＬＤは各ＶＸＬがＦＶＸＬかＶＸＬかを区別するための情報を含んでもよい。
　以上のように、三次元データ符号化装置４００は、入力三次元データ４１１（第１三次元データ）から特徴量が閾値以上の抽出三次元データ４１２（第２三次元データ）を抽出し、抽出三次元データ４１２を符号化することで符号化三次元データ４１４（第１符号化三次元データ）を生成する。
　これによれば、三次元データ符号化装置４００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４を生成する。これにより、入力三次元データ４１１をそのまま符号化する場合に比べてデータ量を削減できる。よって、三次元データ符号化装置４００は、伝送するデータ量を削減できる。
　また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１を符号化することで符号化三次元データ４１３（第２符号化三次元データ）を生成する。
　これによれば、三次元データ符号化装置４００は、例えば、使用用途等に応じて、符号化三次元データ４１３と符号化三次元データ４１４とを選択的に伝送できる。
　また、抽出三次元データ４１２は、第１符号化方法により符号化され、入力三次元データ４１１は、第１符号化方法とは異なる第２符号化方法により符号化される。
　これによれば、三次元データ符号化装置４００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した符号化方法を用いることができる。
　また、第１符号化方法では、第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
　これによれば、三次元データ符号化装置４００は、隣接するデータ間の相関が低くなりやすい抽出三次元データ４１２に対して、インター予測の優先度を上げることができる。
　また、第１符号化方法と第２符号化方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２符号化方法では、８分木により三次元位置が表現され、第１符号化方法では、三次元座標により三次元位置を表現される。
　これによれば、三次元データ符号化装置４００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
　また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。つまり、当該識別子は、符号化三次元データがＷＬＤの符号三次元データ４１３であるかＳＷＬＤの符号化三次元データ４１４であるかを示す。
　これによれば、復号装置は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
　また、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量が符号化三次元データ４１３のデータ量より小さくなるように抽出三次元データ４１２を符号化する。
　これによれば、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量を符号化三次元データ４１３のデータ量より小さくできる。
　また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出する。例えば、予め定められた属性を有する物体とは、自己位置推定、運転アシスト、又は自動運転等に必要な物体であり、信号又は交差点などである。
　これによれば、三次元データ符号化装置４００は、復号装置で必要となるデータを含む符号化三次元データ４１４を生成できる。
　また、三次元データ符号化装置４００（サーバ）は、さらに、クライアントの状態に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
　これによれば、三次元データ符号化装置４００は、クライアントの状態に応じて適切なデータを送信できる。
　また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
　また、三次元データ符号化装置４００は、さらに、クライアントの要求に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
　これによれば、三次元データ符号化装置４００は、クライアントの要求に応じて適切なデータを送信できる。
　また、本実施の形態に係る三次元データ復号装置５００は、上記三次元データ符号化装置４００により生成された符号化三次元データ４１３又は４１４を復号する。
　つまり、三次元データ復号装置５００は、入力三次元データ４１１から抽出された特徴量が閾値以上の抽出三次元データ４１２が符号化されることで得られた符号化三次元データ４１４を第１復号方法により復号する。また、三次元データ復号装置５００は、入力三次元データ４１１が符号化されることで得られた符号化三次元データ４１３を、第１復号方法とは異なる第２復号方法により復号する。
　これによれば、三次元データ復号装置５００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４と、符号化三次元データ４１３とを、例えば、使用用途等に応じて選択的に受信できる。これにより、三次元データ復号装置５００は、伝送するデータ量を削減できる。さらに、三次元データ復号装置５００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した復号方法を用いることができる。
　また、第１復号方法では、第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
　これによれば、三次元データ復号装置５００は、隣接するデータ間の相関が低くなりやすい抽出三次元データに対して、インター予測の優先度を上げることができる。
　また、第１復号方法と第２復号方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２復号方法では、８分木により三次元位置が表現され、第１復号方法では、三次元座標により三次元位置を表現される。
　これによれば、三次元データ復号装置５００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
　また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。三次元データ復号装置５００は、当該識別子を参照して、符号化三次元データ４１３及び４１４を識別する。
　これによれば、三次元データ復号装置５００は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
　また、三次元データ復号装置５００は、さらに、クライアント（三次元データ復号装置５００）の状態をサーバに通知する。三次元データ復号装置５００は、クライアントの状態に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
　これによれば、三次元データ復号装置５００は、クライアントの状態に応じて適切なデータを受信できる。
　また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
　また、三次元データ復号装置５００は、さらに、符号化三次元データ４１３及び４１４の一方をサーバに要求し、当該要求に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
　これによれば、三次元データ復号装置５００は、用途に応じた適切なデータを受信できる。
　（実施の形態３）
　本実施の形態では、車両間での三次元データを送受信する方法について説明する。
　図２４は、自車両６００と周辺車両６０１との間での三次元データ６０７の送受信の様子を示す模式図である。
　自車両６００に搭載されたセンサ（レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せなど）により三次元データを取得する場合、周辺車両６０１などの障害物により自車両６００のセンサ検知範囲６０２内であるものの三次元データを作成できない領域（以降、これをオクルージョン領域６０４という）が発生する。また、三次元データを取得する空間が大きくなると自律動作の精度が高まるが、自車両６００のみのセンサ検知範囲は有限である。
　自車両６００のセンサ検知範囲６０２は、三次元データを取得可能な領域６０３とオクルージョン領域６０４とを含む。自車両６００が、三次元データを取得したい範囲は、自車両６００のセンサ検知範囲６０２とそれ以外の領域とを含む。また、周辺車両６０１のセンサ検知範囲６０５は、オクルージョン領域６０４と、自車両６００のセンサ検知範囲６０２に含まれない領域６０６とを含む。
　周辺車両６０１は、周辺車両６０１が検知した情報を自車両６００に伝送する。自車両６００は、前走車などの周辺車両６０１が検知した情報を取得することで、オクルージョン領域６０４、及び、自車両６００のセンサ検知範囲６０２以外の領域６０６の三次元データ６０７を取得することが可能となる。自車両６００は、周辺車両６０１が取得した情報を用いて、オクルージョン領域６０４及びセンサ検知範囲外の領域６０６の三次元データを補完する。
　車両、又はロボットの自律動作における三次元データの用途は、自己位置推定、周辺状況の検知、またはその両方である。例えば、自己位置推定には、自車両６００のセンサ情報に基づき自車両６００で生成した三次元データが使用される。周辺状況の検知には、自車両６００で生成した三次元データに加え、周辺車両６０１から取得した三次元データも使用される。
　三次元データ６０７を自車両６００に伝送する周辺車両６０１は、自車両６００の状態に応じて決定されてもよい。例えば、この周辺車両６０１は、自車両６００の直進時には前走車であり、自車両６００の右折時には対向車であり、自車両６００の後退時には後方車である。また、自車両６００のドライバが、三次元データ６０７を自車両６００に伝送する周辺車両６０１を直接指定してもよい。
　また、自車両６００は、三次元データ６０７を取得したい空間内に含まれる、自車両６００で取得できない領域の三次元データを所有している周辺車両６０１を探索してもよい。自車両６００で取得できない領域とは、オクルージョン領域６０４又はセンサ検知範囲６０２外の領域６０６などである。
　また、自車両６００は、オクルージョン領域６０４を自車両６００のセンサ情報に基づいて特定してもよい。例えば、自車両６００は、自車両６００のセンサ検知範囲６０２内に含まれる、三次元データを作成できない領域をオクルージョン領域６０４であると特定する。
　以下、三次元データ６０７を伝送するのが前走車である場合の動作例を説明する。図２５は、この場合の伝送される三次元データの一例を示す図である。
　図２５に示すように、前走車から伝送される三次元データ６０７は、例えば、ポイントクラウドのスパースワールド（ＳＷＬＤ）である。つまり、前走車は、当該前走車のセンサで検知した情報からＷＬＤの三次元データ（ポイントクラウド）を作成し、ＷＬＤの三次元データから特徴量が閾値以上のデータを抽出することでＳＷＬＤの三次元データ（ポイントクラウド）を作成する。そして、前走車は、作成したＳＷＬＤの三次元データを自車両６００に伝送する。
　自車両６００は、ＳＷＬＤを受け取り、自車両６００で作成したポイントクラウドに、受け取ったＳＷＬＤをマージする。
　伝送されるＳＷＬＤは絶対座標（三次元マップの座標系におけるＳＷＬＤの位置）の情報を持っている。自車両６００は、この絶対座標に基づいて、自車両６００で生成したポイントクラウドを上書きすることによりマージ処理を実現できる。
　周辺車両６０１から伝送されるＳＷＬＤは、自車両６００のセンサ検知範囲６０２外かつ周辺車両６０１のセンサ検知範囲６０５内の領域６０６のＳＷＬＤ、或いは、自車両６００にとってのオクルージョン領域６０４のＳＷＬＤ、又は、その両方のＳＷＬＤでもよい。また、伝送されるＳＷＬＤは、上記のＳＷＬＤのうち、周辺車両６０１が周辺状況の検知に使用している領域のＳＷＬＤでもよい。
　また、周辺車両６０１は、自車両６００と周辺車両６０１との速度差に基づく通信可能時間に応じて、伝送されるポイントクラウドの密度を変化させてもよい。例えば、速度差が大きく通信可能時間が短い場合は、周辺車両６０１は、ＳＷＬＤの中から、特徴量の大きな三次元点を抽出することで、ポイントクラウドの密度（データ量）を低くしてもよい。
　また、周辺状況の検知とは、人、車両、及び道路工事用の機材などの存在の有無を判定し、その種類を特定し、その位置、移動方向、及び移動速度などを検知することである。
　また、自車両６００は、周辺車両６０１で生成された三次元データ６０７の代わりに、又は、三次元データ６０７に加え、周辺車両６０１の制動情報を取得してもよい。ここで、周辺車両６０１の制動情報とは、例えば、周辺車両６０１のアクセル或いはブレーキが踏まれたこと、又はその度合いを示す情報である。
　また、各車両で生成されるポイントクラウドでは、車両間の低遅延通信を考慮して、ランダムアクセス単位に三次元空間が細分化される。一方で、サーバからダウンロードされる地図データである三次元地図等は、三次元空間が、車両間通信の場合と比べて大きなランダムアクセス単位に分割される。
　前走車の前方の領域又は後走車の後方の領域などのオクルージョン領域になりやすい領域のデータは低遅延向けデータとして、細かいランダムアクセス単位に分割される。
　高速走行時には正面の重要性が高まるため、各車両は、高速走行時には、視野角を狭めた範囲のＳＷＬＤを細かいランダムアクセス単位で作成する。
　前走車が伝送用に作成したＳＷＬＤ内に自車両６００でポイントクラウドの取得が可能な領域が含まれる場合、前走車は、その領域のポイントクラウドを取り除くことにより伝送量を削減してもよい。
　次に、本実施の形態に係る三次元データ受信装置である三次元データ作成装置６２０の構成及び動作を説明する。
　図２６は、本実施の形態に係る三次元データ作成装置６２０のブロック図である。この三次元データ作成装置６２０は、例えば、上述した自車両６００に含まれ、三次元データ作成装置６２０が作成した第１三次元データ６３２に、受信した第２三次元データ６３５を合成することで、より密な第３三次元データ６３６を作成する。
　この三次元データ作成装置６２０は、三次元データ作成部６２１と、要求範囲決定部６２２と、探索部６２３と、受信部６２４と、復号部６２５と、合成部６２６とを備える。図２７は、三次元データ作成装置６２０の動作を示すフローチャートである。
　まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知したセンサ情報６３１を用いて第１三次元データ６３２を作成する（Ｓ６２１）。次に、要求範囲決定部６２２は、作成した第１三次元データ６３２の中でデータが不足している三次元空間範囲である要求範囲を決定する（Ｓ６２２）。
　次に、探索部６２３は、要求範囲の三次元データを所有する周辺車両６０１を探索し、探索により特定した周辺車両６０１に要求範囲を示す要求範囲情報６３３を送信する（Ｓ６２３）。次に、受信部６２４は、周辺車両６０１から、要求範囲の符号化ストリームである符号化三次元データ６３４を受信する（Ｓ６２４）。なお、探索部６２３は、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、応答があった相手から符号化三次元データ６３４を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から符号化三次元データ６３４を受信してもよい。
　次に、復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する（Ｓ６２５）。次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで、より密な第３三次元データ６３６を作成する（Ｓ６２６）。
　次に、本実施の形態に係る三次元データ送信装置６４０の構成及び動作を説明する。図２８は、三次元データ送信装置６４０のブロック図である。
　三次元データ送信装置６４０は、例えば、上述した周辺車両６０１に含まれ、周辺車両６０１が作成した第５三次元データ６５２を自車両６００が要求する第６三次元データ６５４に加工し、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成し、符号化三次元データ６３４を自車両６００に送信する。
　三次元データ送信装置６４０は、三次元データ作成部６４１と、受信部６４２と、抽出部６４３と、符号化部６４４と、送信部６４５とを備える。図２９は、三次元データ送信装置６４０の動作を示すフローチャートである。
　まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６４１）。次に、受信部６４２は、自車両６００から送信された要求範囲情報６３３を受信する（Ｓ６４２）。
　次に、抽出部６４３は、第５三次元データ６５２から、要求範囲情報６３３で示される要求範囲の三次元データを抽出することで、第５三次元データ６５２を第６三次元データ６５４に加工する（Ｓ６４３）。次に、符号化部６４４は、第６三次元データ６５４を符号化することで、符号化ストリームである符号化三次元データ６３４を生成する（Ｓ６４４）。そして、送信部６４５は、自車両６００へ符号化三次元データ６３４を送信する（Ｓ６４５）。
　なお、ここでは、自車両６００が三次元データ作成装置６２０を備え、周辺車両６０１が三次元データ送信装置６４０を備える例を説明するが、各車両が、三次元データ作成装置６２０と三次元データ送信装置６４０との機能を有してもよい。
　以下、三次元データ作成装置６２０が、自車両６００の周辺状況の検知処理を実現する周辺状況検知装置である場合の構成及び動作を説明する。図３０は、この場合の三次元データ作成装置６２０Ａの構成を示すブロック図である。図３０に示す三次元データ作成装置６２０Ａは、図２６に示す三次元データ作成装置６２０の構成に加え、さらに、検知領域決定部６２７と、周辺状況検知部６２８と、自律動作制御部６２９とを備える。また、三次元データ作成装置６２０Ａは、自車両６００に含まれる。
　図３１は、三次元データ作成装置６２０Ａによる自車両６００の周辺状況検知処理のフローチャートである。
　まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知した、自車両６００の検知範囲のセンサ情報６３１を用いてポイントクラウドである第１三次元データ６３２を作成する（Ｓ６６１）。なお、三次元データ作成装置６２０Ａは、さらに、センサ情報６３１を用いて自己位置推定を行ってもよい。
　次に、検知領域決定部６２７は、周辺状況を検知したい空間領域である検知対象範囲を決定する（Ｓ６６２）。例えば、検知領域決定部６２７は、自車両６００の走行方向及び速度などの自律動作（自動運転）の状況に応じて、自律動作を安全に行うための周辺状況検知に必要な領域を算出し、当該領域を検知対象範囲に決定する。
　次に、要求範囲決定部６２２は、オクルージョン領域６０４と、自車両６００のセンサの検知範囲外であるが周辺状況検知に必要な空間領域とを要求範囲をとして決定する（Ｓ６６３）。
　ステップＳ６６３において決定された要求範囲が存在する場合（Ｓ６６４でＹｅｓ）、探索部６２３は、要求範囲に関する情報を所有する周辺車両を探索する。例えば、探索部６２３は、周辺車両に、要求範囲に関する情報を所有しているか問合せてもよいし、要求範囲と周辺車両との位置に基づき、当該周辺車両が要求範囲に関する情報を所有しているかを判断してもよい。次に、探索部６２３は、探索により特定した周辺車両６０１に対して、三次元データの伝送を依頼する依頼信号６３７を送信する。そして、探索部６２３は、周辺車両６０１から送信された、依頼信号６３７の依頼を受ける旨を示す許可信号を受信した後、要求範囲を示す要求範囲情報６３３を周辺車両６０１に送信する（Ｓ６６５）。
　次に、受信部６２４は、要求範囲に関する情報である送信データ６３８の伝送通知を検知し、当該送信データ６３８を受信する（Ｓ６６６）。
　なお、三次元データ作成装置６２０Ａは、リクエストを送る相手を探索することなく、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、要求範囲に関する情報を持っていると応答があった相手から送信データ６３８を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から送信データ６３８を受信してもよい。
　また、送信データ６３８は、周辺車両６０１で生成された、要求範囲の三次元データが符号化された符号化三次元データ６３４、及び、要求範囲の周辺状況検知結果６３９の少なくとも一方を含む。周辺状況検知結果６３９は、周辺車両６０１が検知した人及び車両の位置、移動方向及び移動速度等を示す。また、送信データ６３８は、周辺車両６０１の位置及び動き等を示す情報を含んでもよい。例えば、送信データ６３８は、周辺車両６０１の制動情報を含んでもよい。
　受信された送信データ６３８に符号化三次元データ６３４が含まれる場合（Ｓ６６７でＹｅｓ）、復号部６２５は、符号化三次元データ６３４を復号することでＳＷＬＤの第２三次元データ６３５を取得する（Ｓ６６８）。つまり、第２三次元データ６３５は、第４三次元データ（ＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データ（ＳＷＬＤ）である。
　次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を生成する（Ｓ６６９）。
　次に、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第３三次元データ６３６を用いて、自車両６００の周辺状況を検知する（Ｓ６７０）。なお、受信された送信データ６３８に周辺状況検知結果６３９が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて周辺状況検知結果６３９を用いて、自車両６００の周辺状況を検知する。また、受信された送信データ６３８に周辺車両６０１の制動情報が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて当該制動情報を用いて、自車両６００の周辺状況を検知する。
　次に、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。なお、ＵＩ（ユーザインタフェース）などを通して周辺状況検知結果がドライバに提示されてもよい。
　一方、ステップＳ６６３において要求範囲が存在しない場合、（Ｓ６６４でＮｏ）、つまり、周辺状況検知に必要な全ての空間領域の情報を、センサ情報６３１に基づき作成できた場合、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第１三次元データ６３２を用いて、自車両６００の周辺状況を検知する（Ｓ６７２）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
　また、受信された送信データ６３８に符号化三次元データ６３４が含まれない場合（Ｓ６６７でＮｏ）、つまり、送信データ６３８に、周辺車両６０１の周辺状況検知結果６３９又は制動情報のみが含まれる場合、周辺状況検知部６２８は、第１三次元データ６３２と、周辺状況検知結果６３９又は制動情報を用いて、自車両６００の周辺状況を検知する（Ｓ６７３）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
　次に、上記三次元データ作成装置６２０Ａに送信データ６３８を送信する三次元データ送信装置６４０Ａについて説明する。図３２は、この三次元データ送信装置６４０Ａのブロック図である。
　図３２に示す三次元データ送信装置６４０Ａは、図２８に示す三次元データ送信装置６４０の構成に加え、さらに、伝送可否判定部６４６を備える。また、三次元データ送信装置６４０Ａは、周辺車両６０１に含まれる。
　図３３は、三次元データ送信装置６４０Ａの動作例を示すフローチャートである。まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６８１）。
　次に、受信部６４２は、自車両６００から、三次元データの伝送要求を依頼する依頼信号６３７を受信する（Ｓ６８２）。次に、伝送可否判定部６４６は、依頼信号６３７で示される依頼に応じるかどうかを決定する（Ｓ６８３）。例えば、伝送可否判定部６４６は、ユーザにより予め設定されている内容に基づき、依頼に応じるかどうかを決定する。なお、受信部６４２が要求範囲などの相手のリクエストを先に受け取り、伝送可否判定部６４６は、その内容によって依頼に応じるかどうか決定してもよい。例えば、伝送可否判定部６４６は、要求範囲の三次元データを所持している場合に、依頼に応じると決定し、要求範囲の三次元データを所持していない場合に、依頼に応じないと決定してもよい。
　依頼に応じる場合（Ｓ６８３でＹｅｓ）、三次元データ送信装置６４０Ａは許可信号を自車両６００に送信し、受信部６４２は要求範囲を示す要求範囲情報６３３を受信する（Ｓ６８４）。次に、抽出部６４３は、ポイントクラウドである第５三次元データ６５２から要求範囲のポイントクラウドを切り出し、切り出したポイントクラウドのＳＷＬＤである第６三次元データ６５４を含む送信データ６３８を作成する（Ｓ６８５）。
　つまり、三次元データ送信装置６４０Ａは、センサ情報６５１から第７三次元データ（ＷＬＤ）を作成し、第７三次元データ（ＷＬＤ）から特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（ＳＷＬＤ）を作成する。なお、三次元データ作成部６４１が予めＳＷＬＤの三次元データを作成しておき、抽出部６４３においてＳＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データが抽出されてもよいし、抽出部６４３が、要求範囲のＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データを生成してもよい。
　また、送信データ６３８は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報を含んでもよい。また、送信データ６３８は、第６三次元データ６５４を含まず、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報のうちの少なくとも一方のみを含んでもよい。
　送信データ６３８が第６三次元データ６５４を含む場合（Ｓ６８６でＹｅｓ）、符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する（Ｓ６８７）。
　そして、送信部６４５は、符号化三次元データ６３４を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
　一方、送信データ６３８が第６三次元データ６５４を含まない場合（Ｓ６８６でＮｏ）、送信部６４５は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報の少なくとも一方を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
　以下、本実施の形態の変形例について説明する。
　例えば、周辺車両６０１から伝送される情報は、周辺車両が作成した三次元データ又は周辺状況検知結果でなくてもよく、周辺車両６０１自身の正確な特徴点情報であってもよい。自車両６００は、この周辺車両６０１の特徴点情報を用いて、自車両６００で取得したポイントクラウド内の前走車の特徴点情報を補正する。これにより、自車両６００は、自己位置推定時のマッチング精度を向上できる。
　また、前走車の特徴点情報は、例えば、色情報及び座標情報からなる三次元点情報である。これにより、自車両６００のセンサがレーザセンサであっても、ステレオカメラであっても、その種類に依存することなく前走車の特徴点情報を使用できる。
　なお、自車両６００は、伝送時に限らず、自己位置推定時の精度を算出する際に、ＳＷＬＤのポイントクラウドを用いてもよい。例えば、自車両６００のセンサがステレオカメラなどの撮像装置である場合、自車両６００がカメラで撮影した画像上で二次元点を検出し、その二次元点を用いて自己位置を推定する。また、自車両６００は、自己位置と同時に周辺物体のポイントクラウドを作成する。自車両６００は、その中のＳＷＬＤの三次元点を二次元画像上に再投影し、二次元画像上での検出点と再投影点との誤差に基づき自己位置推定の精度を評価する。
　また、自車両６００のセンサがＬＩＤＡＲなどのレーザセンサである場合、自車両６００は、作成したポイントクラウドのＳＷＬＤと、三次元地図のＳＷＬＤとを用いてＩｔｅｒａｔｉｖｅ　Ｃｌｏｓｅｓｔ　Ｐｏｉｎｔにより算出した誤差に基づき自己位置推定の精度を評価する。
　また、５Ｇなど基地局又はサーバ経由の通信状態が悪い場合には、自車両６００は、周辺車両６０１から三次元地図を取得してもよい。
　また、自車両６００の周辺の車両から取得できない遠方の情報を車車間通信により取得してもよい。例えば、自車両６００は、数百メートル、又は数キロ先の発生直後の交通事故情報などを対向車からのすれ違い通信、又は周辺車両に順次伝えていくリレー方式などにより取得してもよい。この時、伝送されるデータのデータ形式が、動的三次元地図の上位レイヤのメタ情報として伝送される。
　また、周辺状況の検知結果、及び自車両６００が検知した情報が、ユーザインタフェースを通じてユーザに提示されてもよい。例えば、カーナビの画面、又はフロントウィンドウへの重畳によりこれらの情報の提示が実現される。
　また、自動運転をサポートしておらず、クルーズコントロールを有する車両は、自動運転モードで走行中の周辺車両を発見し、当該周辺車両を追尾してもよい。
　また、自車両６００は、三次元地図を取得できない、又はオクルージョン領域が多過ぎるなどの理由から自己位置推定が不可能な場合に動作モードを、自動運転モードから周辺車両の追尾モードに切り替えてもよい。
　また、追尾される車両には、追尾されていることをユーザに警告し、追尾を許可するかどうかをユーザが指定できるユーザインタフェースが搭載されてもよい。その際、追尾する車両に広告表示し、追尾される側にインセンティブを支払うなどの仕組みが設けられてもよい。
　また、伝送される情報は、三次元データであるＳＷＬＤを基本とするが、自車両６００に設定されている要求設定又は前走車の公開設定に応じた情報であってもよい。例えば、伝送される情報は、密なポイントクラウドであるＷＬＤでもよいし、前走車による周辺状況の検知結果でもよいし、前走車の制動情報でもよい。
　また、自車両６００は、ＷＬＤを受信し、ＷＬＤの三次元データを視覚化し、視覚化した三次元データをＧＵＩを用いてドライバに提示してもよい。その際、自車両６００は、自車両６００で作成したポイントクラウドと受信したポイントクラウドとをユーザが区別できるように、情報に色分けなどを施して提示してもよい。
　また、自車両６００は、自車両６００で検知した情報と周辺車両６０１の検知結果とをＧＵＩでドライバに提示する場合、自車両６００で検知した情報と受信した検知結果とをユーザが区別できるのうように、情報に色分けなどを施して提示してもよい。
　以上のように、本実施の形態に係る三次元データ作成装置６２０では、三次元データ作成部６２１は、センサで検知したセンサ情報６３１から第１三次元データ６３２を作成する。受信部６２４は、第２三次元データ６３５が符号化された符号化三次元データ６３４を受信する。復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する。合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を作成する。
　これによれば、三次元データ作成装置６２０は、作成した第１三次元データ６３２と、受信した第２三次元データ６３５とを用いて、詳細な第３三次元データ６３６を作成できる。
　また、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５を合成することで、第１三次元データ６３２及び第２三次元データ６３５よりも密度が高い第３三次元データ６３６を作成する。
　また、第２三次元データ６３５（例えばＳＷＬＤ）は、第４三次元データ（例えばＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データである。
　これによれば、三次元データ作成装置６２０は、伝送される三次元データのデータ量を削減できる。
　また、三次元データ作成装置６２０は、さらに、符号化三次元データ６３４の送信元である送信装置を探索する探索部６２３を含む。受信部６２４は、探索された送信装置から符号化三次元データ６３４を受信する。
　これによれば、三次元データ作成装置６２０は、例えば、必要な三次元データを所有する送信装置を探索により特定できる。
　また、三次元データ作成装置は、さらに、三次元データを要求する三次元空間の範囲である要求範囲を決定する要求範囲決定部６２２を備える。探索部６２３は、要求範囲を示す要求範囲情報６３３を送信装置に送信する。第２三次元データ６３５は、要求範囲の三次元データを含む。
　これによれば、三次元データ作成装置６２０は、必要な三次元データを受信できるとともに、伝送される三次元データのデータ量を削減できる。
　また、要求範囲決定部６２２は、センサで検知できないオクルージョン領域６０４を含む空間範囲を要求範囲に決定する。
　また、本実施の形態に係る三次元データ送信装置６４０では、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第５三次元データ６５２を作成する。抽出部６４３は、第５三次元データ６５２の一部を抽出することで第６三次元データ６５４を作成する。符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する。送信部６４５は、符号化三次元データ６３４を送信する。
　これによれば、三次元データ送信装置６４０は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
　また、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第７三次元データ（例えばＷＬＤ）を作成し、第７三次元データから特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（例えばＳＷＬＤ）を作成する。
　これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
　また、三次元データ送信装置６４０は、さらに、受信装置から、三次元データを要求する三次元空間の範囲である要求範囲を示す要求範囲情報６３３を受信する受信部６４２を含む。抽出部６４３は、第５三次元データ６５２から、要求範囲の三次元データを抽出することで第６三次元データ６５４を作成する。送信部６４５は、受信装置に符号化三次元データ６３４を送信する。
　これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
　（実施の形態４）
　本実施の形態では、三次元マップに基づく自己位置推定における異常系の動作について説明する。
　車の自動運転、又は、ロボット、或いはドローンなどの飛行体などの移動体を自律的に移動させるなどの用途が今後拡大すると予想される。このような自律的な移動を実現する手段の一例として、移動体が、三次元マップ内における自らの位置を推定（自己位置推定）しながら、マップに従って走行する方法がある。
　自己位置推定は、三次元マップと、自車に搭載したレンジファインダー（ＬｉＤＡＲなど）又はステレオカメラなどのセンサにより取得した自車周辺の三次元情報（以降、自車検知三次元データ）とをマッチングして、三次元マップ内の自車位置を推定することで実現できる。
　三次元マップは、ＨＥＲＥ社が提唱するＨＤマップなどのように、三次元のポイントクラウドだけでなく、道路及び交差点の形状情報など二次元の地図データ、又は、渋滞及び事故などの実時間で変化する情報を含んでもよい。三次元データ、二次元データ、実時間で変化するメタデータなど複数のレイヤから三次元マップが構成され、装置は、必要なデータのみを取得、又は、参照することも可能である。
　ポイントクラウドのデータは、上述したＳＷＬＤであってもよいし、特徴点ではない点群データを含んでもよい。また、ポイントクラウドのデータの送受信は、１つ、または、複数のランダムアクセス単位を基本として行われる。
　三次元マップと自車検知三次元データとのマッチング方法として以下の方法を用いることができる。例えば、装置は、互いのポイントクラウドにおける点群の形状を比較し、特徴点間の類似度が高い部位が同一位置であると決定する。また、装置は、三次元マップがＳＷＬＤから構成される場合、ＳＷＬＤを構成する特徴点と、自車検知三次元データから抽出した三次元特徴点とを比較してマッチングを行う。
　ここで、高精度に自己位置推定を行うためには、（Ａ）三次元マップと自車検知三次元データが取得できており、かつ、（Ｂ）それらの精度が予め定められた基準を満たすことが必要となる。しかしながら、以下のような異常ケースでは、（Ａ）又は（Ｂ）が満たせない。
　（１）三次元マップを通信経由で取得できない。
　（２）三次元マップが存在しない、又は、三次元マップを取得したが破損している。
　（３）自車のセンサが故障している、又は、悪天候のために、自車検知三次元データの生成精度が十分でない。
　これらの異常ケースに対処するための動作を、以下で説明する。以下では、車を例に動作を説明するが、以下の手法は、ロボット又はドローンなど、自律的に移動する動物体全般に対して適用できる。
　以下、三次元マップ又は自車検知三次元データにおける異常ケースに対応するための、本実施の形態に係る三次元情報処理装置の構成及び動作を説明する。図３４は、本実施の形態に係る三次元情報処理装置７００の構成例を示すブロック図である。図３５は、三次元情報処理装置７００による三次元情報処理方法のフローチャートである。
　三次元情報処理装置７００は、例えば、自動車等の動物体に搭載される。図３４に示すように、三次元情報処理装置７００は、三次元マップ取得部７０１と、自車検知データ取得部７０２と、異常ケース判定部７０３と、対処動作決定部７０４と、動作制御部７０５とを備える。
　なお、三次元情報処理装置７００は、二次元画像を取得するカメラ、又は、超音波或いはレーザーを用いた一次元データのセンサなど、自車周辺の構造物又は動物体を検知するための図示しない二次元又は一次元のセンサを備えてもよい。また、三次元情報処理装置７００は、三次元マップを４Ｇ或いは５Ｇなどの移動体通信網、又は、車車間通信或いは路車間通信により取得するための通信部（図示せず）を備えてもよい。
　図３５に示すように、三次元マップ取得部７０１は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７０１）。例えば、三次元マップ取得部７０１は、移動体通信網、又は、車車間通信或いは路車間通信により三次元マップ７１１を取得する。
　次に、自車検知データ取得部７０２は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７０２）。例えば、自車検知データ取得部７０２は、自車が備えるセンサにより取得されたセンサ情報に基づき、自車検知三次元データ７１２を生成する。
　次に、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方に対して予め定められたチェックを実施することで異常ケースを検出する（Ｓ７０３）。つまり、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方が異常であるかを判定する。
　ステップＳ７０３において、異常ケースが検出された場合（Ｓ７０４でＹｅｓ）、対処動作決定部７０４は、異常ケースに対する対処動作を決定する（Ｓ７０５）。次に、動作制御部７０５は、三次元マップ取得部７０１など、対処動作の実施に必要となる各処理部の動作を制御する（Ｓ７０６）。
　一方、ステップＳ７０３において、異常ケースが検出されない場合（Ｓ７０４でＮｏ）、三次元情報処理装置７００は、処理を終了する。
　また、三次元情報処理装置７００は、三次元マップ７１１と自車検知三次元データ７１２とを用いて、三次元情報処理装置７００を有する車両の自己位置推定を行う。次に、三次元情報処理装置７００は、自己位置推定の結果を用いて、当該車両を自動運転する。
　このように、三次元情報処理装置７００は、第１の三次元位置情報を含むマップデータ（三次元マップ７１１）を通信路を介して取得する。例えば、第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含む。例えば、第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータ（ＳＷＬＤ）である。
　また、三次元情報処理装置７００は、センサで検知した情報から第２の三次元位置情報（自車検知三次元データ７１２）を生成する。次に、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報に対して異常判定処理を実施することで、第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する。
　三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する。次に、三次元情報処理装置７００は、対処動作の実施に必要となる制御を実施する。
　これにより、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
　以下、異常ケース１である、三次元マップ７１１が通信経由で取得できない場合に対する対処動作について説明する。
　自己位置推定には三次元マップ７１１が必要であるが、車両は、目的地までの経路に対応する三次元マップ７１１を予め取得していない場合には、三次元マップ７１１を通信により取得する必要がある。しかしながら、通信路の輻輳又は電波受信状態の悪化などにより、車両が、走行系路上の三次元マップ７１１を取得できないことがある。
　異常ケース判定部７０３は、目的地までの経路上の全ての区間、又は、現在位置から所定の範囲内の区間における三次元マップ７１１が取得済みであるかを確認し、取得できていない場合は異常ケース１と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できるかどうかを判定し、三次元マップ７１１を通信路を介して取得できない場合、三次元マップ７１１が異常であると判定する。
　異常ケース１と判定された場合、対処動作決定部７０４は、（１）自己位置推定を継続する、及び、（２）自己位置推定を停止する、の２つのタイプの対処動作のうち一方を選択する。
　まず、（１）自己位置推定を継続する場合の対処動作の具体例について説明する。自己位置推定を継続する場合には、目的地までの経路上の三次元マップ７１１が必要となる。
　例えば、車両は、三次元マップ７１１を取得済みの範囲内で通信路が利用可能な場所を判定し、その場所まで移動して、三次元マップ７１１を取得する。このとき、車両は、目的地までの全ての三次元マップ７１１を取得してもよいし、自車のメモリ或いはＨＤＤなどの記録部に保持できる上限サイズ内でランダムアクセス単位毎に三次元マップ７１１を取得してもよい。
　なお、車両は、経路上の通信状態を別途取得し、経路上の通信状態が不良となることが予測できる場合には、通信状態が不良である区間に到達する前に当該区間の三次元マップ７１１を予め取得しておく、又は、取得可能な最大限の範囲の三次元マップ７１１を取得しておくように動作してもよい。つまり、三次元情報処理装置７００は、車両が通信状態が悪い領域に進入するかを予測する。三次元情報処理装置７００は、車両が通信状態が悪い領域に進入すると予測された場合、当該車両が当該領域に侵入するまえに、三次元マップ７１１を取得する。
　また、車両は、通常時よりも狭い範囲となる、経路上の自己位置推定に必要な最小限の三次元マップ７１１を構成するランダムアクセス単位を特定し、特定したランダムアクセス単位を受信してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できない場合、第１の三次元位置情報より狭い範囲の第３の三次元位置情報を通信路を介して取得してもよい。
　また、車両は、三次元マップ７１１の配信サーバへのアクセスができない場合において、自車周辺を走行中の他車など、目的地までの経路上の三次元マップ７１１を取得済みであり、かつ、自車と通信可能な移動体から、三次元マップ７１１を取得してもよい。
　次に、（２）自己位置推定を停止する場合の対処動作の具体例を説明する。この場合、目的地までの経路上の三次元マップ７１１は不要である。
　例えば、車両は、自己位置推定に基づく自動運転などの機能が継続できない旨を運転者に通知し、動作モードを、運転者が運転を行うマニュアルモードに移行する。
　通常、自己位置推定を行う際は、人の介在度に応じたレベルの違いはあるものの、自動運転が行われる。一方で、自己位置推定の結果は、人が運転する際のナビゲーション等としての利用することも可能である。よって、自己位置推定の結果は、必ずしも自動運転に使用されてなくてもよい。
　また、車両は、４Ｇ又は５Ｇなどの移動体通信網など通常使用する通信路が利用できない場合は、路車間のＷｉ‐Ｆｉ（登録商標）或いはミリ波通信、又は、車車間の通信など、別の通信路経由で三次元マップ７１１を取得できるかどうかを確認し、使用する通信路を、三次元マップ７１１を取得可能な通信路に切り替えてもよい。
　また、車両は、三次元マップ７１１を取得できない場合には、二次元マップを取得し、二次元マップと自車検知三次元データ７１２を用いて自動運転を継続してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１を通信路を介して取得できない場合、二次元位置情報を含むマップデータ（二次元マップ）を通信路を介して取得し、二次元位置情報と自車検知三次元データ７１２とを用いて車両の自己位置推定を行ってもよい。
　具体的には、車両は、自己位置推定には、二次元マップと自車検知三次元データ７１２を使用し、周辺の車両、歩行者、及び障害物などの検知には自車検知三次元データ７１２を用いる。
　ここで、ＨＤマップなどの地図データには、三次元のポイントクラウドなどから構成される三次元マップ７１１と共に、二次元の地図データ（二次元マップ）と、二次元の地図データから道路形状或いは交差点などの特徴的な情報を抜き出した簡易版の地図データと、渋滞、事故又は工事などの実時間情報を表すメタデータとを含めることができる。例えば、地図データは、下位レイヤから順に、三次元データ（三次元マップ７１１）、二次元データ（二次元マップ）、メタデータが配置されたレイヤ構造を有する。
　ここで、二次元のデータは、三次元のデータに比べてデータサイズが小さい。よって、通信状態が悪くても車両は二次元マップを取得できる場合がある。または、車両は、通信状態が良い区間においてまとめて広い範囲の二次元マップを取得できる。従って、車両は、通信路の状態が悪く、三次元マップ７１１の取得が困難である場合は、三次元マップ７１１を受信せずに、二次元マップを含むレイヤを受信してもよい。なお、メタデータはデータサイズが小さいため、例えば、車両は、メタデータを通信状態によらず常に受信する。
　二次元マップと自車検知三次元データ７１２を用いた自己位置推定の方法には、例えば、以下の２通りの方法がある。
　第１の方法は、二次元特量のマッチングを行う方法である。具体的には、車両は、自車検知三次元データ７１２から二次元の特徴量を抽出し、抽出した二次元の特徴量と二次元マップとのマッチングを行う。
　例えば、車両は、自車検知三次元データ７１２を二次元マップと同一の平面に投影し、得られた二次元データと、二次元マップとをマッチングする。マッチングは、両者から抽出された二次元の画像特徴量を用いて行われる。
　三次元マップ７１１がＳＷＬＤを含む場合は、三次元マップ７１１は、三次元空間内の特徴点における三次元特徴量とともに、二次元マップと同一平面における二次元の特徴量を格納しておいてもよい。例えば、二次元の特徴量には識別情報が付与される。または、二次元の特徴量は、三次元データ及び二次元マップとは別レイヤに格納され、車両は、二次元マップと共に、二次元の特徴量のデータを取得する。
　二次元マップが道路内の白線、ガードレール及び建物など、地上からの高さが異なる（同一平面内にない）位置の情報を同一マップ内に示す場合には、車両は、自車検知三次元データ７１２における複数の高さのデータから特徴量を抽出する。
　また、二次元マップにおける特徴点と三次元マップ７１１における特徴点との対応関係を示す情報が、地図データのメタ情報として格納されてもよい。
　第２の方法は、三次元特徴量のマッチングを行う方法である。具体的には、車両は、二次元マップにおける特徴点に対応する三次元特徴量を取得し、取得した三次元特徴量と、自車検知三次元データ７１２の三次元特徴量とをマッチングする。
　具体的には、二次元マップにおける特徴点に対応する三次元特徴量が地図データに格納される。車両は、二次元マップの取得時に、この三次元特徴量を合わせて取得する。なお、三次元マップ７１１がＳＷＬＤを含む場合は、ＳＷＬＤにおける特徴点のうち、二次元マップの特徴点に対応する特徴点を識別する情報を付与することで、車両は、識別情報に基づいて、二次元マップと合わせて取得する三次元特徴量を決定できる。なお、この場合、二次元位置を表現できればよいので、三次元位置を表現する場合に比べて、データ量を削減できる。
　また、二次元マップを使用して自己位置推定する際には、三次元マップ７１１よりも自己位置推定の精度が低下する。従って、車両は、推定精度が低下しても自動運転を継続できるかどうか判定し、継続可と判定された場合にのみ、自動運転を継続してもよい。
　自動運転が継続できるかは、車両が走行中の道路が市街地、又は、高速道路など他の車両又は歩行者の進入が少ない道路であるか、道幅或いは道路の混雑度（車両又は歩行者の密度）などの走行環境にも影響される。さらに、事業所の敷地、街、又は建物内などには、カメラなどのセンサで認識するためのマーカーを配置することも可能である。これら特定エリアにおいては、二次元のセンサによってマーカーを高精度に認識できるため、例えば、二次元マップ内にマーカーの位置情報を含めることで、自己位置推定を高精度に実施できる。
　また、マップ内に各エリアが特定エリアであるかどうかを示す識別情報を含めることなどにより、車両は、当該車両が特定エリア内に存在するかを判定できる。車両は、当該車両が特定エリア内に存在する場合には、自動運転を継続すると判定する。このように、車両は、二次元マップ使用時の自己位置推定の精度、又は車両の走行環境に基づいて、自動運転継続の可否を判定してもよい。
　このように、三次元情報処理装置７００は、車両の走行環境（移動体の移動環境）に基づき、二次元マップと自車検知三次元データ７１２とを用いた車両の自己位置推定の結果を用いた車両の自動運転を行うか否かを判定する。
　また、車両は、自動運転継続の可否でなはなく、自己位置推定の精度又は車両の走行環境に応じて、自動運転のレベル（モード）を切り替えてもよい。ここで自動運転のレベル（モード）を切り替えるとは、例えば、速度を制限する、ドライバーの操作量を増やす（自動運転の自動レベルを下げる）、前方を走る車の運転情報を得てそれを参考に運転するモードに切り替える、同一の目的地を設定している車の運転情報を得てそれを用いて自動運転するモードに切り替える、などである。
　また、マップは、位置情報と対応付けられた、二次元マップを用いて自己位置推定する場合の自動運転の推奨レベルを示す情報を含んでもよい。推奨レベルは、交通量などに応じて動的に変化するメタデータであってもよい。これにより、車両は、周辺の環境等に応じて逐次レベルを判定することなく、マップ内の情報を取得するだけでレベルを決定できる。また、複数の車両が同一マップを参照することで、個々の車両の自動運転のレベルを一定に保つことができる。なお、推奨レベルは、推奨ではなく、遵守が必須であるレベルであってもよい。
　また、車両は、運転者の有無（有人及び無人のいずれであるか）に応じて、自動運転のレベルの切り替えを行ってもよい。例えば、車両は、有人であれば自動運転のレベルを下げ、無人の場合には停止する。車両は、安全に停止できる位置を、周辺の通行者、車両及び交通標識を認識することによって判定する。または、マップは、車両が安全に停止できる位置を示す位置情報を含み、車両は当該位置情報を参照して安全に停止できる位置を判定してもよい。
　次に、異常ケース２である、三次元マップ７１１が存在しない、又は、三次元マップ７１１を取得したが破損している場合に対する対処動作について説明する。
　異常ケース判定部７０３は、（１）目的地までの経路上の一部或いは全ての区間における三次元マップ７１１が、アクセス先となる配信サーバなどに存在せず、取得できない、又は、（２）取得済みの三次元マップ７１１の一部或いは全てが破損している、のいずれかに当てはまるかを確認し、当てはまる場合には異常ケース２と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１のデータが完全であるかどうかを判定し、三次元マップ７１１のデータが完全でない場合、三次元マップ７１１が異常であると判定する。
　異常ケース２と判定された場合、以下の対処動作が行われる。まず、（１）三次元マップ７１１を取得できない場合の対処動作の例を説明する。
　例えば、車両は、三次元マップ７１１が存在しない区間を通らない経路を設定する。
　また、車両は、代替の経路が存在しない、又は、代替の経路が存在するが距離が大幅に増加するなどの理由から、代替の経路が設定できない場合は、三次元マップ７１１が存在しない区間を含む経路を設定する。また、車両は、当該区間では運転者に、運転モードを切り替える旨を通知し、運転モードをマニュアルモードに切り替える。
　（２）取得済みの三次元マップ７１１の一部或いは全てが破損している場合には以下の対処動作が行われる。
　車両は、三次元マップ７１１における破損部位を特定し、通信により破損部位のデータを要求し、当該破損部位のデータを取得して、取得したデータを用いて三次元マップ７１１を更新する。このとき、車両は、破損部位を、三次元マップ７１１における絶対座標又は相対座標などの位置情報により指定してもよいし、破損部位を構成するランダムアクセス単位のインデックス番号などにより指定してもよい。この場合、車両は、破損部位を含むランダムアクセス単位を、取得したランダムアクセス単位で置き換える。
　次に、異常ケース３である、自車のセンサが故障又は悪天候のために、自車検知三次元データ７１２が生成できない場合に対する対処動作について説明する。
　異常ケース判定部７０３は、自車検知三次元データ７１２の生成誤差が許容範囲内であるかを確認し、許容範囲でなければ異常ケース３と判定する。つまり、異常ケース判定部７０３は、自車検知三次元データ７１２のデータの生成精度が基準値以上であるかどうかを判定し、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、自車検知三次元データ７１２が異常であると判定する。
　自車検知三次元データ７１２の生成誤差が許容範囲内であるかどうかの確認方法としては以下の方法を用いることができる。
　レンジファインダー又はステレオカメラなど自車の三次元センサにおける奥行き方向及びスキャン方向の分解能、又は、生成可能な点群の密度などに基づいて、正常動作時の自車検知三次元データ７１２の空間分解能が予め決定される。また、車両は、三次元マップ７１１の空間分解能を、三次元マップ７１１に含まれるメタ情報などから取得する。
　車両は、両者の空間分解能を用いて、自車検知三次元データ７１２と三次元マップ７１１とを、三次元特徴量などに基づいてマッチングする際のマッチング誤差の基準値を推定する。マッチング誤差としては、特徴点毎の三次元特徴量の誤差、複数の特徴点間の三次元特徴量の誤差の平均値などの統計量、又は、複数の特徴点間の空間的な距離の誤差などを利用できる。基準値からのズレの許容範囲は予め設定される。
　車両は、走行開始前又は走行中に生成した自車検知三次元データ７１２と三次元マップ７１１とのマッチング誤差が許容範囲内でなければ、異常ケース３と判定する。
　または、車両は、精度チェック用の既知の三次元形状を有するテストパターンを用いて、走行開始前などにテストパターンに対する自車検知三次元データ７１２を取得し、形状誤差が許容範囲内であるかに基づいて異常ケース３であるかを判定してもよい。
　例えば、車両は、走行開始前に毎回、上記判定を行う。または、車両は、走行中に一定の時間間隔などで上記判定を行うことで、マッチング誤差の時系列変化を取得する。車両は、マッチング誤差が増加傾向にある際には、誤差が許容範囲内であっても異常ケース３と判定してもよい。また、車両は、時系列変化に基づいて、異常となることが予測できる場合には、検査又は修理を促す旨のメッセージを表示するなど、ユーザーに異常となることが予測されたことを通知してもよい。また、車両は、悪天候など一過性の要因に基づく異常と、センサの故障に基づく異常とを、時系列変化により判定し、センサの故障に基づく異常のみをユーザーに通知してもよい。
　また、車両は、異常ケース３と判定された場合、（１）非常用の代替センサを作動させる（レスキューモード）、（２）運転モードを切り替える、（３）三次元センサの動作補正を行う、の３つのタイプの対処動作のいずれか、又はこれらを選択的に行う。
　まず、（１）非常用の代替センサを作動する場合について説明する。車両は、通常運転時に使用する三次元センサとは異なる、非常用の代替センサを作動させる。つまり、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、通常のセンサとは異なる代替センサで検知した情報から自車検知三次元データ７１２（第４の三次元位置情報）を生成する。
　具体的には、車両が、複数のカメラ又はＬｉＤＡＲを併用して自車検知三次元データ７１２を取得する場合には、車両は、自車検知三次元データ７１２のマッチング誤差が許容範囲を超える方向などに基づいて、動作不良のセンサを特定する。そして、車両は、動作不良のセンサに対応する代替センサを作動する。
　代替センサは、三次元センサであってもよいし、二次元画像を取得できるカメラであってもよいし、超音波などの一次元センサなどであってもよい。代替センサが三次元センサ以外のセンサの場合には、自己位置推定の精度が低下する、又は、自己位置推定ができないことがあるため、車両は、代替センサの種類に応じて自動運転のモードを切り替えてもよい。
　例えば、車両は、代替センサが三次元センサである場合には自動運転モードを継続する。また、車両は、代替センサが二次元センサである場合には、完全自動運転から人の運転操作を前提とする準自動運転モードに運転モードを変更する。また、車両は、代替センサが一次元センサである場合には、自動的な制動制御を行わないマニュアルモードに運転モードを切り替える。
　また、車両は、走行環境に基づいて自動運転モードを切り替えてもよい。例えば、車両は、代替センサが二次元センサである場合において、高速道路を走行中であれば完全自動運転モードを継続し、市街地を走行中であれば運転モードを準自動運転モードに切り替える。
　また、車両は、代替センサが存在しない場合であっても、正常に動作しているセンサのみで十分な数の特徴点が取得できれば、自己位置推定を継続してもよい。ただし、特定方向に対する検知が不能になるため、車両は、運転モードを、準自動運転又はマニュアルモードに切り替える。
　次に、（２）運転モードを切り替える対処動作について説明する。車両は、自動運転モードからマニュアルモードに運転モードを切り替える。または、車両は、路肩などの安全に停止できる場所まで自動運転を継続し、停止してもよい。また、車両は、停止後に運転モードをマニュアルモードに切り替えてもよい。このように、三次元情報処理装置７００は、自車検知三次元データ７１２の生成精度が基準値以上でない場合、自動運転のモードを切り替える。
　次に（３）三次元センサの動作補正を行う対処動作について説明する。車両は、マッチング誤差が発生する方向などから動作不良の三次元センサを特定し、特定したセンサのキャリブレーションを行う。具体的には、センサとして、複数のＬｉＤＡＲ又はカメラが使用され場合には、各センサにより再構成される三次元空間の一部がオーバーラップする。すなわち、オーバーラップ部分のデータは、複数のセンサにより取得される。正常なセンサと動作不良のセンサとでは、オーバーラップ部分に対して取得される三次元の点群データが異なる。従って、車両は、動作不良のセンサが正常なセンサと同等の三次元の点群データを取得できるように、ＬｉＤＡＲの原点補正を行う、又は、カメラの露出或いはフォーカスなど、予め定めた箇所の動作を調整する。
　車両は、調整後に、マッチング誤差が許容範囲内に収まれば、直前の運転モードを継続する。一方、調整後も、マッチング精度が許容範囲内に収まらなければ、車両は、上記（１）非常用の代替センサを作動する対処動作、又は（２）運転モードを切り替える対処動作を行う。
　このように、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、センサの動作補正を行う。
　以下、対処動作の選択方法について説明する。対処動作は、運転者などのユーザーが選択してもよいし、ユーザーを介さずに車両が自動的に選択してもよい。
　また、車両は、運転者が同乗しているかどうかに応じて制御を切り替えてもよい。例えば、運転者が同乗している場合には、車両は、マニュアルモードへの切り替えを優先する。一方、運転者が同乗しない場合には、車両は、安全な場所に移動して停止するモードを優先する。
　停止場所を示す情報は、三次元マップ７１１にメタ情報として含まれてもよい。または、車両は、自動運転者の運行情報を管理するサービスに対して停止場所の回答要求を発行し、停止場所を示す情報を取得してもよい。
　また、車両が既定の路線を運行する場合などでは、通信路を介してオペレータが車両の運行を管理するモードに車両の運転モードが移行されてもよい。特に、完全自動運転モードで走行中の車両における自己位置推定機能の異常は、危険性が高い。従って、車両は、異常ケースの検出時、又は、検出した異常を修正できない場合には、通信路を介して、運行情報を管理するサービスに対して異常の発生を通知する。当該サービスは、当該車両の周辺を走行中の車両などに、異常発生車両の存在を通知する、又は、近傍の停止場所を空けるように指示してもよい。
　また、車両は、異常ケースの検出時には、通常時よりも走行速度を落としてもよい。
　車両が、タクシーなどの配車サービスを行う自動運転車であり、当該車両に異常ケースが発生した場合には、当該車両は、運行管理センターに連絡を行い、安全な場所に停止する。また、配車サービスは、代わりの車両は配車する。または、配車サービスの利用者が車両を運転してもよい。これらのケースでは、料金の割引又は特典ポイントの付与なども併用されてもよい。
　また、異常ケース１の対処方法において、二次元マップに基づいて自己位置推定を行う方法について述べたが、通常時においても、二次元マップを用いて自己位置推定を行ってもよい。図３６は、この場合の自己位置推定処理のフローチャートである。
　まず、車両は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７１１）。次に、車両は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７１２）。
　次に、車両は、自己位置推定に三次元マップ７１１が必要かどうかを判定する（Ｓ７１３）。具体的には、車両は、二次元マップ使用時の自己位置推定の精度と、走行環境に基づいて、三次元マップ７１１の要否を判定する。例えば、上述した異常ケース１の対処方法と同様の方法が用いられる。
　三次元マップ７１１が必要でないと判定された場合（Ｓ７１４でＮｏ）、車両は、二次元マップを取得する（Ｓ７１５）。このとき、車両は、異常ケース１の対処方法で述べたような付加情報を合わせて取得してもよい。また、車両は、三次元マップ７１１から二次元マップを生成してもよい。例えば、車両は、三次元マップ７１１からに任意の平面を切り出すことで二次元マップを生成してもよい。
　次に、車両は、自車検知三次元データ７１２と二次元マップとを用いて自己位置推定を行う（Ｓ７１６）。なお、二次元マップを用いた自己位置推定の方法は、例えば、上述した異常ケース１の対処方法で述べて方法と同様である。
　一方、三次元マップ７１１が必要であると判定された場合（Ｓ７１４でＹｅｓ）、車両は、三次元マップ７１１を取得する（Ｓ７１７）。次に、車両は、自車検知三次元データ７１２と三次元マップ７１１とを用いて自己位置推定を行う（Ｓ７１８）。
　なお、車両は、自車の通信機器の対応する速度、又は通信路の状況に応じて、二次元マップを基本として用いるか、三次元マップ７１１を基本として用いるかを切り替えてもよい。例えば、三次元マップ７１１を受信しながら走行する際に必要となる通信速度が予め設定され、車両は、走行時の通信速度が設定値以下の場合には二次元マップを基本として用い、走行時の通信速度が設定より大きい場合には三次元マップ７１１を基本として用いてもよい。なお、車両は、二次元マップ、または三次元マップのいずれを採用するか切り替える判定をせずに、二次元マップを基本として用いてもよい。
　（実施の形態５）
　本実施の形態では、後続車両への三次元データ送信方法等について説明する。図３７は、後続車両等に送信する三次元データの対象空間の例を示す図である。
　車両８０１は、車両８０１の前方の車両８０１から距離Ｌにある幅Ｗ、高さＨ、深さＤの直方体の空間８０２に含まれるポイントクラウド（点群）等の三次元データを、Δｔの時間間隔で、道路状況を監視する交通監視クラウド又は後続車両へ送信する。
　車両８０１は、外部から空間８０２に車両又は人が進入するなどして過去に送信済みの空間８０２に含まれる三次元データに変化が生じた場合には、変化が生じた空間の三次元データについても送信する。
　なお、図３７では、空間８０２の形状が直方体である例を示すが、空間８０２は、後続車両から死角となっている前方道路上の空間を含んでいればよく、必ずしも直方体でなくてもよい。
　距離Ｌは、三次元データを受信した後続車両が安全に停止できる距離に設定されることが望ましい。例えば、距離Ｌは、後続車両が、三次元データの受信に要する間に移動する距離と、後続車両が、受信したデータに応じて減速を開始するまでに移動する距離と、後続車両が原則を開始してから安全に停止するのに要する距離との和に設定される。これらの距離は速度に応じて変化するので、Ｌ＝ａ×Ｖ＋ｂ（ａ、ｂは定数）のように、距離Ｌが車両の速度Ｖに応じて変化してもよい。
　幅Ｗは、少なくとも車両８０１が走行している車線の幅よりも大きな値に設定される。更に望ましくは、幅Ｗは、左右の車線或いは路側帯など、隣接する空間が含まれる大きさに設定される。
　深さＤは固定値でも良いが、Ｄ＝ｃ×Ｖ＋ｄ（ｃ、ｄは定数）のように、車両の速度Ｖに応じて変化してもよい。また、Ｄ＞Ｖ×ΔｔとなるようにＤを設定することで、送信する空間を過去に送信済みの空間と重複させることができる。これにより、車両８０１は、より確実に走路上の空間を漏れなく後続車両等に送信することができる。
　このように、車両８０１が送信する三次元データを後続車両にとって有用な空間に限定することで、送信する三次元データの容量を効果的に削減でき、通信の低遅延化及び低コスト化を実現できる。
　次に、本実施の形態に係る三次元データ作成装置８１０の構成を説明する。図３８は、本実施の形態に係る三次元データ作成装置８１０の構成例を示すブロック図である。この三次元データ作成装置８１０は、例えば、車両８０１に搭載される。三次元データ作成装置８１０は、外部の交通監視クラウド、前走車両又は後続車両と三次元データの送受信を行うとともに、三次元データを作成及び蓄積する。
　三次元データ作成装置８１０は、データ受信部８１１と、通信部８１２と、受信制御部８１３と、フォーマット変換部８１４と、複数のセンサ８１５と、三次元データ作成部８１６と、三次元データ合成部８１７と、三次元データ蓄積部８１８と、通信部８１９と、送信制御部８２０と、フォーマット変換部８２１と、データ送信部８２２とを備える。
　データ受信部８１１は、交通監視クラウド又は前走車両から三次元データ８３１を受信する。三次元データ８３１は、例えば、自車両のセンサ８１５で検知不能な領域を含む、ポイントクラウド、可視光映像、奥行き情報、センサ位置情報、又は速度情報などの情報を含む。
　通信部８１２は、交通監視クラウド又は前走車両と通信し、データ送信要求などを交通監視クラウド又は前走車両に送信する。
　受信制御部８１３は、通信部８１２を介して、対応フォーマット等の情報を通信先と交換し、通信先との通信を確立する。
　フォーマット変換部８１４は、データ受信部８１１が受信した三次元データ８３１にフォーマット変換等を行うことで三次元データ８３２を生成する。また、フォーマット変換部８１４は、三次元データ８３１が圧縮又は符号化されている場合には、伸張又は復号処理を行う。
　複数のセンサ８１５は、ＬＩＤＡＲ、可視光カメラ又は赤外線カメラなどの、車両８０１の外部の情報を取得するセンサ群であり、センサ情報８３３を生成する。例えば、センサ情報８３３は、センサ８１５がＬＩＤＡＲなどのレーザセンサである場合、ポイントクラウド（点群データ）等の三次元データである。なお、センサ８１５は複数でなくてもよい。
　三次元データ作成部８１６は、センサ情報８３３から三次元データ８３４を生成する。三次元データ８３４は、例えば、ポイントクラウド、可視光映像、奥行き情報、センサ位置情報、又は速度情報などの情報を含む。
　三次元データ合成部８１７は、自車両のセンサ情報８３３に基づいて作成された三次元データ８３４に、交通監視クラウド又は前走車両等が作成した三次元データ８３２を合成することで、自車両のセンサ８１５では検知できない前走車両の前方の空間も含む三次元データ８３５を構築する。
　三次元データ蓄積部８１８は、生成された三次元データ８３５等を蓄積する。
　通信部８１９は、交通監視クラウド又は後続車両と通信し、データ送信要求などを交通監視クラウド又は後続車両に送信する。
　送信制御部８２０は、通信部８１９を介して、対応フォーマット等の情報を通信先と交換し、通信先と通信を確立する。また、送信制御部８２０は、三次元データ合成部８１７で生成された三次元データ８３２の三次元データ構築情報と、通信先からのデータ送信要求とに基づき、送信対象の三次元データの空間である送信領域を決定する。
　具体的には、送信制御部８２０は、交通監視クラウド又は後続車両からのデータ送信要求に応じて、後続車両のセンサでは検知できない自車両の前方の空間を含む送信領域を決定する。また、送信制御部８２０は、三次元データ構築情報に基づいて送信可能な空間又は送信済み空間の更新有無等を判断することで送信領域を決定する。例えば、送信制御部８２０は、データ送信要求で指定された領域であり、かつ、対応する三次元データ８３５が存在する領域を送信領域に決定する。そして、送信制御部８２０は、通信先が対応するフォーマット、及び送信領域をフォーマット変換部８２１に通知する。
　フォーマット変換部８２１は、三次元データ蓄積部８１８に蓄積されている三次元データ８３５のうち、送信領域の三次元データ８３６を、受信側が対応しているフォーマットへ変換することで三次元データ８３７を生成する。なお、フォーマット変換部８２１は、三次元データ８３７を圧縮又は符号化することでデータ量を削減してもよい。
　データ送信部８２２は、三次元データ８３７を交通監視クラウド又は後続車両に送信する。この三次元データ８３７は、例えば、後続車両の死角になる領域を含む、自車両の前方のポイントクラウド、可視光映像、奥行き情報、又はセンサ位置情報などの情報を含む。
　なお、ここでは、フォーマット変換部８１４及び８２１にてフォーマット変換等が行われる例を述べたが、フォーマット変換は行われなくてもよい。
　このような構成により、三次元データ作成装置８１０は、自車両のセンサ８１５では検知できない領域の三次元データ８３１を外部から取得し、三次元データ８３１と自車両のセンサ８１５で検知したセンサ情報８３３に基づく三次元データ８３４とを合成することで三次元データ８３５を生成する。これにより、三次元データ作成装置８１０は、自車両のセンサ８１５で検知できない範囲の三次元データを生成できる。
　また、三次元データ作成装置８１０は、交通監視クラウド又は後続車両からのデータ送信要求に応じて、後続車両のセンサでは検知できない自車両の前方の空間を含む三次元データを、交通監視クラウド又は後続車両等へ送信できる。
　次に、三次元データ作成装置８１０における後続車両への三次元データの送信手順について説明する。図３９は、三次元データ作成装置８１０による交通監視クラウド又は後続車両へ三次元データを送信する手順の一例を示すフローチャートである。
　まず、三次元データ作成装置８１０は、自車両８０１の前方道路上の空間８０２を含む空間の三次元データ８３５を生成及び更新する（Ｓ８０１）。具体的には、三次元データ作成装置８１０は、自車両８０１のセンサ情報８３３に基づいて作成した三次元データ８３４に、交通監視クラウド又は前走車両等が作成した三次元データ８３１を合成するなどして、自車両のセンサ８１５では検知できない前走車両の前方の空間も含む三次元データ８３５を構築する。
　次に、三次元データ作成装置８１０は、送信済みの空間に含まれる三次元データ８３５が変化したかを判定する（Ｓ８０２）。
　送信済みの空間に外部から車両又は人が進入するなどして、当該空間に含まれる三次元データ８３５に変化が生じた場合には（Ｓ８０２でＹｅｓ）、三次元データ作成装置８１０は、変化が生じた空間の三次元データ８３５を含む三次元データを交通監視クラウド又は後続車両に送信する（Ｓ８０３）。
　なお、三次元データ作成装置８１０は、変化が生じた空間の三次元データを、所定間隔で送信する三次元データの送信タイミングに合わせて送信してもよいが、変化を検知した後すぐに送信してもよい。つまり、三次元データ作成装置８１０は、変化が生じた空間の三次元データを、所定間隔で送信する三次元データよりも優先して送信してもよい。
　また、三次元データ作成装置８１０は、変化が生じた空間の三次元データとして、変化が生じた空間の三次元データの全てを送信してもよいし、三次元データの差分（例えば出現又は消失した三次元点の情報、又は三次元点の変位情報など）のみを送信してもよい。
　また、三次元データ作成装置８１０は、変化が生じた空間の三次元データに先行して、急制動警報など自車両の危険回避動作に関するメタデータを後続車両へ送信してもよい。これによれば、後続車両は前走車両の急制動などを早期に認知でき、より早期に減速などの危険回避動作を開始できる。
　送信済みの空間に含まれる三次元データ８３５に変化が生じていない場合（Ｓ８０２でＮｏ）、又は、ステップＳ８０３の後、三次元データ作成装置８１０は、自車両８０１の前方距離Ｌにある所定の形状の空間に含まれる三次元データを、交通監視クラウド又は後続車両へ送信する（Ｓ８０４）。
　また、例えば、ステップＳ８０１～Ｓ８０４の処理は、所定の時間間隔で繰り返し行われる。
　また、三次元データ作成装置８１０は、現在の送信対象の空間８０２の三次元データ８３５と、三次元地図とに差がない場合には、空間８０２の三次元データ８３７を送信しなくてもよい。
　図４０は、この場合の三次元データ作成装置８１０の動作を示すフローチャートである。
　まず、三次元データ作成装置８１０は、自車両８０１の前方道路上の空間８０２を含む空間の三次元データ８３５を生成及び更新する（Ｓ８１１）。
　次に、三次元データ作成装置８１０は、生成した空間８０２の三次元データ８３５に、三次元地図からの更新があるかを判定する（Ｓ８１２）。つまり、三次元データ作成装置８１０は、生成した空間８０２の三次元データ８３５と、三次元地図とに差があるかを判定する。ここで、三次元地図とは、交通監視クラウド等のインフラ側の装置で管理されている三次元の地図情報である。例えば、この三次元地図は、三次元データ８３１として取得される。
　更新がある場合（Ｓ８１２でＹｅｓ）、三次元データ作成装置８１０は、上記と同様に、空間８０２に含まれる三次元データを、交通監視クラウド又は後続車両へ送信する（Ｓ８１３）。
　一方、更新がない場合（Ｓ８１２でＮｏ）、三次元データ作成装置８１０は、空間８０２に含まれる三次元データを、交通監視クラウド及び後続車両へ送信しない（Ｓ８１４）。なお、三次元データ作成装置８１０は、空間８０２の体積をゼロに設定することで、空間８０２の三次元データが送信されないように制御してもよい。また、三次元データ作成装置８１０は、空間８０２に更新がないことを示す情報を、交通監視クラウド又は後続車両へ送信してもよい。
　以上のより、例えば、道路上に障害物が無い場合には、生成された三次元データ８３５とインフラ側の三次元地図とに差が生じず、データの送信は行われない。このように、不要なデータの送信を抑制できる。
　なお、上記説明では、三次元データ作成装置８１０が車両に搭載される例を述べたが、三次元データ作成装置８１０は車両に限らず、任意の移動体に搭載されてもよい。
　以上のように、本実施の形態に係る三次元データ作成装置８１０は、センサ８１５と、三次元データを外部と送受信する通信部（データ受信部８１１又はデータ送信部８２２等）とを備える移動体に搭載される。三次元データ作成装置８１０は、センサ８１５で検知されたセンサ情報８３３と、データ受信部８１１が受信した三次元データ８３１（第１三次元データ）とに基づいて三次元データ８３５（第２三次元データ）を作成する。三次元データ作成装置８１０は、三次元データ８３５の一部である三次元データ８３７を外部に送信する。
　これにより、三次元データ作成装置８１０は、自車両で検知できない範囲の三次元データを生成できる。また、三次元データ作成装置８１０は、他の車両等が検知できない範囲の三次元データを、当該他の車両に送信できる。
　また、三次元データ作成装置８１０は、三次元データ８３５の作成と、三次元データ８３７の送信とを、所定の間隔で繰り返し行う。三次元データ８３７は、現在の車両８０１の位置から、車両８０１の移動方向前方の所定距離Ｌに位置する所定サイズの小空間８０２の三次元データである。
　これにより、送信される三次元データ８３７の範囲が制限されるので、送信される三次元データ８３７のデータ量を削減できる。
　また、所定距離Ｌは、車両８０１の移動速度Ｖに応じて変化する。例えば、移動速度Ｖが大きくなるほど、所定距離Ｌは長くなる。これにより、車両８０１は、車両８０１の移動速度Ｖに応じた適切な小空間８０２を設定し、当該小空間８０２の三次元データ８３７を後続車両等に送信できる。
　また、所定サイズは、車両８０１の移動速度Ｖに応じて変化する。例えば、移動速度Ｖが大きくなるほど、所定サイズは大きくなる。例えば、移動速度Ｖが大きくなるほど、小空間８０２の車両の移動方向の長さである深さＤは大きくなる。これにより、車両８０１は、車両８０１の移動速度Ｖに応じた適切な小空間８０２を設定し、当該小空間８０２の三次元データ８３７を後続車両等に送信できる。
　また、三次元データ作成装置８１０は、送信済みの三次元データ８３７に対応する小空間８０２の三次元データ８３５に変化があるかを判定する。三次元データ作成装置８１０は、変化があると判定した場合、変化がある三次元データ８３５の少なくとも一部である三次元データ８３７（第４三次元データ）を外部の後続車両等に送信する。
　これにより、車両８０１は、変化があった空間の三次元データ８３７を後続車両等に送信できる。
　また、三次元データ作成装置８１０は、変化のあった三次元データ８３７（第４三次元データ）を、定期的に送信する通常の三次元データ８３７（第３三次元データ）よりも優先して送信する。具体的には、三次元データ作成装置８１０は、定期的に送信する通常の三次元データ８３７（第３三次元データ）の送信よりも前に変化のあった三次元データ８３７（第４三次元データ）を送信する。つまり、三次元データ作成装置８１０は、変化のあった三次元データ８３７（第４三次元データ）を、定期的に送信する通常の三次元データ８３７の送信を待たずに、非定期に送信する。
　これにより、車両８０１は、変化があった空間の三次元データ８３７を後続車両等に優先的に送信できるので、後続車両等は、三次元データに基づく判断を迅速に行える。
　また、変化のあった三次元データ８３７（第４三次元データ）は、送信済みの三次元データ８３７に対応する小空間８０２の三次元データ８３５と、変化後の三次元データ８３５との差分を示す。これにより、送信される三次元データ８３７のデータ量を削減できる。
　また、三次元データ作成装置８１０は、小空間８０２の三次元データ８３７と、小空間８０２の三次元データ８３１とに差がない場合、小空間８０２の三次元データ８３７を送信しない。さらに、三次元データ作成装置８１０は、小空間８０２の三次元データ８３７と、小空間８０２の三次元データ８３１とに差がないことを示す情報を外部に送信してもよい。
　これにより、不要な三次元データ８３７が送信されることを抑制できるので、送信される三次元データ８３７のデータ量を削減できる。
　（実施の形態６）
　本実施の形態では、三次元マップ等から得られた情報を表示する表示装置及び表示方法、並びに、三次元マップ等の保存装置及び保存方法について説明する。
　車又はロボット等の移動体は、車の自動運転又はロボットの自律移動のために、サーバ又は他車との通信により得られる三次元マップ及び自車に搭載したセンサから得られる二次元映像或いは自車検知三次元データを活用する。これらのデータのうちユーザが視聴又は保存したいデータは状況により異なると考えられる。以下では状況に応じて表示を切り替える表示装置について説明する。
　図４１は、表示装置による表示方法の概要を示すフローチャートである。表示装置は、車又はロボット等の移動体に搭載される。なお、以下では、移動体が車両（自動車）である例を説明する。
　まず、表示装置は、車両の運転状況に応じて、二次元周辺情報と三次元周辺情報とのいずれを表示するかを決定する（Ｓ９０１）。なお、二次元周辺情報は請求項における第１周辺情報に対応し、と三次元周辺情報は請求項における第２周辺情報に対応する。ここで、周辺情報とは、移動体の周辺を示す情報であり、例えば、車両から所定の方向を見た映像、又は、車両の周辺の地図である。
　二次元周辺情報とは、二次元データを用いて生成された情報である。ここで二次元データとは、二次元の地図情報又は映像である。例えば、二次元周辺情報は、二次元マップから得られた車両周辺の地図、又は、車両に搭載されたカメラにより得られた映像である。また、二次元周辺情報は、例えば、三次元の情報を含まない。つまり、二次元周辺情報が車両周辺の地図である場合には、当該地図には高さ方向の情報が含まれない。また、二次元周辺情報がカメラにより得られた映像である場合には、当該映像は奥行き方向の情報を含まない。
　また、三次元周辺情報とは、三次元データを用いて生成された情報である。ここで、三次元データとは、例えば、三次元マップである。なお、三次元データは、他車両又はサーバから取得した、又は、自車両で検知した、車両周辺の対象物の三次元位置又は三次元形状を示す情報等であってもよい。例えば、三次元周辺情報は、三次元マップを用いて生成された、車両周辺の二次元又は三次元の映像又は地図である。また、三次元周辺情報は、例えば、三次元の情報を含む。例えば、三次元周辺情報が車両前方の映像である場合には、当該映像は当該映像内の対象物までの距離を示す情報を含む。または、当該映像において、例えば、前方の車両の奥に存在する歩行者等が表示される。また、三次元周辺情報は、車両に搭載されたセンサから得られる映像に、これらの距離又は歩行者等を示す情報が重畳されたものでもよい。また、三次元周辺情報は、二次元の地図に高さ方向の情報が重畳されたものであってもよい。
　また、三次元データが三次元表示されてもよいし、三次元データから得られた二次元映像又は二次元地図が二次元のディスプレイ等に表示されてもよい。
　ステップＳ９０１において三次元周辺情報を表示すると決定された場合（Ｓ９０２でＹｅｓ）、表示装置は、三次元周辺情報を表示する（Ｓ９０３）。一方、ステップＳ９０１において二次元周辺情報を表示すると決定された場合（Ｓ９０２でＮｏ）、表示装置は、二次元周辺情報を表示する（Ｓ９０４）。このように表示装置は、ステップＳ９０１で表示すると決定された三次元周辺情報又は二次元周辺情報を表示する。
　以下、具体例を説明する。第１の例では、表示装置は、車両が自動運転されているか、手動運転されているかに応じて、表示する周辺情報を切り替える。具体的には、自動運転時には、運転手は、詳細な周辺の道路情報を詳しく知る必要がないため、表示装置は、二次元周辺情報（例えば二次元マップ）を表示する。一方、手動運転時は安全な運転のために周辺の道路情報の詳細が分かるよう三次元周辺情報（例えば三次元マップ）を表示する。
　また、自動運転時は、自車がどのような情報に基づき運転を行っているかをユーザに示すため、表示装置は、運転操作に影響をあたえた情報（例えば、自己位置推定に利用したＳＷＬＤ、車線、道路標識、及び周辺状況検知結果等）を表示してもよい。例えば、表示装置は、これらの情報を二次元マップに加えて表示してもよい。
　なお、上記自動運転時及び手動運転時に表示する周辺情報はあくまで一例であり、表示装置は、自動運転時に三次元周辺情報を表示し、手動運転時に二次元周辺情報を表示してもよい。また、表示装置は、自動運転時及び手動運転時の少なくとも一方において、二次元又は三次元の地図又は映像に加えて、メタデータ又は周辺状況検知結果を表示してもよいし、二次元又は三次元の地図又は映像の代わりにメタデータ又は周辺状況検知結果を表示してもよい。ここで、メタデータとは、サーバ又は他車両から取得した対象物の三次元位置又は三次元形状を示す情報である。また、周辺状況検知結果は、自車両で検知した対象物の三次元位置又は三次元形状を示す情報である。
　第２の例では、表示装置は、運転環境に応じて表示する周辺情報を切り替える。例えば、表示装置は、外界の明るさに応じて表示する周辺情報を切り替える。具体的には、表示装置は、自車周辺が明るい場合は、自車に搭載のカメラで得られる二次元映像、又は当該二次元映像を用いて作成された三次元周辺情報を表示する。一方、表示装置は、自車周辺が暗い場合は、自車に搭載のカメラから得られる二次元映像は暗くて視聴しにくいため、ライダー又はミリ波レーダーを用いて作成された三次元周辺情報を表示する。
　また、表示装置は、現在の自車両が存在する領域である運転領域によって表示する周辺情報を切り替えてもよい。例えば、表示装置は、観光地、都心部、又は目的地付近などでは周辺の建物の情報などをユーザに提供できるよう三次元周辺情報を表示する。一方、表示装置は、山間部、又は郊外などでは周辺の詳細情報が必要ないケースが多いと考えられるため、二次元周辺情報を表示する。
　また、表示装置は、天候状態に基づき表示する周辺情報を切り替えてもよい。例えば、表示装置は、晴天の場合はカメラ又はライダーを用いて作成した三次元周辺情報を表示する。一方、表示装置は、雨又は濃霧の場合はカメラ又はライダーによる三次元周辺情報にはノイズが含まれやすくなるためミリ波レーダーを用いて作成した三次元周辺情報を表示する。
　また、これら表示の切り替えはシステムが自動で実施してもよいし、ユーザが手動で実施してもよい。
　また、三次元周辺情報は、ＷＬＤに基づいて生成される密点群データ、ＭＷＬＤに基づいて生成されるメッシュデータ、ＳＷＬＤに基づいて生成されるスパースデータ、レーンワールドに基づいて生成されるレーンデータ、道路及び交差点の三次元の形状情報などを含む二次元の地図データ、並びに、実時間で変化する三次元位置又は三次元形状情報を含むメタデータ又は自車両検知結果のいずれか１つ以上のデータから生成される。
　なお、上述したようにＷＬＤとは、三次元の点群データであり、ＳＷＬＤは、ＷＬＤから特徴量が閾値以上である点群が抽出されることで得られたデータである。また、ＭＷＬＤは、ＷＬＤから生成されたメッシュ構造を有するデータである。レーンワールドは、ＷＬＤから、特徴量が閾値以上であり、かつ、自己位置推定、運転アシスト、又は自動運転等に必要な点群が抽出されることで得られたデータである。
　ここで、ＭＷＬＤ及びＳＷＬＤは、ＷＬＤに比べデータ量が少ない。よって、より詳細データが必要な場合には、ＷＬＤを用い、そうでない場合にはＭＷＬＤ又はＳＷＬＤを用いることで、通信データ量、及び処理量を適切に削減できる。また、レーンワールドは、ＳＷＬＤに比べデータ量が少ない。よって、レーンワールドを用いることで、通信データ量、及び処理量をさらに削減できる。
　また、上記では二次元周辺情報と三次元周辺情報とを切り替える例を述べたが、表示装置は、上記の条件に基づき、三次元周辺情報の生成に使用するデータの種別（ＷＬＤ、ＳＷＬＤ等）を切り替えてもよい。つまり、上記説明において、表示装置は、三次元周辺情報を表示するケースでは、よりデータ量の多い第１データ（例えばＷＬＤ又はＳＷＬＤ）から生成された三次元周辺情報を表示し、二次元周辺情報を表示するケースでは、二次元周辺情報の代わりに上記第１データよりデータ量の少ない第２データ（例えばＳＷＬＤ又はレーンワールド）から生成された三次元周辺情報を表示してもよい。
　また、表示装置は、二次元周辺情報又は三次元周辺情報を、例えば、自車に搭載された二次元ディスプレイ、ヘッドアップディスプレイ、又はヘッドマウントディスプレイに表示する。または、表示装置は、無線通信によりスマートフォンのようなモバイル端末に二次元周辺情報又は三次元周辺情報を転送し表示してもよい。つまり、表示装置は、移動体に搭載されるものに限らず、移動体と連携し、動作するものであればよい。例えば、スマートフォン等の表示装置を所持するユーザが移動体に搭乗した場合、又は移動体を運転する場合に、移動体の自己位置推定に基づく移動体の位置などの移動体の情報が表示装置に表示される、又は、これらの情報が周辺情報と共に表示装置に表示される。
　また、表示装置は、三次元マップを表示する際は、三次元マップをレンダリングし二次元データとして表示しても、三次元ディスプレイ又は三次元ホログラムを利用して三次元データとして表示してもよい。
　次に、三次元マップの保存方法について説明する。車又はロボット等の移動体は、車の自動運転又はロボットの自律移動のために、サーバ又は他車との通信により得られる三次元マップ、及び自車に搭載したセンサから得られる二次元映像、或いは自車検知三次元データを活用する。これらのデータのうちユーザが視聴又は保存したいデータは状況により異なると考えられる。以下では状況に応じたデータの保存方法について説明する。
　保存装置は、車又はロボット等の移動体に搭載される。なお、以下では、移動体が車両（自動車）である例を説明する。また、保存装置は、上述した表示装置に含まれてもよい。
　第１の例では、保存装置は、地域に基づき三次元マップを保存するか否かを決定する。ここで、三次元マップを自車の記憶媒体に保存することにより、保存した空間内ではサーバとの通信なしで自動運転が可能になる。しかし記憶容量に限界があるため限られたデータしか保存できない。そのため、保存装置は、以下に示すように保存する地域を限定する。
　例えば、保存装置は、通勤経路、又は自宅周辺など頻繁に通過する地域の三次元マップを優先的に保存する。これにより、頻繁に利用する地域のデータをその都度取得する必要がなくなるので、通信データ量を効果的に削減できる。なお、優先的に保存するとは、予め定められた記憶容量内により優先度の高いデータを保存することである。例えば、記憶容量内に新たなデータを保存できない場合には、当該新たなデータより優先度の低いデータが削除される。
　または、保存装置は、通信環境が悪い地域の三次元マップを優先的に保存する。これにより、通信環境が悪い地域において、通信によりデータを取得する必要がなくなるので、通信不良により三次元マップを取得できないケースの発生を抑制できる。
　または、保存装置は、交通量の多い地域の三次元マップを優先的に保存する。これにより、事故の発生が多い地域の三次元マップを優先的に保存できる。よって、このような地域において、通信不良により三次元マップが取得できず、自動運転又は運転支援の精度が低下することを抑制できる。
　または、保存装置は、交通量の少ない地域の三次元マップを優先的に保存する。ここで、交通量の少ない地域では、前走車を自動追従する自動運転モードが使用できない可能性が高くなる。これにより、より詳細な周辺情報が必要になるケースがある。よって、交通量の少ない地域の三次元マップを優先的に保存することで、このような地域における自動運転又は運転支援の精度を向上できる。
　なお、上記の複数の保存方法を組み合わせてもよい。また、これらの三次元マップを優先的に保存する地域はシステムにより自動的に決定されてもよいし、ユーザにより指定されてもよい。
　また、保存装置は、保存した後に所定期間が過ぎた三次元マップを削除してもよいし、最新のデータに更新してもよい。これにより、古い地図データが利用されないようにできる。また、保存装置は、地図データを更新する際は、古い地図と新しい地図とを比較することで、差分がある空間領域である差分領域を検出し、古い地図に、新しい地図の差分領域のデータを加える、又は古い地図から差分領域のデータを取り除くことにより、変化があった領域のデータのみを更新してもよい。
　また、この例では、保存された三次元マップは自動運転に利用される。よって、この三次元マップとしてＳＷＬＤを用いることで、通信データ量等を削減できる。なお、三次元マップはＳＷＬＤに限らず、ＷＬＤ等の他の種別のデータであってもよい。
　第２の例では、保存装置は、イベントに基づき三次元マップを保存する。
　例えば、保存装置は、走行中に遭遇する特別なイベントを三次元マップとして保存する。これにより、ユーザは、後にイベントの詳細を視聴することなどが可能になる。以下に三次元マップとして保存するイベント例を示す。なお、保存装置は、三次元マップから生成された三次元周辺情報を保存してもよい。
　例えば、保存装置は、衝突事故の前後、又は危険察知時などに三次元マップを保存する。
　または、保存装置は、きれいな景色、人だかりの多い場所、又は観光地など、特徴的なシーンの三次元マップを保存する。
　これら保存するイベントはシステムにより自動的に決定されてもよいし、ユーザが事前に指定してもよい。例えば、これらのイベントを判定する方法として、機械学習が用いられてもよい。
　また、この例では、保存された三次元マップは視聴に利用される。よって、この三次元マップとしてＷＬＤを用いることで、高画質な映像を提供できる。なお、三次元マップはＷＬＤに限らず、ＳＷＬＤ等の他の種別のデータであってもよい。
　以下、表示装置が、ユーザに応じて表示を制御する方法について説明する。表示装置が、車車間通信で得られる周辺状況検知結果を地図に重畳し表示する際には、周辺車両をワイヤーフレームで表現する、又は周辺車両に透明度を付与して表現するなどして、周辺車両の奥にある検知物体を見えるようにする。あるいは、表示装置は、上空からの視点の映像表示し、自車、周辺車両及び周辺状況検知結果を俯瞰的に見えるようにしてもよい。
　図４２に示すようなフロントガラス越しに見える周辺環境に、ヘッドアップディスプレイを用いて周辺状況検知結果又は点群データを重畳する場合、ユーザの姿勢、体型又は目の位置の違いにより情報を重畳する位置がずれる可能性がある。図４３は、位置がずれている場合のヘッドアップディスプレイの表示例を示す図である。
　このようなズレを補正するため、表示装置は、車内カメラ又は座席シートに搭載されたセンサ情報を利用しユーザの姿勢、体型又は目の位置を検出する。表示装置は、検知したユーザの姿勢、体型又は目の位置に応じて情報を重畳する位置を調整する。図４４は、調整後のヘッドアップディスプレイの表示例を示す図である。
　なお、このような重畳位置の調整を、車に搭載された制御装置を用いてユーザが手動で行ってもよい。
　また、表示装置は、災害時に安全な場所を地図上に示し、ユーザに提示してもよい。あるいは、車両は、災害内容及び安全な場所へ行く旨をユーザに伝え、安全な場所まで自動運転を行ってもよい。
　例えば、車両は、地震発生時には津波に巻き込まれないよう海抜高度が高い地域を目的に設定する。この際、車両は、サーバとの通信により地震により通行困難となった道路情報を獲得し、その道路を避けるルートをとるなど災害内容に応じた処理を行ってもよい。
　また、自動運転には移動モード、及びドライブモードなど複数のモードが含まれてもよい。
　移動モードでは、車両は、到着時間の早さ、料金の安さ、走行距離の短さ、及び消費エネルギーの低さなどを考慮し、目的地までのルートを決定し、決定したルートに従い自動運転を行う。
　ドライブモードでは、車両は、ユーザが指定した時間に目的地に着くよう自動的にルートを決定する。例えば、ユーザが目的地と到着時間を設定すると、車両は、周辺観光地をめぐり、設定時間に目的地に到着できるようなルートを決定し、決定したルートに従い自動運転を行う。
　以上、本開示の実施の形態に係る三次元データ作成装置及び表示装置について説明したが、本開示は、この実施の形態に限定されるものではない。
　また、上記実施の形態に係る三次元データ作成装置又は表示装置に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
　また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ　Ｐｒｏｇｒａｍｍａｂｌｅ　Ｇａｔｅ　Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
　また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
　また、本開示は、三次元データ作成装置又は表示装置により実行される三次元データ作成方法又は表示方法として実現されてもよい。
　また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
　また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
　以上、一つまたは複数の態様に係る三次元データ作成装置及び表示装置について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
　本開示は、表示装置に適用できる。
　１００、４００　三次元データ符号化装置
　１０１、２０１、４０１、５０１　取得部
　１０２、４０２　符号化領域決定部
　１０３　分割部
　１０４、６４４　符号化部
　１１１、６０７　三次元データ
　１１２、２１１、４１３、４１４、５１１、６３４　符号化三次元データ
　２００、５００　三次元データ復号装置
　２０２　復号開始ＧＯＳ決定部
　２０３　復号ＳＰＣ決定部
　２０４、６２５　復号部
　２１２、５１２、５１３　復号三次元データ
　４０３　ＳＷＬＤ抽出部
　４０４　ＷＬＤ符号化部
　４０５　ＳＷＬＤ符号化部
　４１１　入力三次元データ
　４１２　抽出三次元データ
　５０２　ヘッダ解析部
　５０３　ＷＬＤ復号部
　５０４　ＳＷＬＤ復号部
　６００　自車両
　６０１　周辺車両
　６０２、６０５　センサ検知範囲
　６０３、６０６　領域
　６０４　オクルージョン領域
　６２０、６２０Ａ　三次元データ作成装置
　６２１、６４１　三次元データ作成部
　６２２　要求範囲決定部
　６２３　探索部
　６２４、６４２　受信部
　６２６　合成部
　６２７　検知領域決定部
　６２８　周辺状況検知部
　６２９　自律動作制御部
　６３１、６５１　センサ情報
　６３２　第１三次元データ
　６３３　要求範囲情報
　６３５　第２三次元データ
　６３６　第３三次元データ
　６３７　依頼信号
　６３８　送信データ
　６３９　周辺状況検知結果
　６４０、６４０Ａ　三次元データ送信装置
　６４３　抽出部
　６４５　送信部
　６４６　伝送可否判定部
　６５２　第５三次元データ
　６５４　第６三次元データ
　７００　三次元情報処理装置
　７０１　三次元マップ取得部
　７０２　自車検知データ取得部
　７０３　異常ケース判定部
　７０４　対処動作決定部
　７０５　動作制御部
　７１１　三次元マップ
　７１２　自車検知三次元データ
　８０１　車両
　８０２　空間
　８１０　三次元データ作成装置
　８１１　データ受信部
　８１２、８１９　通信部
　８１３　受信制御部
　８１４、８２１　フォーマット変換部
　８１５　センサ
　８１６　三次元データ作成部
　８１７　三次元データ合成部
　８１８　三次元データ蓄積部
　８２０　送信制御部
　８２２　データ送信部
　８３１、８３２、８３４、８３５、８３６、８３７　三次元データ
　８３３　センサ情報

Claims (9)

  1. 　移動体と連携し、動作する表示装置における表示方法であって、
    　前記移動体の周辺状況を示す情報であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す情報であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定ステップと、
    　表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示ステップとを含む
    　表示方法。
  2. 　前記運転状況は、前記移動体が自律移動中であるか、手動運転中であるかであり、
    　前記決定ステップでは、前記移動体が自律移動中である場合、前記第１周辺情報を表示すると決定し、前記移動体が手動運転中である場合、前記第２周辺情報を表示すると決定する
    　請求項１に記載の表示方法。
  3. 　前記運転状況は、前記移動体が位置する領域である
    　請求項１に記載の表示方法。 
  4. 　前記三次元データは、三次元の点群データから、特徴量が閾値以上である点群が抽出されることで得られたデータである
    　請求項１～３のいずれか１項に記載の表示方法。
  5. 　前記三次元データは、三次元の点群データから生成されたメッシュ構造を有するデータである
    　請求項１～３のいずれか１項に記載の表示方法。
  6. 　前記三次元データは、三次元の点群データから、特徴量が閾値以上であり、かつ、自己位置推定、運転アシスト、又は自動運転に必要な点群が抽出されることで得られたデータである
    　請求項１～３のいずれか１項に記載の表示方法。
  7. 　前記三次元データは、三次元の点群データである
    　請求項１～３のいずれか１項に記載の表示方法。
  8. 　前記表示ステップでは、ヘッドアップディスプレイに前記第２周辺情報を表示し、
    　前記表示方法は、さらに、
    　前記移動体に搭乗するユーザの姿勢、体型又は目の位置に応じて前記第２周辺情報の表示位置を調整する
    　請求項１～７のいずれか１項に記載の表示方法。 
  9. 　移動体と連携し、動作する表示装置であって、
    　前記移動体の周辺状況を示す映像であり、二次元データを用いて生成された第１周辺情報と、前記移動体の周辺状況を示す映像であり、三次元データを用いて生成された第２周辺情報とのいずれを表示するかを、前記移動体の運転状況に基づき決定する決定部と、
    　表示すると決定された前記第１周辺情報又は前記第２周辺情報を表示する表示部とを含む
    　表示装置。
PCT/JP2017/037929 2016-11-01 2017-10-20 表示方法及び表示装置 WO2018083999A1 (ja)

Priority Applications (12)

Application Number Priority Date Filing Date Title
CN201780065479.9A CN109906608B (zh) 2016-11-01 2017-10-20 显示方法以及显示装置
EP22161381.3A EP4035943B1 (en) 2016-11-01 2017-10-20 Display method and display device
EP23184033.1A EP4253153A3 (en) 2016-11-01 2017-10-20 Display method and display device
CN202110191126.1A CN113008263B (zh) 2016-11-01 2017-10-20 数据生成方法及数据生成装置
JP2018548624A JP7061964B2 (ja) 2016-11-01 2017-10-20 データ生成方法及びデータ生成装置
EP20197098.5A EP3778305B1 (en) 2016-11-01 2017-10-20 Display method and display device
EP17868462.7A EP3536556B1 (en) 2016-11-01 2017-10-20 Display method and display device
US16/391,884 US10719984B2 (en) 2016-11-01 2019-04-23 Display method and display device for providing surrounding information based on driving condition
US16/860,741 US11238648B2 (en) 2016-11-01 2020-04-28 Display method and display device for providing surrounding information based on driving condition
US17/554,482 US11748947B2 (en) 2016-11-01 2021-12-17 Display method and display device for providing surrounding information based on driving condition
JP2022068672A JP7311670B2 (ja) 2016-11-01 2022-04-19 表示方法、表示装置及びプログラム
US18/220,429 US20230351688A1 (en) 2016-11-01 2023-07-11 Display method and display device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662415645P 2016-11-01 2016-11-01
US62/415645 2016-11-01

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/391,884 Continuation US10719984B2 (en) 2016-11-01 2019-04-23 Display method and display device for providing surrounding information based on driving condition

Publications (1)

Publication Number Publication Date
WO2018083999A1 true WO2018083999A1 (ja) 2018-05-11

Family

ID=62075657

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/037929 WO2018083999A1 (ja) 2016-11-01 2017-10-20 表示方法及び表示装置

Country Status (5)

Country Link
US (4) US10719984B2 (ja)
EP (4) EP4253153A3 (ja)
JP (2) JP7061964B2 (ja)
CN (2) CN109906608B (ja)
WO (1) WO2018083999A1 (ja)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019200160A (ja) * 2018-05-17 2019-11-21 株式会社Ｓｏｋｅｎ 自己位置推定装置
JP2019207589A (ja) * 2018-05-30 2019-12-05 パイオニア株式会社 情報出力装置
WO2020004461A1 (ja) * 2018-06-27 2020-01-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020013249A1 (ja) * 2018-07-13 2020-01-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020021859A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 電子制御装置
WO2020027317A1 (ja) * 2018-08-03 2020-02-06 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020032248A1 (ja) * 2018-08-10 2020-02-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020054739A1 (ja) * 2018-09-11 2020-03-19 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020071116A1 (ja) * 2018-10-02 2020-04-09 ソニー株式会社 画像処理装置および方法
WO2020100866A1 (ja) * 2018-11-13 2020-05-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020138353A1 (ja) * 2018-12-26 2020-07-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2020126639A (ja) * 2019-01-31 2020-08-20 株式会社ストラドビジョンＳｔｒａｄｖｉｓｉｏｎ，Ｉｎｃ． 安全な自律走行を支援する学習方法、そしてこれを利用した学習装置、テスト方法、及びテスト装置
JP2020134517A (ja) * 2019-02-14 2020-08-31 株式会社日立製作所 複数のセンサを含む自律車両の位置特定のための方法
WO2020183900A1 (ja) * 2019-03-11 2020-09-17 ソニー株式会社 情報処理装置、再生処理装置、情報処理方法及び再生処理方法
WO2020183892A1 (ja) * 2019-03-13 2020-09-17 ソニーセミコンダクタソリューションズ株式会社 情報処理装置及び情報処理方法、並びに移動体装置
JPWO2020225697A1 (ja) * 2019-05-06 2020-11-12
WO2021060524A1 (ja) * 2019-09-26 2021-04-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2021516183A (ja) * 2019-01-30 2021-07-01 バイドゥ ドットコム タイムス テクノロジー （ベイジン） カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム
EP3736768B1 (en) * 2019-05-07 2022-04-13 Alpine Electronics, Inc. Image processing apparatus, image processing system, image processing method, and program
WO2023149376A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体
WO2023149264A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体
WO2023149308A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体
WO2023149292A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 情報処理システム、制御方法、及び記憶媒体
RU2802846C2 (ru) * 2018-09-11 2023-09-05 Панасоник Интеллекчуал Проперти Корпорэйшн оф Америка Способ кодирования трехмерных данных, способ декодирования трехмерных данных, устройство кодирования трехмерных данных и устройство декодирования трехмерных данных
JP7417465B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7417466B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11043042B2 (en) * 2016-05-16 2021-06-22 Hewlett-Packard Development Company, L.P. Generating a shape profile for a 3D object
CN110832550B (zh) * 2017-07-10 2023-10-13 索尼公司 信息处理装置和方法
CN110914703A (zh) * 2017-07-31 2020-03-24 深圳市大疆创新科技有限公司 对点云中基于运动的不准确性的校正
US11403816B2 (en) * 2017-11-30 2022-08-02 Mitsubishi Electric Corporation Three-dimensional map generation system, three-dimensional map generation method, and computer readable medium
JP7110635B2 (ja) * 2018-03-19 2022-08-02 株式会社デンソー 制御装置
JP6793883B2 (ja) * 2018-06-11 2020-12-02 三菱電機株式会社 車両走行制御装置、車両走行制御方法、制御回路および記憶媒体
US10823855B2 (en) * 2018-11-19 2020-11-03 Fca Us Llc Traffic recognition and adaptive ground removal based on LIDAR point cloud statistics
WO2020180703A1 (en) * 2019-03-01 2020-09-10 Stats Llc System and method for multi-task learning
JP7363118B2 (ja) * 2019-06-14 2023-10-18 マツダ株式会社 外部環境認識装置
US20200408533A1 (en) * 2019-06-28 2020-12-31 DeepMap Inc. Deep learning-based detection of ground features using a high definition map
US10771272B1 (en) * 2019-11-01 2020-09-08 Microsoft Technology Licensing, Llc Throttling and prioritization for multichannel audio and/or multiple data streams for conferencing
KR20220140850A (ko) * 2020-02-20 2022-10-18 톰톰 글로벌 콘텐트 비.브이. 지도 변경 데이터의 사용
JPWO2021200004A1 (ja) * 2020-04-01 2021-10-07
US11479268B2 (en) * 2020-07-30 2022-10-25 Toyota Motor Engineering & Manufacturing North America, Inc. Autonomous control of vehicle driving modes in certain traffic situations
US11953602B2 (en) * 2020-11-18 2024-04-09 GM Global Technology Operations LLC Detecting three-dimensional structure models at runtime in vehicles

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11337360A (ja) * 1998-05-27 1999-12-10 Fujitsu Ten Ltd 経路案内装置
JP2000161975A (ja) * 1998-11-27 2000-06-16 Fujitsu Ten Ltd ナビゲーションシステム及び地図記録媒体
JP2005292064A (ja) * 2004-04-05 2005-10-20 Sony Corp ナビゲーション装置、およびデータ処理方法、並びにコンピュータ・プログラム
WO2008099915A1 (ja) * 2007-02-16 2008-08-21 Mitsubishi Electric Corporation 道路地物計測装置、地物識別装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法、計測プログラム、計測位置データ、計測端末装置、計測サーバ装置、作図装置、作図方法、作図プログラムおよび作図データ
JP2011244465A (ja) * 2011-06-29 2011-12-01 Mitsubishi Electric Corp 画像表示システム
JP2012018170A (ja) * 2008-08-29 2012-01-26 Mitsubishi Electric Corp 俯瞰画像生成装置、地図データ生成システム、俯瞰画像生成装置の俯瞰画像生成方法および俯瞰画像生成プログラム

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60157963A (ja) * 1984-01-30 1985-08-19 Nippon Denso Co Ltd ステアリングホイ−ル位置自動調整装置
DE69628091T2 (de) 1995-06-13 2004-04-01 Matsushita Electric Industrial Co., Ltd., Kadoma Fahrzeugnavigationsvorrichtung und Aufzeichnungsmedium zur Programmabspeicherung dafür
US6373472B1 (en) * 1995-10-13 2002-04-16 Silviu Palalau Driver control interface system
JP3568357B2 (ja) * 1997-05-02 2004-09-22 パイオニア株式会社 ナビゲーション装置における地図情報表示装置及び地図情報表示方法並びにナビゲーション装置における地図情報表示制御プログラムが記録されたコンピュータ読み取り可能な記録媒体
JP2003061075A (ja) * 2001-08-09 2003-02-28 Matsushita Electric Ind Co Ltd 物体追跡装置、物体追跡方法および侵入者監視システム
DE102004037900A1 (de) * 2004-08-05 2006-03-16 Robert Bosch Gmbh Verfahren zur Darstellung von Navigationshinweisen
DE102004062122B3 (de) * 2004-12-23 2005-12-22 Atlas Elektronik Gmbh Verfahren zum Detektieren und Neutralisieren von Unterwasserobjekten
JP4598653B2 (ja) * 2005-05-13 2010-12-15 本田技研工業株式会社 衝突予知装置
AU2006304838B2 (en) * 2005-10-21 2011-07-28 Deere & Company Systems and methods for obstacle avoidance
JP4333704B2 (ja) * 2006-06-30 2009-09-16 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置
JP2008039642A (ja) * 2006-08-08 2008-02-21 Denso Corp ナビゲーション装置、画像生成方法及び画像生成プログラム
US7869943B1 (en) * 2007-12-21 2011-01-11 Honeywell International Inc. Flight management systems and methods for use with an aerial vehicle
JP5227065B2 (ja) * 2008-01-25 2013-07-03 株式会社岩根研究所 三次元機械地図、三次元機械地図生成装置、ナビゲーション装置及び自動運転装置
US8577154B2 (en) * 2008-06-16 2013-11-05 University Of Southern California Automated single viewpoint human action recognition by matching linked sequences of key poses
KR100955483B1 (ko) * 2008-08-12 2010-04-30 삼성전자주식회사 3차원 격자 지도 작성 방법 및 이를 이용한 자동 주행 장치의 제어 방법
WO2010032058A1 (en) * 2008-09-19 2010-03-25 Mbda Uk Limited Method and apparatus for displaying stereographic images of a region
JP2011073466A (ja) 2009-09-29 2011-04-14 Nippon Seiki Co Ltd 車両用表示装置
US9390544B2 (en) * 2009-10-20 2016-07-12 Robert Bosch Gmbh 3D navigation methods using nonphotorealistic (NPR) 3D maps
JP2011203643A (ja) 2010-03-26 2011-10-13 Nippon Seiki Co Ltd 車両用ヘッドアップディスプレイ装置
US8199977B2 (en) * 2010-05-07 2012-06-12 Honeywell International Inc. System and method for extraction of features from a 3-D point cloud
TW201237451A (en) * 2011-03-04 2012-09-16 Hon Hai Prec Ind Co Ltd Positioning and navigating device
US8565958B1 (en) * 2011-06-02 2013-10-22 Google Inc. Removing extraneous objects from maps
CN102393967B (zh) * 2011-06-27 2013-04-17 中国科学院软件研究所 基于虚拟驾驶的线形要素矢量化作业方法
US8736463B1 (en) * 2012-01-30 2014-05-27 Google Inc. Object bounding box estimation
KR101841668B1 (ko) * 2012-02-15 2018-03-27 한국전자통신연구원 입체 모델 생성 장치 및 방법
DE112012006746T5 (de) 2012-07-30 2015-05-21 Mitsubishi Electric Corporation Kartenanzeigevorrichtung
US9052721B1 (en) * 2012-08-28 2015-06-09 Google Inc. Method for correcting alignment of vehicle mounted laser scans with an elevation map for obstacle detection
US8473144B1 (en) * 2012-10-30 2013-06-25 Google Inc. Controlling vehicle lateral lane positioning
US8676431B1 (en) 2013-03-12 2014-03-18 Google Inc. User interface for displaying object-based indications in an autonomous driving system
US9098773B2 (en) * 2013-06-27 2015-08-04 Chevron U.S.A. Inc. System and method of detecting objects in scene point cloud
JP6206142B2 (ja) * 2013-12-03 2017-10-04 日産自動車株式会社 情報表示装置
US9412040B2 (en) * 2013-12-04 2016-08-09 Mitsubishi Electric Research Laboratories, Inc. Method for extracting planes from 3D point cloud sensor data
CN103942085B (zh) * 2013-12-31 2017-06-23 中国人民解放军空军航空大学军事仿真技术研究所 一种舰载直升机飞行模拟器的着舰仿真方法
US9819925B2 (en) * 2014-04-18 2017-11-14 Cnh Industrial America Llc Stereo vision for sensing vehicles operating environment
JP6304628B2 (ja) * 2014-05-12 2018-04-04 パナソニックＩｐマネジメント株式会社 表示装置および表示方法
GB201409625D0 (en) * 2014-05-30 2014-07-16 Isis Innovation Vehicle localisation
DE102014214667A1 (de) * 2014-07-25 2016-01-28 Bayerische Motoren Werke Aktiengesellschaft Anzeigen von dynamischen sicherheitsrelevanten dreidimensionalen Inhalten auf einer Anzeigeeinrichtung
US10410531B2 (en) * 2014-11-05 2019-09-10 Sierra Nevada Corporation Systems and methods for generating improved environmental displays for vehicles
US9588340B2 (en) * 2015-03-03 2017-03-07 Honda Motor Co., Ltd. Pedestrian intersection alert system and method thereof
US9715016B2 (en) * 2015-03-11 2017-07-25 The Boeing Company Real time multi dimensional image fusing
US9285805B1 (en) * 2015-07-02 2016-03-15 Geodigital International Inc. Attributed roadway trajectories for self-driving vehicles
US11283877B2 (en) 2015-11-04 2022-03-22 Zoox, Inc. Software application and logic to modify configuration of an autonomous vehicle
GB2564764B (en) 2015-11-13 2021-11-10 Flir Systems Sonar sensor fusion and model based virtual and augmented reality systems and methods
CN105571588A (zh) * 2016-03-10 2016-05-11 赛度科技（北京）有限责任公司 一种无人机三维空中航路地图构建及其航路显示方法
US20170357414A1 (en) * 2016-06-12 2017-12-14 Apple Inc. Map Application with Novel Search, Browsing and Planning Tools
US10970553B2 (en) 2017-11-15 2021-04-06 Uatc, Llc Semantic segmentation of three-dimensional data

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11337360A (ja) * 1998-05-27 1999-12-10 Fujitsu Ten Ltd 経路案内装置
JP2000161975A (ja) * 1998-11-27 2000-06-16 Fujitsu Ten Ltd ナビゲーションシステム及び地図記録媒体
JP2005292064A (ja) * 2004-04-05 2005-10-20 Sony Corp ナビゲーション装置、およびデータ処理方法、並びにコンピュータ・プログラム
WO2008099915A1 (ja) * 2007-02-16 2008-08-21 Mitsubishi Electric Corporation 道路地物計測装置、地物識別装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法、計測プログラム、計測位置データ、計測端末装置、計測サーバ装置、作図装置、作図方法、作図プログラムおよび作図データ
JP2012018170A (ja) * 2008-08-29 2012-01-26 Mitsubishi Electric Corp 俯瞰画像生成装置、地図データ生成システム、俯瞰画像生成装置の俯瞰画像生成方法および俯瞰画像生成プログラム
JP2011244465A (ja) * 2011-06-29 2011-12-01 Mitsubishi Electric Corp 画像表示システム

Cited By (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019200160A (ja) * 2018-05-17 2019-11-21 株式会社Ｓｏｋｅｎ 自己位置推定装置
JP2019207589A (ja) * 2018-05-30 2019-12-05 パイオニア株式会社 情報出力装置
JP7171240B2 (ja) 2018-05-30 2022-11-15 パイオニア株式会社 情報出力装置
WO2020004461A1 (ja) * 2018-06-27 2020-01-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020013249A1 (ja) * 2018-07-13 2020-01-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7374089B2 (ja) 2018-07-13 2023-11-06 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JPWO2020013249A1 (ja) * 2018-07-13 2021-07-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020021859A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 電子制御装置
JP2020015482A (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 電子制御装置
JP7436364B2 (ja) 2018-08-03 2024-02-21 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020027317A1 (ja) * 2018-08-03 2020-02-06 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020032248A1 (ja) * 2018-08-10 2020-02-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US11558642B2 (en) 2018-08-10 2023-01-17 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
US11750840B2 (en) 2018-08-10 2023-09-05 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
JP7469228B2 (ja) 2018-09-11 2024-04-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US11553181B2 (en) 2018-09-11 2023-01-10 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
RU2802846C2 (ru) * 2018-09-11 2023-09-05 Панасоник Интеллекчуал Проперти Корпорэйшн оф Америка Способ кодирования трехмерных данных, способ декодирования трехмерных данных, устройство кодирования трехмерных данных и устройство декодирования трехмерных данных
WO2020054739A1 (ja) * 2018-09-11 2020-03-19 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020071116A1 (ja) * 2018-10-02 2020-04-09 ソニー株式会社 画像処理装置および方法
JP7415937B2 (ja) 2018-10-02 2024-01-17 ソニーグループ株式会社 画像処理装置および方法
CN112789658A (zh) * 2018-10-02 2021-05-11 索尼公司 图像处理装置和方法
WO2020100866A1 (ja) * 2018-11-13 2020-05-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7441798B2 (ja) 2018-12-26 2024-03-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020138353A1 (ja) * 2018-12-26 2020-07-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
RU2815741C2 (ru) * 2018-12-26 2024-03-21 Панасоник Интеллекчуал Проперти Корпорэйшн оф Америка Способ кодирования трехмерных данных, способ декодирования трехмерных данных, устройство кодирования трехмерных данных и устройство декодирования трехмерных данных
JP7029479B2 (ja) 2019-01-30 2022-03-03 バイドゥ ドットコム タイムス テクノロジー （ベイジン） カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム
JP2021516183A (ja) * 2019-01-30 2021-07-01 バイドゥ ドットコム タイムス テクノロジー （ベイジン） カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム
JP2020126639A (ja) * 2019-01-31 2020-08-20 株式会社ストラドビジョンＳｔｒａｄｖｉｓｉｏｎ，Ｉｎｃ． 安全な自律走行を支援する学習方法、そしてこれを利用した学習装置、テスト方法、及びテスト装置
JP2020134517A (ja) * 2019-02-14 2020-08-31 株式会社日立製作所 複数のセンサを含む自律車両の位置特定のための方法
CN113545099A (zh) * 2019-03-11 2021-10-22 索尼集团公司 信息处理设备、再现处理设备、信息处理方法和再现处理方法
US11871065B2 (en) 2019-03-11 2024-01-09 Sony Group Corporation Information processing apparatus, reproduction processing apparatus, information processing method, and reproduction processing method
WO2020183900A1 (ja) * 2019-03-11 2020-09-17 ソニー株式会社 情報処理装置、再生処理装置、情報処理方法及び再生処理方法
JP7287454B2 (ja) 2019-03-11 2023-06-06 ソニーグループ株式会社 情報処理装置、再生処理装置、情報処理方法及び再生処理方法
EP3941079A4 (en) * 2019-03-11 2022-05-04 Sony Group Corporation INFORMATION PROCESSING DEVICE, REGENERATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND REGENERATION METHOD
JPWO2020183900A1 (ja) * 2019-03-11 2020-09-17
US11965754B2 (en) 2019-03-13 2024-04-23 Sony Semiconductor Solutions Corporation Information processing apparatus, information processing method, and mobile body apparatus
WO2020183892A1 (ja) * 2019-03-13 2020-09-17 ソニーセミコンダクタソリューションズ株式会社 情報処理装置及び情報処理方法、並びに移動体装置
JPWO2020225697A1 (ja) * 2019-05-06 2020-11-12
JP7419359B2 (ja) 2019-05-06 2024-01-22 ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング 異常診断装置
EP3736768B1 (en) * 2019-05-07 2022-04-13 Alpine Electronics, Inc. Image processing apparatus, image processing system, image processing method, and program
WO2021060524A1 (ja) * 2019-09-26 2021-04-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7417465B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7417466B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
WO2023149376A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体
WO2023149292A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 情報処理システム、制御方法、及び記憶媒体
WO2023149308A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体
WO2023149264A1 (ja) * 2022-02-01 2023-08-10 キヤノン株式会社 制御システム、制御方法、及び記憶媒体

Also Published As

Publication number Publication date
EP3778305B1 (en) 2022-03-30
JPWO2018083999A1 (ja) 2019-09-19
EP3536556A4 (en) 2019-09-11
US11748947B2 (en) 2023-09-05
CN109906608B (zh) 2021-03-12
EP4253153A3 (en) 2024-01-10
EP3536556A1 (en) 2019-09-11
US20200258298A1 (en) 2020-08-13
CN113008263A (zh) 2021-06-22
CN109906608A (zh) 2019-06-18
US10719984B2 (en) 2020-07-21
EP4253153A2 (en) 2023-10-04
JP2022105503A (ja) 2022-07-14
EP4035943B1 (en) 2023-08-30
EP3536556B1 (en) 2020-09-23
US11238648B2 (en) 2022-02-01
US20230351688A1 (en) 2023-11-02
JP7311670B2 (ja) 2023-07-19
US20190251743A1 (en) 2019-08-15
EP4035943A1 (en) 2022-08-03
EP3778305A1 (en) 2021-02-17
CN113008263B (zh) 2024-04-30
JP7061964B2 (ja) 2022-05-02
US20220108523A1 (en) 2022-04-07

Similar Documents

Publication Publication Date Title
JP7311670B2 (ja) 表示方法、表示装置及びプログラム
JP7253024B2 (ja) 方法及び三次元データ作成装置
CN111148967B (zh) 三维数据制作方法、客户端装置以及服务器
JP7402695B2 (ja) 情報送信方法及びクライアント装置
WO2018038131A1 (ja) 三次元情報処理方法及び三次元情報処理装置
WO2018016168A1 (ja) 三次元データ作成方法、三次元データ送信方法、三次元データ作成装置及び三次元データ送信装置

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2018548624

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017868462

Country of ref document: EP

Effective date: 20190603