JP7307259B2 - 三次元情報処理方法及び三次元情報処理装置 - Google Patents

三次元情報処理方法及び三次元情報処理装置 Download PDF

Info

Publication number
JP7307259B2
JP7307259B2 JP2022202160A JP2022202160A JP7307259B2 JP 7307259 B2 JP7307259 B2 JP 7307259B2 JP 2022202160 A JP2022202160 A JP 2022202160A JP 2022202160 A JP2022202160 A JP 2022202160A JP 7307259 B2 JP7307259 B2 JP 7307259B2
Authority
JP
Japan
Prior art keywords
dimensional
data
dimensional data
information
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022202160A
Other languages
English (en)
Other versions
JP2023026501A (ja
Inventor
正真 遠間
孝啓 西
敏康 杉尾
徹 松延
哲史 吉川
達也 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of JP2023026501A publication Critical patent/JP2023026501A/ja
Priority to JP2023107040A priority Critical patent/JP7489529B2/ja
Application granted granted Critical
Publication of JP7307259B2 publication Critical patent/JP7307259B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0968—Systems involving transmission of navigation instructions to the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18—Propelling the vehicle
    • B60W30/182—Selecting between different operative modes, e.g. comfort and performance modes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/0097—Predicting future conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/10—Interpretation of driver requests or demands
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3655—Timing of guidance instructions
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3667—Display of a road map
    • G01C21/367—Details, e.g. road map scale, orientation, zooming, illumination, level of detail, scrolling of road map or positioning of current position marker
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3833—Creation or updating of map data characterised by the source of data
    • G01C21/3844—Data obtained from position sensors only, e.g. from inertial navigation
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3863—Structures of map data
    • G01C21/3867—Geometry of map features, e.g. shape points, polygons or for simplified maps
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06—Systems determining position data of a target
    • G01S17/08—Systems determining position data of a target for measuring distance only
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/51—Display arrangements
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0234—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
    • G05D1/0236—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons in combination with a laser
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Geometry (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Image Processing (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本開示は、三次元情報処理方法及び三次元情報処理装置に関する。
自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。
三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある（例えば、非特許文献１を参照）。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ－４ ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。
また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｌｉｂｒａｒｙ）などによって一部サポートされている。
"Octree-Based Progressive Geometry Coding of Point Clouds", Eurographics Symposium on Point-Based Graphics (2006)
このような三次元情報を処理する三次元情報処理方法又は三次元情報処理装置では、三次元位置情報に異常が発生した場合にも適切に対応できることが望まれている。
本開示は、三次元位置情報に異常が発生した場合にも適切に対応できる三次元情報処理方法又は三次元情報処理装置を提供することを目的とする。
本開示の一態様に係る三次元情報処理方法は、三次元空間における第１の範囲を表す第１の三次元位置情報を通信路を介して取得できるかを判定し、センサで検知した情報に基づき生成された第２の三次元位置情報を取得し、前記第１の三次元位置情報を前記通信路を介して取得できると判定された場合、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の位置を推定し、前記第１の三次元位置情報を前記通信路を介して取得できないと判定された場合、（ｉ）前記第１の範囲より狭い第３の範囲を表す第３の三次元位置情報を前記通信路を介して取得し、（ｉｉ）前記第２の三次元位置情報と前記第３の三次元位置情報とを用いて前記位置を推定する。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
本開示は、三次元位置情報に異常が発生した場合にも適切に対応できる三次元情報処理方法又は三次元情報処理装置を提供できる。
図１は、実施の形態１に係る符号化三次元データの構成を示す図である。 図２は、実施の形態１に係るＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。 図３は、実施の形態１に係るレイヤ間の予測構造の一例を示す図である。 図４は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。 図５は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。 図６は、実施の形態１に係る三次元データ符号化装置のブロック図である。 図７は、実施の形態１に係る符号化処理のフローチャートである。 図８は、実施の形態１に係る三次元データ復号装置のブロック図である。 図９は、実施の形態１に係る復号処理のフローチャートである。 図１０は、実施の形態１に係るメタ情報の一例を示す図である。 図１１は、実施の形態２に係るＳＷＬＤの構成例を示す図である。 図１２は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１３は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１４は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１５は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。 図１６は、実施の形態２に係る三次元データ符号化装置のブロック図である。 図１７は、実施の形態２に係る符号化処理のフローチャートである。 図１８は、実施の形態２に係る三次元データ復号装置のブロック図である。 図１９は、実施の形態２に係る復号処理のフローチャートである。 図２０は、実施の形態２に係るＷＬＤの構成例を示す図である。 図２１は、実施の形態２に係るＷＬＤの８分木構造の例を示す図である。 図２２は、実施の形態２に係るＳＷＬＤの構成例を示す図である。 図２３は、実施の形態２に係るＳＷＬＤの８分木構造の例を示す図である。 図２４は、実施の形態３に係る車両間の三次元データの送受信の様子を示す模式図である。 図２５は、実施の形態３に係る車両間で伝送される三次元データの一例を示す図である。 図２６は、実施の形態３に係る三次元データ作成装置のブロック図である。 図２７は、実施の形態３に係る三次元データ作成処理のフローチャートである。 図２８は、実施の形態３に係る三次元データ送信装置のブロック図である。 図２９は、実施の形態３に係る三次元データ送信処理のフローチャートである。 図３０は、実施の形態３に係る三次元データ作成装置のブロック図である。 図３１は、実施の形態３に係る三次元データ作成処理のフローチャートである。 図３２は、実施の形態３に係る三次元データ送信装置のブロック図である。 図３３は、実施の形態３に係る三次元データ送信処理のフローチャートである。 図３４は、実施の形態４に係る三次元情報処理装置のブロック図である。 図３５は、実施の形態４に係る三次元情報処理方法のフローチャートである。 図３６は、実施の形態４に係る三次元情報処理方法のフローチャートである。 図３７は、映像情報処理システムの構成を示す図である。 図３８は、カメラ起動時に表示される通知画面の一例を示す図である。 図３９は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図４０は、デジタル放送用システムの全体構成図である。 図４１は、スマートフォンの一例を示す図である。 図４２は、スマートフォンの構成例を示すブロック図である。
ポイントクラウド等の符号化データを実際の装置又はサービスにおいて使用する際には、所望の空間位置又はオブジェクトなどに対するランダムアクセスが必須となるが、これまで、三次元の符号化データにおけるランダムアクセスは機能として存在せず、そのための符号化方法も存在しなかった。
本開示では、符号化三次元データにおいてランダムアクセス機能を提供できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置又は三次元データ復号装置について説明する。
本開示の一態様に係る三次元データ符号化方法は、三次元データを符号化する三次元データ符号化方法であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割ステップと、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化ステップとを含む。
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
例えば、前記三次元データ符号化方法は、前記複数の第１処理単位と、前記複数の第１処理単位の各々に対応付けられている三次元座標とを示す第１情報を生成する生成ステップを含み、前記符号化データは、前記第１情報を含んでもよい。
例えば、前記第１情報は、さらに、前記複数の第１処理単位の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示してもよい。
例えば、前記分割ステップでは、さらに、前記第１処理単位を複数の第２処理単位に分割し、前記符号化ステップでは、前記複数の第２処理単位の各々を符号化してもよい。
例えば、前記符号化ステップでは、処理対象の第１処理単位に含まれる処理対象の第２処理単位を、前記処理対象の第１処理単位に含まれる他の第２処理単位を参照して符号化してもよい。
これによれば、他の第２処理単位を参照することで符号化効率を向上できる。
例えば、前記符号化ステップでは、前記処理対象の第２処理単位のタイプとして、他の第２処理単位を参照しない第１タイプ、他の一つの第２処理単位を参照する第２タイプ、及び他の二つの第２処理単位を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い前記処理対象の第２処理単位を符号化してもよい。
例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクトの数又は粗密さに応じて、前記第１タイプを選択する頻度を変更してもよい。
これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクト又は動的オブジェクトの数又は粗密さに応じて、前記第１処理単位のサイズを決定してもよい。
これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
例えば、前記第１処理単位は、予め定められた方向に空間分割され、各々が１以上の前記第２処理単位を含む複数のレイヤを含み、前記符号化ステップでは、前記第２処理単位を、当該第２処理単位と同一レイヤ又は当該第２処理単位より下層のレイヤに含まれる前記第２処理単位を参照して符号化してもよい。
これによれば、例えば、システムにおいて重要なレイヤのランダムアクセス性を向上できるとともに、符号化効率の低下を抑制できる。
例えば、前記分割ステップでは、静的オブジェクトのみを含む第２処理単位と、動的オブジェクトのみを含む第２処理単位とを異なる第１処理単位に割り当ててもよい。
これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
例えば、前記符号化ステップでは、複数の動的オブジェクトを個別に符号化し、前記複数の動的オブジェクトの符号化データは、静的オブジェクトのみを含む第２処理単位に対応付けられてもよい。
これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
例えば、前記分割ステップでは、さらに、前記第２処理単位を複数の第３処理単位に分割し、前記符号化ステップでは、前記複数の第３処理単位の各々を符号化してもよい。
例えば、前記第３処理単位は、位置情報が対応付けられる最小単位である１以上のボクセルを含んでもよい。
例えば、前記第２処理単位は、センサで得られた情報から導出された特徴点群を含んでもよい。
例えば、前記符号化データは、前記複数の第１処理単位の符号化順を示す情報を含んでもよい。
例えば、前記符号化データは、前記複数の第１処理単位のサイズを示す情報を含んでもよい。
例えば、前記符号化ステップでは、前記複数の第１処理単位を並列に符号化してもよい。
また、本開示の一態様に係る三次元データ復号方法は、三次元データを復号する三次元データ復号方法であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号ステップを含む。
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
また、本開示の一態様に係る三次元データ符号化装置は、三次元データを符号化する三次元データ符号化装置であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割部と、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化部とを含んでもよい。
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
また、本開示の一態様に係る三次元データ復号装置は、三次元データを復号する三次元データ復号装置であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号部を含んでもよい。
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
なお、本開示は空間を分割して符号化する構成により、空間の量子化、予測等を可能とし、必ずしもランダムアクセスを行わない場合であっても有効である。
また、本開示の一態様に係る三次元データ符号化方法は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップと、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップとを含む。
これによれば、当該三次元データ符号化方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べて符号化三次元データのデータ量を削減できる。よって、当該三次元データ符号化方法は、伝送するデータ量を削減できる。
例えば、前記三次元データ符号化方法は、さらに、前記第１三次元データを符号化することで第２符号化三次元データを生成する第２符号化ステップを含んでもよい。
これによれば、当該三次元データ符号化方法は、例えば、使用用途等に応じて、第１符号化三次元データと第２符号化三次元データとを選択的に伝送できる。
例えば、前記第２三次元データは、第１符号化方法により符号化され、前記第１三次元データは、前記第１符号化方法とは異なる第２符号化方法により符号化されてもよい。
これによれば、当該三次元データ符号化方法は、第１三次元データと第２三次元データとにそれぞれ適した符号化方法を用いることができる。
例えば、前記第１符号化方法では、前記第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
これによれば、当該三次元データ符号化方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
例えば、前記第１符号化方法と前記第２符号化方法とでは、三次元位置の表現手法が異なってもよい。
これによれば、当該三次元データ符号化方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含んでもよい。
これによれば、復号装置は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
例えば、前記第１符号化ステップでは、前記第１符号化三次元データのデータ量が前記第２符号化三次元データのデータ量より小さくなるように前記第２三次元データを符号化してもよい。
これによれば、当該三次元データ符号化方法は、第１符号化三次元データのデータ量を第２符号化三次元データのデータ量より小さくできる。
例えば、前記抽出ステップでは、さらに、前記第１三次元データから予め定められた属性を有する物体に対応するデータを前記第２三次元データとして抽出してもよい。
これによれば、当該三次元データ符号化方法は、復号装置で必要となるデータを含む第１符号化三次元データを生成できる。
例えば、前記三次元データ符号化方法は、さらに、クライアントの状態に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
これによれば、当該三次元データ符号化方法は、クライアントの状態に応じて適切なデータを送信できる。
例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
例えば、前記三次元データ符号化方法は、さらに、クライアントの要求に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
これによれば、当該三次元データ符号化方法は、クライアントの要求に応じて適切なデータを送信できる。
また、本開示の一態様に係る三次元データ復号方法は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号ステップと、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号ステップとを含む。
これによれば、当該三次元データ復号方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号方法は、伝送するデータ量を削減できる。さらに、当該三次元データ復号方法は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
例えば、前記第１復号方法では、前記第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
これによれば、当該三次元データ復号方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
例えば、前記第１復号方法と前記第２復号方法とでは、三次元位置の表現手法が異なってもよい。
これによれば、当該三次元データ復号方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含み、前記識別子を参照して、前記第１符号化三次元データ及び前記第２符号化三次元データを識別してもよい。
これによれば、当該三次元データ復号方法は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
例えば、前記三次元データ復号方法は、さらに、クライアントの状態をサーバに通知する通知ステップと、前記クライアントの状態に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップとを含んでもよい。
これによれば、当該三次元データ復号方法は、クライアントの状態に応じて適切なデータを受信できる。
例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
例えば、前記三次元データ復号方法は、さらに、前記第１符号化三次元データ及び前記第２符号化三次元データの一方をサーバに要求する要求ステップと、前記要求に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップを含んでもよい。
これによれば、当該三次元データ復号方法は、用途に応じた適切なデータを受信できる。
また、本開示の一態様に係る三次元データ符号化装置は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出部と、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化部とを備える。
これによれば、当該三次元データ符号化装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べてデータ量を削減できる。よって、当該三次元データ符号化装置は、伝送するデータ量を削減できる。
また、本開示の一態様に係る三次元データ復号装置は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号部と、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号部とを備える。
これによれば、当該三次元データ復号装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号装置は、伝送するデータ量を削減できる。さらに、当該三次元データ復号装置は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
また、本開示の一態様に係る三次元データ作成方法は、センサで検知した情報から第１三次元データを作成する作成ステップと、第２三次元データが符号化された符号化三次元データを受信する受信ステップと、受信した前記符号化三次元データを復号することで前記第２三次元データを取得する復号ステップと、前記第１三次元データと前記第２三次元データとを合成することで第３三次元データを作成する合成ステップとを含む。
これによれば、当該三次元データ作成方法は、作成した第１三次元データと、受信した第２三次元データとを用いて、詳細な第３三次元データを作成できる。
例えば、前記合成ステップでは、前記第１三次元データと前記第２三次元データを合成することで、前記第１三次元データ及び前記第２三次元データよりも密度が高い第３三次元データを作成してもよい。
例えば、前記第２三次元データは、第４三次元データから特徴量が閾値以上のデータが抽出されることで生成された三次元データであってもよい。
これによれば、当該三次元データ作成方法は、伝送される三次元データのデータ量を削減できる。
例えば、前記三次元データ作成方法は、さらに、前記符号化三次元データの送信元である送信装置を探索する探索ステップを含み、前記受信ステップでは、探索された前記送信装置から前記符号化三次元データを受信してもよい。
これによれば、当該三次元データ作成方法は、例えば、必要な三次元データを所有する送信装置を探索により特定できる。
例えば、前記三次元データ作成方法は、さらに、三次元データを要求する三次元空間の範囲である要求範囲を決定する決定ステップと、前記要求範囲を示す情報を前記送信装置に送信する送信ステップとを含み、前記第２三次元データは、前記要求範囲の三次元データを含んでもよい。
これによれば、当該三次元データ作成方法は、必要な三次元データを受信できるとともに、伝送される三次元データのデータ量を削減できる。
例えば、前記決定ステップでは、前記センサで検知できないオクルージョン領域を含む空間範囲を前記要求範囲に決定してもよい。
本開示の一態様に係る三次元データ送信方法は、センサで検知した情報から第５三次元データを作成する作成ステップと、前記第５三次元データの一部を抽出することで第６三次元データを作成する抽出ステップと、前記第６三次元データを符号化することで符号化三次元データを生成する符号化ステップと、前記符号化三次元データを送信する送信ステップとを含む。
これによれば、当該三次元データ送信方法は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
例えば、前記作成ステップでは、前記センサで検知した情報から第７三次元データを作成し、前記第７三次元データから特徴量が閾値以上のデータを抽出することで前記第５三次元データを作成してもよい。
これによれば、当該三次元データ送信方法は、伝送される三次元データのデータ量を削減できる。
例えば、前記三次元データ送信方法は、さらに、受信装置から、三次元データを要求する三次元空間の範囲である要求範囲を示す情報を受信する受信ステップを含み、前記抽出ステップでは、前記第５三次元データから、前記要求範囲の三次元データを抽出することで前記第６三次元データを作成し、前記送信ステップでは、前記受信装置に前記符号化三次元データを送信してもよい。
これによれば、当該三次元データ送信方法は、伝送される三次元データのデータ量を削減できる。
また、本開示の一態様に係る三次元データ作成装置は、センサで検知した情報から第１三次元データを作成する作成部と、第２三次元データが符号化された符号化三次元データを受信する受信部と、受信した前記符号化三次元データを復号することで前記第２三次元データを取得する復号部と、前記第１三次元データと前記第２三次元データとを合成することで第３三次元データを作成する合成部とを含む。
これによれば、当該三次元データ作成装置は、作成した第１三次元データと、受信した第２三次元データとを用いて、詳細な第３三次元データを作成できる。
また、本開示の一態様に係る三次元データ送信装置は、センサで検知した情報から第５三次元データを作成する作成部と、前記第５三次元データの一部を抽出することで第６三次元データを作成する抽出部と、前記第６三次元データを符号化することで符号化三次元データを生成する符号化部と、前記符号化三次元データを送信する送信部とを含む。
これによれば、当該三次元データ送信装置は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
また、本開示の一態様に係る三次元情報処理方法は、第１の三次元位置情報を含むマップデータを通信路を介して取得する取得ステップと、センサで検知した情報から第２の三次元位置情報を生成する生成ステップと、前記第１の三次元位置情報又は前記第２の三次元位置情報に対して異常判定処理を実施することで、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する判定ステップと、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する決定ステップと、前記対処動作の実施に必要となる制御を実施する動作制御ステップとを含む。
これによれば、当該三次元情報処理方法は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
例えば、前記第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含んでもよい。
これによれば、当該三次元情報処理方法は、取得する第１の三次元位置情報のデータ量を削減できる。
例えば、前記第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータであってもよい。
これによれば、当該三次元情報処理方法は、取得する第１の三次元位置情報のデータ量を削減できる。
例えば、前記判定ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できるかどうかを判定し、前記第１の三次元位置情報を前記通信路を介して取得できない場合、前記第１の三次元位置情報が異常であると判定してもよい。
これによれば、当該三次元情報処理方法は、通信状況等に応じて、第１の三次元位置情報を取得できない場合に適切な対処動作を行える。
例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップを含み、前記判定ステップでは、前記移動体が通信状態が悪い領域に進入するかを予測し、前記動作制御ステップでは、前記移動体が通信状態が悪い領域に進入すると予測された場合、前記移動体が当該領域に侵入するまえに、前記移動体は前記第１の三次元情報を取得してもよい。
これによれば、当該三次元情報処理方法は、第１の三次元位置情報を取得できなくなる可能性がある場合に、予め第１の三次元位置情報を取得できる。
例えば、前記動作制御ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できない場合、前記第１の三次元位置情報より狭い範囲の第３の三次元位置情報を前記通信路を介して取得してもよい。
これによれば、当該三次元情報処理方法は、通信路を介して取得するデータのデータ量を削減できるので、通信状況が悪い場合でも、三次元位置情報を取得できる。
例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップを含み、前記動作制御ステップでは、前記第１の三次元位置情報を前記通信路を介して取得できない場合、二次元位置情報を含むマップデータを前記通信路を介して取得し、前記二次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行ってもよい。
これによれば、当該三次元情報処理方法は、通信路を介して取得するデータのデータ量を削減できるので、通信状況が悪い場合でも、三次元位置情報を取得できる。
例えば、前記三次元情報処理方法は、さらに、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップを含み、前記判定ステップでは、さらに、前記移動体の移動環境に基づき、前記二次元位置情報と前記第２の三次元位置情報とを用いた前記移動体の前記自己位置推定の結果を用いた前記移動体の自動運転を行うか否かを判定してもよい。
これによれば、当該三次元情報処理方法は、移動体の移動環境に応じて、自動運転を継続するか否かを判定できる。
例えば、前記三次元情報処理方法は、さらに、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップを含み、前記動作制御ステップでは、前記移動体の移動環境に基づき、前記自動運転のモードを切り替えてもよい。
これによれば、当該三次元情報処理方法は、移動体の移動環境に応じて、適切な自動運転のモードを設定できる。
例えば、前記判定ステップでは、前記第１の三次元位置情報のデータが完全であるかどうかを判定し、前記第１の三次元位置情報のデータが完全でない場合、前記第１の三次元位置情報が異常であると判定してもよい。
これによれば、当該三次元情報処理方法は、例えば、第１の三次元位置情報が破損している場合等において、適切な対処動作を行える。
例えば、前記判定ステップでは、前記第２の三次元位置情報のデータの生成精度が基準値以上であるかどうかを判定し、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記第２の三次元位置情報が異常であると判定してもよい。
これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、適切な対処動作を行える。
例えば、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記センサとは異なる代替センサで検知した情報から第４の三次元位置情報を生成してもよい。
これによれば、当該三次元情報処理方法は、例えば、センサが故障している場合等において、代替センサを用いて三次元位置情報を取得できる。
例えば、前記三次元情報処理方法は、さらに、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の自己位置推定を行う自己位置推定ステップと、前記自己位置推定の結果を用いて、前記移動体を自動運転する自動運転ステップとを含み、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記自動運転のモードを切り替えてもよい。
これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、適切な対処動作を行える。
例えば、前記動作制御ステップでは、前記第２の三次元位置情報のデータの生成精度が前記基準値以上でない場合、前記センサの動作補正を行ってもよい。
これによれば、当該三次元情報処理方法は、第２の三次元位置情報を精度が低い場合に、第２の三次元位置情報を精度を上げることができる。
また、本開示の一態様に係る三次元情報処理装置は、第１の三次元位置情報を含むマップデータを通信路を介して取得する取得部と、センサで検知した情報から第２の三次元位置情報を生成する生成部と、前記第１の三次元位置情報又は前記第２の三次元位置情報に対して異常判定処理を実施することで、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する判定部と、前記第１の三次元位置情報又は前記第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する決定部と、前記対処動作の実施に必要となる制御を実施する動作制御部とを備える。
これによれば、当該三次元情報処理装置は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
（実施の形態１）
まず、本実施の形態に係る符号化三次元データ（以下、符号化データとも記す）のデータ構造について説明する。図１は、本実施の形態に係る符号化三次元データの構成を示す図である。
本実施の形態では、三次元空間は、動画像の符号化におけるピクチャに相当するスペース（ＳＰＣ）に分割され、スペースを単位として三次元データが符号化される。スペースは、さらに、動画像符号化におけるマクロブロックなどに相当するボリューム（ＶＬＭ）に分割され、ＶＬＭを単位として予測及び変換が行われる。ボリュームは、位置座標が対応付けられる最小単位である複数のボクセル（ＶＸＬ）を含む。なお、予測とは、二次元画像で行われる予測と同様に、他の処理単位を参照し、処理対象の処理単位と類似する予測三次元データを生成し、当該予測三次元データと処理対象の処理単位との差分を符号化することである。また、この予測は、同一時刻の他の予測単位を参照する空間予測のみならず、異なる時刻の予測単位を参照する時間予測を含む。
例えば、三次元データ符号化装置（以下、符号化装置とも記す）は、ポイントクラウドなどの点群データにより表現される三次元空間を符号化する際には、ボクセルのサイズに応じて、点群の各点、又は、ボクセル内に含まれる複数点をまとめて符号化する。ボクセルを細分化すれば点群の三次元形状を高精度に表現でき、ボクセルのサイズを大きくすれば点群の三次元形状をおおまかに表現できる。
なお、以下では、三次元データがポイントクラウドである場合を例に説明を行うが、三次元データはポイントクラウドに限定されず、任意の形式の三次元データでよい。
また、階層構造のボクセルを用いてもよい。この場合、ｎ次の階層では、ｎ－１次以下の階層（ｎ次の階層の下層）にサンプル点が存在するかどうかを順に示してもよい。例えば、ｎ次の階層のみを復号する際において、ｎ－１次以下の階層にサンプル点が存在する場合は、ｎ次階層のボクセルの中心にサンプル点が存在するとみなして復号できる。
また、符号化装置は、点群データを、距離センサ、ステレオカメラ、単眼カメラ、ジャイロ、又は慣性センサなどを用いて取得する。
スペースは、動画像の符号化と同様に、単独で復号可能なイントラ・スペース（Ｉ－ＳＰＣ）、単方向の参照のみ可能なプレディクティブ・スペース（Ｐ－ＳＰＣ）、及び、双方向の参照が可能なバイディレクショナル・スペース（Ｂ－ＳＰＣ）を含む少なくとも３つの予測構造のいずれかに分類される。また、スペースは復号時刻と表示時刻との２種類の時刻情報を有する。
また、図１に示すように、複数のスペースを含む処理単位として、ランダムアクセス単位であるＧＯＳ（Ｇｒｏｕｐ Ｏｆ Ｓｐａｃｅ）が存在する。さらに、複数のＧＯＳを含む処理単位としてワールド（ＷＬＤ）が存在する。
ワールドが占める空間領域は、ＧＰＳ又は緯度及び経度情報などにより、地球上の絶対位置と対応付けられる。この位置情報はメタ情報として格納される。なお、メタ情報は、符号化データに含まれてもよいし、符号化データとは別に伝送されてもよい。
また、ＧＯＳ内では、全てのＳＰＣが三次元的に隣接してもよいし、他のＳＰＣと三次元的に隣接しないＳＰＣが存在してもよい。
なお、以下では、ＧＯＳ、ＳＰＣ又はＶＬＭ等の処理単位に含まれる三次元データに対する、符号化、復号又は参照等の処理を、単に、処理単位を符号化、復号又は参照する等とも記す。また、処理単位に含まれる三次元データは、例えば、三次元座標等の空間位置と、色情報等の特性値との少なくとも一つの組を含む。
次に、ＧＯＳにおけるＳＰＣの予測構造について説明する。同一ＧＯＳ内の複数のＳＰＣ、又は、同一ＳＰＣ内の複数のＶＬＭは、互いに異なる空間を占めるが、同じ時刻情報（復号時刻及び表示時刻）を持つ。
また、ＧＯＳ内で復号順で先頭となるＳＰＣはＩ－ＳＰＣである。また、ＧＯＳにはクローズドＧＯＳとオープンＧＯＳとの２種類が存在する。クローズドＧＯＳは、先頭Ｉ－ＳＰＣから復号開始する際に、ＧＯＳ内の全てのＳＰＣを復号できるＧＯＳである。オープンＧＯＳでは、ＧＯＳ内で先頭Ｉ－ＳＰＣよりも表示時刻が前となる一部のＳＰＣは異なるＧＯＳを参照しており、当該ＧＯＳのみで復号を行うことができない。
なお、地図情報などの符号化データでは、ＷＬＤを符号化順とは逆方向から復号することがあり、ＧＯＳ間に依存性があると逆方向再生が困難である。よって、このような場合には、基本的にはクローズドＧＯＳが用いられる。
また、ＧＯＳは、高さ方向にレイヤ構造を有し、下のレイヤのＳＰＣから順に符号化又は復号が行われる。
図２はＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。図３はレイヤ間の予測構造の一例を示す図である。
ＧＯＳ内には１つ以上のＩ－ＳＰＣが存在する。三次元空間内には、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などのオブジェクトが存在するが、特にサイズが小さいオブジェクトはＩ－ＳＰＣとして符号化すると有効である。例えば、三次元データ復号装置（以下、復号装置とも記す）は、ＧＯＳを低処理量又は高速に復号する際には、ＧＯＳ内のＩ－ＳＰＣのみを復号する。
また、符号化装置は、ＷＬＤ内のオブジェクトの粗密さに応じてＩ－ＳＰＣの符号化間隔又は出現頻度を切替えてもよい。
また、図３に示す構成において、符号化装置又は復号装置は、複数のレイヤを下層（レイヤ１）から順に符号化又は復号する。これにより、例えば自動走行車などにとってより情報量の多い地面付近のデータの優先度を上げることができる。
なお、ドローンなどで用いられる符号化データでは、ＧＯＳ内において高さ方向で上のレイヤのＳＰＣから順に符号化又は復号してもよい。
また、符号化装置又は復号装置は、復号装置が荒くＧＯＳを把握でき、徐々に解像度を上げるようにできるように、複数のレイヤを符号化又は復号してもよい。例えば、符号化装置又は復号装置は、レイヤ３、８、１、９…の順に符号化又は復号してもよい。
次に、静的オブジェクト及び動的オブジェクトの扱い方について説明する。
三次元空間には、建物又は道路など静的なオブジェクト又はシーン（以降、まとめて静的オブジェクトと呼ぶ）と、車又はヒトなどの動的なオブジェクト（以降、動的オブジェクトと呼ぶ）とが存在する。オブジェクトの検出は、ポイントクラウドのデータ、又は、ステレオカメラなどのカメラ映像などから特徴点を抽出するなどして、別途行われる。ここでは、動的オブジェクトの符号化方法の例について説明する。
第１方法は、静的オブジェクトと動的オブジェクトとを区別せずに符号化する方法である。第２方法は、静的オブジェクトと動的オブジェクトとを識別情報により区別する方法である。
例えば、ＧＯＳが識別単位として用いられる。この場合、静的オブジェクトを構成するＳＰＣを含むＧＯＳと、動的オブジェクトを構成するＳＰＣを含むＧＯＳとが、符号化データ内、又は符号化データとは別途格納される識別情報により区別される。
または、ＳＰＣが識別単位として用いられてもよい。この場合、静的オブジェクトを構成するＶＬＭを含むＳＰＣと、動的オブジェクトを構成するＶＬＭを含むＳＰＣとが、上記識別情報により区別される。
または、ＶＬＭ或いはＶＸＬが識別単位として用いられてもよい。この場合、静的オブジェクトを含むＶＬＭ又はＶＸＬと、動的オブジェクトを含むＶＬＭ又はＶＸＬとが上記識別情報により区別される。
また、符号化装置は、動的オブジェクトを１以上のＶＬＭ又はＳＰＣとして符号化し、静的オブジェクトを含むＶＬＭ又はＳＰＣと、動的オブジェクトを含むＳＰＣとを、互いに異なるＧＯＳとして符号化してもよい。また、符号化装置は、動的オブジェクトのサイズに応じてＧＯＳのサイズが可変となる場合には、ＧＯＳのサイズをメタ情報として別途格納する。
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに独立に符号化し、静的オブジェクトから構成されるワールドに対して、動的オブジェクトを重畳してもよい。このとき、動的オブジェクトは１以上のＳＰＣから構成され、各ＳＰＣは、当該ＳＰＣが重畳される静的オブジェクトを構成する１以上のＳＰＣに対応付けられる。なお、動的オブジェクトをＳＰＣではなく、１以上のＶＬＭ又はＶＸＬにより表現してもよい。
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに異なるストリームとして符号化してもよい。
また、符号化装置は、動的オブジェクトを構成する１以上のＳＰＣを含むＧＯＳを生成してもよい。さらに、符号化装置は、動的オブジェクトを含むＧＯＳ（ＧＯＳ＿Ｍ）と、ＧＯＳ＿Ｍの空間領域に対応する静的オブジェクトのＧＯＳとを同一サイズ（同一の空間領域を占める）に設定してもよい。これにより、ＧＯＳ単位で重畳処理を行うことができる。
動的オブジェクトを構成するＰ－ＳＰＣ又はＢ－ＳＰＣは、符号化済みの異なるＧＯＳに含まれるＳＰＣを参照してもよい。動的オブジェクトの位置が時間的に変化し、同一の動的オブジェクトが異なる時刻のＧＯＳとして符号化されるケースでは、ＧＯＳを跨いだ参照が圧縮率の観点から有効となる。
また、符号化データの用途に応じて、上記の第１方法と第２方法とを切替えてもよい。例えば、符号化三次元データを地図として用いる場合は、動的オブジェクトを分離できることが望ましいため、符号化装置は、第２方法を用いる。一方、符号化装置は、コンサート又はスポーツなどのイベントの三次元データを符号化する場合に、動的オブジェクトを分離する必要がなければ、第１方法を用いる。
また、ＧＯＳ又はＳＰＣの復号時刻と表示時刻とは符号化データ内、又はメタ情報として格納できる。また、静的オブジェクトの時刻情報は全て同一としてもよい。このとき、実際の復号時刻と表示時刻は、復号装置が決定するものとしてもよい。あるいは、復号時刻として、ＧＯＳ、あるいは、ＳＰＣ毎に異なる値が付与され、表示時刻として全て同一の値が付与されてもよい。さらに、ＨＥＶＣのＨＲＤ（Ｈｙｐｏｔｈｅｔｉｃａｌ Ｒｅｆｅｒｅｎｃｅ Ｄｅｃｏｄｅｒ）など動画像符号化におけるデコーダモデルのように、デコーダが所定のサイズのバッファを有し、復号時刻に従って所定のビットレートでビットストリームを読み込めば破綻なく復号できることを保証するモデルを導入してもよい。
次に、ワールド内におけるＧＯＳの配置について説明する。ワールドにおける三次元空間の座標は、互いに直交する３本の座標軸（ｘ軸、ｙ軸、ｚ軸）により表現される。ＧＯＳの符号化順に所定のルールを設けることで、空間的に隣接するＧＯＳが符号化データ内で連続するように符号化を行える。例えば、図４に示す例では、ｘｚ平面内のＧＯＳを連続的に符号化する。あるｘｚ平面内の全てのＧＯＳの符号化終了後にｙ軸の値を更新する。すなわち、符号化が進むにつれて、ワールドはｙ軸方向に伸びていく。また、ＧＯＳのインデックス番号は符号化順に設定される。
ここで、ワールドの三次元空間は、ＧＰＳ、或いは緯度及び経度などの地理的な絶対座標と１対１に対応付けておく。或いは、予め設定した基準位置からの相対位置により三次元空間が表現されてもよい。三次元空間のｘ軸、ｙ軸、ｚ軸の方向は、緯度及び経度などに基づいて決定される方向ベクトルとして表現され、当該方向ベクトルはメタ情報として符号化データと共に格納される。
また、ＧＯＳのサイズは固定とし、符号化装置は、当該サイズをメタ情報として格納する。また、ＧＯＳのサイズは、例えば、都市部か否か、又は、室内か外かなどに応じて切替えられてもよい。つまり、ＧＯＳのサイズは、情報としての価値があるオブジェクトの量又は性質に応じて切替えられてもよい。あるいは、符号化装置は、同一ワールド内において、オブジェクトの密度などに応じて、ＧＯＳのサイズ、又は、ＧＯＳ内のＩ－ＳＰＣの間隔を適応的に切替えてもよい。例えば、符号化装置は、オブジェクトの密度が高いほど、ＧＯＳのサイズを小さくし、ＧＯＳ内のＩ－ＳＰＣの間隔を短くする。
図５の例では、３番目から１０番目のＧＯＳの領域では、オブジェクトの密度が高いため、細かい粒度でのランダムアクセスを実現するために、ＧＯＳが細分化されている。なお、７番目から１０番目のＧＯＳは、それぞれ、３番目から６番目のＧＯＳの裏側に存在する。
次に、本実施の形態に係る三次元データ符号化装置の構成及び動作の流れを説明する。図６は、本実施の形態に係る三次元データ符号化装置１００のブロック図である。図７は、三次元データ符号化装置１００の動作例を示すフローチャートである。
図６に示す三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。この三次元データ符号化装置１００は、取得部１０１と、符号化領域決定部１０２と、分割部１０３と、符号化部１０４とを備える。
図７に示すように、まず、取得部１０１は、点群データである三次元データ１１１を取得する（Ｓ１０１）。
次に、符号化領域決定部１０２は、取得した点群データに対応する空間領域のうち、符号化対象の領域を決定する（Ｓ１０２）。例えば、符号化領域決定部１０２は、ユーザ又は車両の位置に応じて、当該位置の周辺の空間領域を符号化対象の領域に決定する。
次に、分割部１０３は、符号化対象の領域に含まれる点群データを、各処理単位に分割する。ここで処理単位とは、上述したＧＯＳ及びＳＰＣ等である。また、この符号化対象の領域は、例えば、上述したワールドに対応する。具体的には、分割部１０３は、予め設定したＧＯＳのサイズ、又は、動的オブジェクトの有無或いはサイズに基づいて、点群データを処理単位に分割する（Ｓ１０３）。また、分割部１０３は、各ＧＯＳにおいて符号化順で先頭となるＳＰＣの開始位置を決定する。
次に、符号化部１０４は、各ＧＯＳ内の複数のＳＰＣを順次符号化することで符号化三次元データ１１２を生成する（Ｓ１０４）。
なお、ここでは、符号化対象の領域をＧＯＳ及びＳＰＣに分割した後に、各ＧＯＳを符号化する例を示したが、処理の手順は上記に限らない。例えば、一つのＧＯＳの構成を決定した後にそのＧＯＳを符号化し、その後、次のＧＯＳの構成を決定する等の手順を用いてもよい。
このように、三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）に分割し、第１処理単位（ＧＯＳ）を複数の第２処理単位（ＳＰＣ）に分割し、第２処理単位（ＳＰＣ）を複数の第３処理単位（ＶＬＭ）に分割する。また、第３処理単位（ＶＬＭ）は、位置情報が対応付けられる最小単位である１以上のボクセル（ＶＸＬ）を含む。
次に、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）の各々を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を符号化する。また、三次元データ符号化装置１００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を符号化する。
例えば、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）がクローズドＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）を参照して符号化する。つまり、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照しない。
一方、処理対象の第１処理単位（ＧＯＳ）がオープンＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）、又は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照して符号化する。
また、三次元データ符号化装置１００は、処理対象の第２処理単位（ＳＰＣ）のタイプとして、他の第２処理単位（ＳＰＣ）を参照しない第１タイプ（Ｉ－ＳＰＣ）、他の一つの第２処理単位（ＳＰＣ）を参照する第２タイプ（Ｐ－ＳＰＣ）、及び他の二つの第２処理単位（ＳＰＣ）を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い処理対象の第２処理単位（ＳＰＣ）を符号化する。
次に、本実施の形態に係る三次元データ復号装置の構成及び動作の流れを説明する。図８は、本実施の形態に係る三次元データ復号装置２００のブロックのブロック図である。図９は、三次元データ復号装置２００の動作例を示すフローチャートである。
図８に示す三次元データ復号装置２００は、符号化三次元データ２１１を復号することで復号三次元データ２１２を生成する。ここで、符号化三次元データ２１１は、例えば、三次元データ符号化装置１００で生成された符号化三次元データ１１２である。この三次元データ復号装置２００は、取得部２０１と、復号開始ＧＯＳ決定部２０２と、復号ＳＰＣ決定部２０３と、復号部２０４とを備える。
まず、取得部２０１は、符号化三次元データ２１１を取得する（Ｓ２０１）。次に、復号開始ＧＯＳ決定部２０２は、復号対象のＧＯＳに決定する（Ｓ２０２）。具体的には、復号開始ＧＯＳ決定部２０２は、符号化三次元データ２１１内、又は符号化三次元データとは別に格納されたメタ情報を参照して、復号を開始する空間位置、オブジェクト、又は、時刻に対応するＳＰＣを含むＧＯＳを復号対象のＧＯＳに決定する。
次に、復号ＳＰＣ決定部２０３は、ＧＯＳ内で復号するＳＰＣのタイプ（Ｉ、Ｐ、Ｂ）を決定する（Ｓ２０３）。例えば、復号ＳＰＣ決定部２０３は、（１）Ｉ－ＳＰＣのみを復号するか、（２）Ｉ－ＳＰＣ及びＰ－ＳＰＣを復号するか、（３）全てのタイプを復号するかを決定する。なお、全てのＳＰＣを復号するなど、予め復号するＳＰＣのタイプが決定している場合は、本ステップは行われなくてもよい。
次に、復号部２０４は、ＧＯＳ内で復号順（符号化順と同一）で先頭となるＳＰＣが符号化三次元データ２１１内で開始するアドレス位置を取得し、当該アドレス位置から先頭ＳＰＣの符号化データを取得し、当該先頭ＳＰＣから順に各ＳＰＣを順次復号する（Ｓ２０４）。なお、上記アドレス位置は、メタ情報等に格納されている。
このように、三次元データ復号装置２００は、復号三次元データ２１２を復号する。具体的には、三次元データ復号装置２００は、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）の符号化三次元データ２１１の各々を復号することで第１処理単位（ＧＯＳ）の復号三次元データ２１２を生成する。より具体的には、三次元データ復号装置２００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を復号する。また、三次元データ復号装置２００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を復号する。
以下、ランダムアクセス用のメタ情報について説明する。このメタ情報は、三次元データ符号化装置１００で生成され、符号化三次元データ１１２（２１１）に含まれる。
従来の二次元の動画像におけるランダムアクセスでは、指定した時刻の近傍となるランダムアクセス単位の先頭フレームから復号を開始していた。一方、ワールドにおいては、時刻に加えて、空間（座標又はオブジェクトなど）に対するランダムアクセスが想定される。
そこで、少なくとも座標、オブジェクト、及び時刻の３つの要素へのランダムアクセスを実現するために、各要素とＧＯＳのインデックス番号とを対応付けるテーブルを用意する。さらに、ＧＯＳのインデックス番号とＧＯＳの先頭となるＩ－ＳＰＣのアドレスを対応付ける。図１０は、メタ情報に含まれるテーブルの一例を示す図である。なお、図１０に示す全てのテーブルが用いられる必要はなく、少なくとも一つのテーブルが用いられればよい。
以下、一例として、座標を起点とするランダムアクセスについて説明する。座標（ｘ２、ｙ２、ｚ２）にアクセスする際には、まず、座標－ＧＯＳテーブルを参照して、座標が（ｘ２、ｙ２、ｚ２）である地点は２番目のＧＯＳに含まれることが分かる。次に、ＧＯＳアドレステーブルを参照し、２番目のＧＯＳにおける先頭のＩ－ＳＰＣのアドレスがａｄｄｒ（２）であることが分かるため、復号部２０４は、このアドレスからデータを取得して復号を開始する。
なお、アドレスは、論理フォーマットにおけるアドレスであっても、ＨＤＤ又はメモリの物理アドレスであってもよい。また、アドレスの代わりにファイルセグメントを特定する情報が用いられてもよい。例えば、ファイルセグメントは、１つ以上のＧＯＳなどをセグメント化した単位である。
また、オブジェクトが複数のＧＯＳに跨る場合には、オブジェクト－ＧＯＳテーブルにおいて、オブジェクトが属するＧＯＳを複数示してもよい。当該複数のＧＯＳがクローズドＧＯＳであれば、符号化装置及び復号装置は、並列に符号化又は復号を行うことができる。一方、当該複数のＧＯＳがオープンＧＯＳであれば、複数のＧＯＳが互いに参照しあうことでより圧縮効率を高めることができる。
オブジェクトの例としては、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などがある。例えば、三次元データ符号化装置１００は、ワールドの符号化時に三次元のポイントクラウドなどからオブジェクトに特有の特徴点を抽出し、当該特徴点に基づきオブジェクトを検出し、検出したオブジェクトをランダムアクセスポイントとして設定できる。
このように、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）と、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている三次元座標とを示す第１情報を生成する。また、符号化三次元データ１１２（２１１）は、この第１情報を含む。また、第１情報は、さらに、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示す。
三次元データ復号装置２００は、符号化三次元データ２１１から第１情報を取得し、第１情報を用いて、指定された三次元座標、オブジェクト又は時刻に対応する第１処理単位の符号化三次元データ２１１を特定し、当該符号化三次元データ２１１を復号する。
以下、その他のメタ情報の例について説明する。ランダムアクセス用のメタ情報の他に、三次元データ符号化装置１００は、以下のようなメタ情報を生成及び格納してもよい。また、三次元データ復号装置２００は、このメタ情報を復号時に利用してもよい。
三次元データを地図情報として用いる場合などには、用途に応じてプロファイルが規定され、当該プロファイルを示す情報がメタ情報に含まれてもよい。例えば、市街地或いは郊外向け、又は、飛行物体向けのプロファイルが規定され、それぞれにおいてワールド、ＳＰＣ又はＶＬＭの最大又は最小サイズなどが定義される。例えば、市街地向けでは、郊外向けよりも詳細な情報が必要なため、ＶＬＭの最小サイズが小さく設定される。
メタ情報は、オブジェクトの種類を示すタグ値を含んでもよい。このタグ値はオブジェクトを構成するＶＬＭ、ＳＰＣ、又はＧＯＳと対応付けられる。例えば、タグ値「０」は「人」を示し、タグ値「１」は「車」を示し、タグ値「２」は「信号機」を示す、などオブジェクトの種類ごとにタグ値が設定されてもよい。または、オブジェクトの種類が判定しにくい又は判定する必要がない場合はサイズ、又は、動的オブジェクトか静的オブジェクトかなどの性質を示すタグ値が用いられてもよい。
また、メタ情報は、ワールドが占める空間領域の範囲を示す情報を含んでもよい。
また、メタ情報は、符号化データのストリーム全体、又は、ＧＯＳ内のＳＰＣなど、複数のＳＰＣに共通のヘッダ情報として、ＳＰＣ又はＶＸＬのサイズを格納してもよい。
また、メタ情報は、ポイントクラウドの生成に用いた距離センサ或いはカメラなどの識別情報、又は、ポイントクラウド内の点群の位置精度を示す情報を含んでもよい。
また、メタ情報は、ワールドが静的オブジェクトのみから構成されるか、動的オブジェクトを含むかを示す情報を含んでもよい。
以下、本実施の形態の変形例について説明する。
符号化装置又は復号装置は、互いに異なる２以上のＳＰＣ又はＧＯＳを並列で符号化又は復号してもよい。並列で符号化又は復号するＧＯＳは、ＧＯＳの空間位置を示すメタ情報などに基づいて決定できる。
三次元データを車又は飛行物体などが移動する際の空間地図として用いる、又はこのような空間地図を生成するケースなどでは、符号化装置又は復号装置は、ＧＰＳ、経路情報、又はズーム倍率などに基づいて特定される空間に含まれるＧＯＳ又はＳＰＣを符号化又は復号してもよい。
また、復号装置は、自己位置又は走行経路に近い空間から順に復号を行ってもよい。符号化装置又は復号装置は、自己位置又は走行経路から遠い空間を、近い空間に比べて優先度を落として符号化又は復号してもよい。ここで、優先度を落とすとは、処理順を下げる、解像度を下げる（間引いて処理する）、又は、画質を下げる（符号化効率を上げる。例えば、量子化ステップを大きくする。）等である。
また、復号装置は、空間内で階層的に符号化されている符号化データを復号する際は、低階層のみを復号してもよい。
また、復号装置は、地図のズーム倍率又は用途に応じて、低階層から優先的に復号してもよい。
また、車又はロボットの自律走行時に行う自己位置推定又は物体認識などの用途では、符号化装置又は復号装置は、路面から特定高さ以内の領域（認識を行う領域）以外は解像度を落として符号化又は復号を行ってもよい。
また、符号化装置は、室内と室外との空間形状を表現するポイントクラウドをそれぞれ個別に符号化してもよい。例えば、室内を表現するＧＯＳ（室内ＧＯＳ）と室外を表現するＧＯＳ（室外ＧＯＳ）とを分けることで、復号装置は、符号化データを利用する際に、視点位置に応じて復号するＧＯＳを選択できる。
また、符号化装置は、座標が近い室内ＧＯＳと室外ＧＯＳとを、符号化ストリーム内で隣接するように符号化してもよい。例えば、符号化装置は、両者の識別子を対応付け、符号化ストリーム内、又は別途格納されるメタ情報内に対応付けた識別子を示す情報を格納する。これにより、復号装置は、メタ情報内の情報を参照して、座標が近い室内ＧＯＳと室外ＧＯＳとを識別できる。
また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ＧＯＳ又はＳＰＣのサイズを切替えてもよい。例えば、符号化装置は、室内では室外に比べてＧＯＳのサイズを小さく設定する。また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ポイントクラウドから特徴点を抽出する際の精度、又はオブジェクト検出の精度などを変更してもよい。
また、符号化装置は、復号装置が動的オブジェクトを静的オブジェクトと区別して表示するための情報を符号化データに付加してもよい。これにより、復号装置は、動的オブジェクトと赤枠又は説明用の文字などとを合わせて表示できる。なお、復号装置は、動的オブジェクトの代わりに赤枠又は説明用の文字のみを表示してもよい。また、復号装置は、より細かいオブジェクト種別を表示してもよい。例えば、車には赤枠が用いられ、ヒトには黄色枠が用いられてもよい。
また、符号化装置又は復号装置は、動的オブジェクトの出現頻度、又は、静的オブジェクトと動的オブジェクトとの割合などに応じて、動的オブジェクトと静的オブジェクトとを異なるＳＰＣ又はＧＯＳとして符号化又は復号するかどうかを決定してもよい。例えば、動的オブジェクトの出現頻度又は割合が閾値を超える場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容され、動的オブジェクトの出現頻度又は割合が閾値を超えない場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容されない。
動的オブジェクトをポイントクラウドではなく、カメラの二次元画像情報から検出する際には、符号化装置は、検出結果を識別するための情報（枠又は文字など）とオブジェクト位置とを別途取得し、これらの情報を三次元の符号化データの一部として符号化してもよい。この場合、復号装置は、静的オブジェクトの復号結果に対して、動的オブジェクトを示す補助情報（枠又は文字）を重畳して表示する。
また、符号化装置は、静的オブジェクトの形状の複雑さなどに応じて、ＳＰＣにおけるＶＸＬ又はＶＬＭの粗密さを変更してもよい。例えば、符号化装置は、静的オブジェクトの形状が複雑なぼど、ＶＸＬ又はＶＬＭを密に設定する。さらに、符号化装置は、空間位置又は色情報を量子化する際の量子化ステップなどをＶＸＬ又はＶＬＭの粗密さに応じて決定してもよい。例えば、符号化装置は、ＶＸＬ又はＶＬＭが密なほど量子化ステップを小さく設定する。
以上のように、本実施の形態に係る符号化装置又は復号装置は、座標情報を有するスペース単位で空間の符号化又は復号を行う。
また、符号化装置及び復号装置は、スペース内において、ボリューム単位で符号化又は復号を行う。ボリュームは、位置情報が対応付けられる最小単位であるボクセルを含む。
また、符号化装置及び復号装置は、座標、オブジェクト、及び時間等を含む空間情報の各要素とＧＯＰとを対応付けたテーブル、又は各要素間を対応付けたテーブルにより任意の要素間を対応付けて符号化又は復号を行う。また、復号装置は、選択された要素の値を用いて座標を判定し、座標からボリューム、ボクセル又はスペースを特定し、当該ボリューム又はボクセルを含むスペース、又は特定されたスペースを復号する。
また、符号化装置は、特徴点抽出又はオブジェクト認識により、要素により選択可能なボリューム、ボクセル又はスペースを判定し、ランダムアクセス可能なボリューム、ボクセル又はスペースとして符号化する。
スペースは、当該スペース単体で符号化又は復号可能なＩ－ＳＰＣと、任意の１つの処理済みスペースを参照して符号化又は復号されるＰ－ＳＰＣと、任意の二つの処理済みスペースを参照して符号化又は復号されるＢ－ＳＰＣとの３種類のタイプに分類される。
１以上のボリュームが、静的オブジェクト又は動的なオブジェクトに対応する。静的オブジェクトを含むスペースと動的オブジェクトを含むスペースとは互いに異なるＧＯＳとして符号化又は復号される。つまり、静的オブジェクトを含むＳＰＣと、動的オブジェクトを含むＳＰＣとが異なるＧＯＳに割り当てられる。
動的オブジェクトはオブジェクトごとに符号化又は復号され、静的オブジェクトを含む１以上のスペースに対応付けられる。つまり、複数の動的オブジェクトは個別に符号化され、得られた複数の動的オブジェクトの符号化データは、静的オブジェクトを含むＳＰＣに対応付けられる。
符号化装置及び復号装置は、ＧＯＳ内のＩ－ＳＰＣの優先度を上げて、符号化又は復号を行う。例えば、符号化装置は、Ｉ－ＳＰＣの劣化が少なくなるように（復号後に元の三次元データがより忠実に再現されるように）符号化を行う。また、復号装置は、例えば、Ｉ－ＳＰＣのみを復号する。
符号化装置は、ワールド内のオブジェクトの疎密さ又は数（量）に応じてＩ－ＳＰＣを用いる頻度を変えて符号化を行ってもよい。つまり、符号化装置は、三次元データに含まれるオブジェクトの数又は粗密さに応じて、Ｉ－ＳＰＣを選択する頻度を変更する。例えば、符号化装置は、ワールド内のオブジェクトが密であるほどＩスペースを用いる頻度を上げる。
また、符号化装置は、ランダムアクセスポイントをＧＯＳ単位で設定し、ＧＯＳに対応する空間領域を示す情報をヘッダ情報に格納する。
符号化装置は、ＧＯＳの空間サイズとして、例えば、デフォルト値を使用する。なお、符号化装置は、オブジェクト又は動的オブジェクトの数（量）又は粗密さに応じてＧＯＳのサイズを変更してもよい。例えば、符号化装置は、オブジェクト或いは動的オブジェクトが密なぼど、又は数が多いほど、ＧＯＳの空間サイズを小さくする。
また、スペース又はボリュームは、デプスセンサ、ジャイロ、又はカメラ等のセンサで得られた情報を用いて導出された特徴点群を含む。特徴点の座標はボクセルの中心位置に設定される。また、ボクセルの細分化により位置情報の高精度化を実現できる。
特徴点群は、複数のピクチャを用いて導出される。複数のピクチャは、実際の時刻情報と、スペースに対応付けられた複数のピクチャで同一の時刻情報（例えば、レート制御等に用いられる符号化時刻）との少なくとも２種類の時刻情報を有する。
また、１以上のスペースを含むＧＯＳ単位で符号化又は復号が行われる。
符号化装置及び復号装置は、処理済みのＧＯＳ内のスペースを参照して、処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
または、符号化装置及び復号装置は、異なるＧＯＳを参照せず、処理対象のＧＯＳ内の処理済スペースを用いて処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
また、符号化装置及び復号装置は、１以上のＧＯＳを含むワールド単位で符号化ストリームを送信又は受信する。
また、ＧＯＳは少なくともワールド内で１方向にレイヤ構造を持ち、符号化装置及び復号装置は、下位レイヤから符号化又は復号を行う。例えば、ランダムアクセス可能なＧＯＳは最下位レイヤに属する。上位レイヤに属するＧＯＳは同一レイヤ以下に属するＧＯＳを参照する。つまり、ＧＯＳは、予め定められた方向に空間分割され、各々が１以上のＳＰＣを含む複数のレイヤを含む。符号化装置及び復号装置は、各ＳＰＣを、当該ＳＰＣと同一レイヤ又は当該ＳＰＣより下層のレイヤに含まれるＳＰＣを参照して符号化又は復号する。
また、符号化装置及び復号装置は、複数のＧＯＳを含むワールド単位内で、連続してＧＯＳを符号化又は復号する。符号化装置及び復号装置は、符号化又は復号の順序（方向）を示す情報をメタデータとして書き込む又は読み出す。つまり、符号化データは、複数のＧＯＳの符号化順を示す情報を含む。
また、符号化装置及び復号装置は、互いに異なる２以上のスペース又はＧＯＳを並列で符号化又は復号する。
また、符号化装置及び復号装置は、スペース又はＧＯＳの空間情報（座標、サイズ等）を符号化又は復号する。
また、符号化装置及び復号装置は、ＧＰＳ、経路情報、又は倍率など、自己の位置又は／及び領域サイズに関する外部情報に基づいて特定される特定空間に含まれるスペース又はＧＯＳを符号化又は復号する。
符号化装置又は復号装置は、自己の位置から遠い空間は、近い空間に比べて優先度を落として符号化又は復号する。
符号化装置は、倍率又は用途に応じて、ワールドのある１方向を設定し、当該方向にレイヤ構造を持つＧＯＳを符号化する。また、復号装置は、倍率又は用途に応じて設定されたワールドのある１方向にレイヤ構造を持つＧＯＳを、下位レイヤから優先的に復号する。
符号化装置は、室内と室外とでスペースに含まれる特徴点抽出、オブジェクト認識の精度、又は空間領域サイズなどを変化させる。ただし、符号化装置及び復号装置は、座標が近い室内ＧＯＳと室外ＧＯＳとをワールド内で隣接して符号化又は復号し、これらの識別子も対応付けて符号化又は復号する。
（実施の形態２）
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報のみを送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元復号方法及び三次元データ装置について説明する。
特徴量を一定以上持つボクセル（ＶＸＬ）を特徴ボクセル（ＦＶＸＬ）と定義し、ＦＶＸＬで構成されるワールド（ＷＬＤ）をスパースワールド（ＳＷＬＤ）と定義する。図１１は、スパースワールド及びワールドの構成例を示す図である。ＳＷＬＤには、ＦＶＸＬで構成されるＧＯＳであるＦＧＯＳと、ＦＶＸＬで構成されるＳＰＣであるＦＳＰＣと、ＦＶＸＬで構成されるＶＬＭであるＦＶＬＭと含まれる。ＦＧＯＳ、ＦＳＰＳ及びＦＶＬＭのデータ構造及び予測構造はＧＯＳ、ＳＰＳ及びＶＬＭと同様であっても構わない。
特徴量とは、ＶＸＬの三次元位置情報、又はＶＸＬ位置の可視光情報を表現する特徴量であり、特に立体物のコーナー及びエッジ等で多く検出される特徴量である。具体的には、この特徴量は、下記のような三次元特徴量又は可視光の特徴量であるが、その他、ＶＸＬの位置、輝度、又は色情報などを表す特徴量であれば、どのようなものでも構わない。
三次元特徴量として、ＳＨＯＴ特徴量（Ｓｉｇｎａｔｕｒｅ ｏｆ Ｈｉｓｔｏｇｒａｍｓ ｏｆ ＯｒｉｅｎＴａｔｉｏｎｓ）、ＰＦＨ特徴量（Ｐｏｉｎｔ Ｆｅａｔｕｒｅ Ｈｉｓｔｏｇｒａｍｓ）、又はＰＰＦ特徴量（Ｐｏｉｎｔ Ｐａｉｒ Ｆｅａｔｕｒｅ）が用いられる。
ＳＨＯＴ特徴量は、ＶＸＬ周辺を分割し、基準点と分割された領域の法線ベクトルとの内積を計算してヒストグラム化することで得られる。このＳＨＯＴ特徴量は、次元数が高く、特徴表現力が高いという特徴を有する。
ＰＦＨ特徴量は、ＶＸＬ近傍の多数の２点組を選択し、その２点から法線ベクトル等を算出してヒストグラム化することで得られる。このＰＦＨ特徴量は、ヒストグラム特徴なので、多少の外乱に対してロバスト性を有し、特徴表現力も高いという特徴を有する。
ＰＰＦ特徴量は、２点のＶＸＬ毎に法線ベクトル等を用いて算出される特徴量である。このＰＰＦ特徴量には、全ＶＸＬが使われるため、オクルージョンに対してロバスト性を有する。
また、可視光の特徴量として、画像の輝度勾配情報等の情報を用いたＳＩＦＴ（Ｓｃａｌｅ－Ｉｎｖａｒｉａｎｔ Ｆｅａｔｕｒｅ Ｔｒａｎｓｆｏｒｍ）、ＳＵＲＦ（Ｓｐｅｅｄｅｄ Ｕｐ Ｒｏｂｕｓｔ Ｆｅａｔｕｒｅｓ）、又はＨＯＧ（Ｈｉｓｔｏｇｒａｍ ｏｆ Ｏｒｉｅｎｔｅｄ Ｇｒａｄｉｅｎｔｓ）等を用いることができる。
ＳＷＬＤは、ＷＬＤの各ＶＸＬから上記特徴量を算出し、ＦＶＸＬを抽出することで生成される。ここで、ＳＷＬＤはＷＬＤが更新される度に更新しても構わないし、ＷＬＤの更新タイミングに関わらず、一定時間経過後に定期的に更新するようにしても構わない。
ＳＷＬＤは特徴量毎に生成しても構わない。例えば、ＳＨＯＴ特徴量に基づくＳＷＬＤ１とＳＩＦＴ特徴量に基づくＳＷＬＤ２とのように、特徴量毎に別々のＳＷＬＤが生成され、用途に応じてＳＷＬＤを使い分けるようにしても構わない。また、算出した各ＦＶＸＬの特徴量を特徴量情報として各ＦＶＸＬに保持するようにしても構わない。
次に、スパースワールド（ＳＷＬＤ）の利用方法について説明する。ＳＷＬＤは特徴ボクセル（ＦＶＸＬ）のみを含むため、全てのＶＸＬを含むＷＬＤと比べて一般的にデータサイズが小さい。
特徴量を利用して何らかの目的を果たすアプリケーションにおいては、ＷＬＤの代わりにＳＷＬＤの情報を利用することで、ハードディスクからの読み出し時間、並びにネットワーク転送時の帯域及び転送時間を抑制することができる。例えば、地図情報として、ＷＤＬとＳＷＬＤとをサーバに保持しておき、クライアントからの要望に応じて、送信する地図情報をＷＬＤ又はＳＷＬＤに切り替えることにより、ネットワーク帯域及び転送時間を抑制することができる。以下、具体的な例を示す。
図１２及び図１３は、ＳＷＬＤ及びＷＬＤの利用例を示す図である。図１２に示すように、車載装置であるクライアント１が自己位置判定用途として地図情報を必要な場合は、クライアント１はサーバに自己位置推定用の地図データの取得要望を送る（Ｓ３０１）。サーバは、当該取得要望に応じてＳＷＬＤをクライアント１に送信する（Ｓ３０２）。クライアント１は、受信したＳＷＬＤを用いて自己位置判定を行う（Ｓ３０３）。この際、クライアント１はレンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法でクライアント１の周辺のＶＸＬ情報を取得し、得られたＶＸＬ情報とＳＷＬＤとから自己位置情報を推定する。ここで自己位置情報は、クライアント１の三次元位置情報及び向き等を含む。
図１３に示すように、車載装置であるクライアント２が三次元地図等の地図描画の用途として地図情報が必要な場合は、クライアント２はサーバに地図描画用の地図データの取得要望を送る（Ｓ３１１）。サーバは、当該取得要望に応じてＷＬＤをクライアント２に送信する（Ｓ３１２）。クライアント２は、受信したＷＬＤを用いて地図描画を行う（Ｓ３１３）。この際、クライアント２は、例えば、自己が可視光カメラ等で撮影した画像と、サーバから取得したＷＬＤとを用いてレンダリング画像を作成し、作成した画像をカーナビ等の画面に描画する。
上記のように、サーバは、自己位置推定のような各ＶＸＬの特徴量を主に必要とする用途ではＳＷＬＤをクライアントに送信し、地図描画のように詳細なＶＸＬ情報が必要な場合はＷＬＤをクライアントに送信する。これにより、地図データを効率よく送受信することが可能となる。
なお、クライアントは、自分でＳＷＬＤとＷＬＤのどちらが必要かを判断し、サーバへＳＷＬＤ又はＷＬＤの送信を要求しても構わない。また、サーバは、クライアント又はネットワークの状況に合わせて、ＳＷＬＤかＷＬＤのどちらを送信すべきかを判断しても構わない。
次に、スパースワールド（ＳＷＬＤ）とワールド（ＷＬＤ）との送受信を切り替える方法を説明する。
ネットワーク帯域に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１４は、この場合の動作例を示す図である。例えば、ＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）環境下等の使用できるネットワーク帯域が限られている低速ネットワークが用いられている場合には、クライアントは、低速ネットワーク経由でサーバにアクセスし（Ｓ３２１）、サーバから地図情報としてＳＷＬＤを取得する（Ｓ３２２）。一方、Ｗｉ‐Ｆｉ（登録商標）環境下等のネットワーク帯域に余裕がある高速ネットワークが用いられている場合には、クライアントは、高速ネットワーク経由でサーバにアクセスし（Ｓ３２３）、サーバからＷＬＤを取得する（Ｓ３２４）。これにより、クライアントは、当該クライアントのネットワーク帯域に応じて適切な地図情報を取得することができる。
具体的には、クライアントは、屋外ではＬＴＥ経由でＳＷＬＤを受信し、施設等の屋内に入った場合はＷｉ‐Ｆｉ（登録商標）経由でＷＬＤを取得する。これにより、クライアントは、屋内のより詳細な地図情報を取得することが可能となる。
このように、クライアントは、自身が用いるネットワークの帯域に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身が用いるネットワークの帯域を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントのネットワーク帯域を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
また、移動速度に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１５は、この場合の動作例を示す図である。例えば、クライアントが高速移動をしている場合は（Ｓ３３１）、クライアントはＳＷＬＤをサーバから受信する（Ｓ３３２）。一方、クライアントが低速移動をしている場合は（Ｓ３３３）、クライアントはＷＬＤをサーバから受信する（Ｓ３３４）。これにより、クライアントは、ネットワーク帯域を抑制しながら、速度に合った地図情報を取得することができる。具体的には、クライアントは、高速道路を走行中にはデータ量の少ないＳＷＬＤを受信することにより、大まかな地図情報を適切な速度で更新することができる。一方、クライアントは、一般道路を走行中にはＷＬＤを受信することにより、より詳細な地図情報を取得することが可能となる。
このように、クライアントは、自身の移動速度に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身の移動速度を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントの移動速度を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
また、クライアントは、最初にＳＷＬＤをサーバより取得し、その中で重要な領域のＷＬＤを取得しても構わない。例えば、クライアントは、地図データを取得する際に、最初に大まかな地図情報をＳＷＬＤで取得し、そこから建物、標識、又は人物等の特徴が多く出現する領域を絞り込み、絞り込んだ領域のＷＬＤを後から取得する。これにより、クライアントは、サーバからの受信データ量を抑制しつつ、必要な領域の詳細な情報を取得することが可能となる。
また、サーバは、ＷＬＤから物体毎に別々のＳＷＬＤを作成し、クライアントは、用途に合わせて、それぞれを受信してもよい。これにより、ネットワーク帯域を抑制できる。例えば、サーバは、ＷＬＤから予め人又は車を認識し、人のＳＷＬＤと車のＳＷＬＤを作成する。クライアントは、周囲の人の情報を取得したい場合には人のＳＷＬＤを、車の情報を取得したい場合には車のＳＷＬＤを受信する。また、このようなＳＷＬＤの種類はヘッダ等に付加された情報（フラグ又はタイプ等）によって区別するようにしても構わない。
次に、本実施の形態に係る三次元データ符号化装置（例えばサーバ）の構成及び動作の流れを説明する。図１６は、本実施の形態に係る三次元データ符号化装置４００のブロック図である。図１７は、三次元データ符号化装置４００による三次元データ符号化処理のフローチャートである。
図１６に示す三次元データ符号化装置４００は、入力三次元データ４１１を符号化することで符号化ストリームである符号化三次元データ４１３及び４１４を生成する。ここで、符号化三次元データ４１３はＷＬＤに対応する符号化三次元データであり、符号化三次元データ４１４はＳＷＬＤに対応する符号化三次元データである。この三次元データ符号化装置４００は、取得部４０１と、符号化領域決定部４０２と、ＳＷＬＤ抽出部４０３と、ＷＬＤ符号化部４０４と、ＳＷＬＤ符号化部４０５とを備える。
図１７に示すように、まず、取得部４０１は、三次元空間内の点群データである入力三次元データ４１１を取得する（Ｓ４０１）。
次に、符号化領域決定部４０２は、点群データが存在する空間領域に基づいて、符号化対象の空間領域を決定する（Ｓ４０２）。
次に、ＳＷＬＤ抽出部４０３は、符号化対象の空間領域をＷＬＤと定義し、ＷＬＤに含まれる各ＶＸＬから特徴量を算出する。そして、ＳＷＬＤ抽出部４０３は、特徴量が予め定められた閾値以上のＶＸＬを抽出し、抽出したＶＸＬをＦＶＸＬと定義し、当該ＦＶＸＬをＳＷＬＤへ追加することで、抽出三次元データ４１２を生成する（Ｓ４０３）。つまり、入力三次元データ４１１から特徴量が閾値以上の抽出三次元データ４１２が抽出される。
次に、ＷＬＤ符号化部４０４は、ＷＬＤに対応する入力三次元データ４１１を符号化することでＷＬＤに対応する符号化三次元データ４１３を生成する（Ｓ４０４）。このとき、ＷＬＤ符号化部４０４は、符号化三次元データ４１３のヘッダに、当該符号化三次元データ４１３がＷＬＤを含むストリームであることを区別するための情報を付加する。
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤに対応する抽出三次元データ４１２を符号化することでＳＷＬＤに対応する符号化三次元データ４１４を生成する（Ｓ４０５）。このとき、ＳＷＬＤ符号化部４０５は、符号化三次元データ４１４のヘッダに、当該符号化三次元データ４１４がＳＷＬＤを含むストリームであることを区別するための情報を付加する。
なお、符号化三次元データ４１３を生成する処理と、符号化三次元データ４１４を生成する処理との処理順は上記と逆でもよい。また、これらの処理の一部又は全てが並列に行われてもよい。
符号化三次元データ４１３及び４１４のヘッダに付与される情報として、例えば、「ｗｏｒｌｄ＿ｔｙｐｅ」というパラメータが定義される。ｗｏｒｌｄ＿ｔｙｐｅ＝０の場合はストリームがＷＬＤを含むことを表し、ｗｏｒｌｄ＿ｔｙｐｅ＝１の場合はストリームがＳＷＬＤを含むことを表す。更にその他の多数の種別を定義する場合には、ｗｏｒｌｄ＿ｔｙｐｅ＝２のように割り当てる数値を増やすようにしても構わない。また、符号化三次元データ４１３及び４１４の一方に特定のフラグが含まれてもよい。例えば、符号化三次元データ４１４に、当該ストリームがＳＷＬＤを含むことを含むフラグが付与されてもよい。この場合、復号装置は、フラグの有無によりＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別できる。
また、ＷＬＤ符号化部４０４がＷＬＤを符号化する際に使用する符号化方法と、ＳＷＬＤ符号化部４０５がＳＷＬＤを符号化する際に使用する符号化方法とは異なってもよい。
例えば、ＳＷＬＤではデータが間引かされているため、ＷＬＤに比べ、周辺のデータとの相関が低くなる可能性がある。よって、ＳＷＬＤに用いられる符号化方法では、ＷＬＤに用いられる符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
また、ＳＷＬＤに用いられる符号化方法とＷＬＤに用いられる符号化方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより小さくなるように符号化を行う。例えば、上述したようにＳＷＬＤは、ＷＬＤに比べ、データ間の相関が低くなる可能性がある。これにより、符号化効率が下がり、符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより大きくなる可能性がある。よって、ＳＷＬＤ符号化部４０５は、得られた符号化三次元データ４１４のデータサイズが、ＷＬＤの符号化三次元データ４１３のデータサイズより大きい場合には、再符号化を行うことで、データサイズを低減した符号化三次元データ４１４を再生成する。
例えば、ＳＷＬＤ抽出部４０３は、抽出する特徴点の数を減らした抽出三次元データ４１２を再生成し、ＳＷＬＤ符号化部４０５は、当該抽出三次元データ４１２を符号化する。または、ＳＷＬＤ符号化部４０５における量子化の程度をより粗くしてもよい。例えば、後述する８分木構造において、最下層のデータを丸め込むことで、量子化の程度を粗くすることができる。
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズをＷＬＤの符号化三次元データ４１３のデータサイズより小さくできない場合は、ＳＷＬＤの符号化三次元データ４１４を生成しなくてもよい。または、ＷＬＤの符号化三次元データ４１３がＳＷＬＤの符号化三次元データ４１４にコピーされてもよい。つまり、ＳＷＬＤの符号化三次元データ４１４としてＷＬＤの符号化三次元データ４１３がそのまま用いられてもよい。
次に、本実施の形態に係る三次元データ復号装置（例えばクライアント）の構成及び動作の流れを説明する。図１８は、本実施の形態に係る三次元データ復号装置５００のブロック図である。図１９は、三次元データ復号装置５００による三次元データ復号処理のフローチャートである。
図１８に示す三次元データ復号装置５００は、符号化三次元データ５１１を復号することで復号三次元データ５１２又は５１３を生成する。ここで、符号化三次元データ５１１は、例えば、三次元データ符号化装置４００で生成された符号化三次元データ４１３又は４１４である。
この三次元データ復号装置５００は、取得部５０１と、ヘッダ解析部５０２と、ＷＬＤ復号部５０３と、ＳＷＬＤ復号部５０４とを備える。
図１９に示すように、まず、取得部５０１は、符号化三次元データ５１１を取得する（Ｓ５０１）。次に、ヘッダ解析部５０２は、符号化三次元データ５１１のヘッダを解析し、符号化三次元データ５１１がＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別する（Ｓ５０２）。例えば、上述したｗｏｒｌｄ＿ｔｙｐｅのパラメータが参照され、判別が行われる。
符号化三次元データ５１１がＷＬＤを含むストリームである場合（Ｓ５０３でＹｅｓ）、ＷＬＤ復号部５０３は、符号化三次元データ５１１を復号することでＷＬＤの復号三次元データ５１２を生成する（Ｓ５０４）。一方、符号化三次元データ５１１がＳＷＬＤを含むストリームである場合（Ｓ５０３でＮｏ）、ＳＷＬＤ復号部５０４は、符号化三次元データ５１１を復号することでＳＷＬＤの復号三次元データ５１３を生成する（Ｓ５０５）。
また、符号化装置と同様に、ＷＬＤ復号部５０３がＷＬＤを復号する際に使用する復号方法と、ＳＷＬＤ復号部５０４がＳＷＬＤを復号する際に使用する復号方法とは異なってもよい。例えば、ＳＷＬＤに用いられる復号方法では、ＷＬＤに用いられる復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
また、ＳＷＬＤに用いられる復号方法とＷＬＤに用いられる復号方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
次に、三次元位置の表現手法である８分木表現について説明する。三次元データに含まれるＶＸＬデータは８分木構造に変換された後、符号化される。図２０は、ＷＬＤのＶＸＬの一例を示す図である。図２１は、図２０に示すＷＬＤの８分木構造を示す図である。図２０に示す例では、点群を含むＶＸＬ（以下、有効ＶＸＬ）である３つＶＸＬ１～３が存在する。図２１に示すように、８分木構造はノードとリーフで構成される。各ノードは最大で８つのノードまたはリーフを持つ。各リーフはＶＸＬ情報を持つ。ここで、図２１に示すリーフのうち、リーフ１、２、３はそれぞれ図２０に示すＶＸＬ１、ＶＸＬ２、ＶＸＬ３を表す。
具体的には、各ノード及びリーフは三次元位置に対応する。ノード１は、図２０に示す全体のブロックに対応する。ノード１に対応するブロックは８つのブロックに分割され、８つのブロックのうち、有効ＶＸＬを含むブロックがノードに設定され、それ以外のブロックはリーフに設定される。ノードに対応するブロックは、さらに８つのノードまたはリーフに分割され、この処理が木構造の階層分繰り返される。また、最下層のブロックは、全てリーフに設定される。
また、図２２は、図２０に示すＷＬＤから生成したＳＷＬＤの例を示す図である。図２０に示すＶＸＬ１及びＶＸＬ２は特徴量抽出の結果、ＦＶＸＬ１及びＦＶＸＬ２と判定され、ＳＷＬＤに加えられている。一方で、ＶＸＬ３はＦＶＸＬと判定されず、ＳＷＬＤに含まれていない。図２３は、図２２に示すＳＷＬＤの８分木構造を示す図である。図２３に示す８分木構造では、図２１に示す、ＶＸＬ３に相当するリーフ３が削除されている。これにより、図２１に示すノード３が有効ＶＸＬを持たなくなり、リーフに変更されている。このように一般的にＳＷＬＤのリーフ数はＷＬＤのリーフ数より少なくなり、ＳＷＬＤの符号化三次元データもＷＬＤの符号化三次元データより小さくなる。
以下、本実施の形態の変形例について説明する。
例えば、車載装置等のクライアントは、自己位置推定を行う場合に、ＳＷＬＤをサーバから受信し、ＳＷＬＤを用いて自己位置推定を行い、障害物検知を行う場合は、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法を用いて自分で取得した周辺の三次元情報に基づいて障害物検知を実施してもよい。
また、一般的にＳＷＬＤには平坦領域のＶＸＬデータが含まれにくい。そのため、サーバは、静的な障害物の検知用に、ＷＬＤをサブサンプルしたサブサンプルワールド（ｓｕｂＷＬＤ）を保持し、ＳＷＬＤとｓｕｂＷＬＤをクライアントに送信してもよい。これにより、ネットワーク帯域を抑制しつつ、クライアント側で自己位置推定及び障害物検知を行うことができる。
また、クライアントが三次元地図データを高速に描画する際には、地図情報がメッシュ構造である方が便利な場合がある。そこで、サーバは、ＷＬＤからメッシュを生成し、メッシュワールド（ＭＷＬＤ）として予め保持してもよい。例えばクライアントは、粗い三次元描画を必要としている場合にはＭＷＬＤを受信し、詳細な三次元描画を必要としている場合にはＷＬＤを受信する。これにより、ネットワーク帯域を抑制することができる。
また、サーバは、各ＶＸＬのうち、特徴量が閾値以上であるＶＸＬをＦＶＸＬに設定したが、異なる方法にてＦＶＸＬを算出しても構わない。例えば、サーバは、信号又は交差点などを構成するＶＸＬ、ＶＬＭ、ＳＰＳ、又はＧＯＳを、自己位置推定、運転アシスト、又は自動運転等に必要と判断し、ＦＶＸＬ、ＦＶＬＭ、ＦＳＰＳ、ＦＧＯＳとしてＳＷＬＤに含めるようにしても構わない。また、上記判断は手動で行われてもよい。なお、特徴量に基づき設定されたＦＶＸＬ等に、上記方法で得られたＦＶＸＬ等を加えてもよい。つまり、ＳＷＬＤ抽出部４０３は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出してもよい。
また、それらの用途に必要な旨を特徴量とは別にラベリングするようにしても構わない。また、サーバは、ＳＷＬＤの上位レイヤ（例えばレーンワールド）として、信号又は交差点などの自己位置推定、運転アシスト、又は自動運転等に必要なＦＶＸＬを別途保持してもよい。
また、サーバは、ＷＬＤ内のＶＸＬにもランダムアクセス単位又は所定の単位毎に属性を付加してもよい。属性は、例えば、自己位置推定に必要或いは不要かを示す情報、又は、信号或いは交差点などの交通情報として重要かどうかなどを示す情報を含む。また、属性は、レーン情報（ＧＤＦ：Ｇｅｏｇｒａｐｈｉｃ Ｄａｔａ Ｆｉｌｅｓなど）におけるＦｅａｔｕｒｅ（交差点又は道路など）との対応関係を含んでもよい。
また、ＷＬＤ又はＳＷＬＤの更新方法として下記のような方法を用いても構わない。
人、工事、又は並木（トラック向け）の変化などを示す更新情報が点群又はメタデータとしてサーバにアップロードされる。サーバは、当該アップロードに基づき、ＷＬＤを更新し、その後、更新したＷＬＤを用いてＳＷＬＤを更新する。
また、クライアントは、自己位置推定時に自身で生成した三次元情報とサーバから受信した三次元情報との不整合を検知した場合、自身で生成した三次元情報を更新通知とともにサーバに送信してもよい。この場合、サーバは、ＷＬＤを用いてＳＷＬＤを更新する。ＳＷＬＤが更新されない場合、サーバは、ＷＬＤ自体が古いと判断する。
また、符号化ストリームのヘッダ情報として、ＷＬＤかＳＷＬＤかを区別する情報が付加されるとしたが、例えば、メッシュワールド又はレーンワールド等、多種類のワールドが存在する場合には、それらを区別する情報がヘッダ情報に付加されても構わない。また、特徴量が異なるＳＷＬＤが多数存在する場合には、それぞれを区別する情報がヘッダ情報に付加されても構わない。
また、ＳＷＬＤは、ＦＶＸＬで構成されるとしたが、ＦＶＸＬと判定されなかったＶＸＬを含んでもよい。例えば、ＳＷＬＤは、ＦＶＸＬの特徴量を算出する際に使用する隣接ＶＸＬを含んでもよい。これにより、ＳＷＬＤの各ＦＶＸＬに特徴量情報が付加されない場合でも、クライアントは、ＳＷＬＤを受信した際にＦＶＸＬの特徴量を算出することができる。なお、その際には、ＳＷＬＤは各ＶＸＬがＦＶＸＬかＶＸＬかを区別するための情報を含んでもよい。
以上のように、三次元データ符号化装置４００は、入力三次元データ４１１（第１三次元データ）から特徴量が閾値以上の抽出三次元データ４１２（第２三次元データ）を抽出し、抽出三次元データ４１２を符号化することで符号化三次元データ４１４（第１符号化三次元データ）を生成する。
これによれば、三次元データ符号化装置４００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４を生成する。これにより、入力三次元データ４１１をそのまま符号化する場合に比べてデータ量を削減できる。よって、三次元データ符号化装置４００は、伝送するデータ量を削減できる。
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１を符号化することで符号化三次元データ４１３（第２符号化三次元データ）を生成する。
これによれば、三次元データ符号化装置４００は、例えば、使用用途等に応じて、符号化三次元データ４１３と符号化三次元データ４１４とを選択的に伝送できる。
また、抽出三次元データ４１２は、第１符号化方法により符号化され、入力三次元データ４１１は、第１符号化方法とは異なる第２符号化方法により符号化される。
これによれば、三次元データ符号化装置４００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した符号化方法を用いることができる。
また、第１符号化方法では、第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
これによれば、三次元データ符号化装置４００は、隣接するデータ間の相関が低くなりやすい抽出三次元データ４１２に対して、インター予測の優先度を上げることができる。
また、第１符号化方法と第２符号化方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２符号化方法では、８分木により三次元位置が表現され、第１符号化方法では、三次元座標により三次元位置を表現される。
これによれば、三次元データ符号化装置４００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。つまり、当該識別子は、符号化三次元データがＷＬＤの符号三次元データ４１３であるかＳＷＬＤの符号化三次元データ４１４であるかを示す。
これによれば、復号装置は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
また、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量が符号化三次元データ４１３のデータ量より小さくなるように抽出三次元データ４１２を符号化する。
これによれば、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量を符号化三次元データ４１３のデータ量より小さくできる。
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出する。例えば、予め定められた属性を有する物体とは、自己位置推定、運転アシスト、又は自動運転等に必要な物体であり、信号又は交差点などである。
これによれば、三次元データ符号化装置４００は、復号装置で必要となるデータを含む符号化三次元データ４１４を生成できる。
また、三次元データ符号化装置４００（サーバ）は、さらに、クライアントの状態に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
これによれば、三次元データ符号化装置４００は、クライアントの状態に応じて適切なデータを送信できる。
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
また、三次元データ符号化装置４００は、さらに、クライアントの要求に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
これによれば、三次元データ符号化装置４００は、クライアントの要求に応じて適切なデータを送信できる。
また、本実施の形態に係る三次元データ復号装置５００は、上記三次元データ符号化装置４００により生成された符号化三次元データ４１３又は４１４を復号する。
つまり、三次元データ復号装置５００は、入力三次元データ４１１から抽出された特徴量が閾値以上の抽出三次元データ４１２が符号化されることで得られた符号化三次元データ４１４を第１復号方法により復号する。また、三次元データ復号装置５００は、入力三次元データ４１１が符号化されることで得られた符号化三次元データ４１３を、第１復号方法とは異なる第２復号方法により復号する。
これによれば、三次元データ復号装置５００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４と、符号化三次元データ４１３とを、例えば、使用用途等に応じて選択的に受信できる。これにより、三次元データ復号装置５００は、伝送するデータ量を削減できる。さらに、三次元データ復号装置５００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した復号方法を用いることができる。
また、第１復号方法では、第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
これによれば、三次元データ復号装置５００は、隣接するデータ間の相関が低くなりやすい抽出三次元データに対して、インター予測の優先度を上げることができる。
また、第１復号方法と第２復号方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２復号方法では、８分木により三次元位置が表現され、第１復号方法では、三次元座標により三次元位置を表現される。
これによれば、三次元データ復号装置５００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。三次元データ復号装置５００は、当該識別子を参照して、符号化三次元データ４１３及び４１４を識別する。
これによれば、三次元データ復号装置５００は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
また、三次元データ復号装置５００は、さらに、クライアント（三次元データ復号装置５００）の状態をサーバに通知する。三次元データ復号装置５００は、クライアントの状態に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
これによれば、三次元データ復号装置５００は、クライアントの状態に応じて適切なデータを受信できる。
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
また、三次元データ復号装置５００は、さらに、符号化三次元データ４１３及び４１４の一方をサーバに要求し、当該要求に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
これによれば、三次元データ復号装置５００は、用途に応じた適切なデータを受信できる。
（実施の形態３）
本実施の形態では、車両間での三次元データを送受信する方法について説明する。
図２４は、自車両６００と周辺車両６０１との間での三次元データ６０７の送受信の様子を示す模式図である。
自車両６００に搭載されたセンサ（レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せなど）により三次元データを取得する場合、周辺車両６０１などの障害物により自車両６００のセンサ検知範囲６０２内であるものの三次元データを作成できない領域（以降、これをオクルージョン領域６０４という）が発生する。また、三次元データを取得する空間が大きくなると自律動作の精度が高まるが、自車両６００のみのセンサ検知範囲は有限である。
自車両６００のセンサ検知範囲６０２は、三次元データを取得可能な領域６０３とオクルージョン領域６０４とを含む。自車両６００が、三次元データを取得したい範囲は、自車両６００のセンサ検知範囲６０２とそれ以外の領域とを含む。また、周辺車両６０１のセンサ検知範囲６０５は、オクルージョン領域６０４と、自車両６００のセンサ検知範囲６０２に含まれない領域６０６とを含む。
周辺車両６０１は、周辺車両６０１が検知した情報を自車両６００に伝送する。自車両６００は、前走車などの周辺車両６０１が検知した情報を取得することで、オクルージョン領域６０４、及び、自車両６００のセンサ検知範囲６０２以外の領域６０６の三次元データ６０７を取得することが可能となる。自車両６００は、周辺車両６０１が取得した情報を用いて、オクルージョン領域６０４及びセンサ検知範囲外の領域６０６の三次元データを補完する。
車両、又はロボットの自律動作における三次元データの用途は、自己位置推定、周辺状況の検知、またはその両方である。例えば、自己位置推定には、自車両６００のセンサ情報に基づき自車両６００で生成した三次元データが使用される。周辺状況の検知には、自車両６００で生成した三次元データに加え、周辺車両６０１から取得した三次元データも使用される。
三次元データ６０７を自車両６００に伝送する周辺車両６０１は、自車両６００の状態に応じて決定されてもよい。例えば、この周辺車両６０１は、自車両６００の直進時には前走車であり、自車両６００の右折時には対向車であり、自車両６００の後退時には後方車である。また、自車両６００のドライバが、三次元データ６０７を自車両６００に伝送する周辺車両６０１を直接指定してもよい。
また、自車両６００は、三次元データ６０７を取得したい空間内に含まれる、自車両６００で取得できない領域の三次元データを所有している周辺車両６０１を探索してもよい。自車両６００で取得できない領域とは、オクルージョン領域６０４又はセンサ検知範囲６０２外の領域６０６などである。
また、自車両６００は、オクルージョン領域６０４を自車両６００のセンサ情報に基づいて特定してもよい。例えば、自車両６００は、自車両６００のセンサ検知範囲６０２内に含まれる、三次元データを作成できない領域をオクルージョン領域６０４であると特定する。
以下、三次元データ６０７を伝送するのが前走車である場合の動作例を説明する。図２５は、この場合の伝送される三次元データの一例を示す図である。
図２５に示すように、前走車から伝送される三次元データ６０７は、例えば、ポイントクラウドのスパースワールド（ＳＷＬＤ）である。つまり、前走車は、当該前走車のセンサで検知した情報からＷＬＤの三次元データ（ポイントクラウド）を作成し、ＷＬＤの三次元データから特徴量が閾値以上のデータを抽出することでＳＷＬＤの三次元データ（ポイントクラウド）を作成する。そして、前走車は、作成したＳＷＬＤの三次元データを自車両６００に伝送する。
自車両６００は、ＳＷＬＤを受け取り、自車両６００で作成したポイントクラウドに、受け取ったＳＷＬＤをマージする。
伝送されるＳＷＬＤは絶対座標（三次元マップの座標系におけるＳＷＬＤの位置）の情報を持っている。自車両６００は、この絶対座標に基づいて、自車両６００で生成したポイントクラウドを上書きすることによりマージ処理を実現できる。
周辺車両６０１から伝送されるＳＷＬＤは、自車両６００のセンサ検知範囲６０２外かつ周辺車両６０１のセンサ検知範囲６０５内の領域６０６のＳＷＬＤ、或いは、自車両６００にとってのオクルージョン領域６０４のＳＷＬＤ、又は、その両方のＳＷＬＤでもよい。また、伝送されるＳＷＬＤは、上記のＳＷＬＤのうち、周辺車両６０１が周辺状況の検知に使用している領域のＳＷＬＤでもよい。
また、周辺車両６０１は、自車両６００と周辺車両６０１との速度差に基づく通信可能時間に応じて、伝送されるポイントクラウドの密度を変化させてもよい。例えば、速度差が大きく通信可能時間が短い場合は、周辺車両６０１は、ＳＷＬＤの中から、特徴量の大きな三次元点を抽出することで、ポイントクラウドの密度（データ量）を低くしてもよい。
また、周辺状況の検知とは、人、車両、及び道路工事用の機材などの存在の有無を判定し、その種類を特定し、その位置、移動方向、及び移動速度などを検知することである。
また、自車両６００は、周辺車両６０１で生成された三次元データ６０７の代わりに、又は、三次元データ６０７に加え、周辺車両６０１の制動情報を取得してもよい。ここで、周辺車両６０１の制動情報とは、例えば、周辺車両６０１のアクセル或いはブレーキが踏まれたこと、又はその度合いを示す情報である。
また、各車両で生成されるポイントクラウドでは、車両間の低遅延通信を考慮して、ランダムアクセス単位に三次元空間が細分化される。一方で、サーバからダウンロードされる地図データである三次元地図等は、三次元空間が、車両間通信の場合と比べて大きなランダムアクセス単位に分割される。
前走車の前方の領域又は後走車の後方の領域などのオクルージョン領域になりやすい領域のデータは低遅延向けデータとして、細かいランダムアクセス単位に分割される。
高速走行時には正面の重要性が高まるため、各車両は、高速走行時には、視野角を狭めた範囲のＳＷＬＤを細かいランダムアクセス単位で作成する。
前走車が伝送用に作成したＳＷＬＤ内に自車両６００でポイントクラウドの取得が可能な領域が含まれる場合、前走車は、その領域のポイントクラウドを取り除くことにより伝送量を削減してもよい。
次に、本実施の形態に係る三次元データ受信装置である三次元データ作成装置６２０の構成及び動作を説明する。
図２６は、本実施の形態に係る三次元データ作成装置６２０のブロック図である。この三次元データ作成装置６２０は、例えば、上述した自車両６００に含まれ、三次元データ作成装置６２０が作成した第１三次元データ６３２に、受信した第２三次元データ６３５を合成することで、より密な第３三次元データ６３６を作成する。
この三次元データ作成装置６２０は、三次元データ作成部６２１と、要求範囲決定部６２２と、探索部６２３と、受信部６２４と、復号部６２５と、合成部６２６とを備える。図２７は、三次元データ作成装置６２０の動作を示すフローチャートである。
まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知したセンサ情報６３１を用いて第１三次元データ６３２を作成する（Ｓ６２１）。次に、要求範囲決定部６２２は、作成した第１三次元データ６３２の中でデータが不足している三次元空間範囲である要求範囲を決定する（Ｓ６２２）。
次に、探索部６２３は、要求範囲の三次元データを所有する周辺車両６０１を探索し、探索により特定した周辺車両６０１に要求範囲を示す要求範囲情報６３３を送信する（Ｓ６２３）。次に、受信部６２４は、周辺車両６０１から、要求範囲の符号化ストリームである符号化三次元データ６３４を受信する（Ｓ６２４）。なお、探索部６２３は、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、応答があった相手から符号化三次元データ６３４を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から符号化三次元データ６３４を受信してもよい。
次に、復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する（Ｓ６２５）。次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで、より密な第３三次元データ６３６を作成する（Ｓ６２６）。
次に、本実施の形態に係る三次元データ送信装置６４０の構成及び動作を説明する。図２８は、三次元データ送信装置６４０のブロック図である。
三次元データ送信装置６４０は、例えば、上述した周辺車両６０１に含まれ、周辺車両６０１が作成した第５三次元データ６５２を自車両６００が要求する第６三次元データ６５４に加工し、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成し、符号化三次元データ６３４を自車両６００に送信する。
三次元データ送信装置６４０は、三次元データ作成部６４１と、受信部６４２と、抽出部６４３と、符号化部６４４と、送信部６４５とを備える。図２９は、三次元データ送信装置６４０の動作を示すフローチャートである。
まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６４１）。次に、受信部６４２は、自車両６００から送信された要求範囲情報６３３を受信する（Ｓ６４２）。
次に、抽出部６４３は、第５三次元データ６５２から、要求範囲情報６３３で示される要求範囲の三次元データを抽出することで、第５三次元データ６５２を第６三次元データ６５４に加工する（Ｓ６４３）。次に、符号化部６４４は、第６三次元データ６５４を符号化することで、符号化ストリームである符号化三次元データ６３４を生成する（Ｓ６４４）。そして、送信部６４５は、自車両６００へ符号化三次元データ６３４を送信する（Ｓ６４５）。
なお、ここでは、自車両６００が三次元データ作成装置６２０を備え、周辺車両６０１が三次元データ送信装置６４０を備える例を説明するが、各車両が、三次元データ作成装置６２０と三次元データ送信装置６４０との機能を有してもよい。
以下、三次元データ作成装置６２０が、自車両６００の周辺状況の検知処理を実現する周辺状況検知装置である場合の構成及び動作を説明する。図３０は、この場合の三次元データ作成装置６２０Ａの構成を示すブロック図である。図３０に示す三次元データ作成装置６２０Ａは、図２６に示す三次元データ作成装置６２０の構成に加え、さらに、検知領域決定部６２７と、周辺状況検知部６２８と、自律動作制御部６２９とを備える。また、三次元データ作成装置６２０Ａは、自車両６００に含まれる。
図３１は、三次元データ作成装置６２０Ａによる自車両６００の周辺状況検知処理のフローチャートである。
まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知した、自車両６００の検知範囲のセンサ情報６３１を用いてポイントクラウドである第１三次元データ６３２を作成する（Ｓ６６１）。なお、三次元データ作成装置６２０Ａは、さらに、センサ情報６３１を用いて自己位置推定を行ってもよい。
次に、検知領域決定部６２７は、周辺状況を検知したい空間領域である検知対象範囲を決定する（Ｓ６６２）。例えば、検知領域決定部６２７は、自車両６００の走行方向及び速度などの自律動作（自動運転）の状況に応じて、自律動作を安全に行うための周辺状況検知に必要な領域を算出し、当該領域を検知対象範囲に決定する。
次に、要求範囲決定部６２２は、オクルージョン領域６０４と、自車両６００のセンサの検知範囲外であるが周辺状況検知に必要な空間領域とを要求範囲をとして決定する（Ｓ６６３）。
ステップＳ６６３において決定された要求範囲が存在する場合（Ｓ６６４でＹｅｓ）、探索部６２３は、要求範囲に関する情報を所有する周辺車両を探索する。例えば、探索部６２３は、周辺車両に、要求範囲に関する情報を所有しているか問合せてもよいし、要求範囲と周辺車両との位置に基づき、当該周辺車両が要求範囲に関する情報を所有しているかを判断してもよい。次に、探索部６２３は、探索により特定した周辺車両６０１に対して、三次元データの伝送を依頼する依頼信号６３７を送信する。そして、探索部６２３は、周辺車両６０１から送信された、依頼信号６３７の依頼を受ける旨を示す許可信号を受信した後、要求範囲を示す要求範囲情報６３３を周辺車両６０１に送信する（Ｓ６６５）。
次に、受信部６２４は、要求範囲に関する情報である送信データ６３８の伝送通知を検知し、当該送信データ６３８を受信する（Ｓ６６６）。
なお、三次元データ作成装置６２０Ａは、リクエストを送る相手を探索することなく、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、要求範囲に関する情報を持っていると応答があった相手から送信データ６３８を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から送信データ６３８を受信してもよい。
また、送信データ６３８は、周辺車両６０１で生成された、要求範囲の三次元データが符号化された符号化三次元データ６３４、及び、要求範囲の周辺状況検知結果６３９の少なくとも一方を含む。周辺状況検知結果６３９は、周辺車両６０１が検知した人及び車両の位置、移動方向及び移動速度等を示す。また、送信データ６３８は、周辺車両６０１の位置及び動き等を示す情報を含んでもよい。例えば、送信データ６３８は、周辺車両６０１の制動情報を含んでもよい。
受信された送信データ６３８に符号化三次元データ６３４が含まれる場合（Ｓ６６７でＹｅｓ）、復号部６２５は、符号化三次元データ６３４を復号することでＳＷＬＤの第２三次元データ６３５を取得する（Ｓ６６８）。つまり、第２三次元データ６３５は、第４三次元データ（ＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データ（ＳＷＬＤ）である。
次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を生成する（Ｓ６６９）。
次に、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第３三次元データ６３６を用いて、自車両６００の周辺状況を検知する（Ｓ６７０）。なお、受信された送信データ６３８に周辺状況検知結果６３９が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて周辺状況検知結果６３９を用いて、自車両６００の周辺状況を検知する。また、受信された送信データ６３８に周辺車両６０１の制動情報が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて当該制動情報を用いて、自車両６００の周辺状況を検知する。
次に、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。なお、ＵＩ（ユーザインタフェース）などを通して周辺状況検知結果がドライバに提示されてもよい。
一方、ステップＳ６６３において要求範囲が存在しない場合、（Ｓ６６４でＮｏ）、つまり、周辺状況検知に必要な全ての空間領域の情報を、センサ情報６３１に基づき作成できた場合、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第１三次元データ６３２を用いて、自車両６００の周辺状況を検知する（Ｓ６７２）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
また、受信された送信データ６３８に符号化三次元データ６３４が含まれない場合（Ｓ６６７でＮｏ）、つまり、送信データ６３８に、周辺車両６０１の周辺状況検知結果６３９又は制動情報のみが含まれる場合、周辺状況検知部６２８は、第１三次元データ６３２と、周辺状況検知結果６３９又は制動情報を用いて、自車両６００の周辺状況を検知する（Ｓ６７３）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
次に、上記三次元データ作成装置６２０Ａに送信データ６３８を送信する三次元データ送信装置６４０Ａについて説明する。図３２は、この三次元データ送信装置６４０Ａのブロック図である。
図３２に示す三次元データ送信装置６４０Ａは、図２８に示す三次元データ送信装置６４０の構成に加え、さらに、伝送可否判定部６４６を備える。また、三次元データ送信装置６４０Ａは、周辺車両６０１に含まれる。
図３３は、三次元データ送信装置６４０Ａの動作例を示すフローチャートである。まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６８１）。
次に、受信部６４２は、自車両６００から、三次元データの伝送要求を依頼する依頼信号６３７を受信する（Ｓ６８２）。次に、伝送可否判定部６４６は、依頼信号６３７で示される依頼に応じるかどうかを決定する（Ｓ６８３）。例えば、伝送可否判定部６４６は、ユーザにより予め設定されている内容に基づき、依頼に応じるかどうかを決定する。なお、受信部６４２が要求範囲などの相手のリクエストを先に受け取り、伝送可否判定部６４６は、その内容によって依頼に応じるかどうか決定してもよい。例えば、伝送可否判定部６４６は、要求範囲の三次元データを所持している場合に、依頼に応じると決定し、要求範囲の三次元データを所持していない場合に、依頼に応じないと決定してもよい。
依頼に応じる場合（Ｓ６８３でＹｅｓ）、三次元データ送信装置６４０Ａは許可信号を自車両６００に送信し、受信部６４２は要求範囲を示す要求範囲情報６３３を受信する（Ｓ６８４）。次に、抽出部６４３は、ポイントクラウドである第５三次元データ６５２から要求範囲のポイントクラウドを切り出し、切り出したポイントクラウドのＳＷＬＤである第６三次元データ６５４を含む送信データ６３８を作成する（Ｓ６８５）。
つまり、三次元データ送信装置６４０Ａは、センサ情報６５１から第７三次元データ（ＷＬＤ）を作成し、第７三次元データ（ＷＬＤ）から特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（ＳＷＬＤ）を作成する。なお、三次元データ作成部６４１が予めＳＷＬＤの三次元データを作成しておき、抽出部６４３においてＳＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データが抽出されてもよいし、抽出部６４３が、要求範囲のＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データを生成してもよい。
また、送信データ６３８は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報を含んでもよい。また、送信データ６３８は、第６三次元データ６５４を含まず、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報のうちの少なくとも一方のみを含んでもよい。
送信データ６３８が第６三次元データ６５４を含む場合（Ｓ６８６でＹｅｓ）、符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する（Ｓ６８７）。
そして、送信部６４５は、符号化三次元データ６３４を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
一方、送信データ６３８が第６三次元データ６５４を含まない場合（Ｓ６８６でＮｏ）、送信部６４５は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報の少なくとも一方を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
以下、本実施の形態の変形例について説明する。
例えば、周辺車両６０１から伝送される情報は、周辺車両が作成した三次元データ又は周辺状況検知結果でなくてもよく、周辺車両６０１自身の正確な特徴点情報であってもよい。自車両６００は、この周辺車両６０１の特徴点情報を用いて、自車両６００で取得したポイントクラウド内の前走車の特徴点情報を補正する。これにより、自車両６００は、自己位置推定時のマッチング精度を向上できる。
また、前走車の特徴点情報は、例えば、色情報及び座標情報からなる三次元点情報である。これにより、自車両６００のセンサがレーザセンサであっても、ステレオカメラであっても、その種類に依存することなく前走車の特徴点情報を使用できる。
なお、自車両６００は、伝送時に限らず、自己位置推定時の精度を算出する際に、ＳＷＬＤのポイントクラウドを用いてもよい。例えば、自車両６００のセンサがステレオカメラなどの撮像装置である場合、自車両６００がカメラで撮影した画像上で二次元点を検出し、その二次元点を用いて自己位置を推定する。また、自車両６００は、自己位置と同時に周辺物体のポイントクラウドを作成する。自車両６００は、その中のＳＷＬＤの三次元点を二次元画像上に再投影し、二次元画像上での検出点と再投影点との誤差に基づき自己位置推定の精度を評価する。
また、自車両６００のセンサがＬＩＤＡＲなどのレーザセンサである場合、自車両６００は、作成したポイントクラウドのＳＷＬＤと、三次元地図のＳＷＬＤとを用いてＩｔｅｒａｔｉｖｅ Ｃｌｏｓｅｓｔ Ｐｏｉｎｔにより算出した誤差に基づき自己位置推定の精度を評価する。
また、５Ｇなど基地局又はサーバ経由の通信状態が悪い場合には、自車両６００は、周辺車両６０１から三次元地図を取得してもよい。
また、自車両６００の周辺の車両から取得できない遠方の情報を車車間通信により取得してもよい。例えば、自車両６００は、数百メートル、又は数キロ先の発生直後の交通事故情報などを対向車からのすれ違い通信、又は周辺車両に順次伝えていくリレー方式などにより取得してもよい。この時、伝送されるデータのデータ形式が、動的三次元地図の上位レイヤのメタ情報として伝送される。
また、周辺状況の検知結果、及び自車両６００が検知した情報が、ユーザインタフェースを通じてユーザに提示されてもよい。例えば、カーナビの画面、又はフロントウィンドウへの重畳によりこれらの情報の提示が実現される。
また、自動運転をサポートしておらず、クルーズコントロールを有する車両は、自動運転モードで走行中の周辺車両を発見し、当該周辺車両を追尾してもよい。
また、自車両６００は、三次元地図を取得できない、又はオクルージョン領域が多過ぎるなどの理由から自己位置推定が不可能な場合に動作モードを、自動運転モードから周辺車両の追尾モードに切り替えてもよい。
また、追尾される車両には、追尾されていることをユーザに警告し、追尾を許可するかどうかをユーザが指定できるユーザインタフェースが搭載されてもよい。その際、追尾する車両に広告表示し、追尾される側にインセンティブを支払うなどの仕組みが設けられてもよい。
また、伝送される情報は、三次元データであるＳＷＬＤを基本とするが、自車両６００に設定されている要求設定又は前走車の公開設定に応じた情報であってもよい。例えば、伝送される情報は、密なポイントクラウドであるＷＬＤでもよいし、前走車による周辺状況の検知結果でもよいし、前走車の制動情報でもよい。
また、自車両６００は、ＷＬＤを受信し、ＷＬＤの三次元データを視覚化し、視覚化した三次元データをＧＵＩを用いてドライバに提示してもよい。その際、自車両６００は、自車両６００で作成したポイントクラウドと受信したポイントクラウドとをユーザが区別できるように、情報に色分けなどを施して提示してもよい。
また、自車両６００は、自車両６００で検知した情報と周辺車両６０１の検知結果とをＧＵＩでドライバに提示する場合、自車両６００で検知した情報と受信した検知結果とをユーザが区別できるのうように、情報に色分けなどを施して提示してもよい。
以上のように、本実施の形態に係る三次元データ作成装置６２０では、三次元データ作成部６２１は、センサで検知したセンサ情報６３１から第１三次元データ６３２を作成する。受信部６２４は、第２三次元データ６３５が符号化された符号化三次元データ６３４を受信する。復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する。合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を作成する。
これによれば、三次元データ作成装置６２０は、作成した第１三次元データ６３２と、受信した第２三次元データ６３５とを用いて、詳細な第３三次元データ６３６を作成できる。
また、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５を合成することで、第１三次元データ６３２及び第２三次元データ６３５よりも密度が高い第３三次元データ６３６を作成する。
また、第２三次元データ６３５（例えばＳＷＬＤ）は、第４三次元データ（例えばＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データである。
これによれば、三次元データ作成装置６２０は、伝送される三次元データのデータ量を削減できる。
また、三次元データ作成装置６２０は、さらに、符号化三次元データ６３４の送信元である送信装置を探索する探索部６２３を含む。受信部６２４は、探索された送信装置から符号化三次元データ６３４を受信する。
これによれば、三次元データ作成装置６２０は、例えば、必要な三次元データを所有する送信装置を探索により特定できる。
また、三次元データ作成装置は、さらに、三次元データを要求する三次元空間の範囲である要求範囲を決定する要求範囲決定部６２２を備える。探索部６２３は、要求範囲を示す要求範囲情報６３３を送信装置に送信する。第２三次元データ６３５は、要求範囲の三次元データを含む。
これによれば、三次元データ作成装置６２０は、必要な三次元データを受信できるとともに、伝送される三次元データのデータ量を削減できる。
また、要求範囲決定部６２２は、センサで検知できないオクルージョン領域６０４を含む空間範囲を要求範囲に決定する。
また、本実施の形態に係る三次元データ送信装置６４０では、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第５三次元データ６５２を作成する。抽出部６４３は、第５三次元データ６５２の一部を抽出することで第６三次元データ６５４を作成する。符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する。送信部６４５は、符号化三次元データ６３４を送信する。
これによれば、三次元データ送信装置６４０は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
また、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第７三次元データ（例えばＷＬＤ）を作成し、第７三次元データから特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（例えばＳＷＬＤ）を作成する。
これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
また、三次元データ送信装置６４０は、さらに、受信装置から、三次元データを要求する三次元空間の範囲である要求範囲を示す要求範囲情報６３３を受信する受信部６４２を含む。抽出部６４３は、第５三次元データ６５２から、要求範囲の三次元データを抽出することで第６三次元データ６５４を作成する。送信部６４５は、受信装置に符号化三次元データ６３４を送信する。
これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
（実施の形態４）
本実施の形態では、三次元マップに基づく自己位置推定における異常系の動作について説明する。
車の自動運転、又は、ロボット、或いはドローンなどの飛行体などの移動体を自律的に移動させるなどの用途が今後拡大すると予想される。このような自律的な移動を実現する手段の一例として、移動体が、三次元マップ内における自らの位置を推定（自己位置推定）しながら、マップに従って走行する方法がある。
自己位置推定は、三次元マップと、自車に搭載したレンジファインダー（ＬｉＤＡＲなど）又はステレオカメラなどのセンサにより取得した自車周辺の三次元情報（以降、自車検知三次元データ）とをマッチングして、三次元マップ内の自車位置を推定することで実現できる。
三次元マップは、ＨＥＲＥ社が提唱するＨＤマップなどのように、三次元のポイントクラウドだけでなく、道路及び交差点の形状情報など二次元の地図データ、又は、渋滞及び事故などの実時間で変化する情報を含んでもよい。三次元データ、二次元データ、実時間で変化するメタデータなど複数のレイヤから三次元マップが構成され、装置は、必要なデータのみを取得、又は、参照することも可能である。
ポイントクラウドのデータは、上述したＳＷＬＤであってもよいし、特徴点ではない点群データを含んでもよい。また、ポイントクラウドのデータの送受信は、１つ、または、複数のランダムアクセス単位を基本として行われる。
三次元マップと自車検知三次元データとのマッチング方法として以下の方法を用いることができる。例えば、装置は、互いのポイントクラウドにおける点群の形状を比較し、特徴点間の類似度が高い部位が同一位置であると決定する。また、装置は、三次元マップがＳＷＬＤから構成される場合、ＳＷＬＤを構成する特徴点と、自車検知三次元データから抽出した三次元特徴点とを比較してマッチングを行う。
ここで、高精度に自己位置推定を行うためには、（Ａ）三次元マップと自車検知三次元データが取得できており、かつ、（Ｂ）それらの精度が予め定められた基準を満たすことが必要となる。しかしながら、以下のような異常ケースでは、（Ａ）又は（Ｂ）が満たせない。
（１）三次元マップを通信経由で取得できない。
（２）三次元マップが存在しない、又は、三次元マップを取得したが破損している。
（３）自車のセンサが故障している、又は、悪天候のために、自車検知三次元データの生成精度が十分でない。
これらの異常ケースに対処するための動作を、以下で説明する。以下では、車を例に動作を説明するが、以下の手法は、ロボット又はドローンなど、自律的に移動する動物体全般に対して適用できる。
以下、三次元マップ又は自車検知三次元データにおける異常ケースに対応するための、本実施の形態に係る三次元情報処理装置の構成及び動作を説明する。図３４は、本実施の形態に係る三次元情報処理装置７００の構成例を示すブロック図である。図３５は、三次元情報処理装置７００による三次元情報処理方法のフローチャートである。
三次元情報処理装置７００は、例えば、自動車等の動物体に搭載される。図３４に示すように、三次元情報処理装置７００は、三次元マップ取得部７０１と、自車検知データ取得部７０２と、異常ケース判定部７０３と、対処動作決定部７０４と、動作制御部７０５とを備える。
なお、三次元情報処理装置７００は、二次元画像を取得するカメラ、又は、超音波或いはレーザーを用いた一次元データのセンサなど、自車周辺の構造物又は動物体を検知するための図示しない二次元又は一次元のセンサを備えてもよい。また、三次元情報処理装置７００は、三次元マップを４Ｇ或いは５Ｇなどの移動体通信網、又は、車車間通信或いは路車間通信により取得するための通信部（図示せず）を備えてもよい。
図３５に示すように、三次元マップ取得部７０１は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７０１）。例えば、三次元マップ取得部７０１は、移動体通信網、又は、車車間通信或いは路車間通信により三次元マップ７１１を取得する。
次に、自車検知データ取得部７０２は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７０２）。例えば、自車検知データ取得部７０２は、自車が備えるセンサにより取得されたセンサ情報に基づき、自車検知三次元データ７１２を生成する。
次に、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方に対して予め定められたチェックを実施することで異常ケースを検出する（Ｓ７０３）。つまり、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方が異常であるかを判定する。
ステップＳ７０３において、異常ケースが検出された場合（Ｓ７０４でＹｅｓ）、対処動作決定部７０４は、異常ケースに対する対処動作を決定する（Ｓ７０５）。次に、動作制御部７０５は、三次元マップ取得部７０１など、対処動作の実施に必要となる各処理部の動作を制御する（Ｓ７０６）。
一方、ステップＳ７０３において、異常ケースが検出されない場合（Ｓ７０４でＮｏ）、三次元情報処理装置７００は、処理を終了する。
また、三次元情報処理装置７００は、三次元マップ７１１と自車検知三次元データ７１２とを用いて、三次元情報処理装置７００を有する車両の自己位置推定を行う。次に、三次元情報処理装置７００は、自己位置推定の結果を用いて、当該車両を自動運転する。
このように、三次元情報処理装置７００は、第１の三次元位置情報を含むマップデータ（三次元マップ７１１）を通信路を介して取得する。例えば、第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含む。例えば、第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータ（ＳＷＬＤ）である。
また、三次元情報処理装置７００は、センサで検知した情報から第２の三次元位置情報（自車検知三次元データ７１２）を生成する。次に、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報に対して異常判定処理を実施することで、第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する。
三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する。次に、三次元情報処理装置７００は、対処動作の実施に必要となる制御を実施する。
これにより、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
以下、異常ケース１である、三次元マップ７１１が通信経由で取得できない場合に対する対処動作について説明する。
自己位置推定には三次元マップ７１１が必要であるが、車両は、目的地までの経路に対応する三次元マップ７１１を予め取得していない場合には、三次元マップ７１１を通信により取得する必要がある。しかしながら、通信路の輻輳又は電波受信状態の悪化などにより、車両が、走行系路上の三次元マップ７１１を取得できないことがある。
異常ケース判定部７０３は、目的地までの経路上の全ての区間、又は、現在位置から所定の範囲内の区間における三次元マップ７１１が取得済みであるかを確認し、取得できていない場合は異常ケース１と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できるかどうかを判定し、三次元マップ７１１を通信路を介して取得できない場合、三次元マップ７１１が異常であると判定する。
異常ケース１と判定された場合、対処動作決定部７０４は、（１）自己位置推定を継続する、及び、（２）自己位置推定を停止する、の２つのタイプの対処動作のうち一方を選択する。
まず、（１）自己位置推定を継続する場合の対処動作の具体例について説明する。自己位置推定を継続する場合には、目的地までの経路上の三次元マップ７１１が必要となる。
例えば、車両は、三次元マップ７１１を取得済みの範囲内で通信路が利用可能な場所を判定し、その場所まで移動して、三次元マップ７１１を取得する。このとき、車両は、目的地までの全ての三次元マップ７１１を取得してもよいし、自車のメモリ或いはＨＤＤなどの記録部に保持できる上限サイズ内でランダムアクセス単位毎に三次元マップ７１１を取得してもよい。
なお、車両は、経路上の通信状態を別途取得し、経路上の通信状態が不良となることが予測できる場合には、通信状態が不良である区間に到達する前に当該区間の三次元マップ７１１を予め取得しておく、又は、取得可能な最大限の範囲の三次元マップ７１１を取得しておくように動作してもよい。つまり、三次元情報処理装置７００は、車両が通信状態が悪い領域に進入するかを予測する。三次元情報処理装置７００は、車両が通信状態が悪い領域に進入すると予測された場合、当該車両が当該領域に侵入するまえに、三次元マップ７１１を取得する。
また、車両は、通常時よりも狭い範囲となる、経路上の自己位置推定に必要な最小限の三次元マップ７１１を構成するランダムアクセス単位を特定し、特定したランダムアクセス単位を受信してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できない場合、第１の三次元位置情報より狭い範囲の第３の三次元位置情報を通信路を介して取得してもよい。
また、車両は、三次元マップ７１１の配信サーバへのアクセスができない場合において、自車周辺を走行中の他車など、目的地までの経路上の三次元マップ７１１を取得済みであり、かつ、自車と通信可能な移動体から、三次元マップ７１１を取得してもよい。
次に、（２）自己位置推定を停止する場合の対処動作の具体例を説明する。この場合、目的地までの経路上の三次元マップ７１１は不要である。
例えば、車両は、自己位置推定に基づく自動運転などの機能が継続できない旨を運転者に通知し、動作モードを、運転者が運転を行うマニュアルモードに移行する。
通常、自己位置推定を行う際は、人の介在度に応じたレベルの違いはあるものの、自動運転が行われる。一方で、自己位置推定の結果は、人が運転する際のナビゲーション等としての利用することも可能である。よって、自己位置推定の結果は、必ずしも自動運転に使用されてなくてもよい。
また、車両は、４Ｇ又は５Ｇなどの移動体通信網など通常使用する通信路が利用できない場合は、路車間のＷｉ‐Ｆｉ（登録商標）或いはミリ波通信、又は、車車間の通信など、別の通信路経由で三次元マップ７１１を取得できるかどうかを確認し、使用する通信路を、三次元マップ７１１を取得可能な通信路に切り替えてもよい。
また、車両は、三次元マップ７１１を取得できない場合には、二次元マップを取得し、二次元マップと自車検知三次元データ７１２を用いて自動運転を継続してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１を通信路を介して取得できない場合、二次元位置情報を含むマップデータ（二次元マップ）を通信路を介して取得し、二次元位置情報と自車検知三次元データ７１２とを用いて車両の自己位置推定を行ってもよい。
具体的には、車両は、自己位置推定には、二次元マップと自車検知三次元データ７１２を使用し、周辺の車両、歩行者、及び障害物などの検知には自車検知三次元データ７１２を用いる。
ここで、ＨＤマップなどの地図データには、三次元のポイントクラウドなどから構成される三次元マップ７１１と共に、二次元の地図データ（二次元マップ）と、二次元の地図データから道路形状或いは交差点などの特徴的な情報を抜き出した簡易版の地図データと、渋滞、事故又は工事などの実時間情報を表すメタデータとを含めることができる。例えば、地図データは、下位レイヤから順に、三次元データ（三次元マップ７１１）、二次元データ（二次元マップ）、メタデータが配置されたレイヤ構造を有する。
ここで、二次元のデータは、三次元のデータに比べてデータサイズが小さい。よって、通信状態が悪くても車両は二次元マップを取得できる場合がある。または、車両は、通信状態が良い区間においてまとめて広い範囲の二次元マップを取得できる。従って、車両は、通信路の状態が悪く、三次元マップ７１１の取得が困難である場合は、三次元マップ７１１を受信せずに、二次元マップを含むレイヤを受信してもよい。なお、メタデータはデータサイズが小さいため、例えば、車両は、メタデータを通信状態によらず常に受信する。
二次元マップと自車検知三次元データ７１２を用いた自己位置推定の方法には、例えば、以下の２通りの方法がある。
第１の方法は、二次元特量のマッチングを行う方法である。具体的には、車両は、自車検知三次元データ７１２から二次元の特徴量を抽出し、抽出した二次元の特徴量と二次元マップとのマッチングを行う。
例えば、車両は、自車検知三次元データ７１２を二次元マップと同一の平面に投影し、得られた二次元データと、二次元マップとをマッチングする。マッチングは、両者から抽出された二次元の画像特徴量を用いて行われる。
三次元マップ７１１がＳＷＬＤを含む場合は、三次元マップ７１１は、三次元空間内の特徴点における三次元特徴量とともに、二次元マップと同一平面における二次元の特徴量を格納しておいてもよい。例えば、二次元の特徴量には識別情報が付与される。または、二次元の特徴量は、三次元データ及び二次元マップとは別レイヤに格納され、車両は、二次元マップと共に、二次元の特徴量のデータを取得する。
二次元マップが道路内の白線、ガードレール及び建物など、地上からの高さが異なる（同一平面内にない）位置の情報を同一マップ内に示す場合には、車両は、自車検知三次元データ７１２における複数の高さのデータから特徴量を抽出する。
また、二次元マップにおける特徴点と三次元マップ７１１における特徴点との対応関係を示す情報が、地図データのメタ情報として格納されてもよい。
第２の方法は、三次元特徴量のマッチングを行う方法である。具体的には、車両は、二次元マップにおける特徴点に対応する三次元特徴量を取得し、取得した三次元特徴量と、自車検知三次元データ７１２の三次元特徴量とをマッチングする。
具体的には、二次元マップにおける特徴点に対応する三次元特徴量が地図データに格納される。車両は、二次元マップの取得時に、この三次元特徴量を合わせて取得する。なお、三次元マップ７１１がＳＷＬＤを含む場合は、ＳＷＬＤにおける特徴点のうち、二次元マップの特徴点に対応する特徴点を識別する情報を付与することで、車両は、識別情報に基づいて、二次元マップと合わせて取得する三次元特徴量を決定できる。なお、この場合、二次元位置を表現できればよいので、三次元位置を表現する場合に比べて、データ量を削減できる。
また、二次元マップを使用して自己位置推定する際には、三次元マップ７１１よりも自己位置推定の精度が低下する。従って、車両は、推定精度が低下しても自動運転を継続できるかどうか判定し、継続可と判定された場合にのみ、自動運転を継続してもよい。
自動運転が継続できるかは、車両が走行中の道路が市街地、又は、高速道路など他の車両又は歩行者の進入が少ない道路であるか、道幅或いは道路の混雑度（車両又は歩行者の密度）などの走行環境にも影響される。さらに、事業所の敷地、街、又は建物内などには、カメラなどのセンサで認識するためのマーカーを配置することも可能である。これら特定エリアにおいては、二次元のセンサによってマーカーを高精度に認識できるため、例えば、二次元マップ内にマーカーの位置情報を含めることで、自己位置推定を高精度に実施できる。
また、マップ内に各エリアが特定エリアであるかどうかを示す識別情報を含めることなどにより、車両は、当該車両が特定エリア内に存在するかを判定できる。車両は、当該車両が特定エリア内に存在する場合には、自動運転を継続すると判定する。このように、車両は、二次元マップ使用時の自己位置推定の精度、又は車両の走行環境に基づいて、自動運転継続の可否を判定してもよい。
このように、三次元情報処理装置７００は、車両の走行環境（移動体の移動環境）に基づき、二次元マップと自車検知三次元データ７１２とを用いた車両の自己位置推定の結果を用いた車両の自動運転を行うか否かを判定する。
また、車両は、自動運転継続の可否でなはなく、自己位置推定の精度又は車両の走行環境に応じて、自動運転のレベル（モード）を切り替えてもよい。ここで自動運転のレベル（モード）を切り替えるとは、例えば、速度を制限する、ドライバーの操作量を増やす（自動運転の自動レベルを下げる）、前方を走る車の運転情報を得てそれを参考に運転するモードに切り替える、同一の目的地を設定している車の運転情報を得てそれを用いて自動運転するモードに切り替える、などである。
また、マップは、位置情報と対応付けられた、二次元マップを用いて自己位置推定する場合の自動運転の推奨レベルを示す情報を含んでもよい。推奨レベルは、交通量などに応じて動的に変化するメタデータであってもよい。これにより、車両は、周辺の環境等に応じて逐次レベルを判定することなく、マップ内の情報を取得するだけでレベルを決定できる。また、複数の車両が同一マップを参照することで、個々の車両の自動運転のレベルを一定に保つことができる。なお、推奨レベルは、推奨ではなく、遵守が必須であるレベルであってもよい。
また、車両は、運転者の有無（有人及び無人のいずれであるか）に応じて、自動運転のレベルの切り替えを行ってもよい。例えば、車両は、有人であれば自動運転のレベルを下げ、無人の場合には停止する。車両は、安全に停止できる位置を、周辺の通行者、車両及び交通標識を認識することによって判定する。または、マップは、車両が安全に停止できる位置を示す位置情報を含み、車両は当該位置情報を参照して安全に停止できる位置を判定してもよい。
次に、異常ケース２である、三次元マップ７１１が存在しない、又は、三次元マップ７１１を取得したが破損している場合に対する対処動作について説明する。
異常ケース判定部７０３は、（１）目的地までの経路上の一部或いは全ての区間における三次元マップ７１１が、アクセス先となる配信サーバなどに存在せず、取得できない、又は、（２）取得済みの三次元マップ７１１の一部或いは全てが破損している、のいずれかに当てはまるかを確認し、当てはまる場合には異常ケース２と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１のデータが完全であるかどうかを判定し、三次元マップ７１１のデータが完全でない場合、三次元マップ７１１が異常であると判定する。
異常ケース２と判定された場合、以下の対処動作が行われる。まず、（１）三次元マップ７１１を取得できない場合の対処動作の例を説明する。
例えば、車両は、三次元マップ７１１が存在しない区間を通らない経路を設定する。
また、車両は、代替の経路が存在しない、又は、代替の経路が存在するが距離が大幅に増加するなどの理由から、代替の経路が設定できない場合は、三次元マップ７１１が存在しない区間を含む経路を設定する。また、車両は、当該区間では運転者に、運転モードを切り替える旨を通知し、運転モードをマニュアルモードに切り替える。
（２）取得済みの三次元マップ７１１の一部或いは全てが破損している場合には以下の対処動作が行われる。
車両は、三次元マップ７１１における破損部位を特定し、通信により破損部位のデータを要求し、当該破損部位のデータを取得して、取得したデータを用いて三次元マップ７１１を更新する。このとき、車両は、破損部位を、三次元マップ７１１における絶対座標又は相対座標などの位置情報により指定してもよいし、破損部位を構成するランダムアクセス単位のインデックス番号などにより指定してもよい。この場合、車両は、破損部位を含むランダムアクセス単位を、取得したランダムアクセス単位で置き換える。
次に、異常ケース３である、自車のセンサが故障又は悪天候のために、自車検知三次元データ７１２が生成できない場合に対する対処動作について説明する。
異常ケース判定部７０３は、自車検知三次元データ７１２の生成誤差が許容範囲内であるかを確認し、許容範囲でなければ異常ケース３と判定する。つまり、異常ケース判定部７０３は、自車検知三次元データ７１２のデータの生成精度が基準値以上であるかどうかを判定し、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、自車検知三次元データ７１２が異常であると判定する。
自車検知三次元データ７１２の生成誤差が許容範囲内であるかどうかの確認方法としては以下の方法を用いることができる。
レンジファインダー又はステレオカメラなど自車の三次元センサにおける奥行き方向及びスキャン方向の分解能、又は、生成可能な点群の密度などに基づいて、正常動作時の自車検知三次元データ７１２の空間分解能が予め決定される。また、車両は、三次元マップ７１１の空間分解能を、三次元マップ７１１に含まれるメタ情報などから取得する。
車両は、両者の空間分解能を用いて、自車検知三次元データ７１２と三次元マップ７１１とを、三次元特徴量などに基づいてマッチングする際のマッチング誤差の基準値を推定する。マッチング誤差としては、特徴点毎の三次元特徴量の誤差、複数の特徴点間の三次元特徴量の誤差の平均値などの統計量、又は、複数の特徴点間の空間的な距離の誤差などを利用できる。基準値からのズレの許容範囲は予め設定される。
車両は、走行開始前又は走行中に生成した自車検知三次元データ７１２と三次元マップ７１１とのマッチング誤差が許容範囲内でなければ、異常ケース３と判定する。
または、車両は、精度チェック用の既知の三次元形状を有するテストパターンを用いて、走行開始前などにテストパターンに対する自車検知三次元データ７１２を取得し、形状誤差が許容範囲内であるかに基づいて異常ケース３であるかを判定してもよい。
例えば、車両は、走行開始前に毎回、上記判定を行う。または、車両は、走行中に一定の時間間隔などで上記判定を行うことで、マッチング誤差の時系列変化を取得する。車両は、マッチング誤差が増加傾向にある際には、誤差が許容範囲内であっても異常ケース３と判定してもよい。また、車両は、時系列変化に基づいて、異常となることが予測できる場合には、検査又は修理を促す旨のメッセージを表示するなど、ユーザーに異常となることが予測されたことを通知してもよい。また、車両は、悪天候など一過性の要因に基づく異常と、センサの故障に基づく異常とを、時系列変化により判定し、センサの故障に基づく異常のみをユーザーに通知してもよい。
また、車両は、異常ケース３と判定された場合、（１）非常用の代替センサを作動させる（レスキューモード）、（２）運転モードを切り替える、（３）三次元センサの動作補正を行う、の３つのタイプの対処動作のいずれか、又はこれらを選択的に行う。
まず、（１）非常用の代替センサを作動する場合について説明する。車両は、通常運転時に使用する三次元センサとは異なる、非常用の代替センサを作動させる。つまり、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、通常のセンサとは異なる代替センサで検知した情報から自車検知三次元データ７１２（第４の三次元位置情報）を生成する。
具体的には、車両が、複数のカメラ又はＬｉＤＡＲを併用して自車検知三次元データ７１２を取得する場合には、車両は、自車検知三次元データ７１２のマッチング誤差が許容範囲を超える方向などに基づいて、動作不良のセンサを特定する。そして、車両は、動作不良のセンサに対応する代替センサを作動する。
代替センサは、三次元センサであってもよいし、二次元画像を取得できるカメラであってもよいし、超音波などの一次元センサなどであってもよい。代替センサが三次元センサ以外のセンサの場合には、自己位置推定の精度が低下する、又は、自己位置推定ができないことがあるため、車両は、代替センサの種類に応じて自動運転のモードを切り替えてもよい。
例えば、車両は、代替センサが三次元センサである場合には自動運転モードを継続する。また、車両は、代替センサが二次元センサである場合には、完全自動運転から人の運転操作を前提とする準自動運転モードに運転モードを変更する。また、車両は、代替センサが一次元センサである場合には、自動的な制動制御を行わないマニュアルモードに運転モードを切り替える。
また、車両は、走行環境に基づいて自動運転モードを切り替えてもよい。例えば、車両は、代替センサが二次元センサである場合において、高速道路を走行中であれば完全自動運転モードを継続し、市街地を走行中であれば運転モードを準自動運転モードに切り替える。
また、車両は、代替センサが存在しない場合であっても、正常に動作しているセンサのみで十分な数の特徴点が取得できれば、自己位置推定を継続してもよい。ただし、特定方向に対する検知が不能になるため、車両は、運転モードを、準自動運転又はマニュアルモードに切り替える。
次に、（２）運転モードを切り替える対処動作について説明する。車両は、自動運転モードからマニュアルモードに運転モードを切り替える。または、車両は、路肩などの安全に停止できる場所まで自動運転を継続し、停止してもよい。また、車両は、停止後に運転モードをマニュアルモードに切り替えてもよい。このように、三次元情報処理装置７００は、自車検知三次元データ７１２の生成精度が基準値以上でない場合、自動運転のモードを切り替える。
次に（３）三次元センサの動作補正を行う対処動作について説明する。車両は、マッチング誤差が発生する方向などから動作不良の三次元センサを特定し、特定したセンサのキャリブレーションを行う。具体的には、センサとして、複数のＬｉＤＡＲ又はカメラが使用され場合には、各センサにより再構成される三次元空間の一部がオーバーラップする。すなわち、オーバーラップ部分のデータは、複数のセンサにより取得される。正常なセンサと動作不良のセンサとでは、オーバーラップ部分に対して取得される三次元の点群データが異なる。従って、車両は、動作不良のセンサが正常なセンサと同等の三次元の点群データを取得できるように、ＬｉＤＡＲの原点補正を行う、又は、カメラの露出或いはフォーカスなど、予め定めた箇所の動作を調整する。
車両は、調整後に、マッチング誤差が許容範囲内に収まれば、直前の運転モードを継続する。一方、調整後も、マッチング精度が許容範囲内に収まらなければ、車両は、上記（１）非常用の代替センサを作動する対処動作、又は（２）運転モードを切り替える対処動作を行う。
このように、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、センサの動作補正を行う。
以下、対処動作の選択方法について説明する。対処動作は、運転者などのユーザーが選択してもよいし、ユーザーを介さずに車両が自動的に選択してもよい。
また、車両は、運転者が同乗しているかどうかに応じて制御を切り替えてもよい。例えば、運転者が同乗している場合には、車両は、マニュアルモードへの切り替えを優先する。一方、運転者が同乗しない場合には、車両は、安全な場所に移動して停止するモードを優先する。
停止場所を示す情報は、三次元マップ７１１にメタ情報として含まれてもよい。または、車両は、自動運転者の運行情報を管理するサービスに対して停止場所の回答要求を発行し、停止場所を示す情報を取得してもよい。
また、車両が既定の路線を運行する場合などでは、通信路を介してオペレータが車両の運行を管理するモードに車両の運転モードが移行されてもよい。特に、完全自動運転モードで走行中の車両における自己位置推定機能の異常は、危険性が高い。従って、車両は、異常ケースの検出時、又は、検出した異常を修正できない場合には、通信路を介して、運行情報を管理するサービスに対して異常の発生を通知する。当該サービスは、当該車両の周辺を走行中の車両などに、異常発生車両の存在を通知する、又は、近傍の停止場所を空けるように指示してもよい。
また、車両は、異常ケースの検出時には、通常時よりも走行速度を落としてもよい。
車両が、タクシーなどの配車サービスを行う自動運転車であり、当該車両に異常ケースが発生した場合には、当該車両は、運行管理センターに連絡を行い、安全な場所に停止する。また、配車サービスは、代わりの車両は配車する。または、配車サービスの利用者が車両を運転してもよい。これらのケースでは、料金の割引又は特典ポイントの付与なども併用されてもよい。
また、異常ケース１の対処方法において、二次元マップに基づいて自己位置推定を行う方法について述べたが、通常時においても、二次元マップを用いて自己位置推定を行ってもよい。図３６は、この場合の自己位置推定処理のフローチャートである。
まず、車両は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７１１）。次に、車両は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７１２）。
次に、車両は、自己位置推定に三次元マップ７１１が必要かどうかを判定する（Ｓ７１３）。具体的には、車両は、二次元マップ使用時の自己位置推定の精度と、走行環境に基づいて、三次元マップ７１１の要否を判定する。例えば、上述した異常ケース１の対処方法と同様の方法が用いられる。
三次元マップ７１１が必要でないと判定された場合（Ｓ７１４でＮｏ）、車両は、二次元マップを取得する（Ｓ７１５）。このとき、車両は、異常ケース１の対処方法で述べたような付加情報を合わせて取得してもよい。また、車両は、三次元マップ７１１から二次元マップを生成してもよい。例えば、車両は、三次元マップ７１１からに任意の平面を切り出すことで二次元マップを生成してもよい。
次に、車両は、自車検知三次元データ７１２と二次元マップとを用いて自己位置推定を行う（Ｓ７１６）。なお、二次元マップを用いた自己位置推定の方法は、例えば、上述した異常ケース１の対処方法で述べて方法と同様である。
一方、三次元マップ７１１が必要であると判定された場合（Ｓ７１４でＹｅｓ）、車両は、三次元マップ７１１を取得する（Ｓ７１７）。次に、車両は、自車検知三次元データ７１２と三次元マップ７１１とを用いて自己位置推定を行う（Ｓ７１８）。
なお、車両は、自車の通信機器の対応する速度、又は通信路の状況に応じて、二次元マップを基本として用いるか、三次元マップ７１１を基本として用いるかを切り替えてもよい。例えば、三次元マップ７１１を受信しながら走行する際に必要となる通信速度が予め設定され、車両は、走行時の通信速度が設定値以下の場合には二次元マップを基本として用い、走行時の通信速度が設定より大きい場合には三次元マップ７１１を基本として用いてもよい。なお、車両は、二次元マップ、または三次元マップのいずれを採用するか切り替える判定をせずに、二次元マップを基本として用いてもよい。
以上、本開示の実施の形態に係る三次元情報処理装置について説明したが、本開示は、この実施の形態に限定されるものではない。
また、上記実施の形態に係る三次元情報処理装置に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、本開示は、三次元情報処理装置により実行される三次元情報処理方法として実現されてもよい。
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
以上、一つまたは複数の態様に係る三次元情報処理装置について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
（実施の形態５）
上記各実施の形態で示した画像処理方法及び装置の構成の他の応用例とそれを用いたシステムを説明する。当該システムは、インテリジェント化と対象空間の広域化とが進む映像システムに適用でき、例えば、（１）店舗或いは工場のセキュリティカメラ、又は警察の車載カメラなどに実装される監視システム、（２）個人所有のカメラ或いは各車載カメラ、又は道路に備えられたカメラなどを用いた交通情報システム、（３）ドローンなど遠隔操作又は自動制御可能な装置を用いた環境調査又は配送システム、及び（４）エンターテイメント施設又はスタジアム等における設置カメラ、ドローン等の移動カメラ、又は個人所有のカメラなどを用いた映像などのコンテンツ送受信システムなどに適用できる。
図３７は、本実施の形態における映像情報処理システムｅｘ１００の構成を示す図である。本実施の形態においては、死角の発生を防止する例、及び特定の領域を撮影禁止にする例について説明する。
図３７に示す映像情報処理システムｅｘ１００は、映像情報処理装置ｅｘ１０１と、複数のカメラｅｘ１０２と、映像受信装置ｅｘ１０３とを含む。なお、映像受信装置ｅｘ１０３は、必ずしも映像情報処理システムｅｘ１００に含まれる必要はない。
映像情報処理装置ｅｘ１０１は、保存部ｅｘ１１１と、解析部ｅｘ１１２とを備える。Ｎ個のカメラｅｘ１０２のそれぞれは、映像を撮影する機能と撮影した映像データを映像情報処理装置ｅｘ１０１に送信する機能とを有する。また、カメラｅｘ１０２は、撮影中の映像を表示する機能を有する場合もある。なお、カメラｅｘ１０２は、撮影された映像信号をＨＥＶＣ又はＨ．２６４のような符号化方式を用いてエンコードしたうえで映像情報処理装置ｅｘ１０１に送信してよいし、エンコードされていない映像データを映像情報処理装置ｅｘ１０１に送信してもよい。
ここで、各カメラｅｘ１０２は、監視カメラ等の固定カメラ、無人飛行型ラジコンや車等に搭載された移動カメラ、又は、ユーザが所持するユーザカメラである。
移動カメラは、映像情報処理装置ｅｘ１０１から送信された指示信号を受信し、受信された指示信号に応じて、移動カメラ自体の位置又は撮影方向を変更する。
また、撮影開示前に複数のカメラｅｘ１０２の時刻が、サーバ又は基準カメラの時刻情報などを用いてキャリブレーションされる。また、複数のカメラｅｘ１０２の空間位置が、撮影対象となる空間のオブジェクトの写り方又は基準カメラからの相対位置に基づいてキャリブレーションされる。
情報処理装置ｅｘ１０１に含まれる保存部ｅｘ１１１は、Ｎ個のカメラｅｘ１０２から送信された映像データを保存する。
解析部ｅｘ１１２は、保存部ｅｘ１１１に保存された映像データから死角を検出し、死角の発生を防止するための移動カメラへの指示を示す指示信号を移動カメラへ送信する。移動カメラは指示信号に従って移動を行い、撮影を継続する。
解析部ｅｘ１１２は、例えば、ＳｆＭ（Ｓｔｒｕｃｔｕｒｅ ｆｒｏｍ Ｍｏｔｉｏｎ）を用いて死角検出を行う。ＳｆＭとは、異なる位置から撮影された複数の映像から被写体の三次元形状を復元する手法であり、被写体形状及びカメラ位置を同時に推定する形状復元技術として広く知られている。例えば、解析部ｅｘ１１２は、ＳｆＭを用いて、保存部ｅｘ１１１に保存された映像データから施設内又はスタジアム内の三次元形状を復元し、復元できない領域を死角として検出する。
なお、解析部ｅｘ１１２は、カメラｅｘ１０２の位置及び撮影方向が固定であり、位置及び撮影方向の情報が既知の場合は、これらの既知の情報を用いてＳｆＭを行ってもよい。また、移動カメラの位置及び撮影方向が、移動カメラが備えるＧＰＳ及び角度センサ等により取得できる場合は、移動カメラは、当該移動カメラの位置及び撮影方向の情報を解析部ｅｘ１１２に送信し、解析部ｅｘ１１２は、送信された位置及び撮影方向の情報を用いてＳｆＭを行ってもよい。
なお、死角検出の方法は上述したＳｆＭを用いた方法に限られるものではない。例えば、解析部ｅｘ１１２は、レーザレンジファインダなどのデプスセンサの情報を用いることで、撮影対象であるオブジェクトの空間距離を把握してもよい。また、解析部ｅｘ１１２は、カメラ位置、撮影方向及びズーム倍率等の情報を、空間内の予め設定したマーカ又は特定のオブジェクトが画像に含まれるか、含まれる場合にはそのサイズ等から検出してもよい。このように、解析部ｅｘ１１２は、各カメラの撮影領域を検出できる任意の方法を用いて、死角の検出を行う。また、解析部ｅｘ１１２は、複数の撮影対象について互いの位置関係等の情報を映像データ又は近接距離センサ等から取得し、取得した位置関係に基づいて死角が発生する可能性の高い領域を特定してもよい。
ここで死角とは、撮影したい領域中で映像が存在しない部分だけでなく、他の部分と比較して画質の悪い部分、及び予め定められた画質を得られていない部分などを含む。この検出対象の部分は、当該システムの構成又は目的に応じて適宜設定されればよい。例えば、撮影される空間中の特定の被写体について、要求される画質が高く設定されてもよい。また、逆に撮影空間中の特定の領域について、要求される画質が低く設定されてもよいし、映像が撮影されていなくても死角と判定しないように設定されてもよい。
なお、上述した画質とは、映像中の撮影対象となる被写体が占める面積（例えばピクセル数）、又は撮影対象となる被写体にピントが合っているかといった映像に関する様々な情報を含むものであり、それらの情報又はその組み合わせを基準に死角であるか否かが判定されればよい。
なお、上記の説明では、実際に死角となっている領域の検出について説明したが、死角の発生を防止するために検出する必要のある領域は実際に死角となっている領域に限定されない。例えば、複数の撮影対象が存在し、少なくともその一部が移動している場合には、ある撮影対象とカメラとの間に別の撮影対象が入ることによって新たな死角が生じる可能性がある。これに対し、解析部ｅｘ１１２は、例えば撮影された映像データ等から複数の撮影対象の動きを検出し、検出された複数の撮影対象の動きとカメラｅｘ１０２の位置情報に基づいて、新たに死角となる可能性のある領域を推定してもよい。この場合、映像情報処理装置ｅｘ１０１は、死角となる可能性のある領域を撮影するように移動カメラに指示信号を送信し、死角の発生を防止してもよい。
なお、移動カメラが複数ある場合、映像情報処理装置ｅｘ１０１は、死角、又は死角となる可能性がある領域を撮影させるために指示信号を送信する移動カメラを選択する必要がある。また、移動カメラ及び死角、又は死角となる可能性がある領域がそれぞれ複数存在する場合、映像情報処理装置ｅｘ１０１は、複数の移動カメラのそれぞれについて、どの死角、又は死角となる可能性がある領域を撮影させるかを決定する必要がある。例えば、映像情報処理装置ｅｘ１０１は、死角、又は死角となる可能性のある領域と各移動カメラが撮影中の領域の位置とに基づいて、死角、又は死角となる領域に最も近い移動カメラを選択する。また、映像情報処理装置ｅｘ１０１は、各移動カメラについて、当該移動カメラが現在撮影中の映像データが得られない場合に新たに死角が発生するか否かを判定し、現在撮影中の映像データが得られなくても死角が発生しないと判断された移動カメラを選択してもよい。
以上の構成により、映像情報処理装置ｅｘ１０１は、死角を検出し、死角を防止するように移動カメラに対して指示信号を送信することにより、死角の発生を防止できる。
（変形例１）
なお、上記説明では、移動カメラに移動を指示する指示信号が送信される例を述べたが、指示信号は、ユーザカメラのユーザに移動を指示するための信号であってもよい。例えば、ユーザカメラは、指示信号に基づき、ユーザにカメラの方向を変更するように指示する指示画像を表示する。なお、ユーザカメラは、ユーザの移動の指示として、地図上に移動経路を示した指示画像を表示してもよい。また、ユーザカメラは、取得される画像の質を向上させるために撮影方向、角度、画角、画質、及び撮影領域の移動など詳細な撮影の指示を表示してもよく、さらに映像情報処理装置ｅｘ１０１側で制御可能であれば、映像情報処理装置ｅｘ１０１は、そのような撮影に関するカメラｅｘ１０２の特徴量を自動で制御してもよい。
ここで、ユーザカメラは、例えば、スタジアム内の観客又は施設内の警備員が持つスマートフォン、タブレット型端末、ウェアラブル端末、又はＨＭＤ（Ｈｅａｄ Ｍｏｕｎｔｅｄ Ｄｉｓｐｌａｙ）である。
また、指示画像を表示する表示端末は、映像データを撮影するユーザカメラと同一である必要はない。例えば、ユーザカメラに予め対応付けられた表示端末に対して、ユーザカメラが指示信号又は指示画像を送信し、当該表示端末が指示画像を表示してもよい。また、ユーザカメラに対応する表示端末の情報が、予め映像情報処理装置ｅｘ１０１に登録されてもよい。この場合は、映像情報処理装置ｅｘ１０１は、ユーザカメラに対応する表示端末に対して指示信号を直接送信することで、表示端末に指示画像を表示させてもよい。
（変形例２）
解析部ｅｘ１１２は、例えばＳｆＭを用いて、保存部ｅｘ１１１に保存された映像データから施設内又はスタジアム内の三次元形状を復元することで自由視点映像（三次元再構成データ）を生成してもよい。この自由視点映像は、保存部ｅｘ１１１に保存される。映像情報処理装置ｅｘ１０１は、映像受信装置ｅｘ１０３から送信される視野情報（及び／又は、視点情報）に応じた映像データを保存部ｅｘ１１１から読み出して、映像受信装置ｅｘ１０３に送信する。なお、映像受信装置ｅｘ１０３は、複数のカメラの一つであってもよい。
（変形例３）
映像情報処理装置ｅｘ１０１は、撮影禁止領域を検出してもよい。この場合、解析部ｅｘ１１２は撮影画像を解析し、移動カメラが撮影禁止領域を撮影している場合には移動カメラに対して撮影禁止信号を送信する。移動カメラは撮影禁止信号を受信している間は撮影を停止する。
解析部ｅｘ１１２は、例えば、ＳｆＭを用いて復元された三次元の仮想空間と、撮影映像とのマッチングを取ることで、空間内で予め設定されている移動カメラが撮影禁止領域を撮影中かを判定する。または、解析部ｅｘ１１２は、空間内に配置されたマーカ又は特徴的なオブジェクトをトリガーとして移動カメラが撮影禁止領域を撮影中かを判定する。撮影禁止領域とは、例えば施設内又はスタジアム内のトイレなどである。
また、ユーザカメラが撮影禁止領域を撮影している場合には、ユーザカメラは、無線又は有線で接続されるディスプレイ等にメッセージを表示したり、スピーカ又はイヤホンから音又は音声を出力したりすることで、現在の場所が撮影禁止場所であることをユーザに知らせてもよい。
例えば、上記メッセージとして、現在カメラを向けている方向が撮影禁止である旨が表示される。または、表示される地図上に撮影禁止領域と現在の撮影領域とが示される。また、撮影の再開は、例えば、撮影禁止信号が出力されなくなれば自動的に行われる。または、撮影禁止信号が出力されておらず、かつ、ユーザが撮影再開を行う操作をした場合に、撮影が再開されてもよい。また、撮影の停止と再開とが短期間で複数回起こった場合には、再度キャリブレーションが行われてもよい。または、ユーザに現在位置を確認したり移動を促したりするための通知が行われてもよい。
また、警察など特別な業務の場合には、記録のためこのような機能をオフにするパスコード又は指紋認証などが用いられてもよい。さらに、そのような場合であっても撮影禁止領域の映像が外部に表示されたり保存される場合には自動でモザイクなど画像処理が行われてもよい。
以上の構成により、映像情報処理装置ｅｘ１０１は、撮影禁止の判定を行い、撮影を停止するようにユーザに通知することで、ある領域を撮影禁止に設定できる。
（変形例４）
映像から三次元の仮想空間を構築するためには、複数視点の映像を集める必要があるため、映像情報処理システムｅｘ１００は、撮影映像を転送したユーザに対してインセンティブを設定する。例えば、映像情報処理装置ｅｘ１０１は、映像を転送したユーザに対し、無料又は割引料金で映像配信を行ったり、オンライン又はオフラインの店又はゲーム内で使用できるような金銭的な価値、又はゲームなどのバーチャル空間での社会的地位など非金銭的な価値のあるポイントを付与する。また、映像情報処理装置ｅｘ１０１は、リクエストが多いなど価値のある視野（及び／又は、視点）の撮影映像を転送したユーザに対しては特に高いポイントを付与する。
（変形例５）
映像情報処理装置ｅｘ１０１は、解析部ｅｘ１１２の解析結果に基づき、ユーザカメラに対して付加情報を送信してもよい。この場合、ユーザカメラは撮影映像に付加情報を重畳して、画面に表示する。付加情報とは、例えば、スタジアムでの試合が撮影されている場合には、選手名又は身長などの選手の情報であり、映像内の各選手に対応付けて当該選手の名前又は顔写真などが表示される。なお、映像情報処理装置ｅｘ１０１は、映像データの一部又は全部の領域に基づきインターネット経由の検索により、付加情報を抽出してもよい。また、カメラｅｘ１０２は、Ｂｌｕｅｔｏｏｔｈ（登録商標）をはじめとする近距離無線通信又は、スタジアム等の照明から可視光通信によりそのような付加情報を受け取り、受け取った付加情報を、映像データにマッピングしてもよい。また、カメラｅｘ１０２は、このマッピングを、カメラｅｘ１０２に有線又は無線により接続される記憶部に保持されるテーブルであって、可視光通信技術により得られる情報と付加情報との対応関係を示すテーブルなどの一定規則に基づいて行なってもよいし、インターネット検索により最も確からしい組み合わせの結果を用いて行なってもよい。
また、監視システムにおいては、施設内の警備員が持つユーザカメラに対して、例えば注意人物の情報が重畳されることで、監視システムの高精度化を図ることができる。
（変形例６）
解析部ｅｘ１１２は，自由視点映像とユーザカメラの撮影映像とのマッチングを取ることで、ユーザカメラが施設内又はスタジアム内のどの領域を撮影中かを判定してもよい。なお、撮影領域の判定方法はこれに限られず、上述した各実施の形態で説明した様々な撮影領域の判定方法又はその他の撮影領域の判定方法を用いられてもよい。
映像情報処理装置ｅｘ１０１は、解析部ｅｘ１１２の解析結果に基づき、ユーザカメラに対して過去映像を送信する。ユーザカメラは撮影映像に過去映像を重畳して、又は撮影映像を過去映像に置換して、画面に表示する。
例えば、ハーフタイム中に、過去映像として前半のハイライトシーンが表示される。これにより、ユーザはハーフタイム中に、前半のハイライトシーンを自分が見ている方向の映像として楽しむことができる。なお過去映像は、前半のハイライトシーンに限らず、そのスタジアムで行われた過去の試合のハイライトシーンなどでもよい。また、映像情報処理装置ｅｘ１０１が過去映像を配信するタイミングはハーフタイム中に限らず、例えば試合終了後でも、試合中でもよい。特に試合中の場合には、解析部ｅｘ１１２の解析結果に基づき、映像情報処理装置ｅｘ１０１はユーザが見逃した重要と考えられるシーンを配信してもよい。また、映像情報処理装置ｅｘ１０１はユーザからリクエストがあった場合のみ過去映像を配信してもよく、又は過去映像の配信前に配信許可のメッセージを配信してもよい。
（変形例７）
映像情報処理装置ｅｘ１０１は、解析部ｅｘ１１２の解析結果に基づき、ユーザカメラに対して広告情報を送信してもよい。ユーザカメラは撮影映像に広告情報を重畳して、画面に表示する。
広告情報は例えば変形例６で示した、ハーフタイム中又は試合終了後の過去映像配信直前に配信されてもよい。これにより、配信業者は広告主からの広告料を得ることができ、ユーザに安価又は無料で映像配信サービスを提供できる。また、映像情報処理装置ｅｘ１０１は、広告情報の配信直前に広告配信許可のメッセージを配信してもよいし、ユーザが広告を視聴した場合のみ無料でサービスを提供してもよいし、広告を視聴しない場合より安価にサービスを提供してもよい。
また、広告に従ってユーザが「今すぐ注文する」などをクリックすると、当該システム又は何らかの位置情報に基づいてユーザの位置を把握しているスタッフ又は会場の自動の配送システムが注文された飲み物を席まで届けてくれる。決裁はスタッフへの手渡しでもよいし、予めモバイル端末のアプリ等に設定されているクレジットカード情報に基づいて行われてもよい。また、広告にはｅコマースサイトへのリンクが含まれ、通常の自宅配送等のオンラインショッピングが可能な状態になっていてもよい。
（変形例８）
映像受信装置ｅｘ１０３は、カメラｅｘ１０２（ユーザカメラ）の一つであってもよい。この場合、解析部ｅｘ１１２は、自由視点映像とユーザカメラの撮影映像とのマッチングを取ることで、ユーザカメラが施設内又はスタジアム内のどの領域を撮影中かを判定する。なお、撮影領域の判定方法はこれに限らない。
例えば、ユーザが、画面に表示されている矢印の方向にスワイプ操作をすると、ユーザカメラはその方向へ視点を移動させることを示す視点情報を生成する。映像情報処理装置ｅｘ１０１は、解析部ｅｘ１１２が判定したユーザカメラの撮影領域から視点情報の分だけ移動させた領域を撮影した映像データを保存部ｅｘ１１１から読み出し、当該映像データのユーザカメラへの送信を開始する。そしてユーザカメラは撮影映像ではなく、映像情報処理装置ｅｘ１０１から配信された映像を表示する。
以上により、施設内又はスタジアム内のユーザは、画面スワイプのような簡易な動作で、好きな視点からの映像を視聴できる。例えば野球場の３塁側で観戦している観客が、１塁側の視点からの映像を視聴できる。また、監視システムにおいては、施設内の警備員が画面スワイプのような簡易な動作で、自身が確認したい視点又はセンターからの割り込みとして注視すべき映像などを、視点を適用的に変えながら視聴することができるので、監視システムの高精度化を図ることができる。
また、施設内又はスタジアム内のユーザへの映像の配信は、例えばユーザカメラと撮影対象との間に障害物が存在し、見えない領域がある場合等にも有効である。この場合、ユーザカメラは、ユーザカメラの撮影領域のうち障害物が含まれる一部の領域の映像を、撮影映像から、映像情報処理装置ｅｘ１０１からの配信映像に切り替えて表示してもよいし、画面全体を撮影映像から配信映像に切り替えて表示してもよい。また、ユーザカメラは、撮影映像と配信映像とを合成して障害物を透過して視聴対象が見えているような映像を表示してもよい。この構成によると、障害物の影響でユーザの位置から撮影対象が見えない場合にも、映像情報処理装置ｅｘ１０１から配信された映像を視聴することができるので、障害物の影響を軽減することができる。
また、障害物により見えない領域の映像として配信映像を表示する場合は、上述した画面スワイプのようなユーザによる入力処理に応じた表示の切り替え制御とは異なる表示の切り替え制御が行われてもよい。例えば、ユーザカメラの移動及び撮影方向の情報、並びに予め得られている障害物の位置情報に基づいて撮影領域に障害物が含まれると判定される場合に、撮影映像から配信映像への表示の切り替えが自動的に行われもよい。また、撮影映像データの解析により撮影対象ではない障害物が映っていると判定された場合に、撮影映像から配信映像への表示の切り替えが自動的に行われてもよい。また、撮影映像に含まれる障害物の面積（例えばピクセル数）が所定の閾値を超えた場合、又は撮影対象の面積に対する障害物の面積の比が所定の割合を超えた場合に、撮影映像から配信映像への表示の切り替えが自動的に行われてもよい。
なお、ユーザの入力処理に応じて撮影映像から配信映像への表示の切り替え及び配信映像から撮影映像への表示の切り替えが行われてもよい。
（変形例９）
各カメラｅｘ１０２で撮影された映像データの重要度に基づき映像データを映像情報処理装置ｅｘ１０１に転送する速度が指示されてもよい。
この場合、解析部ｅｘ１１２は保存部ｅｘ１１１に保存された映像データ、又は当該映像データを撮影したカメラｅｘ１０２の重要度を判定する。ここでの重要度の判定は、例えば映像中に含まれる人の数或いは移動物体の数、映像データの画質などの情報、又はその組み合わせに基づいて行われる。
また、映像データの重要度の判定は、映像データが撮影されたカメラｅｘ１０２の位置又は映像データが撮影している領域に基づいてもよい。例えば、対象のカメラｅｘ１０２の近くに撮影中の他のカメラｅｘ１０２が複数存在する場合に、対象のカメラｅｘ１０２で撮影された映像データの重要度を低くする。また、対象のカメラｅｘ１０２の位置が他のカメラｅｘ１０２から離れていても同じ領域を撮影している他のカメラｅｘ１０２が複数存在する場合に、対象のカメラｅｘ１０２で撮影された映像データの重要度を低くする。また、映像データの重要度の判定は、映像配信サービスにおけるリクエストの多さに基づいて行われてもよい。なお、重要度の判定方法は、上述したものやその組み合わせに限られず、監視システム又は映像配信システムの構成又は目的に応じた方法であればよい。
また、重要度の判定は撮影された映像データに基づくものでなくてもよい。例えば、映像情報処理装置ｅｘ１０１以外の端末へ映像データを送信するカメラｅｘ１０２の重要度が高く設定されてもよい。逆に、映像情報処理装置ｅｘ１０１以外の端末へ映像データを送信するカメラｅｘ１０２の重要度が低く設定されてもよい。これにより、例えば、映像データの伝送を必要とする複数のサービスが通信帯域を共有している場合に、各サービスの目的又は特性に応じた通信帯域の制御の自由度が高くなる。これにより、必要な映像データが得られないことによる各サービスの品質の劣化を防止できる。
また、解析部ｅｘ１１２は、自由視点映像とカメラｅｘ１０２の撮影映像とを用いて、映像データの重要度を判定してもよい。
映像情報処理装置ｅｘ１０１は、解析部ｅｘ１１２で行われた重要度の判定結果に基づき、カメラｅｘ１０２に対して通信速度指示信号を送信する。映像情報処理装置ｅｘ１０１は、例えば、重要度が高い映像を撮影しているカメラｅｘ１０２に対して高い通信速度を指示する。また、映像情報処理装置ｅｘ１０１は、速度の制御だけではなく、重要な情報については、欠落によるデメリットを低減するために複数回送るような方式を指示する信号を送信してもよい。これにより、施設内又はスタジアム内全体の通信を効率的に行うことができる。なお、カメラｅｘ１０２と映像情報処理装置ｅｘ１０１との通信は、有線通信であっても無線通信であってもよい。また、映像情報処理装置ｅｘ１０１は、有線通信及び無線通信のいずれか一方のみを制御してもよい。
カメラｅｘ１０２は、通信速度指示信号に従った通信速度で、撮影映像データを映像情報処理装置ｅｘ１０１に送信する。なお、カメラｅｘ１０２は所定の回数再送が失敗した場合には、その撮影映像データの再送を停止し、次の撮影映像データの転送を開始してもよい。これにより、施設内又はスタジアム内全体の通信を効率的に行うことができ、解析部ｅｘ１１２における処理の高速化を実現できる。
また、カメラｅｘ１０２は、それぞれに割り当てられた通信速度が撮影した映像データを転送するために十分な帯域でない場合は、撮影した映像データを、割り当てられた通信速度で送信可能なビットレートの映像データに変換し、変換後の映像データを送信してもよし、映像データの転送を中止してもよい。
また、上述したように死角の発生を防止するために映像データが使用される場合、撮影された映像データに含まれる撮影領域のうちの一部の領域のみが死角を埋めるために必要である可能性がある。この場合、カメラｅｘ１０２は、少なくとも、映像データから、死角の発生を防止するために必要とされる領域のみを抽出することで抽出映像データを生成し、生成された抽出映像データを映像情報処理装置ｅｘ１０１に送信してもよい。この構成によると、死角の発生の抑制をより少ない通信帯域で実現できる。
また、例えば、付加情報の重畳表示又は映像配信が行われる場合には、カメラｅｘ１０２は、映像情報処理装置ｅｘ１０１にカメラｅｘ１０２の位置情報及び撮影方向の情報を送信する必要がある。この場合、映像データを転送するためには十分ではない帯域しか割り当てられなかったカメラｅｘ１０２は、カメラｅｘ１０２で検出された位置情報及び撮影方向の情報のみを送信してもよい。また、映像情報処理装置ｅｘ１０１においてカメラｅｘ１０２の位置情報及び撮影方向の情報を推定する場合は、カメラｅｘ１０２は、撮影した映像データを、位置情報及び撮影方向の情報の推定に必要な解像度に変換し、変換された映像データを映像情報処理装置ｅｘ１０１に送信してもよい。この構成によると、少ない通信帯域しか割り当てられなかったカメラｅｘ１０２に対しても、付加情報の重畳表示又は映像配信のサービスを提供できる。また、映像情報処理装置ｅｘ１０１は、より多くのカメラｅｘ１０２から撮影領域の情報を取得できるため、例えば注目されている領域を検出する等の目的で、撮影領域の情報を利用するような場合においても有効である。
なお、上述した割り当てられた通信帯域に応じた映像データの転送処理の切り替えは、通知された通信帯域に基づいてカメラｅｘ１０２が行ってもよいし、映像情報処理装置ｅｘ１０１が各カメラｅｘ１０２の動作を決定し、決定された動作を示す制御信号を各カメラｅｘ１０２に通知してもよい。これにより、動作の切り替えの判定に必要な計算量、カメラｅｘ１０２の処理能力、及び必要となる通信帯域等に応じて、適切に処理の分担を行える。
（変形例１０）
解析部ｅｘ１１２は、映像受信装置ｅｘ１０３から送信された視野情報（及び／又は、視点情報）に基づき、映像データの重要度を判定してもよい。例えば、解析部ｅｘ１１２は、視野情報（及び／又は、視点情報）が示す領域を多く含む撮影映像データの重要度を高く設定する。また、解析部ｅｘ１１２は、映像中に含まれる人の数、又は移動物体の数を考慮して、映像データの重要度を判定してもよい。なお、重要度の判定方法はこれに限らない。
なお、本実施の形態で説明した通信制御方法は、必ずしも複数の映像データから三次元形状の再構築を行うシステムにおいて用いられる必要はない。例えば複数のカメラｅｘ１０２が存在する環境において、映像データを選択的又は伝送速度に差をつけて有線通信及び／又は無線通信で送信する場合であれば、本実施の形態で説明した通信制御方法は有効である。
（変形例１１）
映像配信システムにおいて、映像情報処理装置ｅｘ１０１は、撮影シーンの全体を示す概観映像を映像受信装置ｅｘ１０３に送信してもよい。
具体的には、映像情報処理装置ｅｘ１０１は、映像受信装置ｅｘ１０３から送信された配信リクエストを受信した場合、保存部ｅｘ１１１から施設内又はスタジアム内全体の概観映像を読み出し、当該外観映像を映像受信装置ｅｘ１０３に送信する。この概観映像は更新間隔が長くてもよく（低フレームレートでもよく）、また画質が低くてもよい。視聴者は、映像受信装置ｅｘ１０３の画面上に表示された概観映像中で、見たい部分をタッチする。これにより、映像受信装置ｅｘ１０３は、タッチされた部分に対応する視野情報（及び／又は、視点情報）を映像情報処理装置ｅｘ１０１に送信する。
映像情報処理装置ｅｘ１０１は、視野情報（及び／又は、視点情報）に応じた映像データを保存部ｅｘ１１１から読み出し、当該映像データを映像受信装置ｅｘ１０３に送信する。
また、解析部ｅｘ１１２は、視野情報（及び／又は、視点情報）で示される領域に対して優先的に三次元形状の復元（三次元再構成）を行うことで自由視点映像を生成する。解析部ｅｘ１１２は、施設内又はスタジアム内全体の三次元形状を、概観を示す程度の精度で復元する。これにより、映像情報処理装置ｅｘ１０１は、三次元形状の復元を効率的に行うことができる。その結果、視聴者が見たい領域の自由視点映像の高フレームレート化、及び高画質を実現できる。
（変形例１２）
なお、映像情報処理装置ｅｘ１０１は、例えば、設計図面などから事前に生成された施設又はスタジアムの三次元形状復元データを事前映像として、予め保存しておいてもよい。なお、事前映像はこれに限らず、デプスセンサから得られる空間の凹凸と、過去又はキャリブレーション時の画像又は映像データから導出されるピクチャとをオブジェクトごとにマッピングした仮想空間データであってもよい。
例えば、スタジアムでサッカーが行われている場合、解析部ｅｘ１１２は、選手及びボールのみに限定して三次元形状の復元を行い、得られた復元データと事前映像とを合成することで自由視点映像を生成してもよい。あるいは、解析部ｅｘ１１２は、選手及びボールに対して優先して三次元形状の復元を行ってもよい。これにより、映像情報処理装置ｅｘ１０１は、三次元形状の復元を効率的に行うことができる。その結果、視聴者が注目する選手及びボールに関する自由視点映像の高フレームレート化及び高画質化を実現できる。また、監視システムにおいては、解析部ｅｘ１１２は、人物及び移動物体のみに限定して、又はそれらを優先して三次元形状の復元を行ってもよい。
（変形例１３）
各装置の時刻は、サーバの基準時刻等に基づき、撮影開始時にキャリブレーションされてもよい。解析部ｅｘ１１２は、複数のカメラｅｘ１０２で撮影された複数の撮影映像データのうち、時刻設定の精度に応じて、予め設定された時間範囲内に属する時刻に撮影された複数の映像データを用いて、三次元形状の復元を行う。この時刻の検出には、例えば撮影映像データが保存部ｅｘ１１１に格納された時刻が用いられる。なお、時刻の検出方法はこれに限らない。これにより、映像情報処理装置ｅｘ１０１は、三次元形状の復元を効率的に行うことができるので、自由視点映像の高フレームレート化及び高画質化を実現できる。
または、解析部ｅｘ１１２は、保存部ｅｘ１１１に保存された複数の映像データのうち、高画質データのみを用いて、又は高画質データを優先的に用いて、三次元形状の復元を行ってもよい。
（変形例１４）
解析部ｅｘ１１２は、カメラ属性情報を用いて、三次元形状の復元を行ってもよい。例えば、解析部ｅｘ１１２は、カメラ属性情報を用いて、視体積交差法又はマルチビューステレオ法などの手法により三次元映像を生成してもよい。この場合、カメラｅｘ１０２は、撮影映像データとカメラ属性情報とを映像情報処理装置ｅｘ１０１に送信する。カメラ属性情報は、例えば、撮影位置、撮影角度、撮影時刻、又はズーム倍率などである。
これにより、映像情報処理装置ｅｘ１０１は、三次元形状の復元を効率的に行うことができるので、自由視点映像の高フレームレート化及び高画質化を実現できる。
具体的には、カメラｅｘ１０２は、施設内又はスタジアム内に三次元座標を定義し、カメラｅｘ１０２がどのあたりの座標をどの角度から、どれ位のズームで、どの時間に撮ったかという情報を映像と共にカメラ属性情報として映像情報処理装置ｅｘ１０１に送信する。また、カメラｅｘ１０２の起動時に、施設内又はスタジアム内の通信ネットワーク上の時計とカメラ内の時計との同期がとられ、時間情報が生成される。
また、カメラｅｘ１０２の起動時又は任意のタイミングで施設内又はスタジアム内の特定のポイントにカメラｅｘ１０２を向けることにより、カメラｅｘ１０２の位置及び角度情報が取得される。図３８は、カメラｅｘ１０２に起動時に、カメラｅｘ１０２の画面上に表示される通知の一例を示す図である。ユーザがこの通知に従い、スタジアム北側の広告中のサッカーボール中心にある「＋」に、画面中央に表示された「＋」を合わせて、カメラｅｘ１０２のディスプレイをタッチすると、カメラｅｘ１０２は、カメラｅｘ１０２から広告までのベクトル情報を取得しカメラ位置及び角度の基準を特定する。その後、カメラｅｘ１０２のモーション情報からその時々のカメラ座標及び角度が特定される。もちろん、この表示に限るものではなく、矢印等を用いて撮影期間中も座標、角度、又は撮影領域の移動速度等を指示するような表示が用いられてもよい。
カメラｅｘ１０２の座標の特定は、ＧＰＳ、Ｗｉ‐Ｆｉ（登録商標）、３Ｇ、ＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）、及び５Ｇ（無線ＬＡＮ）の電波を用いて行われてもよいし、ビーコン（Ｂｌｕｅｔｏｏｔｈ（登録商標）、超音波）など近距離無線を利用して行われてもよい。また、施設内又はスタジアム内のどの基地局に撮影映像データが届いたかという情報が用いられてもよい。
（変形例１５）
当該システムはスマートフォン等のモバイル端末上で動作するアプリケーションとして提供されてもよい。
上記システムへのログインには、各種ＳＮＳ等のアカウントが用いられてもよい。なお、アプリ専用のアカウント、又は機能が制限されたゲストアカウントが用いられてもよい。このようにアカウントが用いられることで、好みの映像又は好みのアカウント等を評価することができる。また、撮影中又は視聴中の映像データに類似した映像データ、撮影中又は視聴中の映像データの視点に類似した視点の映像データなどに優先的に帯域を割り振ることで、これらの映像データの解像度を高めることができる。これにより、これらの視点からの三次元形状の復元をより精度よく行うことができる。
また、ユーザは、当該アプリケーションで、好みの画像映像を選択し、相手方をフォローすることで、選択した画像を他のユーザよりも優先して見たり、相手方の承認などを条件にテキストチャット等でつながりをもつことができる。このように、新たなコミュニティの生成が可能である。
このようにユーザ同士がコミュニティ内でつながることにより、撮影自体、また撮影した画像の共有などが活発化し、より精度の高い三次元形状の復元を促すことができる。
また、コミュニティ内のつながりの設定に応じて、ユーザは、他人が撮影した画像又は映像を編集したり、他人の画像と自分の画像とをコラージュして新たな画像又は映像を作成したりできる。これにより、新たな画像又は映像を当該コミュニティ内の人のみでシェアするなど、新たな映像作品のシェアが可能になる。また、この編集においてＣＧのキャラクタを挿入するなどにより、拡張現実（Ａｕｇｍｅｎｔｅｄ Ｒｅａｌｉｔｙ）のゲーム等にも映像作品を利用できる。
また、当該システムによると三次元モデルデータが逐次出力可能になるため、ゴールシーンなどの特徴的なシーンでの三次元モデルデータに基づき、施設が有する３Ｄプリンタなどが立体オブジェクトを出力することができる。これにより、試合後に、その試合中のシーンに基づくオブジェクトをキーホルダーのようなお土産として売ったり、参加ユーザに配布することも可能である。もちろん通常の写真として、もっとも良い視点からの画像をプリントすることも可能である。
（変形例１６）
上記システムを用いて、例えば、警察の車載カメラ、及び警察官のウェアラブルカメラの映像などから、地域全体の大雑把な状態を、当該システムに接続されたセンターで管理することができる。
一般のパトロールの時は、例えば数分おきで静止画の送受信が行なわれる。また、センターは、過去の犯罪データ等を用いて分析した結果に基づいた犯罪マップに基づいて犯罪発生の可能性が高い地域を特定する、もしくはこのように特定された犯罪発生確率に関連する地域データを保持している。特定された犯罪発生確率の高い地域では、画像の送受信の頻度を上げたり、画像を動画に変更したりしてもよい。また、事件発生時は、動画、又はＳｆＭ等を用いた三次元再構成データが用いられてもよい。また、センターもしくは各端末が、同時にデプスセンサ又はサーモセンサなど他のセンサの情報を用いて画像又は仮想空間を補正することで、警察官は、より正確に状況を把握できる。
また、センターは、三次元再構成データを用いることで、複数の端末にそのオブジェクトの情報をフィードバックできる。これにより、各端末を持つ個々人がオブジェクトをトラッキングできる。
また、最近では、建造物或いは環境の調査、又はスポーツなどの臨場感ある撮影等の目的で、クワッドコプター、ドローンなどの飛行可能な装置による空中からの撮影が行なわれる。このような自律移動装置による撮影は、画像がブレるということが問題になりやすいが、ＳｆＭは位置及び傾きによりそのブレを補正しながら三次元化を行なうことが可能である。これにより、画質の向上、及び空間の復元精度の向上を実現できる。
また、車外を撮影する車載カメラの設置が、国によっては義務付けられている。このような車載カメラにおいても、複数の画像からモデル化された三次元データを用いることで、行き先の方向の天気及び路面の状態、並びに渋滞度合い等をより精度よく把握できる。
（変形例１７）
上記システムは、例えば、複数のカメラを利用して建物又は設備の測距又はモデリングを行うシステムにも適用できる。
ここで、例えば、１台のドローンを用いて建物を上空から撮影し、建物の測距又はモデリングを行う場合には、測距中にカメラに動物体が写りこむことで測距の精度が低下するという課題がある。また、動物体の測距及びモデリングを行えないという課題がある。
一方で、上述したように複数のカメラ（固定カメラ、スマートフォン、ウェアラブルカメラ及びドローン等）を用いることで、動物体の有無にかかわらず安定した精度で建物の測距及びモデリングを実現できる。また、動物体の測距及びモデリングを実現できる。
具体的には、例えば、建築現場において作業員のヘルメット等にカメラが取り付けられる。これにより、作業員の作業に並行して建物の測距を行うことができる。また、作業の効率化及びミス防止にも用いることができる。また、作業員に装着されたカメラで撮影された映像を用いて建物をモデリングできる。さらに、遠隔地にいる管理者が、モデリングされた建物を見ることで進捗具合を確認できる。
また、当該システムは、工場又は発電所の機械等、停止できない設備の点検に使用できる。また、当該システムは、橋或いはダムの開閉、又は、遊園地の乗り物の動作等に異常がないかを点検する場合に使用できる。
また、当該システムにより、道路の渋滞具合又は交通量を監視することで、各時間帯の道路の渋滞具合又は交通量を示す地図を生成することができる。
（実施の形態６）
上記各実施の形態で示した画像処理方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記各実施の形態で示した画像処理方法の応用例とそれを用いたシステムを説明する。当該システムは、画像処理方法を用いた装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
図３９は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ２００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ２０６、ｅｘ２０７、ｅｘ２０８、ｅｘ２０９、ｅｘ２１０が設置されている。
このコンテンツ供給システムｅｘ２００は、インターネットｅｘ２０１にインターネットサービスプロバイダｅｘ２０２および通信網ｅｘ２０４、および基地局ｅｘ２０６からｅｘ２１０を介して、コンピュータｅｘ２１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）ｅｘ２１２、カメラｅｘ２１３、スマートフォンｅｘ２１４、ゲーム機ｅｘ２１５などの各機器が接続される。
しかし、コンテンツ供給システムｅｘ２００は図３９のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ２０６からｅｘ２１０を介さずに、各機器が電話線、ケーブルテレビ、又は光通信などの通信網ｅｘ２０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラｅｘ２１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ２１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、スマートフォンｅｘ２１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、Ｗ－ＣＤＭＡ（Ｗｉｄｅｂａｎｄ－Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、若しくはＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ Ｓｐｅｅｄ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）、又は高周波帯域を利用した通信方式などに対応するスマートフォン機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
コンテンツ供給システムｅｘ２００では、カメラｅｘ２１３等が基地局ｅｘ２０９、通信網ｅｘ２０４を通じてストリーミングサーバｅｘ２０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ２１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して符号化処理を行い、ストリーミングサーバｅｘ２０３に送信する。一方、ストリーミングサーバｅｘ２０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ２１１、ＰＤＡｅｘ２１２、カメラｅｘ２１３、スマートフォンｅｘ２１４、ゲーム機ｅｘ２１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する。
なお、撮影したデータの符号化処理はカメラｅｘ２１３で行っても、データの送信処理をするストリーミングサーバｅｘ２０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ２０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ２１３に限らず、カメラｅｘ２１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ２１１を介してストリーミングサーバｅｘ２０３に送信してもよい。この場合の符号化処理はカメラｅｘ２１６、コンピュータｅｘ２１１、ストリーミングサーバｅｘ２０３のいずれで行ってもよいし、互いに分担して行ってもよい。さらに復号された画像の表示についても、システムにつながった複数の機器が連動して同じ画像を表示してもよいし、大きな表示部を有する装置で全体の画像を表示し、スマートフォンｅｘ２１４等では画像の一部の領域を拡大して表示してもよい。
また、これら符号化・復号化処理は、一般的にコンピュータｅｘ２１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ２１１等で読み取り可能な何らかの記録メディア（ＣＤ－ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、スマートフォンｅｘ２１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データはスマートフォンｅｘ２１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
また、ストリーミングサーバｅｘ２０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムｅｘ２００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ２００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
なお、コンテンツ供給システムｅｘ２００の例に限らず、図４０に示すように、デジタル放送用システムｅｘ３００にも、上記各実施の形態を適用してもよい。具体的には、放送局ｅｘ３０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ３０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである。これを受けた放送衛星ｅｘ３０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ３０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ４００またはセットトップボックス（ＳＴＢ）ｅｘ３１７等の装置が復号化して再生する。
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ３１５、もしくはＳＤなどのメモリｅｘ３１６に記録した多重化データを読み取り復号化する、または記録メディアｅｘ３１５もしくはメモリｅｘ３１６に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ３１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ３１９に表示され、多重化データが記録された記録メディアｅｘ３１５、又はメモリｅｘ３１６により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ３０３または衛星／地上波放送のアンテナｅｘ３０４に接続されたセットトップボックスｅｘ３１７内に動画像復号化装置を実装し、これをテレビのモニタｅｘ３１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
図４１は、スマートフォンｅｘ２１４を示す図である。また、図４２は、スマートフォンｅｘ２１４の構成例を示す図である。スマートフォンｅｘ２１４は、基地局ｅｘ２１０との間で電波を送受信するためのアンテナｅｘ４５０、映像、静止画を撮ることが可能なカメラ部ｅｘ４６５、カメラ部ｅｘ４６５で撮像した映像、アンテナｅｘ４５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ｅｘ４５８を備える。スマートフォンｅｘ２１４は、さらに、タッチパネル等である操作部ｅｘ４６６、音声を出力するためのスピーカ等である音声出力部ｅｘ４５７、音声を入力するためのマイク等である音声入力部ｅｘ４５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存可能なメモリ部ｅｘ４６７、又は図４０に例示されたメモリｅｘ３１６、もしくはユーザを特定し、ネットワークをはじめ各種データへのアクセスの認証をするためのＳＩＭｅｘ４６８とのインタフェース部であるスロット部ｅｘ４６４を備える。
スマートフォンｅｘ２１４は、表示部ｅｘ４５８及び操作部ｅｘ４６６等を統括的に制御する主制御部ｅｘ４６０に対して、電源回路部ｅｘ４６１、操作入力制御部ｅｘ４６２、映像信号処理部ｅｘ４５５、カメラインタフェース部ｅｘ４６３、ＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）制御部ｅｘ４５９、変調／復調部ｅｘ４５２、多重／分離部ｅｘ４５３、音声信号処理部ｅｘ４５４、スロット部ｅｘ４６４、メモリ部ｅｘ４６７がバスｅｘ４７０を介して互いに接続されている。
電源回路部ｅｘ４６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりスマートフォンｅｘ２１４を動作可能な状態に起動する。
スマートフォンｅｘ２１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ｅｘ４６０の制御に基づいて、音声通話モード時に音声入力部ｅｘ４５６で収音した音声信号を音声信号処理部ｅｘ４５４でデジタル音声信号に変換し、これを変調／復調部ｅｘ４５２でスペクトラム拡散処理し、送信／受信部ｅｘ４５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ４５０を介して送信する。またスマートフォンｅｘ２１４は、音声通話モード時にアンテナｅｘ４５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ｅｘ４５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ４５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ４５７から出力する。
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作部ｅｘ４６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ４６２を介して主制御部ｅｘ４６０に送出される。主制御部ｅｘ４６０は、テキストデータを変調／復調部ｅｘ４５２でスペクトラム拡散処理をし、送信／受信部ｅｘ４５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ４５０を介して基地局ｅｘ２１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ｅｘ４５８に出力される。
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ｅｘ４５５は、カメラ部ｅｘ４６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し、符号化された映像データを多重／分離部ｅｘ４５３に送出する。また、音声信号処理部ｅｘ４５４は、映像、静止画等をカメラ部ｅｘ４６５で撮像中に音声入力部ｅｘ４５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ４５３に送出する。
多重／分離部ｅｘ４５３は、映像信号処理部ｅｘ４５５から供給された符号化された映像データと音声信号処理部ｅｘ４５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ｅｘ４５２でスペクトラム拡散処理をし、送信／受信部ｅｘ４５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナｅｘ４５０を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナｅｘ４５０を介して受信された多重化データを復号化するために、多重／分離部ｅｘ４５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ４７０を介して符号化された映像データを映像信号処理部ｅｘ４５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ４５４に供給する。映像信号処理部ｅｘ４５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し、ＬＣＤ制御部ｅｘ４５９を介して表示部ｅｘ４５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ｅｘ４５４は、音声信号を復号し、音声出力部ｅｘ４５７から音声が出力される。
また、上記スマートフォンｅｘ２１４等の端末は、テレビｅｘ４００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ３００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
また、本開示はかかる上記実施の形態に限定されるものではなく、本開示の範囲を逸脱することなく種々の変形または修正が可能である。
本開示は、三次元情報処理装置に適用できる。
１００、４００ 三次元データ符号化装置
１０１、２０１、４０１、５０１ 取得部
１０２、４０２ 符号化領域決定部
１０３ 分割部
１０４、６４４ 符号化部
１１１、６０７ 三次元データ
１１２、２１１、４１３、４１４、５１１、６３４ 符号化三次元データ
２００、５００ 三次元データ復号装置
２０２ 復号開始ＧＯＳ決定部
２０３ 復号ＳＰＣ決定部
２０４、６２５ 復号部
２１２、５１２、５１３ 復号三次元データ
４０３ ＳＷＬＤ抽出部
４０４ ＷＬＤ符号化部
４０５ ＳＷＬＤ符号化部
４１１ 入力三次元データ
４１２ 抽出三次元データ
５０２ ヘッダ解析部
５０３ ＷＬＤ復号部
５０４ ＳＷＬＤ復号部
６００ 自車両
６０１ 周辺車両
６０２、６０５ センサ検知範囲
６０３、６０６ 領域
６０４ オクルージョン領域
６２０、６２０Ａ 三次元データ作成装置
６２１、６４１ 三次元データ作成部
６２２ 要求範囲決定部
６２３ 探索部
６２４、６４２ 受信部
６２６ 合成部
６２７ 検知領域決定部
６２８ 周辺状況検知部
６２９ 自律動作制御部
６３１、６５１ センサ情報
６３２ 第１三次元データ
６３３ 要求範囲情報
６３５ 第２三次元データ
６３６ 第３三次元データ
６３７ 依頼信号
６３８ 送信データ
６３９ 周辺状況検知結果
６４０、６４０Ａ 三次元データ送信装置
６４３ 抽出部
６４５ 送信部
６４６ 伝送可否判定部
６５２ 第５三次元データ
６５４ 第６三次元データ
７００ 三次元情報処理装置
７０１ 三次元マップ取得部
７０２ 自車検知データ取得部
７０３ 異常ケース判定部
７０４ 対処動作決定部
７０５ 動作制御部
７１１ 三次元マップ
７１２ 自車検知三次元データ

Claims (6)

  1. 三次元空間における第１の範囲を表す第１の三次元位置情報を通信路を介して取得できるかを判定し、
    センサで検知した情報に基づき生成された第２の三次元位置情報を取得し、
    前記第１の三次元位置情報を前記通信路を介して取得できると判定された場合、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の位置を推定し、
    前記第１の三次元位置情報を前記通信路を介して取得できないと判定された場合、（ｉ）前記第１の範囲より狭い第３の範囲を表す第３の三次元位置情報を前記通信路を介して取得し、（ｉｉ）前記第２の三次元位置情報と前記第３の三次元位置情報とを用いて前記位置を推定する、
    三次元情報処理方法。
  2. 前記第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含む
    請求項１記載の三次元情報処理方法。
  3. 前記第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータである
    請求項１記載の三次元情報処理方法。
  4. 前記三次元情報処理方法は、さらに、
    前記位置の推定の結果を用いて、前記移動体を自動運転し、
    前記移動体の移動環境に基づき、前記移動体の前記位置の推定の結果を用いた前記移動体の自動運転を行うか否かを判定する
    請求項１記載の三次元情報処理方法。
  5. 前記三次元情報処理方法は、さらに、
    前記位置の推定の結果を用いて、前記移動体を自動運転し、
    前記移動体の移動環境に基づき、前記自動運転のモードを切り替える
    請求項１記載の三次元情報処理方法。
  6. メモリと、
    プロセッサとを備え、
    前記プロセッサは、前記メモリを用いて、
    三次元空間における第１の範囲を表す第１の三次元位置情報を通信路を介して取得できるかを判定し、
    センサで検知した情報に基づき生成された第２の三次元位置情報を取得し、
    前記第１の三次元位置情報を前記通信路を介して取得できると判定された場合、前記第１の三次元位置情報と前記第２の三次元位置情報とを用いて前記センサを有する移動体の位置を推定し、
    前記第１の三次元位置情報を前記通信路を介して取得できないと判定された場合、（ｉ）前記第１の範囲より狭い第３の範囲を表す第３の三次元位置情報を前記通信路を介して取得し、（ｉｉ）前記第２の三次元位置情報と前記第３の三次元位置情報とを用いて前記位置を推定する、
    三次元情報処理装置。
JP2022202160A 2016-08-26 2022-12-19 三次元情報処理方法及び三次元情報処理装置 Active JP7307259B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023107040A JP7489529B2 (ja) 2016-08-26 2023-06-29 三次元情報処理方法及び三次元情報処理装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201662379878P 2016-08-26 2016-08-26
US62/379,878 2016-08-26
JP2022052913A JP2022103160A (ja) 2016-08-26 2022-03-29 三次元情報処理方法及び三次元情報処理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022052913A Division JP2022103160A (ja) 2016-08-26 2022-03-29 三次元情報処理方法及び三次元情報処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023107040A Division JP7489529B2 (ja) 2016-08-26 2023-06-29 三次元情報処理方法及び三次元情報処理装置

Publications (2)

Publication Number Publication Date
JP2023026501A JP2023026501A (ja) 2023-02-24
JP7307259B2 true JP7307259B2 (ja) 2023-07-11

Family

ID=61246109

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2018535718A Active JP7050683B2 (ja) 2016-08-26 2017-08-23 三次元情報処理方法及び三次元情報処理装置
JP2022052913A Pending JP2022103160A (ja) 2016-08-26 2022-03-29 三次元情報処理方法及び三次元情報処理装置
JP2022202160A Active JP7307259B2 (ja) 2016-08-26 2022-12-19 三次元情報処理方法及び三次元情報処理装置
JP2023107040A Active JP7489529B2 (ja) 2016-08-26 2023-06-29 三次元情報処理方法及び三次元情報処理装置

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2018535718A Active JP7050683B2 (ja) 2016-08-26 2017-08-23 三次元情報処理方法及び三次元情報処理装置
JP2022052913A Pending JP2022103160A (ja) 2016-08-26 2022-03-29 三次元情報処理方法及び三次元情報処理装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023107040A Active JP7489529B2 (ja) 2016-08-26 2023-06-29 三次元情報処理方法及び三次元情報処理装置

Country Status (5)

Country Link
US (3) US11410552B2 (ja)
EP (2) EP3506238A4 (ja)
JP (4) JP7050683B2 (ja)
CN (2) CN114627664A (ja)
WO (1) WO2018038131A1 (ja)

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7054677B2 (ja) * 2016-08-10 2022-04-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ カメラワーク生成方法及び映像処理装置
JP6970100B2 (ja) * 2016-09-16 2021-11-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ作成方法及び三次元データ作成装置
KR102012549B1 (ko) * 2017-01-25 2019-08-20 엘지전자 주식회사 이동 객체를 식별하여 맵을 작성하는 방법 및 이를 구현하는 로봇
US10220857B2 (en) 2017-02-23 2019-03-05 Uber Technologies, Inc. Vehicle control system
US11360216B2 (en) * 2017-11-29 2022-06-14 VoxelMaps Inc. Method and system for positioning of autonomously operating entities
US11403816B2 (en) * 2017-11-30 2022-08-02 Mitsubishi Electric Corporation Three-dimensional map generation system, three-dimensional map generation method, and computer readable medium
WO2019107367A1 (ja) * 2017-11-30 2019-06-06 三菱電機株式会社 三次元地図生成システム、三次元地図生成方法および三次元地図生成プログラム
JP7013926B2 (ja) * 2018-02-23 2022-02-01 株式会社デンソー 光学的測距装置およびその方法
KR102117588B1 (ko) * 2018-04-18 2020-06-02 엔쓰리엔 주식회사 차량 관련 데이터 수집 장치 및 방법
KR102420568B1 (ko) * 2018-04-27 2022-07-13 삼성전자주식회사 차량의 위치를 결정하는 방법 및 이를 위한 차량
SG11201811261SA (en) * 2018-06-14 2020-01-30 Beijing Didi Infinity Technology & Development Co Ltd Systems and methods for updating a high-resolution map based on binocular images
CN112513938A (zh) * 2018-08-06 2021-03-16 松下电器（美国）知识产权公司 三维数据保存方法、三维数据获得方法、三维数据保存装置以及三维数据获得装置
CN109376987A (zh) * 2018-09-10 2019-02-22 百度在线网络技术（北京）有限公司 无人驾驶汽车调度方法、装置、设备及存储介质
JP7202112B2 (ja) * 2018-09-11 2023-01-11 本田技研工業株式会社 車両用制御システムおよび車両の制御方法
JP7163115B2 (ja) * 2018-09-12 2022-10-31 キヤノン株式会社 ロボットシステム、ロボットシステムの制御方法、物品の製造方法、制御装置、操作装置、撮像装置、制御プログラム及び記録媒体
CN112492290B (zh) * 2018-09-30 2022-11-11 Oppo广东移动通信有限公司 一种数据处理方法、服务器和计算机存储介质
FR3088041B1 (fr) * 2018-11-02 2020-10-16 Renault Sas Procede d’elaboration d’une consigne de pilotage d’un vehicule automobile
US10843694B2 (en) * 2018-11-19 2020-11-24 Toyota Motor Engineering & Manufacturing North America, Inc. Vehicle height detection and environmental warning system
CN111238494B (zh) * 2018-11-29 2022-07-19 财团法人工业技术研究院 载具、载具定位系统及载具定位方法
WO2020141917A2 (ko) * 2019-01-03 2020-07-09 네이버랩스 주식회사 엔드 디바이스, 엔드 디바이스를 제어하기 위한 에지 서버 및 클라우드 서버를 포함하는 3자간 통신 시스템, 및 그의 동작 방법
US11312379B2 (en) * 2019-02-15 2022-04-26 Rockwell Collins, Inc. Occupancy map synchronization in multi-vehicle networks
US11610337B2 (en) * 2019-02-17 2023-03-21 Purdue Research Foundation Calibration of cameras and scanners on UAV and mobile platforms
WO2020175588A1 (ja) * 2019-02-26 2020-09-03 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
BR112021016832A2 (pt) 2019-03-18 2021-10-19 Panasonic Intellectual Property Corporation Of America Método de codificação de dados tridimensionais, método de decodificação de dados tridimensionais, dispositivo de codificação de dados tridimensionais, e dispositivo de decodificação de dados tridimensionais
CN113574568A (zh) 2019-03-26 2021-10-29 松下电器（美国）知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置
JP2020183166A (ja) * 2019-05-07 2020-11-12 アルパイン株式会社 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2021009429A (ja) * 2019-06-28 2021-01-28 トヨタ自動車株式会社 自動運転車両および運行管理システム
WO2021010200A1 (ja) * 2019-07-17 2021-01-21 ソニー株式会社 情報処理装置および方法
JP7201550B2 (ja) * 2019-07-29 2023-01-10 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
CN110789533B (zh) * 2019-09-25 2021-08-13 华为技术有限公司 一种数据呈现的方法及终端设备
JP7226238B2 (ja) * 2019-10-15 2023-02-21 トヨタ自動車株式会社 車両制御システム
CN111079607A (zh) * 2019-12-05 2020-04-28 灵动科技（北京）有限公司 具有追踪功能的自动驾驶系统
CN115136218A (zh) * 2020-02-21 2022-09-30 株式会社电装 管制装置、停车场系统以及位置精度计算方法
WO2021200004A1 (ja) * 2020-04-01 2021-10-07 パナソニックＩｐマネジメント株式会社 情報処理装置及び情報処理方法
JP6849256B1 (ja) * 2020-05-08 2021-03-24 シンメトリー・ディメンションズ・インク ３次元モデル構築システム、および３次元モデル構築方法
CN111674048B (zh) * 2020-05-13 2022-05-06 广东工业大学 一种基于机器视觉的3d打印机断丝报警装置及报警方法
CN111833717B (zh) * 2020-07-20 2022-04-15 阿波罗智联(北京)科技有限公司 用于定位交通工具的方法、装置、设备和存储介质
WO2022137792A1 (ja) * 2020-12-22 2022-06-30 ソニーグループ株式会社 情報処理装置、および情報処理方法、並びにプログラム
JP7322902B2 (ja) * 2021-01-13 2023-08-08 トヨタ自動車株式会社 運転支援サーバ及びシステム
JP2022138036A (ja) * 2021-03-09 2022-09-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
WO2022254602A1 (ja) * 2021-06-02 2022-12-08 日本電気株式会社 緊急ルート決定システム、緊急ルート決定方法、及び非一時的なコンピュータ可読媒体
CN113276861B (zh) * 2021-06-21 2023-03-28 上汽通用五菱汽车股份有限公司 车辆控制方法、车辆控制系统及存储介质
CN113449058B (zh) * 2021-06-25 2023-06-02 安克创新科技股份有限公司 一种地图数据传输方法、清洁机器人及存储介质
JPWO2023032292A1 (ja) * 2021-09-02 2023-03-09
US11999352B2 (en) * 2021-12-15 2024-06-04 Industrial Technology Research Institute Method and system for extracting road data and method and system for controlling self-driving car
CN114219705B (zh) * 2021-12-22 2024-09-06 大连理工大学 一种基于三维点云高程分布相似度的可通行区域检测方法
JP7496447B2 (ja) 2022-09-12 2024-06-06 ソフトバンク株式会社 監視支援システム、監視支援装置の制御方法、及び監視支援装置の制御プログラム
WO2024122273A1 (ja) * 2022-12-05 2024-06-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 復号装置、符号化装置、復号方法、及び符号化方法
CN117745988B (zh) * 2023-12-20 2024-09-13 亮风台（上海）信息科技有限公司 一种用于呈现ar标签信息的方法与设备
CN117921622B (zh) * 2024-03-25 2024-06-04 宁波昂霖智能装备有限公司 拾起垃圾的机器人的控制方法及拾起垃圾的机器人

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006028067A1 (ja) 2004-09-07 2006-03-16 Cad Center Corp. 三次元地図配信サーバ装置、クライアント端末装置および三次元地図配信システム
JP2009193240A (ja) 2008-02-13 2009-08-27 Toyota Motor Corp 移動ロボット及び環境地図の生成方法
WO2016047063A1 (ja) 2014-09-25 2016-03-31 株式会社デンソー 車載システム、車両制御装置、および車両制御装置用のプログラム製品

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19645209B4 (de) * 1996-11-02 2005-07-28 Robert Bosch Gmbh Ortungsvorrichtung für ein Kraftfahrzeug mit einem Satellitenempfänger und Ortungsverfahren
JP2000075028A (ja) * 1998-08-27 2000-03-14 Toyota Motor Corp 車載ｄｂｆレーダ装置
DE60027499T2 (de) 1999-03-05 2006-11-16 Hitachi, Ltd. Informationsdarbietungssystem für mobile Einheiten
JP2001012960A (ja) 1999-06-28 2001-01-19 Hitachi Ltd 情報提供システム
JP4068774B2 (ja) * 1999-11-26 2008-03-26 本田技研工業株式会社 移動体用地図情報表示システム
US7376499B2 (en) * 2005-09-16 2008-05-20 Gm Global Technology Operations, Inc. State-of-health monitoring and fault diagnosis with adaptive thresholds for integrated vehicle stability system
KR20080029548A (ko) * 2006-09-29 2008-04-03 삼성전자주식회사 실사기반 이동기기 제어 방법 및 장치
AU2007350940A1 (en) * 2007-04-06 2008-10-16 Tele Atlas B.V. Method, navigation device, and server for determining a location in a digital map database
KR100944642B1 (ko) * 2007-07-23 2010-03-04 팅크웨어(주) 네비게이션 시스템 및 맵 보정 안내방법
CN100533506C (zh) * 2007-09-03 2009-08-26 深圳市赛格导航科技股份有限公司 一种车辆监控装置及其实现方法
JP4582170B2 (ja) * 2008-03-27 2010-11-17 トヨタ自動車株式会社 勾配情報演算装置、車両走行制御装置、ナビゲーションシステム
JP2009250754A (ja) * 2008-04-04 2009-10-29 Toyota Motor Corp 車載装置、情報配信システム、及び、カーナビゲーションシステム
KR100955483B1 (ko) * 2008-08-12 2010-04-30 삼성전자주식회사 3차원 격자 지도 작성 방법 및 이를 이용한 자동 주행 장치의 제어 방법
CN101344986A (zh) * 2008-09-01 2009-01-14 北京中兴恒和卫星应用科技股份有限公司 基于北斗卫星的运输监控系统
US8855819B2 (en) * 2008-10-09 2014-10-07 Samsung Electronics Co., Ltd. Method and apparatus for simultaneous localization and mapping of robot
CN103443839B (zh) * 2011-03-28 2016-04-13 松下知识产权经营株式会社 图像显示装置
CN102254431B (zh) * 2011-06-14 2014-05-21 上海雷腾软件有限公司 一种车辆位置数据采集处理方法及其系统
US8594923B2 (en) * 2011-06-14 2013-11-26 Crown Equipment Limited Method and apparatus for sharing map data associated with automated industrial vehicles
EP2541203B8 (en) * 2011-06-30 2015-10-21 Furuno Electric Company Limited Road map feedback server for tightly coupled gps and dead reckoning vehicle navigation
US20130060461A1 (en) * 2011-09-07 2013-03-07 INRO Technologies Limited Method and apparatus for using pre-positioned objects to localize an industrial vehicle
KR101405679B1 (ko) * 2011-10-11 2014-06-13 현대자동차주식회사 차량 위치 정보 기반 비정상 운전 판정 및 경보 시스템
CN102895092A (zh) * 2011-12-13 2013-01-30 冷春涛 一种基于多传感器融合的助行机器人三维环境识别系统
JP5762320B2 (ja) * 2012-01-24 2015-08-12 三菱重工業株式会社 走行制御システム及び走行制御方法
JP5790867B2 (ja) * 2012-03-02 2015-10-07 日産自動車株式会社 立体物検出装置
KR101920303B1 (ko) * 2012-03-19 2018-11-20 현대모비스 주식회사 3차원 위치 판정 장치 및 방법
US8996273B2 (en) * 2012-08-31 2015-03-31 GM Global Technology Operations LLC Anticipatory cruise control
JP2014106854A (ja) * 2012-11-29 2014-06-09 Toyota Infotechnology Center Co Ltd 自動運転車両制御装置および方法
US9066207B2 (en) * 2012-12-14 2015-06-23 Apple Inc. Managing states of location determination
CN103885443B (zh) * 2012-12-20 2017-02-08 联想(北京)有限公司 用于即时定位与地图构建单元的设备、系统和方法
KR20140108821A (ko) * 2013-02-28 2014-09-15 삼성전자주식회사 이동 로봇 및 이동 로봇의 위치 추정 및 맵핑 방법
US9719801B1 (en) * 2013-07-23 2017-08-01 Waymo Llc Methods and systems for calibrating sensors using road map data
CN103697882A (zh) * 2013-12-12 2014-04-02 深圳先进技术研究院 一种基于图像识别的地理三维空间定位方法和装置
CN103926927A (zh) * 2014-05-05 2014-07-16 重庆大学 一种室内移动机器人双目视觉定位与三维建图方法
JP2016018295A (ja) 2014-07-07 2016-02-01 日立オートモティブシステムズ株式会社 情報処理システム
US10044817B2 (en) * 2014-07-16 2018-08-07 Toyota Jidosha Kabushiki Kaisha Providing wireless services to a connected vehicle
US10229331B2 (en) * 2015-01-16 2019-03-12 Hitachi, Ltd. Three-dimensional information calculation device, three-dimensional information calculation method, and autonomous mobile device
CN105843223B (zh) * 2016-03-23 2018-11-20 东南大学 一种基于空间词袋模型的移动机器人三维建图与避障方法
CN105711591A (zh) * 2016-04-26 2016-06-29 百度在线网络技术（北京）有限公司 无人驾驶车辆、无人驾驶车辆的控制方法和装置
CN105869421A (zh) * 2016-06-13 2016-08-17 乐视控股（北京）有限公司 异常路况信息处理方法、装置及车辆

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006028067A1 (ja) 2004-09-07 2006-03-16 Cad Center Corp. 三次元地図配信サーバ装置、クライアント端末装置および三次元地図配信システム
JP2009193240A (ja) 2008-02-13 2009-08-27 Toyota Motor Corp 移動ロボット及び環境地図の生成方法
WO2016047063A1 (ja) 2014-09-25 2016-03-31 株式会社デンソー 車載システム、車両制御装置、および車両制御装置用のプログラム製品

Also Published As

Publication number Publication date
US20220238018A1 (en) 2022-07-28
US20190189006A1 (en) 2019-06-20
CN109643489B (zh) 2022-05-03
JP2023126862A (ja) 2023-09-12
US11790779B2 (en) 2023-10-17
JP2023026501A (ja) 2023-02-24
JP2022103160A (ja) 2022-07-07
CN109643489A (zh) 2019-04-16
JP7050683B2 (ja) 2022-04-08
EP4160150A1 (en) 2023-04-05
CN114627664A (zh) 2022-06-14
EP3506238A4 (en) 2019-11-27
US20230401957A1 (en) 2023-12-14
JPWO2018038131A1 (ja) 2019-06-24
US11410552B2 (en) 2022-08-09
WO2018038131A1 (ja) 2018-03-01
JP7489529B2 (ja) 2024-05-23
EP3506238A1 (en) 2019-07-03

Similar Documents

Publication Publication Date Title
JP7307259B2 (ja) 三次元情報処理方法及び三次元情報処理装置
JP7311670B2 (ja) 表示方法、表示装置及びプログラム
JP7253024B2 (ja) 方法及び三次元データ作成装置
CN111148967B (zh) 三维数据制作方法、客户端装置以及服务器
JP7402695B2 (ja) 情報送信方法及びクライアント装置
CN107534789B (zh) 影像同步装置及影像同步方法
JP2022171985A (ja) 三次元データ作成方法及び三次元データ作成装置
WO2017217191A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
JP2023078300A (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230629

R150 Certificate of patent or registration of utility model

Ref document number: 7307259

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150