JP7250784B2 - ボリュームデータの密度座標ハッシュ化 - Google Patents

ボリュームデータの密度座標ハッシュ化 Download PDF

Info

Publication number
JP7250784B2
JP7250784B2 JP2020522337A JP2020522337A JP7250784B2 JP 7250784 B2 JP7250784 B2 JP 7250784B2 JP 2020522337 A JP2020522337 A JP 2020522337A JP 2020522337 A JP2020522337 A JP 2020522337A JP 7250784 B2 JP7250784 B2 JP 7250784B2
Authority
JP
Japan
Prior art keywords
volume
voxel
voxels
coordinate
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020522337A
Other languages
English (en)
Other versions
JP2020537271A (ja
Inventor
マクダラ モロニー、デイヴィッド
デイヴィッド ビレン、ジョナサン
バックリー、レオニー
ガーフィールド バーリントン バウグ、ギャリー
コールフィールド、サム
パッラ、アレッサンドロ
グプタ、アナンヤ
Original Assignee
モビディウス リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by モビディウス リミテッド filed Critical モビディウス リミテッド
Publication of JP2020537271A publication Critical patent/JP2020537271A/ja
Application granted granted Critical
Publication of JP7250784B2 publication Critical patent/JP7250784B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0251Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/21Collision detection, intersection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Robotics (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)

Description

関連出願
本願は、2017年10月16日に出願され、その全体が参照により本明細書に組み込まれる米国仮特許出願第62/573,089号の利益を主張する。
本開示は概してコンピュータシステムの分野に関し、より具体的にはコンピュータビジョンアプリケーションで使用されるハッシュテーブルに関する。
MagicLeap(商標)、Micorsoft(商標)、HoloLens(商標)、Oculus(商標)、Rift(商標)による拡張現実(AR)、仮想現実(VR)および複合現実(MR)製品、さらにValve(商標)およびHTC(商標)等によるその他VRシステムの出現により、コンピュータビジョンとグラフィックス両者の世界は、急速に統合が進んでいる。そのようなシステムにおける現行の手法として、並行動作する、個別のグラフィックスプロセッシングユニット(GPU)およびコンピュータビジョンサブシステムが使用されている。これらの並行システムは、プロセッサ、および/またはプログラマブルハードウェアアクセラレータアレイ上で動作するソフトウェアにおいて実装されるコンピュータビジョンパイプラインと並行に、既存のGPUから組み立て可能である。
本開示の主題の様々な目的、特徴、および利点が、以下の図に関連して考慮した場合、以下の開示の主題の詳細の説明を参照することで、完全に理解可能である。図中、同様の符号は、同様の要素を示す。添付の図面は概略的であって、実寸どおりに描かれることは意図されていない。見やすさのため、全ての図の全ての構成要素に符号を付けてはいない。また、本開示の主題を当業者が理解するのに必ずしも必要でない図示の部分において、開示の主題の各実施形態の全ての構成要素が図示されてはいない。
従来の拡張または複合現実レンダリングシステムを示す。
いくつかの実施形態に係るボクセル型拡張または複合現実レンダリングシステムを示す。
いくつかの実施形態に係る、デンスまたはスパースなボリューム表現間の違いを示す。
いくつかの実施形態に係る、シーンの合成図を示す。
いくつかの実施形態に係る、例示的な要素ツリー構造における、詳細度を示す。
いくつかの実施形態に係る、本出願のデータ構造およびボクセルデータを利用可能なアプリケーションを示す。
いくつかの実施形態に係る、3D数字の認識に使用される例示的ネットワークを示す。
いくつかの実施形態に係る、同一のデータ構造に対して、非自明的詳細度を利用して実行される複数の分類を示す。
いくつかの実施形態に係る、2D畳み込みニューラルネットワークによる動作省略を示す。
いくつかの実施形態に係る、例示的テスト画像の分析からの実験結果を示す。
いくつかの実施形態に係る、動作を省略するためのハードウェアを示す。
いくつかの実施形態に係る、動作を省略するためのハードウェアの向上を示す。
いくつかの実施形態に係るハードウェアを示す。
ハッシュテーブルと関連したロジックとを採用した例示的システムを示す。
いくつかの実施形態に係る、例示的ハッシュ化アルゴリズムの態様を示す。
例示的ハッシュ化アルゴリズムの性能を示すグラフである。 例示的ハッシュ化アルゴリズムの性能を示すグラフである。 例示的ハッシュ化アルゴリズムの性能を示すグラフである。
いくつかの実施形態に係る、ハッシュテーブル内に、ボリュームデータを挿入するための例示的技術を示す。
いくつかの実施形態に係る、ハッシュテーブルからボリュームデータにアクセスする例示的技術を示す。
いくつかの実施形態に係る、例示的マルチスロットベクトルプロセッサを示す。
いくつかの実施形態に係る、例示的ボリュームアクセラレーションハードウェアを示す。
いくつかの実施形態に係る、ボクセルキューブの構成を示す。
いくつかの実施形態に係る、2レベルスパースボクセルツリーを示す。
いくつかの実施形態に係る、2レベルスパースボクセルツリーを示す。
いくつかの実施形態に係る、例示的ボクセルデータの記憶を示す。
いくつかの実施形態に係る、例示的ボリュームデータへのボクセル挿入を示す。
いくつかの実施形態に係る、例示的3Dボリュームオブジェクトの投影を示す。
例示的ボリュームデータ構造を伴う例示的動作を示す。
いくつかの実施形態に係る、簡潔なマップを生成するための投影の使用を示す。
いくつかの実施形態に係る、内蔵デバイスからの例示的ボリューム3Dおよび/または2D測定値の例示的蓄積を示す。
いくつかの実施形態に係る、2Dの2×2ビットマップ上での、2D経路探索の例示的向上を示す。
いくつかの実施形態に係る、例示的ボリュームデータ構造を使用した、衝突検出の例示的向上を示す。
少なくともいくつかの実施形態に係るデバイスを有する例示的ネットワークの簡潔なブロック図である。
少なくともいくつかの実施形態に係る、例示的なフォグまたはクラウドコンピューティングシステムの簡潔なブロック図である。
少なくともいくつかの実施形態に係る、例示的デバイスを含むシステムの簡潔なブロック図である。
少なくともいくつかの実施形態に係る、例示的処理デバイスのブロック図を示す。
少なくともいくつかの実施形態に係る、例示的プロセッサのブロック図を示す。
少なくともいくつかの実施形態に係る、例示的コンピューティングシステムのブロック図を示す。
以下の説明において、開示の主題を完全に理解できるように等、開示の主題のシステムおよび方法、並びに当該システムおよび方法が動作し得る環境について数多くの具体的詳細が記載される。ただし、当業者には、開示の主題はそのような具体的な詳細がなくても実施できることは明らかであろう。開示の主題の複雑化を避けるため、従来技術により公知であるそのような特徴については詳細に説明しない。さらに、下記の実施形態は例示的であって、開示の主題の範囲内に含まれる、その他システムおよび方法が存在することが考えられる。
多様な技術が、三次元空間およびジオメトリのボリュームを表すデータモデルを使用し得る、拡張現実、仮想現実、複合現実、自律デバイス、およびロボットに基づいて発生し、それら組み込んでいる。そのような3Dまたはボリュームデータを使用した様々な現実および仮想環境の表現は伝統的に、膨大のデータセットを伴うものであり、それはいくつかのコンピューティングシステムにとっては、所望のとおりに処理するのが困難であった。さらに、ドローン、ウェアラブルデバイス、仮想現実システム等のデバイスの小型化が進むと、当該デバイスのメモリおよび処理資源も制限され得る。一例として、AR/VR/MRアプリケーションは、対応ハードウェアを使用して生成されたグラフィック表現に対して、高フレームレートを要し得る。しかし、いくつかのアプリケーションでは、そのようなハードウェアのGPUおよびコンピュータビジョンサブシステムは、所望の結果を得るため(例えば、真に迫る結果を得られるようなフレームレートによる真に迫るグラフィックシーンの生成、過度のレイテンシによるユーザの動揺病の防止、その他例示的目的が挙げられる、130fps(7ミリ秒)等の高レートにて、データ(例えば、3Dデータ)を処理する必要があり得る。さらなるアプリケーションも同様に、処理、メモリ、電力、対応するアプリケーション要件、その他例示的問題に関する制限下で、大きなボリュームを記述したデータを十分に処理することに挑み得る。
いくつかの実装において、コンピューティングシステムに、フォーマットに応じて定義されたスパースな(sparse)ボリュームデータを生成、および/または使用するためのロジックが設けられてもよい。例えば、各種システムおよびアプリケーションにおいて、コンピュータビジョンと3Dレンダリングとを統合するため、定義されたボリュームデータ構造が提供され得る。オブジェクトのボリューム表現は、例えばステレオカメラまたは深度計測カメラ等の光学センサを使用して取得されてもよい。オブジェクトのボリューム表現は、多数のボクセルを含み得る。オブジェクトの目標解像度を実現するため、対応するボリューム表現を繰り返し細分化可能とする、改良ボリュームデータ構造が定義され得る。細分化時、ボクセルの内の1または複数に含まれ得る、ボリューム表現内の空き空間を、ボリューム表現(および対応する動作)から省略することができる。空き空間は、ボリューム表現において、オブジェクトのジオメトリ特徴を含まない領域であり得る。
したがって、改良ボリュームデータ構造においては、対応するボリューム内の個別のボクセルは、(なんらかのジオメトリが対応するボリューム空間内に存在することによる)「占有」または(対応するボリュームが空き空間から成ることを表す)「空」とタグ付けされ得る。当該タグはさらに、その対応するサブボリュームの内の1または複数も占有(例えば、親またはより高位のボクセルが占有とタグ付けされた場合)、またはそのサブボリュームの全てが空き空間(即ち、親またはより高位のボクセルが空とタグ付けされた場合)と指定していると解されてよい。いくつかの実装において、ボクセルを空とタグ付けすることは、そのボクセル、および/または対応するサブボリュームボクセルを、対応するボリューム表現を生成するために利用される動作から効果的に除去可能とし得る。ボリュームデータ構造は、スパース累乗細分化ツリー(sparse sexaquaternary tree;SST)フォーマット等に応じた、スパースツリー構造に応じたものであってもよい。さらに、スパースボリュームデータ構造に対するこのような手法によると、オブジェクトのボリューム表現の伝統的記憶方式と比較して、ストレージ空間が大幅に低減され得る。さらに、ボリュームデータを圧縮することで、同表現の送信可能性を向上、および同表現のより高速処理が可能となり得る。その他例示的な効果もあり得る。
ボリュームデータ構造は、ハードウェアアクセラレーションにより、3Dレンダラへの急速更新を可能にし、個別のコンピュータビジョンおよびグラフィックスシステムで生じ得る遅延をなくすることができる。このような遅延は、AR、VR、MRおよびその他アプリケーションにおいて使用される場合に、ユーザの運動酔いやその他さらなる問題につながり得るレイテンシを伴い得る。アクセラレーションがなされたデータ構造において、ボクセルに対してジオメトリ特徴で占有されているかが高速検証可能であることにより、リアルタイムで更新可能な、低レイテンシAR、VR、MR、またはその他システムが構築可能となる。
いくつかの実施形態において、ボリュームデータ構造の機能としてさらに、フレーム間警告が提供でき得る。例えば、AR、VR、MR、およびその他アプリケーションにおいて、画像シーン内の実または合成オブジェクトにユーザが衝突しそうな場合、またはドローンまたはロボットのコンピュータビジョンアプリケーションにおいて、当該デバイスが撮像シーン内の実または合成オブジェクトに衝突しそうな場合に、ボリュームデータ構造により実現される処理スピードであれば、起きうる衝突に対して警告を出せる。
本開示の実施形態は、ロボティクス、拡張および複合現実用のヘッドマウントディスプレイ、さらに電話およびタブレット等のアプリケーションにおけるボリュームデータの記憶および処理に関し得る。本開示の実施形態は、一群のボクセル内の各ボリューム要素(例えばボクセル)と、任意でボクセルのジオメトリに関する物理量とを、単一のビットで表す。対応する赤緑青(RGB)またはその他配色表現形式、透明度、面取りされたシグナリング距離ファンクション(truncated signed distance function(TSDF))情報等の64ボクセルの群に関するさらなるパラメータが、ボクセルに関連付けられ、さらに関連付けられた任意の64ビットデータ構造に(例えば、各ボクセルを2つまたはそれより多くのビットで表現するために用いられるように)記憶されてもよい。このような表現方式により、最小のメモリ要件が実現され得る。さらに、ボクセルを単一のビットで示すことで、ボリューム表現からの要素の論理的または数学的結合のための計算の多くが簡略化されるという性能が実現可能となる。ボリューム表現からの要素の結合の例としては、ボリュームの平面の論理和を取ることで、3Dボリュームデータの2D投影を生成することと、2.5Dマニホールドにおける占有ボクセルの数を数えて、表面積を計算すること、その他が挙げられる。比較用として、排他的論理和ロジックを使用して64ビットサブボリューム(例えば、4サブボリューム)を比較してもよく、ボリュームを反転させてもよい。その論理和を取ることで、オブジェクトを合成してハイブリッドオブジェクトを生成できる。その他例もあり得る。
図1は、従来の拡張または複合現実システムを示す。これは、並行グラフィックスレンダリングおよびコンピュータビジョンサブシステムから成り、レンダリングされたグラフィックスにオクルージョンや影を生じ得る、急速な頭部の動きによる変化や環境の変化に対応するように、ポストレンダリング接続装置が設けられる。一例示的実装において、システムは、バス101を介した相互接続、オンチップネットワークオンチップ、またはその他相互接続により、グラフィックスパイプライン、コンピュータビジョンパイプライン、およびポストレンダリング補正装置の実行を制御するためのホストメモリ124に補助されるホストプロセッサ100を備えてもよい。この相互接続は、適切なソフトウェアを動作させるホストプロセッサ100に、グラフィックスプロセッシングユニット(GPU)106、関連するグラフィックスメモリ111、コンピュータビジョンパイプライン116、および関連するコンピュータビジョンメモリ124の実行を制御可能とする。一例において、GPU106を使用し、(例えば、三角形リスト105上で動作する)OpenGLグラフィックスシェーダー107を介したグラフィックスのレンダリングが、コンピュータビジョンパイプラインよりも低速で行われ得る。そのため、GPU106によるグラフィクスのレンダリング後に生じ得た頭部姿勢の、およびオクルージョンを生じるシーンジオメトリの変化に対応するように、ワープエンジン108およびディスプレイ/オクルージョンプロセッサ109を介して、ポストレンダリング補正を実行してもよい。頭部姿勢119およびオクルージョンを生じるジオメトリ113のあらゆる変化に対応するため、GPU106の出力は、適切なグラフィックス出力を生成するために、頭部姿勢パイプライン120およびオクルージョンパイプライン123のそれぞれからの適切な制御信号121および123とともに使用可能となるようにタイムスタンプされる。その他例もあり得る。
GPU106と並列に、複数のセンサおよびカメラ(例えば、深度およびビジョン処理117のためのアクティブおよびパッシブステレオカメラを含む)がコンピュータビジョンパイプライン116に接続されてもよい。コンピュータビジョンパイプライン116は、各々がより低位の処理の複数の段階を含み得る少なくとも3つの段階の1または複数を含み得る。一例において、コンピュータビジョンパイプライン116における段階は、画像信号処理(ISP)パイプライン118、頭部姿勢パイプライン120、およびオクルージョンパイプライン122であり得る。ISPパイプライン118は、入力カメラセンサ117の出力を取得し、それを後続の頭部姿勢およびオクルージョン処理で使用できるように調整してもよい。頭部姿勢パイプライン120は、対応する出力グラフィックスフレームがGPU106によりレンダリングされてからの頭部姿勢の変化を計算するため、ISPパイプライン118の出力を取得し、それをヘッドセット110内の慣性測定ユニット(IMU)の出力119と共に使用してもよい。頭部姿勢パイプライン(HPP)120の出力121を、ユーザが指定したメッシュと共にワープエンジン108に適用して、GPU出力102を、更新された頭部姿勢位置119に一致するように変形してよいオクルージョンパイプライン122は、頭部姿勢パイプライン121の出力を取得し、視野に入り、対応する影114をシーンジオメトリにもたらすであろう、手113(またはその他例示的オブジェクト)等の、視野内の新たなオブジェクトを探してもよい。オクルージョンパイプライン122の出力123は、ディスプレイおよびオクルージョンプロセッサ109により、ワープエンジン108の出力103の上に、適切に視野を重ねるために使用されてもよい。ディスプレイおよびオクルージョンプロセッサ109は、計算された頭部姿勢119を使用して、合成影114用に影マスクを生成する。そしてディスプレイおよびオクルージョンプロセッサ109は手113の、オクルージョンを生じるジオメトリを、影マスク上に合成し、グラフィックの影114をワープエンジン108の出力103上に生成し、拡張/複合現実ヘッドセット110上に表示される最終出力フレーム104を生成してもよい。その他例示的使用ケースおよび特徴もあり得る。
図2は、本開示のいくつかの実施形態に係るボクセル系拡張または複合現実レンダリングシステムを示す。図2に示す装置は、ホストCPU200および関連するホストメモリ201上に構成されるホストシステムを含んでもよい。当該システムは、バス204、オンチップネットワーク、またはその他通信機構を介して、一体型コンピュータビジョンおよびグラフィックスパイプライン223と、ヘッドマウント拡張または複合現実ディスプレイ211に表示される最終的シーンにおいてレンダリングされる現実および合成ボクセルを含む、関連する一体型コンピュータビジョンおよびグラフィックスメモリ213と通信してよい。AR/MRディスプレイ211はさらに、複数のアクティブおよびパッシブ画像センサ214、および頭部姿勢222の向きの変化を測定するために使用される慣性測定ユニット(IMU)212を含んでもよい。
複合型レンダリングパイプラインにおいて、合成ジオメトリは、合成ボクセルジオメトリ202を生成するためにOpenGL JiT(Just-in-Time)トランスレータ205により処理される三角形リスト204から生成開始されてもよい。合成ボクセルジオメトリは、例えば、三角形リストから、三角形の主平面を選択することで生成され得る。その後、選択された平面内の各三角形の(例えばX方向およびZ方向における)2Dラスタ化が実行されてもよい。第3の座標(例えば、Y)が、三角形全体で補間される属性として生成されてもよい。ラスタ化された三角形の各ピクセルが、対応するボクセルの定義となり得る。この処理は、CPUまたはGPUの何れかにより実行され得る。GPUにより実行される場合、GPUがピクセルを描いたボクセルを生成するように、各ラスタ化三角形は、GPUから読み戻されてもよい。その他例示的実装もあり得る。例えば、リストの2Dバッファを使用して合成ボクセルを生成してもよい。ここで、リストの各エントリは、該当するピクセルでレンダリングされるポリゴンの深度情報を記憶する。例えば、正投影視点(例えば、上から下)を使用して、モデルがレンダリング可能である。例えば、例示的バッファに設けられたそれぞれの(x,y)は、対応するボクセルボリューム(例えば、(x,y,0)から(x,y,4095))における(x,y)の行を表してもよい。そして、各リスト内の情報を使用して、3D走査線としての情報から、各行がレンダリングされてもよい。
図2の例の説明を続ける。いくつかの形態では、同時位置特定およびマッピング(SLAM)パイプライン217を使用して構築された、測定ジオメトリボクセル227に、合成ボクセルジオメトリ202が組み合わされてもよい。SLAMパイプラインは、アクティブセンサおよび/またはパッシブ画像センサ214(例えば、214.1および214.2)を使用してもよい。これらはまず画像信号処理(ISP)パイプライン215を使用して、出力225を生成するように処理される。出力225は、深度パイプライン216により、深度画像226に変換され得る。アクティブまたはパッシブ画像センサ214(214.1および214.2)は、アクティブまたはパッシブステレオセンサ、構造化光センサ、タイムオブフライトセンサを含み得る。その他例もあり得る。例えば、深度パイプライン216は、構造化光またはタイムオブフライトセンサ214.1あるいはパッシブステレオセンサ214.2からの深度データを交互に処理することの何れかを処理してもよい。一例示的実装において、ステレオセンサ214.2は、一組のパッシブステレオセンサを含み得る。その他例示的実装もあり得る。
深度パイプライン215により生成された深度画像は、測定ジオメトリボクセル227の、ボクセル化モデルを生成するように、SLAMアルゴリズム(例えば、Kinect Fusion)を使用するデンス(dense)SLAMパイプライン217により処理されてもよい。ディスプレイプロセッサ210を介して、ディスプレイデバイス(例えば、VRまたはARアプリケーションにおける、ヘッドマウントディスプレイ211)に出力されるシーンの2Dレンダリングを生成するため、測定ジオメトリボクセル227(例えば、実ボクセルジオメトリ)を合成ボクセルジオメトリ202に合成し得る、レイトレーシングアクセラレータ206が設けられてもよい。そのような実装において、完全なシーンモデルは、測定ジオメトリボクセル227からの実ボクセルおよび合成ジオメトリ202から構築され得る。この結果、2Dレンダリングされたジオメトリのワーピング(例えば、図1に示す)が不要となる。このような実装は、現実の測定されたジオメトリを正しく位置合わせするため、頭部姿勢トラッキングセンサと対応するロジックに組み合わされてもよい。例えば、例示的頭部姿勢パイプライン221は、ヘッドマウントディスプレイ212内に搭載されたIMU212からの頭部姿勢測定値232を処理してもよく、ディスプレイプロセッサ210を介したレンダリングの際に、頭部姿勢測定パイプラインの出力231が考慮されてもよい。
いくつかの例において、一体型レンダリングパイプラインは、オーディオリバーブモデルをレンダリングし、現実世界、仮想、または複合現実シーンの物理的性質をモデリングするためにも、測定ジオメトリボクセル227(例えば、実ボクセルモデル)および合成ジオメトリ202(例えば、合成ボクセルモデル)を使用してもよい。一例として、物理的性質パイプライン218は、測定ジオメトリボクセル227および合成ジオメトリ202ボクセルジオメトリを取得し、ボクセルデータ構造内に組み込まれた音響反射係数を使用して、出力サンプル230を計算するため、レイキャスティングアクセラレータ206を使用して、ヘッドマウントディスプレイ(HMD)211の左右のイヤホンに対する出力音響サンプルを計算してよい。同様に、202および227から成る一体型ボクセルモデルはさらに、AR/MR複合シーンにおける合成オブジェクトの物理的性質更新決定にも使用されてよい。物理的性質パイプライン218は、入力として合成シーンジオメトリを取得し、レンダリング用の合成ジオメトリ202に対する更新228の計算前に、レイキャスティングアクセラレータ206を使用して衝突を計算する。これは物理的性質モデルの以降の繰り返しの基準ともなる。
いくつかの実装において、図2に示すシステム等のシステムに、ISPパイプライン215からの出力からのRGB動画/静止画入力、およびSLAMパイプライン217の出力からのボリュームシーンデータ、その他例の何れかを処理可能な畳み込みニューラルネットワーク(CNN)を実現、および/または利用するための1または複数ハードウェアアクセラレータが追加で設けられてもよい。ニューラルネットワーク分類器は、出力分類237を生成するため、ハードウェア(HW)畳み込みニューラルネットワーク(CNN)アクセラレータ207を使用して専用に、またはプロセッサとHW CNNアクセラレータ207との組み合わせの何れかで動作可能である。HW CNNアクセラレータ207が、ボリューム表現に対する予測を行う機能を有すれば、測定ジオメトリボクセル227における各群のボクセルが特定のオブジェクトクラスに属するとラベル付け可能となり得る。その他使用例もあり得る。
ボクセルのラベル付け(例えば、CNNと補助用ハードウェアアクセラレーション)により、システムが、当該ボクセルが属するオブジェクトが、既知のオブジェクトに対応すると認識でき得る。また、ソースボクセルが測定ジオメトリボクセル227から除去でき、オブジェクトに対応するバウンディングボックスおよび/またはオブジェクトの原点、オブジェクトの姿勢、オブジェクトの記述子についての情報に置き換え可能となる。その他例示的情報もあり得る。これは、シーン内のオブジェクトと相互作用する、ロボット、ドローン、またはその他コンピューティングシステムによる入力として、またはオーディオシステムがシーンにおけるオブジェクトの吸音係数を調べ、そのシーンの音響的モデルに反映するために使用可能な、シーンについての意味的に極めてより有意な記述に帰結し得る。その他例示的使用例もあり得る。
図2において示され、説明された例示的システムのパイプラインを実現するために、1または複数プロセッサデバイスおよびハードウェアアクセラレータが設けられてもよい。いくつかの実装において、複合レンダリングパイプラインのハードウェアおよびソフトウェア要素の全てが、DRAMコントローラ209に対するアクセスを共有してもよく、これにより、データが共有DDRメモリデバイス208に記憶可能となる。その他例示的実装もあり得る。
図3は、いくつかの実施形態に係る、デンスおよびスパースなボリューム表現間の違いを示す。図3の例に示すように、現実世界または合成オブジェクト300(例えば、うさぎの像)が、ボクセルにより、302に示すようにデンス、または304に示すようにスパースの何れかで記述可能である。302のようなデンスな表現の利点として、ボリューム内の全てのボクセルに対して均一のスピードでアクセスできることが挙げられる。一方、欠点として、必要になり得るストレージ量が挙げられる。例えば、512要素のボリューム(例えば、Kinectセンサを使用して走査されるボリュームについて、1cm解像度で5mに対応する)のようなデンスな表現の場合、各ボクセルについて、4バイトの面取りされたシグナリング距離ファンクション(truncated signed distance function(TSDF))を有する比較的小さなボリュームを記憶するのに、512MByteが必要となり得る。一方で、スパースな表現としてのオクトツリー表現304の場合、現実世界シーンにおける実際のジオメトリが存在するボクセルのみが記憶され得る。そのため、同じボリュームを記憶するのに必要なデータ量が低減される。
図4を参照すると、いくつかの実施形態に係る、例示的なシーンの合成図が示される。特に、図4は、合成および現実世界ボクセルデータをそれぞれ示す、等しいバウンディングボックス400および402内に、合成ボクセル401および現実世界の測定されたボクセル403を表現するように、どのようにシーン404の合成図が維持、表示、または並行データ構造を使用したさらなる処理が施されるかを示す。図5は、いくつかの実施形態に係る、均一な4要素のツリー構造における、詳細度を示す。図5の例に示すように、いくつかの実装において、オクトツリー表現を使用して、ボリュームにおける各ボクセルを記述するのに、最小で1ビットが利用され得る。しかし、オクトツリー型技術では、オクトツリー内の特定のボクセルにアクセスするのに利用される、間接的メモリアクセスの数が欠点となり得る。スパースなボクセルオクトツリーの場合、同一のジオメトリが、複数の詳細度で非明示的に表され得る。これにより、レイキャスティング、ゲーム物理、CNN、その他技術の動作において、シーンの空部分のさらなる計算が省略可能となるという利点がある。したがって、必要なストレージだけでなく、消費電力および計算負荷の全体的低減が図られる。その他例示的利点もあり得る。
1つの実装において、改良ボクセル記述子(本明細書において、「ボリュームデータ構造」とも称する)を設けて、ボクセル毎に1ビットというメモリ要件の501に示すように、ボリューム情報を4(または64ビット)符号なし整数として構成してもよい。この例において、ボクセル毎1ビットでは、面取りされたシグナリング距離ファンクション(truncated signed distance function value)値の記憶には不十分である(64ビットを用いるSLAMbench/KFusionにおけるTSDFとの比較)。本例において、ボクセル記述子内に、追加の(例えば、64ビット)フィールド500が含まれてもよい。本例は、64ビットフィールド500におけるTSDFが16ビットである一方、ボクセル記述子501において2ビット分の若干の解像度がx、yおよびzに非明示的に追加されるようにさらに拡張されてもよい。これにより、SLAMbench/KFusionまたはその他例において使用されるような、解像度が大幅に高いTSDFに等しい、64ビットフィールド500におけるボクセルTSDFと、ボクセル位置501との組み合わせが実現される。例えば、64ビットフィールド500(ボクセル 記述子)におけるこの追加データは、各1バイトのサブサンプリングされたRGB色情報(例えば、パッシブRGBセンサを介したシーンから)、8ビットの透明度値アルファ、さらに2つの1バイト予備フィールドR1およびR2の記憶に使用されてもよい。予備フィールドR1およびR2は、アプリケーション特有のものであり、例えばオーディオアプリケーションの場合は音響反射率、物理的アプリケーションの場合は剛性、そしてオブジェクト材料種類の記憶に使用可能である。その他例もあり得る。
図5に示すように、ボクセル記述子501は、各々が16ボクセル502を含む、4つの2D平面に論理的にグループ分けできる。これら2D平面(またはボクセル平面)は、図5に表すように、4の累乗で段階的に分解されることに基づくオクトツリー式構造の各レベルを記述し得る。この例示的形態において、対応するシステム実装で使用される64ビットバスインフラストラクチャとの相性の良さから、64ビットボクセル記述子が選択される(ただし、その他システム形態では、ボクセル記述子のサイズとフォーマットは異なっていてもよく、バスまたはシステム内のその他インフラストラクチャに応じたサイズとなってもよい)。いくつかの形態において、ボクセル記述子は、ボクセル取得するために用いられるメモリアクセスの数を低減するようなサイズに設定されてもよい。例えば、2個の要素上で動作する伝統的なオクトツリーに対して、オクトツリーにおける任意のレベルにおけるボクセルにアクセスするのに必要なメモリアクセスの数を半分に減らすように、64ビットボクセル記述子を使用してもよい。その他例示的考察および形態もあり得る。
一例において、オクトツリーは4ルートボリューム503から始まるように記述されてもよく、下位層504、505、および506におけるジオメトリの存在を示すコードの各非ゼロエントリが、例示的な256ボリュームで示される。この具体例において、オクトツリーの最下層にアクセスするのに4度のメモリアクセスが用いられ得る。そのようなオーバーヘッドが高すぎる場合、507で示すように、64等のより大きなボリュームとして、オクトツリーの最高位を符号化するように、別の手法を採ってもよい。この場合、各非ゼロエントリ507は、下位の256ボリューム508における、下位の4オクトツリーの存在を示し得る。この代替的構成の結果として、503、504、および505で示す代替的構成と比較して、256ボリューム508の任意のボクセルへのアクセスに必要なメモリアクセス数は2回のみとなる。後者の手法は、オクトツリー構造のホストデバイスの内蔵メモリ量が大きい場合に有効である。外部メモリ内では、ボクセルオクトツリー508の下位かつ低頻度アクセス部分のみ可能にする。この手法は、ストレージの観点でコスト高になり得る。例えば、オンチップメモリに一体的で大きな(例えば、64)ボリュームが記憶されるような場合である。しかし、トレードオフにより、より高速(例えば倍速)のメモリアクセス、および電力消費の大幅な低減が可能となり得る。その他例示的な利点もあり得る。
図6を参照すると、いくつかの実施形態に係る、本開示のデータ構造およびボクセルデータを利用し得る、例示的アプリケーションを示すブロック図が示されている。図5に示すような一例において、例示的なボクセル記述子500を通じて追加的な情報が提供され得る。このボクセル記述子は、利用される全体的なメモリをボクセル毎2ビットにまで増加し得るが、一方で幅広いアプリケーションを可能にし得る。即ち、図6に表すようなボクセルデータの利用が可能となり得る。例えば、デンスなSLAMシステム601(例えばSLAMbench)を使用して生成されるような共有ボリューム表現602が、グラフィックレイキャスティングまたはレイトレーシング603を使用したシーンのレンダリングにおいて、そしてオーディオレイキャスティング604において使用可能である。その他実装もあり得る。さらなる別の例において、ボリューム表現602は畳み込みニューラルネットワーク(CNN)予測605においても使用でき、クラウドインフラストラクチャ607によりバックアップできる。いくつかの例において、クラウドインフラストラクチャ607は、予測によりアクセス可能な木、1つの家具、またはその他オブジェクト(例えば606)等のオブジェクトの詳細なボリューム記述子を含み得る。オブジェクトの予測またはその他方法による特定に基づき、対応する詳細な記述子がデバイスに返されてもよい。これにより、ボリューム表現602のボクセルを、姿勢情報と、オブジェクトの特性を含む記述子を有するバウンディングボックス表現で置換可能となる。その他例示的特徴もあり得る。
さらに別の実施形態において、ボリューム表現602の3D-2D投影を利用して、例示的な環境608の2Dマップを構築するように、上述したボクセルモデルを、追加的、または代替的にいくつかのシステムで使用してもよい。これら2Dマップも、クラウドインフラストラクチャおよび/またはその他ネットワーク型資源607を通じて、通信中の機械を介して共有可能である。そしてクラウドソーシング技術を使用して、より高品質なマップを構築するように蓄積され得る(例えば、同じクラウドインフラストラクチャを使用する)。これらマップは、機械およびデバイス接続されたクラウドインフラストラクチャ607により共有できる。さらに異なる例において、2Dマップは、区分的簡略化609(例えば、車両またはロボットの固定された幅及び高さを前提とする)に先立つ、投影に利用される超低帯域アプリケーション用に改良してもよい。したがって簡略化された経路は、経路の区分的直線部位毎に、単一のX、Y座標組を有してもよい。これにより、車両609からクラウドインフラストラクチャ607への通信経路を構築するのに必要な帯域量が低減される。経路は同じクラウドインフラストラクチャ607内に蓄積されることで、クラウドソーシング技術を利用して、より高品質なマップが構築される。これらマップは、機械およびデバイスに接続されたクラウドインフラストラクチャ607により共有できる。
これら異なる複数のアプリケーションを可能にするため、いくつかの形態において、共有ソフトウェアライブラリを通じて等により、共通機能が提供されてもよい。この機能は、いくつかの実施形態において、ハードウェアアクセラレータまたはプロセッサ命令セットアーキテクチャ(ISA)拡張を使用して、向上可能である。その他例もあり得る。例えば、このような機能は、記述子へのボクセルの挿入、ボクセルの削除、またはボクセル610の検索を含んでもよい。いくつかの実装において、さらに衝突検出機能620、およびボリュームからのポイント/ボクセル削除630にも対応し得る。その他例もあり得る。上述のとおり、システムに、対応するボリューム表現602(3Dボリューム)から迅速にX方向、Y方向およびZ方向の2D投影640(例えば、経路または衝突判定の基準となり得る)を生成する機能が設けられてもよい。いくつかの場合において、ヒストグラムピラミッド650を使用して、ボリューム表現602から三角形リストを生成可能であることも有利であり得る。さらにシステムは、ボリューム空間602の2Dおよび3D表現における自由経路660の高速決定用の機能が設けられてもよい。当該機能は、様々なアプリケーションで有利となり得る。ボリュームにおけるボクセルの数を検討の上算出する、ボリューム表現602のマスク付き領域での1ビットの数を計算するポピュレーションカウンタを使用してオブジェクトの表面を決定する等の機能がさらに設けられてもよい。その他例もあり得る。
図7の簡潔なブロック図を参照すると、少なくともいくつかの実施形態に係る、3D数字認識機能を備えたシステムを含む例示的ネットワークが示されている。例えば、図6に示すアプリケーションの1つとして、ボリュームCNNアプリケーション605が挙げられる。これを図7でより詳細に説明する。ここで、Mixed National Institute of Standardsand Technology(MNIST)データセット等のデータセットから生成された3D数字700を認識するのに例示的ネットワークが使用される。当該データセット内の数字は、訓練前にX方向、Y方向およびZ方向での適切な回転および並進を数字に適用することにより、CNN型畳み込みネットワーク分類器710の訓練に使用されてもよい。内蔵するデバイスにおける予測に使用される場合、訓練済みネットワーク710は、仮に数字がX方向、Y方向およびZ方向720に回転および並進していたとしても、シーンにおける3D数字を高精度で分類するのに使用可能である。その他例もあり得る。いくつかの実装において、図2に示すHW CNNアクセラレータ207により、CNN分類器の動作を向上できる。ニューラルネットワークの第1層はボリューム表現602内のボクセルを使用して乗算を行なうが、ゼロをかけると必ずゼロになる、そしてデータ値Aに1(ボクセル)をかけるとAに等しくなることから、これら演算動作をスキップできる。
図8は、同一のデータ構造に対して、複数の非自明的詳細度を利用して実行される複数の分類を示す。ボリューム表現602を使用したCNN分類のさらなる向上は以下のとおりであり得る。即ち、オクトツリー表現は、図5に示すオクトツリー構造において非明示的に複数の詳細度を含む。そして、図8に示すように、単一の分類器830を使用、または複数の分類器を並列に使用して、同一のデータ構造に対して、非明示的な詳細度800、810、および820により複数の分類を実現できる。伝統的なシステムにおいては、このような並行分類は、分類間の移行で必要な画像サイズ変更により、低速となり得る。本明細書に記載のボクセル構造を適用する実装では、同一のオクトツリーが、複数の詳細度で同一の情報を含み得るので、このようなサイズ変更が前に行われ得る。実際、従来のCNNネットワークで必要になるような、サイズ変更を伴う訓練データセットではなく、ボリュームモデルに基づく単一の訓練データセットで、全ての詳細度を網羅可能である。
図9に示す例を参照すると、動作省略の例がいくつかの実施形態に係る2DのCNNにより示される。動作省略は3DのボリュームCNNで利用でき、さらに図9に示すように2DのCNNにも利用できる。例えば、図9において、第1層では、入力910の予期される「形状」を記述するようにビットマップマスク900が使用され、入力ビデオストリーム920に適用され得る。一例において、動作省略は、3DのボリュームCNNだけではなく、2DのボリュームCNNにも使用可能である。例えば、図9の2DのCNNにおいて、入力910の予期される「形状」を記述するように、CNNの第1層にビットマップマスク900が適用されてもよく、入力ビデオストリーム820等のCNNの入力データに適用されてもよい。一例として、図9では、CNNネットワークの訓練または予測のため、歩行者の画像にビットマップマスクを適用する効果が示されている。ここで901は歩行者901の元画像を表し、903は対応するビットマップマスク適用バージョンを表す。同様に、902は歩行者を含まない画像を示し、904は対応するビットマップマスク付きバージョンを示す。検出器により予期される、予期される2Dまたは3Dジオメトリの知識を通じて、同じ方法が、CNN訓練または予測に必要な動作の数を低減するため、あらゆる2Dまたは3Dオブジェクトに適用できる。911は、3Dボリュームビットマップの例を示す。920は、実際のシーンにおける予測のための、2Dビットマップの使用を示す。
図9の例示的実装において、オブジェクト910の特定のクラスについて、一連の訓練画像の平均を取ることで実ビットマップが生成されながら、概念的ビットマップが(900で)示される。図示の例では、二次元で示されているが、提案されたボクセル毎1ビットのボリュームデータフォーマットにおいて、同様なビットマップマスクが3Dオブジェクトに対しても生成可能である。実際、さらなるボクセル/ピクセル毎に追加のビットを使用することで、2Dまたは3Dオブジェクトの予期される色範囲またはその他特徴を指定するように、方法を拡張するという可能性もあり得る。
図10は、いくつかの実施形態に係る、10,000個のCIFAR-10テスト画像の分析を伴う例示的実験の結果を示す表である。いくつかの実装において、図10に示すLeNet1000等のCNNネットワークで頻繁に生じる、正規化線形ユニット(ReLU)による1D、2D、および3DのCNNにおける中間計算を省略するように、動作省略が利用可能である。図10に示すように、10,000CIFAR-10テスト画像を使用した実験において、ReLUユニットにより生成されたデータ依存ゼロのパーセンテージは、85%に昇り得る。これは、ゼロに該当する場合、ゼロを認識して、それに応じて対応するデータを取得せず、対応する乗算を実行しないシステムが設けられる得ることを示唆する。この例において、85%は、Modified National Institute of Standards and Technologyデータベース(MNIST)テストデータセットから生成されたReLUによる動的ゼロのパーセンテージを表す。これらゼロに対応する、対応する動作省略は、電力消費およびメモリ帯域要件の低減を実現し得る。その他例示的利点もあり得る。
重要でない動作は、ビットマップに基づいて省略され得る。例えば、当該ビットマップの使用は、参照により本明細に全体が組み込まれる、名称「データ圧縮用回路およびそれを利用するプロセッサ」の米国特許第8,713,080号に記載および図示の実施形態の原理に応じてもよい。いくつかの形態では、同じく参照により本明細に全体が組み込まれる、名称「演算処理を実行するためのハードウェア」の米国特許第9,104,633号に記載および図示のシステム、回路、およびその他形態等、当該ビットマップを使用可能なハードウェアが提供されてもよい。
図11は、いくつかの実施形態に係る、ビットマップに基づいて、重要ではない動作を省略する機能を提供するため、システムに組み込まれ得るハードウェアを示す。この例において、繰り返し畳み込み層を含む、多層ニューラルネットワークが提供される。このハードウェアは、1または複数のプロセッサ、1または複数のマイクロプロセッサ、1または複数の回路、1または複数のコンピュータ等を備えてもよい。この具体例では、ニューラルネットワークは、最初の畳み込み処理第層1100と、それに続くプーリング処理1110と、最後の正規化線形ユニット(ReLU)の機能1120等の活性化関数処理が含まれる。ReLU出力ベクトル1131を提供するReLUユニット1120の出力は、ReLU出力ベクトル1131を受け取る後続の畳み込み処理層1180(例えば、遅延1132を伴い得る)に接続され得る。一例示的実装において、ReLUユニット1120の後続の畳み込みユニット1180への接続と並行して、ReLUビットマップ1130も生成されてもよい。ReLUビットマップ1130は、ReLU出力ベクトル1131においてどの要素がゼロであるか、ゼロでないかを示す。
一実装において、イネーブルされたハードウェアに対して、ニューラルネットワークの計算に伴う動作を省略する機会を通知するために、ビットマップ(例えば、1130)が生成されるか、またはそれ以外の方法で提供されてもよい。例えば、ビットマップスケジューラ1160がReLUビットマップ1130内のビットを解釈し得る。ビットマップスケジューラ1160は、後続の畳み込みユニット1180における乗算器に、ReLUビットマップ1130における対応する2値ゼロが存在するReLU出力ベクトル1131のゼロエントリをスキップするように指示する。ゼロをかけると必ず出力がゼロとなるためである。並行して、ReLUビットマップ1130内のゼロに対応するデータ/重みについての、アドレス生成器1140からのメモリ取得もスキップされてもよい。後続の畳み込みユニット1180によりスキップされるような重みを取得することに価値はほぼ認められないためである。重みがDDRコントローラ1150を介して、取り付けられたDDR DRAMストレージデバイス1170から取得される場合、レイテンシが高すぎて、オンチップ帯域および関連する消費電力の多少の低減しか実現できない可能性がある。一方、重みがオンチップRAM1180ストレージから取得される場合、特に、RAM/DDR取得遅延1132に対応する遅延が、特に後続の畳み込みユニット1180の入力で加えられた場合、重み取得動作の全体を回避/スキップ可能となり得る。
図12を参照すると、いくつかの実施形態に係る、重要でない動作を省略する(または動作省略を実行する)回路またはその他ロジックによる、例示的ハードウェアに対する向上を示すように提供された、簡潔なブロック図が示されている。図12の例に示すように、直前の最大プーリングユニット1210または畳み込みユニット1200からのReLUユニット1220入力の符号を予測するように追加的ハードウェアロジックが提供されてもよい。最大プーリングユニット1210に符号予測およびReLUビットマップ生成を加えることで、アドレス生成器1240を通じて、外部DDRコントローラ1250およびDDRストレージ1270または内部RAMストレージ1271を通じて生じ得る遅延をカバーするように、タイミング的により早くReLUビットマップ情報の予測が可能となり得る。遅延が十分に低い場合、アドレス生成器1240においてReLUビットマップが解釈され得、ReLUビットマップのゼロに関連したメモリ取得が完全にスキップできる。メモリからの取得の結果が使用され得ないと判定できるからである。この図11の方式に対する変形は、追加の省電力が実現できる。DDRアクセスパス(例えば、1240から1250から1270)またはRAMアクセスパス(例えば、1240から1271)を通じた遅延が、遅延タグ1232が発生しないほど十分に低い場合、さらに後続の畳み込みユニット1280の入力での遅延タグ(例えば、1132、1232)が除去可能となり得る。その他例示的特徴および機能もあり得る。
図13は、いくつかの実施形態に係る、例示的ハードウェアを示す、別の簡潔なブロック図である。例えば、CNN ReLU層は、負の入力に対応する多数のゼロ出力を生成可能である。実際、負のReLU入力は、直前の層(例えば、図13の例におけるプーリング層)に対する符号入力を確認することで予測的に判定できる。浮動小数点および整数は、最上位ビット(MSB)に関して、明示的に符号付け可能である。したがって、図13に示すように、畳み込み層で乗算される、入力のベクトル全体への単純なビット処理排他的論理和(XOR)動作により、どの乗算によりゼロ出力を生じるか予測可能である。その結果である符号予測ReLUビットマップベクトルは、省略される乗算のサブセットおよび関連するメモリからの係数読み込みの決定の基準として使用可能である。これは上述の別の例にて説明されたように実現される。
直前のプーリングまたは畳み込み段階(即ち、対応するReLU段階の前の段階)に戻されるReLUビットマップ生成の実現は、電力消費増に帰結し得る。例えば、ReLU活性化ロジックにより最終的にゼロに設定される負の出力を生成するような場合に、乗算器を停止するように符号予測ロジックが提供されてもよい。この例として、乗算器1314の入力1301および1302の、2つの符号ビット1310および1315が、XORゲートにより論理的に合成されて、PreReLUビットマップビット1303を形成することが示される。この同じ信号を使用して、続く畳み込み段階1390での乗算用の入力前に、さもなくばReLUロジックによりゼロに設定され得る負の出力を生成することで無用に電力を消耗してしまうような乗算器1314の動作を停止することができる。その他例もあり得る。
なお、1300、1301、1302、および1303(Aで示す)は、図13でBが付されたものの上位視点を示す。この例において、ブロック1302への入力は、2つの浮動小数点オペランドを含み得る。入力1301は、明示的符号ビット1310と、複数のビットを含む仮数1311と、同じく複数のビットを含む指数1312とを含み得る。同様に、入力1302も同じような符号1315、仮数1317、および指数1316を含み得る。いくつかの実装において、仮数および指数は精度が異なり得る。結果1303の符号は、1301および1302の符号、または1310および1315のそれぞれにのみ依存するためである。事実、1301および1302のいずれも、符号付番号であり、最上位ビット(MSB)が効果的に明示的なまたは非明示的な符号ビットである限り(例えば、これら番号が1または2の補数であるような場合等)、浮動小数点数である必要はなく、任意の整数であるか、または固定点形式であってよい。
図13の例の説明を続ける。2つの符号入力1310および1315が、XOR(本明細書において、これ以外にもExORまたはEXORと称する場合もある)ゲートを用いて合成されてもよい。これによりビットマップビット1303が生成され、これはその後、後続の畳み込みブロック(例えば、1390)において省略され得る下流乗算を特定するハードウェアを使用して処理されてもよい。同じXOR出力1303を使用してさらに、2つの入力数1313(例えば、1301に対応する)および1318(例えば、1302に対応する)の符号が逆で、ReLUブロック1319によりゼロに設定され、後続の畳み込み段階1390に入力されるRELU出力ベクトル13191におけるゼロ値に帰結する負の出力1304が生成される場合に、乗算器1314を停止してもよい。したがって、いくつかの実装において、これに並行して、畳み込みユニット1390上で動作する(および/または省略される)乗算をスケジューリングし得るビットマップスケジューラ1360に対して、PreReLUビットマップ1320が送信されてもよい。例えば、ビットマップ1320におけるすべてのゼロについて、畳み込みユニット1390における対応する畳み込み動作がスキップされてもよい。これと並行に、ビットマップ1320が、畳み込みユニット1390で使用される重みの取得を制御する例示的なアドレス生成器1330により消費されてもよい。ビットマップ1320における1に対応するアドレスのリストが、アドレス生成器1330内でコンパイルされてもよい。これにより、DDRコントローラ1350を介したDDRストレージ1370への経路を制御するか、またはチップRAM1380への経路を制御する。いずれの場合でも、PreReLUビットマップ1320における1に対応する重みが取得されて、畳み込みブロック1390に対して提示されてもよい(例えば、重み入力1371に対するクロック周期に関するある程度のレイテンシ後)。この際、ゼロに対応する重みの取得は省略され得る。その他例もあり得る。
上述のように、いくつかの形態において、遅延(例えば、1361)が、ビットマップスケジューラ1360と、畳み込みユニット1390との間に介在してもよい。これにより、アドレス生成器1330、DDRコントローラ1350およびDDR1350を介した、またはアドレス生成器1330および内部RAM1380を介した遅延とのバランスを取る。この遅延により、ビットマップスケジューラにより駆動される畳み込みが、畳み込みユニット1390における畳み込み計算に対する、対応する重みに応じて、適切に時間設定され得る。実際、タイミングに関して、ReLUブロック1319の出力よりも早くReLUビットマップを生成することで、追加の時間が稼ぐことができる。これを使用して、アドレス生成器1330により生成される前に、メモリ(例えば、RAM1380またはDDR1370)からの読み取りを止め得る。したがって、いくつかの読み取り(例えば、ゼロに対応する)が不要となり得る。メモリ読み取りは、チップ上の論理的動作よりも遥かに高く成り得るため、そのようなメモリ取得を省略することは、大幅な省電力に帰結し得る。その他例示的利点もあり得る。
いくつかの実装において、クロック周期に関して、DRAMアクセス時間に対する十分に時間が稼ぎきれない場合、ブロック指向の技術を利用して、事前にDDRから符号ビット群(例えば1301)を読み込んでもよい。これら符号ビット群は、入力画像または中間畳み込み層1302からの符号のブロックと共に使用されてよい。これにより、一組の(複数の)XORゲート1300を使用して、PreReLUビットマップのブロックが生成される(例えば、2Dまたは3Dアレイ/行列間の2Dまたは3D畳み込みにおける符号ビットの差分を計算する。その他例もあり得る)。そのような実装において、各重みの符号を記憶するのに、DDRまたはオンチップRAMにおける追加の1ビットストレージが提供されてもよいが、この場合は、多数のレイテンシ周期がカバーされ、ReLU段階からゼロで乗算される、DDRまたはRAMからの重みを読み込むことが完全になくなり得る。いくつかの実装において、符号が個別に指数および仮数から指定され得るように記憶されることで、DDRまたはオンチップRAMにおける重み毎の1ビットのストレージの追加が避けられ得る。これ以外の例示的考察および形態もあり得る。
一例において、最大限のデータ転送速度を実現するように、自然なバーストアクセスを有し得る、DDRアクセスを利用して、システムをさらに向上してもよい。この場合、DDR重みアクセスはバーストよりも大幅に短くなり得るため、それを個別にスキップすることによる省電力は実現不能となり得る。したがって、いくつかの例において、特定のバーストトランザクションに対応する全てのビットマップビットがゼロである場合にバーストは省略されてもよい。しかしこれは低頻度であり得る。したがって、得られる省電力および帯域効果は限定的となり得る。さらに別の実装では、ビットマップバーストにおけるNビット超がゼロである場合、バーストが完全にスキップされるように、バーストにおけるビットマップビットの数に対して、レジスタプログラマブル閾値が設定されてよい。これは、CNN分類の全体的精度を若干下げる効果があり得るが、省電力の観点から許容され得る。
いくつかの実装において、上述の例では、それら例において使用されるボリュームデータの少なくとも一部のストレージおよびアクセスのために、ハッシュテーブルが利用され得る。ハッシュテーブルは、例えば上述の低レイテンシ、低電力、および資源限定的実施形態にて使用され得る。伝統的なハッシュ化方法で3Dボリュームデータを記憶する場合、アドレス指定衝突を最低限にとどめるため、十分に分散されたハッシュアドレスの実現を図るため、大きな素数が利用される。伝統的な実装では、元来2Dデータアプリケーションでの使用を意図したハッシュ化技術を利用し、キーバリューのランダム化を通じてハッシュアドレスを生成するように作用する大きな素数を利用する。しかし、これら伝統的な実装の一部には、このような大きな素数の利用について根拠がない。いくつかの実装において、3Dデータは、ほぼ全ての座標が固有と見做され得るため、本質的に分散性が高い。したがって、大きな素数の使用を省略するような、3Dデータアプリケーションに対する代替のハッシュ化技術を適用した実装があり得る。実際、伝統的な実装における、3Dデータのハッシュ化用の素数の使用は、経験的見地に基づくものではなく、主に慣習的に行われてきたものであり得る。
改良されたシステムにおいては、大きな素数の使用を避け、3Dデータ固有の配列を利用したアドレス指定方式が実施され得る。このような実装は、3Dボリュームデータのより効率的な記憶、検出、および削除を誇るシステムを実現し得る。その他例示的利点もあり得る。例えば、そのよう改良3Dアドレス指定方式の場合さらに、大きな素数を使用した伝統的なハッシュ化技術と比較して、アドレス指定の衝突発生が大幅に低減され得る。
いくつかのコンピューティングシステムでは、ハッシュ化アルゴリズムと、それらアルゴリズムを実行する対応するロジック(即ち、専用および/または汎用ハードウェア回路、ファームウェア、および/またはソフトウェア内で実装される)が、特定のアドレス指定空間に対して、任意のサイズのデータをマッピングするのに使用されてよい。そのようなハッシュ化技術は、3Dボリュームデータ等の、3D空間を定義するデータの記憶、検索、および削除に使用され得る。本明細書において説明されるVOLAフォーマットに応じて実現される3Dデータ等の、そのような3Dボリュームデータ。さらに、ハッシュ化技術は、本明細書に記載のアプリケーションに関連した、3Dデータの記憶、検索、および利用に関して使用されてよい。伝統的なアプリケーションにおいて、伝統的なハッシュ化アルゴリズム使用の共通目的は、データに対して互いに異なるマッピングアドレスを実現することである。しかし、実際に非ランダムデータから完全にランダムなデータを生成するハッシュ機能を定義することは理論上不可能とされる。このような固有のアドレスを実現する困難さを強調する例示的現象として、「誕生日のパラドクス」が挙げられる。即ち、サイズ365のテーブルに対して、23個のキーをマッピングするようにランダム関数が選択された場合、2つのキーが同じ位置にマッピングされない可能性は、わずか0.4927である。
ハッシュ化(または「空間的ハッシュ化」)において、アドレス計算は一般的に、キーバリューのランダム化スクランブリングで実現され、多くの技術において、このスクランブリングは大きな素数を使用して実現する。この文脈において、ハッシュ化とは、2Dまたは3D領域空間におけるオブジェクトまたはポイントが、1Dデータテーブル(または「ハッシュテーブル」)に投影され、領域空間内のオブジェクトに対する超高速クエリを可能にする技術である(例えば、位置クエリ、近接検出クエリ等)。3Dデータに対するハッシュ化を考慮する場合、データ完全性を維持するのに、十分に分散されたアドレスが望ましくなり得る。3Dボリュームデータは、本質的に、十分に分散されたボクセルアドレスを有し得る。例えば、例示的3Dボリュームデータにおいて、各ビットiは一意であり得、各ボクセルの(x,y,z)座標は一意であり得る。一例示的実装において、システムにおいて実装されるアルゴリズムは、例示的3Dボリュームデータにおける一意のボクセル位置を利用して、アドレス指定衝突を最小限にとどめるアドレス指定方式を実現し得る。この文脈において、アドレス指定衝突(またはハッシュ衝突、または単純に「衝突」)の参考状況として、ハッシュ化方式で使用されたハッシュ関数が、複数のキーに対して、ハッシュテーブル内で同じインデックスを生成することが挙げられる。
いくつかの実装において、複数の異なるハッシュ関数がシステム内でイネーブルされ、ハッシュ関数の特定の1つが、アプリケーションに基づいて選択されてもよい。一部のアプリケーションは、データ完全性の維持(例えば、ハッシュ化衝突の数を最小限にする)に特化し、一方でその他は実行速度(例えばデータ検索速度)に特化する。その他例もあり得る。さらに、容易にデータ挿入および除去を可能にする技術を提供することが考えられる。これは、ダイナミックデータを考慮した場合に極めて重要となる。その他例もあり得る。いくつかの例において、十分に望ましい性能実現を促すため、アルゴリズムから生成されたハッシュ値が一様に分布するように、ハッシュアルゴリズムが選択されるべきである。実際、理想的なソリューションは、単一のクエリでハッシュテーブルのデータ検索を可能とするような完全ハッシュ化関数を提供することであり得る。そのようなソリューションは、アドレス指定衝突を伴わないハッシュを提供するものである。単純に、これは十分に大きなハッシュテーブルを提供することで実現可能である。しかし、これは常に実現可能ではない。ボリュームデータは、モバイルプラットフォーム上を始めとする、メモリが限られた状況で使用されることが多いのである。その他制限的なシステムもあり得る。
3Dデータのハッシュ化で素数を使用する伝統的なハッシュ化方式の例として、除算的(division)ハッシュ化技術、乗算的(multiplicative)ハッシュ化技術、排他的論理和または(XOR)ハッシュ化方式、モートン順序ハッシュ化方式が挙げられる。その他例もあり得る。いくつかの実装において、複数の異なるハッシュ化方式のいずれか1つを実施するロジックを含むシステムが設けられてもよい。いくつかの例において、有効なハッシュ関数は、アプリケーションに依存し得る。いくつかの文脈において、ハッシュ関数の有効性は、妥当なデータフットプリントを維持しながら、アドレス指定衝突によりハッシュテーブルに記憶されないボクセルの数を最小限に抑える等、データ完全性に基づいて、測定または検討され得る。その他例もあり得る。さらに、特に軽量システムまたは資源限定的システムにおいて、データフットプリントのサイズ管理に関して、使用されるハッシュテーブルのサイズが重要となり得る。当該システムとしては、資源限定的なドローン、ロボット、自律走行乗用車または貨物車両、または3D空間内で自律移動可能なその他デバイスが挙げられる。テーブルが大きいほど、そのテーブルへのデータ挿入の場合に、アドレス指定衝突が生じにくいとも考えられるが、ハッシュアドレスがハッシュテーブルサイズの剰余である場合、ハッシュテーブルサイズの選択はバイアスを伴い得る。したがって、ハッシュテーブルサイズを選択する場合、必ずしも大きいほどよいとは限らない。より効率的なハッシュアルゴリズムにより、資源限定的アーキテクチャにおいてより使いやすい、より小さなハッシュテーブルが使用可能となり得る。
いくつかの実装において、ハッシュテーブルは、当該ハッシュテーブルの各エントリに、複数の要素の情報(例えば、特定の仮想または物理的3D空間における複数のボクセルについて、占有されているか否か、またはその他情報)を記憶可能とする特定のハッシュ化アルゴリズムに関連して使用されてもよい。例えば、複数の要素を記憶するハッシュテーブルエントリを使用する利点の1つとして、適切なエントリを発見するために用いられる外部検索の数の低減が挙げられる。ハッシュテーブルエントリサイズは、ボクセル(およびその他識別データ)の数および、各ボクセルまたはその他要素についての情報の記憶に使用されるビットの数に基づいて設計され得る。例えば、本開示で説明されるスパースツリーボリュームデータ構造と、そのボリュームデータ構造に記載の複数のボクセルを表すデータを含むように利用される対応するハッシュテーブルエントリサイズが考えられ得る。一例として、連続した4ボクセルブロックのボクセル毎2ビット表現を含むように、単一のハッシュテーブルエントリに対して、128ビットが割り当てられ得る。しかし、一部の3Dデータは、ボクセルが広く分布しながら、本質的にスパースであり得るため(例えば、Dublin City Datasetは、平均で98.74%スパースである)、ハッシュテーブルの単一のエントリ内のデータが表すボクセルの数は限定され得る。より控えめなボクセルの数(例えば64ボクセル)を表すことが、外れ値の形式で存在するノイズの効果を最小限に抑えながら、効率的であり得る。例えば、エントリ毎64ボクセルの例において、ボクセル毎2ビットの手法では、ノイズに割り当てられるのはせいぜい128ビットとなる。しかし、ハッシュエントリが大きくなるほど、ノイズの大きいボクセルにより多くのメモリが割り当てられる可能性があり得る。
図14を参照にすると、3D空間を分析する機械1405を含む例示的環境を示す簡潔なブロック1400が示されている。いくつかの実装において、機械は、SLAMプロセス、レイキャスティング、衝突検出、2Dまたは3Dルートプランニング、およびその他本明細書に記載の例のような、アプリケーションまたは動作の1または複数において、3D空間を記述したボリュームデータを利用するため、ハードウェアおよび/または回路内に実装された、機械により実行可能なロジックを備えてもよい。ボリュームデータは、本明細書に記載のような、スパースツリー表現として実現され得る。いくつかの例において、メモリ使用量増(例えば、ハッシュテーブルは、デンスなアレイよりもメモリ使用量が少ない)とのトレードオフにより、ボリュームデータのより高速処理を実現するように、ハッシュテーブルが追加的、または代替的に利用されてもよい。いくつかの例において、ハッシュテーブルは多層スパースツリー型構造と共に使用されてもよい。ここで、ハッシュテーブルは、特定の解像度で、占有ボクセルを早急に特定するように使用される。そしてスパースツリー表現を使用して、ボクセルが占有されているかを高解像度で判定し、呼び出された場合、より詳細な分析を実行するものである。その他例もあり得る。実際、機械1405は、スパースツリーボリュームデータ構造で表されたボリュームデータを扱い、処理するように構成された、本明細書に記載のハードウェアおよびロジックを備えてもよい。
図14に示す具体例において、機械1405は、3Dシーンを記述したボリュームデータを処理し、シーン内に存在する地形に基づいて、シーン内で自律移動するために(例えば、シーン内での位置の変化、および/または機械の1または複数の要素(例えば、センサ、カメラ、ポインタ、アクチュエータ、ツール等)の向き(例えば、目標)の変化)その情報を利用可能な自律的または半自律的な機械として実現されてもよい。これにより、機械はオブジェクト(例えば、1410aからc)を検出して、検出したオブジェクトに基づいて、自律的にシーン内でナビゲートまたは相互作用してもよい。いくつかの実装において、機械1405は、自律走行車両(人、または荷物を運ぶ)、陸空ベースまたは海上ベースのドローン、ロボットとして実施されてもよい。その他例もあり得る。
一例示的実装において、機械1405は1または複数の中央処理ユニット(CPU)、グラフィック処理ユニット(GPU)、テンソル処理ユニット、またはその他行列演算プロセッサ、ハードウェアアクセラレータ(例えば、ボリューム処理アクセラレータ、機械学習アクセラレータ)、およびその他汎用および専用プロセスハードウェア等のデータプロセッサ1415を使用して、さらに1または複数メモリ要素(例えば、1420)を使用して実現されるコンピューティングシステム1406を含んでもよい。ボリューム処理ロジック1425、アクチュエータ1430、およびハッシュ化ロジック1435等のハードウェア回路、ファームウェア、またはソフトウェア内に実装されたさらなる論理ブロックが設けられてもよい。いくつかの実装において、機械1405はさらに3D空間を測定する、1または複数センサ(例えば、1440)を備えてもよい(例えば、lidar、タイムオブフライトセンサ、realsense sensors等)。当該センサ1440は、ボリュームのマップを展開するため、3D環境を記述したボリュームデータの生成に使用され得る。さらに、センサ1440を使用して検出された、局地観察ジオメトリと、予期される、または以前に観察されたボリュームを占有するジオメトリを記述した参照データとの比較に使用される。機械で生成、および/または使用されるボリュームデータは、1または複数のハッシュテーブル1450の少なくとも一部に保持されてもよい。上述のように、いくつかの実装において、ハッシュテーブルエントリにおけるボリュームデータは、VOLAフォーマットのスパースツリーボリュームデータ(例えば、データ1455)等の、本明細書に記載のようなスパースツリーボリュームデータと通じたもののような、高解像度ボリュームデータにより補足されてもよい。
図14の例の説明を続ける。一例において、ボリューム処理ロジック1425は、1または複数の異なるボリューム処理動作、または3D畳み込み、レイキャスティング、SLAM、衝突検出、自律ナビゲーション等に関連したタスク等のタスクを実行するロジックが設けられてもよい。一例において、本明細書において説明されるボリュームアクセラレーションユニット(VXU)等のボリュームアクセラレーションユニットを使用して、ボリューム処理ロジック1425の少なくとも一部分を実施してもよい。ボリューム処理ロジックは、ハッシュテーブルエントリ、VOLAデータ1455の一方または両方で実施されるボリュームデータを入力として取得してもよい。その他例もあり得る。いくつかの例において、ボリュームデータにより生成された結果は、機械1405の1または複数アクチュエータ1430をトリガして、1または複数モータ、エンジン、またはその他ドライブ、および/または1または複数の操縦機構を起動して、機械自体、または機械の特定のツールが、ボリューム内でその設計に応じて移動するようにしてもよい。例えば、ボリューム処理ロジックは、1または複数のアクチュエータに入力を提供して、ドローンまたは自律走行車両が、ボリュームデータの処理を通じて、当該機械が認識したボリュームにおいて自律ナビゲートするようにしてもよい。
資源限定的システムまたは高速応答時間を要するアプリケーション等のいくつかの例において、システムは高解像度ボリュームデータをまず処理するのではなく、その代わりにより早くクエリおよびアクセスを可能にする、より低解像度のボリュームデータを利用してもよい。例えば、各種ボリュームアプリケーションは、3D空間における1または複数ボクセルが空であるか、または3Dジオメトリ(例えば、物理的または仮想的のいずれか)で占有されているかを検出することを伴い得る。そのような場合、ボリューム処理ロジック1425は、ハッシュ化ロジック1435と動作して、ハッシュテーブル1450のエントリ内に保持されたボリュームデータを問い合わせ、処理のためにボリュームデータにアクセスしてもよい。さらに、ハッシュ化ロジック1435を使用して、新しいハッシュテーブルエントリを、システムのセンサ1440により生成されたボリュームデータおよび、レーダ、超音波等の、任意のその他空間的3Dデータと共に挿入してもよい。その他例もあり得る。いくつかの実装において、より詳細に後述するような、密度座標(density coordinate;DECO)式ハッシュ化アルゴリズムを実現するように、ハードウェア、ファームウェア、および/またはソフトウェアにより、ハッシュ化ロジック1435が実現されてもよい。
ハッシュテーブル(例えば、1450)は、ボクセル毎1または複数ビットを使用して、ボクセルを表すデータを含むように実現されてもよい。一例において、ボクセル毎に1つのビットを利用して、ボクセルが占有されているかを表してもよく、ボクセル毎に別のビットが、テーブルエントリ識別子でアドレス指定衝突検出を可能とするように利用されてもよい。いくつかの実装において、エントリ内に記憶されたボリュームデータは、少なくとも部分的にVOLAまたはその他スパースツリーデータ構造フォーマットにフォーマットおよび/または整理されてもよい。別の例では、各ボクセルに対する追加的情報を示すか、または衝突検出および回避を可能とするように、さらなるビットが利用されてもよい。例えば、追加的なビットは、ボクセル毎に割り当てられてもよい。これにより、色、素材、または種類等のボクセル特徴が特定される。ただし、そのような情報を足すことは、機械のハッシュテーブルの使用に関しては蛇足であり得、アプリケーションによっては過剰にメモリ負荷がかかり得る。一例において、ボリューム内に、64ボクセルのサブセットまたはブロックの表現を含むテーブルエントリ内の各ボクセルに、2ビットが割り当てられる場合、単一のエントリに対するメモリ要件は、128ビット(0.016kB)となる。これにより、ハッシュテーブルメモリの各kBは、62.5バケットまたはエントリを含むことが可能となるため、4000バケットまたはエントリ等の64kBの実現が促される。
いくつかの実装において、1または複数センサにより取得されたボリュームデータに記述されたボリューム情報への高速アクセスを可能とするために、改良ハッシュ化アルゴリズムが利用されてもよい。例えば、3Dボリュームデータの固有の構造的態様を利用するため、コンピューティングデバイスのハードウェアおよび/またはソフトウェア内に密度座標(DECO)ハッシュ化アルゴリズムが提供および実装されてもよい。例えば、例示的DECOハッシュ化アルゴリズムは、多くの3Dボリュームデータにより占有されるデンス/スパースがどれくらいかを利用してもよく、どのようにボリューム内の全てのボクセルのそれぞれの座標値の高い一意性を利用してもよい。例えば、占有されたボクセルを表すことのみを通じて、多くの3Dデータのスパースな性質が利用され得る。これにより、貴重なメモリが他の目的のために使用可能となる。一例において、ボリュームにおいて、1または複数のボクセルを表すボリュームデータが、ハッシュテーブルにおけるエントリに記憶されてよく、エントリのアドレスが、例示的なDECOハッシュ化アルゴリズムを通じて求められたインデックスから生成されてよい。一例において、DECOハッシュ化アルゴリズムは、ボクセルに関連付けられた座標の値(即ち、ボクセルに関連付けられたボリュームにおけるx座標、y座標およびz座標)を効果的に集約できる。ここで、座標値は、辺長(SL)変数を使用して重み付けされ、加重値を合計してインデックスが生成される。構成座標値がどのように重み付けされるかは、ボリュームの1または複数の軸に沿ったボリューム内の3Dジオメトリの、観察された、または予想された密度またはばらつきに基づいてもよい。例えば、ボリューム内の3Dジオメトリが、ボリュームのxまたはy寸法内でよりデンスであるかまたは多様であり、z寸法ではよりスパースであると観察され得る。重み付けは、観察されたまたは予想されたボリュームの密度に基づいて、ハッシュ化関数における衝突を最小限にとどめるように選択されてよい。
具体例として、DECOハッシュ化アルゴリズムは次の式に応じて実施されてもよい。index=(ID×(SL)+ID×(SL)+ID)式中ID、ID、およびIDは、対象ボクセルに関連付けられたx座標値、y座標値、z座標値であり、SLは辺長変数である。辺長変数SLは潜在的に、任意の値であり得、得られるハッシュテーブルにおける衝突を最小限にするように選択されてもよい。いくつかの実装において、SL値は、対象ボリュームの辺の長さ(例えば、ボクセル、またはボクセルブロック内)に対応するように選択されてもよい。ハッシュテーブルアドレスは、例えば以下の例示的式に応じてモジュロ演算を利用して、計算されたインデックス値から生成され得る。hash_addr=index%N式中、Nはハッシュテーブルにおけるインデックス付けされるエントリ/アドレスの数を示す。その他例示的実装もあり得る。
上述の例示的ハッシュ化式において、z座標値IDとの乗算前に辺長変数(SL)を二乗することにより、z座標値が最も強く重み付けされてもよい。これは、3Dボリューム内の占有空間が、ボリュームのz座標においてよりデンスさまたは多様さの一方または両方が低いという仮定に基づいて行われ得る。このような重み付けは、ハッシュテーブルに対して、対応するボリュームデータについて決定されたハッシュアドレスの衝突の可能性を低減するように作用し得る。別の実装において、占有空間または3Dジオメトリがz座標面でよりデンスで、xまたはy座標のいずにおいてデンスさがより低い場合、z座標値の重み付けがより弱く(例えば、SLではなくSLをかける)、その他座標値(xおよびy)の重み付けがより強くてもよい。その他例もあり得る。実際、ボリューム内の密度特徴の過去の観測または予測が特定されてもよい。この情報は、適切にそれぞれの座標値を重み付けするための、DECOハッシュ化式の動的選択に使用されてもよい。さらに、SL値は、対象ボリュームに対して決定された仮定に基づいて動的に決定されてもよい。これにより、DECOハッシュアルゴリズムを使用して決定されたハッシュアドレスの衝突の数の制限に関する最適化を促進する。その他例示的考察、および実装もあり得る。
本明細書に記載のとおり、単一なハッシュテーブルエントリが、ボリューム内の複数のボクセルを同時に記述するボリュームデータを有することが有利となり得る。例えば、図15の例の示すように、ハッシュテーブルエントリは、4ボクセルブロックにより定義されるサブボリューム内の64ボクセルの組またはブロックに対して、ボリュームデータをエントリ内に収容可能にし得る。この例において、単一の特定の対象ボクセルの座標を使用したハッシュを実行するのではなく、アルゴリズムは座標値x、yおよびzとして、ジオメトリ内の当該ボクセルブロックの相対座標を取得してよい。例えば、図15に示す例において、3D空間内の各ボクセル(例えば1505)が、4×4×4ボクセルブロック(例えば、1510)を表す64ボクセルの組(または「ブロック」)に論理的にグループ化されてもよい。特定のボクセルを特定する場合、当該のボクセルの座標が、図15に表すようなボリューム1515に対して定義された4×4×4ブロックの内の対応するものにマッピングされ得る。例えば、あるボクセル(例えば、1505)が占有されており、ハッシュテーブルに追加要と判定された場合、まずそれが4×4×4ブロック(例えば、1510)の内のいずれに属するかが判定される。64ボクセルボリューム515または環境の例では、16×4ブロックが存在することになる。例えば、ブロックの識別子または座標値が、ブロックのサイズに対して離散化された、ブロックの角ノード(例えば、ボクセル1520)の座標として取得されてもよい。例えば、4ブロックを使用する場合、ボクセルブロック識別子は4に対して離散化される。64ボクセルボリューム1515による例において(図15に示す例のように)、これらブロックの座標(識別子(ID)座標と称する)の範囲は、(x;y;z)=(0;0;0)から(x;y;z)=(63/4;63/4;63/4)=(15;15;15)となる。
上述のとおり、DECOハッシュ化で使用される際、辺長(SL)変数は、アルゴリズムの最適化を図り、ハッシュ化の際に最小の衝突数またはパーセンテージを実現するように調整および選択され得る。例えば、ボクセルのブロックについての情報が単一のハッシュテーブルエントリに記憶される実装においては、対象ボリューム全体の、辺におけるボクセルブロックの数に対応する辺長を選択することで、衝突のパーセンテージが最小となり得る。一例において、32kBのハッシュテーブルサイズ(2040テーブルエントリ)を利用して、スタンフォードうさぎのボリュームを記述した情報が記憶され得る。ボリュームは、うさぎが4ボクセルブロックの16ボリューム内に嵌る解像度であるとされる。SL値を変えながらDECOハッシュ化アルゴリズムをテストすることで、この例では、SL値16で最小の衝突パーセンテージ(例えば、0.79%)が得られることがわかる。より一般的には、最適なSL値は、対象ボリューム内のボクセルブロックの数の立方根に対応し得る。この理由は以下のとおりである。例えば、64ボクセルの環境では、最大で16×4ボクセルブロックが存在する。したがって、SL値を16とした場合、現在のブロックのインデックスを計算(即ち、上述のようなDECOハッシュ化式を使用)する際に、衝突は起こらないのである。ただし、ハッシュテーブルアドレスの計算時には衝突は生じ得る。
DECOハッシュ化実装の場合、占有ボクセルが所属する4ブロックの座標が判定されると、別の4ブロックに対するそのインデックスが決定される(いくつかの例においては、個別の対象ボクセルの座標の値から直接求められ得る(例えば、最下位ビットの1または複数をボクセルの座標の2値表現から除去することで、2値表現を切り捨てて、対応する4ボクセルブロックの座標を特定する)。例えば、図15の例では、各個別のボクセルは、32ビット値を用いて表されてもよく、所与のブロック内の各ボクセルは、同じ30最上位ビットを共有する個別の複数のボクセル座標値を有してもよい。したがって、これら共有30共通ビットは、ボリューム内のブロックの座標値となり得る(そして、最下位ビットの残りの2つが、ブロック内の各個別ボクセルを一意に特定してもよい)。その他例もあり得る。
上述の例の説明を続ける。対象の特定のボクセルを含むブロックに対してブロック座標が決定された場合、これらブロック座標値は、ID、ID、およびID(例えば、上述の例による)の値として提供されてもよい。さらに、図15に示すように、辺長値は、4ボクセルブロックで表される対象ボリュームの長さに基づいてもよい(例えば、辺毎に16ボクセルブロックで、4ボクセルブロックの16の集合となる)。その他例もあり得る。実際、選択されたボクセルブロック(例えば、2、3、8ボクセルブロック等)のサイズ、ハッシュテーブルのサイズとそれを構成するエントリ、対象ボリュームのサイズおよび寸法に基づいて、同様の原理を適用してもよい。その他考察もあり得る。
DECOハッシュ化関数を使用して、ハッシュテーブルアドレスを判定するための(例えば、モジュロ演算を使用する)インデックスが求められ得る。これにより、対応するボクセルブロックに対するボリュームデータを含むハッシュテーブル内の(既に測定されている場合)、特定のエントリを特定する。したがって、エントリのボリュームデータは、当該ブロック内の各ボクセルそれぞれの占有状態を記述し得る。このボリュームデータ列は、機械により読み取られ(またはそこに書き込まれ)、そのボリュームデータ列内の、特定されたボクセルブロック内の特定のボクセル占有(および潜在的にその他の)情報(および当該ブロック内のその他のボクセルの各々の同様の情報)が特定される。
DECOハッシュ化アルゴリズムは、大きい素数を使用するハッシュ化アルゴリズムを含む3Dデータ(即ち、3Dボリュームを表し、記述したデータ)に対する伝統的なハッシュ化アルゴリズムに対して複数の利点を実現し得る。例えば、いくつかの形態において、DECOハッシュ化を使用したハッシュテーブル内の挿入は、伝統的な手法よりも簡潔となり得る。即ち、ボクセルが占有されていると判定され(例えば、ハッシュ関数を実行する機械上のセンサを通じて、または遠隔機械上のセンサからデータを受信する機械を通じて等)、そのためハッシュテーブル内に挿入されるべきと判定されると、当該ボクセルが属する4ブロックのハッシュアドレスが計算される。これは、選択されたハッシュ化関数に応じて計算されてもよい。衝突が生じない場合、ハッシュエントリ内の当該ボクセルに対応するビットが、1に設定される。衝突が生じる場合は、ボクセルは設定できない。そこで、ハッシュテーブルに関連して設けられた衝突管理方式を利用して、衝突を処理してもよい(例えば、挿入されるデータを次の利用可能な一連のエントリに記憶することを通じて、「逆方向性(degenerative)アドレス」を使用することを通じて(例えば、エントリ2748で衝突が生じる場合、エントリ274に、ボクセルが配置される。エントリ274に収まらない場合はエントリ27に配置される等。その他例示的方式もあり得る)。削除に関して、ボクセルがハッシュテーブルから削除されると判定された場合、再度、ボクセルが属する4ノードのハッシュアドレスが計算される。衝突が起きず、ビットが設定済みである場合、ハッシュアドレスにおけるボクセルに対応するビットは単純に未設定である。衝突が起きず、ビットが設定済みでないか、またはハッシュアドレスが空である場合、未設定のボクセルの削除が図られている。これが特定されると、さらなる計算は行われない。
DECOハッシュ化は、衝突が大幅に低減されることから、伝統的な3Dハッシュ化アルゴリズムよりも有利であり得る。例えば、図16Aから16Cのグラフ1600aからcは、例示的なDECOハッシュ化アルゴリズムを使用して観察された衝突性能を、XORハッシュ化アルゴリズム等の伝統的なハッシュ化アルゴリズム、モートン順序素数無しハッシュ化アルゴリズム、および伝統的なモートン順序ハッシュ化アルゴリズムの性能と比較したものを示す。これらの例において、対象ハッシュ化アルゴリズムの各々が、同様のサイズのハッシュテーブルを利用する。図16Aは、スタフォードうさぎデータセットで構成されるデータセットの結果を示し、各アルゴリズムを使用した場合の衝突のパーセンテージを表す。同様に、図16Bは、Dublin City Dataset Liffey Tileで定義されたボリュームにおいて、ハッシュ化アルゴリズムの各々を使用して観察された衝突のパーセンテージの比較を示す。最後に、図16Cは、完全なDublin City Dataset(例えば、アイルランドのダブリン市の#Dマップを表す)の全体において観察された、ハッシュ化アルゴリズムによる衝突のパーセンテージ比較を表す。図示のように、DECOハッシュ化アルゴリズムは、信頼された伝統的な3Dハッシュ化アルゴリズムよりも有効性を示している。
適切なハッシュ化アルゴリズムに加えて、ハッシュテーブルサイズもアドレス指定衝突の数に影響し得る。即ち、わずかにのみ変化する数の剰余を取る場合、対応するアドレス結果は大きく変化し得るためである。一方で、ハッシュテーブルサイズは、資源利用と、性能最適化の間のトレードオフを表し得る。例えば、特定のデータセットに対してハッシュテーブルサイズを変えた影響を、競合するハッシュ化アルゴリズム間で調べてもよい。一例において、1.2MBと小さいハッシュテーブルを使用して、特定のデータセットに対してDECOハッシュ化を行うと、衝突率は1%未満であると確認され得る。しかし、別の、伝統的ハッシュ化アルゴリズム(例えば、XORハッシュ化)を用いて同じ結果を得るには、ハッシュテーブルをかなり大きくする必要があり得る(例えば、4MBを超えるサイズを有する)。このような結果は、ハッシュ化3Dボリュームデータに対するDECOハッシュ化の、XORハッシュ化に対する優位性を際立たせる。
伝統的な3Dハッシュ化手法に対する、DECOハッシュ化のさらなる例示的利点として、DECOハッシュ化を使用して埋められたハッシュテーブルに記憶されたボクセルの分布は、伝統的なハッシュ化手法を使用して実現可能なものよりも、かなりコンパクトとなり得ることが挙げられる。モートン順序素数無しハッシュ化等の一部の伝統的なハッシュ化手法も、ハッシュテーブル内にボクセルをコンパクトに記憶するものである。しかしそのような伝統的手法は、占有されたハッシュエントリと、空のものとの間に大きな差分を伴いがちである。いくつかの例において、DECOハッシュ化を使用して実現された有利なコンパクトさを通じて、結果として得られたハッシュテーブルは、ハッシュテーブルの一部領域で極めてコンパクトとなり、その他領域で極めてスパースとなり得る。したがって、そのような状況が検出された場合、システムは動的に、テーブルのよりスパースに占有された領域を、ボクセルがよりデンスにコンパクト化され得る二次的ハッシュテーブル等、その他用途に再割り当てしてもよい。このような手法により、主ハッシュテーブルに対して使用されていたメモリが他の目的に使用可能になる。これは、内蔵型、モバイル、および同様にメモリが制限されたデバイスには魅力的であろう。
図17を参照すると、上述のように、1または複数ボクセルを記述したボリュームデータを、DECOハッシュ化アルゴリズムを使用してハッシュテーブルに入力する例示的技術を示すフローチャート1700が示されている。ボリュームの少なくとも一部分を記述し、ボリューム内に存在するジオメトリを特定するボリュームデータが受信され得る1705(例えばセンサから)。例えば、ボリュームデータは、ボリューム内の特定のボクセルが、ジオメトリで占有されているか否かを示し得る。ボリューム内のx座標、y座標およびz座標で表現される、特定のボクセルに関連付けられた座標が判定され得る1710。いくつかの例において、この座標は、ボクセルブロックの座標であってもよく(即ち、座標が、特定のボクセルの特定の座標であるのではなく)、特定のボクセルがこのボクセルブロック内に含まれてもよい。x座標、y座標およびz座標の値を入力とするDECOハッシュ化アルゴリズムを使用して、特定のボクセルに対するインデックスが決定され得る1715。ハッシュ化アルゴリズムは、x座標、y座標およびz座標の加重値を合計して、インデックスを生成し得る。ここで、x座標、y座標およびz座標は、変数値(例えば、辺長変数値)を0乗、1乗または2乗に重み付けすることで、重み付けされる。座標(および特定のボクセルのボリュームデータ)に関連付けられるハッシュテーブル内のエントリを特定するため、インデックス値からハッシュテーブルアドレスが決定されてもよい1720(例えば、モジュロ演算を使用する)。ボリュームデータをエントリにボリュームデータに書き込むまたは挿入する前に、別のボクセルのボリュームデータにより、当該エントリが書き込まれて埋められていることで衝突の可能性があるか判定されてもよい1725。衝突がある場合、それでも特定のボクセルを記述したボリュームデータを(例えば、ハッシュテーブルの代替的エントリに)記憶するため、衝突管理方式が採用されてもよい。衝突がない場合、ボリュームデータと、それが表す情報に高速クエリおよびアクセスを可能とするように、ボリュームデータをハッシュテーブル内に記憶するため、エントリ内にボリュームデータを挿入してもよい1730。いくつかの実装において、ボリュームデータは、VOLA型フォーマットに応じたものであってよい(例えば、特定の解像度で、4ボクセルの群またはブロックが占有されているかを記述する)。
図18の例を参照すると、3D空間(またはボリューム)内の特定のボクセルに対応するボリュームデータに対するクエリおよびアクセスを実行するための例示的技術を示す、別のフローチャート1800が示されている。例えば、特定のボクセルを特定して(例えば、ボリューム動作またはアプリケーション(例えば、自律ナビゲーション、経路探索、レイキャスティング等)に関連して)、特定のボクセルのそれぞれの座標(即ち、x座標、y座標およびz座標)を判定してもよい1810。別の例のように、これら座標は、特定のボクセルそのものの座標ではなく、特定のボクセルのボクセルブロックの座標であってもよい(ただし、上述のように、ボクセルブロックの座標は含まれるボクセルの特定の座標から直接判定可能である)。本明細書に記載のとおり、x座標、y座標およびz座標の加重値(例えば、辺長変数またはその他重み付け変数を用いて重み付けされる)から総和を計算することで、DECOハッシュ化アルゴリズムを使用して、x座標、y座標およびz座標の値からインデックスを決定してもよい1815。さらに、決定されたインデックス値からハッシュテーブルアドレスが求められてもよい1820(例えば、インデックス値の剰余を通じて)。アドレスが決定されると、ハッシュテーブル内の決定されたアドレスに対応するエントリから、ボリュームデータが読み出されてもよい。いくつかの例において、エントリが空だと判定され得る。その場合、特定のボクセルに対するボリュームデータが収集されて、ハッシュテーブルが埋められる。別の例では、決定されたアドレスに対応するエントリが、別のボクセルブロックのボリュームデータで埋められている場合に、ハッシュテーブルに衝突が生じていると判定され得る。その他例示的問題もあり得る。しかし、無衝突動作において、ハッシュテーブルエントリ内のボリュームデータが読み出され1825、特定のボクセルがジオメトリで占有されているか否かを判定されるように処理されてもよい1830(例えば、特定のボクセルにマッピングされたボリュームデータにおける特定のビットから)。このような判定(1830における)は、さらなる動作をトリガするために用いられ得る(例えば、経路探索、衝突回避、マルチレベルVOLA構造へのアクセスによるより高解像度のボクセルボリューム分析。その他例示的用途もあり得る)。実際、本開示は、コンピューティングシステムにおけるVOLAデータの使用の多数の例を包含する。なお、ハッシュテーブルからアクセスされるボリュームデータも(DECOハッシュ化を使用して生成されたもの等)も、同様に本明細書に記載のアプリケーションおよび例で利用されてもよい。実際、以下の図および説明は、DECOハッシュ化を使用して構築されたハッシュテーブルからアクセスされるボリュームデータを利用し得る、使用ケース及びハードウェアのさらなる例を提供する。
図19は、いくつかの実施形態に係る、例示的なマルチスロットベクトルプロセッサ(例えば、超長命令語(VLIW)ベクトルプロセッサ)を表す簡潔なブロック図である。この例において、ベクトルプロセッサは複数の(例えば、9個の)機能的ユニット(例えば、1903から1911)を含み得る。これは、ベクトルレジスタファイル(VRF)1901および汎用レジスタファイル(GRF)1902によりバックアップされたマルチポートメモリシステム1900により提供され得る。プロセッサは、命令をデコードし、機能的ユニット1903から1911を制御する制御信号を生成する、命令デコーダ(IDEC)1912を含む。機能的ユニット1903から1911は、前提実行ユニット(predicated execution unit;PEU)1903、分岐および繰り返しユニット(branch and repeat unit;BRU)1904、ロード記憶ポートユニット(例えば、load store port unit(LSU0)1905およびLSU1 1906)、ベクトル演算ユニット(vector arithmetic unit;VAU)1907、スカラー演算ユニット(scalar arithmetic unit;SAU)1910、比較および移動ユニット(compare and move unit;CMU)1908、整数演算ユニット(integer arithmetic unit;IAU)1911、ボリュームアクセラレーションユニット(volumetric acceleration unit;VXU)1909である。この特定の形態において、VXU1909は、記憶/検索の両動作、論理動作、および演算動作を含む、ボリュームデータに対する動作を向上してよい。図19の例では、VXU回路1909は単一コンポーネントとして示されているが、VXU(および他の機能的ユニット1903から1911の)の機能は、複数の回路に分散されてもよいことが理解されよう。さらに、いくつかの実装において、VXU1909の機能は、いくつかの実装において、プロセッサのその他機能的ユニット(例えば、1903から1908、1910、1911)の1または複数の内部に分散されてもよい。その他例示的実装もあり得る。
図20は、いくつかの実施形態に係るVXU2000の例示的実装を示す簡潔なブロック図である。例えば、VXU2000は、ベクトルレジスタファイル1901または汎用レジスタファイル1902の何れかからの入力を受信する、64ビット入力ポート2001を少なくとも1つ提供してもよい。この入力は、レジスタファイル2003、アドレス生成器2004、ポイントアドレス指定ロジック2005、ポイント挿入ロジック2006、ポイント削除ロジック2007、X次元3D-2D投影ロジック2008、Y次元3Dー2D投影ロジック2009、X次元3D-2D投影ロジック2010、2Dヒストグラムピラミッド生成器2011、3Dヒストピラミッド生成器2012、ポピュレーションカウンタ2013、2D経路探索ロジック2014、3D経路探索ロジック2015、および64ビット符号なし整数ボリュームビットマップ上で動作する考えられる追加的機能的ユニットを含む複数の機能的ユニットに接続されてもよい。ブロック2002からの出力は、ベクトルレジスタファイルVRF1901または汎用レジスタファイルGRF1902の何れかのレジスタファイルに書き戻されてもよい。
図21の例を参照すると、4ボクセルキューブ2100の構成が表されている。第2のボクセルキューブ2101も表されている。この例において、ボクセルキューブは、64ビット整数2102としてのデータ内に定義され得る。ここで、キューブ内の各単一ボクセルは、64ビット整数内の単一の対応するビットで表される。例えば、アドレス{x,y,z}={3,0,3}におけるボクセル2012は、「1」に設定されてもよい。これは、ボクセルキューブ2101が表すボリューム空間内の当該座標に、ジオメトリが存在することを示す。さらに、この例において、その他全てのボクセル(ボクセル2102以外)は、「空」の空間に対応し、それら座標には物理的ジオメトリが不在であることを示すように「0」に設定されてよい。その他例もあり得る。図22を参照すると、いくつかの実施形態に係る、2レベルスパースボクセルツリー2200の例が示されている。この例において、ボリューム内には、「占有」ボクセル(例えば、位置{15,0,15}に存在)が1つだけ含まれている。この場合、ツリー2201の上位レベル0は、単一のボクセルエントリ{3,0,3}を含む。このボクセルは、要素{3,0,3}における単一のボクセルを含む次のレベルのツリー2202を指す。スパースボクセルツリーのレベル0に対応するデータ構造内のエントリは、1つのボクセルが占有と設定された64ビット整数2203である。このように設定されたボクセルは、64ビット整数のアレイが、さらに2203に設定されたボクセルボリュームに対応するツリーのレベル1に割り当てられることを意味する。レベル1サブアレイ2204では、ボクセルの1つのみが占有に設定され、その他全てのボクセルが空と設定される。この例において、ツリーは2レベルツリーであり、レベル1はツリーの最下層を表す。即ち、階層がそこで終わることを表す。
図23は、いくつかの実施形態に係る、2レベルスパースボクセルツリー2300を示す。これは、特定のボリュームの、位置{15,0,3}および{15,0,15}において、占有ボクセルを含む。この場合、ツリー2301の上位レベル0(特定のボリュームを64個の上位レベル0ボクセルに細分化したものである)は、2つのボクセルエントリ{30,0}および{3,0,3}を含み、対応するデータ2304が、2つのボクセルが設定されている(または占有されている)ことを示す。スパースボクセルツリー(SVT)の次のレベルは、それぞれ1つずつレベル0で設定された各ボクセルに対応した2つのサブキューブ2302および2303を含む、64ビット整数アレイとして設けられる。レベル1サブアレイ2305において、2つのボクセルv15およびv63が占有と設定され、その他ボクセルは全て空、そしてツリーに設定される。ツリーの次のレベルの64エントリが、常にツリーにおける上位層における各設定されたボクセルに対応して割り当てられるという点で、このフォーマットは柔軟である。この柔軟性により、上位層における対応するボクセルが設定されている限り、動的に変化するシーンジオメトリが、柔軟に既存のボリュームデータ構造に挿入可能である(即ち、ランダム等、固定の順序ではない)。そうでない場合、ポインタのテーブルが維持され、より厳しいメモリ要件となるか、または未知のジオメトリを挿入するために、ツリーが少なくとも部分的に再構築される必要が生じる。
図24は、いくつかの実施形態に係る、図23からのボクセルを記憶する代替的な技術を示す。この例において、全体的なボリューム2400は、図23のように、グローバル座標{15,0,3}および{15,0,15}に記憶された2つのボクセルを含む。この手法では、レベル0の下のレベル1における全てのサブキューブを表すように64エントリを割り当てるのではなく、レベル1内の要素において、実際にジオメトリを含むもののみが、64ビットレベル1記録に対応すると割り当てられる(例えば、対応するレベル0ボクセルが占有されたものか否かを示すことによる)。これにより、この例において、レベル1は64ビットエントリを64個(即ち、占有または空に関わらず、レベル1の64ボクセルの各々について)ではなく、2個のみ有する。したがって、この例において、2404で示す第1のレベル0は、図23の2304と等しいが、次のレベル2405は、図23の対応2305と比較して、メモリ要件が1/62である。いくつかの実装において、新しいジオメトリが、レベル1で空間が割り当てられていないレベル0に挿入される場合、ツリーをコピーおよび再構成する必要がある。
図24の例では、サブボリュームは、現層の上位層における占有ボクセルを数えることで、求められる。これにより、システムはボクセルデータのどこで1つ上の層が終わり、どこで次の下の層が始まるか判定し得る。例えば、層-0ボクセルが3つ占有されている場合、システムは、ボクセルデータにおいて、3つの対応する層-1エントリが続き、(これら3つの後の)次のエントリが層-2の第1のエントリに対応し、以下同様であると想定できる。このような、最適な圧縮は、シーンの特定の部分が経時変化しない、またはアプリケーションにおいてボリュームデータの遠隔送信が必要である場合において極めて有効であり得る。例えば、宇宙探査機が冥王星の表面を走査する場合が考えられる。この場合、各ビットの送信にコストも時間もかかる。
図25は、いくつかの実施形態に係る、対応するボリューム内のジオメトリへの変化を反映するように、64ビット整数ボリュームデータ構造エントリとして表される4キューブにどのようにボクセルが挿入され得るかを示す。一例において、各ボクセルキューブは、2500で示すように、64ビット整数内の4つの論理的16ビット平面として構成され得る。各平面は、0から3のZ値に対応する。各平面内で、各y値が4つの論理的4ビット変位0から3を符号化し、最後に各4ビットy平面内において、各ビットがxの取り得る4つの値0から3を符号化する。その他例示的構成もあり得る。したがって、この例において、4ボリュームにボクセルは以下のとおりに挿入される。まず1ビットが、x値0から3でシフトされ得る。そしてその値が、0/4/8/12ビットでシフトされて、y値が符号化される。最後に、z値が0/16/32/48ビットシフトで示され得る。これは、2501のCコード表現で示される。最後に、各64ビット整数が、各々が別個に書き込まれた最大64ボクセルの組み合わせであり得るため、新しいビットマップは、スパースボクセルツリーから読み出された古い64ビット値と論理的に組み合わされる必要がある。これは、2502に示すように、新旧ビットマップ値の論理和を取ることで実現される。
図26を参照すると、図示の表現は、いくつかの実施形態において、どのように64ビット整数2600に記憶された3Dボリュームオブジェクトが論理和により投影できるかを示す。X方向に投影されることで、2Dパターン2601が生成される。Y方向に投影されることで、2D出力2602が生成される。最後にZ方向に投影されることで、パターン2603が生成される。図27は、いくつかの実施形態において、どのように入力64ビット整数からのビットの論理和を論理的に取って、X、YおよびZの出力投影を生成するかを示す。この例において、テーブル2701では、x投影出力ベクトル2702を生成するために、入力ベクトル2700からのどの要素インデックスの論理和を取るかが行方向に示される。テーブル2703では、y投影出力ベクトル2704を生成するために、入力ベクトル2700からのどの要素インデックスの論理和を取るかが行方向に示される。最後に、2705では、z投影出力ベクトル2706を生成するために、入力ベクトル2700からのどの要素インデックスの論理和を取るかが行方向に示される。
X投影は、入力データ2700からのビット0、1、2、3の論理和を論理的に取って、X投影2701のビット0が生成される。例えば、2701におけるビット1は、2700からのビット4、5、6、および7の論理和を取ることで生成され、以下同である。同様に、Y投影2704におけるビット0は、2700のビット0、4、8、および12の論理和を取ることで生成される。2704におけるビット1は、2700のビット1、5、9、および13の論理和を取ること等で生成される。最後に、Z投影2706におけるビット0は、2700のビット0、16、32、および48の論理和を取ることで生成される。2706におけるビット1は、2700のビット1、17、33、および49の論理和を取ることで生成され、以下同である。
図28は、いくつかの実施形態において、どのように投影を使用して、簡略化されたマップが生成できるかを示す。このシナリオでは、ボクセルボリューム2802から、2810で示される高さhと、2801で示される幅wの車両2800が走行する、コンパクトな2D経路マップを生成することが目標であり得る。ここで、Y投影ロジックを使用して、ボクセルボリューム2802から初期の、元となる2Dマップ2803を生成してもよい。いくつかの実装において、特定の寸法を有する、特定の車両(例えば自動車(または自律走行車)ドローン等)が、経路の幅2801および高さ制限2810を通過できるかを確認するため処理されてもよい。これは、経路が通過可能であることを保証するために実行され得、Z投影で幅制限2801を確認して、Y投影は、車両の高さ2810に対する計算を制限するために、マスクされてもよい。追加の後処理(例えばソフトウェアにおける)により、通過可能で、幅および高さ制限を満たす経路の場合、車両が移動可能な適切な経路を完全再構築するため、経路に沿った点A2804、B2805、C2806、D2807、E2808、およびF2809のみにおける、XおよびZ座標のみを記憶するか、またはネットワークを通じて送信してもよいことがわかる。経路が、このように小区域に分解可能であることで、当該経路の小直線的区域毎に1バイトまたは2バイトのみを使うことで、経路を完全に記述できる。これは、当該経路データの高速送信および処理(例えば、自律走行車両による)に寄与し得る。その他例もあり得る。
図29は、いくつかの実施形態において、どのように内蔵デバイスからの、ボリューム3Dまたは単純な2Dの何れかの測定値が蓄積され得るかを示す。これは、高精度測定のために、LIDARまたはその他高価な手段を使用する代わりに、数学的手段で、高品質クラウドソースマップを生成するものである。提案のシステムでは、複数の内蔵デバイス2900、2901等に、中央サーバ2910に送信され得る測定値を取得可能な各種センサが備えられてもよい。サーバ上で動作するソフトウェアは、全ての測定値2902を収集して、非線形ソルバー2903により、得られた行列に対する数値解法を実施し、高精度マップを生成する。これは、その後内蔵デバイスに戻すように再配信され得る。実際、データ蓄積には、衛星2920からの高精度調査データ、空中LIDAR調査2921、地上LIDAR測定値2922も含まれ得る。これにより、得られるマップではこれら高忠実度データセットが利用可能で、精度向上が図られる。いくつかの実装において、マップおよび/または記録される測定値は、本明細書において説明されるような形式の、スパースボクセルデータ構造内に生成、またはそれに変換されるか、それを利用して他方法で表現され得る。その他例示的実装もあり得る。
図30は、いくつかの実施形態において、2Dの2×2ビットマップ上の2D経路探索がどのように向上できるかを示す図である。この動作の原理として、xもしくはyまたはxおよびyで連続して並ぶセルの値が全て1に設定されている場合にのみ、同一のグリッドセルのマップ上のポイント間に接続性が存在する。したがって、それらセルから描かれたビットの論理ANDをインスタンス化することで、グリッド内のビットマップに有効経路が存在するかテストされる。さらに、N×Nグリッドを通じた各有効経路に対して、異なるANDゲートがインスタンス化されてもよい。いくつかの例において、この手法は、組み合わせによる複雑さを伴い得る。即ち、8×8の2Dグリッドで有効な経路が264-1含まれ得るのである。したがって、いくつかの改良実装において、グリッドが、2×2または4×4のタイルに絞られる。これらは、接続性について、階層的にテスト可能である。2×2ビットマップ3000は、b0、b1、b2、およびb3とラベル付けされた4ビットを含む。この4ビットは、0000から1111の値を取り得、ラベル3001から3017が対応する。これらビットパターンの各々は、3021から3030でラベル付けされた2×2グリッドの面間の接続性の変化レベルを表現する。例えば、2×2グリッド3000にビットマップ1010(3012)、1011(3013)、1110(3016)または1111(3017)が含まれる場合、3000におけるx0およびy0の縦の接続性を示すインスタンス3021またはv0が存在する。テーブル3018の列1に示される、3000の2-入力論理ANDまたはb0およびb3は、接続性マップにおけるv0を生成する。これは、より高位のハードウェアまたはソフトウェアにより、2×2サブグリッドに細分化されたグローバルグリッドを通じたグローバル接続性判定に使用され得る。グローバルマップがxまたはy軸の何れかで、グリッド点の数が奇数になる場合、最上位グリッドを、次の偶数グリッド点にまで拡大する必要がある(例えば、グローバルグリッドのxおよび/またはy軸に、ゼロの列を1つ追加する必要がある)。図30は、例示的な7×7グリッド3050を示す。これはさらに、ゼロで満たされた追加の列3032および行3034を追加することで、8×8まで拡大される様子を示す。他の技術(例えば、深さ優先探索、幅優先探索もしくはダイクストラアルゴリズム法またはその他グラフ式手法)よりも高速経路探索を実現するため、本例では、漸進的にN×Nマップ3050を2×2マップまでサブサンプリングしてもよい。例えばこの例において、セルW3040は、3050におけるセルA、B、C、およびDの内容の論理和を取ることで埋められる。以下同様である。そして、3040内の2×2セル内のビットの論理和を取ることで、3042におけるセルが埋められる。経路探索に関して、アルゴリズムは、グリッド3042の最小2×2表現から開始して、各ビットをテストする。接続性についてのテストは、2×2グリッド3042内の1ビットに対応する、3040(4つの2×2グリッドを含む)内の4×4グリッドの一部のみに実行すればよい。ゼロビットが、3040内の対応する2×2グリッドセルが存在しないことを意味することが分かっているためである。この手法はさらに、3020における8×8グリッドの探索にも使用可能である。例えば、3040内のセルWがゼロを含む場合、3020におけるABCD等に経路がないことがわかるのである。この手法では、それがA×、Dijkstra、DFS、BFSまたはその変形であるかどうかを問わず使用されるグラフ探索アルゴリズムから分岐を除去する。これに加え、2×2構成3018によるハードウェア基本経路探索を用いることにより、さらに関連した演算が制限され得る。実際、4×4基本ハードウェア要素が、3040および3042と同じ配列の、5つの2×2ハードウェアブロックを使用して構成可能である。この場合、実行する必要にあるグラフ探索量がさらに制限される。さらに、8×8ハードウェア型サーチエンジンが、3042、3040、および3000と同じ構成の、21個の2×2HWブロック(3018)により構築可能である。そして任意のN×N構成について、以下同となり得る。
図31は、いくつかの実施形態に係る、提案されたボリュームデータ構造を使用して、どのように衝突検出が向上できるかを示す、簡潔なブロック図である。ジオメトリの3DのN×N×Nマップは、最低詳細度(LoD)の2×2×2ボリューム3102、次に高い4×4×4ボリューム3101、8×8×8ボリューム3100等、N×N×Nまでを含むピラミッドにサブサンプリングされてもよい。GPS等の測位手段または3Dマップからのリローカライゼーションのいずれかにより、ドローン、車両、またはロボット3105の位置が3D空間において分かっている場合、関連する2×2×2サブボリュームの四半部においてジオメトリが存在するか否かについてのテストに迅速に使用可能である。具体的には、ドローン/ロボットのx、yおよびz位置を適切にスケーリングし(該当する回数、2で割る)、ジオメトリが存在するかについて問い合わせる3102ことで実行される(例えば、対応するビットマップのビットが、衝突の可能性を示す1であるか確認する)。衝突の可能性がある場合(例えば、「1」が見つかった場合)、ボリューム3101、3100等に対するさらなる確認を実行して、ドローン/ロボットが移動可能か否かを定めてもよい。しかし、3102におけるボクセルが空(例えば「0」)である場合、ロボット/ドローンは同空間を解釈して、マップの大部分に亘って自由に移動するように、方向制御を操作する。
本明細書において説明および図示されたシステムおよびソリューションの一部は、複数の要素を含むまたはそれに関連付けられるものとして説明されているが、明確に図示された、または説明された全ての要素が、本開示の各代替的な実装において利用されなくてもよい。さらに、本明細書において説明される要素の1または複数が、システム外に存在してもよい。別の例では、所定の要素が、その他の説明される要素および図示の実装において説明されないその他の要素の1または複数の内に、またはその一部分として含まれてもよい。さらに、所定の要素は、その他構成部材と組み合わされてよく、また本明細書において説明される目的に対して、代替的または追加的な目的に使用されてよい。
さらに、上述の例は、非限定的で、所定の原理および特徴を示すことのみを目的としたものであることが理解されたい。したがって、本明細書において説明される概念の潜在的実施形態を必ずしも限定または制限するものではない。例えば、様々な異なる実施形態が、本明細書において説明される特徴および構成要素の様々な組み合わせを利用して実現できる。これは、本明細書において説明される構成要素の様々な実装を通じて実現される組み合わせを含む。その他実装、特徴、および詳細が、本明細書の内容から理解されよう。
図32から37は、本明細書に開示された実施形態に従って使用され得る例示的なコンピュータアーキテクチャのブロック図である。実際、本明細書において説明されたコンピューティングデバイス、プロセッサ、ならびにシステムのその他のロジックおよび回路は、機能の全てまたは一部分を内蔵してよく、ソフトウェアおよび/またはハードウェア回路をサポートして当該機能を実装する。さらに、プロセッサおよびコンピューティングシステムについて公知の他のコンピュータアーキテクチャ設計が、本明細書に示された例を越えて使用されてもよい。一般に、本明細書に開示された実施形態に適したコンピュータアーキテクチャとしては、図32から37に示された構成が挙げられるが、これらに限定されない。
図32は、リンクを介してそれぞれのゲートウェイに結合されたそれぞれのモノのインターネット(IoT)ネットワークのための例示的ドメイントポロジを示す。モノのインターネット(IoT)は、多数のコンピューティングデバイスが、互いに相互接続され、またインターネットと相互接続されて、ネットワークの非常に下位レベルにおいて機能およびデータ収集を提供する概念である。本明細書で使用される場合、IoTデバイスは、他のIoTデバイスおよびインターネット等のより広域のネットワークと通信している、とりわけ検知または制御等の機能を実行する半自律デバイスを含み得る。このようなIoTデバイスには、ロジックおよびメモリが設けられ、上述のようなハッシュテーブルを実施し、使用してよい。
多くの場合、IoTデバイスは、メモリ、サイズ、または機能が制限されているため、少数の大型デバイスと同程度のコストで多くの台数をデプロイできる。しかしながら、IoTデバイスは、スマートフォン、ラップトップ、タブレットもしくはPCまたは他のより大型デバイスであってもよい。さらに、IoTデバイスは、スマートフォンまたは他のコンピューティングデバイス上のアプリケーション等の仮想デバイスであってもよい。IoTデバイスは、データストレージ、プロセス制御等のために、IoTデバイスを他のIoTデバイスおよびクラウドアプリケーションに結合するために使用されるIoTゲートウェイを含み得る。
IoTデバイスのネットワークとしては、配水システム、配電システム、パイプライン制御システム、プラント制御システム、光スイッチ、サーモスタット、ロック、カメラ、警報、モーションセンサ等の商業用デバイスおよび家庭用デバイスを挙げることができる。IoTデバイスは、例えば、システムを制御したりデータにアクセスしたりするために、リモートコンピュータ、サーバ、および他のシステム等を介してアクセス可能であり得る。
インターネットや同様のネットワークの将来の発展は、非常に多数のIoTデバイスを対象にし得る。したがって、本明細書で説明する技術において、将来のネットワーキングのための複数のイノベーションは、これらの層が、制約を受けずに拡大し、接続されたリソースを発見してアクセスできるようにし、接続されたリソースを隠蔽して区画化する機能をサポートするという必要性に対処する。任意の数のネットワークプロトコルおよび通信規格を使用することができ、各プロトコルおよび規格は特定の目的に対処するように設計されている。さらに、プロトコルは、位置、時間、または空間に関係なく動作する人間がアクセス可能なサービスをサポートするファブリックの一部である。これらのイノベーションには、サービス提供、ならびにハードウェアおよびソフトウェア等の関連するインフラストラクチャ、セキュリティ強化、サービスレベルおよびサービス提供契約で指定されているサービス品質(QoS)条件に基づくサービスの提供が含まれる。理解されるように、図32および図33に示されるようなIoTデバイスおよびネットワークの使用は、有線技術と無線技術との組み合わせを含む、異種ネットワークの接続における複数の新たな課題を提示する。
図32は、バックボーンリンク3202を介してそれぞれのゲートウェイ3254に接続したIoTネットワーク3256、3258、3260、3262とともに、IoTデバイス3204を含む複数のモノのインターネット(IoT)ネットワークで使用され得るドメイントポロジの簡略図を特に提供する。例えば、複数のIoTデバイス3204は、ゲートウェイ3254と通信し、ゲートウェイ3254を介して互いに通信してよい。図面を簡単にするために、すべてのIoTデバイス3204、または通信リンク(例えば、リンク3216、3222、3228、または3232)に符号が付けられているわけではない。バックボーンリンク3202は、光ネットワークを含む任意の数の有線技術または無線技術を含むことができ、ローカルエリアネットワーク(LAN)の一部であってもよいし、広域ネットワーク(WAN)の一部であってもよいし、インターネットの一部であってもよい。さらに、そのような通信リンクは、各種デバイスの相互接続を促進するMUXing/deMUXingコンポーネントの使用を含む、IoTデバイス3204およびゲートウェイ3254の両者間の光学信号路を促進する。
ネットワークトポロジは、Bluetooth(登録商標)low energy(BLE)リンク3222を使用するネットワーク3256が設けられたメッシュネットワーク等、任意の数の種類のIoTネットワークを含んでもよい。存在し得る他のIoTネットワークとしては、IEEE802.11(Wi-Fi(登録商標))リンク3228を介してIoTデバイス3204と通信するために使用されるWLANネットワーク3258、LTE/LTE-A(4G)または5Gセルラーネットワークを介してIoTデバイス3204と通信するために使用されるセルラーネットワーク3260、および例えば、LoRa allianceによって公表されたLoRaWan規格に準拠したLPWAネットワーク、またはインターネット技術特別調査委員会(Internet Engineering Task Force(IETF))によって公表された規格に準拠したLow Power Wide-Areaネットワーク(LPWAN)ネットワークによるIPv6等のLPWAネットワーク3262が挙げられる。さらに、それぞれのIoTネットワークは、LTEセルラーリンク、LPWAリンク、またはZigbee(登録商標)等のIEEE802.15.4規格に基づくリンク等の任意の数の通信リンクを使用して、外部ネットワークプロバイダ(例えば、ティア2またはティア3プロバイダ)と通信してよい。それぞれのIoTネットワークは、各種ネットワークプロトコルおよびCoAP(Constrained Application Protocol)等のインターネットアプリケーションプロトコルの使用により動作してよい。それぞれのIoTネットワークは、リンクされたデバイスとネットワークのクラスタツリーを形成するリンクのチェーンを提供するコーディネータデバイスと統合されていてもよい。
これらのIoTネットワークの各々が、本明細書において説明されたもの等の新たな技術的特徴を生む機会を提供し得る。改良された技術およびネットワークにより、フォグデバイスまたはシステムとしてのIoTネットワークの使用を含む、デバイスおよびネットワークの指数関数的成長が可能になり得る。そのような改良された技術の使用が広がるにつれて、IoTネットワークは、直接的な人間の介入を必要とすることのない、自己管理、機能の発展、および協調に向けて開発され得る。改良された技術により、IoTネットワークが集中型制御システムなしで機能できるようになり得る。本明細書で説明される改良された技術を使用して、現在の能力を大きく超えて、ネットワークを管理および運用する機能を自動化、強化し得る。
一例では、バックボーンリンク3202を介する等、IoTデバイス3204間の通信は、認証、認可、および課金(AAA)のための非集中型システムによって保護されてもよい。非集中型AAAシステムでは、分散型支払い、クレジット、監査、認可、および認証システムを相互接続された異種インフラストラクチャにわたって実装することができる。これにより、システムおよびネットワークは自律的運用に移行できる。この種の自律的運用では、機械は、人的資源を縮小し、他の機械ネットワークとパートナーシップを交渉することができる。これにより、概説され計画されたサービスレベル契約に対する相互目的とバランスのとれたサービス提供との実現が可能になるだけでなく、計量、測定、ならびにトレーサビリティおよび追跡可能性を提供するソリューションを実現できる。新たなサプライチェーン構造および方法の創出は、人間の関与なしに、多数のサービスを創出し、価値を取り出し、そして縮小することを可能にし得る。
このようなIoTネットワークは、音、光、電子トラフィック、顔およびパターンの認識、匂い、ならびに振動等のセンシング技術をIoTデバイス間の自律的な組織に統合することによって、さらに強化され得る。感覚システムの統合は、契約上のサービス目的に対するサービス提供の体系的かつ自律的な通信および調整、オーケストレーションおよびサービスの質(QoS)ベースのスウォーミングならびにリソースの融合を可能にし得る。ネットワークベースのリソース処理の個別の例としては、以下のものが挙げられる。
メッシュネットワーク3256は、インラインでデータから情報への変換を実行するシステムによって強化することができる。例えば、マルチリンクネットワークを含む自己形成型の処理リソースのチェーンは、生データから情報への変換を効率的に分散させることができる。これにより、アセットとリソースとを区別する機能、および関連する管理の各々を提供することができる。さらに、データの完全性、品質、保証を改善し、データの信頼性のメトリックを提供するために、インフラストラクチャおよびリソースベースの信頼およびサービスインデックスの適切な成分を挿入することができる。
WLANネットワーク3258は、例えば、規格の変換を実行して複数の規格に対応する接続を提供するシステムを使用し、異なるプロトコルを使用するIoTデバイス3204が通信することを可能にし得る。さらなるシステムは、可視であるインターネットリソースおよび隠蔽されたインターネットリソースを含む複数の規格に対応するインフラストラクチャにわたってシームレスな相互接続を提供することができる。
セルラーネットワーク3260における通信は、例えば、データをオフロードする、よりリモートのデバイスに通信を拡張する、またはその両方を行うシステムによって強化することができる。LPWAネットワーク3262は、非インターネットプロトコル(IP)からIPへの相互接続、アドレス指定、および経路指定を実行するシステムを含み得る。さらに、各IoTデバイス3204は、当該デバイスでの広域通信に適した送受信機を備えてもよい。さらに、各IoTデバイス3204は、追加のプロトコルおよび周波数を使用した通信用の他の送受信機を備えてもよい。この点は、図34および図35に示されたIoT処理デバイスの通信環境およびハードウェアに関してさらに説明される。
さらに、IoTデバイスのクラスタは、s他のIoTデバイスならびにクラウドネットワークと通信するように装備されてもよい。これは、IoTデバイスがデバイス間にアドホックネットワークを形成することを可能にし、それらが単一のデバイスとして機能することを可能にし、この単一のデバイスはフォグデバイスと呼ばれ得る。この構成は、図33に関連して以下でさらに説明する。
図33は、クラウドコンピューティングネットワークのエッジでフォグデバイスとして動作するIoTデバイス(デバイス3302)のメッシュネットワークと通信しているクラウドコンピューティングネットワークを示す。IoTデバイスのメッシュネットワークは、クラウド3300のエッジで動作するフォグ3320と呼ばれ得る。図面を簡単にするために、すべてのIoTデバイス3302に符号が付けられているわけではない。
フォグ3320は、複数のIoTデバイス3302が、例えば、無線リンク3322によって互いに通信している大規模に相互接続されたネットワークと考えられる。一例として、この相互接続ネットワークは、オープンコネクティビティファウンデーション(商標)(OCF)によって発行された相互接続仕様を使用して促進されてもよい。この規格により、デバイスが互いを見つけ、相互接続のための通信を確立することを可能にする。例えば、とりわけ、optimized link state routing (OLSR)プロトコル、better approach to mobile ad-hoc networking (B.A.T.M.A.N.)ルーティングプロトコル、またはOMA Lightweight M2M(LWM2M)プロトコルを含む、他の相互接続プロトコルも使用することができる。
この例においては、ゲートウェイ3304、データアグリゲータ3326、およびセンサ3328という3種類のIoTデバイス3302が示されているが、IoTデバイス3302および機能の任意の組み合わせを使用してよい。ゲートウェイ3304は、クラウド3300とフォグ3320との間の通信を提供するエッジデバイスであってもよく、さらに、動きデータ、流れデータ、温度データ等のセンサ3328から取得されたデータに対するバックエンドプロセス機能を提供してよい。データアグリゲータ3326は、任意の数のセンサ3328からデータを収集し、分析用にバックエンド処理機能を実施してよい。結果、生データ、またはその両方が、ゲートウェイ3304を通じてクラウド3300に伝達されてもよい。センサ3328は、例えば、データの収集およびデータの処理の両方が可能なフルIoTデバイス3302であってもよい。いくつかの例において、センサ3328は、例えば、データを収集するが、そのデータをデータアグリゲータ3326またはゲートウェイ3304に処理させる等、機能面で限定されていてもよい。
任意のIoTデバイス3302からの通信は、任意のIoTデバイス3302間でゲートウェイ3304に到達するための便利な経路(例えば、最も便利な経路)に沿って伝えられ得る。これらのネットワークでは、複数の相互接続により十分な冗長性が提供され、複数のIoTデバイス3302が失われても通信を維持できる。さらに、メッシュネットワークを使用することにより、非常に低電力な、またはインフラストラクチャから離れて位置しているIoTデバイス3302の使用を可能にし得る。この別のIoTデバイス3302に接続する範囲は、ゲートウェイ3304に接続する範囲よりもずっと小さい。
これらのIoTデバイス3302から提供されるフォグ3320は、サーバ3306等のクラウド3300内のデバイスに、例えば、フォグデバイス等の、クラウド3300のエッジに位置する単一のデバイスとして提供されてもよい。この例において、the alerts coming from the フォグデバイスからの警告が、フォグ3320内で特定のIoTデバイス3302からの発信であると識別されることなく送信され得る。このように、フォグ3320は、とりわけ、データ分析、データ集約、機械学習等の処理またはデータ集約型のタスクを実施するためのコンピューティングリソースおよびストレージリソースを提供する分散型プラットフォームと考えられる。
いくつかの例において、IoTデバイス3302は、命令型プログラミングのスタイルを使用して、例えば各IoTデバイス3302が特定の機能および通信相手を有している状態で、構成され得る。しかしながら、フォグデバイスを形成するIoTデバイス3302は、宣言型プログラミングのスタイルで構成され、IoTデバイス3302が、条件、クエリ、およびデバイス障害に応じて必要なリソースを決定するように、それらの動作および通信を再構成することを可能にし得る。一例として、IoTデバイス3302によって監視されている機器のサブセットの動作に関するクエリがサーバ3306に位置するユーザから送られた場合、フォグ3320デバイスは、特定のセンサ3328等のIoTデバイス3302を、当該クエリに回答させるように選択し得る。これらのセンサ3328からのデータは、クエリに回答するために、フォグ3320デバイスによってサーバ3306へと送信される前に、センサ3328、データアグリゲータ3326、またはゲートウェイ3304の任意の組み合わせによって集約および分析されてもよい。この例において、フォグ3320内のIoTデバイス3302は、流量センサまたは温度センサからのデータの追加等、クエリに基づいて使用されるセンサ3328を選択してよい。さらに、一部のIoTデバイス3302が動作していない場合、フォグ3320デバイス内の他のIoTデバイス3302が、利用可能であれば類似のデータを提供してよい。
別の例では、上述の動作および機能は、電子処理システムの例示的形態のIoTデバイス機械によって実施されてよく、その中では、例示的実施形態による、本明細書に記載の方法のいずれか1つを電子処理システムに実施させるように命令のセットまたはシーケンスが実行されてよい。この機械はIoTデバイスまたはIoTゲートウェイであってよく、これには、パーソナルコンピュータ(PC)、タブレットPC、携帯情報端末(PDA)、携帯電話もしくはスマートフォン、または当該機械が取るべき動作を規定する(シーケンシャルまたは別の)命令を実行可能な任意の機械の態様によって実施される機械を含む。さらに、上述の例では1つの機械のみが図示され説明されているが、当該機械は、本明細書に記載の方法のいずれか1または複数を実施するための一組の(または複数組の)命令を個別にまたは協働して実行する任意の機械の集合を含む形態を取り得る。さらに、プロセッサベースのシステムに対する上記例や同様の例は、本明細書に記載の方法のいずれか1または複数を実施するための命令を個別にまたは協働して実行するためにプロセッサ(例えば、コンピュータ)によって制御または動作される任意の一組の1または複数の機械を含む形態を取り得る。いくつかの実装において、1または複数のデバイスは、本明細書において説明される機能を実装し、タスクを実施するよう協働的に動作してよい。いくつかの例において、1または複数ホストデバイスは、データを供給し、命令を提供し、結果を集約し、またはその他の方法で促進する複数のデバイスによって提供された共同作業および機能を促進してよい。機能は、1つのデバイスによって実行された場合、そのデバイスに局所的な機能と考えられるが、1つの機械として動作している複数のデバイスの実装では、機能は集合的にこれらデバイスに局所的なものと考えられ、このデバイスの集合が、他の例示的実装の中でも、他の、リモート機械(1つのデバイスまたは集合デバイスとして実行)によって提供された結果を提供または消費し得る。
例えば、図34は、複数のモノのインターネット(IoT)デバイスと通信しているクラウドコンピューティングネットワークまたはクラウド3400の図を示している。クラウド3400は、インターネットを表してよく、またはローカルエリアットワーク(LAN)もしくは企業専用のネットワーク等の広域ネットワーク(WAN)であってよい。IoTデバイスは、様々な組み合わせでグループ化された任意の数の異なる種類のデバイスを含んでよい。例えば、交通管制グループ3406は、街路沿いに IoTデバイスを含むことができる。これらのIoTデバイスとしては、信号、交通流モニタ、カメラ、気象センサ等を挙げることができる。交通管制グループ3406、または他のサブグループは、有線リンクまたは無線リンク3408(LPWAリンク等)、または光学リンク等を介して、クラウド3400と通信することができる。さらに、有線または無線サブネットワーク3412は、ローカルエリアネットワーク、無線ローカルエリアネットワーク等を介して、IoTデバイスが互いに通信できるようにし得る。IoTデバイスは、クラウド3400等のリモートロケーションと通信するために、ゲートウェイ3410または3428等の他のデバイスを使用してよく、IoTデバイスは、クラウド3400またはゲートウェイ3410との通信を促進するために、1または複数サーバ3430を使用してもよい。例えば、1または複数サーバ3430は、ローカルエリアネットワークの中のローカルエッジクラウドまたはフォグ実装をサポートするために、中間ネットワークノードとして動作し得る。さらに、図示されたゲートウェイ3428は、クラウド3400内のリソースの割り当ておよび使用が制約されている、または動的な各種IoTデバイス3414、3420、3424等と共に、クラウド-ゲートウェイ-多エッジデバイス構成において動作し得る。
IoTデバイスの他のグループとしては、とりわけ、リモートの気象観測所3414、ローカル情報端末3416、警報システム3418、現金自動預払機3420、警報パネル3422、または緊急車両3424もしくは他の車両3426等の移動車両を挙げることができる。これらのIoTデバイスの各々が、他のIoTデバイスと、サーバ3404と、別のIoTフォグデバイスもしくはシステム(ここでは図示しないが、図33に示す)と、またはそれらの組み合わせと、通信することができる。IoTデバイスのグループは、各種居住、商業、工業環境(私的または公的環境の両方を含む)でデプロイされ得る。
図34からわかるように、多数のIoTデバイスがクラウド3400を介して通信することができる。これにより、異なるIoTデバイスが自律的に他のデバイスに情報を要求または提供できるようになり得る。例えば、IoTデバイスのグループ(交通管制グループ3406)は、人間の介入なしに予測を提供することができる一群のリモートの気象観測所3414のグループからの現在の天気予報を要求することができる。さらに、現金自動預払機3420が、現在強盗に入られている最中であることを緊急車両3424に警告することもできる。緊急車両3424が現金自動預払機3420に向かって進む際に、緊急車両3424は交通管制グループ3406にアクセスして、例えば、緊急車両3424が交差点まで妨げられることなくアクセスするのに十分な時間、交差点において交差する交通を遮断するために信号灯を赤にすることによる、現場までの通行の認可を要求することができる。
リモートの気象観測所3414または交通管制グループ3406等のIoTデバイスのクラスタは、他のIoTデバイスおよびクラウド3400と通信するように装備されてもよい。これは、IoTデバイスがデバイス間にアドホックネットワークを形成することを可能にし、それらが単一のデバイスとして機能することを可能にし、この単一のデバイスはフォグデバイスまたはシステム (例えば、図33を参照して上述したように)と呼ばれ得る。
図35は、本明細書において説明される技術を実装するための、IoTデバイス3550に存在し得るコンポーネントの一例のブロック図である。IoTデバイス3550は、この例に示す、または上述の開示で言及したコンポーネントの任意の組み合わせを備え得る。コンポーネントは、IC、その一部分、個別の電子デバイス、もしくは他のモジュール、ロジック、ハードウェア、ソフトウェア、ファームウェア、またはIoTデバイス3550に適合されたそれらの組み合わせとして、あるいはより大きなシステムのシャーシ内に他の方法で組み込まれるコンポーネントとして実装され得る。図35のブロック図は、IoTデバイス3550のコンポーネントの上位レベルの図を示すことを意図している。しかしながら、示されているコンポーネントのうちの一部は省略されてもよく、追加のコンポーネントが存在してもよく、示されているコンポーネントの異なる構成が他の実装形態において生じてもよい。
IoTデバイス3550は、プロセッサ3552を備えることができ、プロセッサ3552は、マイクロプロセッサ、マルチコアプロセッサ、マルチスレッドプロセッサ、超低電圧プロセッサ、組み込みプロセッサ、または他の既知の処理要素とすることができる。プロセッサ3552は、IntelのEdison(商標)もしくはGalileo(商標)SoCボード等の、プロセッサ3552および他のコンポーネントが単一の集積回路または単一のパッケージに形成されるシステムオンチップ(SoC)の一部であってもよい。一例として、プロセッサ3552は、Quark(商標)、Atom(商標)、i3、i5、i7、もしくはMCUクラスのプロセッサ等のIntel(登録商標)アーキテクチャコア(商標)ベースのプロセッサ、またはカリフォルニア州サンタクララのIntel(登録商標)Corporationから入手可能な、別のそのようなプロセッサを含み得る。しかしながら、カリフォルニア州サニーベールのAdvanced Micro Devices、Inc.(AMD)、カリフォルニア州サニーベールのMIPS Technologies,Inc.のMIPSベースの設計、ARM Holdings,Ltd.からライセンス供与されたARMベースの設計、もしくはその顧客、またはそれらのライセンシーもしくは採用者から入手可能なもの等、他の任意の数のプロセッサが使用されてもよい。プロセッサは、Apple(登録商標)Inc.製のA5~A10プロセッサ、Qualcomm(登録商標)Technologies,Inc.製のSnapdragon(商標)プロセッサ、またはTexas Instruments,Inc.製のOMAP(商標)プロセッサ等のユニットを含むことができる。
プロセッサ3552は、相互接続部3556(例えば、バス)を介してシステムメモリ3554と通信することができる。所与の量のシステムメモリを提供するために、任意の数のメモリデバイスを使用することができる。例として、メモリは、DDRまたはモバイルDDR規格(例えば、LPDDR、LPDDR2、LPDDR3またはLPDDR4)等の、Joint Electron Devices Engineering Council(JEDEC)の設計に従うランダムアクセスメモリ(RAM)であり得る。様々な実装において、個々のメモリデバイスは、シングルダイパッケージ(SDP)、デュアルダイパッケージ(DDP)、またはクワッドダイパッケージ(Q17P)等の任意の数の異なるパッケージタイプであってもよい。これらのデバイスは、いくつかの例において、薄型化の解決策を提供するために、マザーボード上に直接はんだ付けされる場合もある一方で、他の実施形態では、所与のコネクタによりマザーボードに順に結合される1または複数のメモリモジュールとして構成される。他の種類のメモリモジュール、例えば、microDIMMまたはMiniDIMMを含むがこれらに限定されない、異なる種類のデュアルインラインメモリモジュール(DIMM)等、任意の数の他のメモリ実装を使用することができる。
データ、アプリケーション、オペレーティングシステム等の情報の永続的ストレージを提供するために、ストレージ3558も相互接続部3556を介してプロセッサ3552に結合されてもよい。ストレージ3558の一例として、ソリッドステートドライブ(SSDD)を介して実装されてもよい。ストレージ3558に使用することができる他のデバイスとしては、SDカード、マイクロSDカード、xDピクチャカード等のフラッシュメモリカード、およびUSBフラッシュドライブが挙げられる。低電力実装では、ストレージ3558は、プロセッサ3552に関連するオンダイメモリまたはレジスタであり得る。しかしながら、いくつかの例において、ストレージ3558は、マイクロハードディスクドライブ(HDD)を使用して実装され得る。さらに、ストレージ3558には、説明された技術に加えて、またはその代わりに、とりわけ、抵抗変化メモリ、相変化メモリ、ホログラフィックメモリ、または化学メモリ等の任意の数の新しい技術を使用することができる。
コンポーネントは、相互接続部3556を介して通信することができる。相互接続部3556は、業界標準アーキテクチャ(ISA)、拡張ISA(EISA)、周辺機器相互接続(PCI)、拡張周辺機器相互接続(PCIx)、PCIエクスプレス(PCIe)、または他の任意の数の技術を含む、任意の数の技術を含み得る。相互接続部3556は、例えばSoCベースのシステムで使用される、専用バスであってもよい。とりわけ、I2Cインターフェース、SPIインターフェース、ポイントツーポイントインターフェース、および電力バス等、他のバスシステムが含まれてもよい。
相互接続部3556は、他のメッシュデバイス3564と通信するために、プロセッサ3552をメッシュ送受信機3562に結合することができる。メッシュ送受信機3562は、とりわけ、IEEE 802.15.4規格下の、Bluetooth(登録商標)Special Interest Groupによって規定されるBluetooth(登録商標)low energy(BLE)規格を使用する、またはZigBee(登録商標)規格を使用する、2.4ギガヘルツ(GHz)伝送等の任意の数の周波数およびプロトコルを使用することができる。特定の無線通信プロトコル用に構成された任意の数の無線機をメッシュデバイス3564への接続に使用することができる。例えば、WLANユニットは、米国電気電子技術者協会(IEEE)802.11規格に従ってWi-Fi(商標)通信を実装するために使用され得る。さらに、例えばセルラーまたは他の無線広域プロトコルによる、無線広域通信は、WWANユニットを介して行われ得る。
メッシュ送受信機3562は、異なる距離範囲で通信するために複数の規格または無線機を使用して通信することができる。例えば、IoTデバイス3550は、電力を節約するために、BLEに基づくローカル送受信機または別の低電力無線機を使用して、近接したデバイスと、例えば約10メートル以内で通信することができる。より遠い、例えば約50メートル以内のメッシュデバイス3564は、ZigBeeまたは他の中間電力無線機を介して到達することができる。双方の通信技法が、異なる電力レベルで単一の無線機を介して行われてもよいし、例えばBLEを使用するローカル送受信機およびZigBeeを使用する別個のメッシュ送受信機等の別個の送受信機を介して行われてもよい。
無線ネットワーク送受信機3566が、ローカルエリアネットワークプロトコルまたは広域ネットワークプロトコルを介して、クラウド3500内のデバイスまたはサービスと通信するために備えられてよい。無線ネットワーク送受信機3566は、とりわけ、IEEE 802.15.4、またはIEEE 802.15.4g規格に従うLPWA送受信機であり得る。IoTデバイス3550は、SemtechおよびLoRa Allianceによって開発されたLoRaWAN(商標)(Long Range Wide Area Network)を使用して広域にわたって通信することができる。本明細書で説明される技法はこれらの技術に限定されず、Sigfox等の長距離低帯域幅通信を実装する任意の数の他のクラウド送受信機、および他の技術と共に使用され得る。さらに、IEEE 802.15.4e仕様において説明されているタイムスロットチャネルホッピング等の他の通信技法を使用することもできる。
本明細書で説明するように、メッシュ送受信機3562および無線ネットワーク送受信機3566に関して言及したシステムに加えて、任意の数の他の無線通信およびプロトコルを使用することができる。例えば、無線送受信機3562および3566は、LTE、または高速通信を実施するためにスペクトラム拡散(SPA/SAS)通信を使用する他のセルラー送受信機を含むことができる。さらに、中速通信用およびネットワーク通信の提供用のWi-Fi(登録商標)ネットワーク等、任意の数の他のプロトコルを使用することができる。
無線送受信機3562および3566は、任意の数の3GPP(第3世代パートナーシッププロジェクト)仕様、特に、とりわけ、ロングタームエボリューション(LTE)、ロングタームエボリューション-アドバンスト(LTE-A)、またはロングタームエボリューション-アドバンストプロ(LTE-A Pro)と互換性のある無線機を含むことができる。他の任意の数の固定、モバイル、または衛星通信技術および規格と互換性のある無線機を選択することができることに留意されたい。これらは、例えば、任意のセルラー方式広域無線通信技術を含むことができ、当該技術は、例えば、第5世代(5G)通信システム、汎欧州デジタル移動電話方式(Global System for Mobile Communications)(GSM(登録商標))無線通信技術、汎用パケット無線サービス(General Packet Radio Service)(GPRS)無線通信技術、または進化型高速拡張データレート(Enhanced Data Rates for GSM(登録商標) Evolution)(EDGE)無線通信技術、UMTS(ユニバーサル移動体通信システム)通信技術を含み得、さらに上記の規格について、無線ネットワーク送受信機3566用に任意の数の衛星アップリンク技術を使用することができ、とりわけ、例えば、radios compliant with standards issued by the ITU(国際電気通信連合)またはETSI(欧州電気通信規格協会)によって発行された規格に準拠した無線機を含む。よって、本明細書で提供される例は、既存のものとまだ策定されていないものとの両方の、他の様々な通信技術に適用可能であると理解されたい。
ネットワークインターフェースコントローラ(NIC)3568は、クラウド3500またはメッシュデバイス3564等の他のデバイスへの有線通信を提供するために備えられてよい。有線通信は、イーサネット(登録商標)接続を提供してもよいし、とりわけ、コントローラエリアネットワーク(CAN)、ローカル相互接続ネットワーク(LIN)、DeviceNet、ControlNet、Data Highway+、PROFIBUS、またはPROFINET等の他の種類のネットワークに基づいてもよい。第2のネットワークへの接続を可能にするために追加のNIC3568、例えばイーサネット(登録商標)を介してクラウドに通信を提供するNIC3568、および他の種類のネットワークを介して他のデバイスに通信を提供する第2のNIC3568が含まれてもよい。
相互接続部3556は、プロセッサ3552を、外部デバイスまたはサブシステムに接続するために使用される外部インターフェース3570に結合することができる。外部デバイスとしては、加速度計、液位センサ、流量センサ、光学センサ、カメラセンサ、温度センサ、全地球測位システム(GPS)センサ、圧力センサ、気圧センサ等のセンサ3572を挙げることができる。外部インターフェース3570はさらに、IoTデバイス3550を、電源スイッチ、バルブアクチュエータ、可聴音生成器、視覚的警告デバイス等のアクチュエータ3574に接続するために使用されてもよい。
一部の任意の例では、様々な入出力(I/O)デバイスが、IoTデバイス3550内に存在してもよいし、IoTデバイス3550に接続されてもよい。例えば、ディスプレイまたはその他の出力デバイス3584が、センサの読み取り値またはアクチュエータの位置等の情報を示すために含まれてもよい。タッチスクリーンまたはキーパッド等の入力デバイス3586が入力を受け入れるために含まれてもよい。出力デバイス3584は、バイナリ状態表示器(例えば、LED)およびマルチキャラクタ視覚的出力等の単純な視覚的出力、またはIoTデバイス3550の動作から生成または作成された文字、グラフィックス、マルチメディアオブジェクト等の出力を伴うディスプレイスクリーン(例えば、LCDスクリーン)等のより複雑な出力を含む、任意の数の聴覚的または視覚的表示装置の形態を含み得る。
バッテリ3576は、IoTデバイス3550に電力を供給し得るが、IoTデバイス3550が固定位置に取り付けられる例では、送配電網に結合された電源を有し得る。バッテリ3576は、リチウムイオン電池、または亜鉛空気電池、アルミニウム空気電池、リチウム空気電池等の金属空気電池等とすることができる。
バッテリモニタ/充電器3578は、バッテリ3576の充電状態(SoCh)を追跡するためにIoTデバイス3550に備えられ得る。バッテリモニタ/充電器3578は、バッテリ3576の他のパラメータを監視して、バッテリ3576の劣化状態(state of health)(SoH)および作動状態(SoF)等の障害予測を提供するために使用され得る。バッテリモニタ/充電器3578は、Linear Technologies製のLTC4020もしくはLTC2990、アリゾナ州フェニックスのON Semiconductor製のADT7488A、またはテキサス州ダラスのTexas Instruments製のUCD90xxxファミリのIC等のバッテリモニタ集積回路を含むことができる。バッテリモニタ/充電器3578は、バッテリ3576に関する情報を、相互接続部3556を介してプロセッサ3552に通信することができる。バッテリモニタ/充電器3578はまた、プロセッサ3552がバッテリ3576の電圧またはバッテリ3576からの電流を直接監視できるようにするアナログ-デジタル(ADC)変換器を含み得る。バッテリパラメータは、送信周波数、メッシュネットワーク動作、センシング周波数等、IoTデバイス3550が実行することができる動作を決定するために使用され得る。
電力ブロック3580、または送配電網に結合された他の電源が、バッテリ3576を充電するためにバッテリモニタ/充電器3578と結合されてもよい。いくつかの例において、電力ブロック3580は、例えばIoTデバイス3550内のループアンテナを介して、無線で電力を取得するために無線給電レシーバと置き換えられ得る。とりわけ、カリフォルニア州ミルピタスのLinear Technologies製のLTC4020チップ等の無線バッテリ充電回路をバッテリモニタ/充電器3578に含めることができる。選択される具体的な充電回路は、バッテリ3576のサイズ、従って必要とされる電流に依存する。充電は、とりわけ、Airfuel Allianceによって公表されたAirfuel規格、Wireless Power Consortiumによって公表されたQi無線充電規格、またはAlliance for Wireless Powerによって公表されたRezence充電規格を使用して実行することができる。
ストレージ3558は、本明細書で説明される技術を実装するためのソフトウェア、ファームウェアまたはハードウェアコマンドの形態の命令3582を含み得る。このような命令3582がメモリ3554およびストレージ3558においてコードブロックとして示されているが、コードブロックのうちのいずれも、例えば特定用途向け集積回路(ASIC)に組み込まれる等、ハードワイヤード回路で置き換えられ得ることが理解されよう。
一例において、メモリ3554、ストレージ3558、またはプロセッサ3552を介して提供される命令3582は、プロセッサ3552に対して、IoTデバイス3550内で電子的動作を実施するように指示するコードを含む非一時的機械可読媒体3560として実施されてよい。プロセッサ3552は、相互接続部3556を介して非一時的機械可読媒体3560にアクセスしてよい。例えば、非一時的機械可読媒体3560は、図35のストレージ3558について説明されたデバイスとして実施されてよく、または光ディスク、フラッシュドライブ、または任意の数の他のハードウェアデバイス等の特定のストレージユニットを含んでよい。非一時的機械可読媒体3560は、プロセッサ3552に対して、例えば、上述の動作および機能のフローチャートおよびブロック図に関して説明されたような、特定のシーケンスまたは動作の流れを実施するように指示する命令を含んでよい。
図36は、実施形態によるプロセッサの例示である。プロセッサ3600は、上述の実装に関連して用いられ得るハードウェアデバイスの種類の一例である。プロセッサ3600は、任意の種類のプロセッサであってよく、マイクロプロセッサ、組み込みプロセッサ、デジタル信号プロセッサ(DSP)、ネットワークプロセッサ、マルチコアプロセッサ、シングルコアプロセッサ、またはコードを実行する他のデバイス等がある。図36には1つのプロセッサ3600だけが例示されているが、これに代えて、処理要素が、図36に例示されたプロセッサ3600を複数含んでよい。プロセッサ3600はシングルスレッドコアであってよく、少なくとも1つの実施形態では、プロセッサ3600は、コア毎に複数のハードウェアスレッドコンテキスト(または「論理プロセッサ」)を含むことができるという点で、マルチスレッドであってよい。
図36は、一実施形態による、プロセッサ3600に結合されたメモリ3602も例示する。メモリ3602は、当業者に知られているか、またはそうでなければ当業者が利用可能な、幅広い種類のメモリ(メモリ階層の様々な層を含む)のうちいずれかであってよい。そのようなメモリ要素には、限定されないが、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、フィールドプログラマブルゲートアレイ(FPGA)の論理ブロック、消去可能プログラマブルリードオンリメモリ(EPROM)、および電気的消去可能プログラマブルROM(EEPROM)が含まれてよい。
プロセッサ3600は、本明細書で詳述されるアルゴリズム、プロセス、または動作と関連した任意の種類の命令を実行することができる。一般に、プロセッサ3600は要素または項目(例えば、データ)を、ある状態または物から別の状態または物に変換することができる。
プロセッサ3600により実行される1または複数の命令であり得るコード3604は、メモリ3602に記憶されてよく、あるいは、ソフトウェア、ハードウェア、ファームウェア、もしくはこれらの任意の好適な組み合わせに、または、必要に応じて特定のニーズに基づき、任意の他の内部もしくは外部のコンポーネント、デバイス、要素、もしくはオブジェクトに記憶されてよい。一例において、プロセッサ3600は、コード3604により示される命令のプログラムシーケンスに従うことができる。各命令はフロントエンドロジック3606に入り、1または複数のデコーダ3608により処理される。デコーダはその出力として、あらかじめ定義されたフォーマットの固定幅マイクロオペレーション等のマイクロオペレーションを生成してよく、または他の命令、マイクロ命令、もしくは元のコード命令を反映する制御信号を生成してよい。フロントエンドロジック3606は、レジスタリネーミングロジック3610およびスケジューリングロジック3612も含んでよく、これらは一般に、リソースを割り当て、実行命令に対応する演算をキューに入れる。
プロセッサ3600は、一組の実行ユニット3616a、3616b、3616n等を有する実行ロジック3614も含み得る。いくつかの実施形態は、特定の機能または機能のセットに専用の複数の実行ユニットを含んでよい。他の実施形態では、1つの実行ユニットだけ、または特定の機能を実行することができる1つの実行ユニットを含んでよい。実行ロジック3614は、コード命令により指定された演算を実行する。
コード命令により指定された演算の実行が完了した後、バックエンドロジック3618はコード3604の命令をリタイアすることができる。1つの実施形態において、プロセッサ3600はアウトオブオーダ実行を可能にするが、命令のインオーダリタイアメントを必要とする。リタイアメントロジック3620は、様々な既知の形態(例えば、リオーダバッファ等)を取ってよい。このように、プロセッサ3600は、コード3604の実行中に、少なくともデコーダ、レジスタリネーミングロジック3610により利用されるハードウェアレジスタおよびテーブル、並びに実行ロジック3614により修正される任意のレジスタ(不図示)によって生成される出力に関して変換される。
図36には示されていないが、処理要素が、プロセッサ3600を搭載したチップ上に他の要素を含んでよい。例えば、処理要素が、プロセッサ3600と共にメモリ制御ロジックを含んでよい。処理要素は、I/O制御ロジックを含んでよく、および/または、メモリ制御ロジックと統合されたI/O制御ロジックを含んでよい。処理要素は、1または複数のキャッシュを含んでもよい。いくつかの実施形態において、不揮発性メモリ(フラッシュメモリまたはヒューズ等)も、プロセッサ3600を搭載したチップ上に含まれてよい。
図37は、実施形態による、ポイントツーポイント(PtP)構成で配置されたコンピューティングシステム3700を示す。特に、図37は、プロセッサ、メモリ、および入力/出力デバイスが複数のポイントツーポイントインターフェースで相互接続されたシステムを示す。一般的に、本明細書において説明されるコンピューティングシステムの1または複数が、コンピューティングシステム3700と同一または同様に構成されてよい。
プロセッサ3770および3780は各々、メモリ要素3732および3734と通信するために、集積メモリコントローラロジック(MC)3772および3782を含んでもよい。別の実施形態では、メモリコントローラロジック3772および3782は、プロセッサ3770および3780とは分かれている個別のロジックであってよい。メモリ要素3732および/または3734は、プロセッサ3770および3780が本明細書に概説された動作および機能を実行するために使用する各種データを記憶してよい。
プロセッサ3770および3780は、他の図に関連して説明したような、任意の種類のプロセッサであってよい。プロセッサ3770および3780は、ポイントツーポイントインターフェース回路3778および3788をそれぞれ使用して、ポイントツーポイント(PtP)インターフェース3750を介してデータを交換してよい。プロセッサ3770および3780は各々、ポイントツーポイントインターフェース回路3776、3786、3794、および3798を使用して、個々のポイントツーポイントインターフェース3752および3754を介して、チップセット3790とデータを交換してよい。チップセット3790は、PtPインターフェース回路であり得るインターフェース回路3792を使用して、高性能グラフィックスインターフェース3739を介して、高性能グラフィックス回路3738とデータを交換してもよい。別の実施形態では、図37に図示された任意のまたは全てのPtPリンクは、PtPリンクというよりもマルチドロップパスとして実施され得る。
チップセット3790は、インターフェース回路3796を介して、バス3720と通信状態にあってよい。バス3720は、バスブリッジ3718およびI/Oデバイス3716等、バス3720によって通信する1または複数デバイスを有してよい。バス3710を介して、バスブリッジ3718は、ユーザインターフェース3712(キーボード、マウス、タッチスクリーン、またはその他の入力デバイス等)、通信デバイス3726(モデム、ネットワークインターフェースデバイス、またはコンピュータネットワーク3760を通じて通信し得るその他の種類の通信デバイス等)、オーディオI/Oデバイス3714、および/またはデータストレージデバイス3728等の、他のデバイスと通信状態にあってよい。データストレージデバイス3728は、プロセッサ3770および/または3780によって実行され得るコード3730を記憶してよい。別の実施形態では、バスアーキテクチャの任意の部分は、1または複数PtPリンクで実装され得る。
図37に示すコンピュータシステムは、本明細書に記載の各種実施形態を実装するために利用し得るコンピューティングシステムの実施形態を概略的に図示したものである。図37に示すシステムの各種コンポーネントは、システムオンチップ(SoC)アーキテクチャ、または本明細書に提示された例および実施の機能および特徴を実現可能な任意の他の適切な構成と組み合わされてよいことが理解されよう。
さらなる例では、機械可読媒体は、機械により実行するための命令を記憶、符号化、もしくは記録することができ、機械に本開示の方法のいずれか1または複数を実施させ、またはそのような命令によって利用される、もしくはこれに関連付けられるデータ構造を記憶、符号化、もしくは記録することができる任意の有形の媒体も含む。したがって、「機械可読媒体」は、固体メモリ、光学および磁気メディアを含んでよいが、これらに限定されない。機械可読媒体の特定の例としては、半導体メモリデバイス(例えば、電気的プログラマブルリードオンリメモリ(EPROM)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM))、フラッシュメモリデバイス、内部ハードディスクおよびリムーバブルディスク等の磁気ディスク、光磁気ディスク、CD-ROMおよびDVD-ROMディスクを含むがこれらに限定されない不揮発性メモリが挙げられる。機械可読媒体によって実施される命令はさらに、複数の転送プロトコルのいずれか1つ(例えば、HTTP)を利用するネットワークインターフェースデバイスを介して、伝送媒体を使用する通信ネットワークを通じて送信または受信され得る。
本明細書において説明される機能的ユニットまたは能力は、これらの実装の独立性を特に強調するために、コンポーネントまたはモジュールとして言及または符号で示され得ることを理解されたい。そのようなコンポーネントは、任意の数のソフトウェアまたはハードウェアの形態によって実施されてよい。例えば、コンポーネントまたはモジュールは、カスタムの超大規模集積(VLSI)回路もしくはゲートアレイ、またはロジックチップ、トランジスタ、もしくはその他の個別のコンポーネント等の既成の半導体装置を備えるハードウェア回路として実装されてよい。コンポーネントまたはモジュールは、フィールドプログラマブルゲートアレイ、プログラマブルアレイロジック、プログラマブルロジックデバイス等のプログラマブルハードウェアデバイスに実装されてもよい。コンポーネントまたはモジュールは、各種プロセッサによって実行されるためのソフトウェアに実装されてもよい。例えば、実行可能コードの識別されたコンポーネントまたはモジュールは、例えば、オブジェクト、プロシージャ、または機能として組織され得る、コンピュータ命令の1または複数の物理的または論理的ブロックを含んでよい。ただし、識別されたコンポーネントまたはモジュールの実行ファイルは、物理的に同じ場所に配置される必要はなく、異なる場所に記憶された異なる命令を含んでよく、これらの命令は、論理的に統合された場合、コンポーネントまたはモジュールを含み、当該コンポーネントまたはモジュールの上述の目的を実現し得る。
実際、実行可能コードのコンポーネントまたはモジュールは、1つの命令または多数の命令であってよく、異なるプログラムにおける複数の異なるコードセグメントに分散され、複数のメモリデバイスまたは処理システムにまたがっていてもよい。特に、上述のプロセスの一部の態様(コードの再書き込みおよびコードの分析等)は、コードがデプロイされている場所(例えば、センサまたはロボットに埋め込まれたコンピュータ)とは異なる処理システム(例えば、データセンター内のコンピュータ)上で実施されてよい。同様に、演算データは、本明細書ではコンポーネントまたはモジュール内で識別および例示され、任意の適切な形態で実施され、任意の適切な種類のデータ構造内に組織され得る。演算データは、1つのデータセットとして収集されても、または、異なるストレージデバイスを含む異なる場所に分散されてもよく、少なくとも部分的にシステムまたはネットワーク上の単なる電子信号として存在してもよい。コンポーネントまたはモジュールは、上述の機能を実施可能なエージェントを含み、パッシブまたはアクティブであってよい。
ここで説明されている方法、システム、およびデバイス実施形態の追加の例として、以下の非限定的な構成が挙げられる。以下の非限定的な例の各々は、独立して成立してもよいし、以下に示す他の例のいずれか1または複数または本開示全体のいずれかとの任意の並び替えまたは組み合わせで組み合わせてもよい。
本開示は、特定の実施および一般的に関連付けられた方法という点で説明されているが、これらの実施および方法の変更および並び替えも当業者には自明であろう。例えば、本明細書ににおいて説明された動作は、説明されたものとは異なる順序で実施でき、それによっても所望の結果を実現できる。一例として、添付の図面に示されたプロセスは、所望の結果を実現するために必ずしも図示された特定の順序または順番を要するものではない。ある実施においては、同時処理や並行処理が有利となり得る。さらに、他のユーザインターフェースレイアウトおよび機能にも対応できる。その他の変形も、以下の特許請求の範囲内に包含される。
本明細書は多くの特定の実施の詳細を含んでいるが、これらは任意の発明の範囲や請求される内容を限定するものと解釈されるものではなく、特定の発明の特定の実施形態に固有の特徴の記載として解釈されるべきである。個別の実施形態の文脈で本明細書において説明されたある特徴を、1つの実施形態との組み合わせで実施することもできる。逆に、1つの実施形態の文脈で説明された各種特徴を、複数の実施形態において別々に、または任意の適切な下位組み合わせで実施することもできる。さらに、特徴はある組み合わせで動作するものとして上述され、そのように元々請求され得るが、請求された組み合わせにおける1または複数の特徴は、いくつかの例においてはその組み合わせから除外され、請求された組み合わせを下位組み合わせまたは下位組み合わせの変形に適用し得る。
同様に、図面において動作は特定の順序で示されているが、この動作が図示された特定の順序または順序を要するものとして理解されるべきではなく、または、所望の結果を実現するために図示された全ての動作が実施されると理解されるべきではない。ある状況では、同時処理や並行処理が有利となり得る。さらに、上述の実施形態の各種システムコンポーネントの区分は、全ての実施形態においてそのように区分される必要があると理解されるべきではなく、説明されたプログラムコンポーネントおよびシステムが、全体として1つのソフトウェア製品に統合されるか、または複数のソフトウェア製品にパッケージされることができると理解すべきである。
以下の例が本明細書による実施形態に関連する。例1は、命令を記憶する、非一時的な機械によりアクセス可能な記憶媒体であって、命令は、機械上で実行された場合、機械に三次元(3D)ボリュームを表すボリュームデータを生成する手順であって、ボリュームは一組のボクセルを含み、ボクセルの少なくとも1つは、3Dジオメトリで占有され、ボリュームデータは、一組のボクセルの各々について、ボクセルそれぞれが占有されているかを特定する、手順と、ハッシュ化アルゴリズムに応じて、ボリュームデータに対するインデックス値を生成する手順であって、一組のボクセル内のボクセルの特定のサブセットを表す、ボリュームデータの特定の部分に対するインデックス値は、ボクセルの特定のサブセットに関連した、x座標、y座標およびz座標の値の組み合わせに基づいて生成され、ボリュームに対応する辺長値に基づいて、特定の部分に対するインデックス値がさらに生成される、手順と、ボリュームデータの特定の部分を、ハッシュテーブルのエントリ内に記憶する手順であって、エントリは、特定の部分に対するインデックス値に基づくアドレスを有する、手順と、を実行させる、記憶媒体である。
例2は、例1の主題を含み、x座標、y座標およびz座標の値の組み合わせは、x座標、y座標およびz座標の値の加重和を含み、x座標、y座標およびz座標の内の1または複数が、辺長値に基づいて重み付けされる。
例3は、例2の主題を含み、インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)、に応じて生成され、式中、IDはz座標の値であり、IDはy座標の値であり、IDはx座標の値であり、SLは辺長値である。
例4は、例2または3のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ボリュームのx座標、y座標およびz座標の各々の内部の、占有ボリュームの相対密度に基づいて、辺長値を使用してx座標、y座標およびz座標に適用される重みを決定する手順を実行させる。
例5は、例1から4のいずれか1つの主題を含み、ボリュームは、一組のボクセルブロックに論理的に細分化され、ボクセルブロックはそれぞれ、各ボクセルサブセットの、サブボリュームを含み、特定のサブセットボクセルは、一組のボクセルブロックの内の特定の1つを含む。
例6は、例5の主題を含み、ハッシュテーブル内の各エントリは、一組のボクセルブロックのそれぞれにおける各ボクセルを記述したボリュームデータを含むようなサイズである。
例7は、例6の主題を含み、各ボクセルブロックは、複数のボクセルを含み、ハッシュテーブルエントリは各々、対応するボクセルが占有されているかと特定するために、ボクセルブロックにおけるボクセル毎に少なくとも1つのビットを含む。
例8は、例7の主題を含み、各ハッシュテーブルエントリは、対応するボクセルブロックにおいて、ボクセル毎に2ビットを含むようなサイズである。
例9は、例1から8のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、エントリのアドレスを計算し、ハッシュテーブル内のエントリのアドレスは、インデックス値の剰余に基づいて計算される手順を実行させる。
例10は、例1から9のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ハッシュテーブル内のエントリで衝突があるかを検出する手順と、
衝突が検出された場合、ハッシュテーブルに関連付けられた衝突管理方式を利用する手順と、を実行させる。
例11は、例1から10のいずれか1つの主題を含み、ハッシュ化アルゴリズムは大きな素数を使用しない。
例12は、命令を記憶する、非一時的な機械によりアクセス可能な記憶媒体であって、命令は、機械上で実行された場合、機械にボリューム内の特定のボクセルを特定する手順と、コンピュータメモリ内に記憶されたハッシュテーブルにアクセスする手順と、特定のボクセルに関連付けられた、ボリューム内のx座標、y座標およびz座標を決定する手順と、ハッシュ化アルゴリズムに応じて、そしてx座標、y座標およびz座標に基づいて、特定のボクセルに関連付けられたインデックス値を決定する手順であって、インデックス値は、ボリュームに対応する辺長値に基づく、x座標、y座標およびz座標の加重値の総和を通じて、ハッシュ化アルゴリズムに応じて決定される、手順と、インデックス値に基づいてハッシュテーブル内の特定のエントリを特定する手順であって、特定のエントリはボリュームデータを含み、ボリュームデータは、ボリュームの特定の部分におけるボクセルの特定のサブセットに対して、ボクセルのサブセットにおけるボクセルが3Dジオメトリによって占有されているかを特定し、ボクセルのサブセットは、特定のボクセルを含む、手順と、特定のエントリから、特定のボクセルが3Dジオメトリによって占有されているかを判定する手順と、を実行させる、記憶媒体である。
例13は、例12の主題を含み、命令は実行された場合、さらに機械に、特定のボクセルが占有されているかの判定に基づいて、ボリューム内で、ナビゲーション動作を決定する手順を実行させる。
例14は、例12または13のいずれか1つの主題を含み、インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)、に応じて決定され、式中、IDはz座標の値であり、IDはy座標の値であり、IDはx座標の値であり、SLは辺長値である。
例15は、例12から14のいずれか1つの主題を含み、特定のボクセルに関連付けられたx座標、y座標およびz座標は、ボリューム内のボクセルのブロックの座標を含み、ボクセルのブロックは、ボクセルのサブセットを含む。
例16は、例15の主題を含み、ボリュームは、複数のボクセルのブロックを含み、辺長値は、ボリューム内のボクセルのブロックの数の立方根に等しい。
例17は、例15または16のいずれか1つの主題を含み、ハッシュテーブル内の各エントリは、一組のボクセルブロックのそれぞれにおける各ボクセルを記述したボリュームデータを含むようなサイズである。
例18は、例17の主題を含み、各ボクセルブロックは、複数のボクセルを含み、ハッシュテーブルエントリは各々、対応するボクセルが占有されているかと特定するために、ボクセルブロックにおけるボクセル毎に少なくとも1つのビットを含む。
例19は、例18の主題を含み、各ハッシュテーブルエントリは、対応するボクセルブロックにおいて、ボクセル毎に2ビットを含むようなサイズである。
例20は、例12から19のいずれか1つのの主題を含み、命令は実行された場合、さらに機械に、特定のエントリのアドレスを計算し、ハッシュテーブル内のエントリのアドレスは、インデックス値の剰余に基づいて計算される手順を実行させる。
例21は、例12から20のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ハッシュテーブル内の特定のエントリで衝突があるかを検出する手順と、衝突が検出された場合、ハッシュテーブルに関連付けられた衝突管理方式を利用する手順と、を実行させる。
例22は、例12から21のいずれか1つの主題を含み、ハッシュ化アルゴリズムは大きな素数を使用しない。
例23は、例12から22のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、特定のボクセルが占有されているかに基づいて、ボリューム内で、デバイスの自律ナビゲーション経路を決定する手順を実行させる。
例24は、方法であって、三次元(3D)ボリュームを表すボリュームデータを生成する段階であって、ボリュームは一組のボクセルを含み、ボクセルの少なくとも1つは、3Dジオメトリで占有され、ボリュームデータは、一組のボクセルの各々について、それぞれのボクセルが占有されているかを特定するものである、段階と、ハッシュ化アルゴリズムに応じて、ボリュームデータに対するインデックス値を生成する段階であって、一組のボクセル内のボクセルの特定のサブセットを表す、ボリュームデータの特定の部分に対するインデックス値は、ボクセルの特定のサブセットに関連した、x座標、y座標およびz座標の値の組み合わせに基づいて生成され、ボリュームに対応する辺長値に基づいて、特定の部分に対するインデックス値がさらに生成される、段階と、ボリュームデータの特定の部分を、ハッシュテーブルのエントリ内に記憶する段階であって、エントリは、特定の部分に対するインデックス値に基づくアドレスを有する、段階と、を備える、方法である。
例25は、例24の主題を含み、x座標、y座標およびz座標の値の組み合わせは、x座標、y座標およびz座標の値の加重和を含み、x座標、y座標およびz座標の内の1または複数が、辺長値に基づいて重み付けされる。
例26は、例25の主題を含み、インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)、に応じて生成され、式中、IDはz座標の値であり、IDはy座標の値であり、IDはx座標の値であり、SLは辺長値である。
例27は、例25または26のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ボリュームのx座標、y座標およびz座標の各々の内の、占有ボリュームの相対密度に基づいて、辺長値を使用してx座標、y座標およびz座標に適用される重みを決定する段階を実行させる。
例28は、例24から27のいずれか1つの主題を含み、ボリュームは、一組のボクセルブロックに論理的に細分化され、ボクセルブロックはそれぞれ、各ボクセルサブセットの、サブボリュームを含み、特定のサブセットボクセルは、一組のボクセルブロックの特定の1つを含む。
例29は、例28の主題を含み、ハッシュテーブル内の各エントリは、一組のボクセルブロックのそれぞれにおける各ボクセルを記述したボリュームデータを含むようなサイズである。
例30は、例29の主題を含み、各ボクセルブロックは、複数のボクセルを含み、ハッシュテーブルエントリは各々、対応するボクセルが占有されているかと特定するために、ボクセルブロックにおけるボクセル毎に少なくとも1つのビットを含む。
例31は、例30の主題を含み、各ハッシュテーブルエントリは、対応するボクセルブロックにおいて、ボクセル毎に2ビットを含むようなサイズである。
例32は、例24から31のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、エントリのアドレスを計算し、ハッシュテーブル内のエントリのアドレスは、インデックス値の剰余に基づいて計算される段階を実行させる。
例33は、例24から32のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ハッシュテーブル内のエントリで衝突があるかを検出する段階と、衝突が検出された場合、ハッシュテーブルに関連付けられた衝突管理方式を利用する段階と、を実行させる。
例34は、例24から33のいずれか1つの主題を含み、ハッシュ化アルゴリズムは大きな素数を使用しない。
例35は、方法であって、ボリューム内の特定のボクセルを特定する段階と、コンピュータメモリ内に記憶されたハッシュテーブルにアクセスする段階と、特定のボクセルに関連付けられた、ボリューム内のx座標、y座標およびz座標を決定する段階と、ハッシュ化アルゴリズムに応じて、特定のボクセルに関連付けられたインデックス値を決定する段階であって、ハッシュ化アルゴリズムに応じてインデックス値を決定することは、ボリュームの寸法に対応する辺長値に基づく、x座標、y座標およびz座標の加重値を合計する段階を備える、段階と、インデックス値に基づいてハッシュテーブル内の特定のエントリを特定する段階であって、特定のエントリはボリュームデータを含み、ボリュームデータは、特定のボクセルに対して、特定のボクセルが3Dジオメトリで占有されているかを特定する、段階と、を備える方法である。
例36は、例35の主題を含み、命令は実行された場合、さらに機械に、特定のボクセルが占有されているかの判定に基づいて、ボリューム内で、ナビゲーション動作を決定する段階を実行させる。
例37は、例35または36のいずれか1つの主題を含み、インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)、に応じて決定され、式中、IDはz座標の値であり、IDはy座標の値であり、IDはx座標の値であり、SLは辺長値である。
例38は、例35から37のいずれか1つの主題を含み、特定のボクセルに関連付けられたx座標、y座標およびz座標は、ボリューム内のボクセルのブロックの座標を含み、ボクセルのブロックは、ボクセルのサブセットを含む。
例39は、例38の主題を含み、ボリュームは、複数のボクセルのブロックを含み、辺長値は、ボリューム内のボクセルのブロックの数の立方根に等しい。
例40は、例38から39のいずれか1つの主題を含み、ハッシュテーブル内の各エントリは、一組のボクセルブロックのそれぞれにおける各ボクセルを記述したボリュームデータを含むようなサイズである。
例41は、例40の主題を含み、各ボクセルブロックは、複数のボクセルを含み、ハッシュテーブルエントリは各々、対応するボクセルが占有されているかと特定するために、ボクセルブロックにおけるボクセル毎に少なくとも1つのビットを含む。
例42は、例41の主題を含み、各ハッシュテーブルエントリは、対応するボクセルブロックにおいて、ボクセル毎に2ビットを含むようなサイズである。
例43は、例35から42のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、特定のエントリのアドレスを計算し、ハッシュテーブル内のエントリのアドレスは、インデックス値の剰余に基づいて計算される段階を実行させる。
例44は、例35から43のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、ハッシュテーブル内の特定のエントリで衝突があるかを検出する段階と、衝突が検出された場合、ハッシュテーブルに関連付けられた衝突管理方式を利用する段階と、を実行させる。
例45は、例35から44のいずれか1つの主題を含み、ハッシュ化アルゴリズムは大きな素数を使用しない。
例46は、例35から45のいずれか1つの主題を含み、命令は実行された場合、さらに機械に、特定のボクセルが占有されているかに基づいて、ボリューム内で、デバイスの自律ナビゲーション経路を決定する段階を実行させる。
例47は、データ処理装置と、ハッシュテーブルを有するメモリと、ボリュームの少なくとも一部分内のジオメトリを特定するボリュームデータを生成するセンサと、ボリューム処理ロジックと、を備えるシステムである。ボリューム処理ロジックは、ボリュームの特定のサブボリュームに、ボリュームデータの特定の部分が対応すると判定する手順と、ボリューム内で、特定のサブボリュームのx座標、y座標およびz座標を決定する手順であって、特定のサブボリュームは、一組の1または複数のボクセルを含む、手順と、ハッシュ化アルゴリズムに基づいて、ボリュームデータの特定の部分に対するインデックス値を決定する手順であって、インデックス値は、特定のサブボリュームのx座標、y座標およびz座標の加重値の総和から決定され、x座標、y座標およびz座標の値の1または複数が、辺長変数に基づいて重み付けされる、手順と、インデックス値から、ハッシュテーブル内のアドレスを決定する手順と、アドレスに衝突が存在するかを判定する手順と、アドレスに衝突がないと判定されたことに基づいて、ボリュームデータの特定の部分を、アドレスに関連付けられたハッシュテーブルのエントリに書き込まれるようにする手順と、を実行可能である。
例48は、例47の主題を含み、ボリューム処理ロジックはさらに、ボリューム内の特定のボクセルを特定する手順と、ボリュームのサブボリュームが、特定のボクセルを含むと判定することと、特定のボクセルの、サブボリュームに対するx座標、y座標およびz座標を特定することと、特定のボクセルの、サブボリュームのx座標、y座標およびz座標から、そしてハッシュ化アルゴリズムに基づいて、特定のボクセルに関連付けられたインデックス値を計算する手順と、特定のボクセルに関連付けられたボリュームデータにアクセスするため、特定のボクセルに関連付けられたインデックスに対応する、ハッシュテーブル内のエントリにアクセスする手順であって、特定のボクセルに関連付けられたボリュームデータは、特定のボクセルがジオメトリで占有されているかを特定する、手順と、特定のボクセルがジオメトリで占有されているかに基づいて、ボリューム内での自律移動をトリガする手順と、を実行可能である。
例49は、例47または48のいずれか1つの主題を含み、ドローン、ロボット、および自律走行車両の1つを含む。
例50は、例47から49のいずれか1つの主題を含み、インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)、に応じて決定され、式中、IDはz座標の値であり、IDはy座標の値であり、IDはx座標の値であり、SLは辺長値である。
主題の具体的実施形態を説明した。以下の請求項の範囲内にその他実施形態も含まれる。場合によっては、請求項に記載の動作は、実行順序を変更してもよく、それでも所望の結果が得られる。さらに、所望の結果を得るのに、添付の図面に記載の処理は、必ずしも図示の特定の順序または順番である必要はない。

Claims (20)

  1. ボリュームを表すボリュームデータを生成する手順であって、前記ボリュームは一組のボクセルを含み、前記ボクセルの少なくとも1つは、三次元(3D)ジオメトリで占有され、前記ボリュームデータは、前記一組のボクセルの各々について、それぞれの前記ボクセルが占有されているかを特定する、手順と、
    ハッシュ化アルゴリズムに応じて、前記ボリュームデータのインデックス値を生成する手順であって、前記一組のボクセル内の前記ボクセルの特定のサブセットを表す、前記ボリュームデータの特定の部分の前記インデックス値は、前記ボクセルの特定のサブセットに関連付けられた、x座標、y座標およびz座標の値の組み合わせに基づいて生成され、前記ボリュームに対応する辺長値に基づいて、前記特定の部分の前記インデックス値がさらに生成される、手順と、
    前記ボリュームデータの前記特定の部分を、ハッシュテーブルのエントリ内に記憶する手順であって、前記エントリは、前記特定の部分の前記インデックス値に基づくアドレスを有する、手順と、
    プロセッサに実行させる、
    プログラム
  2. 前記x座標、前記y座標および前記z座標の前記値の前記組み合わせは、前記x座標、前記y座標および前記z座標の前記値の加重和を含み、前記x座標、前記y座標および前記z座標の1または複数が、前記辺長値に基づいて重み付けされる、請求項1に記載のプログラム
  3. 前記インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)に応じて生成され、式中、IDは前記z座標の前記値であり、IDは前記y座標の前記値であり、IDは前記x座標の前記値であり、SLは前記辺長値である、請求項2に記載のプログラム
  4. 前記ボリュームの前記x座標、前記y座標および前記z座標の各々の内部の、占有ボリュームの相対密度に基づいて、前記辺長値を使用して前記x座標、前記y座標および前記z座標に適用される重みを決定する手順をさらに前記プロセッサに実行させる、請求項2に記載のプログラム
  5. 前記ボリュームは、一組のボクセルブロックに論理的に細分化され、前記ボクセルブロックの各々は、それぞれのボクセルサブセットのサブボリュームを含み、前記特定のサブセットボクセルは、前記一組のボクセルブロックの特定の1つを含む、請求項1から4のいずれか一項に記載のプログラム
  6. 前記ハッシュテーブル内の各エントリは、前記一組のボクセルブロックのそれぞれにおける各ボクセルを記述するためのボリュームデータを含むようなサイズである、請求項5に記載のプログラム
  7. 各ボクセルブロックは、複数のボクセルを含み、前記ハッシュテーブル内の各エントリは、前記対応するボクセルが占有されているかを特定するために、前記ボクセルブロックにおけるボクセル毎に少なくとも1つのビットを含む、請求項6に記載のプログラム
  8. 前記ハッシュテーブル内の各エントリは、前記対応するボクセルブロックにおけるボクセル毎に2ビットを含むようなサイズである、請求項7に記載のプログラム
  9. 前記エントリの前記アドレスを計算する手順であって、前記ハッシュテーブル内のエントリのアドレスは、前記インデックス値の剰余に基づいて計算される、手順をさらに前記プロセッサに実行させる、請求項1から8のいずれか一項に記載のプログラム
  10. 前記ハッシュテーブル内の前記エントリで衝突があるかを検出する手順と、
    衝突が検出された場合、前記ハッシュテーブルに関連付けられた衝突管理方式を使用する手順と、
    さらに前記プロセッサに実行させる、
    請求項1から9のいずれか一項に記載のプログラム
  11. 前記ハッシュ化アルゴリズムは密度座標(DECO)ハッシュ化アルゴリズムである、請求項1から10のいずれか一項に記載のプログラム
  12. ボリューム内の特定のボクセルを特定する手順と、
    コンピュータメモリ内に記憶されたハッシュテーブルにアクセスする手順と、
    前記特定のボクセルに関連付けられた、前記ボリューム内のx座標、y座標およびz座標を決定する手順と、
    ハッシュ化アルゴリズムに応じて、かつ、前記x座標、前記y座標および前記z座標に基づいて、前記特定のボクセルに関連付けられたインデックス値を決定する手順であって、前記インデックス値は、前記ボリュームに対応する辺長値に基づく、前記x座標、前記y座標および前記z座標の加重値の総和を通じて、前記ハッシュ化アルゴリズムに応じて決定される、手順と、
    前記インデックス値に基づいてハッシュテーブル内の特定のエントリを特定する手順であって、前記特定のエントリはボリュームデータを含み、前記ボリュームデータは、前記ボリュームの特定の部分におけるボクセルの特定のサブセットについて、前記ボクセルのサブセットにおけるボクセルが占有されているかを特定し、前記ボクセルのサブセットは、前記特定のボクセルを含む、手順と、
    前記特定のエントリから、前記特定のボクセルが占有されているかを判定する手順と、
    プロセッサに実行させる、
    プログラム
  13. 前記特定のボクセルが占有されているかの判定に基づいて、前記ボリューム内でのナビゲーション動作を決定する手順をさらにプロセッサに実行させる、請求項12に記載のプログラム
  14. 前記インデックス値は、式index=(ID×(SL)+ID×(SL)+ID)に応じて決定され、式中、IDは前記z座標のであり、IDは前記y座標のであり、IDは前記x座標のであり、SLは前記辺長値である、請求項12または13に記載のプログラム
  15. 前記特定のボクセルに関連付けられた前記x座標、前記y座標および前記z座標は、前記ボリューム内のボクセルのブロックの座標を含み、前記ボクセルのブロックは、前記ボクセルのサブセットを含む、請求項12から14のいずれか一項に記載のプログラム
  16. 前記ボリュームは、複数のボクセルのブロックを含み、前記辺長値は、前記ボリューム内のボクセルのブロックの数の立方根に等しい、請求項15に記載のプログラム
  17. ボリューム内の特定のボクセルを特定する段階と、
    コンピュータメモリ内に記憶されたハッシュテーブルにアクセスする段階と、
    前記特定のボクセルに関連付けられた、前記ボリューム内のx座標、y座標およびz座標を決定する段階と、
    ハッシュ化アルゴリズムに応じて、前記特定のボクセルに関連付けられたインデックス値を決定する段階であって、前記ハッシュ化アルゴリズムに応じて前記インデックス値を決定する段階は、前記ボリュームの寸法に対応する辺長値に基づく、前記x座標、前記y座標および前記z座標の加重値を合計する段階を有する、段階と、
    前記インデックス値に基づいてハッシュテーブル内の特定のエントリを特定する段階であって、前記特定のエントリはボリュームデータを含み、前記ボリュームデータは、前記特定のボクセルについて、前記特定のボクセルが占有されているかを特定する、段階と、
    前記特定のボクセルが占有されているかに基づいて、前記ボリューム内の、デバイスの自律ナビゲーションの経路を決定する段階と、
    を備える方法。
  18. データ処理装置と、
    ハッシュテーブルを有するメモリと、
    ボリュームの少なくとも一部分の内部のジオメトリを特定するためにボリュームデータを生成するセンサと、
    ボリューム処理ロジックと、
    を備えるシステムであって、
    前記ボリューム処理ロジックは、
    前記ボリュームの特定のサブボリュームに、前記ボリュームデータの特定の部分が対応すると判定する手順と、
    前記ボリューム内の、前記特定のサブボリュームのx座標、y座標およびz座標を決定する手順であって、前記特定のサブボリュームは、一組の1または複数のボクセルを含む、手順と、
    ハッシュ化アルゴリズムに基づいて、前記ボリュームデータの前記特定の部分のインデックス値を決定する手順であって、前記インデックス値は、前記特定のサブボリュームの前記x座標、前記y座標および前記z座標の加重値の総和から決定され、前記x座標、前記y座標および前記z座標のの1または複数が、辺長変数に基づいて重み付けされる、手順と、
    前記インデックス値から、前記ハッシュテーブル内のアドレスを決定する手順と、
    前記アドレスに衝突が存在するかを判定する手順と、
    前記アドレスに衝突がないと判定されたことに基づいて、前記ボリュームデータの前記特定の部分を、前記アドレスに関連付けられた前記ハッシュテーブルのエントリに書き込まれるようにする手順と、
    を実行可能である、
    システム。
  19. 前記ボリューム処理ロジックはさらに、
    前記ボリューム内の特定のボクセルを特定する手順と、
    前記ボリュームのサブボリュームが前記特定のボクセルを含むと判定する手順と、
    前記特定のボクセルの前記サブボリュームのx座標、y座標およびz座標を特定する手順と、
    前記特定のボクセルの前記サブボリュームの前記x座標、前記y座標および前記z座標から、かつ、前記ハッシュ化アルゴリズムに基づいて、前記特定のボクセルに関連付けられたインデックス値を計算する手順と、
    前記特定のボクセルに関連付けられたボリュームデータにアクセスするために、前記特定のボクセルに関連付けられた前記インデックスに対応する、前記ハッシュテーブル内のエントリにアクセスする手順であって、前記特定のボクセルに関連付けられた前記ボリュームデータは、前記特定のボクセルがジオメトリで占有されているかを特定する、手順と、
    前記特定のボクセルがジオメトリで占有されているかに基づいて、前記ボリューム内での自律移動をトリガする手順と、
    を実行可能である、
    請求項18に記載のシステム。
  20. ドローン、ロボットまたは自律走行車両の1つを備える、請求項18または19に記載のシステム。
JP2020522337A 2017-10-16 2018-10-16 ボリュームデータの密度座標ハッシュ化 Active JP7250784B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762573089P 2017-10-16 2017-10-16
US62/573,089 2017-10-16
PCT/US2018/056164 WO2019079358A1 (en) 2017-10-16 2018-10-16 HASHING DENSITY COORDINATES FOR VOLUMETRIC DATA

Publications (2)

Publication Number Publication Date
JP2020537271A JP2020537271A (ja) 2020-12-17
JP7250784B2 true JP7250784B2 (ja) 2023-04-03

Family

ID=66173474

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020522337A Active JP7250784B2 (ja) 2017-10-16 2018-10-16 ボリュームデータの密度座標ハッシュ化

Country Status (5)

Country Link
US (1) US11532117B2 (ja)
JP (1) JP7250784B2 (ja)
CN (1) CN111727462B (ja)
DE (1) DE112018004584T5 (ja)
WO (1) WO2019079358A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11238641B2 (en) * 2019-09-27 2022-02-01 Intel Corporation Architecture for contextual memories in map representation for 3D reconstruction and navigation
US11328481B2 (en) * 2020-01-17 2022-05-10 Apple Inc. Multi-resolution voxel meshing
US11568021B2 (en) * 2020-02-21 2023-01-31 Alibaba Group Holding Limited Vector-vector multiplication techniques for processing systems
US11574447B2 (en) * 2020-08-19 2023-02-07 Htc Corporation Method for capturing real-world information into virtual environment and related head-mounted device
US11756254B2 (en) * 2020-12-08 2023-09-12 Nvidia Corporation Light importance caching using spatial hashing in real-time ray tracing applications
JP7325775B2 (ja) * 2021-07-20 2023-08-15 シリコンスタジオ株式会社 画像処理システム、方法、及びプログラム
US20230052645A1 (en) * 2021-08-02 2023-02-16 Nvidia Corporation Multiresolution hash encoding for neural networks
US20230169721A1 (en) * 2021-11-29 2023-06-01 Nvidia Corporation Consistent sampling for spatial hashing
US11878424B2 (en) * 2021-12-06 2024-01-23 Fanuc Corporation Point set interference check
CN114611164B (zh) * 2022-03-18 2022-10-11 昆山华东信息科技有限公司 一种基于大数据的信息安全管理系统
WO2023215473A1 (en) * 2022-05-05 2023-11-09 Schlumberger Technology Corporation Distributed, scalable, trace-based imaging earth model representation
CN114595486B (zh) * 2022-05-10 2022-08-05 深圳佰维存储科技股份有限公司 零数据识别方法、装置、可读存储介质及电子设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006520948A (ja) 2003-01-25 2006-09-14 パーデュー リサーチ ファンデーション 3次元オブジェクトについて検索を行なうための方法、システムおよびデータ構造

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2447494A (en) 2007-03-15 2008-09-17 Linear Algebra Technologies Lt A method and circuit for compressing data using a bitmap to identify the location of data values
GB2476800A (en) 2010-01-07 2011-07-13 Linear Algebra Technologies Ltd Sparse matrix vector multiplier using a bit map of non-zero elements to control scheduling of arithmetic operations
US9177416B2 (en) * 2010-03-22 2015-11-03 Microsoft Technology Licensing, Llc Space skipping for multi-dimensional image rendering
US8965901B2 (en) * 2011-03-01 2015-02-24 Mongodb, Inc. System and method for determining exact location results using hash encoding of multi-dimensioned data
US9864046B2 (en) * 2013-06-15 2018-01-09 Howard University Using an MM-principle to enforce a sparsity constraint on fast image data estimation from large image data sets
US9984498B2 (en) * 2013-07-17 2018-05-29 Microsoft Technology Licensing, Llc Sparse GPU voxelization for 3D surface reconstruction
US9971335B2 (en) 2014-04-11 2018-05-15 Thomas Marshall Tucker Hybrid dynamic tree data structure and accessibility mapping for computer numerical controlled machining path planning
EP3452983A4 (en) * 2016-05-04 2019-04-10 Tel HaShomer Medical Research Infrastructure and Services Ltd. METHOD AND SYSTEM FOR PROVIDING A LOCALLY CONSISTENT IMPROVEMENT OF A MINIMUM IMAGE
US11295458B2 (en) * 2016-12-01 2022-04-05 Skydio, Inc. Object tracking by an unmanned aerial vehicle using visual sensors

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006520948A (ja) 2003-01-25 2006-09-14 パーデュー リサーチ ファンデーション 3次元オブジェクトについて検索を行なうための方法、システムおよびデータ構造

Also Published As

Publication number Publication date
JP2020537271A (ja) 2020-12-17
WO2019079358A1 (en) 2019-04-25
DE112018004584T5 (de) 2020-06-04
US20210166464A1 (en) 2021-06-03
US11532117B2 (en) 2022-12-20
CN111727462B (zh) 2024-09-06
CN111727462A (zh) 2020-09-29

Similar Documents

Publication Publication Date Title
JP7250784B2 (ja) ボリュームデータの密度座標ハッシュ化
US11965743B2 (en) Operations using sparse volumetric data
JP7485482B2 (ja) コンピュータビジョンシステム
US11900256B2 (en) Deep learning system
JP2024125291A (ja) コンピュータビジョンシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230322

R150 Certificate of patent or registration of utility model

Ref document number: 7250784

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150