JP2022535800A - 物体の3d表現を生成するシステムおよび方法 - Google Patents
物体の3d表現を生成するシステムおよび方法 Download PDFInfo
- Publication number
- JP2022535800A JP2022535800A JP2021571470A JP2021571470A JP2022535800A JP 2022535800 A JP2022535800 A JP 2022535800A JP 2021571470 A JP2021571470 A JP 2021571470A JP 2021571470 A JP2021571470 A JP 2021571470A JP 2022535800 A JP2022535800 A JP 2022535800A
- Authority
- JP
- Japan
- Prior art keywords
- model template
- point cloud
- model
- template
- reconstructed image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000009826 distribution Methods 0.000 claims description 12
- 239000013598 vector Substances 0.000 claims description 10
- 238000000513 principal component analysis Methods 0.000 claims description 6
- 238000007670 refining Methods 0.000 claims description 6
- 238000013519 translation Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 description 43
- 210000002683 foot Anatomy 0.000 description 17
- 230000006870 function Effects 0.000 description 12
- 238000006073 displacement reaction Methods 0.000 description 7
- 238000013459 approach Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000006855 networking Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000011960 computer-aided design Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 241000473391 Archosargus rhomboidalis Species 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000037213 diet Effects 0.000 description 1
- 235000005911 diet Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 210000000245 forearm Anatomy 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000004513 sizing Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
- 210000003371 toe Anatomy 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B33—ADDITIVE MANUFACTURING TECHNOLOGY
- B33Y—ADDITIVE MANUFACTURING, i.e. MANUFACTURING OF THREE-DIMENSIONAL [3-D] OBJECTS BY ADDITIVE DEPOSITION, ADDITIVE AGGLOMERATION OR ADDITIVE LAYERING, e.g. BY 3-D PRINTING, STEREOLITHOGRAPHY OR SELECTIVE LASER SINTERING
- B33Y50/00—Data acquisition or data processing for additive manufacturing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/56—Particle system, point based geometry or rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2004—Aligning objects, relative positioning of parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2016—Rotation, translation, scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2021—Shape modification
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Architecture (AREA)
- Chemical & Material Sciences (AREA)
- Manufacturing & Machinery (AREA)
- Materials Engineering (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
本発明のシステム、構造および方法は、物体の3次元(3D)表現を生成することに関する。該方法は、物体の3D点群再構成画像にアクセスするステップと、物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスするステップと、幾何学的空間において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップと、3Dモデルテンプレートのスケールを調整するステップと、3Dモデルテンプレートの表面に局所的な変形を適用するステップと、を含む。【選択図】図6
Description
[関連出願の相互参照]
本発明は、2019年12月20日に出願された「SYSTEM AND METHOD OF GENERATING A 3D REPRESENTATION OF AN OBJECT」と題された米国特許仮出願第62/952,193号の優先権を主張し、また、2019年5月31日に出願された「SYSTEM AND METHOD OF GENERATING A 3D REPRESENTATION OF AN OBJECT」と題された米国特許仮出願第62/855,451号の優先権を主張する。その両方の全文は、そのような組み込みを許容する管轄区域において、参照により本出願に組み込まれる。
本発明は、2019年12月20日に出願された「SYSTEM AND METHOD OF GENERATING A 3D REPRESENTATION OF AN OBJECT」と題された米国特許仮出願第62/952,193号の優先権を主張し、また、2019年5月31日に出願された「SYSTEM AND METHOD OF GENERATING A 3D REPRESENTATION OF AN OBJECT」と題された米国特許仮出願第62/855,451号の優先権を主張する。その両方の全文は、そのような組み込みを許容する管轄区域において、参照により本出願に組み込まれる。
本技術は、物体の3D表現を生成するシステムおよび方法に関する。
3次元(「3D」)デジタルデータは、3次元スキャンやサンプリングおよび/または数値モデリングなどを行う様々な装置によって生成され得る。一例として、3Dレーザスキャナが3Dデジタルデータを生成する。長距離レーザスキャナは、特定の場所に固定され、回転して周囲の物体をスキャンする。代替的に、短距離レーザスキャナは、物体の周りを移動しながらスキャンする装置に取り付けられる。いずれの場合も、スキャナと物体とがなす角度と、スキャナから物体までの距離が分かっているので、スキャンされた各点の位置は、極座標で表される。この極座標は、3Dデカルト座標に変換され、スキャナが収集したデータ点に対応する強度や色の値と共に保存される。
3Dデジタルデータを生成するための他の例として、DEPTH(深さ)カメラや3Dスキャナを使用し、物体の形状を表す(x,y,z)位置の完全な点のセットを収集して3Dデジタルデータを生成することが挙げられる。収集された点のセット(3D点群とも呼ぶ)は画像レンダリングシステムに送られ、レンダリングシステムは点のデータを処理して、物体の3D表現を生成する。
3D点群を捕捉し、物体の3D表現を生成する一般的なシステムおよび方法は、特殊で煩雑且つ高価なハードウェア機器を必要とする。そのため、3D点群から3D表現を生成する、コスト効率の良いシステムおよび方法の開発が求められている。
本技術の実施形態は、先行技術の解決策に関連する少なくとも1つの技術的問題を開発者が認識した上で開発された。
例えば、先行技術では、3D点群を生成し、その3D点群から物体の3D表現を生成する技術が提案されている。しかしながら、このような技術は、3Dレーザスキャナなどの特殊で煩雑且つ高価なハードウェア機器を必要とする。また、3D点群から物体の3D表現を効率的に生成することは、まだ懸念事項となっている。
本技術を開発するにあたり、開発者は、カメラを搭載したモバイル機器(例えばアップル社によるiPhone(登録商標)やサムスン社によるGalaxy(登録商標)など)などの特殊でないハードウェアを使用して、3D点群再構成画像の取得を行うことができることに着目した。この3D点群再構成画像を3Dモデルテンプレートと組み合わせて使用することで、物体の3D表現を生成することができる。
本技術の第1の態様によれば、物体の3次元(3D)表現を生成する方法が提供される。該方法は、物体の3D点群再構成画像にアクセスするステップと、物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスするステップと、幾何学的空間において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップと、3Dモデルテンプレートのスケールを調整するステップと、3Dモデルテンプレートの表面に局所的な変形を適用するステップと、を含む。
本方法の一部の実施形態において、物体の3D点群再構成画像にアクセスするステップは、ノイズ除去ルーチンを適用するステップを含む。
本方法の一部の実施形態において、3Dモデルテンプレートにアクセスするステップは、選択ルーチンに従って実行される。
本方法の一部の実施形態において、3Dモデルテンプレートは、3Dメッシュモデルである。
本方法の一部の実施形態において、幾何学的空間は、デカルト座標系および/または円筒座標系および/または球面座標系に関連付けられる。
本方法の一部の実施形態において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップは、回転および/または並進を適用するステップを含む。
本方法の一部の実施形態において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップは、(i)3Dモデルテンプレートに関連する第1の重心と、3D点群再構成画像に関連する第2の重心とを並進させて位置合わせするステップと、(ii)3Dモデルテンプレートと3D点群再構成画像との間の最小距離、主成分分析、および/または2D投影の位置合わせのうちの少なくとも1つに基づいて、3D点群再構成画像に対して3Dモデルテンプレートを回転させて位置合わせするステップと、を含む。
本方法の一部の実施形態において、主成分分析に基づいて、3D点群再構成画像に対して3Dモデルテンプレートを回転させて位置合わせするステップは、3Dモデルテンプレートの3つの主軸を識別して、3つの主軸と3D点群再構成画像の軸とを位置合わせするステップを含む。
本方法の一部の実施形態において、2D投影の位置合わせに基づいて、3D点群再構成画像に対して3Dモデルテンプレートを回転させて位置合わせするステップは、異なる視点の組み合わせで3Dモデルテンプレートから2Dピクチャを算出し、視点に合わせるように2Dピクチャを一致させるステップを含む。
本方法の一部の実施形態において、3Dモデルのスケールを調整するステップは、反復最接近点(ICP:iterative closest point)アルゴリズムを実行するステップを含む。
本方法の一部の実施形態において、3Dモデルのスケールを調整するステップは、反復的に実行され、(1)3Dモデルテンプレートのスケールを修正するステップ、(2)3Dモデルテンプレートに対する回転を適用/精密化するステップ、および/または(3)3Dモデルテンプレートに対する並進を適用/精密化するステップのうちの1つと、3Dモデルテンプレートと3D点群再構成画像との間の距離を計算するステップと、を含み、計算された最小距離に基づいて、反復が停止する。
本方法の一部の実施形態において、3Dモデルテンプレートの表面に局所的な変形を適用するステップは、3Dモデルテンプレートの少なくともいくつかの点について、3Dモデルテンプレートの少なくともいくつかの点のそれぞれから延在する法線軸を決定するステップと、3Dモデルテンプレートの少なくともいくつかの点を、算出した振幅の対応する法線軸に沿って変位させるステップと、を含み、変位のステップは、3Dモデルテンプレートの少なくともいくつかの点の半径内に位置する隣接する点を変位させるステップを含む。
本方法の一部の実施形態において、算出した振幅は、3Dモデルテンプレートの少なくともいくつかの点に対する正規化した法線ベクトルと、3Dモデルテンプレート内の変位される点と3D点群再構成画像内の幾何中心とを結ぶベクトルと、のスカラー積に基づいている。
一部の実施形態において、該方法は、少なくとも2つの物体の少なくとも2つの3D表現を生成するステップと、少なくとも2つの3D表現を組み合わせるステップと、をさらに含む。
一部の実施形態において、該方法は、低品質の変形を識別するステップと、補正する部分を選択するステップと、その部分を補正するステップと、をさらに含む。
本方法の一部の実施形態において、品質関数を操作することにより、低品質の変形が識別される。
本方法の一部の実施形態において、補正する部分を選択するステップは、3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の距離分布および/または角度分布に基づいている。
本方法の一部の実施形態において、3Dモデルテンプレートの表面に局所的な変形を適用するステップは、局所的な変形の品質レベルを算出するステップと、算出した品質レベルに基づいて局所的な変形を補正するステップと、を含む。
本方法の一部の実施形態において、算出した品質レベルに基づいて局所的な変形を補正するステップは、算出した品質レベルが閾値を下回る場合に局所的な変形を補正するステップをさらに含む。
本技術の第2の態様によれば、物体の3次元(3D)表現を生成するためのシステムが提供される。該システムは、プロセッサと、命令を含む非一時的なコンピュータ可読媒体と、を備える。プロセッサは、命令が実行されると、物体の3D点群再構成画像にアクセスし、物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスし、幾何学的空間において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせし、3Dモデルテンプレートのスケールを調整し、3Dモデルテンプレートの表面に局所的な変形を適用するように、構成される。
本技術の上記およびその他の特徴、側面および利点は、以下の説明、添付の特許請求の範囲および添付の図面を参照してよりよく理解できるであろう。
物体の3D表現を生成する方法を実行するための例示的な環境を示す図である。
物体の3D表現の例示的な実施形態を示す図である。
3D点群再構成画像の例示的な実施形態を示す図である。
3D点群再構成画像の例示的な実施形態を示す図である。
3Dモデルテンプレートの例示的な実施形態を示す図である。
本技術の非限定的な実施形態に従って実施される方法を示す図である。
本技術の実施形態による、初期位置合わせの例を示す図である。
本技術の実施形態による、代替的な位置合わせルーチンの例を示す図である。
本技術の実施形態による、3Dモデルテンプレートのスケール調整の一例を示す図である。
本技術の実施形態による、様々なスケール値に関する計算された最小距離の進化を示す図である。
本技術の実施形態による、3D点群再構成画像の2つの例を示す図である。
本技術の実施形態による、3Dモデルテンプレートからの頂点と、3D点群再構成画像からの点とを示す図である。
本技術の実施形態による、「ベル型」関数と頂点との変位の状況を示す図である。
本技術の実施形態による、モーフィング前後の第1の3Dモデルテンプレートを示す図である。
本技術の実施形態による、モーフィング前後の第2の3Dモデルテンプレートを示す図である。
本技術を適用するための内容の別の例を示す図である。
本技術の実施形態による、3D点群再構成画像と、3D点群再構成画像から生成された3D表現とを示す図である。
本技術の実施形態による、補正される部分を識別するための品質対策を示す図である。
本技術の実施形態による、補正される部分と補正後の部分を識別するためのステップの実施形態を示す図である。
本技術の非限定的な実施形態に従って実施される方法の追加ステップを示す図である。
以下、例示的な実施形態を示す添付の図面を参照して、本明細書に記載の様々な例示的な実施形態を完全に説明する。しかしながら、本発明の概念は、多くの異なる形態で具現化することができ、本明細書に記載の例示的な実施形態に限定して解釈されるべきではない。むしろ、これらの例示的な実施形態は、本発明が徹底的且つ完全なものとなり、本発明の概念の範囲を当業者に十分に伝えることができるように提供される。図において、層および領域の大きさおよび相対的な大きさは、明確にするために誇張されている場合がある。同様の参照符号は、全体として同様の要素を指す。
本明細書では、様々な要素を説明するために第1、第2および第3などの用語を使用する場合があるが、これらの要素は、これらの用語によって限定されるものではないことに留意されたい。これらの用語は、1つの要素を他の要素から区別するために使用される。したがって、以下で説明する第1の要素は、本発明の概念の教示から逸脱することなく、第2の要素と呼ぶことができる。本明細書で使用される「および/または」という用語は、関連する項目の1つまたは複数の任意およびすべての組み合わせを含む。
1つの要素が他の要素に「接続」または「結合」されていると記載されている場合、その要素が他の要素と直接接続または結合されていてもよく、介在する要素が存在していてもよいことが理解されるであろう。一方、1つの要素が他の要素と「直接接続」または「直接結合」されていると記載されている場合、介在する要素が存在しないことを意味する。要素の関係を表すために使用される他の用語も同様に解釈される(例えば「~の間」対「直接~の間」、「隣接する」対「直接隣接する」など)。
本明細書で使用される用語は、特定の例示的な実施形態を説明することのみを意図しており、本発明の概念を限定することを意図していない。本明細書で使用される単数形の「a」「an」および「the」は、文脈が明らかにそうでないことを示さない限り、複数形も含むことが意図されている。さらに、本明細書で使用される「備える(comprises、comprising)」という用語は、記載された特徴、整数、ステップ、操作、要素、および/または構成要素の存在を特定することができるが、1つまたは複数の他の特徴、整数、ステップ、操作、要素、構成要素、および/またはそれらの群の存在または追加を排除しない。
また、本明細書では、本技術の原理、側面、実装およびその具体例について記載されているが、既知のものであるか将来開発されるものであるかにかかわらず、その構造的および機能的等価物の両方を包含することを意図している。例えば、本明細書に記載のブロック図は、本技術の原理を具現化した例示的な回路の概念図を表していることが、当業者には理解できるであろう。同様に、任意のフローチャート、フロー図、状態遷移図、疑似コードなどは、そのようなコンピュータまたはプロセッサが明示的に示されているか否かにかかわらず、コンピュータ可読媒体に実質的に表され、コンピュータまたはプロセッサによって実行され得る様々なプロセスを表していることが理解されるであろう。
図に示す様々な要素の機能は、「プロセッサ」と記載された機能ブロックを含め、専用のハードウェアや、適切なソフトウェアと関連してソフトウェアを実行できるハードウェアを使用して提供される場合がある。プロセッサによって提供される場合、その機能は、単一の専用プロセッサ、単一の共有プロセッサ、または複数の個別のプロセッサ(そのうちのいくつかは共有されてもよい)によって提供されてもよい。本技術の一部の実施形態において、プロセッサは、中央処理装置(CPU)などの汎用プロセッサであってもよく、デジタル信号プロセッサ(DSP)などの特定の目的に特化したプロセッサであってもよい。また、「プロセッサ」という用語の明示的な使用は、ソフトウェアを実行できるハードウェアのみを指すと解釈すべきではなく、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、ソフトウェアを格納するためのリードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、および不揮発性ストレージを含んでいてもよい。また、従来型および/またはカスタムの他のハードウェアも含まれる。
ソフトウェアモジュール、または単にソフトウェアであるとみなされるモジュールは、フローチャート要素またはプロセスステップのパフォーマンスを示す他の要素および/またはテキスト記述の任意の組み合わせとして、本明細書で表現することができる。このようなモジュールは、明示的または暗示的に示されたハードウェアによって実行されてもよい。また、モジュールには、例えば、コンピュータプログラムロジック、コンピュータプログラム命令、ソフトウェア、スタック、ファームウェア、ハードウェア回路または必要な機能を提供するそれらの組み合わせが含まれるが、これらに限定されるものではない。
本技術の文脈において、「物体の3D表現」とは、物体の3Dジオメトリを示すデジタルファイルまたはデジタルファイル群の形態をした、その物体のデジタル3Dモデルを意味する。物体の3Dジオメトリの説明は、3D空間上の点の集まり(以下、「頂点」と呼ぶ)で表現され、それらの頂点は、三角形や線、平面や曲面などの様々なジオメトリエンティティによって接続されているかどうかで示される。3Dモデルは、手動、アルゴリズムまたはスキャンによって作製され得る。色、テクスチャ、材料、シェーダーなど、モデルの3D表現に関連するその他の情報は、物体のジオメトリを示す主要ファイルに関連する補完的なファイルに保存することができる。これが、3Dモデルが「ファイル群」で構成される理由である。典型的には、木製の側面は、ジオメトリにリンクされる木製のテクスチャの別の画像によって提供される。本発明では、スキャンされた3Dモデルと手作りされた3Dモデルの両方を使用する。それらのデジタルファイルのフォーマットは、数多くあるが、本発明は、最も一般的なものに対応する。物体の3D表現の例として、図2に示す人間の足の3D表現202および204が挙げられる。
本技術の文脈において、「3D点群再構成画像」とは、頂点が必ずしも互いにつながっていない、物体の単純な3D表現を意味する場合がある。頂点が互いにつながっていない場合、このような表現に含まれる情報は、各頂点の座標(例えばデカルト座標系の場合はx,y,z)とその色(例えばr,g,b)のみである。3D点群再構成画像は、3Dスキャンの結果として使用されることが多く、それらのファイルの非常に一般的なフォーマットは、PFY(Polygon File Format)である。典型的には、3D点群再構成画像は、単純な3D表現であり、通常は粗く、物体の現実的な表現ではなく、位置と色以外に互いに関係のない3D点の集合体であるため、ユーザが直接使用することはほとんどない。3D点群再構成画像の第1の例として、図3に示す人間の足の3D点群再構成画像302が挙げられる。3D点群再構成画像の第2の例として、図4に示す人間の足の3D点群再構成画像402が挙げられる。
本技術の文脈において、「3Dモデルテンプレート」とは、頂点がつながって面を形成し、3D物体の全体および完全な表面を構築する、物体の複雑な3D表現を意味する。そのため、これは、典型的にはリアルでカスタマイズ可能である。本発明では、複雑な3Dモデルの表現を、同じ物体の単純な3D表現(3D「点群」)に合わせて修正することができる本技術の態様をよりよく示すために、これを「3Dモデルテンプレート」と呼ぶ。実際、点群は、複雑な3Dモデルよりも、(スキャナや写真を使って)実際の物体と関連した方が容易に作製することができる。本技術の側面は、すべてのパラメータを使用して、現実(点群)に適合するように複雑な3Dモデルを変形(3Dモーフィング)させることに関する。本技術の一部の実施形態において、「3Dモデルテンプレート」は、物体または物体のクラスの一般的なバージョンを定義するため、「テンプレート」を参照する。非限定的な例として、3Dモデルテンプレートは、一般的な人間の足、一般的な体の一部、一般的な体、または一般的な機械の部品または構成要素であってもよい。3Dモデルテンプレートの一例として、図5に示す人間の足の3Dモデルテンプレート502が挙げられる。
本発明は、専用の医療用スキャナなどの特殊な機器を必要とすることなく、効率的且つ容易に3D再構成画像を生成することを目的とする、人間の足の3D再構成画像に着目した技術の実施形態を示す。その結果、カメラを搭載したモバイル機器(例えばアップル社によるiPhone(登録商標)やサムスン社によるGalaxy(登録商標))などの特殊でないハードウェアを使用して、3D点群再構成画像の取得を行うことができる。3D点群再構成画像を3Dモデルテンプレートと組み合わせて使用して、本技術による3D表現を生成することができる。
したがって、本技術は、特殊で煩雑且つ高価なハードウェア機器を必要とする、物体の正確な3D表現を生成することに関する問題に対して、コスト効率の高いアプローチを提供することができる。本技術は、例えば、人間の足の正確な3D表現を生成するのに適しており、これを装具などのカスタマイズされた医療機器の製造に使用することができるが、これに限定されるものではない。
3D点群再構成画像や3Dモデルから信頼性の高い人間の足の3D表現を生成するという内容で本技術を紹介するが、この側面は、これに限定的なものではないことに留意されたい。むしろ、本技術は、あらゆる物体の3D表現を生成するために適用されてもよい。非限定的な一例として、本技術は、完全な体、または1つまたは複数の体の一部の3D表現の生成に適用されてもよい。このような体、または1つまたは複数の体の一部の3D表現は、身体状態の評価、身体的訓練のための提案および/または1つまたは複数の体の一部の3D表現から推定される身体状態に基づく食事療法の提案など、様々な用途に使用されてもよいが、これらに限定されるものではない。
別の非限定的な一例として、本技術は、例えば、機械の部品および/または構成要素(例えば航空機の部品、エンジンの部品など)の3D表現を生成する際に、写真や動画像列から機械の部品の3D表現を生成するために適用されてもよい。このような3D表現は、生成された後に、コンピュータ支援設計(CAD)データベースなどの3D物体のデータベースに追加されるかそれを完成させるために使用されてもよい。また、本技術の範囲から逸脱することなく、物体や用途の他のバリエーションも想定される。
これらの基礎知識を踏まえた上で、いくつかの非限定的な例を検討して、本技術の態様の様々な実施例を説明する。
図1は、本技術の実施形態によるコンピューティング環境100を示す図である。一部の実施形態において、コンピューティング環境100は、従来のパーソナルコンピュータ、物体の3D表現の生成を操作する専用のコンピュータ、リモートサーバおよび/または電子機器(モバイル機器、タブレット端末、サーバ、コントローラユニット、制御装置、監視装置などを含むがこれらに限定されない)、および/または関連タスクに適切なこれらの組み合わせのいずれかによって実現されてもよい。一部の実施形態において、コンピューティング環境100は、プロセッサ110で総称される1つまたは複数のシングルコアまたはマルチコアプロセッサ、ソリッドステートドライブ120、ランダムアクセスメモリ130、カメラ132および入出力インタフェース150を含む様々なハードウェア要素を備える。コンピューティング環境100は、物体の3D表現の生成を操作するために特別に設計されたコンピュータであってもよい。一部の代替的な実施形態において、コンピューティング環境100は、一般的なコンピュータシステムであってもよい。
一部の実施形態において、コンピューティング環境100は、上述したシステムのうちの1つのサブシステムであってもよい。他の一部の実施形態において、コンピューティング環境100は、「既製」の一般的なコンピュータシステムであってもよい。また、一部の実施形態において、コンピューティング環境100は、複数のシステム間で分布されてもよい。一部の実施形態において、コンピューティング環境100は、「クラウド」で仮想化される。これにより、本技術の実装を実行するための実際のニーズに応じて、処理能力および/またはメモリ容量を拡大または縮小することができる。また、コンピューティング環境100は、本技術の実装に特化していてもよい。本技術の当業者であれば理解できるように、コンピューティング環境100がどのように実装されるかについては、本技術の範囲から逸脱することなく、複数のバリエーションを想定することができる。
コンピューティング環境100の様々な構成要素間の通信は、様々なハードウェア要素が電気的に結合される1つまたは複数の内部および/または外部バス160(例えばPCIバス、ユニバーサルシリアルバス、IEEE1394「Firewire」バス、SCSIバス、シリアルATAバス、ARINCバスなど)によって実現されてもよい。
入出力インタフェース150は、有線または無線アクセスなどのネットワーク機能を有効にする機能を有してもよい。一例として、入出力インタフェース150は、ネットワークポート、ネットワークソケット、またはネットワークインタフェースコントローラなどを含むがこれらに限定されないネットワーキングインタフェースを備えてもよい。ネットワーキングインタフェースがどのように実装されるかの複数の例が、本技術の当業者には明らかになるであろう。例えば、ネットワーキングインタフェースは、イーサネット、ファイバーチャネル、Wi-Fiまたはトークンリングなどの特定の物理層およびデータリンク層の規格を実装してもよいが、これに限定されるものではない。特定の物理層およびデータリンク層は、完全なネットワークのベースを提供してもよい。これにより、同じローカルエリアネットワーク(LAN)上のコンピュータの小グループ間の通信や、インターネットプロトコル(IP)などのルーティング可能なプロトコルによる大規模なネットワーク通信が可能になる。
本技術の実装によれば、ソリッドステートドライブ120は、物体の3D表現の生成を実行するために、ランダムアクセスメモリ130にロードされ、プロセッサ110によって実行されるのに適したプログラム命令を格納する。例えば、プログラム命令は、ライブラリまたはアプリケーションの一部であってもよい。
ここで、図6および図7~図15を同時に参照して、物体の3D表現の生成に関連して使用されるシステムおよびコンピュータで実現される方法のいくつかの非限定的な実施例を説明する。具体的には、図6は、本技術の実施形態を実現する、コンピュータで実現される方法600を示すフローチャートである。図6に示すコンピュータで実現される方法は、図1に示すコンピューティング環境100を含むコンピューティング環境のプロセッサによって実行可能な方法を含んでいてもよい。該方法は、コンピューティング環境によって実施される一連のステップを含む。
図6に示すコンピュータで実現される方法は、例えば、ランダムアクセスメモリにロードされたプログラム命令を実行するプロセッサによって実施されてもよい。
ステップ602において、方法600は、物体の3D点群再構成画像にアクセスするステップから開始する。なお、物体の3D点群再構成画像は、本技術の当業者には明らかである様々な方法論によって以前に取得された物体の1つまたは複数の3D点群再構成画像を格納するメモリからアクセスされてもよい。一部の実施形態において、物体の3D点群再構成画像は、物体を示す、且つ方法600が実行される装置のカメラ(例えば、装置100のカメラ132)を介して捕捉された画像または動画像列から生成されてもよい。画像または動画像列は、モバイル機器に組み込まれたカメラによって取得されてもよい。このような場合、画像または動画像列は、生の画像または動画像列から点群を生成することを可能にする1つまたは複数の後処理方法を受けてもよい。一部の実施形態において、3D点群再構成画像は、ノイズ除去ルーチンを受けてもよい。これにより、3D点群再構成画像を定義する点の精度を向上させることができ、および/または物体自体とは関係のない点の数を減らすことができる。本発明の文脈で使用される物体は、人間の足である。上述したように、この側面に限定するものではなく、本技術は、他の物体(例えば体の一部、体、機械の部品または構成要素など)にも同様に適用可能である。
ステップ604において、方法600は、物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスするステップに進む。一部の実施形態において、3Dモデルテンプレートは、3Dモデルのデータベースからアクセスされてもよい。選択ルーチンを適用して、3D再構成画像が生成される特定の内容に最も適していると考えられる1つまたは複数の3Dモデルを選択してもよい。図に示す実施例において、3Dモデルは、例えば図5に示す3Dモデル502のような、人間の足の高解像度3Dメッシュモデルである。一部の実施形態において、選択ルーチンは、ステップ602においてアクセスされた3D点群再構成画像の分析に基づいて、内容を決定してもよい。他のアプローチも同様に想定され得る。
一部の実施形態において、3Dメッシュモデルである3Dモデルテンプレートを、3D点群モデルとして使用してもよい。一部の実施形態において、3D点群モデルは、3Dメッシュモデルから作製されてもよい。
ステップ606において、方法600は、幾何学的空間において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップに進む。一部の実施形態において、幾何学的空間は、デカルト座標系および/または円筒座標系および/または球面座標系に関連付けられる。一部の実施形態において、3D点群再構成画像に対して3Dモデルテンプレートを位置合わせするステップは、並進および/または回転を適用するステップを含む。並進は、3Dモデルテンプレートに関連する第1の重心と、3D点群再構成画像に関連する第2の重心とを並進させて位置合わせするステップを含んでもよい。回転は、3Dモデルテンプレートと3D点群再構成画像との間の最小距離に基づいて、3D点群再構成画像に対して3Dモデルテンプレートを回転させて位置合わせするステップを含んでもよい。一部の実施形態において、回転位置合わせは、最良の初期回転位置合わせが実行されるまで、別々にまたは共に適用されるいくつかのアプローチの組み合わせであってもよい。
このような位置合わせアプローチにおける第1の実施例は、主成分分析(PCA)に基づく方法であってもよい。このような方法によって、他のパラメータと共に3Dモデルの3つの主軸が識別されてもよい。これにより、例えば、最小距離の方法を用いて、その3つの主軸と3D点群再構成画像の軸とを位置合わせすることができる。各距離は、位置合わせした軸の各組み合わせについて算出され、最も短い距離が正しい位置合わせとなる場合がある。図7は、3Dモデル712と3D点群再構成画像714とが正しく位置合わせされていない、誤った初期位置710にある第1の実施例を示す。また、図7は、3Dモデル722と3D点群再構成画像724とが正しく位置合わせされている、正しい初期位置720にある第2の実施例を示す。
このような位置合わせアプローチにおける第2の実施例は、2Dマスクの投影における位置合わせに基づく方法であってもよい。このような方法は、異なる視点の組み合わせで3Dモデルから2Dピクチャを算出し、視点に合わせるようにそのピクチャを一致させるステップを含んでもよい。これにより、3Dモデルの3つの軸と、3D点群再構成画像の3つの軸との位置関係を決定することができる。図8は、画像810および812を同様の視点から見て、画像812および814を異なる視点から見た(すなわち一致していない)例を示す。
ステップ608において、方法600は、3Dモデルテンプレートのスケールを調整するステップに進む。一部の実施形態において、3Dモデルを調整するステップは、反復最接近点(ICP:iterative closest point)アルゴリズムを実行するステップを含む。一部の実施形態において、調整のステップは、サブステップ610および612を反復的に実行するステップを含む。一部の実施形態において、サブステップ610は、3Dモデルテンプレートのスケールを修正するステップ、3Dモデルテンプレートに対する回転を適用/精密化するステップ、および/または3Dモデルテンプレートに対する並進を適用/精密化するステップを含む。一部の実施形態において、サブステップ612は、3Dモデルテンプレートと3D点群再構成画像との間の距離を計算するステップを含む。一部の実施形態において、計算された距離は、最接近点、および点から法線までの距離のいずれかであってもよい。
一部の実施形態において、サブステップ610および612の反復の停止(および最良の初期位置の判明)は、ステップ614において計算された最小距離に基づいて決定される。
図9は、ステップ608に従った、3Dモデルテンプレートのスケール調整の一例を示す。図に示す実施例において、第1の表現910は、第1のスケールに関連付けられ、且つ3D点群再構成画像914と位置合わせされた3Dモデル912を示す。第2の表現920は、第2のスケールに関連付けられ、且つ3D点群再構成画像924と位置合わせされた3Dモデル922を示す。第2の表現920が示すように、3Dモデル922は、適切な(または最良の)スケール値が見出されるように、拡大して示されている。図10は、様々なスケール値に関する計算された最小距離の進化を示す。図10において、適切なスケール値は、3Dモデルと3D点群再構成画像との間の最小距離(すなわち、曲線上の点1002)に関連するものであると判断される。
撮影されている場所でメートル法の基準をもつ以外に、絶対的なメートル法を計算する別の方法として、装置210がジャイロスコープと加速度計を具備する場合は、それらを使用することができることに留意されたい。現在、ほとんどの携帯機器に組み込まれている加速度計および/またはジャイロスコープによって提供される複合データを使用すれば、2Dピクチャ内の測定情報がなくても、3次元で再構成された物体の大きさと測定値(2次元および/または3次元)を十分な精度で計算することができる。絶対的な2次元の寸法は、5%未満の誤差の精度で提供され得る。これは、ユーザの視点から見ても使いやすいものである。3次元の体積は、2次元の1つの測定情報(長さ、高さ、奥行き、および/または幅など)のみで計算することができる。
ステップ616において、方法600は、3Dモデルテンプレートの表面に局所的な変形を適用するステップに進む。一部の実施形態において、ステップ616は、サブステップ618および620を含む。ステップ618は、3Dモデルテンプレートの少なくともいくつかの点について、3Dモデルテンプレートの少なくともいくつかの点のそれぞれから延在する法線軸を決定するステップを含む。図11は、3D点群再構成画像1102および1104の2つの例を示す。3D点群再構成画像1104では、点から突出する法線が示されている。
ステップ620は、算出した振幅の対応する法線軸に沿って、3Dモデルテンプレートの少なくともいくつかの点(「頂点」とも呼ぶ)を変位させるステップを含む。一部の実施形態において、変位のステップは、3Dモデルテンプレートの少なくともいくつかの点の半径内に位置する隣接する点を変位させるステップをさらに含む。図12は、3Dモデルテンプレートからの頂点1202と、3D点群再構成画像からの点1204と、を示す。一部の実施形態において、3Dモデルテンプレートの各頂点について、再構成されたモデルにおける「複数の」最接近点1206の集合体が決定される。一部の実施形態において、「複数の」最接近点は、3Dモデルの解像度に基づいている。一部の実施形態において、「複数の」最接近点は、3D点群再構成画像における、法線ベクトル1214の周りの制限された周辺区域1206内で選択されてもよい。一部の実施形態において、「複数の」頂点の幾何中心1210は、3次元で算出される。一部の実施形態において、3Dモデルテンプレートの少なくともいくつかの点と、隣接する点との変位の振幅は、正規化した法線ベクトル(長さ=1)と、3Dモデルテンプレートで変位される頂点と3D点群再構成画像における幾何中心1210とを結ぶベクトルとのスカラー積に基づいて、次式に従って計算される:法線ベクトルの長さ×点から幾何中心までのベクトルの長さ×cos(2つのベクトルがなす角度)。
θ1212は、法線と幾何中心1210とがなす角度を定義する。この角度の値は、制約のないものであってもよく、制約のあるものであってもよい。一例として、頂点1202における点の最終的な変位は、参照符号1208で示されている。
一部の実施形態において、3Dモデルテンプレートの少なくともいくつかの点の変位は、「ベル型」関数に従ってその近傍に影響を与える。これにより、3Dモデルテンプレートの全体的な変位は、3D形状の滑らかさを保持することができる。図13は、1302の「ベル型」関数と、頂点の変位の状況1304および1306とを示す。
図14は、方法600に従ってモーフィングされる前の、第1のバージョンにおける第1の3Dモデルテンプレート1402の第1の実施例を示す。また、図14は、方法600に従ってモーフィングされた後で、3D点群の表現によって捕捉された足の第1の3D表現を定義する、第2のバージョンにおける第1の3Dモデルテンプレート1404を示す。
図15は、方法600に従ってモーフィングされる前の、第1のバージョンにおける第2の3Dモデルテンプレート1502の第2の実施例を示す。また、図15は、方法600に従ってモーフィングされた後で、3D点群の表現によって捕捉された足の第2の3D表現を定義する、第2のバージョンにおける第2の3Dモデルテンプレート1504を示す。
ここで、図16を参照すると、方法600が適用される別の実施例が示されている。本実施例において、方法600は、体のサイジングのために実行される。このような状況において、図16に示す体1602は、幾何学的なグラフを介して互いに接続された剛体の集合体として考えられてもよい。方法600は、体を定義する剛体のそれぞれに適用されてもよく、その後、剛体がそれぞれ組み合わされて完全な体の3D表現を生成してもよい。一部の実施形態において、固定された剛体の集合体を、剛体とみなしてもよい。例えば、肩から指までを含む腕全体は、動かない限り、剛体とみなすことができる。動く場合は、腕の各部分(腕、前腕、手、指)を別々の剛体とみなし、体の3D表現を形成するために再構築する必要がある。
ここで、図17を参照すると、足を表す3D点群再構成画像1702と、方法600を適用して3D点群再構成画像1702から生成された足の3D表現1704とが示されている。なお、3D点群再構成画像1702は、足の甲に再構成の欠陥を含む。図に示す実施例において、足の甲が欠けている。物体のこのような不完全な3D点群再構成画像は、様々な原因によって生じる場合がある。一例として、3D点群取得ステップ中に物体の一部がアクセスできなかった場合(例えば、足の甲がスキャンできなかった場合や、ねじの一部が組立体内に位置する場合など)が挙げられるが、これに限定されるものではない。別の例として、物体の3D点群再構成画像内の欠陥は、3D点群再構成画像を再構成する処理が適切に実行されなかったことから生じる場合がある。3D点群再構成画像1702のような不完全な3D点群再構成画像は、頂点分布が完全且つ高密度で均一である、図4に示す3D点群再構成画像402のような「完全な」3D点群再構成画像とは対照的である。
足の3D表現1704は、足の少なくとも一部(すなわち、図に示す例では、足の指や甲)が適切に再構成されていないという点で、3D点群再構成画像1702の「品質の悪さ」を反映している。
図19および図20を参照すると、不完全な3D点群再構成画像の処理に対する補正作業を実現するステップ622~626の実施形態が模式的に示されている。一部の実施形態において、ステップ622~626は、方法600の一部であってもよい。一部の実施形態において、ステップ622~626は、ステップ620の後に実行されてもよい。
ステップ622は、3D表現の低品質の変形を識別するステップを含む。3D表現は、例えば3D点群表現1802のような不完全な3D点群表現に基づいて、ステップ602~620に従って生成されたものであり得る。3D表現の低品質の変形は、品質関数を操作することで識別されてもよい。一部の実施形態において、品質関数は、3Dモデルテンプレートとの比較を実施する。なお、元の3Dモデルテンプレート(すなわち、まだ変形を受けていない3Dモデルテンプレート)と、変形した3Dモデルテンプレート(すなわち、3Dモデルテンプレートから生成された3D表現)とは、頂点および面が類似した構造を有することに留意されたい。したがって、元の3Dモデルテンプレートの要素と、変形した3Dモデルテンプレートの要素との間の対応関係を確立することができる。例えば、これらの頂点、面および/または法線の間の対応関係を確立することができるが、これに限定されるものではない。一部の実施形態において、要素は、それぞれ識別子(例えば、番号)と関連付けられる。これにより、要素間の対応関係を容易に追跡することができる。
一部の実施形態において、ステップ622における品質関数は、2つの基準、すなわち、2つの対応する頂点間の距離および/または元の3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の法線の相違に基づいていてもよい。なお、ステップ622における品質関数は、本技術の範囲から逸脱することなく、2つの基準のうちの1つに基づいていてもよいことに留意されたい。
一部の実施形態において、2つの対応する頂点間の距離は、元の3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の3次元距離を確立する。(ステップ606~614において)3D点群再構成画像と3Dモデルテンプレートとが位置合わせされた後の3次元距離は、最小になると考えられる。3D点群再構成画像が特定の品質閾値に達した場合、ステップ618において確立された3次元の局所的な変形(同様に「変位」と呼ぶ)は、特定の平均値+標準偏差の範囲に留まる。3D点群再構成画像が特定の品質閾値を下回る場合、3次元の局所的な変形は、標準偏差を超える。この品質対策の一例が、図18に示されている。ここで、3Dモデルテンプレートは、方法600の異なる2つのステップで提供される。3D表現1802は、方法600のステップ614の直後に提供され、3D表現1804は、方法600のステップ620の後に提供される。構造(頂点の数とインデックスを含む)が同じであるこれらのモデルの対応する頂点の間の距離は、3次元距離マップ1806で提供される。グラフ1808は、これらの距離の分布を示す。方法600を適用すると、3Dモデルテンプレートは、見えない部分以外は最小距離に合わせられる。そのため、分布グラフは、多かれ少なかれ同じ側面をもつことになる。すなわち、2つのピークは、小さい3次元距離および/または良好な品質(1810)と、大きい3次元距離および/または悪い品質(1812)をそれぞれ表す。これにより、方法600のステップ622~626によって補正される頂点は、容易に識別され、3D表現の品質を距離分布の関数として考慮することができる。
一部の実施形態において、元の3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の法線の相違は、頂点または面の2つの対応する法線がなす角度に基づいて確立されてもよい。低品質の3D表現(例えば、3D表現1804)では、2つの対応する法線がなす角度が大きくなる場合がある。これに対して、良好な品質の3D表現では、2つの対応する法線がなす角度が小さくなる場合がある。ここでも、3Dモデル1802と1804とがなす3次元法線角度の分布の3次元マップを算出することで、3次元品質マップを表示することができる。このグラフは、グラフ1808と同様の側面をもち、補正される頂点を識別することができる。これにより、3D表現の品質を角度分布の関数として考慮することができる。
また、本技術の範囲を逸脱することなく、上述した基準の一方または両方に加えて、またはそれらを置き換えるように、追加の基準を使用することもできる。
ステップ624は、上述したような品質の定義を考慮して、低品質の頂点および/または面を自動的に選択するステップを含む。したがって、一部の実施形態において、ステップ624は、低品質の頂点および/または面を選択するように、ステップ622において確立された距離分布および/または角度分布を参照してもよい。図19は、ステップ622に基づいて生成され、ステップ624において実行される自動選択で使用される領域1910~1914の表現1902を示す。領域1910は、良好な品質の部分を表す。これは、元の3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の距離分布および/または角度分布が狭いことを意味する。対照的に、領域1914は、悪い品質の部分を表す。これは、元の3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の距離分布および/または角度分布が、許容可能な閾値を超えていることを意味する。領域1912は、3D表現1902の良好な品質の部分(すなわち領域1910)と悪い品質の部分(すなわち領域1914)との間の移行領域を確立する。一部の実施形態において、領域1910~1914は、色分けされていてもよい。例えば、領域1910を青色、領域1914を赤色、領域1912を青色から徐々に赤色になる連続的な色であり得る。
ステップ626は、3Dモデルテンプレートに基づいて、悪い品質の部分を補正するステップを含む。ステップ626は、悪い品質の部分の補正を重み付けするステップを含んでもよい。一部の実施形態において、ステップ626は、ステップ624において識別された悪い品質の部分(例えば領域1914)の頂点および/または面に合成変形を適用するステップを含む。これにより、悪い品質の部分に対応する3Dモデルテンプレートの一部を再形成することができる。一部の実施形態において、合成変形は、ステップ622における品質関数によって重み付けられる。これにより、補正されていない部分と補正された部分との間で滑らかな移行部分を提供することができる。3D再構成画像1804に適用されたステップ622~626の一例が、図19に示す補正された3D再構成画像1904で示されている。
本技術の当業者であれば理解できるように、3D再構成画像の補正された部分は、現実に完全には適合しない可能性があるが、欠落した部分を有する部分的な3D再構成画像とは対照的に、物体の完全な3D再構成画像を生成することができる。また、特にステップ620またはステップ622において3D再構成画像が十分に完全であり、補正を必要としないことが確立された場合には、ステップ622~626が体系的に適用されない場合があることに留意されたい。
なお、上述した特徴および実施例は、本発明の範囲を単一の実施形態に限定するものではない。説明または図に示す要素の一部または全体を交換して、他の実施形態を実現することもできる。また、本発明の特定の要素が既知の構成要素を用いて部分的または完全に実現できる場合、本発明を理解するために必要なそのような既知の構成要素の一部のみを説明し、本発明を不明瞭にしないように、他の部分の詳細な説明を省略する。本明細書において、単一の構成要素を示す実施形態は、本明細書で明示的に別のことを述べない限り、同じ構成要素を複数含む他の実施形態に必ずしも限定されるべきではなく、その逆もまたあり得る。また、本出願人は、本明細書または添付の特許請求の範囲のいかなる用語も、そのように明示的に定められていない限り、一般的でないまたは特別な意味を付与することを意図していない。さらに、本発明は、例示のために本明細書で言及された既知の構成要素に対する現在および将来の既知の同等物を包含する。
特定の実施形態に関する上述した説明は、本発明の一般的な性質を十分に明確にしており、他者が、関連する技術(本明細書で引用され、参照により組み込まれる文献の内容を含む)の範囲内の知識を適用することにより、過度の実験を行うことなく、また本発明の一般的な概念から逸脱することなく、そのような特定の実施形態を、様々な用途のために容易に修正および/または適応することができる。したがって、このような適応および修正は、本明細書に記載された教示および手引きに基づいて、開示された実施形態の意味および同等の範囲内にあることが意図されている。本明細書に記載された語句または用語は、本発明を説明するためのものであり、それを限定するものではない。本明細書に記載された語句または用語は、本明細書に記載された教示および手引きに照らして、関連する技術の当業者の知識と組み合わせて、当業者によって解釈されるようになっていることに留意されたい。
上述した実施例では、特定の順序で実行される特定のステップを参照して説明および図示してきたが、本技術の教示から逸脱することなく、これらのステップを組み合わせたり、細分化したり、順序を変更したりすることができることに留意されたい。また、各ステップは、並列または直列に実行することができる。したがって、ステップの順序やグループ化は、本技術を限定するものではない。
以上、本発明の様々な実施形態を説明したが、これらは例示のために記載されたものであり、本発明を限定するものではないことに留意されたい。本発明の精神および範囲から逸脱することなく、形態および詳細の様々な変更を行うことができることは、関連技術の当業者には明らかであろう。したがって、本発明は、上述した例示的な実施形態のいずれかによって限定されるべきではなく、添付の特許請求の範囲およびその等価物に従ってのみ定義されるべきである。
Claims (22)
- 物体の3次元(3D)表現を生成する方法であって、
前記物体の3D点群再構成画像にアクセスするステップと、
前記物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスするステップと、
幾何学的空間において、前記3D点群再構成画像に対して前記3Dモデルテンプレートを位置合わせするステップと、
前記3Dモデルテンプレートのスケールを調整するステップと、
前記3Dモデルテンプレートの表面に局所的な変形を適用するステップと、
を含む、
方法。 - 前記物体の前記3D点群再構成画像にアクセスする前記ステップは、ノイズ除去ルーチンを適用するステップを含む、
請求項1に記載の方法。 - 前記3Dモデルテンプレートにアクセスする前記ステップは、選択ルーチンに従って実行される、
請求項1に記載の方法。 - 前記3Dモデルテンプレートは、3Dメッシュモデルである、
請求項1に記載の方法。 - 前記幾何学的空間は、デカルト座標系および/または円筒座標系および/または球面座標系に関連付けられる、
請求項1に記載の方法。 - 前記3D点群再構成画像に対して前記3Dモデルテンプレートを位置合わせする前記ステップは、回転および/または並進を適用するステップを含む、
請求項1に記載の方法。 - 前記3D点群再構成画像に対して前記3Dモデルテンプレートを位置合わせする前記ステップは、
(i)前記3Dモデルテンプレートに関連する第1の重心と、前記3D点群再構成画像に関連する第2の重心とを並進させて位置合わせするステップと、
(ii)前記3Dモデルテンプレートと前記3D点群再構成画像との間の最小距離、主成分分析、および/または2D投影の位置合わせのうちの少なくとも1つに基づいて、前記3D点群再構成画像に対して前記3Dモデルテンプレートを回転させて位置合わせするステップと、
を含む、
請求項6に記載の方法。 - 前記主成分分析に基づいて、前記3D点群再構成画像に対して前記3Dモデルテンプレートを回転させて位置合わせする前記ステップは、前記3Dモデルテンプレートの3つの主軸を識別して、前記3つの主軸と前記3D点群再構成画像の軸とを位置合わせするステップを含む、
請求項7に記載の方法。 - 前記2D投影の位置合わせに基づいて、前記3D点群再構成画像に対して前記3Dモデルテンプレートを回転させて位置合わせする前記ステップは、異なる視点の組み合わせで前記3Dモデルテンプレートから2Dピクチャを算出し、前記視点に合わせるように前記2Dピクチャを一致させるステップを含む、
請求項7に記載の方法。 - 前記3Dモデルのスケールを調整する前記ステップは、反復最接近点(ICP:iterative closest point)アルゴリズムを実行するステップを含む、
請求項1に記載の方法。 - 前記3Dモデルのスケールを調整する前記ステップは、反復的に実行され、
・ (1)前記3Dモデルテンプレートのスケールを修正するステップ、(2)前記3Dモデルテンプレートに対する回転を適用/精密化するステップ、および/または(3)前記3Dモデルテンプレートに対する並進を適用/精密化するステップ、のうちの1つと、
・ 前記3Dモデルテンプレートと前記3D点群再構成画像との間の距離を計算するステップと、
を含み、
計算された最小距離に基づいて、前記反復が停止する、
請求項1に記載の方法。 - 前記3Dモデルテンプレートの表面に局所的な変形を適用する前記ステップは、
・ 前記3Dモデルテンプレートの少なくともいくつかの点について、前記3Dモデルテンプレートの前記少なくともいくつかの点のそれぞれから延在する法線軸を決定するステップと、
・ 前記3Dモデルテンプレートの前記少なくともいくつかの点を、算出した振幅の対応する法線軸に沿って変位させるステップと、
を含み、
前記変位のステップは、前記3Dモデルテンプレートの前記少なくともいくつかの点の半径内に位置する隣接する点を変位させるステップをさらに含む、
請求項1に記載の方法。 - 前記算出した振幅は、前記3Dモデルテンプレートの前記少なくともいくつかの点に対する正規化した法線ベクトルと、前記3Dモデルテンプレート内の変位される点と前記3D点群再構成画像の幾何中心とを結ぶベクトルと、のスカラー積に基づいている、
請求項12に記載の方法。 - 低品質の変形を識別するステップと、
補正する部分を選択するステップと、
前記部分を補正するステップと、
をさらに含む、
請求項1に記載の方法。 - 品質関数を操作することにより、前記低品質の変形が識別される、
請求項14に記載の方法。 - 前記補正する部分を選択する前記ステップは、前記3Dモデルテンプレートと変形した3Dモデルテンプレートとの間の距離分布および/または角度分布に基づいている、
請求項14に記載の方法。 - 前記3Dモデルテンプレートの表面に局所的な変形を適用する前記ステップは、
・ 前記局所的な変形の品質レベルを算出するステップと、
・ 算出した前記品質レベルに基づいて局所的な変形を補正するステップと、
を含む、
請求項1に記載の方法。 - 前記算出した品質レベルに基づいて局所的な変形を補正する前記ステップは、前記算出した品質レベルが閾値を下回る場合に前記局所的な変形を補正するステップをさらに含む、
請求項17に記載の方法。 - 少なくとも2つの物体の少なくとも2つの3D表現を生成するステップと、前記少なくとも2つの3D表現を組み合わせるステップと、をさらに含む、
請求項1に記載の方法。 - 請求項1~19のいずれか1項に記載の方法を実施するように構成された、コンピュータで実現されるシステム。
- コンピュータで実行可能な命令を含む非一時的なコンピュータ可読媒体であって、
システムに、請求項1~19のいずれか1項に記載の方法を実行させる、
コンピュータ可読媒体。 - 物体の3次元(3D)表現を生成するためのシステムであって、
プロセッサと、
命令を含む非一時的なコンピュータ可読媒体と、
を備え、
前記プロセッサは、前記命令が実行されると、
・ 前記物体の3D点群再構成画像にアクセスし、
・ 前記物体の一般的なバージョンを定義する3Dモデルテンプレートにアクセスし、
・ 幾何学的空間において、前記3D点群再構成画像に対して前記3Dモデルテンプレートを位置合わせし、
・ 前記3Dモデルテンプレートのスケールを調整し、
・ 前記3Dモデルテンプレートの表面に局所的な変形を適用するように構成される、
システム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962855451P | 2019-05-31 | 2019-05-31 | |
US62/855,451 | 2019-05-31 | ||
US201962952193P | 2019-12-20 | 2019-12-20 | |
US62/952,193 | 2019-12-20 | ||
PCT/IB2020/055118 WO2020240497A1 (en) | 2019-05-31 | 2020-05-29 | System and method of generating a 3d representation of an object |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022535800A true JP2022535800A (ja) | 2022-08-10 |
Family
ID=73552721
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021571470A Pending JP2022535800A (ja) | 2019-05-31 | 2020-05-29 | 物体の3d表現を生成するシステムおよび方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20220237880A1 (ja) |
EP (1) | EP3977417A4 (ja) |
JP (1) | JP2022535800A (ja) |
KR (1) | KR20220044442A (ja) |
CA (1) | CA3142320A1 (ja) |
WO (1) | WO2020240497A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11783102B2 (en) * | 2019-04-30 | 2023-10-10 | BabySteps Orthopedics Inc. | Predictive modeling platform for serial casting to correct orthopedic deformities |
EP4020391A1 (en) | 2020-12-24 | 2022-06-29 | Applications Mobiles Overview Inc. | Method and system for automatic characterization of a three-dimensional (3d) point cloud |
WO2022249011A1 (en) | 2021-05-25 | 2022-12-01 | Applications Mobiles Overview Inc. | System and method for providing personalized transactions based on 3d representations of user physical characteristics |
WO2024052862A1 (en) * | 2022-09-08 | 2024-03-14 | Applications Mobiles Overview Inc. | Iterative analysis and processing of 3d representations of objects |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010019925A1 (en) * | 2008-08-15 | 2010-02-18 | Brown Technology Partnerships | Method and apparatus for estimating body shape |
US20140043329A1 (en) * | 2011-03-21 | 2014-02-13 | Peng Wang | Method of augmented makeover with 3d face modeling and landmark alignment |
KR101997500B1 (ko) * | 2014-11-25 | 2019-07-08 | 삼성전자주식회사 | 개인화된 3d 얼굴 모델 생성 방법 및 장치 |
US9870646B2 (en) * | 2015-06-26 | 2018-01-16 | Virtual Outfits, Llc | Three-dimensional model generation based on two-dimensional images |
KR20180041668A (ko) * | 2015-08-14 | 2018-04-24 | 톰슨 라이센싱 | 포인트 클라우드로부터의 인간의 귀의 3d 복원 |
US10796480B2 (en) * | 2015-08-14 | 2020-10-06 | Metail Limited | Methods of generating personalized 3D head models or 3D body models |
EP3188033B1 (en) * | 2015-12-31 | 2024-02-14 | Dassault Systèmes | Reconstructing a 3d modeled object |
EP3398551A1 (en) * | 2017-05-03 | 2018-11-07 | Stryker European Holdings I, LLC | Methods of pose estimation of three-dimensional bone models in surgical planning a total ankle replacement |
US10373372B2 (en) * | 2017-10-05 | 2019-08-06 | Applications Mobiles Overview Inc. | System and method for object recognition |
CN111771231A (zh) * | 2018-02-27 | 2020-10-13 | 奇跃公司 | 用于虚拟化身的匹配网格 |
US11120179B2 (en) * | 2018-03-22 | 2021-09-14 | James R. Glidewell Dental Ceramics, Inc. | System and method for performing quality control |
US10803660B2 (en) * | 2018-06-29 | 2020-10-13 | Dreamworks Animation Llc | Real-time collision deformation |
US10930069B1 (en) * | 2019-02-11 | 2021-02-23 | Amazon Technologies, Inc. | 3D scanning and modeling system |
-
2020
- 2020-05-29 EP EP20814663.9A patent/EP3977417A4/en active Pending
- 2020-05-29 JP JP2021571470A patent/JP2022535800A/ja active Pending
- 2020-05-29 KR KR1020217043439A patent/KR20220044442A/ko unknown
- 2020-05-29 WO PCT/IB2020/055118 patent/WO2020240497A1/en unknown
- 2020-05-29 US US17/615,146 patent/US20220237880A1/en not_active Abandoned
- 2020-05-29 CA CA3142320A patent/CA3142320A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CA3142320A1 (en) | 2020-12-03 |
EP3977417A4 (en) | 2023-07-12 |
WO2020240497A1 (en) | 2020-12-03 |
EP3977417A1 (en) | 2022-04-06 |
KR20220044442A (ko) | 2022-04-08 |
US20220237880A1 (en) | 2022-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2022535800A (ja) | 物体の3d表現を生成するシステムおよび方法 | |
CN111968235B (zh) | 一种物体姿态估计方法、装置、系统和计算机设备 | |
US11222474B2 (en) | Methods and systems for applying machine learning to volumetric capture of a body in a real-world scene | |
CN105741346B (zh) | 用于校准深度照相机的方法 | |
EP2909575B1 (en) | Systems and methods for marking images for three-dimensional image generation | |
JP5442111B2 (ja) | 画像から高速に立体構築を行なう方法 | |
KR101744079B1 (ko) | 치과 시술 시뮬레이션을 위한 얼굴모델 생성 방법 | |
CN115345822A (zh) | 一种面向航空复杂零件的面结构光自动化三维检测方法 | |
WO2012096747A1 (en) | Forming range maps using periodic illumination patterns | |
Ramalingam et al. | A theory of minimal 3D point to 3D plane registration and its generalization | |
Mousavi et al. | The performance evaluation of multi-image 3D reconstruction software with different sensors | |
Perriollat et al. | A computational model of bounded developable surfaces with application to image‐based three‐dimensional reconstruction | |
US10650584B2 (en) | Three-dimensional modeling scanner | |
JP6863596B6 (ja) | データ処理装置及びデータ処理方法 | |
WO2018190805A1 (en) | Depth image pose search with a bootstrapped-created database | |
GB2567245A (en) | Methods and apparatuses for depth rectification processing | |
CN114463408A (zh) | 自由视点图生成方法、装置、设备及存储介质 | |
Yookwan et al. | Multimodal fusion of deeply inferred point clouds for 3D scene reconstruction using cross-entropy ICP | |
US20220198707A1 (en) | Method and apparatus with object pose estimation | |
CN116188349A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
JP6719168B1 (ja) | 教師データとしてのデプス画像にラベルを付与するプログラム、装置及び方法 | |
CN112967329A (zh) | 图像数据优化方法、装置、电子设备及存储介质 | |
WO2022186141A1 (ja) | ニューラルネットワークのネットワークパラメータの学習方法、カメラパラメータの算出方法、及びプログラム | |
Noh et al. | Retouch transfer for 3D printed face replica with automatic alignment | |
CN117876609B (zh) | 一种多特征三维人脸重建方法、系统、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230519 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240321 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240409 |