JP2020181283A - 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置 - Google Patents

情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置 Download PDF

Info

Publication number
JP2020181283A
JP2020181283A JP2019082513A JP2019082513A JP2020181283A JP 2020181283 A JP2020181283 A JP 2020181283A JP 2019082513 A JP2019082513 A JP 2019082513A JP 2019082513 A JP2019082513 A JP 2019082513A JP 2020181283 A JP2020181283 A JP 2020181283A
Authority
JP
Japan
Prior art keywords
data
dimensional data
information processing
shape
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019082513A
Other languages
English (en)
Other versions
JP6579353B1 (ja
Inventor
浩紀 八登
Hiroki YATO
浩紀 八登
佐藤 大輔
Daisuke Sato
大輔 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Arithmer Inc
Original Assignee
Arithmer Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Arithmer Inc filed Critical Arithmer Inc
Priority to JP2019082513A priority Critical patent/JP6579353B1/ja
Application granted granted Critical
Publication of JP6579353B1 publication Critical patent/JP6579353B1/ja
Priority to PCT/JP2019/046896 priority patent/WO2020111269A1/ja
Publication of JP2020181283A publication Critical patent/JP2020181283A/ja
Priority to US17/333,008 priority patent/US11922649B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】対象物の高精度な寸法データを提供する。【解決手段】情報処理装置は、変換部24C及び推定部24Dを備える。変換部24Cは、対象物のシルエット画像を受け付ける受付部たり得る。推定部24Dは、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン21Aを使用して、受け付けたシルエット画像から対象物の形状パラメータの値を推定する。そして、推定された対象物の形状パラメータの値が、対象物が有する任意の部位に関連する寸法データに関連付けられる。【選択図】図1

Description

本開示は、情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置に関する。
従来、対象物の形状に基づいて製品を製造する装置が検討されている。例えば、特許文献1(特開2017−018158号公報)には、指の爪を撮影して爪画像を取得し、爪画像に基づいて、爪の形状、爪の位置、爪の曲率等の付け爪作成に必要な爪情報を取得し、爪情報に基づいて付け爪パーツを作成する技術が開示されている。
しかしながら、従来技術では、対象物における寸法及び形状を高精度に算出することが困難であった。
第1観点の情報処理装置は、対象物のシルエット画像を受け付ける受付部と、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、受け付けたシルエット画像から対象物の形状パラメータの値を推定する推定部と、を備え、推定された対象物の形状パラメータの値が、対象物が有する任意の部位に関連する寸法データに関連付けられる。このような構成により、対象物について算出される寸法データを高精度で提供することができる。
第2観点の情報処理装置は、第1観点の情報処理装置において、サンプル対象物に関連付けられた所定個数の形状パラメータが、サンプル対象物の3次元データを次元削減することによって得られる。
第3観点の情報処理装置は、第2観点の情報処理装置において、次元削減が主成分分析により行われ、推定された所定個数の形状パラメータの値に対し、主成分分析に係る射影の逆変換により対象物の3次元データが算出され、3次元データが寸法データに関連付けられる。
第4観点の情報処理装置は、第3観点の情報処理装置において、第1順位の主成分を除いた第2順位以降の所定個数の主成分が形状パラメータに選択される。
第5観点の情報処理装置は、第4観点の情報処理装置において、対象物が人であり、第1順位の主成分が人の身長に関連付けられる。
第6観点の情報処理装置は、第1観点から第5観点の何れかの情報処理装置において、サンプル対象物のシルエット画像が、サンプル対象物の3次元データから構成される3次元物体における所定方向の投影画像である。
第7観点の情報処理装置は、第1観点から第6観点の何れかの情報処理装置において、対象物エンジンが、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習することにより生成されている。
第8観点の情報処理装置は、第1観点から第7観点の何れかの情報処理装置であって、対象物について推定された所定個数の形状パラメータの値から、対象物における複数の頂点の3次元データを構成し、構成された3次元データに基づいて、対象物における任意の2つの頂点の間の寸法データを算出する算出部と、を更に備える。
第9観点の情報処理装置は、第8観点の情報処理装置の算出部において、2つの頂点の間の寸法データが、対象物における複数の頂点の3次元データから構成される3次元物体上の曲面に沿って算出される。
第10観点の情報処理装置は、第1観点から第9観点の何れかの情報処理装置において、対象物のシルエット画像が、深度データ測定装置を用いて得られる深度データに基づいて、対象物の画像と対象物以外の画像とを分離することで生成される。
第11観点の情報処理装置は、第10観点の情報処理装置において、深度データ測定装置がステレオカメラである。
第12観点の情報処理方法は、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習させ、対象物エンジンを生成するステップと、対象物のシルエット画像を受け付けるステップと、対象物エンジンを使用して、受け付けたシルエット画像から対象物の形状パラメータの値を推定するステップと、対象物の形状パラメータの値に基づいて、対象物が有する部位に関連する寸法データを算出するステップと、を含む。このような構成により、対象物について算出される寸法データを高精度で提供することができる。
第13観点の情報処理装置は、対象物の属性データを受け付ける受付部と、サンプル対象物の属性データとサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、受け付けた属性データから対象物の形状パラメータの値を推定する推定部と、を備え、推定された対象物の形状パラメータの値が、対象物が有する任意の部位に関連する寸法データに関連付けられる。このような構成により、対象物について算出される寸法データを高精度で提供することができる。
第14観点の情報処理装置は、第13観点の情報処理装置において、サンプル対象物に関連付けられた所定個数の形状パラメータが、サンプル対象物の3次元データを次元削減することによって得られる。
第15観点の情報処理装置は、第14観点の情報処理装置において、次元削減が主成分分析により行われ、第1順位の主成分を除いた第2順位以降の所定個数の主成分が形状パラメータに選択される。
第16観点の情報処理装置は、第15観点の情報処理装置において、対象物が人であり、第1順位の主成分が人の身長に関連付けられ、属性データには対象物の身長データが含まれる。
第17観点の情報処理装置は、第13観点から第16観点の何れかの情報処理装置において、対象物エンジンが、サンプル対象物の属性データとサンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習することにより生成されている。
第18観点の情報処理装置は、第13観点から第17観点の何れかの情報処理装置であって、対象物について推定された所定個数の形状パラメータの値から、対象物における複数の頂点の3次元データを構成し、構成された3次元データに基づいて、対象物における任意の2つの頂点の間の寸法データを算出する算出部と、を更に備える。
第19観点の情報処理装置は、第18観点の情報処理装置の算出部において、2つの頂点の間の寸法データが、対象物における複数の頂点の3次元データから構成される3次元物体上の曲面に沿って算出される。
第20観点の情報処理方法は、サンプル対象物の属性データとサンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習させ、対象物エンジンを生成するステップと、対象物の属性データを受け付けるステップと、受け付けた属性データから対象物の形状パラメータの値を推定する推定ステップと、対象物の形状パラメータの値に基づいて、対象物が有する部位に関連する寸法データを算出するステップと、を含む。
第21観点の寸法データ算出装置は、対象物が撮影された画像データ及び対象物の全長データを取得する取得部と、画像データから対象物の形状を示す形状データを抽出する抽出部と形状データを全長データに基づいてシルエット画像に変換する変換部と、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、シルエット画像から所定個数の形状パラメータの値を推定する推定部と、推定された所定個数の形状パラメータの値に基づいて、対象物の寸法データを算出する算出部と、を備える。このような構成により、対象物について算出される寸法データを高精度で提供することができる。
第22観点の寸法データ算出装置は、第21観点の寸法データ算出装置において、所定個数の形状パラメータが、サンプル対象物の3次元データを次元削減することによって得られる。
第23観点の寸法データ算出装置は、第22観点の寸法データ算出装置において、次元削減が主成分分析により行われ、算出部において、所定個数の形状パラメータの値に対し、主成分分析に係る射影行列に基づいて逆変換を行うことにより3次元データが算出され、寸法データが3次元データから算出される。
第24観点の製品製造装置は、第21観点から第23観点の何れかの寸法データ算出装置を用いて算出された少なくとも1つの寸法データを用いて、対象物の形状に関連する製品を製造する。
第1実施形態に係る寸法データ算出システム100の模式図である。 図1の学習装置25の動作を示すフローチャートである。 図1の寸法データ算出装置20の動作を示すフローチャートである。 形状パラメータの特性を示す概略説明図である。 形状パラメータの特性を示す概略グラフである。 第1実施形態に係る製品製造システム1の概念を示す模式図である。 図6の製品製造システム1の動作を示すシーケンス図である。 図6の端末装置10に表示される画面の一例を示す模式図である。 図6の端末装置10に表示される画面の一例を示す模式図である。 第2実施形態に係る寸法データ算出システム100の模式図である。 図10の学習装置125の動作を示すフローチャートである。 図10の寸法データ算出装置20の動作を示すフローチャートである。 第2実施形態に係る製品製造システム1Sの概念を示す模式図である。
以下に、本発明の情報処理装置、情報処理方法、製品製造装置、及び寸法データ算出装置の実施形態に係る寸法データ算出システムを添付図面とともに説明する。以下の実施形態の説明において、情報処理装置及び寸法データ算出装置は、寸法データ算出システムの一部として実装される。
添付図面において、同一又は類似の要素には同一又は類似の参照符号が付され、各実施形態の説明において同一又は類似の要素に関する重複する説明は省略することがある。また、各実施形態で示される特徴は、互いに矛盾しない限り他の実施形態にも適用可能である。更に、図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。
なお、以下の説明において、行列やベクトルなどを用いて複数の要素をまとめて表記する場合は大文字で表し、行列の個々の要素を表記する場合は小文字で表すことがある。例えば、形状パラメータの集合を示す場合等は行列Λと表記し、行列Λの要素を表す場合は、要素λと表記する場合がある。
<第1実施形態>
(1−1)寸法データ算出システムの構成
図1は本実施形態に係る寸法データ算出システム100の構成を示す模式図である。寸法データ算出システム100は、寸法データ算出装置20及び学習装置25を備える。
寸法データ算出装置20及び学習装置25は、それぞれ、任意のコンピュータにより実現することができる。寸法データ算出装置20は、記憶部21、入出力部22、通信部23、及び処理部24を備える。また、学習装置25は、記憶部26及び処理部27を備える。なお、寸法データ算出装置20及び学習装置25は、LSI(Large Scale Integration),ASIC(Application Specific Integrated Circuit),FPGA(Field-Programmable Gate Array)等を用いてハードウェアとして実現されてもよい。
記憶部21,26は、何れも各種情報を記憶するものであり、メモリ及びハードディスク等の任意の記憶装置により実現される。例えば、記憶部21は、処理部24において寸法データ算出に関する情報処理を実行するために、対象物エンジン21Aを含む各種データ、プログラム、情報等を格納する。また、記憶部26は、対象物エンジン21Aを生成するために、学習段階で利用される訓練データを格納する。
入出力部22は、キーボード、マウス、タッチパネル等により実現され、コンピュータに各種情報を入力したり、コンピュータから各種情報を出力したりする。
通信部23は、任意のネットワークカード等のネットワークインタフェースにより実現され、有線又は無線によりネットワーク上の通信機器との通信を可能にする。
処理部24,27は、何れも各種情報処理を実行するために、CPU(Central Processing Unit)及び/又はGPU(Graphical Processing Unit)といったプロセッサ、並びにメモリにより実現される。処理部24は、コンピュータのCPU,GPU等に、記憶部21に記憶されたプログラムが読み込まれることにより、取得部24A、抽出部24B、変換部24C、推定部24D、及び算出部24Eとして機能する。同様に、処理部27は、コンピュータのCPU,GPU等に、記憶部26に記憶されたプログラムが読み込まれることにより、前処理部27A及び学習部27Bとして機能する。
寸法データ算出装置20の処理部24において、取得部24Aは、対象物が撮影された画像データ、並びに対象物の全長データ及び重量データ等の属性データを取得する。取得部24Aは、例えば、撮像装置により、対象物を複数の異なる方向から撮影した複数の画像データを取得する。
抽出部24Bは、画像データから対象物の形状を示す形状データを抽出する。具体的には、抽出部24Bは、対象物の種類毎に準備されたセマンティックセグメンテーションのアルゴリズム(Mask R-CNN等)を用いて、画像データに含まれる対象物領域を抽出することにより、対象物の形状データを抽出する。セマンティックセグメンテーションのアルゴリズムは、対象物の形状が特定されていない訓練データを用いて構築できる。
なお、セマンティックセグメンテーションのアルゴリズムが、形状が不特定の対象物の訓練データを用いて構築されている場合、必ずしも高精度に対象物の形状を抽出することができないことがある。このような場合、抽出部24Bは、対象物領域からグラブカット(Grab Cut)アルゴリズムにより対象物の形状データを抽出する。これにより、高精度に対象物の形状を抽出することが可能になる。
また、抽出部24Bは、グラブカットアルゴリズムにより特定された対象物の画像を、対象物の特定部分の色画像に基づいて補正することにより、対象物と対象物以外の背景画像とを分離してもよい。これにより、更に高精度に対象物の形状データを生成することが可能となる。
変換部24Cは、形状データを全長データに基づいてシルエット化する。つまり、対象物の形状データを変換して、対象物のシルエット画像を生成する。これにより、形状データが規格化される。変換部24Cは、生成されたシルエット画像を推定部24Dに入力するための受付部としても機能することになる。
推定部24Dは、シルエット画像から所定個数の形状パラメータの値を推定する。推定には、対象物エンジン21Aが使用される。推定部24Dで推定された所定個数の対象物の形状パラメータの値は、対象物が有する任意の部位に関連する寸法データに関連付けられる。
算出部24Eは、推定部24Dによって推定された所定個数の形状パラメータの値から、これに関連付けられた対象物の寸法データを算出する。具体的には、算出部24Eは、推定部24Dで推定された対象物の形状パラメータの値から、対象物における複数の頂点の3次元データを構成し、更に、当該3次元データに基づいて対象物における任意の2つの頂点の間の寸法データを算出する。
学習装置25の処理部27において、前処理部27Aは、学習のための各種前処理を実施する。特に、前処理部27Aは、サンプル対象物の3次元データを次元削減により特徴抽出することを通じて、所定個数の形状パラメータを特定する。また、サンプル対象物ごとに所定個数(次元)の形状パラメータの値を得る。サンプル対象物の形状パラメータの値は、訓練データとして記憶部26に格納される。
また、前処理部27Aは、サンプル対象物の3次元データに基づいて、3次元空間内にサンプル対象物の3次元物体を仮想的に構成した上で、3次元空間内に仮想的に設けた撮像装置を用いて所定方向から3次元物体を投影する。サンプル対象物のシルエット画像は、訓練データとして記憶部26に格納される。
学習部27Bは、サンプル対象物のシルエット画像と、サンプル対象物に関連付けられる所定個数の形状パラメータの値との関係を関連付けるように学習する。学習の結果、対象物エンジン21Aが生成される。生成された対象物エンジン21Aは、電子ファイルの形態で保持できる。寸法データ算出装置20において対象物の寸法データを算出する際には、対象物エンジン21Aは、記憶部21に格納されて推定部24Dによって参照される。
(1−2)寸法データ算出システムの動作
図2及び図3を参照して、図1の寸法データ算出システム100の動作を説明する。図2は、学習装置25の動作(S10)を示すフローチャートであり、サンプル対象物データに基づいて対象物エンジン21Aを生成する。図3は、寸法データ算出装置20の動作を示すフローチャートであり、対象物の画像データに基づいて対象物の寸法データを算出する。
(1−2−1)学習装置の動作
最初に、サンプル対象物のデータが準備され、記憶部26に格納される(S11)。一例では、準備されるデータは、400個のサンプル対象物のデータであり、サンプル対象物ごとに5,000個の3次元データを含む。3次元データには、サンプル対象物が有する頂点の3次元座標データが含まれる。また、3次元データには、3次元物体を構成する各メッシュの頂点情報及び各頂点の法線方向等のメッシュ・データ、並びに、全長データ、重量データ、及び経時データ(年齢等を含む。)等の属性データが含まれてもよい。
サンプル対象物の3次元データは、頂点番号が関連付けられている。前述の例では、サンプル対象物ごとに、5,000個の頂点の3次元データが頂点番号#1〜#5,000に対応付けられている。また、頂点番号の全部又は一部は、対象物の部位の情報が関連付けられている。例えば、対象物が「人」の場合、頂点番号#20は「頭頂点」に関連付けられ、同様に、頂点番号#313は「左肩の肩峰」に、頂点番号#521は「右肩の肩峰」に関連付けられる等である。
続いて、前処理部27Aは、次元削減により形状パラメータへの特徴変換を行う(S12)。具体的には、サンプル対象物ごとに、サンプル対象物の3次元データを次元削減により特徴抽出を行う。その結果、所定個数(次元数)の形状パラメータを得る。一例では、形状パラメータの次元数は30である。次元削減は、主成分分析、Random Projection等の手法により実現される。
前処理部27Aは、主成分分析の射影行列を用いて、サンプル対象物ごとに3次元データから所定個数の形状パラメータの値に変換する。これにより、関連する特徴的な情報を維持した上で、サンプル対象物の3次元データからノイズを取り除き、3次元データを圧縮することができる。
前述の例のように、サンプル対象物のデータが400個あり、各サンプル対象物が5,000個の頂点の3次元(座標)データを含み、各3次元データを30次元の形状パラメータに特徴変換することを想定する。ここでは、400個のサンプル対象物のデータを表す〔400行,15,000列(5,000×3)〕の頂点座標行列を行列Xとする。また、主成分分析によって生成される〔15,000行、30列〕の射影行列を行列Wとする。頂点座標行列Xに対し、射影行列Wを右から掛けることによって、〔400行、30列〕の形状パラメータ行列である行列Λを得ることができる。
つまり、形状パラメータ行列Λは次の数式から計算することができる。
Figure 2020181283
射影行列Wを用いた行列演算の結果、400個のサンプル対象物がそれぞれ有する15,000次元のデータは、30次元の主成分の形状パラメータ(λ,...,λ30)に特徴変換される。なお、主成分分析では、λに対する400個分の値(λ1,1,...,λ400,1)の平均値がゼロになるように計算されている。
S12の結果、形状パラメータ行列Λを得たのに続いて、前処理部27Aは、形状パラメータ行列Λに含まれている形状パラメータのデータ・セットを、乱数を用いて拡張する(S13)。前述の例では、400個のデータ・セット(λi,1,...,λi,30(1≦i≦400))を、10,000個の形状パラメータの拡張データ・セット(λj,1,...,λj,30(1≦j≦10,000))にデータ拡張する。データ拡張は、正規分布を有する乱数を用いて行う。拡張データ・セットは、各形状パラメータの値の分散が3σの正規分布となる。
拡張データ・セットに対し、射影行列Wに基づく逆変換を行うことにより、拡張データ・セットの3次元データを構成することができる。前述の例において、更に、10,000個の拡張データ・セットを表す、〔10,000行、30列〕の拡張形状パラメータ行列を行列Λ’(λj,k,...,λj,k(1≦j≦10,000及び1≦k≦30))とする。10,000個のサンプル対象物の3次元データを表す頂点座標行列X’は、拡張形状パラメータ行列Λ’に対して、〔30行,15,000列〕である射影行列Wの転置行列Wを右から掛けることによって得られる。
つまり、頂点座標行列X’は、次の数式から計算することができ、10,000個に拡張されたサンプル対象物ごとに、5,000個(15,000/3)の3次元データを得ることができる。
Figure 2020181283
S13の結果、頂点座標行列X’が得られたのに続いて、前処理部27Aは、拡張されたサンプル対象物の3次元データに基づいて、それぞれのシルエット画像を生成する(S14)。前述の例では、10,000個のサンプル対象物ごとに、3次元空間内において5,000個の3次元データから、サンプル対象物の3次元物体を仮想的に構成する。そして、同じく3次元空間内に仮想的に設けられ、任意の方向から投影可能な投影装置を用いて3次元物体を投影する。前述の例では、10,000個のサンプル対象物ごとに、正面方向及び側面方向の2枚のシルエット画像を投影により取得するのがよい。取得されるシルエット画像は、白黒の2値化データで表される。
最後に、学習部27Bは、学習により、サンプル対象物に関連付けられた形状パラメータの値と、サンプル対象物のシルエット画像との関係を関連付ける(S15)。具体的には、S13で得た形状パラメータのデータ・セットと、S14で得たシルエット画像との組を訓練データに用いて、両者の関係をディープラーニングにより学習させるのがよい。
より詳しくは、前述の例で10,000個に拡張されたサンプル対象物について、各シルエット画像の2値化データをディープラーニングのネットワーク・アーキテクチャに入力する。ディープラーニングにおける特徴抽出では、ネットワーク・アーキテクチャから出力されるデータが、30個の形状パラメータの値に近づくように、ネットワーク・アーキテクチャの重み係数が設定される。なお、ここでのディープラーニングは、一例では、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を利用することができる。
このようにして、S14では、サンプル対象物に関連付けられた形状パラメータの値と、サンプル対象物のシルエット画像との関係をディープラーニングにより学習させ、ディープラーニングのネットワーク・アーキテクチャが構築される。その結果、対象物のシルエット画像が入力されるのに応じて、形状パラメータの値を推定する推定モデルである対象物エンジン21Aが生成される。
(1−2−2)寸法データ算出装置の動作
寸法データ算出装置20は、学習装置25で生成された対象物エンジン21Aの電子ファイル、及び学習装置25で得た主成分分析の射影情報を予め記憶部21に格納して、対象物の寸法データ算出に使用する。
最初に、取得部24Aは、入出力部122を通じて、外部の端末装置等を介して対象物の全体を異なる方向から撮影した複数の画像データを、対象物の全長を示す全長データと共に取得する(S21)。次いで、抽出部24Bは、各画像データから対象物の各部分の形状を示す形状データをそれぞれ抽出する(S22)。続いて、変換部24Cは、全長データに基づいて各形状データを所定の大きさに変換するリスケール処理を実行する(S23)。S21〜S23のステップを通じて、対象物のシルエット画像が生成され、寸法データ算出装置20は対象物のシルエット画像を受け付ける。
次いで、予め記憶部21に格納された対象物エンジン21Aを使用して、推定部24Dは、受け付けたシルエット画像から対象物の形状パラメータの値を推定する(S24)。そして、算出部24Eは、対象物の形状パラメータの値に基づいて、対象物が有する部位に関連する寸法データを算出する(S25)。
具体的には、S25での寸法データの算出では、最初に、対象物について対象物エンジン21Aで推定された所定個数の形状パラメータの値から、対象物の頂点の3次元データを構成する。ここでは、学習段階において前処理部27Aで実施した次元削減に係る射影(S10)の逆変換を行えばよい。より詳しくは、推定された所定個数の形状パラメータの値(列ベクトル)に対し、主成分分析に係る射影行列Wの転置行列Wを右から掛けることによって、3次元データを得ることができる。
前述の例では、対象物の形状パラメータの値Λ’’に対し、対象物の3次元データX’’は、次の数式から計算することができる。
Figure 2020181283
S25において、算出部24Eは、3次元データを使用して、対象物における任意の2つの頂点の間の寸法データを算出する。ここでは、3次元データから3次元物体を仮想的に構成し、3次元物体上の曲面に沿って2つの頂点の間の寸法データを算出する。つまり、3次元物体の立体的な形状に沿うようにして、2つの頂点間の距離を立体的に算出することができる。2つの頂点間の距離を立体的に算出するためには、最初に、多数の頂点(前述の例では5,000個の3次元データ)によって構成される3次元のメッシュ上で2つの頂点の間を繋ぐ最短経路を探索し、最短経路が通るメッシュを特定する。次いで、特定されたメッシュの頂点座標データを用いて、最短経路に沿ってメッシュ毎に距離を算出し、合算する。その合計値が2つの頂点間の立体的な距離となる。なお、立体的な距離の計算には、3次元物体を構成する各メッシュの頂点情報及び各頂点の法線方向等のメッシュ・データを用いることができる。
例えば、対象物が「人」であり、人の「肩幅」を算出する場合を想定する。事前準備として、「肩幅=左肩の肩峰を示す頂点と右肩の肩峰を示す頂点の間の距離」であることを予め規定しておく。また、左肩の肩峰を示す頂点の頂点番号が例えば#313であり、右肩の肩峰を示す頂点の頂点番号が例えば#521であることを予め関連付けておく。これらの情報は予め記憶部21に格納される。寸法データ算出の際は、頂点番号#313から#521に向けた最短経路を特定し、最短経路に関連して特定されたメッシュの頂点座標データを用いて、最短経路に沿ってメッシュ毎に距離を算出し、合計すればよい。
このように、本実施形態の寸法データ算出装置20は、対象物エンジン21Aを使用することにより、シルエット画像から所定個数の形状パラメータの値を高精度に推定することができる。また、高精度に推定された形状パラメータの値から、対象物の3次元データを高精度に復元することができるので、特定部位のみならず任意の2つの頂点間を採寸対象箇所として、高精度に算出することができる。特に、算出される2つの頂点の間の寸法データは、3次元データから構成される3次元物体に基づいて立体的な形状に沿って算出されるので、高精度である。
(1−3)寸法データ算出システムの特徴
a)以上説明したように、本実施形態に係る寸法データ算出システム100は、寸法データ算出装置20及び学習装置25を備える。寸法データ算出装置20の一部として構成される情報処理装置は、変換部(受付部)24C及び推定部24Dを備える。変換部(受付部)24Cは、対象物のシルエット画像を受け付ける。推定部24Dは、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン21Aを使用して、受け付けたシルエット画像から対象物の形状パラメータの値を推定する。そして、推定された対象物の形状パラメータの値が、対象物が有する任意の部位に関連する寸法データに関連付けられる。
また、寸法データ算出装置20は、取得部24A、抽出部24B、変換部24C、推定部24D、及び算出部24Eを備える。取得部24Aは、対象物が撮影された画像データ及び対象物の全長データを取得する。抽出部24Bは、画像データから対象物の形状を示す形状データを抽出する。変換部24Cは形状データを全長データに基づいてシルエット画像に変換する。推定部24Dは、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン21Aを使用して、シルエット画像から所定個数の形状パラメータの値を推定する。算出部24Eは、推定された所定個数の形状パラメータの値に基づいて、対象物の寸法データを算出する。
したがって、かかる寸法データ算出装置20は、予め作成済みの対象物エンジン21Aを使用することにより、シルエット画像から所定個数の形状パラメータの値を高精度に推定することができる。また、高精度に推定された形状パラメータの値を用いることで、対象物の任意の部位に関連するデータを効率的且つ高精度で算出することができる。このように、寸法データ算出装置20によれば、対象物について算出される寸法データを効率的且つ高精度で提供することができる。
かかる寸法データ算出装置20を用いることで、例えば、対象物として生物の各部分の寸法データを高精度に算出することができる。また、対象物として車や各種荷物等、任意の物体の各部分の寸法データを高精度に算出することができる。更に、寸法データ算出装置20を、各種製品を製造する製品製造装置に組み込むことで、対象物の形状に適合した製品を製造することが可能となる。
かかる寸法データ算出装置20を用いることで、例えば、対象物として生物の各部位に関連する寸法データを高精度に算出することができる。また、対象物として車や各種荷物等、任意の物体の各部分の寸法データを高精度に算出することができる。また、寸法データ算出装置20を、各種製品を製造する製品製造装置に組み込むことで、対象物の形状に適合した製品を製造することが可能となる。
b)かかる寸法データ算出装置20では、サンプル対象物に関連付けられた所定個数の形状パラメータが、サンプル対象物の3次元データを次元削減することによって特定される。特に、次元削減は主成分分析により行われる。これにより、サンプル対象物の3次元データからノイズを効果的に取り除き、3次元データを圧縮することができる。
c)かかる寸法データ算出装置20では、推定された所定個数の形状パラメータの値に対し、上記主成分分析に係る射影の逆変換により対象物の3次元データが算出され、3次元データが寸法データに関連付けられる。これにより、対象物のシルエット画像の入力に対し、3次元データを対象物の3次元データを高精度に構成することができる。
d)かかる寸法データ算出装置20では、サンプル対象物のシルエット画像が、サンプル対象物の3次元データから構成される3次元物体における所定方向の投影画像である。つまり、サンプル対象物の3次元データを用いて3次元物体を構成した上で、これを投影することによりシルエット画像が得られる。正面方向及び側面方向の2枚のシルエット画像を投影により取得するのがよい。これにより、サンプル対象物のシルエット画像を高精度に生成することができる。
e)かかる寸法データ算出装置20では、対象物エンジン21Aが、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習することにより生成されている。当該学習は、ディープラーニングにより行うことができる。ディープラーニングによる学習を行うことにより、サンプル対象物のシルエット画像とサンプル対象物の形状パラメータの値との対応付けを高精度に行うことができる。
f)かかる寸法データ算出装置20の算出部24Eでは、対象物について推定された所定個数の形状パラメータの値から、対象物における複数の頂点の3次元データを構成する。そして、構成された3次元データに基づいて、対象物における任意の2つの頂点の間の寸法データを算出する。つまり、対象物の3次元データを用いて3次元物体を構成した上で、この寸法データを算出する。これにより、対象物の3次元物体の形状から2つの頂点の間の寸法データを算出することができるので、採寸対象箇所が特定部分に限定されることがない。
特に、かかる寸法データ算出装置20の算出部24Eでは、2つの頂点の間の寸法データが、対象物において複数の頂点の3次元データから構成される3次元物体上の曲面に沿って算出される。これにより、寸法データを更に高精度に算出することができる。
(1−4)変形例
a)上記説明においては、取得部24Aが、対象物を異なる方向から撮影した複数の画像データを取得している。ここでは、対象物を複数の異なる方向から同時に撮影できる撮像装置として、深度データを併せて取得可能な深度データ測定装置が適用可能である。深度データ測定装置の一例はステレオカメラである。本明細書において「ステレオカメラ」とは、対象物を複数の異なる方向から同時に撮影して、両眼視差を再現する任意の形態の撮像装置を意味している。他方、必ずしも画像データが複数必要であるわけではなく、対象物の画像データが一枚であっても各部分の寸法データを算出することが可能である。
b)上記説明においては、グラブカットアルゴリズムを採用して、対象物と対象物以外の背景画像とを分離してもよいものとした。これ以外にも、例えば、取得部24Aにおいて前述のステレオカメラを用いた場合には、ステレオカメラから取得される深度データを用いて、対象物と対象物以外の背景画像とを分離することが可能である。これにより、更に高精度に対象物の形状データを生成することが可能となる。更に、ステレオカメラ以外にも、LiDAR(Light Detection and Ranging)装置により深度データを求め、対象物と対象物以外の背景画像とを分離することが可能である。すなわち、取得部24Aに深度データを測定できる任意の機械(深度データ測定装置)を用いることで、高精度に対象物の形状データを生成することが可能となる。
c)上記説明においては、S13で、前処理部27Aは、形状パラメータのデータ・セットを、乱数を用いて拡張するデータ拡張処理を行った。データ拡張処理は、サンプル対象物の数に応じてどの程度の数まで拡張するかを決定すればよい。サンプル数が予め十分に用意されている場合には、S13の拡張処理は行わなくてもよい。
c)上記説明においては、サンプル対象物に対し、形状パラメータ(λ,・・・,λ30)は学習装置25の前処理部27Aにおいて主成分分析によって取得した。ここで、サンプル対象物が「人」である場合の形状パラメータについて更に考察する。前述の例のように400個のサンプル対象物及び5,000個の頂点の3次元データを用いて主成分分析を行った結果、対象物が「人」である場合の形状パラメータは少なくとも次の特性を有することが考察された。
〔特性1〕
第1順位の主成分λは、人の身長との間で線形の関係を有するように関連付けられていた。具体的には、図4に示すように、第1順位の主成分λが大きくなればなるほど、人の身長が小さくなるというものであった。
特性1を考慮すれば、推定部24Dによる人の形状パラメータの値の推定時は、第1順位の主成分λに関しては、対象物エンジン21Aを用いることなく取得部24Aで取得した身長データを利用すればよい。具体的には、第1順位の主成分λの値は、人の身長を説明変数とする線形回帰モデルを利用することにより、別途計算するように構成すればよい。
この場合、学習段階で学習部27Bにおいて対象物エンジン21Aを生成する時においても、当該主成分λを学習対象から除いてもよい。前述のとおり、学習装置25における学習段階では、ネットワーク・アーキテクチャの重み付けを行う。この際、入力されたシルエット画像を主成分分析することで得られる第1順位の主成分を除いた第2順位以降の主成分と、訓練データである形状パラメータλ以降の値との誤差が最小化されるようにネットワーク・アーキテクチャの重み係数を設定してもよい。これにより、対象物が「人」である場合は、上記線形回帰モデルの利用と併せて、推定部24Dにおける形状パラメータの値の推定精度を向上させることができる。
また、学習段階で学習部27Bにおいて対象物エンジン21Aを生成するときには、第1順位の主成分も含めて、形状パラメータλ以降の値との誤差が最小化されるようにネットワーク・アーキテクチャの重み係数を設定してもよい。そして、第1順位の主成分λの値は、人の身長を説明変数とする線形回帰モデルを利用することにより、別途計算した値と置き換えてもよい。これにより、対象物が「人」である場合は、上記線形回帰モデルの利用と併せて、推定部24Dにおける形状パラメータの値の推定精度を向上させることができる。
〔特性2〕
図5は、主成分である形状パラメータの再現率を示した概略グラフである。グラフにおいて横軸が寄与率によって順位付けされた主成分を示し、縦軸が固有値の分散説明率を示している。そして、棒グラフは、順位ごとの個別の分散説明率を示している。また、実線の折れ線グラフは、第1順位からの分散説明率の累積を示している。図5では、簡単のため、第10順位までの10個の主成分に関するグラフを概略的に示している。なお、主成分分析において求められる共分散行列の固有値は固有ベクトル(主成分)の大きさを表しており、固有値の分散説明率は主成分に対する再現率と考えてよい。
図5のグラフを参照すると、第1順位から第10順位までの10個の主成分で分散説明率の累積が約0.95を示している(破線矢印)。つまり、第1順位から第10順位までの10個の主成分の再現率が約95%であることが当業者には理解される。すなわち、前述の例では、次元削減によって特徴変換される形状パラメータは30次元としたが、これに限らず、仮に形状パラメータを10次元としても約95%をカバーできている。すなわち、上記説明において形状パラメータの個数(次元数)は30個としたが、特性2を考慮すれば、10個程度のものとしてよい。
d)上記説明においては、学習装置25の前処理部27Aにおいて、10,000個のサンプル対象物ごとに、正面方向及び側面方向の2枚のシルエット画像を投影により取得した。他方、対象物のシルエット画像は必ずしも2枚必要とするわけではなく、1枚でよい。
(1−5)製品製造システムへの適用
以下、前述の寸法データ算出装置20を製品製造システム1に適用する例について説明する。
(1−5−1)製品製造システムの構成
図6は本実施形態に係る製品製造システム1の概念を示す模式図である。製品製造システム1は、ユーザ5が保有する端末装置10と通信可能な寸法データ算出装置20と、製品製造装置30とを備え、所望の製品6を製造するためのシステムである。図6では、一例として、対象物7が人であり、製品6が椅子であるときの概念を示している。但し、本実施形態に係る製品製造システム1において、対象物7及び製品6はこれらに限定されるものではない。
端末装置10は、所謂スマートデバイスにより実現することができる。ここでは、スマートデバイスに、ユーザ用プログラムがインストールされることで端末装置10が各種機能を発揮する。具体的には、端末装置10は、ユーザ5により撮像される画像データを生成する。ここで、端末装置10は、対象物を複数の異なる方向から同時に撮影して、両眼視差を再現するステレオカメラ機能を有するものでもよい。なお、画像データは端末装置10で撮影されるものに限定されず、例えば、店舗内に設置されたステレオカメラを用いて撮影されたものを利用してもよい。
また、端末装置10は、対象物7の属性を示す属性データの入力を受け付ける。「属性」には、対象物7の全長・重量・生成からの経過時間(年齢を含む。)等が含まれる。また、端末装置10は、通信機能を有しており、寸法データ算出装置20及び製品製造装置30と端末装置10との間で各種情報の送受信を実行する。
寸法データ算出装置20は任意のコンピュータにより実現することができる。ここでは、寸法データ算出装置20の記憶部21は、端末装置10のユーザ5を識別する識別情報に関連付けて、端末装置10から送信される情報を記憶する。また、記憶部21は、寸法データを算出する情報処理を実行するために必要なパラメータ等を記憶する。
また、寸法データ算出装置20の処理部24は、前述のとおり、取得部24A、抽出部24B、変換部24C、推定部24D、及び算出部24Eとして機能する。ここでは、取得部24Aは、ユーザ5によりステレオカメラで撮影された画像データ及び対象物7の属性データを取得する。また、抽出部24Bは、画像データから対象物7の形状を示す形状データを抽出する。例えば、対象物の種類として「人」が予め設定されている場合には、人を識別するための訓練データを用いてセマンティックセグメンテーションのアルゴリズムが構築されている。また、抽出部24Bは、ステレオカメラから取得される深度データを用いて、対象物と対象物以外の背景画像とを分離するのがよい。変換部24Cは、形状データを全長データに基づいてシルエット画像に変換する。変換部24Cは、生成されたシルエット画像を推定部24Dに入力するための受付部としても機能することになる。
推定部24Dは、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン21Aを使用して、シルエット画像から所定個数の形状パラメータの値を推定する。算出部24Eは、推定された所定個数の形状パラメータの値に基づいて、対象物の寸法データを算出する。具体的には、推定部24Dで推定された対象物の形状パラメータの値から、対象物における複数の頂点の3次元データを構成し、更に、当該3次元データに基づいて対象物における任意の2つの頂点の間の寸法データを算出する。
製品製造装置30は、寸法データ算出装置20を用いて算出された少なくとも1つの寸法データを用いて、対象物7の形状に関連する所望の製品を製造する製造装置である。なお、製品製造装置30は、自動で製品を製造・加工できる任意の装置を採用することができ、例えば3次元プリンタ等により実現することができる。
(1−5−2)製品製造システムの動作
図7は、本実施形態に係る製品製造システム1の動作を説明するためのシーケンス図である。また、図8及び図9は端末装置10の画面遷移を示す模式図である。
まず、端末装置10を介して対象物7の全体が異なる方向から写るように複数回撮像され、対象物7が撮像された複数の画像データが生成される(T1)。ここでは、図8及び図9にそれぞれ示すような、正面及び側面の写真が複数枚撮影される。このような正面及び側面の写真は端末装置10のステレオカメラ機能をオンにして撮影するのがよい。
次に、ユーザ5により端末装置10に、対象物7の属性を示す属性データが入力される(T2)。ここでは、属性データとして、対象物7の全長データ・重量データ・経時データ(年齢等を含む。)等が入力される。そして、これらの複数の画像データ及び属性データが端末装置10から寸法データ算出装置20に送信される。
寸法データ算出装置20は、端末装置10から複数の画像データ及び属性データを受信すると、これらのデータを用いて対象物7の各部分の寸法データを算出する(T3)。なお、端末装置10には、設定に応じて、寸法データが画面に表示される。そして、製品製造装置30が、寸法データ算出装置20により算出された寸法データに基づいて所望の製品6を製造する(T4)。
(1−5−3)製品製造システムの特徴
以上説明したように、本実施形態に係る製品製造システム1は、ユーザ5が保有する端末装置10と通信可能な寸法データ算出装置20と、製品製造装置30とを備える。
端末装置10(撮影装置)は、対象物7の画像を複数枚撮影する。寸法データ算出装置20は、取得部24A、抽出部24B、変換部24C、推定部24D、及び算出部24Eを備える。取得部24Aは、対象物が撮影された画像データ及び対象物の全長データを取得する。抽出部24Bは、画像データから対象物の形状を示す形状データを抽出する。変換部24Cは形状データを全長データに基づいてシルエット画像に変換する。推定部24Dは、サンプル対象物のシルエット画像とサンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン21Aを使用して、シルエット画像から所定個数の形状パラメータの値を推定する。算出部24Eは、推定された所定個数の形状パラメータの値に基づいて、対象物の寸法データを算出する。製品製造装置30は、算出部24Eにより算出された寸法データを用いて製品6を製造する。このような構成により、寸法データ算出装置20が高精度に対象物7の各部分を高精度に算出するので、対象物7の形状に関連する所望の製品を提供できる。
例えば、製品製造システム1により、心臓等の各種臓器の形状の測定から、臓器の模型を製造することができる。また、例えば、人のウェスト形状の測定から各種ヘルスケア製品等を製造することができる。また、例えば、人の形状から当該人のフィギュア製品を製造することができる。また、例えば、人の形状から当該人に適合する椅子等を製造することができる。また、例えば、車の形状から車のおもちゃを製造することができる。また、例えば、任意の風景画からジオラマ等を製造することができる。
なお、上記説明においては、寸法データ算出装置20と製品製造装置30とが別部材の装置として説明しているが、これらは一体として構成されるものでもよい。
<第2実施形態>
以下、既に説明した構成及び機能については略同一符号を付して説明を省略する。
(2−1)寸法データ算出装置の構成
図10は本実施形態に係る寸法データ算出システム200の構成を示す模式図である。寸法データ算出システム200は、寸法データ算出装置120及び学習装置125を備える。
寸法データ算出装置120は、記憶部121、入出力部122、通信部123、及び処理部124を備える。また、学習装置125は、記憶部126及び処理部127を備える。なお、寸法データ算出装置120及び学習装置125は、LSI、ASIC、FPGA等を用いてハードウェアとして実現されてもよい。
記憶部121,126は、何れも各種情報を記憶するものであり、メモリ及びハードディスク等の任意の記憶装置により実現される。例えば、記憶部121は、処理部124において寸法データ算出に関する情報処理を実行するために、対象物エンジン121Aを含む各種データ、プログラム、情報等を格納する。また、記憶部126は、対象物エンジン121Aを生成するために、学習段階で利用される訓練データを格納する。
入出力部122は、前述の入出力部22と同様の構成及び機能を有するものである。また、通信部123は、前述の通信部23と同様の構成及び機能を有するものである。
処理部124は、コンピュータのCPU,GPU等に、記憶部121に記憶されたプログラムが読み込まれることにより、取得部124A、推定部124D、及び算出部124Eとして機能する。同様に、処理部127は、コンピュータのCPU,GPU等に、記憶部126に記憶されたプログラムが読み込まれることにより、前処理部127A及び学習部127Bとして機能する。
寸法データ算出装置120の処理部124において、取得部124Aは、対象物の全長データ、重量データ、経時データ(年齢等を含む。)とのうちの少なくともいずれかを含む属性データを取得する。本実施形態では、取得部124Aが、属性データを推定部24Dに入力するための受付部としても機能することになる。
推定部124Dは、属性データから所定個数の形状パラメータの値を推定する。推定には、対象物エンジン121Aが使用される。推定部124Dで推定された対象物の形状パラメータの値は、後述のように、対象物が有する任意の部位に関連する寸法データに関連付けることができる。
算出部124Eは、推定部124Dによって推定された対象物の形状パラメータの値から、対象物の寸法データを算出する。具体的には、算出部124Eは、推定部124Dで推定された対象物の形状パラメータの値から、対象物における複数の頂点の3次元データを構成し、更に、当該3次元データに基づいて対象物における任意の2つの頂点の間の寸法データを算出する。
学習装置125の処理部127において、前処理部127Aは、学習のための各種前処理を実施する。特に、前処理部127Aは、サンプル対象物の3次元データを次元削減により特徴抽出することを通じて、所定個数の形状パラメータを特定する。サンプル対象物の形状パラメータの値、及び対応する属性データは、訓練データとして予め記憶部126に格納されている。
なお、サンプル対象物の3次元データとして、対応する属性データ(全長データ、重量データ、経時データ(年齢等を含む。))が用意されているとする。対応する属性データは、訓練データとして記憶部126に格納される。
学習部127Bは、サンプル対象物の形状パラメータの値と、対応する属性データとの関係を関連付けるように学習する。学習の結果、対象物エンジン121Aが生成される。生成された対象物エンジン121Aは、電子ファイルの形態で保持できる。寸法データ算出装置120で対象物の寸法データを算出する際には、対象物エンジン121Aは、記憶部121に格納され推定部124Dによって参照される。
(2−2)寸法データ算出システムの動作
図11及び図12を参照して、図10の寸法データ算出システム200の動作を説明する。図11は、学習装置125の動作(S110)を示すフローチャートであり、ここでは、サンプル対象物データに基づいて対象物エンジン121Aを生成する。図12は寸法データ算出装置120の動作を示すフローチャートであり、ここでは、対象物の画像データに基づいて対象物の寸法データを算出する。
(2−2−1)学習装置の動作
最初に、サンプル対象物のデータが準備され、記憶部126に格納される(S111)。一例では、準備されるデータは、400個のサンプル対象物のデータであり、サンプル対象物ごとに準備される5,000個の3次元データと、サンプル対象物ごとに準備される属性データとを含む。3次元データには、サンプル対象物が有する頂点の3次元座標データが含まれる。また、3次元データには、3次元物体を構成する各メッシュの頂点情報及び各頂点の法線方向等のメッシュ・データが含まれてもよい。
また、第1実施形態と同様、サンプル対象物の3次元データは、頂点番号と共に部位の情報が関連付けられている。
続いて、前処理部127Aは、次元削減により、所定個数(次元)の形状パラメータへの特徴変換を行う(S112)。この特徴変換処理も第1実施形態と同様である。前述の例では、主成分分析に係る射影行列を用いた行列演算の結果、400個のサンプル対象物がそれぞれ有する15,000次元(5,000×3)のデータは、例えば30次元の主成分の形状パラメータΛに特徴変換される。
そして、学習部127Bが、S111で準備された複数のサンプル対象物の属性データと、S112で得た複数の形状パラメータのデータ・セットとの組を訓練データに用いて、両者の関係を機械学習する(S115)。
具体的には、学習部27Bは、対象物の属性データから、変換属性データYを求める。変換属性データYの要素yと形状パラメータΛの要素λとを関連づける変換行列Zの要素をzrmと表記する。変換行列Zは、〔s行、n列〕からなる行列である。また、記号mは、1≦m≦nであり、前述の例ではnは形状パラメータΛの次元数である30である。記号rは、1≦r≦sであり、sは変換属性データYから得られる演算に用いられる要素の数である。
例えば、対象物の属性データが全長データh、重量データw、及び経時データaからなるものと想定する。つまり、属性データは、(h,w,a)の要素のセットである。この場合、学習部27Bは、対象物の属性データの各要素(h,w,a)を2乗した値(二次項ともいう。)と、各要素を掛け合わせた値(相互作用項ともいう。)と、各要素自体の値(一次項ともいう。)とを求める。
その結果、次の9個の要素を有する変換属性データYが得られる。
Figure 2020181283
次に、学習部27Bは、400個のサンプル対象物に関連付けられた属性データから得られる変換属性データYと、サンプル対象物の3次元データから得られた形状パラメータΛとの組を回帰分析することにより、次に示すような、〔9行、30列〕からなる変換行列Zを求める。
Figure 2020181283
このようにして求められた変換行列Zのデータは、対象物エンジン121Aとして記憶部26に記憶される。
(2−2−2)寸法データ算出装置の動作
寸法データ算出装置120は、学習装置125で生成された対象物エンジン121Aの電子ファイル、及び学習装置125で得た主成分分析の射影情報を記憶部121に格納して、対象物の寸法データ算出に使用する。
最初に、取得部124Aは、入出力部122を通じて、対象物の属性データを取得する(S121)。これにより、対象物の属性データを受け付ける。次いで、予め記憶部121に格納された対象物エンジン121Aを使用して、推定部124Dは、受け付けた属性データから対象物の形状パラメータの値を推定する(S124)。
例えば、対象物の属性データが全長データh、重量データw、及び経時データaからなるものと想定する。つまり、属性データは、(h,w,a)の要素のセットである。S124では、上述したように、推定部124Dは、対象物の属性データの各要素(h,w,a)を2乗した値と、各要素を掛け合わせた値と、各要素自体の値とからなる変換属性データYを得る。
最後に、算出部124Eは、対象物の形状パラメータの値に基づいて、対象物が有する部位に関連する寸法データを算出する(S125)。具体的には、取得部124Aが取得した対象物の属性データから、変換属性データYを算出する。そして、その変換属性データYに上述した変換行列Zを掛け合わせることで形状パラメータΛを算出する。この後は、第1実施形態におけるもの(S25)と同様に、3次元データから3次元物体を仮想的に構成し、3次元物体上の曲面に沿って2つの頂点の間の寸法データを算出する。なお、立体的な距離の計算には、3次元物体を構成する各メッシュの頂点情報及び各頂点の法線方向等のメッシュ・データを用いることができる。
このように、本実施形態の寸法データ算出装置120は、対象物エンジン121Aを使用することにより、対象物の属性データから所定個数の形状パラメータの値を高精度に推定することができる。第1実施形態とは異なり、対象物の画像入力の必要がなく、かつ図3のS22(形状データの抽出処理)及びS23(リスケール処理)を必要としないので、効率的である。
また、高精度に推定された形状パラメータの値から、対象物の3次元データを高精度に復元することができるので、特定部位のみならず任意の2つの頂点間を採寸対象箇所として、高精度に算出することができる。特に、算出される2つの頂点の間の寸法データは、3次元データから構成される3次元物体に基づいて、立体的な形状に沿って算出されるので、高精度である。
(2−3)寸法データ算出システムの特徴
以上説明したように、本実施形態に係る寸法データ算出システム200は、寸法データ算出装置120及び学習装置125を備える。寸法データ算出装置120の一部として構成される情報処理装置は、取得部(受付部)124A、推定部124D、及び算出部124Eを備える。取得部(受付部)124Aは、対象物の属性データを受け付ける。推定部124Dは、サンプル対象物の属性データと、サンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジン121Aを使用して、受け付けた属性データから対象物の形状パラメータの値を推定する。そして、推定された対象物の形状パラメータの値が、対象物が有する任意の部位に関連する寸法データに関連付けられる。
したがって、寸法データ算出装置120は、予め作成済みの対象物エンジン121Aを使用することにより、属性データから所定個数の形状パラメータの値を効率的に推定することができる。また、推定される形状パラメータの値は高精度である。また、高精度に推定された形状パラメータの値を用いることで、対象物の任意の部位に関連するデータを効率的且つ高精度で算出することができる。このように、寸法データ算出装置120によれば、対象物について算出される寸法データを効率的且つ高精度で提供することができる。
(2−4)製品製造システムへの適用
図13は本実施形態に係る製品製造システム1Sの概念を示す模式図である。本実施形態に係る寸法データ算出装置120も、第1実施形態に係る寸法データ算出装置20と同様に、製品製造システム1Sに適用することが可能である。
本実施形態に係る端末装置10Sは、対象物7の属性を示す属性データの入力を受け付けるものであればよい。「属性」としては、対象物7の全長・重量・生成からの経過時間(年齢を含む)等が挙げられる。
また、前述のように、寸法データ算出装置120の処理部124は、取得部124A、推定部124D、及び算出部124Eとして機能する。算出部124Eは、推定部124Dで得られた対象物の形状パラメータの値に基づいて、対象物が有する部位に関連する寸法データを算出する
製品製造システム1Sでは、寸法データ算出装置120が効率的且つ高精度に対象物7の寸法データを算出するので、対象物7の形状に関連する所望の製品を提供できる。その他、第2実施形態に係る製品製造システム1Sは、第1実施形態の製品製造システム1と同様の効果を発揮することができる。
<他の実施形態>
本開示は、上記各実施形態そのままに限定されるものではない。本開示は、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できるものである。また、本開示は、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の開示を形成できるものである。例えば、実施形態に示される全構成要素から幾つかの構成要素は削除してもよいものである。さらに、異なる実施形態に構成要素を適宜組み合わせてもよいものである。
1,1S・・・製品製造システム、100,200…寸法データ算出システム、20,120…寸法データ算出装置、21,26,121,126…記憶部、21A,121A…対象物エンジン、22,122…入出力部、23,123…通信部、24,27,124,127…処理部、24A,124A…取得部、24B…抽出部、24C…変換部、24D,124D…推定部、24E,124E…算出部、25,125…学習装置、27A,127A…前処理部、27B,127B…学習部
特開2017−018158号公報

Claims (24)

  1. 対象物のシルエット画像を受け付ける受付部と、
    サンプル対象物のシルエット画像と前記サンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、前記受け付けたシルエット画像から前記対象物の形状パラメータの値を推定する推定部と、
    を備え、前記推定された対象物の形状パラメータの値が、前記対象物が有する任意の部位に関連する寸法データに関連付けられる、情報処理装置。
  2. 前記サンプル対象物に関連付けられた所定個数の形状パラメータが、前記サンプル対象物の3次元データを次元削減することによって得られる、請求項1記載の情報処理装置。
  3. 前記次元削減が主成分分析により行われ、
    前記推定された所定個数の形状パラメータの値に対し、前記主成分分析に係る射影の逆変換により前記対象物の3次元データが算出され、前記3次元データが前記寸法データに関連付けられる、請求項2記載の情報処理装置。
  4. 第1順位の主成分を除いた第2順位以降の所定個数の主成分が前記形状パラメータに選択される、請求項3記載の情報処理装置。
  5. 前記対象物が人であり、前記第1順位の主成分が人の身長に関連付けられる、請求項4記載の情報処理装置。
  6. 前記サンプル対象物のシルエット画像が、前記サンプル対象物の3次元データから構成される3次元物体における所定方向の投影画像である、請求項1から5の何れか一項記載の情報処理装置。
  7. 前記対象物エンジンが、前記サンプル対象物のシルエット画像と前記サンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習することにより生成されている、請求項1から6の何れか一項記載の情報処理装置。
  8. 前記対象物について前記推定された形状パラメータの値から、前記対象物における複数の頂点の3次元データを構成し、前記構成された3次元データに基づいて、前記対象物における任意の2つの前記頂点の間の寸法データを算出する算出部と、
    を更に備える、請求項1から7の何れか一項記載の情報処理装置。
  9. 前記算出部において、前記2つの頂点の間の寸法データが、前記対象物における前記複数の頂点の3次元データから構成される3次元物体上の曲面に沿って算出される、請求項8記載の情報処理装置。
  10. 前記対象物のシルエット画像が、深度データ測定装置を用いて得られる深度データに基づいて、対象物の画像と前記対象物以外の画像とを分離することで生成される、請求項1から9の何れか一項記載の情報処理装置。
  11. 前記深度データ測定装置がステレオカメラである、請求項10記載の情報処理装置。
  12. サンプル対象物のシルエット画像と前記サンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習させ、前記対象物エンジンを生成するステップと、
    対象物のシルエット画像を受け付けるステップと、
    前記対象物エンジンを使用して、前記受け付けたシルエット画像から前記対象物の形状パラメータの値を推定するステップと、
    前記対象物の形状パラメータの値に基づいて、前記対象物が有する部位に関連する寸法データを算出するステップと、
    を含む、情報処理方法。
  13. 対象物の属性データを受け付ける受付部と、
    サンプル対象物の属性データと前記サンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、前記受け付けた属性データから前記対象物の形状パラメータの値を推定する推定部と、
    を備え、前記推定された対象物の形状パラメータの値が、前記対象物が有する任意の部位に関連する寸法データに関連付けられる、情報処理装置。
  14. 前記サンプル対象物に関連付けられた所定個数の形状パラメータが、前記サンプル対象物の3次元データを次元削減することによって得られる、請求項13記載の情報処理装置。
  15. 前記次元削減が主成分分析により行われ、第1順位の主成分を除いた第2順位以降の所定個数の主成分が前記形状パラメータに選択される、請求項14記載の情報処理装置。
  16. 前記対象物が人であり、前記第1順位の主成分が人の身長に関連付けられ、前記属性データには前記対象物の身長データが含まれる、請求項15記載の情報処理装置。
  17. 前記対象物エンジンが、前記サンプル対象物の属性データと前記サンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習することにより生成されている、請求項13から16の何れか一項記載の情報処理装置。
  18. 前記対象物について前記推定された形状パラメータの値から、前記対象物における複数の頂点の3次元データを構成し、前記構成された3次元データに基づいて、前記対象物における任意の2つの前記頂点の間の寸法データを算出する算出部と、
    を更に備える、請求項13から17の何れか一項記載の情報処理装置。
  19. 前記算出部において、前記2つの頂点の間の寸法データが、前記対象物における前記複数の頂点の3次元データから構成される3次元物体上の曲面に沿って算出される、請求項18記載の情報処理装置。
  20. サンプル対象物の属性データと前記サンプル対象物に関連付けられた所定個数の形状パラメータの値との関係を学習させ、前記対象物エンジンを生成するステップと、
    対象物の属性データを受け付けるステップと、
    前記受け付けた属性データから前記対象物の形状パラメータの値を推定する推定ステップと、
    前記対象物の形状パラメータの値に基づいて、前記対象物が有する部位に関連する寸法データを算出するステップと、
    を含む、情報処理方法。
  21. 対象物が撮影された画像データ及び前記対象物の全長データを取得する取得部と、
    前記画像データから前記対象物の形状を示す形状データを抽出する抽出部と、
    前記形状データを前記全長データに基づいてシルエット画像に変換する変換部と、
    サンプル対象物のシルエット画像と前記サンプル対象物に関連付けられた所定個数の形状パラメータの値とを関連付けた対象物エンジンを使用して、前記シルエット画像から所定個数の形状パラメータの値を推定する推定部と、
    前記推定された所定個数の形状パラメータの値に基づいて、前記対象物の寸法データを算出する算出部と、
    を備える、寸法データ算出装置。
  22. 前記所定個数の形状パラメータが、前記サンプル対象物の3次元データを次元削減することによって得られる、請求項21記載の寸法データ算出装置。
  23. 前記次元削減が主成分分析により行われ、
    前記算出部において、前記所定個数の形状パラメータの値に対し、前記主成分分析に係る射影行列に基づいて逆変換を行うことにより3次元データが算出され、前記寸法データが前記3次元データから算出される、請求項22記載の寸法データ算出装置。
  24. 請求項21から23の何れか一項記載の寸法データ算出装置を用いて算出された少なくとも1つの寸法データを用いて、前記対象物の形状に関連する製品を製造する、製品製造装置。
JP2019082513A 2018-11-30 2019-04-24 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置 Active JP6579353B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019082513A JP6579353B1 (ja) 2019-04-24 2019-04-24 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置
PCT/JP2019/046896 WO2020111269A1 (ja) 2018-11-30 2019-11-29 寸法データ算出装置、製品製造装置、情報処理装置、及びシルエット画像生成装置、端末装置
US17/333,008 US11922649B2 (en) 2018-11-30 2021-05-27 Measurement data calculation apparatus, product manufacturing apparatus, information processing apparatus, silhouette image generating apparatus, and terminal apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019082513A JP6579353B1 (ja) 2019-04-24 2019-04-24 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019122719A Division JP6593830B1 (ja) 2019-07-01 2019-07-01 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置

Publications (2)

Publication Number Publication Date
JP6579353B1 JP6579353B1 (ja) 2019-09-25
JP2020181283A true JP2020181283A (ja) 2020-11-05

Family

ID=68053537

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019082513A Active JP6579353B1 (ja) 2018-11-30 2019-04-24 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置

Country Status (1)

Country Link
JP (1) JP6579353B1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6932821B1 (ja) * 2020-07-03 2021-09-08 株式会社ベガコーポレーション 情報処理システム、方法及びプログラム
JPWO2022009821A1 (ja) * 2020-07-07 2022-01-13

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018180662A (ja) * 2017-04-05 2018-11-15 前田建設工業株式会社 資材の検収システム
JP2018536234A (ja) * 2015-11-18 2018-12-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 検査対象の絶対的なサイズ寸法を推定する方法及び装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018536234A (ja) * 2015-11-18 2018-12-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 検査対象の絶対的なサイズ寸法を推定する方法及び装置
JP2018180662A (ja) * 2017-04-05 2018-11-15 前田建設工業株式会社 資材の検収システム

Also Published As

Publication number Publication date
JP6579353B1 (ja) 2019-09-25

Similar Documents

Publication Publication Date Title
JP6522060B2 (ja) オブジェクト認識装置、分類ツリー学習装置及びその動作方法
US10489683B1 (en) Methods and systems for automatic generation of massive training data sets from 3D models for training deep learning networks
EP2819098B1 (en) Methods and systems for generating a three dimentional representation of a subject
JP4950787B2 (ja) 画像処理装置及びその方法
JP6116784B1 (ja) 3次元モデル生成システム、3次元モデル生成方法、及びプログラム
CN103718175B (zh) 检测对象姿势的设备、方法和介质
KR101911133B1 (ko) 깊이 카메라를 이용한 아바타 구성
KR20190000907A (ko) 고속 3d 모델 피팅 및 인체 측정법
US20200057778A1 (en) Depth image pose search with a bootstrapped-created database
WO2018183751A1 (en) Determining anthropometric measurements of a nonstationary subject
JP2014085933A (ja) 3次元姿勢推定装置、3次元姿勢推定方法、及びプログラム
JP6579353B1 (ja) 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置
JP2010211732A (ja) 物体認識装置および方法
JP6792273B2 (ja) 寸法データ算出装置、製品製造装置、及びシルエット画像生成装置
Han et al. CHORUS: Learning Canonicalized 3D Human-Object Spatial Relations from Unbounded Synthesized Images
JP6593830B1 (ja) 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置
JP2008171074A (ja) 三次元形状モデル生成装置、三次元形状モデル生成方法、コンピュータプログラム、及び三次元形状モデル生成システム
US11922649B2 (en) Measurement data calculation apparatus, product manufacturing apparatus, information processing apparatus, silhouette image generating apparatus, and terminal apparatus
Wang et al. Im2fit: Fast 3d model fitting and anthropometrics using single consumer depth camera and synthetic data
Chang et al. Seeing through the appearance: Body shape estimation using multi-view clothing images
JP2020204575A (ja) 寸法データ算出装置、プログラム、方法、製品製造装置、及び製品製造システム
KR102258114B1 (ko) 다중 사용자 추적 장치 및 방법
CN113111743A (zh) 人员距离探测方法及装置
CN113128292A (zh) 一种图像识别方法、存储介质及终端设备
JP6531273B1 (ja) 寸法データ算出装置、プログラム、方法、製品製造装置、及び製品製造システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190524

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190524

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190813

R150 Certificate of patent or registration of utility model

Ref document number: 6579353

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250