JP2021178468A - Modeling data generation device, modeling data generation method, and modeling data generation program - Google Patents

Modeling data generation device, modeling data generation method, and modeling data generation program Download PDF

Info

Publication number
JP2021178468A
JP2021178468A JP2020085197A JP2020085197A JP2021178468A JP 2021178468 A JP2021178468 A JP 2021178468A JP 2020085197 A JP2020085197 A JP 2020085197A JP 2020085197 A JP2020085197 A JP 2020085197A JP 2021178468 A JP2021178468 A JP 2021178468A
Authority
JP
Japan
Prior art keywords
model
shoe
modeling data
dimensional
modeling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020085197A
Other languages
Japanese (ja)
Inventor
尚吾 藤田
Shogo Fujita
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Printing Co Ltd filed Critical Toppan Printing Co Ltd
Priority to JP2020085197A priority Critical patent/JP2021178468A/en
Publication of JP2021178468A publication Critical patent/JP2021178468A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

To provide a modeling data generation device, a modeling data generation method, and a modeling data generation program capable of generating modeling data for three-dimensional modeling from an image of a two-dimensional shoe mark in a simple configuration.SOLUTION: A modeling data generation device comprises: a three-dimensional model generation section 312 for generating a three-dimensional model according to a shoe mark of a two-dimensional image including the shoe mark; and a modeling data generation section 313 for generating three-dimensional modeling data for modeling the shoe mark by fitting polyhedral data to the generated three-dimensional model.SELECTED DRAWING: Figure 3

Description

本実施形態は、造形データ生成装置、造形データ生成方法及び造形データ生成プログラムに関する。 The present embodiment relates to a modeling data generation device, a modeling data generation method, and a modeling data generation program.

科学捜査の1つとして足跡鑑定が知られている。足跡鑑定は、現場に残された足跡や靴跡から、その靴跡の人物を特定したり、その場で何が起こったかを推定したりする捜査手法である。足跡鑑定のためには、足跡の採取が必要である。足跡の採取の手法として、例えば石膏を流し込んで靴型を採取する手法が知られている。しかしながら、石膏を用いる手法では採取に時間がかかり、また、足跡の細部までを採取することは困難である。一方で近年、アパレル分野を中心に、例えば特許文献1等で提案されているようにデジタル機器を用いて足の形状を計測して、その計測データから足の木型を形成する手法も提案されてきている。 Footprint appraisal is known as one of the forensics. Footprint appraisal is an investigation method that identifies the person in the footsteps from the footsteps and footsteps left on the scene and estimates what happened on the spot. It is necessary to collect footprints for footprint identification. As a method of collecting footprints, for example, a method of pouring plaster to collect a last is known. However, the method using gypsum takes time to collect, and it is difficult to collect the details of the footprints. On the other hand, in recent years, mainly in the apparel field, a method of measuring the shape of a foot using a digital device and forming a foot tree shape from the measured data has been proposed, for example, as proposed in Patent Document 1. It's coming.

国際公開第2017/078168号International Publication No. 2017/078168

靴型の採取のために得られる画像は、通常、2次元の画像である。このため、2次元の靴跡の画像から3次元の靴型を造形するための造形データの生成手法が求められている。 The image obtained for the last collection is usually a two-dimensional image. Therefore, there is a demand for a method for generating modeling data for modeling a three-dimensional last from an image of a two-dimensional shoe mark.

本実施形態は、前記の事情に鑑みてなされたものであり、簡易な構成で2次元の靴跡の画像から3次元造形のための造形データを生成できる造形データ生成装置、造形データ生成方法及び造形データ生成プログラムを提供することを目的とする。 This embodiment is made in view of the above circumstances, and is a modeling data generation device, a modeling data generation method, and a modeling data generation device capable of generating modeling data for three-dimensional modeling from an image of a two-dimensional shoe mark with a simple configuration. The purpose is to provide a modeling data generation program.

第1の態様の造形データ生成装置は、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成する3次元モデル生成部と、生成された3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部とを具備する。 The modeling data generation device of the first aspect has a three-dimensional model generation unit that generates a three-dimensional model corresponding to the shoe marks of a two-dimensional image including shoe marks, and the generated three-dimensional model is fitted with polyhedron data. It is provided with a modeling data generation unit that generates three-dimensional modeling data for modeling a shoe mold.

第2の態様の造形データ生成装置は、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成する3次元モデル生成部と、生成された3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索する検索部と、生成された3次元モデルに、検索された靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部とを具備する。 The modeling data generation device of the second aspect has a three-dimensional model generation unit that generates a three-dimensional model according to the shoe marks of the two-dimensional image including the shoe marks, and shoes similar to the shoe sole of the generated three-dimensional model. A search unit that searches for a shoe model that is a 3D model of shoes with a sole, and a generated 3D model that fits the searched shoe model to generate 3D modeling data for shoe model modeling. It is provided with a modeling data generation unit.

第3の態様の造形データ生成方法は、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成することと、生成された3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することとを具備する。 The modeling data generation method of the third aspect is to generate a three-dimensional model corresponding to the shoe marks of the two-dimensional image including the shoe marks, and to fit the polyhedral data to the generated three-dimensional model to fit the shoe type. It comprises generating three-dimensional modeling data for modeling.

第4の態様の造形データ生成方法は、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成することと、生成された3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、生成された3次元モデルに、検索された靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することとを具備する。 The modeling data generation method of the fourth aspect is to generate a three-dimensional model corresponding to the shoe mark of the two-dimensional image including the shoe mark, and a shoe having a shoe sole similar to the shoe sole of the generated three-dimensional model. It includes searching for a shoe model, which is a 3D model of the above, and fitting the searched shoe model to the generated 3D model to generate 3D modeling data for shoe model modeling. do.

第5の態様の造形データ生成プログラムは、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成することと、生成された3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することとをコンピュータに実行させる。 The modeling data generation program of the fifth aspect generates a three-dimensional model corresponding to the shoe marks of the two-dimensional image including the shoe marks, and fits the polyhedron data to the generated three-dimensional model to fit the shoe type. Have the computer perform the generation of 3D modeling data for modeling.

第6の態様の造形データ生成プログラムは、靴跡を含む2次元画像の靴跡に応じた3次元モデルを生成することと、生成された3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、生成された3次元モデルに、検索された靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することとをコンピュータに実行させる。 The modeling data generation program of the sixth aspect generates a three-dimensional model corresponding to the shoe mark of the two-dimensional image including the shoe mark, and the shoe having a shoe sole similar to the shoe sole of the generated three-dimensional model. Searching for a shoe model, which is a 3D model of, and fitting the searched shoe model to the generated 3D model to generate 3D modeling data for shoe mold modeling. To execute.

本発明によれば、簡易な構成で2次元の靴跡の画像から3次元造形のための造形データを生成できる造形データ生成装置、造形データ生成方法及び造形データ生成プログラムを提供することができる。 According to the present invention, it is possible to provide a modeling data generation device, a modeling data generation method, and a modeling data generation program that can generate modeling data for three-dimensional modeling from an image of a two-dimensional shoe mark with a simple configuration.

図1は、第1の実施形態の造形データ生成装置を含む造形データ生成システムの構成の一例を示す図である。FIG. 1 is a diagram showing an example of a configuration of a modeling data generation system including the modeling data generation device of the first embodiment. 図2は、造形データ生成装置の一例の構成を示す図である。FIG. 2 is a diagram showing a configuration of an example of a modeling data generation device. 図3は、第1の実施形態のプロセッサの機能ブロック図である。FIG. 3 is a functional block diagram of the processor of the first embodiment. 図4Aは、第1の実施形態のフィッティングの概念図である。FIG. 4A is a conceptual diagram of the fitting of the first embodiment. 図4Bは、第1の実施形態のフィッティングの概念図である。FIG. 4B is a conceptual diagram of the fitting of the first embodiment. 図5は、第1の実施形態における造形データ生成装置の動作を説明するためのフローチャートである。FIG. 5 is a flowchart for explaining the operation of the modeling data generation device according to the first embodiment. 図6は、第2の実施形態のプロセッサの機能ブロック図である。FIG. 6 is a functional block diagram of the processor of the second embodiment. 図7Aは、第2の実施形態のフィッティングの概念図である。FIG. 7A is a conceptual diagram of the fitting of the second embodiment. 図7Bは、第2の実施形態のフィッティングの概念図である。FIG. 7B is a conceptual diagram of the fitting of the second embodiment. 図8は、第2の実施形態における造形データ生成装置の動作を説明するためのフローチャートである。FIG. 8 is a flowchart for explaining the operation of the modeling data generation device according to the second embodiment.

以下、実施形態について、図面を参照して説明する。
[第1の実施形態]
図1は、第1の実施形態の造形データ生成装置を含む造形データ生成システムの構成の一例を示す図である。図1に示すように、造形データ生成システム1は、カメラ2と、造形データ生成装置3と、3次元(3D)プリンタ4とを有している。カメラ2と、造形データ生成装置3と、3Dプリンタ4とは例えばネットワークNを介して通信できる。カメラ2及び3Dプリンタ4は、必ずしもネットワークNを介して造形データ生成装置3と通信できる必要はない。カメラ2は、2次元画像を造形データ生成装置3に転送できるように構成されていればよい。また、3Dプリンタ4は、造形データ生成装置3から造形データを受け取ることができるように構成されていればよい。
Hereinafter, embodiments will be described with reference to the drawings.
[First Embodiment]
FIG. 1 is a diagram showing an example of a configuration of a modeling data generation system including the modeling data generation device of the first embodiment. As shown in FIG. 1, the modeling data generation system 1 includes a camera 2, a modeling data generation device 3, and a three-dimensional (3D) printer 4. The camera 2, the modeling data generation device 3, and the 3D printer 4 can communicate with each other via, for example, a network N. The camera 2 and the 3D printer 4 do not necessarily have to be able to communicate with the modeling data generation device 3 via the network N. The camera 2 may be configured so that the two-dimensional image can be transferred to the modeling data generation device 3. Further, the 3D printer 4 may be configured so as to be able to receive modeling data from the modeling data generation device 3.

カメラ2は、被写体を撮影して被写体の2次元画像を生成する例えばデジタルカメラである。ここで、実施形態における被写体は、地面に付けられた靴跡である。カメラ2の構成は、2次元画像を生成できるものであれば、特に限定されない。また、カメラ2は、スマートフォン等の各種の端末に設けられていてもよい。 The camera 2 is, for example, a digital camera that captures a subject and generates a two-dimensional image of the subject. Here, the subject in the embodiment is a shoe mark attached to the ground. The configuration of the camera 2 is not particularly limited as long as it can generate a two-dimensional image. Further, the camera 2 may be provided in various terminals such as smartphones.

造形データ生成装置3は、カメラ2で生成された靴跡を含む2次元画像から生成される靴跡を含む3次元モデルに基づき、この靴跡を3次元造形するための3次元の造形データを生成する。 The modeling data generation device 3 obtains three-dimensional modeling data for three-dimensional modeling of the shoe marks based on a three-dimensional model including the shoe marks generated from the two-dimensional image including the shoe marks generated by the camera 2. Generate.

3Dプリンタ4は、造形データに基づいて靴型を造形する。3Dプリンタ4の構成は、レーザ方式等が用いられるが、特には限定されない。また、造形に用いられる造形材としては、例えば靴型を石膏によって造形するのであれば石膏パウダーが用いられてよい。また、靴と同様の質感を再現するために、TPU(熱可塑性ポリウレタン)等の熱可塑性を有するゴム様の材料が用いられてもよい。 The 3D printer 4 forms a last based on the modeling data. A laser method or the like is used for the configuration of the 3D printer 4, but the configuration is not particularly limited. Further, as the modeling material used for modeling, for example, gypsum powder may be used when the last is modeled with gypsum. Further, in order to reproduce the same texture as shoes, a rubber-like material having thermoplasticity such as TPU (thermoplastic polyurethane) may be used.

図2は、造形データ生成装置3の一例の構成を示す図である。図2の造形データ生成装置3は、プロセッサ31と、ROM32と、RAM33と、ストレージ34と、入力インターフェース35と、出力インターフェース36と、通信インターフェース37とを含む。これらの各々は、バス38を介して互いに接続されている。造形データ生成装置3は、パーソナルコンピュータ(PC)、タブレット端末、スマートフォン等の電子機器であってよい。 FIG. 2 is a diagram showing a configuration of an example of a modeling data generation device 3. The modeling data generation device 3 of FIG. 2 includes a processor 31, a ROM 32, a RAM 33, a storage 34, an input interface 35, an output interface 36, and a communication interface 37. Each of these is connected to each other via a bus 38. The modeling data generation device 3 may be an electronic device such as a personal computer (PC), a tablet terminal, or a smartphone.

プロセッサ31は、造形データ生成装置3の各種動作を制御するプロセッサである。プロセッサ31は、例えばCPUであるが、これに限定されない。プロセッサ31は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、GPU(Graphic Processing unit)等であってもよい。また、プロセッサ31は、必ずしも1つのCPU等で構成されている必要はなく、複数のCPU等で構成されていてもよい。 The processor 31 is a processor that controls various operations of the modeling data generation device 3. The processor 31 is, for example, a CPU, but is not limited thereto. The processor 31 may be an ASIC (Application Specific Integrated Circuit), an FPGA (Field Programmable Gate Array), a GPU (Graphic Processing unit), or the like. Further, the processor 31 does not necessarily have to be composed of one CPU or the like, and may be composed of a plurality of CPUs or the like.

ROM32は、造形データ生成装置3の起動プログラム等を記憶している。RAM33は、プロセッサ31等のための主記憶装置である。 The ROM 32 stores a startup program and the like of the modeling data generation device 3. The RAM 33 is a main storage device for the processor 31 and the like.

ストレージ34は、ハードディスク、ソリッドステートドライブといったストレージである。 The storage 34 is a storage such as a hard disk or a solid state drive.

ストレージ34には、プロセッサ31によって用いられる造形データ生成装置3の制御に必要な各種プログラム、パラメータ等が記憶されている。この各種プログラムは、造形データ生成プログラムを含む。造形データ生成プログラムについては後で詳しく説明する。 The storage 34 stores various programs, parameters, and the like necessary for controlling the modeling data generation device 3 used by the processor 31. These various programs include a modeling data generation program. The modeling data generation program will be described in detail later.

また、ストレージ34には、多面体データが記憶されている。多面体データは、造形データを生成するための多面体、例えば直方体状のデータ構造体である。多面体データは、多面体状の座標情報を有している。 Further, polyhedral data is stored in the storage 34. The polyhedral data is a polyhedron for generating modeling data, for example, a rectangular parallelepiped data structure. The polyhedral data has coordinate information in the shape of a polyhedron.

ここで、ストレージ34に記憶されるデータは、造形データ生成装置3とは別体のストレージに記憶されていてもよい。 Here, the data stored in the storage 34 may be stored in a storage separate from the modeling data generation device 3.

入力インターフェース35は、キーボード、マウス、タッチパネル等を含む。入力インターフェース35を介したユーザの操作に応じて、そのユーザの操作の内容を示す信号がバス38を介してプロセッサ31に入力される。プロセッサ31は、この操作の内容を示す信号に応じて各種の処理を実行する。 The input interface 35 includes a keyboard, a mouse, a touch panel, and the like. In response to the user's operation via the input interface 35, a signal indicating the content of the user's operation is input to the processor 31 via the bus 38. The processor 31 executes various processes according to the signal indicating the content of this operation.

出力インターフェース36は、例えば、液晶ディスプレイ等の出力デバイスと、これらの出力デバイスとの通信のためのインターフェースとを含む。出力インターフェース36は、例えばディスプレイにおいて画像を表示させる際に、適宜なタイミングでディスプレイに画像のデータを送る。 The output interface 36 includes, for example, an output device such as a liquid crystal display and an interface for communication with these output devices. The output interface 36 sends image data to the display at an appropriate timing, for example, when displaying an image on the display.

通信インターフェース37は、カメラ2及び3Dプリンタ4との通信のためのインターフェースを含む。通信インターフェース37は、有線通信による通信のためのインターフェースを含んでいてもよいし、無線通信による通信のためのインターフェースを含んでいてもよい。 The communication interface 37 includes an interface for communication with the camera 2 and the 3D printer 4. The communication interface 37 may include an interface for communication by wired communication, or may include an interface for communication by wireless communication.

図3は、第1の実施形態のプロセッサ31の機能ブロック図である。プロセッサ31は、画像取得部311と、3次元モデル生成部312と、造形データ生成部313と、制御部314とを含む。画像取得部311と、3次元モデル生成部312と、造形データ生成部313と、制御部314とは、例えばストレージ34に記憶されている各種プログラムをプロセッサ31が実行することによって実現される。画像取得部311と、3次元モデル生成部312と、造形データ生成部313と、制御部314は、各々と同様の処理を行うハードウェアによって実現されてもよい。 FIG. 3 is a functional block diagram of the processor 31 of the first embodiment. The processor 31 includes an image acquisition unit 311, a three-dimensional model generation unit 312, a modeling data generation unit 313, and a control unit 314. The image acquisition unit 311, the three-dimensional model generation unit 312, the modeling data generation unit 313, and the control unit 314 are realized, for example, by the processor 31 executing various programs stored in the storage 34. The image acquisition unit 311, the three-dimensional model generation unit 312, the modeling data generation unit 313, and the control unit 314 may be realized by hardware that performs the same processing as each.

また、画像取得部311と、3次元モデル生成部312と、造形データ生成部313と、制御部314のすべてはプロセッサ31によって実現される必要はない。例えば、3次元モデル生成部312と、造形データ生成部313とのうちの何れかは、造形データ生成装置3とは別のサーバに設けられてもよい。 Further, the image acquisition unit 311, the three-dimensional model generation unit 312, the modeling data generation unit 313, and the control unit 314 do not all need to be realized by the processor 31. For example, either the three-dimensional model generation unit 312 or the modeling data generation unit 313 may be provided on a server different from the modeling data generation device 3.

画像取得部311は、カメラ2から画像を取得する。この画像は、靴跡を含む対象物を複数の異なる方向からカメラ2で撮影することによって生成された2枚以上の画像である。3次元モデル生成部312による3次元モデルの生成方式によっては、画像取得部311は、1枚の画像を取得するように構成されていてもよい。 The image acquisition unit 311 acquires an image from the camera 2. This image is two or more images generated by taking an object including a shoe mark from a plurality of different directions with the camera 2. Depending on the three-dimensional model generation method by the three-dimensional model generation unit 312, the image acquisition unit 311 may be configured to acquire one image.

3次元モデル生成部312は、画像取得部311によって取得された靴跡を含む2次元画像から靴跡の3次元モデルを生成する。3次元モデル生成部312は、例えばMVS(Multi-View Stereo)を用いて3次元モデルを生成する。MVSは、複数の異なる方向から撮影される2次元の画像における共通の対象物(靴跡)の特徴点の座標の対応関係とカメラのカメラ内部パラメータとから対象物の3次元形状を推定する手法である。3次元モデル生成部312がMVSによって対象物の3次元モデルを生成するように構成されている場合、カメラ2は、異なる方向から撮影された2以上の画像と、それぞれの撮影のときのカメラ内部パラメータとを造形データ生成装置3に送る。 The 3D model generation unit 312 generates a 3D model of the shoe mark from the 2D image including the shoe mark acquired by the image acquisition unit 311. The 3D model generation unit 312 generates a 3D model using, for example, MVS (Multi-View Stereo). MVS is a method of estimating the 3D shape of an object from the correspondence between the coordinates of the feature points of a common object (shoe mark) in 2D images taken from multiple different directions and the internal parameters of the camera. Is. When the 3D model generator 312 is configured to generate a 3D model of an object by MVS, the camera 2 has two or more images taken from different directions and the inside of the camera at the time of each shooting. The parameters are sent to the modeling data generation device 3.

また、3次元モデル生成部312は、SfS(Shape from Shading)を用いて対象物の3次元モデルを生成するように構成されていてもよい。SfSは、2次元画像における陰影から対象物の3次元形状を推定する手法である。3次元モデル生成部312がSfSによって対象物の3次元モデルを生成するように構成されている場合、カメラ2は、1枚の画像を送ればよい。また、3次元モデル生成部312がSfSによって対象物の3次元モデルを生成するように構成されている場合、3次元モデル生成部312は、ディープラーニングを利用して画像内の陰影を認識してもよい。さらには、3次元モデル生成部312は、MVSとSfSとを組み合わせて3次元モデルを生成してもよい。 Further, the 3D model generation unit 312 may be configured to generate a 3D model of the object by using SfS (Shape from Shading). SfS is a method of estimating the three-dimensional shape of an object from the shadow in a two-dimensional image. When the 3D model generation unit 312 is configured to generate a 3D model of the object by SfS, the camera 2 may send one image. Further, when the 3D model generation unit 312 is configured to generate a 3D model of the object by SfS, the 3D model generation unit 312 recognizes the shadow in the image by using deep learning. May be good. Further, the 3D model generation unit 312 may generate a 3D model by combining MVS and SfS.

第1の実施形態の造形データ生成部313は、ストレージ34に記憶されている多面体データを3次元モデル生成部312で生成された3次元モデルにフィッティングさせることで造形データを生成する。 The modeling data generation unit 313 of the first embodiment generates modeling data by fitting the polyhedral data stored in the storage 34 to the three-dimensional model generated by the three-dimensional model generation unit 312.

図4A及び図4Bは、第1の実施形態のフィッティングの概念図である。フィッティングは、図4Aに示すように、3次元モデルMにおける靴跡の面に多面体データD1の一部の面を近づけた後、図4Bに示すように多面体データD1の面F1を変形させることで行われる。多面体データD1の面F1の変形は、例えば面F1を構成する各点を面F1の法線方向に移動させることで行われる。また、多面体データD1の面F1の変形は、非剛体位置合わせによって行われてもよい。図4Bのようにしてフィッティングされた多面体データD1が造形データである。 4A and 4B are conceptual diagrams of the fitting of the first embodiment. The fitting is performed by bringing a part of the polyhedral data D1 close to the surface of the shoe mark in the three-dimensional model M as shown in FIG. 4A, and then deforming the surface F1 of the polyhedral data D1 as shown in FIG. 4B. Will be done. The deformation of the surface F1 of the polyhedral data D1 is performed, for example, by moving each point constituting the surface F1 in the normal direction of the surface F1. Further, the deformation of the surface F1 of the polyhedral data D1 may be performed by non-rigid body alignment. The polyhedral data D1 fitted as shown in FIG. 4B is the modeling data.

制御部314は、造形データ生成部313によって生成された造形データを通信インターフェース37を介して3Dプリンタ4に送信する際の制御をする。 The control unit 314 controls when the modeling data generated by the modeling data generation unit 313 is transmitted to the 3D printer 4 via the communication interface 37.

次に、造形データ生成装置3の動作を説明する。図5は、第1の実施形態における造形データ生成装置3の動作を説明するためのフローチャートである。図5の処理は、例えばプロセッサ31が造形データ生成プログラムに従って行う。造形データ生成装置3の動作に先立ち、カメラ2のユーザは、靴跡を撮影する。ここで、3Dプリンタ4における靴型の造形を容易にするためには、造形データ生成部313で生成される造形データのサイズが、3Dプリンタ4において造形される靴型のサイズと揃えられることが望ましい。このためには、撮影される靴跡のサイズが既知であることが望ましい。撮影される靴跡のサイズを既知とするために、カメラ2のユーザは、既知のサイズのマーカとともに靴跡を撮影する。マーカは、サイズが既知で、かつ、画像上で識別できるものであれば限定されない。または、カメラ2のユーザは、カメラ2の画角、すなわち撮影距離及び焦点距離を固定にして撮影をしてもよい。さらに、カメラ2のユーザは、靴跡のサイズを測定し、測定した靴跡のサイズを撮影した画像とともに造形データ生成装置3に入力してもよい。このようにして撮影が完了した後、ユーザはカメラ2で撮影した画像を例えばネットワークNを介して造形データ生成装置3に送る。 Next, the operation of the modeling data generation device 3 will be described. FIG. 5 is a flowchart for explaining the operation of the modeling data generation device 3 in the first embodiment. The process of FIG. 5 is performed by, for example, the processor 31 according to the modeling data generation program. Prior to the operation of the modeling data generation device 3, the user of the camera 2 photographs the shoe marks. Here, in order to facilitate the modeling of the last in the 3D printer 4, the size of the modeling data generated by the modeling data generation unit 313 may be aligned with the size of the last modeled in the 3D printer 4. desirable. For this purpose, it is desirable that the size of the shoe mark to be photographed is known. In order to make the size of the shoe mark to be photographed known, the user of the camera 2 photographs the shoe mark together with a marker of the known size. The marker is not limited as long as the size is known and can be identified on the image. Alternatively, the user of the camera 2 may shoot with the angle of view of the camera 2, that is, the shooting distance and the focal length fixed. Further, the user of the camera 2 may measure the size of the shoe mark and input the measured size of the shoe mark to the modeling data generation device 3 together with the captured image. After the shooting is completed in this way, the user sends the image shot by the camera 2 to the modeling data generation device 3 via, for example, the network N.

ステップS1において、プロセッサ31は、画像が入力されたか否かを判定する。ステップS1において、画像が入力されていないと判定されたときには、プロセッサ31は、図5の処理を終了させる。ステップS1において、画像が入力されたと判定されたときには、処理はステップS2に移行する。 In step S1, the processor 31 determines whether or not an image has been input. When it is determined in step S1 that no image has been input, the processor 31 ends the process of FIG. When it is determined in step S1 that the image has been input, the process proceeds to step S2.

ステップS2において、プロセッサ31は、画像内の靴跡における付着物を検出する。付着物は、靴底に付着していた落ち葉やガム等が地面に転写されたもの又は靴跡の形成後に付着したものである。付着物は、例えばエッジ抽出等によって画像内の靴跡の領域を抽出し、抽出した領域内における特徴量検出をすることによって検出され得る。 In step S2, the processor 31 detects deposits on the shoe marks in the image. The deposits are those in which fallen leaves, gum, etc., which had adhered to the sole of the shoe are transferred to the ground, or those that have adhered after the formation of shoe marks. The deposit can be detected by extracting the region of the shoe mark in the image by, for example, edge extraction, and detecting the feature amount in the extracted region.

ステップS3において、プロセッサ31は、付着物が検出されたか否かを判定する。付着物が検出されたと判定されたとき、処理はステップS4に移行する。付着物が検出されていないと判定されたとき、処理はステップS5に移行する。 In step S3, the processor 31 determines whether or not the deposit has been detected. When it is determined that the deposit is detected, the process proceeds to step S4. When it is determined that no deposit is detected, the process proceeds to step S5.

ステップS4において、プロセッサ31は、画像における付着物の位置を欠損箇所に設定する。または、ステップS4において、プロセッサ31は、画像における付着物の位置をその周囲の画像によって補完する。 In step S4, the processor 31 sets the position of the deposit in the image at the defect location. Alternatively, in step S4, the processor 31 complements the position of the deposit in the image with the image around it.

ステップS5において、プロセッサ31は、靴跡の3次元モデルを生成する。ここで、プロセッサ31は、欠損箇所に設定されている位置については3次元モデルを生成しなくてもよい。または、プロセッサ31は、欠損箇所に設定されている位置を含めて3次元モデルを生成し、生成した3次元モデルから欠損箇所に相当する部分を除いてもよい。または、プロセッサ31は、欠損箇所に設定されている位置を含めて3次元モデルを生成し、生成した3次元モデルにおける欠損箇所に相当する部分をその周囲のデータから補完してもよい。付着物は、造形には必要のない部分であるために造形データの生成の前に除去されるか、補完される。 In step S5, the processor 31 generates a three-dimensional model of the shoe mark. Here, the processor 31 does not have to generate a three-dimensional model for the position set in the defective portion. Alternatively, the processor 31 may generate a three-dimensional model including the position set in the defective portion, and remove the portion corresponding to the defective portion from the generated three-dimensional model. Alternatively, the processor 31 may generate a three-dimensional model including the position set in the defective portion, and complement the portion corresponding to the defective portion in the generated three-dimensional model from the surrounding data. The deposits are removed or complemented prior to the generation of the build data because they are parts that are not needed for the build.

ステップS6において、プロセッサ31は、造形データを生成する。前述したように、プロセッサ31は、生成した靴跡の3次元モデルに合うように多面体データをフィッティングさせることで造形データを生成する。 In step S6, the processor 31 generates modeling data. As described above, the processor 31 generates modeling data by fitting the polyhedral data so as to match the generated three-dimensional model of the shoe mark.

ステップS7において、プロセッサ31は、造形データを3Dプリンタ4に送信する。その後、プロセッサ31は、図5の処理を終了させる。これにより、3Dプリンタ4は、造形データに基づき、靴型を造形する。 In step S7, the processor 31 transmits the modeling data to the 3D printer 4. After that, the processor 31 ends the process of FIG. As a result, the 3D printer 4 forms the last based on the modeling data.

以上説明したように第1の実施形態によれば、靴跡を含む2次元画像から靴跡の3次元モデルが生成され、この3次元モデルに多面体データをフィッティングさせることで造形データが生成される。つまり、第1の実施形態では、デジタルカメラ又はスマートフォン等に搭載されるカメラ機能だけで3次元モデルが生成され得る。また、デジタルカメラ又はスマートフォン等に搭載されるカメラ機能は、3Dスキャナよりも高解像度の画像を撮影できる。これにより、簡易な構成でより精細な3次元モデルが生成され得る。また、第1の実施形態では、造形データから3Dプリンタによって造形が行われる。現場で靴型を造形する必要がないので、石膏等の造形材の輸送にかかる手間も削減される。また、3Dプリンタであれば、石膏、TPU等の種々の材料が用いられ得る。例えば、石膏によって造形が行われることで、従来の足型採取と同様の靴型が造形され得る。また、TPUであれば、本来の靴と同様の質感を有する靴型が造形され得る。このため、実際に靴跡があった現場と同じ状況を再現しやすくなる。 As described above, according to the first embodiment, a three-dimensional model of shoe marks is generated from a two-dimensional image including shoe marks, and modeling data is generated by fitting polyhedral data to this three-dimensional model. .. That is, in the first embodiment, a three-dimensional model can be generated only by the camera function mounted on a digital camera, a smartphone, or the like. In addition, the camera function installed in a digital camera, a smartphone, or the like can capture an image with a higher resolution than a 3D scanner. As a result, a finer three-dimensional model can be generated with a simple configuration. Further, in the first embodiment, modeling is performed from the modeling data by a 3D printer. Since it is not necessary to model the last on site, the labor required for transporting the modeling material such as plaster can be reduced. Further, if it is a 3D printer, various materials such as gypsum and TPU can be used. For example, by performing modeling with plaster, a last that is similar to conventional foot pattern collection can be formed. Further, in the case of TPU, a last having the same texture as the original shoe can be formed. For this reason, it becomes easy to reproduce the same situation as the site where the shoe mark was actually found.

[第2の実施形態]
次に、第2の実施形態を説明する。第1の実施形態では、3次元モデルに多面体データをフィッティングさせることで靴型の造形データが生成される。これに対し、第2の実施形態では、2次元画像に基づいて生成された3次元モデルに靴型の3次元モデルである靴モデルの靴底部分をフィッティングさせることで靴型の造形データが生成される。ここで、造形データ生成システム及び造形データ生成装置3の基本的な構成は第1の実施形態と同様の構成を適用することができる。したがって、以下では第1の実施形態と第2の実施形態との相違部分のみ説明する。
[Second Embodiment]
Next, the second embodiment will be described. In the first embodiment, the last modeling data is generated by fitting the polyhedral data to the three-dimensional model. On the other hand, in the second embodiment, the modeling data of the last is generated by fitting the sole portion of the shoe model, which is the 3D model of the last, to the 3D model generated based on the 2D image. Will be done. Here, the same configuration as that of the first embodiment can be applied to the basic configuration of the modeling data generation system and the modeling data generation device 3. Therefore, in the following, only the differences between the first embodiment and the second embodiment will be described.

第2の実施形態のストレージ34には、各種の靴モデルのデータが記憶されている。靴モデルのデータは、各種の靴を基に生成された3次元モデル及びこの3次元モデルから抽出される特徴量のデータを含む。ここで、実施形態における靴とは、例えば製品出荷当時の靴といった、傷、汚れ、変形の無い新品の靴のことを言う。また、靴モデルは、少なくとも靴底の部分を含んでいればよい。特徴量のデータは、任意のデータであってよく、例えばPFH(Point Feature Histogram)、SHOT(Signature of Histograms of OrienTations)といったものを含んでいてよい。このほか、靴モデルのデータは、補足データとして、3次元モデルの生成に用いられた画像の撮影時間、撮影場所、靴のメーカ名、品番といったデータを含んでいてもよい。また、ストレージ34には、刻印のデータと、刻印のデータの補足データとが記憶されていてもよい。ここでの刻印は、靴底に設けられた靴のメーカ名等を示す刻印である。刻印のデータは、各種の靴底を撮影することで得られた画像のデータであってもよいし、刻印に記されているテキストのデータであってもよい。 Data of various shoe models are stored in the storage 34 of the second embodiment. The shoe model data includes a three-dimensional model generated based on various shoes and feature quantity data extracted from the three-dimensional model. Here, the shoe in the embodiment means a new shoe without scratches, stains, or deformation, such as a shoe at the time of product shipment. Further, the shoe model may include at least a sole portion. The feature amount data may be arbitrary data, and may include, for example, PFH (Point Feature Histogram) and SHOT (Signature of Histograms of OrienTations). In addition, the shoe model data may include data such as the shooting time of the image used for generating the three-dimensional model, the shooting location, the shoe manufacturer name, and the product number as supplementary data. Further, the storage 34 may store the engraved data and supplementary data of the engraved data. The stamp here is a stamp indicating the manufacturer name or the like of the shoe provided on the sole. The engraved data may be image data obtained by photographing various soles, or may be text data written on the engraved.

図6は、第2の実施形態のプロセッサ31の機能ブロック図である。プロセッサ31は、画像取得部311と、3次元モデル生成部312と、造形データ生成部313と、制御部314と、検索部315とを有する。画像取得部311と、3次元モデル生成部312と、制御部314とは、第1の実施形態と同様である。 FIG. 6 is a functional block diagram of the processor 31 of the second embodiment. The processor 31 has an image acquisition unit 311, a three-dimensional model generation unit 312, a modeling data generation unit 313, a control unit 314, and a search unit 315. The image acquisition unit 311, the three-dimensional model generation unit 312, and the control unit 314 are the same as those in the first embodiment.

検索部315は、3次元モデル生成部312で生成された3次元モデルを検索のためのクエリとして、この3次元モデルと靴底の形状が類似する靴モデルをストレージ34から検索する。検索部315は、例えば最近傍探索によって検索をする。この場合、検索部315は、3次元モデルの差が所定値よりも小さい、特徴点のマッチング度が所定値よりも高い、又は特徴量の距離が所定値よりも近い靴モデルをストレージ34から検索する。また、検索部315は、2次元画像から抽出される靴底の刻印を検索のためのクエリとして、この刻印と類似する刻印を有する靴モデルをストレージ34から検索してもよい。 The search unit 315 uses the three-dimensional model generated by the three-dimensional model generation unit 312 as a query for searching, and searches the storage 34 for a shoe model having a shoe sole shape similar to that of the three-dimensional model. The search unit 315 searches by, for example, the nearest neighbor search. In this case, the search unit 315 searches the storage 34 for a shoe model in which the difference between the three-dimensional models is smaller than the predetermined value, the matching degree of the feature points is higher than the predetermined value, or the distance between the feature quantities is closer than the predetermined value. do. Further, the search unit 315 may search the storage 34 for a shoe model having a mark similar to this mark, using the mark of the sole extracted from the two-dimensional image as a search query.

第2の実施形態の造形データ生成部313は、検索部315で検索された靴モデルを3次元モデル生成部312で生成された3次元モデルにフィッティングさせることで造形データを生成する。図7A及び図7Bは、第2の実施形態のフィッティングの概念図である。フィッティングは、図7Aに示すように、3次元モデルMにおける靴跡の面に靴モデルD2の靴底の面F2を近づけた後、図7Bに示すように靴モデルD2の靴底の面F2を変形させることで行われる。靴底の面F2の変形は、例えば面F2を構成する各点を面F2の法線方向に移動させることで行われる。また、靴底の面F2の変形は、非剛体位置合わせによって行われてもよい。図7Bのようにしてフィッティングされた靴モデルD2が造形データである。この造形データは、靴の靴底に3次元モデルMで復元された靴跡から想定される靴底の摩耗や傷等が反映された状態のデータである。 The modeling data generation unit 313 of the second embodiment generates modeling data by fitting the shoe model searched by the search unit 315 to the three-dimensional model generated by the three-dimensional model generation unit 312. 7A and 7B are conceptual diagrams of the fitting of the second embodiment. As shown in FIG. 7A, the fitting is performed by bringing the sole surface F2 of the shoe model D2 close to the surface of the shoe mark in the three-dimensional model M, and then the sole surface F2 of the shoe model D2 as shown in FIG. 7B. It is done by transforming. Deformation of the surface F2 of the sole is performed, for example, by moving each point constituting the surface F2 in the normal direction of the surface F2. Further, the deformation of the surface F2 of the sole may be performed by non-rigid body alignment. The shoe model D2 fitted as shown in FIG. 7B is the modeling data. This modeling data is data in a state in which the sole of the shoe reflects the wear and scratches of the sole assumed from the shoe mark restored by the three-dimensional model M.

次に、造形データ生成装置3の動作を説明する。図8は、第2の実施形態における造形データ生成装置3の動作を説明するためのフローチャートである。図8の処理は、例えばプロセッサ31が造形データ生成プログラムに従って行う。造形データ生成装置3の動作に先立ち、カメラ2のユーザは、靴跡を撮影する。撮影は、第1の実施形態と同様に行われてよい。 Next, the operation of the modeling data generation device 3 will be described. FIG. 8 is a flowchart for explaining the operation of the modeling data generation device 3 in the second embodiment. The processing of FIG. 8 is performed by, for example, the processor 31 according to the modeling data generation program. Prior to the operation of the modeling data generation device 3, the user of the camera 2 photographs the shoe marks. The imaging may be performed in the same manner as in the first embodiment.

ステップS11において、プロセッサ31は、画像が入力されたか否かを判定する。ステップS11において、画像が入力されていないと判定されたときには、プロセッサ31は、図8の処理を終了させる。ステップS11において、画像が入力されたと判定されたときには、処理はステップS12に移行する。 In step S11, the processor 31 determines whether or not an image has been input. When it is determined in step S11 that no image has been input, the processor 31 ends the process of FIG. When it is determined in step S11 that the image has been input, the process proceeds to step S12.

ステップS12において、プロセッサ31は、画像内の靴跡における付着物を検出する。付着物の検出は、第1の実施形態と同様でよい。 In step S12, the processor 31 detects deposits on the shoe marks in the image. The detection of deposits may be the same as in the first embodiment.

ステップS13において、プロセッサ31は、付着物が検出されたか否かを判定する。付着物が検出されたと判定されたとき、処理はステップS14に移行する。付着物が検出されていないと判定されたとき、処理はステップS15に移行する。 In step S13, the processor 31 determines whether or not the deposit has been detected. When it is determined that the deposit is detected, the process proceeds to step S14. When it is determined that no deposit is detected, the process proceeds to step S15.

ステップS14において、プロセッサ31は、画像における付着物の位置を欠損箇所に設定する。または、ステップS14において、プロセッサ31は、画像における付着物の位置をその周囲の画像によって補完する。 In step S14, the processor 31 sets the position of the deposit in the image at the defect location. Alternatively, in step S14, the processor 31 complements the position of the deposit in the image with the image around it.

ステップS15において、プロセッサ31は、靴跡の3次元モデルを生成する。ここで、プロセッサ31は、欠損箇所に設定されている位置については3次元モデルを生成しなくてもよい。または、プロセッサ31は、欠損箇所に設定されている位置を含めて3次元モデルを生成し、生成した3次元モデルから欠損箇所に相当する部分を除いてもよい。または、プロセッサ31は、欠損箇所に設定されている領域を含めて3次元モデルを生成し、生成した3次元モデルにおける欠損箇所に相当する部分をその周囲のデータから補完してもよい。付着物は、造形には必要のない部分であるために造形データの生成の前に除去されるか、補完される。 In step S15, the processor 31 generates a three-dimensional model of the shoe mark. Here, the processor 31 does not have to generate a three-dimensional model for the position set in the defective portion. Alternatively, the processor 31 may generate a three-dimensional model including the position set in the defective portion, and remove the portion corresponding to the defective portion from the generated three-dimensional model. Alternatively, the processor 31 may generate a three-dimensional model including the area set in the defective portion, and complement the portion corresponding to the defective portion in the generated three-dimensional model from the surrounding data. The deposits are removed or complemented prior to the generation of the build data because they are parts that are not needed for the build.

ステップS16において、プロセッサ31は、生成した3次元モデルと類似している靴モデルをストレージ34から検索する。ここで、検索に際しては、プロセッサ31は、マーカのサイズの情報又は撮影距離の情報を用いて、生成した3次元モデルのサイズを、ストレージ34に記憶されている靴モデルのサイズに揃えることを行う。また、検索に際して、プロセッサ31は、生成した3次元モデルを複数の部分に分割し、分割した部分毎にストレージ34に記憶されている靴モデルと比較し、類似している部分が多い靴モデルを検索するようにしてもよい。靴底の摩耗や傷は、人物推定には役立つ反面、類似する靴モデルを検索する際にはノイズとなる。また、もとの靴跡の付き方等によっては、比較できるほどに3次元形状が復元されない可能性もある。部分毎に比較することにより、これらの摩耗や傷、靴跡の付き方等による検索への影響を抑制することができる。さらに、プロセッサ31は、欠損箇所に設定されている位置を検索に使用しないようにしてもよい。3次元モデルが付着物を含んでいると、検索のときにこの付着物がストレージ34に記憶されている3次元モデルとの差異となる。つまり、付着物の有無によって、本来では検索されるべき3次元モデルが検索されなくなる場合がある。欠損箇所に設定されている位置を検索に使用しないことにより、検索への影響を抑制することができる。 In step S16, the processor 31 searches the storage 34 for a shoe model similar to the generated three-dimensional model. Here, at the time of searching, the processor 31 uses the marker size information or the shooting distance information to align the size of the generated three-dimensional model with the size of the shoe model stored in the storage 34. .. Further, at the time of searching, the processor 31 divides the generated three-dimensional model into a plurality of parts, compares each divided part with the shoe model stored in the storage 34, and selects a shoe model having many similar parts. You may try to search. While sole wear and scratches are useful for person estimation, they are noisy when searching for similar shoe models. In addition, depending on how the original shoe marks are attached, the three-dimensional shape may not be restored to the extent that it can be compared. By comparing each part, it is possible to suppress the influence on the search due to these wears and scratches, how to make shoe marks, and the like. Further, the processor 31 may not use the position set in the missing part for the search. If the 3D model contains deposits, the deposits are different from the 3D model stored in the storage 34 at the time of retrieval. That is, depending on the presence or absence of deposits, the three-dimensional model that should be searched may not be searched. By not using the position set in the missing part for the search, the influence on the search can be suppressed.

ステップS17において、プロセッサ31は、3次元モデルと類似している上位の複数の靴モデルを靴モデルの候補としてユーザに提示する。例えば、プロセッサ31は、類似している靴モデルの画像を液晶ディスプレイ等のディスプレイに表示させる。このとき、それぞれの靴モデルに対応付けられた靴のメーカ名、品番といった補足データも併せて表示されてもよい。 In step S17, the processor 31 presents to the user a plurality of upper shoe models similar to the three-dimensional model as candidates for the shoe model. For example, the processor 31 displays an image of a similar shoe model on a display such as a liquid crystal display. At this time, supplementary data such as the manufacturer name and product number of the shoes associated with each shoe model may also be displayed.

ステップS18において、プロセッサ31は、提示した靴モデルの候補の中から靴モデルが選択されたか否かを判定する。ステップS18において、靴モデルが選択されたと判定されるまで、処理は待機される。ステップS18において、靴モデルが選択されたと判定されたとき、処理はステップS19に移行する。 In step S18, the processor 31 determines whether or not the shoe model is selected from the presented shoe model candidates. In step S18, the process waits until it is determined that the shoe model has been selected. When it is determined in step S18 that the shoe model has been selected, the process proceeds to step S19.

ステップS19において、プロセッサ31は、ユーザによって選択された靴モデルを用いて造形データを生成する。前述したように、プロセッサ31は、生成した靴跡に対応した3次元モデルに合うように靴モデルをフィッティングさせることで造形データを生成する。 In step S19, the processor 31 generates modeling data using the shoe model selected by the user. As described above, the processor 31 generates modeling data by fitting the shoe model so as to match the three-dimensional model corresponding to the generated shoe mark.

ステップS20において、プロセッサ31は、造形データを3Dプリンタ4に送信する。その後、プロセッサ31は、図8の処理を終了させる。これにより、3Dプリンタ4は、造形データに基づき、靴型を造形する。 In step S20, the processor 31 transmits the modeling data to the 3D printer 4. After that, the processor 31 ends the process of FIG. As a result, the 3D printer 4 forms the last based on the modeling data.

以上説明したように第2の実施形態によれば、ストレージ34に予め記憶されている靴モデルに基づいて造形データが生成される。これにより、より実際の靴に近い形の靴型が造形され得る。さらに、第2の実施形態では、靴モデルを3次元モデルにフィッティングさせることで靴型の造形データが生成される。これにより、3次元モデルで復元された靴跡から想定される靴底の摩耗や傷等も造形データに反映させることができる。したがって、実際に靴型を採取したのと同様の靴型が造形され得る。 As described above, according to the second embodiment, the modeling data is generated based on the shoe model stored in advance in the storage 34. As a result, a last that is closer to the actual shoe can be formed. Further, in the second embodiment, the modeling data of the last is generated by fitting the shoe model to the three-dimensional model. As a result, it is possible to reflect the wear and scratches on the sole of the shoe, which are assumed from the shoe marks restored by the three-dimensional model, in the modeling data. Therefore, a last that is similar to the one that was actually collected can be formed.

[変形例]
以下、第1の実施形態及び第2の実施形態の変形例を説明する。第1の実施形態及び第2の実施形態では、カメラ2で2次元画像の撮影が行われ、造形データ生成装置3で造形データの生成が行われるとしている。これに対し、例えばカメラ2において造形データ生成装置3と同様の動作が行われてもよい。例えば図3で示した構成と同様の動作を実行するためのプログラムがスマートフォン等のカメラ2にインストールされてもよい。
[Modification example]
Hereinafter, modified examples of the first embodiment and the second embodiment will be described. In the first embodiment and the second embodiment, it is assumed that the camera 2 takes a two-dimensional image and the modeling data generation device 3 generates modeling data. On the other hand, for example, the camera 2 may perform the same operation as the modeling data generation device 3. For example, a program for executing the same operation as the configuration shown in FIG. 3 may be installed in the camera 2 of a smartphone or the like.

本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。 The present invention is not limited to the above embodiment, and can be variously modified at the implementation stage without departing from the gist thereof. In addition, each embodiment may be carried out in combination as appropriate, in which case the combined effect can be obtained. Further, the above-described embodiment includes various inventions, and various inventions can be extracted by a combination selected from a plurality of disclosed constituent requirements. For example, even if some constituent elements are deleted from all the constituent elements shown in the embodiment, if the problem can be solved and the effect is obtained, the configuration in which the constituent elements are deleted can be extracted as an invention.

以下に、本願の発明の実施の形態から抽出され得る発明を付記する。
[1] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成する3次元モデル生成部と、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部と、
を具備する造形データ生成装置。
[2] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成する3次元モデル生成部と、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索する検索部と、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部と、
を具備する造形データ生成装置。
[3] 前記検索部は、前記3次元モデルを複数の部分に分割し、分割された部分毎に前記靴モデルを検索する、
[2]に記載の造形データ生成装置。
[4] 前記検索部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記3次元モデルにおける前記付着物に相当する部分を用いずに前記靴モデルを検索する、
[2]又は[3]に記載の造形データ生成装置。
[5] 前記検索部は、
前記3次元モデルの靴底との類似度の高い複数の靴モデルの候補をユーザに対して提示し、
複数の靴モデルの候補のうちの前記ユーザによって選択された靴モデルの候補を、前記靴モデルに決定する、
[2]−[4]の何れか1に記載の造形データ生成装置。
[6] 前記3次元モデル生成部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記2次元画像における前記付着物に相当する部分を除いてから前記3次元モデルを生成する又は生成した前記3次元モデルから前記付着物に相当する部分を除く、
[1]−[5]の何れか1に記載の造形データ生成装置。
[7] 前記3次元モデル生成部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記2次元画像における前記付着物に相当する部分の周囲の画像に基づいて前記付着物に相当する部分を補完してから前記3次元モデルを生成する又は生成した前記3次元モデルにおける前記付着物に相当する部分の周囲のデータに基づいて前記3次元モデルにおける前記付着物に相当する部分を補完する、
[1]−[5]の何れか1に記載の造形データ生成装置。
[8] 3次元プリンタに前記造形データを出力する制御部をさらに具備する[1]−[7]の何れか1に記載の造形データ生成装置。
[9] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
を具備する造形データ生成方法。
[10] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
を具備する造形データ生成方法。
[11] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
をコンピュータに実行させるための造形データ生成プログラム。
[12] 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
をコンピュータに実行させるための造形データ生成プログラム。
Hereinafter, inventions that can be extracted from the embodiments of the invention of the present application will be described.
[1] A three-dimensional model generation unit that generates a three-dimensional model corresponding to the shoe mark of a two-dimensional image including a shoe mark, and a three-dimensional model generation unit.
A modeling data generation unit that fits polyhedral data to the generated 3D model to generate 3D modeling data for last modeling, and
A modeling data generator equipped with.
[2] A three-dimensional model generation unit that generates a three-dimensional model corresponding to the shoe mark of a two-dimensional image including a shoe mark, and a three-dimensional model generation unit.
A search unit for searching a shoe model, which is a three-dimensional model of shoes having a sole similar to the generated sole of the three-dimensional model, and a search unit.
A modeling data generation unit that fits the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling, and
A modeling data generator equipped with.
[3] The search unit divides the three-dimensional model into a plurality of parts, and searches for the shoe model for each of the divided parts.
The modeling data generation device according to [2].
[4] When the deposit is detected in the shoe mark in the two-dimensional image, the search unit searches the shoe model without using the portion corresponding to the deposit in the three-dimensional model.
The modeling data generation device according to [2] or [3].
[5] The search unit is
Candidates for a plurality of shoe models having a high degree of similarity to the sole of the three-dimensional model are presented to the user.
A shoe model candidate selected by the user among a plurality of shoe model candidates is determined as the shoe model.
The modeling data generation device according to any one of [2]-[4].
[6] When the deposit is detected in the shoe mark in the two-dimensional image, the three-dimensional model generation unit generates the three-dimensional model after removing the portion corresponding to the deposit in the two-dimensional image. Exclude the portion corresponding to the deposit from the three-dimensional model generated or generated.
The modeling data generation device according to any one of [1]-[5].
[7] When the deposit is detected in the shoe mark in the two-dimensional image, the three-dimensional model generation unit determines the deposit based on the image around the portion corresponding to the deposit in the two-dimensional image. The part corresponding to the deposit in the three-dimensional model is generated after complementing the part corresponding to the above, or based on the data around the part corresponding to the deposit in the generated three-dimensional model. Complement,
The modeling data generation device according to any one of [1]-[5].
[8] The modeling data generation device according to any one of [1]-[7], further comprising a control unit for outputting the modeling data to a three-dimensional printer.
[9] Generating a three-dimensional model corresponding to the shoe mark of a two-dimensional image including the shoe mark, and
To generate 3D modeling data for last modeling by fitting polyhedron data to the generated 3D model,
A modeling data generation method.
[10] Generating a three-dimensional model corresponding to the shoe mark of a two-dimensional image including the shoe mark, and
Searching for a shoe model, which is a three-dimensional model of a shoe having a sole similar to the sole of the generated three-dimensional model,
By fitting the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling,
A modeling data generation method.
[11] Generating a three-dimensional model corresponding to the shoe mark of a two-dimensional image including the shoe mark, and
To generate 3D modeling data for last modeling by fitting polyhedron data to the generated 3D model,
A modeling data generation program for making a computer execute.
[12] Generating a three-dimensional model corresponding to the shoe mark of a two-dimensional image including the shoe mark, and
Searching for a shoe model, which is a three-dimensional model of a shoe having a sole similar to the sole of the generated three-dimensional model,
By fitting the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling,
A modeling data generation program for making a computer execute.

1 造形データ生成システム、2 カメラ、3 造形データ生成装置、4 3Dプリンタ、31 プロセッサ、32 ROM、33 RAM、34 ストレージ、35 入力インターフェース、36 出力インターフェース、37 通信インターフェース、38 バス、311 画像取得部、312 3次元モデル生成部、313 造形データ生成部、314 制御部、315 検索部。 1 Modeling data generation system, 2 Cameras, 3 Modeling data generator, 4 3D printer, 31 processor, 32 ROM, 33 RAM, 34 storage, 35 input interface, 36 output interface, 37 communication interface, 38 bus, 311 image acquisition unit 312 3D model generation unit, 313 modeling data generation unit, 314 control unit, 315 search unit.

Claims (12)

靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成する3次元モデル生成部と、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部と、
を具備する造形データ生成装置。
A 3D model generation unit that generates a 3D model corresponding to the shoe mark of a 2D image including a shoe mark, and a 3D model generation unit.
A modeling data generation unit that fits polyhedral data to the generated 3D model to generate 3D modeling data for last modeling, and
A modeling data generator equipped with.
靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成する3次元モデル生成部と、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索する検索部と、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成する造形データ生成部と、
を具備する造形データ生成装置。
A 3D model generation unit that generates a 3D model corresponding to the shoe mark of a 2D image including a shoe mark, and a 3D model generation unit.
A search unit for searching a shoe model, which is a three-dimensional model of shoes having a sole similar to the generated sole of the three-dimensional model, and a search unit.
A modeling data generation unit that fits the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling, and
A modeling data generator equipped with.
前記検索部は、前記3次元モデルを複数の部分に分割し、分割された部分毎に前記靴モデルを検索する、
請求項2に記載の造形データ生成装置。
The search unit divides the three-dimensional model into a plurality of parts, and searches for the shoe model for each of the divided parts.
The modeling data generation device according to claim 2.
前記検索部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記3次元モデルにおける前記付着物に相当する部分を用いずに前記靴モデルを検索する、
請求項2又は3に記載の造形データ生成装置。
When an deposit is detected in the shoe mark in the two-dimensional image, the search unit searches the shoe model without using the portion corresponding to the deposit in the three-dimensional model.
The modeling data generation device according to claim 2 or 3.
前記検索部は、
前記3次元モデルの靴底との類似度の高い複数の靴モデルの候補をユーザに対して提示し、
複数の靴モデルの候補のうちの前記ユーザによって選択された靴モデルの候補を、前記靴モデルに決定する、
請求項2乃至4の何れか1項に記載の造形データ生成装置。
The search unit
Candidates for a plurality of shoe models having a high degree of similarity to the sole of the three-dimensional model are presented to the user.
A shoe model candidate selected by the user among a plurality of shoe model candidates is determined as the shoe model.
The modeling data generation device according to any one of claims 2 to 4.
前記3次元モデル生成部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記2次元画像における前記付着物に相当する部分を除いてから前記3次元モデルを生成する又は生成した前記3次元モデルから前記付着物に相当する部分を除く、
請求項1乃至5の何れか1項に記載の造形データ生成装置。
When a deposit is detected in the shoe mark in the two-dimensional image, the three-dimensional model generation unit generates or generates the three-dimensional model after removing the portion corresponding to the deposit in the two-dimensional image. Excluding the part corresponding to the deposit from the three-dimensional model.
The modeling data generation device according to any one of claims 1 to 5.
前記3次元モデル生成部は、前記2次元画像における前記靴跡に付着物が検出されたときには、前記2次元画像における前記付着物に相当する部分の周囲の画像に基づいて前記付着物に相当する部分を補完してから前記3次元モデルを生成する又は生成した前記3次元モデルにおける前記付着物に相当する部分の周囲のデータに基づいて前記3次元モデルにおける前記付着物に相当する部分を補完する、
請求項1乃至5の何れか1項に記載の造形データ生成装置。
When the deposit is detected in the shoe mark in the two-dimensional image, the three-dimensional model generation unit corresponds to the deposit based on the image around the portion corresponding to the deposit in the two-dimensional image. Complement the portion and then generate the 3D model or complement the portion corresponding to the deposit in the 3D model based on the data around the portion corresponding to the deposit in the generated 3D model. ,
The modeling data generation device according to any one of claims 1 to 5.
3次元プリンタに前記造形データを出力する制御部をさらに具備する請求項1乃至7の何れか1項に記載の造形データ生成装置。 The modeling data generation device according to any one of claims 1 to 7, further comprising a control unit for outputting the modeling data to a three-dimensional printer. 靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
を具備する造形データ生成方法。
To generate a 3D model corresponding to the shoe mark of the 2D image including the shoe mark,
To generate 3D modeling data for last modeling by fitting polyhedron data to the generated 3D model,
A modeling data generation method.
靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
を具備する造形データ生成方法。
To generate a 3D model corresponding to the shoe mark of the 2D image including the shoe mark,
Searching for a shoe model, which is a three-dimensional model of a shoe having a sole similar to the sole of the generated three-dimensional model,
By fitting the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling,
A modeling data generation method.
靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルに、多面体データをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
をコンピュータに実行させるための造形データ生成プログラム。
To generate a 3D model corresponding to the shoe mark of the 2D image including the shoe mark,
To generate 3D modeling data for last modeling by fitting polyhedron data to the generated 3D model,
A modeling data generation program for making a computer execute.
靴跡を含む2次元画像の前記靴跡に応じた3次元モデルを生成することと、
生成された前記3次元モデルの靴底と類似した靴底を有する靴の3次元モデルである靴モデルを検索することと、
生成された前記3次元モデルに、検索された前記靴モデルをフィッティングさせて靴型の造形のための3次元の造形データを生成することと、
をコンピュータに実行させるための造形データ生成プログラム。
To generate a 3D model corresponding to the shoe mark of the 2D image including the shoe mark,
Searching for a shoe model, which is a three-dimensional model of a shoe having a sole similar to the sole of the generated three-dimensional model,
By fitting the searched shoe model to the generated 3D model to generate 3D modeling data for last modeling,
A modeling data generation program for making a computer execute.
JP2020085197A 2020-05-14 2020-05-14 Modeling data generation device, modeling data generation method, and modeling data generation program Pending JP2021178468A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020085197A JP2021178468A (en) 2020-05-14 2020-05-14 Modeling data generation device, modeling data generation method, and modeling data generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020085197A JP2021178468A (en) 2020-05-14 2020-05-14 Modeling data generation device, modeling data generation method, and modeling data generation program

Publications (1)

Publication Number Publication Date
JP2021178468A true JP2021178468A (en) 2021-11-18

Family

ID=78510743

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020085197A Pending JP2021178468A (en) 2020-05-14 2020-05-14 Modeling data generation device, modeling data generation method, and modeling data generation program

Country Status (1)

Country Link
JP (1) JP2021178468A (en)

Similar Documents

Publication Publication Date Title
CN110998659B (en) Image processing system, image processing method, and program
CN109074624B (en) Three-dimensional reconstruction method
JP5583087B2 (en) Image processing apparatus, method, and program
JP6125188B2 (en) Video processing method and apparatus
JP4297197B2 (en) Calibration processing apparatus, calibration processing method, and computer program
JP2001194114A (en) Image processing apparatus and method and program providing medium
JP2014178957A (en) Learning data generation device, learning data creation system, method and program
WO2018075053A1 (en) Object pose based on matching 2.5d depth information to 3d information
US20200057778A1 (en) Depth image pose search with a bootstrapped-created database
JP2010152535A (en) Three-dimensional shape restoring apparatus and program therefor
CN110926330A (en) Image processing apparatus, image processing method, and program
JP5503510B2 (en) Posture estimation apparatus and posture estimation program
KR102082277B1 (en) Method for generating panoramic image and apparatus thereof
JP2007025863A (en) Photographing system, photographing method, and image processing program
JP6027952B2 (en) Augmented reality image generation system, three-dimensional shape data generation device, augmented reality presentation device, augmented reality image generation method, and program
KR102083293B1 (en) Object reconstruction apparatus using motion information and object reconstruction method using thereof
JP2021178468A (en) Modeling data generation device, modeling data generation method, and modeling data generation program
JP2011022084A (en) Device and method for measuring three-dimensional pose
JP7251631B2 (en) Template creation device, object recognition processing device, template creation method, object recognition processing method, and program
JP2002135807A (en) Method and device for calibration for three-dimensional entry
JP2021140405A (en) Image search device, image search method and image search program
CN111833441A (en) Face three-dimensional reconstruction method and device based on multi-camera system
JP6935207B2 (en) Object determination device, object determination method, and program
JP2014179135A (en) Image processing system, method and program
US20220230342A1 (en) Information processing apparatus that estimates object depth, method therefor, and storage medium holding program therefor

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104