JP2002342787A - Method and device for generating three-dimensional model and computer program - Google Patents

Method and device for generating three-dimensional model and computer program

Info

Publication number
JP2002342787A
JP2002342787A JP2001151851A JP2001151851A JP2002342787A JP 2002342787 A JP2002342787 A JP 2002342787A JP 2001151851 A JP2001151851 A JP 2001151851A JP 2001151851 A JP2001151851 A JP 2001151851A JP 2002342787 A JP2002342787 A JP 2002342787A
Authority
JP
Japan
Prior art keywords
dimensional
shape data
image
photographing
dimensional image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001151851A
Other languages
Japanese (ja)
Inventor
Susumu Yasunaga
晋 安永
Kunimitsu Sakakibara
邦光 榊原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Minolta Co Ltd
Original Assignee
Minolta Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Minolta Co Ltd filed Critical Minolta Co Ltd
Priority to JP2001151851A priority Critical patent/JP2002342787A/en
Publication of JP2002342787A publication Critical patent/JP2002342787A/en
Pending legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To generate a precise three-dimensional model. SOLUTION: This three-dimensional model generating device is constituted of a three-dimension reconstituting part 31 for generating the three-dimensional shape data of an object based on data obtained by measuring the object in a non-contact state, a multi-lens camera 3 for obtaining the two-dimensional picture of the object by photographing the object, a calculating part 32 for calculating the deviation of view points between the measurement of the object and the photographing of the object based on a two-dimensional picture FD1 obtained at photographing the object and a two-dimensional FD2 obtained by photographing the object, and a mapping part 33 for attaching the two-dimensional picture FD2 obtained by photographing the object to three-dimensional shape data DL by correcting the calculated deviation of the view points.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、対象物についてス
テレオ撮影された2つの画像などに基づいて、マッピン
グされた3次元モデルを生成するための方法および装
置、並びにコンピュータプログラムに関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method and an apparatus for generating a mapped three-dimensional model based on two images of a subject taken in stereo, and a computer program.

【0002】[0002]

【従来の技術】従来より、対象物についての視差のある
複数の画像(2次元画像)から3次元形状データを生成
する技術が知られている。視差のある複数の画像を取得
するために、複数のカメラが一体になった多眼カメラが
しばしば用いられる。
2. Description of the Related Art Conventionally, there has been known a technique of generating three-dimensional shape data from a plurality of images (two-dimensional images) of a target object having parallax. In order to acquire a plurality of images having parallax, a multiview camera in which a plurality of cameras are integrated is often used.

【0003】多眼カメラでは、各カメラの外部パラメー
タ(カメラの位置姿勢)および内部パラメータ(焦点距
離、画素ピッチなど)が予め校正されている。多眼カメ
ラによって、対象物を撮影し、得られた複数の画像から
対応点を検出し、三角測量の原理で3次元再構成を行っ
て3次元形状データを得る。対応点の組をより多く検出
するために、対象物にパターン光を投影して撮影する。
In a multi-lens camera, external parameters (camera position and orientation) and internal parameters (focal length, pixel pitch, etc.) of each camera are calibrated in advance. An object is photographed by a multi-lens camera, corresponding points are detected from a plurality of obtained images, and three-dimensional reconstruction is performed based on the principle of triangulation to obtain three-dimensional shape data. In order to detect more sets of corresponding points, pattern light is projected onto an object to be photographed.

【0004】生成された3次元形状データに、対象物の
2次元画像をマッピングすることにより、対象物につい
ての忠実な見栄えのよい3次元モデルが生成される。マ
ッピングのための画像の撮影には、パターン光は邪魔に
なるので、3次元形状データを得るための撮影とは別に
行う。
[0004] By mapping a two-dimensional image of an object onto the generated three-dimensional shape data, a faithful and good-looking three-dimensional model of the object is generated. When capturing an image for mapping, the pattern light is in the way, so it is performed separately from capturing for obtaining three-dimensional shape data.

【0005】従来においては、対象物の撮影に際して、
三脚台などを用いて多眼カメラを固定するので、対象物
が動かないものであれば、複数回の撮影を行ってもその
間で画像のずれは生じない。
Conventionally, when photographing an object,
Since the multi-lens camera is fixed by using a tripod mount or the like, if the object does not move, even if a plurality of shootings are performed, the image does not shift between them.

【0006】[0006]

【発明が解決しようとする課題】ところが、対象物が動
くものであれば、複数回の撮影で得られた画像には互い
にずれが生じる可能性がある。
However, if the object moves, there is a possibility that images obtained by a plurality of photographings will be shifted from each other.

【0007】また、三脚台により多眼カメラを固定する
のは面倒であるので、できれば多眼カメラを手持ちで撮
影したいという要望がある。手持ちであれば、対象物を
簡便に撮影することができる。
Further, since it is troublesome to fix the multi-lens camera with the tripod mount, there is a demand for photographing the multi-lens camera by hand if possible. If it is hand-held, the object can be easily photographed.

【0008】しかし、手持ちで撮影を行った場合には、
複数回の撮影においてどうしても多眼カメラが移動して
しまい、得られた画像間で互いにずれが生じる可能性が
高い。
[0008] However, when shooting with a handheld camera,
There is a high possibility that the multi-lens camera will inevitably move in a plurality of shootings, causing a shift between the obtained images.

【0009】そうすると、パターン光を投影して撮影さ
れた画像に基づいて生成された3次元形状データと、マ
ッピングのために撮影した画像との間に、ずれの生じる
恐れがある。画像がずれたままマッピングを行った場合
には、不自然な3次元モデルとなってしまう。
[0009] Then, there is a possibility that a shift may occur between the three-dimensional shape data generated based on the image photographed by projecting the pattern light and the image photographed for mapping. If mapping is performed with the image shifted, an unnatural three-dimensional model will result.

【0010】また、3次元形状データを生成するため
に、光切断法などにより非接触で対象物を計測する3次
元計測装置を用いることがある。しかし、いずれの場合
でも、撮影または計測を手持ちで行った場合には、3次
元形状データの取得のための撮影または計測と、マッピ
ングのための2次元画像の撮影との間に、位置または視
点の不一致が生じる。そのため、精度のよい3次元モデ
ルを生成することができない。
In order to generate three-dimensional shape data, a three-dimensional measuring device for measuring an object in a non-contact manner by a light cutting method or the like may be used. However, in any case, when the photographing or measurement is performed by hand, the position or the viewpoint is determined between the photographing or measurement for acquiring the three-dimensional shape data and the photographing of the two-dimensional image for mapping. Mismatch occurs. Therefore, an accurate three-dimensional model cannot be generated.

【0011】本発明は、上述の問題に鑑みてなされたも
ので、精度のよい3次元モデルを生成することを目的と
する。
SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and has as its object to generate an accurate three-dimensional model.

【0012】[0012]

【課題を解決するための手段】本発明に係る方法は、対
象物を非接触で計測して対象物の3次元形状データを生
成するステップと、対象物を撮影して対象物の2次元画
像を得るステップと、対象物の計測の際に得られる2次
元画像と対象物の撮影によって得られた2次元画像とを
比較し、それらの間のずれを補正しつつ、対象物の撮影
によって得られた2次元画像を前記3次元形状データに
はりつけるステップとを有してなる。
A method according to the present invention comprises the steps of: measuring a target object in a non-contact manner to generate three-dimensional shape data of the target object; and photographing the target object to obtain a two-dimensional image of the target object. And comparing the two-dimensional image obtained at the time of measuring the object with the two-dimensional image obtained by photographing the object, and correcting the difference between them to obtain the image obtained by photographing the object. Attaching the obtained two-dimensional image to the three-dimensional shape data.

【0013】本発明に係る装置は、対象物を非接触で計
測して得られたデータに基づいて対象物の3次元形状デ
ータを生成する手段と、対象物を撮影して対象物の2次
元画像を得る手段と、対象物の計測の際に得られる2次
元画像と対象物の撮影によって得られた2次元画像とに
基づいて、対象物の計測と対象物の撮影とにおける視点
のずれを求める手段と、対象物の撮影によって得られた
2次元画像を、求められた視点のずれを補正して前記3
次元形状データにはりつける手段とを有してなる。
An apparatus according to the present invention comprises: means for generating three-dimensional shape data of an object based on data obtained by measuring the object in a non-contact manner; Based on a means for obtaining an image, and a two-dimensional image obtained by measuring the object and a two-dimensional image obtained by photographing the object, a viewpoint shift between the measurement of the object and the photographing of the object is calculated. Means for calculating the two-dimensional image obtained by photographing the object by correcting the obtained viewpoint displacement.
Means for attaching to the dimensional shape data.

【0014】他の形態によると、多眼カメラによる1の
撮影で得られた対象物についての視差のある複数の2次
元画像を記憶する第1の記憶部と、前記多眼カメラによ
る他の1の撮影で得られた対象物の2次元画像を記憶す
る第2の記憶部と、前記第1の記憶部に記憶された2次
元画像に基づいて対象物の3次元形状データを生成する
3次元再構成部と、前記第2の記憶部に記憶された2次
元画像と、前記第1の記憶部に記憶された2次元画像と
に基づいて、前記1の撮影と前記他の1の撮影とにおけ
る視点のずれを求めるずれ算出部と、前記第2の記憶部
に記憶された2次元画像を、求められた視点のずれを補
正して前記3次元形状データにはりつけるはりつけ部と
を有してなる。
According to another aspect, a first storage unit for storing a plurality of two-dimensional images having parallax about an object obtained by one photographing with a multi-view camera, and another one-dimensional image by the multi-view camera. A second storage unit for storing a two-dimensional image of the object obtained by the photographing, and a three-dimensional unit for generating three-dimensional shape data of the object based on the two-dimensional image stored in the first storage unit A reconstruction unit, a two-dimensional image stored in the second storage unit, and a two-dimensional image stored in the first storage unit. And a gluing unit that corrects the determined viewpoint displacement and attaches the two-dimensional image stored in the second storage unit to the three-dimensional shape data. Become.

【0015】なお、本発明において、対象物の3次元形
状データを生成するための計測には、光切断法などによ
る3次元計測装置を用いた対象物の計測、多眼カメラに
よる対象物の撮影などが含まれる。
In the present invention, the measurement for generating the three-dimensional shape data of the object includes the measurement of the object using a three-dimensional measuring device such as a light section method, and the photographing of the object using a multi-lens camera. And so on.

【0016】[0016]

【発明の実施の形態】図1は本発明に係る生成装置1を
示す図、図2は処理装置5の構成例を示すブロック図で
ある。
FIG. 1 is a diagram showing a generating device 1 according to the present invention, and FIG. 2 is a block diagram showing a configuration example of a processing device 5.

【0017】図1において、生成装置1は、対象物Qを
撮影するための多眼カメラ3、および処理装置5からな
る。多眼カメラ3は、デジタル式の2つのカメラ3k,
3lが互いに連結されて一体となった2眼カメラであ
る。以降において、一方のカメラ3kに関する部材およ
び要素の符号に「k」を付し、他方のカメラ3lに関す
る部材および要素の符号に「l(エル)」を付すことが
ある。
In FIG. 1, a generating device 1 comprises a multi-lens camera 3 for photographing an object Q, and a processing device 5. The multi-lens camera 3 includes two digital cameras 3k,
Reference numeral 31 denotes a twin-lens camera connected to each other and integrated. Hereinafter, the members and elements related to one camera 3k may be denoted by “k” and the members and elements related to the other camera 3l may be denoted by “l”.

【0018】多眼カメラ3は、各カメラの内部パラメー
タおよび外部パラメータが予め校正され、投影行列が求
められている。対象物Qを1回撮影することによって、
対象物Qについての視差のある2枚の画像FDを得る。
In the multi-lens camera 3, internal parameters and external parameters of each camera are calibrated in advance, and a projection matrix is obtained. By photographing the object Q once,
Two images FD of the object Q having parallax are obtained.

【0019】多眼カメラ3には、対象物Qにパターン光
を投影するパターン光投影装置3p、パターン光ありの
撮影とパターン光なしの撮影とを連続的に実行させる連
写制御部3rが設けられる。そして、多数の画像FDを
記憶するメモリ、カメラパラメータを記憶するメモリ、
画像FDを表示する液晶ディスプレイ、レリーズボタン
などの種々の操作ボタン、フラッシュ、入出力インタフ
ェース、制御部、および電源部などが設けられる。
The multi-lens camera 3 is provided with a pattern light projection device 3p for projecting pattern light onto the object Q, and a continuous shooting control unit 3r for continuously executing shooting with pattern light and shooting without pattern light. Can be A memory for storing a large number of images FD, a memory for storing camera parameters,
A liquid crystal display for displaying the image FD, various operation buttons such as a release button, a flash, an input / output interface, a control unit, a power supply unit, and the like are provided.

【0020】撮影された画像FD、または画像FDに編
集を加えた画像は、入出力インタフェースを介して、処
理装置5、その他の外部機器に転送可能である。また、
画像FDを記憶したメモリを取り外すことによって外部
機器に入力することも可能である。多眼カメラ3の機能
の詳細については後述する。
The photographed image FD or an image obtained by editing the image FD can be transferred to the processing device 5 and other external devices via an input / output interface. Also,
By removing the memory storing the image FD, the image can be input to the external device. Details of the function of the multi-lens camera 3 will be described later.

【0021】処理装置5は、多眼カメラ3で得られた画
像FDに対し、後述する種々の処理を行い、キャリブレ
ーションを行い、3次元モデルMLを生成する。なお、
処理装置5の機能を多眼カメラ3に内蔵し、多眼カメラ
3において3次元モデルMLを生成するようにしてもよ
い。
The processing device 5 performs various processes described later on the image FD obtained by the multi-lens camera 3, performs calibration, and generates a three-dimensional model ML. In addition,
The function of the processing device 5 may be built in the multi-view camera 3 and the multi-view camera 3 may generate the three-dimensional model ML.

【0022】図2に示すように、処理装置5は、装置本
体10、磁気ディスク装置11、媒体ドライブ装置1
2、ディスプレイ装置13、キーボード14、およびマ
ウス15などからなる。
As shown in FIG. 2, the processing device 5 includes a device main body 10, a magnetic disk device 11, and a medium drive device 1.
2, a display device 13, a keyboard 14, a mouse 15, and the like.

【0023】装置本体10は、CPU、RAM、RO
M、ビデオRAM、入出力ポート、および各種コントロ
ーラなどからなる。RAMおよびROMなどに記憶され
たプログラムをCPUが実行することにより、以下に説
明する種々の機能が実現される。
The apparatus main body 10 includes a CPU, a RAM, and an RO.
M, a video RAM, an input / output port, and various controllers. Various functions described below are realized by the CPU executing programs stored in the RAM, the ROM, and the like.

【0024】磁気ディスク装置11には、OS(Operat
ing System) 、3次元モデルMLを生成するためのモデ
リングプログラムPR、その他のプログラム、入力され
た画像(2次元画像データ)FD、生成された3次元モ
デルML、その他のデータなどが格納されている。これ
らのプログラムおよびデータは、適時、装置本体10の
RAMにローディングされる。
The magnetic disk device 11 has an OS (Operat
ing System), a modeling program PR for generating a three-dimensional model ML, other programs, an input image (two-dimensional image data) FD, a generated three-dimensional model ML, other data, and the like are stored. . These programs and data are loaded into the RAM of the apparatus body 10 at appropriate times.

【0025】なお、モデリングプログラムPRには、信
頼度判定処理、3次元再構成処理、ずれ算出処理、マッ
ピング処理、およびその他の処理のためのプログラムが
含まれる。
The modeling program PR includes programs for reliability determination processing, three-dimensional reconstruction processing, deviation calculation processing, mapping processing, and other processing.

【0026】媒体ドライブ装置12は、CD−ROM
(CD)、フロッピィディスクFPD、光磁気ディス
ク、コンパクトフラッシュ(登録商標)などの半導体メ
モリHM、その他の記録媒体にアクセスし、データまた
はプログラムの読み書きを行う。記録媒体の種類に応じ
て適切なドライブ装置が用いられる。上に述べたモデリ
ングプログラムPRは、これら記録媒体からインストー
ルすることも可能である。画像FDなども記録媒体を介
して入力することが可能である。
The medium drive device 12 is a CD-ROM
(CD), a floppy disk FPD, a magneto-optical disk, a semiconductor memory HM such as a compact flash (registered trademark), and other recording media are accessed to read and write data or programs. An appropriate drive device is used depending on the type of the recording medium. The above-described modeling program PR can be installed from these recording media. An image FD or the like can also be input via a recording medium.

【0027】ディスプレイ装置13の表示面HGには、
上に述べた種々のデータ、画像FD、モデリングプログ
ラムPRによる処理過程の画像、生成された3次元モデ
ルML、その他のデータまたは画像が表示される。
The display surface HG of the display device 13 includes:
The various data described above, the image FD, the image of the processing process by the modeling program PR, the generated three-dimensional model ML, and other data or images are displayed.

【0028】キーボード14およびマウス15は、ディ
スプレイ装置13に表示された画像FDに対して、ユー
ザが対応点を指定するために用いられる。その他、装置
本体10に種々のデータを入力しまたは指令を与えるた
めに用いられる。
The keyboard 14 and the mouse 15 are used by the user to designate corresponding points on the image FD displayed on the display device 13. In addition, it is used for inputting various data to the apparatus main body 10 or giving commands.

【0029】処理装置5は、パーソナルコンピュータま
たはワークステーションなどを用いて構成することが可
能である。上に述べたプログラムおよびデータは、ネッ
トワークNWを介して受信することにより取得すること
も可能である。
The processing device 5 can be configured using a personal computer or a workstation. The programs and data described above can be obtained by receiving them via the network NW.

【0030】図3は多眼カメラ3で対象物Qを連写で撮
影する様子を示す図、図4は連写の際のタイミング図、
図5は第1の補正方法による3次元モデルMLの生成の
流れを示す図、図6は第1の補正方法を説明する図、図
7は第2の補正方法による3次元モデルMLの生成の流
れを示す図、図8は第2の補正方法を説明する図であ
る。
FIG. 3 is a view showing a state in which the object Q is continuously photographed by the multi-lens camera 3, FIG. 4 is a timing chart at the time of continuous photographing,
FIG. 5 is a diagram showing a flow of generation of the three-dimensional model ML by the first correction method, FIG. 6 is a diagram for explaining the first correction method, and FIG. 7 is a diagram showing generation of the three-dimensional model ML by the second correction method. FIG. 8 is a diagram showing a flow, and FIG. 8 is a diagram for explaining a second correction method.

【0031】図4において、多眼カメラ3のレリーズボ
タンを押すと、連写制御部3rの制御によって連写がス
タートする。1回目の撮影ではパターン光が投影され
る。1回目の撮影から時間T1後に、2回目の撮影が、
パターン光なしで行われる。これにより、それぞれの撮
影において、2つのカメラ3k,3lによって対象物Q
についての視差のある2枚の画像FDが得られる。
In FIG. 4, when the release button of the multi-lens camera 3 is pressed, continuous shooting starts under the control of the continuous shooting control section 3r. In the first shooting, pattern light is projected. After time T1 from the first shooting, the second shooting
Performed without pattern light. Thereby, in each photographing, the object Q is controlled by the two cameras 3k and 3l.
Thus, two images FD having a parallax regarding are obtained.

【0032】図3に示すように、1回目の撮影時と2回
目の撮影時とで、多眼カメラ3の位置がずれている。そ
のため、1回目の画像FD1と2回目の画像FD2とで
は、対象物Qに対する視点(カメラの位置)がずれてい
る。
As shown in FIG. 3, the position of the multi-lens camera 3 is shifted between the first shooting and the second shooting. Therefore, the viewpoint (the position of the camera) with respect to the object Q is shifted between the first image FD1 and the second image FD2.

【0033】第1の補正方法では、図5に示すように、
1回目の撮影で得られた2枚の画像FD1に基づいて、
3次元再構成部31で3次元形状データDL1を生成す
る。マッピング部33において、2回目の撮影で得られ
た画像FD2を、生成された3次元形状データDL1に
マッピングする。そのマッピングの際に、多眼カメラ3
の位置ずれの補正(レジストレーション)を行う。ずれ
算出部32において、1回目の撮影で得られた画像FD
1と2回目の撮影で得られた画像FD2とに基づいて、
1回目の撮影時と2回目の撮影時との多眼カメラ3の位
置ずれを求める。その位置ずれに応じて、画像FD2を
はりつける位置を変える。
In the first correction method, as shown in FIG.
Based on the two images FD1 obtained in the first shooting,
The three-dimensional reconstruction unit 31 generates three-dimensional shape data DL1. The mapping unit 33 maps the image FD2 obtained in the second shooting to the generated three-dimensional shape data DL1. At the time of the mapping, the multi-view camera 3
Is performed (registration) of the positional deviation of. In the shift calculating unit 32, the image FD obtained in the first shooting
Based on the image FD2 obtained in the first and second shots,
The positional deviation of the multi-lens camera 3 between the first and second shootings is obtained. The position where the image FD2 is to be attached is changed according to the displacement.

【0034】図6に示すように、対象物Qの1つの頂点
について、画像FD1上の点P1(u1,v1)と画像
FD2上の点P2(u2,v2)とが対応する。しか
し、画像FD2上の点P2(u2,v2)は、位置とし
ては画像FD1上の点P2a(u2a,v2a)に対応
する。もし、画像FD2をそのまま3次元形状データD
L1にマッピングした場合には、画像FD2上の点P2
(u2,v2)は、3次元形状データDL1の点PL2
a(x2a,y2a,z2a)にはりつけられることと
なる。
As shown in FIG. 6, for one vertex of the object Q, a point P1 (u1, v1) on the image FD1 corresponds to a point P2 (u2, v2) on the image FD2. However, the point P2 (u2, v2) on the image FD2 corresponds in position to the point P2a (u2a, v2a) on the image FD1. If the image FD2 is used as it is in the three-dimensional shape data D
When mapping to L1, a point P2 on the image FD2
(U2, v2) is a point PL2 of the three-dimensional shape data DL1
a (x2a, y2a, z2a).

【0035】しかし、画像FD1上における点P1(u
1,v1)と点P2a(u2a,v2a)とのずれに基
づいて位置ずれの補正を行うことにより、画像FD2上
の点P2(u2,v2)は、3次元形状データDL1の
点PL1(x1,y1,z1)に正しくはりつけられ
る。
However, the point P1 (u on the image FD1
1, v1) and the point P2a (u2a, v2a) are corrected for positional deviation based on the deviation between the point P2 (u2, v2) on the image FD2 and the point PL1 (x1) of the three-dimensional shape data DL1. , Y1, z1).

【0036】第2の補正方法では、図7に示すように、
2回目の撮影で得られた2枚の画像FD2についても同
様に3次元再構成を行い、3次元形状データDL2を生
成する。1回目と2回目の3次元形状データDL1,D
L2を比較し、それらの特徴点の差から多眼カメラ3の
位置ずれを求める。その位置ずれに応じて、画像FD2
をはりつける位置を変える。
In the second correction method, as shown in FIG.
Similarly, three-dimensional reconstruction is performed on the two images FD2 obtained in the second shooting to generate three-dimensional shape data DL2. First and second three-dimensional shape data DL1, D
L2 is compared, and the displacement of the multi-lens camera 3 is obtained from the difference between the characteristic points. According to the displacement, the image FD2
Change the position where you attach.

【0037】図8に示すように、3次元形状データDL
2の頂点PL2(x2,y2,z2)は、3次元形状デ
ータDL1の頂点PL1(x1,y1,z1)に対応す
る。しかし、これら3次元形状データDL1,2を重ね
合わせたときに、その位置がずれ、3次元形状データD
L2の頂点PL2(x2,y2,z2)は3次元形状デ
ータDL1の点PL2a(x2a,y2a,z2a)と
一致する。
As shown in FIG. 8, three-dimensional shape data DL
The two vertices PL2 (x2, y2, z2) correspond to the vertices PL1 (x1, y1, z1) of the three-dimensional shape data DL1. However, when these three-dimensional shape data DL1 and DL2 are superimposed, their positions are shifted.
The vertex PL2 (x2, y2, z2) of L2 matches the point PL2a (x2a, y2a, z2a) of the three-dimensional shape data DL1.

【0038】したがって、もし画像FD2をそのまま3
次元形状データDL1にマッピングした場合には、画像
FD2上の点P2(u2,v2)は、3次元形状データ
DL1の点PL2a(x2a,y2a,z2a)にはり
つけられることとなる。
Therefore, if the image FD2 is
When the mapping is performed on the three-dimensional shape data DL1, the point P2 (u2, v2) on the image FD2 is glued to the point PL2a (x2a, y2a, z2a) of the three-dimensional shape data DL1.

【0039】しかし、3次元形状データDL1,2間の
位置ずれに基づいて補正を行うことにより、画像FD2
上の点P2(u2,v2)は、3次元形状データDL1
の頂点PL1(x1,y1,z1)に正しくはりつけら
れる。
However, by performing the correction based on the displacement between the three-dimensional shape data DL1 and DL2, the image FD2
The upper point P2 (u2, v2) is the three-dimensional shape data DL1
Is correctly glued to the vertex PL1 (x1, y1, z1) of.

【0040】次に、生成装置1における補正処理および
3次元モデルMLの生成について、フローチャートを参
照して説明する。図9は生成装置1における3次元モデ
ルの生成処理の流れを示すフローチャートである。
Next, correction processing and generation of the three-dimensional model ML in the generation device 1 will be described with reference to a flowchart. FIG. 9 is a flowchart showing a flow of a three-dimensional model generation process in the generation device 1.

【0041】図9において、多眼カメラ3によって、対
象物Qをパターン光ありとなしで2回撮影する(#1
1)。パターン光ありとなしの撮影の順序は、いずれが
先でもよい。
In FIG. 9, the object Q is photographed twice by the multi-lens camera 3 with and without pattern light (# 1).
1). The order of photographing with and without pattern light may be any order.

【0042】パターン光ありで撮影した画像FDを用い
て、または、これとともにパターン光なしで撮影した画
像FDを用いて、3次元再構成を行い、3次元形状デー
タDLを得る(#12)。パターン光ありとなしの画像
をそれぞれ撮影したときのカメラの位置ずれを求める
(#13)。位置ずれを補正して、画像FDを3次元形
状データDLにはりつける(#14)。
Using the image FD photographed with the pattern light or the image FD photographed without the pattern light, three-dimensional reconstruction is performed to obtain three-dimensional shape data DL (# 12). The position shift of the camera when the images with and without the pattern light are respectively photographed is obtained (# 13). The image FD is attached to the three-dimensional shape data DL by correcting the positional deviation (# 14).

【0043】以下、各ステップについてさらに詳しく説
明する。以下において、多眼カメラ3のうちの特定の1
つのカメラを「基準カメラ」、他のカメラを「参照カメ
ラ」と呼称することがある。
Hereinafter, each step will be described in more detail. In the following, a specific one of the multi-lens cameras 3 will be described.
One camera may be called a "reference camera" and the other camera may be called a "reference camera."

【0044】ステップ#12において、画像について対
応点検索を行い、その対応に基づいて、三角測距の原理
で各点の3次元座標を求める。対応点検索の手法は、ブ
ロック相関法、または勾配方程式を解く手法など、公知
の手法を用いることができる。
In step # 12, corresponding points are searched for the image, and based on the correspondence, three-dimensional coordinates of each point are obtained based on the principle of triangulation. A known method such as a block correlation method or a method of solving a gradient equation can be used as a corresponding point search method.

【0045】ステップ#13において、第1の補正方法
では、まず、パターン光ありの画像とはりつけ用の画像
(「テクスチャ画像」ということもある)とを比較す
る。エッジ上に存在する点など、特徴量の大きい点(以
下、単に「特徴点」という)について、パターン光あり
の画像とはりつけ用の画像との対応付けを行う。パター
ン光のありなしの違いがあるため、対応を求めにくいこ
とがあるが、投光するパターンの性質(色、形など)が
分かっている場合には、そのデータを対応点探索の際に
用いると効果的である。
In step # 13, in the first correction method, first, an image with pattern light is compared with an image for bonding (sometimes called a "texture image"). A point having a large feature amount (hereinafter, simply referred to as a "feature point") such as a point existing on an edge is associated with an image with pattern light and an image for bonding. Depending on the presence or absence of the pattern light, it may be difficult to determine the correspondence, but if the properties (color, shape, etc.) of the pattern to be projected are known, the data is used when searching for corresponding points. And effective.

【0046】そして、この対応付けられた特徴点と、ス
テップ#12で得られた3次元形状データDL上のこの
特徴点に対応する点との位置関係から、パターン光なし
の撮影時の基準カメラの投影行列を求める。この投影行
列は、パターン光ありの撮影時とパターン光なしの撮影
時とのカメラ位置のずれを反映している。
Then, based on the positional relationship between the associated feature point and the point corresponding to this feature point on the three-dimensional shape data DL obtained in step # 12, the reference camera for shooting without pattern light is used. Find the projection matrix of. This projection matrix reflects a shift in camera position between when photographing with pattern light and when photographing without pattern light.

【0047】一般に、画像上の6個以上の点の3次元座
標が分かれば、次の(1)式に示す連立方程式を解くこ
とによって投影行列Pを求めることが可能である。これ
によって、はりつけ用の画像の撮影時の基準カメラの投
影行列が求められる。
Generally, if the three-dimensional coordinates of six or more points on an image are known, the projection matrix P can be obtained by solving the simultaneous equations shown in the following equation (1). Thus, the projection matrix of the reference camera at the time of capturing the image for mounting is obtained.

【0048】[0048]

【数1】 (Equation 1)

【0049】なお、投影行列については、徐剛他著「3
次元ビジョン」共立出版、1998年4月30日発行、
第2章、第6章などを参照することができる。さらに、
カメラ位置がずれても内部パラメータは変化しない。し
たがって、既知であるパターン光ありの撮影時の基準カ
メラの投影行列から内部パラメータを計算できるので、
次の(2)式に示す投影行列Pの内部パラメータ成分と
外部パラメータ成分とへの分解を用いて、はりつけ用の
画像の撮影時の基準カメラの外部パラメータを計算する
ことができる。
The projection matrix is described in "3.
Dimension Vision, Kyoritsu Shuppan, published April 30, 1998,
Chapters 2 and 6 can be referred to. further,
Even if the camera position shifts, the internal parameters do not change. Therefore, since the internal parameters can be calculated from the projection matrix of the reference camera at the time of shooting with a known pattern light,
Using the decomposition of the projection matrix P into the internal parameter component and the external parameter component shown in the following equation (2), it is possible to calculate the external parameters of the reference camera at the time of capturing the image for mounting.

【0050】P=AM ……(2) ここで、Pは投影行列、Aは内部パラメータ成分、Mは
外部パラメータ成分である。
P = AM (2) where P is a projection matrix, A is an internal parameter component, and M is an external parameter component.

【0051】[0051]

【数2】 (Equation 2)

【0052】ただし、Rは3×3の直行行列、tは3次
元ベクトルである。また、Pには定数倍の自由度がある
ため、この等式は「定数倍を除いて等しい」という意味
である。
Here, R is a 3 × 3 orthogonal matrix, and t is a three-dimensional vector. Further, since P has a degree of freedom of a constant multiple, this equation means "equal except for a constant multiple".

【0053】投影行列の外部パラメータ成分には、上の
(2)式の中で示したような拘束条件があるので、これ
を用いることによって誤差を小さくすることができる。
ステップ#14では、ステップ#13で求めたはりつけ
用の画像の撮影時の基準カメラの投影行列を用いること
により、はりつけ用の画像を3次元形状データDLにず
れのないようにはりつけることができる。
Since the external parameter components of the projection matrix have the constraint conditions as shown in the above equation (2), errors can be reduced by using them.
In step # 14, by using the projection matrix of the reference camera at the time of photographing the image for mounting determined in step # 13, the image for mounting can be mounted without displacement to the three-dimensional shape data DL.

【0054】ステップ#13において、第2の補正方法
では、まず、2つの3次元形状データDL1,2上にお
いて、前述したいくつかの特徴点、通常は6個以上の特
徴点の座標を求める。求めた座標を用いて、パターン光
ありの撮影時とはりつけ用の画像の撮影時とのカメラの
位置の変化(回転、平行移動)を表す行列を、次の
(3)式に示す連立方程式を解くことによって求める。
In step # 13, in the second correction method, first, on the two three-dimensional shape data DL1 and DL2, the coordinates of some of the above-mentioned characteristic points, usually six or more characteristic points are obtained. Using the obtained coordinates, a matrix representing the change (rotation, translation) of the position of the camera between the time of shooting with the pattern light and the time of shooting the image for bonding is calculated by using the simultaneous equation shown in the following equation (3). Find by solving.

【0055】[0055]

【数3】 (Equation 3)

【0056】この行列成分にも、上の(3)式の中で示
したような拘束条件があるので、これを用いることによ
って誤差を小さくすることができる。これとパターン光
ありの撮影時の投影行列とを用いて、はりつけ用の画像
の撮影時の投影行列を求めればよい。これを求める式を
次の(4)式に示す。
Since the matrix component also has the constraint conditions shown in the above equation (3), an error can be reduced by using the constraint condition. Using this and the projection matrix at the time of shooting with pattern light, the projection matrix at the time of shooting the image for mounting may be obtained. The equation for finding this is shown in the following equation (4).

【0057】P’=PM ……(4) ここで、P’はテクスチャ画像撮影時の基準カメラの投
影行列(未知)、Pはパターン光ありの画像撮影時の基
準カメラの投影行列(既知)、Mは(3)式で求めた回
転、平行移動を表す行列(既知)を示す。
P ′ = PM (4) where P ′ is the projection matrix of the reference camera when capturing the texture image (unknown), and P is the projection matrix of the reference camera when capturing the image with pattern light (known). , M indicate a matrix (known) representing the rotation and translation obtained by the equation (3).

【0058】上の実施形態では、多眼カメラ3として2
眼カメラを用いたが、3眼以上のカメラを用いて3枚以
上の視差のある画像FDを取得し、これら3枚の画像F
Dに基づいて3次元形状データの信頼性を判断し、信頼
性の高いデータのみを特徴点として用いるようにしても
よい。
In the above embodiment, the multi-lens camera 3 is 2
Although an eye camera was used, three or more images FD with parallax were acquired using a camera with three or more eyes, and these three images F
The reliability of the three-dimensional shape data may be determined based on D, and only highly reliable data may be used as a feature point.

【0059】つまり、例えば、基準カメラの画像と各参
照カメラの画像とから得られる複数の3次元形状データ
を比較し、各3次元形状データごとの3次元座標の一致
度の高い点を、信頼性の高い点として抽出して特徴点の
代わりに用いる。
That is, for example, a plurality of three-dimensional shape data obtained from the image of the reference camera and the image of each reference camera are compared, and a point having a high degree of coincidence of the three-dimensional coordinates for each of the three-dimensional shape data is determined. It is extracted as a highly likely point and used instead of a feature point.

【0060】その場合に、磁気ディスク装置11に記憶
された信頼度判定処理のためのプログラムが実行され
る。信頼度判定処理の内容の例を挙げると次のとおりで
ある。すなわち、対象物Qにパターン光を投影すること
なく撮影された画像FD2上の特徴から、信頼度を求め
る。また、画像FD1,2がそれぞれ3つずつある場合
に、3次元再構成部31において3つの画像から生成さ
れる複数の3次元形状データの各対応点の一致度に応じ
て、信頼度を求める。そして、ずれ算出部32は、2つ
の3次元形状データDL1,2を比較する際に、各3次
元形状データDL1,2の各点に信頼度に応じた評価を
加えて比較する。
In this case, a program for reliability determination processing stored in the magnetic disk device 11 is executed. An example of the content of the reliability determination processing is as follows. That is, the reliability is obtained from the feature on the image FD2 photographed without projecting the pattern light on the object Q. Further, when there are three images FD1 and FD3, the three-dimensional reconstruction unit 31 calculates the reliability according to the degree of coincidence of each corresponding point of a plurality of three-dimensional shape data generated from the three images. . Then, when comparing the two pieces of three-dimensional shape data DL1 and DL2, the shift calculating unit 32 adds an evaluation according to the reliability to each point of each of the pieces of three-dimensional shape data DL1 and DL and compares them.

【0061】また、信頼度が所定以上ある各点、例えば
3次元形状データ上の一致度がある値以上である各点に
対し、一致度の高さに応じて重み付けを行う。そして、
最小2乗法などを用いる場合に、その重みを評価関数に
反映させることとしてもよい。
Further, weighting is applied to each point having a certain degree of reliability or more, for example, each point having a degree of coincidence on the three-dimensional shape data which is equal to or more than a certain value, according to the degree of coincidence. And
When using the least squares method or the like, the weight may be reflected in the evaluation function.

【0062】このようにして、はりつけ用の画像の撮影
時の投影行列を求め、これを用いて3次元形状データに
画像をはりつけることにより、パターン光ありの撮影時
とはりつけ用の画像の撮影時とでカメラの位置がずれて
いたとしても、はりつけた画像が3次元形状データから
ずれることがなくなる。これにより、精度のよい3次元
モデルMLを生成することができる。
In this way, the projection matrix at the time of photographing the image for mounting is obtained, and the image is mounted on the three-dimensional shape data using the matrix. Even if the position of the camera is deviated, the glued image does not deviate from the three-dimensional shape data. As a result, an accurate three-dimensional model ML can be generated.

【0063】上に述べた実施形態においては、1回目の
撮影でパターン光を投影したが、1回目の撮影ではパタ
ーン光を投影せず、2回目の撮影でパターン光を投影し
てもよい。また、対象物Qから特徴点を抽出することが
できる場合には、パターン光を投影しなくてもよい。3
次元形状データの生成のために視差のある2枚の画像F
Dから3次元再構成を行ったが、光切断法などによる3
次元計測装置を用いて対象物から直接的に3次元形状デ
ータDLを得るようにしてもよい。
In the embodiment described above, the pattern light is projected in the first photographing, but the pattern light may be projected in the second photographing without projecting the pattern light in the first photographing. If feature points can be extracted from the object Q, the pattern light need not be projected. 3
Two images F with parallax for generating two-dimensional shape data
Three-dimensional reconstruction was performed from D.
The three-dimensional shape data DL may be obtained directly from the target using a dimension measurement device.

【0064】また、一般に、パターン光によって被写体
各部をコード化し、各コードパターンがどの位置に受光
されるかを検出することにより3次元計測を行う方法
(空間コード化法)が知られている。この空間コード化
法においても、本発明の適用が可能である。すわわち、
上に述べた実施形態と同様に、空間コード化法によって
対象物にパターン光を投影した状態および投影しない状
態で撮影を1回ずつ行い、これらの間のずれを補正しつ
つ2次元画像をはりつけ、対象物の3次元モデルを生成
すればよい。
In general, there is also known a method of performing three-dimensional measurement by coding each part of a subject with pattern light and detecting a position where each code pattern is received (space coding method). The present invention is also applicable to this spatial coding method. I mean,
As in the above-described embodiment, the imaging is performed once in a state where the pattern light is projected onto the target object by the spatial coding method and in a state where the pattern light is not projected, and a two-dimensional image is attached while correcting a shift between them. , A three-dimensional model of the object may be generated.

【0065】上の実施形態において、多眼カメラ3、処
理装置5、または生成装置1の全体または各部の構造、
形状、寸法、個数、材質、処理の内容または順序など
は、本発明の趣旨に沿って適宜変更することができる。
In the above embodiment, the structure of the whole or each part of the multi-lens camera 3, the processing device 5, or the generation device 1,
The shape, size, number, material, processing content or order, etc. can be appropriately changed in accordance with the gist of the present invention.

【0066】[0066]

【発明の効果】本発明によると、精度のよい3次元モデ
ルを生成することができる。
According to the present invention, an accurate three-dimensional model can be generated.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明に係る生成装置を示す図である。FIG. 1 is a diagram showing a generation device according to the present invention.

【図2】処理装置の構成例を示すブロック図である。FIG. 2 is a block diagram illustrating a configuration example of a processing apparatus.

【図3】多眼カメラで対象物を連写で撮影する様子を示
す図である。
FIG. 3 is a diagram showing a state in which an object is continuously photographed by a multi-lens camera.

【図4】連写の際のタイミング図である。FIG. 4 is a timing chart at the time of continuous shooting.

【図5】第1の補正方法による3次元モデルの生成の流
れを示す図である。
FIG. 5 is a diagram showing a flow of generation of a three-dimensional model by a first correction method.

【図6】第1の補正方法を説明する図である。FIG. 6 is a diagram illustrating a first correction method.

【図7】第2の補正方法による3次元モデルの生成の流
れを示す図である。
FIG. 7 is a diagram showing a flow of generating a three-dimensional model by a second correction method.

【図8】第2の補正方法を説明する図である。FIG. 8 is a diagram illustrating a second correction method.

【図9】生成装置における3次元モデルの生成処理の流
れを示すフローチャートである。
FIG. 9 is a flowchart illustrating a flow of a process of generating a three-dimensional model in the generation device.

【符号の説明】[Explanation of symbols]

1 生成装置 3 多眼カメラ 3k,3l カメラ 3p パターン光投影装置 3r 連写制御部 5 処理装置 11 磁気ディスク装置(第1の記憶部、第2の記憶
部、第3の記憶部) 31 3次元再構成部 32 ずれ算出部 33 マッピング部(はりつけ部) FD,FD1,FD2 画像(2次元画像) DL 3次元形状データ ML 3次元モデル
REFERENCE SIGNS LIST 1 generation device 3 multi-lens camera 3k, 3l camera 3p pattern light projection device 3r continuous shooting control unit 5 processing device 11 magnetic disk device (first storage unit, second storage unit, third storage unit) 31 three-dimensional Reconstruction unit 32 Misalignment calculation unit 33 Mapping unit (bonding unit) FD, FD1, FD2 Image (2D image) DL 3D shape data ML 3D model

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B050 BA04 BA06 BA09 BA10 DA02 DA07 EA12 EA13 EA17 EA27 EA28 5B057 BA02 BA13 CA08 CA13 CA16 CB08 CB13 CB16 CD01 CH11 DA07 DB03 DB09 DC32 5B080 BA07 DA06 GA22 5L096 CA04 CA17 EA14 FA69  ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5B050 BA04 BA06 BA09 BA10 DA02 DA07 EA12 EA13 EA17 EA27 EA28 5B057 BA02 BA13 CA08 CA13 CA16 CB08 CB13 CB16 CD01 CH11 DA07 DB03 DB09 DC32 5B080 BA07 DA06 GA22 5L096 CA04 CA17 EA14

Claims (15)

【特許請求の範囲】[Claims] 【請求項1】対象物を非接触で計測して対象物の3次元
形状データを生成するステップと、 対象物を撮影して対象物の2次元画像を得るステップ
と、 対象物の計測の際に得られる2次元画像と対象物の撮影
によって得られた2次元画像とを比較し、それらの間の
ずれを補正しつつ、対象物の撮影によって得られた2次
元画像を前記3次元形状データにはりつけるステップ
と、 を有してなることを特徴とする3次元モデルの生成方
法。
A step of generating three-dimensional shape data of the object by measuring the object in a non-contact manner; a step of photographing the object to obtain a two-dimensional image of the object; The two-dimensional image obtained by photographing the object is compared with the two-dimensional image obtained by photographing the object, and the two-dimensional image obtained by photographing the object is corrected. A method for generating a three-dimensional model, comprising the steps of:
【請求項2】対象物についての3次元モデルを生成する
装置であって、 対象物を非接触で計測して得られたデータに基づいて対
象物の3次元形状データを生成する手段と、 対象物を撮影して対象物の2次元画像を得る手段と、 対象物の計測の際に得られる2次元画像と対象物の撮影
によって得られた2次元画像とに基づいて、対象物の計
測と対象物の撮影とにおける視点のずれを求める手段
と、 対象物の撮影によって得られた2次元画像を、求められ
た視点のずれを補正して前記3次元形状データにはりつ
ける手段と、 を有してなることを特徴とする3次元モデルの生成装
置。
2. An apparatus for generating a three-dimensional model of an object, comprising: means for generating three-dimensional shape data of the object based on data obtained by measuring the object in a non-contact manner; Means for photographing the object to obtain a two-dimensional image of the object; measuring the object based on the two-dimensional image obtained when the object is measured and the two-dimensional image obtained by photographing the object; Means for determining a shift in viewpoint between the shooting of the target object and a means for correcting a determined shift in the viewpoint of a two-dimensional image obtained by shooting the target object and attaching the corrected two-dimensional image to the three-dimensional shape data. An apparatus for generating a three-dimensional model.
【請求項3】対象物についての3次元モデルを生成する
装置であって、 多眼カメラによる1の撮影で得られた対象物についての
視差のある複数の2次元画像を記憶する第1の記憶部
と、 前記多眼カメラによる他の1の撮影で得られた対象物の
2次元画像を記憶する第2の記憶部と、 前記第1の記憶部に記憶された2次元画像に基づいて対
象物の3次元形状データを生成する3次元再構成部と、 前記第2の記憶部に記憶された2次元画像と、前記第1
の記憶部に記憶された2次元画像とに基づいて、前記1
の撮影と前記他の1の撮影とにおける視点のずれを求め
るずれ算出部と、 前記第2の記憶部に記憶された2次元画像を、求められ
た視点のずれを補正して前記3次元形状データにはりつ
けるはりつけ部と、 を有してなることを特徴とする3次元モデルの生成装
置。
3. An apparatus for generating a three-dimensional model of an object, wherein the first storage stores a plurality of two-dimensional images having parallax of the object obtained by one photographing with a multi-view camera. Unit, a second storage unit that stores a two-dimensional image of the object obtained by another one of the shootings by the multi-lens camera, and an object based on the two-dimensional image stored in the first storage unit. A three-dimensional reconstruction unit for generating three-dimensional shape data of an object; a two-dimensional image stored in the second storage unit;
1 based on the two-dimensional image stored in the storage unit
A shift calculating unit for calculating a shift of a viewpoint between the shooting of the one and the shooting of the other one, and correcting the obtained shift of the viewpoint on the two-dimensional image stored in the second storage unit to obtain the three-dimensional shape. An apparatus for generating a three-dimensional model, comprising: a bonding part for bonding to data;
【請求項4】前記第1の記憶部に記憶された2次元画像
は、対象物にパターン光を投影して撮影されたものであ
り、 前記第2の記憶部に記憶された2次元画像は、対象物に
パターン光を投影することなく撮影されたものである、 請求項3記載の3次元モデルの生成装置。
4. The two-dimensional image stored in the first storage unit is obtained by projecting pattern light onto an object and photographed. The two-dimensional image stored in the second storage unit is The three-dimensional model generation device according to claim 3, wherein the image is photographed without projecting the pattern light onto the object.
【請求項5】多眼カメラと、 対象物にパターン光を投影するパターン光投影装置と、 パターン光を投影して行う1の撮影とパターン光を投影
することなく行う他の1の撮影とを前記多眼カメラに連
続的に実行させる連写制御部と、をさらに有してなる、 請求項3記載の3次元モデルの生成装置。
5. A multi-lens camera, a pattern light projection device for projecting pattern light onto an object, and one photographing performed by projecting the pattern light and another photographing performed without projecting the pattern light. The three-dimensional model generation device according to claim 3, further comprising: a continuous shooting control unit that causes the multi-lens camera to execute the shooting continuously.
【請求項6】対象物についての3次元モデルを生成する
装置であって、 多眼カメラによる1の撮影で得られた対象物についての
視差のある複数の第1の2次元画像を記憶する第1の記
憶部と、 前記多眼カメラによる他の1の撮影で得られた対象物に
ついての視差のある複数の第2の2次元画像を記憶する
第2の記憶部と、 視差のある複数の2次元画像に基づいて対象物の3次元
形状データを生成する3次元再構成部と、 前記第1の2次元画像および前記第2の2次元画像から
前記3次元再構成部によってそれぞれ生成された第1の
3次元形状データおよび第2の3次元形状データを記憶
する第3の記憶部と、 前記第1の3次元形状データと前記第2の3次元形状デ
ータとを比較し、それらの間のずれを求めるずれ算出部
と、 前記第2の2次元画像を、求められたずれを補正して前
記第1の3次元形状データにはりつけるはりつけ部と、 を有してなることを特徴とする3次元モデルの生成装
置。
6. An apparatus for generating a three-dimensional model of an object, the apparatus storing a plurality of first two-dimensional images having parallax about the object obtained by one photographing with a multi-view camera. One storage unit; a second storage unit that stores a plurality of second two-dimensional images having a parallax with respect to the target object obtained by the other one shooting by the multi-eye camera; A three-dimensional reconstruction unit that generates three-dimensional shape data of the object based on the two-dimensional image; and a three-dimensional reconstruction unit that is generated by the three-dimensional reconstruction unit from the first two-dimensional image and the second two-dimensional image. A third storage unit that stores first three-dimensional shape data and second three-dimensional shape data; and compares the first three-dimensional shape data with the second three-dimensional shape data. A shift calculator for determining the shift of the second The original image, generating apparatus of a three-dimensional model of the determined offset correction to the characterized by comprising a, a pasting unit for pasting the first three-dimensional shape data.
【請求項7】前記第1の2次元画像は、対象物にパター
ン光を投影して撮影されたものであり、 前記第2の2次元画像は、対象物にパターン光を投影す
ることなく撮影されたものである、 請求項6記載の3次元モデルの生成装置。
7. The first two-dimensional image is photographed by projecting pattern light onto an object, and the second two-dimensional image is photographed without projecting pattern light onto the object. The apparatus for generating a three-dimensional model according to claim 6, wherein:
【請求項8】前記3次元形状データの各点の信頼度を求
める信頼度判定部を備え、 前記ずれ算出部は、前記第1の3次元形状データと前記
第2の3次元形状データとを比較する際に、各3次元形
状データの各点に信頼度に応じた評価を加えて比較す
る、 請求項6記載の3次元モデルの生成装置。
8. A reliability determining unit for determining a reliability of each point of the three-dimensional shape data, wherein the displacement calculating unit calculates the first three-dimensional shape data and the second three-dimensional shape data. The three-dimensional model generation device according to claim 6, wherein, when performing the comparison, each point of each three-dimensional shape data is evaluated by adding an evaluation according to the reliability.
【請求項9】前記信頼度判定部は、対象物にパターン光
を投影することなく撮影された2次元画像の画像上の特
徴から信頼度を求める、 請求項7記載の3次元モデルの生成装置。
9. The three-dimensional model generation device according to claim 7, wherein the reliability determination unit obtains the reliability from a feature on an image of the two-dimensional image photographed without projecting the pattern light onto the object. .
【請求項10】前記複数の第1の2次元画像および前記
複数の第2の2次元画像は、それぞれ3つずつあり、 前記信頼度判定部は、前記3次元再構成部において3つ
の2次元画像から生成される複数の3次元形状データの
各対応点の一致度に応じて信頼度を求める、 請求項7記載の3次元モデルの生成装置。
10. The three-dimensional reconstruction unit according to claim 3, wherein the plurality of first two-dimensional images and the plurality of second two-dimensional images are three each. The three-dimensional model generation device according to claim 7, wherein a reliability is obtained according to a degree of coincidence of each corresponding point of a plurality of three-dimensional shape data generated from an image.
【請求項11】多眼カメラと、 対象物にパターン光を投影するパターン光投影装置と、 パターン光を投影して行う1の撮影とパターン光を投影
することなく行う他の1の撮影とを前記多眼カメラに連
続的に実行させる連写制御部と、をさらに有してなる、 請求項6記載の3次元モデルの生成装置。
11. A multi-lens camera, a pattern light projection device for projecting pattern light onto an object, and one photographing performed by projecting the pattern light and another photographing performed without projecting the pattern light. The three-dimensional model generation device according to claim 6, further comprising: a continuous shooting control unit that causes the multi-lens camera to execute the shooting continuously.
【請求項12】対象物についての3次元モデルを生成す
るするためのコンピュータプログラムであって、 多眼カメラによる1の撮影で得られた対象物についての
視差のある複数の2次元画像を記憶する第1の記憶部
と、 前記多眼カメラによる他の1の撮影で得られた対象物の
2次元画像を記憶する第2の記憶部と、 前記第1の記憶部に記憶された2次元画像に基づいて対
象物の3次元形状データを生成する3次元再構成部と、 前記第2の記憶部に記憶された2次元画像と、前記第1
の記憶部に記憶された2次元画像とに基づいて、前記1
の撮影と前記他の1の撮影とにおける視点のずれを求め
るずれ算出部と、 前記第2の記憶部に記憶された2次元画像を、求められ
た視点のずれを補正して前記3次元形状データにはりつ
けるはりつけ部と、 を機能的に実現するための処理をコンピュータに実行さ
せるためのコンピュータプログラム。
12. A computer program for generating a three-dimensional model of an object, wherein the computer program stores a plurality of two-dimensional images having parallax of the object obtained by one photographing with a multi-view camera. A first storage unit, a second storage unit that stores a two-dimensional image of the target object obtained by another one of shootings by the multi-lens camera, and a two-dimensional image stored in the first storage unit A three-dimensional reconstruction unit that generates three-dimensional shape data of the object based on the two-dimensional image stored in the second storage unit;
1 based on the two-dimensional image stored in the storage unit
A shift calculating unit for calculating a shift of a viewpoint between the shooting of the one and the shooting of the other one, and correcting the obtained shift of the viewpoint on the two-dimensional image stored in the second storage unit to obtain the three-dimensional shape. A computer program for causing a computer to execute a process for functionally realizing the function of a bonding portion for bonding data.
【請求項13】対象物についての3次元モデルを生成す
るするためのコンピュータプログラムであって、 多眼カメラによる1の撮影で得られた対象物についての
視差のある複数の第1の2次元画像を記憶する第1の記
憶部と、 前記多眼カメラによる他の1の撮影で得られた対象物に
ついての視差のある複数の第2の2次元画像を記憶する
第2の記憶部と、 視差のある複数の2次元画像に基づいて対象物の3次元
形状データを生成する3次元再構成部と、 前記第1の2次元画像および前記第2の2次元画像から
前記3次元再構成部によってそれぞれ生成された第1の
3次元形状データおよび第2の3次元形状データを記憶
する第3の記憶部と、 前記第1の3次元形状データと前記第2の3次元形状デ
ータとを比較し、それらの間のずれを求めるずれ算出部
と、 前記第2の2次元画像を、求められたずれを補正して前
記第1の3次元形状データにはりつけるはりつけ部と、 を機能的に実現するための処理をコンピュータに実行さ
せるためのコンピュータプログラム。
13. A computer program for generating a three-dimensional model of an object, comprising: a plurality of first two-dimensional images having parallax of the object obtained by one photographing with a multi-view camera. A second storage unit that stores a plurality of second two-dimensional images having a parallax with respect to an object obtained by another one of shootings by the multi-view camera; A three-dimensional reconstruction unit that generates three-dimensional shape data of an object based on a plurality of two-dimensional images having a plurality of two-dimensional images, and the three-dimensional reconstruction unit from the first two-dimensional image and the second two-dimensional image A third storage unit that stores the generated first three-dimensional shape data and second three-dimensional shape data, and compares the first three-dimensional shape data with the second three-dimensional shape data. , Find the shift between them A computer executes a process for functionally realizing a shift calculating unit, and a gluing unit for correcting the obtained shift of the second two-dimensional image to the first three-dimensional shape data. Computer program to make it work.
【請求項14】請求項12記載のコンピュータプログラ
ムが記録されたコンピュータ読み取り可能な記録媒体。
14. A computer-readable recording medium on which the computer program according to claim 12 is recorded.
【請求項15】請求項13記載のコンピュータプログラ
ムが記録されたコンピュータ読み取り可能な記録媒体。
15. A computer-readable recording medium on which the computer program according to claim 13 is recorded.
JP2001151851A 2001-05-22 2001-05-22 Method and device for generating three-dimensional model and computer program Pending JP2002342787A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001151851A JP2002342787A (en) 2001-05-22 2001-05-22 Method and device for generating three-dimensional model and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001151851A JP2002342787A (en) 2001-05-22 2001-05-22 Method and device for generating three-dimensional model and computer program

Publications (1)

Publication Number Publication Date
JP2002342787A true JP2002342787A (en) 2002-11-29

Family

ID=18996616

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001151851A Pending JP2002342787A (en) 2001-05-22 2001-05-22 Method and device for generating three-dimensional model and computer program

Country Status (1)

Country Link
JP (1) JP2002342787A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015121729A1 (en) 2014-02-12 2015-08-20 Toyota Jidosha Kabushiki Kaisha Distance information acquisition method, distance information acquisition device, distance information acquisition program and robot
CN111192353A (en) * 2019-12-30 2020-05-22 珠海金山网络游戏科技有限公司 Material generation method and device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015121729A1 (en) 2014-02-12 2015-08-20 Toyota Jidosha Kabushiki Kaisha Distance information acquisition method, distance information acquisition device, distance information acquisition program and robot
CN111192353A (en) * 2019-12-30 2020-05-22 珠海金山网络游戏科技有限公司 Material generation method and device
CN111192353B (en) * 2019-12-30 2023-08-25 珠海金山数字网络科技有限公司 Material generation method and device

Similar Documents

Publication Publication Date Title
US10916033B2 (en) System and method for determining a camera pose
CN106548489B (en) A kind of method for registering, the three-dimensional image acquisition apparatus of depth image and color image
Ahmadabadian et al. A comparison of dense matching algorithms for scaled surface reconstruction using stereo camera rigs
US8447099B2 (en) Forming 3D models using two images
US8452081B2 (en) Forming 3D models using multiple images
WO2021140886A1 (en) Three-dimensional model generation method, information processing device, and program
CN111243002A (en) Monocular laser speckle projection system calibration and depth estimation method applied to high-precision three-dimensional measurement
WO2017183470A1 (en) Three-dimensional reconstruction method
JP4238586B2 (en) Calibration processing apparatus, calibration processing method, and computer program
KR20150120066A (en) System for distortion correction and calibration using pattern projection, and method using the same
JP2006099188A (en) Information processing method and apparatus
WO2004044522A1 (en) Three-dimensional shape measuring method and its device
JP2009017480A (en) Camera calibration device and program thereof
CN110419208B (en) Imaging system, imaging control method, image processing apparatus, and computer readable medium
US20210374978A1 (en) Capturing environmental scans using anchor objects for registration
US20190108653A1 (en) Capture Device Calibration Methods and Systems
JP2002516443A (en) Method and apparatus for three-dimensional display
CN112254670B (en) 3D information acquisition equipment based on optical scanning and intelligent vision integration
CN110260801A (en) Method and apparatus for measuring volume of material
KR102546346B1 (en) Apparatus and method for omni-directional camera calibration
Avetisyan et al. Calibration of Depth Camera Arrays.
JP2003006618A (en) Method and device for generating three-dimensional model and computer program
JP2007033087A (en) Calibration device and method
JP3221384B2 (en) 3D coordinate measuring device
Guillemaut et al. Using points at infinity for parameter decoupling in camera calibration

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20050613

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20050704