JP2024502065A - 三次元走査機器、方法、装置、記憶媒体およびプロセッサ - Google Patents
三次元走査機器、方法、装置、記憶媒体およびプロセッサ Download PDFInfo
- Publication number
- JP2024502065A JP2024502065A JP2023540479A JP2023540479A JP2024502065A JP 2024502065 A JP2024502065 A JP 2024502065A JP 2023540479 A JP2023540479 A JP 2023540479A JP 2023540479 A JP2023540479 A JP 2023540479A JP 2024502065 A JP2024502065 A JP 2024502065A
- Authority
- JP
- Japan
- Prior art keywords
- image
- stripe
- color
- temporal
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 115
- 238000003384 imaging method Methods 0.000 claims abstract description 248
- 230000003287 optical effect Effects 0.000 claims abstract description 109
- 230000002123 temporal effect Effects 0.000 claims description 305
- 239000003086 colorant Substances 0.000 claims description 28
- 108091026890 Coding region Proteins 0.000 claims description 22
- 238000012163 sequencing technique Methods 0.000 claims 2
- 238000010586 diagram Methods 0.000 description 42
- 230000008569 process Effects 0.000 description 20
- 230000000694 effects Effects 0.000 description 12
- 241000526960 Amaranthus acanthochiton Species 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 238000013461 design Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 4
- 238000005859 coupling reaction Methods 0.000 description 4
- 238000005034 decoration Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 210000000214 mouth Anatomy 0.000 description 4
- 239000000470 constituent Substances 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 210000004400 mucous membrane Anatomy 0.000 description 2
- 230000002459 sustained effect Effects 0.000 description 2
- 210000001519 tissue Anatomy 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2509—Color coding
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C19/00—Dental auxiliary appliances
- A61C19/04—Measuring instruments specially adapted for dentistry
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0062—Arrangements for scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0082—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
- A61B5/0088—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for oral or dental tissue
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/107—Measuring physical dimensions, e.g. size of the entire body or parts thereof
- A61B5/1077—Measuring of profiles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C9/00—Impression cups, i.e. impression trays; Impression methods
- A61C9/004—Means or methods for taking digitized impressions
- A61C9/0046—Data acquisition means or methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C9/00—Impression cups, i.e. impression trays; Impression methods
- A61C9/004—Means or methods for taking digitized impressions
- A61C9/0046—Data acquisition means or methods
- A61C9/0053—Optical means or methods, e.g. scanning the teeth by a laser or light beam
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2531—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings, projected with variable angle of incidence on the object, and one detection device
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2536—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B18/00—Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
- A61B18/18—Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by applying electromagnetic radiation, e.g. microwaves
- A61B18/20—Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by applying electromagnetic radiation, e.g. microwaves using laser
- A61B2018/2035—Beam shaping or redirecting; Optical components therefor
- A61B2018/20351—Scanning mechanisms
- A61B2018/20353—Scanning in three dimensions [3D]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C9/00—Impression cups, i.e. impression trays; Impression methods
- A61C9/004—Means or methods for taking digitized impressions
- A61C9/0046—Data acquisition means or methods
- A61C9/0053—Optical means or methods, e.g. scanning the teeth by a laser or light beam
- A61C9/006—Optical means or methods, e.g. scanning the teeth by a laser or light beam projecting one or more stripes or patterns on the teeth
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- General Physics & Mathematics (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Theoretical Computer Science (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Epidemiology (AREA)
- General Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
三次元走査機器、方法、装置、記憶媒体およびプロセッサであって、該装置は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器(10)と、走査対象物を撮像してカメラ画像を取得するように構成されるカメラ(12)と、を備え、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度(ΔL)範囲内にある場合、画像平面における第1ストライプ群の結像は、第1結像区間内にあり、かつ、第1結像区間内には第1ストライプ群のみがある。従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
Description
<関連出願の相互参照>
本願は、2020年12月31日に中国特許庁に出願された出願番号2020116406858号の「三次元走査方法、装置、記憶媒体およびプロセッサ」の中国特許出願についての優先権、および2020年12月31日に中国特許庁に出願された出願番号2020116421453号の「三次元走査装置および方法」の中国特許出願についての優先権を主張し、それらの内容全体は参照によって本願に組み込まれる。
本願は、2020年12月31日に中国特許庁に出願された出願番号2020116406858号の「三次元走査方法、装置、記憶媒体およびプロセッサ」の中国特許出願についての優先権、および2020年12月31日に中国特許庁に出願された出願番号2020116421453号の「三次元走査装置および方法」の中国特許出願についての優先権を主張し、それらの内容全体は参照によって本願に組み込まれる。
本発明は、三次元走査の分野に関し、より具体的には、三次元走査機器、方法、装置、記憶媒体およびプロセッサに関する。
現在、国際的には歯科診断と治療分野における歯型データの取得方法は、印象三次元走査から口腔内三次元走査技術へと徐々に移行していく。該技術の登場は、歯のデジタル処理における新たな革命と言える。該技術により、印象、型取り、三次元走査による歯科模型データの取得方法を放棄し、口腔内を直接走査して歯の三次元データを取得することができる。プロセス時間の面では、印象と型取りの2つのステップが省略され、コストの面では、上記プロセスに必要な材料費、人件費、モデルの宅配料が節約され、顧客体験の面では、印象の際の不快感を回避することができる。以上の利点から、該技術は大きく成長することが明らかである。市場では大きな利益を得る。
3Dデジタル口腔内スキャナは、口腔内スキャナとも呼ばれ、プローブ型光学スキャンヘッドとして、患者の口腔内を直接スキャンして、歯、歯肉、粘膜などの軟組織および硬組織の表面の三次元形状とカラーテクスチャ情報を取得する機器である。この装置の1方法としては、アクティブ構造光三角測量イメージングの原理によって、デジタル投影システムを用いてアクティブ光パターンを投影し、カメラ撮像システムがパターンを取得したりすると、すぐにアルゴリズム処理を通じて3次元再構成とステッチングを実行する。
構造化光符号化パターンを設計する場合、通常、時間的位相アンラップ、空間的位相アンラップなど、画像全体を復号することが考慮され、ラップされた位相を得ることに加えて、真の絶対位相を取得することで、ラップされた位相の周期性問題を解決する必要がある。位相をグローバルにアンラップするためには、通常、より多くの画像シーケンス、またはより複雑な空間符号化と復号処理が必要になる。
従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とするという問題に対する有効な解決手段は、いまだに提案されていない。
本発明の実施例は、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題を解決するために、三次元走査機器、方法、装置、記憶媒体およびプロセッサを提供する。
本発明の実施例の一態様によれば、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器と、前記走査対象物を撮像(収集)してカメラ画像を取得するように構成されるカメラと、を備える三次元走査機器であって、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがある三次元走査機器が提供される。
選択的には、前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第1結像区間をd1とする場合、d1=ΔL×tgα÷k1である。
選択的には、前記投影機器は、前記第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第1表示区間をD1とする場合、D1=ΔL×tgα÷k2である。
選択的には、前記ストライプ符号化画像は、前記第1ストライプ群に隣接して設けられている第2ストライプ群をさらに含み、前記画像平面は、前記第1結像区間に隣接して設けられている第2結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度内にある場合、前記第2ストライプ群が前記画像平面での結像は前記第2結像区間内にあり、かつ、前記第2結像区間内には前記第2ストライプ群のみがある。
選択的には、前記ストライプ符号化画像は、周期的に配列された複数のストライプ群を含み、前記第1ストライプ群および前記第2ストライプ群は、それぞれ1つのサイクルのストライプ群である。
選択的には、前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第2結像区間をd2とする場合、d2=ΔL×tgα÷k1である。
選択的には、前記投影機器は、前記第2ストライプ群が設けられている第2表示区間を含む画像表示素子を備え、前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第2表示区間をD2とする場合、D2=ΔL×tgα÷k2である。
選択的には、前記機器は、前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を実行するように構成されるプロセッサをさらに備える。
選択的には、前記プロセッサには、前記第1結像区間座標が予め設定され、前記プロセッサは、前記カメラ画像に基づいて前記カメラ画像におけるストライプの中心の画素座標を決定し、前記ストライプの画素座標および前記第1結像区間の座標に基づいて前記カメラ画像における各ストライプのシリアル番号を決定し、前記ストライプの中心の画素座標および前記シリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的には、前記プロセッサには、ストライプ符号化画像内の各ストライプの光平面および対応するシリアル番号が予め設定され、前記プロセッサは、前記カメラ画像における各ストライプのシリアル番号と前記各ストライプの光平面に対応するシリアル番号との整合性に基づいて前記ストライプの中心の画素座標に対応する光平面を決定し、前記ストライプの中心の画素座標および対応する光平面に基づいて三角測量を行って走査対象物の三次元デジタルモデルを再構成する。
本発明の実施例の別の態様によれば、上記三次元走査機器に基づいて、投影機器によって走査対象物にストライプ符号化画像を投影するステップと、カメラによって前記走査対象物を撮像してカメラ画像を取得するステップであって、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲にある場合、前記画像平面における前記第1ストライプ群の結像は前記第1結像区間内にあり、かつ、前記第1結像区間において前記第1ストライプ群のみがあるステップと、プロセッサによって前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を行うステップと、を実行する三次元走査方法が提供される。
選択的には、前記方法は、前記カメラ画像に基づいて、前記カメラ画像におけるストライプの中心の画素座標を決定するステップと、前記プロセッサには第1結像区間の座標が予め設定され、前記ストライプの画素座標および前記第1結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、前記シリアル番号に基づいて前記ストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、をさらに含む。
本発明の実施例の別の態様によれば、ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップと、前記走査対象物の三次元再構成画像を撮像するステップであって、前記三次元再構成画像における前記走査対象物の表面上に前記ストライプ符号化画像を有するステップと、前記三次元再構成画像に基づいて前記走査対象物の三次元モデルを再構成するステップと、を含む三次元走査方法が提供される。選択的には、ストライプ符号化画像が時間符号化画像である場合、三次元走査方法は、第1時間では走査対象物の表面に第1時間ストライプパターンを投影するステップと、走査対象物の表面の第1時間ストライプ画像を取得するステップと、第2時間では走査対象物の表面に第2時間ストライプパターンを投影するステップと、走査対象物の表面の第2時間ストライプ画像を取得するステップと、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、をさらに含む。
選択的には、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップと、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップと、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的には、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップを含み、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップは、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップを含み、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップは、第1符号化テーブルと第2符号化テーブルの同じ画素位置の符号化値を、第1時間ストライプ画像と第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成する。
選択的には、前記方法は、走査対象物の表面の第2時間ストライプ画像を取得した後、さらに、第3時間では走査対象物の表面に第3時間ストライプパターンを投影するステップと、走査対象物の表面の第3時間ストライプ画像を取得するステップと、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、を含む。
選択的には、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップと、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップと、第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するステップと、第1符号化テーブル、第2符号化テーブル、および第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的には、符号化テーブルは2値符号化され、時間符号化画像においてストライプのある画素に対応する符号化値は1で、時間符号化画像においてストライプのない画素に対応する符号化値は0である。
選択的には、前記方法は、第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、さらに、走査対象物に第4時間ストライプパターンを投影し、走査対象物の表面上の第4時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第4時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、走査対象物に第5時間ストライプパターンを投影し、走査対象物の表面上の第5時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第5時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、を含み、第5時間ストライプパターンは、第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される。
選択的には、ストライプ符号化画像が色符号化画像である場合、三次元走査方法は、第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を、走査対象物の表面に投影するステップと、走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得するステップと、第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定するステップと、を含む。
選択的には、色ストライプ画像に基づいて色画像符号化テーブルを決定するステップは、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップと、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップと、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップと、を含む。
選択的には、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップは、第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するステップを含み、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップは、第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するステップを含み、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップは、第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するステップを含む。
選択的には、符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である。
本発明の実施例の別の態様によれば、ストライプ符号化画像を走査対象物に投影するように構成される投影ユニットであって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニットと、走査対象物の三次元再構成画像を撮像するように構成される撮像ユニットであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニットと、三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニットと、を備える三次元走査機器が提供される。
本発明の実施例の別の態様によれば、記憶されたプログラムを含むコンピュータ可読記憶媒体も提供される。前記プログラムが実行されるとき、前記コンピュータ可読記憶媒体が配置された装置が上記三次元走査方法を実行するように制御する。
本発明の実施例のさらなる態様によれば、プログラムを実行するように構成されるプロセッサも提供される。前記プログラムが実行されるとき、上記三次元走査方法を実行する。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成され、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
本明細書で説明される添付図面は、本発明のさらなる理解を提供するために用いられ、本願の一部を構成し、本発明の例示的な実施例およびその説明は、本発明を説明するために用いられ、本発明の不当な限定を構成するものではない。添付図面は以下の通りである、
本発明の実施例による三次元走査機器の概略図である。
本発明の実施例によるレンズの光学パラメータの概略図である。
本発明の実施例による第1時間ストライプパターンの概略図1である。
本発明の実施例による第2時間ストライプパターンの概略図2である。
本発明の実施例による第3時間ストライプパターンの概略図3である。
本発明の実施例による時間符号化画像の符号化テーブルの概略図である。
本発明の実施例による色符号化画像の概略図である。
本発明の実施例による色符号化画像の符号化テーブルの概略図である。
本発明の実施例による三次元走査方法のフローチャート1である。
本発明の実施例による三次元走査方法のフローチャート2である。
本発明の実施例による符号化がブロックされたときの概略図である。
本発明の実施例によるストライプオフセットの再構成の概略図である。
本発明の実施例による三次元走査機器の概略図である。
以下、当業者が本発明の解決手段をよりよく理解できるようにするために、本発明の実施例における添付図面を参照しながら、本発明の実施例における技術的解決手段を明確かつ完全に説明するが、説明される実施例は本発明の実施例の一部に過ぎず、その全てではないことは明らかである。本発明における実施例に基づいて、当業者が創造的な努力なしに得られる他のすべての実施例は、本発明の保護範囲に含まれるものとする。
なお、本発明の明細書および特許請求の範囲ならびに上記添付図面における「第1」、「第2」などの用語は、類似の対象を区別するために用いられ、必ずしも特定の順序または後先の順序を説明するために用いられるものではない。このように使用されるデータは、本明細書に記載された本発明の実施例が本明細書に図示または記載されたもの以外の順序で実施できるように、適切な場合には交換可能であることを理解されたい。さらに、「含む」および「有する」という用語、ならびにその任意の変形は、非排他的な包含を意図し、例えば、一連のステップまたはユニットからなるプロセス、方法、システム、製品または機器は、明確に記載されたそれらのステップまたはユニットに限定する必要はなく、明確に記載されていないまたはそれらのプロセス、方法、製品または機器に固有の他のステップまたはユニットを含む場合がある。
本発明の実施例によれば、三次元走査に基づく投影光線オフセット方法の実施例が提供される。なお、添付図面のフローチャートに示されるステップは、命令のセットを実行可能なコンピュータのようなコンピュータシステムで実行されてもよく、フローチャートには論理シーケンスが示されているが、場合によっては、示されるまたは説明されるステップは、ここに示されるものとは異なる順序で実行されてもよい。
図1は、本発明の実施例による三次元走査機器の概略図であり、図1に示すとおり、該機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器10と、走査対象物を撮像してカメラ画像を取得するように構成されるカメラ12と、を備える。ここで、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲内にある場合、画像平面における第1ストライプ群の結像は、第1結像区間内にあり、かつ、第1結像区間内には第1ストライプ群のみがある。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがある。上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
選択的には、図1に示すとおり、有効被写界深度ΔLは、Z0からZ2までの距離であり、Z0は近点位置で、Z2は遠点位置であり、走査対象物がZ0とZ2との間にある場合、カメラで走査対象物の鮮明な画像を撮像することができる。
すなわち、有効被写界深度ΔL=フロント被写界深度(front depth of field)ΔL1+リア被写界深度(rear depth of field)ΔL2であり、ΔL1+ΔL2の値の範囲は10mm~20mmにある。
選択的には、カメラの光学システムの倍率は通常3:1程度であり、カメラ画像上の固定投影光の結像区間(例えば第1結像区間または第2結像区間)はd、すなわち1周期(サイクル)範囲となる。
本願で保護しようとする技術的解決手段は、通常、有効被写界深度内の小さな視野に向けた走査シーンでは、両眼システムの角度および光学レンズの倍率により、構造化光の同じコード値のストライプパターンがカメラまたは投影機器の幅内で移動することは避けられず、この移動は、有効被写界深度、光学システムの角度およびレンズの倍率の3つに依存する。
選択的には、移動範囲には、投影機器の表示区間(第1表示区間または第2表示区間など)、およびカメラの結像区間(第1結像区間または第2結像区間など)を含み、三次元走査機器における投影機器およびカメラの光学パラメータが決定されると、移動範囲が決定され、この移動範囲内のストライプ符号化の一意性を設計することにより、幅全体でグローバルにコード値の一意性を確保することができる。光の線形伝搬特性により、この表示区間内の光が該結像区間から飛び出すことはない。
選択的には、該結像移動範囲を1つの符号化サイクルとし、該符号化サイクルでは符号化の一意性が確保され、該サイクルは光学設計に応じて小さい範囲を確保でき、少ない符号化情報(少ない画像シーケンスまたは少ない空間符号化)で符号化の一意性を確保することができる。
図2は、本発明の実施例によるレンズの光学パラメータの概略図であり、図2に示すとおり、該光学パラメータは、レンズの焦点面と、焦点面の前後で、フロント焦点深度とリア焦点深度を得るための錯乱円と、レンズの有効被写界深度とを含む。ここで、レンズの有効被写界深度は、フロント焦点深度に基づくフロント被写界深度と、リア焦点深度に基づくリア被写界深度と、物体点(すなわち走査対象物)の位置とレンズとの間の撮影距離とを含み、撮影距離は、レンズと走査対象物との間の被写体距離と、被写界深度の近点とレンズとの間の近点距離と、被写界深度の遠点とレンズとの間の遠点距離とを含む。
選択的には、図2に示されるレンズは、カメラのレンズであっても、投影機器のレンズであってもよい。
選択的には、図2に示されるレンズがカメラのレンズである場合、走査対象物をカメラの有効被写界深度内に設定し、走査対象物を撮像するカメラ画像を焦点深度範囲内に設定することができ、カメラのレンズで決定された光学パラメータに基づいて結像区間(例えば第1結像区間または第2結像区間)を計算することができる。
選択的には、図2に示されるレンズが投影機器のレンズである場合、ストライプ符号化画像のネガフィルム(またはネガ位相)を投影機器の焦点深度範囲内に設定し、走査対象物を投影機器の有効被写界深度範囲内に設定することができ、投影機器のレンズで決定された光学パラメータに基づいて表示区間(例えば第1表示区間または第2表示区間)を計算することができる。
選択的な実施例として、投影機器の投影光軸とカメラの撮像光軸との間にシステム角度αが形成され、カメラの光学パラメータとしては、レンズ倍率k1を含み、三次元走査機器の有効被写界深度をΔL、第1結像区間をd1とする場合、d1=ΔL×tgα÷k1である。
選択的な実施例として、投影機器は、第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、投影機器の光学パラメータとしては、投影機器のレンズ倍率k2を含み、第1表示区間をD1とする場合、D1=ΔL×tgα÷k2である。
選択的な実施例として、ストライプ符号化画像は、第1ストライプ群に隣接して設けられている第2ストライプ群をさらに含み、画像平面は、第1結像区間に隣接して設けられている第2結像区間を含み、走査対象物が三次元走査機器の有効被写界深度内にある場合、第2ストライプ群が画像平面での結像は第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがある。
選択的には、投影機器の被写界深度の近点に第1ストライプ群を、投影機器の被写界深度の遠点に第2ストライプ群を投影するか、または、投影機器の被写界深度の遠点に第1ストライプ群を、投影機器の被写界深度の近点に第2ストライプ群を投影する。
選択的な実施例として、ストライプ符号化画像は、周期的に配列された複数のストライプ群を含み、第1ストライプ群および第2ストライプ群は、それぞれ1つのサイクルのストライプ群である。
選択的には、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。
選択的な実施例として、ストライプ符号化画像では2値符号化が用いられる。時間ストライプ画像では、ストライプのある画素はコード1、ストライプのない画素はコード0で表される。色符号化パターンでは、赤のストライプ(R)がある画素はコード100、青のストライプ(B)がある画素はコード001、緑のストライプ(G)がある画素はコード010、ストライプのない画素はコード000で表される。もちろん、2色のストライプしかない場合は、2つのコードでよく、例えば、赤のストライプがある画素はコード10、青のストライプがある画素はコード01、ストライプがない画素はコード00で表される。
選択的には、ストライプ符号化画像が時間符号化画像である場合、時間符号化画像は複数の時間ストライプパターンを含み、複数の時間ストライプパターンは時間順に順次投影される。ここで、複数の時間ストライプパターンは1つの符号化サイクルに対応する。
選択的には、第1ストライプ群は第1時間に投影された時間ストライプパターンであってもよく、第2ストライプ群は第2時間に投影された時間ストライプパターンであってもよい。
選択的には、第1ストライプ群は、色符号化パターンであってもよい。
図3aに示すとおり、図3aは、本発明の実施例による第1時間ストライプパターンの概略図1であり、図3bに示すとおり、図3bは、本発明の実施例による第2時間ストライプパターンの概略図2であり、図3cに示すとおり、図3cは、本発明の実施例による第3時間ストライプパターンの概略図3であり、図3a~図3cに示される3つの時間ストライプパターンは1つの符号化サイクルに対応し、該符号化サイクルにおける3つの時間ストライプパターン内の各ストライプを復号すると、1つの時間画像符号化テーブルを取得でき、該符号化テーブルにより、投影される各ストライプの順序を決定することができる。
図3dに示すとおり、図3dは、本発明の実施例による時間符号化画像の符号化テーブルの概略図であり、図3a~図3cに示される時間ストライプパターンでは、同じ画素位置が順に(2値コード0または1で)値を取り、かつ、3つの時間ストライプパターンの取得時間に従って順に並べると、図3dに示される2値ストライプ符号化が取得される。
ここで、第1時間ストライプパターンの単一サイクルストライプは、10101000であり、10101000は、第1時間ストライプパターンで周期的に繰り返し設定されてもよく、第2時間ストライプパターンの単一サイクルストライプは、10001010であり、10001010は、第2時間ストライプパターンで周期的に繰り返し設定されてもよく、第3時間ストライプパターンの単一サイクルストライプは、11111111であり、11111111は、第3時間ストライプパターンで周期的に繰り返し設定されてもよく、もちろん、10101000、10001010、11111111の繰り返しサイクル数は同じであり、投影中において、3つの時間ストライプパターンは、時系列順に投影され、例えば、1番目の投影時間では第1時間ストライプパターンを投影し、2番目の投影時間では第2時間ストライプパターンを投影し、3番目の投影時間では第3時間ストライプパターンを投影する。
選択的には、三次元再構成前にカメラ画像のストライプ符号化画像を取得する際、ストライプを破壊する物体の境界、遮断、反射などの様々な厳しい環境に関わらず、以上のコードにより識別することができ、コードの曖昧さという問題が回避される。
なお、図3a~図3cに示される3つの時間ストライプ符号化画像は、1つの再構成サイクルとして設計され、3つの時間ストライプ符号化画像に基づいて復号および再構成の動作を完了できるため、動的走査中の時間ストライプ符号化画像の持続的な取得に要する時間が大幅に短縮され、高速な動きに起因する画像のオフセット、画像のぼやけ、復号エラーなどの問題が回避される。
図4aは、本発明の実施例による色符号化画像の概略図であり、図4aに示すとおり、その符号化サイクル内の各ストライプを色で符号化し、色の種類が多いほど、符号化の一意性を設計しやすくなるが、同時に色符号化の識別が難しくなり、色の種類が多いほど、色の違いを区別するのが難しくなる。ストライプの数を8本などに制御すれば、3色で区別でき、符号化と復号の複雑さが大幅に低減される。
図4bは、本発明の実施例による色符号化画像の符号化テーブルの概略図であり、図4bに示すとおり、異なる色のストライプ符号化画像の符号化値(3チャンネルの色の情報を表現するために0または1の2値符号化を使用する)に基づいて得られる3ビットの2進数がストライプコードとなる。
例えば、図4aに示されるストライプ符号化画像には3つの色を含まれ、各色のストライプが1つの符号化シーケンスに対応する。ここで、赤のストライプ(R)に対応する符号化シーケンスは100、青のストライプ(B)に対応する符号化シーケンスは001、緑のストライプ(G)に対応する符号化シーケンスは010である。もちろん、ストライプ符号化画像は、デブルーインシーケンスに基づいて配列されたカラーストライプシーケンスであってもよいし、デブルーインシーケンスに基づいて配列されたカラーストライプシーケンスを単一サイクルとして繰り返し設定された複数のストライプシーケンスであってもよい。
選択的には、三次元再構成前にカメラ画像のストライプ符号化画像を取得する際、ストライプを破壊する物体の境界、遮断、反射などの様々な厳しい環境に関わらず、以上のコードにより識別することができ、コードの曖昧さという問題が回避される。
なお、図4aに示される異なる色のストライプ符号化画像を1つのサイクルとして、1枚のシンプルな色符号化に基づく色ストライプ符号化画像を実現することで、復号および再構成の動作を完了できるため、動的走査中の1フレームの三次元データに必要な画像シーケンスの持続的な取得時間が大幅に短縮され、符号化と復号の複雑さと計算量が低減され、色の種類が多すぎることによる複雑で時間のかかるアルゴリズム、復号エラーなどの問題が回避される。
選択的な実施例として、投影機器の投影光軸とカメラの撮像光軸との間にシステム角度αが形成され、カメラの光学パラメータとしては、レンズ倍率k1を含み、三次元走査機器の有効被写界深度をΔL、第2結像区間をd2とする場合、d2=ΔL×tgα÷k1である。
選択的な実施例として、投影機器は、第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、投影機器の光学パラメータとしては、投影機器のレンズ倍率k2を含み、第2表示区間をD2とする場合、D2=ΔL×tgα÷k2である。
選択的には、システム角度αの値の範囲は、6°~10°の間である。
選択的な実施例として、プロセッサは、カメラ画像に基づいて走査対象物に対して三次元再構成を行うように構成される。
選択的な実施例として、プロセッサには、第1結像区間座標が予め設定され、プロセッサは、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定し、ストライプの画素座標および第1結像区間の座標に基づいてカメラ画像における各ストライプのシリアル番号を決定し、ストライプの中心の画素座標およびシリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的な実施例として、プロセッサには、第2結像区間座標が予め設定され、プロセッサは、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定し、ストライプの画素座標、第1結像区間の座標および第2結像区間の座標に基づいてカメラ画像における各ストライプのシリアル番号を決定し、ストライプの中心の画素座標およびシリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的な実施例として、プロセッサには、ストライプ符号化画像内の各ストライプの光平面および対応するシリアル番号が予め設定され、プロセッサは、カメラ画像における各ストライプのシリアル番号と各ストライプの光平面に対応するシリアル番号との整合性に基づいてストライプの中心の画素座標に対応する光平面を決定し、ストライプの中心の画素座標および対応する光平面に基づいて三角測量を行って走査対象物の三次元デジタルモデルを再構成する。
図5は、本発明の実施例による三次元走査方法のフローチャート1であり、図5に示すとおり、上記三次元走査機器に基づいて、
投影機器によって走査対象物にストライプ符号化画像を投影するステップS502と、
カメラによって走査対象物を撮像してカメラ画像を取得するステップであって、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲にある場合、画像平面における第1ストライプ群の結像は第1結像区間内にあり、かつ、第1結像区間において第1ストライプ群のみがあるステップS504と、
プロセッサによってカメラ画像に基づいて走査対象物に対して三次元再構成を行うステップS506と、を実行する。
投影機器によって走査対象物にストライプ符号化画像を投影するステップS502と、
カメラによって走査対象物を撮像してカメラ画像を取得するステップであって、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲にある場合、画像平面における第1ストライプ群の結像は第1結像区間内にあり、かつ、第1結像区間において第1ストライプ群のみがあるステップS504と、
プロセッサによってカメラ画像に基づいて走査対象物に対して三次元再構成を行うステップS506と、を実行する。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。選択的な実施例として、該方法は、さらに、カメラ画像に基づいて、カメラ画像におけるストライプの中心の画素座標を決定するステップと、プロセッサには第1結像区間の座標が予め設定され、ストライプの画素座標および第1結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、シリアル番号に基づいてストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、を含む。
選択的な実施例として、カメラによって走査対象物を撮像してカメラ画像を取得する。ここで、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間および第2結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲内にある場合、画像平面における第1ストライプ群の結像は、第1結像区間内にあり、かつ、第1結像区間内には第1ストライプ群のみがあり、画像平面における第2ストライプ群の結像は、第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがある。なお、走査対象物が有効被写界深度範囲内で移動する場合、第1ストライプ群は第1結像区間内で移動するが、第1結像区間を超えることはなく、第2ストライプ群は第2結像区間内で移動するが、第2結像区間を超えることはない。
選択的な実施例として、投影機器は、第1ストライプ群および第2ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間および第2結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、前記画像平面における前記第2ストライプ群の結像は、第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェアで定義される第1結像区間および第2結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルのみを結像し、第2結像区間を別の符号化サイクルのみを結像し、そして各符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、さらに、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。同じ投影パターンでは符号化が一意のストライプシーケンスを繰り返し設定することができ、符号化の難易度が低減される。
選択的な実施例として、該方法は、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定するステップと、プロセッサには第1結像区間の座標および第2結像区間の座標が予め設定され、ストライプの画素座標、第1結像区間の座標および第2結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、シリアル番号に基づいてストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、をさらに含む。
図6は、本発明の実施例による三次元走査方法のフローチャート2であり、図6に示すとおり、該方法は、
ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップS602と、
走査対象物の三次元再構成画像を撮像するステップであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有するステップS604と、
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成するステップS606と、を含む。
ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップS602と、
走査対象物の三次元再構成画像を撮像するステップであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有するステップS604と、
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成するステップS606と、を含む。
ここで、走査対象物にストライプ符号化画像を投影し、ストライプ符号化画像が走査対象物によって変調および変形され、取得された走査対象物の三次元再構成画像は走査対象物の表面結像であり、結像には変形されたストライプ符号化画像を含む。
本発明の実施例において、ストライプ符号化画像を走査対象物に投影し、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。走査対象物の三次元再構成画像を撮像し、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する。三次元再構成画像に基づいて走査対象物の三次元モデルを再構成することによって、時間符号化画像または色符号化画像によって、ストライプ符号化画像は、一意的なストライプコードを有することができ、ストライプ符号化画像のストライプコードの一意性を確保するという目的が達成され、動的走査の速度を向上させるという技術的効果が達成され、三次元走査プロセスに必要とする投影画像の複雑な符号化の課題が解決される。
選択的には、色符号化画像において、色ストライプパターンは、少なくとも第1ストライプ群を含む。
選択的には、時間符号化画像において、第1時間投影の時間ストライプパターンは、第1ストライプ群であってもよく、第2時間投影の時間ストライプパターンは、第2ストライプ群であってもよい。
図7は、本発明の実施例による符号化が遮断されたときの概略図であり、図7に示すとおり、P1~P8は符号化ストライプである。ここで、P1、P2は、カメラの視野が物体(すなわち、走査対象物)自体によって遮られ、サイドストライプのラインが途切れて不完全になるため、モノリシックデータの不完全性につながり、かつ、P1~P2の符号化情報は、P6~P7の符号化情報と非常に近いため、コードの曖昧さにつながり、三次元再構成においてノイズとスプリアスデータになる場合があるが、本願による技術的解決手段によれば、画像符号化テーブル(例えば、時間画像符号化テーブル、色画像符号化テーブル)に基づいてストライプ画像を識別でき、ストライプ符号化の識別効率を向上させる。
走査対象物の三次元再構成画像を撮像する上記ステップS604において、ストライプ符号化画像を走査対象物に投影して得られた1つまたは複数の画像を取得することであってもよい。ここで、ストライプ符号化画像が時間符号化画像である場合、ストライプ符号化画像が表面にある複数の画像を収集し、収集された複数の画像に基づいて三次元再構成画像を決定してもよく、ストライプ符号化画像が色符号化画像である場合、ストライプ符号化画像が表面にある1つの画像を収集し、該画像に基づいて三次元再構成画像を決定してもよい。
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する上記ステップS606は、単眼立体視システムまたは両眼立体視システムを用いて、三次元モデルを再構成するステップを含む。
例えば、カメラAとカメラBを備える両眼立体視システムに基づいて三次元モデルを再構成するプロセスでは、走査対象物の三次元再構成画像を撮像するプロセスでは、カメラAによって撮像された三次元再構成画像は第1三次元再構成画像であり、カメラBによって撮像された三次元再構成画像は第2三次元再構成画像であり、そして第1三次元再構成画像と第2三次元再構成画像の共通ストライプコードに基づいて走査対象物の三次元モデルを再構成する。
別の例として、単眼立体視システムに基づいて三次元モデルを再構成するプロセスでは、カメラは三次元再構成画像を撮像し、三次元再構成画像内のストライプおよび対応する光平面に基づいて、走査対象物の三次元モデルを再構成する。
以下では、説明のために、走査対象物の表面に投影された内容をストライプパターンとし、ストライプパターンは、時間ストライプパターン(例えば、第1時間ストライプパターン、第2時間ストライプパターン、第3時間ストライプパターン、第4時間ストライプパターンおよび第5時間ストライプパターン)、および色ストライプパターン(例えば、第1色ストライプパターンおよび第2色ストライプパターン)を含む。走査対象物を有する撮像された内容をストライプ画像とし、ストライプ画像には走査対象物を有し、かつ、ストライプ画像内の走査対象物の表面にはストライプパターンを有し、ストライプ画像は、時間ストライプ画像(例えば、第1時間ストライプ画像、第2時間ストライプ画像、第3時間ストライプ画像、第4時間ストライプ画像、第5時間ストライプ画像)、および色ストライプ画像(例えば、第1色ストライプ画像および第2色ストライプ画像)を含む。
例えば、第1時間ストライプパターンを走査対象物に投影した後、走査対象物の表面には投影された第1時間ストライプパターンがあり、このとき、走査対象物の画像を撮像し(すなわち第1時間ストライプ画像を撮像し)、撮像された第1時間ストライプ画像には、走査対象物、および走査対象物の表面に投影された第1時間ストライプパターンを有する。
他のストライプパターンとストライプ画像の関係も同様であるため、ここでは説明を省略する。
選択的な実施例として、ストライプ符号化画像が時間符号化画像である場合、三次元走査方法は、第1時間では走査対象物の表面に第1時間ストライプパターンを投影するステップと、走査対象物の表面の第1時間ストライプ画像を取得するステップと、第2時間では走査対象物の表面に第2時間ストライプパターンを投影するステップと、走査対象物の表面の第2時間ストライプ画像を取得するステップと、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、をさらに含む。
選択的には、第1時間は第2時間よりも早い。
本発明の上記実施例において、第1時間では走査対象物の表面に第1時間ストライプパターンを投影し、そして走査対象物の表面の第1時間ストライプ画像を撮像し、第2時間では走査対象物の表面に第2時間ストライプパターンを投影し、そして走査対象物の表面の第2時間ストライプ画像を撮像し、さらに、第1時間ストライプ画像と第2時間ストライプ画像の時系列に基づいてストライプの画像符号化テーブルを共通で定義する。
なお、撮像された第1時間ストライプ画像は、第1三次元再構成画像であり、第1三次元再構成画像には、走査対象物によって変調された第1時間ストライプパターンを含み、撮像された第2時間ストライプ画像は、第2三次元再構成画像であり、第2三次元再構成画像には、走査対象物によって変調された第2時間ストライプパターンを含む。
選択的な実施例として、第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップと、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップと、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップを含み、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップは、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップを含み、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップは、第1符号化テーブルと第2符号化テーブルの同じ画素位置の符号化値を、第1時間ストライプ画像と第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成する。
選択的な実施例として、符号化テーブルは2値符号化され、時間符号化画像においてストライプのある画素に対応する符号化値は1で、時間符号化画像においてストライプのない画素に対応する符号化値は0である。
本発明の上記実施例において、時間ストライプパターン(例えば、第1時間ストライプパターンおよび第2時間ストライプパターン)には複数の画像位置が設定され、各画素は2値コードを表すことができ、例えば、該画素位置にストライプのある画素が分布されている場合、第1符号化値、例えば1を表し、該画素位置にストライプのない画素が分布されている場合、第2符号化値、例えば0を表す。したがって、第1時間ストライプ画像に基づいて、対応する第1符号化テーブルがあり、第2時間ストライプ画像に基づいて、対応する第2符号化テーブルがあり、さらに、第1符号化テーブルおよび第2符号化テーブルに基づいて、ストライプの取得順に基づいて同じ画素位置の対応する符号化シーケンスを決定して時間画像符号化テーブルを形成することができる。
例えば、第1時間ストライプ画像内の画素位置Aを1、Bを0として符号化され、第2時間ストライプ画像内の画素位置Aを0、Bを1として符号化されると、第1時間ストライプ画像に対応する第1符号化テーブルは(A:1、B:0)で、第2時間ストライプ画像に対応する第2符号化テーブルは(A:0、B:1)であり、すると、第1符号化テーブルおよび第2符号化テーブルに基づいて決定された時間画像符号化テーブルは(A:10、B:01)である。
選択的には、投影される時間ストライプパターンは2つでもよいし、2つ以上でもよく、複数の時間ストライプパターンを時系列に並べて、マルチビットのコードを生成することができる。
選択的な実施例として、この方法は、走査対象物の表面の第2時間ストライプ画像を取得した後、さらに、第3時間では走査対象物の表面に第3時間ストライプパターンを投影するステップと、走査対象物の表面の第3時間ストライプ画像を取得するステップと、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、を含む。
例えば、第1時間ストライプ画像内の画素位置Aを1、Bを0として符号化され、第2時間ストライプ画像内の画素位置Aを0、Bを1として符号化されることに基づいて、第3時間ストライプ画像内の画素位置Aを1、Bを1として符号化されると、第1時間ストライプ画像に対応する第1符号化テーブルは(A:1、B:0)で、第2時間ストライプ画像に対応する第2符号化テーブルは(A:0、B:1)で、第3時間ストライプ画像に対応する第3符号化テーブルは(A:1、B:1)であり、すると、第1符号化テーブル、第2符号化テーブルおよび第3符号化テーブルに基づいて決定された時間画像符号化テーブルは(A:101、B:011)である。
選択的な実施例として、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップと、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップと、第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するステップと、第1符号化テーブル、第2符号化テーブル、および第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、方法は、第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、さらに、走査対象物に第4時間ストライプパターンを投影し、走査対象物の表面上の第4時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第4時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、走査対象物に第5時間ストライプパターンを投影し、走査対象物の表面上の第5時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第5時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、を含み、第5時間ストライプパターンは、第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される。
図8は、本発明の実施例によるストライプオフセットの再構成の概略図であり、図8に示すとおり、ストライプ間隔をLとすると、再構成されたストライプを等距離オフセットがある密なストライプ群として設計でき、モノリシックデータの密度を高くする。ストライプ解像度の要件に応じて、ストライプのオフセット距離dをLの1/2、1/3、1/4などに設計することができ、ストライプのオフセット距離が小さいほど解像度が高くなり、ストライプのオフセット距離が大きいほど、画像数が小さくなり、走査速度が速くなる。
選択的には、図1に示される三次元走査機器に基づいて、投影システムの有効被写界深度、カメラのレンズ倍率、投影システムの投影光軸とカメラの撮像光軸との間の光学角などの機器パラメータが三次元走査機器内の各ハードウェアの物理特性によって決定されるため、上記機器パラメータに基づいて、ストライプ符号化画像をカメラの幅内に移動させる。
さらに、上記三次元走査機器の機器パラメータに基づいて、ストライプ符号化画像がカメラの撮像範囲を超えないようにすることができるため、撮像されたストライプコードを有する走査対象物の画像を三次元再構成することが容易になる。
なお、通常、有効被写界深度内の小さな視野に向けた走査シーンでは、両眼システムの角度および光学レンズの倍率により、構造化光の同じコード値のストライプパターン(すなわち、ストライプ符号化画像)がカメラの幅内で移動することは避けられず、この移動は、有効被写界深度、光学システムの角度およびレンズの倍率の3つに依存する。光学システムのパラメータが固定されると、この移動範囲(すなわち、オフセット距離)が決定され、この移動範囲(すなわち、オフセット距離)内のストライプ符号化の一意性を設計することにより、幅全体でグローバルにコード値の一意性を確保することができる。光の線形伝搬特性により、この移動範囲(すなわち、オフセット距離)内の投影光が該範囲から飛び出すことはない。該移動範囲(すなわち、オフセット距離)を1つの符号化サイクルとし、該符号化サイクルでは符号化の一意性が確保され、該符号化サイクルは光学設計に応じて小さい範囲を確保できるため、少ない符号化情報(少ない画像シーケンスまたは少ない空間符号化)で符号化の一意性を確保することができる。全体範囲では他の符号化サイクルのストライプが該符号化サイクルに干渉することがないため,複数の符号化サイクルを幅全体で使用することができる。
選択的な実施例として、ストライプ符号化画像が色符号化画像である場合、三次元走査方法は、第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を、走査対象物の表面に投影するステップと、走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得するステップと、第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定するステップと、を含む。
なお、第1色ストライプ画像および第2色ストライプ画像は、対応する色チャンネルによって別々に取得された同じ色ストライプパターンにおける複数の色ストライプであり、例えば、赤ストライプと緑ストライプとの組み合わせた配列を含む色ストライプパターンで、カメラの赤チャンネルがその赤ストライプを取得して赤ストライプ画像を形成し、カメラの緑チャンネルが緑ストライプを取得して緑ストライプ画像を形成する。
選択的な実施例として、色ストライプ画像に基づいて色画像符号化テーブルを決定するステップは、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップと、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップと、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップは、第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するステップを含み、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップは、第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するステップを含み、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップは、第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するステップを含む。
選択的な実施例として、符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である。
本発明の実施例の別の態様によれば、記憶されたプログラムを含むコンピュータ可読記憶媒体も提供される。前記プログラムが実行されるとき、前記コンピュータ可読記憶媒体が配置された装置が上記三次元走査方法を実行するように制御する。
本発明の実施例のさらなる態様によれば、プログラムを実行するように構成されるプロセッサも提供される。前記プログラムが実行されるとき、上記三次元走査方法を実行する。
本発明の実施例によれば、三次元走査機器の実施例も提供される。なお、該三次元走査機器は、本発明の実施例における三次元走査方法を実行するように構成されてもよく、本発明の実施例における三次元走査方法は、該三次元走査機器で実行され得る。
図9は、本発明の実施例による三次元走査機器の概略図であり、図9に示すとおり、該機器は、
ストライプ符号化画像を走査対象物に投影するように構成される投影ユニット92であって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニット92と、走査対象物の三次元再構成画像を撮像するように構成される撮像ユニット94であって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニット94と、三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニット96と、を備える。
ストライプ符号化画像を走査対象物に投影するように構成される投影ユニット92であって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニット92と、走査対象物の三次元再構成画像を撮像するように構成される撮像ユニット94であって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニット94と、三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニット96と、を備える。
なお、該実施例における投影ユニット92は、本願の実施例におけるステップS602を実行するように構成でき、該実施例における撮像ユニット94は、本願の実施例におけるステップS604を実行するように構成でき、該実施例における再構成ユニット96は、本願の実施例におけるステップS606を実行するように構成できる。上記機器および対応するステップによって達成される例示および適用シナリオは同じであるが、上記実施例で開示された内容に限定されるものではない。
本発明の実施例において、ストライプ符号化画像を走査対象物に投影し、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。走査対象物の三次元再構成画像を撮像し、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する。三次元再構成画像に基づいて走査対象物の三次元モデルを再構成することによって、時間符号化画像または色符号化画像によって、ストライプ符号化画像が一意的なストライプコードを有することができ、ストライプ符号化画像のストライプコードの一意性を確保するという目的が達成され、動的走査の速度を向上させるという技術的効果が達成され、三次元走査プロセスに必要とする投影画像の複雑な符号化の課題が解決される。
選択的な実施例として、ストライプ符号化画像が時間符号化画像である場合、三次元走査機器は、さらに、第1時間では走査対象物の表面に第1時間ストライプパターンを投影するように構成される第1投影ユニットと、走査対象物の表面の第1時間ストライプ画像を取得するように構成される第1取得ユニットと、第2時間では走査対象物の表面に第2時間ストライプパターンを投影するように構成される第2投影ユニットと、走査対象物の表面の第2時間ストライプ画像を取得するように構成される第2取得ユニットと、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するように構成される第1決定ユニットと、を備える。
選択的な実施例として、第1決定ユニットは、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するように構成される第1決定モジュールと、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するように構成される第2決定モジュールと、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するように構成される第1構成モジュールと、を備える。
選択的な実施例として、第1決定モジュールは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するように構成される第1決定サブモジュールを備え、第2決定モジュールは、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するように構成される第2決定サブモジュールを備え、第1構成モジュールは、第1符号化テーブルおよび第2符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像および第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するように構成される第1構成サブモジュールを備える。
選択的な実施例として、該機器は、走査対象物の表面の第2時間ストライプ画像を取得した後、第3時間では走査対象物の表面に第3時間ストライプパターンを投影するように構成される第3投影ユニットと、走査対象物の表面の第3時間ストライプ画像を取得するように構成される第3取得ユニットと、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するように構成される第2決定ユニットと、をさらに備える。
選択的な実施例として、第2決定モジュールは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するように構成される第1符号化モジュールと、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するように構成される第2符号化モジュールと、第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するように構成される第3符号化モジュールと、第1符号化テーブル、第2符号化テーブルおよび第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するように構成される第4符号化モジュールと、を備える。
選択的な実施例として、前記符号化テーブルは2値符号化され、前記時間符号化画像においてストライプのある画素に対応する符号化値は1で、前記時間符号化画像においてストライプのない画素に対応する符号化値は0である。
選択的な実施例として、機器は、前記第1時間ストライプ画像および前記第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、前記走査対象物に第4時間ストライプパターンを投影し、前記走査対象物の表面上の第4時間ストライプ画像を取得し、かつ、前記時間画像符号化テーブルに基づいて前記第4時間ストライプ画像内の各ストライプのシーケンスを決定するように構成される第3決定ユニットと、前記走査対象物に第5時間ストライプパターンを投影し、前記走査対象物の表面上の第5時間ストライプ画像を取得し、かつ、前記時間画像符号化テーブルに基づいて前記第5時間ストライプ画像内の各ストライプのシーケンスを決定するように構成される第4決定ユニットと、をさらに備え、前記第5時間ストライプパターンは、前記第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される。
選択的な実施例として、ストライプ符号化画像が色符号化画像である場合、三次元走査機器は、第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を走査対象物の表面に投影するように構成される第4投影ユニットと、走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得する第4取得ユニットと、第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定する第5決定ユニットと、を備える。
選択的な実施例として、第5決定ユニットは、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するように構成される第3決定モジュールと、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するように構成される第4決定モジュールと、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するように構成される第2構成モジュールと、を備える。
選択的な実施例として、第3決定モジュールは、第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するように構成される第3決定サブモジュールを備え、第4決定モジュールは、第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するように構成される第4決定サブモジュールを備え、第2構成モジュールは、第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するように構成される第2構成サブモジュールを備える。
選択的な実施例として、符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である。
選択的な実施例として、第1結像区間は、第2結像区間と等間隔に配置される。
上記本発明の実施例における番号は、説明のためのものであり、実施例の長所または短所を表すものではない。
本発明の上記実施例において、各実施例はそれぞれ着目して説明され、ある実施例について詳細に説明しない部分は、他の実施例の関連する説明を参照すればよい。
本願によるいくつかの実施例において、開示される技術内容は、他の方法で実施できることを理解されたい。ここで、上述した装置の実施例は例示に過ぎず、例えば、ユニットの分割は、論理的な機能分割とすることができ、実際には別の方法で実施することができ、例えば、複数のユニットまたはコンポーネントを組み合わせることができ、または別のシステムに組み込むことができ、または一部の機能を無視するか、または実行しないことができる。一方、図示または議論された相互結合または直接結合または通信接続は、いくつかのインタフェース、ユニットまたはモジュールの間接結合または通信接続を介することができ、電気的またはその他の形態で行うこともできる。
別個の構成要素として説明された前記ユニットは、物理的に分離されていてもいなくてもよく、ユニットとして表示された構成要素は、物理的なユニットであってもなくてもよく、すなわち、一箇所に配置されてもよく、複数のユニットに配置されてもよい。これらのユニットの一部または全部は、本実施例の解決手段の目的を達成するために実用上の必要性に応じて選択することができる。
また、本発明の各実施例における各機能ユニットは、単一の処理ユニットに統合されてもよいし、各ユニットが物理的に別々に存在してもよいし、2つ以上のユニットが単一のユニットに統合されてもよい。上記統合ユニットは、ハードウェアの形態で、またはソフトウェア機能ユニットの形態で実装することができる。
前記統合ユニットは、ソフトウェア機能ユニットとして実装され、独立した製品として販売または使用される場合、コンピュータ可読記憶媒体に記憶されてもよい。このような理解に基づいて、本発明の技術的解決手段の本質または従来技術に寄与する部分、または該技術的解決手段の全体または一部は、ソフトウェア製品の形態で具現化されてもよく、該コンピュータソフトウェア製品は、記憶媒体に記憶され、コンピュータ機器(パーソナルコンピュータ、サーバまたはネットワーク機器などであってもよい)が、本発明の各実施例で説明された方法のステップのすべてまたは一部を実行できるようにするための複数の命令を含む。前記記憶媒体は、USBメモリ、読み取り専用メモリ(ROM、Read-Only Memory)、ランダムアクセスメモリ(RAM、Random Access Memory)、モバイルハードディスク、磁気ディスク、光ディスクなど、プログラムコードを記憶可能な各種媒体を含む。
以上は、本発明の好ましい実施形態に過ぎず、当業者にとっては、本発明の原理から逸脱することなく、多くの改良および装飾が可能であり、これらの改良および装飾も本発明の保護範囲内とみなされることに留意されたい。
本発明の実施例によって提供される解決手段は、三次元走査プロセスに適用することができる。本発明の実施例によって、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決され、効果的に走査効率を向上させる。
<関連出願の相互参照>
本願は、2020年12月31日に中国特許庁に出願された出願番号2020116406858号の「三次元走査方法、装置、記憶媒体およびプロセッサ」の中国特許出願についての優先権、および2020年12月31日に中国特許庁に出願された出願番号2020116421453号の「三次元走査装置および方法」の中国特許出願についての優先権を主張し、それらの内容全体は参照によって本願に組み込まれる。
本願は、2020年12月31日に中国特許庁に出願された出願番号2020116406858号の「三次元走査方法、装置、記憶媒体およびプロセッサ」の中国特許出願についての優先権、および2020年12月31日に中国特許庁に出願された出願番号2020116421453号の「三次元走査装置および方法」の中国特許出願についての優先権を主張し、それらの内容全体は参照によって本願に組み込まれる。
本発明は、三次元走査の分野に関し、より具体的には、三次元走査機器、方法、装置、記憶媒体およびプロセッサに関する。
現在、国際的には歯科診断と治療分野における歯型データの取得方法は、印象三次元走査から口腔内三次元走査技術へと徐々に移行していく。該技術の登場は、歯のデジタル処理における新たな革命と言える。該技術により、印象、型取り、三次元走査による歯科模型データの取得方法を放棄し、口腔内を直接走査して歯の三次元データを取得することができる。プロセス時間の面では、印象と型取りの2つのステップが省略され、コストの面では、上記プロセスに必要な材料費、人件費、モデルの宅配料が節約され、顧客体験の面では、印象の際の不快感を回避することができる。以上の利点から、該技術は大きく成長することが明らかである。市場では大きな利益を得る。
3Dデジタル口腔内スキャナは、口腔内スキャナとも呼ばれ、プローブ型光学スキャンヘッドとして、患者の口腔内を直接スキャンして、歯、歯肉、粘膜などの軟組織および硬組織の表面の三次元形状とカラーテクスチャ情報を取得する機器である。この装置の1方法としては、アクティブ構造光三角測量イメージングの原理によって、デジタル投影システムを用いてアクティブ光パターンを投影し、カメラ撮像システムがパターンを取得したりすると、すぐにアルゴリズム処理を通じて3次元再構成とステッチングを実行する。
構造化光符号化パターンを設計する場合、通常、時間的位相アンラップ、空間的位相アンラップなど、画像全体を復号することが考慮され、ラップされた位相を得ることに加えて、真の絶対位相を取得することで、ラップされた位相の周期性問題を解決する必要がある。位相をグローバルにアンラップするためには、通常、より多くの画像シーケンス、またはより複雑な空間符号化と復号処理が必要になる。
従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とするという問題に対する有効な解決手段は、いまだに提案されていない。
本発明の実施例は、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題を解決するために、三次元走査機器、方法、装置、記憶媒体およびプロセッサを提供する。
本発明の実施例の一態様によれば、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器と、前記走査対象物を撮像(収集)してカメラ画像を取得するように構成されるカメラと、を備える三次元走査機器であって、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがある三次元走査機器が提供される。
選択的には、前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第1結像区間をd1とする場合、d1=ΔL×tgα÷k1である。
選択的には、前記投影機器は、前記第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第1表示区間をD1とする場合、D1=ΔL×tgα÷k2である。
選択的には、前記ストライプ符号化画像は、前記第1ストライプ群に隣接して設けられている第2ストライプ群をさらに含み、前記画像平面は、前記第1結像区間に隣接して設けられている第2結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度内にある場合、前記第2ストライプ群が前記画像平面での結像は前記第2結像区間内にあり、かつ、前記第2結像区間内には前記第2ストライプ群のみがある。
選択的には、前記ストライプ符号化画像は、周期的に配列された複数のストライプ群を含み、前記第1ストライプ群および前記第2ストライプ群は、それぞれ1つのサイクルのストライプ群である。
選択的には、前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第2結像区間をd2とする場合、d2=ΔL×tgα÷k1である。
選択的には、前記投影機器は、前記第2ストライプ群が設けられている第2表示区間を含む画像表示素子を備え、前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第2表示区間をD2とする場合、D2=ΔL×tgα÷k2である。
選択的には、前記機器は、前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を実行するように構成されるプロセッサをさらに備える。
選択的には、前記プロセッサには、前記第1結像区間座標が予め設定され、前記プロセッサは、前記カメラ画像に基づいて前記カメラ画像におけるストライプの中心の画素座標を決定し、前記ストライプの画素座標および前記第1結像区間の座標に基づいて前記カメラ画像における各ストライプのシリアル番号を決定し、前記ストライプの中心の画素座標および前記シリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的には、前記プロセッサには、ストライプ符号化画像内の各ストライプの光平面および対応するシリアル番号が予め設定され、前記プロセッサは、前記カメラ画像における各ストライプのシリアル番号と前記各ストライプの光平面に対応するシリアル番号との整合性に基づいて前記ストライプの中心の画素座標に対応する光平面を決定し、前記ストライプの中心の画素座標および対応する光平面に基づいて三角測量を行って走査対象物の三次元デジタルモデルを再構成する。
本発明の実施例の別の態様によれば、上記三次元走査機器に基づいて、投影機器によって走査対象物にストライプ符号化画像を投影するステップと、カメラによって前記走査対象物を撮像してカメラ画像を取得するステップであって、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲にある場合、前記画像平面における前記第1ストライプ群の結像は前記第1結像区間内にあり、かつ、前記第1結像区間において前記第1ストライプ群のみがあるステップと、プロセッサによって前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を行うステップと、を実行する三次元走査方法が提供される。
選択的には、前記方法は、前記カメラ画像に基づいて、前記カメラ画像におけるストライプの中心の画素座標を決定するステップと、前記プロセッサには第1結像区間の座標が予め設定され、前記ストライプの画素座標および前記第1結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、前記シリアル番号に基づいて前記ストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、をさらに含む。
本発明の実施例の別の態様によれば、ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップと、前記走査対象物の三次元再構成画像を撮像するステップであって、前記三次元再構成画像における前記走査対象物の表面上に前記ストライプ符号化画像を有するステップと、前記三次元再構成画像に基づいて前記走査対象物の三次元モデルを再構成するステップと、を含む三次元走査方法が提供される。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成され、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
本明細書で説明される添付図面は、本発明のさらなる理解を提供するために用いられ、本願の一部を構成し、本発明の例示的な実施例およびその説明は、本発明を説明するために用いられ、本発明の不当な限定を構成するものではない。添付図面は以下の通りである、
本発明の実施例による三次元走査機器の概略図である。
本発明の実施例によるレンズの光学パラメータの概略図である。
本発明の実施例による第1時間ストライプパターンの概略図1である。
本発明の実施例による第2時間ストライプパターンの概略図2である。
本発明の実施例による第3時間ストライプパターンの概略図3である。
本発明の実施例による時間符号化画像の符号化テーブルの概略図である。
本発明の実施例による色符号化画像の概略図である。
本発明の実施例による色符号化画像の符号化テーブルの概略図である。
本発明の実施例による三次元走査方法のフローチャート1である。
本発明の実施例による三次元走査方法のフローチャート2である。
本発明の実施例による符号化がブロックされたときの概略図である。
本発明の実施例によるストライプオフセットの再構成の概略図である。
本発明の実施例による三次元走査機器の概略図である。
以下、当業者が本発明の解決手段をよりよく理解できるようにするために、本発明の実施例における添付図面を参照しながら、本発明の実施例における技術的解決手段を明確かつ完全に説明するが、説明される実施例は本発明の実施例の一部に過ぎず、その全てではないことは明らかである。本発明における実施例に基づいて、当業者が創造的な努力なしに得られる他のすべての実施例は、本発明の保護範囲に含まれるものとする。
なお、本発明の明細書および特許請求の範囲ならびに上記添付図面における「第1」、「第2」などの用語は、類似の対象を区別するために用いられ、必ずしも特定の順序または後先の順序を説明するために用いられるものではない。このように使用されるデータは、本明細書に記載された本発明の実施例が本明細書に図示または記載されたもの以外の順序で実施できるように、適切な場合には交換可能であることを理解されたい。さらに、「含む」および「有する」という用語、ならびにその任意の変形は、非排他的な包含を意図し、例えば、一連のステップまたはユニットからなるプロセス、方法、システム、製品または機器は、明確に記載されたそれらのステップまたはユニットに限定する必要はなく、明確に記載されていないまたはそれらのプロセス、方法、製品または機器に固有の他のステップまたはユニットを含む場合がある。
本発明の実施例によれば、三次元走査に基づく投影光線オフセット方法の実施例が提供される。なお、添付図面のフローチャートに示されるステップは、命令のセットを実行可能なコンピュータのようなコンピュータシステムで実行されてもよく、フローチャートには論理シーケンスが示されているが、場合によっては、示されるまたは説明されるステップは、ここに示されるものとは異なる順序で実行されてもよい。
図1は、本発明の実施例による三次元走査機器の概略図であり、図1に示すとおり、該機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器10と、走査対象物を撮像してカメラ画像を取得するように構成されるカメラ12と、を備える。ここで、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲内にある場合、画像平面における第1ストライプ群の結像は、第1結像区間内にあり、かつ、第1結像区間内には第1ストライプ群のみがある。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがある。上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
選択的には、図1に示すとおり、有効被写界深度ΔLは、Z0からZ2までの距離であり、Z0は近点位置で、Z2は遠点位置であり、走査対象物がZ0とZ2との間にある場合、カメラで走査対象物の鮮明な画像を撮像することができる。
すなわち、有効被写界深度ΔL=フロント被写界深度(front depth of field)ΔL1+リア被写界深度(rear depth of field)ΔL2であり、ΔL1+ΔL2の値の範囲は10mm~20mmにある。
選択的には、カメラの光学システムの倍率は通常3:1程度であり、カメラ画像上の固定投影光の結像区間(例えば第1結像区間または第2結像区間)はd、すなわち1周期(サイクル)範囲となる。
本願で保護しようとする技術的解決手段は、通常、有効被写界深度内の小さな視野に向けた走査シーンでは、両眼システムの角度および光学レンズの倍率により、構造化光の同じコード値のストライプパターンがカメラまたは投影機器の幅内で移動することは避けられず、この移動は、有効被写界深度、光学システムの角度およびレンズの倍率の3つに依存する。
選択的には、移動範囲には、投影機器の表示区間(第1表示区間または第2表示区間など)、およびカメラの結像区間(第1結像区間または第2結像区間など)を含み、三次元走査機器における投影機器およびカメラの光学パラメータが決定されると、移動範囲が決定され、この移動範囲内のストライプ符号化の一意性を設計することにより、幅全体でグローバルにコード値の一意性を確保することができる。光の線形伝搬特性により、この表示区間内の光が該結像区間から飛び出すことはない。
選択的には、該結像移動範囲を1つの符号化サイクルとし、該符号化サイクルでは符号化の一意性が確保され、該サイクルは光学設計に応じて小さい範囲を確保でき、少ない符号化情報(少ない画像シーケンスまたは少ない空間符号化)で符号化の一意性を確保することができる。
図2は、本発明の実施例によるレンズの光学パラメータの概略図であり、図2に示すとおり、該光学パラメータは、レンズの焦点面と、焦点面の前後で、フロント焦点深度とリア焦点深度を得るための錯乱円と、レンズの有効被写界深度とを含む。ここで、レンズの有効被写界深度は、フロント焦点深度に基づくフロント被写界深度と、リア焦点深度に基づくリア被写界深度と、物体点(すなわち走査対象物)の位置とレンズとの間の撮影距離とを含み、撮影距離は、レンズと走査対象物との間の被写体距離と、被写界深度の近点とレンズとの間の近点距離と、被写界深度の遠点とレンズとの間の遠点距離とを含む。
選択的には、図2に示されるレンズは、カメラのレンズであっても、投影機器のレンズであってもよい。
選択的には、図2に示されるレンズがカメラのレンズである場合、走査対象物をカメラの有効被写界深度内に設定し、走査対象物を撮像するカメラ画像を焦点深度範囲内に設定することができ、カメラのレンズで決定された光学パラメータに基づいて結像区間(例えば第1結像区間または第2結像区間)を計算することができる。
選択的には、図2に示されるレンズが投影機器のレンズである場合、ストライプ符号化画像のネガフィルム(またはネガ位相)を投影機器の焦点深度範囲内に設定し、走査対象物を投影機器の有効被写界深度範囲内に設定することができ、投影機器のレンズで決定された光学パラメータに基づいて表示区間(例えば第1表示区間または第2表示区間)を計算することができる。
選択的な実施例として、投影機器の投影光軸とカメラの撮像光軸との間にシステム角度αが形成され、カメラの光学パラメータとしては、レンズ倍率k1を含み、三次元走査機器の有効被写界深度をΔL、第1結像区間をd1とする場合、d1=ΔL×tgα÷k1である。
選択的な実施例として、投影機器は、第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、投影機器の光学パラメータとしては、投影機器のレンズ倍率k2を含み、第1表示区間をD1とする場合、D1=ΔL×tgα÷k2である。
選択的な実施例として、ストライプ符号化画像は、第1ストライプ群に隣接して設けられている第2ストライプ群をさらに含み、画像平面は、第1結像区間に隣接して設けられている第2結像区間を含み、走査対象物が三次元走査機器の有効被写界深度内にある場合、第2ストライプ群が画像平面での結像は第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがある。
選択的には、投影機器の被写界深度の近点に第1ストライプ群を、投影機器の被写界深度の遠点に第2ストライプ群を投影するか、または、投影機器の被写界深度の遠点に第1ストライプ群を、投影機器の被写界深度の近点に第2ストライプ群を投影する。
選択的な実施例として、ストライプ符号化画像は、周期的に配列された複数のストライプ群を含み、第1ストライプ群および第2ストライプ群は、それぞれ1つのサイクルのストライプ群である。
選択的には、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。
選択的な実施例として、ストライプ符号化画像では2値符号化が用いられる。時間ストライプ画像では、ストライプのある画素はコード1、ストライプのない画素はコード0で表される。色符号化パターンでは、赤のストライプ(R)がある画素はコード100、青のストライプ(B)がある画素はコード001、緑のストライプ(G)がある画素はコード010、ストライプのない画素はコード000で表される。もちろん、2色のストライプしかない場合は、2つのコードでよく、例えば、赤のストライプがある画素はコード10、青のストライプがある画素はコード01、ストライプがない画素はコード00で表される。
選択的には、ストライプ符号化画像が時間符号化画像である場合、時間符号化画像は複数の時間ストライプパターンを含み、複数の時間ストライプパターンは時間順に順次投影される。ここで、複数の時間ストライプパターンは1つの符号化サイクルに対応する。
選択的には、第1ストライプ群は第1時間に投影された時間ストライプパターンであってもよく、第2ストライプ群は第2時間に投影された時間ストライプパターンであってもよい。
選択的には、第1ストライプ群は、色符号化パターンであってもよい。
図3aに示すとおり、図3aは、本発明の実施例による第1時間ストライプパターンの概略図1であり、図3bに示すとおり、図3bは、本発明の実施例による第2時間ストライプパターンの概略図2であり、図3cに示すとおり、図3cは、本発明の実施例による第3時間ストライプパターンの概略図3であり、図3a~図3cに示される3つの時間ストライプパターンは1つの符号化サイクルに対応し、該符号化サイクルにおける3つの時間ストライプパターン内の各ストライプを復号すると、1つの時間画像符号化テーブルを取得でき、該符号化テーブルにより、投影される各ストライプの順序を決定することができる。
図3dに示すとおり、図3dは、本発明の実施例による時間符号化画像の符号化テーブルの概略図であり、図3a~図3cに示される時間ストライプパターンでは、同じ画素位置が順に(2値コード0または1で)値を取り、かつ、3つの時間ストライプパターンの取得時間に従って順に並べると、図3dに示される2値ストライプ符号化が取得される。
ここで、第1時間ストライプパターンの単一サイクルストライプは、10101000であり、10101000は、第1時間ストライプパターンで周期的に繰り返し設定されてもよく、第2時間ストライプパターンの単一サイクルストライプは、10001010であり、10001010は、第2時間ストライプパターンで周期的に繰り返し設定されてもよく、第3時間ストライプパターンの単一サイクルストライプは、11111111であり、11111111は、第3時間ストライプパターンで周期的に繰り返し設定されてもよく、もちろん、10101000、10001010、11111111の繰り返しサイクル数は同じであり、投影中において、3つの時間ストライプパターンは、時系列順に投影され、例えば、1番目の投影時間では第1時間ストライプパターンを投影し、2番目の投影時間では第2時間ストライプパターンを投影し、3番目の投影時間では第3時間ストライプパターンを投影する。
選択的には、三次元再構成前にカメラ画像のストライプ符号化画像を取得する際、ストライプを破壊する物体の境界、遮断、反射などの様々な厳しい環境に関わらず、以上のコードにより識別することができ、コードの曖昧さという問題が回避される。
なお、図3a~図3cに示される3つの時間ストライプ符号化画像は、1つの再構成サイクルとして設計され、3つの時間ストライプ符号化画像に基づいて復号および再構成の動作を完了できるため、動的走査中の時間ストライプ符号化画像の持続的な取得に要する時間が大幅に短縮され、高速な動きに起因する画像のオフセット、画像のぼやけ、復号エラーなどの問題が回避される。
図4aは、本発明の実施例による色符号化画像の概略図であり、図4aに示すとおり、その符号化サイクル内の各ストライプを色で符号化し、色の種類が多いほど、符号化の一意性を設計しやすくなるが、同時に色符号化の識別が難しくなり、色の種類が多いほど、色の違いを区別するのが難しくなる。ストライプの数を8本などに制御すれば、3色で区別でき、符号化と復号の複雑さが大幅に低減される。
図4bは、本発明の実施例による色符号化画像の符号化テーブルの概略図であり、図4bに示すとおり、異なる色のストライプ符号化画像の符号化値(3チャンネルの色の情報を表現するために0または1の2値符号化を使用する)に基づいて得られる3ビットの2進数がストライプコードとなる。
例えば、図4aに示されるストライプ符号化画像には3つの色を含まれ、各色のストライプが1つの符号化シーケンスに対応する。ここで、赤のストライプ(R)に対応する符号化シーケンスは100、青のストライプ(B)に対応する符号化シーケンスは001、緑のストライプ(G)に対応する符号化シーケンスは010である。もちろん、ストライプ符号化画像は、デブルーインシーケンスに基づいて配列されたカラーストライプシーケンスであってもよいし、デブルーインシーケンスに基づいて配列されたカラーストライプシーケンスを単一サイクルとして繰り返し設定された複数のストライプシーケンスであってもよい。
選択的には、三次元再構成前にカメラ画像のストライプ符号化画像を取得する際、ストライプを破壊する物体の境界、遮断、反射などの様々な厳しい環境に関わらず、以上のコードにより識別することができ、コードの曖昧さという問題が回避される。
なお、図4aに示される異なる色のストライプ符号化画像を1つのサイクルとして、1枚のシンプルな色符号化に基づく色ストライプ符号化画像を実現することで、復号および再構成の動作を完了できるため、動的走査中の1フレームの三次元データに必要な画像シーケンスの持続的な取得時間が大幅に短縮され、符号化と復号の複雑さと計算量が低減され、色の種類が多すぎることによる複雑で時間のかかるアルゴリズム、復号エラーなどの問題が回避される。
選択的な実施例として、投影機器の投影光軸とカメラの撮像光軸との間にシステム角度αが形成され、カメラの光学パラメータとしては、レンズ倍率k1を含み、三次元走査機器の有効被写界深度をΔL、第2結像区間をd2とする場合、d2=ΔL×tgα÷k1である。
選択的な実施例として、投影機器は、第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、投影機器の光学パラメータとしては、投影機器のレンズ倍率k2を含み、第2表示区間をD2とする場合、D2=ΔL×tgα÷k2である。
選択的には、システム角度αの値の範囲は、6°~10°の間である。
選択的な実施例として、プロセッサは、カメラ画像に基づいて走査対象物に対して三次元再構成を行うように構成される。
選択的な実施例として、プロセッサには、第1結像区間座標が予め設定され、プロセッサは、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定し、ストライプの画素座標および第1結像区間の座標に基づいてカメラ画像における各ストライプのシリアル番号を決定し、ストライプの中心の画素座標およびシリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的な実施例として、プロセッサには、第2結像区間座標が予め設定され、プロセッサは、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定し、ストライプの画素座標、第1結像区間の座標および第2結像区間の座標に基づいてカメラ画像における各ストライプのシリアル番号を決定し、ストライプの中心の画素座標およびシリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する。
選択的な実施例として、プロセッサには、ストライプ符号化画像内の各ストライプの光平面および対応するシリアル番号が予め設定され、プロセッサは、カメラ画像における各ストライプのシリアル番号と各ストライプの光平面に対応するシリアル番号との整合性に基づいてストライプの中心の画素座標に対応する光平面を決定し、ストライプの中心の画素座標および対応する光平面に基づいて三角測量を行って走査対象物の三次元デジタルモデルを再構成する。
図5は、本発明の実施例による三次元走査方法のフローチャート1であり、図5に示すとおり、上記三次元走査機器に基づいて、
投影機器によって走査対象物にストライプ符号化画像を投影するステップS502と、
カメラによって走査対象物を撮像してカメラ画像を取得するステップであって、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲にある場合、画像平面における第1ストライプ群の結像は第1結像区間内にあり、かつ、第1結像区間において第1ストライプ群のみがあるステップS504と、
プロセッサによってカメラ画像に基づいて走査対象物に対して三次元再構成を行うステップS506と、を実行する。
投影機器によって走査対象物にストライプ符号化画像を投影するステップS502と、
カメラによって走査対象物を撮像してカメラ画像を取得するステップであって、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲にある場合、画像平面における第1ストライプ群の結像は第1結像区間内にあり、かつ、第1結像区間において第1ストライプ群のみがあるステップS504と、
プロセッサによってカメラ画像に基づいて走査対象物に対して三次元再構成を行うステップS506と、を実行する。
本発明の実施例において、投影機器は、第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェア構成で限定される第1結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルとし、そして該符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。
選択的な実施例として、該方法は、さらに、カメラ画像に基づいて、カメラ画像におけるストライプの中心の画素座標を決定するステップと、プロセッサには第1結像区間の座標が予め設定され、ストライプの画素座標および第1結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、シリアル番号に基づいてストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、を含む。
選択的な実施例として、カメラによって走査対象物を撮像してカメラ画像を取得する。ここで、カメラ画像はカメラの画像平面における走査対象物の結像であり、画像平面は第1結像区間および第2結像区間を含み、走査対象物が三次元走査機器の有効被写界深度範囲内にある場合、画像平面における第1ストライプ群の結像は、第1結像区間内にあり、かつ、第1結像区間内には第1ストライプ群のみがあり、画像平面における第2ストライプ群の結像は、第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがある。なお、走査対象物が有効被写界深度範囲内で移動する場合、第1ストライプ群は第1結像区間内で移動するが、第1結像区間を超えることはなく、第2ストライプ群は第2結像区間内で移動するが、第2結像区間を超えることはない。
選択的な実施例として、投影機器は、第1ストライプ群および第2ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成され、カメラは、前記走査対象物を撮像してカメラ画像を取得するように構成される。ここで、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間および第2結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあり、前記画像平面における前記第2ストライプ群の結像は、第2結像区間内にあり、かつ、第2結像区間内には第2ストライプ群のみがあり、上記三次元走査機器は、光の線形伝搬特性に従ってストライプ符号化画像が三次元走査機器のハードウェアで定義される第1結像区間および第2結像区間を超えないようにするため、該第1結像区間を1つの符号化サイクルのみを結像し、第2結像区間を別の符号化サイクルのみを結像し、そして各符号化サイクル内でストライプ符号化画像の符号化一意性を確保することにより、少ないストライプ符号化画像の符号化情報(すなわち、少ない画像シーケンスまたは少ない空間符号化)を用いて符号化の一意性を確保することが可能であり、これにより、高度なハードウェアレベルに依存することなく光学特性と組み合わせて使用することができ、また、少ない画像シーケンスまたは簡単な空間符号化と復号方法を用いて動的走査の速度を向上でき、走査効率を向上させるという技術的効果が達成され、さらに、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決される。同じ投影パターンでは符号化が一意のストライプシーケンスを繰り返し設定することができ、符号化の難易度が低減される。
選択的な実施例として、該方法は、カメラ画像に基づいてカメラ画像におけるストライプの中心の画素座標を決定するステップと、プロセッサには第1結像区間の座標および第2結像区間の座標が予め設定され、ストライプの画素座標、第1結像区間の座標および第2結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、シリアル番号に基づいてストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、をさらに含む。
図6は、本発明の実施例による三次元走査方法のフローチャート2であり、図6に示すとおり、該方法は、
ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップS602と、
走査対象物の三次元再構成画像を撮像するステップであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有するステップS604と、
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成するステップS606と、を含む。
ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップS602と、
走査対象物の三次元再構成画像を撮像するステップであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有するステップS604と、
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成するステップS606と、を含む。
ここで、走査対象物にストライプ符号化画像を投影し、ストライプ符号化画像が走査対象物によって変調および変形され、取得された走査対象物の三次元再構成画像は走査対象物の表面結像であり、結像には変形されたストライプ符号化画像を含む。
本発明の実施例において、ストライプ符号化画像を走査対象物に投影し、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。走査対象物の三次元再構成画像を撮像し、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する。三次元再構成画像に基づいて走査対象物の三次元モデルを再構成することによって、時間符号化画像または色符号化画像によって、ストライプ符号化画像は、一意的なストライプコードを有することができ、ストライプ符号化画像のストライプコードの一意性を確保するという目的が達成され、動的走査の速度を向上させるという技術的効果が達成され、三次元走査プロセスに必要とする投影画像の複雑な符号化の課題が解決される。
選択的には、色符号化画像において、色ストライプパターンは、少なくとも第1ストライプ群を含む。
選択的には、時間符号化画像において、第1時間投影の時間ストライプパターンは、第1ストライプ群であってもよく、第2時間投影の時間ストライプパターンは、第2ストライプ群であってもよい。
図7は、本発明の実施例による符号化が遮断されたときの概略図であり、図7に示すとおり、P1~P8は符号化ストライプである。ここで、P1、P2は、カメラの視野が物体(すなわち、走査対象物)自体によって遮られ、サイドストライプのラインが途切れて不完全になるため、モノリシックデータの不完全性につながり、かつ、P1~P2の符号化情報は、P6~P7の符号化情報と非常に近いため、コードの曖昧さにつながり、三次元再構成においてノイズとスプリアスデータになる場合があるが、本願による技術的解決手段によれば、画像符号化テーブル(例えば、時間画像符号化テーブル、色画像符号化テーブル)に基づいてストライプ画像を識別でき、ストライプ符号化の識別効率を向上させる。
走査対象物の三次元再構成画像を撮像する上記ステップS604において、ストライプ符号化画像を走査対象物に投影して得られた1つまたは複数の画像を取得することであってもよい。ここで、ストライプ符号化画像が時間符号化画像である場合、ストライプ符号化画像が表面にある複数の画像を収集し、収集された複数の画像に基づいて三次元再構成画像を決定してもよく、ストライプ符号化画像が色符号化画像である場合、ストライプ符号化画像が表面にある1つの画像を収集し、該画像に基づいて三次元再構成画像を決定してもよい。
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する上記ステップS606は、単眼立体視システムまたは両眼立体視システムを用いて、三次元モデルを再構成するステップを含む。
例えば、カメラAとカメラBを備える両眼立体視システムに基づいて三次元モデルを再構成するプロセスでは、走査対象物の三次元再構成画像を撮像するプロセスでは、カメラAによって撮像された三次元再構成画像は第1三次元再構成画像であり、カメラBによって撮像された三次元再構成画像は第2三次元再構成画像であり、そして第1三次元再構成画像と第2三次元再構成画像の共通ストライプコードに基づいて走査対象物の三次元モデルを再構成する。
別の例として、単眼立体視システムに基づいて三次元モデルを再構成するプロセスでは、カメラは三次元再構成画像を撮像し、三次元再構成画像内のストライプおよび対応する光平面に基づいて、走査対象物の三次元モデルを再構成する。
以下では、説明のために、走査対象物の表面に投影された内容をストライプパターンとし、ストライプパターンは、時間ストライプパターン(例えば、第1時間ストライプパターン、第2時間ストライプパターン、第3時間ストライプパターン、第4時間ストライプパターンおよび第5時間ストライプパターン)、および色ストライプパターン(例えば、第1色ストライプパターンおよび第2色ストライプパターン)を含む。走査対象物を有する撮像された内容をストライプ画像とし、ストライプ画像には走査対象物を有し、かつ、ストライプ画像内の走査対象物の表面にはストライプパターンを有し、ストライプ画像は、時間ストライプ画像(例えば、第1時間ストライプ画像、第2時間ストライプ画像、第3時間ストライプ画像、第4時間ストライプ画像、第5時間ストライプ画像)、および色ストライプ画像(例えば、第1色ストライプ画像および第2色ストライプ画像)を含む。
例えば、第1時間ストライプパターンを走査対象物に投影した後、走査対象物の表面には投影された第1時間ストライプパターンがあり、このとき、走査対象物の画像を撮像し(すなわち第1時間ストライプ画像を撮像し)、撮像された第1時間ストライプ画像には、走査対象物、および走査対象物の表面に投影された第1時間ストライプパターンを有する。
他のストライプパターンとストライプ画像の関係も同様であるため、ここでは説明を省略する。
選択的な実施例として、ストライプ符号化画像が時間符号化画像である場合、三次元走査方法は、第1時間では走査対象物の表面に第1時間ストライプパターンを投影するステップと、走査対象物の表面の第1時間ストライプ画像を取得するステップと、第2時間では走査対象物の表面に第2時間ストライプパターンを投影するステップと、走査対象物の表面の第2時間ストライプ画像を取得するステップと、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、をさらに含む。
選択的には、第1時間は第2時間よりも早い。
本発明の上記実施例において、第1時間では走査対象物の表面に第1時間ストライプパターンを投影し、そして走査対象物の表面の第1時間ストライプ画像を撮像し、第2時間では走査対象物の表面に第2時間ストライプパターンを投影し、そして走査対象物の表面の第2時間ストライプ画像を撮像し、さらに、第1時間ストライプ画像と第2時間ストライプ画像の時系列に基づいてストライプの画像符号化テーブルを共通で定義する。
なお、撮像された第1時間ストライプ画像は、第1三次元再構成画像であり、第1三次元再構成画像には、走査対象物によって変調された第1時間ストライプパターンを含み、撮像された第2時間ストライプ画像は、第2三次元再構成画像であり、第2三次元再構成画像には、走査対象物によって変調された第2時間ストライプパターンを含む。
選択的な実施例として、第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップと、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップと、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップを含み、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップは、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップを含み、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップは、第1符号化テーブルと第2符号化テーブルの同じ画素位置の符号化値を、第1時間ストライプ画像と第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成する。
選択的な実施例として、符号化テーブルは2値符号化され、時間符号化画像においてストライプのある画素に対応する符号化値は1で、時間符号化画像においてストライプのない画素に対応する符号化値は0である。
本発明の上記実施例において、時間ストライプパターン(例えば、第1時間ストライプパターンおよび第2時間ストライプパターン)には複数の画像位置が設定され、各画素は2値コードを表すことができ、例えば、該画素位置にストライプのある画素が分布されている場合、第1符号化値、例えば1を表し、該画素位置にストライプのない画素が分布されている場合、第2符号化値、例えば0を表す。したがって、第1時間ストライプ画像に基づいて、対応する第1符号化テーブルがあり、第2時間ストライプ画像に基づいて、対応する第2符号化テーブルがあり、さらに、第1符号化テーブルおよび第2符号化テーブルに基づいて、ストライプの取得順に基づいて同じ画素位置の対応する符号化シーケンスを決定して時間画像符号化テーブルを形成することができる。
例えば、第1時間ストライプ画像内の画素位置Aを1、Bを0として符号化され、第2時間ストライプ画像内の画素位置Aを0、Bを1として符号化されると、第1時間ストライプ画像に対応する第1符号化テーブルは(A:1、B:0)で、第2時間ストライプ画像に対応する第2符号化テーブルは(A:0、B:1)であり、すると、第1符号化テーブルおよび第2符号化テーブルに基づいて決定された時間画像符号化テーブルは(A:10、B:01)である。
選択的には、投影される時間ストライプパターンは2つでもよいし、2つ以上でもよく、複数の時間ストライプパターンを時系列に並べて、マルチビットのコードを生成することができる。
選択的な実施例として、この方法は、走査対象物の表面の第2時間ストライプ画像を取得した後、さらに、第3時間では走査対象物の表面に第3時間ストライプパターンを投影するステップと、走査対象物の表面の第3時間ストライプ画像を取得するステップと、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、を含む。
例えば、第1時間ストライプ画像内の画素位置Aを1、Bを0として符号化され、第2時間ストライプ画像内の画素位置Aを0、Bを1として符号化されることに基づいて、第3時間ストライプ画像内の画素位置Aを1、Bを1として符号化されると、第1時間ストライプ画像に対応する第1符号化テーブルは(A:1、B:0)で、第2時間ストライプ画像に対応する第2符号化テーブルは(A:0、B:1)で、第3時間ストライプ画像に対応する第3符号化テーブルは(A:1、B:1)であり、すると、第1符号化テーブル、第2符号化テーブルおよび第3符号化テーブルに基づいて決定された時間画像符号化テーブルは(A:101、B:011)である。
選択的な実施例として、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップと、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップと、第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するステップと、第1符号化テーブル、第2符号化テーブル、および第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、方法は、第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、さらに、走査対象物に第4時間ストライプパターンを投影し、走査対象物の表面上の第4時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第4時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、走査対象物に第5時間ストライプパターンを投影し、走査対象物の表面上の第5時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第5時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、を含み、第5時間ストライプパターンは、第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される。
図8は、本発明の実施例によるストライプオフセットの再構成の概略図であり、図8に示すとおり、ストライプ間隔をLとすると、再構成されたストライプを等距離オフセットがある密なストライプ群として設計でき、モノリシックデータの密度を高くする。ストライプ解像度の要件に応じて、ストライプのオフセット距離dをLの1/2、1/3、1/4などに設計することができ、ストライプのオフセット距離が小さいほど解像度が高くなり、ストライプのオフセット距離が大きいほど、画像数が小さくなり、走査速度が速くなる。
選択的には、図1に示される三次元走査機器に基づいて、投影システムの有効被写界深度、カメラのレンズ倍率、投影システムの投影光軸とカメラの撮像光軸との間の光学角などの機器パラメータが三次元走査機器内の各ハードウェアの物理特性によって決定されるため、上記機器パラメータに基づいて、ストライプ符号化画像をカメラの幅内に移動させる。
さらに、上記三次元走査機器の機器パラメータに基づいて、ストライプ符号化画像がカメラの撮像範囲を超えないようにすることができるため、撮像されたストライプコードを有する走査対象物の画像を三次元再構成することが容易になる。
なお、通常、有効被写界深度内の小さな視野に向けた走査シーンでは、両眼システムの角度および光学レンズの倍率により、構造化光の同じコード値のストライプパターン(すなわち、ストライプ符号化画像)がカメラの幅内で移動することは避けられず、この移動は、有効被写界深度、光学システムの角度およびレンズの倍率の3つに依存する。光学システムのパラメータが固定されると、この移動範囲(すなわち、オフセット距離)が決定され、この移動範囲(すなわち、オフセット距離)内のストライプ符号化の一意性を設計することにより、幅全体でグローバルにコード値の一意性を確保することができる。光の線形伝搬特性により、この移動範囲(すなわち、オフセット距離)内の投影光が該範囲から飛び出すことはない。該移動範囲(すなわち、オフセット距離)を1つの符号化サイクルとし、該符号化サイクルでは符号化の一意性が確保され、該符号化サイクルは光学設計に応じて小さい範囲を確保できるため、少ない符号化情報(少ない画像シーケンスまたは少ない空間符号化)で符号化の一意性を確保することができる。全体範囲では他の符号化サイクルのストライプが該符号化サイクルに干渉することがないため,複数の符号化サイクルを幅全体で使用することができる。
選択的な実施例として、ストライプ符号化画像が色符号化画像である場合、三次元走査方法は、第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を、走査対象物の表面に投影するステップと、走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得するステップと、第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定するステップと、を含む。
なお、第1色ストライプ画像および第2色ストライプ画像は、対応する色チャンネルによって別々に取得された同じ色ストライプパターンにおける複数の色ストライプであり、例えば、赤ストライプと緑ストライプとの組み合わせた配列を含む色ストライプパターンで、カメラの赤チャンネルがその赤ストライプを取得して赤ストライプ画像を形成し、カメラの緑チャンネルが緑ストライプを取得して緑ストライプ画像を形成する。
選択的な実施例として、色ストライプ画像に基づいて色画像符号化テーブルを決定するステップは、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップと、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップと、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップと、を含む。
選択的な実施例として、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップは、第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するステップを含み、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップは、第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するステップを含み、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップは、第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するステップを含む。
選択的な実施例として、符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である。
本発明の実施例の別の態様によれば、記憶されたプログラムを含むコンピュータ可読記憶媒体も提供される。前記プログラムが実行されるとき、前記コンピュータ可読記憶媒体が配置された装置が上記三次元走査方法を実行するように制御する。
本発明の実施例のさらなる態様によれば、プログラムを実行するように構成されるプロセッサも提供される。前記プログラムが実行されるとき、上記三次元走査方法を実行する。
本発明の実施例によれば、三次元走査機器の実施例も提供される。なお、該三次元走査機器は、本発明の実施例における三次元走査方法を実行するように構成されてもよく、本発明の実施例における三次元走査方法は、該三次元走査機器で実行され得る。
図9は、本発明の実施例による三次元走査機器の概略図であり、図9に示すとおり、該機器は、
ストライプ符号化画像を走査対象物に投影するように構成される投影ユニット92であって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニット92と、走査対象物の三次元再構成画像を撮像するように構成される撮像ユニット94であって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニット94と、三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニット96と、を備える。
ストライプ符号化画像を走査対象物に投影するように構成される投影ユニット92であって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニット92と、走査対象物の三次元再構成画像を撮像するように構成される撮像ユニット94であって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニット94と、三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニット96と、を備える。
なお、該実施例における投影ユニット92は、本願の実施例におけるステップS602を実行するように構成でき、該実施例における撮像ユニット94は、本願の実施例におけるステップS604を実行するように構成でき、該実施例における再構成ユニット96は、本願の実施例におけるステップS606を実行するように構成できる。上記機器および対応するステップによって達成される例示および適用シナリオは同じであるが、上記実施例で開示された内容に限定されるものではない。
本発明の実施例において、ストライプ符号化画像を走査対象物に投影し、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む。走査対象物の三次元再構成画像を撮像し、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する。三次元再構成画像に基づいて走査対象物の三次元モデルを再構成することによって、時間符号化画像または色符号化画像によって、ストライプ符号化画像が一意的なストライプコードを有することができ、ストライプ符号化画像のストライプコードの一意性を確保するという目的が達成され、動的走査の速度を向上させるという技術的効果が達成され、三次元走査プロセスに必要とする投影画像の複雑な符号化の課題が解決される。
選択的な実施例として、ストライプ符号化画像が時間符号化画像である場合、三次元走査機器は、さらに、第1時間では走査対象物の表面に第1時間ストライプパターンを投影するように構成される第1投影ユニットと、走査対象物の表面の第1時間ストライプ画像を取得するように構成される第1取得ユニットと、第2時間では走査対象物の表面に第2時間ストライプパターンを投影するように構成される第2投影ユニットと、走査対象物の表面の第2時間ストライプ画像を取得するように構成される第2取得ユニットと、第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するように構成される第1決定ユニットと、を備える。
選択的な実施例として、第1決定ユニットは、第1時間ストライプ画像に基づいて第1符号化テーブルを決定するように構成される第1決定モジュールと、第2時間ストライプ画像に基づいて第2符号化テーブルを決定するように構成される第2決定モジュールと、第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するように構成される第1構成モジュールと、を備える。
選択的な実施例として、第1決定モジュールは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するように構成される第1決定サブモジュールを備え、第2決定モジュールは、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するように構成される第2決定サブモジュールを備え、第1構成モジュールは、第1符号化テーブルおよび第2符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像および第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するように構成される第1構成サブモジュールを備える。
選択的な実施例として、該機器は、走査対象物の表面の第2時間ストライプ画像を取得した後、第3時間では走査対象物の表面に第3時間ストライプパターンを投影するように構成される第3投影ユニットと、走査対象物の表面の第3時間ストライプ画像を取得するように構成される第3取得ユニットと、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するように構成される第2決定ユニットと、をさらに備える。
選択的な実施例として、第2決定モジュールは、第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するように構成される第1符号化モジュールと、第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するように構成される第2符号化モジュールと、第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するように構成される第3符号化モジュールと、第1符号化テーブル、第2符号化テーブルおよび第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するように構成される第4符号化モジュールと、を備える。
選択的な実施例として、前記符号化テーブルは2値符号化され、前記時間符号化画像においてストライプのある画素に対応する符号化値は1で、前記時間符号化画像においてストライプのない画素に対応する符号化値は0である。
選択的な実施例として、機器は、前記第1時間ストライプ画像および前記第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、前記走査対象物に第4時間ストライプパターンを投影し、前記走査対象物の表面上の第4時間ストライプ画像を取得し、かつ、前記時間画像符号化テーブルに基づいて前記第4時間ストライプ画像内の各ストライプのシーケンスを決定するように構成される第3決定ユニットと、前記走査対象物に第5時間ストライプパターンを投影し、前記走査対象物の表面上の第5時間ストライプ画像を取得し、かつ、前記時間画像符号化テーブルに基づいて前記第5時間ストライプ画像内の各ストライプのシーケンスを決定するように構成される第4決定ユニットと、をさらに備え、前記第5時間ストライプパターンは、前記第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される。
選択的な実施例として、ストライプ符号化画像が色符号化画像である場合、三次元走査機器は、第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を走査対象物の表面に投影するように構成される第4投影ユニットと、走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得する第4取得ユニットと、第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定する第5決定ユニットと、を備える。
選択的な実施例として、第5決定ユニットは、第1色ストライプ画像に基づいて第1色符号化テーブルを決定するように構成される第3決定モジュールと、第2色ストライプ画像に基づいて第2色符号化テーブルを決定するように構成される第4決定モジュールと、第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するように構成される第2構成モジュールと、を備える。
選択的な実施例として、第3決定モジュールは、第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するように構成される第3決定サブモジュールを備え、第4決定モジュールは、第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するように構成される第4決定サブモジュールを備え、第2構成モジュールは、第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するように構成される第2構成サブモジュールを備える。
選択的な実施例として、符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である。
選択的な実施例として、第1結像区間は、第2結像区間と等間隔に配置される。
上記本発明の実施例における番号は、説明のためのものであり、実施例の長所または短所を表すものではない。
本発明の上記実施例において、各実施例はそれぞれ着目して説明され、ある実施例について詳細に説明しない部分は、他の実施例の関連する説明を参照すればよい。
本願によるいくつかの実施例において、開示される技術内容は、他の方法で実施できることを理解されたい。ここで、上述した装置の実施例は例示に過ぎず、例えば、ユニットの分割は、論理的な機能分割とすることができ、実際には別の方法で実施することができ、例えば、複数のユニットまたはコンポーネントを組み合わせることができ、または別のシステムに組み込むことができ、または一部の機能を無視するか、または実行しないことができる。一方、図示または議論された相互結合または直接結合または通信接続は、いくつかのインタフェース、ユニットまたはモジュールの間接結合または通信接続を介することができ、電気的またはその他の形態で行うこともできる。
別個の構成要素として説明された前記ユニットは、物理的に分離されていてもいなくてもよく、ユニットとして表示された構成要素は、物理的なユニットであってもなくてもよく、すなわち、一箇所に配置されてもよく、複数のユニットに配置されてもよい。これらのユニットの一部または全部は、本実施例の解決手段の目的を達成するために実用上の必要性に応じて選択することができる。
また、本発明の各実施例における各機能ユニットは、単一の処理ユニットに統合されてもよいし、各ユニットが物理的に別々に存在してもよいし、2つ以上のユニットが単一のユニットに統合されてもよい。上記統合ユニットは、ハードウェアの形態で、またはソフトウェア機能ユニットの形態で実装することができる。
前記統合ユニットは、ソフトウェア機能ユニットとして実装され、独立した製品として販売または使用される場合、コンピュータ可読記憶媒体に記憶されてもよい。このような理解に基づいて、本発明の技術的解決手段の本質または従来技術に寄与する部分、または該技術的解決手段の全体または一部は、ソフトウェア製品の形態で具現化されてもよく、該コンピュータソフトウェア製品は、記憶媒体に記憶され、コンピュータ機器(パーソナルコンピュータ、サーバまたはネットワーク機器などであってもよい)が、本発明の各実施例で説明された方法のステップのすべてまたは一部を実行できるようにするための複数の命令を含む。前記記憶媒体は、USBメモリ、読み取り専用メモリ(ROM、Read-Only Memory)、ランダムアクセスメモリ(RAM、Random Access Memory)、モバイルハードディスク、磁気ディスク、光ディスクなど、プログラムコードを記憶可能な各種媒体を含む。
以上は、本発明の好ましい実施形態に過ぎず、当業者にとっては、本発明の原理から逸脱することなく、多くの改良および装飾が可能であり、これらの改良および装飾も本発明の保護範囲内とみなされることに留意されたい。
本発明の実施例によって提供される解決手段は、三次元走査プロセスに適用することができる。本発明の実施例によって、従来技術における構造化光符号化パターンが複雑な符号化のために複数の画像シーケンスを必要とする課題が解決され、効果的に走査効率を向上させる。
Claims (27)
- 三次元走査機器であって、
第1ストライプ群を含むストライプ符号化画像を走査対象物に投影するように構成される投影機器と、
前記走査対象物を撮像してカメラ画像を取得するように構成されるカメラと、を備え、
前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがある、
三次元走査機器。 - 前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第1結像区間をd1とする場合、d1=ΔL×tgα÷k1である、
請求項1に記載の機器。 - 前記投影機器は、前記第1ストライプ群が設けられている第1表示区間を含む画像表示素子を備え、
前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第1表示区間をD1とする場合、D1=ΔL×tgα÷k2である、
請求項1に記載の機器。 - 前記ストライプ符号化画像は、前記第1ストライプ群に隣接して設けられている第2ストライプ群を含み、
前記画像平面は、前記第1結像区間に隣接して設けられている第2結像区間を含み、
前記走査対象物が前記三次元走査機器の有効被写界深度内にある場合、前記第2ストライプ群が前記画像平面での結像は前記第2結像区間内にあり、かつ、前記第2結像区間内には前記第2ストライプ群のみがある、
請求項1に記載の機器。 - 前記ストライプ符号化画像は、周期的に配列された複数のストライプ群を含み、前記第1ストライプ群および前記第2ストライプ群は、それぞれ1つのサイクルのストライプ群である、
請求項4に記載の機器。 - 前記投影機器の投影光軸と前記カメラの撮像光軸との間にシステム角度αが形成され、前記カメラの光学パラメータとしては、レンズ倍率k1を含み、前記三次元走査機器の有効被写界深度をΔL、前記第2結像区間をd2とする場合、d2=ΔL×tgα÷k1である、
請求項4に記載の機器。 - 前記投影機器は、前記第2ストライプ群が設けられている第2表示区間を含む画像表示素子を備え、
前記投影機器の光学パラメータとしては、前記投影機器のレンズ倍率k2を含み、前記第2表示区間をD2とする場合、D2=ΔL×tgα÷k2である、
請求項4に記載の機器。 - 前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を実行するように構成されるプロセッサをさらに備える、
請求項1に記載の機器。 - 前記プロセッサには、前記第1結像区間の座標が予め設定され、
前記プロセッサは、前記カメラ画像に基づいて前記カメラ画像におけるストライプの中心の画素座標を決定し、
前記プロセッサは、前記ストライプの画素座標および前記第1結像区間の座標に基づいて、前記カメラ画像における各ストライプのシリアル番号を決定し、
前記プロセッサは、前記ストライプの中心の画素座標および前記シリアル番号に基づいて三次元再構成を実行して走査対象物の三次元デジタルモデルを取得する、
請求項8に記載の機器。 - 前記プロセッサには、ストライプ符号化画像内の各ストライプの光平面および対応するシリアル番号が予め設定され、
前記プロセッサは、前記カメラ画像における各ストライプのシリアル番号と前記各ストライプの光平面に対応するシリアル番号との整合性に基づいて前記ストライプの中心の画素座標に対応する光平面を決定し、
前記プロセッサは、前記ストライプの中心の画素座標および対応する光平面に基づいて三角測量を行って走査対象物の三次元デジタルモデルを再構成する、
請求項8に記載の機器。 - 請求項1~7のいずれか1項に記載の三次元走査機器で実行される三次元走査方法であって、
前記投影機器によって前記走査対象物に前記ストライプ符号化画像を投影するステップと、
前記カメラによって前記走査対象物を撮像して前記カメラ画像を取得するステップであって、前記カメラ画像は前記カメラの画像平面における前記走査対象物の結像であり、前記画像平面は第1結像区間を含み、前記走査対象物が前記三次元走査機器の有効被写界深度範囲内にある場合、前記画像平面における前記第1ストライプ群の結像は、前記第1結像区間内にあり、かつ、前記第1結像区間内には前記第1ストライプ群のみがあるステップと、
前記プロセッサによって前記カメラ画像に基づいて前記走査対象物に対して三次元再構成を行うステップと、を含む
三次元走査方法。 - 前記カメラ画像に基づいて前記カメラ画像におけるストライプの中心の画素座標を決定するステップと、
前記プロセッサには第1結像区間の座標が予め設定され、前記ストライプの画素座標および前記第1結像区間の座標に基づいて各ストライプのシリアル番号を決定するステップと、
前記シリアル番号に基づいて前記ストライプの中心の画素座標を三次元的に再構成して走査対象物の三次元デジタルモデルを取得するステップと、をさらに含む
請求項11に記載の方法。 - 三次元走査方法であって、
ストライプ符号化画像を走査対象物に投影するステップであって、前記ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、前記時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、前記色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含むステップと、
前記走査対象物の三次元再構成画像を撮像するステップであって、前記三次元再構成画像における前記走査対象物の表面上に前記ストライプ符号化画像を有するステップと、
前記三次元再構成画像に基づいて前記走査対象物の三次元モデルを再構成するステップと、を含む、
三次元走査方法。 - ストライプ符号化画像が時間符号化画像である場合、
第1時間では走査対象物の表面に第1時間ストライプパターンを投影するステップと、
走査対象物の表面の第1時間ストライプ画像を取得するステップと、
第2時間では走査対象物の表面に第2時間ストライプパターンを投影するステップと、
走査対象物の表面の第2時間ストライプ画像を取得するステップと、
第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、をさらに含む、
請求項13に記載の方法。 - 第1時間ストライプ画像と第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、
第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップと、
第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップと、
第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップと、を含む、
請求項14に記載の方法。 - 第1時間ストライプ画像に基づいて第1符号化テーブルを決定するステップは、
第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップを含み、
第2時間ストライプ画像に基づいて第2符号化テーブルを決定するステップは、
第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップを含み、
第1符号化テーブルおよび第2符号化テーブルに基づいて時間画像符号化テーブルを構成するステップは、
第1符号化テーブルと第2符号化テーブルの同じ画素位置の符号化値を、第1時間ストライプ画像と第2時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成する、
請求項15に記載の方法。 - 走査対象物の表面の第2時間ストライプ画像を取得した後、
第3時間では走査対象物の表面に第3時間ストライプパターンを投影するステップと、
走査対象物の表面の第3時間ストライプ画像を取得するステップと、
第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップと、をさらに含む、
請求項14に記載の方法。 - 第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像に基づいて時間画像符号化テーブルを決定するステップは、
第1時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第1時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第1時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第1符号化テーブルを構成するステップと、
第2時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第2時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第2時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第2符号化テーブルを構成するステップと、
第3時間ストライプ画像におけるストライプのある画素を第1符号化値とし、第3時間ストライプ画像におけるストライプのない画素を第2符号化値とし、第3時間ストライプ画像の画素位置分布の第1符号化値と第2符号化値に基づいて第3符号化テーブルを構成するステップと、
第1符号化テーブル、第2符号化テーブル、および第3符号化テーブルにおける同じ画素位置の符号化値を、第1時間ストライプ画像、第2時間ストライプ画像および第3時間ストライプ画像の取得順に配列して対応する画素の符号化シーケンスとし、符号化シーケンスに基づいて時間画像符号化テーブルを構成するステップと、を含む、
請求項18に記載の方法。 - 符号化テーブルは2値符号化され、時間符号化画像においてストライプのある画素に対応する符号化値は1で、時間符号化画像においてストライプのない画素に対応する符号化値は0である、
請求項13~18のいずれか1項に記載の方法。 - 第1時間ストライプ画像および第2時間ストライプ画像に基づいて時間画像符号化テーブルを決定した後、
走査対象物に第4時間ストライプパターンを投影し、走査対象物の表面上の第4時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第4時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、
走査対象物に第5時間ストライプパターンを投影し、走査対象物の表面上の第5時間ストライプパターンを取得し、かつ、時間画像符号化テーブルに基づいて第5時間ストライプ画像内の各ストライプのシーケンスを決定するステップと、をさらに、含み、
第5時間ストライプパターンは、第4時間ストライプパターン内の各ストライプの同じ方向へのオフセット距離dに基づいて取得される、
請求項14に記載の方法。 - ストライプ符号化画像が色符号化画像である場合、
第1色ストライプパターンおよび第2色ストライプパターンを含む色符号化画像を、走査対象物の表面に投影するステップと、
走査対象物の表面の、第1色ストライプ画像および第2色ストライプ画像を含む色ストライプ画像を取得するステップと、
第1色ストライプ画像および第2色ストライプ画像に基づいて色画像符号化テーブルを決定するステップと、を含む、
請求項13に記載の方法。 - 色ストライプ画像に基づいて色画像符号化テーブルを決定するステップは、
第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップと、
第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップと、
第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップと、を含む、
請求項21に記載の方法。 - 第1色ストライプ画像に基づいて第1色符号化テーブルを決定するステップは、
第1色ストライプ画像における第1色のある画素を第1符号化シーケンスとし、第1色ストライプ画像における第1色のない画素を第4符号化シーケンスとし、第1色ストライプ画像の画素位置分布の第1符号化シーケンスと第4符号化シーケンスに基づいて第1色符号化テーブルを構成するステップを含み、
第2色ストライプ画像に基づいて第2色符号化テーブルを決定するステップは、
第2色ストライプ画像における第2色のある画素を第2符号化シーケンスとし、第2色ストライプ画像における第2色のない画素を第4符号化シーケンスとし、第2色ストライプ画像の画素位置分布の第2符号化シーケンスと第4符号化シーケンスに基づいて第2色符号化テーブルを構成するステップを含み、
第1色符号化テーブルおよび第2色符号化テーブルに基づいて色画像符号化テーブルを構成するステップは、
第1色符号化テーブルと第2色符号化テーブル内の同じ画素位置の符号化シーケンスを、対応する画素の符号化シーケンスとして重ね合わせ、各画素の分布に対応する重ね合わせた符号化シーケンスが色画像符号化テーブルを構成するステップを含む、
請求項22に記載の方法。 - 符号化テーブルは2値符号化され、色符号化画像において第1色のある画素に対応する第1符号化シーケンスは(0,0,1)で、色符号化画像において第2色のある画素に対応する第2符号化シーケンスは(0,1,0)で、色符号化画像において色のない画素に対応する第4符号化シーケンスは(0,0,0)である、
請求項21~23のいずれか1項に記載の方法。 - ストライプ符号化画像を走査対象物に投影するように構成される投影ユニットであって、ストライプ符号化画像は、時間符号化画像または色符号化画像を含み、時間符号化画像は、時間的に配列された複数の時間ストライプパターンを含み、色符号化画像は、複数の色を用いて符号化された色ストライプパターンを含む投影ユニットと、
走査対象物の三次元再構成画像を撮像するように構成される撮像ユニットであって、三次元再構成画像における走査対象物の表面上にストライプ符号化画像を有する撮像ユニットと、
三次元再構成画像に基づいて走査対象物の三次元モデルを再構成する再構成ユニットと、を備える三次元走査機器。 - 記憶されたプログラムを含むコンピュータ可読記憶媒体であって、
前記プログラムが実行されるとき、前記コンピュータ可読記憶媒体が配置された装置が上記三次元走査方法を実行するように制御するコンピュータ可読記憶媒体。 - プログラムを実行するように構成されるプロセッサであって、
前記プログラムが実行されるとき、上記三次元走査方法を実行するプロセッサ。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011640685.8A CN114681088B (zh) | 2020-12-31 | 2020-12-31 | 三维扫描方法、装置、存储介质和处理器 |
CN202011642145.3 | 2020-12-31 | ||
CN202011640685.8 | 2020-12-31 | ||
CN202011642145.3A CN114681089B (zh) | 2020-12-31 | 2020-12-31 | 三维扫描装置和方法 |
PCT/CN2021/143723 WO2022143992A1 (zh) | 2020-12-31 | 2021-12-31 | 三维扫描设备、方法、装置、存储介质及处理器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024502065A true JP2024502065A (ja) | 2024-01-17 |
Family
ID=82259092
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023540479A Pending JP2024502065A (ja) | 2020-12-31 | 2021-12-31 | 三次元走査機器、方法、装置、記憶媒体およびプロセッサ |
Country Status (5)
Country | Link |
---|---|
US (1) | US20240058106A1 (ja) |
EP (1) | EP4272697A4 (ja) |
JP (1) | JP2024502065A (ja) |
KR (1) | KR20230128521A (ja) |
WO (1) | WO2022143992A1 (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6438272B1 (en) * | 1997-12-31 | 2002-08-20 | The Research Foundation Of State University Of Ny | Method and apparatus for three dimensional surface contouring using a digital video projection system |
CN102519390B (zh) * | 2011-12-21 | 2015-01-07 | 哈尔滨理工大学 | 三编码周期灰度梯形相移结构光三维信息获取方法 |
TR201811449T4 (tr) * | 2012-11-07 | 2018-09-21 | Artec Europe S A R L | Üç boyutlu nesnelerin doğrusal boyutlarını gözetlemek için yöntem. |
US10812694B2 (en) * | 2013-08-21 | 2020-10-20 | Faro Technologies, Inc. | Real-time inspection guidance of triangulation scanner |
CN108261171B (zh) * | 2017-10-30 | 2019-09-20 | 先临三维科技股份有限公司 | 口内三维扫描装置和方法 |
CN108985310B (zh) * | 2018-05-04 | 2021-12-07 | 长春理工大学 | 基于序列特征重复度的条纹码字匹配方法 |
CN109489583B (zh) * | 2018-11-19 | 2021-09-17 | 先临三维科技股份有限公司 | 投影装置、采集装置及具有其的三维扫描系统 |
-
2021
- 2021-12-31 KR KR1020237026221A patent/KR20230128521A/ko active Search and Examination
- 2021-12-31 US US18/270,497 patent/US20240058106A1/en active Pending
- 2021-12-31 WO PCT/CN2021/143723 patent/WO2022143992A1/zh active Application Filing
- 2021-12-31 EP EP21914721.2A patent/EP4272697A4/en active Pending
- 2021-12-31 JP JP2023540479A patent/JP2024502065A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4272697A1 (en) | 2023-11-08 |
KR20230128521A (ko) | 2023-09-05 |
US20240058106A1 (en) | 2024-02-22 |
WO2022143992A1 (zh) | 2022-07-07 |
EP4272697A4 (en) | 2024-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6619893B2 (ja) | 3次元走査システムおよびその走査方法 | |
EP1969307B1 (en) | Coded structured light | |
EP2677938B1 (en) | Space carving in 3d data acquisition | |
AU2004212587A1 (en) | Panoramic scanner | |
US7956862B2 (en) | Determining camera motion | |
US20050068544A1 (en) | Panoramic scanner | |
EP3138275B1 (en) | System and method for collecting color information about an object undergoing a 3d scan | |
JP2019526033A (ja) | 単眼3次元走査システムによる3次元再構成法および装置 | |
US20070211081A1 (en) | Augmented reality system for a dental laboratory | |
CN107465906B (zh) | 场景的全景拍摄方法、装置及终端设备 | |
EP2786722A1 (en) | Color 3-D image capture with monochrome image sensor | |
CN111784754B (zh) | 基于计算机视觉的牙齿正畸方法、装置、设备及存储介质 | |
CN108261171B (zh) | 口内三维扫描装置和方法 | |
WO2024032670A1 (zh) | 三维重建方法及装置、系统 | |
US20230240818A1 (en) | Taking an optical impression of a patient's dental arch | |
KR20200067719A (ko) | 스테레오-시간적 이미지 시퀀스들로부터 향상된 3-d 데이터 재구성을 위한 방법들 및 장치 | |
JP2024502065A (ja) | 三次元走査機器、方法、装置、記憶媒体およびプロセッサ | |
CN108267098B (zh) | 三维扫描方法、装置、系统、存储介质和处理器 | |
WO2020024144A1 (zh) | 一种三维成像方法、装置及终端设备 | |
CN108478188B (zh) | 以结构光进行扫描的立体物件扫描装置 | |
WO2024032666A1 (zh) | 三维重建方法及装置、系统 | |
CN114681088B (zh) | 三维扫描方法、装置、存储介质和处理器 | |
CN114681089B (zh) | 三维扫描装置和方法 | |
JP2023538639A (ja) | データを再構成する方法およびシステム、走査装置並びにコンピュータ可読記憶媒体 | |
CN118055728A (zh) | 构建牙齿结构的纹理化3d模型 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230830 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230830 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240527 |