WO2022265270A1 - 이미지 처리 장치, 및 이미지 처리 방법 - Google Patents

이미지 처리 장치, 및 이미지 처리 방법 Download PDF

Info

Publication number
WO2022265270A1
WO2022265270A1 PCT/KR2022/007770 KR2022007770W WO2022265270A1 WO 2022265270 A1 WO2022265270 A1 WO 2022265270A1 KR 2022007770 W KR2022007770 W KR 2022007770W WO 2022265270 A1 WO2022265270 A1 WO 2022265270A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
hole
scan data
image processing
meshes
Prior art date
Application number
PCT/KR2022/007770
Other languages
English (en)
French (fr)
Inventor
김진영
김두수
Original Assignee
주식회사 메디트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020220026906A external-priority patent/KR102527955B1/ko
Application filed by 주식회사 메디트 filed Critical 주식회사 메디트
Priority to CN202280028069.8A priority Critical patent/CN117178300A/zh
Priority to EP22825196.3A priority patent/EP4322113A1/en
Publication of WO2022265270A1 publication Critical patent/WO2022265270A1/ko

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C9/00—Impression cups, i.e. impression trays; Impression methods
    • A61C9/004—Means or methods for taking digitized impressions
    • A61C9/0046—Data acquisition means or methods
    • A61C9/0053—Optical means or methods, e.g. scanning the teeth by a laser or light beam
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C9/00—Impression cups, i.e. impression trays; Impression methods
    • A61C9/004—Means or methods for taking digitized impressions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C5/00—Filling or capping teeth
    • A61C5/70—Tooth crowns; Making thereof
    • A61C5/77—Methods or devices for making crowns
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C8/00—Means to be fixed to the jaw-bone for consolidating natural teeth or for fixing dental prostheses thereon; Dental implants; Implanting tools
    • A61C8/0048—Connecting the upper structure to the implant, e.g. bridging bars
    • A61C8/005—Connecting devices for joining an upper structure with an implant member, e.g. spacers

Definitions

  • the disclosed embodiments relate to an image processing apparatus and an image processing method, and more particularly, to an image processing apparatus and a processing method for obtaining an image in which a hole of an object is filled from a scanned image of the object including a hole.
  • An implant may include a fixture, an abutment, and a crown.
  • the fixture is a structure corresponding to the root of a natural tooth and is inserted into the gum bone.
  • the abutment is an intermediate connecting part that connects the fixture and the crown, and rises above the gums.
  • a crown is a final prosthetic appliance of a tooth model and generally refers to a part appearing as a tooth.
  • the abutment has a screw hole for coupling with the fixture, and after scanning the abutment, the crown is designed and created based on this. At this time, if the crown is designed based on the scanned screw hole, the inner surface of the crown may be incorrectly designed due to the screw hole. Therefore, in order to prevent this, before scanning the abutment, the screw hole is filled with resin to make it flat, then the abutment is scanned, and when the scanning is completed, a process of removing the filled resin is performed. However, this process is not easy, and there is a problem in that work efficiency is greatly reduced.
  • An object of the disclosed embodiments is to provide an image processing method for obtaining an image in which a hole of an object is automatically filled when an object including a hole is scanned, and an apparatus for performing the operation accordingly.
  • An image processing method includes obtaining 3D scan data obtained by scanning an object including a hole, obtaining data corresponding to an area of the hole based on the scan data, and obtaining data corresponding to an area of the hole, based on the scan data. and displaying a final model representing a filled shape of the hole based on data corresponding to the hole area.
  • the displaying of the final model may include deleting data for an inner area of the hole from the scan data, scan data from which data for the inner area of the hole is deleted, and data corresponding to the hole area. It may include displaying the final model synthesized.
  • Acquiring data corresponding to the hole area based on the scan data includes acquiring a 3D model surrounding the scan data, and based on the 3D model and the scan data. , obtaining mesh data corresponding to the surface of the object, and acquiring data corresponding to the hole region in the mesh data.
  • the 3D model may include a 3D convex hull of the scan data.
  • Acquiring mesh data corresponding to the surface of the object based on the 3D model and the scan data includes obtaining first mesh data based on the 3D model, and and obtaining second mesh data based on the first mesh data and the scan data, wherein a density of second meshes included in the second mesh data is determined by a first mesh included in the first mesh data. may be greater than their density.
  • the obtaining of the second mesh data based on the first mesh data and the scan data may include changing the first meshes included in the first mesh data to third meshes included in the scan data. It may include projecting into , subdividing the projected meshes, and generating the second meshes by shrinking the subdivided meshes.
  • the image processing method may further include detecting an inner surface area of the hole from the scan data, and projecting the first meshes to the third meshes may include the first meshes of the hole. Projecting the first meshes to the third meshes based on whether they correspond to the inner surface area may be included.
  • a difference between a density of the second meshes and a density of the third meshes included in the scan data may be less than a preset value.
  • surface areas of the second meshes may be smaller than surface areas of the first meshes.
  • Acquiring data corresponding to the hole region from the mesh data may include deleting mesh data overlapping with the scan data from the mesh data.
  • the displaying of the final model may include detecting a boundary of a region in which the mesh data and the scan data do not overlap in the scan data, and generating data for an inner region of the hole based on the boundary.
  • the method may include deleting, and displaying the final model obtained by synthesizing scan data from which data for the inner surface area of the hole is deleted and data corresponding to the hole area.
  • Displaying the final model according to an embodiment may include displaying an area filled with holes to be distinguished from other areas.
  • the object according to an embodiment may include an abutment including a screw hole.
  • An image processing apparatus includes a display, a memory for storing one or more instructions, and a processor, wherein the processor scans an object including a hole by executing the one or more instructions stored in the memory. 3D scan data is acquired, based on the scan data, data corresponding to the hole area is obtained, and based on the scan data and data corresponding to the hole area, a final model representing a shape in which the hole is filled is obtained. It is possible to control the display to display.
  • FIG. 1 is a diagram for explaining an image processing system according to an exemplary embodiment.
  • FIG. 2 is a diagram showing the reason why a screw hole should be filled with a filler when an abutment is scanned according to an embodiment.
  • FIG. 3 is a diagram illustrating a method of acquiring scan data of an object by an image processing apparatus according to an exemplary embodiment.
  • FIGS. 4 and 5 are views illustrating a method of generating an image in which a hole of an object is filled by an image processing apparatus according to an exemplary embodiment.
  • FIG. 6 is a diagram illustrating a method of synthesizing scan data and wrapping mesh data according to an exemplary embodiment.
  • FIG. 7 is a diagram illustrating a method for determining an area to be projected when wrapping mesh data is generated from initial mesh data according to an embodiment.
  • FIG. 8 is a diagram for explaining a method of processing an image of an unscanned area by an image processing apparatus according to an exemplary embodiment.
  • FIG. 9 is a diagram for explaining a method of processing a groove existing on a surface of an object by an image processing apparatus according to an exemplary embodiment.
  • FIGS. 10A and 10B are views for explaining a method of processing an image when a hole region of an object is filled in scan data according to an exemplary embodiment.
  • FIG. 11 is a diagram for explaining a method of processing an image when a hole region of an object is filled in scan data according to an exemplary embodiment.
  • FIG. 12 is a diagram illustrating a method of displaying filled holes in a final model by an image processing apparatus according to an exemplary embodiment.
  • FIG. 13 is a diagram for explaining a method of obtaining an image in a state in which a hole of an object is filled by an image processing apparatus according to an exemplary embodiment.
  • FIG. 14 is a flowchart illustrating an image processing method according to an exemplary embodiment.
  • 15 is a block diagram illustrating an image processing device according to an exemplary embodiment.
  • the image may include an image representing an oral cavity including at least one tooth or at least one tooth.
  • an image may be a 2D image of an object or a 3D model or 3D image representing the object in three dimensions.
  • an image may refer to data required to represent an object in 2D or 3D, eg, raw data obtained from at least one image sensor.
  • the raw data is data acquired to generate an image, and data acquired from at least one image sensor included in the 3D scanner when scanning an object using the 3D scanner (for example, 2D data).
  • an 'object' refers to teeth, gingiva, at least a portion of the oral cavity, and/or an artificial structure that can be inserted into the oral cavity (eg, an orthodontic device, an implant, an artificial tooth, an orthodontic aid tool inserted into the oral cavity, etc.) ) and the like.
  • the orthodontic device may include at least one of a bracket, an attachment, an orthodontic screw, a lingual orthodontic device, and a removable orthodontic retainer.
  • FIG. 1 is a diagram for explaining an image processing system according to an exemplary embodiment.
  • the image processing system includes 3D scanners 10 and 50 and an oral image processing device 100 .
  • the 3D scanners 10 and 50 and the image processing device 100 may communicate through the communication network 30 .
  • the 3D scanner 10 or 50 is a device that scans an object and may be a medical device that acquires an image of the object.
  • the 3D scanners 10 and 50 may obtain an image of at least one of the oral cavity or an artificial structure or a plaster model modeled after the oral cavity or an artificial structure.
  • the 3D scanners 10 and 50 may include at least one of the intraoral scanner 10 and the table scanner 50.
  • the 3D scanners 10 and 50 may include the intraoral scanner 10.
  • the intraoral scanner 10 may be a handheld type in which the user scans the oral cavity while holding and moving.
  • the oral scanner 10 may acquire an image of the oral cavity including at least one tooth by being inserted into the oral cavity and scanning teeth in a non-contact manner.
  • the intraoral scanner 10 may have a form capable of being drawn in and out of the oral cavity, and scans the inside of the patient's oral cavity using at least one image sensor (eg, an optical camera, etc.).
  • the intraoral scanner 10 may include a body 11 and a tip 13.
  • the main body 11 may include a light emitter (not shown) that projects light and a camera (not shown) that captures an image of an object.
  • the tip 13 is a part inserted into the oral cavity and may be mounted on the main body 11 in a detachable structure.
  • the tip 13 may include a light path changing means to direct light emitted from the main body 11 to the object and direct light received from the object to the main body 11 .
  • the intraoral scanner 10 includes at least one of teeth, gingiva, and artificial structures (eg, orthodontic devices including brackets and wires, implants, artificial teeth, and orthodontic tools inserted into the oral cavity) that can be inserted into the oral cavity.
  • artificial structures eg, orthodontic devices including brackets and wires, implants, artificial teeth, and orthodontic tools inserted into the oral cavity
  • surface information of an object may be obtained as raw data.
  • the 3D scanners 10 and 50 may include a table scanner 50.
  • the table scanner 50 may be a scanner that obtains surface information of the object 58 as raw data by scanning the object 58 using rotation of the table 57 .
  • the table scanner 50 may scan the surface of the object 58, such as a plaster model or impression model modeled after an oral cavity, an artificial structure that can be inserted into the oral cavity, or a plaster model or impression model modeled after an artificial structure.
  • the table scanner 50 may include an inner space formed by being depressed inward of the housing 51 .
  • a moving unit 52 capable of holding the object 58 and moving the object 58 may be formed on a side surface of the inner space.
  • the moving unit 52 may move up and down along the z-axis direction.
  • the moving part 52 rotates in the first rotational direction M1 with the fixed base 53 connected to the first rotating part 54 and a point on the fixed base 53 as a central axis, for example, the x-axis as the central axis.
  • It may include a possible first rotating portion 54 and a beam portion 56 connected to the first rotating portion 54 and protruding from the first rotating portion 54 .
  • the beam unit 56 may be extended or shortened in the x-axis direction.
  • the other end of the beam unit 56 may be coupled with a cylindrical second rotation unit 115 capable of rotating in a second rotation direction M2 with the z-axis as a rotation axis.
  • a table 57 rotating together with the second rotation unit 55 may be formed on one surface of the second rotation unit 55 .
  • An optical unit 59 may be formed in the inner space.
  • the optical unit 59 may include a light irradiation unit that projects patterned light onto the object 58 and at least one camera that receives the light reflected from the object 58 and acquires a plurality of 2D frames. there is.
  • the optical unit 59 may further include a second rotation unit (not shown) that rotates around the center of the light irradiation unit (not shown) as a rotation axis while being coupled to the side surface of the inner space.
  • the second rotation unit may rotate the light irradiation unit and the first and second cameras in the third rotation direction M3.
  • the 3D scanners 10 and 50 may transmit the obtained raw data to the image processing device 100 through the communication network 130 .
  • Image data acquired by the 3D scanners 10 and 50 may be transmitted to the image processing device 100 connected through a wired or wireless communication network 30 .
  • the image processing device 100 is connected to the 3D scanners 10 and 50 through a wired or wireless communication network 30, and receives a two-dimensional image obtained by scanning an object from the 3D scanners 10 and 50, It may be any electronic device capable of generating, processing, displaying and/or transmitting an image based on a received two-dimensional image.
  • the image processing device 100 may be a computing device such as a smart phone, a laptop computer, a desktop computer, a PDA, or a tablet PC, but is not limited thereto.
  • the oral cavity image processing device 100 may exist in the form of a server (or server device) for processing oral images.
  • the image processing device 100 may process the 2D image data received from the 3D scanners 10 and 50 to generate information or process the 2D image data to generate an image. Also, the oral image processing device 100 may display generated information and images through the display 130 .
  • the 3D scanners 10 and 50 may transmit raw data obtained through scanning to the image processing device 100 as it is.
  • the image processing device 100 may generate a 3D oral image representing the oral cavity in 3D based on the received raw data.
  • the image processing device 100 may generate 3D data (eg, surface data, mesh data, etc.) representing the shape of the surface of the object in 3D, based on the received raw data. there is.
  • the '3D image' may be generated by 3D modeling of the object based on the received raw data, it may be referred to as a '3D model'.
  • a model or image representing an object in 2D or 3D will be collectively referred to as an 'image'.
  • the image processing device 100 may analyze, process, display, and/or transmit the generated image to an external device.
  • the 3D scanners 10 and 50 acquire raw data by scanning an object, process the acquired raw data to generate an image corresponding to the object, and send the image to the image processing device 100.
  • the image processing device 100 may analyze, process, display, and/or transmit the received image.
  • the image processing device 100 is an electronic device capable of generating and displaying an image representing an object in 3D, which will be described in detail below.
  • the image processing apparatus 100 Upon receiving raw data obtained by scanning an object from the 3D scanners 10 and 50, the image processing apparatus 100 according to an exemplary embodiment processes the received raw data to generate a 3D image (or 3D model). can do.
  • a 3D image of an object generated by the image processing apparatus 100 will be referred to as 'scan data' hereinafter.
  • the 3D scanners 10 and 50 may scan an object including a hole.
  • an object including a hole is an abutment including a screw hole, but is not limited thereto.
  • An abutment is a structure that connects a crown and a fixture included in an implant, and may include a screw hole for coupling with the fixture. When scanning the abutment, it is necessary to scan the screw hole formed in the abutment after filling it with a filler such as resin. This will be described in detail with reference to FIG. 2 .
  • the image processing device 100 receives raw data obtained by scanning the abutment from the 3D scanners 10 and 50, and obtains scan data for the abutment based on the received raw data can do.
  • FIG. 2 is a diagram showing the reason why a screw hole should be filled with a filler when an abutment is scanned according to an embodiment.
  • an abutment 210 may include a screw hole 220 .
  • a screw hole 220 After scanning the abutment 210 without filling the screw hole 220, obtaining the scan data, and then generating the crown 230 based on the acquired scan data, by the screw hole included in the scan data Crown 230 may be created incorrectly.
  • the lower portion 235 of the crown 230 may be generated by protruding in the direction of the screw hole, and the protruding portion may later collide with a screw fixed to the fixture through the screw hole 220.
  • the screw hole 220 is filled with the filler 225, the abutment 210 ) should be scanned.
  • the screw hole area appears as a flat surface 240 in the scan data, and the crown 250 is created along the flat surface.
  • the filling material 225 filled in the screw hole 220 of the abutment must be removed. It is not easy to fill the screw hole 220 with the filler 225 flat, scan it, and then remove the filler 225 again, which greatly reduces work efficiency. In addition, in the case of the abutment installed in the oral cavity, there is a problem that the filler 225 cannot be filled in the screw hole of the abutment while it is installed in the oral cavity.
  • the image processing device 100 may generate an image in a state in which the screw hole is filled, based on scan data obtained by scanning the screw hole of the abutment without filling the screw hole.
  • FIG. 3 is a diagram illustrating a method of acquiring scan data of an object by an image processing apparatus according to an exemplary embodiment.
  • the image processing device 100 may generate scan data based on raw data acquired by the 3D scanners 10 and 50 . Also, the image processing device 100 may visually output the generated scan data 310 through the user interface screen 301 .
  • the user interface screen 301 may be a screen of the display 130 of FIG. 1 .
  • the user interface screen 301 may include at least one menu for enabling a user to analyze or process the scan data 310 .
  • scan data 310 may be scan data based on raw data obtained by the table scanner 50 .
  • raw data may be obtained by scanning an abutment fixed to a jig by an adhesive member using the table scanner 50 .
  • raw data may be obtained by scanning an abutment installed in the oral cavity using the intraoral scanner 10.
  • the scan data 310 includes scan data for an adhesive member or a jig other than the abutment
  • only the scan data 320 for the abutment is included in the scan data 310.
  • It can be set as a region of interest.
  • the image processing apparatus 100 may set a region of interest based on a user input using a selection tool such as a brush.
  • the selected region may be set as the region of interest based on a user input, and the selected region may be displayed to be distinguished from unselected regions.
  • the image processing apparatus 100 automatically detects the scan data 320 for the abutment from the scan data 310 without a user's input, and scans the detected abutment for the scan data ( 320) may be set as a region of interest.
  • the image processing device 100 may detect the scan data 320 for the abutment from the scan data 310 using artificial intelligence (AI).
  • AI artificial intelligence
  • the scan data 310 includes only scan data for the abutment, a separate process of setting a region of interest is not required.
  • FIGS. 4 and 5 are views illustrating a method of generating an image in which a hole of an object is filled by an image processing apparatus according to an exemplary embodiment.
  • the image processing apparatus 100 may generate wrapping mesh data 510 based on scan data 410 of an object including a hole.
  • the image processing device 100 may generate a 3D model 420 surrounding the scan data 410 .
  • the image processing apparatus 100 may generate a 3D convex hull of the scan data 410 using a 3D convex hull algorithm.
  • the 3D convex hull may include, but is not limited to, convex polygons generated based on some of the vertex data included in the scan data 410 .
  • the image processing device 100 may generate initial mesh data 430 composed of triangles based on the 3D model 420 .
  • Triangles included in the initial mesh data 430 may have a more uniform shape than triangles included in the 3D model 420 .
  • the image processing device 100 may generate wrapping mesh data 510 based on initial mesh data 430 .
  • the image processing device 100 may project first meshes (triangles) included in the initial mesh data 430 to meshes (triangles) included in the scan data 410 (hereinafter, , It will be referred to as 'warpping 520').
  • the image processing device 100 may subdivide the projected meshes (hereinafter referred to as 'subdivide 530').
  • the image processing device 100 may increase the density of the first meshes while maintaining the overall shape of the initial mesh data through a segmentation process.
  • the image processing apparatus 100 generates meshes close to the meshes included in the scan data 410 of the object by shrinking the subdivided meshes (hereinafter referred to as 'shrink 540').
  • the image processing device 100 may generate the wrapping mesh data 510 by repeating the wrapping-refinement-reduction processes 520, 530, and 540 with respect to the initial mesh data 430.
  • the image processing apparatus 100 repeats the lapping-refinement-contraction processes 520, 530, and 540, and the difference between the densities of the meshes included in the scan data 410 is preset. If it is less than the value, repetition of the lapping-refining-shrinking processes 520, 530, and 540 may be terminated.
  • the density of the second meshes included in the wrapping mesh data 510 may be greater than the density of the first meshes included in the initial mesh data 430 .
  • FIG. 6 is a diagram illustrating a method of synthesizing scan data and wrapping mesh data according to an exemplary embodiment.
  • the image processing device 100 may align scan data 410 of an object with wrapping mesh data 510 .
  • a known alignment algorithm may be used as a method of aligning the scan data 410 and the wrapping mesh data 510, but is not limited thereto.
  • the wrapping mesh data 510 is already aligned with the scan data 410. In this state, the image processing device 100 may not perform an operation of aligning the wrapping mesh data 510 and the scan data 410 .
  • the image processing device 100 may detect a non-overlapping area as the hole area of the object in a state where the scan data 410 and the wrapping mesh data 510 are aligned. The image processing device 100 may delete data other than the mesh data 610 corresponding to the detected hole region from the wrapping mesh data 510 .
  • the image processing device 100 may set the scan data 410 and the wrapping mesh data 510 to be aligned with the first ray of light in a first direction that is a normal direction from vertices included in the wrapping mesh data 510.
  • the corresponding vertex may be deleted.
  • the image processing device 100 may not delete the corresponding vertex. Accordingly, the image processing device 100 may delete data other than the mesh data 610 corresponding to the hole area from the wrapping mesh data 510 .
  • the image processing device 100 may detect the inner region of the screw hole from the scan data 410 based on the boundary of the non-overlapping region in a state where the scan data 410 and the wrapping mesh data 510 are aligned. there is. For example, as shown in FIG. 6 , based on the first boundary point 621 and the second boundary point 622 of a region that does not overlap with the wrapping mesh data 510 in the scan data 410, the first data ( 631) and the second data 632 may be detected as data for the inner area of the screw hole. The image processing device 100 may delete data on the inner surface of the screw hole from the scan data 410 .
  • the image processing device 100 first detects the data 631 and 632 of the inner surface of the screw hole from the scan data 410, and based on the detected inner surface of the screw hole, the boundary of the inner surface of the screw hole (eg, For example, it is possible to detect the first boundary point 621 and the second boundary point 622. However, it is not limited thereto.
  • the image processing device 100 synthesizes mesh data 610 corresponding to a hole region among lapping mesh data and remaining data 640 after deleting the inner region of a screw hole among scan data 410 to obtain a final result.
  • a model 650 may be created.
  • the final model 650 may include an image in which a screw hole is filled.
  • FIG. 7 is a diagram illustrating a method for determining an area to be projected when wrapping mesh data is generated from initial mesh data according to an embodiment.
  • the final model may be generated as the first image 720 .
  • the wrapping mesh data includes a mesh surface shape corresponding to the inner region 710 of the screw hole. Accordingly, the lapping mesh data and the scan data overlap in the inner area 710 of the screw hole, and thus, among the lapping mesh data, mesh data corresponding to the hole area (eg, 610 in FIG. 6 ) cannot be detected. do. Accordingly, when the scan data and the wrapping mesh data are synthesized, the scan data for the inner region 710 of the screw hole may not be deleted, and the first image 720 may represent a form in which a part of the screw hole is not filled.
  • the final model is a second image ( 730).
  • the lapping mesh data and the scan data do not overlap in the hole region, and among the lapping mesh data, mesh data corresponding to the hole region (eg, 610 of FIG. 6) can be detected.
  • the screw hole region of the scan data may be filled by using the mesh data corresponding to the hole region. Accordingly, the second image 730 may show a shape in which the screw hole area is completely filled.
  • FIG. 8 is a diagram for explaining a method of processing an image of an unscanned area by an image processing apparatus according to an exemplary embodiment.
  • an unscanned area 810 that is not a hole of an object may exist in scan data according to an exemplary embodiment.
  • the scan data and the wrapping mesh data do not overlap, and when the scan data and the wrapping mesh data are synthesized, not only the hole area but also the unscanned area 810 includes the wrapping mesh data 821. , 822). That is, the unscanned area 810 in the final model appears as wrapping mesh data 822.
  • the unscanned area 810 it may be represented as wrapping mesh data 822 or may be represented as scan data by performing the scan again.
  • the image processing apparatus 100 detects the inner area of the screw hole from the scan data and places the detected inner area of the screw hole in the scan data. Based on this, it is possible to detect the boundary of the inner region of the screw hole. Accordingly, the image processing apparatus 100 may determine whether the unscanned area 810 includes the inner surface of the screw hole and the boundary between the inner surface of the screw hole. When the unscanned area 810 does not include the inner surface of the screw hole and the boundary between the inner surface of the screw hole, the image processing device 100 does not fill the area with the wrapping mesh data, and scans the area again to obtain the scanned data. can be obtained.
  • the unscanned region 810 may appear as scan data rather than wrapping mesh data in the final model.
  • FIG. 9 is a diagram for explaining a method of processing a groove existing on a surface of an object by an image processing apparatus according to an exemplary embodiment.
  • an object according to an embodiment may include a groove 910 on a surface.
  • the image processing device 100 When the image processing device 100 according to an embodiment recognizes the groove area as the inner surface area of the hole and generates wrapping mesh data from the initial mesh data as described in FIG. 7 , if it is excluded from the projection area, the final model ( 920) may appear in a form in which grooves on the surface of the object are filled.
  • the image processing device 100 may distinguish between the home area and the hole area and perform projection on the home area without performing projection on the hole area when generating wrapping mesh data from the initial mesh data. .
  • the wrapping mesh data includes mesh data corresponding to the groove 910.
  • the wrapping mesh data and the scan data overlap in the groove 910 area, and when the scan data and the wrapping mesh data are synthesized, the scan data for the groove 910 area is not deleted. Accordingly, the groove may not be filled in the final model 930 and may appear as scan data for the groove area.
  • 10A is a diagram for explaining a method of processing an image when a hole region of an object is filled in scan data according to an exemplary embodiment.
  • data for a hole area may be filled.
  • the hole area to be filled and the remaining area are gently connected, and thus, the upper surface of the object may appear convex in the scan data.
  • the final model may be generated as the first image 1030 including only the scan data 1010 .
  • the image processing device 100 may check whether a spherical region exists at the tip of the abutment in the scan data 1010 .
  • the image processing device 100 may ignore scan data of the sphere-shaped region 1015 and generate wrapping mesh data. For example, when wrapping mesh data is generated from initial mesh data, projection may not be performed on the spherical region 1015 .
  • the image processing device 100 When the image processing device 100 according to an embodiment generates wrapping mesh data from initial mesh data and does not perform projection on the spherical region 1015, the final model is converted to the second image 1040. can be created For example, if projection is not performed on the sphere-shaped region 1015, the wrapping mesh data includes mesh data of a flat surface of the sphere-shaped region 1015.
  • the wrapping mesh data and the scan data do not overlap within a preset distance, and when the scan data and the wrapping mesh data are synthesized, the scan data for the spherical area 1015 may be deleted. Accordingly, the second image 1040 may represent a form in which the hole region is flatly filled with the wrapping mesh data.
  • 10B is a diagram for explaining a method of processing an image when a hole region of an object is filled in scan data according to an exemplary embodiment.
  • data for a hole area may be filled.
  • the upper surface of the object may appear as a flat shape filled with holes in the post-processed scan data.
  • the scan data 1050 and the lapping mesh data 1060 are synthesized, a non-overlapping area does not exist, and data corresponding to a hole area cannot be obtained from the lapping mesh data 1060. Accordingly, the scan data 1050 may be generated as a final model.
  • FIG. 11 is a diagram for explaining a method of processing an image when a hole region of an object is filled in scan data according to an exemplary embodiment.
  • some data in a hole area may be filled.
  • the non-overlapping area does not exist, and data corresponding to the hole area cannot be obtained from the lapping mesh data. Accordingly, the final model may be generated as the first image 1110 including scan data only.
  • the image processing device 100 may detect not only the inner surface area 1120 of the hole but also the filled bottom area 1125 in a post-processing process.
  • the image processing device 100 may generate wrapping mesh data 1135 ignoring scan data of the inner surface area 1120 and the bottom area 1125 of the hole. For example, when the wrapping mesh data 1135 is generated from the initial mesh data, projection may not be performed on the inner surface area 1120 of the hole and the bottom area 1125 filled with post-processing.
  • the image processing device 100 When generating the wrapping mesh data 1135 from the initial mesh data, the image processing device 100 according to an embodiment does not perform projection on the inner area 1120 of the hole and the bottom area 1125 filled with post-processing.
  • the final model may be generated as the second image 1130 .
  • the wrapping mesh data 1135 is the inner surface area 1120 of the hole and the bottom area filled with post-processing ( 1125) does not include mesh data.
  • the wrapping mesh data 1135 and the scan data do not overlap within a preset distance, and the scan data and the wrapping mesh data 1135 are synthesized.
  • scan data for the inner surface area 1120 of the hole and the bottom area 1125 filled with post-processing may be deleted.
  • the second image may represent a form in which the hole region is filled with the wrapping mesh data 1135 .
  • FIG. 12 is a diagram illustrating a method of displaying filled holes in a final model by an image processing apparatus according to an exemplary embodiment.
  • the image processing apparatus 100 may display a final model of an object in which a hole area is filled.
  • the image processing device 100 may display the final images 1210 and 1220 of the abutment in which the screw hole area is filled.
  • the image processing device 100 may display the screw hole area of the abutment to be distinguished from other areas in the final images 1210 and 1220 .
  • the image processing device 100 displays the boundary line of the screw hole area of the abutment as in the first final image 1210 or displays the screw hole area as in the second final image 1220. Areas can be displayed in different colors. However, it is not limited thereto.
  • the image processing device 100 may generate a crown image 1230 coupled to the abutment based on the final images 1210 and 1220 .
  • a crown hole 1235 having a position, size, and angle corresponding to the screw hole of the abutment is also created on the crown. need to be Accordingly, the screw hole regions displayed in the final images 1210 and 1220 may be used as guide information about the location, size, angle, and the like of the crown hole 1235 .
  • FIG. 13 is a diagram for explaining a method of obtaining an image in a state in which a hole of an object is filled by an image processing apparatus according to an exemplary embodiment.
  • the image processing apparatus 100 may obtain scan data of an object including a hole. Since the method for obtaining scan data has been described in detail with reference to FIG. 3 , the same description will be omitted.
  • the image processing device 100 may obtain curvature information 1310 of points included in scan data.
  • Curvature may be a value representing the degree of curvature of a curve or curved surface.
  • a curvature value of a predetermined point included in the scan data may indicate a degree of curvature of a curve determined on the surface of the object where the corresponding point is located. In this case, curves passing through the corresponding point may have different degrees of bending depending on the direction. Accordingly, the image processing apparatus 100 may determine the largest curvature value among curvature values of the corresponding point as the curvature value of the corresponding point, or may determine the average value of the curvature values as the curvature value of the corresponding point. However, it is not limited thereto.
  • the image processing device 100 may determine the sign of the curvature value of the corresponding point as (+), and if the curve or curved surface passing through the point is concave, the corresponding point The sign of the curvature value of can be determined as (-).
  • the image processing apparatus 100 may determine the size of the curvature value of a point by using normal vectors of meshes adjacent to the point.
  • the meaning that the point and the mesh are adjacent may mean that the mesh includes the corresponding point as a vertex.
  • the image processing apparatus 100 may determine the size of the curvature value of a corresponding point based on a difference between at least two normal vectors of meshes adjacent to the point. In this case, the difference between the normal vectors may be expressed as an angle between the normal vectors.
  • the image processing apparatus 100 may determine the curvature value of a point such that the larger the difference between the normal vectors of adjacent meshes, the larger the curvature value, and the smaller the difference between the normal vectors of the meshes, the smaller the curvature value.
  • the image processing device 100 may determine curvature values of points included in the scan data in various ways.
  • the image processing device 100 may determine the size of a curvature value of a point based on normal vectors of points included in the scan data.
  • the screw hole entrance area has a substantially right angle shape, and thus, the screw hole entrance area has a large curvature value.
  • the image processing device 100 may detect the screw hole entrance area 1320 based on the curvature information 1310 .
  • the image processing device 100 may obtain an image 1330 in which the screw hole is filled by using a hole filling algorithm that fills the hole based on the screw hole entrance area 1320 .
  • the image processing apparatus 100 may obtain an image 1330 in which a screw hole is filled by using a Poisson algorithm or the like. However, it is not limited thereto.
  • FIG. 14 is a flowchart illustrating an image processing method according to an exemplary embodiment.
  • the image processing method illustrated in FIG. 14 may be performed by the image processing device 100 .
  • the image processing apparatus 100 may obtain 3D scan data of an object including a hole (S1410).
  • the image processing device 100 may receive raw data acquired by the 3D scanners 10 and 50 .
  • raw data may be obtained by scanning an abutment fixed to a jig using an adhesive member using the table scanner 50 .
  • raw data may be obtained by scanning an abutment installed in the oral cavity using the intraoral scanner 10.
  • the image processing device 100 may generate scan data based on the received raw data. Alternatively, the image processing device 100 may read scan data stored in memory.
  • the image processing apparatus 100 may set only the scan data for the abutment as the region of interest when the scan data includes data for an adhesive member or a jig in addition to the abutment. At this time, the image processing apparatus 100 sets a region of interest based on a user input, or automatically detects scan data of the abutment without a user input, and converts the scanned data of the detected abutment into the region of interest. can be set However, it is not limited thereto.
  • the image processing device 100 may obtain a 3D model of a shape surrounding the scan data (S1420).
  • the image processing apparatus 100 may generate a 3D convex hull of scan data using a 3D convex hull algorithm.
  • the 3D convex hull may include convex polygons generated based on some of the vertex data included in the scan data. However, it is not limited to this.
  • the image processing device 100 may obtain wrapping mesh data based on the 3D model and scan data (S1430).
  • the image processing apparatus 100 may generate initial mesh data composed of triangles based on the 3D model.
  • the triangles included in the initial mesh data are more uniform than the triangles included in the 3D model.
  • the image processing device 100 may generate wrapping mesh data by repeating the lapping-refinement-contraction processes with respect to the initial mesh data. Since the lapping-segmentation-shrinking processes have been described in detail with reference to FIG. 5, a detailed description thereof will be omitted.
  • the image processing apparatus 100 terminates the repetition of the wrapping-refinement-retraction processes when the difference between the densities of the meshes generated by repeating the wrapping-refinement-reduction processes is less than a predetermined value, and is included in the scan data. , wrapping mesh data can be obtained.
  • the densities of the second meshes included in the wrapping mesh data may be greater than the densities of the first meshes included in the initial mesh data.
  • the image processing device 100 may align scan data of an object with wrapping mesh data.
  • a known alignment algorithm may be used as a method of aligning the scan data and the wrapping mesh data, but is not limited thereto.
  • the image processing device 100 may obtain data corresponding to the hole area (S1440).
  • the image processing device 100 may detect a non-overlapping area as the hole area of the object in a state where the scan data and the wrapping mesh data are aligned.
  • the image processing device 100 may obtain data corresponding to the hole region by deleting data other than the mesh data corresponding to the detected hole region from the lapping mesh data.
  • the image processing apparatus 100 may delete data on the inner surface of the hole from scan data (S1450).
  • the image processing device 100 may detect the inner region of the screw hole from the scan data based on the boundary of the non-overlapping region in a state where the scan data and the wrapping mesh data are aligned. The image processing device 100 may delete data about the inner region of the screw hole detected from the scan data.
  • the image processing device 100 may generate and display a final model by combining mesh data corresponding to a hole region among lapping mesh data and remaining data obtained by deleting the inner region of a screw hole among scan data. Yes (S1460).
  • the final model may include an image in which screw holes are filled.
  • the image processing device 100 may display the filled screw hole area in the final model to be distinguished from other areas.
  • the image processing apparatus 100 may display a boundary line of the screw hole area or display the screw hole area in a different color from other areas. However, it is not limited thereto.
  • 15 is a block diagram illustrating an image processing device according to an exemplary embodiment.
  • the image processing method illustrated in FIG. 15 may be performed through the image processing device 100 . Accordingly, the image processing method illustrated in FIG. 14 may be a flowchart illustrating operations of the image processing apparatus 100 .
  • the image processing device 100 may include a communication interface 110 , a user interface 120 , a display 130 , a memory 140 and a processor 150 .
  • the communication interface 110 may perform communication with at least one external electronic device (eg, the intraoral scanner 10, a server, or an external medical device) through a wired or wireless communication network.
  • the communication interface 110 may perform communication with at least one external sperm device under the control of the processor 150 .
  • the communication interface 110 is at least one short-range communication that performs communication according to a communication standard such as Bluetooth, Wi-Fi, Bluetooth Low Energy (BLE), NFC/RFID, Wi-Fi Direct, UWB, or ZIGBEE. modules may be included.
  • a communication standard such as Bluetooth, Wi-Fi, Bluetooth Low Energy (BLE), NFC/RFID, Wi-Fi Direct, UWB, or ZIGBEE. modules may be included.
  • the communication interface 110 may further include a remote communication module that communicates with a server for supporting remote communication according to a telecommunication standard.
  • the communication interface 110 may include a remote communication module that performs communication through a network for internet communication.
  • the communication interface 110 may include a remote communication module that performs communication through a communication network conforming to communication standards such as 3G, 4G, and/or 5G.
  • the communication interface 110 may include at least one port for connecting to an external electronic device (eg, intraoral scanner, etc.) through a wired cable in order to communicate with the external electronic device. Accordingly, the communication interface 110 may perform communication with an external electronic device wired through at least one port.
  • an external electronic device eg, intraoral scanner, etc.
  • the user interface 120 may receive a user input for controlling the image processing device 100 .
  • the user interface 120 includes a touch panel for detecting a user's touch, a button for receiving a user's push operation, a mouse or a keyboard for specifying or selecting a point on a user interface screen, and the like. It may include a user input device, but is not limited thereto.
  • the user interface 120 may include a voice recognition device for voice recognition.
  • the voice recognition device may be a microphone, and the voice recognition device may receive a user's voice command or voice request. Accordingly, the processor 150 may control an operation corresponding to the voice command or voice request to be performed.
  • the display 130 displays a screen. Specifically, the display 130 may display a predetermined screen according to the control of the processor 150 . Specifically, the display 130 may display a user interface screen including an oral cavity image generated based on data obtained by scanning the patient's oral cavity by the oral cavity scanner 10 . Alternatively, a user interface screen including an image of an object generated based on data obtained from the table scanner 10 may be displayed.
  • the display 130 may display a user interface screen including information related to the patient's dental treatment.
  • the memory 140 may store at least one instruction. Also, the memory 140 may store at least one instruction executed by the processor 150. Also, the memory 140 may store at least one program executed by the processor 150 . Also, the memory 140 may store data received from the 3D scanners 10 and 50 (eg, raw data obtained through scanning). Alternatively, the memory 140 may store an image representing an object in 3D.
  • the memory 140 according to an embodiment may include one or more instructions for obtaining an image of a hole-filled form from an image of an object including a hole.
  • the memory 140 according to an embodiment may include one or more instructions for performing a method disclosed in the present disclosure to obtain an image in which a hole is filled from an image of an object including a hole.
  • the processor 150 executes at least one instruction stored in the memory 140 and controls an intended operation to be performed.
  • at least one instruction may be stored in an internal memory included in the processor 150 or in the memory 140 included in the data processing device separately from the processor.
  • the processor 150 may control at least one component included in the data processing apparatus so that an intended operation is performed by executing at least one instruction. Therefore, even if the processor performs certain operations as an example, it may mean that the processor controls at least one component included in the data processing apparatus so that the certain operations are performed.
  • the processor 150 may generate scan data based on raw data received from the 3D scanner by executing one or more instructions stored in the memory 140 .
  • the raw data may include raw data obtained by scanning the abutment including the screw hole using the 3D scanner.
  • the processor 150 may obtain a 3D model of a shape surrounding the scan data by executing one or more instructions stored in the memory 140 .
  • the processor 150 may generate a 3D convex hull of the scan data using a 3D convex hull algorithm.
  • the 3D convex hull may include convex polygons generated based on some of the vertex data included in the scan data. However, it is not limited to this.
  • the processor 150 may obtain wrapping mesh data based on the 3D model and scan data by executing one or more instructions stored in the memory 140 .
  • the processor 150 may generate initial mesh data composed of triangles based on the 3D model.
  • the triangles included in the initial mesh data have a more uniform shape than the triangles included in the 3D model.
  • the processor 150 may generate wrapping mesh data by repeating the lapping-refinement-contraction processes with respect to the initial mesh data. Since the lapping-segmentation-shrinking processes have been described in detail with reference to FIG. 5, a detailed description thereof will be omitted.
  • the processor 150 may align the scan data of the object with the wrapping mesh data.
  • a known alignment algorithm may be used as a method of aligning the scan data and the wrapping mesh data, but is not limited thereto.
  • the processor 150 may obtain data corresponding to the hole area by executing one or more instructions stored in the memory 140 .
  • the processor 150 may detect a non-overlapping area as the hole area of the object in a state where the scan data and the wrapping mesh data are aligned.
  • the processor 150 may obtain data corresponding to the hole region by deleting data other than the mesh data corresponding to the detected hole region from the lapping mesh data.
  • the processor 150 may delete data on the inner surface of the hole from scan data by executing one or more instructions stored in the memory 140 .
  • the processor 150 may detect the inner region of the screw hole from the scan data based on the boundary of the non-overlapping region in a state where the scan data and the wrapping mesh data are aligned. The processor 150 may delete data about the inner region of the screw hole detected from the scan data.
  • the processor 150 executes one or more instructions stored in the memory 140 to synthesize the mesh data corresponding to the hole region among the lapping mesh data) and the data remaining after the inner region of the screw hole is deleted among the scan data to obtain a final model.
  • the final model may include an image in which screw holes are filled.
  • the processor 150 may display the filled screw hole area in the final model to be distinguished from other areas. For example, the processor 150 may display a boundary line of the screw hole area or display the screw hole area in a different color from other areas. However, it is not limited thereto.
  • the processor 150 internally includes at least one internal processor and a memory device (eg, RAM, ROM, etc.) for storing at least one of programs, instructions, signals, and data to be processed or used by the internal processor. ).
  • a memory device eg, RAM, ROM, etc.
  • the processor 150 may include a graphic processing unit for graphic processing corresponding to video.
  • the processor may be implemented as a system on chip (SoC) in which a core and a GPU are integrated.
  • SoC system on chip
  • the processor may include multiple cores over a single core.
  • a processor may include a dual core, triple core, quad core, hexa core, octa core, deca core, dodeca core, hexadecimal core, and the like.
  • the processor 150 may generate an image based on a 2D image received from the 3D scanners 10 and 50 .
  • the communication interface 110 may receive data obtained from the 3D scanners 10 and 50, for example, raw data obtained through scanning. Also, the processor 150 may generate a 3D image representing the object in 3D based on the raw data received through the communication interface 110 .
  • the 3D scanners 10 and 50 correspond to an L camera corresponding to a left field of view and a right field of view in order to restore a 3D image according to a light triangulation method. It may include an R camera that becomes.
  • the 3D scanner may obtain L image data corresponding to a left field of view and R image data corresponding to a right field of view from the L camera and the R camera, respectively. Subsequently, the 3D scanner may transmit raw data including L image data and R image data to the communication interface 110 of the image processing device 100 .
  • the communication interface 110 transfers the received raw data to the processor 150, and the processor 150 may generate an image representing the object in three dimensions based on the received raw data.
  • the processor 150 may control the communication interface 110 to directly receive an image representing an object in 3D from an external server, medical device, or the like. In this case, the processor may acquire the 3D image without generating the 3D image based on the raw data.
  • the processor 150 performing operations such as 'extraction', 'acquisition', and 'creation' means that the processor 150 directly performs the above-described operations by executing at least one instruction. In addition, it may include controlling other components so that the above-described operations are performed.
  • the image processing apparatus 100 may include only some of the components shown in FIG. 15 or may include more components in addition to the components shown in FIG. 15 . .
  • the image processing device 100 may store and execute dedicated software linked to the 3D scanners 10 and 50 .
  • the dedicated software may be referred to as a dedicated program, a dedicated tool, or a dedicated application.
  • dedicated software stored in the image processing device 100 is connected to the 3D scanners 10 and 50 to scan an object. It is possible to receive data acquired through real-time.
  • 'dedicated software means a program, tool, or application that can operate in conjunction with a 3D scanner, so that various 3D scanners developed and sold by various manufacturers may use it in common.
  • the aforementioned dedicated software may be produced and distributed separately from the 3D scanner that scans the object.
  • the image processing device 100 may store and execute dedicated software corresponding to the i500 product.
  • the transfer software may perform one or more operations for acquiring, processing, storing, and/or transmitting the image.
  • dedicated software may be stored in the processor.
  • the dedicated software may provide a user interface for using data obtained from the 3D scanner.
  • the user interface screen provided by dedicated software may include an image created according to the disclosed embodiment.
  • An image processing method may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer readable medium.
  • an embodiment of the present disclosure may be a computer-readable storage medium in which one or more programs including at least one instruction for executing an image processing method are recorded.
  • the computer readable storage medium may include program instructions, data files, data structures, etc. alone or in combination.
  • examples of computer-readable storage media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, floptical disks and Hardware devices configured to store and execute program instructions, such as magneto-optical media, and ROM, RAM, flash memory, and the like, may be included.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory storage medium' may mean that the storage medium is a tangible device.
  • the 'non-temporary storage medium' may include a buffer in which data is temporarily stored.
  • a method of processing an image according to various embodiments disclosed in this document may be included in a computer program product and provided.
  • a computer program product may be distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)). Alternatively, it may be distributed (eg, downloaded or uploaded) online through an application store (eg, play store, etc.) or directly between two user devices (eg, smartphones).
  • the computer program product according to the disclosed embodiment may include a storage medium on which a program including at least one instruction for performing the image processing method according to the disclosed embodiment is recorded.

Landscapes

  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Image Processing (AREA)

Abstract

개시된 실시예들은 이미지 처리 방법 및 이미지 처리 장치에 관한 것으로, 일 실시예에 따른 이미지의 처리 방법은, 홀을 포함하는 대상체를 스캔한 3차원 스캔 데이터를 획득하는 단계, 스캔 데이터에 기초하여, 홀 영역에 대응하는 데이터를 획득하는 단계, 및 스캔 데이터와 홀 영역에 대응하는 데이터에 기초하여, 홀이 채워진 형태를 나타내는 최종 모델을 표시하는 단계를 포함할 수 있다.

Description

이미지 처리 장치, 및 이미지 처리 방법
개시된 실시예는 이미지 처리 장치 및 이미지 처리 방법에 관한 것으로, 구체적으로, 홀을 포함하는 대상체에 대한 스캔 이미지로부터 대상체의 홀이 채워진 형태의 이미지를 획득하는 이미지 처리 장치 및 처리 방법에 관한 것이다.
노화나 풍치, 심한 충치, 외부 충격에 의해 치아가 심하게 파손된 경우 등 불가피하게 치아를 발치 해야 하는 경우가 발생한다. 발치를 하게 될 경우, 그 상태로 방치하게 되면 주변 치아들이 빈 공간으로 눕거나 이동이 일어나 주변 치아에까지 안좋은 영향을 줄 수 있다. 따라서, 치아의 결손이 있는 부위에 임플란트(implant)를 해야할 필요가 있다.
임플란트는 픽스쳐(fixture), 어버트먼트(abutment) 및 크라운(crown)을 포함할 수 있다. 픽스쳐는 자연치아의 뿌리에 상응하는 구조체로 잇몸 뼈 속에 들어가게 된다. 어버트먼트는 픽스쳐와 크라운을 연결해주는 중간 연결 부위로, 잇몸 위로 올라오게 된다. 또한, 크라운은 치아 모형의 최종 보철물로 일반적으로 치아로 나타나는 부분을 의미한다.
어버트먼트에는 픽스쳐와의 결합을 위한 나사홀이 존재하며, 어버트먼트를 스캔한 후에, 이를 기초로 크라운을 디자인하여 생성하게 된다. 이때, 스캔된 나사홀을 기초로 크라운을 디자인하게 되면, 크라운 내면이 나사홀로 인해 잘못 디자인될 수 있다. 따라서, 이를 방지하기 위해 어버트먼트를 스캔하기 전에 나사홀을 수지 등으로 메워 평평하게 만든 후에 어버트먼트를 스캔하고, 스캔이 완료되면 메웠던 수지를 제거하는 과정을 수행한다. 그러나, 이러한 과정은 용이하지 않으며, 작업 효율을 크게 떨어뜨린다는 문제점이 있다.
개시된 실시예는, 홀을 포함하는 대상체를 스캔하였을 때, 대상체의 홀이 자동으로 채워진 이미지를 획득하기 위한 이미지 처리 방법 및 그에 따른 동작을 수행하는 장치의 제공을 목적으로 한다.
일 실시예에 따른 이미지 처리 방법은, 홀을 포함하는 대상체를 스캔한 3차원 스캔 데이터를 획득하는 단계, 상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하는 단계, 및 상기 스캔 데이터와 상기 홀 영역에 대응하는 데이터에 기초하여, 상기 홀이 채워진 형태를 나타내는 최종 모델을 표시하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 최종 모델을 표시하는 단계는, 상기 스캔 데이터에서 상기 홀의 내면 영역에 대한 데이터를 삭제하는 단계, 상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하는 단계는, 상기 스캔 데이터를 둘러싸는 3차원 모델을 획득하는 단계, 상기 3차원 모델 및 상기 스캔 데이터에 기초하여, 상기 대상체의 표면에 대응하는 메쉬 데이터를 획득하는 단계, 및 상기 메쉬 데이터에서 상기 홀 영역에 대응하는 데이터를 획득하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 3차원 모델은 상기 스캔 데이터에 대한 3차원 볼록 껍질(3d convex hull)을 포함할 수 있다.
일 실시예에 따른 상기 3차원 모델 및 상기 스캔 데이터에 기초하여, 상기 대상체의 표면에 대응하는 메쉬 데이터를 획득하는 단계는, 상기 3차원 모델에 기초하여, 제1 메쉬 데이터를 획득하는 단계, 및 상기 제1 메쉬 데이터 및 상기 스캔 데이터에 기초하여, 제2 메쉬 데이터를 획득하는 단계를 포함하고, 상기 제2 메쉬 데이터에 포함되는 제2 메쉬들의 밀도는 상기 제1 메쉬 데이터에 포함되는 제1 메쉬들의 밀도보다 클 수 있다.
일 실시예에 따른 상기 제1 메쉬 데이터 및 상기 스캔 데이터에 기초하여, 상기 제2 메쉬 데이터를 획득하는 단계는, 상기 제1 메쉬 데이터에 포함되는 제1 메쉬들을 상기 스캔 데이터에 포함되는 제3 메쉬들로 프로젝션하는 단계, 상기 프로젝션된 메쉬들을 세분화하는(subdivide) 단계, 및 상기 세분화된 메쉬들을 수축시킴으로써(shrink), 상기 제2 메쉬들을 생성하는 단계를 포함할 수 있다.
일 실시예에 따른 이미지 처리 방법은, 상기 스캔 데이터에서 상기 홀의 내면 영역을 검출하는 단계를 더 포함하고, 상기 제1 메쉬들을 상기 제3 메쉬들로 프로젝션하는 단계는, 상기 제1 메쉬들이 상기 홀의 내면 영역에 대응하는 지 여부에 기초하여, 상기 제1 메쉬들을 상기 제3 메쉬들로 프로젝션하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 제2 메쉬들의 밀도와 상기 스캔 데이터에 포함되는 제3 메쉬들의 밀도의 차이는 기 설정된 값 미만일 수 있다.
일 실시예에 따른 상기 제2 메쉬들의 표면적은 상기 제1 메쉬들의 표면적보다 작을 수 있다.
일 실시예에 따른 상기 메쉬 데이터에서 상기 홀 영역에 대응하는 데이터를 획득하는 단계는, 상기 메쉬 데이터에서, 상기 스캔 데이터와 오버랩되는 메쉬 데이터를 삭제하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 최종 모델을 표시하는 단계는, 상기 스캔 데이터에서, 상기 메쉬 데이터와 상기 스캔 데이터가 오버랩되지 않는 영역의 경계를 검출하고, 상기 경계를 기준으로 상기 홀의 내면 영역에 대한 데이터를 삭제하는 단계, 및 상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 최종 모델을 표시하는 단계는, 상기 홀이 채워진 영역을 다른 영역과 구별되도록 표시하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 대상체는 나사홀을 포함하는 어버트먼트를 포함할 수 있다.
일 실시예에 따른 이미지 처리 장치는, 디스플레이, 하나 이상의 인스트럭션들을 저장하는 메모리, 및 프로세서를 포함하고, 상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써, 홀을 포함하는 대상체를 스캔한 3차원 스캔 데이터를 획득하고, 상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하며, 상기 스캔 데이터와 상기 홀 영역에 대응하는 데이터에 기초하여, 상기 홀이 채워진 형태를 나타내는 최종 모델을 표시하도록 상기 디스플레이를 제어할 수 있다.
개시된 실시예에 따른 이미지의 처리 장치, 및 구강 이미지 처리 방법은, 대상체의 홀이 채워진 형태의 이미지를 획득하기 위해, 대상체를 스캔하기 전에 홀에 수지 등을 메우고 스캔 후에 수지 등을 제거할 필요가 없다.
이에 따라, 작업 효율을 향상시킬 수 있으며, 구강 내에 삽입된 대상체에 대해서도 홀이 채워진 형태의 이미지를 용이하게 획득할 수 있다.
본 발명은, 다음의 자세한 설명과 그에 수반되는 도면들의 결합으로 쉽게 이해될 수 있으며, 참조 번호(reference numerals)들은 구조적 구성요소(structural elements)를 의미한다.
도 1은 개시된 실시예에 따른 이미지 처리 시스템을 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 어버트먼트를 스캔할 때, 나사홀을 충전재로 채워야 하는 이유를 나타내는 도면이다.
도 3은 일 실시예에 따른 이미지 처리 장치가 대상체에 대한 스캔 데이터를 획득하는 방법을 나타내는 도면이다.
도 4 및 도 5는 일 실시예에 따른 이미지 처리 장치가 대상체의 홀이 채워진 형태의 이미지를 생성하는 방법을 나타내는 도면들이다.
도 6은 일 실시예에 따른 스캔 데이터와 랩핑 메쉬 데이터를 합성하는 방법을 나타내는 도면이다.
도 7은 일 실시예에 따른 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 프로젝션할 영역을 결정하기 위한 방법을 나타내는 도면이다.
도 8은 일 실시예에 따른 이미지 처리 장치가 스캔되지 않은 영역의 이미지 처리 방법을 설명하기 위한 도면이다.
도 9는 일 실시예에 따른 이미지 처리 장치가 대상체의 표면에 존재하는 홈(groove)를 처리하는 방법을 설명하기 위한 도면이다.
도 10a 및 도 10b는 일 실시예에 따른 스캔 데이터에서 대상체의 홀 영역이 채워진 경우에 이미지를 처리하는 방법을 설명하기 위한 도면들이다.
도 11은 일 실시예에 따른 스캔 데이터에서 대상체의 홀 영역이 채워진 경우에 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 12는 일 실시예에 따른 이미지 처리 장치가 최종 모델에서 채워진 홀을 표시하는 방법을 나타내는 도면이다.
도 13은 일 실시예에 따른 이미지 처리 장치가 대상체의 홀이 채워진 상태의 이미지를 획득하는 방법을 설명하기 위한 도면이다.
도 14는 일 실시예에 따른 이미지 처리 방법을 나타내는 흐름도이다.
도 15는 일 실시예에 따른 이미지 처리 장치를 나타내는 블록도이다.
본 명세서는 본 발명의 권리범위를 명확히 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 실시할 수 있도록, 본 발명의 원리를 설명하고, 실시예들을 개시한다. 개시된 실시예들은 다양한 형태로 구현될 수 있다.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부'(part, portion)라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부'가 하나의 요소(unit, element)로 구현되거나, 하나의 '부'가 복수의 요소들을 포함하는 것도 가능하다. 이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시예들에 대해 설명한다.
본 명세서에서 이미지는 적어도 하나의 치아, 또는 적어도 하나의 치아를 포함하는 구강을 나타내는 이미지를 포함할 수 있다.
또한, 본 명세서에서 이미지는 대상체에 대한 2차원 이미지 또는 대상체를 입체적으로 나타내는 3차원 모델 또는 3차원 이미지가 될 수 있다. 또한, 본 명세서에서 이미지는 대상체를 2차원 또는 3차원적으로 표현하기 위해서 필요한 데이터, 예를 들어, 적어도 하나의 이미지 센서로부터 획득된 로우 데이터(raw data) 등을 의미할 수 있다. 구체적으로, 로우 데이터는 이미지를 생성하기 위해서 획득되는 데이터로, 3차원 스캐너를 이용하여 대상체를 스캔(scan)할 때 3차원 스캐너에 포함되는 적어도 하나의 이미지 센서에서 획득되는 데이터(예를 들어, 2차원 데이터)가 될 수 있다.
본 명세서에서 '대상체(object)'는 치아, 치은, 구강의 적어도 일부 영역, 및/또는 구강 내에 삽입 가능한 인공 구조물(예를 들어, 교정 장치, 임플란트, 인공 치아, 구강 내 삽입되는 교정 보조 도구 등) 등을 포함할 수 있다. 여기서, 교정 장치는 브라켓, 어태치먼트(attachment), 교정용 나사, 설측 교정 장치, 및 가철식 교정 유지 장치 중 적어도 하나를 포함할 수 있다.
이하에서는 도면을 참조하여 실시 예들을 상세히 설명한다.
도 1은 개시된 실시예에 따른 이미지 처리 시스템을 설명하기 위한 도면이다.
도 1을 참조하면, 이미지 처리 시스템은 3차원 스캐너(10, 50) 및 구강 이미지 처리 장치(100)를 포함한다. 3차원 스캐너(10, 50)와 이미지 처리 장치(100)는 통신망(30)을 통해 통신을 수행할 수 있다.
3차원 스캐너(10, 50)는 대상체를 스캔하는 장치로써, 대상체의 이미지를 획득하는 의료 장치일 수 있다.
3차원 스캐너(10, 50)는 구강이나 인공 구조물, 또는 구강이나 인공 구조물을 본 뜬 석고 모형 중 적어도 하나에 대한 이미지를 획득할 수 있다.
3차원 스캐너(10, 50)는 구강 스캐너(10)와 테이블 스캐너(50) 중 적어도 하나를 포함할 수 있다.
실시 예에서, 3차원 스캐너(10, 50)는 구강 스캐너(10)를 포함할 수 있다. 구강 스캐너(10)는 사용자가 손으로 잡고 이동하면서 구강을 스캔하는 핸드 헬드(handheld)형일 수 있다. 구강 스캐너(10)는 구강 내에 삽입되어 비 접촉식으로 치아를 스캐닝함으로써, 적어도 하나의 치아를 포함하는 구강에 대한 이미지를 획득할 수 있다. 또한, 구강 스캐너(10)는 구강 내에 인입 및 인출이 가능한 형태를 가질 수 있으며, 적어도 하나의 이미지 센서(예를 들어, 광학 카메라 등)를 이용하여 환자의 구강 내부를 스캔한다.
구강 스캐너(10)는 본체(11)와 팁(13)을 포함할 수 있다. 본체(11)는 광을 투사하는 광 조사부(미도시)와 대상체를 촬영하여 이미지를 획득하는 카메라(미도시)를 포함할 수 있다.
팁(13)은 구강 내에 삽입되는 부분으로, 탈부착이 가능한 구조로 본체(11)에 장착될 수 있다. 팁(13)은 광 경로 변경 수단을 포함하여, 본체(11)로부터 조사된 광을 대상체로 향하게 하고, 대상체로부터 수신된 광을 본체(11)로 향하게 하도록 할 수 있다.
구강 스캐너(10)는 구강 내부의 치아, 치은 및 구강 내에 삽입 가능한 인공 구조물(예를 들어, 브라켓 및 와이어 등을 포함하는 교정 장치, 임플란트, 인공 치아, 구강 내 삽입되는 교정 보조 도구 등) 중 적어도 하나의 표면을 이미징하기 위해서, 대상체에 대한 표면 정보를 로우 데이터(raw data)로 획득할 수 있다.
실시 예에서, 3차원 스캐너(10, 50)는 테이블 스캐너(50)를 포함할 수 있다. 테이블 스캐너(50)는 테이블(57)의 회전을 이용하여 대상체(58)를 스캔함으로써 대상체(58)에 대한 표면 정보를 로우 데이터(raw data)로 획득하는 스캐너일 수 있다. 테이블 스캐너(50)는 구강을 본 뜬 석고 모형이나 임프레션 모형, 구강에 삽입 가능한 인공 구조물, 또는 인공 구조물을 본 뜬 석고 모형이나 임프레션 모형 등의 대상체(58)의 표면을 스캔할 수 있다.
테이블 스캐너(50)는 하우징(51)의 내측 방향으로 함몰되어 형성되는 내부 공간을 포함할 수 있다. 내부 공간의 측면에는 대상체(58)를 거치할 수 있으며, 대상체(58)를 이동시킬 수 있는 이동부(52)가 형성될 수 있다. 이동부(52)는 z축 방향을 따라 상하 방향으로 이동할 수 있다. 이동부(52)는 제1 회전부(54)와 연결된 고정 베이스(53), 고정 베이스(53) 상의 일 지점을 중심축으로, 예컨대, x축을 중심축으로 한 제1 회전 방향(M1)으로 회전 가능한 제1 회전부(54), 및 제1 회전부(54)와 연결되어 제1 회전부(54)로부터 돌출되어 형성된 빔부(beam portion, 56)를 포함할 수 있다. 빔부(56)는 x축 방향으로 연장 또는 단축될 수 있다.
빔부(56)의 타단에는 z축을 회전축으로 하는 제2 회전 방향(M2)으로 회전할 수 있는 원통 형상의 제2 회전부(115)가 결합될 수 있다. 제2 회전부(55)의 일면 상에는 제2 회전부(55)와 함께 회전하는 테이블(57)이 형성될 수 있다.
내부 공간에는 광학부(59)가 형성될 수 있다. 광학부(59)는 대상체(58)에 패턴 광을 조사(project)하는 광 조사부와, 대상체(58)로부터 반사된 광을 수용하여 복수의 2차원 프레임들을 획득하는 적어도 하나의 카메라를 포함할 수 있다. 광학부(59)는 내부 공간의 측면에 결합된 상태에서, 광 조사부(미도시)의 중심을 회전축으로 하여 회전하는 제2 회전부(미도시)를 더 포함할 수 있다. 제2 회전부는 광 조사부, 제1 및 제2 카메라를 제3 회전 방향(M3)으로 회전시킬 수 있다.
3차원 스캐너(10, 50)는 획득한 로우 데이터를 통신망(130)를 통하여 이미지 처리 장치(100)로 전송할 수 있다. 3차원 스캐너(10, 50)에서 획득된 이미지 데이터는 유선 또는 무선 통신망(30)을 통하여 연결되는 이미지 처리 장치(100)로 전송될 수 있다.
이미지 처리 장치(100)는 3차원 스캐너(10, 50)와 유선 또는 무선 통신 망(30)을 통하여 연결되며, 3차원 스캐너(10, 50)로부터 대상체를 스캔하여 획득된 이차원 이미지를 수신하고, 수신된 이차원 이미지에 근거하여 이미지를 생성, 처리, 디스플레이 및/또는 전송할 수 있는 모든 전자 장치가 될 수 있다.
이미지 처리 장치(100)는 스마트 폰(smart phone), 랩탑 컴퓨터, 데스크탑 컴퓨터, PDA, 태블릿 PC 등의 컴퓨팅 장치가 될 수 있으며, 이에 한정되지 않는다. 또한, 구강 이미지 처리 장치(100)는 구강 이미지를 처리하기 위한 서버(또는 서버 장치) 등의 형태로 존재할 수도 있을 것이다.
이미지 처리 장치(100)는 3차원 스캐너(10, 50)에서 수신된 이차원 이미지 데이터를 처리하여 정보를 생성하거나, 이차원 이미지 데이터를 처리하여 이미지를 생성할 수 있다. 또한, 구강 이미지 처리 장치(100)는 생성된 정보 및 이미지를 디스플레이(130)를 통하여 디스플레이 할 수 있다.
또한, 3차원 스캐너(10, 50)는 스캔을 통하여 획득된 로우 데이터(raw data)를 그대로 이미지 처리 장치(100)로 전송할 수 있다. 이 경우, 이미지 처리 장치(100)는 수신된 로우 데이터에 근거하여 구강을 3차원적으로 나타내는 3차원 구강 이미지를 생성할 수 있다. 일 실시예에 따른 이미지 처리 장치(100)는 수신한 로우 데이터에 기초하여, 대상체의 표면의 형상을 3차원적으로 나타내는 3차원 데이터(예를 들어, 표면 데이터, 메쉬 데이터 등)를 생성할 수 있다.
또한, '3차원 이미지'는 수신된 로우 데이터에 근거하여 대상체를 3차원적으로 모델링(modeling)하여 생성될 수 있으므로, '3차원 모델'로 호칭될 수도 있다. 이하에서는, 대상체를 2차원 또는 3차원적으로 나타내는 모델 또는 이미지를 통칭하여, '이미지'라 칭하도록 한다.
또한, 이미지 처리 장치(100)는 생성된 이미지를 분석, 처리, 디스플레이 및/또는 외부 장치로 전송할 수 있다.
또 다른 예로, 3차원 스캐너(10, 50)는 대상체의 스캔을 통하여 로우 데이터(raw data)를 획득하고, 획득된 로우 데이터를 가공하여 대상체에 대응되는 이미지를 생성하여 이미지 처리 장치(100)로 전송할 수 있다. 이 경우, 이미지 처리 장치(100)는 수신된 이미지를 분석, 처리, 디스플레이 및/또는 전송할 수 있다.
개시된 실시예에서, 이미지 처리 장치(100)는 대상체를 3차원적으로 나타내는 이미지를 생성 및 디스플레이할 수 있는 전자 장치로, 이하에서 상세히 설명한다.
일 실시예에 따른 이미지 처리 장치(100)는 3차원 스캐너(10, 50)로부터 대상체를 스캔한 로우 데이터를 수신하면, 수신된 로우 데이터를 가공하여, 3차원 이미지(또는 3차원 모델)를 생성할 수 있다. 설명의 편의를 위하여, 이미지 처리 장치(100)에 의해 생성된 대상체에 대한 3차원 이미지를 이하에서,'스캔 데이터'라 지칭하기로 한다.
예를 들어, 3차원 스캐너(10, 50)는 홀을 포함하는 대상체를 스캔할 수 있다. 본 개시의 실시예들에서는 홀을 포함하는 대상체가 나사홀을 포함하는 어버트먼트인 것으로 설명하나, 이에 한정되는 것은 아니다. 어버트먼트는 임플란트에 포함된 픽스쳐와 크라운을 연결해주는 구조물로 픽스쳐와의 결합을 위한 나사홀을 포함할 수 있다. 어버트먼트를 스캔할 때, 어버트먼트에 형성된 나사홀을 수지 등의 충전재로 채운 후에 스캔할 필요가 있다. 이에 대해서는 도 2를 참조하여 자세히 설명하기로 한다.
일 실시예에 따른 이미지 처리 장치(100)는 3차원 스캐너(10, 50)로부터 어버트먼트를 스캔한 로우 데이터를 수신하고, 수신된 로우 데이터에 기초하여, 어버트먼트에 대한 스캔 데이터를 획득할 수 있다.
도 2는 일 실시예에 따른 어버트먼트를 스캔할 때, 나사홀을 충전재로 채워야 하는 이유를 나타내는 도면이다.
도 2를 참조하면, 일 실시예에 따른 어버트먼트(210)는 나사홀(220)을 포함할 수 있다. 나사홀(220)을 채우지 않고 어버트먼트(210)를 스캔하여, 스캔 데이터를 획득한 후, 획득한 스캔 데이터에 기초하여 크라운(230)을 생성하는 경우, 스캔 데이터에 포함된 나사홀에 의해 크라운(230)이 잘못 생성될 수 있다. 예를 들어, 크라운(230)의 아래 부분(235)이 나사홀 방향으로 돌출되어 생성될 수 있으며, 돌출된 부분은 추후에 나사홀(220)을 통해 픽스쳐에 고정되는 나사와 충돌될 수 있다.
이를 방지하기 위해, 어버트먼트(210)에 포함된 나사홀(220)을 충전재(225)로 채워 평평하게 만든 후에, 나사 홀(220)이 충전재(225)로 채워진 상태의 어버트먼트(210)를 스캔해야 된다. 나사 홀(220)을 충전재(225)로 채운 후에 어버트먼트(210)를 스캔하게 되면, 스캔 데이터에는 나사홀 영역이 평평한 표면(240)으로 나타나며, 평평한 표면을 따라 크라운(250)이 생성될 수 있다.
다만, 스캔이 완료된 후에는 어버트먼트의 나사홀(220)에 채웠던 충전재(225)를 제거해야 한다. 나사홀(220)에 충전재(225)를 평평하게 채우고, 스캔한 후, 충전재(225)를 다시 제거하는 과정은 용이하지 않으며, 작업 효율을 크게 떨어뜨리게 된다. 또한, 구강 내에 설치된 어버트먼트의 경우에는 구강 내에 설치된 채로, 어버트먼트의 나사홀에 충전재(225)를 채울 수 없다는 문제점이 있다.
따라서, 일 실시예에 따른 이미지 처리 장치(100)는 어버트먼트의 나사홀을 채우지 않고 스캔한 스캔 데이터에 기초하여, 나사홀이 채워진 상태의 이미지를 생성할 수 있다.
도 3은 일 실시예에 따른 이미지 처리 장치가 대상체에 대한 스캔 데이터를 획득하는 방법을 나타내는 도면이다.
일 실시예에 따른 이미지 처리 장치(100)는 3차원 스캐너(10, 50)에 의해 획득된 로우 데이터에 기초하여, 스캔 데이터를 생성할 수 있다. 또한, 이미지 처리 장치(100)는 사용자 인터페이스 화면(301)을 통하여, 생성된 스캔 데이터(310)를 시각적으로 출력할 수 있다. 사용자 인터페이스 화면(301)은 도 1의 디스플레이(130)의 화면일 수 있다. 사용자 인터페이스 화면(301)은 사용자가 스캔 데이터(310)를 분석 또는 처리할 수 있도록 하기 위한 적어도 하나의 메뉴들을 포함할 수 있다.
도 3을 참조하면, 스캔 데이터(310)는 테이블 스캐너(50)에 의해 획득된 로우 데이터에 기초하는 스캔 데이터일 수 있다. 예를 들어, 접착 부재에 의해 지그(jig)에 고정된 어버트먼트를 테이블 스캐너(50)를 이용하여, 스캔함으로써, 로우 데이터를 획득할 수 있다. 다만, 이에 한정되는 것은 아니며, 구강 스캐너(10)를 이용하여, 구강 내에 설치된 어버트먼트를 스캔하여, 로우 데이터를 획득할 수도 있다.
한편, 도 3에 도시된 바와 같이, 스캔 데이터(310)에 어버트먼트 이외에 접착 부재나 지그에 대한 스캔 데이터가 포함되는 경우, 스캔 데이터(310)에서 어버트먼트에 대한 스캔 데이터(320)만 관심 영역으로 설정할 수 있다. 예를 들어, 이미지 처리 장치(100)는 브러쉬 등의 선택 도구를 이용한 사용자 입력에 기초하여, 관심 영역을 설정할 수 있다. 이때, 사용자 입력에 기초하여 선택된 영역을 관심 영역으로 설정할 수 있으며, 선택된 영역은 선택되지 않은 영역과 구별되도록 표시할 수 있다.
또는, 일 실시예에 따른 이미지 처리 장치(100)는 스캔 데이터(310)에서 사용자의 입력 없이 자동으로 어버트먼트에 대한 스캔 데이터(320)를 검출하고, 검출된 어버트먼트에 대한 스캔 데이터(320)를 관심 영역으로 설정할 수 있다. 이미지 처리 장치(100)는 인공지능(AI)을 이용하여, 스캔 데이터(310)에서 어버트먼트에 대한 스캔 데이터(320)를 검출할 수 있다.
한편, 스캔 데이터(310)에 어버트먼트에 대한 스캔 데이터만 포함되어 있는 경우에는 별도로 관심 영역을 설정하는 과정은 필요하지 않다.
도 4 및 도 5는 일 실시예에 따른 이미지 처리 장치가 대상체의 홀이 채워진 형태의 이미지를 생성하는 방법을 나타내는 도면들이다.
도 4를 참조하면, 일 실시예에 따른 이미지 처리 장치(100)는 홀을 포함하는 대상체에 대한 스캔 데이터(410)에 기초하여, 랩핑 메쉬 데이터(510)를 생성할 수 있다.
이미지 처리 장치(100)는 스캔 데이터(410)를 둘러싸는 형태의 3차원 모델(420)을 생성할 수 있다. 예를 들어, 이미지 처리 장치(100)는 3차원 볼록 껍질 알고리즘을 이용하여, 스캔 데이터(410)에 대한 3차원 볼록 껍질을 생성할 수 있다. 3차원 볼록 껍질은 스캔 데이터(410)에 포함된 정점 데이터들 중 일부에 기초하여, 생성된 볼록 다각형들을 포함할 수 있으나, 이에 한정되지 않는다.
이미지 처리 장치(100)는 3차원 모델(420)에 기초하여, 삼각형들로 구성된 초기 메쉬 데이터(430)를 생성할 수 있다. 초기 메쉬 데이터(430)에 포함되는 삼각형들은 3차원 모델(420)에 포함되는 삼각형들보다 균일한 형태일 수 있다.
또한, 도 5를 참조하면, 이미지 처리 장치(100)는 초기 메쉬 데이터(430)에 기초하여, 랩핑 메쉬 데이터(510)를 생성할 수 있다.
예를 들어, 이미지 처리 장치(100)는 초기 메쉬 데이터(430)에 포함되는 제1 메쉬들(삼각형들)을 스캔 데이터(410)에 포함되는 메쉬들(삼각형들)로 프로젝션할 수 있다(이하, '랩핑(warpping)(520)'이라 지칭하기로 한다). 이미지 처리 장치(100)는 프로젝션된 메쉬들을 세분화할 수 있다(이하, '세분화(subdivide)(530)'라 지칭하기로 한다). 이미지 처리 장치(100)는 세분화 과정을 통해 초기 메쉬 데이터의 전체적인 형상은 유지하면서 제1 메쉬들의 밀도를 증가시킬 수 있다.
이미지 처리 장치(100)는 세분화된 메쉬들을 수축시킴으로써(이하, '수축(shrink)(540)'이라 지칭하기로 한다), 대상체의 스캔 데이터(410)에 포함되는 메쉬들에 근접한 메쉬들을 생성할 수 있다.
이미지 처리 장치(100)는 초기 메쉬 데이터(430)에 대하여, 랩핑-세분화-수축 과정들(520. 530, 540)을 반복함으로써, 랩핑 메쉬 데이터(510)를 생성할 수 있다. 예를 들어, 이미지 처리 장치(100)는 랩핑-세분화-수축 과정들(520. 530, 540)을 반복하여 생성된 메쉬들의 밀도가 스캔 데이터(410)에 포함되는 메쉬들의 밀도의 차이가 기 설정된 값 미만인 경우, 랩핑-세분화-수축 과정들(520. 530, 540)의 반복을 종료할 수 있다.
랩핑 메쉬 데이터(510)에 포함되는 제2 메쉬들은 초기 메쉬 데이터(430)에 포함되는 제1 메쉬들의 밀도보다 클 수 있다.
도 6은 일 실시예에 따른 스캔 데이터와 랩핑 메쉬 데이터를 합성하는 방법을 나타내는 도면이다.
도 6을 참조하면, 이미지 처리 장치(100)는 대상체에 대한 스캔 데이터(410)와 랩핑 메쉬 데이터(510)를 정렬시킬 수 있다. 이때, 스캔 데이터(410)와 랩핑 메쉬 데이터(510)를 정렬시키는 방법은 공지된 정렬 알고리즘을 이용할 수 있으나, 이에 한정되지 않는다.또는, 랩핑 메쉬 데이터(510)가 이미 스캔 데이터(410)에 정렬된 상태인 경우, 이미지 처리 장치(100)는 랩핑 메쉬 데이터(510)와 스캔 데이터(410)를 정렬시키는 동작을 수행하지 않을 수 있다.
이미지 처리 장치(100)는 스캔 데이터(410)와 랩핑 메쉬 데이터(510)가 정렬된 상태에서, 오버랩되지 않는 영역을 대상체의 홀 영역으로 검출할 수 있다. 이미지 처리 장치(100)는 랩핑 메쉬 데이터(510)에서, 검출된 홀 영역에 대응하는 메쉬 데이터(610)를 제외한 나머지 데이터를 삭제할 수 있다.
구체적으로, 이미지 처리 장치(100)는 스캔 데이터(410)와 랩핑 메쉬 데이터(510)가 정렬될 상태에서, 랩핑 메쉬 데이터(510)에 포함되는 정점들로부터 법선 방향인 제1 방향의 제1 광선과 제1 방향과 반대 방향인 제2 방향의 제2 광선을 생성하고, 제1 광선 또는 제2 광선과 임계 거리 내에서 교차하는 경우, 해당 정점을 삭제할 수 있다. 반면에, 이미지 처리 장치(100)는 제1 광선 및 제2 광선과 임계 거리 내에서 교차하지 않는 경우, 해당 정점은 삭제하지 않을 수 있다. 이에 따라, 이미지 처리 장치(100)는 랩핑 메쉬 데이터(510)에서 홀 영역에 대응하는 메쉬 데이터(610)를 제외한 나머지 데이터를 삭제할 수 있다.
또한, 이미지 처리 장치(100)는 스캔 데이터(410)와 랩핑 메쉬 데이터(510)가 정렬될 상태에서, 오버랩되지 않는 영역의 경계를 기준으로 스캔 데이터(410)에서 나사홀 내면 영역을 검출할 수 있다. 예를 들어, 도 6에 도시된 바와 같이, 스캔 데이터(410)에서 랩핑 메쉬 데이터(510)와 오버랩되지 않는 영역의 제1 경계점(621) 및 제2 경계점(622)을 기준으로 제1 데이터(631) 및 제2 데이터(632)를 나사홀 내면 영역에 대한 데이터로 검출할 수 있다. 이미지 처리 장치(100)는 스캔 데이터(410)에서 나사홀 내면 영역에 대한 데이터를 삭제할 수 있다.
또는, 이미지 처리 장치(100)는 스캔 데이터(410)에서 나사홀 내면 영역에 대한 데이터(631, 632)를 먼저 검출하고, 검출된 나사홀 내면 영역을 기준으로, 나사홀 내면 영역의 경계(예를 들어, 제1 경계점(621) 및 제2 경계점(622)을 검출할 수 있다. 다만, 이에 한정되지 않는다.
일 실시예에 따른 이미지 처리 장치(100)는 랩핑 메쉬 데이터 중 홀 영역에 대응하는 메쉬 데이터(610)와 스캔 데이터(410) 중 나사홀 내면 영역을 삭제한 나머지 데이터(640)를 합성하여, 최종 모델(650)을 생성할 수 있다. 최종 모델(650)은, 나사홀이 채워진 형태의 이미지를 포함할 수 있다.
도 7은 일 실시예에 따른 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 프로젝션할 영역을 결정하기 위한 방법을 나타내는 도면이다.
도 7을 참조하면, 일 실시예에 따른 이미지 처리 장치(100)가 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 스캔 데이터의 나사 홀 내면 영역(710)에 대해서도 프로젝션을 수행하는 경우, 최종 모델은 제1 이미지(720)로 생성될 수 있다. 예를 들어, 나사 홀 내면 영역(710)으로 프로젝션을 수행하게 되면, 랩핑 메쉬 데이터가 나사 홀 내면 영역(710)에 대응하는 메쉬 표면 형상을 포함하게 된다. 이에 따라, 나사 홀 내면 영역(710)에서 랩핑 메쉬 데이터와 스캔 데이터가 오버랩되며, 이에 따라, 랩핑 메쉬 데이터 중 홀 영역에 대응하는 메쉬 데이터(예를 들어, 도 6의 610)를 검출할 수 없게 된다. 이에 따라, 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 나사 홀 내면 영역(710)에 대한 스캔 데이터는 삭제되지 않고, 제1 이미지(720)는 나사 홀의 일부가 채워지지 않은 형태를 나타낼 수 있다.
반면에, 일 실시예에 따른 이미지 처리 장치(100)가 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 나사 홀 내면 영역(710)에 대해서 프로젝션을 수행하지 않는 경우, 최종 모델은 제2 이미지(730)로 생성될 수 있다. 예를 들어, 나사 홀 내면 영역(710)으로 프로젝션을 수행하지 않게 되면, 랩핑 메쉬 데이터와 스캔 데이터는 홀 영역에서 오버랩되지 않게 되고, 랩핑 메쉬 데이터 중 홀 영역에 대응하는 메쉬 데이터(예를 들어, 도 6의 610)를 검출할 수 있다. 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 홀 영역에 대응하는 메쉬 데이터를 이용하여, 스캔 데이터의 나사홀 영역을 채울 수 있다. 이에 따라, 제2 이미지(730)는 나사홀 영역이 완전히 채워진 형태를 나타낼 수 있다.
도 8은 일 실시예에 따른 이미지 처리 장치가 스캔되지 않은 영역의 이미지 처리 방법을 설명하기 위한 도면이다.
도 8을 참조하면, 일 실시예에 따른 스캔 데이터에서 대상체의 홀이 아닌 스캔되지 않은 영역(810)이 존재할 수 있다. 스캔되지 않은 영역(810)의 경우, 스캔 데이터와 랩핑 메쉬 데이터가 오버랩되지 않게 되고, 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 홀 영역뿐만 아니라 스캔되지 않은 영역(810)도 랩핑 메쉬 데이터(821, 822)에 의해 채워지게 된다. 즉, 최종 모델에서 스캔되지 않은 영역(810)은 랩핑 메쉬 데이터(822)로 나타나게 된다.
스캔되지 않은 영역(810)의 경우, 랩핑 메쉬 데이터(822)로 나타내거나, 스캔을 다시 수행하여, 스캔 데이터로 나타낼 수도 있다. 스캔 되지 않은 영역(810)을 스캔을 다시 수행하여, 스캔 데이터로 나타내는 경우,일 실시예에 따른 이미지 처리 장치(100)는 스캔 데이터에서 나사홀 내면 영역을 검출하고, 검출된 나사홀 내면 영역에 기초하여, 나사홀 내면 영역의 경계를 검출할 수 있다. 이에 따라, 이미지 처리 장치(100)는 스캔되지 않은 영역(810)이 나사홀 내면 영역 및 나사홀 내면 영역의 경계를 포함하는 지를 판단할 수 있다. 이미지 처리 장치(100)는 스캔되지 않은 영역(810)이 나사홀 내면 영역 및 나사홀 내면 영역의 경계를 포함하지 않는 경우, 해당 영역을 랩핑 메쉬 데이터로 채우지 않고, 다시 스캔을 수행하여, 스캔 데이터를 획득할 수 있다.
이에 따라, 스캔되지 않은 영역(810)은 최종 모델에서 랩핑 메쉬 데이터가 아닌 스캔 데이터로 나타날 수 있다.
도 9는 일 실시예에 따른 이미지 처리 장치가 대상체의 표면에 존재하는 홈(groove)를 처리하는 방법을 설명하기 위한 도면이다.
도 9를 참조하면, 일 실시예에 따른 대상체는 표면에 홈(910)을 포함할 수 있다.
일 실시예에 따른 이미지 처리 장치(100)가 홈 영역을 홀의 내면 영역으로 인식하여, 도 7에서 설명한 바와 같이, 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 프로젝션 영역에서 제외시킨다면, 최종 모델(920)은 대상체의 표면의 홈이 채워진 형태로 나타날 수 있다.
따라서, 이미지 처리 장치(100)는 홈 영역과 홀 영역을 구별하여, 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 홀 영역에 대해서는 프로젝션을 수행하지 않고, 홈 영역에 대해서는 프로젝션을 수행할 수 있다.
일 실시예에 따른 이미지 처리 장치(100)가 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 홈(910)에 대해서 프로젝션을 수행하면, 랩핑 메쉬 데이터가 홈(910)에 대응하는 메쉬 데이터를 포함하게 된다. 이에 따라, 홈(910) 영역에서 랩핑 메쉬 데이터와 스캔 데이터가 중첩되며, 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 홈(910) 영역에 대한 스캔 데이터는 삭제되지 않는다. 이에 따라, 최종 모델(930)에서 홈이 채워지지 않고, 홈 영역에 대한 스캔 데이터로 나타날 수 있다.
도 10a는 일 실시예에 따른 스캔 데이터에서 대상체의 홀 영역이 채워진 경우에 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 10a를 참조하면, 일 실시예에 따른 홀을 포함하는 대상체에 대한 스캔 데이터를 후처리하는 과정에서 홀 영역에 대한 데이터가 채워지는 경우가 발생할 수 있다. 예를 들어, 필 홀 알고리즘 등에 따라 스캔 데이터를 후처리하는 경우, 채워지는 홀 영역과 나머지 영역은 완만하게 연결되며, 이에 따라, 스캔 데이터에서 대상체의 윗면이 볼록한 형태로 나타날 수 있다.
이러한 경우, 스캔 데이터(1010)와 랩핑 메쉬 데이터(1020)를 합성할 때, 오버랩되지 않는 영역이 존재하지 않게 되고, 랩핑 메쉬 데이터(1020)에서 홀 영역에 대응하는 데이터를 획득할 수 없다. 이에 따라, 최종 모델은 스캔 데이터(1010)만 포함하는 제1 이미지(1030)로 생성될 수 있다.
이를 방지하기 위해, 일 실시예에 따른 이미지 처리 장치(100)는 스캔 데이터(1010)에서 어버트먼트의 끝 부분에 구 형태의(spherical) 영역이 존재하는 지를 확인할 수 있다. 구 형태의 영역(1015)이 존재하는 경우, 이미지 처리 장치(100)는 구 형태의 영역(1015)에 대한 스캔 데이터를 무시하고, 랩핑 메쉬 데이터를 생성할 수 있다. 예를 들어, 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 구 형태의 영역(1015)에 대해서는 프로젝션을 수행하지 않을 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 초기 메쉬 데이터에서 랩핑 메쉬 데이터를 생성할 때, 구 형태의 영역(1015)에 대해서 프로젝션을 수행하지 않는 경우, 최종 모델은 제2 이미지(1040)로 생성될 수 있다. 예를 들어, 구 형태의 영역(1015)에 대해서 프로젝션을 수행하지 않게 되면, 랩핑 메쉬 데이터는 구 형태의 영역(1015)에서 표면의 평평한 형태의 메쉬 데이터를 포함하게 된다.
이에 따라 구 형태의 영역(1015)에서 랩핑 메쉬 데이터와 스캔 데이터가 기 설정된 거리 이내에서 중첩되지 않게 되고, 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 구 형태의 영역(1015)에 대한 스캔 데이터가 삭제될 수 있다. 이에 따라, 제2 이미지(1040)는 랩핑 메쉬 데이터에 의해 홀 영역이 평평하게 채워진 형태를 나타낼 수 있다.
도 10b는 일 실시예에 따른 스캔 데이터에서 대상체의 홀 영역이 채워진 경우에 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 10b를 참조하면, 일 실시예에 따른 홀을 포함하는 대상체에 대한 스캔 데이터를 후처리하는 과정에서 홀 영역에 대한 데이터가 채워지는 경우가 발생할 수 있다. 예를 들어, 홀의 직경이 작을 경우, 홀 내면 영역에 대한 스캔 데이터가 획득되지 않은 상태에서 후처리를 수행하면, 후처리된 스캔 데이터에 대상체의 윗면은 홀이 채워진 평평한 형태로 나타날 수 있다. 이러한 경우, 스캔 데이터(1050)와 랩핑 메쉬 데이터(1060)를 합성할 때, 오버랩되지 않는 영역이 존재하지 않게 되고, 랩핑 메쉬 데이터(1060)에서 홀 영역에 대응하는 데이터를 획득할 수 없다. 이에 따라, 스캔 데이터(1050)를 최종 모델로 생성할 수 있다.
도 11은 일 실시예에 따른 스캔 데이터에서 대상체의 홀 영역이 채워진 경우에 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 11을 참조하면, 일 실시예에 따른 홀을 포함하는 대상체에 대한 스캔 데이터를 후처리하는 과정에서 홀 영역의 일부 데이터가 채워지는 경우가 발생할 수 있다. 이러한 경우, 스캔 데이터와 랩핑 메쉬 데이터를 합성할 때, 오버랩되지 않는 영역이 존재하지 않게 되고, 랩핑 메쉬 데이터에서 홀 영역에 대응하는 데이터를 획득할 수 없다. 이에 따라, 최종 모델은 스캔 데이터만 포함하는 제1 이미지(1110)로 생성될 수 있다.
이를 방지하기 위해, 일 실시예에 따른 이미지 처리 장치(100)는 홀의 내면 영역(1120)뿐만 아니라, 후처리 과정에서 채워진 바닥 영역(1125)을 검출할 수 있다. 이미지 처리 장치(100)는 홀의 내면 영역(1120) 및 바닥 영역(1125)에 대한 스캔 데이터를 무시하고, 랩핑 메쉬 데이터(1135)를 생성할 수 있다. 예를 들어, 초기 메쉬 데이터에서 랩핑 메쉬 데이터(1135)를 생성할 때, 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에 대해 프로젝션을 수행하지 않을 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 초기 메쉬 데이터에서 랩핑 메쉬 데이터(1135)를 생성할 때, 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에 대해서 프로젝션을 수행하지 않는 경우, 최종 모델은 제2 이미지(1130)로 생성될 수 있다. 예를 들어, 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에 대해서 프로젝션을 수행하지 않게 되면, 랩핑 메쉬 데이터(1135)는 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에 대응하는 메쉬 데이터를 포함하지 않게 된다.
이에 따라 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에서 랩핑 메쉬 데이터(1135)와 스캔 데이터가 기 설정된 거리 이내에서 중첩되지 않게 되고, 스캔 데이터와 랩핑 메쉬 데이터(1135)를 합성할 때, 홀의 내면 영역(1120) 및 후처리로 채워진 바닥 영역(1125)에 대한 스캔 데이터가 삭제될 수 있다. 이에 따라, 제2 이미지는 랩핑 메쉬 데이터(1135)에 의해 홀 영역이 채워진 형태를 나타낼 수 있다.
도 12는 일 실시예에 따른 이미지 처리 장치가 최종 모델에서 채워진 홀을 표시하는 방법을 나타내는 도면이다.
도 12를 참조하면, 일 실시예에 따른 이미지 처리 장치(100)는 홀 영역이 채워진 대상체의 최종 모델을 표시할 수 있다. 예를 들어, 이미지 처리 장치(100)는 나사홀 영역이 채워진 어버트먼트의 최종 이미지(1210, 1220)를 표시할 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 최종 이미지(1210, 1220)에서 어버트먼트의 나사홀 영역이 다른 영역과 구별되도록 표시할 수 있다.
예를 들어, 이미지 처리 장치(100)는 제1 최종 이미지(1210)와 같이, 어버트먼트의 나사홀 영역의 경계 라인을 표시하거나, 제2 최종 이미지(1220)와 같이, 나사홀 영역을 다른 영역과 다른 색상으로 표시할 수 있다. 다만, 이에 한정되지 않는다.
이미지 처리 장치(100)는 최종 이미지(1210, 1220)에 기초하여, 어버트먼트에 결합되는 크라운 이미지(1230)를 생성할 수 있다. 크라운을 어버트먼트에 장착한 다음에 크라운 홀과 어버트먼트 홀을 통해 나사를 체결하기 위해서는, 크라운에도 어버트먼트의 나사홀에 대응되는 위치, 크기, 각도를 가지는 크라운 홀(1235)이 생성될 필요가 있다. 따라서, 최종 이미지(1210, 1220)에 표시된 나사홀 영역은, 크라운 홀(1235)의 위치, 크기, 각도 등에 대한 가이드 정보로 이용될 수 있다.
도 13은 일 실시예에 따른 이미지 처리 장치가 대상체의 홀이 채워진 상태의 이미지를 획득하는 방법을 설명하기 위한 도면이다.
도 13을 참조하면, 일 실시예에 따른 이미지 처리 장치(100)는 홀을 포함하는 대상체에 대한 스캔 데이터를 획득할 수 있다. 스캔 데이터를 획득하는 방법에 대해서는 도 3에서 자세히 설명하였으므로 동일한 설명은 생략하기로 한다.
일 실시예에 따른 이미지 처리 장치(100)는 스캔 데이터에 포함되는 포인트들의 곡률 정보(1310)를 획득할 수 있다.
곡률(curvature)은 곡선 또는 곡면의 휨 정도를 나타내는 값일 수 있다. 스캔 데이터에 포함되는 소정 포인트의 곡률 값은, 해당 포인트가 위치한 대상체 표면 상에서 결정되는 곡선의 휘어짐 정도를 나타낼 수 있다. 이때, 해당 포인트를 지나가는 곡선들은 방향에 따라 휜 정도가 달라질 수 있다. 이에 따라, 이미지 처리 장치(100)는 해당 포인트가 가지는 곡률 값들 중 가장 큰 곡률 값을 해당 포인트의 곡률 값으로 결정하거나, 곡률 값들의 평균 값을 해당 포인트의 곡률 값으로 결정할 수 있다. 다만, 이에 한정되지 않는다.
일 실시예에 따른 이미지 처리 장치(100)는 포인트를 지나가는 곡선 또는 곡면이 볼록한 경우, 해당 포인트의 곡률 값의 부호를 (+)로 결정할 수 있으며, 포인트를 지나가는 곡선 또는 곡면이 오목한 경우, 해당 포인트의 곡률 값의 부호를 (-)로 결정할 수 있다.
또한, 이미지 처리 장치(100)는 포인트에 인접한 메쉬들의 법선 벡터들을 이용하여, 포인트의 곡률 값의 크기를 결정할 수 있다. 이때, 포인트와 메쉬가 인접한다는 의미는 메쉬가 해당 포인트를 정점으로 포함함을 의미할 수 있다. 예를 들어, 이미지 처리 장치(100)는 포인트에 인접한 메쉬들의 법선 벡터들 중 적어도 2개의 차이에 기초하여, 해당 포인트의 곡률 값의 크기를 결정할 수 있다. 이때, 법선 벡터들 간의 차이는 법선 벡터들 사이의 각도로 나타날 수 있다.
이미지 처리 장치(100)는 인접하는 메쉬들의 법선 벡터들의 차이가 클수록 곡률 값의 크기가 커지고, 메쉬들의 법선 벡터들의 차이가 작을수록 곡률 값의 크기가 작아지도록 포인트의 곡률 값을 결정할 수 있다.
다만, 이에 한정되지 않으며, 일 실시예에 따른 이미지 처리 장치(100)는 다양한 방법으로 스캔 데이터에 포함되는 포인트들의 곡률 값들을 결정할 수 있다. 이미지 처리 장치(100)는 스캔 데이터에 포함되는 포인트들의 법선 벡터들에 기초하여, 포인트의 곡률 값의 크기를 결정할 수 있다.
한편, 일 실시예에 따른 대상체가 나사홀을 포함하는 어버트먼트인 경우, 나사홀 입구 영역은 거의 직각 형상을 나타내며, 이에 따라, 나사홀 입구 영역은 곡률 값이 크게 나타난다. 이미지 처리 장치(100)는 곡률 정보(1310)에 기초하여, 나사홀 입구 영역(1320)을 검출할 수 있다. 이미지 처리 장치(100)는 나사홀 입구 영역(1320)을 기준으로 홀을 채우는 홀 필링 알고리즘을 이용하여, 나사홀이 채워진 형태의 이미지(1330)를 획득할 수 있다. 예를 들어, 이미지 처리 장치(100)는 포아송(poisson) 알고리즘 등을 이용하여, 나사홀이 채워진 형태의 이미지(1330)를 획득할 수 있다. 다만, 이에 한정되지 않는다.
도 14는 일 실시예에 따른 이미지 처리 방법을 나타내는 흐름도이다.
도 14에 도시된 이미지 처리 방법은 이미지 처리 장치(100)에 의해 수행될 수 있다.
도 14를 참조하면, 일 실시예에 따른 이미지 처리 장치(100)는 홀을 포함하는 대상체에 대한 3차원 스캔 데이터를 획득할 수 있다(S1410).
이미지 처리 장치(100)는 3차원 스캐너(10, 50)에 의해 획득된 로우 데이터를 수신할 수 있다. 예를 들어, 테이블 스캐너(50)를 이용하여, 접착 부재에 의해 지그(jig)에 고정된 어버트먼트를 스캔함으로써, 로우 데이터를 획득할 수 있다. 또는 구강 스캐너(10)를 이용하여 구강 내에 설치된 어버트먼트를 스캔함으로써, 로우 데이터를 획득할 수 있다.
이미지 처리 장치(100)는 수신된 로우 데이터에 기초하여, 스캔 데이터를 생성할 수 있다. 또는, 이미지 처리 장치(100)는 메모리에 저장된 스캔 데이터를 불러올 수 있다.
이미지 처리 장치(100)는 스캔 데이터에 어버트먼트 이외에 접착 부재나 지그에 대한 데이터가 포함되는 경우, 스캔 데이터에서 어버트먼트에 대한 스캔 데이터만 관심 영역으로 설정할 수 있다. 이때, 이미지 처리 장치(100)는 사용자 입력에 기초하여, 관심 영역을 설정하거나, 사용자 입력 없이 자동으로 어버트먼트에 대한 스캔 데이터를 검출하고, 검출된 어버트먼트에 대한 스캔 데이터를 관심 영역으로 설정할 수 있다. 다만, 이에 한정되지 않는다.
이미지 처리 장치(100)는 스캔 데이터를 둘러싸는 형태의 3차원 모델을 획득할 수 있다(S1420).
예를 들어, 이미지 처리 장치(100)는 3차원 볼록 껍질 알고리즘을 이용하여, 스캔 데이터에 대한 3차원 볼록 껍질을 생성할 수 있다. 3차원 볼록 껍질은 스캔 데이터에 포함된 정점 데이터들 중 일부에 기초하여, 생성된 볼록 다각형들을 포함할 수 있다. 다만, 이에 한정하지 않는다.
일 실시예에 따른 이미지 처리 장치(100)는 3차원 모델 및 스캔 데이터에 기초하여, 랩핑 메쉬 데이터를 획득할 수 있다(S1430).
예를 들어, 이미지 처리 장치(100)는 3차원 모델에 기초하여, 삼각형들로 구성된 초기 메쉬 데이터를 생성할 수 있다, 초기 메쉬 데이터에 포함되는 삼각형들은 3차원 모델에 포함되는 삼각형들보다 균일한 형태일 수 있다. 이미지 처리 장치(100)는 초기 메쉬 데이터에 대하여, 랩핑-세분화-수축 과정들을 반복함으로써, 랩핑 메쉬 데이터를 생성할 수 있다. 랩핑-세분화-수축 과정들에 대해서는 도 5에서 자세히 설명하였으므로 구체적인 설명은 생략하기로 한다.
이미지 처리 장치(100)는 랩핑-세분화-수축 과정들을 반복하여 생성된 메쉬들의 밀도가 스캔 데이터에 포함되는 메쉬들의 밀도의 차이가 기 설정된 값 미만인 경우, 랩핑-세분화-수축 과정들의 반복을 종료하고, 랩핑 메쉬 데이터를 획득할 수 있다. 랩핑 메쉬 데이터에 포함되는 제2 메쉬들은 초기 메쉬 데이터에 포함되는 제1 메쉬들의 밀도보다 클 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 대상체에 대한 스캔 데이터와 랩핑 메쉬 데이터를 정렬시킬 수 있다. 이때, 스캔 데이터와 랩핑 메쉬 데이터를 정렬시키는 방법은 공지된 정렬 알고리즘을 이용할 수 있으나, 이에 한정되지 않는다.
일 실시예에 따른 이미지 처리 장치(100)는 홀 영역에 대응하는 데이터를 획득할 수 있다(S1440).
이미지 처리 장치(100)는 스캔 데이터와 랩핑 메쉬 데이터가 정렬된 상태에서, 오버랩되지 않는 영역을 대상체의 홀 영역으로 검출할 수 있다. 이미지 처리 장치(100)는 랩핑 메쉬 데이터에서, 검출된 홀 영역에 대응하는 메쉬 데이터를 제외한 나머지 데이터를 삭제함으로써, 홀 영역에 대응하는 데이터를 획득할 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 스캔 데이터에서 홀의 내면 영역에 대한 데이터를 삭제할 수 있다(S1450).
이미지 처리 장치(100)는 스캔 데이터와 랩핑 메쉬 데이터가 정렬될 상태에서, 오버랩되지 않는 영역의 경계를 기준으로 스캔 데이터에서 나사홀 내면 영역을 검출할 수 있다. 이미지 처리 장치(100)는 스캔 데이터에서 검출된 나사홀 내면 영역에 대한 데이터를 삭제할 수 있다.
일 실시예에 따른 이미지 처리 장치(100)는 랩핑 메쉬 데이터 중 홀 영역에 대응하는 메쉬 데이터)와 스캔 데이터 중 나사홀 내면 영역을 삭제한 나머지 데이터를 합성하여, 최종 모델을 생성하고, 표시할 수 있다(S1460).
최종 모델은, 나사홀이 채워진 형태의 이미지를 포함할 수 있다. 또한, 이미지 처리 장치(100)는 최종 모델에서 채워진 나사홀 영역이 다른 영역과 구별되도록 표시할 수 있다. 예를 들어, 이미지 처리 장치(100)는 나사홀 영역의 경계 라인을 표시하거나, 나사홀 영역을 다른 영역과 다른 색상으로 구별되게 표시할 수 있다. 다만, 이에 한정되지 않는다.
도 15는 일 실시예에 따른 이미지 처리 장치를 나타내는 블록도이다.
도 15에 도시된 이미지 처리 방법은 이미지 처리 장치(100)를 통하여 수행될 수 있다. 따라서, 도 14에 도시된 이미지의 처리 방법은 이미지 처리 장치(100)의 동작들을 나타내는 흐름도가 될 수 있다.
도 15를 참조하면, 이미지 처리 장치(100)는 통신 인터페이스(110), 사용자 인터페이스(120), 디스플레이(130), 메모리(140) 및 프로세서(150)를 포함할 수 있다.
통신 인터페이스(110)는 적어도 하나의 외부 전자 장치(예를 들어, 구강 스캐너(10), 서버, 또는 외부의 의료 장치 등)와 유선 또는 무선 통신 네트워크를 통하여 통신을 수행할 수 있다. 통신 인터페이스 (110)는 프로세서(150)의 제어에 따라서 적어도 하나의 외부 정자 장치와 통신을 수행할 수 있다.
구체적으로, 통신 인터페이스(110)는 블루투스, 와이파이, BLE(Bluetooth Low Energy), NFC/RFID, 와이파이 다이렉트(Wifi Direct), UWB, 또는 ZIGBEE 등의 통신 규격에 따른 통신을 수행하는 적어도 하나의 근거리 통신 모듈을 포함할 수 있다.
또한, 통신 인터페이스(110)는 원거리 통신 규격에 따라서 원거리 통신을 지원하기 위한 서버와 통신을 수행하는 원거리 통신 모듈을 더 포함할 수 있다. 구체적으로, 통신 인터페이스(110)는 인터넷 통신을 위한 네트워크를 통하여 통신을 수행하는 원거리 통신 모듈을 포함할 수 있다. 또한, 통신 인터페이스(110)는 3G, 4G, 및/또는 5G 등의 통신 규격에 따르는 통신 네트워크를 통하여 통신을 수행하는 원거리 통신 모듈을 포함할 수 있다.
또한, 통신 인터페이스(110)는 외부 전자 장치(예를 들어, 구강 스캐너 등)와 유선으로 통신하기 위해서, 외부 전자 장치와 유선 케이블로 연결되기 위한 적어도 하나의 포트를 포함할 수 있다. 그에 따라서, 통신 인터페이스(110)는 적어도 하나의 포트를 통하여 유선 연결된 외부 전자 장치와 통신을 수행할 수 있다.
사용자 인터페이스(120)는 이미지 처리 장치(100)를 제어하기 위한 사용자 입력을 수신할 수 있다. 사용자 인터페이스(120)는 사용자의 터치를 감지하는 터치 패널, 사용자의 푸시 조작을 수신하는 버튼, 사용자 인터페이스 화면 상의 일 지점을 지정 또는 선택하기 위한 마우스(mouse) 또는 키보드(key board) 등을 포함하는 사용자 입력 디바이스를 포함할 수 있으나 이에 제한되지 않는다.
또한, 사용자 인터페이스(120)는 음성 인식을 위한 음성 인식 장치를 포함할 수 있다. 예를 들어, 음성 인식 장치는 마이크가 될 수 있으며, 음성 인식 장치는 사용자의 음성 명령 또는 음성 요청을 수신할 수 있다. 그에 따라서, 프로세서(150)는 음성 명령 또는 음성 요청에 대응되는 동작이 수행되도록 제어할 수 있다.
디스플레이(130)는 화면을 디스플레이 한다. 구체적으로, 디스플레이(130)는 프로세서(150)의 제어에 따라서 소정 화면을 디스플레이 할 수 있다. 구체적으로, 디스플레이(130)는 구강 스캐너(10)에서 환자의 구강을 스캔하여 획득한 데이터에 근거하여 생성된 구강 이미지를 포함하는 사용자 인터페이스 화면을 디스플레이 할 수 있다. 또는, 테이블 스캐너(10)로부터 획득한 데이터에 근거하여 생성된 대상체에 대한 이미지를 포함하는 사용자 인터페이스 화면을 디스플레이할 수 있다.
또는, 디스플레이(130)는 환자의 치과 치료와 관련되는 정보를 포함하는 사용자 인터페이스 화면을 디스플레이 할 수 있다.
메모리(140)는 적어도 하나의 인스트럭션을 저장할 수 있다. 또한, 메모리 (140)는 프로세서(150)가 실행하는 적어도 하나의 인스트럭션을 저장하고 있을 수 있다. 또한, 메모리(140)는 프로세서(150)가 실행하는 적어도 하나의 프로그램을 저장하고 있을 수 있다. 또한, 메모리(140)는 3차원 스캐너(10, 50)로부터 수신되는 데이터(예를 들어, 스캔을 통하여 획득된 로우 데이터 등)를 저장할 수 있다. 또는, 메모리(140)는 대상체를 3차원적으로 나타내는 이미지를 저장할 수 있다. 일 실시예에 따른 메모리(140)는 홀을 포함하는 대상체에 대한 이미지로부터 홀이 채워진 형태의 이미지를 획득하기 위한 하나 이상의 인스트럭션들을 포함할 수 있다. 일 실시예에 따른 메모리(140)는 홀을 포함하는 대상체에 대한 이미지로부터 홀이 채워진 형태의 이미지를 획득하기 위해 본 개시서에 개시된 방법을 수행하기 위한 하나 이상의 인스트럭션들을 포함할 수 있다.
프로세서(150)는 메모리(140)에 저장된 적어도 하나의 인스트럭션을 수행하여, 의도하는 동작이 수행되도록 제어한다. 여기서, 적어도 하나의 인스트럭션은 프로세서(150)내에 포함되는 내부 메모리 또는 프로세서와 별도로 데이터 처리 장치 내에 포함되는 메모리(140)에 저장되어 있을 수 있다.
구체적으로, 프로세서(150)는 적어도 하나의 인스트럭션을 수행하여, 의도하는 동작이 수행되도록 데이터 처리 장치 내부에 포함되는 적어도 하나의 구성들을 제어할 수 있다. 따라서, 프로세서가 소정 동작들을 수행하는 경우를 예로 들어 설명하더라도, 프로세서가 소정 동작들이 수행되도록 데이터 처리 장치 내부에 포함하는 적어도 하나의 구성들을 제어하는 것을 의미할 수 있다.
일 실시예에 따른 프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 3차원 스캐너로부터 수신한 로우 데이터에 기초하여, 스캔 데이터를 생성할 수 있다. 이때, 로우 데이터는 3차원 스캐너에 의해 나사홀을 포함하는 어버트먼트를 스캔함으로써 획득된 로우 데이터를 포함할 수 있다.
프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 스캔 데이터를 둘러싸는 형태의 3차원 모델을 획득할 수 있다. 프로세서(150)는 3차원 볼록 껍질 알고리즘을 이용하여, 스캔 데이터에 대한 3차원 볼록 껍질을 생성할 수 있다. 3차원 볼록 껍질은 스캔 데이터에 포함된 정점 데이터들 중 일부에 기초하여, 생성된 볼록 다각형들을 포함할 수 있다. 다만, 이에 한정하지 않는다.
프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 3차원 모델 및 스캔 데이터에 기초하여, 랩핑 메쉬 데이터를 획득할 수 있다. 예를 들어, 프로세서(150)는 3차원 모델에 기초하여, 삼각형들로 구성된 초기 메쉬 데이터를 생성할 수 있다, 초기 메쉬 데이터에 포함되는 삼각형들은 3차원 모델에 포함되는 삼각형들보다 균일한 형태일 수 있다. 프로세서(150)는 초기 메쉬 데이터에 대하여, 랩핑-세분화-수축 과정들을 반복함으로써, 랩핑 메쉬 데이터를 생성할 수 있다. 랩핑-세분화-수축 과정들에 대해서는 도 5에서 자세히 설명하였으므로 구체적인 설명은 생략하기로 한다.
프로세서(150)는 랩핑 메쉬 데이터가 획득되면, 대상체에 대한 스캔 데이터와 랩핑 메쉬 데이터를 정렬시킬 수 있다. 이때, 스캔 데이터와 랩핑 메쉬 데이터를 정렬시키는 방법은 공지된 정렬 알고리즘을 이용할 수 있으나, 이에 한정되지 않는다.
프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 홀 영역에 대응하는 데이터를 획득할 수 있다. 예를 들어, 프로세서(150)는 스캔 데이터와 랩핑 메쉬 데이터가 정렬된 상태에서, 오버랩되지 않는 영역을 대상체의 홀 영역으로 검출할 수 있다. 프로세서(150)는 랩핑 메쉬 데이터에서, 검출된 홀 영역에 대응하는 메쉬 데이터를 제외한 나머지 데이터를 삭제함으로써, 홀 영역에 대응하는 데이터를 획득할 수 있다.
프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 스캔 데이터에서 홀의 내면 영역에 대한 데이터를 삭제할 수 있다.
예를 들어, 프로세서(150)는 스캔 데이터와 랩핑 메쉬 데이터가 정렬될 상태에서, 오버랩되지 않는 영역의 경계를 기준으로 스캔 데이터에서 나사홀 내면 영역을 검출할 수 있다. 프로세서(150)는 스캔 데이터에서 검출된 나사홀 내면 영역에 대한 데이터를 삭제할 수 있다.
프로세서(150)는 메모리(140)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 랩핑 메쉬 데이터 중 홀 영역에 대응하는 메쉬 데이터)와 스캔 데이터 중 나사홀 내면 영역을 삭제한 나머지 데이터를 합성하여, 최종 모델을 생성하고, 표시할 수 있다. 최종 모델은, 나사홀이 채워진 형태의 이미지를 포함할 수 있다.
프로세서(150)는 최종 모델에서 채워진 나사홀 영역이 다른 영역과 구별되도록 표시할 수 있다. 예를 들어, 프로세서(150)는 나사홀 영역의 경계 라인을 표시하거나, 나사홀 영역을 다른 영역과 다른 색상으로 구별되게 표시할 수 있다. 다만, 이에 한정되지 않는다.
일 예에 따른 프로세서(150)는, 내부적으로 적어도 하나의 내부 프로세서 및 내부 프로세서에서 처리 또는 이용될 프로그램, 인스트럭션, 신호, 및 데이터 중 적어도 하나 저장하기 위한 메모리 소자(예를 들어, RAM, ROM 등)을 포함하는 형태로 구현될 수 있다.
또한, 프로세서(150)는 비디오에 대응되는 그래픽 처리를 위한 그래픽 프로세서(Graphic Processing Unit)를 포함할 수 있다. 또한, 프로세서는 코어(core)와 GPU를 통합한 SoC(System On Chip)로 구현될 수 있다. 또한, 프로세서는 싱글 코어 이상의 멀티 코어를 포함할 수 있다. 예를 들어, 프로세서는 듀얼 코어, 트리플 코어, 쿼드 코어, 헥사 코어, 옥타 코어, 데카 코어, 도데카 코어, 헥사 다시 벌 코어 등을 포함할 수 있다.
개시된 실시예에서, 프로세서(150)는 3차원 스캐너(10, 50)로부터 수신되는 이차원 이미지에 근거하여 이미지를 생성할 수 있다.
구체적으로, 프로세서(150)의 제어에 따라서 통신 인터페이스(110)는 3차원 스캐너(10, 50)에서 획득된 데이터, 예를 들어 스캔을 통하여 획득된 로우 데이터(raw data)를 수신할 수 있다. 그리고, 프로세서(150)는 통신 인터페이스(110)에서 수신된 로우 데이터에 근거하여 대상체를 3차원적으로 나타내는 3차원 이미지를 생성할 수 있다. 예를 들어, 3차원 스캐너(10, 50)는 광 삼각 방식에 따라서 3차원 이미지를 복원하기 위해서, 좌안 시야(left Field of View)에 대응되는 L 카메라 및 우안 시야(Right Field of View)에 대응되는 R 카메라를 포함할 수 있다. 그리고, 3차원 스캐너는 L 카메라 및 R 카메라 각각에서 좌안 시야(left Field of View)에 대응되는 L 이미지 데이터 및 우안 시야(Right Field of View)에 대응되는 R 이미지 데이터를 획득할 수 있다. 계속하여, 3차원 스캐너는 L 이미지 데이터 및 R 이미지 데이터를 포함하는 로우 데이터를 이미지 처리 장치(100)의 통신 인터페이스(110)로 전송할 수 있다.
그러면, 통신 인터페이스(110)는 수신되는 로우 데이터를 프로세서(150)로 전달하고, 프로세서(150)는 전달받은 로우 데이터에 근거하여, 대상체를 3차원적으로 나타내는 이미지를 생성할 수 있다.
또한, 프로세서(150)는 통신 인터페이스(110)를 제어하여, 외부의 서버, 의료 장치 등으로부터 대상체를 3차원적으로 나타내는 이미지를 직접 수신할 수 있다. 이 경우, 프로세서는 로우 데이터에 근거한 3차원 이미지를 생성하지 않고, 3차원 이미지를 획득할 수 있다.
개시된 실시예에 따라서, 프로세서(150)가 '추출', '획득', '생성' 등의 동작을 수행한다는 것은, 프로세서(150)에서 적어도 하나의 인스트럭션을 실행하여 전술한 동작들을 직접 수행하는 경우뿐만 아니라, 전술한 동작들이 수행되도록 다른 구성 요소들을 제어하는 것을 포함할 수 있다.
본 개시서에 개시된 실시예들을 구현하기 위해서 이미지 처리 장치(100)는 도 15에 도시된 구성요소들의 일부만을 포함할 수도 있고, 도 15에 도시된 구성요소 외에 더 많은 구성요소를 포함할 수도 있다.
또한, 이미지 처리 장치(100)는 3차원 스캐너(10, 50)에 연동되는 전용 소프트웨어를 저장 및 실행할 수 있다. 여기서, 전용 소프트웨어는 전용 프로그램, 전용 툴(tool), 또는 전용 어플리케이션으로 호칭될 수 있다. 이미지 처리 장치(100)가 3차원 스캐너(10, 50)와 상호 연동되어 동작하는 경우, 이미지 처리 장치(100)에 저장되는 전용 소프트웨어는 3차원 스캐너(10, 50)와 연결되어 대상체의 스캔을 통하여 획득되는 데이터들을 실시간을 수신할 수 있다. 예를 들어, 메디트의 3차원 스캐너인 i500 제품에서 대상체의 스캔을 통하여 획득된 데이터를 처리하기 위한 전용 소프트웨어가 존재한다. 구체적으로, 메디트에서는 3차원 스캐너(예를 들어, i500)에서 획득된 데이터를 처리, 관리, 이용, 및/또는 전송하기 위한 소프트웨어인 'Medit Link'를 제작하여 배포하고 있다. 여기서, '전용 소프트웨어'는 3차원 스캐너와 연동되어 동작 가능한 프로그램, 툴, 또는 어플리케이션을 의미하는 것이므로 다양한 제작자에 의해서 개발 및 판매되는 다양한 3차원 스캐너들이 공용으로 이용할 수도 있을 것이다. 또한, 전술한 전용 소프트웨어는 대상체의 스캔을 수행하는 3차원 스캐너와 별도로 제작 및 배포될 수 있다.
이미지 처리 장치(100)는 i500 제품에 대응되는 전용 소프트웨어를 저장 및 실행할 수 있다. 전송 소프트웨어는 이미지를 획득, 처리, 저장, 및/또는 전송하기 위한 적어도 하나의 동작들을 수행할 수 있다. 여기서, 전용 소프트웨어는 프로세서에 저장될 수 있다. 또한, 전용 소프트웨어는 3차원 스캐너에서 획득된 데이터의 이용을 위한 사용자 인터페이스를 제공할 수 있다. 여기서, 전용 소프트웨어에서 제공되는 사용자 인터페이스 화면은 개시된 실시예에 따라서 생성되는 이미지를 포함할 수 있다.
본 개시의 일 실시예에 따른 이미지의 처리 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 또한, 본 개시의 실시예는, 이미지의 처리 방법을 실행하는 적어도 하나의 인스트럭션을 포함하는 하나 이상의 프로그램이 기록된 컴퓨터로 읽을 수 있는 저장 매체가 될 수 있다.
상기 컴퓨터 판독 가능 저장 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 여기서, 컴퓨터 판독 가능 저장 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 구성된 하드웨어 장치가 포함될 수 있다.
여기서, 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적 저장매체'는 저장 매체가 실재(tangible)하는 장치임을 의미할 수 있다. 또한, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 이미지의 처리 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포될 수 있다. 또는, 어플리케이션 스토어(예: 플레이 스토어 등)를 통해 또는 두 개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 구체적으로, 개시된 실시예에 따른 컴퓨터 프로그램 제품은 개시된 실시예에 따른 이미지의 처리 방법을 수행하기 위해 적어도 하나의 인스트럭션을 포함하는 프로그램이 기록된 저장 매체를 포함할 수 있다.
이상에서 실시예들에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.

Claims (20)

  1. 이미지 처리 방법에 있어서,
    홀을 포함하는 대상체를 스캔한 3차원 스캔 데이터를 획득하는 단계;
    상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하는 단계; 및
    상기 스캔 데이터와 상기 홀 영역에 대응하는 데이터에 기초하여, 상기 홀이 채워진 형태를 나타내는 최종 모델을 표시하는 단계;를 포함하는 이미지 처리 방법.
  2. 제1항에 있어서,
    상기 최종 모델을 표시하는 단계는,
    상기 스캔 데이터에서 상기 홀의 내면 영역에 대한 데이터를 삭제하는 단계;
    상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하는 단계를 포함하는, 이미지 처리 방법.
  3. 제1항에 있어서,
    상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하는 단계는,
    상기 스캔 데이터를 둘러싸는 3차원 모델을 획득하는 단계;
    상기 3차원 모델 및 상기 스캔 데이터에 기초하여, 상기 대상체의 표면에 대응하는 메쉬 데이터를 획득하는 단계; 및
    상기 메쉬 데이터에서 상기 홀 영역에 대응하는 데이터를 획득하는 단계를 포함하는, 이미지 처리 방법.
  4. 제3항에 있어서,
    상기 3차원 모델은 상기 스캔 데이터에 대한 3차원 볼록 껍질(3d convex hull)을 포함하는, 이미지 처리 방법.
  5. 제3항에 있어서,
    상기 3차원 모델 및 상기 스캔 데이터에 기초하여, 상기 대상체의 표면에 대응하는 메쉬 데이터를 획득하는 단계는,
    상기 3차원 모델에 기초하여, 제1 메쉬 데이터를 획득하는 단계; 및
    상기 제1 메쉬 데이터 및 상기 스캔 데이터에 기초하여, 제2 메쉬 데이터를 획득하는 단계를 포함하고,
    상기 제2 메쉬 데이터에 포함되는 제2 메쉬들의 밀도는 상기 제1 메쉬 데이터에 포함되는 제1 메쉬들의 밀도보다 큰, 이미지 처리 방법.
  6. 제5항에 있어서,
    상기 제1 메쉬 데이터 및 상기 스캔 데이터에 기초하여, 상기 제2 메쉬 데이터를 획득하는 단계는,
    상기 제1 메쉬 데이터에 포함되는 제1 메쉬들을 상기 스캔 데이터에 포함되는 제3 메쉬들로 프로젝션하는 단계;
    상기 프로젝션된 메쉬들을 세분화하는(subdivide) 단계; 및
    상기 세분화된 메쉬들을 수축시킴으로써(shrink), 상기 제2 메쉬들을 생성하는 단계;를 포함하는 이미지 처리 방법.
  7. 제6항에 있어서,
    상기 이미지 처리 방법은,
    상기 스캔 데이터에서 상기 홀의 내면 영역을 검출하는 단계;를 더 포함하고,
    상기 제1 메쉬들을 상기 제3 메쉬들로 프로젝션하는 단계는,
    상기 제1 메쉬들이 상기 홀의 내면 영역에 대응하는 지 여부에 기초하여, 상기 제1 메쉬들을 상기 제3 메쉬들로 프로젝션하는 단계를 포함하는, 이미지 처리 방법.
  8. 제6항에 있어서,
    상기 제2 메쉬들의 밀도와 상기 스캔 데이터에 포함되는 제3 메쉬들의 밀도의 차이는 기 설정된 값 미만인 이미지 처리 방법.
  9. 제3항에 있어서,
    상기 메쉬 데이터에서 상기 홀 영역에 대응하는 데이터를 획득하는 단계는,
    상기 메쉬 데이터에서, 상기 스캔 데이터와 오버랩되는 메쉬 데이터를 삭제하는 단계를 포함하는, 이미지 처리 방법.
  10. 제3항에 있어서,
    상기 최종 모델을 표시하는 단계는,
    상기 스캔 데이터에서, 상기 메쉬 데이터와 상기 스캔 데이터가 오버랩되지 않는 영역의 경계를 검출하고, 상기 경계를 기준으로 상기 홀의 내면 영역에 대한 데이터를 삭제하는 단계; 및
    상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하는 단계를 포함하는 이미지 처리 방법.
  11. 제1항에 있어서,
    상기 최종 모델을 표시하는 단계는,
    상기 홀이 채워진 영역을 다른 영역과 구별되도록 표시하는 단계를 포함하는, 이미지 처리 방법.
  12. 제1항에 있어서,
    상기 대상체는 나사홀을 포함하는 어버트먼트를 포함하는, 이미지 처리 방법.
  13. 이미지 처리 장치는,
    디스플레이;
    하나 이상의 인스트럭션들을 저장하는 메모리; 및
    프로세서를 포함하고,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    홀을 포함하는 대상체를 스캔한 3차원 스캔 데이터를 획득하고,
    상기 스캔 데이터에 기초하여, 상기 홀 영역에 대응하는 데이터를 획득하며,
    상기 스캔 데이터와 상기 홀 영역에 대응하는 데이터에 기초하여, 상기 홀이 채워진 형태를 나타내는 최종 모델을 표시하도록 상기 디스플레이를 제어하는, 이미지 처리 장치.
  14. 제13항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 스캔 데이터에서 상기 홀의 내면 영역에 대한 데이터를 삭제하고,
    상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하도록 상기 디스플레이를 제어하는, 이미지 처리 장치.
  15. 제13항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 스캔 데이터를 둘러싸는 3차원 모델을 획득하고,
    상기 3차원 모델 및 상기 스캔 데이터에 기초하여, 상기 대상체의 표면에 대응하는 메쉬 데이터를 획득하며,
    상기 메쉬 데이터에서 상기 스캔 데이터와 오버랩되는 메쉬 데이터를 삭제함으로써, 상기 홀 영역에 대응하는 데이터를 획득하는, 이미지 처리 장치.
  16. 제15항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 3차원 모델에 기초하여, 제1 메쉬 데이터를 획득하고,
    상기 제1 메쉬 데이터 및 상기 스캔 데이터에 기초하여, 제2 메쉬 데이터를 획득하며,
    상기 제2 메쉬 데이터에 포함되는 제2 메쉬들의 밀도는 상기 제1 메쉬 데이터에 포함되는 제1 메쉬들의 밀도보다 큰, 이미지 처리 장치.
  17. 제16항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 제1 메쉬 데이터에 포함되는 제1 메쉬들을 상기 스캔 데이터에 포함되는 제3 메쉬들로 프로젝션하고,
    상기 프로젝션된 메쉬들을 세분화(subdivide)하며,
    상기 세분화된 메쉬들을 수축시킴으로써(shrink), 상기 제2 메쉬들을 생성하는, 이미지 처리 장치.
  18. 제17항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 스캔 데이터에서 상기 홀의 내면 영역을 검출하고,
    상기 제1 메쉬들이 상기 홀의 내면 영역에 대응하는 지 여부에 기초하여, 상기 제1 메쉬들을 상기 제3 메쉬들로 프로젝션하는, 이미지 처리 장치.
  19. 제15항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 스캔 데이터에서, 상기 메쉬 데이터와 상기 스캔 데이터가 오버랩되지 않는 영역의 경계를 검출하고, 상기 경계를 기준으로 상기 홀의 내면 영역에 대한 데이터를 삭제하고,
    상기 홀의 내면 영역에 대한 데이터가 삭제된 스캔 데이터와 상기 홀 영역에 대응하는 데이터를 합성한 상기 최종 모델을 표시하도록 상기 디스플레이를 제어하는 이미지 처리 장치.
  20. 제13항에 있어서,
    상기 프로세서는, 상기 메모리에 저장된 상기 하나 이상의 인스트럭션들을 실행함으로써,
    상기 홀이 채워진 영역을 다른 영역과 구별되게 표시하도록 상기 디스플레이를 제어하는, 이미지 처리 장치.
PCT/KR2022/007770 2021-06-18 2022-05-31 이미지 처리 장치, 및 이미지 처리 방법 WO2022265270A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202280028069.8A CN117178300A (zh) 2021-06-18 2022-05-31 图像处理装置及图像处理方法
EP22825196.3A EP4322113A1 (en) 2021-06-18 2022-05-31 Image processing device and image processing method

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2021-0079520 2021-06-18
KR20210079520 2021-06-18
KR10-2022-0026906 2022-03-02
KR1020220026906A KR102527955B1 (ko) 2021-06-18 2022-03-02 이미지 처리 장치, 및 이미지 처리 방법

Publications (1)

Publication Number Publication Date
WO2022265270A1 true WO2022265270A1 (ko) 2022-12-22

Family

ID=84527141

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/007770 WO2022265270A1 (ko) 2021-06-18 2022-05-31 이미지 처리 장치, 및 이미지 처리 방법

Country Status (2)

Country Link
EP (1) EP4322113A1 (ko)
WO (1) WO2022265270A1 (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130047822A (ko) * 2011-11-01 2013-05-09 삼성전자주식회사 영상 처리 장치 및 방법
KR101538289B1 (ko) * 2014-11-04 2015-07-20 오세만 임플란트 상부 보철물 제작을 위한 3차원 스캔 데이터 추출용 임플란트 구조물
KR20190115766A (ko) * 2018-04-03 2019-10-14 한국전자통신연구원 3차원 모델의 홀 필링 방법 및 장치
KR20200109273A (ko) * 2019-03-12 2020-09-22 주식회사 메디트 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130047822A (ko) * 2011-11-01 2013-05-09 삼성전자주식회사 영상 처리 장치 및 방법
KR101538289B1 (ko) * 2014-11-04 2015-07-20 오세만 임플란트 상부 보철물 제작을 위한 3차원 스캔 데이터 추출용 임플란트 구조물
KR20190115766A (ko) * 2018-04-03 2019-10-14 한국전자통신연구원 3차원 모델의 홀 필링 방법 및 장치
KR20200109273A (ko) * 2019-03-12 2020-09-22 주식회사 메디트 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PARK JUNG-HO, PARK SANGHUN, YOON SEUNG-HYUN: "Parametric Blending of Hole Patches Based on Shape Difference", SYMMETRY, vol. 12, no. 11, pages 1759, XP093015815, DOI: 10.3390/sym12111759 *

Also Published As

Publication number Publication date
EP4322113A1 (en) 2024-02-14

Similar Documents

Publication Publication Date Title
WO2019212228A1 (ko) 3차원 구강 모델 분석방법 및 이를 포함하는 보철물 디자인 방법
WO2022085966A1 (ko) 구강 이미지 처리 장치 및 구강 이미지 처리 방법
WO2021242050A1 (ko) 구강 이미지의 처리 방법, 그에 따른 동작을 수행하는 구강 진단 장치, 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체
WO2018066765A1 (ko) 모바일 연동 임플란트 진단 시스템
WO2021137573A2 (ko) 마진라인 설정 장치 및 방법
WO2022265270A1 (ko) 이미지 처리 장치, 및 이미지 처리 방법
WO2022164175A1 (ko) 삼차원 구강 모델을 처리하는 방법 및 장치
WO2022065756A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2021242053A1 (ko) 3차원 데이터 획득 방법, 장치 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체
WO2022092627A1 (ko) 3차원 모델로부터 대상체 영역을 결정하는 방법 및 3차원 모델 처리 장치
WO2023059167A1 (ko) 구강 이미지 처리 장치 및 구강 이미지 처리 방법
WO2023191525A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2023063767A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2023038455A1 (ko) 구강 이미지를 처리하는 방법 및 데이터 처리 장치
WO2023063805A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2023249293A1 (ko) 이미지 처리 장치 및 이미지 처리 방법
WO2022092594A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2023027500A1 (ko) 이미지 처리 장치, 및 이미지 처리 방법
WO2023003192A1 (ko) 이미지 처리 장치, 및 이미지 처리 방법
WO2022270889A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2020185015A1 (ko) 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법
WO2023003381A1 (ko) 구강 이미지 처리 장치, 및 구강 이미지 처리 방법
WO2022203354A1 (ko) 삼차원 구강 모델 처리 장치 및 삼차원 구강 모델 처리 방법
WO2023282619A1 (ko) 3차원 모델 상에 텍스트를 추가하는 방법 및 3차원 모델 처리 장치
WO2019088343A1 (ko) 아크라인에 기초한 보철물 디자인 방법 및 시스템

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22825196

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 18289832

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2022825196

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2022825196

Country of ref document: EP

Effective date: 20231109

NENP Non-entry into the national phase

Ref country code: DE