CN105377109A - 全视野三维表面测量 - Google Patents

全视野三维表面测量 Download PDF

Info

Publication number
CN105377109A
CN105377109A CN201480026823.XA CN201480026823A CN105377109A CN 105377109 A CN105377109 A CN 105377109A CN 201480026823 A CN201480026823 A CN 201480026823A CN 105377109 A CN105377109 A CN 105377109A
Authority
CN
China
Prior art keywords
electromagnetic radiation
radiation source
module
view data
imageing sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201480026823.XA
Other languages
English (en)
Inventor
R.翟恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
APERTURE DIAGNOSTICS Ltd
Original Assignee
APERTURE DIAGNOSTICS Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by APERTURE DIAGNOSTICS Ltd filed Critical APERTURE DIAGNOSTICS Ltd
Publication of CN105377109A publication Critical patent/CN105377109A/zh
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00016Operational features of endoscopes characterised by signal transmission using wireless means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00025Operational features of endoscopes characterised by power management
    • A61B1/00027Operational features of endoscopes characterised by power management characterised by power supply
    • A61B1/00032Operational features of endoscopes characterised by power management characterised by power supply internally powered
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/012Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor
    • A61B1/015Control of fluid supply or evacuation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/012Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor
    • A61B1/018Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor for receiving instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/07Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • A61B5/0086Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters using infrared radiation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2518Projection by scanning of the object
    • G01B11/2522Projection by scanning of the object the position of the object changing and being recorded
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0073Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by tomography, i.e. reconstruction of 3D images from 2D projections
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Artificial Intelligence (AREA)
  • Physiology (AREA)
  • Psychiatry (AREA)
  • Signal Processing (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

本发明的实施例可以被用来以全视野和以3-D的方式执行表面的测量,诸如人体的外部表面和内部表面。电磁辐射源可以被配置为以对应于空间信号调制算法的图案投射所述电磁辐射。所述电磁辐射源也可以被配置为以适合于传输通过所述辐射被投射在其内的介质的频率投射所述电磁辐射。图像传感器可以被配置为捕捉表示所投射的图案的图像数据。图像处理模块可以被配置为从所述图像传感器接收所捕捉的图像数据并且使用所捕捉的图像数据和所述空间信号调制算法计算所述表面的全视野3-D表示。显示装置可以被配置为显示所述表面的所述全视野3-D表示。

Description

全视野三维表面测量
对相关申请的交叉引用
本申请要求2013年3月14日提交的美国专利申请序列号No.13/830,477的优先权,该申请的公开内容以引用的方式被整体并入此处。
背景技术
外部和内部人体表面的精确三维图对于许多医疗过程是必需的。例如,对于面部整形手术或假体的装配,外部人体表面可能需要被扫描。对于各种内窥镜过程或基于导管的过程(诸如,虚拟活检、支架术、切除、支气管镜检查、esophogastrodenoscopy、腹腔镜检查、结肠镜检查、cyctoscopy、或关节镜检查),内部人体表面可能需要被映像。此外,一些内部过程可能在气态介质中进行,诸如支气管镜检查,并且其他过程可能在液态介质中进行,诸如关节镜检查或心血管可视化。
当前的用于三维扫描外部和内部人体表面的技术具有许多缺点。基于激光的扫描(诸如激光线扫描)典型地需要病人保持不动,其中甚至微小的移动也会影响所述扫描的精度。典型的激光扫描可能需要病人在许多二维切片被收集时静止地坐着10至15秒。所述二维切片稍后被重新编译成表面的三维表示。所述病人在此时间段期间的移动(包括呼吸、震颤、或肌肉反射)可能不利地影响所述扫描的精度。此外,激光扫描设备自身可能由于激光的固有运动而将不期望的振动引入到所述系统中。
用于内部器官测量的通常使用的技术遭受相似的感应误差,这些方法包括:计算机断层扫描(CT)、光学相干断层扫描(OCT)、磁共振成像(MRI)、以及各种超声方法(US和IVUS)。
因此,存在对可以被快速地执行并且可以消除由病人和设备引入的不准确性的三维表面测量技术的需要。
附图说明
图1示出了本发明的实施例。
图2示出了根据本发明的实施例的逻辑流程图。
图3示出了根据本发明的实施例的测量包。
图4A示出了根据本发明的实施例的内窥镜。
图4B示出了根据本发明的实施例的内窥镜。
图4C示出了根据本发明的实施例的内窥镜。
图5示出了根据本发明的实施例的末端。
图6示出了根据本发明的实施例的胶囊。
图7A示出了根据本发明的实施例的导管插入探针。
图7B示出了根据本发明的实施例的导管插入探针。
具体实施方式
本发明涉及实时的、全视野的三维(“3-D”)表面复制。本发明的实施例可以被用于以全视野和3-D的方式执行表面(诸如人体的外部表面和内部表面)的测量。全视野可以例如指的是设备的传感器捕捉和计算包含正被测量的对象的整个场景的3-D信息的能力。实时可以例如指的是使用足够快的传感器曝光或帧速率来最小化或消除可察觉到的目标表面运动。
本发明的实施例可以包括电磁辐射源,其可以被配置为将电磁辐射投射到表面上。所述电磁辐射源可以被配置为以对应于空间信号调制算法的图案投射所述电磁辐射。所述电磁辐射源也可以被配置为以适合于传输通过所述辐射在其中被投射的介质的频率投射所述电磁辐射。图像传感器可以被配置为捕捉表示所投射的图案的图像数据。图像处理模块可以被配置为从所述图像传感器接收所捕捉的图像数据并且使用所捕捉的图像数据和所述空间信号调制算法计算所述表面的全视野3-D表示。显示装置可以被配置为显示所述表面的所述全视野3-D表示。
本发明的实施例可以进一步被集成至探针、诊断或治疗导管、内窥镜或胶囊中以允许人体的内部表面上的全视野3-D表面复制。这样的设备可以在内部或外部被引导、转向或推进以便被前进至腔或心血管系统或者被导航通过腔或心血管系统。
图1示出了根据本发明的实施例的实时全视野3-D表面复制系统100。系统100可以包括测量包102、目标表面104、控制器系统106、以及显示系统108。系统100可以实现在1995年2月27日提交的美国专利No.5,581,352(其全部内容由此以引用的方式被并入)中描述的空间信号调制(SSM)技术,以复制人体的外部和内部表面的即时的、可量化的3-D图。
测量包102可以包括照相机装置110和辐射源112。所述辐射源112可以通过在辐射发射装置和透镜(未示出)之间以期望的图案放置滑块或格栅(未示出)而被制造。所述照相机装置110可以是能够捕捉从所述目标表面104反射的图像数据的装置(例如,电荷耦合装置(CCD)照相机)。
控制器系统106(或图像处理模块)可以包括能够接收由所述照相机装置110捕捉的图像数据并且处理所述数据以计算所述目标表面104的全视野3-D表示的处理器或状态机。这样的机器可以例如包括任何合适的处理平台、计算平台、计算装置、处理装置、计算系统、处理系统、计算机、处理器等等,并且可以使用硬件和/或软件的任何合适的组合而被实现。
显示系统108可以包括显示装置(液晶显示装置、发光二极管显示装置,等等),用以从所述控制器系统106接收目标表面104的所述全视野3-D表示并且显示所述表面104的数字表示以被用户分析。
图2是根据本发明的实施例的图1的复制系统100的操作的逻辑流200。在操作期间,辐射源112可以根据空间信号调制算法将电磁辐射的图案投射到目标表面104上(步骤202)。该图案可以采用例如电磁辐射的平行带的外观。根据本发明的实施例,所投射的空间辐射信号的载波频率可以取决于所述信号正在传播通过的介质。例如,人的血液在某些红外频率下相对于在可见的蓝色范围内的更短波长下要更透明大约2,500倍。如果使用的辐射的波长大于对象,则使用电磁辐射来“观看”所述对象也是不可能的。因此,所述发射器载波频率可以基于邻近目标表面的介质(空气、血液、粘液、尿液等等)的一个或多个特性(颗粒大小、颜色、颗粒的量,等等)而被挑选。
所述空间信号可以从所述目标表面104反射回至所述照相机装置110。所述照相机装置110可以捕捉通过与所述表面104交互而被改变/调制的反射的空间信号(步骤204)。变形的投射的所捕捉的反射图像包含空间编码的3-D表面信息。表示所反射的(和变形的)空间信号的数据可以被传输至所述控制器系统106用于处理(步骤206)。
控制器系统106可以包括图像处理模块并且可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用于数学地重建目标表面104的所述3-D形状(步骤208)。控制器系统106可以向所述显示系统108传送对应于所计算的所述表面104的表示的数字数据以显示表示所述表面104的3-D视图的数字图像。
图3示出了根据本发明的实施例的测量包300。测量包300可以包括辐射源302、照相机/透镜装置304、仪表端口306和冲洗模块308。辐射源302和照相机/透镜装置304(其分别与图1中的辐射源112和照相机装置110相似)被用于实现上面所描述的SSM技术。
仪表端口306可以是允许插入宽组合的外科手术装置的中空管,所述外科手术装置可以在手术期间被互换以符合医生的当前需要。所述冲洗模块308可以包括通道,该通道引入压力下的惰性流体(例如,盐水)以在手术期间清除掉所述照相机/透镜304的外部的碎片。仪表端口306和冲洗模块308是测量包300的可选的特征。
测量包300可以在系统(相似于图1的系统100)中被实现,其用以将具有特定频率的辐射图案投射到表面上,捕捉所述辐射图案的变形的反射,并且处理所述变形的反射以促进通过数学过程的组合的分析来重建所述表面的3-D形状。本发明的实施例可以将测量包300的变型集成至医疗设备中以生成各种表面的3-D表示。例如,本发明的实施例可以被用于生成外部人体表面(例如,面部、手、脚,等等)的3-D表示。本发明的实施例也可以被用于生成内部人体表面(例如,心室、肺、肠等等)的3-D表示。
图4A至4C示出了根据本发明的实施例的内窥镜的变体。参考图4A,内窥镜400可以被用来检查内部人体器官/腔的内部并且生成所述器官/腔的全视野3-D表示。内窥镜400可以包括导管部分401、末端402、照相机404(相似于图1的照相机110),以及辐射源403(相似于图1的辐射源112)。所述照相机404和辐射源403可以在所述导管部分401的一端上被连接至所述导管部分401,并且所述末端402可以在所述导管部分401的另一端上被连接至所述导管部分401。在其他实施例中,所述照相机404和辐射源403可以两者都位于导管部分401的与末端402相对的端部处,所述照相机404和辐射源403可以两者都位于导管部分401的在末端402处的端部处,或者所述照相机404和辐射源403可以位于导管部分401的相对端处。
导管部分401可以是柔性轴,并且可以包括多个通道(未示出),所述多个通道可以有助于病人的身体的检查。所述导管部分401中的所述通道可以从所述导管401的一端延伸至另一端以允许照相机404/辐射源403和末端402之间的数据的传输(在下面被进一步详细描述)。所述通道可以允许医生参与远程操作,诸如由所述末端402捕获的图像的传输,将由所述辐射源403产生的辐射提供至末端402、用于从末端402清洗和去除碎片的灌注(使用空气/水通路407和抽吸通路408)、以及将医疗仪器引入到病人体内(经由仪器通路409)。
现在将关于图4A和4B描述根据本发明的实施例的内窥镜的操作。图4B示出了根据本发明的实施例的内窥镜400的导管部分401的详细视图。导管部分401可以包括末端402和光纤束411。末端402可以包括末端尖头410,所述末端尖头410具有投射光学器件412和成像光学器件413。所述投射光学器件412和成像光学器件413可以各自包括用以聚焦由所述内窥镜400使用的辐射的透镜。透镜可以被用来聚焦辐射,并且可以例如包括光学透镜、抛物线反射器、或天线。光纤束411可以将辐射源403连接至投射光学器件412以有助于从辐射源403到投射光学器件412的电磁辐射的传输。光纤束411也可以将照相机404连接至成像光学器件413以有助于由成像光学器件413捕捉的成像数据至照相机404的传输。
内窥镜400可以使用上面关于图1至图3描述的SSM技术生成内部人体器官和腔的全视野3-D表示。在操作期间,末端402和导管轴401可以被插入到病人体内并且被引导至病人的身体内的被检查的表面。一旦所述末端402被适当地定向,则所述辐射源403可以经由光纤束411向投射光学器件412发送电磁辐射的空间图案。如上面关于图1至图3所描述的,所述电磁辐射的频率可以依据所述辐射正在传播通过的(所述末端尖头410和所述目标表面之间的区域)介质而被改变。电磁辐射的所述图案可以通过将具有期望的图案的滑块或格栅(未示出)放置在所述辐射源403和所述导管部分401中的光纤束411之间而被投射到被检查的表面上。电磁辐射的所述图案可以传播通过所述光纤束411,通过所述末端尖头410处的投射光学器件412离开,并且投射到所述目标表面上。
所述空间辐射信号可以从所述目标表面反射回到所述末端尖头410,并且成像光学器件413可以捕捉所反射的信号(其通过与所述表面的交互而被调制)。所捕捉的反射图像可以经由光纤束411而被从成像光学器件413传输至照相机404,并且随后被传输至控制器系统(未示出,但是与图1的控制器系统106相似)。该控制器系统可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用来数学地重建目标表面的3-D形状。
此外,内窥镜400可以被用来通过移动所述内窥镜400通过给定的通道而构建病人的身体中的长通道(例如,胃肠通道)的全视野表面图。当内窥镜400正被引导通过给定的通道时,可以通过将在由照相机404捕捉的每个视频帧期间收集的3-D数据缝合在一起而生成连续的全视野表面图。所述3-D数据可以使用以软件、硬件或软件和硬件的组合实现的本领域中已知的算法而被缝合在一起。以此方式,可以不断地数字式地发展和记录所述装置正在其中行进的腔的精确3-D模型。因此,本发明的实施例可以提供病人的胃肠通道的内部的连续的实时3-D表示。这样的方法也可以被用于可能没有被静止的内窥镜捕捉到的其他内部器官。
图4C示出了根据本发明的导管部分420的另一个实施例,所述导管部分420具有末端421和电气和数据引线425。末端421可以包括末端尖头422,所述末端尖头422具有成像光学器件424(相似于图4B中的成像光学器件413)和电磁辐射发射器423。电磁辐射发射器423可以被模制到末端尖头422上并且可以投射所述空间辐射信号(相似于上面关于图1至图4B描述的信号)。发射器423可以包含灯、图案滑块和透镜(未示出,但是下面在图5中被描述),并且可以在电力经由电气和数据引线425而被提供给其时将空间图案投射到目标表面上。因此,没有对外部电磁辐射源(相似于图4中的源403)的需求,因为发射器423可能能够本地地生成辐射图案并将它们投射到目标表面上。
导管部分420可以被单独地使用、被集成至内窥镜装置(相似于图4A的内窥镜400,但是可能没有所述辐射源403)的工作腔中或者通过该工作腔,并且可以使用上面所描述的SSM技术。在操作期间,发射器423可以经由电气和数据引线425接收电力并且随后根据空间信号调制算法将空间电磁辐射图案投射到目标表面上。被用来投射所述空间图案的电磁辐射的频率可以依据所述辐射正在传播通过的介质而被改变(如先前所描述的)。
所述空间辐射信号可以从所述目标表面反射回到所述末端尖头422,并且成像光学器件424可以捕捉所反射的信号(其通过与所述表面的交互而被调制)。所捕捉的反射图像可以经由电气和数据引线425而被从成像光学器件424传输至照相机(未示出,但是相似于图4A中的照相机404),并且随后被传输至控制器系统(未示出,但是与图1的控制器系统106相似)。该控制器系统可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用来数学地重建目标表面的所述3-D形状。
将具有末端421的导管部分420集成到内窥镜装置中的本发明的实施例也可以被用来通过移动所述内窥镜通过给定的通道而构建病人的身体中的长通道(例如,胃肠通道)的全视野表面图(相似于关于图4A至4B描述的实施例)。当所述内窥镜正被引导通过给定的通道时,可以通过将根据被包含在由所述照相机捕捉的每个视频帧中的信息计算的3-D信息缝合在一起而生成连续的全视野表面图。
图5示出了可以与根据本发明的实施例的上面关于图4C描述的内窥镜集成的末端500的详细的横截面视图。末端500可以包括灯501、图案滑块502、照明透镜503、成像传感器504和成像透镜505。
灯501、图案滑块502和照明透镜503可以形成电磁辐射发射器(没有特别地被标记,但是与图4C中的发射器423相似),该电磁辐射发射器能够根据空间信号调制算法将辐射的图案投射到目标表面上。被用来投射所述空间图案的所述电磁辐射的频率可以依据所述辐射正在传播通过的介质而被改变(如先前所描述的)。在操作期间,灯501可以经由电引线506而从电源(未示出)接收电力并且通过图案滑块502和照明透镜503将电磁辐射投射到目标表面上。
所述空间辐射信号可以通过成像透镜505从所述目标表面反射回到所述末端500,并且成像传感器504可以捕捉所反射的信号(其通过与所述表面的交互而被调制)。所捕捉的反射图像可以经由数据引线507而被从成像传感器504传输至控制器系统(未示出,但是与图1的控制器系统106相似)。该控制器系统可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用来数学地重建目标表面的所述3-D形状。
图6示出了根据本发明的实施例的内窥镜胶囊600。图6包括胶囊600的横截面视图(在左侧)和俯视图(在右侧)。胶囊600可以是能够被病人摄取的小的维他命药丸大小的胶囊。所述胶囊600可以实施上面所描述的SSM技术来生成通过传统的内窥镜检查难以到达的人的消化道的表面的全视野3-D表示。
胶囊600可以包括成像包610、电磁辐射包620、电源和电子器件630、无线发射器640、以及透明的保护罩650。所述罩650可以是能够在胶囊600正流动通过病人的消化道时保护胶囊600中的装置的外壳。成像包610可以包括成像光学器件612(例如,透镜)和成像传感器614。
胶囊600可以以与上面所描述的实施例相似的方式操作,然而,胶囊600可以在本地经由电源和电子器件630而被供电,所述电源和电子器件630可以例如包括电池。此外,胶囊600可以使用无线发射器640将捕捉的图像数据传输至位于病人的身体外部的图像处理模块(未示出,但是与图1的控制器系统106相似)。天线模块(未示出)可以被放置在所述病人的皮肤上以有助于从所述胶囊至所述图像处理模块的数据传输。
在操作期间,病人可以摄取行进通过该病人的消化道用于测量目的的胶囊600。当胶囊600正行进通过所述病人的消化道时,电磁辐射包620(其可以包括相似于图4C的电磁辐射发射器423的发射器)可以通过电源和电子器件630而被供电,以将空间电磁辐射图案恒定地投射在其路径中的表面上。被用来投射所述空间图案的所述电磁辐射的频率可以依据所述辐射正在传播通过的介质(例如,可见频率的透明气体和清澈的流体)而被改变(如先前所描述的)。
所述空间辐射信号可以从所述目标表面反射回到所述成像光学器件(所述信号可以通过与所述表面的交互而被调制)。成像传感器614可以捕捉所反射的图像并且经由无线接口640将它们从所述胶囊600传输至图像处理模块(未示出,但是与图1的控制器系统106相似)。该图像处理模块可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用来数学地重建所述目标表面的所述3-D形状。
通过将在由图像传感器614捕捉的每个视频帧期间收集的3-D数据缝合在一起,当所述胶囊600正在病人的消化道中行进时,由胶囊600捕捉的反射图像可以被用于构建所述消化道的全视野表面图。以此方式,可以不断地数字式地发展和记录所述装置正在其中行进的腔的精确3-D模型。胶囊600可以通过蠕动而非主动地大体上往前移动或者选择性地被电磁式地推进/引导。
图7A和7B示出了根据本发明的实施例的导管插入探针700的两个视图。所述探针700可以在导管插入手术期间被采用以在正常功能期间定量地检查结构或者例如以检测和测量冠状动脉中的血小板和堵塞。所述导管插入探针700可以包括导管部分701、辐射源702(相似于图4A的辐射源403)、辐射传感器703、和末端704。所述辐射源702和所述辐射传感器703可以在所述导管部分701的一端上被连接至所述导管部分701,并且所述末端704可以在所述导管部分701的另一端上被连接至所述导管部分701。在其他实施例中,辐射源702和所述辐射传感器703可以两者都位于导管部分701的与末端704相对的端部处,辐射源702和所述辐射传感器703可以两者都位于导管部分701的在末端704处的端部处,或者辐射源702和所述辐射传感器703可以位于导管部分701的相对端处。
导管部分701可以是柔性轴,并且可以包括光纤束711和末端704。所述末端704可以包括末端尖头710,所述末端尖头710具有投射光学器件712和成像光学器件713。所述投射光学器件712和成像光学器件713可以各自包括用以聚焦由所述探针700使用的辐射的透镜。光纤束711可以将辐射源702连接至所述投射光学器件712以有助于从辐射源702到投射光学器件712的电磁辐射的传输。光纤束711也可以将辐射传感器703连接至成像光学器件713以有助于由成像光学器件713捕捉的成像数据向辐射传感器703的传输。
导管插入探针700可以使用上面关于图1至图6描述的SSM技术生成血管解剖结构(诸如心瓣、冠状动脉、或外围血管结构)的全视野3-D表示。在手术期间,所述导管部分701的长的、细的和柔性的轴可以被引入到血管中并且被穿入心脏的目标血管中。所述探针700可以具有足够的扭转刚度以及在所述末端704处的可偏斜的部分(在图7A中示出)以有助于当所述探针700在心血管环境内前进时的扭矩转向。
一旦所述末端704被适当地定向,则所述辐射源702可以经由光纤束711而将电磁辐射的空间图案传输至投射光学器件712。如上面关于图1至图6所描述的,所述电磁辐射的频率可以依据所述辐射正在传播通过的介质(所述末端尖头710和所述目标表面之间的区域)而被改变。电磁辐射的所述图案可以通过将具有期望的图案的滑块或格栅(未示出)放置在所述辐射源702和所述导管部分701中的光纤束711之间而被投射到被检查的表面上。电磁辐射的所述图案可以传播通过所述光纤束711,通过所述末端尖头710处的投射光学器件712而离开,并且投射到所述目标表面上。
所述空间辐射信号可以从所述目标表面反射回到所述末端尖头710,并且成像光学器件713可以捕捉所反射的信号(其通过与所述表面的交互而被调制)。所捕捉的反射图像可以经由光纤束711而被从成像光学器件713传输至辐射传感器703,并且随后被传输至控制器系统(未示出,但是与图1的控制器系统106相似)。该控制器系统可以使用已有的关于各种信号参数的信息来隔离包含所述3-D形状信息的所反射的空间信号的内容。所述形状信息可以被用来数学地重建目标表面的所述3-D形状。
以此方式,可以由位于所述探针700的所述末端尖头710处的测量包(投射光学器件712和成像光学器件713)连续地生成心腔的全视野数字3-D表面图。这些计算机生成的图相组合以形成被研究的腔的内部表面的虚拟环境。此信息可以在显示装置上被在本地呈现给主治的手术室工作人员,或者被远程地发送,产生远程呈现以供位于远离病人处的专家诊断。所述实时3-D模型信息可以被用作血管内的导航辅助,追踪和记录进程和表面结构。一旦位于所述血管或心脏结构内,所述末端尖头710可以被导航至感兴趣的区域并且可以提供功能性解剖结构的精确的、直接的、以及定量的3-D观察。
上面所描述的本发明的实施例提供了用以生成精确的高速3-D表面表示的设备和方法。通过小心地改变被投射到目标表面上的辐射的频率,医生可能能够通过先前被认为是不透明的介质观看。依据所述辐射正在行进通过的介质将发射器-传感器包调整到特定的频率允许复制人体内部和外部两者的3-D表面。
此外,将上面所描述的所述SSM技术与医疗设备(诸如探针、内窥镜、导管、或胶囊)相集成可以使得医生能够生成先前非常难以产生的表面的精确全视野3-D表示。活体内地形测量数据的医疗应用是无数的。通过胃肠通道、心血管通道或支气管通道的基于内窥镜或导管的检查而施用的内部实时3-D感测可以有助于不规则结构、收缩、或生长的检测。根据上面所描述的本发明的实施例的设备和方法对于虚拟活检和肿瘤学方面的早期检测可能是非常有价值的,因为许多癌症可能在所述内部解剖结构的表面上开始。冠状动脉中的血小板狭窄的基于导管的可定量的3-D绘图可以允许心脏病的更好的诊断和斯滕特氏印模膏或其他器具的更好的放置。存在针对上面所描述的技术和设备的很多其他医疗应用。
本领域技术人员可以根据前面的描述理解:本发明可以以多种形式被实现,并且所述各种实施例可以单独地或者组合地被实现。因此,尽管已经结合其特定的例子描述了本发明的所述实施例,本发明的所述实施例和/或方法的真实范围不应被限制于此,因为其他修改将在本领域技术人员研究了附图、说明书和下面的权利要求后变得显而易见。

Claims (27)

1.一种用于全视野三维成像的系统,所述系统包括:
电磁辐射源,所述电磁辐射源被配置为将电磁辐射投射到表面上,所述电磁辐射源被配置为以对应于空间信号调制算法的图案以及以被配置用于邻近所述表面的介质的频率投射所述电磁辐射;
图像传感器,所述图像传感器被配置为捕捉表示所投射的图案的图像数据;
图像处理模块,所述图像处理模块被配置为从所述图像传感器接收所捕捉的图像数据并且使用所捕捉的图像数据和所述空间信号调制算法计算所述表面的全视野三维表示;以及
显示装置,所述显示装置被配置为显示所述表面的所述全视野三维表示。
2.根据权利要求1所述的系统,其中,所述电磁辐射源和所述图像传感器被集成至内窥镜中,所述内窥镜进一步包括柔性的轴部分、仪表端口和灌注模块中的一个或多个。
3.根据权利要求2所述的系统,其中,所述柔性的轴部分包括光纤束,所述光纤束被耦接至所述电磁辐射源并且被配置为携载来自所述电磁辐射源的电磁辐射。
4.根据权利要求2所述的系统,其中,所述柔性的轴部分包括一个或多个被配置为向所述电磁辐射源传输电力的电引线。
5.根据权利要求2所述的系统,其中,所述灌注模块包括:
用以提供液体或空气的通道;以及
用以去除液体或空气的抽吸通道。
6.根据权利要求1所述的系统,其中,所述电磁辐射源和图像传感器被集成至内窥镜胶囊中,所述内窥镜胶囊进一步包括:
天线模块;
无线电模块,所述无线电模块被配置为使用所述天线模块将所捕捉的图像数据传输至所述图像处理模块;以及
电池模块,所述电池模块被配置为提供电力。
7.根据权利要求1所述的系统,其中,所述电磁辐射源和所述图像传感器被集成至包括柔性的轴部分的导管中。
8.根据权利要求1所述的系统,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉液体介质中的图像数据的频率投射电磁辐射。
9.根据权利要求1所述的系统,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉气体介质中的图像数据的频率投射电磁辐射。
10.一种用于全视野三维成像的设备,所述设备包括:
电磁辐射源,所述电磁辐射源被配置为将电磁辐射投射到表面上,所述电磁辐射源被配置为以对应于空间信号调制算法的图案以及以被配置用于邻近所述表面的介质的频率投射所述电磁辐射;
图像传感器,所述图像传感器被配置为捕捉表示所投射的图案的图像数据;以及
与图像处理模块的一个或多个连接,所述图像处理模块被配置为从所述图像传感器接收所捕捉的图像数据并且使用所捕捉的图像数据和所述空间信号调制算法计算所述表面的全视野三维表示。
11.根据权利要求10所述的设备,其中,所述电磁辐射源和所述图像传感器被集成至内窥镜中,所述内窥镜进一步包括柔性的轴部分、仪表端口和灌注模块中的一个或多个。
12.根据权利要求11所述的设备,其中,所述柔性的轴部分包括光纤束,所述光纤束被耦接至所述电磁辐射源并且被配置为携载来自所述电磁辐射源的电磁辐射。
13.根据权利要求11所述的设备,其中,所述柔性的轴部分包括一个或多个被配置为向所述电磁辐射源传输电力的电引线。
14.根据权利要求11所述的设备,其中,所述灌注模块包括:
用以提供液体或空气的通道;以及
用以去除液体或空气的抽吸通道。
15.根据权利要求10所述的设备,其中,所述电磁辐射源和图像传感器被集成至内窥镜胶囊中,所述内窥镜胶囊进一步包括:
天线模块;
无线电模块,所述无线电模块被配置为使用所述天线模块将所捕捉的图像数据传输至所述图像处理模块;以及
电池模块,所述电池模块被配置为提供电力。
16.根据权利要求10所述的设备,其中,所述电磁辐射源和所述图像传感器被集成至包括柔性的轴部分的导管中。
17.根据权利要求10所述的设备,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉液体介质中的图像数据的频率投射电磁辐射。
18.根据权利要求10所述的设备,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉气体介质中的图像数据的频率投射电磁辐射。
19.一种用于全视野三维成像的方法,所述方法包括:
将电磁辐射源从电磁辐射发射器模块投射到表面上,所述电磁辐射发射器模块被配置为以对应于空间信号调制算法的图案以及以被配置用于邻近所述表面的介质的频率投射电磁辐射;
由图像传感器捕捉表示所投射的图案的图像数据;
将所捕捉的图像数据提供至图像处理模块;
由所述图像处理模块的处理器使用所捕捉的图像数据和所述空间信号调制算法计算所述表面的全视野三维表示;以及
在显示装置上显示所述表面的所述全视野三维表示。
20.根据权利要求19所述的方法,其中,所述电磁辐射源和所述图像传感器被集成至内窥镜中,所述内窥镜包括柔性的轴部分、仪表端口和灌注模块中的一个或多个。
21.根据权利要求20所述的方法,其中,所述柔性的轴部分包括光纤束,所述光纤束被耦接至所述电磁辐射源并且被配置为携载来自所述电磁辐射源的电磁辐射。
22.根据权利要求20所述的方法,其中,所述柔性的轴部分包括一个或多个被配置为向所述电磁辐射源传输电力的电引线。
23.根据权利要求20所述的方法,其中,所述灌注模块包括:
用以提供液体或空气的通道;以及
用以去除液体或空气的抽吸通道。
24.根据权利要求19所述的方法,其中,所述电磁辐射源和图像传感器被集成至内窥镜胶囊中,所述内窥镜胶囊包括:
天线模块;
无线电模块,所述无线电模块被配置为使用所述天线模块将所捕捉的图像数据传输至所述图像处理模块;以及
电池模块,所述电池模块被配置为提供电力。
25.根据权利要求19所述的方法,其中,所述电磁辐射源和所述图像传感器被集成至包括柔性的轴部分的导管中。
26.根据权利要求19所述的方法,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉液体介质中的图像数据的频率投射电磁辐射。
27.根据权利要求19所述的方法,其中,所述电磁辐射源被配置为使用能够使得所述图像传感器捕捉气体介质中的图像数据的频率投射电磁辐射。
CN201480026823.XA 2013-03-14 2014-03-11 全视野三维表面测量 Pending CN105377109A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/830477 2013-03-14
US13/830,477 US9456752B2 (en) 2013-03-14 2013-03-14 Full-field three-dimensional surface measurement
PCT/US2014/023285 WO2014168705A1 (en) 2013-03-14 2014-03-11 Full-field three dimensional surface measurement

Publications (1)

Publication Number Publication Date
CN105377109A true CN105377109A (zh) 2016-03-02

Family

ID=51530494

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480026823.XA Pending CN105377109A (zh) 2013-03-14 2014-03-11 全视野三维表面测量

Country Status (10)

Country Link
US (3) US9456752B2 (zh)
EP (2) EP3434171B1 (zh)
JP (1) JP2016518156A (zh)
KR (1) KR20150132166A (zh)
CN (1) CN105377109A (zh)
AU (1) AU2014251322B2 (zh)
BR (1) BR112015022344A2 (zh)
CA (1) CA2904861C (zh)
IL (1) IL241196A0 (zh)
WO (1) WO2014168705A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105996961A (zh) * 2016-04-27 2016-10-12 安翰光电技术(武汉)有限公司 基于结构光的3d立体成像胶囊内窥镜系统及方法
CN109171616A (zh) * 2018-08-07 2019-01-11 重庆金山医疗器械有限公司 获得被测物内部3d形状的系统及方法
CN115143929A (zh) * 2022-03-28 2022-10-04 南京大学 一种基于光纤束的内窥测距仪

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9456752B2 (en) 2013-03-14 2016-10-04 Aperture Diagnostics Ltd. Full-field three-dimensional surface measurement
EP3125809B1 (en) 2014-03-28 2020-09-09 Intuitive Surgical Operations, Inc. Surgical system with haptic feedback based upon quantitative three-dimensional imaging
WO2015149046A1 (en) * 2014-03-28 2015-10-01 Dorin Panescu Quantitative three-dimensional imaging of surgical scenes from multiport perspectives
JP2017517355A (ja) 2014-03-28 2017-06-29 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 定量的3次元イメージング及び手術用インプラントのプリント
JP2017518147A (ja) 2014-03-28 2017-07-06 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術シーンの定量的三次元撮像
CN111184577A (zh) 2014-03-28 2020-05-22 直观外科手术操作公司 器械在视野中的定量三维可视化
US20160143541A1 (en) * 2014-11-20 2016-05-26 Bin He System and Method For Acousto-Electromagnetic Neuroimaging
CN105662325B (zh) * 2014-11-24 2023-05-16 上海安清医疗器械有限公司 电子喉镜
WO2018152066A1 (en) 2017-02-14 2018-08-23 Ototechnologies Corp. Ear canal modeling using pattern projection
BR112020012594A2 (pt) * 2017-12-27 2020-11-24 Ethicon Llc imageamento hiperespectral em um ambiente com deficiência de luz
US11312025B2 (en) * 2019-04-02 2022-04-26 Ford Global Technologies, Llc Robotic arm with a detachable and mobile end-effector
US11624830B2 (en) 2019-06-20 2023-04-11 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for laser mapping imaging
US11412920B2 (en) 2019-06-20 2022-08-16 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11389066B2 (en) 2019-06-20 2022-07-19 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11012599B2 (en) 2019-06-20 2021-05-18 Ethicon Llc Hyperspectral imaging in a light deficient environment
US11986160B2 (en) 2019-06-20 2024-05-21 Cllag GmbH International Image synchronization without input clock and data transmission clock in a pulsed hyperspectral imaging system
US11924535B2 (en) 2019-06-20 2024-03-05 Cila GmbH International Controlling integral energy of a laser pulse in a laser mapping imaging system
US11716543B2 (en) 2019-06-20 2023-08-01 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for fluorescence imaging
US11700995B2 (en) 2019-06-20 2023-07-18 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11516387B2 (en) 2019-06-20 2022-11-29 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11102400B2 (en) 2019-06-20 2021-08-24 Cilag Gmbh International Pulsed illumination in a fluorescence imaging system
US11134832B2 (en) 2019-06-20 2021-10-05 Cilag Gmbh International Image rotation in an endoscopic hyperspectral, fluorescence, and laser mapping imaging system
US11141052B2 (en) * 2019-06-20 2021-10-12 Cilag Gmbh International Image rotation in an endoscopic fluorescence imaging system
US11758256B2 (en) 2019-06-20 2023-09-12 Cilag Gmbh International Fluorescence imaging in a light deficient environment
US11550057B2 (en) 2019-06-20 2023-01-10 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a fluorescence imaging system
US11398011B2 (en) 2019-06-20 2022-07-26 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed laser mapping imaging system
US11671691B2 (en) 2019-06-20 2023-06-06 Cilag Gmbh International Image rotation in an endoscopic laser mapping imaging system
US11898909B2 (en) 2019-06-20 2024-02-13 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11412152B2 (en) 2019-06-20 2022-08-09 Cilag Gmbh International Speckle removal in a pulsed hyperspectral imaging system
US11457154B2 (en) 2019-06-20 2022-09-27 Cilag Gmbh International Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11892403B2 (en) 2019-06-20 2024-02-06 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed fluorescence imaging system
US11471055B2 (en) 2019-06-20 2022-10-18 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11589819B2 (en) 2019-06-20 2023-02-28 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a laser mapping imaging system
US11288772B2 (en) 2019-06-20 2022-03-29 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11266304B2 (en) 2019-06-20 2022-03-08 Cilag Gmbh International Minimizing image sensor input/output in a pulsed hyperspectral imaging system
US11540696B2 (en) 2019-06-20 2023-01-03 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11096565B2 (en) 2019-06-20 2021-08-24 Cilag Gmbh International Driving light emissions according to a jitter specification in a hyperspectral, fluorescence, and laser mapping imaging system
US11280737B2 (en) 2019-06-20 2022-03-22 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US12013496B2 (en) 2019-06-20 2024-06-18 Cilag Gmbh International Noise aware edge enhancement in a pulsed laser mapping imaging system
US11276148B2 (en) 2019-06-20 2022-03-15 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11172811B2 (en) 2019-06-20 2021-11-16 Cilag Gmbh International Image rotation in an endoscopic fluorescence imaging system
US11895397B2 (en) 2019-06-20 2024-02-06 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed fluorescence imaging system
US11903563B2 (en) 2019-06-20 2024-02-20 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a fluorescence imaging system
US11931009B2 (en) 2019-06-20 2024-03-19 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a hyperspectral imaging system
US11432706B2 (en) 2019-06-20 2022-09-06 Cilag Gmbh International Hyperspectral imaging with minimal area monolithic image sensor
US11793399B2 (en) 2019-06-20 2023-10-24 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral imaging system
US20200397270A1 (en) 2019-06-20 2020-12-24 Ethicon Llc Optical fiber waveguide in an endoscopic system for fluorescence imaging
US11622094B2 (en) 2019-06-20 2023-04-04 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for fluorescence imaging
US11925328B2 (en) 2019-06-20 2024-03-12 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral imaging system
US11633089B2 (en) 2019-06-20 2023-04-25 Cilag Gmbh International Fluorescence imaging with minimal area monolithic image sensor
US10841504B1 (en) 2019-06-20 2020-11-17 Ethicon Llc Fluorescence imaging with minimal area monolithic image sensor
US11533417B2 (en) 2019-06-20 2022-12-20 Cilag Gmbh International Laser scanning and tool tracking imaging in a light deficient environment
US11674848B2 (en) 2019-06-20 2023-06-13 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for hyperspectral imaging
US11612309B2 (en) 2019-06-20 2023-03-28 Cilag Gmbh International Hyperspectral videostroboscopy of vocal cords
US11937784B2 (en) 2019-06-20 2024-03-26 Cilag Gmbh International Fluorescence imaging in a light deficient environment
US10952619B2 (en) 2019-06-20 2021-03-23 Ethicon Llc Hyperspectral and fluorescence imaging and topology laser mapping with minimal area monolithic image sensor
US20210030594A1 (en) * 2019-07-29 2021-02-04 Acclarent, Inc. Protective sheath for ear canal
CN111184497B (zh) * 2020-04-08 2020-07-17 上海安翰医疗技术有限公司 胶囊内窥镜控制方法及系统
US11187586B2 (en) * 2020-08-17 2021-11-30 SoCal Dab Tools, LLC Temperature sensing system
US11944395B2 (en) 2020-09-08 2024-04-02 Verb Surgical Inc. 3D visualization enhancement for depth perception and collision avoidance
TWI803065B (zh) * 2021-11-23 2023-05-21 醫電鼎眾股份有限公司 方便組裝的內視鏡鏡頭組合

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5581352A (en) * 1994-09-22 1996-12-03 Zeien; Robert Phase shifting device with selectively activated grating generator
US6134003A (en) * 1991-04-29 2000-10-17 Massachusetts Institute Of Technology Method and apparatus for performing optical measurements using a fiber optic imaging guidewire, catheter or endoscope
US6832984B2 (en) * 1997-08-21 2004-12-21 Paul Stelzer Minimally invasive surgery device
US20050168735A1 (en) * 2003-01-24 2005-08-04 Boppart Stephen A. Nonlinear interferometric vibrational imaging
US20060270929A1 (en) * 2005-05-31 2006-11-30 The General Hospital Corporation System, method and arrangement which can use spectral encoding heterodyne interferometry techniques for imaging
CN101264002A (zh) * 2008-05-06 2008-09-17 中国科学院上海光学精密机械研究所 基于光栅投影的三维内窥测量装置和方法
CN101716077A (zh) * 2009-12-03 2010-06-02 西交利物浦大学 基于无线胶囊内视镜或视频内窥镜体内摄像的图像处理方法及其系统
CN102575928A (zh) * 2009-05-15 2012-07-11 德固萨有限责任公司 用于对对象进行三维测量的方法以及测量装置
CN102725688A (zh) * 2009-07-10 2012-10-10 Isee3D有限公司 使用单成像路径生成三维图像信息的方法和装置
CN202714941U (zh) * 2012-07-27 2013-02-06 艾博莱特(苏州)科技有限公司 一种新型光学三维图像成像装置

Family Cites Families (90)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4641972A (en) 1984-09-14 1987-02-10 New York Institute Of Technology Method and apparatus for surface profilometry
US5016173A (en) * 1989-04-13 1991-05-14 Vanguard Imaging Ltd. Apparatus and method for monitoring visually accessible surfaces of the body
US5487012A (en) 1990-12-21 1996-01-23 Topholm & Westermann Aps Method of preparing an otoplasty or adaptive earpiece individually matched to the shape of an auditory canal
US5363839A (en) 1992-09-21 1994-11-15 Jedmed Instrument Company Video otoscope
US5587832A (en) 1993-10-20 1996-12-24 Biophysica Technologies, Inc. Spatially light modulated confocal microscope and method
ATE192275T1 (de) 1993-12-03 2000-05-15 Terumo Corp Stereoskopisches bildanzeigesystem
US6579285B2 (en) 1994-09-09 2003-06-17 Cardiofocus, Inc. Photoablation with infrared radiation
US5615003A (en) * 1994-11-29 1997-03-25 Hermary; Alexander T. Electromagnetic profile scanner
US7734061B2 (en) 1995-06-07 2010-06-08 Automotive Technologies International, Inc. Optical occupant sensing techniques
US6475138B1 (en) 1995-07-12 2002-11-05 Laser Industries Ltd. Apparatus and method as preparation for performing a myringotomy in a child's ear without the need for anaesthesia
JPH0961132A (ja) 1995-08-28 1997-03-07 Olympus Optical Co Ltd 3次元形状計測装置
US5847832A (en) * 1996-03-15 1998-12-08 Hughes Aircraft Company Moire topographic measurement
US6026173A (en) 1997-07-05 2000-02-15 Svenson; Robert H. Electromagnetic imaging and therapeutic (EMIT) systems
US5984861A (en) 1997-09-29 1999-11-16 Boston Scientific Corporation Endofluorescence imaging module for an endoscope
US7492398B1 (en) 1998-09-29 2009-02-17 Minolta Co., Ltd Three-dimensional input apparatus and image sensing control method
US6178346B1 (en) 1998-10-23 2001-01-23 David C. Amundson Infrared endoscopic imaging in a liquid with suspended particles: method and apparatus
US6084712A (en) * 1998-11-03 2000-07-04 Dynamic Measurement And Inspection,Llc Three dimensional imaging using a refractive optic design
US6503195B1 (en) 1999-05-24 2003-01-07 University Of North Carolina At Chapel Hill Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction
US8900219B2 (en) 1999-07-14 2014-12-02 Cardiofocus, Inc. System and method for visualizing tissue during ablation procedures
IL135571A0 (en) * 2000-04-10 2001-05-20 Doron Adler Minimal invasive surgery imaging system
US7625335B2 (en) 2000-08-25 2009-12-01 3Shape Aps Method and apparatus for three-dimensional optical scanning of interior surfaces
US7616986B2 (en) * 2001-05-07 2009-11-10 University Of Washington Optical fiber scanner for performing multimodal optical imaging
US6695779B2 (en) 2001-08-16 2004-02-24 Siemens Corporate Research, Inc. Method and apparatus for spatiotemporal freezing of ultrasound images in augmented reality visualization
IL153510A0 (en) * 2001-12-18 2003-07-06 Given Imaging Ltd Device, system and method for capturing in-vivo images with three-dimensional aspects
AU2003253626A1 (en) 2002-06-07 2003-12-22 University Of North Carolina At Chapel Hill Methods and systems for laser based real-time structured light depth extraction
US6954663B2 (en) * 2003-01-07 2005-10-11 Art Advanced Research Technologies Inc. Continuous wave optical imaging assuming a scatter-law
US7153299B1 (en) * 2003-02-24 2006-12-26 Maxwell Sensors Inc. Optical apparatus for detecting and treating vulnerable plaque
US7747067B2 (en) 2003-10-08 2010-06-29 Purdue Research Foundation System and method for three dimensional modeling
US20050088435A1 (en) 2003-10-23 2005-04-28 Z. Jason Geng Novel 3D ear camera for making custom-fit hearing devices for hearing aids instruments and cell phones
EP1691666B1 (en) 2003-12-12 2012-05-30 University of Washington Catheterscope 3d guidance and interface system
US7751694B2 (en) 2004-02-13 2010-07-06 Angstrom, Inc. Three-dimensional endoscope imaging and display system
US7742232B2 (en) 2004-04-12 2010-06-22 Angstrom, Inc. Three-dimensional imaging system
US7462175B2 (en) 2004-04-21 2008-12-09 Acclarent, Inc. Devices, systems and methods for treating disorders of the ear, nose and throat
US8050746B2 (en) 2005-02-02 2011-11-01 Voyage Medical, Inc. Tissue visualization device and method variations
US7846107B2 (en) 2005-05-13 2010-12-07 Boston Scientific Scimed, Inc. Endoscopic apparatus with integrated multiple biopsy device
JP2009523574A (ja) * 2006-01-18 2009-06-25 ザ ジェネラル ホスピタル コーポレイション 1つ又は複数の内視鏡顕微鏡検査法を使用してデータを生成するシステム及び方法
US20120035434A1 (en) 2006-04-12 2012-02-09 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Control of a lumen traveling device in a body tube tree
GB0613576D0 (en) 2006-07-10 2006-08-16 Leuven K U Res & Dev Endoscopic vision system
US20110057930A1 (en) 2006-07-26 2011-03-10 Inneroptic Technology Inc. System and method of using high-speed, high-resolution depth extraction to provide three-dimensional imagery for endoscopy
US7728868B2 (en) 2006-08-02 2010-06-01 Inneroptic Technology, Inc. System and method of providing real-time dynamic imagery of a medical procedure site using multiple modalities
JP2008173397A (ja) * 2007-01-22 2008-07-31 Olympus Corp 内視鏡システム
EP2626006B1 (en) * 2007-08-14 2019-10-09 Koninklijke Philips N.V. Robotic instrument systems utilizing optical fiber sensors
US8235985B2 (en) 2007-08-31 2012-08-07 Voyage Medical, Inc. Visualization and ablation system variations
US8105233B2 (en) 2007-10-24 2012-01-31 Tarek Ahmed Nabil Abou El Kheir Endoscopic system and method for therapeutic applications and obtaining 3-dimensional human vision simulated imaging with real dynamic convergence
US8509879B2 (en) * 2007-11-06 2013-08-13 The Regents Of The University Of California Apparatus and method for widefield functional imaging (WiFI) using integrated structured illumination and laser speckle imaging
US20090208143A1 (en) * 2008-02-19 2009-08-20 University Of Washington Efficient automated urothelial imaging using an endoscope with tip bending
US7812968B2 (en) 2008-03-05 2010-10-12 Ge Inspection Technologies, Lp Fringe projection system and method for a probe using a coherent fiber bundle
US7821649B2 (en) 2008-03-05 2010-10-26 Ge Inspection Technologies, Lp Fringe projection system and method for a probe suitable for phase-shift analysis
US8422030B2 (en) * 2008-03-05 2013-04-16 General Electric Company Fringe projection system with intensity modulating by columns of a plurality of grating elements
DE102008015499C5 (de) 2008-03-25 2013-01-10 Steinbichler Optotechnik Gmbh Verfahren und Vorrichtung zur Bestimmung der 3D-Koordinaten eines Objekts
JP2009273655A (ja) * 2008-05-14 2009-11-26 Fujifilm Corp 画像処理システム
US20090296980A1 (en) 2008-06-02 2009-12-03 Steven Yi System and Method for Producing a Geometric Model of the Auditory Canal
US8440952B2 (en) 2008-11-18 2013-05-14 The Regents Of The University Of California Methods for optical amplified imaging using a two-dimensional spectral brush
JP2012509720A (ja) 2008-11-24 2012-04-26 グラディアント リサーチ,エルエルシー 軟組織の光熱治療
JP2010179021A (ja) * 2009-02-09 2010-08-19 Hoya Corp 医療用内視鏡
JP4857393B2 (ja) 2009-06-10 2012-01-18 オリンパスメディカルシステムズ株式会社 カプセル型内視鏡装置
US7995214B2 (en) 2009-07-28 2011-08-09 Siemens Medical Instruments Pte. Ltd. Apparatus and method for recording the shape of an ear section
GB0915491D0 (en) 2009-09-04 2009-10-07 Univ Keele Electromagnetic tomography apparatuses and methods
EP2568870B1 (en) * 2010-03-30 2018-05-02 3Shape A/S Scanning of cavities with restricted accessibility
US8780182B2 (en) 2010-03-31 2014-07-15 Raytheon Company Imaging system and method using partial-coherence speckle interference tomography
US8930145B2 (en) 2010-07-28 2015-01-06 Covidien Lp Light focusing continuous wave photoacoustic spectroscopy and its applications to patient monitoring
US8876707B2 (en) 2010-09-03 2014-11-04 Alexander Wellen Hand-held ear vacuum with camera and video display
DE102010050227A1 (de) * 2010-11-04 2012-05-10 Siemens Aktiengesellschaft Endoskop mit 3D-Funktionalität
US8447099B2 (en) 2011-01-11 2013-05-21 Eastman Kodak Company Forming 3D models using two images
WO2012115983A1 (en) * 2011-02-21 2012-08-30 Parmar Jaywant Philip Optical endoluminal far-field microscopic imaging catheter
KR101223283B1 (ko) 2011-03-08 2013-01-21 경북대학교 산학협력단 진단 및 디스플레이 일체형 광 단층 촬영 검이경
EP2527784A1 (de) 2011-05-19 2012-11-28 Hexagon Technology Center GmbH Optisches Messverfahren und Messsystem zum Bestimmen von 3D-Koordinaten auf einer Messobjekt-Oberfläche
US9254103B2 (en) * 2011-08-15 2016-02-09 The Trustees Of Dartmouth College Operative microscope having diffuse optical imaging system with tomographic image reconstruction and superposition in field of view
US8900125B2 (en) 2012-03-12 2014-12-02 United Sciences, Llc Otoscanning with 3D modeling
WO2013136620A1 (ja) * 2012-03-14 2013-09-19 独立行政法人産業技術総合研究所 高次元輝度情報を用いた縞画像の位相分布解析方法、装置およびそのプログラム
DE102012223691A1 (de) 2012-12-19 2014-06-26 Heine Optotechnik Gmbh & Co Kg Otoskop mit abwerfbarem Ohrtrichter
US9398287B2 (en) 2013-02-28 2016-07-19 Google Technology Holdings LLC Context-based depth sensor control
US9456752B2 (en) * 2013-03-14 2016-10-04 Aperture Diagnostics Ltd. Full-field three-dimensional surface measurement
US20140375784A1 (en) 2013-06-21 2014-12-25 Omnivision Technologies, Inc. Image Sensor With Integrated Orientation Indicator
US9867528B1 (en) 2013-08-26 2018-01-16 The Board Of Trustees Of The University Of Illinois Quantitative pneumatic otoscopy using coherent light ranging techniques
US20150097968A1 (en) 2013-10-09 2015-04-09 United Sciences, Llc. Integrated calibration cradle
US20150098636A1 (en) 2013-10-09 2015-04-09 United Sciences, Llc Integrated tracking with fiducial-based modeling
US9326668B1 (en) 2014-08-15 2016-05-03 Wisconsin Alumni Research Foundation Otoscope providing improved ear canal access
US11298013B2 (en) 2014-12-31 2022-04-12 Tyto Care Ltd. Apparatus and methods for performing body imaging
US10966614B2 (en) * 2015-01-18 2021-04-06 Dentlytec G.P.L. Ltd. Intraoral scanner
US20160374546A1 (en) 2015-06-25 2016-12-29 Wisconsin Alumni Research Foundation Otoscope Providing Multi-Directional Illumination
US11576567B2 (en) 2015-06-25 2023-02-14 Wisconsin Alumni Research Foundation Otoscope providing low obstruction electronic display
WO2017019805A1 (en) 2015-07-30 2017-02-02 Massachusetts Institute Of Technology Systems and methods for a short wave infrared device
JP2017034656A (ja) 2015-08-04 2017-02-09 ソニー・オリンパスメディカルソリューションズ株式会社 医療用撮像装置、医療用画像取得システム及び内視鏡装置
US10874333B2 (en) 2015-09-15 2020-12-29 Massachusetts Institute Of Technology Systems and methods for diagnosis of middle ear conditions and detection of analytes in the tympanic membrane
US10178483B2 (en) 2015-12-30 2019-01-08 Earlens Corporation Light based hearing systems, apparatus, and methods
KR102531976B1 (ko) 2016-02-05 2023-05-12 삼성전자주식회사 전자장치, 휴대단말기 및 그 제어방법
US10401141B2 (en) 2016-12-01 2019-09-03 The Board Of Trustees Of The University Of Illinois Method and apparatus for obtaining a three-dimensional map of tympanic membrane thickness
WO2018113885A1 (en) * 2016-12-20 2018-06-28 3Dintegrated Aps A 3 d sensor system comprising an optical transmitter device, a detector and a computer system
US10561309B2 (en) 2016-12-21 2020-02-18 Massachusetts Institute Of Technology Methods and apparatus for imaging and 3D shape reconstruction

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6134003A (en) * 1991-04-29 2000-10-17 Massachusetts Institute Of Technology Method and apparatus for performing optical measurements using a fiber optic imaging guidewire, catheter or endoscope
US5581352A (en) * 1994-09-22 1996-12-03 Zeien; Robert Phase shifting device with selectively activated grating generator
US6832984B2 (en) * 1997-08-21 2004-12-21 Paul Stelzer Minimally invasive surgery device
US20050168735A1 (en) * 2003-01-24 2005-08-04 Boppart Stephen A. Nonlinear interferometric vibrational imaging
US20060270929A1 (en) * 2005-05-31 2006-11-30 The General Hospital Corporation System, method and arrangement which can use spectral encoding heterodyne interferometry techniques for imaging
CN101264002A (zh) * 2008-05-06 2008-09-17 中国科学院上海光学精密机械研究所 基于光栅投影的三维内窥测量装置和方法
CN102575928A (zh) * 2009-05-15 2012-07-11 德固萨有限责任公司 用于对对象进行三维测量的方法以及测量装置
CN102725688A (zh) * 2009-07-10 2012-10-10 Isee3D有限公司 使用单成像路径生成三维图像信息的方法和装置
CN101716077A (zh) * 2009-12-03 2010-06-02 西交利物浦大学 基于无线胶囊内视镜或视频内窥镜体内摄像的图像处理方法及其系统
CN202714941U (zh) * 2012-07-27 2013-02-06 艾博莱特(苏州)科技有限公司 一种新型光学三维图像成像装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105996961A (zh) * 2016-04-27 2016-10-12 安翰光电技术(武汉)有限公司 基于结构光的3d立体成像胶囊内窥镜系统及方法
CN105996961B (zh) * 2016-04-27 2018-05-11 安翰光电技术(武汉)有限公司 基于结构光的3d立体成像胶囊内窥镜系统及方法
CN109171616A (zh) * 2018-08-07 2019-01-11 重庆金山医疗器械有限公司 获得被测物内部3d形状的系统及方法
CN115143929A (zh) * 2022-03-28 2022-10-04 南京大学 一种基于光纤束的内窥测距仪

Also Published As

Publication number Publication date
CA2904861A1 (en) 2014-10-16
AU2014251322B2 (en) 2018-08-16
EP3434171B1 (en) 2021-05-19
US20160367123A1 (en) 2016-12-22
US9456752B2 (en) 2016-10-04
EP2967289A4 (en) 2016-11-30
JP2016518156A (ja) 2016-06-23
US11503991B2 (en) 2022-11-22
EP2967289B1 (en) 2018-11-14
EP2967289A1 (en) 2016-01-20
US10575719B2 (en) 2020-03-03
WO2014168705A1 (en) 2014-10-16
AU2014251322A1 (en) 2015-09-24
CA2904861C (en) 2021-08-10
IL241196A0 (en) 2015-11-30
EP3434171A1 (en) 2019-01-30
US20140276093A1 (en) 2014-09-18
BR112015022344A2 (pt) 2017-07-18
US20200187764A1 (en) 2020-06-18
KR20150132166A (ko) 2015-11-25

Similar Documents

Publication Publication Date Title
CN105377109A (zh) 全视野三维表面测量
US7343036B2 (en) Imaging method for a capsule-type endoscope unit
US20210243425A1 (en) Optical imaging system and methods thereof
US20160073854A1 (en) Systems and methods using spatial sensor data in full-field three-dimensional surface measurement
KR101572487B1 (ko) 환자와 3차원 의료영상의 비침습 정합 시스템 및 방법
CN100399978C (zh) 内窥镜系统
US10402992B2 (en) Method and apparatus for endoscope with distance measuring for object scaling
US20070161854A1 (en) System and method for endoscopic measurement and mapping of internal organs, tumors and other objects
CN108430373A (zh) 用于在患者体内跟踪内窥镜的位置的装置和方法
CN105377138B (zh) 用于制作复合现实三维影像的系统
WO2015056106A2 (en) Endoscope having disposable illumination and camera module
JP2005334331A (ja) カプセル投薬システム
CN114983317A (zh) 用于胃肠道中的胶囊相机的行进距离测量的方法及装置
Pahlavan et al. A novel cyber physical system for 3-D imaging of the small intestine in vivo
WO2018140062A1 (en) Method and apparatus for endoscope with distance measuring for object scaling
CN107492145A (zh) 一种空间真实姿态的内窥三维重建技术
Ozyoruk et al. Quantitative evaluation of endoscopic slam methods: Endoslam dataset
US20230389892A1 (en) Devices, systems, and methods for automated delay detection between medical-imaging devices
Vedaei A hybrid localization method for Wireless Capsule Endoscopy (WCE)
JP2018153345A (ja) 内視鏡位置特定装置、方法およびプログラム
Zhou Hardware Prototyping and Algorithm Development for Endoscopic Vision Systems
Trujillo-Hernández et al. Optical 3D Scanning System in Medical Applications
WO2023232678A1 (en) Navigation in hollow anatomical structures
CN118680504A (zh) 基于三维云建模的支气管双目医疗内窥镜系统及其应用
Soper A navigation system for an ultrathin scanning fiber bronchoscope in the peripheral airways

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160302

WD01 Invention patent application deemed withdrawn after publication